読者です 読者をやめる 読者になる 読者になる

未来はキミドリイロ

サイコメトリックアイドルを目指す心理学徒の勉強部屋です。勉強・趣味などについて書いています。

van der Linden & Lewis(2015).カンニングを事後オッズで

van der Linden, W.J., & Lewis, C(2015).Bayesian checks on cheating tests. Psychometrika, 80, 689-706.

カンニングを統計的に発見する,という方法論があることを知らなかったのでなかなか新鮮でした。

背景

アメリカではNo Child Behind Left政策が打ち出されて以後,教員の評価においても生徒の成績が加味されるようになったそうで,生徒の成績を上げられない教員は最悪クビなんだとか。
そのため,日本でカンニングといったときにすぐ浮かんでくる,生徒間での見せ合いや盗み見といったものだけでなく,教員によるカンニングも見られるそうです。
教員のカンニングというと,たとえば回収した答案の改ざん,試験中に「ここ,もっとよく考えよう」といったアドバイス(これは日本でも目にする?),事前に入手したテスト情報を生徒に教えてしまう,などが挙げられます。
こうしたカンニングに対処するためにテスト会社ではいろいろとがんばってきたようで,今回の論文で取り上げる方法もその一環ということです。

カンニングの種類と対策

4種のカンニング

  1. テスト受験者が他人の回答を写す(copying)
  2. テスト完了後に行われる不正な回答の取り消し修正(fraudulent erasures)
  3. あとから受ける受験者のために,テスト中に項目を覚えようとする
  4. 未公開のテスト項目に関する事前知識

大まかな対策

個々のカンニングへの対処法はいろいろとあるようですが,詳しい情報はこの論文でレビューされていますので,どうぞ原典へ。
ここではほとんどどの方法でも共通している点を大まかな対策としてまとめます。
簡単にいえば,カンニングしたと思しき人(以後コピー者と呼びます)と,カンニングされただろう人(以後,ソースと呼びます)との間で一致した解答について,その数が偶然かそうでないかという統計的検定を行うという対策を取ります。

しかしながら,ソースの項目反応をどのように取り扱うかは昔からずっと課題として残ってきたようですね。
現在出されている3つの取り扱い方は,次のようなものです。

  • ソースの不正解の項目のみに着目する
  • ソースによる反応はすべて所与のものとする
  • すべてランダムなものとする

このうち2番目,3番目を見るに,要はコピー者の反応におけるソースの反応を条件づけるか条件づけないかという問題になり,検定においても条件付けた確率と条件付けない確率のどちらを用いるかで恣意性が残ってしまうことが課題なのでしょう。

これをそもそも回避する方法として,この論文ではベイズアプローチによる事後オッズを用いることが提案されています。
ベイズでは選ぶまでもなくすべての確率が条件付きで表されるため,その点については恣意性が残らないというわけです。

回答コピーにおける事後オッズ

ここでは回答コピーに注目して,運用しやすいよう項目反応モデルとの接続を考えながら,カンニングをしてしまったとう事後オッズを考えますが,ここでは途中に必要となる仮定なり展開なりがあまり省略できず,煩雑になってしまうのでその記述的な性質を述べるの留めます。

提案されている事後オッズについては次の性質があります。

  • コピー者とソースの2人の反応について,一致している部分のみを対象とすればよい(したがって一致していない部分を用いて,コピー者の,チートを含まない能力を推定できうる。
  • ソースの能力には依存しないで推定ができる。
  • 一致した項目のサブセットとして実際にコピーが行われた項目があるはずであり,本来実際コピーをしたサブセットは知ることができない。しかし,この方法では一致した項目における全組み合わせを検討して確率を足し上げるアプローチをとるので,実際にコピーした項目がわからずとも事後オッズを計算できる。
  • しかし,この事後オッズは一致した項目の数の関数なので注意が必要
  • 一致した項目の全組み合わせを考えるので,テスト項目が多くなると爆発的に計算時間がかかる。したがって,全テスト受験者についてルーティン的にチェックするという方法は推奨しない。カンニングの疑いがある生徒について,詳細にチェックするときの方法と言える。

面白いなーと思ったのが,実際にコピーした項目がわからなくても事後オッズを計算できるということでしょうか。
まだまだ知らない,統計と世界とのかかわり方があるんだなぁとしみじみ思いました。

広告を非表示にする