　こうしたオンライン試験監督ソフトウェアは、Proctorioの他にも多数の製品・サービスが存在しており、COVID-19による（半ば強制的な）教育のオンライン移行が追い風となって、全米各地の教育機関において普及が進んでいる。しかしそれに伴い、監視の精度に対する疑問の声も大きくなっており、オースティン校の学生たちのように明確な抗議活動が行われるケースが生まれている。

　前述の決議文では、反対の理由として、「学生団体の報告によれば、これらのツールは、学生（特に有色人種の学生）が試験に合格するのを困難にする可能性がある」ことを挙げている。これはAIの開発において、AIを学習するために与えた教師データの中に偏りが存在しているのが主な原因だ。

　この問題は今、オンライン試験監督ソフトウェアに限らず、機械学習による顔認識・行動認識技術を使ったソフトやサービスにおいてたびたび指摘されている。

　例えば大量の顔写真をAIに与えて学習させることを考えた場合、さまざまな理由から、集められる顔写真にはマイノリティーのものが少なくなる傾向がある（マジョリティーの人種の方が経済的に恵まれているため、デジタルデータの顔写真が数多く存在している、あるいは開発者の間でもマジョリティーが多数派を占めるため、データが集めやすいなど）。その結果、マイノリティーの人々に対する認識の精度が落ち、AIが誤った判断を下す可能性が高くなってしまうのである。

　同じことは、ADHD（注意欠陥・多動性障害）など、行動上の特徴を伴う障害のある人々の場合にも起こり得る。例えばProctorioの場合、視線がカメラの方を向いているかどうかや、視線が画面から離れる頻度がどのくらいかといった傾向を、不正か否かの判断として利用していると見られる。それが学習に使用した「普通の人々のデータ」の平均値から逸脱していれば、怪しいと判断されるわけだ。

　従って障害のある人々にとっては日常的なしぐさが、不正であるとAIに受け取られてしまうかもしれない。実際にそうした傾向が実在のソフトウェア製品に認められたとする調査結果も出ており、AIにテストの監視を任せることの是非が問われるようになっている。

　既に米イリノイ大学や米ハーバード大学など、オンライン試験監督ソフトウェアの利用を止める、あるいは利用を推奨しない決定を下す教育機関が出てきている。パンデミックという非常事態の中で、オフラインで行われていた活動を急きょオンライン化する過程において、何らかのひずみが生じてしまうのは仕方がない。重要なのは、そうしたひずみをいち早く認識して、訂正のための手段を講じることだろう。

　テレワーカーの監視も、テスト受験者の監視も、今進められているのは「オフライン上でのやり方をオンライン上で実現しようとすること」だといえる。確かにそれが一番分かりやすく、手っ取り早く完了できるような気にさせられる。

　しかし人間を完全に代替し、さらには人間自身も意識していないような差別や偏見を除外したソフトウェアを作るのが難しい以上、単なるプロセスの移植ではひずみの発生を回避できない。オンライン上でのタスクとその評価の実施方法を、ゼロベースで再構築することが、ウィズコロナの時代に向けて求められている。