　Webサイトの閲覧履歴や購買履歴等のパーソナルデータをコンピュータが分析し、その人の趣味嗜好や能力、健康状態や行動などを自動で予測することをプロファイリングといいます（※1）。プロファイリングは、本件のような採用活動だけでなく、個人向け融資の審査、マーケティング、さらに米国の一部の州では裁判官の量刑評価にも用いられています（※2）。

※1: GDPRでは、プロファイリングは「自然人と関連する一定の個人的側面を評価するための、特に、当該自然人の業務遂行能力、経済状態、健康、個人的嗜好、興味関心、信頼性、行動、位置及び移動に関する側面を分析又は予測するための、個人データの利用によって構成される、あらゆる形式の、個人データの自動的な取扱い」と定義されている（GDPR4条4項）

※2:「COMPAS」と呼ばれるNorthpointe 社の構築した再犯リスク評価システム

プロファイリングの問題点とは（内定辞退率の場合）

　プロファイリングは、AIなどのコンピュータが、個人の閲覧履歴等のパーソナルデータをもとに評価・判断するため、「AIがなぜそのように評価・判断したのか」という判断基準や判断過程が不透明である問題点があります。

　特に深層学習（ディープラーニング）では、データをどのような基準で評価するかの重み付けをAI自身が行うため、「なぜこの結論に至ったのか」という判断基準や判断過程が人間には分からない部分があります。

　例えば内定辞退率の場合、AIが、当該学生のいかなるデータ（例えばどのサイトをどの程度閲覧していたかなど）を重視した結果、内定辞退率の高低を算出するに至ったのか、人間には分からない場合も考えられます。

　学生からすれば、根拠も不明確なまま「あなたの内定辞退率は〇％」とラベルを貼られれば、不安や不満を感じるのは当然ではないでしょうか（さらに本件では、内定辞退率とのラベルが貼られて採用企業に提供されていた事実すら伝えられていなかった）。

　「内定辞退率データは採用活動には用いられていない」とのことですが、学生がその企業に入社した後も、勤務先企業が自分の内定辞退率データを保持し続けているとすれば、どのように感じるでしょうか。

　企業が内定辞退率データをどのように利用するか（採用時のみならず、入社後の退職可能性の推認や昇給昇格の判断の参考にされる可能性を物理的に否定することは難しい）を学生側はコントロールできない以上、やはり本件は個人データ取得時に先だって、事前に学生に対して十分な説明がされたうえで、適切な同意を得て行われるべきビジネスモデルであったと感じます。