OpenAI、10代向けChatGPTを開発中 年齢推定で体験を分離

[ITmedia]

　米OpenAIは9月16日（現地時間）、10代の若者向けに「異なるChatGPT体験」を開発していると発表した。年齢予測技術を使って18歳未満の子どもを標準版から除外する計画という。

　この発表は、AIチャットボットがもたらす潜在的な害について調査する公聴会がワシントンD.C.で開催される数時間前に行われた。この公聴会では、超党派の議員団が10代の若者に対するチャットボットのリスクを検討した。前の週には米連邦取引委員会（FTC）が、OpenAIを含む複数の企業に情報提供を求め、チャットボットの安全性に関する調査を開始している。

「AIチャットボットの害を検証する」公聴会が開催された

　OpenAIは、18歳未満のユーザーとそうでないユーザーを区別するため、ChatGPTの利用状況に基づいて年齢を推定するシステムを構築していると説明した。年齢に疑義がある場合や情報が不完全な場合は、初期設定を18歳未満向けの体験とし、場合によっては年齢確認が可能なIDを要求することもあるとしている。

　18歳未満のユーザーには、性的描写コンテンツのブロックや、創造的な文章作成の場であっても自殺や自傷行為に関する議論を行わないといった、年齢に応じたポリシーが適用される。また、未成年ユーザーが自殺を考えている兆候が見られた場合は、まず保護者に連絡を試み、連絡が取れない場合は当局に連絡する措置を講じるとしている。これに加え、保護者が子供のアカウントを管理し、チャット履歴や記憶機能の無効化、深夜の使用禁止時間設定、緊急事態発生時の通知受信などを可能にするペアレンタルコントロール機能も導入される予定だ。

　サム・アルトマンCEOはこの決定について、10代の安全性、自由、プライバシーという原則が互いに矛盾する中で下されたものであると説明した。同氏は、AIとの会話は個人的な内容になることが多く、医師や弁護士との会話と同様に高いレベルのプライバシー保護が必要であると考えており、この点を政策立案者に提唱していると説明。同時に、ユーザーには安全性の広範な範囲内でツールを自由に使ってほしいと願っており、モデルがより制御可能になるにつれてユーザーの自由度を高める努力をしていると語った。アルトマン氏は、誰もが同社の解決策に同意するわけではないことを認識しており、専門家との協議を経て意図を透明にしたいとしている。