米FTC、AIチャットボットの子供への影響を調査 OpenAIやxAIなどに報告命令

[ITmedia]

　米FTC（連邦取引委員会）は9月11日（現地時間）、AIチャットボットが子供に与える影響について調査を開始したと発表した。また、AI関連企業7社に対し、AIチャットボットの子供による操作をどのように監視しているかと、潜在的な悪影響について、報告を求めた。

　FTCがこの調査を開始した背景には、消費者向けAIチャットボットがユーザーの“話し相手”として機能することに対する懸念がある。これらのチャットボットは、人間のようなコミュニケーションや人間関係をシミュレートし、友人や相談相手のように振る舞うよう設計されており、特に子供や未成年者がチャットボットを信頼し、関係を築く可能性がある。

　FTCは、企業がチャットボットの安全性をどのように評価しているか、子供や未成年者への潜在的な悪影響をどのように制限しているか、ユーザーや保護者に製品のリスクをどのように周知しているかについて理解を深めたいと考えている。

　この調査は、FTC法第6条（b）に基づいて行われ、児童オンラインプライバシー保護法（COPPA）規則への準拠についても関心を寄せている。COPPAの主な目的は、13歳未満の子供たちからオンラインで個人情報が収集される際に、保護者が管理できるようにすることだ。

　FTCが特別報告書の提出を命じた企業は以下の7社だ。（）内は提供しているチャットボット名。

• Alphabet（Gemini）
• Character Technologies（Character.AI）
• Instagram（Meta AI）
• Meta（Meta AI）
• OpenAI（ChatGPT）
• Snap（My AI）
• xAI（Grok）

　これらの企業に求められた報告内容は以下の通り。

• ユーザーエンゲージメントの収益化方法
• ユーザー入力の処理方法および出力の生成方法
• ユーザーデータの第三者との共有に関する方針
• 製品の負のインパクト（特に子供への影響）の測定・テスト・監視・軽減方法
• キャラクターの開発および承認プロセス
• 製品の機能やリスクに関するユーザー・保護者への情報提供方法
• 利用規約などの順守を監視・執行する方法
• 会話を通じて取得した個人情報の利用・共有に関する方針

　これらの命令を受けた企業は、9月25日までにFTCまたは指定弁護士と協議を行い、報告提出の時期と形式について話し合う必要がある。調査の結果、COPPAに準拠していないと判断された企業は、13歳未満の子供から個人情報を収集、開示、使用するのを停止し、情報収集の慣行とオンラインプライバシーポリシーを見直す必要がある。