OpenAI、AIとメンタルヘルスに関する専門家協議会「Expert Council on Well-Being and AI」設立

» 2025年10月15日 10時15分公開

[ITmedia]

　米OpenAIは10月14日（現地時間）、ChatGPTとSoraがユーザーのメンタルヘルスや感情、モチベーションにどのように影響するかについての知見を提供する8人の専門家で構成する「Expert Council on Well-Being and AI」（以下、「協議会」）の設立を発表した。

　メンバーは、テクノロジーが人間に与える影響について「数十年にわたって研究してきた一流の研究者や専門家」という。オックスフォード大学のアンドリュー・プリズビルスキー教授や、ボストン小児病院デジタルウェルネスラボの研究者、デビッド・ビックハム博士などが名を連ねる。この協議会の役割は、OpenAIに助言し、疑問を投げ、ユーザーにとってのAIとの健全な交流を定義することとしている。

メンバーの1人、デビッド・ビックハム博士（画像：ボストン小児病院）

　OpenAIは、AIとの交流で自殺した未成年者の問題などについての懸念が高まる中、ここ数カ月、安全管理体制を拡大してきた。9月には一連のペアレンタルコントロール機能の提供を開始している。

ChatGPTのペアレンタルコントロール設定画面

　米連邦取引委員会（FTC）は9月、ChatGPTのようなAIチャットボットが未成年者に悪影響を与える可能性について、OpenAIを含む複数のAI関連企業に対し、調査を開始した。

　OpenAIは、「自らが下した決定に対して責任を負い続けるが、この協議会、Global Physician Network、政策立案者などから学び続けていく」としている。

OpenAIのアルトマンCEO、4o風の“人間らしい”新モデルと「エロティカ」解禁を予告
OpenAIのサム・アルトマンCEOは、12月から年齢確認を伴う“成人向け”機能を段階的に導入するとXで発表した。人間らしい応答の新モデルを先行リリース後、成人確認済みユーザーにエロティカなどを解禁する。メンタルヘルス配慮で強めた制限を、リスク軽減が進んだとして安全に緩和する方針としている。
子どもの「ChatGPT」利用、保護者が管理する機能実装　時間制限や自傷行為の予防も
ChatGPTにペアレンタルコントロール機能。保護者が子どものアカウントをリンクさせ、暴力コンテンツや性的コンテンツなどの表示を制限したり、利用時間を設定したりできる。
OpenAI、10代向けChatGPTを開発中　年齢推定で体験を分離
OpenAIは、10代向けChatGPTを開発中と発表した。年齢推定技術で18歳未満を分け、コンテンツブロックや保護者管理機能など安全策を導入する計画だ。規制当局による調査が強まる中での発表となった。
米FTC、AIチャットボットの子供への影響を調査　OpenAIやxAIなどに報告命令
米FTCが、AIチャットボットの子供への影響に関する調査を開始した。OpenAIやxAIなど7社に対し、安全性やデータ収集に関する報告を命令した。特にプライバシー保護法COPPAへの準拠を注視しており、違反があれば利用停止を求める可能性がある。
OpenAI、ChatGPTにペアレンタルコントロール導入へ精神的苦痛にあるユーザーへの介入も強化
OpenAIはChatGPTの安全対策を強化し、青少年や精神的苦痛を抱える人々を保護する新機能を2025年末までに展開すると発表した。10月にはペアレンタルコントロールも導入する。危機的状況の検出を改善し、介入を拡大することで、脆弱な立場にある利用者を支援するとしている。