子どもの「ChatGPT」利用、保護者が管理する機能実装　時間制限や自傷行為の予防も

　米OpenAIは9月29日（現地時間）、ChatGPTにペアレンタルコントロール機能を導入した。保護者が子どものアカウントをリンクさせ、暴力コンテンツや性的コンテンツなどの表示を制限したり、利用時間を設定したりできる。

　OpenAIは今後数カ月かけて、ユーザーが18歳未満かどうかを予測し、子ども用設定を自動適用するシステムを構築する予定。それまでの間はペアレンタルコントロールで子どもの安全を守ってほしいとしている。

　保護者は自身のアカウントの設定画面から、子どものアカウントのメールアドレスに招待を送信してアカウントを接続。子どもが承認すれば、保護者のアカウントから子どもの設定を管理できる。

　リンクされた子どものアカウントでは、性的・恋愛・暴力的なやりとり、危険なチャレンジ、極端な美意識に関する内容など過激なコンテンツが抑制される。保護者は設定をオフにできるが、子ども自身は変更できない。

　ChatGPTを使えない時間帯を指定したり、音声モードをオフにしたり、メモリ保存をオフにしたり、画像生成機能を無効化したり、モデル学習へのオプトアウトの設定もできる。

　また、10代のユーザーが自傷行為を考えている可能性を検知する通知システムも導入した。システムが危険を検知すると、専門訓練を受けた少人数チームが状況を確認。深刻な兆候がある場合は保護者にメールやテキストメッセージ、プッシュ通知で警告を送る。

　ペアレンタルコントロールの使い方や、子どもの学習に便利な機能などを説明する保護者向けページもオープンした。

この記事の著者

関連記事

• 

  OpenAI、10代向けChatGPTを開発中　年齢推定で体験を分離

• 

  中学生の2人に1人が「画像・動画生成AI」を使ったことがある　ニフティ調査

• 

  10代は「ChatGPTで検索」が4割、Yahoo! JAPAN上回る――検索の生成AI利用、実態は？　CA調査

• 

  生成AI利用率、10代が最多　「勉強のサポート」目的　利用サービスは「ChatGPT」が圧倒