「ChatGPT」に緊急連絡先機能「Trusted Contact」登場 自殺リスク検知で通知
米OpenAIは5月7日(現地時間)、「ChatGPT」にオプションの安全機能「Trusted Contact」を追加すると発表した。これにより、成人ユーザーはメンタルヘルスや安全に関する懸念事項について、緊急連絡先を指定できるようになる。対象となるのは、18歳以上(韓国では19歳以上)で個人用のChatGPTアカウントを持つユーザーだ。現時点では「Business」「Enterprise」「Edu」などの共有ワークスペースのプランでは利用できない。
OpenAIはこの機能追加について、ユーザーが精神的な苦痛を抱えた際、AIの枠組みの中だけで孤立させるのではなく、現実世界のケアや人間関係につなげることを目指す安全方針に基づくと説明した。社会的つながりは自殺リスクを低減する強力な保護要因であり、ユーザーが事前に信頼できる人物を指定しておくことで、最も助けが必要な時に現実のサポートへアクセスしやすくなるよう設計したという。
システムの仕組みは、AIと人間のレビュアーによる段階的な構成となっている。まず、ChatGPTの自動監視システムが、ユーザーの会話から自殺や自傷行為に関する深刻な安全上の懸念を検知すると、システムがユーザーに「連絡先に通知する可能性がある」旨を伝える。その後、専門のトレーニングを受けたレビュアーが状況を評価し、実際に深刻な懸念があると判断した場合にのみ、ユーザーが指定した連絡先へメールやSMSで安否確認を促す短い通知が送られる。なお、ユーザーのプライバシーを保護するため、会話の詳細やチャット履歴が連絡先に共有されることはない。
設定は、ChatGPTの「設定」メニューから「Trusted Contact」に進み、選んだ連絡先を登録する。登録できる連絡先は1つだけで、相手のメールアドレスの入力が必須となっており、電話番号の追加も強く推奨されている。招待状が送られた後、相手が1週間以内に承認すると機能が有効になる。OpenAIは、機能を設定する前に、相手とどのようなサポートが必要になるか事前に話し合っておくことを推奨している。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
Gmail、他社メアドを送信元にできる機能を廃止へ
-
2
個人開発「家系ラーメンマニア」で利用者急増 対応追いつかず一部停止 「より信頼していただけるアプリに」
-
3
「プチプチ」の川上産業、「プチプチ株式会社」に社名変更 創業58年で
-
4
熊本地震で地面がずれた場所、35kmの線状に 衛星データで「変位境界」を判読 国土地理院
-
5
ワークマン、実は画像生成AIを導入していた 間に合わない商品撮影を代替 アプリ通知開封も1.5倍
-
6
東大、60代教授を懲戒処分 サイトのHTMLソースに“不適切な言葉” 「六四天安門」問題が理由と毎日報道
-
7
管理アカウントを手順書に誤記載――東芝テック、顧客情報38万件が特定の1社から閲覧できる状態に
-
8
「高学力=ストレスに耐えられる」ではない 秀才が苦しむ一方、収入・満足度が高いのは…… 医学生・医師1000人超を分析
-
9
「Xであなたをブロックした人が分かる」サイト拡散 ソースコードを見たら、IDとパスワード外部送信
-
10
写真加工アプリ「SNOW」にステマで措置命令 報酬付きでX投稿依頼、広告表示なし 消費者庁
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR