「ChatGPT」に緊急連絡先機能「Trusted Contact」登場 自殺リスク検知で通知
米OpenAIは5月7日(現地時間)、「ChatGPT」にオプションの安全機能「Trusted Contact」を追加すると発表した。これにより、成人ユーザーはメンタルヘルスや安全に関する懸念事項について、緊急連絡先を指定できるようになる。対象となるのは、18歳以上(韓国では19歳以上)で個人用のChatGPTアカウントを持つユーザーだ。現時点では「Business」「Enterprise」「Edu」などの共有ワークスペースのプランでは利用できない。
OpenAIはこの機能追加について、ユーザーが精神的な苦痛を抱えた際、AIの枠組みの中だけで孤立させるのではなく、現実世界のケアや人間関係につなげることを目指す安全方針に基づくと説明した。社会的つながりは自殺リスクを低減する強力な保護要因であり、ユーザーが事前に信頼できる人物を指定しておくことで、最も助けが必要な時に現実のサポートへアクセスしやすくなるよう設計したという。
システムの仕組みは、AIと人間のレビュアーによる段階的な構成となっている。まず、ChatGPTの自動監視システムが、ユーザーの会話から自殺や自傷行為に関する深刻な安全上の懸念を検知すると、システムがユーザーに「連絡先に通知する可能性がある」旨を伝える。その後、専門のトレーニングを受けたレビュアーが状況を評価し、実際に深刻な懸念があると判断した場合にのみ、ユーザーが指定した連絡先へメールやSMSで安否確認を促す短い通知が送られる。なお、ユーザーのプライバシーを保護するため、会話の詳細やチャット履歴が連絡先に共有されることはない。
設定は、ChatGPTの「設定」メニューから「Trusted Contact」に進み、選んだ連絡先を登録する。登録できる連絡先は1つだけで、相手のメールアドレスの入力が必須となっており、電話番号の追加も強く推奨されている。招待状が送られた後、相手が1週間以内に承認すると機能が有効になる。OpenAIは、機能を設定する前に、相手とどのようなサポートが必要になるか事前に話し合っておくことを推奨している。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
GMO、ランサム被害にあった顧客に新しいPC提供へ 犯行グループは1人の顧客情報公開か
-
2
NECのルータ「Aterm」、PHP脆弱性の影響なし 設定画面URLの「.php」は無関係
-
3
GMO、不正アクセス実行犯の手がかりに懸賞金 1億5000万円規模
-
4
「楽天トラベル」に不正アクセス 顧客情報最大約260万件など流出か 予約者約3.6万件のクレカ情報も
-
5
GMO、攻撃者の公開情報に「アクセスは絶対に控えて」 悪質な拡散者には法的措置を準備
-
6
Google、プライバシーポリシーに「Gmail」「Googleフォト」のデータを広告に使う例外を追加 回避方法は
-
7
メアドを検索→AIで“その人専用フィッシングメール”を生成する手法、クリック率が約2.7倍に 7000人以上で実験
-
8
「自分の個人情報が漏えいした……どうすれば?」 IPAが対処法公開
-
9
タイムズカー、お見舞金3000円の算定基準は? パーク24に聞いた
-
10
GMO不正アクセス、犯人側は「27日に顧客のPC攻撃」予告 GMOが端末回収、ホワイトハッカーが解析中
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR