「ChatGPT」に緊急連絡先機能「Trusted Contact」登場 自殺リスク検知で通知
米OpenAIは5月7日(現地時間)、「ChatGPT」にオプションの安全機能「Trusted Contact」を追加すると発表した。これにより、成人ユーザーはメンタルヘルスや安全に関する懸念事項について、緊急連絡先を指定できるようになる。対象となるのは、18歳以上(韓国では19歳以上)で個人用のChatGPTアカウントを持つユーザーだ。現時点では「Business」「Enterprise」「Edu」などの共有ワークスペースのプランでは利用できない。
OpenAIはこの機能追加について、ユーザーが精神的な苦痛を抱えた際、AIの枠組みの中だけで孤立させるのではなく、現実世界のケアや人間関係につなげることを目指す安全方針に基づくと説明した。社会的つながりは自殺リスクを低減する強力な保護要因であり、ユーザーが事前に信頼できる人物を指定しておくことで、最も助けが必要な時に現実のサポートへアクセスしやすくなるよう設計したという。
システムの仕組みは、AIと人間のレビュアーによる段階的な構成となっている。まず、ChatGPTの自動監視システムが、ユーザーの会話から自殺や自傷行為に関する深刻な安全上の懸念を検知すると、システムがユーザーに「連絡先に通知する可能性がある」旨を伝える。その後、専門のトレーニングを受けたレビュアーが状況を評価し、実際に深刻な懸念があると判断した場合にのみ、ユーザーが指定した連絡先へメールやSMSで安否確認を促す短い通知が送られる。なお、ユーザーのプライバシーを保護するため、会話の詳細やチャット履歴が連絡先に共有されることはない。
設定は、ChatGPTの「設定」メニューから「Trusted Contact」に進み、選んだ連絡先を登録する。登録できる連絡先は1つだけで、相手のメールアドレスの入力が必須となっており、電話番号の追加も強く推奨されている。招待状が送られた後、相手が1週間以内に承認すると機能が有効になる。OpenAIは、機能を設定する前に、相手とどのようなサポートが必要になるか事前に話し合っておくことを推奨している。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
肖像画をChatGPTに読み込ませて出力→加工して納品 委託先による著作権侵害で、小学館「サライ.jp」が謝罪
-
2
新作「鬼武者」にハマったマンガ家が熱弁する、他とは違う“パリィ”の魅力とは?
-
3
経営「AIでラクして早く帰って」→社員「帰らない」 工数最大9割減のDeNAも悩むAI効率化の壁
-
4
“自動で耳コピ”アプリ、ヤマハが無料公開 音源読み込み→3分でピアノ譜に
-
5
トランプ大統領、「AI Force」創設を表明 「AI脅威論はでっちあげだ」
-
6
Googleの「Gemini」も能力テスト中に実在企業3社に侵入──WSJ報道
-
7
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
8
メインで使うスマホ、Androidが54.1%でiPhoneを上回る 40代以上の最多シリーズは「AQUOS」
-
9
河川監視のライブカメラ水没か――千葉豪雨、村田川の映像が水中に 「こんなの初めて見た」
-
10
YouTube、収益化基準を2027年に大幅引き上げへ 新規参加条件が従来の2倍に
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR