AIで自殺ほのめかしを早期発見──Facebookが世界で開始
米Facebookは11月27日（現地時間）、自殺をほのめかす投稿や「ライブ動画」（以下、まとめて「投稿」）をAI（人工知能）を使って検出して専門対策チームに報告する機能を欧州連合（EU）を除く世界で提供開始したと発表した。
同社は2011年から自殺防止対策に取り組んでおり、問題のある投稿についての報告をFacebookの専門対策チーム（Community Operationsチーム）がレビューし、必要に応じて報告されたユーザーにアドバイスのメッセージを表示している。
報告のあったユーザーに表示するメッセージ
従来は、友達などの第三者からの報告に基づいていた。今後は、AIもパターン認識技術で自殺をほのめかす投稿を検出し、専門チームに報告する。これにより、従来より迅速に自殺の危険のあるユーザーに接触できるようになるとしている。米国では過去1カ月このAIをテストし、その間に100件以上の投稿がチームに報告されたという。
AIがチェックするのは投稿自体だけでなく、コメントも対象だ。例えばライブ動画のコメントに「大丈夫？」「助けが必要？」などのコメントが付くとAIがそれを検出し、報告する。
ライブ動画での通知
FacebookはAIを支援対象の優先度判断にも使う。問題を報告された投稿をパターン認識でさらに解析し、緊急性の高い投稿のレビューを優先するようCommunity Operationsチームに通知する。
また、チームメンバーが個々の投稿のどの部分が問題かを迅速に判断できるよう、例えば動画の場合はコメントが集中している部分を提示する。
Community Operationsチームは年内に7500人以上になる見込みではあるが、この人数で世界中から寄せられた報告に対処している。
FacebookはAI技術の正確性向上と偽陽性回避に努めていくとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
フランスのスーパー数百店舗で冷蔵設備にサイバー攻撃 温度が最高50度に上昇し食品大量廃棄に
-
2
Anthropic、自己複製AIの「兆し」を指摘 55ドルのTVボックス15台で26Bモデルが稼働
-
3
PayPay証券、障害で日本株・ETFが売買できず 14日の予約注文も受付止まる 復旧めど立たず
-
4
国産AI「Sarashina」が無料で試せるWebサイト、ソフトバンク子会社が公開 6つのAIモデルが呼び出せるAPIも
-
5
日本人の大腸がん、約半数に“腸内細菌の毒素”が関与 40歳以下の発症は7割 東大・阪大が200人を全ゲノム解析
-
6
JR東・京急・東武など鉄道7社、「磁気乗車券」廃止へ 27年春から「QR乗車券」に
-
7
はてな、11億円流出の調査報告書を公開 偽警察、口外禁止、残業・休出200時間超、孤立……ほころびが連鎖
-
8
AIが出力した「実在しない判例」を書籍に掲載→回収・絶版へ 琉球大教授が謝罪「研究者としてあるまじき失態」
-
9
初めての一眼にフルサイズを選びたい、でも高くて重いのは嫌……「EOS R8 Mark II」はそういう人のためのミラーレスだった
-
10
情報漏えい深刻化に、東京都がサイバーセキュリティ強化へ 人員増強し関係機関と連携
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR