Facebook、違反コンテンツ検出AI強化でいじめ検出率85％向上
米Facebookの年次開発者会議「F8 2019」の2日目、5月2日（現地時間）の基調講演は、例年通りAI、AR／VRについてだった。
マイク・シュローファーCTO（最高技術責任者）は、Facebook上の多様な問題に対処するために使っているAIツールなどについて語った。
F8基調講演に登壇するマイク・シュローファーCTO
ポリシー違反コンテンツの検出について、自然言語処理（NLP）とコンピュータビジョン（CV）での取り組みを紹介した。
データの少ない言語の投稿もチェックできる共有多言語埋め込みスペース
Facebookではポリシー違反投稿検出のために機械学習システムを採用しているが、これまで、データの少ない言語での検出が困難だった（Facebookはかつてミャンマー語が解析できずロヒンギャ問題ですぐに対処できなかった）。
この問題に対処するため、一種の共通語として機能する共有多言語埋め込みスペースを開発。クロスリンガルの事前トレーニング作業で、追加の言語ラベル付きトレーニングデータなしに、複数言語での違反コンテンツ検知が可能になったとしている。
ポリシー違反画像検出に役立つ「Panoptic FPN」
画像検出のための、従来の「DeepMask」などの技術は人物や物体など、前景のオブジェクトの識別は得意だが、背景の解析は苦手だった。
「Panoptic FPN」（パノラマ的特徴ピラミッドネットワーク）というオブジェクト認識の新たなアプローチを使って、単一のニューラル上で前景用タスクと背景用タスクを同時に実行することに成功。これにより、解析時間が大幅に短縮でき、ポリシー違反画像の検出が改善された。
「Panoptic FPN」
ハッシュタグ利用の機械学習動画解析と“顕著性サンプラーシステム”
この手法は動画にも使えるが、動画では一連のフレームを構成する多数のイメージとそのシーケンスで表される動きも考慮する必要があり、動画全体の解析には時間がかかる。そこで、問題のありそうなフレームを検知する“saliency sampler（顕著性サンプラー）”システムを開発した。
saliency sampler
このシステムを、昨年のF8で発表したInstagramのハッシュタグ付き画像を使った画像認識モデルのトレーニングデータの解析に使うことで、動画の解析精度が向上したという。
既に実用化しており、このシステムにより、いじめの検出率が約85％上がったとしている。
AIのサンプルの偏りを是正する取り組みなども紹介する基調講演全体は以下のYouTubeで視聴できる。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
メルカリ、梨の転売疑惑に「盗品の出品は確認されず」 誹謗中傷には利用制限も
-
2
「こんなのに追われたら……」急斜面もやすやす爆走、中国製の車輪付き四足ロボのデモ動画が話題 最高時速20km超
-
3
検索結果に「詐欺ではありません」と表示させる詐欺手口、警視庁が注意喚起 AI要約も餌食に
-
4
はてな、11億円流出の調査報告書を公開 偽警察、口外禁止、残業・休出200時間超、孤立……ほころびが連鎖
-
5
Z世代に聞く次の流行、「AIイラスト」が1位に 「Claude Code」も上位
-
6
東野圭吾さん死去、Xなどで追悼相次ぐ 「ガリレオ」など数々の人気作、エンジニアから転身
-
7
NVIDIAやMicrosoftなど30社超、オープンAIの防御ツール共同開発の「Open Secure AI Alliance」設立
-
8
「あ、その情報メモしたい！」を叶えるワイヤレスイヤフォン、Nothing「Ear (3a)」
-
9
有識者はGoogleやX、Meta、ドワンゴを名指しで批判……総務省、偽広告や誹謗中傷に発信・拡散前の対策求める
-
10
暑さ対策が熱い！ 「猛暑対策展」で感じた、転んでもただでは起き上がらない日本人のエネルギー
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR