Twitter健全性指数の先にあるのは「PSYCHO-PASS」の世界?:ITはみ出しコラム
「会話の健全性」を計測する指標の公募に踏み切ったTwitter。その先にあるのは、アニメ「PSYCHO-PASS サイコパス」に近い世界なのかも。
Twitterが「Twitterにとっての健全性」の定義とその測定値の出し方を募集しています。
Twitter、Facebook、YouTubeなどのソーシャルなサービスは今、嫌がらせや虚偽ニュースの拡散など、難しい問題を抱えています。
現在Twitterは、ルール違反の投稿を削除したり、違反投稿をしたアカウントを停止・削除したりすることで、こうした問題に対処しています。
でも、削除するのが遅くて批判されたり、「なんで私のアカウントを停止するんだ」と批判されたり、「なんでトランプ大統領のアカウントは放置なんだ」と批判されたり、なかなかうまくいっていません。
そこで、誰もが納得する「健全性指数(health metrics)」を設定して、Twitter上の会話(投稿とそれに続くコメントのこと)をその指数に照らして健全かどうかを判断し、対処(それがどういうものなのかはこれから決める)しようということです。
この話を聞いて、アニメ「PSYCHO-PASS サイコパス」を想起した人は多いんじゃないでしょうか。このアニメの舞台は、「人間のあらゆる心理状態や性格的傾向を計測し、それを数値化できる「シビュラシステム」が導入された西暦2112年の日本」で、その計測値を人々は「サイコパス」の俗称で呼んでいます。
この数値が基準内でありさえすれば、快適な生活を送れます。でも、何かの拍子で「色相が濁る」ことがあり、数値が危険域になった人は公安局の担当員に「ドミネーター(正式名称は「携帯型心理診断鎮圧執行システム」)」という測定ツール兼武器で検知・制裁されます。
Twitterの言う健全性指数はこのサイコパスに相当しそうです。Twitterはプチシビュラシステムの構築を目指しているように見えます。大きな違いは、アニメではシビュラシステムの仕組みは極秘でしたが、Twitterはこれをみんなで作って公開しようとしている点です。
健全性指数を決めるのも、それを的確に迅速に適用するのも、なんだか気が遠くなるほど難しそうですが、過去の膨大なツイートのビッグデータを使ってAI(人工知能)でどうにか処理すれば、何とかなるのかもしれません(ものすごくアバウトな希望)。
Twitterのこのアプローチは、米非営利研究団体のCorticoに触発されて考えたそうです。Corticoは、マサチューセッツ工科大学(MIT)メディアラボの研究者たちが、デジタル時代の「健全なパブリック・スフィア(公共圏)」形成を目的に立ち上げました。創立は2016年、米大統領選挙の結果にFacebook、Twitter、Google上の虚偽ニュースが影響したとされた年です。
Corticoは、MITメディアラボが大統領選での情報の問題をTwitterやニュースメディアなどのデータを解析した研究結果から、社会の健全性を測定できればいいんじゃない? AIを駆使すればもしかしてできるかも? と思い付いたそうです。
その出発点として、健全な公共圏の4つの原則「関心の共有」「現実の共有」「意見の多様性」「受容性」を定義しました。
CorticoもTwitterも、健全性を定義するのは簡単ではないことも、下手をすれば息苦しい管理社会につながるかもしれないことも認識しています。
「そんなこと無理に決まってるじゃん」と決めつけるのは簡単ですが、前人未到の領域に踏み出すTwitterを注意深く見守っていきたいです。
関連記事
人工知能の悪用を防ぐために OpenAIの論文が示すリスクとは?
シンギュラリティによってAIが人類を支配する世界がやって来るかどうかはさておき、現時点では人間がAIを悪用するリスクの方が怖そうです。宇宙人が見つからないのは仮想通貨マイニングのせい?
仮想通貨マイニングの需要増によるGPU不足は思わぬところにも影響を及ぼしています。「SNSやネット動画がやめられない」 FacebookやGoogleの関係者が新団体でテクノロジー中毒に警鐘
「テクノロジーは人間の心と社会を乗っ取っている」と警告し、企業に改善を呼び掛ける団体「Center for Humane Technology」が立ち上がりました。設立メンバーは元GooglerやFacebookへの出資者などです。これは分かりやすい 「ネット中立性」問題をハンバーガーに例えた動画が話題に
米連邦通信委員会(FCC)が「ネット中立性」規定の廃止案を承認しましたが、米国でもこれの意味するところにピンと来ていない人は多いようです。そんな中、なぜかハンバーガーチェーンのBurger Kingが立ち上がりました。日本も安心できない? 米大統領選のロシア干渉疑惑にみる「ネット情報工作の現在」
SNSの規約を守って巧妙に行われた情報操作が、徐々に明らかになってきました。Facebook、Amazon、Apple、Google、Microsoft……米IT企業がトランプ大統領の移民政策反対で団結する理由
トランプ米大統領がつぶそうとしている移民関係の取り組み「DACA」。米国の多くの大企業が一致団結して「つぶさないで!」と公開書簡を出しました。大規模ネット障害で実感する“つながらない”心細さ
経路情報の誤設定が原因という今回の大規模ネット障害。つながって当たり前のインターネットが突然使えなくなるのは心細いものです。米国の白人至上主義サイト、締め出した側と受け入れた側の言い分
米バージニア州で極右団体とその反対派が衝突して死傷者が出たことを受け、白人至上主義サイトやそれに関連する差別的発言をネットから締め出す動きが出てきました。
Copyright © ITmedia, Inc. All Rights Reserved.