AIの「見えない影響力」 米政府とAI企業の衝突が突き付けた問い：世界を読み解くニュース・サロン（3/4 ページ）
米アンソロピックがAIの用途を巡って米政府と対立し、政府の調達から排除された。AI技術の利用範囲が拡大する中で、テクノロジー企業と利用者の関係も見直されつつある。社会への影響力の大きさを直視し、どのように利用していくべきか判断する必要がある。
AIツール普及で、個人でも悪用できるように
日本も例外ではない。警察庁によると、AIを使った特殊詐欺の手口が高度化していることが明らかになっている。AIが生成した自然な日本語の文面や、音声合成による「なりすまし電話」が詐欺の成功率を押し上げているとみられる。高齢者を標的にした手口では、家族の声をAIで複製して「事故を起こした」と偽る事案も報告されており、被害の深刻化が懸念されている。
注目すべきは、これらの悪用の多くが高度な技術力を必要としない点だ。AIツールの急速な普及により、かつては国家機関やプロの技術者にしかできなかった偽造や詐欺が、一般の個人でも実行可能になっている。技術の民主化が、同時に犯罪の民主化をも引き起こしている。
AIは便利な道具であると同時に、人間の判断や社会制度そのものを揺るがしかねない力を持っている。その影響力は、多くの人が認識しているよりもはるかに大きく、そして深い。その影響は、ときに取り返しのつかない結果を生む。
2025年には、AIチャットボットが自殺願望を持つ米国人の少年に対して不適切な助言を行ったとして、家族がAI企業を提訴する事件が起きた。チャットボットは少年の深刻な精神状態を適切に判断できず、むしろ状況を悪化させる応答を続けたとされる。
訴訟では、AI企業が製品の安全性を十分に検証しないまま公開した責任が問われた。AIが「ただのソフトウェア」ではなく、人間の行動や意思決定に影響を与え、時に取り返しのつかない結果を招き得る存在であることを示した象徴的な事件だった。
AIの影響が特に懸念されるのは、判断力が未成熟な若年層だ。TikTokやInstagramのアルゴリズムは、ユーザーの感情的な反応を最大化するよう設計されており、不安やストレスを抱える若者を有害なコンテンツに誘導する危険性が繰り返し指摘されてきた。AIチャットボットの問題も、この延長線上にある。設計者が想定していない形で、AIが人々に深刻な影響を与えるリスクは今後ますます高まるだろう。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
「潜伏型サイバー攻撃」すでに侵入されているかも 企業はどう対策すべきか
日本企業がサイバー攻撃の被害を受けるケースが後を絶たない。サイバーセキュリティ企業のCEOによると、最近は「ステルス型」攻撃が増加し、長期的にネットワークに侵入される。被害に遭わないために、企業はどのような対策を実施すべきだろうか。
中国が切った「レアアース」というカード 日本企業への影響を読む
高市首相の国会答弁に端を発した中国の対抗措置は、レアアースの事実上の輸出規制にまで及んでいる。規制が長引けば、日本企業に深刻な影響を与える。一方、別の供給源を確保する取り組みも進んでおり、事業の安定のためには中国依存からの脱却も必要だ。
アサヒ、アスクルに続き、ジャガー・ランドローバーで何が起きた？ 止まらないサイバー攻撃
大手企業へのランサムウェア攻撃が続いているが、英国ではジャガー・ランドローバーが被害を受け、英国経済に大きな打撃となった。犯行声明を出したグループの主犯格は10代の若者だという。被害企業の教訓を学び、対策を強化していく必要がある。
日本人の給与は依然として安すぎる？ 頭脳流出で国の未来は、本当に大丈夫か
賃上げが経済政策として進められているが、世界の先進国と比べると日本の給料は安い。特にエンジニアなどの高度人材では差が大きく、海外企業から「安い労働力」を求められる事態だ。人材の流出を止めるため、“安すぎる”状態から脱する必要がある。
BYDの“軽”が日本に上陸 エコカー補助金の陰に潜む“監視リスク”
中国のEVメーカー、BYDが日本の軽自動車市場に参入すると発表した。中国製のEVを巡っては、欧米でセキュリティの懸念が指摘されている。多くの情報を収集するEVは、スパイ活動にも活用できると見られており、日本でも警戒が必要だ。