セキュリティ・プライバシー

「現場でツール開発して課題解決！　属人性のないAI活用事例！」……というだけではなさそう。

さくらインターネットで執行役員兼CIO兼CISOを務める江草陽太氏による生成AI活用術を探る。

生成AIの弱点を突くAIハッキングの手口を研究しているサイバーセキュリティ研究者が、Geminiに不正な文書を読み込ませてユーザーの経歴を書き換えさせる方法を発見し、コンセプト実証動画を公開した。

経済産業省が、AIの利活用において発生する契約上の注意点をまとめたチェックリストを公開した。法務や弁護士、事業部門の担当者などが、サービス提供者に渡すデータの利用範囲や契約上の利益について十分検討できるよう作成したという。

読者から「SNSの“裏アカウント”の特定ができるかやってみてほしい」とするフィードバックがあったので、記者のプライベートな公開アカウントを特定できるか試してみた。

2月3日に発表され、すでにSNSを中心に話題になりつつある、ChatGPTのリサーチ機能「deep research」。自分自身のことを調べてみると──。

ソフトバンクの孫正義氏とOpenAIのサム・アルトマン氏が東京でのイベントで登壇。英ArmのCEOの姿も。イベントの要点を、現地参加した編集長が解説する。

米セキュリティ企業Wizは、中国AIスタートアップDeepSeekについて、AIチャットサービスのチャット履歴などを含むデータが外部から閲覧可能な状態だったと発表した。

Googleは、中国やイランなどの政府支援の脅威アクターによる生成AIの悪用に関する調査結果を公表した。今のところAI固有の攻撃や高度な悪用は確認されていないが、継続的な監視と対策が不可欠だとしている。

中国のAI企業DeepSeekの最新のAIモデル「DeepSeek R1」には深刻な脆弱性があると、セキュリティ企業のKELAが指摘した。同モデルはChatGPTと類似の性能を持つ一方でセキュリティ面では劣っているという。

OpenAIは、米連邦政府向けにカスタマイズした「ChatGPT Gov」を発表した。Microsoftの商用クラウドまたは政府用クラウド上で提供する。

MIXIは新SNS「mixi2」で、「問い合わせを多くいただいていた」という生成AIについての考え方を公表した。

TikTokを運営する中国ByteDanceが、元インターン生に対し訴訟を起こしていると英BBCなど複数メディアが報じている。ByteDanceによると、元インターン生は研究プロジェクトのモデル学習タスクに悪意を持って干渉したという。一方、当のインターン生が干渉により得た計算リソースを自身の研究に優先的に割り振っていたと告発する匿名文書もGitHubに公開されている。さらにその研究が著名な学会で最優秀賞を受賞したこともあり、関係者の注目を集めている。

RAG（検索拡張生成）ベースのAIシステムに誤情報を拡散する新しいサイバー攻撃「ConfusedPilot」が登場した。悪意のあるコンテンツをドキュメントに追加することでAIの応答を通して組織内に誤情報を拡散する。有効な対策はあるか。

コンピュータと人間を区別して不正を防ぐCAPTCHA認証を巡り、スイス・チューリヒ工科大学の研究者が、写真を使ったCAPTCHAをAIに解かせて100％突破することに成功したと発表した。

KDDIは、米Google開発の生成AI「Gemini」を活用した法人向けソリューションの提供を開始した。

2週間の開発、3カ月のPoCで全社展開したWHIの社内向け生成AI「WeiseHub」。どのようにこのスピードで生成AI導入を実現したのか。プロジェクトの第一人者である寺尾拓さんに話を聞いた。

生成AIの普及が進めば進むほど、サイバーセキュリティに対する懸念も高まっている。特に企業にとっては、導入した生成AIが犯す間違いやその不具合が、経営に大きな影響を与える可能性がある。それを防ぐため手段の一つ「レッドチーミング」について考える。

OpenAIは、5月に設立した「安全・セキュリティ委員会」の委員長交代を発表した。サム・アルトマンCEOは委員会から離れ、外部取締役のジコ・コルター教授が委員長に就任する。

YouTubeは、アーティストやクリエイターの歌声や顔を生成AIでコピーし、使用するのを防ぐための新たな2つのAI検出ツールを開発していると発表した。

米連邦政府機関NISTは、米AI大手のOpenAIとAnthropicの両社とAIの安全性に関する契約を結んだと発表した。これにより、NIST傘下のAI安全研究所は両社の主要なモデルを一般公開前にテストできる。

Microsoftは、WindowsのAI機能「Recall」（日本では「リコール」）を、10月のWindows Insiderプログラムで提供すると発表した。当初6月発売の「Copilot+ PC」に搭載予定だったが、セキュリティ上の懸念を受け延期している。

Googleは8月13日（現地時間）、自社イベント「Made by Google」の中で、同社のマルチモーダル生成AI「Gemini Nano」をAndroidスマートフォンの端末内で実行できるようにすると発表した。

OpenAIは、生成AIの最新モデル「GPT-4o」のリリース前に実施した安全対策とリスク評価を概説する文書「System Card」を公開した。レッドチームの評価を元に、OpenAIは「リスクは中程度」と判断したとしている。

OpenAIは、テキストがChatGPTを使って生成したものかどうかを検出する高性能なツールを1年前にほぼ完成させているのに公開していないとWall Street Journalが報じた。この報道後、OpenAIは公式ブログで理由を説明した。

ある調査によれば、2024年のAIの市場規模は全世界で1840億ドルに達し、30年までに8267億ドルとなる見込みだ。一方、生成AIの普及・進化には“学習用データの枯渇”リスクがあるという。そこで解決策として期待されているのが「合成データ」である。

米Appleが、同社純正の生成AIサービス「Apple Intelligence」（以下、Apple AI）のクラウド側実行基盤として「Private Cloud Compute」を発表した。サーバはAppleシリコンで稼働する。

グーグル・クラウド・ジャパンとCSAは共同調査結果を発表し、組織の55％が今後1年以内に生成AIソリューションの採用を計画していることを明らかにした。ただし、この結果から、多くの専門家がAI導入に楽観的な姿勢を見せていることが分かった。

米Cornell Tech、イスラエル工科大学、米Intuitに所属する研究者らは、生成AIが組み込まれたアプリケーションを攻撃するマルウェアを提案した研究報告を発表した。

米議会下院が職員に対し、米Microsoftの生成AI支援機能「Copilot」の使用を禁止したことが分かった。米ネットメディア「Axios」が報じた。