セキュリティ・プライバシー

グーグル・クラウド・ジャパンとCSAは共同調査結果を発表し、組織の55％が今後1年以内に生成AIソリューションの採用を計画していることを明らかにした。ただし、この結果から、多くの専門家がAI導入に楽観的な姿勢を見せていることが分かった。

米Cornell Tech、イスラエル工科大学、米Intuitに所属する研究者らは、生成AIが組み込まれたアプリケーションを攻撃するマルウェアを提案した研究報告を発表した。

米議会下院が職員に対し、米Microsoftの生成AI支援機能「Copilot」の使用を禁止したことが分かった。米ネットメディア「Axios」が報じた。

米OpenAIの「ChatGPT」やGoogleの「Gemini」など、主要生成AIの弱点や脆弱性が次々に発覚している。

イスラエルのネゲヴ・ベン・グリオン大学に所属する研究者らは、大規模言語モデル（LLM）を活用したAIチャットbotが生成するテキスト回答を復元するサイドチャネル攻撃を提案した研究報告を発表した。

名古屋鉄道は法人向けChatGPTサービスを導入。これまでにグループ400人が利用。業務削減効果は1000時間超を達成した。先端技術を活用し、従来の業務をどのように変革しているのか。

生成AIチャットbot「Microsoft Copilot for Security」はセキュリティ業務にどう生かせるのだろうか。早期プログラムを実践した企業が実際に役に立ったポイント、立たなかったポイントを語った。

米ワシントン大学などに所属する研究者らは、大規模言語モデル（LLM）がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク（脱獄）攻撃を提案した研究報告を発表した。

Cloudflareは大規模言語モデルを悪用から保護するための「Firewall for AI」を開発していると発表した。今後数カ月以内にβ版を提供する予定だ

あいおいニッセイ同和損害保険とAI開発を行うArchaicは、「生成AI専用保険」の提供を3月から始めると発表した。Archaicが開発した生成AIを利用した企業で情報漏えいや知的財産権の侵害などが発生した場合、企業が負担する費用を負担する。

調査からアプリケーションのソースコードの約7割に脆弱性が含まれていることが明らかになった。また、生成AIが書いたソースコードにも脆弱性が含まれているケースがあるようだ。

クリスタに画像生成AIが搭載する予定はない──イラスト作成ソフト「CLIP STUDIO PAINT」（クリスタ）を販売するセルシスは、そんな声明をX上に投稿した。

SIerのNDIソリューションズ（東京都港区）の生成AIサービスが稼働するパブリッククラウド環境に不正アクセスがあった。ユーザーアカウントと暗号通貨のマイニング用と思しきインスタンスが不正に作成されていたという。

最新の研究でLLMがWebサイトを自動的にハッキングできることが明らかになった。自律的なWebサイトハッキングの可能性が実証され、防御と攻撃のバランスに影響を与える可能性がある。

生成AIツールの普及に伴い、偽のテキストや電子メール、ディープフェイクボイスの大規模な生成が可能になった今、最先端技術を使用したサイバー犯罪が横行している。