メディア
ITmedia AI+ >

セキュリティ・プライバシー

AI利用の際に気をつけるべきセキュリティやプライバシー保護を紹介。

news049.jpg
Innovative Tech:

米Cornell Tech、イスラエル工科大学、米Intuitに所属する研究者らは、生成AIが組み込まれたアプリケーションを攻撃するマルウェアを提案した研究報告を発表した。

(4月5日 08時00分)
news144.jpg

米議会下院が職員に対し、米Microsoftの生成AI支援機能「Copilot」の使用を禁止したことが分かった。米ネットメディア「Axios」が報じた。

(4月1日 17時58分)
news069.jpg
この頃、セキュリティ界隈で:

米OpenAIの「ChatGPT」やGoogleの「Gemini」など、主要生成AIの弱点や脆弱性が次々に発覚している。

(3月22日 08時00分)
news054.jpg
Innovative Tech:

イスラエルのネゲヴ・ベン・グリオン大学に所属する研究者らは、大規模言語モデル(LLM)を活用したAIチャットbotが生成するテキスト回答を復元するサイドチャネル攻撃を提案した研究報告を発表した。

(3月21日 08時00分)
news026.jpg
生成AI 動き始めた企業たち:

名古屋鉄道は法人向けChatGPTサービスを導入。これまでにグループ400人が利用。業務削減効果は1000時間超を達成した。先端技術を活用し、従来の業務をどのように変革しているのか。

(3月18日 07時00分)
news044.jpg

生成AIチャットbot「Microsoft Copilot for Security」はセキュリティ業務にどう生かせるのだろうか。早期プログラムを実践した企業が実際に役に立ったポイント、立たなかったポイントを語った。

(3月13日 07時00分)
news064.jpg
Innovative Tech:

米ワシントン大学などに所属する研究者らは、大規模言語モデル(LLM)がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク(脱獄)攻撃を提案した研究報告を発表した。

(3月7日 08時00分)
news062.jpg
セキュリティソリューション:

Cloudflareは大規模言語モデルを悪用から保護するための「Firewall for AI」を開発していると発表した。今後数カ月以内にβ版を提供する予定だ

(3月7日 08時00分)
news122.jpg

あいおいニッセイ同和損害保険とAI開発を行うArchaicは、「生成AI専用保険」の提供を3月から始めると発表した。Archaicが開発した生成AIを利用した企業で情報漏えいや知的財産権の侵害などが発生した場合、企業が負担する費用を負担する。

(2月29日 11時21分)
news045.jpg
セキュリティニュースアラート:

調査からアプリケーションのソースコードの約7割に脆弱性が含まれていることが明らかになった。また、生成AIが書いたソースコードにも脆弱性が含まれているケースがあるようだ。

(2月26日 07時00分)
news156.jpg

クリスタに画像生成AIが搭載する予定はない──イラスト作成ソフト「CLIP STUDIO PAINT」(クリスタ)を販売するセルシスは、そんな声明をX上に投稿した。

(2月22日 14時20分)
news098.jpg

SIerのNDIソリューションズ(東京都港区)の生成AIサービスが稼働するパブリッククラウド環境に不正アクセスがあった。ユーザーアカウントと暗号通貨のマイニング用と思しきインスタンスが不正に作成されていたという。

(2月21日 12時12分)
news072.png
セキュリティニュースアラート:

最新の研究でLLMがWebサイトを自動的にハッキングできることが明らかになった。自律的なWebサイトハッキングの可能性が実証され、防御と攻撃のバランスに影響を与える可能性がある。

(2月21日 11時30分)
news040.jpg
CFO Dive:

生成AIツールの普及に伴い、偽のテキストや電子メール、ディープフェイクボイスの大規模な生成が可能になった今、最先端技術を使用したサイバー犯罪が横行している。

(2月21日 07時00分)