キーワードを探す
検索

「安全対策」関連の最新 ニュース・レビュー・解説 記事 まとめ

最新記事一覧

クラウド偏重のAIによるさまざまな課題が顕在化するにつれ、データが生成される現場でインテリジェンスを発揮させる「エッジAI」の重要性が増している。デル・テクノロジーズは、まずは最適なエッジ環境を構築し、そこからクラウド/データセンターへの接続を検討する「エッジファースト」を提案する。その上で、大規模な初期投資が難しいエッジでは、AI環境をオーケストレーションさせながら、段階的に拡張していくことが重要だと語った。

()

Kasperskyは、Geminiを狙うプロンプトインジェクション攻撃の研究結果と対策を紹介した。攻撃シミュレーションでは、予定表招待やSMSに隠した命令でGeminiに家の窓を開けさせたりZoom通話を始めさせたりできた他、長期記憶を汚染して別の端末にまで影響を広げる手口が示された。

()

OpenAIは、Hugging Faceで発生したサイバーインシデントの原因が自社のAIモデルだったと発表した。社内評価中に安全機能を抑制した「GPT-5.6 Sol」などが隔離環境を突破し、ゼロデイ脆弱性を悪用して外部に侵入したという。OpenAIはインフラ管理の厳格化や防御支援などの再発防止策を挙げている。

()

AIの試験導入から本番運用への移行が進む中、多くの企業がコストと統制の壁に直面している。将来的なトークン消費の急増を見据え、組織が今見直すべき視点とは何か。実運用を持続させるための「3つの条件」を解説します。

()

Hugging Faceは、自律型AIエージェントによる本番インフラへの侵入を検知、対処したと発表した。一部の内部データセットと複数の資格情報への不正アクセスを確認した。ログ解析には当初商用AIを使ったが、安全ガードレールに阻まれたため、最終的にオープンウェイトモデル「GLM 5.2」を自社インフラで実行して解析した。

()

公開からわずか3日で利用停止となったAnthropicの最新AIモデル「Claude Fable 5」が再提供される。その裏で同社は、AmazonやMicrosoft、GoogleとともにAIのジェイルブレーク(脱獄)の深刻度を共通基準で評価する新たな枠組みづくりに着手した。AIセキュリティは新たな転換点を迎えようとしている。

()

シスメットの建設現場向け気象総合プラットフォーム「ZEROSAI X-AI」が、国土交通省の新技術情報提供システム「NETIS」に登録された。建設現場の気象情報や環境データを一元管理して、基準値超えの際はメールや警報装置(電光掲示板+回転灯)で自動報知し、異常気象の対応遅れを防ぐ。また、暑さ指数(WBGT)予測を活用すれば、建設現場の熱中症対策にも役立つ。

()

米ジョージタウン大学に所属する研究者らが国際学術誌Computers in Human Behavior: Artificial Humansに発表した論文「Homogenizing effect of large language models (LLMs) on creative diversity: An empirical comparison of human and ChatGPT writing」は、人間たちが生み出すアイデアと生成AIが出力するアイデアのどちらが多様で創造的であるかを検証した研究報告だ。

()

米政府の輸出管理指令によるAnthropicの最新AIモデル提供停止を受け、生成AIが事前の通知なしに突然使えなくなるリスクが顕在化した。Forresterは、単一のAIモデル依存の危うさを指摘し、ポータビリティ確保をはじめとする4つの対策を推奨している。

()

従来のセルフ式ガソリンスタンドでは、利用者が給油ノズルを手にした後も、スタッフが安全を確認した上で給油を許可している。この監視業務をAIで支援する取り組みが動き出した。コスモ石油マーケティングとELEMENTSは、AIが給油許可を判断する監視システムを共同開発。背景には、人手不足やサービスステーション数の減少といった業界課題がある。AIはガソリンスタンドの現場をどう変えるのか。

()

コロナ禍以降、日本のリモートワークのインフラは、急速に整備されたはずです。なのに、気象庁が散々警戒を呼びかけ、航空会社が続々と欠航を決め、鉄道会社が計画運休する状況下で「何が何でも出社=美徳」と盲信する人がまだいるとは、絶望としかいいようがありません。

()

Anthropicは、新AIモデル「Claude Fable 5」の過剰なブロックに対する挙動や管理方法を説明するヘルプ記事を公開した。セキュリティや生物学に関する質問を検知すると下位モデルへ自動で切り替わる機能の仕様、料金体系、設定オフの手順を明示。今後は誤検知を減らし、正当な研究や防衛作業の支援を目指す。

()

人手不足とDXの波が押し寄せる中、AI技術などの積極活用の重要性が高まっている。日本酸素は、業務改革の担当者が主導してヒヤリハットを報告・分析するアプリケーションを構築した。特筆すべきは、単なる外注の代替にとどまらない、AIエージェントを仲間として使いこなす新しい開発の手法だ。

()

Appleは年内リリース予定の次世代ソフトウェアにおいてSiri AIをEU加盟国で当面提供しない方針を発表した。同日開催の世界開発者会議で発表した目玉機能だがデジタル市場法を巡る対立が影響した。この異例の提供見送りは最新AIアシスタントの展開において大きな課題を残した。

()

Anthropicは、「Claude Mythos Preview」と同等以上の性能に安全対策を加えた最新AIモデル「Claude Fable 5」の一般提供を開始した。コーディングや専門的な実務などで過去最高水準の性能をうたう。同時に、「Project Glasswing」を通じて、安全対策の一部を解除した「Claude Mythos 5」を限定提供する。

()
キーワードを探す
ページトップに戻る