NVIDIAは4月25日(現地時間)、ChatGPTを始めとする大規模言語モデル(LLM)を利用したAIチャットボットなどのスマートアプリケーションの正確性/適切性/話題性/安全性の確保を支援するオープンソースソフトウェア「NeMo Gurdralis」(ニーモ・ガードレール)を発表した。
ChatGPTなどのAIチャットボット、ジェネレーティブAIは、その名前を目にしない日はないほどに急速に発展しているが、それゆえに、AIの発信内容に偏りがあったり、差別的だったりすることもあり、その安全性は業界全体の関心事となっている。
NeMo Guardrailsは、こうした問題に対応するために作られたもので、「Topic」「Safety」「Security」という3つの境界を予め設定可能となっている。これを利用することで、例えばカスタマーサービス用のAIチャットボットが天気の話題に応えないようにしたり、不適切な言葉をフィルタリングしたりできるようになる。
利用にあたり、機械学習の専門家である必要はなく、事実上全てのソフトウェア開発者が数行のコードを書くだけで新しいルールを作成できるとしている。
NeMo Guardrailsは、既にオープンソースとしてGitHubからソースコードを入手できる他、NVIDIAが提供するジェネレーティブAI向けのNeMoフレームワークにも組み込まれている。企業ユーザーであれば、NVIDIA AI Enterpriseの一部として、サポート付きパッケージとしても入手可能だ。
Googleは4月26日(現地時間)、ChromeOSデバイス向けの新しいセキュリティ機能となる企業向けの組み込み拡張セット「ChromeOS Data Controls」を発表した。
重要なビジネスデータや顧客データなどを保護するためのもので、管理者はコピー&ペーストや画面キャプチャ、画面共有、印刷を禁止するルールを設定できる。もちろん、印刷が必要な部門では許可するなどの対応も可能だ。
また2023年後半には、Chromebookにおいてシステム全体のカメラとマイクの設定を1カ所から管理できるようになる。使用しているアプリなどに関わらず、「設定」からワンクリックでカメラやマイクをオフにできる。
この他、Chrome Enterprise Connectors Framework内の拡張機能も発表された。Security Insights and Reportingコネクタや、Identity and Accessコネクタにより、CrowdStrike、Palo Alto Networks、Netskopeなどと提携できるようになる。
Copyright © ITmedia, Inc. All Rights Reserved.