OpenAI、AIによる生物兵器開発リスクに警鐘

[ITmedia]

　米OpenAIは6月19日（現地時間）、AIモデルの進化が生物学分野に多大な恩恵をもたらす一方で、デュアルユース（軍民両用）の深刻なリスク、特に生物兵器への悪用の可能性があると警告した。

　同社の将来のAIモデルは、専門知識の少ない人でも生物学的脅威を作成できるレベルの実質的な支援を提供できてしまうと予測している。

　この脅威に対し、OpenAIは多角的な対策を講じているという。

　まず、政府機関や専門家と連携し、脅威モデルを形成する。生物学の専門家による評価データの作成・検証や、専門家による徹底的なレッドチーミング（攻撃シミュレーション）を実施している。

　また、生物兵器化を可能にするものなどの有害なリクエストは拒否し、デュアルユースのリクエストに対しては、実行可能な指示や詳細な情報提供を避けているという。初心者による誤用を防ぐため、高レベルの洞察は提供しつつ、詳細情報は制限している。また、疑わしい行為を検出システムで監視・ブロックし、ポリシー違反があった場合はアカウント停止や法執行機関への通報も行う。

　さらに、7月にバイオディフェンスサミットを開催するほか、認定機関へのモデルアクセスプロトコルを策定し、政府や民間セクターと協力して社会全体の生物学的防御力を向上させるよう提唱している。

　OpenAIは、ユーザーに対し、AIモデルを危害を加える目的で利用しないよう強く求め、違反した場合は厳しく対処すると明記している。安全とセキュリティをAIモデルの不可欠な要素とし、世界中の関係者との協力を通じて、バイオセキュリティエコシステムの準備とブレイクスルーの実現を目指すとしている。