OpenAIとロスアラモス国立研究所が提携　マルチモーダルAIの悪用可能性を評価する

公開 2024年07月11日 14時38分

[ITmedia]

印刷する Googleで優先するソースとして追加

　米OpenAIと米ロスアラモス国立研究所は7月10日（現地時間）、バイオサイエンスの研究現場におけるAIの安全性と有効性を評価するための提携を発表した。「GPT-4o」などのマルチモーダルAIモデルがラボ環境でどのように活用できるかを評価し、特に安全性と有効性に焦点を当てる。

　ロスアラモス国立研究所は発表文で、特に生物学的脅威に関するAIの安全性を評価するとしている。最先端のAIモデルが、悪意ある生物学的用途にどのように利用される可能性があるかを理解することに焦点を当てる。これまでもテキストベースのタスクでの評価を実施してきたが、新たな共同研究では、現実的な実験室環境で、マルチモーダルなAIモデルを評価する。

　例えば、GPT-4oの音声認識や画像認識機能を駆使して、専門知識がない人でも基本的なバイオ実験操作を安全に行えるようにするための実験を行う。

　ロスアラモス国立研究所は、米エネルギー省が管轄する国立研究所の1つ。第2次世界大戦中に原子爆弾を開発したマンハッタン計画の主要拠点として設立された。現在は特にヘルスケアやバイオサイエンス分野での技術研究に取り組んでおり、民間部門とも協力してきた。AIのリスクと脅威を評価するための専門組織「AIRTAG」を設立しており、今回の提携はAIRTAGの活動の一環としても位置付けられている。

印刷する