AIの挙動をAIで自動分析　OpenAI、モデルの理解や改善に向け一歩前進

» 2023年05月10日 13時30分公開

[ITmedia]

　米OpenAIは5月9日（現地時間）、GPT-4を使って言語モデルの挙動を分析できるとの研究結果を発表した。これまではモデルを構成するニューロンの動作を人間が手作業で観察していたが、数億パラメーターを持つ大規模モデルでは分析が困難だった。GPT-4の利用で作業を自動化できる。

　検証では、GPT-2を構成するニューロンをGPT-4で分析。その挙動をシミュレーションし、実際の結果と比較して類似度を点数化した。この評価法を使えば、技術の有効性を評価したり、技術の具体的な改善法を検討したりするのに役立つという。

GPT-4でGPT-2のニューロンの挙動を分析

　OpenAIはGPT-2に含まれる約30万個のニューロンそれぞれの挙動の説明文や点数をまとめたデータセットをオープンソース化。「研究コミュニティーがより良い分析技術やツールを開発することを期待する」としている。

米バイデン政権、OpenAIなどAI関連4社のCEOを招き「責任あるイノベーション」促す
米バイデン政権は、Google、OpenAI、Microsoft、AnthopicのCEOをホワイトハウスに招集。AI開発に関する「率直で建設的な議論が行われた」としている。
“AIのゴッドファーザー”ことヒントン博士、Googleを退社してAI開発に警鐘
“AIのゴッドファーザー”の二つ名を持つジェフリー・ヒントン博士がGoogleを辞めた。New York Timesのインタビューで「Googleを辞めたので、AIのリスクについて自由に話せるようになった」と語った。企業がAIシステムを改善するにつれて、危険は増大すると警鐘を鳴らす。
OpenAIのChatGPT、イタリアで再び利用可能に　透明性改善で
イタリアのデータ保護当局は、ChatGPTの使用禁止を解除した。OpenAIが年齢確認機能や履歴を保存しない機能を追加したため。GPDPはOpenAIの対策を認め、引き続き欧州データ保護法順守についての調査を続けるとしている。
ChatGPTに“追悼文”を書かせるのは失礼なのか？　米国で物議に　求められる第三者への配慮
米国のバンダービルト大学がAIを使って作成した追悼文を公開したところ、炎上し謝罪するという出来事が起きた。「AIが書いた文章は被害者の心情を無視している」などさまざまな意見が飛び交っている。AI時代のメッセージの発信方法を考察する。