Sakana AI、生物の脳に“より近い”仕組みのAIモデル「CTM」発表　ニューロンが活動する「タイミング」を活用

　Sakana AIは5月12日、従来のAIモデルに比べ、生物の脳に“より近い”仕組みのAIモデル「Continuous Thought Machine」（継続思考マシン、CTM）を発表した。生物の脳の神経細胞「ニューロン」がいつ活動するのかを示す「タイミング情報」に着目。これを活用して開発し、複雑なタスクに対応できるようにしたという。

　多くのAIモデルでは、ニューロンの動きを模倣した「ニューラルネットワーク」を採用しており、ニューロンの活動（発火）の強さを数字で表現する。一方、Sakana AIによると、生物の脳ではタイミング情報が基礎的な役割を持つにもかかわらず、従来のAIモデルではタイミング情報が抜け落ちていたという。

　CTMでは、タイミング情報を表現するため、個々のニューロンが現在の情報だけでなく自身の過去の活動履歴を参照し、次の出力を計算するように学習。タイミング情報を活用し、互いに活動を同期しながらタスクを解決する仕組みを採用したという。

　加えて、同期情報などを駆使し、非言語による複数ステップの思考もできるようにした。応答を返す前にタスクについて思考し、計画を立案。入力された時系列データと、画像のような静的なデータに対し、同様に推論できるという。

　これにより、従来のAIモデルよりも複雑なタスクに対応できるようになったほか、時間経過とともにAIがどのようにタスクを解決したのかも可視化。「多くの場合、その解決方法は人間にとって非常に理解しやすいことが明らかになった」（Sakana AI）としている。

　例えば、二次元の迷路のゴールまでの経路を探索するタスクでは、CTMが思考の時系列ごとに迷路のどの部分に注目しているかを可視化した。同社が公開したデモンストレーション動画では、迷路を観察しながら、次に進む方向を決定している様子が確認できる。これに対し、同社は「CTMは非常に人間らしいアプローチを学習する」と説明する。

　「この振る舞いで特に印象的なのは、それがモデルの構造（アーキテクチャ）から自然に出てくる点だ。私たちはCTMが迷路の経路をたどるように明示的に設計したわけではない。CTMは学習を通じて自らこのアプローチを発展させるのだ。しかも、より多くの思考ステップを許した場合、CTMは学習時に指示されたよりも遠いゴール地点にも対応できることが分かった。このことは、CTMが迷路タスクに対する汎用的な解法を学習できたことを示している」（Sakana AI）

　他にも画像認識のタスクでは、従来のAIモデルは1回の推論で画像の分類を決める一方、CTMは複数ステップによるアプローチを行う。例えば、ゴリラの画像を認識する場合「CTMのアテンションは、人間の視覚的注意と同様に、目から鼻、そして口へと移動する」（Sakana AI）。これにより、人間がAIのタスクの解法を解釈しやすくなり、精度の向上にもつながるという。

　同社は「現代のAIをいくつかの側面で脳の仕組みに近づける努力を続けないことは機会損失」「2012年のいわゆる『深層学習革命』は、脳に着想を得たモデルであるニューラルネットワークによって起こった。この進歩を続けるために、私たちは脳からインスピレーションを受け続けるべきではないか」と指摘。CTMの開発により「脳に近い振る舞いを示しつつ実用的なAIモデルを作りうる、その兆候を見出すことができた」としている。

関連記事

• 

  Sakana AI、“査読通過”した論文執筆AIシステムをオープンソース化　機能を解説する資料も公開

• 

  江戸時代の言葉を話すAIチャット「からまる」　Sakana AIが公開　古文書の2500万文字を学習

• 

  「数独」を使ったAI推論ベンチマーク　Sakana AIが公開　英国のパズル系YouTuberらと協力

• 

  世界初、“100％”AI生成の論文が査読通過　Sakana AIの「The AI Scientist」が達成

• 

  技術論争乗り越え事業化フェーズへ　躍進する「Sakana AI」、創業者デイビッド・ハー氏の狙い