AIの明日は「失望」or「希望」？──Appleとサム・アルトマンの“2つの未来予測” その意味を考える：小林啓倫のエマージング・テクノロジー論考（2/3 ページ）

[小林啓倫，ITmedia]

　例えば、ハノイの塔の高難度問題では、AIが出力できる最大文字数（トークン数）の壁にぶつかり、途中で「もう出力できません」と自分で判断してストップしていた。これは「考える力の限界」ではなく「出力の上限」にすぎない。

　また川渡りパズルの一部では「物理的に解けない（ボートの定員が足りない）」設定を使っていた。これは人間でも絶対に解けないため、AIが「無理」と判断したのはむしろ正しい。彼らはこのように指摘し、元論文における失敗の大半は出力上限や不適切な問題設定のせいであり、AIの本当の推論力を測れていないと批判している。

　どちらの主張が正しいにせよ、Appleの論文は、LRMの推論能力に関する多角的な議論を巻き起こしている。それは単にモデルの限界を指摘するだけでなく、LRMがどのように「思考」しているのかという、AIの根本的なメカニズムに関する問いを深めるきっかけとなるだろう。

サム・アルトマンの楽観論

　では、サム・アルトマンCEOのブログ記事「The Gentle Singularity」（穏やかなシンギュラリティ）はどのような内容だったか。簡単に言えば、それは「シンギュラリティ（技術的特異点）は既に始まっているが、予想されたような劇的な変化ではなく、人類に大きな恩恵をもたらす穏やかな（Gentle）変革として進行している」というものだ。

The Gentle Singularity

　アルトマンCEOは、私たちがすでにAI進化の「イベント・ホライズン（臨界点）」を越え、不可逆的な変化の時代に入ったと主張。現状、街にロボットがあふれているわけではないものの、人間を上回る知的作業が可能なAIはすでに社会に浸透し、科学の進歩や生産性の大幅な向上を後押ししていると指摘する。特にGPT-4やo3のようなAIが多くの人の知的作業を加速させており、科学の進歩こそが人類の豊かさの原動力だと強調している。

　今後、25年内には本格的な認知的作業ができるエージェント型AIが、26年以降には新たな洞察を生み出すAIや現実世界で活動するロボットの登場が見込まれるとし、30年には個人の能力が大きく拡張されると予測。しかし私たちの日常が完全に変わるわけではなく、創造性や家族との時間など「人間らしさ」も変わらず残るとしている。

　一方、AIがAIを設計・改良する「自己強化サイクル」によって、研究や産業インフラの進化が飛躍的に加速し、社会全体が急激に豊かになる可能性も指摘。新たな職業や価値観も次々と生まれようとしており、人類が歴史的に、変化を受け入れ適応してきたことを思い出すべきだと説く。困難もあるが、社会は新しい技術や役割を柔軟に取り入れる力を持っている――そんな楽観的な見方を示している。

　ただアルトマンCEOは、「AIアライメント問題」（AIが人間社会の長期的利益に沿って動くことをどう保証するか）や、AGIが一部に独占されることなく、広く社会に恩恵が行き渡る仕組み作りの重要性も強調。AIの急速な進化に伴うリスクにもしっかり目を向け、最善の使い方を社会全体で考えていくことが不可欠だと主張している。

　最後に、OpenAIを含むAI業界全体が「世界のための頭脳」を構築しているのだと現状を捉え、今後AIが個人にもたらす恩恵が広がるとともに、私たちの社会がより良い方向に進むことを願って締めている。

「われわれには、数カ月しか猶予がない」

　このようにThe Gentle Singularityというブログ記事は、リスクに対する警戒感を含みつつも、AIとその進化や制御に対する楽観論を示したものといえるだろう。当然ながら、こちらに対してもさまざまな批判や反論がなされている。

　例えば、テック系ジャーナリストのバージニア・バッカイティスさんは、「なぜサム・アルトマンは最も危険な人物の一人なのか」という過激なタイトルが付けられた記事において、アルトマンの文章が「ソフトに書かれたテクノユートピア論」であり、アライメント問題を軽視していると批判。特に「AIの能力向上＝社会的進歩」という短絡的な図式には警戒が必要であり、情報操作や監視強化、雇用の消失などの現実的な問題への言及が不足していると指摘している。

　また米国の経済・テクノロジー政策に関するコラムニストであり、米国の保守系シンクタンク「American Enterprise Institute」（AEI）の上級研究員であるジェームズ・ペソクーカスさんは、アルトマンCEOの記事を「AIへの不安が高まるなかで、抑制的な反論として時機を得たもの」と位置付けている。この楽観的な主張は、企業や投資家の懸念を和らげる意図があるとし、一種の戦略的メッセージにすぎないとの見方を述べている。

　一方、起業家のデビッド・ボリッシュさんのように、アルトマンCEOがAIのもたらす変革を「穏やかな」と表現したことを批判し、その変革はより急激に起きるため「われわれには年単位ではなく、数カ月しか猶予がない」と警鐘を鳴らしている人物もいる。