AIの危険性を訴えるマスク氏が、なぜAIチャットbot「TruthGPT」を開発するのか

[山本竜也，ITmedia]

　イーロン・マスク氏は4月17日（現地時間）、米ニュースメディアのFOX Newsのインタビューの中で、独自のAIチャットbot「TruthGPT」を開発すると明らかにしました。マスク氏は「宇宙の本質を理解しようとする最大限の真実を追求するAIを始めるつもりだ」と述べています。

最大限の真実を追求するAIサービスを目指すという「TruthGPT」

　一方で、特に先進的な人工知能（AI）からの実存的リスクを軽減することを目標とした非営利団体「Future of Life Institute（FLI）」が、GPT-4より強力なAIシステムの訓練を少なくとも6カ月間、直ちに一時停止するよう要請する書簡を公開しています。

　書簡では、「機械が私たちの情報チャネルをプロパガンダや真実でないものであふれさせるべきだろうか？」「全ての仕事を自動化すべきだろうか？」「私たちに取って代わるかもしれない非人間的な心を開発する必要があるだろうか？」「私たちの文明の制御を失う危険を冒すべきなのだろうか？」という4つの疑問を投げかけています。

「Future of Life Institute（FLI）」が公開している、AIシステムに関する書簡

　「現在のAIシステムは、一般的なタスクにおいて人間並みの競争力を持ちつつある」「人間並みの知能を持つAIシステムは、社会と人類に重大なリスクをもたらす可能性があることは、広範な研究で示され主要なAIラボが認めている」としており、休止期間中に、独立した外部の専門家によって厳格に監査・監督される高度なAIの設計と開発に関する一連の共有安全プロトコルを共同で開発・実施すべきだと主張しています。

　マスク氏は、2022年12月にAIにうそをつくような訓練を行うのは致命的だとその危険性を指摘しており、この書簡にも賛同する署名を行っています。

　だとすると、独自のAIチャットbotの開発は矛盾しており、6カ月の開発停止に賛同したのは、その間に自身のシステム開発を行い、先行するサービスに追い付くためではないかとの見方もできます。ただ、FOX Newsのインタビューでマスク氏は、「宇宙を理解しようとするAIが、人間は宇宙の興味深い一部であるため、人間を消滅させる可能性は低いという意味で、これが安全への最良の道なのかもしれないと考えている」とTruthGPTを開発する理由を説明しています。

　マスク氏のことなので、この発言内容がどこまで真意を含んだものなのかは定かではありません。とはいえ、このインタビュー公開される数日前に、AI関連会社「X.AI Corp.」をネバダ州で設立しており、少なくともAI開発に取り組む、あるいは取り組んでいるのは確かのようです。

　今のところ、このインタビュー以降にTruthGPTについての追加の情報は出てきていませんが、AIが宇宙を理解しようと努めた結果、人類は必要ないと判断されないことを祈りたいところです。

　なお、ネットで検索すると、既に「TruthGPT」というサービスがいくつか開始されていますが、これらはマスク氏とは無関係のサービスなので注意してください。

TruthGPTと検索して表示されるサービスは、マスク氏のものとは無関係だ