MicrosoftのナデラCEOが警告、AI利用者が支払う「二重コスト」　一つはお金、もう一つは「さらに価値あるもの」（1/2 ページ）

　AI利用者は二重の代償を支払っている――米Microsoftのサティア・ナデラCEOは7月12日（現地時間）に自身のブログでこう述べ、AIサービスの利用者が利用料金に加えて「独自の知識」をAIプラットフォーマーに提供している現状を警告した。

　米OpenAIや米Anthropicに代表されるAIモデル事業者は、ユーザーが明示的に許可した場合に、入力された情報や利用動向を調査し自社モデルの改善に利用することがある。

　ナデラ氏は経済学者のケネス・アロー氏が提唱した「情報の売り手はその中身を明かさなければ売れない」というジレンマを引用。AIではこれが逆転し、買い手が、買ったものを使うために知識を明け渡すことになるとした。買い手がAIを使うほど、売り手は買い手の情報を学習するが、買い手は売り手が何を得ているのかを知ることができず、情報の非対称性は広がる一方だという。

　AIモデル事業者がユーザーのデータを収集する権利を保持すると同時に、モデルの出力から知識を抽出する「蒸留」を制限するのは「皮肉だ」とナデラ氏は述べ、このまま一方通行でデータの学習利用が進めば、経済的価値が学習インフラの所有者に集中すると指摘した。

　同氏はAIのユーザー、特に企業には、組織のデータやログが同意なく外部へ渡らない「信頼境界」が必要だと訴え、今後、企業は他社モデルの出力を利用して自社モデルを調整したり、学習したりする権利を持つことになるとした。

　そのために企業が今後検討すべきこととして、「（AIの出力を評価するために）何が『良い』状態なのかを定義する」「モデルを学習したり調整したりできる固有の環境を持つ」「特定モデルの提供停止に備え、複数モデルを利用できるようにする」「タスクの処理をモデルに振り分けたり、コンテキストを管理する層をモデルと分離し、それぞれ最も効率的なものを組み合わせられるようにする」などを挙げた。

関連記事

• 

  パランティアCEOがOpenAIやAnthropicを批判　「AIモデルを強化するためのデータをなぜ顧客が渡すのか」

• 

  「AIはもう十分賢い」　活用のボトルネックは「モデル性能」から「評価」へ　米データ基盤開発企業のAI研究者に聞く

• 

  「Fable 5を全タスクに使う必要はない」　Anthropic開発者直伝のトークンコスト節約術