Thinking Machines、初のAIモデル「Inkling」公開──オープンウェイトで「自分のものにできる」基盤モデル

 米OpenAIの元CTO、ミラ・ムラティ氏が設立した米Thinking Machines Labは7月15日(現地時間)、同社初のAIモデル「Inkling」を発表した。テキスト、画像、音声を入力できるマルチモーダルモデルで、Apache 2.0ライセンスの下、全ウェイトを■https://huggingface.co/thinkingmachines/inkling□Hugging Face■で公開している。

 Inklingは総パラメータ数9750億、アクティブパラメータ数410億のMoE(Mixture-of-Experts)型Transformerで、最大100万トークンのコンテキストウィンドウをサポートする。テキスト、画像、音声、動画からなる45兆トークンで事前学習した。推論に費やす思考の労力を調整できる仕組みを備え、コストや遅延と性能のバランスを制御できるのが特徴だ。

Inkling(青線)と主要モデルのベンチマーク比較。特定分野に特化せず幅広い性能を目指したという

 同社は「Inklingは現在利用できる最強のモデルではない」と明言した上で、マルチモーダル対応や効率的な思考、ファインチューニングのしやすさを組み合わせた「カスタマイズに適したオープンウェイトの基盤」と位置付けている。「人間の意志と判断を拡張するAIを構築する」という同社のミッションに基づき、ユーザーがモデルを「自分のものにできる」ことを重視した形だ。発表では、Inkling自身がファインチューニング用のコードを書き、実行し、結果を評価する「自己ファインチューニング」のデモも披露した。

 開発者は、同社のファインチューニングプラットフォーム「Tinker」で同日からInklingをカスタマイズできる。期間限定で50%割引価格で提供し、Tinkerコンソールには実際にモデルと対話して感触を確かめられる「Inkling Playground」も追加した。ファインチューニング済みモデルの展開に向け、米TogetherAIや米Fireworksなど複数の推論プロバイダーとも提携している。

 併せて、アクティブパラメータ数を120億に抑えた軽量版「Inkling-Small」(総パラメータ数2760億)のプレビューも公開した。多くのベンチマークでInklingに匹敵する性能を示しており、テスト完了後にウェイトを公開する予定という。

印刷する
SNSでシェア
SpecialPR

関連記事

こんなメディアも見られています

ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

メールマガジンを配信中
メールマガジンを配信中

国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。

いますぐご登録

よく見られているカテゴリー

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

SpecialPR

ITmedia AI+ SNS

X @itm_aiplusをフォロー

インフォメーション

ITmedia AI+をフォロー

あなたにおすすめの記事PR