元OpenAIのCTO、ムラティ氏の新会社、LLMチューニングAPI「Tinker」をβ公開

[ITmedia]

　元米OpenAIのCTO、ミラ・ムラティ氏率いる米Thinking Machines Labは10月1日（現地時間）、LLMのファインチューニング向けAPI「Tinker」を発表した。2月創業の同社にとって、初のプロダクトになる。

　Tinkerは、研究者や開発者に対してデータやアルゴリズムを制御しつつ、分散トレーニングやリソース管理といった複雑なインフラを意識することなく利用できるように設計されたサービス。このAPIにより、ユーザーはモデルの「forward-backward」演算、最適化ステップ、出力サンプリング、トレーニング状態の保存といった操作を直接扱いつつ、Tinker側がスケジューリング、リソース配分、障害回復といった裏側の処理を代行する。

　モデルは軽量な LoRA（Low-Rank Adaptation）を用いて微調整され、元のモデル全体の重みを大きく変えずに効率的な学習が可能になる方式を採用している。対応モデルとして、米MetaのLlama系、中国AlibabaのQwen系を含む複数規模のモデルをサポートしており、Qwen-235B-A22Bなどの大規模混合専門化モデルにも対応可能という。

対応モデル一覧

　同日からプライベートβ版の利用申し込み受け付けを開始している。現時点では無償で利用可能だが、近く使用量に応じた課金制を導入する予定としている。また、組織や大学などでの大規模利用を希望する場合は問い合わせを受け付けている。将来的にはより広いモデルラインアップの追加も計画されている。