メディア
ITmedia AI+ >

PFN、新LLM「PlaMo 2 8B」(仮称) 開発中 パラメータ数1000億→80億に、でも性能は維持

» 2025年02月18日 14時10分 公開
[ITmedia]

 Preferred Networksの岡野原大輔代表取締役は2月18日、開発中の新しい大規模言語モデル「PlaMo 2 8B」(仮称)について明らかにした。同社の既存モデル「PLaMo-100B」の性能を維持しつつ、パラメータ数を約12分の1に削減したという。アイティメディアが同日から開催しているオンラインイベント「ITmedia AI Boost」で言及した。

photo PlaMo 2 8Bの概要

 新しく開発したPlaMo 2 8Bはパラメータ数を80億(PLaMo-100Bは1000億)まで抑えつつ、PLaMo-100Bと同等以上の性能を実現したとうたう。日本語や日本固有の知識の理解について問う「JMMLU」やコード生成能力を問う「JHumanEval」などのベンチマークで、PLaMo-100Bと同等あるいはそれ以上のスコアを記録したという。なお、まだ事後学習が済んでいないため、コーディング能力は今後上昇する可能性があるとしている。

 PLaMo-100Bは同社が2024年に発表したモデル。日本語性能を評価するベンチマーク「Jaster2 0shot」で、GPT-4oやClaude 3.5 Sonnet、Llama-3 70Bを上回るスコアを記録したという。

【修正:2025年2月19日午前10時 当初、PLaMo-100Bのパラメータを1兆としていましたが、正しくは1000億でした。訂正しておわびします。】

Copyright © ITmedia, Inc. All Rights Reserved.

アイティメディアからのお知らせ