「Jev」とは　“文章を書かないAI”がなぜ話題に？　元OpenAI研究者が開発、「“スマートなif文”と考えてみて」（2/2 ページ）

　これに関しては注意が必要で、「ハルシネーションを起こさない」という主張の根拠としているのは「構造化出力（Structured Output）のエラー率」と「ツールコールのエラー率」の2つのグラフ。他のLLMが一定のエラーを出す中、Jevのみがエラー率ゼロであることなどを理由に「ハルシネーションがない」としている。

　一方で、同社はJevの“制約”として「数学的推論などシステム2のタスクは苦手」「特定ドメイン向けには学習していないため知識がない」などとも記載。

　AIの原理としても、知らない知識に対し、全て適切な確率と確信度で答えられるとみるのは現実的ではない。早期ユーザーからは実際に「サイコロの出目の確率を正しく答えられない」とする報告も上がっている。筆者の手元でも近い状況を再現できた。

　したがって、同社の「ハルシネーションを起こすことがない」という主張はあくまで「構造化出力が壊れることはない」程度の意味と受け止めておくのがいいだろう。

LLMとは別物なのか？　「ローカルで再現」の声も続々　PFNは「1年前にリリースしていた」

　JevのQ&Aの中で、同社は「Jevは単なる小型LLMなのか？」という問いに「Jevは小型なモデルでも（大型な）LLMでもない」としている。

　現状はAPIでの提供のみにとどまるため、実際のモデルについては推測するしかないものの、「オープンウェイトなLLMで再現できるのではないか」と見る向きも出ている。LLMも、内部的には「文章の次に続く単語の確率」を計算しているからだ。

　LLMは通常、そうして1単語ずつ生成していくので、構造化出力しようと思うとその長さの分だけ時間がかかる。しかし、「穴埋め」すべき箇所が分かっているならその単語だけ出せばよく、この方法なら並列性も確保しやすい。また、このように「穴埋めタスク」とみなすと、米Googleが2018年に発表した「BERT」という言語モデルの学習方法にも似ている。

　そのため、小型なオープンウェイトLLMなどを使って「ローカル版Jev」を自作し公開する動きが相次いでいる。（ちなみに筆者もさっと作ってみた）

　また、Preferred Networksエンジニアの今城健太郎（いもす、@imos）氏によれば、同社もJevに相当する機能を数年前から開発していたが（2025年5月に正式リリース）、「需要が掘り起こせずサービス終了となってしまった」（同氏）という。同社はこのような仕組みについての特許も取得しているとも紹介している。

それでもJevが注目を集める理由

　やや過大なうたい文句やLLMとの違いなどで疑問符がゼロではない部分もあるにはあるものの、それでもJevが注目を集めているのは「AIの出力を人間が読む」という前提をやめ、「高速に構造化出力を出せるのはソフトウェア開発の上で応用が効く」という明快なコンセプトを打ち出したからではないだろうか。大量の軽い判断を高速かつほぼ無料で処理できるなら、これまでLLMのコストや遅延では採算が合わなかった自動化も実現できる可能性が生まれる。

　現状のJevは画像入力には非対応。判断結果の理由などもない。それでも、すでに早期ユーザーは利用方法をさまざまに模索しているようだ。AIの新たな活用方法として注目しておきたいプロダクトだ。

この記事の著者

関連記事

• 

  ローカルLLM利用のクリニックが話題　院長自ら環境を構築　「医療機器より安い」は本当か

• 

  なぜPFNは「国産AI」をゼロから開発するのか　担当者に聞く“自家製ならではの利点”

• 

  「フルスクラッチ開発」って何？──LLMを“骨格”と“筋肉”に例えて国産モデルの現在地を整理する