サイバーエージェントが公開した大規模言語モデルの実力を試す：清水亮の「世界を変えるAI」（2/4 ページ）

[清水 亮，ITmedia]

AIによって私達の暮らしは、より便利に、そしてより良いモノ、そしてコトへと進化していきます。しかし、それは同時に、今まで以上にコンピュータとの「共生」を意識せざるを得ない時代でもあります。コンピュータと人との距離が近づく中で、コンピュータは、私たちに、そして、コンピュータを通じて、私たちに何をもたらすのでしょうか。コンピュータ技術が生む未来、そして、これからのコンピュータ

　なかなか良さそうな結果が出てきた。もう少し試しやすくするために関数を定義する。

>>> def calm(s):
...  inputs = tokenizer(s, return_tensors="pt").to(model.device)
...  with torch.no_grad():
...     tokens = model.generate(
...         **inputs,
...         max_new_tokens=64,
...         do_sample=True,
...         temperature=0.7,
...         pad_token_id=tokenizer.pad_token_id,
...     )
...  output = tokenizer.decode(tokens[0], skip_special_tokens=True)
...  print(output)

　これで東京特許許可局と入力してみた。

>>> calm("東京特許許可局")

東京特許許可局局長。東京特許許可局長。東京特許許可局長官。東京発明特許許可局長。

>>> calm("東京特許許可局")

東京特許許可局局長・知財高裁所長・東京高等裁判所部総括判事を歴任し、昭和58年4月退官。昭和58年5月、昭和60年10月、昭和61年11月、昭和62年2月、昭和63年11月、平成2年4月、平成4年2月

　なかなか凄い。結構感動した。5年くらい前に最初にRNN（リカレントニューラルネットワーク）に、日本語版Wikipedia全文を学習させた時の感覚に近い。

　さらにインタラクティブに動作させるためのループを書く

>>> while True:
...  calm(input())

　いろいろ試してみた。