ITmedia NEWS > AI+ >
連載
» 2023年03月20日 18時30分 公開

仕事で使うGPT-4実践テクニック 実際に「AIアートグランプリ」の事務局で使ってみた清水亮の「世界を変えるAI」(2/5 ページ)

[清水 亮ITmedia]

GPT-4の最大の特徴は?

 このような第一回AIアートグランプリの興奮もさめやらぬなか、GPT-4は予想以上にあっさりと公開された。これまでのOpenAIのやり方からすると、異様なほどにあっさりとしている。

 GPT-4は、ChatGPT Plus(月額20ドル)に入会しさえすれば、すぐにでも試すことができる。

 しかし、それまでのChatGPT(GPT3.5-turboと呼ばれる)と、GPT4の違いを体感するのは簡単ではない。GPT-4のほうがGP-T3.5よりも明らかに「良い」答えを返すようになっているが、普通の質問をするだけではその真価が分かりにくい。そのうえAPIを経由した利用料金はGPT3.5-Turboが1000トークン(文章の区切り)あたり0.0002ドルなのに対し、GPT4が0.03ドルから高いものになると0.12ドルまで跳ね上がるのだから注意が必要だ。

長いトークンを使えるのがGPT-4の特徴。ただしAPI利用料金は跳ね上がる

 GPT-4の特徴は、それまでのGPT-3.5が4000トークンまでしか扱えなかったのに対し、最大3万2000トークンまで扱えるようになったこと。この「最大トークン数」は、入力としてあたえる文字列(プロンプト)と、回答としてもらえる文字列の合計数であるため、入力が多ければ多いほど回答は短くなってしまうという性質を意識しなければならない。

 無料版ChatGPT(GPT-3.5-Turbo)を使っていると、会話が長くなればなるほど、どんどん以前の話を忘れてしまい整合性が取れなくなっているように見えることがあるが、あれが最大トークン数の規制である。

 そのため、GPTの出力を組み合わせて新しい出力を作るLangChainなどの手法を使う場合は、定期的にそれまでの会話の要約文をGPTに作らせて、それをプロンプトに入れることでさらに大きなテーマを扱わせるようなテクニックがある。

Copyright © ITmedia, Inc. All Rights Reserved.