清水亮の「世界を変えるAI」

仕事で使うGPT-4実践テクニック　実際に「AIアートグランプリ」の事務局で使ってみた（2/5 ページ）

公開 2023年03月20日 18時37分

更新 2024年04月02日 11時17分

著者

清水亮

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

GPT-4の最大の特徴は？

　このような第一回AIアートグランプリの興奮もさめやらぬなか、GPT-4は予想以上にあっさりと公開された。これまでのOpenAIのやり方からすると、異様なほどにあっさりとしている。

　GPT-4は、ChatGPT Plus（月額20ドル）に入会しさえすれば、すぐにでも試すことができる。

　しかし、それまでのChatGPT（GPT3.5-turboと呼ばれる）と、GPT4の違いを体感するのは簡単ではない。GPT-4のほうがGP-T3.5よりも明らかに「良い」答えを返すようになっているが、普通の質問をするだけではその真価が分かりにくい。そのうえAPIを経由した利用料金はGPT3.5-Turboが1000トークン（文章の区切り）あたり0.0002ドルなのに対し、GPT4が0.03ドルから高いものになると0.12ドルまで跳ね上がるのだから注意が必要だ。

長いトークンを使えるのがGPT-4の特徴。ただしAPI利用料金は跳ね上がる

　GPT-4の特徴は、それまでのGPT-3.5が4000トークンまでしか扱えなかったのに対し、最大3万2000トークンまで扱えるようになったこと。この「最大トークン数」は、入力としてあたえる文字列（プロンプト）と、回答としてもらえる文字列の合計数であるため、入力が多ければ多いほど回答は短くなってしまうという性質を意識しなければならない。

　無料版ChatGPT（GPT-3.5-Turbo）を使っていると、会話が長くなればなるほど、どんどん以前の話を忘れてしまい整合性が取れなくなっているように見えることがあるが、あれが最大トークン数の規制である。

　そのため、GPTの出力を組み合わせて新しい出力を作るLangChainなどの手法を使う場合は、定期的にそれまでの会話の要約文をGPTに作らせて、それをプロンプトに入れることでさらに大きなテーマを扱わせるようなテクニックがある。

次ページへ仕事で使うGPT-4テクニック