LINE、日本語特化の汎用言語モデル開発へ　100億ページ分のデータを学習

　LINEは11月25日、日本語に特化した汎用（はんよう）言語モデルを開発すると発表した。新聞記事や小説などのさまざまな言語データを100億ページ分学習させ、対話や文章生成などができるAIを作る。

　まずは、韓国NAVERと共同で700ペタFLOPSの性能を持つスーパーコンピュータを活用し、学習や処理に必要なインフラを年内に整備する。汎用言語モデルには1750億個以上のパラメータを設定する予定。これは、イーロン・マスク氏が共同会長を務める非営利のAI研究企業、米OpenAIが6月に発表した汎用言語モデル「GPT-3」と同等以上の数字となる。

　汎用言語モデルとは、膨大な言語データを学習して、対話や翻訳に加え、文章生成やプログラミングなど、さまざまな言語処理を行うAIのこと。文章の冒頭が1文入力されただけで文章全体を生成したり、要件定義をするだけでプログラムを構築したりする機能を持つものもある。

　汎用言語モデルの分野ではOpenAIや米Googleなどが先行しており、英語以外に特化したものはごく少数という。LINEは「日本語に特化した超巨大言語モデル開発は世界でも初」としている。

　開発したモデルは、対話AIの開発や検索サービスの品質向上、同社のAI技術「LINE CLOVA」への活用などを見込む。他社との共同開発やAPIの提供についても検討するとしている。

この記事の著者

関連記事

• 

  Microsoft、汎用言語モデル「GPT-3」のライセンス取得

• 

  OpenAI、まことしやかなフェイクニュースも簡単生成の言語モデル「GPT-2」の完全版を公開

• 

  「飲食店の電話予約を受けるAI」登場　客の話を音声認識、日時と人数をシステム入力

• 

  画像を半分入れたら残りを自動生成　OpenAI、文章自動生成モデルの画像版「Image GPT」開発

• 

  「Teslaを含む最先端AI開発組織は規制されるべき」とイーロン・マスク氏