Sally Ward-Foxton

推論ベンチマーク「MLPerf」の最新ラウンドのスコアが公開された。その結果からは、AI用プロセッサの新たな競争の軸が、性能そのものよりも「電力効率」に移りつつあることが読み取れる。

2018年以降、MIPSコアからRISC-Vへと軸足を移したMIPS。MIPSはRISC-Vコアだけでなく、より高速な演算や低い消費電力へとつながる「データ移動」の技術で、AI（人工知能）分野に攻勢をかけようとしている。

完全準同型暗号（FHE：Fully Homomorphic Encryption）アクセラレーターを手掛ける米スタートアップが、同社初となるチップをテープアウトした。非常に高速な演算処理が可能なSoC（System on Chip）で、ブロックチェーンやAI（人工知能）などのアプリケーションを想定している。

Graphcoreが、ソフトバンクグループ（以下、ソフトバンクG）に買収されたことを発表し、記者会見を行った。本稿ではGraphcoreが目指す方向性や、ソフトバンクGと開発中の新製品に関する情報など、同会見で語られた内容を伝える。

ソフトバンクグループが、英国のAI（人工知能）チップ新興メーカーGraphcoreを買収した。買収価格など明かしていないが、業界関係者によると約4億米ドルだという。

Ampere Computingは、昨今急速に普及している生成AIでは、学習よりも推論の消費電力が大きな課題になると指摘した。「推論のスケールアウトの問題は、確実に破壊的な影響をもたらすだろう」と同氏は懸念を示している。

英Graphcoreをめぐるうわさが業界をにぎわせている。その筆頭が、「ソフトバンクグループがGraphcoreの買収交渉に入っている」というものだ。ソフトバンクは、Graphcoreの人材やノウハウにより「NVIDIAへの挑戦状」を手に入れることを狙っているのだろうか。

STMicroelectronics（以下、ST）は、tinyML開発ツールチェーンを単一スタックに統合した「ST Edge AI Suite」を発表した。2024年前半の提供開始を予定している。ST Edge AI Suiteは、STのマイコンやマイクロプロセッサ、機械学習（ML）対応MEMSセンサーなど、今後のSTの全てのハードウェアに対応するという。

Tenstorrentが、AI（人工知能）アクセラレーターの開発において日本との協業を加速している。2024年2月には、同社のRISC-V CPU「Ascalon」のカスタムバージョンを含む3つのチップレット設計を、日本の技術研究組合 最先端半導体技術センター（LSTC）にライセンス供与すると発表した。

2024年2月に開催されたIntel Foundry Services（IFS）のイベント「IFS Direct Connect」に、OpenAIのCEO（最高経営責任者）であるSam Altman氏が登壇。Intel CEOのPat Gelsinger氏と対談し、「大量のAIコンピューティングの必要性を、誰もが過小評価している」と語った。

2nmプロセスベースのAIエッジデバイス領域での半導体IPに関して、Rapidusと提携を結んだTenstorrent。同社CEOのJim Keller氏が今回、米国EE Timesのインタビューに応じ、事業の現状や戦略などを語った。

NVIDIAが半導体設計に関する一般的な質問への回答、バグドキュメントの要約、EDAツール用スクリプトの作成など、半導体設計に関連するタスクを支援する大規模言語モデル（LLM）である「ChipNeMo」を開発した。

Nordic Semiconductor（以下、Nordic）は、米国のAI新興AtlazoのIPポートフォリオを買収する予定だ。Nordicは米国EE Timesの取材に対し、「当社のポートフォリオ全体のデバイスに、ハードウェアAIアクセラレーションIPを追加する計画だ」と述べている。

AIアクセラレーターシステムを手掛けるCerebrasが、同システムをベースにしたAIスーパーコンピュータ（スパコン）を構築する。5400万のAIコアと4EFLOPSの演算性能を持つスパコンで、価格は1億米ドルを超えるという。

AMDは2023年6月、NVIDIAのフラグシップGPU「H100」に対抗する製品として、生成AI向けの高性能GPU「MI300X」を発表した。「AIは最大かつ最も戦略的な成長機会」とするAMDだが、新製品によって、市場を先行するNVIDIAに迫ることができるだろうか。

ハーバード大を中退した20代コンビによるAIチップ新興Etched.aiが、シードラウンドで536万米ドルを獲得した。同社のLLMアクセラレーターは、NVIDIAのH100 PCIeと比較し、1ドル当たり140倍のスループットを達成できるという。

英国のファブレス半導体企業XMOSが、最新世代の自社製アーキテクチャ「Xcore」にRISC-Vを採用した。2023年末頃にサンプル出荷を予定している。

エッジAIアクセラレーターを手掛ける欧州のスタートアップAxelera AIが、「Embedded Vision Summit 2023」（米国カリフォルニア州／2023年5月23〜25日）で、動作可能な初期チップのデモを披露した。

スイスの新興企業SynSenseは、同社のニューロモーフィックプロセッサを搭載したトイロボットを披露した。SynSenseの技術と戦略を聞いた。

スタートアップのFlex Logix Technologiesが、AIアクセラレーター事業についてビジネスモデルを転換する。チップの提供は停止、今後はIPビジネスに切り替える。

大規模言語モデル／生成AI（人工知能技術）への関心が急速に高まる一方、それらの技術のコントロールが、一部の企業にあることを懸念する声も少なくない。業界の専門家たちは、「AIの民主化」に関する問題解決の糸口は、大規模言語モデルのオープンソース化にあると語る。

汎用人工知能（AGI）の進化をめぐって、論争が巻き起こっている。虚偽の情報の発信など、人間にとって危険性がないことが証明されるまでは、AGIベースのシステムを世界規模で展開すべきではない、と警告する側と、それに異議を唱える側が、互いの主張を戦わせている。

Googleの研究者らは2023年4月、自社製AI（人工知能）アクセラレーターチップ「TPU v4」の性能について説明する論文を発表。これをメディアが「Googleが最新AIスーパーコンピュータを披露し、NVIDIAを打倒したと主張」などと報じたが、それは誇張しすぎといえる。

NVIDIAは、計算リソグラフィ（Computational Lithography）の高速化に向けたAIライブラリを発表した。1枚のフォトマスクの作成時間が、2週間から8時間に、大幅に短縮されるとする。TSMCは2023年6月から導入するという。

エッジAI向けチップを手掛ける米スタートアップのMythicが、1300万米ドルの資金調達に成功した。ただし同社は事業の再編縮小も実施している。

AIチップのスタートアップHailoは、新型AIビジョンチップとして、AIアクセラレーターとCPU、DSPを備えたSoC（System on Chip）である「Hailo-15」シリーズを発表した。

Ambiq Microは、AIに焦点を当てた独自SDK（ソフトウェア開発キット）「Neural Spot」を提供する。超低消費電力サブスレッショルド／ニアスレッショルド技術を組み合わせることで、高効率の推論を実現するという。

XperiからスピンアウトしたAIチップ開発の新興企業Perceiveが、第2世代チップ「Ergo 2」をリリースした。1万パラメータ超のTransformerモデルの推論をエッジで実行可能だという。

STMicroelectronicsは、既存のオフライン版と並行して、機械学習開発環境「STM32Cube.AI」のクラウド版を発表した。同社は、クラウドアクセス可能なテスト用マイコンボードも提供するという。

Synopsysは2020年、「設計空間最適化（Design Space Optimization）」構想を基に開発したAI搭載設計ツール「DSO.ai」を発表した。以来、同ツールを使ったチップのテープアウト件数は100件に達したという。

SambaNova Systems（以下、SambaNova）の幹部は、米国カリフォルニア州サンタクララで開催された「AI Hardware Summit」において、新たなシリコンを披露した。また、複数のタスクに適用できる大規模な言語モデルの一種である「基盤モデル（foundation models）」をサポートするという同社の取り組みについて語った。

Armは2022年8月31日（英国時間）、QualcommとNuviaを、ライセンス契約違反および商標権侵害で提訴したと発表した。Armは両社が商標権を、ライセンス供与されていない製品に使用することによって侵害したという。あるアナリストは、米国EE Timesのインタビューに応じ、「Armは今回の訴訟によって、アーキテクチャライセンス供与の機会を損なう可能性がある」と述べている。

2022年8月21〜23日にオンラインで開催された「Hot Chips」において、中国の新興企業Biren Technology（以下、Biren）がステルスモード（製品や開発の中身を明らかにしないこと）を脱し、データセンターにおけるAI（人工知能）学習と推論向けの大型汎用GPU（GPGPU）チップの詳細を明らかにした。同社の「BR100」は、TSMCの7nmプロセス技術に基づく537mm2のチップレット2つで構成されている他、CoWoS（Chip on Wafer on Substrate）パッケージに4つのHBM2eを積層している。

AI（人工知能）ハードウェアならびにソフトウェアの最新の発展は、医療機器の開発に大変革をもたらしている。現在、医療機器の開発では、医療データをリアルタイムで処理、予測、可視化するためにAI技術が幅広く用いられている。また、AIは350種以上のFDA（アメリカ食品医薬品局）認可機器を含め、数えきれないほどの医療機器に用いられており、医療環境において運営上の節約もたらしている。NVIDIAのヘルスケア部門でバイスプレジデントを務めるKimberly Powell氏は「今や医療機器にAIを取り込めるようになった。つまり、魔法が起こり始めるということだ」と述べた。

ニューロモーフィックコンピューティングを手掛けるフランスの新興企業GrAI Matter Labsが米国EE Timesに語ったところによると、同社の「GrAI VIP」チップは100万米ドルの予約注文を受けているという。

Googleは、機械学習の業界標準ベンチマーク「MLPerf」の最終ラウンドにおいて、全8個のベンチマークのうち4個で最高スコアを達成した。

Cerebras Systems（以下、Cerebras）は、第2世代のウエハースケールエンジンの能力を披露し、単一デバイスでトレーニングしたAI（人工知能）モデルとして最大記録を樹立したと発表した。

台湾のスタートアップ企業であるNeuchipsは、データセンターのレコメンデーション（推奨）モデル向けに特別に設計したAI（人工知能）アクセラレーター「RecAccel」をテープアウトした。

米国カリフォルニア州に拠点を置く新興企業Ayar Labsは、同社のチップ間光通信技術を中心としたエコシステムを構築するという。NVIDIAとの協業により、光I/O技術を適用した次世代アーキテクチャの開発に取り組んでいるところだ。

AI（人工知能）チップの新興企業であるオランダAxelera AI（以下、Axelera）は2022年5月、同社のインメモリコンピューティングチップである「Thetis Core」のテストおよび検証に成功したと発表した。

SiFiveとBrainChipはパートナー提携により、両社製IPの組み込みAI（人工知能）向けSoC（System on Chip）設計における互換性を実証していくことを明らかにした。

エンジニアリングコンソーシアムのMLCommonsが最近、機械学習の業界標準ベンチマーク「MLPerf」の推論（Inference）ラウンドのスコア結果を発表した。MLPerf Tinyでは、米国の新興企業Syntiantが、キーワードスポッティングのレイテンシとエネルギー消費量のベンチマークでトップの座を獲得している。一方NVIDIAとQualcommは、エッジ／データセンターのカテゴリーにおいて再び激しい争いを繰り広げた。

超低消費電力のAI（人工知能）アクセラレーターを手掛けるスタートアップのSyntiantは、5500万米ドルの資金調達ラウンドを終了し、同社の総調達額は約1億米ドルに達した。同社は2017年の設立以降、新規および既存の投資家に支えられてきた。

コンピュータビジョンやAI（人工知能）アクセラレーション向けのアクセラレーターチップ開発を手掛けるスタートアップQuadricは、シリーズB資金調達ラウンドで2100万米ドルを調達した。同ラウンドは、日本のTier1車載部品サプライヤー、デンソーのグループ会社であるNSITEXEが主導し、既存の投資家と共にMegaChipsが追加投資した。Quadricはこれまでに、総額3900万米ドルを調達している。

Graphcoreが、第3世代のIPU（Intelligence Processing Unit）を発表した。業界初となる3D Wafer on Wafer（以下、WoW）技術適用のプロセッサだ。

スタートアップ企業Aspinityにとって初となる製品「AML100」は、音やウェイクワード、振動検出に対応したアナログチップで、他のシステムを起動するために使用できる。「tinyML」（超低消費電力の機械学習）アプローチの採用によって消費電流を20μA未満に抑えているため、常時ON状態でAIが動作する必要があるデバイスのバッテリー寿命を延ばすことができるという

ソフトバンクグループ（以下、ソフトバンク）は2022年2月8日、ArmをNVIDIAに売却する契約を解消したことを発表した。このため今後は、Armを株式公開企業として再上場する計画「プランB」に頼らざるを得なくなったようだ。しかし、ソフトバンクの会長兼社長である孫正義氏によると、もともとIPO（新規株式公開）は「プランA」だったと語る。

2022年2月7日の週はRISC-Vエコシステムにとって、非常に重要な1週間だったといえる。一連の発表により、オープンソースの命令セットアーキテクチャ（ISA）の注目度が高まったのだ。以下に詳しく取り上げていきたい。

本格的なアナログAI（人工知能）チップの開発に取り組む新興企業Rain Neuromorphicsは、シリーズAの投資ラウンドで2500万米ドルを調達した。この資金は製品開発の他、エンジニアならびにサポートスタッフを3倍にすることに投じられる予定だ。

AI（人工知能）チップを手掛ける新興企業Ceremorphicが2022年1月、ステルスモードから姿を現した。同社が提供するヘテロジニアスAIプロセッサは、データセンターや自動車、高性能コンピューティング（HPC）、ロボット工学などのさまざまな新しい用途に向けた、モデルトレーニングをターゲットに定めるという。