米Lightmatter、光コンピューティング製品で生成 AI ブームを支える
2023/07/20 06:30
人工知能(AI)向け光コンピューティングのスタートアップ企業、米Lightmatterは2023年5月31日、シリーズC投資ラウンドとして、1億5400万ドル(約216億3400万円)を調達したと発表した。これまでに総額2億7000万ドル(約379億3000万円)以上を調達したことになる。
生成AIシステムが普及するにつれ、それを支える大規模言語モデル(LLM)を実行するために消費されるエネルギーと必要な資本が指数関数的に増加している。その結果、過剰な熱負荷、ワットあたりの性能の停滞、運用コストの増大が問題となっているという。
そこでLightmatterは、従来型プロセッサよりも高速、高効率、冷却性に優れた光プロセッサを開発した。同社は「Envise」、「Passage」、「Idiom」というハードウェアおよびソフトウェア製品を展開している。
Lightmatterによると、Enviseは世界初の光コンピューティングプラットフォームだという。Enviseサーバーの「Envise 4S」は、4Uサーバーに16個のEnviseチップを搭載したもので、消費電力はわずか3kW。IPSがNvidia DGX-A100の3倍高い上に、1WあたりのISPはBERT-Base SQuAD上で8倍となっている。
Passageは、異種チップのアレイをこれまでにない帯域幅とエネルギー効率で通信できるようにする、ウェハースケールのプログラマブルな光インターコネクトだ。AIモデルトレーニングや大規模ML推論など、広帯域のチップ間通信を必要とするあらゆるアプリケーションを加速させるものだとしている。
Idiomは、標準的な深層学習フレームワークとモデル交換フォーマットを接続し、深層学習モデルの制作者やデベロッパーが必要とする変換やツールを提供するソフトウェアだ。
Lightmatterは、これらにより、AIコンピューティングの継続的な急成長を可能にすると同時に、環境に対する影響の増大を最小限に抑えることができるとしている。Lightmatterが今回調達した資金は、これらの製品を顧客に提供するための資金として使用するということだ。
(fabcross for エンジニアより転載)