新しいものづくりがわかるメディア

RSS


Arm、Armv9ベースのエッジAIプラットフォームを発表

イギリスの半導体設計大手Armは、IoT向けに最適化されたArmv9ベースのエッジAIプラットフォームを発表した。

photo

新たなArmv9ベースのエッジAIプラットフォームは、Armv9ベースとしては最小で、Armv9.2-Aアーキテクチャを採用したCPU「Cortex-A320」と、エッジAI向けAIアクセラレーター「Ethos-U85 NPU」を組み合わせたもので、10億以上のパラメーターのAIモデルをオンデバイスで実行できる。

新たに開発したCortex-A320は、「Cortex-A520」 からの派生バージョンで、同モデル比で50%も高効率だとしている。ML性能のためのSVE2などのArmv9アーキテクチャの特⻑を活⽤しており、従来の「Cortex-A35」と⽐較して、ML性能は10倍、スカラー性能は30%向上している。加えてポインタ認証(PAC)、分岐ターゲット識別(BTI)、メモリタギング拡張(MTE)などの⾼度なセキュリティ機能を、最⼩のCortex-Aデバイスで利用することが可能になる。

また同社は、エッジAIの導⼊において、ソフトウェア開発とデプロイの複雑さは最⼤の障壁のひとつだが、AIフレームワーク開発者向けの演算ライブラリのセットである「Arm Kleidi」をIoT向けに拡張することも合わせて発表した。Arm Kleidiは、で、開発者の追加作業を必要とせず、ArmベースのCPU上でAIとMLのワークロードを最適化するように設計されている。KleidiAIは、MetaのLLMフレームワークである「Llama.cpp」など主要なIoT AIフレームワークに統合されており、例えばLlama.cpp上でマイクロソフトのTiny Storiesデータセットを実⾏する際、Cortex-A320に最⼤70%の性能向上をもたらすとしている。

関連情報

おすすめ記事

 

コメント

ニュース

編集部のおすすめ

連載・シリーズ

注目のキーワード

もっと見る