AI PCが普及し、MicrosoftがNPU演算能力のしきい値を40 TOPSに設定する現代において、古いコンピューターはAIの傍流に追いやられる運命にあるのでしょうか？ASUSは、初の外部AI USBアクセラレーションデバイス「UGen 300」を発表しました。このデバイスは、やや大きめのUSBフラッシュドライブとほぼ同じサイズで、エッジAIチップに特化したスタートアップ企業Hailoのプロセッサを搭載しています。USB-Cで接続するだけで、古いノートパソコンやデスクトップのパフォーマンスを瞬時に向上させ、最大40 TOPSのエッジAI演算能力を実現します。
UGen 300 ハードウェアコア：Hailo-10H チップと専用メモリ
仕様の観点から見ると、UGen 300は特定の目的を念頭に置いて設計されており、その中核的な目的は、従来大量のシステムリソースを必要としていたAI推論作業を「外部委託」することである。
• コンピューティング能力と消費電力：薄型軽量の105 x 50 x 18 mmの筐体内には、LLM（大規模言語モデル）やVLMなどのタスク向けに特別に設計されたHailo-10H AIプロセッサが搭載されており、最大40 TOPSの強力な演算能力を発揮しながら、一般的なワークロードではわずか2.5Wの消費電力を実現しています。
• システムリソースを独占しないでください。これが、UGen 300のハードウェアと、現在ノートパソコンに搭載されているNPUとの最大の違いです。一般的なNPUはシステムとメインメモリを共有する必要がありますが、UGen 300は8GBの専用LPDDR4メモリを搭載しているため、負荷の高いAI計算を実行しても、コンピュータ本来の動作速度を全く低下させることなく、システムパフォーマンスを最適なバランスで維持できます。
• プラグアンドプレイとクロスプラットフォーム互換性：USB 3.1 Gen 2 Type-Cインターフェースで接続し、ホットスワップに対応しています。ソフトウェアの互換性に関しては、WindowsとLinuxだけでなくAndroidプラットフォームにも対応しており、TensorFlow、PyTorch、ONNXといった主要なAIフレームワークとも互換性があります。
「デバイス側」の主な利点：サブスクリプション不要、遅延ゼロ、高いプライバシー保護。
ASUSは、AIコンピューティングを「クラウド」から「エッジデバイス」へと取り戻すというUGen 300の利点を強調することで、そのプロモーションを行っている。
ユーザーがテキスト生成、動画要約、音声テキスト変換などの生成型AIタスクを実行する際、クラウドへのデータアップロードにインターネット接続は不要となり、当然ながら高額なクラウドAIの月額利用料も支払う必要がありません。さらに重要なのは、データが完全にローカルで処理されるため、遅延ゼロのパフォーマンスを実現し、企業や開発者にとって不可欠なプライバシーとセキュリティ保護を提供できる点です。
価格とソフトウェアサポート
開発者や教育者向けに、ASUSは専用ソフトウェア「UGen Utility」のリリースも発表しました。このソフトウェアには100種類以上の事前学習済みモデルが搭載され、開発および検証時間を大幅に短縮できる見込みです。また、ユーザーはHailoの開発者コミュニティを通じて豊富な教育リソースにアクセスできます。
ASUS UGen 300 USB AIアクセラレーターの台湾における希望小売価格は6380台湾ドルです。
