NVIDIAは、コンピューティングの近くにエージェントAIデータを保存し、大規模にアクセスできるBlueField-4 STXと呼ばれるモジュール式のリファレンスアーキテクチャを発表しました。
このアーキテクチャは、推論や人工知能などのエージェントアプリケーション向けにGPUメモリと組み合わせた従来のCPUベースのストレージシステムと比較して、トークンスループットが最大5倍、エネルギー効率が4倍、ページ取り込み速度が2倍速いと主張しています。
「エージェントAIはソフトウェアができることを変えつつあり、その背後にあるコンピューティングインフラストラクチャは再発明されなければなりません」とNVIDIAのCEOであるジェンセン・フアン氏は述べています。
クラウドプロバイダーは2026年までにオープンソースプラットフォームになると予想されています。
コメント