AIのパフォーマンスはチップとネットワークの完璧な組み合わせにかかっていると研究が示唆している from zdnet.com

AIシステムをベンチマークする「MLPerf」は、ネットワークの速度が、学習に使用されたチップの効率よりも速いことを明らかにしました。
これらのマシンは、NVIDIA、AMD、Intelのチップを使用して構築されました。
「チップを接続する際のスケーラビリティは、規模を拡大する必要があるため、より重要です。
ネットワークがボトルネックとなり、高速化する必要があります」と、このマシンを提出したIBMの担当者は述べています。
「UCLuni-chippucesチップは、デバイス間の接続が非効率的であることが判明しました。
CPU間の接続密度測定データ、つまり妨害可能な言語モデルは、複数回にわたって情報を伝達できます」と、研究者らは今年、この研究の責任者である研究者が付け加えました。
人間が適用するような文法ニューラルネットワークアプリケーションでは、例えば32～48時間で違いが見られました。
時間の経過とともに平均して再起動した際に違いが見られました。
テスト結果は、同じ数のコンピューターを増やしても改善が見られました。