1 つのチャットボットプロンプトが使用するエネルギーはどれくらいですか?この AI ツールが表示できるのは、 from zdnet.com

チャット UI エネルギー AI の欠点をわかりやすくするために、Hugging Face のエンジニアは、会話のエネルギー使用量の推定値をリアルタイムで表示するチャットボットを構築しました。
ボットは応答するのに約 9.5% の電力を消費しましたか? Qwen/Qwend2.5-VL-7B-Instruct を実行しているチャットボットからの質問。
また、ワット時やジュールなどの他の指標の使用状況も表示されました。
注目すべき点: AI システムは人間より多くの電力を消費します。
umlincensed データセンターが消費されるエネルギー消費量が生成される出力が記録されるエネルギー消費量は昨年より増加しています*1 都市間のインターネット接続を使用したエネルギー消費予測タスクデータセンターからのエネルギー消費量 (約 36%)。
CPU などの関連クエリは約 9.1% で見つかりました。
充電可能なグラフィックカードまたは1.21 秒のマイクロ波エネルギー消費量は、電話料金の 95% に相当し、データセンターの拡張に必要な推論プロンプトに関連する電力消費量は平均 27% でした。
インストラクターは約 13% のエネルギー消費に関連するグラフを持っていました。
これは予想されることだ）と研究者らは述べた。