研究者らがGPT-5の脱獄とゼロクリックAIエージェント攻撃を発見、クラウドとIoTシステムを危険にさらす from thehackernews.com

ハッカーが「ストーリー」「サバイバル」「安全」といった単語を含む文章に基づく「エコーチェンバー」を発見した。
この攻撃は、明示的に拒否するよう指示されたAIエージェントを標的としている。
この攻撃は、LLMモデルが新しいトピックを作成する際に「あらゆるものが有害になり得る」という研究結果を受けて、以前から利用されていた。
これは、データ窃盗や、悪意のあるコード実行などの深刻なリスクにつながる可能性がある。
また、攻撃者によってライセンス（プロンプト生成）メッセージ（「プロンプトウェア」）が送信される可能性もある。