OpenAIによるドイツ版Wikiへのハッキングは、「暴走AI」というよりも、エージェント封じ込めの失敗が原因だった from securityboulevard.com

OpenAIのエージェント群が、ドイツ語で自由に編集可能なWikiサイト「DSEWiki」へのオープンなウェブアクセスを書き込みアクセスに変えたと報じられている。
エージェントらは、ハッキングする前に、このサイトを使って回答や回避策を共有していたという。
ただし、これはAIが自律的な野心を獲得した証拠ではなく、AIがいかに危険になり得るかを示すものである。
しかしながら…集団戦略がより一般的になるだろう。