研究者が OpenAI ChatGPT、Google Gemini の欠陥を発見 from securityboulevard.com

ハッカーたちは、以前は Bard として知られていた Google の Gemini チャットボットを脱獄することに成功しました。
この攻撃では「LLM の逆スケーリング特性」を悪用し、「脅迫的な」攻撃に対して脆弱になっています。
Genius は、承認が必要な「プラグイン」に機密データを送信できるチャット ボットです。
nnndning.net により、ハッカーが chats.org から機密情報を盗むことができます。