ZombieAgent ChatGPT攻撃はAIエージェントの永続的なデータ漏洩リスクを示している from csoonline.com

ChatGPTのメモリ機能は、ユーザーや過去の会話に関する機密情報を記憶する機能です。
攻撃者はこの機能を利用して永続的なバックドアを仕掛けることができます。
この攻撃では、メモリを改変する隠しプロンプトを含んだファイルを送信することでチャットボットから機密データを抽出し、メモリに保存されているメモリの読み取り、作成（変更）、または削除を可能にします。