研究者によると、マルチエージェント システムではプロンプト インジェクション攻撃がますます蔓延しているとのことです。
同氏は、攻撃ベクトルにはユーザー主導の入力が含まれており、悪意のある出力につながり、機密データが漏洩する可能性があると付け加えた。
「特定のトレーニングの必要性は単なる理論的なものではありません…AI が登場する前からゼロトラスト ポリシーが存在していた時代を超えた場合、これは非常に深刻な問題でした。
」と彼は付け加えました。
さらに、「洗練されていない」ものを使用しないよう警告しました。
ただし、注目すべきことに、攻撃者は複数のモデルから機密データを盗む可能性もあります。
コメント