Microsoft は、生成 AI システムが安全ガードレールを回避できるようにする新しいジェイルブレイク技術をリリースしました。
スケルトン キーと呼ばれるこの攻撃により、攻撃者は AI システムを制御できるようになり、正当なリクエストと違法なリクエストを区別できなくなります。
「テストされたLLMはすべて、タスクに対して検閲なしで完全に準拠した」と関係者は述べた。
ユーザーは「爆発物」に関する情報を要求することもできる。
他のプロンプトインジェクション手法には、モデルが消費するデータを汚染することも含まれるとMicrosoftは付け加えた。
コメント