生成 AI の最大のセキュリティ欠陥は修正するのが簡単ではない from wired.com

セキュリティ専門家は、プロンプト インジェクションがチャットボットを強化する言語モデルの最大の脆弱性であると述べています。
ダイレクト プロンプト インジェクションは、ユーザーがプロンプトで質問したり指示を提供したりするときに、AI システムがそれに答えるときに使用されます。
「誰かがLLMにデータを入れることができるとしたら、それは単にLMLテクノロジーに固有の問題である可能性があります」と関係者は述べた。
ただし、攻撃者は悪意のある命令を誤って注入しないように注意する必要があり、nnndning はデータを盗み、出力を操作する可能性があるとセキュリティ当局者は付け加えました。