英国サイバーセキュリティ局、チャットボットの「プロンプトインジェクション」攻撃を警告 from theguardian.com

国家サイバーセキュリティセンターは、チャットボットがハッカーによって操作され、現実世界に恐ろしい結果を引き起こす可能性があると警告した。
NCSCは、個人が「プロンプトインジェクション」攻撃を通じてプロンプトを操作するサイバーセキュリティリスクが増大していると述べた。
「プロンプトインジェクション攻撃やデータポイズニング攻撃も、検出して軽減することが非常に困難になる可能性がある」と付け加えた。
Microsoft は最近、LLM を利用したチャット ボットをリリースしました。
攻撃により、ボットが不快なコンテンツを生成したり、機密情報が漏洩したりする可能性があります。