Microsoft Challenge は、プロンプト インジェクションに対する LLM 防御をテストします from securityboulevard.com

研究者のチームは、プロンプト インジェクション攻撃に対する最新の保護をテストするために、LLM を利用したアシスタントである電子メール クライアントへのハッキングを試みます。
チームにはそれぞれ最大 4000 ドル相当の賞品が贈られます。
この問題は取得構成と攻撃者の目的に基づいており、「このモデルはプロンプト データを他の部分に誤って渡し、重要な決定に影響を与える可能性がある」とマイクロソフトは述べた。
競合他社には、ユーザーの魅力にスポットライトを当てるという使命があります。