未来をハッキング: DEF CON のジェネレーティブ レッド チーム チャレンジからのメモ from csoonline.com

Generative Red Team Challenge を見に来た SeedAI の研究者は、このチャレンジは「大規模な Generative AI システムの最初のインスタンス」であると述べました。
このチャレンジでは、参加者は漏洩、脱獄、ロールプレイ、ドメイン切り替えなどの 50 分間のタスクを完了する必要がありました。
参加者には「紹介コード」が与えられ、参加規則が発行されました。
「私たちはLLMを鍵開け段階から抜け出させようとしている。
インフラやプラットフォームを攻撃するつもりはない」と主催者は語った。