安全なAI? AIレッドチームは夢を見てくださいと言う from csoonline.com

「AI レッド チームは、エンドツーエンド システムに対する現実世界の攻撃をエミュレートすることで、モデル レベルの安全性ベンチマークを超えようと試みています」と論文では述べられています。
さらにこの論文では、Microsoft AI Red Team が 2018 年に結成されたとき、従来のセキュリティ脆弱性の特定と古典的な ML モデル (ML モデル) に対する攻撃の回避に重点を置いていたと述べています。
さらに、それ以来、両方の範囲を分割せずにテストすることは非現実的になったと付け加えた。
さらに、「範囲が拡大された…」と付け加えました。