Noveeは、独自の脆弱性研究に基づいて構築された自律型レッドチーム機能をLLMアプリケーションに導入する。 from securityboulevard.com

「NoveeのAI侵入テストプラットフォームに組み込まれた自律型セキュリティテスト機能である、LLMアプリケーション向けAIレッドチーム。
この製品は、攻撃者よりも先にAI搭載アプリケーションの脆弱性を発見するように設計されており、従来の侵入テストツールでは対応できなかったリスクカテゴリに対処します。
」脆弱性レポートが付属し、プロンプトインジェクション、ジェイルブレイク試行、データ漏洩などの脅威の特定に役立ちます。
ただし、AIシステムに対する自動攻撃対象領域はまだテストされていません。