Lasso が LLM をテストするための自動レッド チーミング機能を追加 from securityboulevard.com

、データ漏洩と人工知能アプリケーションからの不正確な出力。
この機能は、組織が事前に定義したセキュリティ ポリシーに違反する大規模言語モデル (LLM) の異常な使用法を検出する Lasso プラットフォームを拡張し、より適切なシミュレーションを可能にします。
注目すべきことに、LLM の専門家は、特に中国にのみ関連する限られたトピックを持っています。
しかし; DeepSeek R1 には、誤出力保護に対するガードレールが弱かった。