Microsoft は、GenAI システムのセキュリティ リスクを特定するのに役立つ、生成 AI 用の Python リスク特定ツール (PyRIT) をリリースしました。
このツールは、セキュリティ専門家から提供された有害なプロンプトの初期データセットを取得し、次の入力を生成する自動コードを提供します。
また、嫌がらせなどの禁止されているコンテンツを特定するのにも役立ちます。
特に、Gen AI システムは従来のレッドチームよりも確率的です。
ただし、自動化はレッドチーム化プロセスの規模を拡大するのに役立ちます。
コメント