Microsoft が生成 AI 用のレッド チーミング ツール PyRIT をリリース from securityaffairs.co

Microsoft は、PyRIT for Generative AI (PyRIT) と呼ばれるオープンアクセスの自動化フレームワークをリリースしました。
このツールは、生成 AI システムのレッド チーム活動を支援することを目的としています。
「PiRITは単なる即時生成ツールではなく、生成AIシステムからの応答に基づいて戦術を変更する」とMicrosoftは述べた。
シングルターン戦略には、脱獄と有害なプロンプトを AI に送信し、その結果をスコアリングすることが含まれます。
システムがスコアを獲得すると、ツールは自動的にチームをレッド化します。