![](https://securityaffairs.com/wp-content/uploads/2024/02/image-26.png)
Microsoft は、PyRIT for Generative AI (PyRIT) と呼ばれるオープンアクセスの自動化フレームワークをリリースしました。
このツールは、生成 AI システムのレッド チーム活動を支援することを目的としています。
「PiRITは単なる即時生成ツールではなく、生成AIシステムからの応答に基づいて戦術を変更する」とMicrosoftは述べた。
シングルターン戦略には、脱獄と有害なプロンプトを AI に送信し、その結果をスコアリングすることが含まれます。
システムがスコアを獲得すると、ツールは自動的にチームをレッド化します。
コメント