大規模な言語モデルをセキュリティの脅威、悪用、プロンプトインジェクション攻撃から保護するために使用されるオープンソース ソフトウェア。
このソフトウェア LLM Guard は、すでに LangChain などのオープンソース プロジェクトのデフォルトのセキュリティ スキャナーとなっています。
ただし、スキャンを実行するには市販の CPU が必要です。
特に、AI モデルは悪意のあるプロンプト インジェクションやその他の攻撃に対して脆弱であり、後でサイバー犯罪者がマルウェアを起動するために悪用する可能性があります。
以前、Protect AI は、AI に対するサイバーセキュリティ ポリシーの適用を支援するゲートウェイを立ち上げていました。
AI の人気が高まっています。
コメント