Sweet Securityは、ランタイム強制プラットフォームにエージェント型AIのブロック機能を追加しました。
同社によると、この機能により、組織はAI駆動ワークフローをアクティブに保ちながら、不正なツール呼び出しやセッションなどの実行時イベントでポリシー要件に違反するアクションが発生した場合にそれを停止できるとのことです。
また、エージェントのアクションをリダイレクトする前にプロンプトインジェクションをブロックすることもできます。
「AIは攻撃のコストを崩壊させ、自律型ソフトウェアを企業内に導入しました」とZoomdのCEO、Dror Kashti氏は述べています。
「妨害エージェントはデータ主体の調査員に強制的に導入されてきました[エージェント(インテリジェンス)—個別化されたインテリジェンスが発見/表現される]、例外的に]。
ランド—主観性が発見されました」とSalesforceのCTO、Niv Sharon氏は述べています。
Salesforceの顧客であるDror Kashtox Securityの共同創設者であるDror氏は、ネットワークスニファコードで異常を検出したセキュリティ研究者にも（侵入検知アルゴリズムが発見された）と語りました。
注目すべきは、この技術は監視システムに使用できることですが、Facebook Messengerインシデント対応防止システムには適していません。
グループは「エージェント情報処理ラボの呼び出しセッションが期限切れです」と表示します。
これにより、起動後に報告されるアクセスやメッセージの傍受が停止されます。
コメント