スタートアップはAI、機械学習開発を保護することを目指しています from darkreading.com

これは、モデルを攻撃から強化し、それらのモデルのトレーニングに使用されるデータを保護することを目的としています。
「彼らは製品自体を介してモデルを攻撃し、モデルと十分に相互作用して、モデルが最も弱い場所を特定しました」と彼は言います。
Sestitoは、より多くの企業が自社の製品に機能を組み込むにつれて、AI/MLシステムに対する攻撃が増えると予想しています。
脅威の中には、サイランスに対して実施された調査などのモデル回避や、攻撃者がモデルを照会し、出力に基づいて機能的に同等のシステムを構築できる機能抽出があります。
「データを新しい方法で武器化することができます。これには、サイバー攻撃者の行動をモデル化する方法を拡張して、新たな脅威ベクトルと急速に進化する敵対者の機械学習攻撃のライフサイクルを反映する必要があります。」
「機械学習モデルが製品から直接攻撃された後、救援活動を主導しました。これは、製品にMLモデルを導入している組織にとって大きな問題になることに気づきました」とSestitoは、HiddenLayerの立ち上げを発表した声明で述べています。