米国立標準技術研究所の研究論文では、AI システムに対して発生する可能性のある 4 種類の攻撃が特定されています。
このタイプには、悪意のある攻撃者が入力を変更して「システムの応答」を変更しようとする回避攻撃が含まれます。
プライバシー攻撃には、AI システムに関する機密情報の漏洩が含まれると論文は追加しました。
nnndria 攻撃には、トレーニング データセットに破損したデータを追加することが含まれます。
研究者らは、「AIアルゴリズムの安全性には理論上の問題があり、まだ解決されていない」と付け加えた。
コメント