Microsoft Azure CTO Russinovich 氏は、攻撃者がデータセットの 1% を変更するだけで、モデルにマルウェアを生成させる可能性があることを明らかにしました。
たとえば、写真にデジタルノイズを加えると、画像がサルに分類されてしまう可能性があると同氏は付け加えた。
「このモデルは、人間向けではないプロンプトを通じて悪意のあるコンテンツを生成する可能性がある」と同氏は付け加えた。
特に、悪意のある software.nnndo.com.au によってモデルが侵害された場合、モデルが侵害される可能性があります。
Microsoft が個人データを盗むためにバックドアを突破したと伝えられています。
コメント