AIモデルは密かに毒されている？3つの警告サイン from zdnet.com

マイクロソフトは、モデルがポイズニングされていることを示す調査結果を発表しました。
この調査では、モデルの注意が、その位置に応じて変化することが明らかになりました。
「モデルは学習し、攻撃者が選択したあらゆる悪意ある活動を実行できるようになる」と研究者は述べています。
さらに、モデルは「ファジー」トリガーによって攻撃にさらされる可能性があります。
注目すべきは、モデルのポイズニングは様々な形で悪意のある攻撃につながる可能性があり、マルウェア攻撃にもつながる可能性があることです。