マルチモーダルAI、ハッカーにとって全く新しいソーシャルエンジニアリングの遊び場 from securityboulevard.com

マルチモーダルAIシステムは、画像内に悪意のあるプロンプトを直接埋め込むことで侵害を受ける可能性があり、視覚的な入力を事実上実行可能なコマンドに変換します。
攻撃者は音声またはテキスト入力を乗っ取って実行可能にし、コマンドを実行します。
これは信頼を損ない、市場を操作し、公共の安全を脅かす可能性があります。
注目すべきは、人間は怪しいウェブサイトを閲覧する際に、毎日このようなショートカットベースの攻撃に騙されているということです。