Microsoft、多くの生成 AI モデルに影響を与える新たな脱獄について警告 from csoonline.com security summary Twitter Facebook はてブ Pocket LINE コピー 2024.06.27 www.csoonline.comMicrosoft warns of novel jailbreak affecting many generative AI models - csoonline.comAbusers can trick the model into ignoring responsible AI guardrails and responding with ha... Microsoftは、Skeleton Keyのような攻撃はさまざまな生成AIモデルに作用する可能性があると述べている。 この脅威はジェイルブレイクのカテゴリに属しており、攻撃者が既に AI モデルに正規にアクセスできることに依存しています。 Microsoft によると、いくつかの生成 AI タイプが SkeletonKey ジェイルブレイクの影響を受けます。 脱獄が成功したのは、「モデルがガイドラインを改訂したことを認識し」、指示に従ってコンテンツを作成した場合です。
コメント