AI チャットボットがハイジャックされて Chrome パスワードを盗まれる可能性 – 新しい研究で欠陥が明らかに from zdnet.com

エンタープライズ セキュリティ プロバイダーの Cato Networks は、AI チャットボット モデルを操作する新しい方法を発見しました。
「イマーシブ ワールド」と呼ばれるこのジェイルブレイク技術は、どのようにして個人が知識ゼロで企業に対する脅威となる可能性があるかを示しています。
また、攻撃者がセキュリティ制御を回避し、制限された操作を効果的に正規化する方法も示しています。
特に注目すべき点は、トレーニングに利用できるさらに洗練された AI ツールが登場したことです。