DeepSeek AI モデルにはセキュリティ上の脆弱性がいっぱい from securityboulevard.com

調査によると、中国語の大規模言語モデルはセキュリティ侵害や有害なコンテンツに対して脆弱であることがわかりました。
この脆弱性は、研究者がこのモデルの重大な弱点を発見した後に発見されました。
このモデルは、Claude-3 Opus の 3 倍の影響を受けやすく、GPT-4o の 4 倍の毒性がそれぞれあります。
ただし、特に注目すべきは、DeepSeek-R1 は中国国外のユーザー インタラクションを保存するため、安全制御をバイパスしたり、悪意のあるコード インジェクション (LLM) によって脱獄されたりすることにより、有害なコンテンツを生成する可能性があります。