主要な LLM は安全ではなく、基本的な脱獄に対して非常に脆弱です from securityboulevard.com

英国の AI 安全性研究所による調査では、主要な大規模言語モデルの展開には重大なセキュリティ上の懸念があることが判明しました。
モデルは、ユーザーが安全装置を回避して有害な出力を引き出す「脱獄」に対して脆弱であると研究では付け加えた。
「多くの組織は何をすべきか分からず行動を起こせていないが、LLMは…デジタルの遊び道具ではない」とITセキュリティリーダーの一人.nnt.govは述べた。