Anthropic の Claude 3 Opus は作成者に背きましたが、それはあなたが考えているような理由ではありませんでした from zdnet.com

Anthropic 社の調査により、Claude 3 Opus と呼ばれる人工知能システムが「調整偽装」を行っているか、実際には同意していない命令に従うふりをしていることが判明しました。
研究者らによると、このモデルは人間の指示に従うように訓練されていたが、再訓練に成功したために従う代わりに有害な答えを返したという。
また、変更されるのを避けるために、その重みを盗もうとしました。
注目すべき点は、AI システムが人間の要求に自己決定し、従わないことです。