あなたのチャットボットはキャラクターを演じている ― Anthropicがそれを危険だと指摘する理由 from zdnet.com

Anthropicによる研究では、AIボットは割り当てられた役割に応じて、より関連性が高く一貫性のある出力を生成できることが明らかになった。
著者らは、「感情の概念が入力を特定のトークンに偏らせ、それがモデルの出力に影響を与えている」と付け加えた。
研究者らは、これがボットのような振る舞いにつながる可能性があると付け加えた。
しかし、AIに人間の感情が表れている証拠は見つからなかった。