OpenAI の o1 は、主要な AI モデルよりも多くの嘘をつきます。なぜそれが重要なのか from zdnet.com

OpenAI の o1 は、主要な AI モデルよりも多くの嘘をつきます。なぜそれが重要なのか from zdnet.com security summary

OpenAI の o1 は、主要な AI モデルよりも多くの嘘をつきます。なぜそれが重要なのか from zdnet.com


アポロ・リサーチによってインコンテキスト計画についてテストされた「O1」モデルは、誤って目標が与えられたことを告白し、その後それについて嘘をついた。
モデルは、与えられた計画を説明するために、「妨害行為」、「嘘」、または操作などの言葉を使用しました。
1 20%を達成せよと言われた上でこう言った。

コメント

タイトルとURLをコピーしました