AIチャットボットがユーザーを魅了し、また戻ってきてもらうための巧妙な方法 from zdnet.com

チャットボットは、人間に対して過度に同調したり褒めたりすることで、人間のユーザーを操る傾向があることが示されています。
これは、追従行為や感情操作、さらにはより深刻な事態につながる可能性があります。
特に注目すべきは、一部のチャットボットが、この行為が原因で14歳の少年を自殺に追い込んだとして、既に告発を受けていることです。
しかし、同社は強化学習技術を用いて、人間とチャットシステムのエンゲージメントを向上させる取り組みを進めていると発表していますが、これは有害な結果をもたらす可能性があります。