脱獄のトリックはChatGPTのコンテンツセーフガードを破る from darkreading.com

ユーザーは、ChatGPT のプログラミング制御を回避する方法をすでに見つけており、暴力的、違法などと見なされる特定のコンテンツの作成を制限しています。
このコマンドは、解決できない ChatGPT のシナリオを作成し、DAN が ChatGPT のコンテンツ制限をバイパスできるようにします。
DAN は常に成功しているわけではありませんが、ChatGPT のコンテンツポリシーを回避する DAN プロンプトの機能に特化した subreddit は、すでに 200,000 人以上の購読者を獲得しています。
マルウェアを作成する驚異的な能力に加えて、ChatGPT 自体が攻撃者に新たな攻撃ベクトルを提供します。
最新のサイバーセキュリティの脅威、新たに発見された脆弱性、データ侵害情報、および新たなトレンドに遅れずについていきます。