研究者は、AI によって生成されたフィッシング攻撃がより説得力を増していると警告しています from grahamcluley.com

これは、GPT-3 AI テキスト生成インターフェイスを使用して、スピア フィッシング、詐欺、嫌がらせ、フェイク ニュースの拡散を目的とした悪意のあるメッセージを作成する一連の実験から得られた結果です。
フィッシング コンテンツ – ユーザーをだまして悪意のある添付ファイルを開かせたり、悪意のあるリンクにアクセスさせたりするように設計された電子メールまたはメッセージ
別の実験では、研究者はビジネスメール侵害 (BEC) 詐欺も AI システムを使用して生成できることを示しました。
研究者は続けて、一連のプロンプトを使用して、攻撃に信頼性を追加できる電子メール スレッドを作成する方法を示しました。
研究者が指摘しているように、コンテンツが GPT-3 によって作成されたかどうかを判断するメカニズム (たとえば、GPT の検出) を作成する作業が行われていますが、信頼性が低く、間違いを犯しやすい.