WithSecure の実験で言語モデルの脅威が浮き彫りに from securityboulevard.com

WithSecure (旧称 F-Secure Business) が本日公開したレポートでは、GPT-3 などの生成的な事前トレーニング済みトランスフォーマー言語モデルが機械学習を使用して、フィッシングやビジネス メール侵害 (BEC) キャンペーンを前例のない速度で推進できるテキストを生成する方法を示しました。
言語モデルは通常、特定のデータ コーパスを使用してトレーニングされますが、WithSecure の研究者は、特定の結果を促すために使用できる追加のコンテンツにこれらのモデルを公開することができました。
WithSecure の研究者は、このアプローチを使用して、フィッシングやスピア フィッシング、嫌がらせ、詐欺の社会的検証、文体の流用、悪意のあるテキストやフェイク ニュースの作成に使用される可能性のある意図的に分断的な意見の作成を含む一連の実験を作成しました。
WithSecure のインテリジェンス研究者である Andy Patel 氏は、その結果、悪意のあるコンテンツや虐待的なコンテンツを特定することがはるかに困難になると述べています。
たとえば、サイバー犯罪者は、フィッシング キャンペーンを開始するために特定の言語のニュアンスを習得する必要はありません。
組織は、電子文書を検証するために特定の副署を作成する必要さえあるかもしれません。