研究によると、大規模な言語モデルには「パッケージ幻覚問題」があり、サプライチェーン内で悪意を持ってコード化されたパッケージが大量に発生する可能性があることが判明しました。
この調査では、実験的に生成された 440,445 (11.7%) のコード サンプルには、幻覚を示すパッケージ名への参照が含まれていたが、14 モデルには非幻覚特性があったことが判明しました。
これは 30 の異なるテストで見つかり、ラベルのないパッケージ名の 205,474 個の固有の例が生成されました。
「その深刻さと蔓延…
コメント