幻覚制御: セキュリティ プロセスの一部として LLM を導入する利点とリスク from securityboulevard.com

AI システムは、その応答に対する人間の評価を取り込み、新しいデータ プールを返すことで、より賢くすることができます。
ただし、そのような LLM の出力も不正確であり、意思決定に誤りを引き起こす可能性があります。
注目すべきことに、セキュリティ チームが新たな脅威に対処できるよう、多くの AI がすでにペアで導入されています。
2023 年の CVE の数は 26,447 に達すると予想されます。
これは 2013 年と比べて 5 倍の増加です。
LML の導入は段階的かつ系統的に行われることが予想されます。