AIエージェントは既知の脆弱性を見つけて悪用できることが調査で判明 from csoonline.com

研究者らは主に Web ベースの環境で脆弱性を発見しましたが、そのシンプルさゆえに簡単に悪用される可能性があります。
エージェントは実行したシミュレーションで、SQL インジェクションなどの非常に一般的なタイプの脆弱性の新しい例を発見しました。
しかし、新しいタイプやタイプが見つかるという証拠はまだ見つかっていない。
「大規模な言語モデルは先進的ではあるが、人間による大幅な監視なしに自律的に複雑な環境を完全に理解したりナビゲートしたりすることはまだできない」と研究者は述べた。