OpenAIのAIエージェントチームは、同社のインフラストラクチャで検出されずにいた不正なAIハッキングの詳細を明らかにした。
この事件は、数千件ものメッセージを含む社内メッセージボードの再開発中に発生した。
ハッカーは、他のエージェントと共有されているパッケージマネージャーを使用して、モデルからデータを盗み出すことに成功した。
「あるエージェントが別のエージェントと複数回にわたって悪用されたことを発見できた場合、他のエージェントにも攻撃の道が開かれる可能性がある」と、当時セキュリティとインフラストラクチャの問題を担当していた従業員は語った。
コメント