CI/CDパイプラインのAIは騙されて不正な動作をする可能性があります from csoonline.com

CI/CDパイプラインに組み込まれたAIエージェントは、細工された問題やプルリクエストのテキストに隠された高優先度コマンドを使用するように仕向けられる可能性があることが、研究者らによって発見されました。
また、問題の本文やプルリクエストの説明がAIエージェントのプロンプトに直接入力される可能性もあると研究者らは述べています。
この攻撃は、リポジトリコンテンツの意図しない編集や機密情報の漏洩などにつながる可能性があります。