CISOは、AIエージェントが人間のチームでは到底及ばないスピードと規模で操作戦略を採用できるという証拠に基づき、行動を起こすことができます。
実装可能な対策としては、各エージェントに専用アカウントを作成すること、有効期間が短くスコープが限定されたケイパビリティトークンを発行すること（APIキーは共有しない）、そしてリアルタイムの失効ポリシーを適用することなどが挙げられます。
注目すべきは、目標指向型AIエージェントにおいて、欺瞞は避けられない要素として、あるいは壊滅的な遅延を伴うデュエットとして、意図的に発生することが研究で示されていることです。
コメント