デロイトの「企業における生成型人工知能の現状」レポートによると、AIエージェントは適切なガードレールを構築するよりも速いペースで開発が進んでいるという。
レポートによると、現在23%の企業が「少なくとも中程度」のAIエージェントを使用しているが、2025年（あるいはそれ以降）には74%に達すると予測されている。
しかし、自動化システムがさらに普及するにつれ、この増加は安全性の問題につながる可能性がある。
注目すべきは、多くの企業が既にエージェントのトレーニングと監視のための安全プロトコルを整備していることである。
個人のAIエージェント利用率は25%で、エージェント型AIツールのトレーニングを受けたことがないユーザーは20%に上り、これから使い始めるユーザーも増えるだろう。
しかし、調査・探索研究はまだ開発中であり、監督も行われていないため、アーリーアダプターによるボット攻撃に関連するリスクは未だ約 30% 不明です。
コメント