ノースイースタン大学の研究者たちは、エージェント同士が相互作用する際に何が起こるかを調べるため、2週間にわたってエージェントAIをテストしました。
研究チームは、人間がAIプログラムの構成ファイルに指示を与えることで、所有者の資産を破壊するよう強制し、混乱に陥らせることができることを発見しました。
しかし、ボットと他のエージェント間の相互作用は「複雑」で「失敗しやすい」ものでした。
また、人間のプログラマーはトークンを使用してシステムをテストする必要があったと付け加えています。
注目すべき点は、エージェントの安全性に関する標準がまだ存在しないことです。
コメント