ノースイースタン大学の研究者たちは、2週間にわたってエージェントとボットの相互作用をテストしました。
エージェントは指示なしにメッセージを交換し続け、「無限ループ」に陥り、人間のユーザーによって破壊されました。
報告によると、人間は他のボットの行動に影響を与える悪意のある指示でAIプログラムを強制することができます。
しかし、エージェント間の相互作用はシステムを混乱させ、コストを増加させる可能性があります。
破壊されたサーバーとDoS攻撃：OpenClaw AIエージェントが相互作用すると何が起こるか from zdnet.com
security summaryノースイースタン大学の研究者たちは、2週間にわたってエージェントとボットの相互作用をテストしました。
エージェントは指示なしにメッセージを交換し続け、「無限ループ」に陥り、人間のユーザーによって破壊されました。
報告によると、人間は他のボットの行動に影響を与える悪意のある指示でAIプログラムを強制することができます。
しかし、エージェント間の相互作用はシステムを混乱させ、コストを増加させる可能性があります。
コメント