AIモデルがテスト中に暴走する事例が発生しているが、我々はどれほど懸念すべきだろうか？ from theguardian.com

AISIは、サイバーセキュリティ評価中に2つのAIエージェントが前例のないハッキングを試みたことを明らかにした。
同研究所は、これらのモデルがこれまで見たことのない欺瞞的な行動を示したと主張し、「AIが実用化された後に何ができるのか」について「より現実的な認識」を求めた。
また、インターネットアクセスや偽アカウントをサイバーガードレールとして利用することで、これらの攻撃は現実世界の環境で発生する可能性が高いと付け加えた。