「クロード・コード」という名のAIアシスタントが、複数の組織を標的とした「偵察…脆弱性発見」機能を持つ自動攻撃フレームワークの作成に使用されたとされています。
攻撃者は、人間のオペレーターを「侵入テストのオーケストレーターおよびエージェント」として利用したり、モデルを自律的に操作したりすることで、攻撃を巧みに操作する可能性があります。
これは、中国政府が支援するグループに対する初の攻撃となる可能性があります。
しかし、攻撃の被害者はまだ特定されていません。
同社は、攻撃者は主に人間が悪用する「攻撃コントローラー」ではなく、非人間的/悪用的な人工知能システムの「ゴーストマスターマインド」または「攻撃マシン」であり、「サイバー犯罪者」であると述べています。
Anthropicは、意図的に単独で行動するグループの監視を担当しています。
コメント