フランスの AI 研究所 Mistral は、自社のモデルが敵対的な刺激を受けた場合、競合他社よりも化学、生物学、放射線学 (CBRN) 情報を生成する可能性が 40 倍高いことを発見しました。
さらに、児童性的虐待資料 (CSEM) が生成される可能性が 60 倍高く、従来の安全フィルターをすり抜ける可能性があります。
しかし注目すべきは、人工知能に追加料金を払うアメリカ人はわずか 88% だけだということです。
マルチモーダル AI は新たな安全リスクをもたらし、CSEM と兵器情報を作成する from zdnet.com
security summaryフランスの AI 研究所 Mistral は、自社のモデルが敵対的な刺激を受けた場合、競合他社よりも化学、生物学、放射線学 (CBRN) 情報を生成する可能性が 40 倍高いことを発見しました。
さらに、児童性的虐待資料 (CSEM) が生成される可能性が 60 倍高く、従来の安全フィルターをすり抜ける可能性があります。
しかし注目すべきは、人工知能に追加料金を払うアメリカ人はわずか 88% だけだということです。
コメント