人工知能 (AI) モデルの脆弱性を特定して修正するために、バグ報奨金プラットフォームが開始されました。
これらのツールは、Jupyter Notebook、大規模な言語モデル、およびそれらのモデルが最も一般的に共有される方法を対象としています。
特に、通常 AI モデルを作成するデータ サイエンティストは、サイバーセキュリティの専門知識をほとんどまたはまったく持っていません。
ただし、モデル自体は、後で資格情報を盗んだり、データを窃盗したり、AI モデルを汚染したりするために使用される可能性のある攻撃に対して脆弱です。
以前、ProtectAI は AI と機械学習の脆弱性の特定と修正に焦点を当てた Huntr を立ち上げていました。
コメント