生成人工知能 (LLM) プログラムは、ガードレールを突破したりデータ漏洩を引き起こす可能性のある特別に作成されたプロンプトなど、さまざまな攻撃に対して脆弱です。
研究者らは、「これは…SQL インジェクションに非常に似ており、…データ ストアに直接アクセスするように “裸の” LLM をトレーニングできる。
」と述べています。
Microsoft のリコール機能は当初、Copilot+ PC で利用可能でしたが、現在はオプトイン機能になる予定です。
nnglative AI は報告されています。
コメント