研究者らがChatGPTの脆弱性を発見、攻撃者がAIを騙してデータを漏洩させることが可能に from thehackernews.com

OpenAIのChatGPT人工知能システムに新たな脆弱性が発見されました。
攻撃者は、ユーザーの記憶やチャット履歴から、ユーザーに気付かれずに個人情報を盗むことができる可能性があると、セキュリティ研究者らは述べています。
この脆弱性はGPT-4oモデルに発見されました。
このモデルは間接的なプロンプトインジェクションを可能にし、ボットにコメント欄に悪意のある指示を入力するよう要求します。
また、「シャドウエスケープ」と呼ばれる別の手法は、相互接続されたシステムから機密データを盗むために利用される可能性があります。