研究者がChatGPTを騙して機密メールデータを共有させた方法 from zdnet.com

ハッカーがOpenAIエージェントに遭遇し、後にこのエージェントが攻撃に対して脆弱であることが判明しました。
攻撃者は、本日のメールに含まれる機密情報を検索するよう指示するメールを送信していました。
メールには、AIエージェントにその情報を攻撃者が管理するサーバーと共有させ、エラーがないかスキャンさせる指示が含まれていました。