詐欺師はAI検索結果を改ざんして、ユーザーを罠に誘導しようとしている

GoogleのAI概要と困惑」研究者らは、大規模言語モデル（LLM）の電話番号ポイズニングが新たなAIセキュリティリスクであると主張している。
この手法は、ウェブサイトのコードや機能を侵害することでLLMシステムに有害なアクションを実行させる間接プロンプトインジェクションの一種と見なすことができる。
研究者らはまた、エミレーツ航空の予約番号を尋ねたところ、AIアシスタントが偽のQ&A回答を返すことも発見した。