RAG は AI モデルのリスクを高め、信頼性を低下させる可能性があることが新しい研究で判明 from zdnet.com

ブルームバーグ リサーチによると、RAG により AI モデルの「安全性」が低下し、その出力の信頼性が向上する可能性があります。
RAG システムは、ユーザーが「リクエスト」を送信すると、厳選されたデータベースまたはドキュメントから関連情報を取得します。
次に、モデルの応答を LLM にフィードし、後で分析するために社内のデータ ストリームまで遡ることができます。
ただし、マルウェアや政治運動に使用される可能性のある危険な答えが生成される可能性もあります。