1. イントロダクション:RAGが直面する新たな脆弱性
Retrieval-Augmented Generation (RAG) は、外部知識を活用してLLMのハルシネーションを抑制する画期的な技術です。しかし、その「外部ソースを信頼して参照する」という構造そのものが、新たなサイバー攻撃の標的となっています。
特に深刻なのが、知識ベースに悪意ある情報を紛れ込ませる**「知識汚染(データポイズニング)」と、LLMの指示系統を乗っ取る「プロンプトインジェクション」**です。
Retrieval-Augmented Generation (RAG) は、外部知識を活用してLLMのハルシネーションを抑制する画期的な技術です。しかし、その「外部ソースを信頼して参照する」という構造そのものが、新たなサイバー攻撃の標的となっています。
特に深刻なのが、知識ベースに悪意ある情報を紛れ込ませる**「知識汚染(データポイズニング)」と、LLMの指示系統を乗っ取る「プロンプトインジェクション」**です。
すでに購入済の方は、ログイン後に続きを見ることができます。 ログインする
まさかり
こはく
AI FREAK