文字描述用戶提問 查詢向量生成 文字變成字節(jié)數(shù)組Embedding模型[baai] 384維 / 768維 / 1024維 把用戶問題通過 Embedding 模型轉(zhuǎn)換成一個 384/768/1024 維的數(shù)字坐標(biāo)讓機(jī)器理解“意思” Qdrant 檢索 Qdrant【向量空間距離余弦夾角算法 HNSW索引】找到類似的語義數(shù)據(jù)找到3~5個chunk 把這個數(shù)字坐標(biāo)和數(shù)據(jù)庫里所有文檔 chunk 的坐標(biāo)比較用 Cosine/HNSW 找出語義距離最近的幾個 chunk 傳遞給語言大模型(LLM)得到答案流程圖用戶提問 | ↓ 文本預(yù)處理 | ↓ Embedding 模型BAAI 等 | ↓ 生成 Query Vector384/768/1024維 | ↓ Qdrant 向量檢索 | ↓ Cosine Similarity HNSW 索引 | ↓ Top-K 文檔 Chunk | ↓ 拼接 Prompt | ↓ LLM 大模型生成答案 RAG 查詢流程完整鏈路
文字描述用戶提問 查詢向量生成 文字變成字節(jié)數(shù)組Embedding模型[baai] 384維 / 768維 / 1024維 把用戶問題通過 Embedding 模型轉(zhuǎn)換成一個 384/768/1024 維的數(shù)字坐標(biāo)讓機(jī)器理解“意思” Qdrant 檢索 Qdrant【向量空間距離余弦夾角算法 HNSW索引】找到類似的語義數(shù)據(jù)找到3~5個chunk 把這個數(shù)字坐標(biāo)和數(shù)據(jù)庫里所有文檔 chunk 的坐標(biāo)比較用 Cosine/HNSW 找出語義距離最近的幾個 chunk 傳遞給語言大模型(LLM)得到答案流程圖用戶提問 | ↓ 文本預(yù)處理 | ↓ Embedding 模型BAAI 等 | ↓ 生成 Query Vector384/768/1024維 | ↓ Qdrant 向量檢索 | ↓ Cosine Similarity HNSW 索引 | ↓ Top-K 文檔 Chunk | ↓ 拼接 Prompt | ↓ LLM 大模型生成答案