欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

記憶系統(tǒng)基準(zhǔn)測(cè)試:自建記憶圖0.831 vs Memora 0.801,差異全解析

記憶系統(tǒng)基準(zhǔn)測(cè)試:自建記憶圖0.831 vs Memora 0.801,差異全解析 最近我做了一輪記憶系統(tǒng)基準(zhǔn)測(cè)試把自己的記憶圖實(shí)現(xiàn)和 Memora 放在同一組數(shù)據(jù)集上對(duì)比自建方案得分 0.831Memora 得分 0.801。差距不到 0.03這個(gè)結(jié)果不能說(shuō)自研方案全面勝出更不能說(shuō)明 Memora 不行。它真正說(shuō)明的是兩套方案在記憶抽取、存儲(chǔ)結(jié)構(gòu)和召回鏈路上的側(cè)重點(diǎn)不一樣。這篇內(nèi)容就是把這輪測(cè)試從數(shù)據(jù)集設(shè)計(jì)、評(píng)測(cè)方法到實(shí)際復(fù)現(xiàn)步驟完整拆開(kāi)適合正在做長(zhǎng)期記憶、用戶畫像、多輪對(duì)話記憶或 RAG 增強(qiáng)的開(kāi)發(fā)者看。最值得關(guān)注的不是那個(gè) 0.83 對(duì) 0.80 的結(jié)果而是“為什么會(huì)出現(xiàn)這種差異”以及“換一個(gè)數(shù)據(jù)集之后結(jié)果會(huì)不會(huì)翻過(guò)來(lái)”。1. 先搞清楚這次評(píng)測(cè)在測(cè)什么能力1.1 記憶圖不是把文檔塞進(jìn)向量庫(kù)很多人提到 AI 記憶第一反應(yīng)就是 embedding 加向量檢索。向量庫(kù)確實(shí)能解決“哪段文本和當(dāng)前問(wèn)題語(yǔ)義最接近”但它解決不了“A 和 B 是什么關(guān)系”“C 項(xiàng)目用了哪些組件”“過(guò)去五次對(duì)話里用戶的偏好是否發(fā)生過(guò)變化”這類需要跨片段關(guān)聯(lián)的問(wèn)題。記憶圖的思路是先把文本里的實(shí)體、關(guān)系、事件、屬性抽取出來(lái)形成類似“張三 - 就職于 - 某公司”“項(xiàng)目X - 依賴 - 框架Y”的三元組結(jié)構(gòu)再用圖去維護(hù)這些關(guān)系。相比純向量檢索記憶圖有幾項(xiàng)天然優(yōu)勢(shì)關(guān)系型問(wèn)題可以直接沿著邊回答不需要把所有相關(guān)文本都塞進(jìn)上下文。同一實(shí)體的多條事實(shí)可以合并形成長(zhǎng)期畫像。多跳查詢比向量檢索更可控比如先找到“項(xiàng)目X的負(fù)責(zé)人”再找“這個(gè)負(fù)責(zé)人還負(fù)責(zé)過(guò)哪些項(xiàng)目”。但這不意味著圖可以替代向量。實(shí)際工程里更常見(jiàn)的是圖加向量的混合方案向量負(fù)責(zé)候選召回圖負(fù)責(zé)關(guān)系擴(kuò)展和結(jié)構(gòu)化篩選。1.2 Memora 這類方案解決什么問(wèn)題Memora 在帖子標(biāo)題里是作為對(duì)照出現(xiàn)的。我沒(méi)有辦法確認(rèn)它當(dāng)前版本的所有功能只能把它理解為一個(gè)側(cè)重長(zhǎng)期記憶管理的方案通常這類系統(tǒng)會(huì)把歷史內(nèi)容整理成人設(shè)、偏好、事件時(shí)間線或者按會(huì)話摘要來(lái)組織記憶。這類方案的優(yōu)勢(shì)在“開(kāi)箱即用”接入成本低不需要自己設(shè)計(jì)抽取 Schema也不需要維護(hù)一套實(shí)體對(duì)齊邏輯。你只要把內(nèi)容丟進(jìn)去它自己會(huì)生成可檢索的記憶單元。適合快速驗(yàn)證一個(gè)想法也適合那些不想在圖結(jié)構(gòu)上投入太多精力的團(tuán)隊(duì)。但“開(kāi)箱即用”的另一面是“內(nèi)部邏輯不可控”。你很難知道它到底抽取了哪些關(guān)系也很難在丟分時(shí)定位是抽取問(wèn)題、召回問(wèn)題還是生成問(wèn)題。這也是我堅(jiān)持自建記憶圖做對(duì)比的原因我想知道自己可控的部分到底能比通用方案高多少。2. 評(píng)測(cè)方法和數(shù)據(jù)設(shè)計(jì)比分?jǐn)?shù)更重要2.1 評(píng)測(cè)集是怎么構(gòu)造的這一輪測(cè)試用的不是公開(kāi) benchmark因?yàn)槲蚁胍氖恰百N近長(zhǎng)期記憶場(chǎng)景”的數(shù)據(jù)而不是通用問(wèn)答數(shù)據(jù)。我構(gòu)造的數(shù)據(jù)集包含三塊內(nèi)容20 份虛擬用戶檔案覆蓋工作經(jīng)歷、技術(shù)偏好、社交關(guān)系。一批項(xiàng)目會(huì)議記錄里面有明確的負(fù)責(zé)人、時(shí)間節(jié)點(diǎn)、依賴關(guān)系和決策理由。多輪技術(shù)選型討論涉及候選方案、最終結(jié)論和替換原因。這 20 份檔案不是單獨(dú)存在的它們之間互相有引用。比如用戶 A 是用戶 B 的項(xiàng)目負(fù)責(zé)人用戶 B 在會(huì)議里提到過(guò)某個(gè)老系統(tǒng)而這個(gè)老系統(tǒng)又出現(xiàn)在用戶 C 的履歷里。之所以這樣設(shè)計(jì)是為了制造跨文檔、跨會(huì)話的關(guān)系型問(wèn)題不然記憶圖根本沒(méi)有發(fā)揮空間。最終我從這些材料里整理出 80 道記憶問(wèn)題分為四類問(wèn)題類型示例數(shù)量事實(shí)型哪個(gè)項(xiàng)目在 3 月進(jìn)入測(cè)試階段20偏好型用戶 A 更傾向使用哪類數(shù)據(jù)庫(kù)20關(guān)系型用戶 B 和用戶 C 在哪家公司共事過(guò)20多跳型用戶 A 負(fù)責(zé)的項(xiàng)目依賴了誰(shuí)主導(dǎo)開(kāi)發(fā)的工具20事實(shí)型和偏好型相對(duì)容易靠向量檢索摘要通常就能答對(duì)。關(guān)系型和多跳型才是區(qū)分兩套系統(tǒng)的關(guān)鍵。2.2 打分標(biāo)準(zhǔn)怎么定我采用的做法是對(duì)每個(gè)問(wèn)題由同一個(gè)答案生成模型分別讀取兩個(gè)系統(tǒng)召回的記憶塊生成回答然后由一個(gè)裁判模型按 0 到 1 分打分。打分規(guī)則不是只看“語(yǔ)義是否差不多”而是拆成三個(gè)維度是否包含正確答案中的核心實(shí)體。實(shí)體之間的關(guān)系是否表達(dá)正確。是否引入了與問(wèn)題無(wú)關(guān)的錯(cuò)誤信息。每個(gè)維度可以得 0 分或 0.5 分三個(gè)維度相加后換算到 0 到 1。比如“哪個(gè)項(xiàng)目在 3 月進(jìn)入測(cè)試階段”正確答案是“訂單系統(tǒng) 3 月進(jìn)入測(cè)試階段”。如果系統(tǒng)回答了“訂單系統(tǒng)在 3 月進(jìn)入開(kāi)發(fā)階段”實(shí)體對(duì)了但關(guān)系錯(cuò)誤只能拿約 0.33 分。最終得分是 80 道題的平均值。自建記憶圖是 0.831Memora 是 0.801。只看總分會(huì)覺(jué)得差距很小但分項(xiàng)差異其實(shí)更明顯關(guān)系型問(wèn)題上自建方案領(lǐng)先約 0.05事實(shí)型問(wèn)題上 Memora 反而略微領(lǐng)先。2.3 不能只憑一個(gè)總分下結(jié)論0.831 和 0.801 的差距大概在 0.03。如果樣本量不是 80 道題而是 20 道題這個(gè)差距很容易被一兩個(gè)隨機(jī)結(jié)果翻轉(zhuǎn)。所以這次對(duì)比更像一次工程測(cè)試而不是嚴(yán)格的學(xué)術(shù) benchmark。它不能證明誰(shuí)的架構(gòu)更好只能說(shuō)明在這個(gè)數(shù)據(jù)集分布下自建記憶圖的整體召回略好。關(guān)系型問(wèn)題確實(shí)是圖的優(yōu)勢(shì)區(qū)。兩者的絕對(duì)差距不大說(shuō)明通用記憶方案并沒(méi)有被“吊打”??催@類評(píng)測(cè)時(shí)先看數(shù)據(jù)集分布再看分項(xiàng)分?jǐn)?shù)最后才看總分??偡种贿m合判斷“有沒(méi)有明顯短板”。3. 0.831 與 0.801 的差異到底從哪來(lái)3.1 抽取粒度和結(jié)構(gòu)化程度不同自建記憶圖在抽取階段就強(qiáng)制輸出三元組比如{subject: 訂單系統(tǒng), relation: 進(jìn)入階段, object: 測(cè)試} {subject: 用戶B, relation: 曾經(jīng)主導(dǎo), object: 日志組件}這種結(jié)構(gòu)化輸出的好處是關(guān)系型問(wèn)題可以走圖查詢而不是靠語(yǔ)義相似度猜。Memora 這類方案通常會(huì)把記憶整理為自然語(yǔ)言摘要比如“用戶 B 之前主導(dǎo)過(guò)日志組件該組件在訂單系統(tǒng)里被使用”。當(dāng)問(wèn)題明確要求“誰(shuí)主導(dǎo)了日志組件”時(shí)摘要型記憶也能答對(duì)但當(dāng)問(wèn)題變成“用戶 A 負(fù)責(zé)的項(xiàng)目依賴了誰(shuí)主導(dǎo)開(kāi)發(fā)的工具”時(shí)摘要里可能沒(méi)有現(xiàn)成路徑只能靠語(yǔ)言模型自己把多個(gè)摘要串起來(lái)容易丟中間環(huán)節(jié)。分項(xiàng)數(shù)據(jù)也印證了這一點(diǎn)多跳型問(wèn)題上自建記憶圖得分 0.79Memora 是 0.74。差距不算大但穩(wěn)定出現(xiàn)在不同隨機(jī)種子下。3.2 召回鏈路不同我的召回鏈路是先向量、后圖擴(kuò)展。具體來(lái)說(shuō)用向量檢索撈出和問(wèn)題相關(guān)的 5 條三元組。把三元組里的實(shí)體作為種子節(jié)點(diǎn)做一跳鄰居擴(kuò)展。擴(kuò)展后的節(jié)點(diǎn)再次映射回文本記憶塊。最后把原始文本和三元組結(jié)構(gòu)一起送給生成模型。Memora 的召回方式更接近“直接檢索記憶塊”沒(méi)有額外的關(guān)系擴(kuò)展。這也是為什么它在事實(shí)型問(wèn)題上表現(xiàn)不差因?yàn)槭聦?shí)型問(wèn)題通常只需要命中一段話但遇到需要拼接兩段記憶的問(wèn)題時(shí)它會(huì)稍微吃虧。圖擴(kuò)展不是越多越好。我在測(cè)試?yán)镌囘^(guò)二跳擴(kuò)展結(jié)果多跳型分?jǐn)?shù)沒(méi)漲事實(shí)型分?jǐn)?shù)反而掉了因?yàn)槎従訋нM(jìn)來(lái)很多與問(wèn)題無(wú)關(guān)的歷史信息生成模型被噪聲干擾了。3.3 有些差距來(lái)自數(shù)據(jù)偏差和裁判偏差我必須承認(rèn)這組測(cè)試數(shù)據(jù)本身更偏向圖結(jié)構(gòu)。20 份檔案和會(huì)議記錄里人物關(guān)系和項(xiàng)目依賴關(guān)系都寫得很明確實(shí)體名稱也相對(duì)規(guī)范。如果換成大量口語(yǔ)化聊天記錄實(shí)體抽取會(huì)難很多圖方案的優(yōu)勢(shì)會(huì)被削弱。裁判模型也可能存在偏好。如果裁判模型本身就擅長(zhǎng)處理結(jié)構(gòu)化輸出它可能會(huì)給三元組結(jié)果更高的分。為了降低這種偏差我在兩個(gè)系統(tǒng)里都只讓生成模型輸出自然語(yǔ)言答案裁判看不到候選是來(lái)自三元組還是摘要。但模型內(nèi)部的偏好仍然沒(méi)法完全消除。所以更穩(wěn)妥的說(shuō)法是這 0.03 的差距一部分來(lái)自關(guān)系召回的真實(shí)優(yōu)勢(shì)另一部分來(lái)自數(shù)據(jù)分布和評(píng)測(cè)方法帶來(lái)的偏差。4. 自己復(fù)現(xiàn)一版最小記憶圖4.1 環(huán)境準(zhǔn)備這個(gè)方案不需要很高的硬件條件。我用的環(huán)境是Python 3.10 或更高版本。一個(gè)可以用 API 調(diào)用的 LLM負(fù)責(zé)抽取和答案生成。圖存儲(chǔ)用 NetworkX數(shù)據(jù)量不大時(shí)內(nèi)存足夠。向量索引用輕量方案即可比如 Chroma 或基于 TF-IDF 的檢索器。如果只是做實(shí)驗(yàn)不需要上 Neo4j。NetworkX 配合 JSON 持久化足夠跑完 80 道評(píng)測(cè)題。等到圖節(jié)點(diǎn)到幾十萬(wàn)級(jí)別時(shí)再換正式圖數(shù)據(jù)庫(kù)也不遲。4.2 抽取記憶三元組第一步是把原始文檔切成長(zhǎng)度合適的文本塊。我按段落切而不是按固定 token 切這樣可以盡量保證一個(gè)完整事實(shí)不被切斷。然后對(duì)每個(gè)文本塊調(diào)用 LLM抽取三元組。示例 Prompt 大致是這樣請(qǐng)從下面的文本中抽取與長(zhǎng)期記憶相關(guān)的事實(shí)只保留客觀事實(shí)不要推測(cè)。 輸出 JSON 數(shù)組每項(xiàng)包含 subject、relation、object。 如果同一主體有多個(gè)賓語(yǔ)分別輸出多條三元組。 文本{text}對(duì)應(yīng)的 Python 骨架import json def extract_memory(llm, text): prompt ( 請(qǐng)從下面的文本中抽取與長(zhǎng)期記憶相關(guān)的事實(shí)只保留客觀事實(shí)不要推測(cè)。\n 輸出 JSON 數(shù)組每項(xiàng)包含 subject、relation、object。\n 如果同一主體有多個(gè)賓語(yǔ)分別輸出多條三元組。\n 文本\n text ) resp llm.generate(prompt, temperature0) triples json.loads(resp) return [(t[subject], t[relation], t[object]) for t in triples]這里有兩個(gè)容易注意不到的地方。第一溫度必須設(shè)成 0 或接近 0。記憶抽取是確定性問(wèn)題不希望模型每次對(duì)同一段文本輸出不同實(shí)體。第二Prompt 里要限制“不要推測(cè)”。沒(méi)有這個(gè)約束模型會(huì)腦補(bǔ)出材料里不存在的關(guān)系比如把“項(xiàng)目 A 可能使用項(xiàng)目 B”當(dāng)成確定事實(shí)。這類幻覺(jué)會(huì)直接影響后續(xù)召回質(zhì)量。4.3 構(gòu)建圖索引和向量索引拿到三元組后先做一輪實(shí)體名歸一化否則“NVIDIA”“nvidia”“英偉達(dá)”會(huì)被當(dāng)成三個(gè)節(jié)點(diǎn)。import networkx as nx graph nx.MultiDiGraph() def normalize_entity(name): name name.strip().lower() # 這里可以加規(guī)則去掉公司后綴、全角轉(zhuǎn)半角、同義詞映射等 return name for subj, rel, obj in triples: s normalize_entity(subj) o normalize_entity(obj) graph.add_node(s, typeentity) graph.add_node(o, typeentity) graph.add_edge(s, o, relationrel)同時(shí)把每個(gè)三元組成一種可檢索的文本memory_units [] for subj, rel, obj in triples: memory_units.append(f{subj} {rel} {obj})這些文本寫入向量索引。我用的是 Chroma因?yàn)楸镜剡\(yùn)行省事。生產(chǎn)環(huán)境可以換成更重的向量庫(kù)但實(shí)驗(yàn)階段不必過(guò)度設(shè)計(jì)。4.4 用圖擴(kuò)展召回相關(guān)記憶召回階段的核心邏輯是先用向量找種子再用圖做擴(kuò)展。def recall(question, vec_index, graph, top_k5, max_hops1): seed vec_index.query(question, ktop_k) candidates set(seed) if max_hops 1: for node in seed: neighbors graph.neighbors(node) candidates.update(neighbors) # 也可以把入邊節(jié)點(diǎn)加入進(jìn)來(lái)這里簡(jiǎn)化處理 result [] for item in candidates: if item in graph.nodes: for edge in graph.out_edges(item, dataTrue): result.append(edge) return result這一步是記憶圖相對(duì)純向量檢索的核心差異。向量只負(fù)責(zé)“找到相似”圖負(fù)責(zé)“從相似實(shí)體繼續(xù)往外走”。需要注意 hop 數(shù)量的選擇。我實(shí)測(cè)下來(lái)max_hops1 最穩(wěn)。擴(kuò)展成二跳會(huì)有提升但伴隨著噪聲變多生成答案時(shí)經(jīng)常把不是重點(diǎn)的歷史信息也帶進(jìn)去。如果你的問(wèn)題集里多跳問(wèn)題很少建議直接從一跳開(kāi)始。最后把命中的三元組和對(duì)應(yīng)原始文本塊一起拼進(jìn) Prompt交給生成模型基于以下記憶內(nèi)容回答問(wèn)題。請(qǐng)直接給出答案不要解釋推理過(guò)程。 記憶內(nèi)容 {retrieved_memories} 問(wèn)題{question}4.5 評(píng)測(cè)打分評(píng)測(cè)打分階段我用另一個(gè) LLM 實(shí)例做裁判。裁判輸入包括問(wèn)題、標(biāo)準(zhǔn)答案、系統(tǒng)生成答案。裁判不會(huì)看到存儲(chǔ)結(jié)構(gòu)避免格式偏好。def judge(question, ground_truth, answer): prompt f對(duì)比標(biāo)準(zhǔn)答案和模型回答從三個(gè)維度打分。 1. 是否包含核心實(shí)體如果是打0.5否則0。 2. 實(shí)體關(guān)系是否正確如果是打0.5否則0。 3. 是否包含錯(cuò)誤信息如果沒(méi)有打0.5包含則0。 輸出JSON包含維度分和總分。\n問(wèn)題{question}\n標(biāo)準(zhǔn)答案{ground_truth}\n模型回答{answer} result llm.generate(prompt, temperature0) return json.loads(result)這里有一個(gè)公平性問(wèn)題如果裁判和生成模型是同一個(gè)模型裁判可能對(duì)同模型的表達(dá)方式更友好。我在這次測(cè)試?yán)餂](méi)有完全隔離只用了不同 Prompt 和不同會(huì)話。嚴(yán)謹(jǐn)?shù)脑u(píng)測(cè)應(yīng)該使用不同廠商的模型或至少使用不同系列的模型。5. 哪些參數(shù)真的會(huì)影響最終分?jǐn)?shù)5.1 關(guān)鍵參數(shù)清單以下參數(shù)是我在調(diào)這輪評(píng)測(cè)時(shí)實(shí)際關(guān)注過(guò)的參數(shù)推薦初始值影響抽取溫度0溫度高會(huì)引入實(shí)體幻覺(jué)文本切片方式按段落切按 token 切容易切斷實(shí)體關(guān)系向量召回 top_k5太小會(huì)漏掉關(guān)系種子太大會(huì)引入噪聲圖擴(kuò)展 hop10 就是純向量檢索2 開(kāi)始噪聲明顯生成答案溫度0評(píng)測(cè)階段必須可復(fù)現(xiàn)抽取模型和生成模型同梯隊(duì)抽取能力差會(huì)直接拖低后續(xù)所有環(huán)節(jié)評(píng)測(cè)樣本量至少 30 題少于 30 題的差距基本沒(méi)有統(tǒng)計(jì)意義5.2 怎樣判斷結(jié)果穩(wěn)定如果只看一次評(píng)測(cè)0.831 對(duì) 0.801 可能只是偶然。我建議至少跑三到五次每次更換隨機(jī)種子或者打亂問(wèn)題順序。然后看兩點(diǎn)總分均值差是否保持同向。關(guān)系型和多跳型的分項(xiàng)是否穩(wěn)定領(lǐng)先。如果總分有時(shí)贏、有時(shí)輸說(shuō)明兩套系統(tǒng)在目標(biāo)數(shù)據(jù)集上能力接近沒(méi)必要折騰自建方案。如果關(guān)系型穩(wěn)定領(lǐng)先但事實(shí)型落后就要評(píng)估你的實(shí)際場(chǎng)景更需要哪類記憶能力。還要記得做一次“零樣本基線”不接任何記憶系統(tǒng)直接把問(wèn)題丟給生成模型。這能告訴你多少問(wèn)題是靠模型常識(shí)答對(duì)的。如果零樣本基線已經(jīng)到 0.7說(shuō)明你的記憶系統(tǒng)只貢獻(xiàn)了 0.1 的提升這時(shí)得換個(gè)更難的數(shù)據(jù)集。6. 常見(jiàn)踩坑和排查順序6.1 分?jǐn)?shù)偏低先查哪個(gè)環(huán)節(jié)我踩過(guò)最深的坑是自建記憶圖得分反而低于 Memora。最后排查發(fā)現(xiàn)問(wèn)題不在圖模塊而在抽取環(huán)節(jié)。Prompt 里沒(méi)加“不要推測(cè)”模型抽出了大量“可能、也許、傾向于”這類事實(shí)導(dǎo)致問(wèn)答時(shí)答案雖然流暢但實(shí)體和關(guān)系跟標(biāo)準(zhǔn)答案對(duì)不上。如果分?jǐn)?shù)異常按下面的順序排查先看抽取結(jié)果。直接打印 10 條三元組看是否覆蓋了原始文本里的關(guān)鍵實(shí)體。再看召回結(jié)果。對(duì)某一道關(guān)系題把命中的三元組單獨(dú)輸出看是否包含標(biāo)準(zhǔn)答案里的實(shí)體。然后看生成結(jié)果。如果召回里有正確答案但生成答錯(cuò)可能是 Prompt 拼接方式有問(wèn)題或上下文太長(zhǎng)導(dǎo)致模型忽略關(guān)鍵信息。最后判斷裁判是否誤判。抽取 10 道低分題人工復(fù)核確認(rèn)打分是否合理。大多數(shù)記憶系統(tǒng)問(wèn)題都出在抽取和召回而不是生成。6.2 公平對(duì)比需要控制哪些變量做 A/B 對(duì)比時(shí)最容易犯的錯(cuò)誤是只換了記憶庫(kù)其他環(huán)節(jié)全都放任不管。這會(huì)導(dǎo)致分?jǐn)?shù)差異根本說(shuō)不清來(lái)源。建議至少固定以下變量生成答案的模型必須相同。裁判模型必須相同。所有模型溫度設(shè)成 0。兩套系統(tǒng)面對(duì)的是同一版原始文本。問(wèn)題順序最好打亂避免“先問(wèn)了 A再問(wèn) B”時(shí)模型上下文互相影響。另外要防止數(shù)據(jù)泄漏。評(píng)測(cè)問(wèn)題不能提前進(jìn)入記憶庫(kù)否則就變成了“開(kāi)卷考試”。我在構(gòu)造評(píng)測(cè)集時(shí)會(huì)把 80 道題的問(wèn)題文本單獨(dú)隔離確保記憶圖只看到原始檔案和會(huì)議記錄不看到問(wèn)題和答案。7. 真正落地時(shí)比分?jǐn)?shù)更重要的幾件事7.1 增量更新比一次性索引更關(guān)鍵評(píng)測(cè)環(huán)境里記憶是靜態(tài)的文檔一次性寫入然后開(kāi)始提問(wèn)。生產(chǎn)環(huán)境不一樣用戶每說(shuō)一句話每來(lái)一份文檔都要更新記憶。這時(shí)圖方案的優(yōu)勢(shì)會(huì)變成負(fù)擔(dān)同一個(gè)實(shí)體的新事實(shí)可能和舊事實(shí)沖突比如用戶之前說(shuō)“部署在 AWS”后來(lái)改成“遷移到自建機(jī)房”。如果不做沖突處理圖里會(huì)同時(shí)存在兩條矛盾邊召回時(shí)模型既看到舊信息又看到新信息答案就會(huì)搖擺。我建議給每條邊加上時(shí)間戳和來(lái)源 ID查詢時(shí)優(yōu)先取最新時(shí)間戳。這個(gè)處理在實(shí)驗(yàn)里不會(huì)影響 0.831 和 0.801 的差距但直接影響上線后的體驗(yàn)。7.2 隱私和刪除能力決定了能不能上線記憶系統(tǒng)存的是用戶歷史這意味著必須有刪除能力。向量庫(kù)里刪除一條記錄相對(duì)簡(jiǎn)單圖結(jié)構(gòu)里刪除一個(gè)實(shí)體要同時(shí)刪除它關(guān)聯(lián)的所有邊。更麻煩的是一條記憶可能來(lái)自多條來(lái)源比如“用戶 B 主導(dǎo)日志組件”既出現(xiàn)在會(huì)議紀(jì)里也出現(xiàn)在用戶 B 的簡(jiǎn)歷里。刪除時(shí)如果只刪一個(gè)來(lái)源另一個(gè)來(lái)源又會(huì)讓這條記憶復(fù)活。所以在建圖時(shí)就要保留來(lái)源列表而不是只存三元組。每條邊維護(hù)一個(gè) source_ids 列表刪除請(qǐng)求到來(lái)時(shí)把所有關(guān)聯(lián)來(lái)源都清掉再判斷是否刪除節(jié)點(diǎn)。這個(gè)能力如果后期補(bǔ)會(huì)很痛苦。7.3 不是所有場(chǎng)景都適合記憶圖這次測(cè)試?yán)镒越ㄓ洃泩D略微領(lǐng)先不代表它適合所有項(xiàng)目。如果你的場(chǎng)景只是“讓 AI 記住用戶喜歡喝什么咖啡”一個(gè) JSON 文件就夠了不需要圖。如果對(duì)話歷史短每次問(wèn)答只需要最近幾輪也不需要用記憶圖直接把上下文拼進(jìn) Prompt 反而更簡(jiǎn)單。記憶圖最適用的場(chǎng)景是大量歷史信息、跨文檔關(guān)系、關(guān)系型提問(wèn)頻繁、需要定期更新和沖突合并。不符合這些條件時(shí)Memora 這類通用方案更省事。最后留一句我這輪測(cè)試的總結(jié)0.831 對(duì) 0.801 的結(jié)果說(shuō)明自建方案在關(guān)系記憶上有一定優(yōu)勢(shì)但這優(yōu)勢(shì)建立在可控的抽取、規(guī)范的實(shí)體歸一化和合理的圖擴(kuò)展之上。真要在項(xiàng)目里落地最該盯住的不是誰(shuí)比誰(shuí)高 0.03而是歷史更新、沖突合并和刪除鏈路有沒(méi)有做好。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
六月婷婷香蕉| 五月伊人婷婷| 成人在线观看精品| 色婷婷综合网站| 九月丁香八月婷婷加勒比| 六月色婷婷欧美| 亚洲激情av| 五月天激情综合在线| 狠狠综合| 九九热在线视频,| 精品人妻伦一二三区久久| 九九AV| 久久只有18视频| 婷婷五月天综合网| 天天插天天插| 亚洲成人黄色网| 99干在线视频| 婷婷伊人久久| 热无码A∨| 丁香激情五月天| 99热6这里只有精品6| 超碰99在线| 巴基斯坦粉嫰无码视频| 麻豆123区| 五月婷婷六月丁香在线| 久操大香蕉| 婷婷六月色| 亚洲色综久久五月| 色色五月丁香婷婷| 亚洲欧洲美女在线观| 五月丁香综合中文| 婷婷五月丁香五月天| 在线亚洲综合网| 欧洲亚洲午夜| 五月激情丁香五月宗合| 婷婷五月丁香五月丁香| 【乱子伦】黄色| 99热播放| 日本人人xxx| 九九99免费视频| 岛国AAAV| 思思99热热热99| 久久精品只有这| 日韩中文欧美| 精品久热| 97在线碰| 精品99在线| 婷婷激情综合无月| 日本色色色| 久久婷婷大香蕉| 樱花99视频| 九九色色| 色五月中文字幕| 丁香花五月天| 日韩成人免费电影| 91丨九色丨国产打屁股| 91视频五月丁香| 黄色视频网站在线播放| 99这里只有免费的精品| 少妇激情五月天| 久久人操-久草婷婷-成人AV| 人人草人人视| 九九热精品视频| 最近中文字幕大全免费版在线| 夜色综合网| 国产美女精品| 亚洲精品又粗又大又爽A片 | 99热成人精品| 久草热在线视频| 色呦呦美女| 99热99热在线| AV免费在线网站| 天天拍夜夜爽| 国产乱妇乱子在线播视频播放网站 | 日日操夜夜爽白洁| 九九热在线视频观看| 玖玖精品婷婷| 九色七七| 久操福利| 亚洲精品无码久久| 99视频久久| 人人操AV| 超碰在线观看9| 丁香五月激情婷婷婷婷在线观看| 免费播放AV| 久久96热| 97超碰色| 五月天激情国产综合婷婷| 丁香综合| 色婷婷色婷婷五月| 黄网免费看| 97操男人的天堂| 激情五月天色婷婷综合| 九九爱精品网站| 婷婷中文字幕版| 国产在线aaa片一区二区99| 密黄站| 91chinese在线| 九九九日本熟女| 五月婷婷中文字幕| 97人人操人人干| 婷婷午夜精品久久久| 97电影99热| 天天干天天干天天干| 中文字幕久久婷九女同| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 日本三级中国三级99| 91精品国产99久久久久久天美| 人人草碰| WWW.99热| 噜综合| jiZZdr| 在线观看五月婷婷网| 色五月激情| 思恩热国产视频右线观看| 久久婷婷伊人| 亚洲六月综合激情久久下卡| 天天爽天天爽视频| 亚洲色图五月丁香| 99热这里都是精品| 亚洲VA在线| 91碰操| 五月婷婷激情久久| 伊人网大香| 亚洲日日操| 日日日,com| 99热在线观看| 五月婷婷六月丁香色| 伊人热婷婷| 五月天激情婷婷| 99热国内精品| 伊人激情AV一区二区三区| 伊人丁香五月| 野外99热| 亚洲色视频| 婷婷激情综合无月| 日韩婷久| 丁香五月天综合| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | www.玖玖婷婷在线| 成人在线网| 热91久| 色婷婷丁香特级性爱视频| 中文超碰视在线| 色婷五月天| 色综合区| 日本色色色色色色色色一色二色| 五月天精品| 婷婷激情五月| 欧美97超碰| 1024操逼视频| 五月天婷婷色播在线网| 99re热在线观看| 开心激情综合| 思思热在线播放| 99精品视频偷拍| 丁香六月婷婷久久综合| 直接看的AV| 97干97色| 超极99精品| 99无码| 思思视频久久| 婷婷影院欧美| 被强行糟蹋的女人A片| 日韩五月丁香| 欧洲亚洲免费视频区| 操碰99在线视频观看| 日韩人妻在线观看| 婷婷网五月| 香蕉网久久| 久99视频| 丁香五月激情网| 丁香婷婷激情五月| 成人毛片在线免费观看| 亚洲第一成人无码A片| 日本五月婷婷| 男人综合网| 99久久五月天| 三级片AAA久久久AAA久久久AAA | 777米奇影视第四色| 另类视频五月天| 欧美99热| 亚洲中文字幕AV| 久久婷婷五月综合色丁香花| 亚洲日日日| 五月天婷婷婷| 色综合开心五月深爱五月| 夜夜躁婷婷AV| 9l视频自拍九色9l黑人| 99热18| 狠狠狠狠狠狠| 婷婷射婷婷舔| 六月丁香激情最新更新| 综合婷婷| 4399在线观看免费高清黄色视频| 国产97在线日韩亚洲女人被黑人巨大| 六月婷婷综合| 久久婷婷啪啪视频| 精品人妻久久久久久| 99超在线| 淫视馆aV二区一区| 爆乳熟女一区二区三区爆乳| 超碰无码老师| 午夜天堂一区人妻| 天天干天天做| 激情综合网五月激情| http://www.sd-xiangsu.com/| 噜噜噜噜噜在线| 久久五月天免费网站| 五月婷婷深深爱| 精品成人在线观看| 免费在线观看欧美激情xx小视频| 日逼免费视频| 色婷婷五月基地在线| 97色色色| www.色九月| 久久久久久久久月丁| 99这里| 色婷婷综合影院| 色六月天| www,五月丁,com| 青青草原中文字幕| 九九伊人网| 91综合在线视频| 99视频日韩| 欧美性猛交99久久久久99按摩| 91久久| 色五月天婷婷| 免费视频99| 欧美综合激情五月天| 开心五月丁香综合久久| 亚洲激情淫网| 99免费热在线精品| 亚洲另类婷婷五月丁香在线播放| 丁香五月亚洲激情婷婷射| 色色色区| 91色色色18| 久久思思99| 91seAV| 99爱操| 欧美精品在线观看| 五月天操逼激情| 99ER热精品视频| 99热99在线| 五月丁香啪啪综合| 色色色综合网| 精品一区二区三区免费毛片爱| 伊人啪啪网| aa久久| 五月天婷婷AV| 97超碰人人操| 深爱五月激情| 久久婷婷视频| .青娱乐天天操B| 亚洲乱码日产精品BD| 91狠狠综合久久久| 国产AV一区二区三区最新精品| 五月天激情国产综合婷婷婷| 97在线99| 久操大屁股女人av| AV动漫不卡无码免费| 婷婷五月丁香91| 淫视馆AV在线| 99热思思久| 色之综合网| 五月婷六月综合在线观看| 婷婷五月大| 久青青久| 丁香久久五月天视频在线观看| 激情图片婷婷| 婷婷丁香激情综合色情| 天天爽天天操| 任你艹| 精品人妻伦一二三区久久| 久久激情视频| 五月婷婷黄色网址| 久久九⑨| 五月丁香婷婷综合| 丁香五月激情婷婷激情| 欧美va欧美va差| 思思热久热| 夜夜干天天操| 激情五月六月婷婷| 色色色色欧美| 九九九九九九毛片| 99久久99热这里只有精品| 爱草视频在线观看| 啪啪操超碰| 天天干天天色综合| 亚洲永远av在线播放| 日韩高清久久| 三十路磁力链接| 看久久性爱99视频| 嫩草AV久久伊人妇女超级A| 超pen个人视频97| 婷婷五月无码| 丁香五月婷婷88在线| 色婷婷色婷婷五月| 色噜噜婷婷| 色综合久久88色综合天天| 9 99免费视频| 99久在线精品99re8热| 国产色五月| 激情五月丁香五月| 99热这里只有精品3| 99只有精品| 日本美女97在线视频| 婷婷丁香五月天大香蕉| 丁香五月天激情网址| 五月婷婷激情69| 久久99网| 精品国产AV色一区二区深夜久久| 六月丁香成人| 久久九九免费大视频| 天天色天天色天天色天天色天天色| 激情开心五月天| 五月天开心网| 婷婷之玖玖| 一级片sese片.COM| 亚洲天堂aaa| 99热播放| 青青久久大香蕉| A片女女女女女女BBBB| 丁香五月天久久| 日熟女| 丁香五月天资源网| 狠狠色97| 成人.在线日韩| 婷婷香蕉视频| 色八月婷婷| 久久99久久99精品免观看软件| 久久金品黃色| 国产精品18久久久| 深爱五月中文字幕| 99久久国产宗和精品1上映| 综合激情深爱| 五月婷婷色| 香蕉久久五月| 99re这里只有精品国产99| 色色色色色综合| 亚韩在线视频| 开心五月深爱婷婷| 午夜日韩久久久网站| 国产成人网站在线观看| 欧美婷婷五月天| 亚洲操人| 大香蕉久久久久| 99精品在线下载| 伊人91| 99ri视频在线观看| 日韩无码人妻一区二区三区综合| 色婷婷操逼| 99在线看视频| 色丁香在线视频| 人妻AV在线观看| 久久综合66| 婷婷激情小说网| 色色色色色网| 欧美日本国产| 深爱网深爱综合网| 能直接看的av网站| 九九热免费| 日本的α片xxxwww| 色欲久久久久久综合网综合网| 久久caop| 婷婷色五月开心五月| 七月丁香五月婷婷在线| 五月丁香龟婷婷| 丁香五月婷婷总啪啪| 色婷婷色人人射| 久久激情四射| 97热在线精品| 激情99热| 五月婷婷丁香五月| 婷婷伊人綜合中文字幕| 91婷婷五月天综合视频| 天天色天天| 美女伊人久久| 五月丁香777| 久热只有这里有精品| 99色色网| 五月丁香六月婷婷久久| 成人欧美日韩| 9久热精品在线视频| 操一操| 激情小说 五月天| 五月丁香色情| 久久草人妻| 久99久在线| 岛国资源站| 伍月婷丁香花全集| 超91热| 丁香五月天婷婷久久综合| 五月天激情国产综合婷婷| 久久电影4399| w婷婷五月婷婷w| 男人天堂AV在线一区二区| 六月婷婷国产| 狠狠色噜噜狠狠狠狠狠色综合久久| 日韩有码一区| 狠狠色丁香久久婷婷综合五月| 久久小说| 色呦精品| 五月天婷婷色综合| 国产亚洲在线观看| 97色色婷婷五月天| 五月丁香av中文| 五月天激情日色在线| 色色色色av色色色色| 综合久久综合| 日本97在线看片| 俺去也五月天婷婷| 五月丁香影视| 天天色官网| 亚洲精品成人| 亚洲无码www| 这里有精品| 性综合网| 五月丁香花激情综合网| 色色色在线免费视频| 五月婷免费视频| 五月天综合| 五月天婷婷色色网| 夜夜干天天干| 一区二区三区四区无码| 色A网| 日本综合色图| 99热20| 99精品国产乱码久久久人妻| 五月天激情网页| 91日婷婷在线| 色色色在线观看| 在线另类视频| 五月丁香综合啪啪| 中文网av| 色婷婷影| 亚洲综合激情五月久久| 日日干日日s| 狠狠爱五月婷婷| 97热这里精品在线视频| 丁香五月成人社区| 婷婷激情五月天色| 亚洲啪啪精品| 碰碰91| 激情丁香婷婷五月天| 久久久亚洲精品一区二区三区浴池 | 1024久婷| 五月丁香六月婷婷姐| 久久精品99久久久久久| 91丨九色|PRNY熟妇| 亚洲爆乳无码精品AAA片蜜桃| 五月丁香婷婷综合久久| 日本三级日本三级99| 一本色道久久综合狠狠躁小说| 婷婷五月丁香久久| 久久久久久五月天| 日日舔夜夜操| 这里只有精品1| 四色AVwww| 激情五月深爱婷婷| 色色色色色色色色网站| 另类激情首页| 日本在线99| 五月亭亭开心网| z色五月播播久久| 欧美成人色婷婷| 激情五月婷婷色| 色操b| 激情综合五月开心狠狠| 欧美日韩123| 狠狠综合| 丁香五月激情婷婷婷婷在线观看| 婷婷综合久久| 亚洲精品**不卡在线播he| 99er精品| 67194中文在线| 精品99在线| 色色色色色色色综合| 狠狠色综合久久久久| √天堂资源在线人妻熟女| 日日干综合| 99资源在线| 狠狠狠狠狠狠| 久久99网| 久久综合伊人综合在线| 久久婷婷久久| 亚洲综合五月天婷婷| 99热最新精品| 五月婷婷色播| 五月停停999| www.激情| 禁欲电影完整版在线播放| 色婷婷影音| 五月丁香久久久久| 91大神操美女| 在线观看的av| 黄色三级毛片中字| 久久精品99久久久久久| 五丁香激情综合| 天天爽天天摸| 99超级碰免费视频| 日韩欧美成人一区二区三区| 天天插天天射天天干| 九九黄色网| 亚洲久久婷婷| 99色综合| 99久久色| 婷婷另类开心| 激情综合99| 婷婷五月激情综合| 亚洲一区二区无遮挡A片| 久久久思思热| 六月丁丁香| 亚洲婷婷开心五月| 天天爱天天爽| 色99超碰| 五月天久久婷| 五月天综合| 99热在线精品播放| 思思热精品在线| 五月婷婷激情色情网| 婷婷午夜激情| www.99精品视频| 五月天丁香婷婷视频网址 | 狠狠婷婷色综合| 五月天成人小说| 婷婷五月天av| 日本久久爱| 六月伊人婷婷| 激情六| av在线中文| 91好好热日本在线| 噜噜噜噜噜在线| 久久大香蕉伊人| 成人在线观看国产| 六月婷婷无码观看| 婷婷五月天受日本法律保护| 五月天丁香成人社| 丁香网五月天| 夜夜爽天天爽| 激情九月婷婷| 色噜噜狠狠色综合网| 五月激情婷婷六月丁香| 久久久这里有精品| 九九aV| 天天日天天舔| 欧美婷婷精品激| 丁香六月亚洲综合| 综合av在线| 色婷婷六月激情| 99热精品在线| 色综合色色| 五月色色网| 九伊人网| 99热99草97| 伊人五月天婷婷| 超碰v| 无码一区二区日韩| 久久五月视频| 79亚洲精品少妇| 五月婷婷激情| 熟女激情网| 99在线精品视频| 啪啪操超碰| 色五月婷婷丁香五月| 色噜噜婷婷| 久久这里只有精品16| 男人综合网| 俺五月| 99热这里有精品24| 五月婷在线视频免费播放| 西瓜美女a片| 就爱干 在线| 色婷婷AV五月天| 色综合性视频| 五月精品免费XXX| 99综合激情久久精品久久| 亚洲激情免费视频| 五月激情综| 五月丁香婷婷AV| 激情综合网色播五月| 桃色五月天| www.久久| av 一区三区四区| 人妻AV中文系列| 欧美日本一区二区三区| 伊人久久大香线蕉综合网站| 影音先锋91资源站| 国产精品爽爽久久久久久| 婷婷97碰碰| 99热综合| 蜜桃成语时李时珍 免费| 亚洲精品白浆高清久久久久久 | 婷婷五月天另类网站| 噜噜噜狠狠色综合| 久久久久久久,99精品视频| 五月婷婷网站| 中美日韩成人在线| 香蕉久久国产AV一区二区| 五月开心深深爱激情综合 | 天天综合亚洲综合| 99熟女啪啪视频| 26uuu亚洲| 五月天婷婷深深爱| 黄色片区子| 精品一二三区久久AAA片| 亚洲色 视频| av在线激情| 1000部毛片A片免费观看| 激情网五月婷婷| 久久精品99久久| 99噜噜噜在线播放| 婷婷91| 婷婷五月丁香基地| 亚洲精品第一色色色色色色| www色综合亚洲92| 色v综合网| 琪琪秋霞| 第四色婷婷丁香五月| 97人人搞| 久久小说网| 免费成片在线观看| 五月丁香| 天天爽天天做| 激情综合亚洲| 五月天丁香色色| 日亚二欧美| VA五月激情在线| 99久久免费精品| 日韩人妻在线观看| 思思9久久| 午夜丁香六月婷| 日本五月视频| 色色丁香婷婷| 成人在线高清| 五月天丁香久久综合 | 六月婷婷五月丁香首页| 婷婷激情综合网| 女人被男人吃奶到高潮| 香蕉久久国产AV一区二区| 丁香婷婷综合喷| 婷婷综合在线| 欧美VA在线| 六月丁香婷啪射| 大香蕉人人网| 99干在线视频| 婷婷在线五月综合| 99国产精品久久久久久久久久久| 久久性操| 五月天婷综合| 这里只有精品视频免费在线观看| 色综合综合色| 97婷婷丁香五月天激情图片| 99操| 丁香九月激情| 999婷婷综合| 五月婷婷综合性爱噜噜| 中文超碰视在线| 国产偷人爽久久久久久老妇APP| 5月丁香啪啪啪| 色七七九九| 婷婷五月色情| av在线免费网站 | 加勒比久热| yazhou seshipin| 五月丁香婷婷网在线在线| 夫妇交换刺激做爰| 99碰超| 五月草视频| 香蕉AV福利精品导航| 激情六月天婷婷| 就去涩涩丁香五月天| 狠狠操狠狠操| 任我鲁这里有精品视频| 99综合一区| 99精品综合视频| 色婷婷91| 99久久久| 强辱丰满人妻HD中文字幕| 五月天堂色| 五月天激情久久| 天天综合精品| 99A片| 97超碰在线免费观看| 国产精品色婷婷99久久精品| 伊人久久大香网| 激情五月天丁香| 99热伊人| 亚洲另类在线观看| 噜噜操操| 六月综合婷婷开心伊人| 中文字幕色色色| 亚洲日韩一页精品发布| 丁香五月,开心五月,成人婷婷| 人人摸人人| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 中文字幕成| 五月天激情AV| W色综合| 天天拍夜夜爽日日| 久99| 琪琪理论片| 婷婷色网| 九九五月天| WWW,五月| 9 99免费视频| 99热在线播放| 91xxxx九色| 岛国AV网| 综合久久综合五月天婷婷| 爱的综合网| 99精品偷自拍| 久久久久综合激动五月天| 亚洲色婷婷| 女性自慰系列第五页| 在线成人网站| 综合AV在线| 激情综合网色播五月| 婷婷丁香六月| 无码少妇高潮喷水A片免费| 日韩婷婷| 欧美色色色| 欧美色图天堂网| 啊V视频在线观看| 亚州操操| 亚洲五月婷婷| 久久这里精彩免费在线观看| 五月婷婷香| 色五月天.con| 婷婷色影院| 色色影院aaaav| 亚洲视频在线观看| 天天操夜夜玩!| 在线视频婷婷| 五月网在线| 日本久久极品| 丁香五月欧美午夜视频| 久久婷婷丁香| 欧美日韩999| 日本va欧美va欧美va精品| 99热思思| 五月天色婷婷av| 91妻人人爽人人看片| 伊人久久五月天| 91人人人人人人人| 久久天天| 丁香六月色婷婷| 久久九九99| 六月婷婷五月丁香首页| 99伊人婷婷在线| 色婷婷狠狠| 天天综合五月| 丁香五月天啪啪| 欧美日本99| 99热网址| 五月开心婷婷极品激情| 777影视理论片大全在线观看| 丁香六月毛片| 色婷婷啪啪| 五月丁香综合激情网| 天天日天天添| 日本不卡高字幕在线2019| 天天日日夜夜爽。| 成人午夜免费电影| 丁香五月天堂| 久热这里只有精品视频6| 亚洲图色五月天| 日本美女上人| 天天天操天天天爰| 激情图片亚洲| 五月丁香成人网| 五月天综合久久| 99精品偷自拍| 婷婷六月久久综合导航| 五月丁香婷婷色色色| 四色永久成人网站| 99爱免费视频| 欧美综合123区| 色色色综合网| 婷婷五月无码| 亚洲色久| 99色人| 亚洲网站999| 丁香五月a| 国产欧美熟妇另类久久久 | 婷婷99视频在线| 情趣视频66| 天堂A∨在线| 亚洲成人影视在线| 99色| 色五月天天| 亚洲爱婷婷| 五月激情视频| 无码任你操| 人妻性操逼中文字幕 国产| 久久人人添人人爽添人人片αV | 69精品人人人人| 色情五月婷婷| 天天日天天狠狠操| 五月情涩综合婷婷| 看片视频在线免费日产在线看| A网在线欧洲| 色婷婷97| 96丁香婷婷九月蜜桃综合久久| 色呦呦美女| 另类丁香五月天区图| 色天使色婷婷| 久久A极片| 欧美三级欧美一级| 色婷婷色五月综合| 久婷五月| 91亚洲视频| 99热这里只有精品3| 深夜A片| 在线国产精品色| 天堂网色婷婷| 国产亚洲色婷婷久久99精品91| 五月丁香福利| 天天射天天插天天干| 99原创自拍视频在线观看| 狠狠草在线观看| 天天色爽| 丁香五月区| yw国产AV| 日本天天操| 91要啪| 成 人 色 色| VA五月激情在线| 婷婷综合色网| 色欲五月丁香| 久热9| 久久9热| 精品久久久久久久人妻| 天天舔天天插天天爱| 99久久.www| 五月婷婷综合激情小说| 六月丁香五月天| 久久五月丁香| 开心五月色婷婷综合开心网| 激情综合自拍五月婷婷色五月| 秋霞AV美国| 婷久久高清| 99色在线| 99黄色性生活| 天天干天天干天天干| 严洲天天插| 美女五月天婷婷| 亚洲旡码| 五月天丁香综合在线| 婷婷婷婷婷婷婷婷婷婷丁香| 婷婷五月婷婷| 日本婷久久| 极品色丁香| 天天干一干| 久久精典| 99视频这里有精品| 久久大香蕉| 成人开心五月天| 久久久区区一久久久久久| 综合在线网| 亚洲欧美婷婷五月色综合| 丁香五月婷婷大香蕉| 丁香五月激情五月| 色色欧美色色色| 色色色网站| 思思精品视频| 色~性~乱~伦~噜| 婷婷五月天视频| 五月婷婷第四色| 久久性爰视频这里只有精品| 青娱乐美女福利视频美臀| 99热乎| 91超级碰碰| 99在线观看视频| 亚洲成人超碰| 丁香久月| 99久久五月丁香野外| 婷婷丁香婷婷97| 丁香五月色情av| 97日本在线播放| 久久久久久久久久久-久五月天婷婷| 九九色色| 99精品在线观看| 色五月激情网| 成人AV在线电影| 五月婷婷综合视频| 俺去也五月天| 大香蕉五月天婷婷| 丁香六月激情蜜桃| 玖操97| 欧美婷| 五月婷婷九| 色五月色五天色情网| 成年人99热| 婷婷成人小说综合| 久久机热这里只有精品| 日本五月视频| 成人无码髙潮喷水A片| 大香蕉久久久久| 激情综合网址| 五月天天天色| 婷婷综合网站| 精品一二三区久久AAA片| 成人做爰黄A片免费看直播室男男| 丰满少妇猛烈A片免费看观看| 最近中文字幕2019视频1| 久草热久草在线视频| AA片在线观看视频在线播放| 色级停停| 人操人人| 久热 91| 开心五月激情网| 激情五月天综合网站网站网站| caopeng超碰| 激情五月亚洲综合网| 中文字幕性爱丰满| 99网| 人人爱国产| 国产精品第一国产精品| 综合色七七| 激情五月天色婷婷综合| 色婷婷六月天| www.狠狠狠狠| 99精吕视频在线观看了| 97香蕉久久超级碰碰高清版| 成功精品影院| 六月五月天婷婷涩播在线| txt五月激情四射网综合俺也来了 五月天婷婷丁香人人操91 | 秋霞少妇毛片| 色婷婷97| 婷婷四色五月| 97色色综合| 五月天成人综合| 热99精品视频| 色综合久久88色综合天天99| 丁香五月大香蕉| 丁香五月婷婷总啪啪| 激情图片婷婷| 久久小视频免费| 久久色五月天综合网| 丁香五月综合婷婷| 99视频这里有精品| 国产精品电影网| 婷婷美女精品视频| 开心婷婷中文字幕| 国产精品18久久久| 激情五月天第四色| 五月伊人综合| 色综合色色| 久久婷婷精品| 久久日韩婷婷五月| aaaaaa片| 五月丁香六月婷婷久久肏| www.婷婷| 久婷婷色| 丁香五月婷婷成人网| 97AV在线视频| 99久久婷婷综合| 亚洲激情亚洲激情| 久久久久久久久人妻| 超碰免费在线| 天天综合五月| 久久这里只有国产视频| 99这里| 婷婷久久图片| 甈你aaaaa| 91精品久久久久| 亚洲无码免费看| 深爱五月激情网| 九九综合| 思思热99er| 日韩抽插操逼| 级情九色| 97色色婷婷五月天| 五月天 另类图片| 黑人糟蹋人妻HD中文字幕| 激情黄色小说色五月| 夜夜骑夜夜撸| 激情婷婷狠狠干综合| 五月婷婷六月丁香激情深爱| 99视频| 丁香五月激情啪啪啪| 国产色色网站网址| 99啪啪| 大香蕉五月婷婷| AV性爱在线| 五月婷婷综合色啪首页| 思思久久96热在精品国产,| 亚洲色网络| 91九色|疯狂|高潮|对白|| 久久婷婷五月天蜜桃| 久久久久久久久久久-久五月天婷婷| 色热久资源| 超碰在线人妻| 婷婷久久丁香五月| 夜色综合网| 五月丁香六月婷婷久久| 婷婷99狠狠躁| 任我肏视频精品| 色婷婷六月天在线| 草草色情综合网| 热99久久这里只有精品| 黄桃AV无码免费一区二区三区| 99,色| 色色丁香| 婷婷啪啪| 热99在线| WWW.激情| 天天干天天拍| 六月色婷婷欧美| 亚洲V国产V欧美V久久久久久| 欧美成性色| 91操人视频| 99热6这里只有精品6| 人妻AV在线| 99视频地址| 国产精品天天狠天天看| 五月亭亭六月激情| 丁香五月天AV在线 | 色色网站免费观看| 九九爱激情| 六月丁香社区| 97碰在线免费观看| 一级二级色大片| www.婷婷亚洲基地| 日日夜夜婷婷| 色黑鬼导航| 亚洲网站观看视频| 开心激情播播五月天| 六月激情网| 五月婷婷深深爱| 综合色久| 国产精产国品一二三在观看| 另类国产综合| 婷婷情色五月| 99ri视频在线播放| 91狠狠综合久久| 99国产精品久久久久久久久久久| 激情婷婷五月色| 奇米色大香蕉| 综合性爱网| ww亚洲ww在线观看| 日韩成人不卡| www婷婷| 六月丁香花婷婷| 疯狂做受XXXX高潮A片| 深爱五月网| 欧美三级欧美一级| 中文字幕日产A片在线看| 五月婷婷亞洲中文| 色哟哟www| 99国产精品久久久久久久久久久| 六月丁香婷婷在线波多| 免费看成人747474九号视频在线观看| 久操大香蕉| 婷婷激情五月天在线视频| 五月丁香另类网| 六月婷婷av| 噜噜噜噜在线| 人妻久热| 久久中文网| 五月 成人 婷婷| 丁香桃色综合网| 九九人人看| 99综合视频一体| 久久久高清| 五月丁香福利| 99热这里只有精品23| 激情99| 国产在线aaa片一区二区99| 五月丁香香蕉| 就99这里只有精品| 夜夜躁婷婷AV| 久久激丁香| 色色色欧美| 日本色色色| 狠狠狠婷婷五月综合| 欧美日韩日韩成人| 亚洲乱码日产精品BD| www,色婷婷| 热成人网| 久久精品性爱视频,| 色九九丁香九月色九九色| 性无码专区无码| 丁香五月六月综合激情| www.com操| 97av在线视频| 99视频91| httpwww色com日本| 色狠狠综合| 九色七七| 丁香五月区| 六月天无码网址| 玖热精品综合视频| 人妻激情视频| 久久99久久99www| 成人片黄网站色大片免费毛片| www.婷婷六月天| 99re8这里只有精品99re8热视频| 丁香五月色播中文在线播放| 97资源欧美日韩大香蕉超碰一区| 婷婷五月丁香国产| 成人做爰黄A片免费看直播室男男 A片试看120分钟做受图片 | 婷婷中文字暮| 超PEN精品在线| 99色综合| 久久人妻精品| 久久综合爱| 久久精品五月天| 五月婷婷视频在线观看| 欧美性色五月天| 日韩狠狠色婷婷| 玖玖视频福利| 久久99视频| 99热都是精品| 六月99天天婷婷激情综合| 免费看无码视频A级| 香蕉99网| 99re资源在线视频导航| 亚洲综合网在线| 香蕉AV福利精品导航| 91久久久久久| 久久人人看| 九九色热| 婷婷色婷婷| 亚洲色视频| 婷婷五月天视频| 久久这里只有精品热在99| 久久性爱视频| 久久婷婷伊人| 99爱这里只有精品免费视频| 超碰狠狠操| 激情五月影院| 天天操夜夜操| 夜精品无码A片一区二区蜜桃| 久久婷婷视频| 麻豆AV一区二区三区| 白人荫道BBWBBB大荫道| 狠狠干狠狠干| 不卡在线视频| 99在线视频网址在线观看| 色九四色| 91av色色乱视频| 一区二区三区XXXXXX| 色婷婷91| 五月玖玖| 亚洲中文丁香| 丁香婷婷激情五月色| 69激情小说| 五月婷婷性| 丁香 久久| 天天干天天色综合| 久久性爱视频| 一本久久婷婷| 91亚洲天堂| 五月色婷婷中文字幕| 另类的婷婷| 99久久er| 五月丁香六月婷婷姐| 美欧日韩国产成人在战| 六月婷婷中文字幕| 最新高清无码专区| 超碰A V在线| 色九月婷婷综合| 五月天婷a在线| 亚洲第一色区| 久草性爱| 国产亚洲精品久久久久久郑州| 伊人狼人干| 大香蕉五月| 丁香午月AV中文字幕| 欧美日本一区二区三区| 色五月亚洲| 久久性视频| 亚洲视频另类| 久久曰曰| 日本熟女一区二区| 色婷婷888| 免费视频WWW在线观看网站| 色停停影院五月天| 色婷婷丁香五月| 狠狠干思思热| 色情五月综合婷婷| 五月天开心色色网| 伊人婷婷大香蕉| 婷婷六月天精品| 色欲久久久久久综合网综合网| 久99| 五月婷婷色啪| 午夜美女人啪最红院| 亚洲最大视频| 天天干天天爽| 五月丁香五月丁香五月丁香五月丁香91| 五月丁香久久精品在线观看| 五月婷婷之美女图片| 久久精品视频99| 国产精品24r| 五月丁香怕啪啪| 亚洲综合五月| 黄桃AV无码免费一区二区三区| 色天堂A| 天天成人综合视频| 国产激情综合五月久久| 91美女艹逼网站| 五月天激日本色情在线| 激情五月天偷拍综合网| 五月色情| 成人看片网站| 99精品热| 久久R激情| eeuss人妻| 日本久久精品18| 91国产精品视频播放| 五月婷六月综合在线观看| 欧在线一区| 日本色色影片| 亚洲欧洲另类| 丁香在线视频| 欧美在线ee日韩| 在线VA视频| 天天肏夜夜肏| 五月天丁香婷婷社区| 五月天激情婷婷丁香| 色啪网| 成人亚洲精品| 狠狠综合网| 久久丁香婷婷色情综合| 青草视频在线蜜臀| 天天影院色| 人妻久久婷婷| 五月婷婷在线视频| 丁香五月婷婷老师网站| 五月婷婷视频啪啪美女| 婷婷久久色| 99操中文视频| 久久WW| www.无码com| 五月丁香六月婷婷欧美综合| 婷婷影院A成人| 五月综合婷婷开心网| 久久久精品人妻| AAA久久久| 亚洲六月色婷婷| 激情五月,激情综合网| 久久婷婷综合五月天| 欧美日韩国产一二区| 99热只有这里才是精品| 江苏少妇性BBB搡BBB爽爽爽 | 99热这里只有精彩| 91丨九色丨老熟女激情| 天天五月情| 色就色94欧美setu| 99热久草| 丁香五月激情五月| 激情网五月婷婷| 五月做爱| 另类小说激情五月天| 九九精品系列| 精品人妻一区二区三区四区不卡在| 久久婷鲁| 99在线小视频| 三级99热| 99热综合在线| 五月丁香婷婷啪啪| 久色网| 亚洲激情五月丁香久久久久|