如果你是從之前那幾篇一路看過(guò)來(lái)的應(yīng)該還記得我們?cè)贒emo Agent上折騰過(guò)工具調(diào)用、琢磨過(guò)多輪對(duì)話。但不管做到哪一版都有一個(gè)特別扎眼的毛病——它是個(gè)“金魚(yú)腦”。用戶(hù)昨天剛告訴它“我每周三下午都在某某健身房練背”今天問(wèn)一句“那我明天下班后該去哪兒”它就徹底懵了。這種體驗(yàn)放在聊天玩具里還能忍真要做成客服、助手、陪練這類(lèi)產(chǎn)品級(jí)Agent根本不行。記憶管理就是來(lái)解決這個(gè)問(wèn)題的。說(shuō)白了Agent的記憶管理要管的不只是“把聊天記錄存下來(lái)”而是要讓Agent知道該記什么、存在哪兒、什么時(shí)候想起來(lái)、什么時(shí)候忘掉。這篇教程我盡量不堆概念直接按我實(shí)際做項(xiàng)目的思路來(lái)寫(xiě)先給記憶分類(lèi)再講存儲(chǔ)選型然后拆寫(xiě)入、檢索、遺忘這三個(gè)環(huán)節(jié)最后附一個(gè)能跑的行程助手核心代碼。想給Agent裝上真正能用的記憶照著這套思路落地基本不會(huì)跑偏。1. 記憶缺失的代價(jià)沒(méi)有記憶的Agent只能算高級(jí)問(wèn)答機(jī)先別急著寫(xiě)代碼。我見(jiàn)過(guò)不少人給Agent加記憶的方式就是在 messages 數(shù)組里越堆越長(zhǎng)堆到報(bào)錯(cuò)就問(wèn)“我該怎么處理長(zhǎng)上下文”然后跑去調(diào)窗口大小。方向從一開(kāi)始就錯(cuò)了。記憶管理不是一個(gè)存儲(chǔ)問(wèn)題它是一套圍繞“信息生命周期”的機(jī)制設(shè)計(jì)。你首先要搞明白Agent需要哪幾種記憶它們各自解決什么問(wèn)題。1.1 三種記憶到底指什么工作記憶、情景記憶、語(yǔ)義記憶我在設(shè)計(jì)記憶模塊時(shí)會(huì)把Agent的記憶分成三層和人的記憶做一個(gè)粗粒度對(duì)照工作記憶指當(dāng)前這輪任務(wù)里臨時(shí)要用的信息對(duì)應(yīng)到工程上就是上下文窗口里的消息列表。它該被快速讀取、快速丟棄不需要落地持久化。情景記憶指用戶(hù)和歷史交互中發(fā)生的具體事件比如“昨天下午3點(diǎn)用戶(hù)問(wèn)過(guò)機(jī)票退改規(guī)則”“上周二訂了去某地的酒店”。這類(lèi)記憶帶時(shí)間線特征適合按時(shí)間存儲(chǔ)和回放。語(yǔ)義記憶指從歷史交互中提煉出來(lái)的事實(shí)和偏好比如“用戶(hù)偏好靠窗座位”“用戶(hù)出差多、常駐某城市”。這類(lèi)記憶沒(méi)有強(qiáng)時(shí)間屬性是用戶(hù)畫(huà)像的構(gòu)建基礎(chǔ)。這個(gè)劃分不是學(xué)院派名詞它直接決定存儲(chǔ)和檢索方案。情景記憶要求你能回答“什么時(shí)候發(fā)生了什么”所以要有時(shí)間戳和事件結(jié)構(gòu)語(yǔ)義記憶要求你能回答“用戶(hù)是個(gè)什么樣的人”所以要能合并、去重、更新。把這兩類(lèi)混在一張表里存后面檢索一定亂。1.2 Agent失憶的三個(gè)典型現(xiàn)場(chǎng)我實(shí)際調(diào)試過(guò)幾個(gè)Agent項(xiàng)目“失憶”的表現(xiàn)基本可以歸成三類(lèi)第一類(lèi)是跨會(huì)話失憶。用戶(hù)昨天在客服Agent上報(bào)了工單號(hào)今天再來(lái)問(wèn)處理進(jìn)度Agent問(wèn)“請(qǐng)問(wèn)您的工單號(hào)是多少”。這不是技術(shù)問(wèn)題是產(chǎn)品體驗(yàn)問(wèn)題——用戶(hù)會(huì)覺(jué)得你在裝傻。第二類(lèi)是事實(shí)沖突。用戶(hù)在閑聊里說(shuō)過(guò)“我平時(shí)不吃辣”結(jié)果第二天Agent推薦了一堆川菜館。它不是找不到信息而是相關(guān)記憶沒(méi)有被檢索出來(lái)或者檢索出來(lái)了但權(quán)重不夠被無(wú)關(guān)上下文淹沒(méi)了。第三類(lèi)是上下文窗口的“虛假記憶”。很多人的記憶就是無(wú)腦往messages里塞對(duì)話結(jié)果上下文越來(lái)越長(zhǎng)模型開(kāi)始“記住”一些被裁剪掉的中間內(nèi)容或者因?yàn)樘L(zhǎng)的關(guān)系把早期關(guān)鍵指令給稀釋了。這本質(zhì)上還是沒(méi)有做記憶管理造成的。這三類(lèi)問(wèn)題的共同根源是你把“存儲(chǔ)”當(dāng)成了“記憶”。存下來(lái)的只是字節(jié)能被合適時(shí)機(jī)調(diào)取、能被更新和覆蓋的才是記憶。后面幾節(jié)我會(huì)逐個(gè)說(shuō)清楚怎么設(shè)計(jì)。2. 存儲(chǔ)設(shè)計(jì)別一上來(lái)就上向量數(shù)據(jù)庫(kù)很多人一說(shuō)給Agent加記憶腦子里第一個(gè)蹦出來(lái)的就是向量數(shù)據(jù)庫(kù)。我的建議是先忍住。存儲(chǔ)選型應(yīng)該跟著記憶類(lèi)型走不同類(lèi)型的記憶有完全不同的讀寫(xiě)模式一股腦全做向量化純屬給自己挖坑。2.1 短期記憶一段受token預(yù)算控制的對(duì)話窗口短期記憶的實(shí)現(xiàn)聽(tīng)上去簡(jiǎn)單就是維護(hù)最近幾輪對(duì)話。但有個(gè)細(xì)節(jié)很容易被忽視這個(gè)窗口的大小不是“我記N輪”而是“我的token預(yù)算允許我裝多少輪”。輪數(shù)是不可控的某用戶(hù)一句廢話可能頂別人五句token才是真正約束模型能力的單位。我在項(xiàng)目里一般這樣做維護(hù)一個(gè)消息列表每進(jìn)來(lái)一輪就追加。每次追加后統(tǒng)計(jì)當(dāng)前總token數(shù)超出預(yù)算就從最舊的消息開(kāi)始淘汰。預(yù)算分配上給短期記憶留一個(gè)上限比如總窗口的40%剩下的留給系統(tǒng)指令、檢索到的長(zhǎng)期記憶和當(dāng)前用戶(hù)輸入。這樣做的核心思路是短期記憶是“最貴”的記憶因?yàn)槊看握?qǐng)求它都要隨上下文發(fā)送給模型是成本最敏感的部分。所以它只在當(dāng)前會(huì)話內(nèi)存活一旦會(huì)話結(jié)束就該被壓縮、沉淀或者直接丟棄。2.2 長(zhǎng)期記憶從KV到向量庫(kù)的分級(jí)方案長(zhǎng)期記憶才有資格談持久化。但“持久化”三個(gè)字底下至少有兩種完全不同的存儲(chǔ)需求一種是結(jié)構(gòu)化事實(shí)型記憶比如“用戶(hù)姓名”“會(huì)員等級(jí)”“偏好口味”。這類(lèi)數(shù)據(jù)字段明確、寫(xiě)一次要讀很多次而且經(jīng)常要精確更新。這種場(chǎng)景用一個(gè)簡(jiǎn)單的鍵值存儲(chǔ)或者關(guān)系表就能搞定把它向量化反而是負(fù)優(yōu)化。另一種是語(yǔ)義片段型記憶比如一段對(duì)話里用戶(hù)描述過(guò)的某種復(fù)雜需求、一段你希望Agent以后能關(guān)聯(lián)起來(lái)回憶的內(nèi)容。這類(lèi)信息沒(méi)有固定字段只能靠語(yǔ)義相似度去檢索這才是向量數(shù)據(jù)庫(kù)的用武之地。所以我的經(jīng)驗(yàn)是長(zhǎng)期記憶不要只依賴(lài)單一存儲(chǔ)按信息形態(tài)分級(jí)。你可以先畫(huà)一張表做選型參考記憶類(lèi)型典型內(nèi)容推薦存儲(chǔ)檢索方式更新頻率用戶(hù)畫(huà)像型姓名、偏好、常駐地KV或關(guān)系表精確匹配低頻事件記錄型做過(guò)什么、買(mǎi)過(guò)什么時(shí)序日志表按時(shí)間范圍篩選高頻追加語(yǔ)義片段型對(duì)話中的隱含需求向量索引相似度檢索中頻會(huì)話摘要型某次長(zhǎng)聊的壓縮結(jié)果文檔存儲(chǔ)結(jié)構(gòu)化向量混合會(huì)話結(jié)束時(shí)寫(xiě)入如果你剛開(kāi)始做別急著搭一堆組件。我通常的建議是先用KV存事實(shí)用文件或者一張表存事件用向量庫(kù)存語(yǔ)義片段。等量級(jí)上來(lái)、檢索效果出現(xiàn)瓶頸了再考慮引入專(zhuān)門(mén)的向量庫(kù)服務(wù)。2.3 我比較推薦的混合存儲(chǔ)結(jié)構(gòu)跑過(guò)一個(gè)完整的客服Agent之后我沉淀出來(lái)的存儲(chǔ)結(jié)構(gòu)大概是這個(gè)形態(tài)每個(gè)用戶(hù)有一個(gè)獨(dú)立的記憶空間里面有“用戶(hù)資料表”存結(jié)構(gòu)化屬性“事件表”按時(shí)間戳記流水“語(yǔ)義記憶索引”存從聊天中抽取出來(lái)的說(shuō)明性?xún)?nèi)容。三張表通過(guò) user_id 關(guān)聯(lián)檢索時(shí)先查精確字段再走語(yǔ)義搜索最后把結(jié)果按重要性和時(shí)間排序拼進(jìn)提示詞。有些平臺(tái)喜歡用向量庫(kù)一統(tǒng)天下把用戶(hù)資料也編碼成向量。我試過(guò)后果是更新某個(gè)字段時(shí)需要重新生成向量否則就會(huì)出現(xiàn)“資料明明改了Agent還按舊字段回答”的詭異現(xiàn)象。結(jié)構(gòu)化數(shù)據(jù)就該被精確更新別硬塞給向量庫(kù)。3. 記憶的生命周期寫(xiě)入、檢索、遺忘三道閘門(mén)存儲(chǔ)方案定了記憶管理真正核心的部分才開(kāi)始。我給記憶設(shè)計(jì)了三個(gè)處理環(huán)節(jié)寫(xiě)入、檢索、遺忘。你可以把它們理解成三道閘門(mén)每一道都要有明確的策略否則記憶系統(tǒng)就是一鍋粥。3.1 寫(xiě)入閘門(mén)不是所有對(duì)話都值得記很多人的第一版長(zhǎng)期記憶是這樣的每輪對(duì)話結(jié)束后把整段對(duì)話文字塞進(jìn)向量庫(kù)。結(jié)果很快就會(huì)發(fā)現(xiàn)檢索出來(lái)的記憶全是垃圾因?yàn)槿粘?duì)話里90%的句子不具備長(zhǎng)期記憶價(jià)值。寫(xiě)入策略的核心是“篩選”。我在實(shí)際項(xiàng)目中會(huì)用兩種方式配合第一種是規(guī)則抽取。針對(duì)明確的字段比如用戶(hù)報(bào)了自己名字、說(shuō)了某個(gè)偏好、提到某個(gè)具體日期直接用規(guī)則從對(duì)話里抽出來(lái)寫(xiě)進(jìn)結(jié)構(gòu)化表。優(yōu)點(diǎn)是精確缺點(diǎn)是無(wú)法覆蓋復(fù)雜表述。第二種是總結(jié)沉淀。會(huì)話結(jié)束后讓大模型基于整段對(duì)話生成幾條記憶摘要例如“用戶(hù)提到在公司午休時(shí)間喜歡到樓下咖啡店坐坐”。每次生成摘要時(shí)我還會(huì)額外要求模型標(biāo)注“可遺忘項(xiàng)”也就是那些只對(duì)單次任務(wù)有用、不值得長(zhǎng)期保存的臨時(shí)信息。這一步能大幅降低噪聲。寫(xiě)入的觸發(fā)時(shí)機(jī)也很講究。我的做法是會(huì)話進(jìn)行中只寫(xiě)確定的、規(guī)則能識(shí)別的事實(shí)會(huì)話結(jié)束后才做全局總結(jié)沉淀。實(shí)時(shí)寫(xiě)入容易把用戶(hù)中途反悔的話也記進(jìn)去之后又要做一遍糾錯(cuò)非常不劃算。3.2 檢索閘門(mén)相似度之外還要有過(guò)濾和重排寫(xiě)完記憶Agent碰到新輸入時(shí)要從記憶里挑相關(guān)內(nèi)容也就是檢索。檢索如果只做“向量相似度TopK”那基本等于盲人摸象。我會(huì)在檢索鏈路里加三道護(hù)欄第一道是用戶(hù)隔離。所有檢索必須帶 user_id 過(guò)濾千萬(wàn)不能做成全局檢索否則用戶(hù)A的記憶會(huì)串到用戶(hù)B那里。這種錯(cuò)誤在產(chǎn)品環(huán)境是事故級(jí)的。第二道是時(shí)間衰減。同樣相似度的兩條記憶一條是昨天的、一條是半年前的它們的可信度完全不同。我習(xí)慣在打分公式里疊加一個(gè)時(shí)間衰減因子讓近期記憶獲得更高的排序權(quán)重。第三道是上下文重排。向量檢索結(jié)果先各給一個(gè)相似度分匯集到提示詞時(shí)會(huì)再做一輪重排把那些“語(yǔ)義相似但實(shí)際是另一個(gè)話題”的結(jié)果降權(quán)把和當(dāng)前任務(wù)真正相關(guān)的記憶往前放。這一步效果很明顯尤其當(dāng)你的向量模型質(zhì)量一般的時(shí)候。3.3 遺忘閘門(mén)讓記憶既能新增也能過(guò)期這一條是被很多人忽略的。記憶只增不減的系統(tǒng)最后一定會(huì)變質(zhì)。用戶(hù)三個(gè)月前的偏好可能已經(jīng)變了而遺忘機(jī)制就是防止Agent抱著過(guò)期數(shù)據(jù)不放。我做的至少有三層短期遺忘工作記憶隨會(huì)話結(jié)束清空不殘留。時(shí)間過(guò)期給記憶打上 ttl有效期比如“用戶(hù)在出差”這類(lèi)信息兩周后就失效再檢索到就自動(dòng)丟棄。合并覆蓋用戶(hù)說(shuō)“我現(xiàn)在不吃辣了”之后新的“不吃辣”記憶要覆蓋舊記錄。我一般用時(shí)間戳加置信度來(lái)判斷誰(shuí)覆蓋誰(shuí)新記憶的置信度權(quán)重更高。還有一個(gè)容易被忽視的問(wèn)題大模型在總結(jié)記憶的時(shí)候會(huì)“腦補(bǔ)”寫(xiě)出來(lái)一些對(duì)話里沒(méi)有的細(xì)節(jié)。我在長(zhǎng)期記憶寫(xiě)入時(shí)會(huì)做一個(gè)一致性校驗(yàn)讓模型輸出必須附帶上原始對(duì)話段落編號(hào)如果哪條總結(jié)找不到對(duì)應(yīng)出處寧可丟棄也不寫(xiě)入。這個(gè)坑我踩過(guò)一次修起來(lái)非常痛苦因?yàn)殄e(cuò)誤記憶會(huì)像滾雪球一樣影響后續(xù)所有對(duì)話。4. 手把手做一個(gè)帶長(zhǎng)期記憶的行程助手理論環(huán)節(jié)說(shuō)完下面進(jìn)入實(shí)操。我用一個(gè)“行程助手”來(lái)演示它需要記住用戶(hù)提到的地點(diǎn)偏好、時(shí)間安排等長(zhǎng)期信息并在后續(xù)對(duì)話里正確調(diào)用。這個(gè)Demo刻意不依賴(lài)特定云服務(wù)代碼結(jié)構(gòu)讓你可以輕松替換成自己手頭的向量庫(kù)和模型接口。4.1 整體鏈路與最小依賴(lài)整個(gè)鏈路是這樣的用戶(hù)輸入一句話。Agent先檢索該用戶(hù)的長(zhǎng)期記憶。短期記憶窗口加上檢索結(jié)果一起組裝成提示詞。調(diào)用模型生成回復(fù)。回復(fù)之后對(duì)當(dāng)前對(duì)話做一次提取把確定的偏好寫(xiě)入長(zhǎng)期記憶。代碼層面只需要 Python 3 和一個(gè)能調(diào)用大模型API的環(huán)境。我這里自己實(shí)現(xiàn)了一個(gè)極簡(jiǎn)向量索引基于余弦相似度只用來(lái)演示語(yǔ)義檢索的原理。你在實(shí)際項(xiàng)目里完全可以換成任何一個(gè)你想用的開(kāi)源向量庫(kù)接口保持一致就行。import time import math def estimate_tokens(text: str) - int: # 中英文混合場(chǎng)景下的粗略token估算 return max(1, int(len(text) * 1.3)) def cosine_similarity(a, b): dot sum(x * y for x, y in zip(a, b)) norm_a math.sqrt(sum(x * x for x in a)) norm_b math.sqrt(sum(x * x for x in b)) if norm_a 0 or norm_b 0: return 0.0 return dot / (norm_a * norm_b)這里我把 token 估算簡(jiǎn)化成等長(zhǎng)計(jì)費(fèi)真實(shí)項(xiàng)目里建議用對(duì)應(yīng)的分詞器接口。4.2 核心代碼拆解短期記憶與長(zhǎng)期記憶模塊先看短期記憶模塊。它的職責(zé)就是維護(hù)一個(gè)受預(yù)算控制的滾動(dòng)窗口class ShortTermMemory: def __init__(self, max_tokens1500): self.messages [] self.max_tokens max_tokens def add_message(self, role: str, content: str): self.messages.append({ role: role, content: content, ts: time.time(), }) self._trim() def _trim(self): while len(self.messages) 1: total sum(estimate_tokens(m[content]) for m in self.messages) if total self.max_tokens: break # 從最舊的消息開(kāi)始淘汰 self.messages.pop(0) def to_text(self) - str: return \n.join(f{m[role]}: {m[content]} for m in self.messages)下面是自己實(shí)現(xiàn)的迷你向量索引只保留核心邏輯方便你理解檢索原理class SimpleVectorIndex: def __init__(self, embed_fn): self.embed_fn embed_fn self.items [] # 每個(gè)元素是 (metadata, vector) def add_item(self, metadata, text): vector self.embed_fn(text) self.items.append(({**metadata, text: text}, vector)) def query(self, query_text, top_k3, user_idNone, max_age_secondsNone): query_vec self.embed_fn(query_text) scored [] now time.time() for metadata, vector in self.items: if user_id is not None and metadata.get(user_id) ! user_id: continue if max_age_seconds is not None: score_age 1.0 if metadata.get(ts, 0) - now 0 else max(0.0, 1.0 - (now - metadata.get(ts, now)) / max_age_seconds) else: score_age 1.0 score cosine_similarity(query_vec, vector) * score_age scored.append((score, metadata)) scored.sort(keylambda x: x[0], reverseTrue) return scored[:top_k] def search_all(self, keyword, user_idNone): results [] for metadata, _ in self.items: if user_id is not None and metadata.get(user_id) ! user_id: continue if keyword in metadata.get(text, ): results.append(metadata.copy()) return results注意上面我用了一個(gè)關(guān)鍵詞搜索方法 search_all它是給精確更新用的。用戶(hù)說(shuō)“我改主意了”的時(shí)候你需要先找到舊記憶再覆蓋而不是直接再插一條否則會(huì)出現(xiàn)兩條互相矛盾的記憶同時(shí)被檢索出來(lái)。長(zhǎng)期記憶模塊封裝了“寫(xiě)事實(shí)”和“讀記憶”兩個(gè)能力class LongTermMemory: def __init__(self, embed_fn): self.embed_fn embed_fn self.facts {} # user_id - {屬性: 值} self.index SimpleVectorIndex(embed_fn) def record_fact(self, user_id, attribute, value): # 結(jié)構(gòu)化事實(shí)直接精確覆蓋 if user_id not in self.facts: self.facts[user_id] {} self.facts[user_id][attribute] value def get_fact(self, user_id, attribute): return self.facts.get(user_id, {}).get(attribute) def memorize(self, user_id, text, importance0.5): self.index.add_item({ user_id: user_id, ts: time.time(), type: episodic, importance: importance, }, text) def recall(self, user_id, query_text, top_k3): semantic self.index.query(query_text, top_ktop_k, user_iduser_id, max_age_seconds86400) results [] for score, metadata in semantic: results.append({src: semantic, score: score, content: metadata[text], ts: metadata[ts]}) facts self.facts.get(user_id, {}) for attr, value in facts.items(): if attr and value: # 結(jié)構(gòu)化事實(shí)轉(zhuǎn)成自然語(yǔ)言參與排序維持統(tǒng)一輸出格式 results.append({src: fact, score: 0.8, content: f{attr}{value}, ts: 0}) results.sort(keylambda x: x[score], reverseTrue) return results[:top_k]這一步就有意識(shí)地把結(jié)構(gòu)化事實(shí)和語(yǔ)義片段統(tǒng)一成帶 score 的列表在組裝提示詞時(shí)一視同仁。實(shí)際項(xiàng)目里很多人把兩條檢索鏈路分開(kāi)做結(jié)果提示詞里一會(huì)兒出現(xiàn)句子、一會(huì)兒出現(xiàn)字段模型經(jīng)常搞混。4.3 跑通一次完整對(duì)話的驗(yàn)證過(guò)程組合起來(lái)你就能模擬一次完整交互了。我習(xí)慣把每次交互畫(huà)成五步查記憶、更新短期記憶、調(diào)模型、取回復(fù)、沉淀記憶。代碼如下class MemoryAgent: def __init__(self, embed_fn, llm_fn): self.stm ShortTermMemory() self.ltm LongTermMemory(embed_fn) self.llm_fn llm_fn # 大模型調(diào)用函數(shù) self.user_id demo_user def process_input(self, user_text): # 1. 檢索長(zhǎng)期記憶 recalled self.ltm.recall(self.user_id, user_text, top_k3) memory_text \n.join(f[記憶](méi) {item[content]} for item in recalled) # 2. 短期記憶寫(xiě)入用戶(hù)輸入 self.stm.add_message(user, user_text) # 3. 組裝提示詞 system_prompt ( 你是一個(gè)行程助手。請(qǐng)結(jié)合已知記憶回答 如果記憶中沒(méi)有可以明確說(shuō)不知道。\n ) messages [ {role: system, content: system_prompt memory_text}, ] messages.extend( {role: m[role], content: m[content]} for m in self.stm.messages ) # 4. 調(diào)用模型 reply self.llm_fn(messages) # 5. 簡(jiǎn)單提取并沉淀長(zhǎng)期記憶 self.stm.add_message(assistant, reply) if 我喜歡 in user_text: self.ltm.record_fact(self.user_id, 偏好, user_text.split(我喜歡)[-1].strip()) else: self.ltm.memorize(self.user_id, user_text, importance0.3) return reply跑一輪驗(yàn)證是這樣的def llm_fn(messages): # 接入你的大模型API服務(wù)商 # response your_llm_client.chat(messages) last messages[-1][content] return f我已收到約束也參考了記憶中的信息。你說(shuō)的是{last}。 embed_fn lambda text: [float(ord(c) % 100) / 99.0 for c in text[:32]] agent MemoryAgent(embed_fnembed_fn, llm_fnllm_fn) print(agent.process_input(我喜歡靠窗的座位)) print(agent.process_input(幫我訂明天下午去某地的車(chē)票)) print(agent.ltm.recall(demo_user, 坐車(chē)偏好, top_k5))上面這個(gè)簡(jiǎn)易 embedding 函數(shù)工業(yè)上沒(méi)什么用純粹讓Demo能獨(dú)立跑通。但后綴的 recall 結(jié)果能看到“靠窗”相關(guān)記憶被檢索出來(lái)說(shuō)明鏈路是通的。換成真實(shí)embedding模型后語(yǔ)義召回的效果會(huì)直接上一個(gè)臺(tái)階。5. 工程化路上最常踩的五個(gè)坑代碼能跑只是開(kāi)始。把這套東西放到真實(shí)數(shù)據(jù)上你大概率會(huì)遇到下面這些問(wèn)題。我把它們按殺傷力從大到小排一遍每個(gè)都附上我的處理經(jīng)驗(yàn)。5.1 看似能搜到其實(shí)召回全是噪聲最迷惑人的情況是你搜索“靠窗”結(jié)果也能搜出來(lái)但搜索“用戶(hù)喜歡哪種座位”或者“這次的偏好是啥”搜出來(lái)的東西就開(kāi)始亂套。原因基本出在三個(gè)地方一是嵌入模型太弱中文長(zhǎng)句、近義詞辨識(shí)度不夠。解決辦法是換更強(qiáng)的大模型向量接口或者對(duì)長(zhǎng)文本做分塊再向量化塊與塊之間保留重疊避免語(yǔ)義跨塊斷掉。二是沒(méi)有做查詢(xún)改寫(xiě)。用戶(hù)問(wèn)“附近吃飯推薦”但記憶里存的是“用戶(hù)喜歡清淡口味”這句原文和“吃飯”在語(yǔ)義上有關(guān)聯(lián)但向量距離未必近。我現(xiàn)在的做法是檢索前先用模型把用戶(hù)問(wèn)題改寫(xiě)成若干個(gè)候選查詢(xún)句分別檢索再合并結(jié)果召回率會(huì)明顯提升。三是缺少過(guò)濾。比如你存了十條“用戶(hù)喜歡靠窗”然后檢索出來(lái)十條全是靠窗。不是你記性差是你沒(méi)有做去重。寫(xiě)入前先檢索一次如果已經(jīng)有相同語(yǔ)義的記憶就做合并和更新時(shí)間戳不要每次都插新。5.2 記憶漂移用戶(hù)改主意之后舊記憶還在這是“甜蜜的負(fù)擔(dān)”——系統(tǒng)記住太多忘記太少。用戶(hù)說(shuō)“我不喜歡靠窗了”結(jié)果你下次還是推薦靠窗座位因?yàn)樗瓉?lái)喜歡靠窗的句子還靜靜躺在向量庫(kù)里。要解決記憶漂移我的方案是給記憶加置信度和生命周期兩層屬性。置信度低的記憶不被輸出生命周期過(guò)了的記憶即使相關(guān)也要被篩掉。用戶(hù)的最新說(shuō)法寫(xiě)入時(shí)對(duì)同一主題的舊記憶做主動(dòng)降權(quán)和過(guò)期而不是等到檢索時(shí)才發(fā)現(xiàn)問(wèn)題。實(shí)際操作上我在“新增記憶”之外總會(huì)跑一條“更新記憶”流程拿新文本去檢索自己用戶(hù)的舊記憶相似度超過(guò)一定閾值就把舊記憶標(biāo)記為失效并建立指向新記憶的跳轉(zhuǎn)。這種方式比較笨但穩(wěn)定可靠。5.3 記憶膨脹帶來(lái)的成本失控長(zhǎng)期記憶臃腫最直接的后果是每次對(duì)話都帶著一大段歷史摘要token費(fèi)用直線上升。我在一個(gè)上線項(xiàng)目里遇到過(guò)提示詞被頂?shù)绞畮兹f(wàn) token 的情況一個(gè)月的接口賬單漲了四成。解決思路是分檔先把最常命中的記憶放在本地KV里每次必讀把大段的語(yǔ)義記憶做成摘要索引只有命中關(guān)鍵詞才加載全文再定一個(gè)規(guī)則超過(guò)多少天沒(méi)有被檢索過(guò)的記憶轉(zhuǎn)入冷存儲(chǔ)不再參與實(shí)時(shí)檢索。另外提醒你一個(gè)很多人忽略的隱藏成本每次把記憶寫(xiě)進(jìn)向量庫(kù)也要花一次embedding調(diào)用。如果每輪對(duì)話都寫(xiě)成本一樣不低。我的策略是批量寫(xiě)入——會(huì)話結(jié)束后統(tǒng)一處理而不是對(duì)話過(guò)程中每條都調(diào)一次embedding接口。5.4 用戶(hù)隔離與數(shù)據(jù)邊界這個(gè)問(wèn)題做ToB項(xiàng)目尤其要命。多個(gè)用戶(hù)的數(shù)據(jù)存在同一個(gè)索引里如果查詢(xún)時(shí)沒(méi)有嚴(yán)格帶 user_id 做過(guò)濾一旦出了串號(hào)事故在合規(guī)上基本無(wú)法解釋。這不是技術(shù)細(xì)節(jié)問(wèn)題是一票否決項(xiàng)。我從一開(kāi)始就規(guī)定所有寫(xiě)入和讀取的操作函數(shù)強(qiáng)制要求傳 user_id不允許出現(xiàn)不帶隔離條件的公開(kāi)查詢(xún)接口。寧可代碼冗余一點(diǎn)也不能靠“程序員記得加過(guò)濾”來(lái)保證數(shù)據(jù)邊界。5.5 把記憶和工具調(diào)用混在一起最后一坑比較隱蔽Agent如果同時(shí)有工具調(diào)用和記憶系統(tǒng)你很容易把工具返回的結(jié)果也當(dāng)成記憶存下來(lái)。比如查天氣工具返回了“今天晴”這是實(shí)時(shí)數(shù)據(jù)明天就失效了不該進(jìn)入長(zhǎng)期記憶。我的經(jīng)驗(yàn)是給記憶打上來(lái)源標(biāo)簽用戶(hù)陳述、模型總結(jié)、工具結(jié)果。不同來(lái)源使用不同的有效期工具結(jié)果一般只留在短期記憶里不沉淀到長(zhǎng)期記憶。最后補(bǔ)充一個(gè)偏實(shí)戰(zhàn)的小技巧聊到這兒我想把記憶系統(tǒng)的可觀測(cè)性單獨(dú)拎出來(lái)強(qiáng)調(diào)一下。線上跑Agent的時(shí)候最難受的不是功能不對(duì)而是你沒(méi)法判斷它為什么這么回答。是不是記憶檢索錯(cuò)了還是根本沒(méi)檢索到還是檢索到了但提示詞里被別的信息擠掉了我從第一次做帶記憶的Agent起就養(yǎng)成了一個(gè)習(xí)慣在每次請(qǐng)求的返回里附帶一個(gè) debug 字段把這個(gè)請(qǐng)求用到了哪些記憶、每條記憶的相似度分?jǐn)?shù)、短期記憶裁掉了哪幾條舊消息都打出來(lái)。測(cè)試階段直接打印在控制臺(tái)上線階段寫(xiě)進(jìn)日志。不要嫌難看記憶系統(tǒng)是Agent里最難調(diào)試的部分沒(méi)有可觀測(cè)性你只能靠猜越猜越離譜。說(shuō)白了給Agent裝上記憶從來(lái)不只是“加個(gè)向量庫(kù)”那么簡(jiǎn)單。它更像是在模擬人的認(rèn)知過(guò)程什么值得記住、什么時(shí)候想起來(lái)、什么時(shí)候該忘。按著寫(xiě)入、檢索、遺忘這套框架去拆解再一步步落到代碼里你的Agent才算是從“會(huì)說(shuō)話”進(jìn)化到了“記得住”。下一步你就可以在這個(gè)基礎(chǔ)上去做自動(dòng)化的記憶合并策略或者按記憶置信度動(dòng)態(tài)調(diào)整提示詞權(quán)重那基本就是往更成熟的記憶體系靠近了。