用開發(fā)實(shí)戰(zhàn)：RAG、Agent與LangGraph技術(shù)棧詳解)
在實(shí)際 AI 大模型應(yīng)用開發(fā)中RAG、Agent、LangChain、LangGraph 和 DeepSeek 等技術(shù)棧正成為構(gòu)建智能系統(tǒng)的核心組件。無論是想快速搭建一個(gè)基于文檔的問答系統(tǒng)還是設(shè)計(jì)一個(gè)能自主決策、調(diào)用工具的多步驟智能體掌握這些框架和概念都是必經(jīng)之路。然而面對海量的官方文檔、零散的教程和不斷迭代的 API很多開發(fā)者感到無從下手學(xué)習(xí)路徑模糊更不用說在緊張的面試中清晰、系統(tǒng)地闡述其原理與實(shí)踐。本文旨在為你梳理一條從概念理解到實(shí)戰(zhàn)落地的清晰路徑。我們將圍繞 RAG 檢索增強(qiáng)生成、Agent 智能體開發(fā)、LangChain 框架核心、LangGraph 工作流編排以及 DeepSeek 模型集成這五大主題構(gòu)建一個(gè)結(jié)構(gòu)化的知識體系。文章不僅會解釋每個(gè)技術(shù)點(diǎn)“是什么”和“為什么”更會通過具體的配置、代碼片段和操作步驟展示“怎么做”并附上開發(fā)中常見的“坑”及其排查方法。無論你是準(zhǔn)備技術(shù)面試還是希望在實(shí)際項(xiàng)目中應(yīng)用這些技術(shù)都可以跟隨本文的節(jié)奏建立起扎實(shí)的認(rèn)知和實(shí)操能力。1. 理解核心概念RAG、Agent 與框架生態(tài)在深入代碼之前必須厘清幾個(gè)核心概念及其相互關(guān)系。混淆概念會導(dǎo)致技術(shù)選型錯(cuò)誤和架構(gòu)設(shè)計(jì)混亂。1.1 RAG讓大模型“知道”它不知道的事檢索增強(qiáng)生成的核心思想是解決大模型的“幻覺”問題和知識截止問題。傳統(tǒng)的大模型僅依賴其訓(xùn)練時(shí)學(xué)習(xí)到的參數(shù)化知識進(jìn)行生成對于訓(xùn)練數(shù)據(jù)中未包含的、實(shí)時(shí)的或高度專業(yè)化的信息它要么胡編亂造要么直接表示不知道。RAG 通過引入一個(gè)外部知識庫通常是向量數(shù)據(jù)庫來動態(tài)地為模型提供上下文。其工作流程可以簡化為三步索引將原始文檔如 PDF、TXT、網(wǎng)頁進(jìn)行分塊通過嵌入模型轉(zhuǎn)換為向量并存儲到向量數(shù)據(jù)庫中。檢索當(dāng)用戶提出問題時(shí)將問題同樣轉(zhuǎn)換為向量并在向量數(shù)據(jù)庫中進(jìn)行相似性搜索找出最相關(guān)的文本片段。增強(qiáng)生成將檢索到的相關(guān)文本片段作為上下文與用戶問題一起拼接成提示詞提交給大語言模型讓模型基于這些“證據(jù)”生成答案。這樣模型回答的準(zhǔn)確性和可信度就得到了極大提升。一個(gè)典型的應(yīng)用場景是公司內(nèi)部知識庫問答你可以將產(chǎn)品手冊、技術(shù)文檔導(dǎo)入系統(tǒng)員工即可用自然語言進(jìn)行查詢。1.2 Agent賦予大模型“行動”的能力如果說 RAG 擴(kuò)展了模型的“知識”那么 Agent 則擴(kuò)展了模型的“能力”。一個(gè)智能體不僅僅是一個(gè)聊天接口它是一個(gè)具備感知、規(guī)劃、決策和執(zhí)行能力的系統(tǒng)。一個(gè)基礎(chǔ)的 Agent 通常包含以下幾個(gè)核心組件工具Agent 可以調(diào)用的外部函數(shù)或 API例如搜索網(wǎng)絡(luò)、查詢數(shù)據(jù)庫、執(zhí)行代碼、調(diào)用第三方服務(wù)。記憶用于存儲對話歷史、中間結(jié)果或長期目標(biāo)使 Agent 具備上下文感知能力。規(guī)劃將復(fù)雜任務(wù)分解為一系列可執(zhí)行的子步驟。執(zhí)行根據(jù)規(guī)劃按順序調(diào)用工具并處理結(jié)果。例如一個(gè)“天氣查詢-行程建議”Agent在用戶說“明天北京天氣如何如果下雨推薦室內(nèi)活動”時(shí)它會規(guī)劃出兩個(gè)步驟先調(diào)用天氣查詢工具獲取北京明日天氣再根據(jù)結(jié)果下雨/不下雨調(diào)用本地生活服務(wù)工具獲取相應(yīng)的活動推薦。1.3 LangChain 與 LangGraph從鏈?zhǔn)秸{(diào)用到圖工作流LangChain是一個(gè)用于開發(fā)由語言模型驅(qū)動的應(yīng)用程序的框架。它提供了模塊化的組件如模型 I/O、提示詞模板、記憶、索引和鏈讓開發(fā)者可以像搭積木一樣快速構(gòu)建應(yīng)用。其核心抽象是“鏈”即將多個(gè)組件按順序組合起來處理任務(wù)例如RetrievalQA鏈就封裝了 RAG 的完整流程。然而簡單的順序鏈無法處理復(fù)雜的、有分支和循環(huán)的 Agent 任務(wù)。這就是LangGraph出現(xiàn)的原因。LangGraph構(gòu)建在 LangChain 之上它引入了“圖”的概念。你可以將應(yīng)用程序定義為一個(gè)有向圖其中節(jié)點(diǎn)代表執(zhí)行步驟如調(diào)用工具、調(diào)用LLM邊代表步驟之間的流轉(zhuǎn)條件。這使得構(gòu)建具備復(fù)雜邏輯、循環(huán)如讓 Agent 反復(fù)思考直到滿足條件和狀態(tài)管理的智能體變得非常直觀。兩者關(guān)系LangChain 提供了構(gòu)建 AI 應(yīng)用的基礎(chǔ)磚塊和簡單粘合劑鏈而 LangGraph 提供了設(shè)計(jì)復(fù)雜、有狀態(tài)工作流的藍(lán)圖和引擎。對于簡單的 RAG 問答使用 LangChain 的鏈可能就夠了但對于一個(gè)需要多輪決策、工具調(diào)用的高級 AgentLangGraph 是更合適的選擇。1.4 DeepSeek強(qiáng)大且經(jīng)濟(jì)的選擇DeepSeek 是由深度求索公司開發(fā)的大語言模型系列以其出色的推理能力和極具競爭力的性價(jià)比受到開發(fā)者歡迎。在構(gòu)建 AI 應(yīng)用時(shí)選擇 DeepSeek 作為核心的 LLM 引擎可以顯著降低 API 調(diào)用成本同時(shí)獲得接近頂級閉源模型的效果。通過 LangChain 或直接調(diào)用其 API可以輕松地將 DeepSeek 集成到你的 RAG 或 Agent 系統(tǒng)中。2. 環(huán)境準(zhǔn)備與核心依賴配置開始實(shí)戰(zhàn)前需要搭建一個(gè)干凈的 Python 開發(fā)環(huán)境并安裝必要的依賴。這里我們以創(chuàng)建一個(gè)新的虛擬環(huán)境為例。2.1 創(chuàng)建并激活虛擬環(huán)境使用venv或conda創(chuàng)建隔離環(huán)境是 Python 項(xiàng)目的最佳實(shí)踐可以避免包版本沖突。# 使用 venv (Python 3.3 內(nèi)置) python -m venv ai-agent-env # 激活環(huán)境 (Linux/macOS) source ai-agent-env/bin/activate # 激活環(huán)境 (Windows) ai-agent-env\Scripts\activate2.2 安裝核心 Python 包我們將安裝 LangChain、LangGraph、向量數(shù)據(jù)庫客戶端、嵌入模型以及 DeepSeek 的 SDK。以下requirements.txt文件列出了常用依賴及其典型版本。# requirements.txt langchain0.1.0 langchain-community0.0.10 # 社區(qū)貢獻(xiàn)的集成工具 langchain-core0.1.0 langgraph0.0.22 # 用于調(diào)用 DeepSeek API也可以使用 openai 包如果 DeepSeek 兼容 OpenAI 格式 openai1.12.0 # 嵌入模型這里使用 OpenAI 的 text-embedding-3-small也可替換為本地模型如 BGE langchain-openai0.0.8 # 向量數(shù)據(jù)庫以 Chroma 為例輕量級適合學(xué)習(xí)和原型開發(fā) chromadb0.4.22 # 文檔加載器 langchain-text-splitters0.0.1 pypdf3.17.4 # 用于讀取 PDF beautifulsoup44.12.2 # 用于解析 HTML # 其他工具 python-dotenv1.0.0 # 管理環(huán)境變量使用 pip 安裝pip install -r requirements.txt2.3 配置 API 密鑰與環(huán)境變量大部分服務(wù)如 DeepSeek API、OpenAI API都需要密鑰。永遠(yuǎn)不要將密鑰硬編碼在代碼中。使用.env文件管理。在項(xiàng)目根目錄創(chuàng)建.env文件。填入你的 API 密鑰。如果你使用 DeepSeek需要去其官網(wǎng)注冊并獲取。# .env DEEPSEEK_API_KEYyour_deepseek_api_key_here DEEPSEEK_API_BASEhttps://api.deepseek.com # 以官方最新文檔為準(zhǔn) # 如果你使用 OpenAI 格式兼容的端點(diǎn)可能還需要 OPENAI_API_KEYyour_deepseek_api_key_here # 有時(shí)可直接復(fù)用 OPENAI_API_BASEhttps://api.deepseek.com/v1在 Python 代碼中使用python-dotenv加載。from dotenv import load_dotenv load_dotenv() # 加載 .env 文件中的環(huán)境變量 import os api_key os.getenv(DEEPSEEK_API_KEY)3. 實(shí)戰(zhàn)一構(gòu)建一個(gè)基礎(chǔ)的 RAG 問答系統(tǒng)我們將使用 LangChain 和 Chroma 實(shí)現(xiàn)一個(gè)最簡單的 RAG 流程并用 DeepSeek 作為生成模型。3.1 文檔加載與文本分割首先準(zhǔn)備你的知識文檔例如一個(gè)knowledge.pdf文件。LangChain 提供了多種文檔加載器。# rag_basic.py from langchain_community.document_loaders import PyPDFLoader from langchain_text_splitters import RecursiveCharacterTextSplitter # 1. 加載文檔 loader PyPDFLoader(./knowledge.pdf) # 替換為你的文件路徑 documents loader.load() # 2. 分割文本 # 分割的目的是為了適配模型的上下文長度并提高檢索精度。 text_splitter RecursiveCharacterTextSplitter( chunk_size500, # 每個(gè)塊的最大字符數(shù) chunk_overlap50, # 塊之間的重疊字符避免語義被切斷 separators[\n\n, \n, 。, , , , , ] # 分割符優(yōu)先級 ) split_docs text_splitter.split_documents(documents) print(f原始文檔頁數(shù): {len(documents)}) print(f分割后文本塊數(shù): {len(split_docs)}) print(f第一個(gè)塊的內(nèi)容預(yù)覽: {split_docs[0].page_content[:200]}...)3.2 向量化存儲與檢索接下來我們需要一個(gè)嵌入模型將文本轉(zhuǎn)換為向量并用向量數(shù)據(jù)庫存儲和檢索。# rag_basic.py (續(xù)) from langchain_openai import OpenAIEmbeddings from langchain_community.vectorstores import Chroma import os # 注意這里使用 OpenAIEmbeddings但指向 DeepSeek 的嵌入端點(diǎn)如果支持。 # 如果 DeepSeek 不提供獨(dú)立嵌入模型可以使用開源模型如 all-MiniLM-L6-v2 (通過 sentence-transformers)。 # 此處假設(shè)使用 OpenAI 兼容的嵌入服務(wù)。 embeddings OpenAIEmbeddings( modeltext-embedding-3-small, # 或 DeepSeek 提供的嵌入模型名 openai_api_keyos.getenv(DEEPSEEK_API_KEY), openai_api_baseos.getenv(DEEPSEEK_API_BASE, https://api.deepseek.com) ) # 3. 創(chuàng)建向量數(shù)據(jù)庫并存儲 # persist_directory 指定持久化路徑否則數(shù)據(jù)僅在內(nèi)存中 vectorstore Chroma.from_documents( documentssplit_docs, embeddingembeddings, persist_directory./chroma_db # 數(shù)據(jù)將保存到此目錄 ) vectorstore.persist() # 顯式持久化 print(向量數(shù)據(jù)庫已創(chuàng)建并持久化。) # 4. 檢索測試 query 什么是機(jī)器學(xué)習(xí) retrieved_docs vectorstore.similarity_search(query, k2) # 檢索最相似的2個(gè)塊 print(f\n針對問題 {query} 檢索到的相關(guān)內(nèi)容) for i, doc in enumerate(retrieved_docs): print(f[片段 {i1}]: {doc.page_content[:300]}...)3.3 集成 LLM 進(jìn)行增強(qiáng)生成最后將檢索到的上下文與用戶問題組合發(fā)送給 DeepSeek 模型生成最終答案。# rag_basic.py (續(xù)) from langchain_openai import ChatOpenAI from langchain.chains import RetrievalQA from langchain.prompts import PromptTemplate # 5. 初始化 DeepSeek LLM (通過 OpenAI 兼容接口) llm ChatOpenAI( modeldeepseek-chat, # 模型名稱請查閱 DeepSeek 最新文檔 openai_api_keyos.getenv(DEEPSEEK_API_KEY), openai_api_baseos.getenv(DEEPSEEK_API_BASE, https://api.deepseek.com), temperature0.1 # 降低隨機(jī)性使答案更確定 ) # 6. 定義自定義提示詞模板明確告訴模型使用上下文 prompt_template 請根據(jù)以下上下文信息回答問題。如果上下文信息不足以回答問題請直接說“根據(jù)提供的信息我無法回答這個(gè)問題”不要編造信息。 上下文 {context} 問題 {question} 請給出答案 PROMPT PromptTemplate( templateprompt_template, input_variables[context, question] ) # 7. 創(chuàng)建檢索問答鏈 qa_chain RetrievalQA.from_chain_type( llmllm, chain_typestuff, # 最簡單的方式將所有檢索到的上下文塞入提示詞 retrievervectorstore.as_retriever(search_kwargs{k: 3}), # 檢索3個(gè)片段 chain_type_kwargs{prompt: PROMPT}, return_source_documentsTrue # 返回源文檔便于追溯 ) # 8. 提問 result qa_chain.invoke({query: 機(jī)器學(xué)習(xí)的主要類型有哪些}) print(\n RAG 系統(tǒng)回答 ) print(result[result]) print(\n 參考來源 ) for doc in result[source_documents]: print(f- {doc.page_content[:150]}...)運(yùn)行這個(gè)腳本你將看到一個(gè)完整的 RAG 系統(tǒng)的工作流程。關(guān)鍵點(diǎn)在于提示詞模板的設(shè)計(jì)它強(qiáng)制模型基于提供的上下文作答這是減少幻覺的關(guān)鍵。4. 實(shí)戰(zhàn)二使用 LangGraph 構(gòu)建一個(gè)決策型 Agent現(xiàn)在我們構(gòu)建一個(gè)更復(fù)雜的 Agent它可以根據(jù)用戶需求決定是直接回答問題還是需要先查詢天氣。這需要引入工具和決策邏輯。4.1 定義工具首先我們模擬兩個(gè)工具一個(gè)通用問答工具模擬直接回答簡單問題一個(gè)天氣查詢工具。# agent_graph.py from langchain.tools import tool from datetime import datetime tool def general_qa_tool(question: str) - str: 一個(gè)通用的問答工具用于回答簡單的常識性或介紹性問題。 # 這里為了演示返回一個(gè)模擬答案。實(shí)際中可以連接一個(gè)知識庫或另一個(gè)LLM。 return f這是一個(gè)關(guān)于{question}的模擬回答。當(dāng)前時(shí)間是 {datetime.now().strftime(%H:%M)}。 tool def weather_query_tool(city: str) - str: 查詢指定城市的天氣情況。 # 模擬天氣數(shù)據(jù) weather_data { 北京: 晴15-25°C微風(fēng), 上海: 多云18-28°C東南風(fēng)3級, 深圳: 陣雨22-30°C南風(fēng)4級, } return weather_data.get(city, f未找到{city}的天氣信息。)4.2 構(gòu)建 Agent 狀態(tài)與圖節(jié)點(diǎn)LangGraph 的核心是定義狀態(tài)和節(jié)點(diǎn)。狀態(tài)是一個(gè)字典在圖的執(zhí)行過程中傳遞和更新。# agent_graph.py (續(xù)) from typing import TypedDict, Annotated, List import operator from langgraph.graph import StateGraph, END # 1. 定義狀態(tài)結(jié)構(gòu) class AgentState(TypedDict): question: str # 用戶原始問題 needs_weather: bool # 是否需要查詢天氣 city: str # 需要查詢天氣的城市 weather_info: str # 查詢到的天氣信息 final_answer: str # 最終給用戶的答案 steps: Annotated[List[str], operator.add] # 記錄執(zhí)行步驟用于調(diào)試 # 2. 定義節(jié)點(diǎn)函數(shù) def route_question(state: AgentState) - AgentState: 路由節(jié)點(diǎn)判斷問題是否需要查詢天氣。 steps state.get(steps, []) question_lower state[question].lower() weather_keywords [天氣, 下雨, 下雪, 氣溫, 溫度] needs_weather any(keyword in question_lower for keyword in weather_keywords) city 北京 # 簡單起見這里硬編碼城市。實(shí)際可以用 NER 模型提取。 steps.append(f路由節(jié)點(diǎn)問題‘{state[question]}’是否需要天氣{needs_weather}城市{city}) return { **state, needs_weather: needs_weather, city: city if needs_weather else , steps: steps } def call_weather_tool(state: AgentState) - AgentState: 調(diào)用天氣工具節(jié)點(diǎn)。 steps state.get(steps, []) city state[city] weather_info weather_query_tool.invoke({city: city}) steps.append(f調(diào)用天氣工具查詢{city}天氣結(jié)果{weather_info}) return {**state, weather_info: weather_info, steps: steps} def call_qa_tool(state: AgentState) - AgentState: 調(diào)用通用問答工具節(jié)點(diǎn)。 steps state.get(steps, []) answer general_qa_tool.invoke({question: state[question]}) steps.append(f調(diào)用通用問答工具答案{answer}) return {**state, final_answer: answer, steps: steps} def synthesize_answer(state: AgentState) - AgentState: 合成答案節(jié)點(diǎn)如果需要天氣結(jié)合天氣信息生成最終答案。 steps state.get(steps, []) if state[needs_weather]: # 這里可以引入 LLM 來生成更自然的結(jié)合了天氣的回答 final_answer f您詢問了{(lán)state[city]}的天氣。{state[weather_info]}。根據(jù)這個(gè)天氣建議您...此處可擴(kuò)展 else: final_answer state[final_answer] steps.append(f合成最終答案{final_answer}) return {**state, final_answer: final_answer, steps: steps}4.3 組裝圖并運(yùn)行將節(jié)點(diǎn)和邊連接起來形成一個(gè)完整的工作流圖。# agent_graph.py (續(xù)) # 3. 創(chuàng)建圖并添加節(jié)點(diǎn) workflow StateGraph(AgentState) workflow.add_node(router, route_question) workflow.add_node(get_weather, call_weather_tool) workflow.add_node(get_general_answer, call_qa_tool) workflow.add_node(synthesize, synthesize_answer) # 4. 設(shè)置邊和條件流轉(zhuǎn) workflow.set_entry_point(router) # 根據(jù)路由結(jié)果決定下一步 workflow.add_conditional_edges( router, # 下一個(gè)節(jié)點(diǎn)由這個(gè)函數(shù)決定 lambda state: get_weather if state[needs_weather] else get_general_answer, { get_weather: get_weather, get_general_answer: get_general_answer } ) workflow.add_edge(get_weather, synthesize) workflow.add_edge(get_general_answer, synthesize) workflow.add_edge(synthesize, END) # 5. 編譯圖 app workflow.compile() # 6. 運(yùn)行 Agent if __name__ __main__: # 測試用例1需要天氣的問題 test_state_1 {question: 今天北京天氣怎么樣, steps: []} result_1 app.invoke(test_state_1) print(測試1 - 天氣查詢:) print(f問題: {result_1[question]}) print(f最終答案: {result_1[final_answer]}) print(執(zhí)行步驟:, result_1[steps]) print(- * 50) # 測試用例2普通問題 test_state_2 {question: 什么是人工智能, steps: []} result_2 app.invoke(test_state_2) print(測試2 - 普通問答:) print(f問題: {result_2[question]}) print(f最終答案: {result_2[final_answer]}) print(執(zhí)行步驟:, result_2[steps])運(yùn)行此腳本你將看到 Agent 根據(jù)問題內(nèi)容自動選擇不同的執(zhí)行路徑。LangGraph 的可視化能力需要安裝graphviz還能讓你直觀地看到這個(gè)工作流圖這對于調(diào)試復(fù)雜 Agent 至關(guān)重要。5. 關(guān)鍵配置、參數(shù)與常見問題排查在實(shí)際開發(fā)中你會遇到各種配置和運(yùn)行時(shí)問題。以下是關(guān)鍵參數(shù)和常見問題的速查表。5.1 核心參數(shù)配置表組件關(guān)鍵參數(shù)說明推薦值/建議文本分割chunk_size文本塊大小字符數(shù)。取決于模型上下文窗口。對于 4K-8K 窗口500-1000 較合適。chunk_overlap塊間重疊字符數(shù)。通常為chunk_size的 10%-20%保證語義連貫。向量檢索search_kwargs{k: n}檢索返回的最相似片段數(shù)。根據(jù)問題復(fù)雜度調(diào)整通常 3-5。太多可能引入噪聲。distance_metric向量相似度計(jì)算方式如余弦相似度。Chroma 默認(rèn)cosine通常無需更改。LLM 調(diào)用temperature生成隨機(jī)性。0 最確定1 最隨機(jī)。問答場景建議 0.1-0.3創(chuàng)意生成可調(diào)高。max_tokens生成答案的最大長度。根據(jù)需求設(shè)置避免生成過長或截?cái)?。LangGraphcheckpointer狀態(tài)檢查點(diǎn)用于實(shí)現(xiàn)長期記憶。對于多輪對話 Agent需配置SqliteSaver等。interrupt_before/after在特定節(jié)點(diǎn)前后中斷用于人工審核。在關(guān)鍵決策點(diǎn)如執(zhí)行付費(fèi)操作前設(shè)置。5.2 常見問題與排查路徑問題現(xiàn)象可能原因檢查與解決步驟RAG 回答與文檔無關(guān)或胡編亂造1. 檢索到的上下文不相關(guān)。2. 提示詞未強(qiáng)制模型使用上下文。3. 上下文長度超出模型限制。1. 檢查嵌入模型是否匹配嘗試調(diào)整chunk_size或使用不同的分割器。2. 強(qiáng)化提示詞例如加入“必須嚴(yán)格依據(jù)上下文”。3. 減少檢索數(shù)量k或使用map_reduce、refine等鏈類型處理長上下文。向量數(shù)據(jù)庫檢索速度慢1. 向量維度高數(shù)據(jù)量大。2. 未建立索引或索引類型不合適。1. 考慮使用更高效的向量數(shù)據(jù)庫如 Milvus, Qdrant或降維。2. 對于 Chroma確保數(shù)據(jù)已持久化首次加載后查詢會更快。DeepSeek API 調(diào)用失敗1. API 密鑰錯(cuò)誤或過期。2. 網(wǎng)絡(luò)問題或服務(wù)端異常。3. 請求格式或參數(shù)不兼容。1. 檢查.env文件和環(huán)境變量是否正確加載。2. 查看錯(cuò)誤信息確認(rèn) API Base URL 和模型名是否正確。3. 使用curl或 Postman 直接測試 API 端點(diǎn)排除代碼問題。LangGraph Agent 陷入循環(huán)或狀態(tài)錯(cuò)誤1. 條件邊conditional_edges邏輯有誤。2. 狀態(tài)State結(jié)構(gòu)定義與節(jié)點(diǎn)返回值不匹配。1. 打印每個(gè)節(jié)點(diǎn)的輸入/輸出狀態(tài)使用app.get_graph().draw_mermaid()可視化圖結(jié)構(gòu)。2. 確保所有節(jié)點(diǎn)返回的字典都包含狀態(tài)定義的所有鍵或使用**state進(jìn)行合并。工具調(diào)用失敗或參數(shù)錯(cuò)誤1. 工具函數(shù)參數(shù)定義與調(diào)用不匹配。2. LLM 生成的工具調(diào)用參數(shù)格式錯(cuò)誤。1. 使用tool裝飾器時(shí)確保函數(shù)有清晰的 docstring 和類型注解。2. 在調(diào)用工具前打印出 LLM 生成的參數(shù)進(jìn)行驗(yàn)證。對于復(fù)雜參數(shù)考慮使用 Pydantic 工具。5.3 生產(chǎn)環(huán)境考量學(xué)習(xí)環(huán)境可以快速跑通但生產(chǎn)部署需要考慮更多異步與并發(fā)使用langchain的異步接口或asyncio提高吞吐量。錯(cuò)誤處理與重試為 LLM API 調(diào)用、工具調(diào)用添加重試機(jī)制和斷路器。可觀測性集成日志如structlog、指標(biāo)如 Prometheus和鏈路追蹤如 OpenTelemetry監(jiān)控耗時(shí)、Token 使用量和錯(cuò)誤率。緩存對相似的檢索查詢或 LLM 生成結(jié)果進(jìn)行緩存節(jié)省成本和時(shí)間。安全與權(quán)限對用戶輸入進(jìn)行過濾和審查為工具調(diào)用設(shè)置嚴(yán)格的權(quán)限控制。版本管理對提示詞模板、嵌入模型、LLM 版本進(jìn)行管理便于回滾和 A/B 測試。6. 進(jìn)階方向與學(xué)習(xí)建議掌握了以上基礎(chǔ)后你可以向更深入的方向探索高級 RAG 技巧研究重排序、HyDE、子查詢、多向量檢索等技術(shù)進(jìn)一步提升檢索質(zhì)量。復(fù)雜 Agent 模式學(xué)習(xí) ReAct、Plan-and-Execute、Multi-Agent 等架構(gòu)讓 Agent 能處理更復(fù)雜的任務(wù)。長期記憶在 LangGraph 中集成SqliteSaver或外部數(shù)據(jù)庫使 Agent 在多次交互中記住用戶偏好和歷史。流式輸出實(shí)現(xiàn)答案的逐字生成提升用戶體驗(yàn)。前端集成使用 Gradio、Streamlit 或 Web 框架如 FastAPI構(gòu)建交互式界面。本地化部署嘗試使用 Ollama 部署本地 LLM或使用sentence-transformers運(yùn)行本地嵌入模型完全擺脫對云 API 的依賴。學(xué)習(xí)這些技術(shù)的最佳方式是動手實(shí)踐。建議從一個(gè)明確的小項(xiàng)目開始例如“個(gè)人文檔摘要助手”或“智能日程規(guī)劃 Agent”在實(shí)現(xiàn)過程中逐一攻克上述知識點(diǎn)。同時(shí)養(yǎng)成查閱官方文檔的習(xí)慣因?yàn)?AI 框架的迭代速度非常快。通過結(jié)合項(xiàng)目實(shí)踐、官方文檔和社區(qū)討論你就能建立起扎實(shí)的 AI 應(yīng)用開發(fā)能力從容應(yīng)對相關(guān)的技術(shù)挑戰(zhàn)和面試。 AI應(yīng)用開發(fā)實(shí)戰(zhàn)：RAG、Agent與LangGraph技術(shù)棧詳解
在實(shí)際 AI 大模型應(yīng)用開發(fā)中RAG、Agent、LangChain、LangGraph 和 DeepSeek 等技術(shù)棧正成為構(gòu)建智能系統(tǒng)的核心組件。無論是想快速搭建一個(gè)基于文檔的問答系統(tǒng)還是設(shè)計(jì)一個(gè)能自主決策、調(diào)用工具的多步驟智能體掌握這些框架和概念都是必經(jīng)之路。然而面對海量的官方文檔、零散的教程和不斷迭代的 API很多開發(fā)者感到無從下手學(xué)習(xí)路徑模糊更不用說在緊張的面試中清晰、系統(tǒng)地闡述其原理與實(shí)踐。本文旨在為你梳理一條從概念理解到實(shí)戰(zhàn)落地的清晰路徑。我們將圍繞 RAG 檢索增強(qiáng)生成、Agent 智能體開發(fā)、LangChain 框架核心、LangGraph 工作流編排以及 DeepSeek 模型集成這五大主題構(gòu)建一個(gè)結(jié)構(gòu)化的知識體系。文章不僅會解釋每個(gè)技術(shù)點(diǎn)“是什么”和“為什么”更會通過具體的配置、代碼片段和操作步驟展示“怎么做”并附上開發(fā)中常見的“坑”及其排查方法。無論你是準(zhǔn)備技術(shù)面試還是希望在實(shí)際項(xiàng)目中應(yīng)用這些技術(shù)都可以跟隨本文的節(jié)奏建立起扎實(shí)的認(rèn)知和實(shí)操能力。1. 理解核心概念RAG、Agent 與框架生態(tài)在深入代碼之前必須厘清幾個(gè)核心概念及其相互關(guān)系。混淆概念會導(dǎo)致技術(shù)選型錯(cuò)誤和架構(gòu)設(shè)計(jì)混亂。1.1 RAG讓大模型“知道”它不知道的事檢索增強(qiáng)生成的核心思想是解決大模型的“幻覺”問題和知識截止問題。傳統(tǒng)的大模型僅依賴其訓(xùn)練時(shí)學(xué)習(xí)到的參數(shù)化知識進(jìn)行生成對于訓(xùn)練數(shù)據(jù)中未包含的、實(shí)時(shí)的或高度專業(yè)化的信息它要么胡編亂造要么直接表示不知道。RAG 通過引入一個(gè)外部知識庫通常是向量數(shù)據(jù)庫來動態(tài)地為模型提供上下文。其工作流程可以簡化為三步索引將原始文檔如 PDF、TXT、網(wǎng)頁進(jìn)行分塊通過嵌入模型轉(zhuǎn)換為向量并存儲到向量數(shù)據(jù)庫中。檢索當(dāng)用戶提出問題時(shí)將問題同樣轉(zhuǎn)換為向量并在向量數(shù)據(jù)庫中進(jìn)行相似性搜索找出最相關(guān)的文本片段。增強(qiáng)生成將檢索到的相關(guān)文本片段作為上下文與用戶問題一起拼接成提示詞提交給大語言模型讓模型基于這些“證據(jù)”生成答案。這樣模型回答的準(zhǔn)確性和可信度就得到了極大提升。一個(gè)典型的應(yīng)用場景是公司內(nèi)部知識庫問答你可以將產(chǎn)品手冊、技術(shù)文檔導(dǎo)入系統(tǒng)員工即可用自然語言進(jìn)行查詢。1.2 Agent賦予大模型“行動”的能力如果說 RAG 擴(kuò)展了模型的“知識”那么 Agent 則擴(kuò)展了模型的“能力”。一個(gè)智能體不僅僅是一個(gè)聊天接口它是一個(gè)具備感知、規(guī)劃、決策和執(zhí)行能力的系統(tǒng)。一個(gè)基礎(chǔ)的 Agent 通常包含以下幾個(gè)核心組件工具Agent 可以調(diào)用的外部函數(shù)或 API例如搜索網(wǎng)絡(luò)、查詢數(shù)據(jù)庫、執(zhí)行代碼、調(diào)用第三方服務(wù)。記憶用于存儲對話歷史、中間結(jié)果或長期目標(biāo)使 Agent 具備上下文感知能力。規(guī)劃將復(fù)雜任務(wù)分解為一系列可執(zhí)行的子步驟。執(zhí)行根據(jù)規(guī)劃按順序調(diào)用工具并處理結(jié)果。例如一個(gè)“天氣查詢-行程建議”Agent在用戶說“明天北京天氣如何如果下雨推薦室內(nèi)活動”時(shí)它會規(guī)劃出兩個(gè)步驟先調(diào)用天氣查詢工具獲取北京明日天氣再根據(jù)結(jié)果下雨/不下雨調(diào)用本地生活服務(wù)工具獲取相應(yīng)的活動推薦。1.3 LangChain 與 LangGraph從鏈?zhǔn)秸{(diào)用到圖工作流LangChain是一個(gè)用于開發(fā)由語言模型驅(qū)動的應(yīng)用程序的框架。它提供了模塊化的組件如模型 I/O、提示詞模板、記憶、索引和鏈讓開發(fā)者可以像搭積木一樣快速構(gòu)建應(yīng)用。其核心抽象是“鏈”即將多個(gè)組件按順序組合起來處理任務(wù)例如RetrievalQA鏈就封裝了 RAG 的完整流程。然而簡單的順序鏈無法處理復(fù)雜的、有分支和循環(huán)的 Agent 任務(wù)。這就是LangGraph出現(xiàn)的原因。LangGraph構(gòu)建在 LangChain 之上它引入了“圖”的概念。你可以將應(yīng)用程序定義為一個(gè)有向圖其中節(jié)點(diǎn)代表執(zhí)行步驟如調(diào)用工具、調(diào)用LLM邊代表步驟之間的流轉(zhuǎn)條件。這使得構(gòu)建具備復(fù)雜邏輯、循環(huán)如讓 Agent 反復(fù)思考直到滿足條件和狀態(tài)管理的智能體變得非常直觀。兩者關(guān)系LangChain 提供了構(gòu)建 AI 應(yīng)用的基礎(chǔ)磚塊和簡單粘合劑鏈而 LangGraph 提供了設(shè)計(jì)復(fù)雜、有狀態(tài)工作流的藍(lán)圖和引擎。對于簡單的 RAG 問答使用 LangChain 的鏈可能就夠了但對于一個(gè)需要多輪決策、工具調(diào)用的高級 AgentLangGraph 是更合適的選擇。1.4 DeepSeek強(qiáng)大且經(jīng)濟(jì)的選擇DeepSeek 是由深度求索公司開發(fā)的大語言模型系列以其出色的推理能力和極具競爭力的性價(jià)比受到開發(fā)者歡迎。在構(gòu)建 AI 應(yīng)用時(shí)選擇 DeepSeek 作為核心的 LLM 引擎可以顯著降低 API 調(diào)用成本同時(shí)獲得接近頂級閉源模型的效果。通過 LangChain 或直接調(diào)用其 API可以輕松地將 DeepSeek 集成到你的 RAG 或 Agent 系統(tǒng)中。2. 環(huán)境準(zhǔn)備與核心依賴配置開始實(shí)戰(zhàn)前需要搭建一個(gè)干凈的 Python 開發(fā)環(huán)境并安裝必要的依賴。這里我們以創(chuàng)建一個(gè)新的虛擬環(huán)境為例。2.1 創(chuàng)建并激活虛擬環(huán)境使用venv或conda創(chuàng)建隔離環(huán)境是 Python 項(xiàng)目的最佳實(shí)踐可以避免包版本沖突。# 使用 venv (Python 3.3 內(nèi)置) python -m venv ai-agent-env # 激活環(huán)境 (Linux/macOS) source ai-agent-env/bin/activate # 激活環(huán)境 (Windows) ai-agent-env\Scripts\activate2.2 安裝核心 Python 包我們將安裝 LangChain、LangGraph、向量數(shù)據(jù)庫客戶端、嵌入模型以及 DeepSeek 的 SDK。以下requirements.txt文件列出了常用依賴及其典型版本。# requirements.txt langchain0.1.0 langchain-community0.0.10 # 社區(qū)貢獻(xiàn)的集成工具 langchain-core0.1.0 langgraph0.0.22 # 用于調(diào)用 DeepSeek API也可以使用 openai 包如果 DeepSeek 兼容 OpenAI 格式 openai1.12.0 # 嵌入模型這里使用 OpenAI 的 text-embedding-3-small也可替換為本地模型如 BGE langchain-openai0.0.8 # 向量數(shù)據(jù)庫以 Chroma 為例輕量級適合學(xué)習(xí)和原型開發(fā) chromadb0.4.22 # 文檔加載器 langchain-text-splitters0.0.1 pypdf3.17.4 # 用于讀取 PDF beautifulsoup44.12.2 # 用于解析 HTML # 其他工具 python-dotenv1.0.0 # 管理環(huán)境變量使用 pip 安裝pip install -r requirements.txt2.3 配置 API 密鑰與環(huán)境變量大部分服務(wù)如 DeepSeek API、OpenAI API都需要密鑰。永遠(yuǎn)不要將密鑰硬編碼在代碼中。使用.env文件管理。在項(xiàng)目根目錄創(chuàng)建.env文件。填入你的 API 密鑰。如果你使用 DeepSeek需要去其官網(wǎng)注冊并獲取。# .env DEEPSEEK_API_KEYyour_deepseek_api_key_here DEEPSEEK_API_BASEhttps://api.deepseek.com # 以官方最新文檔為準(zhǔn) # 如果你使用 OpenAI 格式兼容的端點(diǎn)可能還需要 OPENAI_API_KEYyour_deepseek_api_key_here # 有時(shí)可直接復(fù)用 OPENAI_API_BASEhttps://api.deepseek.com/v1在 Python 代碼中使用python-dotenv加載。from dotenv import load_dotenv load_dotenv() # 加載 .env 文件中的環(huán)境變量 import os api_key os.getenv(DEEPSEEK_API_KEY)3. 實(shí)戰(zhàn)一構(gòu)建一個(gè)基礎(chǔ)的 RAG 問答系統(tǒng)我們將使用 LangChain 和 Chroma 實(shí)現(xiàn)一個(gè)最簡單的 RAG 流程并用 DeepSeek 作為生成模型。3.1 文檔加載與文本分割首先準(zhǔn)備你的知識文檔例如一個(gè)knowledge.pdf文件。LangChain 提供了多種文檔加載器。# rag_basic.py from langchain_community.document_loaders import PyPDFLoader from langchain_text_splitters import RecursiveCharacterTextSplitter # 1. 加載文檔 loader PyPDFLoader(./knowledge.pdf) # 替換為你的文件路徑 documents loader.load() # 2. 分割文本 # 分割的目的是為了適配模型的上下文長度并提高檢索精度。 text_splitter RecursiveCharacterTextSplitter( chunk_size500, # 每個(gè)塊的最大字符數(shù) chunk_overlap50, # 塊之間的重疊字符避免語義被切斷 separators[\n\n, \n, 。, , , , , ] # 分割符優(yōu)先級 ) split_docs text_splitter.split_documents(documents) print(f原始文檔頁數(shù): {len(documents)}) print(f分割后文本塊數(shù): {len(split_docs)}) print(f第一個(gè)塊的內(nèi)容預(yù)覽: {split_docs[0].page_content[:200]}...)3.2 向量化存儲與檢索接下來我們需要一個(gè)嵌入模型將文本轉(zhuǎn)換為向量并用向量數(shù)據(jù)庫存儲和檢索。# rag_basic.py (續(xù)) from langchain_openai import OpenAIEmbeddings from langchain_community.vectorstores import Chroma import os # 注意這里使用 OpenAIEmbeddings但指向 DeepSeek 的嵌入端點(diǎn)如果支持。 # 如果 DeepSeek 不提供獨(dú)立嵌入模型可以使用開源模型如 all-MiniLM-L6-v2 (通過 sentence-transformers)。 # 此處假設(shè)使用 OpenAI 兼容的嵌入服務(wù)。 embeddings OpenAIEmbeddings( modeltext-embedding-3-small, # 或 DeepSeek 提供的嵌入模型名 openai_api_keyos.getenv(DEEPSEEK_API_KEY), openai_api_baseos.getenv(DEEPSEEK_API_BASE, https://api.deepseek.com) ) # 3. 創(chuàng)建向量數(shù)據(jù)庫并存儲 # persist_directory 指定持久化路徑否則數(shù)據(jù)僅在內(nèi)存中 vectorstore Chroma.from_documents( documentssplit_docs, embeddingembeddings, persist_directory./chroma_db # 數(shù)據(jù)將保存到此目錄 ) vectorstore.persist() # 顯式持久化 print(向量數(shù)據(jù)庫已創(chuàng)建并持久化。) # 4. 檢索測試 query 什么是機(jī)器學(xué)習(xí) retrieved_docs vectorstore.similarity_search(query, k2) # 檢索最相似的2個(gè)塊 print(f\n針對問題 {query} 檢索到的相關(guān)內(nèi)容) for i, doc in enumerate(retrieved_docs): print(f[片段 {i1}]: {doc.page_content[:300]}...)3.3 集成 LLM 進(jìn)行增強(qiáng)生成最后將檢索到的上下文與用戶問題組合發(fā)送給 DeepSeek 模型生成最終答案。# rag_basic.py (續(xù)) from langchain_openai import ChatOpenAI from langchain.chains import RetrievalQA from langchain.prompts import PromptTemplate # 5. 初始化 DeepSeek LLM (通過 OpenAI 兼容接口) llm ChatOpenAI( modeldeepseek-chat, # 模型名稱請查閱 DeepSeek 最新文檔 openai_api_keyos.getenv(DEEPSEEK_API_KEY), openai_api_baseos.getenv(DEEPSEEK_API_BASE, https://api.deepseek.com), temperature0.1 # 降低隨機(jī)性使答案更確定 ) # 6. 定義自定義提示詞模板明確告訴模型使用上下文 prompt_template 請根據(jù)以下上下文信息回答問題。如果上下文信息不足以回答問題請直接說“根據(jù)提供的信息我無法回答這個(gè)問題”不要編造信息。 上下文 {context} 問題 {question} 請給出答案 PROMPT PromptTemplate( templateprompt_template, input_variables[context, question] ) # 7. 創(chuàng)建檢索問答鏈 qa_chain RetrievalQA.from_chain_type( llmllm, chain_typestuff, # 最簡單的方式將所有檢索到的上下文塞入提示詞 retrievervectorstore.as_retriever(search_kwargs{k: 3}), # 檢索3個(gè)片段 chain_type_kwargs{prompt: PROMPT}, return_source_documentsTrue # 返回源文檔便于追溯 ) # 8. 提問 result qa_chain.invoke({query: 機(jī)器學(xué)習(xí)的主要類型有哪些}) print(\n RAG 系統(tǒng)回答 ) print(result[result]) print(\n 參考來源 ) for doc in result[source_documents]: print(f- {doc.page_content[:150]}...)運(yùn)行這個(gè)腳本你將看到一個(gè)完整的 RAG 系統(tǒng)的工作流程。關(guān)鍵點(diǎn)在于提示詞模板的設(shè)計(jì)它強(qiáng)制模型基于提供的上下文作答這是減少幻覺的關(guān)鍵。4. 實(shí)戰(zhàn)二使用 LangGraph 構(gòu)建一個(gè)決策型 Agent現(xiàn)在我們構(gòu)建一個(gè)更復(fù)雜的 Agent它可以根據(jù)用戶需求決定是直接回答問題還是需要先查詢天氣。這需要引入工具和決策邏輯。4.1 定義工具首先我們模擬兩個(gè)工具一個(gè)通用問答工具模擬直接回答簡單問題一個(gè)天氣查詢工具。# agent_graph.py from langchain.tools import tool from datetime import datetime tool def general_qa_tool(question: str) - str: 一個(gè)通用的問答工具用于回答簡單的常識性或介紹性問題。 # 這里為了演示返回一個(gè)模擬答案。實(shí)際中可以連接一個(gè)知識庫或另一個(gè)LLM。 return f這是一個(gè)關(guān)于{question}的模擬回答。當(dāng)前時(shí)間是 {datetime.now().strftime(%H:%M)}。 tool def weather_query_tool(city: str) - str: 查詢指定城市的天氣情況。 # 模擬天氣數(shù)據(jù) weather_data { 北京: 晴15-25°C微風(fēng), 上海: 多云18-28°C東南風(fēng)3級, 深圳: 陣雨22-30°C南風(fēng)4級, } return weather_data.get(city, f未找到{city}的天氣信息。)4.2 構(gòu)建 Agent 狀態(tài)與圖節(jié)點(diǎn)LangGraph 的核心是定義狀態(tài)和節(jié)點(diǎn)。狀態(tài)是一個(gè)字典在圖的執(zhí)行過程中傳遞和更新。# agent_graph.py (續(xù)) from typing import TypedDict, Annotated, List import operator from langgraph.graph import StateGraph, END # 1. 定義狀態(tài)結(jié)構(gòu) class AgentState(TypedDict): question: str # 用戶原始問題 needs_weather: bool # 是否需要查詢天氣 city: str # 需要查詢天氣的城市 weather_info: str # 查詢到的天氣信息 final_answer: str # 最終給用戶的答案 steps: Annotated[List[str], operator.add] # 記錄執(zhí)行步驟用于調(diào)試 # 2. 定義節(jié)點(diǎn)函數(shù) def route_question(state: AgentState) - AgentState: 路由節(jié)點(diǎn)判斷問題是否需要查詢天氣。 steps state.get(steps, []) question_lower state[question].lower() weather_keywords [天氣, 下雨, 下雪, 氣溫, 溫度] needs_weather any(keyword in question_lower for keyword in weather_keywords) city 北京 # 簡單起見這里硬編碼城市。實(shí)際可以用 NER 模型提取。 steps.append(f路由節(jié)點(diǎn)問題‘{state[question]}’是否需要天氣{needs_weather}城市{city}) return { **state, needs_weather: needs_weather, city: city if needs_weather else , steps: steps } def call_weather_tool(state: AgentState) - AgentState: 調(diào)用天氣工具節(jié)點(diǎn)。 steps state.get(steps, []) city state[city] weather_info weather_query_tool.invoke({city: city}) steps.append(f調(diào)用天氣工具查詢{city}天氣結(jié)果{weather_info}) return {**state, weather_info: weather_info, steps: steps} def call_qa_tool(state: AgentState) - AgentState: 調(diào)用通用問答工具節(jié)點(diǎn)。 steps state.get(steps, []) answer general_qa_tool.invoke({question: state[question]}) steps.append(f調(diào)用通用問答工具答案{answer}) return {**state, final_answer: answer, steps: steps} def synthesize_answer(state: AgentState) - AgentState: 合成答案節(jié)點(diǎn)如果需要天氣結(jié)合天氣信息生成最終答案。 steps state.get(steps, []) if state[needs_weather]: # 這里可以引入 LLM 來生成更自然的結(jié)合了天氣的回答 final_answer f您詢問了{(lán)state[city]}的天氣。{state[weather_info]}。根據(jù)這個(gè)天氣建議您...此處可擴(kuò)展 else: final_answer state[final_answer] steps.append(f合成最終答案{final_answer}) return {**state, final_answer: final_answer, steps: steps}4.3 組裝圖并運(yùn)行將節(jié)點(diǎn)和邊連接起來形成一個(gè)完整的工作流圖。# agent_graph.py (續(xù)) # 3. 創(chuàng)建圖并添加節(jié)點(diǎn) workflow StateGraph(AgentState) workflow.add_node(router, route_question) workflow.add_node(get_weather, call_weather_tool) workflow.add_node(get_general_answer, call_qa_tool) workflow.add_node(synthesize, synthesize_answer) # 4. 設(shè)置邊和條件流轉(zhuǎn) workflow.set_entry_point(router) # 根據(jù)路由結(jié)果決定下一步 workflow.add_conditional_edges( router, # 下一個(gè)節(jié)點(diǎn)由這個(gè)函數(shù)決定 lambda state: get_weather if state[needs_weather] else get_general_answer, { get_weather: get_weather, get_general_answer: get_general_answer } ) workflow.add_edge(get_weather, synthesize) workflow.add_edge(get_general_answer, synthesize) workflow.add_edge(synthesize, END) # 5. 編譯圖 app workflow.compile() # 6. 運(yùn)行 Agent if __name__ __main__: # 測試用例1需要天氣的問題 test_state_1 {question: 今天北京天氣怎么樣, steps: []} result_1 app.invoke(test_state_1) print(測試1 - 天氣查詢:) print(f問題: {result_1[question]}) print(f最終答案: {result_1[final_answer]}) print(執(zhí)行步驟:, result_1[steps]) print(- * 50) # 測試用例2普通問題 test_state_2 {question: 什么是人工智能, steps: []} result_2 app.invoke(test_state_2) print(測試2 - 普通問答:) print(f問題: {result_2[question]}) print(f最終答案: {result_2[final_answer]}) print(執(zhí)行步驟:, result_2[steps])運(yùn)行此腳本你將看到 Agent 根據(jù)問題內(nèi)容自動選擇不同的執(zhí)行路徑。LangGraph 的可視化能力需要安裝graphviz還能讓你直觀地看到這個(gè)工作流圖這對于調(diào)試復(fù)雜 Agent 至關(guān)重要。5. 關(guān)鍵配置、參數(shù)與常見問題排查在實(shí)際開發(fā)中你會遇到各種配置和運(yùn)行時(shí)問題。以下是關(guān)鍵參數(shù)和常見問題的速查表。5.1 核心參數(shù)配置表組件關(guān)鍵參數(shù)說明推薦值/建議文本分割chunk_size文本塊大小字符數(shù)。取決于模型上下文窗口。對于 4K-8K 窗口500-1000 較合適。chunk_overlap塊間重疊字符數(shù)。通常為chunk_size的 10%-20%保證語義連貫。向量檢索search_kwargs{k: n}檢索返回的最相似片段數(shù)。根據(jù)問題復(fù)雜度調(diào)整通常 3-5。太多可能引入噪聲。distance_metric向量相似度計(jì)算方式如余弦相似度。Chroma 默認(rèn)cosine通常無需更改。LLM 調(diào)用temperature生成隨機(jī)性。0 最確定1 最隨機(jī)。問答場景建議 0.1-0.3創(chuàng)意生成可調(diào)高。max_tokens生成答案的最大長度。根據(jù)需求設(shè)置避免生成過長或截?cái)?。LangGraphcheckpointer狀態(tài)檢查點(diǎn)用于實(shí)現(xiàn)長期記憶。對于多輪對話 Agent需配置SqliteSaver等。interrupt_before/after在特定節(jié)點(diǎn)前后中斷用于人工審核。在關(guān)鍵決策點(diǎn)如執(zhí)行付費(fèi)操作前設(shè)置。5.2 常見問題與排查路徑問題現(xiàn)象可能原因檢查與解決步驟RAG 回答與文檔無關(guān)或胡編亂造1. 檢索到的上下文不相關(guān)。2. 提示詞未強(qiáng)制模型使用上下文。3. 上下文長度超出模型限制。1. 檢查嵌入模型是否匹配嘗試調(diào)整chunk_size或使用不同的分割器。2. 強(qiáng)化提示詞例如加入“必須嚴(yán)格依據(jù)上下文”。3. 減少檢索數(shù)量k或使用map_reduce、refine等鏈類型處理長上下文。向量數(shù)據(jù)庫檢索速度慢1. 向量維度高數(shù)據(jù)量大。2. 未建立索引或索引類型不合適。1. 考慮使用更高效的向量數(shù)據(jù)庫如 Milvus, Qdrant或降維。2. 對于 Chroma確保數(shù)據(jù)已持久化首次加載后查詢會更快。DeepSeek API 調(diào)用失敗1. API 密鑰錯(cuò)誤或過期。2. 網(wǎng)絡(luò)問題或服務(wù)端異常。3. 請求格式或參數(shù)不兼容。1. 檢查.env文件和環(huán)境變量是否正確加載。2. 查看錯(cuò)誤信息確認(rèn) API Base URL 和模型名是否正確。3. 使用curl或 Postman 直接測試 API 端點(diǎn)排除代碼問題。LangGraph Agent 陷入循環(huán)或狀態(tài)錯(cuò)誤1. 條件邊conditional_edges邏輯有誤。2. 狀態(tài)State結(jié)構(gòu)定義與節(jié)點(diǎn)返回值不匹配。1. 打印每個(gè)節(jié)點(diǎn)的輸入/輸出狀態(tài)使用app.get_graph().draw_mermaid()可視化圖結(jié)構(gòu)。2. 確保所有節(jié)點(diǎn)返回的字典都包含狀態(tài)定義的所有鍵或使用**state進(jìn)行合并。工具調(diào)用失敗或參數(shù)錯(cuò)誤1. 工具函數(shù)參數(shù)定義與調(diào)用不匹配。2. LLM 生成的工具調(diào)用參數(shù)格式錯(cuò)誤。1. 使用tool裝飾器時(shí)確保函數(shù)有清晰的 docstring 和類型注解。2. 在調(diào)用工具前打印出 LLM 生成的參數(shù)進(jìn)行驗(yàn)證。對于復(fù)雜參數(shù)考慮使用 Pydantic 工具。5.3 生產(chǎn)環(huán)境考量學(xué)習(xí)環(huán)境可以快速跑通但生產(chǎn)部署需要考慮更多異步與并發(fā)使用langchain的異步接口或asyncio提高吞吐量。錯(cuò)誤處理與重試為 LLM API 調(diào)用、工具調(diào)用添加重試機(jī)制和斷路器。可觀測性集成日志如structlog、指標(biāo)如 Prometheus和鏈路追蹤如 OpenTelemetry監(jiān)控耗時(shí)、Token 使用量和錯(cuò)誤率。緩存對相似的檢索查詢或 LLM 生成結(jié)果進(jìn)行緩存節(jié)省成本和時(shí)間。安全與權(quán)限對用戶輸入進(jìn)行過濾和審查為工具調(diào)用設(shè)置嚴(yán)格的權(quán)限控制。版本管理對提示詞模板、嵌入模型、LLM 版本進(jìn)行管理便于回滾和 A/B 測試。6. 進(jìn)階方向與學(xué)習(xí)建議掌握了以上基礎(chǔ)后你可以向更深入的方向探索高級 RAG 技巧研究重排序、HyDE、子查詢、多向量檢索等技術(shù)進(jìn)一步提升檢索質(zhì)量。復(fù)雜 Agent 模式學(xué)習(xí) ReAct、Plan-and-Execute、Multi-Agent 等架構(gòu)讓 Agent 能處理更復(fù)雜的任務(wù)。長期記憶在 LangGraph 中集成SqliteSaver或外部數(shù)據(jù)庫使 Agent 在多次交互中記住用戶偏好和歷史。流式輸出實(shí)現(xiàn)答案的逐字生成提升用戶體驗(yàn)。前端集成使用 Gradio、Streamlit 或 Web 框架如 FastAPI構(gòu)建交互式界面。本地化部署嘗試使用 Ollama 部署本地 LLM或使用sentence-transformers運(yùn)行本地嵌入模型完全擺脫對云 API 的依賴。學(xué)習(xí)這些技術(shù)的最佳方式是動手實(shí)踐。建議從一個(gè)明確的小項(xiàng)目開始例如“個(gè)人文檔摘要助手”或“智能日程規(guī)劃 Agent”在實(shí)現(xiàn)過程中逐一攻克上述知識點(diǎn)。同時(shí)養(yǎng)成查閱官方文檔的習(xí)慣因?yàn)?AI 框架的迭代速度非常快。通過結(jié)合項(xiàng)目實(shí)踐、官方文檔和社區(qū)討論你就能建立起扎實(shí)的 AI 應(yīng)用開發(fā)能力從容應(yīng)對相關(guān)的技術(shù)挑戰(zhàn)和面試。