1. 項(xiàng)目緣起從“江南第一深情”到AI Agent的落地嘗試最近在AI圈子里一個(gè)叫QClaw的工具討論度挺高尤其是在一些開發(fā)者社群里經(jīng)常能看到關(guān)于用它來跑各種“skill”的分享。所謂“skill”你可以把它理解成一個(gè)封裝好的、具備特定能力的AI智能體腳本。這讓我想起了之前在網(wǎng)上很火的“江南第一深情”童錦程他的直播切片和互動(dòng)風(fēng)格很有特點(diǎn)于是我就萌生了一個(gè)想法能不能用QClaw來跑一個(gè)模仿他風(fēng)格和話術(shù)的AI技能呢這聽起來像是個(gè)娛樂項(xiàng)目但背后其實(shí)涉及到AI Agent的搭建、本地化部署、技能腳本的編寫與調(diào)試等一系列挺有挑戰(zhàn)性的技術(shù)環(huán)節(jié)。對(duì)于想入門AI Agent開發(fā)或者對(duì)QClaw這個(gè)開源框架感興趣的朋友來說這算是一個(gè)挺有意思的“練手”項(xiàng)目。它不像做一個(gè)完整的客服機(jī)器人那么復(fù)雜目標(biāo)明確效果也直觀——最終就是讓這個(gè)AI能用類似童錦程的語(yǔ)氣和邏輯來跟你對(duì)話。今天我就把自己從環(huán)境搭建、腳本編寫到最終跑起來的整個(gè)過程包括中間踩的坑和總結(jié)的經(jīng)驗(yàn)完整地記錄下來。2. QClaw與Skill生態(tài)初探它到底是什么能做什么在動(dòng)手之前我們得先搞清楚手里的工具。QClaw根據(jù)其開源倉(cāng)庫(kù)的描述是一個(gè)輕量級(jí)、可擴(kuò)展的AI Agent開發(fā)框架。它的核心思想是讓開發(fā)者能夠像搭積木一樣通過編寫或組合不同的“Skill”技能來構(gòu)建具備復(fù)雜能力的智能體。你可以把它想象成一個(gè)游戲引擎而Skill就是一個(gè)個(gè)封裝了特定游戲邏輯的腳本或插件。2.1 QClaw的核心架構(gòu)與工作流QClaw的設(shè)計(jì)通常遵循一個(gè)典型的Agent工作流感知Perception- 規(guī)劃Planning- 執(zhí)行Action- 學(xué)習(xí)Learning。在這個(gè)流程中Skill扮演的是“執(zhí)行”環(huán)節(jié)的具體實(shí)現(xiàn)者。一個(gè)Skill本質(zhì)上是一個(gè)Python類它定義了智能體在特定觸發(fā)條件下比如用戶輸入了某個(gè)關(guān)鍵詞或者對(duì)話進(jìn)入了某個(gè)狀態(tài)應(yīng)該執(zhí)行什么操作并返回相應(yīng)的結(jié)果。這個(gè)結(jié)果可能是一段文本回復(fù)、一個(gè)調(diào)用外部API的動(dòng)作甚至是修改智能體內(nèi)部狀態(tài)的一個(gè)指令。2.2 Skill的構(gòu)成不止是代碼一個(gè)完整的Skill通常包含以下幾個(gè)部分技能描述Skill Description用自然語(yǔ)言告訴AI這個(gè)技能是干什么的在什么情況下應(yīng)該被調(diào)用。這部分信息對(duì)于基于大語(yǔ)言模型LLM的規(guī)劃器Planner來說至關(guān)重要它依靠這些描述來決定在當(dāng)下語(yǔ)境該啟用哪個(gè)技能。觸發(fā)條件Trigger/Intent定義激活這個(gè)技能的“扳機(jī)”?？梢允呛?jiǎn)單的關(guān)鍵詞匹配也可以是更復(fù)雜的基于語(yǔ)義的意圖識(shí)別。執(zhí)行邏輯Execution Logic技能的核心代碼。在這里你可以寫任何Python代碼處理輸入、調(diào)用其他函數(shù)或庫(kù)、訪問網(wǎng)絡(luò)資源、進(jìn)行邏輯判斷等等。返回結(jié)果Response技能執(zhí)行完畢后需要返回一個(gè)結(jié)構(gòu)化的結(jié)果通常包含回復(fù)給用戶的文本、技能執(zhí)行是否成功的狀態(tài)、以及可能更新的會(huì)話數(shù)據(jù)。對(duì)于我們要做的“童錦程.skill”其核心執(zhí)行邏輯就是根據(jù)用戶的輸入生成一段符合“江南第一深情”人設(shè)的、帶有特定風(fēng)格比如幽默、撩人、略帶夸張的文本回復(fù)。這聽起來很像一個(gè)定制化的聊天對(duì)話模型但在QClaw的框架下我們無需從頭訓(xùn)練一個(gè)模型而是利用現(xiàn)有的LLM如GPT、Claude或開源的Llama等的文本生成能力通過精心設(shè)計(jì)的提示詞Prompt和上下文管理來“引導(dǎo)”模型演出我們想要的風(fēng)格。2.3 為什么選擇QClaw來做這件事市面上AI Agent框架不少比如LangChain、AutoGPT等。QClaw吸引我的點(diǎn)在于它的“輕量”和“技能中心化”。它的代碼結(jié)構(gòu)相對(duì)清晰對(duì)于想深入理解Agent內(nèi)部運(yùn)作機(jī)制的開發(fā)者比較友好。其次它的Skill機(jī)制封裝得比較直觀編寫和調(diào)試一個(gè)獨(dú)立技能的門檻相對(duì)較低。對(duì)于我們這種目標(biāo)明確創(chuàng)建一個(gè)特定風(fēng)格的對(duì)話技能的實(shí)驗(yàn)性項(xiàng)目QClaw提供了一個(gè)快速驗(yàn)證想法的沙盒。3. 實(shí)戰(zhàn)部署搭建QClaw運(yùn)行環(huán)境與踩坑實(shí)錄理論清楚了接下來就是動(dòng)手搭建環(huán)境。QClaw是一個(gè)開源項(xiàng)目通常我們需要將其克隆到本地并安裝依賴。這里我假設(shè)你已經(jīng)在本地或一臺(tái)服務(wù)器上準(zhǔn)備好了Python環(huán)境建議3.8以上。3.1 基礎(chǔ)環(huán)境準(zhǔn)備與依賴安裝首先從GitHub上克隆QClaw的倉(cāng)庫(kù)。由于網(wǎng)絡(luò)原因這個(gè)過程有時(shí)會(huì)比較慢可以考慮使用鏡像源。git clone https://github.com/openclaw/qclaw.git cd qclaw接下來是安裝依賴。QClaw通常會(huì)提供一個(gè)requirements.txt文件。pip install -r requirements.txt這里是我遇到的第一個(gè)坑依賴沖突。Python包管理的老大難問題。QClaw的依賴可能和你的全局環(huán)境或其他項(xiàng)目環(huán)境存在版本沖突。特別是涉及到一些科學(xué)計(jì)算或深度學(xué)習(xí)框架如torch,transformers時(shí)。我的建議是為這個(gè)項(xiàng)目創(chuàng)建一個(gè)獨(dú)立的虛擬環(huán)境使用conda或venv然后再安裝依賴。如果仍然報(bào)錯(cuò)需要根據(jù)錯(cuò)誤信息手動(dòng)調(diào)整requirements.txt中某些包的版本號(hào)或者嘗試先安裝基礎(chǔ)版本再逐步升級(jí)。3.2 配置LLM后端項(xiàng)目的“大腦”QClaw本身只是一個(gè)框架它需要連接一個(gè)真正的大語(yǔ)言模型LLM作為其“大腦”來處理自然語(yǔ)言理解、規(guī)劃和部分技能的執(zhí)行?？蚣芤话阒С滞ㄟ^API連接OpenAI、Claude等商業(yè)模型也支持本地部署的開源模型如通過llama.cpp,vLLM或Transformers庫(kù)。對(duì)于我們的“童錦程”技能風(fēng)格模仿需要較強(qiáng)的文本生成和上下文理解能力。如果追求效果和便捷性使用GPT-4或Claude 3的API是最佳選擇。你需要準(zhǔn)備相應(yīng)的API Key并在QClaw的配置文件通常是config.yaml或.env文件中填寫。如果你想本地部署節(jié)省成本或保證數(shù)據(jù)隱私可以選擇一個(gè)合適的開源模型。這里就有第二個(gè)大坑本地模型部署與內(nèi)存開銷。即使是7B參數(shù)量的模型想要流暢運(yùn)行也需要不小的GPU內(nèi)存通常需要8GB以上。如果你的硬件資源有限可以考慮使用量化版本如GGUF格式的模型通過llama.cpp在CPU上運(yùn)行雖然速度慢一些但門檻大大降低。配置示例假設(shè)使用OpenAI API# config.yaml 片段 llm: provider: openai model: gpt-4-turbo-preview api_key: ${OPENAI_API_KEY} # 建議從環(huán)境變量讀取 temperature: 0.7 # 溫度參數(shù)影響創(chuàng)造性對(duì)于模仿特定風(fēng)格可以調(diào)低至0.3-0.5以保持穩(wěn)定3.3 啟動(dòng)服務(wù)與常見啟動(dòng)錯(cuò)誤環(huán)境配置好后嘗試啟動(dòng)QClaw的核心服務(wù)。啟動(dòng)命令可能因項(xiàng)目結(jié)構(gòu)而異通常可能是python main.py # 或者 python -m qclaw.server啟動(dòng)過程可能并不順利。我遇到了一個(gè)典型的錯(cuò)誤openclaw llamap svr operator(): got exception: { error: { code: 400, message: ...這個(gè)錯(cuò)誤信息看起來像是某個(gè)內(nèi)部服務(wù)llamap svr拋出了400錯(cuò)誤。經(jīng)過排查這通常有幾個(gè)原因配置文件錯(cuò)誤LLM的API配置不正確比如Base URL寫錯(cuò)了、模型名稱不對(duì)、或者API Key無效。仔細(xì)檢查配置文件確保每一個(gè)字段都正確無誤。對(duì)于本地模型要檢查模型路徑是否正確服務(wù)端口是否被占用。依賴版本不匹配某個(gè)底層庫(kù)比如HTTP客戶端、序列化庫(kù)的版本與QClaw代碼不兼容。查看完整的錯(cuò)誤堆棧找到是哪個(gè)庫(kù)拋出的異常嘗試回退或升級(jí)到指定版本。網(wǎng)絡(luò)或權(quán)限問題如果使用API確保網(wǎng)絡(luò)能正常訪問對(duì)應(yīng)服務(wù)商。如果本地部署確保有權(quán)限讀取模型文件。我的解決過程是首先將錯(cuò)誤日志級(jí)別調(diào)至DEBUG獲取更詳細(xì)的信息。然后發(fā)現(xiàn)是連接本地llama.cpp服務(wù)時(shí)端口配置寫錯(cuò)了。修正配置后服務(wù)成功啟動(dòng)。所以面對(duì)這類錯(cuò)誤一定要耐心閱讀日志從最底層的錯(cuò)誤信息開始向上排查。4. “童錦程.skill”從零編寫定義人設(shè)與設(shè)計(jì)對(duì)話邏輯環(huán)境跑通了現(xiàn)在進(jìn)入核心環(huán)節(jié)編寫我們的技能腳本。我們將其命名為tong_jincheng_skill.py。4.1 技能元數(shù)據(jù)與觸發(fā)條件定義首先我們需要?jiǎng)?chuàng)建一個(gè)繼承自QClaw基礎(chǔ)Skill類的子類并定義其元數(shù)據(jù)。from qclaw.skills.base import BaseSkill class TongJinchengSkill(BaseSkill): 一個(gè)模仿江南第一深情童錦程說話風(fēng)格的對(duì)話技能。 name tong_jincheng_chat description 當(dāng)用戶想進(jìn)行輕松、幽默、帶有撩人風(fēng)格的聊天或者明確提及‘童錦程’、‘江南第一深情’時(shí)使用此技能。技能會(huì)模仿其直播中的經(jīng)典語(yǔ)氣和梗進(jìn)行回復(fù)。 version 1.0 def get_intent(self, user_input: str, context: dict) - float: 判斷用戶輸入是否意圖觸發(fā)此技能。 返回一個(gè)0到1之間的置信度分?jǐn)?shù)。 keywords [童錦程, 江南第一深情, 撩一下, 你會(huì)聊天嗎, 今天心情不好] lower_input user_input.lower() # 簡(jiǎn)單關(guān)鍵詞匹配 for kw in keywords: if kw in lower_input: return 0.9 # 高置信度 # 可以加入更復(fù)雜的意圖判斷例如使用小模型或規(guī)則 # 如果對(duì)話上下文context中已經(jīng)激活了此技能也可以返回較高分?jǐn)?shù)以保持狀態(tài) if context.get(active_skill) self.name: return 0.8 # 默認(rèn)情況下如果是一般問候或開放性問題也有較低概率觸發(fā) if any(greet in lower_input for greet in [你好, 在嗎, 嗨]): return 0.3 return 0.0get_intent函數(shù)是技能的“觸發(fā)器”。這里我采用了簡(jiǎn)單的關(guān)鍵詞匹配這對(duì)于風(fēng)格鮮明的專屬技能來說在初期是簡(jiǎn)單有效的。更復(fù)雜的實(shí)現(xiàn)可以集成一個(gè)輕量級(jí)的意圖分類模型。4.2 核心執(zhí)行邏輯Prompt工程與風(fēng)格塑造技能的“靈魂”在于execute方法。這里我們不進(jìn)行復(fù)雜的計(jì)算主要任務(wù)是構(gòu)造一個(gè)能引導(dǎo)LLM模仿童錦程風(fēng)格的提示詞Prompt并調(diào)用LLM生成回復(fù)。async def execute(self, user_input: str, context: dict) - dict: 執(zhí)行技能生成回復(fù)。 # 1. 構(gòu)建系統(tǒng)提示詞System Prompt定義AI的角色和風(fēng)格 system_prompt 你是“江南第一深情”童錦程一個(gè)以幽默、自信、擅長(zhǎng)互動(dòng)撩人而聞名的主播。你的說話風(fēng)格具有以下特點(diǎn) 1. **自信夸張**經(jīng)常自稱“哥”、“老弟”語(yǔ)氣篤定。 2. **幽默接地氣**善于使用網(wǎng)絡(luò)流行梗和夸張的比喻讓人感覺親切好笑。 3. **互動(dòng)性強(qiáng)**喜歡反問帶動(dòng)對(duì)話節(jié)奏偶爾會(huì)開一些無傷大雅的玩笑。 4. **經(jīng)典語(yǔ)錄**會(huì)自然融入“我這個(gè)人很簡(jiǎn)單你對(duì)我好我就對(duì)你好”、“感情這個(gè)東西講究一個(gè)你來我往”等風(fēng)格化語(yǔ)句。 5. **場(chǎng)景應(yīng)對(duì)**針對(duì)用戶的不同情緒開心、難過、無聊有不同的應(yīng)對(duì)方式但總體保持積極、逗趣的基調(diào)。 請(qǐng)完全代入以上角色和風(fēng)格進(jìn)行對(duì)話?；貜?fù)要自然口語(yǔ)化就像在直播里和粉絲聊天一樣不要顯得像機(jī)器人。 # 2. 構(gòu)建本次對(duì)話的消息歷史。從context中獲取歷史記錄如果沒有則初始化。 messages context.get(conversation_history, []) # 確保系統(tǒng)提示在最開始 if not messages or messages[0].get(role) ! system: messages.insert(0, {role: system, content: system_prompt}) # 將用戶最新輸入追加到歷史中 messages.append({role: user, content: user_input}) # 3. 調(diào)用LLM生成回復(fù) try: llm_response await self.llm_client.chat_completion( messagesmessages, temperature0.8, # 溫度稍高增加創(chuàng)造性以模仿風(fēng)格 max_tokens300 ) ai_reply llm_response[choices][0][message][content] except Exception as e: ai_reply f技能執(zhí)行出錯(cuò){e} # 4. 更新上下文例如標(biāo)記當(dāng)前活躍技能并保存歷史注意控制歷史長(zhǎng)度防止token超限 context[active_skill] self.name # 將AI回復(fù)也加入歷史為了保持連貫的對(duì)話但需要管理長(zhǎng)度 messages.append({role: assistant, content: ai_reply}) # 只保留最近N輪對(duì)話避免上下文過長(zhǎng) max_history 10 if len(messages) max_history: # 保留系統(tǒng)提示和最近的對(duì)話 messages [messages[0]] messages[-(max_history-1):] context[conversation_history] messages # 5. 返回技能執(zhí)行結(jié)果 return { success: True, output: ai_reply, context_update: context # 將更新后的上下文返回給框架 }Prompt設(shè)計(jì)的核心思路系統(tǒng)提示詞System Prompt是風(fēng)格模仿的關(guān)鍵。我并沒有簡(jiǎn)單地說“模仿童錦程”而是具體拆解了他的語(yǔ)言特點(diǎn)自信夸張、幽默接地氣、互動(dòng)性強(qiáng)、經(jīng)典語(yǔ)錄、場(chǎng)景應(yīng)對(duì)并給出了明確的例子。這樣LLM更容易抓住精髓。同時(shí)我設(shè)定了較高的temperature0.8讓回復(fù)更有創(chuàng)造性和隨機(jī)性更像即興直播而不是照本宣科。4.3 上下文管理讓對(duì)話有記憶一個(gè)合格的對(duì)話技能必須有短期記憶。在上面的代碼中我通過context[conversation_history]來維護(hù)一個(gè)對(duì)話消息列表。每次執(zhí)行技能時(shí)都將新的用戶輸入和AI回復(fù)追加進(jìn)去并在下一次調(diào)用時(shí)作為歷史輸入給LLM。這樣AI就能記住前幾輪對(duì)話的內(nèi)容實(shí)現(xiàn)連貫的交流。注意上下文管理需要警惕“令牌Token溢出”問題。LLM的輸入有長(zhǎng)度限制。我們必須控制歷史對(duì)話的長(zhǎng)度。上面的代碼示例中我簡(jiǎn)單地將歷史截?cái)嗟阶罱?0輪包含系統(tǒng)提示。更復(fù)雜的策略可以計(jì)算Token數(shù)或者總結(jié)Summarize早期的對(duì)話內(nèi)容。5. 集成、測(cè)試與效果調(diào)優(yōu)讓“深情”更自然技能寫好了下一步就是把它“安裝”到QClaw框架中并進(jìn)行測(cè)試。5.1 技能注冊(cè)與加載QClaw一般有一個(gè)技能注冊(cè)的機(jī)制。你需要修改框架的配置文件或某個(gè)初始化文件將你的技能類添加進(jìn)去。例如可能在skills/__init__.py中添加from .tong_jincheng_skill import TongJinchengSkill __all__ [ ..., TongJinchengSkill, ]或者在一個(gè)專門的技能清單配置文件中聲明。確?？蚣茉趩?dòng)時(shí)能掃描并加載到你的技能。5.2 啟動(dòng)測(cè)試與對(duì)話交互重啟QClaw服務(wù)?，F(xiàn)在你可以通過框架提供的接口可能是Web UI、命令行工具或API來與智能體交互了。在輸入框里嘗試說“你好啊”或者直接問“你知道童錦程嗎”觀察AI的回復(fù)。最初的幾次回復(fù)可能風(fēng)格還不夠鮮明或者有點(diǎn)“跑偏”。這是正常的因?yàn)镻rompt和參數(shù)還需要調(diào)優(yōu)。5.3 效果調(diào)優(yōu)實(shí)戰(zhàn)從“像機(jī)器人”到“有那味兒”我遇到了幾個(gè)典型問題并逐一進(jìn)行了調(diào)整問題回復(fù)過于通用沒有“童錦程”特色。排查檢查系統(tǒng)提示詞。發(fā)現(xiàn)最初寫的提示詞太籠統(tǒng)比如只寫了“模仿幽默的主播風(fēng)格”。解決細(xì)化提示詞。我補(bǔ)充了具體的語(yǔ)氣詞“哥”、“老弟”、句式特點(diǎn)喜歡反問、和幾個(gè)經(jīng)典語(yǔ)錄的示例。效果立竿見影AI開始使用“老弟你這問題問得很有靈性啊”這樣的開場(chǎng)。問題對(duì)話容易跑題用戶問天氣AI也開始用“深情”風(fēng)格聊天氣顯得突兀。排查get_intent函數(shù)的置信度計(jì)算可能有問題。對(duì)于“今天天氣怎么樣”這種輸入雖然包含了“今天”但不應(yīng)高置信度觸發(fā)此技能。解決優(yōu)化意圖判斷邏輯。我增加了負(fù)面關(guān)鍵詞過濾當(dāng)用戶輸入明顯屬于其他領(lǐng)域如“天氣”、“新聞”、“計(jì)算”時(shí)降低置信度。同時(shí)在系統(tǒng)提示詞中增加了一句約束“如果用戶的問題非常具體且與情感閑聊無關(guān)如詢問事實(shí)、數(shù)據(jù)、技術(shù)問題你可以先簡(jiǎn)短回答事實(shí)部分再嘗試用你的風(fēng)格輕松地轉(zhuǎn)移話題或結(jié)束對(duì)話。”問題對(duì)話歷史長(zhǎng)了之后AI偶爾會(huì)忘記自己的人設(shè)或者回復(fù)變得冗長(zhǎng)。排查上下文歷史可能包含了太多輪對(duì)話沖淡了最初的系統(tǒng)提示。解決采用了兩個(gè)策略。第一在每次調(diào)用LLM時(shí)重新發(fā)送系統(tǒng)提示詞就像我上面代碼中做的檢查并確保它在消息列表首位。第二更嚴(yán)格地控制歷史長(zhǎng)度從保留10輪改為保留6輪確保核心人設(shè)指令始終在有效的上下文窗口內(nèi)。問題Temperature參數(shù)如何選擇實(shí)驗(yàn)我對(duì)比了temperature0.3和temperature0.8的效果。0.3時(shí)回復(fù)更穩(wěn)定、更安全但缺乏驚喜和即興感有時(shí)像在背模板。0.8時(shí)回復(fù)更生動(dòng)、更有趣甚至能冒出一些意想不到但很符合人設(shè)的“金句”但偶爾會(huì)生成不合邏輯或略微越界的內(nèi)容。折中最終我將temperature設(shè)為0.65。并在系統(tǒng)提示詞末尾加了一句約束“所有回復(fù)必須積極健康符合社交禮儀。”經(jīng)過幾輪這樣的“寫Prompt - 測(cè)試 - 觀察問題 - 修改Prompt/參數(shù)/邏輯”的迭代這個(gè)“童錦程.skill”逐漸變得有模有樣。它已經(jīng)能夠用大致對(duì)味的風(fēng)格進(jìn)行開放域閑聊回應(yīng)一些情感話題甚至玩一些簡(jiǎn)單的梗。6. 項(xiàng)目總結(jié)與AI Skill開發(fā)的通用思考跑通這個(gè)“江南第一深情”技能雖然只是一個(gè)趣味項(xiàng)目但完整走了一遍AI Skill從構(gòu)思、開發(fā)、部署到調(diào)優(yōu)的流程。這個(gè)過程給我?guī)淼膯l(fā)遠(yuǎn)不止于學(xué)會(huì)使用QClaw。6.1 關(guān)于Skill的本質(zhì)可復(fù)用的能力模塊在這個(gè)項(xiàng)目里Skill就是一個(gè)“風(fēng)格化對(duì)話模塊”。它可以被輕易地集成到一個(gè)更大的智能體中。比如你可以構(gòu)建一個(gè)“直播助理Agent”它擁有多個(gè)Skill產(chǎn)品介紹.skill、控場(chǎng)互動(dòng).skill、危機(jī)應(yīng)對(duì).skill以及我們這個(gè)深情聊天.skill。一個(gè)優(yōu)秀的規(guī)劃器Planner會(huì)根據(jù)直播間的實(shí)時(shí)評(píng)論自動(dòng)調(diào)用最合適的技能來生成回復(fù)。這就是AI Agent模塊化、組合化威力的體現(xiàn)。開發(fā)Skill時(shí)時(shí)刻想著“高內(nèi)聚、低耦合”讓每個(gè)技能專注做好一件事并通過清晰的接口輸入、輸出、意圖描述與Agent主體交互。6.2 Prompt工程是“靈魂畫筆”在這個(gè)項(xiàng)目中沒有微調(diào)模型所有的風(fēng)格塑造都靠Prompt工程。這讓我深刻體會(huì)到對(duì)于基于大語(yǔ)言模型的AI應(yīng)用Prompt就是那個(gè)“靈魂畫筆”。如何用精確、細(xì)致的語(yǔ)言將你的需求“描述”給模型是成敗的關(guān)鍵。好的Prompt不是命令而是“背景設(shè)定”和“角色扮演指南”。它需要包含角色定義、任務(wù)目標(biāo)、風(fēng)格約束、格式要求、以及負(fù)面示例不該做什么。多輪迭代測(cè)試是打磨Prompt的唯一途徑。6.3 上下文管理是“隱形支柱”對(duì)話式AI的體驗(yàn)流暢度很大程度上取決于上下文管理。Token限制是懸在頭上的達(dá)摩克利斯之劍。簡(jiǎn)單的截?cái)喾〞?huì)丟失重要信息而復(fù)雜的摘要或向量檢索又引入新的復(fù)雜度。在這個(gè)項(xiàng)目中由于對(duì)話風(fēng)格強(qiáng)烈我選擇優(yōu)先保證系統(tǒng)提示和最近幾輪對(duì)話的完整性犧牲了更長(zhǎng)的記憶。在實(shí)際產(chǎn)品中需要根據(jù)場(chǎng)景權(quán)衡設(shè)計(jì)更精巧的上下文窗口滑動(dòng)、分層記憶短期/長(zhǎng)期或知識(shí)庫(kù)檢索機(jī)制。6.4 意圖識(shí)別從規(guī)則到模型的演進(jìn)本項(xiàng)目使用了簡(jiǎn)單的關(guān)鍵詞匹配作為意圖識(shí)別。這在技能初期、場(chǎng)景明確時(shí)是最高效的。但當(dāng)技能增多或用戶輸入變得復(fù)雜時(shí)規(guī)則系統(tǒng)會(huì)迅速變得難以維護(hù)。下一步的自然演進(jìn)是引入一個(gè)輕量級(jí)的意圖分類模型例如用BERT微調(diào)一個(gè)小模型或者直接利用LLM本身來做意圖判斷通過一個(gè)專門的“路由”Prompt。這能顯著提升智能體調(diào)用技能的準(zhǔn)確性和靈活性。最后這個(gè)項(xiàng)目也讓我看到QClaw這類框架的潛力與挑戰(zhàn)。它降低了AI Agent開發(fā)的門檻讓開發(fā)者可以聚焦于業(yè)務(wù)邏輯Skill本身。但與此同時(shí)生產(chǎn)環(huán)境下的穩(wěn)定性、性能監(jiān)控、技能的熱更新、以及更復(fù)雜的多技能協(xié)作與沖突解決機(jī)制都是需要進(jìn)一步探索的課題。從“玩具”到“工具”還有很長(zhǎng)的路要走但親手讓一個(gè)想法從代碼變成能交互的“智能體”這個(gè)過程本身就充滿了樂趣和成就感。