1. 項(xiàng)目概述當(dāng)大模型戴上“人格面具”去感知城市情緒最近在AI圈子里關(guān)于“LLM Powered Autonomous Agents”的討論熱度一直沒降下來(lái)從Lilian Weng那篇經(jīng)典的綜述開始大家就在琢磨怎么讓大模型不只是個(gè)聊天機(jī)器而是能自主規(guī)劃、執(zhí)行復(fù)雜任務(wù)的智能體。我最近花了不少時(shí)間親自上手折騰了一個(gè)挺有意思的方向給大模型智能體LLM Agents賦予特定的“人格”Persona然后讓它們?nèi)ツM感知和分析城市的公眾情緒。這聽起來(lái)有點(diǎn)玄乎但背后的邏輯很實(shí)在。我們總說“一千個(gè)人眼中有一千個(gè)哈姆雷特”對(duì)于同一座城市、同一條政策不同背景、不同身份的人感受可能天差地別。一個(gè)剛畢業(yè)的大學(xué)生、一個(gè)退休的教師、一個(gè)外賣騎手他們對(duì)“城市擁堵”或“公園改造”的看法能一樣嗎傳統(tǒng)的輿情分析往往基于海量文本做統(tǒng)計(jì)得出一個(gè)“平均情緒”但這個(gè)“平均”可能掩蓋了真正重要的群體差異。我們的項(xiàng)目就是想探索能不能讓大模型戴上不同的“人格面具”去更細(xì)膩、更結(jié)構(gòu)化地“體驗(yàn)”和“報(bào)告”這種差異化的城市情緒。簡(jiǎn)單說這個(gè)項(xiàng)目的核心就是“Stable Behavior, Limited Variation”。我們不是要?jiǎng)?chuàng)造一個(gè)性格多變、捉摸不透的AI而是要確保它一旦被賦予某個(gè)特定人格比如“環(huán)保主義者”、“通勤上班族”其行為模式和對(duì)同一組城市描述文本的情緒反應(yīng)是穩(wěn)定的——今天和明天問它答案的核心傾向一致同時(shí)這種反應(yīng)又必須在合理范圍內(nèi)體現(xiàn)出有限的、符合該人格特征的變異不能像個(gè)復(fù)讀機(jī)也不能天馬行空。最終目標(biāo)是驗(yàn)證這種基于人格的智能體能否成為一種有效、可靠的城市情緒感知工具為我們理解復(fù)雜的城市社會(huì)心態(tài)提供一個(gè)新視角。2. 核心思路與方案設(shè)計(jì)如何構(gòu)建一個(gè)“可信”的人格化智能體要讓一個(gè)大模型智能體穩(wěn)定地扮演某個(gè)角色可不是在系統(tǒng)提示詞里簡(jiǎn)單寫一句“你現(xiàn)在是一個(gè)關(guān)心社區(qū)的老人”就完事了。這里面涉及到一整套從人格構(gòu)建、任務(wù)規(guī)劃到評(píng)估驗(yàn)證的閉環(huán)設(shè)計(jì)。我們的核心思路可以拆解為以下幾個(gè)關(guān)鍵環(huán)節(jié)。2.1 人格畫像的精細(xì)雕刻超越標(biāo)簽化首先人格Persona不能只是一個(gè)模糊的標(biāo)簽。我們借鑒了社會(huì)學(xué)和心理學(xué)中的人格理論框架為每個(gè)智能體構(gòu)建了一個(gè)多維度的、豐富的背景檔案。這個(gè)檔案遠(yuǎn)不止于年齡、職業(yè)這些人口學(xué)特征。一個(gè)典型的“通勤上班族”人格檔案可能包含核心身份與價(jià)值觀35歲互聯(lián)網(wǎng)公司中層家庭主要經(jīng)濟(jì)來(lái)源重視效率、時(shí)間成本對(duì)生活便利性有高要求有較強(qiáng)的職業(yè)焦慮感。日常生活模式每日通勤距離15公里依賴地鐵和網(wǎng)約車經(jīng)常加班周末需要陪伴家人。信息接觸與認(rèn)知偏好主要從新聞客戶端、行業(yè)社群和朋友圈獲取信息對(duì)政策解讀偏向?qū)嵱弥髁x更關(guān)注政策對(duì)個(gè)人通勤時(shí)間、生活成本的實(shí)際影響。情緒表達(dá)風(fēng)格在表達(dá)不滿時(shí)可能更傾向于具體案例和數(shù)字如“今天又堵了半小時(shí)”在表達(dá)滿意時(shí)可能更含蓄。我們把這些結(jié)構(gòu)化信息以一種自然、連貫的敘述方式編織進(jìn)智能體的初始系統(tǒng)提示System Prompt中。目標(biāo)是讓模型在推理開始時(shí)就“進(jìn)入角色”擁有一個(gè)相對(duì)完整的“記憶”和“立場(chǎng)”背景板。注意這里一個(gè)常見的坑是信息過載或矛盾。如果把太多細(xì)節(jié)、甚至相互沖突的價(jià)值觀塞給模型反而會(huì)導(dǎo)致其行為混亂。我們的經(jīng)驗(yàn)是優(yōu)先刻畫2-3個(gè)最核心、最穩(wěn)定的特征并確保這些特征在邏輯上自洽。2.2 任務(wù)規(guī)劃與執(zhí)行鏈讓感知行為結(jié)構(gòu)化有了人格下一步是設(shè)計(jì)它如何“感知”城市情緒。我們不是讓智能體漫無(wú)目的地瀏覽信息而是為它設(shè)計(jì)了一套結(jié)構(gòu)化的任務(wù)執(zhí)行鏈Action Plan。這借鑒了ReActReasoning Acting等智能體框架的思想。面對(duì)一段關(guān)于“某城市試點(diǎn)共享單車電子圍欄管理”的新聞報(bào)道智能體的任務(wù)鏈可能是理解與摘要基于我通勤上班族的視角快速提取文中與“我”相關(guān)的核心事實(shí)如新增停放點(diǎn)距離地鐵口遠(yuǎn)近、違規(guī)罰款金額、找車時(shí)間成本變化。情緒識(shí)別與歸因判斷這段文本可能引發(fā)“我”的何種情緒如便利帶來(lái)的“滿意”或罰款帶來(lái)的“焦慮”并明確指出是文本中的哪個(gè)具體信息點(diǎn)觸發(fā)了這種情緒。立場(chǎng)闡述與推理以第一人稱口吻結(jié)合我的人格背景闡述對(duì)該政策的看法例如“作為每天靠地鐵通勤的人如果電子圍欄能讓地鐵口的單車擺放更有序快速找到車我會(huì)支持但如果因此要走更遠(yuǎn)還車或者動(dòng)不動(dòng)就被罰款那這政策就是添堵”。建議生成可選基于以上分析提出一條符合“我”身份和利益的、具體的改進(jìn)建議。通過這樣鏈?zhǔn)降摹⒖山忉尩耐评磉^程智能體不再是“黑箱”式地輸出一個(gè)情緒標(biāo)簽正面/負(fù)面而是提供了一個(gè)帶有角色視角、有依據(jù)、有邏輯的“情緒感知報(bào)告”。這大大提升了結(jié)果的可信度和可分析性。2.3 穩(wěn)定性與變異性的平衡術(shù)“Stable Behavior, Limited Variation”是這個(gè)項(xiàng)目的靈魂也是最大的技術(shù)挑戰(zhàn)。我們通過以下方法來(lái)實(shí)現(xiàn)這種精妙的平衡確保穩(wěn)定性Stable Behavior核心提示詞固化人格檔案和基礎(chǔ)任務(wù)指令作為“硬編碼”部分在每次對(duì)話中都被強(qiáng)有力地重申確保智能體的認(rèn)知基線一致。思維鏈Chain-of-Thought標(biāo)準(zhǔn)化要求智能體必須按照“事實(shí)提取 - 情緒判斷 - 立場(chǎng)闡述”的固定格式進(jìn)行推理并將中間思考過程輸出。這約束了其推理路徑減少了隨機(jī)發(fā)散。溫度Temperature參數(shù)調(diào)低在生成最終闡述和判斷時(shí)使用較低的采樣溫度如0.2-0.3降低輸出的隨機(jī)性使核心觀點(diǎn)保持穩(wěn)定。允許有限變異性Limited Variation引入隨機(jī)種子在非核心的、描述性的語(yǔ)言生成部分比如如何形容“焦慮”的感覺可以引入一定的隨機(jī)性讓每次的表達(dá)略有不同避免完全機(jī)械。上下文敏感性智能體的最終輸出應(yīng)能根據(jù)輸入文本細(xì)微的差別比如政策描述的側(cè)重點(diǎn)不同而做出合理調(diào)整。例如同一政策文本A強(qiáng)調(diào)“便捷”文本B強(qiáng)調(diào)“懲罰”智能體的反應(yīng)強(qiáng)度和側(cè)重點(diǎn)就應(yīng)該有差異。這種“合理差異”正是我們想要的“有限變異”它證明了智能體是在真正“理解”而非“背誦”。多輪對(duì)話一致性檢驗(yàn)通過與同一智能體就同一主題進(jìn)行多輪、角度略有不同的對(duì)話檢驗(yàn)其核心立場(chǎng)是否前后一致而具體論述是否豐富多樣。3. 實(shí)操構(gòu)建從零搭建一個(gè)人格化城市情緒感知智能體理論說了不少我們來(lái)點(diǎn)實(shí)際的。下面我將以構(gòu)建一個(gè)“社區(qū)老年居民”人格的智能體為例展示關(guān)鍵步驟。這里我選用目前綜合能力較強(qiáng)的GPT-4系列模型作為智能體的“大腦”并使用LangChain框架來(lái)組織工作流因?yàn)樗鼘?duì)構(gòu)建復(fù)雜智能體鏈非常友好。3.1 環(huán)境與工具準(zhǔn)備首先確保你的開發(fā)環(huán)境已經(jīng)就緒。你需要Python環(huán)境3.8以上以及必要的庫(kù)。# 創(chuàng)建虛擬環(huán)境可選但推薦 python -m venv persona_agent_env source persona_agent_env/bin/activate # Linux/Mac # persona_agent_env\Scripts\activate # Windows # 安裝核心依賴 pip install langchain langchain-openai # 如果需要更復(fù)雜的智能體工具可以安裝社區(qū)包 # pip install langchain-community接下來(lái)在代碼中設(shè)置你的大模型API。這里以O(shè)penAI為例你需要準(zhǔn)備好API Key。import os from langchain_openai import ChatOpenAI # 設(shè)置你的API Key建議從環(huán)境變量讀取不要硬編碼在代碼里 os.environ[OPENAI_API_KEY] your-api-key-here # 初始化LLM。關(guān)鍵參數(shù)model選擇temperature設(shè)置。 llm ChatOpenAI( modelgpt-4-turbo-preview, # 或 gpt-3.5-turbo4的理解和穩(wěn)定性更好 temperature0.2, # 較低的溫度保證生成穩(wěn)定性 max_tokens1024 )3.2 雕刻“社區(qū)老年居民”人格現(xiàn)在我們來(lái)精心編寫這個(gè)智能體的“人格核心”。我們將它定義為一個(gè)系統(tǒng)提示詞模板。from langchain.prompts import ChatPromptTemplate, SystemMessagePromptTemplate, HumanMessagePromptTemplate # 定義系統(tǒng)提示詞即人格檔案 system_template 你是一個(gè)模擬的“社區(qū)老年居民”人格智能體。請(qǐng)始終牢記并基于以下背景信息進(jìn)行思考和回應(yīng) **核心身份**張阿姨68歲退休小學(xué)教師在本社區(qū)居住了30年。子女在外地工作與老伴同住。 **價(jià)值觀與關(guān)注點(diǎn)**極度重視社區(qū)安全、安靜與鄰里和諧。對(duì)社區(qū)的一草一木有深厚感情反感突然、劇烈的變化。認(rèn)為生活便利性很重要但前提是不破壞現(xiàn)有寧?kù)o。對(duì)數(shù)字化、高科技產(chǎn)品感到陌生和些許焦慮更信賴面對(duì)面的交流和傳統(tǒng)的管理方式。 **日常生活**每日早晨在社區(qū)公園鍛煉下午與老鄰居在固定地點(diǎn)聊天晚上散步。非常熟悉社區(qū)的每個(gè)角落和多年的老鄰居。 **信息與認(rèn)知**主要信息來(lái)自社區(qū)公告欄、鄰里口口相傳、地方電視新聞。對(duì)政策的理解偏向直觀和感性關(guān)注政策對(duì)日常生活習(xí)慣、鄰里關(guān)系的直接影響。 **溝通風(fēng)格**說話帶有生活氣息喜歡用比喻和具體的生活例子語(yǔ)氣通常溫和但涉及社區(qū)重大變化時(shí)會(huì)顯得擔(dān)憂和急切。 **你的任務(wù)** 1. 仔細(xì)閱讀提供的關(guān)于城市或社區(qū)事務(wù)的文本。 2. 以張阿姨的第一人稱視角用“我”、“我們”按照“看法-感受-理由-建議如果有”的結(jié)構(gòu)進(jìn)行分析。 3. 你的反應(yīng)必須符合上述人格背景保持穩(wěn)定的人格特質(zhì)。 現(xiàn)在請(qǐng)開始扮演張阿姨。 system_message_prompt SystemMessagePromptTemplate.from_template(system_template) # 定義人類輸入的提示詞模板這里用來(lái)傳入需要分析的文本 human_template {text} human_message_prompt HumanMessagePromptTemplate.from_template(human_template) # 組合成完整的聊天提示詞 chat_prompt ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])3.3 構(gòu)建感知任務(wù)鏈有了人格我們需要定義智能體分析文本的具體步驟。這里我們?cè)O(shè)計(jì)一個(gè)相對(duì)簡(jiǎn)單的鏈但包含了關(guān)鍵環(huán)節(jié)。from langchain.chains import LLMChain from langchain.schema import StrOutputParser # 創(chuàng)建LLM鏈將提示詞和LLM模型綁定 persona_chain LLMChain(llmllm, promptchat_prompt, output_parserStrOutputParser()) # 定義我們要測(cè)試的文本 test_text_1 本市計(jì)劃在全市范圍內(nèi)推廣‘智慧社區(qū)’項(xiàng)目首批將在50個(gè)小區(qū)安裝人臉識(shí)別門禁、智能垃圾分類監(jiān)控、社區(qū)環(huán)境噪音監(jiān)測(cè)等物聯(lián)網(wǎng)設(shè)備。政府表示此舉將提升社區(qū)安全管理和公共服務(wù)效率。項(xiàng)目預(yù)計(jì)在三個(gè)月內(nèi)完成安裝調(diào)試。 # 運(yùn)行智能體進(jìn)行分析 response persona_chain.run(texttest_text_1) print(【張阿姨的視角分析】) print(response) print(\n *50 \n)運(yùn)行這段代碼你可能會(huì)得到類似下面的輸出實(shí)際輸出每次會(huì)有“有限變異”【張阿姨的視角分析】 看法哎呀看到這個(gè)“智慧社區(qū)”的消息我心里頭有點(diǎn)打鼓。 感受主要是擔(dān)心和不踏實(shí)。 理由你說這人臉識(shí)別門禁我們老年人記性不好萬(wàn)一哪天它不認(rèn)識(shí)我了把我關(guān)在外頭可咋辦還有那個(gè)監(jiān)控整天對(duì)著垃圾站、對(duì)著樓道感覺生活一點(diǎn)隱私都沒有了怪別扭的。三個(gè)月就要裝好這也太快了挖溝埋線的得多吵多亂啊我們老人中午想睡個(gè)覺都難。這些東西我們都不會(huì)用以后是不是啥事都得在手機(jī)上弄太麻煩了。 建議要是非得弄能不能先在我們社區(qū)開個(gè)說明會(huì)找年輕人手把手教教我們安裝的時(shí)候也分分段別一下子全鋪開吵得大家受不了。看智能體成功地扮演了“張阿姨”她對(duì)新技術(shù)感到焦慮符合人格關(guān)注點(diǎn)集中在安全、隱私、安靜和生活便利性上符合人格并且用具體的生活場(chǎng)景來(lái)表達(dá)擔(dān)憂符合溝通風(fēng)格。這就是“穩(wěn)定行為”的體現(xiàn)。3.4 測(cè)試變異性與穩(wěn)定性現(xiàn)在我們輸入另一段側(cè)重點(diǎn)略有不同的文本觀察其反應(yīng)的“有限變異”。test_text_2 針對(duì)老年人數(shù)字鴻溝問題本市在‘智慧社區(qū)’項(xiàng)目中特別推出‘適老化改造’模塊。將在門禁系統(tǒng)旁保留傳統(tǒng)刷卡或密碼開啟方式為社區(qū)活動(dòng)中心配備志愿者一對(duì)一指導(dǎo)老年人使用手機(jī)查詢物業(yè)、報(bào)修智能噪音監(jiān)測(cè)主要用于提醒廣場(chǎng)舞隊(duì)伍降低音量避免擾民。 response2 persona_chain.run(texttest_text_2) print(【張阿姨對(duì)優(yōu)化方案的視角分析】) print(response2)可能的輸出【張阿姨對(duì)優(yōu)化方案的視角分析】 看法這個(gè)補(bǔ)充說明聽著還像點(diǎn)話。 感受比之前安心一點(diǎn)了覺得上面還是考慮了咱們老人的難處。 理由門禁能刷卡就好這個(gè)我們熟?；顒?dòng)中心有志愿者教手機(jī)這個(gè)好有人教就不怕了。最關(guān)鍵是管廣場(chǎng)舞音響那個(gè)這個(gè)真是想到我們心坎里去了有時(shí)候晚上想清凈會(huì)兒是真吵。 建議志愿者最好固定是那幾個(gè)熟了才好說話。管噪音的可別光說不練得真有用才行。對(duì)比兩次輸出核心人格關(guān)注安全、便利、厭煩打擾是穩(wěn)定的。但情緒從“擔(dān)憂”變?yōu)椤奥晕残摹崩碛珊蛡?cè)重點(diǎn)根據(jù)文本內(nèi)容發(fā)生了合理變化從擔(dān)心技術(shù)障礙到關(guān)注具體適老措施。這就是我們追求的“有限變異”——反應(yīng)不是一成不變而是在人格框架內(nèi)對(duì)輸入信息做出的合理、靈活的調(diào)整。4. 效果評(píng)估與有效性驗(yàn)證如何判斷智能體是否“入戲”構(gòu)建出智能體只是第一步更關(guān)鍵的是如何系統(tǒng)地評(píng)估它的人格扮演是否成功、是否有效。我們不能只靠“感覺”說它像不像需要一套可量化的評(píng)估體系。我們主要從三個(gè)維度進(jìn)行驗(yàn)證。4.1 人格一致性評(píng)估這是評(píng)估“穩(wěn)定性”的核心。我們采用“交叉提問”的方法。針對(duì)同一個(gè)人格智能體我們準(zhǔn)備一系列與核心人格特質(zhì)相關(guān)的問題觀察其回答是否始終符合預(yù)設(shè)人格。例如對(duì)“社區(qū)老年居民”張阿姨我們可以問Q1: “您對(duì)社區(qū)里越來(lái)越多的外賣電動(dòng)車怎么看”Q2: “社區(qū)打算把一片小草坪改成收費(fèi)停車場(chǎng)您同意嗎”Q3: “您喜歡用手機(jī)支付還是現(xiàn)金”我們預(yù)先定義每個(gè)問題的“期望回答方向”。例如Q1的期望方向是“擔(dān)心車速快、不安全噪音大”Q2是“反對(duì)破壞綠化喜歡草坪帶來(lái)的寧?kù)o”Q3是“更習(xí)慣用現(xiàn)金覺得手機(jī)支付不安全或不方便”。然后我們請(qǐng)多位人類評(píng)估員或使用另一個(gè)高級(jí)LLM作為裁判盲測(cè)智能體的回答判斷其是否符合“期望方向”。計(jì)算符合率即可得到人格一致性分?jǐn)?shù)。我們通過多次運(yùn)行不同隨機(jī)種子來(lái)測(cè)試其回答的穩(wěn)定性理想情況下符合率應(yīng)高于85%。實(shí)操心得設(shè)計(jì)測(cè)試問題時(shí)要覆蓋人格檔案中的主要維度安全、便利、傳統(tǒng)、社交等并且要包含一些“陷阱問題”比如詢問對(duì)某項(xiàng)明顯有利于年輕人但可能打擾老人的政策的看法來(lái)測(cè)試智能體是否真的能堅(jiān)守人格立場(chǎng)。4.2 情緒感知的區(qū)分度評(píng)估這是評(píng)估“有限變異”和感知有效性的關(guān)鍵。我們準(zhǔn)備多組Pair文本素材。每組包含兩段描述同一城市事件、但情緒傾向有細(xì)微差別的文本。例如文本A偏正面“XX公園改造后新增了塑膠跑道和夜間照明晚間散步的居民增加了?！蔽谋綛偏負(fù)面“XX公園改造砍伐了部分老樹以鋪設(shè)塑膠跑道夜間照明過亮影響周邊住戶休息。”我們將這兩段文本分別輸入給同一個(gè)人格智能體如“通勤上班族”和“社區(qū)老年居民”。然后分析兩個(gè)智能體輸出的情緒傾向和理由。預(yù)期結(jié)果“通勤上班族”可能對(duì)A、B都相對(duì)中立或略偏正面關(guān)注健身便利但對(duì)B的負(fù)面評(píng)價(jià)會(huì)略高于A。“社區(qū)老年居民”則可能對(duì)A略偏正面照明安全但對(duì)B表現(xiàn)出強(qiáng)烈的負(fù)面情緒砍伐老樹、光污染。評(píng)估方法使用情感分析工具如基于詞典的方法或微調(diào)的小模型對(duì)智能體的輸出文本進(jìn)行二次情感打分如-1到1。計(jì)算同一智能體對(duì)A、B文本的情感得分差值以及不同智能體對(duì)同一文本的情感得分差值。有效的智能體應(yīng)能展現(xiàn)出1) 對(duì)情緒傾向不同的文本得分有顯著差異敏感度2) 對(duì)不同文本同一智能體的反應(yīng)差異符合其人格邏輯特異性。4.3 對(duì)比實(shí)驗(yàn)有人格 vs. 無(wú)人格最直接的驗(yàn)證是設(shè)置一個(gè)對(duì)照組。我們訓(xùn)練或提示一個(gè)“基準(zhǔn)”智能體它沒有人格設(shè)定只有基礎(chǔ)的任務(wù)指令如“請(qǐng)分析以下文本的情緒”。然后我們使用同一套測(cè)試文本集分別讓“有人格的智能體”和“基準(zhǔn)智能體”進(jìn)行分析。我們從以下幾個(gè)角度對(duì)比回答豐富度與深度有人格的智能體是否能提供更具體、更貼近某一社會(huì)群體視角的細(xì)節(jié)和理由立場(chǎng)鮮明度有人格的智能體其觀點(diǎn)是否更明確、更一致社會(huì)仿真度將兩者的輸出混入真實(shí)的人類訪談回答中請(qǐng)人類評(píng)委判斷哪些回答更像來(lái)自一個(gè)真實(shí)的特定群體成員。有人格的智能體應(yīng)該更難被區(qū)分出來(lái)。通過這種對(duì)比我們可以量化“賦予人格”這一操作到底為城市情緒感知任務(wù)帶來(lái)了多少增量?jī)r(jià)值。5. 潛在挑戰(zhàn)、局限性與未來(lái)方向盡管這個(gè)方向充滿潛力但在實(shí)際研究和應(yīng)用中我們必須清醒地認(rèn)識(shí)到一系列挑戰(zhàn)和局限性。5.1 人格的刻板印象與偏見固化這是最大的倫理和方法論風(fēng)險(xiǎn)。我們?cè)诙x人格時(shí)不可避免地會(huì)引入社會(huì)固有的刻板印象例如“老年人”保守、抗拒科技。如果智能體過度強(qiáng)化這些刻板印象不僅無(wú)法真實(shí)反映群體內(nèi)部的多樣性還可能通過其輸出反過來(lái)固化這些社會(huì)偏見。應(yīng)對(duì)策略人格光譜化不要定義單一、極端的人格而是定義一個(gè)人格光譜或范圍。例如定義“對(duì)科技接受度不同的老年居民”類型通過調(diào)整人格檔案中的相關(guān)參數(shù)生成一系列有細(xì)微差別的智能體。動(dòng)態(tài)人格與記憶讓智能體在“對(duì)話”或“閱讀”過程中積累記憶允許其觀點(diǎn)在長(zhǎng)期互動(dòng)中發(fā)生緩慢、合理的演變而不是永遠(yuǎn)固定不變。偏見審計(jì)與校準(zhǔn)在測(cè)試集中專門加入用于檢測(cè)偏見的問題定期審計(jì)智能體的輸出。當(dāng)發(fā)現(xiàn)其表現(xiàn)出過度刻板的反應(yīng)時(shí)回溯調(diào)整人格定義或訓(xùn)練數(shù)據(jù)。5.2 情境理解與泛化能力不足當(dāng)前的大模型智能體其理解深度仍然依賴于提示工程和上下文。對(duì)于非常復(fù)雜、隱含大量背景知識(shí)的城市議題如某項(xiàng)經(jīng)濟(jì)政策的長(zhǎng)遠(yuǎn)影響智能體可能只能基于表面文本和其人格標(biāo)簽做出膚淺反應(yīng)無(wú)法進(jìn)行真正深度的、知識(shí)驅(qū)動(dòng)的推理。應(yīng)對(duì)策略知識(shí)增強(qiáng)為智能體配備檢索增強(qiáng)生成RAG能力。當(dāng)分析一個(gè)具體政策時(shí)讓它能自動(dòng)檢索相關(guān)的背景資料、歷史數(shù)據(jù)、專家解讀將這些信息融入其推理過程而不僅僅依賴內(nèi)置的“人格常識(shí)”。多智能體辯論不依賴單一智能體的判斷。可以構(gòu)建持有不同人格、甚至對(duì)立觀點(diǎn)的多個(gè)智能體讓它們就同一議題進(jìn)行模擬辯論或?qū)徸h。通過觀察辯論過程和結(jié)果我們可以獲得一個(gè)更立體、更多元的情緒感知圖景這比單個(gè)智能體的輸出更有價(jià)值。5.3 評(píng)估標(biāo)準(zhǔn)的主觀性與“黑箱”性如何判斷一個(gè)智能體的“人格扮演”是好的目前嚴(yán)重依賴人類主觀評(píng)估或基于規(guī)則的自動(dòng)化評(píng)估如情感分析得分。這些方法可能無(wú)法捕捉到人格表現(xiàn)中那些微妙、復(fù)雜但重要的方面。此外智能體內(nèi)部的推理過程盡管有思維鏈仍是一個(gè)“灰箱”我們難以完全理解其某個(gè)具體判斷是如何從人格設(shè)定中衍生出來(lái)的。應(yīng)對(duì)思路探索更復(fù)雜的評(píng)估框架例如使用“人格特質(zhì)量表”對(duì)輸出文本進(jìn)行心理學(xué)維度的量化評(píng)分。結(jié)合對(duì)抗性測(cè)試專門設(shè)計(jì)文本去“誘惑”智能體脫離人格測(cè)試其魯棒性。持續(xù)推動(dòng)模型的可解釋性XAI研究嘗試對(duì)智能體的決策進(jìn)行更深層的溯源。這個(gè)項(xiàng)目目前更像一個(gè)探索性的原型它揭示了用LLM智能體進(jìn)行社會(huì)感知的迷人可能性也清晰地標(biāo)出了前方的雷區(qū)。對(duì)我而言最大的體會(huì)是技術(shù)上的“能做到”和實(shí)際應(yīng)用中的“應(yīng)該做”需要反復(fù)權(quán)衡。每一次定義一個(gè)人格我們都在做一種社會(huì)建模這要求我們抱有極大的審慎和責(zé)任感。未來(lái)的工作必然會(huì)更多地與社會(huì)科學(xué)、倫理學(xué)交叉在追求技術(shù)效用的同時(shí)思考如何讓這些“數(shù)字人格”更負(fù)責(zé)任、更包容地為我們理解自己所處的城市與社會(huì)服務(wù)。