最近看到一個(gè)挺反直覺的研究視角大意是模型自動(dòng)化與人類增強(qiáng)能力未必相關(guān)。這個(gè)標(biāo)題里的「未必」用得很克制但背后觸及的問題很實(shí)際——一個(gè)人或者一個(gè)團(tuán)隊(duì)用了大量 AI 自動(dòng)化工具產(chǎn)出效率可能在短期明顯提升但如果因此認(rèn)為人的能力也同步變強(qiáng)了那就很可能誤判。我印象很深的一件事是一個(gè)朋友團(tuán)隊(duì)引入了一套自動(dòng)生成周報(bào)和數(shù)據(jù)分析摘要的工具。管理層最初的期待是用久了團(tuán)隊(duì)每個(gè)人寫分析、抓重點(diǎn)的能力都會(huì)提升。結(jié)果三個(gè)月后發(fā)現(xiàn)周報(bào)變得整齊規(guī)范但讓組員脫離工具獨(dú)立做一次業(yè)務(wù)復(fù)盤時(shí)很多人反而不知道該看哪些指標(biāo)、怎么組織結(jié)構(gòu)。這其實(shí)就是一個(gè)典型的「自動(dòng)化提升了產(chǎn)出卻沒有增強(qiáng)人的能力」的案例。這件事讓我重新去想一個(gè)問題當(dāng)我們在說「AI 增強(qiáng)」的時(shí)候到底是在說「讓流程變快」還是在說「讓人變得更強(qiáng)」這兩種目標(biāo)表面看起來接近實(shí)際設(shè)計(jì)路徑完全不同。這篇博客想把這個(gè)關(guān)系拆開聊一聊也給出一個(gè)我自己用來判斷「自動(dòng)化到底是在替代人還是在增強(qiáng)人」的框架。1. 先搞清楚兩個(gè)概念模型自動(dòng)化和人類增強(qiáng)能力根本不是一回事1.1 模型自動(dòng)化解決的是「執(zhí)行效率」不是「能力積累」模型自動(dòng)化簡單說就是把一個(gè)原本需要人反復(fù)操作的任務(wù)交給模型自動(dòng)完成。典型的有自動(dòng)生成摘要、自動(dòng)分類工單、自動(dòng)生成代碼模板、自動(dòng)整理報(bào)表。它的核心價(jià)值在于把重復(fù)勞動(dòng)從人身上剝離出去讓人可以把時(shí)間花在更需要判斷的事情上。但這里有一個(gè)容易被忽略的轉(zhuǎn)折執(zhí)行效率提升不等于能力遷移。一個(gè)模型自動(dòng)生成了高質(zhì)量的分析報(bào)告你確實(shí)省下了寫報(bào)告的時(shí)間但這并不代表你自動(dòng)獲得了「寫分析報(bào)告」的能力。就像你開一輛自動(dòng)駕駛功能很強(qiáng)的車去了一趟很遠(yuǎn)的地方你并沒有因此變成更好的駕駛員。你可能變得更懂怎么設(shè)置導(dǎo)航、怎么監(jiān)控車輛狀態(tài)但駕駛本身的技術(shù)和路感如果不刻意練習(xí)反而會(huì)因?yàn)槭褂米詣?dòng)駕駛而退化。這就是「自動(dòng)化」和「增強(qiáng)」的第一層區(qū)別自動(dòng)化關(guān)注的是任務(wù)產(chǎn)出增強(qiáng)關(guān)注的是人的能力存量。1.2 人類增強(qiáng)能力指的是什么人類增強(qiáng)能力通?？梢圆鸪蓭最愓J(rèn)知能力理解、分析、判斷、決策操作能力寫代碼、寫文檔、做實(shí)驗(yàn)、調(diào)參數(shù)以及元能力學(xué)習(xí)新東西的能力、遷移能力、自我評估能力。這些能力有一個(gè)共同特點(diǎn)它們一旦形成是可以脫離特定工具存在的。比如一個(gè)熟練的數(shù)據(jù)分析師換一個(gè)工具、換一個(gè)數(shù)據(jù)源依然能完成分析而一個(gè)依賴某個(gè)自動(dòng)化平臺產(chǎn)生報(bào)表的人一旦平臺規(guī)則變化、數(shù)據(jù)結(jié)構(gòu)變化可能立刻變得手足無措。所以我們可以這樣理解模型自動(dòng)化是外掛能力增強(qiáng)是內(nèi)化。外掛可以隨時(shí)裝上也可以隨時(shí)卸下但內(nèi)化的能力會(huì)一直跟著人走。1.3 為什么這兩者會(huì)被混為一談混為一談的原因也很自然因?yàn)樽詣?dòng)化工具確實(shí)能帶來短期的能力錯(cuò)覺。產(chǎn)出變好了、速度變快了、交付更專業(yè)了人很容易把「系統(tǒng)能力」誤認(rèn)為「自己能力」。再加上很多產(chǎn)品宣傳本身會(huì)把「自動(dòng)化」包裝成「賦能」「增強(qiáng)」讓人默認(rèn)使用工具就會(huì)提升能力。但從認(rèn)知科學(xué)的角度看能力提升往往需要反饋、反思、練習(xí)和錯(cuò)誤修正。而自動(dòng)化恰恰把「錯(cuò)誤修正」這個(gè)關(guān)鍵環(huán)節(jié)給抹掉了。系統(tǒng)幫你把活干了你自然少了試錯(cuò)的機(jī)會(huì)也就少了修正自己認(rèn)知模型的機(jī)會(huì)。所以模型自動(dòng)化與人類增強(qiáng)能力未必相關(guān)這個(gè)「未必」其實(shí)是在提醒我們?nèi)绻O(shè)計(jì)得當(dāng)、使用得當(dāng)自動(dòng)化確實(shí)可以成為增強(qiáng)的杠桿但如果不加設(shè)計(jì)自動(dòng)化越徹底人的能力越可能懸空。2. 為什么自動(dòng)化越強(qiáng)人的能力反而可能越弱2.1 認(rèn)知卸載的代價(jià)認(rèn)知科學(xué)里有一個(gè)概念叫認(rèn)知卸載意思是把一部分認(rèn)知任務(wù)交給外部工具釋放大腦資源。比如用計(jì)算器算數(shù)、用筆記軟件記待辦、用搜索引擎查資料都是認(rèn)知卸載。認(rèn)知卸載本身是好事它能讓人把有限的注意力放在更高層的問題上。但問題在于卸載必須是有選擇的。如果把所有需要判斷的環(huán)節(jié)都卸載掉了人的認(rèn)知能力就失去了鍛煉機(jī)會(huì)。更麻煩的是自動(dòng)化系統(tǒng)往往不只是卸載「執(zhí)行」還會(huì)卸載「計(jì)劃」「評估」「決定」而這些恰恰是人類能力中最值錢的部分。我見過一個(gè)很典型的例子過去寫文檔的人需要自己決定文檔結(jié)構(gòu)現(xiàn)在用 AI 生成大綱很多人直接接受 AI 大綱改都不改。久而久之他對「好的文檔結(jié)構(gòu)」沒什么感覺了。這不是因?yàn)樗慷且驗(yàn)樗麕缀鯖]有再做過「自己搭結(jié)構(gòu)」這件事。2.2 反饋回路斷裂能力增長的關(guān)鍵機(jī)制之一是反饋。你在一個(gè)任務(wù)上做了決策看到結(jié)果對比預(yù)期修正決策。這個(gè)循環(huán)反復(fù)運(yùn)行能力才會(huì)提升。自動(dòng)化系統(tǒng)會(huì)打斷這個(gè)循環(huán)你輸入幾個(gè)關(guān)鍵詞系統(tǒng)直接生成完整交付物。你看到的只是結(jié)果而不是過程你沒有經(jīng)歷過中間那些次優(yōu)選擇、錯(cuò)誤路徑、修正過程自然也就失去了建立判斷力的材料。更隱蔽的是很多自動(dòng)化系統(tǒng)的輸出非常穩(wěn)定、看似專業(yè)這讓用戶很少質(zhì)疑它的中間邏輯。人一旦停止質(zhì)疑輸出實(shí)際上就停止了思考。這也是為什么很多時(shí)候自動(dòng)化工具用得越多人的「審核能力」反而越弱——不是不想審而是已經(jīng)不知道要審什么了。2.3 能力發(fā)生轉(zhuǎn)移而不是消失我傾向于用「轉(zhuǎn)移」而不是「消失」來描述這個(gè)現(xiàn)象。人并沒有變笨只是能力結(jié)構(gòu)變了。原本花在「寫代碼」「寫分析」「寫方案」上面的認(rèn)知投入轉(zhuǎn)移到了「提需求」「審結(jié)果」「調(diào)提示詞」「修邊界」這些新任務(wù)上。所以判斷一次自動(dòng)化引入是否真正做到了增強(qiáng)不能只看舊任務(wù)是否完成得更好還要看新任務(wù)是否讓人積累了新的、可遷移的能力。如果用戶只是學(xué)會(huì)了怎么用某一個(gè)工具而工具一旦替換就歸零那這種能力更像操作性記憶而不是真正的認(rèn)知增強(qiáng)。3. 一個(gè)判斷框架自動(dòng)化是替代人還是增強(qiáng)人看這五個(gè)維度在看一個(gè)具體功能或工作流時(shí)我一般用五個(gè)維度來判斷它到底是「替代」還是「增強(qiáng)」維度替代性自動(dòng)化增強(qiáng)性自動(dòng)化認(rèn)知參與度人只需要發(fā)起任務(wù)中間無需判斷人需要在關(guān)鍵節(jié)點(diǎn)做選擇、評估、修正反饋回路輸出最終結(jié)果過程不透明提供過程信息、中間結(jié)果、備選方案鼓勵(lì)用戶對比用戶控制權(quán)系統(tǒng)決定步驟用戶不能干預(yù)用戶可以調(diào)整策略、覆蓋決策、指定約束技能遷移性技能綁定特定工具工具更換即失效技能可脫離工具遷移到其他場景任務(wù)復(fù)雜度適合標(biāo)準(zhǔn)化、低頻變化任務(wù)適合需要判斷、任務(wù)邊界不斷變化的工作這個(gè)表格不是嚴(yán)格的學(xué)術(shù)定義而是一個(gè)快速篩查工具。你可以拿它去評估任何一個(gè)你正在使用的自動(dòng)化功能。3.1 認(rèn)知參與度系統(tǒng)是否留給人判斷空間如果自動(dòng)化流程是從頭到尾全自動(dòng)人只有「開始」和「接收結(jié)果」兩個(gè)動(dòng)作那這基本就是替代邏輯。如果系統(tǒng)會(huì)在中間生成多個(gè)選項(xiàng)讓人選擇、對比、調(diào)整那它更接近增強(qiáng)。比如代碼補(bǔ)全工具。如果它直接根據(jù)注釋生成完整函數(shù)你直接粘貼認(rèn)知參與度很低但如果它生成幾個(gè)候選實(shí)現(xiàn)你判斷哪一種更符合當(dāng)前代碼庫風(fēng)格再修改異常分支那你的參與度就高很多。3.2 反饋回路系統(tǒng)是否展示過程而不是只給結(jié)果增強(qiáng)型工具的一個(gè)重要特征是會(huì)暴露中間過程。比如數(shù)據(jù)分析工具它會(huì)告訴你數(shù)據(jù)經(jīng)過哪些清洗步驟、缺失值怎么處理的、為什么選擇這個(gè)指標(biāo)而不只是甩給你一張圖表。對使用者來說能看到過程才有機(jī)會(huì)建立「輸入-處理-輸出」的心智模型。如果只看結(jié)果那每一次自動(dòng)化都是一次黑箱長期積累下來你對整個(gè)流程的理解會(huì)被切割得支離破碎。3.3 用戶控制權(quán)人能不能推翻系統(tǒng)自動(dòng)化程度再高只要關(guān)鍵決策點(diǎn)仍然允許人介入、覆蓋、改寫那它就有增強(qiáng)的潛力。反之如果系統(tǒng)把所有路徑都鎖死人只是逐步點(diǎn)擊確認(rèn)那這種自動(dòng)化做的其實(shí)是在替代用戶的判斷。這里有一個(gè)判斷技巧當(dāng)系統(tǒng)給出結(jié)果時(shí)你有沒有能力讓它換一種方式重新做如果你只能接受或重試沒有真正的控制選項(xiàng)那這個(gè)系統(tǒng)就把你定義為執(zhí)行流程中的一個(gè)節(jié)點(diǎn)而不是一個(gè)增強(qiáng)對象。3.4 技能遷移性換一個(gè)工具后你還是不是一樣能干這是最直接的一次「能力體檢」。把自動(dòng)化工具摘掉讓你用傳統(tǒng)方式完成同一個(gè)任務(wù)你的熟練度下降了多少這聽起來像是一個(gè)略顯苛刻的測試但很有參考價(jià)值。如果你去掉工具后完全無法完成任務(wù)說明你過去依賴的是工具能力而不是增強(qiáng)后的自己。如果你去掉工具后依然能完成只是慢一些、累一些說明你已經(jīng)把一部分能力內(nèi)化了工具只是放大器。3.5 任務(wù)復(fù)雜度自動(dòng)化適合簡單任務(wù)增強(qiáng)適合復(fù)雜任務(wù)標(biāo)準(zhǔn)化程度越高的任務(wù)越適合全自動(dòng)化動(dòng)態(tài)變化、需要判斷的任務(wù)更適合增強(qiáng)式輔助。這個(gè)維度與其說是判斷工具好壞不如說是幫助你選擇合適的使用策略。比如發(fā)票識別這是高度標(biāo)準(zhǔn)化的任務(wù)全自動(dòng)是合理目標(biāo)。但如果是寫一份商業(yè)分析報(bào)告任務(wù)邊界、數(shù)據(jù)源、分析口徑都在變化這時(shí)候全自動(dòng)化反而是有風(fēng)險(xiǎn)的因?yàn)槟Ｐ筒恢滥愕臉I(yè)務(wù)背景、取舍標(biāo)準(zhǔn)、讀者偏好。更合理的設(shè)計(jì)是讓模型做初稿人在上面做篩選、修正、補(bǔ)背景。4. 落到實(shí)踐怎么讓自動(dòng)化工具真正變成能力增強(qiáng)工具4.1 先做一個(gè)「最小能力驗(yàn)證」再放大自動(dòng)化范圍很多人引入自動(dòng)化工具時(shí)第一步就是「把整個(gè)流程自動(dòng)化」。這個(gè)思路風(fēng)險(xiǎn)很大因?yàn)槟氵€沒搞清楚哪些步驟真正適合自動(dòng)化就先把整條鏈路替換了。我更建議先用小范圍樣本做一次「能力驗(yàn)證」挑 5 到 10 個(gè)典型任務(wù)分別用傳統(tǒng)方式、半自動(dòng)方式、全自動(dòng)方式各做一遍。對比三個(gè)指標(biāo)產(chǎn)出質(zhì)量是否有差異人對任務(wù)邏輯的理解是否有差異脫離工具后再次執(zhí)行任務(wù)的熟練度是否有明顯下降通過這個(gè)小實(shí)驗(yàn)?zāi)隳芸焖俣ㄎ荒男┉h(huán)節(jié)自動(dòng)化是純收益哪些環(huán)節(jié)自動(dòng)化其實(shí)在削弱你的判斷力。4.2 在流程里設(shè)置「用戶必須介入」的關(guān)鍵節(jié)點(diǎn)如果完全信任自動(dòng)化的最終輸出增強(qiáng)就無從談起。這里一個(gè)可執(zhí)行的做法是不管你用多強(qiáng)的自動(dòng)化工具都在流程里強(qiáng)制保留至少一個(gè)「必須人工決策」的節(jié)點(diǎn)。比如讓模型生成一份報(bào)告但你必須自己重寫「結(jié)論和建議」部分。讓模型生成代碼但你必須為每個(gè)函數(shù)補(bǔ)充至少一個(gè)邊界測試。讓模型生成摘要但你必須自己提煉三條核心觀點(diǎn)并解釋原因。這個(gè)「強(qiáng)制介入」節(jié)點(diǎn)不只是為了保證質(zhì)量更是為了強(qiáng)迫你維持對任務(wù)的感知能力。它把人放在了一個(gè)主動(dòng)位置而不是被動(dòng)接收器的位置。4.3 保留「不用工具做一遍」的頻率這可能是最反直覺的一條建議即使你在生產(chǎn)中大量依賴自動(dòng)化也要定期要求自己脫離工具用最原始的方式做一遍核心任務(wù)。這樣做不是為了證明你能干而是為了校準(zhǔn)你對任務(wù)難度的感知。長期使用自動(dòng)化后人容易對任務(wù)難度產(chǎn)生誤判——覺得一切都很簡單因?yàn)橄到y(tǒng)把最麻煩的部分消化掉了。這種誤判會(huì)直接影響你評估工作、分配時(shí)間和指導(dǎo)別人。定期線下重做一遍能幫你保持對真實(shí)任務(wù)復(fù)雜度的感知。頻率上不用太高核心任務(wù)每個(gè)季度做一兩次就夠了。關(guān)鍵是這個(gè)動(dòng)作本身要存在而不是可有可無。4.4 建立你自己的「自動(dòng)化體檢表」我建議可以做一個(gè)最簡單的 Excel 或者筆記表格記錄你在用的每個(gè)自動(dòng)化工具。每季度刷新一次評估內(nèi)容如下檢查項(xiàng)當(dāng)前狀態(tài)是否通過我是否理解這個(gè)工具每個(gè)關(guān)鍵參數(shù)的含義比如模型溫度、批量數(shù)、超時(shí)時(shí)間是/否系統(tǒng)輸出異常時(shí)我能不能快速定位原因比如輸入格式、權(quán)限、版本差異是/否離開這個(gè)工具我能不能用替代方案完成核心任務(wù)比如手寫、簡化版腳本、人工流程是/否這個(gè)工具讓我更主動(dòng)還是更被動(dòng)觀察自己在使用過程中的決策量是/否我的哪些能力正在因?yàn)檫@個(gè)工具而減少使用比如寫作、分析、編碼、審校是/否如果某個(gè)工具連續(xù)兩次體檢出現(xiàn)「否」就要認(rèn)真考慮調(diào)整它的使用方式或者減少依賴。5. 自動(dòng)化效果沒達(dá)到預(yù)期時(shí)怎么排查實(shí)際使用中模型自動(dòng)化項(xiàng)目很容易出現(xiàn)「看起來跑通了但效果不穩(wěn)定」的問題。這時(shí)候不要急著否定模型也不要急著加更多自動(dòng)化先按鏈路排查。5.1 先看輸入和任務(wù)邊界是否清晰自動(dòng)化模型對輸入質(zhì)量非常敏感。數(shù)據(jù)格式不一致、字段缺失、上下文不完整都會(huì)直接影響輸出質(zhì)量。如果發(fā)現(xiàn)結(jié)果不穩(wěn)定第一步先檢查輸入樣本輸入文件是否有統(tǒng)一編碼和字段格式文本是否存在錯(cuò)別字、截?cái)唷⑻厥夥柸蝿?wù)指令是否足夠具體邊界是否清晰同一類任務(wù)在不同樣本中的描述風(fēng)格差異是否過大很多時(shí)候問題不是模型不行而是「任務(wù)描述」本身沒有標(biāo)準(zhǔn)化。5.2 再看反饋和評估機(jī)制是否合理如果一個(gè)自動(dòng)化系統(tǒng)長期使用但沒有一套穩(wěn)定的質(zhì)量評估機(jī)制很難判斷它到底是好是壞。這里的評估標(biāo)準(zhǔn)要具體輸出是可用的還是需要大改才能用需要人工修正的環(huán)節(jié)集中在哪些位置模型在哪些輸入類型上表現(xiàn)差修正后的版本和模型初稿之間差距有多大如果沒有這些數(shù)據(jù)你無法知道這個(gè)工具是在幫你節(jié)省時(shí)間還是在給你制造一種「我需要審校很多內(nèi)容」的新負(fù)擔(dān)。5.3 然后看人的參與設(shè)計(jì)是否失效還有一種情況是流程里確實(shí)留了人工審核節(jié)點(diǎn)但實(shí)際執(zhí)行時(shí)人根本沒有認(rèn)真審或者不知道怎么審。這個(gè)和前面說的反饋回路斷裂是同一個(gè)問題。排查時(shí)問一個(gè)問題審核者在看模型輸出時(shí)有沒有足夠的背景信息去判斷比如模型生成一份用戶畫像分析審核者如果不知道數(shù)據(jù)來源、指標(biāo)口徑、歷史版本差異他就不可能審出深度。這時(shí)候要補(bǔ)救的不是要求審核者更認(rèn)真而是要讓系統(tǒng)提供足夠多的中間信息讓審核成為可能。5.4 最后看任務(wù)復(fù)雜度是否超出了自動(dòng)化的邊界自動(dòng)化有一個(gè)現(xiàn)實(shí)邊界它擅長處理分布穩(wěn)定、規(guī)則明確的任務(wù)一旦任務(wù)目標(biāo)、數(shù)據(jù)分布、用戶需求經(jīng)常變化純自動(dòng)化方案就會(huì)顯得僵硬。如果你發(fā)現(xiàn)一個(gè)自動(dòng)化工具短期效果很好時(shí)間一長越來越不匹配大概率不是工具壞了而是任務(wù)本身在演化自動(dòng)化的配置卻停在原地。這時(shí)候可能要重新設(shè)計(jì)人機(jī)分工而不是繼續(xù)調(diào)參數(shù)。5.5 一個(gè)完整的排查順序參考如果你遇到自動(dòng)化效果不理想可以按這個(gè)順序走一遍檢查輸入樣本和任務(wù)描述是否標(biāo)準(zhǔn)檢查環(huán)境配置和依賴版本是否一致檢查輸出質(zhì)量評估標(biāo)準(zhǔn)是否存在、是否可量化檢查人工審核節(jié)點(diǎn)是否有足夠的上下文信息檢查任務(wù)復(fù)雜度是否已經(jīng)超出當(dāng)前自動(dòng)化方案的設(shè)計(jì)邊界檢查長期使用過程中的反饋是否被記錄、被循環(huán)最后判斷需要的是一次參數(shù)調(diào)整還是一次人機(jī)分工的重設(shè)這個(gè)順序的核心思想是先排除最容易檢查的輸入和環(huán)境問題再評估設(shè)計(jì)層面的問題最后才考慮是不是工具本身不適用。6. 回到主題自動(dòng)化替代的是任務(wù)增強(qiáng)的應(yīng)該是人如果把人和自動(dòng)化工具的關(guān)系放到長期視角來看我自己的判斷是最有價(jià)值的自動(dòng)化系統(tǒng)不是把人的活全干完而是讓人在干活過程中變得更懂這件事。聽起來有點(diǎn)繞但很多產(chǎn)品設(shè)計(jì)其實(shí)都在這兩個(gè)方向之間掙扎。一個(gè)完全自動(dòng)化的系統(tǒng)它追求的是「零干預(yù)」用戶越少參與越好。一個(gè)真正增強(qiáng)人的系統(tǒng)它追求的是「更好的判斷」它會(huì)在適當(dāng)?shù)奈恢猛Ｏ聛戆褯Q策交給人并且告訴人足夠的過程信息。所以「模型自動(dòng)化與人類增強(qiáng)能力未必相關(guān)」這句話換一種說法就是自動(dòng)化效率高不高和人的能力增長強(qiáng)不強(qiáng)是兩個(gè)獨(dú)立變量。你完全可以做一個(gè)自動(dòng)化程度很高但人的能力停滯不前的系統(tǒng)也可以做一個(gè)自動(dòng)化程度不高但人的能力持續(xù)增長的輔助工具。關(guān)鍵不在于用了多少 AI而在于系統(tǒng)設(shè)計(jì)里有沒有「讓人成長」的意圖。把這句話放到我們自己身上也一樣。當(dāng)你決定用一個(gè)自動(dòng)化工具之前最值得問自己的一句話不是「它能幫我省多少時(shí)間」而是「它會(huì)讓我的哪些能力因?yàn)椴挥枚嘶夷懿荒艹惺苓@種退化」。這個(gè)問題沒有標(biāo)準(zhǔn)答案但問過之后你對工具的使用方式會(huì)發(fā)生真實(shí)的改變。如果你正在評估一個(gè)自動(dòng)化流程我的建議是從一個(gè)小而具體的任務(wù)開始用前面那個(gè)五維框架做一次快速判斷再?zèng)Q定全量推廣還是保留人工節(jié)點(diǎn)。工具會(huì)不斷更新但人對任務(wù)的理解和判斷永遠(yuǎn)不該被全部外包出去。