斷網(wǎng)也能用的翻譯服務(wù)LibreTranslate 離線部署一攬子實(shí)操記錄【免費(fèi)下載鏈接】LibreTranslateFree and Open Source Machine Translation API. Self-hosted, offline capable and easy to setup.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/li/LibreTranslateLibreTranslate 是一款免費(fèi)開(kāi)源的機(jī)器翻譯 API 服務(wù)支持自托管部署在沒(méi)有外網(wǎng)的內(nèi)網(wǎng)環(huán)境中也能提供穩(wěn)定翻譯能力本文圍繞 LibreTranslate 離線部署、內(nèi)網(wǎng)使用與性能調(diào)優(yōu)展開(kāi)用一次真實(shí)的項(xiàng)目交付經(jīng)歷把無(wú)網(wǎng)絡(luò)環(huán)境下翻譯系統(tǒng)的落地全過(guò)程講透適合第一次接觸自托管翻譯服務(wù)的新手參考。一次差點(diǎn)讓項(xiàng)目黃掉的斷網(wǎng)現(xiàn)場(chǎng)去年秋天我接了一個(gè)部隊(duì)背景的客戶需求一套內(nèi)部知識(shí)庫(kù)系統(tǒng)需要嵌入翻譯功能但要命的是整個(gè)機(jī)房只有內(nèi)網(wǎng)物理隔離連 DNS 都不通?？蛻舻囊蠛苤苯印g必須在服務(wù)器本地完成數(shù)據(jù)不能出這臺(tái)機(jī)器。一開(kāi)始我下意識(shí)想到的是接云翻譯 API結(jié)果被當(dāng)場(chǎng)否決外網(wǎng)不通密鑰沒(méi)法激活更別說(shuō)按量計(jì)費(fèi)了。那天下午我抱著筆記本在客戶機(jī)房的角落里坐了兩個(gè)小時(shí)翻遍開(kāi)源社區(qū)最后鎖定了一個(gè)叫 LibreTranslate 的項(xiàng)目——免費(fèi)、開(kāi)源、自帶 Web 界面而且宣傳語(yǔ)里就寫(xiě)著Self-hosted, offline capable。后來(lái)的事情證明這兩個(gè)單詞offline capable救了我一整個(gè)項(xiàng)目。這篇文章不是官方文檔的復(fù)述而是我把那次從零到上線的過(guò)程連同后來(lái)踩過(guò)的坑全部整理成了一份可復(fù)用的操作筆記。你不需要懂深度學(xué)習(xí)也不需要會(huì)編譯 C跟著這篇記錄走一臺(tái) 8G 內(nèi)存的普通服務(wù)器就能把翻譯服務(wù)跑起來(lái)。斷網(wǎng)翻譯是怎么實(shí)現(xiàn)的先搞懂它的工作臺(tái)很多人一聽(tīng)離線翻譯腦子里浮現(xiàn)的是動(dòng)輒幾個(gè) G 的本地大模型。LibreTranslate 的思路不太一樣它更像一個(gè)流水線車(chē)間翻譯引擎本體Argos Translate負(fù)責(zé)把文字從一種語(yǔ)言搬運(yùn)到另一種語(yǔ)言它不依賴任何云端接口語(yǔ)言模型是單獨(dú)存放的語(yǔ)言包文件每個(gè)語(yǔ)言對(duì)比如英→中、中→英對(duì)應(yīng)一個(gè)獨(dú)立文件就像車(chē)間里每個(gè)工位單獨(dú)放的工具箱Web 服務(wù)層Flask負(fù)責(zé)把翻譯能力包裝成 HTTP 接口給網(wǎng)頁(yè)或程序調(diào)用在項(xiàng)目的 pyproject.toml 里可以看到它的關(guān)鍵拼圖argos-translate-lt是翻譯核心Flask是 Web 框架langdetect負(fù)責(zé)語(yǔ)言識(shí)別expiringdict給翻譯結(jié)果做緩存。這些組件全是開(kāi)源庫(kù)裝好后各自在本地運(yùn)行沒(méi)有任何一個(gè)環(huán)節(jié)需要打電話問(wèn)外面的服務(wù)器。一句話總結(jié)離線翻譯 翻譯程序 語(yǔ)言包 網(wǎng)絡(luò)外殼三者齊備斷網(wǎng)照常干活。語(yǔ)言包放在用戶目錄的argos-translate文件夾下Linux 是~/.local/share/argos-translate/packages/en_zh.argosmodel 就是英譯中的模型文件。想支持幾種語(yǔ)言就準(zhǔn)備幾個(gè)這樣的文件不用全裝這也是后面控制磁盤(pán)占用空間的關(guān)鍵。開(kāi)工之前先把這三件事盤(pán)清楚真正動(dòng)手之前別急著敲命令。以我的經(jīng)驗(yàn)離線部署 80% 的返工都出在準(zhǔn)備階段沒(méi)想明白。請(qǐng)先回答自己三個(gè)問(wèn)題① 到底需要哪些語(yǔ)言對(duì)客戶說(shuō)支持中文但中→英和英→中是兩個(gè)不同的模型文件。先列一張語(yǔ)言需求表再?zèng)Q定下載哪些。只做英中互譯兩個(gè)文件加起來(lái)大概 600MB要覆蓋英、法、西、德、意五個(gè)方向量級(jí)會(huì)到 1GB 以上。② 服務(wù)器什么配置語(yǔ)言模型是加載進(jìn)內(nèi)存運(yùn)行的。我用過(guò)的經(jīng)驗(yàn)值大致如下服務(wù)規(guī)模語(yǔ)言覆蓋模型文件占用建議內(nèi)存適用場(chǎng)景入門(mén)級(jí)中英互譯約 300-600MB4GB個(gè)人、內(nèi)部小工具常規(guī)級(jí)5-8 種主流語(yǔ)言1-1.5GB8GB團(tuán)隊(duì)協(xié)作、知識(shí)庫(kù)高配級(jí)數(shù)十種語(yǔ)言3GB 以上16GB多語(yǔ)言平臺(tái)、研究機(jī)構(gòu)③ 是全新部署還是已有機(jī)器如果目標(biāo)服務(wù)器上已經(jīng)裝了 Python 環(huán)境先確認(rèn)版本。LibreTranslate 要求 Python 3.8 以上版本不一致是最常見(jiàn)的安裝即報(bào)錯(cuò)源頭建議在有網(wǎng)環(huán)境提前用同樣版本做一次演練。在有網(wǎng)的地方把干糧備齊依賴緩存與模型打包離線部署的本質(zhì)是把下載這件事提前做完。我把這個(gè)過(guò)程叫備干糧——所有需要外網(wǎng)的資源都在有網(wǎng)的開(kāi)發(fā)機(jī)上先拉下來(lái)再一起帶進(jìn)內(nèi)網(wǎng)。第一步克隆代碼并準(zhǔn)備依賴緩存git clone https://gitcode.com/GitHub_Trending/li/LibreTranslate cd LibreTranslate pip download -r requirements.txt -d offline_deps/ --no-cache-dirpip download會(huì)把所有依賴的安裝包下載到offline_deps目錄這樣到了內(nèi)網(wǎng)就不需要再訪問(wèn) PyPI。如果目標(biāo)機(jī)是純內(nèi)網(wǎng) x86 Linux還可以加上--platform manylinux2014_x86_64 --only-binary:all:之類(lèi)的參數(shù)鎖定平臺(tái)減少兼容性問(wèn)題——不過(guò)前提是你已經(jīng)確定了目標(biāo)機(jī)的系統(tǒng)架構(gòu)別在 ARM 機(jī)器上準(zhǔn)備 x86 的包。第二步只下載需要的語(yǔ)言模型python scripts/install_models.py --load_only_lang_codes en,zh這條命令會(huì)去下載并安裝英中互譯所需的模型文件。執(zhí)行完之后把用戶目錄下argos-translate整個(gè)文件夾復(fù)制出來(lái)和offline_deps放在一起就湊齊了程序 依賴 模型三件套。把這三樣打成一個(gè)壓縮包用 U 盤(pán)也好、內(nèi)網(wǎng)共享盤(pán)也好拷進(jìn)目標(biāo)環(huán)境。檢查點(diǎn)拷貝前確認(rèn)模型目錄里能看到.argosmodel結(jié)尾的文件并且記錄下它們的完整路徑內(nèi)網(wǎng)部署時(shí)要放回同樣的位置。在內(nèi)網(wǎng)安家安裝、放模型、啟動(dòng)服務(wù)到了目標(biāo)機(jī)器上把壓縮包解壓到約定目錄然后按順序做三件事1. 離線安裝依賴pip install --no-index --find-links./offline_deps/ -r requirements.txt--no-index告訴 pip 別去網(wǎng)上找只用本地目錄里的包。2. 把模型文件放回正確位置把之前打包的argos-translate文件夾原樣放回用戶的~/.local/share/目錄下Windows 則是C:\Users\用戶名\AppData\Roaming\。這一步最容易出錯(cuò)路徑差一個(gè)字母服務(wù)就找不到模型。放好后可以檢查一下ls ~/.local/share/argos-translate/packages/應(yīng)該能看到模型文件。3. 啟動(dòng)服務(wù)python main.py --host 0.0.0.0 --port 5000 --load-only en,zh--load-only參數(shù)告訴服務(wù)只加載哪些語(yǔ)言既省內(nèi)存又加快啟動(dòng)速度。看到日志里出現(xiàn)類(lèi)似 Loaded support for X languages 的字樣就說(shuō)明模型加載成功了。如果啟動(dòng)時(shí)日志里出現(xiàn)Cannot update models (normal if youre offline)之類(lèi)的提示不用擔(dān)心——這是服務(wù)嘗試聯(lián)網(wǎng)檢查更新沒(méi)成功屬于內(nèi)網(wǎng)環(huán)境的正常現(xiàn)象翻譯功能不受影響。想徹底安靜的話項(xiàng)目配置里UPDATE_MODELS默認(rèn)就是關(guān)閉的對(duì)應(yīng)的啟動(dòng)參數(shù)--update-models不傳即可。點(diǎn)火之后怎么確認(rèn)它真的在干活服務(wù)跑起來(lái)不等于萬(wàn)事大吉我習(xí)慣按網(wǎng)頁(yè) → 接口 → 數(shù)據(jù)三層做驗(yàn)收網(wǎng)頁(yè)層瀏覽器打開(kāi)http://服務(wù)器IP:5000能看到一個(gè)翻譯輸入框選好語(yǔ)言對(duì)隨便打一句話點(diǎn)翻譯頁(yè)面出現(xiàn)譯文說(shuō)明前端、后端、模型全鏈路通了接口層用命令行模擬程序調(diào)用驗(yàn)證 API 是否正常響應(yīng)curl -X POST http://localhost:5000/translate \ -H Content-Type: application/x-www-form-urlencoded \ -d qHello worldsourceentargetzh數(shù)據(jù)層翻譯結(jié)果正常返回后把網(wǎng)線拔了再測(cè)一次——沒(méi)錯(cuò)真正的內(nèi)網(wǎng)驗(yàn)證就該這么干。確認(rèn)拔網(wǎng)線后翻譯依然秒回離線能力才算真正成立如果這臺(tái)服務(wù)器后續(xù)要接入其他系統(tǒng)翻譯 API 的請(qǐng)求格式字段名q、source、target值得提前寫(xiě)進(jìn)對(duì)接文檔讓開(kāi)發(fā)同事照著調(diào)。三份真實(shí)翻車(chē)記錄這些坑我替你踩過(guò)了翻車(chē)記錄一模型文件放錯(cuò)位置服務(wù)報(bào)找不到語(yǔ)言包癥狀啟動(dòng)后日志提示找不到模型網(wǎng)頁(yè)打開(kāi)沒(méi)有可用的語(yǔ)言選項(xiàng)。 原因我把模型解壓到了自定義目錄但服務(wù)只認(rèn)默認(rèn)路徑。 解法把模型放回~/.local/share/argos-translate/packages/或者用環(huán)境變量顯式指定模型目錄指向你的自定義位置二選一別兩個(gè)都做。翻車(chē)記錄二內(nèi)網(wǎng)裝依賴報(bào)版本沖突癥狀pip install時(shí)提示某個(gè)庫(kù)找不到匹配版本。 原因有網(wǎng)環(huán)境用的 Python 版本和內(nèi)網(wǎng)機(jī)器不一致pip 解析出的依賴樹(shù)對(duì)不上。 解法兩臺(tái)機(jī)器用同一個(gè) Python 版本寫(xiě)進(jìn)項(xiàng)目交接文檔里有網(wǎng)時(shí)在同樣的版本下重新pip download一遍依賴。翻車(chē)記錄三翻譯請(qǐng)求多了服務(wù)明顯變慢癥狀并發(fā)一上來(lái)響應(yīng)時(shí)間從幾百毫秒飆升到幾十秒。 原因默認(rèn)線程數(shù)是 4機(jī)器內(nèi)存又不寬裕模型反復(fù)加載。 解法按機(jī)器配置調(diào)大線程數(shù)啟動(dòng)參數(shù)--threads同時(shí)用--load-only收緊語(yǔ)言范圍翻譯緩存TRANSLATION_CACHE也可以按需開(kāi)啟重復(fù)內(nèi)容直接命中緩存不重新計(jì)算。讓內(nèi)網(wǎng)服務(wù)跑得更省更穩(wěn)的幾個(gè)旋鈕服務(wù)上線只是開(kāi)始運(yùn)營(yíng)階段有幾個(gè)旋鈕值得你花十分鐘調(diào)一調(diào)只加載需要的語(yǔ)言--load-only en,zh這種寫(xiě)法讓內(nèi)存占用和啟動(dòng)速度都友好不少按需調(diào)線程8 核 16G 的機(jī)器--threads 8起步小內(nèi)存機(jī)器別硬堆內(nèi)存不足比 CPU 慢更致命給程序接口加把鎖內(nèi)網(wǎng)不等于絕對(duì)安全項(xiàng)目支持 API 密鑰機(jī)制--api-keys及相關(guān)參數(shù)給不同部門(mén)發(fā)不同密鑰誰(shuí)在用、用了多少一目了然數(shù)據(jù)不出門(mén)的安全承諾翻譯內(nèi)容全程在本地處理緩存也默認(rèn)存在內(nèi)存里敏感文本不會(huì)留下磁盤(pán)痕跡如果需要落盤(pán)緩存留意定期清理策略日志留痕服務(wù)日志記錄訪問(wèn)來(lái)源和請(qǐng)求時(shí)間配合密鑰使用出了問(wèn)題能倒查長(zhǎng)期維護(hù)離線系統(tǒng)也得定期體檢離線部署做完最容易被忽略的是后續(xù)更新。我的做法是每季度安排一次有網(wǎng)體檢在有網(wǎng)環(huán)境更新代碼和依賴重新pip download用python scripts/install_models.py --update拉取模型更新把更新的依賴目錄和模型目錄重新打包走一遍最初的拷貝流程這樣雖然麻煩但保證了翻譯質(zhì)量和安全補(bǔ)丁不會(huì)永久停更。另一個(gè)建議是給模型目錄和數(shù)據(jù)庫(kù)文件項(xiàng)目用 SQLite 存儲(chǔ) API 密鑰等數(shù)據(jù)默認(rèn)在db/目錄下做定時(shí)備份服務(wù)器故障時(shí)能快速還原。從一臺(tái)機(jī)器到一套服務(wù)接下來(lái)你可以這樣做如果你看完這篇記錄決定在自己的環(huán)境里也搭一套離線翻譯我的建議是別貪多先只裝中英互譯兩個(gè)模型把流程完整跑通確認(rèn)網(wǎng)頁(yè)能用、接口能調(diào)、拔網(wǎng)線還能翻再根據(jù)實(shí)際需求擴(kuò)充語(yǔ)言對(duì)。整個(gè)上手過(guò)程一個(gè)下午足夠。離線部署翻譯服務(wù)真正難的不是技術(shù)而是想清楚要什么、備齊所有干糧、按順序執(zhí)行這三件事。LibreTranslate 把最復(fù)雜的模型部分封裝成了簡(jiǎn)單的命令行參數(shù)剩下的就是用你的項(xiàng)目需求去駕馭它?，F(xiàn)在去找一臺(tái)能聯(lián)網(wǎng)的機(jī)器克隆代碼把模型和依賴打包好——你的第一套離線翻譯服務(wù)已經(jīng)在路上了。【免費(fèi)下載鏈接】LibreTranslateFree and Open Source Machine Translation API. Self-hosted, offline capable and easy to setup.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/li/LibreTranslate創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考