最近在復(fù)盤自己過(guò)去幾年做的AI項(xiàng)目突然想起最初看到“AI engineering from scratch”這個(gè)題目時(shí)的情景當(dāng)時(shí)我以為AI工程就是訓(xùn)練一個(gè)準(zhǔn)確率很高的模型結(jié)果被現(xiàn)實(shí)狠狠上了一課——模型跑通只是萬(wàn)里長(zhǎng)征第一步從數(shù)據(jù)收集到上線監(jiān)控每一個(gè)環(huán)節(jié)都能讓你崩潰。如果你也是從零開(kāi)始摸索AI工程這篇東西就是寫給你的它不教你怎么調(diào)一個(gè)神奇的網(wǎng)絡(luò)結(jié)構(gòu)而是告訴你一套完整的、可以落地執(zhí)行的工程方法論覆蓋數(shù)據(jù)管理、模型訓(xùn)練、部署上線和持續(xù)迭代讓你少走我當(dāng)年走過(guò)的那些彎路。很多人會(huì)把“AI工程”和“機(jī)器學(xué)習(xí)建?！被鞛橐徽?。建模是研究怎么提高模型在某個(gè)評(píng)測(cè)集上的分?jǐn)?shù)而AI工程是把模型變成一個(gè)穩(wěn)定、可靠、可維護(hù)、可演進(jìn)的產(chǎn)品。換句話說(shuō)建模是寫一篇論文AI工程是建一棟能住幾十年的房子。我見(jiàn)過(guò)太多團(tuán)隊(duì)包括早期的我自己把一個(gè)Jupyter Notebook里的高精度模型當(dāng)作交付物結(jié)果到了上線階段才發(fā)現(xiàn)數(shù)據(jù)管道是脆的、模型推理延遲太高、沒(méi)有監(jiān)控告警最后只好推倒重來(lái)。這篇文章的目標(biāo)就是幫你從一開(kāi)始就建立正確的工程思維同時(shí)給出具體的實(shí)操路徑。如果你是想轉(zhuǎn)行做AI工程師的學(xué)生或者已經(jīng)在做相關(guān)業(yè)務(wù)產(chǎn)品、想把模型落地成服務(wù)的從業(yè)者這篇內(nèi)容都適合你。我會(huì)按照一個(gè)真實(shí)的AI項(xiàng)目從零到一的過(guò)程拆解其中的核心環(huán)節(jié)并穿插大量我在實(shí)際項(xiàng)目中踩過(guò)的坑和總結(jié)的經(jīng)驗(yàn)。讀完之后你至少能自己規(guī)劃出一條從“寫代碼”到“上線穩(wěn)定服務(wù)”的完整路線。1. 先想清楚AI工程到底是什么1.1 從“訓(xùn)練一個(gè)模型”到“交付一個(gè)系統(tǒng)”所謂AI工程本質(zhì)上是軟件工程、數(shù)據(jù)工程和機(jī)器學(xué)習(xí)三者的交叉地帶。一個(gè)完整的AI系統(tǒng)不僅僅包括模型文件還包括數(shù)據(jù)采集與校驗(yàn)?zāi)K特征工程與數(shù)據(jù)處理流水線模型訓(xùn)練與評(píng)估框架模型部署與推理服務(wù)線上監(jiān)控與反饋閉環(huán)版本控制與實(shí)驗(yàn)管理系統(tǒng)我習(xí)慣用一個(gè)生活化的比喻訓(xùn)練模型就像學(xué)做一道菜你可以在家反復(fù)練習(xí)直到味道完美但AI工程是把這道菜開(kāi)成連鎖餐廳你需要考慮食材供應(yīng)鏈、廚房設(shè)備、廚師培訓(xùn)、出餐速度、品控標(biāo)準(zhǔn)、食品安全任何一個(gè)環(huán)節(jié)出錯(cuò)顧客都不會(huì)滿意。模型就是菜譜AI工程就是整個(gè)餐廳運(yùn)營(yíng)體系。因此從零開(kāi)始做AI工程第一步不是急著裝深度學(xué)習(xí)框架而是先建立系統(tǒng)思維。你可以問(wèn)自己幾個(gè)問(wèn)題我要解決什么問(wèn)題用戶是誰(shuí)數(shù)據(jù)從哪里來(lái)模型預(yù)測(cè)結(jié)果如何被使用如果模型錯(cuò)了會(huì)有什么后果這些問(wèn)題決定了你后續(xù)所有的技術(shù)選型。1.2 從零開(kāi)始需要補(bǔ)哪些基礎(chǔ)我見(jiàn)過(guò)很多新人一上來(lái)就學(xué)PyTorch、跑LeNet這本身沒(méi)錯(cuò)但如果想真正做AI工程還需要補(bǔ)足幾個(gè)容易被忽視的基礎(chǔ)Linux基礎(chǔ)大部分訓(xùn)練和部署環(huán)境都是Linux服務(wù)器你至少要熟悉Shell命令、文件權(quán)限、進(jìn)程管理、日志查看。否則連環(huán)境變量配置都會(huì)讓你頭疼半天。Python工程化能力不要只會(huì)寫腳本要學(xué)會(huì)模塊化組織代碼、使用虛擬環(huán)境管理依賴、寫單元測(cè)試。你的代碼將來(lái)是要被別人維護(hù)的。數(shù)據(jù)庫(kù)和SQL數(shù)據(jù)通常存在數(shù)據(jù)庫(kù)里能寫出高效的查詢、理解表結(jié)構(gòu)、做簡(jiǎn)單的數(shù)據(jù)聚合是數(shù)據(jù)工程的基本功。容器化與編排Docker是標(biāo)配Kubernetes逐漸成為企業(yè)級(jí)標(biāo)配。不需要精通但至少要理解鏡像、容器、端口映射這些概念。DevOps流程CI/CD、自動(dòng)化測(cè)試、監(jiān)控告警這些是保障AI服務(wù)穩(wěn)定性的基礎(chǔ)。當(dāng)然不是說(shuō)每一樣都要學(xué)透徹才能開(kāi)始而是當(dāng)你遇到某個(gè)瓶頸時(shí)知道該去補(bǔ)哪塊。從我個(gè)人的經(jīng)驗(yàn)看最快的學(xué)習(xí)路徑是“帶著問(wèn)題學(xué)”比如你發(fā)現(xiàn)換一臺(tái)機(jī)器就復(fù)現(xiàn)不了環(huán)境這時(shí)去學(xué)Docker你會(huì)記得特別牢。2. 搭建自己的第一個(gè)AI工程環(huán)境與工具鏈選型2.1 硬件與開(kāi)發(fā)環(huán)境的取舍很多人糾結(jié)“我沒(méi)有好的GPU怎么辦”。我的看法是如果只是學(xué)習(xí)用云GPU實(shí)例或者Colab完全足夠如果是做真實(shí)項(xiàng)目先確定你的訓(xùn)練數(shù)據(jù)量和模型規(guī)模再?zèng)Q定硬件投入。沒(méi)必要一上來(lái)就買幾萬(wàn)元的顯卡我見(jiàn)過(guò)不少項(xiàng)目用一張消費(fèi)級(jí)顯卡也能把模型訓(xùn)出來(lái)只是時(shí)間多花了一些而已。要特別注意軟件環(huán)境的復(fù)現(xiàn)性。我吃過(guò)最大的虧就是“在我機(jī)器上能跑在別人機(jī)器上不能跑”。后來(lái)強(qiáng)制自己使用conda或venv創(chuàng)建獨(dú)立環(huán)境并且把環(huán)境導(dǎo)出文件如environment.yml或requirements.txt提交到倉(cāng)庫(kù)。更規(guī)范的做法是使用Docker把整個(gè)環(huán)境打包成鏡像這樣不管是本地、測(cè)試機(jī)還是云端運(yùn)行環(huán)境完全一致。下面是我常用的一個(gè)環(huán)境準(zhǔn)備腳本片段以Ubuntu Miniconda為例# 安裝Miniconda wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh # 創(chuàng)建環(huán)境 conda create -n ai-project python3.10 -y conda activate ai-project # 安裝核心庫(kù) pip install numpy pandas scikit-learn matplotlib jupyter pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 將環(huán)境導(dǎo)出 conda env export environment.yml建議把所有與訓(xùn)練相關(guān)的依賴都固定版本號(hào)不要用“l(fā)atest”或“”這種模糊范圍否則下次安裝可能就變天了。我自己現(xiàn)在更傾向于在項(xiàng)目根目錄維護(hù)一個(gè)Makefile把環(huán)境創(chuàng)建、數(shù)據(jù)下載、訓(xùn)練、評(píng)估等命令都寫進(jìn)去實(shí)現(xiàn)一鍵執(zhí)行。2.2 依賴管理、版本控制與實(shí)驗(yàn)追蹤寫代碼不搞版本控制就像開(kāi)車不系安全帶。對(duì)于AI工程需要管好兩樣?xùn)|西代碼和實(shí)驗(yàn)。代碼用Git管理實(shí)驗(yàn)用專門的工具記錄。這里分享一個(gè)我踩過(guò)的坑早期我訓(xùn)練模型時(shí)手動(dòng)記錄超參數(shù)和結(jié)果到Excel結(jié)果有一次因?yàn)楸砀駴](méi)保存丟失了一周的實(shí)驗(yàn)數(shù)據(jù)徹底崩潰。后來(lái)我換成了MLflow把所有實(shí)驗(yàn)的配置、指標(biāo)、模型文件自動(dòng)記錄下來(lái)。MLflow的用法很簡(jiǎn)單先啟動(dòng)一個(gè)服務(wù)mlflow ui --host 0.0.0.0 --port 5000然后在訓(xùn)練代碼中加幾行import mlflow with mlflow.start_run(run_namebaseline-v1): mlflow.log_param(lr, 0.001) mlflow.log_param(batch_size, 32) mlflow.log_metric(val_acc, 0.89) mlflow.pytorch.log_model(model, model)這樣每次訓(xùn)練的細(xì)節(jié)都有據(jù)可查。不要把模型文件直接放到Git里除非是極小的demo用MLflow、WB或者DVC這類工具管理大文件。代碼和實(shí)驗(yàn)追蹤分開(kāi)各司其職這是AI工程的基本素養(yǎng)。數(shù)據(jù)版本管理同樣重要。如果數(shù)據(jù)集在不斷更新你需要知道模型是用哪個(gè)版本的數(shù)據(jù)訓(xùn)練的。最簡(jiǎn)單的做法是給數(shù)據(jù)文件加版本號(hào)或日期后綴或者用DVC對(duì)數(shù)據(jù)目錄做版本標(biāo)記。記住歐拉的名言“模型只是數(shù)據(jù)的影子”。數(shù)據(jù)變了模型的行為就變了。3. 數(shù)據(jù)是AI工程的地基數(shù)據(jù)采集、清洗與標(biāo)注3.1 獲取數(shù)據(jù)之前先定好評(píng)估指標(biāo)我發(fā)現(xiàn)很多項(xiàng)目都是先攢數(shù)據(jù)訓(xùn)了模型之后才想用什么指標(biāo)評(píng)估。這個(gè)順序很容易出問(wèn)題。正確的做法是在動(dòng)手做任何數(shù)據(jù)工作之前先和業(yè)務(wù)方一起明確模型要被用來(lái)做什么以及“表現(xiàn)好”的標(biāo)準(zhǔn)是什么。比如做一個(gè)電商評(píng)論情感分類模型業(yè)務(wù)方關(guān)注的是“負(fù)面評(píng)論被準(zhǔn)確識(shí)別的比例”那評(píng)估指標(biāo)就應(yīng)該重點(diǎn)看Precision、Recall或F1而不是Accuracy。如果只關(guān)注Accuracy當(dāng)數(shù)據(jù)集中90%是正面評(píng)論時(shí)你就算把所有評(píng)論都判為正面也有90%的準(zhǔn)確率但這個(gè)模型毫無(wú)用處。這就是類別不平衡帶來(lái)的陷阱。定好指標(biāo)之后還要?jiǎng)澐謹(jǐn)?shù)據(jù)集。我會(huì)把數(shù)據(jù)分成訓(xùn)練集、驗(yàn)證集和測(cè)試集有時(shí)候還需要一個(gè)“擊敗驗(yàn)證集”的最終測(cè)試集。注意訓(xùn)練集、驗(yàn)證集、測(cè)試集的分布要盡可能一致而且不能有數(shù)據(jù)泄漏。例如如果你在做時(shí)間序列預(yù)測(cè)就不能隨機(jī)劃分必須按照時(shí)間順序切分否則等于“偷看未來(lái)”。3.2 數(shù)據(jù)清洗中的常見(jiàn)坑拿到數(shù)據(jù)后第一件事不是建模而是做基礎(chǔ)統(tǒng)計(jì)和可視化。我通常會(huì)用pandas先看一眼import pandas as pd df pd.read_csv(comments.csv) print(df.head()) print(df.info()) print(df.describe()) print(df.isnull().sum())這一步能發(fā)現(xiàn)很多問(wèn)題字段缺失、類型異常、明顯越界的值、重復(fù)記錄等。清洗數(shù)據(jù)最耗時(shí)間但絕對(duì)不能省。我總結(jié)幾個(gè)高頻坑文本數(shù)據(jù)的編碼問(wèn)題中文文本經(jīng)常出現(xiàn)各種亂碼或特殊字符統(tǒng)一轉(zhuǎn)成UTF-8必要時(shí)用工具清理HTML標(biāo)簽、表情符號(hào)保留情感信息時(shí)另說(shuō)。時(shí)間字段的時(shí)區(qū)與格式很多數(shù)據(jù)里的時(shí)間是字符串而不是datetime對(duì)象不同來(lái)源格式還不一樣需要統(tǒng)一標(biāo)準(zhǔn)化。異常值處理比如用戶年齡寫成999這在數(shù)據(jù)錄入錯(cuò)誤中很常見(jiàn)。要根據(jù)業(yè)務(wù)范圍做合理性過(guò)濾。去重策略有些重復(fù)是正常的比如同一用戶多次購(gòu)買有些重復(fù)是垃圾比如爬蟲(chóng)抓取的重疊頁(yè)。一定要想清楚去重的邏輯不要一刀切。清洗后的數(shù)據(jù)不要直接覆蓋原文件保留一份原始數(shù)據(jù)和一份清洗后的副本并寫好清洗腳本方便以后復(fù)現(xiàn)。一個(gè)常見(jiàn)誤解是“數(shù)據(jù)越多越好”但低質(zhì)量的數(shù)據(jù)只會(huì)讓模型學(xué)習(xí)到更多噪聲。我習(xí)慣在清洗后先抽樣幾十條人工查看一下確認(rèn)沒(méi)有明顯錯(cuò)誤再繼續(xù)。3.3 標(biāo)注質(zhì)量的檢查與迭代如果你是做監(jiān)督學(xué)習(xí)標(biāo)注數(shù)據(jù)是繞不開(kāi)的環(huán)節(jié)。自己做標(biāo)注當(dāng)然可以但量大時(shí)效率太低。很多項(xiàng)目會(huì)外包給標(biāo)注平臺(tái)這就要特別注意標(biāo)注質(zhì)量。我遇到過(guò)標(biāo)注員因?yàn)槠诎选爱嬅婺：睒?biāo)成“畫面清晰”導(dǎo)致模型怎么訓(xùn)都效果差?？刂茦?biāo)注質(zhì)量有幾個(gè)實(shí)用手段在標(biāo)注任務(wù)里隨機(jī)插入“黃金樣本”已經(jīng)有了標(biāo)準(zhǔn)答案標(biāo)注員做這些樣本時(shí)如果錯(cuò)誤率超過(guò)閾值就說(shuō)明他的標(biāo)注需要復(fù)核。多人標(biāo)注計(jì)算一致性指標(biāo)如Cohens Kappa一般要求超過(guò)0.8才算可信。定期抽檢比如每天從新標(biāo)注的數(shù)據(jù)里抽5%做二次審核。標(biāo)注指南也不能太模糊。比如“判斷評(píng)論是否包含人身攻擊”你要先定義什么是人身攻擊是包含粗俗詞匯就算還是要有特定指向我建議把常見(jiàn)邊界案例寫在指南里和標(biāo)注團(tuán)隊(duì)保持溝通邊標(biāo)邊迭代不斷補(bǔ)充規(guī)則。4. 模型訓(xùn)練與調(diào)優(yōu)不是跑通就行4.1 基線模型的重要性很多新手一上來(lái)就跑復(fù)雜的深度模型結(jié)果把問(wèn)題搞復(fù)雜反而找不到突破口。我的習(xí)慣是先寫一個(gè)最簡(jiǎn)單的規(guī)則或線性模型作為基線比如用邏輯回歸或者TF-IDF樸素貝葉斯做文本分類。這個(gè)基線不需要多好關(guān)鍵在于驗(yàn)證整個(gè)訓(xùn)練和評(píng)估流程是通的給后續(xù)復(fù)雜模型提供一個(gè)對(duì)比的基準(zhǔn)幫助判斷復(fù)雜模型的優(yōu)勢(shì)到底體現(xiàn)在哪有一次我在一個(gè)圖像分類項(xiàng)目里直接上了ResNet但效果一直很差后來(lái)退回一個(gè)簡(jiǎn)單的色彩閾值規(guī)則才發(fā)現(xiàn)是數(shù)據(jù)的標(biāo)簽對(duì)齊出了問(wèn)題與模型復(fù)雜度無(wú)關(guān)。如果沒(méi)有基線你很難定位問(wèn)題是在模型、數(shù)據(jù)還是流程上。4.2 從過(guò)擬合到泛化驗(yàn)證集、交叉驗(yàn)證與正則化訓(xùn)練過(guò)程中的心路歷程通常是訓(xùn)練集loss下降驗(yàn)證集loss先降后升這就是過(guò)擬合的開(kāi)始。當(dāng)你發(fā)現(xiàn)訓(xùn)練準(zhǔn)確率遠(yuǎn)高于驗(yàn)證準(zhǔn)確率時(shí)基本可以斷定模型“背答案”了。解決過(guò)擬合的方法很多我按優(yōu)先級(jí)排列增加數(shù)據(jù)最有效的辦法但也是最昂貴的。數(shù)據(jù)增強(qiáng)圖像可以裁剪、旋轉(zhuǎn)、顏色抖動(dòng)文本可以用同義詞替換、回譯等。注意增強(qiáng)方式要符合業(yè)務(wù)邏輯比如醫(yī)療影像不能隨意翻轉(zhuǎn)。減少模型容量減少層數(shù)或參數(shù)數(shù)。正則化L1/L2正則化、Dropout、Early Stopping。集成學(xué)習(xí)多個(gè)模型投票或平均能顯著提升泛化能力。交叉驗(yàn)證在數(shù)據(jù)量較少時(shí)特別重要。比如用5折交叉驗(yàn)證能更穩(wěn)定地評(píng)估模型表現(xiàn)而不是只依賴一次隨機(jī)的數(shù)據(jù)劃分。我之前在一個(gè)回歸任務(wù)上單次劃分的驗(yàn)證分?jǐn)?shù)時(shí)高時(shí)低換成5折交叉驗(yàn)證后發(fā)現(xiàn)其實(shí)不同劃分的穩(wěn)定性比想象中差很多也幫我找到了一些容易受數(shù)據(jù)擾動(dòng)影響的特征。4.3 超參數(shù)調(diào)優(yōu)的實(shí)操策略深度學(xué)習(xí)模型的超參數(shù)包括學(xué)習(xí)率、batch size、優(yōu)化器、層數(shù)、隱藏層維度、dropout比率等。盲目用網(wǎng)格搜索非常低效。我常用的路徑是先固定一個(gè)較小的模型和數(shù)據(jù)量在訓(xùn)練能收斂的前提下將默認(rèn)超參數(shù)跑通一遍。用學(xué)習(xí)率掃描learning rate finder找到合理的范圍。很多庫(kù)都支持自動(dòng)學(xué)習(xí)率搜索比如PyTorch的torch.optim.lr_scheduler配合逐步調(diào)大學(xué)習(xí)率的實(shí)驗(yàn)。用貝葉斯優(yōu)化或Hyperband工具如Optuna進(jìn)行自動(dòng)調(diào)參能省很多時(shí)間。強(qiáng)調(diào)一點(diǎn)調(diào)參時(shí)每次只改變一個(gè)變量并記錄實(shí)驗(yàn)結(jié)果。這是最樸素但最有效的原則。同時(shí)最終模型的確定不能只看驗(yàn)證集分?jǐn)?shù)還要考慮推理速度、顯存占用以及實(shí)際業(yè)務(wù)場(chǎng)景的約束。一個(gè)FLOPs很高的模型即便準(zhǔn)確率更高如果線上機(jī)器跑不動(dòng)也是白搭。5. 部署上線與模型服務(wù)化讓模型真正跑起來(lái)5.1 離線推理與在線推理的選擇當(dāng)模型訓(xùn)練好之后你需要把它集成到業(yè)務(wù)系統(tǒng)中。這時(shí)有兩種典型的部署模式離線推理批量預(yù)測(cè)定時(shí)運(yùn)行任務(wù)對(duì)一批數(shù)據(jù)進(jìn)行預(yù)測(cè)結(jié)果寫入數(shù)據(jù)庫(kù)或文件。適用于推薦召回、用戶分群、風(fēng)控批量審核等場(chǎng)景。在線推理實(shí)時(shí)預(yù)測(cè)用戶請(qǐng)求觸發(fā)預(yù)測(cè)毫秒級(jí)返回結(jié)果。適用于語(yǔ)音識(shí)別、實(shí)時(shí)推薦、在線翻譯等。選擇哪種模式并不完全取決于業(yè)務(wù)類型很多時(shí)候同一個(gè)模型會(huì)同時(shí)用于離線和在線。比如初期數(shù)據(jù)量不大、實(shí)時(shí)性要求不高時(shí)可以先用離線推理每天算一次結(jié)果存入Redis或數(shù)據(jù)庫(kù)線上直接讀取即可這樣實(shí)現(xiàn)簡(jiǎn)單且成本低。當(dāng)業(yè)務(wù)量增長(zhǎng)、需要個(gè)性化時(shí)再升級(jí)為在線推理服務(wù)。5.2 API服務(wù)的容器化部署把模型封裝成REST API是最常見(jiàn)的交付形式。最簡(jiǎn)單的方案是使用FastAPI或Flask加載模型然后提供接口。示例如下from fastapi import FastAPI from pydantic import BaseModel import joblib app FastAPI() model joblib.load(model.pkl) class PredictRequest(BaseModel): text: str app.post(/predict) def predict(req: PredictRequest): prob model.predict_proba([req.text])[0] return {prob: prob.tolist()}這里有幾個(gè)工程細(xì)節(jié)需要注意模型加載時(shí)機(jī)在啟動(dòng)時(shí)加載一次不要每次請(qǐng)求都加載模型否則會(huì)非常慢。并發(fā)安全如果模型是PyTorch或TensorFlow的部署時(shí)注意線程安全和GPU上下文的問(wèn)題?？梢允褂靡粋€(gè)推理實(shí)例池或者加鎖。輸入校驗(yàn)接口要對(duì)輸入做格式校驗(yàn)避免臟數(shù)據(jù)直接進(jìn)模型導(dǎo)致異常。超時(shí)與重試給模型推理設(shè)置超時(shí)時(shí)間否則萬(wàn)一推理卡死整個(gè)服務(wù)就癱瘓了。容器化部署是標(biāo)配。我通常寫一個(gè)Dockerfile內(nèi)容大致如下FROM python:3.10-slim WORKDIR /app COPY requirements.txt . RUN pip install --no-cache-dir -r requirements.txt COPY . . CMD [uvicorn, main:app, --host, 0.0.0.0, --port, 8000]然后用docker build -t my-ai-api .構(gòu)建鏡像再跑起來(lái)docker run -p 8000:8000 -d my-ai-api如果服務(wù)要長(zhǎng)期運(yùn)行建議引入Kubernetes但對(duì)初學(xué)者來(lái)說(shuō)先用Docker Compose管理幾個(gè)容器就夠了。把Nginx放在前面做反向代理和負(fù)載均衡再配合云平臺(tái)的負(fù)載均衡器基本能支撐小到中等規(guī)模的流量。5.3 性能優(yōu)化與壓測(cè)上線前必須做性能壓測(cè)不要憑感覺(jué)。用Locust、wrk或者JMeter模擬真實(shí)并發(fā)請(qǐng)求觀察服務(wù)的響應(yīng)時(shí)間和吞吐量。我之前有一個(gè)模型推理服務(wù)單次推理需要300毫秒看起來(lái)很快但壓測(cè)時(shí)發(fā)現(xiàn)一秒只能處理不到20個(gè)請(qǐng)求原因是沒(méi)有利用GPU并行、每次請(qǐng)求都重新分配內(nèi)存。后來(lái)用批量推理加緩存優(yōu)化吞吐量提升了近5倍。性能優(yōu)化常用手段模型量化把32位浮點(diǎn)數(shù)量化成16位或8位可以顯著減少顯存占用和推理時(shí)間精度損失通常在1%-3%之間。導(dǎo)出為優(yōu)化格式PyTorch模型導(dǎo)出為TorchScript或ONNX用ONNX Runtime推理比原生PyTorch快很多。利用ONNX Runtime / TensorRT對(duì)于部署到NVIDIA GPU的場(chǎng)景TensorRT效果很好但需要做適配。Batching在同一批次里處理多個(gè)請(qǐng)求GPU利用率會(huì)顯著提升。但要注意設(shè)置的batch大小不能太大否則單個(gè)請(qǐng)求的等待時(shí)間變長(zhǎng)。緩存高頻結(jié)果對(duì)于重復(fù)的查詢?nèi)鐭衢T商品推薦結(jié)果用Redis緩存可以省掉大量模型推理。還有一個(gè)容易被忽略的點(diǎn)監(jiān)控推理服務(wù)的資源使用情況。CPU、內(nèi)存、GPU使用率、延遲、錯(cuò)誤率這些指標(biāo)都要用Prometheus Grafana做一個(gè)簡(jiǎn)單的監(jiān)控面板出現(xiàn)問(wèn)題能第一時(shí)間發(fā)現(xiàn)。6. 監(jiān)控、反饋與持續(xù)迭代AI工程的閉環(huán)6.1 模型漂移與數(shù)據(jù)漂移的檢測(cè)很多AI系統(tǒng)上線后看起來(lái)“一切正?！钡肽旰髽I(yè)務(wù)方突然反饋效果變差了。原因往往是數(shù)據(jù)發(fā)生了變化而模型沒(méi)有跟上。這就是數(shù)據(jù)漂移和數(shù)據(jù)漂移在作祟。數(shù)據(jù)漂移輸入數(shù)據(jù)分布與訓(xùn)練數(shù)據(jù)分布不一致。比如你訓(xùn)練時(shí)用戶多在白天活躍上線后夜間用戶暴增數(shù)據(jù)分布就變了。概念漂移輸入和輸出之間的關(guān)系變了。比如一個(gè)垃圾郵件分類器垃圾郵件的內(nèi)容和手法在持續(xù)變化“垃圾”的定義也在變。檢測(cè)漂移的常用方法是比較統(tǒng)計(jì)量比如對(duì)每個(gè)特征計(jì)算分布差異KS檢驗(yàn)、PSI等。我自己常用一個(gè)最樸素的方法持續(xù)記錄線上請(qǐng)求中的特征分布繪制分布變化圖如果和訓(xùn)練分布明顯偏離就觸發(fā)告警。負(fù)責(zé)任的做法是在生產(chǎn)環(huán)境中埋點(diǎn)將每個(gè)預(yù)測(cè)請(qǐng)求的輸入特征和輸出概率記錄下來(lái)存入日志或數(shù)據(jù)倉(cāng)庫(kù)后續(xù)做分析和重訓(xùn)都能用到。另外要監(jiān)控預(yù)測(cè)結(jié)果本身是否異常。比如某個(gè)類別出現(xiàn)的頻率忽然飆升或者模型的平均置信度持續(xù)下降這些都可能意味著模型需要重新訓(xùn)練了。6.2 建立反饋回路與自動(dòng)重訓(xùn)AI模型天然需要“數(shù)據(jù)飛輪”模型上線后產(chǎn)生的用戶行為數(shù)據(jù)經(jīng)過(guò)標(biāo)注和處理后再訓(xùn)練進(jìn)入下一代模型。這個(gè)閉環(huán)在業(yè)務(wù)中越早建設(shè)越好。具體做法分幾個(gè)階段首先是人工定期重訓(xùn)每隔一周或一個(gè)月把線上收集的數(shù)據(jù)和舊數(shù)據(jù)合并重新訓(xùn)練并評(píng)估若無(wú)回退則上線新模型。然后是基于質(zhì)量指標(biāo)觸發(fā)重訓(xùn)當(dāng)監(jiān)控指標(biāo)比如用戶反饋率、預(yù)測(cè)置信度、業(yè)務(wù)轉(zhuǎn)化率低于閾值時(shí)自動(dòng)觸發(fā)重訓(xùn)流水線。最后是在線學(xué)習(xí)雖然很多場(chǎng)景難以實(shí)現(xiàn)真正的在線學(xué)習(xí)但可以通過(guò)定期更新模型參數(shù)來(lái)近似實(shí)現(xiàn)這個(gè)對(duì)工程要求高初期不建議直接上。自動(dòng)重訓(xùn)練最需要注意的是“同樣的錯(cuò)誤不要重復(fù)學(xué)”。如果線上模型犯了錯(cuò)你必須把那些錯(cuò)誤樣本重點(diǎn)加入訓(xùn)練集否則模型很可能繼續(xù)錯(cuò)下去。我習(xí)慣在反饋回路里增加“難例挖掘”環(huán)節(jié)專門挑選模型預(yù)測(cè)錯(cuò)誤或置信度不高的樣本由人工標(biāo)注后做針對(duì)性訓(xùn)練。這比隨機(jī)補(bǔ)充數(shù)據(jù)的效果好很多。另外模型版本管理在持續(xù)迭代中非常重要。每次重新訓(xùn)練之后要經(jīng)歷一個(gè)“影子模式”階段把新模型和舊模型同時(shí)跑但新模型的輸出只用于比對(duì)不直接對(duì)外。對(duì)比一段時(shí)間后如果新模型確實(shí)更優(yōu)再通過(guò)灰度發(fā)布逐步放量。這個(gè)流程可以避免很多上線翻車事故。7. 常見(jiàn)問(wèn)題與避坑指南7.1 新手最常踩的7個(gè)坑我把這幾年見(jiàn)過(guò)的典型問(wèn)題整理成一個(gè)表方便你對(duì)照自查坑表現(xiàn)解決方案數(shù)據(jù)泄漏驗(yàn)證分?jǐn)?shù)極高上線效果崩嚴(yán)格按時(shí)間或ID劃分?jǐn)?shù)據(jù)集檢查是否存在“未來(lái)信息”樣本不平衡模型總是預(yù)測(cè)多數(shù)類使用加權(quán)損失、過(guò)采樣/欠采樣、或改成二分類閾值調(diào)整模型沒(méi)有基線對(duì)比不知道復(fù)雜模型好在哪里先寫規(guī)則/線性基線再做復(fù)雜模型環(huán)境不固定換機(jī)器跑不出同樣結(jié)果用Docker或conda鎖定環(huán)境版本線上和離線特征不一致線上預(yù)測(cè)效果遠(yuǎn)差于離線評(píng)估在訓(xùn)練時(shí)記錄特征管線線上復(fù)用同一套邏輯只關(guān)注準(zhǔn)確率模型實(shí)際業(yè)務(wù)價(jià)值不高和業(yè)務(wù)方定義好核心指標(biāo)如召回率、轉(zhuǎn)化率、延遲等沒(méi)有監(jiān)控告警模型效果下降很久才發(fā)現(xiàn)部署時(shí)同時(shí)部署監(jiān)控與告警注冊(cè)業(yè)務(wù)和性能指標(biāo)7.2 關(guān)于“從零開(kāi)始”的幾點(diǎn)心得最后基于我個(gè)人的經(jīng)歷想分享幾句掏心窩子的話。AI工程這條路門檻確實(shí)存在但它不是靠數(shù)學(xué)而是靠工程實(shí)踐堆積起來(lái)的。我見(jiàn)過(guò)數(shù)學(xué)功底非常好的同學(xué)因?yàn)椴蛔⒅財(cái)?shù)據(jù)清潔和版本管理做出的模型一塌糊涂也見(jiàn)過(guò)非科班背景的朋友靠著一個(gè)一個(gè)項(xiàng)目踏實(shí)補(bǔ)短板最后成為團(tuán)隊(duì)里最能扛事的AI工程師。如果你真的決定從零開(kāi)始我建議給自己規(guī)劃一個(gè)“最小完整項(xiàng)目”比如從網(wǎng)上爬一批數(shù)據(jù)做一個(gè)文本分類或圖像識(shí)別任務(wù)然后完整地走一遍本文所講的流程——數(shù)據(jù)清洗、實(shí)驗(yàn)追蹤、模型調(diào)優(yōu)、Docker部署、監(jiān)控告警。不要覺(jué)得這些工具很繁瑣它們就是AI工程這座大廈里的鋼筋水泥。等你把這樣一個(gè)小項(xiàng)目完整地跑通一遍再回頭看各種概念就會(huì)有一種“原來(lái)如此”的透亮感。還有一個(gè)小技巧每次在你自己的項(xiàng)目里遇到問(wèn)題把它和解決方案記錄下來(lái)。我會(huì)習(xí)慣性地在一個(gè)docs文件夾里保存“故障日志”記下日期、現(xiàn)象、排查過(guò)程、最終解決方式。幾個(gè)月后你會(huì)發(fā)現(xiàn)這些記錄比任何教程都珍貴因?yàn)樗米吡四悴冗^(guò)的每一塊石頭。AI工程不是一次性的項(xiàng)目的交付而是一輩子和不確定性共舞的能力這種能力都是從一次次的“從零開(kāi)始”里長(zhǎng)出來(lái)的。