1. 為什么這8個問題成了LLM面試的硬門檻面過幾十個LLM方向的候選人之后我越來越確信一件事這個領(lǐng)域的面試已經(jīng)過了“你會不會調(diào)API”的階段?，F(xiàn)在面試官拋出的問題幾乎全部指向同一個核心——你到底有沒有真正理解過大模型內(nèi)部在發(fā)生什么。標(biāo)題里說的“答不上來直接淘汰”聽起來有點(diǎn)狠但站在面試官的角度想想一個連Tokenization和Embedding區(qū)別都說不清的人你怎么放心讓他去調(diào)Prompt、做RAG、搭A(yù)gent這篇文章的由來是我最近幫團(tuán)隊(duì)整理面試題庫時(shí)把過去一年問過的、真正能區(qū)分候選人水平的問題做了系統(tǒng)梳理。最終收斂到8個方向Transformer架構(gòu)理解、Tokenization機(jī)制、Embedding原理與應(yīng)用、注意力機(jī)制細(xì)節(jié)、Function Calling設(shè)計(jì)、模型微調(diào)策略、推理優(yōu)化、以及幻覺與可靠性問題。這8個問題覆蓋了從底層原理到工程落地的完整鏈路任何一個答不上來基本可以判斷候選人在這個方向上缺乏深度實(shí)踐。適合誰來讀如果你正在準(zhǔn)備LLM方向的面試不管是算法崗還是應(yīng)用工程崗這篇內(nèi)容可以當(dāng)作一份自檢清單。如果你是面試官也可以直接拿去用每個問題我都附上了“及格線”和“加分項(xiàng)”的區(qū)分標(biāo)準(zhǔn)。如果你只是對LLM感興趣的技術(shù)人這里面的原理拆解和實(shí)操經(jīng)驗(yàn)同樣能幫你建立起一套完整的認(rèn)知框架。下面我逐個拆解每個問題都會說清楚面試官到底想考什么、你應(yīng)該怎么回答、以及我在實(shí)際面試中見過的典型翻車現(xiàn)場。2. Transformer架構(gòu)不只是“Attention is All You Need”2.1 面試官真正想考的是什么“介紹一下Transformer”這個問題幾乎每場面試都會出現(xiàn)。但面試官想聽的絕對不是你把論文摘要背一遍。我通常會在候選人講完標(biāo)準(zhǔn)答案之后追問三個問題為什么用LayerNorm而不是BatchNorm為什么是多頭而不是單頭位置編碼為什么用正弦函數(shù)而不是可學(xué)習(xí)參數(shù)這三個追問能直接區(qū)分出“看過論文”和“真正理解設(shè)計(jì)動機(jī)”的人。大部分候選人能說出“多頭可以捕捉不同子空間的特征”但當(dāng)我問“那為什么不是越多頭越好”時(shí)就卡住了。實(shí)際上頭的數(shù)量受限于d_model每個頭的維度是d_model / h頭太多會導(dǎo)致每個頭的維度太小表達(dá)能力反而下降。這個細(xì)節(jié)在原始論文里沒有明說但在實(shí)際調(diào)參時(shí)非常關(guān)鍵。2.2 編碼器與解碼器的結(jié)構(gòu)差異很多人把Transformer當(dāng)成一個整體來講但面試中你需要清晰地拆開說。編碼器是雙向注意力每個位置可以看到全序列解碼器是因果注意力每個位置只能看到自己和之前的位置。這個差異直接決定了它們適合的任務(wù)類型。我一般會這樣解釋編碼器像一個“全局審閱者”它需要看到完整上下文才能理解每個詞的含義適合分類、抽取、Embedding生成等任務(wù)。解碼器像一個“逐字寫作的人”它只能基于已寫的內(nèi)容決定下一個詞適合文本生成。而Encoder-Decoder結(jié)構(gòu)比如T5、BART則是“先讀懂再寫”適合翻譯、摘要這類需要理解輸入再生成輸出的任務(wù)。實(shí)際面試中我會讓候選人畫一下三種結(jié)構(gòu)的注意力矩陣形狀。這個看似簡單的問題能直接暴露對方是否真正動手實(shí)現(xiàn)過Transformer。2.3 殘差連接與層歸一化的工程考量殘差連接看起來簡單但它在深層Transformer中的作用遠(yuǎn)超“防止梯度消失”。我試過在24層以上的模型中移除殘差連接訓(xùn)練直接崩掉loss完全不下降。原因是殘差連接保證了梯度可以繞過非線性變換直接回傳這對于深層網(wǎng)絡(luò)的穩(wěn)定訓(xùn)練是必須的。LayerNorm的位置也有講究。原始論文用的是Post-LN先做注意力/FFN再歸一化但后來GPT-2開始改用Pre-LN先歸一化再做注意力/FFN。Pre-LN的訓(xùn)練更穩(wěn)定不需要warmup就能收斂但最終效果可能略遜于精心調(diào)參的Post-LN。這個取舍在實(shí)際項(xiàng)目中非常實(shí)用——如果你訓(xùn)練資源有限Pre-LN是更安全的選擇。實(shí)操心得如果你在面試中被問到“訓(xùn)練不收斂怎么辦”優(yōu)先檢查LayerNorm的位置和初始化方式。我踩過的坑是Post-LN結(jié)構(gòu)下如果不做learning rate warmup前幾千步的梯度范數(shù)會爆炸。2.4 位置編碼的選型邏輯正弦位置編碼的優(yōu)勢在于它可以外推到訓(xùn)練時(shí)沒見過的序列長度。但在實(shí)際使用中外推效果往往不如預(yù)期。后來RoPE旋轉(zhuǎn)位置編碼成為主流因?yàn)樗ㄟ^旋轉(zhuǎn)矩陣編碼相對位置信息在長序列上表現(xiàn)更好?，F(xiàn)在很多開源模型LLaMA、Qwen等都用RoPE。面試中如果候選人能說出“RoPE通過絕對位置編碼的方式實(shí)現(xiàn)了相對位置編碼的效果”我會給加分。如果再能解釋清楚RoPE的遠(yuǎn)程衰減特性——即隨著距離增大注意力分?jǐn)?shù)自然衰減——那就是資深級別的理解了。3. Tokenization大模型的第一道關(guān)卡3.1 為什么Tokenization值得單獨(dú)問很多人覺得Tokenization只是預(yù)處理不重要。但實(shí)際項(xiàng)目中Tokenization直接影響到模型的效果、推理成本、甚至多語言能力。我見過一個真實(shí)案例某個團(tuán)隊(duì)做中文法律文書摘要模型效果一直不好排查了很久才發(fā)現(xiàn)是Tokenizer把很多法律術(shù)語切碎了導(dǎo)致模型根本學(xué)不到完整的術(shù)語表示。面試中我會問“BPE、WordPiece、SentencePiece有什么區(qū)別各自適合什么場景”這個問題能直接看出候選人有沒有處理過真實(shí)數(shù)據(jù)。3.2 BPE、WordPiece與SentencePiece的核心差異BPEByte Pair Encoding的思路是從字符開始不斷合并出現(xiàn)頻率最高的相鄰對。它的優(yōu)點(diǎn)是簡單、通用缺點(diǎn)是合并規(guī)則是基于頻率的可能產(chǎn)生不合理的子詞。GPT系列用的是BPE的變體。WordPiece是BERT用的方法它和BPE的區(qū)別在于BPE選頻率最高的對WordPiece選能最大化語言模型似然的對。實(shí)際效果上WordPiece更傾向于產(chǎn)生有語言學(xué)意義的子詞。SentencePiece的最大特點(diǎn)是它把輸入當(dāng)作原始字節(jié)流處理不依賴空格分詞。這對中文、日文等沒有空格分隔的語言非常重要。LLaMA系列用的就是SentencePiece。方法核心思路代表模型適合場景BPE合并最高頻相鄰對GPT系列英文為主通用場景WordPiece最大化語言模型似然BERT需要語言學(xué)合理性SentencePiece字節(jié)流處理不依賴空格LLaMA、T5多語言、中文場景3.3 詞表大小的取舍詞表大小是一個經(jīng)典的工程取舍。詞表太小一個詞被切成很多token序列變長推理變慢詞表太大Embedding矩陣參數(shù)量增加低頻詞訓(xùn)練不充分。常見的詞表大小在32K到128K之間。LLaMA-2用的是32K而一些中文模型會擴(kuò)展到64K甚至100K。我在實(shí)際項(xiàng)目中的經(jīng)驗(yàn)是如果你的應(yīng)用場景以中文為主詞表至少要到50K以上否則很多常用詞會被切碎。你可以用一個簡單的方法驗(yàn)證拿一批業(yè)務(wù)數(shù)據(jù)統(tǒng)計(jì)平均每個詞被切成幾個token。如果超過2個說明詞表可能偏小。3.4 特殊Token的設(shè)計(jì)與使用面試中很少有人主動提到特殊Token但這恰恰是實(shí)際工程中容易出問題的地方。[CLS]、[SEP]、[PAD]、[UNK]這些是基礎(chǔ)但在對話模型中|system|、|user|、|assistant|這些角色標(biāo)記的設(shè)計(jì)直接影響模型的行為。我踩過的一個坑在微調(diào)對話模型時(shí)沒有正確設(shè)置|assistant|標(biāo)記的loss mask導(dǎo)致模型把用戶的問題也當(dāng)作需要生成的內(nèi)容來學(xué)習(xí)結(jié)果模型開始“自問自答”。正確的做法是只在assistant回復(fù)的部分計(jì)算loss其他部分mask掉。注意事項(xiàng)不同模型的特殊Token不同做微調(diào)時(shí)一定要查清楚基座模型的Token配置。用錯Token會導(dǎo)致模型行為完全異常而且很難排查。4. Embedding從詞向量到語義搜索的基石4.1 Embedding的本質(zhì)是什么Embedding就是把離散的符號映射到連續(xù)的向量空間。但面試中我會追問“為什么Embedding能表達(dá)語義相似性”這個問題的核心在于分布式假設(shè)出現(xiàn)在相似上下文中的詞含義相似。訓(xùn)練過程中模型通過預(yù)測上下文任務(wù)自然地把語義相近的詞推到一起。但要注意Transformer產(chǎn)生的Embedding和Word2Vec的Embedding有本質(zhì)區(qū)別。Word2Vec是靜態(tài)的每個詞只有一個向量Transformer是動態(tài)的同一個詞在不同上下文中會有不同的向量。這就是為什么BERT的Embedding在語義任務(wù)上遠(yuǎn)優(yōu)于Word2Vec。4.2 如何選擇Embedding模型現(xiàn)在Embedding模型排行上常見的選項(xiàng)包括OpenAI的text-embedding-3系列、BGE系列、GTE系列、E5系列等。選擇時(shí)需要考慮幾個維度維度大小、最大輸入長度、多語言支持、推理速度、以及是否支持指令前綴。我的經(jīng)驗(yàn)是如果做中文語義搜索BGE-large-zh-v1.5是一個很穩(wěn)的選擇維度1024最大長度512。如果需要多語言BGE-M3支持100語言而且同時(shí)支持稠密檢索、稀疏檢索和多向量檢索。如果追求極致速度可以用BGE-small或GTE-small維度降到384或512效果下降在可接受范圍內(nèi)。模型維度最大長度多語言適合場景BGE-large-zh1024512中文中文語義搜索BGE-M310248192100多語言、長文本GTE-large1024512英文為主英文語義搜索text-embedding-3-small15368191多語言通用場景4.3 向量檢索的實(shí)操細(xì)節(jié)拿到Embedding之后下一步是向量檢索。很多人直接用余弦相似度做暴力搜索數(shù)據(jù)量小的時(shí)候沒問題但超過10萬條就需要用近似最近鄰ANN算法。常用的庫包括Faiss、Annoy、HNSW等。我實(shí)測下來HNSW在召回率和速度之間平衡得最好。關(guān)鍵參數(shù)是M每個節(jié)點(diǎn)的連接數(shù)和efConstruction構(gòu)建時(shí)的搜索深度。M越大召回率越高但內(nèi)存占用也越大。一般M設(shè)為16-64efConstruction設(shè)為100-200。還有一個容易忽略的點(diǎn)歸一化。如果你用余弦相似度一定要先把向量歸一化到單位長度否則內(nèi)積和余弦相似度不等價(jià)。我見過有人忘了歸一化導(dǎo)致檢索結(jié)果完全不對。4.4 Embedding微調(diào)的必要性與方法通用Embedding模型在垂直領(lǐng)域往往表現(xiàn)不佳。比如醫(yī)療、法律、金融這些領(lǐng)域術(shù)語的語義和通用領(lǐng)域差異很大。這時(shí)候就需要微調(diào)Embedding模型。微調(diào)Embedding通常用對比學(xué)習(xí)構(gòu)造正樣本對語義相似的句子和負(fù)樣本對語義不相似的句子用InfoNCE損失訓(xùn)練。正樣本可以從業(yè)務(wù)數(shù)據(jù)中挖掘比如同一篇文檔的不同段落、同一問題的不同表述。負(fù)樣本可以用in-batch negatives即同一個batch內(nèi)其他樣本作為負(fù)例。我做過一個法律領(lǐng)域的Embedding微調(diào)用2000對法律問答數(shù)據(jù)訓(xùn)練了3個epoch檢索準(zhǔn)確率從62%提升到了81%。數(shù)據(jù)量不需要很大但質(zhì)量一定要高。5. 注意力機(jī)制面試中的分水嶺5.1 自注意力的計(jì)算過程自注意力的核心公式是Attention(Q, K, V) softmax(QK^T / sqrt(d_k)) V。面試中我會讓候選人逐步解釋這個公式的每個部分。QK^T計(jì)算的是每對位置之間的相似度除以sqrt(d_k)是為了防止點(diǎn)積過大導(dǎo)致softmax梯度消失softmax把相似度轉(zhuǎn)成概率分布最后用這些概率對V加權(quán)求和。這個解釋大部分人能說出來。但我會接著問“為什么要除以sqrt(d_k)而不是d_k”這個問題的答案在于當(dāng)d_k較大時(shí)點(diǎn)積的方差會增大導(dǎo)致softmax的輸出趨近于one-hot梯度變得極小。除以sqrt(d_k)可以把方差拉回到1附近保持梯度的穩(wěn)定性。這個細(xì)節(jié)在論文里有提但很多人看的時(shí)候跳過了。5.2 多頭注意力的并行計(jì)算多頭注意力的實(shí)現(xiàn)方式是把d_model分成h份每份維度是d_model/h然后并行做h次注意力計(jì)算最后拼接起來再做一次線性變換。這樣做的好處是不同的頭可以關(guān)注不同的模式有的頭關(guān)注語法關(guān)系有的頭關(guān)注語義相似性有的頭關(guān)注位置鄰近性。實(shí)際實(shí)現(xiàn)中我們不會真的創(chuàng)建h個獨(dú)立的Q、K、V矩陣而是用一個大的線性層把d_model映射到3 * d_model然后reshape成h個頭。這樣可以用矩陣乘法一次性完成所有頭的計(jì)算效率更高。5.3 注意力變體從稀疏注意力到Flash Attention標(biāo)準(zhǔn)注意力的計(jì)算復(fù)雜度是O(n^2)序列長度增加時(shí)計(jì)算量爆炸。為了解決這個問題出現(xiàn)了很多變體稀疏注意力只計(jì)算部分位置對線性注意力用核函數(shù)近似softmaxFlash Attention通過分塊計(jì)算和重計(jì)算減少顯存占用。Flash Attention是目前最實(shí)用的優(yōu)化。它不改變注意力的數(shù)學(xué)結(jié)果但通過tiling技術(shù)把注意力計(jì)算分塊避免了一次性存儲完整的n x n注意力矩陣。我實(shí)測下來Flash Attention可以把長序列訓(xùn)練的顯存占用降低50%以上速度提升2-3倍。面試中如果候選人能說出“Flash Attention的核心是IO感知它把計(jì)算分成小塊在SRAM中完成減少HBM的讀寫”那就是加分項(xiàng)。5.4 注意力可視化與可解釋性注意力權(quán)重可以用于分析模型的行為。比如在翻譯任務(wù)中你可以可視化源語言和目標(biāo)語言之間的注意力矩陣看看模型是否正確對齊了詞。但要注意注意力權(quán)重不等于解釋。有研究表明注意力權(quán)重和梯度的重要性并不總是一致。所以用注意力做可解釋性分析時(shí)要謹(jǐn)慎下結(jié)論。6. Function Calling從對話到行動的橋梁6.1 Function Calling解決了什么問題大模型本身只能生成文本不能查天氣、不能發(fā)郵件、不能操作數(shù)據(jù)庫。Function Calling就是讓模型能夠“調(diào)用外部工具”的機(jī)制。它的核心思路是模型根據(jù)用戶的意圖生成一個結(jié)構(gòu)化的函數(shù)調(diào)用請求通常是JSON格式應(yīng)用程序執(zhí)行這個函數(shù)把結(jié)果返回給模型模型再基于結(jié)果生成最終回復(fù)。這個機(jī)制讓LLM從“聊天機(jī)器人”變成了“智能體”。面試中我會問“Function Calling和傳統(tǒng)的意圖識別槽位填充有什么區(qū)別”核心區(qū)別在于傳統(tǒng)方法需要預(yù)先定義所有意圖和槽位擴(kuò)展性差Function Calling讓模型自己決定調(diào)用哪個函數(shù)、傳什么參數(shù)靈活得多。6.2 函數(shù)定義的設(shè)計(jì)要點(diǎn)函數(shù)定義的質(zhì)量直接影響調(diào)用準(zhǔn)確率。我總結(jié)了幾條經(jīng)驗(yàn)函數(shù)名要語義清晰get_weather比func1好得多。參數(shù)描述要詳細(xì)包括類型、取值范圍、是否必填、默認(rèn)值。枚舉值要列全如果參數(shù)是枚舉類型把所有可能的值列出來。避免函數(shù)功能重疊如果兩個函數(shù)功能相似模型容易混淆。一個常見的坑是參數(shù)描述太模糊導(dǎo)致模型傳錯參數(shù)。比如date參數(shù)如果不說明格式模型可能傳2024-01-01也可能傳Jan 1, 2024。明確寫“格式為YYYY-MM-DD”可以大幅降低錯誤率。6.3 多輪函數(shù)調(diào)用的處理復(fù)雜任務(wù)往往需要多輪函數(shù)調(diào)用。比如用戶說“幫我訂明天從北京到上海的機(jī)票然后加到日歷里”模型需要先調(diào)用search_flights拿到結(jié)果后調(diào)用book_flight最后調(diào)用add_calendar_event。處理多輪調(diào)用時(shí)關(guān)鍵是要維護(hù)好對話狀態(tài)。每次函數(shù)調(diào)用的結(jié)果都要追加到對話歷史中讓模型知道上一步做了什么。同時(shí)要設(shè)置最大調(diào)用輪數(shù)防止模型陷入無限循環(huán)。實(shí)操心得我建議在系統(tǒng)提示中明確告訴模型“如果函數(shù)調(diào)用失敗嘗試其他方式或告知用戶”否則模型可能會反復(fù)調(diào)用同一個失敗的函數(shù)。6.4 錯誤處理與容錯設(shè)計(jì)Function Calling的錯誤處理是工程中的難點(diǎn)。常見的錯誤包括函數(shù)不存在、參數(shù)格式錯誤、函數(shù)執(zhí)行超時(shí)、返回結(jié)果為空。每種錯誤都需要不同的處理策略。我的做法是在函數(shù)執(zhí)行層做參數(shù)校驗(yàn)如果參數(shù)不合法返回一個結(jié)構(gòu)化的錯誤信息給模型讓模型重新生成。如果函數(shù)執(zhí)行超時(shí)返回超時(shí)提示讓模型決定是重試還是告知用戶。如果函數(shù)不存在直接告訴模型“該函數(shù)不可用”避免模型反復(fù)嘗試。這種容錯設(shè)計(jì)是構(gòu)建可靠AI系統(tǒng)的關(guān)鍵。面試中如果候選人能主動提到錯誤處理我會認(rèn)為他有實(shí)際工程經(jīng)驗(yàn)。7. 模型微調(diào)從通用到專用的必經(jīng)之路7.1 全量微調(diào)、LoRA與QLoRA的取舍全量微調(diào)更新所有參數(shù)效果最好但顯存需求大。一個7B模型全量微調(diào)需要至少4張A100 80G。LoRA只訓(xùn)練低秩矩陣顯存需求降低到1/3左右效果接近全量微調(diào)。QLoRA在LoRA基礎(chǔ)上把基座模型量化到4-bit顯存需求進(jìn)一步降低單張24G顯卡就能微調(diào)7B模型。選擇哪種方式取決于你的資源和需求。如果數(shù)據(jù)量很大百萬級全量微調(diào)值得投入。如果數(shù)據(jù)量在幾千到幾萬條LoRA足夠。如果資源極其有限QLoRA是唯一選擇。方法顯存需求7B訓(xùn)練速度效果適合場景全量微調(diào)4x80G慢最好大數(shù)據(jù)量、追求極致效果LoRA1x40G快接近全量中小數(shù)據(jù)量、快速迭代QLoRA1x24G較慢略遜于LoRA資源受限7.2 數(shù)據(jù)質(zhì)量比數(shù)量更重要我做過一個對比實(shí)驗(yàn)用1000條高質(zhì)量數(shù)據(jù)和10000條低質(zhì)量數(shù)據(jù)分別微調(diào)結(jié)果1000條高質(zhì)量數(shù)據(jù)的效果明顯更好。高質(zhì)量數(shù)據(jù)的標(biāo)準(zhǔn)是格式統(tǒng)一、答案準(zhǔn)確、覆蓋多樣、無重復(fù)。數(shù)據(jù)標(biāo)注是另一個關(guān)鍵環(huán)節(jié)。LLM的數(shù)據(jù)標(biāo)注和傳統(tǒng)NLP不同不需要標(biāo)注每個token的標(biāo)簽而是需要構(gòu)造高質(zhì)量的輸入-輸出對。我的經(jīng)驗(yàn)是讓標(biāo)注人員先寫一個“理想回答”然后讓模型生成幾個回答標(biāo)注人員從中選擇最好的并修改。這樣效率比從零寫高得多。7.3 微調(diào)中的過擬合與災(zāi)難性遺忘微調(diào)最容易出現(xiàn)的問題是過擬合和災(zāi)難性遺忘。過擬合表現(xiàn)為訓(xùn)練loss持續(xù)下降但驗(yàn)證loss開始上升。災(zāi)難性遺忘表現(xiàn)為模型在通用任務(wù)上的能力下降。解決過擬合的方法包括早停、數(shù)據(jù)增強(qiáng)、Dropout、權(quán)重衰減。解決災(zāi)難性遺忘的方法包括混合通用數(shù)據(jù)一起訓(xùn)練、使用LoRA只更新部分參數(shù)、降低學(xué)習(xí)率。我通常會在微調(diào)數(shù)據(jù)中混入10%-20%的通用指令數(shù)據(jù)這樣可以在保持專用能力的同時(shí)減緩?fù)ㄓ媚芰Φ南陆怠?. 推理優(yōu)化讓模型跑得更快更省8.1 KV Cache的原理與優(yōu)化自回歸生成時(shí)每生成一個token都需要重新計(jì)算所有之前token的Key和Value。KV Cache把這些中間結(jié)果緩存起來避免重復(fù)計(jì)算。沒有KV Cache時(shí)生成n個token的計(jì)算量是O(n^2)有了KV Cache計(jì)算量降到O(n)。但KV Cache會占用大量顯存。對于一個7B模型序列長度2048batch size 1KV Cache大約占用1.5GB。如果batch size增大或序列變長顯存占用會線性增長。優(yōu)化方法包括MQAMulti-Query Attention讓所有頭共享K和VGQAGrouped-Query Attention讓每組頭共享K和V。LLaMA-2 70B用的就是GQA。8.2 量化推理的實(shí)操量化是把模型參數(shù)從FP16降到INT8或INT4減少顯存占用和加速推理。常用的量化方法包括GPTQ、AWQ、GGUF等。GGUF格式特別適合在消費(fèi)級硬件上運(yùn)行支持CPU和GPU混合推理。我實(shí)測下來7B模型用Q4_K_M量化后顯存占用從14GB降到4GB左右推理速度提升約1.5倍效果下降在可接受范圍內(nèi)。如果追求更高精度可以用Q5或Q8量化但顯存占用和速度會相應(yīng)變化。注意事項(xiàng)量化后的模型在某些任務(wù)上可能出現(xiàn)明顯的質(zhì)量下降特別是需要精確計(jì)算或長鏈推理的任務(wù)。建議在量化后做一輪評估確認(rèn)關(guān)鍵指標(biāo)沒有大幅下降。8.3 批處理與連續(xù)批處理批處理可以提升GPU利用率但傳統(tǒng)的靜態(tài)批處理需要等最長的序列生成完才能返回結(jié)果。連續(xù)批處理Continuous Batching允許新請求動態(tài)加入正在運(yùn)行的batch大幅提升吞吐量。vLLM和TensorRT-LLM都支持連續(xù)批處理。我實(shí)測過vLLM和HuggingFace Transformers的吞吐量對比在同樣的硬件上vLLM的吞吐量是Transformers的5-10倍。這個差距主要來自PagedAttention和連續(xù)批處理。9. 幻覺與可靠性LLM落地的最后一道坎9.1 幻覺的成因分析幻覺是指模型生成了看似合理但實(shí)際錯誤的內(nèi)容。成因包括訓(xùn)練數(shù)據(jù)中的錯誤信息、模型過度泛化、解碼策略過于激進(jìn)、以及模型缺乏事實(shí)核查能力。面試中我會問“如何減少幻覺”常見的回答包括RAG、溫度調(diào)低、提示詞約束。但我會追問“RAG能完全解決幻覺嗎”答案是不能。RAG只能提供正確的參考信息但模型仍然可能忽略或錯誤解讀這些信息。所以RAG之后還需要做引用驗(yàn)證和一致性檢查。9.2 RAG系統(tǒng)中的可靠性設(shè)計(jì)RAG的可靠性取決于檢索質(zhì)量和生成質(zhì)量。檢索方面要確保召回的文檔確實(shí)相關(guān)。我通常會用交叉編碼器做重排序把檢索到的Top-20文檔重新打分選出Top-5最相關(guān)的。生成方面要約束模型只基于檢索到的內(nèi)容回答如果檢索結(jié)果不包含答案模型應(yīng)該明確說“不知道”。一個實(shí)用的技巧是在提示詞中要求模型標(biāo)注每個事實(shí)的來源。比如“根據(jù)文檔[1]...”。這樣用戶可以驗(yàn)證信息的可靠性也方便排查錯誤。9.3 評估與監(jiān)控LLM應(yīng)用的評估比傳統(tǒng)軟件復(fù)雜得多因?yàn)檩敵鍪情_放式的。我通常從幾個維度評估準(zhǔn)確性事實(shí)是否正確、相關(guān)性是否回答了問題、完整性是否覆蓋了關(guān)鍵點(diǎn)、安全性是否有害內(nèi)容。自動化評估可以用LLM-as-Judge讓一個更強(qiáng)的模型來打分。但要注意LLM-as-Judge也有偏差比如傾向于給更長的回答打高分。所以最好結(jié)合人工評估定期抽樣檢查。監(jiān)控方面要記錄每次請求的輸入、輸出、檢索結(jié)果、函數(shù)調(diào)用記錄。當(dāng)用戶反饋問題時(shí)可以快速定位是檢索問題、生成問題還是函數(shù)調(diào)用問題。10. 面試中的加分項(xiàng)與翻車現(xiàn)場10.1 什么樣的回答能讓面試官眼前一亮根據(jù)我面試的經(jīng)驗(yàn)加分項(xiàng)通常包括主動提到工程中的取舍和權(quán)衡、能說出自己踩過的坑和解決方法、對最新技術(shù)保持關(guān)注、以及能清晰地解釋復(fù)雜概念。比如問到Embedding時(shí)如果候選人能說出“BGE-M3支持稠密、稀疏和多向量三種檢索方式我在項(xiàng)目中用稠密檢索做粗排稀疏檢索做精確匹配”這就是有實(shí)際經(jīng)驗(yàn)的體現(xiàn)。問到推理優(yōu)化時(shí)如果能說出“vLLM的PagedAttention把KV Cache分頁管理減少了顯存碎片”說明確實(shí)動手部署過。10.2 常見的翻車回答翻車回答通常有幾類只背概念不理解原理、過度自信但細(xì)節(jié)錯誤、以及完全缺乏工程思維。我印象最深的一個候選人問到“Transformer為什么比RNN好”時(shí)他說“因?yàn)門ransformer可以并行計(jì)算”。這個回答本身沒錯但當(dāng)我追問“那RNN為什么不能并行”時(shí)他答不上來。實(shí)際上RNN的隱藏狀態(tài)依賴前一步的計(jì)算結(jié)果天然是串行的。而Transformer的注意力機(jī)制可以一次性看到所有位置所以可以并行。這個追問直接暴露了他只是記住了結(jié)論沒有理解本質(zhì)。另一類翻車是過度自信。有個候選人在回答“如何減少幻覺”時(shí)斬釘截鐵地說“用RAG就能解決”。當(dāng)我追問“如果檢索到的文檔本身有錯誤怎么辦”時(shí)他愣住了。實(shí)際上RAG只是把問題從“模型不知道”變成了“模型基于錯誤信息回答”并沒有從根本上解決可靠性問題。10.3 如何準(zhǔn)備這8個問題我的建議是不要死記硬背答案而是動手做一遍。自己實(shí)現(xiàn)一個簡單的Transformer跑一遍Tokenization訓(xùn)練一個小的Embedding模型搭一個RAG系統(tǒng)部署一次vLLM。這些實(shí)操經(jīng)驗(yàn)會讓你在面試中的回答有血有肉而不是干巴巴的概念。另外準(zhǔn)備幾個自己項(xiàng)目中的案例。面試官最喜歡聽的是“我在項(xiàng)目中遇到了什么問題我是怎么分析和解決的”。這種故事比任何標(biāo)準(zhǔn)答案都有說服力。最后再分享一個小技巧面試中遇到不會的問題不要硬編?？梢哉f“這個我沒有深入研究過但根據(jù)我的理解可能是...”。面試官更看重你的思考過程而不是標(biāo)準(zhǔn)答案。誠實(shí)和邏輯清晰比假裝什么都懂要好得多。 LLM面試8大硬門檻：從Transformer到幻覺，答不上來直接淘汰
1. 為什么這8個問題成了LLM面試的硬門檻面過幾十個LLM方向的候選人之后我越來越確信一件事這個領(lǐng)域的面試已經(jīng)過了“你會不會調(diào)API”的階段?，F(xiàn)在面試官拋出的問題幾乎全部指向同一個核心——你到底有沒有真正理解過大模型內(nèi)部在發(fā)生什么。標(biāo)題里說的“答不上來直接淘汰”聽起來有點(diǎn)狠但站在面試官的角度想想一個連Tokenization和Embedding區(qū)別都說不清的人你怎么放心讓他去調(diào)Prompt、做RAG、搭A(yù)gent這篇文章的由來是我最近幫團(tuán)隊(duì)整理面試題庫時(shí)把過去一年問過的、真正能區(qū)分候選人水平的問題做了系統(tǒng)梳理。最終收斂到8個方向Transformer架構(gòu)理解、Tokenization機(jī)制、Embedding原理與應(yīng)用、注意力機(jī)制細(xì)節(jié)、Function Calling設(shè)計(jì)、模型微調(diào)策略、推理優(yōu)化、以及幻覺與可靠性問題。這8個問題覆蓋了從底層原理到工程落地的完整鏈路任何一個答不上來基本可以判斷候選人在這個方向上缺乏深度實(shí)踐。適合誰來讀如果你正在準(zhǔn)備LLM方向的面試不管是算法崗還是應(yīng)用工程崗這篇內(nèi)容可以當(dāng)作一份自檢清單。如果你是面試官也可以直接拿去用每個問題我都附上了“及格線”和“加分項(xiàng)”的區(qū)分標(biāo)準(zhǔn)。如果你只是對LLM感興趣的技術(shù)人這里面的原理拆解和實(shí)操經(jīng)驗(yàn)同樣能幫你建立起一套完整的認(rèn)知框架。下面我逐個拆解每個問題都會說清楚面試官到底想考什么、你應(yīng)該怎么回答、以及我在實(shí)際面試中見過的典型翻車現(xiàn)場。2. Transformer架構(gòu)不只是“Attention is All You Need”2.1 面試官真正想考的是什么“介紹一下Transformer”這個問題幾乎每場面試都會出現(xiàn)。但面試官想聽的絕對不是你把論文摘要背一遍。我通常會在候選人講完標(biāo)準(zhǔn)答案之后追問三個問題為什么用LayerNorm而不是BatchNorm為什么是多頭而不是單頭位置編碼為什么用正弦函數(shù)而不是可學(xué)習(xí)參數(shù)這三個追問能直接區(qū)分出“看過論文”和“真正理解設(shè)計(jì)動機(jī)”的人。大部分候選人能說出“多頭可以捕捉不同子空間的特征”但當(dāng)我問“那為什么不是越多頭越好”時(shí)就卡住了。實(shí)際上頭的數(shù)量受限于d_model每個頭的維度是d_model / h頭太多會導(dǎo)致每個頭的維度太小表達(dá)能力反而下降。這個細(xì)節(jié)在原始論文里沒有明說但在實(shí)際調(diào)參時(shí)非常關(guān)鍵。2.2 編碼器與解碼器的結(jié)構(gòu)差異很多人把Transformer當(dāng)成一個整體來講但面試中你需要清晰地拆開說。編碼器是雙向注意力每個位置可以看到全序列解碼器是因果注意力每個位置只能看到自己和之前的位置。這個差異直接決定了它們適合的任務(wù)類型。我一般會這樣解釋編碼器像一個“全局審閱者”它需要看到完整上下文才能理解每個詞的含義適合分類、抽取、Embedding生成等任務(wù)。解碼器像一個“逐字寫作的人”它只能基于已寫的內(nèi)容決定下一個詞適合文本生成。而Encoder-Decoder結(jié)構(gòu)比如T5、BART則是“先讀懂再寫”適合翻譯、摘要這類需要理解輸入再生成輸出的任務(wù)。實(shí)際面試中我會讓候選人畫一下三種結(jié)構(gòu)的注意力矩陣形狀。這個看似簡單的問題能直接暴露對方是否真正動手實(shí)現(xiàn)過Transformer。2.3 殘差連接與層歸一化的工程考量殘差連接看起來簡單但它在深層Transformer中的作用遠(yuǎn)超“防止梯度消失”。我試過在24層以上的模型中移除殘差連接訓(xùn)練直接崩掉loss完全不下降。原因是殘差連接保證了梯度可以繞過非線性變換直接回傳這對于深層網(wǎng)絡(luò)的穩(wěn)定訓(xùn)練是必須的。LayerNorm的位置也有講究。原始論文用的是Post-LN先做注意力/FFN再歸一化但后來GPT-2開始改用Pre-LN先歸一化再做注意力/FFN。Pre-LN的訓(xùn)練更穩(wěn)定不需要warmup就能收斂但最終效果可能略遜于精心調(diào)參的Post-LN。這個取舍在實(shí)際項(xiàng)目中非常實(shí)用——如果你訓(xùn)練資源有限Pre-LN是更安全的選擇。實(shí)操心得如果你在面試中被問到“訓(xùn)練不收斂怎么辦”優(yōu)先檢查LayerNorm的位置和初始化方式。我踩過的坑是Post-LN結(jié)構(gòu)下如果不做learning rate warmup前幾千步的梯度范數(shù)會爆炸。2.4 位置編碼的選型邏輯正弦位置編碼的優(yōu)勢在于它可以外推到訓(xùn)練時(shí)沒見過的序列長度。但在實(shí)際使用中外推效果往往不如預(yù)期。后來RoPE旋轉(zhuǎn)位置編碼成為主流因?yàn)樗ㄟ^旋轉(zhuǎn)矩陣編碼相對位置信息在長序列上表現(xiàn)更好?，F(xiàn)在很多開源模型LLaMA、Qwen等都用RoPE。面試中如果候選人能說出“RoPE通過絕對位置編碼的方式實(shí)現(xiàn)了相對位置編碼的效果”我會給加分。如果再能解釋清楚RoPE的遠(yuǎn)程衰減特性——即隨著距離增大注意力分?jǐn)?shù)自然衰減——那就是資深級別的理解了。3. Tokenization大模型的第一道關(guān)卡3.1 為什么Tokenization值得單獨(dú)問很多人覺得Tokenization只是預(yù)處理不重要。但實(shí)際項(xiàng)目中Tokenization直接影響到模型的效果、推理成本、甚至多語言能力。我見過一個真實(shí)案例某個團(tuán)隊(duì)做中文法律文書摘要模型效果一直不好排查了很久才發(fā)現(xiàn)是Tokenizer把很多法律術(shù)語切碎了導(dǎo)致模型根本學(xué)不到完整的術(shù)語表示。面試中我會問“BPE、WordPiece、SentencePiece有什么區(qū)別各自適合什么場景”這個問題能直接看出候選人有沒有處理過真實(shí)數(shù)據(jù)。3.2 BPE、WordPiece與SentencePiece的核心差異BPEByte Pair Encoding的思路是從字符開始不斷合并出現(xiàn)頻率最高的相鄰對。它的優(yōu)點(diǎn)是簡單、通用缺點(diǎn)是合并規(guī)則是基于頻率的可能產(chǎn)生不合理的子詞。GPT系列用的是BPE的變體。WordPiece是BERT用的方法它和BPE的區(qū)別在于BPE選頻率最高的對WordPiece選能最大化語言模型似然的對。實(shí)際效果上WordPiece更傾向于產(chǎn)生有語言學(xué)意義的子詞。SentencePiece的最大特點(diǎn)是它把輸入當(dāng)作原始字節(jié)流處理不依賴空格分詞。這對中文、日文等沒有空格分隔的語言非常重要。LLaMA系列用的就是SentencePiece。方法核心思路代表模型適合場景BPE合并最高頻相鄰對GPT系列英文為主通用場景WordPiece最大化語言模型似然BERT需要語言學(xué)合理性SentencePiece字節(jié)流處理不依賴空格LLaMA、T5多語言、中文場景3.3 詞表大小的取舍詞表大小是一個經(jīng)典的工程取舍。詞表太小一個詞被切成很多token序列變長推理變慢詞表太大Embedding矩陣參數(shù)量增加低頻詞訓(xùn)練不充分。常見的詞表大小在32K到128K之間。LLaMA-2用的是32K而一些中文模型會擴(kuò)展到64K甚至100K。我在實(shí)際項(xiàng)目中的經(jīng)驗(yàn)是如果你的應(yīng)用場景以中文為主詞表至少要到50K以上否則很多常用詞會被切碎。你可以用一個簡單的方法驗(yàn)證拿一批業(yè)務(wù)數(shù)據(jù)統(tǒng)計(jì)平均每個詞被切成幾個token。如果超過2個說明詞表可能偏小。3.4 特殊Token的設(shè)計(jì)與使用面試中很少有人主動提到特殊Token但這恰恰是實(shí)際工程中容易出問題的地方。[CLS]、[SEP]、[PAD]、[UNK]這些是基礎(chǔ)但在對話模型中|system|、|user|、|assistant|這些角色標(biāo)記的設(shè)計(jì)直接影響模型的行為。我踩過的一個坑在微調(diào)對話模型時(shí)沒有正確設(shè)置|assistant|標(biāo)記的loss mask導(dǎo)致模型把用戶的問題也當(dāng)作需要生成的內(nèi)容來學(xué)習(xí)結(jié)果模型開始“自問自答”。正確的做法是只在assistant回復(fù)的部分計(jì)算loss其他部分mask掉。注意事項(xiàng)不同模型的特殊Token不同做微調(diào)時(shí)一定要查清楚基座模型的Token配置。用錯Token會導(dǎo)致模型行為完全異常而且很難排查。4. Embedding從詞向量到語義搜索的基石4.1 Embedding的本質(zhì)是什么Embedding就是把離散的符號映射到連續(xù)的向量空間。但面試中我會追問“為什么Embedding能表達(dá)語義相似性”這個問題的核心在于分布式假設(shè)出現(xiàn)在相似上下文中的詞含義相似。訓(xùn)練過程中模型通過預(yù)測上下文任務(wù)自然地把語義相近的詞推到一起。但要注意Transformer產(chǎn)生的Embedding和Word2Vec的Embedding有本質(zhì)區(qū)別。Word2Vec是靜態(tài)的每個詞只有一個向量Transformer是動態(tài)的同一個詞在不同上下文中會有不同的向量。這就是為什么BERT的Embedding在語義任務(wù)上遠(yuǎn)優(yōu)于Word2Vec。4.2 如何選擇Embedding模型現(xiàn)在Embedding模型排行上常見的選項(xiàng)包括OpenAI的text-embedding-3系列、BGE系列、GTE系列、E5系列等。選擇時(shí)需要考慮幾個維度維度大小、最大輸入長度、多語言支持、推理速度、以及是否支持指令前綴。我的經(jīng)驗(yàn)是如果做中文語義搜索BGE-large-zh-v1.5是一個很穩(wěn)的選擇維度1024最大長度512。如果需要多語言BGE-M3支持100語言而且同時(shí)支持稠密檢索、稀疏檢索和多向量檢索。如果追求極致速度可以用BGE-small或GTE-small維度降到384或512效果下降在可接受范圍內(nèi)。模型維度最大長度多語言適合場景BGE-large-zh1024512中文中文語義搜索BGE-M310248192100多語言、長文本GTE-large1024512英文為主英文語義搜索text-embedding-3-small15368191多語言通用場景4.3 向量檢索的實(shí)操細(xì)節(jié)拿到Embedding之后下一步是向量檢索。很多人直接用余弦相似度做暴力搜索數(shù)據(jù)量小的時(shí)候沒問題但超過10萬條就需要用近似最近鄰ANN算法。常用的庫包括Faiss、Annoy、HNSW等。我實(shí)測下來HNSW在召回率和速度之間平衡得最好。關(guān)鍵參數(shù)是M每個節(jié)點(diǎn)的連接數(shù)和efConstruction構(gòu)建時(shí)的搜索深度。M越大召回率越高但內(nèi)存占用也越大。一般M設(shè)為16-64efConstruction設(shè)為100-200。還有一個容易忽略的點(diǎn)歸一化。如果你用余弦相似度一定要先把向量歸一化到單位長度否則內(nèi)積和余弦相似度不等價(jià)。我見過有人忘了歸一化導(dǎo)致檢索結(jié)果完全不對。4.4 Embedding微調(diào)的必要性與方法通用Embedding模型在垂直領(lǐng)域往往表現(xiàn)不佳。比如醫(yī)療、法律、金融這些領(lǐng)域術(shù)語的語義和通用領(lǐng)域差異很大。這時(shí)候就需要微調(diào)Embedding模型。微調(diào)Embedding通常用對比學(xué)習(xí)構(gòu)造正樣本對語義相似的句子和負(fù)樣本對語義不相似的句子用InfoNCE損失訓(xùn)練。正樣本可以從業(yè)務(wù)數(shù)據(jù)中挖掘比如同一篇文檔的不同段落、同一問題的不同表述。負(fù)樣本可以用in-batch negatives即同一個batch內(nèi)其他樣本作為負(fù)例。我做過一個法律領(lǐng)域的Embedding微調(diào)用2000對法律問答數(shù)據(jù)訓(xùn)練了3個epoch檢索準(zhǔn)確率從62%提升到了81%。數(shù)據(jù)量不需要很大但質(zhì)量一定要高。5. 注意力機(jī)制面試中的分水嶺5.1 自注意力的計(jì)算過程自注意力的核心公式是Attention(Q, K, V) softmax(QK^T / sqrt(d_k)) V。面試中我會讓候選人逐步解釋這個公式的每個部分。QK^T計(jì)算的是每對位置之間的相似度除以sqrt(d_k)是為了防止點(diǎn)積過大導(dǎo)致softmax梯度消失softmax把相似度轉(zhuǎn)成概率分布最后用這些概率對V加權(quán)求和。這個解釋大部分人能說出來。但我會接著問“為什么要除以sqrt(d_k)而不是d_k”這個問題的答案在于當(dāng)d_k較大時(shí)點(diǎn)積的方差會增大導(dǎo)致softmax的輸出趨近于one-hot梯度變得極小。除以sqrt(d_k)可以把方差拉回到1附近保持梯度的穩(wěn)定性。這個細(xì)節(jié)在論文里有提但很多人看的時(shí)候跳過了。5.2 多頭注意力的并行計(jì)算多頭注意力的實(shí)現(xiàn)方式是把d_model分成h份每份維度是d_model/h然后并行做h次注意力計(jì)算最后拼接起來再做一次線性變換。這樣做的好處是不同的頭可以關(guān)注不同的模式有的頭關(guān)注語法關(guān)系有的頭關(guān)注語義相似性有的頭關(guān)注位置鄰近性。實(shí)際實(shí)現(xiàn)中我們不會真的創(chuàng)建h個獨(dú)立的Q、K、V矩陣而是用一個大的線性層把d_model映射到3 * d_model然后reshape成h個頭。這樣可以用矩陣乘法一次性完成所有頭的計(jì)算效率更高。5.3 注意力變體從稀疏注意力到Flash Attention標(biāo)準(zhǔn)注意力的計(jì)算復(fù)雜度是O(n^2)序列長度增加時(shí)計(jì)算量爆炸。為了解決這個問題出現(xiàn)了很多變體稀疏注意力只計(jì)算部分位置對線性注意力用核函數(shù)近似softmaxFlash Attention通過分塊計(jì)算和重計(jì)算減少顯存占用。Flash Attention是目前最實(shí)用的優(yōu)化。它不改變注意力的數(shù)學(xué)結(jié)果但通過tiling技術(shù)把注意力計(jì)算分塊避免了一次性存儲完整的n x n注意力矩陣。我實(shí)測下來Flash Attention可以把長序列訓(xùn)練的顯存占用降低50%以上速度提升2-3倍。面試中如果候選人能說出“Flash Attention的核心是IO感知它把計(jì)算分成小塊在SRAM中完成減少HBM的讀寫”那就是加分項(xiàng)。5.4 注意力可視化與可解釋性注意力權(quán)重可以用于分析模型的行為。比如在翻譯任務(wù)中你可以可視化源語言和目標(biāo)語言之間的注意力矩陣看看模型是否正確對齊了詞。但要注意注意力權(quán)重不等于解釋。有研究表明注意力權(quán)重和梯度的重要性并不總是一致。所以用注意力做可解釋性分析時(shí)要謹(jǐn)慎下結(jié)論。6. Function Calling從對話到行動的橋梁6.1 Function Calling解決了什么問題大模型本身只能生成文本不能查天氣、不能發(fā)郵件、不能操作數(shù)據(jù)庫。Function Calling就是讓模型能夠“調(diào)用外部工具”的機(jī)制。它的核心思路是模型根據(jù)用戶的意圖生成一個結(jié)構(gòu)化的函數(shù)調(diào)用請求通常是JSON格式應(yīng)用程序執(zhí)行這個函數(shù)把結(jié)果返回給模型模型再基于結(jié)果生成最終回復(fù)。這個機(jī)制讓LLM從“聊天機(jī)器人”變成了“智能體”。面試中我會問“Function Calling和傳統(tǒng)的意圖識別槽位填充有什么區(qū)別”核心區(qū)別在于傳統(tǒng)方法需要預(yù)先定義所有意圖和槽位擴(kuò)展性差Function Calling讓模型自己決定調(diào)用哪個函數(shù)、傳什么參數(shù)靈活得多。6.2 函數(shù)定義的設(shè)計(jì)要點(diǎn)函數(shù)定義的質(zhì)量直接影響調(diào)用準(zhǔn)確率。我總結(jié)了幾條經(jīng)驗(yàn)函數(shù)名要語義清晰get_weather比func1好得多。參數(shù)描述要詳細(xì)包括類型、取值范圍、是否必填、默認(rèn)值。枚舉值要列全如果參數(shù)是枚舉類型把所有可能的值列出來。避免函數(shù)功能重疊如果兩個函數(shù)功能相似模型容易混淆。一個常見的坑是參數(shù)描述太模糊導(dǎo)致模型傳錯參數(shù)。比如date參數(shù)如果不說明格式模型可能傳2024-01-01也可能傳Jan 1, 2024。明確寫“格式為YYYY-MM-DD”可以大幅降低錯誤率。6.3 多輪函數(shù)調(diào)用的處理復(fù)雜任務(wù)往往需要多輪函數(shù)調(diào)用。比如用戶說“幫我訂明天從北京到上海的機(jī)票然后加到日歷里”模型需要先調(diào)用search_flights拿到結(jié)果后調(diào)用book_flight最后調(diào)用add_calendar_event。處理多輪調(diào)用時(shí)關(guān)鍵是要維護(hù)好對話狀態(tài)。每次函數(shù)調(diào)用的結(jié)果都要追加到對話歷史中讓模型知道上一步做了什么。同時(shí)要設(shè)置最大調(diào)用輪數(shù)防止模型陷入無限循環(huán)。實(shí)操心得我建議在系統(tǒng)提示中明確告訴模型“如果函數(shù)調(diào)用失敗嘗試其他方式或告知用戶”否則模型可能會反復(fù)調(diào)用同一個失敗的函數(shù)。6.4 錯誤處理與容錯設(shè)計(jì)Function Calling的錯誤處理是工程中的難點(diǎn)。常見的錯誤包括函數(shù)不存在、參數(shù)格式錯誤、函數(shù)執(zhí)行超時(shí)、返回結(jié)果為空。每種錯誤都需要不同的處理策略。我的做法是在函數(shù)執(zhí)行層做參數(shù)校驗(yàn)如果參數(shù)不合法返回一個結(jié)構(gòu)化的錯誤信息給模型讓模型重新生成。如果函數(shù)執(zhí)行超時(shí)返回超時(shí)提示讓模型決定是重試還是告知用戶。如果函數(shù)不存在直接告訴模型“該函數(shù)不可用”避免模型反復(fù)嘗試。這種容錯設(shè)計(jì)是構(gòu)建可靠AI系統(tǒng)的關(guān)鍵。面試中如果候選人能主動提到錯誤處理我會認(rèn)為他有實(shí)際工程經(jīng)驗(yàn)。7. 模型微調(diào)從通用到專用的必經(jīng)之路7.1 全量微調(diào)、LoRA與QLoRA的取舍全量微調(diào)更新所有參數(shù)效果最好但顯存需求大。一個7B模型全量微調(diào)需要至少4張A100 80G。LoRA只訓(xùn)練低秩矩陣顯存需求降低到1/3左右效果接近全量微調(diào)。QLoRA在LoRA基礎(chǔ)上把基座模型量化到4-bit顯存需求進(jìn)一步降低單張24G顯卡就能微調(diào)7B模型。選擇哪種方式取決于你的資源和需求。如果數(shù)據(jù)量很大百萬級全量微調(diào)值得投入。如果數(shù)據(jù)量在幾千到幾萬條LoRA足夠。如果資源極其有限QLoRA是唯一選擇。方法顯存需求7B訓(xùn)練速度效果適合場景全量微調(diào)4x80G慢最好大數(shù)據(jù)量、追求極致效果LoRA1x40G快接近全量中小數(shù)據(jù)量、快速迭代QLoRA1x24G較慢略遜于LoRA資源受限7.2 數(shù)據(jù)質(zhì)量比數(shù)量更重要我做過一個對比實(shí)驗(yàn)用1000條高質(zhì)量數(shù)據(jù)和10000條低質(zhì)量數(shù)據(jù)分別微調(diào)結(jié)果1000條高質(zhì)量數(shù)據(jù)的效果明顯更好。高質(zhì)量數(shù)據(jù)的標(biāo)準(zhǔn)是格式統(tǒng)一、答案準(zhǔn)確、覆蓋多樣、無重復(fù)。數(shù)據(jù)標(biāo)注是另一個關(guān)鍵環(huán)節(jié)。LLM的數(shù)據(jù)標(biāo)注和傳統(tǒng)NLP不同不需要標(biāo)注每個token的標(biāo)簽而是需要構(gòu)造高質(zhì)量的輸入-輸出對。我的經(jīng)驗(yàn)是讓標(biāo)注人員先寫一個“理想回答”然后讓模型生成幾個回答標(biāo)注人員從中選擇最好的并修改。這樣效率比從零寫高得多。7.3 微調(diào)中的過擬合與災(zāi)難性遺忘微調(diào)最容易出現(xiàn)的問題是過擬合和災(zāi)難性遺忘。過擬合表現(xiàn)為訓(xùn)練loss持續(xù)下降但驗(yàn)證loss開始上升。災(zāi)難性遺忘表現(xiàn)為模型在通用任務(wù)上的能力下降。解決過擬合的方法包括早停、數(shù)據(jù)增強(qiáng)、Dropout、權(quán)重衰減。解決災(zāi)難性遺忘的方法包括混合通用數(shù)據(jù)一起訓(xùn)練、使用LoRA只更新部分參數(shù)、降低學(xué)習(xí)率。我通常會在微調(diào)數(shù)據(jù)中混入10%-20%的通用指令數(shù)據(jù)這樣可以在保持專用能力的同時(shí)減緩?fù)ㄓ媚芰Φ南陆怠?. 推理優(yōu)化讓模型跑得更快更省8.1 KV Cache的原理與優(yōu)化自回歸生成時(shí)每生成一個token都需要重新計(jì)算所有之前token的Key和Value。KV Cache把這些中間結(jié)果緩存起來避免重復(fù)計(jì)算。沒有KV Cache時(shí)生成n個token的計(jì)算量是O(n^2)有了KV Cache計(jì)算量降到O(n)。但KV Cache會占用大量顯存。對于一個7B模型序列長度2048batch size 1KV Cache大約占用1.5GB。如果batch size增大或序列變長顯存占用會線性增長。優(yōu)化方法包括MQAMulti-Query Attention讓所有頭共享K和VGQAGrouped-Query Attention讓每組頭共享K和V。LLaMA-2 70B用的就是GQA。8.2 量化推理的實(shí)操量化是把模型參數(shù)從FP16降到INT8或INT4減少顯存占用和加速推理。常用的量化方法包括GPTQ、AWQ、GGUF等。GGUF格式特別適合在消費(fèi)級硬件上運(yùn)行支持CPU和GPU混合推理。我實(shí)測下來7B模型用Q4_K_M量化后顯存占用從14GB降到4GB左右推理速度提升約1.5倍效果下降在可接受范圍內(nèi)。如果追求更高精度可以用Q5或Q8量化但顯存占用和速度會相應(yīng)變化。注意事項(xiàng)量化后的模型在某些任務(wù)上可能出現(xiàn)明顯的質(zhì)量下降特別是需要精確計(jì)算或長鏈推理的任務(wù)。建議在量化后做一輪評估確認(rèn)關(guān)鍵指標(biāo)沒有大幅下降。8.3 批處理與連續(xù)批處理批處理可以提升GPU利用率但傳統(tǒng)的靜態(tài)批處理需要等最長的序列生成完才能返回結(jié)果。連續(xù)批處理Continuous Batching允許新請求動態(tài)加入正在運(yùn)行的batch大幅提升吞吐量。vLLM和TensorRT-LLM都支持連續(xù)批處理。我實(shí)測過vLLM和HuggingFace Transformers的吞吐量對比在同樣的硬件上vLLM的吞吐量是Transformers的5-10倍。這個差距主要來自PagedAttention和連續(xù)批處理。9. 幻覺與可靠性LLM落地的最后一道坎9.1 幻覺的成因分析幻覺是指模型生成了看似合理但實(shí)際錯誤的內(nèi)容。成因包括訓(xùn)練數(shù)據(jù)中的錯誤信息、模型過度泛化、解碼策略過于激進(jìn)、以及模型缺乏事實(shí)核查能力。面試中我會問“如何減少幻覺”常見的回答包括RAG、溫度調(diào)低、提示詞約束。但我會追問“RAG能完全解決幻覺嗎”答案是不能。RAG只能提供正確的參考信息但模型仍然可能忽略或錯誤解讀這些信息。所以RAG之后還需要做引用驗(yàn)證和一致性檢查。9.2 RAG系統(tǒng)中的可靠性設(shè)計(jì)RAG的可靠性取決于檢索質(zhì)量和生成質(zhì)量。檢索方面要確保召回的文檔確實(shí)相關(guān)。我通常會用交叉編碼器做重排序把檢索到的Top-20文檔重新打分選出Top-5最相關(guān)的。生成方面要約束模型只基于檢索到的內(nèi)容回答如果檢索結(jié)果不包含答案模型應(yīng)該明確說“不知道”。一個實(shí)用的技巧是在提示詞中要求模型標(biāo)注每個事實(shí)的來源。比如“根據(jù)文檔[1]...”。這樣用戶可以驗(yàn)證信息的可靠性也方便排查錯誤。9.3 評估與監(jiān)控LLM應(yīng)用的評估比傳統(tǒng)軟件復(fù)雜得多因?yàn)檩敵鍪情_放式的。我通常從幾個維度評估準(zhǔn)確性事實(shí)是否正確、相關(guān)性是否回答了問題、完整性是否覆蓋了關(guān)鍵點(diǎn)、安全性是否有害內(nèi)容。自動化評估可以用LLM-as-Judge讓一個更強(qiáng)的模型來打分。但要注意LLM-as-Judge也有偏差比如傾向于給更長的回答打高分。所以最好結(jié)合人工評估定期抽樣檢查。監(jiān)控方面要記錄每次請求的輸入、輸出、檢索結(jié)果、函數(shù)調(diào)用記錄。當(dāng)用戶反饋問題時(shí)可以快速定位是檢索問題、生成問題還是函數(shù)調(diào)用問題。10. 面試中的加分項(xiàng)與翻車現(xiàn)場10.1 什么樣的回答能讓面試官眼前一亮根據(jù)我面試的經(jīng)驗(yàn)加分項(xiàng)通常包括主動提到工程中的取舍和權(quán)衡、能說出自己踩過的坑和解決方法、對最新技術(shù)保持關(guān)注、以及能清晰地解釋復(fù)雜概念。比如問到Embedding時(shí)如果候選人能說出“BGE-M3支持稠密、稀疏和多向量三種檢索方式我在項(xiàng)目中用稠密檢索做粗排稀疏檢索做精確匹配”這就是有實(shí)際經(jīng)驗(yàn)的體現(xiàn)。問到推理優(yōu)化時(shí)如果能說出“vLLM的PagedAttention把KV Cache分頁管理減少了顯存碎片”說明確實(shí)動手部署過。10.2 常見的翻車回答翻車回答通常有幾類只背概念不理解原理、過度自信但細(xì)節(jié)錯誤、以及完全缺乏工程思維。我印象最深的一個候選人問到“Transformer為什么比RNN好”時(shí)他說“因?yàn)門ransformer可以并行計(jì)算”。這個回答本身沒錯但當(dāng)我追問“那RNN為什么不能并行”時(shí)他答不上來。實(shí)際上RNN的隱藏狀態(tài)依賴前一步的計(jì)算結(jié)果天然是串行的。而Transformer的注意力機(jī)制可以一次性看到所有位置所以可以并行。這個追問直接暴露了他只是記住了結(jié)論沒有理解本質(zhì)。另一類翻車是過度自信。有個候選人在回答“如何減少幻覺”時(shí)斬釘截鐵地說“用RAG就能解決”。當(dāng)我追問“如果檢索到的文檔本身有錯誤怎么辦”時(shí)他愣住了。實(shí)際上RAG只是把問題從“模型不知道”變成了“模型基于錯誤信息回答”并沒有從根本上解決可靠性問題。10.3 如何準(zhǔn)備這8個問題我的建議是不要死記硬背答案而是動手做一遍。自己實(shí)現(xiàn)一個簡單的Transformer跑一遍Tokenization訓(xùn)練一個小的Embedding模型搭一個RAG系統(tǒng)部署一次vLLM。這些實(shí)操經(jīng)驗(yàn)會讓你在面試中的回答有血有肉而不是干巴巴的概念。另外準(zhǔn)備幾個自己項(xiàng)目中的案例。面試官最喜歡聽的是“我在項(xiàng)目中遇到了什么問題我是怎么分析和解決的”。這種故事比任何標(biāo)準(zhǔn)答案都有說服力。最后再分享一個小技巧面試中遇到不會的問題不要硬編?？梢哉f“這個我沒有深入研究過但根據(jù)我的理解可能是...”。面試官更看重你的思考過程而不是標(biāo)準(zhǔn)答案。誠實(shí)和邏輯清晰比假裝什么都懂要好得多。