欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

故障注入攻擊全面解析:從威脅模型到縱深防御實踐

故障注入攻擊全面解析:從威脅模型到縱深防御實踐 1. 故障注入攻擊的威脅模型與攻擊面分析1.1 從一次“意外”談起為什么故障注入值得被認真對待先講個我早期經(jīng)歷的事。那時我在做一款安全支付終端的固件開發(fā)產(chǎn)品已經(jīng)進入量產(chǎn)前最后一輪測試。硬件組同事在實驗室里給主控芯片做電壓波動測試原本只是常規(guī)的信號完整性驗證結(jié)果測試設備在某個特定瞬間產(chǎn)生了一個極窄的電壓毛刺設備竟然跳過了Secure Boot的簽名校驗環(huán)節(jié)直接進入了主系統(tǒng)。當時大家的第一反應是“硬件bug”但做安全審計的同事立刻警覺——這不是普通的電氣干擾而是一類被稱為fault injection attacks的攻擊行為被無意間觸發(fā)了一次。那次之后我對故障注入攻擊的理解發(fā)生了根本轉(zhuǎn)變。它不是發(fā)生在抽象加密算法層面的數(shù)學攻擊而是發(fā)生在物理世界里的真實干擾。攻擊者不需要破解你的算法不需要知道你的密鑰只需要讓芯片在某一瞬間“算錯一次”安全邊界就可能被撕開。這個認知是構(gòu)建一切防御方案的起點。故障注入攻擊的本質(zhì)是在芯片正常執(zhí)行過程中人為引入瞬態(tài)錯誤讓處理器、存儲單元或外設產(chǎn)生違背設計預期的行為。最常見的目標包括跳過認證檢查、繞過安全啟動、降低加密輪次、篡改控制流、提取密鑰材料。這類攻擊的可怕之處在于代碼層面的算法強度再高如果底層硬件在執(zhí)行時被“物理黑客”改寫了狀態(tài)一切防御都可能形同虛設。1.2 攻擊者的目標與攻擊面的分布要把防御做扎實必須先搞清楚攻擊者想打哪里、能打哪里。我在實際項目中會把攻擊面按“數(shù)據(jù)通路”和“控制通路”進行區(qū)分這兩條路徑在故障注入下的表現(xiàn)完全不同。在數(shù)據(jù)通路上攻擊者希望篡改正在處理的數(shù)據(jù)本身。比如在RSA簽名計算中注入故障讓模冪運算的中間結(jié)果出錯就可能通過錯誤簽名反推私鑰。教科書上經(jīng)典的Bellcore攻擊和Boneh-DeMillo-Lipton攻擊核心思路都是讓簽名計算產(chǎn)生錯誤結(jié)果再對比正確與錯誤輸出從數(shù)學上恢復密鑰。這類攻擊最有效的注入目標是存儲運算結(jié)果的寄存器、SRAM、Cache或者代數(shù)協(xié)處理器。在控制通路上攻擊者希望改變程序執(zhí)行的走向。典型效果是“跳過關(guān)鍵跳轉(zhuǎn)指令”讓條件判斷永遠為真或永遠為假。比如固件中有一段“if (verify_signature() FAIL) return;”的邏輯攻擊者如果在verify_signature()返回值寫入寄存器的那條指令附近注入故障就可能讓CPU拿到一個錯誤的“SUCCESS”返回值進而繞過認證。密碼輸入驗證、啟動流程檢查、權(quán)限判斷、許可證校驗這些統(tǒng)統(tǒng)是控制通路上的高危目標。從攻擊者的角度看還有一個更省力的思路是針對芯片生命周期狀態(tài)做手腳。許多安全芯片有OTP一次性可編程存儲區(qū)、efuse陣列、安全狀態(tài)寄存器用來記錄“是否已經(jīng)完成初始化”“是否處于調(diào)試模式”“安全等級是多少”。攻擊者注入故障把這些位翻轉(zhuǎn)就可能把芯片從安全模式拉回調(diào)試模式或者讓OTP寫入校驗失效。這塊在實際產(chǎn)品中最容易被忽略因為硬件狀態(tài)的管理通常由廠商SDK封裝好固件工程師很少會深究其物理實現(xiàn)。1.3 現(xiàn)實攻擊者畫像威脅建模的出發(fā)點做防御設計時不能拍腦袋決定花多大成本必須先對攻擊者做分級畫像。我通常把防護對象分成三類第一類是機會型攻擊者手里只有市場上買得到的通用設備比如稍微改裝過的SMD貼片機探頭、電磁脈沖槍、廉價信號發(fā)生器和簡單的電壓毛刺發(fā)生器。他們的攻擊能力有限通常只會做簡單的外部電壓毛刺或時鐘毛刺不會做復雜的激光定位或芯片開蓋。對這類攻擊者一部分硬件層面的基本防護就能攔住絕大多數(shù)嘗試。第二類是精通硬件攻擊的實驗室級攻擊者具備芯片開蓋、FIB聚焦離子束電路修改、精密激光注入臺、高速示波器和邏輯分析儀等工具。他們能對芯片做反向分析找到安全Metal層走線精確打擊某個Flip-Flop。這類攻擊者的威脅非常大單一防御措施很難完全擋住必須靠縱深防御和實時檢測來對抗。第三類則是國家級機構(gòu)或頂級安全實驗室擁有芯片級全流程分析能力甚至可能直接通過供應鏈植入后門。對絕大多數(shù)普通電子產(chǎn)品而言這類攻擊者的威脅模型超出了合理成本范圍——但如果你在做金融安全芯片、車規(guī)域控制器或者政府級加密模塊那也不得不考慮。在項目啟動時我會把攻擊者畫像寫成文檔同步給硬件、軟件、結(jié)構(gòu)設計三個團隊因為不同等級的威脅直接決定了后續(xù)的防護措施投入。比如只防機會型攻擊者可能加個電壓監(jiān)測芯片就夠了如果考慮實驗室級攻擊者那就必須有冗余計算、運算隨機化、內(nèi)聯(lián)檢測邏輯這些組合拳。2. 故障注入手段詳解攻擊者是怎么“動手”的2.1 電壓毛刺注入最容易上手的大門電壓毛刺Voltage Glitch是故障注入攻擊里門檻最低、也最常見的手段。原理很簡單芯片工作電壓都有個規(guī)定的容差范圍比如3.3V的IO供電允許±10%波動。攻擊者通過一個快速響應的MOSFET開關(guān)電路在精確控制的時刻把供電電壓短暫拉低到2.5V甚至更低寬度在幾納秒到幾百微秒之間就能讓芯片內(nèi)部的邏輯門因為供電不足而產(chǎn)生時序違規(guī)導致某些寄存器采樣到錯誤值。我的經(jīng)驗是電壓毛刺的攻擊參數(shù)里最關(guān)鍵的三個變量分別是毛刺寬度、深度和注入時刻。毛刺寬度決定了影響的時間窗口太窄可能影響不到關(guān)鍵指令太寬容易讓整個芯片直接復位毛刺深度決定了邏輯出錯的程度太淺可能只是讓非關(guān)鍵路徑上的電路工作異常太深會直接造成掉電而注入時刻是真正的難點——攻擊者需要知道目標指令大概在什么時間點執(zhí)行這通常需要通過側(cè)信道分析或者經(jīng)驗試探來確定。防御電壓毛刺最常用的措施是片上電壓監(jiān)測。許多安全MCU內(nèi)置了BODBrown-Out Detector或?qū)S玫碾妷簜鞲衅鳟敊z測到供電電壓跌破閾值時立即產(chǎn)生復位信號。但這里有個關(guān)鍵細節(jié)電壓傳感器本身的響應時間必須夠快如果傳感器需要幾十微秒才觸發(fā)復位而攻擊者的毛刺只有幾納秒很可能毛刺已經(jīng)打完、故障已經(jīng)注入成功復位信號才姍姍來遲。選型時一定要看芯片數(shù)據(jù)手冊里的電壓監(jiān)測響應時間實測時也要用示波器驗證真實行為。2.2 時鐘毛刺注入把“時間”變成武器時鐘毛刺和電壓毛刺思路類似只不過干擾對象從供電變成了時鐘信號。芯片內(nèi)部的時序電路依賴時鐘沿來觸發(fā)寄存器采樣如果某個時鐘沿來得太早寄存器就可能采到還在傳播途中的不穩(wěn)定數(shù)據(jù)產(chǎn)生建立時間Setup Time違規(guī)如果某個時鐘沿被刪掉指令又會重復執(zhí)行或跳過。攻擊者通常會在外部時鐘線或者PLL反饋路徑上注入一個極窄的額外脈沖就能讓CPU在某個特定周期“快進”或“卡頓”一次。時鐘毛刺的高明之處在于它比電壓毛刺更容易精確定位。因為芯片是同步時序系統(tǒng)每條指令的執(zhí)行周期數(shù)是固定的攻擊者只要數(shù)好從復位開始經(jīng)過了多少個時鐘周期就能精準預測敏感指令比如比較指令、跳轉(zhuǎn)指令、密鑰加載指令何時執(zhí)行。這也是為什么很多安全芯片會選擇使用內(nèi)部RC振蕩器而不是外部晶振——內(nèi)部RC振蕩器的頻率會隨工藝偏差變化而且不暴露給外部攻擊者讓精確的時鐘周期預測變得困難。防御時鐘毛刺硬件上通常的做法是使用帶監(jiān)測功能的PLL檢測到參考時鐘異常跳變就自動切換到備份時鐘源軟件上則要盡量減少對外部時間的依賴避免用固定周期數(shù)的循環(huán)去處理安全關(guān)鍵操作。我遇到過一種很有意思的軟件緩解方案把安全認證流程的指令執(zhí)行序列故意加進隨機空轉(zhuǎn)指令NOP 隨機跳轉(zhuǎn)讓每條指令的執(zhí)行周期變得不可預測攻擊者很難對準注入窗口。2.3 電磁故障注入與激光注入無接觸的“外科手術(shù)”電磁故障注入EMFI這幾年在安全研究圈子里越來越火。攻擊者用一個手工繞制的線圈探頭貼在芯片上方通過高壓放電在探頭中產(chǎn)生瞬態(tài)強磁場強磁場在芯片內(nèi)部感應出渦流局部電壓被擾動從而影響附近邏輯電路的正常工作。它的優(yōu)點是完全無接觸不需要對芯片做物理連接所以非常適合針對封裝完好、無法直接探針點測的產(chǎn)品。EMFI的定位精度取決于探頭的尺寸和位置。幾毫米直徑的線圈就能影響到一個功能模塊配合XYZ三軸移動平臺攻擊者可以掃描芯片表面的不同位置來找敏感區(qū)域。我見過一些研究團隊用步進電機加攝像頭做自動化掃描一個晚上就能畫出芯片的“故障注入敏感度熱力圖”哪些位置能跳過Boot代碼哪些位置能讓AES解密出錯一清二楚。激光注入則是精度最高的故障注入方式。激光照射到芯片襯底或金屬層時會產(chǎn)生光生載流子進而改變晶體管節(jié)點的電荷狀態(tài)相當于對特定存儲單元做了一次“精確翻轉(zhuǎn)”。配合高倍顯微鏡和精密位移臺激光可以精確定位到單個晶體管或者單個SRAM單元。但激光注入通常需要芯片開蓋去封裝這讓它的攻擊門檻高了不少主要出現(xiàn)在實驗室級的攻擊場景中。2.4 溫度、頻率與組合攻擊別忽視“非主流”手段有些攻擊者會用極端溫度把芯片推到工作范圍邊緣。低溫會讓芯片時序裕量變小高頻下更容易出錯高溫則可能讓存儲單元的數(shù)據(jù)保持能力下降導致SRAM或Flash內(nèi)容翻轉(zhuǎn)。雖然單靠溫度很難實現(xiàn)精確的故障注入但作為一種輔助手段它能降低其他注入方式的成功率。比如攻擊者先把芯片冷卻到-40℃再配合一個很弱的電壓毛刺可能本來毛刺深度不夠造成故障低溫下就能輕易得手。還有一種容易被忽略的組合攻擊思路先用軟件漏洞或者調(diào)試接口進入一個低權(quán)限狀態(tài)再用故障注入跳過剩余的高權(quán)限檢查。很多防御設計只考慮了系統(tǒng)在正常啟動流程中如何對抗故障注入?yún)s忽略了低權(quán)限狀態(tài)下同樣需要保持故障檢測能力。我建議做威脅建模時把“已進入到Ring 3/非安全態(tài)/用戶態(tài)”之后還能用故障注入提升權(quán)限的場景也一并納入分析——軟件邊界和物理攻擊邊界之間存在大量灰色地帶。3. 防御設計總體架構(gòu)縱深防御與多層級協(xié)同3.1 為什么單點防護永遠不夠我見過不少團隊在早期做防護設計時喜歡押注在“某個特別強的防護點上”。比如用了一顆號稱“抗故障注入”的安全芯片就認為萬事大吉或者寫了一套復雜的狀態(tài)校驗代碼就覺得攻擊者無隙可乘。但實際漏檢案例幾乎永遠來自“沒想到的組合”。根本原因在于攻擊者擁有物理層面的優(yōu)勢。芯片內(nèi)部的每一個電壓域、每個時鐘域、每個存儲單元對攻擊者來說都是潛在的注入點。你的軟件防護可能覆蓋了CPU執(zhí)行的路徑但電源管理單元、DMA控制器、總線仲裁器、DDR控制器這些地方同樣可能被注入故障。單點防護做得再好攻擊者只要換個注入目標就能繞開你的防線??v深防御Defense in Depth的核心思想是讓攻擊者在每一層都要付出代價、承擔不確定性。攻擊者即便繞過第一層檢測第二層獨立的檢測機制還可能讓他的注入結(jié)果無效即便硬件檢測全部失效軟件層面還有一致性校驗在守著。每一層機制不要求100%阻斷攻擊但它們的組合效應會讓攻擊成功率降低到實際不可利用的水平。3.2 縱深防御的四層架構(gòu)參考我習慣把故障注入防御設計分成四個層級從底層到頂層依次是器件級、硬件架構(gòu)級、固件/軟件級、業(yè)務流程級。每一級的防御效果可以獨立評估最終總體安全性由各級防御覆蓋率共同決定。器件級防御主要依賴芯片廠商的內(nèi)建安全特性。包括電壓/時鐘/溫度監(jiān)測器、主動屏蔽層、片內(nèi)傳感器、安全存儲、亂序執(zhí)行、物理不可克隆函數(shù)PUF等。對應用開發(fā)者來說這一層的選擇相對被動——你只能通過選型來獲取更堅實的底層防線無法自行修改硅片實現(xiàn)。硬件架構(gòu)級防御是系統(tǒng)設計者可以掌控的部分。比如外部電路上的電壓監(jiān)控芯片、看門狗、雙片冗余方案、總線寬度校驗ECC、硬件安全模塊HSM隔離、物理防拆保護殼等。這一層需要硬件工程師和安全工程師密切配合要考慮的是“板級電路如何容忍和檢測上層的異常狀態(tài)”。固件/軟件級防御是大多數(shù)安全工程師投入精力最多的地方。包括控制流完整性檢查、關(guān)鍵函數(shù)雙執(zhí)行、關(guān)鍵數(shù)據(jù)冗余存儲、隨機延遲與隨機冗余指令、循環(huán)計數(shù)器、校驗和/CRC、基于時序和功耗的異常檢測等。這層防御的價值在于它不依賴額外硬件可以在現(xiàn)有MCU上直接落地而且可以根據(jù)實際攻擊手段持續(xù)迭代。業(yè)務流程級防御是最容易被忽視的一層。比如在安全關(guān)鍵操作密鑰生成、簽名中加入人工確認機制在多步操作中加入狀態(tài)機推進順序校驗在安全芯片內(nèi)使用一次性隨機數(shù)作為會話標識來隔離重放和注入。這個層面的防護思路是即使攻擊者讓某次操作在錯誤狀態(tài)下執(zhí)行成功業(yè)務層面的狀態(tài)約束也讓它無法真正造成危害。3.3 分層設計中的職責劃分與接口約定在一個實際項目中防御設計最怕的是責任邊界不清。我當時做過一個安全功能模塊“芯片內(nèi)部SRAM錯誤檢測”是器件級的事“外部DDR的數(shù)據(jù)校驗”是硬件架構(gòu)級的事“固件中關(guān)鍵變量的鏡像校驗”是軟件級的事“密鑰輪換策略”是業(yè)務級的事。分工如果不明確就會出現(xiàn)某個安全關(guān)鍵參數(shù)在四個層級之間拷來拷去最后每一層都認為別的層做了校驗結(jié)果是每一層都沒做完整校驗。我建議在項目設計文檔中專門用一張表格列出“安全屬性分配矩陣”逐項標明哪些屬性由哪個層級負責保障。比如安全屬性器件級措施硬件架構(gòu)級措施固件級措施業(yè)務級措施電壓異常檢測內(nèi)建BOD傳感器外部電壓監(jiān)控IC啟動時自檢電壓校準運行日志記錄異常事件時鐘異常檢測PLL失效監(jiān)測外部看門狗時鐘關(guān)鍵循環(huán)耗時評估時間戳連續(xù)性校驗關(guān)鍵數(shù)據(jù)完整性SRAM ECC校驗外部Flash ECC/CRC雙變量冗余定時校驗數(shù)據(jù)重建/重置策略控制流完整性硬件返回地址堆棧保護MPU/TrustZone區(qū)域隔離關(guān)鍵函數(shù)CFI檢查狀態(tài)機推進順序約束這個表格的威力在于每個團隊都能清楚看到自己負責的“安全屬性”避免出現(xiàn)重疊負責但執(zhí)行程度不一樣、或者無人負責的真空區(qū)。表格評審完成后各團隊再圍繞表格中的每項措施討論具體的實施方案和驗收標準反復迭代直到所有安全屬性都有明確的落地路徑。4. 硬件層加固實踐從選型到板級設計4.1 安全MCU選型時的故障注入防護功能怎么挑很多工程師選安全MCU時只關(guān)注CPU主頻、Flash大小、外設豐富度對故障注入相關(guān)的硬件特性關(guān)注不夠。等到做故障注入評估時才發(fā)現(xiàn)芯片內(nèi)置的防護能力遠不夠用這時候只能靠軟件硬補代價非常大。我總結(jié)了選型時需要優(yōu)先確認的幾項關(guān)鍵特性每一項都在實際對抗測試中證明過價值。首先是電壓監(jiān)測器的數(shù)量和響應時間。一片合格的安全MCU至少要有兩路以上獨立的電壓監(jiān)測通道一路監(jiān)測核心供電一路監(jiān)測IO供電而且響應時間要足夠快。不少工業(yè)級MCU的BOD響應時間在幾十微秒級別聽著很快但對于納秒級的毛刺注入其實談不上可靠攔截。真正合格的安全芯片會提供“快速電壓毛刺檢測”引腳或內(nèi)部事件響應時間做到納秒級同時包含可配置的觸發(fā)閾值。選型時直接向FAE要這個參數(shù)很多廠商會支支吾吾支支吾吾本身就說明他們沒做過針對性設計。其次是時鐘監(jiān)測器。安全芯片最好能同時接受外部晶振和內(nèi)部RC振蕩器并且具有自動切換能力。故障注入攻擊者一旦發(fā)現(xiàn)你在用外部晶振最大的概率是直接在晶體附近做時鐘毛刺注入因為引腳裸露在外、信號容易捕捉。如果芯片檢測到時鐘頻率異??梢粤⒓辞袚Q到內(nèi)部RC并發(fā)出報警中斷——這個特性在對抗時鐘毛刺攻擊時幾乎是救命級別的。然后是安全啟動和調(diào)試保護。調(diào)試接口JTAG/SWD是故障注入攻擊的最佳跳板。攻擊者通過物理手段解除調(diào)試保護比如用激光切斷efuse的熔斷檢測電路就能獲得CPU的完全控制權(quán)。選型時要確認芯片是否支持基于密鑰的調(diào)試認證、調(diào)試端口是否可以在量產(chǎn)階段徹底永久關(guān)閉、efuse區(qū)域是否有防篡改檢測。這里要特別提醒關(guān)閉調(diào)試端口的操作一定要在產(chǎn)線上作為最后一道工序執(zhí)行我之前見過有工廠為了方便返修把調(diào)試端口保留到軟件發(fā)布流程的最后一刻結(jié)果留下了大量的攻擊面。4.2 板級防護電路外部器件如何補足芯片的盲區(qū)芯片內(nèi)置的防護再強也不可能覆蓋所有板級場景。我在板級設計中通常會加三類外部電路來增強故障注入抵抗力。外部電壓監(jiān)控IC是必備項。選擇響應速度快納秒級、帶閾值遲滯的監(jiān)控芯片放在主控芯片的供電入口處。它和芯片內(nèi)部BOD的區(qū)別在于它是獨立于主控之外的“另一個裁判”即便攻擊者先讓主控芯片內(nèi)部某個傳感器邏輯失效外部監(jiān)控IC依然能檢測到異常電壓并觸發(fā)復位。復位信號最好直接連到主控的復位引腳同時也要連一個GPIO讓固件能感知到“發(fā)生過電壓異?!?。如果把外部電壓監(jiān)控IC設計成獨立于主控之外的“另一個裁判”它還應該具備獨立的供電來源或者至少獨立的參考源否則攻擊者將整個電源域拉低時監(jiān)控IC自身也會失靈——好的設計會把監(jiān)控IC的供電接到一個不易被同一個毛刺干擾的域比如獨立的LDO輸出。板級看門狗則是另一重保障。現(xiàn)在很多MCU自帶看門狗但都有個共同弱點可以被固件關(guān)閉或喂狗時間可以被預測。我傾向于使用外部獨立看門狗芯片喂狗信號由固件中一個專門的安全任務控制喂狗序列使用偽隨機數(shù)生成這樣攻擊者即使讓主流程序卡死在某個循環(huán)里也沒法輕松模擬出正確的喂狗序列。外部看門狗超時后觸發(fā)的動作不只是復位最好是“復位將安全關(guān)鍵信號拉到安全態(tài)”比如關(guān)閉輸出繼電器、斷開電機驅(qū)動、標記非易失存儲區(qū)中的安全事件。對于物理攻擊防護板級還能做的是“安全圍欄”——用一組PCB走線包裹住敏感信號區(qū)域走線連接到主控的中斷引腳一旦走線被切斷或橋接就觸發(fā)緊急處理。做這種圍欄走線時寬度、間距、過孔位置都要仔細規(guī)劃避免圍欄本身成為天線把毛刺引入內(nèi)部信號。我見過一個產(chǎn)品把圍欄走線布得又長又寬結(jié)果攻擊者直接在圍欄上方用EMFI探頭打了一個強脈沖圍欄沒報警倒是內(nèi)部信號被感應電壓干擾了——這就很諷刺。4.3 電源網(wǎng)絡設計中的“抗毛刺”細節(jié)電源網(wǎng)絡設計對故障注入防御的影響常常被很多團隊當成“信號完整性”問題而非“安全問題”來處理但實際攻擊已驗證過不合理的電源設計會讓本來很弱的毛刺攻擊也奏效。我在低噪聲LDO或DC-DC的輸出端會特別關(guān)注大容量去耦電容的布局。常規(guī)經(jīng)驗是每顆IC旁邊放0.1uF高頻去耦電容主電源輸入端放10uF~100uF的儲能電容。但這只能平滑普通紋波對幾十納秒的毛刺效果有限。想要真正抗毛刺需要在主控芯片的電源引腳附近組合使用多種容值的電容比如0.1uF、1nF、100pF各一只形成寬頻段的低阻抗路徑。高頻小電容離芯片電源引腳越近越好最好壓在PCB的背面正對電源腳的位置這樣毛刺能量在進入芯片之前就被旁路掉了。還有一個小細節(jié)電源走線寬度。有些人為了省空間把電源走線畫得很細導致路徑電感偏大。電感大的后果是毛刺電流通過時瞬間電壓下降得更劇烈相當于攻擊者用同樣的毛刺槍在你家地板上打出更深的坑。我習慣把安全關(guān)鍵芯片的電源走線做到能通過3倍以上額定電流的寬度并避免在走線中間打過孔或者細頸盡量保持完整平面供電。4.4 封裝與物理防護要不要做開蓋防護設計對于那些有物理攻擊威脅的產(chǎn)品封裝層面的防護值得納入設計考慮。最高防護等級需要采用帶主動屏蔽層的安全芯片它在芯片頂層金屬覆蓋一層蛇形走線網(wǎng)格任何試圖用FIB或激光切斷這條走線的行為都會導致安全邏輯觸發(fā)數(shù)據(jù)擦除。帶主動屏蔽層的芯片成本不低但對金融終端、汽車T-Box這類產(chǎn)品來說是值得的。如果芯片本身沒有主動屏蔽層退而求其次的做法是在PCB上覆蓋一層防拆網(wǎng)格或防拆膠。防拆膠通常是環(huán)氧樹脂能讓開蓋難度大增攻擊者需要用熱風槍長時間加熱才能軟化膠水但這個過程中芯片溫度異常、功耗特征變化明顯恰好能被電壓/溫度監(jiān)測器捕捉到。網(wǎng)格設計則是在關(guān)鍵走線上方鋪一層細密的地網(wǎng)絡任何物理侵入都會破壞這層網(wǎng)絡觸發(fā)報警。不過要注意網(wǎng)格只能防“開蓋”防不了“不接觸的EMFI攻擊”所以它不能替代加密算法層面的抗注入設計。5. 軟件層防御在固件內(nèi)部構(gòu)筑多道防線5.1 關(guān)鍵數(shù)據(jù)冗余讓“翻轉(zhuǎn)一位”失效軟件層面的故障注入防御核心思路之一就是讓單點故障注入的“性價比”降到最低。最簡單有效的手段就是關(guān)鍵數(shù)據(jù)冗余存儲。這里的“冗余”不只是存兩份一樣的值而是要把原始值和校驗備份放在不同的存儲位置、用不同的編碼方式。我通常會把安全關(guān)鍵變量比如認證狀態(tài)、密鑰索引、權(quán)限等級按照“原值反碼鏡像CRC校驗”的格式存儲。每次讀取時將三份數(shù)據(jù)分別讀出驗證原值與反碼鏡像是否互補、CRC是否匹配。任何一份數(shù)據(jù)被翻轉(zhuǎn)都能被檢測出來。更嚴格的設計是每隔一段時間由RTOS的tick驅(qū)動或?qū)iT的安全任務驅(qū)動主動執(zhí)行一次全量校驗而不是等到使用時才檢查——因為有些故障注入不直接改變當前行為而是改變后續(xù)某條分支的判斷條件主動校驗能及時發(fā)現(xiàn)潛伏的修改。存儲位置也有講究。如果原值放在SRAM的固定地址鏡像就放在距離較遠、甚至不同總線域的位置如果原值在寄存器里鏡像就放在SRAM里。必須避免攻擊者用一個寬范圍激光脈沖把原值和鏡像一并翻轉(zhuǎn)。這個思路同樣適用于Flash中的關(guān)鍵配置項可以存儲兩份不同編碼的副本啟動時做交叉校驗。做這些校驗的代碼本身也需要提高抗注入能力——我見過有人辛辛苦苦存了三份冗余結(jié)果校驗代碼只有一條if語句攻擊者把if語句跳過就前功盡棄了。5.2 控制流完整性讓跳轉(zhuǎn)命令不可被隨意跳過故障注入攻擊最經(jīng)典的戰(zhàn)果就是“跳過一條關(guān)鍵跳轉(zhuǎn)指令”所以控制流完整性CFI檢查在防御設計里位置極高。最簡單的CFI實現(xiàn)是在關(guān)鍵分支之后立即放置校驗變量。假設你有這樣的代碼if (authenticate_user(input) AUTH_OK) { enter_privileged_mode(); }攻擊者只要在authenticate_user()返回后的比較指令上注入一個故障讓比較結(jié)果錯誤地判定為相等就能直接進入特權(quán)模式。改進后的寫法是uint32_t auth_result authenticate_user(input); uint32_t auth_mirror ~auth_result; if (auth_result AUTH_OK) { if (auth_mirror ! ~AUTH_OK) { fault_recovery(); } enter_privileged_mode(); }多了一次校驗攻擊者需要同時保證兩處比較都出錯成功率立刻下降一個數(shù)量級。但這種方法要想再進一步加固就得采用獨立校驗函數(shù)——讓校驗邏輯放在另一個編譯單元、甚至不同的代碼段中避免攻擊者通過分析二進制找到所有比較點一次性全部繞過。我之前做過一個項目把CFI校驗拆成了三個獨立的函數(shù)分布在不同的Flash頁每個函數(shù)之間插入隨機延遲實測下來想精準定位并繞過全部校驗點的時間成本翻了好幾倍。再進一步還可以使用硬件輔助的CFI。ARM的TrustZone-M和最新的Cortex-M55系列提供了可編程的異常事件監(jiān)測可以在非法跳轉(zhuǎn)發(fā)生時捕獲異常。有些高端MCU甚至帶硬件返回地址棧Hardware Return Address Stack防止攻擊者通過故障注入改寫返回地址。選型階段如果確認需要應對高等級物理攻擊這些特性會是重要的加分項。5.3 雙重執(zhí)行與結(jié)果比較用算兩遍來對抗“算錯一次”雙重執(zhí)行Dual Execution的防御邏輯非常樸素對關(guān)鍵計算算兩遍比較兩次的結(jié)果是否一致不一致就報錯。這個思路實現(xiàn)起來不復雜但有幾個地方需要特別注意。首先是兩次執(zhí)行之間要有“隨機隔離”。如果攻擊者的故障注入窗口覆蓋了兩步操作比如一個毛刺寬度很大兩次計算都被影響那雙重執(zhí)行就失效了。所以我在兩次執(zhí)行之間會插入隨機長度的延遲或者隨機次數(shù)的空轉(zhuǎn)操作讓攻擊者很難用單一毛刺同時污染兩次計算。有些芯片支持在兩次計算之間切換時鐘源或電壓域這種硬件級別的隔離更可靠。其次是結(jié)果比較本身的抗注入能力。如果比較邏輯只有一句“if (result1 ! result2)”攻擊者把這個判斷跳過后雙重執(zhí)行就形同虛設。我的做法是把比較結(jié)果作為后續(xù)安全操作的狀態(tài)來源而不是僅僅打印一條錯誤日志。比如在簽名流程中兩次簽名結(jié)果不一致時不僅返回失敗還要讓密鑰寄存器立即進行自毀清零。這樣攻擊者即使繞過了比較后續(xù)仍然會因為沒有合法簽名而卡住。這里還要提一下“比較次數(shù)”的問題。有些設計只比較結(jié)果但攻擊者可以注入故障讓兩次計算產(chǎn)生相同錯誤結(jié)果。為了防止這種情況雙重執(zhí)行比較的不僅是數(shù)值還可以把中間狀態(tài)也納入比較——比如記錄中間輪次的狀態(tài)哈希。對于計算量允許的場景可以把整個計算過程做成可驗證的增量哈希鏈任何一步被擾動都會導致最終校驗失敗。代價是性能開銷收益是非??捎^的抗注入強度。5.4 隨機化與時間混淆讓攻擊者抓不準時機故障注入攻擊對時序有極強的依賴——攻擊者需要知道“在哪一條指令執(zhí)行的哪個時鐘周期”觸發(fā)毛刺。因此在軟件執(zhí)行流程中引入不可預測的時間和順序擾動是成本低但效果顯著的防御手段。我常用的技術(shù)包括在安全關(guān)鍵函數(shù)入口插入隨機數(shù)量的NOP指令順序由真隨機數(shù)發(fā)生器TRNG驅(qū)動將安全關(guān)鍵操作的執(zhí)行順序在多條等價路徑之間隨機切換比如AES的S盒查表和位切片兩種實現(xiàn)方式隨機選擇在循環(huán)計算里加入隨機的迭代順序或隨機的分塊大小。這些手段的根本目的是提高攻擊者的“瞄準難度”當攻擊者無法預知目標指令何時執(zhí)行、在哪條路徑上執(zhí)行時即便毛刺注入成功故障落在安全關(guān)鍵指令上的概率也大幅下降。時間混淆還有一個容易被忽視的價值它破壞了攻擊者對芯片行為的“可預測性建模”。很多自動化故障注入工具會先做一輪掃參掃描毛刺寬度、深度、注入時間找到最容易成功的參數(shù)組合然后再批量精確打擊。如果關(guān)鍵路徑的執(zhí)行時間每次都不一樣工具掃出的“敏感窗口”就無法穩(wěn)定復現(xiàn)攻擊者需要反復重試才能偶爾命中一次成功率大幅下降從而更可能被檢測機制發(fā)現(xiàn)。5.5 安全啟動流程中的故障注入防護細節(jié)Secure Boot是所有安全固件的信任根也是故障注入攻擊的重點目標。攻擊者的理想目標是讓Bootloader跳過簽名校驗、跳到非授權(quán)代碼或者加載錯誤版本固件。我在設計安全啟動流程時除了常規(guī)的逐級哈希鏈校驗還會疊加幾層故障注入專用的防御措施啟動時對Boot ROM的哈希值和啟動狀態(tài)寄存器做多次讀取和交叉驗證。Boot ROM是只讀的正常狀況下每次讀到的內(nèi)容一致但受到物理干擾時可能讀到不一致的值。這里的做法是連續(xù)讀取3次每次中間插入一個隨機延遲3次結(jié)果必須完全一致才通過。如果有一個字節(jié)對不上直接進入死亡循環(huán)或強制進入Bootloader升級模式而不是繼續(xù)往下執(zhí)行。啟動流程中的安全狀態(tài)寄存器也要特殊對待。安全狀態(tài)寄存器記錄“當前是否已完成安全啟動”這類信息攻擊者如果翻轉(zhuǎn)它可能在未完成校驗時就獲得高權(quán)限。我會把這些寄存器所有位都冗余存儲一份鏡像每次狀態(tài)遷移前先做一致性檢查。狀態(tài)遷移本身也要用狀態(tài)機固化——不允許從“未驗證”狀態(tài)直接跳到“系統(tǒng)運行”狀態(tài)必須經(jīng)過“校驗中”和“校驗完成”兩個中間狀態(tài)。另外Secure Boot中每一步的執(zhí)行順序不能是固定的。我在Bootloader中把幾個獨立校驗模塊的執(zhí)行順序隨機打亂依賴關(guān)系通過狀態(tài)字而非物理順序來管理。這樣攻擊者無法假定“第幾個模塊是簽名校驗”大幅增加了定時瞄準的難度。6. 密碼算法實現(xiàn)的抗故障注入設計6.1 為什么算法實現(xiàn)比算法本身更重要在很多人的理解里AES、RSA、ECC這類標準算法只要密鑰長度夠長就安全。但故障注入攻擊正好打在這個認知的盲區(qū)上——算法本身的數(shù)學強度只解決了計算邏輯問題而物理實現(xiàn)過程中出現(xiàn)的瞬時錯誤則完全繞開了數(shù)學強度。以AES為例標準AES-128執(zhí)行10輪運算如果某次故障注入剛好讓第9輪之后的MixColumns變換被跳過攻擊者拿一個正確密文和一個錯誤密文做差分分析就能在極短時間內(nèi)恢復出密鑰。算法本身沒有任何問題問題出在“第9輪的計算結(jié)果被物理手段篡改”上。也就是說密碼算法實現(xiàn)必須在邏輯正確之外額外建立一組錯誤檢測、結(jié)果驗證機制保證“即便算錯也算不出有用的錯誤結(jié)果”。6.2 AES實現(xiàn)中的冗余與校驗方案我在物聯(lián)網(wǎng)設備中最常落地的是AES-GCM它自帶認證標簽天然能發(fā)現(xiàn)密文被篡改。但認證標簽在解密末尾才校驗如果攻擊者在解密過程中注入故障可能得到部分錯誤明文的同時標簽校驗還沒來得及生效。所以更穩(wěn)妥的做法是AES解密完成后再用獨立密鑰做一次加密對比——如果解密結(jié)果正確用同一密鑰重新加密后應該得到原始密文。這個方案的性能開銷是兩倍的AES計算但對于安全關(guān)鍵操作比如固件解包、通信握手來說完全值得。還有一點要注意用于對比的計算路徑要和主路徑保持隔離。如果兩次運算用同一份S盒、同一段代碼攻擊者既可以對主路徑注入故障也可以對驗證路徑注入故障。我見過一個實現(xiàn)驗證路徑和主路徑共用同一個S盒查找表結(jié)果是攻擊者把SRAM中的S盒表內(nèi)容翻轉(zhuǎn)了一個字節(jié)兩條路徑同時出錯最終錯誤數(shù)據(jù)反而通過了校驗。更進一步的AES加固是拆分為獨立的字節(jié)代換和列混淆階段在每個階段之間插入CRC校驗或奇偶校驗。這類檢測粒度更細能更快發(fā)現(xiàn)故障發(fā)生的位置但實現(xiàn)復雜度也更高。對于一般物聯(lián)網(wǎng)產(chǎn)品我會在“解密后回算加密”和“S盒表CRC校驗”這兩項中至少做一項。6.3 RSA/ECC實現(xiàn)中的抗故障注入特殊手段RSA和ECC這類公鑰算法對故障注入特別敏感。RSA使用CRT加速計算時如果模指數(shù)運算中任何一步出錯攻擊者通過錯誤的簽名結(jié)果可以直接分解N從而恢復私鑰。這個攻擊Bellcore攻擊在1997年提出至今依然是RSA-CRT實現(xiàn)里最致命的威脅。防御RSA-CRT的標準做法是計算完成后驗簽用公鑰驗證簽名結(jié)果是否合法不合法就拒絕輸出。驗簽的代價比簽名小得多而且公鑰是公開信息不存在密鑰泄露風險。我的建議是驗簽邏輯不可省略而且驗簽用的公鑰必須來自安全的非易失存儲區(qū)域不能存在可被故障注入篡改的動態(tài)內(nèi)存里——否則攻擊者把公鑰也改了驗簽就成了擺設。ECC方面故障注入的主要目標是讓標量乘法[k]P產(chǎn)生錯誤的中間點尤其是讓計算中某些坐標值變?yōu)闊o窮遠點零點攻擊者可通過錯誤點反推標量k。防御手段是在標量乘法過程中對每個中間點做曲線方程校驗驗證點是否還在曲線上如果在曲線外立即中止。具體實現(xiàn)時坐標的x、y、z三個值都要單獨校驗不能只驗x。另外還可以在計算結(jié)束后做一次“隨機點伴隨”驗證——在計算前生成一個隨機數(shù)r計算出[r]P在計算完成后用[r]P校驗結(jié)果的一致性。這類方法需要消耗一定的額外計算時間但對抗標量乘法故障注入非常有效。6.4 密鑰存儲與使用時的故障注入邊界防護密鑰的生命周期管理往往是故障注入防護里最薄弱的環(huán)節(jié)。許多產(chǎn)品的密鑰由外部安全芯片管理但如果主控在向安全芯片發(fā)送密鑰使用指令時被注入了故障可能把“使用密鑰A簽名”篡改成“使用密鑰B導出”或者“擦除全部密鑰”。我的建議是主控與安全芯片之間的通信必須使用帶消息認證碼MAC的協(xié)議確保指令在執(zhí)行前經(jīng)過完整性和來源校驗每次使用密鑰的請求必須包含隨機數(shù)nonce和遞增計數(shù)器安全芯片只有在nonce有效且計數(shù)器單調(diào)遞增時才執(zhí)行這樣即便攻擊者重放指令也無法重復使用舊請求。密鑰本身的使用過程也要有故障容忍設計。比如密鑰加載到寄存器后先校驗整個寄存器組的數(shù)據(jù)完整性CRC/奇偶校驗再執(zhí)行密碼運算。運算結(jié)束后立即清除寄存器中的密鑰材料避免密鑰殘留時間過長而擴大故障注入的攻擊窗口。清除動作也建議執(zhí)行兩次并在兩次清除之間插入隨機延遲——攻擊者可能瞄準“判斷清除是否完成的分支”來阻止清除動作。7. 檢測、響應與故障恢復機制7.1 異常事件檢測從單一告警到關(guān)聯(lián)分析故障注入攻擊留下的痕跡不會像軟件入侵那樣有明確的日志記錄但物理層、時序?qū)印?shù)據(jù)完整性層往往會出現(xiàn)多個“小異?!?。我在設計檢測體系時會把各類異常事件匯集到一個統(tǒng)一的安全事件處理器再做關(guān)聯(lián)分析。一個典型的攻擊過程中可能出現(xiàn)的異常序列是電磁毛刺引起供電短暫波動電壓監(jiān)測器觸發(fā)→ 某個關(guān)鍵變量校驗失敗軟件冗余檢查觸發(fā)→ 密碼協(xié)處理器報告了一個罕見錯誤算法引擎狀態(tài)異常。單獨看每一類事件都可能被當成偶發(fā)干擾忽略但放在一起看它們的關(guān)聯(lián)性就是一次明確的攻擊信號。設計檢測系統(tǒng)時我會定義三檔安全響應等級。第一檔是“觀察級”單個低風險異常只記錄日志不中斷系統(tǒng)運行第二檔是“警示級”兩個及以上低風險異常在短時間內(nèi)相繼出現(xiàn)時主動觸發(fā)一次完整的安全狀態(tài)自檢第三檔是“應急級”檢測到高置信度的攻擊特征比如電壓監(jiān)測和CRC校驗同時失敗時立即執(zhí)行擦除密鑰、鎖定設備、進入安全故障狀態(tài)等動作。不同等級響應之間應該配置獨立的閾值和超時機制避免攻擊者通過頻繁觸發(fā)低等級事件讓系統(tǒng)疲于應對而錯過真正的攻擊。7.2 故障響應策略擦除、鎖定、還是靜默降級面對一次疑似故障注入攻擊系統(tǒng)應該做出什么響應這個決策非常關(guān)鍵。我在這部分反復跟產(chǎn)品經(jīng)理、運維團隊爭論過最后形成了三個原則。第一原則是“安全關(guān)鍵信息必須立即失效”。一旦檢測到攻擊先將所有活躍的關(guān)鍵密鑰材料清零、將安全狀態(tài)機強制置為“未認證”狀態(tài)。這樣即便攻擊者后續(xù)成功突破了其他檢查它也無法在這個狀態(tài)下獲得任何敏感訪問權(quán)限。第二原則是“盡量做到非破壞性”。如果一個安全事件只是因為環(huán)境干擾導致的偶發(fā)抖動直接把設備變磚會造成巨大的維護成本。所以高置信度攻擊事件觸發(fā)的動作是“鎖定”而不是“擦除”——鎖定后設備仍然能啟動到受限恢復模式但所有安全功能關(guān)閉必須通過授權(quán)流程解鎖。只有檢測到等級極高且反復出現(xiàn)比如連續(xù)3次的攻擊信號時才執(zhí)行徹底的密鑰自毀。第三原則是“有攻擊痕跡的失敗要刻意失敗”。防止攻擊者把自己注入的故障偽裝成普通的隨機錯誤。檢測到異常時返回的錯誤碼要特意設計成與普通隨機錯誤不同的值同時要在日志中寫入帶時間戳和事件ID的記錄甚至通過帶外通道比如加密的運維上報通道把異常事件通知到后臺。那些試圖用概率來掩蓋攻擊痕跡的攻擊者最忌諱的就是系統(tǒng)明確知道自己被打過。7.3 故障恢復流程從安全狀態(tài)回到正常運行設定恢復流程時我踩過的坑是“恢復流程本身成為攻擊面”。曾經(jīng)有一個設備檢測到故障注入后重啟重啟后一切正??雌饋戆踩珶o虞。后來做紅隊測試時發(fā)現(xiàn)攻擊者可以在“故障處理例程準備好但還沒重啟”的窗口內(nèi)注入第二個毛刺阻止重啟動作同時跳過之前的錯誤處理邏輯讓系統(tǒng)帶著攻擊者的目標狀態(tài)繼續(xù)運行。最終的解決辦法是故障響應和恢復動作盡量在硬件層面完成而不是依賴軟件例程。比如由外部看門狗負責強制斷電重啟軟件側(cè)只負責設置安全狀態(tài)標志和保存日志不負責“決定何時恢復”?;謴椭笙到y(tǒng)必須先運行一個“健康檢查例程”確認所有傳感器的自檢結(jié)果、關(guān)鍵數(shù)據(jù)區(qū)的完整性、安全狀態(tài)機所處位置都符合預期才能重新進入正常工作流程。健康檢查如果發(fā)現(xiàn)還有任何殘留異常就直接進入更嚴格的故障處理等級不能自行無限循環(huán)重試。8. 驗證與評估怎么證明防御真的有效8.1 自建故障注入測試平臺的基本構(gòu)成防御方案做完了怎么驗證有效性最靠譜的方法是自己先當一回攻擊者。我建議安全研發(fā)團隊盡早搭建一套基礎的故障注入測試平臺不需要一開始就采購幾十萬的激光臺有幾個關(guān)鍵組件就可以做初步驗證。平臺通常由四部分組成待測設備DUT、注入裝置、觸發(fā)控制、結(jié)果觀測。注入裝置最入門的是“電壓毛刺發(fā)生器”用一個大功率MOSFET、電容和精密延時電路就能搭出來成本幾百到幾千元不等。如果預算允許再上一臺電磁注入探頭和配套脈沖源就能覆蓋大多數(shù)攻擊手法。觸發(fā)控制部分需要和DUT的某個活動信號比如串口輸出、GPIO翻轉(zhuǎn)、電流波形做同步精確定位注入時刻。結(jié)果觀測則是最重要的部分。不能只觀測“設備最終是否正常工作”而要把安全關(guān)鍵狀態(tài)比如認證狀態(tài)寄存器、密鑰完好標志、安全日志條目在每次測試前后的變化記錄下來。一套好的測試平臺應該能自動遍歷毛刺寬度、深度、注入時刻三個參數(shù)空間記錄每組參數(shù)下的成功失敗結(jié)果最終輸出一張“故障注入成功率熱力圖”。8.2 怎么判斷一個防御方案“通過”了評估防御方案的時候一個常見的誤區(qū)是只看“攻擊是否成功”。這里要引入兩個更細致的指標故障注入成功率和檢測覆蓋率。故障注入成功率指 “在N次注入中有M次讓安全關(guān)鍵狀態(tài)跳出預期并且沒有被檢測到”。檢測覆蓋率指“所有實際造成的異常狀態(tài)中有多少比例被防御機制發(fā)現(xiàn)并進入了錯誤處理流程”。一個設計優(yōu)良的系統(tǒng)哪怕無法把攻擊成功率降到0至少要把檢測覆蓋率拉到95%以上——因為檢測到并且失敗得安全意味著攻擊者獲得了無用的輸出只有既影響安全狀態(tài)又沒被檢測到才算真正有效攻擊。在測試過程中我會額外關(guān)注“半成功”狀態(tài)設備沒有完全崩潰但也沒有按預期走向安全失敗而是進入了某個不確定狀態(tài)。這類狀態(tài)是最危險的因為它可能讓系統(tǒng)既無法正常服務也沒有觸發(fā)安全報警攻擊者反而可以利用這種“中間態(tài)”繼續(xù)推進攻擊。我在代碼審計時會專門審查所有錯誤處理路徑確保每個“失敗”分支都會導致系統(tǒng)進入明確的、經(jīng)過設計的安全狀態(tài)。實踐中還有一個經(jīng)驗防御方案測完“攻擊不成功”還不夠還要測“攻擊不成功時系統(tǒng)是否能正常恢復”。理想的情況是設備在攻擊后能自動重啟并進入正常狀態(tài)對于機會型攻擊者最常見的場景而不是動不動就鎖死。8.3 紅隊測試中的真實案例分析分享一個我們做過的一次紅隊測試結(jié)果。被測設備是一臺TEE安全芯片驅(qū)動的支付終端團隊在固件中實現(xiàn)了CFI、雙重執(zhí)行、關(guān)鍵變量冗余存儲等多重軟件防護。我們用EMFI探頭對主控芯片做了全自動掃描在約2萬次注入中發(fā)現(xiàn)了3個“敏感窗口”其中1個窗口能讓設備跳過一個非關(guān)鍵的日志記錄步驟但沒有造成安全越權(quán)另外2個窗口會導致設備看門狗復位屬于無效故障。不過這并非說明系統(tǒng)絕對安全。紅隊把掃描結(jié)果和固件反匯編結(jié)果對比后發(fā)現(xiàn)有一個安全關(guān)鍵函數(shù)雖然做了雙重執(zhí)行但編譯器在優(yōu)化時把兩次調(diào)用的指令重排到了一起導致一個寬毛刺可能同時影響兩次計算。雖然最終測試沒有利用成功但這個隱患足以讓我們在后續(xù)構(gòu)建選項中顯式關(guān)閉這個函數(shù)的優(yōu)化并加入?yún)R編級指令屏障保證隔離。這個案例說明軟件層面的防御和編譯器的交互非常微妙。“紙面上設計合理的防護”可能因為編譯器優(yōu)化、鏈接順序、代碼對齊等問題在實際上打了折扣。所以我強烈建議安全關(guān)鍵函數(shù)在發(fā)布前要檢查反匯編代碼確認加固邏輯沒有在優(yōu)化級別-O2/-O3下被意外簡化。9. 常見問題與排查技巧實錄9.1 為什么設備在攻擊測試中經(jīng)?!澳涿钪貑ⅰ痹诠收献⑷霚y試中最常見的結(jié)果不是“安全繞過成功”而是“設備莫名重啟”。許多團隊會把重啟當成“攻擊失敗”的記錄但我的建議是認真統(tǒng)計重啟頻率。重啟本身就是系統(tǒng)對異常的一種反應——如果系統(tǒng)在注入測試中頻繁重啟說明系統(tǒng)的供電監(jiān)測、看門狗等機制在真正起作用攻擊者想單靠毛刺就繞過安全邏輯難度很高。但如果重啟頻率過高以至于影響到正常體驗那說明電壓監(jiān)測的閾值設置得太敏感了。我在調(diào)試中遇到過一個案例設的電壓閾值接近正常工作電壓波動范圍的上限結(jié)果設備在上電瞬間、大電流負載切換時偶發(fā)重啟巡檢日志全是Brown-Out事件。排查方法是把測試設備接上示波器記錄啟動和運行不同階段的實際電壓波形觀察電壓最低點與閾值的余量再留出至少100mV的遲滯帶。9.2 安全檢測代碼報錯但找不到攻擊源系統(tǒng)偶爾觸發(fā)“安全事件報警”但現(xiàn)場排查又找不到任何故障注入設備這是很讓人頭疼的問題。常見的可能性有三類一是電源質(zhì)量差市電接入的毛刺通過電源路徑傳導到芯片讓BOD誤觸發(fā)二是強射頻干擾旁邊的大功率無線設備或變頻器產(chǎn)生窄帶干擾三是軟件自身存在bug例如某個校驗函數(shù)的校驗值計算有誤導致正常情況下的誤報。排查這類問題不能只盯安全模塊本身。我會先從系統(tǒng)的供電環(huán)境入手用一個高帶寬示波器和差分探頭長時間記錄供電波形用電網(wǎng)質(zhì)量分析儀做幾天的連續(xù)監(jiān)測同時把安全事件處理器的日志級別調(diào)高記錄觸發(fā)時刻的系統(tǒng)上下文正在執(zhí)行哪個任務、外設狀態(tài)、系統(tǒng)負載。如果確認無外部攻擊就要考慮代碼邏輯層面重點檢查是否有數(shù)據(jù)競爭或者中斷嵌套導出的校驗值被破壞。最有效的工具是做一個“攻擊特征指紋庫”把不同原因?qū)е碌膱缶瘹w類存放積累一段時間后就能按概率排序快速定位。9.3 編譯器優(yōu)化“吃掉”防御代碼的排查方法編譯器優(yōu)化導致安全防御邏輯失效是特別隱蔽的問題。之前討論過雙重執(zhí)行被重排、CFI校驗被合并這類案例這里補充一個排查方法和一個規(guī)避手段。排查方法是在編譯完成后檢查安全關(guān)鍵函數(shù)的匯編代碼。關(guān)注幾個點校驗變量是否被優(yōu)化掉明明做了冗余賦值匯編里卻找不到對鏡像變量的寫操作、兩次驗證之間是否插入了編譯器自動的指令重排序、安全分支是否被合并成單一比較。如果發(fā)現(xiàn)可疑點直接看編譯器的優(yōu)化報告-fopt-info或者用objdump反匯編核對。規(guī)避手段則包括在安全關(guān)鍵函數(shù)上使用__attribute__((optimize(O0)))或者__attribute__((noinline))把關(guān)鍵變量聲明為volatile防止被優(yōu)化在驗證邏輯之間插入?yún)R編級的內(nèi)存屏障barrier或者用編譯器提供的atomic/fence原語。這里要注意的是這些手段雖然可靠但會犧牲一定的性能和代碼密度所以只建議用在安全關(guān)鍵路徑上不要一股腦都用上。9.4 安全事件處理函數(shù)本身被注入攻擊怎么辦最后一個經(jīng)典問題如果攻擊者的目標不是主流程而是安全事件處理函數(shù)本身呢檢測機制再好如果處理函數(shù)被繞過這些機制就形同虛設。我的實踐心得是安全事件處理邏輯必須和設備主應用隔離。在硬件上使用MPU/TrustZone把安全處理代碼放在獨立的受保護區(qū)域在軟件上安全處理函數(shù)不依賴主應用程序提供任何服務包括內(nèi)存分配、日志寫入、網(wǎng)絡上報都不依賴主應用。同時檢測到攻擊后觸發(fā)的第一動作應該盡量是“硬件動作”——例如拉高某個復位引腳、關(guān)閉外設電源、觸發(fā)DMA擦除——不能只停在軟件變量上。我曾經(jīng)把“三重觸發(fā)機制”寫進設計文檔第一重是軟件中斷第二重是外部看門狗第三重是安全芯片的獨立GPIO輸出。任何一重視乎失效其他兩重都能兜底整體攻擊成功率會被壓得非常低。10. 從項目實踐出發(fā)的一些個人體會寫了這么多技術(shù)細節(jié)最后分享幾段真實的操作體會。第一點故障注入防御不是一次性工程而是一個持續(xù)對抗的過程。攻擊設備越來越便宜、攻擊手法越來越自動化的今天固件升級、甚至現(xiàn)場部署的設備都可能成為新的攻擊目標。防御設計必須跟著威脅演進不斷迭代不能有一勞永逸的心態(tài)。第二點故障注入攻擊的防御本質(zhì)上是“成本和不確定性的游戲”。能把攻擊者的成功率降到一個不可接受的區(qū)間防御就算成功追求百分之百的絕對防護在工程上既不現(xiàn)實也沒有必要——更重要的是設計出“即使攻擊成功也不會造成不可控損失”的系統(tǒng)結(jié)構(gòu)。第三點防止被攻擊的一個隱含前提是“開發(fā)團隊自己先理解攻擊”。我見過太多防御方案是照著安全清單逐條打勾做出來的沒有真正理解每條防御在對抗何種攻擊手段反而在遇到組合攻擊時徹底失效。安全設計和攻擊理解是一體兩面只有先把自己放在攻擊者的位置上思考才能把防御做扎實。最后如果你正準備為自己的產(chǎn)品加入故障注入防護我的建議是從最簡單的“冗余存儲 控制流校驗 獨立電壓監(jiān)控”起步先用基礎防線攔住絕大多數(shù)機會型攻擊者再用紅隊測試實際檢驗防線強度然后針對暴露出的弱點逐步加固。防線可以慢慢加厚但方向和思路一定要在一開始就擺正。這套方法在我經(jīng)歷的項目中反復驗證過穩(wěn)定、務實也希望對你的設計有所幫助。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
丁香色六月| 婷婷丁香五月高清| 26uuu亚洲精品国产| 人人摸人人搞| 久久xx| 人妻五月天激情开心网| 99在线视频资源| 国产操逼网站| 五月丁香天堂网| 一本久道综合色婷婷五月| 97色97干| 天天弄天天爽| 丁香婷婷成年| 五月天网站免费欧美| 99ri6在线视频| 精品综合久久久久久五月天| 婷婷久久婷婷| 99久热| 婷婷五月天无码| 永久思思热在线| 色欲一区二区三区精品A片 | 99热婷婷| 激情综合激情五月一起草| 日操夜操天天操不卡| 五月香六月婷| 日本三级日本三级三级人妇四虎| 欧美成人va| 丁香色六月婷婷| 精品一二三区久久AAA片| 最新五月天婷婷影| 五月天婷婷社区久久综合| 久久大香蕉同僚| 五月天激情偷拍| 丁香婷婷五月综合欧美另类| 97碰碰草| 丁香青青五月天| www.色9| 色婷婷色人人射| 婷婷色一二三区波多野结衣| 六月丁香成人| 性生活视频98791| 日日杆天天| www。五月天。com| 久久久97| 青青热久久综合| 综合网精品99| 丁香六月色| 色婷婷色丁香色欲av| 久久99网站| 狠狠999| 久久久久久久五月| 丁香五月欧美色综合| 国自产拍偷拍精品啪啪一区二区| 91操人| 五月婷婷免费在线观看视频| 亚洲五月天综合| 成人天天爽| 激情五月天在线观看色婷婷| 久久久区区一久久久久久| 综合久久久| 99热亚洲综合| 日本婷婷色| 日本三久久| 99热首页| 狠狠狠狠狠狠狠狠| 丁香五月婷婷啪啪视频| 久久婷婷五月丁香蜜桃网| 无码啪啪| 9久久久久久久久久久| 伊人丁香五月| 丁香六月婷婷综合麻豆| 99在线精品免费视频| 色五月天中文字幕| 思思热久在线观看视频| 婷婷色五月天第7色| 亚洲啪啪视频| 色婷婷在线视频久| 亚洲欧美国产高清vA在线播放| 色五月影视| 色无码| 婷婷亚洲在线| 婷婷丁香五月亚洲免费| 国产精品久久..4399| 五月丁香影院| 五月婷婷综合在线视频| 色婷婷网| 欧美婷婷五月丁香| 中文字幕在线免费观看视频| 欧美成人AAA片一区国产精品| 超碰只有精品在线| 97人人操人人拍| 五月天久久激情| 92久久| 六月丁香五月激情亚洲AV| 少妇口诉沐足视频播放器网址| 激情五月天激情综合网| www.婷婷| 色色色香蕉五月婷| 亚洲性受XXXX五月丁香| www.婷婷五月天.com| 99视频网| 五月丁香色综合| 另类视频在线| 激情久久丁香| 99热这里在线精品| 91热视频色网站| 国产免费一区二区三区三州老师F1F1.CC| 成人 在线 日韩| 国产精品日本一区二区在线播放| 色色综合热| 99色色爰| 伊人婷婷五月| 丁香五月激情网| 丁香五月成人| 欧美久久久久久久久中文字幕| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 生活片五区| 99精品成人无码A片观看金桔| 五月丁香人妻| 色九九九九| 婷婷五月丁香综合亚洲| 婷婷激情五月天视频在线| 夜夜操,天天撸| 九热视频| 大香蕉520| site:pzdcoin.com| 99色综合| 国产成人AV在线| 色七色九九| 91九色中文| www久久99| 丁香五月婷婷基地| 激情网站五月| 五月丁香六月情| 69精品人妻不卡视频| 99视频在线观看欧| 逼特逼在线免费播放| 亚洲综合另类| 天天日天天草| 玖玖精品婷婷| 任你爽精品免费视频6| 色色六月| 99re这里只有| 99热精品在线观看| aaaa.黄| www.夜夜.com| 热久91| 中文字幕欧美精品久久| 婷婷色五月激情| 996热re视频精品视频| 国产亚洲成AV人片在线观黄桃 | bbwcuckold精品熟妇| 五月色婷婷影院| 婷婷五月色惰| www色色色com| 五月天另类综合网| 婷婷丁香久久网| 国产婷婷五月天| 99色热视频| 成人做爰高潮A片免费视频| 少妇婷婷五月天| 婷婷色无码| 99∨VTV| 国产在线6| 综合五月天| www.97干视频| 97色在线| 天天舔天天插天天干| 国产99久久久国产精品免费看| 五月丁香婷婷爱激情综合网| 日韩在线视频9色| 三十路磁力链接| 九九九干精品| 色色色婷婷五月天| 99爱免费在线观看| 99天堂网最新| 丁香五月色| 99色.com| 久热大香蕉| 婷婷丁香五月激情图片| 伊人影院久久网| 人妻久久人妻久久第一区| 96色婷婷| 六月丁香网| 婷婷 亚洲图片 丁香| 九色99视频| 琪琪理论片| www.婷婷六月天| 色欲香综合网| 色九九综合热99| 大香蕉啪啪网| 99久久激情视频| 久久激情五月天| 丁香激情网| 99日韩| 黑人巨粗进入警花疼哭A片| 亚洲婷婷五月天激情综合| 热婷婷久| 97在线观视频免费观看| 色九亚洲| 丁香六月久| 色色色色色色色色五月先| 久久激情五月| 超碰99资源站| 久99久热只有精品国产99| 三级毛片视频| 亚洲操逼片| 9久精品视频| 成人做爰A片免费看视频| 五月花综合视频| 九九热99视频| 欧美成人猛片AAAAAAA| 亚洲激情综合免费| 啪啪婷婷五月天激情| 五月天激情图片网| aaa久久久| 超碰国产在线| www.日本91| 青青福利网| 九九热九九| 久久加勤综合| 国产美女无遮挡裸体毛片A片 | 欧美激情综合色综合啪啪五月| 六月丁香成人| 综合激情婷婷| 99热这里只有精品1025| 91精产一区三区免费观看| 涩涩五月天| 丁香九月婷婷综合| 99热网址| 婷婷中文字幕网| 婷婷激情五月综合在线视频| 337p午夜影院| 欧美婷| aaa丁香五月天| 四月婷婷五月丁香| 欧美日韩成人| 婷婷六月啪啪| www五月| 五月天欧美激情| 久久视频婷婷视频| www.色婷婷| 精品少妇人妻AV无码专区偷人| 婷婷综合网站| 激情五月天偷拍综合网| 天天综合社区| 六月婷婷综合| 精品久久久久久久人妻| 精品三区影院| mmm1717.6dbm人人爱人人操| 98毛片| 人妻九九九九| 4438全国最大视频成人网站在线观看| 人碰人人人玩91| 日本精品人妻无码77777| 日本色五月| 欧美精品99久久久| 成人做爰高潮A片免费视频| 五月婷婷六月天| 色欲天天综合网| 久久天堂网| 五月婷婷日| 91综合色| 九九综合久久| 日韩综合成人| 日本人妻伦在线中文字幕| 五月婷婷丁香六月| 日韩成人精品中文字幕电影| 中文字幕久久婷九女同| 色V狠狠的干| 婷婷在线精品| 日本狠狠爽| 日日干日日s| 天天色,天天操,天天射| 思思热精品在线| 夜夜天天久久婷婷| 天天干天天射色综合| 五月天色婷婷网| 婷婷亚洲欧美丁香五月| www婷婷| 大香网伊人久久综合| 六月婷婷激情| 国产91在线视频| 九97免费视频| 色色操| 成人电影在线免费试看| 久久这里在精品视频| 六月五月久久丁香| 九色无码| 国产人妻777人伦精品HD| 奇米影视777在线_在线观看午夜_h小视频在线观看_岛国大片 | 日本三级毛片| 国内婷婷丁香社区在线播放| 天天操人人干| 五月色综合| 91碰碰视频在线观看| 99视频在线观看视频| 亚洲天堂啪啪| 丁香五月婷婷在线视频| 婷婷五月情| 九九99精品免费播放| 综合网色综合| 六月婷伊人| 丁香五月五月婷婷| 疯狂做受XXXX高潮A片| 99视频日韩| 九九九日本熟女| 欧美色色色| 91成人看片| 色色国产| 久久婷婷久久| 色噜噜婷婷| 五月婷婷精品视频| 天天色综网| 香蕉久操| 丁香五月狠狠在线观看| 色婷婷激情| 国产精品久久久爽爽爽麻豆色哟哟 | 亚洲五月丁香六月婷婷| 在线成人va| 久久伦乱| 丁香五月婷婷AV在线| 久久98| 激情婷婷五月综合| 天天干天天干天天干天天干天天干天天干天天| 日本久久精品| 日韩精品超碰在线观看| 26UUU一区二区| 五月激情婷婷丁香天堂| 99热激情| 任你日视频| 欧美激情综合色综合色| 人妻激情久久| 激情亚洲色图片丁香综合| www九九| 玖玖激情网| 呦呦v线| 深爱激情六月天| 超碰在线资源| 日韩在线婷婷五月天综合| 99热这里只有精品中文字幕| 玖玖色综合网| 一区二区免费看| 日本久碰| www.五月天激情| 免费无码毛片一区二区A片| 成人在线网址| 操一区| 操操自拍| 日本色色色| 婷婷欧美综合| 能看的av网站| 99热欧美在线观看| 99色在线视频| 激情五月综合六月丁香婷婷狠狠干| 婷婷综合五月天| 五月开心久久| 99九九99九九九视频精彩| 一级韩国产精品毛| www.色五月| 99啪啪骑| 色婷婷激情| 99视频网址| 丁香五月成人网| 美女xx不卡| 天天日天天干天天爽| 久久精品日| 中文AV网| 国产成人网站在线观看| 久久婷婷亚洲| 欧美va亚洲va在线播放| 色婷av| www,com,五月色色| 天天插天天狠| 日本三级99人妇网站| 亚洲精色| 站长推荐无码播放| 91丨九色丨东北熟女| 久久五月视频| 日韩人妻在线播放| 在线网黄| 丁香婷婷六月天| 色色亚洲99com| 五月婷婷影| 五月天婷婷社区久久综合| se99视频| 色欲资源网| 婷婷久久图片| 大香蕉人妻| 五月婷婷丁香大陆免费| 国产4P视频精品五区| 97se视频在线| 色婷婷丁香五月天在线视频 | 丁香婷在线| 亚洲精品444久久久久久| WWW,五月| 五月在在观看| a九九热www| 日本婷婷五月天| 婷婷色丁香五月| 美国天天操无码| 思思热精品在线| 国产性色蜜乳| 91精品婷婷国产综合久久| 亚洲爆乳无码精品AAA片蜜桃| www.sezonghe| 亚洲小视频免费播放| 超碰国产在线播放| 亚洲综合五月天婷婷| 五月婷婷色情| 国产欧美婷婷| 日韩av在线免费观看| 大香蕉人妻| www.99热视频| 夜夜夜夜操| 91丨九色丨白浆秘| 思思热99er| 91九色精品熟女内射| 五月婷婷花| 97操视频| 99.N在线视频| 婷婷色资源| 日本色五月| 婷婷激情六月| 五月花亭亭| 99爱视频精品在线观看| 伊人婷婷综合| 一婬一伦一区二区三区| 老师高潮流白浆喷水的A片| 人妻AV在线观看| 天天爽天天干天天| 色婷激情网| 亚洲AV免费在线| 五月婷婷丁香网| 国产乱妇无乱码大黄AA片| 91黄操| 99视频在线| 丁香五月第四色88| 五月综合777| 色五月婷婷色| 超碰在线视屏| 99热综合网| 婷婷五月无码| 伊人久久大香线蕉AV最新午夜| 五月天激情网图片| www.五月天婷婷| 九色91视频| 久久这里有精品| 六月婷婷激情小说网| 新99色色色色色色| 99久久黄色顶级视频| 丝袜大香蕉| 成人欧美日韩| 日韩人妻在线观看| 操一区| 婷婷色网站| 激情五月综合第一页| 91久草五月天婷婷| 五月丁香中文婷婷中文| 99热超| 天天综合色99| 色婷婷色| 91九色国产在线| 色在线99| 99re热视频这里只有综合亚洲| WWW.久久久久久久| 久久综合中文| 天天射夜夜爽| 亚洲 无码 中文字幕 中出| 99视频地址| 怕怕av| 天天爱天天做天天舔| 99re在线观看视频| 九九热视频免费的| 79精品视频在线观看,| 亚洲色五月婷婷| 婷婷丁香五月网| 婷婷久久精品| 五月天综合色| 色五月亚洲| 91丨九色丨首页| 天色色综合网| 六月婷婷综合| 思思99热这里只有精品6| 另类视频丁香五月| 久热免费视频| 五月婷婷丁香| 超级碰碰碰久久网站视频| 91av无码| 丁香五月影院| 五月丁香久久丝袜啪啪| h亚洲| 人人草人人舔| 91欧美日韩| 国产日韩av片| 狠狠狠人妻| 另类五月激情| 91狠狠色| 性爱网五月婷婷| 亚洲热久| 99在线免费视| 99精品视频免费观看| 色99视频| 99爱在线| 五月婷婷干干干| 久久人妻情侣| 久99视频| 亚洲激情Av| 婷婷五月丁香综合| 天天日天天干天天插天天射| 99在线观看| 9色91视频| 色五月激情网| 亚洲另类毛片| 操逼在线视频| 五月婷丁香| 亚洲黄色操逼| 电影《战争与艾拉》免费观看| 久久久久久丁香五月| 影音先锋91| 最近中文字幕大全免费版在线 | 中文字幕97超级碰| A A色色| 色婷婷丁香| 丁香六月婷婷基地| 色狠狠综合网| 99热这里只有精品50| 婷婷五月四狠狠| 五月丁香六月婷婷网站| 99日韩| 色射7856五月天激情四射| 99爱这里只有精品| 久99在线视频| 大香蕉久久久久久久久| 色色成人網| WWW,五月| 伊人五月天97| 亚洲天天综合| 91干婷婷| 99热这里精| 狠狠搞狠狠操| 激情综合无码| 欧美激情综合色综合啪啪五月| 五月婷婷涩涩爱| 九九精品网站| 成人亚洲精品| 久久作爱| www.jiujiujiu| 欧美日本97| 99精品在线下载| 激情五月婷婷综合| 五月丁香婷婷色| 九九大香蕉黄色影院| 中文字幕成人日韩| 国产精品日韩十五区| 国产婷婷色综合AV蜜臀AV| 亚洲欧洲另类| 丁香六月五月天| 狼人婷婷综合| 久久色9| 婷综合六月| 婷婷十月丁香| 91久久久久| 婷婷五月天亚洲综合网| 亚洲一区二区无码蜜乳av| 99久久户外勾搭| 婷婷AV丁香| 99热在线观看| 涩涩五| 中文字幕乱码亚洲精品一区| 婷婷五月激情欧美大胆视频| 日本色99网站| 久久久久久久人妻| 激情丁香六月| 五月激情婷婷丁香| 九九这里只这里只有精品| 激情丁香五月| 亚洲激情区| 大鸡巴伊人网| www.99日本| 婷婷综合精品| 99热国产| 五月丁香狠狠| 九九综合网色全集| 婷色五月| 操逼福利视频| 欧美碰碰碰| 99无码| www.色综合| 五月婷婷激情综合| 欧美草久久五月天91| 色停停影院五月天| 久久综合五月天| www.91.com处女在线直播| 国产亚洲精品久久久久久郑州| 玖玖九九99| 午夜福利成人AV91| 成人片在线播放| 99视频久久免费视频| 国产性av| 日本婷久久| 五月丁香网av| 国产亚洲99久久精品熟女| 狼人婷婷综合| 丁香色啪综合| 九九99香蕉在线视频播放| 五月丁香婷婷六月| 中文字幕乱轮| 无码地址| 日本操B片| 久色网| 天天狠狠色噜噜| 性爱激情小说AV五月丁香花| 大香蕉AV在线| 婷婷亚洲综合| 五月婷婷成人w| 久久aaaaa| 99在线免费观看| 九九亚洲视频| 五月丁香婷婷综合在线| 9超碰在线| 操人无码| 手机旧版看人妻1025| 日本在线免费中文com.| 激情99| 综合色图婷婷| 亚洲色频| 狠狠色丁香婷婷久久综合| 狠狠做五月婷婷| 婷婷丁香五月色偷偷| 色一情一乱一伦一区二区三区| 99热在这里只有精品| 婷婷五月成年人| 成人五月天丁香婷| 久婷婷久草| 五月丁香综合啪啪| 99热99在线| 免费不卡狠操美女视频网 | 婷婷丁香成人| 色综合大香蕉| 色色com| 狠狠色无码| 色婷五月| www.射伊蕉婷婷| 婷婷六月偷拍| 中国女人做爰A片| www.久久爱| 狠狠色噜噜狠狠狠888| 婷婷综合激情五月综合| 狠狠操天天操天天操| 五月激情啪啪啪| 色综合偷拍| 色偷偷人人| 婷婷色网址| 日本啪啪视频HD| AV大香蕉| 国产熟妇的荡欲午夜视频| 五月天婷婷社区| 日本三级韩三级99久久| 日韩人妻在线观看| av在线观看网站| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 在线理论片| 婷婷五月影院| 五月丁香婷婷综合| 婷婷五月激情小说| 夜夜操狠狠操| 狠狠色综合网| 五月激情小说| 免费看成人AA片无码视频吃奶| 激情五月婷| 日日夜夜狠狠| 熟女人妻一区二区三区免费看| 五月综合色| 99久久网站| 色综合久| 精品爱欲五| 丁香五月婷婷激情97| 极品精品一区二区三区在线| 激情婷婷在线| 久久大香免费| 婷婷综合色图| 99在线精品视频免费| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 999婷婷综合| 丁香婷婷黄网站| 俺来也综合网精品一区| WWW.桔色成人.COM入口| 色五月婷激情| 丁香五月天成人网站| 无码色| 九九色综合九九色| 国精产品一区一区三区免费视频| 亚洲色99综合天堂| 五月天天综合| 五月丁香激情片| 丁香五月成人自拍| 夜夜久久综合网| ww亚洲ww在线观看| 五月婷婷狠狠干| 五月丁香六月激情在线| 狠狠干夜夜干| 色色五月婷婷网| 亚洲XX网| 男人天堂亚洲综合| 99热a片免| www.婷婷| 婷婷丁香六月天激情四射网| 任你擦免费视频| 99热99网| 99色色色色| 操一区| 丁香五月天堂婷婷| 狼人婷婷久久| 第四色婷婷五月| 综合网啪| 色情终和网| 99啪99| 丁香五月天天日| 久色五月丁香视频| 四川BBB搡BBB搡多人乱亂| 伊人久热91网| 亚洲成人色五月天| 狠狠色大香蕉| av网站不卡在线| 天天色天天射天天日| 人妻久久久久久久久妻久久久久| 精品色色| 九九婷婷五月天| 狠狠丁香| 日韩aaaaa| 四川BBB搡BBB搡多人乱亂| 色欲五月婷婷| 亚洲色婷婷视频| 热久久这里只有精品| 狠狠爱婷婷色| 少妇人妻凹凸视频| 99热| 日本 欧美在线| 色五狠狠| 国产精品18久久久| 九九热只有这里精品| 五月丁香在线观看| 国产一区二区av免费| 99re热视频这里只有综合亚洲| 婷婷操婷婷干婷婷射| 年轻的妺妺伦理HD中文| 五月婷色色| 五月天婷婷丁香| 超碰操日| 深爱五月中文字幕| 色人久久| 激情婷婷| 色婷婷久久综合| 久久婷婷五月天激情| 激情综合六月| 精品少妇人妻AV无码专区偷人 | 色婷婷五月中文字幕在线dvd| 五月天婷婷色色| 91久操| 婷婷操超碰| 亚洲成人无码免费| 五月天,激情四射,婷婷频道| 国产日产亚系列精品版优势 | 久久人妻系列| 成人av在线网| 黄涩毛片| 91男同视频| 激情六月五月婷婷综合网| 色色色色色色色色网站| 丁香婷婷久久| 婷婷亚洲天堂| 中文字幕在线日亚洲9| 中文字幕丰满人妻无码专区| 极品九九九九九九| 99综合视频| 欧美啪啪五月天| 婷婷五月天久久久| 99视频在线啪| 五月丁香婷婷视频| 9久热免费视频99| 成人av播放| 五月丁香激情四射综合| 色婷久久| 涩涩五月天综合| www.久久| 亚洲激情综合五月婷婷啪啪| 丁香深五月婷婷| 久久少妇视频| 五月婷婷丁香六月| 丁香激情网| 亚洲1区| 久久久人妻| 九九免费在线视频| av在线免费播放观看| 色丁香六月| 9久久精品视频| 大香蕉天堂| 色婷婷黄色网络| 99精品网| 婷婷中文字暮| 色婷婷啪啪啪啪啪啪| 激情四射五月天| 午夜理论片最新午夜理论剧| 久操乱| 六月婷婷视频| 五月天六月丁香| 丁香五月天AV在线 | 另类五月婷婷| 久久看九九90| 26.uuu丁香五月婷婷| 99色婷婷视频| 久久se 综合网| 四月婷婷五月丁香| 99re熱| 五月天婷婷狂暴白浆| 亚洲99在线| 久久成人性爱| 成年视频免费观看| 天天拍天天操| 婷婷五月天在线观看第二页| 伊人久久大香网| 日韩在线看AV| 97精品自拍| 97干婷婷五月天| www.五月天婷婷| JAPANRCEP老熟妇乱子伦视频 | 一级黄色影片| 激情激情激情网| 啪啪黄页网| 色婷婷成人做爰A片免费看网站| 六月丁AV| WWW、日本色丁香co m| 欧美婷婷综合| 九九精品热| 亚洲综合五月天| WWW、日本色丁香、co m| 91日韩美女被插视频| 狠狠干,狠狠操| 天天爽天天| 久久99久久99精品免视看婷婷| 九九狠狠干| 伊人婷婷福利网| 五月婷婷性爱| 高清无码视频网址| 狠狠狠人妻| 久99久视频| 丁香伊人五月色婷婷五十路| 婷婷色色网| www.婷婷六月天| 狠狠狠五月婷婷六月丁香| 区区久久妻| 嫩草国产| 亚洲啪| 免费看欧美成人A片无码| 免费国产视频| 六月合五月婷| 五月丁香伊人网| 夜夜骑操AV| 五月丁香啪啪综合| 九九偷拍网| 日逼影音先锋男人资源站| 丁香五月天婷婷激情| 丁香五月婷婷综合精品素人| 日韩精品二三区| 影音先锋 91工厂| 婷婷色在线| 久久色五月| 99丝袜精品视频网站| 香蕉久操| 国产肥白大熟妇BBBB视频| 久久婷婷视频| 人妻久久久久久久| 青青草tp| 97色操| 狠狠干在线| 五月色色激情网| 激情网婷婷婷| 婷婷色五月情| 婷婷五月天在婷| 丁香五月天BBw| 97婷婷丁香五月| 日日想日日夜日日操| www.婷婷网| 久热久色| 免费色色色| 99er国产| 激情综合色五月六月婷婷| 日本va欧美va精品发布视频| 国庆精品久久| 九九免费精品在线视频| 色亚洲中文| 午夜 外网 精品 在线| 亚洲激情图文小说| 久久99这里| www,色中色| 九九热视频免费| 色色五月婷婷丁香| 丁香五月天啪啪a日本| 九九爱激情| 日婷婷久久开心| 伊人激情影院| 激情婷婷久久| 婷婷色网| 国产精品涩涩涩视频网站| 日本熟妇乱妇熟色A片蜜桃| 中文字幕丰满孑伦无码专区| 国产干逼片| 久久天堂色| 2017人人操| 99九九精品| 五月六月丁香婷婷在线观看| 色五月婷婷DVD| 色狠久| 婷婷久久丁香五月| 欧美成人va| 清纯唯美 激情四射| 激情五月婷色| 亚洲av免费在线| 日本的α片xxxwww| 亚洲 五月 婷婷 成人| 天天插天天插天天插天天插| 日韩高清成人| 亚洲人妻AV| 欧美色必爱| 成人电影在线免费试看| 97色色色视屏| 婷婷干五月综合在线播放| 九九人人精品| 午夜少妇在线观看视频| 91在线人| 91狠狠色丁香婷婷综合久久精品| 我要色综合五月婷婷| 婷婷五月天成人小说| 亚州色婷婷| 久久综合久色欧美综合狠狠| 婷婷五月激情五月丁香五月| 99精品热视频只有精品10| 热这里| 久久久香| 激情五月天。| 亚洲av免费在线| 天天综合天天玩夜夜玩天天玩夜夜玩 | 六月丁香婷婷网| 婷婷综合一二三| www.久久| 黄色一级影片| 色婷婷丁香AV综合| 日韩人妻无码精品| 99久久九九视频| 婷婷综合精品| 色婷婷激情五月天| 色香蕉影院| 丁香五月网| 激情综合激情五月| 超碰成人电影| 91呦呦呦| aaa丁香五月天| 天天色天天| 亚洲乱码日产精品BD在线观看| 综合亚洲AV| 伊人超碰| 超碰在线99| 18久久| 日夜夜天天| 国产激情久久久| 精品九九久久| 亚洲天堂AV免费片| 五月丁香无码| 91窝窝| 丁香六月天婷婷色| 久久久婷| 久婷婷五月综合欧美| 婷婷成人综合五月| 五月丁香六月激情| xx久久| 天天日,天天插| 色香蕉精品五夜婷| 国产精品久久久99视频| 26.uuu丁香五月婷婷| 激情婷婷。| 九热视频这里只有精品| 五月色综合| 丁香五月婷婷啪啪| 色情五月婷| 日韩精品无码AV| 五月情涩综合婷婷| 国产午夜精品一区二区三区四区| 黄色片区子| 日本久久人| 91丨九色熟女丨首页| 婷婷五月六月激情| 婷婷色色综合| 五月丁香激情综合欧美| 少妇高潮A片无套内谢麻豆传| 噜噜噜狠狠色综合| 婷婷在线免费| 久久免费操| 婷婷激情在线| 欧美在线视频免费播放| 激情五月婷婷五月| 9色免费网| 这里只有精品1| 五月色情婷婷| www五月天com| 伊人大蕉香| 中文AV网| 9精品视频在线观看| 亚洲成人网站在线播放| 日本色色网站| 色丁香五月| 欧美色99| 五月婷婷激情久久| 一起草av| 99色综合| 少妇久久诱惑视频| 激情98色婷婷五| 亚洲经典小视频| 变态另类色图 | 亚洲AV无码电影| 激情六月日韩| 日韩欧美老妇性视频91久久久| 久久激情五月| 在线观看中文字幕亚洲| 亚洲综合激情五月久久| 99在线er热| 97热91| 久久思思精品| 99操免费视频| 91chinese在线| 五月丁香久久综合| 精品香蕉99久久久久网站| www五月天激情com| 黄色91在线观看| 狠狠丁香| www.狠狠狠狠| av五月丁香婷婷网| 另类专区在线| 久久99热这里| 久久久91精品| 殴美综合激情五月天免费视频| 色综合天堂| 日本综合久久| 狠狠色综合网站| 97黑人精品区| 亚洲精品99| 久狠日av| 99色视频在线观看最新| 色色色热| 丁香婷婷色五月| 色色色99| 岛国在线观看91| 天天操天天插| 婷色人人狠| 丁J香六月首页| 亚洲中文字幕网| 99re26视频| 91丨九色丨熟女丰满| 婷婷色网| 五月婷婷69| 亚洲精品va| 婷婷综合av| 婷婷精品视频| 丁香婷婷基地| 丁香六月色婷婷欧美| 日日操夜夜操中国无码| 色色色色色色色色综合网| 丁香婷婷色五月天| 五月丁香婷婷色色| 国产干逼片| 六月婷婷五月天| 婷婷五月丁香基地| 色综久久AV| 91色在线 | 日韩| 白人荫道BBWBBB大荫道| 婷婷色在线视频| 五月丁香六月色婷婷| 91大神操美女| 丁香五月亚洲综合| 五月婷久久| 久久久27操| 色婷婷先锋| 丁香五月六月久久综合 | 激情五月婷婷综合网| 丁香五月播播| 亚洲天天操| 丁香五月天婷婷久久综合| 久久久婷丁香五月天激情综合| 荫道BBWBBB高潮潮喷| 五月丁香久久网| 五月婷婷啪啪啪啪| 婷婷六月婷婷| 99人妻碰碰碰久久久久禁片| 91亚洲免费片| 亚洲 在线 另类| 丁香六月婷婷色XXXXX| 九九视频在线| 99热99干| 六月伊人婷婷| 怡红院 久久| 超碰在线超碰| 伊人久热91网| 视频一区二区在线| 另类小说五月天| 99热免费精品| 99久热在线精品| 五月天婷婷丁香| 综合一本道| 日日夜夜小色哥| 六月丁香婷婷网| 婷婷久久五月| 2015好吊操| 狠狠爱综合| A片一曲| 日韩AV片| 九色七七| 肏屄色播伊人97婷婷| 久久久精品99| 欧美69色| 五月丁香六月婷婷的女人| 日本一区二区三区精品视频| 久久婷婷五月丁香蜜桃网| 少妇搡BBBB搡BBB搡毛茸茸| 丁香五月自拍| 九久9精品| 99无码精品| 九九亚洲视频| 久久久五月天| 色五月欧美| 天天操天天插| www婷婷| 午夜一区| 亚洲亚洲人成综合网络| CHINESE熟女老女人HD视频 | 色五月婷婷内射| 人人人舔人人人操人人人摸人人人97| 日韩六十路91性交电影| 丁香伊人激情| 另类小说婷婷色| 婷婷爱五月天人人爱| 99热无码| 开心激情综合| www.色婷婷| 久9久成人精品视频| 香蕉狠狠爱视频| 99超级碰免费视频| 99热免费观看| 精品国产乱码久久久久夜深人妻| 国产精品99久久久久久久女警| 亚洲色久| 久在线88综合| 色婷婷无吗| 久久精品五月天| 91九九| 日本婷婷丁香五月| 婷婷激情5月| 可以看的av网站| 综合激情在线| 国产激情综合五月久久| 欧美精品XXXXBBBB| 狠狠ri| 日本97久久久精品| 99热爱爱干干日| ,99视频久久| 开心五月色婷婷综合开心网| 婷婷五月天综合网| 99热在线只有精品| 国产AV一区二区三区最新精品 | 国产六月婷婷| 婷婷色基地| 九九久久五月天| 色婷婷激情| 人妻免费网站| 大香蕉九操| 九九久久99| 色五月亚洲| www.色五月| 亚洲成人av在线观看 | 97色婷婷| 激情AV中文| 亚洲天堂亚洲色色色| 亚洲欧美999| 色五月激情五月| 五月丁小婷婷激情四射| 偷偷操99| 思思热性操| 久9久成人精品视频| 午夜天堂一区人妻| 九月色婷婷综合| 青青热久久综合| 这里只有精品视频在线| 五月丁香影视| 青青草五月天| 婷婷激情五月天激情在线| 激情六月天婷婷| 成人精品在线| 狠狠色大香蕉| 亚洲狠狠狠色婷婷综合激情久久久| 五月天综合在线观看视频| 狠狠色色| 噜噜操操| 不卡影院午夜理论片| 三级三久久线久久99久目本WW| 激情小说色五月| 超碰av在线| 26uuu精品一区二区| 天天插天天插| 九九久久99精品免费观看www| 丁香婷婷五月六月天| 思思热精品在线| 激情五月婷婷啪啪| 五月丁香AV、伊人业余、性色熟妇| 夜夜躁婷婷AV| 丁香成人色情五月天| 亚洲六月婷| 婷婷久久综合久| 69久热| 人人爽人人爽人人爽人人爽| 狠狠干狠狠色| 婷婷va| 五月丁香六月婷婷亚洲综合| 99re6在线视频精品免费| 色一情一乱一乱一区91| 开心色五月天久久久久久久| 天天摸天天日天天舔| 色的色综合| 超碰久热| 夜夜躁婷婷AV| 婷婷五月天激情基地| 黄色热99| 激情精品久久| 久久婷婷五月综合| 91色吧网| www.深爱激情| 五月婷婷啪啪啪啪| 色9色| 色爱亚洲| 色婷婷97| 五月天成人综合| 久久久婷丁香五月天激情综合| 色五月天在线观看| 99福利视频导航| 色婷婷香蕉丁丁网| 99精品国产在热久久| 五月丁香日本在线视频观看| 五月综合久久| 久草五月| 五月亭亭直播| 综合亚洲六月婷婷在线| 综合大香蕉| www婷婷| 成人 在线 日韩| 超碰超碰在线| 五月丁香啪啪婷婷| 久久精品五月天| 久久六月天| 丁香五月欧美成人| 99热精品在线播放| 伊人激情| 91人妻PORNY九色大屁股| 欧洲99视频在线| 丁香六月婷| 久久99久久99精品免视看婷婷| 国产古装妇女野外A片| 天天摸日日舔狠狠添婷婷婷| 丁香五月激情图片婷婷|