欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署 做運(yùn)維的最煩的一類重復(fù)勞動是什么我個人的答案不是故障排查也不是上線變更而是裝系統(tǒng)。故障排查好歹有挑戰(zhàn)性上變更也算有點(diǎn)儀式感裝系統(tǒng)純粹是體力活。尤其是有幾十臺裸機(jī)需要交付的時候光盤加U盤一臺一臺懟一下午下來人都是麻的而且手動操作最容易出岔子機(jī)器配置稍有不同分區(qū)方案和基礎(chǔ)設(shè)置就容易弄亂。后來我把目光轉(zhuǎn)向PXE批量裝機(jī)才算是把這個環(huán)節(jié)真正從“人肉模式”切換到了“半自動流水線”。這篇文章就把我折騰PXE的完整過程、踩過的坑、以及最終沉淀下來的方案一次性說清楚。PXEPreboot eXecution Environment預(yù)啟動執(zhí)行環(huán)境簡單講就是讓機(jī)器通過網(wǎng)卡引導(dǎo)系統(tǒng)不需要任何本地存儲介質(zhì)介入。配合DHCP自動分配地址、TFTP傳輸引導(dǎo)文件、HTTP或NFS提供安裝源、Kickstart應(yīng)答文件自動填表一套批量裝機(jī)系統(tǒng)就能在半小時內(nèi)完成從規(guī)劃到上線。整個過程的核心思路是只在一臺服務(wù)器上做一次配置后面所有客戶端機(jī)器只要設(shè)好網(wǎng)絡(luò)啟動選項(xiàng)就能全自動完成系統(tǒng)的部署、分區(qū)、配置和基礎(chǔ)軟件安裝。這篇文章適合所有承擔(dān)過批量交付任務(wù)的運(yùn)維工程師、網(wǎng)管、以及想深入理解Linux網(wǎng)絡(luò)引導(dǎo)原理的學(xué)習(xí)者。不會只講命令怎么敲我會把每個關(guān)鍵組件“為什么這么設(shè)計”也一并講透并附上實(shí)操中真正會遇到的故障和對應(yīng)排查方法。1. 內(nèi)容整體設(shè)計與思路拆解1.1 裝機(jī)這件事為什么要“網(wǎng)絡(luò)化”先從需求說起。假設(shè)你面前有30臺配置相近的服務(wù)器需要統(tǒng)一安裝某個Linux發(fā)行版并預(yù)設(shè)同樣的主機(jī)名規(guī)則、分區(qū)結(jié)構(gòu)、網(wǎng)絡(luò)參數(shù)和初始化用戶。傳統(tǒng)手工裝機(jī)的流程是制作啟動盤、逐臺插拔、選擇鏡像、分區(qū)、寫配置、裝系統(tǒng)、然后手工執(zhí)行后續(xù)腳本。操作周期的重復(fù)度非常高人工介入越久出現(xiàn)偏差的概率越大比如分區(qū)時手滑選錯盤或者軟件包列表沒勾全都可能在交付后暴露成線上問題。用PXE之后流程變成了所有機(jī)器上電開機(jī)網(wǎng)卡主動廣播DHCP請求獲得IP地址和引導(dǎo)文件位置再通過TFTP把引導(dǎo)程序拉下來引導(dǎo)程序去讀取指定安裝源按Kickstart文件里的答案自動完成整個安裝。人只需要在控制臺提前確認(rèn)好默認(rèn)引導(dǎo)菜單剩下的全部交給鏈路自動執(zhí)行。這解決了三個關(guān)鍵問題規(guī)模化交付、配置一致性、無人值守。從原理上看PXE起始于客戶端的網(wǎng)卡固件。網(wǎng)卡固件在啟動階段啟用PXE協(xié)議棧發(fā)出DHCP廣播DHCP服務(wù)器不僅返回IP地址還帶上引導(dǎo)信息比如文件名和服務(wù)器IP。隨后客戶端通過TFTP從引導(dǎo)服務(wù)器拉取引導(dǎo)文件這個文件通常是pxelinux.0或grub相關(guān)的引導(dǎo)器。引導(dǎo)器運(yùn)行后讀取菜單配置文件決定從哪個鏡像啟動最終加載內(nèi)核和解耦然后掛載安裝源開始系統(tǒng)安裝。1.2 方案選型一體化還是分離式搭建PXE環(huán)境有兩條主流路線。一條是用dnsmasq把所有服務(wù)合成一個進(jìn)程順帶把DHCP和TFTP都干了安裝源則用一個HTTP服務(wù)承載。另一條是分離部署DHCP用dhcpd、TFTP用tftp-hpa、HTTP用nginx或httpd各司其職。一開始我圖省事用了一體化方案確實(shí)上手快但等環(huán)境復(fù)雜到要管理多網(wǎng)段、多系統(tǒng)鏡像時單進(jìn)程配置就變得臃腫排障也要從一堆日志里撈。后來生產(chǎn)環(huán)境我全部改成了分離方案。分離方案的好處有很多。DHCP作為整個PXE鏈路的入口配置相對獨(dú)立調(diào)試時不會牽連其他服務(wù)TFTP服務(wù)只在引導(dǎo)階段工作傳輸量小獨(dú)立部署可以單獨(dú)調(diào)整超時和并發(fā)參數(shù)HTTP服務(wù)是安裝源的核心獨(dú)立出來天然支持多目錄、多版本鏡像并行。而且三個服務(wù)進(jìn)程獨(dú)立重啟不會出現(xiàn)一個配置錯了全家起不來的尷尬局面??刂品?wù)器建議用長期支持版本的系統(tǒng)比如Rocky Linux 9或Debian穩(wěn)定版分配一個靜態(tài)內(nèi)網(wǎng)IP。所有PXE相關(guān)的流量都建議在獨(dú)立管理網(wǎng)段中進(jìn)行避免和業(yè)務(wù)流量混跑。安全問題也不要忽略內(nèi)網(wǎng)雖然默認(rèn)可信但TFTP本身沒有認(rèn)證機(jī)制HTTP端口也經(jīng)常是弱防護(hù)區(qū)所以管理網(wǎng)段建議與業(yè)務(wù)網(wǎng)段物理或邏輯隔離至少要做好對應(yīng)的網(wǎng)絡(luò)訪問控制。1.3 鏈路階段拆解從網(wǎng)卡啟動到系統(tǒng)交付完整的PXE裝機(jī)鏈路在原理上可以分為五個階段。第一階段是預(yù)啟動環(huán)境也就是網(wǎng)卡固件發(fā)起DHCP廣播這一步需要客戶端在BIOS或UEFI中開啟網(wǎng)絡(luò)啟動選項(xiàng)并設(shè)置正確的引導(dǎo)順序。第二階段是引導(dǎo)加載階段客戶端通過TFTP獲取引導(dǎo)器引導(dǎo)器再加載內(nèi)核和解耦文件。第三階段是啟動安裝程序階段內(nèi)核掛載initrd后安裝程序開始運(yùn)行并通過引導(dǎo)參數(shù)中的路徑去獲取應(yīng)答文件。第四階段是系統(tǒng)安裝階段安裝程序根據(jù)應(yīng)答文件訪問HTTP安裝源完成文件拷貝、引導(dǎo)安裝和基礎(chǔ)配置。第五階段是首次啟動初始化安裝完成后重啟系統(tǒng)首次啟動執(zhí)行cloud-init、自定義腳本等收尾動作。這里面任何一個環(huán)節(jié)出問題表現(xiàn)都可能極其相似比如卡在某個界面不動、報超時、或者直接拿到一個空內(nèi)核環(huán)境。所以做PXE排障必須牢牢記住這條鏈路順序配合抓包和服務(wù)日志定位才不會亂猜原因。2. 核心組件解析與配置要點(diǎn)2.1 DHCPPXE鏈路的入口總開關(guān)DHCP是PXE啟動的起點(diǎn)。客戶端上電后網(wǎng)卡固件發(fā)出DHCP Discover服務(wù)器需要提供兩組信息一組是常規(guī)IP參數(shù)另一組是PXE引導(dǎo)參數(shù)。常規(guī)參數(shù)包括IP地址、子網(wǎng)掩碼、網(wǎng)關(guān)和DNS。PXE引導(dǎo)參數(shù)則通過DHCP Option 66TFTP服務(wù)器地址和Option 67引導(dǎo)文件名傳遞或者在新版協(xié)議中使用Option 150等擴(kuò)展字段。簡單起見配置時直接把next-server指向TFTP服務(wù)器IP把filename寫成引導(dǎo)文件名。dhcpd配置里相對容易踩的坑是子網(wǎng)聲明和網(wǎng)卡接口綁定。一臺PXE控制服務(wù)器往往有多個網(wǎng)口務(wù)必確認(rèn)DHCP服務(wù)監(jiān)聽的網(wǎng)卡就是通向客戶端網(wǎng)段的那個網(wǎng)卡。啟動服務(wù)后第一步不要急著連客戶端測試先在本機(jī)跑一下DHCP請求模擬驗(yàn)證確認(rèn)服務(wù)能正常分配地址再進(jìn)入下一步。這個習(xí)慣能省下大量神經(jīng)。配置DHCP時還有一個容易被新手忽略的細(xì)節(jié)如果目標(biāo)網(wǎng)段存在其他DHCP服務(wù)器一定要在配置里嚴(yán)格限定子網(wǎng)作用域甚至用allow unknown-clients結(jié)合MAC白名單來控制。PXE環(huán)境講究的是可控如果混進(jìn)來一個非法DHCP服務(wù)器所有客戶端引導(dǎo)都會亂套。2.2 TFTP經(jīng)典小步快跑瓶頸也在小TFTP的作用范圍很有限只在客戶端獲取引導(dǎo)器的初始階段用到。因?yàn)檫@個階段網(wǎng)絡(luò)棧還很簡單無法承載復(fù)雜協(xié)議所以選用TFTP這種基礎(chǔ)文件傳輸協(xié)議。TFTP默認(rèn)基于UDP 69端口數(shù)據(jù)包小且沒有復(fù)雜的握手和狀態(tài)機(jī)實(shí)現(xiàn)簡化到了極致。協(xié)議的代價是傳輸效率低尤其是默認(rèn)塊大小512字節(jié)時傳一個幾兆字節(jié)的引導(dǎo)文件都會有明顯延遲。解決效率問題有兩個辦法。一是調(diào)整引導(dǎo)器的pxelinux.0加載后的內(nèi)核和解耦文件傳送這是不可避免走TFTP的但引導(dǎo)器本身足夠小。二是讓引導(dǎo)器后期從HTTP獲取內(nèi)核和initrd繞過TFTP的低效率。SYSLINUX系列引導(dǎo)器支持菜單配置里直接用HTTP URL加載內(nèi)核。我生產(chǎn)環(huán)境就是用HTTP承載內(nèi)核和initrdTFTP只保底傳pxelinux.0和菜單文件實(shí)測安裝速度比純TFTP快不少。TFTP配置上不建議用xinetd管理的版本直接安裝獨(dú)立的tftpd-hpa在配置文件中明確指定blocksize 1468乃至更大值減少包往返次數(shù)。同時把超時時間調(diào)大一些否則幾十臺客戶端同時廣播請求時偶發(fā)的瞬時丟包會觸發(fā)重傳超時直接表現(xiàn)為客戶端拿不到菜單。2.3 HTTP安裝源鏡像、倉庫與目錄規(guī)劃PXE引導(dǎo)成功后系統(tǒng)的安裝數(shù)據(jù)就全部從安裝源獲取。安裝源用HTTP承載比用NFS省心得多不依賴特定協(xié)議棧瀏覽器、CIFS、普通抓包工具都能訪問排查也直觀。我通常用nginx作為安裝源服務(wù)器配置非常簡單設(shè)置一個根目錄把各類發(fā)行版的ISO鏡像掛在對應(yīng)子目錄同時目錄結(jié)構(gòu)保持清晰可讀。鏡像的加載方式有兩個選擇直接把整個ISO文件放在磁盤上然后通過loop掛載或者把ISO內(nèi)容解壓到目錄中通過目錄訪問。前者省磁盤空間但每次訪問都需要內(nèi)核處理loop設(shè)備后者浪費(fèi)點(diǎn)空間但訪問效率高、部署直觀。我推薦把ISO解壓到目錄然后軟鏈或nginx alias指向它。需要注意掛載ISO時用mount -o loop解壓時尤其不要遺漏隱藏文件因?yàn)長inux ISO中有些配置文件和校驗(yàn)文件是以點(diǎn)開頭的。HTTP服務(wù)的響應(yīng)速度和并發(fā)也值得關(guān)注。默認(rèn)nginx配置就行不必額外調(diào)優(yōu)。但如果客戶端數(shù)量很大比如同時有幾十上百臺機(jī)器在拉包可以考慮把HTTP的日志級別降低減少磁盤寫日志帶來的性能損耗。還有一點(diǎn)確認(rèn)HTTP服務(wù)對安裝源目錄沒有做目錄列表限制或鑒權(quán)攔截否則安裝程序會在從源讀取元數(shù)據(jù)時報403。2.4 Kickstart無人值守的關(guān)鍵開關(guān)Kickstart是一種自動化應(yīng)答文件安裝程序按它的內(nèi)容自動回答原本必須人工交互的每一項(xiàng)問題。文件包括磁盤分區(qū)方案、文件系統(tǒng)類型、軟件包列表、語言與鍵盤布局、時區(qū)、root密碼、網(wǎng)絡(luò)配置、安全策略、以及首次啟動要執(zhí)行的腳本。這個文件是整個PXE方案里最能體現(xiàn)設(shè)計水平的地方。一份好的Kickstart文件應(yīng)該把“通用的安裝邏輯”和“每臺機(jī)器的差異項(xiàng)”分開。通用的部分比如基礎(chǔ)軟件包組、分區(qū)模板、時區(qū)、語言統(tǒng)一寫在ks文件里。有差異的地方比如主機(jī)名、IP地址、部分服務(wù)開關(guān)通過引導(dǎo)參數(shù)傳遞再用%pre腳本動態(tài)處理。這樣一套配置文件就能管住一個機(jī)房的環(huán)境而不是為每種硬件規(guī)格寫一份單獨(dú)的ks。分區(qū)方案建議采用LVM預(yù)留足夠的/home或/data空間給業(yè)務(wù)數(shù)據(jù)/boot獨(dú)立出來swap大小按物理內(nèi)存的1到2倍規(guī)劃。對于服務(wù)器場景根分區(qū)容量可以適當(dāng)給足后續(xù)擴(kuò)容少折騰。軟件包選擇上用最小化安裝加必要工具組寧可裝少了后期再補(bǔ)也別一上來把整組圖形化都裝上。2.5 網(wǎng)絡(luò)規(guī)劃與安全邊界PXE依賴網(wǎng)絡(luò)的程度比日常運(yùn)維高一個量級對網(wǎng)絡(luò)環(huán)境的要求也苛刻一些。首先是交換機(jī)端口客戶端機(jī)器所在的交換機(jī)下聯(lián)口不建議開啟端口隔離或個別準(zhǔn)入策略至少要讓DHCP Discover、TFTP客戶端請求、HTTP請求都能順利穿過。其次是VLAN劃分管理網(wǎng)段和業(yè)務(wù)網(wǎng)段分開PXE服務(wù)只監(jiān)聽管理網(wǎng)段避免誤用DHCP干擾業(yè)務(wù)地址池。最后是網(wǎng)關(guān)和廣播域DHCP Discover是廣播報文客戶端和服務(wù)器必須在同一個二層廣播域里跨三層就需要配置DHCP中繼代理。安全方面TFTP默認(rèn)不限制訪問目錄建議在TFTP目錄內(nèi)部做好讀寫權(quán)限控制只開放必要的子目錄。HTTP服務(wù)如果沒有特殊需求不建議直接綁定到公網(wǎng)網(wǎng)口。PXE環(huán)境如果可能接觸不受信任的客戶端考慮在DHCP服務(wù)中啟用動態(tài)分配合約或IP/MAC綁定保證只有已知的客戶端才能獲得引導(dǎo)資格。3. 實(shí)操全流程從零搭建一套可用的PXE環(huán)境3.1 準(zhǔn)備工作與基礎(chǔ)環(huán)境初始化我以一套Rocky Linux 9服務(wù)器作為控制端客戶端統(tǒng)一安裝同版本系統(tǒng)為例??刂品?wù)器的IP規(guī)劃為192.168.110.10客戶端網(wǎng)段192.168.110.0/24。數(shù)據(jù)庫術(shù)語上我們稱這臺服務(wù)器為PXE控制器其他所有機(jī)器都作為PXE客戶端。開始之前先把本機(jī)系統(tǒng)更新好關(guān)閉或放行對應(yīng)的防火墻端口并安裝所需軟件包。涉及的核心服務(wù)端口有三類DHCP使用UDP 67、TFTP使用UDP 69、HTTP使用TCP 80。如果控制端啟用了防火墻需要提前放行這組端口。同時要確認(rèn)SELinux不會攔截HTTP服務(wù)讀取掛載目錄最簡單的方式是把安裝源目錄的標(biāo)準(zhǔn)上下文手動設(shè)置一下或者臨時調(diào)整SELinux布爾值我建議按目錄標(biāo)準(zhǔn)設(shè)定上下文而不是直接關(guān)閉SELinux。# 安裝所需軟件包 dnf install -y dhcp-server tftp-server syslinux-tftpboot nginx3.2 DHCP配置明確引導(dǎo)入口編輯/etc/dhcp/dhcpd.conf定義子網(wǎng)和PXE引導(dǎo)參數(shù)。這里核心是next-server和filename兩個選項(xiàng)。一個基礎(chǔ)配置模板如下subnet 192.168.110.0 netmask 255.255.255.0 { range 192.168.110.100 192.168.110.200; option routers 192.168.110.1; option domain-name-servers 192.168.110.10; option subnet-mask 255.255.255.0; next-server 192.168.110.10; filename pxelinux.0; default-lease-time 3600; max-lease-time 7200; }next-server告訴你TFTP服務(wù)器在哪里filename告訴該取什么引導(dǎo)文件。配置好之后啟動服務(wù)并檢查日志確認(rèn)沒有語法錯誤。有一點(diǎn)我后來又改進(jìn)了公司內(nèi)部有多個網(wǎng)段PXE客戶端跨越了VLAN這就需要在每個VLAN的網(wǎng)關(guān)設(shè)備上配置DHCP中繼或者用DHCP服務(wù)端同時監(jiān)聽多個子網(wǎng)有條件可以配置基于端口的動態(tài)分配。3.3 TFTP引導(dǎo)環(huán)境放置引導(dǎo)器和菜單安裝syslinux-tftpboot后把pxelinux.0、菜單模塊、內(nèi)核和解耦文件放到TFTP根目錄。這里的常規(guī)TFTP根目錄是/var/lib/tftpboot實(shí)際路徑看發(fā)行版差異。拷貝引導(dǎo)器cp /usr/share/syslinux/pxelinux.0 /var/lib/tftpboot/ mkdir -p /var/lib/tftpboot/pxelinux.cfg創(chuàng)建/var/lib/tftpboot/pxelinux.cfg/default作為默認(rèn)引導(dǎo)菜單。我先讓客戶端啟動到安裝程序所有具體的鏡像選擇都放在這個菜單里。默認(rèn)菜單內(nèi)容如下DEFAULT menu.c32 PROMPT 0 MENU TITLE PXE Boot Menu TIMEOUT 100 LABEL linux MENU LABEL Install Rocky Linux 9 x86_64 KERNEL images/rocky9/vmlinuz APPEND initrdimages/rocky9/initrd.img kshttp://192.168.110.10/ks/ks.cfg這段配置里KERNEL指向內(nèi)核文件在TFTP根下的相對路徑APPEND里的initrd參數(shù)告訴引導(dǎo)器加載哪個解耦文件ks參數(shù)用HTTP URL指定Kickstart文件位置。注意如果使用UEFI引導(dǎo)環(huán)境圖形化菜單模塊選用menu.c32可能不生效需要根據(jù)啟動模式針對性配置。TFTP根目錄、權(quán)限和SELinux上下文都要配套。TFTP服務(wù)默認(rèn)對目錄有讀取權(quán)限要求如果用tftp-hpa默認(rèn)用戶是tftp需要保證引導(dǎo)文件對tftp用戶可讀使用chmod 644即可。如果啟用了SELinuxtftp服務(wù)有對應(yīng)的布爾值開關(guān)我因?yàn)閳D省事踩過一整晚的坑最后是檢查/var/log/messages才定位到SELinux攔截了TFTP讀取。3.4 HTTP安裝源掛載ISO并配置訪問安裝源放在nginx目錄下。先把ISO鏡像拷貝到控制服務(wù)器或者直接掛載然后創(chuàng)建軟鏈接指向解壓目錄。我的做法是統(tǒng)一放在/data/pxe/iso每個鏡像一個目錄同時給客戶端訪問路徑以簡潔的URL展示。mkdir -p /data/pxe/iso mount -o loop rocky9.iso /mnt/rocky9 cp -a /mnt/rocky9/. /data/pxe/iso/rocky9/nginx配置指向這個目錄server { listen 80 default_server; root /data/pxe/iso; autoindex on; }autoindex on是必要的雖然Kickstart不一定需要目錄列表但調(diào)試時可以先用瀏覽器訪問目錄確認(rèn)鏡像文件是否完整可見。安裝時安裝程序會訪問repodata目錄抓取軟件包元數(shù)據(jù)所以目錄里必須有這個文件如果ISO拷貝不完整經(jīng)常會在安裝進(jìn)度走到一半時報倉庫加載失敗。3.5 Kickstart應(yīng)答文件編寫兼顧通用與個性Kickstart文件放在HTTP服務(wù)下路徑/ks/ks.cfg對應(yīng)磁盤路徑/data/pxe/ks/。下面這個腳本是適應(yīng)多機(jī)器的通用模板已在多臺物理機(jī)上跑通過。# 版式Kickstart 格式 install url --urlhttp://192.168.110.10/rocky9/ lang en_US.UTF-8 keyboard us timezone Asia/Shanghai rootpw --iscrypted $6$... authconfig --enableshadow --passalgosha512 selinux --enforcing firewall --disabled firstboot --disable # 磁盤與引導(dǎo)配置 zerombr clearpart --all --initlabel part /boot --fstypexfs --size1024 part pv.01 --size1 --grow volgroup vg0 pv.01 logvol / --fstypexfs --nameroot --vgnamevg0 --size40960 logvol swap --fstypeswap --nameswap --vgnamevg0 --size4096 logvol /data --fstypexfs --namedata --vgnamevg0 --size1 --grow # 軟件包配置 %packages core vim wget %end # 首次啟動自定義 %post --log/root/pxe-post.log echo PXE install completed /root/pxe-post.log %end這個文件的關(guān)鍵在于分區(qū)策略和軟件包配置。分區(qū)統(tǒng)一走LVM后續(xù)擴(kuò)展不再需要停機(jī)調(diào)整物理分區(qū)。%post腳本用于安裝完成后做定制操作比如寫主機(jī)名、配置SSH key、添加用戶等。我是習(xí)慣在%post里通過讀取DHCP的hostname或預(yù)設(shè)參數(shù)來生成每臺機(jī)器的主機(jī)名這樣就不需要每臺機(jī)器手工改主機(jī)名了。第一段代碼里的root密碼以密文形式存放。生成方法可以用openssl passwd -6或者grub-crypt絕對不要寫明文密碼。整個Kickstart文件在HTTP目錄中時確認(rèn)權(quán)限盡量收緊比如只用root可讀寫但如果需要遠(yuǎn)程修改也可以另設(shè)專用賬號。3.6 客戶端啟動驗(yàn)證與參數(shù)傳遞技巧配置全部就位后在一臺測試機(jī)上將其啟動方式設(shè)置為網(wǎng)絡(luò)啟動開始觀察安裝流程。理想情況下控制臺會依次出現(xiàn)PXE準(zhǔn)備階段、引導(dǎo)菜單、內(nèi)核加載、安裝程序初始化然后進(jìn)入無人值守安裝。全程大約10分鐘期間不需要任何人工干預(yù)。如果希望客戶端能自動區(qū)分不同主機(jī)名或不同分區(qū)配置可以使用Kickstart里的%pre腳本配合引導(dǎo)參數(shù)實(shí)現(xiàn)。引導(dǎo)器APPEND里可以帶自定義參數(shù)比如hostnameweb01然后在%pre中解析這些參數(shù)并寫入對應(yīng)配置文件。這種方式比客戶端都讀同一個模塊更靈活也方便和資產(chǎn)管理平臺打通。%pre --log/tmp/ks-pre.log hostname$(find /proc/cmdline -o -print | grep hostname | cut -d -f2) echo $hostname /etc/hostname %end還有一個小技巧是把menu.c32作為默認(rèn)引導(dǎo)菜單同時鍵盤快捷鍵可以快速進(jìn)入shell方便調(diào)試。實(shí)際使用中我在APPEND里經(jīng)常額外加一個ipdhcp參數(shù)確保安裝程序正確獲取網(wǎng)絡(luò)配置避免因?yàn)榫W(wǎng)卡名混亂導(dǎo)致連不上安裝源。4. 常見問題與排查技巧實(shí)錄4.1 客戶端卡在“PXE-E51: No DHCP or proxyDHCP offers”這個報錯說明DHCP階段就沒通。排查順序很明確看看DHCP服務(wù)是否在跑監(jiān)聽端口是否是67確認(rèn)客戶端和服務(wù)器在同一二層網(wǎng)絡(luò)檢查防火墻是否丟棄了UDP 67報文。如果服務(wù)正常再用tcpdump在服務(wù)器側(cè)抓包觀察DHCP Discover是否能收到。這類問題九成是網(wǎng)絡(luò)隔離或服務(wù)監(jiān)聽錯了接口。4.2 客戶端能拿到IP但TFTP下載引導(dǎo)文件超時此時DHCP已經(jīng)成功問題出在引導(dǎo)文件獲取階段。常見原因包括TFTP服務(wù)器沒放行UDP 69端口、pxelinux.0文件不存在、或文件權(quán)限不對。另外一個很容易忽略的是filename里如果寫了路徑比如filename pxelinux.0TFTP服務(wù)會把它當(dāng)作相對路徑拼接在根目錄之后路徑寫錯會直接404。建議先用tftp命令行手動測試一遍文件下載能手動下載成功再談客戶端引導(dǎo)。tftp 192.168.110.10 -c get pxelinux.04.3 引導(dǎo)菜單正常顯示但內(nèi)核啟動后黑屏或Kernel Panic這類問題一般和引導(dǎo)參數(shù)有關(guān)。最常見的是APPEND里沒有指定正確initrd或者vmlinuz和initrd.img與系統(tǒng)架構(gòu)不匹配。另一個常見坑是UEFI機(jī)器加載了BIOS版引導(dǎo)文件導(dǎo)致啟動協(xié)議不符。當(dāng)前架構(gòu)統(tǒng)一使用UEFI引導(dǎo)我配置時都會放兩套引導(dǎo)文件按啟動模式提供不同文件名從一開始避免混用。4.4 安裝程序已啟動但在獲取倉庫或安裝軟件包階段失敗安裝程序能跑起來說明引導(dǎo)鏈路OK之后的失敗通常都和HTTP源有關(guān)。建議先訪問http://192.168.110.10確認(rèn)目錄列表能看到ISO內(nèi)容。如果目錄能打開但安裝報404請看Kickstart里url --url寫的具體路徑是否與nginx目錄的alias或軟鏈路徑對應(yīng)。還有一個容易踩的坑如果通過mount -o loop臨時掛載ISO服務(wù)器一重啟掛載點(diǎn)就消失。我的建議是把ISO解壓到目錄后長期保留避免循環(huán)掛載依賴進(jìn)程狀態(tài)。4.5 Kickstart文件無法讀取如果引導(dǎo)器能找到kshttp://...但安裝程序提示解析錯誤或訪問失敗先用瀏覽器或curl確認(rèn)該URL可以正常返回內(nèi)容再檢查文件格式。Kickstart文件其實(shí)對行尾和編碼有要求Windows下編輯過再傳到服務(wù)器很容易栽在回車符差異上。另一個隱蔽的問題是文件中出現(xiàn)空行、注釋錯位或者使用了不支持的指令建議安裝前用ksvalidator做一次語法驗(yàn)證能省去大量現(xiàn)場調(diào)試時間。4.6 大規(guī)模并發(fā)安裝時的延時與資源瓶頸同時引導(dǎo)幾十臺客戶端時DHCP、TFTP、HTTP三個服務(wù)都可能成為瓶頸。DHCP層面可以把default-lease-time縮短讓地址盡早釋放TFTP層面引導(dǎo)器文件本身傳輸盡力減小必要時僅傳輸引導(dǎo)器內(nèi)核和initrd走HTTPHTTP層面建議把所有安裝源目錄的冗余日志級別關(guān)閉同時nginx開啟sendfile和aio并考慮采用proxy_cache做倉庫包緩存。實(shí)測中同樣的配置優(yōu)化HTTP路徑后并發(fā)20臺以上也能穩(wěn)定交付。4.7 安裝完成后首次啟動進(jìn)不了系統(tǒng)這類問題多出在引導(dǎo)加載器安裝和分區(qū)設(shè)計上。如果/boot分區(qū)存在但內(nèi)核沒寫入引導(dǎo)項(xiàng)檢查Kickstart里是否包含bootloader --locationmbr或UEFI相關(guān)參數(shù)。此外部分機(jī)器因固件原因在PXE安裝后還保留PXE啟動順序?qū)е轮貑⒂只氐骄W(wǎng)絡(luò)啟動菜單。處理辦法是在Kickstart%post階段寫一段腳本將啟動順序調(diào)整為本機(jī)磁盤優(yōu)先或者依靠UEFI的引導(dǎo)管理器設(shè)置。5. 擴(kuò)展場景與現(xiàn)實(shí)經(jīng)驗(yàn)PXE不止能裝單機(jī)系統(tǒng)稍微擴(kuò)展一下邏輯就能覆蓋多種運(yùn)維場景。比如配合模板鏡像可以用PXE引導(dǎo)一個內(nèi)存系統(tǒng)然后在內(nèi)存系統(tǒng)里執(zhí)行克隆、備份或抽檢硬件固件信息再比如把Kickstart文件里的軟件包列表換成某一業(yè)務(wù)組的常用軟件集合就相當(dāng)于批量交付了統(tǒng)一基線還能和監(jiān)控平臺打通讓安裝完成后的系統(tǒng)第一時間自動上報到CMDB。我在實(shí)際落地中還總結(jié)了一條經(jīng)驗(yàn)PXE的搭建代碼相對固定難的不是寫配置而是對網(wǎng)絡(luò)細(xì)節(jié)的理解和異常處理。每次導(dǎo)入一批新機(jī)型我都會先拿一臺樣機(jī)完整跑一遍安裝觀察日志里是否有新硬件導(dǎo)致的異常再決定是否批量執(zhí)行。如果機(jī)器網(wǎng)卡型號較新引導(dǎo)階段可能還需要嵌入廠商網(wǎng)卡驅(qū)動否則會出現(xiàn)內(nèi)核無法識別網(wǎng)卡而無法進(jìn)入安裝程序的怪問題。后來說個非常實(shí)用的小技巧建議把控制服務(wù)器上的配置做版本管理至少對dhcpd.conf、nginx配置和Kickstart腳本打上git標(biāo)簽。出現(xiàn)配置回退時幾秒鐘就能恢復(fù)。做PXE的樂趣就在于前期配置雖然瑣碎但換來的是一勞永逸的交付能力這種投入非常值得。祝各位順利跑通自己的PXE鏈路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
碰99在线| 开心五月婷婷六月丁香| 国产在这里只有精品| 99精品偷自拍| 99热这里只有精品96| 99免费在线视频| www.婷婷五月| 色狠狠综合| 婷婷丁香九月| 99操| 婷婷五月综合婷婷| 51精品国自产在线| 色综合天天天天做夜夜| 欧美97超碰| 天天干天天 亚洲| 国产午夜精品一区二区三区嫩草| 思思热热久久| 欧美日韩中国| 99色婷婷视频| 狠狠做五月婷婷| 99爱视频免费| 日本ww亚洲| 熟妇内谢69XXXXXA片| 色五月天中文字幕| 欧美三级视频| 99成人| 久久丁香婷婷五月| 五月亭亭狠狠| www.久9| 婷婷久久亚洲| 久热 91| 激情五月天婷婷| 激情五月天视频| 色综合激情| 日夜操B| 天天干天天操天天拍| 婷婷五月天受日本法律保护| 中文字幕日本最新乱码视频| 综合图片色色| 金桔一区二区ab地址| 婷婷99狠狠| 人人爽人人射-美女久久久久久久久久-成人AV | 丁香熟女乱| 天天做夜夜爽| 超碰狠狠操| 人人摸人人| 五月激情六月| 婷婷自拍| 啪啪一区| 九九婷婷网五月天| 久久九九视频网站| 337p大胆噜噜噜噜噜91Av| 五月天无码视屏播放| 五月激情四射网站| 久久人人九九| 夜夜夜叫天天天做| 亚洲视频操| 色天堂在线| 热九九精品| 99人妻碰碰久久久禁片| 久久婷婷综合基地| 亚洲激情图文小说| 久久国产高潮白浆免费观看99| 国产精品视频| A网在线欧洲| 免费播放片大片| 五月婷婷婷| 狠狠色无码| 色99www.| 男人操女人高潮91视频| 婷婷五月在线播放| 超碰在线99| 日韩艹比| 丁香婷婷五月| 天天插综合网| 婷婷六月天激情影院| 婷婷第一页| 超碰99久久| 欧洲亚洲免费视频区| 婷婷激情五月天激情小说| 日韩人妻在线观看| 色五月综合网| 久久久人妻久久久| 九九综合网色全集| www.久99| 综合网亚洲| 天天成人丁香美女AV| 亚洲免费观看高清完整版AV线| 亚洲五月花| 天天爽天天摸| 亚洲看av的网站| 人人操人人看97干| 五月做爱| 婷婷色导航| 久久久久久18| 丁香激情网| 精a品a视a频| 国产精品久久久久久久久久| 97人人搞| 婷婷五月天成人网站| 色欲天天综合网| 风流少妇A片一区二区蜜桃| 草综合14| 五月天精品视频| 成人五月天婷婷| #NAME?| 99亚洲视频| 99 re视频一区| 天天干,天天日| 日韩视频99| 啪啪一区| 91|九色|动漫| 蜜乳人妻一区二区三区| 欧美高潮9| 婷婷五月激情网| 另类综合色| 久久这里只有精品网| 婷婷精品在线| 午夜爱插插| 一起草日本| 国产偷人爽久久久久久老妇APP| 97碰人人操| 99热这里只有的精品视| 激情 婷婷 插| 丁香五月综合色婷婷| 久久ab| 国产精品在线视频| 欧洲亚洲免费视频9| 91九九九九九九| 久久伊人大香蕉| 中文在线成人| 婷婷丁香五月激情密臀av| 天天草天天舔| 天天做天天要天天爽| 亚洲精品国产成人AV在线| 久久日本wwww色| 国产又爽又猛又粗的视频A片| 这里只有精品免费视频| 色色操| 国产白丝在线一区| 欧美成人性爱网| 涩涩婷婷五月| 色婷婷激情视频| 成人色情五月天婷婷丁香| 综合AV在线| 99视频久久久| WWW,五月| 秋霞A V毛片| 99内射视频| 97久久久久久久久久久| 九热网站| 婷婷五月天久久综合88| 一本色道久久88加勒比—| 丁香五月激情啪啪啪| 婷婷五月欧美综合| 久久蜜臀婷婷| 无码AV免费精品一区二区三区| 人人干av| 亚洲国产精品SUV| 亚洲免费看片| 99精彩视频网站在线| 婷婷伊人綜合中文字幕小说| 九九AV| 亚洲天天| 国产SUV精品一区二区883| 开心五月婷婷激情| 99热精品在线观看| 婷婷色色亚洲| 五月天伊人久久久久| 色婷婷另类| 天花AV无码| 人碰91| 五月婷婷九九久久| 97干在线看| 91人人澡人人爽人人看| 国产91视频| 婷婷她六月天| 天天射天天射一道本日本社区 | 久久98| 无码色| 天天干电影| 六月色色| 婷婷D区| 丁香五月婷婷香| 99资源人人| 丁香五月综合激情性爱| 激情五月综合网| 日韩九区| 亚洲精品色色| 日韩人妻无码一区二区| 情婷婷五月天| 武则天精品久久| 婷婷激情社区| 久久性爱网| 影音先锋男人av资源站| 久久总和99| 色噜噜综合网| 久久色五月天综合网| 俺去也五月天婷婷| 色色com| 国外亚洲成AV人片在线观看| www色综合亚洲92| 99黄色在线视频精品熟女| 操久久网| www.激情五月天com| 丁香五月激情婷婷婷婷在线观看| 26uuu| 天天日天天爽| 99热亚州综合| 99免费综合网| 天天高潮夜夜爽| 成人一级片| 99热伊人| 天天日夜夜欢| 密桃激情五月天综合网| 91婷婷搞| 亚洲妇女熟BBW| 国产亚洲99久久精品熟女| www.无码com| 婷婷6月综合网| 六月天六月婷| 激情五月影院| 五月丁香五月丁香五月丁香五月丁香91| 影音先锋 萱萱| 狠狠久久婷五月| 天天成人综合视频| 五月天色社区| 亚洲AV无码成人精品电影| 九九色精品| 激情五月色综合| 色婷婷九月综合| 综合一区二区三区| 182.t午在线观看| 日本熟妇精品99| 欧洲免费视频色| 超碰女人天堂| 中文字幕黄色电影网址| 婷婷五月丁香高清无码| 激情五月天开心| 人妻少妇色综合| 久久丁香婷婷五月| 丁香五月冃欧美| 99热最新| 日本高清不卡免费一区二区三区| 丁香婷婷综合五月天| 九九色综合九九色| www.天天干| 色综合播放| 五月天激情小说婷婷| 无码色色| 性欧美大战久久久久久久83| 亚洲色五月| 激情婷婷99| 久久这里都是精品免费| 久久狠狠干| www超碰com| 五月天激情综合网站| 婷婷五月天视频亚洲| 色五月天丁香| 综合五月丁香六月婷婷| 夜夜操激情| 婷婷五月天av| 91人人操人人看| 一级A片天天操夜夜操| 婷婷五月av| 久久五月天丁香| 五月婷婷在线网站| 丁香六月婷婷综合| 久草五月| 五月丁香色婷婷| 人人摸人人操人人爽| 丁香五月婷婷影院| 五月丁香婷久久| 五月丁香拍拍激情综合| 国产精品久久欧美久久一区| 狠狠看狠狠| 玖玖无码中文| 五月亭亭色| 武汉美女啪啪视频免费一级片| 囯产精品久久欠久久久久久九大| 激情五月丁香五月| 一区二区成人电影| 亚洲欧洲国产精品| 日韩在线一级| 啪啪操超碰| 亚洲热综合| 97涩婷婷| 五月色俺婷婷| www.婷婷五月.com| 色狠久| 9久热视频| 秋霞电影理论| 激情五月天久久| 五月丁香天天| 美女婷婷激情亚洲| 97热九九| 99爱在线视频| 久久婷婷内射| 五月婷婷色色色| 亚洲成人AV在线观看| 99思思热只有在这里看| 欧美碰碰| 91丨九色丨熟女丰满| 大香蕉久久久久久久久| 五月婷六月丁香| 欧美 色婷婷| 情涩婷婷五月天| 婷婷成人av| 人人视频色| 91九色PORNY肉丝在线| 激情五月婷婷在线| 停停六月 综合| 在线视频激情网站| 婷婷五月丁香综合亚洲| 中字幕视频在线永久在线观看免费 | 熟女人妻一区二区三区免费看| 激情四射五月天| 婷婷啪啪| 午夜丁香六月婷| 另类少妇人与禽zOZZ0性伦| 伊人超碰| 99超级超级超级碰| 国产无人区大片| 色情婷婷。| 九九久久99精品免费观看www| 美女黄频aⅴ视频| 99免费在线| 九月丁香八月婷婷久久综合久97| 99色在线观看免费| 久久性爱99国产| 久久人人人人妻| 久久久婷婷五月天| 超碰日日操| 亭亭色色五月天| 婷婷色网站| VA婷婷| 色色三级视频| 久操97| 99 r热| 成人国产欧美大片一区| 精品A√| 99爱99操| 中国女人做爰A片| 狠狠狠狠狠操| 天堂爱啪啪| 91日韩在线| 天天成人五月天| 国产成人精品亚洲线观看| 丁香五月六月欧美| 丁香五月婷婷啪| 国产精品一区在线观看你懂的| 色婷婷五月亚洲| 久久五月婷综合网| 天天天天操| 五月婷婷之六月丁香| 九九综合九| 五月婷婷色播| 婷婷五月综合啪| 超碰在线99热| 91色呦哟| 26uuu亚洲| 26uuu激情五月天| 丁香色影院| 91啪啪视频| 丁香五月久久综合| 亚洲av成人在线| 欧州婷婷五月天综合| 久er7久热| 99热久97| 逼特逼在线免费播放| 亚卅毛片| 综合色综合| 91性高潮久久久久久久久| 思思9久久| 殴美激情综合网| 26UUU在线观看| 超碰日日操| 丁香伍月婷电影全集| 九九成人视频| 99re思思| 五月婷婷狠狠干| www.天天干| 青青草成人网| 五月婷婷亞洲中文| 色。 日日日| 激情婷婷视频在线| 懂色av粉嫩av蜜臀av| 亚洲综合1024| 婷婷丁香五月天激情| 99在线观看视频精品| 亚洲网综合在线| 色色a| 久久五月天黄色五月天色网址| 插逼综合网| 97碰精品| 中文字幕无码AV| 狠狠狠狠狠狠| 色色色网站| 26uuu另类| xxxx五月| 丁香花色色网| 综合久久久| 狠干综合| 97婷婷五月激情六月丁香伊人| 日韩AV无码影片| 激情网婷婷五月天| 直接看的AV| 色五月综合婷婷| 亚洲第一色色色| 97干视频| 久久免费高| 免费看欧美成人A片无码| 久久99久久99精品免视看婷婷| 婷婷激情五月综合| 丁香综合网| www.五月婷婷久久.com| av国产精品偷| 大香蕉伊人99| 97九色| 97超喷视频在线观看| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | www.五月天社区| 狠狠狠人妻| 婷婷在线播放av| 影音先锋一区| 乱码操操| 欧亚洲在线高清视频| 99日本在线| 超碰男人色| 成人AV网站在线| 日本在线观看91| 九九色情网五月天| 伊人大蕉香| 激情久久月| 五月婷天堂视频| 色婷婷影视99| 91性人人| yellow视频在线观看91| 国产色色小草视频| 色色色色色色色色色色色色色97| 99狠狠色| 久久免费操| 色婷婷色综合久久精品V| 欧美日本免费一道免费视频| 香蕉AV777XXX色综合一区| 欧美精品XXXXBBBB| 五月伊人91| 99热九九九九| 99人人干人人操| 日韩无码专区| 91聚色综合网| 综合玖玖偷拍| 性色人人爽| 99热精品网| 久久这里99| 五月婷婷无码专区| 日韩在线五月天婷婷| 深爱激情丁香五月| 久久久久人妻精品| 天天爽天天草| 综合五月丁香六月婷婷| 色欲婷婷五月天| 婷婷五月在线视频| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 丁香五月综合网| 五月婷无码| 天天操五月天| 五月丁香激情片| 狠狠狠狠狠狠狠狠狠狠狠色宗合图片| 色综合激情| 97久久精品| 91九色精品熟女内射| 天天日天天肏天天奸| 99热精品超碰| 婷婷丁香视频在线观看免费| 五月花婷婷丁香| 狠狠色综合网| 激情五月天 婷婷| 无码激情AAAAA片-区区| 日韩视频女神99| 欧美视频五区| 日本片日本片祼观看网站在线看中文版网页在线看 | 五月激情偷拍| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 99爱最新免费视频在线观看| 久久色五月| 精品色色| 婷丁香五月天| 五月天中文字幕在线婷婷| 欧美成人色婷婷| 九九AV| 99只有精品9| 成人av在线电影| sewuyuejiqingwang| 天天日天天爽| 国产真实乱对白精彩| 久久婷婷91| 国产成人精品一区二三区熟女在线 | 色丁香婷婷| 欧美三级巜人妻互换| 久久黄色片| 九月激情综合| 蜜乳中文字| 丁香色婷婷| 五月丁香花激情啪啪网| 精品人妻伦| 99视频在线精品| 99热只有| 婷婷色五月大香蕉在线观看| 可以免费看的av网站| 噜噜视频| 精品99在线看| 国产VA亚洲VA96| 九九热在线精品视频| 99视频日韩| 美女天天艹人人爽| 97精品自拍| 无码少妇高潮喷水A片免费| 久久婷婷91| 噜噜色噜噜网| 在线播放人妻| 激情99热| 激情五月婷| www.婷婷.com| 六月丁香婷婷天堂| 亚洲色色色| 91精品婷婷国产综合| 婷婷激情丁五月| 丁香婷婷网| 青996青| 婷婷六月色播| 5月丁香综合图区| 蜜乳9188| 五月婷婷激情综合网| 激情久久 婷婷| 五月丁香婷婷激情澎湃四射| 亚洲中字AV电影在线网站| 97人妻碰碰中文无码久热丝袜| 激情五月天社区| 五月天久久小说| 五月丁综合在线观看| 91色逼| 久久九九re热| 色久丁香五| 色婷大香蕉| 五月丁香婷婷俺| 九九色网专区| 婷婷干| 99热在线这里只有精品| 97精品人人A片免费看| 婷婷99狠狠躁天天| 丁香九月婷| 久久久色情| 天天干天天叉| 热婷婷av| 五月天深爱激情网| 国产首页在线| 丁香婷婷中文字幕| 丁香婷婷大香蕉| 狠狠干婷婷| 91日韩在线| 182TV大香蕉| 五月天社区婷婷丁香社区| 欧美月久久| 噜噜噜色噜噜| 99碰碰碰| 色久综合| 色综合久久88色综合天天99| 成人短视频在线| PORNY九色9l自拍视频成人| 色噜噜狠狠色综合成人网| 99资源在线视频| 激情五月天伊人影院| 色婷婷性爱网| 噜噜久| 丁香九色不卡aaa| 天天综合亚洲综合| 久久九九Com| 婷婷五月天BBw| 丁香亚洲色综合| 停停五月丁香| 日本久久视频| 色偷偷五月天| xxx日本东京热| 玖玖@三月天天丁香婷婷| 色五开心五月五月深深爱| 色很久综合| www,黄色在线,con| 久久五月丁香伊人青草| 色五月激情五月| 亚洲激情另类| 丁香密臀AV激情网| 天天艹| 操逼综合网| 无码动漫AV| 丁香综合久久| 五月天婷婷AV| 综合激情在线| 五月总合激情网| 久久色在线视频| 五月婷婷内射网| 九九Av| 99久热| WWW.桔色成人.COM| 99视频在线| 色色99| 亚洲操操操| 99无码视频| 国产成人精品一区二三区熟女在线| 成人免费120分钟啪啪| AA片在线观看视频在线播放| 婷婷在线日韩综合| 影音先锋 一区| 人人干女人| 99re在线精品视频| 久久婷婷色综合| 色色婷| 婷婷五月欧美综合| 另类激情网| 色噜噜狠噜噜视频| 欧美成人A片AAA片在线播放 | av亚洲国产小电影| 色婷婷狠狠久久综合五月 | 99亚洲精品视频| 思思99热| 99热欲| 91|九色|动漫| 色婷婷基地在线| 色婷婷丁香五月丁香| 夜夜骑福利资源| 蜜乳中文字| AV成人在线播放| 思思热视频在线观看| 精品国产乱码久久久久夜深人妻| 久久久久久久久久久jjjj| 久久一级片| 艹天天射| 人人亚洲| 看国产探花操逼三级片| 六月丁香网| 色屌丝中文字幕| 51精品国自产在线| 狠狠草网| 国产 A片 自拍| 99re思思热久久| WWW.99热| 国产午夜成人免费看片无遮挡| 97人妻人人| 欧美操人| 亚洲色综合性| 色色五月婷| .青娱乐天天操B| 五月婷中文字幕| 99久久久| 99久久久精品| 五月色情婷婷| 丁香久久| 日本99热| 婷婷激情五月视频| 丁香五月婷婷无码AV| 色情综合网| 人人爱国产| 黄色av高清| 超碰免费在线| 色婷婷久综合久久一本国产AV| 婷婷综合色色| 免费视频WWW在线观看网站| 月色色综合婷婷网| 91热er| 丁香五月中文字幕色播| 一本大道熟女人妻中文字幕在线| 干一干xxxx| 午夜爱爱爱成人| 天天日天天摸| 亚洲乱码日产精品BD| 亚洲无码成人| 天天插天天插天天插| 玖玖热视频| 99热99思午夜精品| 国产精品久久在线观看技巧| 青青草激情网| 少妇性BBB搡BBB爽爽爽视頻| 99九色视频在线观看| 婷婷五月情天| 成人国产欧美大片一区| 综合视频久久| 婷婷色丁香六月| 色五月激情网| 综合网啪啪| 丁香六月无码播放| 九九性视频| 大香蕉天堂| 久久激情五月天| 能看的av| 99久久久久| 日婷婷| 色一色综合| 色五月丁香五月| 狠狠搞狠狠操| 91男人资源站| 狠狠狠狠狠狠狠狠草| 欧美精品99久久久| 六月婷婷综合久久| 婷婷五月色播放| 99日这里只有精品| 五月激情小说| 亚洲免费观看高清完整版AV线| 五月婷婷和六月| 色99网| www久久艹| 成人免费va| 色色色九九九五月婷婷| 五月天激情在线视频| 五月丁香免费看| 欧美久久网| 狠狠色狠狠操| 中文字幕精品推荐免费在线观| 秋霞电影理论| 五月天色五月| 影音先锋一区| 色婷婷a v| 97超级免费无码| 久香草视频在线观看| 99久在线视频| 9热在线视频| 欧美婷婷色五月| 丁香六月婷婷色XXXX| 国产 A片 自拍| 色五月成人| 99re热精品在线视频| 久久WW| 亚洲熟女乱色综合亚洲网站| 97色色综合| 色约约视频一区二区三区四区五区| 99久久er| 色婷婷五月天av在线| 天天干肏夜夜| 又大又粗九一在线| 婷婷五月天亚洲图片| 丁香五月五月婷婷欧美大香蕉| 激情五月天综合图片小说网站| 操操碰| av在线超清中文| 女人天堂AV| 狠狠丁香| 思思热在线精品视频| 色色色色色五月丁香| 五月婷婷激情网| 1024你懂的欧美曰韩| 天天婷婷| 哇嘎成人久久| 五月婷啪| 婷婷精品| 久久婷五月天| 五月丁香六月婷婷综合网| 久操大香蕉| 欧洲精品欧洲情| 免费视频WWW在线观看网站| 婷婷久久国产视频| 人人摸人人操人人爱| 99啪啪视频| 久久这有这里精品| 国产美女无遮挡裸体毛片A片| 五月天亚洲最大成人| 色伦专区97中文字幕| 开心五月深爱激情| 久久女人九九| 久99久精品视频| 六月婷婷色综合| 婷婷伊人綜合中文字幕小说| 91超碰人人操| 九九这里只有精品| 五月婷婷深爱六月| 丁香激情五月天| 亚洲综合丁香五月天| 五月天啪啪网| 久久思思热| 色婷五月天| 天天弄天天操| 欧美va亚洲va在线播放| 午夜]香婷婷深深爱| av人人干| 草综合网| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品 | 色色色色色色色色五月先| 激情五月丁香婷婷夜夜操| 99国产精品久久久久久久久久久 | 九九综合88| 伊人网碰碰| 五月天婷婷六月激情网| 1000部毛片A片免费观看| 日日操,夜夜爽| 婷婷九月丁香天堂丁香天堂| 色99视频| 五月色婷婷AV| 五月丁香综合影院| 人人播| 久久九精品| 婷婷色色欧美| 五月婷婷久久综合| 六月丁香基地| 9久热视频| 亚洲视频五区| 五月婷丁香久久久| 超碰在线播放免费观看| 免费看欧美成人A片无码| 激情五月天丁香| 婷婷五月丁香亚洲| 日日干天天射| 精品福利911| 97热久久| 五月婷婷激情综合网| 日本女天天爽| 五月激情六月丁香| 99热这里只有精品搜| 91久久1118| 99碰碰| 狠狠久综合| 国产综合视频婷婷| 人与禽A片啪啪| 久久久久久久人妻| 亚洲激情无码久久| 超级碰 久久9| 婷婷丁香十月| 日日夜夜婷婷| 五月天激日本色情在线| 久久婷综| 亚洲视频99| 丁香五月婷婷色综合基地| 婷婷六月激情综合| 99久久性爱| 欧美婷婷五月天综合| 色综合com| 欧美婷| 超碰91在线| 丁香五月 性爱| 久久人妻人人| 激情综合4月| 在线亚洲综合| 亚洲妇女熟BBW| 岛国av电影网站| 婷婷中文无码| 拍色综合| 三级三久久线久久99久目本WW| 97色五月天| 色吧五月婷婷| 9精品国产在热久久| 六月色色| 九九这里是免费的视频5| 清色五月天| 五月丁香婷婷久久| www99xxxx五月丁| 亚洲乱码日产精品BD| 六月丁香啪啪啪| 国产精品色一哟哟| 五月丁香在线视频观看| 丁香五月综合激情啪啪| 免费无码毛片一区二区A片 | 我淫我色婷婷五月天激情四射| 99爱视频免费| 天天日天天舔| 97色婷婷五月天| 激情美女五月天| 丁香六月激情四射| 日韩天堂久久| 久久精品国产一区二区三区四区| 五月天色区| 99热99热| 99亚色色色| 六月婷久久| 亚洲九九99精品视频在线播放| 久久激情五月| 天天插天天插| 天天插插天天| 激情五月天之六月婷婷| 天天久久66xxx| 非洲一级AV| 亚洲啪啪精品| 亚洲精品无码A片一区二区| 五月天婷婷社区| www.99热视频| 久久超视频| 丁香五月婷婷色| A√天堂网在线| 激情久久久| 色六月婷婷| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 97 A I色色| 午夜婷婷五月天| 开心五月深爱五月婷| 婷婷五月天天| 亚洲无码11| 亚洲乱码日产精品BD| 五月天丁香综合久久国产| 九热视频| av中文在线| 久久久久久久久久8888| 人人摸人人操人人爽| 五月丁香久久呀| 久久久久久久,99精品视频| 日韩免费视频| 99国产精品久久久久久久久久久| 99热在线观看| 日韩操人| 久久色天堂| 天天爽天天| 亚洲熟妇无码乱子AV电影| 欧美婷婷综合| 99热在线观看免费精品| 99色视频在线| 亚洲va成人va成人va在线观看| 五月婷婷丁香色播网| 五月天婷婷高清无码| renre人人操国产超碰在线| 爱草视频在线| 丁香五月在线视频黑人| 五月综合影院| 第四色婷婷色五月| 丁香五月综合激情久久潮喷| 美女亚洲五月丁香| 国内裸舞二区| 玖玖资源站国产| 第四色色六月色综合| 亚洲愉拍99热成人精品| 五月丁香色色网| aaaaa黄色| 99热日韩这里只有精品| 久久九九怡红院| 99这里只有精品国产| 五月激情丁香五月宗合| 麻豆123区| 婷婷五月18永久免费视频| 亚洲五月情| 99A片| 深爱激情丁香五月| 亚洲va成人va成人va在线观看| 五夜丁香| 久久久久久欧美精品se一二三四| 九九综合伊人| 婷婷激情六月| 噼里啪啦完整版中文在线观看 | 国模淫穴色图| 天天日综合| 玖玖爱资源站| 99色色网| 人妻日日日| 超碰丁香五月| 国产免费一区二区三州老师F1F1| 激情av| www.minyis.com【JT】实力收量可预付TG@LXSPSW8 | 成人五月天在线视频在线观看| 亚洲激情色色| 性色天| 91中文在线| 熟妇内谢69XXXXXA片| 精品婷婷丁香五| 欧美色色色色色色色色色色| 欧美噜噜噜草| 开心五月丁香啪| 亚洲婷婷免费| 久久99久久99久久99人受| 五月激情小说| 啪啪五月婷婷| 婷婷色情网| 久久五月综合| 5月婷婷性视频| 97色色视频| 色射影院| 成人国产欧美大片一区| 国产色99| 激情桃色网 | WWW.99视频| mmm1717.6dbm人人爱人人操| 亚艹艹| 九九色精品| A短视频免费在线观看| 亚洲AV成人无码电影| 激情综合五月| 狠狠草天天草| 五月天久久网站| 超碰久热| 精品人妻伦九区久久AAA片| 国产色香蕉精品五夜婷| 99五月丁香丁| 天天摸天天日天天舔| 日韩 中文 欧美| 蜜臀AV在线观看| 97碰人人操| 激情综合色五月六月婷婷| 六月久久狠狠| 97涩涩丁香五月天| 色天五月天在线观看视频| 丁香五月婷婷网| 成人va在线| 婷婷大香蕉| 激情五月六月丁香| 久久五月激情综合| 九九九九精品精| 欧美天堂久久| 亚洲九九在线| 色999亚洲人成色| 日本久久九| 97成人丁香婷婷| 99热这里只有精品最新网址| 狠狠干无码| 久久五月丁香综合| 婷婷五月激情图片| 天干干夜夜操| 日本久久婷婷| 午夜成人av在线| 91丨九色丨熟女|新版| 丁香五月婷婷丫| 色爱99| 久久婷婷丁香花综合网| 综合久| av在线色五月丁香婷区久| 97在线精品| 中文字幕av久久爽| 婷婷五月天改成什么了| 99综合| 九九热在线精品视频| 色婷婷AV在线| 久8色色| 五月婷婷激情网| 婷婷六月视频| 婷婷中文字暮| 国产美女无遮挡裸体毛片A片 | 久久 婷婷 五月天| 最近中文字幕2019视频1| 国产免费AV网站| 五月综合无码| 久久人妻少妇嫩草AV| 9999久久久久| 99热这里| 91高潮喷水久久久久久久久| 婷婷五月丁香激情色情| 91九色精品熟女内射| 色五月大| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 激情婷婷网| 欧美精品在线观看| 丁香五月情色| 天天综合中文| 五月天丁香色色| 婷婷五月丁香影院| 五月天亚洲综合网| ..真实国产乱子伦毛片 | 婷婷五月天激情在线观看| 久久婷婷伊人| 亚洲综合另类| 五月激情婷婷在线| www.99精品日操伊人乱碰在线| 色五月无码| 天天日,天天插| 中文精品在| 激情五月丁香六月婷婷| 国产人妻777人伦精品HD| www.99热| 亚洲综合九九| 色五月丁香网| 加勒比日本一区二区三区| 色五月丁香六月婷婷| 国产精品色情AAAAA片软件| 中文字幕丰满乱孑伦无码专区| 超碰人人射| 久久99精品久久久久久噜噜| 五月激情婷婷国产精品久久久久久| 国产精品18久久久| 五月婷在线影院| 婷婷色五月天在线| 色亭亭丁香五月天| 五月天黄色激情小说| 精品一二三区久久AAA片| 色色色视频免费无码| 五月丁香六月婷婷网| www久久99| 婷婷五月天网| 五月丁香九九| 99热99热不卡| 九九精品9| 99综合免费视频| 99碰碰。| 天天操天天爱天天玩| 五月丁香综合色婷婷| 亚洲99在线| 草草色情综合网| 五月丁香狠狠地噜噜噜噜| 色九九综合色| 狠狠撸激情综合丁香五月天俺来啦| 久久中文网| 色婷婷六月激情| 亚洲亚洲人成综合网络| 韩国婷婷丁香五月| 182.t午在线观看| 五月天激情小说欧美激情| 激情五月九九九| 久久色9| 91chinese在线| 99色视频| 我爱婷婷五月天综合88| ai97re99一本| 夜夜撸天天操| 激情五月色婷婷| 97人人草| 九九人妻福利| 国产成人精品一区二区三区视频| 激情五月婷婷在线| 狠狠色丁香久久综合婷婷亚洲成人福利| 2025天天日爽| www.99在线| 五月天大香蕉| 五月丁香五月天现场视频| 激情丁香五月| 五月丁香综合| 欧美色色色| 欧美成人猛片AAAAAAA| 色五月婷婷丁香五月| 久久久久久久8| 99热精品无码| 天天干天天操天天干天天操天天干天天操| 综合色图婷婷| 欧美影院| 99丁香五月婷| av中文网| 色婷婷丁香五月| 久久精品色| 99超超碰| 婷婷色五月婷| 亚洲 综合中文| 人人操9| 色五月成人| 操操操www.com| 丁香五月停停av| 99ri视频在线播放| 狠狠夜夜五月丁香| 2015在线中文字幕| 日本操碰碰| 婷婷五月天,影院| 国产亚洲色婷婷久久99精品9j| 无码色| 色就是色婷婷五月亚洲激情| 国产操B| 自拍偷窥99热| 久色姿源| 天天综合91入口| 丁香九月激情| 亚洲经典小视频| 日日噜狠狠| 99热传媒| 亚洲无码另类| 甈吧vv| aaa久久| 丰满少妇乱A片无码| 激情五月综合网最新| 少妇伦子伦精品无吗| 天天肏天天肏天天肏| 丁香婷婷少妇| 六月丁香激情| 天天爽天天爽| 色婷婷丁香五月| www.25五月婷婷| 日本三级片片| 激情综合色| 五月综合视频| 99人这里只有精品| 成人色图情色成人网 www.5b5b5bcom 五月天 | 日日日,com| 99热一本久道| 国产亚洲精品AAAAAAA片| 日韩AAAAAAAAAAA片| 久久97久久99久久综合欧美| 精典久久| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 91人人妻人人操人人爽| 成人五月丁香社区| 天天爽夜夜爽天天爽夜夜爽| 婷婷性爱网| 色综合女人99| 99精彩视频| 久久丁香五月天| 五月天婷婷青青| 日本一毛片| 操B无码视频国语| 日日撸夜夜操| 五月天成人在线视频网站| 激情播丁香| 精品久久9| 97在线天堂| 婷婷在线免费| 婷婷性色| 久热这里只有精品99re,久热这里只有精品7 | 色五月婷婷五月| 色久丁香五| 人人干Av| 久综合网| 啪精品| 精品二区| 九热...av| 国产三级秋霞| 91dy.av| 热九九精品| 亚洲4区国产欧美| 九九综合影音先锋 | 99超超碰| 天天做夜夜爽| 2020日日干| 色五月丁香伊人| 这里只有精品视频在线观看免费| 天堂中文国产| 精品一区二区三区三区| 不卡的AV网站| 99热精品免费| 狠狠久久婷五月| 九九热精品在线| 中国激情网| 色的色综合| 婷婷丁香视频在线观看免费 | 午夜丁香六月婷| 无码色色色色色| 99热这里是精品| 色色无码| 天天摸天天日天天舔| 日韩AAA| 五月天激日本色情在线| 色情五月丁香| www91精品| 久久久噜噜噜www成人| 色青青电影色五月| 另类少妇人与禽zOZZ0性伦| 久操人妻| 97操碰视频| 欧美Va婷色| 美女五月狠狠| 色婷婷久久综合丁香五月| 激情狠狠丁香月| 天天色五月| 丁香五月色播中文在线播放| 成片免费观看视频大全| 中文字幕九九九九| 99热综合色图| 天天干,天天操,天天射| 任我肏视频精品| 亞洲自怕| 中文不卡av| 在线免费视频caop| 搡BBBB搡BBB搡五十| 97精品人人A片免费看| 99精品网| 思思热在线观看| 色综合丁香| 99碰碰| 九九激情网| 一起草av| 欧美丁香婷婷五月| 亚洲精品亚洲人成人网| 级情九色| 99热这里有精力| 久久丁香| 婷婷五月天激情小说| 激情综合色网| 丁香五月色情| 天天干天天干天天干天天干天天干| 亚洲永久四色| 久久久久人妻| 六月丁香五月婷婷| 色狠狠色噜噜AV天堂五区|