欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地 文章目錄第一章:CPU使用率100%排查??核心判斷(top看%Cpu)??工具鏈??標(biāo)準(zhǔn)排查步驟??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM案例2:Java應(yīng)用CPU 100%??關(guān)鍵注意點(diǎn)第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行第一層:故障現(xiàn)象第二層:兩個(gè)根因第三層:排查步驟(面試口述版)第四層:兩個(gè)典型案例第五層:踩坑關(guān)鍵點(diǎn)第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)一、進(jìn)程狀態(tài)速覽二、故障根因D狀態(tài)(iowait高)Z僵尸進(jìn)程三、排查命令步驟1)全局觀察2)排查D狀態(tài)/iowait高3)排查Z僵尸進(jìn)程四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)五、高頻踩坑點(diǎn)第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑?Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景?Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用?Q4:怎么理解「過早優(yōu)化是萬惡之源」?結(jié)合運(yùn)維實(shí)戰(zhàn),什么情況該優(yōu)化,什么情況堅(jiān)決不要做優(yōu)化???終面綜合大題(可用于壓軸)第五章: Linux CPU性能Q1:線上CPU打滿,簡述完整故障排查閉環(huán),你會(huì)重點(diǎn)規(guī)避哪些坑?Q2:us高與sys高,分別代表什么?列舉典型場景與排查手段Q3:線上負(fù)載很高,但CPU idle還有20?30%,us/sy/wa都正常,請(qǐng)分析原因,能不能直接做CPU綁定?Q4:CPU優(yōu)化有算法優(yōu)化、緩存、CPU親和性、cgroup限制CPU;生產(chǎn)如何取舍,哪些手段慎用?Q5:perf采樣遇到哪些常見坑?(容器、Java、閾值、swapper)第六章: Linux虛擬內(nèi)存(終面)Q1:簡述Linux虛擬內(nèi)存核心原理,為什么要設(shè)計(jì)虛擬內(nèi)存?Q2:malloc底層brk、mmap分配機(jī)制,區(qū)別、優(yōu)缺點(diǎn)?Q3:free命令如何解讀?free、buff/cache、available有哪些線上坑?Q4:top VIRT / RES / SHR / %MEM含義,生產(chǎn)排查踩坑?Q5:內(nèi)存壓力下Linux三種內(nèi)存回收;OOM、oom_score、oom_adj原理?Q6:伙伴系統(tǒng)、slab分配器,slab是否用于用戶態(tài)malloc???SRE高頻拓展面試題Q7?1:缺頁異常分為哪幾類?Q7?2:HugePage大頁適合什么業(yè)務(wù)?有哪些生產(chǎn)代價(jià)?Q7?3:容器內(nèi)執(zhí)行free,顯示的是容器內(nèi)存還是宿主機(jī)整機(jī)?Q7?4:什么是內(nèi)部碎片、外部碎片???面試口述收尾(資深運(yùn)維必背)第七章: Buffer與Cache 資深運(yùn)維面試Q1:請(qǐng)講清楚Linux Buffer、Page Cache(buff/cache)區(qū)別?free命令中buff/cache是什么?Q2:`free`里`available`、`free`有什么本質(zhì)區(qū)別?很多運(yùn)維看到free很小就緊張,對(duì)不對(duì)?Q3:`echo 3 /proc/sys/vm/drop_caches`作用?線上生產(chǎn)環(huán)境能不能隨便執(zhí)行?3代表什么?Q4:slab中SReclaimable與SUnreclaim區(qū)別,會(huì)體現(xiàn)在free輸出哪里?Q5:vmstat中bi、bo是什么指標(biāo)?結(jié)合buffer/cache解釋寫文件流程。??SRE拓展深挖題Q6:怎么理解臟頁dirty page?臟頁過多會(huì)有什么線上問題?Q7:buff/cache持續(xù)占用很高,業(yè)務(wù)內(nèi)存充足,需要手動(dòng)drop_caches釋放嗎?Q8:free、vmstat數(shù)據(jù)來源于哪里???面試一句話收尾第八章: 系統(tǒng)Page Cache緩存 資深SRE面試題Q1:怎么評(píng)估系統(tǒng)頁緩存(page cache)的好壞?cachestat/cachetop/pcstat各自作用?O_DIRECT直接IO為什么cachetop看不到大量緩存未命中?Q2:線上業(yè)務(wù)IO慢,cachetop顯示進(jìn)程READ_HIT%=100%,但是業(yè)務(wù)讀延遲依舊很高,請(qǐng)分析原因與排查步驟?Q3:free看到buff/cache占用很高,free內(nèi)存很小,運(yùn)維要不要手動(dòng)執(zhí)行`echo 3 /proc/sys/vm/drop_caches`清理緩存?線上有什么風(fēng)險(xiǎn)?什么場景才適合執(zhí)行???面試一句話收尾??面試官備用深挖題第九章: 內(nèi)存泄漏 資深SRE面試題Q1:什么是內(nèi)存泄漏?堆、棧、數(shù)據(jù)段、文件映射段,哪些會(huì)發(fā)生內(nèi)存泄漏?線上內(nèi)存泄漏會(huì)帶來哪些連鎖危害?Q2:線上懷疑存在內(nèi)存泄漏,請(qǐng)描述完整排查流程,memleak工具原理,容器環(huán)境會(huì)遇到什么坑?Q3:C語言業(yè)務(wù)進(jìn)程RES持續(xù)上漲,怎么區(qū)分是真內(nèi)存泄漏還是偽泄漏?列舉常見偽泄漏場景。??面試口述收尾??面試官備用深挖題第十章: Linux內(nèi)存故障排查 資深SRE面試Q1:線上收到內(nèi)存告警,請(qǐng)描述完整排查思路,核心看哪些指標(biāo),如何區(qū)分是進(jìn)程、緩存、slab、Swap導(dǎo)致的壓力?Q2:什么是major主缺頁、minor次缺頁?線上指標(biāo)升高分別是什么現(xiàn)象,對(duì)業(yè)務(wù)有什么影響?Q3:Linux內(nèi)存調(diào)優(yōu)有哪些常用手段?哪些參數(shù)/命令生產(chǎn)環(huán)境嚴(yán)禁隨意操作,會(huì)帶來業(yè)務(wù)抖動(dòng)??面試速記小結(jié)(口述小結(jié),背完直接收尾)第十一章: 磁盤IO性能 資深SRE面試題Q1:線上業(yè)務(wù)接口響應(yīng)慢,top觀察iowait很高,請(qǐng)描述完整排查鏈路,關(guān)鍵工具與核心指標(biāo)?Q2:strace -p 綁定進(jìn)程PID,pidstat確認(rèn)該進(jìn)程大量寫IO,但是strace抓不到write調(diào)用,會(huì)是什么原因?Q3:iostat關(guān)鍵指標(biāo)%util、await、aqu?sz,解釋含義;哪些誤區(qū)容易誤導(dǎo)排障??面試速記小結(jié)第十二章: 數(shù)據(jù)庫慢查詢(系統(tǒng)層+MySQL層)資深SRE面試Q1:業(yè)務(wù)接口訪問MySQL,響應(yīng)耗時(shí)十幾秒,top看到iowait很高,請(qǐng)描述完整排查流程Q2:strace拿到mysqld的線程fd,直接把線程號(hào)傳給lsof卻查不到文件,是什么坑?Q3:除了SQL缺少索引,還有哪些外部系統(tǒng)因素,會(huì)導(dǎo)致MySQL查詢突然變慢??面試速記小結(jié)第十三章: Redis響應(yīng)延遲 資深SRE面試Q1:業(yè)務(wù)調(diào)用Redis查詢接口,查詢操作但接口響應(yīng)很慢,top看到iowait高,但iostat磁盤%util并不高,請(qǐng)描述完整排查鏈路Q2:容器內(nèi)運(yùn)行Redis,strace看到fdatasync耗時(shí)高,如何確認(rèn)這個(gè)fd對(duì)應(yīng)的socket還是磁盤文件?會(huì)遇到什么容器坑?Q3:iowait高,但iostat中磁盤%util不高,是什么原因??面試速記小結(jié)第十四章: Linux IO瓶頸快速定位 資深SRE面試Q1:線上業(yè)務(wù)變慢,收到iowait告警,請(qǐng)描述你快速定位IO瓶頸的完整套路?Q2:磁盤IO四大核心指標(biāo)是什么?考察時(shí)容易踩哪些誤區(qū)?Q3:文件系統(tǒng)層面有哪些容易忽略的IO性能指標(biāo)??面試速記結(jié)論第十五章: Linux網(wǎng)絡(luò)基礎(chǔ)與性能 資深SRE面試Q1:簡述Linux數(shù)據(jù)包收發(fā)完整流程Q2:衡量網(wǎng)絡(luò)性能核心指標(biāo)有哪些,分別含義?Q3:線上網(wǎng)絡(luò)變慢排查,你的排查步驟??面試速記小結(jié)第十六章:C10K / C1000K / C10M 速記?? 塔尖一句話一、三階段核心對(duì)比二、必背4個(gè)概念三、生產(chǎn)7大故障(按出題頻率排序)四、監(jiān)控必查命令(脫口而出)五、面試黃金收尾話術(shù)第十七章 tcpdump + Wireshark 面試一頁紙(3道面試題+總結(jié))面試題1:ping 訪問域名,單條ICMP延遲很小,但整個(gè)ping命令執(zhí)行耗時(shí)很長,可能是什么原因?如何定位解決?面試題2:線上服務(wù)器如何使用tcpdump和Wireshark做網(wǎng)絡(luò)故障排查,講完整操作流程,重點(diǎn)參數(shù)?面試題3:抓包中看到TCP斷開連接出現(xiàn)3個(gè)包,不是傳統(tǒng)的四次揮手,請(qǐng)解釋原理?一頁紙核心總結(jié)第十八章 DDoS(SYN?Flood)??核心概念??三大指標(biāo)?軟中斷 softirq??識(shí)別惡意流量(SYN洪水)??緩解手段iptablessysctl內(nèi)核調(diào)優(yōu)(寫入/etc/sysctl.conf,sysctl -p生效)分層防御??完整故障鏈路??面試必背短句第一章:CPU使用率100%排查??核心判斷(top看%Cpu)指標(biāo)高問題方向us/ni用戶業(yè)務(wù)代碼(死循環(huán)、大量計(jì)算、Java GC頻繁)sy內(nèi)核、頻繁系統(tǒng)調(diào)用、內(nèi)核線程wa磁盤IO瓶頸hi/si硬/軟中斷風(fēng)暴top按數(shù)字1,查看每個(gè)CPU核使用率??工具鏈top:定位高CPU進(jìn)程PID,默認(rèn)3s采樣pidstat 1 5:進(jìn)程細(xì)分 %usr / %system / %CPUperf(線上優(yōu)先,不中斷業(yè)務(wù))# 實(shí)時(shí)看熱點(diǎn)函數(shù)、調(diào)用棧perftop-g-pPID# 離線保存,適合轉(zhuǎn)瞬即逝問題perf record-g-pPID# Ctrl+C結(jié)束perf report??容器場景perf出現(xiàn)16進(jìn)制地址:宿主機(jī)生成perf.data,docker cp拷貝進(jìn)容器內(nèi)執(zhí)行report解析?GDB不適合線上:會(huì)暫停業(yè)務(wù)進(jìn)程Java專屬工具# 打印所有線程堆棧,定位高CPUJava線程jstackPID# 統(tǒng)計(jì)JVM各個(gè)內(nèi)存區(qū)域jstat-gcPID1000??標(biāo)準(zhǔn)排查步驟top觀察CPU分項(xiàng),確認(rèn)用戶態(tài)/內(nèi)核態(tài)/IO問題獲取高CPU進(jìn)程PID(top / pidstat)若是Java進(jìn)程:top?H -p PID找到高消耗線程tid,轉(zhuǎn)16進(jìn)制,配合jstack定位Java代碼;也可以使用perf采樣非Java進(jìn)程:perf采樣定位熱點(diǎn)函數(shù)根據(jù)函數(shù)/堆棧定位業(yè)務(wù)源碼,確認(rèn)根因(死循環(huán)、大量循環(huán)計(jì)算、頻繁FullGC等)修改代碼/配置,壓測驗(yàn)證修復(fù)效果??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM現(xiàn)象:php?fpm進(jìn)程CPU打滿,us98%ab壓測:ab -c10 -n10000 http://ip:10000top確認(rèn)php?fpm占用CPUperf top -g -p PID找到sqrt為熱點(diǎn)源碼:單次請(qǐng)求百萬次循環(huán)執(zhí)行sqrt,遺留測試代碼刪除循環(huán),QPS從11提升至2237案例2:Java應(yīng)用CPU 100%現(xiàn)象:Java進(jìn)程CPU持續(xù)100%,us占比極高排查流程:top發(fā)現(xiàn)Java進(jìn)程PID=2345,CPU占用接近100%top -H -p 2345,發(fā)現(xiàn)線程tid=2368CPU占比很高tid轉(zhuǎn)16進(jìn)制:printf "%x\n" 2368→940jstack 2345 jstack.log,在日志搜索0x940堆棧定位業(yè)務(wù)代碼:for無限死循環(huán),沒有sleep;或者集合大數(shù)據(jù)遍歷補(bǔ)充:如果jstat?gc觀察到頻繁FullGC,CPU高是內(nèi)存泄漏導(dǎo)致,優(yōu)先排查內(nèi)存問題??關(guān)鍵注意點(diǎn)CPU使用率是一段時(shí)間采樣差值計(jì)算的平均值,不同工具采樣間隔不一樣,對(duì)比要保持間隔統(tǒng)一/proc/stat原始數(shù)據(jù)是開機(jī)累計(jì)值,不能直接拿來算使用率偶發(fā)瞬時(shí)CPU沖高,登錄現(xiàn)場已消失:依靠監(jiān)控 + perf record離線采樣Java使用perf:需要安裝perf符號(hào),否則只能看到j(luò)vm內(nèi)部符號(hào);jstack更適合定位Java業(yè)務(wù)代碼問題/////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行系統(tǒng)CPU整體很高,但top/pidstat看不到高CPU進(jìn)程,90%是短時(shí)進(jìn)程,其次是進(jìn)程反復(fù)崩潰重啟。第一層:故障現(xiàn)象top全局us/sy高,id低;但所有進(jìn)程CPU占比都很低top看到大量R(Running)運(yùn)行態(tài)進(jìn)程,PID快速不停變化pidstat所有進(jìn)程CPU加起來遠(yuǎn)小于系統(tǒng)總CPU第二層:兩個(gè)根因短時(shí)進(jìn)程(最常見):業(yè)務(wù)代碼exec/system/ProcessBuilder調(diào)用外部命令,進(jìn)程生命周期極短,小于工具采樣間隔,top/pidstat抓不到,海量頻繁創(chuàng)建銷毀累積消耗CPU。進(jìn)程反復(fù)崩潰重啟:程序崩潰,被監(jiān)控/K8s反復(fù)拉起,初始化邏輯消耗CPU,進(jìn)程存活時(shí)間很短。第三層:排查步驟(面試口述版)top:看全局CPU,重點(diǎn)觀察R狀態(tài)進(jìn)程數(shù)量、PID是否漂移;有execsnoop優(yōu)先執(zhí)行,直接捕獲exec調(diào)用,拿到子進(jìn)程和父PID;沒有execsnoop,用perf全系統(tǒng)采樣,必須加-a,不能指定PIDperf record-ag-gperf reportpstree追溯父進(jìn)程,定位業(yè)務(wù)服務(wù);審查源碼外部命令調(diào)用,查看dmesg/容器日志確認(rèn)是否崩潰重啟。第四層:兩個(gè)典型案例PHP:http請(qǐng)求exec調(diào)用stress,權(quán)限報(bào)錯(cuò)快速退出,大量短時(shí)進(jìn)程吃滿CPU。Java:ProcessBuilder高頻調(diào)用shell腳本,腳本執(zhí)行完立刻退出,Java主進(jìn)程CPU占用并不高。第五層:踩坑關(guān)鍵點(diǎn)perf排查短時(shí)進(jìn)程不能帶?p指定PID,必須?a全系統(tǒng)采樣,swapper是空閑內(nèi)核進(jìn)程直接忽略;top/pidstat是采樣平均值工具,進(jìn)程壽命短于采樣間隔就捕獲不到;容器perf符號(hào)缺失:perf.data復(fù)制進(jìn)容器內(nèi)做report解析。面試一句話總結(jié):CPU高找不到進(jìn)程,優(yōu)先懷疑短時(shí)進(jìn)程,用perf -a全系統(tǒng)抓,不要指定進(jìn)程PID。///////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)面試/線上速查,現(xiàn)象:iowait高、負(fù)載上漲、大量D/Z進(jìn)程一、進(jìn)程狀態(tài)速覽狀態(tài)含義關(guān)鍵影響R運(yùn)行/就緒CPU調(diào)度隊(duì)列D不可中斷睡眠,等待硬件IO拉高平均負(fù)載,kill?9無效Z僵尸,子進(jìn)程已退出,父未回收資源耗盡PID,無法新建進(jìn)程;kill僵尸本身無效S可中斷睡眠正常等待事件,可被信號(hào)喚醒I內(nèi)核線程空閑態(tài)不會(huì)拉高負(fù)載T暫停/調(diào)試跟蹤gdb、SIGSTOP觸發(fā)重點(diǎn):短時(shí)D屬于正常;大量持續(xù)D、持續(xù)增長Z屬于故障。二、故障根因D狀態(tài)(iowait高)業(yè)務(wù)O_DIRECT直接IO,繞過pagecache頁緩存,直接操作物理磁盤,磁盤慢導(dǎo)致進(jìn)程阻塞D狀態(tài);??通俗:不使用內(nèi)存緩存,每一次讀都直接訪問硬盤,硬盤速度遠(yuǎn)慢于內(nèi)存,CPU大量時(shí)間等待磁盤返回。perf看到blkdev_direct_IO內(nèi)核函數(shù)就是證據(jù)。本地磁盤故障、RAID異常;NFS存儲(chǔ)服務(wù)端卡死,客戶端進(jìn)程阻塞IO。Z僵尸進(jìn)程fork()創(chuàng)建子進(jìn)程,父進(jìn)程未調(diào)用wait/waitpid回收子進(jìn)程退出狀態(tài);未注冊(cè)SIGCHLD信號(hào)處理函數(shù);子進(jìn)程退出速度快于父進(jìn)程處理。??通俗:子進(jìn)程干完活退出,父進(jìn)程代碼沒執(zhí)行“收尸”邏輯,子進(jìn)程就變成僵尸。父進(jìn)程退出,僵尸由init(1)自動(dòng)收割。三、排查命令步驟1)全局觀察top# 看load、wa(iowait),看S列D/Z;按1看各CPUdstat1# 同時(shí)對(duì)比CPU iowait與磁盤讀寫流量2)排查D狀態(tài)/iowait高pidstat -d 1全局看進(jìn)程IO讀寫;進(jìn)程轉(zhuǎn)瞬變?yōu)榻┦瑂trace無法attach,用全系統(tǒng)perf采樣(不加?p)perf record-ag-gperf report忽略swapper內(nèi)核空閑進(jìn)程;看到blkdev_direct_IO代表開啟直接磁盤IO。D狀態(tài)進(jìn)程kill?9殺不掉,需等待IO返回,硬件故障極端情況只能重啟。3)排查Z僵尸進(jìn)程ps-e-ostat,ppid,pid,cmd|grepZ# 拿到僵尸PID、父PPIDpstree-aps僵尸PID# 向上追溯父進(jìn)程臨時(shí)緩解:重啟父進(jìn)程,init自動(dòng)回收僵尸;根治:代碼增加wait/waitpid或SIGCHLD信號(hào)處理。四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)現(xiàn)象:iowait打滿,負(fù)載高,同時(shí)僵尸進(jìn)程持續(xù)增多;dstat確認(rèn)wa升高伴隨大量磁盤讀;pidstat?d看到app大量讀盤;進(jìn)程D狀態(tài)后迅速變成Z,strace attach失??;perf全系統(tǒng)采樣發(fā)現(xiàn)blkdev_direct_IO;?問題代碼:open(disk, O_RDONLY|O_DIRECT|O_LARGEFILE, 0755);開啟O_DIRECT繞過內(nèi)存緩存,大量直接磁盤IO,iowait飆升。?修復(fù):刪除O_DIRECT參數(shù),走操作系統(tǒng)頁緩存,iowait恢復(fù)。僵尸根因:wait()寫在死循環(huán)外面,代碼永遠(yuǎn)執(zhí)行不到//錯(cuò)誤:wait放在死循環(huán)外面,永遠(yuǎn)跑不到for(;;){for(inti=0;i2;i++){fork();}sleep(5);}while(wait(status)0);//?修復(fù):wait移入循環(huán)內(nèi)部,每輪循環(huán)回收子進(jìn)程for(;;){for(inti=0;i2;i++){fork();}while(wait(status)0);sleep(5);}wait挪入循環(huán),子進(jìn)程退出后立刻被回收,不再生成僵尸。五、高頻踩坑點(diǎn)iowait高≠磁盤瓶頸:少量IO也會(huì)拉高wa,必須結(jié)合實(shí)際磁盤讀寫量判斷;kill僵尸進(jìn)程不起作用,僵尸已經(jīng)死亡,必須處理父進(jìn)程;perf報(bào)告swapper是內(nèi)核空閑進(jìn)程,直接忽略;父進(jìn)程為1號(hào)init還殘留僵尸,業(yè)務(wù)無解,大概率內(nèi)核bug,只能重啟機(jī)器。?面試一句話總結(jié):D狀態(tài)優(yōu)先排查IO:直接IO(O_DIRECT)、本地磁盤、NFS,kill?9無效;僵尸不要?dú)⒔┦旧恚ㄎ桓高M(jìn)程,代碼做好子進(jìn)程回收。////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題考察:實(shí)戰(zhàn)閉環(huán)、權(quán)衡取舍、線上踩坑,金字塔答題,包含問題+完整參考答案+深挖追問+追問完整答案Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑??完整參考答案(金字塔)結(jié)論先行:CPU優(yōu)化不是找到瓶頸就直接改,必須走「確認(rèn)瓶頸→量化基線→方案選型→對(duì)比驗(yàn)證→評(píng)估副作用」完整閉環(huán);直接改代碼上線最大風(fēng)險(xiǎn):誤判根因、優(yōu)化帶來副作用、無法證明優(yōu)化收益。確認(rèn)真瓶頸,區(qū)分根因與衍生現(xiàn)象。很多指標(biāo)高只是現(xiàn)象,不是根源。例如iowait升高只是現(xiàn)象,根源是O_DIRECT直接IO;軟中斷CPU高是現(xiàn)象,根源是大量網(wǎng)絡(luò)小包。不能針對(duì)現(xiàn)象做優(yōu)化,要解決背后的根因。建立雙維度基線。不能只看系統(tǒng)CPU使用率;同時(shí)采集**業(yè)務(wù)指標(biāo)(QPS、延遲、錯(cuò)誤率)**和系統(tǒng)指標(biāo)(CPU、上下文切換)作為優(yōu)化前基準(zhǔn)。壓測客戶端要與業(yè)務(wù)服務(wù)隔離部署,防止壓測工具本身消耗資源,污染測試數(shù)據(jù)。多方案選型,綜合權(quán)衡。不能只看性能提升幅度,綜合評(píng)估:改造成本、代碼復(fù)雜度、可維護(hù)性、優(yōu)化副作用;拒絕拿來主義,不追求一步到位解決全部問題?;叶闰?yàn)證,對(duì)比優(yōu)化前后。不僅看系統(tǒng)資源指標(biāo),重點(diǎn)校驗(yàn)業(yè)務(wù)指標(biāo),防止出現(xiàn)CPU降了,但接口延遲升高這類負(fù)優(yōu)化。風(fēng)險(xiǎn)防控,警惕過早優(yōu)化。沒有真實(shí)業(yè)務(wù)壓力,不要提前堆砌緩存、異步、CPU綁定這類復(fù)雜邏輯,徒增維護(hù)成本。實(shí)戰(zhàn)坑舉例:直接對(duì)進(jìn)程做CPU綁定,業(yè)務(wù)流量波動(dòng)大時(shí),會(huì)破壞內(nèi)核調(diào)度均衡,出現(xiàn)單核打滿其余核空閑,整體性能反而變差。??面試官深挖追問 + 參考答案追問:優(yōu)化后CPU使用率降下來,但業(yè)務(wù)接口延遲反而升高,可能有哪些原因?答:① 優(yōu)化手段帶來額外開銷:例如引入緩存,增加鎖、緩存淘汰邏輯;② CPU綁定導(dǎo)致調(diào)度失衡,任務(wù)集中在個(gè)別CPU核,隊(duì)列排隊(duì);③ 算法優(yōu)化雖然降低CPU,但增加IO/鎖等待;④ 并發(fā)線程/進(jìn)程數(shù)量被限制,請(qǐng)求排隊(duì)堆積;⑤ 內(nèi)核參數(shù)調(diào)整,犧牲延遲換取CPU利用率。追問:怎么區(qū)分觀測到的指標(biāo)是根因,還是衍生現(xiàn)象?舉一個(gè)線上實(shí)際例子。答:根因是源頭,衍生現(xiàn)象是根因引發(fā)的結(jié)果。解決根因,衍生現(xiàn)象會(huì)自動(dòng)消失。例子:大量短時(shí)fork子進(jìn)程,會(huì)導(dǎo)致sys CPU高,sys高是現(xiàn)象;真正根因是業(yè)務(wù)頻繁調(diào)用exec創(chuàng)建短時(shí)進(jìn)程。修復(fù)業(yè)務(wù)不再頻繁創(chuàng)建進(jìn)程,sys CPU自然下降,而不是去調(diào)內(nèi)核參數(shù)壓制sys指標(biāo)。追問:如果環(huán)境不允許做完整壓測,只能線上灰度,基線數(shù)據(jù)該怎么獲?。看穑孩?取優(yōu)化前一段時(shí)間監(jiān)控歷史作為基線,保證流量、時(shí)間段盡量對(duì)齊;② 采用灰度發(fā)布,一部分實(shí)例優(yōu)化,一部分實(shí)例保持原樣,做同環(huán)境對(duì)照;③ 對(duì)比兩組實(shí)例的業(yè)務(wù)、系統(tǒng)指標(biāo);④ 小流量逐步放量,一旦指標(biāo)異常立刻回滾。Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景??完整參考答案(金字塔)結(jié)論先行:us高代表業(yè)務(wù)用戶態(tài)消耗CPU;sys高代表內(nèi)核態(tài)開銷;二者排查方向完全不同,先分清指標(biāo),再選擇工具定位。us(用戶態(tài)CPU高):CPU消耗來自業(yè)務(wù)代碼邏輯典型場景:死循環(huán)、高復(fù)雜度算法、大量計(jì)算、頻繁正則表達(dá)式、Java頻繁Full GC;工具:perf top -g -p pid定位業(yè)務(wù)熱點(diǎn)函數(shù);Java配合jstack、jstat -gc。sys(系統(tǒng)CPU高):CPU消耗來自內(nèi)核,由系統(tǒng)調(diào)用、上下文切換、中斷引發(fā)典型場景:大量fork/exec短時(shí)進(jìn)程;頻繁鎖競爭;海量細(xì)小系統(tǒng)調(diào)用;軟硬中斷風(fēng)暴;進(jìn)程數(shù)量多導(dǎo)致頻繁上下文切換;工具:perf record -ag -g做全系統(tǒng)采樣看內(nèi)核調(diào)用棧;pidstat -w觀察上下文切換;execsnoop捕獲短時(shí)exec調(diào)用。??重要坑:短時(shí)進(jìn)程場景,top、pidstat抓不到高CPU進(jìn)程,必須全系統(tǒng)perf采樣,不能指定?p pid。實(shí)戰(zhàn)區(qū)分小技巧:us高優(yōu)先懷疑業(yè)務(wù)代碼;sys高優(yōu)先懷疑系統(tǒng)調(diào)用、進(jìn)程創(chuàng)建、中斷,不要上來就修改業(yè)務(wù)代碼。??面試官深挖追問 + 參考答案追問:Java服務(wù)sys系統(tǒng)CPU很高,你會(huì)一步步怎么排查?答:① 先看pidstat -w,觀察自愿/非自愿上下文切換,如果非自愿切換很高,線程過多、爭搶CPU;② 使用perf record -ag -g全系統(tǒng)采樣,看內(nèi)核調(diào)用棧,看是系統(tǒng)調(diào)用、線程創(chuàng)建、鎖、還是中斷消耗;③ execsnoop排查是否Java通過ProcessBuilder大量創(chuàng)建外部短時(shí)子進(jìn)程;④ 查看JVM配置:線程數(shù)量是否過多;⑤ 排除硬件層面中斷風(fēng)暴。追問:為什么短時(shí)進(jìn)程,指定perf -p PID抓不到問題?答:短時(shí)進(jìn)程生命周期極短,執(zhí)行完立刻退出。perf-p需要進(jìn)程存活才能附著采樣;等執(zhí)行perf命令時(shí)進(jìn)程已經(jīng)消亡。必須?a全系統(tǒng)采樣,捕獲系統(tǒng)內(nèi)全部事件,不綁定特定PID。追問:sys高,但是沒有看到大量fork,還會(huì)有什么可能性?答:① 海量細(xì)小系統(tǒng)調(diào)用,如頻繁read/write、epoll_wait;② 大量線程上下文切換,線程數(shù)量過多;③ 硬中斷、軟中斷風(fēng)暴(網(wǎng)絡(luò)包量大);④ 頻繁鎖競爭,內(nèi)核態(tài)自旋鎖消耗;⑤ 內(nèi)存缺頁異常頻繁。Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用??完整參考答案(金字塔)結(jié)論先行:優(yōu)先應(yīng)用層業(yè)務(wù)邏輯優(yōu)化,其次緩存;系統(tǒng)層面CPU綁定、
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
六月亭亭久久综合激情| 嫩草AV久久伊人妇女超级a| 天天做天天爱天天爽综合网| 亚洲婷婷五月天综合| 大战熟女丰满人妻AV| 色五月成人在线| 青青日韩| 人妻丰满精品一区二区A片| 色婷婷五月天小说网| 久久丁香社| 丁香五月久久| 夜夜躁爽日日| 婷婷五月天狠狠搞干| 日本久久视频| www狠狠com| 99色色网| 亚洲九九视频| 久久婷婷六月综合综合色| 九月婷婷综合| 亚洲最大在线| 99久re热| 久婷首页| 亚洲无aV在线中文字幕| 9精品国产在热久久| 五月婷婷之综合激情| 婷婷开心久久| 欧美成人色婷婷| 色色99色色| 碰碰人人漕| 日本欧美成人片AAAA| 色综合大香蕉| 另类视频综合| 在线不卡视频| 婷久久| 99热99热在线观看| 狠狠干总合| 综合久久9| xxxx五月天色色| 亚洲偷| 99热97| 色偷偷综合| 亚洲视频伍月婷婷| 五月天成人综合| 亚洲另类婷婷五月综合| 五月丁香激情综合| 99er精品| 五月色丁香成人| 五月婷婷狠狠干| 一级无码作爱片| 网色99| 婷婷五月天播播| 99热日韩| 99热思思| 婷婷五月天精品| 日日夜夜狠狠干| 五月天成人在线| 婷婷爱综合| www.久久| 人妻尝试久久久久久久久久久久| 欧美狠狠地| 五月婷婷黄色视频| 99九九精品| 这里只有九九精品| 人人人人人人人人人草| 日日操天天爽| 99热成人在线| 色噜噜五月天| 色五月综合网| 97操女视频| 色噜噜狠狠狠狠色综合久欧美| 97色干在线观看| 午夜亚洲AV日韩无码| 内射在线CHINESE| 婷婷伊人久久无码色五月| av一级棒av| 日日夜夜干| 天堂成人A片永久免费网站| 午夜丁香| 中文字幕不卡视频| 天天色综合天天| 深爱五月激情综合| 日本成人噜噜噜| www,com,五月色色| 香蕉久久国产AV一区二区| 人妻体体内射精一区二区| 99精品偷自拍| 激情丁香五月天图片| 久久丁香婷婷五月| 天天插天天很| 99久久激情视频| 欧美综合激情丁香五月六月婷| 99久在线精品99re8| www 五月天 com| 丁香婷婷中文字幕| 91精品久久久久| 99久久九九| 国产成人99久久亚洲综合精品| XX色综合| 亚洲99一级无嗎特制在线| 成人毛片在线免费观看| 五月天玖玖狠狠色色| 亚洲色爱综合| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 亭亭五月色男人| 九九干视频| 色色婷婷五月天| 成人在线观看精品| 26UUU一区二区| 密黄站| 亚州性爱99| www.色五月| 激情四射五月天| 欧美性生交XXXXX无码小说 | 九九性爱网| 激情色色| 久久激情视频| 在线观看免费狠狠色丁香香综合| 色色色色色九九九九九| 天天综合插插| 天天插天天爽| 丁香六月婷婷开心| 第四色大香蕉| 丁香六月婷婷色XXXXX| 丁香五月影院| 婷婷久久亚洲| 国产精品人妻在线网址| 婷婷十月激情综合网| www.色五月| 99热97美女| 色综合色综合婷婷热| renrencaoav| 狠狠狠色激情综合适合| 婷婷五月丁香综合瑟瑟| 天天天摸夜夜夜玩| 婷婷综合中文| 26UUU亚洲欧美| 五月四色婷婷| 蜜臀久久99精品久久久久久酒店| 色噜噜狠狠色综合日日免费| 天天爽天天操| www..com色爱| 无码 av电影| 91丨九色丨国产打屁股| 日本综合色色| 色情婷婷五月天| 免费观看欧美成人AA片爱我多深| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 青青草轻轻操| 麻豆123区| 秋霞午夜理论| 99热成人精品网站| 九九人人看| 99热这是里只有精品| 久久人人九| 99久热在线精品99re6热| 激情综合综合综合| 日本一级淫| 五月激情婷婷在线| 99热在线爱| 婷婷五月天激情小说| 色月丁| 久久婷婷五月综合色和| 亚洲亚洲人成综合网络| 激情综合色播| 久久九九中文字幕| 婷婷的色色五月天| 国产激情AV| www.婷婷五月天.com| 婷婷狠狠操| 色五月成人| 久久久9久| 国产热精品| 精品香蕉99久久久久网站| 色婷婷婷综合五月天| 日韩啪啪网| 五月激情五月丁香| 午夜成人av在线| 日韩精品无码99| 九色视频九色九色91jiuseshipin| a在线观看| 色色色欧美| 色色自拍视频网站| 另类婷婷五月天啪帕帕| 9热视频在线观看| 99热最新| 丁香花综合永久入口| 婷婷五月丁香综合激情| 色九九九九| 天堂久久精品| 操逼福利视频| 久久婷五月综合| 在线中文字幕视频| 第四色婷婷五月| 99热在线播放精品| 五月丁香六月| 五月天激情国产综合婷婷| 成人在线日韩欧美| 精品人妻午夜一区二区三区四区| 色婷婷五月天成人网| 五月丁香婷婷啪啪| 亚洲无码免费看| 97热在线精品| 区区欧美你爱| 激情综合在线观看| 夜色爱爱亚洲| 97操碰| 丁香狠狠色婷婷久久无码视频| 丁香花大香蕉婷婷综合| 九九精品亚洲| 天天xxxxxx天天日| 久鲁鲁色网| 丁香五月性爱| 曰曰久久| ji'qi'luan'ren'lun| 午夜成人天堂久久无码日韩久久| 五月激情久久| 大陆极品少妇内射AAAAAA| 91人人爽久久涩噜噜噜| 夜夜人妻五月天| 91碰操| 操骚货在线| 五月丁六月香| 丁香五月天啪啪激情综和网| 丁香五月情色| 丁香五月影视| 91 影音先锋| 丁香五月婷婷啪| 婷婷丁香五月噜噜噜| 久久婷婷五| 丁香五月偷拍| 精品乱码久久久久| 人妻综合网| 婷婷丁香激情综合色情| www.久久爱.com| 五月天婷婷婷| 国产乱妇无乱码大黄AA片| 伊人网碰碰| 色婷婷激情五月天在线观看| 久久99色色| 国产乱码久久| 国产操B视频| 中字幕视频在线永久在线观看免费 | 免费亚洲婷婷中文字幕| 99热| 六月丁香影院| 丁香五月婷婷色| 亚洲第一色网站| 六月丁香成人| 天堂久久大香蕉| 97超美国视频在线观看| 五月丁香婷婷钟和色图| 一级黄色片看看| 99热碰碰热| 丁香婷婷五月天在线视频| 色色影院aaaav| 激情婷婷色色| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 性综合网| 老司机伊人| 婷婷五月天在婷| 色综合爱综合| 大香蕉九九| 五月丁香激情四射综合| 成片免费观看视频大全| 五月久久综合| 操人精品| 九九久久99| 特黄三级片| 色综合久久综合中文综合网| 婷婷五月电影院| 久久99精品视频| 丁香五月综合婷婷| 婷婷五月成年人| 色婷婷丁香六月| 丁香色六月婷婷| 婷婷欧美色| 五月丁香色婷婷伊人| 9.1综合网| 大香蕉伊人99| 安息电影在线观看完整版| 丁香五月激情月| 色和综合网| 欧美精品狠狠色丁香婷婷| AA片在线观看视频在线播放| 久热天堂| 91丨九色丨熟女高潮| 夜色.cnm| 丁香五月性| 五月亭亭六月色| 精品无码人妻一区| 一本色道久久综合狠狠躁小说| 色色色综合| 色5月婷婷色| 99re这里只有| 无码日本精品XXXXXXXXX | 五月日韩中文字幕| A在线观看| 婷婷开心深爱五月天| 亚洲色色色色色色色色色| 亚洲综合色网站| 99成人小视频| 综合五月丁香六月婷婷| 五月丁香婷婷五月| 大香蕉综合网| 无码橾| 色色丁香| www五月天com| 婷婷五月图片小说网| 99热精品一区| 99精品视频网站| 久99| 婷婷综合另类| 色亭亭五月天网扯| 婷婷五月丁香啪啪| 以及AA大片看看| 久久人妻久久| 婷婷 丁香 精品| 婷婷操逼| 日本 欧美在线| 九九这里精品| 久久激情网| 色婷婷六月| 99热综合| 97婷婷狠狠| 很操日本7| 欧日韩成人| 色九四色| 久久er九九| 人人操AV| 狠狠色中色| 五月色情婷婷| 另类激情五月| 五月婷婷激情日本| 天天情色综合网| 亚洲精品欧洲精品| 天天狠天天叉| 91丨人妻丨国产丨丝袜| 激情亚洲色图片丁香综合| 天天爽天天透天天爱| 色五月91| 99久扒热| 日本高清久| 欧美色偷偷大香| 九月大香蕉| 色播五月丁香婷婷| 激情丁香婷婷| 色碰干| 五月天婷婷丁香蜜桃91| 亚洲精品国产熟女久久久| 天天肏视奸| 日日噜狠狠| www,天天干| 五月天色综合| eeuus五月婷| 天天日综合| 五月天婷婷Av| 日日操天天爽| 9l视频自拍九色9l黑人| 婷婷五月天综合色| 99热欲| 五月丁香婷婷啪啪综合网| 26uuu欧美激情另类| 中文成人在线| 六月丁香婷婷六月激情综合| 亚洲中文AV网站| 久热这里这里有精品| 91久热| 久久东京热婷婷五月| 五月丁香久久久日婷婷久久婷婷日| 天天干天天干天天操| 丁香五月电影| 乱女乱妇熟女熟妇综合网站| 亚洲视频在线观看| 婷婷开心六月| 玖玖婷婷色五月| 5五月综合网亚洲| 91夫妻视频| 婷婷六月激情丁香| 婷婷丁香五月基地| 日本久久性| 狠狠人妻色综合| AA久久| 色九九中文字幕| 亚洲丁香五月| 操逼视频一区| 超碰人人在线| 久久人人人人妻| 午夜丁香久久久久久| 热久视频| 激情人妻综合| 人人爱国产| 天天拍夜夜撸| 9久热在线精品| 99热资源在线| 色五月涩涩婷婷蜜桃| 久久9热好| 韩国三级五月天婷婷。| 婷婷综合色图| 99丁香婷婷综合网| www.99视频| 91色吧网| 久操热线| 五月丁香色婷婷熟女| 婷婷久久色| 五月丁香久人妻中文| 男人的天堂999| 丰满少妇猛烈A片免费看观看 | 中文字幕精品无码一区二区| 九九婷婷网五月天| 热久久思思热思思| 亚洲欧洲一二| 99无码视频| 色五月丁香六月婷婷| 狠狠se| 色99色| 婷婷色5月激情网| 婷婷丁香97| 成人做爰高潮A片免费视频| 激情综合婷婷| 日本天堂免费99| 在线只有精品| 天天拍天天操| 天天插天天干天天舔| av婷婷丁香| 色婷操逼| www.婷婷,com| 天堂久久大香蕉| 婷婷五月天成人网| 欧美日韩成人在线观看| 激情婷婷综合五月少妇| 日本天堂免费99| 偷偷与邻居做爰完整视频| 五月丁香 久久久| 久天综合| 亚洲另类AV| 色色五月天婷婷| 久色五月| 婷婷五月色影视先锋| 人妻少妇色综合| 九九色色| 五月天亚洲综合网| 蜜臀av在线成人电影| 99人人操人人操人人精| 丁香五月婷婷综合激情啪啪啪| 久热大香蕉| 五月丁香六月婷婷色日| 婷婷五月综合激情免费| 亚洲综合在线丁香五月| 婷婷综合五月激情| 久久久性爱网| 久9热视频| 91fuliwang| 大陆极品少妇内射AAAAAA| 网色99| 婷婷丁香五月激情| 热99AV网站| 久久这里只有精品视频26| 欧美在线看| 婷婷色偷拍| 99ER热精品视频| 久久曰曰| 婷婷五月天网| 激情丁香五月婷婷| 婷婷丁香六月天| 99在线热| 99热.com| 丁香五月综合激情性爱| 亚洲综合五月天婷婷丁香| 久热这里只有精品99re| 国产在这里只有精品| 婷婷五月天资源| 人人操人av| 五月天激情综合在线| 婷婷色基地在线看| 色五月婷婷激情基地| 成人片在线免费看| 台湾无码A片一区二区| 91人碰| 亚洲乱码w在线观看| 五月丁香激情啪啪网| 99久久高清视频| 精品二区| 9九色首页| 五月久久网| 97久人人| 99热综合网| 久久久18| 婷婷丁香五月欧美人| 开心五月婷婷在线| 天天艹夜夜艹| 婷婷五月天成人网| 亚洲精品字幕| 婷婷五月丁香综合桃花色网| 日日做A爰片久久毛片A片英语| 成人做爰高潮A片免费视频| 成人在线观看精品| 婷婷激情五月视频| 久久丁香婷婷五月| 99热日本| 六月狠狠综合| 九色91视频| 日韩色色视频| 久久久久五月丁香| 开心五月婷婷激情| 天天干天天操天天爱| 国产婷婷五月色情综合| 成人看片网站| www.一区二区三区| 在线婷婷| 色婷婷丁香五月综合| 99爱在线视频观看| 日本一道久久| 五月婷婷 激情按摩| 視频福利乱色| 高清无码 一区 二区 三区| 五月丁香婷婷潮喷中文字幕| 色区久久| 九九色插| 开心婷婷五月激情网小说| 伊人五月人妻精品| 91色操| 老师的粉嫩小又紧水又多A片视频| 五月停亭久久电影| 五月丁香怕怕综合| 五月天婷婷AV| 99热人人艹| 婷婷成人在线| 婷婷五月综合激情小说| 开心五月婷婷激情| 中文在线视频久9| 26uuu国自产精品| 丁香六月激情国产| 全部老头和老太XXXXX| 99.N在线视频| 深爱激情网五月天| 伊人五月天日日夜夜久久久天天| 大香蕉天堂| 亚洲第一黄网| 激情www| 丁香五月天操B| 丁香六月婷婷五月婷婷| 婷婷五月天AV| 婷婷五月天开心网| 99精品综合视频| 99热在线99| 天天色2017| 国产精产国品一二三在观看| 久久五月天综合| 五月婷色| 丁香五月激情澎湃一区| 欧美三级A做爰在线观看| 人人色婷婷五月天| 天堂AV三级| 欧亚色色| 久久99热 这里有精品| 91Chinese在线| 综合超碰熟| 激情久久婷婷| 色哟哟精品| 丁香五月天啪啪| 狠狠色噜噜狠狠亚洲A∨| 玖玖玖婷婷婷| 九九婷婷五月天| 久久性都花花世界成人免费视频| 激情文学综合婷婷五月天丁香花| 久久色六月| 开心婷婷五月天电影院| 人人爽人人爽人人爽人人爽| 色五月涩涩婷婷蜜桃| 久久久久综合激动五月天| 色五月激情综合| www,av好吊操| AA久久| 日日撸夜夜操| 99久久97| 操B五月天| 婷婷 激情 五月| 思思精品热在线| 婷婷99狠狠| 婷婷五月色播放| 五月天六月色| 国产干逼片| 大香蕉狼人久久| 综合激情啪啪| 色色色.COM| 伊人五月婷婷| 99热久久这里只有精品| 日本在线观看99| 亚洲午夜Av| 久久这里精彩免费在线观看| 思思热99在线| 色欲av伊人久久大香线蕉影院| 襙逼网| 色婷婷亚洲婷婷在线观看| 97久久超碰| 九九综合九| 精品99在线| 午夜 外网 精品 在线| 亚洲成人婷婷| 91日韩在线| 加勒比久热| 九九视频网| 五月婷在线播放| 超碰免费成人| 一本到不卡高清DVD| 六月丁香大香蕉| 欧美丁香六月激情视频| 99A级片| 99燥99日| 日本老女人黄页在线播放| 五月天停停成人网| 色情五月综合婷婷| 天天操天天国产三级片处女学生妹| 色综合色五月| 婷婷亚洲欧美丁香五月| 九九色综合九九色| 牛牛色av| 国产精品国产VA片国产| 久久九九热视频| 婷五月天| xfplayav在线| 日韩无码专区| 玖玖爱综合网| 婷婷精品性视频| 色婷婷成人做爰A片免费看网站| 色欧美一级| 五月丁香999| 丁香五月播播| 婷婷色色亚洲| 亚洲色婷婷网站| 99热这里是精品| 冬月かえでAV无码播放| 亚洲综合婷婷六月丁香五月| 久久ab| 精品人妻在线| 五月丁香六月婷婷姐| 五月婷A V在线| 日韩三级片一区二区| 久婷婷| a色婷婷| 都市激情五月婷婷亚洲| www.zbzhongsen.com| 亚洲综合无码| 六月婷婷综合激情| 九九色之九九色之88| 色五月婷婷五月丁香五月| www.夜夜操| 97自拍视频在线| 丁香五月手机在线| 欧美色色色色色色色色色色| 五月天综合在线| 综合激情四射一theav| 日韩人妻操逼视频| 好吊兆人妻| 99热这里只有精品1998| 日韩精品一区二区三区,四区,五区视频| 婷婷激情丁香五月婷婷激情丁香五月婷婷 | 激情五月天激情综合网| 日韩青青| 五月天婷婷丁香六月| 最新无毒无码AV| 色婷婷色五月色丁香| 99热久久这里只有精品| 丁香五月激情澎湃一区| 五月丁香六月片| 亚洲中文乱字字幕线在永久| 99久久综合狠狠综合久久| 丁香五月天激情婷婷丁香六月 | 丁香色五月 97干| 26uuu视频欧美| 六月婷婷色综合| 亚洲成人av在线观看| 五月天五月天激情网| 九月色婷婷婷| 丁香五月天成人| 成熟妇人A片免费看网站| 激情网 五月天| 97干在线视频| 97碰在线视频| 婷婷在线视频| 天天摸,天天爽| 欧美三级巜人妻互换| 9999色色色色| 一级片无码| 99久久性爱| 91九色欧美| 五月久久婷婷| 色久在| 精品人妻一区二区| 色五月视频无码播放| 久久人人添人人爽添人人片αV| 一级操逼内射在线视频| 激情99热| 777影视理论片大全在线观看| 天天爱天天做天天爽| 91 久热| 色婷久| 天天开心天天色| 香蕉久久av一区二区三区| 五月天播播综合| 色色999三级片| www.色婷婷.com| 五月婷成人| 婷婷的99视频网站| 日韩欧美四五区| 五月婷九九草| 日本天天色| www.91.com处女在线直播| 蜜桃人妻无码AV天堂三区| 3www激情| 激情小说五月天| 99操99| 丁香五月综合在线观看| 五月天婷婷狠狠| 五月丁香网站| 久噜久噜| 丁香婷婷五月综合色情| 五月婷婷丁香91| AV色婷婷| 色狠狠五月天| 99小视频在线观看| 婷婷五月天激情四射| 俺也去在线视频| 国产欧美日韩性爱| 欧美一级毛卡片无码| 色一情一乱一乱一区91Av| 思思re视频在线| 色月九九| 大大香蕉综合在线| 99热99色| 中文av网| 另类小说五月天综合网| 综合久久婷婷| 99视频综合网| 99热免费| 人妻久久久| 欧爱综合视频| 97干在线视频精品店| 91九色精品女同系列| 色婷五月| 婷婷五月天成人五月天| 久久婷婷丁香花综合网| 97操碰碰无码视频| 婷婷五月18永久免费视频| 7777激情基地| 四季AV综合网| 成人AV片播放| 中文成人在线| 99热超碰| 99精品久久久久| 五月丁香婷婷潮喷中文字幕| 91精品电影18T| 玖玖爱资源站| 婷五月天六| 久久婷婷七月丁香| 婷婷性爱影院| www.9797国产| 综合五月丁香六月婷婷| 色色五月婷婷久久| 99啪啪网| 伊人久久婷婷| 婷婷激情另类| 99热只有| 日韩精品无码99| 亚洲AV网站| 国外亚洲成AV人片在线观看| 日韩人妻无码精品| 五月婷婷激情四月| 久久狼人天堂| 被强行糟蹋的女人A片| 久久蜜臀婷婷| 激情99。| 五月天偷拍| 丁香色情五月天| 五月天色婷婷基地| 七七久久婷婷| 五月丁香六月激情| 久久大香蕉丁香| 91要啪| 丁香五月天色婷婷| 天天做天天爱天天做| 欧洲综合视频在线观看。欧洲,亚洲综合食品在线观看。 | 亚洲久久婷婷丁香五月天| 久热精品视频在线观| 久久大香蕉同僚| 国产AV网页| 色色色宗合网| 日韩五月婷婷久久| 九九色插| 婷婷五月丁香激情图片| 午夜婷婷| 天天干天天插| 九九热在线视频| 五月婷婷色| 九热免费视频| 色999五月色| 99热最新| 久久精品人妻| 伊人www22综合色| 色婷婷在线播放| 九九碰九九爱97| 五月天.com| 五月丁香激情啪啪| 中文字幕乱码亚洲精品一区| 狠狠插.com| 超碰2021| 五月婷婷七月丁香| www,久久久| 九九日本视频| 激情五月综合色婷婷| 五月丁香六月日逼| 先锋av性爱成人电影| 丁香婷婷激情网站| 深爱1激情网| 五月激情站| 亚洲网站999| 亚洲热视频在线| 狠狠干综合| 高清无码视频网址| 无码日本精品XXXXXXXXX | 五月天色色无码| 99re在线免费视频| 最新色色五月天| 丁香激惜男女| 久99热| 中文字幕AV网址| 夜夜撸日日操| 不卡的AV网站| 色婷婷AⅤ| 久久视这里只有精品| 开心五月激情站| 日日夜夜婷婷| 九月婷婷综合| 秋霞AV吧| 久久精品99久久| 99热国产这里只有| 色99视频| 欧美五月婷婷| 黄网在线播放| 曰韩五月丁香色婷婷无码| 婷婷的色色五月天| 五月婷婷丁香深深爱| 98国产精品综合一区二区三区| 国产内射婷婷| 996re热精品视频| 337p大胆噜噜噜噜噜91Av| 五月伊人视频在线看| 99免费| 99热这里| 97在线日本| 婷婷五月天成人五月天| 九九热国产| 五月丁香激情综合| 久久精品99国产精品日本| 天天综合网色欲香| 亚洲操精品| 婷婷免费无视频| 日韩九九| 久久99久久99久久99人受| 91美女啪啪| 久久在线92| 狠狠色丁香婷婷综合久久97AV| 狠狠色噜噜狠狠| 99色综合| 操逼五月天| 免费的日逼视频| 五月丁香操亭亭网| 婷婷五月色| 丁香五月婷婷亚洲天堂| 梁铮版蜘蛛女在线观看| 激情五月婷| 午夜在线成人网站免费观看| 天天操夜夜爽天天操| 天天日天天插| 秋霞av吧| 色狠狠激情五月| 欧美色色色色色色色色色色| 色色a| 中文字幕91,综合| 婷婷丁香六月影视| 狠狠爱综合网| 91精产一区三区免费观看| 丁香婷婷久久| 色五月欧美| 丁香五月婷婷总啪啪| 玖玖99福利| 91综合国免费久入| 日韩欧美成人网| 热无码A∨| 色婷婷狠狠爱| 人碰人人人玩91| 精品无码色| 五月天开心激情综合网| 五月婷激情影院| 丁香成人视频| 色播jjjj| 5月婷婷激情6月| 青青草五月天| 色欲久久综合| 五月丁香啪综合| 免费成人网在线观看| 五月丁香六月日逼| 综合久久综合| 亚洲天堂啪啪| 五月丁香花激情综合网| 精品人妻午夜一区二区三区四区 | 天天日日夜夜| 天天干天天色综合| 人人操人| 狠狠色大香蕉| 99精品自拍| 强辱丰满人妻HD中文字幕| 天天干,天天舔| 激情图片亚洲| 人人九色| 国产在线视频1234| 狠狠高潮精品亚洲1| 色九九九综合| 丁香五月天在线| 五月丁香另类网| 五月丁香六月婷综合成人综合| 欧美三级巜人妻互换| 欧美五月丁香在线观看| 国产精品成人AV在线观看春天| 丁香五月成人论坛| 五月日韩中文字幕| 欧美婷婷五月天综合| 日本天天操| 99热这是里只有精品| 久久五月天婷婷| 66久久视频在线| 曰韩少妇内射免费播放| 99热日本| 精品热青草| 五月花综合视频| 欧美性交一区二区三区| 99只有这里有精品在线视频| 九九99热久久精品66中文字幕| 182TV大香蕉| 51成人| 丁香狠狠色婷婷| 国产精品 的国产| 欧美色婷婷| 九九re精品视频在线观看| 久99久在线| 五月婷婷开心亚洲无| 欧洲色色| 色天天综合| 激情五月婷婷| 婷婷激情丁五月| 中文字幕日本最新乱码视频| 99人人操人人摸| 亚洲色五月婷婷| 五月丁香久人妻中文| 另类专区在线观看| 狼人狠狠操| 无码四色色色| 五月丁香综合啪啪| 夜夜骑福利资源| 超碰人人99| 色婷婷在线视频| 26uuu91| 激情婷婷网| 婷婷丁香成人| 激情网第四色| 五月丁香趴趴| 99综合视频| 丁香婷婷色五月| 日本操天堂| 五月天成人在线视频网站| www.色综合| 日韩99无码| 久久婷婷色综合| AV在线资源| 国产午夜精品一区二区三区四区 | 婷婷五月天色网久| 婷婷狠狠狠爱| 狠狠干五月天| 五月综合六月婷婷| 日韩AV片| 在线中文AV| 國語久久婷| 欧美综合丁香网| 丁香六月狠狠干| 国产在线aaa片一区二区99| 综合网亚洲| 天天搽天天射| 2005天天干天天1| 九九热免费视频| 激情综合丁香五月| 激情久久肏屄视频| 亚洲字幕AV一区二区三区四区| 久久激情网| 99人人操| 日韩一区二区A片免费观看| 婷婷五月丁香色综合| 天天拍久久| 99热主页日本| 六月激情婷婷| 五月丁香在线综合| 综合狠狠伊人| 碰人人操| 五月J香蕉婷婷| 五月天婷婷激情| 久久性爱网站| 亚洲超碰在线| 国产操逼视频网站| 亚洲精品久久久无码| 色色丁香婷婷综合| www.开心激情| 久草久青福利| 99九九热在线观看| 奇米影视在线视频| 99网| 久久婷综合| 99性爱无码| 思思久久99热| 日本99在线| 色婷婷色丁香色欲av| 色色色com| 丁香五月婷婷在线视频| 蜘蛛女免费观看完整版高清电影| 日韩黄色网络| 国产亚洲99久久精品熟女| 99热| 777色色色| 婷婷狠狠97| 狠狠色丁香婷婷基地| 99热最新地址在线| 国产成人高清| a在线免费v| 亚洲区1| 丁香六月婷婷操逼网| 东京热免费视频| 91Chinese在线| 91热网址| 天天天干夜夜夜操| 丁香花五月天| 久久婷婷六月| 久久婷婷精品| 五月色婷| 亚洲免费99| 4438成人电影| 久热9热| 无语停婷丁香网| 中文字幕无线久必| 99精品国产在热久久| 亚洲五月婷婷| 五月天婷婷色综合| 秋霞性爱AV| 久热AA| 丁香五月AV| 六月丁香啪啪啪| 来吧亚洲综合网| 五月花免费视频| 婷婷五月丁香五月天| 婷婷区日本| 色婷婷在线视频久| 天天色丁香| 91超级碰在线视频| 久久婷婷综合网| 亚洲午夜视频| 第五婷婷伊人丁香| 久久综合五月| 丁香五月婷婷Av| 91精品国产日韩91久久久久久国模| 丁香婷婷婷五月综合色情| 99re在线免费视频| 丁香天堂夜| 国内久久亭亭| www.91在线观看| 淫视馆AV在线| 九九成人精品免费视频| 91综合在线视频| av在线资源| 26UUU| 另类少妇人与禽zOZZ0性伦| 天天日天天干天天操| 色丁香五月婷婷| 久久怡红院| 性做爰A片免费视频A片直播| www.金莲av| 亚洲久艹| 日逼影音先锋AV男人资源站| 香蕉曰比| 99 福利 导航| 2022人人操人人看| 九九成人电影婷婷| 日韩精品在线观看9| 综合激情sV| 婷婷丁香九月| 综合伊人久久| 99综合自拍| 性爱动图国产麻豆一区二区三区| 五月激情婷婷开心五月| 在线色五月婷婷| 五月综合色播播丁香婷婷| 午夜激情五月| 99热97| 久久九九网| 亚洲妇女熟BBW| 婷婷五月超碰| 婷婷九九| 色五月天在线| 99色免费视频| 一月婷婷色色| 色婷婷免费观看| 亚洲日韩一页精品发布| 182tv992tv人之初午夜免费观看| 丁香九月综合在线| 97精品综合久久| 激情婷婷丁香五月| 激情五月丁香六月| 五月婷久久| 无码 av电影| 超级碰 久久9| 五月天激情网址| 天天日天天插天天操| 丁香五月亚洲综合| 成人在线视频一区| 91中文在线| 丁香五月婷婷亚洲天堂| 狠狠色色| 婷婷丁香五月综合激情小说| 操人无码| 一级片无码| av中文在线| 五月深爱激情网| 久久久WWW| 91人人人人人| 色丁香五月| 婷婷五月天伊人在线| 丁香五月综合在线观看| 97啪啪| 国产av一区二区三区| 色五月婷婷91| 久久婷婷六月| 日本五月天激情| 五月婷婷九九热| 色伦专区97中文字幕| 五月丁香婷婷基地| 大陆肏屄视频| www五月| 99re热在线观看| 热久久精品视频网站| 91在线日| 久草婷| 色之综合网| 九九精品亚洲| 色五月,com| www.婷婷,com| 青草激情在线| 噜噜在线| 婷婷情色五月天| 精品久久久人妻| 色日本五月天| 欧美色色色色色色| 色欲资源网| 色色色色综合网| 九九热re99re6在线精品| 99精品久久久久久久婷婷久久| 天天色播| 91视频久久久| 五月婷婷开心六月激情小说| 婷婷丁香18| 桃色激情五月天| 亚洲另类视频| 国产精品涩涩涩视频网站| 色五月激情综合网| 五月色综合| 潮汕成人AV片在线| 97久久香草精品视频| 国产欧洲欧洲精品久久| 婷婷玖玖五月天| 天天综合亚洲| 丁香六月婷婷缴情欧美| 五月婷婷中字在线| 色999亚洲人成色| 婷婷五月天丁香社区| 毛片色五月| 丁香五月大香蕉在线99| 亚洲成人在线播放| 久99久在线| 99热这里有精品| 人人澡玖玖一| 国产精品色婷婷99久久精品| 欧美日韩精品一区二区三区钱| 蜜乳A√| 97精品人人A片免费看| 国产激情综合五月| 操一区| 激情四射网| www.开心激情| 五月婷婷碰碰| 欧美综合激情五月| 性色做爰片在线观看WW| 99这里有精品免费| 激情婷婷丁香| 九九热九九| 国产精产国品一二三在观看| 五月丁香婷婷基地| 青青草原亚洲天堂| 99久在线视频| 色播六月| 五月丁香久久精品在线观看| 91久久久久久久| 五月香婷婷| 人妻中文在线| 99re这里只有精品99| 开心五月天激情网| 五月丁香好婷婷A片网| 91干在线| 丁香五月激情棕合| 播五月开心婷婷欧美综合| 91热视频色网站| 一起草av| 色色自拍视频网站| www.久久爱| 婷婷五月天影视网址| 久久丁香五月| 欧美va亚洲va| 欧美性色A片免费免费观看的| 六月婷婷狠狠色在线观看| 99热精品在线观看| 香蕉操亚洲| 另类亚洲2| 丁香五月在线观看| 午夜成人av在线| 丁香五月激情婷婷婷婷在线观看| 九九99视频精品| 激情婷婷五月| 超碰在线资源| 96精品久久久久久久久| 九九色色网| 97久久久| 丁香五月天五码婷婷| 亚洲成人AV一区在线观看| 天堂色婷婷| www.综合久久.com| 99re这里| 玖玖五月| 久热免费视频| 成人性爱精品视频| 海外网站专业操老外| 97碰在线| 九九成人高清视频| 操97在线观看| 五月丁香成年黄色| 青草性爱视频| 337久久| 国产毛片精品一区二区色欲黄A片| 99热天堂| 97碰在线视频| 婷婷涩五月天综合| 久久91久久精品久久| 丁香五婷婷| 五月丁香日本片| 91丨九色丨首页| 色五月天激情| 丁香五月深爱五月婷婷| 中文字幕婷婷在线| 亚洲99精品欧美一区| 亚洲永久免费| 97色精品视频 | 深夜激情网| 亚洲综合激情五月久久|