欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查 1. 先把 On-CPU 和 Off-CPU 這兩個詞掰開揉碎性能分析這件事做得久了會發(fā)現(xiàn)一個很尷尬的現(xiàn)象很多人拿到一臺卡頓的機(jī)器第一反應(yīng)是 top、ps、然后開 perf 抓火焰圖看到 CPU 使用率不高、火焰圖也沒幾個尖峰就得出系統(tǒng)沒問題的結(jié)論。但業(yè)務(wù)方還在催接口還是慢。問題出在哪出在只看了線程跑在 CPU 上的那段時間忽略了線程不在 CPU 上的那段更漫長的時間。Linux 性能分析里的 On-CPU 和 Off-CPU說的就是把一個線程的完整生命周期切成兩半來看On-CPU 是線程真正占用處理器執(zhí)行指令的時間Off-CPU 是線程雖然活著、但沒有被處理器執(zhí)行的時間。這兩塊時間加起來才是一個請求從進(jìn)來到返回的真實(shí)墻鐘耗時。我做過的排查里至少有六成的性能問題根子在 Off-CPU 上等鎖、等磁盤 IO、等網(wǎng)絡(luò)回包、等定時器、等被喚醒調(diào)度。而大家習(xí)慣用的工具幾乎全是為 On-CPU 設(shè)計的。這就導(dǎo)致一個結(jié)構(gòu)性盲區(qū)——你越用 On-CPU 的工具越會把注意力放在計算熱點(diǎn)上越容易漏掉阻塞點(diǎn)。所以這篇內(nèi)容想聊的就是怎么把這兩半時間都量出來、怎么看、怎么改。適合已經(jīng)會用 top、perf 這類基礎(chǔ)工具但遇到CPU 不高卻很慢的場景會卡住的運(yùn)維、后端開發(fā)和 SRE也適合剛接觸 Linux 性能調(diào)優(yōu)、想建立一套完整分析框架的朋友。1.1 一個類比餐廳后廚和等位區(qū)把服務(wù)器想象成一家餐廳CPU 核心就是廚師線程就是一道道待做的菜。On-CPU 時間相當(dāng)于廚師正在灶臺前顛勺的時間Off-CPU 時間是這道菜從點(diǎn)單到出餐之間廚師沒碰它的所有時間——可能是在等配菜送過來等 IO可能是灶臺被別的菜占著等鎖也可能是廚師被叫去處理別的單子、這道菜就擱在一邊調(diào)度延遲。只統(tǒng)計廚師顛勺的時長你會覺得后廚效率挺高但顧客感受到的是從點(diǎn)單到上菜的完整等待。這兩者之間的差距就是 Off-CPU 分析要填的坑。理解了這層類比后面所有的工具和指標(biāo)其實(shí)都是在回答兩個問題廚師到底在哪個灶臺上花了多少時間On-CPU 熱點(diǎn)以及這道菜在沒被烹飪的時候究竟卡在哪一步Off-CPU 阻塞點(diǎn)。1.2 為什么只盯 On-CPU 會系統(tǒng)性誤判CPU 使用率是個比值分子是忙的時間分母是總時間。當(dāng)系統(tǒng)大量線程都在睡覺等待時這個比值天然就低看起來很閑。但這恰恰可能是最糟的狀態(tài)線程數(shù)開了一堆每個都在等同一個資源吞吐上不去延遲還高。這類問題在 On-CPU 視角里幾乎隱身因?yàn)閴焊鶝]有多少指令在跑。更麻煩的是一些常見結(jié)論會把人帶偏。比如CPU 使用率低說明負(fù)載輕可以再壓一壓實(shí)際可能是下游某個依賴把請求全堵住了再比如火焰圖沒熱點(diǎn)所以代碼沒問題實(shí)際瓶頸在 syscall 睡眠或者 futex 等待上采樣器根本沒采到什么棧。所以建立 On-CPU 和 Off-CPU 的雙視角不是為了多學(xué)幾個命令而是為了堵住這個判斷漏洞。1.3 把線程時間賬本拆開一個線程從被創(chuàng)建到退出它的時間可以粗略拆成三塊Running在 CPU 上跑、Runnable就緒但在等 CPU、Sleeping睡眠等某個事件。Running 就是 On-CPU后兩者合起來是 Off-CPU。這里有個容易被忽視的細(xì)節(jié)Runnable 狀態(tài)本身也是一種浪費(fèi)它說明 CPU 不夠分或者調(diào)度策略讓某些線程遲遲輪不上。很多偶發(fā)尖刺就是 Runnable 排隊造成的。把這三塊量化出來你就能給任何一次慢請求做一個耗時歸因表多少時間在算多少時間在等鎖多少時間在等 IO多少時間在等調(diào)度。歸因清楚了優(yōu)化方向基本就是明牌。接下來的章節(jié)我會先講 On-CPU 怎么采得準(zhǔn)再講 Off-CPU 怎么把等待棧抓出來最后給一個從現(xiàn)象到修復(fù)的完整推演。2. On-CPU 分析采樣、火焰圖與熱點(diǎn)定位On-CPU 分析的目標(biāo)很明確找出線程把時間花在了哪些代碼路徑上。主流做法是基于定時中斷的采樣sampling而不是插樁計數(shù)因?yàn)椴蓸訉π阅苡绊懶 ⒛芊从痴鎸?shí)分布也不需要改代碼。采樣器每隔一個固定周期打斷一次 CPU抓下當(dāng)前的調(diào)用棧攢夠樣本數(shù)之后按棧聚合就得到了調(diào)用分布的近似。樣本越多統(tǒng)計越穩(wěn)。2.1 perf 采樣機(jī)制和幾個必須懂的參數(shù)Linux 上最通用的采樣工具就是 perf。它依賴內(nèi)核的 perf_event 子系統(tǒng)和硬件/軟件 PMU能按時間頻率或事件計數(shù)觸發(fā)采樣。一條典型的抓取命令是這樣perf record -F 99 -g -p 12345 -- sleep 30 perf script perf.out ./stackcollapse-perf.pl perf.out perf.folded ./flamegraph.pl perf.folded oncpu.svg幾個參數(shù)值得掰扯清楚。-F 99 表示每秒采樣 99 次。為什么不是 100因?yàn)檎麛?shù) 100 容易和系統(tǒng)里其他 100Hz 的周期任務(wù)比如某些定時器產(chǎn)生鎖相采出來的樣本會偏向某個固定相位導(dǎo)致分布失真。99 是個質(zhì)數(shù)能打散這種共振。-g 是抓完整調(diào)用棧沒有它你只能看到最頂層的函數(shù)看不到是誰調(diào)用的定位就沒有上下文。-- sleep 30 是限定采集時長用 sleep 而不是直接 Ctrl-C是為了讓腳本化更穩(wěn)定、退出更干凈。還有兩個參數(shù)在排查特定問題時很關(guān)鍵-e 可以指定事件默認(rèn)是 cycles但你也可以換成 cache-misses、branch-misses 來抓特定瓶頸--call-graph dwarf 會在用戶態(tài)棧難以回溯時改用 DWARF 調(diào)試信息展開代價是開銷更大、產(chǎn)出更大。一般先默認(rèn) fpframe pointer跑一遍棧斷了再考慮 dwarf。注意perf 的內(nèi)核棧符號來自 /proc/kallsyms用戶態(tài)符號需要帶調(diào)試信息的二進(jìn)制。生產(chǎn)環(huán)境經(jīng)常遇到符號被 strip 掉的情況采出來全是十六進(jìn)制地址白忙一場。動手前先確認(rèn)目標(biāo)進(jìn)程有沒有 debuginfo 或者帶符號的構(gòu)建產(chǎn)物。2.2 火焰圖怎么讀哪些形狀代表什么問題火焰圖的橫軸是樣本占比不是時間順序縱軸是調(diào)用深度每一塊是一個棧幀塊越寬說明該函數(shù)在采樣里出現(xiàn)得越多。讀圖的核心心法就一句先找最寬的葉子再看它是被誰調(diào)用的。最寬的葉子通常是實(shí)際的 CPU 消耗大戶但它的元兇可能在它的調(diào)用者那一層——比如一個通用的序列化函數(shù)很寬但真正的問題是某個業(yè)務(wù)邏輯反復(fù)調(diào)它。幾種典型形狀對應(yīng)不同問題。平頂山形狀底部寬、頂層一排差不多的寬塊通常是循環(huán)或批處理在反復(fù)執(zhí)行同類操作優(yōu)化點(diǎn)是降復(fù)雜度或加緩存。塔尖形狀某一層特別寬下面迅速收窄說明有個單點(diǎn)函數(shù)吃滿了 CPU直接盯它。斷層形狀中間某層突然很窄說明采樣在這個函數(shù)里分布稀疏要么是它執(zhí)行快要么是棧在那斷了需要配合 dwarf 或檢查符號。2.3 符號丟失、棧截斷和 JIT 代碼這三類坑實(shí)話說On-CPU 分析最容易翻車的不是命令不會敲而是采出來的東西沒法看。第一類坑是符號丟失解決方式是裝對應(yīng)版本的 debuginfo 包或者用perf buildid-list確認(rèn) build-id 能不能對上 debug 文件。第二類坑是棧截斷frame pointer 被編譯器優(yōu)化掉了-fomit-frame-pointer 是很多發(fā)行版的默認(rèn)這時候要么重新編譯加 -fno-omit-frame-pointer要么切到 dwarf 模式。深度太深時 perf 默認(rèn)只抓一部分??梢杂?-call-graph dwarf,65528加大棧大小。第三類坑是 JIT 代碼Java、Node、部分 Go 場景都會遇到采出來是一堆[JIT]或者匿名地址。Java 的解法是掛 perf-map-agent讓 JIT 編譯時把方法地址映射寫到 /tmp/perf-PID.mapperf 就能解析更省事的做法是直接用 async-profiler 抓 CPU 火焰圖它對 JIT 代碼的映射是內(nèi)建的。Node 可以用--perf-basic-prof之類的方式輸出映射表。這類工作如果一開始沒規(guī)劃好事后補(bǔ)會很難受建議在部署階段就把符號和映射準(zhǔn)備好。3. Off-CPU 分析把等待這件事量化聊完 On-CPU重頭戲來了。Off-CPU 分析要回答的是線程沒在跑的時候到底在等什么等了多久。傳統(tǒng)思路是插樁記錄每個阻塞點(diǎn)的進(jìn)入和退出時間但這要求改代碼、而且覆蓋不到內(nèi)核路徑。更優(yōu)雅的做法同樣是跟蹤切換內(nèi)核每次發(fā)生上下文切換時都會記錄誰被換下、誰被換上如果我們在這兩個時刻打點(diǎn)就能算出每個線程兩次被調(diào)度之間隔了多久并且抓下它被換下時的調(diào)用棧——那個棧就是它睡覺的原因。3.1 線程離開 CPU 的幾種典型原因歸納一下線程從 Running 變成 Off-CPU常見就這幾類。第一類是睡眠等待主動調(diào)用會睡眠的 syscall 或同步原語比如 read/write 阻塞、futex 等待、nanosleep。第二類是等鎖包括用戶態(tài)自旋鎖的退化、互斥量、文件鎖內(nèi)核里 futex 是重災(zāi)區(qū)。第三類是等 IO包括磁盤、網(wǎng)絡(luò)、管道很多時候表現(xiàn)為 epoll_wait 或 read 阻塞。第四類是被搶占時間片用完或被高優(yōu)先級線程擠下去這時候線程還是 Runnable只是沒輪上。前幾類是 Sleeping第四類是 Runnable。區(qū)分它們很重要Sleeping 說明有外部依賴拖著優(yōu)化方向是縮短依賴或并發(fā)化Runnable 說明 CPU 資源或調(diào)度配置有問題優(yōu)化方向是加資源或調(diào)優(yōu)先級、綁核。很多分析工具會把兩者混在總 Off-CPU 時間里看的時候要留意能不能拆開。3.2 offcputime 與 wakeuptime等待棧和喚醒鏈BCC 工具集里的 offcputime 是最常用的入口。它會跟蹤上下文切換統(tǒng)計每個線程 Off-CPU 的累計時長并按被換下時的棧聚合offcputime -df -p 12345 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU Time --countnameus offcpu.folded offcpu.svg參數(shù)含義-d 打印分隔符方便后續(xù)折疊-f 輸出折疊格式直接喂給火焰圖腳本-p 限定進(jìn)程最后一個數(shù)字是采集秒數(shù)。得到的 Off-CPU 火焰圖跟 On-CPU 長得像但橫軸寬度是阻塞時長微秒讀法是哪個棧把線程卡住得最久。offcputime 解決的是線程在哪睡但它不回答誰把它叫醒的。這時候就要請出 wakeuptime。它把阻塞棧和喚醒棧拼在一起直接告訴你A 線程在某個 futex 上睡了 200ms是被 B 線程喚醒的。這個信息非常值錢因?yàn)樗岩蚬溄o串起來了——很多鎖競爭的根因不是持鎖線程慢而是持鎖線程被別的更慢的操作卡住了。wakeuptime -p 12345 30實(shí)測下來wakeuptime 在排查線程池互相等待、上游把下游拖死的場景里特別好用。缺點(diǎn)是對復(fù)雜調(diào)用棧的輸出會比較長需要配合過濾看。3.3 runqlat被忽視的調(diào)度延遲前面說過 Runnable 狀態(tài)是獨(dú)立的一類浪費(fèi)量化它主要靠 runqlat老版本叫 runqslower。它統(tǒng)計任務(wù)從進(jìn)入就緒隊列到真正被調(diào)度執(zhí)行之間的延遲分布輸出是直方圖runqlat -m -P 10-m用毫秒做單位-P按進(jìn)程聚合。看這個輸出主要看長尾如果 p99 到了幾十毫秒說明某些線程經(jīng)常在就緒隊列里等很久CPU 飽和或者有 CPU 密集任務(wù)在搶。這類延遲在應(yīng)用層往往表現(xiàn)為莫名的抖動而且因?yàn)樗幌?CPU 時間常規(guī)監(jiān)控根本看不到。線上偶發(fā)毛刺排查runqlat 是我必開的一個工具。注意offcputime 統(tǒng)計的時長里其實(shí)已經(jīng)隱含包含了 Runnable 的等待因?yàn)榫€程從被換下到再次被換上中間可能既有睡眠也有排隊。要精確拆開需要同時看 offcputime 和 runqlat用差值估算。睡了 100ms 里有 80ms 是在排隊這種結(jié)論只能靠兩個工具配合才能得出。4. 一次真實(shí)排查的完整推演講完工具來走一遍完整流程比干講參數(shù)有用得多。以下是我處理過的一個典型場景做了脫敏和簡化但思路和步驟是原樣的。4.1 現(xiàn)象描述和初步假設(shè)現(xiàn)象某服務(wù)接口在壓測時 p99 從 20ms 漲到 900ms但機(jī)器 CPU 使用率只有 25%IO 也不高監(jiān)控上看不出明顯異常。單看資源指標(biāo)這臺機(jī)器簡直空閑得可以去度假。這種資源不緊張但延遲爆炸的形態(tài)基本可以判定瓶頸在 Off-CPU而且大概率是排隊或者鎖不是計算。先立幾個假設(shè)一是線程池被某個慢調(diào)用占滿新請求只能排隊二是某個共享資源連接池、緩存、鎖成了串行點(diǎn)三是 GC 或者定時任務(wù)周期性搶占導(dǎo)致抖動。接下來逐個驗(yàn)證。4.2 用 On-CPU 排除計算密集第一步還是先排除計算問題畢竟它最好查。抓 30 秒 On-CPU 火焰圖perf record -F 99 -g -p $(pgrep -f myapp | head -1) -- sleep 30 perf script | ./stackcollapse-perf.pl | ./flamegraph.pl oncpu.svg結(jié)果很干凈最寬的葉子占不到 5%沒有任何函數(shù)吃滿。這就基本排除了 CPU 熱點(diǎn)也側(cè)面印證問題在等待。同時看了一眼 On-CPU 的采樣總數(shù)30 秒 99Hz 應(yīng)該接近 3000 個樣本實(shí)際只采到不到 800 個——這個差值本身就是信號大量時間線程根本沒在跑采樣器采不到。4.3 用 Off-CPU 定位到鎖競爭接下來抓 Off-CPUoffcputime -df -p $(pgrep -f myapp | head -1) 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU --countnameus offcpu.folded offcpu.svg火焰圖一出來最寬的一條棧非常顯眼從業(yè)務(wù)入口一路到pthread_mutex_lock再往下是futex_wait累計阻塞時間占了總 Off-CPU 時間的六成以上。也就是說大量線程都堵在同一把鎖上。順著棧找到那個 mutex 對應(yīng)的代碼位置是一個本以為讀多寫少的共享配置緩存實(shí)際每次刷新都會整表加寫鎖而刷新又調(diào)用了下游接口一旦下游慢鎖就持很久。再用 wakeuptime 確認(rèn)喚醒鏈wakeuptime -p $(pgrep -f myapp | head -1) 30輸出清楚地顯示喚醒這些等鎖線程的正是那個持鎖的刷新線程而刷新線程自己又阻塞在下游網(wǎng)絡(luò)讀上。到這里因果鏈完整了下游慢 → 刷新線程持鎖時間長 → 其他線程全堵在鎖上 → 請求排隊 → p99 爆炸。4.4 驗(yàn)證與修復(fù)驗(yàn)證方式很直接給共享緩存的刷新邏輯改成先算好再原子替換指針也就是讀路徑無鎖、寫路徑只做一次指針交換把持鎖時間從整個下游調(diào)用縮到指針賦值。改完復(fù)壓p99 回落到 30ms 以內(nèi)Off-CPU 火焰圖上那條 futex_wait 的寬度基本消失了。這次排查的價值不在于用了多高級的工具而在于先用 On-CPU 排除、再用 Off-CPU 定位、最后用 wakeuptime 串因果這個固定套路。你把這套順序記下來遇到類似問題就不用靠猜了。5. 環(huán)境準(zhǔn)備與工具選型的一些硬門檻工具再好環(huán)境不支持也白搭。Off-CPU 這類分析工具大多基于 eBPF對內(nèi)核版本和權(quán)限有實(shí)打?qū)嵉囊筇崆按_認(rèn)能省掉很多抓耳撓腮的時間。5.1 內(nèi)核版本與 eBPF 能力自檢先看內(nèi)核版本uname -roffcputime、wakeuptime 這類工具依賴掛載 kprobe 的能力實(shí)踐上建議內(nèi)核 4.15 以上5.x 更穩(wěn)。4.9 到 4.14 之間有些工具能跑但偶有兼容問題。檢查內(nèi)核配置grep -E CONFIG_BPF|CONFIG_BPF_SYSCALL|CONFIG_KPROBE /boot/config-$(uname -r)幾個關(guān)鍵項要能查到BCC 工具集才能正常工作。如果是最小化安裝的發(fā)行版可能連 bcc-tools 包都沒裝。5.2 安裝 BCC 與依賴主流發(fā)行版基本都有現(xiàn)成包# Debian/Ubuntu 系 sudo apt-get install bpfcc-tools linux-headers-$(uname -r) # RHEL/CentOS 系 sudo yum install bcc-tools kernel-devel-$(uname -r)裝完工具一般在/usr/sbin或者/usr/share/bcc/tools下可能帶-bpfcc后綴。perf 和火焰圖腳本另裝perf 跟內(nèi)核版本綁定最好用包管理器裝避免自己編譯出坑FlameGraph 是一堆 Perl 腳本clone 下來即可。5.3 容器和虛擬化環(huán)境的特殊處理容器環(huán)境里有兩個必踩的坑。第一是 PID 命名空間容器里看到的 PID 和宿主機(jī)不是一回事perf 和 bcc 工具如果跑在宿主機(jī)上得用宿主機(jī)的 PID用docker top或者ps -eLf | grep去定位。BCC 的-p參數(shù)接受的是它所在命名空間里的 PID跑在容器內(nèi)就填容器內(nèi) PID。第二是權(quán)限eBPF 傳統(tǒng)上要 root5.8 以后有了 CAP_BPF 和 CAP_PERFMON 可以降權(quán)但生產(chǎn)上多數(shù)還是用 root 或者 privileged 容器。虛擬化環(huán)境里硬件 PMU 事件可能不可用perf 的部分功能會退化但軟件事件cpu-clock和采樣依然可用Off-CPU 工具基于 kprobe 基本不受影響。這一點(diǎn)在云主機(jī)上不需要太擔(dān)心。提示如果 offcputime 報 HINT: ... failed to attach 之類的錯誤先確認(rèn)內(nèi)核開了 CONFIG_BPF 相關(guān)選項再確認(rèn)自己沒有在受限的 seccomp 環(huán)境里跑。有些安全加固過的環(huán)境會禁用 bpf() 系統(tǒng)調(diào)用。6. 常見問題與排查技巧速查把經(jīng)常遇到的坑整理成一張表排查時直接對號入座比翻文檔快?,F(xiàn)象可能原因排查手段處理方式On-CPU 火焰圖全是地址符號二進(jìn)制被 strip 或缺 debuginfoperf buildid-list對比安裝 debuginfo 包或帶符號重編采樣樣本數(shù)遠(yuǎn)低于預(yù)期線程大量 Off-CPU對比預(yù)期樣本數(shù)轉(zhuǎn) Off-CPU 分析Java 棧顯示為[JIT]JIT 代碼無符號映射檢查/tmp/perf-PID.map掛 perf-map-agent 或換 async-profileroffcputime 棧斷在中間棧展開深度不足看棧頂部是否有斷裂dwarf 模式或加大棧參數(shù)Off-CPU 圖里大量 idle/swapper采集到空閑任務(wù)觀察最寬塊的名字用-p限定進(jìn)程或加過濾p99 抖動但 CPU 不高調(diào)度延遲長尾runqlat -m -P查 CPU 飽和或綁核調(diào)優(yōu)先級等鎖時間長但持鎖者不慢持鎖者被下游卡住wakeuptime看喚醒鏈縮短持鎖范圍或改無鎖容器內(nèi)工具報 PID 找不到命名空間不一致docker top核對用對應(yīng)命名空間的 PIDeBPF 工具 attach 失敗內(nèi)核能力或 seccomp 限制查內(nèi)核 config 和安全策略換環(huán)境或提權(quán)這張表里我最想強(qiáng)調(diào)的兩行是采樣樣本數(shù)遠(yuǎn)低于預(yù)期和等鎖時間長但持鎖者不慢。前者是一個很隱蔽的信號很多人看到 CPU 不高就直接放棄 perf 了其實(shí)差值本身就在告訴你答案后者是翻身常犯的錯——盯著等鎖的人看忽略了叫醒他們的人。把這兩個視角建立起來絕大多數(shù)詭異延遲都能找到入口。再補(bǔ)幾個實(shí)操心得。第一采集時長別太短Off-CPU 事件往往稀疏10 秒可能采不到幾次建議至少 30 秒長尾問題可以拉到幾分鐘。第二采樣時盡量復(fù)現(xiàn)問題場景空跑采集沒意義要壓測就邊壓邊采。第三火焰圖看的是分布不是順序別試圖從圖里讀出時間先后要看先后得用 trace 類工具。第四perf script產(chǎn)出的中間文件可能很大幾十秒采集幾百 MB 是常事注意磁盤空間和后續(xù)處理的內(nèi)存占用。7. 一些踩坑之后才明白的經(jīng)驗(yàn)最后聊點(diǎn)工具之外的東西都是實(shí)打?qū)嵅瘸鰜淼?。剛接觸 Off-CPU 分析時我老想找一個命令搞定后來發(fā)現(xiàn)這套分析的價值恰恰在于組合On-CPU 排除計算、offcputime 找阻塞點(diǎn)、wakeuptime 串因果、runqlat 補(bǔ)調(diào)度四個環(huán)節(jié)缺一個結(jié)論就可能偏。還有一個體會是Off-CPU 時間不是越低越好而是越可解釋越好。有些等待是設(shè)計使然比如正常的網(wǎng)絡(luò) RTT、必要的批量攢批這些等待是劃算的真正要干掉的是那些沒必要的、可以并發(fā)化的、因?yàn)閷?shí)現(xiàn)缺陷被放大的等待。所以別追求把 Off-CPU 壓到零先追求能說清楚每一段等待花在哪、值不值。另一個容易忽略的點(diǎn)是采樣開銷。eBPF 工具在高頻事件上比如上下文切換特別頻繁的系統(tǒng)本身也會產(chǎn)生可觀測的額外負(fù)載采集的時候要留意對被分析進(jìn)程的影響別把觀察行為變成了干擾因素。壓測對比時最好先跑一次不采集的基線再跑采集版本把采集開銷從結(jié)果里扣掉不然容易冤枉代碼。再分享一個小技巧如果線上不方便跑 root 工具可以先從/proc/PID/status里的 voluntary_ctxt_switches 和 nonvoluntary_ctxt_switches 看趨勢兩個值漲得快說明上下文切換頻繁O(jiān)ff-CPU 問題概率大這就是個零成本的先行指標(biāo)用來決定要不要上重武器很夠用。這套東西我用了好幾年越用越覺得它不是什么高深技術(shù)就是把線程到底在干嘛這個問題拆成兩半來回答的樸素方法。工具會隨內(nèi)核版本變理解On-CPU 加 Off-CPU 等于完整墻鐘時間這個賬本關(guān)系才是長期管用的東西。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
思思99久久| 青青草激情网| 五月天伊人av| 国产亚洲网站在线| 91女人18毛片水多国产| 色婷视频| 激情五月天婷婷| 欧美毛片www| 超碰成人av| 99热综合| 激情综合色| 日韩色色视频| 亚洲色模骚货| 丁香五月婷婷色| 超碰免费人人| 激情久久久久久| 亚洲俩性性爱图片久久第六页| 日逼影音先锋男人资源站| 9l视频自拍9l九色9l成人| 丁香网五月网| 中文网av| 另类激情网| 99re这里只有精品9| 人人操91色| 少妇伦子伦精品无吗| 9久久精品| 九九免费视频| 99热这里只有精品在线观看| 天天干天天干天天操| 思思99精品视频在线观看| 99ri在线观看视频| www.xtbsty.cn.com蜜乳AV| 久碰综合| 色碰干| 精品久久久久成人码免费动漫 | 99热性色| 国产脫衣舞一区二区三区| 9在线9在线婷婷在线国产| 日本精品久久久久中文字幕| 欧洲电影在线观看免费版英语版| 激情综合丁香六| 三男玩一女三A片| 日日夜夜天天综合| 开心激情婷婷| 丁香五月花影院| 日韩人妻无码专区| W色综合| 婷婷丁香社区| 玖玖婷婷五月天毛片| 丁香五月亚洲综合| 婷婷精品性性性性性性性| 九九爱看亚洲| 狠狠色狠狠色综合日日91| 亚洲无AV在线中文字幕| 婷久久久| 久9热在线视频| www.99热| 婷婷五月天亚洲图片| 色婷婷丁香五月丁香| 国产婷婷综合| 婷婷的色色五月天| av在线资源| 99爱这里只有精品免费视频| 国产亚洲成AV人片在线观黄桃| 99国产精品久久久久久久久久久 | 26uuu亚洲欧美另类| 五月婷婷丁香啪啪| 色综合色综合网| www,av好吊操| 婷婷色网| 丁香五月 无码| 偷偷操九九| 久久99精品久久久久久三级| 欧洲亚洲免费视频9| 99热这里只有精品96| 新激情五月天色播| 婷婷五月天激情小说| 五月天另类激情在线| 国产成人网| 97碰精品| 做爱夜夜干天天操| 九九色综合九九色| 激情五婷精品网在线观看网址| 亚洲综合激情五月天婷婷| av中文在线| www 五月天 com| 久久人妻久久| 免费无码毛片一区二区A片| 色哟呦av| 日本激情ⅩXX免费视频| 五月婷婷五月天在线| 九九热精品| 激情丁香五月| 成人五月天丁香婷| 婷婷精品性性性性性性性| 婷婷五月天丁香花| www.激情com| 五月香蕉综合| 91精品综合久久久久久五月丁香| 99热99| 中文字幕永久在线| 91干视频| 99操无码视频观看| 丁香五月成人社区| 一本色道久久综合狠狠躁一二三| 丁香五月天欧美成人| 精品色| 91九色首页| 五月婷婷色色网址| 丁香六月无码| 7777国产盗摄农村女人| wwW天天干| 色欧洲| 综合色播| 久热这里只有精品性色AV| 99热这里只有精品最新网址| WwW色婷婷| 五月丁香啪啪啪啪| 婷婷久久亚洲| 秋霞A V毛片| 五月激情偷拍| 在线观看欧美3区| 女人天堂AV| 激情久久综合网| 五月丁六月香av| www999日韩精品| 人操人| 五月永久激情| 草草色情综合网| 99久热这里只有精品视频删减版| 99热这里是精品| 五月婷婷|欧美| 婷婷五月综合视频| 色噜婷婷| 欧美日韩成人在线网| 精品五月花| www天天干| 日韩啊啊啊| 站长推荐无码播放| 丁香五月成人社区| 99热免费网站| 丁香五月花| 99综合视频在线| 91久久久久久久久18| 色婷婷五月天偷拍| 色色五月天激情| 久久激情天堂| 久久五月天婷婷| 人妻熟妇国产精品| 青柠影视免费高清电视剧| 丁香五月网站| 五月婷婷久久大片| 婷婷中文字幕网| 91九色超碰正在播放| 激情五月婷婷老师| 色女人久久| 色99热| 五月婷婷啪啪| 色婷婷丁香综合中文字幕| 99在线热视频| 99热这里只有精品26| 九九热最新地址| 久久婷丁香五月| 99人人干| 九九视频精品视频精品| 伊人九九热| 成人AV中文字幕| 九九色播五月丁香| 精品一二三区久久AAA片| 五月天色婷好好| 风流少妇A片一区二区蜜桃| 韩国情人在线电视剧免费观看高清版全集 | 天天做天天爱| 久久无码激情视频| 久久久色情| 噜噜噜久久| 99在线热| a免费在线| 天天婷婷| 婷婷五月天激情综合婷婷五月天激情综合| 日本偷拍九九九| 欧美综合激情丁香五月六月婷| 丁香五月激情月| 五月婷婷与六月丁香图片激情| 怡红院 久久| 成人午夜视频精品一区| 狠狠99| 婷婷五月黄色激情在线| 99人人操| 天天综合天综合久久网| 六月丁香久久| 久久五月天色| 婷婷大美在线| 色婷婷影视| 激情婷婷丁香五月| 夜夜躁爽日日| 国产精品国产| 成人电影丁香六月天| 久久大香蕉同僚| 无码人妻少妇色欲AV一区二区 | 国产毛片精品一区二区色欲黄A片| WWW.99热| 五月丁香六月婷婷在线小说视频| 久99综合婷婷| 五月丁香趴趴| 久久婷婷免费| 日韩一区二区A片免费观看| 婷婷操超碰| www.狠狠狠.com| 99热777| 久久一级免费黄色片| 99热这里只有精品3| 天天干天天操天天上| 亚洲最大在线| 99久久久久久久| 亚洲国产精品二二三三区| 激情丁香六月| 精品久久66| 五月开心婷婷中文字幕| 激情视频91| 婷婷五月天久草在线| 久久婷婷伊人| 亚洲视频五区| 色情久久久| 激情色视频| 色色色视频免费无码| 伊人大香蕉在线视频| 色狠狠色噜噜AV天堂五区| 丁香五月欧美色综合| 精品51XX| 99热在线观看亚洲区| anquye伊人| www.婷婷亚洲基地| 国産精品| 色婷婷综合网| 亚洲精品色色| 色五月xxx| 婷婷丁香五月麻豆| 亚洲欧洲另类| av婷婷丁香 六月| 久久五月网| 99热全是精品| 97视频.干com| 中文字幕黄色片| 久草五月天| 九九人人看| 亚洲色频| 天天综合久久| 激情五月天色色| 久久婷婷五月天蜜桃| 玖操97| 丁香亚洲婷婷五月| 激情五月综合网最新 | 色婷丁香| 久久久久久久久久8888| 婷婷丁香社区| 日本人妻久久| 操操天堂| 26UUU成人网| 婷婷五月天成人五月天| 五月色天五月色| 日韩六六久久电影| 五月天成人网在线观看| 青青草tp| 三年高清大片免费观看国语| 激情婷婷99| 亚洲人成网站999久久久综合| 精品视频网| 91在线看免费 九九九九| 激情综合网站| 五月总合激情网| 99惹在线精品免费观看| 婷婷五月丁香伊人网| 丁香五月综合在线视频| 97精品综合久久| 五月婷婷综合视频| 日韩人人操| 色情开心五月| 天天色五月| 夜夜爽天操| 五月天婷婷7米| 97色永久免费视频| 天天碰夜夜操| 五月丁香操婷逼| 狠狠搞五月天| 精品亚洲VA网站| 九九久久99精品免费观看www| 丁香五月色| 丁香情色五月| 91精品无码| 69堂午夜视频最新地址| 激情婷婷丁香| 色狠狠色噜噜AV天堂五区| 五月天激情小说婷婷基地| 激情婷婷色五月| 五月天久久综合| 天天爱天天操| 影音先锋四区| 五月丁香婷婷激情视频| 婷婷成人五月天| 国产操逼网站| 99热6这里只有精品6| 色五狠狠| 亚洲V国产V欧美V久久久久久| 亚州色综合| 久久婷婷六月天| 99热在线观看亚洲区| 在线看片av| 欧美十二区| 中文精品在| 六月婷婷网站| 激情婷婷| 欧美久久婷婷| 亚洲欧美丁香五月天亚洲欧美| 99在线免费视频| www.一起草av| 99热这里只有精品最新地址获取| 欧美激情综合| 亚洲人妻av| 丁香激情五月少妇| yazhoujiqingav| 亚洲不卡| 色婷婷六月天| 色久影院| 久久999久久999久久999久久| 久久精品99国产精品日本| 婷婷免费无马| 97色97干| 黑人无码一区| 色玖玖综合| www,婷婷,com| 国产偷人爽久久久久久老妇APP| 婷婷五月色情| 天天久| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 久久9999| 91九色视频在线观看| 五月天综合在线网| 99色热视频| 99爱精品| 五月综亚洲| 91丨九色丨熟女高潮| 久久久99久久| 丁香五月婷婷色| 免费亚洲成人电影AV| Www.激情| 九九99男女视频在线观看| 丁香五月亚洲| 蜜桃婷婷狠狠久久综合| 五月婷婷婷丁香播| 性色婷婷| 思思久久精品| 亚洲第一色色色色| 青青草大香| 深爱五月天 开心网| 开心五月婷婷| 综合激情深爱| 九九性爱网| 婷婷婷婷婷婷婷婷| 99狠狠| 色五月av| 99久久亚洲精品视频| 色一情一乱一乱一区91| VA日本视频| www.久久| 五月天社区狠狠| 99干在线视频| 97干欧美| 天天摸,天天爽| 五月综合激情久久| 国产SUV精品一区二区6| 日本va欧美va欧美va| 91九九热| 婷婷四色五月| 色狠狠综合网| 久久丁香九| 色哟哟www| 99久久久免费| 岛国在线观看91| 五月激情丁香| 色婷婷激情| 99热这里精品| 天天影视色综合网| 4399在线日本A片| 99亚洲精品| 五月婷婷就去色| 九九成人电影婷婷| 99精品一二三四视频| 看婷婷五月天网| 国产真实乱了老女人视频| 五月婷婷视频ab| 伊人久热91| 日韩欧美一级大黄网站| 开心五月丁香婷婷| 久久9久| 成人午夜天| 婷婷伊人网| 色啪影院| 六月丁香开心婷婷欧美| 91丨九色丨国产打屁股| 婷婷在线播放| 日日操日日干| 91久久1118| 超碰人妻公开在线| 久久综合婷婷| 久久免片| xx综合网| 欧美久久网| 五月开心激情网| 丁香花社区av| 色色色9| 五月天色导航| 人妻操逼视频。| 欧美精品狠狠色丁香婷婷| 久久大香蕉同僚| 五月丁香六月婷婷中文版| 97日日碰碰| 久久婷婷五月综合| 99精品久久| 2025天天操| 国产免费一区二区在线A片视频| WWW夜夜| 美女伊人久久| 亚洲xx在线| 婷婷色色五月天| 欧美人人草| 天天日夜夜B久久| 九九综合色综合| 日本综合99| 色色网站| 五月天堂婷婷| 国产97色在线 | 日韩| 麻豆五月丁香婷婷| 六月婷婷色宗合| 色视频2025| 91青娱乐青青草| 天堂在线伊久| 婷婷中文字幕网站| 一本大道伊人AV久久综合| 婷婷五月综合在线| 五月丁香六月婷| 久久99热这里只频精品6学生| 五月天婷婷色小说| 亚洲 在线 性爱| 婷婷开心深爱五月天| 日本久久视频| 婷婷射丁香| 99超碰人人| 黄色AAAAAAA| 欧美成人在线观看| 日日噜噜夜夜狠狠久久丁香五月| A片试看120分钟做受图片| 激情婷婷五月天| 97人人草| 丁香五月自拍| 狠狠干,狠狠操| 99热最新| 影音先锋日本三级资源| 久久人妻超碰一区| 色操综合| 日韩三及成人AV片| 伊人婷婷大香蕉| 超碰99热精品| 99re视频在线播放| 91操碰| 婷婷丁香五另类网站| 色屌丝中文字幕| 丁香婷婷月| 夜夜撸日日操| 天天肏视频| 91精品久久久久久77777| 综合色五月| 婷婷午夜| 五月婷婷爽爽爽| 亚洲成人在线在线| 伊人丁香五月婷婷潮吹| 色色色色色五月丁香| 99干视频| 五月丁香999| 五月丁香六月激情综合在线| 5月婷婷五月天| 99精在线| 婷婷综合久久| 激情都市另类| 超碰爱爱爱| 玖玖综合色| 国产夫妻操逼内射视频| 久久性爰视频这里只有精品| 五月天久久综合婷婷| WWW99热| 色色色999| 色婷婷丁香女女| 大香蕉狠狠爱主页| 超碰免费在线| 久久99性爱| 色婷婷www| 色婷婷综合视频| 久久婷婷五月综合色区| 曰曰久久| 亭亭社区五月天| 男女免费视频999| 色狠狠色| 久婷婷五月天影院| 夜夜夜夜操| 激情综合五月| 五月天久久色| 99久久九九| 狠狠干狠狠干狠狠干狠狠干| 久久婷婷啪啪视频| 超碰人人在线观看| 99热久只有精品首页| 精品A√| AA丁香综合激情| 日本女色人人| www.激情五月天。com| 五月丁香六月花| 综合久| 日本婷婷色| 97在线精品| 丁香五月婷中字幕| 免费无码毛片一区二区A片| 99视频91| 伊人色欲五月天| 人妻久久久久久久| 色九九综合热99| 五月色欧洲| 丁香五月婷婷啪啪| 婷婷玖玖丁香| 洗浴中心操B视频| 精品久久人妻| 激情综合网五月| 国产婷婷五月天| 色色热| 婷婷性爱网| 亚洲a色| 五月丁香婷婷成人网| 91超碰在线播放| 婷婷播5月| 成人国产欧美大片一区| 狠狠色噜噜狠狠色噜噜噜999| 26UUU精品一区二区| 大香蕉五月婷婷丁香| 婷婷激情五月天综合| 五月天激情久久| 青青草原爱爱网| 狠狠五月激情婷婷直播片| 日本九九九九| 丁香五月,开心五月,成人婷婷| 天天舔天天摸| www,色综合| 激情丁香图片| 视频在线免费观看欧洲乱码| 99热官网精品在线| 97在线干| 五月婷婷六月天| 偷偷操九九| 五月婷婷六月开心| 人妻五月天激情开心网| 婷婷五月综合视频免费播放| 婷婷综合干| 日本AAAAAAAAAAAAAA片| 大香蕉伊人丁香五月| 日韩激情人伦人| 内射人妻视频国内| 99热视精品| 91嫩草国产线观看亚洲一区二区| 久久机只有这里精品| 亚洲国产精品VA在线看黑人| 丁香网五月网| 久草视频大香蕉99| 亚洲综合五月天| 东京热免费视频网站| 五月婷婷视频| 久草A片| 丁香五月婷婷色| 思思热这里只有精品视频666| 爱射综合| 婷婷五月天综合蜜桃| 无码激情AAAAA片-区区| 激情五月丁香综合网站| 五月丁香综合中文| 天天激情站| 五月网激情| 日欧一片内射VA在线影院| 人人爽人人爽人人爽人人爽| 婷婷五月综合色小姐小说| 欧美丁香婷婷五月天| 操人精品| 婷婷五月天激情网| 久久这里只有精品1| 欧美日韩中国| 激情综合亚洲| 婷婷色色播五月天| 色爱99| 99热综合网| tingtingzonghewang| 丁香五月天日韩无码| 99啪啪网| 国产日日夜夜操| 九九精品少妇| 五月天成人综合| 蜜臀九九九九| 92久久| 久热在线中文字幕色999舞 | 激情五月天影院| 婷婷五月天黄色| 亚洲精品V天堂中文字幕 | 碰97久久| 成人无码髙潮喷水A片| 激情五月色播五月| 99色精品视频| 91综合在线观看| 久久久精品色| 精品久久艹| 久去色色| 丁香激情五月| 色逼综合网| 亚洲高清在线| www.五月天激情| 久久只有这里精品免费| 伊人久久中文网| 婷婷五月天基地| 五月天综合网| 亚洲小视频| 丁香六月婷月91婷月| 免费观看高清无码| 亚洲精品久久久无码| 色婷婷五月天成人网| 五月色丁香婷婷中文字幕| 久久9热| 成人五月天综合网| 99热| 久热成人| 色五月婷婷影院| 日日肏夜夜干| 五月丁香啪啪激情| 99热99在线| 五月丁香色婷婷色| 9久热在线精品| 牛色色碰| 夜夜撸夜夜骑| 97干在线| 色播六月| 婷婷综合色图| 五月婷婷综合网| 亚洲亚洲永久无码777777| 开心五月婷婷六月丁香| 伊人五月天综合网| 九九RE视频在线精品| 欧美日韩五月婷婷| 熟美女麻豆| 久久久精品婷婷五月天| 日日噜噜夜夜狠狠久久丁香五月| 五月婷婷综合网| 久久久这里有精品| 九九热超碰| 久久伊人婷婷| 日韩成人中文字幕| 久久久www| 色情丁香五月婷婷精品| 亚洲成人超碰| 99热在线观看精品| 五月天丁香网站| 夜夜爽天天爽| 另类 在线| 天天日天天爽| 欧美大香蕉视频| 国产激情av| 久热 91| 97色片| 久草五月| 五月婷婷综合网| 成人视频网| 99热在线观看| 婷婷六月激情综合| 欧美人人草草| 琪琪色影音先锋| 99人人干人人| 亚洲另类在线观看| 六月婷婷视频| m色激情网| 丁香成人视频| 丝袜激情网| 色婷婷小说| 天天做天天爽| 天堂在线伊久| 在线不卡中文字幕| 99热只有精品综合| 狠狠草婷婷| 久久这里只有国产视频| 天天爽夜爽| 99热亚洲| 欧美经典片免费观看大全| 亚洲网综合在线| 久久99日本精品视频免费观看| 国产操肏网站| 99亚洲精品视频在线观看| 丁香婷婷免费| 九九热这里| 婷婷在线视频| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 婷婷五月丁香网| 丁香五月天激情综合| 婷婷五月色| 色伦专区97中文字幕| 肏日网在线看| 激情综合网五月在线播放| 丁香婷停五月激情综合深爱| 丁香五月五月婷婷| 成人日韩欧美| 久久免费试看120秒| 欧美精品999| 色色色色色色色色色999| 综合婷婷都市激情| 激情五月天综合网| 亚洲AV无码一区二| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 国产亚洲成AV人片在线观黄桃| 第四色色六月色综合| 成人五月丁香社区| va亚洲中文在线| 26uuu精品国产| 99操网站| 综合综合色色| 九月色婷婷综合| 激情五月天综合网| 日韩成人电影在线播放| 五月婷AV| 91九色在线| 亚洲午夜一区二区| 夜夜夜叫天天天做| 九九久久网| 久热天堂| 激情激情激情网| 啪啪综合网| 久久婷婷激情久久| 天天爽夜夜爽夜爽精品| 久草五月| 婷婷五月av| 人人摸人人| 婷婷欠久少妇| 亚州欧美国产久精国产99综合视频| 亚洲精品永久久久久久| 久久婷婷青青草| 亭亭玉立国色天香| 亚洲综合色色| 久久综合伊人77777蜜臀| 色色色国产| 青青久在线视频免费观看| 丁香婷婷激情综合五月激情| 91丁香五月| 狠狠色丁香婷婷| 日本成人小说婷婷六月| 国产毛片欧美毛片久久久| 九色视频91| 国产成人高清| 天堂五月婷婷| 久久久免费精彩视频| 一级片无码| 婷婷五月综合啪| 久久久99精品免费观看| 天天搞夜夜六| 久久婷婷热| 亭亭丁香aV| 色偷偷五月天| 丁香婷婷人妻| 日韩啪啪视频| 久久久久亚洲A∨成人乱码电影| 69精品人人人人| 丁香大香蕉| 色五月色五天色情网| 久久久久久久久99精品| 色情五月婷| 五月婷在线影院| 大香蕉久热| 日韩成人AV在线播放| 丁香五月先锋| 99在线热| 天天综合色| 日日操夜夜爽白洁| 欧美成人猛片AAAAAAA| 色五月aV| 亚洲欧美综合7777色亭亭| 九九热视频免费| 99热免费18| 五月丁香五月婷婷| 九九色之九九色88| 色婷婷亚洲精品天天综| www.狠狠操.co m| 成 人片 黄 色 大 片| 插插网爽妇五月丁香| 欧美综合激情| 六月丁香婷婷综合在线| 久久在这里99| 99久久9| 五月丁香六月婷婷婷婷| xxxx五月天色色| www.婷婷.com| 亚洲国产精品五月天| 欧美S码亚洲码精品M码| 五月天婷网| 色色影院黄大片| 亚洲成人网在线观看| 日韩欧美一区二区三区四区| 五月婷婷丁香91| 九九热在线视频观看| 婷婷综合五月天| 熟女人妻一区二区三区免费看| 久久这里99| 一二区成人电影| 丁香六月综合| 99热这里只有在线| aa久久| 日本精品人妻无码77777| 99热无码首页| 五月婷婷六月丁香| 五月综合人妻| 五月婷精品| 99久久思思| 色爱99| 日本猛少妇色XXXXX猛叫| 操你av| 色玖玖爱| 久久丁香综合香蕉| 大香蕉九操| 丁香五月亚洲综合| 五月天成人综合| 日韩AV在线影片| 五月色丁香| 五月婷综合性中心| 久操无码| 无码字幕中文| 亚洲色热| 欧美精品18| 色色色在线播放| 婷婷午夜综合| 婷婷丁香中文字幕| 五月丁香婷婷综合网| 狠色色狠网| 成人天天爽| 综合五月丁香六月婷婷| 性欧美大战久久久久久久83| 婷婷五月天堂| 婷婷婷婷婷开心无码播放| 婷婷在线观看五月天在线视频| 久久玖玖99| 色色操| 成人精品人妻| 天天婷婷色六月| 激情婷婷五月天伊人在线观看| 玖玖五月丁香| 91精品刘玥| 五月丁香激情综合网| 久久精品系列| 国产裸舞表演WWWW| 亚洲狠狠婷婷综合久久久| 91超碰在线观看| 亚洲成Av人片乱码色第1集| 青青久在线视频免费观看| 99在线精品观看99| 色五月婷婷大香蕉| 五月婷婷中文字幕| 色综合色色色色色| 亚洲爱爱无码婷婷色五月| 色婷婷欧美| 成人中文字幕在线| 婷婷色偷拍| 婷婷五月综合网激情| 青青草青青草五月天| 婷婷色导航| 激情五月天婷婷丁香| 大香蕉婷婷五月| 91久久电影| 五月丁香六月婷婷激情视频在线观看免费 | 亚洲av免费在线| 骚五月婷婷| 中文在线成人| 人人草碰| 99re在线免费视频| 黄色aa观看aaguochan| 97久久婷婷色| 91午夜婷婷狠狠久久综合9色| 五月天激情小说| 超碰在线人妻| 国产真人做爰视频免费| 最近中文字幕大全免费版在线 | 日本99视频| 五月丁香啪啪激情| 99久久久久| 婷婷性爱| 久久五月天激情婷婷| 六月丁香成人| 九热在线这里有精品6| 99人这里只有精品| www.操逼comm| 热成人网| 亚洲色频| 色呦呦美女| 99热婷婷| 色婷婷小说网| 欧美在线| 色色999三级片| 亚洲av成人一区二区电影在线| 狠狠综合久久综合| 久久婷婷五月综合啪| 久久总和99| 激情五月,色五月| 六月丁香婷啪射| 丁香五月天天高清在线| 久久久久人妻精品| 丁香婷婷大香蕉| 五月天婷婷激情| 丁香五月天大香蕉啪啪| 亚洲视频在线网| 欧洲精品爱爱| 99色综合| 色婷婷a三区麻| 亚洲情欲| 婷婷金品综合视频| 国产欧美日韩综合精品一区二区| 九九艹女| 五月婷在线影院| 婷婷九月激情| 天天天操天天天日| 丁香色色色| 国产毛片精品一区二区色欲黄A片| 另类亚洲电影| 大香蕉综合| 三十路磁力链接| 婷婷五月激情小说| www.激情五月| 亚洲成人综合网在线免费观看| 五月丁香成人| 五月婷婷综合色拍| 激情综合网激情五月天| 五月丁香狠狠爱| 久久99免费视屏| 、激情六月天| 五月六月婷婷| 色色无码| 亚洲第一av| 99这里只有精品视频在线| 五月色丁香视频精品| 色五月琪琪| 日韩专区五月天婷婷丁香| 久久99精品久久久久久噜噜| 嫩草综合网| 五月婷婷日| 超喷97免费在线视频| 日本一毛片| 99这里只有精品在线观看| 五月丁香成人| 亚洲人成播放网站| 97亚洲色 torrent magnet| 婷婷五月丁香伊人| 五月丁香婷婷色| 伊人9在线| 九九热在这里只有精品| 麻豆观看夏晴子| 国成人网| 九九热只有这里精品| 婷婷开心激情| AA片在线观看视频在线播放| 日韩 中文 欧美| 亚洲激情网站| 国产精产国品一二三在观看| aaa久久| 国产26uuu| 亚洲欧洲中文日韩久久AV乱码| 久久99久久99精品免观看粉嫩| 精品皮股午夜AV| 无码99| 色欲色天天香综合| 另类激情综合| 色婷婷小视频| 色婷婷伦理| 大香蕉综合| 91大神操美女| 狠狠综合网| 大香蕉视频99| 亚洲十月婷婷综合| 亚洲色婷婷| 久久婷五月婷| 超碰免费人妻| 国产激情在线| 99亚洲视频| 5Www色5夜| 欧美婷| 国产69久久久欧美黑人A片| 丁香色五月直播| 婷婷午夜精品久久久| 婷婷五月天情色| 99在线小视频| 丁香社92视频| 五月色色激情网| 五月 婷 久| www.五月瑟| 国产精品成人网址| 丁香五月激情图片| 伊人久久丁香五月91| 五月丁综合在线观看| 亚洲乱码日产精品BD在线观看| 丁香亭亭久久| 色九月| 梁铮版蜘蛛女在线观看| 天天日天天色| 色五月开心婷婷| 可以免费观看的AV| 婷婷五月天视| 午夜少妇在线观看视频| 桃色激情婷婷伊人网| 国产看真人毛片爱做A片| 人色五月天婷婷| 日韩成人不卡| 99热这里只有精品官网| 在线日韩av| 婷婷五月av| 超碰人人91| 99九九久久| 99热大全在线观看| 国产又黄又爽又色的免费| 五月婷婷熟女| 亚洲精品另类| 久久人人九| 婷婷丁香六月| A片试看50分钟做受视频| 国产美女最新VA在线免费观看| αv中文字幕在线观| 天天天天色天天天天天干| 在线91日韩| 五月天婷婷影院| 综合激情开心五月| 操碰色一区就去操| 真实亲子乱子伦高清在线观看| 国产综合婷婷| 99精品网| 99re热视频| 日本精品九九九| 亚洲操B| 久久婷婷在线| 婷五月天六| 亚洲综合激情五月久久| 日韩人妻无码一区二区| 婷婷五月天综合久久日| 成人丁香五月天Av| 丁香五月六月久久综合| 综合久久婷婷99| 超碰97免费在线| www色婷婷久久综合久色 | 婷婷狠狠97| 天天做天天爱天天爽夜夜揉| 淫五月停停| 激情爱爱网站超大免费| 夜夜操夜夜爽| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 91日本在线观看| 欧美性猛交XXXX乱大交极品| 激情六月天婷婷| 凹凸7777操操操| 99丝袜精品视频网站| 激情五月天社区| 激情伊人五月天| 久久这里都是精品免费| 成人在线免费网址| 天天爽天天| 亚洲狠狠干| 天天爱天天日| 中文在线成人| 六月成人网| 久久艹99| 五月婷婷啪啪网| 九九aV| 婷婷黄色网| 九色视频91| 99久久五月婷婷| 亚洲综合网激情小说| 日本婷婷在线| 九色在线五月婷婷网址| 九热视频| 婷婷色色婷婷| 色婷婷五月天成人网| 9色视频在线| 激情综合网站| 国产乱子轮XXX农村| 97操碰视频| 天天色,天天日,天天做| 亚洲中文无码成人| 久久婷婷五月综合伊人| www久久久久久久| 狠狠色综合网| 婷色五月天| 激情综合五月婷婷六月丁香| 亚洲色婷婷激情| 久久丁香五月天| 夜色综合网| 色在线免费观看| 国产小精品| se99视频| 久9久9久9久9久9久9| 一级性爱视频| 激情5月天天天| 五月激情综合激情五月| 99久久婷婷| 久综合| 91久久久久久久久久| 久久视9精| 国自产拍偷拍精品啪啪一区二区| 亚洲成人在线播放| 亚洲在线综合| www.日本91| 五月天六月色| 噜噜色噜噜网| 久久久久思思热| 99热777| 欧美va亚洲va在线播放| 精品婷婷五月视| 六月婷婷网| 久婷婷五月激情| 五月婷婷开心深| 亚洲另类婷婷五月丁香在线播放| 婷婷五月天影院| 婷婷五月天色色| 草一草avb| 五月婷婷久久久| 五月丁香999| 99热啪啪| 狠狠搞五月天| 天天操夜夜爽天天操| 丁香五月激情六月欧亚激情综合导航| 五月婷婷狠狠干| 久久综合爱| 五月份婷婷| 性爱在线播放av| 天天婷婷天天| 丁香伊人综合| 色五月视频,小说| 另类综合婷婷五月天欧美视频| 婷婷五月天激情丁香| 岛国AV网| 欧美大道不卡| 成人电影在线免费试看| 丁香五月另类色婷婷麻豆| 日本超碰在线| 亚洲中文字幕网| 午夜天堂一区人妻| 色和综合网| 亚洲图色五月天| 婷婷婷久久久| WWW.天天日| 婷婷五日b| 美女妹子后射视频网站在线观看| 亚洲第一第二网站| 九九99精品视频| 久久久人妻| 激情九月婷婷九月| 久久日九九| 99碰碰| 激情综合婷婷| 久久精品视频在这里有| 69久久99精品久久久久婷婷| 丁香五月婷婷激情网| 啪啪啪大香蕉| 五月天另类小说久久小说网| 天堂网色色| 丁香五月亚洲激情婷婷射| 五月婷在线| 另类亚洲2| 五月婷婷狠天天色综合| 人妻操在线看| 激情五月婷婷| 狠狠色色| 超碰97色| 激情五月天黄色小说| 天天成人综合视频| 激情九色| 97色碰| 国产亚洲99久久精品熟女| 天天肏在线观看| 色999五月色| 色色热| 成人综合网站| 综合久久久婷| 五月婷婷六月丁香综合视频在线| 超碰熟女拍拍| 人人摸人人| 在线综合91| 婷婷四月 成人 狠狠干| www.五月天激情| 久久激情五月| 在线综合91| 婷婷五月天无码熟女| 99精品无码| 大伊香蕉精品视频在线| 婷婷九月狠狠色| 99热在线这里只有精品| 亚洲av网站| 久久久久久婷| 欧美在线骚货| 超碰国产在线观看| 日韩成人影片网站| 欧美日韩99| 99热在线精品观看| 天天爽天天爽| 超碰免费99| 四月婷婷丁香| 日日夜夜天天| 97丁香婷婷| 亚洲欧美999| 亚洲乱码日产精品BD在线观看 | 人妻性爱av网站| 五月丁香婷婷深深爱| 久久六月婷婷| 精品国产va久久久久| 婷婷五月天av| 日韩人妻在线播放| 国产色色网站网址| 五月丁香香蕉| 7777精品伊人久久久大香线蕉最新版| 婷婷激情六月中文| 天天日夜夜爽| 亚洲视频二区| 99热这里只有精品9| 青青久久五月| 97色五月天| 婷婷丁香六月| 久久久91| 中文成人在线| 丁香五月很很肏| 五月婷婷丁香五月婷婷| 久久激情视频| 婷婷导航| 九九九九国产| 欧美啪啪9| 日本婷婷| 色色色色色色色色色色色色色五月天 | 天天澡天天狠天天天做| 人人操人人妻| 蜜臀嫩草| 九九色婷婷五月天| 婷婷五月天伊人网在线观看视频| 96丁香六月婷婷蜜桃综合久久| 色五月超碰| 成人精品人妻| 9人人操人人看| 婷婷情色五月天| 2017人人操| 天天肏高清在线| 久久婷婷人人| 色婷婷88| 五月天色综合| 97碰| 91啪啪视频| 中文av网站| av 一区三区四区| 99久久99九九99九九九| 98毛片| 无码日本精品XXXXXXXXX| 婷婷五月天天| 人妻无码视频网| 丁香五月,激情五月,深爱五月| 婷婷中文字幕欧美| 色婷亚洲| 丁香六月天婷婷| 日本婷婷五月天| www99精品| 色区久久|