免费国产精品自在自线-91精品国产色综合久久久浪潮-99热久久免费频精品-国产精品国模在线观看-久久亚洲国产精品成人?V秋霞-久久国产一级A片免费播放-亚洲国产欧洲综合97久久-久久国产白嫩美女呻吟高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux設(shè)備驅(qū)動工程師入門:從字符設(shè)備到設(shè)備樹的完整路徑

Linux設(shè)備驅(qū)動工程師入門:從字符設(shè)備到設(shè)備樹的完整路徑 角色定得挺準(zhǔn)——設(shè)備驅(qū)動工程師在不少人眼里確實(shí)帶著一層“神秘濾鏡”一來是平時(shí)很少直接接觸二來是薪資普遍不錯(cuò)網(wǎng)上還總有人說“沒個(gè)五年十年寫不了驅(qū)動”。我在嵌入式Linux這個(gè)圈子里混了十來年從應(yīng)用層一路折騰到內(nèi)核態(tài)今天就把這層窗戶紙捅破。你可以把這篇內(nèi)容當(dāng)成一份完整的職業(yè)觀察筆記也可以當(dāng)成一份入門地圖我會把Linux設(shè)備驅(qū)動工程師的真實(shí)工作內(nèi)容、核心技術(shù)棧、職業(yè)發(fā)展和入行路徑一次性講透包括我自己踩過的坑和復(fù)盤出來的經(jīng)驗(yàn)。無論你是在校學(xué)生、做應(yīng)用開發(fā)想轉(zhuǎn)內(nèi)核方向的老兵還是剛跳進(jìn)嵌入式行業(yè)的新人這篇都值得耐心讀完。1. “神秘感”是從哪來的這個(gè)崗位到底在做什么1.1 外界誤讀和真實(shí)工作場景的差距一提起設(shè)備驅(qū)動工程師很多人的第一反應(yīng)是“寫底層的很厲害但是不知道他每天具體在干嘛”。實(shí)際上這個(gè)崗位的工作范圍非常清晰讓操作系統(tǒng)能正確控制某一塊硬件。以手機(jī)為例屏幕、攝像頭、觸摸屏、Wi-Fi模塊、傳感器、電池管理芯片每一類硬件都需要對應(yīng)的驅(qū)動代碼操作系統(tǒng)才能調(diào)用它們干活。我一直覺得“神秘”這個(gè)印象主要來自三個(gè)原因第一驅(qū)動代碼跑在內(nèi)核態(tài)普通應(yīng)用開發(fā)者一輩子可能都碰不到內(nèi)核源碼第二驅(qū)動開發(fā)依賴具體硬件沒有開發(fā)板或者對應(yīng)的芯片文檔光看代碼很難建立實(shí)感第三內(nèi)核態(tài)出問題表現(xiàn)形式往往是系統(tǒng)崩潰、重啟、死機(jī)沒有應(yīng)用層那種清晰的報(bào)錯(cuò)堆棧排錯(cuò)難度看起來很高。但真實(shí)的工作場景其實(shí)沒那么玄乎。我日常做的事情大致可以分成五塊讀芯片手冊、看內(nèi)核現(xiàn)有框架、寫驅(qū)動代碼、調(diào)試硬件交互、配合應(yīng)用層調(diào)接口。芯片手冊是最核心的輸入比如你要寫一個(gè)I2C溫濕度傳感器的驅(qū)動第一步不是打開編輯器寫代碼而是把芯片的datasheet翻出來搞清楚寄存器地址、I2C從機(jī)地址、數(shù)據(jù)格式、轉(zhuǎn)換公式然后去找內(nèi)核現(xiàn)成的i2c_driver框架按規(guī)矩實(shí)現(xiàn)probe、remove、讀寫函數(shù)。1.2 為什么高薪高在哪里高薪這個(gè)問題我可以直接給結(jié)論這個(gè)崗位薪資高本質(zhì)上是供需關(guān)系和進(jìn)入門檻共同決定的。供給少是因?yàn)閮?nèi)核開發(fā)的學(xué)習(xí)曲線確實(shí)陡峭光是把Linux內(nèi)核的進(jìn)程調(diào)度、內(nèi)存管理、中斷系統(tǒng)、并發(fā)機(jī)制搞清楚就需要不短的時(shí)間需求多是因?yàn)楝F(xiàn)在的設(shè)備智能化程度越來越高從手機(jī)、汽車、路由器到醫(yī)療設(shè)備、工業(yè)控制器只要跑Linux系統(tǒng)就需要有人維護(hù)和編寫驅(qū)動。另外還有一個(gè)容易被忽視的原因驅(qū)動工程師承擔(dān)的責(zé)任邊界是模糊的。硬件工程師可以把鍋推給驅(qū)動說你軟件沒配好應(yīng)用工程師也可以把鍋推給驅(qū)動說我的數(shù)據(jù)一直讀不對。最后的定位環(huán)節(jié)往往是驅(qū)動工程師拿邏輯分析儀、示波器一根線一根線地排查。這種“兜底”能力加上內(nèi)核態(tài)開發(fā)本身對系統(tǒng)穩(wěn)定性要求的嚴(yán)苛程度自然推高了崗位價(jià)值。這幾年我觀察到的一線薪酬區(qū)間是應(yīng)屆生如果能拿出像樣的內(nèi)核學(xué)習(xí)項(xiàng)目起步基本高于普通應(yīng)用開發(fā)三到五年經(jīng)驗(yàn)、能獨(dú)立負(fù)責(zé)一個(gè)SoC平臺bring-up的工程師在一線城市的薪資非常有競爭力如果你還能搞定音頻、Camera、網(wǎng)絡(luò)這類復(fù)雜度更高的子系統(tǒng)薪資天花板還能繼續(xù)往上走。1.3 這個(gè)崗位的真正門檻不是寫代碼而是讀懂約束寫驅(qū)動代碼本身不復(fù)雜真正的門檻是讀懂硬件的約束。硬件不是軟件一些在應(yīng)用開發(fā)里完全不需要考慮的物理問題在這里必須時(shí)刻記在心里。比如寄存器寫入之后不是立刻生效的可能需要等待幾個(gè)時(shí)鐘周期某些寄存器是只讀的你不能想當(dāng)然地往里面寫值某些硬件模塊有嚴(yán)格的時(shí)序要求你在驅(qū)動里加一個(gè)調(diào)試printk都可能破壞時(shí)序?qū)е略O(shè)備莫名其妙工作異常。這也是為什么我一直強(qiáng)調(diào)做驅(qū)動開發(fā)耐心和細(xì)致比聰明更重要。聰明的頭腦能幫你快速理解框架但能不能沉下心來把200頁的芯片手冊啃完能不能一根信號一根信號地對照時(shí)序圖決定了你能在這個(gè)領(lǐng)域走多深。2. 最核心的入門骨架Linux字符設(shè)備驅(qū)動框架拆解2.1 為什么從字符設(shè)備入手關(guān)于Linux設(shè)備驅(qū)動網(wǎng)絡(luò)上被搜得最多的一個(gè)詞就是“字符設(shè)備驅(qū)動框架”。這完全合理如果你對驅(qū)動開發(fā)完全沒有概念字符設(shè)備就是最好的切入口。字符設(shè)備的典型特征是數(shù)據(jù)按字節(jié)流順序讀寫沒有固定大小的塊結(jié)構(gòu)。鍵盤、鼠標(biāo)、串口、溫度傳感器、LED燈全都是典型的字符設(shè)備。我見過不少新人一上來就想寫網(wǎng)絡(luò)驅(qū)動或者USB驅(qū)動我的建議是先打住。字符設(shè)備驅(qū)動框架雖然簡單但它覆蓋了驅(qū)動開發(fā)的完整生命周期模塊加載、設(shè)備注冊、文件操作接口實(shí)現(xiàn)、數(shù)據(jù)讀寫、模塊卸載。這個(gè)流程走通了你再看platform bus、PCI、USB、V4L2這些復(fù)雜的子系統(tǒng)會發(fā)現(xiàn)它們的核心骨架并沒有變只是掛接的總線和協(xié)議復(fù)雜了。2.2 框架里每個(gè)環(huán)節(jié)背后的“為什么”先看一個(gè)最精簡的字符設(shè)備驅(qū)動骨架然后我再逐行拆解每個(gè)環(huán)節(jié)的用意。#include linux/module.h #include linux/fs.h #include linux/cdev.h #include linux/device.h #include linux/uaccess.h #define DEVICE_NAME mydemo #define CLASS_NAME mydemo_class static dev_t dev_num; static struct cdev my_cdev; static struct class *my_class; static struct device *my_device; static int demo_open(struct inode *inode, struct file *filp) { pr_info(mydemo: open called\n); return 0; } static ssize_t demo_read(struct file *filp, char __user *buf, size_t count, loff_t *offset) { char kernel_buf[64] hello from kernel\n; size_t len strlen(kernel_buf); int ret; if (count len) return -EINVAL; ret copy_to_user(buf, kernel_buf, len); if (ret) return -EFAULT; return len; } static ssize_t demo_write(struct file *filp, const char __user *buf, size_t count, loff_t *offset) { char kernel_buf[128]; int ret; if (count sizeof(kernel_buf)) return -EINVAL; ret copy_from_user(kernel_buf, buf, count); if (ret) return -EFAULT; kernel_buf[count] \0; pr_info(mydemo: received %s\n, kernel_buf); return count; } static int demo_release(struct inode *inode, struct file *filp) { pr_info(mydemo: release called\n); return 0; } static struct file_operations fops { .owner THIS_MODULE, .open demo_open, .read demo_read, .write demo_write, .release demo_release, }; static int __init demo_init(void) { int ret; ret alloc_chrdev_region(dev_num, 0, 1, DEVICE_NAME); if (ret 0) { pr_err(mydemo: failed to alloc region\n); return ret; } cdev_init(my_cdev, fops); my_cdev.owner THIS_MODULE; ret cdev_add(my_cdev, dev_num, 1); if (ret 0) { pr_err(mydemo: failed to add cdev\n); goto err_unregister; } my_class class_create(CLASS_NAME); if (IS_ERR(my_class)) { ret PTR_ERR(my_class); goto err_cdev_del; } my_device device_create(my_class, NULL, dev_num, NULL, DEVICE_NAME); if (IS_ERR(my_device)) { ret PTR_ERR(my_device); goto err_class_destroy; } pr_info(mydemo: init success, major %d minor %d\n, MAJOR(dev_num), MINOR(dev_num)); return 0; err_class_destroy: class_destroy(my_class); err_cdev_del: cdev_del(my_cdev); err_unregister: unregister_chrdev_region(dev_num, 1); return ret; } static void __exit demo_exit(void) { device_destroy(my_class, dev_num); class_destroy(my_class); cdev_del(my_cdev); unregister_chrdev_region(dev_num, 1); pr_info(mydemo: exit\n); } module_init(demo_init); module_exit(demo_exit); MODULE_LICENSE(GPL); MODULE_AUTHOR(Your Name); MODULE_DESCRIPTION(A simple character device driver demo);這個(gè)例子看起來代碼量不大每一行都至少對應(yīng)一個(gè)內(nèi)核機(jī)制。alloc_chrdev_region的作用是向內(nèi)核申請一個(gè)未使用的設(shè)備號設(shè)備號由主設(shè)備號和次設(shè)備號組成。主設(shè)備號用來關(guān)聯(lián)驅(qū)動次設(shè)備號用來區(qū)分同一個(gè)驅(qū)動下的不同設(shè)備。這里選擇動態(tài)分配而不是寫死主設(shè)備號原則很簡單避免和系統(tǒng)已有的設(shè)備號沖突。cdev_init和cdev_add是把我們的file_operations結(jié)構(gòu)體注冊進(jìn)內(nèi)核的字符設(shè)備層。注冊成功之后用戶在應(yīng)用層打開/dev/mydemo這個(gè)節(jié)點(diǎn)內(nèi)核就能根據(jù)設(shè)備號找到對應(yīng)的cdev進(jìn)而找到我們實(shí)現(xiàn)的demo_open、demo_read這些函數(shù)。class和device的創(chuàng)建容易被新手當(dāng)成“可有可無的儀式感”其實(shí)非常關(guān)鍵。class_create之后再用device_create內(nèi)核會自動在/sys/class/下生成設(shè)備信息并且讓設(shè)備節(jié)點(diǎn)在udev的配合下自動出現(xiàn)在/dev/目錄里。沒有這一步你就只能手動mknod創(chuàng)建設(shè)備節(jié)點(diǎn)節(jié)點(diǎn)號一旦對不上應(yīng)用層打不開設(shè)備調(diào)試體驗(yàn)極差。2.3 最容易被新手忽略的承上啟下問題框架寫完了怎么驗(yàn)證你需要在開發(fā)板上或者虛擬機(jī)里用make編譯這個(gè)模塊用內(nèi)核源碼目錄下的Makefile做外部模塊編譯然后依次執(zhí)行sudo insmod mydemo.ko lsmod | grep mydemo ls -l /dev/mydemo echo hello /dev/mydemo cat /dev/mydemo sudo rmmod mydemoecho和cat分別觸發(fā)write和read路徑如果一切正常read會返回hello from kernelwrite的字符串也會通過pr_info打印到內(nèi)核日志里用dmesg就能看到。很多人在這一步碰到的問題是編譯報(bào)錯(cuò)找不到linux/module.h。這通常是因?yàn)闆]有把內(nèi)核頭文件裝好或者編譯時(shí)KDIR指向了當(dāng)前系統(tǒng)的運(yùn)行內(nèi)核而不是有完整源碼的目錄。這里有個(gè)我自己常用的配置思路如果是開發(fā)板就在板子的Linux源碼目錄下建一個(gè)驅(qū)動子目錄用內(nèi)核的obj-m機(jī)制來編譯如果是虛擬機(jī)裝好linux-headers-$(uname -r)再編譯基本能規(guī)避90%以上的頭文件問題。3. 從字符設(shè)備到真實(shí)項(xiàng)目繞過設(shè)備樹這一關(guān)不現(xiàn)實(shí)3.1 設(shè)備樹到底解決的是什么問題如果你搜“l(fā)inux設(shè)備驅(qū)動”幾乎一定會碰到“設(shè)備樹”Device Tree, DTS這個(gè)詞這也是當(dāng)前嵌入式Linux驅(qū)動開發(fā)繞不過去的核心概念。網(wǎng)上關(guān)于設(shè)備樹的討論很多但真正能把它講清楚的不多。我個(gè)人的理解方式是設(shè)備樹是嵌入式世界里硬件資源的登記冊。傳統(tǒng)的PC平臺硬件資源基本是標(biāo)準(zhǔn)的、固定的內(nèi)核啟動時(shí)可以通過PCI總線枚舉和ACPI表來發(fā)現(xiàn)硬件但嵌入式平臺的硬件情況千差萬別同樣是i.MX6ULL芯片A廠商的板子GPIO1_IO03接的是一顆LEDB廠商的板子GPIO1_IO03接的卻可能是一顆按鍵。內(nèi)核如果寫死某個(gè)GPIO是LED換一塊板子就廢了。設(shè)備樹的作用就是把“哪顆引腳接了什么東西”這樣的信息從內(nèi)核源碼中抽離出來變成可以被bootloader加載、可以被內(nèi)核解析的數(shù)據(jù)描述。設(shè)備樹文件.dts編譯后生成.dtbbootloader啟動內(nèi)核時(shí)把.dtb傳給內(nèi)核內(nèi)核通過解析設(shè)備樹來知道當(dāng)前板子上有哪些設(shè)備、寄存器地址是什么、中斷號是多少、引腳配置怎樣然后創(chuàng)建對應(yīng)的platform_device最終觸發(fā)我們驅(qū)動里的probe函數(shù)。3.2 probe函數(shù)的匹配邏輯和常見翻車點(diǎn)一個(gè)platform驅(qū)動核心入口不再是init函數(shù)里主動注冊設(shè)備而是靠設(shè)備樹里的compatible字符串和驅(qū)動里的of_match_table進(jìn)行匹配。以我手頭一個(gè)GPIO LED的驅(qū)動為例設(shè)備樹節(jié)點(diǎn)可能是這樣的myled { compatible mycompany,myled; gpio-led gpio1 3 GPIO_ACTIVE_HIGH; };驅(qū)動側(cè)的關(guān)鍵代碼是static const struct of_device_id myled_of_match[] { { .compatible mycompany,myled }, {} }; MODULE_DEVICE_TABLE(of, myled_of_match); static struct platform_driver myled_driver { .probe myled_probe, .remove myled_remove, .driver { .name myled, .of_match_table myled_of_match, }, }; module_platform_driver(myled_driver);這里最常見的翻車場景有兩個(gè)。第一設(shè)備樹里compatible寫的是mycompany,myled驅(qū)動里匹配表卻寫成了mycompany,my-led一個(gè)連字符之差probe函數(shù)永遠(yuǎn)不被調(diào)用第二修改設(shè)備樹源碼之后沒有重新編譯生成.dtb并更新到boot分區(qū)bootloader加載的還是老版本設(shè)備樹你調(diào)試一天都找不到原因。我在實(shí)際項(xiàng)目中排查過很多次這類問題經(jīng)驗(yàn)是先讀/sys/firmware/devicetree/base/目錄看內(nèi)核解析到的設(shè)備樹內(nèi)容是不是你修改后的版本再查/sys/bus/platform/devices/下有沒有生成對應(yīng)的設(shè)備節(jié)點(diǎn)最后看內(nèi)核日志里是否打印了platform myled: Driver myled requests probe deferral這類提示。按照這個(gè)鏈路排查基本能快速定位是設(shè)備樹沒生效、還是驅(qū)動匹配失敗。3.3 怎樣讀設(shè)備樹又不被繞暈初學(xué)設(shè)備樹你會看到一大堆reg、interrupts、clocks、pinctrl屬性。我的建議是不要試圖一把抓全先把最常用的幾個(gè)搞懂compatible負(fù)責(zé)匹配驅(qū)動reg負(fù)責(zé)描述寄存器地址和長度interrupts負(fù)責(zé)中斷號gpio相關(guān)屬性負(fù)責(zé)引腳操作clocks負(fù)責(zé)時(shí)鐘關(guān)聯(lián)。等你能讀懂一份簡單的i.MX或者全志平臺設(shè)備樹時(shí)再去看內(nèi)核的Documentation/devicetree/bindings/目錄那里面有每個(gè)設(shè)備類型對應(yīng)的bindings文檔是官方欽定的設(shè)備樹屬性說明。遇到不熟悉的IP對應(yīng)的bindings文檔一定要看屬性名寫錯(cuò)一個(gè)字符驅(qū)動probe都可能失敗。4. 內(nèi)核態(tài)和用戶態(tài)的邊界數(shù)據(jù)交互是驅(qū)動開發(fā)的命門4.1 copy_to_user和copy_from_user不是隨便用的寫字符設(shè)備驅(qū)動時(shí)你一定會用到copy_to_user和copy_from_user。為什么不能直接用memcpy呢原因有兩點(diǎn)。第一用戶態(tài)指針是虛擬地址內(nèi)核態(tài)不能假設(shè)它指向的物理內(nèi)存一定可訪問第二內(nèi)核必須保證安全性不能因?yàn)橛脩魝魅胍粋€(gè)野指針就讓內(nèi)核崩潰。copy_to_user和copy_from_user內(nèi)部會做地址合法性檢查并且根據(jù)當(dāng)前進(jìn)程的頁表來完成用戶態(tài)和內(nèi)核態(tài)之間的數(shù)據(jù)拷貝。如果拷貝失敗會返回未拷貝完成的字節(jié)數(shù)。我在代碼里會刻意檢查這個(gè)返回值一旦非零直接返回-EFAULT給應(yīng)用層讓應(yīng)用層知道是地址傳錯(cuò)了還是緩沖區(qū)太小。4.2 為什么需要ioctl它在實(shí)際項(xiàng)目中怎么用在應(yīng)用開發(fā)里你調(diào)用read和write就能完成大部分?jǐn)?shù)據(jù)交互但到了驅(qū)動開發(fā)很多操作無法用“讀”或“寫”來抽象。比如你想讓串口驅(qū)動修改波特率讓攝像頭驅(qū)動切換分辨率讓LED驅(qū)動改變閃爍模式這時(shí)候就需要ioctl。它本質(zhì)上是一個(gè)命令分發(fā)器通過不同的cmd告訴驅(qū)動“我要做什么”。一個(gè)簡單的LED驅(qū)動我通常會這樣定義命令#define MYLED_MAGIC L #define MYLED_SET_ON _IO(MYLED_MAGIC, 1) #define MYLED_SET_OFF _IO(MYLED_MAGIC, 2) #define MYLED_GET_STATE _IOR(MYLED_MAGIC, 3, int)然后在file_operations里實(shí)現(xiàn).unlocked_ioctl。用戶態(tài)通過ioctl(fd, MYLED_SET_ON)來點(diǎn)亮LED。需要注意的是現(xiàn)代內(nèi)核里一般用unlocked_ioctl而老的ioctl字段已經(jīng)被移除了。做驅(qū)動開發(fā)時(shí)如果抄到老代碼編譯報(bào)錯(cuò)不要慌把.ioctl改成.unlocked_ioctl往往就好了。4.3 mmap高吞吐場景下的終極方案如果驅(qū)動和應(yīng)用層之間需要頻繁傳遞大量數(shù)據(jù)比如攝像頭采集的幀數(shù)據(jù)、GPU處理后的圖像數(shù)據(jù)用read/write拷貝來拷貝去性能是不行的。這時(shí)候可以用mmap讓用戶態(tài)進(jìn)程直接把設(shè)備的物理內(nèi)存映射到自己的虛擬地址空間省掉內(nèi)核態(tài)的中間拷貝。我在實(shí)際項(xiàng)目里用mmap做過圖像傳感器數(shù)據(jù)采集吞吐量確實(shí)提升明顯但它也引入了新的復(fù)雜度。最典型的問題是緩存一致性CPU和設(shè)備DMA同時(shí)對同一塊內(nèi)存操作時(shí)可能會出現(xiàn)數(shù)據(jù)不一致。你需要搞清楚是否要調(diào)用dma_alloc_coherent分配一致內(nèi)存或者用dma_map_single配合適當(dāng)?shù)耐浇涌趤砭S護(hù)cache。這塊知識點(diǎn)比較深入新手階段可以先了解mmap能解決什么問題、引入什么代價(jià)等真正做視頻方向時(shí)再深入。5. 并發(fā)、中斷和時(shí)間驅(qū)動工程師真正燒腦的三座山5.1 并發(fā)場景比應(yīng)用開發(fā)殘酷得多應(yīng)用開發(fā)里用多線程處理并發(fā)加把鎖基本能解決大部分問題驅(qū)動開發(fā)里并發(fā)可能來自進(jìn)程上下文、中斷上下文、多核CPU同時(shí)訪問還有底半部機(jī)制tasklet、workqueue、軟中斷。任何一條路徑上對共享數(shù)據(jù)的非原子訪問都可能引起競態(tài)條件。踩過坑之后我才理解驅(qū)動里加鎖的第一原則不是“所有地方都加”而是“明確每個(gè)共享數(shù)據(jù)的保護(hù)責(zé)任”。自旋鎖適合臨界區(qū)很短、不能在持有鎖時(shí)睡眠的場景互斥鎖適合臨界區(qū)較長、允許睡眠的場景。如果在自旋鎖里調(diào)用了一個(gè)可能睡眠的函數(shù)比如kmalloc時(shí)用了GFP_KERNEL系統(tǒng)可能會在持鎖期間被調(diào)度出去死鎖就是大概率的事情。5.2 中斷上下文里不能做的那些事中斷處理是驅(qū)動開發(fā)中另一個(gè)容易翻車的領(lǐng)域。硬件觸發(fā)中斷后CPU會跳到中斷處理函數(shù)此時(shí)系統(tǒng)處于中斷上下文很多常規(guī)操作是被禁止的。比如你不能直接調(diào)用會睡眠的函數(shù)wait_event、mutex_lock至少要避免不能訪問用戶空間甚至獲取某些鎖也要特別小心。正確的套路是頂半部加底半部上半部handler里只做最緊急的事比如讀取硬件狀態(tài)寄存器、清除中斷標(biāo)志、把數(shù)據(jù)放入緩沖區(qū)然后觸發(fā)底半部底半部里再處理真正耗時(shí)的操作比如數(shù)據(jù)解析、喚醒等待隊(duì)列。常用的底半部機(jī)制有tasklet、workqueue和threaded IRQ。我的習(xí)慣是能用request_threaded_irq就用中斷線程化主中斷處理函數(shù)里只做標(biāo)記和確認(rèn)其余工作全部丟給線程簡單清晰也不容易出問題。5.3 時(shí)間感知和延時(shí)操作驅(qū)動工程師必須對時(shí)間敏感。硬件操作里經(jīng)常需要微秒級延時(shí)比如傳感器上電后要等10ms才能開始I2C通信寄存器寫完后要等100微秒才能讀狀態(tài)。在內(nèi)核態(tài)不同精度的延時(shí)函數(shù)適用場景完全不同我按自己的經(jīng)驗(yàn)整理了一個(gè)參考表函數(shù)精度適用場景注意事項(xiàng)udelay微秒級忙等待不可睡眠時(shí)用長延時(shí)浪費(fèi)CPU小于10us建議用它mdelay毫秒級基于udelay封裝不推薦用于長延時(shí)的輪詢場景usleep_range微秒到毫秒允許睡眠的上下文比udelay省電推薦在進(jìn)程上下文用msleep毫秒級允許睡眠實(shí)際睡眠時(shí)間可能比請求值長schedule_timeout任意讓出CPU直到超時(shí)常用于等待特定條件踩過的坑是在中斷上下文誤用usleep_range。它其實(shí)會調(diào)度睡眠中斷上下文里一調(diào)用系統(tǒng)直接報(bào)BUG: sleeping function called from invalid context??吹竭@個(gè)報(bào)錯(cuò)先檢查你的調(diào)用點(diǎn)是不是在中斷里。5.4 大規(guī)模并發(fā)調(diào)試的笨辦法和巧辦法內(nèi)核并發(fā)問題復(fù)現(xiàn)困難調(diào)試更困難。我的經(jīng)驗(yàn)是按這個(gè)順序來先靠代碼審查把每個(gè)共享變量的訪問路徑列出來畫出可能發(fā)生競態(tài)的組合這一步能解決七成問題再用lockdep檢測死鎖開機(jī)參數(shù)里加lockdep如果代碼存在鎖序問題內(nèi)核會打印詳細(xì)的死鎖報(bào)告最后才是我個(gè)人最喜歡的bpf工具在開發(fā)板上用bpftrace掛到特定的內(nèi)核函數(shù)上統(tǒng)計(jì)鎖等待時(shí)間、臨界區(qū)執(zhí)行時(shí)間比盲目加printk高效得多。6. 驅(qū)動開發(fā)的支撐生態(tài)調(diào)試工具與真實(shí)項(xiàng)目工作流6.1 沒有示波器和邏輯分析儀你寸步難行很多人寫驅(qū)動把精力全部放在代碼上忽略了硬件調(diào)試工具的重要性。我的觀點(diǎn)是驅(qū)動工程師的必備裝備不只是鍵盤還有邏輯分析儀和示波器。調(diào)I2C設(shè)備時(shí)邏輯分析儀能直接抓出SDA和SCL上的波形對照芯片手冊的時(shí)序圖一眼就能看出是不是地址錯(cuò)了、ACK位丟了調(diào)UART時(shí)波形能告訴你波特率是否匹配。kernelside的軟件調(diào)試手段當(dāng)然也重要。dmesg看內(nèi)核日志/proc和/sys接口看運(yùn)行時(shí)狀態(tài)ftrace追蹤函數(shù)調(diào)用棧printk雖然笨但好用。不過我真心的建議是屬性調(diào)試信息不要直接丟在release版本里可以用pr_debug加動態(tài)調(diào)試開關(guān)看日志時(shí)通過/sys/kernel/debug/dynamic_debug/按模塊開啟這樣既保留了排查能力又不拖累線上性能。6.2 一個(gè)真實(shí)的驅(qū)動開發(fā)迭代過程我把一個(gè)典型的驅(qū)動開發(fā)任務(wù)拆成六個(gè)階段方便你對照自己的工作流有沒有遺漏。階段一拿到硬件和芯片手冊先做“靜態(tài)資料分析”把寄存器、中斷、引腳定義列成清單搞清楚這個(gè)設(shè)備在內(nèi)核里屬于哪一類子系統(tǒng)有沒有現(xiàn)成的驅(qū)動框架可以復(fù)用。階段二搭好最小驗(yàn)證環(huán)境確認(rèn)開發(fā)板能啟動系統(tǒng)能加載HelloWorld模塊串口和網(wǎng)絡(luò)調(diào)試通道都可用。階段三實(shí)現(xiàn)設(shè)備樹節(jié)點(diǎn)和probe函數(shù)先不急著做業(yè)務(wù)功能只驗(yàn)證“驅(qū)動能被正確綁定到設(shè)備”。階段四實(shí)現(xiàn)基礎(chǔ)讀寫接口用簡單的read/write把寄存器讀出來驗(yàn)證硬件寄存器映射是否正確。階段五補(bǔ)齊中斷、并發(fā)、數(shù)據(jù)交互等完整邏輯這階段最耗時(shí)也是問題的高發(fā)期。階段六穩(wěn)定性測試和優(yōu)化連續(xù)運(yùn)行、并發(fā)壓力、異?;謴?fù)這些都要覆蓋。6.3 沒有開發(fā)板也能學(xué)嗎模擬環(huán)境是起步利器看到這里如果你還沒有任何硬件但想開始學(xué)驅(qū)動完全可以從虛擬環(huán)境起步。QEMU可以模擬一個(gè)完整的ARM開發(fā)板很多開源項(xiàng)目分配了可以運(yùn)行的“virt”機(jī)器你可以在純軟件的Ubuntu主機(jī)上編譯內(nèi)核、加載模塊、創(chuàng)建設(shè)備節(jié)點(diǎn)、用應(yīng)用層程序調(diào)用底層驅(qū)動。嵌入式Linux社區(qū)也提供了很多現(xiàn)成的QEMU鏡像自帶內(nèi)核源碼、工具鏈和文件系統(tǒng)你只要按文檔跑起來就能完成字符設(shè)備驅(qū)動、中斷驅(qū)動甚至簡單的gpio模擬。我個(gè)人當(dāng)年還用過另一種組合在虛擬機(jī)里跑一個(gè)老版本內(nèi)核的發(fā)行版比如Ubuntu 20.04自己下載對應(yīng)內(nèi)核源碼重新編譯然后用qemu-system-x86_64加載這個(gè)新內(nèi)核在里面做驅(qū)動實(shí)驗(yàn)。雖然不如真實(shí)開發(fā)板來得直觀但用來理解框架和API綽綽有余。7. 入行路徑與面試考察點(diǎn)從我面試和被面試的經(jīng)驗(yàn)說起7.1 想從應(yīng)用開發(fā)轉(zhuǎn)驅(qū)動需要補(bǔ)哪些課經(jīng)常有人問我現(xiàn)在做Linux應(yīng)用開發(fā)轉(zhuǎn)驅(qū)動方向需要準(zhǔn)備什么我的建議是從三個(gè)方面入手。C語言要重新按內(nèi)核風(fēng)格來練。內(nèi)核用的是C89風(fēng)格、GNU擴(kuò)展不能依賴各種庫函數(shù)不能隨便用printf很多操作要自己操作鏈表和哈希表。建議先精讀Linux內(nèi)核源碼里的include/linux/list.h把鏈表操作練熟。操作系統(tǒng)基礎(chǔ)要補(bǔ)充到內(nèi)核級進(jìn)程調(diào)度、內(nèi)存管理、中斷機(jī)制這些不能只停留在概念上要能結(jié)合源碼說出實(shí)現(xiàn)。硬件知識要補(bǔ)起來至少能看懂芯片手冊理解GPIO、I2C、SPI這些接口的基本時(shí)序。7.2 面試官到底在面試什么面試時(shí)很多候選人的簡歷寫得很漂亮項(xiàng)目經(jīng)歷里堆了各種技術(shù)名詞但一問細(xì)節(jié)就露餡。設(shè)備驅(qū)動方向的面試我個(gè)人關(guān)注的點(diǎn)通常有這幾個(gè)第一內(nèi)核模塊的加載和卸載流程是什么module_init的機(jī)制你怎么理解第二字符設(shè)備驅(qū)動注冊需要哪些步驟設(shè)備號怎么分配第三中斷上下文中哪些事情不能做第四自旋鎖和互斥鎖的區(qū)別什么場景用哪個(gè)第五設(shè)備樹的作用和匹配流程。此外我會故意問一些“看起來簡單但需要真懂”的問題比如printk能用在中斷上下文嗎copy_to_user失敗返回什么這些問題不是考背概念而是看你能不能基于底層原理做出正確判斷。7.3 長期成長路徑從驅(qū)動工程師到系統(tǒng)級工程師設(shè)備驅(qū)動這個(gè)崗位長期發(fā)展路線其實(shí)很寬。你可以往某個(gè)垂直子系統(tǒng)方向深耕比如成為音頻系統(tǒng)工程師、Camera系統(tǒng)工程師、網(wǎng)絡(luò)驅(qū)動專家也可以從驅(qū)動拓展到整個(gè)內(nèi)核子系統(tǒng)往內(nèi)核內(nèi)存管理、調(diào)度器方向發(fā)展還可以往系統(tǒng)級架構(gòu)走涵蓋bootloader、內(nèi)核裁剪、文件系統(tǒng)、功耗優(yōu)化、安全啟動成為真正能hold住整個(gè)系統(tǒng)的系統(tǒng)級工程師。我自己比較強(qiáng)烈的感受是驅(qū)動開發(fā)給的技術(shù)視野是整個(gè)Linux系統(tǒng)中比較獨(dú)特的一種——因?yàn)閺挠布拇嫫鞯絻?nèi)核框架到應(yīng)用接口要全鏈路理清持續(xù)做幾年之后你對“一個(gè)數(shù)據(jù)從硬件到用戶態(tài)到底經(jīng)歷了什么”會有非常清晰的認(rèn)知。這份“底層連接感”是驅(qū)動工程師最值錢的長期資產(chǎn)。8. 寫在最后破除“神秘感”后這個(gè)方向值不值得投入設(shè)備驅(qū)動工程師再神秘拆開來看也只是“通過內(nèi)核代碼讓硬件正確工作”的工程師。它高薪的原因并不神秘門檻不低、責(zé)任不小、供給有限。如果你正在思考要不要入這一行我想給你幾條非常實(shí)際的經(jīng)驗(yàn)。第一不要被“內(nèi)核很可怕”嚇退。Linux內(nèi)核源碼看似龐大但你不需要全部掌握。你只需要先吃透一條主線比如“字符設(shè)備怎么從應(yīng)用層到驅(qū)動再到硬件”然后沿著這條線不斷向縱深擴(kuò)展內(nèi)核對你就不再是一團(tuán)迷霧。第二一定要買一塊開發(fā)板不用太貴正點(diǎn)原子或者野火的入門級板子就夠用了。有硬件在手上你才能真正把驅(qū)動代碼跑起來才能真正理解中斷的實(shí)時(shí)性和設(shè)備的物理行為。第三保持寫筆記的習(xí)慣。驅(qū)動力開發(fā)中各種宏定義、匹配規(guī)則、報(bào)錯(cuò)格式都不是一錘子買賣能記住的我這么多年下來遇到不明報(bào)錯(cuò)時(shí)翻自己筆記的次數(shù)遠(yuǎn)多于重新查代碼的次數(shù)。如果你正在找工作我會建議把“至少自己動手寫一個(gè)完整驅(qū)動項(xiàng)目”作為底線。這個(gè)項(xiàng)目不一定要多復(fù)雜但一定要完整——從設(shè)備樹節(jié)點(diǎn)到驅(qū)動代碼到應(yīng)用層測試程序全套跑通。面試官看到這樣的項(xiàng)目基本能確認(rèn)你不是只搬運(yùn)過示例代碼的人。驅(qū)動開發(fā)這條路前期確實(shí)燒腦但熬過那個(gè)“什么都連不上、什么都不知道為什么”的階段之后你會獲得一種極強(qiáng)的掌控感。那種你能清楚地知道系統(tǒng)每一層在干什么、每一個(gè)硬件行為背后邏輯的感覺是這份職業(yè)最迷人的地方。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
99热久草| 日韩在线观看亚洲| 九九九这里只有精品| www.com五月天| 丁香婷婷浪潮AV久久综合| 丁香狠狠干| 天天日夜夜高潮| 99熟女| 色欲婷婷五月天| 99re8这里只有精品99re8热视频| 五月天性色| 欧美成人AAA片一区国产精品| 五月丁香婷婷AV天堂| 男女啪啪做爰高潮无遮挡| 少妇丁香婷婷 | 午夜无码熟熟妇丰满人妻| www.99热最新视频8| 色综合久久综合| 色色亚洲五月天| 天天综合五月天| 第四色激情网| 天天操夜夜爽歪歪| 激情欧美婷五月| 丁香六月婷婷激情| 九九在线视频| 伊人久久五月天| 一操久久| 亚洲激情四射色| 天天爽天天日| 森林影视大全,最好看的2019年视频 | 超碰成人影视| 日本天堂网站99| 久99久热| 婷婷五月激情五月激情| 婷婷综合五月激情| 色综天天综合| 玖玖婷婷综合| 91日综合欧美| www.丁香黄色五月天人与| 久久久久久久久人妻| 99精品在线播放| 色五月丁香A欧美com| 香蕉久久国产AV一区二区 | AV在线观看网站| 亚洲综合在线视频| 黄色激情久久| 91色在线 | 日韩| 欧美69久成人做爰视频| 色五月激情五月开心五月| 五月婷婷香| 热热久久99| 色欲香综合网| 伊人婷婷五月| 天天撸夜夜爽| 另类视频丁香五月| 天天综合社区| 成人欧美日韩| 在线观看免费视频| 啪啪色激情五月天| 丁香五月黄色| 婷婷精品| 99爱视频免费看| 天天日天天干天天插天天射| 免费精品99| 婷婷5月九九| 色色亚洲无码| 吉澤明步Av一區二區| 五月网网站| 色婷婷色五月天| 丁香五月婷婷88在线| 色婷婷五月天天天天天天天天天| 激情深爱五月| 99色在线观看| 色欲一区二区三区精品A片| 欧日韩成人| 日韩黄色网络| 欧美日韩成人在线观看| 99高级会所久久| 色欲av伊人久久大香线蕉影院| 亚洲AV免费在线| 久久久久久天天日天天爱| 久久99久久99精品免观看粉嫩| 久久婷婷东京热| 日韩中文字幕| 九艹在线| 99性感视频| 婷婷五月天亚洲天堂| 久久99热这里| 激情五月天激情小说| 97婷婷狠狠| 久99热| 少妇做爰免费视看片| 色九月综合| 国产AV不卡福利| wWwCom夜操wwW| 超碰人妻在线| 天天影视色综合网| 日本在线视频播放91| 色色色五月婷婷| 超碰2021| 婷婷五月亚洲综合| 99综合| 九九这里都是精品| 免费日本aⅴ中文字幕| 日韩av在线免费观看| 人人干天天操五月丁香| 99色免费观看全部| 色情五月天丁香社区| 日本的α片xxxwww| 99热这里是精品| 婷婷激情综合| 99视频九九热| www.色五月| 久久婷婷五月天| 国产AV一区二区三区日韩| 精品99在线| 九月色婷婷| 婷婷色中文| 视色综合| 免費观看aV在线网址| 97久久人人操| 日韩成人av在线| 在线超碰免费| 婷婷五月天男人影院色色网| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 九九精品热| 久久久潮喷-久久久九九-成人AV| 婷婷网五月| 99久久99久久综合| 天天日狠狠| 五月天啪啪| 色婷婷AⅤ| 午夜婷婷五月天| 婷婷五月天无码| 亚洲综合色色色| 亚洲婷婷丁香| 99思思| 免费成人网在线观看| 开心久久五月天| 精品色色色| 婷婷五月天福利| 91九色中文字幕女在线观看| 9l视频自拍九色9l视频自拍九色9l社区| 亚洲123区高清入口| 婷婷九月狠狠色| 五月亭亭性| 任你干aa| 五月色丁香激情| 丁香五月花| 中文字幕在线播放视频| 五月婷婷中文字幕| 色婷婷五月在线| 狠狠干夜夜干| 久久久婷婷| 欧美精品999| 大香蕉婷婷久久| 激情六月天婷婷| 中文久久婷婷| 99无码黄色视频| 亚洲高清在线| 少妇出轨做爰高潮A片| 久久激情综合| 日操夜操天天操不卡| 久久久人妻门| 丁香花五月天激情| 五月丁香啪啪激情| 91色久| 色情五月综合婷婷| 五月婷婷之综合激情| 久久99jiu9| 亚洲综合五月天| 琪琪色综合网站| 五月丁香婷婷综合网色欲| 久久男人网婷婷| 婷婷婷婷婷婷婷五月丁香| 91视频久久久| 丁香五月AV| A色色| 99色在线| 日日噜噜夜夜狠狠久久丁香五月| 丁香五月婷婷深五月| 五月激情小说| 性生活视频98791| 五月天丁香网| 亚洲人成网站999综合| 五月丁香六月天| 99日韩| 欧美激情性做爰免费视频| 天天干天天操天天干天天操天天干天天操| 9久9久| 亚洲欧美成人在线| 91制片厂久久久国产电影| 色日本五月天| 欧美猛片| 亚洲天堂久久| 日本理论久久| 超碰99资源站| 久久婷婷国产| 丁香婷婷久久五月天| 91色色色18| 婷婷舔| 婷婷五月综合色中文字幕| 99久久网站| 夜夜躁爽日| 亚洲小视频免费播放| 欧洲MV日韩MV国产| 91碰碰| 人人爽在线视频综合网| 六月丁香停| 亚洲国产精品二二三三区| 五月天桃色深爱网| 久久这里只有精品07| 五月婷婷激情啪啪| 日韩一区二区A片免费观看| 激情视频综合| 婷婷国产成人| 婷婷草| 五月社区婷婷激情| 五月婷婷深深爱爱| 人妻久久久久| 色色免费网站| 久久婷婷五月综合色奶水99啪| 夜夜爽天天爽| 婷婷五月情| 久久久免费精彩视频| 国产色五月婷婷| 丁香五月综合| 大香蕉综合| 黄色99热| 97碰在线免费观看| 婷婷五月天大香蕉| 99久久亚洲国产| AV片在线观看| 五月丁香A片| 国产精产国品一二三在观看| 久操欧美在线观看97| 五月婷婷影| 啪啪色区| 久久激情五月天| 99re思思热久久| 2025天天爽天天摸| 婷婷五月天色综合| 五月深爱网| 婷婷五月婷婷五月| 996日日爱| 婷婷五月丁香在线观看| www.狠狠色.com| 日韩欧美一区二区三区四区| 思思久久99热| 久久只这里有精品| 五月天色婷婷伊人网| 五月天激情网址| 另类图片五月天婷婷| 五月婷婷六月丁香| 五月丁香婷婷激情在线视频| 久色五月婷婷综合| jiqingliuyuetian| 久久亚洲天堂| se99视频| 狠狠爱婷婷丁香| 五月婷婷久久大香蕉| 久久婷婷东京热大香樵| 九九色播五月丁香| 五月婷丁香| 国产日比| | 99爱视频在线免费观看| 激情文学五月丁香六月婷婷| 亲子乱AV一区二区三区下载| 婷婷在线视频| 天堂网色婷婷| 婷婷基地成人五月天| 亚洲日韩一页精品发布| 97碰碰草| 色色激情网| 天天日天天添| 欧美3AaAa大片| 欧美人妻一区二区| 久久婷综合| 日本五月天网站| 欧美大道不卡| 国产美女无遮挡裸体毛片A片 | 在线观看免费观看在线9久| 精品一区久热| 欧美色宗和激情| 桃色五月婷婷| 亚洲热久久| 操九色| 色屌丝中文字幕| 久热一本| 超碰妻人人| 日本在线99| 99噜噜噜在线播放| 日日干日日色| 色婷婷日本| 久久九九@| 五月丁香六月综合激情| 青青草Avb在线| 婷婷激情六月中文| 色呦呦美女| 久久99网站| 庭庭久久内射| 五月婷无码| 日本熟妇乱妇熟色A片蜜桃| 91日韩在线| 精品亚洲国产成AV人片传媒| Caoub青青超碰| 激情综合另类| 国产精品成人AV在线| 人人综合久| 久久亚洲婷婷| 五月婷色丁香| 色综合色综合色综合色综合| 婷婷丁香熟妇综合网| 色色操| 色综合久| 变态另类色图| 婷婷五月天综合网| 欧美在线视频免费播放| 99热思思久| 色婷婷激情小说网| 久久婷婷六月综合综合色| 99热精品在线观看| 色色丁香| 好色婷婷| ji'qing'luan'ren'lun| 天天爱综合网| 大学生高潮无套内谢视频| 99综合视频| 亚洲亚洲人成综合网络| 中文AV在线观看| 欧美天天草人人草| 毛片毛片毛片毛片| 99热网站| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 欧美色色色| 丁香五月婷婷成人综合| 九九99热久久精品66中文字幕| 男女99免费视频| 超碰v| 麻豆123区| 日韩亚洲视频| 色视频五月天| 色吧综合网| 亚洲精品另类| 精品网站99| 直接看的AV| 亚州色色色| 婷婷中文字幕欧美| 精品九九婷婷| 内射激情在线| 色色五月丁香婷婷| 六月婷在线| 秋霞黄色一级久久| 欧美激情五月天| 成AV人片一区二区三区久久| 九热...av| 天天激情5月天亚洲| 久播影院免费观看电视剧大全最新网| 这里只有精品视频在线| 97极品在线| 色婷婷五月天激情综合| 天天爽夜爽| 久久免费试看120秒| 激情五月婷婷欧美极品| 91色久| 激情网色五月| 99成人无码| www久久久| 91窝窝| 蜘蛛女免费观看完整版高清电影| 五月丁香色婷婷久久| 超碰成人公开| 怡红院院在线导航网 | 九九热思思热| 激情婷婷丁香| 琪琪秋霞| 久久精彩免费视频| www.五月婷婷| 激情五月综合网最新| 高清免费在线视频| 五月婷婷丁香六月在线| 香蕉97碰碰碰欧美| 婷婷五月开心中文字幕色| 丁香九月婷| 青青日韩| 久久五月天网| 九九人人看| 五月婷婷网五月在线| 五月天开心网| 久月丁香爱婷婷综合| www.99久| 26UUU欧美激情一区二区| 丁香五月六月婷婷怡红院| 日韩中文字幕| 99 这里只有精品| 色情五月综合婷婷| 99在线精品视频免费| 影音先锋一区| 超碰人人操在线| 极品另类| 97影院一级片| 五月丁香成人| 丁香五月性| 在线成人网址| 99精品久久久久久久婷婷| 婷婷色五月开心五月| 婷婷黄色五月| 五月天婷婷综合网| 九九热视频99| 欧美丁香婷婷五月| 久久99最新| 婷色五月| 99九九视屏| 五月婷婷啪啪啪啪| 国产精品色婷婷AV综合色色| 五月色丁香婷婷综合| 丁香综合网| 日本91在线播放| 婷婷之六月丁香| 琪琪色综合网站| 蜜臀嫩草| 久久狠婷婷| 婷婷的色色五月天| 色色五月天激情| 综合网五月| 日日操夜夜操狠狠操| 国产肥白大熟妇BBBB视频| 狠狠狠激情网| 色护士综合| 丁香婷婷激情五月天无毒不卡蜜桃| 99热精品网| 超碰97干| 色婷婷视频| 免费无码毛片一区二区A片 | 牛牛澡牛牛爽| 亚洲熟妇无码乱子AV电影| 一本久道综合99| 五月天激情久久| 同性gv国产精品一区二区| 草草夜夜操| 精品国产va久久久| 成人欧美日韩| 中文字幕丰满孑伦无码专区| 午夜五月天| 97色欧美| 丁香九月婷婷| 久久久久丁香婷婷五月天| 精品99视频| 亚洲综合激情五月久久| 亚洲丁香五月在线观看| 日本一级一片免费视频| 香蕉AV福利精品导航| 99日韩网站| 亚洲人妻电影| 最近中文字幕大全免费版在线 | 少妇水多A片太爽了| 色婷婷五月天视频在线| 少妇高潮一区二区三区99欧美| 五月婷婷六月丁香| 99热这里是精品| 激情婷婷五月久久| 狠狠色丁香久久综合婷婷亚洲成人福利 | 丁香婷婷视频在线| 五月婷婷与六月丁香图片激情| 伊人高清无码| 超碰人人草| 六月婷五月丁香| 9l视频自拍九色9l视频在线观看| 国色天香成人网| 深爱激情五月网| 久久五月婷婷电影| 综合 蜜月 婷婷| 婷婷五月天开心网| 人妻久久久久久久 | 综合久久伊人| 国精产品一区一区三区免费视频| 在线成人视频免费| 天天肏天天爽夜夜爽| 亚洲综合无码| 色综合色色色色色色综合| 丁香婷婷社区| 丁香婷婷九月| 丁香色五月婷婷91桃色| 久热只有这里有精品| 久久久久视剧HD| 99操视频| 亚洲av成人在线| av网站中文| www.激情.com.| 97婷婷五月激情六月丁香伊人| 日日干日日| 夜夜撸日日操| 五月丁香六月婷婷久久久综合| 91丨九色丨大屁股| 琪琪色影音先锋| 色婷婷丁香女女| 日本丁香五月| 五月婷婷影院| 色久综合| 爱草人视频| 天色综合网站| 六月亚洲| 综合久久婷婷五月丁香| 丁香婷婷六月天| 五月婷婷之综合激情在线| 丁香婷婷色五月| 黄色AV日韩| 另类小说色婷婷| 99亚洲色| 五月婷婷花| 91免费在线视频6| 婷婷丁香五月综合| 9色视频在线| 小泽玛利亚视频一区二区| 天堂久热| 婷婷五月丁香99| 成人做爰高潮A片免费视频| 亚洲中文乱字字幕在线永久| 99热国产精品| 婷婷五月情| 激情五月婷婷| 国产美女视频久| 天天天综合网| 亚洲丁香五月天视频| 天天色域综合网| www.热99热| 五月丁香五月激情综合色综合| 色综合色婷色基地| 色五月大香蕉婷婷| 久久狠婷婷| 久久全色| 4399高清无码视频| 五月天丁香婷| 99精品在线播放| 超碰九色| WWW.五月天9999| 人妻操逼视频。| 丁香色五月直播| 五月丁香综合啪啪| 99热精在线九九久久保| 激情综合网,婷婷五月天| 亚洲色欲欧美一区二区三区| 六月天无码网址| 艾小青av| 色丁香五月天婷婷| 欧洲色色| 操操天堂| 五月丁香狠狠爱| 中文字幕日产A片在线看| 婷婷丁香社区| 天天肏天天舔AV| 丁香五月天婷婷大香蕉| 六月丁香停| 在线中文字幕视频| 99热欧| 99热精这里只有精品| www,五月天激情| 538在线精品| 9精品在线| 99热这里只有精品1| 婷婷亚洲综合| 91主播在线| 久色激情| 丁香五月天色综合| 天天做天天爱综合| 综合久久综合| 七七婷婷综合| 久9精品| 色五月婷婷色| 五月天激情开心网| 欧美日比视频| EEUSS鲁片一区二区三区| 五月天丁香婷婷视频网址| 婷婷激情四射五月天| 丁香五月六月综合激情| 精品无码色欲AV| 激情五月天伊人av| 99热在线观看精品| 嫩草免费视频| 天色综合网| 久久久久这里都是精品| 综合五月激情| 九九RE视频在线精品| 少妇出轨做爰高潮A片| 老师把我爽高潮了免费A片| 九月丁香| 五月天激情无码| www.minyis.com【JT】实力收量可预付QQ2101460746 | 天天透天天干| 玖玖在线资源视频| 99九九视频精彩在线| 五月天色五月| 久久久婷丁香五月天激情综合| 玖月婷婷爱丁香| 激情文学五月丁香六月婷婷| 99久久久久| 日韩激情网站| 热99精品视频观看| 91久久五月天| 蒲京久久无码视频| 五月色婷婷综合色| 在线观看婷婷5月| 亚洲亚洲人成综合网络| AV五月丁香| 婷婷五月天男人影院色色网| 婷婷丁香五月天激情| 九月婷婷在线观看| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 久久色五月天| 久久九九蜜| 婷婷五月天av| www.99热在线观看| 天天干狠狠| 精品香蕉99久久久久网站| 五月天色综合| 狠狠的日| YW无码| 无码中文一区二区三区| 激情综合网五月激情| 99精品网址| 婷婷六月插屄激情| 五月丁香色综合| 丁香婷婷色九月| www.五月瑟| 欧美成人精品三区综合A片| 激情久久肏屄视频| 新激情五月天天在线网| 婷婷久久婷婷色五月| 五月天婷婷丁香蜜桃91| 婷婷五月天小说| 超碰免费人人| 操久久网| 久久久性爱网| 丁香五月激情网| 日本大逼91| 五月婷色啪| 8090在线影视少妇| 99热久只有精品首页| 99操99| 国产avapp 网| 99自拍视频网站| 婷婷激情综合色五月久久图片| 五月丁香婷婷激情澎湃四射| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 天天狠狠夜夜狠狠2023| 婷婷综合色色| 日本高清久久| 色噜噜狠狠色综合无码久久欧美| 东京热伊人| 中文字幕AV网址| 天天综合久久| 色婷婷丁香综合中文字幕| 精品久热69| 久青操| av色婷婷| 国产成人网址| 色色热| 激情q青青草在线婷婷| 伊人激情影院| 婷婷九月激情| 91人人人人人| 五月丁香婷婷激情澎湃四射 | 婷婷丁香五月激情图片| 操碰色一区就去操| 五月婷婷丁香社区| 九九综合网色全集 | 激情网五月| 美女亚洲五月丁香| 亚洲亚洲人成综合网络| 懂色AⅤ| 91日本在线免费| 五月天天视频| 97干97色| 日日干日日| 青青草蜜臀| 伊人喵咪a V| 俺去也五月天| 91精品在线看| 疯狂做受XXXX高潮A片动画| 激情五月丁香在线观看直播| AⅤ在线播放网| 丁香婷婷色情| 高清无码.com| 色综合久久久无码中文字幕999| 久久色这里只有精品| 色婷亚洲五月丁香| 色色色色色色色色网站| 亚洲综合视频一下| 激情五月天第四色| 丁香婷婷久久| 亚洲五月丁| 999九九九久久久99HD| 人人操人人干AV| 五月激情婷婷图片基地| 丝雨一区二区| 婷婷五月天激情网| 久久性爱网站| 婷婷内射视频在线| 国产精产国品一二三在观看 | 性五月激情| 色婷婷综合久久| www.婷婷,com| 狠狠干总合| 超碰色女人| 久久亚洲婷婷| 熟女激情五月天 | 天天在线久久综合 | 91成人品| 免費观看aV在线网址| 日韩 中文 欧美| 五月综亚洲| av在线免费网站 | 99久久婷婷国产综合亚洲| 婷婷五月丁香综合| 天天综合网网欲色| 99亚色色色| 亭亭丁香97| 色欲久久综合| 婷婷五月天激情网| 色婷丨日丨天丨综合久久| 日韩欧美一道四区中文字幕| 久久综合久色欧美综合狠狠 | 亚洲免费观看高清完整版AV线| 97精品综合| 五月综合在线| 国产熟女日日骚五月丁香爱| 日韩一级A片黄色| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 色婷婷成人网| 五月婷婷综合色啪首页| 六月丁香啪啪| 超碰人人超碰| 五月六月婷| 六月丁香深深爱| 亚洲99综合| 牛牛色av| 丁香伍月婷电影全集| 五月婷婷影| 久久99网| 狠狠操狠狠干综合| 五月激情丁香五月宗合| 久久久婷婷婷| 任你操精品免费| 久久探花91swag| 亚洲人妻av伦理| 五月天激情图片| 操一操干一干| 狠狠五月天婷婷激情网。| 成人五月天在线观看| 免费啪啪亚州视频| 久久日曰| 精品热九九| 99精品成人无码A片观看金桔| 色婷婷狠狠爱| 五月婷婷婷丁香播| 日本色色视频| 人妻精品久久久久久久| 涩涩五| 激情综合网五月天天| 91chinese在线| 手机在线日韩视频中文字幕| 五月天婷婷激情网| 六月婷婷日| avh片在线观看| j五月香在线| 精品成人无码A片观看香草视频| 99网| 国内外色色色色色成人视频| 五月婷婷久久综合| 91精品国产91久久久久青草| 亚洲综合视频网| 激情爱爱网站超大免费| 久久视频婷婷| 亚洲成人网站在线播放| 激情图片婷婷| 久久综合性| 九月色婷婷| 丁香婷婷五月| 色999五月色| 久久女婷| 人妻丰满精品一区二区A片| 欧美激情性做爰免费视频| 99色色| 极品人妻VIDEOSSS人妻| 国产AV一区二区三区最新精品| 国自产拍偷拍精品啪啪一区二区| 色婷婷五月天| 超碰免费成人网站| 婷婷丁香成人色综合| 大香蕉视频99| 色五月婷婷青娱乐| 区美毛片子| 激情五月婷婷| 久1色色| 婷五月丁香| 久久婷婷在线| 色视频五月天| 日本一毛片| 草草视频91| 色婷婷基地| 久草热8精品视频在线观看 | 久久久久人妻中文| 婷婷久久色| 午夜激情婷婷| 天天日天天操心| 777精品久无码人妻蜜桃| 丁香五月天堂婷婷| 蜜桃婷婷狠狠久久综合| 亚洲综合无码| 九九热九九热精品| 丁香婷婷六月在线资源观看| 五月天六月色| 啪啪一区| 2025超碰| 一本色道久久综合狠狠躁小说| 日韩人妻在线观看| 国产婷婷五月中文字幕高清| A久网| 日韩精品一区二区亚洲AV观看| 大香蕉伊人久久| 精品无码久久久久久久久| 99热综合在线观看| 九月婷婷激情| 久久这有这里精品| 天天草比天天爽| 亚洲欧美综合7777色婷婷| 国产这里只有精品| 热996精品在线观看| 9久久精品| 亚洲九九99精品视频在线播放| 九九在线精品| 亚洲综合成人网| 久久99草五月婷婷| 97干在线视频| 色婷婷五月天天天干天天操天天爽 | 天天狠狠色噜噜| 91色呦哟| 久久九九一區| 只有精品视频在线观看| 日韩在线aaa| 激情欧美五月丁香| 久久综合9| 色五月天.con| 五月天天天色| 欧美久热| 丁香五月最新网址| 色婷婷五月天激情久久| 99性爱视频| .精品久久久麻豆国产精品| 婷婷九月丁香天堂丁香天堂| 激情五月天综合网站网站网站| 26uuu亚洲精品国产| 99免费在线| 青青999| 91操色| 婷婷婷久久久| 91夫妻网站九色| 激情五月天婷婷直播| 91色情播放| 五月丁香网站| www..999热久| 婷婷五月美女直播| www99热| 99热亚洲精品| www夜夜操comwww| 综合激情五月丁香| 国产三级片91| 五月花激情| 日本欧美成人片AAAA| 97狠狠色| 婷婷深爱五月丁香| 少妇做爰免费视看片| 玖玖爱综合网| 六九色综合婷婷五月天| 欧美性生交xXxX久久久| 激情婷婷五月久久| 国产精品色婷婷99久久精品| 久热伊人91| 色五月开心五月激情五月| 色丁香久久| 无码橾| 人人爽欧美婷婷久久久五月丁香| 色婷婷成人做爰A片免费看网站| 五月婷婷中文字幕| 激情综合五| 91九色 熟| 99热这里精| 91久久久久久久久18| 婷婷激情九月| 五月天婷综合| 影音先锋综合网| 六月丁香激情婷婷| 97超碰婷婷五月天| 亚洲亚洲激情| 人人操AV| 色婷婷五月开心六月综合| 丁香五月婷婷AV| 国产九九一区二区三区| 婷婷五月天免费视频| 九九久久9 9在线观看| 五月丁香婷婷久久| 强壮公让我夜夜高潮A片视频| 热99国产精品| 午夜丁香婷婷| 99精品在线观看| 色五月婷婷色| 99热在线观看| 久久综合丁香激情五月| 久99热| 色爱亚洲| 伊人五月天男人的天堂在线| 亚洲天堂99| 综合婷婷六月| 国产做A爰片毛片A片美国| 五月天亚洲最大成人| 操碰97| 天天色伊人| 99精品视频在线观看| 丁香五月狠狠综合欧美| 青青草婷婷五月天| 99热在线观看免费| 九九精品re免费视频| 日日干天天爽| 国产婷婷综合| 婷婷精品在线| 日本99热| 亚洲经典三级| 色操b| 天天综合色99| 色玖玖综合| 国产 亚洲 在线| 五月丁香色综合| 成人婷婷深爱综合网| 艹B高清无码| 思思国产99| 一起草av在线观看| 久久永久视频| 激情小说五月丁香在线视频观看视频| 日本乱子人伦在线视频| 翔田千里无码| 99久高清视频| 操久久网| 激情精品久久| 操逼电影免费看| 97操碰在线视频| 91干| 欧美成人热| 天天肏天天舔AV| 九九99香蕉在线视频播放| 99色婷婷视频| 男女啪啪做爰高潮无遮挡| 色日本网| 区美毛片子| 99只有精品| 丁香五月婷婷色播艳门照| www、丁香五月天| 五月丁香六月婷| 99热久草| 狼人婷婷久久| 国产成人精品亚洲线观看| 开心五月天激情网站| 五月丁香六月婷婷成人| 伊人久久艹| 亚洲色激情| 亚洲色久| 婷婷五月五月丁香| 影视av久久久噜噜噜噜噜三级| 婷婷五月综合色中文字幕| 亚州男人天堂婷婷五月| 成人电影在线免费试看| WWW丁香五月| 日韩婷久| 99综合网| 亚洲综合激情五月久久| 天天婷婷综合| 五月婷婷丁香大香蕉| 婷婷午夜天| 99热中文字幕久久| 九九熱最新視頻| 丁J香六月首页| 熟女激情五月天| 丁香久久久| 婷婷她六月天| 伊人久久大香| 亚洲日韩一页精品发布| 激情五月婷| 99精品视频在线| 97资源欧美日韩大香蕉超碰一区| 日本操天堂| 99热国产精品| www.深爱激情| 蜜臀A∨在线水帘洞| 超碰在线观看成人视| 亚洲综合另类| 伊人玖玖精品| 婷婷五月天综合色| 久久久久久草黄色片AV在线观看| 99在线视频女女视频| 国产精品成人AV在线观看春天| 久99久热| 99热6色| 欧美天天综合网站上去吧| 日韩精品一区二区亚洲AV观看| 六月婷婷毛片| www婷婷| 我去色色网五雨天| 五月涩涩网| 色狠狠激情五月| 人妻视频在线| 久久色吧| 婷婷综合性爱网| 狠狠色婷婷777| 久操福利| 99热都是精品| 婷婷色欧美激情| 五月丁香999| 啪啪综合网| 91日日日| 久久婷婷的综合色丁香五月| 久久久久久久久久久久久9| 婷婷色五月天在线观看| 射久久丁香五月| 99色免费观看全部| 天天射天天射一道本日本社区 | 五月婷婷六月激情| 夜夜综合色| 九九九九九九九热| 丁香五月亭亭六月综合激情网| 色五月色五天色情网| 国内久久亭亭| 97热超碰| 色爱爱综合网| 狠狠色 综合色区| 成人无码髙潮喷水A片| 久久久免费精彩视频| 九九精品99| 天天操天天插| 99热97| 日日夜夜婷婷| 99在线精品视频免费观看20| 这里只有免费的精品| AV美美午夜| 青青草a在线| 五月丁香六月婷婷,婷| 91久久久久久| 97色色婷婷| 91精品久久久久久综合五月天| 色情婷婷五月天| 五月丁香成人| 97碰| 超碰人人操人人干| 久月婷婷| 日本九九九九| 五月花免费视频| 亚洲综合五月| 大香蕉综合在线| 色婷婷综合网站| 色区久久| 五月综合激情婷婷六月色窝| 久久精品99国产精品日本| AA片在线观看视频在线播放| 99ER热精品视频| 天天碰夜夜操| 午夜]香婷婷深深爱| 亚洲9久久精品| 激情婷婷五月天丁香| a色婷婷| 精品99在线| 97香蕉碰碰人妻国产欧美| 91欧美日韩综合| 久久精品色| 天天舔天天摸天天射| 人妻在线中文字幕久久| 婷婷四色成人综合色视| 五月丁香亚洲婷婷| 殴美综合激情五月天免费视频| 99热丁香| 99精品视频网| 极品人妻VIDEOSSS人妻| 任你爽在线视频| 18久久| 综合色色网| 91艹人| 五月激情婷婷六月| 大天天伊人| 天天色色天天| 天堂无码人妻精品AV一区| 7777国产盗摄农村女人| 99热亚洲综合| 久久精品4| 99在线观看这里都是精品| 亚洲婷婷成人五月天| 久久丁香五月| 激情丁香五月天| 爱久久小说下载网| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 无码任你操| 97操操操| 国产真实乱了老女人视频| 真实熟女-91九色| 久久婷婷综合基地| 97丁香五月天| 丁香六月情| 思思re99视频在线观看| 婷婷99狠狠躁天天久久久九九九| 色五月婷婷影视| 九月丁香| 五月花丁香婷婷| 涩综合网| 午夜亚洲AV日韩无码| 无码A片一区二区免费| 思思热闹这里只有精品| 激情五月丁香五月| 中文字幕精品推荐免费在线观| 99狠狠操一| 九九热在视频| 亚洲色综久久五月| 第四色色六月色综合| 色婷婷五月中文字幕在线dvd| 婷婷色丁香五月| 夫妇交换刺激做爰| 91色吧网| 青青五月天婷婷| 天天搞天天色综合| 四川BBB搡BBB爽爽视频| 色情婷婷。| 色五月天综合| 色三级色三级| 99热在线观看成人| 婷婷操逼| 婷婷五月天成人小说| 99热欧美| 日日操夜夜操无码免费| 婷婷五月天色网久| 色五月天堂| 99re久热| 深爱五月综合网| 另类激情五月在线视频欧美| 最近中文字幕在线中文视频| 日韩高清久久| 五月天婷婷永久免费视频| 色~性~乱~伦~噜| 大香蕉太香蕉视频97| 六月丁香啪| www,色婷婷| 伊人大香蕉爱聚| 色丁香五月婷婷婷| 99re热在线观看| 大香蕉综合视频在线| 99视频这里只有免费精品| 色综合色| 色综合99无码 | 天天爽天天爽天天爽天天爽天天爽天天爽天天| 婷婷色五月综合| 中文字幕丰满孑伦无码专区| 嫩草视频在线观看| 久久这里只有精品8| www.97视频| VA婷婷| 台湾无码A片一区二区| 丁香五月停停av| 五月天天天开心激情网| 久久只有18视频| 一起草无码| 欧美成人色婷婷| 在线综合亚洲欧美65| 成人色五月天| 亚洲五月婷婷| 任你爽免费视频| 丁香五月婷婷亚洲色图| 久久全色| 五月婷婷激情综合视频| 成人无码精品1区2区3区免费看| 激情五月丁香五月| 99riAV国产精品视频| 色婷婷综合在线| 欧美成人五月天| 国产做爰视频免费播放| 激情99。| 婷婷五月天色色| 丁香五月婷婷深五月| 97碰啪啪| aaa久久| 99热免费精品| 碰97久久| 色婷婷超碰| 99啪99| 天天干天天操天天射| 久久综合婷| 婷婷五月天久久| 九九热在线视频观看免费10| 天天做天天爱天天综合| 丁香五月婷婷影视先锋| 欧美婷婷五月天综合| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 97精品欧美91久久久久久久| 五月天婷婷网站888| 色婷久九| 91热在线| 色~性~乱~伦~噜| 另类视频一区| 亚洲婷婷五月天在线激情综合网| 色色色9| 九九99在线观看视频| 99综合视频一体| 天天噜天天爱| 亚洲精品V天堂中文字幕| 丁香五月天无码| 任你干aa| 丁香五月婷婷色情综合| 9视频1在线| 日本色久| 特黄三级片| 久久久久这里只有精品| site:minyis.com| 97超碰免费超级在线观看| 婷婷五月色网| 久久久久久18| 91凹凸在线| av九九| 五月天婷婷基地| 三级大香蕉网| 性爱五月婷| 五月丁香婷婷色色色| 九九热精品| 99国产精品久久久久久久久久久| 天天日婷婷| 97在线/日本| 久久精品婷婷| 欧美在线骚货| 日韩中出视频| 婷婷五月色惰| 99 r热| 久久久久久久11111111111| 天天摸天天日天天舔| 婷婷99狠狠躁天天躁中文| 99久久婷婷| 五月青青草综合| 青青色com久久| 五夜婷婷| 夜夜夜夜操| 丁香五月婷婷欧美成人色图| 成人av在线网站| 插插干干干色| 婷婷五月天首页激情| 99操碰| 天天综合天天玩夜夜玩天天玩夜夜玩 | 久草热在线视频| 天天天久久久| 精品AV无码超碰| 色婷婷88| 狠狠va| 五月丁香久久综合色| 色五月婷婷老师| 久久机热这里只有精品| 夜夜大香蕉婷婷丁香| 婷色五月天| 五月天婷婷成人| 色婷婷五月天中文字幕| 亚洲AV成人无码精品| 五月天激情影院| 五月天久久成人| 中文字幕精品在线观看| 四川女人毛多水多A片| 日韩av在线免费观看|