0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Linux內(nèi)核中的hash與bucket

Q4MP_gh_c472c21 ? 來源:未知 ? 作者:胡薇 ? 2018-06-12 14:53 ? 次閱讀

哈希表(Hashtable)又稱為“散列”,Hashtable是會根據(jù)索引鍵的哈希程序代碼組織成的索引鍵(Key)和值(Value)配對的集合。Hashtable 對象是由包含集合中元素的哈希桶(Bucket)所組成的。而Bucket是Hashtable內(nèi)元素的虛擬子群組,可以讓大部分集合中的搜尋和獲取工作更容易、更快速。

哈希函數(shù)(Hash Function)為根據(jù)索引鍵來返回數(shù)值哈希程序代碼的算法。索引鍵(Key)是被存儲對象的某些屬性值(Value)。當對象加入至 Hashtable時,它存儲在與對象哈希程序代碼相符的哈希程序代碼相關(guān)的Bucket中。當在Hashtable內(nèi)搜尋值時,哈希程序代碼會為該值產(chǎn)生,并且會搜尋與該哈希程序代碼相關(guān)的Bucket。例如,student和teacher會放在不同的Bucket中,而dog和god會放在相同的 Bucket中。所以當索引鍵是唯一從Hashtable獲取元素的性能時表現(xiàn)會較好。Hash的四大優(yōu)點如下所示。

·事先不需要排序。

·搜尋速度與數(shù)據(jù)多少無關(guān)。

·數(shù)字簽名的密碼技術(shù)保密性(Security)高。

·可做數(shù)據(jù)壓縮(Data Compression),以節(jié)省空間。

Linux內(nèi)核里的哈希表應(yīng)用非常廣泛,PHP內(nèi)核里大部分語言特性也是基于哈希表實現(xiàn)的。為什么哈希表能這么神通廣大?哈希表能夠?qū)崿F(xiàn)高效的數(shù)據(jù)存儲和查找,而存儲和查找是編程中應(yīng)用最廣泛的兩個操作。

Linux內(nèi)核里的哈希表

讀過Linux內(nèi)核源碼的人可能都會發(fā)現(xiàn),其中并沒有太多復雜的數(shù)據(jù)結(jié)構(gòu),作為基礎(chǔ)數(shù)據(jù)結(jié)構(gòu)的雙向鏈表(list)和基于list實現(xiàn)的hash表占據(jù)了絕大部分數(shù)據(jù)結(jié)構(gòu)。內(nèi)核為什么會大量使用這兩種數(shù)據(jù)結(jié)構(gòu)呢?圍繞這個問題(主要是hash表),我將以自己的理解揣摩一下其意圖。

首先,這兩種數(shù)據(jù)結(jié)構(gòu)都十分簡單,簡單包括理解起來簡單和使用起來簡單兩方面內(nèi)容。這也意味著代碼的可讀性和可維護性都比其他復雜的數(shù)據(jù)結(jié)構(gòu)要好,出現(xiàn)bug的風險也較低。從哲學上來講,這也符合K.I.S.S.條款。

其次,內(nèi)核是一個比較講究性能的軟件,為了程序設(shè)計和維護的簡單性而失掉性能,這究竟是不是算得不償失呢?我們是不是應(yīng)該將天平更加偏向于性能?已經(jīng)記不起是在哪里聽說過,很多商業(yè)的路由軟件都是基于二叉樹的數(shù)據(jù)結(jié)構(gòu)來存儲路由項,以求得其路由查找的時間復雜度為log(n),并且他批評Linux的路由項組織為hash表,致使性能不佳,不適合商業(yè)。確實有一定道理,可仔細分析,hash表的性能真的比二叉樹差么?二叉樹的插入和刪除某一項的時間復雜度都為log(n);hash表插入和刪除的時間復雜度最好為O(1),最差為O(n),如果選取的表項(m)足夠多,且hash函數(shù)足夠好的話,其時間復雜度為O(n/m)(當m<=n時)。當m > n / log(n)的時候,hash表的平均表現(xiàn)就比二叉樹要好;且當m>=n時,其時間復雜度趨近于O(1)。m的值可以做成可調(diào)整的,這也正顯示了內(nèi)核的可定制性。不過,不要盲目樂觀,這一切都是以一個足夠好的hash函數(shù)為前期的。

hash函數(shù)的優(yōu)劣

如何判定一個hash函數(shù)的好壞呢?

hash的中文意思是“散列”,可解釋為:分散排列。一個好的hash函數(shù)應(yīng)該做到對所有元素平均分散排列,盡量避免或者降低他們之間的沖突(Collision)。有必要再次提醒大家的是,hash函數(shù)的選擇必須慎重,如果不幸所有的元素之間都產(chǎn)生了沖突,那么hash表將退化為鏈表,其性能會大打折扣,時間復雜度迅速降為O(n),絕對不要存在任何僥幸心理,因為那是相當危險的。歷史上就出現(xiàn)過利用Linux內(nèi)核hash函數(shù)的漏洞,成功構(gòu)造出大量使hash表發(fā)生碰撞的元素,導致系統(tǒng)被DoS,所以目前內(nèi)核的大部分hash函數(shù)都有一個隨機數(shù)作為參數(shù)進行摻雜,以使其最后的值不能或者是不易被預測。這又對 hash函數(shù)提出了第二點安全方面的要求:hash函數(shù)最好是單向的,并且要用隨機數(shù)進行摻雜。提到單向,你也許會想到單向散列函數(shù)md4和md5,很不幸地告訴你,他們是不適合的,因為hash函數(shù)需要有相當好的性能。

一籌莫展了吧?誰叫你又想閉門造車了!還是看看前輩們是如何做的,充分發(fā)揚拿來主義的精神,我又稱這種做法為“不戰(zhàn)而屈人之兵”,這難道不是兵家之上上策么?Linux內(nèi)核里面用的jhash是一個久經(jīng)考驗,并被實踐證明經(jīng)得起考驗的hash函數(shù),可以CPMS(Copy Paste Modify Save)之。Jhash的作者Bob Jenkins在其網(wǎng)站上還公布了諸如針對能預知的數(shù)據(jù)進行hash的hash函數(shù)--完美(perfect)hash函數(shù)等一系列其他hash函數(shù),看客們可以選擇之,如果有興趣繼續(xù)鉆研,也可以踏在他們的肩膀上。

什么是bucket

bucket的英文解釋:

Hash table lookup operations are often O(n/m) (where n is the number of objects in the table and m is the number of buckets), which is close to O(1), especially when the hash function has spread the hashed objects evenly through the hash table, and there are more hash buckets than objects to be stored.

可以這樣理解:

一個HASH的結(jié)果所對應(yīng)的地址可存放兩個BUCKET??山鉀QHASH沖突。

·要存數(shù)據(jù)時,第一次HASH到這里,在第一個BUCKET存放一個數(shù)據(jù)。

·要存數(shù)據(jù)時,當?shù)诙我蚰承┰騂ASH到這里時,在第二個BUCKET存放另一個數(shù)據(jù)。

一個由5個buckets組成的哈希表,里面有7個元素:

linux的hash函數(shù)hash_long等,用了golden ratio來計算。因為桶(bits)的數(shù)量需要由hash函數(shù)和對沖突的期望來決定,那么對于hash_long這樣的hash函數(shù),我們怎么確定桶的數(shù)量呢?

一般情況下都是自己根據(jù)數(shù)據(jù)特性來考慮使用的 hash 算法,不是千篇一律咬死一個不放。

比如存放 IP 地址的 hash table,用一個 65536 的桶就很好,把 IP 的后 16bit 作為 key。這種方法絕對比 hash_long、jhash 等函數(shù)的碰撞率低。

其實就是這個界和性能的折中。我可以取我問題空間的最大值。這樣肯定能保證鍵值分散。但是這樣會浪費很多空間。然而取得太小,又影響查找效率。感覺還是要在試驗中進行測試。而且個人覺得,hash比其他搜索的數(shù)據(jù)結(jié)構(gòu)靈活的地方就是它的可定制性??梢愿鶕?jù)具體情況調(diào)整,以達到最優(yōu)的效果。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • Linux
    +關(guān)注

    關(guān)注

    87

    文章

    11304

    瀏覽量

    209537
  • Hash
    +關(guān)注

    關(guān)注

    0

    文章

    32

    瀏覽量

    13200
收藏 人收藏

    評論

    相關(guān)推薦

    Linux內(nèi)核container_of原理詳解

    Linux內(nèi)核中經(jīng)常可見container_of的身影,它在實際驅(qū)動的編寫也是廣泛應(yīng)用。
    發(fā)表于 07-14 15:19 ?315次閱讀
    <b class='flag-5'>Linux</b><b class='flag-5'>內(nèi)核</b><b class='flag-5'>中</b>container_of原理詳解

    Linux內(nèi)核教程

    本章學習目標掌握LINUX內(nèi)核版本的含義理解并掌握進程的概念掌握管道的概念及實現(xiàn)了解內(nèi)核的數(shù)據(jù)結(jié)構(gòu)了解LINUX內(nèi)核的算法掌握
    發(fā)表于 04-10 16:59 ?0次下載

    hash表的實現(xiàn)原理

    軟件開發(fā),一個hash表相當于把n個key隨機放入到b個bucket,以實現(xiàn)n個數(shù)據(jù)在b個單位空間的存儲。 我們發(fā)現(xiàn)hash
    發(fā)表于 09-28 14:31 ?0次下載
    <b class='flag-5'>hash</b>表的實現(xiàn)原理

    Linux內(nèi)核配置系統(tǒng)詳解

    隨著 Linux 操作系統(tǒng)的廣泛應(yīng)用,特別是 Linux 在嵌入式領(lǐng)域的發(fā)展,越來越多的人開始投身到 Linux 內(nèi)核級的開發(fā)。面對日益龐
    發(fā)表于 11-01 15:45 ?4次下載

    linux內(nèi)核是什么_linux內(nèi)核學習路線

    Linux內(nèi)核是一個操作系統(tǒng)(OS)內(nèi)核,本質(zhì)上定義為類Unix。它用于不同的操作系統(tǒng),主要是以不同的Linux發(fā)行版的形式。Linux
    發(fā)表于 09-16 15:49 ?2651次閱讀

    linux內(nèi)核參數(shù)設(shè)置_linux內(nèi)核的功能有哪些

    本文主要闡述了linux內(nèi)核參數(shù)設(shè)置及linux內(nèi)核的功能。
    發(fā)表于 09-17 14:40 ?1375次閱讀
    <b class='flag-5'>linux</b><b class='flag-5'>內(nèi)核</b>參數(shù)設(shè)置_<b class='flag-5'>linux</b><b class='flag-5'>內(nèi)核</b>的功能有哪些

    最硬核的Linux內(nèi)核文章

    來源 :頭條號@Linux學習教程,冰凌塊兒 01 前言 本文主要講解什么是Linux內(nèi)核,以及通過多張圖片展示Linux內(nèi)核的作用與功能,
    的頭像 發(fā)表于 10-19 17:46 ?2123次閱讀
    最硬核的<b class='flag-5'>Linux</b><b class='flag-5'>內(nèi)核</b>文章

    快速理解什么是Linux內(nèi)核以及Linux內(nèi)核的內(nèi)容

    01 前言 本文主要講解什么是Linux內(nèi)核,以及通過多張圖片展示Linux內(nèi)核的作用與功能,以便于讀者能快速理解什么是Linux
    的頭像 發(fā)表于 10-21 12:02 ?4296次閱讀
    快速理解什么是<b class='flag-5'>Linux</b><b class='flag-5'>內(nèi)核</b>以及<b class='flag-5'>Linux</b><b class='flag-5'>內(nèi)核</b>的內(nèi)容

    linux內(nèi)核的driver_register介紹

    linux內(nèi)核注冊驅(qū)動由driver_register()完成。它將驅(qū)動程序的信息添加到內(nèi)核的驅(qū)動程序列表,使得內(nèi)核能夠在需要時與該驅(qū)動
    的頭像 發(fā)表于 07-14 09:17 ?2847次閱讀
    <b class='flag-5'>linux</b><b class='flag-5'>內(nèi)核</b><b class='flag-5'>中</b>的driver_register介紹

    Linux內(nèi)核分析 端口哈希桶

    是用來封裝各種協(xié)議的綁定哈希表,具體定義如下所示,這個結(jié)構(gòu)體在[Linux內(nèi)核角度分析服務(wù)器Listen細節(jié)中介紹過,具體地,struct inet_bind_hashbcket是bind相關(guān)的哈希桶
    的頭像 發(fā)表于 07-31 11:03 ?779次閱讀
    <b class='flag-5'>Linux</b><b class='flag-5'>內(nèi)核</b>分析 端口哈希桶

    linux內(nèi)核源代碼詳解

     在安裝好的Linux系統(tǒng)內(nèi)核的源代碼位于/ust/src/linux.如果是從GNU網(wǎng)站下載的Linux
    發(fā)表于 09-06 17:01 ?4次下載

    hash算法在FPGA的實現(xiàn)(1)

    在FPGA的設(shè)計,尤其是在通信領(lǐng)域,經(jīng)常會遇到hash算法的實現(xiàn)。hash算法在FPGA的設(shè)計,它主要包括2個部分,第一個就是如何選擇一個好的h
    的頭像 發(fā)表于 09-07 17:01 ?1216次閱讀
    <b class='flag-5'>hash</b>算法在FPGA<b class='flag-5'>中</b>的實現(xiàn)(1)

    hash算法在FPGA的實現(xiàn)(2)

    在前面的文章hash算法在FPGA的實現(xiàn)(一)——hash表的組建,記錄了關(guān)于hash表的構(gòu)建,這里記錄另外一個話題,就是
    的頭像 發(fā)表于 09-07 17:02 ?810次閱讀
    <b class='flag-5'>hash</b>算法在FPGA<b class='flag-5'>中</b>的實現(xiàn)(2)

    使用 PREEMPT_RT 在 Ubuntu 構(gòu)建實時 Linux 內(nèi)核

    盟通技術(shù)干貨構(gòu)建實時Linux內(nèi)核簡介盟通技術(shù)干貨Motrotech如果需要在Linux實現(xiàn)實時計算性能,進而有效地將Linux轉(zhuǎn)變?yōu)镽T
    的頭像 發(fā)表于 04-12 08:36 ?2476次閱讀
    使用 PREEMPT_RT 在 Ubuntu <b class='flag-5'>中</b>構(gòu)建實時 <b class='flag-5'>Linux</b> <b class='flag-5'>內(nèi)核</b>

    Linux內(nèi)核的頁面分配機制

    Linux內(nèi)核是如何分配出頁面的,如果我們站在CPU的角度去看這個問題,CPU能分配出來的頁面是以物理頁面為單位的。也就是我們計算機中常講的分頁機制。本文就看下Linux
    的頭像 發(fā)表于 08-07 15:51 ?293次閱讀
    <b class='flag-5'>Linux</b><b class='flag-5'>內(nèi)核</b><b class='flag-5'>中</b>的頁面分配機制