偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

看完這篇,別再說(shuō)你不懂 Linux 內(nèi)存管理了

新聞 Linux
對(duì)于精通 CURD 的業(yè)務(wù)同學(xué),內(nèi)存管理好像離我們很遠(yuǎn),但這個(gè)知識(shí)點(diǎn)雖然冷門(估計(jì)很多人學(xué)完根本就沒(méi)機(jī)會(huì)用上)但絕對(duì)是基礎(chǔ)中的基礎(chǔ)。

  對(duì)于精通 CURD 的業(yè)務(wù)同學(xué),內(nèi)存管理好像離我們很遠(yuǎn),但這個(gè)知識(shí)點(diǎn)雖然冷門(估計(jì)很多人學(xué)完根本就沒(méi)機(jī)會(huì)用上)但絕對(duì)是基礎(chǔ)中的基礎(chǔ)。

這就像武俠小說(shuō)中的內(nèi)功修煉,學(xué)完之后看不到立竿見(jiàn)影的效果,但對(duì)你日后的開(kāi)發(fā)工作是大有裨益的,因?yàn)槟阏镜母吡恕?/p>

文中所有示例圖都是我親手畫的,畫圖比碼字還費(fèi)時(shí)間,但大家看圖理解比文字更直觀,所以還是畫了。需要高清示例圖片的同學(xué),文末有獲取方式自取。

再功利點(diǎn)的說(shuō),面試的時(shí)候不經(jīng)意間透露你懂這方面知識(shí),并且能說(shuō)出個(gè)一二三來(lái),也許能讓面試官對(duì)你更有興趣,離升職加薪,走上人生巔峰又近了一步。

前提約定:本文討論技術(shù)內(nèi)容前提,操作系統(tǒng)環(huán)境都是 x86架構(gòu)的 32 位 Linux系統(tǒng)。

虛擬地址

即使是現(xiàn)代操作系統(tǒng)中,內(nèi)存依然是計(jì)算機(jī)中很寶貴的資源,看看你電腦幾個(gè)T固態(tài)硬盤,再看看內(nèi)存大小就知道了。

為了充分利用和管理系統(tǒng)內(nèi)存資源,Linux采用虛擬內(nèi)存管理技術(shù),利用虛擬內(nèi)存技術(shù)讓每個(gè)進(jìn)程都有4GB 互不干涉的虛擬地址空間。

進(jìn)程初始化分配和操作的都是基于這個(gè)「虛擬地址」,只有當(dāng)進(jìn)程需要實(shí)際訪問(wèn)內(nèi)存資源的時(shí)候才會(huì)建立虛擬地址和物理地址的映射,調(diào)入物理內(nèi)存頁(yè)。

打個(gè)不是很恰當(dāng)?shù)谋确剑@個(gè)原理其實(shí)和現(xiàn)在的某某網(wǎng)盤一樣。假如你的網(wǎng)盤空間是1TB,真以為就一口氣給了你這么大空間嗎?那還是太年輕,都是在你往里面放東西的時(shí)候才給你分配空間,你放多少就分多少實(shí)際空間給你,但你和你朋友看起來(lái)就像大家都擁有1TB空間一樣。

虛擬地址的好處

  • 避免用戶直接訪問(wèn)物理內(nèi)存地址,防止一些破壞性操作,保護(hù)操作系統(tǒng)
  • 每個(gè)進(jìn)程都被分配了4GB的虛擬內(nèi)存,用戶程序可使用比實(shí)際物理內(nèi)存更大的地址空間

4GB 的進(jìn)程虛擬地址空間被分成兩部分:「用戶空間」和「內(nèi)核空間」

用戶空間內(nèi)核空間

物理地址

上面章節(jié)我們已經(jīng)知道不管是用戶空間還是內(nèi)核空間,使用的地址都是虛擬地址,當(dāng)需進(jìn)程要實(shí)際訪問(wèn)內(nèi)存的時(shí)候,會(huì)由內(nèi)核的「請(qǐng)求分頁(yè)機(jī)制」產(chǎn)生「缺頁(yè)異常」調(diào)入物理內(nèi)存頁(yè)。

把虛擬地址轉(zhuǎn)換成內(nèi)存的物理地址,這中間涉及利用MMU 內(nèi)存管理單元(Memory Management Unit ) 對(duì)虛擬地址分段和分頁(yè)(段頁(yè)式)地址轉(zhuǎn)換,關(guān)于分段和分頁(yè)的具體流程,這里不再贅述,可以參考任何一本計(jì)算機(jī)組成原理教材描述。

段頁(yè)式內(nèi)存管理地址轉(zhuǎn)換

Linux 內(nèi)核會(huì)將物理內(nèi)存分為3個(gè)管理區(qū),分別是:

ZONE_DMA

DMA內(nèi)存區(qū)域。包含0MB~16MB之間的內(nèi)存頁(yè)框,可以由老式基于ISA的設(shè)備通過(guò)DMA使用,直接映射到內(nèi)核的地址空間。

ZONE_NORMAL

普通內(nèi)存區(qū)域。包含16MB~896MB之間的內(nèi)存頁(yè)框,常規(guī)頁(yè)框,直接映射到內(nèi)核的地址空間。

ZONE_HIGHMEM

高端內(nèi)存區(qū)域。包含896MB以上的內(nèi)存頁(yè)框,不進(jìn)行直接映射,可以通過(guò)永久映射和臨時(shí)映射進(jìn)行這部分內(nèi)存頁(yè)框的訪問(wèn)。

物理內(nèi)存區(qū)劃分

用戶空間

用戶進(jìn)程能訪問(wèn)的是「用戶空間」,每個(gè)進(jìn)程都有自己獨(dú)立的用戶空間,虛擬地址范圍從從 0x00000000 至 0xBFFFFFFF 總?cè)萘?G 。

用戶進(jìn)程通常只能訪問(wèn)用戶空間的虛擬地址,只有在執(zhí)行內(nèi)陷操作或系統(tǒng)調(diào)用時(shí)才能訪問(wèn)內(nèi)核空間。

進(jìn)程與內(nèi)存

進(jìn)程(執(zhí)行的程序)占用的用戶空間按照「 訪問(wèn)屬性一致的地址空間存放在一起 」的原則,劃分成 5個(gè)不同的內(nèi)存區(qū)域。訪問(wèn)屬性指的是“可讀、可寫、可執(zhí)行等 。

  • 代碼段

代碼段是用來(lái)存放可執(zhí)行文件的操作指令,可執(zhí)行程序在內(nèi)存中的鏡像。代碼段需要防止在運(yùn)行時(shí)被非法修改,所以只準(zhǔn)許讀取操作,它是不可寫的。

  • 數(shù)據(jù)段

數(shù)據(jù)段用來(lái)存放可執(zhí)行文件中已初始化全局變量,換句話說(shuō)就是存放程序靜態(tài)分配的變量和全局變量。

  • BSS段

BSS段包含了程序中未初始化的全局變量,在內(nèi)存中 bss 段全部置零。

  • 堆 heap

堆是用于存放進(jìn)程運(yùn)行中被動(dòng)態(tài)分配的內(nèi)存段,它的大小并不固定,可動(dòng)態(tài)擴(kuò)張或縮減。當(dāng)進(jìn)程調(diào)用malloc等函數(shù)分配內(nèi)存時(shí),新分配的內(nèi)存就被動(dòng)態(tài)添加到堆上(堆被擴(kuò)張);當(dāng)利用free等函數(shù)釋放內(nèi)存時(shí),被釋放的內(nèi)存從堆中被剔除(堆被縮減)

  • 棧 stack

棧是用戶存放程序臨時(shí)創(chuàng)建的局部變量,也就是函數(shù)中定義的變量(但不包括 static 聲明的變量,static意味著在數(shù)據(jù)段中存放變量)。除此以外,在函數(shù)被調(diào)用時(shí),其參數(shù)也會(huì)被壓入發(fā)起調(diào)用的進(jìn)程棧中,并且待到調(diào)用結(jié)束后,函數(shù)的返回值也會(huì)被存放回棧中。由于棧的先進(jìn)先出特點(diǎn),所以棧特別方便用來(lái)保存/恢復(fù)調(diào)用現(xiàn)場(chǎng)。從這個(gè)意義上講,我們可以把堆??闯梢粋€(gè)寄存、交換臨時(shí)數(shù)據(jù)的內(nèi)存區(qū)。

上述幾種內(nèi)存區(qū)域中數(shù)據(jù)段、BSS 段、堆通常是被連續(xù)存儲(chǔ)在內(nèi)存中,在位置上是連續(xù)的,而代碼段和棧往往會(huì)被獨(dú)立存放。堆和棧兩個(gè)區(qū)域在 i386 體系結(jié)構(gòu)中棧向下擴(kuò)展、堆向上擴(kuò)展,相對(duì)而生。

你也可以在linux下用size 命令查看編譯后程序的各個(gè)內(nèi)存區(qū)域大?。?/p>

  1. [lemon ~]# size /usr/local/sbin/sshd 
  2.  
  3. text    data    bss dec hex filename 
  4.  
  5. 1924532 12412   426896  2363840 2411c0  /usr/local/sbin/sshd 

內(nèi)核空間

在 x86 32 位系統(tǒng)里,Linux 內(nèi)核地址空間是指虛擬地址從 0xC0000000 開(kāi)始到 0xFFFFFFFF 為止的高端內(nèi)存地址空間,總計(jì) 1G 的容量, 包括了內(nèi)核鏡像、物理頁(yè)面表、驅(qū)動(dòng)程序等運(yùn)行在內(nèi)核空間 。

內(nèi)核空間細(xì)分區(qū)域.

直接映射區(qū)

直接映射區(qū) Direct Memory Region:從內(nèi)核空間起始地址開(kāi)始,最大896M的內(nèi)核空間地址區(qū)間,為直接內(nèi)存映射區(qū)。

直接映射區(qū)的896MB的「線性地址」直接與「物理地址」的前896MB進(jìn)行映射,也就是說(shuō)線性地址和分配的物理地址都是連續(xù)的。內(nèi)核地址空間的線性地址0xC0000001所對(duì)應(yīng)的物理地址為0x00000001,它們之間相差一個(gè)偏移量PAGE_OFFSET = 0xC0000000

該區(qū)域的線性地址和物理地址存在線性轉(zhuǎn)換關(guān)系「線性地址 = PAGE_OFFSET + 物理地址」也可以用 virt_to_phys()函數(shù)將內(nèi)核虛擬空間中的線性地址轉(zhuǎn)化為物理地址。

高端內(nèi)存線性地址空間

內(nèi)核空間線性地址從 896M 到 1G 的區(qū)間,容量 128MB 的地址區(qū)間是高端內(nèi)存線性地址空間,為什么叫高端內(nèi)存線性地址空間?下面給你解釋一下:

前面已經(jīng)說(shuō)過(guò),內(nèi)核空間的總大小 1GB,從內(nèi)核空間起始地址開(kāi)始的 896MB 的線性地址可以直接映射到物理地址大小為 896MB 的地址區(qū)間。

退一萬(wàn)步,即使內(nèi)核空間的1GB線性地址都映射到物理地址,那也最多只能尋址 1GB 大小的物理內(nèi)存地址范圍。

請(qǐng)問(wèn)你現(xiàn)在你家的內(nèi)存條多大?快醒醒都 0202 年了,一般 PC 的內(nèi)存都大于 1GB 了吧!

[[330586]]

所以,內(nèi)核空間拿出了最后的 128M 地址區(qū)間,劃分成下面三個(gè)高端內(nèi)存映射區(qū),以達(dá)到對(duì)整個(gè)物理地址范圍的尋址。而在 64 位的系統(tǒng)上就不存在這樣的問(wèn)題了,因?yàn)榭捎玫木€性地址空間遠(yuǎn)大于可安裝的內(nèi)存。

動(dòng)態(tài)內(nèi)存映射區(qū)

vmalloc Region 該區(qū)域由內(nèi)核函數(shù)vmalloc來(lái)分配,特點(diǎn)是:線性空間連續(xù),但是對(duì)應(yīng)的物理地址空間不一定連續(xù)。vmalloc 分配的線性地址所對(duì)應(yīng)的物理頁(yè)可能處于低端內(nèi)存,也可能處于高端內(nèi)存。

永久內(nèi)存映射區(qū)

Persistent Kernel Mapping Region 該區(qū)域可訪問(wèn)高端內(nèi)存。訪問(wèn)方法是使用 alloc_page (_GFP_HIGHMEM) 分配高端內(nèi)存頁(yè)或者使用kmap函數(shù)將分配到的高端內(nèi)存映射到該區(qū)域。

固定映射區(qū)

Fixing kernel Mapping Region 該區(qū)域和 4G 的頂端只有 4k 的隔離帶,其每個(gè)地址項(xiàng)都服務(wù)于特定的用途,如 ACPI_BASE 等。

內(nèi)核空間物理內(nèi)存映射

回顧一下

上面講的有點(diǎn)多,先別著急進(jìn)入下一節(jié),在這之前我們?cè)賮?lái)回顧一下上面所講的內(nèi)容。如果認(rèn)真看完上面的章節(jié),我這里再畫了一張圖,現(xiàn)在你的腦海中應(yīng)該有這樣一個(gè)內(nèi)存管理的全局圖。

內(nèi)核空間用戶空間全圖

內(nèi)存數(shù)據(jù)結(jié)構(gòu)

要讓內(nèi)核管理系統(tǒng)中的虛擬內(nèi)存,必然要從中抽象出內(nèi)存管理數(shù)據(jù)結(jié)構(gòu),內(nèi)存管理操作如「分配、釋放等」都基于這些數(shù)據(jù)結(jié)構(gòu)操作,這里列舉兩個(gè)管理虛擬內(nèi)存區(qū)域的數(shù)據(jù)結(jié)構(gòu)。

用戶空間內(nèi)存數(shù)據(jù)結(jié)構(gòu)

在前面「進(jìn)程與內(nèi)存」章節(jié)我們提到,Linux進(jìn)程可以劃分為 5 個(gè)不同的內(nèi)存區(qū)域,分別是:代碼段、數(shù)據(jù)段、BSS、堆、棧,內(nèi)核管理這些區(qū)域的方式是,將這些內(nèi)存區(qū)域抽象成vm_area_struct的內(nèi)存管理對(duì)象。

vm_area_struct是描述進(jìn)程地址空間的基本管理單元,一個(gè)進(jìn)程往往需要多個(gè)vm_area_struct來(lái)描述它的用戶空間虛擬地址,需要使用「鏈表」和「紅黑樹(shù)」來(lái)組織各個(gè)vm_area_struct。

鏈表用于需要遍歷全部節(jié)點(diǎn)的時(shí)候用,而紅黑樹(shù)適用于在地址空間中定位特定內(nèi)存區(qū)域。內(nèi)核為了內(nèi)存區(qū)域上的各種不同操作都能獲得高性能,所以同時(shí)使用了這兩種數(shù)據(jù)結(jié)構(gòu)。

用戶空間進(jìn)程的地址管理模型:

wm_arem_struct

內(nèi)核空間動(dòng)態(tài)分配內(nèi)存數(shù)據(jù)結(jié)構(gòu)

在內(nèi)核空間章節(jié)我們提到過(guò)「動(dòng)態(tài)內(nèi)存映射區(qū)」,該區(qū)域由內(nèi)核函數(shù)vmalloc來(lái)分配,特點(diǎn)是:線性空間連續(xù),但是對(duì)應(yīng)的物理地址空間不一定連續(xù)。vmalloc 分配的線性地址所對(duì)應(yīng)的物理頁(yè)可能處于低端內(nèi)存,也可能處于高端內(nèi)存。

vmalloc 分配的地址則限于vmalloc_start與vmalloc_end之間。每一塊vmalloc分配的內(nèi)核虛擬內(nèi)存都對(duì)應(yīng)一個(gè)vm_struct結(jié)構(gòu)體,不同的內(nèi)核空間虛擬地址之間有4k大小的防越界空閑區(qū)間隔區(qū)。

與用戶空間的虛擬地址特性一樣,這些虛擬地址與物理內(nèi)存沒(méi)有簡(jiǎn)單的映射關(guān)系,必須通過(guò)內(nèi)核頁(yè)表才可轉(zhuǎn)換為物理地址或物理頁(yè),它們有可能尚未被映射,當(dāng)發(fā)生缺頁(yè)時(shí)才真正分配物理頁(yè)面。

動(dòng)態(tài)內(nèi)存映射

前面分析了 Linux 內(nèi)存管理機(jī)制,下面深入學(xué)習(xí)物理內(nèi)存管理和虛擬內(nèi)存分配。

通過(guò)前面的學(xué)習(xí)我們知道,程序可沒(méi)這么好騙,任你內(nèi)存管理把虛擬地址空間玩出花來(lái),到最后還是要給程序?qū)崒?shí)在在的物理內(nèi)存,不然程序就要罷工了。

所以物理內(nèi)存這么重要的資源一定要好好管理起來(lái)使用(物理內(nèi)存,就是你實(shí)實(shí)在在的內(nèi)存條),那么內(nèi)核是如何管理物理內(nèi)存的呢?

物理內(nèi)存管理

在Linux系統(tǒng)中通過(guò)分段和分頁(yè)機(jī)制,把物理內(nèi)存劃分 4K 大小的內(nèi)存頁(yè) Page(也稱作頁(yè)框Page Frame),物理內(nèi)存的分配和回收都是基于內(nèi)存頁(yè)進(jìn)行,把物理內(nèi)存分頁(yè)管理的好處大大的。

假如系統(tǒng)請(qǐng)求小塊內(nèi)存,可以預(yù)先分配一頁(yè)給它,避免了反復(fù)的申請(qǐng)和釋放小塊內(nèi)存帶來(lái)頻繁的系統(tǒng)開(kāi)銷。

假如系統(tǒng)需要大塊內(nèi)存,則可以用多頁(yè)內(nèi)存拼湊,而不必要求大塊連續(xù)內(nèi)存。你看不管內(nèi)存大小都能收放自如,分頁(yè)機(jī)制多么完美的解決方案!

[[330588]]

But,理想很豐滿,現(xiàn)實(shí)很骨感。如果就直接這樣把內(nèi)存分頁(yè)使用,不再加額外的管理還是存在一些問(wèn)題,下面我們來(lái)看下,系統(tǒng)在多次分配和釋放物理頁(yè)的時(shí)候會(huì)遇到哪些問(wèn)題。

物理頁(yè)管理面臨問(wèn)題

物理內(nèi)存頁(yè)分配會(huì)出現(xiàn)外部碎片和內(nèi)部碎片問(wèn)題,所謂的「內(nèi)部」和「外部」是針對(duì)「頁(yè)框內(nèi)外」而言,一個(gè)頁(yè)框內(nèi)的內(nèi)存碎片是內(nèi)部碎片,多個(gè)頁(yè)框間的碎片是外部碎片。

外部碎片

當(dāng)需要分配大塊內(nèi)存的時(shí)候,要用好幾頁(yè)組合起來(lái)才夠,而系統(tǒng)分配物理內(nèi)存頁(yè)的時(shí)候會(huì)盡量分配連續(xù)的內(nèi)存頁(yè)面,頻繁的分配與回收物理頁(yè)導(dǎo)致大量的小塊內(nèi)存夾雜在已分配頁(yè)面中間,形成外部碎片,舉個(gè)例子:

外部碎片

內(nèi)部碎片

物理內(nèi)存是按頁(yè)來(lái)分配的,這樣當(dāng)實(shí)際只需要很小內(nèi)存的時(shí)候,也會(huì)分配至少是 4K 大小的頁(yè)面,而內(nèi)核中有很多需要以字節(jié)為單位分配內(nèi)存的場(chǎng)景,這樣本來(lái)只想要幾個(gè)字節(jié)而已卻不得不分配一頁(yè)內(nèi)存,除去用掉的字節(jié)剩下的就形成了內(nèi)部碎片。

內(nèi)部碎片

頁(yè)面管理算法

方法總比困難多,因?yàn)榇嬖谏厦娴倪@些問(wèn)題,聰明的程序員靈機(jī)一動(dòng),引入了頁(yè)面管理算法來(lái)解決上述的碎片問(wèn)題。

Buddy(伙伴)分配算法

Linux 內(nèi)核引入了伙伴系統(tǒng)算法(Buddy system),什么意思呢?就是把相同大小的頁(yè)框塊用鏈表串起來(lái),頁(yè)框塊就像手拉手的好伙伴,也是這個(gè)算法名字的由來(lái)。

具體的,所有的空閑頁(yè)框分組為11個(gè)塊鏈表,每個(gè)塊鏈表分別包含大小為1,2,4,8,16,32,64,128,256,512和1024個(gè)連續(xù)頁(yè)框的頁(yè)框塊。最大可以申請(qǐng)1024個(gè)連續(xù)頁(yè)框,對(duì)應(yīng)4MB大小的連續(xù)內(nèi)存。

伙伴系統(tǒng)

因?yàn)槿魏握麛?shù)都可以由 2^n 的和組成,所以總能找到合適大小的內(nèi)存塊分配出去,減少了外部碎片產(chǎn)生 。

分配實(shí)例

比如:我需要申請(qǐng)4個(gè)頁(yè)框,但是長(zhǎng)度為4個(gè)連續(xù)頁(yè)框塊鏈表沒(méi)有空閑的頁(yè)框塊,伙伴系統(tǒng)會(huì)從連續(xù)8個(gè)頁(yè)框塊的鏈表獲取一個(gè),并將其拆分為兩個(gè)連續(xù)4個(gè)頁(yè)框塊,取其中一個(gè),另外一個(gè)放入連續(xù)4個(gè)頁(yè)框塊的空閑鏈表中。釋放的時(shí)候會(huì)檢查,釋放的這幾個(gè)頁(yè)框前后的頁(yè)框是否空閑,能否組成下一級(jí)長(zhǎng)度的塊。

命令查看

  1. [lemon]]# cat /proc/buddyinfo 
  2.  
  3. Node 0, zone DMA 1 0 0 0 2 1 1 0 1 1 3 
  4.  
  5. Node 0, zone DMA32 3198 4108 4940 4773 4030 2184 891 180 67 32 330 
  6.  
  7. Node 0, zone Normal 42438 37404 16035 4386 610 121 22 3 0 0 1 

slab分配器

看到這里你可能會(huì)想,有了伙伴系統(tǒng)這下總可以管理好物理內(nèi)存了吧?不,還不夠,否則就沒(méi)有slab分配器什么事了。

那什么是slab分配器呢?

一般來(lái)說(shuō),內(nèi)核對(duì)象的生命周期是這樣的:分配內(nèi)存-初始化-釋放內(nèi)存,內(nèi)核中有大量的小對(duì)象,比如文件描述結(jié)構(gòu)對(duì)象、任務(wù)描述結(jié)構(gòu)對(duì)象,如果按照伙伴系統(tǒng)按頁(yè)分配和釋放內(nèi)存,對(duì)小對(duì)象頻繁的執(zhí)行「分配內(nèi)存-初始化-釋放內(nèi)存」會(huì)非常消耗性能。

伙伴系統(tǒng)分配出去的內(nèi)存還是以頁(yè)框?yàn)閱挝?,而?duì)于內(nèi)核的很多場(chǎng)景都是分配小片內(nèi)存,遠(yuǎn)用不到一頁(yè)內(nèi)存大小的空間。slab分配器,「通過(guò)將內(nèi)存按使用對(duì)象不同再劃分成不同大小的空間」,應(yīng)用于內(nèi)核對(duì)象的緩存。

伙伴系統(tǒng)和slab不是二選一的關(guān)系,slab 內(nèi)存分配器是對(duì)伙伴分配算法的補(bǔ)充。

大白話說(shuō)原理

對(duì)于每個(gè)內(nèi)核中的相同類型的對(duì)象,如:task_struct、file_struct 等需要重復(fù)使用的小型內(nèi)核數(shù)據(jù)對(duì)象,都會(huì)有個(gè) slab 緩存池,緩存住大量常用的「已經(jīng)初始化」的對(duì)象,每當(dāng)要申請(qǐng)這種類型的對(duì)象時(shí),就從緩存池的slab 列表中分配一個(gè)出去;而當(dāng)要釋放時(shí),將其重新保存在該列表中,而不是直接返回給伙伴系統(tǒng),從而避免內(nèi)部碎片,同時(shí)也大大提高了內(nèi)存分配性能。

主要優(yōu)點(diǎn)

  • slab 內(nèi)存管理基于內(nèi)核小對(duì)象,不用每次都分配一頁(yè)內(nèi)存,充分利用內(nèi)存空間,避免內(nèi)部碎片。
  • slab 對(duì)內(nèi)核中頻繁創(chuàng)建和釋放的小對(duì)象做緩存,重復(fù)利用一些相同的對(duì)象,減少內(nèi)存分配次數(shù)。

數(shù)據(jù)結(jié)構(gòu)

slab分配器

kmem_cache 是一個(gè)cache_chain 的鏈表組成節(jié)點(diǎn),代表的是一個(gè)內(nèi)核中的相同類型的「對(duì)象高速緩存」,每個(gè)kmem_cache 通常是一段連續(xù)的內(nèi)存塊,包含了三種類型的 slabs 鏈表:

  • slabs_full (完全分配的 slab 鏈表)
  • slabs_partial (部分分配的slab 鏈表)
  • slabs_empty ( 沒(méi)有被分配對(duì)象的slab 鏈表)

kmem_cache 中有個(gè)重要的結(jié)構(gòu)體 kmem_list3 包含了以上三個(gè)數(shù)據(jù)結(jié)構(gòu)的聲明。

kmem_list3 內(nèi)核源碼

slab 是slab 分配器的最小單位,在實(shí)現(xiàn)上一個(gè) slab 由一個(gè)或多個(gè)連續(xù)的物理頁(yè)組成(通常只有一頁(yè))。單個(gè)slab可以在 slab 鏈表之間移動(dòng),例如如果一個(gè)「半滿slabs_partial鏈表」被分配了對(duì)象后變滿了,就要從 slabs_partial 中刪除,同時(shí)插入到「全滿slabs_full鏈表」中去。內(nèi)核slab對(duì)象的分配過(guò)程是這樣的:

  1. 如果slabs_partial鏈表還有未分配的空間,分配對(duì)象,若分配之后變滿,移動(dòng) slab 到slabs_full 鏈表
  2. 如果slabs_partial鏈表沒(méi)有未分配的空間,進(jìn)入下一步
  3. 如果slabs_empty 鏈表還有未分配的空間,分配對(duì)象,同時(shí)移動(dòng)slab進(jìn)入slabs_partial鏈表
  4. 如果slabs_empty為空,請(qǐng)求伙伴系統(tǒng)分頁(yè),創(chuàng)建一個(gè)新的空閑slab, 按步驟 3 分配對(duì)象

 

slab分配圖解

命令查看

上面說(shuō)的都是理論,比較抽象,動(dòng)動(dòng)手來(lái)看看系統(tǒng)中的 slab 吧!你可以通過(guò) cat /proc/slabinfo 命令,實(shí)際查看系統(tǒng)中slab 信息。

slabinfo查詢

slabtop 實(shí)時(shí)顯示內(nèi)核 slab 內(nèi)存緩存信息。

slabtop查詢

slab高速緩存的分類

slab高速緩存分為兩大類,「通用高速緩存」和「專用高速緩存」。

通用高速緩存

slab分配器中用 kmem_cache 來(lái)描述高速緩存的結(jié)構(gòu),它本身也需要 slab 分配器對(duì)其進(jìn)行高速緩存。cache_cache 保存著對(duì)「高速緩存描述符的高速緩存」,是一種通用高速緩存,保存在cache_chain 鏈表中的第一個(gè)元素。

另外,slab 分配器所提供的小塊連續(xù)內(nèi)存的分配,也是通用高速緩存實(shí)現(xiàn)的。通用高速緩存所提供的對(duì)象具有幾何分布的大小,范圍為32到131072字節(jié)。內(nèi)核中提供了 kmalloc() 和 kfree() 兩個(gè)接口分別進(jìn)行內(nèi)存的申請(qǐng)和釋放。

專用高速緩存

內(nèi)核為專用高速緩存的申請(qǐng)和釋放提供了一套完整的接口,根據(jù)所傳入的參數(shù)為指定的對(duì)象分配slab緩存。

專用高速緩存的申請(qǐng)和釋放

kmem_cache_create() 用于對(duì)一個(gè)指定的對(duì)象創(chuàng)建高速緩存。它從 cache_cache 普通高速緩存中為新的專有緩存分配一個(gè)高速緩存描述符,并把這個(gè)描述符插入到高速緩存描述符形成的 cache_chain 鏈表中。kmem_cache_destory() 用于撤消和從 cache_chain 鏈表上刪除高速緩存。

slab的申請(qǐng)和釋放

slab 數(shù)據(jù)結(jié)構(gòu)在內(nèi)核中的定義,如下:

slab結(jié)構(gòu)體內(nèi)核代碼

kmem_cache_alloc() 在其參數(shù)所指定的高速緩存中分配一個(gè)slab,對(duì)應(yīng)的 kmem_cache_free() 在其參數(shù)所指定的高速緩存中釋放一個(gè)slab。

虛擬內(nèi)存分配

前面討論的都是對(duì)物理內(nèi)存的管理,Linux 通過(guò)虛擬內(nèi)存管理,欺騙了用戶程序假裝每個(gè)程序都有 4G 的虛擬內(nèi)存尋址空間(如果這里不懂我說(shuō)啥,建議回頭看下 別再說(shuō)你不懂Linux內(nèi)存管理了,10張圖給你安排的明明白白?。?。

所以我們來(lái)研究下虛擬內(nèi)存的分配,這里包括用戶空間虛擬內(nèi)存和內(nèi)核空間虛擬內(nèi)存。

注意,分配的虛擬內(nèi)存還沒(méi)有映射到物理內(nèi)存,只有當(dāng)訪問(wèn)申請(qǐng)的虛擬內(nèi)存時(shí),才會(huì)發(fā)生缺頁(yè)異常,再通過(guò)上面介紹的伙伴系統(tǒng)和 slab 分配器申請(qǐng)物理內(nèi)存。

用戶空間內(nèi)存分配

malloc

malloc 用于申請(qǐng)用戶空間的虛擬內(nèi)存,當(dāng)申請(qǐng)小于 128KB 小內(nèi)存的時(shí),malloc使用 sbrk或brk 分配內(nèi)存;當(dāng)申請(qǐng)大于 128KB 的內(nèi)存時(shí),使用 mmap 函數(shù)申請(qǐng)內(nèi)存;

存在問(wèn)題

由于 brk/sbrk/mmap 屬于系統(tǒng)調(diào)用,如果每次申請(qǐng)內(nèi)存都要產(chǎn)生系統(tǒng)調(diào)用開(kāi)銷,cpu 在用戶態(tài)和內(nèi)核態(tài)之間頻繁切換,非常影響性能。

而且,堆是從低地址往高地址增長(zhǎng),如果低地址的內(nèi)存沒(méi)有被釋放,高地址的內(nèi)存就不能被回收,容易產(chǎn)生內(nèi)存碎片。

解決

因此,malloc采用的是內(nèi)存池的實(shí)現(xiàn)方式,先申請(qǐng)一大塊內(nèi)存,然后將內(nèi)存分成不同大小的內(nèi)存塊,然后用戶申請(qǐng)內(nèi)存時(shí),直接從內(nèi)存池中選擇一塊相近的內(nèi)存塊分配出去。

內(nèi)核空間內(nèi)存分配

在講內(nèi)核空間內(nèi)存分配之前,先來(lái)回顧一下內(nèi)核地址空間。kmalloc 和 vmalloc 分別用于分配不同映射區(qū)的虛擬內(nèi)存,看這張上次畫的圖:

內(nèi)核空間細(xì)分區(qū)域

kmalloc

kmalloc() 分配的虛擬地址范圍在內(nèi)核空間的「直接內(nèi)存映射區(qū)」。

按字節(jié)為單位虛擬內(nèi)存,一般用于分配小塊內(nèi)存,釋放內(nèi)存對(duì)應(yīng)于 kfree ,可以分配連續(xù)的物理內(nèi)存。函數(shù)原型在 <linux/kmalloc.h> 中聲明,一般情況下在驅(qū)動(dòng)程序中都是調(diào)用 kmalloc() 來(lái)給數(shù)據(jù)結(jié)構(gòu)分配內(nèi)存 。

還記得前面說(shuō)的 slab 嗎?kmalloc 是基于slab 分配器的 ,同樣可以用cat /proc/slabinfo 命令,查看 kmalloc 相關(guān) slab 對(duì)象信息,下面的 kmalloc-8、kmalloc-16 等等就是基于slab分配的 kmalloc 高速緩存。

slabinfo-kmalloc

vmalloc

vmalloc 分配的虛擬地址區(qū)間,位于 vmalloc_start 與vmalloc_end 之間的「動(dòng)態(tài)內(nèi)存映射區(qū)」。

一般用分配大塊內(nèi)存,釋放內(nèi)存對(duì)應(yīng)于 vfree,分配的虛擬內(nèi)存地址連續(xù),物理地址上不一定連續(xù)。函數(shù)原型在 <linux/vmalloc.h> 中聲明。一般用在為活動(dòng)的交換區(qū)分配數(shù)據(jù)結(jié)構(gòu),為某些 I/O 驅(qū)動(dòng)程序分配緩沖區(qū),或?yàn)閮?nèi)核模塊分配空間。

下面的圖總結(jié)了上述兩種內(nèi)核空間虛擬內(nèi)存分配方式。

總結(jié)一下

Linux內(nèi)存管理是一個(gè)非常復(fù)雜的系統(tǒng),本文所述只是冰山一角,從宏觀角度給你展現(xiàn)內(nèi)存管理的全貌,但一般來(lái)說(shuō),這些知識(shí)在你和面試官聊天的時(shí)候還是夠用的,當(dāng)然也希望大家能夠通過(guò)讀書了解更深層次的原理。

本文可以作為一個(gè)索引一樣的學(xué)習(xí)指南,當(dāng)你想深入某一點(diǎn)學(xué)習(xí)的時(shí)候可以在這些章節(jié)里找到切入點(diǎn),以及這個(gè)知識(shí)點(diǎn)在內(nèi)存管理宏觀上的位置。

 

 

責(zé)任編輯:張燕妮 來(lái)源: 后端技術(shù)學(xué)堂
相關(guān)推薦

2021-06-16 00:57:16

JVM加載機(jī)制

2017-08-09 15:07:08

大數(shù)據(jù)數(shù)據(jù)分析戶畫像

2022-04-20 11:03:28

Linux內(nèi)存管理

2020-11-04 08:37:37

C語(yǔ)言C++內(nèi)存

2022-05-27 21:56:55

索引存儲(chǔ)MySQL 存儲(chǔ)引擎

2021-02-24 07:38:50

Redis

2021-09-06 07:58:47

鏈表數(shù)據(jù)結(jié)構(gòu)

2017-02-09 19:45:07

Linux系統(tǒng)Linux 發(fā)行版

2018-03-28 21:40:03

2020-01-15 08:52:40

RabbitMQSpringMybatis

2022-02-18 06:56:18

Wi-Fi路由器局域網(wǎng)

2020-10-09 09:49:18

HTTPS網(wǎng)絡(luò) HTTP

2025-04-15 02:00:00

API版本項(xiàng)目

2023-08-09 09:03:49

CPU密集型運(yùn)算

2022-12-27 08:01:09

設(shè)計(jì)模式https://mp

2021-12-29 10:21:41

Linux 權(quán)限擴(kuò)展名

2022-06-18 23:03:05

Seata分布式事務(wù)

2021-05-28 11:54:29

MySQL數(shù)據(jù)庫(kù)主從復(fù)制

2020-06-11 07:00:00

OAuth 2.0會(huì)話管理應(yīng)用安全

2022-03-27 09:06:25

vuexActionsMutations
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)