通過小實驗讓你徹底理解VMA（虛擬內(nèi)存空間）

作者簡介：Loopers，碼齡11年，喜歡研究內(nèi)核基本原理

在32位機器上，總共有4G大小的虛擬地址空間，其中0-3G是給應(yīng)用程序使用，3-4G是給內(nèi)核使用。

在64位機器上，目前還不完全支持64位地址寬度，常見的地址長度有39（512GB）和48位（256TB），目前我使用的模擬器采用的是39位的地址寬度，這樣的話用戶空間和內(nèi)核空間各占512GB的地址空間。

當(dāng)一個應(yīng)用程序在用戶跑起來的時候，它內(nèi)部是如何正常運行的，通過一個簡單的例子詳細(xì)說明下。

#include <stdio.h>
#include <malloc.h>
 
static int global_data=1;
static int global_data1;
int bss_data;
int bss_data1;
 
int main()
{
    int stack_data = 1;
    int stack_data1 = 2;
    int data[200*1024];
 
    static int data_val=1;
 
    int* malloc_data=malloc(10);
    int* malloc_data1=(int*)malloc(300);
    int* malloc_data2=(int*)malloc(300*1024);
 
    // stack segment
    printf("stack segment!n");
    printf("t stack_data=0x%lxn",&stack_data);
    printf("t stack_data1=0x%lxn",&stack_data1);
 
    // heap segment
    printf("heap segment!n");
    printf("t malloc_data=0x%lxn",malloc_data);
    printf("t malloc_data1=0x%lxn",malloc_data1);
    printf("t malloc_data2=0x%lxn",malloc_data2);
 
    //code segment
    printf("code segment!n");
    printf("t code_data=0x%lxn",main);
 
    //data segment
    printf("data segment!n");
    printf("t global_data=0x%lxn",&global_data);
    printf("t global_data1=0x%lxn",&global_data1);
    printf("t data_val=0x%lxn",&data_val);
 
    //bss segment
    printf("bss segment!n");
    printf("t bss_data=0x%lxn",&bss_data);
    printf("t bss_data1=0x%lxn",&bss_data1);
 
    return 0;
}

為了更好的實驗，我們需要在ARM64的機器上運行上述的測試?yán)?。然后打印各個段的地址。

root:/ # ./data/vma
stack segment!
         stack_data=0x7fe8a41e24
         stack_data1=0x7fe8a41e20
heap segment!
         malloc_data=0x356db9d0
         malloc_data1=0x356db9f0
         malloc_data2=0x6ff3187010
code segment!
         code_data=0x400620
data segment!
         global_data=0x48b960
         global_data1=0x48d380
         data_val=0x48b964
bss segment!
         bss_data=0x48e448
         bss_data1=0x48e44c

我們根據(jù)各個段打印的地址來用一張圖描述下各個段的位置。目前描述的是ARM64架構(gòu)，可能不同架構(gòu)不是一樣

我們將ARM64的用戶空間放大，就可以清晰的看見各個段在整個用戶空間的位置。

以上實驗是針對ARM64架構(gòu)的實驗結(jié)果的。大家有興趣的話可以研究下32位系統(tǒng)。我這里直接給出32系統(tǒng)的結(jié)果，當(dāng)然了也是實驗的結(jié)果，這是N年之前在32的ubuntu機器做的結(jié)果

對應(yīng)的結(jié)果如下

可以看到和ARM64表現(xiàn)是一樣的。

VMA（Virtual Memory Area）

上述說的各個段最終還需要映射到具體的物理內(nèi)存的，而在內(nèi)核中使用VMA來描述各個段的。我們可以通過cat /proc/pid/maps命令來對應(yīng)下上面的實驗結(jié)果

大家可以去對對地址是否落在對應(yīng)的區(qū)域。

內(nèi)核通過vma來描述各個段，而各個vma會通過鏈表或者紅黑樹鏈接在一起，會將鏈表的頭放在mm_struct結(jié)構(gòu)中的。

這里不具體描述vma了，有興趣的可以去查詢相關(guān)的code去看。大概描述下vma的定義

這里我們只需要掌握用戶空間的各個段的布局，心中知道代碼段，數(shù)據(jù)段，stack，heap段各個的位置。以及各個段在內(nèi)核中通過vma去描述，而各個vma是通過鏈表或者紅黑樹鏈接一起的。鏈表頭會掛載mm_struct的mmap中，紅黑樹的的頭掛在mm_struct的mmap_rb上。

鏈表是為了插入方便，而紅黑樹是為了查找方便。

了解了VMA的組織數(shù)據(jù)后，用一個例子來通過驅(qū)動模塊來獲取VMA各個段的信息

#include <linux/init.h>
#include <linux/kernel.h>
#include <linux/module.h>
#include <linux/sched.h>
#include <linux/sched/signal.h>
#include <linux/mm.h>
 
static int mpid=1;
 
static void print_vma(struct task_struct *task)
{
        struct mm_struct *mm;
        struct vm_area_struct *vma;
        int count=0;
 
        mm = task->mm;
        printk("This mm_struct has %d vman", mm->map_count);
 
        for(vma = mm->mmap; vma; vma=vma->vm_next){
                printk("vma number %d: n", ++count);
                printk("Start address 0x%lx, End address 0x%lxn", vma->vm_start, vma->vm_end);
        }
 
        printk("Code segment start=0x%lx, end=0x%lxn"
                "Data Segment start=0x%lx, end=0x%lxn"
                "Stack segment start=0x%lxn",
                mm->start_code, mm->end_code, mm->start_data, mm->end_data, mm->start_stack);
}
 
static int vma_start()
{
        struct task_struct *task;
        printk("Got the process id =%dn", mpid);
 
        for_each_process(task) {
                if(task->pid == mpid){
                        printk("%s[%d]n", task->comm, task->pid);
                        print_vma(task);
                }
        }
        return 0;
}
 
static void vma_exit()
{
        printk("print segment info module exit!n");
}
 
module_init(vma_start);
module_exit(vma_exit);
module_param(mpid, int, 0);

我們通過獲取應(yīng)用程序的pid，然后通過模塊參數(shù)傳遞到驅(qū)動模塊中，匹配到相同的pid，則將此進(jìn)程的名字(comm字段)，PID(pid)字段打印出來。同時獲取當(dāng)前進(jìn)程有多少個vma，打印各個vma的開始地址和結(jié)束地址。

通過maps命令獲取進(jìn)程的各個vma信息

root:/data # cat /proc/4766/maps
00400000-0047c000 r-xp 00000000 103:23 6918                              /data/vma
0048b000-0048e000 rw-p 0007b000 103:23 6918                              /data/vma
0048e000-0048f000 rw-p 00000000 00:00 0
38382000-383a4000 rw-p 00000000 00:00 0                                  [heap]
78941af000-78941fb000 rw-p 00000000 00:00 0
78941fb000-78941fc000 r--p 00000000 00:00 0                              [vvar]
78941fc000-78941fd000 r-xp 00000000 00:00 0                              [vdso]
7fc0ed3000-7fc0f9d000 rw-p 00000000 00:00 0                              [stack]

再看看我們的驅(qū)動程序的打印信息

[ 2432.979096] Got the process id =4766
[ 2432.979495] vma[4766]
[ 2432.979500] This mm_struct has 8 vma
[ 2432.979504] vma number 1:
[ 2432.979508] Start address 0x400000, End address 0x47c000
[ 2432.979511] vma number 2:
[ 2432.979515] Start address 0x48b000, End address 0x48e000
[ 2432.979518] vma number 3:
[ 2432.979522] Start address 0x48e000, End address 0x48f000
[ 2432.979525] vma number 4:
[ 2432.979529] Start address 0x38382000, End address 0x383a4000
[ 2432.979532] vma number 5:
[ 2432.979536] Start address 0x78941af000, End address 0x78941fb000
[ 2432.979539] vma number 6:
[ 2432.979543] Start address 0x78941fb000, End address 0x78941fc000
[ 2432.979547] vma number 7:
[ 2432.979551] Start address 0x78941fc000, End address 0x78941fd000
[ 2432.979554] vma number 8:
[ 2432.979558] Start address 0x7fc0ed3000, End address 0x7fc0f9d000
[ 2432.979564] Code segment start=0x400000, end=0x47b76f 
               Data Segment start=0x48b770, end=0x48d348
               Stack segment start=0x7fc0f9ba00

通過這個例子我們就清晰的了解到各個vma是用來描述各個段的，各個段的信息通過vm_area_struct結(jié)構(gòu)有詳細(xì)的描述。而且各個vma都是通過雙鏈表鏈接在一起的。鏈表的主要作用是方便刪除增加；另外一種紅黑樹組織方式是為了查找方便的。