|
看了很多关于linux内存管理的文章还是云里雾里,听了很多关于linux内存管理的课程还是一头雾水。其实很多时候造成不懂的原因不是资料太少,恰恰是资料太多,而且各个内核版本的差异,32位64位的不同,文章的胡编乱造等都给读者带来疑惑。本着对内存深度剖析的态度,希望以版本kernel-4.14,架构AARCH64为专题做个内存管理的架构性整理。 这篇文章我们先来看下linux在启动过程中的初始化。 3 y# }4 t" G8 X0 B' d; V
创建启动页表: 在汇编代码阶段的head.S文件中,负责创建映射关系的函数是create_page_tables。create_page_tables函数负责identity mapping和kernel image mapping。 __create_page_tables主要执行的就是identity map和kernel image map:
9 ]) { ], T1 ?- __create_page_tables:! R9 N5 M$ \4 g [& i
- ......2 ~& K) Y f6 N9 `
- create_pgd_entry x0, x3, x5, x6
" _3 I" B: m/ u/ r* c3 c* u! \3 R - mov x5, x3 // __pa(__idmap_text_start)
* z/ D9 r& T$ D3 R% @/ X - adr_l x6, __idmap_text_end // __pa(__idmap_text_end): W( V# o/ P6 K+ w- {( ` I2 p4 }+ z4 Y
- create_block_map x0, x7, x3, x5, x6
) O7 ~% [' J e, s) N" h - 1 W7 S4 \% E7 e- u
- /*/ r! `8 i! d4 {$ \; b+ q( J L) ^
- * Map the kernel image (starting with PHYS_OFFSET).
z: u. P+ p# p/ ^9 \% b: X - */
2 S; B+ A- F) i0 s - adrp x0, swapper_pg_dir
5 j: V' w1 e: |7 K) R! J# w; W! W - mov_q x5, KIMAGE_VADDR + TEXT_OFFSET // compile time __va(_text)
7 T+ L( s# V( g' q- K) i - add x5, x5, x23 // add KASLR displacement
- y2 L! I, t. E$ A - create_pgd_entry x0, x5, x3, x6: y$ ?, h m+ \0 n! h- M% N
- adrp x6, _end // runtime __pa(_end)& @4 i3 q- D6 @ c
- adrp x3, _text // runtime __pa(_text)! v& W3 ^8 y% u+ ] Z
- sub x6, x6, x3 // _end - _text* ^* b) T" b+ i4 E5 k
- add x6, x6, x5 // runtime __va(_end), z9 P# _# o; r& o9 i
- create_block_map x0, x7, x3, x5, x6
% E1 w5 v- x% [0 w5 I: m - ......
复制代码 % k8 S$ X0 A* R. s) z( I0 u# N' l3 Y
其中调用create_pgd_entry进行PGD及所有中间level(PUD, PMD)页表的创建,调用create_block_map进行PTE页表的映射。关于四级页表的关系如下图所示,这里就不进一步解释了。
; o8 A* v, H- \' d ^ k: k
汇编结束后的内存映射关系如下图所示: " m# }5 u0 O# U6 D
当执行完上面的map之后,MMU就已经打开了并且开始进入C代码运行阶段,那么下一步就要对dtb进行映射了。 1 p0 n( e3 ^! b) Y& T0 k- h% o8 ]
fixmap区之dtb map: 在执行setup_arch中,会最先进行early_fixmap_init(),这个函数就是用来map dtb的,但是它只会建立dtb对应的这段物理地址中间level的页表entry,而最后一个level的页表映射则通过setup_machine_fdt函数里的fixmap_remap_fdt来创建。 - <font color="#001000"><font style="background-color:rgb(255, 255, 255)"><font face="Tahoma">4 H, L3 M; p8 K+ L
- void *__init fixmap_remap_fdt(phys_addr_t dt_phys)3 _6 z: z# J A' I6 G9 M
- {/ K0 ~) y7 `( ~$ u7 W$ a
- void *dt_virt;
2 r7 @; h$ O: D% E, l - int size; Q# ^$ Q7 G$ O
- . o8 S% q ]/ _' E
- dt_virt = __fixmap_remap_fdt(dt_phys, &size, PAGE_KERNEL_RO);$ W& A/ N; ]2 G2 u x4 ^5 j
- if (!dt_virt)- M5 D2 b, o6 u& V1 W& a3 n m7 ?* M
- return NULL;6 ?% U$ q o( J& V: G% G7 q8 x1 R
- , ?7 M; |) q; S) ^
- memblock_reserve(dt_phys, size);; z; q6 b0 `: N" c b. E
- return dt_virt;6 i5 u6 ]- X0 e) H
- }</font></font></font><font color="#001000"><font style="background-color:rgb(255, 255, 255)"><font face="Tahoma">
/ q# K' E. O8 |2 {- m8 s! s- r( u - </font></font></font>
复制代码
# F: r! c3 {/ `( ~& p
fixmap_remap_fdt主要是为fdt建立地址映射,在该函数的最后,顺便就调用memblock_reserve保留了该段内存。 可以看出dtb的映射采用的是fixmap,所谓fixmap就是固定映射,它需要我们明确的知道想要映射的物理地址,并把这段地址映射到想要映射的虚拟地址上。当然这里固定映射还有些片面,因为在fixmap机制实现上,也有支持动态分配虚拟地址的功能,这个功能主要用于临时fixmap映射(这个临时映射就是用来执行early ioremap使用的。),而dtb的映射属于永久映射。 $ w# e% X+ g1 S9 P9 g3 P @! h
fixmap区之early ioremap: 对于一些硬件需要在内存管理系统起来之前就要工作的,我们就可以使用这种机制来映射内存给这些硬件driver使用。各个模块在使用完early ioremap的地址后,需要尽快把这段映射的虚拟地址释放掉,这样才能反复被其他模块继续申请使用。 early_ioremap_init会调用early_ioremap_setup: 可见它的实现是依赖fixmap的,所以它必须要在early_fixmap_init之后才能运行。 注意:如果想要在伙伴系统初始化之前进行设备寄存器的访问,那么可以考虑early IO remap机制。 至此我们已经知道dtb和early ioremap都是在fixmap区的,如下图: 3 C5 C+ o* |+ o( ?$ v
系统内存的布局: 完成dtb的map之后,内核可以访问这一段的内存了,通过解析dtb中的内容,内核可以勾勒出整个内存布局的情况,为后续内存管理初始化奠定基础。这一步主要在setup_machine_fdt中完成。这里就不看代码了,其调用流程是:setup_machine_fdt->early_init_dt_scan->early_init_dt_scan_nodes 就像注释中所示内核根据dtb的不同node勾勒出choosen node,root node,memory node相应内存区域。 除了这3个node,还有一个reserved-memory node,它是在上面讲到dtb map的时候fixmap_remap_fdt函数做的。下面我们看下这4个node的具体实现。 choosen node & c8 p2 i3 i7 h& X0 c3 P
该节点有一个bootargs属性,该属性定义了内核的启动参数,比如mem= xx,此外,还处理initrd相关的property,并保存在initrd_start和initrd_end这两个全局变量中。 root node : L* S0 k+ |+ g4 |# m" s
与内存无关,暂时不详述,以后有机会讲到device tree系列再详述。 memory node
6 n0 s' R. c! w6 }
通过memblock_add加入到memblock.memory对应的memblock_type链表中进行管理。 $ P& X* d, k7 b( P* M2 L* j
接下来到arm64_memblock_init函数: - ! j2 X* Y# h" r" z4 y# n, S& z
- void __init arm64_memblock_init(void)
$ M& C- h- o0 y3 e; L - {
& [/ Y! ~* q" {! |. a - ......: i! ~8 G" ` | E
- memblock_reserve(__pa_symbol(_text), _end - _text); 1.kernel image保留区
! a6 `- w0 q3 Q4 R y' K1 T - #ifdef CONFIG_BLK_DEV_INITRD
, H* B8 c, }4 U7 M& Q1 t - if (initrd_start) {
{' c p3 g& V+ d% x$ a; Z4 p8 M - memblock_reserve(initrd_start, initrd_end - initrd_start); 2.initrd保留区+ `( w! Z$ U/ A. z2 x+ j8 }& @1 `1 B
- /* the generic initrd code expects virtual addresses */+ w: z4 L* e) v2 a
- initrd_start = __phys_to_virt(initrd_start);5 ^# a# f2 p3 X* s8 W* n
- initrd_end = __phys_to_virt(initrd_end);) r" V0 ]2 [" N. p# s
- }; P/ k9 Y) B! i' [' Z
- #endif
; D. ^: l" M) [2 Y O& d9 P - early_init_fdt_scan_reserved_mem(); 3.dts中配置为保留的区域
+ u5 Q5 k- E. l7 T D# r - ......
9 V+ n9 u& C- n) ^; i - }
复制代码 2 n& g f3 C' q7 `( ^2 _3 F- n. t, L
reserve内核代码、数据区等(_text到_end那一段,具体的内容可以参考内核链接脚本) 保留initital ramdisk image区域(从initrd_start到initrd_end区域) reserved-memory node 如下所示:
0 P+ }2 r- x6 g( `3 I
7 U0 X3 H. g8 s5 T2 f
完成: 通过上面的一系列操作,需要动态管理的内存已经被放到了memory type和reserved type这两个region中了,现在内存已经被memblock模块所管理了,这只是启动后的第一步,后续内存才会加入到伙伴系统去管理。
/ J( j! R( q6 {/ q$ m( S( o! i |