2024malloc工作原理

深入讲解内存分配函数 malloc 原理及实现 　　任何一个用过或学过C的人对 malloc 都不会陌生。大家都知道malloc可以分配一段连续的内存空间，并且在不再使用时可以通过free释放掉。但是，许多程序员对malloc背后的事情并不熟悉，许多人甚至把malloc当做操作系统所提供的系统调用或C的关键字。 　　实际上，malloc只是C的标准库中提供的一个普通函数，而且实现malloc的基本思想并不复杂，任何一个对C和操作系统有些许了解的程序员都可以很容易理解。 　　这篇文章通过实现一个简单的 malloc 来描述 malloc 背后的机制。当然与现有 C 的标准库实现（例如glibc）相比，我们实现的 malloc 并不是特别高效，但是这个实现比目前真实的 malloc 实现要简单很多，因此易于理解。重要的是，这个实现和真实实现在基本原理上是一致的。 　　这篇文章将首先介绍一些所需的基本知识，如操作系统对进程的内存管理以及相关的系统调用，然后逐步实现一个简单的malloc。为了简单起见，这篇文章将只考虑x86_64 体系结构，操作系统为Linux。 　　好文推荐： 　　万字讲解你写的代码是如何跑起来的？ 　　什么是Linux内核，如何搞懂Linux内核？（Linux内核学习笔记合集来了！） 　　字节终面：CPU 是如何读写内存的？ 　　全网最牛Linux内核分析–Intel CPU体系结构 　　一文让你读懂Linux五大模块内核源码，内核整体架构设计（超详细） 　　嵌入式前景真的好吗？那有点悬！ 　　一文教你如何使用GDB+Qemu调试Linux内核 　　Linux内核必读五本书籍(强烈推荐) 　　全网独一无二Linux内核Makefle系统文件详解（一）(纯文字代码) 　　带你深度了解Linux内核架构和工作原理！ 　　如何读懂GDB底层实现原理（从这几点入手~） 　　一文彻底理解Memory barrier（内存屏障） 　　一篇文带你搞懂，虚拟内存、内存分页、分段、段页式内存管理（超详细） 　　1 什么是malloc 　　在实现malloc之前，先要相对正式地对malloc做一个定义。 　　根据标准C库函数的定义，malloc具有如下原型： 　　这个函数要实现的功能是在系统中分配一段连续的可用的内存，具体有如下要求：malloc分配的内存大小至少为size参数所指定的字节数malloc的返回值是一个指针，指向一段可用内存的起始地址多次调用malloc所分配的地址不能有重叠部分，除非某次malloc所分配的地址被释放掉malloc应该尽快完成内存分配并返回（不能使用NP-hard[1]的内存分配算法）实现malloc时应同时实现内存大小调整和内存释放函数（即realloc和free） 　　对于malloc更多的说明可以在命令行中键入以下命令查看： 　　2 预备知识 　　在实现malloc之前，需要先解释一些Linux系统内存相关的知识。 　　2.1 Linux内存管理 　　2.1.1 虚拟内存地址与物理内存地址 　　为了简单，现代操作系统在处理内存地址时，普遍采用虚拟内存地址技术。即在汇编程序（或机器语言）层面，当涉及内存地址时，都是使用虚拟内存地址。采用这种技术时，每个进程仿佛自己独享一片2N字节的内存，其中N是机器位数。例如在64位CPU和64位操作系统下，每个进程的虚拟地址空间为264Byte。 　　这种虚拟地址空间的作用主要是简化程序的编写及方便操作系统对进程间内存的隔离管理，真实中的进程不太可能（也用不到）如此大的内存空间，实际能用到的内存取决于物理内存大小。 　　由于在机器语言层面都是采用虚拟地址，当实际的机器码程序涉及到内存操作时，需要根据当前进程运行的实际上下文将虚拟地址转换为物理内存地址，才能实现对真实内存数据的操作。这个转换一般由一个叫MMU[2]（Memory Management Unit）的硬件完成。 　　2.1.2 页与地址构成 　　在现代操作系统中，不论是虚拟内存还是物理内存，都不是以字节为单位进行管理的，而是以页（Page）为单位。一个内存页是一段固定大小的连续内存地址的总称，具体到Linux中，典型的内存页大小为4096Byte（4K）。 　　所以内存地址可以分为页号和页内偏移量。下面以64位机器，4G物理内存，4K页大小为例，虚拟内存地址和物理内存地址的组成如下：

　　上面是虚拟内存地址，下面是物理内存地址。由于页大小都是4K，所以页内偏移都是用低12位表示，而剩下的高地址表示页号。 　　MMU映射单位并不是字节，而是页，这个映射通过查一个常驻内存的数据结构页表[3]来实现。现在计算机具体的内存地址映射比较复杂，为了加快速度会引入一系列缓存和优化，例如TLB[4]等机制。 　　下面给出一个经过简化的内存地址翻译示意图，虽然经过了简化，但是基本原理与现代计算机真实的情况是一致的。

　　2.1.3 内存页与磁盘页 　　我们知道一般将内存看做磁盘的的缓存，有时MMU在工作时，会发现页表表明某个内存页不在物理内存中，此时会触发一个缺页异常（Page Fault），此时系统会到磁盘中相应的地方将磁盘页载入到内存中，然后重新执行由于缺页而失败的机器指令。关于这部分，因为可以看做对malloc实现是透明的，所以不再详细讲述. 　　最后附上一张在维基百科找到的更加符合真实地址翻译的流程供大家参考，这张图加入了TLB和缺页异常的流程。

　　2.2 Linux进程级内存管理 　　2.2.1 内存排布 　　明白了虚拟内存和物理内存的关系及相关的映射机制，下面看一下具体在一个进程内是如何排布内存的。 　　以Linux 64位系统为例。理论上，64bit内存地址可用空间为0x0000000000000000 ~ 0xFFFFFFFFFFFFFFFF，这是个相当庞大的空间，Linux实际上只用了其中一小部分（256T）。 　　根据Linux内核相关文档[6]描述，Linux64位操作系统仅使用低47位，高17位做扩展（只能是全0或全1）。所以，实际用到的地址为空间为0x0000000000000000 ~ 0x00007FFFFFFFFFFF和0xFFFF0 ~ 0xFFFFFFFFFFFFFFFF，其中前面为用户空间（User Space），后者为内核空间（Kernel Space）。图示如下：

　　对用户来说，主要的空间是User Space。将User Space放大后，可以看到里面主要分为如下几段：Code：这是整个用户空间的最低地址部分，存放的是指令（也就是程序所编译成的可执行机器码）Data：这里存放的是初始化过的全局变量BSS：这里存放的是未初始化的全局变量Heap：堆，这是我们本文重点的地方，堆自低地址向高地址增长，后面要讲到的brk相关的系统调用就是从这里分配内存Mapping Area：这里是与mmap系统调用相关的区域。大多数实际的malloc实现会考虑通过mmap分配较大块的内存区域，本文不讨论这种情况。这个区域自高地址向低地址增长Stack：这是栈区域，自高地址向低地址增长 　　下面我们主要Heap区域的操作。对整个Linux内存排布有兴趣的同学可以参考其它资料。 　　2.2.2 Heap内存模型 　　一般来说，malloc所申请的内存主要从Heap区域分配（本文不考虑通过mmap申请大块内存的情况）。 　　由上文知道，进程所面对的虚拟内存地址空间，只有按页映射到物理内存地址，才能真正使用。受物理存储容量限制，整个堆虚拟内存空间不可能全部映射到实际的物理内存。Linux对堆的管理示意如下：

　　Linux维护一个break指针，这个指针指向堆空间的某个地址。从堆起始地址到break之间的地址空间为映射好的，可以供进程访问；而从break往上，是未映射的地址空间，如果访问这段空间则程序会报错。 　　2.2.3 brk与sbrk 　　由上文知道，要增加一个进程实际的可用堆大小，就需要将break指针向高地址移动。Linux通过brk和sbrk系统调用操作break指针。两个系统调用的原型如下： 　　brk将break指针直接设置为某个地址，而sbrk将break从当前位置移动increment所指定的增量。brk在执行成功时返回0，否则返回-1并设置errno为ENOMEM；sbrk成功时返回break移动之前所指向的地址，否则返回(void *)-1。 　　一个小技巧是，如果将increment设置为0，则可以获得当前break的地址。 　　另外需要注意的是，由于Linux是按页进行内存映射的，所以如果break被设置为没有按页大小对齐，则系统实际上会在最后映射一个完整的页，从而实际已映射的内存空间比break指向的地方要大一些。但是使用break之后的地址是很危险的（尽管也许break之后确实有一小块可用内存地址）。 　　2.2.4 资源限制与rlimit 　　系统对每一个进程所分配的资源不是无限的，包括可映射的内存空间，因此每个进程有一个rlimit表示当前进程可用的资源上限。 　　这个限制可以通过getrlimit系统调用得到，下面代码当前进程虚拟内存空间的rlimit： 　　其中rlimit是一个结构体： 　　每种资源有软限制和硬限制，并且可以通过setrlimit对rlimit进行有条件设置。其中硬限制作为软限制的上限，非特权进程只能设置软限制，且不能超过硬限制。 　　【文章福利】小编推荐自己的Linux内核技术交流群:【】整理了一些个人觉得比较好的学习书籍、视频资料共享在群文件里面，有需要的可以自行添加哦！！！



　　报名免费内核学习直播课程： 　　Linux内核源码/内存调优/文件系统/进程管理/设备驱动/网络协议栈-学习视频教程-腾讯课堂​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken=​ke.sigusoft.com/course/?flowToken= 　　3 实现malloc 　　3.1 玩具实现 　　在正式开始讨论malloc的实现前，我们可以利用上述知识实现一个简单但几乎没法用于真实的玩具malloc，权当对上面知识的复习： 　　这个malloc每次都在当前break的基础上增加size所指定的字节数，并将之前break的地址返回。这个malloc由于对所分配的内存缺乏记录，不便于内存释放，所以无法用于真实场景。 　　3.2 正式实现 　　下面严肃点讨论malloc的实现方案。 　　3.2.1 数据结构 　　首先我们要确定所采用的数据结构。一个简单可行方案是将堆内存空间以块（Block）的形式组织起来，每个块由meta区和数据区组成，meta区记录数据块的信息（数据区大小、空闲标志位、指针等等），数据区是真实分配的内存区域，并且数据区的第一个字节地址即为malloc返回的地址。 　　可以用如下结构体定义一个block： 　　由于我们只考虑64位机器，为了方便，我们在结构体最后填充一个int，使得结构体本身的长度为8的倍数，以便内存对齐。示意图如下：

　　3.2.2 寻找合适的block 　　现在考虑如何在block链中查找合适的block。一般来说有两种查找算法：First fit：从头开始，使用第一个数据区大小大于要求size的块所谓此次分配的块Best fit：从头开始，遍历所有块，使用数据区大小大于size且差值最小的块作为此次分配的块 　　两种方法各有千秋，best fit具有较高的内存使用率（payload较高），而first fit具有更好的运行效率。这里我们采用first fit算法。 　　find_block从frist_block开始，查找第一个符合要求的block并返回block起始地址，如果找不到这返回NULL。 　　这里在遍历时会更新一个叫last的指针，这个指针始终指向当前遍历的block。这是为了如果找不到合适的block而开辟新block使用的，具体会在接下来的一节用到。 　　3.2.3 开辟新的block 　　如果现有block都不能满足size的要求，则需要在链表最后开辟一个新的block。这里关键是如何只使用sbrk创建一个struct： 　　3.2.4 分裂block 　　First fit有一个比较致命的缺点，就是可能会让很小的size占据很大的一块block，此时，为了提高payload，应该在剩余数据区足够大的情况下，将其分裂为一个新的block，示意如下：

　　实现代码： 　　3.2.5 malloc的实现 　　有了上面的代码，我们可以利用它们整合成一个简单但初步可用的malloc。注意首先我们要定义个block链表的头first_block，初始化为NULL；另外，我们需要剩余空间至少有BLOCK_SIZE + 8才执行分裂操作。 　　由于我们希望malloc分配的数据区是按8字节对齐，所以在size不为8的倍数时，我们需要将size调整为大于size的最小的8的倍数： 　　3.2.6 calloc的实现 　　有了malloc，实现calloc只要两步：malloc一段内存将数据区内容置为0 　　由于我们的数据区是按8字节对齐的，所以为了提高效率，我们可以每8字节一组置0，而不是一个一个字节设置。我们可以通过新建一个size_t指针，将内存区域强制看做size_t类型来实现。 　　3.2.7 free的实现 　　free的实现并不像看上去那么简单，这里我们要解决两个关键问题：如何验证所传入的地址是有效地址，即确实是通过malloc方式分配的数据区首地址如何解决碎片问题 　　首先我们要保证传入free的地址是有效的，这个有效包括两方面：地址应该在之前malloc所分配的区域内，即在first_block和当前break指针范围内这个地址确实是之前通过我们自己的malloc分配的 　　第一个问题比较好解决，只要进行地址比较就可以了，关键是第二个问题。 　　这里有两种解决方案：一是在结构体内埋一个magic number字段，free之前通过相对偏移检查特定位置的值是否为我们设置的magic number，另一种方法是在结构体内增加一个magic pointer，这个指针指向数据区的第一个字节（也就是在合法时free时传入的地址），我们在free前检查magic pointer是否指向参数所指地址。这里我们采用第二种方案： 　　首先我们在结构体中增加magic pointer（同时要修改BLOCK_SIZE）： 　　然后我们定义检查地址合法性的函数： 　　当多次malloc和free后，整个内存池可能会产生很多碎片block，这些block很小，经常无法使用，甚至出现许多碎片连在一起，虽然总体能满足malloc要求，但是由于分割成了多个小block而无法fit，这就是碎片问题。 　　一个简单的解决方式是当free某个block时，如果发现它相邻的block也是free的，则将block和相邻block合并。为了满足这个实现，需要将s_block改为双向链表。 　　修改后的block结构如下： 　　合并方法如下： 　　有了上述方法，free的实现思路就比较清晰了：首先检查参数地址的合法性，如果不合法则不做任何事；否则，将此block的free标为1，并且在可以的情况下与后面的block进行合并。 　　如果当前是最后一个block，则回退break指针释放进程内存，如果当前block是最后一个block，则回退break指针并设置first_block为NULL。实现如下： 　　3.2.8 realloc的实现 　　为了实现realloc，我们首先要实现一个内存复制方法。如同calloc一样，为了效率，我们以8字节为单位进行复制： 　　然后我们开始实现realloc。一个简单（但是低效）的方法是malloc一段内存，然后将数据复制过去。但是我们可以做得更高效，具体可以考虑以下几个方面：如果当前block的数据区大于等于realloc所要求的size，则不做任何操作如果新的size变小了，考虑split如果当前block的数据区不能满足size，但是其后继block是free的，并且合并后可以满足，则考虑做合并 　　下面是realloc的实现： 　　3.3 遗留问题和优化 　　以上是一个较为简陋，但是初步可用的malloc实现。还有很多遗留的可能优化点，例如：同时兼容32位和64位系统在分配较大块内存时，考虑使用mmap而非sbrk，这通常更高效可以考虑维护多个链表而非单个，每个链表中的block大小均为一个范围内，例如8字节链表、16字节链表、24-32字节链表等等。此时可以根据size到对应链表中做分配，可以有效减少碎片，并提高查询block的速度可以考虑链表中只存放free的block，而不存放已分配的block，可以减少查找block的次数，提高效率 　　原文作者：一起学嵌入式 　　原文地址：内存分配函数 malloc 原理及实现