这篇文章是我个人在学习linux过程中对linux内存管理的理解有不对的地方希望大佬能给指出。SoC上电后Bootloader引导Linux内核启动。内核完成初始化后会常驻内存并创建首个用户态进程init。随后系统服务和应用进程相继运行。内核空间用于管理结构与缓存和用户空间进程通过缺页中断动态申请物理页共同构成了系统的内存占用。下文将对这两种机制下的内存分配与回收过程进行详细分析。用户空间进程的内存占用首先程序代码会被编译成一个ELF的可执行文件然后将其存储在FLASH中当需要运行这个程序的时候会发生如下动作。Linux内核会调用 execve() 系统调用创建PCB进程控制块task struct建立虚拟地址空间骨架VMA(把ELF中代码段和数据段文件偏移量和大小记录在VMAvm_area_struct中)。如果内核检查到ELF头中需要动态链接会根据动态链接器的路径把文件打开同样把动态链接器文件的代码段和数据段偏移量和大小加载进VMA中然后将CPU控制权交给动态链接器动态链接器开始将动态库的代码段数据段映射到PCB的虚拟地址空间最后进行重定向把程序中用到的库函数地址替换为刚刚映射好的虚拟地址。/***********************************************************这里提个问题ELF文件在flash中虚拟地址空间建立好发生缺页中断后它是怎么知道要在flash的哪个路径下去读文件内容的***********************************************************/到这里为止main函数还没有开始执行但是进程启动已经开始占用内存了task struct和VMA属于内核占用的。下面main函数开始执行这个时候用户层便开始要占用内存了。首先程序运行时MMU需要将虚拟内存转换为物理地址当页表项PTE中物理地址不存在会触发缺页中段加载器会从flash中加载一页4k代码段或者数据段到内存中同时填写页表项。这里程序的代码段和数据段占用的内存属于Page cache同样它属于内核管理的内存。ELF也是文件所以代码段和数据段也属于文件内容在Page cache中。.在程序中会发生如下动作都会影响内存的使用。栈空间每个线程都有独立的栈空间在程序运行时会动态分配匿名页缺页时会分配一个全0页通过mmap申请。内核态同样需要为每个线程准备KernelStack但它占用的是slab的内存。mmap映射的文件或者物理内存。mmap是一个系统调用。void*mmap(void*addr,size_tlength,intprot,intflags,intfd,off_toffset);这里重点说一下flags这个参数,当存在MAP_ANON时fd必须是-1munmap 需要互斥flagsfd内存说明MAP_PRIVATEMAP_ANON-1私有匿名页malloc在128K时就使用这个MAP_PRIVATE3私有文件映射写时拷贝当写时会从文件page cache中拷贝一份动态库映射就是使用的这个MAP_SHARED MAP_ANON-1共享匿名内存fork之后父子进程之间可以使用MAP_SHARED3共享文件映射所有进程中共享时进程共用同一份文件的page cache堆空间通过malloc申请malloc是glibc库函数会根据申请的内存大小而调用不同的系统调用。当申请的大小 128k会使用brk来移动堆顶指针首次申请的内存不论多大都会批量申请128k虚拟地址空间然后建立VMA当后续再malloc时会从这里划分出去当申请的大小 128k会调用mmap(MAP_PRIVATE|MAP_ANON)申请匿名页建立VMA。当程序运行使用到堆区的虚拟内存时会触发缺页中断按需分配物理内存。下面有一些注意事项需要注意。当free掉堆区内存时如果是通过mmap申请的内存free时会调用munmap释放物理内存否则会由glibc维护起来供后续malloc使用。只有当堆顶的空闲内存128k时glibc才会调用brk收缩堆此时内核才会回收物理内存否则堆顶不会下降占用的物理内存不可被回收。如果堆中间有空闲页但堆顶未下降这些空闲页框可能被内核在内存紧张时回收但前提是该页完全空闲且系统允许回收匿名页需 swap。频繁的使用mallocfree如果造成了虚拟内存碎片化会导致堆区空间变大间接造成物理内存占用变大因为会有内存空洞1页物理内存没用完多线程环境中。每个线程可能拥有自己独立的堆分配区。标准IO活动openread, write标准IO活动也会造成内存被占用。当程序中使用open打开文件时会分配一个文件描述符fd在task struct 中有元素files指针指向files_struct也属于task struct中的元素通过fd找到文件对应的struct file指针找到文件的inode。已打开文件信息open文件时内核会从files_struct中分配一个空闲的fd创建一个struct file结构体对象file将其指针存入文件表中。通过 fd_arry[fd]找到file文件表 fd_arry每个进程都维护着属于自己的文件表里面记录了进程所有打开文件的信息包括读写位置偏移量引用计数inode等。inode和file结构体关联open文件后内核会根据路径找到文件的inode将inode和file结构体关联起来。read过程read时会通过fd找到inode进而找到address_space去对应的物理页中查找page cache没找到触发缺页中断将磁盘中的一小块数据读到page cache中。write过程同样会加载到page cache中然后标记为脏页。注意write系统调用不是原子操作所以page cache会占用物理内存。open同一个文件时会有不同的fd以及file对象但会用同一份page cache缓冲区。在往同一份文件写内容时需要注意原子操作。文件IO活动staio用户缓存区当使用stdio库函数时stdio库会在用户空间维护自己的缓存区。每个文件IO都有自己的用户缓存区全缓存行缓存无缓存。使用这个可以减少上下文切换处于用户态。fread过程内核会将文件内容先读取到page cache中然后再拷贝到用户缓冲区如果fread时会先从用户缓冲区中找有的话就不会区内核缓存区中读。fwrite过程stdio库会先把文件内容写到用户缓冲区IO缓冲区满了或者调用fflush用户缓冲区内容再写入到Page cache中。fopen同一个文件会有不同的用户缓冲区但是它们共用同一份Page cache。所以fwrite时需要注意原子操作fread时要保证fwrite已完成并已从用户缓冲区加载到内核缓冲区。因此需要保证1fread需要fflush(NULL)禁用缓存2fwrite需要保证立即 fflushstdio缓存区也会占用内存socketsocket创建之后也就是accept之后会返回一个文件描述符fd通过read write收发数据实际是向内核维护的发送和接收缓冲区读写数据。缓冲区大小由内核自动调整。共享内存shmget只创建一个数据结构记录我要一块这么大的共享内存shmat时内核才会在进程的虚拟地址空间创建VMA首次读写这快内存触发缺页中断内核从伙伴系统分配物理页并清0。共享内存的物理页是全局共享的被视为File Pagefork/vfork
这篇文章是我个人在学习linux过程中对linux内存管理的理解有不对的地方希望大佬能给指出。SoC上电后Bootloader引导Linux内核启动。内核完成初始化后会常驻内存并创建首个用户态进程init。随后系统服务和应用进程相继运行。内核空间用于管理结构与缓存和用户空间进程通过缺页中断动态申请物理页共同构成了系统的内存占用。下文将对这两种机制下的内存分配与回收过程进行详细分析。用户空间进程的内存占用首先程序代码会被编译成一个ELF的可执行文件然后将其存储在FLASH中当需要运行这个程序的时候会发生如下动作。Linux内核会调用 execve() 系统调用创建PCB进程控制块task struct建立虚拟地址空间骨架VMA(把ELF中代码段和数据段文件偏移量和大小记录在VMAvm_area_struct中)。如果内核检查到ELF头中需要动态链接会根据动态链接器的路径把文件打开同样把动态链接器文件的代码段和数据段偏移量和大小加载进VMA中然后将CPU控制权交给动态链接器动态链接器开始将动态库的代码段数据段映射到PCB的虚拟地址空间最后进行重定向把程序中用到的库函数地址替换为刚刚映射好的虚拟地址。/***********************************************************这里提个问题ELF文件在flash中虚拟地址空间建立好发生缺页中断后它是怎么知道要在flash的哪个路径下去读文件内容的***********************************************************/到这里为止main函数还没有开始执行但是进程启动已经开始占用内存了task struct和VMA属于内核占用的。下面main函数开始执行这个时候用户层便开始要占用内存了。首先程序运行时MMU需要将虚拟内存转换为物理地址当页表项PTE中物理地址不存在会触发缺页中段加载器会从flash中加载一页4k代码段或者数据段到内存中同时填写页表项。这里程序的代码段和数据段占用的内存属于Page cache同样它属于内核管理的内存。ELF也是文件所以代码段和数据段也属于文件内容在Page cache中。.在程序中会发生如下动作都会影响内存的使用。栈空间每个线程都有独立的栈空间在程序运行时会动态分配匿名页缺页时会分配一个全0页通过mmap申请。内核态同样需要为每个线程准备KernelStack但它占用的是slab的内存。mmap映射的文件或者物理内存。mmap是一个系统调用。void*mmap(void*addr,size_tlength,intprot,intflags,intfd,off_toffset);这里重点说一下flags这个参数,当存在MAP_ANON时fd必须是-1munmap 需要互斥flagsfd内存说明MAP_PRIVATEMAP_ANON-1私有匿名页malloc在128K时就使用这个MAP_PRIVATE3私有文件映射写时拷贝当写时会从文件page cache中拷贝一份动态库映射就是使用的这个MAP_SHARED MAP_ANON-1共享匿名内存fork之后父子进程之间可以使用MAP_SHARED3共享文件映射所有进程中共享时进程共用同一份文件的page cache堆空间通过malloc申请malloc是glibc库函数会根据申请的内存大小而调用不同的系统调用。当申请的大小 128k会使用brk来移动堆顶指针首次申请的内存不论多大都会批量申请128k虚拟地址空间然后建立VMA当后续再malloc时会从这里划分出去当申请的大小 128k会调用mmap(MAP_PRIVATE|MAP_ANON)申请匿名页建立VMA。当程序运行使用到堆区的虚拟内存时会触发缺页中断按需分配物理内存。下面有一些注意事项需要注意。当free掉堆区内存时如果是通过mmap申请的内存free时会调用munmap释放物理内存否则会由glibc维护起来供后续malloc使用。只有当堆顶的空闲内存128k时glibc才会调用brk收缩堆此时内核才会回收物理内存否则堆顶不会下降占用的物理内存不可被回收。如果堆中间有空闲页但堆顶未下降这些空闲页框可能被内核在内存紧张时回收但前提是该页完全空闲且系统允许回收匿名页需 swap。频繁的使用mallocfree如果造成了虚拟内存碎片化会导致堆区空间变大间接造成物理内存占用变大因为会有内存空洞1页物理内存没用完多线程环境中。每个线程可能拥有自己独立的堆分配区。标准IO活动openread, write标准IO活动也会造成内存被占用。当程序中使用open打开文件时会分配一个文件描述符fd在task struct 中有元素files指针指向files_struct也属于task struct中的元素通过fd找到文件对应的struct file指针找到文件的inode。已打开文件信息open文件时内核会从files_struct中分配一个空闲的fd创建一个struct file结构体对象file将其指针存入文件表中。通过 fd_arry[fd]找到file文件表 fd_arry每个进程都维护着属于自己的文件表里面记录了进程所有打开文件的信息包括读写位置偏移量引用计数inode等。inode和file结构体关联open文件后内核会根据路径找到文件的inode将inode和file结构体关联起来。read过程read时会通过fd找到inode进而找到address_space去对应的物理页中查找page cache没找到触发缺页中断将磁盘中的一小块数据读到page cache中。write过程同样会加载到page cache中然后标记为脏页。注意write系统调用不是原子操作所以page cache会占用物理内存。open同一个文件时会有不同的fd以及file对象但会用同一份page cache缓冲区。在往同一份文件写内容时需要注意原子操作。文件IO活动staio用户缓存区当使用stdio库函数时stdio库会在用户空间维护自己的缓存区。每个文件IO都有自己的用户缓存区全缓存行缓存无缓存。使用这个可以减少上下文切换处于用户态。fread过程内核会将文件内容先读取到page cache中然后再拷贝到用户缓冲区如果fread时会先从用户缓冲区中找有的话就不会区内核缓存区中读。fwrite过程stdio库会先把文件内容写到用户缓冲区IO缓冲区满了或者调用fflush用户缓冲区内容再写入到Page cache中。fopen同一个文件会有不同的用户缓冲区但是它们共用同一份Page cache。所以fwrite时需要注意原子操作fread时要保证fwrite已完成并已从用户缓冲区加载到内核缓冲区。因此需要保证1fread需要fflush(NULL)禁用缓存2fwrite需要保证立即 fflushstdio缓存区也会占用内存socketsocket创建之后也就是accept之后会返回一个文件描述符fd通过read write收发数据实际是向内核维护的发送和接收缓冲区读写数据。缓冲区大小由内核自动调整。共享内存shmget只创建一个数据结构记录我要一块这么大的共享内存shmat时内核才会在进程的虚拟地址空间创建VMA首次读写这快内存触发缺页中断内核从伙伴系统分配物理页并清0。共享内存的物理页是全局共享的被视为File Pagefork/vfork
