一、为什么需要内存池在 KV 存储服务里每次处理命令都要动态分配响应缓冲区。如果频繁malloc/free会有两个问题性能开销malloc涉及系统调用和堆管理频繁调用很慢。内存碎片大量小块分配释放堆会变得零碎。内存池的思路是一次性向系统申请一大块内存切成固定大小的小块自己管理分配和释放。分配时从空闲链表取一块释放时放回链表全程不碰系统调用。这篇文章讲清楚它的实现原理。二、数据结构长什么样ctypedef struct mempool_s { size_t block_size; // 每个内存块的总大小 size_t total_blocks; // 内存池总块数 size_t free_blocks; // 当前空闲块数量 void* free_list; // 空闲链表头指针 char data[]; // 柔性数组真正存数据的地方 } mempool_t;关键在最后那个char data[]——柔性数组。它不占结构体大小但允许我们一次性malloc出结构体 所有内存块的连续空间。三、第一步计算大小并申请内存假设我们要创建 5 个块每个块用户能用 100 字节。每个块需要额外 8 字节sizeof(void *)用来在空闲时存下一个空闲块的地址内存布局是这样的┌─────────────┬────────┬────────┬────────┬────────┬────────┐ │ mempool_t │ 块0 │ 块1 │ 块2 │ 块3 │ 块4 │ │ (管理信息) │ 108B │ 108B │ 108B │ 108B │ 108B │ └─────────────┴────────┴────────┴────────┴────────┴────────┘ ↑ pool-data 指向块0的起点四、第二步初始化空闲链表所有块一开始都是空闲的要用头插法串成一条链表size_t i 0; for (i 0; i num_blocks; i) { // 找到 block[i] 的起始地址 void* block pool-data i * actual_block_size; // 把当前 free_list 的值写入块的前 8 字节 *((void**)block) pool-free_list; // free_list 指向当前块头插 pool-free_list block; }最终链表free_list → 块2 → 块1 → 块0 → NULL每个空闲块的前 8 字节存的是下一个空闲块的地址。空闲块的前 8 字节复用为链表指针这是内存池最巧妙的设计——不额外占用内存就能维护空闲链表。五、第三步分配void* kvs_mempool_alloc(mempool_t *pool, size_t size) { // 1. 检查 pool 是否有效 if (!pool) return NULL; // 2. 小对象从池里分大对象降级到 malloc if (size pool-block_size - sizeof(void *)) { return malloc(size); } // 3. 空闲链表为空说明池用完了 if (!pool-free_list) return NULL; // 4. 取出链表第一个块 void* block pool-free_list; // 5. 读取块的前 8 字节得到下一个空闲块 pool-free_list *((void**)block); // 6. 更新计数 pool-free_blocks--; // 7. 返回用户可用地址跳过前 8 字节 return (char*)block sizeof(void*); }注意第 7 步返回给用户的地址要跳过前 8 字节因为那 8 字节在空闲时被用作链表指针不能给用户用。六、第四步释放释放时要做两件事判断指针是否属于池内然后决定放回链表还是直接free。void kvs_mempool_free(mempool_t *pool, void *ptr) { if (!pool || !ptr) return; // 1. 计算块的起始地址用户指针往前 8 字节 void* block (char*)ptr - sizeof(void*); // 2. 判断是否在池内 if (block (void*)pool-data block (void*)(pool-data pool-block_size * pool-total_blocks)) { // 在池内 → 头插放回空闲链表 *((void**)block) pool-free_list; pool-free_list block; pool-free_blocks; } else { // 不在池内 → 说明是大对象直接 free free(ptr); } }这里的判断很关键只有池内分配的指针才放回链表大对象走的是malloc必须free。判断依据就是地址范围。七、为什么能支持任意大小很多内存池只能分配固定大小但这个实现通过降级策略支持任意大小小数据≤ 248 字节从内存池分配快。大数据 248 字节自动降级到malloc灵活。释放时再用地址范围判断走哪条路两者不会混淆。这个策略的价值在于KV 存储里绝大多数响应是短字符串走池子偶尔的超长 value比如 20KB 的大 value 测试走 malloc两边都不耽误。八、配合动态扩容彻底支持任意长度内存池解决的是频繁小分配的问题但有些缓冲区本身就是不确定长度的比如cmd_buf累积客户端发来的命令数据可能很长。resp_buf累积响应数据条数不定。九、总结层次策略小对象≤ 248B内存池分配O(1) 取出/放回大对象 248B降级到 malloc不定长缓冲区realloc 两倍扩容数据结构全部用指针不用固定数组协议解析动态分配无长度限制内存池的精髓空闲块的前 8 字节复用为链表指针头插法分配释放地址范围判断是否属于池内。简单、高效、无碎片。0voice · GitHub
一、为什么需要内存池在 KV 存储服务里每次处理命令都要动态分配响应缓冲区。如果频繁malloc/free会有两个问题性能开销malloc涉及系统调用和堆管理频繁调用很慢。内存碎片大量小块分配释放堆会变得零碎。内存池的思路是一次性向系统申请一大块内存切成固定大小的小块自己管理分配和释放。分配时从空闲链表取一块释放时放回链表全程不碰系统调用。这篇文章讲清楚它的实现原理。二、数据结构长什么样ctypedef struct mempool_s { size_t block_size; // 每个内存块的总大小 size_t total_blocks; // 内存池总块数 size_t free_blocks; // 当前空闲块数量 void* free_list; // 空闲链表头指针 char data[]; // 柔性数组真正存数据的地方 } mempool_t;关键在最后那个char data[]——柔性数组。它不占结构体大小但允许我们一次性malloc出结构体 所有内存块的连续空间。三、第一步计算大小并申请内存假设我们要创建 5 个块每个块用户能用 100 字节。每个块需要额外 8 字节sizeof(void *)用来在空闲时存下一个空闲块的地址内存布局是这样的┌─────────────┬────────┬────────┬────────┬────────┬────────┐ │ mempool_t │ 块0 │ 块1 │ 块2 │ 块3 │ 块4 │ │ (管理信息) │ 108B │ 108B │ 108B │ 108B │ 108B │ └─────────────┴────────┴────────┴────────┴────────┴────────┘ ↑ pool-data 指向块0的起点四、第二步初始化空闲链表所有块一开始都是空闲的要用头插法串成一条链表size_t i 0; for (i 0; i num_blocks; i) { // 找到 block[i] 的起始地址 void* block pool-data i * actual_block_size; // 把当前 free_list 的值写入块的前 8 字节 *((void**)block) pool-free_list; // free_list 指向当前块头插 pool-free_list block; }最终链表free_list → 块2 → 块1 → 块0 → NULL每个空闲块的前 8 字节存的是下一个空闲块的地址。空闲块的前 8 字节复用为链表指针这是内存池最巧妙的设计——不额外占用内存就能维护空闲链表。五、第三步分配void* kvs_mempool_alloc(mempool_t *pool, size_t size) { // 1. 检查 pool 是否有效 if (!pool) return NULL; // 2. 小对象从池里分大对象降级到 malloc if (size pool-block_size - sizeof(void *)) { return malloc(size); } // 3. 空闲链表为空说明池用完了 if (!pool-free_list) return NULL; // 4. 取出链表第一个块 void* block pool-free_list; // 5. 读取块的前 8 字节得到下一个空闲块 pool-free_list *((void**)block); // 6. 更新计数 pool-free_blocks--; // 7. 返回用户可用地址跳过前 8 字节 return (char*)block sizeof(void*); }注意第 7 步返回给用户的地址要跳过前 8 字节因为那 8 字节在空闲时被用作链表指针不能给用户用。六、第四步释放释放时要做两件事判断指针是否属于池内然后决定放回链表还是直接free。void kvs_mempool_free(mempool_t *pool, void *ptr) { if (!pool || !ptr) return; // 1. 计算块的起始地址用户指针往前 8 字节 void* block (char*)ptr - sizeof(void*); // 2. 判断是否在池内 if (block (void*)pool-data block (void*)(pool-data pool-block_size * pool-total_blocks)) { // 在池内 → 头插放回空闲链表 *((void**)block) pool-free_list; pool-free_list block; pool-free_blocks; } else { // 不在池内 → 说明是大对象直接 free free(ptr); } }这里的判断很关键只有池内分配的指针才放回链表大对象走的是malloc必须free。判断依据就是地址范围。七、为什么能支持任意大小很多内存池只能分配固定大小但这个实现通过降级策略支持任意大小小数据≤ 248 字节从内存池分配快。大数据 248 字节自动降级到malloc灵活。释放时再用地址范围判断走哪条路两者不会混淆。这个策略的价值在于KV 存储里绝大多数响应是短字符串走池子偶尔的超长 value比如 20KB 的大 value 测试走 malloc两边都不耽误。八、配合动态扩容彻底支持任意长度内存池解决的是频繁小分配的问题但有些缓冲区本身就是不确定长度的比如cmd_buf累积客户端发来的命令数据可能很长。resp_buf累积响应数据条数不定。九、总结层次策略小对象≤ 248B内存池分配O(1) 取出/放回大对象 248B降级到 malloc不定长缓冲区realloc 两倍扩容数据结构全部用指针不用固定数组协议解析动态分配无长度限制内存池的精髓空闲块的前 8 字节复用为链表指针头插法分配释放地址范围判断是否属于池内。简单、高效、无碎片。0voice · GitHub
平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测)
