CANN/GE ACL模型内存查询接口

发布时间:2026/11/2 9:23:55

CANN/GE ACL模型内存查询接口 aclmdlQuerySize【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350支持功能说明根据模型文件获取模型执行时所需的权值内存大小、工作内存大小。当由用户管理内存时为确保内存不浪费在申请工作内存、权值内存前需要调用本接口查询模型运行时所需工作内存、权值内存的大小。如果模型输入数据的Shape不确定则不能调用本命接口查询内存大小在加载模型时就无法由用户管理内存因此需选择由系统管理内存的模型加载接口例如aclmdlLoadFromFile、aclmdlLoadFromMem。函数原型aclError aclmdlQuerySize(const char *fileName, size_t *workSize, size_t *weightSize)参数说明参数名输入/输出说明fileName输入模型文件路径的指针路径中包含文件名。运行程序APP的用户需要对该路径有访问权限。此处的模型文件是om模型文件。关于如何获取om文件请参见《ATC离线模型编译工具》中的“参数说明 基础功能参数 总体选项 --mode”。workSize输出模型执行时所需的工作内存大小的指针单位Byte。此处的内存为Device内存而且需要用户申请和释放。weightSize输出模型执行时所需权值内存大小的指针单位Byte。此处的内存为Device内存而且需要用户申请和释放。返回值说明返回0表示成功返回其他值表示失败请参见aclError。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
延伸阅读

更多相关文章

2026/10/30 9:44:58

薄harness与厚harness:模型部署中的能力契约与共进化

1. “薄”与“厚”不是尺寸问题,而是模型能力边界的认知分水岭最近在多个技术社区和内部项目复盘会上,反复听到一句话:“这个harness太薄了,压不住模型”;又或者:“我们搭了个厚harness,结果推理…

2026/11/3 3:44:55

离线环境安装Percona XtraBackup实战指南

1. 离线环境下的Percona XtraBackup安装挑战在数据库运维领域,Percona XtraBackup堪称MySQL物理备份的黄金标准。但当我们面对生产环境中严格隔离的内网服务器时,常规的yum/apt安装方式往往行不通。上周我就遇到了这样一个典型场景:某金融机构…

2026/11/3 3:44:55

链表操作实战:LeetCode核心题目解析与技巧

1. 链表基础与LeetCode刷题指南链表作为数据结构中的经典类型,在算法面试和日常编程中占据重要地位。最近在准备LeetCode周赛430时,我重新梳理了链表相关的核心题目,发现203、707、206这三道题完美覆盖了链表操作的基础知识点。今天我就以这三…

2026/11/3 3:44:55

单设备多会话与多账号互斥的分布式锁解决方案

1. 单设备多会话与多账号互斥的核心挑战在现代化应用架构中,单设备多会话与多账号互斥的需求越来越普遍。想象一下这样的场景:一台医院自助服务终端需要同时处理多个患者的挂号、缴费等操作,但又要防止同一个医保账号被重复登录使用。这种既要…

2026/11/3 3:44:55

AI中保持可编辑性的矢量描边文字实现方法

1. 这个“自带边框的文字”到底在解决什么真实痛点?很多人第一次在设计群看到别人发的“描边文字”效果时,下意识反应是:这不就是PS里加个描边图层样式吗?或者直接用AI的“对象→路径→轮廓化描边”?但很快就会发现——…

2026/11/3 3:44:55

480G内存+消费级显卡跑671B大模型:MoE架构与KTransformers部署实战

简介:这份PDF面向具备Python开发经验的研究员与工程师,聚焦DeepSeek-R1满血版模型在资源受限硬件上的低成本高性能部署问题。内容围绕KTransformers技术展开,讲解其将专家模型加载至CPU、把MLA/KVCache卸载到GPU以压缩显存的思路,…

2026/11/3 3:39:55

人形机器人技术突破与商业化应用全景分析

1. 人形机器人行业现状与市场格局人形机器人作为机器人技术皇冠上的明珠,近年来正迎来爆发式增长。根据国际机器人联合会(IFR)最新数据,2023年全球人形机器人市场规模已突破50亿美元,年复合增长率保持在35%以上。这个曾…

2026/11/2 6:08:01

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

在智慧养宠时代,基于视觉的宠物身份识别技术正逐步从实验室走向家庭应用。然而,与配合度高的人类不同,宠物是典型的“非合作生物识别对象”——它们不会主动配合摄像头调整姿态,更无法控制光照环境。实际应用中,我们常…

2026/11/2 6:39:12

SSM电子书店源码全解析:结构、原理、部署与排错实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/3 1:04:48

STM32实战:基于MAX14431数字隔离器的SPI隔离通信方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/3 1:04:48

工业SPI隔离通信设计:MAX14431BAEE+与STM32L4A6RG实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/3 1:04:48

STM32+NRF24L01无线抢答器:硬件设计、通信协议与低功耗实现

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/2 6:08:01

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

在智慧养宠时代,基于视觉的宠物身份识别技术正逐步从实验室走向家庭应用。然而,与配合度高的人类不同,宠物是典型的“非合作生物识别对象”——它们不会主动配合摄像头调整姿态,更无法控制光照环境。实际应用中,我们常…

2026/11/2 6:39:12

SSM电子书店源码全解析:结构、原理、部署与排错实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
☎咨询二维码 ☎ ↑