CANN/runtime:Notify管理

发布时间:2026/10/24 8:25:25

CANN/runtime:Notify管理 8. Notify管理【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime本章节描述 CANN Runtime 的 Notify 管理接口用于 Notify 的创建、记录、等待/重置及跨进程共享。aclError aclrtCreateNotify(aclrtNotify *notify, uint64_t flag)创建Notify。aclError aclrtDestroyNotify(aclrtNotify notify)销毁Notify。aclError aclrtRecordNotify(aclrtNotify notify, aclrtStream stream)在指定Stream上记录一个Notify。异步接口。aclError aclrtWaitAndResetNotify(aclrtNotify notify, aclrtStream stream, uint32_t timeout)阻塞指定Stream的运行直到指定的Notify完成再复位Notify。异步接口。aclError aclrtGetNotifyId(aclrtNotify notify, uint32_t *notifyId)获取指定Notify的ID。aclError aclrtNotifyBatchReset(aclrtNotify *notifies, size_t num)批量复位Notify。aclError aclrtNotifyGetExportKey(aclrtNotify notify, char *key, size_t len, uint64_t flags)将本进程中的指定Notify设置为IPCInter-Process Communication Notify并返回key即Notify共享名称用于在多Device上不同进程间实现任务同步。aclError aclrtNotifySetImportPid(aclrtNotify notify, int32_t *pid, size_t num)设置共享Notify的进程白名单。aclError aclrtNotifySetImportPidInterServer(aclrtNotify notify, aclrtServerPid *serverPids, size_t num)设置共享Notify的进程白名单。aclError aclrtNotifyImportByKey(aclrtNotify *notify, const char *key, uint64_t flags)在本进程中获取key的信息并返回本进程可以使用的Notify指针。aclrtCreateNotifyaclError aclrtCreateNotify(aclrtNotify *notify, uint64_t flag)产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明创建Notify。参数说明参数名输入/输出说明notify输出Notify的指针。类型定义请参见aclrtNotify。flag输入Notify指针的flag。当前支持将flag设置为如下宏- ACL_NOTIFY_DEFAULT使能该bit表示创建的Notify默认在Host上调用。- ACL_NOTIFY_DEVICE_USE_ONLY使能该bit表示创建的Notify仅在Device上调用。宏的定义如下#define ACL_NOTIFY_DEFAULT 0x00000000U#define ACL_NOTIFY_DEVICE_USE_ONLY 0x00000001U返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明不同型号的硬件支持的Notify数量不同。对于Ascend 950PR/Ascend 950DT单个Device支持的Notify最大数为65535。对于Atlas A3 训练系列产品/Atlas A3 推理系列产品、Atlas A2 训练系列产品/Atlas A2 推理系列产品单个Device支持的Notify最大数为8192。对于Atlas 200I/500 A2 推理产品单个Device支持的Notify最大数为2048。对于Atlas 推理系列产品、Atlas 训练系列产品单个Device支持的Notify最大数为1024。aclrtDestroyNotifyaclError aclrtDestroyNotify(aclrtNotify notify)产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明销毁Notify。参数说明参数名输入/输出说明notify输入待销毁的Notify。类型定义请参见aclrtNotify。返回值说明返回0表示成功返回其他值表示失败请参见aclError。aclrtRecordNotifyaclError aclrtRecordNotify(aclrtNotify notify, aclrtStream stream)产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明在指定Stream上记录一个Notify。异步接口。aclrtRecordNotify接口与aclrtWaitAndResetNotify接口配合使用时主要用于多Stream之间同步等待的场景。参数说明参数名输入/输出说明notify输入待记录的Notify。类型定义请参见aclrtNotify。stream输入指定Stream。类型定义请参见aclrtStream。多Stream同步等待场景下例如Stream2等Stream1的场景此处配置为Stream1。返回值说明返回0表示成功返回其他值表示失败请参见aclError。aclrtWaitAndResetNotifyaclError aclrtWaitAndResetNotify(aclrtNotify notify, aclrtStream stream, uint32_t timeout)产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明阻塞指定Stream的运行直到指定的Notify完成再复位Notify。异步接口。参数说明参数名输入/输出说明notify输入需等待的Notify。类型定义请参见aclrtNotify。stream输入指定Stream。类型定义请参见aclrtStream。多Stream同步等待场景下例如Stream2等Stream1的场景此处配置为Stream2。timeout输入等待的超时时间。取值说明如下- 0表示永久等待- 0配置具体的超时时间单位是秒。返回值说明返回0表示成功返回其他值表示失败请参见aclError。aclrtGetNotifyIdaclError aclrtGetNotifyId(aclrtNotify notify, uint32_t *notifyId)产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明获取指定Notify的ID。参数说明参数名输入/输出说明notify输入指定要查询的Notify。类型定义请参见aclrtNotify。notifyId输出Notify ID。返回值说明返回0表示成功返回其他值表示失败请参见aclError。aclrtNotifyBatchResetaclError aclrtNotifyBatchReset(aclrtNotify *notifies, size_t num)产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品不支持Atlas 训练系列产品不支持IPV350不支持功能说明批量复位Notify。参数说明参数名输入/输出说明notifies输入Notify数组。类型定义请参见aclrtNotify。num输入Notify数组的长度。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明昇腾虚拟化实例场景不支持该操作。aclrtNotifyGetExportKeyaclError aclrtNotifyGetExportKey(aclrtNotify notify, char *key, size_t len, uint64_t flags)产品支持情况Ascend 950PR支持Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明将本进程中的指定Notify设置为IPCInter-Process Communication Notify并返回key即Notify共享名称用于在多Device上不同进程间实现任务同步。本接口需与以下其它关键接口配合使用以便实现多Device上不同进程间的任务同步此处以Device 0上的A进程、Device 1上的B进程为例说明两个进程间的任务同步接口调用流程:在A进程中调用aclrtCreateNotify接口创建Notify。调用aclrtNotifyGetExportKey接口导出key即Notify共享名称。调用aclrtNotifyGetExportKey接口时可指定是否启用进程白名单校验若启用则需单独调用aclrtNotifySetImportPid接口将B进程的进程ID设置为白名单反之则无需调用aclrtNotifySetImportPid接口。调用aclrtWaitAndResetNotify接口下发等待任务。调用aclrtDestroyNotify接口销毁Notify。涉及IPC Notify的进程都需要释放Notify所有涉及IPC Notify的进程都完成释放操作Notify才真正释放。在B进程中调用aclrtDeviceGetBareTgid接口获取B进程的进程ID。本接口内部在获取进程ID时已适配物理机、虚拟机场景用户只需调用本接口获取进程ID再配合其它接口使用达到内存共享的目的。若用户不调用本接口、自行获取进程ID可能会导致后续使用进程ID异常。调用aclrtNotifyImportByKey获取key的信息并返回本进程可以使用的Notify指针。建议flag使用ACL_RT_NOTIFY_IMPORT_FLAG_ENABLE_PEER_ACCESS开启两个Device之间的数据交互。调用aclrtNotifyImportByKey接口前需确保IPC Notify未提前释放。调用aclrtRecordNotify接口下发Record任务。调用aclrtDestroyNotify接口销毁Notify。参数说明参数名输入/输出说明notify输入指定Notify。类型定义请参见aclrtNotify。key输出Notify共享名称。len输入Notify共享名称的长度最小长度为65。flags输入是否启用进程白名单校验。取值为如下宏- ACL_RT_NOTIFY_EXPORT_FLAG_DEFAULT默认值启用进程白名单校验。配置为该值时需单独调用aclrtNotifySetImportPid接口将使用Notify共享名称的进程ID设置为白名单。- ACL_RT_NOTIFY_EXPORT_FLAG_DISABLE_PID_VALIDATION关闭进程白名单校验。配置为该值时则无需调用aclrtNotifySetImportPid接口。宏的定义如下#define ACL_RT_NOTIFY_EXPORT_FLAG_DEFAULT 0x0UL#define ACL_RT_NOTIFY_EXPORT_FLAG_DISABLE_PID_VALIDATION 0x02UL返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明昇腾虚拟化实例场景不支持该操作。aclrtNotifySetImportPidaclError aclrtNotifySetImportPid(aclrtNotify notify, int32_t *pid, size_t num)产品支持情况Ascend 950PR支持Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明设置共享Notify的进程白名单。本接口需与其它接口配合使用以便实现多Device上不同进程间的任务同步请参见aclrtNotifyGetExportKey接口处的说明。参数说明参数名输入/输出说明notify输入指定Notify。类型定义请参见aclrtNotify。与aclrtNotifyGetExportKey接口中的Notify保持一致。pid输入用于存放白名单进程ID的数组。进程ID可调用aclrtDeviceGetBareTgid接口获取Docker场景下获取到的是物理机上的进程ID非Docker场景下获取到的是进程ID。num输入白名单进程数量与pid参数数组的大小保持一致。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明昇腾虚拟化实例场景不支持该操作。aclrtNotifySetImportPidInterServeraclError aclrtNotifySetImportPidInterServer(aclrtNotify notify, aclrtServerPid *serverPids, size_t num)产品支持情况Ascend 950PR/Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品不支持Atlas 训练系列产品不支持IPV350不支持功能说明设置共享Notify的进程白名单。该接口仅针对Atlas A3 训练系列产品/Atlas A3 推理系列产品中的超节点产品。参数说明参数名输入/输出说明notify输入指定Notify。类型定义请参见aclrtNotify。必须先调用aclrtNotifyGetExportKey接口获取指定Notify的共享名称再作为入参传入。serverPids输入白名单信息数组。类型定义请参见aclrtServerPid。num输入serverPids数组的大小。返回值说明返回0表示成功返回其他值表示失败请参见aclError。aclrtNotifyImportByKeyaclError aclrtNotifyImportByKey(aclrtNotify *notify, const char *key, uint64_t flags)产品支持情况Ascend 950PR支持Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明在本进程中获取key的信息并返回本进程可以使用的Notify指针。本接口需与其它接口配合使用以便实现多Device上不同进程间的任务同步请参见aclrtNotifyGetExportKey接口处的说明。参数说明参数名输入/输出说明notify输出Notify指针。类型定义请参见aclrtNotify。key输入Notify共享名称。必须先调用aclrtNotifyGetExportKey接口获取指定Notify的共享名称再作为入参传入。flags输入是否开启两个Device之间的数据交互。取值为如下宏- ACL_RT_NOTIFY_IMPORT_FLAG_DEFAULT默认值关闭两个Device之间的数据交互。配置为该值时需单独调用aclrtDeviceEnablePeerAccess接口开启两个Device之间的数据交互。- ACL_RT_NOTIFY_IMPORT_FLAG_ENABLE_PEER_ACCESS开启两个Device之间的数据交互。配置为该值时则无需调用aclrtDeviceEnablePeerAccess接口。宏的定义如下#define ACL_RT_NOTIFY_IMPORT_FLAG_DEFAULT 0x0UL#define ACL_RT_NOTIFY_IMPORT_FLAG_ENABLE_PEER_ACCESS 0x02UL返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明昇腾虚拟化实例场景不支持该操作。【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
延伸阅读

更多相关文章

2026/10/21 1:12:55

GLM-5.2-MXFP4推理优化技巧:4个提升性能的关键配置

GLM-5.2-MXFP4推理优化技巧:4个提升性能的关键配置 【免费下载链接】GLM-5.2-MXFP4 项目地址: https://ai.gitcode.com/hf_mirrors/amd/GLM-5.2-MXFP4 GLM-5.2-MXFP4是一款高效的大语言模型,通过合理配置推理参数可以显著提升其运行性能。本文将…

2026/10/24 3:34:36

KASandbox社区生态指南:如何参与贡献与获取技术支持

KASandbox社区生态指南:如何参与贡献与获取技术支持 【免费下载链接】KASandbox This repository contains the core orchestration services, CRI multiplexing shim, and infrastructure components that power the KASandbox platform. 项目地址: https://gitc…

2026/10/24 9:18:51

PDAL点云处理管道:声明式流水线设计与工程落地指南

简介:本资源为PDAL点云数据抽象库官方完整文档(Release 2.2.0),面向三维地理信息、遥感测绘、自动驾驶及点云算法研发领域的工程师与科研人员,解决点云多格式读写、管道化处理、坐标转换与特征分析等核心工程问题。压缩…

2026/10/24 9:18:51

技能修炼指南:从刻意练习到作品输出,打造个人核心竞争力

说实话,我在行业里泡了十几年,见过太多人把 skills 这个词挂在嘴边,但真正能把技能练到位的人,少得可怜。这个词像一个什么都装得下的大箩筐:会写代码是技能,会做 PPT 是技能,会沟通、会复盘、会…

2026/10/24 9:18:51

Java调用GeoServer发布Tiff瓦片服务:从预处理到缓存实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/24 9:18:51

层次分析法入门:从判断矩阵到权重计算全流程

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/24 9:18:51

Proctor框架:生产HPC系统半监督性能异常诊断与根因定位实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/24 9:13:51

Linux底层开发:工具链、线程与内存管理深度解析

1. 为什么需要深入Linux底层?在当今的技术生态中,Linux已经渗透到从嵌入式设备到云计算的各个领域。作为一名长期与Linux打交道的开发者,我经常遇到这样的困惑:为什么同样的程序在不同Linux发行版上表现迥异?为什么线程…

2026/10/23 22:56:35

金融AI落地指南:从调研报告到技术选型与工程实践

简介:这份PDF报告聚焦2025年金融服务业中国AI现状与趋势,面向金融科技从业者、AI战略规划人员及关注行业数字化转型的研究者,帮助读者把握生成式AI在银行、支付、交易等场景中的落地路径与投资方向。资源包内含1个PDF文件,大小约1…

2026/10/24 0:02:40

MATLAB缩进快捷键与批量格式化实战指南

1. 被自动缩进折磨的那些年如果你写过MATLAB代码,大概率经历过这种场景:从某个文档、网页或者聊天记录里复制了一段代码,粘贴进编辑器之后,每一行前面都带着莫名其妙的空格,有的行首是四个空格,有的是一个T…

2026/10/24 0:02:40

用Poco实现Qt风格信号与槽的跨平台C++方案

简介:本资源是一份面向C中级开发者的技术实践工程,聚焦于在非Qt框架环境下模拟实现Qt核心通信机制——信号与槽,借助Poco网络库的事件系统完成解耦式对象通信。适用于需在跨平台C项目中引入松耦合回调机制、但受限于无法集成Qt依赖的开发场景…

2026/10/24 0:02:40

ESXi裸机虚拟化安装指南:从硬件兼容到虚拟机部署

1. 为什么还要折腾ESXi:从一台闲置机器说起手里攒了几台淘汰下来的迷你主机,配置不算差,i5加16G内存,扔了可惜,装个桌面系统又觉得浪费。这种场景下,ESXi就成了一个绕不开的选择。它是一套裸机虚拟化平台&a…

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
☎咨询二维码 ☎ ↑