CANN PyPTO SIMT 标量接口pl.simt.isinf无穷判定原理与实战用法【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto导读pypto_pro.language.simt.isinf是 PyPTO SIMT单指令多线程编程范式下用于判断标量是否为正无穷或负无穷的核心标量数学接口常与exp、log、rsqrt等会产生溢出/除零的算子搭配用于实现数值回退fallback逻辑。读完本文你将掌握该接口的完整签名、数据类型约束、返回值语义、SIMT 入口函数内的调用规范以及结合仓库源码与系统级测试的底层代码生成原理和可复用的实战示例。一、接口总览与产品支持情况pypto_pro.language.simt.isinf属于 PyPTO 的 SIMT-API 标量计算scalar_compute族接口与isnan、isfinite同属浮点分类floating-point classification函数用来区分浮点标量的特殊值状态。产品支持情况按当前仓库文档docs/zh/api/pro_api/SIMT-API/scalar_compute/isinf.md的声明产品形态支持情况Ascend 950PR / Ascend 950DT支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品不支持Atlas A2 训练系列产品 / Atlas A2 推理系列产品不支持仓库中的系统级测试也印证了这一点——isinf的 SIMT 前端测试用例以pytest.mark.soc(950)标记test_simt_isinf.py即仅在 Ascend 950 系列上执行。因此在编写跨产品可移植的 PyPTO 代码时应把isinf相关逻辑限定在 950 系列产品上使用或通过产品能力判断做分支处理。功能说明该接口的功能为判断源操作数是否为正无穷∞或负无穷−∞。它只关心操作数是否为无穷大与isnan判断 NaN互补两者共同构成浮点特殊值的分类手段。二、函数原型与参数说明函数原型pypto_pro.language.simt.isinf( value: Scalar, ) - Scalar从源码声明看该接口在python/pypto_pro/language/_simt_api.py中以_api_decl装饰的静态方法形式暴露给用户其 docstring 为 Return a BOOL Scalar indicating whether a floating-point Scalar is infinite._simt_api.py即返回一个指示浮点标量是否为无穷的 BOOL 类型 Scalar。参数说明参数输入/输出说明value输入源操作数Scalar类型支持DT_FP16、DT_BF16和DT_FP32。Tensor 或 Tile 元素需通过下标访问后传入。三个关键约束需要特别留意必须是Scalar接口只接受标量不能直接传入Tensor/Tile。若要判定张量中的某个元素需先通过下标如source[0, tid]取出元素再传入。支持的数据类型仅限DT_FP16、DT_BF16、DT_FP32三种浮点类型不包含整数或更高精度的浮点类型。返回值类型返回DT_BOOL类型的Scalar详见下文返回值说明。参数类型校验的源码证据在 CCE 后端代码生成阶段类型合法性会被显式校验。framework/src/interface/pypto_pro/backend/backend_cce_simt_ops.cpp中的MakeSimtIsinfCodegenCCE实现如下backend_cce_simt_ops.cppstd::string MakeSimtIsinfCodegenCCE(const ir::CallPtr op, codegen::CodegenBase codegen_base) { const auto input GetSimtUnaryCodegenInput(op, codegen_base); const auto dtype input.dtype; const auto a input.operand; if (dtype ir::DataType::FP32 || dtype ir::DataType::FP16 || dtype ir::DataType::BF16) { return __isinf( a ); } PRO_CODEGEN_CHECK(ExternalError::INVALID_TYPE, false) Unsupported simt.isinf dtype dtype.ToString(); return ; }这段代码表明只有FP32、FP16、BF16三种数据类型会被编译为对应的 CCE 内建函数__isinf(...)其余类型会在编译期触发INVALID_TYPE报错Unsupported simt.isinf dtype ...。同时该接口被注册在标量管道S上REGISTER_BACKEND_OP(BackendCCE, simt.isinf).set_pipe(ir::PipeType::S)见backend_cce_simt_ops.cpp与 SIMT 标量计算的定位一致。三、返回值说明当源操作数为正无穷或负无穷时返回True否则包括有限值、NaN 等返回False返回值为DT_BOOL类型的Scalar。注意与isnan的区别对于 NaN 输入isinf返回False对于 ±∞ 输入isinf返回True。两者判定语义互斥且互补可作为浮点异常值分类的完整工具组合。从 IR 构造层面看isinf在python/pypto_pro/ir/op/simt_ops.py中通过_create_math_call(isinf, value)构建数学调用节点simt_ops.py并注册了对应的标量数学解析器_register_scalar_math_parser(simt.isinf, 1, isinf)simt_ops.py说明该接口在 PyPTO 前端解析、IR 表示、后端代码生成三个环节都有完整的落地实现。四、约束说明isinf只能在由pypto_pro.language.vector_function(modesimt)定义的SIMT 入口函数或辅助函数中调用。这一约束与整个pl.simt命名空间下的标量接口一致必须在modesimt的vector_function内部使用普通向量模式modevector或宿主端代码中不可调用调用点位于 SIMT 执行线程内每个线程对各自负责的标量执行判定线程索引通常通过pl.simt.linear_thread_idx()获取用于按线程切分 Tensor 元素后逐元素判定。五、调用示例继承自原文档并补充解析原文档给出的典型示例是指数计算 无穷回退模式完整继承如下import pypto_pro.language as pl pl.vector_function(modesimt, max_threads256) def exp_or_fallback( source: pl.Tensor[[1, 256], pl.DT_FP32], output: pl.Tensor[[1, 256], pl.DT_FP32], fallback: pl.DT_FP32, ): tid pl.simt.linear_thread_idx() result pl.simt.exp(source[0, tid]) output[0, tid] result if pl.simt.isinf(result): output[0, tid] fallback pl.jit() def simt_isinf_kernel( source: pl.Tensor[[1, 256], pl.DT_FP32], output: pl.Tensor[[1, 256], pl.DT_FP32], fallback: pl.DT_FP32, ): with pl.section_vector(): exp_or_fallback256逐段拆解SIMT 入口函数定义pl.vector_function(modesimt, max_threads256)声明这是一个 SIMT 向量函数最多使用 256 个线程线程索引tid pl.simt.linear_thread_idx()获取当前线程的线性索引用于把 256 个元素映射到 256 个线程标量读取与计算source[0, tid]通过下标把 Tensor 元素取成Scalar随后pl.simt.exp(...)求指数exp与isinf同属simt命名空间下的标量数学接口无穷判定与回退if pl.simt.isinf(result): output[0, tid] fallback—— 当指数结果溢出为 ±∞ 时用fallback标量覆盖输出避免无穷值进入后续计算链路JIT 宿主函数pl.jit()定义编译入口with pl.section_vector():声明向量执行区exp_or_fallback256以 256 线程的网格启动该 SIMT 函数。实战要点该模式本质是数值安全防护exp输入过大时会溢出为infisinf判定后替换为兜底值从而保证下游算子如归一化、损失计算不会因无穷值产生 NaN 或错误梯度isinf同样适用于log(0)产生-inf、rsqrt(0)产生inf等场景可将该模式泛化为通用的浮点安全封装判定是逐线程标量级的因此不需要额外的同步操作SIMT 线程间彼此独立。六、源码级佐证接口注册、IR 构造与后端代码生成为帮助读者理解isinf从 Python 前端到底层 CCE 代码的完整链路这里汇总仓库中的关键实现位置层次文件关键内容用户 API 声明python/pypto_pro/language/_simt_api.py_api_decl静态方法isinfdocstring 说明返回 BOOL 标量IR 节点构造python/pypto_pro/ir/op/simt_ops.py_create_math_call(isinf, value)构建无穷分类调用解析器注册python/pypto_pro/ir/op/simt_ops.py_register_scalar_math_parser(simt.isinf, 1, isinf)CCE 后端代码生成framework/src/interface/pypto_pro/backend/backend_cce_simt_ops.cpp校验 FP16/BF16/FP32 后生成__isinf(...)否则报INVALID_TYPE后端算子注册framework/src/interface/pypto_pro/backend/backend_cce_simt_ops.cppREGISTER_BACKEND_OP(BackendCCE, simt.isinf).set_pipe(ir::PipeType::S)从上述实现可以推断isinf在编译期即被降级为设备侧标量数学内建指令__isinf属于零开销的标量分类操作不产生额外的临时内存或向量寄存器开销。七、系统级测试验证全数据类型覆盖仓库在 python/tests/st/pypto_pro/frontend/simt/scalar/test_simt_isinf.py 中提供了覆盖三种数据类型FP16/BF16/FP32的系统级测试可直接作为接口用法的权威参考pl.vector_function(modesimt, max_threadsELEMENTS) def isinf_all_dtypes( src_fp16: pl.Tensor[[1, ELEMENTS], pl.DT_FP16], src_bf16: pl.Tensor[[1, ELEMENTS], pl.DT_BF16], src_fp32: pl.Tensor[[1, ELEMENTS], pl.DT_FP32], out_fp16: pl.Tensor[[1, ELEMENTS], pl.DT_BOOL], out_bf16: pl.Tensor[[1, ELEMENTS], pl.DT_BOOL], out_fp32: pl.Tensor[[1, ELEMENTS], pl.DT_BOOL], ): tid pl.simt.linear_thread_idx() out_fp16[0, tid] pl.simt.isinf(src_fp16[0, tid]) out_bf16[0, tid] pl.simt.isinf(src_bf16[0, tid]) out_fp32[0, tid] pl.simt.isinf(src_fp32[0, tid])测试输入刻意构造了四类典型值test_simt_isinf.pyvalues[0] float(nan) # NaNisinf 应返回 False values[1] float(inf) # infisinf 应返回 True values[2] float(-inf) # -infisinf 应返回 True values[3] 1.0 # 有限值isinf 应返回 False随后通过run_float_predicate夹具定义于 conftest.py将同一组输入分别转换为 FP16、BF16、FP32 三种精度与 PyTorch 的torch.isinf结果逐元素比对。从该夹具的实现可以确认三个事实三种数据类型行为一致FP16/BF16/FP32 均支持isinf且语义与业界通用isinf如 PyTorch 的torch.isinf完全一致输出为布尔张量测试输出张量的 dtype 为torch.bool对应接口返回的DT_BOOL标量NaN 判定互斥性nan输入下isinf返回False与isnan对 NaN 返回True形成互补共同构成浮点特殊值完整分类。该测试以pytest.mark.soc(950)标记test_simt_isinf.py与文档声明仅 Ascend 950 系列支持保持一致可作为在 950 产品上验证该接口行为的最小可运行范例。八、总结与使用建议pl.simt.isinf是一个轻量、确定性的 SIMT 标量无穷判定接口使用建议归纳如下适用场景在 SIMT 核函数内对exp、log、rsqrt等可能产生 ±∞ 的运算结果做安全兜底或实现任何需要区分无穷/有限值的标量逻辑入参要求必须是Scalar仅支持 FP16/BF16/FP32Tensor/Tile 需按下标取出元素返回值DT_BOOL标量±∞ 返回True其余含 NaN返回False调用位置仅限modesimt的vector_function入口函数或辅助函数平台限制当前仅 Ascend 950PR/950DT 支持A2/A3 系列不支持跨产品开发时需注意平台差异。同类接口可参考 SIMT-API 标量计算目录下的 isnan.mdNaN 判定、exp.md指数计算与 sqrt.md开方等文档组合使用以构建完整的数值安全计算链。【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
CANN PyPTO SIMT 标量接口pl.simt.isinf无穷判定原理与实战用法【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto导读pypto_pro.language.simt.isinf是 PyPTO SIMT单指令多线程编程范式下用于判断标量是否为正无穷或负无穷的核心标量数学接口常与exp、log、rsqrt等会产生溢出/除零的算子搭配用于实现数值回退fallback逻辑。读完本文你将掌握该接口的完整签名、数据类型约束、返回值语义、SIMT 入口函数内的调用规范以及结合仓库源码与系统级测试的底层代码生成原理和可复用的实战示例。一、接口总览与产品支持情况pypto_pro.language.simt.isinf属于 PyPTO 的 SIMT-API 标量计算scalar_compute族接口与isnan、isfinite同属浮点分类floating-point classification函数用来区分浮点标量的特殊值状态。产品支持情况按当前仓库文档docs/zh/api/pro_api/SIMT-API/scalar_compute/isinf.md的声明产品形态支持情况Ascend 950PR / Ascend 950DT支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品不支持Atlas A2 训练系列产品 / Atlas A2 推理系列产品不支持仓库中的系统级测试也印证了这一点——isinf的 SIMT 前端测试用例以pytest.mark.soc(950)标记test_simt_isinf.py即仅在 Ascend 950 系列上执行。因此在编写跨产品可移植的 PyPTO 代码时应把isinf相关逻辑限定在 950 系列产品上使用或通过产品能力判断做分支处理。功能说明该接口的功能为判断源操作数是否为正无穷∞或负无穷−∞。它只关心操作数是否为无穷大与isnan判断 NaN互补两者共同构成浮点特殊值的分类手段。二、函数原型与参数说明函数原型pypto_pro.language.simt.isinf( value: Scalar, ) - Scalar从源码声明看该接口在python/pypto_pro/language/_simt_api.py中以_api_decl装饰的静态方法形式暴露给用户其 docstring 为 Return a BOOL Scalar indicating whether a floating-point Scalar is infinite._simt_api.py即返回一个指示浮点标量是否为无穷的 BOOL 类型 Scalar。参数说明参数输入/输出说明value输入源操作数Scalar类型支持DT_FP16、DT_BF16和DT_FP32。Tensor 或 Tile 元素需通过下标访问后传入。三个关键约束需要特别留意必须是Scalar接口只接受标量不能直接传入Tensor/Tile。若要判定张量中的某个元素需先通过下标如source[0, tid]取出元素再传入。支持的数据类型仅限DT_FP16、DT_BF16、DT_FP32三种浮点类型不包含整数或更高精度的浮点类型。返回值类型返回DT_BOOL类型的Scalar详见下文返回值说明。参数类型校验的源码证据在 CCE 后端代码生成阶段类型合法性会被显式校验。framework/src/interface/pypto_pro/backend/backend_cce_simt_ops.cpp中的MakeSimtIsinfCodegenCCE实现如下backend_cce_simt_ops.cppstd::string MakeSimtIsinfCodegenCCE(const ir::CallPtr op, codegen::CodegenBase codegen_base) { const auto input GetSimtUnaryCodegenInput(op, codegen_base); const auto dtype input.dtype; const auto a input.operand; if (dtype ir::DataType::FP32 || dtype ir::DataType::FP16 || dtype ir::DataType::BF16) { return __isinf( a ); } PRO_CODEGEN_CHECK(ExternalError::INVALID_TYPE, false) Unsupported simt.isinf dtype dtype.ToString(); return ; }这段代码表明只有FP32、FP16、BF16三种数据类型会被编译为对应的 CCE 内建函数__isinf(...)其余类型会在编译期触发INVALID_TYPE报错Unsupported simt.isinf dtype ...。同时该接口被注册在标量管道S上REGISTER_BACKEND_OP(BackendCCE, simt.isinf).set_pipe(ir::PipeType::S)见backend_cce_simt_ops.cpp与 SIMT 标量计算的定位一致。三、返回值说明当源操作数为正无穷或负无穷时返回True否则包括有限值、NaN 等返回False返回值为DT_BOOL类型的Scalar。注意与isnan的区别对于 NaN 输入isinf返回False对于 ±∞ 输入isinf返回True。两者判定语义互斥且互补可作为浮点异常值分类的完整工具组合。从 IR 构造层面看isinf在python/pypto_pro/ir/op/simt_ops.py中通过_create_math_call(isinf, value)构建数学调用节点simt_ops.py并注册了对应的标量数学解析器_register_scalar_math_parser(simt.isinf, 1, isinf)simt_ops.py说明该接口在 PyPTO 前端解析、IR 表示、后端代码生成三个环节都有完整的落地实现。四、约束说明isinf只能在由pypto_pro.language.vector_function(modesimt)定义的SIMT 入口函数或辅助函数中调用。这一约束与整个pl.simt命名空间下的标量接口一致必须在modesimt的vector_function内部使用普通向量模式modevector或宿主端代码中不可调用调用点位于 SIMT 执行线程内每个线程对各自负责的标量执行判定线程索引通常通过pl.simt.linear_thread_idx()获取用于按线程切分 Tensor 元素后逐元素判定。五、调用示例继承自原文档并补充解析原文档给出的典型示例是指数计算 无穷回退模式完整继承如下import pypto_pro.language as pl pl.vector_function(modesimt, max_threads256) def exp_or_fallback( source: pl.Tensor[[1, 256], pl.DT_FP32], output: pl.Tensor[[1, 256], pl.DT_FP32], fallback: pl.DT_FP32, ): tid pl.simt.linear_thread_idx() result pl.simt.exp(source[0, tid]) output[0, tid] result if pl.simt.isinf(result): output[0, tid] fallback pl.jit() def simt_isinf_kernel( source: pl.Tensor[[1, 256], pl.DT_FP32], output: pl.Tensor[[1, 256], pl.DT_FP32], fallback: pl.DT_FP32, ): with pl.section_vector(): exp_or_fallback256逐段拆解SIMT 入口函数定义pl.vector_function(modesimt, max_threads256)声明这是一个 SIMT 向量函数最多使用 256 个线程线程索引tid pl.simt.linear_thread_idx()获取当前线程的线性索引用于把 256 个元素映射到 256 个线程标量读取与计算source[0, tid]通过下标把 Tensor 元素取成Scalar随后pl.simt.exp(...)求指数exp与isinf同属simt命名空间下的标量数学接口无穷判定与回退if pl.simt.isinf(result): output[0, tid] fallback—— 当指数结果溢出为 ±∞ 时用fallback标量覆盖输出避免无穷值进入后续计算链路JIT 宿主函数pl.jit()定义编译入口with pl.section_vector():声明向量执行区exp_or_fallback256以 256 线程的网格启动该 SIMT 函数。实战要点该模式本质是数值安全防护exp输入过大时会溢出为infisinf判定后替换为兜底值从而保证下游算子如归一化、损失计算不会因无穷值产生 NaN 或错误梯度isinf同样适用于log(0)产生-inf、rsqrt(0)产生inf等场景可将该模式泛化为通用的浮点安全封装判定是逐线程标量级的因此不需要额外的同步操作SIMT 线程间彼此独立。六、源码级佐证接口注册、IR 构造与后端代码生成为帮助读者理解isinf从 Python 前端到底层 CCE 代码的完整链路这里汇总仓库中的关键实现位置层次文件关键内容用户 API 声明python/pypto_pro/language/_simt_api.py_api_decl静态方法isinfdocstring 说明返回 BOOL 标量IR 节点构造python/pypto_pro/ir/op/simt_ops.py_create_math_call(isinf, value)构建无穷分类调用解析器注册python/pypto_pro/ir/op/simt_ops.py_register_scalar_math_parser(simt.isinf, 1, isinf)CCE 后端代码生成framework/src/interface/pypto_pro/backend/backend_cce_simt_ops.cpp校验 FP16/BF16/FP32 后生成__isinf(...)否则报INVALID_TYPE后端算子注册framework/src/interface/pypto_pro/backend/backend_cce_simt_ops.cppREGISTER_BACKEND_OP(BackendCCE, simt.isinf).set_pipe(ir::PipeType::S)从上述实现可以推断isinf在编译期即被降级为设备侧标量数学内建指令__isinf属于零开销的标量分类操作不产生额外的临时内存或向量寄存器开销。七、系统级测试验证全数据类型覆盖仓库在 python/tests/st/pypto_pro/frontend/simt/scalar/test_simt_isinf.py 中提供了覆盖三种数据类型FP16/BF16/FP32的系统级测试可直接作为接口用法的权威参考pl.vector_function(modesimt, max_threadsELEMENTS) def isinf_all_dtypes( src_fp16: pl.Tensor[[1, ELEMENTS], pl.DT_FP16], src_bf16: pl.Tensor[[1, ELEMENTS], pl.DT_BF16], src_fp32: pl.Tensor[[1, ELEMENTS], pl.DT_FP32], out_fp16: pl.Tensor[[1, ELEMENTS], pl.DT_BOOL], out_bf16: pl.Tensor[[1, ELEMENTS], pl.DT_BOOL], out_fp32: pl.Tensor[[1, ELEMENTS], pl.DT_BOOL], ): tid pl.simt.linear_thread_idx() out_fp16[0, tid] pl.simt.isinf(src_fp16[0, tid]) out_bf16[0, tid] pl.simt.isinf(src_bf16[0, tid]) out_fp32[0, tid] pl.simt.isinf(src_fp32[0, tid])测试输入刻意构造了四类典型值test_simt_isinf.pyvalues[0] float(nan) # NaNisinf 应返回 False values[1] float(inf) # infisinf 应返回 True values[2] float(-inf) # -infisinf 应返回 True values[3] 1.0 # 有限值isinf 应返回 False随后通过run_float_predicate夹具定义于 conftest.py将同一组输入分别转换为 FP16、BF16、FP32 三种精度与 PyTorch 的torch.isinf结果逐元素比对。从该夹具的实现可以确认三个事实三种数据类型行为一致FP16/BF16/FP32 均支持isinf且语义与业界通用isinf如 PyTorch 的torch.isinf完全一致输出为布尔张量测试输出张量的 dtype 为torch.bool对应接口返回的DT_BOOL标量NaN 判定互斥性nan输入下isinf返回False与isnan对 NaN 返回True形成互补共同构成浮点特殊值完整分类。该测试以pytest.mark.soc(950)标记test_simt_isinf.py与文档声明仅 Ascend 950 系列支持保持一致可作为在 950 产品上验证该接口行为的最小可运行范例。八、总结与使用建议pl.simt.isinf是一个轻量、确定性的 SIMT 标量无穷判定接口使用建议归纳如下适用场景在 SIMT 核函数内对exp、log、rsqrt等可能产生 ±∞ 的运算结果做安全兜底或实现任何需要区分无穷/有限值的标量逻辑入参要求必须是Scalar仅支持 FP16/BF16/FP32Tensor/Tile 需按下标取出元素返回值DT_BOOL标量±∞ 返回True其余含 NaN返回False调用位置仅限modesimt的vector_function入口函数或辅助函数平台限制当前仅 Ascend 950PR/950DT 支持A2/A3 系列不支持跨产品开发时需注意平台差异。同类接口可参考 SIMT-API 标量计算目录下的 isnan.mdNaN 判定、exp.md指数计算与 sqrt.md开方等文档组合使用以构建完整的数值安全计算链。【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
