--output_type【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况全量芯片支持功能说明指定网络输出数据类型或指定某个输出节点的输出类型。关联参数若指定某个输出节点的输出类型则需要和--out_nodes参数配合使用。参数取值参数值FP32推荐分类网络、检测网络使用。FP16推荐分类网络、检测网络使用。通常用于一个网络输出作为另一个网络输入场景。UINT8图像超分辨率网络推荐使用推理性能更好。INT8UINT16INT16UINT32INT32UINT64INT64DOUBLEHIF8仅Ascend 950PR/Ascend 950DT支持该类型。FP8E5M2仅Ascend 950PR/Ascend 950DT支持该类型。FP8E4M3FN仅Ascend 950PR/Ascend 950DT支持该类型。HIF8不支持该类型。FP8E5M2不支持该类型。FP8E4M3FN不支持该类型。参数值约束模型转换完毕在对应的om离线模型文件中上述数据类型对应方式为DT_FLOATDT_FLOAT16DT_UINT8DT_INT8DT_UINT16DT_INT16DT_UINT32DT_INT32DT_UINT64DT_INT64DT_DOUBLEDT_HIFLOAT8DT_FLOAT8_E5M2DT_FLOAT8_E4M3FN若在模型转换时不指定网络具体输出数据类型则以原始网络模型最后一层输出的算子数据类型为准若指定了类型则以该参数指定的类型为准此时--is_output_adjust_hw_layout参数指定的类型不生效。推荐配置及收益无。示例指定网络输出数据类型atc --output_typeFP32 ...指定某个输出节点的输出数据类型例如--output_typenode1:0:FP16;node2:0:FP32表示node1节点第一个输出设置为FP16node2第一个节点输出设置为FP32。指定的节点必须放在双引号中节点中间使用英文分号分隔。该场景下该参数需要与--out_nodes参数配合使用。atc --model$HOME/module/resnet50_tensorflow.pb --framework3 --output$HOME/module/out/tf_resnet50 --soc_versionsoc_version --output_typeconv1:0:FP16 --out_nodesconv1:0 ...依赖约束无。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
--output_type【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况全量芯片支持功能说明指定网络输出数据类型或指定某个输出节点的输出类型。关联参数若指定某个输出节点的输出类型则需要和--out_nodes参数配合使用。参数取值参数值FP32推荐分类网络、检测网络使用。FP16推荐分类网络、检测网络使用。通常用于一个网络输出作为另一个网络输入场景。UINT8图像超分辨率网络推荐使用推理性能更好。INT8UINT16INT16UINT32INT32UINT64INT64DOUBLEHIF8仅Ascend 950PR/Ascend 950DT支持该类型。FP8E5M2仅Ascend 950PR/Ascend 950DT支持该类型。FP8E4M3FN仅Ascend 950PR/Ascend 950DT支持该类型。HIF8不支持该类型。FP8E5M2不支持该类型。FP8E4M3FN不支持该类型。参数值约束模型转换完毕在对应的om离线模型文件中上述数据类型对应方式为DT_FLOATDT_FLOAT16DT_UINT8DT_INT8DT_UINT16DT_INT16DT_UINT32DT_INT32DT_UINT64DT_INT64DT_DOUBLEDT_HIFLOAT8DT_FLOAT8_E5M2DT_FLOAT8_E4M3FN若在模型转换时不指定网络具体输出数据类型则以原始网络模型最后一层输出的算子数据类型为准若指定了类型则以该参数指定的类型为准此时--is_output_adjust_hw_layout参数指定的类型不生效。推荐配置及收益无。示例指定网络输出数据类型atc --output_typeFP32 ...指定某个输出节点的输出数据类型例如--output_typenode1:0:FP16;node2:0:FP32表示node1节点第一个输出设置为FP16node2第一个节点输出设置为FP32。指定的节点必须放在双引号中节点中间使用英文分号分隔。该场景下该参数需要与--out_nodes参数配合使用。atc --model$HOME/module/resnet50_tensorflow.pb --framework3 --output$HOME/module/out/tf_resnet50 --soc_versionsoc_version --output_typeconv1:0:FP16 --out_nodesconv1:0 ...依赖约束无。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
