CANN/ge pyatc模块使用指南
pyatc【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√模块导入# 命令行方式 python -m ge.pyatc [ATC 参数...] # Python 代码方式 from ge.pyatc import main功能说明pyatc模块提供与atcAscend Tensor Compiler命令行工具等价的 Python 入口便于用户在指定 Python 解释器的进程内执行 ATC 编译命令。该模块的核心用途是解决 ATC 进程内需要使用特定 Python 解释器的场景例如 Python Pass 插件的加载和执行。通过pyatc用户可以确保 ATC 使用当前 Python 环境而非系统默认 Python。函数原型maindef main(cmdline_argv0None, argsNone) - NoneATC 命令行主入口函数。将参数编码后调用底层 C ATC 主函数执行编译以返回值作为退出码退出进程。参数说明main参数类型必选说明cmdline_argv0Optional[str]否自定义 argv[0]即命令行程序名称。若为 None则使用sys.argv[0]当 argv[0] 为__main__.py时自动替换为sys.executable -m ge.pyatcargsOptional[List[str]]否ATC 命令行参数列表。若为 None则使用sys.argv[1:]返回值说明main函数无返回值。执行完成后以底层 ATC 返回码调用sys.exit()退出进程。约束说明main函数会调用sys.exit()终止进程不适合在需要继续执行后续逻辑的场景中使用。ATC 命令行参数与atc命令行工具一致具体参数说明请参考 ATC 相关文档。该模块需要 CANN 环境已正确安装和配置。使用示例# 命令行方式等价于 atc 命令仅示例, atc命令完整合法性不做保证 python -m ge.pyatc --modelmodel.onnx --soc_versionAscend910B1 --outputmodel # 或者 pyatc --modelmodel.onnx --soc_versionAscend910B1 --outputmodel # 带 Pass 路径的场景仅示例, atc命令完整合法性不做保证 export ASCEND_GE_PY_PASS_PATH/path/to/my_pass.py python -m ge.pyatc --modelmodel.onnx --soc_versionAscend910B1 --outputmodel # 或者 pyatc --modelmodel.onnx --soc_versionAscend910B1 --outputmodel【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考