# pyflow【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 推理系列产品/Atlas A2 训练系列产品支持函数功能支持将函数作为pipeline任务在本地或者远端运行。为此需使用pyflow装饰函数以表达需要使用pipeline方式运行此函数。当用户的类或者函数被pyflow装饰后会自动添加fnode的构图方法使用方式参考调用示例。函数原型装饰器pyflow参数说明参数名称数据类型取值说明num_returnsint装饰器装饰函数时用于表示函数的输出个数不设置该参数时默认函数返回一个返回值。该参数与使用type annotations方式标识函数返回个数与类型的方式选择其一即可。resourcesdict用于标识当前func需要的资源信息支持memory、num_cpus和num_npus。memory单位为M; num_npus表示需要使用npu资源数量为预留参数当前仅支持1。例如{memory: 100, num_cpus: 1, num_npus: 1}stream_inputstr用于表示当前func的输入为流式输入即函数入参为队列当前只支持Queue类型用户可自行从输入队列中取数据。choice_outputfunction表示当前func为可选输出只有满足条件的输出才会返回条件为用户自定义的function。例如choice_outputlambda e: e is not None该例子表示只有非None的输出才会返回。visible_device_enablebool开启后UDF进程会根据用户配置num_npus资源自动设置ASCEND_RT_VISIBLE_DEVICES调用get_running_device_id接口获取对应的逻辑ID当前num_npus仅支持1因此该场景下get_running_device_id结果为0。env_hook_funcfunction此钩子函数用于给用户自行扩展在Python UDF初始化之前必要的Python环境准备或import操作。钩子函数仅支持无输入无输出类型。返回值装饰后的类或者函数。异常情况下会抛出DfException异常。可以通过捕捉异常获取DfException中的error_code与message查看具体的错误码及错误信息。详细信息请参考DataFlow错误码。调用示例# current is udf.py import dataflow as df df.pyflow(num_returns2, resources{memory: 100, num_cpus: 1}) def func1(a, b): return a b,a - b df.pyflow def func2(a, b): return a b df.pyflow(stream_inputQueue) def func3(a, b): data1 a.get() data2 a.get() data3 b.get() return data1 data2 data3 df.pyflow(choice_outputlambda e: e is not None) def func4(self, a) - Tuple[int, int]: return None, a # 根据lambda函数将非空值传给相应输出 # current is graph.py from UDF import func2 import dataflow as df # 构图 # 定义输入 data0 df.FlowData() data1 df.FlowData() # 使用func2自动生成的fnode方法构图 func_out func2.fnode()(data0, data1) # 构建FlowGraph dag df.FlowGraph([func_out])约束说明环境需安装对应Python版本的cloudpickle包。流式输入场景下DataFlow框架不支持数据对齐和异常事务处理。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考