CANN/asc-devkit HCCL通信Finalize接口

Finalize【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明通知服务端后续无通信任务执行结束后退出。函数原型template bool sync true __aicore__ inline void Finalize()参数说明参数名输入/输出描述sync输入是否需要等待服务端的通信完成。bool类型参数取值如下true默认值表示客户端将检测并等待最后一个通信任务完成。false表示客户端发送Finalize通知后不等待服务端通信任务完成即退出。该取值仅跳过客户端侧的阻塞等待不会取消已被服务端接收并编排的通信任务但不表示已下发的通信任务已完成也不保证接口调用结束时对端已收到数据。Atlas A3 训练系列产品/Atlas A3 推理系列产品该参数支持默认值true仅在通信任务为BatchWrite时支持取值为false。Atlas A2 训练系列产品/Atlas A2 推理系列产品该参数仅支持默认值true。返回值说明无约束说明调用本接口前确保已调用过InitV2和SetCcTilingV2接口。本接口在AIC核或者AIV核上调用必须与对应的Prepare接口的调用核保持一致。调用Finalizefalse()前若需要保证通信任务完成必须先完成同步否则客户端直接退出后无法保证数据传输完成。多队列BatchWrite场景需先对所有队列调用QueueBarrier接口等待队列上的BatchWrite任务完成后再调用Finalizefalse()请参见BatchWrite的多个队列的点对点通信调用示例。Finalize为终止接口调用后服务端开始退出当前Hccl对象不可再次用于通信。如需继续通信需重新创建Hccl对象并调用InitV2接口初始化。调用示例REGISTER_TILING_DEFAULT(ReduceScatterCustomTilingData); // ReduceScatterCustomTilingData为对应算子头文件定义的结构体 GET_TILING_DATA_WITH_STRUCT(ReduceScatterCustomTilingData, tilingData, tilingGM); Hccl hccl; GM_ADDR contextGM AscendC::GetHcclContext0(); // AscendC自定义算子kernel中通过此方式获取HCCL context hccl.InitV2(contextGM, tilingData); hccl.SetCcTilingV2(offsetof(ReduceScatterCustomTilingData, mc2CcTiling)); if (AscendC::g_coreType AIC) { HcclHandle handleId hccl.ReduceScatter(sendBuf, recvBuf, 100, HcclDataType::HCCL_DATA_TYPE_INT8, HcclReduceOp::HCCL_REDUCE_SUM, 10); hccl.Commit(handleId); // 通知服务端可以执行上述的ReduceScatter任务 for (uint8_t i 0; i 10; i) { hccl.Wait(handleId); // 阻塞接口需等待上述ReduceScatter任务执行完毕 } hccl.Finalizetrue(); // 后续无其他通信任务通知服务端执行上述ReduceScatter任务之后即可以退出 }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考