公司动态
Ascend C ICachePreLoad缓存预加载
ICachePreLoad(ISASI)【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径为basic_api/kernel_operator_cache_intf.h。开发者手动调用ICachePreLoad接口能够从指令所在GM地址预加载指令到ICache中。函数原型__aicore__ inline void ICachePreLoad(const int64_t preFetchLen)参数说明表1参数说明参数名输入/输出描述preFetchLen输入预取长度。针对如下型号Ascend 950PR/Ascend 950DTAtlas A3 训练系列产品/Atlas A3 推理系列产品Atlas A2 训练系列产品/Atlas A2 推理系列产品preFetchLen参数单位为2K Byte取值满足如下要求$$ \text{preFetchLen} \dfrac{\text{ICache的大小}}{2K} $$其中AIC和AIV的ICache大小分别为32KB和16KB。针对Atlas 推理系列产品AI Core传入该参数无效预取长度均为128Byte。返回值说明无约束说明无调用示例int64_t preFetchLen 2; // 预取指令长度。 AscendC::ICachePreLoad(preFetchLen);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考