簡介【免費下載鏈接】geGEGraph Engine是面向昇騰的圖編譯器和執(zhí)行器提供了計算圖優(yōu)化、多流并行、內(nèi)存復(fù)用和模型下沉等技術(shù)手段加速模型執(zhí)行效率減少模型內(nèi)存占用。 GE 提供對 PyTorch、TensorFlow 前端的友好接入能力并同時支持 onnx、pb 等主流模型格式的解析與編譯。項目地址: https://gitcode.com/cann/geKernelLaunchInfo類為開發(fā)者提供創(chuàng)建和管理下發(fā)給Device的任務(wù)接口允許開發(fā)者設(shè)置或者獲取當(dāng)前待下發(fā)Device任務(wù)的相關(guān)Launch信息。本類可以支持用戶創(chuàng)建新的Launch任務(wù)或者修改框架已經(jīng)生成好的Launch任務(wù)。需要包含的頭文件#include graph/kernel_launch_info.hPublic成員函數(shù)static KernelLaunchInfo LoadFromData(const gert::ExeResGenerationContext *context, const std::vectoruint8_t data) static KernelLaunchInfo CreateAicpuKfcTask(const gert::ExeResGenerationContext *context, const char *so_name, const char *kernel_name) static KernelLaunchInfo CreateHcomRecordTask(const gert::ExeResGenerationContext *context, const char *group_name group) static KernelLaunchInfo CreateHcomWaitTask(const gert::ExeResGenerationContext *context, const char *group_name group) std::vectoruint8_t Serialize() uint32_t GetStreamId() const void SetStreamId(uint32_t stream_id) uint32_t GetBlockDim() const graphStatus SetBlockDim(uint32_t block_dim) const char *GetArgsFormat() const graphStatus SetArgsFormat(const char *args_format) const char *GetSoName() const const char *GetKernelName() const【免費下載鏈接】geGEGraph Engine是面向昇騰的圖編譯器和執(zhí)行器提供了計算圖優(yōu)化、多流并行、內(nèi)存復(fù)用和模型下沉等技術(shù)手段加速模型執(zhí)行效率減少模型內(nèi)存占用。 GE 提供對 PyTorch、TensorFlow 前端的友好接入能力并同時支持 onnx、pb 等主流模型格式的解析與編譯。項目地址: https://gitcode.com/cann/ge創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考