#include "acl/acl/h" // 华为的基础组件头文件，必须要包括的，剩余的，可以参考上面的文档自由选择

// **结构体** aclError 华为定义的错误类型的宏，基本就是0代表正常，其余值代表各种各样的问题及保留值
aclError ret = aclInit(); // AscendCL 的初始化代码，必须在调用所有推理部分前调用
ret = aclFinalize(); // AscendCL去初始化函数，这个函数执行了以后整个ACL模块就停掉了

// 模型加载流程
// **创建流程**
// 基本创建流程组件包括
// Device  指定当前模型的推理卡ID
ret = aclrtSetDevice(deviceid); //指定后续加载模型时加载到哪张推理卡上
// context 模型的上下文管理容器
aclrtContext context;
ret = aclrtCreatecontext(&context,deviceid);
// stream  用来维护一些异步操作的执行顺序
aclrtstream stream;
ret = aclrtCreateStream(&stream);
// runmode 当前指定模型的运行模式，分为HOST端模式和DEVICE端模式两种
aclrtRunMode runmode;
ret = aclrtGetRunMode(&runmode);
// modelID 通过device id和model id来代表某个具体的加载模型
// 模型加载有多种方式，比如从内存加载、从文件加载、自己管理模型内存或者交由acL模块管理模型内存等
// 这里提供的是从文件加载模型，并交由acl管理内存的方式
int modelIdl;
model_file = "***.om";
ret = aclmdlLoadFromFile(model_file.c_str(),&modelId);
// modelDesc 模型描述结构体，其中包括模型输入端个数，输出端个数等信息
aclmdlDesc *modelDesc
model = aclmdlCreateDesc();
ret = aclmdlGetDesc(modelDesc,modelId);

// **析构流程**
// 析构顺序为 用modelid卸载模型、析构modelDesc、重置推理卡及关闭acl服务
ret = aclmdlUnload(modelId);
ret = aclmdlDestroyDesc(modelDesc);
ret = aclrtResetDevice(deviceId_);
ret = aclFinalize(); // 理论上后两步不应该在推理引擎内，而应该在调度器上完成

// 模型推理流程
// **创建流程**
// 模型的推理输入需要每次进行创建，推理输出的buffer可以一次性创建并一直复用
//// 创建输入
size_t modelInputSize;
void *modelInputBuffer = nullptr;
modelInputSize = aclmdlGetInputSizeByIndex(modelDesc, 0);
// 申请一块HOST侧的内存        
ret = aclrtMalloc(&modelInputBuffer, modelInputSize, ACL_MEM_MALLOC_NORMAL_ONLY);

// 创建aclmdlDataset类型的数据，描述模型推理的输入，input_为aclmdlDataset类型
// 利用之前创建的HOST端内存，在DEVICE侧挂载，然后把自己的数据赋值到该块内存就完成的模型输入准备
aclmdlDataset *input_;
input_ = aclmdlCreateDataset();
aclDataBuffer *inputData = aclCreateDataBuffer(modelInputBuffer, modelInputSize);
ret = aclmdlAddDatasetBuffer(input_, inputData);
ret = aclrtMemcpy(modelInputBuffer, modelInputSize, input_host_memory_+i*3*yolo_params_.INPUT_H*yolo_params_.INPUT_W,yolo_params_.INPUT_H*yolo_params_.INPUT_W*3*sizeof(float), ACL_MEMCPY_DEVICE_TO_DEVICE);
//// 创建输出
aclmdlDataset *output_;
size_t outputSize = aclmdlGetNumOutputs(modelDesc);
output_ = aclmdlCreateDataset();
// 循环为每个输出申请内存，并将每个输出添加到aclmdlDataset类型的数据中
// 动态batch下，output为按最大batch值创建的内存块
for (size_t i = 0; i < outputSize; ++i) {
      size_t buffer_size = aclmdlGetOutputSizeByIndex(modelDesc, i);
      void *outputBuffer = nullptr;
      ret = aclrtMalloc(&outputBuffer, buffer_size, ACL_MEM_MALLOC_NORMAL_ONLY);
      if(ret != 0)
      {
          return -2;
      }
      aclDataBuffer* outputData = aclCreateDataBuffer(outputBuffer, buffer_size);   
      ret = aclmdlAddDatasetBuffer(output_, outputData);
      if(ret != 0)
      {
          return -2;
      }
}
//// 执行推理
ret = aclmdlExecute(modelId, input_, output_);
//// 获取输出到host侧
aclDataBuffer* dataBuffer = aclmdlGetDatasetBuffer(output_, idx);

// 获取buffer地址
void* dataBufferDev = aclGetDataBufferAddr(dataBuffer);

// 获取buffer的长度
size_t bufferSize = aclGetDataBufferSizeV2(dataBuffer);

// 将指定内存从device拷贝到host的内存上，此时buffer内存即为模型多个推理输出中的指定索引输出
void* buffer = new uint8_t[bufferSize]; 
aclError aclRet = aclrtMemcpy(buffer, bufferSize, dataBufferDev, bufferSize, ACL_MEMCPY_DEVICE_TO_HOST);
// **析构流程**
这里的析构是说，在每次执行完之后，都要释放掉input重新创建，因为input部分不可复用
if (input_ != nullptr) 
        {
            for (size_t i = 0; i < aclmdlGetDatasetNumBuffers(input_); ++i) 
            {
              aclDataBuffer* dataBuffer = aclmdlGetDatasetBuffer(input_, i);
              aclDestroyDataBuffer(dataBuffer);
            }
            aclmdlDestroyDataset(input_);
            input_ = nullptr;
        }

// 输出部分的析构可以放在类的析构时再做
if (output_ != nullptr) {
        // 此处应该写入日志
        for (size_t i = 0; i < aclmdlGetDatasetNumBuffers(output_); ++i) 
        {
            aclDataBuffer* dataBuffer = aclmdlGetDatasetBuffer(output_, i);
            void* data = aclGetDataBufferAddr(dataBuffer);
           (void)aclrtFree(data);
           (void)aclDestroyDataBuffer(dataBuffer);
        }
        (void)aclmdlDestroyDataset(output_);
        output_ = nullptr;
    }