You can not select more than 25 topics Topics must start with a chinese character,a letter or number, can include dashes ('-') and can be up to 35 characters long.

tune_api.h 2.8 kB

12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394
  1. /**
  2. * Copyright 2019-2020 Huawei Technologies Co., Ltd
  3. *
  4. * Licensed under the Apache License, Version 2.0 (the "License");
  5. * you may not use this file except in compliance with the License.
  6. * You may obtain a copy of the License at
  7. *
  8. * http://www.apache.org/licenses/LICENSE-2.0
  9. *
  10. * Unless required by applicable law or agreed to in writing, software
  11. * distributed under the License is distributed on an "AS IS" BASIS,
  12. * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13. * See the License for the specific language governing permissions and
  14. * limitations under the License.
  15. */
  16. /** @defgroup aoe aoe调优接口 */
  17. #ifndef TUNE_API_H
  18. #define TUNE_API_H
  19. #include <map>
  20. #include <string>
  21. #include "ge/ge_api.h"
  22. #include "aoe_types.h"
  23. /**
  24. * @ingroup aoe
  25. * @par 描述: 命令行调优
  26. *
  27. * @attention 无
  28. * @param option [IN] 调优参数
  29. * @param msg [OUT] 调优异常下返回信息
  30. * @retval #AOE_SUCCESS 执行成功
  31. * @retval #AOE_FAILURE 执行失败
  32. * @par 依赖:
  33. * @li tune_api.cpp:该接口所属的开发包。
  34. * @li tune_api.h:该接口声明所在的头文件。
  35. * @see 无
  36. * @since
  37. */
  38. AoeStatus AoeOfflineTuning(const std::map<std::string, std::string> &option, std::string &msg);
  39. /**
  40. * @ingroup aoe
  41. * @par 描述: 调优初始化
  42. *
  43. * @attention 无
  44. * @param session [IN] ge连接会话
  45. * @param option [IN] 参数集. 包含调优参数及ge参数
  46. * @retval #AOE_SUCCESS 执行成功
  47. * @retval #AOE_FAILURE 执行失败
  48. * @par 依赖:
  49. * @li tune_api.cpp:该接口所属的开发包。
  50. * @li tune_api.h:该接口声明所在的头文件。
  51. * @see 无
  52. * @since
  53. */
  54. extern "C" AoeStatus AoeOnlineInitialize(ge::Session *session, const std::map<std::string, std::string> &option);
  55. /**
  56. * @ingroup aoe
  57. * @par 描述: 调优去初始化
  58. *
  59. * @attention 无
  60. * @param 无
  61. * @retval #AOE_SUCCESS 执行成功
  62. * @retval #AOE_FAILURE 执行失败
  63. * @par 依赖:
  64. * @li tune_api.cpp:该接口所属的开发包。
  65. * @li tune_api.h:该接口声明所在的头文件。
  66. * @see 无
  67. * @since
  68. */
  69. extern "C" AoeStatus AoeOnlineFinalize();
  70. /**
  71. * @ingroup aoe
  72. * @par 描述: 调优处理
  73. *
  74. * @attention 无
  75. * @param tuningGraph [IN] 调优图
  76. * @param dependGraph [IN] 调优依赖图
  77. * @param session [IN] ge连接会话
  78. * @param option [IN] 参数集. 包含调优参数及ge参数
  79. * @retval #AOE_SUCCESS 执行成功
  80. * @retval #AOE_FAILURE 执行失败
  81. * @par 依赖:
  82. * @li tune_api.cpp:该接口所属的开发包。
  83. * @li tune_api.h:该接口声明所在的头文件。
  84. * @see 无
  85. * @since
  86. */
  87. extern "C" AoeStatus AoeOnlineTuning(ge::Graph &tuningGraph, std::vector<ge::Graph> &dependGraph,
  88. ge::Session *session, const std::map<std::string, std::string> &option);
  89. #endif

图引擎模块(GE)是MindSpore的一个子模块,其代码由C++实现,位于前端模块ME和底层硬件之间,起到承接作用。图引擎模块以ME下发的图作为输入,然后进行一系列的深度图优化操作,最后输出一张可以在底层硬件上高效运行的图。GE针对昇腾AI处理器的硬件结构特点,做了特定的优化工作,以此来充分发挥出昇腾AI处理器的强大算力。在进行模型训练/推理时,GE会被自动调用而用户并不感知。GE主要由GE API和GE Core两部分组成,详细的架构图如下所示