当前位置：网站首页>模型部署简述

模型部署简述

2022-07-25 10:48:00 【栋哥修炼日记】

一、模型使用流程

在这里插入图片描述

二、模型部署平台

  • 在线服务器部署，精度优先
    在这里插入图片描述
  • 离线嵌入式端部署，兼顾精度与速度，资源消耗
    在这里插入图片描述

三、模型部署的方式

在这里插入图片描述

  • 训练框架部署
    在这里插入图片描述

  • 训练框架部署引擎
    在这里插入图片描述

  • 手动模型重构
    在这里插入图片描述

  • 专用推理引擎（我们常用的方式）
    在这里插入图片描述

  • 主流的移动端推理框架对比
    在这里插入图片描述

文章来源：https://www.bilibili.com/video/BV1TY4y1q7XE?spm_id_from=333.337.search-card.all.click

原网站

版权声明
本文为[栋哥修炼日记]所创，转载请带上原文链接，感谢
https://renguodong.blog.csdn.net/article/details/125144017

边栏推荐

猜你喜欢

随机推荐