从DevOps到MLOps：IT工具怎样向AI工具进化？

MLOps 的发展在近年来引起了巨大的轰动。但是 MLOps 是一个总称，其中涉及很多步骤。仅仅围绕总括术语会产生对空间的错误认识。通过这个博客，我们将带您了解 MLOps 浪潮的原因以及表现良好的公司，并通过软件开发类比将它们定位在该领域。

进化

早在 1990 年代软件开发开始时，曾经有一种平台方法来构建事物并发挥流程的作用。在 2012 年初 DataBricks 和其他 ML 平台问世时，这是一种类似的方法。在团队需要如何构建机器学习方面发挥作用。大多数成功的公司都对需要如何完成特定事情有意见，并成功地将这种行为嵌入到客户中。它起作用的原因是机器学习或数据科学都是关于数据的。您构建一个数据湖并在其上构建工具来执行分析，使用它是不费吹灰之力的。

回到进化，开发人员从流程框架进化到基于价值的框架。这导致了 DevOps 工具的发展。没有单一的端到端平台，但有多种 SaaS 产品可以解决其开发生命周期的各种需求。这是在当前 MLOps 空间中看到的核心行为，它导致了第二波 MLOps的快速发展。

本文中，将主要涉及DevOps的以下问题：

典型的机器学习模型构建流程中的问题：

1. Data Management

2. Code Development

3. Code Version Management

4. Model training​ with hyper parameter tuning

5. Model training Monitoring

6. Model Accuracy testing

7. Model portability into different hardware

8. Creating API for the trained model

9. Deploying API for production​

10. API​ Monitoring

11. Monitoring model performance in production​

在ML领域独有的硬件研发问题：

1. GPU resource allocation and Scheduling

2. Federated Learning

3. Deployment on CPUs