当前位置:网站首页>数据丰富的计算:M.2在边缘遇到AI
数据丰富的计算:M.2在边缘遇到AI
2022-07-28 03:32:00 【qq_52609913】
数据的激增——以及它所驱动的应用程序——正在创造翻天覆地的变化。这些转变需要专业化来创建更能够与人工智能工作负载交互的系统,既高效又按需。
对于系统设计人员来说,这意味着昨天的性能加速策略可能不再符合要求。虽然基于 CPU/GPU 的设计有助于缓解摩尔定律的放缓,但这些处理器架构现在发现很难跟上自动化和推理应用程序固有的实时数据要求。在更严格的非数据中心场景中尤其如此。再加上满足性价比和功耗需求的挑战越来越大,性能加速比以往任何时候都更加重要考虑计算、存储和连接。所有这些因素对于有效整合接近数据生成点的工作负载都是必要的,即使在环境挑战不利于系统性能的恶劣环境中也是如此。
这就是M.2 外形加速器在消除数据密集型应用程序中的性能障碍方面发挥作用的地方。作为一个强大的设计选项,M.2 加速器为系统架构师提供特定领域的价值,以匹配AI 工作负载的确切要求。与使用CPU/GPU 技术的同类系统相比,基于M.2 的系统可以更快、更高效地管理推理模型。这些增长推动了创新的系统设计,非常适合崎岖的边缘在具有挑战性的非传统场景中部署了更多系统,并且专门构建的系统提供了巨大的机会。在这里,通用嵌入式计算机与旨在通过利用 M.2 加速模块等更现代的加速选项来处理推理算法的计算机之间存在明显的区别。

M.2 也称为下一代外形尺寸接口,由英特尔开发,旨在提供灵活性和强大的性能。M.2 支持多种信号接口,例如串行ATA (SATA 3.0)、PCI Express(PCIe 3.0 和4.0)和USB 3.0。M.2扩展槽具有多种总线接口,高度适应不同性能加速器、存储协议、I/O扩展模块和无线连接。
M.2 还通过支持SATA 和NVMe(非易失性内存快速)存储协议提供传统和现代兼容性。传统标准 SATA 包含高级主机控制器接口(AHCI),英特尔将其定义为通过HDD(硬盘驱动器)存储中的旋转金属磁盘优化数据操作的存储协议。NVMe 提供了一种替代方案,旨在充分利用NAND芯片(闪存)存储和PCI Express 通道实现极快的固态驱动器(SSD) 存储。
性能加速器也采用了 M.2 外形,受益于其强大而紧凑的界面。其中包括 AI 加速器、内存加速器、深度学习加速器、推理加速器等。这种专用处理器专用于AI 工作负载,提供更高的功率性能比。
在更多环境中通过实时数据性能解锁 AI
数据是当今业务创新的关键,更重要的是提供认知机器智能的能力。无论是在工厂车间为先进的远程信息处理或智能信息亭供电,还是在火车站和机场等基础设施中为乘客和监控服务提供动力,数据就在我们身边,当它可以被发现、捕获、评估和用于即时的。
无数行业都渴望充分利用数据来创建新服务和增强业务决策,但在许多严格的工业环境中,在数据中心级别处理小型自动化或人工智能任务效率太低,无法提供真正的价值。由于过度使用计算、带宽和存储资源(尽管是必要的),这种传统集中式计算结构的功耗和成本太高。此外,高延迟意味着性能会受到影响,而数据隐私不足又会让人头疼。
数据增长与边缘计算环境的复杂性相结合,正在推动 AI 计算框架从通用CPU/GPU 选项转向基于使用M.2 标准的特定领域架构的专用加速器——这些选项更小、更节能. 这是一种应对复杂、真实且不会消失的数据挑战的策略。随着物联网和工业物联网设备数量的增加,它们生成的数据量和速度也在增加。应用程序设计人员和开发人员必须认识到,迫切需要更接近数据源并且专为手头任务而构建的性能加速 - 特别是在部署边缘计算硬件以应对数据处理并减轻数据中心和数据中心的相关负担时云端。
边栏推荐
- 【P4】 查看库文件两个历史版本的区别
- 动态规划——1049. 最后一块石头的重量 II
- [错题]Mocha and Railgun
- How to use JDBC to operate database
- 每日练习------实现双色球的彩票功能。规则:从36个红球中随机选择不重复的6个数,从15个篮球中随机选择1个组成一注彩票。可以选择买多注。
- Response to questions about the balanced beacon group of Hubei University of Arts and Sciences
- Prefix-Tuning: Optimizing Continuous Prompts for Generation
- 动态规划——63. 不同路径 II
- 【OPENVX】对象基本使用之vx_matrix
- [wrong question]
猜你喜欢

Leetcode brush question: dynamic planning 09 (weight of the last stone II)

What is tor? What is the use of tor browser update?

2022最新Android Handler相关面试题总结

Unity simply implements the dialog function

After reading MySQL database advanced practice (SQL xiaoxuzhu)

Weekly recommended short video: how to correctly understand the word "lean"?

Mysql基础篇(创建、管理、增删改表)

Super nice PHP program source code of nteam official website

12月份PMP考试首次采用新考纲,该怎么学?

Asemi rectifier bridge gbpc5010, gbpc5010 parameters, gbpc5010 size
随机推荐
Asemi rectifier bridge gbpc5010, gbpc5010 parameters, gbpc5010 size
Redis基本操作
Digital economy has become the biggest attraction
超好看的Nteam官网PHP程序源码
STM32 RT-Thread虚拟文件系统挂载操作
CF 7月25日-7月31日做题记录
[wrong question]mocha and railgun
[5g NR] RRC reject analysis
【P4】 查看库文件两个历史版本的区别
"Xiaodeng" network equipment monitoring in operation and maintenance
数字经济已成为最大看点
Redis basic operation
input 上传文件并回显 FileReader并限制选择文件时的类型
整合SSM实现增删改查搜索
Redis source code analysis (who says C language can't analyze it?)
动态规划——509. 斐波那契数
Response to questions about the balanced beacon group of Hubei University of Arts and Sciences
Prefix-Tuning: Optimizing Continuous Prompts for Generation
如何卸载干净zabbix服务?(超详细)
Unity backpack system