I未来更高效的A建更智能异构计算构

人工智能 。异构( 。计算AI。构建更智高效) 不再仅仅一个科研课题,异构它已然成为咱们日常日子的计算一部分 。从个性化医疗 、构建更智高效 。异构智能。计算可穿戴设备 ,构建更智高效到沉溺式数字文娱以及自主机器人 ,异构AI 正在重塑咱们日子、计算作业和立异的构建更智高效办法。但是异构,跟着 AI 运用日益杂乱 ,计算底层的构建更智高效基础设施也有必要随之不断演进 。

这正是麻省理工科技谈论洞悉 (MIT 。 Te。chnology Review Insights) 与。 Arm。联合发布的新陈述《AI 处理的未来 (The Future of AI Processing)》所聚集的中心关键 。该陈述深化洞悉了企业怎么从头审视本身的核算战略  ,以满意当下 AI 开展的需求 ,并为未来改变做好预备 。

何为异构核算?

这一改变的中心在于异构核算,该办法将 AI 作业负载分配到不同类型。处理器 。(如。 CPU。 、。GPU 。、NPU 及其他 AI 加速器)上。每个组件都具有其共同的优势:CPU 担任全体的和谐作业,一起处理通用使命,以及进行高能效的推理作业;GPU 凭仗强壮算力 ,可以支撑大规划的练习以及高吞吐量的运算;而 NPU 则针对实时推理进行优化。

这种架构组合,可以让核算体系依据作业负载的特色  ,动态地将其匹配到更适宜的处理器上,然后针对功能、能效和本钱进行优化 。

Arm 工程部 。机器学习 。技能副总裁 Ian Bratt 在陈述中指出:异构核算旨在提高功能和能效。某个作业负载可以运行在最适宜的组件上,但其间的某部分或许更适合运行在另一个组件上 。

AI 在作业 、文娱及日子中广泛运用 。

该陈述侧重论述了异构核算怎么在各种运用中完成更智能、更高效的 AI。例如 :

可穿戴设备和 。智能家居。设备利用小型端侧处理器进行实时推理,一起将个性化设置、形式识别等较为杂乱的使命转移至云端处理 。

农业和制造业中的。工业机器人。交融了。核算机视觉。与机器学习技能 ,并凭借异构核算在动态环境中完成低推迟与能耗优化 。

流媒体和游戏等文娱渠道将推理 、编码和个性化处理等使命,合理分配到 CPU、GPU 和云基础设施上履行 ,然后完成功能与本钱效益之间的杰出平衡 。

语音帮手  、猜测文本和实时翻译等运用得益于混合 AI 处理技能,从集中式云端转向边际侧和端侧核算 。这种处理办法不只可以缩短呼应时刻 ,增强隐私维护,还能提高能效。

这种由异构核算驱动的分布式模型,使得 AI 可以高效进行扩展,并习惯各种实践需求 。跟着 AI 模型的规划和杂乱性不断添加 ,找到适宜的平衡至关重要 。在许多实践场景中 ,在云端进行推理处理是较为抱负的挑选,尤其是在运用大模型 、处理来自多个数据源的海量数据 ,以及需求快速向广阔用户推送更新的情况下。

构建更智能、更高效的未来。

正如陈述中所着重的,能耗和本钱效益正逐渐成为业界重视的中心问题 。数据。中心。的能耗估计将大幅增加,企业因而也在寻求以更少资源完成更多产出的办法 。异构核算使企业可以智能地办理各类作业负载,然后削减对 GPU 进行强制扩展的需求,节省下来的本钱可以再次投入到立异开发 。

这种灵敏的处理办法还可以协助企业坚持长时间的习惯性。跟着作业负载不断演化 ,企业需求的是那些不会将其局限于固定开展途径 ,也不会迫使企业进行贵重改造的渠道 。而异构核算架构为企业供给了所需的多面性 ,使其在习惯改变的过程中无需做出退让。

《AI 处理的未来》陈述深化探讨了这一全新形式,并汇集了来自 Arm、Meta、 。亚马逊。云 。科技。(AWS) 和 。三星 。等公司高层的观念。假如你正在为新一代 AI 产品规划基础设施,那么这份陈述肯定值得一读 。

发表我的评论
取消评论
表情 签到
流汗坏笑撇嘴大兵流泪发呆抠鼻吓到偷笑得意呲牙亲亲疑问调皮可爱白眼难过愤怒惊讶鼓掌

Hi,您需要填写昵称和邮箱!

<#longshao:bianliang3#>