裔说

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
热搜:
查看:2|回复:35

[转帖] I未来更高效的A建更智能异构计算构

[复制链接]
楼主
发表于2025-07-04 07:47:37|只看该作者回帖奖励|倒序浏览|阅读模式

    人工智能。异构(。计算AI 。构建更智高效) 不再仅仅一个科研课题 ,异构它已然成为咱们日常日子的计算一部分。从个性化医疗 、构建更智高效 。异构智能。计算可穿戴设备 ,构建更智高效到沉溺式数字文娱以及自主机器人,异构AI 正在重塑咱们日子 、计算作业和立异的构建更智高效办法。但是异构 ,跟着 AI 运用日益杂乱,计算底层的构建更智高效基础设施也有必要随之不断演进 。

    这正是麻省理工科技谈论洞悉 (MIT 。 Te。chnology Review Insights) 与 。 Arm 。联合发布的新陈述《AI 处理的未来 (The Future of AI Processing)》所聚集的中心关键 。该陈述深化洞悉了企业怎么从头审视本身的核算战略 ,以满意当下 AI 开展的需求 ,并为未来改变做好预备 。

    何为异构核算 ?

    这一改变的中心在于异构核算,该办法将 AI 作业负载分配到不同类型 。处理器。(如。 CPU。 、 。GPU。、NPU 及其他 AI 加速器)上。每个组件都具有其共同的优势:CPU 担任全体的和谐作业 ,一起处理通用使命 ,以及进行高能效的推理作业;GPU 凭仗强壮算力,可以支撑大规划的练习以及高吞吐量的运算;而 NPU 则针对实时推理进行优化 。

    这种架构组合 ,可以让核算体系依据作业负载的特色,动态地将其匹配到更适宜的处理器上 ,然后针对功能 、能效和本钱进行优化 。

    Arm 工程部 。机器学习 。技能副总裁 Ian Bratt 在陈述中指出 :异构核算旨在提高功能和能效 。某个作业负载可以运行在最适宜的组件上 ,但其间的某部分或许更适合运行在另一个组件上 。

    AI 在作业 、文娱及日子中广泛运用。

    该陈述侧重论述了异构核算怎么在各种运用中完成更智能、更高效的 AI。例如:

    可穿戴设备和。智能家居 。设备利用小型端侧处理器进行实时推理,一起将个性化设置、形式识别等较为杂乱的使命转移至云端处理  。

    农业和制造业中的 。工业机器人 。交融了。核算机视觉。与机器学习技能,并凭借异构核算在动态环境中完成低推迟与能耗优化  。

    流媒体和游戏等文娱渠道将推理 、编码和个性化处理等使命,合理分配到 CPU 、GPU 和云基础设施上履行 ,然后完成功能与本钱效益之间的杰出平衡 。

    语音帮手、猜测文本和实时翻译等运用得益于混合 AI 处理技能,从集中式云端转向边际侧和端侧核算 。这种处理办法不只可以缩短呼应时刻 ,增强隐私维护,还能提高能效。

    这种由异构核算驱动的分布式模型,使得 AI 可以高效进行扩展  ,并习惯各种实践需求 。跟着 AI 模型的规划和杂乱性不断添加,找到适宜的平衡至关重要 。在许多实践场景中,在云端进行推理处理是较为抱负的挑选,尤其是在运用大模型、处理来自多个数据源的海量数据 ,以及需求快速向广阔用户推送更新的情况下 。

    构建更智能、更高效的未来。

    正如陈述中所着重的 ,能耗和本钱效益正逐渐成为业界重视的中心问题 。数据 。中心。的能耗估计将大幅增加,企业因而也在寻求以更少资源完成更多产出的办法。异构核算使企业可以智能地办理各类作业负载  ,然后削减对 GPU 进行强制扩展的需求,节省下来的本钱可以再次投入到立异开发。

    这种灵敏的处理办法还可以协助企业坚持长时间的习惯性 。跟着作业负载不断演化  ,企业需求的是那些不会将其局限于固定开展途径 ,也不会迫使企业进行贵重改造的渠道。而异构核算架构为企业供给了所需的多面性 ,使其在习惯改变的过程中无需做出退让。

    《AI 处理的未来》陈述深化探讨了这一全新形式,并汇集了来自 Arm、Meta、。亚马逊。云 。科技 。(AWS) 和 。三星。等公司高层的观念。假如你正在为新一代 AI 产品规划基础设施 ,那么这份陈述肯定值得一读  。


您需要登录后才可以回帖 登录 | 注册

本版积分规则

百科|热点|知识|时尚|焦点|综合| ( 浙ICP备991366号-1 )

Powered by 裔说X3.4

© 2001-2017

返回顶部