主页 / 公司 / 博文 / 混合AI如何融合边缘与云端,打造更智能的连接设备

混合AI如何融合边缘与云端,打造更智能的连接设备

混合AI - 边缘AI与云AI协同工作

长期以来,AI设备主要靠云端完成智能处理:设备负责采集数据并上传云端,由云端分析后再返回结果。这种模式依赖云端算力和数据能力,但也带来延迟、带宽成本、隐私和连接稳定性等问题。边缘AI可以有效缓解这些问题。

混合AI(Hybrid AI)不是简单的折中,而是一种架构选择:根据任务特点,将计算合理分配到边缘和云端。在“云—边—云”协同模式下,边缘负责低时延、实时响应任务,云端负责复杂推理与大规模计算。通过合理分工,系统可以在合适的位置提供更快、更高效、更注重隐私的智能能力。

为什么“云优先AI”并不总是最优解

在云优先模式下,设备采集数据后上传云端,等待分析结果和指令再执行。该方式适用于需要大规模算力、集中存储或全局信息的任务。但每一次交互都可能带来延迟、带宽消耗、云端成本以及对网络连接的依赖,因此并不总是最优方案。

混合AI将智能前移到数据产生的源头,让设备在本地完成语音、动作、声音识别或初步决策,提升响应速度与效率,并降低成本。

如果所有操作都依赖云端,会持续产生计算与存储开销,还未必带来价值。但混合架构将任务拆分:本地处理即时、简单、确定性的任务,云端处理复杂、历史性和计算密集型任务。因此,混合AI的核心不是“云端或本地”的选择,而是根据价值与性能,将智能放在最合适的位置。

边缘侧提供“实用型智能”

云端提供海量知识与复杂推理能力,边缘侧提供即时可用的本地智能能力。大多数设备并不需要持续依赖云端,而是需要在具体场景中快速响应的实用型智能。

在语音交互中,用户与设备的沟通不需要每次都上传云端。边缘侧就可以完成语音唤醒、说话人识别、理解命令并直接执行,让交互更快、更自然。

例如用户对咖啡机说:“做一杯加双份浓缩的卡布奇诺。”这类标准指令可以在本地直接解析并执行,无需云端参与。只有在涉及复杂问题或跨场景推理时,设备才会调用云端能力。简单、重复、实时的任务在本地处理;复杂、需要知识或计算的任务交给云端。多语言能力也是类似机制:云端负责提供模型更新与语言扩展能力,日常语音理解与执行则在边缘侧完成。

边缘与云端AI如何协同提升决策效率 

混合AI通过合理分工,将任务分配到最合适的计算位置:边缘侧负责实时性,云端负责复杂计算与全局能力。需要低时延或避免频繁云端往返的任务更适合在边缘侧处理,包括语音唤醒、意图识别、音频增强,以及环境感知类任务,如声音事件检测、人员存在感知、基础视觉筛选和初步场景判断。云端则更适合处理全局性能力,包括历史数据分析、深度推理、长期学习和大规模检索。

在安防摄像头场景中,传统云端方案需要上传大量视频进行存储与分析,成本高且效率低。而混合AI摄像头可以在本地完成实时判断,只上传关键结果,例如重要片段、截图或事件元数据。例如,普通路过的快递员可以被忽略,而夜间异常进入院区的人员会被识别为重点事件。云端再对上传的关键数据进一步分析,并将结果回传设备,用于持续优化本地判断能力。

总体而言,云端负责模型训练、全局学习、长期存储与复杂推理;边缘侧负责实时决策与事件筛选。二者结合,使设备具备即时响应能力与持续进化能力。

如何“合理配置”边缘智能

工程师容易从云端能力出发,把复杂模型“压缩”到设备上。但更合理的做法,是从设备实际需求出发,先定义它到底需要完成什么任务。

如果设备只需要支持单一语言,就没有必要部署多语言大模型;如果只需要识别少量关键事件,也不需要覆盖所有可能场景。关键在于任务拆解与资源匹配:根据算力、内存、功耗、时延等约束,选择合适模型,并设计好边缘与云端的切换机制。当设备在本地无法完成任务时,可以平滑升级到云端处理;处理完成后再返回结果或优化本地模型。通过这种方式,系统可以在正确的位置使用合适的智能,实现更快响应、更高效率和更稳定的体验。

边缘设备的云连接能力

边缘侧负责实时任务处理,而云连接能力让设备在需要时调用更大规模的云端能力。Wi-Fi 7等高速连接技术可以提升边云协同效率,使本地推理与云端交互更快、更稳定。 

但连接能力增强并不意味着减少本地智能设计。关键在于设备能否智能决定:哪些数据需要上传、何时上传,以及何时依赖云端。Synaptics SYN765x平台,将边缘计算能力与先进无线连接结合,使设备能够只上传必要信息、快速获取云端结果,并在网络不稳定时仍保持本地运行,实现更可靠的混合AI体验。

混合AI将如何改变未来设备

混合AI最直接的价值,是让现有产品变得更好用。以汽车为例,很少有人会读用户手册。如果车辆可以用自然语言直接回答“怎么操作”“这个功能是什么”,用户体验会立刻改善:问题更少、使用更顺畅、支持成本更低。产品并不是“变成机器人”,而是变得更易用、更直观。

混合云边架构不仅会催生新产品形态,也会让现有产品更智能、更响应、更易用。其关键在于:设备能够在本地智能与云端能力之间,做出合理选择。

对工程师来说,核心目标不是让设备“什么都做”,而是“在正确的位置做正确的事”。设计时应先明确问题本身:哪些必须在本地实时完成,哪些可以稍后处理,哪些必须依赖云端能力。再据此构建云边协同系统,让边缘与云端相互配合,而不是相互替代。

Synaptics SYN765x提供了面向AI原生连接计算的边缘智能平台能力,支持设备更高效地实现云边协同。

John Weil

John Weil 是新突思(Synaptics)物联网与边缘人工智能处理器事业部副总裁。在加入新突思之前,John 曾担任 Foundries.io 的首席营销官(CMO),在推动以软件即服务(SaaS)为核心的新业务开发方面发挥了关键作用。他还曾在 Cypress Semiconductor Corporation 担任高管职位,出任物联网子系统事业部副总裁兼总经理。职业早期,John 曾在飞思卡尔半导体(Freescale Semiconductor)任职多个岗位,包括工业微控制器(MCU)解决方案的运营与市场经理,以及全球产品与技术赋能经理。 John 毕业于美国罗斯霍曼理工学院(Rose-Hulman Institute of Technology),获得电气工程学士学位。

Read more by John Weil
AI 边缘计算
接收最新消息