在高度互联的世界中，我们迫切需要在本地，尤其是在采集数据的终端设备上实现更智能、更安全的计算，不论是原始或压缩的视频、图像，还是语音数据。终端市场持续希望计算成本能够下降，而与此同时，计算需求却在不断增长，正如当前广受关注的大语言模型（LLMs）等 AI 模式所体现的那样。除了边缘计算早已为人熟知的优势——如更低延迟、更高安全性和更高效的带宽利用外，AI 还可以为消费者和企业带来更多好处，例如极致个性化、增强隐私保护，以及通过优化云服务访问来降低整体服务成本。
要实现高效的边缘 AI，应对包括音频、语音、视觉、成像、视频、时间序列数据乃至语言处理在内的多种任务，系统级解决方案是关键。Synaptics 的解决方案以 AI 为核心理念而设计，顺应智能家居自动化、电器、数字标牌、可穿戴设备、过程控制等 IoT 市场对边缘推理能力的不断集成。自适应 AI 框架是 Synaptics Astra™ 平台 的核心支柱之一，为系统开发者提供全面支持。
下面让我们一起探讨一个设计良好的 AI-native（原生 AI）边缘解决方案的关键要素。
机器学习模型与开发工具
尽管设备边缘的芯片资源极其有限，但模型规模却在不断增长，因此需要专为资源受限芯片打造的模型版本。神经网络架构搜索（NAS）等框架与方法学能够为目标硬件生成合适大小的模型，同时满足系统服务等级协议（SLA）要求。NAS 通过受限搜索机制为目标硬件构建神经网络，实现延迟和准确率的优化平衡。
想要快速启动边缘 AI 开发之旅，需要有基于业界主流框架的参考模型作为起点。后续阶段则需进行再训练、优化，甚至构建定制版本。AI 平台必须具备足够的灵活性，以便将原始环境数据转化为优化后的模型，同时也能以最小成本将已有模型部署到边缘芯片上。
Synaptics 在视觉、音频、成像、视频和低功耗技术方面拥有深厚的专业积累，能够为关键 IoT 功能集成 AI 提供全套工具。我们在视觉、音频和时间序列数据方面的重点研发方向包括图像分割、姿态估计、目标检测、主动降噪、关键词识别、背景噪声消除、欺诈检测和预测性维护等。
安全模型执行的软件支持
边缘推理所需的运行时软件必须处理多个关键方面。AI 模型作为应用程序的核心，往往被行业玩家视为专有资产，用以构建并维持竞争优势。模型常独立于具体应用而开发，按需调用，因此在安全运行方面需要特别处理。Synaptics 提供的运行时软件通过模型加密和安全认证部署，实现内建安全机制。
异构 AI-native 芯片
随着机器学习模型的演进，新的功能与算子不断加入。这些功能往往更适合在某类硬件（如 NPU、GPU、标准内核或 DSP）上运行。关键在于模型运行要高效，而无需开发者手动配置底层加速器。更复杂的是，很多应用由多个模型拼接而成，在不同计算域之间传递数据、分配内存，使得开发更具挑战。
Synaptics 的应用运行时软件（如下图所示）能帮助开发者解决上述复杂问题。我们一起来看一看其实现方式。
Synaptics 的 AI 软件支持常见的输入框架，例如 TensorFlow、TFLite、TLFM、ONNX、CAFFE 和 PyTorch。开发者可根据网络层级优化模型，并对非量化网络进行数据量化以匹配芯片支持的数据精度。最终生成的网络将被加密并存储在内存中，在运行时由驱动程序通过安全密钥解密。Synaptics 提供功能完善、跨平台的工具包，支持端到端的边缘 AI 流程，目标是让 AI 集成在 IoT 中变得更简单。
总结
构建模型的工具和支持智能运行的软件缺一不可。在提供实现下一代边缘计算应用所需芯片的同时，Synaptics 也致力于构建完善的软件框架，支持 IoT 市场中的复杂应用。欢迎持续关注我们的最新动态，也可以联系 Synaptics 销售团队，于今年 1 月在 CES 2024 了解更多。