电子发烧友网报道(文/吴子鹏)根据Yole的研究报告显示,2023年全球MCU市场规模约282亿美元,预计至2028年将以5.5%的年复合增速达到388亿美元。在MCU市场规模稳健增长的过程里,边缘AI是一个重要的市场,Gartner的预测数据指出,到2026年,全球80%的企业将在其业务中引入生成式AI。也就是说,边缘AI不仅市场规模在快速增长,同时AI的水平也在日益提升,这对作为系统核心的MCU提出了更高的要求。
目前,“MCU+AI”已经成为MCU大厂布局的重点,为了让MCU具备更加强大的实力,同时也为了让工程师基于MCU更容易开发AI应用,厂商从软硬件方面进行了多维度的布局。
瑞萨电子:Arm Helium技术+Reality AI Explorer Tier对于瑞萨电子在“MCU+AI”方向上的布局,我们已经进行过很多次的报道,其中比较有代表性的是瑞萨电子对于Arm Helium技术的利用,以及Reality AI Explorer Tier工具的推出。
目前,支持Arm Helium技术的核心主要是Arm Cortex-M52、Arm Cortex-M55和Arm Cortex-M85内核,后者的性能更高。目前,在Arm Cortex-M85内核的使用上,瑞萨电子已经推出了多款产品,包括RA8D1、RA8M1、RA8E1、RA8E2和RA8T1。
2019年,Arm公司推出了适用于Armv8‑M架构的Arm Cortex-M矢量扩展技术 (MVE)——Arm Helium技术,作为Cortex-M处理器系列的矢量扩充方案,大幅度提升了小型、嵌入式设备的机器学习和数字信号处理能力。从具体数据来看,Helium可使信号处理性能提升5倍,ML性能提升15倍,为AI在小型低功耗设备上的普及奠定基础。
在软件工具上,Reality AI在整个行业里都是极具代表性的,这款工具允许工程师基于高级信号处理生成和构建TinyML和Edge AI模型。用户可以自动浏览传感器数据并生成优化模型。Reality AI工具包含用于查找最佳传感器或传感器组合、传感器放置位置和自动生成组件规格的分析,并包括时域、频域方面完全可解释的模型函数,以及用于Arm Cortex M/A/R实现的优化代码。
Reality AI Explorer Tier则是Reality AI Tools软件的免费版本,几乎包含了Reality AI Tools的全部功能,包括自动化AI模型构建、验证和部署模块。
意法半导体:免费工具,MCU和MPU双轨并行意法半导体(ST)在AI工具方面提供了丰富的资源,既有自动机器学习工具NanoEdge AI Studio,也有适用于STM32 MCU的模型优化器STM32Cube.AI,还有ST Edge AI Developer Cloud和面向OpenSTLinux的AI框架等。
其中,STM32Cube.AI可用来在任意STM32 MCU上,对采用最流行AI框架训练的神经网络模型进行优化和部署。该工具可通过STM32CubeMX环境中的图形界面以及通过命令行来使用。该工具现在也可以通过意法半导体边缘AI开发者云在线使用。工程师可以在STM32 Model Zoo找到适用的边缘AI模型,然后这些模型经过优化后可运行在STM32 MCU上。
而ST Edge AI Developer Cloud是在ST设备上开发AI的免费在线服务,提供创建、优化和基准测试工具。它利用ST Edge AI Core技术,支持兼容设备上的AI硬件加速(NPU)。
目前,ST提供超过50个边缘AI案例研究,面向交通运输、农业、可穿戴和家电等领域。在硬件平台方面,工程师可以选择STM32 MCU,更高性能的AI需求也可以使用意法半导体的MPU。
恩智浦:MCU+NPU以及eIQ恩智浦针对“MCU+AI”也提供了丰富的产品,比如集成NPU的MCU——MCX N系列。MCX N系列高度集成的Arm Cortex-M33微控制器旨在实现高性能和低功耗。MCX N系列配备智能外设和片上加速器,可提供多任务功能和高能效。部分MCX N系列产品包含恩智浦面向机器学习应用的eIQ Neutron神经处理单元(NPU)。eIQ Neutron神经处理单元支持多种神经网络,如CNN、RNN、TCN和Transformer网络等。
eIQ不仅是NPU,也是恩智浦推出的一款机器学习软件。恩智浦eIQ机器学习(ML)软件包括eIQ Portal、eIQ Model Tool、eIQ Command-line Tools三个重要组件,开发环境支持在恩智浦EdgeVerse微控制器和微处理器(包括i.MX RT跨界MCU和i.MX系列应用处理器)上使用ML算法。eIQ ML软件包括称为eIQ Toolkit的ML工作流工具以及推理引擎、神经网络编译器和优化库。该软件利用开源的专有技术,并完全集成到恩智浦MCUXpresso软件开发套件和Yocto开发环境中,使工程师可以轻松开发完整的系统级应用。
今年3月份,恩智浦与英伟达宣布达成合作,将英伟达的AI模型运用到恩智浦边缘处理设备当中。这项合作将让开发者借助Nvidia TAO工具包,无缝地将其集成进NXP的eIQ机器学习开发环境,共同推动AI的加速发展。据悉,恩智浦是首个直接内置Nvidia TAO API于AI产品的半导体厂商。
英飞凌:Arm Helium技术、NPU和PSoC 6 AI英飞凌在硬件上的布局是Arm Helium技术和神经网络(NN)加速器共用。在今年的2024年科技日上,英飞凌推出了PSOC Edge系列,该系列产品的设计针对机器学习(ML)应用进行了优化,专为下一代响应式计算和控制应用程序而设计,具有硬件辅助机器学习 (ML) 加速功能。
据介绍,英飞凌PSOC Edge系列MCU基于高性能 Arm Cortex-M55内核打造,包括与 Arm Ethos-U55和 Cortex-M33配对的Helium DSP支持,以及英飞凌的超低网络神经网络加速器。英飞凌PSOC Edge系列MCU包含E81、E83 和 E84三个系列,在性能、功能和内存选项方面具有可扩展性和兼容性。其中,E81采用Arm Helium DSP技术和英飞凌NNLite神经网络(NN)加速器;E83和E84内置Arm Ethos-U55微型NPU处理器,与现有的Cortex-M系统相比,其机器学习性能提升了480倍,并且它们支持英飞凌NNlite神经网络加速器,适用于低功耗计算领域的机器学习应用。
在工具方面,英飞凌在今年推出了全新的综合评估套件PSoC 6 AI评估套件,是一款专注于边缘AI和机器学习(ML)的硬件平台,包括英飞凌的ModusToolbox和Imagimob Studio产品,用于定制边缘ML模型和即插即用的Ready Models。PSoC 6 AI评估套件支持用户评估英飞凌的ML平台Imagimob Studio以及即用型ML模型和其他软件产品。用户可通过PSoC 6 MCU、雷达、声学、压力和IMU传感器实现数据采集。
国产MCU厂商的动作当前,“MCU+AI”已经成为大势所趋,国产MCU厂商同样有所行动。比如,作为国产MCU的龙头企业,兆易创新推出了采用600MHz Arm Cortex-M7高性能内核的GD32H7系列,支持多种硬件加速,内置超大可配高速存储空间,实现兼具高性能和低延迟的实时控制,可用于机器学习和人工智能等应用。
同时,兆易创新也在积极研发AI相关的算法。比如在今年的SNEC第十七届(2024)国际太阳能光伏与智慧能源(上海)展览会上,该公司推出了AI直流拉弧检测方案,采用高性能GD32H7系列MCU,其在500K采样率下可以支持多达12路ADC通道的拉弧检测实时AI推理能力,算法使用深度卷积神经网络,支持对1024、2048和4096采样点的实时检测,模型大小仅占用1.7KB的Flash空间,单次推理耗时不超过0.6毫秒,能够对直流拉弧现象即时响应。
另外,国芯科技也在发力MCU+AI技术领域。三季度,国芯科技推出了支持生成式控制的端侧AI MCU新产品CCR4001S,该芯片基于国芯科技自主RISC-V架构C*Core CPU内核研发,内部配置了AI NPU,支持智能控制算法与自适应变频控制算法,可用于智能家电、工业控制、新能源、机器人等领域。
结语未来,边缘AI是各行业发展的大趋势,也是AI技术落地的下一个阶段,具有巨大的行业潜力。MCU虽然计算和存储资源有限,但是在小型AI应用上面具有独特的优势,因此MCU+AI得到了国内外厂商的广泛关注。不过,从进程来看,和通用MCU市场相似,在MCU+AI领域,国际厂商也是领跑者,国产MCU厂商则是追赶者。