从2023年初,AMD推出x86平台首款内置NPU的处理器,到2023年底英特尔、高通等巨头相继入局,再到2024年,上到芯片厂商,下到OEM终端厂商,PC行业中的所有参与者都在畅想AI PC概念的未来。不过对大多数消费者来说,AI PC到底是什么呢?
AI PC是一种概念对于真正意义上的AI PC,业界一直没有明确的定义。如果我们从处理器层面来对比以往普通PC和现在AI PC的区别,可以发现:号称AI PC的设备都配备专门的NPU(Neural Processing Unit,神经网络处理单元)来负责处理设备上端侧大部分AI工作负载。所以,从这个角度大家可以认为:“没有NPU,AI PC就无从谈起”,正是NPU让AI PC的AI应用更高效。
此前,NPU在智能手机中已经相当常见,它是专为AI和机器学习任务而设计的专用硬件加速器。与CPU和GPU所扮演的类似“通用”计算处理器的角色不同,NPU用途更加专一,经过优化的它可以处理深度学习相关各种算法所需的复杂计算,这使NPU在处理AI任务时更高效。此外,NPU还可以与CPU和GPU协同工作,以处理复杂的任务需求,提供更快的处理速度。另一方面,由于NPU具备强大的AI算力,再加上它与CPU、GPU的协同,使得PC设备能够在本地运行诸如生成式大模型等AI应用。
▲在x86平台,AMD首次为PC带来NPU。
在x86平台,AMD率先为PC带来NPU。继AMD之后,英特尔、高通相继在自家的PC处理器中集成NPU。正是有了NPU以及它所带来的生态协同作用,我们才能在PC运行深度学习、自然语言处理、计算机视觉等AI技术时,获得更高效、更具个性化的优秀端侧体验。
▲AMD锐龙AI 300系列处理器的NPU算力提升到50 TOPS,不仅完全满足微软Copilot+PC标准,更是目前全球AI PC处理器中的最强NPU。
科技巨头对AI PC有自己的定义,AMD认为AI PC应该是CPU、GPU和NPU的结合。微软不久前推出“Copilot+PC”时提出“所有具备运行生成式AI功能的电脑都可以叫作AI PC。”微软还定义了一套自己的AI PC标准:须配备NPU(算力在40 TOPS以上)、CPU和GPU,并支持微软Copilot,键盘上配有Copilot物理按键。英特尔则认为AI PC就是能玩转AI功能的PC。
▲微软在Build 2024大会上宣布推出“Copilot+PC”架构,它将带来突破性的AI体验。
无论巨头们怎样去定义,在我们看来,AI PC都离不开两点:NPU和生成式AI。因此,我们认为具备NPU而且能够在本地运行生成式AI应用的PC才是AI PC。
目前有哪些支持NPU的平台?首先来看AMD。AMD在2023年初发布的锐龙7040系列处理器中首次为x86平台加入了独立的NPU,正式开启AI PC时代。虽说AMD初代NPU的算力只有10 TOPS,但它为消费者带来了x86平台独家的AI应用体验,也为未来软件和操作系统的进一步发展打好了基础。
▲AMD锐龙AI 300系列处理器的NPU算力提升到50TOPS,大幅超越竞争对手。
2024年初,AMD全新一代锐龙8040系列处理器正式上市。相较于AMD锐龙7040系列处理器,锐龙8040系列处理器的NPU算力从10 TOPS提升到16 TOPS,提升了60%,处理器整体算力从最高33 TOPS提升到最高39 TOPS,在运行语言和视觉大模型方面实现了40%的性能提升。
继锐龙7040系列处理器和锐龙8040系列处理器之后,AMD又在今年6月份发布了其第三代AI PC处理器:锐龙AI 300系列,不仅内置了新一代架构的NPU,CPU和GPU部分的升级变化也都很大。该系列处理器的CPU采用全新的Zen 5架构,官方宣称IPC性能平均提升高达16%,GPU升级为RDNA 3.5架构,性能提升也非常可观。NPU部分则升级到全新的AMD XDNA 2架构,与上代相比,AI 处理能力飙升三倍,达到了惊人的50 TOPS,不仅大幅超过了微软Copilot+ PC标准,更堪称全球AI PC中的最强NPU。
接下来看英特尔。英特尔在2023年底推出的酷睿Ultra系列处理器中首次集成NPU,不过英特尔当时没有公开NPU的算力,只是强调酷睿Ultra整个平台的总体算力达到34 TOPS。2024年6月,英特尔正式公布代号为“Lunar Lake”的下一代移动处理器。Lunar Lake处理器最大的变化是集成了全新的第四代NPU内核(NPU 4),其具备6个Neural Compute引擎、12个强化SHAVE数字信号处理器(DSP)与9MB缓存,能够提供48 TOPS的AI算力。
▲高通骁龙X Elite平台在AI PC市场中也是一位实力强大的“选手”
最后不得不提的还有高通。高通近年来一直在默默耕耘ARM PC,这家公司在2023年10月面向桌面平台推出了全新的骁龙X Elite系列处理器,作为第三势力加入如今AI PC市场的竞争。高通骁龙X Elite系列处理器整合了全新定制的高通Oryon CPU、Adreno GPU以及独立的 Hexagon NPU。这款处理器最大的亮点在于其NPU算力达到45 TOPS,大幅超越同期的其他移动处理器,即便是放到现在,骁龙X Elite的NPU算力和AMD锐龙AI 300、英特尔Lunar Lake的差距也不大,完全满足微软Copilot+PC标准。
总结随着AMD、英特尔全新处理器的推出,以及Arm阵营高通的加入,Windows平台的AI PC将迎来爆发,我们之后买到的每一台笔记本电脑可能都将内置NPU,都能运行生成式AI应用,都是AI PC。了解了AI PC之后,或许大家会问AI PC到底有什么用?是不是就停留在通话降噪、相机自动追焦取景、自动背景模糊等层面?显然不止于此,在上游芯片厂商的带领下,AI PC如今的软件生态已经百花齐放,AI应用落地已经走进千行百业。《微型计算机》一直在对AI PC做持续跟踪报道,纵观业界,率先推出、并已经连续发布三代AI PC处理器的AMD无疑具备先发优势,其产品也更具代表性和多样性,我们接下来就以AMD锐龙AI PC为例,向大家展示现如今AI PC所带来的全新体验。