“螺狮壳里做道场”,业界首款AIPC背后的技术和混合AI新范式

陆玖商业评论 2024-04-19 09:10:04

4月18日,在联想创新科技大会 (Lenovo Tech World)上,联想正式发布了具备五大特征的AI新物种 —— 业界首款真正意义上的AI PC。

相比于传统PC,AI PC具备五大特征:内嵌个人大模型并与用户自然交互;建立在本地的个人知识库;包含CPU、GPU和NPU的本地异构AI算力;连接开放的人工智能应用生态;个人数据和隐私安全保护。

联想研究院为联想AIPC打造了多项关键技术,包括智能检索增强的本地知识服务、异构混合计算技术、领先的模型压缩与推理加速以及混合意图理解技术等。AIPC深度洞察用户个人需求和偏好,可提供个性化服务和设备控制,能有效保障用户隐私和数据安全,实现轻量快捷、高效低耗的智能调度,是您的贴心陪伴型个人助理。

知你懂你:通过个性化本地知识库的构建和使用、模型微调和检索增强等技术,深度整合个人知识和数据,精准洞察用户意图需求,服务并响应用户个性化需求。

智能调度:利用多种异构算力,如GPU、CPU、NPU等,合理分配工作负载,协作完成推理任务。采用异构混合计算技术,智能调度各种计算单元,实现系统资源的最优配置,提供灵活的AI工作负载解决方案,满足不同场景下的计算需求。

轻量快捷:通过场景化的定向增强、模型压缩、异构推理加速等技术,使模型推理能高效在端侧运行,实现模型的轻量化运行和快速推理,显著提升响应速度的同时降低30%内存占用,与主流新品厂商进行全面适配和深度调优。

自然交互:混合意图理解技术,通过融合大模型的深度理解能力、小模型的灵活性和规则库的精确知识,确保意图识别的准确度和广泛适用性,实现模型的轻量化和快速响应,多层次意图理解机制由粗到细精准捕捉用户意图,为用户打造更自然流畅的交互体验。

联想集团副总裁,联想研究院人工智能实验室负责人范建平博士带领的团队是联想AI PC 背后核心技术的打造者。在大会现场举办的大模型分论坛上,他的主题演讲《面向AI新范式的联想解决方案》剖析了联想AI PC背后所展现的、以混合智能(Hybrid AI) & 智能体(AI Agent) 为代表的AI新范式。同时他也分享了联想端侧个人智能体的一系列核心技术,具体解读了联想AI PC的五大特征。他形象地说:“联想AI PC就是要实现‘螺蛳壳里做道场’”!

参加分论坛的学界和业界专家也对大模型和新的AI范式进行了解读。复旦大学计算机科学技术学院教授、博士生导师张奇呼吁 忘记AGI、涌现、对齐、激发…… 从统计机器学习角度再出发。同济大学百人计划特聘研究员、OpenKG发起人王昊奋相信,检索增强生成技术将使大模型深入千行百业,不仅让广泛应用成为可能,更确保了高效和易用性。阿里云飞天实验室大模型算法负责人周伟提到,小尺寸模型正在加速终端创新,而终端是大模型重要的载体和切入口,蕴含丰富的机遇和落地场景。基于端云结合的大模型服务将成为产业智能化的新范式。

在圆桌环节,英特尔高级首席工程师刘骏,以及AMD 软件定制工程AIPC大模型应用首席研发总监王玮琦,与其他三位专家,一起探讨了大模型端侧化及其在行业中的应用、大模型在端侧落地中Hybrid AI异构计算等话题。

大模型和AI智能体已成为了推动人工智能未来发展的关键力量。联想集团首席技术官、高级副总裁芮勇博士在分论坛上表示:“联想愿意与业界伙伴一起打造混合式 AI 框架,用最先进的混合式 AI 技术,发展基于大模型的智能体,构建智能设备、智能基础设施、智能解决方案,赋能千行百业!“

0 阅读:5