国产GPU助力,摩尔线程实现对DeepSeek蒸馏模型推理服务部署Dee

许攸评体育啊 2025-02-04 21:55:33

国产 GPU 助力,摩尔线程实现对 DeepSeek 蒸馏模型推理服务部署

DeepSeek 开源模型(如 V3、R1 系列)在多语言理解与复杂推理任务中展现了卓越性能。摩尔线程智能科技(北京)有限责任公司今日发文宣布,摩尔线程实现了对 DeepSeek 蒸馏模型推理服务部署。

从摩尔线程官方获悉,通过 DeepSeek 提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产 GPU 上实现高性能推理。

0 阅读:0
许攸评体育啊

许攸评体育啊

感谢大家的关注