又双叒叕是快讯!Groq公司的LPU又一次超越了英伟达的H100AI处理器!这

星空表哥 2025-02-06 03:21:58

又双叒叕是快讯!

Groq公司的LPU又一次超越了英伟达的H100 AI处理器!这一次是以颠覆式的“软件定义”理念!抢占了这个市场!

LPU最擅长处理有序串行任务,非常适合大语言模型的特性!在速度上,LPU运行一个大语言模型,比H100快10倍!推理成本只需要H100十分之一!吞吐量达到每秒500个tokens!基于LPU的大模型,比起基于H100的大模型,速度提升了18倍!

这对于英伟达来说,是致命一击!如果LPU继续保持领先,甚至有可能蚕食英伟达的市场份额,赶英伟达出AI处理器的赛道!

0 阅读:0
星空表哥

星空表哥

感谢大家的关注