NVIDIA Developer 宣布推出了针对自家 Blackwell 架构优化的 NVIDIA DeepSeek R1 同样用 NVIDIA H100 跑,性能提升 25 倍,成本降低 20 倍。
不过本质上就是把 FP8 变成了 FP4, 好在看起来性能损失不大,NV 给的数据是在 MMLU 通用智能基准测试中接近 FP8 的分数。
NVIDIA Developer 宣布推出了针对自家 Blackwell 架构优化的 NVIDIA DeepSeek R1 同样用 NVIDIA H100 跑,性能提升 25 倍,成本降低 20 倍。
不过本质上就是把 FP8 变成了 FP4, 好在看起来性能损失不大,NV 给的数据是在 MMLU 通用智能基准测试中接近 FP8 的分数。
猜你喜欢
【6评论】【48点赞】
【2评论】【1点赞】
【3评论】【2点赞】
【16评论】【84点赞】
【10评论】【17点赞】
【3评论】【2点赞】
作者最新文章
热门分类
科技TOP
科技最新文章