各个云平台在自己提供DeepSeek服务或教用户如何部署DeepSeek时,基本都是推荐用SGLang这个框架:
github.com/sgl-project/sglang
包括NVIDIA、AMD、Azure、字跳的火山引擎、Vultr等等
各个云平台在自己提供DeepSeek服务或教用户如何部署DeepSeek时,基本都是推荐用SGLang这个框架:
github.com/sgl-project/sglang
包括NVIDIA、AMD、Azure、字跳的火山引擎、Vultr等等
作者最新文章
热门分类
科技TOP
科技最新文章