Github上一个全面的大型语言模型(LLM)教学项目(2025年版)
github.com/mlabonne/llm-course
该项目分为三个主要部分:LLM 基础知识、LLM 科学家和 LLM 工程师。LLM 基础知识部分包括数学、Python 编程、神经网络的基础知识,以及自然语言处理的相关技术。LLM 科学家部分涵盖了 LLM 架构的深入理解、数据准备、分布式训练、监控、超参数调整、优化技术、评估方法以及量化等内容。LLM 工程师部分则专注于如何运行 LLMs、构建向量存储、实现检索增强生成(RAG)、优化推理、部署 LLMs 以及确保 LLMs 的安全性。