ZJU-LLMs/Foundations-of-LLMs 深度分析报告
浙江大学 DAILY Lab 出品的开源 LLM 教材「大模型基础」，16K+ Stars，系统覆盖从传统语言模型到 RAG 的六大主题，配套 238 篇经典论文列表与 Arxiv 周报。
仓库基本数据
| 指标 | 数值 |
|---|---|
| Stars | 16,016 |
| Forks | 1,521 |
| Watchers | 182 |
| Issues（Open/Closed） | 53 / 14 |
| Pull Requests | 1 |
| 主语言 | 无（纯文档/PDF 项目） |
| License | Other（CC 协议） |
| 创建时间 | 2024-06-30 |
| 最近推送 | 2025-12-12 |
| 磁盘占用 | 93 MB（GitHub）/ 195 MB（含 .git） |
| 总提交数 | 86 |
| 默认分支 | main |
| 官网 | https://www.agent-kernel.tech/ |
核心文件构成：
- 完整版 PDF（中文）：21 MB，6 章分章节 PDF 合计 31 MB
- 英文版 PDF（GPT 翻译草稿）：44 MB
- 经典论文列表：238 篇，按章节分类
- Arxiv 一周进展报告：12 期，共 60 篇论文解读
- 总文件数：72 个 PDF/MD 文件
作者画像
组织：ZJU-LLMs
浙江大学数据库与大数据智能分析实验室（DAILY Lab）的 GitHub 账号，2024 年 4 月创建，892 followers，共 4 个公开仓库：
| 仓库 | Stars | 说明 |
|---|---|---|
| Foundations-of-LLMs | 16,016 | 本项目，LLM 教材 |
| Agent-Kernel | 335 | 微内核多智能体框架 |
| Awesome-LoRAs | 268 | LoRA 资源列表 |
| OpenStory | 28 | 故事生成项目 |
核心作者
- 毛玉仁（xuwenyi@zju.edu.cn）：浙江大学「百人计划」研究员、博士生导师，「启真」优秀青年学者，复杂系统与数据工程研究所常务副所长。主导撰写本教材，研究方向包括模型编辑、知识图谱、大模型应用。
- 高云君：浙江大学教授、博士生导师，软件学院副院长、计算机软件研究所副所长，研究方向为数据库、大数据管理与分析、DB 与 AI 融合。
贡献者分布
| 贡献者 | 提交数 | 身份推测 |
|---|---|---|
| wenyisir | 30 | 毛玉仁（主要维护者） |
| ZJU-LLMs | 23 | 组织账号 |
| LJHzju（Jiahui Li） | 12 | 实验室成员 |
| A11en0（Allen） | 9 | 实验室成员 |
| bigbigwatermalon | 5 | 实验室成员 |
| 其他 3 人 | 各 1-3 | 社区贡献者 |
共 8 位贡献者，典型的学术团队主导模式，核心开发集中在 2-3 人。
社区热度
Star 增长趋势
- 总量：16,016 Stars，在中文 LLM 教材类项目中排名前列
- 平均增速：约 728 Stars/月（22 个月累计）
- 近期增速：约 5.9 Stars/天（177 Stars/月），增长已趋于平稳
- 峰值期：2024 年 7 月（37 次提交，教材首发期），大量中文技术媒体报道推动了爆发式增长
开发活跃度
提交按月分布显示典型的学术项目生命周期：
| 月份 | 提交数 | 阶段 |
|---|---|---|
| 2024-06 | 19 | 项目创建 |
| 2024-07 | 37 | 高峰期（首发推广） |
| 2024-08 | 9 | 回落 |
| 2024-10 | 4 | 低活跃 |
| 2024-11 | 10 | Arxiv 周报更新 |
| 2024-12 | 3 | 低活跃 |
| 2025-01 | 1 | 最后的周报 |
| 2025-12 | 3 | Agent-Kernel 推广更新 |
当前状态：2025 年 1 月后仅有 2025 年 12 月的 3 次提交（更新 README 推广 Agent-Kernel），实质内容更新已停滞近一年。
社区互动特征
- Issue 以勘误和内容讨论为主，互动质量高
- 未使用 Label 管理 Issue，管理较粗放
- 仅 1 个 PR（社区提交），外部贡献门槛高（PDF 为主的项目天然如此）
- 无 Release、无 Topic 标签
竞品清单
| 项目 | Stars | 特点 | 差异 |
|---|---|---|---|
| datawhalechina/llm-cookbook | ~12K | 面向开发者的 LLM 应用教程 | 偏实战，本书偏理论 |
| mlabonne/llm-course | ~50K | 英文 LLM 课程，含实操 notebook | 英文，资源聚合型 |
| karpathy/LLM101n | ~31K | Karpathy 的 LLM 课程 | 名人效应，从零构建 |
| rasbt/LLMs-from-scratch | ~42K | 从零构建 LLM 的代码教程 | 代码驱动，本书是纯理论 |
| 赵鑫等《大语言模型》 | N/A | 人大出版社出版教材 | 更全面，但非开源 |
| 邱锡鹏《大语言模型：基础与前沿》 | N/A | 复旦出版，含前沿展望 | 学术性更强 |
本书的独特定位：中文 + 学术严谨 + 完全开源 PDF + 配套论文列表 + B 站视频（35 万观看）。在「中文开源 LLM 理论教材」这个细分领域几乎没有同等量级的直接竞品。
关键 Issue 信号
| # | 标题 | 评论数 | 状态 | 信号 |
|---|---|---|---|---|
| #7 | 第一章捉虫 | 7 | Open | 读者深度阅读并反馈勘误 |
| #1 | 第一章第1页，什么叫做语言是概率的？ | 3 | Open | 技术讨论，说明读者认真思考 |
| #48 | 请问能分享B站视频的PPT吗？ | 4 | Open | PPT 需求强烈，说明有教学场景 |
| #39 | arxiv一周进展报告不更新了吗？ | 3 | Open | 用户期待持续更新 |
| #44 | 难理解、难理解、难理解 | 2 | Open | 部分内容门槛较高 |
| #55 | 内容更正，20页，73页，165页 | 2 | Open | 持续勘误 |
| #38 | 希望更新epub格式 | 2 | Open | 多格式需求 |
核心信号：Issue 反映出这是一本被「真正阅读」的教材。勘误、内容讨论、格式需求、更新催促——这些都是有效阅读行为的信号。但 Open Issue 积压较多（53 个开放 vs 14 个关闭），维护响应有待加强。
知识入口
- GitHub 仓库：https://github.com/ZJU-LLMs/Foundations-of-LLMs
- DeepWiki：https://deepwiki.com/ZJU-LLMs/Foundations-of-LLMs
- 官网：https://www.agent-kernel.tech/（已指向新项目 Agent-Kernel）
- B 站视频课程：配套视频教程，35 万观看
- 知乎讨论：浙江大学毛玉仁、高云君等老师的电子书《大模型基础》怎么样？
- CSDN 专题：多篇介绍文章，搜索「大模型基础 浙江大学」可达
- 联系邮箱：xuwenyi@zju.edu.cn
- 微信群：README 底部有微信群二维码
项目展示素材
- 封面设计：六种动物对应六章内容，视觉辨识度高，适合公众号封面
- 目录结构：6 章 x 5-6 节的清晰 HTML 表格，可直接截图
- Star 增长：16K Stars 的教材级项目，是「中文学术圈开源影响力」的典型案例
- 论文列表：238 篇经典论文按章节分类，本身就是一份高价值学习路线图
- Arxiv 周报标题：如「TPO：平民版 OpenAI-O1」「Coconut 从语言脑到推理脑」，标题创意值得参考
动机与定位
创作动机
作者团队来自浙江大学 DAILY Lab，研究方向涵盖模型编辑、知识图谱、RAG 等 LLM 核心领域。教材的创作动机可归纳为三点：
- 教学需求：为浙大计算机/软件学院的研究生课程提供系统教材
- 学术输出：将实验室在模型编辑（第5章）、RAG（第6章）等方向的研究积累体系化
- 开源社区建设：通过高质量开源教材建立学术影响力，吸引研究生生源
定位
「一本面向研究生的中文 LLM 理论教材」——不是入门教程，不是代码实战，而是用学术论文的严谨性讲解 LLM 的理论基础。每章以一种动物为例贯穿全篇，试图在「严谨」和「易读」之间取得平衡。
作者视角
从作者团队的行为模式可以推断其视角：
- 学术优先：教材内容高度学术化，每章都有大量公式推导和论文引用，不追求「面向小白」
- 体系化意识强：6 章内容构成从基础到应用的完整链路（语言模型基础 → LLM 架构 → Prompt → 微调 → 编辑 → RAG）
- 持续更新承诺与执行的落差：README 宣称「月度更新」，但 2025 年实际仅有零星更新，Arxiv 周报也在 2025 年初停更。团队精力可能已转向 Agent-Kernel 项目
- 推广意识：README 首行已改为推广 Agent-Kernel 框架，说明教材项目在团队内部的优先级已下降
内容架构（替代「架构与设计决策」）
六章体系
第1章 语言模型基础
├── 1.1 基于统计方法的语言模型
├── 1.2 基于 RNN 的语言模型
├── 1.3 基于 Transformer 的语言模型
├── 1.4 语言模型的采样方法
└── 1.5 语言模型的评测
第2章 大语言模型
├── 2.1 大数据 + 大模型 → 新智能
├── 2.2 大语言模型架构概览
├── 2.3 基于 Encoder-only 架构的大语言模型
├── 2.4 基于 Encoder-Decoder 架构的大语言模型
├── 2.5 基于 Decoder-only 架构的大语言模型
└── 2.6 非 Transformer 架构（SSM/Mamba/RWKV）
第3章 Prompt 工程
├── 3.1 Prompt 工程简介
├── 3.2 上下文学习
├── 3.3 思维链
├── 3.4 Prompt 技巧
└── 3.5 相关应用
第4章 参数高效微调
├── 4.1 参数高效微调简介
├── 4.2 参数附加方法
├── 4.3 参数选择方法
├── 4.4 低秩适配方法（LoRA）
└── 4.5 实践与应用
第5章 模型编辑
├── 5.1 模型编辑简介
├── 5.2 模型编辑经典方法
├── 5.3 附加参数法：T-Patcher
├── 5.4 定位编辑法：ROME
└── 5.5 模型编辑应用
第6章 检索增强生成
├── 6.1 检索增强生成简介
├── 6.2 检索增强生成架构
├── 6.3 知识检索
├── 6.4 生成增强
└── 6.5 实践与应用配套资源体系
仓库根目录
├── 《大模型基础》教材/ # 完整版 + 分章节 PDF
├── Foundations_of_LLMs(English_version)/ # 英文翻译版（GPT 草稿）
├── 大模型经典论文列表/ # 238 篇论文，按章节分类
├── Arxiv 一周进展报告（大模型方向）/ # 12 期周报，60 篇论文解读
└── figure/ # 封面图、微信二维码内容层次分析
- 第1-2章（理论基础）：从 n-gram 到 Transformer 到 Mamba，覆盖语言模型的完整演进史。这部分是教科书级别的内容，学术性很强。
- 第3章（Prompt 工程）：上下文学习、思维链等热门话题，是全书最「实用」的章节。
- 第4章（参数高效微调）：LoRA 及其变体，这是当前最热门的实践方向之一。
- 第5章（模型编辑）：ROME、T-Patcher 等方法——这是作者团队的核心研究方向，内容深度明显高于其他章节。
- 第6章（检索增强生成）：RAG 的系统性介绍，从架构到实践。
创新点
-
「一章一动物」的叙事设计：每章选择一种动物作为贯穿全篇的示例载体，在学术教材中非常罕见。这种设计大幅提升了可读性，也形成了鲜明的品牌辨识度（六种动物封面）。
-
教材 + 论文列表 + Arxiv 周报的三层知识体系：
- 教材 PDF 提供系统知识
- 238 篇论文列表提供深度阅读路径
- Arxiv 周报提供时效性前沿追踪
这三层构成了从「入门→进阶→前沿」的完整学习闭环。
-
模型编辑章节的深度：作为国内首个系统讲解模型编辑（Knowledge Editing）的中文教材章节，将 T-Patcher、ROME 等方法用教材级别的严谨性呈现，填补了中文 LLM 教育资源在这一方向的空白。
-
开源 PDF + 中英双语：在中文 LLM 教材普遍以出版社纸质书为主的市场中，完全免费开源的高质量 PDF 教材具有稀缺性。英文版虽为 GPT 翻译草稿，但扩大了国际可达性。
可复用模式
-
学术教材的开源推广模式：PDF 开源 → B 站视频引流 → 微信群沉淀 → 建立学术影响力。这一路径可被其他高校研究组复制。
-
论文列表即学习路线图：238 篇论文按章节和主题分类，每篇标注会议/期刊、年份、PDF 链接和代码链接。这种格式可作为任何技术领域的 Awesome List 模板。
-
Arxiv 周报的标题风格：如「TPO：平民版 OpenAI-O1，思维能力遥遥领先！」「Coconut 从语言脑到推理脑，大模型连续潜在空间推理」——用公众号标题党风格包装学术论文解读，兼顾传播性和准确性。
-
教材项目的 README 结构：使用 HTML 表格展示目录，每章配独立 PDF 链接，是文档类仓库的优秀 README 范例。
竞品交叉分析
与 mlabonne/llm-course 对比
| 维度 | Foundations-of-LLMs | llm-course |
|---|---|---|
| 语言 | 中文为主 | 英文 |
| 形式 | PDF 教材 | Markdown + Notebook |
| 深度 | 学术论文级 | 工程实践级 |
| 交互性 | 无（纯 PDF） | 高（可运行代码） |
| Stars | 16K | 50K |
| 目标读者 | 研究生/研究者 | 工程师/开发者 |
与 rasbt/LLMs-from-scratch 对比
| 维度 | Foundations-of-LLMs | LLMs-from-scratch |
|---|---|---|
| 方法论 | 理论推导 + 论文引用 | 代码实现 + 逐步构建 |
| 覆盖面 | 6 个主题广覆盖 | 聚焦 LLM 构建本身 |
| 动手度 | 低（阅读为主） | 高（边写边学） |
| 适合场景 | 学术研究入门 | 工程理解 LLM 原理 |
核心差异化
本书在竞品矩阵中占据「中文 + 学术理论 + 完全免费」的独特位置。市面上其他中文 LLM 教材多为付费出版物（赵鑫《大语言模型》、邱锡鹏《大语言模型：基础与前沿》），或偏实战（Datawhale 的 llm-cookbook）。
内容质量
优势
- 学术严谨：公式推导完整，论文引用规范，图表专业
- 体系完整：从统计语言模型到 RAG，构建了完整的 LLM 知识框架
- 特色章节突出：模型编辑（第5章）和 RAG（第6章）的深度在同类教材中领先
- 配套丰富：238 篇论文列表 + 60 篇 Arxiv 周报 + B 站视频
不足
- 时效性滞后：教材内容截至 2024 年中，未覆盖 o1/DeepSeek-R1/Claude 3.5 等重要进展；Arxiv 周报止于 2025 年 1 月
- 缺少关键主题：RLHF/DPO 对齐、推理增强（CoT 仅在 Prompt 章节简述）、多模态、Agent 等 2024-2025 年的核心热点未作为独立章节
- 英文版质量低：标注为 GPT 直接翻译的草稿，未经人工校对
- 交互性为零：纯 PDF 格式，无代码示例、无 Notebook、无练习题
- 更新停滞：宣称「月度更新」但已近一年未实质更新，与承诺不符
勘误响应
Issue 中有多个勘误报告（#7、#52、#55），但部分长期处于 Open 状态，修复响应速度有待提升。
快速判断
一句话总结：浙大 DAILY Lab 出品的中文 LLM 理论教材，在「中文 + 开源 + 学术级」这个交叉点上几乎没有竞品，但内容更新已停滞，部分热门主题缺失。
适合谁：
- 需要中文 LLM 理论教材的研究生和教师
- 希望系统了解模型编辑、PEFT、RAG 等方向的研究者
- 需要 LLM 经典论文阅读清单的自学者
不适合谁：
- 需要最新技术（o1、Agent、多模态）的从业者
- 需要代码实践的工程师
- 英文阅读无障碍的学习者（英文资源选择更多）
选题价值：★★★★☆
- 优势：16K Stars 的学术教材项目本身就是好故事；「一章一动物」的设计有趣；浙大品牌背书；中文受众天然匹配公众号
- 风险：内容更新停滞可能引发「项目是否还活跃？」的质疑；纯理论教材的公众号传播力弱于有 demo 的项目
- 建议角度：以「中国高校如何用 GitHub 做学术传播」为切入点，或聚焦「LLM 自学路线图」推荐本书 + 论文列表的组合