#LLM 框架 95 篇
tag: llm-framework
GitHub推荐：AutoGPT：3 年 8800 commits，AI Agent 鼻祖如何从一条推文变成 SaaS 平台
⭐ 186.4k Python AI AgentLLM 框架开发者工具 已发布
langgenius/dify
⭐ 133.9k TSX AI AgentLLM 框架开发者工具
open-webui
⭐ 128.2k JSON LLM 框架数据库协议与规范
GitHub 推荐：105K stars 的 Postgres Firebase：Supabase 把开源工业级组件拼成的事实标准
⭐ 105.4k TSX LLM 框架检索与搜索数据库 已发布
awesome-llm-apps
⭐ 103.0k Python AI AgentLLM 框架教育与学习
MarkItDown
⭐ 93.3k Python AI AgentLLM 框架开发者工具
ai-agents-for-beginners
⭐ 77.2k Jupyter Notebook AI AgentLLM 框架教育与学习
16年76K stars背后：Elasticsearch称霸搜索的5个关键技术决策
⭐ 76.8k Java AI AgentLLM 框架检索与搜索 已发布
RAGFlow
⭐ 75.8k Python AI AgentLLM 框架基础模型
PaddleOCR
⭐ 72.8k Python LLM 框架LLM 推理IoT / 硬件
Pathway
⭐ 61.8k Python LLM 框架
6 万 Star 的自托管 S3 霸主，社区版却被归档
⭐ 61.2k Go LLM 框架安全
MinerU
⭐ 58.2k Python LLM 框架工作流编排协议与规范
个人开发者 3 个月 5.4 万 star：Understand-Anything 把代码库变成会教学的知识图谱
⭐ 54.3k TypeScript AI AgentAI 编程LLM 框架
AI 操作软件该看屏幕还是敲命令？港大 42K star 押注命令行
⭐ 52.5k Python AI AgentLLM 框架开发者工具
Flowise
⭐ 51.6k TS AI AgentLLM 框架工作流编排
GitHub推荐：12 年 50K stars：Cypress 凭「在浏览器里跑测试」反杀 Selenium，又在 AI 时代与 Playwright 抢云端
⭐ 50.6k TypeScript LLM 框架工作流编排协议与规范 已发布
4.6 个月 43.6K star 的 codegraph：不让模型更聪明，只让它少迷路
⭐ 43.7k TypeScript AI AgentAI 编程LLM 框架
Milvus
⭐ 43.4k Go LLM 框架检索与搜索数据库
Cherry Studio
⭐ 43.0k TypeScript+TSX LLM 框架基础模型协议与规范
原作者两度弃坑、社区接力救活：42K star 的自托管文档管理冠军 paperless-ngx
⭐ 42.0k Python LLM 框架基础模型开发者工具
伪装成 MySQL，用 SQL 查数据也跑 AI
⭐ 39.3k Python AI AgentLLM 框架数据库
claude-mem
⭐ 39.0k JavaScript AI AgentAI 编程LLM 框架 已发布
创始人 fork 自家公司、反超母体：35K star 的 Nextcloud 怎么成欧盟数据主权旗舰
⭐ 37.1k PHP LLM 框架协议与规范
37k star 的 GA 开源替代 Umami：不写 cookie、不存 IP，怎么还能把访客数算对
⭐ 37.1k TypeScript AI AgentLLM 框架
GitHub 推荐：89 天 15K stars：HKUDS 把 LLM Agent 套到量化交易，造了一台「会自己写策略」的个人研究员
⭐ 35.5k Python AI AgentLLM 框架LLM 推理 已发布
微软都在用它的协议：33.6K star 的 agent 前端栈 CopilotKit 如何靠 AG-UI 立标准
⭐ 33.6k TypeScript AI AgentAI 编程LLM 框架
Vane
⭐ 33.3k TypeScript LLM 框架检索与搜索协议与规范
dspy
⭐ 33.0k Python LLM 框架LLM 训练检索与搜索 已发布
ai-engineering-hub
⭐ 32.5k TypeScript AI AgentLLM 框架基础模型
onyx
⭐ 32.5k Python LLM 框架检索与搜索协议与规范
graphrag
⭐ 31.7k Python LLM 框架开发者工具检索与搜索
seaweedfs/seaweedfs
⭐ 31.1k Go LLM 框架教育与学习
ruflo (claude-flow)
⭐ 30.0k TypeScript AI AgentAI 编程LLM 框架
HKUDS/LightRAG
⭐ 29.8k Python LLM 框架
GitHub推荐：11 个月 28K stars：Vectorize 开源的 Agent 记忆系统 Hindsight 拿下 LongMemEval 第一
⭐ 28.1k Python AI AgentAI 编程LLM 框架 已发布
GitHub推荐：27K Star 的 AI 数据库客户端 Chat2DB：把自然语言接到 JDBC 的工程范本
⭐ 27.1k Java AI AgentLLM 框架数据库 已发布
开源版 Bloomberg 终端 FinceptTerminal：25K star，从 Python 重写成 C++/Qt 壳 + Python 数据引擎
⭐ 25.9k Python AI AgentLLM 框架LLM 推理
kotaemon
⭐ 25.2k Python LLM 框架
MLX
⭐ 25.1k C++ LLM 框架LLM 推理基础模型
GitHub推荐：24×–51× token 压缩：把 200 页技术书压成 4K skill，巴西 SRE 的 Agent Skills 编译流水线
⭐ 24.6k Python AI AgentAI 编程LLM 框架 已发布
Graphiti
⭐ 24.1k Python AI AgentLLM 框架检索与搜索
PageIndex
⭐ 22.5k Python LLM 框架检索与搜索数据库
Project N.O.M.A.D.
⭐ 21.8k TypeScript LLM 框架LLM 推理基础模型
Open Notebook
⭐ 21.3k Python LLM 框架检索与搜索教育与学习
OpenViking
⭐ 21.1k Python AI AgentLLM 框架开发者工具 已发布
GitHub 推荐：code-review-graph：21k Stars 用一张图让 AI 只读 1% 代码，单人 4 个月干出来的本地代码知识图谱
⭐ 21.1k Python AI 编程LLM 框架协议与规范 已发布
为什么 1.7 万行代码能拿 2 万 star？RAG-Anything 只补了多模态这一层
⭐ 21.0k Python LLM 框架
GitHub 推荐：6 个月 20K stars：把 Claude Code 的 context 省下 98% 的 MCP 神器
⭐ 20.8k TypeScript AI AgentAI 编程LLM 框架 已发布
MaxKB
⭐ 20.6k Python AI AgentLLM 框架开发者工具
给 AI agent 开的交易竞技场，多数却跑输
⭐ 19.4k Python AI AgentLLM 框架
abhigyanpatwari/GitNexus
⭐ 18.6k TypeScript AI AgentLLM 框架 已发布
GitHub 推荐：一个人 2.5 个月写 6036 stars：/watch 如何让 Claude「真看」YouTube 视频
⭐ 18.6k Python AI AgentAI 编程LLM 框架 已发布
AgentScope
⭐ 18.3k Python AI AgentLLM 框架LLM 训练
Supermemory
⭐ 17.1k TSX AI AgentAI 编程LLM 框架 已发布
$287 账单逼出的 16.9K star：给 AI agent 省 token 的可逆压缩层
⭐ 16.9k Python AI AgentLLM 框架协议与规范
GoogleCloudPlatform/generative-ai
⭐ 16.5k Python AI AgentLLM 框架教育与学习
GitHub 推荐：4 个月 16K stars：Google 把 Cloud 知识做成 Agent Skills 抢滩下一代标准
⭐ 16.2k Python AI AgentAI 编程LLM 框架 已发布
Agent Lightning
⭐ 15.5k Python AI AgentLLM 框架LLM 训练
HKUDS/DeepCode
⭐ 15.0k Python AI AgentAI 编程LLM 框架
cognee
⭐ 15.0k Python AI AgentLLM 框架开发者工具
Memvid
⭐ 14.2k Rust LLM 框架检索与搜索数据库
SurfSense
⭐ 13.7k Python AI AgentLLM 框架基础模型
WeKnora
⭐ 13.5k Go LLM 框架工作流编排
Anthropic 放弃的 RAG 路，Milvus 母公司偏要走：代码语义检索 MCP claude-context（1.2 万 Star）
⭐ 11.8k LLM 框架开发者工具协议与规范
2.5 个月 10.9k stars：单人 98% 主导的 turbovec 怎么把 Google 论文做成 FAISS 的 ARM 杀手
⭐ 10.9k Python LLM 框架LLM 推理基础模型 已发布
Mapbox 闭源后，原班团队如何把 MapLibre 救成开源地图事实标准
⭐ 10.8k / LLM 框架
LEANN
⭐ 10.3k Python LLM 框架编辑器与知识库检索与搜索 已发布
10.2k star 的 CocoIndex：两个前 Google 工程师把「增量索引」做成数据工程界的 React
⭐ 10.2k Rust AI AgentLLM 框架检索与搜索
万星小镇的 1KB 玄学：a16z × Convex 的 AI Town 凭什么让 8 个 NPC 自己聊出性格
⭐ 10.0k TypeScript AI AgentLLM 框架LLM 推理 已发布
4 个月 9.4K star 的 liteparse：TS 重写成 Rust 提速 100x，一份核心跑遍 Python/Node/浏览器
⭐ 9.4k Rust LLM 框架基础模型
Rowboat
⭐ 9.4k TypeScript/TSX AI AgentLLM 框架工作流编排
Open SWE
⭐ 9.2k Python AI AgentAI 编程LLM 框架
18 个月、35k 行代码、一人写完 8.5K stars 的本地 AI 笔记：Reor 把 RAG 装进 Markdown 编辑器后归档了
⭐ 8.6k TSX AI 编程LLM 框架LLM 推理 已发布
GitHub 推荐：32 个月 8.4K stars：Boundary 用自研语言 + 自研 VM 把 LLM 集成做出"跨 5 语言 SDK"的不可能三角
⭐ 8.5k / AI AgentLLM 框架基础模型
asg017/sqlite-vec
⭐ 7.2k C LLM 框架检索与搜索数据库 已发布
拒绝玩具 RAG：7 周手搓一套生产级系统
⭐ 6.8k Python AI AgentLLM 框架教育与学习
GitHub 推荐：4.8 个月 6.7K stars：中文发明人的「交底+查新+答复」一站式 Claude Skill
⭐ 6.7k Python AI AgentLLM 框架
nilsherzig/LLocalSearch
⭐ 6.0k Svelte AI AgentLLM 框架LLM 推理
Klavis
⭐ 5.7k JSON AI AgentLLM 框架基础模型
LiteRT-LM：Google 把 Gemma 跑进手机和手表的端侧 LLM 引擎，NPU 加速超 llama.cpp
⭐ 5.5k GLSL LLM 框架LLM 推理基础模型
GitHub 推荐：8.5 个月 5000 stars：Searx 作者 Adam Tauber 把「私人搜索引擎」做成了 MCP 时代的 RAG 基础设施
⭐ 5.0k TypeScript LLM 框架检索与搜索协议与规范 已发布
Yuxi-Know
⭐ 4.8k Python AI AgentLLM 框架工作流编排
Cloudflare Agents
⭐ 4.7k TypeScript AI AgentLLM 框架检索与搜索
GitHub 推荐：13 个月 4.7K commits、3 天涨 1100 star：code-graph-rag 怎么把「图 RAG 召回率」做成开源议题
⭐ 3.8k Python LLM 框架LLM 推理检索与搜索 已发布
OpenRAG
⭐ 3.7k Python LLM 框架开发者工具检索与搜索
GitHub推荐：Google 4 个月孵化的 Agent 基质：3K stars 拿下 10x 密度提升的运行时赌注
⭐ 3.0k Go AI AgentLLM 框架开发者工具 已发布
GitHub推荐：Apache 孵化器首款 Agent Runtime：Maka 如何用「Log 即运行时」改写 AI Agent 的工程范式
⭐ 2.9k TypeScript AI AgentLLM 框架开发者工具 已发布
GitHub推荐：3个月2577星：wigolo如何把 Agent 网页能力搬回本地
⭐ 2.6k TypeScript AI AgentLLM 框架检索与搜索 已发布
ColPali
⭐ 2.6k Python LLM 框架
rlama
⭐ 1.1k Go AI AgentLLM 框架LLM 推理
amla-sandbox
⭐ 320 Python AI AgentLLM 框架安全 已发布
Claude-code-memory
⭐ 72 Python AI 编程LLM 框架LLM 推理
从工程师内部痛点到 42K stars：LlamaIndex 怎么把 LangChain 逼到反向加数据层
⭐ 42 Python AI AgentLLM 框架基础模型 已发布
GitHub 推荐：阿里开源 OpenCodeReview：13K stars + 1/9 token 的「确定性 × Agent」AI 审查引擎
AI AgentAI 编程LLM 框架 已发布