开源 AI 日报 07.08:8 位大牛一夜集体下注 ONNX 与分布式推理
开源 AI 日报 · 2026-07-08 · 数据源:GitHub Trending + 大牛 Star 快照 + 本站 380+ 篇报告
📌 今日导读
今日 8 位白名单大牛的新 Star 罕见地高度收敛到「ONNX 模型互转 + 本地/分布式 LLM 推理」一条赛道:欧阳志平一夜连看 tract、tensorflow-onnx、Paddle2ONNX、candle-vllm、candle-lora、llamacpp-distributed-inference 等 6 个仓库,Simon Willison 之外几乎所有新 Star 都围绕「把模型从 PyTorch/TF/Paddle 拽到 ONNX,再在 ONNX 之上做推理与部署」这条主线。同期 Trending 11/15 为 AI,新星则呈现另一面:Agent 技能框架持续发力(superpowers / agent-skills / TencentDB-Agent-Memory / DesktopCommanderMCP),办公 Agent 化方向 iOfficeAI/OfficeCLI 连续上榜、OfficeCLI 排名 +2 上扬。
- 大牛集中下注 ONNX 互转与本地/分布式推理 → 详见「大牛在看」
- Agent 技能框架与本地记忆新星扎堆 → 详见「开源新星」
- superpowers 69 天连续上榜,OfficeCLI 动量上扬 → 详见「升温追踪」
🌟 开源新星
今日 Trending 里的 AI 新仓库(优先未被深度分析过的)
1. MadsLorentzen/ai-job-search · ⭐ 13.5k · TypeScript · 连榜
把 Claude Code 改造成求职助理,Fork 后自动评估岗位匹配度、定制简历、生成求职信并准备面试。
要点:把现有 Agent 框架做「垂直场景化」的轻量范本
2. addyosmani/agent-skills · ⭐ 72.9k · JavaScript · 排名 ↑1
Google Chrome 团队 Addy Osmani 出品,给 AI 编程代理用的「生产级工程技能包」。
📖 已有深度报告 → /reports/addyosmani_agent-skills
3. TencentCloud/TencentDB-Agent-Memory · ⭐ 7.4k · TypeScript · 新进榜
腾讯云出品:本地四层渐进流水线为 AI Agent 提供长期记忆,零外部 API 依赖。
要点:把 Agent 记忆做成「可本地化、可渐进加载」的数据库级方案,补齐 Agent 长期上下文短板
4. mvanhorn/last30days-skill · ⭐ 50.5k · Python · 新进榜
AI 代理技能,跨 Reddit、X、YouTube、HN、Polymarket 与 Web 调研任意话题并生成「带来源」摘要。
📖 已有深度报告 → /reports/mvanhorn_last30days-skill
5. iOfficeAI/OfficeCLI · ⭐ 11k · C# · 排名 ↑2
专给 AI Agent 用的 Office 套件:单二进制、无需安装 Office,Agent 可直接读写 Word/Excel/PPT。
要点:填补「AI 办公自动化里 Office 文件读写」的空白,Agent 跑批处理的瑞士军刀 📖 已有深度报告 → /reports/iofficeai_officecli
6. asgeirtj/system_prompts_leaks · ⭐ 53.6k · JavaScript · 排名 -4
持续扒 Claude / GPT / Gemini / Grok / Cursor 等主流产品的系统提示,定期更新。
📖 已有深度报告 → /reports/asgeirtj_system_prompts_leaks
7. obra/superpowers · ⭐ 249k · Shell · 新进榜
Agentic skills 框架与软件开发方法论,把 Claude Code 的「技能」抽象成可复用、可组合的工程实践。
📖 已有深度报告 → /reports/obra_superpowers
8. alibaba/zvec · ⭐ 14.2k · C++ · 新进榜
阿里巴巴出品:轻量、进程内、闪电级向量数据库,主打端侧与本地检索。
📖 已有深度报告 → /reports/alibaba_zvec
9. wonderwhy-er/DesktopCommanderMCP · ⭐ 6.3k · TypeScript · 新进榜
为 Claude 装上终端控制、文件检索与 diff 编辑能力的 MCP 服务器。
要点:把 Claude 从「聊天」拉回「干活的桌面助理」,MCP 生态里最实用的工具服务器之一
10. bradautomates/claude-video · ⭐ 5.7k · Python · 排名 -3
一条 /watch 命令让 Claude 下载、抽帧、转写并理解任意视频,把多模态上下文拼起来喂给模型。
11. TencentCloud/CubeSandbox · ⭐ 8.7k · Rust · 排名 -9
面向 AI Agent 的硬件隔离沙箱,冷启动 <60ms,兼容 E2B SDK,腾讯云出品。
要点:让 Agent 跑在「真沙箱」而非进程级隔离里,补上 Agent 安全的最后一块拼图
👀 大牛在看
自上次日报以来白名单大牛新 Star 的项目(多人同时 star 置顶;今日 8 项信号高度收敛,7 项与 ONNX/分布式推理相关)
12. sonos/tract · ⭐ 3k
欧阳志平 关注于 2026-07-07。
Sonos 出品的轻量 ONNX/NNEF 推理引擎,覆盖嵌入式 ARM 到 WebAssembly,主打端侧。
13. onnx/tensorflow-onnx · ⭐ 2.5k
欧阳志平 关注于 2026-07-07。
把 TF/Keras/TF.js/TFLite 模型一键转 ONNX,跨框架部署的官方转换器。
14. EricLBuehler/candle-vllm · ⭐ 693
欧阳志平 关注于 2026-07-07。
基于 Candle 的本地 LLM 推理服务,内置 Flash Attention 与 KV 压缩,OpenAI 兼容 API。
15. Mesh-LLM/mesh-llm · ⭐ 1.3k
欧阳志平 关注于 2026-07-07。
聚合多机 GPU/内存成分布式推理集群,对外暴露 OpenAI 兼容接口,把家用 PC 拼成推理节点。
16. PaddlePaddle/Paddle2ONNX · ⭐ 934
欧阳志平 关注于 2026-07-07。
把飞桨模型导出为 ONNX,运行于 TensorRT/OpenVINO 等多种推理引擎,飞桨生态走出国门的关键路径。
17. EricLBuehler/candle-lora · ⭐ 176
欧阳志平 关注于 2026-07-07。
为 Candle 提供 LoRA 适配器,支持权重合并以避免推理性能损失。
18. ADT109119/llamacpp-distributed-inference · ⭐ 88
欧阳志平 关注于 2026-07-07。
基于 llama.cpp RPC 跨局域网多机分布式推理,配 Electron 桌面端,让家里几台机器合力跑大模型。
19. wouterdebie/davit · ⭐ 539
Simon Willison 关注于 2026-07-07。
通过 XPC 直连 Apple 容器服务的原生 macOS 图形界面,Simon 关注的「macOS 原生体验」类小工具。
📌 今日大牛信号一句话总结:欧阳志平连续两天把目光放在「ONNX 互转 + 分布式推理」赛道,7 个 star 全部命中同一主线——这是「让模型跑在本地,跑在自家硬件」的明确信号;与今日 Trending 里的 Agent 技能/MCP 工具走向形成清晰互补。
🔥 升温追踪
跨窗口持续上榜、动量强的 AI 仓库
- obra/superpowers — 69 天上榜 · ⭐ 249k · Agentic skills 框架与软件开发方法论 〔📖 /reports/obra_superpowers〕(https://seeyeetech.com/github-explorer/reports/obra_superpowers/)
- anthropics/claude-code — 28 天上榜 · ⭐ 136k · Anthropic 官方终端 Agent 〔📖 /reports/anthropics_claude-code〕(https://seeyeetech.com/github-explorer/reports/anthropics_claude-code/)
- sansan0/TrendRadar — 27 天上榜 · ⭐ 54k · AI 舆情监控多平台聚合
- google/adk-go — 25 天上榜 · ⭐ 6k · Google 官方 Go Agent 工具包 〔📖 /reports/google_adk-go〕(https://seeyeetech.com/github-explorer/reports/google_adk-go/)
- NousResearch/hermes-agent — 24 天上榜 · ⭐ 201k · 自成长 Agent 〔📖 /reports/nousresearch_hermes-agent〕(https://seeyeetech.com/github-explorer/reports/nousresearch_hermes-agent/)
- thedotmack/claude-mem — 23 天上榜 · ⭐ 78k · Agent 跨会话持久记忆 〔📖 /reports/thedotmack_claude-mem〕(https://seeyeetech.com/github-explorer/reports/thedotmack_claude-mem/)
- HKUDS/LightRAG — 23 天上榜 · ⭐ 30k · EMNLP2025 RAG 〔📖 /reports/hkuds_lightrag〕(https://seeyeetech.com/github-explorer/reports/hkuds_lightrag/)
- msitarzewski/agency-agents — 22 天上榜 · ⭐ 126k · 一套「人格化」专家 Agent 集合
- volcengine/verl — 22 天上榜 · ⭐ 17k · 字节火山 LLM RL 〔📖 /reports/volcengine_verl〕(https://seeyeetech.com/github-explorer/reports/volcengine_verl/)
- GibsonAI/Memori — 20 天上榜 · ⭐ 8.8k · LLM 多 Agent 记忆引擎
- mattpocock/skills — 16 天上榜 · ⭐ 156k · 工程师视角的 Claude Code 技能 〔📖 /reports/mattpocock_skills〕(https://seeyeetech.com/github-explorer/reports/mattpocock_skills/)
- bytedance/deer-flow — 15 天上榜 · ⭐ 74k · 字节自研长程 SuperAgent harness
- ChromeDevTools/chrome-devtools-mcp — 18 天上榜 · ⭐ 45.6k · 编程代理专用的 Chrome DevTools 〔📖 /reports/chromedevtools_chrome-devtools-mcp〕(https://seeyeetech.com/github-explorer/reports/chromedevtools_chrome-devtools-mcp/)
- microsoft/VibeVoice — 18 天上榜 · ⭐ 45.4k · 微软开源前沿语音 AI 〔📖 /reports/microsoft_vibevoice〕(https://seeyeetech.com/github-explorer/reports/microsoft_vibevoice/)
📚 旧文重读
与今日主题相关、值得回看的本站历史深度报告(核心导流位)
- OpenClaw — 接入 22+ 通信渠道的全能本地 AI 执行 Agent,Agent 平台化范本
- sst/opencode — 供应商中立的开源终端 AI 编码代理,Claude Code 对手
- AUTOMATIC1111/stable-diffusion-webui — Stable Diffusion 的「Windows」,事实标准级开源图像生成 UI
- 微软 PowerToys — 30 个 Windows 增强工具统一架构,大厂大型开源桌面软件教科书
🔧 方法与来源
本期:开源新星 11 条 · 大牛在看 8 条 · 升温 14 条 · 旧文 4 篇。 数据来自 GitHub Trending(2026-07-08 榜 · AI 占比 11/15) + 白名单大牛 Star 快照(2026-07-07 起) + 本站 380+ 篇深度分析。 开源信号确定性聚合,亮点描述基于 README 首屏,失败项已回退 facts.description。
本文由「开源 AI 日报」自动汇编。更多开源项目深度解析见 https://seeyeetech.com/github-explorer/