开源 AI 日报 08.03：Karpathy 押注的 NVMe 流式推理，与新进榜的实时语音 Agent 框架
开源 AI 日报 · 2026-08-03 · 数据源：GitHub Trending + 大牛 Star 快照 + 本站 380+ 篇报告
📌 今日导读
今日 16 个 Trending 里有 11 个 AI 仓库，但 大牛侧没有「多位同时 star」 的强信号，最重的一票来自 Karpathy——他把一个能把 2.78T 参数 Kimi K3 跑在内存外的零依赖 C 引擎 star 进了收件箱；与此同时，新进榜的 livekit/agents 把实时多模态语音智能体做成框架。三条看点：
- → 新星：livekit/agents 新进榜，把实时语音/视频 AI 智能体做成 LiveKit 之上的标准框架
- → 大牛在看：Karpathy 押注 sqliteai/waste，NVMe 流式权重 + 零依赖 C 引擎跑 Kimi K3
- → 升温：Panniantong/Agent-Reach 让 Agent 直接读 Twitter/Reddit/YouTube/B 站；antirez/ds4 把 DeepSeek 4 Flash 本地化
🌟 开源新星
今日 Trending 里的 AI 新仓库（优先未被深度分析过的）
1. livekit/agents · ⭐ 11.8k · Python · 新进榜
基于 LiveKit 构建实时多模态语音/视频 AI 智能体框架。
要点：复用 LiveKit 的 WebRTC 传输层，把多模态对话延迟压到生产级；站在 LiveKit 实时音视频这条已经很成熟的基建之上做 Agent，而不是自己再造传输轮子。
2. Alishahryar1/free-claude-code · ⭐ 43.9k · Python · 新进榜
在终端/IDE/手机免费调用 Claude Code、Codex、Pi 多模型客户端。
要点：覆盖终端、应用、IDE、手机四端入口并支持语音，走「OpenClaw 风格」的多客户端路线。
📖 本站已有深度报告 → /reports/alishahryar1_free-claude-code
👀 大牛在看
白名单 AI 大牛自上次日报以来新 star 的项目（今日无多人同时 star，Karpathy 这条最重）
3. sqliteai/waste · ⭐ 1.5k
被 Andrej Karpathy star：把 2.78 万亿参数的 Kimi K3 跑在内存之外——通过 NVMe 流式加载激活权重，零依赖、可嵌入的 C 推理引擎。
要点：当模型尺寸超过单机 RAM 时，传统思路是卸载到 CPU/SSD 缓存；waste 的做法更激进——直接从 NVMe 把激活权重流到计算设备，把「超大规模模型在单机能跑」这件事的成本拉到 SSD 级别。Karpathy 这种「从零造轮子、押注极简栈」的选择，与他早年对 llama.cpp / 极简 C/C++ 推理栈的关注一脉相承。
4. Loongphy/codex-auth · ⭐ 2.4k
被 swyx star：CLI 切换/管理 Codex 账号的小工具。
5. hamzarehmandeveloper/claude-account · ⭐ 65
被 swyx star：Linux 下 Claude Code 多账号切换、免重新登录。
6. mgaitan/pytest-leak-finder · ⭐ 28
被 Simon Willison star：定位 pytest 中哪个测试泄漏内存，而不是看哪个测试失败。
🔥 升温追踪
跨窗口持续上榜、动量强的 AI 仓库
- Panniantong/Agent-Reach — 持续上榜 · ⭐ 65.4k · 给 AI Agent 装上「看全网的眼睛」：统一 CLI 读写 Twitter/Reddit/YouTube/GitHub/B 站/小红书，零 API 费用。 📖 /reports/panniantong_agent-reach
- antirez/ds4 — 持续上榜 · ⭐ 20.2k · Redis 作者 antirez 的 DeepSeek 4 Flash / PRO 本地推理引擎，覆盖 Metal/CUDA/ROCm。 📖 /reports/antirez_ds4
- esengine/DeepSeek-Reasonix — 持续上榜 · ⭐ 29.6k · DeepSeek-native 终端 AI 编码 Agent，核心优化点是 prefix-cache 稳定性，可以长驻终端。 📖 /reports/esengine_deepseek-reasonix
- TencentCloud/TencentDB-Agent-Memory — 持续上榜 · ⭐ 11.7k · 把团队级对话/文档/代码沉淀成 Chat Memory / Skill / LLM-Wiki / Code-Graph 四类可治理、可共享的 Agent 记忆资产。 📖 /reports/tencentcloud_tencentdb-agent-memory
- shiyu-coder/Kronos — 21 天上榜 · ⭐ 35.7k · 金融市场语言的基础模型。 📖 /reports/shiyu-coder_kronos
- microsoft/VibeVoice — 19 天上榜 · ⭐ 51.1k · 微软开源的「前沿语音 AI」。 📖 /reports/microsoft_vibevoice
📚 旧文重读
与今日主题相关、值得回看的本站历史深度报告
- TencentDB Agent Memory：腾讯把 Agent 记忆工程化的四件套 — 与今日「升温追踪」同源；Chat Memory / Skill / LLM-Wiki / Code-Graph 的分工可作为「团队级 Agent 记忆」参考实现。
- antirez/ds4：Redis 之父的 DeepSeek 4 本地推理三件套 — 当 Karpathy 押注 NVMe 流式推理时，可以对照 antirez 的 Metal/CUDA/ROCm 本地路线，两条路径代表「本地大模型」的两种哲学。
- lyogavin/airllm：单卡 4GB 跑 70B 模型 — 与 sqliteai/waste 的「内存外流式推理」同属「把超大模型塞进小机器」一脉，可对照读。
🔧 方法与来源
本期：开源新星 2 条 · 大牛在看 4 条 · 升温 6 条 · 旧文 3 篇。 数据来自 GitHub Trending（2026-08-03 榜）+ 白名单大牛 Star 快照（2026-08-02 起）+ 本站 380+ 篇深度分析。开源信号确定性聚合，外部增强为 best-effort 补充。
本文由「开源 AI 日报」自动汇编。更多开源项目深度解析见 https://seeyeetech.com/github-explorer/