#IoT / 硬件 47 篇
tag: iot-hardware
llama.cpp
⭐ 101.9k C++ AI AgentLLM 推理基础模型
78K stars、9 年沉淀：红队 Swissky 怎么把渗透字典变成 GitHub「事实标准」
⭐ 78.2k Python IoT / 硬件安全 已发布
73K stars 反超 Airflow：Apache Superset 凭 50+ 数据库适配稳坐 ASF 数据栈门面
⭐ 73.1k AI Agent工作流编排数据库 已发布
PaddleOCR
⭐ 72.8k Python LLM 框架LLM 推理IoT / 硬件
GitHub推荐：66K stars，Raspberry Pi 能跑：Vaultwarden 是怎么把 Bitwarden 从 10 个容器压成 50MB 单二进制的
⭐ 66.1k Rust IoT / 硬件 已发布
9 年 61K stars：从越狱黑客到机器人 OS，comma.ai 用 openpilot 重新定义「车主能跑开源 L2」
⭐ 61.2k Python IoT / 硬件协议与规范安全 已发布
jellyfin
⭐ 49.5k C# IoT / 硬件
RuView
⭐ 45.8k Rust IoT / 硬件
LocalAI
⭐ 44.2k Go AI AgentLLM 推理基础模型
exo
⭐ 42.8k Python LLM 推理教育与学习IoT / 硬件
Cal.com
⭐ 40.7k TypeScript IoT / 硬件Web 框架安全
NVIDIA 停服后，社区把 GameStream 复活成 3.7 万 star 的开源串流主机 Sunshine
⭐ 37.8k Objective-C IoT / 硬件协议与规范
GitHub 推荐：6 个月 35.8K stars：llmfit 用 51 万行 JSON 重写本地 LLM 选型
⭐ 35.8k Rust LLM 推理基础模型IoT / 硬件 已发布
GitHub 推荐：35.7K star 却近一年 0 commit：CasaOS 怎么从家用云标杆走向「开源让位」
⭐ 35.8k Go IoT / 硬件协议与规范 已发布
blakeblackshear/frigate
⭐ 31.0k TypeScript LLM 推理基础模型检索与搜索
GitHub推荐：28.8K stars、3 天 1.0 的 Mojo + MAX：高通花 9 个月收购的「AI 推理版 LLVM」到底在改写什么
⭐ 28.8k Python LLM 推理IoT / 硬件 已发布
GitHub 推荐：2.3 月 27K stars：Colibrì 怎么用纯 C + 三层磁盘流式把 744B MoE 跑在消费级硬件上
⭐ 27.5k C Header LLM 推理基础模型IoT / 硬件 已发布
GitHub 推荐：25.8k stars 的 10.5GHz 相控阵雷达：6 个月一个人把全套 BOM 摆上 GitHub
⭐ 25.8k PLSQL IoT / 硬件 已发布
Apple Container
⭐ 25.7k Swift 教育与学习IoT / 硬件安全 已发布
SGLang
⭐ 25.5k Python LLM 推理IoT / 硬件
小智 ESP32 (xiaozhi-esp32)
⭐ 25.4k C++ IoT / 硬件协议与规范
MLX
⭐ 25.1k C++ LLM 框架LLM 推理基础模型
手机离线跑 Gemma 4：拆解 Google 官方设备端 AI 橱窗 Gallery（2.3 万 Star）
⭐ 23.6k 基础模型IoT / 硬件
cs249r_book
⭐ 22.9k Python 开发者工具教育与学习IoT / 硬件
Omarchy
⭐ 21.3k BASH IoT / 硬件 已发布
连 TensorRT 都是它的一个后端：微软 ONNX Runtime 怎么用一套抽象统一 20+ 推理硬件
⭐ 20.8k C++ LLM 推理IoT / 硬件
ebook2audiobook
⭐ 18.5k Python 教育与学习IoT / 硬件音视频
Turso
⭐ 18.1k Rust AI Agent数据库IoT / 硬件
4 个月从 0 到 16K stars：20 岁 BMW 工程师用 Rust 把地球搬进 Minecraft
⭐ 15.9k Rust IoT / 硬件 已发布
GitHub 推荐：4.6 个月 15k stars：把机械设计变成编码 Agent 的 text-to-cad 怎么让 LLM 一天交付一个机器人
⭐ 15.0k Python AI AgentIoT / 硬件协议与规范 已发布
开源到芯片固件的 AI 项链 Omi：96 万行全栈，和它解决不了的「被录者没同意」
⭐ 12.7k IoT / 硬件
两周零经验自学造 GPU：1300 行 Verilog 讲透 SIMT 的 tiny-gpu
⭐ 12.5k SystemVerilog IoT / 硬件
GitHub推荐：2 个月 11.6K stars：一个人把 22 万行 C++ 做成 PS5 → PC 的「Wine」
⭐ 11.6k C++ IoT / 硬件 已发布
GitHub 推荐：22B 单流 DiT 把音视频一次出齐：LTX-2 如何把视频生成压到 Mac 也能跑
⭐ 9.7k Python LLM 推理IoT / 硬件量化与金融 已发布
zvec
⭐ 9.1k C++ LLM 推理检索与搜索数据库 已发布
ytDownloader
⭐ 8.9k JavaScript IoT / 硬件音视频 已发布
8.8K stars、2 年 1765 次 commit：把 KV cache 抽成 KV「操作系统层」的 LMCache，怎么把 LLM 推理加速 8 倍
⭐ 8.9k Python IoT / 硬件 已发布
GitHub推荐：4 个月 8.2K stars：单 C 二进制怎么撑起 158 语言代码图
⭐ 8.2k C AI AgentIoT / 硬件协议与规范 已发布
moonshine-ai/moonshine
⭐ 7.6k transcriber IoT / 硬件音视频生成式媒体
asg017/sqlite-vec
⭐ 7.2k C LLM 框架检索与搜索数据库 已发布
Jane Street 的 magic-trace：把没人会用的 Intel PT 变成一键看进程最后 10ms 在干嘛
⭐ 6.1k OCaml LLM 推理开发者工具IoT / 硬件
319 行代码、5.8k star：怎么把 Android 模拟器塞进 Docker、当服务跑进 CI
⭐ 5.8k Shell IoT / 硬件
vLLM-Omni
⭐ 4.1k Python LLM 推理基础模型IoT / 硬件 已发布
RuVector
⭐ 3.7k Rust 开发者工具检索与搜索数据库
GitHub 推荐：Magnitude：80 天 3.2K Stars，YC 团队如何用 Rust+Effect 把本地 LLM 推理做成 Agent 的「零 token 后端」
⭐ 3.2k Rust AI AgentAI 编程LLM 推理 已发布
Pyrite64
⭐ 2.9k C++ IoT / 硬件
Music Assistant：把 40 个音乐源塞进一台家庭服务器的自托管中枢
⭐ 2.2k Python AI AgentIoT / 硬件音视频 已发布