JustVugg/colibri
用C编写的MoE推理引擎，按需从磁盘流式加载专家，在普通硬件上运行超大规模模型。
截至 2026年11月11日，JustVugg/colibri 共有 49,856 个 Star，2026年11月5日 以来新增 1,940 个，在本周模型与推理榜排第 5。
- 总 Star
- 49,856
- 近 1 天
- +284
- 2026年11月5日 起
- +1,940
- 本周总榜
- #44
- 分类
- 模型与推理
- 语言
- C
每日新增 Star
2026年11月5日 – 2026年11月10日 · 峰值 +368/天
链接
同类模型与推理项目
- cactus-compute/cactus · 14,655 ★ · +8,475 /7天Cactus 是面向移动与嵌入式设备的边缘推理引擎，包含自定义量化、内核和计算图运行时。
- NVIDIA/auto-ontology · 11,636 ★ · +5,497 /7天NVIDIA 推出的 Python 框架，基于企业元数据构建语义本体层，为 LLM 与智能体提供可信数据上下文。
- Niko1221/Strata · 43,034 ★ · +2,772 /7天Strata 是一个本地推理引擎，可在消费级硬件上运行 Qwen3.8-Flash-Next 模型。
- tashfeenahmed/freellmapi · 50,463 ★ · +2,723 /7天将34个免费大模型提供商的接口聚合为单一OpenAI兼容端点，支持智能路由与自动故障转移。
- Alishahryar1/free-claude-code · 68,398 ★ · +1,854 /7天一个将 Claude Code 等编程代理接入 61 家模型提供方的代理工具。
- Zagitta/gpu-unlock · 18,630 ★ · +1,765 /7天在 Linux 上解锁 GeForce RTX 20/30/40 显卡的完整张量核心算力。
- cheaper-inference/OmniRoute · 86,392 ★ · +1,720 /7天开源 MIT AI 网关，单一端点接入 375 家供应商、1400 多个模型。
- rohitg00/ai-engineering-from-scratch · 78,406 ★ · +1,480 /7天开源 AI 工程课程，542 节课，涵盖模型原理、检索管线与智能体运行时。
给 README 加徽章
数据：GitHub GraphQL API 每日 Star 总数快照，新增 Star = 两次快照之差；GitHub 搜索与 GH Archive 用于发现项目。 每天北京时间 10:30 左右更新，统计到前一个完整 UTC 日。 · 整理：Kai