vllm-project/vllm
vLLM 是一个高吞吐、显存高效的 LLM 推理与服务引擎。
截至 2026年10月22日，vllm-project/vllm 共有 95,038 个 Star，2026年10月21日 以来新增 501 个，在本周模型与推理榜排第 8。
- 总 Star
- 95,038
- 近 1 天
- +501
- 2026年10月21日 起
- +501
- 本周总榜
- #42
- 分类
- 模型与推理
- 语言
- Python
每日 Star 历史从 2026年10月22日 开始。
链接
同类模型与推理项目
- deepseek-ai/DeepInfer · 18,843 ★ · +3,838 /7天面向DeepSeek模型的开源离线推理框架，包含优化算子、并行与调度功能。
- Comfy-Org/ComfyUI · 141,762 ★ · +769 /7天基于节点图的扩散模型本地推理界面与后端，支持图像、视频、音频和3D生成。
- Niko1221/Strata · 30,133 ★ · +744 /7天Strata 是一个本地推理引擎，可在消费级硬件上运行 Qwen3.8-Flash-Next 模型。
- tashfeenahmed/freellmapi · 39,146 ★ · +674 /7天将34个免费大模型提供商的接口聚合为单一OpenAI兼容端点，支持智能路由与自动故障转移。
- Fractal-Compute-Orchestrations/FractalWorkspace · 3,101 ★ · +671 /7天一个面向联邦学习与边缘模型训练的分布式编排框架，支持 Android 与 Python 节点。
- Fractal-Compute-Orchestrations/FractalAndroid · 3,010 ★ · +666 /7天安卓边缘计算客户端，支持端侧联邦学习与分布式机器学习任务。
- headroomlabs-ai/headroom · 77,434 ★ · +564 /7天在内容进入大模型前本地压缩工具输出、日志、文件与RAG片段，减少token消耗。
- rohitg00/ai-engineering-from-scratch · 72,204 ★ · +329 /7天开源 AI 工程课程，542 节课，涵盖模型原理、检索管线与智能体运行时。
给 README 加徽章
数据：GitHub GraphQL API 每日 Star 总数快照，新增 Star = 两次快照之差；GitHub 搜索与 GH Archive 用于发现项目。 每天北京时间 10:30 左右更新，统计到前一个完整 UTC 日。 · 整理：Kai