vLLM
vllm-project/vllm
高吞吐推理引擎，生产环境部署大模型的主流选择
- 星数
- ★ 92.4k
- 语言
- Python
- 许可证
- Apache-2.0
- 最近更新
- 2026-09-22
- 分类
- AI 工具
- 场景
- 通用工具
同类工具
把网页抓成干净的 Markdown 喂给大模型，省掉清洗环节
一条命令在本地跑 Llama、Qwen 等大模型，断网也能用
最流行的文生图 WebUI，插件和模型生态最大
LLM 应用开发平台，拖拽编排工作流再发布成 API
可视化搭 LLM 流程，改一个节点立刻看到效果
自托管 ChatGPT 界面，支持多模型、知识库和团队账号