gitpulse

vllm-project/vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

97,101 sao24,929 forkPythonApache-2.0cập nhật 2026-11-17

Xem trên GitHub →

Đà tăng sao

Hôm nay+76 (+0.1%)
Tuần này+428 (+0.4%)
Tháng này+3,063 (+3.3%)

Chủ đề

gptllmpytorchmodel-servingtransformerllm-servinginferencellamaamdcudatpudeepseekqwenblackwelldeepseek-v3gpt-osskimimoeopenaiqwen3