gitpulse

jundot/omlx

LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar

23,689 sao2,146 forkPythonApache-2.0cập nhật 2026-11-17

Xem trên GitHub →

Đà tăng sao

Hôm nay+26 (+0.1%)
Tuần này+186 (+0.8%)
Tháng này+793 (+3.5%)

Chủ đề

apple-siliconinference-serverllmmacosmlxopenai-api