gitpulse

JustVugg/colibri

A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own.

51,505 sao6,224 forkCApache-2.0cập nhật 2026-11-16

Xem trên GitHub →

Đà tăng sao

Hôm nay+272 (+0.5%)
Tuần này+2,243 (+4.6%)
Tháng này+9,034 (+21.3%)

Chủ đề

không có