开源热榜

一个用 Zig 编写的 LLM 推理引擎，支持 Metal、CUDA 和 Vulkan 后端。

LLM Inference Engine for Metal, CUDA and Vulkan.