TensorSharp
高性能开源本地大语言模型推理引擎，支持 Gemma-4、Qwen、GPT-OSS 等模型，兼容 OpenAI 和 Ollama 接口，支持 Cuda/Apple Metal/Vulkan

项目简介

高性能开源本地大语言模型推理引擎，支持 Gemma-4、Qwen、GPT-OSS 等模型，兼容 OpenAI 和 Ollama 接口，支持 Cuda/Apple Metal/Vulkan

开发者：zhongkaifu | 分类：程序员版面

项目地址

独立开发者作品