GitHub3

本地推理与模型运行

本地优先、消费级硬件上运行前沿大模型的推理引擎:Colibrì(纯 C 零依赖,VRAM/RAM/磁盘分层存储,流式运行 744B-2.8T MoE 模型)、VoxCPM(无分词器扩散自回归 TTS,2B 模型 30 语言语音克隆)、Project NOMAD(离线优先知识与教育服务器,Docker 编排 Kiwix/Kolibri/Ollama)。

OpenBMB/VoxCPM

OpenBMB/VoxCPM 是一个无分词器(Tokenizer-Free)的文本转语音系统,采用扩散自回归架构直接生成连续语音表示。最新版本 VoxCPM2 是一个 2B 参数模型,基于超过 200 万小时多语言语音数据训练,支持 30 种语言、语音设计(Voice Design)、可控声音克隆(Controllable Voice Cloning)、极致克隆(Ultimate Cloning)以及 48kHz 录音室级音频输出,基于 MiniCPM-4 骨干网络构建。该仓库在 GitHub 上已获得 37295 个 Stars,今日新增 204 个 Stars,采用 Apache-2.0 许可证,可免费商用。

GitHub查看原文 →

Crosstalk-Solutions/project-nomad

Project NOMAD 是一个离线优先的知识与教育服务器,通过 Docker 编排 Kiwix、Kolibri、Ollama、Qdrant、ProtoMaps、CyberChef、FlatNotes 等容器化工具,在用户自有硬件上提供离线 Wikipedia、电子书、课程、地图和可选本地 AI,无需互联网即可访问。

GitHub查看原文 →

JustVugg/colibri

Colibrì 是一个用纯 C 编写、零依赖的推理引擎,通过将显存、内存和磁盘视为统一的分层存储(AI内存多层化),在消费级硬件上流式运行从 744B 到 2.8T 参数的前沿 MoE 模型,无需 GPU,可运行 GLM-5.2/5.3、Kimi K3、DeepSeek V4 Flash 等八大模型家族。

GitHub查看原文 →

数据由 GitHub Actions 每小时自动抓取 · AI 摘要聚合 · News Monitor