@elonmusk
@elonmusk 称刚搜索发现 Jev 将出现大量替代品,推荐 Semif,使用 Qwen3.5-4B 无需训练即可达到相同准确率且更便宜,可在 MacBook 本地部署,并认为 LLM 已训练得很好,没必要再造新的。
围绕 Jev 的替代与本地部署方案:@elonmusk 称刚搜索发现 Jev 将出现大量替代品,推荐 Semif,使用 Qwen3.5-4B 无需训练即可达到相同准确率且更便宜,可在 MacBook 本地部署,并认为 LLM 已训练得很好没必要再造新的;@aisearchio 指出 Jev 不开源且仅通过 API 提供,介绍开源替代品 Nimble 称其表现同样出色;@fallout_tokyo 开发基于 Qwen3.5-0.8B 的边缘 AI 网关 local-jev,Windows 桌面 GUI 版,自动识别 Vulkan/CUDA/ROCm/CPU,100ms 以下推理,带示波器波形、VU 表、双 LED 实时可视化与并行负载测试,即将在 GitHub 开源;@mizorewww 介绍比 Jev 快 50 倍的本地设备模型 laya-mlx,最高占用 1G 内存,基于 MLX 移植并优化,可在 M3 Max 上以每秒 60 次决策玩贪吃蛇。
@elonmusk 称刚搜索发现 Jev 将出现大量替代品,推荐 Semif,使用 Qwen3.5-4B 无需训练即可达到相同准确率且更便宜,可在 MacBook 本地部署,并认为 LLM 已训练得很好,没必要再造新的。
@aisearchio 指出 Jev 不开源且仅通过 API 提供,并介绍开源替代品 Nimble,称其表现同样出色。
@fallout_tokyo 开发基于 Qwen3.5-0.8B 的边缘 AI 网关 local-jev,Windows 桌面 GUI 版,自动识别 Vulkan/CUDA/ROCm/CPU,100ms 以下推理,并实时可视化,即将在 GitHub 开源。
@mizorewww 介绍比 Jev 快 50 倍的本地设备模型 laya-mlx,最高占用 1G 内存,基于 MLX 移植并优化,可在 M3 Max 上以每秒 60 次决策玩贪吃蛇。