云端 API 成本与推理优化

AI 模型调用成本、推理性能与本地/云端效率优化相关讨论。新内容：@jun1228909 用日文分享在当地 LLM Discord 学到的专为 Qwen3.8 Flash Next 高速运行优化的神秘志愿开发引擎，在 5090 + DDR5 128GB 环境下从 llama.cpp 的约 30tok/s 提升到 100tok/s，作者承认未对 llama.cpp 侧做设置调优可能不完全公平，但 100tok/s 体感已接近在线模型响应速度，认为专门为 Flash Next 固化的离线开发环境可能值得考虑，属本地 LLM 推理优化类内容。