LLM 成本优化与推理加速

通过路由、缓存、加速与本地化降低大模型算力成本：@Promixyz 列 10 个开源仓库（LiteLLM、RouteLLM、Martian、GPTCache、LMCache、SGLang、vLLM、llama.cpp、bitsandbytes、OpenLLMetry）；@atomic_chat_hq 展示本地 Liquid d1 3B 在 RTX 3090 上 8ms 决策击败 OpenAI API（345ms）；另一条展示本地 Laya 在 M5 Max 上每链接 34ms 击败云端模型。