开源深度学习框架

面向神经网络训练与推理的开源深度学习框架与推理加速基础设施：pytorch/pytorch 是社区驱动的 Python 深度学习框架，提供类 NumPy 张量计算与 GPU 加速、基于磁带式自动微分的动态神经网络，包含 torch、torch.autograd、torch.nn、torch.multiprocessing、torch.utils 等组件，支持 CUDA、ROCm、Intel XPU 与多平台 Conda/pip/源码/Docker 安装，104,083 Stars；lyogavin/airllm 是用逐层流式加载实现超低显存推理的 Python 库，可在单张 4GB GPU 上运行 70B 乃至 671B、2.8T 参数模型，无需量化/蒸馏/剪枝，支持 AutoModel、block-wise 4bit/8bit 压缩、prefetching 与 LoRA 训练，覆盖 Llama、Qwen、DeepSeek、Mixtral、Kimi K3 等模型及 Linux/macOS/CPU 平台，Apache 2.0 许可。