AirLLM 项目称单张 4GB 显卡可运行 70B 模型推理

AI 导读

GitHub 项目 AirLLM 宣称支持在单张 4GB 显卡上进行 70B 模型推理。给定摘录未说明性能或适用条件。