AI开源项目Unsloth暴降GRPO内存,7GB显存使用DeepSeek-R1!就在前两天,DeepSeek-R1的推理成本彻底被打下来了!开源项目Unsloth AI带来了好消息,不用云服务,本地也能体验「Aha」 时刻!现在可以在本地设备上复现DeepSeek-R1的推理!只需7GB VRAM,你就能体验到「Aha」时刻。Unsloth把GRPO训练需要的内存减少了80%。15GB VRAM就可以把Llama-3.1(8B)和Phi-4(14B)转变为推理模型。
#github##ai创造营##deepseek# 项目官网:网页链接GitHub地址:网页链接