资讯

一台3090就能跑Gemma 3 27B！谷歌发布Gemma 3全系QAT版模型
比如经过 QAT 优化后，Gemma 3 27B 的 VRAM 占用量可以从 54GB 大幅降至 14.1GB，使其完全可以在 NVIDIA RTX 3090 等消费级 GPU 上本地运行！ Chatbot Arena Elo ...