南宫28官网,南宫28官方网站,南宫28APP下载

　　但很快，业内有声音反驳说：这次暴跌是一场乌龙。首先这篇论文发表于一年前，且本身存在一些学术上的争议。并且这个算法目前只在Gemma、Mistral等小模型上验证过，70B以上模型、MoE架构、百万级token上下文，这些AI内存需求真正爆炸的场景，都没有。还有技术人士出来说，在技术上，TurboQuant压缩的只是推理时GPU显存里的KV Cache，是AI内存需求三大来源之一，但训练环节完全不受影响。