AI技术重大突破:内存涨价将遇狙击 内存用量大降

非凡网 百科资讯 1

7月1日消息,如今的内存涨价已经失控,一年来价格涨了5-10倍,主要推动力就来自AI数据中心需求,但这波涨价缺货很可能也会遇到狙击,技术突破也是来自AI优化。

大家都知道AI大模型对内存的容量及带宽都有极高的需求,所以高性能AI芯片大多上了HBM内存,其用量是DDR5内存的2-3倍,导致了这一次的内存缺货涨价。

内存缺货因AI而起,最终解决还得靠AI本身,想要减少内存用量就得优化内存架构,OpenAI分拆出来的一个团队在这方面已经取得了重大突破,主要是内存效率方面的,技术很快会宣布。

虽然这个技术具体是啥没公布,但已经有AI领域的网友提到了这可能跟KVCache缓存有关,熟悉DeepSeek的网友对这个词应该不会陌生,V4价格能这么低的原因就是KVCache利用到了极致。

OpenAI的这个技术突破有可能也是在这方面作文章,既然内存又贵还缺货,那就减少对内存的需要,将数据放到容量更大、价格更低的NAND闪存芯片上。

如果再联系到业界此前在研究的HBF闪存,OpenAI很有可能这次会把这种高性能闪存推向实际部署,虽然延迟、写入速度上还无法跟HBM内存相比,但1638GB/s的读写带宽跟HBM4是一样的。

这个技术最终大规模部署的话,那么AI算力中心对内存的用量肯定会大幅减少,内存缺货、涨价的动力就严重受限了。

但是坏消息是这可能会加速闪存的涨价,只不过闪存本身的价格比内存低很多,权衡之下肯定还是优先减少内存用量。