(文 / 观察者网 吕栋 编辑 / 张广凯)股票配资平台开户
8 月 25 日,观察者网获悉,华为将于 8 月 27 日推出新款 AI SSD(固态硬盘),这种硬盘并非用于个人电脑中的消费级 SSD,而是用在大模型训练和推理的数据中心中。
知情人士对观察者网称,华为推出新款 AI SSD,旨在破解 AI 训练推理中的"显存墙"难题。传统 HBM(高带宽内存)存在容量限制,而华为通过技术创新提供大容量 SSD,同时提升数据吞吐效率,可大幅提升算力卡效率,为 AI 应用提供更强支撑。
单纯看这一消息可能不太好理解,但结合华为近期在数据存储领域的动向,就不难看出,华为是想通过软硬两手,降低对高性能 HBM 的依赖,让可获得的 HBM 更高效发挥作用,同时也能提升 SSD 的价值。
当下,国产 DRAM(动态随机存储器)和 HBM 还与国外存在代际差距,同时美国还对 HBM 的出口和制造进行严格管制,但是国产 NAND 闪存技术已经取得长足发展,国产消费级和企业级 SSD 的竞争力明显提升。
如果能减少高性能 HBM 的使用,充分发挥 SSD 的作用,就能一定程度降低模型训练和推理的成本,缓解中国 AI 产业界对高性能 HBM 的依赖,是另一种"系统补单点"的思维。
就在前不久,华为曾推出一项名为 UCM(推理记忆数据管理器)的技术。这种技术可以根据记忆热度,在 HBM、DRAM、SSD 等存储介质中分级缓存数据,相当于扩充了 HBM 的容量,让模型能记住的 KV Cache 数据更多,同时能更智能、更快速的调用数据。
KV Cache 可以优化计算效率、减少重复运算,但会对 HBM 显存造成巨大压力,而 UCM 的关键作用就是减轻 HBM 压力,让 SSD 在训练和推理中发挥更大作用,这可能也是华为很快又推出新款 AI SSD 的原因。
"华为此次布局,或对全球 SSD 市场形成冲击。"前述人士对观察者网称,结合华为自研 XtremeLink、SpeedFlex PCB 等技术,成为国产 SSD 突破的关键一步。华为将与国内训推一体机厂商合作,有利于中国构建全新 AI 生态链,应对全球化挑战。
" AI SSD 聚焦提升训练效率和推理体验 , 存储器领域不会仅有 HBM 一枝独秀,有望形成百花齐放的竞争态势。华为计划与一体机厂商合作,改变现有局面股票配资平台开户,为 AI 存储器市场注入新活力,带来更多可能性。"他说道。
富牛平台提示:文章来自网络,不代表本站观点。