常用工具医生入驻免费问医生

不再是HBM,AI推理流行,HBF存储的机会来了?

2025-03-10 12:34:56 来源:执意不从网   

华为荣获GTI Awards“创新移动服务和应用奖”

电子发烧友网报道(文/黄晶晶) SanDisk闪迪日前展示了其最新研发的不再高带宽闪存(HBF),这是理流一种专为 AI领域设计的新型存储器架构。

wKgZO2e0WEaAbVKYAALZzS1yruI104.png
图源:闪迪官网


在设计上,存储HBF结合了3D NAND闪存和高带宽存储器(HBM)的不再特性,能更好地满足AI推理的理流需求。

HBF的存储堆叠设计类似于HBM,通过硅通孔(TSVs)将多个高性能闪存核心芯片堆叠,不再连接到可并行访问闪存子阵列的理流逻辑芯片上。也就是存储基于 SanDisk的 BICS 3D NAND 技术,采用CMOS直接键合到阵列(CBA)设计,不再将3D NAND存储阵列键合在I/O 芯片上。理流

HBF 打破了传统的存储 NAND 设计,实现了独立访问的不再存储器子阵列,超越了传统的理流多平面方法,这种设计提高了存储器的存储并行访问能力,从而提升了带宽和吞吐量。

HBF可匹配HBM的带宽,同时以相近的成本实现每个堆栈的容量比HBM高出8到16倍。HBF使用16个核心芯片,单堆栈容量可达512GB,8 个HBF 堆栈可实现 4TB的容量。

wKgZO2e0WFOAHdfaAAI9ycLXMdQ221.png
图源:闪迪官网

wKgZO2e0WFyAJR5gAAInYbZWZC8267.png
图源:闪迪官网


下图显示出,8个HBF堆栈提供高达 4TB容量,可支持AI大模型运行在GPU硬件上,其高容量特性发挥得十分出色。

wKgZPGe0WGmAWSpXAAGfr-B_qtc970.png

据介绍,单颗 HBF可容纳完整的 64B 模型,有望应用于手机端大模型本地化,也适用于自动驾驶、AI玩具、IoT等边缘设备的低功耗、高容量的边缘AI存储需求。

wKgZO2e0WHGAdYY_AAKuBm5hfjA640.png
图源:闪迪官网


不过,HBF主要具备高带宽和容量的特性,但由于NAND闪存的延迟较高,HBF在速度上不如DRAM。因此,‌该技术针对的是读取密集型 AI 推理任务,而不是延迟敏感型应用。

闪迪将推动HBF的开放标准生态建设,例如建立相同的电气接口,以实现无缝集成,与行业伙伴共同合作,同时闪迪将持续创新推动闪存技术的进步。

根据HBF技术路线图,其第二代产品容量将提升1.5倍,第三代产品提升2倍,第二代产品的读取性能带宽较第一代提升1.45倍,第三代提升2倍,同时能耗也将得到显著下降。

wKgZO2e0WHyAWcdvAADGVtPEzlw829.png
图源:闪迪官网


闪迪表示,AI加速云端和边缘端设备的增长,拉动AI基础设施、AI推理、边缘推理、智能终端等需求。例如2024年eSSD同比增长超过100%,对高性能和高容量eSSD的需求显著提升。我们看到智能手机、PC终端增长恢复,除此之外,还将产生大量的AI应用内容。这些都需要更好的存储产品加以满足所需。

AI大模型的发展最先带旺高带宽内存HBM的需求,配合英伟达GPU用于AI训练。全球三大存储厂商SK海力士、三星电子、美光科技作为主流供应商,受益最多。显然,DeepSeek引爆AI推理应用之后,更多存储新技术架构和产品将有机会推出。闪迪的HBF以其高容量、高性能、低功耗的特性满足AI模型存储和推理需求,正是用于AI推理的新型存储产品当中具有代表性的存在。

我们将继续跟进适用于AI推理的存储产品以及创新型企业和技术等,保持动态报道,也欢迎大家关注。

希望以上内容对您有帮助。

阅读全文
相关推荐
综合视频推荐精选问答
养生文章推荐
都体:尤文和博格巴商谈了解约,俱乐部承担不起800万欧的年薪

科美电器“保姆式”帮扶模式 助推厨卫经销盈利增多

都体:尤文和博格巴商谈了解约,俱乐部承担不起800万欧的年薪
10月12日讯 根据《都灵体育报》报道,尤文承担不起博格巴800万欧的薪水。10月7日,国际体育仲裁法庭CAS)官方发布公告,博格巴禁赛期由4年缩短至18个月,他明年1月开始便可以和尤文训练,3月可以
Bota Systems推出一款新型力扭矩传感器SensONE T5

门迪本场数据:1次助攻,1次射门,2次关键传球,评分7.5分

Bota Systems推出一款新型力扭矩传感器SensONE T5
据麦姆斯咨询报道,近期,多轴力扭矩传感器的先驱Bota Systems简称:Bota)推出了新型力扭矩传感器SensONE T5,它在Bota SensONE系列传感器中具有最高的灵敏度。SensON
大自然床垫:做追梦青年,从拥有深度睡眠开始

门迪本场数据:1次助攻,1次射门,2次关键传球,评分7.5分

大自然床垫:做追梦青年,从拥有深度睡眠开始
五四青年节,一个专属年轻人的节日说到青年,浮现在你脑海的画面是什么?是为了完成学业梦挑灯夜读的学生党?是为了完成职场梦加班加点的上班族?还是为了完成事业梦日夜兼程的创业者?不同阶段的青年梦想虽各有不同
微软发布首款面向企业的Surface AI PC

2019年全球声望最佳的100个企业排行榜

微软发布首款面向企业的Surface AI PC
微软近期推出了两款专为商务用户设计的Surface电脑,即Surface Pro 10商用版和Surface Laptop 6商用版,这两款产品已于4月9日起正式发货。值得注意的是,它们被微软赋予了特
队报透露切尔西后卫福法纳康复过程:曾寻求骨科医生、营养师帮助

班固五金斩获“中国十大水槽品牌”殊荣 绽放品牌光芒

队报透露切尔西后卫福法纳康复过程:曾寻求骨科医生、营养师帮助
10月13日讯本期法国国家队,切尔西后卫维斯利-福法纳占据一席之地。对于这名23岁的后卫而言,他花费了一年多时间让自己恢复高水准。《队报》透露了福法纳的康复过程。2023年7月,维斯利-福法纳度假归来
思瑞浦推出全新高压Buck芯片TPP0003X系列

比克B28,年轻人的第一台热水器

思瑞浦推出全新高压Buck芯片TPP0003X系列
半导体领域的佼佼者思瑞浦3PEAK,近日宣布推出了一款革命性的高压Buck—TPP0003X系列产品。这款新品在业内引起了广泛关注,其出色的性能优势为各类应用场景提供了高效且稳定的电源解决方案。TPP
春运火车票购票高峰期 12306图形验证码未作改变

比克B28,年轻人的第一台热水器

春运火车票购票高峰期 12306图形验证码未作改变
春运火车票购票高峰期 12306图形验证码未作改变发布时间:2015-12-10 09:06 来源:豫都网 我来说说 我要投稿[摘要]虽然距离春节还有一段时间,但按照火车票60天的预售期计算,2月7日
莫塔:我对尤文球员们的表现感到满意,我们的目标是从欧冠晋级

福美珈橱柜:用精湛的技术+五星的服务 成为行业新标杆

莫塔:我对尤文球员们的表现感到满意,我们的目标是从欧冠晋级
11月28日讯 在第5轮欧冠,尤文客场0-0战平维拉。赛后尤文主帅莫塔接受了天空体育的采访。尤文在上周末的意甲联赛0-0战平米兰,本场欧冠又是一个0-0。莫塔首先表示:“上周六我就在赛后说过,我们踢了
多方位调整定位 推动十大清洁剂品牌快速发展

2019年全球声望最佳的100个企业排行榜

多方位调整定位 推动十大清洁剂品牌快速发展
物美价廉一直是众多消费者所希望的,但是面对众多选择总是会让人难以抉择。因此都会优先选择大品牌、好品质的产品。在清洁剂市场中,十大清洁剂需要对品牌进行定位,找准自己的目标群体,有针对性的去满足消费者的需
颜骏凌:在经历太多后开始慢慢网络戒断,尽可能让自己回归现实

华为表示体验经营成为移动AI时代的必然趋势

颜骏凌:在经历太多后开始慢慢网络戒断,尽可能让自己回归现实
11月28日讯 在出席一项活动时,海港门将颜骏凌表示,他现在尽可能让自己回归到现实中。颜骏凌说道:“我现在经历了太多太多这些东西之后,我开始慢慢的网络戒断,尽可能少看这些东西,尽可能看一些简单的比赛集