-
当前位置:芯师爷
- 首页
- 热点资讯
芯师爷导读
一颗权重只有 4 bit,大模型每生成一个 Token,却要让数十亿颗权重重新“跑”一遍。寒序科技给出的答案很直接:让权重留在片内,让计算来到它身边。

uHBM®沿用HBM“以高带宽服务计算”的产品逻辑,底层则换成 Persistent MRAM、权重驻留与片内矩阵向量计算;uLPU™ 则进一步把uHBM®继续组合成端侧、云端和机架级推理系统。
两款产品,底层一条路线:权重留下,计算靠近。
一、这里的“HBM”,为什么要打引号?
寒序此次公布的路线,从一颗 Compute-Memory Die 开始。

uHBM®-Die
二、大模型推理,被一个“搬”字卡住

三、24 TB/s、>2,000 Tokens/s,两把尺子摆上台面
四、从机器人到“Token 工厂”,同一条路线吃两类市场

五、三年磨一剑,验证芯片已经走到哪一步?
六、从 FLOPS 到 Tokens,推理芯片的新尺子

相关文章
查看更多
>>
全球PCB及电子组装领航盛会 12月2-4日HKPCA Show 700多家展商、九大展区,云集全产业链领先产品/技术
2026-11-20
0 点赞
让隐患清晰可见!热成像与声学成像助力半导体制造稳定运行
2026-11-20
0 点赞
思无界 见未来--瑞士万通OMNIS奥秘一代离子色谱IONIC云灵一代滴定仪发布
2026-11-20
2 点赞
迈特芯MEGA188(国产3D-TPU)端侧AI芯片成功点亮,向量产迈出关键一步
2026-11-19
2 点赞