
北好意思-欧洲AI芯片新锐Tensordyne最近搞了个大算作。他们推出的Napier芯片仍是胜利流片,用的是台积电来源进的3nm工艺。这枚芯片可不是宽泛货品,它和博通、HPE瞻博网罗联手打造,平直把NVIDIA Blackwell系统当成了靶子。官方声称单看推理模糊量就能达到敌手的13倍,若是算上能耗恶果更是能飙到17倍。通盘这个词系统收受72颗芯片构成推理舱,一个机架能塞下四组,终点于288颗芯片同期干活。按他们说法,这种建立能让大模子推理速率达到每用户1000 token/s,光是多出来的算力每年就能创造3300万好意思元收益。

这芯片最迥殊的地点在于用了对数数学预备。浅易说即是把AI推理里那些费电的乘法运算,全换成省电的加法操作。就像用算盘打加减法比乘除快得多,Napier芯片里塞满了SRAM缓存和HBM内存,芯片之间传数据只消1微秒。CEO Marc Bolitho露馅,跑Llama3.3-70B这种大模子时,单个机架每秒能管束300万token,但花的钱唯有英伟达决策的三分之一,耗电量更是唯有八分之一。这种能效比对数据中心来说险些像发现了新大陆——毕竟当今AI算力越来越贵,电费账单齐能让东说念主睡不着觉。

市集响应比预感的还强烈。固然负责发布还要等几个月,但公司仍是收到十几份意向书,展望订单总数会向上2亿好意思元。这帮欧洲北好意思来的技巧团队昭彰是冲着AI芯片红海来的,他们看准了推理市集正在爆发。当今各大厂齐在找替代决策,毕竟谁也不念念被一家厂商卡脖子。Tensordyne这步棋走得挺准,用3nm工艺+立异架构组合拳,硬是在巨头林立的赛说念里撕开个口子。若是真能达到宣传的性能,说不定真能改革当今AI芯片的神色——毕竟对数据中心雇主们来说,省下的每一分电费齐是实打实的利润。