开云体育官方声称单看推理模糊量就能达到敌手的13倍-开云·kaiyun(中国)官方网站 登录入口

这芯片最迥殊的地点在于用了对数数学预备。浅易说即是把AI推理里那些费电的乘法运算,全换成省电的加法操作。就像用算盘打加减法比乘除快得多,Napier芯片里塞满了SRAM缓存和HBM内存,芯片之间传数据只消1微秒。CEO Marc Bolitho露馅,跑Llama3.3-70B这种大模子时,单个机架每秒能管束300万token,但花的钱唯有英伟达决策的三分之一,耗电量更是唯有八分之一。这种能效比对数据中心来说险些像发现了新大陆——毕竟当今AI算力越来越贵,电费账单齐能让东说念主睡不着觉。
市集响应比预感的还强烈。固然负责发布还要等几个月,但公司仍是收到十几份意向书,展望订单总数会向上2亿好意思元。这帮欧洲北好意思来的技巧团队昭彰是冲着AI芯片红海来的,他们看准了推理市集正在爆发。当今各大厂齐在找替代决策,毕竟谁也不念念被一家厂商卡脖子。Tensordyne这步棋走得挺准,用3nm工艺+立异架构组合拳,硬是在巨头林立的赛说念里撕开个口子。若是真能达到宣传的性能,说不定真能改革当今AI芯片的神色——毕竟对数据中心雇主们来说,省下的每一分电费齐是实打实的利润。

