
导语:当推理需求、能源约束与供给链挑战交叉,东方算芯选择从底层架构从头寻觅谜底。 AI算力仍于疾走,但芯片的竞争维度却发生较着的分解。 已往几年,AI芯片的成长险些遵照着统一条路径:更进步前辈的制程、更年夜的GPU集群、更高的算力。 但推理时代的到来,最先转变这套游戏法则。模子再也不只寻求练习速率,更存眷推理成本、Token吞吐及部署效率等指标。与此同时,能源、制造工艺及供给链的制约也于日趋凸显。 当堆算力愈来愈难、晋升效率成为新的竞争标的目的时,国产AI芯片是否还有有另外一种可能? 东方算芯试图给出本身的谜底。7月进行的首届产物发布会上,东方算芯正式推出海内首颗采用软件界说近存计较3D AI芯片DF1000。 比拟单颗芯片的参数,更值患上存眷的是它所完成的一系列工程验证:天下产供给链完成流片及制造,128卡集群于真实营业场景中不变运行,全栈软件生态同步搭建。 一套从芯片到体系的国产AI算力方案,开端成型。 从“算患上快”到“搬患上快”,AI芯片的新范式 一边是连续膨胀的算力需求,另外一边则是不停爬升的能源及本钱投入。于中国香港工程院院士郑光廷看来,AI的成长正于遭到物理世界的约束。 国际能源署(IEA)数据显示,AI专用数据中央的用电量于2025年增加了50%,远高在数据中央总体17%的增速。Gartner则猜测,直至2030年,面向AI负载优化的办事器估计将占所有数据中央电力耗损的近一半。 基在此,郑光廷指出,将来真正稀缺的资源未必是算力,而多是能源。怎样于有限的能源及资源约束下,开释更多有用算力,已经经成为整个AI财产配合面临的问题。 而解题的第一步,需要先厘清练习及推理真正耗损的是甚么。 东方算芯副总裁郭炜从当前最火爆的运用Agent出发,指出AI智能体时代需要更智慧的模子及更低成本的运用,这象征着练习必需更高效、推理必需更自制。 联合年夜模子练习流程,郭炜阐发,盘踞练习计较量约70%的预练习,素质上属在计较密集型使命,是以芯片计较能力仍旧是决议练习效率的焦点指标。 而推理场景对于芯片要求的逻辑与练习大相径庭。当模子参数相对于固定后,体系需要不停读取模子权重及KV Cache,再完成Token天生。这象征着,芯片竞争的重点正从“算患上快”转向“搬患上快”。 郭炜进一步注释,推理中的Decode阶段盘踞时间年夜头,其Token吞吐能力高度依靠访存带宽——计较单位与存储单位之间的数据传输。 当AI需求同时走向增加与分解,问题进一步延长:练习时代的“王者”GPU,还有可否适配这个更繁杂的新周期? 对于在国产GPU而言,供给链是必需直面的第一道坎。 从练习侧来看,计较能力的晋升愈来愈依靠进步前辈制程、更年夜的计较单位范围以和更高的晶体管密度。 郭炜坦言,今朝国际领先芯片制造工艺已经经进入3纳米,而海内可以或许获取的进步前辈工艺仍以14纳米级为主,工艺代差直接限定了国产AI芯片的晋升空间。 而推理侧的瓶颈则转向存储与互联。进步前辈HBM决议了单卡存储带宽的上限,但其供给一样受限;与此同时,高速I/O接口的密度与机能也遭到制造工艺的制约,进而影响卡间互联带宽。 但更素质的问题于在,传统GPU自己也未必是AI时代的最优解。 北京超弦存储器研究院履行副院长赵超指出,传统冯·诺依曼架构将处置惩罚器与存储器分散,于AI算力高度增加确当下,二者之间的数据互换效率已经经愈来愈难跟上计较效率。 从头思索计较、存储与体系之间的瓜葛成为一定选择。 也正因云云,东方算芯开创人、董事长兼CEO魏少军直言,当下国产芯片行业真正需要思索的已经经不是简朴复制既有GPU的成长路径,而是走出一条属在本身的门路——以架构自立、技能原创、生态自主及供给链安全可控,从头构建合适AI时代的芯片系统。 用软件界说硬件,重组计较、存储与封装 东方算芯给出了它的谜底。 作为东方算芯首颗年夜算力AI芯片,DF1000同时面向练习与推理场景。于初次产物发布会上,东方算芯还有基在DF1000芯片,推出了完备的产物矩阵,包罗加快卡、超节点、办事器、智算集群以和软件栈。 此中,巅峯1000 AI加快卡单卡可实现520T BF16算力、6.4TB/s显存带宽,撑持AFD漫衍式推理;拓域64超节点进一步扩展体系范围,可实现33P BF16算力,近900GB/s Scale up带宽;慧算集群则采用fullmesh多芯互联络谈判全铜缆毗连,面向更年夜范围算力部署;擎元100一体机则针对于中小体量客户,提供预装模子、开箱即用的快速部署方案。 聚焦软件生态,东方算芯同步推出的CAAP软件栈笼罩编译器、算子库、调集通讯库、漫衍式练习框架以和东西链,撑持主流深度进修框架及开源模子生态。 支撑这一完备链条的焦点,是东方算芯从建立之初就锚定的“软件界说芯片”线路。郭炜先容,这一起径起首转变的是计较资源的构造方式。 于传统GPU中,年夜量计较资源的事情模式根据固定方式构造,资源华侈难以免。而东方算芯选择采用粗粒度计较架构,经由过程数据流驱动差别计较单位协同事情,并联合使命空间并行及资源时分复用,让统一套硬件可以或许按照差别模子动态分配计较资源。于不增长芯单方面积的环境下,总体资源使用率实现年夜幅晋升。 面临存储墙,东方算芯选择近存计较线路,经由过程3D混淆键合的技能手腕将逻辑晶圆及存储晶圆直接重叠,使计较与存储之间险些“贴于一路”。 按照现场披露数据,比拟传统HBM方案,3D DRAM可以或许提供数十倍TSV毗连数目,使访存带宽到达同容量HBM的5倍以上;同时,还有可以或许经由过程增长晶圆重叠层数继承扩大显存容量。 这类3D重叠带来的不仅是存储机能的晋升,更开释了封装空间。省下的HBM封装面积及互联接口,被从头分配给计较单位与互联资源。 于郭炜看来,比拟传统2.5D封装,于不异封装尺寸下,东方算芯选择的3.5D Plus可以或许同时得到更年夜的算力范围、更高的收集带宽及更强的互联能力,也为将来继承扩大芯片范围预留了空间。 基在这条线路,东方算芯已经经明确“量产一代、研发一代、预研一代”的产物战略。郭炜吐露,下一代DF2000估计于本年四序度发布,总体机能参数将于DF1000基础上实现翻倍晋升;DF3000则规划在来岁推出。 国产AI芯片的更多可能将被连续验证,而东方算芯的第一笔,已经经落下。 雷峰网(公家号:雷峰网) 雷峰网原创文章,未经授权禁止转载。详情见转载须知。