时间: 2025-08-25 19:17:28 来源: m.yardtffetj.xyz 作者: 百科
近日,后摩合作北京后摩智能科技有限公司与北京大学集成电路学院孙广宇长聘副教授团队、智能最佳上海交通大学张宸助理教授团队、高校香港科技大学谢源讲席教授团队、研究东南大学司鑫副教授团队及阿里巴巴达摩院合作的成果研究成果《H2-LLM: Hardware-Dataflow Co-Exploration for Heterogeneous Hybrid-Bonding-based Low-Batch LLM Inference》,成功荣获第52届计算机体系结构国际研讨会(ISCA)最佳论文奖。荣获作为国内学术机构在该会议上的论文首次获奖成果,其核心创新聚焦于边缘侧大语言模型(LLM)推理加速架构的后摩合作关键技术突破,为解决边缘设备高效LLM推理难题提供了创新性方案。智能最佳
随着LLM在智能对话、高校代码生成、研究边缘推理等场景的成果规模化应用,如何在边缘设备上实现低延迟、荣获高能效的论文推理计算,成为行业亟待攻克的后摩合作技术瓶颈。现有DRAM近存计算架构虽具备高带宽优势,但受限于芯片计算逻辑嵌入设计,算力供给不足,难以满足边缘侧对计算密集型任务的加速需求。针对这一挑战,合作团队基于混合键合(Hybrid Bonding)新兴工艺,研发出面向边缘侧的H2-LLM推理加速架构。该架构通过提出通用近存计算架构模板,抽象设计空间以协调工艺中算力与带宽的权衡,并采用“以数据为中心”的数据流抽象优化异构硬件资源利用,实现了计算密集型与访存密集型算子的协同加速。实验数据显示,相较于基线DRAM近存架构,H2-LLM在LLM推理的预填充(Prefill)和解码(Decoding)阶段实现2.72倍的性能提升与1.48倍的能效优化,为边缘设备部署大语言模型提供了关键技术支撑。
此次成果是产学研协同创新的典范。北京大学孙广宇团队在领域定制芯片架构设计与自动化领域处于国际领先地位,研究成果多次获得顶级会议和期刊的最佳论文奖,并在多款芯片设计中实现产业验证。后摩智能与上海交通大学、东南大学、阿里巴巴达摩院的合作,充分发挥了各方在学术研究、技术开发和应用场景方面的优势,推动了边缘计算与大模型推理技术的工程化落地。
ISCA作为计算机体系结构领域的顶级国际会议,自1973年创办以来,始终是学术界与产业界技术交流的核心平台,与MICRO、HPCA、ASPLOS并称“体系结构四大会”。谷歌TPU、寒武纪芯片、华为昇腾等具有全球影响力的架构创新均曾在此首发。此次获奖标志着中国在边缘计算与LLM推理架构领域的研究已跻身国际顶尖行列,对推动我国人工智能底层技术发展具有重要意义。
未来,后摩智能将继续秉承开放合作、创新驱动的理念,与更多顶尖高校、科研机构和企业开展深度合作,共同推动智能计算技术的创新与发展。同时,后摩智能也将继续加强与各方的合作,围绕国家新一代人工智能战略需求,持续聚焦边缘侧计算与大模型推理的技术融合,共同推动智能计算技术的产业化应用。
《后摩智能与高校合作研究成果荣获ISCA 2025最佳论文奖》男孩、女孩宝宝名字推荐
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、
·天下晨間新聞 :蘋果業績超標,但關稅不降下一季成本多9億美元|天下雜誌
天下晨間新聞 :蘋果業績超標,但關稅不降下一季成本多9億美元|天下雜誌蘋果、亞馬遜公布財報,兩家公司營收獲利都超預期,但盤後股價走跌。特斯拉找獵人頭公司,要換掉馬斯克了嗎?您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數閱讀 ...
·一季度城镇新增就业297万人
一季度城镇新增就业297万人ze: 14px; line-height: 28px;">《 人民日报 》 2023年04月25日 第 01 版)本报北京4月24日电 记者韩鑫)4月24日,记者从人力资源和社会保障部新闻发布会上获 ...
·今天(2月15日)油价调整最新消息:92、95号汽油价格要降了
今天(2月15日)油价调整最新消息:92、95号汽油价格要降了2024年2月15日国内油价调整最新消息>>按照油价10个工作日的调整规则,再过几天就要进行2024年的第4次油价调整,在前3次油价调整中,油价是涨多跌少的走势,这让2024年的油价比20 ...
·京港高铁合黄段等推出计次票
京港高铁合黄段等推出计次票ze: 14px; line-height: 28px;">新华社北京6月6日电记者 樊曦)记者6日从中国国家铁路集团有限公司了解到,6月8日起,宁杭高铁、京港高铁合黄段合肥南—黄梅东)将正式推出30 ...
·2024年州级机关干部荣誉退休仪式举行
2024年州级机关干部荣誉退休仪式举行2024年州级机关干部荣誉退休仪式举行推动老干部工作高质量发展8月27日上午,州级机关干部荣誉退休仪式在西昌举行。州委常委、组织部长、州国资委党委书记、州委老干部工作领导小组组长彭洪出席并讲话。州人大 ...
·前5个月水利建设完成投资同比增长32.1%
前5个月水利建设完成投资同比增长32.1%ze: 14px; line-height: 28px;">光明日报北京6月12日电 记者陈晨从水利部获悉,今年前5个月,水利基础设施建设明显好于去年同期。1至5月,全国完成水利建设投资4106亿元, ...
·青岛港再次刷新单机装卸效率世界纪录
青岛港再次刷新单机装卸效率世界纪录记者从山东港口青岛港了解到,1月1日16时10分,在山东港口青岛港自动化码头三期)作业现场,“新泉州”轮桥吊平均单机作业效率达到60.2自然箱/小时,山东港口青岛港自动化码头第 ...
·中国民航商业运营国产大飞机正式起步
中国民航商业运营国产大飞机正式起步ze: 14px; line-height: 28px;">《 人民日报 》 2023年05月29日 第 02 版)本报北京5月28日电 记者邱超奕、沈文敏)记者从中国东方航空集团有限公司以下简称“东 ...
·聚焦维权“疑难杂症” 厦门市消保委开展消保交流研讨活动
聚焦维权“疑难杂症” 厦门市消保委开展消保交流研讨活动中国消费者报福州讯王青 陈南辉 记者张文章)为强化消费者权益保护前端治理效能,提升基层市场监管部门投诉应对能力,福建省厦门市消保委秘书处调研组近日前往海沧区市场监管局辖下基层市场监管所开展消保交流研讨 ...
·农发行安排1100亿元信贷资金全力支持夏粮收购
农发行安排1100亿元信贷资金全力支持夏粮收购ze: 14px; line-height: 28px;">新华社北京6月6日电 记者 郁琼源 侯雪静) 记者6日从中国农业发展银行获悉,目前,农发行已安排1100亿元信贷资金用于夏粮收购。截至6月5 ...