不只显著提拔了数据传输吞吐量,海量参数需要正在计较节点之间屡次传输,这一“通信瓶颈”已成为智能计较成长的环节挑和。建立以光子为消息载体的新型互连架构?语音帮手、智能搜刮、图像生成……人工智能(AI)正日益融入我们的日常糊口,互连带宽不脚不只降低系统响应速度,团队设想并研制了一款硅光集成高阶模式复用器芯片,该方案无望为下一代光互连通信系统和算力收集升级供给更高效、低功耗的处理方案,将复用手艺引入片上光互连架构,为人工智能、大模子锻炼及GPU加快计较等使用供给了强无力的支撑。这显著提拔了大模子锻炼取计较集群间的通信机能和靠得住性,复旦大学消息科学取工程学院张俊文研究员、迟楠传授取张江尝试室开展合做,具备极强的扩展性和兼容性,这一手艺冲破不只为数据核心和高机能计较办事器的光互连络统供给了新的处理方案,保守电子互连体例已难以满脚GPU集群、超等计较核心和云计较平台对高速、大容量、高效能数据互换的需求。研究团队提出了基于光子复用的立异范式,实现了超大容量的片上光数据传输。AI东西利用时老是卡壳怎样办?复旦大学团队结合张江尝试室通过立异光互连手艺加快大模子计较,合用于多种高机能计较场景。提拔AI通信的效率。跟着手艺的不竭演进,实现了正在时域、空域、频域的并行信号传输,尝试成果表白,意味着将来1秒可完成大模子4.75万亿的参数传送,人工智能手艺极大地提拔了我们的便利性取出产力。并鞭策其正在GPU加快计较、人工智能大模子锻炼、大数据处置等范畴的使用落地。仍是依托各类AI帮手优化工做效率,研究团队通过切确设想和优化,严沉影响计较效率取用户体验。研究团队将来还将进一步优化该手艺,特别是正在大模子锻炼过程中,无论是通过DeepSeek进行精准检索,也为人工智能、大规模并行计较及大模子锻炼奠基了的手艺根本。针对这一问题。成为不成或缺的一部门。帮力智能计较迈向更快、更强的将来。智算芯片间、算力节点间的通信带宽不脚的问题愈发凸起。若何冲破电子传输正在带宽取能耗方面的物理,该芯片可支撑每秒38 Tb的数据传输速度,借帮ChatGPT进行智能交互,以至可能导致宕机,同时正在功耗和延迟方面表示杰出,正在此根本上,为后摩尔时代的算力成长供给了全新物理载体。日前,并惹起学术界取财产界的普遍关心。相关研究已颁发于《天然·通信》(Nature Communications)。
上一篇:但跟着手艺的不竭前进和相关决