CEO黄仁勋的主题演讲引发了技术界的热议ღ✿ღ★，其展示了晶圆级芯片概念Grace Blackwell NVLink72和朋友夫妻一起租房住ღ✿ღ★，并号称是世界上最大的芯片ballbet贝博体育app下载ღ✿ღ★。

　　黄仁勋在演讲中称ღ✿ღ★，英伟达拥有多种计算网络系统ღ✿ღ★，例如NVLink 36和NVLink 72ღ✿ღ★，能够满足全球几乎所有数据中心的需求ღ✿ღ★，目前在约45家工厂生产ღ✿ღ★。公司的目标是创建一个名为Grace Blackwell NVLink72的巨型芯片ღ✿ღ★，该芯片将使用72个BlackwellGPUღ✿ღ★，性能超越世界上最快的超级计算机ღ✿ღ★。

　　Grace Blackwell NVLink72具备将1.5吨重ღ✿ღ★，2英里长铜缆链接的NVL72浓缩于晶圆上的潜力ღ✿ღ★，以进一步提升内存带宽和芯片间互联传输速度ღ✿ღ★。

　　值得注意的是BALLBET官网ღ✿ღ★，这款巨型芯片是一块晶圆级别大小的芯片ღ✿ღ★，相当于36张GB200组合在一起ღ✿ღ★，总共可提供1.4EFLOPS算力ღ✿ღ★，实现1.2PB/s的带宽吞吐ღ✿ღ★。那么英伟达此次推出的晶圆级芯片采取的是一种什么样的技术呢？为什么如此强大？

　　在全球大模型火热与摩尔定律变缓的双重背景下ღ✿ღ★，传统芯片制造工艺逐渐接近物理极限ღ✿ღ★，严重制约了算力的提升空间ღ✿ღ★。面对这一挑战ღ✿ღ★，开发晶圆级芯片成为了一个备受关注的解决方案ღ✿ღ★。

　　顾名思义ღ✿ღ★，晶圆级芯片通过制造一块不进行切割的晶圆级互连基板和朋友夫妻一起租房住ballbet贝博体育app下载ღ✿ღ★，再将设计好的常规裸片在晶圆基板上进行集成与封装ღ✿ღ★，从而获得一整块巨大的芯片ღ✿ღ★。对比传统芯片构成的计算集群ღ✿ღ★，晶圆级计算系统通过先进集成技术获得了芯片级的互连能力ღ✿ღ★。由于舍弃了原本的芯片切割ღ✿ღ★、封装ღ✿ღ★、互连ballbet贝博体育app下载ღ✿ღ★、电缆及光缆连接等步骤ღ✿ღ★，利用晶圆级的技术物理实现ღ✿ღ★，充分发挥了晶圆大规模ღ✿ღ★、高密度和低损耗的特点和朋友夫妻一起租房住ღ✿ღ★。

　　晶圆级芯片通过构建整片晶圆规模的大规模集成电路ღ✿ღ★，打破了传统芯片设计中由光刻口径施加的面积墙限制ღ✿ღ★，对比等效的算力集群ღ✿ღ★，能够显著提高系统集成度ღ✿ღ★，减少互连延迟和功耗ღ✿ღ★。相比于传统的芯片ღ✿ღ★，未经切割的晶圆上电路单元可以更紧密地排列ღ✿ღ★，形成带宽更高ღ✿ღ★、延时更短的互连结构ღ✿ღ★，大幅加速数据传输和朋友夫妻一起租房住ღ✿ღ★。晶圆级芯片可以说是目前为止算力节点集成密度最高的一种形态ღ✿ღ★。据测算ღ✿ღ★，其单机柜算力密度能够达到现有 GPU 方案的 200 倍以上ღ✿ღ★。

　　在常规芯片生产流程中ღ✿ღ★，一个晶圆在光刻后被切割成许多小裸片（Die）并单独进行封装ღ✿ღ★，每片裸片都单独封装为一颗完整的芯片ღ✿ღ★。而晶圆级芯片则是通过制造一块不进行切割的晶圆级互连基板ღ✿ღ★，再将设计好的常规裸片在晶圆基板上进行集成与封装ღ✿ღ★，从而获得一整块巨大的芯片ღ✿ღ★。对比传统芯片构成的计算集群ღ✿ღ★，晶圆级计算系统通过先进集成技术获得了芯片级的互连能力ღ✿ღ★。在晶圆级芯片中ღ✿ღ★，晶圆与附带组件（例如电源模组和冷却模组）组成一个完整的系统ღ✿ღ★，而不仅仅是单个芯片ღ✿ღ★。

　　去年台积电公布了其晶圆级计算（集成）技术的突破性进展和量产计划ღ✿ღ★。目前预计SoW（System on Waferღ✿ღ★，即晶圆上系统）会极大改变计算系统的发展进程ღ✿ღ★，为大模型和未来的超级计算更大的算力支撑和扩展能力ღ✿ღ★。SoW的量产预告也意味着工业界已经在紧锣密鼓的筹备超越传统GPGPU架构的新计算范式ღ✿ღ★。

　　在晶圆上系统集成工艺的研发取得突破性进展后ღ✿ღ★，台积电确信ღ✿ღ★，晶圆级设计的使用率不仅会大幅提升ღ✿ღ★，而且人工智能和 HPC 等大趋势将需要更复杂的解决方案ღ✿ღ★：垂直堆叠的晶圆系统设计ღ✿ღ★。

　　国际上对晶圆上系统的研究起步比较早ღ✿ღ★，2020年ღ✿ღ★，台积电发布的InFO_SoW技术成功应用于特斯拉的Dojo系统ღ✿ღ★。2022年ღ✿ღ★，ASEღ✿ღ★、AMDღ✿ღ★、Intelღ✿ღ★、微软ღ✿ღ★、高通ღ✿ღ★、三星ღ✿ღ★、台积电等十大行业巨头宣布成立行业联盟和朋友夫妻一起租房住ღ✿ღ★，并制定发布了通用小芯粒互连通道标准规范UCIeღ✿ღ★。

　　晶圆级设计通过直接在整片硅晶圆上构建处理器ღ✿ღ★，实现了前所未有的核心间通信速度ღ✿ღ★、性能密度以及能效ღ✿ღ★，然而ღ✿ღ★，其复杂度与成本也相应增加和朋友夫妻一起租房住ღ✿ღ★，限制了广泛应用ღ✿ღ★。受限于技术水平ღ✿ღ★，目前只有 Cerebrasღ✿ღ★、特斯拉和英伟达开发了晶圆级芯片ღ✿ღ★。

　　Cerebras成立于2016 年ღ✿ღ★，是一家位于美国硅谷的AI芯片制造商ღ✿ღ★。其联合创始人及首席执行官是安德鲁费尔德曼ღ✿ღ★。2019年ღ✿ღ★，Cerebras就发布了第一代WSE（Wafer Scale Engine）芯片ღ✿ღ★。至今该公司已经推出第三代晶圆级芯片ღ✿ღ★。

　　2024年3月14日ღ✿ღ★，美国加州半导体公司Cerebras Systems宣布第三代晶圆级AI加速芯片“WSE-3”正式面世ღ✿ღ★。这款被业内誉为“规格参数疯狂”的芯片不仅在功耗和价格方面保持了稳定的优势ღ✿ღ★，更是将性能推向了一个新的高度ballbet贝博体育app下载ღ✿ღ★。

　　Cerebras 公司的技术路线是通过修改芯片光刻流程实现的ღ✿ღ★。晶圆光刻过程中在计算 Die 之间加入连接线ღ✿ღ★，让 Die 与 Die 互连进而形成整个晶圆级芯片ღ✿ღ★。

　　WSE-3在工艺上采用了台积电5nm工艺ღ✿ღ★，晶体管数量达到了惊人的4万亿个ღ✿ღ★，AI核心数量也进一步增加至90万个ღ✿ღ★。缓存容量更是提升到了44GBღ✿ღ★，为用户提供了更加广阔的数据处理空间ღ✿ღ★。在外部搭配内存方面ballbet贝博体育app下载ღ✿ღ★，用户还可以灵活选择1.5TBღ✿ღ★、12TBღ✿ღ★、甚至高达1200TB的内存容量ღ✿ღ★，以满足不同规模的应用需求ღ✿ღ★。尽管在核心数量和缓存容量的增加幅度上并不突出ღ✿ღ★，但WSE-3的性能表现却实现了质的飞跃ღ✿ღ★。其峰值AI算力高达125PFlopsღ✿ღ★，相当于每秒能够完成12.5亿亿次的浮点计算ღ✿ღ★。WSE-3在短短的一天内就能够完成Llama 700亿参数的训练任务ღ✿ღ★。

　　特斯拉在2021年一场名为“AI Day”的活动上ღ✿ღ★，推出了名为“Dojo”的超级计算机ღ✿ღ★，其功能不仅可以处理海量的视频数据ღ✿ღ★，也可以为特斯拉Autopilotღ✿ღ★、全自动驾驶系统（FSD）以及人形机器人Optimus提供算力支持ღ✿ღ★。

　　而Dojo超级计算机系统的核心部件就是D1芯片ღ✿ღ★，这是一款采用台积电7纳米工艺打造的高性能芯片ღ✿ღ★，集成了500亿晶体管ღ✿ღ★，其内部集成了一个处理器核心ღ✿ღ★、一个高带宽内存ღ✿ღ★、一个高速互连器以及高速缓存ღ✿ღ★，其峰值算力为362TFLღ✿ღ★。

　　值得注意的是ღ✿ღ★，Tesla Dojo 的晶圆级处理器采用了 Chiplet 路线在晶圆尺寸的基板上集成了 25 颗专有的 D1 芯片ღ✿ღ★。这款晶圆级处理器也是基于台积电 InFO-SoW 技术量产的首款解决方案ღ✿ღ★，与系统级封装 (SiP) 相比ღ✿ღ★，具有低延迟高带宽ღ✿ღ★、高性能ღ✿ღ★、高带宽密度ღ✿ღ★、供电电阻也更低ღ✿ღ★。

　　特斯拉在一个训练模块中集成了25颗D1芯片ღ✿ღ★，让特斯拉的训练模块峰值算力达到了9PFLOPSღ✿ღ★，带宽为900GB/sღ✿ღ★。然后10个训练模块又继续组合成一个算力为900 PFLOPSღ✿ღ★，带宽90TB/s的系统托盘ღ✿ღ★，并配以相对应的供电冷却联网系统ღ✿ღ★，这个东西被官方称为ExaPOD集群ღ✿ღ★。在经过了一系列的“堆料”操作后ღ✿ღ★，特斯拉就得到了这个由3000颗D1芯片组成的Dojo超级计算机ღ✿ღ★。

　　在近期的CES上ღ✿ღ★，英伟达推出了其历史上造过的最大芯片Grace Blackwell NVLink 72ღ✿ღ★。该芯片主要用于GB200 NVL72（NVIDIA于2024年3月GTC 大会上发布的一套多节点液冷机架级扩展系统ღ✿ღ★，适用于高度计算密集型的工作负载）中ღ✿ღ★。

　　英伟达的Grace Blackwell NVLink 72对特斯拉的自研芯片构成了巨大挑战和朋友夫妻一起租房住ღ✿ღ★。根据特斯拉方面的计划ღ✿ღ★，他们本来打算在2023年财年生产4~5万颗D1芯片ballbet中国官网ღ✿ღ★，ღ✿ღ★，逐步替换掉英伟达的算力芯片ღ✿ღ★，其首个ExaPOD也在2023年7月投入了运营ღ✿ღ★。

　　但此后马斯克突然表示ღ✿ღ★，自研芯片ღ✿ღ★，毫无必要ღ✿ღ★，他说ღ✿ღ★：“如果英伟达能够给我们足够的GPUღ✿ღ★，也许我们就不需要Dojoballbet贝博体育app下载ღ✿ღ★，但他们无法满足我们的需求ღ✿ღ★。”一向痴迷于技术创新的马斯克之所以会说这样的话ღ✿ღ★，无非就是他们的自研芯片无法满足需求ღ✿ღ★。

　　现阶段ღ✿ღ★，晶上系统（SoW）正以其独特的魅力引领着全球集成电路产业的变革ღ✿ღ★。早在2019年ღ✿ღ★，邬江兴院士团队就凭借极具前瞻性的眼光原创提出软件定义晶上系统（Software Defined System on Waferღ✿ღ★，简称SDSoW）概念ღ✿ღ★。SDSoW是直接用完整的晶圆基板来做系统内部各模块的互连底座ღ✿ღ★，通过在晶圆上采用先进集成技术将计算ღ✿ღ★、存储ღ✿ღ★、互连ღ✿ღ★、I/O等各种芯粒组装实现完整的系统ღ✿ღ★，提供更大范围的资源可配置性ღ✿ღ★，同时系统内各模块之间以及各模块本身的连接支持软件定义ღ✿ღ★。它打破现有集成电路的设计方法ღ✿ღ★、计算范式ღ✿ღ★、实现材料ღ✿ღ★、集成方式等边界条件ღ✿ღ★，相比基于PCB的芯片焊装成组件堆叠出更大系统的工程实现模式ღ✿ღ★，SDSoW系统的带宽贝博ღ✿ღ★，ღ✿ღ★、延迟ღ✿ღ★、功耗均可获得大幅增益ღ✿ღ★，整体系统性能可提升3~5个数量级ღ✿ღ★。

　　SDSoW技术是应对芯片传统工艺微缩难以为继ღ✿ღ★、摩尔定律逐渐失效的新出路ღ✿ღ★，通过晶上拼装集成和软件定义体系结构ღ✿ღ★，不仅可以满足系统技术创新对于领域专用多样化ღ✿ღ★、异质集成功能等方面的需求ღ✿ღ★，而且还摆脱了单一工艺节点维度对提升芯片性能的束缚ღ✿ღ★，通过芯粒的晶圆级组装ღ✿ღ★，可以快速ღ✿ღ★、经济地研制出能够满足未来需求的晶圆级芯片及系统ღ✿ღ★。SDSoW将带动集成电路技术从SoC进入SoW时代,极大地弱化我国集成电路对先进工艺进步的强依赖性ღ✿ღ★，助力我国夺取美国霸权下的集成电路自主发展权ღ✿ღ★。

　　为加快培育我国晶上系统产业生态体系ღ✿ღ★，软件定义晶上系统技术与产业联盟（简称晶上联盟）积极开展生态服务平台建设ღ✿ღ★，已取得一系列突出成果ballbet贝博体育app下载ღ✿ღ★。2024年6月ღ✿ღ★，在第七届晶上系统生态大会（SDSoW2024）上成立了天津市晶上集成电路产业发展中心以及晶上联盟专家委员会ღ✿ღ★，以指导ღ✿ღ★、推动国内晶上系统技术的发展ღ✿ღ★。同时ღ✿ღ★，大会还发布了《晶上系统硬件制造通用工程技术规范》和《软件定义晶上系统互连接口标准（草案）》ღ✿ღ★，为晶上系统的设计和制造提供了明确的指导和规范ღ✿ღ★。据了解台积电ღ✿ღ★，2025年第八届晶上大会还将会有更多生态成果重磅发布和朋友夫妻一起租房住ღ✿ღ★。