文|半导体产业纵横
2006 年是半导体和芯片创新范式转变真正开始的一年。
与几年前相比,半导体市场已经发生了巨大变化。云服务提供商需要定制芯片,并与合作伙伴合作进行设计。如今,讨论已久的 Chiplet 和 3D 设备正在成为市场中不断增长的领域。摩尔定律依然存在,但制造商和设计师们正在以不同的方式遵循它,而不仅仅是缩小晶体管。
巧合的是,推动这些变化的许多力量都发生在同一年:2006。
缩放速度正在放慢
虽然摩尔定律已经放缓,但它仍然存在;半导体公司仍能以某种可预测的速度缩小晶体管的尺寸。
然而,好处却发生了变化。有了所谓的 “Dennard Scaling”,芯片设计人员可以通过缩小晶体管来提高时钟速度、降低功耗,或两者兼得。在实际应用中,这意味着个人电脑制造商、手机设计者和软件开发商可以计划源源不断地改进硬件。
Dennard Scaling在 2006 年实际上已经停止了。彼时需要新技术的出现。
在 2000 年代中期,频率和单线程性能开始下降,但晶体管数量却持续攀升。来源:Karl Rupp,《微处理器趋势数据》
GPU 开始发挥作用
2006 年 11 月 8 日,NVIDIA 推出了 G80 GPU,这是首款针对 HPC 和通用计算的 NVIDIA GPU。这款 90 纳米并行协处理器上市时,拥有当时数量惊人的 6.86 亿个晶体管。
NVIDIA 还创建了CUDA ,以简化在 GPU 上编程的过程。到 2012 年,基于 GPU 的超级计算机已荣登 500 强榜单。现在, 榜单上近 90%的系统都配备了 GPU。
XPU 诞生
虽然 GPU 在训练和推理方面的表现优于 CPU,但针对特定工作负载设计的优化设备可以同时胜过 CPU 和 GPU。21 世纪初的 IBM Cell 处理器和 Cavium 系列安全处理器引领了优化芯片的第一波浪潮。
在阅读了一篇关于人工智能中概率计算兴起的文章后 ,麻省理工学院的学生 Ben Vigoda 改变了他的博士论文方向,并于 2006 年创立了Lyric Semiconductor ,以制造专注于计算概率的设备,以降低深度学习推荐模型或欺诈检测等任务所需设备的成本、功耗和尺寸。该公司于2010 年 正式成立 ,Analog Devices 于 2011 年将其收购。
用于训练和推理的定制 AI 加速器 (XPU ) 是半导体行业增长最快的细分市场之一。分析师认为,XPU 可以比 GPU 降低 20% 或更多的功耗。Lyric 可以说提出了两个关键思想。第一,AI 需要自己的芯片架构。第二,设备设计(而不是晶体管密度)可以推动该领域的进步。
Chiplet 诞生
他是 RISC 的先驱。他帮助创建了 RAID。如果你把加州大学伯克利分校的 Dave Patterson 撰写的所有教科书都堆起来,你可能会达到平流层。
Patterson 和他的实验室在这篇论文中首次公开提出了 Chiplet 这一名称和概念 。Chiplet 解决了许多问题。它们可以用由可整体运作的分立硅片组成的芯片取代巨大的单片芯片,从而降低将新设备推向市场的风险、成本和时间。它们可以推迟重新组装设备组以适应这些大型单片芯片。
随着时间的推移,chiplet 还将使公司能够专注于自己的优势:拥有出色 SerDes 或内存控制器的公司可以专注于该子系统并将其出售给多个致力于完整 chiplet 的设计师。简而言之,chiplet 消除了高级开发中的许多摩擦。
已故 Marvell 联合创始人 Sehat Sutardja在2015 年的国际固态电路会议上 推出了首个用于制造小芯片的商用平台,名为MoChi。随后不久,首批商用小芯片也问世了。
AWS 成立
云计算的概念出现于 1999 年。这一年,康柏公司的George Favorolo 和 Sean Sullivan 提出了这一术语,惠普首席执行官 Lew Platt 发起了一项将计算能力作为服务出售的计划 ,Salesforce 也成立了。
然而,对芯片的影响始于 2006 年的 AWS 和通用云服务提供商 (CSP) 的崛起。跨国 CSP 构成了一个新的公司类别,其规模足以证明开发针对特定工作负载或任务优化的处理器(如 DPU)和/或传统处理器(如 CPU)的定制变体是合理的。换句话说,CSP 基础设施的庞大规模为上述所有技术开辟了一条进入市场的道路。
那么,下一步是什么?
尽管距离芯片的快速发展已经过去了 18 年,但大多数概念实际上仍处于早期阶段。到目前为止,使用专用定制计算来降低功耗,或者提高性能的做法,仍然主要局限于大客户。他们的努力主要集中在少数精选产品上。
未来,预计 将有越来越多的客户寻求定制解决方案。“定制”可能包括完全独特的定制设计,也可能包括更改固件以提高性能,但最终制造商和最终用户都将拥有带有其签名的独特硅片集。许多优化的定制设计将基于小芯片设计。
这些设计原则还将扩展到更广泛的产品领域。用于 5G 基础设施的定制基带控制器、用于提升服务器内存容量的 CXL 控制器和 NIC 控制器已投入生产。未来将实现所有或几乎所有产品的定制化。
产品种类也将更加丰富。GPU、XPU 和 DPU 是新类别芯片进入市场的第一批浪潮。PCIe 重定时器和 CXL 控制器构成了第二波新兴浪潮,专注于改进互连。
虽然半导体行业在前 50 年的发展重点是减少主板上的芯片数量,但如今即将进入一个新时代,在主板上将添加更多芯片,同时还将出现将不同芯片和功能组合到单个封装中的系统级封装设备。