《芯片简史》汪波:芯片是AI算力源泉,未来将面临“三堵墙”
原标题:《芯片简史》汪波:芯片是AI算力源泉,未来将面临“三堵墙”
导读:
昨天还开开心心在上海静安寺开二矿的库克现在可能要头疼了昨天美国司法部为方便阅读下面简称老美联合个州和地区总检察长一起起诉苹果垄断智能手机市场腾讯科技讯苏扬预测未来最...
昨天还开开心心在上海静安寺开二矿的库克,现在可能要头疼了。。。 昨天美国司法部( 为方便阅读,下面简称:老美 )联合 16 个州和地区总检察长,一起起诉苹果垄断智能手机市场。。。 ....
腾讯科技讯(苏扬)“预测未来最好的方式,就是把它发明出来。”
4月20日,资深芯片研究专家,《芯片简史》作者汪波教授在湛庐2024世界读书日活动上这样总结芯片诞生对人类发展的巨大影响力。
*汪波教授现场演讲中分享芯片的蝶变
“从一头亚洲象,变成一只小蚂蚁”
汪波说,芯片的基础结构为晶体管,其基本功能就是作为开关实现0和1,以及作为信号放大器,“有了晶体管,才有了我们信息时代的计算机、互联网、无线通信等。”
1971年,人类发明了第一颗10μm工艺的CPU芯片Intel 4004,总共2250颗晶体管,到2024年英伟达发布B200 GPU芯片,芯片上的晶体管数量已经突破2080亿颗。这意味着,过去50年左右的时间,芯片上的晶体管数量增加了1亿倍。
*芯片上的晶体管按年代不断微缩,外层最大的圆圈对应1971年(实际为1972年)10μm工艺的Intel 8008。
“如果一个10μm的芯片大小是一头长6米的亚洲象,那么今天的晶体管就只有一只蚂蚁那么大”,汪波这样对比晶体管尺寸的变化,而晶体管数量的暴增,得益于微缩技术的不断进步。
“有了更小的晶体管之后,就有了PC机,有了第一台笔记本电脑,第一个iPod,第一台iPhone。”汪波说。
芯片为AI注入算力
过去几年,芯片成为科技产业最关注的话题之一,其中既源于美国对先进芯片的出口管制,也与新冠疫情冲击全球供应链导致缺芯慌有关,更重要的催化剂则是以ChatGPT为代表的生成式人工智能与大模型的爆发。
汪波介绍称,“有了非常强大的GPU芯片的加持,我们就可以做出更加超越想象的东西,比方说人形机器人,它可以理解人的话语,甚至能够通过理解物理世界来做出正确的反应。”
*ChatGPT用户增长与英伟达股价走势呈现正相关
为了强调芯片对人工智能的驱动力,汪波展示了ChatGPT用户增长情况与英伟达股价走势图。
“这两条曲线都是向上增加的一个趋势,换句话说存在正相关性,那为什么英伟达这家公司的股票会跟ChatGPT的曲线相关?因为这家公司做的是GPU,就是用于构建人工智能的一款处理器”,汪波说。
芯片面前的“三座大山”
1965年,英特尔创始人戈登·摩尔提出了著名的“摩尔定律”,预言半导体芯片上集成的晶体管和电阻数量将每年增加一倍。10年后的1975年,戈登·摩尔对“摩尔定律”进行修正,把“每年增加一倍”改为“每两年增加一倍”。
过去近60年,芯片上晶体管的微缩基本围绕摩尔定律在往前推进,但近年来芯片的工艺节点和晶体管数量增速大幅放缓,由此业界也在讨论“摩尔定律”失效的话题。
对于芯片产业发展所面临的问题,在汪波看来,可以总结为“三堵墙”。
“一堵墙叫做内存墙,当CPU存储数据时,要翻过一堵高墙,速度非常慢;第二堵墙叫做功耗墙,现在芯片上的热密度甚至超过火箭喷射口的热密度,如果再继续下去,芯片就会被自己产生的热量烧毁。第三堵墙是频率墙,CPU的频率已经有几十年没有再继续增加了。”
内存、功耗和频率“三堵墙”给现代芯片制造工艺提出了巨大的挑战,尤其是芯片工艺不断向下突破,需要光源波长更短的光刻机,而且即便人类制造出如此小的晶体管,由于“隧穿效应”导致电子从晶体管中逃逸出来,也不能保证其能正常工作。
汪波认为,解决这些问题,需要超常规的思路,他说,“回顾芯片的历史,它就是一部创新的历史,同时也是一部叛逆的历史,因为当初很多的想法都是被传统的势力打压,然后他们突破了这些打压才走到了今天。”
以下为汪波老师演讲实录:
从图书的视角看芯片
我们都知道一本书是由很多书页来组成的,每一个书页上面又有很多的文字。类似的,一颗芯片是由一大张硅晶圆组成的,大概有比萨那么大。那把它加工好之后,我们把它切成很多很多的小方块,就是每一颗的芯片,类似这个样子,那芯片还不是最终的构成单位,比它更小的一个单元叫做晶体管。
芯片上有很多晶体管,那晶体管有什么功能呢?只有两个最基本的功能,一个是作为开关,来实现0 和1,或者是作为信号放大器,就像我们有一个麦克风一样,把这个信号来放大,就可以用于通信。有了晶体管,才有了我们信息时代的计算机、互联网、无线通信等。
芯片和书籍的相似之处在于,它们都是首先把一个想法变成了一个版式或者版图,或者我们书籍的排版,然后接下来用光照的方式,把它“印刷”到这个介质上。光刻机制造其实是一种化学印刷,那这种介质硅晶圆就像纸张。
除了这些之外,芯片和书籍其实还有一些相似点,大家可以打开一下脑洞去想象一下,比方说字符。我们可以缩小它的字号,那晶体管也是类似的,我们可以逐渐缩小它的尺寸。字的字体可以改变,晶体管的样式也可以改变,让它速度更快,或者让它功耗更低,等等。那除此之外还有很多很多,这里简单的把它列出来,大家可以看一下。
那我相信在现场有很多听众,比如说出版人员,对这些词会非常熟悉:校对、行距。印刷就相当于我们芯片制造中的光刻,最后的步骤是把它封装起来,就像把书装订起来。
晶体管尺寸缩小之后
我们刚才提到,晶体管会越来越小,那逐渐变小之后有什么变化吗?下面这张图里面显示的是晶体管的尺寸,从最初的几十微米缩减到今天的3纳米,图中最大的、紫色的圆代表直径为10微米,我们的一根头发丝大概是50微米。然后它不断地缩小,到 1 微米,然后 0.1 微米,然后是0.01 微米……缩减到这个图里面最小的那个点,就比这个 HIV病毒的直径还要小。换句话说,通过我们的光学显微镜,无论多么先进的光学显微镜都看不到,因为可见光的波长最多是400纳米。而现在我们的芯片只有几十个纳米。那晶体管尺寸变小之后有带来怎样巨大的变化呢?就在一颗芯片上可以塞进更多的晶体管,就像一个书页上可以塞进更多的文字一样。
举一个具体的例子,在这张图的一个左下角,是 1971 年发明的第一颗CPU 芯片,它上面只有 2 250个晶体管,那它使用的尺寸是 10 微米,也就是一万纳米。
随着时代的进步,有了更小的晶体管之后,就有了PC机,有了第一台笔记本电脑,第一个iPod,第一台iPhone。2024 年3月,英伟达发布了 B200 GPU 芯片,上面有 2080亿个晶体管,比1971年增加了1亿倍,它的尺寸缩小到4纳米。比一万纳米缩小了2 000多倍。换句话说,一个10微米的芯片大小是一头长6米的亚洲象,那么今天的晶体管就只有一只蚂蚁那么大。
芯片的发展与人工智能的发展密切相关
最近几年,大家都知道,芯片成了大家关注的一个热点,有很多相关的 事件引起了广泛的关注,包括华为被列入到实体名单,EUV的光刻机没法出口到中国,还有在疫情期间,我们的很多的汽车厂商由于缺少芯片被迫减产甚至停产等。尤其引人注目的就是ChatGPT的发布。2022年底,ChatGPT发布。
下图左上角展示的是ChatGPT网站的访问量的变化,右下角展示的是英伟达股票的一个变化曲线。对比一下就会发现,这两条曲线都是向上增加的一个趋势,换句话说存在正相关性,那为什么英伟达这家公司的股票会跟ChatGPT的曲线相关?因为这家公司做的是GPU,就是用于构建人工智能的一款处理器。
有了ChatPGT,有了非常强大的GPU芯片的加持,我们就可以做出更加超越想象的东西,比方说人形机器人,它可以理解人的话语,甚至能够通过理解物理世界来做出正确的反应,所以我们自然而然就会问一个问题,我们距离奇点是不是更近了?为什么芯片跟人工智能如此密切相关,简单说来,芯片可以为人工智能提供巨大的算力,也就是强大的计算能力。目前提供算力的主要是GPU芯片,它比我们传统的CPU芯片的计算能力更强,因为它投入了90%以上的资源用于计算,而CPU只投入了25%的资源,而且gpu是并行的计算。
芯片发展简史及芯片未来面临的挑战
人工智能如今这么快速的发展,也对芯片提出了更多的、更大的要求,而芯片产业现在面临一些更大的挑战,具体来说就是三堵墙,一堵墙叫做内存墙,就是当CPU去存储数据的时候,它要翻过一堵高墙,速度非常的慢;第二堵墙叫做功耗墙,怎么理解,就是英伟达发布的GPU芯片,它用的制冷方式是水冷,而不是通过空气对流来散热。为什么需要水冷?因为它运行中会产生很多的热量,而热量散发不出去,现在我们芯片上的热密度已经达到甚至超过了火箭喷射口的热密度,我们目前还没有找到解决的办法。如果再继续下去,芯片就会被自己产生的热量烧毁。第三堵墙是频率墙,已经有几十年芯片的CPU的频率没有再继续增加了。
在芯片诞生之前,其实只有一种非常笨重的器件叫做真空管,它是由灯泡改造而来的,大家都知道,灯泡非常大,而且表面是玻璃做的,非常脆弱。所以第一个由真空管制成的计算机体积非常庞大。那直到1947年,贝尔实验室的三个科学家发明了晶体管,它的尺寸远远比真空管要小,而且更加可靠,因为它没有一个所谓的玻璃罩,它能实现刚才我说的两个基本的功能,一个是放大信号,另外一个是作为开关:0和1。
但是随着晶体管的数量越来越多,又产生了新的问题,这些晶体管在一个电路里面要怎么互联起来,怎么把它组装起来,人们找不到解决方法。10年之后,基尔比想到了一个主意,他想把所有的晶体管原件都集成在一个硅的基座上面,就可以让这个体积更小,但是它还没有解决另外一个问题,就是这些晶体管怎么互联起来。而另外一个工程师诺伊斯,想到了一个方法来解决元件互联的问题,所以我们今天认为是基尔比和诺伊斯共同发明了芯片。
芯片发明出来之后,芯片上的元件数量就不断增加,到了1965年,就是7年之后,摩尔受邀写一篇文章,他总结了过去几年芯片发展的规律,发现每过一年,芯片上的元件数量就翻一倍,非常简单的一个规律,所以他就写成一篇文章发表出来了。这就是摩尔定律最初的一个表述,非常简单的一个定义。一开始是1,然后是2、4、8、16……这样逐渐翻倍。一开始的数量非常小,但这个发展的速度是指数倍的,到了40年、50年之后,这个数字将变得非常庞大。芯片产业发展的脚步是一直按照摩尔定律来向前推进的。
1957年,仙童半导体公司成立了,这是一家伟大的公司,同时也是一家管理失败的公司,很多员工跳槽出去,在周围创办新的企业,从之前的公司分化出大约400家企业。他们所在的地点就是今天的硅谷,所以就有了我们今天这些人工智能、互联网,也包括芯片领域这些最先进的公司。
如果我们简单总结一下芯片的发展规律,可以用一棵树来表达出来,最开始是基础的学科,量子力学的发展,然后经由这个诞生了晶体管,然后又诞生了芯片,芯片又按照摩尔定律在不断发展,其中一个典型的代表就是CPU或者处理器芯片,然后有了我们的计算机等。还有一个就是存储,有了我们的flash,另外一方面就是跟我们的通信——放大信号有关的,有了无线通信的这些芯片,此外还有各种传感类芯片,包括我们的智能手表等上面使用的芯片。还有一个很重要就是新能源汽车上面用来驱动汽车,把电池的能量转换成电力来驱动的,叫做功率芯片。最后一种,也是我们每天都在用的,就是光电类芯片,用于手机拍照,用于光伏发电。(我觉得大自然对人类非常的慷慨,而人类也非常幸运得到了硅这种半导体材料,这种材料分布非常广泛,而且它居然可以有这么多功能,可以放大信号,又可以作为开关,甚至还能捕捉光的信号——把它变成一个一个的像素点保存下来,变成我们的照片。)最后一个就是反过来把电信号转换成光,所以有了LED的照明和显示,这些都是基于芯片技术发展起来的。
回顾芯片的历史,它就是一部创新的历史,同时也是一部叛逆的历史,因为当初很多的想法都是被传统的势力打压,然后他们突破了这些打压才走到了今天。今天我们又面临新的挑战,首先是芯片里面的晶体管的尺寸已经逼近了物理的极限,我们讲到3纳米,未来还有可能1纳米,0.5纳米,在这么小的尺寸下,我们要非常短波长的光刻机来才能制造出来这些芯片。另外一个挑战就是,即便我们制造出这么小的晶体管,可能它也没法正常工作,因为它还受到另外一个物理极限的影响,就是隧穿效应,当晶体管非常非常小,只有原子尺寸的时候,电子就能从晶体管中逃逸出来,就像穿透一堵墙一样,让晶体管失效,这样我们保存的照片数据就会自动消失。
当然现在科学家还在尽量想各种方法来解决这些问题,包括使用新的材料,比如硅以外的材料,比方说碳基的晶体管,比如说氧化物的晶体管,模拟人脑神经元的工作原理的晶体管,等等。除了芯片领域本身的这些挑战,我们还面临着很多更大范围内的挑战,比如气候变暖、人口的老龄化以及电力资源的短缺。我们可能会问,用手机充点电就会导致电力资源短缺吗?还真有可能,有一个数据是,训练一次AI大模型,需要消耗2亿度电。
有一种说法是,“所有的transformer要消耗掉所有的transformer”。第一个transformer指的是大模型,第二个transformer指的是变压器,就是我们的电力。除了这些技术方面的挑战之外,还有很多在技术以外的,国与国之间的这种竞争,供应链短缺,等等。这些在过去几年中都发生过,也是我想要写这样一本关于芯片的书的原因,想要给大家去讲述芯片是怎么回事,然后它是如何诞生并且改变世界的。
结束语
芯片跟书籍还有一个共同点,那就是一旦付印就没法再去修改。我们的书籍一旦印出来就没法修改,芯片也是,所以这就要求我们在付印之前不断地去打磨它,修订它,把它尽量做到完善。在这个过程中非常感谢湛庐及浙江教育社的编辑,他们非常认真地校对,核对每一个数据、每一个人名,每一个专业术语。当然也感谢行距文化的老师,在我写作的初期跟我一起讨论写作的方向。在这本书出版以后,很多的媒体来帮忙宣传,比方说像腾讯 “芯事重重”专栏,我们对一些芯片的热点问题展开了一些解读,以帮助大家更好地了解目前发生的这些 ,芯片方面的事件与我们的关联,有利于公众更好地理解芯片产业。
最后,回到大会的主题,奇点是不是很快就要来临,很难去预测,但是有一句话,《芯片简史》里面也有提到,那就是预测未来最好的方式,就是把它发明出来。
- 版权所属:王牌阁
- 本文地址:http://person.uexe.cn/19656.html
- 版权声明:原创文章,转载时必须以链接形式注明原始出处及本声明。