英伟达新核弹GPU：4nm制程800亿晶体管，全新Hopper架构太炸了

丰色 萧箫 发自 凹非寺量子位 | 公众号 QbitAI

他来了他来了，老黄带着英伟达的最新一代GPU来了。

之前大家猜的5nm错了，一手大惊喜，老黄直接上了台积电4nm 工艺。

新卡取名H100，采用全新Hopper架构，直接集成了800亿个晶体管，比上一代A100足足多了260亿个 。

内核数量则飙到了前所未有的16896个 ，达到上一代A100卡的2.5倍。

浮点计算和张量核心运算能力也随之翻了至少3倍，比如FP32就达到了达到60万亿次/秒。

特别注意的是，H100面向AI计算，针对Transformer 搭载了优化引擎，让大模型训练速度直接×6。

（可算知道5300亿参数的威震天-图灵背后的秘诀了。）

作为一款性能爆炸的全新GPU，不出意外，H100将与前辈V100、A100一样成为AI从业者心心念念的大宝贝。

不过不得不提，它的功耗也爆炸了，达到了史无前例的700W ，重回核弹级别。

关于自研的Grace CPU，这次大会也公布了更多细节。

没想到，老黄从库克那里学来一手1+1=2 ，两块CPU“粘”在一起组成了CPU超级芯片——Grace CPU Superchip。

Grace CPU采用最新Arm v9架构，两块总共拥有144个核心，拥有1TB/s的内存带宽，比苹果最新M1 Ultra的800GB/s还高出一截。

基于全新CPU、GPU基础硬件，这次发布会也带来了下一代企业级AI基础设施DXG H100、全球最快AI超算Eos。

当然，英伟达作为真正的元宇宙先驱，也少不了Omniverse上的新进展。

下面具体来看看。

首款Hopper架构GPU，性能暴增

作为上一代GPU架构A100（安培架构）的继承者，搭载了全新Hopper架构的H100有多突飞猛进？

话不多说，先上参数：

老黄可谓下血本，先是直接采用了台积电4nm 工艺，晶体管一口气集成了800亿 个。

要知道，上一代A100还只是7nm架构，这次发布会出来前，外界不少声音猜测老黄会用5nm制程，结果一发布就给大家来了个大惊喜。

最恐怖的是CUDA核心直接飙升到了16896个 ，直接达到了A100的近2.5倍。（要知道从V100到A100的时候，核心也不过增加那么一丝丝）

这次可不能感慨老黄刀法精准了。

再看浮点运算和INT8/FP16/TF32/FP64的张量运算，性能基本全部提升3倍 不止，相比来看，前两代的架构升级也显得小打小闹。

这也使得H100的热功耗（TDP）直接达到了前所未有的700w ，英伟达“核弹工厂”名副其实（手动狗头）。

话又说回来，这次H100也是首款支持PCle 5.0和HBM3的GPU，数据处理速度进一步飞升——内存带宽达到了3TB/s。

这是什么概念？

老黄在发布会上神秘一笑：只需要20个H100在手，全球互联网流量我有。

整体参数细节究竟如何，与前代A100和V100对比一下就知道了：

△图源@anandtech

值得一提的是，Hopper架构的新GPU和英伟达CPU Grace名字组在一起，就成了著名女性计算机科学家Grace Hopper 的名字，这也被英伟达用于命名他们的超级芯片。

Grace Hopper发明了世界上第一个编译器和COBOL语言，有“计算机软件工程第一夫人”之称。

训练3950亿参数大模型仅1天

当然，Hopper的新特性远不止体现在参数上。

这次，老黄特意在发布会上着重提到了Hopper首次配备的Transformer引擎 。

嗯，专为Transformer打造，让这类模型在训练时保持精度不变、性能提升6倍 ，意味着训练时间从几周缩短至几天。

怎么表现？

现在，无论是训练1750亿 参数的GPT-3 （19小时），还是3950亿 参数的Transformer大模型（21小时），H100都能将训练时间从一周缩短到1天之内，速度提升高达9倍。

推理性能也是大幅提升，像英伟达推出的5300亿 Megatron模型，在H100上推理时的吞吐量比A100直接高出30倍，响应延迟降低到1秒，可以说是完美hold住了。

不得不说，英伟达这波确实突入了Transformer阵营。

在此之前，英伟达一系列GPU优化设计基本都是针对卷积 架构进行的，接近要把“I love 卷积”这几个字印在脑门上。

要怪只怪Transformer最近实在太受欢迎。（手动狗头）

当然，H100的亮点不止如此，伴随着它以及英伟达一系列芯片，随后都会引入NVIDIA NVLink 第四代互连技术。

也就是说，芯片堆堆乐的效率更高了，I/O带宽更是扩展至900GB/s。

这次，老黄还着重提到了GPU的安全性 ，包括实例之间具有隔离保护、新GPU具有机密计算功能等。

当然，数学计算能力也提升了。

这次H100上新的DPX指令可以加速动态规划，在运算路径优化和基因组学在内的一系列动态规划算法时速度提升了7倍。

据老黄介绍，H100会在今年第三季度 开始供货，网友调侃“估计也便宜不了”。

目前，H100有两个版本可选：

一个就是功率高达700W的SXM，用于高性能服务器；另一个是适用于更主流的服务器PCIe，功耗也比上一代A100的300W多了50W。

4608块H100，打造全球最快AI超算

H100都发布了，老黄自然不会放过任何一个搭建超级计算机的机会。

基于H100推出的最新DGX H100计算系统，与上一代“烤箱”一样，同样也是配备8块GPU。

不同的是，DGX H100系统在FP8精度下达到了32 Petaflop的AI性能，比上一代DGX A100系统整整高了6倍 。

各GPU之间的连接速度也变得更快，900GB/s的速度接近上一代的1.5倍 。

最关键的是，这次英伟达还在DGX H100基础上，搭建了一台Eos超级计算机 ，一举成为AI超算界的性能TOP 1——

光就18.4 Exaflops的AI计算性能，就比日本的“富岳”（Fugaku）超级计算机快了4倍 。

这台超算配备了576个DGX H100系统，直接用了4608块H100 。

即使是传统科学计算，算力也能达到275 Petaflops （富岳是442 Petaflops），跻身前5的超算是没什么问题。

“拼装”CPU，跑分成了TOP1

本次GTC大会，老黄仍然“提了几嘴”超级服务器芯片Grace。

它在去年4月份的GTC大会就已经有所亮相，和当时一样，老黄表示：有望 2023年可以开始供货，反正今年是不可能碰上了。

不过，Grace的性能倒是值得一提，有了“惊人进展”。

它被用在两个超级芯片中：

一个是Grace Hopper超级芯片 ，单MCM，由一个Grace CPU和一个Hopper架构的GPU组成。

一个是Grace CPU超级芯片 ，由两个Grace CPU组成，通过NVIDIA NVLink-C2C技术互连，包括144个Arm核心，并有着高达1TB/s的内存带宽——带宽提升2倍的同时，能耗“只要”500w。

很难不让人联想到苹果刚发的M1 Ultra，看来片间互连技术的进展，让“拼装”成了芯片行业一大趋势。

Grace超级芯片在SPECrate®2017_int_base基准测试中的模拟性能达到了740分，是当前DGX A100 搭载的CPU的1.5倍（460分）。

Grace超级芯片可以运行在所有的NVIDIA计算平台，既可作为独立的纯CPU系统，也可作为 GPU加速服务器，利用NVLink-C2C技术搭载一块至八块基于Hopper架构的GPU。

（嗯，刚说完，老黄的芯片堆堆乐就堆上了。）

值得一提的是，英伟达对第三方定制芯片开放了NVLink-C2C 。

它是一种超快速的芯片到芯片、裸片到裸片的互连技术，将支持定制裸片与NVIDIA GPU、CPU、DPU、NIC 和SOC之间实现一致的互连。

或许，任天堂新掌机 可以期待一波？

连工业也要在元宇宙里搞

当然，除了上述内容之外，这次英伟达也透露了不少与工业应用相关的案例。

而无论是自动驾驶、还是包括虚拟工厂的数字孪生等场景，都与计算机渲染和仿真技术有着密不可分的关系。

英伟达认为，工业上同样能通过在虚拟环境中模拟的方式，来增加AI训练的数据量，换而言之就是“在元宇宙里搞大训练 ”。

例如，让AI智能驾驶在元宇宙里“练车”，利用仿真出来的数据搞出半真实环境，增加一些可能突发故障的环境模拟：

又例如，搞出等比例、与现实环境中材料等参数完全一样的“数字工厂”，在建造前先提前开工试运行，以及时排查可能出现问题的环境。

除了数字孪生，数字资产的生产也是元宇宙早期建设阶段需要着重考虑的部分。

在这方面，英伟达推出了随时随地能在云端协作的Omniverse Cloud 。

最有意思的是，这次发布会上还演示了一套AI驱动虚拟角色系统。

现实中3天，虚拟角色在元宇宙里靠强化学习苦练10年功夫 。

等练成一身本领，出来无论到游戏还是动画里都是个好“动作演员”。

用它生成动画无需再绑定骨骼、k帧，用自然语言下指令即可，就像导演和真人演员一样沟通，大大缩短开发流程。

要论元宇宙基建 还得看老黄啊。

Venturebeat对此评价称，“这些案例给元宇宙赋予了真正的意义”。

那么，你看好英伟达的omniverse前景吗？

更多详情，可以戳完整演讲地址（带中字哦）：https://www.nvidia.cn/gtc-global/keynote/?nvid=nv-int-bnr-223538&sfdcid=Internal_banners

参考链接：[1]https://www.anandtech.com/show/17327/nvidia-hopper-gpu-architecture-and-h100-accelerator-announced[2]https://venturebeat.com/2022/03/22/nvidia-gtc-how-to-build-the-industrial-metaverse/

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态

用语音控制家电，手把手教大家学习使用LD3320语音识别模块

大家好，我是阿乐，今天给大家讲解一下LD3320语音识别模块。

先来看看模块实物，它是长这个样子的：

LD3320语音识别模块实物

我现在用来给大家做讲解的这个模块是已经集成了单片机在上面，这样子开发起来就更简单一些，不用移植程序，直接在例程里改关键词，然后编译上传就可以了。

在模块背后黑色大大那块就是单片机啦，它是STC11的单片机：

模块背面的STC单片机

在模块正面，有个小小的很多脚的那个就是LD3320芯片了，就是图中红色圈圈中的那个：

看看单芯片的样子：

LD3320是一颗基于非特定人语音识别（SI-ASR：Speaker-Independent Automatic Speech Recognition）技术的语音识别芯片，或者说是语音声控芯片。

在这里给大家讲讲什么是非特定人语音识别。通俗点讲就是不用针对指定发音人的识别技术，这种语音识别技术不分年龄、性别，只要发音人说的是相同的语言就可以识别。再说得简单点，就是说只要是拼音可以拼出的发音，都是可以输入芯片进行识别的。

这个语音识别模块它不是智能的，不是说我们问它什么它就可以回答什么，它不像我们手机上的语音助手比如小爱或者Siri那样，能跟我们对答如流。这个模块能识别的内容，是需要我们提前设定好的，我们把要识别的关键词语列好，然后把这些关键词语以字符的形式传送到 LD3320 内部，这样才可以对用户说出的关键词语进行识别，而且在同一时刻，它最多是在50条关键词语中进行识别。

这个模块虽然不是智能的，但是它开发起来简单呀，价格也不算贵，而且它可以在识别到关键词后直接从IO口输出高低电平，或者从串口打印出数据。这就很好玩啦，我们可以用它来控制各种家电，控制小车，用来传输命令等，还是非常有意思的。

这个模块有三个工作模式：1、普通模式；2、口令模式；3、按键触发模式。不同的工作模式可以通过程序编程来实现。

普通模式就是模块工作时，我们直接说话，模块直接识别。

口令模式就是模块工作时，我们先要说出一个一级口令，比如“芝麻开门”，模块在识别到正确的一级口令后才进行下一级的识别。

按键触发模式就是模块工作时，我们在进行语音识别之前，需要先按一下按键，接下来才能进行下一步的识别。

这三个模式我觉得口令模式比较实用，接下来讲讲用口令模式去控制IO口高低电平的变化，进而去控制一个继电器的闭合与断开。

看到下图中这个语音识别模块的图片，红色框框中的引脚就是我们可以用的IO，竖着那一排由下而上标着P10~P17有八个，横着那一排从左往右是P34、P33，P23~P27，P41，也有8个，这样我们可以用的IO口就有16个啦，这16个IO口可以用来控制继电器，LED，或者接单片机的IO口。

上图中，最左边由下而上标着5V，GND，TX，RX的四个引脚就是用来给模块下载程序的地方，串口就在这里了。我们通过串口给其它模块或者单片机发数据也是从这里接。

好，接下来我们就直接用这个P10引脚来控制继电器吧，这个模块输出的是3.3V的TTL电平，就算是用5V的继电器也不能直接控制，我们就给它加个三极管，然后再通过三极管来控制继电器。

画出这个电路图如下图：

电路中，语音识别模块的P10引脚出来直接接一个200Ω的电阻，电阻的另一头接到9013NPN三极管的基极，9013三极管发射极接地，接电源负极，集电极接1N4148二极管的正极和继电器的一个控制引脚，继电器的另一个控制引脚接到+5V电源。这样子当P10端口输出高电平时，三极管导通，继电器吸合；当P10端口输出低电平时，三极管截止，继电器断开。我们就可以通过继电器去控制各种家电了。在电路图中，我是让继电器控制一盏220V的灯。电路图中1N4148二极管和继电器并接，而且是将二极管的负极接到电源正极，二极管在这里起到续流的作用，可以保护三极管。

如下图是我根据这个电路图焊好的继电器模块，顺便给这个语音识别模块做了个底座，只要把语音识别模块安到底座上，就可以通过底座给语音模块供电，也把P10口和继电器电路的控制端口接在一起了。

好，接下来就是程序编程了，示例程序很多看起来很复杂，如果只是做简单的开发，我们没必要把每个细节全部弄懂，我们只要知道修改识别关键词的地方在哪就得了。

如下图，在左边工程栏里找到“LDChip.C”这个文件，双击打开：

在 LDChip.C （下图中红色圈圈1）文件中下滑找到274行“uint8 LD_AsrAddFixed() ”这个函数，函数中，278，279这两行有两个数组，DATE_A 和DATE_B，后面跟着数字，这个DATE_A后面的数字表示的是关键词的个数，而DATE_B后面的数字表示的是这些关键词中最长一句的长度。我们将要添加三个关键词命令：“芝麻开门”，“打开继电器”，“关闭继电器”，所以DATE_A 后面跟着个3；而这三个命令的拼音中，包含空格，长度最长的是“guan bi ji dian qi”，有18个，所以DATE_B后面跟着18，如图中的红色圈圈2。

再看到280~284行，这里边就是添加关键词拼音的地方啦，我们要在这里输入要识别的命令的拼音，比如一级口令是：“芝麻开门”，二级口令是：“打开继电器”，“关闭继电器” ，如图中的红色圈圈3。

285~289的这个数组是识别码数组（上图中的红色圈圈4），所添加的识别码为预先定义好的宏定义常量值，同时必须和关键词一一对应。图中取每个关键词命令的拼音首字母大写，格式是“CODE_拼音首字母大写”。如“芝麻开门”就是“CODE_ZMKM”。

好，接下来去定义识别码，这些东西我们要先定义才能使用，如下图，在左边工程栏（图中红色圈圈1）找到并双击打开LDChip.h 这个文件，下滑找到第40行，看到#define这一堆这里（图中红色圈圈2），这里就是添加和修改识别码的地方，我们可以根据自己的需要和喜好任意定义识别码和宏名，但必须和刚才前面所使用的识别码配对，否则会提示未定义错误。识别码后面的数字字母不用理它，如果增加识别的关键词的个数，按顺序往下增大就可以，如“0x03，0x04”等。

好，最后们要修改处理函数，就是说当模块识别到我们的命令了，需要做什么，是从哪个IO口输出高电平还是低电平，这就是在处理函数这里实现了。如下图，在左边工程栏（图中红色圈圈1）找到并双击打开main.c函数，然后下滑找到 202行“void User_handle(uint8 dat)”这个函数（图中红色圈圈2），在这个函数中可以根据自己的使用情况在相对应的识别码后添加识别成功后的操作。

上图中，红色方框3中框起来的就是当模块识别到“打开继电器”这个命令后执行的程序，令“PA1=1”，也就是让PA1输出一个高电平，而PA1在主程序前边已经定义好，PA1=P10，所以就是让P10引脚输出一个高电平，这时候三极管导通，继电器就会吸合。

同理，红色方框4中框起来的就是当模块识别到“关闭继电器”这个命令后执行的程序，令“PA1=0”，也就是让PA1输出一个低电平，而PA1在主程序前边已经定义好，PA1=P10，所以就是让P10引脚输出一个低电平，这时候三极管截止，继电器就会断开。

下图就是在主程序前边定义的PA1，“sbit PA1=P1^0”就是令P1^0=PA1，这样子PA1代表的就是P1^0端口。红色框框中的都是定义好的端口，我们后面用到这些时可以直接用，无需再去定义。

好，到这一步为止，就完成了整个程序的修改，接下来重建工程完成编译，生成HEX文件，再通过USB下载器把HEX文件下载到模块上就可以了。

最后的效果演示大家看下面的视频吧，看视频比较直观。在视频中有整个制作过程的详细教程，大家可以根据视频教程来学习、制作。开发制作这个作品要求大家有一定的单片机编程基础，起码懂得安装编程软件，懂得软件的基本操作，懂得修改代码，懂得给51单片机下程序，就这几样，如果会这几样，做起来也不难。

点击这里观看详细视频教程

哈哈，最后祝大家制作成功，玩得愉快，更多精彩内容欢迎关注头条号：创客e工坊，下期见，拜拜~

相关问答

芯片ID是什么?

ID卡全称身份识别卡(IdentificationCard),是一种不可写入的感应卡,含固定的编号,主要有台湾SYRIS的EM格式,美国HID,TI,MOTOROLA等各类ID卡.。通常说的ID卡是指...

芯片ID不符是怎么了?

烧写时需要选择芯片的型号,这样烧写器才能按照相应的算法进行烧录。如果选择的信号与实际的芯片型号不符,自然在校验时会报ID错误。烧写时需要选择芯片的型...

苹果手机ID锁了非要换芯片吗?我是检的手机-ZOL问答

通过更换芯片来硬解ID锁后,就属于黑机了。简单的说,不再支持保修,不可以升级。只能原系统使用。不给保修

id卡5200芯片啥意思?

id卡5200芯片意思是单核单线程125K频率的门禁卡,在市面上很多,也叫ID卡。为啥叫ID卡,不重要。只要知道使用的是125k芯片即可。常见的有EM4100,TK4100/GK410...

大众id车机用的什么芯片?

根据我所了解的信息,大众ID车系的车机系统使用的是英特尔(Intel)的芯片。这一选择可能是由于英特尔在汽车领域的技术实力和稳定性。英特尔芯片在处理器性能、...

电源驱动芯片原理?

开关电源芯片的工作原理是:1.交流电源输入经整流滤波成直流;2.通过高频PWM(脉冲宽度调制)信号控制开关管,将那个直流加到开关变压器初级上;3.开关变压器次...

苹果解锁ID换芯片能解吗-ZOL问答

建议还是先尝试找回你的AppleID密码后刷机去除屏幕锁比较安全,换芯片什么的,你不能保证对方给你更换其他零件。创建AppleID时,有三个密保问题以...

PM25LD512是什么芯片?

40nm制程的arm9,频率两三百MHz,集成了通信基带,蓝牙什么的。主要用在功能机,老人机,插卡智能手表,以及一部分移动终端,等等40nm制程的arm9,频率两三百MHz,集...

ID卡4100芯片和5200芯片有什么区别-懂得

比4100更牛叉数值比它多这我就不知道了,因为我还只是一个学生,一个学习电子物品的学生,我还不大会

ld5760芯片资料?

LD5760电源芯片功能引脚为:EVAL-AD5760采用5760评估板,EVAL-AD5760WindowsXPSP2WindowsVistaWindows7USB2.0Por...