Intel发布全新的Gaudi 3 AI加速器 4倍性能提升、秒杀NVIDIA H100

发布日期：2024-04-11

89 次

美国当地时间4月9日，Intel举办了一场面向客户和合作伙伴的Intel Vision 2024产业创新大会，做出多项重磅宣布，包括全新的Gaudi 3 AI加速器，包括全新的至强6品牌，以及涵盖全新开放、可扩展系统，下一代产品和一系列战略合作的全栈解决方案。

数据显示，预计到2030年，全球半导体市场规模将达1万亿美元，AI是主要推动力，不过在2023年，只有10％的企业能够成功将其AIGC项目产品化。

Intel的最新解决方案，有望帮助企业应对推广AI项目时所面临的挑战，加速实现AIGC落地商用。

Intel现有的Gaudi 2诞生于2022年5月，并于2023年7月正式引入中国，拥有极高的深度学习性能、效率，以及极高的性价比。

它采用台积电7nm工艺制造，集成24个可编程的Tenor张量核心(TPC)、48MB SRAM缓存、21个10万兆内部互连以太网接口(ROCEv2 RDMA)、96GB HBM2E高带宽内存(总带宽2.4TB/s)、多媒体引擎等，支持PCIe 4.0 x16，最高功耗800W，可满足大规模语言模型、生成式AI模型的强算力需求。

新一代的Gaudi 3面向AI训练和推理，升级为台积电5nm工艺，带来了2倍的FP8 AI算力、4倍的BF16 AI算力、2倍的网络带宽、1.5倍的内存带宽。

对比NVIDIA H100，它在流行LLM上的推理性能领先50％、训练时间快40％。

Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型、1750亿参数GPT-3模型的训练时间。

在Llama 70亿/700亿参数、Falcon 1800亿参数大型语言模型上，Gaudi 3的推理吞吐量和能效也都非常出色。

Gaudi 3提供多种灵活的形态，包括OAM兼容夹层卡、通用基板、PCIe扩展卡，满足不同应用需求。

Gaudi 3提供开放的、基于社区的软件，以及行业标准以太网网络，可以灵活地从单个节点扩展到拥有数千个节点的集群、超级集群和超大集群，支持大规模的推理、微调和训练。

Gaudi 3 AI加速器具备高性能、经济实用、节能、可快速部署等优点，能够充分满足复杂性、成本效益、碎片化、数据可靠性、合规性等AI应用需求。

Gaudi 3将于2024年第二季度面向OEM厂商出货，包括戴尔、慧与、联想、超威等。

目前，Intel Gaudi加速器的行业客户及合作伙伴有NAVER、博世(Bosch)、IBM、Ola/Krutrim、NielsenIQ、Seekr、IFF、CtrlS Group、Bharti Airtel、Landing AI、Roboflow、Infosys，等等。

版权声明：本站内容除特别声明的原创文章之外，转载内容只为传递更多信息，并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题，请及时通过电子邮件或电话通知我们，以便迅速采取适当措施，避免给双方造成不必要的经济损失。联系电话：020-2204 2442,邮箱：Sales@greentest.com.cn。

上一篇: 2024中国边缘计算20强重磅发布,华为位列榜首
下一篇: 高通全新QCC730 Wi-Fi方案功耗骤降88％

为您精选

谷歌正式发布Gemini 1.5 Flash大模型，轻量化、响应速度极快

5月15日消息，今天凌晨，谷歌正式召开了I/O大会，宣布谷歌已全面进入Gemini时代。在一年前的I/O大会上，谷歌才首次发布Gemin···

更新日期：2024-05-15 59 次
OpenAI发布最新升级的大模型GPT-4o,可免费开放使用语音对话媲美真人

5月14日消息，在今天凌晨的OpenAI发布会上，最新升级的大模型GPT-4o正式发布。GPT-4o的“o”代表“omni”。该词意为“全能”···

更新日期：2024-05-14 272 次
苹果正式发布M4：AI飙升两倍多！其他相当牙膏

5月8日消息，苹果在今天凌晨的发布会上正式推出了新一代iPad Pro、iPad Air，其中前者直接全球首发M4处理器，只可惜它的变化···

更新日期：2024-05-09 79 次
ADAS 前置摄像头设计面临的四大电源挑战

前置摄像头是高级驾驶辅助系统 (ADAS) 的重要组件，尤其是鉴于现在的新车碰撞测试要求将自动紧急制动和正面防撞作为汽车的标···

更新日期：2024-05-08 174 次
工业机器人：继汽车电子、人工智能之后的新风口

前言工业机器人是一种面向工业领域的多关节机械手或多自由度的机器装置，其主要功能是通过自动控制来执行各种任务，从而替代···

更新日期：2024-05-08 164 次