今头条!AMD推出能运行更大模型的AI芯片,对标英伟达

来源:TOM网 2023-06-14 17:23:55


【资料图】

驱动中国2023年6月14日消息 据澎湃新闻报道,AI算力市场的二号玩家、芯片厂商AMD推出全新人工智能GPU MI300系列芯片,与英伟达在人工智能算力市场展开竞争。

据报道,MI300系列芯片包括MI300A,以及特别为大语言模型优化的MI300X。其中,MI300A芯片是全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。相比前代MI250,MI300的性能提高八倍,效率提高五倍。

而MI300X是一款为大语言模型进行了优化的版本。据介绍,生成式人工智能应用程序的大型语言模型使用大量内存,因为它们运行越来越多的计算。AMD演示了MI300X运行400亿参数的Falcon模型。OpenAI的GPT-3模型有1750亿个参数。

AMD CEO苏姿丰表示,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,HBM带宽是竞品的1.6倍。这意味着AMD可以运行比英伟达H100更大的模型。

关键词:

相关新闻