万字长文解析：大模型需要怎样的硬件算力
Source :
mp.weixin.qq.com
Author :
郁晨
2017年，《Attention Is All You Need》的一声惊雷，给世人带来了Transformer模型。2022年，以Transformer结构为核心的chatGPT，凭借其震惊世界的表现，掀起了“AI元年" 的序幕：从此，各方纷纷投入大模型领域，前赴后继，热情高涨。然而，随之而来地，大模型在软硬件基础设施、算法及数据集等多方面的挑战和困难也逐步显现；今天我们将从AI-Infra角度出发，带大家了解目前大模型在算力、存储、通信等多方面上硬件资源的挑战和瓶颈，并且提供相关指标的量化手段和选型指导。
