The Information消息,英伟达新的AI芯片,可能因设计缺陷而延迟Blackwell B200产品上市时间。
英伟达的Blackwell B200 AI芯片是H100芯片的后续产品性能非常强,原计划于2024年夏季开始大量提供,因为产品延迟预计要到2024年底或2025年第一季度才会大量出货。
GB200是一款专门面向万亿参数大模型训练、推理的产品,例如,在训练MoE(专家混合模型)时,需要多个子模型之间分配计算负载,并在数千个GPU上进行训练。这需要超高的并行计算、快速存储和高性能通信以及在大规模GPU集群下才能完成。
与上一代的H100相比,GB200 NVL72可以将训练效率提升4倍,数据处理提升6倍,实时推理效率提升30倍。
目前,微软、谷歌、OpenAI、Meta等大客户已经订购了数十亿美元的产品,可能会受到影响。
本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/34012.html