艾泽拉斯大陆
-
国产万卡集群终于来了!摩尔线程张建中:做难而正确的事
作者|ZeR0编辑|漠影“AI主战场,万卡是最低标配!”在2024世界人工智能大会开幕前夕,摩尔线程创始人兼CEO张建中抛出一句掷地有声的断言。为什么必须是万卡?大模型行业变化很快,客户希望两周内结束战斗,最迟也得在1个月内训练完。假设训练一个5000亿参数模型,有15TB数据,如果只有1000P算力,3年都训不完;如果将时间锁到两周或1个月,10000P是最低保障。在海外,拥有1.8万亿参数的GPT-4大模型需要用25000张A100GPU训100天,折算成H100则需要1000张;Meta今年推出2个24576...