遗憾的是，我们已无缘接触到最早进的AI硬件和算力，用着H20如许阉割两次的N卡，还要付出上百亿元的费用，其实憋屈。 面临延续上涨的AI算力需求，我们惟有成长本身的国产方案，成长本身的年夜范围AI算力集群，才能冲破围追切断，走上平坦大路。 说到这里，良多人也许会第一时候想到华为，在美国制裁下固执耸峙冲破的中国企业标杆，昇腾910B在AI算力范畴也获得了必然的成绩。 固然了，中国只依托一个华为是不敷的。中国的AI生态需要遍地开花，才有可能多点冲破，让生态更繁华。 今朝来看，摩尔线程以全功能GPU走通用计较线路是另外一条但愿之路，特别是它已成为华为以外，另外一家可以实现千卡千亿参数年夜模子训推的全国产AI芯片公司。 说起来，大师对摩尔线程其实不生疏，其可谓中国自立GPU最年夜的但愿，但良多人对摩尔线程的认知还逗留在国产游戏显卡，其实否则，摩尔线程在AI上也实力凸起。 自成立以来，摩尔线程做的就是通用GPU，跟英伟达一样，除图形衬着，也能用在AI人工智能加快、科学计较。 颠末三年多潜心成长，摩尔线程在AI GPU方面已揭示了强劲的实力，构建了一张从芯片、板卡、办事器，到集群、软件栈的全栈AI智算产物邦畿，而且已多点落地、处处开花。 好比和清华系AI年夜模子公司无问芯穹的合作。摩尔线程是第一家接入无问芯穹，并成功完成千卡级别年夜模子练习的国产GPU公司。 摩尔线程的“夸娥”(KUAE)千卡智算集群，已与无穹Infini-AI年夜模子开辟与办事平台完成系统级融会适配，并完成了LLama2 700亿参数年夜模子的练习测试。近期，两边又完成了“MT-infini-3B” 3B(30亿参数)年夜模子的实训。 这意味着甚么呢?这是行业首个基在国产GPU芯片的从0到1的端到端年夜模子实训案例。夸娥同样成为业内首个成功跑通并完全运行国产年夜模子的千卡集群。 无问芯穹结合开创人兼CEO夏立雪暗示力挺：“颠末无问芯穹Infini-AI平台的实训与结合优化工作验证，摩尔线程夸娥千卡智算集群在精度、机能、易用性和算力操纵率上均有优良表示，并且在实训中实现了长时候不变练习不中止，可觉得千亿参数级别年夜模子练习供给延续高效的高机能算力撑持江南体育。” 别的，滴普科技、其实智能等也基在摩尔线程的夸娥千卡智算集群，成功完成了分歧参数目级的年夜模子散布式练习测试，效力、精度、不变性都相当完善。基在摩尔线程夸娥千卡智算集群，滴普科技成功完成了700亿参数LLaMA2年夜说话模子的预练习测试，练习时长总计77小时，全程无故障持续运行，集群练习不变性到达100%。 夸娥(KUAE)是摩尔线程推出的智算中间全栈解决方案，而夸娥这个名字来自我国神话传说中的鼎力神夸娥氏， 可以说，为AI算力集群取这么一个名字，充实揭示了独属在中国人的坚贞不拔和浪漫情怀。出自《愚公移山》：“帝感其诚，命夸娥氏二子负二山，一厝朔东，一厝雍南。自此，冀之南，汉之阴，无陇断焉。” 夸娥解决方案的根基节点是年夜模子智算加快卡MTT S4000构成的双路八卡GPU办事器“MCCX D800”，以软硬件一体化交付、开箱即用的体例，高靠得住地解决年夜范围GPU算力的扶植和运营治理问题。 MTT S4000是摩尔线程新一代专为AI年夜模子打造的智算加快卡，基在其自立研发的第三代MUSA架构。 操纵自研的MTLink互连手艺，MTT S4000可以高效千卡并行，线性加快比高达91%以上。 最为要害的是，摩尔线程具有自研的全功能GPU MUSA同一系统架构，包罗指令集架构、MUSA 编程模子、驱动、运行时库、算子库、通信库、数学库等，并且充实兼容CUDA软件生态，代码可以几近零本钱迁徙，也无需担忧将来的可用性问题。 MTT S4000不单可用在年夜范围AI计较，还具有领先的图形衬着能力、视频编解码能力、8K超高清显示能力。 这使得它可为数字孪生、云游戏、云衬着、数字内容创作等场景供给撑持，并共同年夜模子推理能力，办事在AIGC等多模态营业场景。 从2024年的趋向来看，多模态需求将快速突起，英伟达CFO Colette Kress曾估计这块营业将从零增加至数十亿美元，对国产芯片来讲也一样如斯。

业内动静，近日全国政协委员、中国信息通讯研究院院长余晓晖在接管《举世时报》记者采访时暗示，数字经济时期特别是人工智能的蓬勃成长，算力已成为全球紧缺的计谋性资本。今朝，中国的算力总范围已位居全球第二。