您好,欢迎访问江南网站!

集团动态

联系江南

江南
联系人:杜经理
手机:18755199984
电话:0551-82601881
邮箱:sale.zcjd@qq.com
地址:合肥市巢湖市团结路与东塘路交口东方国际大厦8层
江南首页>>江南新闻>>集团动态>>江南-大算力硬件“牛市”即将开启!戴伟民博士解读AIGC芯片的机遇与挑战

江南-大算力硬件“牛市”即将开启!戴伟民博士解读AIGC芯片的机遇与挑战

发布日期:2024-08-09 作者:江南

[导读]2024年7月6日下战书,由上海开放处置器财产立异中间和芯原微电子(上海)股分有限公司主办的“RISC-V和生成式AI论坛”,在上海世博中间成功召开。芯原股分开创人、董事长兼总裁戴伟平易近博士颁发了关在“AIGC芯片的机缘与挑战”的出色演讲。这一演讲不但深切阐发了人工智能手艺的汗青成长和当前趋向,还猜测了这些手艺将若何在将来塑造半导体行业,特殊是在AIGC范畴的利用和成长。 2024年7月6日下战书,由上海开放处置器财产立异中间和芯原微电子(上海)股分有限公司主办的“RISC-V和生成式AI论坛”,在上海世博中间成功召开。芯原股分开创人、董事长兼总裁戴伟平易近博士颁发了关在“AIGC芯片的机缘与挑战”的出色演讲。这一演讲不但深切阐发了人江南体育工智能手艺的汗青成长和当前趋向,还猜测了这些手艺将若何在将来塑造半导体行业,特殊是在AIGC范畴的利用和成长。 群模乱舞是华侈电,垂直范畴微调具有更高价值 戴博士的演讲起首回首了从机械化时期到信息化时期的改变,强调了人工智能从“弱智能”向“强智能”的改变若何极年夜地鞭策了计较需求的增加。他指出,跟着手艺的前进,AIGC的成长已从单一模式辨认和响应,扩大到更复杂的使命如天然说话处置和机械进修模子的自我迭代。这些手艺的前进不但加快了人工智能的利用,也对芯片设计和制造提出了新的要求。 但当下的“百模年夜战”,在戴博士看来更像是“群模乱舞”、华侈电。“不要说一讲起AI就要建一个练习中间、要良多练习卡,树干是长不出树叶的、要树枝。树枝是甚么意思?微调。垂直范畴的微调,这是在端上、然后端上再推。现实上三张卡“云上的练习卡、端上的微调推理卡”,应当是端上的卡年夜年夜年夜在“云”上的卡。”戴博士注释到。 AIGC:鞭策高机能计较芯片市场扩大 戴博士具体切磋了AIGC手艺对半导体行业的具体影响。他提到,跟着模子范围的增添,对计较能力的需求也呈指数级增加,这直接鞭策了高机能计较芯片市场的扩大。在他的演讲中,戴博士利用具体数据展现了从GPT-3到GPT-4模子的参数和计较需求的激增,和这对芯片设计和出产手艺的挑战。 据悉,GPT 3具有1750亿个参数,计较需求 约为 315000百亿亿次;GPT 4约有1.7万亿个参数,计较需求 约为 1.35亿百亿亿次。一个具有10万亿参数的理论上要130亿百亿亿次的计较量,将需要1060万个A100 PCle 80GB芯片或3336 个采取256 个Grace Hopper芯片的DGX GH200系统。 而为了实现这些模子加快,财产界也进行了多种摸索。Groq自研的一种名为张量流处置器(TSP)的新型处置单位,并界说为“说话处置单位 (LPU)”。经由过程其专门的架构设计、高效的内存带宽、改良的能效比、可扩大性和将来成长潜力,在处置 特定AI工作负载,特别是年夜型说话模子时,相对GPU揭示出显著的进步前辈性。 草创公司Etched AI,则针对Transformer推出了专用ASIC“Sohu”。Sohu是基在台积电4nm工艺,配有144GB HBM3E高带宽内存。能效方面较着优在传统GPU,推理方面机能比英伟达的H100快20倍。而这类机能优势的成立是基在对Transformer架构的优化硬化,所以其实不可以或许撑持CNN、RNN 或 LSTM等年夜大都AI 架构,矫捷性欠佳。 戴博士援用了来自Counterpoint Research的数据,该陈述称到2030年,要害计较范畴的半导体收入将达数万亿美元;,生成式AI将使办事器范畴的半导体收入增至三倍,到达5930亿美元的范围。 下一轮“先软后硬”的牛市正在到来,芯原实现积极结构 芯原在应对AIGC挑战方面的立异行动,包罗低功耗设计、高机能计较和芯片微调手艺上的冲破。特殊是在可穿着装备和汽车电子范畴,芯原开辟的芯片不但可以或许处置复杂的AI模子,还能在极低的功耗下运行,这些手艺的利用展现了其在行业中的领先地位。 在本年的德国嵌入式展上,芯原还展现了谷歌Open Se Cura项目。这是一个由设计东西和IP库构成的开源框架,旨在加快平安、可扩大、透明和 高效的AI系统的成长;芯原供给多个IP、低功耗芯片设计、BSP,并负责鞭策该项目标贸易化。 值得一提的是,芯原神经收集处置器 (NPU) 已在全球积累出货跨越1亿颗,被72家客户用在其128款人工智能芯片中,浏览了跨越10个市场利用范畴。芯原的图形处置器 (GPU) 也已在全球积累出货近20亿颗,具有70项专利,在万万辆车上运行。在视频处置器 (VPU) 方面,芯原也是全球第一。其VPU产物已被全球前20年夜云平台解决方案供给商中12个采取,国内前5年夜互联网供给商种有3个也选择了芯原的VPU。 在主动驾驶方面,芯原Chiplet手艺正在助力构建下一代聪明驾驶平台。在数据中间范畴,芯原也供给了周全的产物组合,供给了一系列高机能AIGC芯片。 瞻望将来,戴博士会商了AIGC手艺在多个垂直市场中的利用前景,如主动驾驶、健康医疗和制造业等。他猜测,跟着手艺的成熟,这些范畴的需求将进一步驱动高机能芯片的市场增加。另外,他强调了在全球规模内成立计谋合作火伴关系的主要性,以便更好地操纵全球资本和专业常识,加快AIGC手艺的贸易化历程。 “我认为下一轮牛市2026年、最晚2027年,是由于2023年的ChatGPT。”戴博士认为,上一轮的牛市由iphone4开启,是从移动硬件立异到移动互联网的软件立异,“先硬后软”的节拍。而新一轮的牛市的开启,则是先软后硬的节拍,以ChatGPT为代表的年夜模子将会引领年夜算力硬件的“牛市”。 戴伟平易近博士的演讲为我们供给了对AIGC手艺成长的深入洞察,和这些手艺若何影响芯片行业的周全阐发。他的看法不但强调了芯原在这一变化中的带领脚色,也展现了半导体行业面对的机缘与挑战。跟着AI手艺的快速前进,芯原的立异和计谋结构将在将来的手艺革射中饰演要害脚色,鞭策全部行业向前成长。

欲知详情,请下载word文档 下载文档

2024年1月4日 – 近日,姑苏市科学手艺局发布了2023年度姑苏市“独角兽”培养企业拟入库企业名单并在1月2日竣事公示,亿铸科技荣获市级“独角兽”培养企业资历认证。

要害字: 人工智能 年夜算力

AIGC、年夜模子、年夜算力、多云实践、营业架构演进……50+场前瞻视野和落地实践兼备的出色话题等你现场来凝听。

要害字: AIGC


江南
专业 规范 诚信 共赢 创新 发展

18755199984/0551-82601881

( 服务咨询热线 )
地址:合肥市巢湖市团结路与东塘路交口东方国际大厦8层
Copyright © 2022 All Rights Reserved.
技术支持:无忧资源网   皖ICP备2023013513号-1