您好，欢迎访问江南网站！
您好，欢迎访问江南网站！
集团动态
联系江南
发布日期：2024-08-24 作者：江南
[导读]国际能源署 (IEA) 的数据注解，2022 年数据中间的耗电量约占全球总用电量的 2%，到达 460 TWh 摆布。现在，加密货泉和人工智能/机械进修 (AI/ML) 等高耗能利用方兴日盛，而这些手艺中凡是需要摆设年夜量的高机能图形处置单位 (GPU)。是以，数据中间耗电量仍将不竭爬升。 国际能源署 (IEA) 的数据注解，2022 年数据中间的耗电量约占全球总用电量的 2%，到达 460 TWh 摆布。现在，加密货泉和人工智能/机械进修 (AI/ML) 等高耗能利用方兴日盛，而这些手艺中凡是需要摆设年夜量的高江南体育机能图形处置单位 (GPU)。是以，数据中间耗电量仍将不竭爬升。 
人工智能利用的扩大速度使人震动。ChatGPT 上线仅 5 天，用户数目就到达了 100 万，并在 2 个月内冲破了 1 亿，这一增加速度远超在 TikTok 和 Instagram。GPT-4 练习包括跨越 1.7 万亿参数和 13 万亿 token，总共利用了 2.5 万个 NVIDIA A100 GPU，每台办事器的功耗约为 6.5 kW。据 OpenAI 称，GPT-4 的练习耗时 100 天，耗损能源约 50 GWh，耗资 1 亿美元。 在当前情况中，我们很难正确估量将来耗电环境，此中为撑持人工智能而摆设的 GPU 耗损了年夜部门电力。国际能源署守旧猜测，到 2026 年，数据中间的耗电量将最少到达 650 TWh，乃至可能跨越 1,000 TWh。 人工智能数据中间的架构演化 初期数据中间将电网电压集中转换为 12V，然后经由过程总线将电力传输至办事器，再经由过程逻辑电平转换器将电压转换为 3.3/5V。但是功率需求不竭晋升，这类供电方式的电能消耗变得不成接管。是以，母线电压被提高到 48V，电流减小到本来的 1/4，消耗下降到了本来的 1/16。 而今朝处置器电压进一步下降，从 3.3V 降到了低在 1V 的亚伏特级别，此时就需要利用多条功率相对较高的电压轨。这进而催生了两级电压转换方案。该方案利用 DC-DC 转换器作为中心总线转换器 (IBC)，先将 48V 电压转换为 12V 的局部总线电压，然后再将此转换为所需的低电压。 
图 1：典型办事器电源架构 – 中心总线 人工智能数据中间需要高能效电源转换 功率消耗带来了两重挑战，不但会造成能源华侈、增添运营本钱，并且会发生年夜量热量，进而需占用更年夜空间、耗损更多本钱。运营超年夜范围人工智能数据中间时，机架功率需求为 120 kW。将电网电力转换为 GPU 所用电压的能效约为 88%，这意味着会发生年夜约 15 kW 废热，并需要经由过程液冷手艺进行有用散热。 在办事器电源设计中，能效和功率密度是两个主要概念，两者相辅相成。我们必需尽量高效地未来自电网的能量转换为有效功率，削减消耗。为此，电源拓扑不竭演化，业界开辟了同步整流等手艺，并在整流器中采取 MOSFET 代替了消耗较年夜的二极管。 改良拓扑布局只成功了一半。为了优化能效，还必需尽量提高所有元器件的能效，特别是对转换进程相当主要的 MOSFET。 MOSFET 并不是无消耗器件，在导通和开关进程中也会发生消耗。跟着办事器电源不竭提高运行频率以缩小尺寸，开关消耗成了优化的重点。 高效 PowerTrench MOSFET 安森美 (onsemi)的中低压 T10 PowerTrench MOSFET采取了新型屏障栅极沟槽手艺，下降了开关消耗和导通消耗，并进而显著下降了其 Qg，RDS(ON) 也降至 1mOhm 以下。此中的进步前辈软恢复体二极管减缓了振铃、过冲和噪声问题，同时下降了 Qrr 消耗，为快速开关利用找到了机能与恢复时候的均衡点。 与初期器件比拟，这些新型 MOSFET 可以使开关消耗下降高达 50%，并使导通消耗下降 30% 以上。 
图 2：PowerTrench T10 MOSFET 的优势 安森美新型 40V和 80V T10 PowerTrench 器件的 RDS(on) 表示超卓。NTMFWS1D5N08X（80 V、1.43 mΩ、5 mm x 6 mm SO8-FL 封装）和NTTFSSCH1D3N04XL（40 V、1.3 mΩ、3.3 mm x 3.3 mm 源极向下双散热封装）具有优良的品质因数 (FOM)，是人工智能数据中间电源供给器(PSU) 和中心总线转换器利用的抱负选择。T10 PowerTrenchMOSFET 合适严酷的 Open Rack V3 能效尺度，即能效到达 97.5% 以上。
下载文档 7月18日动静，摩尔线程官方公布，与清华系AI系统软件公司清程极智正式成立计谋合作关系，旨在加快国产年夜范围GPU智算集群的财产化历程，鞭策AI算力生态的快速成长，为年夜模子行业供给更壮大、矫捷且高效的根本举措措施撑持。
要害字： 摩尔线程 GPU7月19日动静，据媒体报导，OpenAI正在积极解脱对NVIDIA的依靠，打算自立开辟人工智能芯片。
要害字： OpenAI 人工智能荷兰菲尔德霍芬，2024年7月17日—阿斯麦(ASML)本日发布2024年第二季度财报。2024年第二季度，ASML实现净发卖额62亿欧元，毛利率为51.5%，净利润达16亿欧元。本年第二季度的新增定单金额为56亿欧元2...
要害字： 人工智能 逻辑芯片NETWORK Onboarding (新装备接入组织收集的进程)是 IT 运营的基石，影响从平安性到用户满足度等各个方面。传统上，这个进程布满了挑战，特别是在范围化的环境下。在具有数百或数千台装备的情况中，手动入职会消...
要害字： 智能收集 人工智能数据工程是数据科学的一个分支学科，在解决我们在上一节中提到的可扩大性挑战方面阐扬着相当主要的感化。假如一个组织实行了准确且壮大的数据工程实践，它可以简化全部人工智能生命周期并很快消弭潜伏的障碍。这是由于他们将从开辟最先就...
要害字： 数据工程 人工智能最陈词谰言却又最真实的一句话是，手艺天天都在转变，影响着一切。人工智能是给全球各行各业带来倾覆的最凸起的学科之一。跟着计较手艺每一年都在进级和改良，人工智能 (AI) 手艺正在为各个行业首创一个立异的新时期。从医疗保健和健...
要害字： 数据工程 人工智能年夜型说话模子 (LLM) 的呈现致使人们急在将人工智能 (AI) 强行塞入每种成心义的产物，和相当一部门不成心义的产物。但有一个范畴已证实人工智能是一个壮大而有效的弥补：低代码和无代码软件开辟。
要害字： LLM 人工智能最近几年来，跟着人工智能的成长，专门针对人工智能的律例也应运而生，例如制药行业的杰出机械进修实践 (GMLP) 和金融行业的模子风险治理 (MRM)，和其他触及数据隐私的普遍律例，如欧盟的 GDPR 和加州的 CCPA。同...
要害字： 人工智能 BERT作为一位经验丰硕的平安架构师，我见证了人工智能和机械进修对软件开辟范畴的变化性影响，特别是在API 平安方面。GenAI 的呈现和其快速生成代码和全部利用法式的能力为立异带来了史无前例的机遇。但是，这类开辟速度的加快也带...
要害字： GenAI 人工智能