本文来自Technews。
数位经济正经历一场由两大趋势驱动的巨大变革,一个是即时数据分析,另一个是生成式人工智能(Generative AI)的快速发展。目前,一场激烈的生成式AI竞赛正如火如荼的进行中,科技巨头如亚马逊(Amazon)、谷歌(Google)、微软(Microsoft)皆大举投资生成式AI的研发创新。根据彭博智库(Bloomberg Intelligence)预测,生成式AI市场将以42%的年增率成长,从2022年400亿美元市值,于10年内增长至1.3万亿美元。
在AI的蓬勃发展下,数据中心对电力与运算的需求呈正比成长,激增的用电量不仅对营运效率造成压力,更成为数据中心达成净零排放目标的阻碍。当前数据中心所采用的电力转换及分配技术,已难以满足来自云计算及机器学习的运算需求,面对更庞大能源的生成式AI应用,数据中心运营商正急迫地寻找创新电力解决方案。
近年来快速发展的氮化镓(GaN)功率半导体已经成为数据中心优化能源效率的关键技术之一。接下来的文章将进一步探讨生成式AI对数据中心带来的挑战、氮化镓功率器件的优势,最后分析业界普遍使用的“电源使用效率(Power Usage Effectiveness,PUE)”指标中所存在的漏洞,这些洞察皆将指向一个结论,氮化镓功率元件在数据中心电力系统中的应用将加速落地。
生成式AI对数据中心的冲击将加剧
面对数据量爆炸,依传统工作负载量所规划的数据中心基础构架正面临巨大压力。全球数据量每两年便翻涨一倍,处理、储存这些庞大数据的服务器,需要大量的能源及水资源来维持运作。根据麦肯锡的预测,在未来五年内,仅仅是位于美国地区的数据中心便将新增39GW的用电量,相当于3200万的家庭一年的用电量。
生成式AI带来破坏式创新与商机,但随之而来的能源需求也是前所未有。一篇研究文章指出,训练最新一代的生成式AI模型,较上一代模型高出十至百倍。生成式AI应用主要的能耗来自于两方面,一是训练构成生成式AI系统核心的大型语言模型(LLMs)时需要的能源,另外便是大型语言模型运行时的能耗。
生成式AI的用电量高的难以置信,假设每次谷歌搜索需耗费相当于一个100W灯泡发光11秒钟的电量,如今当红的生成式AI应用工具ChatGPT每回答一个问题的用电量,竟比谷歌搜索高出50-100倍。面对突增的电力需求,升级数据中心构架迫在眉睫,数据中心业者更直言接下来4年数据中心在升级设备的花费预估将高达1万亿美元。
虽然如浸没式冷却、人工智慧优化方案、废热再利用等新兴技术已经出现,但这些方案皆无法从根本解决问题。由于基于硅开发的功率元件效率低落,现今的数据中心高度依赖冷却系统来维持安全的运作温度,因此兼具能效、尺寸优势及输出功率的电力解决方案正是当前数据中心急迫所需。
氮化镓具有优秀的效率与性能
相较传统电源供应器,基于氮化镓功率元件设计的电源供应器,能实现超群的性能与效率,在生成式AI应用不断升级下,成为数据中心理想选择。凭借更快的开关速度及卓越的输入和输出品质因数(Figures of Merit),氮化镓实现电源设计上的优势,带来超越钛金级的能效表现,并大幅提高功率密度。
氮化镓晶体管为电源设备带来更高的效率水准,效率提高代表能源损耗减少,设备也能减少过热情形。举例来说,在典型数据中心构架中,基于氮化镓设计的电源供应器每年可为每10个机架增加300万美元的营收,减少100公吨的二氧化碳排放量,省下13,000美元的运营支出。当生成式AI对电力需求持续攀升、且每机架的功率密度提升至2-3倍时,这些氮化镓所带来的优势将更显著。
你也许会好奇,氮化镓的所带来的好处如此显而易见,但为什么数据中心业者没有立即转用这项技术?广受数据中心使用的PUE指标中有一项经常被忽视的盲区,也就是我们所称“能耗指标漏洞(PUE Loophole)”,这便是氮化镓技术普及受限的主因。
什么是能耗指标漏洞
PUE代表IT设备负载耗电量占总耗电的比例,普遍作为评价数据中心能源效率的指标。密切监控并持续改善PUE对数据中心运营优化十分重要,降低PUE代表减少用电量,进而减少运营成本及环境冲击。
然而,PUE仅计算了电力传输至服务器的效率,却忽略了服务器中电力转换间的能源损耗,这便是能耗指标漏洞,数据中心以PUE作为评价整体运营成效时会产生的盲区。
这个盲区造成当前许多服务器仍采用效率仅有90%甚至更低的AC-DC转换器,这代表了每次AC-DC能源转换间,有10%的能源在转换中被浪费了,这不但增加了电费成本及碳排放量,被浪费的能源同时以热的方式排出,进而提升数据中心对额外冷却系统的需求,冷却系统也是另一个非常耗电的设备。
氮化镓功率半导体将为这个挑战带来转机,为数据中心提供一个立即见效且高性价比的方式来解决能耗指标的漏洞,并省下庞大的电力需求。采用氮化镓功率元件的AC-DC转换器,效率可达到96%,甚至更高,所减少的功率耗损达50%,以数据中心平均用电量换算,相当于节省了370亿千瓦小时的电量,足以供应40座超大规模数据中心一年的电力需求。