本文来自“ICT茶馆”微信公众号。
当前,以大模型为代表的通用智能技术发展浪潮对现有人工智能软硬件支撑体系带来新挑战新需求,人工智能软硬件系统更加强调应用、算法、关键软件栈、底层硬件全方位协同发展,亟需推动标准化的兼容适配与系统化的协同创新。
在此背景下,人工智能关键技术和应用评测工业和信息化部重点实验室人工智能基础软硬件工作组(以下简称“工作组”)与中国信息通信研究院围绕软硬件标准化兼容适配、面向典型任务场景的系统能力等方面开展标准编制工作,促进大模型、开发框架及平台、底层软件栈、人工智能芯片、智能计算集群等基础软硬件协同创新发展。
标准编制工作主要围绕两方面开展:一是通过制定软硬件接口要求及迁移适配技术标准,降低不同芯片之间模型适配的成本;二是面向云端训练、云端推理、高性能计算等场景需求,制定端到端的人工智能软硬件系统能力技术要求及测评规范,客观评估软硬件各层级协同优化水平,推动训推系统整体能力提升。
目前,AISHPerf(Performance Benchmarks of Artificial Intelligence Software and Hardware)人工智能软硬件基准及标准编制工作已有30余家单位共同参与,覆盖芯片、框架、算法、平台、应用产业链多环节领军主体,现持续征集标准参编单位,并启动工作组副组长单位申报和第二批成员单位报名工作,共同推动我国人工智能基础软硬件协同创新与生态建设。