查看原文
其他

中国信通院启动大模型智算设施建设规划与运营评价工作

中国信通院CAICT 2024年09月19日 17:11

近段时间,业界遵循scaling laws规模定律持续推动大模型创新迭代,一批大规模智算集群系统正在建设,是各类创新主体进行更大规模模型实验的基础,在推动人工智能走向AGI方面取得一系列突破成果。大规模智算集群已成为国内外各头部厂商训练部署大模型的共识,人工智能与高性能计算系统加速走向融合,但不同尺寸(小模型、十亿级以上大模型、千亿级以上超大规模模型)、不同类型(计算密集、访存密集)的模型负载对训推智算集群规模、技术能力等需求产生显著差异,各型号芯片适用场景也有所差别,分布式训练、异构算力调度等对框架软件能力提出更高要求,如何客观、全面和科学地规划智算设施建设方案,准确选择技术产品确保智算集群有效满足大模型创新和应用主体需求,是算力建设方、运营方和应用方面临的共同问题。


在此背景下,中国信息通信研究院联合人工智能关键技术和应用评测工业和信息化部重点实验室基础软硬件组(AISHPerf),依托中国人工智能产业发展联盟人工智能基础软硬件与生态工作组,启动大模型智算设施建设规划与运营评价工作,重点覆盖三方面内容:


1. 建设指南:联合芯片、网络、存储、服务器、框架软件、模型算法、行业应用等产业主体,优先考虑国产软硬件底座,共同规范面向大模型的智算设施建设标准,为各地政府、园区、行业企业等提供建设参考。


2. 仿真验证:构建千卡至万卡集群的智算设施仿真系统,对智算集群的关键技术和部件系统进行仿真验证,预测集群性能、功耗等关键技术指标和投资收益、风险等经济指标。


3. 运营评价:建立智算设施项目验收及运营评价体系,探讨智算设施长效稳健运营和高质量应用赋能的策略路径。


欢迎各界积极报名参加(可扫描下方二维码报名)。



联系方式:

lilun@caict.ac.cn

13661159206

guoyingnan@caict.ac.cn

18002130710






校  审 | 谨  言、珊  珊

编  辑 | 凌  霄


推荐阅读

中国信通院颁发首批5G行业应用产品检测证书
专家谈



继续滑动看下一个
中国信通院CAICT
向上滑动看下一个
选择留言身份

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存