服务热线
400-828-7558
9月27日,以“探索AI边界,重塑数字场景”为主题的2024产学研融通创新活动在北京成功举办。26位演讲嘉宾汇聚一堂,围绕生成式人工智能的关键技术及应用趋势展开深入探讨,聚焦AI大模型在七大领域的落地应用。中国信息通信研究院人工智能研究所软硬件与生态部主任李论作了《大模型应用落地趋势与路径》的主题演讲,分析了大模型的发展演变,强调底座计算能力对大模型性能的决定性影响。
在此次活动中,AI+HPC融合的万卡集群成为大模型落地的核心话题。李论提出了构建智算集群的三大关键点:
软硬高效协同的新型基础设施:大模型、大数据和大算力驱动了产业链的重新布局,基础设施架构朝着集约化方向发展,推动了全新的硬件与软件协同体系。
算力效能优化:大规模集群扩展需结合纵向和横向优化,既提升硬件与软件的协同水平,也要应对集群规模线性扩展带来的挑战。
超大规模扩展的网络架构:大模型训练需要定制化的组网方案,以支持未来更大规模集群的扩展。
面对智算集群建设的难题,李论提出三点调整建议:提升基础设施规划水平,加快国产软硬件的适配与兼容,推动集群建设标准化,促进智算生态的差异化发展,确保可持续运营。
李论展望了大模型的未来,指出计算能力将在一定程度上决定其发展上限。她进一步强调,大模型的底层是软硬件协同优化的基础设施,中间层是Transformer架构驱动的智能算法,上层则是围绕模型发展的生态系统。
关注了解更多+