百亿神经元+毫秒级响应：杭州类脑智算集群赋能大模型推理升级

杭州迎来类脑计算领域的重要进展——灵汐杭州电信类脑智算集群正式发布。该集群由多方联合打造，包括杭州灵汐类脑科技有限公司、中国电信、中国电子科技南湖研究院及脑启社区，并已部署于中国电信杭州智算中心，形成集研发与应用于一体的算力平台。

从技术指标来看，集群具备超过百亿神经元规模和200POPS以上算力能力，在新一代类脑计算架构的支撑下，展现出区别于传统GPU集群的优势。其核心在于“存算融合”设计以及大规模并行处理能力，使数据处理路径更短、效率更高。

在大模型推理场景中，该集群实现了显著优化，不仅整体推理速度明显提升，而且首token输出延迟降低至毫秒级水平，能够更好支撑对实时性要求较高的业务需求。此外，系统在能效方面也表现突出，有效降低了运行成本。

随着人工智能应用不断深入，对算力的需求持续提升。该类脑智算集群的落地，为探索高效、低功耗的新型计算模式提供了重要实践路径，也为未来大模型基础设施的发展带来了新的方向。