MIT团队实现AI模型百万分之一精度训练，能耗降低80%

训练效率实现量级突破

MIT人工智能实验室今日在《自然·机器智能》发表论文，提出全新稀疏训练算法，通过动态筛选训练有效参数，可将大模型训练精度提升至百万分之一，同时训练能耗降低80%，不需要额外高性能算力支持即可完成大模型训练。

现有模型适配成本低

该算法可适配现有主流大模型架构，仅需对训练框架进行小范围调整即可落地，目前谷歌、Meta等已与MIT团队达成合作，计划将该算法应用于下一代大模型训练，预计可降低整体训练成本60%以上。