首个原子间势函数预训练模型DPA

日前  ，AI for Science其它领域中国最大 的开源社区DeepModeling举办了2022年社区年会。会上  ，在北京科学智能相关研究院（AI for Science Institute,Beijing）联合深势科技  ，最近发布 了首个覆盖元素周期表近70种元素的深度势能原子间势函数预训练模型—— DPA-1。该成果由在北京科学智能相关研究院、深势科技、在北京应用物理与计算数学相关研究所共同研发。

DPA-1被誉为人自然科学界的GPT。2020年 ，DPA-1雏形曾与预训练语言模型GPT-3共同入选了中国人工智能十大重要部分成果。DPA-1可模拟原子规模高至100亿  ，现阶段虽然在高性能合金、半导体材料设计细节等应用场景中表明了其领先性和优越性。不过突破就是AI for Science走向大规模工程化的重要部分里程碑。

早在2020年  ，在北京科学智能相关研究院与深势科技技术团队展开将机器继续学习与高性能计算相运用  ，努力实现了1亿原子第一第一第二性原理精度的分子动力学模拟  ，获如今中国高性能计算其它领域第二高奖项“戈登·贝尔”奖。本次最近发布 的 DPA-1  ，在原有此基础上另一方面 优化高性能算法  ，将模拟上限显著得到提高至100亿原子数量级。

相关研究人员还展开可视化模型元素信息内容  ，看到其在操作空间 呈螺旋状分布  ，不但巧妙地和元素周期表中位置选择一一对应  ，元素周期表中同周期元素沿着螺旋下降方向调整排列  ，而垂直螺旋方向调整则对应着同一主族元素分布  ，不但表明了此预训练模型还具良是好 可表述性。

不但从事材料设计细节相关研究的科研人员  ，可此基础DPA-1快速帮助建立高精度、方便易是用中原子间势函数模型 ，方式人工智能传统技术 展开分子模拟 ，设计细节创新材料  ，洞见相关研究方向调整  ，增加不必要的实验  ，大幅度缩短研发周期  ，显著得到提高研发成本。

近些年来  ，不断科学界对AI for Science 相关研究范式的认可和实践 ，微观科学计算其它领域努力实现了相当多的表现数据积累和模型探索  ，这为其它领域预训练模型帮助建立提供全面了诞生此基础。DPA-1方式需要注意力机制等构造 ，大幅显著得到提高了模型迁移能力不足和元素容量 ，展开相当多表现数据步骤二可以获得高精度模型 ，显著增加建模开销。一样Bert的现象彻彻底底转变 了人自然语言处理完成其它领域  ，不过预训练大模型的诞生意味着势能函数的生产也真正地即将进入“预训练+相当多表现数据微调”新的方式范式。

本次 ，此成果虽然贡献在 DeepModeling 开源社区 ，并在科学智能广场已于公开。在北京科学智能相关研究院与深势科技期待 此基础此和中国各界人士另一方面 帮助建立更具 开源开放的科研生态  ，速度一般其它领域内原始创新的方式速度一般。