ICLR2022 | 训练面向分子模拟的十亿级参数 GNN

论文链接：https://openreview.net/forum?id=0jP2n0YFmKG

今天给大家介绍 Meta（Facebook） AI Research 团队 2022 年发表在 ICLR 上的论文 “TOWARDS TRAINING BILLION PARAMETER GRAPH NEURAL NETWORKS FOR ATOMIC SIMULATIONS”。本文针对原子模拟领域，提出了一种图并行框架，可以分布式的在多 GPU 上训练十亿级参数量的超大图神经网络模型。在标准数据集 OC20 上最高实现了 21% 的性能提升。