Nat Commun｜語言模型可以學習複雜的分子分布

2022年6月7日，來自多倫多大學計算機科學系的Daniel Flam-Shepherd等人在Nat Commun發錶研究工作，研究為分子的深度生成模型引入了三個複雜的建模任務來測試化學語言模型的能力，結果顯示語言模型是可以學習任何複雜分子分布的非常强大的生成模型。

論文鏈接：

https://www.nature.com/articles/s41467-022-30839-x

摘要

分子的深度生成模型已經得到了極大的普及，這些模型在相關的數據集上進行訓練，被用來搜索整個化學空間。用於逆向設計新型功能化合物的生成模型的價值，取决於其學習分子分布的能力。最簡單的例子是一種語言模型，它采用循環神經網絡的形式，並用字符串錶征生成分子。

在這項工作中，我們研究了簡單語言模型學習更複雜的分子分布的能力。為此，我們編譯了更大、更複雜的分子分布，引入了幾個具有挑戰性的生成性建模任務，並評估了語言模型在每個任務上的能力。

結果錶明，語言模型是强大的生成模型，能够熟練地學習複雜的分子分布。語言模型可以准確地生成：ZINC15中得分最高的懲罰性LogP分子的分布，多模式的分子分布以及PubChem中最大的分子。這些結果突出了一些最流行的和最近的圖生成模型的局限性，其中許多模型無法擴展到這些分子分布。