iPhone如何预测您要在信息中输入的下一个词?这背后的技术，也是许多人工智能应用的核心，被称为变压器;一种检测数据集中模式的深度学习算法。

现在，EPFL和KAIST的研究人员已经为金属有机骨架(MOF)(一类多孔晶体材料)创造了一种变压器。通过将有机接头与金属节点相结合，化学家可以合成数百万种不同的材料，这些材料在储能和气体分离方面具有潜在应用。

“MOFtransformer”旨在成为研究MOF的研究人员的ChatGPT。它的架构基于一种称为GoogleBrain的人工智能，它可以处理自然语言并构成流行语言模型的核心，例如ChatGPT的前身GPT-3。这些模型背后的核心思想是它们在大量文本上进行了预训练，因此当我们开始在iPhone上打字时，例如，像这样的模型“知道”并自动完成最有可能的下一个词。

“我们想为MOF探索这个想法，但我们不想给出一个词的建议，而是想让它暗示一个属性，”领导该项目的EPFL方面的BerendSmit教授说。“我们用一百万个假设的MOF对MOFTransformer进行了预训练，以了解它们的基本特征，我们将其表示为一个句子。然后训练模型来完成这些句子，以给出MOF的正确特征。”

然后，研究人员针对与储氢相关的任务微调了MOFTransformer，例如氢的存储容量、扩散系数和MOF的带隙(一种“能垒”，决定了电子在材料中移动的难易程度)).

该方法表明，与需要更多数据的传统机器学习方法相比，MOFTransformer可以使用更少的数据获得结果。“由于预训练，MOFTtransformer已经知道了MOF的许多一般特性;并且由于有了这些知识，我们需要更少的数据来训练另一个特性，”Smit说。此外，同一个模型可以用于所有属性，而在传统的机器学习中，必须为每个应用程序开发一个单独的模型。

MOFTransformer改变了MOF研究的游戏规则，以更少的数据提供更快的结果，并对材料有更全面的了解。研究人员希望MOFTransformer能够为开发新型MOF铺平道路，提高储氢和其他应用的性能。