MatRIS: 신뢰성 있고 효율적인 사전 학습된 머신러닝 상호작용 퍼텐셜 개발을 향하여

MatRIS: Toward Reliable and Efficient Pretrained Machine Learning Interaction Potentials

기반 머신러닝 상호작용 퍼텐셜(MLIP)은 다양한 물질 시스템에 걸쳐 광범위한 적용 가능성을 보여주며, 화학 및 계산 물질 과학 분야에서 강력하고 혁신적인 패러다임으로 자리 잡았습니다. 등방성 MLIP는 등방성 유도 편향을 통합하여 다양한 벤치마크에서 최첨단 정확도를 달성합니다. 그러나 텐서 곱셈 및 고차 표현에 대한 의존성은 계산 비용을 증가시킵니다. 이는 다음과 같은 근본적인 질문을 제기합니다: 양자 역학 기반 데이터셋이 지속적으로 확장됨에 따라, 고차원 원자 상호작용을 효과적으로 활용할 수 있는 더 간결한 모델을 개발할 수 있을까요? 본 연구에서는 세체 상호작용에 대한 어텐션 기반 모델링을 도입한 등방성 MLIP인 MatRIS (Materials Representation and Interaction Simulation)를 제시합니다. MatRIS는 선형 복잡도 $O(N)$를 갖는 새로운 분리 가능 어텐션 메커니즘을 활용하여 확장성과 표현력을 동시에 제공합니다. MatRIS는 다양한 인기 벤치마크(Matbench-Discovery, MatPES, MDR phonon, 분자 데이터셋 등)에서 선도적인 등방성 모델과 비교할 만한 정확도를 제공합니다. 예를 들어, Matbench-Discovery 데이터셋에서 MatRIS는 최대 0.847의 F1 점수를 달성하며, 더 낮은 학습 비용으로 유사한 정확도를 얻습니다. 본 연구는 신중하게 설계된 등방성 모델이 등방성 모델의 정확도에 필적하거나 능가할 수 있으며, 이는 정확하고 효율적인 MLIP 개발에 대한 중요한 통찰력을 제공합니다.

Foundation MLIPs demonstrate broad applicability across diverse material systems and have emerged as a powerful and transformative paradigm in chemical and computational materials science. Equivariant MLIPs achieve state-of-the-art accuracy in a wide range of benchmarks by incorporating equivariant inductive bias. However, the reliance on tensor products and high-degree representations makes them computationally costly. This raises a fundamental question: as quantum mechanical-based datasets continue to expand, can we develop a more compact model to thoroughly exploit high-dimensional atomic interactions? In this work, we present MatRIS (\textbf{Mat}erials \textbf{R}epresentation and \textbf{I}nteraction \textbf{S}imulation), an invariant MLIP that introduces attention-based modeling of three-body interactions. MatRIS leverages a novel separable attention mechanism with linear complexity $O(N)$, enabling both scalability and expressiveness. MatRIS delivers accuracy comparable to that of leading equivariant models on a wide range of popular benchmarks (Matbench-Discovery, MatPES, MDR phonon, Molecular dataset, etc). Taking Matbench-Discovery as an example, MatRIS achieves an F1 score of up to 0.847 and attains comparable accuracy at a lower training cost. The work indicates that our carefully designed invariant models can match or exceed the accuracy of equivariant models at a fraction of the cost, shedding light on the development of accurate and efficient MLIPs.