새로운 AI 모델은 금속에 대한 이해를 변화시킵니다.

Sep 21, 2023

2023년 3월 13일

이 기사는 Science X의 편집 과정 및 정책에 따라 검토되었습니다. 편집자들은 콘텐츠의 신뢰성을 보장하면서 다음 특성을 강조했습니다.

사실 확인된

동료 검토 출판물

신뢰할 수 있는 출처

교정하다

작성자: Ecole Polytechnique Federale de Lausanne

iPhone은 메시지에 입력할 다음 단어를 어떻게 예측합니까? 이 기술과 많은 AI 애플리케이션의 핵심 기술을 변환기라고 합니다. 데이터세트의 패턴을 감지하는 딥러닝 알고리즘입니다.

이제 EPFL과 KAIST의 연구원들은 다공성 결정질 재료의 일종인 MOF(금속-유기 프레임워크)용 변압기를 만들었습니다. 유기 링커를 금속 노드와 결합함으로써 화학자는 에너지 저장 및 가스 분리에 잠재적으로 응용할 수 있는 수백만 가지의 다양한 재료를 합성할 수 있습니다.

"MOFtransformer"는 MOF를 연구하는 연구자를 위한 ChatGPT로 설계되었습니다. 이 아키텍처는 자연어를 처리할 수 있고 ChatGPT의 전신인 GPT-3와 같은 널리 사용되는 언어 모델의 핵심을 형성하는 Google Brain이라는 AI를 기반으로 합니다. 이러한 모델의 핵심 아이디어는 대량의 텍스트에 대해 사전 훈련되어 있다는 것입니다. 따라서 예를 들어 iPhone에서 입력을 시작하면 이와 같은 모델은 가장 가능성이 높은 다음 단어를 "알고" 자동 완성합니다.

프로젝트의 EPFL 측면을 주도한 Berend Smit 교수는 "우리는 MOF에 대한 이 아이디어를 탐구하고 싶었지만 단어 제안을 제공하는 대신 속성을 제안하도록 하고 싶었습니다."라고 말했습니다. "우리는 백만 개의 가상 MOF로 MOFTransformer를 사전 훈련하여 필수 특성을 학습했으며 이를 문장으로 표현했습니다. 그런 다음 모델은 MOF의 올바른 특성을 제공하기 위해 이러한 문장을 완성하도록 훈련되었습니다."

그런 다음 연구원들은 수소 저장 용량, 확산 계수 및 MOF의 밴드 갭(전자가 물질을 통해 얼마나 쉽게 이동할 수 있는지를 결정하는 "에너지 장벽")과 같은 수소 저장과 관련된 작업을 위해 MOFTransformer를 미세 조정했습니다. ).

이 접근 방식은 MOFTransformer가 훨씬 더 많은 데이터가 필요한 기존 기계 학습 방법에 비해 훨씬 적은 데이터를 사용하여 결과를 얻을 수 있음을 보여주었습니다. "사전 훈련으로 인해 MOFTtransformer는 이미 MOF의 일반적인 속성 중 많은 부분을 알고 있습니다. 이러한 지식으로 인해 다른 속성에 대해 훈련하는 데 필요한 데이터가 더 적습니다."라고 Smit은 말합니다. 또한 모든 속성에 동일한 모델을 사용할 수 있지만 기존 기계 학습에서는 각 애플리케이션마다 별도의 모델을 개발해야 합니다.

MOFTransformer는 MOF 연구의 판도를 바꾸는 도구로, 더 적은 데이터로 더 빠른 결과를 제공하고 자료에 대한 더 포괄적인 이해를 제공합니다. 연구원들은 MOFTransformer가 수소 저장 및 기타 응용 분야를 위한 향상된 특성을 갖춘 새로운 MOF 개발의 길을 닦을 수 있기를 바라고 있습니다.

연구 결과는 Nature Machine Intelligence 저널에 게재되었습니다.

추가 정보: 김지한, 금속-유기 프레임워크의 보편적 전이 학습을 위한 다중 모드 사전 훈련 변환기, Nature Machine Intelligence(2023). DOI: 10.1038/s42256-023-00628-2. www.nature.com/articles/s42256-023-00628-2

저널 정보:자연 기계 지능

Ecole Polytechnique Federale de Lausanne 제공