이번 세미나는 Physics-Informed Machine Learning(PIML)에 대해 소개해주었다. 기존 CFD, FEM, FEA와 같은 물리 기반 시뮬레이션은 높은 정확도를 제공하지만, 설계 조건이나 경계조건, 물리 파라미터가 바뀔 때마다 반복적으로 계산해야 한다는 점에서 한계가 있다. 이를 보완하기 위해 등장한 surrogate model은 빠른 예측이 가능하지만, 순수 data-driven 방식만으로는 물리 법칙을 충분히 반영하지 못해 OOD 조건에서 불안정하거나 물리적으로 모순된 결과를 낼 수 있다는 문제가 있다.

이러한 배경에서 PINN은 PDE residual과 초기/경계조건을 loss에 직접 반영하고, PGNN은 물리 모델의 출력이나 제약조건을 보다 유연하게 신경망에 결합한다는 점이 인상적이었다. 더 나아가 Neural Operator는 다양한 초기조건, 경계조건, 물리 파라미터에 대한 solution mapping 자체를 학습한다는 점에서 surrogate modeling의 확장 방향을 잘 보여주는 것 같다.

PIML에 대해 공부해보고 싶은 마음이 있었는데, PINN부터 최근 surrogate modeling 연구 방향까지 흐름이 자연스럽게 이어져서 이해하는 데 큰 도움이 되었다. 좋은 세미나를 준비해줘서 고맙다는 말을 전하며 세미나 후기를 마친다.

이번 세미나는 장성호 연구원께서 Overview of Physics-Informed Machine Learning을 주제로 진행해주었다.

세미나는 물리 기반 시뮬레이션과 머신러닝을 결합해야 하는 이유에서 시작했다. CFD, FEM, FEA와 같은 시뮬레이션은 정확한 물리 해석이 가능하지만, 조건이나 파라미터가 바뀔 때마다 반복 계산이 필요해 많은 비용이 든다. 반면 머신러닝 기반 surrogate model은 빠른 예측이 가능하지만, 데이터가 부족하거나 학습 범위를 벗어난 조건에서는 물리적으로 타당하지 않은 결과를 낼 수 있다. 이러한 배경에서 물리 법칙을 학습에 반영하는 Physics-Informed Machine Learning의 필요성을 이해할 수 있었다.

PINN은 신경망이 해 함수를 근사하면서 PDE residual, 초기조건, 경계조건을 loss에 포함시키는 방식으로 설명되었다. 단순히 데이터에 잘 맞는 모델을 만드는 것이 아니라, 예측 결과가 물리 방정식을 만족하도록 학습한다는 점이 핵심이라고 이해했다. 또한 forward problem과 inverse problem을 비교하며, PINN이 시스템의 응답을 예측하는 것뿐 아니라 관측 데이터로부터 미지의 물리 파라미터를 추정하는 데에도 활용될 수 있음을 알 수 있었다.

PGNN은 물리 정보를 더 유연하게 활용하는 접근으로 소개되었다. 물리 기반 모델의 출력이나 물리적으로 의미 있는 변수를 입력 feature로 사용하거나, 물리 제약을 loss에 추가하는 방식이다. 실제 문제에서는 데이터 기반 모델과 물리 지식을 함께 사용하는 PGNN의 접근이 현실적인 문제에 유용할 수 있다고 느꼈다.

이후 Neural Operator는 다양한 초기조건, 경계조건, 물리 파라미터에 대한 solution mapping을 학습하는 방법으로 설명되었다. 특히 DeepONet은 Branch network가 문제 조건을 요약하고, Trunk network가 좌표 정보를 처리하여 해를 예측하는 구조를 가진다. 특정 조건에 대한 하나의 해만 학습하는 것이 아니라, 조건에서 해 함수로 이어지는 mapping 자체를 학습한다는 점이 PINN과 구분되는 부분이라고 생각했다.

후반부에서는 surrogate modeling의 연구 방향도 다루었다. 시뮬레이션 비용을 줄이기 위해 어떤 조건에서 데이터를 생성할지, 어떤 영역을 더 정밀하게 계산할지, 어떤 모델 구조를 사용할지 함께 고려해야 한다는 점이 인상적이었다.

이번 세미나를 통해 Physics-Informed Machine Learning의 전체적인 흐름을 정리할 수 있었다. PINN, PGNN, Neural Operator, Surrogate Modeling으로 이어지는 내용을 단계적으로 설명해주어 이해하기 수월했다. 좋은 세미나를 준비해주신 장성호 연구원께 감사드리며 세미나 후기를 마친다.

이번 세미나는 물리 기반 시뮬레이션을 대체하기 위한 Physics-Informed Machine Learning (PIML)의 개념과 연구 흐름을 소개한다. 세미나를 통해 기존의 순수 데이터를 기반으로 한 모델이 가진 데이터 부족 문제와 물리 법칙에 맞지 않는다는 문제를 해결하고, 비용이 많이 드는 시뮬레이션을 대체하는 Surrogate Modeling의 방법론들을 배울 수 있었다.

세미나에서 다룬 방법론들의 흐름은 아래와 같이 정리할 수 있을 것 같다.

PINN(Physics-Informed Neural Networks)은 Automatic Differentiation을 활용해서 지배 방정식과 초기조건인 IC와 경계조건인 BC를 손실 함수에 직접 포함한다. 그래서 물리 제약식을 직접 만족하도록 학습하는 메커니즘을 사용한다. 이 방법은 지배 방정식이 잘 정의가 되어있고, 미분이 가능한 형태로 표현할 수 있을 때 사용하기 좋다.

PGNN(Physics-Guided Neural Networks)은 물리 모델의 출력을 입력 feature로 활용한다. 또한 하이브리드 손실 함수를 정의하기도 한다. 이 방법은 PINN과 다르게 물리식을 강하게 강제하지 않는다. 이 부분에서 PINN과 PGNN은 서로 상호 보완적인 관계를 가지고 있고, 무조건 PGNN이 좋은 것이 아니라 PINN이 더 좋은 상황도 있을 수 있을 것 같다는 생각이 들었다.

하지만 PINN과 PGNN이 특정 물리 파라미터나 경계조건이 바뀔 때마다 모델을 재학습해야 하는 한계가 있다. 이것을 해결하기 위해 Neural Operator가 나왔다. 이 방법은 함수 공간 간의 매핑을 직접 학습하고, 문제 설정 정보와 좌표 쿼리를 분리해서 grid에 의존하지 않는 예측을 가능하게 한다는 점이 인상적이었다.

그다음 흐름으로 모델 구조로만 접근하지 않고, 최적의 데이터를 선택적으로 생성하는 데이터 샘플링 전략, grid 기반 시뮬레이션을 위한 GNN 구조, 그리고 OOD 환경에서 강건성을 확보하기 위한 MoE 구조, 대규모 PDE 사전학습 연구를 설명해 주었다.

PIML의 배경부터 기초적인 원리, 그리고 최신 대규모 PDE 사전학습 아키텍처까지 정리해 줘서 PIML 분야의 트렌드를 배울 수 있었다. 그리고 이해하기 어려운 부분을 애니메이션과 직관적인 시각적인 자료로 함께 설명해 줘서 이해하기 편했다. 좋은 세미나를 준비하느라 고생한 장성호 연구원에게 뜨거운 박수를 보내며 본 세미나 후기를 마친다.