🔗 관련 문서: Wikipedia - Physics-Informed Neural Networks

PINN (Physics-Informed Neural Networks)물리정보 신경망

[YouTube]

01. PINN의 이해: 데이터와 물리 법칙의 조화

PINN(Physics-Informed Neural Networks)은 물리 법칙을 신경망 학습 과정에 통합하여, 데이터와 물리학적 지식을 동시에 활용하는 혁신적인 인공지능 기법이다.

전통적인 딥러닝 모델은 순수하게 데이터에만 의존하여 학습하지만, PINN은 편미분방정식(PDE, Partial Differential Equation)과 같은 물리 법칙을 손실 함수에 포함시켜 학습한다. 이를 통해 적은 양의 데이터로도 물리적으로 타당한 예측을 수행할 수 있다.

PINN은 2019년 Raissi, Perdikaris, Karniadakis에 의해 제안되었으며, 과학 및 공학 문제 해결에서 데이터 기반 접근법과 물리 기반 접근법의 장점을 결합한 방법론으로 주목받고 있다.









기존의 딥러닝이 아무런 사전 지식 없이 데이터만을 보고 패턴을 찾는 '데이터 중심(Data-driven)' 방식이라면, PINN은 인공지능에게 "세상은 이러한 물리 법칙(편미분방정식)을 따른다"는 '상식'을 가르치는 기법이다.

예를 들어, 온도를 예측할 때 일반 AI는 데이터가 부족하면 엉뚱한 값을 내놓을 수 있으나, PINN은 "열은 높은 곳에서 낮은 곳으로 흐른다"는 열방정식을 학습 과정에 강제함으로써 물리적으로 타당한 결과를 도출한다.

02. PINN의 작동 원리

2.1 용어

[용어] 자동 미분(Automatic Differentiation, AD):


신경망이 물리 법칙을 학습할 수 있게 만드는 핵심 기술이다. 이는 전통적인 수치 미분이나 기호 미분과는 차별화된 방식으로, 복잡한 물리 방정식(PDE)을 연산 그래프(Computational Graph) 내에서 정확하고 효율적으로 계산할 수 있게 해준다.

실제로 PyTorch나 TensorFlow 같은 프레임워크에서 u.backward() 또는 tape.gradient()를 호출하는 순간, 컴퓨터는 내부에 미리 그려놓은 연산 그래프를 따라가며 미분을 수행하게 된다.

[표] PINN 자동 미분과 일반 미분의 비교

구분	PINN 자동 미분	일반 미분
정의	신경망의 연산 그래프를 기반으로 체인룰을 자동 적용하여 미분값을 계산	해석적 공식이나 수치적 근사(차분법 등)를 통해 미분값을 계산
계산 방식	역전파(backpropagation)와 동일한 메커니즘으로 기울기를 구함	공식 유도 또는 Δx를 이용한 근사 계산
정확도	기계 오차 외에는 근사 오차가 거의 없음	수치적 미분은 Δx 크기에 따라 근사 오차 발생
적용 범위	복잡한 신경망 구조와 PDE 제약 조건을 포함한 문제에 적합	단순 함수나 해석적으로 표현 가능한 경우에 적합
장점	고차 미분도 안정적으로 계산 가능, PINN에서 물리 법칙 제약을 쉽게 반영	직관적이고 간단하며, 신경망 외의 일반 함수에도 적용 가능
단점	신경망 구조와 연산 그래프가 필요, 계산량이 많을 수 있음	고차 미분이나 복잡한 함수에서는 근사 오차와 계산 불안정성 증가

[용어] 연산 그래프(Computational Graph):


복잡한 수학적 계산 과정을 노드(Node)와 엣지(Edge)로 이루어진 네트워크 형태로 시각화한 구조를 의미한다. PINN에서 자동 미분을 수행할 때, 컴퓨터는 우리가 입력한 수식을 이 그래프 형태로 변환하여 기억한다. 여기서 노드(Node)란 입력 변수(데이터)나 연산자(덧셈, 곱셈, $\sin$, $\exp$ 등)를 나타내고, 엣지(Edge)란 데이터가 흘러가는 통로를 의미하며, 한 노드의 결과값이 다음 노드의 입력값으로 전달되는 방향성을 가진다.



[용어] 콜로케이션 포인트(Collocation Points):


• 정의:
PINN에서 미분방정식(PDE)을 만족시키도록 강제하기 위해, 정의역(domain) 안에서 선택한 특정 좌표 지점들을 말한다.

• 역할:
신경망이 단순히 데이터를 맞추는 것뿐 아니라, 물리 법칙(예: PDE)을 만족하도록 학습하기 위해, 이 지점들에서 자동 미분을 통해 PDE 잔차(residual)를 계산한다.

• 자동 미분과의 관계:
PINN은 신경망 출력에 대해 $x$, $t$ 같은 독립변수에 대한 편미분을 자동 미분으로 구한다. 이때 collocation points에서 그 값을 평가하여 PDE 제약 조건을 손실 함수에 포함시킨다.

• 비유:
마치 시험 문제를 여러 위치에서 풀어보며 "법칙이 잘 적용되는지" 확인하는 체크포인트 같은 역할을 한다.






2.2 아키텍처

PINN은 물리 법칙(PDE)을 만족해야 하므로, 단순한 결과값뿐만 아니라 '미분값(변화율)'이 필수적이다. 이때 연산 그래프는 두 가지 경로로 활용된다.

1. 순전파 신경망(Forward Propagation):
   입력값 $x, t$를 받아 물리량 $u(x, t)$를 예측한다.
2. 역전파 신경망(Back Propagation) 및 자동 미분(Automatic Differentiation, AD):
   그래프를 끝에서부터 거꾸로 타고 올라가며 각 연산 단계의 미분값을 계산한다. 이를 통해 $u_x$나 $u_{t}$ 같은 물리적 도함수를 오차 없이 정확하게 구해낼 수 있다.

PINN은 자동 미분(Automatic Differentiation) 기능을 활용하여 신경망 출력에 대한 편미분을 계산하고, 이를 통해 PDE 조건을 직접 학습 과정에 반영한다.

학습 과정에서 PINN은 다음 세 가지 조건을 동시에 만족시키려 한다:

❶ 데이터 일치:
관측된 데이터 포인트를 정확히 예측

❷ PDE 만족:
지배 방정식(governing equation)을 모든 영역에서 만족

❸ 경계 조건:
초기 조건 및 경계 조건 충족






2.3 손실함수

PINN의 핵심은 손실 함수(Loss Function)의 구성에 있다. 일반적인 신경망의 손실 함수는 데이터 손실만 포함하지만, PINN은 여기에 물리 법칙 위반에 대한 페널티를 추가한다.

• PINN 손실 함수 $\mathcal{L}$:
\[ \mathcal{L} = \mathcal{L}_{data} + \lambda \mathcal{L}_{physics} \] 여기서 \(\lambda\)(가중치)는 데이터 손실과 물리 손실 간의 균형을 조절하는 하이퍼파라미터이다.

• 데이터 손실 $\mathcal{L}_{data}$:
관측된 실제 데이터 값과 모델 예측값의 차이를 줄인다. \[ \mathcal{L}_{data} = \frac{1}{N} \sum_{i=1}^{N} |u(x_i) - u_i|^2 \]

• 물리 손실(PDE 잔차) $\mathcal{L}_{physics}$:
예측값이 지배 방정식(PDE)을 위반할 때 부여하는 페널티이다. \[ \mathcal{L}_{physics} = \frac{1}{M} \sum_{j=1}^{M} |\mathcal{F}[u](x_j)|^2 \] 여기서 \(\mathcal{F}[u]\)는 편미분방정식을 나타낸다.
• Note:
\[ \begin{aligned} \mathcal{L} &= \mathcal{L}_{data} + \lambda \mathcal{L}_{physics} \\ &= \mathcal{L}_{data} + \lambda_{PDE} \mathcal{L}_{PDE} + \lambda_{BC} \mathcal{L}_{BC} \\ \end{aligned} \]

손실함수를 순차적이 아닌 동시 계산이 가능한 이유는 자동미분(Automatic Differentiation) 덕분이다. PyTorch나 TensorFlow 같은 프레임워크가 계산 그래프를 구성하여, 한 번의 순전파로 얻은 결과로부터 필요한 모든 도함수를 효율적으로 계산할 수 있다.

이러한 방식으로 PINN은 데이터와 물리 법칙을 동시에 학습하게 됩니다.

03. PINN의 장단점 및 최근 연구 동향

3.1 전통적 수치해석과 비교

전통적 수치해석 vs PINN

구분	전통적 기법 (FEM/FDM)	PINN (물리정보 신경망)
데이터 의존도	방정식에만 의존	데이터 + 방정식 결합
격자(Mesh) 생성	필수적이며 복잡함	불필요 (Mesh-free)
역문제 해결	매우 어려움	파라미터 추정 용이

3.2 장점

• 데이터 효율성:
  제한된 데이터만으로도 물리 법칙을 활용하여 신뢰성 있는 예측이 가능하다.
• 물리적 일관성:
  학습된 모델이 자동으로 물리 법칙을 만족하므로, 비물리적인 결과를 방지할 수 있다.
• 역문제 해결:
  관측 데이터로부터 미지의 물리 파라미터나 초기 조건을 추정하는 역문제(inverse problem)에 효과적이다.
• 메쉬프리(Mesh-free):
  전통적인 수치해석 방법과 달리 격자(mesh) 생성이 불필요하여 복잡한 형상에도 적용이 용이하다.
• 불확실성 정량화:
  베이지안 PINN을 통해 예측의 불확실성을 정량적으로 평가할 수 있다.

3.3 단점

• 학습 난이도:
  데이터 손실과 물리 손실의 균형을 맞추는 것이 어렵고, 하이퍼파라미터 튜닝이 복잡하다.
• 계산 비용:
  물리 손실 계산을 위한 미분 연산이 추가되어 학습 시간이 길어질 수 있다.
• 복잡한 PDE:
  고차원 또는 비선형성이 강한 PDE의 경우 학습이 불안정하거나 수렴하지 않을 수 있다.
• 물리 법칙 필요:
  시스템의 지배 방정식을 명확히 알고 있어야 하므로, 물리 법칙이 불명확한 경우 적용이 제한적이다.
• 스케일링 문제:
  변수들의 스케일 차이가 큰 경우 학습 성능이 저하될 수 있다.

3.4 최근 연구 동향

PINN의 한계를 극복하기 위한 다양한 개선 방법들이 연구되고 있다:
• Adaptive Weighting:
  학습 과정에서 손실 함수의 가중치를 동적으로 조절
• Domain Decomposition:
  복잡한 도메인을 여러 서브도메인으로 분할하여 학습
• Causal PINN:
  시간적 인과관계를 고려한 학습 방법
• Multi-fidelity PINN:
  다양한 정확도의 데이터를 통합 활용

04. PINN의 응용 분야

PINN은 물리 법칙이 명확히 정의된 다양한 과학 및 공학 분야에서 활용되고 있다.

• 유체역학(Fluid Dynamics)

나비에-스토크스 방정식(Navier-Stokes Equation)을 기반으로 유체의 흐름을 예측하고, 난류(turbulence) 현상을 모델링하는 데 사용된다. 전산유체역학(CFD) 시뮬레이션 비용을 크게 절감할 수 있다.

• 구조 역학(Structural Mechanics)

재료의 응력-변형률 관계를 학습하고, 구조물의 변형 및 파괴를 예측한다. 실험 데이터가 제한적인 상황에서도 물리적으로 타당한 결과를 도출할 수 있다.

• 열전달(Heat Transfer)

열방정식(Heat Equation)을 활용하여 온도 분포 및 열 확산 과정을 모델링한다. 반도체 소자, 배터리 시스템 등의 열 관리 최적화에 적용된다.

• 생물의학(Biomedical Engineering)

혈류 역학, 약물 전달 시스템, 종양 성장 모델링 등에 활용된다. 실제 생체 내 실험이 어려운 경우, PINN을 통해 안전하고 효율적으로 연구를 진행할 수 있다.

• 기후 및 환경 과학

대기 및 해양 순환 모델링, 오염물질 확산 예측 등에 사용된다. 관측 데이터와 물리 법칙을 결합하여 더 정확한 예측이 가능하다.

05. 구현 예시 (PyTorch 기반)

다음은 간단한 물리 방정식을 해결하기 위한 PINN의 기본 골격이다.

import torch
import torch.nn as nn

class PINN(nn.Module):
    def __init__(self):
        super(PINN, self).__init__()
        self.net = nn.Sequential(
            nn.Linear(1, 20), nn.Tanh(),
            nn.Linear(20, 20), nn.Tanh(),
            nn.Linear(20, 1)
        )

    def forward(self, x):
        return self.net(x)

# 물리 법칙(PDE) 손실 계산 함수
def physics_loss(model, x):
    x.requires_grad = True
    u = model(x)
    
    # 자동 미분을 통한 u_x (1차 미분) 계산
    u_x = torch.autograd.grad(u, x, torch.ones_like(u), create_graph=True)[0]
    # u_xx (2차 미분) 계산
    u_xx = torch.autograd.grad(u_x, x, torch.ones_like(u_x), create_graph=True)[0]
    
    # 예: u_xx = 0 이라는 물리 법칙을 만족해야 함
    loss_pde = torch.mean(u_xx**2)
    return loss_pde