- 2026년 8월 27일 오후 11:38
- 조회수: 69
박성수
[학회후기]
2026년 8월 24일부터 26일까지 충청남도 예산 스플라스 리솜에서 열린 2026 한국데이터마이닝학회 하계학술대회에 참석하였다. 이번 학회의 주제는 ‘데이터에서 실행으로: 에이전틱 AI가 만나는 피지컬 월드’였고, 로봇과 Physical AI, World Model, Agentic AI 등 최근 주목받고 있는 연구와 산업 적용 사례를 접할 수 있었다. 특히 최신 연구뿐만 아니라 실제 제조 및 산업 현장에서 AI를 어떻게 활용하고 있는지에 관한 발표가 함께 구성되어 있어서 연구에서 제안하는 기술과 실제 환경에서 요구되는 기술 사이의 연결을 생각해 볼 수 있었다. 여러 발표를 들으며 가장 인상 깊었던 점은 새로운 모델을 만드는 것만큼이나 기존 모델이 어떤 상황에서 실패하고 그 원인이 무엇인지를 구체적으로 분석하는 것이 중요한 연구가 될 수 있다는 점이었다. 실제 환경에서는 데이터의 변화나 계산 비용, 모델의 안정성 등 다양한 문제가 동시에 발생하기 때문에 단순한 성능 향상만으로는 충분하지 않다는 생각도 들었다. 이번 학회를 통해 앞으로 연구를 진행할 때도 결과적인 성능뿐 아니라 모델이 어떤 상황에서 잘 작동하고, 어떤 상황에서 실패하는지를 살펴볼 필요가 있겠다고 느꼈다.
[발표후기]
제목: Retrieval-Guided Residual Correction for Robust Time-Series Forecasting
기존 시계열 예측 모델은 주로 제한된 Lookback Window를 기반으로 미래를 예측하기 때문에, 과거에 드물게 등장했거나 복잡한 패턴에 대해서는 충분한 정보를 활용하기 어렵다는 문제에서 출발한 연구다. 이를 보완하기 위해 현재 입력과 유사한 과거 시계열을 검색하고, 당시의 실제 미래값을 직접 가져오는 대신 해당 시점에서 기본 예측 모델이 발생시켰던 예측 오차, 즉 Residual을 활용하여 현재 예측값을 보정하는 방법을 제안하였다. 비슷한 상황에서 모델이 어떠한 방향으로 틀렸는지를 참고하면 기본 모델의 반복적인 오류를 보완할 수 있다는 것이 아이디어다.
질문 (1) 유사한 과거 입력을 찾더라도 당시의 Residual이 현재 상황에서도 유효하다는 보장이 없는데, 잘못 검색된 Residual로 인해 오히려 기본 예측 성능이 저하될 가능성은 없나요?
답변 (1) 충분히 발생할 수 있는 문제입니다. 따라서 제안 방법에서는 검색된 Residual을 그대로 현재 예측값에 더하지 않고 여러 Residual 정보를 요약한 뒤 Correction Head를 통해 필요한 보정값을 생성합니다. 또한 보정값의 크기를 제한하는 파라미터를 두어서 검색 정보가 잘못되더라도 기본 예측이 크게 훼손되지 않도록 하였습니다. 실제 실험에서도 파라미터를 작게 설정했을 때는 기본 모델 대비 안정적인 성능 향상이 나타나지만, 파라미터가 지나치게 커질 경우에는 성능이 감소하는 것을 확인했습니다. 향후에는 검색된 Residual의 신뢰도를 함께 고려하여 상황에 따라 보정 강도를 조절하는 방향도 고려할 수 있습니다.
[청취후기]
(1) Mitigating Mask Prior Drift and Positional Attention Collapse in Large Diffusion Vision-Language Models (연세대학교 홍수정 / 황성재)
Diffusion 방식의 Vision-Language Model이 긴 문장을 생성할 때 발생하는 반복적인 문장 생성과 이미지 정보 활용 저하 문제를 분석한 연구다. Diffusion VLM은 Autoregressive 모델과 달리 여러 Mask Token을 반복적으로 복원하며 병렬적으로 문장을 생성하는데, 연구에서는 이러한 구조 자체에서 두 가지 문제가 발생한다는 것을 발견하였다. 첫 번째는 모든 생성 토큰이 동일한 Mask Token에서 시작하면서 Hidden Representation이 공통된 방향으로 점차 수렴하는 ‘Mask Prior Drift’이고, 이것이 특정 단어나 표현을 반복적으로 생성하는 원인이 된다. 두 번째는 RoPE가 갖는 위치적 편향으로 인해 생성 토큰이 멀리 위치한 유용한 이미지 토큰보다 주변의 아직 복원되지 않은 Mask Token에 지나치게 Attention을 주게 되는 ‘Positional Attention Collapse’이다. 연구에서는 이를 해결하기 위해 Mask Prior Suppression과 Monotonic RoPE Scaling을 제안했고, 별도의 재학습 없이 추론 단계에서 적용할 수 있다.
무엇보다 새로운 네트워크를 추가하여 성능을 높이려고 하지 않고, 먼저 모델이 실패하는 내부적인 원인을 분석하고 그 원인에 직접 개입했다는 점이 인상적이었다. 특히 반복 생성이라는 겉으로 드러난 현상을 단순한 성능 문제로 처리하지 않고 Hidden Representation과 Attention의 변화까지 추적하여 설명한 과정이 흥미로웠다. 연구를 진행하다 보면 성능이 좋지 않은 결과를 새로운 모듈이나 Loss로 곧바로 해결하려고 할 때가 많은데, 그러기보다 먼저 ‘모델이 정확히 어디에서, 왜 틀리고 있는가’를 분석하는 과정 자체가 중요한 연구가 될 수 있다는 점을 다시 생각하게 해준 발표였다.
(2) PGRF-Net: A Prototype-Guided Relational Fusion Network for Diagnostic Multivariate Time-Series Anomaly Detection (연세대학교 정자훈 / 윤현수)
다변량 시계열 이상탐지에서 높은 탐지 성능과 해석 가능성을 동시에 확보하기 위한 연구다. 일반적인 이상탐지 모델은 특정 시점을 이상으로 판단하더라도 하나의 Anomaly Score만을 출력하기 때문에 어떤 특성 때문에 이상으로 판단했는지 파악하기 어렵다는 문제가 있다. 이 연구는 이런 문제를 해결하기 위해 이상 징후를 하나의 기준으로 판단하지 않고, 예측값과 실제값 사이의 차이를 나타내는 Predictive Deviation, 변수 간 관계 구조의 변화를 나타내는 Structural Deviation, 정상 상태의 Prototype과 얼마나 달라졌는지를 나타내는 Contextual Deviation, 그리고 국소적인 급격한 변화를 측정하는 Spike Deviation의 네 가지 증거로 나누어 바라본다. 이후 Gated Evidence Fusion Network가 데이터에 따라 각 증거의 중요도를 조절하여 최종 이상 점수를 생성한다. 단순히 이상 여부를 탐지하지 않고, 어떠한 종류의 변화가 이상 판단에 크게 기여했는지 확인할 수 있다는 것이 장점이다.
시계열 이상탐지 모델을 실제 산업 현장에서 활용한다고 생각했을 때 의미 있는 접근이라고 느꼈다. 현장에서는 모델이 ‘이상이다’라고 알려주는 것에서 끝나는 것이 아니라 왜 이상으로 판단했는지에 대한 단서가 있어야 이후의 점검이나 의사결정으로 연결할 수 있기 때문이다. 또한 서로 다른 성격을 가진 이상을 하나의 점수 생성 방식으로 모두 설명하려고 하지 않고, 여러 종류의 이상 증거를 먼저 분리해서 추출한 뒤에 상황에 따라 결합한다는 문제 설정도 인상적이었다.