[학회 후기]

2025년 강남 노보텔에서 열린 2025 ICIEA 학회에 참가하였다. 영어로 발표하는 것은 내부 세미나에 이어 두 번째, 학회에서 oral presentation을 하는 것은 이번이 처음이었는데 그만큼 후회 없이 준비하자는 생각을 했다. 내부 세미나 당시 교수님의 코멘트를 되새기면서, 자연스럽게 발표할 수 있을 정도까지 내용을 숙달했고, 후회 없이 발표할 수 있었다. 그 결과 과분하게도 Best Presentation Award를 수상해 더욱 의미가 남는 학회가 되었다.

[발표 후기]

불규칙하게 수집된 시계열(Irregularly Sampled Time Series)을 해결하기 위한 Transformer 기반 방법론을 주제로 발표하였다. 대부분의 시계열 모델들이 규칙적으로 수집되는 시계열(Regular Time Series)을 가정하는 데 비해, 실제 산업 현장에서는 시계열 데이터가 불규칙하게 수집되는 경우가 많으며, 특히 이상 탐지 분야에서 이러한 문제는 성능 하락을 불러온다. 이를 해결하기 위해 기존 방법론처럼 수집되지 않은 데이터를 단순 보간하여 시계열 모델에 입력으로 투입하는 것보다, 모델 내부에서 Irregularly Sampled Time Series를 처리할 수 있게 하여 불규칙한 시계열에 대해서 적응력을 높인 모델을 제안하였다. 본 연구는 불규칙하게 수집된 시계열을 고정된 길이의 벡터로 치환하는 Multi-Time Attention 모듈을 통해 표현 벡터를 추출하였고, 이를 병렬된 Transformer Encoder에 통과시켜 Local Dependency와 Variable Correlation을 포착하고자 하였다. 이는 Irregular한 상황에서 비교 방법론과 정량적인 비교로 검증되었으며, Irregular Time Series Anomaly Detection 과제를 최초로 비지도 학습 세팅으로 해결하였다는 의의가 있었다. 발표자로서 중요 부분을 강조하려고 노력했으며, 한정된 발표 시간에서 최대한 많은 정보를 전달했다는 점에서 성공적인 발표라고 생각했다. 또한, 다른 연구자들의 피드백 및 질문을 받으면서 추후 연구의 밑거름이 될 수 있는 소중한 기회가 되었다.

질문 1: 실험 세팅에 있어 Window size는 어떻게 설정했고, 이것이 Irregularly Sampled Time Series를 다루는 데 중요하다고 생각하는가?

답변 1: 발표 내용에서는 편의상 윈도우 내 20개의 관측치에 30%의 관측치를 탈락시키는 시나리오를 가정했다. 하지만 이것은 발표 편의 상 가정한 것이고, 실제 실험에서는 100개의 윈도우를 설정하여 비교 방법론과 동등 조건에서 실험하도록 조정했다. Window size가 모델 성능에 있어 중요한 요소는 아니며, 임의로 설정한 것이다.

질문 2: Decoder 부분에서 Variable Representation을 Query로, Temporal Represenation을 Key와 Value로 설정했는데, 이렇게 한 큰 이유가 있나?

답변 2: Decoder에서 사용한 Cross Attention은 Key와 Value를 주요 요소로 가져가는 모듈이다. 시계열 데이터에서 Temporal Structure이 상당히 중요하고, 이를 보존하는 것이 성능에 직접적으로 영향을 주기 때문에 Temporal Representation을 Key와 Value로 설정했다. 또한, 실험적으로 두 구성 요소를 서로 바꿨을 때의 성능이 좋지 않았기 때문에 이렇게 설정하였다.

[청취 후기]

Improving LSTM-based Stock Price Trend Prediction Model Using Dimensionality Reduction

Stock Price 예측에 대해서 Dimension Reduction 기법을 적용하여 상승, 보합, 하락을 예측하는 연구였다. 기존 모델들은 시계열 모델만을 이용하여 주식 가격 예측을 수행한 경우가 많았지만, 이 연구에서는 입력 단계에서 PCA와 같은 Dimension Reduction 기법을 이용한 점이 인상 깊었다. 연구자들은 전통적인 시계열 예측 기법이 “차원의 저주”를 유발시켜 성능에 악영향을 초래할 수 있다고 주장하였다. AutoEncoder 기반 차원 축소 기술을 입력 단에 놓고 LSTM으로 가격에 대한 세 가지 추세(상승, 보합, 하락)을 예측했는데, 정확도가 70%p 중반대에 이른 것이 인상깊었다. 주식 가격에 대한 Regression에도 적용 가능한지에 대해서 궁금했는데, 질문 내용을 정리하는 사이 시간 관계 상 기회가 사라져 아쉬웠다. 시계열 데이터에 있어 차원에 대해서 생각해본 적이 없는데, 이 부분에 있어 참고할 만할 연구가 아니었나 싶다.