이정민

이번 세미나는 디퓨전을 활용하여 시계열 이상치 탐지를 해결하는 방법론들에 대해 소개해주었다.
첫 번째로 소개된 DiffAD의 경우는 anomaly concentration 상황을 문제로 삼고 density ratio-based selection을 denoising 과정에 condition으로 넣어준 것이 가장 큰 특징이라고 할 수 있다. 이것에 부가적으로 그 condition을 점차 세게 주는 것, 그리고 이미지 데이터에서의 디퓨전에 많이 사용되는 U-Net이 아닌, 시계열 데이터에 적용할 수 있는 S4-based U-Net을 활용하였다. 실험 결과 부분에서, 시계열 이상치 탐지 task에서는 점점 이전 모델들과의 성능 차이가 얼마 나지 않는구나 라는 생각이 들었다.
두 번째로는 ImDiffusion에 대해 소개해주었다. ImDiffusion은 최종적인 denoising 결과만을 활용하는 것이 아니라, 각 denoising step 마다의 결과를 앙상블 하는 것이 가장 큰 특징이고, 시계열 데이터에 적합한 Transformer 모델을 기반으로 하였다. 실험 결과 부분에서 최종 denoising 결과에서는 false alarm이 일어나게 되지만, 앙상블을 통해 이를 방지하는 효과가 흥미로웠다. 다만, 이 논문에서는 이전 모델들과 어느 정도 큰 성능 차이를 보여주고 있지만, SOTA로 각광 받아 항상 메인 실험 결과 표 맨 아래(proposed 제외)에 있던 Anomaly Transformer 대신 비슷한 시기에 나온 TranAD를 비교한 것이 의문이긴 했다.
디퓨전이 많이 떠오르면서 이미지 뿐만 아니라 시계열 이상치 탐지에도 잘 적용이 되는구나를 알 수 있었던 세미나였다. 특히 마지막 부분에 석호형이 말한 것처럼, 시계열 데이터는 비교적 추론 시간이 많이 짧기 때문에, 더 잘 활용될 수 있을 것 같다. 좋은 세미나를 준비하느라 고생하신 석호형에게 고맙다는 말을 전하며, 본 세미나 후기를 마친다.

김성수

이번 세미나는 diffusion 모델을 활용한 이상탐지에 대해 진행되었다. 시계열 이상치는 정말 다양한 형태로 존재하기에, 이러한 문제 해결에 어려움이 존재한다. 본 세미나에서는 이러한 다양한 이상치를 diffusion을 활용하여 해결한 사례들을 소개하고자 한다.

1) DiffAD: 이상치가 몰려있는 곳에 대한 탐지 성능이 낮은 것을 해소하고자 한다. 이때, density-ratio-based selection (DS)가 정상과 같은 구간을 선별하여, 이상치가 포함될 수 있는 데이터를 정상처럼 스무딩해주는 역할을 수행하고, S4기반 U-Net을 활용하여 학습한다. 논문에서는 DS의 역할이 꽤나 중요했던 것으로 보인다.
2) ImDiffusion: 이상치에 대한 threshold 선정의 어려움을 해소하고자 한다. 시계열 중간중간에 masking하여 입력으로 넣고, 이를 복원하는 형식으로 학습한다.

이번 세미나를 통해 diffusion 기반 이상탐지를 알아볼 수 있었다. DiffAD의 DS가 가장 기억에 남는데, 이처럼 학습이 아닌 휴리스틱한 기법으로 조건을 걸거나 가이드를 받는 것이 꽤나 효과적일 수 있다는 것을 느꼈다. 유익한 세미나를 준비해준 문석호 연구원님께 고맙다는 말을 전하며 세미나 후기를 마친다.