Introduction to Test-time Adaptation
- 2025년 4월 18일 오후 9:30
- 조회수: 17
INFORMATION
- 2025년 4월 18일
- 오전 9시 ~
온라인 비디오 시청 (YouTube)
발표자:
박소연
박소연
TOPIC
Introduction to Test-time Adaptation
On-Line Video
OVERVIEW
요약: 일반적으로 딥러닝 모델은 훈련 데이터와 테스트 데이터의 분포가 i.i.d. (independent and identically distributed)하다고 가정하고 학습되지만, 실제 환경에서는 다양한 요인으로 인해 이 가정이 쉽게 깨지고, 그로 인해 모델 성능이 크게 저하되는 문제가 자주 발생한다.
이러한 문제를 극복하기 위해, 테스트 시점에서 모델이 주어진 입력에 기반해 스스로 적응하는 방식인 Test-Time Adaptation(TTA)이 활발히 연구되고 있다.
TTA는 훈련 데이터에 대한 접근 없이, 테스트 시점에 주어진 입력 데이터 X값만을 활용하여 모델을 동적으로 조정함으로써, 분포가 달라진 환경에서도 성능을 유지하거나 향상시킬 수 있는 방법론이다.
기존의 테스트 방식이 모델을 고정된 상태로 사용하는 것에 그쳤다면, TTA는 실제 사용 환경에서 발생하는 분포 변화에 모델이 능동적으로 적응하도록 설계되었다는 점에서 높은 실용적 가치를 지닌다.
본 세미나에서는 TTA의 전반적인 개념을 소개하고, 이를 대표하는 세 가지 방법론을 살펴보고자 한다.
참고자료:
[1] Wang, D., Shelhamer, E., Liu, S., Olshausen, B., & Darrell, T. (2021). Tent: Fully test-time adaptation by entropy minimization. (ICLR)
[2] Liang, J., Hu, D., & Feng, J. (2020). Source-free domain adaptation with source hypothesis transfer. (ICML)
[3] Zhang, M., Levine, S., & Finn, C. (2022). Memo: Test time robustness via adaptation and augmentation. (NeurIPS)