[학회 후기]

올해 하계학술대회에서도 포스터 발표로 참여했다. 도메인 적응이라는 주제가 여전히 소수의 연구자들만 깊게 파고드는 영역임을 다시 느꼈지만, 그래서 오히려 발표 현장에서 만난 분들의 질문과 코멘트가 더 값지게 다가왔다. 작은 커뮤니티 속에서 같은 고민을 나누고 서로의 접근 방식을 비교할 수 있었던 것이 큰 배움이었다.

또한 내 연구를 설명하면서 스스로도 문제 설정과 방법론을 다시 정리할 수 있었고, 앞으로 어떤 방향으로 보완해야 할지 감을 잡을 수 있었다. 함께 준비해 준 연구실 동료들과 교수님 덕분에 무사히 발표를 마칠 수 있었음에 감사한 마음이 크다.

[발표 내용 및 후기]

주제: Semi-Supervised Domain Adaptation with Entropy-Guided Curriculum and Contrastive Learning

내 연구는 라벨이 부족한 타깃 도메인 데이터를 효과적으로 적응시키는 것을 목표로 한다. 단순한 pseudo-labeling 기반 접근은 불확실성이 큰 샘플에 취약하다는 점에 착안해, entropy 기반 curriculum learning을 통해 신뢰도가 높은 샘플부터 점진적으로 학습하도록 설계하였다.

여기에 contrastive learning을 추가하여 소스와 타깃 도메인 간 representation을 정렬하고, intra-domain에서도 클래스 간 분리도를 강화하였다. 그 결과 기존 baseline 대비 다양한 도메인 전환에서 성능이 안정적으로 향상되었음을 실험적으로 확인할 수 있었다.

질문 1: curriculum에서 entropy 대신 다른 기준도 고려해보았는지?

답변 1: confidence score 기반의 고정 threshold도 실험해봤지만, 데이터마다 난이도가 달라 잘 맞지 않았다. entropy는 샘플별 불확실성을 더 직접적으로 반영할 수 있다는 점에서 효과적이었다.

질문 2: pseudo-label 품질이 낮은 타깃 도메인에서는 성능이 많이 떨어지지는 않았는지?

답변 2: curriculum 구조 덕분에 초기에는 낮은 품질의 pseudo-label 영향을 최소화할 수 있었고, 이후 contrastive learning으로 표현 공간을 정렬하면서 성능 저하를 상당 부분 보완할 수 있었다.

[청취 후기]

1) 주제: Efficient Few-shot Adaptation of CLIP by Addressing Intra-modal Misalignment (이현세/동국대학교)

발표에서는 CLIP 모델이 갖는 한계, 특히 few-shot 분류 상황에서 발생하는 intra-modal misalignment 문제를 다루고 있었다. 동일 클래스의 샘플끼리도 거리가 멀게 형성되는 현상이 이미지-이미지 비교의 신뢰성을 떨어뜨린다는 점이 흥미로웠다. 이를 해결하기 위해, 이미지 임베딩을 텍스트 공간으로 정렬하여 inter-modal 비교 방식으로 few-shot 학습을 수행하는 아이디어가 제시되었다. CLIP의 강점을 살리면서도 실제 downstream task에서 겪는 한계를 구체적으로 짚어주어 이해하기 쉬웠다. 나 역시 도메인 적응 연구를 하고 있다 보니, 표현 공간의 정렬 문제를 해결하는 접근이 공통된 맥락에서 중요한 포인트라는 생각이 들었다.

2) 주제: MixSCon: Mixup-based Supervised Contrastive Learning for Histopathology Classification (백승준/광운대학교)

발표에서는 제한된 레이블 데이터와 세부 아형(subtype) 분류의 어려움이라는 병리 이미지 분석의 난제를 짚고, 이를 해결하기 위한 새로운 프레임워크 MixSCon을 제안했다. Supervised Contrastive Learning에 Mixup Augmentation을 결합하여 표현 공간에서 클래스 간 경계를 매끄럽게 형성하는 방식이 흥미로웠다. 특히 난소암 아형 분류나 EGFR 돌연변이 상태 분류 같은 실제 벤치마크에서 기존 기법보다 일관되게 성능을 개선했다는 점이 인상 깊었다. 발표를 들으며 데이터가 부족한 상황에서도 일반화 성능을 높이려는 시도가 병리학뿐만 아니라 다른 의료 영상 분석에도 확장 가능성이 있다는 생각이 들었다.