[학회 후기]

이번 ICIEA 2025 발표는 단순한 연구 공유 이상의 의미를 가졌다. 특히 영어로 연구 내용을 명확하고 자신감 있게 전달하는 역량의 중요성을 깊이 체감했다. 준비 과정에서는 충분히 연습했지만, 실제 무대에서는 긴장감이 끝까지 해소되지 않았고, 그로 인해 아쉬움이 남았다. 이를 계기로, 단순히 내용을 암기하는 데 그치지 않고, 어떤 상황에서도 침착하게 대응할 수 있는 영어 발표 능력을 길러야겠다는 다짐을 하게 되었다. 또한 학회에서 다양한 국적의 연구자들과 소통하면서, 연구를 보다 넓은 시각에서 바라볼 수 있었다. 준비 과정에서 얻은 성장과, 무대 위에서 경험한 긴장과 아쉬움 모두가 앞으로 나아가기 위한 소중한 밑거름이 될 것이다. 이번 경험을 바탕으로, 더 많은 무대에서 스스로를 발전시키고, 연구를 적극적으로 공유하는 연구자가 되고자 한다.

[발표 후기]

연합 학습은 데이터가 분산되어 있고 공유가 어려운 상황에서, 데이터를 가지고 있는 각 디바이스 혹은 클라이언트가 연합해 더 좋은 모델을 만들기 위한 학습 기법이다. 의료 영상 분석 모델을 만들기 위해, 여러 병원이 연합하는 것이 대표적인 사례에 해당한다. 그런데 이때 각 클라이언트가 가지고 있는 데이터가 지나치게 다르다면 연합학습 성능이 저하된다. 연합 학습의 목표에 해당하는 글로벌 모델 수렴성이 저하되고, 글로벌 모델 자체가 각 클라이언트에서 낼 수 있는 성능도 제한되기 때문이다. 이를 해결하기 위해서 글로벌 모델을 각 클라이언트에 개인화 시키는 방식을 개인화 연합학습이라고 한다. 본 발표는 이러한 개인화 연합 학습 방법론 중 parameter decoupling의 layer selection 문제를 동적으로 해결하기 위해 글로벌 모델과 레이어 모델 간 layer-wise mixture parameter를 도입한 BalFed 방법론에 대해서 진행되었다. 발표를 준비함에 있어 가장 고민이 되었던 것은 연합 학습이라는 다소 생소한 분야를 어떻게 소개할 것인가에 대한 부분이었다. 선배 연구원들에게 발표에 대해서 물었을 때에는 개요나 배경 지식은 빠르게 넘어가고 제안 방법론 소개에 비중을 두는 것이 좋다고 피드백 받았기에 더욱 고민이었다. 결국, 연합 학습에 대해서는 개괄적이고 개념적인 부분에 치중을 두어 설명을 하고 빠르게 넘어가기로 결정했다. 결과적으로는 제안 방법론 설명에 더 많은 시간을 쓸 수 있어 좋은 선택이었던 것 같다.

질문 1: 연합학습 상황에서 대형 모델을 학습하는 것이 가능한지?

답변 1: 일반적인 연합학습 상황에서는 소형 모델을 전제로 하나, 의료 분야와 같이 높은 정확도를 요구하는 경우에는 대형 모델을 사용하되 low rank adaptation과 같이 학습하는 파라미터 수를 줄이는 방법을 적용한다.

[청취 후기]

Open-Set Semi-Supervised Learning with Trainable Open-Set Probability Model for Image Classification

해당 발표는 기존 Semi-Supervised Learning(SSL) 방법론이 현실적인 open-set 환경에서는 성능이 저하된다는 문제를 지적하고, 이를 해결하기 위한 Open-Set Semi-Supervised Learning(OSSL) 접근법을 제시하였다. 특히, One-vs-All (OVA) 네트워크를 활용하여 클래스별 이상치 점수를 추정하고, 이를 분류기의 logit vector와 결합하여 OOD(Out-of-Distribution) sample을 탐지하는 방법은 참신하다고 느꼈다. 또한, 단순히 OOD sample을 제거하는 데 그치지 않고, open-set consistency regularization(OSCR) loss를 통해 unlabeled OOD sample까지 학습에 적극적으로 활용하고자 한 점이 인상 깊었다.

OSCR loss에 대해 gradient 분석을 통해 이론적 타당성을 명확히 설명하고, 실제 실험에서도 뛰어난 OOD detection 성능을 입증한 점이 발표의 신뢰도를 높여주었다. 특히 기존 SSL 방법론 대비 OSSL 문제 설정이 왜 중요한지에 대한 동기를 설득력 있게 설명하였고, 제안한 방법이 실제 상황에서 활용 가능성이 높다는 점을 실험적으로 보여준 것이 인상 깊었다. 전반적으로 현실적인 데이터 상황을 고려한 문제 설정과 이를 해결하기 위한 체계적인 연구가 돋보였으며, OSSL 분야에서 의미 있는 기여를 하고 있다는 인상을 받았다. 앞으로의 연구 결과도 기대된다.