이정민

이번 세미나는 federated learning과 open set recognition 문제 상황을 결합한 연구 흐름에 대해 소개해주었다. Server와 client 사이에서 통신이 이루어지면서, 결국 최종적으로 하고자 하는 task는 모델 학습할 때 보지 못했던 class가 평가할 때 나타나는 것을 잘 탐지하고자 하는 것이다.
먼저 FedOS는 해당 문제 상황을 처음으로 해결하고자 한 연구로, 크게 복잡하지는 않다. Tiny ImageNet으로 사전 학습된 GAN 모델을 통해 그럴싸한 unknown 데이터들을 생성하고, 이를 모델 학습 과정에 포함시켜서 평가할 때 나타날 수 있는 unknown 데이터를 잘 구분하도록 하는 방식이다.
FedPD는 closed-set과 open-set에 관여하는 파라미터를 분리하는 것이 가장 큰 특징이다. 기준이 되는 client를 정해서 다른 client와 파라미터 유사도를 통해 그것들을 정렬한 후, server와 통신 시 올바르게 집계하도록 하는 것이다. 이 부분에서는 기준이 되는 client를 어떻게 정하는지 한 번 논문을 찾아봐야 될 것 같다. 그리고 아마 FedOS와 비슷한 시기에 나와 FedOS와의 실험적 비교는 이루어지지 않았는데 이 둘의 비교도 어떻게 될지 궁금해졌다.
마지막으로 FedOSS는 각 class 분포에서 가장 멀리 떨어진 데이터들을 인위적으로 그럴듯한 unknown 샘플로 바꾸고, 그것들을 가우시안 분포에 fitting 시킨 후 다시 샘플링함으로써 다양한 unknown 데이터들을 만드는 것이 큰 특징이다. 의료 데이터에 대해서만 실험이 진행되었는데, 방법론 특징 자체가 의료 데이터에만 국한되는 것이 아니기 때문에 다른 데이터에서도 성능을 도출해 볼 필요가 있는 것 같다.
해당 분야는 이제 막 활발하게 진행되고 있는 느낌이다. 그 만큼, 발전시킬 여지는 많은 것 같다. 다빈이가 해당 분야에 대해 연구를 시작하였는데, 좋은 개선점을 통해 연구를 잘 진행했으면 하는 바람이다. 좋은 세미나를 준비하느라 고생한 다빈이에게 고맙다는 말을 전하며, 본 세미나 후기를 마친다.