2021 대한산업공학회 추계학술대회 - 임새린

[학회후기]

발표자로 처음 2021년 대한산업공학회 추계학술대회에 참가하게 되었다. 첫 학회 발표라 긴장도 되었지만 오전 9시에 시작하는 첫 세션이라 정신없이 지나간 느낌이 있다. 다행히 같은 세션에 진혁이형과 은성이가 있어서 편하게 임할 수 있었다.

처음 발표를 진행해보면서 다른 사람들에게 내가 하는 연구를 설명하고 납득시키는 것이 어렵다는 것도 느꼈고 새로운 사람들에게 받은 피드백이 신선하게 다가왔다. 발표가 끝난 후에는 흥미있어 보이는 세션을 찾아다녔다.

오전 타임에는 일반화 성능 개선을 위한 전이 학습의 종류 미 연구 동향이라는 주제의 튜토리얼을 들었는데 개인 연구 발표가 아닌 세미나 형식의 강의였다. 전이학습의 개념과 전체적인 연구 흐름을 파악할 수 있어 좋았다.

오후 타임에는 다른 사람들은 연구를 어떻게 진행하는지 둘러보며 앞으로의 연구 방향을 생각해 볼 수 있었다.

[발표후기]

이번 학회에서는 웨어러블 디바이스의 다양한 센서에서 나오는 다중 시그널을 Human Activity Recognition 분야에서 효율적으로 처리할 수 있고 설명이 가능한 제안 방법론에 대해 발표를 하게 되었다. 

기존 연구에 대한 문제점으로 복잡한 모델구조와 설명이 불가능하다는 점과 사람간의 편차를 발견했고 이를 해결하기 위해 트랜스포머 기반 자가지도 학습 방법론을 제안했다. 

아쉽게도 비교 모델로 사용된 베이스라인보다 제안방법론의 모델구조가 지도학습에 대해서 성능이 좋지 않지만 이에 대한 원인 분석을 진행했고 이 원인 분석을 바탕으로 향후실험을 계획했다.

첫 학회 발표라 떨리기도 했지만 좌장을 맡았던 교수님이 좋은 말을 많이 해주셔서 무사히 마무리 할 수 있었다. 질문으로는 각 시그널에 대한 교호작용을 어떻게 파악할 수 있느냐는 것이 있었다.

이에 대해 단순히 어텐션 스코어와 시각화로만 생각하고 있었는데 좀 더 정교한 평가지표가 도입될 필요가 있음을 배울수 있었다. 그리고 다른 분야, 예를들어 제조과정에서의 다중 시그널에도 적용해보면 실제로 많은 도움이 될 것이라는 조언도 받게 되었다.

이번 학회를 통해서 현재 진행 중인 연구를 정리하고 다시 한 번 생각해 볼 수 있었으며 새로운 피드백을 받게 되어 향후 연구에 큰 도움이 될 것같다.

[청취후기]

일반화 성능 개선을 위한 전이 학습의 종류 및 연구 동향(윤현수)

해당 튜토리얼은 전이 학습에 대한 정의와 필요성, 종류 그리고 최근 연구 동향을 연세대학교의 윤현수 교수님이 발표해 주었다. 전이학습이 나오게된 계기로는 CNN의 layer 층별로 각각 엣지, 텍스처, 패턴 등이 순차적으로 학습된다는 것을 발견한 것이다. 각각의 특징을 학습한 layer를 가져와 사용하자는 동기로 전이학습이 등장했다.

전이학습은 데이터셋이 적은 경우, 머신러닝의 강건성이 필요할 경우에 사용될 수 있으며 최근 모델의 개인화 및 전문화 이슈 그리고 개인정보 및 데이터에 대한 보호 이슈를 해결하기 위한 좋은 선택지이다.

이 튜토리얼을 통해서 전이학습에 대해 깊이 이해할 수 있게 되었고 앞으로의 프로젝트나 연구에 있어서 큰 도움이 될 것이다.

다중 감성분석을 위한 감각영역 통합 형태의 파라미터 전달 방법(김동화)

해당 연구는 멀티모달 감성분석을 위한 큰 사이즈의 사전학습된 모델들을 디스틸레이션 방법을 통해 모델을 경량화하고 성능을 끌어올린 연구이다.

기존 감성분석은 주로 텍스트를 통해 이루어 지지만 이는 비꼬는 말이나 단순한 감탄사와 같이 문맥적 상황이나 말투를 필요로 하는 상황에서는 한계가 있다.

이에 음성까지 같이 사용하는 멀티모달로 기존 연구가 진행되어 왔고, wav2vec과 BERT 등 큰 사이즈의 사전학습된 모델들이 각각의 인코더로 이용되었다.

해당 연구에서는 이런 큰 사이즈의 모델들을 경량화 하기 위해서 디스틸레이션 방법론을 통해 작은 사이즈의 트랜스포머로 인코더를 줄였다.

연구 결과도 흥미로웠는데 디스틸레이션을 한 모델의 성능이 기존 모델들보다 성능이 좋았으며 반복실험에 대해 표준편차가 크게 줄어들어 강건한 성능을 보였다.