[학회 후기]

이번으로 4번째 참가하는 대한산업공학회였다. 신기하게 매번 학회 참가 소감이 다르다. 이번에는 Reinforcement Learning 관련 연구의 종류가 늘어남을 느낄 수 있었다. 하루의 일정이기 때문에 듣고 싶었던 발표가 겹쳐있어서 못들은 것에 대한 아쉬움이 크다. 또한 이번에 안건이, 이창현 연구원이 석사논문경진대회에서 수상을 하였다. 그들에게 이글을 빌어 다시 한번 축하한다고 말하고 싶다.

[발표 후기]

발표주제: Depthwise Separable Convolution 필터를 활용한 다중센서 데이터 특징추출

Convolution 필터는 이미지, 텍스트, 다중센서 데이터에서 우수한 성능을 보인다. 하지만 Convolution 필터는 파라미터를 비효율적으로 사용하여 특징을 추출하는 '구조적 한계'와 데이터 분석의 목적에 부족한 기능을 가지는 '기능적 한계'가 존재한다. 따라서 그동안 Depthwise Separable Convolution, Transposed Convolution, Dilated Convolution등으로 변형되어 한계를 극복하였다. 특히 Xception에서 사용된  Depthwise Separable Convolution 필터는 연산을 Depthwise 필터와 Pointwise 필터 두 종류로 나눔으로써 Convolution 연산에 사용되는 파라미터를 효율적을 사용하여 특징을 추출한다. 따라서 따라서 기존의 Convolution 필터의 '구조적 한계'를 극복한 예다. 이를 다중센서 데이터 분석에 사용하게 되면 시간의 특징을 추출하는 Depthwise 필터와 센서간 특징을 추출하는 Pointwise 필터로 나뉘어 독립적으로 특징을 추출한다. 파라미터를 효율적으로 사용하게 할 뿐만 아니라 필터의 이 특징을 그대로 활용하여 센서간 특징을 추출하는 Pointwise 필터에 Group Lasso를 사용하게되면 중요한 센서들을 선택할 수 있다.따라서 다중센서 데이터 분석에서 중요센서를 해석할 수 없던 Convolution 필터의 '기능적 한계'도 해결할 수 있게된다. 해당 아이디어를 검증하기위해 여러가지 다중센서 데이터를 사용하였다. 제안 필터로 선택된 센서만으로 분류한 정확도와 전체 센서를 사용한 분류 정확도가 더 좋거나 비슷함을 보여 제안 필터의 성능을 정량적으로 확인하였다.

질문1. 기존의 feature selection 방법으로 센서를 선택한 이후 CNN을 사용하여 결과를 확인하지 않은 이유?

기존의 센서 즉 feature selection 방법을 사용할 수 없는 이유는 현재의 데이터의 관측치는 time window로 이미지와 같은 Tensor 형태인대 기존의 Feature selection 방법은 이러한 관측치에 적용될 수 없기 때문이다.

질문2. Depthwise separable convolution 필터를 사용하지 않고 보통의 Convolution 필터를 사용한 Neural Network 모델의 Loss에 Group Lasso regularization을 사용할 수 없는가?

Depthwise separable convolution 필터에서 Group lasso를 사용할 수 있었던 이유는 해당 필터가 Convolution 필터의 연산을 두개의 연산(Depthwise, Pointwise)으로 factorize했기 때문이었다. 따라서 기존의 Convolution 필터에서는 Group lass로 센서선택을 한다는 것이 부적합하다.

[청취 후기]

- 셋업 코스트가 있는 병렬기계에서 CNN을 활용한 실시간 일정계획

해당 연구는 간트차트를 테트리스로 모델링하여 RL로 푸는 신선한 접근을 시도하였다. 기존의 scheduling 문제를 90도 회전시키면 해당 문제를 테트리스 문제처럼 보고 접근할 수 있고 따라서 테트리스 게임을 풀기위해 많이 사용되는 RL로 접근하여 해당 문제를 풀 수 있게 된다. 물론 이연구를 현실적으로 바라보았을때 굳이 이 보다 쉽고 효율적, 효과적인 모델링 방법이 있는대 테트리스로 접근하냐는 의문을 가질 수 있다. 또한 실제로 현업자가 이러한 질문을 하였다. 하지만 난 다른 생각을 가진다. 나에겐 정말 신선하고 재미있게 보인 연구였다. 이 연구자가 지금은 문제를 굉장히 단순화하여 RL로 풀었지만 이를 계속 시도하여 어려운 scheduling의 상황에서도 이와 같은 접근으로 해결가능하도록 연구를 발전시키길 응원하고 싶다.

- Recurrent Attention Model을 이용한 객체 탐지 방법론

해당 발표는 우리학교 백준걸 교수님 연구실 석박통합과정 1년차 학생의 발표였다. 1년차임에도 불구하고 최신의 object detection 방법론에 대하여 공부, 고민, 연구한 흔적이 보였다. 결과면에서는 부족한 부분이 이었던 발표였지만 그래도 불구하여 나에게 큰 자극제가 되었다.