- 2020년 11월 16일 오전 11:04
- 조회수: 426
조 억
[발표 후기] 모수 기반 트레이닝과 밴딧 알고리즘을 이용한 강건한 하이퍼 파라미터 최적화 기법
석사로 들어와서 처음 학생자격으로 내부가 아닌 외부에서 발표하는 자리여서 더 의미를 부여하고 준비를 많이 했던 것 같다. 개인 연구를 통해 엘레베이터 환경에서의 멀티 에이전트 연구를 하다가 두번째로 선택한 연구였고 아예 처음부터 새로이 하나씩 뭔가 가설을 세우고 시작했던 진짜 나의 첫 연구였다. 지난 주말에 머리속에 그려왔던 실험을 구체화했고 반복실험을 통해 유의미한 실험 결과를 얻어내고 확신과 자신감을 가지고 발표를 할 수 있었다. 연구 시작을 하게 된 기억을 떠올리면서 배경에서부터 기존 연구에 대한 설명을 하였다. 관련 아이디어를 설명하면서 밴딧 알고리즘 설명을 너무 간단히 하고 넘어갔나 싶었지만 많은 선배님들의 피드백을 받아 재탄생한 쉬운 장표들이 그 갭을 매꿨을거라 위안하었다. 좋은 경험이었고 다른 자리에서 또 발표하는 날을 기대하며 후기를 마친다.
[발표 후기] Multi Window Map 기반 Convolution LSTM을 활용한 시계열 예측
최근에 다변량 변수를 취하는 시계열 분석 모델에서 타임 윈도우를 고정된 길이로 주고 학습을 해보고 있었는데 이 논문에서는 고정된 타임 윈도우가 아닌 가질 수 있는 상한/하한을 주고 그 안에서 모든 케이스의 타임 윈도우를 맵으로 만들어서 convolution 으로 맵에서 시계열 패턴을 추출해서 LSTM을 사용하는 방법의 새로운 아키텍쳐를 제시하였다. 다변량 시계열 분석에서 깃헙에 인기가 있어서 보고 있던 Temporal Attention Pattern 아키텍쳐만 고수해서 문제를 풀려고 했는데 이 아키텍쳐에 인사이트를 얻어서 새로운 모델을 만들어봐야겠다고 생각이 들었다.
[발표 후기] Deep Learning based Audio Classification for Product Design
용원이의 발표는 바로 나의 다음 발표였다. 회사에서 진행할려고 하는 것이 시계열 데이터로 이미지로 매핑해서 하여서 예측할려고 했었는데 유사한 접근을 음성 데이터에 접목한 시도가 있어서 흥미롭게 들었다 Mel spoectrogram과 MFCC 데이터라고 석호 연구를 통해 들었던 개념이라 잘 이해가 되었고, 레이블이 없는 데이터의 경우 합성곱 인코더를 활용하여 소음을 잘 이해할수 있는 인코더를 전이해서 분류 성능을 더 극대화하여 나은 결과까지 설명을 깔끔히 해준 용원이에게 감사했고 잘 될까 의문이 있었던 전이 학습에 대해서도 좋은 결과떄문인지 나중에 나도 써봐야겠다 생각이 들었다.