1. 2026년 ICLR학회는 브라질 리우데자네이루에서 열렸다. 남미에서 열리는 학회는 흔치 않은 데다, 나 역시 아직 남미를 한 번도 가보지 못했기에 오랜 전부터 기대가 컸다.  

2. 이번 학회에는 총 19,525편의 논문이 제출되었고, 그중 27%만이 채택되었다. 우리 연구실에서는 강화학습 분야로 한편의 논문을 발표하였다.

3. 학회장인 Riocentro 컨벤션 센터는 규모가 매우 컸다. 다른 학회에서는 포스터 세션 공간이 늘 다소 비좁게 느껴졌는데, 이번에는 여유 공간이 충분해 훨씬 쾌적하게 포스터를 둘러볼 수 있었다.

4. 2024년 ICLR의 주요 키워드가 LLM이었다면, 2년이 지난 이번 학회의 키워드는 단연 agent인 것 같다. 아마 내년이나 후년쯤에는 physical AI가 새로운 중심 키워드로 떠오르지 않을까 예상해 본다.

5. 물리 모델의 한계를 극복하기 위해 등장한 AI가 이제는 물리 모델과의 협력 없이는 더 이상 충분하지 않다는 사실을 깨닫고 있는 듯하다. Physics-based AI에 대한 연구도 더욱 활발해지고 있다.

6. 알파고 이후 강화학습이 다시 제2의 전성기를 맞이하는 것 같다. 그도 그럴 것이 강화학습은 LLM, agent, physical AI 모두에 필수적인 요소다. 이와 더불어 diffusion models, domain adaptation/generalization, vision-language models, time-series models 등 우리 연구실에서 활발히 연구하고 있는 분야에서 많이 발표 되었다.

7. On-line 강화학습의 가장 큰 걸림돌은 늘 시뮬레이터의 확보였는데, 이제는 이를 world model로 대체하려는 시도가 본격화되고 있다. 이것이 가능해진다면 강화학습 연구는 한층 더 큰 동력을 얻게 될 것이다.

8. 현재 AI가 주로 정적인 데이터셋으로부터 학습한다면, 앞으로의 AI는 현실을 흉내 낸 환경으로부터 학습하게 될 것이다.

9. 결국 AI 연구의 궁극적인 목표는 진정한 foundation model을 만드는 데 있지 않을까 싶다. 현재는 vision, language, vision-language, time series 등 각 영역 별 foundation model이 활발히 연구되고 있지만, 머지않아 이 모든 것을 하나의 모델로 해결하는 날이 올지도 모른다. ChatGPT, Claude, Gemini 등 주요 모델들이 선두를 엎치락뒤치락하며 빠른 속도로 그 목표에 다가가고 있다.

10. 이번 학회를 통해 우리 연구실뿐 아니라 내가 가르쳤던 학부생들 가운데 적지 않은 이들이 학계에 진출해 활발히 활동하고 있었다. 이제 나의 역할도 조금씩 달라져야 할 것 같다. 나 자신의 성장보다는, 이들이 더 잘 성장할 수 있도록 최대한 돕는 것이 앞으로의 중요한 나의 역할이 아닐까 생각한다.