Advanced Vision-Language-Action Models (Part 2): Training-Free Approaches for Efficient VLA
- 2026년 11월 5일 오후 2:53
- 조회수: 13
INFORMATION
- 2026년 11월 6일
- 오전 12시 ~
온라인 비디오 시청 (YouTube)
발표자:
이정민
이정민
TOPIC
Advanced Vision-Language-Action Models (Part 2): Training-Free Approaches for Efficient VLA
On-Line Video
OVERVIEW
요약: 시각 정보와 언어 정보를 효과적으로 활용하는 Vision-Language Models(VLM)의 발전에 이어 이를 통해 행동을 추론하는 Vision-Langauage-Action(VLA) 모델들이 각광을 받고 있다. 이러한 VLA 모델은 다양한 로봇 태스크에서 뛰어난 성능을 보이고 있다. 하지만 수행해야 하는 작업에 맞게 추가적인 학습이 필요하다는 측면에서 봤을 때 과연 이 모델들이 효율적인가 라는 문제가 제시되고 있다. 이번 세미나에서는 추가적인 학습이 없으면서(training free) 모델을 경량화하여 수행하고자 하는 작업에서 적절한 행동을 빠르게 추론하도록 함으로써 VLA 모델의 효율성을 개선하고자 하는 연구들에 대해 살펴보고자 한다.
참고자료:
[1] Zhang, D., Sun, J., Hu, C., Wu, X., Yuan, Z., Zhou, R., ... & Zhou, Q. (2025). Pure vision language action (vla) models: A comprehensive survey. arXiv preprint arXiv:2509.19012.
[2] Xu, S., Wang, Y., Xia, C., Zhu, D., Huang, T., & Xu, C. (2026). Vla-cache: Efficient vision-language-action manipulation via adaptive token caching. Advances in Neural Information Processing Systems, 38, 164448-164473.
[3] Yang, Y., Wang, Y., Wen, Z., Zhongwei, L., Zou, C., Zhang, Z., ... & Zhang, L. (2026). Efficientvla: Training-free acceleration and compression for vision-language-action models. Advances in Neural Information Processing Systems, 38, 40891-40914.
청취자 후기
김성수
이번 세미나는 VLA의 효율성을 향상시키는 방법론들을 소개한다. 첫번째 연구인 VLA-cache는 “정적인 정보를 굳이 계속 업데이트해야 할까?”라는 질문을 던진다. 이에 따라, 정적인 정보는 굳이 업데이트하지 않고 이전 값을 그대로 쓰는 전략을 활용한다. 이를 위해 이전 이미지와 패치 수준 유사도를 비교한다. 두번째 연구인 EfficientVLA는 기존 연구들이 추가적인 학습이 필요하거나, 특정 항목만 경량화하는 것을 지적한다. 이에 따라, 해당 연구는 VLA를 구성하는 Visual Encoder, Language Module, Action 모듈을 모두 경량화하고자 한다. 이때, Visual Encoder와 Language Module은 중복 정보가 많다는 것에 집중하며, 유사도를 기반으로 Pruning한다. 더불어 Diffusion 기반 Action Module은 모든 step을 밟는 것이 아닌, 특정 주기마다 업데이트하는 전략을 활용한다.
개인적으로 느꼈을 때, VLA스럽게 경량화 했기보다는 기존 경량화 전략들을 VLA에 잘 녹여 넣은 느낌이 들었다. 향후에는 이처럼 기존 전략을 잘 붙인 것보다 Action 모델에 특화된 경량화된 전략이 어떻게 나올지가 궁금해지는 세미나였다. 유익한 세미나를 준비해준 이정민 연구원님께 고맙다는 말을 전하며 세미나 후기를 마친다.