AI를 연구하는 입장에서 필요성과 장점에 대해서만 생각해 보았지, AI 로부터 발생할 우려점에 대해서는 진지하게 고민해 볼 기회가 없었다. 잠시 고민해 본 결과를 글로 남긴다. 얼마 전, 우리나라 과학기술정보통신부 장관이 대표로 참석한 프랑스 파리 ‘AI Action Summit’ 관련 기사를 읽었다. 이 회의에서는 AI의 윤리적 문제와 위험성 등 주요 이슈가 논의되었을 것으로 보이지만, 과연 구체적인 실행 방안까지 다루어졌을지는 의문이 들었다. 대체로 이러한 정상회의에서는 AI의 방향성과 윤리적 고민을 강조하는 담론 중심의 논의가 이루어지는 경우가 많다. 물론 이러한 논의 자체가 의미 없는 것은 아니지만, 실질적인 해결책이나 정책적 실행으로 이어질지는 불확실하다. 그럼에도 불구하고, 저명한 인사들이 지속적으로 AI의 부작용에 대해 논의하는 것은 중요한 의미가 있다고 생각한다.

사실 요즘 AI를 둘러싼 흐름을 보면, 과연 이 기술이 인류 발전을 위한 것인지, 아니면 단순한 경쟁의 산물인지 고민하게 된다. 역사를 돌이켜보면, 핵심 기술들이 발전한 배경에는 인류의 이익보다 경쟁 심리가 더 큰 역할을 했다. 개인 간 경쟁, 기업 간 경쟁, 국가 간 경쟁, 체제 경쟁, 종교 간 경쟁—이러한 이유로 기술이 개발되어 왔지, 진정 인간을 위한 개발이었는지에 대해서는 깊이 생각해본 적이 거의 없다.

자동차, 핵, 인터넷, 스마트폰과 같은 기술들도 인류의 삶을 편리하게 만든 측면이 있지만, 그 과정에서 부작용과 사회적 문제들도 함께 발생했다. AI도 마찬가지다. AI는 인간의 정신적 노동을 대체하며 많은 긍정적인 영향을 미칠 수 있지만, 동시에 우리가 상상조차 못한 부작용과 폐해를 초래할 가능성도 크다. 최악의 경우, 공상과학 영화에서 보던 AI가 인간을 지배하는 세상이 현실이 될 수도 있고, AI의 오남용으로 인해 인류가 오히려 피폐해질 수도 있다. 원래는 AI를 통해 인류의 번영을 도모하려 했던 것인데, 그 결과가 정반대로 나타날 수도 있다는 것이다.

단순히 경쟁적으로 AI를 개발하는 것이 정말 옳은 방향인지 돌아볼 필요가 있는 시점이다. 요즘 대학들도 AI 관련 연구와 성과를 내세우며 랭킹 경쟁을 하고, 기업들은 경쟁사보다 우위를 점하기 위해 AI를 도입하며, 국가 간 AI 기술 패권 경쟁도 심화되고 있다. "중국이 어떤 AI 기술을 개발했다", "미국이 AI 분야에서 어떤 성과를 냈다" 같은 뉴스들이 쏟아지는 상황에서, 정작 우리는 AI를 왜 개발하는지, 무엇을 위해 활용해야 하는지를 깊이 고민하지 않고 있는 것은 아닌가? AI를 무작정 발전시키는 것이 아니라, 어떻게 하면 AI를 인류와 사회를 위해 지속 가능하게 활용할 것인지를 더 진지하게 논의해야 할 때인 것 같다.

As a researcher of AI, I have thought about the necessity and benefits of AI, but I have not had a chance to seriously think about the concerns that arise from AI. Here are my thoughts. I read an article about the 'AI Action Summit' in Paris, France, which was attended by the Minister of Science and ICT of South Korea. In general, these summits tend to be discourse-driven discussions that emphasize the direction of AI and ethical concerns. While these discussions are not without merit, it is unclear whether they will lead to practical solutions or policy implementation. Nevertheless, I think it is important that prominent figures continue to discuss the adverse effects of AI.

In fact, the current buzz around AI makes me wonder if this technology is for the betterment of humanity or simply a product of competition. If we look back at history, the development of key technologies has been driven more by competition than by the good of humanity. Competition between individuals, competition between companies, competition between nations, competition between regimes, competition between religions - we rarely stop to think about whether or not the development of these technologies was truly for the good of humanity.

Technologies like the automobile, nuclear power, the internet, and smartphones have made life easier for humans, but they have also created side effects and social problems along the way. The same is true for AI. AI can replace human mental labor and have many positive impacts, but it also has the potential to cause side effects and disruptions that we can't even imagine.

In the worst case scenario, the world we see in science fiction movies could become a reality, or AI could be misused to the detriment of humanity. The idea is that AI is meant to help humanity thrive, but it can also have the opposite effect.

So we need to think about this a little bit more deeply, and ask ourselves if we are really on the right track by simply developing AI competitively. Nowadays, universities are competing for rankings with AI-related research and achievements, companies are adopting AI to gain an edge over their competitors, and countries are competing for AI technology supremacy.

With all the news about “what AI technology China has developed” and “what the U.S. has achieved in the AI field,” I wonder if we are not thinking deeply about why we are developing AI and what we should utilize it for. I believe that sustainability of AI is the most important key consideration, and it is time to have a more serious discussion about how to use AI sustainably for the benefit of humanity and society, rather than just developing AI for the sake of it.

Seoung Bum Kim. All Rights Reserved. No part of this document may be cited or reproduced without permission.