2022년 말 등장한 생성형 AI(인공지능)라는 생소했던 단어가 우리 생활을 지배하는 데는 불과 3년도 걸리지 않았다. 인류 역사상 그 어떤 기술보다도 빠르게 우리의 일상과 일터에 파고들었다. 그 이유는 아마 ‘편리함’에 있을 것이다.

몇 줄의 문장만 입력하면 보고서 초안을 만들어 주고 그 복잡하던 코딩도 간단하게 작성해 주며, 그림과 영상도 금방 만들어 준다. 자료를 검색하고 복잡한 자료를 분석하는 데 걸리는 시간이 압도적으로 줄어들었고 업무 효율성은 눈에 띄게 향상됐다.

조금씩 윤곽을 드러내고 있는 AI 에이전트는 개인의 일정과 업무를 대신 처리하는 수준까지 발전할 것이며, 우리는 지금 상상하기 어려운 수준의 편리함을 누리게 될지도 모른다.

그런데 이렇게 편리한 AI 기술을 직접 개발하고 있는 사람들 사이에서 AI에 대한 경계의 목소리가 나오고 있다.

최근 앤트로픽(Anthropic)을 퇴사한 제이컵 콕슨이 X를 통해 남긴 말은 우리에게 많은 생각을 하게 한다. 그는 “업계의 최신 시스템이 조만간 해킹과 자율적인 자원 확보 능력을 갖춘 초인적 수준에 도달할 것이며, 내년 말쯤에는 상황이 완전히 인간의 통제를 벗어날 수 있다”고 경고하고 있다.

또 그는“이 기술의 위력을 과소평가하지 말라”며 “AI를 개발하는 사람들은 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿는다”고 말했다. 물론 개인의 의견이며 과도한 비관론이라고도 할 수 있으나, AI 개발 현장에 있었던 연구자가 직접 통제 불가능한 AI 시스템 개발 경쟁에 대한 우려가 회사를 떠난 이유라고 밝혔으니 AI 기술을 상세히 모르는 외부 인사의 발언보다는 무게가 있을 것이다.

AI 기업의 최고경영자들도 이전부터 안전 문제를 적극적으로 언급하고 있었으며, 오픈AI의 대표인 샘 올트먼이 보여준 행보는 더욱 의미심장하다. 그는 9월 12일 인터뷰에서 “2026년에는 오픈AI의 기업공개(IPO)를 추진하지 않겠다”고 밝혔다.

그 이유는 지금과 같이 AI의 안전 문제가 제기되는 상황에서 상장하는 것은 적절하지 않다는 것이다. 경영학적인 측면에서 보면, 상장을 통해 얻을 수 있는 대규모 자금조달과 기업가치를 제고할 기회를 스스로 미루겠다는 선언인 것이다. 특히 AI 버블론이 대두되며 수익성에 대한 불안이 해소되지 않은 현시점에서는 선뜻 내리기 어려운 결단으로 평가된다.

물론 이러한 움직임이 곧바로 AI가 인류를 위협하게 될 것이라는 예언으로 받아들일 필요는 없다. AI의 위험성을 지나치게 강조하는 주장에는 논쟁의 여지가 많을 뿐만 아니라, 인류가 지금까지 새로운 기술을 받아들이는 과정에서 과도한 우려가 제기된 것도 처음이 아니기 때문이다. 하지만 여기서 한 번은 짚고 넘어가고 싶은 문제가 있다. 그것은 바로 우리는 AI가 가져올 ‘편리함’에 대해 그에 따르는 ‘대가’를 치를 준비가 과연 되어 있는가 하는 점이다.

AI의 발전으로 인해 우리 생활은 더욱 편리해지겠지만, 우리가 감수해야 할 위험도 함께 커질 수 있다. 특히 기술 발전의 속도가 인간의 통제와 안전장치를 앞서가기 시작한다면 편리함은 더 이상 무조건적인 축복일 수 없다. 이제는 AI의 편리성만 추구할 것이 아니라 우리가 AI를 어디까지 통제할 수 있는지 함께 고민해야 할 때이다.

김양팽 산업연구원 경제안보통 상연구실 전문연구원


joze@heraldcorp.com