“AI 멈추자” 외친 빅테크들…뒤에선 ‘IPO·돈 계산’ 따로 있었다

[헤럴드경제=서지연 기자] “인류를 위해 인공지능(AI) 개발 속도를 늦추자.”

최근 앤트로픽과 오픈AI 등 주요 AI 기업 수장들이 잇따라 ‘AI 속도조절론’을 꺼내 들었다. AI가 인간의 통제를 벗어날 수 있는 만큼 안전장치가 마련될 때까지 최첨단 모델 개발 속도를 늦춰야 한다는 주장이다. 그러나 그 이면에는 천문학적인 개발비를 줄이고 기업공개(IPO)를 앞두고 재무구조를 개선하는 동시에 후발주자의 추격까지 막을 수 있다는 복잡한 이해관계가 깔려 있다는 분석이 나온다.

14일(현지시간) 월스트리트저널(WSJ)은 최근 AI 업계의 상황을 두고 “돈과 안전의 충돌이 AI에 엄청난 위기를 초래했다”며 과학적 진보와 도덕적 의무, 경제적 유인이 복잡하게 얽혀 있다고 진단했다.

속도조절론에 가장 적극적인 인물은 다리오 아모데이 앤트로픽 최고경영자(CEO)다. 그는 AI가 인간의 도움 없이 스스로 능력을 발전시키는 ‘재귀적 자기개선’ 단계에 근접했다며 정부 규제를 통한 개발 속도 조절을 주장하고 있다.

샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 허사비스 구글 최고과학자, 무스타파 술레이만 마이크로소프트(MS) AI CEO 등도 AI 위험을 경고하며 속도조절 필요성에 잇따라 목소리를 보탰다.

하지만 미 행정부 내부에서는 이들의 주장에 순수한 안전 우려 외에 사업적 이해관계가 깔려 있다는 비판이 제기됐다.

데이비드 색스 백악관 AI·가상자산 담당자는 “공개되지 않은 모델이 너무 위협적이라 속도를 늦춰야 한다고 생각한다면 책임감 있는 결정을 내린 여러분을 지지한다”면서도 “속도를 늦추려는 동기가 이타적이라고 가장하는 것은 그만두라”고 비판했다.

그는 “초지능을 개발하지 않는 가장 쉬운 방법은 여러분이 이를 개발하지 않기로 합의하는 것”이라며 기업들이 정부에 규제를 요구하면서 자신들에게 유리한 규제 체계를 만들려 한다고 지적했다.

실제로 AI 개발 속도가 늦춰지면 현재 시장을 장악한 기업들은 적지 않은 경제적 이익을 얻을 수 있다. 새로운 AI 모델을 훈련하는 데 들어가는 막대한 반도체와 데이터센터, 전력 비용을 줄일 수 있는 반면 이미 출시한 모델에서는 계속 매출을 올릴 수 있기 때문이다.

특히 IPO를 준비하는 기업에는 비용 감소가 실적 개선으로 이어질 수 있다.

현재 앤트로픽은 속도조절론을 가장 먼저 제기했지만 연내 상장 절차를 마무리한다는 계획을 유지하고 있다. 앤트로픽 측은 상장기업이 되면 오히려 경영 투명성이 높아질 수 있다는 입장이다.

반면 올트먼 CEO는 AI 안전을 이유로 오픈AI의 IPO를 내년으로 미루겠다는 입장을 밝혔다. 하지만 뉴욕타임스(NYT)는 지난 6월 오픈AI가 기대했던 1조달러의 기업가치를 인정받기 어려울 수 있다는 이유로 이미 상장 연기를 검토하고 있었다고 보도한 바 있다.

규제가 기존 선두 기업의 시장 지배력을 강화하는 ‘규제 포획’으로 이어질 수 있다는 우려도 나온다. 현재 AI 시장을 주도하는 기업들이 안전 기준을 만드는 과정에 영향력을 행사하면 막대한 규제 준수 비용을 감당하기 어려운 신생 기업이나 오픈소스 AI 업체의 시장 진입이 어려워질 수 있어서다.

미·중 AI 패권 경쟁도 속도조절론의 현실성을 떨어뜨리는 요인이다. 미국 기업들이 개발을 늦추는 동안 중국 기업들이 추격을 계속할 경우 미국이 AI 주도권을 잃을 수 있다는 우려다.

도널드 트럼프 미국 대통령도 AI와 데이터센터를 겨냥한 속도조절 움직임을 “역겨운 음모”라고 비판하며 “이를 기뻐할 유일한 나라는 중국”이라고 주장했다.

중국의 문샷AI와 딥시크, 알리바바 등은 최근 미국 최상위 AI 모델과의 기술 격차를 빠르게 좁히고 있다. 아모데이 CEO 역시 중국 등 경쟁국이 속도 조절에 동참하지 않을 가능성을 인정하고 있다.

속도조절론의 출발점인 ‘AI 파멸론’ 자체를 둘러싸고도 학계의 의견은 크게 엇갈린다. AI가 인류 멸망으로 이어질 가능성을 의미하는 이른바 ‘p(doom)’에 대해 로만 얌폴스키 루이빌대 교수는 99.99%로 추정하는 반면 ‘AI 대부’로 불리는 얀 르쿤 뉴욕대 교수는 0.01% 미만으로 보고 있다. 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수는 10~20% 수준을 제시한다.

르쿤 교수는 이 같은 멸망 확률에 대해 “추정치 자체가 근거 없이 지어낸 것”이라고 비판해왔다.

AI 기업들이 한목소리로 ‘안전’을 강조하고 있지만 개발 속도를 늦출 경우 비용 절감과 실적 개선, 경쟁자 견제라는 실익도 동시에 얻을 수 있는 셈이다. AI 안전을 둘러싼 논쟁이 기술적 위험을 넘어 기업들의 IPO와 시장 주도권, 미·중 패권 경쟁이 얽힌 이해관계 싸움으로 번지고 있다.