범용인공지능(AGI)을 먼저 개발하겠다며 경쟁해온 세계 주요 AI 기업 수장들이 이례적으로 속도조절에 한목소리를 내고 있다. 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 12일(현지시간) 자신의 블로그에 올린 글에서 “프런티어 AI 개발 속도를 조절해야 한다”고 밝히자 샘 올트먼 오픈AI CEO가 동조했고, 일론 머스크와 데미스 허사비스 구글 딥마인드 회장도 뜻을 같이했다. AI가 인간의 지능을 넘어설 가능성이 커지면서 개발 속도가 인간의 이해와 통제 능력을 앞지를 수 있다는 우려 때문이다. 실제로 AI 에이전트가 허깅페이스를 해킹하는 사례까지 나오면서 AI 통제 문제가 막연한 미래 일이 아니게 됐다.

아모데이 CEO가 문제 삼은 것은 AI가 스스로 차세대 AI를 만드는 ‘재귀적 자기 개선(RSI)’이다. 이 능력이 발전하면 AI의 발전 속도가 인간의 통제 능력을 넘어설 수 있다는 것이다. 앞으로 6~12개월 안에 AI 에이전트들이 결합해 막대한 피해를 줄 가능성이 있다고도 했다. 개발 속도를 늦춰 통제 기술을 고도화하고, 공통 안전 기준과 국제 협력을 마련해야 한다는 게 그의 제안이다. 자사의 주도권을 지키려는 것 아니냐는 의심도 있지만, 최근 기술 발전 속도를 보면 가볍게 넘길 경고가 아니다.

AI 기술 경쟁은 미래의 경제·안보·국가 주도권을 좌우하는 패권 경쟁이다. 미국과 중국이 사활을 거는 이유다. 한쪽이 멈추면 다른 쪽이 앞서갈 수 있어 먼저 속도를 늦추기도 어렵다. 아일랜드를 방문중인 도널드 트럼프 미국 대통령이 속도조절론에 못마땅해 한 것도 그래서다. 그는 “우리는 AI에서 중국을 앞서고 있다. 그 상태를 계속 유지하고 싶다”며 “AI에서 승리하는 자가 승리한다”고 했다. 안전장치는 마련할 수 있지만 중국과의 경쟁에서 개발 속도를 늦출 수는 없다는 것이다. 중국 측에선 미국에서 제기된 AI 속도조절론에 ‘고도의 마케팅’ 아니냐는 의심까지 나온다.

그렇다고 눈앞에 닥친 AI 위험을 외면할 일이 아니다. 상대국이 어떤 수준의 AI를 개발하고 있는지 정확히 확인하기 어렵고, 민간 기업의 경쟁을 국가 간 협약만으로 묶기는 쉽지 않다. 그래도 고위험 AI에 대한 평가·검증과 사고 발생 시 공동 대응 등 국제적 안전기준 마련이 필요하다. 한국도 이런 국제 논의에 적극 참여해야 한다. 다만 안전을 이유로 기술 개발이 뒤처져서는 안 된다. 한국은 미국과 중국에 비해 AI 기술력에서 아직 큰 격차가 있다. AI 인재와 컴퓨팅 인프라, 데이터와 핵심 기술에 대한 투자를 늘려 스스로 AI를 개발하고 통제할 능력을 키워야 한다. 먼저 기술을 확보하는 것이 AI 시대의 안전과 주권을 지키는 길이다.