“AI 속도조절 희망” 오픈AI 최고과학자 깜짝 주장…자사 보고서와 ‘상반’

[헤럴드경제=이원율 기자]챗GPT 개발사 오픈AI의 최고 과학자가 인공지능(AI) 기술 개발에 대한 업계 전반의 속도 조절 필요성을 깜짝 주장했다.

야쿠프 파호츠키 오픈AI 최고 과학자가 6일(현지시간) 오픈AI 홈페이지에 올린 ‘외계의 지성’(An Alien Mind) 기고문에서 “기계 지능이 계속해 급속도로 발전할시 초래될 결과를 아무도 대비하지 않고 있다”고 했다고 연합뉴스는 전했다.

그는 현대의 AI가 “설계되는(designed) 것이라기보다는 재배되는(grown) 것”이라고 밝혔다. 인간이 맞춘 설계도를 따라 제작되는 게 아니라, 일종의 생물처럼 자라나고 있기에 완전한 통제가 어렵다는 이야기다.

그는 AI 개발을 계속해야 방어 체계를 만들 수 있다는 AI업계의 주장을 놓곤 “무모한 행동을 정당화하는 구실로 삼으면 안 된다”고 했다. 그러면서 AI가 인간에게 위협이 되는 행동을 거부하는 ‘정렬’ 문제를 충분히 해결한 연구소가 아직 한 곳도 없다며 “공동의 안전장치가 마련될 때까지 자발적인 속도 조절이 일반화하기를 기대하고 희망한다”고 했다.

샘 올트먼 최고경영자(CEO)는 파호츠키 최고 과학자의 글을 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 인용하며 “중요한 글”이라고 했다.

다만, 오픈AI가 이날 별도로 낸 ‘연구 가속화’ 보고서는 다소 상반된 내용을 담고 있다. 오픈AI는 이 보고서에서 자체 AI 개선과 코딩을 수행하는 ‘자동화 AI 연구 인턴’이라는 목표를 달성했으며, 2028년 3월까지 이를 개선해 ‘자동화 AI 연구원’을 개발하겠다는 목표를 제시했다.

보고서는 이러한 자동화 AI 연구가 외려 ‘정렬’ 문제 해결에 도움이 될 수 있다고도 주장했다. 다만 “그렇다고 (AI의)빠른 ‘반복적 자가개선’(RSI)이 반드시 추구해야 할 내용이라는 뜻은 아니다”라며 “이를 추진할지와 그 방식은 민주적 선택에 달려 있어야 한다”고도 했다.

한편 최근 미국 정치권에서는 초지능 AI를 영구적으로 금지하는 법안 발의 예고도 나왔다.

미국 온라인 매체 악시오스에 따르면 미국 진보 진영의 대부 격인 버니 샌더스(무소속·버몬트) 연방 상원의원은 초지능의 개발과 이용을 금지하고, AI의 능력을 감시하고 잠재적인 위험을 파악할 정부 기관이 세워질 때까지 최첨단 AI 모델 개발을 중단하도록 하는 내용의 법안을 준비하고 있다.

샌더스 의원은 인간을 뛰어넘는 인지 능력을 갖춘 AI를 초지능 AI로 규정했다.

그는 엑스에 올린 글에서 “극도로 위험한 기술에 대한 통제력을 잃고 있다고 주요 AI 기업의 지도자들이 인정한다면, 이들이 제품을 더욱 발전시키도록 허용하는 건 무책임한 일”이라며 “우리는 첨단 AI 개발을 즉각 중단하고, 우리 통제를 벗어나 독립적으로 작동할 수 있는 초지능 AI를 영구적으로 금지해야 한다. 인류 미래를 소수의 빅테크 지배자 손에 맡기면 안 된다”고 했다.

가수 청하 “외할아버지 독립운동가, 6·25전쟁도 참전”

https://biz.heraldcorp.com/article/10864379