앤트로픽 CEO “AI도 자동차처럼 안전표준 세워야”

[헤럴드경제=정목희 기자] 인공지능(AI) 개발 속도 조절론을 제기한 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 안전 문제 역시 자동차 회사가 차량 안전을 관리하듯 접근해야 한다는 견해를 내놨다.

아모데이 CEO는 15일(현지시간) 미국 샌프란시스코 모스콘센터에서 열린 세일즈포스의 연례 행사 ‘드림포스’에서 마크 베니오프 세일즈포스 CEO의 기조연설 무대에 올라 AI 안전을 위해 자체 점검과 업계 표준 정립, 국제 공조로 이어지는 3단계 접근법이 필요하다고 주장했다.

그는 “자동차 회사에서 브레이크 문제나 제조 과정의 결함으로 안전 문제가 발생했다고 가정해보자”며 “이에 책임 있게 대응하는 첫 번째 방법은 자신의 기록부터 돌아보는 것”이라고 말했다.

기업이 먼저 자체 기록을 점검해 기존 관행을 개선하고 투명성을 재확인하는 한편, 안전 분야에 더 많은 투자를 하는 것이 우선이라는 설명이다.

이어 “그 다음에는 업계 전체가 모여 모두에게 적용할 수 있는 안전 표준을 마련하기 위해 논의해야 한다”며 “마지막으로 국제적인 협력도 이뤄져야 한다”고 강조했다.

아모데이 CEO는 자신이 AI 안전을 위해 제시한 계획도 이와 마찬가지라고 설명했다.

그는 과거 자신이 연산 자원이 늘어날수록 AI가 똑똑해질 것이라는 ‘스케일링 법칙’을 내놓으며 AI 성능 향상을 예견했다면서도 AI 발전이 이토록 빠를 것이라고는 예상하지 못했다고 말했다.

그는 “비즈니스 세계에서 이런 속도가 가능하다는 점에 놀라고 있다”고 털어놨다.

그러면서 “AI 기술을 현재 상태에서 동결한다고 하더라도 현재 우리가 활용하는 가치는 AI가 가진 전체 가치의 5∼10% 수준에 불과하다”며 “여전히 시장에 확산 적용해 사회적 혜택을 제공할 영역이 무궁무진하게 남아있다”고 지적했다.

다만 그는 “AI 속도조절론은 기술을 동결하자는 뜻이 아니다”라며 “AI 기술은 앞으로도 계속 발전할 것”이라고 덧붙였다.

베니오프 CEO도 “지난 10년간 일어난 일은 정말 놀라웠다. 누구도 이런 시나리오를 예상하지 못했을 것”이라며 “우리는 AI 발전 속도를 계속 주시해야 한다”고 강조했다.

아모데이 CEO는 지난 12일 개인 블로그에 글을 올려 AI 안전을 위해 개발 속도를 조절해야 한다고 주장해 파문을 불러왔다.

샘 올트먼 오픈AI CEO와 데미스 허사비스 구글 최고과학자, 일론 머스크 스페이스XAI CEO 등은 이에 동조했지만 도널드 트럼프 대통령은 이와 같은 AI 안전 우려를 ‘사기’라고 주장하며 AI 규제론에 강하게 반대하고 있다.