찰스 3세 ‘AI 위험성’ 경고…젠슨 황 “AI에 SNS같은 규제 안돼”

[헤럴드경제=김영철 기자] 찰스 3세 영국 국왕이 17일(현지시간) AI 업계에 글로벌 인공지능(AI)의 급격한 발달에 따른 인류 존립의 위험성을 경고하고 인간의 통제권을 지켜야 한다고 촉구했다.

로이터 통신과 BBC 방송에 따르면 찰스 3세는 이날 스코틀랜드 덤프리스하우스에서 연 회의에서 젠슨 황 엔비디아 최고경영자(CEO), 딥마인드 공동 창업자인 데미스 허사비스 구글 최고과학자, 새러 프라이어 오픈AI 최고재무책임자(CFO) 등을 맞이했다.

찰스 3세는 개회사에서 “AI의 발전, 그 본질과 속도는 흥미롭고도 그만큼 깊이 우려스럽다”며 “우리의 인간성은 신성함을 유지해야 하고, 대중은 우리가 우리의 운명, 영혼에 대한 통제를 잃지 않을 거란 확신을 원한다”고 말했다.

그는 개발자들이 점점 더 많이 ‘생명을 앗아갈 수도 있는’ AI의 어두운 측면을 경고하고 있다고 언급하면서 “그런 기술이 잘못된 손에 들어가 파괴적일 수 있는 방식으로 사용될 존립적 위험성을 살펴볼 시급성이 있다”고 짚었다.

찰스 3세는 “물론, 우리는 너무 늦기 전에 충분한 통제 수단이 있어야 한다”며 “지금과 같은 형성기에 내려지는 결정이 미래 세대가 물려받을 세상을 결정한다”고 말했다. 찰스 3세는 그러면서 “여러분 앞에 놓인 과제는 그저 기술을 발전시키기만 하는 게 아니라 그 기술이 인류와 공동체, 자연 세계에 확고히 봉사하도록 보장하는 것”이라고 강조했다.

이번 회의는 업계에서 AI 감속을 촉구하는 목소리가 잇따라 나온 가운데 열렸다. 다리오 아모데이 앤트로픽 CEO, 샘 올트먼 오픈AI CEO 등이 속도조절론을 제기하거나 지지했다. 도널드 트럼프 미국 대통령이 속도조절론을 비판하는 등 정치권에서도 논쟁이 벌어졌고, 선두주자들이 감속론을 꺼내든 배경에는 업계 우위 유지를 위한 것이라는 의심도 제기됐다.

이날 회의에 참석한 젠슨 황 CEO는 아모데이 CEO 등과는 온도 차가 있는 언급을 내놓았다. 황 CEO는 AI 개발 규제에 반대하는 입장이다. 그는 회의에서 “AI를 구축하는 우리는 시스템을 엄격하게 테스트해야 한다. 충분히 안전하지 않을 때는 이를 보류해야 한다”며 개발자 스스로 책임을 지는 ‘책임있는 낙관주의’를 주장했다.

황 CEO는 취재진에게도 “AI는 소셜미디어(SNS)와 매우 다르다”며 “SNS는 제품이지만 AI는 모든 제품, 모든 기술 뒤에 있는 기술이므로 (AI 기술이 아닌) 제품을 규제하라”고 말했다고 폴리티코 유럽판이 전했다.

그는 각 관계당국이 AI 제품이 잘못되는 경우를 모니터링하고, 새로운 법이 필요하면 기존 법에 추가하면 된다면서 “우리는 제품이 대중에 출시되기 전 제대로 엄격하게 테스트해야 한다”고 강조했다.

허사비스 구글 최고과학자는 이날 회의에서 AI에 관한 주요 근심거리는 자율 시스템을 ‘나쁜 행위자’가 악용해 이 시스템이 잘못된 행동을 하는 것이라고 지적했다고 블룸버그통신이 전했다. 그는 다만 “인간의 독창성을 굳게 믿는다”며 업계가 이같은 우려를 해소할 것으로 자신했다.

이날 회의에서는 특별한 합의가 도출되지는 않았다. AI 감속을 촉구한 교황의 고문인 파올로 베난티도 참석했다고 로이터는 전했다.

찰스 3세는 기후변화 의제는 오랫동안 다뤄왔으나 기술 분야에 정통하지는 않다. 다만, 서방 주요 지도자로서 중요한 글로벌 현안에서 논의를 주도하려는 노력으로 이번 회의를 연 것으로 해석된다.

젠슨황·저커버그·머스크, 트럼프 설득…AI규제기구 무산 [1일1트]

https://biz.heraldcorp.com/article/10877680?sec=009