안전장치 시한 고작 1년?…“AI, 무언가 하지 않으면 통제불능” 대부의 경고

[헤럴드경제=이원율 기자]인공지능(AI) 분야 3대 대부 중 한 명으로 꼽히는 제프리 힌턴 토론토대 명예교수가 1년 내 AI에 대한 안전장치를 마련하지 않으면 통제력을 잃을 수 있다고 경고했다.

그런가 하면, 대부 가운데 또 다른 한 명으로 거론되는 요슈아 벤지오 몬트리올대 교수 또한 핵무기 통제와 비슷한 강력한 수위의 국제적 AI 안전장치 마련을 촉구했다.

16일(현지시간) 미국 NBC뉴스에 따르면 힌턴 교수는 버니 샌더스(무소속·버몬트) 상원의원이 주최한 비공개 브리핑에서 다른 AI 전문가들과 상하원 의원들을 만나 이러한 뜻을 밝혔다고 연합뉴스는 전했다.

힌턴 교수는 브리핑 후 의회가 AI에 대한 안전장치를 마련할 수 있는 여유 시간을 놓고 “아마 1년쯤 될 것”이라며 “하지만 1년보다 많이 길지는 않을 것”이라고 했다.

그는 “AI는 이제 AI가 더 나은 AI를 설계하는 단계에 이르렀다”며 “이를 ‘재귀적 자기개선’(recursive self-improvement)이라고 부른다. (…) 우리는 무엇인가 하지 않으면 통제 불능이 될 것”이라고 했다.

힌턴 교수는 최근 발생한 이른바 ‘허깅페이스 사건’을 “작은 체르노빌”이라고 평가하기도 했다.

허깅페이스 사건은 오픈AI의 AI 에이전트들이 인터넷에 접속해 오픈소스 플랫폼 허깅페이스를 상대로 해킹을 벌인 후, 자기들의 행동을 인간에게 숨기고자 흔적을 지우려고 한 사건이다.

이 사건은 지난달에 알려지며 AI의 위험성에 대한 경각심도 커졌다.

이런 가운데, 연합뉴스 보도에 따르면 벤지오 교수 또한 같은 날 AFP통신과의 인터뷰에서 “기업들조차 속도가 너무 빨라 (AI)통제력을 잃어가고 있다고 말하는 데는 이유가 있다”며 “나와 같은 사람들은 이러한 상황을 오래전부터 예견해왔다”고 밝혔다.

벤지오 교수는 “AI 에이전트들이 사이버 보안 장벽을 뚫고 어떤 기업이든 침투할 수 있는 능력을 갖추는 상황”이 올 수 있으며, “AI 에이전트가 인간을 설득해 AI 자신에게 유리하지만 우리 모두에게 유익한 것은 아닌 방향으로 행동하는 능력을 키울 수 있다”고 했다.

나아가 AI를 둘러싼 안보·보안 논의가 충분히 엄중하게 이뤄지지 못했다고 비판, 이와 같은 파국을 막으려면 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 필요하다고 강조했다.

힌턴 교수와 벤지오 교수는 지난 2018년 ‘컴퓨터과학 분야 노벨상’으로 불리는 튜링상을 공동 수상했다.

지상렬 ‘16세 연하’ 신보람과 결혼설에…“난 괜찮은데, 부담스러울 수도”

https://biz.heraldcorp.com/article/10877900