자율살상 병기 전장서 일상…유엔, ‘AI 무기 레드라인’ 구상

[헤럴드경제=안세연 기자] 인공지능(AI)을 기반으로 한 자율살상무기가 전 세계 전장에서 일상이 된 가운데 유엔이 규제 논의에 들어간다.

15일(현지시간) AFP통신에 따르면 유엔은 16일 스위스 제네바 유엔 본부에서 열리는 회의를 통해 ‘킬러 로봇’이라 불리는 자율살상무기 규제·금지책을 논의한다.

자율살상무기는 인간의 개입 없이 표적을 식별, 선정, 공격할 수 있는 무기 체계다.

오랫동안 전쟁터에서 쓰는 대인지뢰도 일종의 자율살상무기지만 최근 기술의 발전으로 각종 무기체계에

AI가 탑재되면서 활용 범위는 이전과 비교할 수 없을 정도로 넓어졌다. AI 탑재 드론이 대표적이다.

해당 무기는 사전에 인간이 정하지 않은 표적을 선정해 공격할 수 있다. 인간의 개입 없이 전쟁 환경에 적응하는 뛰어난 능력을 갖추고 있다.

자율살상무기 사용은 전장에서 일상이 됐다. 제네바 안보정책센터의 글로벌·신흥 위험 담당자인 장-마르크 리클리는 지난 2월말부터 시작된 이란 전쟁에서 미국이 하루 최대 1천여개의 이란 내 표적을 공격하기도 했다고 설명했다.

중국 국방부는 지난 1월 자율드론 무리를 ‘전쟁의 새로운 얼굴’이라고 표현했다.

자율살상무기를 이용한 전쟁이 활발해지면서 규제 당국들은 이제 무기 사용 결정 과정에서 인간의 통제 수준을 어느 정도로 설정해야 하는지를 두고 고심 중이다.

미국은 ‘적절한 수준의 인간 판단’을 강조한다.

프랑스는 인간이 의사결정 과정에 반드시 참여해야 한다고 주장하며 자율살상무기를 금지하고 부분적 자율살상무기 시스템만을 허용하고 있다.

안토니우 쿠테흐스 유엔 사무총장과 미르야나 스폴야릭 국제적십자위원회(ICRC) 위원장은 지난 8월 성명을 통해 “기계가 인간을 자율적으로 공격 대상으로 지정하는 도덕적 레드라인을 넘을 위험에 처해있다”고 경고하기도 했다.

글로벌 AI 기업 앤트로픽의 다리오 아모데이 최고경영자(CEO)도 올해 “완전 자율 무기를 구동하는 데 최첨단 AI 시스템을 신뢰하기에는 부족하다”고 주장했다.

전문가들은 이번 회의에서 국제사회가 자율살상무기 규제 방안을 논의해도 문제의 일부분만을 다루는 데 그칠 것이라고 내다봤다.

리클리는 회의가 “전장에서 AI를 둘러싼 모든 문제를 포괄하고 있지 못하고 있다”고 지적했다.

AI 자율무기의 확산 속도가 논의를 능가할 뿐만 아니라 AI의 표적 추천과 같은 기능은 논의에서 빠지는 등 실질적 해결책 모색에 한계가 있다는 설명이다.

영국 케임브리지 연구원 제럴드 마코도 ‘스몰 월드 저널’에 기고한 글에서 “치열한 군사 경쟁 시대에 완전 자율 살상 공격을 일상화한 첫 번째 국가가 다른 모든 국가의 기대치를 재설정할 것”이라고 밝혔다.

Google News 에서 헤럴드경제 팔로우