“진짜 AI 위험은 불량 에이전트 아닌 개발사 욕망”…팔란티어 CEO의 경고

[헤럴드경제=정목희 기자] 알렉스 카프 팔란티어 최고경영자(CEO)가 인공지능(AI)이 인류를 위협할 수 있다는 이른바 ‘AI 멸망론’과 관련해 정작 경계해야 할 대상은 AI 기술 자체보다 이를 개발하는 기업들이라고 주장했다. AI가 인간의 통제를 벗어날 가능성보다 AI 개발사들이 기업 고객의 데이터와 경쟁력을 흡수하며 자신들의 이익을 추구하는 상황을 더욱 우려해야 한다는 지적이다.

카프 CEO는 지난 2일(현지시간) 팔란티어의 3분기 실적 발표와 함께 공개한 주주서한에서 “정렬(Alignment) 문제는 분명 존재하지만, 일반적으로 알려진 것과는 다르다”며 이같이 밝혔다.

AI 분야에서 정렬이란 AI의 목표와 행동을 인간의 의도 및 가치에 부합하도록 만드는 것을 뜻한다. 정렬에 실패할 경우 AI가 인간의 의도를 벗어나 독자적인 목표를 추구하거나 예기치 못한 행동을 할 수 있다는 우려가 제기돼 왔다.

그러나 카프 CEO는 문제의 본질이 다르다고 주장했다. 그는 “진짜 문제는 기술적 창작물의 목표와 역량을 우리의 이익에 일치시키는 것이 아니다”라며 “오히려 그 기술을 구축하는 기업의 목표를 이를 활용하는 고객의 이익, 나아가 인류 공동의 이익과 일치시키는 것”이라고 강조했다.

이는 AI 에이전트가 인류를 적대시할 가능성을 우려하기보다는, 앤트로픽과 오픈AI 등 대형 AI 개발사들이 이기적인 목표를 추구해 인류 전체의 이익에 어긋날 가능성을 더욱 우려해야 한다는 뜻으로 풀이된다.

실제로 카프 CEO는 AI 개발사들이 기업 고객의 핵심 데이터와 ‘알파’(기술적 우위를 뜻하는 말)를 자사 AI로 흡수하려 하고 있다고 여러 차례 비판한 바 있다.

그러면서 “우리는 파트너의 가치와 알파를 착취하는 소프트웨어에 전혀 관심이 없다”고 강조했다.

카프 CEO는 또 자신들의 AI 데이터 분석 기술을 활용하지 않는 모든 산업이 도태될 것이라는 섬뜩한 ‘예언’도 내놨다.

그는 성서에 나오는 예수의 어투를 빌려 “들을 귀 있는 자는 들을지어다”라고 운을 떼고는 한때는 주요 플레이어였으나 자신들의 가르침을 듣지 않는 이들은 황량한 황무지의 ‘외로운 중간 지대’에 남고, 성장할 기회를 놓친 이들은 ‘붐비는 바닥’에 머무를 것이라고 주장했다.

또한 팔란티어가 군사 분야에 서비스를 제공하는 데 대해 비판의 목소리가 나오는 것을 염두에 둔 듯 “우리는 우리 자신을 진실하고 실현할 수 있는 반전(反戰) 운동의 선구자로 여긴다”는 주장도 내놨다.

국가 방위를 위해 싸우는 병사들이 무사히 집으로 돌아올 수 있도록 하는 데 자신들이 이바지한다는 것이다.

팔란티어는 이날 3분기 실적 공시를 통해 자사 매출이 지난해 같은 기간보다 96% 급증한 23억1300만 달러(약 3조1000억원)를 기록했다고 밝혔다.

월가 큰손들, AI 투자 손실 ‘보험’ 들었다

https://biz.heraldcorp.com/article/10922673?sec=009

Google News 에서 헤럴드경제 팔로우