“AI 5년내 3경원 경제효과…AI 재앙·메모리 공급망 우려도”

생성형 인공지능(AI) 기업 앤트로픽이 기업공개(IPO)를 앞두고 26일(현지시간) 제출한 증권신고서에서 자사 AI 기술이 인류의 생존까지 위협할 수 있다고 경고했다. 약 400쪽 분량의 신고서 가운데 94쪽을 위험 요인에 할애하며 AI의 통제 실패 가능성부터 반도체 공급망과 전력 부족, 미국 정부와의 갈등까지 상세히 기술한 것이다.

이날 앤트로픽이 미국 증권거래위원회(SEC)에 제출한 증권신고서에 따르면 회사는 전체 분량의 약 4분의 1에 해당하는 94쪽을 ‘위험 요인’ 설명에 할애했다. 특히 투자 유치를 위한 공시 서류에서 자사 제품이 인류에 재앙적 위험을 초래할 가능성까지 상세히 언급했다는 점이 눈길을 끈다.

앤트로픽은 고도로 발달한 AI의 위험성과 관련해 “AI가 오용되거나 복제·무기화되거나 높은 수준의 자율성을 갖고 작동할 경우 인류에 재앙적이거나 실존적인 위협을 초래할 수 있다”고 경고했다. 특히 AI 모델이 인간의 의도와 어긋나 스스로 목적을 추구하는 이른바 ‘정렬 실패’(misalignment)와 자율성 확대에 따른 위험을 주요 문제로 지목했다. 앤트로픽은 일부 AI 모델이 시험·실증 환경에서 작동을 중단시키는 ‘셧다운’에 저항하거나, 정보를 은폐·조작하고, 협박이나 기만까지 동원해 자신의 지속적인 작동을 추구하는 ‘전략적·자기보존적 행동’을 보인 사례가 관찰됐다고 설명했다.

AI 기술의 악용 가능성도 주요 위험 요인으로 꼽았다. 악의적인 인간 행위자가 고도화된 AI 모델을 악용해 화학·생물학·방사능·핵(CBRN) 무기 개발을 시도할 수 있다는 것이다. 실제로 중국 정부의 지원을 받는 것으로 파악된 해킹 그룹이 앤트로픽의 코딩 도구인 ‘클로드 코드’를 조작해 지난해 9월 전 세계 대기업과 정부 기관 등 30여 대상에 침투하려 한 사건을 그 예시로 들었다.

앤트로픽은 이와 같은 기술 오용을 탐지하고 차단하기 위해 기술적 안전장치를 도입하고 있지만, 이와 같은 안전장치가 완전하다는 보장은 없다고 설명했다. 특히 이른바 ‘재앙적 AI 사건’이 실제로 발생하면 자사가 부담해야 할 손해배상 책임이나 법적 위험이 막대하다며, 이 때문에 이를 담보할 보험조차 구하기 어려울 수 있다고 명시했다. AI 기술 자체의 위험성뿐 아니라 반도체 공급망과 인프라 부족 등 현실적인 사업상 제약도 대거 언급됐다. 특히 앤트로픽은 AI 가속기의 핵심 구성요소인 고대역폭 메모리(HBM) 공급이 삼성전자와 SK하이닉스, 미국 마이크론 등 3사에 집중돼 있어 첨단 칩 확보에 부정적인 영향을 미칠 수 있으며 이들의 생산 시설도 미국 외에 있어 수출·수입 통제나 제재, 관세 등의 영향을 받을 수 있다고 설명했다.

AI 가속기의 제조도 대만 TSMC에 절대적으로 집중돼 중국-대만 간 지정학적 양안 관계 갈등이나 군사적 충돌, 자연재해 등이 발생할 경우 전 세계 반도체 공급이 수년간 마비될 수 있다고 지적했다. 환경 요인과 기후변화도 위험 요인으로 꼽았다. AI 모델 훈련에 막대한 전력이 소모되는 상황에서 미국 내 전력망 인프라가 부족해질 가능성과 수자원 고갈 등으로 냉각수 확보가 어려워질 수 있다는 점을 제기했다. 데이터센터 건설에 따른 지역사회 반발 등도 언급했다. 블룸버그통신은 이 같은 환경·기후 위험에 대한 상세한 설명이 당초 관련 내용을 포함하지 않았던 우주기업 스페이스X의 증권신고서와 대조적이라고 지적했다. 스페이스X는 이후 신고서를 수정해 물 부족 등의 위험 요인을 추가했다.

앤트로픽은 자사가 미 국방부의 공급망 위험 기업으로 지정됐고, 도널드 트럼프 행정부와 소송을 벌이고 있다는 점 등도 적시했다. 이와 같은 정부와의 갈등 관계가 정부 대상 사업은 물론이고, 정부·공공기관을 고객으로 두고 있는 기업들에 대한 AI 매출에도 악영향을 줄 수 있다는 것이다.

그런가 하면 앤트로픽은 AI가 인간 통제하에 적절히 사용된다면 인류에게 유익과 엄청난 경제적 가치를 가져다줄 것이라고도 전망했다. 첨단 AI가 인간 전문가 능력을 뛰어넘는 ‘강력 AI’(Powerful AI) 단계에 도달하면, 수십 년이 걸릴 과학 진보를 수년으로 압축할 수 있으리라고 내다봤다. 특히 생명과학·보건의료 분야에서의 혁신을 가장 큰 기회로 꼽았다. 앤트로픽은 “AI가 암, 알츠하이머, 심장병, 희귀 유전 질환, 주요 감염병 등 수천 년 동안 인류를 괴롭혀온 질병을 잠재적으로 치료하는 데 결정적 역할을 할 수 있다”고 예측했다.

이 밖에도 AI가 지식 노동자의 생산성을 대폭 끌어올리고, 2031년까지 누적 경제적 파급효과가 22조5000억 달러(약 3경원)에 달할 것이라고 예견한 시장조사기관 IDC 자료도 인용했다. 나아가 신소재 개발과 전력망·배터리 효율화, 맞춤형 교육·법률·금융 자문, 개발도상국으로의 첨단 기술 확산 등 전 지구적 과제 해결에 AI가 동력이 될 것이라고도 덧붙였다.

한편 앤트로픽 상장신청서(S-1)의 첨부 문서인 ‘앤트로픽 파운더스 LLC’ 계약서에 따르면 앤트로픽 공동창업자 7명은 자신의 의결권을 물려받을 후계자를 최대 10명까지 비공개 명단으로 정해둘 수 있는 것으로 나타났다. 명단은 나머지 창립자 6명 중 5명이 동의하는 ‘슈퍼 다수결’로 승인돼야 효력이 생긴다.

앤트로픽 공동창업자들은 상장 직전 별도의 유한책임회사(LLC) ‘앤트로픽 파운더스 LLC’를 신설한다.이 앤트로픽 파운더스 LLC가 특별 주식인 F형(클래스 F) 주식 단 1주를 발행한다. 이 1주는 이사 선임을 비롯한 앤트로픽의 주주총회 일반 안건 대부분에서 전체 의결권의 50.1%를 행사한다. 상장 이후에도 창업자 그룹의 의결권이 이어지도록 한 장치다. 정목희 기자