“엔디비아·MS가 22조 투자”…‘오픈AI 대항마’ 앤트로픽은 누가 만들었나 [더 비저너리-다리오 아모데이 앤트로픽 CEO]

[헤럴드경제=김지헌 기자]

최근 22조원 ‘잭팟’ 투자를 유치하며 인공지능(AI) 업계에서 큰 화제가 된 기업이 있다. 엔비디아가 최대 100억달러(약 14조6800억원)를, 마이크로소프트(MS)가 최대 50억달러(약 7조3400억원)를 쏟아붓기로 한 스타트업 앤트로픽이다.

앞서 14차례의 투자로 273억달러(약 40조원) 규모 자금을 유치했기에, 이번 투자가 실행될 경우 이 기업에 대한 누적 투자액만 최대 400억달러(약 54조원)를 넘어설 수 있다는 관측이 나온다. 일각에서는 이번 투자로 앤트로픽의 몸값이 3500억달러(약 514조원)까지 치솟을 것이란 분석도 제기된다. 창업 4년만의 성과다. 업계 최선두 기업인 오픈AI의 아성이 부럽지 않을 정도다.

그 뿐인가. 도널드 트럼프 미국 행정부의 든든한 조력을 받으며 글로벌 영향력을 확대하고 있다. 앤트로픽을 창업한 다리오 아모데이 최고경영자(CEO)는 중국에 대한 ‘미국의 AI 패권 수호’를 철저히 옹호하는 한편, 국내에 ‘인간미 넘치는 경영자’로 각인된 젠슨 황 엔비디아 CEO와는 때로 날선 격론을 보이며 연일 화제의 중심에 서기도 했다.

그런 그가 AI 업계 판도를 뒤흔들기 위해 꺼내든 카드는 ‘인간에게 안전한 AI’이다. 40대 초반에 이미 억만장자 반열에 들어선 젊은 창업자 아모데이는 오픈AI, 구글, 메타 등 첨단 AI 기술 기업들 사이에서 어떻게 자신의 존재감을 과시할 수 있게 된 것일까. 오픈AI로 쏠리는 AI 생태계 편중을 막을 ‘대항마’ 입지를 글로벌 투자자들로부터 어떻게 확보한 것일까.

앤트로픽은 한 가족의 남매가 모두 회사의 창업자가 된 독특한 사례이다. 42세의 아모데이와 38세인 다니엘라 아모데이 사장이 그 주인공이다. 아모데이는 전체 회사 최고 책임자로서 AI 모델 연구·개발을 총괄한다. 여동생인 다니엘라는 회사 전체 시스템과 정책 등 조직 운영을 맡고 있다.

1983년 미국 캘리포니아주 샌프란시스코에서 태어난 아모데이는 가죽공예 장인인 이탈리아계 미국인 아버지와 도서관 프로젝트 매니저로 일한 유대계 미국인 어머니 밑에서 자랐다.

아모데이와 다니엘라는 어린 시절 외할머니 영향을 많이 받았다. 1930년대를 산 외할머니는 이탈리아의 에티오피아 침공에 항의해 이탈리아 대사관 앞에서 자신을 쇠사슬로 묶어 시위했다는 이야기를 종종 들었다고 한다. 다니엘라는 이때 남매가 ‘세상을 더 나은 곳으로 만들고 싶다는 책임감’을 느끼곤 했다고 회상한다.

아모데이는 어릴 때부터 수학과 물리에 관심이 컸다. 그가 고등학생이던 시절 ‘닷컴 붐’이 주위에 폭발적으로 일어났지만, 그는 별 관심을 갖지 못했다. “웹사이트를 하나 만든다는 건, 솔직히 전혀 흥미롭지 않았다. 근본적인 과학적 진리를 발견하는 데 관심이 있었다”고 할 정도로 그는 ‘찐’ 학구파였다.

아모데이는 샌프란시스코의 로웰 고등학교를 거쳐 칼텍(캘리포니아 공과대학)에서 물리학을 공부하다, 스탠포드대로 옮겨 물리학 학사를 받았다.

그러다 드문드문 어린 시절 외할머니의 이야기가 그의 가슴을 끓어오르게 했던 것으로 보인다. 칼텍 재학 당시 그는 동료 학생들이 이라크 전쟁에 무기력하게 대응하는 모습을 신랄하게 비판하는 글을 쓴다. 2003년 3월 3일자 학보 ‘캘리포니아 테크’에서 그는 “문제는 모두가 이라크를 폭격하자는 생각에 마냥 찬성하고 있다는 게 아니다. 대다수는 원칙적으로 반대하지만, 그 원칙을 위해 단 1밀리초의 시간도 쓰려 하지 않는다는 것이다. 이건 바뀌어야 한다. 지금 당장, 지체 없이”라고 적었다.

오랫동안 희귀 질환과 싸워온 아버지의 2006년 죽음은 아모데이에게 큰 충격을 준 사건이다. 그는 이를 계기로 대학원 연구 분야를 이론물리학에서 ‘생물학’으로 바꿔 질병과 생물학적 문제를 다루기 시작했다.

프린스턴대에서 논문 제목은 ‘신경망 규모 전기생리학: 신경 회로의 집단적 행동을 측정하고 이해하기’이다. 거칠게 요약하면, 신경회로가 작동할 때 개별적인 단위로 작동하는 게 아니라, 집단을 구성해 작동한다는 것을 통계적으로 드러낸 논문이다.

아모데이는 박사 학위를 취득한 후 스탠포드 의대에서 연구원으로 활동했다. 그는 이곳에서 종양 내부나 주변의 단백질을 연구해 전이성 암세포를 탐지하는 연구를 했다. 연구는 매우 복잡했고, 이 연구를 통해 아모데이는 연구를 위해 기술적 해결책이 필요하다는 사실을 절감하게 된다.

그는 당시에 대해 “생물학이 안고 있는 근본적인 문제들의 복잡성은 인간의 스케일을 넘어서는 것처럼 느껴졌다”고 말하기도 했다. 현상을 이해하려면 수백, 수천 명의 연구자가 필요하다는 생각이 들었다. 아모데이는 AI가 ‘인간의 스케일을 넘어설 수 있게 하는 기술’로 보였다고 한다.

아모데이는 AI 발전을 목도하기 위해 학계를 떠나 기업으로 가는 용단을 내린다. 처음에는 AI 연구에 강한 구글에 마음이 기울었으나 중국 검색엔진 바이두가 저명한 연구자 앤드류 응에게 예산 1억달러(약 1400억원)를 통째로 맡기며 ‘슈퍼팀’을 꾸리기 시작했다는 소식에 2014년 11월, 해당 팀에 합류했다.

막대한 자원을 가진 바이두 팀은 문제 해결을 위해 계산과 데이터에 막대한 자금을 쏟아부었다. 결과는 놀라웠다. 아모데이와 동료들은 AI 성능이 ‘더 많이 투입할수록 의미 있게 향상된다는 사실’을 발견했다.

그런데 이러한 바이두 AI팀의 성과는 아이러니하게도 팀 붕괴의 씨앗이 됐다. AI연구에서 ‘자원을 누가 쥘 것인가’가 중요해지면서, 사내 권력 다툼이 벌어졌다. 이런 다툼이 이어지며 인재 유출이 이어졌고 연구실은 사실상 와해됐다. 이후 10개월간 구글 브레인에서 근무하던 아모데이는 2016년 오픈AI에 합류해 AI 연구를 진행했다.

그는 구글에 있을 때 AI의 ‘잠재적인 나쁜 행동’에 관심을 기울이며 논문을 공동집필 하기도 했다. 아모데이는 오픈AI에서 GPT-2 구축에 직접 관여했다. 오픈AI의 GPT-3 프로젝트의 지휘봉 역시 그가 잡았다.

아모데이는 오픈AI에서 ‘스케일링 법칙’을 확인하게 된다. 바이두에 있을 당시 AI 성능이 ‘자원을 더 많이 투입할수록 의미 있게 향상된다는 사실’을 확인했던 아모데이는 오픈AI 작업을 통해 이것이 단순 가설을 넘어 법칙에 가깝다는 판단에 이르게 된 것이다.

스케일링 법칙이란 ‘더 많은 연산량과 더 많은 데이터를 단순한 알고리즘과 결합하면, AI는 거의 모든 인지 과제에서 전반적으로 더 나아진다’는 것이다. 누군가에게 당연하게 들리겠지만, 새로운 알고리즘을 전제하지 않은 이 법칙이 당시에 연구자들에게 믿기 어려운 가설이었다고 한다.

이 법칙의 발견은 아모데이의 생각을 뒤바꾸는 계기가 된다. 투입하는 만큼 AI는 빨라지고 강해진다면 AI의 발전 속도를 예측할 수 없게 된다. 이때 누군가는 AI의 미래를 염려한 ‘사전 안전장치’를 만들어야 한다는 발상으로 전환된 것이다.

이런 발상의 전환은 아모데이가 AI를 ‘제조’가 아니라 ‘성장’의 관점에서 바라보도록 만들었다. 지난 3월 미국외교협회에서 진행된 대담에서 아모데이는 당시 ‘AI를 정말 제대로 만들어야 한다’고 생각하게 됐다고 밝혔다. AI를 아이의 뇌처럼 ‘성장’시켜야 한다고 봤다는 것이다.

동시에 아모데이는 오픈AI의 개발 정책에 불만을 갖게 된다. 그는 오픈AI에서 잠재적으로 위험한 기술을 만들고 있다고 느꼈다고 한다. 그는 결국 오픈AI의 샘 올트먼 CEO와 그렉 브록만 사장을 신뢰하지 못한 것으로 전해진다.

앤트로픽은 2021년에 설립된 인공지능(AI) 기업이다. 아모데이는 자신의 동생, 오픈AI에서 함께 연구했던 지인 등 7명과 회사를 설립했다. 이 회사의 비전은 단순히 ‘AI를 잘 만들자’가 아니다. ‘AI를 안전하게, 사람에게 해롭지 않게 만들자’는 것이다.

이를 위해 AI 내부가 어떻게 작동하는지를 꼼꼼히 들여다보는 데 집중했다. 쉽게 말해 ‘우리가 만든 대형 언어모델(챗봇 등)이 왜 이런 답을 내놓는가?’, ‘어떤 내부 회로가 이 행동을 일으키는가?’ 를 깊이 연구하는 것이다. 예를 들어 스마트폰을 쓰는데, 애플리케이션이 갑자기 이상한 동작을 한다고 하자. 이 때 내부를 살펴서 어떤 회로에 오작동이 있는 지 파악되면 그 이후 스마트폰을 제어할 수 있게 된다, AI도 이렇게 내부 회로나 신경망의 신호가 왜 특정 응답을 유도했는지 파악하면 더 안전하게 제어할 수 있다.

엔트로픽은 비전 실현을 위해 ‘헌법적 AI(Constitutional AI)’라는 개념을 도입했다. AI에게도 인간처럼 지켜야 할 근본적 규칙을 제시하겠다는 것이다. 이 역시 안전한 AI를 구축하기 위한 시도이다. ‘사람에게 해를 끼치지 않아야 한다’, ‘정직해야 한다’, ‘차별하지 않아야 한다’ 등 가치를 AI에게 제공하고 AI가 작업시 이 헌법을 지키도록 만드는 것이다.

이 방식은 기존의 다른 거대 AI 모델이 차용한 개발 방식과는 다르다. 기존에는 ‘인간 피드백 기반 강화학습(RLHF)’을 사용했다. 챗GPT처럼 사용자가 AI의 답변을 비교하고 어떤 게 더 나은지 평가하는 것이다. 사용자의 평가를 바탕으로 AI가 보상을 받거나 벌을 받으며 기능을 향상시킨다. 그런데 이 경우 사람의 주관에 따른 편향성을 AI가 학습하게 되는 문제가 생긴다. 카네기멜론대 연구에 따르면 이런 피드백에 따라 ‘정치적으로 진보적인 성향의 AI’가 구성되기 쉽다고 한다. 진보적 성향이 문제인 것이 아니라, AI가 특정 편향을 습득한다는 것이 문제가 될 수 있다.

아모데이는 “우리 기업이 존재함으로써, AI 생태계의 다른 조직들이 더 우리와 비슷한 방향으로 움직이길 바란다. 그것이 우리가 세상을 바꾸는 방식”이라고 평소 입장을 밝힌 바 있다.

대중적으로 화제가 된 2022년 11월 ‘챗GPT 3.5 버전 출시’ 당시 앤트로픽이 ‘클로드’ 출시를 미룬 것으로 전해진다. 앤트로픽은 오픈AI보다 대중적 AI 제품을 먼저 출시해 ‘챗GPT 모먼트’를 자사가 선점할 수 있었지만, ‘AI 안전성 우려’로 출시를 6개월 가량 늦췄다. 상업적으로 큰 손해였지만 사내 개발 문화에 중요한 메시지를 남겼다는 게 아모데이의 설명이다.

이러한 이유로 앤트로픽은 자사를 ‘AI 안전 연구소’로 정의한다. 그러나 이를 위해선 막대한 컴퓨팅 자원과 막대한 자금이 필요했다. 이에 따라 투자금을 적극적으로 유치하고 있다. 앤트로픽은 엔비디아와 MS 뿐아니라 세일즈포스 등에게도 투자를 받고 있다.

앤트로픽은 자신들의 가치를 잃어버리지 않기 위해, 2023년 8월 ‘공익기업(PBC)’ 구조로 전환했다. 이는 이 회사가 사회 공익을 창출하기 위해 설립된 것으로 간주된다는 의미다. 그러나 앤트로픽이 AI 안전과 기업 이윤 사이의 긴장을 완전히 해소했는지는 논쟁거리다. ‘가장 신중한 AI’회사이지만, 대규모 자본의 투자를 받는 ‘최첨단 AI’ 회사라는 지점이 모순적이라는 평가다. 즉 첨단 AI를 구축하려면 돈이 필요하고 이를 위해 이윤을 택하면서 여러 윤리적 리스크를 짊어져야 하는데, 과연 이게 가능하냐는 비판이다.

에이다 러브레이스 연구소의 부소장인 앤드루 스트레이트는 2024년 5월 타임지와의 인터뷰에서 “앤트로픽과 비슷한 입장을 취한 경쟁사들까지 포함해서, 그들이 설정한 이 과정은 ‘이윤 동기’ 앞에 쉽게 무너질 수 있다”며 “기업들이 이런 정책들을 내놓는 건 나쁜 일이 아니지만, 이제는 정부가 주변의 제도적 규제 장치를 마련해야 할 때”라고 지적했다.

앤트로픽의 가장 흥미로운 점은 도널드 트럼프 행정부와의 관계이다. 둘은 ‘상부상조’하며 양측의 영향력을 확대하고 있다. 앤트로픽은 업계에선 안전한 AI를 설파하며 ‘공공성’을 화두로 논의를 주도하는 한편, 트럼프 행정부와 사이에선 중국의 AI 발전을 막기 위한 주요 논리를 제공하고 있다.

지난 7월 24일 앤트로픽은 트럼프 행정부의 ‘AI 행동 계획(AI Action Plan)’을 공개적으로 지지하는 성명을 발표한다. 이 계획은 ▷미국의 AI 기술 리더십 유지·강화 ▷중국 및 권위주의 국가들과의 전략 경쟁에서 우위 확보 ▷연방 정부의 AI 활용 극대화 등을 담고 있다. 한마디로 ‘수출 통제’와 ‘AI 개발 투명성 기준’을 바탕으로, 미국의 AI 패권을 유지하기 위한 초대형 AI 종합 전략이다.

앤트로픽의 AI 모델인 ‘클로드’는 전쟁부와 최대 2억달러 규모의 계약을 포함해 연방 정부기관에 공급될 예정이다.

앤트로픽의 제안은 여기서 그치지 않는다. 트럼프 행정부의 발표에 앞서 7월에 회사는 ‘미국에서 AI 구축하기(Build AI in America)’ 보고서를 내기도 했다. 보고서 제목부터 국수주의적이다. 이 보고서에서 앤트로픽은 ▷AI 인프라의 미국 내 대규모 구축 ▷미국의 전력 인프라가 AI 발전의 최대 걸림돌이라는 점을 인지 ▷연방정부의 인허가·송전망 확장 절차 파격적 단축 등을 제안한다.

앤트로픽은 ‘AI 행동 계획’을 옹호하는 성명에서 미국의 대중국 견제를 적극적으로 옹호했다. 특히 엔비디아 반도체 칩이 중국으로 수출되는 것에 반대했다.

중국에 대한 칩 수출 통제를 옹호할 때 흥미롭게도 또다시 ‘스케일링 법칙’이 거론된다. 아모데이가 오픈AI를 나와 ‘헌법적 AI’를 구상할 때 꺼내들었던 논리가 이번에는 미국의 경쟁국인 중국의 발전을 좌시할 순 없다는 논리로 차용된 것. 즉 중국의 AI발전을 막기 위해서는 추론과정에서 사용될 컴퓨터 반도체 칩의 수준을 저하시켜야 한다는 것이다. 스케일링 법칙에 따르면, 투입을 고성능으로 할수록 AI는 무조건 발전하기 때문이다.

이같은 앤트로픽의 기조는 아모데이의 최근 입장 발표에서도 드러난다.

그의 이같은 메시지는 글로벌 AI 반도체 칩 시장을 이끄는 엔비디아와 충돌을 일으키기도 했다.

아모데이는 올해 중순 엔비디아의 젠슨 황 CEO가 중국으로 AI 칩을 수출하려는 정책을 비판하며, 이는 국가안보를 위협하고 중국의 AI 경쟁력 강화로 이어질 수 있다고 주장해 왔다.

아모데이 AI가 노동시장에 미칠 위험성에 대해 공개적으로 경고해 왔다. 지난 5월 그는 악시오스와의 인터뷰에서 AI가 향후 5년 내에 초급 사무직 일자리를 절반으로 줄이고 실업률을 20%까지 끌어올릴 수 있다고 말했다.

황 CEO는 신기술이 일부 일자리를 쓸모없게 만들 것이라는 점은 인정했지만, 광범위한 파괴로 이어지지는 않을 것이라고 반박했다. 그는 기술이 새로운 일자리 기회를 창출할 것이라고 주장했다. 황 CEO는 “기업들이 더 생산적으로 변할수록 더 많은 사람을 고용한다”고 말했다.

그러면서 황 CEO는 아모데이의 발언에 대해 “AI가 위험하니 앤트로픽만 모델을 만들어야 한다는 식”이라고 반박하며, 이는 업계를 장악하려는 시도라고 지적했다. 일각에선 앤트로픽이 AI 업계 경쟁을 일부로 지연시킨다는 분석이 나왔다. 아모데이는 8월 초 황 CEO의 발언을 “황당한 거짓말”이라고 반박하며 갈등을 이어갔다.

아모데이의 진의는 무엇일까. 아모데이는 자신의 홈페이지에 쓴 2024년 글(사랑스러운 은혜의 기계들)을 통해 사람들이 자신의 생각을 이해해주길 바라는 눈치다. 그 글에는 다음과 같은 구절이 나온다.

“사람들은 종종 내가 비관주의자이거나 ‘파국론자(doomer)’라서 AI가 대체로 나쁘고 위험하다고 생각한다고 결론짓는다. 나는 전혀 그렇게 생각하지 않는다. 오히려 내가 위험성에 집중하는 주요 이유 중 하나는, 그것들이야말로 제가 근본적으로 긍정적인 미래라고 보는 것 사이에 놓여 있는 유일한 장애물이기 때문이다.”