AI 모델은 빌려쓰고, 기억은 소유하라 [크리스티안 카탈리니]

기업의 가장 가치 있는 AI(인공지능) 자산은 ‘정답’이 아니다. 회사의 최고 전문가들이 어떤 답변을 채택하고, 거부하며, 수정했는지가 축적된 기록이 가장 가치가 있다.

AI모델의 능력은 놀라울 정도로 뛰어나다. 코드를 작성하고, 시장을 분석하며, 소프트웨어를 구동한다. 뛰어난 모델은 지시가 모호하더라도 거의 완성된 결과물을 만들어낸다. 경영진에 이것은 마치 모든 것을 읽고, 잠도 자지 않으며, 어째서인지 회사의 문화에는 관심이 없는 지치지 않는 새 동료를 발견한 것 같은 기분을 느끼게 한다.

하지만 이는 동시에 위험한 혼란을 야기한다. 지능이 이토록 경이로우니, 모델 자체가 강력한 ‘해자(Moat·경쟁사가 쉽게 따라올 수 없는 지속적인 경쟁우위의 뜻으로 씀)’임에 틀림없다는 착각이다.

넷스케이프(Netscape)는 1990년대에 이 교훈을 배웠다. 그들은 획기적인 제품을 가졌고, 잠시나마 인터넷으로 가는 관문을 독점했다. 마이크로소프트(MS)는 인터넷 익스플로러를 무료로 제공하고 윈도우 운영체제에서 분리하기 어렵게 만드는 방식으로 대응했다. 정부는 이를 ‘끼워팔기’라 불렀다. 마이크로소프트는 어떤 구성 요소를 쉽게 복제할 수 있게 되면, 가치는 유통과 통합, 그 주변 시스템을 통제하는 쪽으로 이동한다는 사실을 꿰뚫고 있었다.

선두를 달리는 AI 연구소들 역시 이 점을 잘 알고 있다. 이들의 모델은 특히 최첨단 영역에서 엄청나게 중요하다. 신약 개발, 사이버 보안, 방산 분야에서는 아주 미세한 기술적 우위만으로도 승자독식의 경제학이 작동할 수 있다. 획기적인 돌파구가 막대한 전략적 가치나 특허 가치를 가져다줄 때, 2등으로 도착하는 건 과학적으로는 존경받을지언정 상업적으로는 무의미하기 때문이다.

그러나 그 최첨단 개척지 아래를 보면, 모델의 품질 자체만으로는 불안정한 해자에 불과하다. 연구원들은 회사를 옮겨 다니고, 논문은 공유되며, 과학자들은 서로 소통한다. 엔지니어들은 모델의 작동 방식을 조사하고 잘 작동하는 요소를 역공학(리버스 엔지니어링)으로 알아낸다. 인재들이 회전문을 돌듯 이직하는 과정은 그 자체가 지분 보상이 따르는 동료 평가(Peer Review)와 같다. 물론 최근 스페이스X AI가 체결한 계약들이 입증하듯 컴퓨팅 자원(연산 능력)에 대한 접근성이 핵심 병목 구간이긴 하지만, 어제의 독보적이었던 모델 성능이 내일은 어디서나 쉽게 구할 수 있는 흔한 선택지가 되는 것이 AI 시장의 생리다.

앞으로 전개될 시장의 모습은 단일 독점보다는 스마트폰 시장의 양분 구조와 비슷할 가능성이 높다. 최고를 위해 기꺼이 비용을 지불하는 고객들을 위한 프리미엄 최첨단 레이어와, 대부분의 업무를 처리하기에 충분한 수준의 광범위한 범용 모델 레이어로 나뉘는 것이다. 일단 이 단계에 접어들면, 지속 가능한 우위는 모델 그 자체가 아니라 모델을 둘러싼 생태계에 자리 잡게 된다. 결과적으로 여러 AI 기업이 시장에서 도태되지 않고 살아남을 기회를 얻게 될 것이다.

이것이 바로 AI 연구소들이 모델 외부 영역으로 확장해 나가는 이유다. 오픈AI의 새로운 ‘챗지피티(ChatGPT) 워크’는 맥락을 파악하고 다양한 툴, 파일, 데스크톱 앱을 넘나들며 작동한다. 앤트로픽의 ‘클로드(Claude) 코워크’는 복잡한 화이트칼라 업무를 위임받아 처리한다. ‘클로드 태그’는 기업의 소통 채널에 깊숙이 파고들어 핵심 정보를 기억하고, 대화와 데이터 소스 전반에 걸쳐 깊은 맥락을 구축한다. 이들은 매우 유용한 제품들이다. 동시에, 업무용 운영체제(OS)가 되기 위한 야심 찬 도전이기도 하다.

이런 툴들이 접근하는 데이터는 기업의 단순한 문서 보관함보다 훨씬 가치 있는 것이다. ‘기업의 맥락(Corporate Context)’이란 제품 출시가 왜 지연됐는지, 매출 추정치가 왜 반려됐는지, 어떤 예외적인 고객 대응이 사내 표준 정책이 됐는지, 어떤 그럴듯한 전략이 실패했는지, 그리고 어떤 직원이 그 실패를 진작 예견하고 있었는지에 대한 기록이다. 이는 그럴싸한 답변과 회사가 자신의 이름과 재무제표를 걸고 책임질 수 있는 진짜 답변 사이에 남겨진 수많은 ‘빨간 펜 수정 자국’의 궤적이다.

이 장부에서 가장 가치 있는 기록은 종종 ‘부정적인 피드백’이다. 법무 검토 후 폐기된 제안서, 주니어 분석가가 심각성을 인지하고 보고한 이상 징후, 공개 벤치마크 평가에는 절대 잡히지 않는 이유로 전문가가 반려한 모델의 결과물 같은 것들이다. 승인된 업무는 무엇이 통과되었는지를 보여줄 뿐이지만, 반려된 업무는 그 기업만의 고유한 안목과 기준의 경계가 어디인지를 드러내 준다.

콘텐츠 생성이 저렴해질수록 검증이 병목 구간이 된다. 일반적인 AI 모델은 점심시간 전에 대출 심사 보고서 10개를 뚝딱 만들어낼 수 있다. 하지만 베테랑 대출 심사역은 그중 어떤 보고서가 ‘대출 신청자가 거짓말을 하고 있다’는 가정을 은연중에 깔고 있는지 곧바로 찾아낼 수 있다. 그러한 판단력은 수년간의 결과, 실수, 특이 사례들을 겪으며 훈련된 것이다. 이는 단순한 데이터가 아니다. 고도로 조정된 ‘축적된 경험’이다.

우리 연구진은 이 함정을 ‘코디파이어의 저주(Codifier’s Curse)’라고 부른다. 전문가가 검증을 수행할 때마다 기계가 읽을 수 있는 흔적이 남게 되고, 이는 다음번에 행해질 유사한 판단을 자동화하는 데 기여한다. 모든 수정 작업은 일종의 미세한 도제식 교육과 같다. 여기서 던져야 할 질문은 ‘그 기계가 과연 누구의 제자가 되느냐’다.

만약 기업이 AI의 판단을 뒤집은 결정, 이유, 결과, 최종 번복 과정까지 자신들이 통제하는 인프라 내에 캡처해 둔다면, 검증된 각각의 결정은 재사용 가능한 훌륭한 선례가 된다. 기업은 스스로 발전하는 ‘등산 기계(Hill-climbing Machine)’를 구축하게 되는 셈이다. 어떤 범용 AI 모델을 갈아 끼우더라도 상관없이 자체적인 평가 시스템, 독점적인 원천 데이터, 축적된 판단력을 통해 기업 고유의 역량이 계속해서 진화하기 때문이다. 모델은 언제든 대체될 수 있지만, 10년간 쌓인 예외 처리 기록은 대체 불가능하다.

반면 이러한 수정의 흔적들이 주로 거대 AI 기업의 메모리, 에이전트 상태, 워크플로우 내에 쌓이게 놔둔다면 기업은 데이터에 대한 법적 소유권은 유지할지언정 그 전문 지식에 대한 실질적인 ‘운영 소유권’은 상실하게 될 수 있다. 명확히 하자면, 오픈AI와 앤트로픽은 기업 고객의 데이터를 기본적으로 모델 학습에 사용하지 않는다고 밝히고 있다. 당장 직면한 위험은 은밀한 사전 학습용 데이터 탈취가 아니다. 훨씬 더 조용하게 일어나는 ‘흡수’의 형태다. 즉, 기업의 제도적 기억(Institutional Memory)이 정작 인터페이스, 메모리 레이어, 데이터 이식성을 전혀 통제할 수 없는 타사의 시스템 안에서 가장 유용하게 작동하게 되는 상황이다. 게다가 프롬프트 자체에 대한 보안 확약이 있다 하더라도, 관련된 메타데이터, 툴 사용 기록, 소프트웨어와의 상호작용 등은 여전히 두 연구소의 AI 학습에 필수적인 부분으로 흡수될 가능성이 높다.

이것이 바로 눈앞에 다가온 ‘주권 전쟁’의 본질이다. AI 연구소들은 모델의 능력이 언제든 대체될 위험에 처해 있기 때문에, 이를 둘러싼 주변 레이어를 더 많이 소유하려는 강력한 유인을 가진다. 기업들은 정반대의 유인을 가져야 한다. 범용 지능을 우리 회사에 쓸모 있게 만들어 주는 핵심 요소, 즉 ‘맥락’, ‘자체 평가’, ‘수정 이력’, ‘결과 측정치’를 철저히 자사 내부에 지켜내야 한다.

마이크로소프트와 팔란티어(Palantir)는 점점 더 후자(기업 중심)의 입장과 궤를 같이하는 목소리를 내고 있다. 마이크로소프트는 이제 모델의 다양성과 고객 독점 ‘지능’의 보호를 강조하고 있으며, 팔란티어는 고객들에게 통제 가능한 기업의 맥락 속으로 언제든 교체 가능한 AI 모델들을 가져와 얹으라고 권유한다. 물론 두 회사 모두 자신들의 비즈니스 이익을 위해 말하는 것이긴 하다. 마이크로소프트는 고객이 마이크로소프트의 궤도 위에서 자신들의 업무 판단 과정을 소유하기를 원하며, 팔란티어는 거대 AI 연구소들로부터 지능을 빌려 쓰는 세상에서 자신들이 대체 불가능한 존재가 되기를 원한다. 하지만 이들의 속내를 차치하더라도, 그 경고 자체는 틀린 말이 아니다.

다행히 기업들에도 선택지는 있다. 오픈 가중치(Open-weight·학습이 완료된 AI 가중치를 공개해 누구나 활용할 수 있는 모델) 생태계는 갈수록 강력해지고 있으며, 기업들은 업무의 성격에 따라 여러 모델로 작업을 분산해 경로를 지정할 수 있다. 수개월간 토큰 소비를 극대화했던 ‘토큰맥싱(Tokenmaxxing)’의 열풍이 지나가고 필연적인 숙취가 찾아오면, 최고재무책임자(CFO)들이 주도하는 첫 번째 ‘멀티 호밍(Multi-homing·여러 AI 모델을 골라가며 사용하는 흐름)’의 물결이 일어날 것이다. 혁신 부서가 ‘스케일링(규모 확장)’이라 부르는 것을, 재무 부서는 결국 ‘공급업체 지출 검토’라고 부르기 마련이다.

그러나 단순히 더 저렴한 토큰을 찾아 쇼핑하는 것은 진정한 의미의 주권이 아니다. API를 바꿀 수 있되 그간 쌓아온 평가 기준, 메모리, 축적된 수정 사항들을 모두 잃어버린다면 그것은 멀티 호밍을 한 것이 아니다.

이사회는 경영진에 더 엄격한 시험대를 요구해야 한다. “우리가 기업의 건망증을 겪지 않고도 이 AI 모델을 다른 것으로 바꿀 수 있는가?”, “전문가들의 수정 기록이 이식 가능한 형태로 저장되고 있는가?”, “회사가 자체 평가 데이터, 결과 데이터, 지속 가능한 메모리를 온전히 소유하고 있는가?”, “에이전트가 왜 그런 결정을 내렸는지 역추적할 수 있는가, 아니면 내일 당장 우리 경쟁사가 그 답변으로부터 먼저 무언가를 배우게 될 것인가?”

그 미세한 우위가 결정적인 차이를 만드는 영역에서는 최첨단 지능을 사용하라. 그렇지 않은 곳에는 더 저렴한 모델이나 오픈 가중치 모델을 쓰라. 하지만 ‘검증 레이어’만큼은 반드시 기업의 벽 내부(자사 인프라)에 둬야 한다.

마이크로소프트는 한때 운영체제(OS)의 소유권을 지키기 위해 브라우저를 무료로 나눠 줬다. 오늘날의 기업들 역시 자신들의 고유한 ‘판단력’이라는 운영 레이어를 넘겨주는 대가로, 협업 툴에 끼워 팔려 오는 지능을 무비판적으로 수용해서는 안 될 것이다. AI 모델은 빌려 쓰라. 하지만 기억은 소유하라.

Rent the AI Model, Own Your Memory

The most valuable corporate AI asset isn‘t the answer. It is the accumulated record of which answers your top experts accept, reject and revise.

Artificial-intelligence models are astonishingly capable. They write code, analyze markets and operate software; the best can turn a vague instruction into an almost finished piece of work. For executives, this feels like discovering a tireless new colleague who has read everything, never sleeps, and somehow has no opinions about the culture of the company.

It also creates a dangerous confusion: If the intelligence is miraculous, the model must be the moat.

Netscape learned a version of this lesson in the 1990s. It had the breakthrough product and, briefly, the gateway to the internet. Microsoft responded by making Internet Explorer free and difficult to separate from Windows. The government called it tying. Microsoft understood that when a component becomes reproducible, value migrates to distribution, integration and control of the surrounding system.

The frontier AI labs understand this, too. Their models matter enormously, especially at the very top. In drug discovery, cybersecurity or defense, a marginal capability lead can have winner-take-all economics: when the breakthrough delivers outsize strategic or patent value, arriving second may be scientifically admirable but commercially irrelevant.

Below that frontier, however, model quality alone is a shaky moat. Researchers move companies. Papers circulate. Scientists talk. Engineers probe model behavior and reverse-engineer what works. The talent revolving door is peer review with equity upside. Of course, as SpaceXAI established with its recent deals, access to compute is a key bottleneck, but yesterday‘s extraordinary model capability has a habit of becoming tomorrow’s widely available option.

The likely market looks less like a single monopoly and more like the smartphone split: a premium frontier for customers who will pay for the best, and a broad model layer that becomes good enough for most work. Once that happens, the durable advantage sits in the ecosystem around the model. As a result, multiple AI companies have a shot at staying relevant.

That is why the labs are moving outward. OpenAI‘s new ChatGPT Work gathers context and acts across tools, files and desktop apps. Anthropic’s Claude Cowork delegates complex white-collar tasks. Claude Tag embeds itself in a company’s communication channels, remembers relevant information, and builds deep context across conversations and data sources. These are extremely useful products. They are also bids to become the operating system of work.

What they access is more valuable than a company‘s document archive. Corporate context is the record of why the launch was delayed, why the revenue number was rejected, which customer exception became policy, which elegant strategy failed, and which employee knew it would. It is the trail of red ink between a plausible answer and one the company is willing to put its name and balance sheet behind.

The most valuable entries in that ledger are often negative: the proposal killed after legal review, the anomaly a junior analyst escalated, the model output a specialist rejected for a reason no public benchmark captures. Approved work shows what passed. Rejected work reveals the boundary of the firm‘s unique taste.

As generation gets cheaper, verification becomes the bottleneck. A general model can produce ten credit memos before lunch. A veteran credit officer can tell you which one quietly assumes the borrower is lying. That judgment was trained by years of outcomes, mistakes and odd cases. It is not simply data. It is calibrated experience.

In our research, we call the trap the Codifier‘s Curse: Every act of expert verification creates a machine-readable trace that helps automate the next similar judgment. Every correction is a tiny apprenticeship. The question is whose apprentice it becomes.

If the firm captures the override, the reason, the outcome and the eventual reversal in infrastructure it controls, each verified decision becomes a reusable precedent. The company builds a hill-climbing machine: private evaluations, proprietary ground truth and accumulated judgment that improve regardless of which general model is plugged in. The model can be replaced. A decade of exceptions cannot.

If those traces accumulate mainly inside a vendor‘s memory, agent state and workflow, the firm may retain legal ownership of its data while losing operational ownership of its expertise. To be clear, OpenAI and Anthropic say enterprise customer data is not used to train their models by default. The immediate danger is not a clandestine pretraining heist. It is a quieter form of absorption: Your institutional memory becomes most useful inside a system whose interface, memory layer and data portability you do not control. And despite the reassurances on the prompts themselves, the related meta-data, tool use, and interactions with the software are still likely to become an integral part of both labs’ training.

This is the sovereignty battle now coming into view. Foundation labs have every incentive to own more of the surrounding layer because model capability faces substitution. Companies have the opposite incentive: Keep the context, evaluations, correction history and outcome measures that make generic intelligence useful.

Microsoft and Palantir sound increasingly aligned with the second camp. Microsoft now promotes model diversity and protection of the customer‘s proprietary “intelligence”; Palantir urges customers to bring replaceable models to governed enterprise context. Both are talking their books. Microsoft wants you to own your loop on Microsoft’s rails; Palantir is replaceable in a world of rented intelligence from the big AI labs. Their incentives don‘t make the warning wrong.

Fortunately, firms have options. The open-weight ecosystem is increasingly capable, and companies can route work across several models. The first wave of multi-homing will be led by CFOs after the inevitable hangover from months of tokenmaxxing. What innovation calls scaling, finance eventually calls a vendor spending review.

But shopping for cheaper tokens is not sovereignty. If a company can switch the API yet loses its evaluations, memories and accumulated corrections, it has not multi-homed.

Boards should insist on a harder test. Can the firm replace the model without corporate amnesia? Are expert overrides stored in a portable form? Does the company own its private evaluations, outcome data and durable memory? Can it reconstruct why the agent made a decision, and can a rival learn from the answer tomorrow?

Use frontier intelligence where the lead matters. Use cheaper or open-weight models where it doesn‘t. But keep the verification layer on the company’s side of the wall.

Microsoft once gave away the browser to retain ownership of the operating system. Companies should not accept intelligence bundled with coworking tools in exchange for the operating layer of their own judgment.

Rent the AI model. Own your memory.