오픈AI “13억원짜리 난제 해결” 주장에도 오히려 논란…무슨일?

[헤럴드경제=김영철 기자] 인공지능(AI) 기업 오픈AI가 자사 AI로 100만달러(약 13억원)의 현상금이 걸린 수학 난제 중 하나인 ‘나비에-스토크스(Navier-Stokes) 방정식 문제’를 해결했다고 8일(현지시간) 발표했다. 그러나 경쟁사인 앤트로픽 소속 수학자가 포함된 다른 연구팀이 밀접히 관련된 문제의 증명을 이미 해둔 상태였고, 발표 며칠 전에 오픈AI가 ‘앤트로픽 소속 수학자 이름은 빼달라’는 취지로 흥정을 시도했다는 폭로 주장이 나와 논란이 일파만파로 커지고 있다.

나비에-스토크스 방정식은 액체·기체·플라스마 등 유체(流體·fluid)의 움직임을 기술하는 방정식이다. 해당 방정식은 유체역학과 공학 등 응용 분야에서 널리 사용되고 있다. 다만 여러 가지 가정을 추가해서 엄청나게 단순화한 경우를 제외하고는 엄밀하게 수식만으로 답을 내기가 지극히 어렵고, 일반적인 경우의 수학적 특성에 대해서도 알려지지 않은 바가 많다.

이 방정식 자체의 구체적 사례들은 응용 분야가 무궁무진해 실용적으로 매우 중요한 가치를 지니고 있다. 특히 ‘나비에-스토크스 방정식 문제’는 실용적 관점이 아닌 수학적 관점에서 매우 중요하다.

‘나비에-스토크스 방정식 문제’란 상당히 일반적인 경우에 대해 이 방정식의 해(解·solution)의 존재성(existence), 매끄러움(smoothness), 유일성(uniqueness) 등 기초적인 성질들을 증명하든지 혹은 반례를 찾아내든지 하라는 것이다.

클레이 수학연구소(CMI)는 이 문제를 포함한 7개의 수학 난제에 대해 2000년에 각각 100만달러의 현상금을 걸었다. 그중 한 문제가 지금까지 해결됐고, 아직 해결 검증이 끝나지 않은 이 문제를 포함한 나머지 6개는 공식적으로 미해결 상태다.

CMI 홈페이지에는 이 문제에 대해 이런 설명이 붙어 있다. “이것은 물과 공기와 같은 유체(流體·fluid)의 흐름을 지배하는 방정식이다. 그러나 물어볼 수 있는 가장 기본적인 질문들에 대해서조차 증명이 존재하지 않는다. 해가 존재하는가, 그리고 유일한가 하는 것이다. 왜 증명을 요구하느냐고? 증명은 확실성뿐만 아니라 이해도 제공하기 때문이다.”

이 문제의 성격상 ‘예’ 또는 ‘아니오’ 식으로 딱 부러지는 해결 여부 판단 기준을 세울 수는 없으며, 이 때문에 클레이 수학연구소는 조금 더 구체화한 기준을 수학계 권위자인 찰스 페퍼먼 프린스턴대 수학과 석좌교수가 작성한 논문을 통해 제시해둔 상태다.

오픈AI의 최고연구책임자 마크 첸은 8일 나비에-스토크스 방정식 문제를 해결했다고 발표하면서 “이는 AI 연구에 있어 중요한 이정표이며, 우리가 직면한 가장 난해한 문제들 중 더 많은 문제에 대해 답을 찾을 수 있게 해줄 것이라는 점에서 전 세계에 큰 가능성을 제시한다”고 말했다.

오픈AI는 8월 28일에 훈련을 시작한 자사 AI 모델이 단 며칠 만에 이 문제를 해결해냈다고 발표했다. 이 모델은 지난 3일 출시된 상용 첨단 모델 ‘GPT-6 아스트라’보다도 성능이 상당히 더 뛰어난 내부용 모델이었다고 이 회사는 밝혔다.

오픈AI는 나비에-스토크스 방정식을 따르는 유체의 움직임에서 유한 시간(finite time) 내에 특이점(singularity)이 생길 수 있다는 점을 AI 증명으로 입증했다고 설명했다. 특이점이 있다는 것은 ‘매끄러움’ 성질에 대한 반례를 찾아냈다는 뜻이다.

오픈AI는 자체 내부 모델이 문제 해결에 도달한 시점이 첫 에이전트들의 가동 시작 88시간 후인 9월 5일이었으며, 증명 보조 도구인 ‘린’(Lean)을 이용한 증명의 형식화와 검증을 GPT-6 아스트라를 거쳐서 하는 데에 추가로 17시간이 걸려 9월 6일에 증명이 끝났다고 밝혔다.

나비에-스토크스 방정식 문제 해결을 위해 에이전트들이 270만개의 메시지를 주고받았으며 약 1300억개의 토큰을 썼다고 오픈AI는 밝혔다. 이 문제를 포함해 CMI가 제시한 난제들 중 미해결인 6건 모두를 해결하려고 시도했으며, 그 과정에서 에이전트들이 도합 490만개의 메시지를 주고받고 약 3000억개의 토큰을 썼다고 회사 측은 덧붙였다.

오픈AI는 이번 결과가 CMI가 제시한 ‘나비에-스토크스 방정식 문제’의 해결에 해당하는 조건을 충족한다고 주장했다.

다만 이러한 주장은 외부 전문가의 검토와 CMI의 인정을 거치지 않은 상태다. CMI는 연구 결과가 옳다고 수학계에서 널리 인정받아야만 한다는 조건을 판단 기준으로 삼고 있으며, 이런 인정 과정에는 동료심사가 이뤄지는 학술지에 발표되는 시점으로부터 따져 최소한 2년이 걸린다.

하지만 오픈AI의 발표 전날에 경쟁 연구자의 문제 제기로 우선권 논란이 불거지고, 오픈AI가 발표 전에 ‘흥정 시도’를 했다는 폭로가 나오면서 논란이 일고 있다.

미국 뉴욕대(NYU) 쿠란트 수리과학연구소의 트리스탄 벅매스터 교수와 앤트로픽 소속 수학자 레벤트 알푀게는 9월 7일에 ‘나비에-스토크스 방정식 문제’와 밀접히 관련된 문제 3건을 해결했다는 프리프린트(심사를 받기 전에 공개하는 논문 초안)를 올렸다.

프리프린트 공개로부터 몇 시간 후인 오후 11시58분(미 동부시간)에 벅매스터 교수는 ‘성명서’를 온라인으로 공개했다. 벅매스터 교수는 린으로 검증을 끝낸 후 프리프린트로 이날 공개한 3건의 결과 외에도 “아소산적(亞消散的·hypo-dissipative) 나비에-스토크스 방정식의 유한 시간 폭발(blowup)”을 입증하는 결과를 얻은 것으로 믿고 있으나, 아직 린 검증이 마무리되지 않아 프리프린트를 공개하지 않았다고 말했다.

그는 8월 15일부터 관련 문제들에 대한 연구에 진전이 있었고, 집중적으로 작업을 해왔다고 밝혔다. 벅매스터 교수는 ‘앤트로픽이 주요 미해결 난제를 해결했다’는 소문이 파다해진 상황에서 ‘오픈AI가 우리의 진전 상황을 입수했다는 소문이 있다’는 얘기를 알푀게로부터 전해 들은 후, 9월 3일에 오픈AI에서 일하는 저명 수학자에게 이메일을 보냈다고 밝혔다.

이메일을 보낸 당일에 오픈AI 측으로부터 면담을 잡아보자는 제안이 왔고, 실제 대화는 일요일인 6일 오후에 이뤄졌다고 벅매스터 교수는 설명했다. 그 과정에서 오픈AI가 ‘양측이 협의해 연구 결과를 발표하자’며 두 가지 제안을 내놓았으나, 벅매스터 교수는 두 안을 모두 거부했다고 말했다.

벅매스터 교수는 흥정 과정에서 오픈AI에 재직 중인 수학자 세바스티엥 부베크가 ‘앤트로픽 소속인 레벤트 알푀게를 논문 저자 명단에서 빼달라’는 취지의 요구를 두 차례 했다고 주장했다.

특히 오픈AI 측이 협박으로 해석될 소지가 있는 발언을 했다고 벅매스터 교수가 주장한 점이 큰 파문을 일으키고 있다. 벅매스터 교수는 “만약 오픈AI가 제안한 방식으로 결과를 발표한다면 무슨 일이 있었는지 공개하겠다고 말했다. 그러자 ‘왜 당신의 경력을 스스로 망치려고 하나’라는 대답이 돌아왔다. 나는 내가 학자라는 점을 언급하며, ‘왜 사실을 공개하는 것이 내 경력을 망치는 일이냐’고 물었다. 이에 대한 대답은 ‘내가 좋게 나오길 원치 않는다면, 자신도 굳이 좋게 나올 필요는 없겠다’는 것이었다”고 주장했다.

그는 “내가 주장하지 않는 것이 무엇인지 분명히 하고 싶다. 나는 오픈AI의 증명을 본 적이 없다. 그들의 모델이 무엇을 했는지, 어떻게 했는지 모른다. 우리의 데이터가 사용되었는지도 모른다”며 “언제, 어떤 말을 들었고, 무엇을 제안받았는지를 밝히고 있을 뿐”이라고 덧붙였다.

이어 “이렇게 말하는 이유는, 그렇게 하지 않으면 내가 거짓이라고 알고 있는 내용이 (오픈AI의) 일련의 발표들로 공개되도록 내버려 두는 상황이 되기 때문”이라며 만약 오픈AI가 문제 해결에 성공했다면 직접 큰 목소리로 밝히면 될 일이라고 말했다.

이런 의혹 제기에 대해 오픈AI 측은 미공개 데이터나 연구 결과 도용은 전혀 없었고 저자 명단 배제 요구도 한 적이 없다고 미국 언론매체들에 해명했다. 다만 ‘경력을 망치려고 하느냐’라는 발언은 부적절했다며 사과했다.

아울러 “그들(벅매스터와 알푀게)이 우리 제품을 사용함에 따라 나온 비식별화 데이터가 우리 모델 개선에 도움이 됐을 가능성은 배제할 수 없다”고 말했다.