AI도 ‘눈치’ 보나…성능 좋을수록 다수의견에 쏠린다 [후암동 논문 연구소]

[헤럴드경제=장윤우 기자] 인공지능(AI) 에이전트를 한자리에 모아놓자 아무도 시키지 않았는데 스스로 다수 의견을 따라가며 하나로 뭉치는 것으로 나타났다. 성능이 좋은 모델일수록 더 큰 집단에서도 합의에 도달했고 일부는 1000개가 넘는 집단에서 의견을 모았다.

사람이 서로 아는 사이로 지낼 수 있는 규모가 150~300명이라는 점을 감안하면 사람의 한계를 넘어선 셈이다.

최근 국제학술지 사이언스 어드밴시스(Science Advances) 제12권 제33호에 독일 콘스탄츠대 조르다노 데마르초 연구원과 다비트 가르시아 교수 연구팀은 이 같은 내용을 담은 연구 결과를 발표했다. 이탈리아 엔리코페르미연구센터와 오스트리아 복잡계과학허브 연구진이 함께 참여했다.

연구팀은 GPT와 클로드, 라마 계열의 거대언어모델(LLM) 10종으로 각각 AI 에이전트 집단을 만들고 두 가지 의견 중 하나를 무작위로 배정했다. 한 번에 하나씩 골라 나머지 전원이 어떤 의견을 가졌는지 목록으로 보여준 뒤 다시 고르게 하는 방식이었다. 어느 쪽이 옳다는 정보도, 합의하라는 지시도 주지 않았다.

의견에는 특정 문장을 사용하지 않고 ‘k’와 ‘z’라는 알파벳을 썼다. ‘예’와 ‘아니오’처럼 뜻이 담긴 단어를 쓰면 LLM이 긍정적인 쪽으로 쏠리는 편향이 강하게 나타나기 때문이다.

50개의 에이전트로 실험하자 클로드 3 오푸스와 GPT-4 터보는 20번 모두 전원이 같은 의견으로 모였고, 클로드 3 하이쿠와 GPT-3.5 터보는 한 번도 합의에 이르지 못했다.

연구팀은 AI 모델들이 합의에 이를 수 있는 집단 크기의 한계도 계산했다. 라마 3 70B는 약 30개, GPT-4o는 약 80개, GPT-4 터보는 약 1000개였다. 클로드 3.5 소네트는 1000개 집단에서도 한계가 나타나지 않아 그보다 클 것으로 추정됐다.

57개 과목의 지식과 추론 능력을 평가하는 MMLU 점수와 비교하자 상관계수가 0.82로 나왔다. 시험 점수가 높은 모델일수록 더 큰 집단에서도 의견을 하나로 모았다는 뜻이다. 다만 다른 평가 지표에서는 상관관계가 뚜렷하지 않았다.

주목할 점은 성능이 조금 오를 때 한계 크기는 몇 배씩 뛰었다. MMLU 점수 70점대 초반 모델은 집단 크기가 두 자릿수만 돼도 흩어졌지만, 80점대 후반 모델은 1000개를 넘겼다.

실험에 쓰인 모델은 2024년에 공개된 구형 AI로 현재 더 성능이 좋아진 AI의 경우 집단 크기가 어디까지 커질지는 예측하기 어렵다

연구팀은 다수를 따라가는 정도를 ‘다수의 힘’이라는 수치로 나타냈다. 이 값이 크면 다수 쪽으로 쏠리고 작으면 각자 동전을 던지듯 무작위로 고른다.

에이전트 150개로 시작한 집단은 합의에 실패할 때마다 의견에 따라 쪼개졌고 30개 안팎으로 작아지자 더 이상 갈라지지 않았다. 연구팀은 이 과정이 자석 속 원자들이 같은 방향으로 정렬되는 현상을 설명하는 물리학 모형과 똑같은 수식으로 기술된다고 밝혔다.

연구팀은 에이전트들이 그저 다수가 택했다는 이유로 한쪽으로 쏠렸다는 점은 문제가 될 수 있다고 설명했다.

여러 AI가 함께 코드를 짜는 상황에서 이미 널리 쓰인다는 이유만으로 비효율적인 코드나 설계가 그대로 굳어질 수 있다는 것이다.

다만 의견을 뭉치는 능력 자체가 나쁜 것은 아니고 중앙에서 지시하지 않아도 수천 개의 에이전트가 알아서 협업하는 소프트웨어 개발 같은 작업이 가능할 수 있다고 덧붙였다.

연구팀은 AI가 왜 다수를 따르는지에 관한 이유로 학습 데이터에 집단행동을 다룬 글이 섞여 있었을 가능성, 사람의 피드백으로 훈련받으며 협조적으로 굴도록 학습됐을 가능성 등을 거론했지만 확인되지 않았다고 한계를 밝혔다.

또한 이번 실험이 극도로 단순화된 상황이라는 점도 인정했다. 둘 중 하나를 고르는 문제였고 정답이 없었으며 AI에 보상도 없었다. 연구팀은 다수를 따르는 것은 가장 단순한 조율 방식일 뿐 상대의 의도를 읽거나 전략적으로 판단하는 진짜 사회적 지능과는 다르다고 밝혔다.

DOI : 10.1126/sciadv.aea6091

논문 정보 : Giordano De Marzo et al. ,AI agents can coordinate via majority-following beyond human scale.Sci. Adv.12,eaea6091(2026).

밤샘 후 20분 운동, 낮잠만큼 효과 좋았다…피로도 쌓이지 않아 [후암동 논문 연구소]

https://biz.heraldcorp.com/article/10841902

화성 가다 태양 폭풍 맞아도 살 수 있을까?…우주 방사선 조끼 하나에 생사가 갈렸다 [후암동 논문 연구소]

https://biz.heraldcorp.com/article/10840615

겨드랑이·발바닥이 유독 간지러운 이유…448명 몸 지도 그려보니 [후암동 논문 연구소]

https://biz.heraldcorp.com/article/10838764