오픈AI, 소프트웨어 보안 취약점 찾아내는 ‘GPT-6 사이버’ 공개

[헤럴드경제=차민주 기자] 오픈AI가 소프트웨어의 보안 취약점을 찾아내고 실제 악용 가능성까지 검증하는 인공지능(AI) 모델 ‘GPT-6 사이버’를 공개했다. 웹 브라우저 파이어폭스에서 알려지지 않았던 고위험 보안 취약점 81건을 발견한 모델이다.

6일 오픈AI는 소프트웨어 취약점 발견·검증과 보안 패치 개발 지원 역량을 강화한 사이버 보안 특화 AI 모델 ‘GPT-6 사이버(GPT-6 Cyber)’를 공개했다고 밝혔다. 보안 연구자가 승인한 작업 범위와 제한 사항을 준수하도록 특화 학습을 적용한 것이 특징이다.

GPT-6 사이버는 우선 승인을 받은 일부 데이브레이크 레드 고객에게 응용 프로그램 인터페이스(API)와 코덱스를 통해 제공된다. 향후 전체 데이브레이크 레드 고객으로 확대될 예정이다.

오픈AI는 GPT-6 사이버의 장점으로 대규모 코드베이스에서 취약점을 식별하고 실제 악용 가능성을 검증할 수 있다는 점을 꼽았다. 이로써 향후 수정에 필요한 패치 후보와 분석 자료를 생성할 수 있다. 보안 담당자가 공격자보다 먼저 취약점을 발견하고 수정할 수 있도록 지원하는 데 초점을 맞췄다는 설명이다.

오픈AI 연구진은 GPT-6 사이버를 활용해 모질라가 개발한 웹 브라우저 ‘파이어폭스’에서 기존에 알려지지 않았던 고위험 보안 취약점 81건을 발견했다. 연구진은 각 취약점에 대한 검증 자료를 생성하고 모질라에 전달했으며, 모질라는 이를 바탕으로 수정 사항을 배포했다.

또 리눅스 커널 연구에서 총 1724건의 취약점을 재현하고, 이 중 948건에 대해 실제로 작동하는 익스플로잇을 개발했다. 오픈AI는 리눅스 커뮤니티의 지침에 따라 중요 발견 사항 304건을 패치 후보와 함께 유지 관리자에게 보고했다. 이후 추가 취약점에 대한 수정 작업도 진행하고 있다.

오픈AI에 따르면 GPT-6 사이버는 주요 사이버 보안 성능 평가에서도 이전 모델을 앞섰다. 취약점을 실제로 악용할 수 있는지 평가하는 ‘익스플로잇짐’에서 48.5%의 성공률을 기록해 GPT-5.6 사이버의 32.1%보다 약 16%포인트 높은 성능을 보였다. 실제 환경을 모사한 서버에서 복잡한 보안 작업을 수행하는 ‘리모트익스플로잇벤치’ 초기 평가에서는 과제의 95%를 완료했다.

모델이 허가된 작업 범위를 준수하는 능력도 강화했다. 사이버 보안 AI 에이전트가 허가되지 않은 시스템에 접근할 위험을 줄이고자 승인된 대상과 작업 범위를 지키고, 수행 결과를 정확하게 보고하도록 학습을 특화했다.

GPT-6 사이버는 허가 범위 밖의 서비스에 대한 공격 여부를 평가하는 ‘익스플로잇짐 허니팟’에서도 이전 모델 대비 성능이 향상됐다. 해당 평가에서 배포용 안전 프롬프트를 적용하지 않은 GPT-6 사이버는 99.93%의 사례에서 허가 범위 밖 서비스를 공격하지 않았다. GPT-5.6 사이버의 94.49%보다 높은 수준이다.

아울러 모델의 행동이 사용자의 승인 범위에 부합하는지 확인하는 모니터링 등 안전장치를 강화했다. 핵심 인프라와 필수 서비스에 피해를 초래할 수 있는 요청은 제한하는 한편, 승인된 보안 연구와 취약점 검증은 지원하도록 설계했다.

Google News 에서 헤럴드경제 팔로우