AWS “국내 데이터센터에서 아마존 베드록 공급…속도 더 빨라진다”
2024-09-24 14:50


벤 카바나스(Ben Cabanas) AWS 아시아태평양 및 일본 지역 기술 디렉터가 24일 서울 송파구 롯데호텔에서 열린 ‘AWS AI 데이: 이노베이션’ 콘퍼런스에 참석해 기조 연설하고 있다. [AWS 제공]

[헤럴드경제=권제인 기자] 아마존웹서비스(AWS)의 생성형 AI 애플리케이션 관리·개발 플랫폼 ‘아마존 베드록’(Amazon Bedrock)을 국내 데이터센터를 통해 사용할 수 있게 됐다. 기존에는 베드록 사용 시 일본이나 싱가포르 등 해외 데이터센터를 통해야 해 응답 지연, 데이터 주권 문제 등이 발생했는데 앞으로 AI 앱 개발이 더욱 편해지게 됐다.

24일 벤 카바나스 AWS 아시아태평양 지역 기술 디렉터는 24일 서울 송파구 롯데호텔에서 열린 ‘AWS AI 데이: 이노베이션’ 콘퍼런스 기조 강연에서 “오늘 베드락이 서울 리전(서버 권역)에 설치한다는 기쁜 소식을 전하게 됐다”고 말했다.

그는 “다른 지역을 통해 베드록을 사용할 수 있었지만, 저지연 요건과 데이터 주권을 중시하는 고객은 사용이 어려웠다”며 “앞으로 한국 기업들도 베드록을 활용해 다수 언어모델을 적용하고 프로토타입 실험을 신속하게 할 수 있다”고 설명했다.

카바나스 디렉터는 생성형 AI 시대에 클라우드의 중요성은 변치 않을 것이라고 강조했다. 그는 “AWS 클라우드에 생성형 AI 개발을 위한 모든 것이 갖춰져 있다”며 “AWS는 엔비디아 GPU(그래픽처리장치)를 대규모 클러스터로 구성하고 설계에서부터 보안을 고려해 안전한 환경을 구축하고 있다”고 말했다.

이어 “AWS와 엔비디아의 관계는 매우 긴밀하다”며 “이미 AWS는 엔비디아와의 협업을 통해 AI 슈퍼컴퓨터 프로젝트 세이바(Ceiba)를 구축했다”고 강조했다.

AWS를 사용하고 있는 파트너사들도 강연에 나섰다. AI 기업 앤스로픽의 프랜시스 파이 아시아태평양 파트너십 총괄은 최신 언어 모델 ‘클로드 3.5 소넷’을 소개하며 “챗GPT·제미나이 등 경쟁 모델보다 성능과 안전성 등에서 우수한 평가를 받았고, 제품군 완성을 위해 향후 새로운 모델을 출시할 예정”이라고 밝혔다.

뒤이어 기조연설자로 나선 루크 앤더슨 아시아태평양 지역 데이터·AI 디렉터는 기업들에 데이터 활용과 책임감 있는 AI 활용을 강조했다. 그는 “만약 여러분이 생성형 AI 학습을 위한 데이터가 준비돼 있지 않다면, AI에 준비되지 않은 것”이라며 “데이터 수집, 버전 관리 및 문서화, 정제 등을 통해 생성형 AI를 위한 데이터 전략을 꾸려나가야 한다”고 말했다.

또 “세계 여러 기관이 생성형 AI를 규제하기 위해 움직이고 있고, 잘못된 훈련 데이터로 AI에 선입견이나 편향성이 생길 경우 리스크로 이어질 수 있다”며 “이런 규제가 완성될 때까지 시간이 오래 걸린다고 혁신의 속도를 늦춰선 안 되고, 조직 내에서 개인정보 보호나 보안 등을 검토하는 절차를 만드는 것이 중요하다”고 강조했다.



eyre@heraldcorp.com



랭킹뉴스


COPYRIGHT ⓒ HERALD CORPORATION. All Rights Reserved.