• AI챗팅·코딩·보고서 제작등 편리
  ‘마이챗’ 외국어번역 활용도 높아

모델들이 SK㈜ C&C가 내놓은 맞춤형 생성형 AI 서비스를 소개하고 있다. [SK㈜ C&C 제공]

SK㈜ C&C는 6일 멀티 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 AI(인공지능) 서비스 13종을 내놓았다고 밝혔다.

생성형 AI 서비스 13종은 AI 챗팅·코딩·보고서 제작 등 일반 범용 AI 서비스 3종을 비롯, ▷인사·재무 ▷회계·법무·규제준수(Compliance)·구매 ▷물류·생산관리·연구개발(R&D)·IT개발·마케팅·고객관리 등 직무 영역별 전문 AI 서비스로 구성됐다.

서비스는 SK C&C가 AI 오케스트레이션(Orchestration) 플랫폼과 국내외 LLM, 금융·제조 분야에서 수요가 많은 sLLM(경량화 거대언어모델)을 연계해 개발했다. 특히 SK C&C는 생성형 AI 오케스트레이션 플랫폼에 AI 채팅 서비스인 ‘마이챗(MY CHAT)’을 기본 서비스로 탑재해 일반 사무 활용도를 높였다.

마이챗을 설치하면 사내 데스크톱 가상화(VDI) 업무 환경에서도 완벽한 보안 상태를 유지하며 국내외 LLM을 사용할 수 있다. 마이챗을 활용해 기업 재무 정보, 시장 동향 등을 물어보거나 보고서 작성, 문서 요약, 외국어 번역 등의 업무를 맡길 수도 있고, 각종 업무 시스템 연계해 사내 지식 검색·상담 창구로도 역할 확대가 가능하다.

마이챗의 핵심인 오케스트레이션 기술은 작년에 구축 완료한 ‘우리은행 AI 지식상담 서비스’에 적용됐다.

이외에도 SK㈜, SK네트웍스, SKC, SK쉴더스 등 관계사에서 사용 중이며, 사내 헬프 데스크로 활용 범위를 확대할 예정이다.

직무별 전문 AI 서비스는 실제 산업 적용 사례를 기본 모델로 개발했다.

SK C&C는 제조 장비·설비 이상 징후를 탐지하고 장애에 대응한 사례 외에도, 대내외 데이터를 활용한 고객 상담 FAQ·영업 상담 스크립트 추천, AI 기반 언더라이팅(보험 계약 심사) 등 실제 생성형 AI 서비스 적용 사례를 반영했다.

생성형 AI 도입으로 인한 비용 증가, 정보오류·환각(Hallucination), 내부 데이터 유출 같은 우려도 없앴다고 SK C&C는 강조했다.

생성형 AI 오케스트레이션 플랫폼에서 ▷미세 조정(Fine-Tuning) ▷프롬프트 엔지니어링 ▷데이터 보안 및 권한 관리 등을 거치며 보안 안정성도 확보할 수 있다.

SK C&C 관계자는 “외부 LLM과 기업 내부 정보 검색 시스템을 실시간으로 결합하는 검색증강생성(RAG) 기반 스마트 에이전트 방식을 적용해 결과값의 정확도를 높였다”고 설명했다.

차지원 SK C&C G.AI그룹장은 “생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다”며 “기업 구성원이 SK C&C의 맞춤형 생성형 AI 서비스를 효율적으로 업무에 활용할 수 있다”고 말했다. 권제인 기자