보안뉴스 창간 17주년을 축하합니다!!

Home > 전체기사

SK C&C, 기업 맞춤 ‘소형거대언어모델(sLLM) 제작 DIY’ 시대 연다

입력 : 2024-05-21 10:48
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
고객 맞춤형 sLLM 구현 지원 플랫폼, ‘솔루어 LLMOps’ 선보여

[보안뉴스 박미영 기자] 기업들이 다양한 파운데이션 모델을 자유롭게 조합한 sLLM을 통해 맞춤형 AI서비스를 셀프 구현하는 시대가 열린다. sLLM은 챗GPT, 하이퍼클로바X, 제미나이 등 LLM(거대언어모델)에 비해 소형이지만 특정 영역에 특화된 학습이 가능하다. 컴퓨팅 자원도 훨씬 적게 소모해 개발 비용을 줄이고 보안을 강화할 수 있어, sLLM을 활용하면 기업 전용 AI 서비스를 효율적으로 구축할 수 있다.

[사진=SK C&C]


SK C&C는 지난 20일 기업들이 손쉽고 빠르게 맞춤형 sLLM(소형거대언어모델)을 구현할 수 있도록 지원하는 플랫폼인 ‘Solur LLMOps(이하 솔루어 엘엘엠옵스)’를 제공한다고 이날 밝혔다.

SK C&C는 금융, 제조, 통신, 서비스 등 다양한 산업 분야에서 여러 고객들과 함께 수행해 온 생성형 AI 서비스 구축 운영 과정에서 축적한 생성형 AI 파운데이션 모델 적용 방안과 기업 데이터 결합 및 학습 노하우, 기업 맞춤 sLLM 구현 전 과정을 ‘솔루어 엘엘엠옵스’에 담아냈다. 파운데이션 모델은 정형·비정형 데이터를 학습해 언어 이해, 텍스트 및 이미지 생성, 자연어 대화와 같은 다양한 AI 작업 수행을 지원한다.

‘솔루어 엘엘엠옵스’는 먼저 다양한 외부 파운데이션 모델을 조합하고 활용할 수 있도록 지원한다. 오픈AI 챗GPT·네이버클라우드 하이퍼클로바X와 같은 상용 LLM뿐만 아니라 오픈소스 LLM으로 만들어진 다양한 파운데이션 모델도 활용할 수 있다. 기업 AI특성에 맞는 sLLM을 구축하기 위해 필요한 파운데이션 모델을 추천해 주고, 선택·조합·활용하는 과정을 지원한다.

특히 기업 업무에 맞춘 △데이터 수집 및 전처리 △자동 학습데이터 생성 △외부 파운데이션 모델을 활용한 학습 △sLLM 생성 및 테스트 등 과정 전반에 하이퍼오토메이션(초자동화)을 적용해 기업 맞춤 sLLM 구축 과정에서 효율성을 혁신적으로 높이고 비용도 절감시켜 준다. 실제로 ‘솔루어 엘엘엠옵스’는 기업이 보유한 데이터 수집과 동시에 비정형 데이터를 전처리해 학습용 데이터로 자동 생성한다. 이후 선택된 외부 생성형 AI 파운데이션 모델을 활용해 빠르게 학습을 진행하고, 기업 업무 목적에 맞는 sLLM을 완성한다. 그리고 서버리스(Serverless) 학습 자원 관리를 통해 제한된 리소스를 최적화할 수 있는 아키텍쳐를 제공한다.

‘솔루어 엘엘엠옵스’는 AI가 오답을 생성하는 할루시네이션(Hallucination, 환각) 현상 제거와 sLLM 테스트 기능도 제공한다. 데이터 전처리, 모델 생성, 평가, 활용 각 단계에서 할루시네이션을 처리하는 AI 자동화 도구를 제공해 비전문가도 안심하고 sLLM을 만들 수 있다. ‘솔루어 엘엘엠옵스’ 채팅창에서 간단한 질문으로 완성도 테스트를 수행할 수 있고, 테스트에 필요한 질문도 자동으로 제공한다.

이외에도 ‘솔루어 엘엘엠옵스’는 기업 업무 환경에 딱 맞는 빠른 sLLM 모델 생성 및 신뢰도 확보를 위한 사용자 친화적 환경(UI)과 경험(UX)을 제공한다. 사용자는 웹 화면에서 데이터를 선택 후 간편한 드래그 앤 드롭(Drag & Drop) 방식으로 데이터 정제부터 모델 튜닝 및 테스트까지 작업을 반복 수행할 수 있다. 다수 데이터 처리는 물론 다수 파운데이션 모델을 활용한 동시 병렬 학습도 마우스 조작만으로 간단하게 진행할 수 있다. 이를 통해 기업 현장에서 실무자가 본인 업무에 맞춰 필요한 sLLM을 손쉽게 만들고 다양한 업무에 활용할 수 있게 된다.

SK C&C 차지원 G.AI그룹장은 “솔루어 엘엘엠옵스에 담긴 주요 기능들은 금융사를 비롯해 SK 관계사 생성형 AI 구축 프로젝트에 적용돼 있다”며, “이를 시작으로 국내 산업 전반에 걸친 기업 맞춤형 sLLM 확산을 위해 적극 노력하겠다”고 말했다.
[박미영 기자(mypark@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
 하이젠 파워비즈 23년 11월 16일~2024년 11월 15일까지 아스트론시큐리티 파워비즈 2023년2월23일 시작 위즈디엔에스 2018 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지
설문조사
3월 15일부터 시행되고 있는 개정 개인정보보호법과 관련해 가장 까다롭고 이행하기 어려운 조항은 무엇인가요?
인공지능(AI) 등 자동화된 결정에 대한 정보주체 권리 구체화
접근권한 관리 등 개인정보 안전성 확보조치 강화 및 고유식별정보 관리실태 정기조사
영향평가 요약본 공개제도 도입 등 개인정보 영향평가제도
영상정보처리기기 및 안전조치 기준
개인정보 보호책임자의 전문성 강화 위한 전문CPO 지정
국외 수집·이전 개인정보 처리방침 공개 등 개인정보 처리방침 평가제도
손해배상책임 의무대상자 변경 및 확대
공공기관 개인정보 보호수준 평가 확대
기타(댓글로)