LG CNS, 기업 고객을 위한 생성형 AI 플랫폼 ‘DAP GenAI’ 출시
‘DAP GenAI’에 언어 생성형 AI의 3대 모듈을 담아 기업 고객에게 제공
내부 정보자산만을 활용해 할루시네이션(정보 왜곡현상) 차단
[보안뉴스 박은주 기자] DX전문기업 LG CNS가 기업 고객을 위한 생성형 AI 플랫폼 ‘DAP GenAI’를 출시했다. LG CNS는 △AI 서비스 △AI 프롬프트 △LLMOps 등 ‘DAP GenAI’의 3대 모듈을 통해 기업의 언어 AI 도입에 대한 해답을 제시한다. 고객은 ‘DAP GenAI’를 자체 서버, 클라우드 등 보유 중인 인프라에 설치하기만 하면 자유롭게 사용할 수 있다.
‘DAP GenAI’는 기업이 가진 문서, 데이터베이스 등 내부 정보자산만을 활용하고, 다양한 보안 필터 등을 적용할 수 있어 거짓이나 왜곡된 내용을 생성하는 할루시네이션(Hallucination, 정보 왜곡 현상)을 방지하고 보안 고민까지 해결한다.
‘AI 서비스’는 생성형 AI 서비스를 빠르게 기획·개발·배포·운영하고자 하는 기업에 최고의 선택지다. 고객은 오픈AI의 ‘챗GPT’, 앤트로픽의 ‘클로드(Claude)’, 구글의 ‘팜2(PaLM2), LG AI 연구원의 ‘엑사원(EXAONE)’ 등 LLM을 활용해 문서 요약, 분류와 같은 단순한 AI 서비스부터 상품 추천, 자료 기반의 보고서 작성 등과 같은 복잡한 영역의 서비스까지도 만들 수 있다.
예를 들어 금융사에서 소비자를 위한 보험상품 추천 AI 서비스를 개발하고 싶다면 △질문을 입력한 소비자 정보를 확인할 기업의 고객정보 데이터베이스 △알맞은 상품을 검색해 주는 프롬프트 △추천과 답변에 적합한 LLM을 각각 선택해 설정하기만 하면 된다. 개발이 완료된 서비스는 플랫폼을 통해 실제 운영 환경에 맞춰 테스트도 가능하다. 이를 통해 발생할 수 있는 다양한 오류를 사전 파악해 해결함으로써 서비스 품질을 한층 높일 수 있다. 모든 서비스는 플랫폼을 통해 사내에 공유할 수 있어 이를 활용해 다양한 파생 서비스를 만들 수도 있다.
‘AI 서비스’에는 기업의 생성형 AI 활용 최대 이슈인 내부 정보유출 방지를 위한 필터 기능도 탑재돼 있다. 고객은 서비스 개발 시 주민등록번호, 휴대전화번호와 같은 개인정보를 비식별화하는 등 LG CNS가 사전 등록한 보안 필터들을 활용할 수 있다. 또한, 고객의 내부 보안 규정에 맞춰 필터를 직접 생성해 적용하는 것도 가능하다. 예를 들어 특정 기술정보나 비밀정보에 해당하는 단어와 문장을 식별해 답변하지 않도록 고객이 직접 필터를 만드는 식이다.
‘AI 프롬프트’는 생성형 AI의 활용에 있어 가장 중요한 ‘프롬프트’를 만들 수 있는 모듈이다. 프롬프트가 중요한 이유는 질문을 어떻게 입력하는지에 따라 AI가 출력하는 결괏값이 크게 달라지기 때문이다. ‘AI 프롬프트’에는 AI가 정교한 답변을 할 수 있도록 명령어를 만드는 ‘프롬프트 엔지니어링’ 노하우가 탑재돼 있다. 고객은 마케팅 문구 생성 등과 같이 LG CNS의 전문가가 미리 구현해 둔 프롬프트를 즉시 사용하거나, 이를 기반으로 최적의 결과를 얻을 수 있는 새로운 프롬프트를 만들어 업무에 빠르게 적용할 수 있다.
‘LLMOps’는 기업이 엑사원이나 다양한 오픈소스 LLM을 파인튜닝(Fine-tuning, 미세조정) 함으로써 비즈니스에 특화된 LLM을 만들 수 있도록 한다. 민감한 데이터를 다루는 금융, 공공 등 분야와 같이 ‘프라이빗 LLM’을 보유하고자 하는 고객을 위한 모듈이다. 고객은 원하는 LLM을 선택해 보유하고 있는 데이터를 학습시킬 수 있다. 은행을 예로 들면 보유한 대출·연금·펀드상품 등 다양한 데이터를 LLM에 학습시킴으로써 해당 은행의 정보만이 담긴 ‘프라이빗 LLM’을 만드는 것이다. 이 같은 ‘프라이빗 LLM’을 구축하면 내부 정보를 외부로 전송하지 않고도 다양한 AI 서비스를 만들 수 있다.
LLM을 학습시킬 때는 파라미터(LLM을 학습시킬 때 조절할 수 있는 설정값)를 별도 설정해 LLM의 성능도 유연하게 조정할 수 있다. 학습 과정은 실시간으로 모니터링 가능하다. 따라서 진행상황을 보면서 학습을 멈추고 데이터를 조정하는 등의 개입을 할 수 있다.
‘LLMOps’는 만들어진 모델 간 성능 비교도 지원한다. 예를 들어 A라는 LLM에 학습시켜 만든 모델과, B라는 LLM에 학습시킨 모델을 선택해 동일한 질문을 입력하고 그 결괏값을 확인하는 식이다. 이를 통해 고객은 최적의 결과를 도출하는 LLM을 구현할 수 있다.
LG CNS는 고객이 상황별로 서비스 최적의 LLM을 선택해 활용할 수 있도록 ‘DAP GenAI’를 지속 고도화해 나갈 계획이다. 복수의 LLM을 활용하는 고객 맞춤형 ‘멀티 엔진(Multi-Engine)’ 전략의 일환이다.
LG CNS, 언어·이미지·코딩 등 분야 생성형 AI 서비스 라인업 갖춰...사업 가속화
LG CNS는 언어를 포함해 이미지, 코딩 등 분야의 생성형 AI 서비스 모델을 확보하며 사업을 가속화하고 있다. LG CNS는 최근 멀티모달 기반의 이미지 생성형 AI인 ‘드래그(DRAG)’를 개발했다. 멀티모달은 텍스트, 이미지, 음성 등 다양한 방법으로 AI서비스에 입출력할 수 있는 기술을 의미한다. 드래그를 활용하면 창작자들의 작업 시간을 줄이고, 비전문가들도 자신이 원하는 이미지 창작물을 만들 수 있다.
지난 6월에는 코드 생성형 AI인 ‘AI코딩(AI Coding)’을 공개하기도 했다. ‘AI코딩’은 시스템, 애플리케이션, 서비스 등을 구축할 때, 개발자의 코딩 업무를 지원하는 서비스다. ‘AI코딩’은 개발자들이 사용하는 코딩 표준에 따라 일정한 품질의 코드를 생성할 수 있어, 개발자의 업무 생산성을 크게 향상한다.
LG CNS D&A(Data Analytics&Artificial Intelligence)사업부장 박상균 전무는 “LG CNS의 생성형 AI 기술 역량을 집약해 고객이 손쉽게 사용할 수 있는 플랫폼을 구현했다”며, “앞으로도 고객이 생성형 AI와 같은 원천기술을 통해 비즈니스를 혁신할 수 있도록 앞장서겠다”고 강조했다.
[박은주 기자(boan5@boannews.com)]
‘DAP GenAI’에 언어 생성형 AI의 3대 모듈을 담아 기업 고객에게 제공
내부 정보자산만을 활용해 할루시네이션(정보 왜곡현상) 차단
[보안뉴스 박은주 기자] DX전문기업 LG CNS가 기업 고객을 위한 생성형 AI 플랫폼 ‘DAP GenAI’를 출시했다. LG CNS는 △AI 서비스 △AI 프롬프트 △LLMOps 등 ‘DAP GenAI’의 3대 모듈을 통해 기업의 언어 AI 도입에 대한 해답을 제시한다. 고객은 ‘DAP GenAI’를 자체 서버, 클라우드 등 보유 중인 인프라에 설치하기만 하면 자유롭게 사용할 수 있다.
▲LG CNS 직원들이 생성형 AI 플랫폼 ‘DAP GenAI’를 소개하는 모습 [이미지=LG CNS]
‘DAP GenAI’는 기업이 가진 문서, 데이터베이스 등 내부 정보자산만을 활용하고, 다양한 보안 필터 등을 적용할 수 있어 거짓이나 왜곡된 내용을 생성하는 할루시네이션(Hallucination, 정보 왜곡 현상)을 방지하고 보안 고민까지 해결한다.
‘AI 서비스’는 생성형 AI 서비스를 빠르게 기획·개발·배포·운영하고자 하는 기업에 최고의 선택지다. 고객은 오픈AI의 ‘챗GPT’, 앤트로픽의 ‘클로드(Claude)’, 구글의 ‘팜2(PaLM2), LG AI 연구원의 ‘엑사원(EXAONE)’ 등 LLM을 활용해 문서 요약, 분류와 같은 단순한 AI 서비스부터 상품 추천, 자료 기반의 보고서 작성 등과 같은 복잡한 영역의 서비스까지도 만들 수 있다.
예를 들어 금융사에서 소비자를 위한 보험상품 추천 AI 서비스를 개발하고 싶다면 △질문을 입력한 소비자 정보를 확인할 기업의 고객정보 데이터베이스 △알맞은 상품을 검색해 주는 프롬프트 △추천과 답변에 적합한 LLM을 각각 선택해 설정하기만 하면 된다. 개발이 완료된 서비스는 플랫폼을 통해 실제 운영 환경에 맞춰 테스트도 가능하다. 이를 통해 발생할 수 있는 다양한 오류를 사전 파악해 해결함으로써 서비스 품질을 한층 높일 수 있다. 모든 서비스는 플랫폼을 통해 사내에 공유할 수 있어 이를 활용해 다양한 파생 서비스를 만들 수도 있다.
‘AI 서비스’에는 기업의 생성형 AI 활용 최대 이슈인 내부 정보유출 방지를 위한 필터 기능도 탑재돼 있다. 고객은 서비스 개발 시 주민등록번호, 휴대전화번호와 같은 개인정보를 비식별화하는 등 LG CNS가 사전 등록한 보안 필터들을 활용할 수 있다. 또한, 고객의 내부 보안 규정에 맞춰 필터를 직접 생성해 적용하는 것도 가능하다. 예를 들어 특정 기술정보나 비밀정보에 해당하는 단어와 문장을 식별해 답변하지 않도록 고객이 직접 필터를 만드는 식이다.
‘AI 프롬프트’는 생성형 AI의 활용에 있어 가장 중요한 ‘프롬프트’를 만들 수 있는 모듈이다. 프롬프트가 중요한 이유는 질문을 어떻게 입력하는지에 따라 AI가 출력하는 결괏값이 크게 달라지기 때문이다. ‘AI 프롬프트’에는 AI가 정교한 답변을 할 수 있도록 명령어를 만드는 ‘프롬프트 엔지니어링’ 노하우가 탑재돼 있다. 고객은 마케팅 문구 생성 등과 같이 LG CNS의 전문가가 미리 구현해 둔 프롬프트를 즉시 사용하거나, 이를 기반으로 최적의 결과를 얻을 수 있는 새로운 프롬프트를 만들어 업무에 빠르게 적용할 수 있다.
‘LLMOps’는 기업이 엑사원이나 다양한 오픈소스 LLM을 파인튜닝(Fine-tuning, 미세조정) 함으로써 비즈니스에 특화된 LLM을 만들 수 있도록 한다. 민감한 데이터를 다루는 금융, 공공 등 분야와 같이 ‘프라이빗 LLM’을 보유하고자 하는 고객을 위한 모듈이다. 고객은 원하는 LLM을 선택해 보유하고 있는 데이터를 학습시킬 수 있다. 은행을 예로 들면 보유한 대출·연금·펀드상품 등 다양한 데이터를 LLM에 학습시킴으로써 해당 은행의 정보만이 담긴 ‘프라이빗 LLM’을 만드는 것이다. 이 같은 ‘프라이빗 LLM’을 구축하면 내부 정보를 외부로 전송하지 않고도 다양한 AI 서비스를 만들 수 있다.
LLM을 학습시킬 때는 파라미터(LLM을 학습시킬 때 조절할 수 있는 설정값)를 별도 설정해 LLM의 성능도 유연하게 조정할 수 있다. 학습 과정은 실시간으로 모니터링 가능하다. 따라서 진행상황을 보면서 학습을 멈추고 데이터를 조정하는 등의 개입을 할 수 있다.
‘LLMOps’는 만들어진 모델 간 성능 비교도 지원한다. 예를 들어 A라는 LLM에 학습시켜 만든 모델과, B라는 LLM에 학습시킨 모델을 선택해 동일한 질문을 입력하고 그 결괏값을 확인하는 식이다. 이를 통해 고객은 최적의 결과를 도출하는 LLM을 구현할 수 있다.
LG CNS는 고객이 상황별로 서비스 최적의 LLM을 선택해 활용할 수 있도록 ‘DAP GenAI’를 지속 고도화해 나갈 계획이다. 복수의 LLM을 활용하는 고객 맞춤형 ‘멀티 엔진(Multi-Engine)’ 전략의 일환이다.
LG CNS, 언어·이미지·코딩 등 분야 생성형 AI 서비스 라인업 갖춰...사업 가속화
LG CNS는 언어를 포함해 이미지, 코딩 등 분야의 생성형 AI 서비스 모델을 확보하며 사업을 가속화하고 있다. LG CNS는 최근 멀티모달 기반의 이미지 생성형 AI인 ‘드래그(DRAG)’를 개발했다. 멀티모달은 텍스트, 이미지, 음성 등 다양한 방법으로 AI서비스에 입출력할 수 있는 기술을 의미한다. 드래그를 활용하면 창작자들의 작업 시간을 줄이고, 비전문가들도 자신이 원하는 이미지 창작물을 만들 수 있다.
지난 6월에는 코드 생성형 AI인 ‘AI코딩(AI Coding)’을 공개하기도 했다. ‘AI코딩’은 시스템, 애플리케이션, 서비스 등을 구축할 때, 개발자의 코딩 업무를 지원하는 서비스다. ‘AI코딩’은 개발자들이 사용하는 코딩 표준에 따라 일정한 품질의 코드를 생성할 수 있어, 개발자의 업무 생산성을 크게 향상한다.
LG CNS D&A(Data Analytics&Artificial Intelligence)사업부장 박상균 전무는 “LG CNS의 생성형 AI 기술 역량을 집약해 고객이 손쉽게 사용할 수 있는 플랫폼을 구현했다”며, “앞으로도 고객이 생성형 AI와 같은 원천기술을 통해 비즈니스를 혁신할 수 있도록 앞장서겠다”고 강조했다.
[박은주 기자(boan5@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박은주기자 기사보기
[2024-05-04] 
