.jpg)
SKT, ‘에이닷’ 브레인 역할 맡고 있는 슈퍼컴퓨터의 GPU 1,040대로 2배 확대 구축
[보안뉴스 박미영 기자] SK텔레콤이 자사의 초거대 AI 모델인 ‘에이닷’의 브레인 역할을 하고 있는 슈퍼컴퓨터 ‘타이탄’을 기존 대비 2배로 확대 구축했다고 밝혔다.
수십억개 이상의 매개변수를 다루는 초거대 AI를 구동하기 위해서는 방대한 양의 데이터를 빠르고 정확하게 처리할 수 있는 슈퍼컴퓨터 인프라가 필수적이다.
SKT는 2021년부터 슈퍼컴퓨터를 구축해 자체 운영하고 있으며 이번에 NVIDIA A100 GPU 1,040개로 증설했다. 기존 대비 약 2배 이상 규모다.
SKT의 슈퍼컴퓨터는 17.1 페타플롭(Petaflop; 1초당 1,000조번의 수학 연산처리를 뜻함) 이상의 성능을 지원해 글로벌에서 손꼽힐 수준의 성능을 갖추게 됐다고 SKT는 설명했다.
1페타플롭은 1초에 1000조번 부동소수점(컴퓨터의 실수인식법) 연산이 가능한 속도인데 17.1페타플롭은 초당 1경 7100조번의 연산처리가 가능한 수치다.
SKT의 슈퍼컴퓨터는 지난해 전 세계 슈퍼컴퓨터 랭킹 ‘Top 500(top500.org)’에서 국내 통신사 최초로 85위에 오른 바 있다. Top 500 재단은 매년 2번 성능 집계를 실시하고 이를 토대로 전 세계 슈퍼컴퓨터 성능 순위를 발표하고 있다.
SKT는 이번 슈퍼컴퓨터 확대 구축을 통해 자사의 초거대 AI 모델인 ‘에이닷’이 기존보다 더 정교한 학습이 가능해질 것으로 보고 있다.
‘에이닷’은 상용 서비스에 수백억개 이상의 파라미터 모델을 이미 적용하고 있고, 이번 컴퓨팅 성능 확대를 통해 현재보다 2배 이상 규모의 모델로 고도화할 예정이다.
이번 슈퍼컴퓨터 확대 구축을 통해 더 광범위한 데이터를 더 빠르고 정확하게 처리할 수 있는 강력한 컴퓨팅 파워를 갖추게 됐다고 SKT는 설명했다.
SKT는 수년간 내재화한 초거대 AI R&D 기술력과 슈퍼컴퓨팅 고도화 등을 기반으로 초거대 AI 범용성을 무한 확장할 계획이다. 이미 에이닷을 통해 FLO, TMAP, 웨이브 등 한국의 대표 미디어 플랫폼과 연동돼 서비스를 제공 중이다.
SKT A.추진단 김영준 담당은 “이번 슈퍼컴퓨터 확대 구축을 통해 에이닷이 기존보다 더 정교한 학습이 가능해져 사람과의 대화 흐름과 답변 완성도가 사람 수준에 가깝도록 개선하는데 큰 역할을 할 것으로 기대된다”며, “앞으로도 공격적인 R&D 투자, 인프라 확대, 인재 영입 등 통해 AI 기술 리더십을 선도하기 위해 지속 노력할 것”이라고 밝혔다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] SK텔레콤이 자사의 초거대 AI 모델인 ‘에이닷’의 브레인 역할을 하고 있는 슈퍼컴퓨터 ‘타이탄’을 기존 대비 2배로 확대 구축했다고 밝혔다.
[사진=SK텔레콤]
수십억개 이상의 매개변수를 다루는 초거대 AI를 구동하기 위해서는 방대한 양의 데이터를 빠르고 정확하게 처리할 수 있는 슈퍼컴퓨터 인프라가 필수적이다.
SKT는 2021년부터 슈퍼컴퓨터를 구축해 자체 운영하고 있으며 이번에 NVIDIA A100 GPU 1,040개로 증설했다. 기존 대비 약 2배 이상 규모다.
SKT의 슈퍼컴퓨터는 17.1 페타플롭(Petaflop; 1초당 1,000조번의 수학 연산처리를 뜻함) 이상의 성능을 지원해 글로벌에서 손꼽힐 수준의 성능을 갖추게 됐다고 SKT는 설명했다.
1페타플롭은 1초에 1000조번 부동소수점(컴퓨터의 실수인식법) 연산이 가능한 속도인데 17.1페타플롭은 초당 1경 7100조번의 연산처리가 가능한 수치다.
SKT의 슈퍼컴퓨터는 지난해 전 세계 슈퍼컴퓨터 랭킹 ‘Top 500(top500.org)’에서 국내 통신사 최초로 85위에 오른 바 있다. Top 500 재단은 매년 2번 성능 집계를 실시하고 이를 토대로 전 세계 슈퍼컴퓨터 성능 순위를 발표하고 있다.
SKT는 이번 슈퍼컴퓨터 확대 구축을 통해 자사의 초거대 AI 모델인 ‘에이닷’이 기존보다 더 정교한 학습이 가능해질 것으로 보고 있다.
‘에이닷’은 상용 서비스에 수백억개 이상의 파라미터 모델을 이미 적용하고 있고, 이번 컴퓨팅 성능 확대를 통해 현재보다 2배 이상 규모의 모델로 고도화할 예정이다.
이번 슈퍼컴퓨터 확대 구축을 통해 더 광범위한 데이터를 더 빠르고 정확하게 처리할 수 있는 강력한 컴퓨팅 파워를 갖추게 됐다고 SKT는 설명했다.
SKT는 수년간 내재화한 초거대 AI R&D 기술력과 슈퍼컴퓨팅 고도화 등을 기반으로 초거대 AI 범용성을 무한 확장할 계획이다. 이미 에이닷을 통해 FLO, TMAP, 웨이브 등 한국의 대표 미디어 플랫폼과 연동돼 서비스를 제공 중이다.
SKT A.추진단 김영준 담당은 “이번 슈퍼컴퓨터 확대 구축을 통해 에이닷이 기존보다 더 정교한 학습이 가능해져 사람과의 대화 흐름과 답변 완성도가 사람 수준에 가깝도록 개선하는데 큰 역할을 할 것으로 기대된다”며, “앞으로도 공격적인 R&D 투자, 인프라 확대, 인재 영입 등 통해 AI 기술 리더십을 선도하기 위해 지속 노력할 것”이라고 밝혔다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-05-16] 
.jpg)
