디사일로 LLM 추론 프레임워크 ‘토르’, 국제 FHE 벤치마킹 스위트 등재

‘버트’ 암호화 상태로 비암호화 대등 정확도 구동
“프라이버시 보호 AI 생태계의 기반 마련”

[보안뉴스 강현주 기자] 디사일로(대표 이승명)는 자사의 완전동형암호(FHE) 기반 거대언어모델(LLM) 추론 프레임워크 ‘토르’(THOR)가 국제 표준화 단체 ‘호모모픽인크립션닷오알지’(HomomorphicEncryption.org)가 주관하는 ‘FHE 벤치마킹 스위트’에 공식 등재되었다고 28일 밝혔다.

토르는 데이터를 복호화하지 않고 암호화된 상태 그대로 LLM 추론의 전 과정을 수행하는 세계 최초의 프레임워크다. 이번 벤치마킹 스위트에 언어모델 암호화 추론을 위한 레퍼런스 구현(reference implementation)으로 포함됐다. 이를 통해 암호화된 AI 추론 성능을 누구나 재현하고 비교할 수 있는 공통 기준이 마련됐다.

완전동형암호(FHE)는 데이터를 복호화하지 않고 암호화된 상태 그대로 모델 연산을 수행할 수 있도록 하는 기술로, AI 환경에서 가장 강력한 수준의 프라이버시 보장을 제공한다. 하지만 기술이 비약적으로 발전해 온 데 반해, 그동안의 연구 성과는 서로 다른 하드웨어와 파라미터 조건에서 개별적으로 보고되어 실질적인 진전을 객관적으로 가늠하기 어려웠다.

FHE 벤치마킹 스위트는 커뮤니티가 공유하는 재현 가능한 워크로드와 성능 측정 기준을 정의함으로써 이러한 한계를 해소하는데 목적이 있다. 토르는 이 중 언어모델 암호화 추론 영역의 첫 레퍼런스 구현으로 포함되돼 향후 관련 기술들이 비교 및 검증될 수 있는 기준점 역할을 하게 된다.

슈루티 고란탈라(Shruthi Gorantala) 구글 FHE 벤치마킹 스위트 공동 리드인 는 “완전동형암호 기술은 빠르게 발전해 왔지만, 성과마다 측정 조건이 달라 실제 진전을 체계적이고 객관적으로 비교하기 어려웠다”며 “머신러닝 분야의 MLPerf처럼, FHE 벤치마킹 스위트는 커뮤니티 전체가 공유하는 기준점이 되어 준다”고 말했다.

이어 “트랜스포머 추론이 이 벤치마크에 포함되면서, 암호화 추론은 일회성 시연에 그치지 않고 누구나 재현하고 비교하며 발전시킬 수 있는 성과가 됐고 생태계는 바로 이렇게 만들어진다”라고 했다.

토르는 디사일로와 김미란 한양대학교 교수 연구팀의 공동 연구를 통해 개발됐으며, 정보보안 분야 최고 권위 학회 중 하나인 ACM CCS 2025에서 논문을 통해 발표됐다. 기존에 공개된 오픈 소스 AI 모델을 별도의 재학습 없이, 입력과 연산 과정, 결과 출력에 이르는 전 과정을 암호화된 상태 그대로 처리하는 것이 특징이다. 이처럼 LLM 전체를 실용적인 수준의 속도로 암호화된 채 구동한 사례는 토르가 세계 최초다.

토르는 대표적인 AI 언어모델인 ‘버트’(BERT)를 데이터가 암호화된 상태 그대로 GPU 한 대에서 구동, 암호화하지 않은 일반 모델과 대등한 정확도(약 1%p 차이)를 유지하면서 벤치마크 추론 워크로드를 완료했다. 추론 시간은 논문 발표 당시 약 10분에서 이후 지속적인 최적화를 통해 약 2분으로 단축됐다.

특히 연산의 핵심인 행렬 곱셈 속도를 기존 최고 수준 대비 최대 9.7배까지 끌어올려, 그동안 완전동형암호의 가장 큰 과제로 지적돼 온 처리 속도를 크게 개선했다. 스위트에 포함된 토르의 구현과 성능 측정 방식은 누구나 동일한 조건에서 직접 재현해 확인할 수 있으며, 향후 암호화 언어모델 추론 기술의 성능을 비교하는 기준선(baseline)으로 활용될 예정이다.

이승명 디사일로 대표는 “토르가 FHE 벤치마킹 스위트에 공식 등재된 것은 이 분야가 개방된 환경에서 공통의 기준 위에 발전해야 한다는 우리의 믿음을 반영한다. 성과는 주장되는 것이 아니라 검증되어야 한다”라며 “암호화된 언어모델 추론을 위한 공통 기반의 첫 구현을 제시하고, 이를 공통 기준으로 공개하게 되어 자랑스럽게 생각하며, 앞으로도 완전동형암호를 연구 단계에서 실제 프라이빗 AI로 이어가는 데 힘쓰겠다”라고 말했다.

디사일로는 기업과 공공기관을 위한 완전동형암호 기반 프라이빗 AI를 지속적으로 고도화하는 한편, 미국 국립표준기술연구소(NIST)와 국제표준화기구(ISO)의 완전동형암호 표준화 논의에 참여하고 있다.

[강현주 기자(jjoo@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다