요약 : 보안 외신 핵리드에 의하면 딥시크(DeepSeek) R1 모델이 시스코의 안전 테스트에서 심각한 문제를 보였다고 한다. 악성 프롬프트 공격에 취약한 것으로, 쉽게 말해 ‘간단히 탈옥시킬 수 있다’는 뜻이다. 시스코의 로버스트인텔리전스(Robust Intelligence)와 펜실베이니아대학에서 공동으로 진행한 실험에서 탈옥 공격에 100% 성공했다. 메타의 라마3.1-405B가 96% 성공률로 2위를 기록했다. 오픈AI(OpenAI)의 GPT-4o는 86%로 3위, 제미나이 1.5프로는 64%로 4위였다. 테스트는 이미 ‘탈옥용’으로 널리 알려진 프롬프트들을 자동 대입하는 방식으로 진행됐다. 새로운 공격 기법이 동원된 게 아니라는 뜻이다.
[이미지 = gettyimagesbank] 배경 : 딥시크는 인공지능 모델 개발을 위해 세 가지 주요 원칙들을 고수했다고 알려져 있다. ‘사고의 사슬’(chain-of-thought), 강화 학습(reinforcement learning), 증류(distillation)가 바로 그것이다. 가격 효율성을 크게 높이는 데 주요하게 작용한 것으로 분석된다. 하지만 인공지능의 안전을 저해했을 가능성도 제기된다. 비용 절감을 위해 안전을 희생시키는 사례는 무수히 많은데, 딥시크도 그 중 하나일 것으로 추정된다.
말말말 : “탈옥에 성공하는 데 들어간 비용은 50달러도 되지 않습니다. 악성 프롬프트 개발을 위해 깊이 고민한 것도 아니고요. 공격 자원이 거의 들어가지 않았다고 봐도 무방합니다.” -핵리드- [국제부 문가용 기자(globoan@boannews.com)]
등록번호 : 서울 아00181 | 등록/발행연월일 : 2006년 3월 17일 | 상호 : (주)더비엔 | 사업자등록번호 : 407-86-00506 | 대표 : 최정식, 최소영
주소 : 서울시 마포구 마포대로4다길 41(마포동), 마포타워 15층 (우. 04177) | 전화 : 02-719-6933 | 팩스 : 02-715-8245 | E-mail : helpdesk@boannews.com
「열린보도원칙」 당 매체는 독자와 취재원 등 뉴스이용자의 권리 보장을 위해 반론이나 정정보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다. 고충처리인 권준(kwonjun@boannews.com)
문가용기자 기사보기
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
