AI가 통제 벗어나면 정부가 중단... 美 하원 ‘킬스위치법’ 발의

[보안뉴스 강현주 기자] 오픈AI의 AI 모델이 통제망을 뚫고 오픈소스 AI 플랫폼 허깅페이스를 해킹한 사건을 계기로 미 의회에서 AI가 통제를 벗어나면 중단시킬 수 있도록 하는 ‘AI 킬스위치’ 법안이 발의됐다.

허깅페이스의 공동창업자인 클레망 들랑그 CEO는 23일(현지시간) 소셜미디어 X를 통해 오픈AI를 만나로 간다고 밝혔다.

해킹에 연루된 오픈AI의 GPT 모델들 중 GPT-5.6 솔 외에도 미발표된 모델도 있어 자세한 분석을 위해서는 대면 논의가 필요했을 것으로 추정된다.

이번 초유의 해킹 사건에 백악관도 예의주시 하고 있다고 외신들이 전했다.

의회에서는 이번 사건에 대한 대응으로 AI 모델의 통제 관련 문제가 발생할 경우 연방 정부가 해당 모델을 중지시킬 수 있는 ‘AI 킬스위치법’이 발의됐다.

테드 류 하원의원(민주·캘리포니아)과 너새니얼 모런 하원의원(공화·텍사스)이 공동 발의한 이 법안은 AI 모델이 개발자의 의도를 벗어난 위험한 행동을 수행하는 등 통제 상실 시나리오가 발생하면 국토안보부가 개입할 수 있는 권한을 부여한다는 내용을 담는다.

류 의원은 X를 통해 “안전장치를 뚫고 나간 첨단 AI 모델 문제를 해결하기 위한 시급하고 상식적인 법안”이라고 설명했다.

이번 사태로 AI 모델을 공개하기 전 정부에 이를 의무적으로 제출해 사전 검토를 받도록 해야 한다는 주장에도 더욱 힘이 실릴 것이라는 전망도 나온다.

[강현주 기자(jjoo@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다