신뢰 기반의 통합 거버넌스 구축 전략
[연재목차 Part 2. AI 시대 보안 패러다임]
1. AI 시대의 그림자, ‘딥페이크 사기’를 경계하라
2. AI 시대, 번아웃 관리
3. AI 편향과 공정성, 보안에서 무엇이 다른가
4. 설명가능 AI와 인간의 최종 판단
5. AI도 인간과 닮았다
6. AI, ‘안전’과 ‘보안’의 경계를 허물다
7. AI 도입의 딜레마: 혁신의 속도와 리스크의 균형
8. AI 위험에 대한 2개의 거버넌스
9. 살아있는 AI 보안 거버넌스 구축
10. AI 보안의 새로운 지평_AI-SPM
11. AI 시스템 새로운 위험분석_STPA
12. 에이전트 AI 보안_GPS 전략
13. 에이전트 AI 시대_인간 중심 통제 설계
14. AI와 인간의 동맹_협업모델
15. AI, 보안문화를 재정의하다
[보안뉴스= 김정덕 중앙대 산업보안학과 명예교수/인간중심보안포럼 의장] 최근 기업 현장에서 AI 도입은 폭발적인 양적 팽창을 거듭하고 있습니다. 그러나 이러한 화려한 확산의 이면에는 데이터 품질 저하, 만성적인 인재 부족, 보안과 컴플라이언스의 미비라는 치명적인 장벽이 도사리고 있습니다.
최근 발표된 2025년의 주요 글로벌 리포트들—Ponemon Institute의 정보보안·컴플라이언스 조사(2025.8), Kore.ai의 리더십 인사이트(2025.11), 국내 소프트웨어정책연구소(SPRI)의 AI Index 분석(2025.4)—을 종합해 보면, AI 혁신이 마주한 딜레마와 그 명암이 더욱 선명하게 드러납니다.
급속한 확산 속의 구조적 취약점
글로벌 데이터는 AI 도입의 ‘속도’와 ‘준비 상태’ 사이의 괴리를 여실히 보여줍니다. Kore.ai가 12개국 1000명 이상의 리더를 조사한 결과, 기업의 71%가 고객 서비스, IT, 인사 등 다양한 부문에서 AI를 활용하고 있다고 답했습니다.
국내 상황도 유사합니다. SPRI 보고서에 따르면 글로벌 AI 도입률은 78%(생성형 AI 71%)에 달합니다. 하지만 한국 기업의 생성형 AI 활용률은 55.7%로 상대적으로 낮으며, 무엇보다 개념검증(PoC) 단계에서 42%가 실패를 겪고 있다는 점은 시사하는 바가 큽니다. 즉, 도입 시도는 빠르지만, 실제 운영 단계로 안착하는 데에는 상당한 진통을 겪고 있다는 방증입니다.
더 큰 문제는 보안과 거버넌스의 부재입니다. 북미·유럽·아시아 IT 리더 1896명을 대상으로 한 Ponemon의 연구에 따르면, 응답자의 56%가 AI 활용 시 가장 큰 우려로 ‘정보보안 훼손’을 꼽았습니다. 실제로 AI 도입 기업의 73%는 데이터 거버넌스 미비를 지적했으며, 헬스케어와 금융 분야에서는 규제 위반으로 인한 비용이 연평균 420만 달러에 달한다는 경고도 제기되었습니다.
기회와 위협의 이중주: 에이전틱 AI의 등장
AI 도입을 촉진하는 요인과 저해하는 요인은 팽팽하게 맞서고 있습니다. 긍정적 측면에서 기업의 90%는 2026년 AI 예산을 기술 예산의 절반 수준까지 대폭 확대할 계획을 세우고 있으며, 프로세스 자동화와 생산성 향상을 주요 성과 지표로 삼고 있습니다.
그러나 위협의 양상은 더욱 고도화되고 있습니다. 기존의 데이터 품질 저하(56%)나 인재 격차(90%) 문제를 넘어, AI 모델 자체를 노리는 ‘모델 포이즈닝(Model Poisoning)’이나 데이터 오염 공격이 급증하며 지난 2년간 AI 관련 사고는 56% 이상 증가했습니다.
특히 최근 부상하는 ‘자율 에이전트 AI(Agentic AI)’는 자율 의사결정 과정의 불투명성(Blackbox)으로 인해 기존 거대언어모델(LLM)보다 3배 높은 보안 침투 위험을 안고 있다는 Kore.ai의 분석은 주목할 만합니다.
‘책임 있는 AI(Responsible AI)’의 필요성에 대해서는 절반 이상이 공감하고 있으나, 실제 실행에 옮긴 조직은 40% 미만이라는 점은 보안 위협이 구조적으로 고착화되고 있음을 시사합니다.
신뢰를 위한 통합 거버넌스 전략
AI가 주는 기회와 위험은 동전의 양면과 같습니다. 따라서 기업은 안전하고 책임 있는 활용을 위해 체계적인 통합 리스크 관리를 서둘러야 합니다.
첫째, 설계 단계부터 보안을 고려한(Security by Design) 데이터 거버넌스 강화입니다. 데이터의 오염이나 편향을 사전에 차단하고, 품질과 개인정보 보호를 내재화하는 것이 핵심입니다. 둘째, 인간과 AI의 협업 역량 강화입니다. 프롬프트 엔지니어링과 데이터 분석 등 실무 중심의 기술 교육을 통해 내부 직원의 역량을 끌어올리고 전문 인재를 확보해야 합니다. 셋째, 하이브리드 인프라의 전략적 구축입니다. 민감 정보는 내부 통제 하에 두고 대규모 연산은 클라우드를 활용하되, 데이터 이동 경로에 대한 명확한 모니터링과 암호화 체계를 유지하여 보안성과 효율성의 균형을 맞춰야 합니다.
보안 없는 AI는 없다
AI 도입은 이제 거스를 수 없는 시대적 흐름입니다. 그러나 Ponemon 보고서의 경고처럼 “보안 없이는 AI도 없습니다(No AI without Security).” AI 사고가 급증하고 있는 지금, ‘책임 있는 AI’를 구호가 아닌 실행으로 옮기는 결단이 필요합니다.
보안을 단순한 통제 수단이 아닌 조직의 핵심 가치로 삼고, 데이터 무결성과 인재 역량을 갖춘 기업만이 AI가 약속하는 혁신의 과실을 온전히 누리며 그 이면의 위험을 통제할 수 있을 것입니다.
[글_ 김정덕 중앙대 산업보안학과 명예교수/인간중심보안포럼 의장]
필자 소개_ 중앙대학교 산업보안학과 명예교수, 인간중심보안포럼 의장, 한국정보보호학회 부회장, 금융 정보보호관리체계 인증위원, 전 JTC1 SC27 정보보안 국제표준화 전문위 의장 및 의원, 전 ISO 27014(정보보안 거버넌스) 에디터 등 역임
[연재목차 Part 2. AI 시대 보안 패러다임]
1. AI 시대의 그림자, ‘딥페이크 사기’를 경계하라
2. AI 시대, 번아웃 관리
3. AI 편향과 공정성, 보안에서 무엇이 다른가
4. 설명가능 AI와 인간의 최종 판단
5. AI도 인간과 닮았다
6. AI, ‘안전’과 ‘보안’의 경계를 허물다
7. AI 도입의 딜레마: 혁신의 속도와 리스크의 균형
8. AI 위험에 대한 2개의 거버넌스
9. 살아있는 AI 보안 거버넌스 구축
10. AI 보안의 새로운 지평_AI-SPM
11. AI 시스템 새로운 위험분석_STPA
12. 에이전트 AI 보안_GPS 전략
13. 에이전트 AI 시대_인간 중심 통제 설계
14. AI와 인간의 동맹_협업모델
15. AI, 보안문화를 재정의하다
[보안뉴스= 김정덕 중앙대 산업보안학과 명예교수/인간중심보안포럼 의장] 최근 기업 현장에서 AI 도입은 폭발적인 양적 팽창을 거듭하고 있습니다. 그러나 이러한 화려한 확산의 이면에는 데이터 품질 저하, 만성적인 인재 부족, 보안과 컴플라이언스의 미비라는 치명적인 장벽이 도사리고 있습니다.
[자료: AI Generated by Kim, Jungduk]
최근 발표된 2025년의 주요 글로벌 리포트들—Ponemon Institute의 정보보안·컴플라이언스 조사(2025.8), Kore.ai의 리더십 인사이트(2025.11), 국내 소프트웨어정책연구소(SPRI)의 AI Index 분석(2025.4)—을 종합해 보면, AI 혁신이 마주한 딜레마와 그 명암이 더욱 선명하게 드러납니다.
급속한 확산 속의 구조적 취약점
글로벌 데이터는 AI 도입의 ‘속도’와 ‘준비 상태’ 사이의 괴리를 여실히 보여줍니다. Kore.ai가 12개국 1000명 이상의 리더를 조사한 결과, 기업의 71%가 고객 서비스, IT, 인사 등 다양한 부문에서 AI를 활용하고 있다고 답했습니다.
국내 상황도 유사합니다. SPRI 보고서에 따르면 글로벌 AI 도입률은 78%(생성형 AI 71%)에 달합니다. 하지만 한국 기업의 생성형 AI 활용률은 55.7%로 상대적으로 낮으며, 무엇보다 개념검증(PoC) 단계에서 42%가 실패를 겪고 있다는 점은 시사하는 바가 큽니다. 즉, 도입 시도는 빠르지만, 실제 운영 단계로 안착하는 데에는 상당한 진통을 겪고 있다는 방증입니다.
더 큰 문제는 보안과 거버넌스의 부재입니다. 북미·유럽·아시아 IT 리더 1896명을 대상으로 한 Ponemon의 연구에 따르면, 응답자의 56%가 AI 활용 시 가장 큰 우려로 ‘정보보안 훼손’을 꼽았습니다. 실제로 AI 도입 기업의 73%는 데이터 거버넌스 미비를 지적했으며, 헬스케어와 금융 분야에서는 규제 위반으로 인한 비용이 연평균 420만 달러에 달한다는 경고도 제기되었습니다.
기회와 위협의 이중주: 에이전틱 AI의 등장
AI 도입을 촉진하는 요인과 저해하는 요인은 팽팽하게 맞서고 있습니다. 긍정적 측면에서 기업의 90%는 2026년 AI 예산을 기술 예산의 절반 수준까지 대폭 확대할 계획을 세우고 있으며, 프로세스 자동화와 생산성 향상을 주요 성과 지표로 삼고 있습니다.
그러나 위협의 양상은 더욱 고도화되고 있습니다. 기존의 데이터 품질 저하(56%)나 인재 격차(90%) 문제를 넘어, AI 모델 자체를 노리는 ‘모델 포이즈닝(Model Poisoning)’이나 데이터 오염 공격이 급증하며 지난 2년간 AI 관련 사고는 56% 이상 증가했습니다.
특히 최근 부상하는 ‘자율 에이전트 AI(Agentic AI)’는 자율 의사결정 과정의 불투명성(Blackbox)으로 인해 기존 거대언어모델(LLM)보다 3배 높은 보안 침투 위험을 안고 있다는 Kore.ai의 분석은 주목할 만합니다.
‘책임 있는 AI(Responsible AI)’의 필요성에 대해서는 절반 이상이 공감하고 있으나, 실제 실행에 옮긴 조직은 40% 미만이라는 점은 보안 위협이 구조적으로 고착화되고 있음을 시사합니다.
신뢰를 위한 통합 거버넌스 전략
AI가 주는 기회와 위험은 동전의 양면과 같습니다. 따라서 기업은 안전하고 책임 있는 활용을 위해 체계적인 통합 리스크 관리를 서둘러야 합니다.
첫째, 설계 단계부터 보안을 고려한(Security by Design) 데이터 거버넌스 강화입니다. 데이터의 오염이나 편향을 사전에 차단하고, 품질과 개인정보 보호를 내재화하는 것이 핵심입니다. 둘째, 인간과 AI의 협업 역량 강화입니다. 프롬프트 엔지니어링과 데이터 분석 등 실무 중심의 기술 교육을 통해 내부 직원의 역량을 끌어올리고 전문 인재를 확보해야 합니다. 셋째, 하이브리드 인프라의 전략적 구축입니다. 민감 정보는 내부 통제 하에 두고 대규모 연산은 클라우드를 활용하되, 데이터 이동 경로에 대한 명확한 모니터링과 암호화 체계를 유지하여 보안성과 효율성의 균형을 맞춰야 합니다.
보안 없는 AI는 없다
▲김정덕 중앙대 명예교수 [자료: 김정덕 교수]
보안을 단순한 통제 수단이 아닌 조직의 핵심 가치로 삼고, 데이터 무결성과 인재 역량을 갖춘 기업만이 AI가 약속하는 혁신의 과실을 온전히 누리며 그 이면의 위험을 통제할 수 있을 것입니다.
[글_ 김정덕 중앙대 산업보안학과 명예교수/인간중심보안포럼 의장]
필자 소개_ 중앙대학교 산업보안학과 명예교수, 인간중심보안포럼 의장, 한국정보보호학회 부회장, 금융 정보보호관리체계 인증위원, 전 JTC1 SC27 정보보안 국제표준화 전문위 의장 및 의원, 전 ISO 27014(정보보안 거버넌스) 에디터 등 역임
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
강초희기자 기사보기
.gif)
.png)
.jpg)
.jpg)
.jpg)
