로그인 | 회원가입 | 기사제보 | 스크랩 | 뉴스레터 신청
Home > 전체기사

[카드뉴스] “착한 AI가 갑자기 욕설을?”… 학습 데이터에 ‘독’ 푸는 데이터 포이즈닝 비상

입력 : 2026-04-08 09:43
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
  1. 0
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7. 6

AI 모델의 학습 데이터에 악성 데이터를 교묘하게 주입하여 저작권 침해, 차별, 가짜 뉴스 등 잘못된 결과물을 도출하게 만드는 ‘데이터 포이즈닝’ 공격이 새로운 보안 위협으로 부상했다. 해커는 AI의 기술적 결함보다는 내재된 ‘편향성’을 무기로 삼아 겉보기엔 멀쩡하지만 실제로는 오염된 ‘좀비 AI’를 만들어 기업의 신뢰를 무너뜨릴 수 있다. AI 보안 사고를 막기 위해서는 학습 데이터의 출처와 무결성을 상시 검증하는 ‘AI 거버넌스’ 체계를 구축하고, 보안 패러다임을 입력값 감시 중심으로 전환해야 한다.
[지진솔 기자(digital@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
  • “
  •  SNS에서도 보안뉴스를 받아보세요!! 
  • ”
보안시장 백서 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지 위즈디엔에스 2018
설문조사
AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다