로그인 | 회원가입 | 기사제보 | 스크랩 | 뉴스레터 신청
Home > 전체기사

미국의 CISA, 인공지능 관련 보안 지침 새롭게 공개

입력 : 2023-11-16 13:12
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
인공지능과 관련된 보안 문제의 핵심은 ‘설계에 의한 보안’의 확대

요약 : 보안 외신 시큐리티위크에 의하면 미국의 사이버 보안 전담 기관인 CISA가 인공지능과 관련된 보안 관련 지침을 새롭게 발표했다고 한다. 공격자들이 인공지능 인프라를 침해하여 모델을 망가트리거나, 공격자들 편에서 인공지능을 공격에 활용하는 것을 미연에 방지하는 방법들이 담긴 지침서로 ‘CISA 인공지능 로드맵(CISA Roadmap for AI)’이 이 문건의 이름이다. CISA는 인공지능 관련 기술 개발자들이 ‘설계에 의한 보안’을 원칙으로 삼아야 한다고 이 문서를 통해 강조하고 있다.

[이미지 = gettyimagesbank]

배경 : CISA는 인공지능과 관련된 목표들을 달성하기 위한 다섯 가지 실천 방안을 제안하고 있기도 하다. 인공지능의 책임감 있는 활용, 설계 단계에서부터 보안을 고려한 인공지능 소프트웨어 개발, 인공지능 악용으로부터 사회 기반 시설 보호, 다른 유관 기관 및 민간 기업들과의 협업, 인공지능 관련 교육이라는 다섯 가지 항목으로 정리된다.

말말말 : “인공지능 기반 기술을 개발하는 사람들이 보안에 대한 책임을 져야 하지, 기능만을 개발한 후 보안을 소비자에게 떠넘기는 건 올바른 방향이 아닙니다.” -CISA-
[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
  • “
  •  SNS에서도 보안뉴스를 받아보세요!! 
  • ”
보안시장 백서 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지 위즈디엔에스 2018
설문조사
AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다