보안뉴스 창간 17주년을 축하합니다!!

Home > 전체기사 > 외신

인공지능 생태계에서도 공급망 공격이 시작되다

입력 : 2024-03-05 12:47
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
요약 : 보안 외신 해커뉴스에 의하면 인공지능 플랫폼이자 커뮤니티인 허깅페이스(Huggin Face)에서 100개가 넘는 악성 인공지능 및 머신러닝 모델들이 발견됐다고 한다. 이들을 잘못 다운로드 받아 실행할 경우 코드 실행 공격 등이 가능하게 된다고 한다. 이것은 코드 리포지터리나 컨테이너 이미지 허브에 악성 코드 및 이미지를 업로드 해두고 누군가 다운로드 받아 실행함으로써 대량의 공격 효과를 누리려는 ‘공급망 공격’의 또 다른 양상이라고 할 수 있다. 한 악성 모델은 한국의 과학기술연구망(KREONET)의 IP주소인 210.117.212.93과의 연결을 시도하는 것으로도 분석됐다.

[이미지 = gettyimagesbank]


배경 : 허깅페이스는 보다 많은 사용자와 개발자들이 쉽게 인공지능/머신러닝 모델들을 개발하고 훈련시키고 구축할 수 있게 해 주는 플랫폼으로, 오픈소스 코드와 기술들을 기반으로 하고 있다. 인공지능을 연구하는 많은 분야의 사람들이 여기서 각종 개념과 아이디어, 실질적인 모델과 코드까지 가져다 활용할 수 있다. 잘못된 코드나 모델이 여기에 올라오면 빠르게 퍼져갈 수 있다.

말말말 : “인공지능을 오염시키고 악용하는 방법들이 여러 가지로 개발되고 있습니다. 이미 프롬프트 창을 악용해 원하는 결과를 얻어내는 여러 가지 노하우들이 공유되고 있기도 하지요. 새 기술이 등장하면 이런 식으로 시험대에 오르는 게 당연한 일입니다.” -해커뉴스-
[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
 하이젠 파워비즈 23년 11월 16일~2024년 11월 15일까지 아스트론시큐리티 파워비즈 2023년2월23일 시작 위즈디엔에스 2018 넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지
설문조사
3월 15일부터 시행되고 있는 개정 개인정보보호법과 관련해 가장 까다롭고 이행하기 어려운 조항은 무엇인가요?
인공지능(AI) 등 자동화된 결정에 대한 정보주체 권리 구체화
접근권한 관리 등 개인정보 안전성 확보조치 강화 및 고유식별정보 관리실태 정기조사
영향평가 요약본 공개제도 도입 등 개인정보 영향평가제도
영상정보처리기기 및 안전조치 기준
개인정보 보호책임자의 전문성 강화 위한 전문CPO 지정
국외 수집·이전 개인정보 처리방침 공개 등 개인정보 처리방침 평가제도
손해배상책임 의무대상자 변경 및 확대
공공기관 개인정보 보호수준 평가 확대
기타(댓글로)