요약 : 보안 외신 해커뉴스에 의하면 인공지능 플랫폼이자 커뮤니티인 허깅페이스(Huggin Face)에서 100개가 넘는 악성 인공지능 및 머신러닝 모델들이 발견됐다고 한다. 이들을 잘못 다운로드 받아 실행할 경우 코드 실행 공격 등이 가능하게 된다고 한다. 이것은 코드 리포지터리나 컨테이너 이미지 허브에 악성 코드 및 이미지를 업로드 해두고 누군가 다운로드 받아 실행함으로써 대량의 공격 효과를 누리려는 ‘공급망 공격’의 또 다른 양상이라고 할 수 있다. 한 악성 모델은 한국의 과학기술연구망(KREONET)의 IP주소인 210.117.212.93과의 연결을 시도하는 것으로도 분석됐다.
배경 : 허깅페이스는 보다 많은 사용자와 개발자들이 쉽게 인공지능/머신러닝 모델들을 개발하고 훈련시키고 구축할 수 있게 해 주는 플랫폼으로, 오픈소스 코드와 기술들을 기반으로 하고 있다. 인공지능을 연구하는 많은 분야의 사람들이 여기서 각종 개념과 아이디어, 실질적인 모델과 코드까지 가져다 활용할 수 있다. 잘못된 코드나 모델이 여기에 올라오면 빠르게 퍼져갈 수 있다.
말말말 : “인공지능을 오염시키고 악용하는 방법들이 여러 가지로 개발되고 있습니다. 이미 프롬프트 창을 악용해 원하는 결과를 얻어내는 여러 가지 노하우들이 공유되고 있기도 하지요. 새 기술이 등장하면 이런 식으로 시험대에 오르는 게 당연한 일입니다.” -해커뉴스-
[국제부 문가용 기자(globoan@boannews.com)]
[이미지 = gettyimagesbank]
배경 : 허깅페이스는 보다 많은 사용자와 개발자들이 쉽게 인공지능/머신러닝 모델들을 개발하고 훈련시키고 구축할 수 있게 해 주는 플랫폼으로, 오픈소스 코드와 기술들을 기반으로 하고 있다. 인공지능을 연구하는 많은 분야의 사람들이 여기서 각종 개념과 아이디어, 실질적인 모델과 코드까지 가져다 활용할 수 있다. 잘못된 코드나 모델이 여기에 올라오면 빠르게 퍼져갈 수 있다.
말말말 : “인공지능을 오염시키고 악용하는 방법들이 여러 가지로 개발되고 있습니다. 이미 프롬프트 창을 악용해 원하는 결과를 얻어내는 여러 가지 노하우들이 공유되고 있기도 하지요. 새 기술이 등장하면 이런 식으로 시험대에 오르는 게 당연한 일입니다.” -해커뉴스-
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-10-31] .jpg)
