서울여대 김명주 교수, 과기정통부 AI안전연구소 초대소장에 임명

AI윤리·신뢰성 전문가...안전하고 책임 있는 AI개발·활용 확산 노력

[보안뉴스 김영명 기자] 과학기술정보통신부(장관 유상임, 이하 과기정통부)는 신설되는 AI안전연구소 초대소장에 서울여대 김명주 정보보호학부 교수를 11월 12일자로 임명한다고 밝혔다. 임명권자는 한국전자통신연구원(ETRI) 원장이다.

AI안전연구소 김명주 초대소장은 컴퓨터공학을 전공한 AI윤리·신뢰성 전문가로, 2019년부터 바른AI연구센터장(RAISE)을, 2024년부터 국제AI윤리협회장을 맡고 있으며, 2023년에는 ‘AI윤리정책포럼’ 위원장으로 재임하며 안전하고 책임있는 AI개발·활용 확산을 위해 노력해 왔다.

김명주 소장은 또한 2023년부터는 OECD(경제협력개발기구) GPAI(Global Partnership on AI, 인공지능에 대한 글로벌 파트너십) 협의체에서 Expert Member로 활동하며, 지속가능한 AI 발전을 위한 국제사회 논의에도 활발히 참여하고 있다. 김 소장은 그동안 AI윤리·안전분야에서 축적한 전문성과 경험, 리더십을 바탕으로 새로 출범할 AI안전연구소를 글로벌 AI안전연구를 선도하는 기관으로 발전시켜 나가고, 국내 AI분야 산·학·연 및 세계 각국의 AI안전연구소(AI Safety Institute)와 긴밀히 소통·협력해 나갈 것으로 기대된다.

한편 과기정통부는 AI안전연구소장의 임기는 임명일로부터 3년이라고 밝혔다. 김명주 초대 소장은 올해 11월 12일부터 2027년 11월 11일까지 소장직무를 수행하게 된다.

AI안전연구소 김명주 초대소장
△학력 : 서울대 컴퓨터공학과 학사·석사·박사/ 이리고(전북 익산)

△주요경력
- 서울여대 정보보호학부 교수, 바른AI연구센터장
- 인공지능윤리정책포럼 위원장
- 한국저작권위원회 부위원장
- OECD GPAI(Global Partnership on AI) Expert Member
- 국제인공지능윤리협회(IAAE) 회장
- 디지털포용포럼 디지털역기능분과장
- 한국인터넷윤리학회 학회장
- 인터넷규제개선공론화협의회 위원장
- 육군3사관학교 석좌교수
- 미국 펜실베니아대(UPenn) 객원연구원

△기타
- 수상 : 근정포장(2018), 과기정통부장관상(2023), 교육부장관상(2014), 방송통신위원장상(2016), Good AI Awards(2022) 등
- 자격 : 기술사, 수석감리원
- 저서 : ‘AI는 양심이 없다’ 외 다수
[김영명 기자(boan@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다