박윤규 2차관, 인공지능 윤리·신뢰성 이행 독려하기 위해 인공지능 서비스 분야별 대표기업 연속 현장 방문
[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부) 박윤규 제2차관은 인공지능 서비스 분야별 대표기업의 인공지능 윤리·신뢰성 준수 현황을 점검하고 윤리의식 확산의 기폭제 역할을 하기 위해 연속 현장 방문을 추진한다.
챗GPT를 계기로 초거대 인공지능이 만들어 낼 무한한 가능성에 대해 이목이 집중됨과 동시에 위험성에 대한 우려의 목소리도 커지고 있다. 이에 과기정통부는 ‘인공지능 윤리·신뢰성 강화를 위한 간담회(5.11.)’를 시작으로 산업 현장을 방문해 인공지능 윤리·신뢰성 준수의 중요성을 전파한다.
우선 최근 이슈가 되고 있는 생성형 인공지능 대표기업 방문을 시작으로 의료, 제조, 교육, 교통·운송, 금융 등 분야별 대표 인공지능 기업을 순차적으로 방문할 계획이다.
그동안 과기정통부는 인공지능 윤리·신뢰성 확보를 위해 OECD·EU 등의 인공지능 권고안을 반영한 인공지능 윤리기준(2020.12.)을 수립하고, 윤리기준을 자율적으로 준수·점검할 수 있는 가이드라인(자율점검표·개발안내서)을 마련(2022.2.)했다.
아울러 각 주체가 분야별·사안별 특성에 맞는 세부 지침을 수립해 나갈 수 있도록 챗봇, 영상, 작문 등 윤리·신뢰성이 강조되는 분야의 가이드라인을 마련했으며 향후에는 채용·초거대 인공지능 등의 분야로 확대해 나갈 예정이다.
박윤규 2차관은 이번 현장 방문에서 기업들의 인공지능 윤리·신뢰성 준수 현황을 파악하고, 과기정통부의 인공지능 윤리 원칙과 가이드라인을 바탕으로 기업이 자발적으로 인공지능 윤리·신뢰성을 이행해 나갈 수 있도록 독려할 계획이다.
첫 번째 현장 방문으로 지난 15일 ‘업스테이지(경기 용인시 소재)’를 방문해 생성형 인공지능의 문제점으로 지적받는 환각(Hallucination) 현상을 완화하기 위한 기업의 노력과 인공지능 윤리·신뢰성 확산을 위한 애로 사항에 대한 의견을 자유롭게 나눴다.
업스테이지 이활석 CTO는 “챗GPT 등 생성형 인공지능 시대가 열리며 인공지능 윤리·신뢰성에 대한 논의가 가속화되고 있어 다양한 노력을 통해 인공지능 기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것”이라는 의지를 표명했다.
과기정통부 박윤규 제2차관은 “인공지능이 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 전 단계에서 윤리와 신뢰성을 확보하는 것이 산업 발전의 전제조건이 되고 있다”고 강조하며, “국내 기업이 자사 제품 및 서비스에 인공지능 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업 현장에 방문해 애로 사항과 지원 필요 사항을 경청하고 인공지능 윤리·신뢰성 확산에 앞장서 나가겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부) 박윤규 제2차관은 인공지능 서비스 분야별 대표기업의 인공지능 윤리·신뢰성 준수 현황을 점검하고 윤리의식 확산의 기폭제 역할을 하기 위해 연속 현장 방문을 추진한다.
챗GPT를 계기로 초거대 인공지능이 만들어 낼 무한한 가능성에 대해 이목이 집중됨과 동시에 위험성에 대한 우려의 목소리도 커지고 있다. 이에 과기정통부는 ‘인공지능 윤리·신뢰성 강화를 위한 간담회(5.11.)’를 시작으로 산업 현장을 방문해 인공지능 윤리·신뢰성 준수의 중요성을 전파한다.
우선 최근 이슈가 되고 있는 생성형 인공지능 대표기업 방문을 시작으로 의료, 제조, 교육, 교통·운송, 금융 등 분야별 대표 인공지능 기업을 순차적으로 방문할 계획이다.
그동안 과기정통부는 인공지능 윤리·신뢰성 확보를 위해 OECD·EU 등의 인공지능 권고안을 반영한 인공지능 윤리기준(2020.12.)을 수립하고, 윤리기준을 자율적으로 준수·점검할 수 있는 가이드라인(자율점검표·개발안내서)을 마련(2022.2.)했다.
아울러 각 주체가 분야별·사안별 특성에 맞는 세부 지침을 수립해 나갈 수 있도록 챗봇, 영상, 작문 등 윤리·신뢰성이 강조되는 분야의 가이드라인을 마련했으며 향후에는 채용·초거대 인공지능 등의 분야로 확대해 나갈 예정이다.
박윤규 2차관은 이번 현장 방문에서 기업들의 인공지능 윤리·신뢰성 준수 현황을 파악하고, 과기정통부의 인공지능 윤리 원칙과 가이드라인을 바탕으로 기업이 자발적으로 인공지능 윤리·신뢰성을 이행해 나갈 수 있도록 독려할 계획이다.
첫 번째 현장 방문으로 지난 15일 ‘업스테이지(경기 용인시 소재)’를 방문해 생성형 인공지능의 문제점으로 지적받는 환각(Hallucination) 현상을 완화하기 위한 기업의 노력과 인공지능 윤리·신뢰성 확산을 위한 애로 사항에 대한 의견을 자유롭게 나눴다.
업스테이지 이활석 CTO는 “챗GPT 등 생성형 인공지능 시대가 열리며 인공지능 윤리·신뢰성에 대한 논의가 가속화되고 있어 다양한 노력을 통해 인공지능 기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것”이라는 의지를 표명했다.
과기정통부 박윤규 제2차관은 “인공지능이 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 전 단계에서 윤리와 신뢰성을 확보하는 것이 산업 발전의 전제조건이 되고 있다”고 강조하며, “국내 기업이 자사 제품 및 서비스에 인공지능 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업 현장에 방문해 애로 사항과 지원 필요 사항을 경청하고 인공지능 윤리·신뢰성 확산에 앞장서 나가겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-05-08] 
