과기정통부, ‘인간성(Humanity)을 위한 인공지능(AI)’의 3대 원칙·10대 요건 담아
[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부)와 정보통신정책연구원은 지난 23일 대통령 직속 4차산업혁명위원회 전체회의에서 인공지능 시대 바람직한 인공지능 개발·활용 방향을 제시하기 위한 사람이 중심이 되는 ‘인공지능(AI) 윤리기준’을 마련했다.
이는 윤리적 인공지능을 실현하기 위해 정부·공공기관과 기업·이용자 등 모든 사회구성원이 인공지능 개발~활용 전 단계에서 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준으로, 그간 인공지능·윤리학·법학 등 학계·기업·시민단체를 아우르는 주요 전문가들이 자문과 의견 수렴 과정에 참여했으며 지난 11월 27일 초안 발표 이후 12월 7일 공개 공청회 등 시민 의견 수렴을 거쳤다.
인공지능 기술의 발전·확산과 함께 인공지능 기술의 윤리적 개발·활용 역시 세계 각국과 주요 국제기구의 관심 대상이 돼 왔으며, 지난해 우리나라가 주도적으로 참여한 경제협력개발기구(OECD) 인공지능 권고안(2019.5)을 비롯해 OECD·유럽연합(EU) 등 세계 각국과 국제기구·기업·연구기관 등 여러 주체로부터 다양한 인공지능 윤리 원칙이 발표됐다.
이에 과학기술정보통신부는 이러한 글로벌 추세에 발 맞춰 지난해 발표된 ‘인공지능 국가전략(2019.12)’ 주요 과제로 ‘인공지능 윤리기준’ 마련을 추진해 왔다.
과기정통부는 올해 4월부터 인공지능·윤리 전문가로 구성된 인공지능 윤리연구반을 통해 국내외 주요 인공지능 윤리원칙을 분석하고, 그 결과를 윤리철학의 이론적 논의와 연계해 ‘인간성을 위한 인공지능(AI for Humanity)’을 목표로 하는 윤리기준 초안을 마련했으며, 3개월에 걸쳐 학계·기업·시민단체 등 각계의 다양한 전문가로부터 의견을 수렴했다.
이러한 과정을 거쳐 마련된 ‘인공지능 윤리기준’은 ‘사람 중심의 인공지능’을 위한 최고 가치인 ‘인간성(Humanity)’을 위한 3대 기본원칙과 10대 핵심요건을 제시하고 있으며, 주요 내용은 다음과 같다.
우선 목표 및 지향점은 ①모든 사회 구성원이 ②모든 분야에서 ③자율적으로 준수하며 ④지속 발전하는 윤리기준을 지향한다.
구체적으로 ①인공지능 개발에서 활용에 이르는 전 단계에서 정부·공공기관, 기업, 이용자 등 모든 사회 구성원이 참조하는 기준이다. ②특정 분야에 제한되지 않는 범용성을 가진 일반원칙으로, 이후 각 영역별 세부 규범이 유연하게 발전해 나갈 수 있는 기반을 조성한다. ③구속력 있는 ‘법’이나 ‘지침’이 아닌 도덕적 규범이자 자율규범으로, 기업 자율성을 존중하고 인공지능 기술 발전을 장려하며 기술과 사회변화에 유연하게 대처할 수 있는 윤리 담론을 형성한다. ④사회경제, 기술 변화에 따라 새롭게 제기되는 인공지능 윤리 이슈를 논의하고 구체적으로 발전시킬 수 있는 플랫폼으로 기능한다.
또 윤리기준이 지향하는 최고가치를 ‘인간성(Humanity)’으로 설정하고, ‘인간성을 위한 인공지능(AI for Humanity)’을 위한 3대 원칙·10대 요건을 제시했다.
3대 기본원칙은 ‘인간성(Humanity)’을 구현하기 위해 인공지능의 개발 및 활용 과정에서 △인간의 존엄성 원칙 △사회의 공공선 원칙 △기술의 합목적성 원칙을 지켜야 한다.
10대 핵심 요건으로는 3대 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발~활용 전 과정에서 △인권 보장 △프라이버시 보호 △다양성 존중 △침해 금지 △공공성 △연대성 △데이터 관리 △책임성 △안전성 △투명성의 요건이 충족돼야 한다.
과기정통부는 그간 전문가·시민 의견수렴 과정에서 제기된 바와 같이 향후 윤리기준의 현장 확산을 돕기 위해 개발자·공급자·이용자 등 주체별 체크리스트 개발, 인공지능 윤리 교육 프로그램 마련 등 구체적인 실천 방안을 마련하고 추진해 나갈 계획이다.
또 앞으로도 ‘인공지능 윤리기준’을 기본 플랫폼으로 해 다양한 이해관계자 참여하에 인공지능 윤리 이슈를 지속 논의하고 윤리기준이 기술·사회 변화를 반영해 계속해서 발전될 수 있도록 노력할 예정이다.
과기정통부 최기영 장관은 “지난 11월 27일 윤리기준 초안을 발표한 후 공청회(12.7) 등 폭넓은 공개 의견수렴을 거쳐 ‘인공지능 윤리기준’이 마련된 만큼, 동 윤리기준이 인공지능 윤리 이슈에 대한 우리 사회의 토론과 숙의의 시작점이자 사람 중심의 인공지능으로 나아가는 플랫폼이 되도록 노력하겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부)와 정보통신정책연구원은 지난 23일 대통령 직속 4차산업혁명위원회 전체회의에서 인공지능 시대 바람직한 인공지능 개발·활용 방향을 제시하기 위한 사람이 중심이 되는 ‘인공지능(AI) 윤리기준’을 마련했다.
[이미지=utoiamge]
이는 윤리적 인공지능을 실현하기 위해 정부·공공기관과 기업·이용자 등 모든 사회구성원이 인공지능 개발~활용 전 단계에서 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준으로, 그간 인공지능·윤리학·법학 등 학계·기업·시민단체를 아우르는 주요 전문가들이 자문과 의견 수렴 과정에 참여했으며 지난 11월 27일 초안 발표 이후 12월 7일 공개 공청회 등 시민 의견 수렴을 거쳤다.
인공지능 기술의 발전·확산과 함께 인공지능 기술의 윤리적 개발·활용 역시 세계 각국과 주요 국제기구의 관심 대상이 돼 왔으며, 지난해 우리나라가 주도적으로 참여한 경제협력개발기구(OECD) 인공지능 권고안(2019.5)을 비롯해 OECD·유럽연합(EU) 등 세계 각국과 국제기구·기업·연구기관 등 여러 주체로부터 다양한 인공지능 윤리 원칙이 발표됐다.
이에 과학기술정보통신부는 이러한 글로벌 추세에 발 맞춰 지난해 발표된 ‘인공지능 국가전략(2019.12)’ 주요 과제로 ‘인공지능 윤리기준’ 마련을 추진해 왔다.
과기정통부는 올해 4월부터 인공지능·윤리 전문가로 구성된 인공지능 윤리연구반을 통해 국내외 주요 인공지능 윤리원칙을 분석하고, 그 결과를 윤리철학의 이론적 논의와 연계해 ‘인간성을 위한 인공지능(AI for Humanity)’을 목표로 하는 윤리기준 초안을 마련했으며, 3개월에 걸쳐 학계·기업·시민단체 등 각계의 다양한 전문가로부터 의견을 수렴했다.
이러한 과정을 거쳐 마련된 ‘인공지능 윤리기준’은 ‘사람 중심의 인공지능’을 위한 최고 가치인 ‘인간성(Humanity)’을 위한 3대 기본원칙과 10대 핵심요건을 제시하고 있으며, 주요 내용은 다음과 같다.
우선 목표 및 지향점은 ①모든 사회 구성원이 ②모든 분야에서 ③자율적으로 준수하며 ④지속 발전하는 윤리기준을 지향한다.
구체적으로 ①인공지능 개발에서 활용에 이르는 전 단계에서 정부·공공기관, 기업, 이용자 등 모든 사회 구성원이 참조하는 기준이다. ②특정 분야에 제한되지 않는 범용성을 가진 일반원칙으로, 이후 각 영역별 세부 규범이 유연하게 발전해 나갈 수 있는 기반을 조성한다. ③구속력 있는 ‘법’이나 ‘지침’이 아닌 도덕적 규범이자 자율규범으로, 기업 자율성을 존중하고 인공지능 기술 발전을 장려하며 기술과 사회변화에 유연하게 대처할 수 있는 윤리 담론을 형성한다. ④사회경제, 기술 변화에 따라 새롭게 제기되는 인공지능 윤리 이슈를 논의하고 구체적으로 발전시킬 수 있는 플랫폼으로 기능한다.
또 윤리기준이 지향하는 최고가치를 ‘인간성(Humanity)’으로 설정하고, ‘인간성을 위한 인공지능(AI for Humanity)’을 위한 3대 원칙·10대 요건을 제시했다.
3대 기본원칙은 ‘인간성(Humanity)’을 구현하기 위해 인공지능의 개발 및 활용 과정에서 △인간의 존엄성 원칙 △사회의 공공선 원칙 △기술의 합목적성 원칙을 지켜야 한다.
10대 핵심 요건으로는 3대 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발~활용 전 과정에서 △인권 보장 △프라이버시 보호 △다양성 존중 △침해 금지 △공공성 △연대성 △데이터 관리 △책임성 △안전성 △투명성의 요건이 충족돼야 한다.
과기정통부는 그간 전문가·시민 의견수렴 과정에서 제기된 바와 같이 향후 윤리기준의 현장 확산을 돕기 위해 개발자·공급자·이용자 등 주체별 체크리스트 개발, 인공지능 윤리 교육 프로그램 마련 등 구체적인 실천 방안을 마련하고 추진해 나갈 계획이다.
또 앞으로도 ‘인공지능 윤리기준’을 기본 플랫폼으로 해 다양한 이해관계자 참여하에 인공지능 윤리 이슈를 지속 논의하고 윤리기준이 기술·사회 변화를 반영해 계속해서 발전될 수 있도록 노력할 예정이다.
과기정통부 최기영 장관은 “지난 11월 27일 윤리기준 초안을 발표한 후 공청회(12.7) 등 폭넓은 공개 의견수렴을 거쳐 ‘인공지능 윤리기준’이 마련된 만큼, 동 윤리기준이 인공지능 윤리 이슈에 대한 우리 사회의 토론과 숙의의 시작점이자 사람 중심의 인공지능으로 나아가는 플랫폼이 되도록 노력하겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-04-18] 
.jpg)
