.jpg)
[보안뉴스 박미영 기자] KAIST가 ‘사회를 위한 보건의료 분야 인공지능 활용 가이드(Using Artificial Intelligence to Support Healthcare Decisions: A Guide for Society)’를 국제 공동 연구를 통해 개발했다.
코로나19의 세계적인 대유행은 인공지능 기술의 빠른 상용화를 촉진했다. 일례로 영국의 인공지능 스타트업인 베네볼런트AI(BenevolentAI)는 신종 질병 치료 약물을 식별하기 위해 통상적으로 8년이 걸리던 기간을 인공지능 기술을 활용해 단 1주일로 단축시켰다. 이처럼 인공지능 기술은 경제·산업·사회·문화 등 전방위로 확산되면서 엄청난 부가가치와 생활의 편익을 창출하고 있다. 하지만 급속한 기술 도입이 데이터의 편향이나 오·남용 등의 맹점을 함께 가져왔다는 우려도 중요하게 대두되고 있다. 특히 보건의료 분야는 인공지능을 뒷받침하는 데이터의 품질과 검증 여부가 생명과 직결되기 때문에, 인공지능 기술의 타당성과 안전성이 무엇보다도 우선시돼야 한다.
KAIST 한국4차산업혁명정책센터(이하 KPC4IR)는 보건의료 분야에 적용되고 있는 인공지능 기술의 신뢰성을 확보하기 위해 보다 많은 사람이 인공지능 기술의 책임성에 관한 질문을 던져야 한다는 문제의식을 바탕으로 이번 가이드를 제작했다. 연구진이 말하는 책임성이란 인공지능 기술이 데이터의 편향성으로 현존하는 불평등을 악화시키지 않도록 주의하고 데이터의 정확성을 확보해 결과의 오류를 최소화하는 등의 노력이다.
KPC4IR은 이번 가이드 개발을 위해 싱가포르국립대의 리스크공공이해연구소(National University of Singapore Lloyd’s Register Foundation Institute for the Public Understanding of Risk), 영국의 대표적인 과학 기술 비영리 기관인 센스 어바웃 사이언스(Sense about Science)와 함께 지난 1년간 국제 공동 연구를 수행했다.
연구진은 의료영상 분석 및 진단의 효과성 제고와 빅데이터를 활용한 질병 예측 및 임상적 의사결정, 신약 개발 분야 시간 단축 등 의료 분야에 인공지능 기술을 적용한 국내외 사례를 이번 가이드에 담았다. 또한, 학습 데이터에 누락되거나 제외된 정보가 있다면 인공지능이 편향성을 나타낼 수 있으며, 원래와는 다른 용도로 사용할 경우 변수 간의 연관 관계나 심지어는 결과까지도 잘못 판단할 수 있다는 점도 강조했다.
독일에서는 피부의 병변을 감지해 암 발생 가능성을 진단하는 인공지능을 개발해 실제 의사들의 진단 소견과 비교하는 실험을 진행했다. 동일한 병변 이미지를 인공지능과 다양한 국적을 가진 피부과 전문의 58명에게 보여준 결과, 인공지능은 87%의 정확도로 병변 의심 사례를 식별해 냈다. 79%의 정확도를 보인 의사들의 정확도를 앞지른 것이다. 인공지능이 의사가 환자를 치료하며 결정을 내리는 과정에서 도움이 될 수 있다는 것을 보여준 사례다. 그러나 인공지능이 옅은 피부색을 가진 사람들로부터 수집한 데이터를 주로 활용해 학습한다면 짙은 피부색을 가진 환자들의 병변은 제대로 진단하지 못할 가능성이 커진다.
인공지능을 ‘지능적’이라고 하는 이유는 데이터를 단순히 검색하는 수준에 머무는 것이 아니라 데이터에 숨어 있는 특정 패턴을 분석해 유의미한 자료로 추출하기 때문이다. 그래서 사람들은 인공지능의 의사결정이 냉철하고 객관적일 것이라고 생각하지만, 인공지능은 현실에 존재하는 데이터들 바탕으로 학습한다. 우리가 가진 사회적 편견과 편향, 위험한 가정들을 그대로 내재한 결과가 도출될 수도 있다는 뜻이다.
연구진은 인공지능 기술을 보건의료 분야에 활용하는 데 있어 가장 중요한 요소 중 하나인 신뢰성(reliability)을 중심으로 데이터의 품질·변수 등과 관련된 공정성 문제를 파악하고 기술의 정확성을 점검할 수 있는 다섯 가지 기준을 이번 가이드에 담았다. △출처가 정확한 데이터 사용 △사용 목적에 맞는 데이터의 수집 또는 선택 △제한 사항과 가정의 정확한 언급 △데이터의 편향성 명시 △실제 환경에서의 적절한 테스트 등이 이행됐는지 점검하기 위해 우리 사회가 이와 관련한 적극적인 질문을 던져야 한다고 강조했다.
연구를 총괄한 김소영 KPC4IR 센터장은 “보건의료 분야의 인공지능 기술이 충분히 견고한지를 검증하는 질문들이 우리 사회에서 활발하게 논의된다면, 궁극적으로 인공지능 기술의 역량을 끌어올리는 것과 동시에 신뢰할 수 있는 기준을 마련할 수 있을 것”이라고 말했다. 이어 김 센터장은 “인공지능 기술에 대한 국민의 이해도를 높여 한계점과 개선 사항을 인식해 나가는 과정에서 이번 가이드가 중요한 역할을 해 줄 것으로 기대하고 있다”고 덧붙였다.
KPC4IR의 이번 연구는 유럽과 아시아를 아우르는 국제 공동 연구자들이 보건의료라는 특정 분야에서 인공지능 기술의 가이드를 제시한 세계 최초의 사례다. 이를 위해 싱가포르국립대·테크놀로지기업 어피니디(Affinidi), 스페인 마드리드 카를로스 3세 대학교, 영국 로이드 선급 재단·가이 앤드 세인트 토마스 국가보건서비스 재단 등에 소속된 전문가들이 자문과 인터뷰, 워크숍 등의 방식으로 참여했다. 국내에서는 서울아산병원, 분당서울대병원 등을 비롯한 의료계와 KAIST AI대학원·바이오및뇌공학과, 과학기술정책연구원, 정보통신정책연구원, 인공지능 솔루션 기업 뷰노 등 다수의 산·학·연 관계자들이 함께했다.
KPC4IR은 이번 성과를 국제적으로 공유하기 위해 지난 15일 오전 10시부터 온라인으로 열린 ‘2021 KDD 국제 워크숍’에서 연구 내용을 발표했다. ‘사회를 위한 보건의료 분야 인공지능 활용 가이드’의 전체 내용은 KAIST 한국4차산업혁명정책센터와 싱가포르국립대 리스크공공이해연구소의 홈페이지에서 확인할 수 있다.
[박미영 기자(mypark@boannews.com)]
[사진=KAIST]
코로나19의 세계적인 대유행은 인공지능 기술의 빠른 상용화를 촉진했다. 일례로 영국의 인공지능 스타트업인 베네볼런트AI(BenevolentAI)는 신종 질병 치료 약물을 식별하기 위해 통상적으로 8년이 걸리던 기간을 인공지능 기술을 활용해 단 1주일로 단축시켰다. 이처럼 인공지능 기술은 경제·산업·사회·문화 등 전방위로 확산되면서 엄청난 부가가치와 생활의 편익을 창출하고 있다. 하지만 급속한 기술 도입이 데이터의 편향이나 오·남용 등의 맹점을 함께 가져왔다는 우려도 중요하게 대두되고 있다. 특히 보건의료 분야는 인공지능을 뒷받침하는 데이터의 품질과 검증 여부가 생명과 직결되기 때문에, 인공지능 기술의 타당성과 안전성이 무엇보다도 우선시돼야 한다.
KAIST 한국4차산업혁명정책센터(이하 KPC4IR)는 보건의료 분야에 적용되고 있는 인공지능 기술의 신뢰성을 확보하기 위해 보다 많은 사람이 인공지능 기술의 책임성에 관한 질문을 던져야 한다는 문제의식을 바탕으로 이번 가이드를 제작했다. 연구진이 말하는 책임성이란 인공지능 기술이 데이터의 편향성으로 현존하는 불평등을 악화시키지 않도록 주의하고 데이터의 정확성을 확보해 결과의 오류를 최소화하는 등의 노력이다.
KPC4IR은 이번 가이드 개발을 위해 싱가포르국립대의 리스크공공이해연구소(National University of Singapore Lloyd’s Register Foundation Institute for the Public Understanding of Risk), 영국의 대표적인 과학 기술 비영리 기관인 센스 어바웃 사이언스(Sense about Science)와 함께 지난 1년간 국제 공동 연구를 수행했다.
연구진은 의료영상 분석 및 진단의 효과성 제고와 빅데이터를 활용한 질병 예측 및 임상적 의사결정, 신약 개발 분야 시간 단축 등 의료 분야에 인공지능 기술을 적용한 국내외 사례를 이번 가이드에 담았다. 또한, 학습 데이터에 누락되거나 제외된 정보가 있다면 인공지능이 편향성을 나타낼 수 있으며, 원래와는 다른 용도로 사용할 경우 변수 간의 연관 관계나 심지어는 결과까지도 잘못 판단할 수 있다는 점도 강조했다.
독일에서는 피부의 병변을 감지해 암 발생 가능성을 진단하는 인공지능을 개발해 실제 의사들의 진단 소견과 비교하는 실험을 진행했다. 동일한 병변 이미지를 인공지능과 다양한 국적을 가진 피부과 전문의 58명에게 보여준 결과, 인공지능은 87%의 정확도로 병변 의심 사례를 식별해 냈다. 79%의 정확도를 보인 의사들의 정확도를 앞지른 것이다. 인공지능이 의사가 환자를 치료하며 결정을 내리는 과정에서 도움이 될 수 있다는 것을 보여준 사례다. 그러나 인공지능이 옅은 피부색을 가진 사람들로부터 수집한 데이터를 주로 활용해 학습한다면 짙은 피부색을 가진 환자들의 병변은 제대로 진단하지 못할 가능성이 커진다.
인공지능을 ‘지능적’이라고 하는 이유는 데이터를 단순히 검색하는 수준에 머무는 것이 아니라 데이터에 숨어 있는 특정 패턴을 분석해 유의미한 자료로 추출하기 때문이다. 그래서 사람들은 인공지능의 의사결정이 냉철하고 객관적일 것이라고 생각하지만, 인공지능은 현실에 존재하는 데이터들 바탕으로 학습한다. 우리가 가진 사회적 편견과 편향, 위험한 가정들을 그대로 내재한 결과가 도출될 수도 있다는 뜻이다.
연구진은 인공지능 기술을 보건의료 분야에 활용하는 데 있어 가장 중요한 요소 중 하나인 신뢰성(reliability)을 중심으로 데이터의 품질·변수 등과 관련된 공정성 문제를 파악하고 기술의 정확성을 점검할 수 있는 다섯 가지 기준을 이번 가이드에 담았다. △출처가 정확한 데이터 사용 △사용 목적에 맞는 데이터의 수집 또는 선택 △제한 사항과 가정의 정확한 언급 △데이터의 편향성 명시 △실제 환경에서의 적절한 테스트 등이 이행됐는지 점검하기 위해 우리 사회가 이와 관련한 적극적인 질문을 던져야 한다고 강조했다.
연구를 총괄한 김소영 KPC4IR 센터장은 “보건의료 분야의 인공지능 기술이 충분히 견고한지를 검증하는 질문들이 우리 사회에서 활발하게 논의된다면, 궁극적으로 인공지능 기술의 역량을 끌어올리는 것과 동시에 신뢰할 수 있는 기준을 마련할 수 있을 것”이라고 말했다. 이어 김 센터장은 “인공지능 기술에 대한 국민의 이해도를 높여 한계점과 개선 사항을 인식해 나가는 과정에서 이번 가이드가 중요한 역할을 해 줄 것으로 기대하고 있다”고 덧붙였다.
KPC4IR의 이번 연구는 유럽과 아시아를 아우르는 국제 공동 연구자들이 보건의료라는 특정 분야에서 인공지능 기술의 가이드를 제시한 세계 최초의 사례다. 이를 위해 싱가포르국립대·테크놀로지기업 어피니디(Affinidi), 스페인 마드리드 카를로스 3세 대학교, 영국 로이드 선급 재단·가이 앤드 세인트 토마스 국가보건서비스 재단 등에 소속된 전문가들이 자문과 인터뷰, 워크숍 등의 방식으로 참여했다. 국내에서는 서울아산병원, 분당서울대병원 등을 비롯한 의료계와 KAIST AI대학원·바이오및뇌공학과, 과학기술정책연구원, 정보통신정책연구원, 인공지능 솔루션 기업 뷰노 등 다수의 산·학·연 관계자들이 함께했다.
KPC4IR은 이번 성과를 국제적으로 공유하기 위해 지난 15일 오전 10시부터 온라인으로 열린 ‘2021 KDD 국제 워크숍’에서 연구 내용을 발표했다. ‘사회를 위한 보건의료 분야 인공지능 활용 가이드’의 전체 내용은 KAIST 한국4차산업혁명정책센터와 싱가포르국립대 리스크공공이해연구소의 홈페이지에서 확인할 수 있다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-04-24] _m.jpg)
.jpg)
.jpg)
