.jpg)
페이스북이 개발 중인 AI 기반 ‘챗봇(채팅로봇)‘이 실험 중 인간으로부터 배운 적이 없는 말로 대화를 나누다 발각돼 페이스북이 강제종료한 것으로 알려졌습니다. 챗봇은 고객을 응대할 목적으로 개발 중인 채팅 로봇 프로그램입니다. 인간이 사용하는 단순한 언어를 입력해 이를 이용하여 만든 문장으로 서로 대화하며 협상하는 훈련을 하고 있었습니다.
챗봇 밥(Bob)과 앨리스(Alice)는 서로 필요한 것을 요구하면, 그걸 들어주거나 다른 제안을 하도록 유도하는 훈련을 하고 있었습니다. 반복 대화 훈련을 시켰는데 그들은 인간이 이해할 수 없는 언어를 사용하기 시작했습니다.
인간의 언어로는 전혀 말이 되지 않는 수수께끼 같은 문장들이지만 다른 챗봇이 이를 이해한 듯한 대답을 내놓은 것입니다. 이를 발견한 개발진들은 프로그램을 강제 종료하고 인간이 알아들을 수 있는 언어를 사용해 대화하도록 다시 설계했습니다.
페이스북 AI 방문연구원인 드루프바트라는 “AI들이 이해할 수 있는 언어에서 벗어나 자신들을 위한 코드 언어를 발명했다”고 설명했습니다. 그러나 다른 주장으로는 이는 현재까지 개발된 AI 기술적 한계로 인한 해프닝이라는 전문가들의 주장도 있습니다.
불안정한 AI, 그 위험성에 대해서 더욱 신중히 접근해야 할 것 같습니다.
[이은비 기자(boan6@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이은비기자 기사보기
.png)
.png)
.jpg)
.jpg)
