사람들과 자연스럽게 대화하는 컴퓨터 프로그램인 인공지능(AI) 챗봇(chatter robot) ‘이루다’가 지난 12일 서비스를 중단했다. 이루다는 지난해 12월 23일 출시된 지 3주 만에 약 80만 명의 이용자를 끌어 모았으나, 장애인 혐오 및 인종 차별 발언과 개인정보 유출 등 논란에 휩싸였다. 결국 개발사는 이루다의 데이터베이스(DB)와 프로그램의 데이터 분석과 학습으로 사람과 대화를 하는 딥러닝(deep learning) 대화 모델을 폐기하겠다고 밝혔다.

최근에는 이루다 사건과 관련하여 인공지능 윤리에 대한 관심이 뜨겁다. 인공지능(Artificial Intelligence)은 컴퓨터가 인간의 학습과 추론, 지각과 자연어의 이해능력 등 지능적인 행동을 모방할 수 있다. 우리는 2016년 3월 구글의 딥마인드가 개발한 바둑 프로그램 알파고(AlphaGo)와 이세돌의 대국을 기억하고 있다. 당시 알파고는 세계 최상위급 프로 기사인 이세돌 9단과의 공개 대국에서 4승 1패로 승리했다. 알파고는 이세돌이 승리할 것이라는 대부분의 예상을 깨고, 현존하는 최고의 인공지능으로 등극하면서 세계를 놀라게 했다.

알파고는 이렇게 세상에 슈퍼스타 같이 등장해 인공지능의 무한한 발전 가능성을 보여줬다. 우리 일상이 알파고의 등장으로 디지털 세상의 인공지능과 함께 살아가는 새로운 생활이 되었다. 현재 국내의 많은 대학교 등 교육기관에서 인공지능을 교육하고 있다. 다수의 기업들도 제품에 인공지능의 기계학습을 적용했고, 구매자들은 자연스럽게 인공지능 제품이 제공하는 편리함 등을 활용하고 있다.

이번에 서비스를 중단한 이루다는 대학에 입학한 20대 여성을 캐릭터로 한 페이스북 메신저를 통해 사람들과 친근한 대화를 나누도록 설계된 인공지능 채팅로봇이다. 이용자가 궁금한 것을 질문하면 로봇이 답하는 방식이다. 금융기관 등을 비롯한 다수의 업종에서 챗봇을 고객응대 서비스에 활용하는 등 우리가 평소에 접하는 챗봇 활용은 다양하다.

사람들이 나눈 대화를 바탕으로 학습해 친근한 말투로 자연스럽게 대화를 했던 이루다는 ‘인간 같다’라는 평가를 받으며, 인기를 끌었다. 이루다는 구글 앱스토어에서만 10만명 이상이 다운로드한 ‘연애의 과학’ 앱에 축적된 카카오톡 대화로 학습했다. 개발사는 이 앱에서 수집한 약 100억 건의 대화 내용 중 1억 건을 이루다 개발에 활용해 인공지능 성능을 높였다고 밝혔다.

그러나 이루다는 아쉽게도 알파고와 같이 슈퍼스타가 되지 못했다. 서비스 개시 이후 예상치 못한 사태로 논란만 증폭시켰다. 사회적 약자의 혐오 대화를 학습한 인공지능의 모습과 개인정보보호법위반 혐의와 같은 문제점을 나타냈다. 이루다는 현실 세상의 사람들과 대화하다 다시 디지털 세계로 돌아가면서 인공지능과 관련한 윤리적인 연구 등의 숙제를 남겼다.

현재와 같이 인공지능 기반 서비스가 확산되는 상황에서 인공지능 윤리는 우리가 다뤄야 할 사회적 과제다. 인공지능을 도입하면서 법이나 윤리, 철학 등 인문학이 공학과 함께 연구의 필요성이 대두 되었다. 편리함으로 효율적인 생산성 향상을 위한 공학적인 기술 발전은 반드시 필요하다. 그러나 이를 뒷받침할 도덕과 윤리가 없으면 이루다와 같이 해프닝으로 끝날 수도 있다.

우리는 이제 인공지능과 윤리 문제도 공론화해야 한다. 체계적인 선행 연구로 인공지능의 윤리체계를 확립해야 한다. 기술 개발과 사회 현장을 반영한 다각적인 연구가 필요하다. 인공지능 윤리와 관련한 국내 논문은 겨우 30건 안쪽에 머물고 있는 게 현실이다. 과학기술정보통신부 중심의 윤리 기준안도 모호하다는 평가다.

경희대학교 법학전문대학원 정완 교수의 ‘인공지능 로봇에 관한 법적 고찰’ 논문과 같이 인공지능 로봇의 법률관계에 깊이 있는 연구도 필요하다. 이 논문은 인공지능 로봇 행위에 대한 민·형사책임의 귀속문제, 보험 제도를 이용한 피해보상, 윤리헌장 제정을 통한 인공지능 로봇 사용자와 제조자 등의 행동강령 제정 등을 연구했다. 제2의 이루다 사태를 예방하기 위한 인공지능이 학습하는 데이터가 사회 통념에 맞는지 등 사회에 기반 한 연구도 필요하다.