UPDATE . 2018-08-18 04:00 (토)
[김형근 칼럼] 킬러 로봇의 책임을 명확히 할 필요가 있다
[김형근 칼럼] 킬러 로봇의 책임을 명확히 할 필요가 있다
  • 김형근 논설위원 과학칼럼니스트
  • 승인 2018.02.12 08:46
  • 댓글 0
이 기사를 공유합니다

김형근 논설위원 과학칼럼니스트

인공지능과 인간 지능의 우열을 놓고 많은 논쟁이 오가고 있다. 그러나 적어도 지금까지는 첨단 로봇, 그리고 인공지능은 여전히 인간 통제하에 있다. 다시 말해서 프로그램을 인간이 조절하고 있다. 그런데 로봇이 인간의 통제를 벗어나 자율성을 갖도록 프로그램화 된다면 어떻게 될까? 그것도 킬러 목적의 로봇에 말이다. 로봇은 스스로 판단 능력을 발휘해 순간적인 대응을 잘 할 수 있을까?

세계 군사강국들이 최근 앞다투어 무기개발에 열을 올리는 분야가 사람의 지시 없이 발포할 수 있는 로봇 개발이다. 다시 말해서 킬러 로봇에 자율성을 부과해 로봇이 판단할 수 있도록 한다는 것이다. 최근 로봇공학의 발 빠른 진전으로 볼 때 자율성을 가진 킬러 로봇이 수십 년 뒤가 아니라 불과 몇 년 뒤에 현실화할 가능성이 크다.

2016년 4월 세계군축회의의 주요 의제는 킬러 로봇이었다. 참석한 전문가들은 한결같이 자율성 킬러 로봇을 규제할 국제 무기 조약이 필요하다고 지적했다. 그러나 이러한 로봇 개발에는 대책마련도 뒤따라야 한다는 목소리가 높게 일고 있다. 국제인권단체인 휴먼라이츠워치(Human Rights Watch)가 이러한 목소리에 앞장서고 있다.

개발 국가의 입장에서 볼 때 킬러 로봇의 장점은 무엇보다 감정이 없기 때문에 과감하고 위험한 임무에 투입할 수 있다. 얄궂게 표현하자면 무자비한 행동을 취할 수가 있다. 또 인력을 대신하기 때문에 국방비 부담을 줄이는 경제적 이점도 있다. 또 인명 피해를 최소화 할 수 있는 장점도 있다.

그러나 스티븐 호킹을 비롯해 세계 많은 석학들은 킬러 로봇이 인류의 대재앙을 초래할 수 있다고 경고했다. 테슬라 모터스의 최고 경영자인 일론 머스크는 “킬러 로봇 개발은 악마를 불러들이는 것과 마찬 가지.”라고 비난했다. 이러한 킬러 로봇에 자율성의 날개를 달아준다면 그 우려는 더욱더 심각해 질 것이라는 지적이다.

군축회의는 인류를 위협할 새로운 무기들에 대해 논하는 자리다. 2016년 스위스 제네바 유엔 본부에서 수십 개국이 참가한 군축 회의에서 중요하게 다루어진 의제가 전 세계 군사강국들이 열을 올리고 있는 자율 무기, 즉 자율성을 갖춘 킬러 로봇이었다. 표적을 임의로 골라 사실상 인간의 통제 없이 로봇 스스로가 판단하여 발포하는 무기에 대해 어떤 기준과 통제 장치가 마련돼야 한다는 내용이었다.

로봇의 자율성을 확대하는 쪽으로 기술발전이 이뤄지면서 무기 체계에 대한 인간의 통제력이 약화된다. 그에 따라 전쟁 수행 방식에 혁명적인 변화가 일어날 수도 있다. 살상 권한을 로봇에 넘겨주면 화약이나 핵무기의 출현보다 더 큰 영향을 미칠 수 있다. 이런 무기 개발이 수십 년 뒤가 아니라 불과 몇 년 뒤에 가능하다고 인공지능 전문가들은 말한다.

이 같은 치명적인 자율 무기 시스템이 현대의 군사장비에 추가될 가능성은 법적, 윤리적, 안전 문제를 다수 제기한다. 이런 우려는 그런 무기의 사용에 대한 인간의 통제력 상실과 직접적으로 연관된다. 완전 자율 무기 문제만을 다룬 국제법은 아직까지 없다. 하지만 이에 관한 새로운 금지 규정은 채택할 수 있다. 역사적으로 무기를 줄이거나 금지하는 군축 법에서는 사람의 통제를 받지 않는 무기는 인정할 수 없다고 판단해 금지했다.

예를 들어 지뢰금지협약에선 통제되지 않는 대인지뢰를 금지했다. 사람이 작동하지 않고 피해자가 뇌관을 터뜨리기 때문이다. 생물학과 화학무기협약을 채택한 이유는 일정 부분 통제되지 않는 무기가 유발하는 공포를 저지하려는 취지였다. 그렇다면 각국이 재래무기금지협약을 치명적 자율 무기 시스템에 어떻게 연관 지을 지 결정할 때 따를 만한 선례는 있는 셈이다. 이젠 각국이 토론에 그치지 않고 행동에 옮길 때다.


hgkim54@naver.com

섹션별 최신기사
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.