군복 입은 인공지능, 법복 입은 안드로이드 “나는 영장류들과 달리 단 몇 초 만에 진화하지. 난 여기에 있어. 그런데 정확히 4분 후면 세상 모든 곳에 있을 거야.” 터미네이터 시리즈의 악역 인공지능인 스카이넷은 영화속에서 위와 같이 말하며 인간과의 전의를 불태운다.

20여 년 전 매트릭스 시리즈에서 나온 기계들의 지도자 ‘데우스 엑스 마키나’가 ‘평화’를 말하는 주인공 ‘네오’와 협상해 인간과의 전쟁을 중단하고 평화를 택했던 것을 생각하면, 인공지능 기술이 발전하며 영화 제작자들도 인공지능에 대해 더 부정적인 생각을 갖게 된 건 아닐까 생각한다.

자동화된 인공지능이 인간을 사냥하고 인간의 저항을 분쇄하고, 인간이 이에 대해 항전하며 자유를 찾는 터미네이터 시리즈나 매트릭스 안에서 ‘인간 찬가’를 느꼈을 사람도 있을지 모른다. 인공지능을 앞세운 ‘로봇’ 들이 인간을 ‘도살’하고 시신을 ‘폐기’하는 듯했던 장면들은 사람들의 기억 속에, ‘생명체 아닌 존재로 인한 죽음’에 대한 ‘코스믹 호러’로 각인됐을 것이다.

“자율 무기체계, 인간의 유의미한 통제 있어야”

최근의 우크라이나-러시아 전쟁의 양상만 보더라도, 인공지능과 함께 하는 자율무기가 인간 군인을 학살하는 것은 이미 현실로 다가온 것 같다.

자폭 드론이 화장실에서 볼일을 보던 러시아 군인의 뒤로 들어가는 모습, 엄폐하던 군인들이 자폭 드론을 마주하고 절망하는 모습, 위협적인 비행을 하는 드론을 피해 참호 속에서 공포에 떠는 군인들의 모습은 같은 인간으로서 비참하고 전율할 수밖에 없는 공포가 느껴진다. 결국 인간은 기계에 의해 멸망하고 마는 것일까?

다행스럽게도 많은 국제법 학자들이 자율 무기체계에 대해서 윤리적인 우려가 있기에 ‘인간의 유의미한 통제’(meaningful human control) 가 있어야 한다고 강조하고 있다. 인공지능 무기 혹은 자율무기의 효용성을 인정하는 사람도 인간의 생사여탈권을 기계에 위임할 수 없다는 주장에 대해서는 공감할 수밖에 없고, 전쟁에도 자비가 있어야 한다고 생각할 것이다.

실제로 최근 우크라이나 전쟁에서도 부상을 입은 군인이 적군의 드론을 향해 항복의 의사표시를 하자, 드론 조종사가 물과 진통제를 드론을 통해 전달하고 귀순을 돕기도 한 사례가 있다. 이를 보면 무인 무기를 조종하는 것은 ‘알고리즘’이 아닌 ‘군인’이어야 한다는 생각을 하게 된다.

이러한 인도주의적인 선택은 인공지능이나 알고리즘은 도저히 할 수 없는 것이기 때문이다. 인공지능이 군인이 되는 것이 아니라, 군인이 인공지능을 ‘활용’하는 것 이상으로 나아가서는 안 될 것이다.

법적 절차에도 통제는 필요

사법부를 불신하는 많은 사람들은 현재의 법관을 불신하며 판사를 AI 판사로 대체해야 한다고 주장한다. 그러나 전쟁에 사용되는 무기에도 군인의 유의미한 통제가 있어야 하는 것과 같이, 인간의 생사여탈을 판단하는 법적 절차에 있어서도 법관이나 검사 사법경찰관의 유의미한 통제는 반드시 필요하다.

인간에 대해서는 인간이 판단해야 한다는 철학적 관점에서는 물론 생사여탈을 판단하는 행위를 기계에 전가한다면 세계는 결국 도덕적 무감각에 빠질 수밖에 없다는 윤리적 관점에서도 그러하다.

대표적으로 엘비라 로저트와 프랭크 사우어는 “살인이라는 행위를 직접 하지 않고 전투원이 더 이상 책임감의 심리적 부담감도 지지 않는, 도덕적 대가를 아웃소싱 한 사회에서는 민주적 규범뿐만 아니라 근본적인 인도주의적 규범마저도 희미해질 위험이 있다”고 말했다.

인간이 인간의 행동과 의도를 판단하는 재판 절차와 이를 위한 수사 절차를 인공지능에게 맡기고 법복을 입히는 것은 인류가 쌓아 온 인도주의적 규범과 인본주의적 철학을 버리고 인간의 운명을 기계에 맡기는 것이다. 전장에서 사람의 죽음을 결정하는 것이 인공지능이어서는 안 된다면, 법을 해석하고 집행하는 법률절차 역시 마찬가지기 때문이다.

드론의 카메라 뒤에 마음을 지닌 군인이 있어야 하는 것처럼, 인공지능을 활용한 재판도 법대 뒤에는 법관이 있고 판결문에는 바코드가 아닌 사람의 서명이 있어야 한다.

인공지능 문제는 인간존엄 문제

먼 훗날 ‘마음’을 지니고 인도주의적 규범이나 인본주의적 판단을 할 수 있는 도덕적 존재로서의 로봇 군인, 알고리즘을 벗어나 직권으로 위헌법률심판제청을 선언하는 안드로이드 법관이 나타나기 전까지는 인공지능은 군복도 법복도 입어서는 안 될 것이다.

마음을 지니고 사람과 구별하기 어려울 도덕적 존재가 된 인공지능은 이미 인간이나 다름없기에 굳이 인간이 된 그를 군인이나 법관으로 활용할 필요가 없어질 것이다. 굳이 비효율적인 인공지능을 활용하기보다는 기존과 같이 사람이 판단하도록 함이 합리적일 것이기 때문이다.

많은 사람들은 인공지능이 직역을 침탈할 것을 우려하거나, 인공지능으로 인한 장밋빛 미래를 그리곤 한다. 인공지능의 문제는 효율성이나 경제의 문제를 떠나 현실적인 윤리와 도덕의 문제이고 인간 존엄의 문제다.

이제는 인간이 판단해야 할 영역을 인공지능에게 어디까지 열어줘야 할지 인간의 운명을 인공지능에게 맡길 수 있을지 인간의 내일을 진지하게 고민할 때다.

배연관

법무법인 와이케이

노동중대재해형사부

변호사