“인공지능(AI)는 주체적으로 독립적으로 행위를 할 수 있는 행위자입니다. AI는 스스로 배우고 변화하고 새로운 것을 만들어내고 결정을 내릴 수 있는 능력을 가지고 있습니다. 그렇게 때문에 굉장히 긍정적인 면이 있지만 동시에 굉장한 위험이 따릅니다. 인간이 AI를 제어할 수가 없기 때문입니다. 그런 면에서 AI는 인간이 발명한 어떤 기술과도 다릅니다.”

15일 줌을 통해 독일 베를린 현지에서 한국의 기자들과 만난 유발 하라리 교수의 AI에 대한 일성이다. 이날 유발 하라리 교수는 ‘넥서스’(김영사) 출간 기념 기자 간담회를 열고 AI에 대한 본인의 통찰력을 밝혔다. ‘넥서스’는 ‘사피엔스’와 ‘호모데우스’에 이은 6년 만의 신작으로 AI 혁명의 의미와 본질, 인류에게 남은 기회 등을 담았다.

이날 그는 AI의 위험에 대해 “AI는 데이터를 기반으로 훈련을 받아야 하는데 데이터는 여성을 향해 혹은 인종, 성적 소수자에 대해 편향된 경우가 많다”면서 “사회에 AI의 편향 문제를 끊임없이 상기시켜 탈편향화를 가능하게 하는 것이 역사학자 철학자 사회과학자들의 의무”라고 말했다. 이어 “AI와 불평등과 관련해 19세기 산업혁명 당시 소수의 나라들이 혁명을 주도하면서 앞선 기술로 세계를 지배하는 상황이 일어났다”면서 “AI 관련해서도 소수의 국가가 선두 주자로 나서고 있는데 다른 국가들을 착취할 수 있는 위치에 올라갈 가능성이 높으며 이는 매우 큰 문제”라고 말했다.

또 다른 문제로 그는 “기술이 성숙하고 100~200년이 지나면 AI를 기반으로 부와 권력을 누렸던 사람들조차 AI를 마음대로 통제하지 못하는 시대가 올 수 있다”면서 “AI의 잠재적 위험에 더 취약한 것은 민주국가 보다 독재정권인데 민주국가는 대통령의 권력을 견제하는 여러 장치들이 마련돼 있지만 독재정권은 그렇지 않기 때문”이라고 설명했다.

AI와 관련해 그는 가장 큰 도전을 ‘인간 사회의 분열’로 꼽았다.

그는 “우리가 협동해서 인류가 이 새로운 기술을 잘 통제할 수 있다면 AI의 엄청난 잠재력을 인류를 위해 긍정적으로 활용할 수 있겠지만 인류가 분열된 상태에서는 쉽지 않을 것”이라면서 “국제기구를 설립해 AI를 관찰하고 정확히 이해하려는 노력을 해야 하며 당장 실천할 수 있는 규제로는 기업이 자신의 알고리즘 때문에 벌어진 일에 대해 법적 책임을 지게 하는 것과 AI가 인간인 척하고 인간과 상호작용을 하는 것을 금지하는 것”이라고 말했다.

송현경 기자 funnysong@naeil.com