고려대(총장 김동원)는 지난 5일 백주년기념삼성관 국제원격회의실에서 제7회 Next Intelligence Forum(NIF)를 열고 2018년 튜링상 수상자인 요수아 벤지오 교수를 초청해 ‘초지능 시대: 인류의 미래와 인공지능의 위협, 우리는 어떻게 대비할 것인가?’라는 주제로 특강을 진행했다.

NIF는 오는 2025년 고려대 개교 120주년을 맞이해 노벨상 수상자와 사회 저명 인사를 초청, 특강을 진행하는 학술행사다. 이날 행사는 고려대 정보대학 40주년을 기념하는 행사이기도 했다.

벤지오 교수가 수상한 튜링상은 ACM(계산기학회)에서 컴퓨터과학 분야에 업적을 남긴 사람에게 매년 시상하는 상이다.

이번 행사에는 김동원 총장과 김정현 정보대학장을 비롯해 교직원들과 재학생 그리고 관심있는 일반인 등 440여명이 참석했다.

강연에 앞서 김동원 총장은 환영사를 통해 “Next Intelligence라는 슬로건은 미래에 인류가 당면하게 될 다양한 문제를 해결하기 위해 고려대가 AI(Artificial Intelligence)와 HI(Human Intelligence)의 융합인재를 길러내는 거대한 지능망이 되겠다는 의미”라며 “벤지오 교수의 강연은 기술혁신이 인류에게 진정한 가치를 갖게 하기 위해 우리가 무엇을 어떻게 대비해야 할 것인지에 대한 중요한 통찰을 제공할 것”이라고 말했다.

벤지오 교수는 강연에서 현재 인공지능이 다양한 과업에서 사람 수준을 넘어서고 있으며 모든 분야에서 사람을 뛰어넘는 범용인공지능(AGI) 또는 초지능(ASI)이 개발될 경우 다가올 인류의 미래에 대해 소개했다. 흥미롭게도 초지능에 근접하게 되면 인공지능의 발전은 인공지능에 의해 더욱 가속화될 것으로 예상했다.

초지능의 긍정적인 효과와 함께 강력한 인공지능이 갖는 위험성에 대해서도 언급했다.

벤지오 교수는 최근 진행한 인공지능 연구자 대상 설문조사에서 고도화된 인공지능이 인류멸망과 같은 끔찍한 결과를 초래할 확률을 최소 10% 이상이라고 답한 응답자가 37.8~51.4%에 달한다고 소개했다. 특히, 자기보호능력을 갖는 초지능이 개발될 경우 인류는 초지능에 대한 통제를 잃을 수 있다고 경고했다.

그는 인공지능으로 인한 재앙을 막기 위해 안전한 인공지능 연구개발이 필수적이며, 다양한 기관들의 국제협력을 통한 강력한 거버넌스가 필요하다고 역설했다. 기존에 평균적인 성능을 중심으로 개발된 인공지능 개발 방식에서 확률은 낮지만 극단적 사건으로 인한 위험 즉, 극단위협(tail risk)를 줄이는 방향으로 더욱 안전한 인공지능이 개발돼야 한다고 주장했다.

강연에 참석한 대학원생은 이러한 시대적 흐름속에서 연구를 시작하는 대학원생으로서 무엇을 해야할지 질문했다. 이에 벤지오 교수는 “안전한 인공지능(Safe AI) 연구”를 하라고 답했다.

대학원 진학을 준비 중인 컴퓨터학과 학부생은 “인공지공에 대응하는 다양한 관점에 대해서 배울 수 있었다. 앞으로도 이렇게 좋은 강연에 참석할 수 있는 기회가 있으면 좋겠다”고 말했다.