이제 인공지능(AI)은 인류에게 명백한 실존적 위협으로 다가오고 있다. 2016년 알파고가 이세돌과의 바둑대국에서 압도적 승리를 거두리라고 예측한 사람은 거의 없었을 것이다. 하지만 그때까지도 AI는 게임의 규칙 이상이 요구되는 영역에서 인간을 능가하거나 적어도 모방할 수 있을 것인지는 여전히 불확실했다.

그러나 현재 약인공지능(artificial narrow intelligence), 즉 특정 과제를 인간의 의도에 따라 수행하는 AI의 성능은 비약적으로 발달하고 있다. 번역 AI의 품질 역시 지속적으로 개선돼 인간 번역사의 번역에 필적한다. 특히 최근 챗GPT로 대표되는 대형언어모델(Large language model, LLM)의 자연어 처리 능력은 경이로움 그 자체다. 동영상 생성 AI인 소라 역시 간단한 텍스트를 바탕으로 놀라운 수준의 동영상을 생성해낼 것으로 기대된다. AI가 인류의 고차원적 사유능력이 요구되는 지식산업 영역에서 인간을 대체할 것이라는 예측은 이제 대세가 되었다.

인공지능의 디스토피아적 미래관은 AI의 성능이 앞으로도 계속해서 높은 발달 수준을 유지할 것이라는 가정에 기반한다. 그런데 최근 연구결과에 의하면 AI는 ‘인공지능 모델 붕괴(AI model collapse)’라 불리는 전혀 반대되는 방식으로 인류를 대재앙에 빠뜨릴 가능성도 있다. 오늘날 고도의 AI가 가능하게 된 것은 인류가 축적해온 방대한 원본 데이터를 학습할 수 있었기 때문이다.

합성데이터로 학습하는 AI의 위험성

생성형AI(generative AI)가 인공지능에 의해 만들어진 이른바 합성데이터(synthetic data)를 점점 더 높은 비율로 학습하게 되면, 차츰 원본 데이터의 통계적 특성과 구조(다양성 복잡성)를 잊어버리게 되면서 합성데이터의 오류와 편향이 증폭되는 결과물을 만들게 된다고 한다. 그렇다면 AI가 더 많이 활용되어 합성데이터 비중이 증가할수록, 그리고 AI가 점점 인간을 대체해 고품질 원본 데이터 비중이 낮아질수록 인공지능 모델 붕괴 시점은 더 빨리 도래할 것이다.

사실 인공지능 모델 붕괴는 AI 고유의 새로운 현상이 아니다. 인류의 과거, 그리고 현재에서 반복적으로 나타난 반향실 효과(echo chamber effect)의 사례일 뿐이다.

소리가 밖으로 새지 않는 반향실에서는 소리가 메아리처럼 울리고 또한 스피커에서 나는 소리가 다시 마이크에 들어가면 하울링 효과가 나타나는 것처럼, 동일한 정보와 신념을 가진 사람들이 그들 내부에서만 그러한 정보와 신념을 공유할 경우 결국 그들은 자기가 보고 싶은 것만 보고 듣고 싶은 것만 듣게 되면서 어느 순간 극단적 편견과 오류에 빠지게 된다.

20세기 초중반 민족주의가 반향실에 갇히면서 독일의 나치즘과 일본의 군국주의가 발현했고, 20세기 중반 공산주의가 반향실 안에서 치명적 자만에 빠지면서 대약진운동과 문화혁명이라는 현대 중국사의 비극이 벌어졌다. 2008년 리먼브라더스 사태는 구미 금융계가 반향실 안에서 집단적으로 합성금융상품을 거래하면서 합성금융상품에 내재한 복잡다기한 리스크를 제대로 살펴보지 못한 데 따른 결과다.

21세기 중반을 향해가는 대한민국 국가시스템 또한 반향실 효과에서 자유롭지 못하다. 에너지요금, 부동산 PF, 공공의대, 과도한 인프라 건설 등 여러 부문에서 전방위적으로 포퓰리즘 증상이 나타나고 있다. 포퓰리즘은 반향실에 갇힌 민주주의다.

포퓰리즘은 반향실에 갇힌 민주주의

이들 부문 문제의 원인이 그리 단순하지 않음에도 정부와 정치권은 반향실 안에서 표심을 위해, 그리고 자신의 정치적 이익을 위해 국가재정에 의존하는 단순한 해결책을 선호한다. 이는 해당 부문 시스템 고유의 원리와 가치를 무너뜨리고 국가의 재정건전성을 훼손하며 국가 구성원 간의 극심한 분열을 조장하고, 궁극적으로는 국가 전체 시스템을 위협할 것이다.

아무리 선한 의도와 훌륭한 모델을 바탕으로 만들어진 시스템이라도 반향실에 갇히는 순간 진실과 유리되면서 부지불식간에 붕괴하기 마련이다. 현재의 어려운 국내외 환경을 고려할 때 포퓰리즘의 반향실로부터 대한민국 민주주의를 구원하기 위한 노력이 매우 시급하다. 그 출발점은 복잡한 사회문제를 있는 그대로 직시하는 것, 그리고 그저 국가재정에만 의존하는 정부와 정치권의 단순한 해결책에 ‘No’라고 말할 수 있는 용기를 가지는 것이다.

박진표 법무법인 태평양 변호사