2024년 노벨물리학상과 노벨화학상이 발표되면서 많은 사람들이 바야흐로 인공지능(AI)시대의 전성기임을 실감했다. 전통적인 물리 화학 분야에서 AI연구에 큰 기여를 한 연구자들의 수상이 이어졌기 때문이다.

AI시대를 이끈 연구자들은 자신의 주요 연구분야 뿐 아니라 인접학문을 포함한 타연구 분야에 대해 지속적으로 관심을 갖고 깊이 있게 연구했다. 특히 이들은 인간의 정보처리 양상을 닮은 AI를 구현하기 위해 뇌의 인지처리방식에 대해 오랫동안 관심을 가져왔다. 올해 노벨물리학상 수상자인 제프리 힌턴(Geoffrey Hinton)과 노벨화학상을 수상한 데미스 허사비스(Demis Hassabis)의 사례를 통해 학제간 연구 사례를 조명해보고자 한다.

학제간 연구협력 통한 인공지능 연구

2024년 노벨상위원회는 제프리 힌턴이 인공지능에 기여한 공로를 높게 평가해 노벨물리학상을 수여했다. 인지심리학자이자 컴퓨터 과학자인 제프리 힌턴(1947~)은 뇌의 신경기제에 대한 관심으로 생리학과 물리학을 공부하고, 킹스칼리지에서 실험심리학 학사로 졸업했다. 이후 석사과정에서는 철학과 심리학을 전공하고 에든버러대학에서 인공신경망으로 박사학위를 취득했다.

그는 인공지능모델에서 신경망 분야에 큰 기여를 했으며, 특히 1982년 카네기멜론대학에서 심리학자 데이비드 럼멜하트(David Rumelhart), 컴퓨터 과학자 로날드 윌리엄스(Ronald J. Williams)와 협력해 역전파 알고리즘을 개발해 1986년 네이처지에 발표했다. 이 알고리즘은 심층 신경망을 훈련하는 기초가 되었으며 네트워크의 패턴을 인식하고 대량의 데이터를 기반으로 의사결정을 내리는 방법을 학습하는데 결정적인 역할을 했다.

이후 힌튼은 신경망 모델을 지속적으로 발전시켜 2012년 알렉스넷(AlexNet)을 개발하고 이후 구글에 합류한다. 알렉스넷은 심층 신경망의 뛰어난 성능을 입증하며 컴퓨터 비전의 획기적인 발전을 가져왔다. 2023년 힌튼은 구글을 퇴사하면서 상업적 AI 사용의 위험성에 대한 언급했다.

학제 넘나드는 시도 통한 인공지능 연구

데미스 허사비스(1976~)는 프로틴 구조 예측에 기여한 알파폴드를 개발한 공로로 2024년 노벨화학상을 수상했다. 그는 어린시절 체스에 두각을 나타냈으며 게임개발로 상업적으로 큰 성과를 보이기도 했다. 퀸즈 칼리지에서 컴퓨터 과학을 전공한 후 시뮬레이션 게임 제작을 했으며, 2009년에 인지신경과학으로 박사학위를 취득했다.

허사비스는 새로운 AI 알고리즘을 개발하기 위해 인간의 인지처리과정과 뇌기능영상을 활용한 뇌신경학적 반응에서 영감을 얻고자 시도했다. 그의 뇌과학 연구주제는 인간의 기억과 관련된 것으로 해마를 중심으로 뇌기능적 특성을 밝혀냄으로써 기억시스템에 대한 이론을 발전시켜나갔다.

2010년 딥마인드를 설립한 허사비스는 알파고를 개발했고, 이후 에너지 절감과 AI 안전성 연구 그리고 의료서비스 개선에 기여하는 AI 연구를 지속해왔다.

하사비스는 제프리 힌턴과 마찬가지로 AI가 오용될 경우 발생할 수 있는 잠재적 위험에 대해 경고해왔으며 더 많은 AI 안전성 연구가 필요하다고 주장한다.

지속적인 연구협력과 인접학문을 통한 통찰

데이비드 후벨과 토르스텐 비셀은 1981년 시각정보 처리와 대뇌 시각피질 연구를 통해 노벨 생리의학상을 수상했다. 1959년 존 홉킨스 의과대학 신경과학연구실에서 만난 이들은 1964년 고양이를 대상으로 시신경 연구를 통해 포유류의 시각정보처리 발달에 대해 밝혔으며, 이후 영장류를 대상으로 결과를 재검증했다. 이들의 협력은 20년 이상 계속되었으며 이를 통해 시각 시스템의 정보처리과 발달과정에 대한 세부 사항을 밝혀낼 수 있었다.

이들의 연구 결과는 선천성 시력 장애를 치료할 수 있는 결정적 시기에 대한 중요한 단서를 제시했을 뿐 아니라 시각피질의 서로 다른 세포들이 계층적으로 구성되어 있다는 사실을 발견했다. 인간 시각피질에는 각각의 특징정보를 추출할 수 있는 세포층이 존재하며 각 단계에서 얻어진 정보가 다음 단계에서 종합적으로 처리되면서 고차원적인 정보추출이 가능해진다. 이러한 사실은 이미지와 자연어 처리에 널리 쓰이는 합성곱 신경망 (convolutional neural network) 개발에 영감을 주었다.

현재 각광받는 인공지능의 발자취를 따라가면 학제간 연구를 바탕으로 인간 인지기능의 핵심 중추인 뇌기능에 대한 탐구가 있어왔음을 알 수 있다. 학제간 연구는 다양한 학문분과들 간의 연구로 하나의 연구문제를 해결하기 위해 인접 학문에서 다루는 지식들을 활용하고 이를 위해 협력하는 것을 의미한다.

인공지능에 영향을 미친 대표적인 학제간 연구분야로 인지과학을 들 수 있다. 이는 인간의 마음 또는 인지처리의 작동원리를 이해하고 동물 및 인공지능 시스템의 정보적 표상과 그 작동과정을 연구하며 나아가 개체내, 개체간의 상호작용을 다루는 다학문적 과학이다. 이러한 학제간 연구를 통해 이제까지 한 분과에서 풀어내지 못한 문제에 대한 다양한 접근과 해결의 실마리를 찾을 수 있다.

학제간 연구의 목적을 달성하기 위해서는 단순히 각 연구분야의 지식을 섞거나 결합하는 것이 아닌 한가지 문제를 해결하기 위해 수렴(convergence)하는 융합의 과정이 필요하다. 틀 안에서의 교육이 아닌 해결의 실마리를 찾기 위한 적극적인 탐색과 깊이 있는 접근이 중요할 것이다.

전지원 가톨릭대의대, 뇌과학