아마존을 비롯한 매그니피센트7(M7) 빅테크들이 자체 인공지능(AI)칩 개발을 통해 탈 엔비디아를 모색하고 있다. 3일(현지시간) 블룸버그통신에 따르면 아마존 창업자 제프 베이조스는 삼성전자와 LG전자, 현대차그룹 등이 투자한 캐나다 반도체 스타트업 텐스토렌트(Tenstorrent)에 7억달러(약 9800억원)를 투자하기로 했다. AI 칩 선두주자 엔비디아의 독주를 막기 위한 행보로 해석된다.

텐스토렌트는 ‘반도체의 전설’로 불리는 짐 켈러 최고경영자(CEO)가 이끄는 회사로, 기업가치는 26억달러(약 3조6500억원)가량으로 평가받고 있다. 텐스토렌트는 개방형·저전력 반도체 설계자산(IP)인 리스크-파이브(RISC-V) 중앙처리장치(CPU)와 AI 알고리즘 구동에 특화된 IP인 텐식스(Tensix) 신경망처리장치(NPU)를 활용해 세계적인 고성능 컴퓨팅(HPC) 반도체를 설계할 수 있는 기술역량을 갖췄다고 평가받는다.

텐스토렌트는 켈러가 2016년 설립한 반도체 설계 전문(팹리스) 스타트업이다. 켈러는 AMD에서 ‘젠’ 시리즈 CPU 설계를 총괄하며 인텔과 기술격차를 좁히는 데 크게 기여한 인물로 알려졌다.

반도체 설계의 전설 짐 켈러와 손잡다

블룸버그통신은 이에 앞서 11월 24일 아마존의 칩 설계 및 시험 부서가 올 연말까지 최신 반도체인 ‘트레이니엄2(Trainium2)’가 데이터센터에서 안정적으로 가동되도록 하기 위해 노력중이라고 보도했다. 아마존 차제 칩의 가장 큰 장점은 비용절감인데 트레이니엄2는 엔비디아 AI칩 비용 대비 30%의 높은 성능을 보인다고 밝히고 있다.

주요 기업들은 AI 시장의 빠른 확장에 경쟁 강도를 높이고 있다. 시장조사기관 가트너에 따르면 올해 글로벌 AI 반도체 시장 규모는 약 710억달러로 지난해 대비 33% 성장하고 2028년에는 시장규모가 1590억달러에 달할 것으로 관측된다.

2023년 5월 챗GPT 출시 이후 AI 분야는 전세계의 주목을 받고 있으며, 이를 통해 미국은 AI 산업의 패권을 쥐게 됐다. 지난 2년 동안 엔비디아는 생성형AI 기술을 가능하게 하는 핵심 하드웨어 제조업체로 급부상하며 시가총액 기준으로 세계에서 가장 큰 기업으로 성장했다.

그러나 생성형AI의 발전과 함께 AI 칩에 대한 수요가 급증하면서 아마존 등 대형 클라우드 서비스 제공업체들은 엔비디아의 반도체 칩에 대한 의존도를 낮추고 비용을 절감하기 위해 자체 AI 칩 개발을 활발히 추진하고 있다.

클라우드 서비스 제공업체들의 변화

미국 텍사스주 오스틴 북부는 소규모 기술기업들이 모여 있는 중심지로 아마존의 엔지니어들이 활발히 움직이는 곳이다. 아마존은 현재 1000억달러 이상의 가치를 지닌 AI 칩을 개발하기 위해 고군분투하고 있다. 이곳에서는 시가총액 2조달러를 넘는 거대 기업에서 보기 어려운 창업 분위기가 펼쳐지고 있다.

아마존 AI 반도체의 첫번째 칩 개발을 이끈 라미 시노(Rami Sinno)는 레바논 출신의 엔지니어로 수십 년간 반도체 업계에서 일해 온 전문가이다. 그는 현재 트레이니엄2 칩의 안정적인 실행을 위해 막바지 작업을 진행하고 있다.

아마존은 이미 15년 전 클라우드 컴퓨팅 사업에 과감하게 뛰어들었으며 그 과정에서 인프라를 대대적으로 확장해 왔다. 기존 칩 제조업체인 인텔과의 협력을 넘어, 아마존은 데이터센터의 서버와 네트워크 스위치를 맞춤형 하드웨어로 교체해왔다. 특히 제임스 해밀턴(James Hamilton) 수석 부사장은 제프 베이조스를 설득해 아마존 자체 칩을 만들자고 제안했다.

2년 전 오픈AI의 챗GPT가 큰 인기를 끌던 당시, 아마존은 AI 칩 개발과 관련 기술적인 도전에 부딪혔다. 아마존은 자체적으로 대규모 언어 모델을 개발하지 못한 상태였다. 하지만 아마존이 구축한 클라우드 인프라는 경쟁력을 발휘하기 시작했다.

아마존 웹 서비스(AWS)는 다른 기업들이 만든 AI 모델을 사용하는 기업에게 서버 장비와 편리성을 개선하는 방식으로 AI 시장에 적극적으로 참여했다. 해밀턴 부사장은 2013년 아마존에 “모든 길은 반도체 설계팀을 보유하는 것으로 이어진다”는 제안을 했다. 한달 후 해밀턴은 시애틀의 버지니아 주점에서 나페아 브샤라(Nafea Bshara)와 만난다. 2000년대 초반 샌프란시스코로 이주한 이스라엘 반도체 칩 업계 베테랑인 브샤라는 네팔 히말라야 산맥의 봉우리 이름을 딴 안나푸르나연구소를 공동 설립했다. 이 작은 스타트업은 대부분의 산업이 휴대폰에 집중되어 있던 시기에 데이터센터용 칩을 구축하기 시작했다.

아마존은 안나푸르나에 프로세서를 의뢰했고, 2년 후 3억5000만달러에 이 스타트업을 인수했다. 대단한 선견지명이었다. 아마존은 이를 통해 니트로(Nitro)라는 하드웨어를 개발해 데이터센터 성능을 대폭 개선했다.

또한 아마존은 그래비톤(Graviton)이라는 암(ARM) 기반의 칩을 생산해 인텔 제품보다 더 저렴한 가격에 제공하며 시장에서 큰 성공을 거두었다. 이후 아마존은 머신러닝 칩 제조를 위한 연구개발을 지속적으로 진행하고 있으며, 2019년부터는 AI 칩 ‘인퍼렌시아(Inferentia)’를 출시해 데이터센터에 배포했다. 이 칩은 알렉사 음성 비서의 명령을 처리하는 데 사용된다.

아마존의 AI 칩에 대한 고객들의 첫 반응은 별로였다. 하지만 생성형AI 혁명에 빠르게 동참하고자 하는 일본 기업들이 나섰다. 예를 들어 일본 전자기기 제조업체인 리코는 영어 데이터로 훈련된 대규모 언어 모델을 일본어로 변환하는 데 아마존 AI 칩 도움을 받았다.

아마존 칩이 안고 있는 과제

현재 아마존은 3세대 AI 칩인 트레이니엄2를 시장에 내놓았다. 트레이니엄2는 트레이니엄1보다 4배 향상된 성능을 자랑하며 메모리도 3배 늘었다. 이를 통해 아마존은 대규모 데이터센터에서 성능 향상을 꾀하고 있다. 트레이니엄2는 이미 오하이오와 다른 지역의 데이터센터에 배송을 시작했다.

아마존 외에도 구글과 마이크로소프트가 AI 칩 개발에 적극적으로 나서고 있다. 구글은 약 10년 전부터 자체 AI 칩 개발을 시작했다. 현재 엔트로픽(Anthropic), 코히어(Cohere) 및 미드저니(Midjourney) 등 인공지능 스타트업을 포함한 클라우드 고객에게 제품을 제공하고 있다. 이 칩의 최신 버전은 내년에 널리 사용될 것으로 예상된다.

올해 4월 구글은 아마존의 그래비톤(Graviton)과 유사한 중앙처리장치를 처음 선보였다. 반도체 및 기타 인프라 관련 엔지니어링 팀을 이끄는 구글 부사장 아민 바닷(Amin Vahdat)은 “궁극적인 목표는 AI와 일반 컴퓨팅 칩이 끊김없이 원활하게 작동하도록 하는 것”이라고 말했다.

마이크로소프트는 뒤늦게 시장에 진출에 지난해 AI 가속기 ‘마이아(Maia)’와 CPU ‘코발트(Cobalt)’를 발표했다. 이달 초 보안 칩과 CPU-그래픽처리장치(GPU) 간의 데이터 흐름을 가속화하는 칩, 이 두 가지 제품을 출시했다. 엔비디아도 유사한 제품을 현재 판매하고 있다.

아마존의 트레이니엄2 칩이 성공하려면 우수한 소프트웨어 개발이 필수적이다. 엔비디아 칩은 고객이 기계학습 프로젝트를 쉽게 사용할 수 있도록 지원하는 소프트웨어가 잘 갖추어져 있지만 아마존은 현재 ‘뉴런 SDK(Neuron SDK)’라는 소프트웨어를 개발 중이다. 이 소프트웨어가 시장에서 성공하기까지는 아직 갈 길이 먼 상황이다.

아마존은 고객기업들이 자사 칩을 쉽게 사용할 수 있도록 시스템을 개선중이다. 오픈AI 라이벌인 앤트로픽(Anthropic)은 지난해 아마존의 자금 40억달러를 지원 받은 뒤 향후 개발과정에서 엔비디아, 구글 제품과 함께 트레이니엄2 칩을 사용하기로 합의했다.

아마존의 AI 칩 개발은 아직 길고 어려운 여정에 있지만 클라우드와 데이터센터 인프라 구축의 풍부한 경험을 바탕으로 점진적으로 기술을 발전시키고 있다. 아마존은 엔비디아와의 경쟁에서 주도권을 잡기 위해 고군분투하고 있다. 아마존은 트레이니엄2가 AI칩 개발 여정에 중요한 이정표가 될 것이라고 자신하고 있다.

하지만 이 경쟁에서 우위를 점하려면 칩뿐만 아니라 그에 맞는 소프트웨어 생태계 구축과 대규모 고객들의 호응이 필수적이다. AI 칩 시장에서의 경쟁은 점점 치열해지고 있다. 아마존이 이 시장에서 어떤 결과를 만들어낼지 귀추가 주목된다.

안찬수 기자 khaein@naeil.com 이주영 리포터 123@naeil.com