인공지능(AI) 대중화로 그래픽처리장치(GPU) 생산 "엔비디아" 훨훨

젠슨 황 엔비디아 CEO.

챗GPT를 시작으로 인공지능(AI) 대중화가 이뤄지면서 전용 반도체를 만드는 '엔비디아'에 관심이 뜨겁다. 그것은 AI 연산에 주로 쓰이는 그래픽처리장치(GPU) 분야에서 독보적인 경쟁력을 갖췄기 때문이며 AI를 도입하려는 기업을 중심으로 반도체 주문량이 늘면서 시장 침체에도 불구하고 엔비디아가 높은 실적을 이어가고 있기 때문이다.

젠슨 황 엔비디아 공동창업자 겸 최고경영자(CEO)가 그리는 큰 그림에서 엔비디아는 단순한 AI 반도체 공급사에서 그치지 않고 자사 반도체를 활용해 AI를 개발하고 운영하는 과정까지 총괄하는 생태계 전체를 겨냥하고 있다. 애플이 스마트폰 '아이폰'을 출시하면서 독점적인 애플리케이션 생태계를 꾸린 전략과 흡사하다. 황 CEO가 최근 AI 열풍을 '아이폰 모멘트'라고 부르는 이유다.

현재 AI용 반도체 시장에서 엔비디아의 점유율은 90%에 이른다. 엔비디아의 주력 제품은 그래픽처리장치(GPU). 원래 GPU는 컴퓨터 게임 등의 그래픽 처리를 위해 만들어진 반도체였다. 여러 명령을 순서대로 처리하는 중앙처리장치(CPU)와 달리 GPU는 동시에 처리하는데, 이런 특성이 챗GPT 같은 생성 AI를 위한 대규모 언어모델을 제작하는 데 적합한 것이 확인되면서 AI 개발에 핵심 부품으로 쓰이기 시작했다. 과거엔 컴퓨터나 서버에서 중앙처리장치(CPU)가 가장 중요한 부품이었지만, AI 시대에선 GPU가 그 자리를 꿰찬 것이다. 자연히 CPU를 만드는 인텔보다 GPU 회사 엔비디아의 가치가 더 주목받게 됐다.

테크업계에 따르면 구글 슈퍼컴퓨터 A3엔 인텔 CPU 1개가 쓰인 반면 엔비디아 GPU는 8개가 들어간 것으로 알려졌다. UBS는 챗GPT개발에 엔비디아 GPU가 1만 개가량 쓰였다고 추정하기도 했다. 엔비디아의 GPU는 수량이 많이 필요할 뿐 아니라 가격도 비싸다. 인텔 최신형 CPU(Xeon)의 미국 가격은 1만7,000달러인데, 엔비디아의 AI용 GPU는 거래 가격이 4만 달러 정도로 형성돼 있다고 한다.

엔비디아는 올해 1월부터 3월(엔비디아 회계기준 2024년 1분기) 데이터센터 매출은 42억8400만달러다. 지난해 같은 기간과 비교해 14% 늘었다. 매출 구성에서 데이터센터가 차지하는 존재감도 커졌다. 5년 전만 해도 20%에 불과했던 비중은 59.6%로 확대됐다. 이에 따라 주력인 게임용 제품 매출이 지난해 같은 기간보다 38% 감소했음에도 엔비디아가 올린 총 매출은 71억9200만달러로, 감소 폭은 같은 기간 13%에 그쳤다.

콜렛 크레스 엔비디아 최고재무책임자(CFO)는 "기하급수적인 연산 수요 성장을 이끄는 생성형 AI 도입이 확대되면서 세계적으로 컴퓨팅 수요가 증가한 영향"이라며 "하반기에도 대규모언어모델(LLM)을 비롯한 AI 수요가 상당할 것"이라고 밝혔다.

이미 클라우드서비스제공자(CSP)와 인터넷 기업, 일반 산업군에 속한 회사들까지 엔비디아와 AI를 도입하기 위해 폭넓게 협력하고 있다. 마이크로소프트와 구글, 오라클 등 주요 CSP가 엔비디아 호퍼 아키텍처 기반으로 개발한 'H100' GPU를 도입했다. 곧 아마존에서도 운영을 시작할 예정이다.

메타를 비롯한 인터넷 기업도 생성형 AI와 딥러닝 기반 추천 체계를 앞다퉈 도입하는 추세다. 메타는 H100을 활용한 슈퍼컴퓨터 '그랜드테톤'을 AI 학습과 추론 영역에 사용하고 있다.

자동차부터 금융, 통신 등 다양한 사업군에서도 AI 수요가 높다. 블룸버그는 금융 자연어 처리 작업을 지원하는 '블룸버그GPT'를 개발했다. 자동차 보험 기업인 CCC인텔리전트솔루션은  수리비를 추정하는 데 AI를 활용하고 있다. 미국 통신기업 AT&T도 현장 기술자의 고객 서비스를 개선하는데 AI 기술을 도입했다.

황 CEO는 엔비디아가 추구하는 핵심 가치로 가장 낮은 비용을 꼽았다. 정확히는 AI를 도입하고 운영하는데 드는 총소유비용(TCO)을 줄일 수 있다는 얘기다. 고성능에 저전력 특성을 갖춘 GPU 가속기와 다양한 AI 응용처에 대응할 수 있는 제품군 엔비디아가 가진 데이터센터에 대한 전문지식 등 세 가지가 이를 뒷받침한다고 황 CEO는 전했다. 그는 "제품 전달부터 데이터센터를 운영할 수 있는 상태까지 배치하는 데 걸리는 시간은 몇 개월이 소요되지만 엔비디아는 이를 몇 주 수준까지 감축할 수 있다"고 말했다.

반도체 공급에 더해 운용와 개발을 위한 소프트웨어 생태계 선점 효과가 엔비디아에 향후 강력한 경쟁력으로 돌아올 것이란 설명이다. 실제로 엔비디아는 GPU 가속기 공급을 시작하며 개발자를 위한 별도 개발 도구를 제공했다. 다양한 AI 서비스가 자사 GPU 기반으로 작동하도록 생태계를 종속시키기 위한 전략이다. 이는 현재까지 다양한 AI 반도체가 개발되고 있음에도 엔비디아가 90%에 가까운 점유율을 지키는 요인 중 하나로 꼽힌다.

지금도 엔비디아는 AI 개발단계에서부터 생태계를 확보하기 위한 신제품 공급에 속도를 내고 있다. 올해 1분기 'DGX H100'을 고객사에 공급하고 주요 CSP와 함께 'DGX 클라우드'를 출시했다. 자사 반도체를 활용해 서버를 구축한 뒤 AI를 개발하고 학습시키기 위한 소프트웨어, 사후관리 서비스를 종합적으로 제공하는 솔루션이 통합된 제품이다. 고객사가 맞춤형으로 생성형 AI를 개발하도록 돕는 클라우드 서비스 'AI 파운데이션'도 발표했다.

확대되는 생성형 AI 시장 공략을 위해 사진, 영상, LLM, 빅데이터 등 네 가지 추론 영역에 특화된 제품도 별도로 내놨다. 단일 아키텍처 기반으로 GPU와 관련 소프트웨어가 함께 제공되는 방식이다.

이에 더해 AI 가속기로 쓰이는 GPU 수요는 더 강해질 여지가 있다. 여전히 세계 데이터센터 대부분이 중앙처리장치(GPU) 기반 '범용 컴퓨팅' 방식을 유지하고 있어서다. 데이터 집약적인 부분을 GPU 가속기가 담당하는 '가속 컴퓨팅'으로의 전환이 가속화될 것으로 황 CEO는 전망한다. 현재 AI 반도체 시장에서 점유율 90% 수준이 엔비디아가 지배력을 더 확대할 것이란 설명이다.

황 CEO는 "산업은 현재 가속 컴퓨팅과 생성형 AI라는 두 가지 변화를 겪고 있다"며 "생성형 AI 시대에는 가속 컴퓨팅을 도입하기 위한 경쟁이 거세질 것으로 보고 급증하는 수요에 대응하기 위해 공급을 상당히 확대할 계획"이라고 말했다.

★서울목동 컴퓨터관련 문의 010 8680 8974