구글 TPU 판매로 AI 칩 경쟁 지형이 바뀐다

AI 칩 경쟁이 '성능'에서 '원가'로 급선회하고 있습니다

2026년 AI 반도체 시장이 지금까지와 다른 경쟁 구도로 재편되고 있습니다. 그동안 내부에만 활용하던 구글의 TPU(Tensor Processing Unit)가 외부 판매를 시작하면서 엔비디아 중심의 AI 칩 시장에 균열이 생기고 있는데요. 더 주목할 점은 시장의 승패 기준이 "누가 더 빠르고 강한가"에서 "누가 더 싸게 AI를 제공하는가"로 완전히 이동했다는 것입니다. 오늘은 이 거대한 지각 변동이 정말 일어나고 있는지, 그리고 투자자들이 놓치면 안 될 신호가 무엇인지 꼼꼼하게 살펴보겠습니다.

목차

• 구글의 TPU 판매 개방, 엔비디아 독점 깨지나
• AI 경쟁의 중심이 '성능'에서 '토큰 원가'로 이동
• 오픈AI·메타도 움직인다…자체 칩 개발 경쟁
• 중국 암시장의 급등…공급 불안이 시사하는 것
• OHMY개미의 한 마디

구글의 TPU 판매 개방, 엔비디아 독점 깨지나

오래전부터 업계는 "구글이 언제 TPU를 외부 판매할까"를 궁금해하고 있었습니다. 이제 그 답이 나왔거든요. 구글이 8세대 TPU를 정식으로 외부 고객에게 판매하기 시작한 것인데, 특히 추론 전용 칩인 TPU 8i의 출시가 주목할 만합니다. 훈련 칩인 TPU 8t와 함께 이제 구글은 자사 서비스뿐 아니라 다른 기업의 데이터센터에도 칩을 공급하는 형태로 사업을 확장하고 있습니다.

시장의 첫 반응은 어떨까요? 솔직히 말해서 그리 강하지는 않습니다. 주요 AI 데이터센터 운영사들인 Nebius, Lambda, CoreWeave 같은 기업들은 현재 구글 TPU 채택 계획이 없다고 명시했거든요. 이들은 여전히 엔비디아 GPU를 선호하는 고객들의 수요가 압도적이라고 지적합니다. 실제로 Nebius의 경우 고객 수요의 99%가 여전히 엔비디아 GPU라고 공식 발표했을 정도입니다.

“ 그렇다면 구글의 이 움직임은 왜 의미가 있을까요? 바로 '시장 신호'입니다. 빅테크 기업들이 이제 더 이상 단순히 엔비디아 칩만으로는 충분하지 않다고 판단했기 때문입니다. 구글과 앤트로픽 사이의 거대한 거래(5기가와트 규모, 최대 40억 달러 규모)는 이제 칩 공급이 단순히 '더 많이 확보'하는 차원이 아니라 '전략적으로 선택'하는 단계에 진입했음을 보여줍니다.

출처: Pexels (royalty-free)

AI 경쟁의 중심이 '성능'에서 '토큰 원가'로 이동

AI 산업에서 가장 흥미로운 변화는 경쟁의 척도가 바뀌었다는 점입니다. 과거 2~3년 전만 해도 업계의 화두는 "어느 칩이 더 빠른가", "어느 모델이 더 강력한가"였습니다. 하지만 지금은 완전히 달라졌어요. 현재 모든 빅테크 기업이 집중하는 것은 단 하나, "토큰당 생성 비용을 얼마나 낮출 수 있는가"입니다.

이렇게 기준이 바뀐 이유는 명확합니다. AI 서비스가 점점 더 추론(inference)을 중심으로 대중화되고 있기 때문입니다. 모델을 처음 훈련할 때는 막대한 자원이 들지만, 일단 훈련이 완료되면 수백만 명의 사용자가 그 모델을 활용해 답변을 받게 됩니다. 이 '추론' 단계가 훨씬 빈번하고 대규모로 일어나기 때문에, 추론 비용이 곧 서비스 가격 경쟁력을 결정하게 된 것입니다.

구글의 TPU 세대가 진화하면서 추론 비용이 크게 하락했다는 평가도 있습니다. 일부 구간에서는 엔비디아의 최신 시스템(블랙웰)과 비슷하거나 더 나은 원가 효율을 보인다는 분석이 나오고 있습니다. 이는 단순히 "구글 칩도 괜찮다"는 정도를 넘어 "이제 원가로도 경쟁할 수 있다"는 신호입니다.

핵심은 이것입니다: 성능이 아무리 좋아도 비용이 높으면 AI 서비스 제공자들의 이익이 줄어듭니다. 따라서 이제 엔비디아도, 구글도, 모두가 "같은 성능을 더 저렴하게 제공하는 것"에 올인하고 있다는 뜻입니다.

출처: Pexels (royalty-free)

오픈AI·메타도 움직인다…자체 칩 개발 경쟁

구글만 움직이는 게 아닙니다. AI 업계의 주요 기업들이 모두 자체 ASIC(특화형 칩)이나 TPU 같은 맞춤형 칩 개발에 집중하기 시작했거든요. 대표적으로 오픈AI와 브로드컴이 공동 개발하는 AI 칩 '할라피뇨(Jalapeno)'가 있습니다. 이 칩은 엔비디아 블랙웰에 필적하면서도 추론 비용을 획기적으로 절감하겠다는 목표로 개발되고 있습니다.

오픈AI의 움직임은 특히 주목할 만합니다. 엔비디아의 의존도를 낮추기 위해 적극적으로 브로드컴과 협력하고 있기 때문입니다. 메타도 마찬가지입니다. 이들 회사는 더 이상 "엔비디아에서 칩을 사자"는 수동적 태도가 아니라 "우리가 필요한 성능과 비용을 자체 설계로 확보하자"는 공격적 전략으로 전환했습니다.

“ 이게 의미하는 바는 무엇일까요? 바로 AI 반도체 산업이 '수직 통합(vertical integration)' 단계로 진입했다는 뜻입니다. 과거에는 엔비디아가 칩을 만들면 다른 회사들이 사다 썼지만, 이제는 Google, Meta, OpenAI, Anthropic 같은 거대 기업들이 자체 칩을 개발하거나 특정 파트너와 협력하는 방식으로 전환하고 있는 것입니다.

흥미로운 점은 엔비디아도 이 변화를 인식하고 있다는 것입니다. 일부 매체 보도에 따르면 엔비디아가 PCB 제조업체들에게 가격 인하를 요구하면서 공급망에 긴장이 생겼다고 합니다. 이는 엔비디아도 "가격 경쟁에서 밀릴 수 없다"는 심각성을 느끼고 있다는 신호로 해석됩니다.

출처: Pexels (royalty-free)

중국 암시장의 급등…공급 불안이 시사하는 것

한국과 일본 투자자라면 놓치기 쉬운 신호가 있습니다. 바로 중국 암시장에서 벌어지는 일입니다. 미국의 수출 금지 AI 칩들의 암시장 가격이 6개월 만에 두 배 이상 급등했다고 파이낸셜타임스가 보도했습니다.

구체적으로 살펴보면, 엔비디아의 DGX B300 서버는 중국에서 현재 약 110만 달러(800만 위안 이상)에 거래되고 있습니다. 6개월 전에는 약 400만 위안(56만 달러) 수준이었으니 정확히 두 배 수준입니다. 미국 내 소매가가 약 40만 달러라는 점을 고려하면, 중국에서의 프리미엄이 얼마나 극심한지 알 수 있습니다. RTX 6000 Pro 칩도 5만 위안에서 최대 13만 위안까지, A100 칩이 탑재된 구형 서버도 20만 위안에서 60만 위안까지 폭등했습니다.

이게 투자자들에게 무엇을 의미할까요? 두 가지 시사점이 있습니다. 첫째, 글로벌 AI 칩 공급 부족이 여전히 심각하다는 뜻입니다. 둘째, 경쟁이 심화될수록 다양한 칩이 필요해진다는 신호입니다. 단순히 엔비디아 GPU만으로는 수요를 충당할 수 없고, 각 기업이 자신의 용도에 맞는 맞춤형 칩을 원하고 있다는 증거입니다. 이는 구글 TPU, 오픈AI의 할라피뇨 같은 대체 솔루션이 실제로 필요하다는 실증적 증거로 작용합니다.

출처: Pexels (royalty-free)

OHMY개미의 한 마디

이 흐름을 정리해보면, 2026년의 AI 칩 시장은 엔비디아의 절대 우위가 흔들리는 전환점을 맞이하고 있는 것 같습니다. 물론 현재 시점에서는 여전히 엔비디아 GPU가 시장의 99%를 차지하고 있고, 주요 고객들의 잠금 효과(lock-in effect)도 강력합니다. 하지만 구글, 오픈AI, 메타 같은 거대 기업들이 일제히 자체 칩 개발에 나서고 있다는 것 자체가 "엔비디아만으로는 충분하지 않다"는 시장의 목소리입니다.

더 흥미로운 것은 경쟁의 축이 단순한 '성능'에서 '원가'로 이동했다는 점입니다. 이는 AI 시장이 초창기 "누가 더 강한 모델을 만드는가"에서 "누가 더 효율적으로 서비스를 제공하는가"로 성숙해가고 있다는 의미입니다. 엔비디아가 여전히 시장을 지배하고 있지만, 앞으로는 원가 효율성을 얼마나 빠르게 개선하느냐가 정말 핵심이 될 것 같습니다. 구글, 브로드컴, 그리고 협력하는 기업들의 움직임을 주시하면서 AI 반도체 생태계의 재편 과정을 차분히 지켜보는 게 투자자 입장에서는 현명할 것 같습니다. 여러분은 이 변화를 어떻게 보고 계신가요?

출처: Pexels (royalty-free)

#삼성전자#SK하이닉스#코스닥#코스피#엔비디아#구글 TPU#AI 반도체#반도체 슈퍼사이클#오픈AI#브로드컴#2026년 주식 전망#AI 칩 경쟁#토큰 비용#추론 칩

오

오마이개미

매일 주식·AI·생활정보를 큐레이션합니다

텔레그램·뉴스·논문을 종합해 핵심만 정리합니다. 매일 새로운 글이 올라옵니다.

소개 문의

⚠️ 투자 면책조항
본 정보는 투자 자문이 아니며 정보 제공 목적으로만 작성되었습니다. 투자 결정과 그로 인한 손익은 본인 책임이며, 본 블로그는 어떠한 책임도 지지 않습니다. 투자 전 반드시 본인의 판단과 전문가 상담을 거치시기 바랍니다.

© OHMY개미 | 본 콘텐츠의 무단 복제 및 배포를 금합니다. | 이미지 출처: Pexels (royalty-free)