AI 기술의 발전과 함께 AI 추론 칩 시장의 경쟁이 점점 치열해지고 있습니다. 특히, 엔비디아가 GPU 기반의 AI 가속기로 시장의 대부분을 점유하고 있는 가운데, 다양한 기업들이 엔비디아의 독점적인 지위를 도전하고 있습니다.
이번 글에서는 AI 추론 칩 시장의 경쟁 동향, 주요 기업들의 기술 스택, 그리고 앞으로의 전망에 대해 살펴보겠습니다.
![]()
엔비디아의 독점적 지위

엔비디아는 1993년에 설립된 이후, 개인용 컴퓨터용 그래픽 처리 장치(GPU) 분야에서 두각을 나타내어 왔습니다. 특히, 이 회사의 GPU는 AI 연구와 개발에 있어 필수적인 도구로 자리 잡았습니다.
엔비디아의 GPU는 뛰어난 병렬 처리 능력 덕분에 AI 훈련 및 추론 과정에서 높은 성능을 발휘하고 있습니다. 이러한 성과로 인해 엔비디아의 매출은 2019년 회계연도 약 120억 달러에서 2024년에는 600억 달러로 급증하였습니다.
엔비디아의 성공 비결 중 하나는 소프트웨어 플랫폼인 CUDA입니다. CUDA는 개발자들이 엔비디아의 GPU를 쉽게 활용할 수 있도록 돕는 도구로, 수많은 AI 연구자들이 이를 통해 AI 모델을 개발하고 있습니다.
이로 인해 엔비디아는 AI 칩의 공급 부족에도 불구하고, 경쟁자들에 비해 우위를 유지하고 있습니다.
| 항목 | 내용 |
|---|---|
| 설립 연도 | 1993년 |
| 2019년 매출 | 약 120억 달러 |
| 2024년 예상 매출 | 약 600억 달러 |
| CUDA 출시 연도 | 2006년 |
| GPU 트랜지스터 수 | 2080억 개 이상 |
주요 경쟁자 분석

엔비디아의 독점적인 지위에 도전하는 기업들은 다양합니다. AMD, 인텔, 세레브라스, 삼바노바 등 여러 기업들이 AI 추론 칩 시장에 진입하고 있으며, 각기 다른 전략과 기술 스택을 통해 엔비디아와의 격차를 좁히기 위해 노력하고 있습니다.
AMD의 도전
AMD는 GPU 제조업체로서 엔비디아에 대한 가장 강력한 경쟁자로 부상하고 있습니다. 최근 발표된 MI325X는 1530억 개의 트랜지스터와 288GB의 고대역폭 메모리를 갖추고 있으며, TSMC의 최신 공정 기술을 사용하여 성능을 극대화하고 있습니다.
그러나 AMD는 여전히 소프트웨어 생태계에서 엔비디아의 CUDA와 경쟁하기 어려운 상황입니다.
| 항목 | 내용 |
|---|---|
| 신제품 발표일 | 2023년 10월 10일 |
| MI325X 트랜지스터 수 | 1530억 개 |
| 최대 메모리 용량 | 288GB |
| 최대 클럭 속도 | 2100MHz |
| 예상 AI 칩 매출 | 45억 달러 (2023년) |
인텔의 전략
인텔은 AI 칩 시장에서 가우디라는 AI 가속기를 통해 경쟁하고 있습니다. 가우디3는 뛰어난 성능을 제공하며, 멀티코어와의 통합이 용이하다는 장점이 있습니다.
그러나 인텔은 여전히 엔비디아와 AMD와 비교할 때 하드웨어 면에서는 약점을 보이고 있습니다. 인텔은 원API라는 오픈소스 통합 프로그래밍 플랫폼을 통해 소프트웨어 생태계를 구축하고 있지만, CUDA의 인지도에는 미치지 못합니다.
| 항목 | 내용 |
|---|---|
| 가우디3 출시일 | 2023년 4분기 |
| 최대 트랜지스터 수 | 1000억 개 이상 |
| FP8 성능 | 9 PetaFLOPS 이상 |
| HBM 메모리 용량 | 192GB |
| 주요 고객 | 의료, 클라우드 데이터 센터 |
세레브라스와 삼바노바
세레브라스와 삼바노바는 AI 추론 칩 시장에서 신생 기업으로 주목받고 있습니다. 세레브라스는 웨이퍼 스케일 칩을 통해 뛰어난 성능을 자랑하며, 삼바노바는 설정 가능한 아키텍처로 AI 모델의 효율성을 극대화하고 있습니다.
두 기업 모두 엔비디아와의 경쟁에서 독특한 위치를 차지하고 있습니다.
| 항목 | 세레브라스 | 삼바노바 |
|---|---|---|
| 주요 제품 | 웨이퍼 스케일 엔진 | SN40L |
| 트랜지스터 수 | 4조 개 | 미상 |
| 초당 처리 성능 | 8엑사플롭 | 미상 |
| 주요 고객 | 슈퍼컴퓨터, 국방부 등 | 소프트뱅크, 아날로그 디바이시즈 등 |
AI 칩 시장의 미래 전망

AI 추론 칩 시장은 앞으로 더욱 치열해질 것으로 예상됩니다. 엔비디아의 독점적 지위가 지속될 가능성도 있지만, 경쟁자들이 점차 기술력을 높이고 있으며, 새로운 스타트업들이 등장하고 있습니다.
이로 인해 시장의 판도가 바뀔 가능성도 존재합니다.
기술 발전과 시장 변화
AI 기술의 발전은 추론 칩의 성능 향상으로 이어지고 있습니다. 특히, 고대역폭 메모리(HBM)와 같은 혁신적인 기술이 도입되면서, 대규모 AI 모델의 훈련과 추론이 더욱 원활해질 것입니다.
또한, AI 칩 시장의 경쟁이 심화됨에 따라 가격 경쟁력이 높아질 것으로 기대됩니다.
| 항목 | 내용 |
|---|---|
| 시장 규모 예측 | 2027년까지 4000억 달러에 달할 것으로 예상 |
| 주요 기술 | HBM, 다중 인스턴스 처리 |
| 경쟁자 수 | 증가 추세 |
| 가격 동향 | 경쟁 심화로 인한 가격 인하 예상 |
결론
AI 추론 칩 시장은 엔비디아의 독점적인 지위에도 불구하고, 다양한 기업들이 치열한 경쟁을 벌이고 있습니다. AMD, 인텔, 세레브라스, 삼바노바 등 여러 기업들이 각기 다른 전략과 기술로 시장에 도전하고 있으며, 이는 앞으로의 AI 기술 발전에 큰 영향을 미칠 것입니다.
향후 몇 년간의 발전을 지켜보며, AI 칩 시장의 변화와 기술 스택의 진화를 주의 깊게 살펴볼 필요가 있습니다.