AI 반도체 추론시장 엔비디아에 도전하는 팹리스 스타트업들

인공지능(AI) 반도체 시장에서 독보적인 위치를 차지하고 있는 엔비디아에 도전하기 위해 국내외 팹리스(반도체 설계 전문) 스타트업들이 힘을 모으고 있습니다. 이들은 고성능을 요하는 학습(training) AI 반도체 대신, 상대적으로 성능이 낮더라도 가성비와 전력 효율성이 중요한 추론형(inference) AI 반도체 시장에서 승부를 걸고 있습니다. 특히 국내 팹리스 기업들은 삼성전자와 TSMC와 같은 파운드리(반도체 위탁 생산 업체)와 협력하여 본격적인 경쟁에 나서고 있습니다.

구분	세부 내용
시장 구분	- 학습(Training)과 추론(Inference)으로 구분
주요 플레이어	- 엔비디아, AMD, 인텔, 삼성전자 등
엔비디아의 역할	- 학습용 AI 반도체 시장에서 주도적인 역할
추론 시장 특징	- 저성능·저전력 칩도 경쟁력 있음 - 전력 대비 성능(전성비) 중시
투자 현황	- 2023년 2분기 기준, 상위 10개 반도체 관련 스타트업 중 6곳이 추론형 AI 반도체 개발 - 대표 사례: 이스라엘 헤일로(4월, $120M), 한국 딥엑스(5월, $110M)
국내 팹리스 기업	- 리벨리온: 삼성전자와 협력하여 '리벨' 설계 중 (2023년 4분기 완료 목표) - 사피온: X330 양산 시작 (2023년 상반기) - 퓨리오사AI: '레니게이드' 양산 예정 (2023년 하반기)
기술적 요구 사항	- 학습: 스루풋(throughput) 중시, HBM과 GPU 결합 - 추론: 레이턴시(latency) 중시, GDDR, DDR 활용
시장 전망	- 추론용 AI 가속기 시장 규모: 2022년 $6B -> 2030년 $143B
기업별 전략	- AMD: 인스팅트 MI300 시리즈, OEM 협력 강조 - 인텔: 가우디3, 네이버, IBM 등과 협력 - 삼성전자: 마하-1, 네이버와 협력, H100 대비 1/10 가격
미래 전망	- 학습 대 추론 시장 비율: 과거 9:1 -> 현재 4:6 -> 미래 1:9

1. 학습과 추론: 두 개의 AI 반도체 시장

AI 반도체 시장은 크게 학습과 추론으로 구분됩니다. 학습은 대규모 데이터를 기반으로 AI 모델을 생성하는 과정으로, 고성능 AI 반도체가 필요합니다. 엔비디아는 이 시장에서 강력한 위치를 점하고 있습니다. 반면 추론은 이미 학습된 AI 모델을 사용자가 요청한 작업에 따라 답을 제공하는 과정으로, 비교적 저성능·저전력의 칩도 충분한 성능을 발휘할 수 있어 스타트업들에게 유리한 시장입니다.

2. 팹리스 스타트업들의 추론형 AI 반도체 도전

추론형 AI 반도체 시장에서는 엔비디아와 달리 상대적으로 낮은 성능의 칩도 경쟁력을 가질 수 있습니다. 이는 수많은 칩을 결합하여 높은 성능을 요구하는 학습 과정과 달리, 적은 수의 칩으로도 충분한 성능을 발휘할 수 있기 때문입니다. 실제로 반도체 전문 매체 세미콘덕터 엔지니어링에 따르면, 2023년 2분기에 투자 받은 상위 10개 반도체 관련 스타트업 중 6곳이 추론형 AI 반도체를 개발하는 기업이었습니다.

이스라엘의 AI 반도체 스타트업 헤일로는 2023년 4월에 1억2000만 달러의 시리즈 C 투자를 받았으며, 개인용 컴퓨터, 차량, 로봇 등 다양한 기기에 탑재될 수 있는 온디바이스(on-device) AI 추론 반도체를 개발하고 있습니다. 국내 기업인 딥엑스도 1100억 원 규모의 투자를 유치하여 추론형 AI 반도체 개발에 박차를 가하고 있습니다.

3. 국내 팹리스 기업들의 파운드리 협력

국내 팹리스 기업들은 삼성전자와 TSMC와 같은 주요 파운드리와 협력하여 추론형 AI 반도체 양산을 진행 중이거나 앞두고 있습니다. 리벨리온은 2023년 상반기에 AI 반도체 '아톰'의 양산을 시작했으며, 삼성전자와 함께 차세대 모델 '리벨'의 설계를 진행 중입니다. 사피온은 기존 모델 'X220'에 이어 차세대 모델 'X330'의 양산을 시작했으며, 퓨리오사AI는 차세대 모델 '레니게이드'의 양산을 준비 중입니다.

4. 대기업들의 추론형 AI 반도체 도전

엔비디아가 독점하고 있는 AI 반도체 시장에 도전하는 것은 스타트업들만이 아닙니다. AMD, 인텔, 삼성전자와 같은 대기업들도 전력 효율성과 구축 비용 절감을 강점으로 내세워 이 시장에 뛰어들고 있습니다.

AMD는 인스팅트 MI300 시리즈를 공개하며 추론형 AI 반도체 시장에 본격적으로 진출했습니다. 인텔은 가우디3를 출시하여 전력 효율성 측면에서 엔비디아의 H100보다 40% 우수하다고 강조하고 있습니다. 삼성전자는 네이버와 협력하여 AI 서버용 추론 AI 반도체 '마하-1'을 개발하고 있으며, 이는 엔비디아의 H100 대비 10분의 1 수준의 가격으로 제공될 예정입니다.

5. 전력 효율성이 중요한 추론형 AI 반도체

AI 반도체 시장에서 전력 소비 문제는 중요한 이슈로 떠오르고 있습니다. 엔비디아의 고성능 AI 반도체는 높은 전력 소비로 인해 추론 시장에서는 전력 대비 성능이 높은 가성비 칩에 대한 수요가 증가할 것으로 보입니다. 퓨리오사AI 관계자는 "과거 학습 대 추론 시장이 9 대 1이었다면, 최근에는 4 대 6, 미래에는 1 대 9로 바뀔 것"이라고 전망했습니다.

6. 결론

AI 반도체 시장에서 엔비디아의 독점에 도전하는 팹리스 스타트업들과 대기업들의 경쟁이 치열해지고 있습니다. 특히 전력 효율성과 가성비를 내세운 추론형 AI 반도체 시장에서는 다양한 기업들이 경쟁력을 발휘할 수 있는 기회를 갖고 있습니다. 앞으로 이 시장에서 어떤 기업들이 두각을 나타낼지 주목됩니다.

추론형 AI 반도체

---

https://www.donga.com/news/Economy/article/all/20240729/126190151/2

https://www.digitaltoday.co.kr/news/articleView.html?idxno=513969