한국의 혁신 AI 인프라 스타트업 망고부스트(MangoBoost)가 글로벌 반도체 기업 AMD와 손잡고 엔비디아의 독주 체제를 깨뜨리기 위한 대대적인 반격에 나선다.
서울대 교수를 겸임하고 있는 망고부스트 김장우 대표는 기자간담회를 통해 하드웨어와 소프트웨어를 공동 최적화한 고성능 AI 추론 서비스 '망고 인퍼런스(Mango Inference)'를 전격 공개했다. 김 대표는 "망고부스트는 더 이상 단순 부품이나 DPU(데이터 처리 장치) 개발사에 머물지 않고, 최종 고객에게 고효율 AI 추론 서비스를 제공하는 인프라 기업으로 도약할 것"이라고 선언했다.
'망고 인퍼런스'는 고객이 복잡한 인프라나 서버를 직접 구축하지 않아도 DeepSeek, GLM, MiniMax 등 최신 오픈 웨이트(Open-weight) AI 모델을 즉시 활용할 수 있도록 지원하는 토큰(Token) 과금형 서비스다. AMD GPU와 망고부스트의 서버·네트워크 설계 및 추론 소프트웨어 기술을 결합하여, 기존 네오클라우드(Neocloud) 기업 대비 뛰어난 처리량(Throughput)과 응답 속도를 확보하는 동시에 운용 비용을 대폭 절감한 점이 특징이다.
업계에서는 AI 구동 시 필수적인 GPU-스토리지-네트워크 간 통합 최적화 역량이 AMD의 약점을 보완해 주는 핵심 카드로 작용하고 있다고 분석한다. 실제로 AMD는 공식 블로그를 통해 망고부스트와의 기술 협력 성과 및 망고 인퍼런스를 비중 있게 소개했다. 또한, 최근 방한한 AMD의 리사 수(Lisa Su) 회장 겸 CEO 역시 한국 내 AI 인프라 확장의 핵심 파트너 사례로 망고부스트를 꼽으며 깊은 관심을 나타냈다.
망고부스트는 이번 파트너십을 발판 삼아 세계적인 GPU 기근 속에서도 AMD의 최신 GPU 물량을 안정적으로 공급받고 있으며, 향후 수만 대 규모의 GPU를 순차적으로 확보할 수 있는 로드맵을 마련했다. 김 대표는 향후 지원 대상 AI 모델을 한국형 AI 모델 및 국내 기업이 개발한 NPU(신경망처리장치)까지 넓혀 국내 AI 생태계의 엔비디아 의존도를 낮추겠다는 구상을 밝혔다.
망고부스트는 서비스 경쟁력 강화를 위해 내년 1분기 완공을 목표로 서울 강남에 1메가와트(MW) 규모의 전용 인프라 시설을 구축 중이다. 나아가 미국, 일본, 동남아시아 기업들과의 합작 법인 및 공동 개발을 통해 전체 인프라 용량을 최대 500MW급까지 대폭 확대해 나갈 계획이다.
@GMV































