삼성전자에서 올 연말 양산 예정인 추론(Inference) 전용 AI 반도체 '마하(Mach-1)'가 반도체 수급난을 겪고 있는 AI 산업에 전환점을 만들 지 주목된다.
10일 업계에 따르면 추론에 특화된 반도체인 마하-1이 반도체 시장에 새 바람을 몰고 올 전망이다. 추론은 AI가 이미 학습한 수많은 정보를 토대로 새로운 명제를 도출하는 작업을 말한다.
현재 엔비디아의 고성능 GPU(그래픽처리장치)는 AI 학습과 추론에 모두 사용되고 있는데, 가격이 워낙 비싸 구입에 어려움이 많다는 지적이다.
반면 삼성전자 마하-1 가격은 500만원 수준으로 추정된다. 엔비디아 GPU 'H100'이 개당 4만달러(5400만원)인 점을 감안하면, 10분의 1 가격이다. 이에 데이터센터 업체들이 H100에 비해 가성비가 높은 추론 칩을 함께 쓰는 방안이 주목받고 있다.
AI 서버가 '전기 먹는 괴물'이라는 점에서도 마하-1 성능에 관심이 쏠린다. H100 GPU는 최대 700W의 전력을 소비한다. 기존 데이터 센터 구축에 사용하던 GPU 대비 2배 이상 높은 수준이다. 엔비디아의 차세대 AI 반도체 블랙웰 B200는 1200W로 최대 전력 소비가 더 늘어날 전망이다.
반면 마하-1은 HBM(고대역폭메모리) 대신 저전력 D램으로도 거대언어모델(LLM) 추론이 가능하다.
삼성전자에 따르면 이를 통해 전력 효율을 8배 더 높일 수 있다. 이와 동시에 메모리와 GPU 사이 병목현상을 8분의 1 수준으로 줄이는 것도 목표다.
김동원 KB증권 애널리스트는 "데이터센터 업체들은 충분한 연산자원 확보를 위해 AI 가속기용으로 GPU뿐 아니라 AI 추론 반도체칩도 써야 한다"며 "전력과 가격 대비 높은 성능을 가진 AI 추론 반도체 칩의 수요가 급증세를 보이고 있다"고 설명했다.
삼성전자는 올해 4분기부터 마하-1을 본격 생산할 전망이며, 이어 2번째 추론 칩인 마하-2 개발에도 착수했다.
경계현 삼성전자 대표이사 사장(DS부문장)은 자신의 사회관계망서비스를 통해 "일부 고객들은 1T(1조개) 파라메터(parameter) 이상의 큰 어플리케이션에 마하를 쓰고 싶어한다"며 "생각보다 더 빠르게 마하-2(Mach-2) 개발이 필요한 이유가 생겼다"고 밝혔다. 삼성전자는 이미 마하-2 개발에 착수한 것으로 알려졌다.
추론용 AI 칩 시장은 2030년 1430억달러로 2023년(60억 달러) 대비 24배 성장도 예상된다.
AI 추론 칩은 자동차, 로봇, 제약, 통신 등 다양한 업종별로 맞춤형으로 개발하는 것이 효과적이라는 분석도 있다.
단적으로 업체별로 맞춤형 AI 칩에 저전력 D램을 탑해재 산업별로 AI 서비스 최적화를 시도하는 기업들이 늘고 있다. 삼성전자 외에도 아마존, 메타 등도 엔비디아 GPU에서 벗어나기 위해 자체 칩 개발에 열을 올리고 있다.

호남매일 honamnews@hanmail.net