SK텔레콤과 리벨리온, 엔비디아가 국산 NPU와 엔비디아 GPU를 하나의 AI 인프라로 묶는 시스템 개발에 나섰습니다. 과학기술정보통신부는 9일 서울 코엑스에서 열린 ‘엔비디아 AI 데이 서울 2026’ 행사에서 세 기업이 업무협약(MOU)을 맺었다고 밝혔습니다.

협약에 따라 SK텔레콤이 구축하는 AI 데이터센터에 엔비디아 GPU와 리벨리온의 신경망처리장치(NPU)를 함께 넣고, 이를 연결한 시스템의 성능을 검증하기로 했습니다. GPU와 NPU는 AI 연산에 각각 강점이 있는 반도체로, 이를 한 시스템에서 나눠 쓰는 방식입니다.

이번 구조의 핵심은 엔비디아의 ‘NV링크 퓨전(NVLink Fusion)’ 기술입니다. 엔비디아 GPU끼리 데이터를 빠르게 주고받는 데 쓰는 연결 기술을 외부 기업의 AI 반도체까지 확장한 것으로, 리벨리온은 현재 개발 중인 NPU ‘리벨 R200’을 이 기술에 연결할 계획입니다.

추론 단계를 나눠 맡는 구조

AI가 답변을 내놓는 ‘추론’ 과정은 두 단계로 나뉩니다. 질문을 읽고 분석하는 단계는 연산 능력이 큰 GPU가 맡고, 답변을 한 토큰씩 만들어내는 단계는 전력 효율이 높은 NPU가 처리하는 방식입니다. 작업에 맞는 반반도체를 배치해 처리 속도를 높이고 전력 소비를 줄이겠다는 구상입니다.

3사는 이 방식을 랙 단위의 통합 시스템으로 만들어 데이터센터에서 GPU와 함께 운용할 예정입니다. SK텔레콤은 통합 시스템을 AI 데이터센터에 들여 성능과 안정성을 실증하고, 상용화 가능성을 검토하겠다고 밝혔습니다. 자체 AI 모델과 AI 서비스에 활용하는 방안도 함께 살펴보는 중입니다.

SK텔레콤의 정석근 AI CIC장은 이날 한국형 소버린 AI 인프라의 청사진을 내놓았습니다. GPU와 NPU의 장점을 결합한 AI 데이터센터를 짓고, 공공과 민간이 API로 가져다 쓸 수 있는 토큰 생산기지 역할을 맡기겠다는 내용입니다.

엔비디아의 아쉬시 카란디카르 NV링크 퓨전 부문 부사장은 “수직적으로 통합돼 있으면서도 수평적으로 개방된 인프라를 만들고 있다”고 말했습니다. 파트너가 자체 개발한 XPU를 엔비디아 인프라에 연결할 수 있게 하는 기술이라는 설명도 덧붙였습니다. 그는 “한국의 AI 생태계와 한국 기업들을 지속적으로 지원해 나가겠다”고 밝혔습니다.

카카오모빌리티와 스타트업으로 확산

과기정통부는 이번 협약이 앞서 진행된 AMD와의 협력에 이어 나온 것이라고 설명했습니다. 다른 국산 NPU 기업으로도 엔비디아와의 협업이 넓어지도록 지원할 계획이라고 밝혔습니다. 과기정통부는 국내 기업이 해외 AI 데이터센터 시장에 들어가고, 비용과 전력 효율을 중시하는 추론 시장에서 새 사업 기회를 확보하는 데 이번 협력이 도움이 될 것으로 내다봤습니다.

같은 날 카카오모빌리티도 엔비디아와 별도의 협약을 맺었습니다. 양사는 레벨4 자율주행 기술을 함께 개발하고, 이를 기아의 목적기반차량(PBV)에 먼저 적용하기로 했습니다.

엔비디아는 이날 국내 협력 사례도 소개했습니다. 현대자동차그룹의 자동차 생산라인을 가상 시뮬레이션하는 작업과, 두산로보틱스의 차체 연마 로봇이 대표 사례로 꼽혔습니다.

과기정통부와 엔비디아가 함께 연 ‘AI 스타트업 파트너십 포럼’에는 업스테이지, 리얼월드, 트웰브랩스, 퓨리오사AI 등 국내 스타트업 22곳이 참여했습니다.