엔비디아의 'RTX 스파크(RTX Spark)'가 드디어 모습을 드러냈습니다. 지난 16일 저녁 코엑스에서 열린 런칭 이벤트 현장에서 직접 기기를 만나볼 수 있었는데, 현장에서 바로 구매할 수도 있더군요. 저도 당장 하나 집어오고 싶은 마음이 굴뚝같았지만,지갑 사정이 발목을 잡았습니다.
결론부터 말하자면 RTX 스파크는 생각보다 훨씬 흥미로운 기기였습니다. RTX 스파크는 엔비디아가 직접 설계한 ARM 기반의 20코어 고성능 프로세서인 '그레이스(Grace) CPU'에 '블랙웰(Blackwell) GPU'를 결합한 시스템입니다. GPU 자체는 기존의 지포스 RTX 50 시리즈와 뿌리가 같고, 할 수 있는 역할도 같다고 보면 됩니다.
이 제품의 핵심은 '모든 것이 하나로 통합되어 있다'는 점입니다. 우선 CPU와 GPU가 일반적인 PC의 컴퓨팅 버스가 아니라 엔비디아의 초고속 인터커넥트 패브릭인 'NV링크(NVLink)'로 연결됩니다. 초당 최대 600GB까지 데이터를 주고받을 수 있는 구조죠. 숫자로는 감이 잘 안 올 수 있는데, 흔히 PC에서 그래픽카드를 꽂아 쓰는 PCI 익스프레스(PCIe) 16레인이 단방향 기준 초당 64GB 수준을 전송합니다. 단순 계산으로도 대역폭이 거의 10배나 빠른 셈입니다.
여기에 메모리까지 칩 패키지에 함께 묶어 CPU와 GPU가 같은 메모리 풀을 공유하는 '통합 메모리' 구조를 취했습니다. 메모리 대역폭은 초당 300GB 수준인데, 순수 외장 그래픽카드의 VRAM 대역폭과 비교하면 살짝 아쉬울 수 있는 수치지만 제품의 성격을 생각하면 충분히 납득할 만한 타협점입니다. 전체적인 아키텍처의 방향성은 애플의 M 시리즈 칩과 꽤 닮아 있습니다.
DGX 스파크의 쌍둥이, 하지만 완전히 다른 지향점
눈치채신 분들도 있겠지만, 사실 RTX 스파크는 엔비디아가 AI 개발자용으로 내놓은 소형 워크스테이션인 'DGX 스파크'와 하드웨어적으로는 거의 같은 모델입니다. 같은 칩을 쓰지만 결정적인 차이가 몇 가지 있습니다. DGX 스파크는 운영체제로 우분투 리눅스를 쓰고 고속 패브릭을 통해 여러 대를 병렬로 묶어 굴릴 수 있는 반면, RTX 스파크는 윈도우 기반이며 단일 기기로만 작동합니다.
이는 두 기기가 지향하는 바가 다르기 때문입니다. DGX 스파크가 처음부터 개발 환경을 겨냥한 초소형 워크스테이션이라면,RTX 스파크는 철저히 개인용 기기입니다. 개인화된 에이전트 AI 구동은 물론이고 게이밍, 일반적인 윈도우 작업 등 GPU 중심의 워크로드에 최적화된 'GPU 기반 PC'에 초점이 맞춰져 있습니다.
가장 큰 진입장벽은 역시 메모리, 그리고 거기서 파생되는 가격입니다. 메모리 가격이 워낙 비싸다 보니 RTX 스파크의 시작 가격은 기본 500만 원에 달하고, 128GB 통합 메모리 모델은 1,000만 원까지 올라갑니다. 만약 순수하게 게이밍만을 목적으로 한다면 32GB 모델을 보게 될 텐데, 이 구성이 200만 원대나 300만 원 안쪽이었다면 어떻게든 납득해 보겠지만, 게임기 용도로 500만 원을 태우기엔 솔직히 부담이 크죠.
로컬 AI의 진짜 병목, '성능'이 아니라 '용량'
하지만 시선을 '로컬 AI'로 돌리면 이야기가 전혀 달라집니다. RTX 스파크의 순수 GPU 체급은 대략 RTX 5070 수준인데, 사실 이 정도 연산 성능만으로도 개인용 환경에서 웬만한 AI 모델을 돌리기에는 부족함이 없습니다.
흔히 "제대로 로컬 AI를 돌리려면 무조건 RTX 5090으로 가야 하는 것 아니냐"고 생각하기 쉽습니다. 물론 5090은 완벽합니다. 압도적인 GPU 연산 성능에 광활한 메모리 대역폭까지 갖췄으니까요. 하지만 결정적인 한계는 VRAM 용량입니다. 5090의 메모리는 24GB인데, 요즘 쓸 만한 20B(200억 파라미터)급 이상의 모델들을 제대로 얹으려면 단일 카드로는 숨이 턱 막힙니다. 결국 카드 두 장을 묶어 48GB 환경을 만들어야 비로소 숨통이 트이는 상황이 되죠.
반면 DGX 스파크나 RTX 스파크는 통합 메모리 구조 덕분에 시스템 메모리 전체에 모델을 그대로 올릴 수 있습니다. 128GB라는 용량은 일반적인 데스크톱 그래픽카드로는 상상하기조차 어려운 영역입니다. 현실적으로 1,000만 원 언더의 예산으로 128GB 규모의 거대 모델을 로컬에 올릴 수 있는 선택지는 현재 애플의 맥 스튜디오와 엔비디아의 RTX 스파크, 딱 두 가지뿐입니다.
GPU 연산력이 살짝 아쉽다고 느낄 수는 있습니다. 하지만 애초에 DGX 스파크가 대용량 모델을 설계하고 프로토타이핑해서 이를 대규모 데이터센터로 넘기는 브릿지 역할을 목적으로 한다면, RTX 스파크는 평소엔 윈도우 환경에서 게임이나 일반 작업을 하다가 상시로 에이전트와 거대 언어모델(LLM)을 띄워놓고 쓰는 개인용 올라운더에 가깝습니다.
게다가 최근 AI 생태계의 발전과 모델 최적화 속도가 어마어마합니다. 모델 사이즈는 계속 작아지는데 소형 모델들이 해내는 수준은 나날이 높아지고 있죠. 이제는 개인이 로컬 PC에서 AI로 '바이브 코딩(Vibe Coding)'을 하고 직접 동영상까지 생성하는 시대입니다. 그동안 개인이 이 영역에 선뜻 발을 들이지 못했던 가장 큰 이유는 GPU의 연산 속도보다 '메모리 용량의 한계' 때문이었는데, 통합 메모리 기반 컴퓨터들이 등장하면서 그 장벽이 허물어지고 있습니다. 시간이 조금 더 걸릴 뿐, 아예 못 돌리던 것을 돌릴 수 있게 된 셈입니다.
블랙웰의 무기 DLSS, 그리고 실전에서의 체감 속도
심지어 현장에서 실제로 돌아가는 것을 보니 체감 속도도 꽤 인상적이었습니다. 로컬 환경에서 1080p 해상도의 4~5초짜리 영상을 생성하는 데 기본적으로 800초대, 즉 15분 안쪽이면 작업이 끝납니다. 로컬에서 영상을 뽑아본 분들은 아시겠지만 이것만으로도 상당히 빠른 편입니다.
그런데 이 칩의 뿌리는 '블랙웰'입니다. 엔비디아의 전매특허인 DLSS를 그대로 쓸 수 있다는 뜻이죠. 저해상도로 빠르게 생성한 뒤 DLSS로 업스케일링을 거치고, 프레임을 보간하고, 광원을 입히고, HDR로 색 영역을 넓힌 뒤 최종적으로 DLSS 5까지 얹어버리면 이야기가 완전히 달라집니다. 이 모든 후처리 파이프라인을 태워서 동일한 길이의 4K HDR 영상을 뽑아내는 데 고작 3분이면 충분합니다. 하드웨어 가속 생태계가 가진 진짜 무서움이 여기서 나옵니다.
300GB/s라는 상대적으로 낮은 메모리 대역폭 때문에 LLM 구동 속도가 느리지 않을까 걱정했는데, 에이전트 코딩 속도도 생각보다 쾌적했습니다. 물론 나중에 직접 기기를 대여해 더 깊이 테스트해 봐야겠지만, 현장에서 이메일을 읽고 중요도를 판단해 오늘 해야 할 일을 정리해 주는 대시보드를 짜달라고 프롬프트를 넣어봤습니다. Qwen 3.8 27B 모델을 통해 처리했는데, 결과물이 나오는 데 4분이 채 걸리지 않았습니다.
개인 용도로 쓰는 로컬 AI 컴퓨터로서는 최상위권에 있는 물건임이 분명합니다. 숨이 턱 막힐 만큼 압도적으로 빠른 건 아니더라도 실용적인 수준에서 충분히 빠르고, 무엇보다 RTX 5090보다 돌릴 수 있는 모델의 제약이 훨씬 적습니다. 로컬 AI에서는 '빠르냐 느리냐'보다 '메모리에 올라가느냐 마느냐(되냐 안 되냐)'가 훨씬 본질적인 문제니까요. 128GB 앞에서는 사실상 안 되는 게 없습니다.
가격이 비싼 건 부인할 수 없는 사실이지만, 로컬 AI에 본격적으로 입문하고 깊게 파보겠다면 아주 훌륭한 선택지입니다. 이 정도 GPU 생태계에 이만한 메모리를 단일 시스템으로 확보하는 건 결코 쉬운 일이 아니거든요. 특히 AI 모델 양자화나 메모리 최적화에 익숙하지 않은 입문자일수록, 역설적으로 메모리가 무식하게 넉넉해야 별다른 제약 없이 원하는 모델을 마음껏 올려보며 실험할 수 있습니다.
토큰 비용과 유지비로 계산해 본 로컬 AI의 경제학
그래도 여전히 비싸게 느껴지실 겁니다. 예전에 맥 스튜디오를 다룰 때도 이야기했지만, 이 가격은 클라우드 AI의 '토큰 비용'과 맞물려 생각하면 비쌀 수도, 오히려 저렴할 수도 있는 묘한 지점에 있습니다.
단순히 AI와 가벼운 대화를 나누고 간단한 질문을 던지는 수준이라면 월 3만 원짜리 챗GPT나 클로드 구독만으로 충분합니다.재미 삼아, 혹은 아이디어 구상용으로 가끔 이미지나 몇 초짜리 짧은 영상을 만드는 정도라면 무료 크레딧이나 토큰 리셋 시간을 기다려가며 써도 아무 문제가 없죠.
하지만 호흡이 긴 영상을 반복해서 생성하고, 수많은 이미지를 뽑아내고, 에이전트를 물려 하루 종일 코딩을 돌리는 등 이른바 '빡세게' 쓰는 헤비 유저라면 이야기가 달라집니다. 월 몇 만 원짜리 요금제는 순식간에 한계에 부딪히고, 월 30만 원짜리 프로 플랜을 써도 제약이 생깁니다. 실제로 현업에서는 API와 엔터프라이즈 요금제로 월 100만 원 이상을 태우는 경우도 흔합니다.
반면 로컬 AI는 초기 기기 구입 비용이 매몰 비용으로 들어갈 뿐, 그 이후에는 토큰 과금에 대한 스트레스가 전혀 없습니다. 헤비 유저 입장에서 당장 1년 치 클라우드 토큰 비용을 계산기에 두드려 보면, 기기값에 대한 손익분기점이 어렴풋이 보이기 시작할 겁니다.
특히 보안이나 프라이버시가 민감한 코드를 다뤄야 하거나, 클라우드 서비스의 검열 및 생성 제약에서 벗어나고 싶을 때 로컬 AI가 주는 심리적 안정감은 상당합니다. 유지비도 아주 저렴합니다. RTX 스파크는 전력 제한을 꽤 타이트하게 잡아두어서 시스템 전체가 80W 안쪽에서 돌고, GPU에 풀로드를 걸어도 60W 안팎을 오가는 수준입니다. 한 달 내내 24시간 쉬지 않고 풀로드로 돌려봤자 월간 전력 소비량이 60kWh가 채 안 된다는 계산이 나옵니다. 한 달 전기요금으로 치면 고작 1만6000원 남짓입니다.
원하는 작업을 토큰 비용이나 보안 걱정 없이 무한정 돌릴 수 있다는 점, 모델 크기의 제약에서 해방된다는 점, 그리고 랩톱이나 소형 폼팩터의 경우 휴대성까지 챙길 수 있다는 점은 로컬 AI만의 대체 불가능한 강점입니다. 순수 게이밍 PC의 잣대로 보면 분명 아쉬운 가격대지만, 본인의 작업 환경에서 AI가 차지하는 비중이 어느 임계점을 넘어섰다면 현시점에서는 오히려 전체적인 지출을 줄여주는 도구가 될 수 있습니다. 비싸지만 대안이 없고, 그렇기에 시장에서 나름대로 납득하며 받아들여지고 있는 가격대인 셈입니다.
RTX 스파크는 여러모로 기대를 모으게 하는 제품입니다. 런칭 현장에서 1호 구매자로 그 자리에서 곧바로 두 대를 결제하신 레블업 신정규 대표님과 잠시 이야기를 나눴는데, "DGX를 가방에 넣고 들고 다니면서 쓸 수 있는 셈이니 망설일 이유가 하나도 없다"고 하시더군요. 지금 이 기기를 바라보는 가장 정확한 평가가 아닐까 싶습니다.
저 역시 현장에서 살짝 맛만 본 것으로는 성에 차지 않고 직접 돌려보고 싶은 테스트들이 산더미처럼 쌓여 있어서, 엔비디아 측에 리뷰용 샘플 대여를 요청해 둔 상태입니다. 조만간 제품을 건네받아 책상 위에 올려놓고 본격적으로 테스트할 기회가 생기면, 벤치마크와 실전 활용기를 묶어 다시 깊은 이야기를 나눠보겠습니다. RTX 스파크에 대해 궁금한 점이나 꼭 테스트해 봤으면 하는 워크로드가 있다면 댓글이나 메일로 남겨주세요!
