512GB Mac Studio, RTX 3090·4090을 팔고 넘어갈 만할까? M5 Max·Ultra 로컬 LLM 분석
새 Mac Studio의 512GB 통합 메모리, 솔깃하죠? RTX 3090·4090·5090과 비교해 어떤 모델을 돌릴 때 바꿀 만한지 쉽게 정리했어요.
안녕하세요! 이번에는 로컬 LLM용 PC를 고민하는 분들이 궁금해할 소식이에요. 8월 25일 공개된 새 Mac Studio에 M5 Max와 M5 Ultra가 들어갔습니다. 특히 M5 Ultra는 통합 메모리를 최대 512GB까지 구성할 수 있어요. RTX 3090이나 4090을 쓰고 있다면 “이제 그래픽카드를 팔고 Mac으로 가야 하나?” 싶은 숫자죠. 그런데 가격까지 놓고 보면 이야기가 조금 달라집니다. [2]
왜 하필 메모리 이야기부터 할까요?
RTX 3090과 4090은 둘 다 VRAM이 24GB예요. 27B~32B급 Q4 모델이라면 이 안에서 쓸 수 있지만, 70B로 올라가면 가중치만으로도 빠듯합니다. 일부를 PC RAM으로 빼서 실행할 수는 있어요. 대신 전부 GPU에 실었을 때처럼 빠를 거라고 기대하면 실망하기 쉽죠.
Mac Studio는 CPU와 GPU가 통합 메모리를 공유해요. 큰 모델을 한 대에 올리기 좋은 이유입니다. 다만 96GB 모델이라고 모델에 96GB를 몽땅 쓸 수 있는 건 아니에요. macOS와 Metal, 실행 프로그램이 자리를 차지하고, 대화 길이가 늘수록 KV 캐시도 커집니다. 그래서 “모델 파일이 들어간다”와 “여유롭게 쓴다”는 구분해야 해요.

M5 Max와 M5 Ultra, 옵션을 잘 봐야 해요
| 항목 | M5 Max | M5 Ultra |
|---|---|---|
| 기본 칩 | 18코어 CPU / 32코어 GPU / 16코어 Neural Engine | 30코어 CPU / 64코어 GPU / 32코어 Neural Engine |
| 상위 칩 | 18 CPU / 40 GPU | 36 CPU / 80 GPU |
| 통합 메모리 | 36GB 기본; 48·64·128GB는 상위 칩 구성 | 96GB 기본; 256·512GB는 상위 칩 구성 |
| 대역폭 | 기본 460 / 상위 614GB/s | 1.2TB/s |
| SSD | 512GB 기본, 최대 8TB | 1TB 기본, 최대 16TB |
| 포트·네트워크 | 후면 TB5×4, 전면 USB-C×2, SDXC; HDMI, USB-A×2, 10GbE, Wi-Fi 7 | 후면 TB5×4, 전면 TB5×2, SDXC; HDMI, USB-A×2, 10GbE, Wi-Fi 7 |
| 한국 시작가 | 429만원 | 949만원 |
여기서 가격표를 볼 때 주의할 점이 하나 있어요. 한국 시작가는 M5 Max 429만원, M5 Ultra 949만원이지만 각각 기본형 가격입니다. 128GB나 512GB를 고르려면 상위 칩 옵션과 메모리 추가 비용이 붙어요. “949만원이면 512GB”로 생각하고 견적을 잡으면 곤란합니다. M5 Max도 기본형 대역폭은 460GB/s, 상위형은 614GB/s로 달라요. [1] [9]
내가 쓰는 모델은 어느 구성이 맞을까요?
아래 표는 Q4 양자화, 보통 길이의 대화, 한 번에 모델 하나를 쓰는 상황을 가정한 대략적인 길잡이예요. ◎는 여유, ○는 실사용, △는 제약, ×는 권하기 어렵다는 뜻입니다. 같은 70B라도 Q5로 올리면 더 많은 메모리가 필요하고, Q8이라면 차이가 훨씬 커져요. 컨텍스트를 길게 쓰거나 여러 사람이 동시에 접속한다면 한 단계 넉넉하게 보는 편이 안전합니다.
| 메모리 | 현실적인 범위 | 판단 |
|---|---|---|
| 24~36GB | 27B~32B Q4; 70B는 오프로딩·극단적 축소 | ○ / × |
| 48~64GB | 32B Q5·Q8, 70B Q4 | ◎ / ○ |
| 96~128GB | 70B Q5·Q8, 100B급 Q4; 일부 대형 MoE | ○ / △ |
| 256GB | 100B급 Q8, 200B+ Q4, 대형 MoE 일부 | ○ / △ |
| 512GB | 200B+ 및 대형 MoE의 폭넓은 선택지 | ○ / 모델별 확인 |
예를 들어 Qwen3 32B 같은 밀집 모델과 대형 MoE 모델은 이름에 붙은 B 숫자만으로 비교하기 어렵습니다. MoE는 한 토큰을 계산할 때 쓰는 파라미터가 일부여도, 가중치를 올릴 공간은 따로 필요하거든요. 100B·200B+ 구간은 모델마다 차이가 큽니다. 구입 전에 내가 쓸 양자화 파일의 크기와 KV 캐시 설정을 먼저 확인해 보세요. 위 표는 실제 속도 측정 결과가 아니라 메모리 관점의 추정입니다.

그럼 RTX 3090·4090·5090은요?
| 장치 | 메모리·대역폭·전력 | 로컬 LLM 관점 |
|---|---|---|
| RTX 3090 | 24GB VRAM · 936GB/s · 카드 350W | 32B Q4 중심; CUDA·중고 구축 |
| RTX 4090 | 24GB VRAM · 1,008GB/s · 카드 450W | 같은 용량 벽, 높은 단일 GPU 연산 성능 |
| RTX 5090 | 32GB VRAM · 1,792GB/s · 카드 575W | 더 큰 단일 GPU 여유; CUDA |
| Mac Studio | 36~512GB 통합 메모리 | 대형 모델 적재와 조용한 일체형 운용 |
3090의 VRAM 24GB가 갑자기 작아진 건 아니에요. 4090도 같은 24GB지만, 모델이 VRAM 안에 들어간다면 빠른 연산과 CUDA 도구를 활용하기 좋습니다. 5090은 32GB로 여유가 조금 더 있고요. 반면 70B 이상을 자주 쓰는데 24GB를 넘어갈 때마다 오프로딩해야 한다면, Mac의 큰 메모리가 훨씬 반가울 수 있어요. 어느 쪽이 몇 tok/s 더 빠른지는 같은 모델·양자화·컨텍스트로 비교한 자료가 없어서 숫자를 붙이지 않았습니다. NVIDIA 표의 350·450·575W는 PC 전체가 아니라 각 GPU 카드의 전력 사양이에요. VRAM·대역폭 수치는 NVIDIA 공식 비교표를 따랐습니다. [10]

이미 PC와 3090·4090이 있다면 Mac을 새로 사는 비용과도 비교해야겠죠. RTX는 카드를 바꾸거나 여러 장을 구성할 수 있는 대신 전원·냉각과 설정을 챙겨야 합니다. Mac Studio는 책상 위에 두고 계속 켜두기 간편하지만, 나중에 통합 메모리만 늘릴 수는 없어요. 상시 서버의 전기요금도 카드 소비전력 수치만으로 비교하면 안 되고, 시스템 전체를 실제로 재봐야 합니다.
중고 3090·4090 매물이 늘었다는 말은?
이 부분은 조심스럽게 봐야 해요. 출시 전후의 매물 수를 같은 장터, 같은 검색 조건으로 비교한 자료를 확보하지 못했습니다. 누군가 Mac으로 갈아타고 싶다고 말하는 것과 국내 중고 매물이 실제로 늘었다는 것은 다른 이야기예요. Mac Studio 때문에 매물이 늘었다고 단정할 근거도 없습니다. 중고 시세만 보고 갈아탈 계획을 세우기보다는 본인이 쓰는 모델부터 확인하는 게 낫겠습니다.
결국 팔고 넘어갈 만할까요?
주로 32B 이하를 돌린다면 지금 쓰는 3090·4090을 유지해도 충분히 합리적이에요. 게임이나 CUDA 작업도 함께 한다면 더 그렇고요. 70B를 거의 매일 쓰고 오프로딩 때문에 답답했다면 64~128GB 구성을 살펴볼 만합니다. 100B 이상이나 대형 MoE가 주력이라면 256·512GB M5 Ultra가 눈에 들어오겠지만, 견적이 크게 달라져요.
제일 먼저 해볼 일은 간단합니다. 지금 자주 쓰는 모델 두세 개의 양자화 파일 크기와 컨텍스트 길이를 적어보세요. 그 모델이 현재 VRAM에 잘 들어간다면 빠른 RTX를 굳이 보낼 이유가 없어요. 매번 용량에 막힌다면 그때 Mac Studio의 큰 통합 메모리를 비교해 보면 됩니다.
자료
- https://www.apple.com/kr/mac-studio/specs/
- https://www.apple.com/kr/newsroom/2026/08/apple-introduces-new-mac-studio-with-m5-max-and-m5-ultra/
- https://www.nvidia.com/en-us/geforce/graphics-cards/30-series/rtx-3090-3090ti/
- https://www.nvidia.com/en-us/geforce/graphics-cards/40-series/rtx-4090/
- https://www.nvidia.com/en-us/geforce/graphics-cards/50-series/rtx-5090/
- https://www.apple.com/kr/shop/buy-mac/mac-studio
- NVIDIA RTX Blackwell GPU Architecture — 3090/4090/5090 비교표