01 / 10
● MAC STUDIO · M5 ULTRA · 96GB
맥스튜디오 한 대로 만드는
나만의 AI 시스템
로컬 LLM × 옵시디언 볼트 × 클로드 코드
내 책상 위에서 돌아가는 하이브리드 AI 작업실
🖥 로컬 LLM
🗂 Obsidian Vault
⚡ Claude Code
오늘 이야기는 새 맥스튜디오 소개에서 시작해서, 이 기계로 실제로 어떤 AI 작업실을 꾸릴 수 있는지까지 이어집니다. 핵심은 "로컬 모델만" 혹은 "클라우드 모델만"이 아니라 둘을 섞어 쓰는 하이브리드입니다.
02 / 10
● WHY LOCAL
왜 내 컴퓨터 안에 AI를 들이는가
PRIVACY
원고가 밖으로 나가지 않는다
미공개 원고, 일기, 취재 메모처럼 외부 서버로 보내기 꺼려지는 글도 내 맥 안에서만 처리합니다.
COST
쓸수록 비싸지지 않는다
노트 수천 개 요약·태그 정리처럼 반복이 많은 일은 API 요금 대신 전기요금만 듭니다.
CONTROL
모델을 내가 고른다
인터넷이 끊겨도 작동하고, 모델 교체·버전 고정도 내 마음대로 할 수 있습니다.
💡 다만 가장 어려운 추론·코딩은 여전히 프론티어 모델이 앞섭니다. 그래서 답은 둘 중 하나가 아니라 둘 다입니다.
로컬 AI의 세 가지 장점은 개인정보, 비용, 통제권입니다. 하지만 성능 한계도 솔직하게 말해야 합니다. 이 한계가 뒤에서 하이브리드 구조를 택하는 이유가 됩니다.
03 / 10
● SPEC · 기본 M5 Ultra 구성
Mac Studio M5 Ultra 96GB 한눈에 보기
96GB
통합 메모리
(CPU·GPU가 함께 사용)
1.2TB/s
메모리 대역폭
M3 Ultra 대비 약 50%↑
64코어
GPU · 코어마다
뉴럴 액셀러레이터 내장
30코어
CPU
슈퍼 코어 10 + 성능 코어 20
TB5 × 6
썬더볼트 5 (뒤 4 · 앞 2)
출처: Apple 지원 「Mac Studio (M5 Max 또는 M5 Ultra) 기술 사양」, Apple Newsroom (2026.8.25)
96GB는 M5 Ultra의 기본 구성입니다. 숫자는 모두 애플 공식 기술 사양 페이지 기준입니다. 로컬 LLM에 가장 중요한 숫자는 앞줄의 메모리 96GB와 대역폭 1.2TB/s, 이 두 개입니다.
04 / 10
● WHY IT MATTERS
LLM 성능을 정하는 두 개의 숫자
① 메모리 용량
“모델이 들어가는가”
LLM은 실행되는 동안 모델 전체를 메모리에 올려 둡니다. 맥은 CPU와 GPU가 메모리를 함께 쓰는 통합 메모리 구조라, 96GB의 상당 부분을 그대로 AI 모델에 내줄 수 있습니다.
② 메모리 대역폭
“얼마나 빨리 말하는가”
글자(토큰)를 하나 만들 때마다 모델을 메모리에서 한 번 훑어 읽습니다. 그래서 1초에 읽을 수 있는 양, 즉 대역폭이 곧 답변 속도의 상한이 됩니다.
🧮 어림 계산 · 1.2TB/s ÷ 모델 40GB ≈ 초당 최대 약 30토큰 (이론상 상한이며 실제 속도는 더 낮습니다). 일부만 골라 쓰는 MoE 모델은 읽는 양이 적어 훨씬 빠릅니다.
어려운 용어 두 개만 기억하시면 됩니다. 통합 메모리는 "그릇의 크기", 대역폭은 "그릇에서 꺼내는 속도"입니다. 어림 계산은 이론상 최대치이므로 실제 속도는 직접 측정해 보는 게 정확합니다.
05 / 10
● MEMORY BUDGET
96GB에 어떤 모델이 들어갈까
| 모델 규모 (4비트 양자화) | 대략 필요한 메모리 | 96GB 중 차지 비율 | 쓰임새 |
|---|
| 소형 · 7~8B | 약 5GB |
| 태그 달기, 분류, 빠른 요약 |
| 중형 · 27~32B | 약 17~20GB |
| 글 피드백, 일상 대화, 노트 정리 |
| 대형 · 70B | 약 40GB |
| 긴 원고 분석, 깊은 대화 |
| 초대형 MoE · 약 120B | 약 60~65GB |
| 가능하지만 빠듯함 · 다른 앱 여유 적음 |
⚠️ macOS는 기본적으로 메모리 전부를 GPU에 주지 않습니다(대략 70GB 안팎). 여기에 대화 길이(컨텍스트)만큼 메모리가 더 필요하니, 중·대형 모델 하나 + 임베딩 모델 조합이 가장 쾌적합니다.
양자화는 모델을 압축해서 용량을 줄이는 방법입니다. 4비트 기준으로 매개변수 10억 개당 대략 0.5~0.6GB가 든다고 보면 됩니다. 표의 숫자는 어림값이고, 같은 크기라도 모델과 파일 형식에 따라 달라집니다.
06 / 10
● LOCAL STACK
로컬 LLM을 돌리는 도구들
입문 추천
Ollama · LM Studio
설치하고 모델을 내려받으면 바로 대화할 수 있습니다. 둘 다 내 맥 안에서 API 서버를 열어 주기 때문에 옵시디언 같은 다른 앱이 연결할 수 있습니다.
애플 실리콘 최적화
MLX · llama.cpp
MLX는 애플이 만든 머신러닝 도구로, 맥의 통합 메모리 구조에 맞춰져 있습니다. 속도를 더 끌어내거나 직접 미세조정을 해 보고 싶을 때 씁니다.
의미 검색
임베딩 모델
글의 의미를 숫자로 바꿔 주는 작은 모델입니다. “비슷한 내용의 노트 찾기”를 가능하게 합니다. 한국어 지원 여부를 꼭 확인하세요.
연결 고리
옵시디언 플러그인
로컬 모델 연결을 지원하는 커뮤니티 플러그인으로 볼트 안에서 바로 질문하고, 노트 사이의 관련성을 찾을 수 있습니다.
처음에는 Ollama나 LM Studio 하나만 설치해도 충분합니다. MLX와 llama.cpp는 익숙해진 뒤에 살펴봐도 됩니다. 옵시디언 플러그인은 종류가 많고 자주 바뀌므로, 설치 전에 로컬 모델 지원 여부를 확인하세요.
07 / 10
● HYBRID ARCHITECTURE
볼트를 중심에 둔 하이브리드 구조
LOCAL · 맥스튜디오 안
로컬 LLM
- 비공개 원고 피드백
- 노트 요약·태그·분류
- 임베딩 의미 검색
⇄
CORE · 나의 기억
Obsidian Vault
- 모든 지식은 마크다운 파일
- 링크로 연결된 생각의 지도
- Git으로 버전 관리
⇄
CLOUD · 프론티어
Claude Code
- 웹 개발·자동화 코딩
- 여러 단계의 복잡한 작업
- 자료 조사와 최신 정보
🔑 모델은 바뀌어도 볼트는 남습니다. 지식은 평범한 파일로 내가 갖고, AI는 필요에 따라 갈아 끼우는 도구로 둡니다.
이 구조의 중심은 AI가 아니라 옵시디언 볼트입니다. 로컬 모델과 클로드 코드는 모두 같은 마크다운 파일을 읽고 씁니다. 그래서 어느 한쪽 서비스가 바뀌어도 내 지식 자산은 그대로 남습니다.
08 / 10
● ROUTING RULES
어떤 일을 어디에 맡길까
| 작업 | 맡길 곳 | 이유 |
|---|
| 미공개 원고 초고 피드백 | 로컬 | 원고가 외부로 나가지 않음 |
| 볼트 노트 요약 · 태그 · 연결 찾기 | 로컬 | 반복이 많아 API 비용 부담이 큼 |
| 개인 일기 · 메모 기반 회고 | 로컬 | 가장 민감한 개인정보 |
| 웹사이트 · 글쓰기 도구 개발 | Claude Code | 여러 파일을 다루는 복잡한 작업 |
| 자료 조사 · 사실 확인 · 최신 정보 | Claude Code | 웹 검색과 높은 정확도가 필요 |
| 공개용 원고 최종 퇴고 | 둘 다 | 로컬로 초안 → 프론티어로 마무리 |
기준은 단순합니다. 민감하거나 반복적인 일은 로컬, 어렵거나 최신 정보가 필요한 일은 클로드 코드. 이 표를 볼트 안에 규칙 문서로 적어 두면, 매번 고민하지 않아도 됩니다.
09 / 10
● SETUP · 4 STEPS
오늘 시작하는 4단계
1
Ollama 설치 + 모델 하나 받기
중형 모델 하나로 시작해 속도와 품질을 직접 확인합니다.
2
옵시디언에 로컬 모델 연결
플러그인 설정에서 주소를 내 맥(localhost)으로 지정합니다.
3
볼트 폴더에서 Claude Code 실행
CLAUDE.md에 볼트 구조와 작업 규칙을 적어 둡니다.
4
업무 분담 규칙 문서화
8쪽의 표를 볼트에 노트로 남기고 쓰면서 고쳐 갑니다.
# 1) 모델 내려받기 (모델 이름은 예시)
$ ollama pull <모델이름>
# 2) 터미널에서 바로 대화해 보기
$ ollama run <모델이름>
# 3) 다른 앱이 연결하는 주소
http://localhost:11434
# 4) 볼트 폴더에서 클로드 코드 실행
$ cd ~/내볼트 && claude
처음부터 완벽하게 꾸미려 하지 말고, 모델 하나와 플러그인 하나로 시작하세요. localhost는 "이 컴퓨터 자신"이라는 뜻이라, 이 주소로 연결하면 데이터가 밖으로 나가지 않습니다.
10 / 10
● TAKEAWAY
지식은 내 볼트에,
민감한 일은 내 맥에,
어려운 일은 프론티어 모델에.
✅ 결과는 검증
로컬 모델도 틀린 사실을 말합니다. 중요한 내용은 꼭 확인하세요.
✅ 라이선스 확인
모델마다 상업적 이용 조건이 다릅니다. 받기 전에 확인하세요.
✅ 작게 시작
모델 하나, 플러그인 하나, 규칙 노트 하나부터 시작합니다.
정리하면 세 줄입니다. 지식은 볼트에, 민감한 일은 맥에, 어려운 일은 프론티어 모델에. 마지막으로 로컬 모델의 답도 항상 검증하고, 모델 라이선스를 확인하는 습관을 권합니다.