post
M4 Pro Mac mini로 구축한 로컬 LLM 환경
48GB RAM의 M4 Pro Mac mini 를 상시 LLM 서버로 운영하며, 추론·에이전트 작업에는 Qwen3.6-35B-A3B, 간단한 대화에는 Gemma-4-E4B를 사용해 약 30분 만에 전체 환경을 구성함 로컬 실행으로 클라우드 API의 가격 변경, 사용량 제한, 예고 없는 모델 교체를 피하고, 민감한 ...
일반·0·2026년 9월 3일
|
한 줄 요약
48GB RAM의 M4 Pro Mac mini 를 상시 LLM 서버로 운영하며, 추론·에이전트 작업에는 Qwen3.6-35B-A3B, 간단한 대화에는 Gemma-4-E4B를 사용해 약 30분 만에 전체 환경을 구성함
핵심 내용
48GB RAM의 M4 Pro Mac mini 를 상시 LLM 서버로 운영하며, 추론·에이전트 작업에는 Qwen3.6-35B-A3B, 간단한 대화에는 Gemma-4-E4B를 사용해 약 30분 만에 전체 환경을 구성함
로컬 실행으로 클라우드 API의 가격 변경, 사용량 제한, 예고 없는 모델 교체를 피하고, 민감한 ...
M4 Pro Mac mini로 구축한 로컬 LLM 환경
왜 중요한가
로컬 실행으로 클라우드 API의 가격 변경, 사용량 제한, 예고 없는 모델 교체를 피하고, 민감한 ...
참조한 것 · 가져온 것
원문: https://lws.io/blog/my-local-model-setup/
GeekNews: https://news.hada.io/topic?id=33182