"엣지LLM" 키워드로 분류된 글 모음.
클라우드 의존성 없이 스마트폰이나 IoT 기기에서 LLM을 구동하는 것이 가능합니다. 본 가이드는 양자화(Quantization)와 가지치기(Pruning)의 원리를 심층 분석하고, 실제 프로덕션에 적용할 수 있는 최신 툴체인과 워크플로우를 제시합니다.