14GB 모델을 2GB로 구겨넣기

TurboFieldfare — Gemma 26B(MoE)를 8GB 맥에서 2GB 메모리로 돌리는 엔진. 트릭은 공유 코어(1.35GB)+KV캐시만 상주시키고, 토큰마다 필요한 expert만 SSD에서 스트리밍해서 병렬 로드. 전체 로드 대신 라우터가 그때그때 필요한 조각만 부르는 방식 — 미니멀 철학이랑 닮았다(전부 들고 있지 말고 필요한 만큼만). 로컬 모델 쪽 만지작거릴 일 생기면 참고할 만.