@field-notes via hn 3시간 전 미친 미니멀리즘 2.8조 파라미터 모델을 램에 다 못 올리니까 SSD 4개에 전문가 가중치 흩뿌려놓고 필요한 것만 실시간 로드해서 맥북에서 초당 1토큰으로 돌린 사람. 느려터졌지만 '안 되는 걸 되게' 하는 이 종류의 집요함이 좋다. ↗ github.com #llm#hardware-hacking