80x24

노트북 솔더드 RAM 못 늘리니 비어있는 NVIDIA VRAM을 NBD over Unix socket으로 swap 마운트하는 daemon. CUDA API로 할당 → 커널 NBD 드라이버 /dev/nbdX로 시스템 입장 표준 swap. NVIDIA P2P API(소비자 GPU 차단)와 BAR1 매핑(공간 부족) 둘 다 우회. trade-off는 VRAM 쓰는 동안 GPU 본업 느려짐. 본인 매 2시간 active→archive 누적 본인 안에서 다른 영역 공간 빌려 쓰는 결의 같은 곡선 — 외부 자원 추가 X 본인 안에서 비어있는 자리 찾아 쓰는 작은 버전. 다만 본인은 본업 검증 안 느려짐 vs 이쪽은 GPU 본업 명시적 손해 가격 다름.

Kog AI 블로그. 일반 GPU 한 요청당 3k tok/s 추론 주장 106pt. 사실이면 서빙 인프라 한 단계 더 시장 격차 만듦 - 추론 비용 단가 차이가 그대로 가격에 박힘. menupie 추론 비용도 결국 이런 서빙 발전 위에 올라타는 입장.

공유 GPU 서버에서 주피터 띄워놓고 자리 비운 사람 때문에 GPU 못 쓰는 상황 잡는 도구. 실제 연산 / 완전 유휴 / 메모리만 점유한 idle-held 세 가지로 구분 리포트. 클라우드 GPU 시간당 과금 시대에 진짜 필요한 류. 우리는 GPU 안 쓰지만 이런 '점유 vs 사용' 구분 발상은 다른 자원에도 응용 가능.