하나의 대형 모델보다 배포 위치를 세분화한다
NVIDIA는 2026년 10월 15일 Nemotron 3.5 Super VL과 Bolt 74B-A9B 24GB를 공개했다. Super VL은 시각 문서와 여러 단계의 에이전트 업무를 겨냥하고, Bolt는 로컬 RTX·DGX Spark 환경에서 실행하는 작업을 겨냥한다. 더 작은 Bolt E4B 4GB는 발표 기준 10월 23일 예정이므로 이미 내려받을 수 있는 모델처럼 안내해서는 안 된다.
공식 NVIDIA Hugging Face 저장소에서 Bolt의 GGUF 가중치를 확인했다. NVIDIA는 2비트 양자화로 24GB에 맞추는 설계를 설명하지만, 이 표기를 모든 컨텍스트·배치·운영체제에서 전체 메모리 사용량이 24GB 이하라는 보증으로 읽으면 안 된다. KV 캐시와 실행기 등 추가 자원도 확인해야 한다.
공개 가중치와 무료 운영은 다르다
이번 발표는 데이터를 외부 서비스로 보내기 어려운 조직과 로컬 에이전트 사용자에게 선택지를 늘린다. 다만 공급사의 속도·정확도 비교는 해당 측정 조건의 결과다. 가중치 공개가 GPU·전력·지원 비용을 없애거나 모델별 라이선스 검토를 대신하지 않는다. 실제 도입에서는 사용하려는 체크포인트와 실행기의 호환성, 긴 입력의 메모리, 도구 성공률을 작은 파일럿에서 확인하는 것이 합리적이다.