4GB급 AI로 게임 캐릭터 대사를…엔비디아 Bolt, 음성 입출력까지 하는 건 아니다

게임 속 캐릭터나 작은 기기의 비서가 클라우드를 거치지 않고 짧게 답하려면, 다른 프로그램과 함께 돌아갈 여유도 필요하다. 엔비디아가23일 정식 공개한 Nemotron3.5 Bolt E4B 4GB는 이 용도를 겨냥한 소형 모델이다. 현재 공식 모델 카드에는 정식 공개일이 적혀 있고, 저장소에는 실제 Q4_K_M GGUF 파일이 올라와 있다.15일 제품군 발표 때의 ‘23일 제공 예정’과 현재 배포 상태를 구분할 수 있다.

말하는 비서용이라고 음성 모델인 것은 아니다

개발사는 로컬 음성·기기 비서와 대화형 캐릭터를 주요 용도로 든다. 그러나 모델 카드가 명시한 자체 입력과 출력은 모두 텍스트다. 사람의 목소리를 알아듣고 다시 소리로 말하는 완성 서비스가 이 파일 하나에 들어 있다는 뜻은 아니다. 실제 음성 제품으로 연결할 때는 인식·합성 등 주변 구성이 별도로 필요하다. 짧고 말하기 좋은 답을 내도록 하는 대화 모드와, 추론을 켜거나 끄는 설정은 따로 제공한다.

‘4GB’와 내 PC의 전체 필요 메모리는 구분

공개 모델은 Gemma4 E4B를 추가 학습하고 Q4_K_M으로 양자화한 버전이다. ‘4GB’라는 이름만으로 운영체제와 앱, 대화 기록까지 포함해4GB 메모리면 충분하다고 단정할 수 없다. 공식 예시는 NVIDIA GPU용 실행 환경과 별도 설정을 안내한다. 이번 취재에서는 큰 모델 파일을 내려받거나 실제 GPU 속도·사용 메모리를 측정하지 않았다.

표지 도표의 가로축은 첫 토큰이 나오기까지의 시간이며, 답변 전체가 끝나는 시간과 다르다. 세로축의 평가 평균도 엔비디아의 정해진 시험 조건에 따른 결과다. 공개 가중치의 이용 조건은 OpenMDW1.1로 안내한다. 작은 대화 모델이 새로 배포됐다는 사실과 모든 PC에서 즉시 잘 작동하거나 모든 사용이 무조건 허용된다는 주장은 분리해야 한다.