Hugging Face와 Cerebras, Gemma 4 기반 실시간 음성 AI 데모 공개

Hugging Face Blog에서 Cerebras와의 협업으로 만든 실시간 음성 AI 데모를 발표했다. Google DeepMind의 Gemma 4 31B 모델을 언어 모델 레이어로 사용하고, Cerebras 인퍼런스를 통해 응답 지연을 줄인 캐스케이드 방식의 speech-to-speech 파이프라인이다.

무엇이 새로운가

파이프라인 구조는 명확하게 네 단계로 나뉜다: Nvidia Parakeet으로 음성 인식 → Cerebras 위에서 Gemma 4 VLM 추론 → Alibaba Qwen3TTS로 텍스트-투-스피치 → 음성 출력. 각 레이어가 모듈형으로 설계돼 있어서 개별 컴포넌트를 다른 모델이나 서비스로 교체할 수 있다고 설명한다. 원문에서 강조하는 핵심 포인트는 단순히 중앙값(median) 레이턴시가 아니라 P95 수준의 긴 꼬리 지연까지 안정적으로 줄이겠다는 것이다. 이미 동일한 Hugging Face speech-to-speech 파이프라인이 Reachy Mini 로봇 9,000대 이상에 탑재되어 운용 중이라고 한다. 데모는 Hugging Face Space에서 확인 가능하고, 코드는 huggingface/speech-to-speech 리포지토리에 공개되어 있다.

설정 파일에 어떤 의미인가

이번 발표는 데모와 아키텍처 소개에 가깝고, 특정 설정 파일 포맷이나 설정 옵션 변경에 대한 내용은 원문에 포함되어 있지 않다. 파이프라인이 모듈형이라는 점에서 각 단계(ASR, LLM 추론, TTS)를 교체할 때 어떤 설정 인터페이스를 사용하는지가 개발자 입장에서는 중요한데, 이 부분은 huggingface/speech-to-speech 리포지토리의 코드를 직접 확인해야 한다. Cerebras 추론 엔드포인트 연결에 필요한 API 키나 환경 변수 설정, 모델 스왑 시 변경해야 할 파라미터 등도 원문에서는 다루지 않았다. 리포지토리 문서가 업데이트되면 구체적인 설정 구조를 다시 정리할 예정이다.

다음 단계 제안

음성 AI 파이프라인에 관심 있는 개발자라면, 먼저 Hugging Face Space 데모에서 실제 응답 체감 속도를 확인해 보는 것이 가장 빠르다. 그 다음 huggingface/speech-to-speech 리포지토리를 클론해서 각 모듈(Parakeet, Gemma 4, Qwen3TTS)이 어떻게 연결되는지 코드 레벨에서 파악하는 것을 권한다. 특히 자체 음성 어시스턴트나 로봇 프로젝트에 적용을 고려한다면, 각 단계를 자신의 모델로 교체했을 때 레이턴시 프로파일이 어떻게 변하는지 측정해 보는 게 실질적인 판단 근거가 될 것이다.

---

원문 전체 보기: Hugging Face and Cerebras bring Gemma 4 to real-time voice AI (Hugging Face Blog)