
This content is currently only available in Spanish. English translation is on the roadmap — in the meantime, here's the original.
SOV-Transcribe-1: transcripción abierta que no cabe en mi homelab
Un 2,28 % de tasa de error de palabra. Ese fue el número que me hizo abrir el anuncio, porque en la misma tabla Whisper large-v3 Turbo, que es lo que usa casi todo el mundo cuando quiere transcribir en local, aparece con un 4,62 %. Casi la mitad de errores.
El modelo se llama SOV-Transcribe-1, lo ha publicado Salesforce este 12 de noviembre en Hugging Face y viene con licencia Apache 2.0. Pesos abiertos y licencia permisiva de verdad, sin cláusulas raras de territorio ni de facturación. Eso ya no es tan habitual.
Qué hay dentro
Lo curioso es que no parte de cero. Según la ficha del modelo, junta piezas que ya conocemos: el codificador de audio de Whisper large-v3, un proyector que traduce esa representación al espacio del modelo de lenguaje y, como decodificador, Gemma 4 26B A4B, un modelo de mezcla de expertos. En total son 26.600 millones de parámetros, pero solo se activan unos 4.600 millones por token.
Transcribe siete idiomas: inglés, francés, alemán, español, italiano, portugués y neerlandés. Que el español esté en la lista no es un detalle menor para quien escribe desde Asturias.
En la clasificación de Artificial Analysis para modelos sin streaming queda séptimo en general y primero entre los de pesos abiertos, por delante de Nemotron 3.5 Transcribe de NVIDIA (2,81 %) con el mismo número de parámetros activos. Salesforce también presume de quedar segundo de 23 en VoiceCodeBench, una prueba que mide si se recuperan bien cosas como códigos, cifras o identificadores dictados. Aquí tengo un matiz: ese benchmark es solo en inglés, así que no dice nada de cómo se porta con un audio en castellano.
La letra pequeña para quien tiene un homelab
Aquí es donde se me enfría el entusiasmo. Los pesos en BF16 ocupan unos 53 GB, que cuadra con la cuenta de 26.600 millones de parámetros por dos bytes. No caben en una tarjeta de 48 GB, y en algún análisis ya recomiendan directamente una de 96 GB. Que solo se activen 4.600 millones por token ayuda a la velocidad, no a la memoria: los expertos tienen que estar cargados igual.
Tampoco es un modelo para todo:
- No funciona en streaming, así que nada de subtítulos en directo ni dictado en tiempo real.
- Por lo que he leído de la ficha, no documenta diarización (quién habla) ni marcas de tiempo.
- Las cifras de calidad vienen, de momento, de Salesforce y de una sola clasificación externa.
No lo he probado todavía, y con mi hardware actual tendría que esperar a versiones cuantizadas que reduzcan ese tamaño. Es lo que suele pasar con modelos así a los pocos días o semanas, pero cuánto se pierde de precisión por el camino es justo lo que habría que medir.
Por qué me interesa igualmente
Desde sistemas, la transcripción es de esas tareas que se cuelan en todas partes: actas de reuniones, notas de voz de un técnico en una intervención, llamadas de soporte que alguien quiere poder buscar luego. Mandar ese audio a un servicio externo no siempre es una opción, sobre todo cuando hay datos personales de por medio. Tener un modelo de este nivel con Apache 2.0 significa que una empresa puede montarlo en su propio servidor sin pedir permiso a nadie.
Y desde lo que estudio en la UNED, me parece un buen ejemplo de hacia dónde va el diseño de modelos: reutilizar un codificador que ya funciona, enchufarlo a un modelo de lenguaje potente y entrenar el puente. No inventar todo, sino combinar bien.
Me quedo con una duda práctica. Si dentro de unas semanas aparece una versión cuantizada que cabe en 24 GB y mantiene algo cercano a ese 2,28 %, ¿seguirá teniendo sentido usar Whisper para transcribir en casa?