zuazo/whisper-tiny-eu · Hugging Face
Extracto
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
Resumen
Resumen Principal
El modelo Whisper Tiny Basque representa un avance significativo en el procesamiento del lenguaje natural, específicamente en la transcripción de audio a texto para el idioma euskera. Este modelo es una versión fine-tuned del reconocido openai/whisper-tiny, optimizado para manejar las particularidades fonéticas y gramaticales del vasco. Su entrenamiento se realizó sobre el corpus mozilla-foundation/common_voice_13_0 eu, un dataset crucial para lenguas de bajos recursos, lo que subraya un esfuerzo estratégico para democratizar la tecnología ASR (Automatic Speech Recognition). En las evaluaciones, el modelo logró un Word Error Rate (WER) de 32.2694 y una Loss de 0.6522, métricas que sitúan su rendimiento dentro de un rango comparable para lenguajes con disponibilidad limitada de datos. El proceso de entrenamiento, detallado a través de sus hiperparámetros y resultados iterativos, muestra una meticulosa configuración para alcanzar la eficiencia y precisión actuales, consolidando a Whisper Tiny Basque como una herramienta prometedora para aplicaciones de voz en euskera.
Elementos Clave
- Modelo Adaptado para Euskera: Whisper Tiny Basque es una adaptación fine-tuned del modelo original openai/whisper-tiny, específicamente desarrollado para el idioma euskera. Esta personalización es fundamental para capturar las características únicas del vasco, mejorando la precisión en el reconocimiento automático de voz para esta lengua minoritaria.
- Rendimiento Evaluado: El modelo ha sido evaluado con resultados clave, mostrando una Loss de 0.6522 y un Word Error Rate (WER) de 32.2694 en el conjunto de evaluación. Este WER es la métrica principal que indica la proporción de palabras incorrectamente reconocidas, siendo un valor de referencia importante para el rendimiento del ASR en euskera.
- Configuración Detallada de Entrenamiento: El proceso de entrenamiento se ejecutó con 5000 pasos utilizando un optimizador Adam (con betas=(0.9,0.999) y epsilon=1e-08), una learning rate de 3.75e-05, y batch sizes de 256 para entrenamiento y 128 para evaluación. Estos **
Contenido
Whisper Tiny Basque
This model is a fine-tuned version of openai/whisper-tiny on the mozilla-foundation/common_voice_13_0 eu dataset. It achieves the following results on the evaluation set:
- Loss: 0.6522
- Wer: 32.2694
Model description
More information needed
Intended uses & limitations
More information needed
Training and evaluation data
More information needed
Training procedure
Training hyperparameters
The following hyperparameters were used during training:
- learning_rate: 3.75e-05
- train_batch_size: 256
- eval_batch_size: 128
- seed: 42
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
- lr_scheduler_type: linear
- lr_scheduler_warmup_steps: 500
- training_steps: 5000
Training results
| Training Loss | Epoch | Step | Validation Loss | Wer |
|---|---|---|---|---|
| 0.0096 | 19.0 | 1000 | 0.5796 | 32.8952 |
| 0.0011 | 38.0 | 2000 | 0.6522 | 32.2694 |
| 0.0005 | 57.01 | 3000 | 0.6949 | 33.1403 |
| 0.0003 | 76.01 | 4000 | 0.7217 | 33.0734 |
| 0.0003 | 96.0 | 5000 | 0.7321 | 33.1585 |
Framework versions
- Transformers 4.33.0.dev0
- Pytorch 2.0.1+cu117
- Datasets 2.14.4
- Tokenizers 0.13.3
Citation
If you use these models in your research, please cite:
@misc{dezuazo2025whisperlmimprovingasrmodels,
title={Whisper-LM: Improving ASR Models with Language Models for Low-Resource Languages},
author={Xabier de Zuazo and Eva Navas and Ibon Saratxaga and Inma Hernáez Rioja},
year={2025},
eprint={2503.23542},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2503.23542},
}
Please, check the related paper preprint in arXiv:2503.23542 for more details.
Licensing
This model is available under the Apache-2.0 License. You are free to use, modify, and distribute this model as long as you credit the original creators.