返回模型
说明文档
<!-- 此模型卡已根据 Trainer 可访问的信息自动生成。您可能需要校对并完善它,然后删除此注释。 -->
whisper-tiny.en
该模型在 None 数据集上从头开始训练。 它在评估集上取得了以下结果:
- Loss: 0.8196
- Wer: 41.9679
模型描述
需要更多信息
预期用途与限制
需要更多信息
训练和评估数据
需要更多信息
训练过程
训练超参数
训练期间使用了以下超参数:
- learning_rate: 5e-06
- train_batch_size: 2
- eval_batch_size: 2
- seed: 42
- gradient_accumulation_steps: 8
- total_train_batch_size: 16
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
- lr_scheduler_type: linear
- lr_scheduler_warmup_steps: 500
- num_epochs: 10
- mixed_precision_training: Native AMP
训练结果
| 训练损失 | 轮次 | 步数 | 验证损失 | Wer |
|---|---|---|---|---|
| 0.6241 | 6.02 | 500 | 0.8196 | 41.9679 |
框架版本
- Transformers 4.35.2
- Pytorch 2.4.1+cu121
- Datasets 3.0.1
- Tokenizers 0.15.2
medxcribe/whisper-tiny.en
作者 medxcribe
↓ 1
♥ 0
创建时间: 2024-12-29 16:20:39+00:00
更新时间: 2024-12-30 15:28:11+00:00
在 Hugging Face 上查看文件 (53)
.gitattributes
README.md
added_tokens.json
config.json
generation_config.json
merges.txt
model.safetensors
normalizer.json
onnx/config.json
onnx/decoder_model.onnx
ONNX
onnx/decoder_model_bnb4.onnx
ONNX
onnx/decoder_model_fp16.onnx
ONNX
onnx/decoder_model_int8.onnx
ONNX
onnx/decoder_model_merged.onnx
ONNX
onnx/decoder_model_merged_bnb4.onnx
ONNX
onnx/decoder_model_merged_fp16.onnx
ONNX
onnx/decoder_model_merged_int8.onnx
ONNX
onnx/decoder_model_merged_q4.onnx
ONNX
onnx/decoder_model_merged_quantized.onnx
ONNX
onnx/decoder_model_merged_uint8.onnx
ONNX
onnx/decoder_model_q4.onnx
ONNX
onnx/decoder_model_quantized.onnx
ONNX
onnx/decoder_model_uint8.onnx
ONNX
onnx/decoder_with_past_model.onnx
ONNX
onnx/decoder_with_past_model_bnb4.onnx
ONNX
onnx/decoder_with_past_model_fp16.onnx
ONNX
onnx/decoder_with_past_model_int8.onnx
ONNX
onnx/decoder_with_past_model_q4.onnx
ONNX
onnx/decoder_with_past_model_quantized.onnx
ONNX
onnx/decoder_with_past_model_uint8.onnx
ONNX
onnx/encoder_model.onnx
ONNX
onnx/encoder_model_bnb4.onnx
ONNX
onnx/encoder_model_fp16.onnx
ONNX
onnx/encoder_model_int8.onnx
ONNX
onnx/encoder_model_q4.onnx
ONNX
onnx/encoder_model_quantized.onnx
ONNX
onnx/encoder_model_uint8.onnx
ONNX
onnx/generation_config.json
onnx/ort_config.json
onnx/preprocessor_config.json
onnx/tokenizer.json
onnx/tokenizer_config.json
preprocessor_config.json
quantize_config.json
runs/Dec29_16-20-39_5866db759861/events.out.tfevents.1735489240.5866db759861.2191.0
runs/Dec30_04-45-21_148b7f24425f/events.out.tfevents.1735533922.148b7f24425f.2191.0
runs/Dec30_10-17-27_819e56511189/events.out.tfevents.1735553848.819e56511189.3275.0
runs/Dec30_14-09-57_1f62fb92ba29/events.out.tfevents.1735567798.1f62fb92ba29.2191.0
special_tokens_map.json
tokenizer.json
tokenizer_config.json
training_args.bin
vocab.json