You can not select more than 25 topics Topics must start with a chinese character,a letter or number, can include dashes ('-') and can be up to 35 characters long.

trainer.md 2.1 kB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354
  1. # Trainer使用教程
  2. Modelscope提供了众多预训练模型,你可以使用其中任意一个,利用公开数据集或者私有数据集针对特定任务进行模型训练,在本篇文章中将介绍如何使用Modelscope的`Trainer`模块进行Finetuning和评估。
  3. ## 环境准备
  4. 详细步骤可以参考 [快速开始](../quick_start.md)
  5. ### 准备数据集
  6. 在开始Finetuning前,需要准备一个数据集用以训练和评估,详细可以参考数据集使用教程。
  7. ```python
  8. from datasets import Dataset
  9. train_dataset = MsDataset.load'afqmc_small', namespace='modelscope', split='train')
  10. eval_dataset = MsDataset.load('afqmc_small', namespace='modelscope', split='validation')
  11. ```
  12. ### 训练
  13. ModelScope把所有训练相关的配置信息全部放到了模型仓库下的`configuration.json`中,因此我们只需要创建Trainer,加载配置文件,传入数据集即可完成训练。
  14. 首先,通过工厂方法创建Trainer, 需要传入模型仓库路径, 训练数据集对象,评估数据集对象,训练目录
  15. ```python
  16. kwargs = dict(
  17. model='damo/nlp_structbert_sentiment-classification_chinese-base',
  18. train_dataset=train_dataset,
  19. eval_dataset=eval_dataset,
  20. work_dir='work_dir')
  21. trainer = build_trainer(default_args=kwargs)
  22. ```
  23. 启动训练。
  24. ```python
  25. trainer.train()
  26. ```
  27. 如果需要调整训练参数,可以在模型仓库页面下载`configuration.json`文件到本地,修改参数后,指定配置文件路径,创建trainer
  28. ```python
  29. kwargs = dict(
  30. model='damo/nlp_structbert_sentiment-classification_chinese-base',
  31. train_dataset=train_dataset,
  32. eval_dataset=eval_dataset,
  33. cfg_file='你的配置文件路径'
  34. work_dir='work_dir')
  35. trainer = build_trainer(default_args=kwargs)
  36. trainer.train()
  37. ```
  38. ### 评估
  39. 训练过程中会定期使用验证集进行评估测试, Trainer模块也支持指定特定轮次保存的checkpoint路径,进行单次评估。
  40. ```python
  41. eval_results = trainer.evaluate('work_dir/epoch_10.pth')
  42. print(eval_results)
  43. ```