transformer

符合DeepVAC规范的transformer实现。
DeepVAC-compliant transformer implementation.

运行

MLab HomePod 2.0

在MLab HomePod 2.0上运行该项目，无需安装任何依赖，只需要输入如下命令即可开始训练:

python train.py

自定义环境

需要至少安装：

• pytorch 1.8+;
• numpy
• deepvac 0.6.0+

然后输入如下命令即可开始训练：

python train.py

数据集

该项目所使用数据集来自：ancient_morden_chinese

配置

该项目符合DeepVAC规范，相关配置均包含在config.py中，配置项的含义也符合DeepVAC规范，请自行阅读DeepVAC规范。