【李宏毅2021机器学习深度学习】2-1 Phoneme Classification【hw2】
文章目录写在前面标准提示:实验记录:1. Sample code2. 数据归一化,添加了BN,大的batch_size由64改为128,修改激活函数为Relu,添加plot_learning_curve工具看loss曲线,3. (overfitting)make model simpler(直接去掉第三层全连接层)4. batch_size直接改为5125. lr = 0.001(默认参数)6.
·
文章目录
- 写在前面
- 标准
- 提示:
- 实验记录:
- 1. Sample code
- 2. 数据归一化,添加了BN,大的batch_size由64改为128,修改激活函数为Relu,添加plot_learning_curve工具看loss曲线,
- 3. (overfitting)make model simpler(直接去掉第三层全连接层)
- 4. batch_size直接改为512
- 5. lr = 0.001(默认参数)
- 6. 修改model->256, batch_size修改为1024![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/f4e728c0c4248436acc3e8537e7e7e7d.png)
- 7. 网络从1024->256
- 8. 512->128
写在前面
早期的调参记录无任何经验,直接参考最新的
标准
提示:
实验记录:
1. Sample code
2. 数据归一化,添加了BN,大的batch_size由64改为128,修改激活函数为Relu,添加plot_learning_curve工具看loss曲线,
早停策略【hw1】不错,这里没加
3. (overfitting)make model simpler(直接去掉第三层全连接层)
4. batch_size直接改为512
5. lr = 0.001(默认参数)
6. 修改model->256, batch_size修改为1024
7. 网络从1024->256
8. 512->128
更多推荐
已为社区贡献1条内容
所有评论(0)