深度学习调参有哪些技巧？
发布时间：2021-06-23 栏目：人工智能, 深度学习 评论：0 Comments
自己的总结：
– 一般如果模型越深，那么针对同样的初始化方法，需要的学习率越小。因为模型越深训练时越容易梯度爆炸或者消失，所以相应的，学习率需要小一点
– 加入BN层或者dropout，可以使初始化方法和学习率不那么重要【实验验证过；理论原因是？】
– BN和dropout一般不同时使用【BN和Dropout单独使用都能减少过拟合并加速训练速度，但如果一起使用的话并不会产生1+1>2的效果，相反可能会得到比单独使用更差的效果。Dropout会扰乱BN所做的偏差矫正，一般尝试把Dropout放在BN层后面】
其他参考：
都是些自己知道或者用过，但是没有总结过的东西，不了解一下被问到时临时难免还是会有点懵：
https://www.zhihu.com/question/25097993/answer/651617880
留下评论
You must be logged in to post a comment.
近期评论
- Pika发表在《莫里斯蠕虫（Morris Worm）》
- Pika发表在《多组学科研分析》
- crisy发表在《最近关于专利的一点感想》
- walter发表在《机器学习基础知识回顾-马尔科夫过程（Markov Process）》
文章归档
- 2024年3月
- 2024年2月
- 2023年12月
- 2023年11月
- 2023年10月
- 2023年9月
- 2023年8月
- 2023年7月
- 2023年6月
- 2023年5月
- 2023年4月
- 2023年3月
- 2023年2月
- 2023年1月
- 2022年12月
- 2022年11月
- 2022年9月
- 2022年8月
- 2022年7月
- 2022年6月
- 2022年5月
- 2022年3月
- 2022年2月
- 2022年1月
- 2021年12月
- 2021年11月
- 2021年10月
- 2021年9月
- 2021年8月
- 2021年7月
- 2021年6月
- 2021年5月
- 2021年4月
- 2021年2月
- 2021年1月
- 2020年12月
- 2020年11月
- 2020年10月
- 2020年8月
- 2020年7月
- 2020年6月
- 2020年5月
- 2020年4月
- 2020年3月
- 2020年2月
- 2019年7月
- 2019年5月
- 2019年3月
- 2019年1月
- 2018年6月
- 2018年5月
- 2018年4月
- 2018年3月
- 2018年2月
- 2017年11月
- 2017年7月
- 2017年6月
- 2017年5月
- 2017年3月
- 2016年12月
- 2016年11月
- 2016年10月
- 2016年9月
- 2016年8月
- 2016年7月
- 2016年6月
- 2016年5月
- 2016年4月
- 2016年3月
- 2016年2月
- 2016年1月
- 2015年12月
- 2015年11月
