深度学习调参经验和工具

1. 经验

• 深度学习调参有哪些技巧？ - 知乎
• 深度学习任务中，哪些经验、技巧、工具链提高了你调参试错的效率？
• 调参这事儿，为什么越干越觉得像老中医看病？
• 机器学习各种算法怎么调参?
• 21个深度学习调参的实用技巧
• 你有哪些deep learning（rnn、cnn）调参的经验？
• 机器学习4种调参自动优化方法，第二款是我的最爱！
• 机器学习科研的十年 看完了
• 面试官如何判断面试者的机器学习水平？
• 有没有什么可以节省大量时间的 Deep Learning 效率神器？

2. 工具

多组参数可视化比较

• Weights & Biases
  • Weights & Biases （兼容多种深度学习框架的可视化工具WB中文简介）
  • https://docs.wandb.ai/quickstart

参数优化工具

• NNI：有没有什么可以节省大量时间的 Deep Learning 效率神器？ - 微软亚洲研究院的回答 - 知乎
• ray
• hpyeropt

数据和模型版本管理

• DVC
  • Open-source Version Control System for Machine Learning Projects
  • github地址：https://github.com/iterative/dvc

3. 书籍

• 吴恩达有一本《机器学习训练秘籍》
  • 中文链接：https://github.com/deeplearning-ai/machine-learning-yearning-cn
  • 英文链接：https://www.deeplearning.ai/programs/