有关深度学习的一些想法和困惑
目前看来,深度学习模型在智能方面取得的进展只是在时间和规模尺度上对某些人类基本能力的延伸。由于让渡了一部分对模型的控制权和解释性,在充分利用数据和算力的同时,深度学习面临着复现困难、不便推广等问题。
本文记录我从事机器视觉工作积累下来的一点习惯和经验。
权重衰减(weight dacay),即L^2范数惩罚,是最常见的正则化技术之一。本文将介绍它是如何起作用的。主要材料来自The Deep Learning Book。
Update your browser to view this website correctly. Update my browser now