当前位置：网站首页>第四讲 反向传播随笔

第四讲 反向传播随笔

2022-08-05 05:13:00 【长路漫漫 大佬为伴】

随笔笔记

反向传播算法

在这里插入图片描述

  • 用法：解决权重数量多，隐层多的问题，解决无法写出解析式的问题（大部分问题）
  • 原理：将网 络看成一个图，在图上传播梯度，最后根据链式法则求出梯度

矩阵计算公式书

matrix cookbook

pytorch基本数据类型----Tensor

在这里插入图片描述

  • Tensor的数据类型可以是向量，可以是矩阵，可以是高阶的Tensor等
  • Tensor中含有两个重要的成员，为Data和Grad，Data保存权重本身的值，Grad保存损失函数对权重的导数

原网站

版权声明
本文为[长路漫漫 大佬为伴]所创，转载请带上原文链接，感谢
https://blog.csdn.net/weixin_43786637/article/details/126103473

边栏推荐

猜你喜欢

随机推荐