深度之眼（二）——矩阵及其基本运算

一、矩阵的基本概念及意义以及常见的特殊矩阵

矩阵的意义又是什么，下面举一种线性变换

分清楚：零矩阵、单位矩阵和对角矩阵的区别

二、矩阵的加法减法数乘以及性质

三、矩阵的乘法以及性质

注意点：矩阵的相乘，必须保证第一行的列数等于第二行的行数
如：第一个矩阵A为m×s，第二个矩阵B则为s×n，得到矩阵C的则是m×n，C = AB
而c_ij则表示A矩阵的行乘以B矩阵的列

重点：矩阵的乘法不满足交换律

四、矩阵运算在深度学习中的应用(初级)

4.1 数字图片识别（神经网络）

一张图片有0 - 9其中一个数字，大小为10×10，相当于100个数字

1. 展开成100个向量（1 * 100）
2. 将（1100）的矩阵乘以w₁（100512）,编程（1*512）的一个扩展出来的矩阵
3. 对（1*512）经过relu函数处理
   
4. 将relu处理过后（1512）乘以w₂（51210）生成（1*10）[因为想生成10个数]
5. 经过softmax（后面会讲）处理，生成S1…S10的一个概率分布

经过w₁和w₂的处理体现出一种特征空间的变换

以上是单个样本的，如果有多张图片,则矩阵如下

五、矩阵的迹，矩阵的转置，对称矩阵(协方差矩阵)

5.1 矩阵的迹

两个矩阵的交换后相乘不相等，但是迹是一样的
证明：

5.2 矩阵的转置

a_ij^T=a_ji

5.3 对称矩阵

对称阵的特点是:它的元素以对角线为对称轴对应相等很显然单位矩阵以及对角矩阵都为对称矩阵

协方差矩阵
协方差矩阵是对称阵