学完了吴恩达在Coursera上新开的课程的第一部分neural networks deep learning
,
是时候对课程进行一下总结了。
每周内容小回顾
先对第一个专项课程所讲的内容进行简单的梳理,后面捡重点单独拿出来进行记录。
week 1
第一周视频时间很短,主要就是介绍了神经网络的发展以及它的一些作用, 然后讲了课程的相关内容,如何讨论啊,作业形式啊什么的。
week 2
第二周的课程首先引入了Logistic Regression,然后讲了如何对Logistic模型进行训练, 这样就引入了代价函数,梯度下降等等一些机器学习中的一些概念。
另外,后半部分又顺带引入了计算过程的向量化,所以就讲了与作业有关的Jupyter、numpy的相关操作。
week 3
第三周主要讲了一个二层的神经网络,当然是先讲了它的前向传播,然后讲了如何向量化计算, 这里主要是为了讲清楚神经网络的层次结构。
然后讲了神经网络中的激活函数,最后给出了反向传播,加上权值的随机初始化。
week 4
第四周开始更深层次的神经网络,然后讲了前向和反向传播,并且强调了神经网络每一层的 矩阵维度问题,在程序中要注意维度的正确性。
最后讲了参数设置问题。Parameters
:通过网络学习得来的参数。
Hyperparameters
:在训练前就要设置,需要多次重复训练来手动调整。
小结
讲了构建一个多层的前向神经网络所需要的基本的知识。
Logistic Regression
初级 Deep Neural Networks
课程的一些问题
好像没有ppt,笔记写起来很痛苦啊。