提示：根据哔哩哔哩吴恩达机器学习课程，随堂写的笔记心得体会。

---

前言

提示：这是吴恩达佬团队在Coursera新开设的机器学习课程；

详细课程链接请见：
(强推|双字)2022吴恩达机器学习Deeplearning.ai课程

---

提示：以下是本篇文章正文内容

第二课

第一周

1.神经元

应对数字化，需要更快的处理器。

2.预测

多层感知器

3.图像感知

1.构建一个人脸识别程序需要一个神经网络。
2.1000X1000像素的图片就是1000X1000的神经元。

4.神经网络中的网络层

1.如何构建一层神经元。
2.每一个神经元都是一个逻辑回归单元。

5.更复杂的神经网络

1.神经网络向前传播

向前传播算法

2.代码实现

3.数据形式

4.搭建一个神经网络

5.单个网络层上的前向传播

1.随机初始化。

6.前向传播的一般实现

6.强人工智能

神经网络与ai之间的关系。

第二周

1.Tensorflow，模型训练

使用库

2.sigmoid替代函数

1.如何选择激活函数

根据标签y而改变

2.为什么需要激活函数

3.多分类问题

y取多值

1.softmax

解决多分类

2.神经网络的softmax输出

构建一个多分类神经网络使用softmax回归模型，也就是有多个输出单元

3.softmax的改进

softmax换成linear（线性激活函数）
是否要显示计算a，通过底部直接指定a的表达式

4.多个输出分类

多标签分类，三个二分类问题

5.高级优化方法

梯度下降算法是一种广泛的优化方法，有一种新的方法更快的训练神将网络
梯度下降表达式

6.其他的网络层类型

密集层，卷积层

第三周

1.下一步

线性回归预测房价

1.模型评估

训练集+测试集

2.模型选择

数据分为三个子集，训练集，测试集（评估模型），交叉验证集（选择模型）

3.通过偏差与方差进行诊断

偏差（误差），训练集上做的不好
方差，验证集上做的不好

4.正则化，偏差，方差

偏差，方差受到影响

5.性能评估的基准

如何判断算法具有高偏差与高方差。
基准水平是指算法最终达到的误差水平。

6.学习曲线

训练集越大误差越大，而方差越来越小。高偏差等于欠拟合模型能力不够，高方差等于过拟合。

7.修订版下一步

我的学习算法是否具有高偏差与高方差。

8.方差与偏差

拥有更大的神经网络会减慢算法。

2.机器学习开发的迭代

构建分类器识别垃圾邮件与非垃圾邮件。

1.误差分析

2.添加更多的数据

3.迁移学习

必须具有相同的数据类型。

4.机器学习项目的完整周期

1.确定项目的范围，项目是什么，决定怎么做。
2.收集数据，确定训练机器学习系统所需要的数据。
3.训练模型,根据方差与误差再次搜集数据。
4.监控系统，维护系统.
5.部署模型。

5.公平，偏见与伦理

1.面部识别系统对深颜色皮肤匹配犯罪分子更高。
2.生成虚假内容、

6.倾斜数据集的误差标准

1.误差小的预测可能不是特别有用的预测。
2.通常使用不同的误差度量。
3.精度和召回率
Precision很高：说话靠谱；Recall很高：遗漏率很低。

7.精确率与召回率的权衡

3.决策树

1.训练一个分类器。
2.模型

1.学习过程

构建决策树所需要的过程。
1.决定拆分特征。
2.必须在算法中做几个关键性的决策。
1.根节点选择哪一个特征拆分。特征需要最大纯度（是否含有猫的DNA）。
2.何时停止分裂。既要保持树小，又要降低过度拟合。

2.纯度

1.熵的定义，测量不纯度。H§熵越高（样本的混乱程度），越不纯。

3.选择拆分信息增益

选择拆分哪一个特征最能减少熵。熵的减少称为信息增益。
1.加权平均值。

计算信息增益的一般形式：
root样本中正样本的比例

4.整合

5.独热编码

三个新特征代替一个旧特征

可以让您使用0，1对特征进行编码。

6.连续的有价值的功能

特征值是连续的，比如体重。
1.体重与阈值的关系。 尝试不同的阈值选择信息增益最大的。

7.回归树

（回归问题）预测一个数字。Y（体重）

选择最大方差减少的特征。

先讲已经构建好的决策树，如何预测体重。然后再讲这个预测体重的决策树是怎么构建出来的。就根据耳朵、脸、胡须来预测体重。

4.使用多个决策树

树集成。改变训练样例会产生完全不同的树。运行在多棵树上，让他们投票决定。少数服从多数。讨论怎么构建树集合。

1.有放回抽样

应用于构建树集合。 构建多个随机训练集。与原来的训练集有所不同。

2.随机森林

一种强大的树样本算法。随机选k个特征，用信息增益在这k个特征里选分裂的依据。因为k控制了随机性的引入程度，k=1就是随机选择一个特征进行划分了。他这个只是给了k取值的一般情况的例子，西瓜书给的一般情况取值是log2(n)。

3.XGboost

有点像错题本，有更高的机会从错误的例子中选择。不需要生成很多随机选择的训练集。

4.何时使用决策树

在结构化数据上使用决策树。图像、视频、音频不建议。非结构化数据适合神经网络。神经网络比决策树慢。梯度下降就是反向传播，根据cost function来调整w和b的值。

监督学习到此结束