本教程深入讲解了在Python环境下实现的经典机器学习算法,包括线性回归、逻辑回归以及前馈型BP神经网络模型。
机器学习算法Python实现——线性回归,逻辑回归,BP神经网络
一、线性回归
1. 代价函数
2. 梯度下降算法
3. 均值归一化
4. 最终运行结果
5. 使用scikit-learn库中的线性模型实现
二、逻辑回归
1. 代价函数
2. 梯度
3. 正则化
4. S型函数(即)
5. 映射为多项式
6. 使用的优化方法
7. 运行结果
8. 使用scikit-learn库中的逻辑回归模型实现逻辑回归_手写数字识别_OneVsAll
1. 随机显示100个数字
2. OneVsAll
3. 手写数字识别
4. 预测
5. 运行结果
三、BP神经网络
1. 神经网络model
2. 代价函数
3. 正则化
4. 反向传播BP
5. BP可以求梯度的原因
6. 梯度检查
7. 权重的随机初始化
8. 预测
9. 输出结果
四、SVM支持向量机
1. 代价函数
2. Large Margin
3. SVM Kernel(核函数)
4. 使用中的模型代码
5. 运行结果
五、K-Means聚类算法
1. 聚类过程
2. 目标函数
3. 聚类中心的选择
4. 聚类个数K的选择