MATLAB罚函数代码-MLLabs_HIT2018：哈尔滨工业大学2018年机器学习实验室

简介：
本项目为哈尔滨工业大学2018年机器学习实验室开发的MATLAB罚函数代码库，适用于各类优化问题的研究与求解。 matlab罚函数的代码Lab1多项式拟合曲线目标：掌握最小二乘法求解（无惩罚项的损失函数）、掌握加惩罚项（2范数）的损失函数优化、梯度下降法、共轭梯度法，理解过拟合并了解克服过拟合的方法(如增加正则化项和扩充样本)。要求如下：生成数据并添加噪声；用高阶多项式函数进行曲线拟合；使用解析解求得两种loss的最优值（无正则项与有正则项）；通过优化方法求出最优解（梯度下降，共轭梯度），需要自行计算梯度，并编写迭代优化过程。利用实验数据解释过拟合现象。同时针对不同样本量、超参数设置及多项式阶数进行比较研究。 提交材料包括： 1. 代码 2. 实验报告 Lab2逻辑回归目的：理解逻辑回归模型，掌握其参数估计方法。 要求实现两种损失函数的优化（一种无正则项，另一种加入对参数的惩罚），可采用梯度下降、共轭梯度或牛顿法等。通过手工生成两类数据进行验证（例如使用高斯分布来模拟不同类别的样本）以测试算法性能，并考虑当类别条件分布不满足朴素贝叶斯假设时的情况。 以上内容旨在帮助学习者深入理解相关概念和实践技能，包括但不限于最小二乘、正则化技术以及优化方法的应用。