标签: 机器学习

机器学习笔记(1):线性回归

初入机器学习领域,我们都会听闻各种模型的名字,比如SVM、树模型、聚类算法等等,这个机器学习笔记系列从基础的模型出发,如线性回归、逻辑回归、随机森林、LightGBM、SVM、孤立森林、聚类算法等,再到机器学习的特征工程、优化算法等等,以公式推导模型理解为主要内容,辅以编程实现。 第一篇我们先介绍一下最容易解释与扩展的线性回归模型。 一、线性回归模型线性回归假设特征和结果满足线性关系。其实线性关系的表达能力非常强大,每个特征对结果的影响强弱可以由前面的参数体现,而且每个特征变量可以首先映射到一个函数,然后再参与线性计算。这样就可以表达特征与结果之间的非线性关系。