数据分析师经验|新公布的3个概率统计对机器学习的作用,这是数据分析师不得不知的知识
1、概率统计对机器学习的作用——利用数据学习模型
如果我们说,线性代数可以看成是数量还有结构的组合的话,那么概率统计就可以看成是模型还有数据的组合。
那么模型和数据组合在一块,实际上是双向的处理。我们机器学习有学习的阶段,我们要利用这个数据去训练这个模型,这个阶段,我们是用数据去学习这个模型。在模型里面,我们就可以去选择。有那么多的模型,像我们刚才说到的,有 K- 近邻的模型,有回归模型,有决策树,还有支持向量机,这样不同的模型。我训练的任务就是用数据来学习这些模型,来确定这个模型的参数,最终得到一个确定的模型。这就可以看成什么呢?看成是在给定数据的情况下,我来求解这个参数,它的条件概率。给定的数据,如果有一部分参数的条件概率是最大的,那么就选择这部分参数,作为我这个模型的参数。实际上,训练过程解决的就是这样一个问题。
当然具体来说,包括生成模型,包括判别模型,那么生成模型我们求解的是输入输出的一个联合概率分布,那么判别模型是一个条件概率分布。但不管怎么样,很多情况下,我们关注的目标都是分布,那么利用数据进行训练的过程也就是学习这个分布的过程。
2、概率统计对机器学习的作用——利用模型推断数据
接下来呢,在训练结束之后,我们要这个模型要来干什么呢?要进行预测,也就是说,利用这个模型来进行数据的推断。给定这个模型,我给到一个输入,我输入可能是一个特征,一些特征的组合,形成一个向量。我把这个输入的向量代入到模型当中,就可以求出一个结果,当然也可能是多个结果。我取这个概率最大的结果作为一个输出,这个过程就是反过来利用模型去推断数据的一个过程。所以我们说,概率统计等于模型和数据的一个组合,这个组合是双向的。在学习阶段,我们利用数据来训练模型,在预测阶段,我们利用模型反过来去推断这个数据。
所以,在概率统计这一块,我们关注的是模型的使用,还有概率的求解。当然两者不是完全区别开的,是相互融合的。在建立模型的时候,我们会利用到一些先验概率分布。在求解目标函数的时候,我们也会涉及求解数学期望这样一些操作。这里面我们也给出了一个实例,就是回归分析还有机器学习方法的比较。
3、概率统计对机器学习的作用——最优化理论
概率统计呢,我们可以把它解释成这个模型和数据的一个组合,那么最优化的话,就可以看成是目标和约束的一个组合。在这里面,我们最优化的目标是什么呢?是求解,让这个期望函数,或者让目标函数取到最值的解,手段是什么呢?就是通过调整模型的参数来实现,为什么要调整这个模型的参数?因为很多时候,我们想求解到这个解析解是求不出来的。在很多复杂的问题当中呢,这个解析解是没有办法求出来的。对于线性回归来说,我们可以求解出 Beta 的一个表达式,那样一个矩阵相乘,求逆,再进行相乘的一个表达式。很多时候,这个解析解我们求不到,求不到怎么办?就只能一点一点去试,一步一步去找,我要的最小值或者最大值,它到底在哪?这个时候就会用到我们最优化的方法,包括梯度下降,包括其他的一些方法。
在使用这些方法的时候,我们要注意调整一些参数。一方面是模型的参数,另外一方面还有所谓的超参数。
调整模型参数,一方面,它的作用让我们找到真正的最小值,或者找到真正的最大值。另外一方面,避免在寻找的过程中把最小值,或者最大值,本来你是能找到的,但是这个超参数没有设计好,比如说我的步长、速率没有设计好,把这个点错过,要避免这样一些问题。所以说对于最优化而言,我们可以把它看成是目标,还有参数的一个组合,通过这两者来找到我们想要的合适的点。
以上就是有关于概率统计对机器学习的作用的相关内容,以及相应的解析,不论你是已经入职数据分析师岗位的新人,还是打算进入数据分析岗位的小白,以上的内容都或多或少会对大家有所帮助,环球网校的小编在这里祝大家的数据分析师职业道路顺利。
最新资讯
- 数据分析业务顺序是什么?这样做的数据分析师才是合格的2020-07-17
- 有哪些数据分析进化阶段?这才是数据分析师变强的必经之路2020-07-17
- 规范的数据分析步骤是什么?这才是数据分析师的工作规范2020-07-16
- 如何建立正确的数据计划?这才是优秀的数据分析师必备技能2020-07-16
- 怎样才能建立正确的数据模式?这对于数据分析师有效2020-07-16
- 如何选择合适的数据分析工具?这是每个数据分析师都要学会的2020-07-16
- 正确的时间管理方法有哪些?优秀的数据分析师都会这么做2020-07-14
- 常见的数据分析错误有哪些?作为数据分析师别说你没犯过2020-07-14
- 数据分析师进步之路是什么?原来这才是别人的超过你的原因2020-07-14
- 数据分析的误区有哪些?数据分析师不注意这些怎么进步2020-07-14