3.4.参数估计

3.4.1.矩估计

样本矩:

样本矩依概率收敛于相应的总体矩

期望实际上是一阶矩统计

一阶样本矩:

方差实际上是二阶中心矩统计

二阶样本矩:

阶样本矩:

3.4.2.极大似然估计

 

离散型:

连续型:

极大似然估计:

要求参数θ使得抽到样本的联合概率最大,也就是把θ看成变量,求函数L(θ)的最大值,求极值的做法通常就是求导:

由于函数L(θ)是连乘的形式,不好求解,因此把连乘变成连加,套路就是取对数后求导(极大似然变成对数极大似然):

 

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐