具有密度函数

的分布叫做拉普拉斯分布;
是位置参数,
是尺度参数。

拉普拉斯分布的期望为

,方差为
,偏度为0,峰度为3。

拉普拉斯分布的密度函数,可以看作是两个指数分布函数的概率密度“背靠背”拼接在一起。(事实上拉普拉斯分布与指数分布确实有很密切的关系)

拉普拉斯分布与正态分布

拉普拉斯分布的概率密度与正态分布看起来很像,画出标准拉普拉斯分布(

)和标准正态分布的概率密度图:

c33e3bb1229e35e657f79a5d1de843c7.png

正态分布看起来更集中一些。

此外,标准拉普拉斯分布的0.99分位点是3.91,而标准正态分布是2.32,这说明,服从拉普拉斯分布的随机变量,出现极端大的值的概率,要远远大于正态分布。

The probability of a very large
is far larger with a Laplacian than a Gaussian density.

拉普拉斯分布的一些性质:

  • 如果
    ,那么
  • 如果
    ,那么
  • 如果
    ,那么
  • 如果
    ,那么

拉普拉斯分布的参数估计

拉普拉斯分布的样本中位数即为参数

的极大似然估计。

此外,

拉普拉斯分布与回归分析

在古典回归分析中,用偏差平方和的大小作标准,来选择回归系数使它达到极小,这种回归不具有稳健性,然而,如改为用偏差的绝对值和作为标准,却具有稳健性。

即假设误差项

不是服从正态分布,而是服从拉普拉斯分布的,这时候回归参数的求解不是通过最小二乘了,而是最小化一个 1-范数。

附:画图的程序:

from scipy.stats import laplace, norm
x = np.linspace(laplace.ppf(0.01),
                laplace.ppf(0.99), 100)
plt.plot(x, laplace.pdf(x),
       'r-', lw=2, alpha=0.6, label='laplace pdf')
plt.plot(x, norm.pdf(x), lw=2, label="norm pdf")
plt.legend()
plt.show()

分位点:

19b257859547acf5abbe38924b2774df.png
Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐