Score Function Trick及其在机器学习中的应用
1、score function定义,就是说score function是求最大对数似然函数中让对数似然函数梯度等于0的梯度
在这里插入图片描述
就是说,求解最大似然问题就是求解score function
2、再对参数求导,就会得到Fisher Information ,FIM是SF的负导数。

3、SF的期望值是0
在这里插入图片描述
这一个性质可以用在有baseline的策略梯度中。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐