转载自:https://zhuanlan.zhihu.com/p/72642285

model-based RL这个方向的工作可以根据environment model的用法分为三类:

1.作为新的数据源:environment model 和 agent 交互产生数据,作为额外的训练数据源来补充算法的训练。
2.增加决策的context信息:在进行Q值或者V值预估时,environment model 和agent做交互,交互过程中的信息作为context提供给agent来帮助其决策。
3.增加Q值预估的质量:在进行Q值预估时候,会通过environment model 来展开一定步数,然后结合model-free的Q值预估来给出一个更高准确的Q值预估。
其中3和2有点类似,但是2一般和planning结合,3的话则更多用于off-policy的RL算法中

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐