GBDT做特征选择
·
对于单颗树，我们要计算特征j在单颗树中的重要度，就是计算特征j在单颗树中带来的收益之和。
那对于集成学习，假设有T棵树，那么我们就每颗决策树中的每个特征重要程度加和除以T，就是每个特征的重要程度。
那么决策树或者基于决策树的GBDT可以在训练完后，根据计算好的feature_importance去选择分值大和分值小的，从而进行合理降维。
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
0
0- 0
已为社区贡献7条内容
所有评论(0)