如何向深度学习模型中加入先验知识❓(快收藏)
9️⃣损失函数上也可以加,比如你的任务对边界很敏感,你就可以使用边界敏感的损失函数,来约束网络学习。3️⃣迁移学习、模型蒸馏(树模型蒸馏给transformer)5️⃣不同性质的特征作为不同的输入头。4️⃣重要的特征放得离输出近。
·
1️⃣单调性约束
2️⃣平滑性约束
3️⃣迁移学习、模型蒸馏(树模型蒸馏给transformer)
4️⃣重要的特征放得离输出近
5️⃣不同性质的特征作为不同的输入头
6️⃣特征交叉
7️⃣样本权重
8️⃣后处理
9️⃣损失函数上也可以加,比如你的任务对边界很敏感,你就可以使用边界敏感的损失函数,来约束网络学习
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐



所有评论(0)