bert+cnn模型下数据处理要注意的问题
len('Wifi不行')=6但bert对'Wifi不行'编码后的shape是[1,3,768]，所以bert认为这句话的len(）是3而cnn因为卷积核的大小所以对数据的长度有要求，数据的任一维度尺寸都要大于卷积核。所以用len（）去筛选数据的尺寸是不严谨的。我就是这么搞的，结果老是报错，最后33k的数据中找出这么一条奇葩数据，也是服气了。。。。
·
len('Wifi不行')=6
但bert对'Wifi不行'编码后的shape是[1,3,768]，所以bert认为这句话的len(）是3
而cnn因为卷积核的大小所以对数据的长度有要求，数据的任一维度尺寸都要大于卷积核。所以用len（）去筛选数据的尺寸是不严谨的。我就是这么搞的，结果老是报错，最后33k的数据中找出这么一条奇葩数据，也是服气了。。。。
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
0
0- 0
已为社区贡献1条内容
所有评论(0)