资料:

作业要求

二元分类是机器学习中最基础的问题之一。在本次作业中,需要写一个线性二元分类器,根据人们的个人信息,判断其年收入是否高于 50,000 美元。作业将用 logistic regression 与 generative model两种模型来实现目标,模型差异可见李宏毅老师的课程视频与ppt。

 数据情况:

50000多的原始数据,在train.csv中,其中有13个数值属性数据。有29个object数据,即需要One-hot编码的数据。助教在Xtranin中的数据进行了预处理。(1)移除了一些不必要的数据 (2)对离散值进行了one-hot编码。(3)稍微平衡了正负标记的数据的比例

在原始train.csv的数据中,只有42个feature。但是one-hot编码之后有了510个feature。且510个feature照样做normalization。

代价函数:

逻辑回归:

训练:

小批量梯度下降 + 10个epoch,每个epoch要重新打乱数据。

batch_size 是每个批量的大小。batch_size = 8
10个epoch:
         全部训练数据重新洗牌;
         for batch_size = 8, 全部数据进行小批量梯度下降
         计算每个epoch的训练的准确率acc和交叉熵loss;计算每个epoch的验证集的准确率

生成式模型

 

 

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐