思路:

逻辑回归:实质为Rn−>0,1R^n->{0,1}Rn>0,1的映射,
y=θTXy=\theta^TXy=θTX
P(y=1∣x)=11+e−θTX=hθ(X)P(y=1|x)=\frac{1}{1+e^{-\theta^{T}X}}=h_{\theta}(X)P(y=1x)=1+eθTX1=hθ(X)
P(y=0∣x)=1−11+e−θTX=1−hθ(X)P(y=0|x)=1-\frac{1}{1+e^{-\theta^{T}X}}=1-h_{\theta}(X)P(y=0x)=11+eθTX1=1hθ(X)
Pi=hθ(X)Y(1−hθ(X))1−YP_{i}=h_{\theta}(X)^{Y}(1-h_{\theta}(X))^{1-Y}Pi=hθ(X)Y(1hθ(X))1Y
此处的代价函数时由极大似然的思想得来的
在这里插入图片描述
在这里插入图片描述

普通逻辑回归代码:

在这里插入图片描述

正则化逻辑回归:

在这里插入图片描述
无法使用普通的做法,需要feature mapping
在这里插入图片描述
如图是低维变高维
2维变1+2+…+7=7*8/2=28维

在这里插入图片描述
注:第一个θ不参与正则
在这里插入图片描述
决策边界:θTX=0\theta^TX=0θTX=0

正则化逻辑回归代码:

在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐