[李宏毅-机器学习]逻辑回归Logistic Regression
逻辑回归相对于线性回归,是在y=ax+b上用sigmoid做输出的限制逻辑回归用于分类,线性回归用于拟合数据使用梯度下降获得最终结果为什么逻辑回归不能用均方误差?判别式模式 和 生成式模型判别式模型知道找到类别的判别式中的参数,即直接找到P(C|x)分布而生成式模型需要先对P(x|C)进行假设建模(如高斯模型),然后找到该模型的参数,得到P(x|C)...
逻辑回归相对于线性回归,是在y=ax+b上用sigmoid做输出的限制
逻辑回归用于分类,线性回归用于拟合数据


使用梯度下降获得最终结果


为什么逻辑回归不能用均方误差?

判别式模式 和 生成式模型

判别式模型知道找到类别的判别式中的参数,即直接找到P(C|x)分布
而生成式模型需要先对P(x|C)进行假设建模(如高斯模型),然后找到该模型的参数,得到P(x|C)后,再间接计算P(C|x)
朴素贝叶斯
下图中,最后一行是P(x1=1|c2)

注意 其中z的得到,是通过不同的w和b,其中w,x,b都是向量



逻辑回归无法解决上图中的分类问题,因为逻辑回归是线性boundary,上图的情况无法用一个boundary

使用特征转换,将原来的特征转换到另外一个空间,可以得到线性boundary的空间
但是这种转换人为很难找到,因此想要让机器自己找到一个tranfromer
就将多个逻辑回归叠加到一起,让前边的逻辑回归自己找到一个tranformer,最后一个再用分类

每一个逻辑回归单元,就是一个神经元,这就是神经网络
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)