在上一篇文章中,我们详细讲解了线性回归算法的原理。线性回归是一种回归算法,主要用于预测连续值。但在实际问题中,我们经常会遇到分类问题,比如判断邮件是垃圾邮件还是正常邮件,判断图片是猫还是狗,判断用户是否会点击广告等。
今天,我们要讲解的是监督学习中的另一种重要算法——逻辑回归。虽然它的名字里有“回归”两个字,但它实际上是一种分类算法。很多人在学习逻辑回归的时候,容易和线性回归混淆。其实,逻辑回归和线性回归有很多相似之处,但也有本质的区别。
二、逻辑回归的基本原理
1. 什么是分类问题
分类问题是机器学习中的一类重要问题,它的目标是根据已知的特征,预测一个离散的类别。比如:
-
• 根据邮件的内容和特征,预测它是垃圾邮件还是正常邮件(二分类)
-
• 根据图片的像素值,预测它是猫还是狗(二分类)
-
• 根据用户的购买历史和行为,预测他会购买哪个类别的商品(多分类)
2. 逻辑回归的基本思想
逻辑回归的基本思想是:先使用线性回归的方法得到一个线性预测值,然后将这个线性预测值通过一个非线性函数(称为激活函数)映射到[0,1]之间,得到一个概率值,最后根据这个概率值判断样本属于哪个类别。
具体来说,逻辑回归的预测过程分为以下几个步骤:
1. 计算线性预测值:
2. 将线性预测值通过激活函数映射到[0,1]之间:
3. 根据概率值判断类别:如果 ,则预测为正类;如果 ,则预测为负类





