
第5章 逻辑回归:疾病风险概率建模
逻辑回归(Logistic Regression)尽管名称中含有“回归”,但它实际上是一种广泛应用于分类任务的线性模型。在医疗领域,逻辑回归因其简单、高效、可解释性强,以及能够输出概率值的特点,成为疾病风险预测、诊断辅助、预后评估等任务的基石算法。本章将从算法原理出发,深入解析逻辑回归在医疗场景中的适用性,并通过实战案例展示从数据预处理、模型训练、结果解释到临床应用的完整流程。
5.1 算法原理
逻辑回归的核心思想是:通过线性回归的输出来估计样本属于某个类别的概率。它使用一个非线性函数(Sigmoid函数)将线性组合的实数输出映射到0到1之间的概率值,从而解决分类问题。
5.1.1 从线性回归到逻辑回归
线性回归模型试图用特征的线性组合来预测一个连续值:
[ z = \\theta_0 + \\theta_1 x_1 + \\theta_2 x_2 + … + \\theta_p x_p = \\theta^T x ]
其中 (\\theta) 是模型参数(包括偏置项 (\\theta_0)),(x) 是特征向量。
对于二分类问题,我们希望输出一个概率值,即 (P(y=1|x)),这个概率应该在0到1之间。线性回归的输出范围是 ((-\\infty, +\\infty)),无法直接作为概率。因此,我们需要一个链接函数将线性输出映射到(0,1)区间。
逻辑回归采用的链接函数是 Sigmoid函数(也称为Logistic函数):
[ \\sigma(z) = \\frac{1}{1 + e^{-z}} ]
Sigmoid函数具有S形曲线,将任意实数映射到(0,1)之间,且当 (z=0) 时输出为0.5。
因此,逻辑回归模型表示为:
[ P(y=1|x) = \\sigma(\\theta^T x) = \\frac{1}{1 + e{-\\thetaT x}} ]
而 (P(y=0|x) = 1 – P(y=1|x))。
5.1.2 决策边界
逻辑回归的决策边界由 (\\theta^T x = 0) 决定,它是一个线性超平面。因此,逻辑回归本质上是一个线性分类器——它假设特征与对数几率(log-odds)呈线性关系。
当 (\\theta^T x > 0) 时,(P(y=1|x) > 0.5),预测为正类;当 (\\theta^T x < 0) 时,预测为负类。决策边界可以调整,通过改变分类阈值(如从0.5降到0.3),可以控制模型的灵敏度与特异度。
5.1.3 模型估计:极大似然估计
逻辑回归的参数 (\\theta) 通常通过极大似然估计(Maximum Likelihood Estimation, MLE)求解。似然函数表示在给定参数下观测到当前数据的概率。对于二分类问题,假设有 (m) 个训练样本 ({(x^{(i)}, y^{(i)})}),其中 (y^{(i)} \\in {0,1}),则似然函数为:
[ L(\\theta) = \\prod_{i=1}^{m} P(y{(i)}|x{(i)};\\theta) = \\prod_{i=1}^{m} \\left( \\sigma(\\theta^T x^{(i)}) \\right){y{(i)}} \\left(1 – \\sigma(\\theta^T x{(i)})\\right){1-y^{(i)}} ]
为便于计算,通常取对数,得到对数似然函数:
[ \\ell(\\theta) = \\sum_{i=1}^{m} \\left[ y^{(i)} \\log(\\sigma(\\theta^T x^{(i)})) + (1-y^{(i)}) \\log(1 – \\sigma(\\theta^T x^{(i)})) \\right] ]
极大似然估计的目标是最大化 (\\ell(\\theta)),等价于最小化交叉熵损失函数(或称为对数损失):
[ J(\\theta) = -\\frac{1}{m} \\sum_{i=1}^{m} \\left[ y^{(i)} \\log(\\hat{y}^{(i)}) + (1-y^{(i)}) \\log(1-\\hat{y}^{(i)}) \\right] ]
其中 (\\hat{y}^{(i)} = \\sigma(\\theta^T x^{(i)}))。
5.1.4 梯度下降与优化
由于没有闭式解,通常使用迭代优化算法(如梯度下降法、牛顿法)求解参数。梯度下降的更新规则为:
[ \\theta := \\theta – \\alpha \\nabla J(\\theta) ]
其中 (\\alpha) 是学习率。交叉熵损失函数对 (\\theta_j) 的偏导为:
[ \\frac{\\partial J}{\\partial \\theta_j} = \\frac{1}{m} \\sum_{i=1}^{m} (\\hat{y}^{(i)} – y^{(i)}) x_j^{(i)} ]
这个形式与线性回归的梯度下降形式非常相似,只是 (\\hat{y}^{(i)}) 的计算不同。
5.1.5 正则化
为防止过拟合,逻辑回归常加入正则化项。常用的正则化有:
- L2正则化(岭回归):在损失函数中加入 (\\lambda \\sum_{j=1}^{p} \\theta_j^2),惩罚大的参数值,使参数趋向于零但不等于零。
- L1正则化(Lasso):加入 (\\lambda \\sum_{j=1}^{p} |\\theta_j|),可以产生稀疏解(部分参数为零),具有特征选择的作用。
- 弹性网络:结合L1和L2。
正则化强度由超参数 (\\lambda)(或 (C = 1/\\lambda))控制。在医疗场景中,L1正则化有助于识别关键风险因素。
5.1.6 多分类扩展
逻辑回归可以通过“一对多”(One-vs-Rest, OvR)或“多项逻辑回归”(Softmax回归)扩展至多分类问题。Softmax回归是逻辑回归在多分类上的推广,输出每个类别的概率:
[ P(y=k|x) = \\frac{e{\\theta_kT x}}{\\sum_{j=1}^{K} e{\\theta_jT x}}, \\quad k=1,…,K ]
5.2 医疗应用场景
逻辑回归在医疗领域的应用极其广泛,其优势在于输出概率值、可解释性强、计算效率高。以下是典型的医疗应用场景:
5.2.1 疾病风险预测
逻辑回归最经典的应用是构建风险评分模型,评估个体患某种疾病的风险。例如:
- Framingham冠心病风险评分:基于年龄、血压、胆固醇、吸烟等变量,预测10年冠心病风险。该评分模型正是基于逻辑回归构建,并转化为简单的打分表,便于临床使用。
- 糖尿病风险预测:利用空腹血糖、BMI、家族史等特征,预测个体未来患2型糖尿病的风险。
- 卒中风险预测:如CHADS₂评分用于房颤患者卒中风险评估。
5.2.2 诊断辅助
在诊断阶段,逻辑回归可根据患者的症状、体征、检验结果,输出患有某种疾病的概率,辅助医生决策。例如:
- 肺炎诊断:基于胸部X光特征、白细胞计数、体温等,预测患者是否患有肺炎。
- 败血症早期识别:根据生命体征、实验室指标,计算败血症发生概率,实现早期预警。
5.2.3 预后预测与生存分析
逻辑回归可用于预测患者发生某种结局(如死亡、复发、并发症)的概率。例如:
- 术后并发症预测:预测患者术后30天内发生感染、出血等并发症的风险。
- 癌症复发风险:根据肿瘤分期、病理类型、手术切缘等,预测术后复发概率。
需要注意的是,逻辑回归不直接处理生存时间(含删失),但可用于预测特定时间点的结局(如1年生存状态)。
5.2.4 药物疗效与不良反应预测
在药物研发和临床用药中,逻辑回归可用于预测患者对特定药物的反应概率,或发生不良反应的风险。例如:
- 化疗敏感性预测:根据基因表达谱、临床特征预测肿瘤对某化疗药物的敏感概率。
- 药物肝损伤风险:基于患者特征和用药信息,预测发生药物性肝损伤的概率。
5.2.5 医疗资源利用预测
在医疗管理领域,逻辑回归可用于预测患者是否可能占用特定资源。例如:
- 再入院风险预测:预测患者出院后30天内是否会再次入院,从而提前干预。
- ICU入住需求预测:急诊患者入住ICU的概率预测,辅助床位管理。
5.2.6 风险校正与绩效评估
在医疗质量评估中,逻辑回归常用于风险校正模型,根据患者特征(年龄、病情严重程度)预测预期结局(如死亡率),然后比较实际结局与预期结局,评估医院或医生的绩效。
5.2.7 变量筛选与风险因素识别
逻辑回归的系数可直接解释为特征对结局的贡献。通过统计检验(如Wald检验)可识别显著的风险因素。L1正则化逻辑回归可自动筛选重要特征。因此,在流行病学研究中,逻辑回归是探索疾病危险因素的常用工具。
5.3 案例实战:基于逻辑回归的乳腺癌恶性程度预测
本节将通过一个完整的实战案例,演示如何使用逻辑回归构建乳腺癌诊断模型。我们将使用威斯康星乳腺癌数据集(Wisconsin Breast Cancer Dataset),该数据集是乳腺癌诊断的经典数据集,包含肿瘤的细胞核特征和良性/恶性标签。
5.3.1 数据集介绍
威斯康星乳腺癌数据集包含569个样本,每个样本有30个数值型特征(如半径、纹理、周长、面积、光滑度等),以及一个二分类标签:恶性(Malignant,M)或良性(Benign,B)。特征是从数字化乳腺肿块细针穿刺活检图像中计算得出的。
5.3.2 数据加载与探索
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split, cross_val_score, GridSearchCV
from sklearn.linear_model import LogisticRegression
from sklearn.preprocessing import StandardScaler
from sklearn.metrics import classification_report, confusion_matrix, roc_auc_score, roc_curve
from sklearn.pipeline import Pipeline
# 加载数据
data = load_breast_cancer()
X = pd.DataFrame(data.data, columns=data.feature_names)
y = pd.Series(data.target) # 0=恶性, 1=良性
print(X.shape)
print(X.head())
print(f\”类别分布:\\n{
y.value_counts()}\”)
输出:
(569, 30)
mean radius mean texture mean perimeter mean area mean smoothness …
0 17.99 10.38 122.80 1001.0 0.11840 …
1 20.57 17.77 132.90 1326.0 0.08474 …
2 19.69 21.25 130.00 1203.0 0.10960 …
3 11.42 20.38 77.58 386.1 0.14250 …
4 20.29 14.34 135.10 1297.0 0.10030 …
类别分布:
1 357
0 212
数据集有30个特征,全部为数值型。类别分布:良性357例,恶性212例,存在轻微不平衡。
5.3.3 数据预处理
检查缺失值:该数据集无缺失值。
特征缩放:逻辑回归对特征尺度敏感,需要标准化。
# 划分训练集和测试集(分层抽样)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42, stratify=y)
# 标准化
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)
5.3.4 基础模型训练与评估
使用默认参数训练逻辑回归模型。
lr = LogisticRegression(max_iter=1000, random_state=42)
lr.fit(X_train_scaled, y_train)
y_pred = lr.predict(X_test_scaled)
y_proba = lr.predict_proba(X_test_scaled)[:, 1] # 正类(良性)的概率
print(\”分类报告:\”)
print(classification_report(y_test, y_pred))
print(\”混淆矩阵:\”)
print(confusion_matrix(y_test, y_pred))
print(f\”AUC: {
roc_auc_score(y_test, y_proba):.3f}\”)
输出示例:
分类报告:
precision recall f1-score support
0 0.98 0.95 0.96 42
1 0.97 0.99 0.98 72
accuracy 0.97 114
macro avg 0.97 0.97 0.97 114
weighted avg 0.97 0.97 0.97 114
混淆矩阵:
[[40 2]
[ 1 71]]
AUC: 0.997
基础模型表现已经相当不错,AUC接近0.997,准确率97%。这反映了数据本身区分度较好。
5.3.5 超参数优化
逻辑回归的主要超参数包括正则化类型(penalty)和正则化强度(C)。C是正则化强度的倒数,C越小正则化越强。
我们使用网格搜索优化参数。
param_grid = {
\’penalty\’: [\’l1\’, \’l2\’



