简介围绕Kaggle中风预测数据集构建的机器学习实战项目面向希望掌握二分类建模全流程的Jupyter Notebook学习者与数据科学初学者。项目以性别、年龄、疾病史、吸烟状况等特征预测个体是否可能发生中风覆盖数据清洗、可视化探索、特征筛选、模型训练与评估等环节并以较高F1分数与AUC为目标讨论阳性与阴性类别的区分能力。压缩包共11个文件包含3个ipynb分析笔记、csv数据、pkl模型、py与sh脚本、依赖说明及部署配置等整体约4.36MB目录紧凑配合说明文档可快速梳理字段含义与运行方式便于复现实验并理解从建模、模型保存到应用部署的衔接。已有741人学习下载可参考完整分析思路、模型持久化方式、部署配置与项目说明适合课程设计、竞赛练手、医疗数据二分类入门复盘也可作为同类表格数据项目的参考模板。1. 一个 4.9% 正例率的表为什么值得单独做一套预测模型卒中风险预测模型这个题目很多人第一版 Jupyter Notebook 跑完会得到一个 0.95 的准确率然后误以为收工——直到发现把所有样本一律判成“无卒中”准确率同样是 0.95。正例占比不到 5% 的表格二分类难点从来不在调模型而在需求口径、数据清洗、不平衡处理和评估方式这四件事。这套方案面向两类人一类是要交毕设或课设需要一份结构完整、有指标支撑、能讲清楚取舍的卒中风险预测项目另一类是手里真有一张患者登记表想做出可交付的分层筛查工具的从业者。后面按「需求定义 → 数据底座 → 特征流水线 → 模型训练 → 踩坑排查 → 验收答辩」推进每一章都能对着自己那份数据直接改。2. 需求与数据底座先钉死口径再谈 12 个字段怎么处理2.1 预测目标是筛查排序不是临床确诊动手写第一行read_csv之前必须先回答一个问题模型输出的概率交给谁、用来干什么。这个答案直接决定后面所有指标的选择。通常的做法是把场景定成“门诊或体检场景下的风险分层筛查”模型读入年龄、血压相关病史、血糖、BMI、吸烟状态这类低成本可得信息输出一个 01 的风险分用于把人群粗排成高、中、低三层高分的人被提示去做进一步检查。它不承担确诊职责也没有影像和实验室金标准所以对外表述时不能写成“诊断”。这个口径带来三个硬约束第一指标以召回优先。在 5100 人里只有两百多个正例的情况下漏掉一个高风险个体的代价远大于把几十个健康人标成中风险。所以离线和线上都先看 Recall 和 PR-AUC再看精确率准确率只作为一个参照系放在最后。第二特征必须是事件前可采集的。如果原始表里有出院结局、随访天数、住院次数、用药记录这类字段一律不能入模——它们和标签同源放进去 AUC 会漂亮得离谱换一批数据立刻崩。我在审查别人的 Notebook 时第一个翻的就是特征列表里有没有这类“结果类”字段。第三时间切片要对齐。这份数据是横断面登记不是纵向随访队列意味着它回答的是“这批人里哪些特征与卒中史相关”而不是“这些人未来三年会不会卒中”。答辩时把这一点说清楚比多刷 0.02 的 AUC 更能体现你懂业务。提示如果导师或评审问“这个模型能不能直接上临床”正确回答是“不能它是筛查辅助脚本需要前瞻性队列验证和伦理审查才能谈临床使用”。硬说能反而暴露对方案边界的理解不足。2.2 数据字典12 个字段分四类处理字段不多但每一类的处理逻辑完全不同。先把它们归到四组后面写ColumnTransformer时就能一一对应。字段类型取值/范围处理策略id整数唯一编号建模时丢弃仅用于回溯gender类别Male / Female / Other独热编码Other 样本极少可并入 Female 并加注释age数值0.08 ~ 82保留原始值注意婴儿期记录hypertension二值0 / 1直接入模不缩放heart_disease二值0 / 1直接入模ever_married类别Yes / No独热编码work_type类别5 类独热编码Private 占比接近六成注意分布偏移Residence_type类别Urban / Rural独热编码avg_glucose_level数值55 ~ 272长尾标准化后可考虑分箱对照bmi数值10 ~ 98含缺失中位数或分组中位数填补缺失加指示变量smoking_status类别4 类含 UnknownUnknown 单独成类不要轻易删stroke标签0 / 1正例约 4.9%目标变量不做任何预处理几点说明。id必须删但在删之前要把它留在一份单独的索引里后面分析误判样本时靠它回查。hypertension和heart_disease本身就是 0/1标准化只会增加解释成本直接放过去更合适。smoking_status的 Unknown 占三成左右很多人第一反应是删掉这批样本。但删之前要做一次交叉检查如果 Unknown 组的正例率明显高于已知组那这批人不是随机缺失删掉就是主动丢弃信号。我的习惯是保留 Unknown 作为一个独立类别同时把“是否为 Unknown”做成一个指示特征让模型自己决定权重。age里能看到 0.08 这种婴儿记录这在登记数据里很常见通常是单位或录入格式问题。处理方式不是删而是加一条校验规则把小于 1 岁的记录单独打标再在 EDA 里看这批样本的标签分布。2.3 数据质量排查缺失、异常与口径不一致数据质量检查不要指望“看一眼 describe 就够了”describe()只会告诉你分布不会告诉你缺失和标签之间的关系。真正要查的是三件事缺多少、缺得有没有规律、异常值是错误值还是真实极值。import pandas as pd df pd.read_csv(stroke_data.csv) # 1) 缺失率、唯一值数一起看 report pd.DataFrame({ missing: df.isna().sum(), missing_pct: (df.isna().mean() * 100).round(2), n_unique: df.nunique(), }) print(report.sort_values(missing_pct, ascendingFalse)) # 2) 缺失是否与标签相关——这一步决定能不能直接删 df[bmi_missing] df[bmi].isna().astype(int) print(df.groupby(bmi_missing)[stroke].agg([mean, count])) # 3) 数值列的极值检查用分位数而不是最大最小值 print(df[[age, avg_glucose_level, bmi]].describe(percentiles[.01, .5, .99]))第一段统计缺失率和唯一值数唯一值数能帮你快速发现“看起来是数值、实际是编码”的字段。第二段是关键把 BMI 缺失与否变成一个 0/1 变量再按它分组看正例率。如果缺失组的正例率和完整组差得远说明缺失不是随机的直接dropna()会引入偏倚这时候只能填补并保留缺失指示变量。第三段用 1% 和 99% 分位数看极值比看最大最小值靠谱因为最大最小值往往只是个录入错误。口径不一致还体现在类别字段的书写上比如Work_type和work_type、Male后面带空格、Yes/yes/Y混用。这类问题不处理独热编码会凭空多出好几列全零的废特征。通常的做法是先统一strip().lower()再对照一份白名单校验不在名单里的值打印出来人工确认。3. 特征工程与预处理流水线把手工操作固化成可复现步骤3.1 缺失值的三条路线删除、单变量填补、模型填补BMI 缺失两百条左右占总量的 4%这个比例处在“删了可惜、不删又不知道怎么填”的尴尬区间。三条路线各有适用条件。删除只有当缺失完全随机、且删除后正例数量没有明显减少时才可用。4% 看似不多但如果正例里缺失比例更高删完之后你的正例可能只剩两百出头交叉验证每一折的验证集里只有四五个正例AUC 的方差会大到没法比较模型。单变量填补中位数最稳均值会被 272 这种极值带偏。缺点是它忽略了 BMI 和年龄、性别之间的关系。分组填补按性别和年龄段分组取中位数比全局中位数更贴近真实。实现上用groupby().transform()一行就能做成本很低收益通常比想象中大。# 按性别与年龄段分组用组内中位数填补 BMI df[age_band] pd.cut(df[age], bins[0, 18, 40, 60, 100], labels[18, 18-40, 40-60, 60]) df[bmi_filled] df[bmi].fillna( df.groupby([gender, age_band])[bmi].transform(median) ) # 组内全缺失时兜底 df[bmi_filled] df[bmi_filled].fillna(df[bmi].median())这里age_band是临时列只用于分组不要直接留在最终特征里否则会和age共线。transform(median)返回的是与原始行对齐的 Series所以可以直接fillna。最后一行兜底不能省——某些小组可能整组都没有 BMI 记录不兜底会留下新的缺失。注意如果分组填补用到了验证集的数据分布本质上也是一种泄漏。严谨做法是把这段逻辑包进自定义 Transformer让它只在训练折上fit。数据量小时这种泄漏影响不大但答辩被问到要有话说。3.2 编码与缩放用 ColumnTransformer 一次写对手工在 DataFrame 上做get_dummies再拼接是 Notebook 里最常见的写法也是最容易在预测阶段翻车的写法——训练时有 18 列线上来一条新样本只有 17 列因为某个类别值没出现过。正确姿势是用ColumnTransformer把预处理封装成可fit/transform的对象跟着模型一起序列化。from sklearn.compose import ColumnTransformer from sklearn.pipeline import Pipeline from sklearn.preprocessing import OneHotEncoder, StandardScaler from sklearn.impute import SimpleImputer num_cols [age, avg_glucose_level, bmi] cat_cols [gender, ever_married, work_type, Residence_type, smoking_status] bin_cols [hypertension, heart_disease] preprocess ColumnTransformer( transformers[ (num, Pipeline([ (imp, SimpleImputer(strategymedian)), (sc, StandardScaler()), ]), num_cols), (cat, Pipeline([ (imp, SimpleImputer(strategymost_frequent)), (oh, OneHotEncoder(handle_unknownignore, dropif_binary)), ]), cat_cols), (bin, passthrough, bin_cols), ], remainderdrop, # 显式丢弃 id 等无关列避免误入模 )几个参数值得单独说。handle_unknownignore让线上出现训练时没见过的类别值时输出全零列而不是报错这是生产环境的必备开关。dropif_binary对二类别字段只保留一列避免独热后两列完全共线逻辑回归里会引起系数不稳定。remainderdrop是显式的自我约束——默认就是 drop但写出来是为了提醒自己和评审id这类字段绝不能被悄悄带进模型。数值列标准化放在SimpleImputer之后顺序不能反先缩放再填补会把中位数缩放成一个奇怪的值。二值列既不填补也不缩放直接透传。3.3 不平衡处理SMOTE 放在流水线的哪一格决定成败正例不到 5%绝大多数人的处理是“先 SMOTE 把数据扩到平衡再划分训练测试集”。这个顺序是错的而且错得很隐蔽——过采样之后同一批合成样本可能同时落进训练集和测试集AUC 会虚高十几个点换一份数据立刻打回原形。正确的做法是把采样器放进imblearn的 Pipeline 里让它只在交叉验证的训练折内部执行。from imblearn.pipeline import Pipeline as ImbPipeline from imblearn.over_sampling import SMOTE from sklearn.linear_model import LogisticRegression from sklearn.model_selection import StratifiedKFold, cross_validate clf ImbPipeline(steps[ (prep, preprocess), (smote, SMOTE(random_state42, k_neighbors5)), (model, LogisticRegression(max_iter1000)), ]) cv StratifiedKFold(n_splits5, shuffleTrue, random_state42) scores cross_validate( clf, X, y, cvcv, scoring[roc_auc, average_precision, recall, precision], return_estimatorFalse, )imblearn.pipeline.Pipeline和 sklearn 的 Pipeline 接口几乎一致区别在于它会在fit时对训练数据做重采样、在predict时跳过采样步骤。这一点很多人不知道误以为两者可以随便换。k_neighbors5是默认值正例只有两百多个的时候可以降到 3否则合成样本容易在少数类内部“近亲繁殖”制造出一堆几乎相同的点。random_state一定要固定不然每次跑出来的指标都在抖没法判断改动到底有没有效果。另外提醒一句SMOTE 不是唯一解也不是首选解。class_weightbalanced在逻辑回归上往往效果相当而且更简单代价敏感学习在业务上更好解释。我的习惯是先跑class_weight做基线再试 SMOTE两者都留结果答辩时能讲出取舍。3.4 特征衍生三类值得试的分箱原始数值列直接入模通常够用但卒中这个场景里有几个分箱是有临床依据的值得作为对照实验做一轮。血糖按 100 和 126 两个阈值切成正常、偏高、高三段BMI 按 25 和 30 切年龄按 18、40、60 切。分箱的好处是能把非线性的阈值效应显式表达出来逻辑回归这种线性模型尤其受益。坏处是丢掉了箱内的连续信息树模型上收益通常不明显。通常的做法是两套都跑看 PR-AUC 有没有稳定提升。如果提升在交叉验证的波动范围内就别加分箱——特征越少答辩时越好解释。4. 模型选型与训练从逻辑回归基线到集成模型4.1 基线先行逻辑回归给的是可解释的锚点很多人上来就上 XGBoost跑出一个 0.85 的 AUC然后被问“为什么是这个值”就答不上来。我一般的顺序是逻辑回归先跑通拿到一个可解释的基线再往上叠复杂模型。逻辑回归在这份数据上的 AUC 通常在 0.83 上下不算惊艳但很稳。更重要的是它能给出系数方向年龄的系数为正、高血压和心脏病史为正、血糖为正这些都符合医学常识。如果某个特征系数方向和常识相反往往说明编码或缺失处理出了问题——这比看任何评估指标都更早暴露 bug。代价敏感版的写法很简单from sklearn.linear_model import LogisticRegression # class_weightbalanced 会按类别频率自动反比加权 lr_balanced ImbPipeline(steps[ (prep, preprocess), (model, LogisticRegression(max_iter1000, class_weightbalanced)), ])max_iter1000在你加了标准化之后其实很少需要但留着不亏——不收敛的警告一旦出现说明特征尺度或共线性有问题早发现早处理。4.2 集成模型对比随机森林与梯度提升的取舍模型关键参数优势代价逻辑回归C、class_weight可解释、训练快、概率相对可靠无法自动捕捉交互随机森林n_estimators、max_depth、min_samples_leaf抗过拟合、对异常值不敏感概率偏保守、模型体积大梯度提升XGBoost / LightGBMlearning_rate、n_estimators、max_depth表格数据上通常最优小样本易过拟合、调参成本高KNNn_neighbors、weights实现简单、无需训练高维下失效、需要缩放小样本五千条、两百多个正例场景下梯度提升的优势并不像在竞赛数据上那么明显反而更容易过拟合。我一般把max_depth压到 34learning_rate设 0.05n_estimators通过早停决定min_child_weight调大一些防止在少数正例上分裂出过细的叶子。随机森林这边min_samples_leaf是控制过拟合最有效的旋钮正例稀少时不要让它小于 5。n_estimators设 300 以上基本稳定再多对指标没帮助只是拖慢训练。四条曲线放在同一张 PR 曲线图上对比比看四个 AUC 数字直观得多。曲线交叉的时候取哪个模型取决于你锁定的工作点——高召回区间谁更强就选谁。4.3 交叉验证与超参搜索StratifiedKFold 不能省五折交叉验证如果不分层某一折的验证集里可能只有一两个正例AUC 会算出 0.5 甚至报错。StratifiedKFold保证每折的正例比例与整体一致这是这类不平衡数据的最低要求。from sklearn.model_selection import GridSearchCV param_grid { model__C: [0.01, 0.1, 1.0, 10.0], model__class_weight: [None, balanced], } gs GridSearchCV( estimatorlr_balanced, param_gridparam_grid, scoringaverage_precision, # 不平衡数据用 PR-AUC 选参 cvStratifiedKFold(n_splits5, shuffleTrue, random_state42), n_jobs-1, refitTrue, ) gs.fit(X_train, y_train) print(gs.best_params_, gs.best_score_)scoring选average_precision即 PR-AUC而不是roc_auc是因为 ROC 曲线在极端不平衡时会被大量真负例“稀释”看起来很美但反映不了正例的排序质量。这个细节在答辩时是加分项因为它说明你知道两个指标的适用边界。param_grid里的键名必须带model__前缀因为要穿透两层 Pipeline 定位到估计器。这是新手最容易写错的地方报错信息还不直观。4.4 阈值与概率校准0.5 从来不是业务阈值predict()默认用 0.5 切分这个值在平衡数据上勉强合理在 4.9% 正例率的数据上几乎必然导致召回极低。真正的阈值应该由业务约束反推假设筛查场景能承受“每找到 1 个高风险、误报 5 个”的成本那就去找精确率约 0.17 时对应的阈值。import numpy as np from sklearn.metrics import precision_recall_curve proba gs.predict_proba(X_test)[:, 1] prec, rec, thr precision_recall_curve(y_test, proba) # 在召回不低于 0.75 的前提下取精确率最高的阈值 mask rec[:-1] 0.75 best_idx np.argmax(prec[:-1][mask]) best_thr thr[mask][best_idx] print(f阈值{best_thr:.3f}, 精确率{prec[best_idx]:.3f}, 召回率{rec[best_idx]:.3f})precision_recall_curve返回的thr长度比prec、rec少一个所以索引要写[:-1]不这么写会触发形状不匹配。mask用来加业务约束没有约束的话直接取 F1 最大点也可以但要在报告里写清楚这是按 F1 选的。如果要把概率直接当风险分展示给使用者还得做校准。逻辑回归本身校准尚可随机森林和提升树输出的概率通常偏保守。CalibratedClassifierCV包一层用methodisotonic或sigmoid样本量小的时候选 sigmoid 更稳。5. 避坑与排查五个让 AUC 虚高的陷阱5.1 数据与流水线层面的三个坑坑一先过采样再划分数据集。现象交叉验证 AUC 轻松到 0.95 以上换一份同分布数据掉到 0.80。原因SMOTE 在划分之前执行合成样本由原始正例插值生成同一批“血统”的样本同时出现在训练和验证集里模型等于提前看过答案。解决把采样器放进imblearn的 Pipeline确保它只在训练折内部 fit划分数据集这一步永远排在所有重采样之前。改完之后 AUC 会掉几个点那才是真实水平。坑二在全集上算中位数再填补。现象指标看着不错但同一个流程在验证集上重跑结果对不上。原因df[bmi].fillna(df[bmi].median())里的中位数是用包含验证集在内的全部数据算出来的把测试集的信息提前泄露进了训练过程。解决所有统计量中位数、众数、均值、分箱边界都必须由训练折单独计算这也是要用 Pipeline 而不是手写fillna的根本原因。手写代码不是不行是太容易忘。坑三把 ID 类或近 ID 类特征放进模型。现象AUC 高得反常特征重要性排名第一的是一个看起来毫无意义的字段。原因登记数据里的编号有时是按录入顺序或机构分批生成的隐含了时间或来源信息和标签存在虚假相关。解决id一律remainderdrop对任何唯一值数接近样本量的字段保持警惕先算一遍它与标签的相关性再决定去留。遇到可疑字段删掉重跑一遍对比是最快的验证方式。5.2 评估与交付层面的两个坑坑四用准确率选模型。现象某模型的准确率 0.95被选为最终模型上线后高风险人群几乎一个都没排到前面。原因把所有人判成负类就有 0.95 的准确率这个指标在 4.9% 正例率下几乎不携带信息。解决主指标锁定 PR-AUC 和高召回区间的精确率准确率只在报告里作为参照列出并且必须和“全负基线”并排展示。答辩 PPT 上把全负基线的数字写上比任何解释都有说服力。坑五只报一个 AUC不报工作点和混淆矩阵。现象评审问“这个模型实际用起来会误报多少人”答不上来。原因AUC 衡量的是全阈值范围内的排序能力不对应任何一个具体工作点。解决报告里固定给出一张表——指定阈值下的 TP、FP、FN、TN换算成“每筛查 1000 人命中多少、误报多少、漏掉多少”。这三个数字是业务方唯一真正关心的东西也是答辩现场最容易被追问的地方。6. 验收与答辩用一份清单把模型交付出去到了这一步Notebook 里躺着几条曲线和一堆数字但能不能算“交付完成”取决于别人能不能照着你写的东西复现出来。我的验收习惯是拿一张清单逐条打勾缺哪条补哪条。验收项合格标准检查方式数据可复现从原始表到特征矩阵一条命令跑通清空输出后重启内核全量执行无信息泄漏划分、填补、采样顺序正确审查 Pipeline 结构确认采样器在 Pipeline 内指标完整PR-AUC、Recall、Precision、混淆矩阵齐全对照报告模板逐项核对工作点明确给出阈值及其业务含义能说出每 1000 人的命中与误报数可解释至少给出系数或特征重要性前五名方向与医学常识一致可部署模型 预处理可整体序列化joblib.dump(pipeline)后重新加载预测一致序列化这一步别等到最后才做。预处理和模型分开保存是上线阶段最常见的翻车点——训练时用StandardScaler缩放过线上忘了缩放预测结果全错但程序不报错属于典型的静默失败。整体存一个 Pipeline 对象就没这个隐患import joblib # 整个 Pipeline预处理 模型一起存杜绝线上线下不一致 joblib.dump(gs.best_estimator_, stroke_risk_pipeline.joblib) # 加载后必须做一次一致性校验 loaded joblib.load(stroke_risk_pipeline.joblib) assert abs(loaded.predict_proba(X_test)[:, 1] - gs.predict_proba(X_test)[:, 1]).max() 1e-9assert那一行看着多余但它救过我一次——某次因为环境里 sklearn 版本不同OneHotEncoder的列顺序变了重载后预测悄悄偏掉靠这行断言才发现。答辩环节我的建议是只讲三件事顺序别乱问题边界这是筛查排序不是诊断、关键取舍为什么用 PR-AUC、为什么 SMOTE 放进 Pipeline、阈值怎么定的、代价说明在选定阈值下每 1000 人误报多少、漏掉多少。评委追问最多的一定是第三点前两点讲扎实了第三点才有底气接。现场演示留一条最朴素的路径打开 Notebook从读数据开始一路执行到输出混淆矩阵中间不停。别在演示时现场调参也别放一堆没跑通的实验分支在同一个文件里。把 EDA、特征、训练、评估拆成四个 Notebook或者至少四个清晰的段落别人接手时才不会迷路。从那以后我每次做这类表格二分类项目都会在提交前强制走一遍那张验收清单尤其是“清空输出全量执行”和“加载后一致性校验”这两条——它们拦下的问题比任何调参技巧都多。希望帮到你。本文还有配套的精品资源点击获取
简介围绕Kaggle中风预测数据集构建的机器学习实战项目面向希望掌握二分类建模全流程的Jupyter Notebook学习者与数据科学初学者。项目以性别、年龄、疾病史、吸烟状况等特征预测个体是否可能发生中风覆盖数据清洗、可视化探索、特征筛选、模型训练与评估等环节并以较高F1分数与AUC为目标讨论阳性与阴性类别的区分能力。压缩包共11个文件包含3个ipynb分析笔记、csv数据、pkl模型、py与sh脚本、依赖说明及部署配置等整体约4.36MB目录紧凑配合说明文档可快速梳理字段含义与运行方式便于复现实验并理解从建模、模型保存到应用部署的衔接。已有741人学习下载可参考完整分析思路、模型持久化方式、部署配置与项目说明适合课程设计、竞赛练手、医疗数据二分类入门复盘也可作为同类表格数据项目的参考模板。1. 一个 4.9% 正例率的表为什么值得单独做一套预测模型卒中风险预测模型这个题目很多人第一版 Jupyter Notebook 跑完会得到一个 0.95 的准确率然后误以为收工——直到发现把所有样本一律判成“无卒中”准确率同样是 0.95。正例占比不到 5% 的表格二分类难点从来不在调模型而在需求口径、数据清洗、不平衡处理和评估方式这四件事。这套方案面向两类人一类是要交毕设或课设需要一份结构完整、有指标支撑、能讲清楚取舍的卒中风险预测项目另一类是手里真有一张患者登记表想做出可交付的分层筛查工具的从业者。后面按「需求定义 → 数据底座 → 特征流水线 → 模型训练 → 踩坑排查 → 验收答辩」推进每一章都能对着自己那份数据直接改。2. 需求与数据底座先钉死口径再谈 12 个字段怎么处理2.1 预测目标是筛查排序不是临床确诊动手写第一行read_csv之前必须先回答一个问题模型输出的概率交给谁、用来干什么。这个答案直接决定后面所有指标的选择。通常的做法是把场景定成“门诊或体检场景下的风险分层筛查”模型读入年龄、血压相关病史、血糖、BMI、吸烟状态这类低成本可得信息输出一个 01 的风险分用于把人群粗排成高、中、低三层高分的人被提示去做进一步检查。它不承担确诊职责也没有影像和实验室金标准所以对外表述时不能写成“诊断”。这个口径带来三个硬约束第一指标以召回优先。在 5100 人里只有两百多个正例的情况下漏掉一个高风险个体的代价远大于把几十个健康人标成中风险。所以离线和线上都先看 Recall 和 PR-AUC再看精确率准确率只作为一个参照系放在最后。第二特征必须是事件前可采集的。如果原始表里有出院结局、随访天数、住院次数、用药记录这类字段一律不能入模——它们和标签同源放进去 AUC 会漂亮得离谱换一批数据立刻崩。我在审查别人的 Notebook 时第一个翻的就是特征列表里有没有这类“结果类”字段。第三时间切片要对齐。这份数据是横断面登记不是纵向随访队列意味着它回答的是“这批人里哪些特征与卒中史相关”而不是“这些人未来三年会不会卒中”。答辩时把这一点说清楚比多刷 0.02 的 AUC 更能体现你懂业务。提示如果导师或评审问“这个模型能不能直接上临床”正确回答是“不能它是筛查辅助脚本需要前瞻性队列验证和伦理审查才能谈临床使用”。硬说能反而暴露对方案边界的理解不足。2.2 数据字典12 个字段分四类处理字段不多但每一类的处理逻辑完全不同。先把它们归到四组后面写ColumnTransformer时就能一一对应。字段类型取值/范围处理策略id整数唯一编号建模时丢弃仅用于回溯gender类别Male / Female / Other独热编码Other 样本极少可并入 Female 并加注释age数值0.08 ~ 82保留原始值注意婴儿期记录hypertension二值0 / 1直接入模不缩放heart_disease二值0 / 1直接入模ever_married类别Yes / No独热编码work_type类别5 类独热编码Private 占比接近六成注意分布偏移Residence_type类别Urban / Rural独热编码avg_glucose_level数值55 ~ 272长尾标准化后可考虑分箱对照bmi数值10 ~ 98含缺失中位数或分组中位数填补缺失加指示变量smoking_status类别4 类含 UnknownUnknown 单独成类不要轻易删stroke标签0 / 1正例约 4.9%目标变量不做任何预处理几点说明。id必须删但在删之前要把它留在一份单独的索引里后面分析误判样本时靠它回查。hypertension和heart_disease本身就是 0/1标准化只会增加解释成本直接放过去更合适。smoking_status的 Unknown 占三成左右很多人第一反应是删掉这批样本。但删之前要做一次交叉检查如果 Unknown 组的正例率明显高于已知组那这批人不是随机缺失删掉就是主动丢弃信号。我的习惯是保留 Unknown 作为一个独立类别同时把“是否为 Unknown”做成一个指示特征让模型自己决定权重。age里能看到 0.08 这种婴儿记录这在登记数据里很常见通常是单位或录入格式问题。处理方式不是删而是加一条校验规则把小于 1 岁的记录单独打标再在 EDA 里看这批样本的标签分布。2.3 数据质量排查缺失、异常与口径不一致数据质量检查不要指望“看一眼 describe 就够了”describe()只会告诉你分布不会告诉你缺失和标签之间的关系。真正要查的是三件事缺多少、缺得有没有规律、异常值是错误值还是真实极值。import pandas as pd df pd.read_csv(stroke_data.csv) # 1) 缺失率、唯一值数一起看 report pd.DataFrame({ missing: df.isna().sum(), missing_pct: (df.isna().mean() * 100).round(2), n_unique: df.nunique(), }) print(report.sort_values(missing_pct, ascendingFalse)) # 2) 缺失是否与标签相关——这一步决定能不能直接删 df[bmi_missing] df[bmi].isna().astype(int) print(df.groupby(bmi_missing)[stroke].agg([mean, count])) # 3) 数值列的极值检查用分位数而不是最大最小值 print(df[[age, avg_glucose_level, bmi]].describe(percentiles[.01, .5, .99]))第一段统计缺失率和唯一值数唯一值数能帮你快速发现“看起来是数值、实际是编码”的字段。第二段是关键把 BMI 缺失与否变成一个 0/1 变量再按它分组看正例率。如果缺失组的正例率和完整组差得远说明缺失不是随机的直接dropna()会引入偏倚这时候只能填补并保留缺失指示变量。第三段用 1% 和 99% 分位数看极值比看最大最小值靠谱因为最大最小值往往只是个录入错误。口径不一致还体现在类别字段的书写上比如Work_type和work_type、Male后面带空格、Yes/yes/Y混用。这类问题不处理独热编码会凭空多出好几列全零的废特征。通常的做法是先统一strip().lower()再对照一份白名单校验不在名单里的值打印出来人工确认。3. 特征工程与预处理流水线把手工操作固化成可复现步骤3.1 缺失值的三条路线删除、单变量填补、模型填补BMI 缺失两百条左右占总量的 4%这个比例处在“删了可惜、不删又不知道怎么填”的尴尬区间。三条路线各有适用条件。删除只有当缺失完全随机、且删除后正例数量没有明显减少时才可用。4% 看似不多但如果正例里缺失比例更高删完之后你的正例可能只剩两百出头交叉验证每一折的验证集里只有四五个正例AUC 的方差会大到没法比较模型。单变量填补中位数最稳均值会被 272 这种极值带偏。缺点是它忽略了 BMI 和年龄、性别之间的关系。分组填补按性别和年龄段分组取中位数比全局中位数更贴近真实。实现上用groupby().transform()一行就能做成本很低收益通常比想象中大。# 按性别与年龄段分组用组内中位数填补 BMI df[age_band] pd.cut(df[age], bins[0, 18, 40, 60, 100], labels[18, 18-40, 40-60, 60]) df[bmi_filled] df[bmi].fillna( df.groupby([gender, age_band])[bmi].transform(median) ) # 组内全缺失时兜底 df[bmi_filled] df[bmi_filled].fillna(df[bmi].median())这里age_band是临时列只用于分组不要直接留在最终特征里否则会和age共线。transform(median)返回的是与原始行对齐的 Series所以可以直接fillna。最后一行兜底不能省——某些小组可能整组都没有 BMI 记录不兜底会留下新的缺失。注意如果分组填补用到了验证集的数据分布本质上也是一种泄漏。严谨做法是把这段逻辑包进自定义 Transformer让它只在训练折上fit。数据量小时这种泄漏影响不大但答辩被问到要有话说。3.2 编码与缩放用 ColumnTransformer 一次写对手工在 DataFrame 上做get_dummies再拼接是 Notebook 里最常见的写法也是最容易在预测阶段翻车的写法——训练时有 18 列线上来一条新样本只有 17 列因为某个类别值没出现过。正确姿势是用ColumnTransformer把预处理封装成可fit/transform的对象跟着模型一起序列化。from sklearn.compose import ColumnTransformer from sklearn.pipeline import Pipeline from sklearn.preprocessing import OneHotEncoder, StandardScaler from sklearn.impute import SimpleImputer num_cols [age, avg_glucose_level, bmi] cat_cols [gender, ever_married, work_type, Residence_type, smoking_status] bin_cols [hypertension, heart_disease] preprocess ColumnTransformer( transformers[ (num, Pipeline([ (imp, SimpleImputer(strategymedian)), (sc, StandardScaler()), ]), num_cols), (cat, Pipeline([ (imp, SimpleImputer(strategymost_frequent)), (oh, OneHotEncoder(handle_unknownignore, dropif_binary)), ]), cat_cols), (bin, passthrough, bin_cols), ], remainderdrop, # 显式丢弃 id 等无关列避免误入模 )几个参数值得单独说。handle_unknownignore让线上出现训练时没见过的类别值时输出全零列而不是报错这是生产环境的必备开关。dropif_binary对二类别字段只保留一列避免独热后两列完全共线逻辑回归里会引起系数不稳定。remainderdrop是显式的自我约束——默认就是 drop但写出来是为了提醒自己和评审id这类字段绝不能被悄悄带进模型。数值列标准化放在SimpleImputer之后顺序不能反先缩放再填补会把中位数缩放成一个奇怪的值。二值列既不填补也不缩放直接透传。3.3 不平衡处理SMOTE 放在流水线的哪一格决定成败正例不到 5%绝大多数人的处理是“先 SMOTE 把数据扩到平衡再划分训练测试集”。这个顺序是错的而且错得很隐蔽——过采样之后同一批合成样本可能同时落进训练集和测试集AUC 会虚高十几个点换一份数据立刻打回原形。正确的做法是把采样器放进imblearn的 Pipeline 里让它只在交叉验证的训练折内部执行。from imblearn.pipeline import Pipeline as ImbPipeline from imblearn.over_sampling import SMOTE from sklearn.linear_model import LogisticRegression from sklearn.model_selection import StratifiedKFold, cross_validate clf ImbPipeline(steps[ (prep, preprocess), (smote, SMOTE(random_state42, k_neighbors5)), (model, LogisticRegression(max_iter1000)), ]) cv StratifiedKFold(n_splits5, shuffleTrue, random_state42) scores cross_validate( clf, X, y, cvcv, scoring[roc_auc, average_precision, recall, precision], return_estimatorFalse, )imblearn.pipeline.Pipeline和 sklearn 的 Pipeline 接口几乎一致区别在于它会在fit时对训练数据做重采样、在predict时跳过采样步骤。这一点很多人不知道误以为两者可以随便换。k_neighbors5是默认值正例只有两百多个的时候可以降到 3否则合成样本容易在少数类内部“近亲繁殖”制造出一堆几乎相同的点。random_state一定要固定不然每次跑出来的指标都在抖没法判断改动到底有没有效果。另外提醒一句SMOTE 不是唯一解也不是首选解。class_weightbalanced在逻辑回归上往往效果相当而且更简单代价敏感学习在业务上更好解释。我的习惯是先跑class_weight做基线再试 SMOTE两者都留结果答辩时能讲出取舍。3.4 特征衍生三类值得试的分箱原始数值列直接入模通常够用但卒中这个场景里有几个分箱是有临床依据的值得作为对照实验做一轮。血糖按 100 和 126 两个阈值切成正常、偏高、高三段BMI 按 25 和 30 切年龄按 18、40、60 切。分箱的好处是能把非线性的阈值效应显式表达出来逻辑回归这种线性模型尤其受益。坏处是丢掉了箱内的连续信息树模型上收益通常不明显。通常的做法是两套都跑看 PR-AUC 有没有稳定提升。如果提升在交叉验证的波动范围内就别加分箱——特征越少答辩时越好解释。4. 模型选型与训练从逻辑回归基线到集成模型4.1 基线先行逻辑回归给的是可解释的锚点很多人上来就上 XGBoost跑出一个 0.85 的 AUC然后被问“为什么是这个值”就答不上来。我一般的顺序是逻辑回归先跑通拿到一个可解释的基线再往上叠复杂模型。逻辑回归在这份数据上的 AUC 通常在 0.83 上下不算惊艳但很稳。更重要的是它能给出系数方向年龄的系数为正、高血压和心脏病史为正、血糖为正这些都符合医学常识。如果某个特征系数方向和常识相反往往说明编码或缺失处理出了问题——这比看任何评估指标都更早暴露 bug。代价敏感版的写法很简单from sklearn.linear_model import LogisticRegression # class_weightbalanced 会按类别频率自动反比加权 lr_balanced ImbPipeline(steps[ (prep, preprocess), (model, LogisticRegression(max_iter1000, class_weightbalanced)), ])max_iter1000在你加了标准化之后其实很少需要但留着不亏——不收敛的警告一旦出现说明特征尺度或共线性有问题早发现早处理。4.2 集成模型对比随机森林与梯度提升的取舍模型关键参数优势代价逻辑回归C、class_weight可解释、训练快、概率相对可靠无法自动捕捉交互随机森林n_estimators、max_depth、min_samples_leaf抗过拟合、对异常值不敏感概率偏保守、模型体积大梯度提升XGBoost / LightGBMlearning_rate、n_estimators、max_depth表格数据上通常最优小样本易过拟合、调参成本高KNNn_neighbors、weights实现简单、无需训练高维下失效、需要缩放小样本五千条、两百多个正例场景下梯度提升的优势并不像在竞赛数据上那么明显反而更容易过拟合。我一般把max_depth压到 34learning_rate设 0.05n_estimators通过早停决定min_child_weight调大一些防止在少数正例上分裂出过细的叶子。随机森林这边min_samples_leaf是控制过拟合最有效的旋钮正例稀少时不要让它小于 5。n_estimators设 300 以上基本稳定再多对指标没帮助只是拖慢训练。四条曲线放在同一张 PR 曲线图上对比比看四个 AUC 数字直观得多。曲线交叉的时候取哪个模型取决于你锁定的工作点——高召回区间谁更强就选谁。4.3 交叉验证与超参搜索StratifiedKFold 不能省五折交叉验证如果不分层某一折的验证集里可能只有一两个正例AUC 会算出 0.5 甚至报错。StratifiedKFold保证每折的正例比例与整体一致这是这类不平衡数据的最低要求。from sklearn.model_selection import GridSearchCV param_grid { model__C: [0.01, 0.1, 1.0, 10.0], model__class_weight: [None, balanced], } gs GridSearchCV( estimatorlr_balanced, param_gridparam_grid, scoringaverage_precision, # 不平衡数据用 PR-AUC 选参 cvStratifiedKFold(n_splits5, shuffleTrue, random_state42), n_jobs-1, refitTrue, ) gs.fit(X_train, y_train) print(gs.best_params_, gs.best_score_)scoring选average_precision即 PR-AUC而不是roc_auc是因为 ROC 曲线在极端不平衡时会被大量真负例“稀释”看起来很美但反映不了正例的排序质量。这个细节在答辩时是加分项因为它说明你知道两个指标的适用边界。param_grid里的键名必须带model__前缀因为要穿透两层 Pipeline 定位到估计器。这是新手最容易写错的地方报错信息还不直观。4.4 阈值与概率校准0.5 从来不是业务阈值predict()默认用 0.5 切分这个值在平衡数据上勉强合理在 4.9% 正例率的数据上几乎必然导致召回极低。真正的阈值应该由业务约束反推假设筛查场景能承受“每找到 1 个高风险、误报 5 个”的成本那就去找精确率约 0.17 时对应的阈值。import numpy as np from sklearn.metrics import precision_recall_curve proba gs.predict_proba(X_test)[:, 1] prec, rec, thr precision_recall_curve(y_test, proba) # 在召回不低于 0.75 的前提下取精确率最高的阈值 mask rec[:-1] 0.75 best_idx np.argmax(prec[:-1][mask]) best_thr thr[mask][best_idx] print(f阈值{best_thr:.3f}, 精确率{prec[best_idx]:.3f}, 召回率{rec[best_idx]:.3f})precision_recall_curve返回的thr长度比prec、rec少一个所以索引要写[:-1]不这么写会触发形状不匹配。mask用来加业务约束没有约束的话直接取 F1 最大点也可以但要在报告里写清楚这是按 F1 选的。如果要把概率直接当风险分展示给使用者还得做校准。逻辑回归本身校准尚可随机森林和提升树输出的概率通常偏保守。CalibratedClassifierCV包一层用methodisotonic或sigmoid样本量小的时候选 sigmoid 更稳。5. 避坑与排查五个让 AUC 虚高的陷阱5.1 数据与流水线层面的三个坑坑一先过采样再划分数据集。现象交叉验证 AUC 轻松到 0.95 以上换一份同分布数据掉到 0.80。原因SMOTE 在划分之前执行合成样本由原始正例插值生成同一批“血统”的样本同时出现在训练和验证集里模型等于提前看过答案。解决把采样器放进imblearn的 Pipeline确保它只在训练折内部 fit划分数据集这一步永远排在所有重采样之前。改完之后 AUC 会掉几个点那才是真实水平。坑二在全集上算中位数再填补。现象指标看着不错但同一个流程在验证集上重跑结果对不上。原因df[bmi].fillna(df[bmi].median())里的中位数是用包含验证集在内的全部数据算出来的把测试集的信息提前泄露进了训练过程。解决所有统计量中位数、众数、均值、分箱边界都必须由训练折单独计算这也是要用 Pipeline 而不是手写fillna的根本原因。手写代码不是不行是太容易忘。坑三把 ID 类或近 ID 类特征放进模型。现象AUC 高得反常特征重要性排名第一的是一个看起来毫无意义的字段。原因登记数据里的编号有时是按录入顺序或机构分批生成的隐含了时间或来源信息和标签存在虚假相关。解决id一律remainderdrop对任何唯一值数接近样本量的字段保持警惕先算一遍它与标签的相关性再决定去留。遇到可疑字段删掉重跑一遍对比是最快的验证方式。5.2 评估与交付层面的两个坑坑四用准确率选模型。现象某模型的准确率 0.95被选为最终模型上线后高风险人群几乎一个都没排到前面。原因把所有人判成负类就有 0.95 的准确率这个指标在 4.9% 正例率下几乎不携带信息。解决主指标锁定 PR-AUC 和高召回区间的精确率准确率只在报告里作为参照列出并且必须和“全负基线”并排展示。答辩 PPT 上把全负基线的数字写上比任何解释都有说服力。坑五只报一个 AUC不报工作点和混淆矩阵。现象评审问“这个模型实际用起来会误报多少人”答不上来。原因AUC 衡量的是全阈值范围内的排序能力不对应任何一个具体工作点。解决报告里固定给出一张表——指定阈值下的 TP、FP、FN、TN换算成“每筛查 1000 人命中多少、误报多少、漏掉多少”。这三个数字是业务方唯一真正关心的东西也是答辩现场最容易被追问的地方。6. 验收与答辩用一份清单把模型交付出去到了这一步Notebook 里躺着几条曲线和一堆数字但能不能算“交付完成”取决于别人能不能照着你写的东西复现出来。我的验收习惯是拿一张清单逐条打勾缺哪条补哪条。验收项合格标准检查方式数据可复现从原始表到特征矩阵一条命令跑通清空输出后重启内核全量执行无信息泄漏划分、填补、采样顺序正确审查 Pipeline 结构确认采样器在 Pipeline 内指标完整PR-AUC、Recall、Precision、混淆矩阵齐全对照报告模板逐项核对工作点明确给出阈值及其业务含义能说出每 1000 人的命中与误报数可解释至少给出系数或特征重要性前五名方向与医学常识一致可部署模型 预处理可整体序列化joblib.dump(pipeline)后重新加载预测一致序列化这一步别等到最后才做。预处理和模型分开保存是上线阶段最常见的翻车点——训练时用StandardScaler缩放过线上忘了缩放预测结果全错但程序不报错属于典型的静默失败。整体存一个 Pipeline 对象就没这个隐患import joblib # 整个 Pipeline预处理 模型一起存杜绝线上线下不一致 joblib.dump(gs.best_estimator_, stroke_risk_pipeline.joblib) # 加载后必须做一次一致性校验 loaded joblib.load(stroke_risk_pipeline.joblib) assert abs(loaded.predict_proba(X_test)[:, 1] - gs.predict_proba(X_test)[:, 1]).max() 1e-9assert那一行看着多余但它救过我一次——某次因为环境里 sklearn 版本不同OneHotEncoder的列顺序变了重载后预测悄悄偏掉靠这行断言才发现。答辩环节我的建议是只讲三件事顺序别乱问题边界这是筛查排序不是诊断、关键取舍为什么用 PR-AUC、为什么 SMOTE 放进 Pipeline、阈值怎么定的、代价说明在选定阈值下每 1000 人误报多少、漏掉多少。评委追问最多的一定是第三点前两点讲扎实了第三点才有底气接。现场演示留一条最朴素的路径打开 Notebook从读数据开始一路执行到输出混淆矩阵中间不停。别在演示时现场调参也别放一堆没跑通的实验分支在同一个文件里。把 EDA、特征、训练、评估拆成四个 Notebook或者至少四个清晰的段落别人接手时才不会迷路。从那以后我每次做这类表格二分类项目都会在提交前强制走一遍那张验收清单尤其是“清空输出全量执行”和“加载后一致性校验”这两条——它们拦下的问题比任何调参技巧都多。希望帮到你。本文还有配套的精品资源点击获取
到O(n)的优化)
