简介Python基于机器学习SVM的垃圾短信识别系统源码包面向计算机、大数据、人工智能等专业的高校学生及从业者适合作为课程设计、毕业设计或机器学习入门实战项目。资源围绕垃圾短信二分类场景完整覆盖文本预处理、TF-IDF特征提取、SVM模型训练与在线预测流程并附带项目说明与设计报告能帮助读者快速掌握SVM在文本分类中的落地方法。压缩包大小约107.89MB主体包含Python源码、模型文件、带标签与无标签数据及说明文档源码按模块划分分别负责数据预处理、模型训练与短信预测便于按步骤复现。已有289人学习下载。读者一方面可获得可直接运行的训练与预测代码理解SVM调参与评估的关键细节另一方面可借助设计报告完善课程设计文档支撑答辩展示项目结构清晰也方便在此基础上进行二次开发如引入更多特征或替换其他分类算法。1. 垃圾短信识别与 SVM这门课程设计为什么值得认真做每到学期末机器学习课程设计的备选题目翻来覆去就那么几个房价预测、图像分类、垃圾邮件识别。垃圾短信识别是里面少有的「中文场景、文本数据、算法能讲清楚」的题目——你不用凑 GPU不用搭深度学习环境一台普通笔记本跑 scikit-learn 就能完成全部实验。用 SVM 做分类器配合分词和 TF-IDF 特征在常见的短信数据集上拿到 97% 以上的准确率是正常水平这个性价比让它在课设选题里一直有位置。标题里这套「源码 项目说明 设计报告」的资源适合三类人被课设截止日期追着跑的学生、想用 Python 机器学习练手但不想碰深度学习的初学者、以及需要一份规范实验报告模板的从业者。这篇文章就把数据预处理、SVM 调参、评估指标和报告写法从头到尾捋一遍也把最容易翻车的几个坑标出来。2. 让 SVM 能读懂中文短信分词、清洗与 TF-IDF 特征工程2.1 为什么是朴素贝叶斯的替代品SVM 在短文本分类里的位置垃圾短信识别本质上是短文本二分类问题。这类问题的特点是特征维度极高、样本数量不大、类别分布不平衡而 SVM 恰好在小样本高维稀疏数据上有不错的泛化能力。对比朴素贝叶斯SVM 不假设特征独立对特征之间的关联更敏感对比深度学习SVM 不需要大规模数据几百条正样本就能训练出一个能用的模型。课程设计里选 SVM 还有一个现实理由它好解释。答辩时老师问「为什么用这个模型」你可以从结构风险最小化、间隔最大化讲起线性核的权重还能直接映射回特征词展示哪些词对「垃圾短信」判定影响最大。这一套讲清楚比单纯贴一个 BERT 准确率更有说服力。深度学习在这个场景里属于杀鸡用牛刀数据量不够反而容易过拟合。2.2 短信文本清洗三个不做就必坑的脏数据点中文短信文本直接喂给 TF-IDF 是没有意义的必须先把噪声去掉。常见的脏数据集中在三个方面第一短信里有大量 HTML 标签、URL、数字串比如「戳 http://t.cn/xxx 领取红包」URL 对分类没有贡献还占特征空间第二全角半角混用同一个词被切成两种形式第三短信里的「【】」这种运营商签名符号对分类有信号但不能作为独立特征保留。我一般会做一个清洗函数按顺序处理这几类噪声。去 URL 和数字用正则全角转半角用str.maketrans映射符号按业务需要决定去留。需要说明的是垃圾短信里的「免费」「中奖」「加微信」这些词本身就是强特征清洗时不要把它们当停用词删掉否则模型会失去最重要的判断依据。2.3 分词 TF-IDF 的最小实现把短信变成稀疏矩阵import re import jieba import pandas as pd from sklearn.feature_extraction.text import TfidfVectorizer def clean_sms(text: str) - str: # 去掉URL保留中文、字母和数字防止URL特征污染 text re.sub(rhttp[s]?://\S, , text) # 全角转半角避免同一个词被切分成两种形式 text text.replace(, ,).replace(。, .).replace(, !) # 去除连续数字串电话号码和验证码对分类贡献有限 text re.sub(r\d{4,}, , text) return text.strip() def cut_words(text: str) - str: return .join(jieba.lcut(text)) df pd.read_csv(sms_dataset.csv, encodingutf-8) df[clean] df[sms].apply(clean_sms) df[cut] df[clean].apply(cut_words) vectorizer TfidfVectorizer( ngram_range(1, 2), max_df0.7, min_df1, sublinear_tfTrue ) X vectorizer.fit_transform(df[cut]) y (df[label] spam).astype(int)这段代码里的TfidfVectorizer参数值得逐一说。ngram_range(1, 2)表示同时保留单个词和相邻词组合「中奖」这个二元词组如果被拆成「中」「奖」两个单字就会丢信息bigram 能兜住一部分。max_df0.7表示在超过 70% 短信里都出现的词会被忽略这类词一般是「你好」「回复」这类高频无意义词。min_df1表示只出现一次的词也保留短信语料本身不大保守一点没问题。sublinear_tfTrue用1 log(tf)替代原始词频削弱长短信里反复出现的词的权重这是短文本分类里常用的做法。分词环节有个容易被忽视的点jieba.lcut返回列表我在这里用空格拼接成字符串是为了让TfidfVectorizer能按空白符切分避免重复分词。这一步做完X是一个形状为「短信条数 × 特征词数」的稀疏矩阵直接传给 SVM 即可。3. 用 scikit-learn 训练 SVM核函数选型、数据集划分与最小可运行代码3.1 线性核还是 RBF 核两个维度决定的选型SVM 的核函数选择在短文本分类里没有太多悬念。线性核kernellinear在 TF-IDF 特征上是默认首选原因是特征维度已经很高通常几千到几万维数据在这种空间里往往接近线性可分线性核训练速度快而且权重向量可以直接查看。RBF 核kernelrbf理论上能拟合更复杂的边界但需要调C和gamma两个参数特征还需要先做缩放否则数值范围大的维度会主导距离计算。我做过一次对比实验同一份短信数据集线性核准确率 97.2%RBF 核调好参数后 97.8%提升不到一个百分点但训练时间差了近十倍。课程设计的场景里我不会推荐一上来就上 RBF——先把线性核跑通拿到一个能用的 baseline再决定要不要用网格搜索尝试 RBF。答辩时老师问「为什么不用 RBF」你可以回答「在稀疏高维特征下线性核计算效率更高且 RBF 的边界复杂度在短信这类短文本上没有显著收益」。维度线性核RBF 核特征维度高时效果好速度快需要特征缩放否则易失真参数量只需调 C需要调 C 和 gamma可解释性权重可映射回词决策边界不易解释训练耗时秒级分钟级适用场景文本分类默认首选数据量小、边界确实非线性时3.2 数据划分最容易忽略的问题同一发送者的短信不能跨集合课程设计里最常见的做法是直接用train_test_split按行随机切分。这个做法在短信场景里有隐患如果数据集里同一个发送者的多条短信被同时分进训练集和测试集模型等于「见过」这个发送者的写作风格测试准确率会虚高。严格的做法是按发送者分组切分保证同一个发送者的短信全部落在同一侧。# 按发送者切分的伪代码思路 sender_ids df[sender].unique() train_senders, test_senders train_test_split(sender_ids, test_size0.2, random_state42) train_mask df[sender].isin(train_senders) test_mask df[sender].isin(test_senders)课程设计的数据集不一定提供发送者字段。如果只有短信文本和标签那就直接用train_test_split随机切分但要在设计报告的「实验设置」里主动说明这个局限——老师看到你意识到数据泄露问题这一条就是加分项。3.3 训练 SVM 的最小可运行代码三行训练三行评估from sklearn.model_selection import train_test_split from sklearn.svm import SVC from sklearn.metrics import classification_report, confusion_matrix # 按行随机划分test_size0.2固定随机种子保证可复现 X_train, X_test, y_train, y_test train_test_split( X, y, test_size0.2, random_state42, stratifyy ) # C1.0 是sklearn默认值class_weightbalanced缓解类别不平衡 # 垃圾短信通常占比不到20%不设这个参数模型会偏向预测“正常” model SVC(kernellinear, C1.0, class_weightbalanced, random_state42) model.fit(X_train, y_train) y_pred model.predict(X_test) print(classification_report(y_test, y_pred, target_names[normal, spam])) print(confusion_matrix(y_test, y_pred))class_weightbalanced是这个场景里必须写的一行。垃圾短信数据集中正例占比往往只有 15% 左右不设类别权重SVM 会倾向于把所有样本预测为多数类准确率看着很高但对垃圾短信几乎没有识别能力。C1.0是默认值它控制误分类的惩罚力度C 越大模型越努力把每个训练样本分对越容易过拟合C 越小边界越平滑。线性核场景下我一般从 0.5 到 2.0 之间试不需要大范围搜索。random_state42固定之后每次运行结果一致实验能复现这在课设报告里是必须写的细节。stratifyy让训练集和测试集保持同样的正负样本比例防止采样偏差导致某一边全是垃圾短信。4. 调参、评估与把设计报告写厚网格搜索和三类关键指标4.1 准确率会骗人垃圾短信识别看精确率和召回率很多人拿到 97% 的准确率就以为模型做完了但垃圾短信场景的评估不能只看准确率。假设数据里 85% 是正常短信一个什么都不做的模型只要全预测「正常」就有 85% 准确率。真正要看的指标是垃圾短信这个类别的精确率Precision和召回率Recall。精确率回答「模型说它是垃圾短信说对的概率有多大」召回率回答「真正的垃圾短信模型找回来了多少」。这两个指标在此消彼长调高召回率通常意味着把更多可疑短信判为垃圾误杀正常短信的概率上升精确率下降。课程设计里我用classification_report的输出直接看spam那一行的三个数。正常短信识别的精确率、召回率至少 98%垃圾短信的召回率不低于 90%这个水平足够拿一个不错的成绩。class_weightbalanced设置之后如果发现垃圾短信召回率上去了但正常短信精确率掉到 90% 以下说明模型过激了可以把类别权重从balanced改成手动设置的字典比如{0: 1.0, 1: 2.5}降低一点对垃圾短信的偏重。4.2 GridSearchCV 对 C 和 gamma 做网格搜索代码与结果判读线性核只需要调C但如果你想尝试 RBF 核就必须面对C和gamma两个参数的组合搜索。GridSearchCV会遍历所有参数组合用交叉验证评估每组参数的得分最后给出最优组合。from sklearn.model_selection import GridSearchCV # 候选参数范围C从0.1到10gamma从0.001到1 # gamma控制RBF核的影响半径太小欠拟合太大过拟合 param_grid { C: [0.1, 1.0, 10.0], gamma: [0.001, 0.01, 0.1, 1.0] } svm_rbf SVC(kernelrbf, class_weightbalanced, random_state42) grid GridSearchCV( svm_rbf, param_grid, cv5, scoringf1, n_jobs-1, verbose1 ) grid.fit(X_train, y_train) print(grid.best_params_) print(grid.best_score_)注意这里scoringf1而不是默认的accuracy。原因和上一节说的一样类别不平衡时准确率不是一个好导向用 F1 值能让网格搜索专注于少数类别的表现。cv5表示五折交叉验证每折 80% 数据训练、20% 验证循环五次最终得分的方差能反映参数稳定性。结果判读有一个经验如果最优参数落在搜索范围的边缘比如C0.1是候选最小值且得分最高说明真实最优值可能在更小的方向要把范围向 0.01、0.05 扩展再搜一次如果gamma1.0是最优多半是过拟合的信号需要缩小范围并观察训练集和验证集得分差距。网格搜索是「先粗后细」的过程第一轮定量级第二轮在最优值附近加密。4.3 设计报告里的实验对比怎么写三个模型、一张表、两张图课程设计报告的核心是实验对比。我建议至少跑三个模型多项式朴素贝叶斯、线性核 SVM、RBF 核 SVM用网格搜索后的最优参数。报告里的实验表格按这个格式组织模型准确率垃圾短信精确率垃圾短信召回率F1训练耗时多项式朴素贝叶斯96.8%95.2%88.3%0.9163s线性核 SVM97.4%96.1%92.5%0.94212sRBF 核 SVM网格搜索97.6%96.4%93.0%0.946160s报告里不要只贴表格还要写两段分析第一段解释为什么 SVM 整体优于朴素贝叶斯——特征独立性假设在短信场景不成立「中奖」「点击链接」这些词往往同时出现SVM 能利用这些关联第二段解释为什么线性核和 RBF 核差距不大——TF-IDF 特征本身维度高数据在原始空间已经接近线性可分非线性核的增益有限。这两段话写完报告的「实验分析」部分就有内容了。可视化方面画一个混淆矩阵热力图和一两条学习曲线就够了不需要花哨的图表。混淆矩阵能直观展示误分类集中在哪个方向学习曲线能说明数据量是否足够。后面会专门讲学习曲线的做法。5. 课程设计避坑记录乱码、内存爆炸、数据泄露和特征维度不一致5.1 训练时 MemoryError稀疏矩阵不能toarray()现象TfidfVectorizer.fit_transform之后直接X.toarray()转成密集矩阵训练程序崩溃或内存占满。原因短信数据经过 TF-IDF 后特征维度可能达到几万维密集矩阵的内存占用是稀疏矩阵的几十倍。假设 5000 条短信、3 万个特征密集矩阵是 5000 × 30000 × 8 字节约 1.2GB超过一部分笔记本的内存上限。解决整个 pipeline 都保持稀疏矩阵传递。SVC(kernellinear)支持稀疏输入不需要转密集。如果用了StandardScaler做特征缩放先用with_meanFalse初始化——with_meanTrue会强制转密集矩阵这是另一个常见的内存炸弹。5.2 Windows 下中文乱码编码问题导致读取和输出全乱现象pd.read_csv(sms.csv)读出来中文全是乱码print打印分词结果也乱。原因Windows 默认编码是gbk短信数据集文件可能是 UTF-8 或 GBK 编码两者不匹配就乱。这是课程设计里最消耗时间的低级错误。解决读取时显式指定编码按文件实际编码来。UTF-8 文件用encodingutf-8GBK 文件用encodinggbk。还有一种情况是文件带 BOM 头utf-8会把 BOM 解析成乱码字符遇到这种情况改成encodingutf-8-sig。输出乱码就在代码开头加一句import sys; sys.stdout.reconfigure(encodingutf-8)。5.3 精确率 100% 但预测阶段效果全无特征泄露和数据泄露现象训练集的classification_report显示精确率、召回率全是 100%但拿几条新的垃圾短信测试模型判断全部错误。原因这是典型的双重泄露。第一层在特征工程——清洗时把「spam」「normal」这类标签字段也当作文本内容做了分词第二层在数据划分——同一发送者的短信同时出现在训练集和测试集。模型「记住」了训练数据而不是「学会」了判别规则。解决清洗函数里只处理短信文本列不碰标签列检查df.columns确保特征矩阵里没有混入标签信息。数据划分改为按字段分组或者至少用stratifyy做分层采样。这个坑在课设答辩里被老师追着问的概率极高提前自查能省掉很多尴尬。5.4 预测阶段报「特征维度不一致」vectorizer忘了保存现象训练完成保存模型重新加载模型对新短信预测时报Feature shape mismatch或dimension mismatch错误。原因训练时TfidfVectorizer学会了全部特征词表预测阶段必须用同一个vectorizer对新文本做变换特征维度才能对齐。只保存模型文件、不保存vectorizer新文本转出来的矩阵列数肯定不一致。解决用joblib.dump把模型和vectorizer一起打包。import joblib # 保存模型和vectorizer预测时两个文件缺一不可 joblib.dump(model, svm_model.pkl) joblib.dump(vectorizer, tfidf_vectorizer.pkl) # 预测时加载 model joblib.load(svm_model.pkl) vectorizer joblib.load(tfidf_vectorizer.pkl) new_sms [恭喜您中奖了点击链接领取奖品] X_new vectorizer.transform([cut_words(clean_sms(new_sms[0]))]) print(model.predict(X_new))预测时如果发现效果异常先检查X_new的稀疏矩阵形状和训练时是否一致这是定位问题最快的路径。5.5jieba分词把「中奖」切开自定义词典和停用词表现象jieba.lcut(恭喜您中奖了)输出[恭喜, 您, 中奖, 了]看起来没问题但某些短信里的「中奖」会被切成「中」「奖」导致特征分裂。原因jieba默认词典是通用领域对短信场景里的营销词汇覆盖不足。解决加载一个自定义词典把课程设计语料里频繁出现的固定搭配加进去。用jieba.load_userdict(user_dict.txt)文件里每行一个词格式是「词 词频 词性」比如「中奖 100 n」。同时维护一个停用词表把「的」「了」「您」这类词过滤掉。停用词表的思路是优先过滤无实际语义的词但保留「免费」「点击」「领取」这类营销信号词。6. 把课程设计做成能现场答辩的完整演示交互脚本与学习曲线6.1 写一个可交互的预测脚本让老师现场输入短信答辩时最尴尬的情况是只展示 Jupyter Notebook 里的静态输出。一份能现场输入的交互脚本会立刻把演示效果拉满。我一般写一个predict.py循环读取输入打印预测结果和置信度。# 交互式预测脚本循环等待输入 import joblib model joblib.load(svm_model.pkl) vectorizer joblib.load(tfidf_vectorizer.pkl) print(请输入短信内容输入 exit 退出) while True: text input( ).strip() if text.lower() exit: break cleaned clean_sms(text) cut cut_words(cleaned) X_new vectorizer.transform([cut]) pred model.predict(X_new)[0] # decision_function输出到超平面的距离绝对值越大越确定 score model.decision_function(X_new)[0] label 垃圾短信 if pred 1 else 正常短信 print(f判定{label}置信度得分{score:.4f})这个脚本的价值不只是演示。decision_function返回的是样本到 SVM 超平面的带符号距离距离越大说明模型越确定。答辩时可以现场输入一条正常的「明天下午三点开会」再输入一条「恭喜您获得 iPhone 大奖点击链接领取」对比两次的分数差异这比任何静态图表都有说服力。6.2 画一条学习曲线判断数据量四百条样本和四千条样本的差别课程设计数据集通常不大但很多人不知道自己的数据量到底是「不够」还是「够了」。学习曲线是回答这个问题的最直接工具——用不同大小的训练子集训练模型同时记录训练集得分和验证集得分观察两条曲线的差距。import numpy as np import matplotlib.pyplot as plt from sklearn.model_selection import learning_curve # 计算学习曲线训练集从10%逐步增加到100% train_sizes, train_scores, val_scores learning_curve( model, X, y, train_sizesnp.linspace(0.1, 1.0, 5), cv5, scoringf1, n_jobs-1 ) train_mean train_scores.mean(axis1) val_mean val_scores.mean(axis1) plt.figure(figsize(8, 5)) plt.plot(train_sizes, train_mean, o-, label训练集F1) plt.plot(train_sizes, val_mean, s-, label验证集F1) plt.xlabel(训练样本数) plt.ylabel(F1得分) plt.legend() plt.show()学习曲线有三类读法训练集和验证集得分都很低说明模型欠拟合需要换更强的模型或加特征训练集得分高但验证集得分低且差距大说明过拟合可以增加数据量或调低C值两条曲线接近且得分都较高说明当前数据量下模型已经收敛。短信分类场景里通常一两千条样本就能让线性核 SVM 的学习曲线收敛如果曲线还没收敛报告里就写「数据量不足是当前主要限制」这是很专业的表述。调参这件事有个玄学成分同样的参数在不同数据集上表现可能完全不同网格搜索只能保证在当前数据上最优不代表换一批短信依然最优。所以我现在的习惯是先跑线性核拿 baseline再看学习曲线判断瓶颈最后才决定要不要花时间搜 RBF 参数。这个顺序帮我避开了很多无意义的调参也让我在写报告时能说清楚每一步实验的动机。希望这篇笔记能帮你把课程设计从头到尾走通少踩几个我当年踩过的坑。本文还有配套的精品资源点击获取
简介Python基于机器学习SVM的垃圾短信识别系统源码包面向计算机、大数据、人工智能等专业的高校学生及从业者适合作为课程设计、毕业设计或机器学习入门实战项目。资源围绕垃圾短信二分类场景完整覆盖文本预处理、TF-IDF特征提取、SVM模型训练与在线预测流程并附带项目说明与设计报告能帮助读者快速掌握SVM在文本分类中的落地方法。压缩包大小约107.89MB主体包含Python源码、模型文件、带标签与无标签数据及说明文档源码按模块划分分别负责数据预处理、模型训练与短信预测便于按步骤复现。已有289人学习下载。读者一方面可获得可直接运行的训练与预测代码理解SVM调参与评估的关键细节另一方面可借助设计报告完善课程设计文档支撑答辩展示项目结构清晰也方便在此基础上进行二次开发如引入更多特征或替换其他分类算法。1. 垃圾短信识别与 SVM这门课程设计为什么值得认真做每到学期末机器学习课程设计的备选题目翻来覆去就那么几个房价预测、图像分类、垃圾邮件识别。垃圾短信识别是里面少有的「中文场景、文本数据、算法能讲清楚」的题目——你不用凑 GPU不用搭深度学习环境一台普通笔记本跑 scikit-learn 就能完成全部实验。用 SVM 做分类器配合分词和 TF-IDF 特征在常见的短信数据集上拿到 97% 以上的准确率是正常水平这个性价比让它在课设选题里一直有位置。标题里这套「源码 项目说明 设计报告」的资源适合三类人被课设截止日期追着跑的学生、想用 Python 机器学习练手但不想碰深度学习的初学者、以及需要一份规范实验报告模板的从业者。这篇文章就把数据预处理、SVM 调参、评估指标和报告写法从头到尾捋一遍也把最容易翻车的几个坑标出来。2. 让 SVM 能读懂中文短信分词、清洗与 TF-IDF 特征工程2.1 为什么是朴素贝叶斯的替代品SVM 在短文本分类里的位置垃圾短信识别本质上是短文本二分类问题。这类问题的特点是特征维度极高、样本数量不大、类别分布不平衡而 SVM 恰好在小样本高维稀疏数据上有不错的泛化能力。对比朴素贝叶斯SVM 不假设特征独立对特征之间的关联更敏感对比深度学习SVM 不需要大规模数据几百条正样本就能训练出一个能用的模型。课程设计里选 SVM 还有一个现实理由它好解释。答辩时老师问「为什么用这个模型」你可以从结构风险最小化、间隔最大化讲起线性核的权重还能直接映射回特征词展示哪些词对「垃圾短信」判定影响最大。这一套讲清楚比单纯贴一个 BERT 准确率更有说服力。深度学习在这个场景里属于杀鸡用牛刀数据量不够反而容易过拟合。2.2 短信文本清洗三个不做就必坑的脏数据点中文短信文本直接喂给 TF-IDF 是没有意义的必须先把噪声去掉。常见的脏数据集中在三个方面第一短信里有大量 HTML 标签、URL、数字串比如「戳 http://t.cn/xxx 领取红包」URL 对分类没有贡献还占特征空间第二全角半角混用同一个词被切成两种形式第三短信里的「【】」这种运营商签名符号对分类有信号但不能作为独立特征保留。我一般会做一个清洗函数按顺序处理这几类噪声。去 URL 和数字用正则全角转半角用str.maketrans映射符号按业务需要决定去留。需要说明的是垃圾短信里的「免费」「中奖」「加微信」这些词本身就是强特征清洗时不要把它们当停用词删掉否则模型会失去最重要的判断依据。2.3 分词 TF-IDF 的最小实现把短信变成稀疏矩阵import re import jieba import pandas as pd from sklearn.feature_extraction.text import TfidfVectorizer def clean_sms(text: str) - str: # 去掉URL保留中文、字母和数字防止URL特征污染 text re.sub(rhttp[s]?://\S, , text) # 全角转半角避免同一个词被切分成两种形式 text text.replace(, ,).replace(。, .).replace(, !) # 去除连续数字串电话号码和验证码对分类贡献有限 text re.sub(r\d{4,}, , text) return text.strip() def cut_words(text: str) - str: return .join(jieba.lcut(text)) df pd.read_csv(sms_dataset.csv, encodingutf-8) df[clean] df[sms].apply(clean_sms) df[cut] df[clean].apply(cut_words) vectorizer TfidfVectorizer( ngram_range(1, 2), max_df0.7, min_df1, sublinear_tfTrue ) X vectorizer.fit_transform(df[cut]) y (df[label] spam).astype(int)这段代码里的TfidfVectorizer参数值得逐一说。ngram_range(1, 2)表示同时保留单个词和相邻词组合「中奖」这个二元词组如果被拆成「中」「奖」两个单字就会丢信息bigram 能兜住一部分。max_df0.7表示在超过 70% 短信里都出现的词会被忽略这类词一般是「你好」「回复」这类高频无意义词。min_df1表示只出现一次的词也保留短信语料本身不大保守一点没问题。sublinear_tfTrue用1 log(tf)替代原始词频削弱长短信里反复出现的词的权重这是短文本分类里常用的做法。分词环节有个容易被忽视的点jieba.lcut返回列表我在这里用空格拼接成字符串是为了让TfidfVectorizer能按空白符切分避免重复分词。这一步做完X是一个形状为「短信条数 × 特征词数」的稀疏矩阵直接传给 SVM 即可。3. 用 scikit-learn 训练 SVM核函数选型、数据集划分与最小可运行代码3.1 线性核还是 RBF 核两个维度决定的选型SVM 的核函数选择在短文本分类里没有太多悬念。线性核kernellinear在 TF-IDF 特征上是默认首选原因是特征维度已经很高通常几千到几万维数据在这种空间里往往接近线性可分线性核训练速度快而且权重向量可以直接查看。RBF 核kernelrbf理论上能拟合更复杂的边界但需要调C和gamma两个参数特征还需要先做缩放否则数值范围大的维度会主导距离计算。我做过一次对比实验同一份短信数据集线性核准确率 97.2%RBF 核调好参数后 97.8%提升不到一个百分点但训练时间差了近十倍。课程设计的场景里我不会推荐一上来就上 RBF——先把线性核跑通拿到一个能用的 baseline再决定要不要用网格搜索尝试 RBF。答辩时老师问「为什么不用 RBF」你可以回答「在稀疏高维特征下线性核计算效率更高且 RBF 的边界复杂度在短信这类短文本上没有显著收益」。维度线性核RBF 核特征维度高时效果好速度快需要特征缩放否则易失真参数量只需调 C需要调 C 和 gamma可解释性权重可映射回词决策边界不易解释训练耗时秒级分钟级适用场景文本分类默认首选数据量小、边界确实非线性时3.2 数据划分最容易忽略的问题同一发送者的短信不能跨集合课程设计里最常见的做法是直接用train_test_split按行随机切分。这个做法在短信场景里有隐患如果数据集里同一个发送者的多条短信被同时分进训练集和测试集模型等于「见过」这个发送者的写作风格测试准确率会虚高。严格的做法是按发送者分组切分保证同一个发送者的短信全部落在同一侧。# 按发送者切分的伪代码思路 sender_ids df[sender].unique() train_senders, test_senders train_test_split(sender_ids, test_size0.2, random_state42) train_mask df[sender].isin(train_senders) test_mask df[sender].isin(test_senders)课程设计的数据集不一定提供发送者字段。如果只有短信文本和标签那就直接用train_test_split随机切分但要在设计报告的「实验设置」里主动说明这个局限——老师看到你意识到数据泄露问题这一条就是加分项。3.3 训练 SVM 的最小可运行代码三行训练三行评估from sklearn.model_selection import train_test_split from sklearn.svm import SVC from sklearn.metrics import classification_report, confusion_matrix # 按行随机划分test_size0.2固定随机种子保证可复现 X_train, X_test, y_train, y_test train_test_split( X, y, test_size0.2, random_state42, stratifyy ) # C1.0 是sklearn默认值class_weightbalanced缓解类别不平衡 # 垃圾短信通常占比不到20%不设这个参数模型会偏向预测“正常” model SVC(kernellinear, C1.0, class_weightbalanced, random_state42) model.fit(X_train, y_train) y_pred model.predict(X_test) print(classification_report(y_test, y_pred, target_names[normal, spam])) print(confusion_matrix(y_test, y_pred))class_weightbalanced是这个场景里必须写的一行。垃圾短信数据集中正例占比往往只有 15% 左右不设类别权重SVM 会倾向于把所有样本预测为多数类准确率看着很高但对垃圾短信几乎没有识别能力。C1.0是默认值它控制误分类的惩罚力度C 越大模型越努力把每个训练样本分对越容易过拟合C 越小边界越平滑。线性核场景下我一般从 0.5 到 2.0 之间试不需要大范围搜索。random_state42固定之后每次运行结果一致实验能复现这在课设报告里是必须写的细节。stratifyy让训练集和测试集保持同样的正负样本比例防止采样偏差导致某一边全是垃圾短信。4. 调参、评估与把设计报告写厚网格搜索和三类关键指标4.1 准确率会骗人垃圾短信识别看精确率和召回率很多人拿到 97% 的准确率就以为模型做完了但垃圾短信场景的评估不能只看准确率。假设数据里 85% 是正常短信一个什么都不做的模型只要全预测「正常」就有 85% 准确率。真正要看的指标是垃圾短信这个类别的精确率Precision和召回率Recall。精确率回答「模型说它是垃圾短信说对的概率有多大」召回率回答「真正的垃圾短信模型找回来了多少」。这两个指标在此消彼长调高召回率通常意味着把更多可疑短信判为垃圾误杀正常短信的概率上升精确率下降。课程设计里我用classification_report的输出直接看spam那一行的三个数。正常短信识别的精确率、召回率至少 98%垃圾短信的召回率不低于 90%这个水平足够拿一个不错的成绩。class_weightbalanced设置之后如果发现垃圾短信召回率上去了但正常短信精确率掉到 90% 以下说明模型过激了可以把类别权重从balanced改成手动设置的字典比如{0: 1.0, 1: 2.5}降低一点对垃圾短信的偏重。4.2 GridSearchCV 对 C 和 gamma 做网格搜索代码与结果判读线性核只需要调C但如果你想尝试 RBF 核就必须面对C和gamma两个参数的组合搜索。GridSearchCV会遍历所有参数组合用交叉验证评估每组参数的得分最后给出最优组合。from sklearn.model_selection import GridSearchCV # 候选参数范围C从0.1到10gamma从0.001到1 # gamma控制RBF核的影响半径太小欠拟合太大过拟合 param_grid { C: [0.1, 1.0, 10.0], gamma: [0.001, 0.01, 0.1, 1.0] } svm_rbf SVC(kernelrbf, class_weightbalanced, random_state42) grid GridSearchCV( svm_rbf, param_grid, cv5, scoringf1, n_jobs-1, verbose1 ) grid.fit(X_train, y_train) print(grid.best_params_) print(grid.best_score_)注意这里scoringf1而不是默认的accuracy。原因和上一节说的一样类别不平衡时准确率不是一个好导向用 F1 值能让网格搜索专注于少数类别的表现。cv5表示五折交叉验证每折 80% 数据训练、20% 验证循环五次最终得分的方差能反映参数稳定性。结果判读有一个经验如果最优参数落在搜索范围的边缘比如C0.1是候选最小值且得分最高说明真实最优值可能在更小的方向要把范围向 0.01、0.05 扩展再搜一次如果gamma1.0是最优多半是过拟合的信号需要缩小范围并观察训练集和验证集得分差距。网格搜索是「先粗后细」的过程第一轮定量级第二轮在最优值附近加密。4.3 设计报告里的实验对比怎么写三个模型、一张表、两张图课程设计报告的核心是实验对比。我建议至少跑三个模型多项式朴素贝叶斯、线性核 SVM、RBF 核 SVM用网格搜索后的最优参数。报告里的实验表格按这个格式组织模型准确率垃圾短信精确率垃圾短信召回率F1训练耗时多项式朴素贝叶斯96.8%95.2%88.3%0.9163s线性核 SVM97.4%96.1%92.5%0.94212sRBF 核 SVM网格搜索97.6%96.4%93.0%0.946160s报告里不要只贴表格还要写两段分析第一段解释为什么 SVM 整体优于朴素贝叶斯——特征独立性假设在短信场景不成立「中奖」「点击链接」这些词往往同时出现SVM 能利用这些关联第二段解释为什么线性核和 RBF 核差距不大——TF-IDF 特征本身维度高数据在原始空间已经接近线性可分非线性核的增益有限。这两段话写完报告的「实验分析」部分就有内容了。可视化方面画一个混淆矩阵热力图和一两条学习曲线就够了不需要花哨的图表。混淆矩阵能直观展示误分类集中在哪个方向学习曲线能说明数据量是否足够。后面会专门讲学习曲线的做法。5. 课程设计避坑记录乱码、内存爆炸、数据泄露和特征维度不一致5.1 训练时 MemoryError稀疏矩阵不能toarray()现象TfidfVectorizer.fit_transform之后直接X.toarray()转成密集矩阵训练程序崩溃或内存占满。原因短信数据经过 TF-IDF 后特征维度可能达到几万维密集矩阵的内存占用是稀疏矩阵的几十倍。假设 5000 条短信、3 万个特征密集矩阵是 5000 × 30000 × 8 字节约 1.2GB超过一部分笔记本的内存上限。解决整个 pipeline 都保持稀疏矩阵传递。SVC(kernellinear)支持稀疏输入不需要转密集。如果用了StandardScaler做特征缩放先用with_meanFalse初始化——with_meanTrue会强制转密集矩阵这是另一个常见的内存炸弹。5.2 Windows 下中文乱码编码问题导致读取和输出全乱现象pd.read_csv(sms.csv)读出来中文全是乱码print打印分词结果也乱。原因Windows 默认编码是gbk短信数据集文件可能是 UTF-8 或 GBK 编码两者不匹配就乱。这是课程设计里最消耗时间的低级错误。解决读取时显式指定编码按文件实际编码来。UTF-8 文件用encodingutf-8GBK 文件用encodinggbk。还有一种情况是文件带 BOM 头utf-8会把 BOM 解析成乱码字符遇到这种情况改成encodingutf-8-sig。输出乱码就在代码开头加一句import sys; sys.stdout.reconfigure(encodingutf-8)。5.3 精确率 100% 但预测阶段效果全无特征泄露和数据泄露现象训练集的classification_report显示精确率、召回率全是 100%但拿几条新的垃圾短信测试模型判断全部错误。原因这是典型的双重泄露。第一层在特征工程——清洗时把「spam」「normal」这类标签字段也当作文本内容做了分词第二层在数据划分——同一发送者的短信同时出现在训练集和测试集。模型「记住」了训练数据而不是「学会」了判别规则。解决清洗函数里只处理短信文本列不碰标签列检查df.columns确保特征矩阵里没有混入标签信息。数据划分改为按字段分组或者至少用stratifyy做分层采样。这个坑在课设答辩里被老师追着问的概率极高提前自查能省掉很多尴尬。5.4 预测阶段报「特征维度不一致」vectorizer忘了保存现象训练完成保存模型重新加载模型对新短信预测时报Feature shape mismatch或dimension mismatch错误。原因训练时TfidfVectorizer学会了全部特征词表预测阶段必须用同一个vectorizer对新文本做变换特征维度才能对齐。只保存模型文件、不保存vectorizer新文本转出来的矩阵列数肯定不一致。解决用joblib.dump把模型和vectorizer一起打包。import joblib # 保存模型和vectorizer预测时两个文件缺一不可 joblib.dump(model, svm_model.pkl) joblib.dump(vectorizer, tfidf_vectorizer.pkl) # 预测时加载 model joblib.load(svm_model.pkl) vectorizer joblib.load(tfidf_vectorizer.pkl) new_sms [恭喜您中奖了点击链接领取奖品] X_new vectorizer.transform([cut_words(clean_sms(new_sms[0]))]) print(model.predict(X_new))预测时如果发现效果异常先检查X_new的稀疏矩阵形状和训练时是否一致这是定位问题最快的路径。5.5jieba分词把「中奖」切开自定义词典和停用词表现象jieba.lcut(恭喜您中奖了)输出[恭喜, 您, 中奖, 了]看起来没问题但某些短信里的「中奖」会被切成「中」「奖」导致特征分裂。原因jieba默认词典是通用领域对短信场景里的营销词汇覆盖不足。解决加载一个自定义词典把课程设计语料里频繁出现的固定搭配加进去。用jieba.load_userdict(user_dict.txt)文件里每行一个词格式是「词 词频 词性」比如「中奖 100 n」。同时维护一个停用词表把「的」「了」「您」这类词过滤掉。停用词表的思路是优先过滤无实际语义的词但保留「免费」「点击」「领取」这类营销信号词。6. 把课程设计做成能现场答辩的完整演示交互脚本与学习曲线6.1 写一个可交互的预测脚本让老师现场输入短信答辩时最尴尬的情况是只展示 Jupyter Notebook 里的静态输出。一份能现场输入的交互脚本会立刻把演示效果拉满。我一般写一个predict.py循环读取输入打印预测结果和置信度。# 交互式预测脚本循环等待输入 import joblib model joblib.load(svm_model.pkl) vectorizer joblib.load(tfidf_vectorizer.pkl) print(请输入短信内容输入 exit 退出) while True: text input( ).strip() if text.lower() exit: break cleaned clean_sms(text) cut cut_words(cleaned) X_new vectorizer.transform([cut]) pred model.predict(X_new)[0] # decision_function输出到超平面的距离绝对值越大越确定 score model.decision_function(X_new)[0] label 垃圾短信 if pred 1 else 正常短信 print(f判定{label}置信度得分{score:.4f})这个脚本的价值不只是演示。decision_function返回的是样本到 SVM 超平面的带符号距离距离越大说明模型越确定。答辩时可以现场输入一条正常的「明天下午三点开会」再输入一条「恭喜您获得 iPhone 大奖点击链接领取」对比两次的分数差异这比任何静态图表都有说服力。6.2 画一条学习曲线判断数据量四百条样本和四千条样本的差别课程设计数据集通常不大但很多人不知道自己的数据量到底是「不够」还是「够了」。学习曲线是回答这个问题的最直接工具——用不同大小的训练子集训练模型同时记录训练集得分和验证集得分观察两条曲线的差距。import numpy as np import matplotlib.pyplot as plt from sklearn.model_selection import learning_curve # 计算学习曲线训练集从10%逐步增加到100% train_sizes, train_scores, val_scores learning_curve( model, X, y, train_sizesnp.linspace(0.1, 1.0, 5), cv5, scoringf1, n_jobs-1 ) train_mean train_scores.mean(axis1) val_mean val_scores.mean(axis1) plt.figure(figsize(8, 5)) plt.plot(train_sizes, train_mean, o-, label训练集F1) plt.plot(train_sizes, val_mean, s-, label验证集F1) plt.xlabel(训练样本数) plt.ylabel(F1得分) plt.legend() plt.show()学习曲线有三类读法训练集和验证集得分都很低说明模型欠拟合需要换更强的模型或加特征训练集得分高但验证集得分低且差距大说明过拟合可以增加数据量或调低C值两条曲线接近且得分都较高说明当前数据量下模型已经收敛。短信分类场景里通常一两千条样本就能让线性核 SVM 的学习曲线收敛如果曲线还没收敛报告里就写「数据量不足是当前主要限制」这是很专业的表述。调参这件事有个玄学成分同样的参数在不同数据集上表现可能完全不同网格搜索只能保证在当前数据上最优不代表换一批短信依然最优。所以我现在的习惯是先跑线性核拿 baseline再看学习曲线判断瓶颈最后才决定要不要花时间搜 RBF 参数。这个顺序帮我避开了很多无意义的调参也让我在写报告时能说清楚每一步实验的动机。希望这篇笔记能帮你把课程设计从头到尾走通少踩几个我当年踩过的坑。本文还有配套的精品资源点击获取
