机器学习相关

一.机器学习基本理论1.一句话说明机器学习2.简单版本3.机器学习训练本质就是通过损失函数最小化找到最合适的维度权重β二.机器学习简介1.是什么过程2.三大学习类型初步分为三大学习类型有监督学习无监督学习半监督学习强化学习3.十大算法和四个门派3.1 四大门派3.2 十大算法4. 机器学习完整流程5.机器学习的专业术语数据集Data Set多条记录的集合。训练集Training Set用于训练模型的数据。验证集Validation Set用于调节超参数的数据。测试集Test Set用于评估模型性能的数据。样本Sample数据集中的一条记录是关于一个事件或对象的描述称为一个样本。特征Feature数据集中一列反映事件或对象在某方面的表现或性质的事项称为特征或属性。特征向量Feature Vector将样本的所有特征表示为向量的形式输入到模型中。标签Label监督学习中每个样本的结果信息也称作目标值target。模型Model一个机器学习算法与训练后的参数集合用于进行预测或分类。参数Parameter模型通过训练学习到的值例如线性回归中的权重和偏置。超参数Hyper Parameter由用户设置的参数不能通过训练自动学习例如学习率、正则化系数等。6.阳哥总结三. 特征工程1.概念2.特征选择介绍2.1 概念从众多特征选择一个子集的过程。2.2 目的通过去掉无效特征以改善模型效果缩小特征空间加速模型训练提高特征的可解释性。2.3 为什么进行特征选择3. 特征选择常用方法——过滤法3.1 概念是特征选择的快速筛选器提前过滤没用的特征独立于模型像海选一样3.2 怎么用3.3 案例说明a. 日常做机器学习项目第一步先拿过滤法把明显没用的冗余特征删掉再训练模型既能省时间又能提升模型效果这是最基础也最实用的操作技巧b. 相关系数皮尔逊相关系数适合连续型特征连续型目标通俗理解衡量两个连续数值的“线性亲密程度”分数范围在-1到1之间c. 生活案例现有特征房屋面积、卧室数量、到地铁站距离、小区绿化率、房东年龄计算相关系数- 房屋面积 ↔ 房价相关系数0.85接近1强正相关留下- 卧室数量 ↔ 房价相关系数0.72强正相关留下- 到地铁站距离 ↔ 房价相关系数-0.68强负相关距离越远房价越低留下- 房东年龄 ↔ 房价相关系数0.07接近0几乎没关系直接过滤结果删掉房东年龄这个没用特征留下前三个关键特征。3.4 优点4. 特征选择代码演示4.1 低方差过滤4.2 皮尔逊相关系数过滤法四. 特征转换1.概念和类型2. 数字型——归一化2.1 归一化业务意义2.2 转换公式2.3 举例说明2.4 优缺点与实际应用3. 数字型——标准化4. 数字化——对数变换