机器学习技术与应用

肖朝亮

目录

  • 1 绪论
    • 1.1 课程介绍
    • 1.2 教师团队介绍
    • 1.3 机器学习是什么
    • 1.4 机器学习算法
    • 1.5 编程环境及工具包
    • 1.6 数学基础回顾
  • 2 聚类
    • 2.1 k均值聚类算法及应用示例
    • 2.2 聚类算法基础
    • 2.3 DBSCAN及其派生算法
    • 2.4 AGNES算法
    • 2.5 小结
  • 3 回归
    • 3.1 回归任务、评价与线性回归模型
    • 3.2 机器学习中的最优方法
    • 3.3 多项式回归
    • 3.4 过拟合和泛化
    • 3.5 向量相关性与岭回归
    • 3.6 局部回归
    • 3.7 小结（练习）
  • 4 分类
    • 4.1 决策树、随机森林及其应用
    • 4.2 分类算法基础
    • 4.3 逻辑回归
    • 4.4 Sofemax回归
    • 4.5 集成学习与类别不平衡问题
    • 4.6 小结（练习）
  • 5 特征工程、降维与超参数调优
    • 5.1 特征工程
    • 5.2 线性降维
    • 5.3 超参数调优
    • 5.4 小结（练习）
  • 6 概率模型与标注
    • 6.1 概率模型
    • 6.2 逻辑回归模型的概率分析
    • 6.3 朴素贝叶斯分类
    • 6.4 EM算法与高斯混合聚类
    • 6.5 隐马尔可夫模型
    • 6.6 条件随机场模型
    • 6.7 小结（练习）
  • 7 神经网络
    • 7.1 神经网络模型
    • 7.2 多层神经网络
    • 7.3 竞争学习和自组织特征映射网络
    • 7.4 小结（练习）
  • 8 决策树补充视频
    • 8.1 决策树1
    • 8.2 决策树2
    • 8.3 决策树3
    • 8.4 决策树4
    • 8.5 决策树5
  • 9 案例补充参考资料
    • 9.1 广东省城市竞争力分析
    • 9.2 电影内容聚类分析
    • 9.3 房价预测
    • 9.4 泰坦尼克生存分析
    • 9.5 线性回归解析与实例
    • 9.6 逻辑回归与实例
    • 9.7 决策树分析与实例
特征工程

本章概览

特征工程、降维与超参数调优是机器学习工程应用中的三个重要问题。在优惠券核销示例中讨论过，输入模型进行训练的一般不是实例的属性，而是从实例的属性数据中提取出的特征。从属性数据中提取出特征的过程叫做“特征工程”。在掌握机器学习的算法之后，特征工程就是最具有挑战性的工作了。

降维技术可以解决因为特征过多而带来的样本稀疏、计算量大等问题。

在训练时，算法参数的设置对算法效果的影响很大，设置合适算法参数的过程称为“超参数调优”。

特征工程