模式识别与机器学习

模式识别与机器学习

主讲教师：邱锡鹏

教师团队：共1位

邱锡鹏

学校：	复旦大学
开课院系：	计算机科学技术学院
开课专业：	计算机科学
课程负责人：	邱锡鹏
课程英文名称：	Pattern Recognition and Machine Learning
学分：	3
课时：	48

课程介绍

本课程围绕模式识别与机器学习算法指导学生在深度学习相关教学、科研和项目开发工作中深入解决实际应用问题。主要教学目标如下：
(1)理解机器学习领域的基本原理与蓝图，掌握经典的机器学习算法，理解算法的理论知识与推导过程。
(2)利用机器学习的算法与理论知识，阅读并领会相关领域的前沿文献，评价研究成果的科学意义。
(3)熟练运用机器学习算法，具备基本的问题分析能力，能够独立解决人工智能领域应用问题。。
为了加强实训，课程中安排了回归、分类、聚类等实训题目。

教师团队

邱锡鹏

职称：教授

单位：复旦大学

部门：计算机科学技术学院

课程章节

课程大纲

课程大纲

本课程为3学分课程，共36学时。本课程采用混合教学模式。其中
        1）线上教学10周，每周3学时，授课形式为线上视频和线上答疑。
        2）线下教学6周，每周3学生，授课形式为线下讲授和答疑，以课程实践为主。
        每周课程结束后完成相应作业或实训算法。

具体课程安排如下：

周	内容	课程形式	知识点名称	课时分配	单元目标
1	机器学习概述	线下	第一讲机器学习定义	1	1) 机器学习基本概念； 2) 理解机器学习的知识体系； 3) 初步了解机器学习的研究历史与基本方法；
			第二讲曲线拟合：回归	1	4) 通过机器学习案例培养学习兴趣。
			第三讲模型选择
			第四讲实训环境介绍	1
2	线性回归模型	线上	第一讲回归	0.5	1) 回归基本概念；
			第二讲线性基函数模型	1	2) 理解基函数；
			第三讲损失函数	0.5	3) 优化：随机梯度下降;
			第四讲参数学习	0.5	3) 优化：随机梯度下降;
			第五讲正则化	0.5	4) 正则化。
3	线性回归实践	线下	实践、课程答疑	3
4	决策树与最近邻方法	线上	第一讲分类	0.5	1）分类问题定义；
			第二讲决策树	1.5	2）决策树模型；
			第三讲最近邻方法	1	3）最近邻方法。
5	线性分类模型	线上	第一讲线性判别函数和决策边界	0.5	1）损失函数的定义 2）线性可分性
			第二讲 Logistic回归	0.5	3）四种线性模型的区别和对比
			第三讲 Softmax回归	0.5
			第四讲感知器	1
			第五讲支持向量机与核方法	0.5
6	决策树与线性分类实践	线下	实践、课程答疑	3
	核方法与支持向量机	线上	第一讲核方法	1	1）核方法定义
			第二讲最优线性判别函数	0.5	2）间隔定义
			第三讲支持向量机	1	3）KKT条件
7			第四讲线性不可分问题	0.5	4）Hinge损失函数
8	前馈神经网络	线上	第一讲神经元与激活函数	1	1) 神经元与激活函数
			第一讲神经元与激活函数	1	2) 前馈神经网络
			第二讲前馈神经网络	1	3) 通用近似定理
			第三讲反向传播算法	0.5	4) 前馈神经网络应用到机器学习
			第四讲自动微分与计算图	0.5	5) 参数学习
9	神经网络实践	线下	实践、课程答疑	3
10	卷积神经网络	线上	第一讲卷积的定义	1	1) 一维、二维卷积 2) 卷积扩展、互相关
			第二讲卷积神经网络	0.5	3) 卷积神经网络
			第三讲典型的卷积网络结构	0.5	4) LeNet5、AlexNet、ResNet等
			第四讲其他卷积种类	0.5	5) 转置卷积、空洞卷积等
			第五讲卷积神经网络的应用	0.5
11	循环神经网络	线上	第一讲给神经网络增加记忆	0.5	1) 简单循环网络
			第一讲给神经网络增加记忆	0.5	a) 延时神经网络
			第二讲循环神经网络	0.5	b) 自回归模型
			第三讲长程依赖问题	0.5	c) 非线性自回归模型
			第四讲长短期记忆神经网络	0.5	2) 长程依赖问题
			第五讲循环神经网络应用	0.5	3) 长短期记忆神经网络
			第六讲扩展到图网络	0.5	4) 递归神经网络
12	注意力机制	线上	第一讲注意力机制	1	1) 认知神经学中的注意力；
			第一讲注意力机制	1	2) 注意力机制的定义;
			第二讲自注意力模型	1	3) 注意力模型的应用
			第三讲注意力模型的应用	1	4) 指针网络
13		线下	实践、课程答疑	3
14	无监督学习与降维	线上	第一讲无监督学习	0.5	1）无监督学习定义
			第二讲聚类算法	1	2）聚类算法 a) K-means
			第三讲降维	1.5	3）降维 a) PCA b) 自编码
15	集成学习	线上	第一讲集成模型	1	1）集成模型的定义
			第二讲 Boosting方法	1	2）Boosting方法：Adaboost
			第三讲混合专家系统	1	3）混合专家系统
16	研究进展报告	线下	学术报告、课程答疑	3

考试成绩

课程总成绩由平时作业（60%）和期末考试（40%）构成。

平时作业分为3次，每次20%。

参考教材

邱锡鹏，神经网络与深度学习，机械工业出版社，2020 (书号：ISBN 9787111649687) https://nndl.github.io/

教学资源

课程章节资源

课程章节	\| 文件类型		\| 修改时间	\| 大小	\| 备注
1.1 机器学习概述		视频 .mp4	2025-08-31	79.33MB
1.2 机器学习定义		视频 .mp4	2025-09-01	151.98MB
1.3 曲线拟合-回归和模型选择		视频 .mp4	2025-09-01	136.94MB
1.4 总结		视频 .mp4	2025-09-01	21.88MB
		作业 .work	2025-09-14	--
2.1 线性回归		视频 .mp4	2025-09-13	263.94MB
2.2 多项式回归		视频 .mp4	2025-09-13	112.35MB
2.3 线性回归的概率视角		视频 .mp4	2025-09-13	222.84MB
2.4 模型选择与偏差-方差分解		视频 .mp4	2025-09-13	243.03MB
2.5 常用的定理		视频 .mp4	2025-09-13	119.06MB
2.6 总结		作业 .work	2025-09-14	--
3.1 最近邻与决策树概述		视频 .mp4	2025-09-01	8.41MB
3.2 分类问题		视频 .mp4	2025-09-01	210.13MB
3.3 K近邻		视频 .mp4	2025-09-01	75.61MB
3.4 基于规则的方法		视频 .mp4	2025-09-01	16.37MB
3.5 决策树		视频 .mp4	2025-09-01	19.60MB
3.6 总结		视频 .mp4	2025-09-01	1.38MB
		作业 .work	2025-09-14	--
4.1 线性分类概述		视频 .mp4	2025-09-01	9.62MB
4.2 线性分类的定义		视频 .mp4	2025-09-01	214.58MB
4.3 Fisher线性判别		视频 .mp4	2025-09-01	121.97MB
4.4 感知器		视频 .mp4	2025-09-01	166.86MB
4.5 概率模型		视频 .mp4	2025-09-01	328.55MB
4.6 Logistic回归		视频 .mp4	2025-09-01	225.23MB
4.7 Softmax回归		视频 .mp4	2025-09-01	109.21MB
4.8 总结		视频 .mp4	2025-09-01	1.70MB
		作业 .work	2025-09-14	--
5.1 核方法与支持向量机概述		视频 .mp4	2025-09-01	17.71MB
5.2 分类模型的对偶表示		视频 .mp4	2025-09-01	91.67MB
5.3 核技巧		视频 .mp4	2025-09-01	217.60MB
5.4 支持向量机		视频 .mp4	2025-09-01	188.58MB
5.5 优化		视频 .mp4	2025-09-01	290.64MB
5.6 不可分数据		视频 .mp4	2025-09-01	118.88MB
5.7 总结		视频 .mp4	2025-09-01	28.63MB
		作业 .work	2025-09-14	--
6.1 无监督学习概述		视频 .mp4	2025-09-02	92.33MB
6.2 聚类		视频 .mp4	2025-09-02	258.00MB
6.3 K均值方法		视频 .mp4	2025-09-02	117.62MB
6.4 层次聚类		视频 .mp4	2025-09-02	67.35MB
6.5 （无监督）特征学习		视频 .mp4	2025-09-02	55.14MB
6.6 主成分分析		视频 .mp4	2025-09-02	142.11MB
6.7 编码与稀疏编码		视频 .mp4	2025-09-02	174.17MB
6.8 自编码器		视频 .mp4	2025-09-02	92.63MB
6.9 自监督学习		视频 .mp4	2025-09-02	81.15MB
6.10 概率密度估计		视频 .mp4	2025-09-02	84.90MB
6.11 非参密度估计		视频 .mp4	2025-09-02	248.70MB
6.12 半监督学习		视频 .mp4	2025-09-02	64.15MB
6.13 总结		作业 .work	2025-09-14	--
7.1 前馈神经网络概述		视频 .mp4	2025-09-02	11.68MB
7.2 神经元		视频 .mp4	2025-09-02	584.98MB
7.3 神经网络		视频 .mp4	2025-09-02	99.05MB
7.4 前馈神经网络		视频 .mp4	2025-09-02	277.20MB
7.5 反向传播算法		视频 .mp4	2025-09-02	217.21MB
7.6 计算图与自动微分		视频 .mp4	2025-09-02	190.71MB
7.7 优化问题		视频 .mp4	2025-09-02	48.46MB
7.8 神经网络与深度学习		视频 .mp4	2025-09-02	156.62MB
7.9 总结		作业 .work	2025-09-14	--
8.1 卷积神经网络概述		视频 .mp4	2025-09-02	93.19MB
8.2 卷积		视频 .mp4	2025-09-02	389.23MB
8.3 卷积神经网络		视频 .mp4	2025-09-02	357.72MB
8.4 其它卷积种类		视频 .mp4	2025-09-02	95.71MB
8.5 典型的卷积网络		视频 .mp4	2025-09-02	435.30MB
8.6 卷积网络的应用		视频 .mp4	2025-09-02	200.03MB
8.7 应用到文本数据		视频 .mp4	2025-09-02	102.14MB
8.8 总结		视频 .mp4	2025-09-02	8.14MB
		作业 .work	2025-09-14	--
9.1 循环神经网络概述		视频 .mp4	2025-09-02	14.34MB
9.2 给神经网络增加记忆能力		视频 .mp4	2025-09-02	225.70MB
9.3 循环神经网络		视频 .mp4	2025-09-02	85.18MB
9.4 应用到机器学习		视频 .mp4	2025-09-02	93.14MB
9.5 参数学习与长程依赖问题		视频 .mp4	2025-09-02	214.79MB
9.6 如何解决长程依赖问题		视频 .mp4	2025-09-02	87.53MB
9.7 GRU与LSTM		视频 .mp4	2025-09-02	94.98MB
9.8 深层循环神经网络		视频 .mp4	2025-09-02	48.50MB
9.9 循环网络应用		视频 .mp4	2025-09-02	149.40MB
9.10 扩展到图结构		视频 .mp4	2025-09-02	77.46MB
9.11 总结		作业 .work	2025-09-14	--
10.1 注意力机制概述		视频 .mp4	2025-09-02	167.11MB
10.2 注意力机制		视频 .mp4	2025-09-02	124.21MB
10.3 人工神经网络中的注意力机制		视频 .mp4	2025-09-02	288.06MB
10.4 注意力机制的应用		视频 .mp4	2025-09-02	269.09MB
10.5 自注意力模型		视频 .mp4	2025-09-02	216.41MB
10.6 Transformer		视频 .mp4	2025-09-02	313.59MB
10.7 总结		作业 .work	2021-06-05	--
		视频 .mp4	2025-09-02	4.90MB
11.1 网络优化与正则化概述		视频 .mp4	2025-09-04	1.84GB
11.2 神经网络优化的特点		视频 .mp4	2025-09-04	168.91MB
11.3 优化算法改进		视频 .mp4	2025-09-04	220.54MB
11.4 动态学习率		视频 .mp4	2025-09-04	189.00MB
11.5 梯度估计修正		视频 .mp4	2025-09-04	306.03MB
11.6 参数初始化		视频 .mp4	2025-09-04	173.65MB
11.7 数据预处理		视频 .mp4	2025-09-04	105.67MB
11.8 逐层规范化		视频 .mp4	2025-09-04	193.22MB
11.9 超参数优化		视频 .mp4	2025-09-04	104.43MB
11.10 网络正则化		视频 .mp4	2025-09-04	117.11MB
11.11 ℓ_1和ℓ_2正则化		视频 .mp4	2025-09-04	65.01MB
11.12 暂退法（Dropout）		视频 .mp4	2025-09-04	77.45MB
11.13 数据增强		视频 .mp4	2025-09-04	87.68MB
11.14 总结		视频 .mp4	2025-09-04	26.05MB
		作业 .work	2025-09-14	--

下载在线观看进入课程章节同步到网盘