深度学习理论与实践

程宏

目录

  • 1 学习指南
    • 1.1 课程纲要信息
    • 1.2 软件安装方法
  • 2 ChatGPT的简介与应用
    • 2.1 对ChatGPT的常见误解
    • 2.2 ChatGPT背后的关键技术-预训练
    • 2.3 ChatGPT带来的研究问题
    • 2.4 第1次课教案
    • 2.5 课后作业1
  • 3 深度学习概述
    • 3.1 深度学习基础概念讲解与讨论
    • 3.2 深度学习应用场景探索
    • 3.3 第2次课教案
    • 3.4 课后作业2
  • 4 线性回归及Softmax回归
    • 4.1 数学基础知识
    • 4.2 线性回归模型
    • 4.3 Softmax回归模型
    • 4.4 第3次课教案
    • 4.5 课后作业3
    • 4.6 课后资源
  • 5 感知机（神经网络）模型的数学基础与实现
    • 5.1 感知机（神经网络）模型
    • 5.2 前向传播与反向传播算法
    • 5.3 第4次课教案
    • 5.4 课后作业4
    • 5.5 课后资源
  • 6 神经网络的优化方法与技巧
    • 6.1 A-神经网络的优化方法与技巧
    • 6.2 B-神经网络的优化方法与技巧
    • 6.3 第5-6次课教案
    • 6.4 课后作业
  • 7 卷积神经网络（CNN）原理与应用
    • 7.1 卷积神经网络（CNN）原理与应用（A）
    • 7.2 卷积神经网络（CNN）原理与应用（B）
    • 7.3 第7-8次教案
    • 7.4 文献：ResNet（自习）
    • 7.5 文献：UNet（自习）
    • 7.6 文献：EfficientNet（自习）
    • 7.7 文献：MobileNet 系列（自习）
    • 7.8 文献：YOLO 系列（自习）
    • 7.9 工程：Ultralytics YOLO Vision
    • 7.10 工程：人脸识别（自习）
    • 7.11 文献：The world is your green screen（自习）
    • 7.12 工程：Mask RCNN
  • 8 循环神经网络（RNN）原理与应用
    • 8.1 循环神经网络（RNN）原理与应用（A）
    • 8.2 循环神经网络（RNN）原理与应用（B）
    • 8.3 文献：WaveNet（自习）
    • 8.4 文献：Google speech to text（自习）
    • 8.5 工程：Mocking bird（自习）
  • 9 注意力机制及其应用（自习）
    • 9.1 文献：Attention Is All You Need
    • 9.2 文献：GPT 系列
    • 9.3 文献：ViT
    • 9.4 文献：Swin Transformer
  • 10 深度学习的应用与案例分析
    • 10.1 案例：外币汇率预测
    • 10.2 参考文献
  • 11 项目实践（课程论文）
    • 11.1 数据采集工具
    • 11.2 课程考核（标准及要求）
    • 11.3 参考文献
软件安装方法
  • 1 Jupyter Note...
  • 2 GPU Accelerate

本课程推荐使用Jupyter notebook，具体学习环境配置请参考以下流程：


备注：

关于如何安装Python等软件，可以参考如下内容：

可以使用Jetbrains PyCharm CE和Jupyter Notebook作为实验操作工具.

其中, Jetbrains PyCharm具有代码自动补全, Debug等提高编程效率的功能.

实验工具包含Python, Jetbrains PyCharm CE, Jupyter Notebook等, 以下提供1种安装计划.


以下所有软件全部免费, 如遇到收费项目, 请核实是否遇到钓鱼网站.

1. Python 安装

1.1. 前往https://python.org/ 下载Python 3.12 系列的最新版本. 

请注意不要下载Python 3.13 , 因为版本较新, 所以部分机器学习库尚未开发完成, 使用中可能会遇到难以解决的问题.

1.2. 请选择自己电脑合适的版本, 大部分为Windows 64-bit exec 或 macOS exec版本 (使用Mac笔记本的同学).

请看清exec标记, 不要下载其他源码安装或网络安装的版本. 此外, 使用Windows 7的同学, 请右键"我的电脑"查看系统型号, 部分型号较旧的电脑应安装 32-bit exec版本.

2. Jetbrains PyCharm CE 安装

(已有Spyder的同学可跳过.)

2.1. 前往 https://www.jetbrains.com/pycharm/ 选择合适的电脑型号, 安装Community Edition.

请注意如果拥有EDU邮箱的同学 (立信本校的学生邮箱无法使用该功能) 或 GitHub Student Pack 可以在Jetbrains官方网站上申请学生计划, 免费使用专业版软件.

2.2. 不熟悉PyCharm的同学, 安装后可观看视频, 了解高效的使用方法.

3. Jupyter Notebook 安装 

(已有Jetbrains PyCharm 专业版 或 Anaconda 的同学可跳过)

请阅读 https://jupyter.org/install 安装Jupyter Notebook

4. IBM Developer Skills Network Labs

为了方便大家Python的练习，建议采用 IBM Developer Skills Network Labs 开展在线 JupyterLab

https://labs.cognitiveclass.ai/