个人介绍
信息采集

主讲教师:周娟

教师团队:共1

  • 周娟
学校: 广州康大职业技术学院
开课院系: 信息工程学院(集成电路学院)
开课专业: 人工智能
学分: 4
课时: 64
课程介绍
教师团队

周娟

职称:教师

教学目标

1.知识目标:

  1. 1)   数据采集基本概念及采集工具

  2. 2)   数据采集器的应用

  3. 3)   数据采集综合应用

  4. 4)   数据处理的基本概念及工具

  5. 5)   数据清洗

  6. 6)   作业设计

2.能力目标:

  1. 1)  能够熟练下载、安装、配置数据采集和数据处理应用软件;

  2. 2)  能够熟练使用采集工具进行简单采集;

  3. 3)  能够正确使用采集工具进行高级采集;

  4. 4)  能够根据实际需求,熟练使用采集工具进行各领域数据采集;

  5. 5)  能够正确使用数据处理工具对数据进行抽取;

  6. 6)  能够熟练使用数据处理工具对数据进行清洗;

  7. 7)  能根据实际需求,熟练使用工具完成对数据的采集、抽取、清洗、转换和装载等工作。

3.课程思政目标:

将《数据采集与处理》课程进行深入挖掘、开发、研究,融入思政方面的内容,提升教师思想政治素质和立德树人意识,明确专业课程的思政育人责任;完善本课程的教学设计,深入挖掘课程蕴含的思想政治教育资源,在构建课程体系、制定课程达成目标中强化育人导向,在课程各个教学阶段融入思想政治教育元素;“课程思政”贯穿在课堂授课、小班讨论、课程实验、课外实践等教学环节;将“课程思政”体现在课程目标和考核内容中。

1)在采集商务网站、搜索引擎、微博等网站时,培养学生客观、准确地价值观和人生观

   2)在处理商务数据过程中,培养学生的诚信意识和服务意识

3)在采集和处理数据方面,要学会采集与处理的数据与道德思想品质的融合

 “课程思政”贯穿在课堂授课、小班讨论、课程实验、课外实践等教学环节;体现在课程目标和考核内容中。

4.网络教学设计思路:

网络教学设计,要提高学生参与课程的积极性和网络资源,编写思路如下:学生通过网络学习,要完成6个任务的所有内容学习和任务完成,从而达到本课程的学习的目标。

1、对每个任务引导的说明,让学生了解本任务的目的

2、对任务涉及到的知识点进行视频、音频、文字资料等方式的讲解

3、对任务学习内容或案例进行相关的补充和扩展

4、学生学习完视频、文件、资料等,进行任务的完成

5、参与热门话题的讨论和互动交流

6、对阶段内容进行相应的测试,便于了解学生的掌握情况

7、考核方法的多样性,促进学生进行全流程的学习


教学内容

根据专业调研、与行业专家以及相关教师的研讨中发现,《数据采集与处理》可以为后续课程提供大量的数据资源,如淘宝、京东等商务网站的数据,百度、搜狗等搜索引擎网站的数据,微博网站数据,大众点评、58同城等生活网站数据,或采集文章、邮箱、图片等各种数据。这些数据处理好,都可以为后续课程提供优质资源。所以在课程设计中,学习任务可以完全按企业工作流程与工作内容进行,让学生在真实的环境中得到实际的工作锻炼。

本课程教学内容通过二个项目六个任务来实现:

    分别如下所述:

项目一:数据采集

任务1:数据采集基本概念及采集工具

任务2:数据采集器的应用

任务3:数据采集综合应用

这三个任务主要是通过八爪鱼采集工具对数据进行采集,采集网站涉及到京东、淘宝、58同城、百度、微博、新闻网站等在页面中所有可见的数据。采用案例教学和研讨式教学的方法。教学的过程和思路是:学生在完成任务的同时,学习相关的知识,来完成相应的任务。

项目二:数据处理

任务4:数据处理的基本概念及工具

任务5:数据清洗

任务6:作业设计

这三个具体任务,主要是通过kettle工具对采集的数据进行预处理。采用案例教学和研讨式教学的方法。教学的过程和思路是:学生在完成任务的同时,学习相关的知识,来完成相应的任务。


授课对象要求
  1. 有一定计算机基础知识

  2. 有计算机便于软件操作

使用工具

计算机:北信泛雅在线平台http://bitcxy.fanya.chaoxing.com/portal

手机:超星APP学习通

计算机操作系统:Windows7以上版本

计算机应用软件:八爪鱼8、jdk8、kettle8(pdi)、mysql5、Navicat Premium12


参考资料

《商务数据采集与处理》刘宝强  人民邮电出版社

《大数据与处理技术》宋晓姝 人民邮电出版社

https://www.bazhuayu.com/tutorialIndex八爪鱼教程

《kettle8.2快速入门》网易云课堂


XY课程简介

          本课程是商务数据分析及应用专业的专业核心课程。也可以作为大数据技术与应用专业和电子商务专业的基础课程。本课程内容包含数据采集和数据处理等部分,涵盖商务数据采集与处理的概念知识学习和实操活动的整个流程。通过本课程的学习,旨在培养学生认知数据如何采集,采集到数据如何处理,并以数据采集和数据处理完整实操,完成整个数据采集和数据处理流程的认知。

XY课程收获

学习本课程,你将会扎实的掌握数据的采集和处理操作,通过举一反三,你可以采集到所有能在互联网上看到的公开的数据,如各大电商网站的商品信息、评价等数据;新闻网站的各类新闻;娱乐网站的娱乐信息及评论;微博或其他类型网站所展示出来的所有信息。再通过数据处理,可对采集到的数据进行整理,即可得到自己或企业需要的信息了。

通过本课程的学习,培养学生的职业荣誉感和认同感,提高学生的职业素养,提高未来的就业竞争力。

学习本课程,你可以采集到各类数据,但要注意在国家规定的法律法规下使用采集到的数据,不能应用于网站或国家不允许的地方。




XY学习人群

本课程适合高职高专商务数据分析与应用、电子商务、大数据技术等相关专业的学生作为专业核心课或基础课来学习,也可作为非相关专业学生的选修课来学习。也适合从事数据采集或数据处理相关工作的人士(或再就业人士)的培训学习。


课程评价

教学资源
课程章节 | 文件类型   | 修改时间 | 大小 | 备注
1.1.1 《数据采集与处理》网络课程导学
文档
.docx
2024-11-14 22.45KB
1.1.2 《数据采集与处理》学生网络课程学习指引
文档
.docx
2024-11-14 20.21KB
1.2 初识数据
视频
.mp4
2024-11-14 29.33MB
 
视频
.mp4
2024-11-14 41.68MB
 
文档
.pptx
2024-11-14 597.31KB
 
文档
.doc
2024-11-14 184.53KB
 
文档
.doc
2024-11-14 499.53KB
 
文档
.doc
2024-11-14 110.85KB
 
文档
.doc
2024-11-14 298.74KB
1.3 数据来源及采集基础
视频
.mp4
2024-11-14 15.79MB
 
视频
.mp4
2024-11-14 15.70MB
 
文档
.doc
2024-11-14 316.40KB
 
文档
.pptx
2024-11-14 448.37KB
 
文档
.doc
2024-11-14 168.46KB
 
文档
.pptx
2024-11-14 274.32KB
 
作业
.work
2024-11-14 --
 
作业
.work
2024-11-14 --
1.4 采集方法及采集工具
视频
.mp4
2024-11-14 22.64MB
 
视频
.mp4
2024-11-14 17.50MB
 
视频
.mp4
2024-11-14 20.08MB
 
文档
.doc
2024-11-14 112.86KB
 
文档
.pptx
2024-11-14 208.19KB
 
文档
.doc
2024-11-14 451.00KB
 
文档
.pptx
2024-11-14 443.55KB
 
文档
.doc
2024-11-14 169.42KB
 
文档
.pptx
2024-11-14 455.42KB
 
文档
.doc
2024-11-14 188.18KB
 
文档
.pptx
2024-11-14 919.79KB
1.5 数据采集器介绍及安装
文档
.docx
2024-11-14 13.56KB
 
视频
.mp4
2024-11-14 13.70MB
 
视频
.mp4
2024-11-14 15.93MB
 
文档
.doc
2024-11-14 636.00KB
 
文档
.pptx
2024-11-14 3.30MB
 
文档
.doc
2024-11-14 589.20KB
 
文档
.pptx
2024-11-14 3.10MB
 
作业
.work
2024-11-14 --
2.1.1 简易采集模式
视频
.mp4
2024-11-14 30.28MB
 
视频
.mp4
2024-11-14 29.14MB
 
文档
.pptx
2024-11-14 1.27MB
 
文档
.pptx
2024-11-14 6.72MB
 
文档
.doc
2024-11-14 2.00MB
 
作业
.work
2024-11-14 --
2.1.2 单页采集
视频
.mp4
2024-11-14 15.43MB
 
视频
.mp4
2024-11-14 20.14MB
 
视频
.mp4
2024-11-14 24.96MB
 
视频
.mp4
2024-11-14 31.68MB
 
文档
.pptx
2024-11-14 7.68MB
 
文档
.doc
2024-11-14 5.81MB
 
文档
.pptx
2024-11-14 6.11MB
 
文档
.doc
2024-11-14 3.12MB
 
文档
.pptx
2024-11-14 7.40MB
 
文档
.doc
2024-11-14 8.98MB
 
作业
.work
2024-11-14 --
2.1.3 详情页采集
视频
.mp4
2024-11-14 43.89MB
 
视频
.mp4
2024-11-14 34.69MB
 
视频
.mp4
2024-11-14 21.52MB
 
视频
.mp4
2024-11-14 9.60MB
 
文档
.pptx
2024-11-14 8.02MB
 
文档
.pptx
2024-11-14 1.26MB
 
文档
.pptx
2024-11-14 4.05MB
 
文档
.pptx
2024-11-14 1.22MB
2.2.1 循环采集
视频
.mp4
2024-11-14 23.35MB
 
文档
.pptx
2024-11-14 9.14MB
 
文档
.pptx
2024-11-14 4.17MB
 
文档
.pptx
2024-11-14 5.76MB
 
文档
.pptx
2024-11-14 3.82MB
2.2.2 分页采集
视频
.mp4
2024-11-14 14.46MB
 
视频
.mp4
2024-11-14 27.42MB
 
文档
.pptx
2024-11-14 5.42MB
 
文档
.doc
2024-11-14 2.59MB
2.2.3 登录采集
视频
.mp4
2024-11-14 17.02MB
 
视频
.mp4
2024-11-14 25.36MB
 
文档
.pptx
2024-11-14 3.76MB
2.2.4 ajax
视频
.mp4
2024-11-14 58.02MB
 
文档
.pptx
2024-11-14 3.82MB
2.2.5 xpath
视频
.mp4
2024-11-14 50.80MB
 
文档
.pptx
2024-11-14 4.35MB
2.2.6 xpath
视频
.mp4
2024-11-14 44.54MB
 
视频
.mp4
2024-11-14 41.30MB
 
视频
.mp4
2024-11-14 25.07MB
 
视频
.mp4
2024-11-14 31.81MB
3.1 综合网站数据采集
视频
.mp4
2024-11-14 48.79MB
 
文档
.pptx
2024-11-14 8.63MB
4.1.1 数据处理概念1
视频
.mp4
2024-11-14 88.31MB
 
视频
.mp4
2024-11-14 76.27MB
 
文档
.pptx
2024-11-14 2.75MB
 
文档
.pptx
2024-11-14 3.17MB
4.1.2 数据处理概念2
视频
.mp4
2024-11-14 66.72MB
 
视频
.mp4
2024-11-14 67.27MB
 
文档
.pptx
2024-11-14 2.75MB
 
文档
.pptx
2024-11-14 2.59MB
4.1.3 数据处理概念3
视频
.mp4
2024-11-14 57.19MB
 
视频
.mp4
2024-11-14 75.10MB
 
视频
.mp4
2024-11-14 42.25MB
 
文档
.pptx
2024-11-14 3.17MB
 
文档
.pptx
2024-11-14 2.64MB
4.2 ETL常用工具的安装及
文档
.docx
2024-11-14 83.36KB
 
视频
.mp4
2024-11-14 15.88MB
 
视频
.mp4
2024-11-14 19.79MB
 
文档
.pptx
2024-11-14 6.12MB
 
文档
.pptx
2024-11-14 3.89MB
5.1.1 文本数据抽取
视频
.mp4
2024-11-14 25.93MB
 
视频
.mp4
2024-11-14 6.91MB
 
视频
.mp4
2024-11-14 26.48MB
 
视频
.mp4
2024-11-14 19.95MB
 
文档
.pptx
2024-11-14 2.60MB
 
文档
.pptx
2024-11-14 2.76MB
 
文档
.pptx
2024-11-14 3.31MB
5.1.2 文本数据抽取
视频
.mp4
2024-11-14 41.01MB
 
视频
.mp4
2024-11-14 17.33MB
 
文档
.pptx
2024-11-14 3.54MB
5.1.3 web文件数据抽取
视频
.mp4
2024-11-14 35.61MB
 
视频
.mp4
2024-11-14 36.42MB
 
文档
.pptx
2024-11-14 4.64MB
5.1.4 数据库数据抽取1
视频
.mp4
2024-11-14 36.89MB
 
文档
.pptx
2024-11-14 3.24MB
5.1.5 数据库数据抽取2
视频
.mp4
2024-11-14 20.91MB
 
视频
.mp4
2024-11-14 27.83MB
 
文档
.pptx
2024-11-14 3.29MB
5.2.1 字符串清洗
视频
.mp4
2024-11-14 14.90MB
 
视频
.mp4
2024-11-14 44.23MB
 
文档
.pptx
2024-11-14 2.92MB
 
文档
.pptx
2024-11-14 2.58MB
5.2.2 字段清洗
视频
.mp4
2024-11-14 33.84MB
 
视频
.mp4
2024-11-14 22.53MB
 
视频
.mp4
2024-11-14 27.79MB
 
文档
.pptx
2024-11-14 3.03MB
5.2.3 参照表清洗
视频
.mp4
2024-11-14 28.10MB
 
视频
.mp4
2024-11-14 30.30MB
 
视频
.mp4
2024-11-14 32.84MB
 
文档
.pptx
2024-11-14 3.15MB
5.2.4 数据转换
视频
.mp4
2024-11-14 32.73MB
 
视频
.mp4
2024-11-14 19.40MB
 
视频
.mp4
2024-11-14 71.64MB
 
文档
.pptx
2024-11-14 2.78MB
6.1.1 作业设计
视频
.mp4
2024-11-14 33.86MB
 
视频
.mp4
2024-11-14 19.27MB
 
文档
.pptx
2024-11-14 5.47MB
6.1.2 变量
视频
.mp4
2024-11-14 37.61MB
 
文档
.pptx
2024-11-14 3.39MB
6.2 综合练习
视频
.mp4
2024-11-14 47.85MB
 
文档
.pptx
2024-11-14 3.34MB
6.3 期末复习
视频
.mp4
2024-11-14 26.48MB
 
视频
.mp4
2024-11-14 41.01MB
 
视频
.mp4
2024-11-14 35.61MB
 
视频
.mp4
2024-11-14 44.23MB
 
视频
.mp4
2024-11-14 32.73MB
 
视频
.mp4
2024-11-14 19.40MB
 
视频
.mp4
2024-11-14 37.61MB
 
文档
.pptx
2024-11-14 3.31MB
 
文档
.pptx
2024-11-14 4.64MB
 
文档
.pptx
2024-11-14 3.54MB
 
文档
.pptx
2024-11-14 2.92MB
 
文档
.pptx
2024-11-14 2.78MB
 
文档
.pptx
2024-11-14 5.47MB
提示框
提示框
确定要报名此课程吗?
确定取消

京ICP备10040544号-2

京公网安备 11010802021885号