粤教版 (2019)必修1 数据与计算第五章 数据处理和可视化表达5.3 数据的分析本节综合与测试评优课课件ppt
展开数据分析就是在一大批 杂乱无章的数据中,运用数字化工具和技术,探索数据内在的结构和规律,构建数学模型,并进行可视化表达,通过验证将模型转化为知识,为诊断过去、预测未来发挥作用。数据分析一般包括特征探索、 关联分析、聚类与分类、建立模型和模型评价等。
数据特征探索的主要任务是对数据进行预处理,发现和处理缺失值,异常数据,绘制直方图,观察分析数据的分布特征,求最大值、最小值、极差等描述性统计量。
探究活动打开并运行配套学习资源包“第五章\课本素材\程序5-3数据预处理”,观察数据预处理结果。程序5-3数据预处理的关键过程及部分程序段如下:(1)数据清洗,发现缺失值。
(2)异常值处理中,利用画散点图发现异常值部分。(3)求最大值和最小值。
(4)求极差(5)求组距。
(6)绘制价格直方图。(7)绘制评论数直方图。
关联分析就是分析并发现存在于大量数据之间的关联性或相关性,从而描述一个事物中某些属性同时出现的规律和模式。关联分析的基本算法如下:(1)扫描历史数据,并对每项数据进行频率次数统计。(2)构建候选项集C1,并计算其支持度,即数据出现顿事次数与总数的比。(3)对候选项集的支持度进行筛选,筛选的数据项支持度应当不小于最小支持度。从而形成顿繁项集么L1。(4) 对频繁项集L2进行连接生成候选项集C2.重复上述步骤,最终形成频繁人项集或者最大频繁项集。
观察打开并运行教科书配套学习资源包“第五章\课本素村\程序5-4关联分析”,观察程序的运行结果。程序5-4关联分析的关键过程及程序段如下:(1)自定又连接函教,用于实现L_{k-1}到C_k的连接。
( 3)创建连接数据。(4)遍历可能的推理。
(5)计算置信度序列。(6)置信度师选。
聚类分析是一种探索性的分析, 在分类的过程中,人们不必事先给出一个分类的标准,聚类分析能够从样本数据出发,自动进行分类。聚类分析的算法有很多,其中K平均(K-Means )算法是一种经典的白下而 上的聚类分析方法。K- 平均算法的基本思想就是在空间N个点中,初始选择K个点作为中心聚类点,然后将N个点分别与K个点计算距离,选择自己最近的点作为自己的中心点,再不断更新中心聚集点,以达到“物以类聚,人以群分”的效果,如图5- 10所示。
聚类分析的基本算法如下:(1)从数据点集合中随机选择K个点作为初始的聚集中心,每个中心点代表着每个聚集中心的平均值。(2) 对其余的每个数据点,依次判断其与K个中心点的距离, 距离最近的表明它属于这项聚类。(3)重新计算新的聚族集合的平均值即中心点。整个过程不断这代计算,直到达到预先设定的造代次数或中心点不再顿繁波动。
实践打开并运行教科书配套学习资源包“第五章\课本素材\程序5-5聚类分析”文件,观察程序的运行结果。程序5-5直接调用了Pythn语言的sklearn机器学习模块,其对数据进行聚类分析的关键程序段如下:
数据分类是数据分析处理中最基本的方法。数据分类通常的做法是,基于样本数据先训练构建分类函数或者分类模型(也称为分类器),该分类器具有将待分类数据项映射到某一特点类别的功能。数据分类和回归分析都可用于预测,预测是指从基于样本数据记录,根据分类准则自动给出对未知数据的推广描述,从而实现对未知数据进行预测。贝叶斯分类技术在众多分类技术中占有重要地位, 也属于统计学分类的范畴,是一种非规则的分类方法。贝叶斯分类技术通过对已分类的样本子集进行训练,学习归结出分类函数(对离散变量的预测称作分类,对连续变量的分类称为回归),利用调练得到的分类器实现对未分类数据的分类。
问题如表5-4所示是某网络商城客户购物行为特征的一组统计资料。已知某客户购物行为特征A为数值182.8,特征B为数值58.9,特征C为数值26,请问这人是重要客户还是普通客户?
根据表5-4的资料,得到一个已分类的样本集:X=[[182.8,81.6,30],[180.4,86.1,29],[170.0,77.1,30],[180.4,74.8,28],[152.4,45.3,24],[167.6,68.0,26],[165.2,58.9,25],[175.2,]和Y=[1,1,1,1,0,0,0,0] ( 1代表重要客户,0代表普通客户)。打开教科书配套学习资源包“第五章\课本素材\程序5-6”文件,把已分类的样本子集(X,Y )和测试样本[182.8,58.9,26]输入到程序5-6中,具体(高斯朴素贝叶斯)如下:
运行程序5-6后,得到结果为:[0]。由此可以判断这人为普通客户。程序5-6使用语句frm sklearn.naive_bayes imprt GaussianNB调用了sklearn.naive_bayes模块,使得程序简单明了。
拓展:贝叶斯与概率分类贝叶斯( Thmas Bayes,1701—1761),英国数学家,发明了概率统计学原理,将归纳推理法用于概率论基础理论,创立了贝叶斯统计理论,对统计决策函数、统计推断、统计的估算等做出了贡献。在概率统计理论中,条件概率是指事件A在另外一个事件B已经发生条件下的发生概率,表示为P(A |B),读作“在B的条件下A的概率”。贝叶斯发现在事件B出现的前提下事件A出现的概率,等于事件A出现的前提下事件B出现的概率乘以事件A出现的概率再除以事件B出现的概率。这就是著名的贝叶斯定理。具体计算公式为:
运用贝叶斯定理对事物进行分类,是一种非常有效的思维方法,是贝叶斯决策理论方法的基本思想。例如,假设有一个数据集,由两类组成,且已知每个样本的分类,数据分布如图5-11所示。用p,(x,y)表示数据点(x,y)属于红色一类的概率,用pa(x,y)表示数据点(x,y)属于蓝色一类的概率。
那么如何判断对于一个新的点C(x,y)属于红色还是蓝色类别呢?通常人们会按以下步骤解答这个问题:( 1)求新的点C(x,y)属于红色一类的概率p;(x,y)。(2)求新的点C(x,y)属于蓝色一类的概率pz(x,y)。(3)选择概率高的一类作为新点C(x,y)的分类。即如果p;(x,y)>pz(x,y),则C(x,y)为红色一类;如果p(x,y)
高中信息技术粤教版 (2019)必修1 数据与计算第五章 数据处理和可视化表达5.3 数据的分析5.3.1 特征探索完美版ppt课件: 这是一份高中信息技术粤教版 (2019)必修1 数据与计算<a href="/xx/tb_c4007099_t3/?tag_id=26" target="_blank">第五章 数据处理和可视化表达5.3 数据的分析5.3.1 特征探索完美版ppt课件</a>,共17页。PPT课件主要包含了数据的分析,特征探索,关联分析,聚类分析,聚类分析介绍,数据分类等内容,欢迎下载使用。
高中粤教版 (2019)1.2.2 编码的基本方式背景图ppt课件: 这是一份高中粤教版 (2019)1.2.2 编码的基本方式背景图ppt课件,文件包含53数据的分析-新教材粤教版2019高中信息技术必修一课课件28pptx、53数据的分析-新教材粤教版2019高中信息技术必修一课练习docx等2份课件配套教学资源,其中PPT共28页, 欢迎下载使用。
高中粤教版 (2019)5.3.1 特征探索优质课件ppt: 这是一份高中粤教版 (2019)5.3.1 特征探索优质课件ppt,共18页。PPT课件主要包含了学习目标,重难点,课堂导入,项目实施等内容,欢迎下载使用。