粤教版 (2019)必修1 数据与计算第五章 数据处理和可视化表达5.3 数据的分析本节综合与测试试讲课ppt课件
展开中国网民数量:7.51亿半年增长率:2.7%
中国注册网站数量:344.3万个
手机网民:7.236亿 占网民总数:96.3%
月均网络交易: 16亿笔
每日新发微博数量: 1亿+条
注册微博用户数: 2.9071亿
发布的网页数量:866亿页年增速:~40%
网络直播用户:3.43亿 占网民总数:47.1%
数据分析就是在一大批杂乱无章的数据中,运用数字化工具和技术,探索数据内在的结构和规律,构建数学模型,并进行可视化表达,通过验证将模型转化为知识,为诊断过去、预测未来发挥作用。
一、特征探索 数据特征探索的主要任务是对数据进行预处理,发现和处理缺失值、异常数据,绘制直方图,观察分析数据的分布特征,求最大值、最小值、极差等描述性统计量。
实践:打开并运行配套学习资源包“第五章\课本素材\程序5---3数据预处理”,观察数据预处理结果.
(1)数据清洗,发现缺失值 x=0 data["price"][(data["price"]==0)]=Nne fr i in data.clumns: fr j in range(len(data)): if(data[i].isnull())[j]: data[i][j]="64" x+=1 print(x)
(2)异常值处理中,利用画散点图发现异常值部分. data2=data.T price=data2.values[2] cmt=data2.values[3] pyl.plt(price,cmt,"") pyl.shw()
(3)求最大值和最小值.pricemax=da2[2].max()pricemin=da2[2].min()cmmentmax=da2[3].max()cmmentmin=da2[3].min()
利用数学计算(非程序5-3)得到极差的例子
(4)求极差,程序5--3pricerg=pricemax-pricemincmmentrg=cmmentmax-cmmentmin
(5)求组距,程序5-3pricedst=pricerg/13cmmentdst=cmmentrg/13
(6)绘制价格直方图,程序5-3pricesty=npy.arange(pricemin,pricemax,pricedst)pyl.hist(da2[2],pricesty)pyl.shw()(7)绘制评论数直方图cmmentsty=npy.arange(cmmentmin,cmmentmax,cmmentdst)pyl.hist(da2[2],cmmentsty)pyl.shw()
关联分析就是分析并发现存在于大量数据之间的关联性或相关性,从而描述一个事物中某些属性同时出现的规律和模式。
(1)扫描历史数据,并对每项数据进行频率次数统计。(2)构建候选项集C1,并计算其支持度,即数据出现频率次数与总数的比。(3)对候选项集的支持度进行筛选,筛选的数据项支持度应当不小于最小支持度, 从而形成频繁项集L1。(4)对频繁项集L2进行连接生成候选项集C2,重复上述步骤,最终形成频繁K项集或 者最大频繁项集。
K-平均算法是一种经典的自下而上的聚类分析方法.K-平均算法的基本思想就是在空间N个点中,初始选择K个点作为中心聚点,然后将N个点分别与K个点计算距离,选择自己最近的点作为自己的中心点,再不断更新中心聚焦点,以达到”物以类聚,人以群分”的效果.
聚类分析的基本算法(1)从数据点集合中随机选择K个点作为初始的聚集中心,每个中心点代表着每个聚集中心的平均值。(2)对其余的每个数据点,依次判断其与K个中心点的距离,距离最近的表明它属于这项聚类。(3)重新计算新的聚簇集合的平均值即中心点。整个过程不断迭代计算,直到达到预先设定的迭代次数或中心点不再频繁波动。
数据分类是数据分析处理中最基本的方法。数据分类通常的做法是,基于样本数据先训练构建分类函数或者分类模型(也称为分类器),该分类器具有将待分类数据项映射到某一特点类别的功能。
数据分类和回归分析都可用于预测,预测是指从基于样本数据记录,根据分类准则自动给出对未知数据的推广描述,从而实现对未知数据进行预测。
贝叶斯分类技术在众多分类技术中占有重要地位,也属于统计学分类的范畴,是一种非规则的分类方法。 贝叶斯分类技术通过对已分类的样本子集进行训练,学习归纳出分类函数利用训练得到的分类器实现对未分类数据的分类。
对离散变量的预测称作分类,对连续变量的分类称为回归
如下表所示是某网络商城客户购物行为特征的一组统计资料。已知某客户购物行为特征A的数值为182.8,特征B为数值58.9,特征C为数值26,请问这是是重要客户还是普通客户?
根据表5-4的资料,得到一个已分类的样本子集:X=[[182.8,81.6,30],[180.4,86.1,29],[170.0,77.1,30],[180.4,74.8,28],[152.4,45.3,24],[167.6,68.0,26],[165.2,58.9,25],[175.2,68.0,27]]Y=[1,1,1,1,0,0,0,0](1代表重要客户,0代表普通客户)。
imprt numpy as npX=np.array([[182.8,81.6,30],[180.4,86.1,29],[170.0,77.1,30],[180.4,74.8,28],[152.4,45.3,24],[167.6,68.0,26],[165.2,58.9,25],[175.2,68.0,27]])Y=np.array([1,1,1,1,0,0,0,0])frm sklearn.naive_bayes imprt GaussianNBclf=GaussianNB().fit(X,Y)print(clf.predict([[182.8,58,9,26]]))
程序结果为:[0],所以这人为普通客户。
高中信息技术粤教版 (2019)必修1 数据与计算第五章 数据处理和可视化表达5.3 数据的分析5.3.1 特征探索完美版ppt课件: 这是一份高中信息技术粤教版 (2019)必修1 数据与计算<a href="/xx/tb_c4007099_t3/?tag_id=26" target="_blank">第五章 数据处理和可视化表达5.3 数据的分析5.3.1 特征探索完美版ppt课件</a>,共17页。PPT课件主要包含了数据的分析,特征探索,关联分析,聚类分析,聚类分析介绍,数据分类等内容,欢迎下载使用。
高中粤教版 (2019)1.2.2 编码的基本方式背景图ppt课件: 这是一份高中粤教版 (2019)1.2.2 编码的基本方式背景图ppt课件,文件包含53数据的分析-新教材粤教版2019高中信息技术必修一课课件28pptx、53数据的分析-新教材粤教版2019高中信息技术必修一课练习docx等2份课件配套教学资源,其中PPT共28页, 欢迎下载使用。
信息技术必修1 数据与计算5.3.1 特征探索教学演示ppt课件: 这是一份信息技术必修1 数据与计算5.3.1 特征探索教学演示ppt课件,共32页。PPT课件主要包含了3数据分析,什么是数据分析,李海青,数据分析,31特征探索,缺失值,异常值,数据清洗,数据特征探索程序,32关联分析等内容,欢迎下载使用。