大数据十大经典算法讲解.ppt
《大数据十大经典算法讲解.ppt》由会员分享,可在线阅读,更多相关《大数据十大经典算法讲解.ppt(35页珍藏版)》请在咨信网上搜索。
1、ThealgorithmofKmeans小组成员:徐佳、张俊飞、刘志伟、孔祥玉主要内容:主要内容:Kmeans实战实战聚类算法简介聚类算法简介Kmeans算法详解算法详解Kmeans算法的缺陷及若干改进算法的缺陷及若干改进Kmeans的单机实现与分布式实现策略的单机实现与分布式实现策略 聚类算法简介聚类算法简介123聚类的目标:聚类的目标:将一组向量分成若干组,组内数据是相似的,将一组向量分成若干组,组内数据是相似的,而组间数据是有较明显差异而组间数据是有较明显差异。与分类区别:与分类区别:分类与聚类最大的区别在于分类的目标事先已分类与聚类最大的区别在于分类的目标事先已知,聚类也被称为无监督机
2、器学习知,聚类也被称为无监督机器学习聚类手段:传统聚类算法聚类手段:传统聚类算法划分法划分法层次方法层次方法基于密度基于密度方法方法基于网络方法基于网络方法基于模型方法基于模型方法什么是什么是Kmeans算法?算法?Q1Q1:K K是什么?是什么?是什么?是什么?A1A1:k k是聚类算法当中类的个数。是聚类算法当中类的个数。是聚类算法当中类的个数。是聚类算法当中类的个数。Summary:Kmeans是用均值算法把数是用均值算法把数据分成据分成K个类的算法!个类的算法!Q2 Q2:meansmeans是什么?是什么?是什么?是什么?A2A2:meansmeans是均值算法。是均值算法。是均值算
3、法。是均值算法。Kmeans算法详解(算法详解(1)步骤一:取得步骤一:取得k个初始初始中心点个初始初始中心点Kmeans算法详解(算法详解(2)MinofthreeduetotheEuclidDistance步骤二:把每个点划分进相应的簇步骤二:把每个点划分进相应的簇Kmeans算法详解(算法详解(3)MinofthreeduetotheEuclidDistance步骤三:重新计算中心点步骤三:重新计算中心点Kmeans算法详解(算法详解(4)步骤四:迭代计算中心点步骤四:迭代计算中心点Kmeans算法详解(算法详解(5)步骤五:收敛步骤五:收敛Kmeans算法流程算法流程1.从数据中随机抽
4、取从数据中随机抽取k个点作为初始聚类的个点作为初始聚类的中心,由这个中心代表各个聚类中心,由这个中心代表各个聚类2.计算数据中所有的点到这计算数据中所有的点到这k个点的距离,个点的距离,将点归到离其最近的聚类里将点归到离其最近的聚类里3.调整聚类中心,即将聚类的中心移动到调整聚类中心,即将聚类的中心移动到聚类的几何中心(即平均值)处,也就是聚类的几何中心(即平均值)处,也就是k-means中的中的mean的含义的含义4.重复第重复第2步直到聚类的中心不再移动,此步直到聚类的中心不再移动,此时算法收敛时算法收敛最后最后kmeans算法时间、空间复杂度是:算法时间、空间复杂度是:时间复杂度:上限为
5、时间复杂度:上限为O(tKmn),下限为,下限为(Kmn)其中,)其中,t为迭代次数,为迭代次数,K为簇的为簇的数目,数目,m为记录数,为记录数,n为维数为维数空间复杂度:空间复杂度:O(m+K)n),其中,其中,K为簇为簇的数目,的数目,m为记录数,为记录数,n为维数为维数决定性因素决定性因素Input¢roidsInput¢roidsSelectedkSelectedkMaxIterations&ConvergenceMaxIterations&ConvergenceMeassuresMeassures数据的采集和抽象初始的中心选择最大迭代次数收敛值 k值的选定 度量距离的
6、手段factorsfactors?主要讨论主要讨论初始中初始中心点心点输入的数输入的数据及据及K值值的选择的选择距离度距离度量量我们主要研究的三个方面因素。我们主要研究的三个方面因素。初始中心点的划分初始中心点的划分讨论初始中心点意义何在?下面的例子一目了然吧?讨论初始中心点意义何在?下面的例子一目了然吧?初始中心点初始中心点收敛后收敛后你你懂懂的的如何衡量如何衡量Kmeans算法的精确算法的精确度?度?在进一步阐述初始中心点选择在进一步阐述初始中心点选择之前,我们应该先确定度量之前,我们应该先确定度量kmeans的算法精确度的方法。的算法精确度的方法。一种度量聚类效果的标准是:一种度量聚类效
7、果的标准是:SSE(SumofSquareError,误差平方和误差平方和)SSE越小表示数据点越接近于越小表示数据点越接近于它们的质心,聚类效果也就越它们的质心,聚类效果也就越好。因为对误差取了平方所以好。因为对误差取了平方所以更重视那些远离中心的点。更重视那些远离中心的点。一种可以肯定降低一种可以肯定降低SSE的方法的方法是增加簇的个数。但这违背了是增加簇的个数。但这违背了聚类的目标。因为聚类是在保聚类的目标。因为聚类是在保持目标簇不变的情况下提高聚持目标簇不变的情况下提高聚类的质量。类的质量。现在思路明了了我们首先以缩现在思路明了了我们首先以缩小小SSE为目标改进算法。为目标改进算法。改
8、进的算法改进的算法二分二分Kmeans算法算法为了克服为了克服k均值算法收敛于局部的问题,提出了二分均值算法收敛于局部的问题,提出了二分k均值算法。该算法首先将所有的点作为一个簇,然后均值算法。该算法首先将所有的点作为一个簇,然后将该簇一分为二。之后选择其中一个簇继续划分,选将该簇一分为二。之后选择其中一个簇继续划分,选择哪个簇进行划分取决于对其划分是否可以最大程度择哪个簇进行划分取决于对其划分是否可以最大程度降低降低SSE值。值。伪代码如下:伪代码如下:将所有的点看成一个簇将所有的点看成一个簇当簇数目小于当簇数目小于k时时对于每一个簇对于每一个簇计算总误差计算总误差在给定的簇上面进行在给定的
9、簇上面进行K均值聚类均值聚类(K=2)计算将该簇一分为二后的总误差计算将该簇一分为二后的总误差选择使得误差最小的那个簇进行划分操作选择使得误差最小的那个簇进行划分操作二分二分Kmeans算法的效果算法的效果既然是改进算法就要体现改既然是改进算法就要体现改进算法的优越性。为此控制进算法的优越性。为此控制变量,在相同的实验环境下,变量,在相同的实验环境下,取相同的取相同的k值取。值取。选取相同的的距离度量标选取相同的的距离度量标准(欧氏距离)准(欧氏距离)在相同的数据集下进行测在相同的数据集下进行测试。试。一组实验结果一组实验结果一组不好的初始点产生的一组不好的初始点产生的Kmeans算法结果算法
10、结果二分二分kmeans产生的结果产生的结果要强调的是尽管只是这一组实验不得以得出二分要强调的是尽管只是这一组实验不得以得出二分kmeans的的优越性,优越性,但是但是经过大量实验得出的结论却是在大多数情况下经过大量实验得出的结论却是在大多数情况下二分二分kmeans确实优于朴素的确实优于朴素的kmeans算法。算法。THANK YOUSUCCESS2024/5/7 周二18可编辑全局最小值全局最小值二分二分kmeans真真的能使的能使SSE达到达到全局最小值吗?全局最小值吗?从前面的讲解可以看到二分从前面的讲解可以看到二分kmeans算法的思想有点类算法的思想有点类似于贪心思想。但是我们会似
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数据 经典 算法 讲解
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【a199****6536】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【a199****6536】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。