基于NMF初始化的非负双奇异值分解算法分析.pdf
《基于NMF初始化的非负双奇异值分解算法分析.pdf》由会员分享,可在线阅读,更多相关《基于NMF初始化的非负双奇异值分解算法分析.pdf(3页珍藏版)》请在咨信网上搜索。
1、第18 卷,第2 期2023年6 月贵阳学院学报(自然科学版)(季刊)JOURNAL OF GUIYANG UNIVERSITY Natural Sciences(Quarterly)Vol.18No.2Jun.2023基于NMF初始化的非负双奇异值分解算法分析李顺利,姚廷富,安莎莎,蔡渺(贵阳学院数学与信息科学学院,贵州贵阳550 0 0 5)摘要:随着大数据技术的发展,非负矩阵分解(NMF)日益成为目前最流行的模式识别方法之一,并广泛应用于文档聚类、图像处理、人脸识别、信号分析等多个领域。针对NMF中双因子矩阵的初始化问题,对非负双奇异值分解算法进行分析,数值实验表明该算法可以快速降低众多
2、基于NMF衍生算法的近似误差。关键词:非负矩阵分解;非负双奇异值分解;初始化;模式识别中图分类号:TP181Analysis of non-negative double singular Value decomposition(College of Mathematics and Information Science,Guiyang University,Guiyang 550005,Guizhou,China)Abstract:With the development of big data technology,Non-negative matrix factorization(NMF
3、)has increasingly be-come one of the most popular pattern recognition methods,and is widely used in document clustering,image processing,face recognition,signal analysis and other fields.In order to initialize the two-factor matrix in NMF,this paper analyzesthe non-negative double singular value dec
4、omposition algorithm,which can quickly reduce the approximate error ofmany NMFvariants.Key words:NMF;Double Singular Value Decomposition;Initialization;Pattern recognition1基础知识NMF算法的基本思想是对于给定一个非负数据矩阵A=(a)=a i,a 2.,a,Rn,该矩阵可以压缩分解为两个低秩矩阵W=(w)i =wi,w2,.,w R*和H=(h)=hi,h2,.,h,Rt*的乘积,即:AW H,一般地,k远小于m和n。为了
5、使数据矩阵A和两个因子矩阵的乘积WH距离最小,一般采用欧几里得距离进行度量,即:minllA-WHIl2=min Z(A,-(WH),)?W,H针对以上非凸优化问题,Lee 和Seung给出了如下乘性迭代算法:收稿日期:2 0 2 3-0 3-0 5基金项目:贵阳市科技局“市科技局-GYU-KYZ(2019-2020)PT06-04(项目编号:K1930000701225);贵阳学院2 0 2 3年创新创业类培育项目作者简介:李顺利,男,山东济宁人,副教授。主要研究方向:有限元、模式识别、图像处理。一 10 6 一文献标识码:A文章编号:16 7 3-6 12 5(2 0 2 3)0 2-0
6、10 6-0 3algorithm based on NMF initializationLI Shun-li,YAO Ting-fu,AN Sha-sha,CAI Miao(AH)ikWik(WHH)目前,以(1)式的迭代规则为基础,已经出现了大量的优秀成果2-5,由于NMF算法所具有的迭代性质,对因子W和H的初始化已经成为NMF改进方法是否成功的一个重要组成部分。但是大多数文献中的NMF算法对因子矩阵使用的随机非负初始化,收敛到局部最小值时可能要花费巨大的计算成本。2双奇异值分解W,H2.1双奇异值分解的基本原理本节介绍一种非常有效的初始化方法,称为非负双奇异值分解(Double Sing
7、ular Value Decomposition)。(WA)ki(WWH)(1)2期对于任意的矩阵A=R,若rank(A)=r min(m,n),则矩阵A 可以分解为A=Z=ljujf,其中2.,0为非零奇异值,uj,,为左右奇异向量。对于任意的kr,矩阵A的秩-k近似用F范数表示为:A f,gju,j=arg rmin,/-Cll(2)其中C=u,o,若矩阵A为非负矩阵,可以对等式(2)进行修正,以得到A的非负近似,并给出因子矩阵W和H的初始值,即每个秩一矩阵Ci=ujg都近似为其非负部分C.,随后,根据选定C.对应的j,uj,对(W,H)进行初始化。综上所述,双奇异值分解的基本步骤可以描述
8、为:第一步:计算矩阵A的前k个奇异值和对应的左右奇异向量。第二步:根据奇异向量得到对应的秩一矩阵1C1-1。第三步:提取(C)=1中每个秩一矩阵的正部分和各自的奇异值和对应的左右奇异向量。第四步:根据第三步中的奇异值和对应的左右奇异向量对(W,H)进行初始化。2.2非负双奇异值分解算法为了分析非负双奇异值分解的算法,首先介绍两个定理6-9定理1:对于任意的矩阵CR,如果rank(C)=1,并且 C 可以表示为 C=C-C_,则max(rank(C,),rank(C_)2。定理1说明,如果将秩一矩阵的所有负值变为零,得到的矩阵的秩最多为2,但是如果矩阵的秩大于1,则上述结论不成立,由于C+是非负
9、的,根据Perron-Frobenius理论,C的最大左右奇异向量也是非负的。下一个定理说明,后面的奇异向量也是非负的。此外,由于C.的特殊结构,其奇异值可以快速实现。定理2:令矩阵C E R为秩一矩阵,则存在两个向量R和yR,使得C=xy,将向量x和y的正、负部分分别标准化为:x=IlyI,,则 C.和 C_ 的奇异值展开为:李顺利,等基于NMF初始化的非负双奇异值分解算法分析R(C)kU(:,j)和y=V(:,j)。第六步:根据定理2,提取的正、负元素分别为+、,分别计算范数=norm()、=norm(x_)提取y的正、负元素分别为y+、y-,分别计算范数yi=norm(y+)、y 2=n
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 NMF 初始化 非负双 奇异 分解 算法 分析
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。