《深度学习》课件 第2章 深度学习的数学基础.pdf
《《深度学习》课件 第2章 深度学习的数学基础.pdf》由会员分享,可在线阅读,更多相关《《深度学习》课件 第2章 深度学习的数学基础.pdf(37页珍藏版)》请在咨信网上搜索。
1、深度学习BIGDATA全国高校标准教材云计算姊妹篇,剖析大数据核心技术和实战应用第二章深度学习的数学基础2.1线性代数212概率与统计 2.3多元微积分2.1线性代数第二章深度学习的数学基础 2.L1向量空间点空间中的每一个点与向量就建立了一映射。因为向量与 点之间的这种一映射关系,可以把向量转化成几何空间中 实在的点,利用点空间单方法来处理向量,这样处理就更加 直观;或者把点空间的概念和方法推升到商董中,例如:借助几何中点空间的思路,就形成向量空间。募A我们把点空间的概念推广到向量中,。0尸o=(o,o)X 轴2.1线性代数第二章深度学习的数学基础 2.L1向量空间直观上,空间是一个几何的概
2、念,但本质上,空间是由数据 的运算规则确定的。数学上,空间不仅意味着定义了集合、集合成员、集合元素的运算及其运算规律;并且所有集合元 素(即运算对象)按照这些运算规律运算后,运算结果仍然 属于这个集合,即运算具有封闭性。空间就是由某些运算规 则规定下形成的封闭集合,集合中的元素无论如何运算,结 果仍然在该集合中。直观地看,就像密闭箱中的气体分子,无论如何运动都超不出箱体的范围。2.1线性代数第二章深度学习的数学基础 2.L1向量空间给定一个非空集合是,和数域集合F,在V中定义了加法运算+,在,与F之间定义了数乘运算,,%A y c匕ke F,如 果该加法运算+和数乘运算祠时满足下面所有规则,则
3、称,是F上的向量空间或线性空间。(1)规则1:若见夕6,则仇+夕6,(2)规则 2:若a邛 CV,则a+S=/?+a(3)规则3:若见EV,贝l(a+夕)+y=a+(夕+y)(4)规则4:存在零元素0 e,对都有0+a=a(5)规则5:对任意向量a e,都存在负元素-a e U使得ct+(a)=02.1线性代数第二章深度学习的数学基础 2.L1向量空间(6)规则 6:若a EV,k e F,则/c-a eV,(7)规则7:若a,/3 eV,k E F,贝Ik (a+夕)=k a+k,B(8)规则8:若a E V,k,l E F r 贝U(k+l)-a=k-a+l-a(9)规则9:若a W匕 F
4、,贝认,Q,a)=(kl)a(io)规则10:若a c U,则存在一个单位元素1 e尸使得1-a=a2.1线性代数第二章深度学习的数学基础 2.L1向量空间通常,常见的线性空间如下所示。(1)Rmxn:所有血x九的实矩阵在通常矩阵加法和数乘意 义下对实数域R构成线性空间,通常记为RM*九o(2)Fnx:次数小于等于n的全体实数多项式函数、FnM=Zi=oaixan-0必 w R集合(含0多项式)在通常的函数加法和函数数乘的意义下对实数域R构成线性空间 通常记为4 划。(3)Nul;:域性方程4%=0的解集合记作N%,则在通常 向量加法和数乘意义下N加4是实数域上的线性空间。(4)ColA:设4
5、=,an G Rmxn,则4的列的 线性组合,即其生成空间,记为、,、ColA=span(alf-,ab-,an)r在通常向量加法和数乘意义 下CoU是实数域上的线性空间。2.1线性代数第二章深度学习的数学基础 2.L2矩阵分析设尸为数域,由F中任意数量/元素沿行列两个方向有序排列 的m行n列的阵列/表格称为矩阵。若第i行第j列的元素为四/,则矩阵可以记为(a0)mxn,常记 作an aln4=(aij)mxn=::-aml amn-2.1线性代数第二章深度学习的数学基础 2.L2矩阵分析设A=(atj)mxn和B=(%乂71是两个加x八矩阵,则有下 面成立。(1)若 4=B,则有啊=btj,
6、i=1,=L,八。(2)若B=aA,贝II有灰/=aaijf i=1,mJ=L。(3)右C=(Cij)mxn=+B,则有为=&j+如=LmJ=L(3)右C=(Cij)mxn=AB f 则有Qj=Zfc=i aikkj f i=L1mJ=L/。(4)若B=At,则有瓦j=ajifi=1,皿j=1,。全国高校标准教材云计算姊妹篇,剖析大数据核心技术和实战应用第二章深度学习的数学基础2.1 线性代数2.2 概率与统计2.3 多元微积分2.2概率统计第二章深度学习的数学基础 2.2概率与条件概率概率公理化定义设从事件/实验的样本空间。到闭区间0,1上的有界映射是P:C T 0,1,若事件/实验/C Q
7、,并且满足以下三条件,则称PQ4)G 0,1是事件/实验4的概率,(1)pe 0,1 z即概率取值一定在闭区间0,1中,称 为有界性公理,本公理也说明了PG4)20,故有称为非负性 公理(2)P(Q)=1,即必然事件概率为1,样本空间中总有某些 样本是要发生的,样本空间中全部样本都不发生是不可能的,称为规范性公理(3)设互不相容事件4u。(即若i丰,则4 n 4=。)的 和事件/实验的概率等各个事件/实验的概率和,即尸(U连a。=1PG4 Q,称为可列可加性公理。2.2概率统计第二章深度学习的数学基础 2.2概率与条件概率概率的最基本性质(1)不可能事件的概率为0,即P(。)=0。(2)有限可
8、加性:n个(n是有限的)两两互不相容事件 若ku Q(即若i。/则4 n勺=。)的和事件(即U泮14左)的概率等于各个事件概率G4 Q#=12的和 Sk=lPQ4 Q,即:P(Uk=lk)=%PG4 Q。(3)单调性:若事件A是事件B的子集,则事件A发生的概 率不大于事件B发生的概率。即,若/U B U Q,则有 W P。(4)互补性:若事件A c Q是事件A c。的对立事件,即 AUA=Q,贝(有P(A)+PQ4)=lo2.2概率统计第二章深度学习的数学基础 2.2概率与条件概率条件概率的定义在样本空间。中,事件B发生的概率是尸(B),在事件B发生 的条件下事件A也发生的概率称为条件概率,记
9、作P(川B)=符;同理,在事件A发生的条件下事件B发生的 条件概率为。(引/)=需。2.2概率统计第二章深度学习的数学基础 2.2.2贝叶斯理论全概率公式贝叶斯理论在推断时的最大特点是该方法把推断目标的数据 信息、主观经验、先验知识等各类事先已知信息抽象更新了 先验概率,根据得到的后验概率对未知信息进行推断。假设样本空间。的完备事件是。Ln,X是样本空间Q 内某任意事件,根据概率公理体系,易得:(n、P(x=x)=P i=l)几 n=之尸(=之尸(工懈)尸(团i=l i=l2.2概率统计第二章深度学习的数学基础 2.2.2贝叶斯理论贝叶斯公式的基本形式根据条件概率的定义,可以求解出任意一个的完
10、备事件%,郎,。九在事件X=%发生后的条件概率如下d V _ C _ 尸(xej _ P(x=*Jp(a)_ p(x=x附尸(q)_ 尸(X附尸 rui A 一 刃一 p(x=x)一 一 一一 p(x=W)p力卜陷)尸 1=1 1=1P(4)表示在不知道事件X=%发生的情况下事件为的发生概 率,代表着人们事先(此处主要是指在事件X=%发生之前 对的认识,故称为先验概率旦是,当人们获得了新信 息后(此处主要是指已知了事件X=%的发生)会综合分析 这些新信息(此处是指事件X=式的信息),从而会对事件 为的发生产生了新认识,即在事件X=%发生后的条件下事 件为发生的条件概率P(%|x=x),故称为后
11、验概率。2.2概率统计第二章深度学习的数学基础 2.2.2贝叶斯理论贝叶斯估计的基本形式假设待估计的未知参数8(因为估计对象往往是未知参数,故这里用未知参数。代替估计对象)的先验分布是兀(。),在 获得样本(因为结果事件往往是抽样样本的结果,故这里用 样本/抽样来作为结果事件)后,即在X=%的条件下的条 件分布记为万(81%),则有丫、=M)/(幽V I/qX)_ j/(印)乃(。)09&m(x)=j hx,OdO=j f x07i0d0 0 02.2概率统计第二章深度学习的数学基础 2.2.2贝叶斯理论贝叶斯估计的基本形式贝叶斯理论认为,关于。的一切统计和推断都是必须基于参 数。的后验分布兀
12、(。|%),兀(。|%)是贝叶斯推断的最主要依据 和出发点。用后验分布兀(。|外的均值作为未知参数。的估计 称为后验期望估计,其计算公式如下所示:j 6hx,e)de jV I/J v)现 x)f(x0)7r(0)d0其中久卧别是联合分布和边缘分布,需兀(%)是 用密度函数表示的贝叶斯公式,或者叫作贝叶斯公式的密度 函数形式。2.2概率统计第二章深度学习的数学基础 2.2.2信息论基础信息必须满足以下四条公理:(1)若信源符号四,%的概率是p(a)p(%),且p)P(Qj),贝(臼)I(Qj)o(2)若信源符号四的概率是pSD,且p(a。=0,即心是不 可能事件,则/(四)t oo,不可能事件
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 深度学习 深度学习课件 第2章 深度学习的数学基础 深度 学习 课件 数学 基础
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【曲****】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【曲****】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。