基于Bagging-组合核函数相关向量机的短期负荷预测模型研究.pdf
《基于Bagging-组合核函数相关向量机的短期负荷预测模型研究.pdf》由会员分享,可在线阅读,更多相关《基于Bagging-组合核函数相关向量机的短期负荷预测模型研究.pdf(7页珍藏版)》请在咨信网上搜索。
1、 第 18 卷第 2 期 2023 年 6 月 电 气 工 程 学 报 JOURNAL OF ELECTRICAL ENGINEERING Vol.18 No.2 Jun.2023 DOI:10.11985/2023.02.013 基于 Bagging-组合核函数相关向量机的短期负荷预测模型研究*邱 山1 龚文杰2 张智晟1(1.青岛大学电气工程学院 青岛 266071;2.国网青岛供电公司 青岛 266002)摘要:为充分发挥组合核函数在相关向量机预测模型中的优势,有效提高负荷预测的精度,提出基于 Bagging-组合核函数相关向量机的短期负荷预测模型。首先构造了高斯核函数与 Morlet
2、小波核函数加权组合的组合核函数相关向量机的预测模型,然后采用粒子群算法对两个核函数的最优权值进行优选。为提高模型的泛化能力,采用 Bagging 算法对原始数据多次抽样构造训练样本集。通过实际算例仿真,与多种相关向量机预测模型对比分析,验证了该模型具有较好的预测精度。关键词:短期负荷预测;相关向量机;组合核函数;Bagging 算法;小波核函数 中图分类号:TM715 Research on Short-term Load Forecasting Model Based on Bagging-combined Kernel Function Relevance Vector Machine Q
3、IU Shan1 GONG Wenjie2 ZHANG Zhisheng1(1.College of Electrical Engineering,Qingdao University,Qingdao 266071;2.Qingdao Electric Power Company of State Grid,Qingdao 266002)Abstract:In order to give full play to the advantages of the combined kernel function in the relevance vector machine forecasting
4、model and effectively improve the accuracy of load forecasting,a short-term load forecasting model based on the Bagging-combined kernel function correlation vector machine is proposed.Firstly,the forecasting model of combined kernel function relevance vector machine is constructed by weighted combin
5、ation of Gaussian kernel function and Morlet wavelet kernel function,and then the particle swarm optimization algorithm is used to optimize the optimal weights of the two kernel functions.In order to improve the generalization ability of the model,the Bagging algorithm is used to sample the original
6、 data multiple times to construct a training sample set.Through the simulation of actual example,compared with a variety of relevance vector machine forecasting models,it is verified that the proposed model has good prediction accuracy.Key words:Short-term load forecasting;relevance vector machine;c
7、ombinatorial kernel function;Bagging algorithm;Morlet wavelet kernel function 1 引言 高精度的短期负荷预测是电力系统调度控制的基础,是电网安全稳定运行的前提1。目前学者们已将多种智能方法应用于负荷预测中,包括人工神 *国家自然科学基金资助项目(52077108)。20210810收到初稿,20220520收到修改稿 经网络、支持向量机、相关向量机2-4等。支持向量机通过核方法进行非线性分类,是一个具有稀疏性和稳健性的分类器,其分类预测结果由支持向量决定,因此支持向量机能抓住关键样本并“剔除”大量冗余样本,在短期负荷
8、预测中取得了不错的效果。如文献5通过运用支持向量机,结合结构风险最小化原则对短期负荷进行预测,降低了对预测经验的依赖。但是支持向量机要求核函数构成的矩阵必须月 2023 年 6 月 邱 山等:基于 Bagging-组合核函数相关向量机的短期负荷预测模型研究 143 是正定的,并且在训练中会出现支持向量增多,导致过拟合和计算速度下降的问题。相关向量机(Relevance vector machine,RVM)仅需要对核参数进行设置,需要调节的参数少,计算量相对较小6,可有效克服支持向量机的不足,因此相关向量机在短期负荷预测领域已得到了较好的应用。文献7首先寻找与待测日有相似特征的数据,然后利用相
9、关向量机进行预测得到预测结果,不仅预测结果优于支持向量机,还能得到支持向量机无法得到的概率值。但常规相关向量机通常采用单一核函数,无法体现数据全部特性,导致预测精度有时不满足要求,所以有学者提出构建组合核函数的方法来弥补单一核函数的不足。如文献8构建高斯核函数和二次多项式核函数组成的组合核函数 RVM,并与高斯核函数和张量积线性样条函数组成的组合核函数 RVM以及高斯核 RVM、多项式核 RVM、样条核 RVM 等单一核函数 RVM 模型进行对比,验证得出不同类型组合核函数比单一核函数预测精度更高,其中高斯核与多项式核的组合核函数 RVM 效果最好。但常规组合核函数 RVM 对变化较为剧烈的大
10、样本高维数据预测效果不理想。小波分析理论在处理非平稳信号问题时有不错的效果,拥有较好的局部化分析能力,因此将小波函数构造成为向量机的核函数,在突变点信号分析与预测上都有良好表现。同时由于小波核函数的稀疏性,也可以降低计算量,提高训练速度。如文献9中将小波核函数应用到支持向量机的构造中,提升了模型的计算速度和精度。本文构建了基于 Bagging-组合核函数相关向量机的短期负荷预测模型。首先构建高斯核函数和小波核函数加权组合的组合核函数 RVM 预测模型,将高斯核函数与小波核函数组合,共同对数据进行处理,可使每个核函数充分发挥各自特点。针对电力系统负荷波动的特点,通过粒子群算法优化组合权重。Bag
11、ging算法作为一种集成算法通过对数据集进行多次抽取,可有效降低结果的方差,提升模型的预测准确率10,已被广泛应用于预测领域。本文采用 Bagging 算法对原始数据多次抽样构造训练样本集,结合实际算例仿真,通过与多种相关向量机预测模型对比得出,本文所提模型具有较好的预测精度。2 组合核函数相关向量机短期负荷预测模型 2.1 相关向量机 相关向量机基于贝叶斯理论,通过选择合适的核函数,将原本低维空间中的非线性问题转化为高维空间中的线性问题,利用最大化后验概率和最大似然方法得到相关向量和相应权值,多用于解决分类回归预测的问题11。设输入值为=1Niix,目标值为T12,Ntt tt=?,其中 N
12、 是样本总数,则 x 与 t符合以下关系 1(,)NiiiitK x x=+(1)式中,(,)iK x x是选用的核函数,i代表不同权重,i是均值为零,方差为2的高斯噪声。首先可以合理假设=1Niit是彼此独立的随机变量,在已知=0Nii与2的条件下,t 的概率分布如下 22222|(,)(2)exp()2Ntp t=(2)式中,T012,N =?,为核函数矩阵,可表示为 1112121222121(,)(,)(,)1(,)(,)(,)1(,)(,)(,)NNNNNNK x xK x xK x xK x xK x xK x xK xxK xxK xx=?(3)求解式(3)可以利用最大似然估计的
13、思想,但可能会造成类似于支持向量机中支持向量过多的问题,所以为加上先决条件,它们的概率分布服从标准正态分布 1()(0,)iiiipN=(4)可以得到 222*(|)(|,)(,|)d d dp ttp tpt =(5)式(5)可以用贝氏定理拆开,变成定积分形式,经过替换后得到 *2222*(|)(|,)(|,)(,|)d d dp ttp tptpt =(6)然后就可以用超参数替代求近似解,并得出定积分结果 222,(,)argmax(,|)MPMPpt =(7)22*(|)(|,)(|,)dMPMPMPMPp ttp tpt=(8)现在只需要求出两个超参数的解就可以得到结 电 气 工 程
14、学 报 第 18 卷第 2 期期 144 果,通过对两个超参数求偏微分等于零的解得到迭代公式 new2iii=(9)22 new0()NiitN=(10),1iii i=(11)式中,i,i 是中第i项在对角线上的元素。先给出两个超参数的初始值,然后由迭代公式不断更新,就能逼近MP和2MP。在足够多的更新之后,大部分的i会接近无限大,即对应的i为0,其他的i会稳定接近有限值,与之对应的ix就称之为相关向量12-13。2.2 高斯核函数与小波核函数加权组合的组合核函数相关向量机模型 核函数的选择与构建对最终预测结果有很大影响,核函数选用与构建得当能很好地提高模型预测精度14。在目前被选用的核函数
15、中,高斯核函数是局部核的典型,能较好地反映局部关系15-16,高斯核函数具有较好的灵活性,可将有限维数据映射到高维空间,使数据线性可分。高斯核函数如式(12)所示 212(,)exp2iixxK x x=(12)式中,2是宽度因子。单一的高斯核函数无法很好地解决数据不平稳或有突变点的问题,并且在训练数据较多的情况下相关向量机的预测效果并不理想。小波分析具有良好的多尺度特性,在每一个尺度下,通过将信号平移伸缩,就能得到信号在所在位置所有的频率成分,同时得到其时域上所在的位置,所以能很好处理非稳定信号分析问题。并且由于小波核函数是近似正交的,因此有助于提高稀疏性,加快训练速度17-18。Morle
16、t小波核函数建立在母小波函数基础上,可以表示为 2()cos(1.75)exp2xxx=(13)通过平移不变定理,构造适用于向量机的Morlet小波核函数19,其公式为 2221()(,)cos(1.75)exp2diiiiixxxxKx x=(14)式中,是伸缩因子。因此本文构造了高斯核函数与Morlet小波核函数加权组合的组合核函数相关向量机预测模型。由小波核函数与高斯核函数构造的组合核函数如式(15)所示 12(,)(1)(,)iKK x xKx x=+(15)式中,为每个核函数的权重。组合核函数RVM预测模型如图1所示。图 1 组合核函数 RVM 模型图 组合核函数权重的取值决定了组合
17、模型的预测精度,本文采取粒子群算法对组合权重进行优选,其中目标函数选取为平均绝对误差,得到令目标函数最小的权重系数。将高斯核函数与小波核函数线性组合,能很好地发挥双核优势,取长补短,有效提高了模型预测精度。3 基于 Bagging-组合核函数相关向量机预测模型 Bagging算法是一种集成算法,它的思想是在训练集取样时,随时有放回地抽取多个训练集,形成若干个弱学习器,每个弱学习器独立训练进行预测,最后将每个弱学习器组合形成一个强学习器,得到最终预测结果20。为提高模型的泛化能力,本文采用Bagging算法对原始数据多次抽样构造训练样本集。通过对训练集多次重复采样,构造多个弱学习器,将每个训练集
18、单独放入组合核函数RVM模型中进行训练和预测,能有效提高整个预测过程中的稳定性,对某些误差较大的点有很好的改进,提高了整个模型的泛化能力。综上,本文首先利用Bagging算法抽样构造样本集,将历史负荷数据以及天气条件等影响因素作为输入数据,构建组合核相关向量机预测 模型进行短期负荷预测。具体预测模型如图2 所示。月 2023 年 6 月 邱 山等:基于 Bagging-组合核函数相关向量机的短期负荷预测模型研究 145 图 2 预测模型图 4 算例分析 4.1 模型建立及数据预处理 为了验证本文所提模型的预测效果,选取某地区电网实际负荷数据进行算例仿真。负荷数据采样周期为15 min,即每日采
19、样96个负荷数据。其他影响因素还包含日最高气温、最低气温、工作日类型、降水概率、平均气温。在进行预测之前,首先要对数据进行归一化处理21-23。选取预测日前两周的历史负荷数据以及天气条件等影响因素构成训练集。Bagging算法抽样时随机抽取10天的数据,共抽取五组数据构成5个弱学习器。在进行负荷预测时,当前预测点为t时刻,则选取前一日t、t+1、t1时刻历史负荷数据(共3维),以及当日最高气温、日最低气温、工作日类型(工作日为1,休息日为0)、天气因素(雨雪等恶劣天气影响因子为0,阴天多云影响因子为0.5,晴天影响因子为1)、平均气温、降水概率(共6维)形成输入矩阵(共9维),t时刻的预测值为
20、输出值(共1维)。本文预测模型中高斯核函数核宽为2,小波核函数中伸缩因子为0.4。在使用粒子群算法时,设置初始粒子数为50,迭代次数为300次,粒子速度最大值为0.4,最小值为0.4,惯性权重的最大值为0.95,最小值为0.4。本文选取了高斯核RVM预测模型(模型1)、小波核RVM预测模型(模型2)、高斯核与小波核组合核函数RVM预测模型(模型3)、高斯核与多项式核组合核函数RVM预测模型(模型4)和基于Bagging-高斯核与小波核组合核函数RVM预测模型(模型5)进行对比。模型1、模型2、模型3和模型4用于对比不同组合核函数RVM与单一核函数RVM模型预测精度的差异;模型3与模型5用于验证
21、采用Bagging算法对模型预测精度的影响。4.2 算例结果分析 为验证本文提出模型的有效性,分别用5种模型进行负荷预测,预测结果如图3所示。图 3 工作日 5 种模型负荷预测曲线 图3中5种模型预测曲线都能反映一日负荷的变化情况,负荷的最小值出现在5 h附近,11 h和20 h出现两个负荷峰值。5种预测模型精度分别用平均绝对误差、最大误差百分比和方均根误差进行评判,结果如表1所示。表 1 工作日 5 种模型预测误差分析 预测模型EMAPE(%)Emax(%)RMSE/MW 模型 1 1.52 4.27 55.440 5 模型 2 1.67 7.48 59.368 0 模型 3 1.18 3.
22、96 34.293 1 模型 4 1.41 4.45 38.190 7 模型 5 1.01 3.52 32.089 1 通过表1可以得出,与模型1和模型2对比,在平均绝对误差上模型3降低了0.34%和0.49%,模型4降低了0.11%和0.25%,意味着组合核函数RVM预测模型体现出了组合核函数的优势,不同核函数各自发挥作用,平均绝对误差相较于单一核函数RVM预测模型都有所下降。同时模型3与模型4在方均根误差上也有明显缩小。模型3相比于模型4平均绝对误差下降了0.23%,最大误差也下降了0.49%,方均根误差也下降了4 MW,可见由于在核函数中加入小波核函数,能有效改善预测误差较大点的预测结果
23、,从而高斯核与小波核的组合核函数预测效果是优于高斯核与多项式核的组合核函数的。模型5与其他模型相比,平均绝对误差分别下降0.51%、0.66%、0.17%和0.40%,最大误差分别下降0.75%、3.96%、0.44%和0.93%,方均根误差也是5种模型中最小的,约32 MW。由此可以得出基于Bagging-组合核函数RVM预测模型预测精度 电 气 工 程 学 报 第 18 卷第 2 期期 146 最高。同时与模型3相比,可以看出Bagging算法的引入进一步降低了组合核函数RVM模型预测结果的误差。为继续验证基于Bagging-组合核函数RVM预测模型是否能够连续多天保持较高的预测精度,用5
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 Bagging 组合 函数 相关 向量 短期 负荷 预测 模型 研究
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。