人工智能赋能源网荷储协同互动的应用及展望

摘要:构建新型电力系统是能源电力行业推动国家碳达峰、 碳中和战略目标的关键举措。新型电力系统的主要特征之一 是源网荷储高效协同,人工智能是实现源网荷储高效协同的重要赋能技术。该文对人工智能赋能源网荷储协同的应用需求与理论进行深入分析,并对源网荷储协同关键环节涉及的人工智能技术的应用现状、技术瓶颈及发展趋势,进行分析、总结和展望。提出以数字孪生为主要支撑框架的源网荷储协同应用体系,深入总结了功能要素、协同策略及人工智能赋能作用,并展望了人工智能赋能源网荷储协同的应用前景。期望该文对我国新型电力系统构建过程中人工智能的深度融合应用提供参考及启示。

关键词:人工智能;源网荷储协同;数字孪生;瓶颈分析;技术趋势;应用展望

 

一、 引言

随着“双碳”进程的不断深入推进,我国能源电力高质量发展面临新形势和新任务。2021 年,我国能源活动碳排放量超过 102 亿吨,占全国碳排放总量 88%以上,其中电力行业碳排放超过 40 亿吨[1]。2022 年,国家明确提出加快构建适应新能源占比逐渐提高的新型电力系统。习近平总书记在《正确认识和把握我国发展重大理论和实践问题》指出要正确认识和把握碳达峰、碳中和,要先立后破、统盘谋划,对能源电力碳达峰、碳中和的发展提出更高要求。

能源生产加速清洁化、能源消费高度电气化、能源利用集约高效化是能源低碳发展的重要路径。能源主体调整带动全国能源布局发生颠覆性变化,大型新能源基地和大规模分布式电源建设快速推进;能源深度脱碳带来社会生产、生活和用能方式转变,一方面用能与绿色能源打通,另一方面电能替代加速推进;能效提升成为关键问题和系统问题,需要资源配置方式进行系统性改变,以电能为能源主要承载形式、以能源互联网为资源配置方式。电力系统作为能源系统的重要组成部分以及“双碳”目标的主要参与者、推动者,其源网荷储等关键环节迎来深刻变革:

  • 新能源将成为装机主体,电源由可控连续出力的煤电装机占主导,向强不确定性、弱可控出力的新能源发电装机高占比转变,电力供给由可控趋向波动,发电能力从确定转向随机,系统支撑力度减弱、频率调节能力问题凸显。此外,电源物理结构、控制方式、动态行为、设备交互等方面也与传统电源差异显著,系统安全性面临较大挑战[2-3]。
  • 新能源占比逐步提升,新能源波动幅度与频次增加,电网灵活调节能力日趋紧张,弃电与缺电交互出现,电网正由源随荷动的实时平衡、一体化控制的稳定电网,转变为源荷互动的非完全实时平衡、集中–分布协同控制的波动电网[4-5]。亟需精细化利用现有源荷调节资源,充分挖掘潜在调节能力,发展源荷综合平衡与高效智能决策技术。
  • “双碳”目标推动终端电能替代加速发展,基本负荷持续增长[3],叠加近年持续涌现的温升型、冲击型负荷,负荷尖峰化特征突出,电力供应偏紧现象时有出现,“保供应”面临困难。同时,负荷形态上,由传统刚性、纯消费型负荷,向柔性、生产与消费兼具型负荷转变[6-7],行为驱动大于计划主导,源–荷角色转换呈现随机性,对外表现呈现不确定性。亟需挖掘负荷侧灵活资源,并与新能源进行高效匹配,保障电力供应平稳有序。
  • 储能是电力系统中不可或缺的重要要素和快速灵活调节资源,其由以抽蓄集中式接入电网过渡到抽蓄和电化学储能等多元化储能因地制宜协调[8]接入发输配用各环节。但目前储能建设和运营成本难以转化为与之匹配的能源转化效率和稳定运行寿命;同时,缺少集群协同及分布式聚合等运行调控机制[8]。亟需建立储能、特别是化学储能的安全质量强制性标准,推动冷、热、抽、化等多种储能方式多元、多点、多域的资源高效匹配和联动互济。

综上所述,当前电力系统的平衡驱动模式,也即人为规划的外在物理驱动,已不能适用源荷波动性增强和灵活性资源相对不足带来的电力电量时空匹配需求,需要转变平衡驱动方式,发展数据驱动下的系统自适应、自平衡和自趋优理论,支撑新型电力系统的加速构建。

人工智能技术,因其近年来在无人驾驶、机器人控制等领域攻克了一系列规模庞大、特征复杂且具有相当不确定的难题而倍受瞩目。人工智能的本质是构建具有发掘事物潜在关联及泛化应用能力的信息载体,旨在探索一种事物间潜在逻辑的构建方式,其模型训练可以认为是基于数值及统计方法实现的解析参数特征模型构建过程,同时得益于清晰模型结构及单一代数计算,实现了端到端快速求解计算,这既与源网荷储协同多要素随机及机理不明晰的痛点相对应,又满足电力电量平衡可靠对实时性的要求。本文将结合源网荷储协同需求以及人工智能现状和发展趋势,围绕源网荷储协同为何需要人工智能、源网荷储协同需要怎样的人工智能以及人工智能怎样赋能源网荷储协同这 3 个主要问题展开论述,为人工智能技术推动电力系统转型升级和高质量发展提供支撑。

 

二、人工智能赋能源网荷储协同研究概况

1. 源网荷储协同的必要性

新型电力系统构建面临严峻的系统动态波动难题和灵活可控资源匮乏难题,源网荷储协同(如图 1 所示),对于解决问题,存在以下两方面的重要价值。

人工智能赋能源网荷储协同互动的应用及展望

首先,源网荷储协同[9]通过对可调资源的聚合及源荷时空优化匹配,支撑电网安全稳定运行。电网的安全稳定问题,是新型电力系统建设需要首要解决的问题。面对源荷动态波动问题,无论是大规模跨区域的电力电量平衡[10],还是短期、日前或日内的实时调度,都面临重重困难。一个重要原因是灵活性火电机组、新兴负荷以及储能[11]等灵活可调资源个体分散,单体作用有限,且由于源网荷储系统分散自治,可调资源难以在统一时空维度下进行汇聚整合,因此难以形成可供电网调控的规模化资源。进行源网荷储协同,打破源、网、荷、储各要素之间的分隔界限,通过对可控资源进行时空聚合统筹及优化匹配,充分释放源荷互动潜力,在考虑电网线路传输容量及不增加额外备用的基础上,推进电网广域电力电量平衡。此外,通过微网与配网、微网之间、以及微网内部源、荷、储等资源的供需匹配,也可支撑配电网安全稳定和电能可靠供给。

其次,源网荷储协同通过价格驱动下的市场调节,引导要素流动支撑新型电力系统经济高效运行。在电力系统安全稳定的基础上,电网的高效运行,是新型电力系统经济运行的重要支点。出于考虑迎峰度夏、度冬,以及极端气候影响等因素下满足最大负荷,特别是尖峰负荷的电力保供需求,电网高备用运行,影响经济运行效率。同时,随着微网群的不断涌现,在能源生产、传输和消耗等环节包含多个利益主体,复杂的交互关系和用户自主行为使得配电网管控压力持续增加,各主体运营商的利益也难以得到保证,一定程度上阻碍了能源利用

效率的进一步提升。在未来的发展中将呈现如下的趋势:“双碳”目标的有序推进,驱动绿电需求及其交易迅速增长;市场机制和价格政策不断改革完善,特别是实时电价的出现,将促使互动响应大量涌现;电力系统形态多元多层发展,使交易主体出现规模性增长。通过省间或区域间的电力现货交易、调峰辅助服务市场潜力挖掘,以及不同运营商、聚合商等利益主体的源网荷储元素协同,发挥电力市场在能源资源优化配置中的作用,以效率为目标,以多元化、精细化的价格型、激励型措施引导要素高效流动,打通要素参与电力市场通路,激发要素参与源网荷储协同的活力,促进资源高效匹配,提高能源使用效率。

源网荷储协同的实质是通过释放规模化灵活资源调控潜力实现系统运行优化,具体表现在通过平衡供需时空分布差异提升体系可靠性、通过缓解源荷波动造成的系统调峰压力提升系统稳定性、通过促进市场对要素的引导趋优提升系统经济性。源网荷储协同在实施层面,需要复杂庞大的关联特征提取、泛逻辑关联构建及要素互联互动,其中涉及的数据、信息和知识规模及范围,远非单纯人力可以处理,需要新的技术手段进行支撑和驱动。

2. 源网荷储协同对人工智能的需求

电力系统经历了百年发展,其核心业务拥有完备的逻辑体系,是一套建立在严密物理逻辑之上并充分体现社会责任的业务闭环系统,而源随荷动是这一历史发展阶段相对高效的系统运行模式。电力系统的高效运行强调安全性和经济性,而电网安全稳定校核以及运行方式优化均建立在以动力学建模为基础的控制及运筹优化理论之上,结合数值计算对复杂机理动态及优化模型进行高精度求解仿真,形成具有高可靠性、泛用性及时效性的业务体系。随着新型电力系统的构建推进,多种量测以及外部信息的数据接入,其已成为结构复杂、设备繁多、多源数据交互的复杂巨系统,传统的解析方法受限于问题规模、变量维度、确定性边界以及依赖精确物理模型,在应对高维、时变、非线性问题时难以保证以计算时效为前提的计算可靠性。而人工智能技术的应用为以上问题的解决提供了一种有效的途径。

人工智能技术可支撑构建源网荷储协同模型 体系和动态演化系统,提升对不确定性的拟合表征能力。动态演化及协同建模方法对传统电网状态处理方法实现了补充,通过数据驱动对电力系统元件的状态特性随时间、运行状况和环境的变化进行参数化表征,突破机理模型的假设简化限制,提高系统分析评估的准确性。通过数字物理深度融合的动态演化协同建模,电力系统控制运行由“量测–控制”模式向多物理系统的精准映射、智能学习和预测控制等方式转变。

人工智能技术的应用能够提升系统安全稳定运行分析效率,提升系统对运行风险的辨识响应能力。新能源占比的不断攀升以及电力电子设备的高比例接入使系统故障机理复杂化,将使传统“建模仿真+预想故障”的电网安全控制体系在参数稳定性、时效性、适用性等多方面受到严重冲击。发展基于离线和在线数据的关联分析及因果推理方法,突破传统规则集合的重复与组合,实现基于数据驱动的系统状态预测、认知、判断、决策和管理,最终构建满足全局性和超实时性要求的电网安全稳定控制新机制,可有效解决稳定控制问题。

人工智能技术在复杂优化问题方面具有独特优势,启发式加速等方法能够有效提升系统在多要 素、高自由度、开放条件下的调度决策能力。新形势下调度计算对优化能力有新的需求,一方面线性化近似模型须向参数化非线性模型转变,另一方面确定参数边界优化须向随机优化转变。人工智能赋能的传统优化理论,在大量且形式复杂的目标、变量和约束条件下,能够自适应变量取值及模型分段凸化线性化,提高对高维、非线性问题的求解质量和速度,突破解析求解对要素协同的限制,为多元化的要素协同奠定理论基础。

综上所述,人工智能技术可应对新型电力系统运行的技术理论提升需求,有效推动系统从单一“源随荷动”的运行模式向“源荷互动”及多方资源智能友好协同的模式转变。在数据驱动场景下,利用电网广域时空信息,人工智能技术为电网控制提供更强的模型适配能力、实时更新能力以及控制轨迹追踪能力,更好地揭示电网的时空动力学运行特性及演变规律,协调空间、时间及目标要素,使实现多维度、多要素、多目标的电网综合协调控制成为可能。

3. 人工智能赋能源网荷储协同研究现状

源网荷储协同中主要应用以深度学习为代表的人工智能技术,在源侧以研究新能源出力预测为主,在网侧以“双高”接入后的系统安全稳定控制为主,在荷侧关注新兴负荷为代表的负荷调控及市场机制,在储能侧关注电池等储能介质的状态评估及机理分析研究。这些应用的实质,主要是通过深度神经网络将丰富的运行经验固化为潜在控制逻辑,并通过数据驱动学习实现参数策略向复杂未知运行态势的有效泛化[12]。

3.1 人工智能支撑新能源大规模送出

伴随着新能源渗透率的不断提高,其发电间歇性和波动性对电网造成的影响愈加明显,人工智能技术赋能源侧的核心,在于高质量的数值天气预报和精确的新能源出力预测。

在数值天气预报环节,传统数值天气预报通过对描述地球大气运动规律的非线性偏微分方程组进行离散化数值求解的方式计算未来一段时间的天气状态,计算过程高度复杂,预报水平提升缓慢。人工智能与数值天气预报模式在资料同化、次网格物理过程参数化方案、模式统计后处理等多个方面优势融合,为进一步提升天气预报精度、提高计算效率创造了良好的应用前景[13-14]。

在功率预测环节,采用深度学习方法建立不同气象预报要素与新能源功率之间非线性映射关系,输入数据可以是基于单场站单点位数值天气预报,也可以是最新的时空四维网格化数值天气预报。利用人工智能技术充分挖掘融合时序、区域、场站关联等的高维度复合特征提升新能源功率预测精度目前已成为主流[15]。

此外,人工智能还应用于风机健康状态评估及新能源并网振荡分析与风险评估等领域。文献[16]通过数据驱动方法研究风机健康状态评估,利用卷积神经网络模型相较于传统健康评估模型,模型精度更高,故障预测效果好、虚警率低。文献[17]通过对新能源发电宽频带阻抗特性进行聚类分析,获取新能源阻抗特性随工况变化的关系规律,与广域测量系统相结合,实现了风机振荡风险在线评估。

3.2 人工智能支撑电网安全稳定运行

随着电网复杂性和运行状态不确定性加剧,过度假设简化条件下的传统机理模型驱动的电网分析方法难以准确解析多时间尺度动态交织条件下的系统真实特性,使得动静态电网频率、电压稳定分析出现偏差。需要应用专家经验、数据挖掘、知识驱动等人工智能技术对多维海量量测信息进行特征挖掘融合,以实现在电网运行方式调整、电网运行故障预警诊断、电网暂态稳定分析等方面的突破。

电网运行方式调整方面,可靠性及经济性双重需求驱使电网向高灵活性方向发展,借由电网拓扑结构智能优化提升系统抵御源荷波动及外部干扰能力正成为人工智能技术深入电力业务的关键。文献[18]将包括拓扑优化等的电网优化控制问题建模为强化学习任务,并采用分层策略及结合图卷积网络的后状态表示法解决大规模电网运行优化的维数灾难问题;文献[19]提出了一种基于生成对抗网络及图卷积计算的配电网馈线自动生成方法,支撑系统运行规划及能源管理等需求。

电网故障诊断方面,针对系统运行故障的实时分类将有助于故障的快速识别,并实现相应控制策略的自动快速生成。通过核密度估计结合长短时记忆网络模型,基于同步相量数据建立故障诊断模型,实现故障时刻和区域在线检测,有效支撑电力系统故障分析[20]。

电网暂态稳定和紧急控制策略方面,当系统的运行方式和拓扑结构与预想情况存在较大差别时,传统的“离线分析、在线匹配”的紧急控制策略失配风险增大。通过卷积以及图神经网络模型能够自适应跟踪系统变化进行暂稳预测,大幅减少新模型的训练时间[21],同时为满足电网主动防御对算法速度和精度的要求,运用基于长短期记忆网络的电网动态轨迹趋势预测方法,实现暂态功角稳定的紧急控制[22]。

3.3 人工智能支撑智能配用电

多时间尺度、高精度的电力负荷建模、预测以及优化对电力系统的运行、维护和规划至关重要。人工智能技术凭借其非线性拟合等能力,在负荷建模及预测、负荷优化等方面取得突破。

负荷建模与预测方面,通过强化学习可以动态选择标准负荷模型进行匹配,能够有效解决负荷模型复杂度高的问题[23]。在负荷波动性大,超短期电力需求难以准确预测的场景下,通过集成学习方法进行预测模型构建,具有良好的准确性和鲁棒性[24-25]。

负荷优化方面,主要针对包括电动汽车、智能楼宇和虚拟电厂在内的可调控负荷进行自主优化研究。文献[26]考虑新能源不确定性与电价因素综合作用下,利用深度学习技术实现大型共享电动车运营商的联合充电调度;文献[27]则将楼宇用电过程建模为马尔可夫过程,应用基于注意力机制的多智能体深度强化学习实现了楼宇成本控制。文献[28-29]在需求响应模式下,通过基于主从博弈的学习方式配合分布式优化方法调控电价,提升分布式资源的调控潜力。

此外,人工智能在拓扑辨识、配网无功优化、微网运行优化等方面也有一定应用。文献[30]利用PMU 采样的高精度数据,通过贝叶斯网络拟合配网的拓扑、分布式新能源、负荷和测量数据的关系,进行网络拓扑的识别。文献[31]利用多智能体深度强化学习构建基于日内实时调度的马尔可夫博弈模型,高效协调配网中多种无功补偿装置的动作。文献[32]利用多智能体深度强化学习和迁移学习的方法,应对多微网环境中的离散和连续动作问题,有效减少了运行成本,实现了多微网的有功无功优化调度。

3.4 人工智能支撑储能系统安全调控

随着电化学储能技术进步和成本的降低,在电力系统中持续提升电化学储能配置比例将是发展的必然趋势。人工智能技术,对电池等储能介质物理模型及运行参数依赖程度低,在系统状态评估、预测分析及协同调控等领域获得广泛应用。

储能状态评估及预测分析方面,文献[33]提出一种基于神经网络的质子交换膜燃料电池建模方法,训练后的模型可用于分析燃料电池的动态变化过程。文献[34]采用数据驱动的因果关系和基于拓扑的模型相结合的方法,为固体氧化物燃料电池系统振荡提供了完整的诊断方法。文献[35]提出了一种混合神经网络与假近邻方法,有效提高了锂离子电池的剩余使用寿命预测精度。

储能协同调控方面,文献[36]以孤立微网系统稳定性和运行经济性为目标,利用深度强化学习算法给出网络复合储能协调控制策略。文献[37]则结合双重深度 Q 学习算法,以最小化微网 24 小时从外网取电费用为目标,训练得到储能控制的优化策略,并对其在优化购电费用方面的有效性进行了验证。

3.5 人工智能支撑源网荷储协同运行

可再生能源的迅猛发展和电力高峰负荷持续增长使得系统平衡资源需求激增,仅依靠常规机组的有功调节手段很难满足系统功率平衡要求。目前在实际运行中,能够快速响应调度指令的自动发电控制机组是维持系统功率平衡的重要手段,但可再生能源的不确定性、快速变化特性以及负荷中心用电高峰期用电量的快速攀升,往往造成机组可调容量不足而成为重要隐患,需要储能系统、柔性负荷参与实现系统整体协同优化。已有人工智能赋能研究,常以平衡问题为切入点,从在线优化的角度,提升源网荷储协同互动能力;而代表性的研究工具是深度学习、特别是深度强化学习[38]等人工智能技术。

源荷平衡优化方面,研究通常围绕深度强化学习展开,在策略优化的同时考虑包括机组功率分配、源荷随机性、储能特性以及网架潮流等非线性约束的嵌入形式[39-40]。文献[41]利用基于模型的强化学习算法,对新能源特性在状态转移中的表达进行了特殊设计,并提出强化学习与传统优化算法相结合的优化框架,大幅提升其在线优化稳定性。

系统稳定优化方面,数据驱动方法可以协调来自其他地区的分布式储能电池,缓解 PV 发电站电池能量存储系统容量问题[42],增强电网中的电压调节和频率响应能力[43]。

综上所述,人工智能赋能源网荷储协同互动可以从功能层面、模型层面、算法层面 3 个层面来进行认识。功能层面,人工智能在源网荷储协同方面具备两个核心功能。一是认知随机,即基于人工智能技术赋能各子要素提升其对本体特征的辨识、构建和分析能力,是实现系统可观可控的前提。二是要素互动,针对多要素组合运行赋能其协同策略制定,是支撑系统高效运行的核心。模型层面,人工智能利用卷积神经网络模型表达要素空间特征,利用循环神经网络表达源荷时序特征,利用图神经网络模型表达电网图特征[21]。通过多方面多层次多角度的系统特征提取及模型构建,助力对系统本质属性及关联特征的全面认识,克服新能源、柔性负荷机理建模困难的难题。算法方面,通过灵活运用监督学习、无监督学习、半/自监督学习以及强化学习等模型进行训练和迭代趋优,为面向双侧不确定性的源荷平衡优化、电网稳定运行、电网经济运行等提供关键运行场景筛选、约束条件削减、模型初值定制等技术支撑,形成不确定场景下的高可信、快速决策。

 

三、人工智能赋能源网荷储协同创新路径

大规模电力系统运行状态及约束限制错综复杂,仅依靠随机探索与交互学习机制难以保证系统运行信息的学习全面性,高昂的模型训练及迁移成本又使模型难以保证动态适应变化边界条件的应用普适性,需要针对性研究人工智能技术应用瓶颈,找出人工智能赋能源网荷储协同的技术突破口。

1. 人工智能技术赋能协同应用瓶颈

尽管人工智能为源网荷储多要素非机理动态建模及随机不完全信息条件下的优化决策提供了潜在技术路线,但现阶段人工智能主流理论和实践技术存在诸多瓶颈限制,严重制约其落地应用效果。人工智能方法的优越性和先进性不可否认,但除了以自然语言处理及目标检测识别为代表的监督学习技术在工程实践中获得认可之外,以实现智能决策为目标的应用功能都或多或少地存在偏离预期或违反约束的情况。造成这一问题的核心矛盾在于深度学习的“黑盒”属性,其可解释性与强功能性之间无法做到兼容,而安全可靠往往是工程应用的前提[44]。从技术进步的过程来看,功能性与可靠性的提升长期处于一种并行交替反复的过程。对于如何克服人工智能黑盒属性带来的应用问题,一方面要充分发掘黑盒模型的性能上限,另一方面要充分总结黑盒模型的运行规律,探索有效控制与评估方法,实现功能与可信的平衡。随着电力系统的不断发展改革,工程应用对人工智能等新技术的开放和接纳能力也在不断增强;同时人工智能技术通过具体的应用结合被更充分地认识和开发,进而得到更契合应用需求的发展。

监督学习类方法的优势在于应用模式清晰,尤其在非机理特征映射构建上提供了有力支持。但在理论层面,稳定高效的样本特征提取仍需要算法机制创新来突破;而在应用层面,数据合法获取及标签合理标注仍是限制技术应用的主要难点。监督学习类方法的落地瓶颈一方面来自对模型严苛的测试标准,另一方面来自正确率前提下的错误溯源可靠性需求,而发展可信性方法是推进其应用的主要手段。当前,可信性在电力系统源荷预测和薄弱环节辨识领域发展迅速,但在基于可解释的特征映射关系描述模型泛化能力,以及基于模型解释结果反馈训练效率提升等方面仍有待进一步探索。

强化学习类算法虽然在随机条件下的源荷协同优化方向已有明确应用前景[45],但形成的阶段成果目前还难以真正支持落地工程化应用,亟需理论方面的进一步突破。一方面,其模型构建过程过于依赖智能体与高保真仿真环境的交互。不合理的状态描述以及奖励构建方法会对训练产生恶劣影响,往往造成训练及应用成本大幅提升。另一方面,非稳定环境下的策略失效问题严重制约了强化学习泛用性。非稳定要素使基于期望的值函数估计失去意义,如不可控的源荷动态、灵活多变的拓扑结构等非稳定因素会造成协同策略在不同环境下的迁移失效。究其原因,一是大量不可控与随机要素引入使得所作决策的影响难以显式体现为状态信息的变化,形成状态到动作的单向映射,与马尔科夫决策的状态转移建模相冲突;二是基于经济性、清洁性等指标构建的评价体系不具有稳定性,突变的源荷动态及多样的运行方式直接影响最优目标取值,致使训练收敛基线难以迁移成为实际应用标准,形成复杂多模式泛化与单一评价标准的矛盾。相关研究提出了基于安全强化学习的电力系统实时调度方法,可以在一定程度上保证模型策略始终处于可行域范围内[46],是切实解决强化学习技术应用问题的理论突破方向。

发展适用于大规模源网荷储协同的人工智能技术,不仅要依靠其理论自身发展,还需要营造统一开放的应用研究环境培育其技术进步。如何有效结合电力行业特点,建立有助于充分发挥最高人工智能技术水平的支撑架构,最小化非理论瓶颈对技术应用的限制是值得深入思考的问题。

电力人工智能应用研究须首要明确应用问题、智能算法和数据样本的契合性,以物理意义保证模型输出合理性。目前人工智能技术处理问题的逻辑有别于传统机理建模,在技术迁移过程中往往需要对问题本身作适应性调整。以基于强化学习的电力系统调度辅助决策的研究为例,从电力系统经济调度问题到马尔科夫决策的一般化建模转化方法是影响强化学习应用效果的重要因素。将不合理的建模抑制了强化学习评估策略长期收益的优势,强调即时平衡与最优组合的目标又会在每一步决策后引入过量的奖惩,虽然避免了稀疏反馈的困境,但同样使值函数评价的物理意义模糊化,间接导致算法的扩展性受阻。合理的区分强化学习训练与最优化求解在源网荷储协同运行中承担的作用,实现两者有机结合,必要时提出新的问题建模形式,是更具效的技术应用思路。

电力人工智能应用研究应以大规模高复杂度应用需求为核心目标。要充分考虑如仿真、通信、计算等支撑条件,在规模化应用的前提下开展技术布局。考虑到单一系统向泛在协同的发展背景及发展趋势,以分布式新能源、储能装置及可控负荷等为代表的大量的柔性单元接入,其复杂的运行特性与潜在的耦合关系使决策信息空间维度激增。在不考虑算法理论局限的前提下,实现高维空间下的信息约减及高效引导,是支撑人工智能模型在线应用及更新的前提。除增强深度模型的特征提取能力之外,发展分布式协同互动与多智能体技术是有效的技术路径,相较于信息集中而言,分布式智能信息通信成本大幅下降,各子智能体信息处理的独立性也有助于其计算并行和迁移应用的实现[47]。

电力人工智能应用研究应从保证数据信息对称性的角度规范化行业发展。从数据来源来看,误差噪声和背景特征缺失造成了无可避免的非完全信息问题,。基于统计和拟合的方法跟踪和恢复隐藏信息,又使本不透明的黑盒模型运作机理又附加了新的变数。从模型构建来看,人工智能在源网荷储协同应用研究中的特征工程建模,往往是基于经验和常识得出的信息向量,没有应用范式和性能验证进行佐证,使得系统应用无法评估其输入信息的完整有效性。同时,非规范的信息预处理方式使信息特征在模型迭代训练阶段失活,影响模型预测的灵敏度。推进人工智能各领域技术在应用标准化数据集上的性能基准建设,根据技术的发展阶段构建不同评价的验证侧重,将在很大程度上规范能源领域人工智能研究和技术评估体系,促进人工智能在电力系统的实质应用落地。

综上所述,人工智能技术距离工程应用的大规模落地还有相当一段距离,在不同业务分支的不同发展阶段,需要针对性的维持功能性与可信性的平衡。人工智能技术应用不仅需要工程经验的探索累积,更需要新的研究模式加入其中,真正实现基础理论突破,与应用需求引导的双向推进变革。

2. 人工智能前沿技术及应用趋势

为突破以深度学习为主流的人工智能技术存在的理论局限,人工智能学界从其基础理论、模型结构、训练模式以及规模算力等多角度发掘技术潜力。本质上,人工智能赋能源网荷储协同的落地瓶颈与技术理论局限具有一致性,真正实现系统模式革新必须实时跟踪人工智能前沿模型及算法研究成果,并设计针对性的电力应用场景。本文将对具有系统应用价值的人工智能前沿技术研究进行梳理,为源网荷储协同的创新路径(如图2 所示)提供方向。

人工智能赋能源网荷储协同互动的应用及展望

2.1 泛化性研究推进运行态势灵活自适应

人工智能泛化性研究的目标,是构建能够有效、稳健、增量地从非平稳环境中获取有效信息的模型,并使其具备分布外泛化能力,克服“灾难性遗忘”问题。已有研究采用数据扩增的课程学习方法实现了渐进式大规模多任务学习,规避了泛化性难以评估的问题[48]。

人工智能在实际应用中通常难以保证能够使得深度模型微调参数至收敛的足量数据,很多领域要求快速反应、快速学习。元学习为持续学习的实现提供了一种潜在框架,是针对传统机器学习模型泛化性能不足、对新任务适应性较差提出的一种模型训练范式。在这种范式中,机器学习模型对多任务集合相关分布进行训练,通常是针对训练标签之外的性能指标的优化来获得元知识,从而提高未来接触新任务时的学习能力,进而提高数据利用和计算效率[49]。元学习与小样本学习相比,其概念范围更广,不仅包含优化目标,还可以包括特征表达甚至优化计算[50]。

源网荷储协同系统的灵活性及可扩展性要求策略适应不同源荷运行态势,本质上构成多任务学习问题。一方面,以线路连接及机组组合变化为主要因素的电网拓扑动态调整直接影响协同策略稳定可行域,其作为策略可靠性前提,直接影响未来态势评估准确度;另一方面,源网荷储协同策略的安全、稳定、经济性依靠指标数值计算判定,不同的源荷预测结果对应的最优调度方案在指标取值上存在差异,缺少如胜负、成败等清晰统一的策略评价条件。伴随着以元学习、元强化学习技术为代表的强泛化性技术理论突破,在不同新能源占比、不同资源调控灵活性以及不同目标需求的混合演化场景下,构建适应不同边界条件进行增量学习以及适应极端运行态势进行快速学习的策略模型,通过多任务学习打破非稳定学习局限,将成为赋能大规模灵活资源协同的重要技术路径。

2.2 大规模模型研究推进多模态运行特征融合

大规模模型是基于算力的人工智能发展的极致体现。从语言[51]到图像再到多模态信息[52]融合,超级模型不断展现惊人潜力[53],其中 Transformers已被证明是一种有效的预训练架构。无监督预训练配合监督学习微调是大规模模型实现的通用范式,其实质是借助参数数量的提升实现人工智能模型零样本或少样本学习。无监督预训练通过模糊构建的数据间隐特征关联实现自监督学习[54],虽然在数据标注问题上规避了专业知识限制和预处理成本,但显著增加的基础样本质量问题亦不容忽视。相关研究表明预训练模型准确性的提高和泛化能力与训练数据集的多样性以及自我监督训练算法有强关联[55]。在强大的模型功能性背后,需要在模型泛化性、可靠性以及计算效率等方面更深入的研究以支撑其更广泛的应用实践[56]。

从技术迁移角度考虑,基于传统系统调度的规则规范语料信息与系统运行数据,利用预训练大规模模型,可以实现基于规范的调控策略生成及基于不同条件的系统运行方式生成,从语义模型的角度支撑系统辅助决策。从技术启发的角度看,当前源网荷储协同实践受制于各要素运行机制的割裂,相对独立的业务逻辑和参数体系难以在同一个模型中完整表达,而大规模模型技术中丰富的特征提取参数结构及无监督自映射训练方法为协同策略输入特征层面的统一提供了可行技术路径。如以电网运行实时量测图结构数据、调度机制规范文本信息、需求调控响应市场信息以及储能设备运行信号特征等为代表的多模态数据构成源网荷储协同特征空间,通过大模型统一编码,配合大量运行状态和响应数据支撑特征自映射关联,最终以预训练模式满足侧重各不相同的协同应用需求。

2.3 可信性研究保障运行策略安全可靠

以深度学习为基础的人工智能模型不可解释性仍是目前其无法在系统运行中有效落地的核心问题。深度学习模型可解释性的困难来自人类缺乏对高维抽象空间的认知途径,是数学理论工具不足导致的理论瓶颈。目前,多数研究试图通过以特征重要性方法为代表的解释方法对机器学习“黑盒”模型进行参数拆解,用以实现模型隐性知识结构的定性评估[57]。此外,也有相关研究针对强化学习的可解释性进行讨论,总结区分其与统计机器学习之间的共性及独有问题[58]。然而仅依靠结果论证的方式难以有效指导反馈模型训练,也就无法进一步保证每一次独立模型训练的稳定性。本质上,人工智能决策的最终仲裁者和服务对象均为人类自身,在面临不确定性和开放性时,有必要引入人工监督、交互和参与,实现以人在回路为核心的混合增强智能[59],从而避免人工智能技术在一些重要领域中的应用风险,形成从人类的知识出发,不断以反馈、融合、进化的方式推进人工智能技术在应用领域的特性化专有化,实现自在逻辑的因果智能[60]。

人工智能可信性研究的推进,将维护模型决策底线,从根本上避免不合理决策的产生,在技术应用于如系统调度运行、故障识别恢复、安全稳定控制等核心业务时提供理论支撑。另一方面,基于深度学习模式构建的特征模型难以从显明语义的角度进行解释的现实,发展以知识图谱为核心的认知推理和自动构建技术统筹电力领域各业务,是较快推动技术落地的另一可行思路。

2.4 隐私性研究促进协同过程包容开放

人工智能技术发展及应用对数据样本质量以及数量的要求不断提升,潜在信息安全及隐私保护问题凸显。联邦学习的兴起为基于数据安全的模型训练提供了基础[61],其根据数据分布性质的不同,将异方从属的样本从数量汇聚和特征融合的角度推进模型联合训练。联邦学习技术的发展更多是依托实际应用需要,包括实现多方数据非独立同分布的模型融合、应对更广泛特征融合需求的联邦迁移学习以及克服信息通信延迟或参与方离线的训练协同等[62]。

基于联邦学习技术赋能源网荷储协同建模,一方面可解决数据样本来源及信息授权问题,另一方面可基于更丰富的样本特征有效提升模型适用性及准确率。保证数据安全有助于在保护市场参与方数据隐私的前提下,实现包括以非侵入式负荷建模、联合多行业的用户征信评估及边云协同的运行状态监控等应用形式,激活多方协同潜力,更好的促进能源交易市场及能源电力系统的发展完善。

综上所述,业界对深度学习技术应用瓶颈开展了相当深刻的思考,在以图像、语言为基础的人工智能技术上取得了相当大的突破。但人工智能瓶颈的突破不一定是基于深度学习模式完成,包括类脑计算在内的先进计算模式都在探索和推进之中。真正将人工智能技术融入源网荷储协同应用体系,目前来看还缺少相当的理论支撑,也需要更多的理论研究、理念转变和政策支持。

 

四、基于数字孪生的人工智能赋能应用体系

人工智能赋能源网荷储协同,需要获取电力系统状态、运行、控制、用能等方面数据、模型信息,构建高保真的电力系统镜像,形成对物理电力系统的全面精准映射和关联,为人工智能闭环作用于物理电力系统创造交互条件,才能激活人工智能技术应用价值。深度强化学习应用于核聚变托卡马克装置稳定控制的研究深刻表明了上述数据获取与精确建模仿真对于人工智能落地应用的重要性[63]。

数字孪生具备信息与物理空间的双向映射特性[64],能够满足实现人工智能技术所需要的数据及模型需求,是促进人工智能赋能源网荷储协同应用的核心支撑技术。除此之外,数字孪生对于突破或缓解人工智能应用瓶颈,也有显著促进作用:如基于对电力系统实时状态的全面精准感知,为人工智能提供更加接近“完全信息”的训练环境,弥补因人工智能泛化性不足带来的应用边界界定难题;基于物理系统的连接、映射和推演,有助于人工智能控制策略的仿真、试错和趋优,提高可信性不足条件下人工智能的决策稳定性;基于数字孪生体的数据聚合和信息封装等,则有助于解决人工智能技术隐私性难题。

人工智能赋能源网荷储协同互动的应用及展望

面向源网荷储协同互动的数字孪生系统可以抽象为一个如图 3 的三平面体系,其中物理平面是对现实物理系统的抽象,数字平面是对数字空间的抽象,而位于两者之间的互作用平面,则成为沟通这两个各自遵循自身运行机理、存在天然壁垒隔阂平面的辅助平面,用以支撑物理和数字两个平面的彼此连接、互动与运作。以互作用平面为关键支撑的三平面体系的基本运行流程如下:

  • 物理平面利用智能感知等技术获取电力系统运行情况、元器件性能等物理参数和源网荷储状态数据,通过数字化将数据、知识等信息传输至互作用平面;
  • 互作用平面基于人工智能的先进数据处理技术进行信息筛选、补齐及加工,解决能源物理系统感知不全面、量测信息时空不同步等问题;通过混合时空图卷积网络以及大规模预训练模型对数据及知识进行抽象提取及融合建模,并根据当前数字平面运行及计算情况,将部分与当前数字平面状态相耦合的数据及模型传输至数字平面;
  • 数字平面在保障电力供给和新能源消能等目标下,考虑暂稳约束、经济性约束、实时性要求、模型精准度、算力水平等条件的基础上,利用基于可解释性人工智能的智能优化决策方法,完成数据模型的自适应调整及求解加速,形成指令及运行方案集,并将其传输至互作用平面;
  • 互作用平面基于当前物理平面运行情况,考虑物理层当前约束条件和数据隐私核验情况,对符合条件的指令和方案进行传送,反馈至物理量化状态积分层,驱动物理要素控制和人类行为引导;
  • 物理平面产生新的运行状态,继续通过互作用平面传输至数字平面,开始新一轮的物理平面–互作用平面–数字平面的交互与迭代过程。

通过以上 5 个过程的不断循环迭代,数字平面和物理平面通过互作用平面不断进行交互、调整和匹配,两者一致性不断提升,最终实现物理平面信息的全面数字化处理,以及数字化指令策略对于物理平面的全局协同。值得指出的是,由于协同过程作用范围大、牵涉要素多,协同作用的时间尺度较长(分钟级),其将与控制和响应等实时(毫秒级)和准实时过程(秒级)共同作用于电力系统物理平面(如图 4 所示),完成对物理系统精准全面的动态优化和调控。

人工智能赋能源网荷储协同互动的应用及展望

作为核心基础,数字孪生依赖于物理到数字的精准映射,实现物理系统的数字描述。首先,电力系统运行过程状态是连续的模拟量,而信息采集和控制系统在时间轴上是离散的时间序列,以离散表征连续需要将离散时间序列和离散状态序列在时间轴上按先后顺序排列,以事件驱动状态积分方法对状态变量进行非等间隔离散等方法实现可描述信息物理耦合过程中时间因果关系的数字化描述;其次,在数字平面采用人工智能技术在有限已知和数据下复原连续事件,在系统辨识、压缩感知、矩阵补全状态估计等运用神经网络、稀疏重构、最大 似然贝叶斯推理等,特别是小样本事件的概率表征方法;最后,网络传送的时空透明是一个关键要素,在源网荷储高效协同的目标下,要解决复杂多元泛化跨空间动态时序逻辑的精准真实映射,需要大连接、高带宽、低时延并行驱动[65],这实质已不是单纯的通信问题,而是网络平台化的特征形态。

根据数字孪生三平面理论设计的源网荷储高效协同框架如图 5 所示。未来新型电力系统建设,将在边端对源网荷储各要素环境量、物理量、电气量、状态量、时空量、行为量进行全面感知,产生的海量数据通过空天地一体通信网络平台透明传递;电力系统调控云、新能源云、电网仿真云、负荷云、储能云等云平台,为源网荷储协同提供平台性支撑;以数字孪生技术为载体,先进人工智能则能够为新型电力系统动态建模、协同互动和智能决策的应用开发提供基本理论和通用方法支持。

人工智能赋能源网荷储协同互动的应用及展望

 

五、结论及展望

构建新型电力系统,以人工智能技术赋能源、网、荷、储全要素协同互动,将有力推动我国能源转型变革和国家“双碳”目标实现。针对本文引言部分提出的“源网荷储协同为何需要人工智能”、“源网荷储协同需要怎样的人工智能”以及“怎样支撑人工智能赋能源网荷储协同”这 3 个主要问题,经过本文分析,可以得出如下结论:

  • 人工智能技术是实现源网荷储协同互动的核心支撑技术。人工智能技术,其特点与源网荷储各要素协同痛点相对应,能够提升优化建模对不确定性的拟合表征能力,提升系统对运行风险的辨识响应能力,提升系统在多要素、高自由度、开放条件下的优化调度计算能力,进而实现服务于系统运行优化的动态演化协同建模,提高系统安全稳定运行分析效率,助力复杂优化问题的求解。
  • 源网荷储协同需要强泛化性、高可信度以及隐私保护能力出众的人工智能技术。囿于人工智能技术目前自身理论瓶颈,其在源网荷储协同方面的应用还处于探索阶段,与实际落地还存在一定距离。但人工智能技术在模型泛化性、可解释性、隐私性方面展现出的良好发展态势,将推动人工智能突破其自身发展瓶颈,使其具备更加强大的建模、推演、决策、优化能力,提升其对源网荷储协同的深度赋能效果。
  • 数字孪生是人工智能赋能源网荷储协同的支撑体系。人工智能应用需要友好的互动媒介以及坚强的数据及通信体系支撑。数字孪生通过物理、数字、互作用 3 个平面,建立信息与物理空间的双向映射,也为人类以及人工智能建立了高效沟通媒介,是人工智能赋能源网荷储协同的重要支撑体系。

展望未来,类脑计算、脑机接口、量子计算等新技术,将全面促进人工智能的发展及革新。人工智能技术在新型电力系统中的应用,将不断提高对调控的服务和支撑能力,其发展将分为 3 个阶段进行,分别是决策辅助阶段、协同融合阶段和自主控制阶段:

第一阶段,新型电力系统加速发展,能源互联网加速演进,多种能源、微网、负荷、储能等要素规模化接入。在这一阶段,电力系统平衡调节没有本质变革,大量要素接入系统使得系统调控更加复杂多变。人工智能决策平台加速建设,不断扩大其在电力系统中的辅助决策作用,智能化处理系统中简单、非核心业务,降低人工重复工作量,助力系统运维人员更加专注核心业务及技术创新。

第二阶段,新能源在能源供应中的比例进一步提升,电能替代深入发展,交通、建筑、工业等领域与能源互联网深度融合,能源系统碳排放显著降低。在新能源、电储能、氢能、智能微网、需求响应等能源供给侧、消费侧及其他多要素协同共济作用下,电力系统完成从以安全稳定为核心到以稳定为基础、效率为核心的转变。这一阶段,人工智能将对各能源参与主体进行协同融合,为电力系统的设备、系统、人员、业务等赋智,支撑实现电力系统海量要素高效联动和实时响应;人工智能决策平台更加成熟,实现专业领域复杂问题的智能化分析、决策。

第三阶段,新能源的高质量发展将对电力系统进行主动支撑,电力系统供应保障水平极大增强,建成以新能源高占比、安全可持续的能源供应体系,实现能源领域深度脱碳和本质安全。这一阶段,人工智能可以依据包括知识、经验以及事件等“原数据”进行自学习;人工智能驱动下的数字孪生也发展融合为“电力元宇宙”,可以随电力系统要素的演变进行虚实自由互动和交互演进,实现对开放生态体系下电力系统的实时优化。元素泛化、随机、不确定的电力系统形成,自适应、可调控的智慧能源系统逐渐完善,支撑新型电力系统发展构建。

 

六、 参考文献

[1] 国家气候战略中心.中华人民共和国气候变化第三次国家信息通报(序言+目录)[EB/OL].(2020-03-23)[2021- 12-09] . http://www.ncsc.org.cn/SY/tjkhybg/202003/t20200323_770094.shtml.National Climate Strategy Center.The third national information bulletin of the people’s republic of China on climate change[EB/OL] . (2020-03-23)[2021-12-09] .http://www.ncsc.org.cn/SY/tjkhybg/202003/t20200323_77 0094.shtml(in Chinese).

[2] 周孝信,赵强,张玉琼.“双碳”目标下我国能源电力系统发展前景和关键技术[J].中国电力企业管理,2021(31):14-17.ZHOU Xiaoxin,ZHAO Qiang,ZHANG Yuqiong.Prospect and key technologies of energy and electric power system in China under dual carbon target[J].China Power Enterprise Management , 2021(31) : 14-17(in Chinese).

[3] 王继业.构建新型电力系统 推动实现“双碳”目标[R].北京:中国电力科学研究院,2021.WANG Jiye.Building a new power system to promote the realization of “double carbon” target[R].Beijing:China Electric Power Research Institute,2021(in Chinese).

[4] O’SULLIVAN J,ROGERS A,FLYNN D,et al.Studying the maximum instantaneous non-synchronous generation in an island system-frequency stability challenges in Ireland[J].IEEE Transactions on Power Systems,2014,29(6):2943-2951.

[5] 舒印彪,陈国平,贺静波,等.构建以新能源为主体的新型电力系统框架研究[J].中国工程科学,2021,23(6):61-69.SHU Yinbiao,CHEN Guoping,HE Jingbo,et al.Building a new electric power system based on new energy sources[J].Strategic Study of CAE,2021,23(6):61-69(in Chinese).

[6] 杜祥琬,冯丽妃.碳达峰与碳中和引领能源革命[N].中国科学报,2020-12-22(001).DU Xiangwan,FENG Lifei.Carbon peaking and carbon neutrality leading the energy revolution[N] . Chinese Journal of Science,2020-12-22(001)(in Chinese).

[7] 欧阳明高.能源革命与新能源智能汽车[J].中国工业和信息化,2019(11):21-24.OUYANG Minggao.Energy revolution and new energy intelligent vehicles[J].China Industry and Information Technology,2019(11):21-24(in Chinese).

[8] 国家发展改革委,国家能源局.国家发展改革委 国家能源局关于印发《“十四五”新型储能发展实施方案》的通知[EB/OL].(2022-01-29)[2022-05-05].http://zfxxgk.nea.gov.cn/2022-01/29/c_1310523208.htm.National Development and Reform Commission,National Energy Administration.Notice on the issuance of the “14th Five-Year Plan” for the implementation of new energy storage development[EB/OL] . (2022-01-29)[2022-05-05] . http://zfxxgk.nea.gov.cn/2022-01/29/c_1310523208.htm(in Chinese).

[9] 国家发展改革委,国家能源局.国家发展改革委 国家能源局关于推进电力源网荷储一体化和多能互补发展的指导意见 [EB/OL] . (2021-02-25)[2022-05-05] .https://www.ndrc.gov.cn/xxgk/zcfb/ghxwj/202103/t20210305_1269046_ext.html.National Development and Reform Commission,National Energy Administration . Guidance on promoting integration of power source,network,load and storage and complementary development of multiple energy sources[EB/OL].(2021-02-25)[2022-05-05].https://www. ndrc.gov.cn/xxgk/zcfb/ghxwj/202103/t20210305_1269046_ext.html(in Chinese).

[10] 李明节,陶洪铸,许洪强,等.电网调控领域人工智能技术框架与应用展望[J].电网技术,2020,44(2):393-400.LI Mingjie,TAO Hongzhu,XU Hongqiang,et al.The technical framework and application prospect of artificial intelligence application in the field of power grid dispatching and control[J].Power System Technology,2020,44(2):393-400(in Chinese).

[11] 尚策.广域综合能源的一条规划路径[J].中国电机工程学报,2020,40(13):4081-4091.SHANG Ce.A path to planning wide-area integrated energy[J].Proceedings of the CSEE,2020,40(13):4081-4091(in Chinese).

[12] CHEN Xin , QU Guannan , TANG Yujie , et al .Reinforcement learning for selective key applications in power systems:recent advances and future challenges[J].IEEE Transactions on Smart Grid , 2022 , 13(4) :2935-2958,doi:10.1109/TSG.2022.3154718.

[13] 李扬,刘玉宝,许小峰.基于深度学习改进数值天气预报模式和预报的研究及挑战[J].气象科技进展,2021,11(3):103-112.LI Yang,LIU Yubao,XU Xiaofeng.Advances and challenges for improving numerical weather prediction models and forecasting using deep learning[J].Advances in Meteorological Science and Technology,2021,11(3):103-112(in Chinese).

[14] 孙健,曹卓,李恒,等.人工智能技术在数值天气预报中的应用[J].应用气象学报,2021,32(1):1-11.SUN Jian,CAO Zhuo,LI Heng,et al.Application of artificial intelligence technology to numerical weather prediction[J].Journal of Applied Meteorological Science,2021,32(1):1-11(in Chinese).

[15] 梁志峰,董存,吴骥,等.组合辐射衰减因子预报与RBF 神经网络的光伏短期功率预测方法[J].电网技术,2020,44(11):4114-4120.LIANG Zhifeng,DONG Cun,WU Ji,et al.Short-term photovoltaic power prediction method combining with radiation attenuation factor prediction and RBF neural network[J].Power System Technology,2020,44(11):4114-4120(in Chinese).

[16] PENG Jieyang,KIMMIG A,NIU Zhibin,et al.Wind turbine failure prediction and health assessment based on adaptive maximum mean discrepancy[J].International Journal of Electrical Power & Energy Systems,2022,PENG Jieyang,KIMMIG A,NIU Zhibin,et al.Wind turbine failure prediction and health assessment based on adaptive maximum mean discrepancy[J].International Journal of Electrical Power & Energy Systems,2022,134:107391,doi:10.1016/j.ijepes.2021.107391.

[17] 苗洁蓉.基于大数据技术的新能源并网系统状态认知与振荡识别[D].上海:上海交通大学,2019.MIAO Jierong . State cognition and oscillation identification of grid-connected renewable energy based on big data technology[D].Shanghai:Shanghai Jiao Tong University,2019(in Chinese).

[18] YOON D,HONG S,LEE B J,et al.Winning the L2RPN challenge:power grid management via semi-Markov afterstate actor-critic[C]//Proceedings of the 9th International Conference on Learning Representations.Vienna,Austria:OpenReview.net,2021.

[9] LIANG Ming,MENG Yao,WANG Jiyu,et al.FeederGAN:synthetic feeder generation via deep graph adversarial nets[J].IEEE Transactions on Smart Grid,2021,12(2):1163-1173.

[20] WANG Xinan,WANG Yishen,SHI Di,et al.Two-stage WECC composite load modeling : a double deep Q-learning networks approach[J].IEEE Transactions on Smart Grid,2020,11(5):4331-4344.

[21] 王铮澄,周艳真,郭庆来,等.考虑电力系统拓扑变化的消息传递图神经网络暂态稳定评估[J].中国电机工程学报,2021,41(7):2341-2349.WANG Zhengcheng,ZHOU Yanzhen,GUO Qinglai,etal . Transient stability assessment of power system considering topological change:a message passing neural network-based approach[J].Proceedings of the CSEE,2021,41(7):2341-2349(in Chinese).

[22] HUANG Qiuhua,HUANG Renke,HAO Weituo,et al.Adaptive power system emergency control using deep reinforcement learning[J].IEEE Transactions on Smart Grid,2020,11(2):1171-1182.

[23] XIE Jian,MA Zixiao,DEHGHANPOUR K,et al.Imitation and transfer Q-learning-based parameter identification for composite load modeling[J] . IEEE Transactions on Smart Grid,2021,12(2):1674-1684.

[24] LI Hepeng,WAN Zhiqiang,HE Haobo.Constrained EV charging scheduling based on safe deep reinforcement learning[J].IEEE Transactions on Smart Grid,2020,11(3):2427-2439.

[25] WANG Jinsong,ZHANG Fan,LIU Huanan,et al.A novel interruptible load scheduling model based on the improved chicken swarm optimization algorithm[J].CSEE Journal of Power and Energy Systems,2021,7(2):232-240.

[26] JIN Jiangliang , XU Yunjian . Optimal policy characterization enhanced actor-critic approach for electric vehicle charging scheduling in a power distribution network[J].IEEE Transactions on Smart Grid,2021,12(2):1416-1428.

[27] 张虹,申鑫,穆昊源,等.基于 Multi-Agent 异步深度强化学习的居民住宅能耗在线优化调度研究[J].中国电机工程学报,2020,40(1):117-127.ZHANG Hong,SHEN Xin,MU Haoyuan,et al.Research on online optimal dispatching of residential energy consumption based on multi-agent asynchronous deep reinforcement learning[J].Proceedings of the CSEE,2020,40(1):117-127(in Chinese).

[28] 李昭昱,艾芊,张宇帆,等.数据驱动技术在虚拟电厂中的应用综述[J].电网技术,2020,44(7):2411-2419.LI Zhaoyu,AI Qian,ZHANG Yufan,et al.Application of data-driven technology in virtual power plant[J].Power System Technology,2020,44(7):2411-2419(in Chinese).

[29] WANG Jinsong,CHEN Xuhui,ZHANG Fan,et al.Building load forecasting using deep neural network with efficient feature fusion[J].Journal of Modern Power Systems and Clean Energy,2021,9(1):160-169.

[30] 任鹏哲,刘友波,刘挺坚,等.基于互信息贝叶斯网络的配电网拓扑鲁棒辨识算法[J].电力系统自动化,2021,45(9):55-62.REN Pengzhe,LIU Youbo,LIU Tingjian,et al.Robust identification algorithm for distribution network topology based on mutual-information Bayesian network[J] .Automation of Electric Power Systems,2021,45(9):55-62(in Chinese).

[31] 胡丹尔,彭勇刚,韦巍,等.多时间尺度的配电网深度强化学习无功优化策略[J].中国电机工程学报,2022,42(14):5034-5044.HU Daner , PENG Yonggang , WEI Wei , et al .Multi-timescale deep reinforcement learning for reactive power optimization of distribution network[J] .Proceedings of the CSEE,2022,42(14):5034-5044(in Chinese).

[32] 巨云涛,陈希.基于双层多智能体强化学习的微网群分布式有功无功协调优化调度[J/OL].中国电机工程学报 ,2022[2022-05-05] . http://kns.cnki.net/kcms/detail/11.2107.tm.20220316.1151.003.html.JU Yuntao,CHEN Xi.Distributed active and reactive power coordinated optimal scheduling of networked microgrids based on two-layer multi-agent reinforcement learning[J/OL].Proceedings of the CSEE,2022[2022- 05-05] . http://kns.cnki.net/kcms/detail/11.2107.tm.20220316.1151.003.html(in Chinese).

[33] BICER Y , DINCER I , AYDIN M . Maximizing performance of fuel cell using artificial neural network approach for smart grid applications[J].Energy,2016,116:1205-1217.

[34] ZHONG Xiaobo,XU Yuanwu,LIU Yanlin,et al.Root cause analysis and diagnosis of solid oxide fuel cell system oscillations based on data and topology-based model[J].Applied Energy,2020,267:114968.

[35] MA Guijun,ZHANG Yong,CHENG Cheng,et al.Remaining useful life prediction of lithium-ion batteries based on false nearest neighbors and a hybrid neural network[J].Applied Energy,2019,253:113626.

[36] 张自东,邱才明,张东霞,等.基于深度强化学习的微电网复合储能协调控制方法[J].电网技术,2019,43(6):1914-1921.ZHANG Zidong,QIU Caiming,ZHANG Dongxia,et al.A coordinated control method for hybrid energy storage system in microgrid based on deep reinforcement learning[J].Power System Technology,2019,43(6):1914-1921(in Chinese).

[37] 梁宏,李鸿鑫,张华赢,等.基于深度强化学习的微网储能系统控制策略研究[J].电网技术,2021,45(10):3869-3876.LIANG Hong,LI Hongxin,ZHANG Huaying,et al.Control strategy of microgrid energy storage system based on deep reinforcement learning[J] . Power System Technology,2021,45(10):3869-3876(in Chinese).

[38] 王继业.打造电网 AlphaGo—人工智能在能源互联网的应用[R].北京:中国电力科学研究院,2018.WANG Jiye . Building grid AlphaGo-application of artificial intelligence in energy internet[R].Beijing:China Electric Power Research Institute,2018(in Chinese).

[39] 朱涛,陈嘉俊,段秦刚,等.基于近似动态规划的工业园区源–网–荷–储联合运行在线优化算法[J].电网技术,2020,44(10):3744-3751.ZHU Tao,CHEN Jiajun,DUAN Qingang,et al.Approximate dynamic programming-based online algorithm for combination operation of source-networkload-storage in the industrial park[J].Power System Technology,2020,44(10):3744-3751(in Chinese).

[40] XI Lei,ZHOU Lipeng,LIU Lang,et al.A deep reinforcement learning algorithm for the power order optimization allocation of AGC in interconnected power grids[J].CSEE Journal of Power and Energy Systems,2020,6(3):712-723.

[41] SHUAI Hang , HE Haibo . Online scheduling of a residential microgrid via Monte-Carlo tree search and a learned model[J].IEEE Transactions on Smart Grid,2021,12(2):1073-1087.

[42] AL-SAFFAR M,MUSILEK P.Reinforcement learningbased distributed BESS management for mitigating overvoltage issues in systems with high PV penetration [J].IEEE Transactions on Smart Grid,2020,11(4):2980-2994.

[43] GOROSTIZA F S,GONZALEZ-LONGATT F M.Deep reinforcement learning-based controller for SOC management of multi-electrical energy storage system[J].IEEE Transactions on Smart Grid , 2020 , 11(6) :5039-5050.

[44] DULAC-ARNOLD G,LEVINE N,MANKOWITZ D J,et al.Challenges of real-world reinforcement learning:definitions , benchmarks and analysis[J] . Machine Learning,2021,110(9):2419-2468.

[45] 刘建伟,高峰,罗雄麟.基于值函数和策略梯度的深度强化学习综述[J].计算机学报,2019,42(6):1406-1438.LIU Jianwei,GAO Feng,LUO Xionglin.Survey of deep reinforcement learning based on value function and policy gradient[J].Chinese Journal of Computers,2019,42(6):1406-1438(in Chinese).

[46] LI Hepeng,HE Haibo.Learning to operate distribution networks with safe deep reinforcement learning[J].IEEE Transactions on Smart Grid,2022,13(3):1860-1872,doi:10.1109/TSG.2022.3142961.

[47] XING E P,HO Q,XIE Pengtao,et al.Strategies and principles of distributed machine learning on big data[J].Engineering,2016,2(2):179-195

[48] TEAM O E L,STOOKE A,MAHAJAN A,et al.Open-ended learning leads to generally capable agents[J].arXiv preprint arXiv:2107.12808,2021.

[49] 李凡长,刘洋,吴鹏翔,等.元学习研究综述[J].计算机学报,2021,44(2):422-446.LI Fanchang,LIU Yang,WU Pengxiang,et al.A survey on recent advances in meta-learning[J].Chinese Journal of Computers,2021,44(2):422-446(in Chinese).

[50] HOSPEDALES T,ANTONIOU A,MICAELLI P,et al.Meta-learning in neural networks:a survey[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,2022,44(9):5149-5169.

[51] BROWN T B,MANN B,RYDER N,et al.Language models are few-shot learners[C]//Proceedings of the 34th International Conference on Neural Information Processing Systems.Vancouver:Curran Associates Inc.,2020.

[52] RAMESH A,PAVLOV M,GOH G,et al.Zero-shot text-to-image generation[J] . arXiv preprint arXiv :2102.12092,2021.

[53] POLU S,HAN J M,ZHENG Kunhao,et al.Formal mathematics statement curriculum learning[J] . arXiv preprint arXiv:2202.01344,2022.

[54] HE Kaiming,FAN Haoqi,WU Yuxin,et al.Momentum contrast for unsupervised visual representation learning [C]//Proceedings of 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition.Seattle:IEEE,2020.

[55] HENDRYCKS D,LIU Xiaoyuan,WALLACE E,et al.Pretrained transformers improve out-of-distribution robustness[J].arXiv preprint arXiv:2004.06100,2020.

[56] HAN Xu,ZHANG Zhengyan,DING Ning,et al.Pre-trained models:past,present and future[J].AI Open,2021,2:225-250.

[57] MCDERMID J A,JIA Yan,PORTER Z,et al.Artificial intelligence explainability : the technical and ethical dimensions[J].Philosophical Transactions of the Royal Society A:Mathematical,Physical and Engineering Sciences,2021,379(2207):20200363.

[58] PUIUTTA E,VEITH E M S P.Explainable reinforcement learning:a survey[C]//Proceedings of the 4th International Cross-Domain Conference for Machine Learning and Knowledge Extraction.Dublin:Springer,2020.

[59] LIU Haochen,WANG Yiqi,FAN Wenqi,et al.Trustworthy AI:a computational perspective[J].ACM Transactions on Intelligent Systems and Technology,2022,doi:10.1145/3546872.

[60] ZHENG Nanning,LIU Ziyi,REN Pengju,et al.Hybrid-augmented intelligence : collaboration and cognition[J] . Frontiers of Information Technology & Electronic Engineering,2017,18(2):153-179.

[61] YANG Qiang,LIU Yang,CHEN Tianjian,et al.Federated machine learning:concept and applications[J].ACM Transactions on Intelligent Systems and Technology,2019,10(2):12.

[62] KAIROUZ P,MCMAHAN H B,AVENT B,et al.Advances and open problems in federated learning[J].arXiv preprint arXiv:1912.04977,2021.

[63] DEGRAVE J,FELICI F,BUCHLI J,et al.Magnetic control of tokamak plasmas through deep reinforcement learning[J].Nature,2022,602(7897):414-419.

[64] 蒲天骄,陈盛,赵琦,等.能源互联网数字孪生系统框架设计及应用展望[J].中国电机工程学报,2021,41(6):2012-2028.PU Tianjiao,CHEN Sheng,ZHAO Qi,et al.Framework design and application prospect for digital twins system of energy internet[J].Proceedings of the CSEE,2021,41(6):2012-2028(in Chinese).

[65] 王继业.大电网稳定控制通信系统与能源互联网和信息通信融合创新[R].北京:中国通信学会,2020.WANG Jiye.Integration innovation of large power grid stability control communication system and energy internet and information communication[R].Beijing:China Communication Society,2020(in Chinese).

作者简介:王继业(1964),男,博士生导师,教授级高级工程师,从事能源互联网、智能电网、电力信息通信技术研究与产业实践工作,wangjiye@epri.sgcc.com.cn。

本文转载自:中国电机工程学报,不代表我方立场,原文链接: 。

(2)
上一篇 2023年4月17日 上午11:35
下一篇 2023年4月19日 上午11:27

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注