CN116359602A - 非侵入式电动车充电识别方法、装置、介质和智能电表 - Google Patents
非侵入式电动车充电识别方法、装置、介质和智能电表 Download PDFInfo
- Publication number
- CN116359602A CN116359602A CN202310213767.1A CN202310213767A CN116359602A CN 116359602 A CN116359602 A CN 116359602A CN 202310213767 A CN202310213767 A CN 202310213767A CN 116359602 A CN116359602 A CN 116359602A
- Authority
- CN
- China
- Prior art keywords
- electric vehicle
- reinforcement learning
- model
- environment
- vehicle charging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 230000002787 reinforcement Effects 0.000 claims abstract description 155
- 230000005611 electricity Effects 0.000 claims abstract description 120
- 238000012549 training Methods 0.000 claims abstract description 18
- 238000004590 computer program Methods 0.000 claims description 6
- 238000012544 monitoring process Methods 0.000 abstract description 39
- 238000012423 maintenance Methods 0.000 abstract description 13
- 238000009434 installation Methods 0.000 abstract description 12
- 238000010586 diagram Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
- H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
- H02J3/00—Circuit arrangements for ac mains or ac distribution networks
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R22/00—Arrangements for measuring time integral of electric power or current, e.g. electricity meters
- G01R22/06—Arrangements for measuring time integral of electric power or current, e.g. electricity meters by electronic methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- H—ELECTRICITY
- H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
- H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
- H02J2203/00—Indexing scheme relating to details of circuit arrangements for AC mains or AC distribution networks
- H02J2203/10—Power transmission or distribution systems management focussing at grid-level, e.g. load flow analysis, node profile computation, meshed network optimisation, active network management or spinning reserve management
-
- H—ELECTRICITY
- H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
- H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
- H02J2203/00—Indexing scheme relating to details of circuit arrangements for AC mains or AC distribution networks
- H02J2203/20—Simulating, e g planning, reliability check, modelling or computer assisted design [CAD]
-
- H—ELECTRICITY
- H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
- H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
- H02J2310/00—The network for supplying or distributing electric power characterised by its spatial reach or by the load
- H02J2310/70—Load identification
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/60—Other road transportation technologies with climate change mitigation effect
- Y02T10/70—Energy storage systems for electromobility, e.g. batteries
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Power Engineering (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Charge And Discharge Circuits For Batteries Or The Like (AREA)
Abstract
本发明公开了一种非侵入式电动车充电识别方法、装置、介质和智能电表,其中,方法包括:获取当前用电环境下的负荷数据,并将负荷数据输入至预先训练好的强化学习模型,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到;获取强化学习模型输出的模型预测值;根据模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。由此,在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
Description
技术领域
本发明涉及智能电网监测技术领域,尤其涉及一种基于强化学习的非侵入式电动车充电识别方法、一种计算机可读存储介质、一种基于强化学习的非侵入式电动车充电识别装置和一种智能电表。
背景技术
电动车作为重要的短途交通工具,给群众生活出行带来了极大便利,但因电动车充电引发事故而危害公众的生命财产安全的也时有发生,其中,电动车起火主要是电池失温和充电器短路,住宅区私自充电存在着巨大的隐患。
然而,相关的技术问题在于,虽然电动车充电监控系统可实时检测到非法充电行为,但在传统侵入式负荷监测技术中,若要获得各个设备的具体耗能情况,则需要在各个设备处安装负荷监测装置,存在成本高、难以检修、不便推广的问题。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。为此,本发明的第一个目的在于提出一种基于强化学习的非侵入式电动车充电识别方法,能够在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
本发明的第二个目的在于提出一种计算机可读存储介质。
本发明的第三个目的在于提出一种基于强化学习的非侵入式电动车充电识别装置。
本发明的第四个目的在于提出一种智能电表。
为达到上述目的,本发明第一方面实施例提出的基于强化学习的非侵入式电动车充电识别方法,包括:获取当前用电环境下的负荷数据,并将所述负荷数据输入至预先训练好的强化学习模型,其中,所述强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到;获取所述强化学习模型输出的模型预测值;根据所述模型预测值对所述当前用电环境进行识别,以判断是否存在电动车充电事件。
根据本发明实施例提出的基于强化学习的非侵入式电动车充电识别方法,获取当前用电环境下的负荷数据,并将负荷数据输入至预先训练好的强化学习模型,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到,进而,获取强化学习模型输出的模型预测值,并根据模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。由此,在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
另外,根据本发明上述实施例的基于强化学习的非侵入式电动车充电识别方法,还可以具有如下的附加技术特征:
根据本发明的一个实施例,所述当前用电环境下的负荷数据包括:电压数据、电流数据和功率数据中的至少一种。
根据本发明的一个实施例,所述强化学习模型根据以下步骤进行训练:将所述正样本数据集和所述负样本数据集输入至所述强化学习模型,以获取所述强化学习模型输出的预期价值;获取实际用电环境和所述预期价值对应的预测用电环境,并根据所述预测用电环境和实际用电环境获取模型奖励值;根据所述模型奖励值对所述强化学习模型进行优化,直至所述强化学习模型的预期价值达到最大化。
根据本发明的一个实施例,所述根据所述预测用电环境和实际用电环境获取模型奖励值,包括:若所述预测用电环境存在所述电动车充电事件,且所述实际用电环境存在所述电动车充电事件,则所述模型奖励值取正值。
根据本发明的一个实施例,所述根据所述预测用电环境和实际用电环境获取模型奖励值,还包括:若所述预测用电环境未存在所述电动车充电事件,且所述实际用电环境未存在所述电动车充电事件,则所述模型奖励值取正值。
根据本发明的一个实施例,所述根据所述预测用电环境和实际用电环境获取模型奖励值,还包括:若所述预测用电环境存在所述电动车充电事件,且所述实际用电环境未存在所述电动车充电事件,则所述模型奖励值取负值。
根据本发明的一个实施例,所述根据所述预测用电环境和实际用电环境获取模型奖励值,还包括:若所述预测用电环境未存在所述电动车充电事件,且所述实际用电环境存在所述电动车充电事件,则所述模型奖励值取负值。
根据本发明的一个实施例,通过以下公式获取所述预期价值:Q(s,a)=rt+γrt-1+γ2rt-2+…γnrt-n;其中,rt-n为第t-n次执行预测的模型奖励值,γ为折扣因子,Q(s,a)为所述当前用电环境下的负荷数据相对应的预期价值。
为达到上述目的,本发明第二方面实施例提出的计算机可读存储介质,其上存储有基于强化学习的非侵入式电动车充电识别程序,该基于强化学习的非侵入式电动车充电识别程序被处理器执行时实现如第一方面实施例所述的基于强化学习的非侵入式电动车充电识别方法。
根据本发明实施例的计算机可读存储介质,通过处理器执行基于强化学习的非侵入式电动车充电识别程序时,能够在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
为达到上述目的,本发明第三方面实施例提出的基于强化学习的非侵入式电动车充电识别装置,包括:获取模块,用于获取当前用电环境下的负荷数据;预测模块,用于将所述负荷数据输入至预先训练好的强化学习模型,获取所述强化学习模型输出的模型预测值,其中,所述强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到;识别模块,用于根据所述模型预测值对所述当前用电环境进行识别,以判断是否存在电动车充电事件。
根据本发明实施例的基于强化学习的非侵入式电动车充电识别装置,通过获取模块获取当前用电环境下的负荷数据,并通过预测模块将负荷数据输入至预先训练好的强化学习模型,获取强化学习模型输出的模型预测值,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到,以及通过识别模块根据模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。由此,在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
为达到上述目的,本发明第四方面实施例提出的智能电表,包括存储器和处理器,所述存储器上存储有计算机程序,所述处理器执行所述程序时实现如第一方面实施例所述的基于强化学习的非侵入式电动车充电识别方法。
根据本发明实施例的智能电表,通过处理器执行存储在存储器上的计算机程序时,能够在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
图1是根据本发明实施例的基于强化学习的非侵入式电动车充电识别方法的流程示意图;
图2是根据本发明一个实施例的强化学习模型训练过程的流程示意图;
图3是根据本发明一个具体实施例的强化学习模型训练过程的流程示意图;
图4是根据本发明实施例的基于强化学习的非侵入式电动车充电识别装置的方框示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的基于强化学习的非侵入式电动车充电识别方法、计算机存储介质、基于强化学习的非侵入式电动车充电识别装置和智能电表。
图1是根据本发明实施例的基于强化学习的非侵入式电动车充电识别方法的流程示意图。
如图1所示,基于强化学习的非侵入式电动车充电识别方法,包括:
S101,获取当前用电环境下的负荷数据,并将负荷数据输入至预先训练好的强化学习模型,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到。
可以理解的是,在本发明的一些实施例中,可以在不影响用电系统正常运行的情况下,获取当前用电环境下的负荷数据,并将负荷数据输入至预先训练好的强化学习模型,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到,从而获取对应当前用电环境的模型预测值。
S102,获取强化学习模型输出的模型预测值。
可以理解的是,在本发明的一些实施例中,强化学习模型输出的模型预测值可以用于表征当前用电环境下是否存在电动车充电事件,例如,若强化学习模型输出的模型预测值为0,则表征当前用电环境下未存在电动车充电事件,若强化学习模型输出的模型预测值为1,则表征当前用电环境下存在电动车充电事件。
S103,根据模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。
具体而言,在本发明的上述实施例中,获取当前用电环境下的负荷数据,并将负荷数据输入至预先训练好的强化学习模型,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到,进而,根据强化学习模型输出的模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。由此,在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
进一步地,当前用电环境下的负荷数据包括:电压数据、电流数据和功率数据中的至少一种。
具体而言,在本发明的上述实施例中,获取当前用电环境下的电压数据、电流数据和功率数据中的至少一种,并当前用电环境下的电压数据、电流数据和功率数据中的至少一种输入至预先训练好的强化学习模型,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到,进而,根据强化学习模型输出的模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。由此,在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
下面结合附图2-3与本发明的具体实施例,对本发明实施例的强化学习模型的训练过程进行相应的说明。
进一步地,如图2所示,强化学习模型根据以下步骤进行训练:
S201,将正样本数据集和负样本数据集输入至强化学习模型,以获取强化学习模型输出的预期价值。
可以理解的是,在本发明的一些实施例中,可以将表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集输入至强化学习模型,以获取强化学习模型输出的预期价值,从而便于强化学习模型利用强化学习模型输出的预期价值进行优化学习。
S202,获取实际用电环境和预期价值对应的预测用电环境,并根据预测用电环境和实际用电环境获取模型奖励值。
可以理解的是,在本发明的一些实施例中,可以根据预测用电环境和实际用电环境是否一致,以获取对应的模型奖励值,从而便于强化学习模型利用模型奖励值进行优化学习。
S203,根据模型奖励值对强化学习模型进行优化,直至强化学习模型的预期价值达到最大化。
需要说明的是,强化学习模型的预期价值可以用于表征强化学习模型的预测精度,换言之,强化学习模型的预期价值越大,则强化学习模型的预测精度越高,因此,在本发明的一些实施例中,可以反复根据模型奖励值对强化学习模型进行优化,直至强化学习模型的预期价值达到最大化,从而确保强化学习模型的预测精度,进而提高强化学习模型的预测性能。
具体而言,在本发明的上述实施例中,将表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集输入至强化学习模型,以获取强化学习模型输出的预期价值,进而,获取实际用电环境和预期价值对应的预测用电环境,并根据预测用电环境和实际用电环境获取模型奖励值,以及,根据模型奖励值对强化学习模型进行优化,直至强化学习模型的预期价值达到最大化,从而获得预先训练好的强化学习模型。
进一步地,根据预测用电环境和实际用电环境获取模型奖励值,包括:若预测用电环境存在电动车充电事件,且实际用电环境存在电动车充电事件,则模型奖励值取正值。
具体而言,在本发明的上述实施例中,当预测用电环境存在电动车充电事件,且实际用电环境存在电动车充电事件时,可以判断强化学习模型预测出的预测用电环境和实际用电环境一致,此时,模型奖励值取正值,从而提高强化学习模型的预期价值。
进一步地,根据预测用电环境和实际用电环境获取模型奖励值,还包括:若预测用电环境未存在电动车充电事件,且实际用电环境未存在电动车充电事件,则模型奖励值取正值。
具体而言,在本发明的上述实施例中,当预测用电环境未存在电动车充电事件,且实际用电环境未存在电动车充电事件时,可以判断强化学习模型预测出的预测用电环境和实际用电环境一致,此时,模型奖励值取正值,从而提高强化学习模型的预期价值。
进一步地,根据预测用电环境和实际用电环境获取模型奖励值,还包括:若预测用电环境存在电动车充电事件,且实际用电环境未存在电动车充电事件,则模型奖励值取负值。
具体而言,在本发明的上述实施例中,当预测用电环境存在电动车充电事件,且实际用电环境未存在电动车充电事件时,可以判断强化学习模型预测出的预测用电环境和实际用电环境不一致,此时,模型奖励值取负值,从而降低强化学习模型的预期价值。
进一步地,根据预测用电环境和实际用电环境获取模型奖励值,还包括:若预测用电环境未存在电动车充电事件,且实际用电环境存在电动车充电事件,则模型奖励值取负值。
具体而言,在本发明的上述实施例中,当预测用电环境未存在电动车充电事件,且实际用电环境存在电动车充电事件时,可以判断强化学习模型预测出的预测用电环境和实际用电环境不一致,此时,模型奖励值取负值,从而降低强化学习模型的预期价值。
进一步地,通过以下公式获取预期价值:
Q(s,a)=rt+γrt-1+γ2rt-2+…γnrt-n;
其中,rt-n为第t-n次执行预测的模型奖励值,γ为折扣因子,Q(s,a)为当前用电环境下的负荷数据相对应的预期价值。
可以理解的是,由于可以反复将正样本数据集和负样本数据集输入至强化学习模型,以获取强化学习模型输出的预期价值,并获取实际用电环境和预期价值对应的预测用电环境,并根据预测用电环境和实际用电环境获取模型奖励值,进而,根据模型奖励值对强化学习模型进行优化,直至强化学习模型的预期价值达到最大化,因此,在本发明的一些实施例中,可以通过公式:Q(s,a)=rt+γrt-1+γ2rt-2+…γnrt-n,获取最终的强化学习模型的预期价值,以确保强化学习模型的预期价值达到最大化,从而获得预先训练好的强化学习模型。
具体而言,在本发明的上述实施例中,可以根据多个执行预测的模型奖励值rt-n和折扣因子γ,计算得出当前用电环境下的负荷数据相对应的预期价值Q(s,a),直至强化学习模型的预期价值达到最大化,从而获得预先训练好的强化学习模型。
具体而言,如图3所示,在本发明的一个具体实施例中,强化学习模型的训练过程执行如下步骤:
S10,获取表征电动车充电负荷数据的正样本数据集。
S11,获取表征家用电器负荷数据的负样本数据集。
可选地,家用电器可以包括电饭煲、冰箱、洗衣机、微波炉、热水器、电脑、显示器等。
S12,将正样本数据集和负样本数据集输入至强化学习模型。
S13,获取强化学习模型输出的预期价值。
S14,获取实际用电环境和预期价值对应的预测用电环境,并根据预测用电环境和实际用电环境获取模型奖励值。
S15,根据模型奖励值对强化学习模型进行优化。
S16,返回执行步骤S11,直至强化学习模型的预期价值达到最大化。
S17,将预期价值达到最大化的强化学习模型作为预先训练好的模型。
综上,根据本发明实施例提出的基于强化学习的非侵入式电动车充电识别方法,获取当前用电环境下的负荷数据,并将负荷数据输入至预先训练好的强化学习模型,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到,进而,获取强化学习模型输出的模型预测值,并根据模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。由此,在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
基于前述本发明实施例的基于强化学习的非侵入式电动车充电识别方法,本发明实施例还提出了一种计算机可读存储介质,其上存储有基于强化学习的非侵入式电动车充电识别程序,该基于强化学习的非侵入式电动车充电识别程序被处理器执行时实现前述本发明实施例的基于强化学习的非侵入式电动车充电识别方法。
需要说明的是,本发明实施例的计算机存储介质在执行其上存储有的基于强化学习的非侵入式电动车充电识别程序时,能够实现与前述本发明实施例的基于强化学习的非侵入式电动车充电识别方法一一对应的具体实施方式,为减少冗余,在此不再赘述。
综上,根据本发明实施例的计算机可读存储介质,通过处理器执行基于强化学习的非侵入式电动车充电识别程序时,能够在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
图4是根据本发明实施例的基于强化学习的非侵入式电动车充电识别装置的方框示意图。
如图4所示,基于强化学习的非侵入式电动车充电识别装置100包括:获取模块10、预测模块20和识别模块30。
具体地,获取模块10用于获取当前用电环境下的负荷数据;预测模块20用于将负荷数据输入至预先训练好的强化学习模型,获取强化学习模型输出的模型预测值,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到;识别模块30用于根据模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。
进一步地,当前用电环境下的负荷数据包括:电压数据、电流数据和功率数据中的至少一种。
进一步地,强化学习模型根据以下步骤进行训练:将正样本数据集和负样本数据集输入至强化学习模型,以获取强化学习模型输出的预期价值;获取实际用电环境和预期价值对应的预测用电环境,并根据预测用电环境和实际用电环境获取模型奖励值;根据模型奖励值对强化学习模型进行优化,直至强化学习模型的预期价值达到最大化。
进一步地,根据预测用电环境和实际用电环境获取模型奖励值,包括:若预测用电环境存在电动车充电事件,且实际用电环境存在电动车充电事件,则模型奖励值取正值;若预测用电环境未存在电动车充电事件,且实际用电环境未存在电动车充电事件,则模型奖励值取正值;若预测用电环境存在电动车充电事件,且实际用电环境未存在电动车充电事件,则模型奖励值取负值;若预测用电环境未存在电动车充电事件,且实际用电环境存在电动车充电事件,则模型奖励值取负值。
进一步地,通过以下公式获取预期价值:Q(s,a)=rt+γrt-1+γ2rt-2+…γnrt-n;其中,rt-n为第t-n次执行预测的模型奖励值,γ为折扣因子,Q(s,a)为当前用电环境下的负荷数据相对应的预期价值。
需要说明的是,本发明实施例的基于强化学习的非侵入式电动车充电识别装置的具体实施方式与前述本发明实施例的基于强化学习的非侵入式电动车充电识别方法的具体实施方式一一对应,为减少冗余,在此不再赘述。
综上,根据本发明实施例的基于强化学习的非侵入式电动车充电识别装置,通过获取模块获取当前用电环境下的负荷数据,并通过预测模块将负荷数据输入至预先训练好的强化学习模型,获取强化学习模型输出的模型预测值,其中,强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到,以及通过识别模块根据模型预测值对当前用电环境进行识别,以判断是否存在电动车充电事件。由此,在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
基于前述本发明实施例的基于强化学习的非侵入式电动车充电识别方法,本发明实施例还提出了一种智能电表,包括存储器和处理器,存储器上存储有计算机程序,处理器执行程序时实现如前述本发明实施例的基于强化学习的非侵入式电动车充电识别方法。
需要说明的是,本发明实施例的智能电表在执行存储器上存储有的计算机程序时,能够实现与前述本发明实施例的基于强化学习的非侵入式电动车充电识别方法一一对应的具体实施方式,为减少冗余,在此不再赘述。
综上,根据本发明实施例的智能电表,通过处理器执行存储在存储器上的计算机程序时,能够在不影响用电系统正常运行的情况下,实时监测电动车充电事件,且非侵入式监测使用硬件数量少,安装维护方便,有利于节约监测成本,且降低监测复杂度。
需要说明的是,在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触,或第一和第二特征通过中间媒介间接接触。而且,第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方,或仅仅表示第一特征水平高度小于第二特征。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (11)
1.一种基于强化学习的非侵入式电动车充电识别方法,其特征在于,所述方法包括:
获取当前用电环境下的负荷数据,并将所述负荷数据输入至预先训练好的强化学习模型,其中,所述强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到;
获取所述强化学习模型输出的模型预测值;
根据所述模型预测值对所述当前用电环境进行识别,以判断是否存在电动车充电事件。
2.根据权利要求1所述的基于强化学习的非侵入式电动车充电识别方法,其特征在于,所述当前用电环境下的负荷数据包括:电压数据、电流数据和功率数据中的至少一种。
3.根据权利要求1或2所述的基于强化学习的非侵入式电动车充电识别方法,其特征在于,所述强化学习模型根据以下步骤进行训练:
将所述正样本数据集和所述负样本数据集输入至所述强化学习模型,以获取所述强化学习模型输出的预期价值;
获取实际用电环境和所述预期价值对应的预测用电环境,并根据所述预测用电环境和实际用电环境获取模型奖励值;
根据所述模型奖励值对所述强化学习模型进行优化,直至所述强化学习模型的预期价值达到最大化。
4.根据权利要求3所述的基于强化学习的非侵入式电动车充电识别方法,其特征在于,所述根据所述预测用电环境和实际用电环境获取模型奖励值,包括:
若所述预测用电环境存在所述电动车充电事件,且所述实际用电环境存在所述电动车充电事件,则所述模型奖励值取正值。
5.根据权利要求4所述的基于强化学习的非侵入式电动车充电识别方法,其特征在于,所述根据所述预测用电环境和实际用电环境获取模型奖励值,还包括:
若所述预测用电环境未存在所述电动车充电事件,且所述实际用电环境未存在所述电动车充电事件,则所述模型奖励值取正值。
6.根据权利要求5所述的基于强化学习的非侵入式电动车充电识别方法,其特征在于,所述根据所述预测用电环境和实际用电环境获取模型奖励值,还包括:
若所述预测用电环境存在所述电动车充电事件,且所述实际用电环境未存在所述电动车充电事件,则所述模型奖励值取负值。
7.根据权利要求6所述的基于强化学习的非侵入式电动车充电识别方法,其特征在于,所述根据所述预测用电环境和实际用电环境获取模型奖励值,还包括:
若所述预测用电环境未存在所述电动车充电事件,且所述实际用电环境存在所述电动车充电事件,则所述模型奖励值取负值。
8.根据权利要求3所述的基于强化学习的非侵入式电动车充电识别方法,其特征在于,通过以下公式获取所述预期价值:
Q(s,a)=rt+γrt-1+γ2rt-2+…γnrt-n;
其中,rt-n为第t-n次执行预测的模型奖励值,γ为折扣因子,Q(s,a)为所述当前用电环境下的负荷数据相对应的预期价值。
9.一种计算机可读存储介质,其上存储有基于强化学习的非侵入式电动车充电识别程序,该基于强化学习的非侵入式电动车充电识别程序被处理器执行时实现如权利要求1-8中任一项所述的基于强化学习的非侵入式电动车充电识别方法。
10.一种基于强化学习的非侵入式电动车充电识别装置,其特征在于,所述装置包括:
获取模块,用于获取当前用电环境下的负荷数据;
预测模块,用于将所述负荷数据输入至预先训练好的强化学习模型,获取所述强化学习模型输出的模型预测值,其中,所述强化学习模型根据表征电动车充电负荷数据的正样本数据集和表征家用电器负荷数据的负样本数据集训练得到;
识别模块,用于根据所述模型预测值对所述当前用电环境进行识别,以判断是否存在电动车充电事件。
11.一种智能电表,其特征在于,包括存储器和处理器,所述存储器上存储有计算机程序,所述处理器执行所述程序时实现如权利要求1-8中任一项所述的基于强化学习的非侵入式电动车充电识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310213767.1A CN116359602B (zh) | 2023-03-07 | 2023-03-07 | 非侵入式电动车充电识别方法、装置、介质和智能电表 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310213767.1A CN116359602B (zh) | 2023-03-07 | 2023-03-07 | 非侵入式电动车充电识别方法、装置、介质和智能电表 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116359602A true CN116359602A (zh) | 2023-06-30 |
CN116359602B CN116359602B (zh) | 2024-05-03 |
Family
ID=86911858
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310213767.1A Active CN116359602B (zh) | 2023-03-07 | 2023-03-07 | 非侵入式电动车充电识别方法、装置、介质和智能电表 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116359602B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116756638A (zh) * | 2023-08-17 | 2023-09-15 | 广东电网有限责任公司汕头供电局 | 电动车用电负荷需求检测方法、装置、设备及存储介质 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140336831A1 (en) * | 2013-05-08 | 2014-11-13 | Samsung Electronics Co., Ltd. | Non-intrusive load monitoring apparatus and method |
CN109068391A (zh) * | 2018-09-27 | 2018-12-21 | 青岛智能产业技术研究院 | 基于边缘计算和Actor-Critic算法的车联网通信优化算法 |
CN109508908A (zh) * | 2018-12-25 | 2019-03-22 | 深圳市城市公共安全技术研究院有限公司 | 非侵入式负荷识别模型训练方法、负荷监测方法及装置 |
CN113627661A (zh) * | 2021-08-02 | 2021-11-09 | 深圳供电局有限公司 | 一种电动汽车充电负荷预测的方法 |
CN113820557A (zh) * | 2021-09-22 | 2021-12-21 | 南京工程学院 | 非侵入式电动自行车充电负荷检测与识别方法 |
CN113928158A (zh) * | 2021-08-31 | 2022-01-14 | 天津大学 | 基于模型自学习的非侵入式电动自行车监测方法及系统 |
CN114186411A (zh) * | 2021-12-10 | 2022-03-15 | 北京梧桐车联科技有限责任公司 | 电动车辆的充电负荷预测方法、模型训练方法及装置 |
CN114330461A (zh) * | 2022-03-16 | 2022-04-12 | 北京智芯微电子科技有限公司 | 用于非侵入负荷识别的v-i轨迹生成方法、装置及神经网络 |
WO2022121744A1 (zh) * | 2020-12-08 | 2022-06-16 | 浙江大学 | 基于v‐i轨迹图和神经网络的非侵入式负荷识别方法 |
CN114707691A (zh) * | 2022-02-11 | 2022-07-05 | 浙江财经大学 | 一种传染病流行期间短期电力负荷预测方法及装置 |
CN114706384A (zh) * | 2022-03-10 | 2022-07-05 | 中山大学 | 一种连通性保持的多机导航方法、系统及介质 |
CN115730635A (zh) * | 2022-12-06 | 2023-03-03 | 江南大学 | 一种电动汽车负荷预测方法 |
WO2023109099A1 (zh) * | 2021-12-15 | 2023-06-22 | 重庆邮电大学 | 基于非侵入式检测的充电负荷概率预测系统及方法 |
-
2023
- 2023-03-07 CN CN202310213767.1A patent/CN116359602B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140336831A1 (en) * | 2013-05-08 | 2014-11-13 | Samsung Electronics Co., Ltd. | Non-intrusive load monitoring apparatus and method |
CN109068391A (zh) * | 2018-09-27 | 2018-12-21 | 青岛智能产业技术研究院 | 基于边缘计算和Actor-Critic算法的车联网通信优化算法 |
CN109508908A (zh) * | 2018-12-25 | 2019-03-22 | 深圳市城市公共安全技术研究院有限公司 | 非侵入式负荷识别模型训练方法、负荷监测方法及装置 |
WO2022121744A1 (zh) * | 2020-12-08 | 2022-06-16 | 浙江大学 | 基于v‐i轨迹图和神经网络的非侵入式负荷识别方法 |
CN113627661A (zh) * | 2021-08-02 | 2021-11-09 | 深圳供电局有限公司 | 一种电动汽车充电负荷预测的方法 |
CN113928158A (zh) * | 2021-08-31 | 2022-01-14 | 天津大学 | 基于模型自学习的非侵入式电动自行车监测方法及系统 |
CN113820557A (zh) * | 2021-09-22 | 2021-12-21 | 南京工程学院 | 非侵入式电动自行车充电负荷检测与识别方法 |
CN114186411A (zh) * | 2021-12-10 | 2022-03-15 | 北京梧桐车联科技有限责任公司 | 电动车辆的充电负荷预测方法、模型训练方法及装置 |
WO2023109099A1 (zh) * | 2021-12-15 | 2023-06-22 | 重庆邮电大学 | 基于非侵入式检测的充电负荷概率预测系统及方法 |
CN114707691A (zh) * | 2022-02-11 | 2022-07-05 | 浙江财经大学 | 一种传染病流行期间短期电力负荷预测方法及装置 |
CN114706384A (zh) * | 2022-03-10 | 2022-07-05 | 中山大学 | 一种连通性保持的多机导航方法、系统及介质 |
CN114330461A (zh) * | 2022-03-16 | 2022-04-12 | 北京智芯微电子科技有限公司 | 用于非侵入负荷识别的v-i轨迹生成方法、装置及神经网络 |
CN115730635A (zh) * | 2022-12-06 | 2023-03-03 | 江南大学 | 一种电动汽车负荷预测方法 |
Non-Patent Citations (5)
Title |
---|
C. MA, ET AL.: "An Unsupervised Non-intrusive Electric Bicycle Charging Detection Method", 《2021 6TH ASIA CONFERENCE ON POWER AND ELECTRICAL ENGINEERING (ACPEE)》, vol. 1, 24 May 2021 (2021-05-24), pages 335 - 339 * |
J. LI, ET AL.: "A Non-intrusive Method Based on Deep Learning for Abnormal Electricity Consumption Detection of Electric Bicycles", 《2021 IEEE 2ND CHINA INTERNATIONAL YOUTH CONFERENCE ON ELECTRICAL ENGINEERING (CIYCEE)》, 20 January 2022 (2022-01-20), pages 1 - 5 * |
施雨松 等: "基于特征选择与增量学习的非侵入式电动自行车充电辨识方法", 《电力系统自动化》, vol. 45, no. 07, 10 April 2021 (2021-04-10), pages 87 - 94 * |
焦李成: "《计算智能导论》", vol. 1, 西安电子科技大学出版社, pages: 311 - 313 * |
赵安军 等: "优化卷积神经网络超参数的非侵入式电力负荷识别算法", 《激光与光电子学进展》, vol. 60, no. 02, 25 January 2023 (2023-01-25), pages 53 - 60 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116756638A (zh) * | 2023-08-17 | 2023-09-15 | 广东电网有限责任公司汕头供电局 | 电动车用电负荷需求检测方法、装置、设备及存储介质 |
CN116756638B (zh) * | 2023-08-17 | 2023-11-14 | 广东电网有限责任公司汕头供电局 | 电动车用电负荷需求检测方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN116359602B (zh) | 2024-05-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116359602B (zh) | 非侵入式电动车充电识别方法、装置、介质和智能电表 | |
CN103683424B (zh) | 基于动态分时电价的电动汽车充电站有序充电控制方法 | |
US20120016608A1 (en) | Method and system for monitoring residential appliances | |
CN110780210B (zh) | 一种电池包内短路检测方法、装置和电动汽车 | |
CN111707957B (zh) | 电动汽车电池残值估算方法及装置 | |
WO2019184848A1 (zh) | 电动汽车及其提示系统 | |
CN107179512A (zh) | 预测电池寿命的方法及装置 | |
US11527900B2 (en) | Apparatus and method for managing a battery based on degradation determination | |
CN113064089B (zh) | 动力电池的内阻检测方法、装置、介质以及系统 | |
KR102648764B1 (ko) | 전지 성능 평가 방법 및 전지 성능 평가 장치 | |
CN116739202B (zh) | 一种电力选路方法、系统、设备及存储介质 | |
CN110780219A (zh) | 一种电池包内短路检测方法、装置和电动汽车 | |
CN114084086A (zh) | 一种车辆配电方法、装置、可读存储介质及车辆 | |
JP6137498B2 (ja) | エネルギー節約支援システム | |
CN103700900A (zh) | 移动终端充电的控制方法、装置、系统和移动终端 | |
CN116930780A (zh) | 智能电量检测方法、检测装置及计算机可读存储介质 | |
CN111985069A (zh) | 电池续航里程确定方法、装置、设备和可读存储介质 | |
CN116466239A (zh) | 车载低压电源健康状态检测方法、系统、装置及存储介质 | |
WO2014018048A1 (en) | Battery management system | |
CN114552068B (zh) | 车辆及其动力电池加热方法、装置及存储介质 | |
CA3139175C (en) | Battery performance evaluation device, electronic apparatus, charger, and battery performance evaluation method | |
CN112731173B (zh) | 一种电池包的电芯内阻变化检测方法及装置 | |
CN115347634A (zh) | 一种电池检测方法、系统、可读存储介质及车辆 | |
CN113147630A (zh) | 一种模式控制方法、系统、可读存储介质及车辆 | |
CN116384468A (zh) | 一种锂电池故障预警的模型训练方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |