DESCRIPTION
Echange d’énergie dans un ensemble d’entités
Domaine de l'invention
L'invention se rapporte de manière générale au domaine de l’échange d’énergie sur une place d’échange d’énergie, dans laquelle plusieurs entités qui composent cette place d’échange sont aptes à mettre en oeuvre des transactions énergétiques sur cette place d’échange, en fonction de leur profil correspondant qui peut être par exemple productrice d’énergie et/ou consommatrice d’énergie et/ou stockant de l’énergie.
Plus précisément, l'invention porte sur la sélection d’une stratégie optimale d’échange d’énergie pour chaque entité, de manière à ce que chaque entité de la place d’échange mette en oeuvre une transaction énergétique, autrement dit requière et/ou fournisse de l’énergie en respectant au moins un critère tel que la diminution des dépenses pour requérir l’énergie lorsque l’entité consomme de l’énergie, l’augmentation des profits lorsque l’entité produit de l’énergie, l’augmentation/maintien du confort de l’utilisateur de l’entité lorsque l’entité consomme de l’énergie, la réduction de l’empreinte carbone lorsque l’entité met en oeuvre une transaction énergétique, etc.
Art antérieur
Il existe actuellement différentes modélisations possibles de places d’échange d’énergie. Toutefois, les mécanismes mis en place pour optimiser l’échange d’énergie peuvent encore être améliorés. En effet, dans certains travaux de modélisation de places d’échange d’énergie les calculs sont pris en charge par un nombre restreint d’entités qui composent la place d’échange, tandis que d’autres sont incomplets car ils ne prennent pas en compte le caractère multi-profils que peut avoir une entité (consommer/produire/stocker) ou qu’ils n’abordent qu’une facette de la stratégie d’échange d’énergie (par exemple gérer l’équilibre entre la demande d’énergie et la réponse à cette demande, contrôler la manière de répartir les besoins en énergie au niveau de chaque entité, planifier le fonctionnement d’entités consommatrices d’énergie, etc.).
Objet et résumé de l'invention
Un des buts de l'invention est de remédier à des inconvénients de l'état de la technique précité en proposant un procédé d’échange d’énergie qui permet de prendre en compte, pour une entité donnée de la place d’échange, tous les profils possibles d’utilisation de l’énergie conférés cette entité, ainsi que toutes les stratégies possibles d’échange d’énergie déterminée par cette entité, ceci au bénéfice d’une répartition optimisée des calculs sur l’ensemble des entités de la place d’échange, de manière à optimiser les performances de l’échange d’énergie entre les entités.
A cet effet, un objet de la présente invention concerne un procédé d’échange d’énergie dans un ensemble d’au moins deux entités configurées respectivement selon au moins un profil d’utilisation d’énergie parmi un premier profil de production d’énergie, un deuxième profil de consommation d’énergie et un troisième profil de stockage d’énergie.
Un tel procédé est remarquable en ce qu’il met en oeuvre ce qui suit dans un intervalle de temps courant, au niveau d’au moins une des entités :
- recevoir des informations relatives à :
* une valeur de quantité d’énergie qui, selon le profil de ladite au moins une entité, dépend :
-- de la quantité d’énergie produite, dans l’intervalle de temps courant, par au moins une sous-entité de production d’énergie associée à ladite au moins une entité,
- de la quantité d’énergie consommée, dans l’intervalle de temps courant, par au moins une sous-entité de consommation en énergie associée à ladite au moins une entité,
- de la quantité d’énergie stockée, dans l’intervalle de temps courant, par au moins une sous-entité de stockage d’énergie associée à ladite au moins une entité,
* une valeur du prix que coûte l’énergie disponible dans l’intervalle de temps courant auprès de l’autre entité et/ou d’un fournisseur d’énergie externe audit ensemble,
- à partir de ladite valeur de quantité d’énergie et de la valeur dudit prix, sélectionner le cas échéant une action parmi une action de fourniture d’énergie à ladite autre entité ou au fournisseur d’énergie externe, une action de requête en énergie auprès de ladite autre entité ou du fournisseur d’énergie externe, ladite sélection étant mise en oeuvre conformément à un critère de performance de l’échange d’énergie.
L’invention permet avantageusement de construire une place d’échange d’énergie entre différentes entités d’un même ensemble qui tient compte de tous les profils d’utilisation d’énergie possibles d’une entité donnée, à savoir produire de l’énergie et/ou consommer de l’énergie et/ou stocker de l’énergie, ce qui en fait une place d’échange d’énergie particulièrement complète. Un tel ensemble d’entités est par exemple un groupe d’immeubles situés dans un même quartier, un ensemble de bâtiments situés dans une zone industrielle, une flotte de bateaux dans un port, une pluralité de stations de base desservant respectivement une pluralité de cellules d’un réseau de communication, etc. L’ensemble d’entités n’est pas limité à une entité d’un même type, par exemple immeuble, bâtiment, bateau, station de base, etc... Ainsi, l’ensemble d’entités peut comprendre par exemple un ou plusieurs immeubles d’un même quartier et une ou plusieurs stations de base, un ou plusieurs bateaux d’un port et une ou plusieurs stations de base, etc...
Un tel procédé d’échange d’énergie est non seulement performant et précis, au niveau de l’action qui est sélectionnée dans l’intervalle de temps courant, mais il est également adaptable au fil du temps, car il repose sur une structure hiérarchique composée d’entités à un niveau supérieur qui interagissent avec des sous-entités à un niveau inférieur. Une telle interaction est avantageuse dans le sens où elle permet à l’entité de niveau supérieur de sélectionner, à partir des informations reçues en provenance d’une ou de plusieurs sous-entités associées à cette entité, la stratégie optimale d’utilisation de l’énergie dans l’intervalle de temps courant, conformément à un critère de performance énergétique.
Selon un mode de réalisation particulier, le critère de performance énergétique utilisé minimise le coût de l’énergie requise par ladite au moins une entité dans l’intervalle de temps courant et maximise le profit de la fourniture d’énergie à l’autre entité ou au fournisseur d’énergie externe dans l’intervalle de temps courant.
Selon ce mode de réalisation, la stratégie optimale d’utilisation de l’énergie, dans l’intervalle de temps courant, est basée avantageusement sur un compromis de réduction des dépenses pour l’énergie requise par l’entité et de maximisation des profits pour l’énergie fournie par l’entité.
Selon un autre mode de réalisation particulier, les informations reçues comprennent en outre une valeur d’empreinte carbone déterminée, dans l’intervalle de temps courant, par ladite au moins une sous-entité de production ou de stockage d’énergie
associée à ladite au moins une entité, et transmise par ladite au moins une sous- entité à ladite au moins une entité, et dans lequel la sélection d’une action est mise en oeuvre en outre à partir de ladite valeur d’empreinte carbone conformément à un critère de minimisation de l’empreinte carbone de l’énergie à fournir à l’autre entité ou au fournisseur d’énergie externe.
Ce mode de réalisation a pour avantage d’ajouter la minimisation de l’empreinte carbone de l’énergie à fournir à l’autre entité au compromis de réduction des dépenses pour l’énergie requise par l’entité et de maximisation des profits pour l’énergie fournie par l’entité. De ce fait, le procédé d’échange d’énergie selon ce mode de réalisation est rendu plus économe en énergie et moins polluant.
Selon un autre mode de réalisation particulier, la quantité d’énergie à consommer, dans l’intervalle de temps courant, par au moins une sous-entité de consommation en énergie associée à ladite au moins une entité, est basée sur la consommation en énergie calculée au niveau d’au moins un appareil consommateur en énergie qui est associé à ladite au moins une sous-entité de consommation en énergie, conformément à la minimisation d’un critère d’insatisfaction d’un utilisateur dudit au moins un appareil, ledit critère étant lié :
- soit à un décalage de l’utilisation dudit au moins un appareil dans un intervalle temporel postérieur à l’intervalle temporel courant, si ledit au moins un appareil a un profil d’utilisation décalable dans le temps,
- soit à une diminution du niveau de puissance dudit au moins un appareil dans l’intervalle de temps courant, si ledit au moins un appareil a un profil d’utilisation décalable en puissance.
Un tel mode de réalisation permet à la sous-entité de consommation en énergie associée à ladite au moins une entité d’appliquer à son niveau une stratégie optimale pour déterminer, dans l’intervalle de temps courant, la quantité d’énergie à consommer conformément à un critère de performance énergétique qui repose ici sur la minimisation de l’insatisfaction d’un utilisateur d’au moins un appareil consommateur en énergie rattaché à la sous-entité de consommation en énergie, en tant que sous-entité de cette sous-entité de consommation en énergie.
Selon un autre mode de réalisation particulier, ladite au moins une sous-entité de production d’énergie associée à ladite au moins une entité met en oeuvre ce qui suit dans l’intervalle de temps courant :
- recevoir des informations relatives à :
-- une valeur du prix que coûte l’énergie disponible dans l’intervalle de temps courant auprès de l’autre entité et/ou d’un fournisseur d’énergie externe audit ensemble, -- la quantité d’énergie stockée, dans l’intervalle de temps courant, par au moins une sous-entité de stockage d’énergie associée à ladite au moins une entité, si ladite au moins une sous-entité de stockage est présente,
- à partir de la valeur du prix et, le cas échéant, de la quantité d’énergie stockée, et selon un critère de performance de production d’énergie :
-- sélectionner une destination de l’énergie produite par ladite au moins une sous- entité de production d’énergie dans l’intervalle de temps courant parmi ladite autre entité ou le fournisseur d’énergie externe, ladite au moins une sous-entité de stockage d’énergie associée à ladite au moins une entité, au moins un appareil consommateur en énergie associé à ladite au moins une sous-entité de consommation en énergie,
-- calculer la quantité d’énergie produite à utiliser selon la destination sélectionnée. Un tel mode de réalisation permet à la sous-entité de production d’énergie associée à ladite au moins une entité d’appliquer également à son niveau une stratégie optimale pour déterminer, dans l’intervalle de temps courant, la quantité d’énergie à utiliser conformément à un critère de performance de production énergétique, en fonction de l’action sélectionnée selon ce critère qui est soit fournir de l’énergie à l’autre entité ou au fournisseur d’énergie externe, charger une sous-entité de stockage d’énergie associée à ladite au moins une entité, ou alimenter en énergie au moins un appareil consommateur en énergie rattaché à ladite au moins une entité de consommation en énergie.
Selon un autre mode de réalisation particulier, ladite au moins une sous-entité de stockage d’énergie associée à ladite au moins une entité met en oeuvre ce qui suit dans l’intervalle de temps courant :
- recevoir des informations relatives à au moins une valeur du prix que coûte l’énergie disponible dans l’intervalle de temps courant auprès d’un fournisseur d’énergie externe audit ensemble,
- à partir de la valeur du prix, de la quantité d’énergie stockée dans l’intervalle de temps courant, par ladite au moins une sous-entité de stockage d’énergie, et selon un critère de performance de l’utilisation de l’énergie stockée, sélectionner :
-- une action relative au non-rechargement ou au rechargement en énergie de ladite au moins une sous-entité de stockage,
-- une action relative au non-déchargement ou au déchargement en énergie de ladite au moins une sous-entité de stockage,
- calculer la quantité d’énergie nécessaire au rechargement, respectivement déchargement, si l’action relative au rechargement, respectivement déchargement, est sélectionnée.
Un tel mode de réalisation permet à la sous-entité de stockage d’énergie associée à ladite au moins une entité d’appliquer également à son niveau une stratégie optimale pour déterminer, dans l’intervalle de temps courant, la quantité d’énergie nécessaire à son rechargement ou à son déchargement conformément à un critère de performance de l’utilisation de l’énergie stockée.
Selon un autre mode de réalisation particulier, le critère de performance de l’utilisation de l’énergie stockée maximise la durée du cycle de vie de ladite au moins une sous-entité de stockage.
Selon ce mode de réalisation, le critère de performance de l’utilisation de l’énergie stockée qui est utilisé par la sous-entité de stockage d’énergie tient compte avantageusement de la maximisation de la durée du cycle de vie de la sous-entité de stockage pour déterminer l’énergie à utiliser pour son chargement ou son déchargement. Ainsi, ladite au moins une sous-entité de stockage d’énergie, à son niveau également, sélectionne son action dans un souci d’économie d’énergie et de réduction de la pollution, ce qui contribue au respect du développement durable. Selon un autre mode de réalisation particulier, les étapes mises en oeuvre par ladite au moins une entité, lesdites sous-entités de production d’énergie, de consommation en énergie, de stockage d’énergie, ainsi que ledit au moins un appareil consommateur en énergie, sont exécutées à l’aide d’un algorithme d’apprentissage. Un tel algorithme d’apprentissage est particulièrement bien adapté à la structure hiérarchique sur laquelle repose le procédé d’échange d’énergie selon l’invention, où chaque action va être apprise niveau par niveau, c’est-à-dire, au niveau des entités dudit ensemble, au niveau des sous-entités associées aux entités dudit ensemble, et au niveau du et/ou des appareil(s) consommateur(s) en énergie associés en particulier à ladite au moins une sous-entité de consommation en énergie. Ainsi, l’apprentissage des actions est avantageusement réparti sur chacun de ces niveaux
au lieu d’être concentré uniquement sur les entités dudit ensemble, ce qui procure de la scalabilité au procédé d’échange d’énergie selon l’invention et en accélère l’apprentissage.
Selon un autre mode de réalisation particulier, l’algorithme d’apprentissage est du type par renforcement, dans lequel :
- les entités sont des agents, tandis que les sous-entités et ledit au moins un appareil consommateur en énergie sont des sous-agents associés aux agents,
- les informations reçues par les agents et les sous-agents sont représentatives d’un environnement dans lequel le procédé d’échange d’énergie est mis en oeuvre,
- les actions sélectionnées sont des décisions prises par les agents.
L’intérêt d’utiliser un tel algorithme d’apprentissage par renforcement est qu’il est particulièrement puissant et fiable dans le cas d’un procédé d’échange d’énergie basé sur une pluralité d’agents et de sous-agents correspondants, tel que le procédé d’échange d’énergie selon l’invention.
Selon un autre mode de réalisation particulier, pour au moins un agent considéré, l’agent transmet au moins un objectif à au moins un sous-agent qui lui est associé et qui se trouve dans un état donné, cet objectif étant à satisfaire par le sous-agent et étant intégré à l’état donné du sous-agent.
Ainsi, dans ce mode de réalisation particulier, une communication est avantageusement établie entre au moins un agent de la place d’échange et un sous- agent qui lui est associé, caractérisant de ce fait la structure hiérarchique de la place d’échange.
Les différents modes ou caractéristiques de réalisation précités peuvent être ajoutés indépendamment ou en combinaison les uns avec les autres, au procédé d’échange d’énergie défini ci-dessus.
L'invention concerne également une entité configurée pour échanger de l’énergie avec au moins une autre entité, ladite entité et ladite autre entité appartenant à un ensemble d’entités configurées selon au moins un profil d’utilisation d’énergie parmi un premier profil de production d’énergie, un deuxième profil de consommation d’énergie et un troisième profil de stockage d’énergie.
Une telle entité est remarquable en ce qu’elle met en oeuvre ce qui suit, dans un intervalle de temps courant :
- recevoir des informations relatives à :
* une valeur de quantité d’énergie qui, selon le profil de ladite au moins une entité, dépend :
-- de la quantité d’énergie produite, dans l’intervalle de temps courant, par au moins une sous-entité de production d’énergie associée à ladite au moins une entité, -- de la quantité d’énergie consommée, dans l’intervalle de temps courant, par au moins une sous-entité de consommation en énergie associée à ladite au moins une entité,
-- de la quantité d’énergie stockée, dans l’intervalle de temps courant, par au moins une sous-entité de stockage d’énergie associée à ladite au moins une entité,
* une valeur du prix que coûte l’énergie disponible dans l’intervalle de temps courant auprès de l’autre entité et/ou d’un fournisseur d’énergie externe audit ensemble,
- à partir de la valeur de quantité d’énergie et de la valeur dudit prix, sélectionner le cas échéant une action parmi une action de fourniture d’énergie à ladite autre entité ou au fournisseur d’énergie externe, une action de requête en énergie auprès de ladite autre entité ou du fournisseur d’énergie externe, ladite sélection étant mise en oeuvre conformément à un critère de performance de l’échange d’énergie.
Une telle entité est notamment apte à mettre en oeuvre le procédé d’échange d’énergie précité.
L'invention concerne encore un programme d'ordinateur comportant des instructions pour la mise en oeuvre du procédé d’échange d’énergie selon l'invention, selon l’un quelconque des modes particuliers de réalisation décrits précédemment, lorsque ledit programme est exécuté par un processeur.
De telles instructions peuvent être stockées durablement dans un support mémoire non transitoire d’une entité ou une sous-entité mettant en oeuvre le procédé d’échange d’énergie selon l’invention.
Ce programme peut utiliser n’importe quel langage de programmation, et être sous la forme de code source, code objet, ou de code intermédiaire entre code source et code objet, tel que dans une forme partiellement compilée, ou dans n’importe quelle autre forme souhaitable.
L’invention vise également un support d’enregistrement ou support d’informations lisible par un ordinateur, et comportant des instructions d’un programme d’ordinateur tel que mentionné ci-dessus.
Le support d'enregistrement peut être n'importe quelle entité ou dispositif capable de stocker le programme. Par exemple, le support peut comporter un moyen de stockage, tel qu'une ROM (« Read Only Memory » en anglais), par exemple un CD ROM (« Compact Disc Read-Only Memory » en anglais) ou une ROM de circuit microélectronique, ou encore un moyen d'enregistrement magnétique, par exemple un support mobile, un disque dur ou un SSD (« Solid State-Drive » en anglais). D'autre part, le support d'enregistrement peut être un support transmissible tel qu'un signal électrique ou optique, qui peut être acheminé via un câble électrique ou optique, par radio ou par d'autres moyens, de sorte que le programme d’ordinateur qu’il contient est exécutable à distance. Le programme selon l'invention peut être en particulier téléchargé sur un réseau, par exemple un réseau de type Internet. Alternativement, le support d'enregistrement peut être un circuit intégré dans lequel le programme est incorporé, le circuit étant adapté pour exécuter ou pour être utilisé dans l'exécution du procédé d’échange d’énergie précité.
Selon un exemple de réalisation, la présente technique est mise en oeuvre au moyen de composants logiciels et/ou matériels. Dans cette optique, le terme "module" peut correspondre dans ce document aussi bien à un composant logiciel, qu'à un composant matériel ou à un ensemble de composants matériels et logiciels.
Brève description des dessins
D'autres caractéristiques et avantages apparaîtront à la lecture de modes de réalisation particuliers de l'invention, donnés à titre d’exemples illustratifs et non limitatifs, et des dessins annexés, parmi lesquels :
La [Fig. 1 ] représente un exemple d’architecture dans laquelle le procédé d’échange d’énergie selon l’invention est mis en oeuvre, selon un mode particulier de réalisation, La [Fig. 2] représente la structure d’un ensemble d’entités mettant en oeuvre le procédé d’échange d’énergie, dans un mode de réalisation particulier de l’invention, La [Fig. 3] représente un exemple d’architecture d’une entité mettant en oeuvre le procédé d’échange d’énergie, selon un premier mode de réalisation particulier de l’invention,
La [Fig. 4] représente les principales étapes mises en oeuvre par une entité de l’ensemble d’entités, dans le procédé d’échange d’énergie selon l’invention, selon un premier mode de réalisation particulier de l’invention,
La [Fig. 5] représente les principales actions mises en oeuvre par une sous-entité de production d’énergie de l’ensemble d’entités, lors de la mise en oeuvre du procédé d’échange d’énergie, selon un premier mode de réalisation particulier de l’invention, La [Fig. 6] représente les principales actions mises en oeuvre par une sous-entité de stockage d’énergie de l’ensemble d’entités, lors de la mise en oeuvre du procédé d’échange d’énergie, selon un premier mode de réalisation particulier de l’invention, La [Fig. 7] représente les principales actions mises en oeuvre par une sous-entité véhicule électrique de l’ensemble d’entités, lors de la mise en oeuvre du procédé d’échange d’énergie, selon un premier mode de réalisation particulier de l’invention, La [Fig. 8] représente les principales actions mises en oeuvre par une sous-entité de consommation d’énergie de l’ensemble d’entités lors de la mise en oeuvre du procédé d’échange d’énergie, selon un premier mode de réalisation particulier de l’invention,
La [Fig. 9A] représente les principales actions mises en oeuvre par un appareil consommateur d’énergie associé à la sous-entité de consommation d’énergie de l’ensemble d’entités lors de la mise en oeuvre du procédé d’échange d’énergie, selon un premier mode de réalisation particulier de l’invention, le fonctionnement de l’appareil consommateur d’énergie étant décalable dans le temps, La [Fig. 9B] représente les principales actions mises en oeuvre par un appareil consommateur d’énergie associé à la sous-entité de consommation d’énergie de l’ensemble d’entités lors de la mise en oeuvre du procédé d’échange d’énergie, selon un premier mode de réalisation particulier de l’invention, le niveau de puissance de l’appareil consommateur d’énergie étant variable dans le temps,
La [Fig. 10] représente un exemple d’architecture d’une entité ou d’une sous-entité mettant en oeuvre le procédé d’échange d’énergie, selon un deuxième mode de réalisation particulier de l’invention,
La [Fig. 1 1 ] représente les principales étapes mises en oeuvre par une entité de l’ensemble d’entités, dans le procédé d’échange d’énergie selon l’invention, selon un deuxième mode de réalisation particulier de l’invention,
La [Fig. 12] représente les principales actions mises en oeuvre par une sous-entité de production d’énergie de l’ensemble d’entités, lors de la mise en oeuvre du procédé d’échange d’énergie, selon un deuxième mode de réalisation particulier de l’invention,
La [Fig. 13] représente les principales actions mises en oeuvre par une sous-entité de stockage d’énergie de l’ensemble d’entités, lors de la mise en oeuvre du procédé d’échange d’énergie, selon un deuxième mode de réalisation particulier de l’invention,
La [Fig. 14] représente les principales actions mises en oeuvre par une sous-entité véhicule électrique de l’ensemble d’entités, lors de la mise en oeuvre du procédé d’échange d’énergie, selon un deuxième mode de réalisation particulier de l’invention,
La [Fig. 15] représente les principales actions mises en oeuvre par un appareil consommateur d’énergie associé à la sous-entité de consommation d’énergie de l’ensemble d’entités lors de la mise en oeuvre du procédé d’échange d’énergie, selon un deuxième mode de réalisation particulier de l’invention, le fonctionnement de l’appareil consommateur d’énergie étant décalable dans le temps,
La [Fig. 16] représente les principales actions mises en oeuvre par un appareil consommateur d’énergie associé à la sous-entité de consommation d’énergie de l’ensemble d’entités lors de la mise en oeuvre du procédé d’échange d’énergie, selon un deuxième mode de réalisation particulier de l’invention, le niveau de puissance de l’appareil consommateur d’énergie étant variable dans le temps.
Description détaillée de modes de réalisation de l’invention
En référence à la figure 1 , est décrit un exemple d’architecture dans laquelle le procédé d’échange d’énergie selon l’invention est mis en oeuvre. Selon cette architecture, un système d’échange d’énergie ou place d’échange d’énergie Xplace comprend :
- un ensemble E d’au moins deux entités ENTi et ENT2 configurées pour échanger de l’énergie entre elles, ces au moins deux entités étant situées dans l’ensemble E à un premier niveau hiérarchique supérieur L1 ,
- éventuellement un ou plusieurs fournisseurs d’énergie FE, externe(s) audit ensemble d’entités E, qui est/sont configuré(s) pour échanger de l’énergie avec l’entité ENT1 et/ou l’entité ENT2.
Dans cette place d’échange d’énergie, dans le cas où une entité produit une énergie de type renouvelable, les conditions climatiques CC sont également prises en compte et sont des conditions externes à l’ensemble E.
L’énergie échangée peut être de différent type : électricité, gaz, carburant, chaleur, etc.
Conformément à l’invention :
- au moins une sous-entité S_ENTi est rattachée à l’entité ENTi à un deuxième niveau hiérarchique L2 inférieur au niveau L1 ,
- au moins une sous-entité S_ENÏ2 est rattachée à l’entité ENT2 au deuxième niveau hiérarchique L2.
Selon l’invention :
- au moins une sous-entité SS_ENTi peut être rattachée à la sous-entité S_ENTi à un troisième niveau hiérarchique L3 inférieur au niveau L2,
- au moins une sous-entité SS_ENÏ2 peut être rattachée à la sous-entité S_ENÏ2 au troisième niveau hiérarchique L3.
Le troisième niveau L3 est optionnel. Pour cette raison, les sous-entités SS_ENTi et SS_ENÏ2 sont représentées en pointillé sur la figure 1 .
A titre d’alternative, les sous-entités SS_ENTi et SS_ENÏ2 pourraient se situer sur le deuxième niveau hiérarchique L2.
Chacune des entités ENT1 et ENT2 est configurée avantageusement selon au moins un profil d’utilisation de l’énergie parmi un premier profil de production d’énergie PF1 , un deuxième profil de consommation d’énergie PF2 et un troisième profil de stockage d’énergie PF3 ou toute combinaison possible de ces profils.
Une entité selon l’invention met en oeuvre une transaction énergétique dans le système ou la place d’échange d’énergie de la figure 1 . A cet effet, une entité peut être un bâtiment professionnel (usine par exemple) ou à usage d’habitation (immeuble par exemple). Une entité peut-être également un bateau, une station de base dans un réseau de communication. L’ensemble E peut contenir des entités de même nature, tel que par exemple un quartier pavillonnaire composé d’entités « immeubles >>, un port de pêche composé d’entités « bateaux >>, un réseau de communication composé d’entités « stations de base >>. Alternativement, L’ensemble E peut contenir des entités de nature différente. Ainsi par exemple, l’ensemble E pourrait être un quartier portuaire d’une ville qui contiendrait à la fois des entités « maisons >>, « immeubles >>, « bateaux >>, et/ou « stations de base ».
Un mode de réalisation de l’ensemble E est représenté sur la figure 2, à titre illustratif uniquement, dans lequel sont présentes des entités « maison >> et « station de
base », à un niveau supérieur hiérarchique L1 . Dans l’exemple représenté, quatorze entités ENTi à ENTu sont représentées parmi lesquelles :
- les entités ENTi à ENT?, ENTg, ENT10, ENT12 et ENT13 sont des maisons ou des bâtiments,
- les entités ENTs, ENTu et ENTu sont de stations de base.
Bien entendu, ce nombre d’entités peut être inférieur ou supérieur à 14 selon le contexte de la transaction d’énergie à mettre en oeuvre.
Chacune des entités représentées est associée à un ou plusieurs profils d’utilisation de l’énergie. Selon le profil d’utilisation envisagé, une ou plusieurs sous-entités sont rattachées à une entité considérée, à un niveau hiérarchique L2 ou L3 inférieur au niveau hiérarchique L1.
Dans l’exemple représenté sur la figure 2 :
- l’entité ENTi a un profil PF2 de consommation d’énergie : elle est ainsi associée à au moins une sous-entité S_ENTi (non représentée) qui consomme de l’énergie, telle que par exemple un réfrigérateur, un ou plusieurs radiateurs, une machine à laver, une pompe de relevage, etc. ;
- l’entité ENT2 a un profil PF1 de production d’énergie : elle est ainsi associée à au moins une sous-entité S_ENT2 qui produit de l’énergie, par exemple un panneau photovoltaïque ;
- l’entité ENT3 a les deux profils PF1 et PF2 : elle est ainsi associée à au moins une sous-entité S_ENTsi (non représentée) qui consomme de l’énergie, du type précité, ainsi qu’à au moins une sous-entité S_ENT32 qui produit de l’énergie, par exemple un panneau photovoltaïque ;
- l’entité ENT4 a le profil PF2 et un profil PF4 d’utilisation d’un véhicule électrique, c’est-à-dire à la fois un profil de stockage d’énergie et un profil de consommation d’énergie : elle est ainsi associée à au moins une sous-entité S_ENT4i (non représentée) qui consomme de l’énergie, du type précité, et à une sous-entité S_ENT42 qui est le véhicule électrique ;
- l’entité ENTs a le profil PF1 et un profil PF3 de stockage de l’énergie : elle est ainsi associée à au moins une sous-entité S_ENTsi qui produit de l’énergie, par exemple un panneau photovoltaïque, ainsi qu’à au moins une sous-entité S_ENTs2 qui stocke de l’énergie, par exemple une batterie ;
- l’entité ENTe a les trois profils PF1 , PF2 et PF4 : elle est ainsi associée à au moins une sous-entité S_ENTei (non représentée) qui consomme de l’énergie, du type précité, ainsi qu’à au moins une sous-entité S_ENÏ62 qui produit de l’énergie, par exemple un panneau photo voltaïque et à une sous-entité S_ENÏ63 qui est un véhicule électrique ;
- l’entité ENT? a un profil PF2 de consommation d’énergie : elle est ainsi associée à au moins une sous-entité S_ENT?i (non représentée) qui consomme de l’énergie, du type précité, ainsi qu’à au moins une sous-entité S_ENT?2 qui stocke de l’énergie, par exemple une batterie ;
- l’entité ENTs a un profil PF2 de consommation d’énergie, aussi bien quand la station de base émet ou reçoit un signal : elle est ainsi associée à au moins une sous-entité S_ENTsi (non représentée) qui consomme de l’énergie ;
- l’entité ENT9 a les trois profils PF1 , PF2 et PF3 : elle est ainsi associée à au moins une sous-entité S_ENTgi (non représentée) qui consomme de l’énergie, du type précité, ainsi qu’à au moins une sous-entité S_ENÏ92 qui produit de l’énergie, par exemple un panneau photo voltaïque et à une sous-entité S_ENÏ93 qui stocke de l’énergie, par exemple une batterie ;
- l’entité ENT10 a le profil PF3 et de ce fait est associée à une sous-entité S_ENT i qui stocke de l’énergie, par exemple une batterie ;
- l’entité ENT11 a les profils PF2 et PF3 : elle est ainsi associée à au moins une sous- entité S_ENTm (non représentée) qui consomme de l’énergie, du type précité, ainsi qu’à au moins une sous-entité S_ENTn2 qui stocke de l’énergie, par exemple une batterie ;
- l’entité ENT12 a les quatre profils PF1 à PF4 : elle est ainsi associée à au moins une sous-entité S_ENTi2i (non représentée) qui consomme de l’énergie, ainsi qu’à au moins une sous-entité S_ENTi22 qui produit de l’énergie, par exemple un panneau photovoltaïque, à une sous-entité S_ENTi23 qui stocke de l’énergie, par exemple une batterie et à une sous-entité S_ENTi24 qui est un véhicule électrique ;
- l’entité ENT13 a les trois profils PF2, PF3, PF4 : elle est ainsi associée à au moins une sous-entité S_ENTm (non représentée) qui consomme de l’énergie, du type précité, ainsi qu’à au moins une sous-entité S_ENTi32 qui stocke de l’énergie, par exemple une batterie, et à une sous-entité S_ENTi33 qui est un véhicule électrique ;
- l’entité ENTu a les deux profils PF1 et PF3 : elle est ainsi associée à au moins une sous-entité S_ENT i qui produit de l’énergie, par exemple un panneau photovoltaïque, ainsi qu’à au moins une sous-entité S_ENT 2 qui stocke de l’énergie, par exemple une batterie.
Bien entendu, d’autres configurations sont possibles et dépendent du contexte de la transaction d’énergie à mettre en oeuvre. En outre, dans d’autres exemples :
- une sous-entité de production d’énergie pourrait être une éolienne, un dispositif de méthanisation, etc.,
- une sous-entité de stockage d’énergie pourrait être un dispositif de stockage inertiel, un dispositif de stockage à air comprimé, un dispositif de méthanation, etc.,
- un véhicule électrique peut comprendre une voiture électrique et/ou un bateau électrique et/ou une trottinette électrique, etc.
Conformément à l’invention, l’ensemble E est décomposé de telle manière que chacune des sous-entités décrites ci-dessus est située à un niveau hiérarchique L2 qui est inférieur au niveau L1 . Dans un souci de clarté de la figure 2, une telle décomposition n'est représentée que pour l’entité ENT12 pour laquelle les sous- entités S_ENTi2i à S_ENTi24 sont rattachées à l’entité ENT12 au niveau hiérarchique inférieur L2.
Dans l’exemple représenté, un troisième niveau hiérarchique optionnel L3 est représenté. Le niveau L3 comprend :
- au moins une sous-entité SS_ENTi2io rattachée à la sous-entité S_ENTi2i et comprenant au moins un appareil dont l’utilisation est décalable dans le temps, par exemple un radiateur électrique, une machine à laver, etc., et/ou
- au moins une sous-entité SS_ENTi2n rattachée à la sous-entité S_ENTi2i et comprenant au moins un appareil dont le niveau de puissance de fonctionnement est variable, par exemple un dispositif d’éclairage, un émetteur d’une station de base, etc.
Conformément à l’invention, la transaction énergétique est mise en oeuvre au niveau hiérarchique supérieur L1 , par au moins deux entités ENT1 et ENT2 qui le composent. Au cours de cette transaction, lorsque l’une des au moins deux entités, par exemple ENT1, échange de l’énergie avec l’autre entité ENT2 ou un fournisseur d’énergie FE, cette action est réalisée selon un critère de performance d’échange d’énergie.
Selon un premier mode de réalisation, un tel critère est un compromis :
- de réduction des dépenses en énergie liées à l’achat d’énergie auprès de l’entité ENT2 ou du fournisseur d’énergie FE, et
- de maximisation des revenus liés à la vente d’énergie à l’entité ENT2 ou au fournisseur d’énergie FE.
Selon un deuxième mode de réalisation, un tel critère est un compromis :
- de réduction des dépenses en énergie liées à l’achat d’énergie auprès de l’entité ENT2 ou du fournisseur d’énergie FE,
- de maximisation des revenus liés à la vente d’énergie à l’entité ENT2 ou au fournisseur d’énergie FE, et
- de minimisation de l’empreinte carbone liée à la transaction d’énergie. Conformément à l’invention, au niveau hiérarchique médian L2, la distribution énergétique est mise en oeuvre au niveau de chacune des sous-entités rattachées à l’entité ENT1, respectivement ENT2, une telle distribution énergétique étant commandée par l’entité ENT1, respectivement ENT2. A cet effet,
- dans le cas où par exemple l’entité ENT1 a un profil PF2 de consommation d’énergie, une décision est prise par l’entité ENT1 quant à savoir s’il vaut mieux, selon un critère de performance d’échange d’énergie, consommer de l’énergie à partir d’une ou de plusieurs sous-entités de stockage rattachées à l’entité ENT1, si présentes, et/ou d’une ou de plusieurs sous-entités « véhicule électrique >> rattachées à l’entité ENT1, si présentes, et/ou
- dans le cas où par exemple l’entité ENT1 a un profil PF1 de production d’énergie, une décision est prise par l’entité ENT1 quant à savoir s’il vaut mieux, selon un critère de performance d’échange d’énergie, produire de l’énergie par la sous-entité de production d’énergie (panneau photovoltaïque, éolienne, etc.) rattachée à l’entité ENT1, et/ou
- s’il vaut mieux, selon un critère de performance d’échange d’énergie, requérir de l’énergie (acheter) auprès d’un fournisseur d’énergie externe ou d’une autre entité de l’ensemble E d’entités, par exemple ENT2, pour alimenter la ou les sous-entités de consommation d’énergie rattachées à l’entité ENT1, si présentes, et/ou stocker cette énergie achetée dans la ou les sous-entités de stockage rattachées à l’entité ENT1, si présentes, et/ou charger la ou les sous-entités « véhicule électrique >> rattachées à l’entité ENT1, si présentes.
Conformément à l’invention, au niveau hiérarchique inférieur L3, un contrôle de l’utilisation de l’énergie est mis en oeuvre par une ou plusieurs sous-entités de consommation d’énergie, par exemple la sous-entité S_ENTi2i, au niveau de chacune des sous-entités rattachées à la sous-entité S_ENTi2i, telles que les sous- entités SS_ENTi2io et SS_ENTi2ii. A cet effet, c’est à ce niveau que toute sous- entité de consommation d’énergie commande la fonctionnalité « demand-response » qui permet de prendre des décisions sur comment et/ou quand utiliser la et/ou les sous-entités (appareils qui consomment de l’énergie) selon leur type, à savoir dont l’utilisation est décalable dans le temps et dont le niveau de puissance de fonctionnement est variable.
Selon l’invention, un tel contrôle est mis en oeuvre par la sous-entité de consommation d’énergie en respectant un critère de performance de l’utilisation de l’énergie consommée qui exprime par exemple la minimisation de l’insatisfaction de l’utilisateur des appareils consommateurs en énergie qui sont présents.
Comme déjà expliqué plus haut, le niveau hiérarchique L3 est optionnel, le contrôle de l’utilisation de l’énergie pouvant être mis en oeuvre au niveau de la sous-entité de consommation d’énergie située au niveau hiérarchique L2 qui intègre alors les sous- entités SS_ENTi2io et SS_ENTi2ii.
Description d’un premier mode de réalisation d’une entité apte à échanger de l’énergie
La figure 3 présente la structure simplifiée d’une entité ENTi choisie parmi la pluralité d’entités ENTi à ENTNG de la figure 2, telle que 1 <i<Ne, où Ne représente le nombre d’entités dans la place d’échange. Dans l’exemple représenté sur la figure 2, Ne=14. Une telle entité ENTi est configurée pour mettre en oeuvre le procédé d’échange d’énergie qui va être décrit ci-dessous.
L’entité ENTi comprend selon l’invention :
- un module de communication COM adapté pour communiquer avec au moins une autre entité ENTj de l’ensemble E d’entités, telle que 1 <j<Ne, ou avec au moins un fournisseur d’énergie FE, via un réseau de communication de données (non représenté) qui peut être de type sans fil courte ou moyenne portée, tel que par exemple Bluetooth, NFC, LTE, WiFi, DSRC, C-V2X, etc., de type sans fil longue portée, tel que par exemple 2G, 3G, 4G, 5G, etc., de type filaire tel que ADSL, fibre, etc.., l’objet de la communication pouvant être une requête en énergie auprès de
l’entité ENTj ou du fournisseur d’énergie FE ou une proposition de fourniture d’énergie à l’entité ENTj ou au fournisseur d’énergie FE,
- un point de livraison d’énergie (compteur, câblage) PTL pour recevoir l’énergie fournie par l’entité ENTj ou le fournisseur d’énergie FE, via un réseau de distribution d’énergie non représenté sur la figure 3, et/ou
- un point de fourniture d’énergie (compteur, câblage) PTF pour fournir de l’énergie à l’entité ENTj ou au fournisseur d’énergie FE, via le réseau de distribution d’énergie précité,
- au moins une sous-entité S_ENTi de consommation d’énergie, de production d’énergie, de stockage d’énergie, au moins un véhicule électrique,
- éventuellement au moins une sous-entité SS_ENTi telle que par exemple un appareil dont l’utilisation est décalable dans le temps, un appareil dont le niveau de puissance de fonctionnement est variable, un appareil dont l’utilisation n’est pas décalable dans le temps et dont le niveau de puissance de fonctionnement est fixe,
- un module REC de réception d’informations relatives au contexte énergétique dans un intervalle de temps courant.
Du fait que la sous-entité SS_ENTi est optionnelle, elle est représentée en pointillé sur la figure 3.
Selon un mode particulier de réalisation de l'invention, les actions exécutées par l’entité ENTi, dans le cadre de la mise en oeuvre du procédé d’échange d’énergie conformément à la présente invention, sont mises en oeuvre par des instructions d’un programme d'ordinateur PG. Pour cela, l’entité ENTi comprend une architecture classique d'un ordinateur et comprend notamment une mémoire MEM, une unité de traitement UTR, équipée par exemple d'un processeur PROC, et pilotée par le programme d'ordinateur PG stocké en mémoire MEM. Le programme d'ordinateur PG comprend des instructions pour mettre en oeuvre les actions exécutées par l’entité ENTi, lorsque le programme est exécuté par le processeur PROC, selon l'un quelconque des modes particuliers de réalisation de l'invention.
A l'initialisation, les instructions de code du programme d'ordinateur PG sont par exemple chargées dans une mémoire RAM (non représentée) avant d'être exécutées par le processeur PROC. Le processeur PROC de l'unité de traitement UTR met notamment en oeuvre les actions de communication via le module COM, les actions de réception d’informations via le module REC, les actions de fourniture d’énergie via
le point de fourniture d’énergie PTF, les actions de requête d’énergie via le point de livraison d’énergie PTL.
Description d’un premier mode de réalisation d’un procédé d’échange d’énergie
On décrit maintenant, en relation avec la figure 4, le déroulement d’un procédé d’échange d’énergie exécuté par l’entité ENTi telle qu’illustrée en figure 3.
Un tel procédé d’échange d’énergie se déroule comme suit au niveau de l’entité ENTi, dans un intervalle de temps courant ITC.
En S1 , l’entité ENTi reçoit, via le module de réception REC de la figure 3 :
- en provenance d’au moins une sous-entité S_ENTii de production d’énergie (éolienne, panneau photovoltaïque, etc.) associée à ladite au moins une entité, si une telle sous-entité est présente, la quantité QPii,c d’énergie produite dans ledit intervalle de temps courant, par ladite au moins une sous-entité S_ENTM ,
- en provenance d’au moins une sous-entité S_ENTi2 de consommation en énergie (radiateur, machine à laver, pompe de relevage, etc.) associée à ladite au moins une entité, si une telle sous-entité est présente, la quantité QCi2,c d’énergie consommée dans ledit intervalle de temps courant, par ladite au moins une sous-entité S_ENTi2,
- en provenance d’au moins une sous-entité S_ENTi3 de stockage d’énergie (batterie par exemple), associée à ladite au moins une entité, si une telle sous-entité est présente, la quantité QSi3,c d’énergie stockée dans ledit intervalle de temps courant, par ladite au moins une sous-entité S_ENTi3,
- en provenance d’au moins une sous-entité S_ENTi4 véhicule électrique, associée à ladite au moins une entité, si une telle sous-entité est présente, la quantité QSi4,c d’énergie stockée dans ledit intervalle de temps courant, par ladite au moins une sous-entité S_ENTi4.
Au cours de l’étape S1 , une concaténation de ces informations est mise en oeuvre en S10 si nécessaire, de manière à obtenir une valeur Qi,c de quantité d’énergie nécessaire à l’entité ENTi dans l’intervalle de temps courant, avec Qi,c= QPh.c + QSi3,c + QSi4,c - QCi2,c (1 ).
Selon un mode de réalisation préféré, l’entité ENTi reçoit en outre en S1 , via le module de réception REC de la figure 3 :
- en provenance de ladite au moins une sous-entité S_ENTM de production d’énergie (éolienne, panneau photovoltaïque, etc.) associée à ladite au moins une entité, si
une telle sous-entité est présente, une valeur de l’empreinte carbone CarbPii,c qui est liée à la quantité d’énergie à produire QPri.c, dans ledit intervalle de temps courant, par ladite au moins une sous-entité S_ENTii,
- en provenance de ladite au moins une sous-entité S_ENTi3 de stockage d’énergie (batterie par exemple), associée à ladite au moins une entité, si une telle sous-entité est présente, une valeur de l’empreinte carbone CarbSi3,c qui est liée à la quantité d’énergie à stocker QSi3,c, dans ledit intervalle de temps courant, par ladite au moins une sous-entité S_ENTi3,
- en provenance de ladite au moins une sous-entité S_ENTi4 véhicule électrique, associée à ladite au moins une entité, si une telle sous-entité est présente, une valeur de l’empreinte carbone CarbSi4,c qui est liée à la quantité d’énergie à stocker QSi4,c dans ledit intervalle de temps courant, par ladite au moins une sous-entité S_ENTi4.
Au cours de l’étape S1 , une concaténation des valeurs CarbPii,c, CarbSi3,c, CarbSi4,c est mise en oeuvre en S10 si nécessaire, de manière à obtenir une valeur d’empreinte carbone Carbi,c, telle que Carbi,c= CarbPii,c + CarbSi3,c + CarbSi4,c (2). Conformément à l’invention, la valeur d’empreinte carbone CarbPii,c n’est pas prise en compte dans la suite du déroulement du procédé d’échange d’énergie, compte tenu du fait qu’elle est proche de 0 car liée à la production d’énergie propre, non polluante.
En S1 , l’entité ENTi reçoit également, via le module de réception REC de la figure 3 :
- en provenance d’au moins une autre entité ENTj, une valeur du prix Prc,xpiace que coûte l’énergie disponible dans ledit intervalle de temps courant auprès de l’autre entité ENTj,
- en provenance d’au moins un fournisseur d’énergie FE, si disponible, une valeur du prix Prc,grid que coûte l’énergie disponible dans ledit intervalle de temps courant auprès du fournisseur d’énergie FE.
Le prix Prc,gnd du fournisseur FE est un prix fixe qui varie généralement selon la saison ou la période de la journée (heures pleines, heures creuses). Selon l’invention, le prix Prc,xpiace est fixé préalablement à la mise en oeuvre du procédé d’échange d’énergie. C’est un prix fixe déterminé par exemple comme étant inférieur à celui du fournisseur FE. Le prix Prc,xpiace peut par exemple être fixé comme étant
égal à une fraction ou à un pourcentage du prix Prc,gnd du fournisseur. Selon une stratégie plus élaborée, le prix Prc,xpiace est basé sur la théorie des enchères.
En S2, à partir des valeurs Qi,c, Prc,xpiace, Prc,gnd et Carbi,c, est alors sélectionné un type de transaction énergétique à mettre en oeuvre dans l’intervalle de temps courant.
Ladite sélection peut être aussi mise en oeuvre en combinant les valeurs Qi,c, Prc,xpiace, Prc,grid et Carbi,c avec respectivement des valeurs de même type obtenues par apprentissage dans des intervalles de temps précédents, par exemple à l’aide d’un algorithme d’apprentissage supervisé.
La sélection S2 est mise en oeuvre conformément à un premier critère R1 i,c de performance de l’échange d’énergie dans l’intervalle de temps courant.
Dans un exemple de réalisation, le critère R1 i,c minimise le prix de l’énergie requise par l’entité ENTi dans ledit intervalle de temps courant et maximise le profit de la fourniture d’énergie par l’entité ENTi à l’autre entité ENTj ou au fournisseur d’énergie externe FE dans ledit intervalle de temps courant.
Selon un exemple, le critère R1 i,c s’exprime sous la forme RliiC= -PrCigrid.QiiaiC (3) lorsque la transaction énergétique sélectionnée est par exemple l’achat d’énergie auprès du fournisseur d’énergie externe FE ou sous la forme RliiC= PrCiXpiace.QtiViC (4) lorsque la transaction énergétique sélectionnée est par exemple la vente d’énergie à l’autre entité ENTj ou au fournisseur d’énergie externe FE, avec Qi a c et QiiViC représentant respectivement les quantités d’énergie achetée et vendue.
Dans le mode de réalisation préféré, une telle sélection est mise en oeuvre conformément à un deuxième critère R2i,c de performance de l’échange d’énergie dans l’intervalle de temps courant.
Dans un exemple de réalisation, le critère R2i,c :
- minimise le prix de l’énergie requise par l’entité ENTi dans ledit intervalle de temps courant,
- maximise le profit de la fourniture d’énergie par l’entité ENTi à l’autre entité ENTj ou au fournisseur d’énergie externe FE dans ledit intervalle de temps courant,
- minimise l’empreinte carbone Carbi,c.
Le critère R2i,c s’exprime sous la forme
lorsque la transaction énergétique sélectionnée est l’achat d’énergie auprès du fournisseur d’énergie externe FE, où ac et (3C représentent des coefficients de
pondération entre le coût Prc,gnd de l’énergie et l’empreinte carbone Carbi,c. La valeur de ces coefficients de pondération est ajustée par l’utilisateur, via par exemple une interface utilisateur, et représentent des préférences de cet utilisateur.
Le critère R2i,c s’exprime sous la forme R2i c= a’c. PrCiXpiace.QiiiViC - c.Carbi c (6) lorsque la transaction énergétique sélectionnée est la vente d’énergie à l’autre entité ENTj ou au fournisseur d’énergie externe FE, où a’c et [3c représentent des coefficients de pondération entre le profit lié à la vente d’énergie et l’empreinte carbone Carbi,c. La valeur de ces coefficients de pondération est ajustée par l’utilisateur, via par exemple une interface utilisateur, et représentent des préférences de cet utilisateur.
A l’issue de ladite sélection S2, l’entité ENTi décide :
- de ne mettre en oeuvre aucune action particulière dans l’intervalle de temps suivant,
- de mettre en oeuvre dans l’intervalle de temps suivant une transaction « achat d’énergie >> en S3a, c’est-à-dire requérir de l’énergie auprès de l’autre entité ENTj au prix Prc,xpiace et/ou du fournisseur d’énergie FE au prix Prc,gnd,
- de mettre en oeuvre dans l’intervalle de temps suivant une transaction « vente d’énergie >> en S3b, c’est-à-dire fournir de l’énergie à l’autre entité ENTj et/ou au fournisseur d’énergie FE au prix Prc,xpiace ou un autre prix préalablement défini. Si la transaction « achat d’énergie >> est mise en oeuvre en S3a, l’entité ENTi détermine en S4a la quantité d’énergie Qreqc à requérir dans l’intervalle de temps courant, la source d’énergie Sreqc (fournisseur FE ou autre entité ENTj) où requérir la quantité d’énergie Qreqc, ainsi que la destination Dreqc de quantité d’énergie Qreqc, c’est à dire la sous-entité S_ENTi3 de stockage d’énergie, éventuellement une ou plusieurs sous-entités associées à la sous-entité S_ENTi2, telles que par exemple un appareil dont l’utilisation est décalable dans le temps, un appareil dont le niveau de puissance de fonctionnement est variable, un appareil dont l’utilisation n’est pas décalable dans le temps et dont le niveau de puissance de fonctionnement est fixe, ainsi que la sous-entité S_ENTi4 véhicule électrique.
Si la transaction « vente d’énergie >> est mise en oeuvre en S3b, l’entité ENTi détermine en S4b la quantité d’énergie Qproc à fournir dans l’intervalle de temps courant, la source d’énergie Sproc (S_ENTii, S_ENTi3, S_ENTi4) d’où provient la quantité d’énergie Qproc, ainsi qu’éventuellement la destination Dproc de la quantité
d’énergie Qproc à produire, l’entité ENTj ou le fournisseur FE dans l’exemple représenté.
Grâce au procédé d’échange d’énergie qui vient d’être décrit ci-dessus, l’invention permet avantageusement de proposer une place d’échange d’énergie plus stable, moins vulnérable aux pannes, et économe en énergie.
On décrit maintenant, en relation avec la figure 5, les différentes étapes réalisées au niveau de ladite au moins une sous-entité S_ENTii de production d’énergie (Eolienne, panneau photovoltaïque, etc.) qui est associée à ladite au moins une entité ENTi, lorsque le procédé d’échange d’énergie est mis en oeuvre dans l’intervalle de temps courant ITC et quand une telle sous-entité est présente.
En S1 ii, la sous-entité S_ENTii reçoit, via un module de réception identique ou similaire à celui de la figure 3 :
- en provenance de ladite au moins une sous-entité S_ENTi3 de stockage d’énergie (batterie par exemple), associée à ladite au moins une entité ENTi, si une telle sous- entité S_ENTi3 est présente, la quantité d’énergie QSi3,c stockée par la sous-entité S_ENTi3, dans ledit intervalle de temps courant,
- en provenance de ladite au moins une sous-entité S_ENTi4 véhicule électrique, associée à ladite au moins une entité ENTi, si une telle sous-entité S_ENTi4 est présente, la quantité d’énergie QSi4,c stockée par la sous-entité S_ENTi4, dans ledit intervalle de temps courant,
- en provenance de l’entité ENTi, la valeur du prix Prc,xpiace que coûte l’énergie disponible dans ledit intervalle de temps courant auprès de l’autre entité ENTj et éventuellement la valeur du prix Prc,gnd que coûte l’énergie disponible dans ledit intervalle de temps courant auprès du fournisseur d’énergie FE.
En S2ii , à partir des valeurs QPii,c, QCi2,c, QSi3,c, QSi4,c, Prc,xpiace et éventuellement Prc,grid, est alors sélectionné un type d’action à mettre en oeuvre dans l’intervalle de temps courant par la sous-entité S_ENTii de production d’énergie.
Ladite sélection peut être aussi mise en oeuvre en combinant les valeurs QPii,c, QCi2,c, QSi3,c, QSi4,c, Prc,xpiace et éventuellement Prc,gnd avec respectivement des valeurs de même type obtenues par apprentissage dans des intervalles de temps précédents, par exemple à l’aide d’un algorithme d’apprentissage supervisé. Une telle sélection S2n est mise en oeuvre conformément à un critère Rii,c de performance de l’utilisation de l’énergie produite dans l’intervalle de temps courant.
Dans un exemple de réalisation, le critère Rii,c maximise le profit de la fourniture de l’énergie produite à l’autre entité ENTj ou au fournisseur d’énergie externe FE dans ledit intervalle de temps courant, dans le cas où la quantité d’énergie produite par la sous-entité S_ENTii dans l’intervalle de temps courant est vendue à l’autre entité ENTj ou au fournisseur d’énergie externe FE.
Le critère Rii,c s’exprime par exemple sous la forme Ri1,c=PrCixpiace -QPii,v,c - (7)> °ù QPu,v,c représente la quantité d’énergie produite vendue.
A l’issue de ladite sélection S2n , la sous-entité S_ENTii de production d’énergie décide :
- en S3aii, de sélectionner comme destinataire de tout ou partie de l’énergie produite, l’autre entité ENTj et/ou le fournisseur d’énergie FE,
- en S3bii , de recharger la sous-entité de stockage S_ENTi3 avec tout ou partie de l’énergie produite,
- en S3cii, de recharger la sous-entité S_ENTi4 avec tout ou partie de l’énergie produite,
- en S3dii, d’alimenter une ou plusieurs sous-entités associées à la sous-entité S_ENTi2de consommation d’énergie, telles que par exemple un appareil dont l’utilisation est décalable dans le temps, un appareil dont le niveau de puissance de fonctionnement est variable, un appareil dont l’utilisation n’est pas décalable dans le temps et dont le niveau de puissance de fonctionnement est fixe.
Dans le cas où la décision S3aii est mise en oeuvre, la sous-entité de production d’énergie S_ENTii calcule en S4aii la quantité QPri.c d’énergie produite en vue de la vente de cette quantité d’énergie par l’entité ENTi dans l’intervalle de temps suivant ITc+i à l’autre entité ENTj ou au fournisseur d’énergie externe FE.
Dans le cas où la décision S3bii est mise en oeuvre, la sous-entité de production d’énergie S_ENTii calcule en S4bii la quantité QPri.c d’énergie produite à utiliser pour le rechargement de la sous-entité de stockage d’énergie S_ENTi3 dans l’intervalle de temps suivant.
Dans le cas où la décision S3cii est mise en oeuvre, la sous-entité de production d’énergie S_ENTii calcule en S4cii la quantité QPii,c d’énergie produite à utiliser pour le rechargement de la sous-entité S_ENTi4 véhicule électrique dans l’intervalle de temps suivant.
Dans le cas où la décision S3dii est mise en oeuvre, la sous-entité de production d’énergie S_ENTii calcule en S4dii la quantité QPri.c d’énergie produite à utiliser pour alimenter, dans l’intervalle de temps suivant, au moins une sous-entité SS_ENTi2i associée à la sous-entité S_ENTi2 de consommation d’énergie, telle que par exemple un appareil dont l’utilisation est décalable dans le temps, un appareil dont le niveau de puissance de fonctionnement est variable, un appareil dont l’utilisation n’est pas décalable dans le temps et dont le niveau de puissance de fonctionnement est fixe. En S5ii , la quantité QPii,c d’énergie produite calculée, associée à l’action sélectionnée, est alors transmise à l’entité ENTi, dans l’intervalle de temps suivant. On décrit maintenant, en relation avec la figure 6, les différentes étapes réalisées au niveau de ladite au moins une sous-entité S_ENTi3 de stockage d’énergie (batterie, accumulateur, etc.) qui est associée à ladite au moins une entité ENTi, lorsque le procédé d’échange d’énergie est mis en oeuvre dans l’intervalle de temps courant ITC et quand une telle sous-entité est présente.
En S1 i3, la sous-entité S_ENTi3 reçoit en provenance de l’entité ENTi, via un module de réception identique ou similaire à celui de la figure 3, la valeur du prix Prc,gnd que coûte l’énergie disponible dans ledit intervalle de temps courant auprès du fournisseur d’énergie FE, éventuellement la valeur du prix Prc,xpiace.
En S2i3, à partir de la valeur de Prc,gnd et/ou de Prc,xpiace, de la valeur de la quantité d’énergie produite QPii ,c par la sous-entité S_ENTii, de la valeur de la quantité d’énergie consommée QCi2,c par la sous-entité S_ENTi2, de la valeur de la quantité d’énergie QSi3,c stockée par la sous-entité S_ENTi3, de la valeur de la quantité d’énergie QSi4,c stockée par la sous-entité S_ENTi4, et éventuellement de l’empreinte carbone Carbi3,c de l’énergie stockée par la sous-entité de stockage S_ENTi3, dans l’intervalle de temps courant ITC, est alors sélectionné un type d’action à mettre en oeuvre dans l’intervalle de temps courant par la sous-entité S_ENTi3 de stockage d’énergie.
Ladite sélection peut être aussi mise en oeuvre en combinant les valeurs précitées avec respectivement des valeurs de même type obtenues par apprentissage dans des intervalles de temps précédents, par exemple à l’aide d’un algorithme d’apprentissage supervisé.
Une telle sélection S2i3 est mise en oeuvre conformément à un critère Ri3,c de performance de l’utilisation de l’énergie stockée dans l’intervalle de temps courant.
Dans un exemple de réalisation, le critère Ri3,c maximise le profit de la fourniture de l’énergie stockée à l’autre entité ENTj ou au fournisseur d’énergie externe FE dans ledit intervalle de temps courant, dans le cas où la quantité d’énergie stockée par la sous-entité S_ENTi3 dans l’intervalle de temps courant est vendue à l’autre entité ENTj ou au fournisseur d’énergie externe FE.
Le critère Ri3,c s’exprime sous la forme Ri3,c=Prc,xpiace-QSi3,v,c (8), où QSi3iViC représente la quantité d’énergie stockée qui est vendue.
Dans un autre exemple de réalisation, plus particulièrement dans le cas où le prix de vente du fournisseur est différent de celui de la place d’échange, le critère Ri3,c s’exprime sous la forme Ri3,c=Prc,grid-QSi3,v,c (9).
Dans un exemple de réalisation plus complexe, le critère Ri3,c minimise le coût de l’achat d’énergie, auprès du fournisseur d’énergie ou d’une autre entité de la place d’échange, qu’il convient de stocker dans la sous-entité ENTi3 dans ledit intervalle de temps courant.
Le critère Ri3,c s’exprime alors sous la forme Ri3iC= -PrCiXpiace.QSi3 a c (10) ou Ri3iC= - Prc,grid-Qsi3,a,c (1 1 ), où QSi3 a c représente la quantité d’énergie achetée à stocker.
En variante, le critère Ri3,c utilisé est un compromis entre maximisation du profit de la fourniture de l’énergie stockée à l’autre entité ENTj ou au fournisseur d’énergie externe FE dans ledit intervalle de temps courant et minimisation de l’insatisfaction de l’utilisateur de la sous-entité de stockage S_ENTi3 dans ledit intervalle de temps courant. Une telle insatisfaction est basée sur la crainte de l’utilisateur que la sous- entité de stockage S_ENTi3 n’ait pas un niveau de charge suffisant pour répondre aux besoins de l’utilisateur, dans l’intervalle de temps courant.
Le critère Ri3,c s’exprime sous la forme
• ai3 et [3i3 sont des coefficients de pondération entre le profit lié à la vente d’énergie et l’insatisfaction de l’utilisateur,
• Pi3-(Ei3,max - £i3,c)2 est un facteur déterminant l’anxiété de l’utilisateur de la sous-entité S_ENTi3 de ne pas avoir suffisamment d’énergie pour utiliser cette sous-entité, dans lequel Ei3 max est la consommation d’énergie maximale de cette sous-entité S_ENTi3.
Dans un autre exemple de réalisation, le critère Ri3,c utilisé minimise l’insatisfaction de l’utilisateur de la sous-entité S_ENTi3 dans ledit intervalle de temps courant. Il s’exprime alors sous la forme
A l’issue de ladite sélection S2i3, la sous-entité S_ENTi3 de stockage d’énergie prend une décision parmi trois décisions D1 , D2, D3. La décision D1 est relative au choix de la source d’énergie pour recharger la sous-entité de stockage S_ENTi3. La décision D2 est relative au choix de la destination de l’énergie déchargée de la sous- entité de stockage S_ENTi3. La décision D3 est de ne mettre en oeuvre aucune action particulière dans l’intervalle de temps suivant.
Si la décision D1 a été sélectionnée comme action à réaliser, la sous-entité S_ENTi3 de stockage :
- soit sélectionne en S3ai3, comme source du rechargement de la sous-entité S_ENTi3, l’autre entité ENTj et/ou le fournisseur d’énergie FE, dans l’intervalle de temps suivant,
- soit sélectionne en S3bi3, comme source du rechargement de la sous-entité S_ENTi3, la sous-entité de production d’énergie S_ENTii, dans l’intervalle de temps suivant.
Si la décision D2 a été sélectionnée comme action à réaliser dans l’intervalle de temps suivant, la sous-entité S_ENTi3 de stockage :
- soit sélectionne en S3ci3, comme destinataire de tout ou partie de la quantité QSi3,c déchargée de la sous-entité S_ENTi3, l’autre entité ENTj et/ou le fournisseur d’énergie FE,
- soit sélectionne en S3di3, comme destinataire de tout ou partie de la quantité QSi3,c déchargée de la sous-entité S_ENTi3, la sous-entité S_ENTi2 de consommation d’énergie, telle que par exemple un appareil dont l’utilisation est décalable dans le temps, un appareil dont le niveau de puissance de fonctionnement est variable, un appareil dont l’utilisation n’est pas décalable dans le temps et dont le niveau de puissance de fonctionnement est fixe.
Dans le cas où la sélection S3ai3 est mise en oeuvre, la sous-entité de stockage d’énergie S_ENTi3 calcule en S4ai3 la quantité d’énergie Qi3,c à recevoir de l’entité ENTj ou du fournisseur d’énergie FE pour son rechargement dans l’intervalle de temps courant.
Dans le cas où la sélection S3bi3 est mise en oeuvre, la sous-entité de stockage d’énergie S_ENTi3 calcule en S4bi3 la quantité d’énergie Qi3,c à recevoir de la sous- entité de production d’énergie S_ENTii pour son rechargement dans l’intervalle de temps courant.
Dans le cas où la sélection S3ci3 est mise en oeuvre, la sous-entité de stockage d’énergie S_ENTi3 calcule en S4ci3 la quantité d’énergie Qi3,c à utiliser pour alimenter en énergie l’autre entité ENTj et/ou le fournisseur d’énergie FE.
Dans le cas où la sélection S3di3 est mise en oeuvre, la sous-entité de stockage d’énergie S_ENTi3 calcule en S4di3 la quantité d’énergie Qi3,c d’énergie à utiliser pour alimenter en énergie ladite au moins une sous-entité de consommation d’énergie S_ENTi2.
En S5i3, la quantité d’énergie Qi3,c calculée est alors transmise à l’entité ENTi, dans l’intervalle de temps courant.
On décrit maintenant, en relation avec la figure 7, les différentes étapes réalisées au niveau de ladite au moins une sous-entité S_ENTi4 véhicule électrique qui est associée à ladite au moins une entité ENTi, lorsque le procédé d’échange d’énergie est mis en oeuvre dans l’intervalle de temps courant ITC et quand une telle sous- entité est présente.
En S1 i4, la sous-entité S_ENTi4 reçoit en provenance de l’entité ENTi, via un module de réception identique ou similaire à celui de la figure 3, la valeur du prix Prc,gnd que coûte l’énergie disponible, dans ledit intervalle de temps courant, auprès du fournisseur d’énergie FE et/ou la valeur du prix Prc,xpiace que coûte l’énergie disponible sur la place d’échange, dans ledit intervalle de temps courant.
En S2i4, à partir de la valeur de Prc,gnd et/ou Prc,xpiace, QSi4,c, QSi3,c, QPii,c, QCi2,c dans ledit intervalle de temps courant, de l’énergie Ei4,c consommée par la sous-entité S_ENTi4, dans ledit intervalle de temps courant, et éventuellement de l’empreinte carbone Carbi4,c de l’énergie stockée par la sous-entité S_ENTi4dans l’intervalle de temps courant, est alors sélectionné un type d’action à mettre en oeuvre dans l’intervalle de temps courant par la sous-entité S_ENTi4 véhicule électrique.
Ladite sélection peut être aussi mise en oeuvre en combinant les valeurs précitées, avec respectivement des valeurs de même type obtenues par apprentissage dans des intervalles de temps précédents, par exemple à l’aide d’un algorithme d’apprentissage supervisé.
Une telle sélection S2i4 est mise en oeuvre conformément à un critère Ri4,c de performance de l’utilisation de l’énergie stockée par ladite sous-entité S_ENTi4, dans l’intervalle de temps courant.
Dans un exemple de réalisation, le critère F .c maximise le profit de la fourniture de l’énergie stockée à l’autre entité ENTj ou au fournisseur d’énergie externe FE dans ledit intervalle de temps courant.
Le critère Ri4,c s’exprime sous la forme Ri4,c=PrCixpiace -Qsi4,v,c (15) ou Ri4:C=Prc gri(i.QSi4 v c (16), où QSi4 v c représente la quantité stockée qui est vendue. Dans un exemple de réalisation plus complexe, le critère Ri4,c minimise le coût de l’achat d’énergie, auprès du fournisseur d’énergie ou d’une autre entité de la place d’échange, qu’il convient de stocker dans la sous-entité ENTi4 dans l’intervalle de temps suivant.
Le critère Ri4,c s’exprime alors sous la forme Ri4iC= -PrCiXpiace-Qsi4,a,c U 7) ou Ri4iC= - Prc,grid-Qsi4,a,c (18), où QSi4 a c représente la quantité d’énergie achetée à stocker.
En variante, le critère Ri4,c utilisé est un compromis entre maximisation du profit de la fourniture de l’énergie stockée à l’autre entité ENTj ou au fournisseur d’énergie externe FE dans ledit intervalle de temps courant et minimisation de l’insatisfaction de l’utilisateur de la sous-entité S_ENTi4 véhicule électrique dans ledit intervalle de temps courant. Une telle insatisfaction est basée sur la crainte de l’utilisateur que la sous-entité S_ENTi4 véhicule électrique n’ait pas assez d’énergie pour fonctionner dans l’intervalle de temps courant.
Le critère Ri4,c s exprime sous la forme
~ Pi4- (, 'i4,max Pi4,c
• ai4 et [3i4 sont des coefficients de pondération entre le profit lié à la vente d’énergie et l’insatisfaction de l’utilisateur,
•
facteur déterminant l’anxiété de l’utilisateur de la sous-entité S_ENTi4 véhicule électrique de ne pas avoir suffisamment d’énergie pour utiliser son véhicule électrique, dans lequel Ei4 max est la consommation d’énergie maximale de cette sous-entité S_ENTi4 et Ei4,c est sa consommation d’énergie pendant l’intervalle de temps courant.
Dans un autre exemple de réalisation, le critère F .c utilisé minimise l’insatisfaction de l’utilisateur de la sous-entité S_ENTi4 véhicule électrique dans ledit intervalle de temps courant. Il s’exprime alors sous la forme Ri4iC = ~/3i4.(Ei4 max - Ei4 c)2 (21 ). A l’issue de ladite sélection S2i4, la sous-entité S_ENTi4 véhicule électrique prend une décision parmi trois décisions D1 , D2, D3. La décision D1 est relative au choix de la source d’énergie pour recharger la sous-entité S_ENTi4. La décision D2 est relative au choix de la destination de l’énergie déchargée de la sous-entité S_ENTi4. La décision D3 est de ne mettre en oeuvre aucune action particulière dans l’intervalle de temps suivant, et dans ce cas, le procédé d’échange est itéré à partir de l’étape S1 i4 pour l’intervalle de temps suivant ITc+i .
Si la décision D1 a été sélectionnée comme action à réaliser, la sous-entité S_ENTi4 :
- soit sélectionne en S3ai4, comme source du rechargement de la sous-entité S_ENTi4, l’autre entité ENTj et/ou le fournisseur d’énergie FE,
- soit sélectionne en S3bi4, comme source du rechargement de la sous-entité S_ENTi4, la sous-entité de production d’énergie S_ENTii.
Si la décision D2 a été sélectionnée comme action à réaliser, la sous-entité S_ENTi4 :
- soit sélectionne en S3ci4, comme destinataire du déchargement de la sous-entité S_ENTi4, l’autre entité ENTj et/ou le fournisseur d’énergie FE,
- soit sélectionne en S3di4, comme destinataire du déchargement de la sous-entité S_ENTi4, la sous-entité S_ENTi2 de consommation d’énergie, telle que par exemple un appareil dont l’utilisation est décalable dans le temps, un appareil dont le niveau de puissance de fonctionnement est variable, un appareil dont l’utilisation n’est pas décalable dans le temps et dont le niveau de puissance de fonctionnement est fixe. Dans le cas où la sélection S3ai4 est mise en oeuvre, la sous-entité S_ENTi4 calcule en S4ai4 la quantité Qi4,c d’énergie à recevoir de l’entité ENTi ou du fournisseur d’énergie FE pour son rechargement dans l’intervalle de temps courant.
Dans le cas où la sélection S3bi4 est mise en oeuvre, la sous-entité S_ENTi4 calcule en S4bi4 la quantité Qi4,c d’énergie à recevoir de la sous-entité de production d’énergie S_ENTii pour son rechargement dans l’intervalle de temps courant.
Dans le cas où la sélection S3ci4 est mise en oeuvre, la sous-entité S_ENTi4 calcule en S4ci4 la quantité Qi4,c d’énergie à utiliser pour alimenter en énergie l’autre entité ENTj et/ou le fournisseur d’énergie FE.
Dans le cas où la sélection S3di4 est mise en oeuvre, la sous-entité S_ENTi4 calcule en S4di4 la quantité Qi4,c d’énergie à utiliser pour alimenter en énergie ladite au moins une sous-entité de consommation d’énergie S_ENTi2.
En S5i4, la quantité Qi4,c d’énergie calculée est alors transmise à l’entité ENTi, dans l’intervalle de temps courant.
On décrit maintenant, en relation avec la figure 8, les différentes étapes réalisées au niveau de ladite au moins une sous-entité S_ENTi2 de consommation d’énergie qui est associée à ladite au moins une entité ENTi, lorsque le procédé d’échange d’énergie est mis en oeuvre dans l’intervalle de temps courant ITC et quand une telle sous-entité est présente. Dans l’exemple de la figure 8, l’architecture de l’ensemble d’entités est sur seulement deux niveaux L1 et L2, les appareils consommateurs d’énergie associés à la sous-entité S_ENTi2 étant tous situés au niveau L2, quel que soit leur type.
En S1 i2, la sous-entité S_ENTi2 qui est située au niveau L2 reçoit en provenance de l’entité ENTi qui est située au niveau L1 , via un module de réception identique ou similaire à celui de la figure 3, la valeur du prix Prc,gnd que coûte l’énergie disponible, dans ledit intervalle de temps courant, auprès du fournisseur d’énergie FE, ainsi que la valeur du prix Prc,xpiace que coûte l’énergie disponible, dans ledit intervalle de temps courant, auprès de l’autre entité ENTj.
En S2i2, à partir de la valeur du prix Prc,gnd et du prix Prc,xpiace, de la consommation de puissance êloadi2,c de l’ensemble des appareils consommateurs en énergie correspondant à la sous-entité S_ENTi2, est alors sélectionné un type d’action à mettre en oeuvre dans l’intervalle de temps courant par la sous-entité S_ENTi2. Ladite sélection peut être aussi mise en oeuvre en combinant les valeurs Prc,gnd, Prc,xpiace, 5loadi2,c avec respectivement des valeurs de même type obtenues par apprentissage dans des intervalles de temps précédents, par exemple à l’aide d’un algorithme d’apprentissage supervisé.
Une telle sélection S2i2 est mise en oeuvre conformément à un critère Ri2,c de performance de l’utilisation de l’énergie à consommer dans l’intervalle de temps courant.
Dans un exemple de réalisation, le critère Ri2,c minimise l’insatisfaction d’un utilisateur du ou des appareils consommateurs en énergie, ledit critère étant lié :
- soit à un décalage de l’utilisation de tout ou partie des appareils dans un intervalle temporel postérieur à l’intervalle temporel courant, si cet ou ces appareils a ou ont un profil d’utilisation décalable dans le temps,
- soit à une diminution du niveau de puissance de tout ou partie des appareils dans l’intervalle de temps courant, si cet ou ces appareils a ou ont un profil d’utilisation décalable en puissance.
Le critère Ri2,c s’exprime sous la forme Ri2,c=- ' k=i Pk,c (22), où N représente le nombre d’appareils dont l’utilisation est décalable dans le temps et Pk,c représente la puissance de fonctionnement d’un appareil k parmi N. Si cet appareil est éteint pendant un intervalle de temps, Pk,c=0 pendant cet intervalle.
Dans un autre exemple de réalisation, le critère Ri2,c s’exprime sous la forme (23), où on utilise par exemple une moyenne des
valeurs des prix Prc,xpiace et Prc,gnd.
Ce critère peut être défini aussi comme étant une somme pondérée entre la consommation énergétique (ou bien la puissance) des appareils consommateurs en énergie et l’insatisfaction de l’utilisateur, les deux étant à minimiser.
Le critère Ri2,c s’exprime sous la forme Ri2,c= k=i Rk,c (24) si k appareils associés à la sous-entité S_ENTi2 restent en fonctionnement dans l’intervalle de temps courant,
représente la somme des critères de performance énergétique appliqués individuellement pour chacun des k appareils.
A l’issue de ladite sélection S2i2, la sous-entité S_ENTi2 :
- soit laisse en fonctionnement S3ai2 le ou les appareils consommateurs d’énergie qui lui sont associés, durant l’intervalle de temps courant,
- soit coupe S3bi2 ce ou ces appareils, durant l’intervalle de temps courant.
Dans le cas où la sélection S3ai2 est mise en oeuvre, la sous-entité S_ENTi2 calcule en S4ai2 la quantité QCi2,c d’énergie à consommer dans l’intervalle de temps courant. Dans le cas où la sélection S3bi2 est mise en oeuvre, en S4bi2, la sous-entité S_ENTi2 met à jour la quantité QCi2,c d’énergie à consommer dans l’intervalle de temps courant en fonction des appareils qui restent en fonctionnement dans l’intervalle de temps courant.
En S5i2, la sous-entité ENTi2 transmet à l’entité ENTi la quantité QCi2,c d’énergie à consommer dans l’intervalle de temps courant, qui a été obtenue en S3ai2 ou S3bi2. On décrit maintenant, en relation avec la figure 9A, les différentes étapes réalisées au niveau d’au moins une sous-entité SS_ENTi2o de consommation d’énergie qui est associée à ladite au moins une sous-entité S_ENTi2 de consommation d’énergie, lorsque le procédé d’échange d’énergie est mis en oeuvre dans l’intervalle de temps courant ITC et que la sous-entité S_ENTi2 a décidé de laisser en fonctionnement le ou les appareils consommateurs d’énergie qui composent la sous-entité SS_ENTi2o. A cet effet, dans ce contexte de décision, dans l’exemple de la figure 9A, l’architecture de l’ensemble d’entités est sur trois niveaux L1 , L2, L3 et la sous-entité SS_ENTi2o qui est située au niveau L3 comprend M appareils consommateurs en énergie du type précité, dont l’utilisation est décalable dans le temps.
En S1 i2o, la sous-entité SS_ENTi2o sélectionne, pour un kième appareil parmi M, une action correspondante ai2o,c parmi deux actions possibles ACT1 , ACT2 qui sont les suivantes :
- ACT1 : le kième appareil reste en fonctionnement dans l’intervalle de temps suivant,
- ACT2 : le kième appareil arrête de fonctionner dans l’intervalle de temps suivant. L’étape S1 i2o est itérée pour chacun des M appareils de la sous-entité SS_ENTi2o. Une telle sélection S1120 est mise en oeuvre sur la base d’un paramétrage préalable rii2o,c de l’utilisateur, conformément auquel l’utilisateur a indiqué quels sont, parmi les M appareils décelables dans le temps, ceux dont le fonctionnement doit être maintenu et ceux dont le fonctionnement doit être arrêté. Un tel paramétrage est classique et peut être mise en oeuvre par exemple, via une application de domotique installée sur un terminal ou une centrale domestique, ou encore via un site Web dédié au service proposant l’échange d’énergie.
Une telle sélection est mise en oeuvre conformément à un critère de performance énergétique Ri2o,c.
Dans un exemple de réalisation, le critère Ri2o,c minimise l’insatisfaction d’un utilisateur qui serait liée à un décalage de l’utilisation d’un kième appareil décalable dans le temps, dans un intervalle temporel postérieur à l’intervalle temporel courant. Le critère Ri2o,c s’exprime par exemple sous la forme suivante :
• Pt2o,k est la puissance de fonctionnement du kième appareil,
• ai2o,c est l’action choisie à la fin de l’intervalle courant ITC, c’est un vecteur représentant les décisions prises pour l’ensemble des M appareils : par exemple si la sous-entité SS_ENTi2o est représentative de M=5 appareils et que l’action est de décaler l’utilisation de chacun d’entre eux, alors ai20 c = [0, 0, 0, 0, 0],
• ££2O est un coefficient de pondération,
• <5£2o,fcreprésente un coefficient d’insatisfaction de l’utilisateur pour un kième appareils de la sous-entité SS_ENTi2o.
Dans un autre exemple de réalisation, le critère Ri2o,c pourrait par exemple minimiser la consommation d’énergie en cas de pic de charge pour éviter l’achat d’énergie à un prix élevé.
A l’issue de ladite sélection S1 i2o, chacun des M appareils de la sous-entité SS_ENTi2o :
- soit reste en fonctionnement en S2ai2o, durant l’intervalle de temps suivant,
- soit est coupé en S2bi2o, durant l’intervalle de temps suivant.
En S3i2o, la sous-entité SS_ENTi2o transmet le critère Ri2o,c à la sous-entité S_ENTi2. On décrit maintenant, en relation avec la figure 9B, les différentes étapes réalisées au niveau d’au moins une sous-entité SS_ENTi2i de consommation d’énergie qui est associée à ladite au moins une sous-entité S_ENTi2 de consommation d’énergie, lorsque le procédé d’échange d’énergie est mis en oeuvre dans l’intervalle de temps courant ITC et que la sous-entité S_ENTi2 a décidé de faire varier le niveau de puissance des appareils consommateurs d’énergie qui composent la sous-entité SS_ENTi2i. A cet effet, dans ce contexte de décision, dans l’exemple de la figure 9B, l’architecture de l’ensemble d’entités est sur trois niveaux L1 , L2, L3 et la sous-entité SS_ENTi2i qui est située au niveau L3 comprend N appareils consommateurs en énergie du type précité, dont le niveau de puissance est variable dans le temps.
En S1 i2i, la sous-entité SS_ENTi2i sélectionne, pour un kième appareil parmi N, une action parmi trois actions possibles ACT3, ACT4, ACT5 qui sont les suivantes :
- ACT3 : le kième appareil continue de fonctionner dans l’intervalle de temps suivant, avec le même niveau de puissance que dans l’intervalle de temps courant,
- ACT4 : le kième appareil continue de fonctionner dans l’intervalle de temps suivant, avec un niveau de puissance supérieur à celui appliqué dans l’intervalle de temps courant,
- ACT5 : le kième appareil continue de fonctionner dans l’intervalle de temps suivant, avec un niveau de puissance inférieur à celui appliqué dans l’intervalle de temps courant.
L’étape S1121 est itérée pour chacun des N appareils de la sous-entité SS_ENTi2i. Une telle sélection S1121 est mise en oeuvre sur la base d’un paramétrage rii2i,c préalable de l’utilisateur, conformément auquel l’utilisateur a indiqué quels sont, parmi les N appareils à puissance variable, ceux pour lesquels le niveau de puissance reste fixe, ceux pour lesquels le niveau de puissance peut être augmenté, et ceux pour lesquels le niveau de puissance peut être diminué. Un tel paramétrage est classique et peut être mise en oeuvre d’une manière similaire à l’exemple de la figure 9A.
Une telle sélection est mise en oeuvre conformément à un critère de performance énergétique Ri2i,c.
Dans un exemple de réalisation, le critère Ri2i,c minimise l’insatisfaction d’un utilisateur qui serait liée à une diminution du niveau de puissance d’un kième appareil parmi N, dans l’intervalle temporel courant.
Le critère Ri2i,c s’exprime par exemple sous la forme suivante :
• ai2i,c est l’action choisie à la fin de l’intervalle courant ITC, ai21 c étant un vecteur des décisions prises pour l’ensemble des N appareils de la sous-entité SS_ENTi2i s’agissant du niveau de puissance à utiliser parmi les niveaux disponibles pour chacun : par exemple si la sous-entité SS_ENTi2i est représentative de 3 appareils et que les valeurs possibles pour chacun sont [Pi, P2, P3, P4, Ps] et l’action choisie à la fin de l’intervalle de temps courant ITC est d’utiliser le niveau de puissance Pi pour les deux premiers appareils et le niveau de puissance P3 pour le troisième appareil, alors l’action sera écrite comme suit : ai21 c = [Pi, Pi, P3],
• ££21 est un coefficient de pondération,
• pi2i, max est un vecteur représentatif des puissances de fonctionnement maximales pour tous les appareils dont le niveau de puissance est variable,
• 5i2i,k représente un coefficient d’insatisfaction de l’utilisateur pour un kième appareil de la sous-entité SS_ENTi2i pour lequel le niveau de puissance est variable.
Dans un autre exemple de réalisation, le critère Ri2i,c minimise la consommation de puissance en cas de pic de charge par exemple.
A l’issue de ladite sélection S1121, le fonctionnement de chacun des N appareils de la sous-entité SS_ENTi2i :
- est activé en S2ai2i, durant l’intervalle de temps suivant, avec le même niveau de puissance que celui appliqué dans l’intervalle de temps courant,
- est activé en S2bi2i , durant l’intervalle de temps suivant, avec un niveau de puissance plus élevé que celui appliqué dans l’intervalle de temps courant,
- est activé en S2ci2i, durant l’intervalle de temps suivant, avec un niveau de puissance moins élevé que celui appliqué dans l’intervalle de temps courant.
En S3i2i , la sous-entité SS_ENTi2i transmet le critère Ri2i,c à la sous-entité S_ENTi2.
Description d’un deuxième mode de réalisation d’une entité apte à échanger de l’énergie
On décrit maintenant, en référence à la figure 10, la structure simplifiée d’une entité ENTi choisie parmi la pluralité d’entités ENT1 à ENTK de la figure 2, telle que par exemple 1 <K<Ne, selon un deuxième mode de réalisation de l’invention.
Une telle entité ENTi est configurée pour mettre en oeuvre le procédé d’échange d’énergie qui va être décrit ci-dessous et qui est mis en oeuvre à l’aide d’un algorithme d’apprentissage par renforcement.
A cet effet, l’entité ENTi est un agent qui fonctionne dans un scénario multi-agents impliquant au moins un autre agent ENTj situé au même niveau L1 .
Dans le mode de réalisation particulier de la figure 10, l’agent ENTi comprend au moins un sous-agent S_ENTi situé au niveau inférieur L2, ledit au moins un sous- agent appartenant par exemple aux sous-agents suivants :
- un sous-agent de production d’énergie S_ENTM ,
- au moins un appareil S_ENTi2o dont l’utilisation est décalable dans le temps,
- au moins un appareil S_ENTi2i dont le niveau de puissance de fonctionnement est variable,
- un sous-agent de stockage d’énergie S_ENTi3,
- un véhicule électrique S_ENTi4,
- etc.
Dans l’exemple représenté sur la figure 10, l’agent ENTi réalise, dans un intervalle de temps courant ITC, une certaine action ai,c appartenant à un espace d’actions Ai suivant :
- ne rien faire,
- requérir de l’énergie auprès d’un fournisseur d’énergie externe FE ou d’au moins un des K-1 autres agents,
- fournir de l’énergie au fournisseur d’énergie externe FE ou à au moins un des K-1 autres agents,
- déterminer la quantité d’énergie à requérir (à acheter) ou à fournir (à vendre). L'agent ENTi choisit également, dans un intervalle de temps courant ITc, un objectif pour chacun des sous-agents du niveau inférieur L2. Ces objectifs appartiennent à des ensembles d'objectifs prédéfinis qui seront décrits dans la suite.
De la même manière, dans cet intervalle de temps ITC, chacun des K-1 autres agents définissant une place d’échange d’énergie, est un agent qui réalise l’une des actions précitées et choisit un objectif pour chacun de ses sous-agents du niveau inférieur L2.
Afin de sélectionner l’action qui optimise cet échange d’énergie dans l’intervalle de temps courant ITc, l’agent ENTi explore son environnement qui est représenté par un état appartenant à un espace d’états Si qui sera décrit dans la suite de cette description ou bien exploite le résultat de son apprentissage et sélectionne l’action qui s’est avérée meilleure jusqu’à présent.
A cet effet, l’agent ENTi réalise différentes actions, telles que celles de l’espace d’actions précité, pour un état donné Si,cde l’espace d’états Si, fournissant une récompense Ri,c qui définit un critère de performance de l’échange d’énergie dans la place d’échange. Ri,c est un signal qui définit la récompense (ou bien le coût) d'avoir effectué l'action ai,c en se trouvant dans l'état Si,c. Cette information est transmise de l'environnement vers l'agent qui cherche à l'optimiser (la maximiser en cas de récompense et la minimiser s'il s'agit d'un coût) afin d'apprendre les meilleures actions à faire dans chaque état. Dans l’exemple représenté, Ri,c peut être représentatif de la réduction des dépenses et/ou de la maximisation des revenus et/ou de la réduction de l’empreinte carbone liée à la transaction énergétique, dans l’intervalle de temps courant ITc.
De la même manière, dans cet intervalle de temps ITC, chacun des K-1 autres agents explore son environnement correspondant, notamment l’entité ENTj de la figure 10 qui réalise différentes actions, telles que celles de l’espace d’actions Aj, pour un état donné Sj,c d’un espace d’états Sj, fournissant une récompense Rj,c qui définit la récompense (ou bien le coût) d'avoir effectué l'action aj,c en se trouvant dans l'état Sj,c.
Conformément à l’invention, et comme déjà expliqué pour le premier mode de réalisation précité, l’agent ENTi, respectivement l’agent ENTj, se décompose en sous-agents disposés au niveau hiérarchique L2, dont seulement un seul sous-agent S_ENTi, respectivement S_ENTj, est représenté dans un souci de simplification de la figure 10.
Au niveau L2, le sous-agent S_ENTi, respectivement S_ENTj, reçoit une information en provenance de l’agent ENTi, respectivement ENTj, qui définit un but à atteindre pour réaliser la stratégie optimale d’échange d’énergie définie par Ri,c (respectivement Rj,c). Cette information peut s'ajouter à l'état Si,c, respectivement Sj,c, du sous-agent S_ENTi, respectivement S_ENTj.
A cet effet, le sous-agent S_ENTi, respectivement S_ENTj, réalise, dans l’intervalle de temps courant ITC, l’action ai.c, respectivement aj,c, qui vise à distribuer de manière optimale l’énergie pour l’agent ENTi, respectivement l’agent ENTj. Lorsque l’agent ENTi est décomposé par exemple en cinq sous-agents S_ENTii, S_ENTi2o, S_ENTi2i, S_ENTi3, S_ENTi4, chacun d’entre eux réalise, dans l’intervalle de temps courant, les actions respectives an ,c, ai2o,c, ai2i,c, ai3,c, ai4,c qui, conjointement, visent à distribuer de manière optimale l’énergie pour l’agent ENTi.
L’action ari,c réalisée par le sous-agent S_ENTM , dans l’intervalle de temps courant ITc, est prédéfinie, une telle action étant choisie dans l’espace d’actions suivant :
- ne rien faire,
- sélectionner, comme destinataire de tout ou partie de l’énergie produite, l’autre agent ENTj et/ou le fournisseur d’énergie FE,
- alimenter en énergie le sous-agent S_ENTi2o et/ou le sous-agent S_ENTi2i,
- recharger le sous-agent de stockage d’énergie S_ENTi3 avec tout ou partie de l’énergie produite,
- recharger le sous-agent S_ENTi4 avec tout ou partie de l’énergie produite.
Afin de sélectionner l’action an ,c qui optimise la distribution ou l’utilisation d’énergie dans l’intervalle de temps courant ITc, le sous-agent ENTM explore son environnement qui est représenté par un état appartenant à un espace d’états Sii qui sera décrit dans la suite de cette description. A cet effet, le sous-agent S_ENTii réalise différentes actions possibles, telles que celles de l’espace d’actions précité, pour un état donné, fournissant une récompense Rii,c qui définit un critère de performance de l’utilisation de l’énergie produite par ce sous-agent S_ENTii. Dans l’exemple représenté, Rii,c peut être représentatif par exemple de la maximisation des revenus dans l’intervalle de temps courant ITC, dans le cas où l’énergie produite est fournie au fournisseur d’énergie FE ou à l’autre agent ENTj.
Conformément à ce deuxième mode de réalisation, le sous-agent S_ENTi2o réalise, dans l’intervalle de temps courant, l’action ai2o,c qui vise à adapter au mieux la consommation d’énergie pour l’agent ENTi. En fonction du contexte de l’échange d’énergie, si un sous-agent S_ENTi2i est présent au niveau L2, l’action ai2o,c est mise en oeuvre conjointement à l’action ai2i,c mise en oeuvre par le sous-agent S_ENTi2i en vue d’adapter au mieux la consommation d’énergie pour l’agent ENTi.
L’action ai2o,c réalisée par le sous-agent S_ENTi2o, dans l’intervalle de temps courant ITc, est prédéfinie, une telle action étant choisie dans l’espace d’actions Ai2o suivant :
- fonctionner,
- ne pas fonctionner.
Afin de sélectionner l’action ai2o,c qui optimise la distribution ou l’utilisation d’énergie dans l’intervalle de temps courant ITc, le sous-agent S_ENTi2o explore son environnement qui est représenté par un état appartenant à un espace d’états Si2o qui sera décrit dans la suite de cette description. A cet effet, le sous-agent S_ENTi2o réalise différentes actions possibles, telles que celles de l’espace d’actions précité Ai2o, pour un état donné, fournissant une récompense Ri2o,c qui définit un critère de performance énergétique lié à l’utilisation de l’énergie consommée par ce sous-agent S_ENTi2o. Dans l’exemple représenté, Ri2o,c peut définir par exemple la minimisation de l’insatisfaction de l’utilisateur dans l’intervalle de temps courant ITC, dans le cas d’un décalage d’utilisation du sous-agent S_ENTi2o et de la minimisation de la consommation d’énergie en cas de pic de charge pour éviter l’achat d’énergie à un prix élevé.
L’action ai2i,c réalisée par le sous-agent S_ENTi2i, dans l’intervalle de temps courant ITc, est prédéfinie, une telle action étant choisie dans l’espace d’actions Ai2i suivant :
- garder la même puissance que celle appliquée dans l’intervalle de temps précédent,
- diminuer la puissance,
- augmenter la puissance.
Afin de sélectionner l’action ai2i,c qui optimise la consommation d’énergie dans l’intervalle de temps courant ITC, dans cet intervalle de temps ITC, le sous-agent S_ENTi2i explore son environnement qui est représenté par un état appartenant à l’espace d’états Si2i et qui sera décrit dans la suite de cette description. A cet effet, le sous-agent S_ENTi2i réalise différentes actions possibles, telles que celle de l’espace d’actions précité, pour un état donné de l’espace d’états Si2i , fournissant une récompense Ri2i,c qui définit un critère d’optimisation de la consommation d’énergie par le sous-agent S_ENTi2i. Dans l’exemple représenté, Ri2i,c peut être représentatif de la minimisation de l’insatisfaction de l’utilisateur lié à la diminution du niveau de puissance de fonctionnement du sous-agent S_ENTi2i et de la minimisation de la consommation de puissance en cas de pic de charge par exemple, pour éviter l’achat d’énergie à un prix élevé.
Conformément à ce deuxième mode de réalisation, l’action ai3,c réalisée par le sous- agent S_ENTi3, dans l’intervalle de temps courant ITc, est prédéfinie, une telle action étant choisie dans l’espace d’actions Ais suivant :
- ne rien faire, c’est-à-dire ni se recharger, ni se décharger en énergie,
- vendre de l’énergie à au moins un des K-1 autres agents, ENTj par exemple,
- vendre de l’énergie au fournisseur d’énergie externe FE,
- alimenter en énergie le sous-agent S_ENTi2o et/ou le sous-agent S_ENTi2i,
- recharger de l’énergie auprès d’au moins un des K-1 autres agents, ENTj par exemple,
- recharger de l’énergie auprès du fournisseur d’énergie externe FE,
- recharger de l’énergie auprès du sous-agent S_ENTii.
Afin de sélectionner l’action ai3,c qui optimise l’utilisation de l’énergie stockée dans l’intervalle de temps courant ITc, le sous-agent ENTi3 explore son environnement qui est représenté par un état appartenant à un espace d’états Sis qui sera décrit dans la suite de cette description. A cet effet, le sous-agent S_ENTi3 réalise différentes
actions possibles, telles que celles de l’espace d’actions précité, pour un état donné, fournissant une récompense Ri3,c qui définit un critère de performance énergétique lié à l’utilisation de l’énergie stockée par ce sous-agent S_ENTi3. Dans l’exemple représenté, Ri3,c peut définir la maximisation de la durée du cycle de vie dudit au moins un sous-agent de stockage S_ENTi3.
Conformément à ce deuxième mode de réalisation, l’action ai4,c réalisée par le sous- agent S_ENTi4, dans l’intervalle de temps courant ITC, est prédéfinie, une telle action étant choisie dans l’espace d’actions Ai4 suivant :
- ne rien faire, c’est-à-dire ni se recharger, ni se décharger en énergie,
- vendre de l’énergie au moins un des K-1 autres agents, ENTj par exemple,
- vendre de l’énergie au fournisseur d’énergie externe FE,
- alimenter en énergie le sous-agent S_ENTi2o et/ou le sous-agent S_ENTi2i,
- recharger de l’énergie auprès d’au moins un des K-1 autres agents, ENTj par exemple,
- recharger de l’énergie auprès du fournisseur d’énergie externe FE,
- recharger de l’énergie auprès du sous-agent S_ENTii.
Afin de sélectionner l’action ai4,c qui optimise l’utilisation de l’énergie stockée dans l’intervalle de temps courant ITC, le sous-agent S_ENTi4 explore son environnement qui est représenté par un état appartenant à un espace d’états Si4 qui sera décrit dans la suite de cette description. A cet effet, le sous-agent S_ENTi4 réalise différentes actions possibles, telles que celles de l’espace d’actions précité, pour un état donné, fournissant une récompense Ri4,c qui définit un critère de performance énergétique lié à l’utilisation de l’énergie stockée par ce sous-agent S_ENTi4. Dans l’exemple représenté, Ri4,c peut définir l’insatisfaction de l’utilisateur basée sur la crainte que le sous-agent S_ENTi4 véhicule électrique n’ait pas assez d’énergie pour fonctionner dans l’intervalle de temps courant. En variante, Ri4,c peut être représentatif de la maximisation de la durée du cycle de vie dudit au moins un sous- agent S_ENTi4.
Le mode de réalisation décrit en liaison avec la figure 10 est particulièrement avantageux pour les raisons suivantes :
- il utilise un algorithme d’apprentissage par renforcement qui est particulièrement efficace pour modéliser un système de prise de décision séquentielle ou une place d’échange d’énergie multi-agents avec des espaces d’états et des espaces d’actions
complexes. En outre, il est bien adapté à la décomposition hiérarchique conformément à l’invention de la place d’échange d’énergie, où sur plusieurs niveaux, par exemple deux niveaux L1 , L2 dans l’exemple représenté sur la figure 10, des décisions séquentielles sont mises en oeuvre par les agents ou sous-agents correspondants,
- il est basé sur une décomposition hiérarchique d’un agent en différents sous-agents liés à un profil spécifique d’utilisation de l’énergie (consommation, stockage, production d’énergie, véhicule électrique, etc.), une telle décomposition permettant de réduire les espaces d’actions et les espaces d’états tout en préservant la scalabilité de la place ou du système d’échange d’énergie,
- il permet de fonctionner sur des échelles de temps diverses : par exemple, la stratégie d’échange d’énergie au niveau L1 peut être définie à la journée, tandis que les stratégies d’utilisation de l’énergie dans le niveau inférieur L2 peuvent être définies sur des temps plus courts, par exemple une ou plusieurs heures, une ou plusieurs minutes, etc. Un tel fonctionnement hiérarchique permet une accélération de l’apprentissage par renforcement pour la place ou le système d’échange d’énergie,
- la modularité du système d’échange d’énergie sur différents niveaux L1 , L2 facilite grandement le transfert d’apprentissage entre des agents ayant les mêmes caractéristiques, ce qui contribue également à cette accélération de l’apprentissage par renforcement. Ainsi, l’apprentissage par renforcement permet d’optimiser l’efficacité de l’échange d’énergie sur la place ou le système d’échange d’énergie,
- la décomposition du système d’échange d’énergie en plusieurs niveaux hiérarchiques permet une meilleure protection des données personnelles de l’utilisateur concernant les sous-agents des niveaux inférieurs L2 de la place ou du système d’échange d’énergie, peu d’informations liées à ces niveaux inférieurs étant transmises aux entités ou agents du niveau supérieur.
Description d’un deuxième mode de réalisation d’un procédé d’échange d’énergie
On décrit maintenant, en relation avec la figure 11 , le déroulement d’un procédé d’échange d’énergie exécuté par l’agent ENTi tel qu’illustré en figure 10. Un tel procédé d’échange d’énergie se déroule comme suit au niveau de l’agent ENTi, dans un intervalle de temps courant ITC.
En S’1 , un état donné du système d’échange d’énergie est initialisé dans l’intervalle de temps courant ITC.
Dans un mode de réalisation préféré, l’espace d’états Si configuré pour le système est par exemple le suivant :
Si=Prgrid X PrXplace X Qi1 ,v X Qcons X H X Ui3 X Ui4 (27), où :
• Prgrid et Prxpiace sont respectivement l’ensemble de valeurs possibles pour les prix provenant du fournisseur traditionnel FE et de la place d’échange ; ils peuvent être définis comme deux intervalles entre un prix minimal et un prix maximal (qui sont à définir) avec des valeurs qui sont soit continues, soit discrètes entre les deux,
• Qh,v est la quantité d’énergie produite par le sous-agent S_ENTii et vendue au fournisseur traditionnel FE ou à la place d’échange ;
• Qcons est l’ensemble définissant les valeurs possibles pour la quantité d’énergie consommée pendant un intervalle de temps prédéfini ; Qcons peut être défini comme un intervalle entre une valeur minimale et une valeur maximale de consommation, tel que Q cons = [Qcons, min , Qcons, max ], avec des valeurs continues ou discrètes entre les deux ;
• H est l’ensemble définissant l’heure : H = [0, 23] ;
• Ui3 (resp. Ui4) est un vecteur composé de la quantité d’énergie à vendre par le sous-agent S_ENTi3 (resp. S_ENTi4) et de l’empreinte carbone Carbi3 (resp. Carbi4) qui est l’ensemble de valeurs possibles pour les empreintes carbones dans le sous-agent S_ENTi3 (resp. S_ENTi4), où Carbi3 (resp. Carbi4) peuvent être compris entre une valeur minimale et une valeur maximale prédéfinies.
En S’2, l’agent ENTi sélectionne une action selon un compromis d’exploitation du résultat d’apprentissage et d’exploration de l’espace d’actions, avec une probabilité donnée (par exemple 0,9 pour l’exploitation et 0,1 pour l’exploration).
Dans un mode de réalisation préféré, l’action est sélectionnée dans un espace d’actions Ai qui est par exemple le suivant :
Ai= Ti x Q x Sbi x Ssi X Di x Pn,v (28), où :
• Ti représente le vecteur définissant les transactions d’énergie possible. Il s’agit d’un vecteur à trois valeurs, Ti = {-1 , 1 , 0}, où -1 est représentative d’un achat d’énergie auprès du fournisseur FE ou d’au moins un des K-1 autres agents, 1 est
représentative d’une vente d’énergie au fournisseur FE ou à au moins un des K-1 autres agents, et 0 est représentative d’aucune action de transaction d’énergie,
• Qti est l’ensemble définissant les valeurs possibles pour la quantité d’énergie à acheter ou à vendre pendant un intervalle de temps prédéfini ; Qti peut être défini comme un intervalle entre 0 et une valeur maximale de consommation, tel que Qti = [0, Qti, max], avec des valeurs continues ou discrètes entre les deux,
• Sbi est l’ensemble définissant la source de l’énergie achetée par l’agent ENTi dans un intervalle de temps donné, Sbi étant un vecteur à deux valeurs, par exemple Sbi = {1 , 2}, où 1 est représentative du fournisseur d’énergie FE et 2 est représentative de la place d’échange,
• Ssi est l’ensemble définissant la source de l’énergie vendue par l’agent ENTi dans un intervalle de temps donné, Ssi étant un vecteur à trois valeurs, par exemple Ssi = {1 , 2, 3}, où 1 est représentative du sous-agent producteur d’énergie S_ENTii, 2 est représentative du sous-agent de stockage d’énergie S_ENTi3, 3 est représentative du sous-agent S_ENTi4 véhicule électrique,
• Di est l’ensemble définissant la destination de l’énergie achetée par l’agent ENTi dans un intervalle de temps donné, Di étant un vecteur à quatre valeurs, par exemple Di = {1 , 2, 3}, où 1 est représentative du sous-agent de stockage d’énergie S_ENTi3, 2 est représentative du sous-agent S_ENTi4 véhicule électrique, 3 est représentative des appareils consommateurs d’énergie,
• Pn,vest un ensemble définissant les valeurs possibles du prix de vente de l’énergie proposée par l’agent ENTi, il peut être défini comme étant un intervalle entre un prix minimal et un prix maximal (qui sont à définir) avec des valeurs qui sont soit continues, soit discrètes entre les deux.
En S’3, l’agent ENTi sélectionne un objectif pour chaque sous-entité selon un compromis d’exploitation du résultat d’apprentissage et d’exploration de l’espace d’actions, avec une probabilité donnée (par exemple 0,9 pour l’exploitation et 0,1 pour l’exploration).
Dans un mode de réalisation préféré, chaque objectif est sélectionné dans un espace d’objectifs Gi,c qui est par exemple le suivant :
Gi=Gii x Gi2ox Gi2i x Gi3 x Gi4 (29), où :
• Gii est l’espace d’objectifs concernant le sous-agent panneau photovoltaïque S_ENTii, tel que Gii = {0,1}, où :
■ 0 signifie arrêter le panneau photovoltaïque S_ENTii (ceci peut être utile pour l’équilibrage de l’énergie : entrée = sortie) ou bien continuer à ne pas l’utiliser s’il est déjà éteint,
■ 1 signifie le mettre en marche/ou le garder en marche s’il est déjà fonctionnel ;
• Gi2o est l’espace d’objectifs concernant les appareils S_ENTi2o décelables dans le temps, tel que Gi2o = {0,1 }, où :
■ 0 signifie ne pas utiliser la fonctionnalité d’ajustement du temps de fonctionnement des appareils, 1 signifie activer cette fonctionnalité ;
• Gi2i est l’espace d’objectifs concernant les appareils S_ENTi2i dont le niveau de puissance est réglable dans le temps, tel que Gi2i = {0,1 }, où :
■ 0 signifie ne pas utiliser la fonctionnalité d’ajustement du niveau de puissance des appareils,
■ 1 signifie activer cette fonctionnalité ;
• Gi3 est l’espace d’objectifs concernant le sous-agent de stockage d’énergie S_ENTi3, tel que Gis = {0, 1 , 2} où :
■ 0 signifie ne rien faire,
■ 1 signifie décharger le sous-agent de stockage d’énergie S_ENTi3,
■ 2 signifie charger ce sous-agent ;
• Gi4 est l’espace d’objectifs concernant le sous-agent véhicule électrique S_ENTi4, tel que : {0, 1 , 2} où :
■ 0 signifie ne rien faire,
■ 1 signifie décharger le véhicule,
■ 2 signifie le charger.
A l’issue de cette sélection, un objectif gi,c, à un intervalle de temps courant ITC, peut être une combinaison des différentes valeurs possibles appartenant aux ensembles Gii, G i2o, Gi2i, Gi3, Gi4, par exemple :
• gi,c = {0, 0, 0, 1 , 1 } signifie que l’agent ENTi du niveau L1 transmet une consigne à chacun des sous-agents S_ENTii, S_ENTi2o, S_ENTi2i, S_ENTi3, S_ENTi4 de niveau inférieur L2, pour arrêter le fonctionnement ou poursuivre l’arrêt, si c’est déjà le cas, des sous-agents S_ENTii, pour désactiver la fonctionnalité d’ajustement de l’utilisation des sous-agents S_ENTi2o et S_ENTi2i, et pour décharger les sous-agents S_ENTi3 et S_ENTi4,
• ou encore gi,c = {1 , 1 , 1 , 1 , 1 } signifie que l’agent ENTi du niveau L1 transmet une consigne à chacun des sous-agents S_ENTii, S_ENTi2o, S_ENTi2i, S_ENTi3, S_ENTi4 de niveau inférieur L2, pour commander respectivement le fonctionnement ou la poursuite du fonctionnement du sous-agent S_ENTii, activer la fonctionnalité d’ajustement de l’utilisation du sous-agent S_ENTi2o, activer la fonctionnalité d’ajustement de la puissance du sous-agent S_ENTi2i, activer le déchargement des sous-agents S_ENTi3 et S_ENTi4.
En S’4, chacune des cinq valeurs de l’objectif gi,c est envoyée respectivement à chacun des sous-agents correspondants S_ENTii, S_ENTi2o, S_ENTi2i, S_ENTi3, S_ENTi4 et fera alors partie de leur état correspondant.
En S’5, l’agent ENTi reçoit, en provenance de son environnement, un signal de récompense Ri,c qui est par exemple le suivant dans un mode de réalisation préféré : Ri, c=m,c.ti,c. profit - [3i,c.empreinte_carbone (30), où :
• ti,c est le type d’action choisi à la fin de l’intervalle courant ITC pour l’intervalle de temps suivant, ti,c e Ti,
Sbi et qti c e Qt£,
• empreinte_carbone est un facteur d’empreinte carbone qui correspond à l’empreinte carbone transmise par le fournisseur d’énergie FE ou au moins l’un des K-1 autres agents auprès duquel l’agent ENTi a acheté l’énergie,
• ai,c et Pi,c sont deux coefficients de pondération entre le profit et l’empreinte carbone.
En variante, Profit=pri V c.qti c (33) si ti,c=1 et Ri,c=0 si ti,c=O, où pri v c e Pri v et représente un prix de vente qui n’est pas fixé au préalable, par exemple un prix déduit suite à des enchères.
Les étapes S’2 à S’5 sont itérées en S’6 jusqu’à un critère d’arrêt, de manière à sélectionner pour chaque état donné une action optimale aopti,c parmi Ai, c’est-à-dire une valeur de vecteur optimale pour ti,c, qti.c, sbi.c, ssi,c di,c, pn,v,c pour des valeurs données de Pre, grid, Prc,Xplace, Qi1 ,v, Qi3,v, Qi4,v, Qcons, H, Ui3, Ui4.
Une telle action optimale aopti,c est enregistrée en S7 dans une mémoire dédiée. Dans un mode de réalisation particulier, l’action optimale aopti,c est stockée de manière à être éventuellement sélectionnée dans l’intervalle de temps suivant en réponse à soit une exploitation ou une exploration.
Dans un autre mode de réalisation particulier, les étapes S’1 à S’7 peuvent être réalisées préalablement à la mise en fonctionnement en temps réel de la place d’échange, dans une phase de simulation du fonctionnement de cette place d’échange, de manière à obtenir en S’8 un mapping entre chaque état possible et l’action optimale correspondante et stocker en S’9 ce mapping, sous la forme par exemple d’une table de correspondance TC. Ainsi, lorsque la place d’échange fonctionne en temps réel, en S’10 l’agent ENTi observe par exemple son état, puis sélectionne en S’11 dans la table TC directement l’action qui s’est avérée optimale. On décrit maintenant, en relation avec la figure 12, le déroulement d’un procédé de distribution d’énergie exécuté par le sous-agent S_ENTii tel qu’illustré en figure 10, dans le cadre du procédé d’échange d’énergie de la figure 11 .
Un tel procédé de distribution d’énergie se déroule comme suit au niveau du sous- agent S_ENTii, dans un intervalle de temps courant ITC.
En S’1 ii, un état donné du système d’échange d’énergie est initialisé dans l’intervalle de temps courant ITC.
Dans un mode de réalisation préféré, l’espace d’états Sii configuré pour le système est par exemple le suivant :
Si1 = Prgrid X Prxplace X Qi1 ,pr X CHi3 xCHi4 X Qcons X Gil X H (34), où :
- Prgrid, Prxpiace, Gu et H sont tels que mentionnés plus haut,
- Qn.prest l’ensemble définissant la quantité d’énergie qui peut être produite par le sous-agent S_ENTn et pouvant être défini par exemple comme suit : Qii,pr = [0, Qn.max], où Qn .max est la quantité d’énergie maximale qui peut être produite pendant un intervalle de temps prédéfini, par exemple une heure, une journée, etc.,
- CHi3 = [0, 100] définit l’état de charge du sous-agent S_ENTi3, dans l’intervalle de temps courant ITC,
- CHi4 = [0, 100] définit l’état de charge du sous-agent S_ENTi4, dans l’intervalle de temps courant ITC,
- Qcons est l’ensemble définissant les valeurs possibles pour la quantité d’énergie consommée pendant un intervalle de temps prédéfini ; Qcons peut être défini comme un intervalle entre une valeur minimale et une valeur maximale de consommation, tel que Q cons = [Qcons, min , Qcons, max ], avec des valeurs continues ou discrètes entre les deux.
En S’2ii, le sous-agent S_ENTii sélectionne une action selon un compromis d’exploitation du résultat d’apprentissage et d’exploration de l’espace d’actions, avec une probabilité donnée (par exemple 0,9 pour l’exploitation et 0,1 pour l’exploration). Dans un mode de réalisation préféré, l’action est sélectionnée dans un espace d’actions An qui est par exemple le suivant :
Aii = Dii x Qh.utx lii (35), où :
• Dii est l’ensemble des destinations possibles de l’énergie produite par le sous- agent S_ENTii dans l’intervalle de temps courant ITC, et s’exprime comme suit : Dii = {1 , 2, 3, 4, 5}, où 1 est représentative de la place d’échange d’énergie, 2 est représentative du fournisseur d’énergie externe FE, 3 est représentative du sous- agent de stockage S_ENTi3, 4 est représentative du sous-agent véhicule électrique S_ENTi4, 5 est représentative des appareils consommateurs d’énergie,
• Qii ,ut est l’ensemble des quantités d’énergie produites par le sous-agent S_ENTii qui peuvent être utilisées dans l’intervalle de temps courant ITC, et étant défini par exemple comme suit : Qii.ut = [0, Qii ,max],
• lii={0,1 }, où 0 signifie que le sous-agent S_ENTii n’est pas mis en fonctionnement et 1 signifie que le sous-agent S_ENTii est mis en fonctionnement ou poursuit son fonctionnement s’il était en fonctionnement dans l’intervalle de temps précédent.
En S’3ii, le sous-agent S_ENTii reçoit un signal de récompense Rii,c qui est par exemple le suivant dans un mode de réalisation préféré :
• Oii est un coefficient de pondération prédéfini,
• Ru,ext,c définit une récompense extrinsèque provenant de l’environnement en réponse à l’action faite par le sous-agent S_ENTii. Elle peut être définie dans un intervalle de temps courant comme suit : il,ext,c = PTc,Xplace X qi1 ,ut,c Si di1 ,c = 1 (37) et
Ril,ext,c = Pfc, grid X qi1 ,ut,c Si dil.c = 2 (38) et n,ext,c = 0 sinon, où :
• pfc.Xplace G Prxpiace et prc, grid G Prgrid sont respectivement les prix de l’énergie dans la place d’échange et du fournisseur d’énergie dans l’intervalle de temps courant ITC considéré et qii.ut.c G Qii ,ut et dii,c G DH désignent respectivement la décision faite à la fin de cet intervalle de temps considéré concernant la quantité d’énergie à utiliser et pour quelle destination, ceci pour l’intervalle de temps suivant,
• Ru,int,c définit une récompense intrinsèque qui est reçue par le sous-agent S_ENTii, laquelle est cohérente avec les objectifs transmis par l’agent ENTi en S’4 (figure 1 1 ), cette récompense intrinsèque pouvant être définie dans l’intervalle de temps courant comme :
Rn,int,c = "I si iii.c = gri.c et R^int.c = 0 sinon, où iii,c G hi et gii,c G Gii désignent respectivement l’action choisie par le sous-agent S_ENTii pour soit fonctionner ou pas et l’objectif transmis par l’agent ENTi en S’4 (figure 1 1 ), les deux pour l’intervalle de temps suivant ITC.
Les étapes S’2n à S’3ii sont itérées en S’4ii jusqu’à un critère d’arrêt de manière à sélectionner pour chaque état donné une action optimale aoptii,c parmi Aii , c’est-à-dire une valeur de vecteur optimale pour dii,c, qii ,ut,c et iii,c pour des valeurs données de pre, grid, prc,Xplace, qi1 ,pr,c, Chi3,c, Chi4,c, qcons,c, Çi1 ,c et hc.
Une telle action optimale aoptii,c est enregistrée en S’5ii dans une mémoire dédiée de manière à être éventuellement sélectionnée dans l’intervalle de temps suivant en réponse à soit une exploitation ou une exploration ou bien être utilisée pour la mise en œuvre d’étapes temps réel S’6ii à S’9ii du même type que les étapes S’8 à S’1 1 précitées.
On décrit maintenant, en relation avec la figure 13, le déroulement d’un procédé de distribution d’énergie exécuté par le sous-agent de stockage S_ENTi3 tel qu’illustré en figure 10, dans le cadre du procédé d’échange d’énergie de la figure 1 1 .
Un tel procédé de distribution d’énergie se déroule comme suit au niveau du sous- agent S_ENTi3, dans un intervalle de temps courant ITC.
En S’1 i3, un état donné du système d’échange d’énergie est initialisé dans l’intervalle de temps courant ITC.
Dans un mode de réalisation préféré, l’espace d’états Sis configuré pour le système est par exemple est le suivant :
Si3= Prgrid x Prxpiace x Carbi3 x CHi3 xCHi4 x Qcons x Gi3 X H (39), où :
Prgrid, Prxpiace, Carbi3, Qcons, Gis et H sont tels que décrits ci-dessus,
• CHi3 définit le pourcentage de charge du sous-agent S_ENTi3, dans l’intervalle de temps courant ITC, et s’exprime comme suit CHi3= [0,100].
En S’2i3, le sous-agent S_ENTi3 sélectionne une action selon un compromis d’exploitation du résultat d’apprentissage et d’exploration de l’espace d’actions, avec une probabilité donnée (par exemple 0,9 pour l’exploitation et 0,1 pour l’exploration). Dans un mode de réalisation préféré, l’action est sélectionnée dans un espace d’actions Ais qui est par exemple le suivant : Ai3 =Ci3 x Di3 x Qi3 (40), où :
• Ci3 est un ensemble définissant la source possible de l’énergie rechargée dans le sous-agent S_ENTi3 dans l’intervalle de temps courant ITC et s’exprime par exemple comme suit : Ci3 = {0,1 ,2,3}, où 0 est représentative de l’absence de rechargement, 1 est représentative de la place d’échange d’énergie, 2 est représentative du fournisseur d’énergie externe FE, 3 est représentative du sous- agent S_ENTii dans le cas il produit de l’énergie en excès,
• Di3 est un ensemble définissant la destination possible de l’énergie déchargée du sous-agent S_ENTi3 dans l’intervalle de temps courant ITC, et s’exprime par exemple comme suit : Dis = {0,1 ,2,3}, où 0 est représentative de l’absence de déchargement, 1 est représentative de la place d’échange d’énergie, 2 est représentative du fournisseur d’énergie externe FE, 3 est représentative des appareils consommateurs d’énergie,
• Qi3 est un ensemble définissant le pourcentage de rechargement/déchargement du sous-agent S_ENTi3 dans l’intervalle de temps courant ITC, et s’exprime comme suit : Qi3 = [0,100].
L’action sélectionnée par le sous-agent S_ENTi3 consiste ainsi à choisir à se recharger ou se décharger, avec quelle quantité d’énergie (ou autrement quel pourcentage de sa capacité), ainsi que la source de cette charge/destination de cette décharge. Si le sous-agent S_ENTi3 choisit de se décharger en vendant dans la place d’échange ou vers le fournisseur, cette information est alors transmise à l’agent ENTi de niveau supérieur L1 pour être prise en compte dans la stratégie d’échange. Cette information porte la référence Ui,c sur la figure 10, telle qu’ici Ui,c= Ui3,c. Comme mentionné ci-dessus, Ui3,c prend en valeur la quantité d’énergie à vendre dans la place d’échange ou au fournisseur et l’empreinte carbone Carbi3, et 0 sinon. Elle entrera par la suite dans l’état de l’agent ENTi. Sur la figure 10, Ui,c est
représentée en pointillé car elle n’est pas transmise par tous les autres sous-agents considérés, notamment S_ENTii, S_ENTi2o, S_ENTi2i.
En S’4i3, le sous-agent S_ENTi3 reçoit un signal de récompense Ri3,c qui est par exemple le suivant dans un mode de réalisation préféré :
• ai3 est un coefficient de pondération prédéfini,
• Rn.ext.c définit une récompense extrinsèque provenant de l’environnement en réponse à l’action faite par le sous-agent S_ENTi3. Elle peut être définie dans un intervalle de temps courant comme suit :
Ri3,ext,c = &3. profite, c + (1 - £i3).storagei3,c (42), où :
. prof i ti3,c = prc ,Xplace (qi3,c.Q max )/100 (43) si di3,c = 1 et
• profiti3,c = pTc, grid (qi3,c.Qmax)/100 (44) Si di3,c = 2 et
• prof iti3,c = - prc,Xplace (qi3,c.Qmax )/100 (45) si Ci3,c = 1 et
• profiti3,c = - pTc, grid (qi3,c.Qmax)/100 (46) Si Ci3,c = 2 et
. profiter = 0 sinon et
. storagei3,c = qi3,c - |clte,c + qi3,c - Chi3,max| (47) si Ci3,c 0 (chargement) et
. storagei3,c = qi3,c - |clte,c - qi3,c - CH i3,min| (48) si di3,c 0 (déchargement), et |x| symbolisant la valeur absolue d’un nombre réel x, où :
• prc,xpiace et prc,grid sont respectivement les prix de l’énergie dans la place d’échange et du fournisseur d’énergie dans l’intervalle de temps courant ITC considéré et qi3,c e Qis, di3,c e Dis et clte,c e CHi3 désignent respectivement la décision faite à la fin de cet intervalle de temps considéré concernant la quantité d’énergie à utiliser et pour quelle destination, ceci pour l’intervalle de temps suivant et l’état de charge du sous-agent S_ENTi3 à la fin de l’intervalle de temps courant,
. storagei3,c est une fonction qui vise à maximiser la quantité à charger et à minimiser la distance entre la charge actuelle du sous-agent S_ENTi3, incrémentée par la quantité d’énergie à charger, et la valeur de charge maximale du sous-agent S_ENTi3 afin de ne pas s’éloigner de cette valeur maximale ceci dans le cas d’un rechargement et dans le cas d’un déchargement storagei3,c vise à maximiser la quantité d’énergie à décharger et à minimiser la distance entre la charge actuelle du sous-agent S_ENTi3, décrémentée par la quantité d’énergie à décharger, et la charge minimale du sous-agent S_ENTi3, ceci étant pour ne pas trop dépasser la charge minimale requise par le sous-agent S_ENTi3 ,
. Eis est un coefficient de pondération,
• Ri3,int,c définit une récompense intrinsèque qui est reçue en cohérence avec les objectifs transmis par l’agent ENTi en S’4 (figure 1 1 ), cette récompense pouvant être définie dans un intervalle de temps courant comme suit :
• Ri3,int,c = 1 si Ci3,c = di3,c = gi3,c = 0 (ne rien faire) ou si di3,c 0 et gi3,c = 1 ou si Ci3,c + 0 et gi3,c = 2 et Ri3,int,c = 0 sinon, où Ci3,c G Ci3 et gi3,c G Gi3 désignent respectivement l’action choisie par le sous-agent S_ENTi3 pour choisir la source d’énergie pour le rechargement et l’objectif transmis par l’agent ENTi en S’4 (figure 11 ), les deux à la fin de l’intervalle de temps courant. Les étapes S’2i3 à S’3is sont itérées en S’4i3 jusqu’à un critère d’arrêt de manière à sélectionner pour chaque état donné une action optimale aopti3,c parmi Ais, c’est-à-dire une valeur de vecteur optimale pour Ci3,c, di3,c, qi3,c pour des valeurs données de pre, grid, preface, Carbi3,c, chi3,c, chi4,c, qcons,c, gis.c et hc.
Une telle action optimale aopti3,c est enregistrée en S’5i3 dans une mémoire dédiée de manière à être éventuellement sélectionnée dans l’intervalle de temps suivant ITc+i en réponse à soit une exploitation ou une exploration ou bien être utilisée pour la mise en œuvre d’étapes temps réel S’6i3 à S’9i3 du même type que les étapes S’8 à S’1 1 précitées.
On décrit maintenant, en relation avec la figure 14, le déroulement d’un procédé de distribution d’énergie exécuté par le sous-agent S_ENTi4 véhicule électrique tel qu’illustré en figure 10, dans le cadre du procédé d’échange d’énergie de la figure 1 1.
Un tel procédé de distribution d’énergie se déroule comme suit au niveau du sous- agent S_ENTi4, dans un intervalle de temps courant ITC.
En S’1 i4, un état donné du système d’échange d’énergie est initialisé dans l’intervalle de temps courant ITC.
Dans un mode de réalisation préféré, l’espace d’états Si4,c configuré pour le système est par exemple le suivant :
Si4= Prgrid x Prxpiace x Carbi4 x CHi4 x Qcons x Gi4 x Ei4 x H (49), où :
• Prc,grid, Prc,xpiace, Carbi4,, Qcons, Gi4 et H sont tels que décrits ci-dessus,
• CHi4 définit le pourcentage de charge du sous-agent S_ENTi4, dans l’intervalle de temps courant ITC, et s’exprime comme suit : CHi4= [0,100],
• Ei4 est l’ensemble des valeurs possibles pour la quantité d’énergie qui peut être consommée par le sous-agent S_ENTi4 pendant un intervalle de temps donné, entre 0 et une valeur maximale prédéfinie.
En S’2i4, le sous-agent S_ENTi4 sélectionne une action selon un compromis d’exploitation du résultat d’apprentissage et d’exploration de l’espace d’actions, avec une probabilité donnée (par exemple 0,9 pour l’exploitation et 0,1 pour l’exploration). Dans un mode de réalisation préféré, l’action est sélectionnée dans un espace d’actions Ai4 qui est par exemple le suivant :
Ai4 =Ci4 x Di4 x Qi4 (50), où :
• Ci4 est un ensemble définissant la source possible de l’énergie utilisée pour le rechargement du sous-agent S_ENTi4 dans l’intervalle de temps courant ITC et s’exprime par exemple comme suit : Ci4= {0,1 ,2,3,4}, où 0 est représentative de l’absence de rechargement, 1 est représentative de la place d’échange d’énergie, 2 est représentative du fournisseur d’énergie externe FE, 3 est représentative du sous-agent S_ENTii dans le cas il produit de l’énergie en excès, 4 est représentative du sous-agent de stockage S_ENTi3,
• Di4 est un ensemble définissant la destination possible de l’énergie déchargée du sous-agent S_ENTi4 dans l’intervalle de temps courant ITC et s’exprime par exemple comme suit : Di4= {0,1 ,2,3}, où 0 est représentative de l’absence de déchargement, 1 est représentative de la place d’échange d’énergie, 2 est représentative du fournisseur d’énergie externe FE, 3 est représentative des appareils consommateurs d’énergie,
• Qi4 est un ensemble définissant le pourcentage de rechargement/déchargement du sous-agent S_ENTi4 dans l’intervalle de temps courant ITC, et s’exprime comme suit : Qi4= [0,100].
L’action sélectionnée par le sous-agent S_ENTi4 consiste ainsi à choisir à se recharger ou se décharger, avec quelle quantité d’énergie (ou autrement quel pourcentage de sa capacité), ainsi que la source de cette charge/destination de cette décharge. Si le sous-agent S_ENTi4 choisit de se décharger en vendant dans la place d’échange ou vers le fournisseur, cette information est alors transmise à l’agent ENTi de niveau supérieur L1 pour être prise en compte dans la stratégie d’échange. Cette information porte la référence Ui,c sur la figure 10, telle qu’ici Ui,c= Ui4,c. Comme mentionné ci-dessus, Ui4,c prend en valeur la quantité d’énergie à vendre dans la place d’échange ou au fournisseur et l’empreinte carbone Carbi4, et 0 sinon. Elle entrera par la suite dans l’état de l’agent ENTi.
En S’4i4, le sous-agent S_ENTi4 reçoit un signal de récompense Ri4,c qui est par exemple le suivant dans un mode de réalisation préféré :
• ai4 est un coefficient de pondération prédéfini,
• Ri4,ext,c définit une récompense extrinsèque provenant de l’environnement en réponse à l’action faite par le sous-agent S_ENTi4. Elle peut être définie dans un intervalle de temps courant comme suit :
Ri4,ext,c = Ei,i4.profiti4,c + S2,i4.storagei4,c + £3,i4.disconforti4,c (52), où: . prof i ti4,c = prc ,Xplace x (qi4,c.Q max )/100 (53) si di4,c = 1 et
• prof iti4,c = pTc, grid X (qi4,c.Qmax)/100 (54) Si di4,c = 2 et
. prof i ti4,c = - prc ,Xplace x (qi4,c.Q max )/100 (55) si Ci4,c = 1 et
• profiti4,c = - pTc, grid X (qi4,c.Qmax)/100 (56) Si Ci4,c = 2 et
. profiti4,c = 0 sinon et storagei4,c = qi4,c - |chi4,c + qi4,c - CHi4,max| (57) si Ci4,c 0 (rechargement)
et
. storagei4,c = qi4,c - |chi4,c - qi4,c - CHi4,min| (58) si c c 0 (déchargement) et
• disconforti4,c= (Ei4,max - ei4,c)2 (59), et £i,i4, £2,i4, £3 4 sont des coefficients de pondération prédéfinis, et où :
• prc,xPiace et prc,grid sont respectivement les prix de l’énergie dans la place d’échange et du fournisseur d’énergie dans l’intervalle de temps courant ITC considéré et qi4,c e Qi4, di4,c e Di4 et chi4,c e CHi4 désignent respectivement la décision faite à la fin de cet intervalle de temps considéré concernant la quantité d’énergie à utiliser et pour quelle destination, ceci pour l’intervalle de temps suivant et l’état de charge du sous-agent S_ENTi4 à la fin de l’intervalle de temps courant,
• Ei4,max et ei4,c sont respectivement la consommation d’énergie maximale pendant un intervalle de temps prédéfini et ei4,c est la consommation d’énergie du sous- agent S_ENTi4 pendant l’intervalle de temps courant,
• disconforti4,c est un facteur déterminant l’anxiété de l’utilisateur du sous-agent S_ENTi4de ne pas avoir suffisamment d’énergie pour l’utiliser,
• storagei4,c est une fonction qui vise à maximiser la quantité à charger et à minimiser la distance entre la charge actuelle du sous-agent S_ENTi4, incrémentée par la quantité d’énergie à charger, et la valeur de charge maximale du sous-agent S_ENTi4 afin de ne pas s’éloigner de cette valeur maximale ceci dans le cas d’un rechargement et dans le cas d’un déchargement storagei4,c vise à maximiser la quantité d’énergie à décharger et à minimiser la distance entre la charge actuelle du sous-agent S_ENTi4, décrémentée par la quantité d’énergie à décharger, et la charge minimale du sous-agent S_ENTi4, ceci étant pour ne pas trop dépasser la charge minimale requise par le sous-agent S_ENTi4 ,
• Ri4,int,c définit une récompense intrinsèque qui est reçue en cohérence avec les objectifs transmis par l’agent ENTi en S’4 (figure 1 1 ), cette récompense pouvant être définie dans un intervalle de temps courant comme suit :
• Ri4,int,c = 1 si Ci4,c = di4,c = gi4,c = 0 (ne rien faire) ou si di4,c 0 et gi4,c = 1 ou si Ci4,c + 0 et gi4,c = 2
et Ri4,int,c = 0 sinon, où Ci4,c G Ci4 et gi4,c G Gi4 désignent respectivement l’action choisie par le sous-agent S_ENTi4 pour choisir la source d’énergie pour le rechargement et l’objectif transmis par l’agent ENTi en S’4 (figure 11 ), les deux à la fin de l’intervalle de temps courant. Les étapes S’2i4 à S’3i4 sont itérées en S’4i4 jusqu’à un critère d’arrêt de manière à sélectionner pour chaque état donné une action optimale aopti4,c parmi Ai4, c’est-à-dire une valeur de vecteur optimale pour Ci4,c, di4,c, qi4,c pour des valeurs données de pre, grid, prc,xpiace, Carbi4,c, chi4,c, qcons,c, gi4,c, 6i4,c et hc.
Une telle action optimale aopti4,c est enregistrée en S’5i4 dans une mémoire dédiée de manière à être éventuellement sélectionnée dans l’intervalle de temps suivant ITc+i en réponse à soit une exploitation ou une exploration ou bien être utilisée pour la mise en oeuvre d’étapes temps réel S’6i4 à S’9i4 du même type que les étapes S’8 à S’1 1 précitées.
On décrit maintenant, en relation avec la figure 15, le déroulement d’un procédé de consommation d’énergie optimale, tel qu’exécuté par le sous-agent S_ENTi2o illustré en figure 10, dans le cadre du procédé d’échange d’énergie de la figure 1 1 .
Le sous-agent S_ENTi2o désigne un appareil consommateur en énergie, dont l’utilisation est décalable dans le temps.
Un tel procédé de consommation d’énergie se déroule comme suit au niveau du sous-agent S_ENTi2o de consommation d’énergie, dans un intervalle de temps courant ITC.
En S’1 i2o, un état donné du système d’échange d’énergie est initialisé dans l’intervalle de temps courant ITC.
Dans un mode de réalisation préféré, l’espace d’états Si2o configuré pour le système est par exemple le suivant :
Si2o= 5i2o x Gi2o x H (60), où Gi2o et H est comme défini ci-dessus et 5i2o = {5i2o,k}i<k<M, où ôi2o,k représente un coefficient d’insatisfaction de l’utilisateur pour un kième sous-agent S_ENTi2o et M représente le nombre d’appareils dont l’utilisation est décalable dans le temps.
En S’2i2o, le sous-agent S_ENTi2o sélectionne une action ai2o,c selon un compromis d’exploitation du résultat d’apprentissage et d’exploration de l’espace d’états, avec une probabilité donnée (par exemple 0,9 pour l’exploitation et 0,1 pour l’exploration).
Dans un mode de réalisation préféré, l’action est sélectionnée dans un espace d’actions Ai2o qui est par exemple le suivant :
Ai2o ={ak}i<k<M, où ak G {0,1 } où pour un kième appareil, 0 signifie que son utilisation est décalée dans un autre intervalle de temps et 1 signifie qu’il reste en fonctionnement.
En S’3i2o, le sous-agent S_ENTi2o reçoit un signal de récompense Ri2o,c qui est par exemple le suivant dans un mode de réalisation préféré :
• ai2o est un coefficient de pondération prédéfini,
• Ri2o,ext,c définit une récompense extrinsèque provenant de l’environnement en réponse à l’action faite par le sous-agent S_ENTi2o. Elle peut être définie dans un intervalle de temps courant comme suit :
• pi2o,k est la puissance de fonctionnement du kième appareil,
• ai2o,c est l’action choisie à la fin de l’intervalle courant ITC, c’est un vecteur représentant les décisions prises pour l’ensemble des M appareils : par exemple si le sous-agent S_ENTi2o est représentatif de M=5 appareils et que l’action est de décaler l’utilisation de chacun d’entre eux, alors ai20 c = [0, 0, 0, 0, 0],
• ££2O est un coefficient de pondération,
• Ri2o,int,c représente une récompense intrinsèque qui peut être définie comme suit :
et Ri20, int.c = 0 sinon, où gi2o,c e Gi2o est l’objectif transmis par l’agent ENTi à la fin de l’intervalle de temps courant.
Les étapes S’2i2o à S’3i2o sont itérées en S’4i2o jusqu’à un critère d’arrêt de manière à sélectionner pour chaque état donné une action optimale aopti2o,c parmi Ai2o, c’est-à- dire une valeur de vecteur optimale pour ai2o,c des M appareils du sous-agent S_ENTi2o, pour des valeurs données de ôi2o, gi2o,c, hc.
Une telle action optimale aopti2o,c est enregistrée en S’6i2o dans une mémoire dédiée de manière à être éventuellement sélectionnée dans l’intervalle de temps suivant ITc+i en réponse à soit une exploitation ou une exploration ou bien être utilisée pour
la mise en œuvre d’étapes temps réel S’6i2o à S’9i2o du même type que les étapes S’8 à S’1 1 précitées.
On décrit maintenant, en relation avec la figure 16, le déroulement d’un procédé de consommation d’énergie optimale, tel qu’exécuté par le sous-agent S_ENTi2i illustré en figure 10, dans le cadre du procédé d’échange d’énergie de la figure 1 1 .
Le sous-agent S_ENTi2i désigne un appareil consommateur en énergie, dont le niveau de puissance de fonctionnement peut être rendu variable dans le temps. Un tel procédé de consommation d’énergie se déroule comme suit au niveau du sous-agent S_ENTi2i de consommation d’énergie, dans un intervalle de temps courant ITC.
En S’1 i2i, un état donné du système d’échange d’énergie est initialisé dans l’intervalle de temps courant ITC.
Dans un mode de réalisation préféré, l’espace d’états Si2i configuré pour le système est par exemple est le suivant :
Si2i= 5i2i x Gi2i x H (63), où Gi2i et H est comme défini ci-dessus et 6121 = {êi2i,k}i<k<N, où 5i2i,k représente un coefficient d’insatisfaction de l’utilisateur pour un kième sous-agent S_ENTi2i décalable en puissance et N représente le nombre d’appareils dont la puissance est variable dans le temps.
En S’2i2i , le sous-agent S_ENTi2i sélectionne une action ai2i,c selon un compromis d’exploitation du résultat d’apprentissage et d’exploration de l’espace d’actions, avec une probabilité donnée (par exemple 0,9 pour l’exploitation et 0,1 pour l’exploration). Dans un mode de réalisation préféré, l’action est sélectionnée dans un espace d’actions Ai2i qui est par exemple le suivant :
Ai2i ={Pk}i<k<N, où Pkest un vecteur qui désigne les valeurs de puissances possibles pour le fonctionnement d’un kième appareil du sous-agent S_ENTi2i.
En S’3i2i , le sous-agent S_ENTi2i reçoit un signal de récompense Ri2i,c qui est par exemple le suivant dans un mode de réalisation préféré :
- Oi2i est un coefficient de pondération prédéfini,
■ Ri2i,ext,c définit une récompense extrinsèque provenant de l’environnement en réponse à l’action faite par le sous-agent S_ENTi2i. Elle peut être définie dans un intervalle de temps courant comme suit :
où :
• ai2i,c est l’action choisie à la fin de l’intervalle courant ITC, ai21 c étant un vecteur des décisions prises pour l’ensemble des N appareils du sous-agent S_ENTi2i s’agissant du niveau de puissance à utiliser parmi les niveaux disponibles pour chacun : par exemple si le sous-agent S_ENTi2i est représentatif de 3 appareils et que les valeurs possibles pour chacun sont [Pi, P2, P3, P4, Ps] et l’action choisie à la fin de l’intervalle de temps courant ITC est d’utiliser le niveau de puissance Pi pour les deux premiers appareils et le niveau de puissance P3 pour le troisième appareil, alors l’action sera écrite comme suit : ai21 c = [Pi, Pi, P3],
• ££2I est un coefficient de pondération,
• Pi2i,max est un vecteur représentatif des puissances de fonctionnement maximales pour tous les appareils dont le niveau de puissance peut être réglé,
Pi2i,int,c représente une récompense intrinsèque qui peut être définie comme suit :
et Ri2i, int.c = 0 Sinon, où gi2i,c e Gi2i est l’objectif transmis par l’agent ENTi à la fin de l’intervalle de temps courant.
Les étapes S’2i2i à S’3i2i sont itérées en S’4i2i jusqu’à un critère d’arrêt de manière à sélectionner pour chaque état donné une action optimale aopti2i,c parmi Ai2i , c’est-à- dire une valeur de vecteur optimale pour ai2i,c des N appareils du sous-agent S_ENTi2i, pour des valeurs données de 6121, gi2i,c, hc.
Une telle action optimale aopti2i,c est enregistrée en S’6i2i dans une mémoire dédiée de manière à être éventuellement sélectionnée dans l’intervalle de temps suivant ITc+i en réponse à soit une exploitation ou une exploration ou bien être utilisée pour la mise en oeuvre d’étapes temps réel S’6i2i à S’9i2i du même type que les étapes S’8 à S’1 1 précitées.
Dans un autre mode de réalisation, on peut considérer une entité centrale supplémentaire située dans le premier niveau hiérarchique L1 qui se charge de gérer la correspondance entre les offres et les demandes déposées dans la place d’échange Xplace.
Il convient de noter que dans les équations mathématiques (1 ) à (65) précitées, tous les termes sont normalisés.
Il va de soi que les modes de réalisation qui ont été décrits ci-dessus ont été donnés à titre purement indicatif et nullement limitatif, et que de nombreuses modifications peuvent être facilement apportées par l’homme de l’art sans pour autant sortir du cadre de l’invention.