EP4104092A1 - Unit for presenting products for sale with artificial viewing system - Google Patents

Unit for presenting products for sale with artificial viewing system

Info

Publication number
EP4104092A1
EP4104092A1 EP21705276.0A EP21705276A EP4104092A1 EP 4104092 A1 EP4104092 A1 EP 4104092A1 EP 21705276 A EP21705276 A EP 21705276A EP 4104092 A1 EP4104092 A1 EP 4104092A1
Authority
EP
European Patent Office
Prior art keywords
interest
area
products
product
species
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
EP21705276.0A
Other languages
German (de)
French (fr)
Inventor
Nicolas DECORDE
Michel Gschwind
Frédéric Richard
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Areco Finances et Technologie ARFITEC SAS
Original Assignee
Areco Finances et Technologie ARFITEC SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from FR2001799A external-priority patent/FR3107377B1/en
Application filed by Areco Finances et Technologie ARFITEC SAS filed Critical Areco Finances et Technologie ARFITEC SAS
Publication of EP4104092A1 publication Critical patent/EP4104092A1/en
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47FSPECIAL FURNITURE, FITTINGS, OR ACCESSORIES FOR SHOPS, STOREHOUSES, BARS, RESTAURANTS OR THE LIKE; PAYING COUNTERS
    • A47F3/00Show cases or show cabinets
    • A47F3/04Show cases or show cabinets air-conditioned, refrigerated
    • A47F3/0482Details common to both closed and open types
    • A47F3/0495Spraying, trickling or humidifying means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0281Customer communication at a business location, e.g. providing product or service information, consulting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects

Definitions

  • the invention relates to the field of furniture for the presentation of products to retail sale, and more particularly to the field of displays or stalls. It also relates to the field of applications of artificial vision (also called digital vision or computer vision) and the acquisition and processing of information obtained by an artificial vision system. This information is used in processes for identifying products displayed on a stall, in particular plant products, and for monitoring their quantity.
  • artificial vision also called digital vision or computer vision
  • Modern sales furniture is no longer a simple horizontal plank on which products displayed for sale are stacked. Even if the principle has hardly changed, the horizontal boards of ancestral markets have become sophisticated stalls, incorporating specific functions, such as side protection strips, attractive lighting, sound system, scale, bag dispenser, a refrigeration device, a nebulization device, and devices for displaying regulatory information (for example concerning the name of the product or its price), advertising and / or utilities (for example concerning the use of the product).
  • specific functions such as side protection strips, attractive lighting, sound system, scale, bag dispenser, a refrigeration device, a nebulization device, and devices for displaying regulatory information (for example concerning the name of the product or its price), advertising and / or utilities (for example concerning the use of the product).
  • EP 2 175407 (Sanden Corp.) describes an information display system for a retail product display cabinet, which establishes communication between antennas integrated in the cabinet and beacons. RFID attached to the product, when the product is removed from the shelf.
  • WO 2008/020132 (Supertec) describes another product management system which uses RFID tags affixed to products, and which can also detect loyalty cards provided with an RFID tag.
  • the present invention aims to present a stall which exhibits at least some of these functions.
  • the present invention relates to an installation for the exhibition of products, which comprises at least one product display surface, at least one means for capturing images of the exhibition surface, at least one information reproduction means, and a computer machine configured to perform certain functions which will be explained in greater detail below.
  • It also relates to a system which comprises at least one of said installations and a computer machine external to the installation, configured to perform certain functions which will be explained in greater detail below, as well as radioelectric communication means allowing the installations to communicate. with said external computer machine.
  • the invention applies in particular to a sales cabinet of the display or shelf type, which has an exhibition surface on which products intended to be picked up by a buyer are displayed. Said exposure surface may in particular be horizontal or inclined, over its entire surface or over part of its surface.
  • the problem is solved by a combination of several means in an installation, and possibly also in a system, which comprises several elementary functionalities. All these functionalities are not obligatory within the framework of the present invention, and two or more of these elementary functionalities can be combined in certain embodiments of the invention.
  • a first elementary functionality is the detection of the buyer's hand or arm near a given area of interest. It triggers the display of information specific to the product that is exposed in said area of interest. This functionality can be achieved by various means, known or new.
  • a second basic functionality is the recognition of the product species on the display surface of a stall. It makes it possible to automatically map the display surface of the stall by product species. It also makes it possible to subdivide said exhibition area into areas of interest, each of which contains only one type of product. This recognition and subdivision can be done by store staff and entered manually into a human-machine interface (such as a computer tablet), but it is tedious.
  • the system according to the invention performs this product species recognition and mapping automatically, using a computer machine specially configured to perform this task.
  • An area of interest can have a rectangular or other shape.
  • a third elementary functionality is the estimation of the quantity of a product of a given species in the area of interest.
  • This estimate can relate to the relative quantity compared to an initial quantity. It allows the monitoring of the quantity, which may be the residual quantity of products of this species in the area of interest, and / or the quantity of these products sold. It facilitates the good management of stocks, and in particular makes it possible to trigger in good time (and preferably before the product area of interest is exhausted) the replenishment of the area of interest.
  • the system is configured to generate alert messages, and to send these messages to a radio receiver.
  • a fourth functionality is the adaptation of the nebulization to the nature of the products (ie to their species) and / or to the quantity of products.
  • a fifth functionality is the adaptation of the refrigeration of the display surface of the area of interest to the nature of the products (ie their species) and / or the quantity of products.
  • a first object of the present invention is an installation, such as a display, for the exhibition of products for sale, comprising:
  • a product display area comprising at least one area known as the area of interest on which there are products of a given species
  • a system comprising: a vision system comprising means for capturing images of said exposure surface, at least one information reproduction system, such as a display screen, means for detecting the penetration of an object within a predetermined perimeter above said product display surface, a computer machine configured to cooperate with said vision system, said information rendering system and said means for detecting the penetration of an object into said predetermined perimeter, characterized in that said computer machine is configured for:
  • Said means for detecting the penetration of an object within a predetermined perimeter above said product display surface may form part of said vision system.
  • - Said system is configured to recognize the products from their visual appearance, without using reference images for this recognition forming part of said system. This simplifies the use of the installation in the point of sale, because these reference images should be produced under the same conditions as on the installation, and preferably with products substantially identical with those with which the installation will be subsequently. used.
  • - Said system is configured to allow the recognition of the species of products on the display surface of a stall, to establish a mapping of the display surface of the stall by species of product, and to subdivide said surface exhibition in areas of interest, each of which contains only one type of product. It also simplifies the use of the installation in the point of sale, as it is no longer necessary to reconfigure it each time the layout of the exhibition area is changed.
  • Said computer machine can be configured to estimate the volume or quantity of said products of a given species, and / or to identify the products present in an area of interest according to their species.
  • - Said system can be configured to trigger the restitution of information associated with the species of products located on said area of interest, by using said information restitution means, when the penetration of an object in said perimeter predetermined is detected by said detection means.
  • Said information restitution means are selected from the group formed by: display screens (preferably arranged in front of, behind or above said product display area), printers, electronic shelf labels , man-machine interfaces provided with a data display means (and preferably with a keyboard, hardware or virtual).
  • - Said system is configured to transmit or make available to a buyer information associated with the product he has previously selected by entering with an object or with his hand or with his arm in the predetermined perimeter above said zone of 'interest, when said buyer makes a request on said man-machine interface.
  • - Said installation further comprises at least one device, called “device for modifying the local environment of the products", selected from the group formed by: a nebulization device, configured to spread a mist formed of drops of water. an average diameter of between 1 ⁇ m and 10 ⁇ m over at least one area of interest of said product display surface; a cooling device, configured to cool a surface of interest; a heating device, configured to heat a surface of interest, each of said devices preferably being configured to cooperate with a computer machine configured to control at least one of their operating parameters.
  • - Said computer machine has been configured using an artificial neural system, so as to be able to identify the products present in an area of interest according to their species; said artificial neural system can be configured using the Mask R-CNN system.
  • the installation is configured to display on said information rendering system: when said means for detecting the penetration of an object within the predetermined perimeter above any zone of interest have detected no penetration of '' an object in the perimeter above any of the areas of interest: information previously associated with a product present in any area of interest, and when the penetration of an object into the perimeter above of a zone of interest has been detected: information previously associated with the product which is found in said zone of interest.
  • the invention makes it possible to identify information concerning the modification of the quantities of products of a certain species present on the stalls. This allows store staff to be alerted when this quantity drops below a predetermined value, in order to supply the stall with products of that species. This prevents the area dedicated to this type of product from being empty, which increases the turnover generated by this area.
  • the system can be configured to generate, record and / or display to the store personnel the evolution of the stock and the sales of products of this species as a function of time, for example over a day, a week, a month, a quarter, or a year.
  • the system can be configured so that the processing and display of data concerning the quantity of different products and its evolution can be done on the local computer machine and / or on the external computer machine.
  • the installation for the exhibition of products according to the invention may comprise a transceiver which integrates it into a radio network.
  • This radioelectric network comprises at least one installation according to the invention and an external computer machine, and may also include a remote information reproduction device (typically associated with said external computer machine), intended for the staff of the department or of the shop.
  • a second object of the invention is a radio network, comprising at least one installation according to the invention, each of said installations being provided with a first receiver-transmitter, an external computer machine configured to communicate, via a second receiver-transmitter, with each of said installations, and configured to send information to at least one mobile receiver, said messages passing through another radio network.
  • a third object of the present invention is a method of using an installation according to the invention, in which the quantity of a product present on an area of interest of the surface is determined at regular or irregular intervals. for displaying products, said process comprising the following successive steps:
  • Another object of the invention is a method of using an installation according to the invention, in which the arrangement of the exhibition surface is carried out, by arranging on each of the different zones of said surface products d. 'a single species, said products being able to be different or identical from one zone to another, an image is taken of all or part of the exhibition surface, said image is analyzed to recognize the zones comprising products of a single species and the said product is identified for each zone and assigned an identifier, knowing that these three sub-steps can be carried out at the same time or successively, the mapping of the exhibition area is established by associating each zone with its identifier .
  • the invention lends itself in particular to the sale of fruits and vegetables, but its field of application is not limited to these two types of products.
  • FIGS 1 to 6 illustrate different aspects of the invention, but do not intend to limit the scope of the invention.
  • FIG. 1 shows schematically an installation for the exhibition of products according to the invention.
  • FIG. 2 shows another installation according to the invention.
  • FIG. 3 schematically illustrates an inclined exhibition surface with two slopes, with geometric markings.
  • FIG. 4 schematically shows a radio network according to the invention, which comprises two installations according to the invention and a central computer machine.
  • FIG. 5 shows a logic diagram of a process for selecting the information displayed on a display screen of an installation according to the invention.
  • FIG. 6 shows a logic diagram of a process for mapping a product display area of a facility according to the invention.
  • Three-digit reference numbers refer to process steps (see Figures 5 and 6).
  • buyer is meant here the customer of a self-service store who does his shopping and who approaches a stall to view and possibly apprehend products.
  • An "display area” is the area of a stall on which products are arranged and displayed for buyers to see.
  • An "area of interest” is an area of the display area of a stall where there are products displayed for sale, which are usually of one species.
  • it can be bulk products (food products such as fruits or vegetables, non-food products such as pocket books on sale, small leather goods, lots of pairs of socks) or arranged in an orderly manner (in a crate for example).
  • food products typically, we find on the different areas of a stall fruits and vegetables separated by species, because each species is offered at a specific price; on a given area of interest there is therefore typically a single species of fruit or vegetable (which may include, as this will be explained below, the case where these products are fruits or vegetables of a single plant variety).
  • An “image capture area” is an area of the exhibition surface for which an image capture device captures images.
  • An image capture area contains at least one area of interest, and may contain several. According to the invention, the image capture can be done continuously or discontinuously, at regular or irregular intervals.
  • the installation according to the invention comprises a vision system, which comprises at least one device for capturing color images, which is typically disposed above the exhibition surface.
  • Said image capture device may include a camera, configured to capture images. This capture can be done for example continuously, or at regular or irregular intervals.
  • the vision system is linked to a computer machine with which it cooperates.
  • This computer machine is advantageously a local computer machine, that is to say located in the installation (typically in its base), but alternatively it can also be an external computer machine, which communicates with the control system. vision via a wired or wireless link.
  • the adjective “external” refers to the installation: the external computer machine is not integrated into said installation, it can be located on the sales area (typically in a designated space. as inaccessible to the public) or in an office located next to the sales area or above the sales area, or further away from the facility.
  • Said external computer machine is called a “central computer machine” when it is configured to communicate and exchange data with several installations according to the invention.
  • Said installation also comprises a device capable of detecting the entry of an object within a predetermined detection perimeter which is located above a zone of interest. This device can form part of said vision system.
  • the installation according to the invention also comprises at least one information rendering system, which is advantageously a display system comprising at least one display screen and / or at least one electronic gondola label.
  • the installation comprises a device capable of detecting the entry of an object into a detection perimeter.
  • This object is typically the hand of a buyer who apprehends a product.
  • Said computer machine is configured to cooperate with said device capable of detecting the entry of an object into a detection perimeter, to detect the arrival of a new object close to a given area of interest.
  • a proximity detection device configured to detect the penetration of an object within a predetermined perimeter.
  • Said perimeter is a space located above the products arranged on an area of interest.
  • it may be a depth camera.
  • These depth cameras are known as such; they include, for example, an infrared emitter and at least two receivers (preferably pixelated).
  • the proximity camera is arranged above the exposure surface. It is configured to detect the arrival of a buyer's hand or arm over an area of interest. This makes it possible to identify the buyer's interest in products of a certain species.
  • this identification of a buyer's interest in products of a certain species triggers the restitution of information associated with this product, by using the restitution means information.
  • These means may include a display screen visible to the buyer placed in front, behind or above the area of interest.
  • this information returned by the information recovery means may for example be specific to the product, and may include, for example, information on the price of the product, on its origin, on its nutritional value, or else specific advice for use (storage, preparation). They can also relate to complementary products which are often bought by buyers in general, or by that particular buyer (if it has been identified in advance individually), who buy that particular product.
  • the vision system also includes an imaging device, which typically includes at least one camera, configured to capture images of at least one area of interest. Specifically, the camera captures shots of a capture area continuously or at regular intervals, such as every thirty seconds. These shots are processed by the vision system, as will be explained in more detail below.
  • an imaging device typically includes at least one camera, configured to capture images of at least one area of interest. Specifically, the camera captures shots of a capture area continuously or at regular intervals, such as every thirty seconds. These shots are processed by the vision system, as will be explained in more detail below.
  • an image capture device captures shots for several areas of interest (n areas of interest), each of which is loaded with products X n of a single species.
  • the vision system is configured so that said image capture device can function as a device capable of detecting the entry of an object into a detection perimeter.
  • the system according to the optical invention is configured to identify, by an appropriate image analysis method, the arrival of a hand or an arm in said detection perimeter.
  • the system can be configured to count the number of such hand or arm penetration events within said detection area.
  • the vision system can be configured to analyze the shape detected by the imaging device; if the shape of the object has a rectangular form factor (width: length) less than 1 and preferably between, for example, 1: 1 and 1:10, and if the angle formed by this rectangle and the edge of the furniture is between 35 ° and 145 °, the system identifies this object as an "arm" of a buyer. This analysis can be carried out by image analysis software of known type, suitably configured. If the vision system does not detect a new nearby object, it determines the volume of a specific product X n.
  • This product X n is selected so that over a given period of time (which may be of the order of an hour or half an hour) the volume V n of each product X n is determined at least one times ; the selection of the product X n may or may not be a random selection.
  • the value of the volume Vn can be stored in a file in one of the local or external computer machines (preferably in the local computer machine); this file can be a database.
  • a preselected threshold which corresponds for example to 10% of the initial volume
  • a message is sent to a predefined receiver, by a wired or wireless transmission channel. This message can be sent for example by SMS messaging ("short message service") or by email.
  • the predefined receiver can be a fixed or mobile receiver, for example the cell phone of the department manager.
  • the vision system detects a new nearby object near a specific product (referred to here as Xi), this new object is identified as a "hand", and the display system displays one or more messages corresponding to the product Xi .
  • the hand appears as a different object from the background in one of the areas of interest.
  • One or more depth cameras can be provided.
  • the depth cameras can be integrated above the cabinet forming Lethal.
  • said shooting device and said proximity detection device are integrated in the same housing.
  • Such housings exist commercially, for example the product RealSense TM D435 from the company Intel®.
  • the height of the cameras in relation to the sales area and their spacing depends on their optical characteristics, and in particular on their field of vision and their depth of vision.
  • the height can typically be of the order of 1 to 2 meters.
  • a height of approximately 1.0 meter and a distance between two neighboring cameras of approximately 1.2 meters are chosen.
  • a height of approximately 2.0 meters and a distance between two neighboring cameras of approximately 2.4 meters are chosen. These values are suitable for example for the RealSense TM D435 camera, mentioned above.
  • a camera and a display screen form a module called a recognition module. Said screen is located above the sales area, and preferably close to the area on the sales area where the products concerned by the display are located.
  • the vision system and the computer machine with which it cooperates are configured to automatically detect the products to identify their species. These products are in particular fruits and vegetables. They can be placed in an area dedicated to them on the stall, in bulk or in crates.
  • the system according to the invention makes it possible to identify, for example, loose carrots, bunched carrots, zucchini, green beans, cucumbers, lettuce, lemons.
  • a first embodiment which is suitable in particular for products of a geometric shape which does not vary, or which does not vary much, from one product of the same species to another, such as manufactured parts , it is possible to use an image analysis system which detects the contours of the product. Thus, one can distinguish the products of two different species by their only geometric shape as defined by their contours. It is also possible to estimate the quantity of products visible on a surface or stacked in bulk.
  • an image analysis system can be used which detects in addition to the contours of the product its color.
  • the vision system and the computer machine with which it cooperates can be configured to automatically detect the products to identify their species when the products are bottles, hardware items (screws, brackets, dowels) , cosmetic items (tubes, flasks), hats, clothes, or more generally product packs.
  • an advantageous embodiment which is suitable in particular for natural products such as fruits or vegetables, which may present within the same species a slightly different geometric shape, and / or a slightly different color and / or an inhomogeneous color, and / or an appearance presenting on the surface of the drawings (possibly of color) different, one uses a software known as artificial intelligence with an image recognition function.
  • This software may be of a type which comprises an artificial neural network (also called a “neural network”). He must be configured prior to its use in a way specific to the products it must recognize. More precisely, a list of products to be recognized is defined, and in a first step, for each species of product, a library is provided comprising different images each comprising a product of this species.
  • this library is used to train the neural network to recognize the products of a given species. This must be done for each of the product species.
  • One procedure that can be used is described below.
  • Mask R-CNN an artificial neural network known under the designation Mask R-CNN, which is described in a publication “Mask R-CNN” by K. He and al., available at https://arvix.org/abs/1703.06870.
  • the Mask R-CNN system is a deep neural network designed for object detection and image segmentation. It generates bounding boxes and segmentation masks for each instance of an object in the image.
  • the model is based on a network backbone (“backbone”) of the ResNet 101 type which was previously trained on a set of COCO (“Common Objects in Context”) type data, according to a method described in the publication “Deep Residual Learning for image Recognition ”by K. He et al, available at https://arxiv.org/abs/1512.03385, to which is added a network of characteristic pyramids (known as FPN,“ Featured Pyramid Network ”) the latter is described in the publication “Featured Pyramid Networks for Object Detection” by T. -Y. Lin et al., Available at https://arxiv.org/pdf/ 1612.03144.pdf.
  • backbone network backbone
  • COCO Common Objects in Context
  • the vision system is configured to recognize the products in an image capture zone. To this end it cooperates with a computer machine. Said computer machine associated with the vision system is configured to subdivide said image capture zone into zones of interest, each of which only comprises products of the same species. This prevents department staff from having to configure or reconfigure the system each time a new type of product is placed on the exhibition area, and more generally, each time products are rearranged on the installation. . This subdivision uses the product identity information that has been acquired for each of the areas of interest within the image capture area.
  • the vision system is configured to allow manual correction of the configuration of areas of interest, when a product of a certain species has been misrecognized or has not been recognized; this manual correction can be made by correcting the name of the product present in said area of interest.
  • the system can be configured so that this correction can be carried out on a central computer machine which is part of the same radio system as the installation, and / or on a man / machine interface specific to the installation, or on a mobile terminal which communicates with a transceiver specific to said installation or with a transceiver specific to said central computer machine.
  • a first step we identify for a given area of interest the product it contains.
  • one or more information is associated with this product, so as to be able to restore at least one of this information by the information rendering system, in the event of activation of the system for this area of interest.
  • This activation is done by the device capable of detecting the entry of an object into a detection perimeter, which includes said area of interest and extends above it. This allows this information to be displayed when a buyer is about to touch or apprehend a product in the area of interest.
  • the vision system is configured to estimate the quantity of products.
  • This quantity is expressed as a relative value with respect to an initial quantity; in certain cases (batch of products of regular shape and of little variable size) it can also be expressed fairly reliably in absolute quantity (mass or number).
  • This estimation of the quantity of a product can be done in different ways.
  • the average size of each product is calibrated (in units of length or in pixels). To this end we can divide the area of the area of interest by the size of a product. The number of products seen by the vision system is thus estimated. This approach works well for products of relatively uniform size and shape, such as apples or nuts.
  • the volume (or a parameter representative of the volume) of the products in the area of interest is determined.
  • a third step it is determined whether this volume (or this parameter which represents it) is below a predetermined threshold value. If so, an alert message is issued.
  • the determined volume is recorded for the area of interest for which it was determined, along with the time at which it was determined.
  • the image captured in the first step can include several areas of interest. This process is then carried out for one or more of these areas of interest.
  • the capture of images for the purpose of recognizing the species of products and estimating the quantity of a product must be done at a time when no hand or other object is detected near the areas of interest, because the presence of a hand or another object can interfere with this recognition and estimation.
  • the nebulization is stopped before the first step, and a certain period of time, which can be predetermined or determined by the system as a function of the gradual disappearance of the disturbance of the images captured by the nebulization, before proceeding to the first step; the nebulization can be restarted when the image which is used for determining the volume in the second step of said process has been recorded.
  • Information on the quantity of products of a species present in the assigned area of interest can be used in different ways. In particular, this information will be brought to the attention of department or store management personnel.
  • the installation for the exhibition of products according to the invention may comprise a transceiver which integrates it into a radio network.
  • This radio network may in particular include a remote information retrieval device, intended for department or store management personnel. It can, for example, communicate messages to the personnel, referred to below as “alerts”, by any appropriate transmission channel, in particular by electronic mail or by SMS message.
  • the system alerts store personnel to supply the stall with products of that species.
  • the system analyzes at regular intervals (for example every hour) all the products recognized on the shot, and alerts the store staff if products of a certain species that were present during the previous recognition have disappeared in such a way as to create a disruption in the supply of products of this kind.
  • the system determines the quantity of products at regular or irregular intervals, and determines the rate of decrease of this quantity; when this rate of decrease exceeds a predetermined threshold value, the system alerts the store staff to supply the stall with products of this species. This prevents the area dedicated to this type of product from being empty, knowing that an empty area does not generate sales.
  • the computer system is configured to generate, record and / or display to the store personnel the evolution of the stock and the sales of products of this species as a function of time, for example over a day, a week, a month, a quarter, or a year.
  • the system is configured to detect the rate of intruders (ie of products of a different species than that predominantly present in the area of interest) .
  • the system alerts store staff to tidy up the stall.
  • the vision system having identified the “hand” of a buyer which approaches an area of interest, and having defined the product X1 on the area of interest, triggers the display of information relating to said product X1 in which the buyer is interested and which is in the area of interest.
  • This display is typically done on a display screen which is located near the area of interest, for example above it.
  • Said information has been previously associated with the product X1 by an appropriate configuration of a computer machine which cooperates with said display screen.
  • information can be displayed on an electronic shelf label (also called an electronic shelf label), for example on one or more segments of an electronic segment label.
  • an electronic shelf label also called an electronic shelf label
  • These gondola labels are known as such, exist commercially (for example offered by the company Pricer TM), and will not be explained in greater detail here.
  • Said display can relate, for example, to information associated with the product, its price, its origin, its use (for example a cooking recipe), and / or it can relate to complementary products likely to be useful for the product.
  • buyer of this product for example on the location of such a complementary product in the store.
  • It can also relate simply to symbolic and / or graphic information (ie non-alphanumeric), such as a thank you message (possibly in the form of an emoticon), or can include such symbolic and / or graphic information.
  • the system comprises a transmission means for transmitting information to the buyer.
  • This transmission can be a wireless transmission, or a physical transmission or provision of information on a physical medium.
  • This transmission or material provision typically follows a request made by the buyer.
  • the installation can include a man-machine interface which allows the purchaser to form this request.
  • the facility may include a printer for printing information onto a physical medium, such as paper.
  • a printer for printing information onto a physical medium, such as paper.
  • the man-machine interface can allow the buyer to enter his telephone number or an e-mail address, or to scan a code (such as a bar code or a QR code) with a terminal equipped with a camera, and the information is then sent to it by a wireless transmission means integrated into the installation, or by a transmission means external to the stall with which the installation communicates.
  • Said man - machine interface can be a tablet provided with a screen, possibly touch screen, and / or a keyboard. It can be positioned on the shelf, for example on a side strip, or near the latter.
  • Said information may be information related to the product, and the formation of the request by the purchaser to obtain its wireless transmission or its physical provision may follow the identification by the vision system of the " hand ”of the purchaser and of the product, as has been described in connection with the fourth aspect of the invention.
  • the vision system having identified the "hand" of a buyer approaching an area of interest, and having defined the product X1 on the area of interest, as has been described. described above in relation to the fifth aspect of the invention, triggers the display of information which has been previously associated with said product X1 in which the buyer is interested and which is in the area of interest. This display can be done on a screen above the stall, and / or on said man-machine interface.
  • the system can request a transmission request for the physical delivery of information that the buyer can enter into the human interface.
  • the vision system is configured to recognize or characterize a state of a given product X1.
  • This state is typically deduced from the modification of a visually perceptible characteristic of the product.
  • This visually noticeable feature can be color.
  • An optical characteristic related to wavelength is referred to here as "color”.
  • the state of the product which can be recognized or characterized by a visually perceptible characteristic, such as color may be the state of freshness of the product. This particularly concerns food products, such as fruits and vegetables.
  • Said color which makes it possible to assess the state of the product may be a color of the visible spectrum, and / or a color of the infrared spectrum and / or a color of the ultraviolet spectrum.
  • said vision system may comprise one or more additional sensors which respond in the spectral range lying outside the visible spectrum, and / or an image capture device is used which responds both in the visible spectrum. and in a spectral range which lies outside the visible spectrum, typically in the near infrared.
  • infrared light can allow the detection of defects invisible to the naked eye, which are located below the surface of the skin of fruits or vegetables, and which can indicate a certain aging of the product.
  • the installation is used to adapt the temperature and / or the nebulization of the area of interest.
  • said installation may comprise a nebulization system and / or a cooling or heating system, which are connected to the local computer machine, and certain operating parameters of which are controlled by said computer machine.
  • Said nebulization system comprises a mist diffusion device connected to a generator of liquid microdroplets.
  • Said diffusion device comprises at least one mist diffuser, which may for example be a mast extending above the exhibition surface, or a ramp mounted horizontally above the surface. exposure.
  • Said microdroplet generator advantageously comprises a piezoelectric system capable of generating water droplets with an average diameter of between 1 ⁇ m and 10 ⁇ m, and preferably between 1 ⁇ m and 5 ⁇ m.
  • said nebulization system is configured so as to allow individually controlled nebulization for each area of interest, or each group of contiguous areas of interest. This makes it possible to adapt with precision the intensity of the nebulization to each zone of interest (or each group of contiguous zones of interest), without spilling over into another neighboring zone which would not need nebulization, or which does not would not need a nebulization of this intensity.
  • mist formed of droplets with an average diameter of between 1 ⁇ m and 10 ⁇ m, and preferably between 1 ⁇ m and 5 ⁇ m forms a sheet of mist which floats above the surface of exposure. Also because of this small droplet diameter, this fog sheet does not significantly wet the products, but cools them by evaporation on their surface or near their surface.
  • Various means can be implemented to adapt the intensity of the nebulization from a mist diffusion device.
  • ramps each comprising a plurality of nebulization orifices, the mist flow of which can be regulated using a flow regulation mechanism, for example by throttling; such a mechanism can be applied to an entire ramp or to individual orifices.
  • This mechanism can be actuated by any known means, such as a stepping motor or a piezoelectric displacement device.
  • Means can also be provided making it possible to regulate (i.e. reduce or increase) the flow of fog at the level of the fog generator.
  • the electrical power absorbed by the piezoelectric element can be adjusted.
  • a fog generator can serve one or more areas of interest.
  • a generator can have multiple, individually adjustable piezoelectric elements, each of which serves a different area of interest.
  • Said cooling or heating system advantageously cools or heats at least part of the exhibition surface.
  • Such a cooling system advantageously comprises a cooled plate; the latter typically forms at least part of the display surface, so that the products rest on this cooled plate.
  • Such cooled plates intended to equip stalls exist commercially and will not be described here in greater detail. The same is true of the heating plates which can be used in the context of the present invention.
  • the system according to the invention is configured so that the intensity of nebulization and / or the setpoint temperature of the cooling or heating system can be modified according to a recognized product state. or characterized by the system. For example, it has been found that the color of peppers changes as they dry. In one embodiment of the method according to the invention, this evolution is recognized by the vision system, and the intensity of the nebulization is modified to be adapted to this state of the peppers recognized by the vision system.
  • FIG. 1 shows an installation 1 for the exhibition of products according to the invention.
  • the installation comprises a product display surface 2 mounted on a base 12.
  • the installation comprises a superstructure 10, which comprises vertical poles 8, connected by crossbars 9.
  • Said superstructure 10 supports lighting devices 7, and information restitution systems 4, in this case display screens. These screens 4 can be attached directly to a mast 8, or to a beam 11 supported by a mast 8.
  • the mast also supports a vision system 3, in this case a box which comprises an image capture device, characterized by a capture perimeter 18, and a device capable of detecting the entry of an object into a perimeter. detection; this detection perimeter is typically located within said sensing perimeter 18 of the vision system 3.
  • a vision system 3 in this case a box which comprises an image capture device, characterized by a capture perimeter 18, and a device capable of detecting the entry of an object into a perimeter. detection; this detection perimeter is typically located within said sensing perimeter 18 of the vision system 3.
  • the vision system 3 communicates by a computer link (not shown in this figure), which can be of the wired or wireless type, with a local computer machine 29, which is typically disposed in the base of the installation 1.
  • This local computer machine 29 is configured to process the data generated by the vision system 3, in particular the images captured by the image capture device and the data generated by the device capable of detecting the entry of an object into a detection perimeter. Said computer machine can also control the display of information on the screens 4.
  • the installation 1 further comprises a man-machine interface 5, in this case a touch pad, placed near the display screen 4.
  • This man-machine interface 5 also communicates with said local computer machine 29, which is configured to process the data that it generates and to send it data that it returns to the buyer.
  • Display area 2 is occupied by three piles of products 6a, 6b, 6c, each of a given species, arranged in bulk or in an orderly manner, as appropriate, thus forming three areas of interest.
  • a mist diffusion device 13 comprises in this example a horizontal ramp comprising two nebulization orifices 14 which spread mist 15 on the products 6c placed on an area of interest of product display area 2; other types of diffusers can be used.
  • the fog is generated by a fog generator 30 which is typically disposed in the base 12 of the installation 1, and conveyed to the fog diffusion devices 13 by a system of ducts (not shown in the figures).
  • a piezoelectric fog generator is used; these devices are known as such and will not be described here in greater detail.
  • the installation 1 is part of a radio network, via a first transceiver 16, which is typically mounted on a mast 8.
  • Said first transceiver is typically controlled by the computer machine. local 29. It forms part of a radio network and communicates with a second transceiver 17, which is connected, typically via a central computer machine 23 (shown in FIG. 4), to a remote screen 20 ( "Remote" from the facility 1) which displays information for store staff.
  • Said central computer machine 23 is configured to communicate with several installations according to the invention.
  • this information displayed is a curve which represents the quantity of one of the products of a given species 6a. This quantity decreases according to time, until it falls below a predetermined threshold value 21; this event then triggers an alert for the employees of the store who replenishes the product 6a concerned, which explains that at the next determination, the quantity of product 6a detected by the vision system 3 has increased.
  • FIG. 2 shows another example of an installation 1, which does not include a nebulization system, but two zones each comprising four cooled plates 19a, 19b, 19c, 19d.
  • Each human-machine interface 5, in this case a tablet, is associated with a printer 22 which allows the purchaser to print product-specific information. Said printer 22 can be controlled directly by the man-machine interface 5 or by the local computer machine 29.
  • Figure 3 illustrates schematically an example of an estimation of the volume of products of a given species, for the case of an inclined exhibition surface with two slopes.
  • markers are defined which are then detected by the system. Using these markers, one or more parameters representative of this inclination are determined. This could be, for example, the angle of inclination from the horizontal.
  • six markers M1 M6 are used which will be detected by the vision system 3 connected to a local computer machine 29. The angle of inclination a and possibly also the width L and the height are thus calculated. h. These two distances can be expressed in units of length and / or in pixels. This surface will then be subtracted from the apparent volume of the products determined by the vision system.
  • FIG. 4 schematically illustrates a radio network 26 according to the invention. It comprises a plurality of installations 1 according to the invention, each of which comprises its first transceiver 16, its information reproduction system 4 (such as a display screen) and its man-machine interface 5 intended to be used by a buyer 27. Said information rendering system 4 and said man-machine interface 5 communicate with the first transceiver by a computer link 25 which can be wired or wireless, and that may involve a microprocessor.
  • Said first transceivers 16 are configured to communicate with a second transceiver 17.
  • the latter communicates in this example with an external computer machine 23. This communication is bidirectional.
  • Said external computer machine 23 is connected to a remote screen 20, which displays information intended for department or store management personnel.
  • a buyer 27 can express on the man-machine interface 5 of one of the installations 1 his desire to receive information on his mobile phone 24 or on another receiver that he has designated; to this end, said external computer machine communicates with an external radio network, which has a so-called external transceiver 28, and which is configured to communicate with the mobile phone 24 of the purchaser 27.
  • the external computer machine 23 (or the local computer machine 29, in particular if the data on the quantity are processed by it) is configured to communicate with a mobile receiver carried by a person responsible for the department to which the installation belongs; in this way said person can be alerted to the need to restock the facility with products of a given species.
  • FIG. 5 shows a diagram which illustrates an embodiment for the method of display on the screens 3 of an installation 1 according to the invention.
  • the screen 4 displays content relating to the various areas of interest of the installation; this content can be selected at random from all the content available for this installation.
  • a request is sent to find out whether an area of interest has been selected by the system. This selection can in particular be triggered by the detection of an event by the device capable of detecting the penetration of an object into the detection perimeter which is located above an area of interest. If the system does not select an area of interest (step 120), the method starts over with step 100.
  • step 130 the system displays on the screen 4 associated with the selected area of interest a content associated with the selected area of interest (step 140), depending on the product that had previously identified on this area of interest by the vision system.
  • the duration of this display can be predetermined (for example 10 seconds).
  • step 150 the method returns to the request step (step 110).
  • the artificial neural network uses the Mask R-CNN system, which was mentioned above.
  • three networks can then be trained in parallel, namely: a classifier to recognize the products (for example fruits and vegetables), a network to determine the limitation framework ("bounding box ”), and a network to identify the mask of the instance of the product detected.
  • a metric called “Mean Average Precision” with a threshold of 0.5.
  • the input data is generated with a library comprising actual photographs of products, on which the objects that correspond to these products are delimited.
  • a library comprising actual photographs of products, on which the objects that correspond to these products are delimited.
  • augmentation in a step called augmentation, we modify the initial shots by one or two random transformations selected from the following group: rotation (of 60 °, 120 ° or 360 ° ), mirror (vertical or horizontal), change in brightness, Gaussian blur, addition of Gaussian noise, affine transformations (translations), scaling (preferably by a factor chosen in the range [0.5, 1.2]).
  • the learning by the Mask R-CNN network is then divided into three steps: in a first step, 15 learning periods (“epochs”) are used with a learning rate (“learning rate”). ”) T given, in a second step 15 other periods are used with a learning rate T / 10, in a third step 10 other periods are used with a learning rate T / 50.
  • learning rate controls the convergence step
  • This approach known in artificial intelligence, makes it possible to minimize the calculation time and prevents the mathematical model from getting stuck in a local minimum.
  • FIG. 6 schematically illustrates a method used to determine the mapping of the exhibition surface 2 of an installation 1 according to the invention.
  • a first step 210 called here "arrangement of the display surface"
  • several crates are placed on the product display surface 2, each crate being filled with products of a single species; different crates may contain different products.
  • products of a single species are stacked on different zones 6 of the display surface 2; different areas may contain different products. It is preferable that said zones are delimited between them; this can typically be done by using crates (where appropriate a space between two crates can be used as a zone), or by providing a delimitation between the zones, for example in the form of a separator delimiting two bordering zones, or again by positioning the products so that they form separate zones without mixing.
  • Said products can be fruits or vegetables.
  • the system takes a picture of the stall or part of the stall using the vision system 3; we thus obtain an image of all or part of the exhibition surface 2 of the installation 1.
  • a third step 230 the system analyzes the image to recognize the different zones, each zone containing (in a visible manner on the shot) only products of the same species, knowing that certain zones may contain the same product. .
  • This product is then identified (fourth step 240), preferably by its species, if not by its color and / or its shape. This identification can be done in different ways: for products which can be defined (and distinguished from products of different species present on the exhibition surface) by their geometric shape and / or by their color, a method of image analysis that searches for the contours and colors of surfaces.
  • software is used comprising an artificial neural system, as will be described below; this system is configured to automatically recognize the species of a number of products which do not need to be identical, as long as they belong to the same species.
  • the product can be recognized by its shape and / or color.
  • the system assigns it an identifier, which can be any label (digital for example), or more precisely a typical image selected from an image library (for example an image showing a banana or an image showing an eggplant. ), or a name (for example "banana” or "aubergine”).
  • the system also determines a confidence index for this identification or recognition.
  • the product can be recognized by an artificial neural system, configured as described above.
  • the steps of recognition 230 and identification 240 are inseparable and carried out at the same time.
  • the system is configured to allow the user (department manager for example) to modify this identifier, in particular if the identification is incorrect, or to add an identifier. if no identifier has been proposed by the system for a given zone.
  • This mapping operation can be done when the store opens, or it can be repeated whenever the arrangement of products on areas of the display area changes, for example when a product of a given species is exhausted and must be replaced by a product of another species.
  • the installation according to the invention can be used with products of different species sold in bulk. It can be used with plant products of the same species but belonging to different varieties.
  • different plant varieties belonging to the “pear” species can be treated as different “species”, that is to say that the installation according to the invention can be configured to distinguish between different varieties. pears, such as the varieties Abate, Celecommunicationna, Passe-Crassane, Comice, which are distinguished by their shape and / or color and / or other visually perceptible characteristics.
  • the invention can be realized with numerous variants and / or additional functionalities, which can be combined with one another, and which can be combined with all the embodiments and all the variants described above with which they are compatible.
  • the system can be configured to identify a crate, to determine their position on the zones, and / or to count them.
  • the system is configured to count the number of penetration events of objects of the "hand" or "arm” type in the detection perimeter per unit of time (for example every hour). This information can be transmitted to the staff, and more particularly by means of a remote screen 20 which displays information for the employees of the store, or by means of the central computer machine 23.
  • the visual recognition software was trained by taking pictures of fruits and vegetables taken under different point-of-sale conditions (dry atmosphere, humidification, lighting, etc.), with different levels of degradation or stages of freshness. Other images were also generated from these shots by adding noise, blurring, and / or modifying the magnification. This test was carried out with about sixty species and varieties of fruits and vegetables: The following species were used: lettuce, carrot, pepper, eggplant, tomato, leek, zucchini, cucumber, cauliflower, apple, pear, banana, pitaya, carambola, mangosteen, persimmon, green bean, plum. For apples, pears, tomatoes, zucchini, peppers, several varieties were used, namely:
  • - Zucchini zucchini flowers, round zucchini, trumpet zucchini, white zucchini, yellow zucchini.
  • Tomatoes marmande tomato, Yoom TM tomato, long tomato, green tomato, pineapple tomato, black tomato, cherry tomato, cocktail tomato, cluster cocktail tomato, beef tomato.
  • the image with the recognized products was displayed on a screen, along with an estimate of their volume.
  • Piloting information was sent to the nebulizers and to the chill plate, to adapt nebulization in at least one area of interest and / or to adapt the chill plate refrigeration.
  • the system recognizes products in the different areas of interest of the exhibition area; it adapts the messages that are delivered on the display screen when a buyer's hand enters the perimeter above a given product, to that product.
  • the buyer approaches an installation and enters with his hand into the sensing perimeter of the vision system, above an area of interest on which the product of his interest is located.
  • the name of the product (which the buyer may not know, especially in the case of a so-called exotic fruit or in the case of a buyer who does not speak the language of the country) and its price are displayed on a screen placed in its field of vision.
  • a recipe proposed by the system or selected by the purchaser from a list, is displayed on a screen of the system.
  • the buyer then formulates a request to obtain a printout on paper or sending it wirelessly to his previously entered address (phone number, email address or other).
  • Printing on paper is delivered to it, for example by a printer integrated into the installation.
  • the system detects, for products of a first species, for example lettuce, that the quantity of products exposed in the zone of interest has fallen to- below a predefined threshold value.
  • the radioelectric system which comprises said installation, a central computer machine and wireless transmission means, sends an electronic message, generated by the system automatically, to the portable terminal held by the department manager, warning it to restock. the lettuce.
  • This sending of the electronic message can use a GSM network (for example an SMS type message) or other.
  • the system determines the new quantity of lettuce available and saves the information in a memory space of the central computer machine.

Abstract

Unit (1) for displaying products for sale, comprising a surface (2) for displaying products, which comprises at least one area of interest in which products of a given type are located, and a system comprising - a viewing system (3) with means for capturing images of the display surface, - at least one information retrieval system (4), - means for detecting the entry of an object into a predetermined perimeter above the display surface, - a computer (29) configured to interact with the viewing system (3), the information retrieval system (4) and the means for detecting the entry of an object into the predetermined perimeter, characterised in that the computer is configured to: - receive and process the images captured by the viewing system (3) in order to identity the products of a given type that are present in an area of interest, - retrieve information relating to the type of product located in the area of interest when the entry of an object into a predetermined perimeter above the area of interest is detected.

Description

INSTALLATION POUR PRESENTER DES PRODUITS A LA VENTE, AVEC SYSTEME INSTALLATION TO PRESENT PRODUCTS FOR SALE, WITH SYSTEM
DE VISION ARTIFICIELLE OF ARTIFICIAL VISION
Domaine technique de l’invention Technical field of the invention
L’invention concerne le domaine des meubles pour la présentation de produits à la vente au détail, et plus particulièrement le domaine des présentoirs ou étals. Elle concerne également le domaine des applications de la vision artificielle (appelée aussi vision numérique ou vision par ordinateur) et de l’acquisition et du traitement d’informations obtenues par un système de vision artificielle. Ces informations sont utilisés dans des procédés d’identification des produits exposés sur un étal, notamment produits végétaux, et de la surveillance de leur quantité. The invention relates to the field of furniture for the presentation of products to retail sale, and more particularly to the field of displays or stalls. It also relates to the field of applications of artificial vision (also called digital vision or computer vision) and the acquisition and processing of information obtained by an artificial vision system. This information is used in processes for identifying products displayed on a stall, in particular plant products, and for monitoring their quantity.
Etat de la technique State of the art
Les meubles de vente modernes ne se résument plus en une simple planche horizontale sur laquelle sont empilés des produits exposés à la vente. Même si le principe n’a guère changé, les planches horizontales des marchés ancestraux sont devenus des étals sophistiqués, incorporant des fonctions spécifiques, tels que des bandes de protection latérale, un éclairage attrayant, une sonorisation, une balance, un dérouleur de sachets, un dispositif de réfrigération, un dispositif de nébulisation, et des dispositifs d’affichage d’informations règlementaires (concernant par exemple la désignation du produit ou son prix), publicitaires et/ou utilitaires (concernant par exemple l’utilisation du produit). Modern sales furniture is no longer a simple horizontal plank on which products displayed for sale are stacked. Even if the principle has hardly changed, the horizontal boards of ancestral markets have become sophisticated stalls, incorporating specific functions, such as side protection strips, attractive lighting, sound system, scale, bag dispenser, a refrigeration device, a nebulization device, and devices for displaying regulatory information (for example concerning the name of the product or its price), advertising and / or utilities (for example concerning the use of the product).
En plus des affichages réglementaires concernant notamment le prix des marchandises, qui doit pouvoir être modifié facilement car il peut évoluer, même au cours d’une journée, il est souhaitable de pouvoir afficher d’autres informations en relation avec les produits. Cependant, on ne souhaite pas encombrer un rayon avec des panneaux d’information spécifiques à chaque produit. Cet affichage doit pouvoir se faire sur des écrans, et il devrait être spécifique à un produit donné auquel un client est en train de s’intéresser. In addition to regulatory displays such as the price of goods, which should be easily changeable as it can change even over the course of a day, it is desirable to be able to display other product related information. However, we do not want to clutter a shelf with information panels specific to each product. This display must be able to be done on screens, and it should be specific to a given product that a customer is interested in.
En effet, les stratégies de marketing modernes pour la vente au détail misent de plus en plus sur l’information personnalisée, en relation directe avec la personne de l’acheteur ou avec le produit qu’il achète. L’affichage d’informations publicitaires doit donc détecter l’identité ou au moins la présence d’un client, et la nature du produit auxquels il s’intéresse, pour pouvoir lui proposer des informations spécifiques, en temps réel ou de manière différée. WO 95/19005 (Goff) décrit un système radioélectrique de présentation de marchandises pour un magasin de vente au détail, qui permet d’afficher, par des voies électroniques, non seulement le prix des produits, mais également des informations sur les produits ou des messages publicitaires. Il s’agit là d’un affichage fixe qui n’est pas personnalisé. Un système qui remplit une fonction similaire est décrit dans US 6,624,757 (Johnson). In fact, modern retail marketing strategies increasingly rely on personalized information, directly related to the person of the buyer or to the product he is buying. The display of advertising information must therefore detect the identity or at least the presence of a customer, and the nature of the product in which he is interested, in order to be able to offer him specific information, in real time or in a deferred manner. WO 95/19005 (Goff) describes a radio merchandise display system for a retail store, which enables the electronic display of not only product prices, but also product or product information. advertising messages. This is a fixed display which is not personalized. A system which performs a similar function is described in US 6,624,757 (Johnson).
En vue de proposer des informations personnalisées en temps réel, différentes approches ont été explorées pour détecter la nature du produit auquel le client s’intéresse. Un certain nombre de documents décrivent des approches dans lesquelles chaque produit porte une étiquette d’identification individuelle, tel qu’une balise RFID. In order to provide personalized information in real time, different approaches have been explored to detect the nature of the product in which the customer is interested. A number of documents describe approaches in which each product carries an individual identification tag, such as an RFID tag.
A titre d’exemple, EP 2 175407 (Sanden Corp.) décrit un système d’affichage d’information pour un meuble de présentation de produits à la vente au détail, qui établit une communication entre des antennes intégrées dans le meuble et des balises RFID attachées au produit, lorsque le produit est enlevé du rayon. WO 2008/020132 (Supertec) décrit un autre système de gestion de produits qui utilise des balises RFID apposées aux produits, et qui peut également détecter des cartes de fidélité munies d’une étiquette RFID. By way of example, EP 2 175407 (Sanden Corp.) describes an information display system for a retail product display cabinet, which establishes communication between antennas integrated in the cabinet and beacons. RFID attached to the product, when the product is removed from the shelf. WO 2008/020132 (Supertec) describes another product management system which uses RFID tags affixed to products, and which can also detect loyalty cards provided with an RFID tag.
Il n’est cependant pas possible d’apposer une étiquette RFID sur chaque oignon déposé en vrac sur la surface d’exposition d’un étal : ces approches ne se prêtent qu’à certains types de produits. However, it is not possible to affix an RFID tag to every loose onion placed on the display surface of a stall: these approaches only lend themselves to certain types of products.
Le document WO 2014/044975 (ARECO Finances et Technologie - ARFITEC) décrit un étal équipé d’un système d’affichage sur écran activé par un système de vision artificielle qui détecte, à l’aide d’une caméra qui capte à intervalles réguliers des images d’une zone de l’étal, une perturbation de l’image captée par rapport à une image de référence préalablement définie. Cela présente un certain inconvénient, car les images de référence doivent être suffisamment proches des images qui seront captées par la suite par la caméra, et parce que la cartographie des différentes zones de l’étal avec leur occupation par des différents produits doit être établie de nouveau à chaque fois qu’elle a été modifiée. C’est un travail supplémentaire qui incombe au responsable du rayon. Document WO 2014/044975 (ARECO Finances et Technologie - ARFITEC) describes a stall equipped with a screen display system activated by an artificial vision system which detects, using a camera which captures at regular intervals images of an area of the stall, a disturbance of the captured image with respect to a previously defined reference image. This presents a certain drawback, because the reference images must be sufficiently close to the images which will be captured subsequently by the camera, and because the mapping of the different areas of the stall with their occupation by different products must be established. new each time it has been changed. This is additional work for the department manager.
Il est apparu le besoin de pouvoir porter à la connaissance d’un acheteur des informations sur le produit donné qu'il est en train d’appréhender sur l’étal, typiquement par affichage sur un écran qui se trouve dans son champ de vision. On souhaite cependant éviter que le personnel du magasin ait besoin de procéder à une initialisation complexe de la cartographie dans le système informatique lorsqu’il répartit les différents produits sur les différentes zones d’exposition de l’étal. The need has arisen to be able to bring to the attention of a purchaser information on the given product that he is apprehending on the stall, typically by display on a screen which is in his field of vision. However, it is desired to avoid the store staff having to carry out a complex initialization of the cartography in the computer system when distributing the different products over the different display areas of the stall.
Il est également apparu le besoin de pouvoir relever de manière automatique la modification des quantités de fruits et légumes présents sur les étals, pour améliorer l’approvisionnement des rayons. There was also a need to be able to automatically note changes in the quantities of fruit and vegetables on the shelves, in order to improve the supply of shelves.
Il est également apparu le besoin de pouvoir adapter la nébulisation de produits, notamment de fruits et de légumes, en fonction de leur espèce, et en fonction de leur quantité présente sur l’étal. The need has also emerged to be able to adapt the nebulization of products, in particular fruits and vegetables, according to their species, and according to their quantity present on the stall.
Il n’existe actuellement pas de système qui permet de résoudre ces problèmes de manière satisfaisante. La présente invention vise à présenter un étal qui présente au moins certaines de ces fonctions. There is currently no system in place that can satisfactorily resolve these issues. The present invention aims to present a stall which exhibits at least some of these functions.
Objets de l’invention Objects of the invention
La présente invention concerne une installation pour l’exposition de produits, qui comprend au moins une surface d’exposition de produits, au moins un moyen pour capter des images de la surface d’exposition, au moins un moyen de restitution d’informations, et une machine informatique configurée pour exécuter certaines fonctions qui seront expliquées en plus grand détail ci-dessous. The present invention relates to an installation for the exhibition of products, which comprises at least one product display surface, at least one means for capturing images of the exhibition surface, at least one information reproduction means, and a computer machine configured to perform certain functions which will be explained in greater detail below.
Elle concerne également un système qui comprend au moins une desdites installations et une machine informatique externe à l’installation, configurée pour exécuter certaines fonctions qui seront expliquée en plus grand détail ci-dessous, ainsi que des moyens de communication radioélectriques permettant audites installations de communiquer avec ladite machine informatique externe. It also relates to a system which comprises at least one of said installations and a computer machine external to the installation, configured to perform certain functions which will be explained in greater detail below, as well as radioelectric communication means allowing the installations to communicate. with said external computer machine.
L’invention s’applique en particulier à un meuble de vente de type présentoir ou étal, qui présente une surface d’exposition sur laquelle sont exposés des produits destinés à être appréhendés par un acheteur. Ladite surface d’exposition peut notamment être horizontale ou inclinée, sur toute sa surface ou sur une partie de sa surface. Selon l’invention le problème est résolu par une combinaison de plusieurs moyens dans une installation, et possiblement aussi dans un système, qui comporte plusieurs fonctionnalités élémentaires. Toutes ces fonctionnalités ne sont pas obligatoires dans le cadre de la présente invention, et deux ou plusieurs de ces fonctionnalités élémentaires peuvent être combinés dans certains modes de réalisation de l’invention. The invention applies in particular to a sales cabinet of the display or shelf type, which has an exhibition surface on which products intended to be picked up by a buyer are displayed. Said exposure surface may in particular be horizontal or inclined, over its entire surface or over part of its surface. According to the invention, the problem is solved by a combination of several means in an installation, and possibly also in a system, which comprises several elementary functionalities. All these functionalities are not obligatory within the framework of the present invention, and two or more of these elementary functionalities can be combined in certain embodiments of the invention.
Une première fonctionnalité élémentaire est la détection de la main ou du bras de l’acheteur à proximité d’une zone d’intérêt donnée. Elle permet de déclencher l’affichage d’informations spécifiques au produit qui se trouve exposé sur ladite zone d’intérêt. Cette fonctionnalité peut être réalisée par différents moyens, connus ou nouveaux. A first elementary functionality is the detection of the buyer's hand or arm near a given area of interest. It triggers the display of information specific to the product that is exposed in said area of interest. This functionality can be achieved by various means, known or new.
Une deuxième fonctionnalité élémentaire est la reconnaissance de l’espèce de produits sur la surface d’exposition d’un étal. Elle permet d’établir de manière automatique une cartographie de la surface d’exposition de l’étal par espèce de produit. Elle permet également de subdiviser ladite surface d’exposition en zones d’intérêt dont chacune ne comporte qu’une espèce de produits. Cette reconnaissance et cette subdivision peuvent être faites par le personnel du magasin et saisies manuellement dans une interface homme - machine (tel qu’une tablette d’ordinateur), mais cela est fastidieux. Le système selon l’invention effectue cette reconnaissance de l’espèce des produits et cette cartographie de manière automatique, à l’aide d’une machine informatique spécialement configurée pour effectuer cette tâche. Une zone d’intérêt peut avoir une forme rectangulaire ou autre. A second basic functionality is the recognition of the product species on the display surface of a stall. It makes it possible to automatically map the display surface of the stall by product species. It also makes it possible to subdivide said exhibition area into areas of interest, each of which contains only one type of product. This recognition and subdivision can be done by store staff and entered manually into a human-machine interface (such as a computer tablet), but it is tedious. The system according to the invention performs this product species recognition and mapping automatically, using a computer machine specially configured to perform this task. An area of interest can have a rectangular or other shape.
Une troisième fonctionnalité élémentaire est l’estimation de la quantité d’un produit d’une espèce donnée sur la zone d’intérêt. Cette estimation peut porter sur la quantité relative par rapport à une quantité initiale. Elle permet le suivi de la quantité, qui peut être la quantité résiduelle de produits de cette espèce sur la zone d’intérêt, et/ou la quantité vendue de ces produits. Elle facilite la bonne gestion des stocks, et permet en particulier de déclencher en temps utile (et de préférence avant l’épuisement de la zone d’intérêt en produits) le réapprovisionnement de la zone d’intérêt. Dans ce but, le système est configuré pour générer des messages d’alerte, et pour envoyer ces messages à un récepteur radioélectrique. A third elementary functionality is the estimation of the quantity of a product of a given species in the area of interest. This estimate can relate to the relative quantity compared to an initial quantity. It allows the monitoring of the quantity, which may be the residual quantity of products of this species in the area of interest, and / or the quantity of these products sold. It facilitates the good management of stocks, and in particular makes it possible to trigger in good time (and preferably before the product area of interest is exhausted) the replenishment of the area of interest. For this purpose, the system is configured to generate alert messages, and to send these messages to a radio receiver.
Une quatrième fonctionnalité est l’adaptation de la nébulisation à la nature des produits (i.e. à leur espèce) et/ou à la quantité de produits. Une cinquième fonctionnalité est l’adaptation de la réfrigération de la surface d’exposition de la zone d’intérêt à la nature des produits (i.e. à leur espèce) et/ou à la quantité de produits. A fourth functionality is the adaptation of the nebulization to the nature of the products (ie to their species) and / or to the quantity of products. A fifth functionality is the adaptation of the refrigeration of the display surface of the area of interest to the nature of the products (ie their species) and / or the quantity of products.
Un premier objet de la présente invention est une installation, telle qu’un présentoir, pour l’exposition de produits à la vente, comprenant : A first object of the present invention is an installation, such as a display, for the exhibition of products for sale, comprising:
- une surface d’exposition de produits, comprenant au moins une zone dite zone d’intérêt sur laquelle se trouvent des produits d’une espèce donnée, et - a product display area, comprising at least one area known as the area of interest on which there are products of a given species, and
- un système comprenant : un système de vision comprenant des moyens pour capter des images de ladite surface d’exposition, au moins un système de restitution d’informations, tel qu’un écran d’affichage, des moyens pour détecter la pénétration d’un objet dans un périmètre prédéterminé au-dessus de ladite surface d’exposition de produits, une machine informatique configurée pour coopérer avec ledit système de vision, ledit système de restitution d’informations et lesdits moyens pour détecter la pénétration d’un objet dans ledit périmètre prédéterminé, caractérisée en ce que ladite machine informatique est configurée pour : a system comprising: a vision system comprising means for capturing images of said exposure surface, at least one information reproduction system, such as a display screen, means for detecting the penetration of an object within a predetermined perimeter above said product display surface, a computer machine configured to cooperate with said vision system, said information rendering system and said means for detecting the penetration of an object into said predetermined perimeter, characterized in that said computer machine is configured for:
- recevoir et traiter les images captées par ledit système de vision, dans le but d’identifier lesdits produits d’une espèce donnée présents sur une zone d’intérêt,- receive and process the images captured by said vision system, in order to identify said products of a given species present in an area of interest,
- restituer, lors que la pénétration d’un objet dans un périmètre prédéterminé au- dessus de ladite zone d’intérêt est détectée, une information sur ledit système de restitution, ladite information étant associée à l’espèce de produit se trouvant sur ladite zone d’intérêt. - restoring, when the penetration of an object in a predetermined perimeter above said area of interest is detected, information on said restitution system, said information being associated with the species of product located on said area of interest.
Selon des modes de réalisation particuliers : According to particular embodiments:
- Lesdits moyens pour détecter la pénétration d’un objet dans un périmètre prédéterminé au-dessus de ladite surface d’exposition de produits peuvent faire partie dudit système de vision. - Said means for detecting the penetration of an object within a predetermined perimeter above said product display surface may form part of said vision system.
- Ledit système est configuré pour reconnaître les produits à partir de leur aspect visuel, sans utiliser des images de référence pour cette reconnaissance faisant partie dudit système. Cela simplifie l’utilisation de l’installation dans le point de vente, car il faudrait réaliser ces images de référence dans les mêmes conditions que sur l’installation, et de préférence avec des produits sensiblement identiques avec ceux avec lesquels l’installation sera ensuite utilisée. - Ledit système est configuré pour permettre la reconnaissance de l’espèce de produits sur la surface d’exposition d’un étal, pour établir une cartographie de la surface d’exposition de l’étal par espèce de produit, et pour subdiviser ladite surface d’exposition en zones d’intérêt dont chacune ne comporte qu’une espèce de produits. Cela simplifie également l’utilisation de l’installation dans le point de vente, car il n’est plus nécessaire de la reconfigurer à chaque changement de l’agencement de la surface d’exposition. - Said system is configured to recognize the products from their visual appearance, without using reference images for this recognition forming part of said system. This simplifies the use of the installation in the point of sale, because these reference images should be produced under the same conditions as on the installation, and preferably with products substantially identical with those with which the installation will be subsequently. used. - Said system is configured to allow the recognition of the species of products on the display surface of a stall, to establish a mapping of the display surface of the stall by species of product, and to subdivide said surface exhibition in areas of interest, each of which contains only one type of product. It also simplifies the use of the installation in the point of sale, as it is no longer necessary to reconfigure it each time the layout of the exhibition area is changed.
- Ladite machine informatique peut être configurée pour estimer le volume ou la quantité desdits produits d’une espèce donnée, et / ou pour identifier les produits présents sur une zone d’intérêt selon leur espèce. - Said computer machine can be configured to estimate the volume or quantity of said products of a given species, and / or to identify the products present in an area of interest according to their species.
- Ledit système peut être configuré pour déclencher la restitution d’une information associée à l’espèce de produits se trouvant sur ladite zone d’intérêt, en utilisant lesdits moyens de restitution d’informations, lorsque la pénétration d’un objet dans ledit périmètre prédéterminé est détectée par lesdits moyens de détection. - Said system can be configured to trigger the restitution of information associated with the species of products located on said area of interest, by using said information restitution means, when the penetration of an object in said perimeter predetermined is detected by said detection means.
- Lesdits moyens de restitution d’informations sont sélectionnés dans le groupe formé par : les écrans d’affichage (de préférence disposés devant, derrière ou au-dessus de ladite zone d’exposition de produits), les imprimantes, les étiquettes électroniques de gondole, les interfaces homme-machines pourvu d’un moyen d’affichage de données (et de préférence d’un clavier, matériel ou virtuel). - Said information restitution means are selected from the group formed by: display screens (preferably arranged in front of, behind or above said product display area), printers, electronic shelf labels , man-machine interfaces provided with a data display means (and preferably with a keyboard, hardware or virtual).
- Ledit système est configuré pour transmettre ou mettre à disposition d’un acheteur des informations associées au produit qu’il a préalablement sélectionné en pénétrant avec un objet ou avec sa main ou avec son bras dans le périmètre prédéterminé au-dessus de ladite zone d’intérêt, lorsque ledit acheteur forme une requête sur ladite interface homme-machine. - Said system is configured to transmit or make available to a buyer information associated with the product he has previously selected by entering with an object or with his hand or with his arm in the predetermined perimeter above said zone of 'interest, when said buyer makes a request on said man-machine interface.
- Ladite installation comprend en plus au moins un dispositif, appelé « dispositif de modification de l’environnement local des produits », sélectionné dans le groupe formé par : un dispositif de nébulisation, configuré pour répandre un brouillard formé de gouttes d’eau d’un diamètre moyen compris entre 1 pm et 10 pm sur au moins une zone d’intérêt de ladite surface d’exposition de produits ; un dispositif de refroidissement, configuré pour refroidir une surface d’intérêt ; un dispositif de chauffage, configuré pour chauffer une surface d’intérêt, chacun desdits dispositifs étant de préférence configuré pour coopérer avec une machine informatique configurée pour contrôler au moins un de leurs paramètres de fonctionnement. - Ladite machine informatique a été configurée à l’aide d’un système neuronal artificiel, de manière à pouvoir identifier les produits présents sur une zone d’intérêt selon leur espèce ; ledit système neuronal artificiel peut être configuré en utilisant le système Mask R-CNN. - Said installation further comprises at least one device, called "device for modifying the local environment of the products", selected from the group formed by: a nebulization device, configured to spread a mist formed of drops of water. an average diameter of between 1 µm and 10 µm over at least one area of interest of said product display surface; a cooling device, configured to cool a surface of interest; a heating device, configured to heat a surface of interest, each of said devices preferably being configured to cooperate with a computer machine configured to control at least one of their operating parameters. - Said computer machine has been configured using an artificial neural system, so as to be able to identify the products present in an area of interest according to their species; said artificial neural system can be configured using the Mask R-CNN system.
- L’installation est configurée pour afficher sur ledit système de restitution d’informations : lorsque lesdits moyens pour détecter la pénétration d’un objet dans le périmètre prédéterminé au-dessus d’une quelconque zone d’intérêt n’ont détecté aucune pénétration d’un objet dans le périmètre au-dessus d’une quelconque des zones d’intérêt : des informations préalablement associées à un produit présent sur une quelconque zone d’intérêt, et lors que la pénétration d’un objet dans le périmètre au-dessus d’une zone d’intérêt a été détectée : des informations préalablement associées au produit qui se trouve sur ladite zone d’intérêt. - The installation is configured to display on said information rendering system: when said means for detecting the penetration of an object within the predetermined perimeter above any zone of interest have detected no penetration of '' an object in the perimeter above any of the areas of interest: information previously associated with a product present in any area of interest, and when the penetration of an object into the perimeter above of a zone of interest has been detected: information previously associated with the product which is found in said zone of interest.
L’invention permet de relever des informations concernant la modification des quantités de produits d’une certaine espèce présents sur les étals. Cela permet d’alerter le personnel du magasin lorsque cette quantité tombe au-dessous d’une valeur prédéterminée, pour approvisionner l’étal en produits de cette espèce. Ainsi, on évite que la zone dédiée à cette espèce de produit ne soit vide, ce qui permet d’augmenter le chiffre d’affaires généré par cette zone. Le système peut être configuré pour générer, enregistrer et / ou afficher au personnel du magasin l’évolution du stock et des ventes de produits de cette espèce en fonction du temps, par exemple sur une journée, une semaine, un mois, un trimestre, ou une année. Le système peut être configuré pour que le traitement et l’affichage des données concernant la quantité des différents produits et son évolution puisse se faire sur la machine informatique locale et/ou sur la machine informatique externe. The invention makes it possible to identify information concerning the modification of the quantities of products of a certain species present on the stalls. This allows store staff to be alerted when this quantity drops below a predetermined value, in order to supply the stall with products of that species. This prevents the area dedicated to this type of product from being empty, which increases the turnover generated by this area. The system can be configured to generate, record and / or display to the store personnel the evolution of the stock and the sales of products of this species as a function of time, for example over a day, a week, a month, a quarter, or a year. The system can be configured so that the processing and display of data concerning the quantity of different products and its evolution can be done on the local computer machine and / or on the external computer machine.
A cette fin, l’installation pour l’exposition de produits selon l’invention peut comprendre un émetteur-récepteur qui l’intègre dans un réseau radioélectrique. Ce réseau radioélectrique comprend au moins une installation selon l’invention et une machine informatique externe, et peut comprendre en outre un dispositif de restitution d’informations déporté (typiquement associé à ladite machine informatique externe), à l’intention du personnel du rayon ou du magasin. To this end, the installation for the exhibition of products according to the invention may comprise a transceiver which integrates it into a radio network. This radioelectric network comprises at least one installation according to the invention and an external computer machine, and may also include a remote information reproduction device (typically associated with said external computer machine), intended for the staff of the department or of the shop.
Ainsi, un deuxième objet de l’invention est un réseau radioélectrique, comprenant au moins une installation selon l’invention, chacune desdites installations étant munie d’un premier récepteur-émetteur, une machine informatique externe configurée pour communiquer, par l’intermédiaire d’un deuxième récepteur-émetteur, avec chacune desdites installations, et configurée pour envoyer des informations sur au moins un récepteur mobile, lesdits messages transitant par un autre réseau radioélectrique. Thus, a second object of the invention is a radio network, comprising at least one installation according to the invention, each of said installations being provided with a first receiver-transmitter, an external computer machine configured to communicate, via a second receiver-transmitter, with each of said installations, and configured to send information to at least one mobile receiver, said messages passing through another radio network.
Un troisième objet de la présente invention est un procédé d’utilisation d’une installation selon l’invention, dans lequel on détermine, à des intervalles réguliers ou irréguliers, la quantité d’un produit présent sur une zone d’intérêt de la surface d”exposition de produits, ledit procédé comprenant les étapes successives suivantes : A third object of the present invention is a method of using an installation according to the invention, in which the quantity of a product present on an area of interest of the surface is determined at regular or irregular intervals. for displaying products, said process comprising the following successive steps:
(i) On capte une image de la zone d’intérêt, (i) We capture an image of the area of interest,
(ii) A partir de cette image, on détermine un paramètre représentatif du volume des produits dans la zone d’intérêt, (ii) From this image, a parameter representative of the volume of products in the area of interest is determined,
(iii) On vérifie si ledit paramètre se situe en-dessous d’une première valeur seuil prédéterminée, ou si la vitesse de décroissance dudit paramètre par rapport à des déterminations précédentes se situe au-dessus d’une deuxième valeur seuil prédéterminée, (iii) It is checked whether said parameter is below a first predetermined threshold value, or whether the rate of decrease of said parameter relative to previous determinations is above a second predetermined threshold value,
(iv) Si ledit paramètre se situe en-dessous de ladite première valeur seuil, ou si la vitesse de sa décroissance de situe au-dessus de ladite deuxième valeur seuil, on émet un message d’alerte, de préférence associé au produit. (iv) If said parameter is below said first threshold value, or if the rate of its decrease is above said second threshold value, an alert message is issued, preferably associated with the product.
• Un autre objet de l’invention est un procédé d’utilisation d’une installation selon l’invention, dans lequel on effectue l’agencement de la surface d’exposition, en disposant sur chacune des différentes zones de ladite surface des produits d’une seule espèce, lesdits produits pouvant être différents ou identiques d’une zone à l’autre, on prend une image de tout ou partie de la surface d’exposition, on analyse ladite image pour reconnaître les zones comportant des produits d’une seule espèce et on identifie pour chaque zone ledit produit et on lui attribue un identifiant, sachant que ces trois sous-étapes peuvent être effectuées en même temps ou successivement, on établit la cartographie de la surface d’exposition en associant chaque zone à son identifiant. L’invention se prête en particulier à la vente de fruits et légumes, mais son son domaine d’application n’est pas limité à ces deux types de produits. • Another object of the invention is a method of using an installation according to the invention, in which the arrangement of the exhibition surface is carried out, by arranging on each of the different zones of said surface products d. 'a single species, said products being able to be different or identical from one zone to another, an image is taken of all or part of the exhibition surface, said image is analyzed to recognize the zones comprising products of a single species and the said product is identified for each zone and assigned an identifier, knowing that these three sub-steps can be carried out at the same time or successively, the mapping of the exhibition area is established by associating each zone with its identifier . The invention lends itself in particular to the sale of fruits and vegetables, but its field of application is not limited to these two types of products.
Brève description des figures Brief description of the figures
Les figures 1 à 6 illustrent différents aspects de l’invention, mais n’ont pas l’intention de limiter la portée de l’invention. Figures 1 to 6 illustrate different aspects of the invention, but do not intend to limit the scope of the invention.
[Fig. 1] montre de manière schématique une installation pour l’exposition de produits selon l’invention. [Fig. 1] shows schematically an installation for the exhibition of products according to the invention.
[Fig. 2] montre une autre installation selon l’invention. [Fig. 2] shows another installation according to the invention.
[Fig. 3] illustre de manière schématique une surface d’exposition inclinée à deux pentes, avec des repères géométriques. [Fig. 3] schematically illustrates an inclined exhibition surface with two slopes, with geometric markings.
[Fig. 4] montre de manière schématique un réseau radioélectrique selon l’invention, qui comprend deux installations selon l’invention et une machine informatique centrale. [Fig. 4] schematically shows a radio network according to the invention, which comprises two installations according to the invention and a central computer machine.
[Fig. 5] montre un diagramme logique d’un procédé pour sélectionner l’information affichée sur un écran d’affichage d’une installation selon l’invention. [Fig. 5] shows a logic diagram of a process for selecting the information displayed on a display screen of an installation according to the invention.
[Fig. 6] montre un diagramme logique d’un procédé pour établir la cartographie d’une surface d’expositions de produits d’une installation selon l’invention. [Fig. 6] shows a logic diagram of a process for mapping a product display area of a facility according to the invention.
Les repères numériques à trois chiffres renvoient à des étapes de procédé (voir les figures 5 et 6). Three-digit reference numbers refer to process steps (see Figures 5 and 6).
Les repères numériques suivants sont utilisés sur les figures 1 à 4 et dans la description :The following reference numbers are used in Figures 1 to 4 and in the description:
1 Installation pour l’exposition de produits 1 Installation for the exhibition of products
2 Surface d’exposition de produits 2 Product exhibition area
3 Système de vision 3 Vision system
4 Système de restitution d’informations (écran d’affichage) 4 Information return system (display screen)
5 Interface homme - machine 5 Human-machine interface
6 Produits d’une espèce donnée 6 Products of a given species
7 Dispositif d’éclairage 7 Lighting device
8 Mât 8 Mast
9 T raverse 9 T raverse
10 Superstructure 10 Superstructure
11 Poutre 11 Beam
12 Base 12 Base
13 Dispositif de diffusion de brouillard 13 Mist diffusion device
14 Orifice de nébulisation 15 Brouillard 14 Nebulization port 15 Fog
16 Premier émetteur-récepteur 16 First transceiver
17 Deuxième émetteur-récepteur 17 Second transceiver
18 Périmètre de captation du système de vision 3 19 Plaque refroidie 18 Capturing perimeter of the vision system 3 19 Cooled plate
20 Ecran déporté 20 Remote screen
21 Valeur seuil prédéterminée 21 Preset threshold value
22 Imprimante 22 Printer
23 Machine informatique centrale 24 Téléphone portable 23 Central computing machine 24 Mobile phone
25 Liaison informatique (filaire ou sans fil) 25 Computer link (wired or wireless)
26 Réseau radioélectrique 26 Radio network
27 Acheteur 27 Buyer
28 Emetteur-récepteur externe 29 Machine informatique locale 28 External transceiver 29 Local computer machine
30 Générateur de brouillard 30 Fog generator
Description détaillée detailed description
On définit ici quelques termes utilisés dans la présente description. On entend ici par « acheteur » le client d’un magasin de libre-service qui fait ses courses et qui s’approche d’un étal pour regarder et éventuellement appréhender des produits. A few terms used in the present description are defined here. By "buyer" is meant here the customer of a self-service store who does his shopping and who approaches a stall to view and possibly apprehend products.
Une « surface d’exposition » est la surface d’un étal sur laquelle sont disposés et exposés les produits à la vue des acheteurs. An "display area" is the area of a stall on which products are arranged and displayed for buyers to see.
Une « zone d’intérêt » correspond à une zone de la surface d’exposition d’un étal où se trouvent des produits exposés à la vente, qui sont en règle générale d’une seule espèce. A titre d’exemple, il peut s’agir de produits en vrac (produits alimentaires tels que des fruits ou légumes, produits non alimentaires tels que des livres de poche soldés, des petits articles de maroquinerie, des lots de paires de chaussettes) ou agencés de manière ordonnée (en cageot par exemple). Dans le cas de produits alimentaires, typiquement, on trouve sur les différentes zones d’un étal des fruits et légumes séparés par espèce, car chaque espèce est proposée à un prix spécifique ; sur une zone d’intérêt donnée on trouve donc typiquement une seule espèce de fruit ou légume (ce qui peut inclure, comme cela sera expliqué ci-dessous, le cas où ces produits sont des fruits ou légumes d’une seule variété végétale). An "area of interest" is an area of the display area of a stall where there are products displayed for sale, which are usually of one species. For example, it can be bulk products (food products such as fruits or vegetables, non-food products such as pocket books on sale, small leather goods, lots of pairs of socks) or arranged in an orderly manner (in a crate for example). In the case of food products, typically, we find on the different areas of a stall fruits and vegetables separated by species, because each species is offered at a specific price; on a given area of interest there is therefore typically a single species of fruit or vegetable (which may include, as this will be explained below, the case where these products are fruits or vegetables of a single plant variety).
Une « zone de captation d’images » est une zone de la surface d’exposition pour laquelle un dispositif de captation d’images capte des images. Une zone de captation d’images contient au moins une zone d’intérêt, et peut en contenir plusieurs. Selon l’invention, la captation d’images peut être faite en continu ou en discontinu, à intervalles régulier ou irréguliers. An "image capture area" is an area of the exhibition surface for which an image capture device captures images. An image capture area contains at least one area of interest, and may contain several. According to the invention, the image capture can be done continuously or discontinuously, at regular or irregular intervals.
Le terme « espèce », utilisé en relation avec des produits (typiquement sous la forme « espèce de produits » ou « produits d’une même espèce »), peut, dans le cas des produits végétaux, être compris dans le sens « espèce végétale », mais dans certains cas aussi dans le sens « variété végétale ». The term "species", used in relation to products (typically in the form "species of products" or "products of the same species"), can, in the case of plant products, be understood in the sense of "plant species". ", But in some cases also in the sense" plant variety ".
On décrit maintenant différents aspects et modes de réalisation de l’invention. Various aspects and embodiments of the invention will now be described.
D’une manière générale, l’installation selon l’invention comprend un système de vision, qui comprend au moins un dispositif de captation d’images en couleurs, qui est typiquement disposé au-dessus de la surface d’exposition. Ledit dispositif de captation d’images peut comprendre une caméra, configurée pour capter des prises de vue. Cette captation peut se faire par exemple en continu, ou à des intervalles réguliers ou irréguliers. Le système de vision est relié à une machine informatique avec laquelle il coopère. Cette machine informatique est avantageusement une machine informatique locale, c’est-à-dire localisée dans l’installation (typiquement dans sa base), mais alternativement il peut s’agir aussi d’une machine informatique externe, qui communique avec le système de vision par une liaison filaire ou sans fil. In general, the installation according to the invention comprises a vision system, which comprises at least one device for capturing color images, which is typically disposed above the exhibition surface. Said image capture device may include a camera, configured to capture images. This capture can be done for example continuously, or at regular or irregular intervals. The vision system is linked to a computer machine with which it cooperates. This computer machine is advantageously a local computer machine, that is to say located in the installation (typically in its base), but alternatively it can also be an external computer machine, which communicates with the control system. vision via a wired or wireless link.
Dans l’expression « machine informatique externe » l’adjectif « externe » se réfère à l’installation : la machine informatique externe n’est pas intégrée dans ladite installation, elle peut se trouver sur la surface de vente (typiquement dans un espace désigné comme inaccessible au public) ou dans un bureau situé à côté de la surface de vente ou au- dessus de la surface de vente, ou plus loin encore de l’installation. Ladite machine informatique externe est appelée « machine informatique centrale » lorsqu’elle est configurée pour communiquer et échanger des données avec plusieurs installations selon l’invention. Ladite installation comprend également un dispositif capable de détecter l’entré d’un objet dans un périmètre prédéterminé de détection qui se situe au-dessus d’une zone d’intérêt. Ce dispositif peut faire partie dudit système de vision. In the expression “external computer machine” the adjective “external” refers to the installation: the external computer machine is not integrated into said installation, it can be located on the sales area (typically in a designated space. as inaccessible to the public) or in an office located next to the sales area or above the sales area, or further away from the facility. Said external computer machine is called a “central computer machine” when it is configured to communicate and exchange data with several installations according to the invention. Said installation also comprises a device capable of detecting the entry of an object within a predetermined detection perimeter which is located above a zone of interest. This device can form part of said vision system.
L’installation selon l'invention comprend également au moins un système de restitution d’informations, qui est avantageusement un système d’affichage comprenant au moins un écran d’affichage et/ou au moins une étiquette électronique de gondole. The installation according to the invention also comprises at least one information rendering system, which is advantageously a display system comprising at least one display screen and / or at least one electronic gondola label.
Selon un premier aspect de l’invention, l’installation comprend un dispositif capable de détecter l’entrée d’un objet dans un périmètre de détection. Cet objet est typiquement la main d’un acheteur qui appréhende un produit. Ladite machine informatique est configurée pour coopérer avec ledit dispositif capable de détecter l’entrée d’un objet dans un périmètre de détection, pour détecter l’arrivée d’un nouvel objet proche d’une zone d’intérêt donnée. According to a first aspect of the invention, the installation comprises a device capable of detecting the entry of an object into a detection perimeter. This object is typically the hand of a buyer who apprehends a product. Said computer machine is configured to cooperate with said device capable of detecting the entry of an object into a detection perimeter, to detect the arrival of a new object close to a given area of interest.
Différents moyens peuvent être utilisés pour assurer cette fonction. On peut par exemple utiliser une barrière optique ou un capteur de proximité ; ces composants sont connus en tant que tels. Different means can be used to perform this function. It is for example possible to use an optical barrier or a proximity sensor; these components are known as such.
Selon un mode de réalisation, on utilise un dispositif de détection de proximité, configuré pour détecter la pénétration d’un objet dans un périmètre prédéterminé. Ledit périmètre est un espace situé au-dessus des produits disposés sur une zone d’intérêt. A ce titre, il peut s’agir d’une caméra de profondeur. Ces caméras de profondeur sont connues en tant que telles ; elles comprennent par exemple un émetteur d’infrarouge et au moins deux récepteurs (de préférence pixelisés). Selon ce mode de réalisation de l’invention, la caméra de proximité est disposée au-dessus de la surface d’exposition. Elle est configurée pour détecter l’arrivée d’une main ou d’un bras d’un acheteur au-dessus d’une zone d’intérêt. Cela permet d’identifier l’intérêt de l’acheteur pour des produits d’une certaine espèce. Selon l’invention, cette identification de l’intérêt d’un acheteur pour des produits d’une certaine espèce (par exemple des pommes Reinette grise du Canada) déclenche la restitution d’informations associées à ce produit, en utilisant les moyens de restitution d’informations. Ces moyens peuvent comprendre un écran d’affichage visible pour l’acheteur placé devant, derrière ou au-dessus de la zone d’intérêt. D’une manière générale, ces informations restituées par les moyens de restitution d’informations peuvent par exemple être spécifiques au produit, et peuvent comprendre par exemple des informations sur le prix du produit, sur son origine, sur sa valeur nutritionnelle, ou encore des conseils d’utilisation spécifiques (stockage, préparation). Elles peuvent aussi porter sur des produits complémentaires qui sont souvent achetés par les acheteurs en général, ou par cet acheteur en particulier (s’il a été identifié au préalable de manière individuelle), qui achètent ce produit particulier. According to one embodiment, a proximity detection device is used, configured to detect the penetration of an object within a predetermined perimeter. Said perimeter is a space located above the products arranged on an area of interest. As such, it may be a depth camera. These depth cameras are known as such; they include, for example, an infrared emitter and at least two receivers (preferably pixelated). According to this embodiment of the invention, the proximity camera is arranged above the exposure surface. It is configured to detect the arrival of a buyer's hand or arm over an area of interest. This makes it possible to identify the buyer's interest in products of a certain species. According to the invention, this identification of a buyer's interest in products of a certain species (for example Reinette grise apples from Canada) triggers the restitution of information associated with this product, by using the restitution means information. These means may include a display screen visible to the buyer placed in front, behind or above the area of interest. In general, this information returned by the information recovery means may for example be specific to the product, and may include, for example, information on the price of the product, on its origin, on its nutritional value, or else specific advice for use (storage, preparation). They can also relate to complementary products which are often bought by buyers in general, or by that particular buyer (if it has been identified in advance individually), who buy that particular product.
Le système de vision comprend également un dispositif de prise de vue, qui comprend typiquement au moins une caméra, configurée pour capter des images d’au moins une zone d’intérêt. Plus précisément, la caméra capte des prises de vue d’une zone de captation en continu ou à des intervalles réguliers, par exemple toutes les trente secondes. Ces prises de vue sont traitées par le système de vision, comme cela sera expliqué plus en détail ci-dessous. The vision system also includes an imaging device, which typically includes at least one camera, configured to capture images of at least one area of interest. Specifically, the camera captures shots of a capture area continuously or at regular intervals, such as every thirty seconds. These shots are processed by the vision system, as will be explained in more detail below.
Avantageusement, un dispositif de captation d’images capte des prises de vue pour plusieurs zones d’intérêt ( n zones d’intérêt), dont chacune est chargée de produits Xn d’une seule espèce. Advantageously, an image capture device captures shots for several areas of interest (n areas of interest), each of which is loaded with products X n of a single species.
Dans un mode de réalisation, le système de vision est configuré de manière à ce que ledit dispositif de captation d’images puisse faire fonction de dispositif capable de détecter l’entrée d’un objet dans un périmètre de détection. Dans ce cas, de manière préférée, le système selon l’invention optique est configuré pour identifier, par une méthode d’analyse d’images appropriée, l’arrivée d’une main ou d’un bras dans ledit périmètre de détection. Le système peut être configuré pour compter le nombre de ces évènements de pénétration d’une main ou d’un bras dans ledit périmètre de détection. In one embodiment, the vision system is configured so that said image capture device can function as a device capable of detecting the entry of an object into a detection perimeter. In this case, preferably, the system according to the optical invention is configured to identify, by an appropriate image analysis method, the arrival of a hand or an arm in said detection perimeter. The system can be configured to count the number of such hand or arm penetration events within said detection area.
Le système de vision peut être configuré pour analyser la forme détectée par le dispositif de prise de vue ; si la forme de l’objet présente un facteur de forme rectangulaire (largeur : longueur) inférieur à 1 et de préférence compris entre, par exemple, 1:1 et 1:10, et si l’angle formé par ce rectangle et le bord du meuble est compris entre 35° et 145°, le système identifie cet objet comme un « bras » d’un acheteur. Cette analyse peut être effectuée par un logiciel d’analyse d’images de type connu, convenablement configuré. Si le système de vision ne détecte pas de nouvel objet proche, il détermine le volume d’un produit Xn spécifique. Ce produit Xn est sélectionné de manière à ce que sur un laps de temps donné (qui peut être de l’ordre de l’heure ou de la demi-heure) le volume Vn de chaque produit Xn est déterminé au moins une fois ; la sélection du produit Xn peut être une sélection aléatoire ou non. La valeur du volume Vn peut être stockée dans un fichier dans une des machines informatiques locale ou externe (de préférence dans la machine informatique locale) ; ce fichier peut être une base de données. Lors que pour un produit Xn le volume déterminé est inférieur à un seuil présélectionné (qui correspond par exemple à 10 % du volume initial), un message est envoyé à un récepteur prédéfini, par une voie de transmission filaire ou sans fil. Ce message peut être envoyé par exemple par messagerie sms (« short message service ») ou par courriel. Le récepteur prédéfini peut être un récepteur fixe ou mobile, par exemple le téléphone portable du responsable de rayon. The vision system can be configured to analyze the shape detected by the imaging device; if the shape of the object has a rectangular form factor (width: length) less than 1 and preferably between, for example, 1: 1 and 1:10, and if the angle formed by this rectangle and the edge of the furniture is between 35 ° and 145 °, the system identifies this object as an "arm" of a buyer. This analysis can be carried out by image analysis software of known type, suitably configured. If the vision system does not detect a new nearby object, it determines the volume of a specific product X n. This product X n is selected so that over a given period of time (which may be of the order of an hour or half an hour) the volume V n of each product X n is determined at least one times ; the selection of the product X n may or may not be a random selection. The value of the volume Vn can be stored in a file in one of the local or external computer machines (preferably in the local computer machine); this file can be a database. When for a product X n the determined volume is less than a preselected threshold (which corresponds for example to 10% of the initial volume), a message is sent to a predefined receiver, by a wired or wireless transmission channel. This message can be sent for example by SMS messaging ("short message service") or by email. The predefined receiver can be a fixed or mobile receiver, for example the cell phone of the department manager.
Si le système de vision détecte un nouvel objet proche à proximité d’un produit spécifique (désigné ici comme Xi), ce nouvel objet est identifié comme une « main », et le système d’affichage affiche un ou plusieurs messages correspondant au produit Xi. Dans un mode de réalisation, la main apparaît comme un objet différent de l’arrière-plan dans une des zones d’intérêt. If the vision system detects a new nearby object near a specific product (referred to here as Xi), this new object is identified as a "hand", and the display system displays one or more messages corresponding to the product Xi . In one embodiment, the hand appears as a different object from the background in one of the areas of interest.
Une ou plusieurs caméras de profondeur peuvent être prévues. Les caméras de profondeur peuvent être intégrées au-dessus du meuble formant Létal. Dans un mode de réalisation ledit dispositif de prise de vue et ledit dispositif de détection de proximité sont intégrés dans un même boîtier. De tels boîtiers existent dans le commerce, par exemple le produit RealSense™D435 de la société Intel®. One or more depth cameras can be provided. The depth cameras can be integrated above the cabinet forming Lethal. In one embodiment, said shooting device and said proximity detection device are integrated in the same housing. Such housings exist commercially, for example the product RealSense ™ D435 from the company Intel®.
La hauteur des caméras par rapport à la surface de vente et leur espacement dépend de leurs caractéristiques optiques, et notamment de leur champ de vision et de leur profondeur de vision. Pour le dispositif de captation de prises de vue, la hauteur peut être typiquement de l'ordre de 1 à 2 mètres. Dans une première variante on choisit une hauteur d’environ 1,0 mètre et une distance entre deux caméras voisines d’environ 1,2 mètres. Dans une deuxième variante, on choisit une hauteur d’environ 2,0 mètres et une distance entre deux caméras voisines d’environ 2,4 mètres. Ces valeurs conviennent par exemple à la caméra RealSense™D435, mentionnée ci-dessus. Dans une variante, une caméra et un écran d’affichage forment un module dit module de reconnaissance. Ledit écran se situe au-dessus de la surface de vente, et de préférence à proximité de la zone sur la surface de vente où se trouvent les produits concernés par l’affichage. The height of the cameras in relation to the sales area and their spacing depends on their optical characteristics, and in particular on their field of vision and their depth of vision. For the image capture device, the height can typically be of the order of 1 to 2 meters. In a first variant, a height of approximately 1.0 meter and a distance between two neighboring cameras of approximately 1.2 meters are chosen. In a second variant, a height of approximately 2.0 meters and a distance between two neighboring cameras of approximately 2.4 meters are chosen. These values are suitable for example for the RealSense ™ D435 camera, mentioned above. In one variant, a camera and a display screen form a module called a recognition module. Said screen is located above the sales area, and preferably close to the area on the sales area where the products concerned by the display are located.
Selon un deuxième aspect de l’invention, le système de vision et la machine informatique avec laquelle il coopère sont configurés pour détecter de manière automatique les produits pour identifier leur espèce. Ces produits sont notamment des fruits et légumes. Ils peuvent être posés sur une zone qui leur est dédiée sur l’étal, en vrac ou en cageot. Le système selon l’invention permet d’identifier par exemple les carottes en vrac, les carottes en botte, les courgettes, les haricots verts, les concombres, la laitue, les citrons. According to a second aspect of the invention, the vision system and the computer machine with which it cooperates are configured to automatically detect the products to identify their species. These products are in particular fruits and vegetables. They can be placed in an area dedicated to them on the stall, in bulk or in crates. The system according to the invention makes it possible to identify, for example, loose carrots, bunched carrots, zucchini, green beans, cucumbers, lettuce, lemons.
Dans un premier mode de réalisation, qui convient notamment pour des produits d’une forme géométrique qui ne varie pas, ou qui ne varie pas beaucoup, d’un produit de la même l'espèce à l’autre, tel que des pièces manufacturées, on peut utiliser un système d’analyse d’images qui détecte les contours du produit. Ainsi, on peut distinguer les produits de deux espèces différentes par leur seule forme géométrique telle que définie par leur contours. On peut également estimer la quantité de produits visibles sur une surface ou empilés en vrac. In a first embodiment, which is suitable in particular for products of a geometric shape which does not vary, or which does not vary much, from one product of the same species to another, such as manufactured parts , it is possible to use an image analysis system which detects the contours of the product. Thus, one can distinguish the products of two different species by their only geometric shape as defined by their contours. It is also possible to estimate the quantity of products visible on a surface or stacked in bulk.
Si les les produits d’une même espèce présentent une couleur qui ne varie pas, ou qui ne varie pas beaucoup, d’un produit de la même espèce à l’autre, on peut utiliser un système d’analyse d’images qui détecte en plus des contours du produit sa couleur. If the products of the same species show a color which does not vary, or which does not vary much, from one product of the same species to another, an image analysis system can be used which detects in addition to the contours of the product its color.
A tite d’exemple, le système de vision et la machine informatique avec laquelle il coopère peuvent être configurés pour détecter de manière automatique les produits pour identifier leur espèce lorsque les produits sont des bouteilles, des objets de quincaillerie (visserie, équerres, chevilles), des objets cosmétiques (tubes, flacons), des chapeaux, des vêtements, ou plus généralement des packs de produits. For example, the vision system and the computer machine with which it cooperates can be configured to automatically detect the products to identify their species when the products are bottles, hardware items (screws, brackets, dowels) , cosmetic items (tubes, flasks), hats, clothes, or more generally product packs.
Dans un mode de réalisation avantageux, qui convient notamment pour des produits naturels tels que des fruits ou des légumes, qui peuvent présenter au sein d’une même espèce une forme géométrique un peu différente, et/ou une couleur un peu différente et/ou une couleur inhomogène, et/ou une apparence présentant sur la surface des dessins (possiblement de couleur) différents, on utilise un logiciel dit d’intelligence artificielle avec une fonction de reconnaissance d’images. Ce logiciel peut être d’un type qui comprend un réseau de neurones artificiel (appelé aussi « réseau neuronal »). Il doit être configuré préalablement à son utilisation d’une manière spécifique aux produits qu’il doit reconnaître. Plus précisément, on définit une liste de produits à reconnaître, et dans une première étape, pour chaque espèce de produit on fournit une bibliothèque comportant différents images comportant chacun un produit de cette espèce. Ces images sont avantageusement prises dans des conditions d’éclairage et de netteté de prise de vue différentes, et montrent des produits de cette espèce dont la forme, la taille et la disposition ne sont pas les mêmes. On peut aussi prendre en compte l’effet de la nébulisation sur l’image captée par le système de vision. Cela n’est pas nécessaire si lors du fonctionnement de l’installation on arrête temporairement la nébulisation lorsque l’on capte une image destinée à servir à l’identification du produit et/ou à la détermination de la quantité de produits. In an advantageous embodiment, which is suitable in particular for natural products such as fruits or vegetables, which may present within the same species a slightly different geometric shape, and / or a slightly different color and / or an inhomogeneous color, and / or an appearance presenting on the surface of the drawings (possibly of color) different, one uses a software known as artificial intelligence with an image recognition function. This software may be of a type which comprises an artificial neural network (also called a “neural network”). He must be configured prior to its use in a way specific to the products it must recognize. More precisely, a list of products to be recognized is defined, and in a first step, for each species of product, a library is provided comprising different images each comprising a product of this species. These images are advantageously taken under different conditions of lighting and sharpness, and show products of this kind whose shape, size and arrangement are not the same. It is also possible to take into account the effect of the nebulization on the image captured by the vision system. This is not necessary if during operation of the installation the nebulization is temporarily stopped when an image is captured intended to serve for the identification of the product and / or for the determination of the quantity of products.
Dans une deuxième étape on utilise cette bibliothèque pour entraîner le réseau neuronal à reconnaître les produits d’une espèce donnée. Cela doit être fait pour chacune des espèces de produits. Une procédure qui peut être utilisée est décrite ci-dessous. In a second step, this library is used to train the neural network to recognize the products of a given species. This must be done for each of the product species. One procedure that can be used is described below.
Des logiciels d’intelligence artificielle utilisables existent dans le commerce, et leur utilisation pour la reconnaissance d’objets a été décrite dans la littérature. A titre d’exemple, pour mettre en oeuvre le procédé selon l’invention on peut utiliser un réseau de neurones artificiel connu sous la désignation Mask R-CNN, qui est décrit dans une publication « Mask R-CNN » de K. He et al., disponible sur le site https://arvix.org/abs/1703.06870 . Le système Mask R-CNN est un réseau de neurones profond conçu pour la détection d'objets et la segmentation d'images. Il génère des cadres de délimitation et des masques de segmentation pour chaque instance d'un objet dans l'image. Le modèle est basé sur un squelette de réseau (« backbone ») de type ResNet 101 qui a été entraîné précédemment sur un jeu de données de type COCO (« Common Objects in Context »), selon une méthode décrite dans la publication « Deep Residual Learning for image Récognition » par K. He et al, disponible sur le site https://arxiv.org/abs/1512.03385 , auquel on ajoute un réseau de pyramides à caractéristiques (connu sous la désignation FPN, « Featured Pyramid Network ») ce dernier est décrit dans la publication « Featured Pyramid Networks for Object Détection » par T. -Y. Lin et al., disponible à l’adresse https://arxiv.org/pdf/ 1612.03144.pdf . Usable artificial intelligence software is commercially available, and its use for object recognition has been described in the literature. By way of example, to implement the method according to the invention, it is possible to use an artificial neural network known under the designation Mask R-CNN, which is described in a publication “Mask R-CNN” by K. He and al., available at https://arvix.org/abs/1703.06870. The Mask R-CNN system is a deep neural network designed for object detection and image segmentation. It generates bounding boxes and segmentation masks for each instance of an object in the image. The model is based on a network backbone (“backbone”) of the ResNet 101 type which was previously trained on a set of COCO (“Common Objects in Context”) type data, according to a method described in the publication “Deep Residual Learning for image Recognition ”by K. He et al, available at https://arxiv.org/abs/1512.03385, to which is added a network of characteristic pyramids (known as FPN,“ Featured Pyramid Network ”) the latter is described in the publication “Featured Pyramid Networks for Object Detection” by T. -Y. Lin et al., Available at https://arxiv.org/pdf/ 1612.03144.pdf.
Selon un troisième aspect de l’invention, le système de vision est configuré pour reconnaître les produits dans une zone de captation d’image. A cette fin il coopère avec une machine informatique. Ladite machine informatique associée au système de vision est configurée pour subdiviser ladite zone de captation d'image en zones d’intérêt dont chacune ne comprend que des produits d’une même espèce. Cela évite que le personnel du rayon n’ait à configurer ou reconfigurer le système à chaque fois qu’une nouvelle espèce de produits est déposée sur la surface d’exposition, et de manière plus générale, à chaque réarrangement des produits sur l’installation. Cette subdivision utilise l’information sur l’identité du produit qui a été acquise pour chacune des zones d’intérêt au sein de la zone de captation d’image. According to a third aspect of the invention, the vision system is configured to recognize the products in an image capture zone. To this end it cooperates with a computer machine. Said computer machine associated with the vision system is configured to subdivide said image capture zone into zones of interest, each of which only comprises products of the same species. This prevents department staff from having to configure or reconfigure the system each time a new type of product is placed on the exhibition area, and more generally, each time products are rearranged on the installation. . This subdivision uses the product identity information that has been acquired for each of the areas of interest within the image capture area.
Dans une variante, le système de vision est configuré pour permettre la correction manuelle de la configuration des zones d’intérêt, lorsqu’un produit d’une certaine espèce a été mal reconnu ou n’a pas été reconnu ; cette correction manuelle peut être effectuée en corrigeant le nom du produit présent dans ladite zone d’intérêt. Le système peut être configuré de manière à ce que cette correction puisse être effectuée sur une machine informatique centrale qui fait partie du même système radioélectrique que l’installation, et/ou sur une interface homme/machine propre à l’installation, ou encore sur un terminal mobile qui communique avec un émetteur-récepteur propre à ladite installation ou avec un émetteur récepteur propre à ladite machine informatique centrale. Alternatively, the vision system is configured to allow manual correction of the configuration of areas of interest, when a product of a certain species has been misrecognized or has not been recognized; this manual correction can be made by correcting the name of the product present in said area of interest. The system can be configured so that this correction can be carried out on a central computer machine which is part of the same radio system as the installation, and / or on a man / machine interface specific to the installation, or on a mobile terminal which communicates with a transceiver specific to said installation or with a transceiver specific to said central computer machine.
Plus précisément, dans une première étape, on identifie pour une zone d’intérêt donnée le produit qu’elle contient. Dans une deuxième étape, on associe à ce produit une ou plusieurs informations, de manière à pouvoir restituer au moins une de ces informations par le système de restitution d’information, en cas d’activation du système pour cette zone d’intérêt. Cette activation se fait par le dispositif capable de détecter l’entrée d’un objet dans un périmètre de détection, qui comprend ladite zone d’intérêt et s’étend au-dessus de celle-ci. Cela permet d’afficher ces informations lorsqu’un acheteur s’apprête à toucher ou à appréhender un produit se situant sur la zone d’intérêt. More precisely, in a first step, we identify for a given area of interest the product it contains. In a second step, one or more information is associated with this product, so as to be able to restore at least one of this information by the information rendering system, in the event of activation of the system for this area of interest. This activation is done by the device capable of detecting the entry of an object into a detection perimeter, which includes said area of interest and extends above it. This allows this information to be displayed when a buyer is about to touch or apprehend a product in the area of interest.
Selon un quatrième aspect de l’invention le système de vision est configuré pour estimer la quantité des produits. Cette quantité est exprimée en valeur relative par rapport à une quantité initiale ; dans certains cas (lot de produits de forme régulière et de taille peu variable) on peut aussi l’exprimer de manière assez fiable en quantité absolue (masse ou nombre). Cette estimation de la quantité d’un produit peut se faire de différentes manières. Selon une première approche on calibre la taille moyenne de chaque produit (en unités de longueur ou en pixels). A cette fin on peut diviser l’aire de la zone d’intérêt par la taille d’un produit. On estime ainsi le nombre de produits vus par le système de vision. Cette approche fonctionne bien pour des produits de taille et forme relativement uniforme, tels que des pommes ou des noix. According to a fourth aspect of the invention, the vision system is configured to estimate the quantity of products. This quantity is expressed as a relative value with respect to an initial quantity; in certain cases (batch of products of regular shape and of little variable size) it can also be expressed fairly reliably in absolute quantity (mass or number). This estimation of the quantity of a product can be done in different ways. According to a first approach, the average size of each product is calibrated (in units of length or in pixels). To this end we can divide the area of the area of interest by the size of a product. The number of products seen by the vision system is thus estimated. This approach works well for products of relatively uniform size and shape, such as apples or nuts.
Selon une deuxième approche, qui est plus simple et plus universelle que la première, on charge la zone d’intérêt en produits, et on estime une valeur initiale du volume total, qui peut être exprimée en unités relatives. Par la suite, le volume que le système de vision détermine pour ce produit est avantageusement exprimé en valeur relative par rapport à cette valeur initiale. According to a second approach, which is simpler and more universal than the first, we load the area of interest with products, and an initial value of the total volume is estimated, which can be expressed in relative units. Subsequently, the volume that the vision system determines for this product is advantageously expressed as a relative value with respect to this initial value.
On décrit ici un mode de réalisation de l’invention qui vise à déterminer la quantité d’un produit donné sur une zone d’intérêt d’un étal. An embodiment of the invention which aims to determine the quantity of a given product in an area of interest of a stall is described here.
Dans une première étape on capte l’image de la zone d’intérêt. In a first step, we capture the image of the area of interest.
Dans une deuxième étape on détermine le volume (ou un paramètre représentatif du volume) des produits dans la zone d’intérêt. In a second step, the volume (or a parameter representative of the volume) of the products in the area of interest is determined.
Dans une troisième étape on détermine si ce volume (ou ce paramètre qui le représente) se situe au-dessous d’une valeur seuil prédéterminée. Si cela est le cas, un message d’alerte est émis. In a third step, it is determined whether this volume (or this parameter which represents it) is below a predetermined threshold value. If so, an alert message is issued.
Le volume déterminé est enregistré pour la zone d’intérêt pour laquelle il a été déterminé, avec l’heure à laquelle il a été déterminé. The determined volume is recorded for the area of interest for which it was determined, along with the time at which it was determined.
L’image captée à la première étape peut comprendre plusieurs zones d’intérêt. On exécute alors ce procédé pour une ou plusieurs de ces zones d’intérêt. The image captured in the first step can include several areas of interest. This process is then carried out for one or more of these areas of interest.
D’une manière générale, la captation d’images dans le but de la reconnaissance de l’espèce des produits et de l’estimation de la quantité d’un produit doit se faire à un moment où aucune main ou autre objet n’est détecté à proximité des zones d’intérêt, car la présence d’une main ou d’un autre objet peut perturber cette reconnaissance et cette estimation. Pour la même raison, on préfère que lors de la captation d’images dans le but de la reconnaissance de l’espèce des produits il n’y ait pas de nébulisation. En revanche, il est possible d’estimer la quantité des produits lorsque la nébulisation est active, mais le résultat de cette estimation est moins précis. Pour cette raison, dans le procédé qui vient d’être décrit pour déterminer la quantité d’un produit donné sur une zone d’intérêt de l’étal, lorsque cette zone fait l’objet d’une nébulisation, on arrête avant la première étape la nébulisation, et on attend un certain laps de temps, qui peut être prédéterminé ou déterminée par le système en fonction de la disparition progressive de la perturbation des images captées par la nébulisation, avant de passer à la première étape ; la nébulisation peut être remise en route lorsque l’image qui sert à la détermination du volume à la deuxième étape dudit procédé a été enregistrée. In general, the capture of images for the purpose of recognizing the species of products and estimating the quantity of a product must be done at a time when no hand or other object is detected near the areas of interest, because the presence of a hand or another object can interfere with this recognition and estimation. For the same reason, it is preferred that when capturing images for the purpose of recognizing the species of the products there is no nebulization. On the other hand, it is possible to estimate the quantity of the products when the nebulization is active, but the result of this estimate is less precise. For this reason, in the coming process to be described to determine the quantity of a given product on an area of interest of the stall, when this area is the subject of a nebulization, the nebulization is stopped before the first step, and a certain period of time, which can be predetermined or determined by the system as a function of the gradual disappearance of the disturbance of the images captured by the nebulization, before proceeding to the first step; the nebulization can be restarted when the image which is used for determining the volume in the second step of said process has been recorded.
L’information concernant la quantité de produits d’une espèce présents dans la zone d’intérêt qui lui a été attribuée, peut être utilisée de différentes manières. En particulier, cette information sera portée à la connaissance du personnel de gestion du rayon ou du magasin. Information on the quantity of products of a species present in the assigned area of interest can be used in different ways. In particular, this information will be brought to the attention of department or store management personnel.
A cette fin, l’installation pour l’exposition de produits selon l’invention peut comprendre un émetteur-récepteur qui l’intègre dans un réseau radioélectrique. Ce réseau radioélectrique peut comprendre en particulier un dispositif de restitution d’informations déporté, à l’intention du personnel de gestion du rayon ou du magasin. Il peut par exemple communiquer des messages au personnel, appelés ci-dessous « alertes », par toute voie de transmission appropriée, notamment par courrier électronique ou par message SMS. To this end, the installation for the exhibition of products according to the invention may comprise a transceiver which integrates it into a radio network. This radio network may in particular include a remote information retrieval device, intended for department or store management personnel. It can, for example, communicate messages to the personnel, referred to below as “alerts”, by any appropriate transmission channel, in particular by electronic mail or by SMS message.
Dans une première variante, lorsque la quantité de produits d’une espèce donnée tombe au-dessous d’une valeur seuil prédéterminée, le système alerte le personnel du magasin pour approvisionner l’étal en produits de cette espèce. Alternativement ou en plus, le système analyse à des intervalles réguliers (par exemple chaque heure) tous les produits reconnus sur la prise de vue, et alerte le personnel du magasin si des produits d’une certaine espèce qui étaient présents lors de la reconnaissance précédente ont disparu de manière à engendrer une rupture de l’offre pour les produits de cette espèce. In a first variant, when the quantity of products of a given species falls below a predetermined threshold value, the system alerts store personnel to supply the stall with products of that species. Alternatively or in addition, the system analyzes at regular intervals (for example every hour) all the products recognized on the shot, and alerts the store staff if products of a certain species that were present during the previous recognition have disappeared in such a way as to create a disruption in the supply of products of this kind.
Dans une deuxième variante, qui peut être combinée avec la première variante, le système détermine la quantité de produits à des intervalles réguliers ou irréguliers, et détermine la vitesse de décroissance de cette quantité ; lorsque cette vitesse de décroissance dépasse une valeur seuil prédéterminée, le système alerte le personnel du magasin pour approvisionner l’étal en produits de cette espèce. Ainsi, on évite que la zone dédiée à cette espèce de produit ne soit vide, sachant qu’une zone vide ne génère pas de chiffre d’affaires. Dans une troisième variante, qui peut être combinée avec la première variante et/ou avec la deuxième variante, le système informatique est configuré pour générer, enregistrer et / ou afficher au personnel du magasin l’évolution du stock et des ventes de produits de cette espèce en fonction du temps, par exemple sur une journée, une semaine, un mois, un trimestre, ou une année. In a second variant, which can be combined with the first variant, the system determines the quantity of products at regular or irregular intervals, and determines the rate of decrease of this quantity; when this rate of decrease exceeds a predetermined threshold value, the system alerts the store staff to supply the stall with products of this species. This prevents the area dedicated to this type of product from being empty, knowing that an empty area does not generate sales. In a third variant, which can be combined with the first variant and / or with the second variant, the computer system is configured to generate, record and / or display to the store personnel the evolution of the stock and the sales of products of this species as a function of time, for example over a day, a week, a month, a quarter, or a year.
Dans une quatrième variante, qui peut être associée à toutes les autres, séparément ou en combinaison, le système est configuré pour détecter le taux d’intrus (i.e. de produits d’une espèce différente que celle majoritairement présente dans la zone d’intérêt). Lorsque le taux d’intrus dépasse une valeur seuil prédéterminée, le système alerte le personnel du magasin pour faire du rangement sur l’étal. In a fourth variant, which can be associated with all the others, separately or in combination, the system is configured to detect the rate of intruders (ie of products of a different species than that predominantly present in the area of interest) . When the intruder rate exceeds a predetermined threshold value, the system alerts store staff to tidy up the stall.
Selon un cinquième aspect de l’invention, le système de vision, ayant identifié la « main » d’un acheteur qui s’approche d’une zone d’intérêt, et ayant défini le produit X1 sur la zone d’intérêt, déclenche l’affichage d’informations en relation avec ledit produit X1 auquel l’acheteur est en train de s’intéresser et qui se trouve sur la zone d’intérêt. Cet affichage se fait typiquement sur un écran d’affichage qui se situe à proximité de la zone d’intérêt, par exemple au-dessus. Lesdites informations ont été préalablement associées au produit X1 par une configuration appropriée d’une machine informatique qui coopère avec ledit écran d’affichage. According to a fifth aspect of the invention, the vision system, having identified the “hand” of a buyer which approaches an area of interest, and having defined the product X1 on the area of interest, triggers the display of information relating to said product X1 in which the buyer is interested and which is in the area of interest. This display is typically done on a display screen which is located near the area of interest, for example above it. Said information has been previously associated with the product X1 by an appropriate configuration of a computer machine which cooperates with said display screen.
Alternativement ou en plus, une information peut être affichée sur une étiquette électronique de gondole (appelée aussi étiquette électronique d’étagère), par exemple sur un ou plusieurs segments d’une étiquette électronique à segments. Ces étiquettes de gondole sont connues en tant que telles, existent dans le commerce (proposées par exemple par la société Pricer™), et ne seront pas expliquées en plus grand détail ici. Alternatively or in addition, information can be displayed on an electronic shelf label (also called an electronic shelf label), for example on one or more segments of an electronic segment label. These gondola labels are known as such, exist commercially (for example offered by the company Pricer ™), and will not be explained in greater detail here.
Ledit affichage peut porter par exemple sur des informations associées au produit, à son prix, à son origine, à son utilisation (par exemple une recette de cuisine), et/ou il peut porter sur des produits complémentaires susceptibles d’être utiles pour l’acheteur de ce produit (par exemple sur la localisation d’un tel produit complémentaire dans le magasin). Il peut également porter simplement sur une information symbolique et/ou graphique (i.e. non alphanumérique), tel qu’un message de remerciement (possiblement sous la forme d’un émoticon), ou peut comporter une telle information symbolique et/ou graphique. Selon un sixième aspect de l’invention, le système comprend un moyen de transmission pour transmettre une information à l’acheteur. Cette transmission peut être une transmission sans fil, ou une transmission ou mise à disposition matérielle de l’information sur un support matériel. Cette transmission ou mise à disposition matérielle fait typiquement suite à une requête formée par l’acheteur. A cette fin l’installation peut comprendre une interface homme - machine qui permet à l’acheteur de former cette requête. Said display can relate, for example, to information associated with the product, its price, its origin, its use (for example a cooking recipe), and / or it can relate to complementary products likely to be useful for the product. buyer of this product (for example on the location of such a complementary product in the store). It can also relate simply to symbolic and / or graphic information (ie non-alphanumeric), such as a thank you message (possibly in the form of an emoticon), or can include such symbolic and / or graphic information. According to a sixth aspect of the invention, the system comprises a transmission means for transmitting information to the buyer. This transmission can be a wireless transmission, or a physical transmission or provision of information on a physical medium. This transmission or material provision typically follows a request made by the buyer. To this end, the installation can include a man-machine interface which allows the purchaser to form this request.
Comme moyen de remise matérielle de l’information l’installation peut comprendre une imprimante permettant d’imprimer une information sur un support matériel, tel que du papier. Pour la transmission de l’information l’interface homme - machine peut permettre à l’acheteur d’entrer son numéro de téléphone ou une adresse de courriel, ou de scanner un code (tel qu’un code barre ou un code QR) avec un terminal muni d’une caméra, et l’information lui est ensuite envoyé par un moyen de transmission sans fil intégré à l’installation, ou par un moyen de transmission externe à l’étal avec lequel l’installation communique. As a means of physical delivery of information, the facility may include a printer for printing information onto a physical medium, such as paper. For the transmission of information the man-machine interface can allow the buyer to enter his telephone number or an e-mail address, or to scan a code (such as a bar code or a QR code) with a terminal equipped with a camera, and the information is then sent to it by a wireless transmission means integrated into the installation, or by a transmission means external to the stall with which the installation communicates.
Ladite interface homme - machine peut être une tablette pourvue d’un écran, possiblement tactile, et/ou d’un clavier. Elle peut être positionnée sur l’étal, par exemple sur un bandeau latéral, ou à proximité de ce dernier. Said man - machine interface can be a tablet provided with a screen, possibly touch screen, and / or a keyboard. It can be positioned on the shelf, for example on a side strip, or near the latter.
Ladite information peut être en une information en relation avec le produit, et la formation de la requête par l’acheteur pour obtenir sa transmission sans fil ou sa mise à disposition matérielle peut faire suite à l’identification par le système de vision de la « main » de l’acheteur et du produit, comme cela a été décrit en relation avec le quatrième aspect de l’invention. Said information may be information related to the product, and the formation of the request by the purchaser to obtain its wireless transmission or its physical provision may follow the identification by the vision system of the " hand ”of the purchaser and of the product, as has been described in connection with the fourth aspect of the invention.
Dans un mode de réalisation, le système de vision, ayant identifié la « main » d’un acheteur qui s’approche d’une zone d’intérêt, et ayant défini le produit X1 sur la zone d’intérêt, comme cela a été décrit ci-dessus en relation avec le cinquième aspect de l’invention, déclenche l’affichage d’informations qui ont été préalablement associées audit produit X1 auquel l’acheteur est en train de s’intéresser et qui se trouve sur la zone d’intérêt. Cet affichage peut se faire sur un écran au-dessus de l’étal, et/ou sur ladite interface homme-machine. Le système peut solliciter une requête de transmission pour la remise matérielle d’informations que l’acheteur peut entrer dans l’interface homme- machine pour recevoir une impression sur papier, ou pour l’envoi d’informations à l’acheteur ; à cette fin, l’acheteur doit s’identifier, par tout moyen connu, par exemple en entrant son numéro de téléphone ou son adresse de courriel sur l’interface homme- machine, ou en présentant sa carte de client à un lecteur faisant partie de cette interface homme-machine. In one embodiment, the vision system, having identified the "hand" of a buyer approaching an area of interest, and having defined the product X1 on the area of interest, as has been described. described above in relation to the fifth aspect of the invention, triggers the display of information which has been previously associated with said product X1 in which the buyer is interested and which is in the area of interest. This display can be done on a screen above the stall, and / or on said man-machine interface. The system can request a transmission request for the physical delivery of information that the buyer can enter into the human interface. machine for receiving a printout on paper, or for sending information to the buyer; to this end, the buyer must identify himself, by any known means, for example by entering his telephone number or his e-mail address on the man-machine interface, or by presenting his customer card to a reader belonging to of this man-machine interface.
Selon un septième aspect de l’invention, le système de vision est configuré pour reconnaître ou caractériser un état d’un produit X1 donné. Cet état se déduit typiquement de la modification d’une caractéristique visuellement perceptible du produit. Cette caractéristique visuellement perceptible peut être la couleur. On appelle ici « couleur » une caractéristique optique liée à la longueur d’onde. L’état du produit qui peut être reconnu ou caractérisé à l’aide d’une caractéristique visuellement perceptible, telle que la couleur, peut être l’état de fraîcheur du produit. Cela concerne notamment les produits alimentaires, tels que les fruits et légumes. According to a seventh aspect of the invention, the vision system is configured to recognize or characterize a state of a given product X1. This state is typically deduced from the modification of a visually perceptible characteristic of the product. This visually noticeable feature can be color. An optical characteristic related to wavelength is referred to here as "color". The state of the product which can be recognized or characterized by a visually perceptible characteristic, such as color, may be the state of freshness of the product. This particularly concerns food products, such as fruits and vegetables.
Ladite couleur qui permet d’apprécier l’état du produit peut être une couleur du spectre visible, et/ou une couleur du spectre infrarouge et/ou une couleur du spectre ultraviolet. A cette fin, ledit système de vision peut comprendre un ou plusieurs capteurs supplémentaires qui répondent dans le domaine spectral se situant en dehors du spectre visible, et/ou on utilise un dispositif de captation d’images qui répond à la fois dans le spectre visible et dans un domaine spectral qui se situe en dehors du spectre visible, typiquement dans le proche infrarouge. En particulier, la lumière infrarouge peut permettre la détection de défauts invisibles à l’œil nu, qui se situent au-dessous de la surface de la peau des fruits ou légumes, et qui peuvent annoncer un certain vieillissement du produit. Said color which makes it possible to assess the state of the product may be a color of the visible spectrum, and / or a color of the infrared spectrum and / or a color of the ultraviolet spectrum. To this end, said vision system may comprise one or more additional sensors which respond in the spectral range lying outside the visible spectrum, and / or an image capture device is used which responds both in the visible spectrum. and in a spectral range which lies outside the visible spectrum, typically in the near infrared. In particular, infrared light can allow the detection of defects invisible to the naked eye, which are located below the surface of the skin of fruits or vegetables, and which can indicate a certain aging of the product.
Selon un huitième aspect de l’invention, on utilise l’installation pour adapter la température et / ou la nébulisation de la zone d’intérêt. Dans ce but, ladite installation peut comprendre un système de nébulisation et/ou un système de refroidissement ou de chauffage, qui sont reliés à la machine informatique locale, et dont certains paramètres opératoires sont contrôlés par ladite machine informatique. According to an eighth aspect of the invention, the installation is used to adapt the temperature and / or the nebulization of the area of interest. For this purpose, said installation may comprise a nebulization system and / or a cooling or heating system, which are connected to the local computer machine, and certain operating parameters of which are controlled by said computer machine.
Ledit système de nébulisation comprend un dispositif de diffusion de brouillard relié à un générateur de microgouttelettes de liquide. Ledit dispositif de diffusion comprend au moins un diffuseur de brouillard, qui peut par exemple être un mât s’étendant au-dessus de la surface d’exposition, ou une rampe montée horizontalement au-dessus de la surface d’exposition. Ledit générateur de microgouttelettes comprend avantageusement un système piézoélectrique capable de générer des gouttelettes d’eau d’un diamètre moyen compris entre 1 pm et 10 pm, et de préférence entre 1 pm et 5 pm. Ces systèmes de nébulisation sont connus en tant que tels et ne seront pas décrits ici en plus grand détail. Said nebulization system comprises a mist diffusion device connected to a generator of liquid microdroplets. Said diffusion device comprises at least one mist diffuser, which may for example be a mast extending above the exhibition surface, or a ramp mounted horizontally above the surface. exposure. Said microdroplet generator advantageously comprises a piezoelectric system capable of generating water droplets with an average diameter of between 1 μm and 10 μm, and preferably between 1 μm and 5 μm. These nebulization systems are known as such and will not be described here in greater detail.
Dans un mode de réalisation avantageux, ledit système de nébulisation est configuré de manière à permettre une nébulisation individuellement contrôlée pour chaque zone d’intérêt, ou chaque groupe de zones d’intérêts contiguës. Cela permet d’adapter avec précision l’intensité de la nébulisation à chaque zone d’intérêt (ou chaque groupe de zones d’intérêt contiguës), sans déborder sur une autre zone voisine qui n’aurait pas besoin de nébulisation, ou qui n’aurait pas besoin d’une nébulisation de cette intensité.In an advantageous embodiment, said nebulization system is configured so as to allow individually controlled nebulization for each area of interest, or each group of contiguous areas of interest. This makes it possible to adapt with precision the intensity of the nebulization to each zone of interest (or each group of contiguous zones of interest), without spilling over into another neighboring zone which would not need nebulization, or which does not would not need a nebulization of this intensity.
On note à cet égard qu’un brouillard formé de gouttelettes d’un diamètre moyen compris entre 1 pm et 10 pm, et de préférence entre 1 pm et 5 pm, forme une nappe de brouillard qui flotte au-dessus de la surface d’exposition. Egalement à cause de ce faible diamètre de gouttelettes, cette nappe de brouillard ne mouille pas les produits de manière significative, mais les refroidit par évaporation sur leur surface ou à proximité de leur surface. It is noted in this regard that a mist formed of droplets with an average diameter of between 1 μm and 10 μm, and preferably between 1 μm and 5 μm, forms a sheet of mist which floats above the surface of exposure. Also because of this small droplet diameter, this fog sheet does not significantly wet the products, but cools them by evaporation on their surface or near their surface.
Différents moyens peuvent être mis en œuvre pour adapter l’intensité de la nébulisation issu d’un dispositif de diffusion de brouillard. On peut par exemple utiliser des rampes comprenant chacune une pluralité d’orifices de nébulisation dont le débit de brouillard peut être régulé à l’aide d’un mécanisme de régulation du débit, par exemple par étranglement ; un tel mécanisme peut s’appliquer à toute une rampe ou aux orifices individuels. Ce mécanisme peut être actionné par tout moyen connu, tel qu’un moteur pas à pas ou un dispositif de déplacement piézoélectrique. Various means can be implemented to adapt the intensity of the nebulization from a mist diffusion device. For example, it is possible to use ramps each comprising a plurality of nebulization orifices, the mist flow of which can be regulated using a flow regulation mechanism, for example by throttling; such a mechanism can be applied to an entire ramp or to individual orifices. This mechanism can be actuated by any known means, such as a stepping motor or a piezoelectric displacement device.
On peut également prévoir des moyens permettant de réguler (i.e. diminuer ou augmenter) le débit de brouillard au niveau du générateur de brouillard. Dans le cas de générateurs piézoélectriques, on peut ajuster la puissance électrique absorbée par l’élément piézoélectrique. Un générateur de brouillard peut desservir une ou plusieurs zones d’intérêt. Un générateur peut comporter plusieurs éléments piézoélectriques, individuellement réglables, dont chacun dessert une zone d’intérêt différente. Means can also be provided making it possible to regulate (i.e. reduce or increase) the flow of fog at the level of the fog generator. In the case of piezoelectric generators, the electrical power absorbed by the piezoelectric element can be adjusted. A fog generator can serve one or more areas of interest. A generator can have multiple, individually adjustable piezoelectric elements, each of which serves a different area of interest.
La régulation au niveau du générateur permet de produire juste la quantité de brouillard qui est désirée, alors que dans le cas précédent de la régulation par étranglement, une quantité significative de brouillard produit est perdue. Ledit système de refroidissement ou de chauffage refroidit ou chauffe avantageusement au moins une partie de la surface d’exposition. Un tel système de refroidissement comprend avantageusement une plaque refroidie ; cette dernière forme typiquement au moins une partie de la surface d’exposition, de manière à ce que les produits reposent sur cette plaque refroidie. De telles plaques refroidies destinées à équiper des étals existent dans le commerce et ne seront pas décrites ici en plus grand détail. Il en est de même des plaques chauffantes utilisables dans le cadre de la présente invention. Regulation at the generator makes it possible to produce just the amount of fog that is desired, whereas in the previous case of throttling regulation a significant amount of the fog produced is wasted. Said cooling or heating system advantageously cools or heats at least part of the exhibition surface. Such a cooling system advantageously comprises a cooled plate; the latter typically forms at least part of the display surface, so that the products rest on this cooled plate. Such cooled plates intended to equip stalls exist commercially and will not be described here in greater detail. The same is true of the heating plates which can be used in the context of the present invention.
Selon un mode de réalisation, le système selon l’invention est configuré de manière à ce que l’intensité de nébulisation et/ou la température de consigne du système de refroidissement ou de chauffage puisse être modifiée en fonction d’un état du produit reconnu ou caractérisé par le système. A titre d’exemple, on a constaté que la couleur de poivrons évolue lorsqu’ils sèchent. Dans un mode de réalisation du procédé selon l’invention, cette évolution est reconnue par le système de vision, et l’intensité de la nébulisation est modifiée pour être adaptée à cet état des poivrons reconnus par le système de vision. According to one embodiment, the system according to the invention is configured so that the intensity of nebulization and / or the setpoint temperature of the cooling or heating system can be modified according to a recognized product state. or characterized by the system. For example, it has been found that the color of peppers changes as they dry. In one embodiment of the method according to the invention, this evolution is recognized by the vision system, and the intensity of the nebulization is modified to be adapted to this state of the peppers recognized by the vision system.
On décrit maintenant quelques modes de réalisation de l’invention, notamment en se référant aux figures. A few embodiments of the invention will now be described, in particular with reference to the figures.
La figure 1 montre une installation 1 pour l’exposition de produits selon l’invention. L’installation comprend une surface 2 d’exposition de produits montée sur une base 12. L’installation comprend une superstructure 10, qui comprend des mâts 8 verticaux, reliés par des traverses 9. Ladite superstructure 10 supporte des dispositifs d’éclairage 7, et des systèmes de restitution d’information 4, en l’occurrence des écrans d’affichage. Ces écrans 4 peuvent être fixés directement sur un mât 8, ou sur une poutre 11 supportée par un mât 8. Figure 1 shows an installation 1 for the exhibition of products according to the invention. The installation comprises a product display surface 2 mounted on a base 12. The installation comprises a superstructure 10, which comprises vertical poles 8, connected by crossbars 9. Said superstructure 10 supports lighting devices 7, and information restitution systems 4, in this case display screens. These screens 4 can be attached directly to a mast 8, or to a beam 11 supported by a mast 8.
Le mât supporte également un système de vision 3, en l’occurrence un boîtier qui comprend un dispositif de captation d’images, caractérisé par un périmètre de captation 18, et un dispositif capable de détecter l’entrée d’un objet dans un périmètre de détection ; ce périmètre de détection se situe typiquement à l’intérieur dudit périmètre de captation 18 du système de vision 3. The mast also supports a vision system 3, in this case a box which comprises an image capture device, characterized by a capture perimeter 18, and a device capable of detecting the entry of an object into a perimeter. detection; this detection perimeter is typically located within said sensing perimeter 18 of the vision system 3.
Le système de vision 3 communique par une liaison informatique (non montrée sur cette figure), qui peut être de type filaire ou sans fil, avec une machine informatique locale 29, qui est typiquement disposée dans la base de l’installation 1. Cette machine informatique locale 29 est configurée pour traiter les données générées par le système de vision 3, notamment les images captées par le dispositif de captation d’images et les données générées par le dispositif capable de détecter l'entrée d’un objet dans un périmètre de détection. Ladite machine informatique peut aussi contrôler l’affichage d’information sur les écrans 4. L’installation 1 comprend encore une interface homme-machine 5, en l’occurrence une tablette tactile, disposée à proximité de l’écran d’affichage 4. Cette interface homme-machine 5 communique également avec ladite machine informatique locale 29, qui est configurée pour traiter les données qu’elle génère et pour lui envoyer des données qu’elle restitue à l’acheteur. The vision system 3 communicates by a computer link (not shown in this figure), which can be of the wired or wireless type, with a local computer machine 29, which is typically disposed in the base of the installation 1. This local computer machine 29 is configured to process the data generated by the vision system 3, in particular the images captured by the image capture device and the data generated by the device capable of detecting the entry of an object into a detection perimeter. Said computer machine can also control the display of information on the screens 4. The installation 1 further comprises a man-machine interface 5, in this case a touch pad, placed near the display screen 4. This man-machine interface 5 also communicates with said local computer machine 29, which is configured to process the data that it generates and to send it data that it returns to the buyer.
La surface d’exposition 2 est occupée par trois tas de produits 6a, 6b, 6c, chacun d’une espèce donnée, disposés selon le cas en vrac ou de manière ordonnée, formant ainsi trois zones d’intérêt. Chacune de ces zones d’intérêt est surmontée par un dispositif de diffusion de brouillard 13. Ce dernier comporte dans cet exemple une rampe horizontale comportant deux orifices de nébulisation 14 qui répandent du brouillard 15 sur les produits 6c posées sur une zone d’intérêt de la surface 2 d’exposition de produits ; d’autres types de diffuseurs peuvent être utilisés. Le brouillard est généré par un générateur de brouillard 30 qui est typiquement disposé dans la base 12 de l’installation 1, et acheminé aux dispositifs de diffusion de brouillard 13 par un système de conduits (non montré sur les figures). Avantageusement on utilise un générateur de brouillard piézoélectrique ; ces dispositifs sont connus en tant que tels et ne seront pas décrits ici en plus grand détail. Display area 2 is occupied by three piles of products 6a, 6b, 6c, each of a given species, arranged in bulk or in an orderly manner, as appropriate, thus forming three areas of interest. Each of these areas of interest is surmounted by a mist diffusion device 13. The latter comprises in this example a horizontal ramp comprising two nebulization orifices 14 which spread mist 15 on the products 6c placed on an area of interest of product display area 2; other types of diffusers can be used. The fog is generated by a fog generator 30 which is typically disposed in the base 12 of the installation 1, and conveyed to the fog diffusion devices 13 by a system of ducts (not shown in the figures). Advantageously, a piezoelectric fog generator is used; these devices are known as such and will not be described here in greater detail.
Dans cet exemple, l’installation 1 fait partie d’un réseau radioélectrique, par l’intermédiaire d’un premier émetteur - récepteur 16, qui est montée typiquement sur un mât 8. Ledit premier émetteur - récepteur est typiquement contrôlé par la machine informatique locale 29. Il fait partie d’un réseau radioélectrique et communique avec un deuxième émetteur - récepteur 17, qui est relié, typiquement par l’intermédiaire d’une machine informatique centrale 23 (montrée la figure 4), à un écran déporté 20 (« déporté » par rapport à l’installation 1) qui affiche des informations à l’intention du personnel du magasin. Ladite machine informatique centrale 23 est configurée pour communiquer avec plusieurs installations selon l’invention. In this example, the installation 1 is part of a radio network, via a first transceiver 16, which is typically mounted on a mast 8. Said first transceiver is typically controlled by the computer machine. local 29. It forms part of a radio network and communicates with a second transceiver 17, which is connected, typically via a central computer machine 23 (shown in FIG. 4), to a remote screen 20 ( "Remote" from the facility 1) which displays information for store staff. Said central computer machine 23 is configured to communicate with several installations according to the invention.
Dans l’exemple de la figure 1, cette information affichée est une courbe qui représente la quantité de l’un des produits d’une espèce donnée 6a. Cette quantité diminue en fonction du temps, jusqu’à tomber au-dessous d’une valeur seuil 21 prédéterminée ; cet évènement déclenche alors une alerte à l’intention du personnel du magasin qui réapprovisionne le produit 6a concerné, ce qui explique qu’à la détermination suivante, la quantité de de produit 6a détectée par le système de vision 3 a augmenté. In the example of FIG. 1, this information displayed is a curve which represents the quantity of one of the products of a given species 6a. This quantity decreases according to time, until it falls below a predetermined threshold value 21; this event then triggers an alert for the employees of the store who replenishes the product 6a concerned, which explains that at the next determination, the quantity of product 6a detected by the vision system 3 has increased.
La figure 2 montre un autre exemple d’une installation 1, qui ne comporte pas de système de nébulisation, mais deux zones comportant chacune quatre plaques refroidies 19a,19b,19c,19d. Chaque interface homme-machine 5, en occurrence une tablette, est associée à une imprimante 22 qui permet à l’acheteur d’imprimer des informations spécifiques au produit. Ladite imprimante 22 peut être contrôlée directement par l’interface homme-machine 5 ou par la machine informatique locale 29. Figure 2 shows another example of an installation 1, which does not include a nebulization system, but two zones each comprising four cooled plates 19a, 19b, 19c, 19d. Each human-machine interface 5, in this case a tablet, is associated with a printer 22 which allows the purchaser to print product-specific information. Said printer 22 can be controlled directly by the man-machine interface 5 or by the local computer machine 29.
La figure 3 illustre de manière schématique un exemple d’estimation du volume de produits d’une espèce donnée, pour le cas d’une surface d’exposition inclinée à deux pentes. Figure 3 illustrates schematically an example of an estimation of the volume of products of a given species, for the case of an inclined exhibition surface with two slopes.
En effet, si la surface de la zone d’intérêt de l’étal est inclinée, l’estimation du volume des produits peut être faussée par cette inclinaison. Pour remédier à ce problème, on détermine l’équation d’un plan de référence ou de deux plans sur deux inclinaisons, et pour chaque image de profondeur on soustrait l’équation du plan, ce qui permet d’obtenir le volume qui se situe au-dessus du plan de la table, et qui correspond aux produits dans la zone d’intérêt. Indeed, if the surface of the area of interest of the stall is inclined, the estimate of the volume of products may be distorted by this inclination. To remedy this problem, we determine the equation of a reference plane or of two planes on two inclinations, and for each depth image we subtract the equation from the plane, which makes it possible to obtain the volume which is located above the plane of the table, and which corresponds to the products in the area of interest.
Dans ce but on définit plusieurs marqueurs qui sont ensuite détectés par le système. A l’aide de ces marqueurs on détermine un ou plusieurs paramètres représentatifs de cette inclinaison. Il peut s’agir par exemple de l’angle d’inclinaison par rapport à l’horizontale. Dans l’exemple de la figure 3 on utilise six marqueurs M1 M6 qui seront détectés par le System de vision 3 relié à une machine informatique locale 29. On calcule ainsi l’angle d’inclinaison a et possiblement aussi la largeur L et la hauteur h. Ces deux distances peuvent être exprimées en unités de longueur et/ou en pixels. Cette surface sera ensuite soustraite du volume apparent des produits déterminé par le système de vision. For this purpose, several markers are defined which are then detected by the system. Using these markers, one or more parameters representative of this inclination are determined. This could be, for example, the angle of inclination from the horizontal. In the example of FIG. 3, six markers M1 M6 are used which will be detected by the vision system 3 connected to a local computer machine 29. The angle of inclination a and possibly also the width L and the height are thus calculated. h. These two distances can be expressed in units of length and / or in pixels. This surface will then be subtracted from the apparent volume of the products determined by the vision system.
La figure 4 illustre de manière schématique un réseau radioélectrique 26 selon l’invention. Il comprend une pluralité d’installations 1 selon l’invention, dont chacune comporte son premier émetteur-récepteur 16, son système de restitution d’informations 4 (tel qu’un écran d’affichage) et son interface homme-machine 5 destinée à être utilisée par un acheteur 27. Ledit système de restitution d’informations 4 et ladite interface homme- machine 5 communiquent avec le premier émetteur-récepteur par une liaison informatique 25 qui peut être filaire ou sans fil, et qui peut impliquer un microprocesseur. FIG. 4 schematically illustrates a radio network 26 according to the invention. It comprises a plurality of installations 1 according to the invention, each of which comprises its first transceiver 16, its information reproduction system 4 (such as a display screen) and its man-machine interface 5 intended to be used by a buyer 27. Said information rendering system 4 and said man-machine interface 5 communicate with the first transceiver by a computer link 25 which can be wired or wireless, and that may involve a microprocessor.
Lesdits premiers émetteurs-récepteurs 16 sont configurés pour communiquer avec un deuxième émetteur-récepteur 17. Ce dernier communique dans cet exemple avec une machine informatique externe 23. Cette communication est bidirectionnelle. Ladite machine informatique externe 23 est reliée à un écran déporté 20, qui affiche des informations destinées au personnel de gestion du rayon ou du magasin. Said first transceivers 16 are configured to communicate with a second transceiver 17. The latter communicates in this example with an external computer machine 23. This communication is bidirectional. Said external computer machine 23 is connected to a remote screen 20, which displays information intended for department or store management personnel.
Un acheteur 27 peut exprimer sur l’interface homme-machine 5 d’une des installations 1 sa volonté de recevoir des informations sur son téléphone portable 24 ou sur un autre récepteur qu’il a désigné ; à cette fin, ladite machine informatique externe communique avec un réseau radioélectrique externe, qui dispose d’un émetteur-récepteur 28 dit externe, et qui est configuré pour communiquer avec le téléphone portable 24 de l’acheteur 27. A buyer 27 can express on the man-machine interface 5 of one of the installations 1 his desire to receive information on his mobile phone 24 or on another receiver that he has designated; to this end, said external computer machine communicates with an external radio network, which has a so-called external transceiver 28, and which is configured to communicate with the mobile phone 24 of the purchaser 27.
Dans une variante, la machine informatique externe 23 (ou la machine informatique locale 29, notamment si les données sur la quantité sont traitées par elle) est configurée pour communiquer avec un récepteur mobile porté par une personne responsable du rayon auquel appartient l’installation ; de cette manière ladite personne peut être averti du besoin de réapprovisionner l’installation en produits d’une espèce donnée. In a variant, the external computer machine 23 (or the local computer machine 29, in particular if the data on the quantity are processed by it) is configured to communicate with a mobile receiver carried by a person responsible for the department to which the installation belongs; in this way said person can be alerted to the need to restock the facility with products of a given species.
La figure 5 montre un diagramme qui illustre un mode de réalisation pour le procédé d’affichage sur les écrans 3 d’une installation 1 selon l'invention. A l’étape 100, l’écran 4 affiche un contenu relatif aux différentes zones d’intérêt de l’installation ; ce contenu peut être sélectionné de manière aléatoire parmi tous les contenus disponibles pour cette installation. Après une certaine durée Ati, à l’étape 110 une requête est émise pour savoir si une zone d’intérêt a été sélectionnée par le système. Cette sélection peut notamment être déclenchée par la détection d’un évènement par le dispositif capable de détecter la pénétration d’un objet dans le périmètre de détection qui se situe au-dessus d’une zone d’intérêt. Si le système ne sélectionne pas une zone d’intérêt (étape 120), le procédé recommence avec l’étape 100. Si une zone d’intérêt a été sélectionnée (étape 130), le système affiche sur l’écran 4 associé à la zone d’intérêt sélectionnée un contenu associé à la zone d’intérêt sélectionnée (étape 140), en fonction du produit qui avait préalablement été identifié sur cette zone d’intérêt par le système de vision. La durée de cet affichage peut être prédéterminée (par exemple 10 secondes). A la fin de cette durée d’affichage (étape 150) le procédé retourne à l’étape de requête (étape 110). FIG. 5 shows a diagram which illustrates an embodiment for the method of display on the screens 3 of an installation 1 according to the invention. In step 100, the screen 4 displays content relating to the various areas of interest of the installation; this content can be selected at random from all the content available for this installation. After a certain duration Ati, in step 110 a request is sent to find out whether an area of interest has been selected by the system. This selection can in particular be triggered by the detection of an event by the device capable of detecting the penetration of an object into the detection perimeter which is located above an area of interest. If the system does not select an area of interest (step 120), the method starts over with step 100. If an area of interest has been selected (step 130), the system displays on the screen 4 associated with the selected area of interest a content associated with the selected area of interest (step 140), depending on the product that had previously identified on this area of interest by the vision system. The duration of this display can be predetermined (for example 10 seconds). At the end of this display period (step 150), the method returns to the request step (step 110).
On décrit ici un mode de réalisation d’un réseau de neurones artificiel pour mettre en oeuvre le procédé selon l’invention. Le réseau de neurones artificiel utilise le système Mask R-CNN, qui a été mentionné ci-dessus. En utilisant les caractéristiques en sortie de ce réseau de neurones artificiel on peut ensuite entraîner en parallèle trois réseaux, à savoir : un classifieur pour reconnaître les produits (par exemple des fruits et légumes), un réseau pour déterminer le cadre de limitation (« bounding box »), et un réseau pour identifier le masque de l’instance du produit détecté. Pour évaluer les performances du réseau on peut utiliser une métrique appelé « Mean Average Précision » avec un seuil de 0,5. An embodiment of an artificial neural network for implementing the method according to the invention is described here. The artificial neural network uses the Mask R-CNN system, which was mentioned above. By using the output characteristics of this artificial neural network, three networks can then be trained in parallel, namely: a classifier to recognize the products (for example fruits and vegetables), a network to determine the limitation framework ("bounding box ”), and a network to identify the mask of the instance of the product detected. To evaluate the performance of the network, we can use a metric called “Mean Average Precision” with a threshold of 0.5.
Pour chaque espèce de produits, les données d’entrée sont générées avec une bibliothèque comportant des photographies réelles de produits, sur lesquelles on délimite les objets qui correspondent à ces produits. A ce titre, il est utile d’utiliser des photographies prises dans des conditions différentes, car cela aide le réseau à généraliser l’objet ; si les prises de vue sont trop similaires, il se produit un phénomène connu sous le nom de surapprentissage (« overfitting ») : le réseau de neurones reconnaît parfaitement les produits sur des prises de vue identiques, mais n’arrive pas à généraliser, c’est-à-dire n’arriver pas à reconnaître des prises de vue des produits de la même espèce prises dans des conditions différentes, ou de produits de la même espèce de forme ou de disposition différente (par exemple des courges de longueur et de courbure différentes). For each species of products, the input data is generated with a library comprising actual photographs of products, on which the objects that correspond to these products are delimited. As such, it is useful to use photographs taken under different conditions, as this helps the network to generalize the object; if the shots are too similar, a phenomenon known as overfitting occurs: the neural network perfectly recognizes the products on identical shots, but cannot generalize, c 'that is, fail to recognize shots of products of the same species taken under different conditions, or of products of the same species of different shape or arrangement (e.g. squash of different length and different curvature).
Afin d’aider le réseau de neurones à généraliser le produit, dans une étape appelée augmentation, on modifie les prises de vue initiales par une ou deux transformations aléatoires sélectionnées dans le groupe suivant : la rotation (de 60°, 120° ou 360°), le miroir (vertical ou horizontal), le changement de luminosité, le flou gaussien, l’ajout de bruit gaussien, les transformations affines (translations), la mise à l’échelle (de préférence par un facteur choisi dans l’intervalle [0,5, 1,2]). In order to help the neural network to generalize the product, in a step called augmentation, we modify the initial shots by one or two random transformations selected from the following group: rotation (of 60 °, 120 ° or 360 ° ), mirror (vertical or horizontal), change in brightness, Gaussian blur, addition of Gaussian noise, affine transformations (translations), scaling (preferably by a factor chosen in the range [0.5, 1.2]).
Dans un mode de réalisation avantageux, on divise ensuite l’apprentissage par le réseau Mask R-CNN en trois étapes : dans une première étape on utilise 15 périodes d’apprentissage (« epochs ») avec un taux d’apprentissage (« learning rate ») T donné, dans une deuxième étape on utilise 15 autres périodes avec un taux d’apprentissage T/10, dans une troisième étape on utilise 10 autres périodes avec un taux d’apprentissage T/50. Dans la mesure où le taux d’apprentissage contrôle le pas de convergence, il est avantageux de procéder par étapes successives, en diminuant le taux d’apprentissage pour chacune de ces étapes. Cette approche, connue en intelligence artificielle, permet de minimiser le temps de calcul et évite que le modèle mathématique ne reste bloqué dans un minimum local. In an advantageous embodiment, the learning by the Mask R-CNN network is then divided into three steps: in a first step, 15 learning periods (“epochs”) are used with a learning rate (“learning rate”). ") T given, in a second step 15 other periods are used with a learning rate T / 10, in a third step 10 other periods are used with a learning rate T / 50. Insofar as the learning rate controls the convergence step, it is advantageous to proceed in successive steps, reducing the learning rate for each of these steps. This approach, known in artificial intelligence, makes it possible to minimize the calculation time and prevents the mathematical model from getting stuck in a local minimum.
Sur le squelette de réseau ResNet 101 on peut par exemple utiliser 300 pas par période et un taux d’apprentissage initial de 0,001. On the ResNet 101 network backbone, for example, you can use 300 steps per period and an initial learning rate of 0.001.
La figure 6 illustre de manière schématique un procédé utilisé pour déterminer la cartographie de la surface d’exposition 2 d’une installation 1 selon l’invention. FIG. 6 schematically illustrates a method used to determine the mapping of the exhibition surface 2 of an installation 1 according to the invention.
Dans une première étape 210 appelée ici « agencement de la surface d’exposition », on dépose plusieurs cageots sur la surface d’exposition de produits 2, chaque cageot étant rempli de produits d’une seule espèce ; différents cageots peuvent contenir différents produits. Alternativement ou en plus, on empile sur différentes zones 6 de la surface d’exposition 2 des produits d’une seule espèce ; différentes zones peuvent contenir différents produits. Il est préférable que lesdites zones soient délimitées entre elles ; cela peut se faire typiquement en utilisant des cageots (le cas échéant un espace entre deux cageots peut être utilisé comme une zone), ou en prévoyant une délimitation entre les zones, par exemple sous la forme d’un séparateur délimitant deux zones limitrophes, ou encore en positionnant les produits de manière à ce qu’ils forment des zones séparées, nsans se mélanger. Lesdits produits peuvent être des fruits ou légumes. Dans une deuxième étape 220, le système prend une prise de vue de l’étal ou d’une partie de l’étal à l’aide du système de vision 3 ; on obtient ainsi une image de tout ou partie de la surface d’exposition 2 de l’installation 1. In a first step 210 called here "arrangement of the display surface", several crates are placed on the product display surface 2, each crate being filled with products of a single species; different crates may contain different products. Alternatively or in addition, products of a single species are stacked on different zones 6 of the display surface 2; different areas may contain different products. It is preferable that said zones are delimited between them; this can typically be done by using crates (where appropriate a space between two crates can be used as a zone), or by providing a delimitation between the zones, for example in the form of a separator delimiting two bordering zones, or again by positioning the products so that they form separate zones without mixing. Said products can be fruits or vegetables. In a second step 220, the system takes a picture of the stall or part of the stall using the vision system 3; we thus obtain an image of all or part of the exhibition surface 2 of the installation 1.
Dans une troisième étape 230 le système analyse l’image pour reconnaître les différentes zones, chaque zone ne contenant (de manière visible sur la prise de vue) que des produits d’une même espèce, sachant que certaines zones peuvent être contenir le même produit. Ce produit est ensuite identifié (quatrième étape 240), de préférence par son espèce, sinon par sa couleur et/ou sa forme. Cette identification peut se faire de différentes manières : pour les produits qui peuvent être définis (et distingués de produits d’espèces différentes présents sur la surface d’exposition) par leur forme géométrique et/ou par leur couleur on peut utiliser une méthode d’analyse d’image qui recherche les contours et les couleurs des surfaces. Pour d’autres produits, et notamment pour la plupart des fruits et légumes, on utilise un logiciel comportant un système neuronal artificiel, comme cela sera décrit plus loin ; ce système est configuré pour reconnaître automatiquement l’espèce d’un certain nombre de produits qui n’ont pas besoin d’être identiques, pour autant qu’ils appartiennent à cette même espèce. In a third step 230, the system analyzes the image to recognize the different zones, each zone containing (in a visible manner on the shot) only products of the same species, knowing that certain zones may contain the same product. . This product is then identified (fourth step 240), preferably by its species, if not by its color and / or its shape. This identification can be done in different ways: for products which can be defined (and distinguished from products of different species present on the exhibition surface) by their geometric shape and / or by their color, a method of image analysis that searches for the contours and colors of surfaces. For other products, and in particular for most fruits and vegetables, software is used comprising an artificial neural system, as will be described below; this system is configured to automatically recognize the species of a number of products which do not need to be identical, as long as they belong to the same species.
Le produit peut être reconnu par sa forme et/ou sa couleur. Pour le désigner, le système lui assigne un identifiant, qui peut être une étiquette quelconque (numérique par exemple), ou plus précisément une image type sélectionnée dans une bibliothèque d’images (par exemple une image montant une banane ou une image montrant une aubergine), ou un nom (par exemple « banane » ou « aubergine »). Avantageusement, le système détermine également un indice de confiance pour cette identification ou reconnaissance. The product can be recognized by its shape and / or color. To designate it, the system assigns it an identifier, which can be any label (digital for example), or more precisely a typical image selected from an image library (for example an image showing a banana or an image showing an eggplant. ), or a name (for example "banana" or "aubergine"). Advantageously, the system also determines a confidence index for this identification or recognition.
Dans une variante avantageuse le produit peut être reconnu par un système neuronal artificiel, configuré comme décrit ci-dessus. Dans ce cas les étapes de reconnaissance 230 et d’identification 240 (y compris l’attribution d’un identificant) sont inséparables et effectuées en même temps. In an advantageous variant, the product can be recognized by an artificial neural system, configured as described above. In this case, the steps of recognition 230 and identification 240 (including the allocation of an identifier) are inseparable and carried out at the same time.
Dans une variante avantageuse, compatible avec toutes le sautes variantes décrites ici, le système est configuré pour permettre à l’utilisateur (chef de rayon par exemple) de modifier cet identifiant, notamment si l’identification est erronée, ou d’ajouter un identifiant si aucun identiant n’a été proposé par le système pour une zone donnée. In an advantageous variant, compatible with all the variant jumps described here, the system is configured to allow the user (department manager for example) to modify this identifier, in particular if the identification is incorrect, or to add an identifier. if no identifier has been proposed by the system for a given zone.
Ainsi on obtient une première cartographie de la surface d’exposition. Thus we obtain a first mapping of the exhibition area.
Cette opération de cartographie peut être effectuée à l’ouverture du magasin, ou elle peut être répété à chaque fois que la disposition des produits sur les zones de la surface d’exposition changent, par exemple lorsqu’un produit d’une espèce donnée est épuisé et doit etre remplacé par un produit d’une autre espèce. Comme indiqué ci-dessus, l’installation selon l’invention peut être utilisée avec des produits de différentes espèces vendus en vrac. Elle peut être utilisée avec des produits végétaux de même espèce mais appartenant à différentes variétés. A titre d’exemple, différentes variétés végétales appartenant à l’espèce « poire » pourront être traitées comme des « espèces » différentes, c’est-à-dire que l’installation selon l’invention peut être configurée pour distinguer entre différents variétés de poires, telles que les variétés Abate, Céléna, Passe-Crassane, Comice, qui se distinguent par leur forme et/ou leur couleur et/ou d’autres caractéristiques visuellement perceptibles. This mapping operation can be done when the store opens, or it can be repeated whenever the arrangement of products on areas of the display area changes, for example when a product of a given species is exhausted and must be replaced by a product of another species. As indicated above, the installation according to the invention can be used with products of different species sold in bulk. It can be used with plant products of the same species but belonging to different varieties. By way of example, different plant varieties belonging to the “pear” species can be treated as different “species”, that is to say that the installation according to the invention can be configured to distinguish between different varieties. pears, such as the varieties Abate, Céléna, Passe-Crassane, Comice, which are distinguished by their shape and / or color and / or other visually perceptible characteristics.
L’invention peut être réalisée avec de nombreuses variantes et/ou fonctionnalités supplémentaires, qui peuvent être combinées entre elles, et qui peuvent être combinées avec tous les modes de réalisation et toutes les variantes décrites ci-dessus avec lesquels elles sont compatibles. The invention can be realized with numerous variants and / or additional functionalities, which can be combined with one another, and which can be combined with all the embodiments and all the variants described above with which they are compatible.
Selon une première variante le système peut être configuré pour identifier une cagette, pour déterminer leur position sur les zones, et/ou pour les compter. Selon une autre variante, le système est configuré pour compter le nombre d’évènements de pénétration d’objets de type « main » ou « bras » dans le périmètre de détection par unité de temps (par exemple toutes les heures). Cette information peut être transmise au personnel, et plus particulièrement à l’aide d’un écran déporté 20 qui affiche des informations à l’intention du personnel du magasin, ou à l’aide de la machine informatique centrale 23. According to a first variant, the system can be configured to identify a crate, to determine their position on the zones, and / or to count them. According to another variant, the system is configured to count the number of penetration events of objects of the "hand" or "arm" type in the detection perimeter per unit of time (for example every hour). This information can be transmitted to the staff, and more particularly by means of a remote screen 20 which displays information for the employees of the store, or by means of the central computer machine 23.
Exemples Examples
Exemple 1 : Entraînement du logiciel de reconnaissance Example 1: Training recognition software
Le logiciel de reconnaissance visuelle a été entraîné grâce à des prises de vue de fruits et légumes réalisées dans différentes conditions de point de vente (ambiance sèche, humidification, éclairage etc.), avec des niveaux de dégradation ou de stades de fraîcheur différents. On a également généré à partir de ces prises de vue d’autres images en y ajoutant du bruit, du flou, et/ou en modifiant le grandissement. Cet essai a été effectué avec une soixantaine d’espèces et de variétés de fruits et légumes : On a utilisé les espèces suivantes : laitue, carotte, poivron, aubergine, tomate, poireau, courgette, concombre, chou-fleur, pomme, poire, banane, pitaya, carambole, mangoustan, kaki, haricot vert, prune. Pour les pommes, poires, tomates, courgettes, poivrons on a utilisé plusieurs variétés, à savoir : The visual recognition software was trained by taking pictures of fruits and vegetables taken under different point-of-sale conditions (dry atmosphere, humidification, lighting, etc.), with different levels of degradation or stages of freshness. Other images were also generated from these shots by adding noise, blurring, and / or modifying the magnification. This test was carried out with about sixty species and varieties of fruits and vegetables: The following species were used: lettuce, carrot, pepper, eggplant, tomato, leek, zucchini, cucumber, cauliflower, apple, pear, banana, pitaya, carambola, mangosteen, persimmon, green bean, plum. For apples, pears, tomatoes, zucchini, peppers, several varieties were used, namely:
- Pommes : Breaburn, Reinette grise du Canada, Chantecler, Elstar, Envy®, Fuji, Golden, Granny Smith, Jazz™, Pink Lady®, Royal Gala, Red Delicious. - Apples: Breaburn, Reinette grise du Canada, Chantecler, Elstar, Envy®, Fuji, Golden, Granny Smith, Jazz ™, Pink Lady®, Royal Gala, Red Delicious.
- Poires : Abate, Céléna, Passe-Crassane, Comice, Conférence, Guyot, Louise Bonne, Rocha, Williams, Williams rouge. - Pears: Abate, Céléna, Passe-Crassane, Comice, Conférence, Guyot, Louise Bonne, Rocha, Williams, Williams red.
- Poivrons : poivron vert, poivron orange, poivron rouge. - Peppers: green pepper, orange pepper, red pepper.
- Courgettes : fleurs de courgettes, courgette ronde, courgette trompette, courgette blanche, courgette jaune. - Zucchini: zucchini flowers, round zucchini, trumpet zucchini, white zucchini, yellow zucchini.
Tomates : tomate marmande, tomate Yoom™, tomate longue, tomate verte, tomate ananas, tomate noire, tomate cerise, tomate cocktail, tomate cocktail en grappe, tomate beef. Tomatoes: marmande tomato, Yoom ™ tomato, long tomato, green tomato, pineapple tomato, black tomato, cherry tomato, cocktail tomato, cluster cocktail tomato, beef tomato.
Pour chaque espèce ou variété, un lot de plusieurs colis de la même origine a été acheté chez un grossiste, puis scindé en échantillons disposés dans les différentes ambiances de point de vente pour capter des images qui ont ensuite été utilisées pour entraîner le réseau de neurones artificiel, comme cela a été décrit ci-dessus. On a utilisé entre environ 50 et environ 100 prises de vue initiales différentes pour chaque espèce de produit, avant la phase d’augmentation décrite ci-dessus. Le fait d’utiliser un nombre plus important de prise de vue initiales tend à améliorer le résultat (i.e. améliore la justesse de la reconnaissance de l’espèce du produit), à condition que ces prises de vue soient différentes et ne concernent pas toutes le même produit individualisé ; il faut en effet éviter le phénomène de surapprentissage mentionné ci-dessus. For each species or variety, a batch of several packages of the same origin was purchased from a wholesaler, then split into samples arranged in the different environments of the point of sale to capture images which were then used to train the neural network. artificial, as described above. Between about 50 and about 100 different initial shots were used for each species of product, prior to the augmentation phase described above. The fact of using a larger number of initial shots tends to improve the result (ie improves the accuracy of the recognition of the species of the product), provided that these shots are different and do not all concern the product. same individualized product; the phenomenon of overfitting mentioned above must in fact be avoided.
On constate que pour la reconnaissance des produits, le nombre de faux positifs est faible (à titre d’exemple, lors d’un de ces essais, dans environ un cas sur 12, une aubergine a été détectée comme une courgette). Cette erreur peut être corrigée manuellement par l’opérateur. We note that for product recognition, the number of false positives is low (for example, during one of these tests, in about one in 12 cases, an eggplant was detected as a zucchini). This error can be corrected manually by the operator.
Exemple 2 Example 2
Dans cet exemple on a utilisé un étal équipé de nébulisateurs de type Nebuléco™ et d’une plaque réfrigérée, ainsi que d’un module de profondeur Intel® RealSense™ D435, qui comprend une caméra couleur et une caméra de profondeur ; cette dernière comprend un émetteur infrarouge et deux détecteurs infrarouge. In this example there was used a stall equipped with Nebuléco ™ type nebulizers and a refrigerated plate, and a module depth Intel ® RealSense ™ D435 that includes a color camera, and a depth camera; the latter includes an infrared emitter and two infrared detectors.
On a posé plusieurs cagettes de la surface d’exposition de l’étal, chaque cagette contenant des fruits ou légumes d’une espèce donnée. On a lancé le procédé de reconnaissance des produits. On a ensuite lancé le procédé d’estimation du volume des produits. Several crates were placed on the display surface of the stall, each crate containing fruits or vegetables of a given species. We started the product recognition process. The process of estimating the volume of products was then started.
On a affiché l’image avec les produits reconnus sur un écran, avec une estimation de leur volume. The image with the recognized products was displayed on a screen, along with an estimate of their volume.
On a envoyé une information de pilotage aux nébulisateurs et à la plaque réfrigérée, pour adapter la nébulisation dans au moins une zone d’intérêt et/ou pour adapter la réfrigération de la plaque réfrigérée. Piloting information was sent to the nebulizers and to the chill plate, to adapt nebulization in at least one area of interest and / or to adapt the chill plate refrigeration.
On a ensuite diminué le volume de fruits ou légumes dans certaines cagettes, et on a lancé le procédé d’estimation du volume des produits, et les autres étapes décrites ci- dessus. We then decreased the volume of fruits or vegetables in some crates, and we started the process of estimating the volume of products, and the other steps described above.
On a également déplacé des cagettes, ou interverti des cagettes, et on a relancé le procédé de reconnaissance des produits, puis le procédé d’estimation du volume des produits et les autres étapes décrites ci-dessus. On constate que le système reconnaît les produits sur les différentes zones d’intérêt de la surface d’exposition ; il adapte les messages qui sont délivrés sur l’écran d’affichage lorsque la main d’un acheteur pénètre dans le périmètre au-dessus d’un produit donné, à ce produit. We also moved crates, or swapped crates, and we restarted the product recognition process, then the product volume estimation process and the other steps described above. It can be seen that the system recognizes products in the different areas of interest of the exhibition area; it adapts the messages that are delivered on the display screen when a buyer's hand enters the perimeter above a given product, to that product.
Exemple d’utilisation 1 Example of use 1
L’acheteur s’approche d’une installation et rentre avec sa main dans le périmètre de captation du système de vision, au-dessus d’une zone d’intérêt sur laquelle se trouve le produit auquel il s’intéresse. The buyer approaches an installation and enters with his hand into the sensing perimeter of the vision system, above an area of interest on which the product of his interest is located.
Le nom du produit (que l’acheteur ne connaît peut-être pas, notamment dans le cas d’un fruit dit exotique ou dans le cas d’un acheteur ne maîtrisant pas la langue du pays) et son prix s’affichent sur un écran disposé dans son champ de vision. The name of the product (which the buyer may not know, especially in the case of a so-called exotic fruit or in the case of a buyer who does not speak the language of the country) and its price are displayed on a screen placed in its field of vision.
Sur une interface homme-machine tel qu’une tablette, typiquement intégrée dans l’installation, l’acheteur requiert l’affichage de recettes de cuisine utilisant ce produit. On a human-machine interface such as a tablet, typically integrated into the installation, the purchaser requires the display of cooking recipes using this product.
Une recette, proposée par le système ou sélectionnée par l’acheteur dans une liste, s’affiche sur un écran du système. Sur l’interface homme-machine, l’acheteur formule ensuite une requête pour obtenir une impression sur papier ou l’envoi par un moyen sans fil à son adresse préalablement renseignée (numéro de téléphone, adresse de courriel ou autre). A recipe, proposed by the system or selected by the purchaser from a list, is displayed on a screen of the system. On the man-machine interface, the buyer then formulates a request to obtain a printout on paper or sending it wirelessly to his previously entered address (phone number, email address or other).
L’impression sur papier lui est délivrée, par exemple par une imprimante intégrée à l’installation. Printing on paper is delivered to it, for example by a printer integrated into the installation.
Dans la mesure où la recette utilise d’autres produits disponibles en magasin, la liste de ces produits peut être affichée sur l’écran et/ou annexée à la recette. Exemple d’utilisation 2 Insofar as the recipe uses other products available in the store, the list of these products can be displayed on the screen and / or appended to the recipe. Example of use 2
Sur une installation selon l’invention, par exemple un étal de légumes, le système détecte, pour des produits d’une première espèce, par exemple de la laitue, que la quantité de produits exposés dans la zone d’intérêt est tombé au-dessous d’une valeur seuil prédéfinie. Le système radioélectrique, qui comprend ladite installation, une machine informatique centrale et des moyens de transmission sans fil, envoie un message électronique, généré par le système de manière automatique, au terminal portable détenu par le responsable du rayon, l’avertissant de réapprovisionner de la laitue. Cet envoi du message électronique peut utiliser un réseau GSM (par exemple un message des type SMS) ou autre. On an installation according to the invention, for example a vegetable stall, the system detects, for products of a first species, for example lettuce, that the quantity of products exposed in the zone of interest has fallen to- below a predefined threshold value. The radioelectric system, which comprises said installation, a central computer machine and wireless transmission means, sends an electronic message, generated by the system automatically, to the portable terminal held by the department manager, warning it to restock. the lettuce. This sending of the electronic message can use a GSM network (for example an SMS type message) or other.
Lors de sa prochaine détermination de la quantité de produits sur cette zone intérêt, le système détermine la nouvelle quantité de laitue disponible et enregistre l’information dans un espace mémoire de la machine informatique centrale. The next time it determines the quantity of produce in that area of interest, the system determines the new quantity of lettuce available and saves the information in a memory space of the central computer machine.

Claims

REVENDICATIONS
1. Installation (1), telle qu’un présentoir, pour l’exposition de produits à la vente, comprenant une surface d’exposition de produits (2), comprenant au moins une zone dite zone d’intérêt sur laquelle se trouvent des produits d’une espèce donnée, et un système comprenant o un système de vision (3) comprenant des moyens pour capter des images de ladite surface d’exposition, o au moins un système de restitution d’informations (4), tel qu’un écran d’affichage, o des moyens pour détecter la pénétration d’un objet dans un périmètre prédéterminé au-dessus de ladite surface d’exposition de produits, o une machine informatique (29) configurée pour coopérer avec ledit système de vision (3), ledit système de restitution d’informations (4) et lesdits moyens pour détecter la pénétration d’un objet dans ledit périmètre prédéterminé, caractérisée en ce que ladite machine informatique est configurée pour : recevoir et traiter les images captées par ledit système de vision (3), dans le but d’identifier lesdits produits d’une espèce donnée présents sur une zone d’intérêt, restituer, lors que la pénétration d’un objet dans un périmètre prédéterminé au- dessus de ladite zone d’intérêt est détectée, une information sur ledit système de restitution, ladite information étant associé à l’espèce de produit se trouvant sur ladite zone d’intérêt. 1. Installation (1), such as a display, for the exhibition of products for sale, comprising a product display surface (2), comprising at least one area called the area of interest on which there are products of a given species, and a system comprising o a vision system (3) comprising means for capturing images of said exhibition surface, o at least one information reproduction system (4), such as a display screen, o means for detecting the penetration of an object into a predetermined perimeter above said product display surface, o a computer machine (29) configured to cooperate with said vision system (3 ), said information restitution system (4) and said means for detecting the penetration of an object into said predetermined perimeter, characterized in that said computer machine is configured to: receive and process the images captured by said vision system (3), in order to identify st said products of a given species present in an area of interest, restoring, when the penetration of an object into a predetermined perimeter above said area of interest is detected, information on said restitution system, said information being associated with the species of product found in said area of interest.
2. Installation selon la revendication 1, caractérisée en ce que ledit système est configuré pour reconnaître les produits à partir de leur aspect visuel, sans utiliser des images de référence pour cette reconnaissance faisant partie dudit système. 2. Installation according to claim 1, characterized in that said system is configured to recognize the products from their visual appearance, without using reference images for this recognition forming part of said system.
3. Installation selon la revendication 1 ou 2, caractérisée en ce que que ledit système est configuré pour permettre la reconnaissance de l’espèce de produits sur la surface d’exposition d’un étal, pour établir une cartographie de la surface d’exposition de l’étal par espèce de produit, et pour subdiviser ladite surface d’exposition en zones d’intérêt dont chacune ne comporte qu’une espèce de produits. 3. Installation according to claim 1 or 2, characterized in that said system is configured to allow the recognition of the species of products on the exhibition surface of a stall, to establish a mapping of the exhibition surface. of the stall by species of product, and to subdivide said surface exhibition in areas of interest, each of which contains only one type of product.
4. Installation selon l’une quelconque des revendications 1 à 3, caractérisée en ce que lesdits moyens pour détecter la pénétration d’un objet dans un périmètre prédéterminé au-dessus de ladite surface d’exposition de produits font partie dudit système de vision (3). 4. Installation according to any one of claims 1 to 3, characterized in that said means for detecting the penetration of an object within a predetermined perimeter above said product display surface form part of said vision system ( 3).
5. Installation selon l’une quelconque des revendications 1 à 3, caractérisée en ce que lesdits moyens pour détecter la pénétration d’un objet dans un périmètre prédéterminé comprennent une caméra de profondeur. 5. Installation according to any one of claims 1 to 3, characterized in that said means for detecting the penetration of an object within a predetermined perimeter comprises a depth camera.
6. Installation selon l’une quelconque des revendications 1 à 4, caractérisée en ce que ladite machine informatique est configurée pour estimer le volume ou la quantité desdits produits d’une espèce donnée. 6. Installation according to any one of claims 1 to 4, characterized in that said computer machine is configured to estimate the volume or quantity of said products of a given species.
7. Installation selon la revendication 6, caractérisée en ce que ledit système est configuré pour subdiviser la surface d’exposition en n zones d’intérêt, avec n > 1, dont chacune est chargée de produits Xn d’une seule espèce, déterminer à intervalles réguliers ou irréguliers un paramètre représentatif du volume Vn d’un produit Xn , et de préférence de chaque produit Xn , et stocker pour chaque produit la valeur de Vn , avec l’indication de l’heure de la détermination, dans un fichier, envoyer un message à un récepteur prédéfini lorsque pour un produit donné ladite valeur Vn atteint une valeur prédéfinie, ou tombe au-dessous d’une valeur prédéfinie, ledit message identifiant de préférence ledit produit. 7. Installation according to claim 6, characterized in that said system is configured to subdivide the exposure surface into n areas of interest, with n> 1, each of which is loaded with products X n of a single species, determine at regular or irregular intervals a parameter representative of the volume V n of a product X n , and preferably of each product X n , and store for each product the value of V n , with the indication of the time of determination , in a file, send a message to a predefined receiver when, for a given product, said value V n reaches a predefined value, or falls below a predefined value, said message preferably identifying said product.
8. Installation selon la revendication 6 ou 7, caractérisée en ce que ladite machine informatique est configurée, dans le but d’estimer le volume ou la quantité desdits produits d’une espèce donnée, (a) pour déterminer d’abord un ou plusieurs plans de référence pour la surface de la zone d’intérêt de la surface d’exposition de produits, (b) pour ensuite déterminer le volume apparent des produits sur la base de prises de vue obtenues par ledit système de vision, et (c) pour soustraire enfin la surface de la zone d’intérêt dudit volume apparent pour obtenir le volume qui se situe au-dessus des plans de référence qui est le volume estimé desdits produits. 8. Installation according to claim 6 or 7, characterized in that said computer machine is configured for the purpose of estimating the volume or quantity of said products of a given species, (a) to first determine one or more reference planes for the area of the area of interest of the product display surface, (b) to then determine the apparent volume of the products based on shots obtained by said vision system, and (c) to finally subtract the area of the area of interest from said apparent volume to obtain the volume which is located above the reference planes which is the estimated volume of said products.
9. Installation selon l’une quelconque des revendications 1 à 8, caractérisée en ce que ladite machine informatique est configurée pour identifier les produits présents sur une zone d’intérêt par leur espèce. 9. Installation according to any one of claims 1 to 8, characterized in that said computer machine is configured to identify the products present in an area of interest by their species.
10. Installation selon l’une quelconque des revendications 1 à 9, caractérisée en ce que le ledit système est configurée pour déclencher la restitution d’une information associée à l’espèce de produits se trouvant sur ladite zone d’intérêt, en utilisant lesdits moyens de restitution d’informations, lorsque la pénétration d’un objet dans ledit périmètre prédéterminé est détecté par lesdits moyens de détection. 10. Installation according to any one of claims 1 to 9, characterized in that said system is configured to trigger the restitution of information associated with the species of products found in said area of interest, by using said information. means for restoring information, when the penetration of an object into said predetermined perimeter is detected by said detection means.
11. Installation selon l’une quelconque des revendications 1 à 10, caractérisée en ce que lesdits moyens de restitution d’informations sont sélectionnés dans le groupe formé par : les écrans d’affichage (de préférence disposés devant, derrière ou au- dessus de ladite zone d’exposition de produits), les imprimantes, les étiquettes électroniques de gondole, les interfaces homme-machines pourvu d’un moyen d’affichage de données (et de préférence d’un clavier, matériel ou virtuel). 11. Installation according to any one of claims 1 to 10, characterized in that said information restitution means are selected from the group formed by: display screens (preferably arranged in front of, behind or above said product exhibition area), printers, electronic shelf labels, man-machine interfaces provided with data display means (and preferably with a keyboard, hardware or virtual).
12. Installation selon la revendication 11, caractérisée en ce que ledit système est configuré pour transmettre ou mettre à disposition d’un acheteur des informations associées au produit qu’il a préalablement sélectionné en pénétrant avec un objet ou avec sa main dans le périmètre prédéterminé au-dessus de ladite zone d’intérêt, lorsque ledit acheteur forme une requête sur ladite interface homme- machine. 12. Installation according to claim 11, characterized in that said system is configured to transmit or make available to a purchaser information associated with the product that he has previously selected by entering with an object or with his hand in the predetermined perimeter. above said area of interest, when said buyer forms a request on said man-machine interface.
13. Installation selon l’une quelconque des revendications 1 à 12, caractérisée en ce qu’elle comprend en plus au moins un dispositif, appelé « dispositif de modification de l’environnement local des produits », sélectionné dans le groupe formé par : un dispositif de nébulisation, configuré pour répandre un brouillard formé de gouttes d’eau d’un diamètre moyen compris entre 1 pm et 10 pm sur au moins une zone d’intérêt de ladite surface d’exposition de produits ; un dispositif de refroidissement, configuré pour refroidir une surface d’intérêt ; un dispositif de chauffage, configuré pour chauffer une surface d’intérêt, chacun desdits dispositifs étant de préférence configuré pour coopérer avec une machine informatique configurée pour contrôler au moins un de leurs paramètres de fonctionnement. 13. Installation according to any one of claims 1 to 12, characterized in that it further comprises at least one device, called "device for modifying the local environment of the products", selected from the group formed by: a nebulization device, configured to spread a mist formed of water drops with an average diameter of between 1 µm and 10 µm over at least one area of interest of said product display surface; a cooling device, configured to cool a surface of interest; a heater, configured to heat a surface of interest, each of said devices preferably being configured to cooperate with a computer machine configured to control at least one of their operating parameters.
14. Installation selon l’une quelconque des revendications 9 à 13, caractérisée en ce que ladite machine informatique a été configurée à l’aide d’un système neuronal artificiel, de manière à pouvoir identifier les produits présents sur une zone d’intérêt par leur espèce. 14. Installation according to any one of claims 9 to 13, characterized in that said computer machine has been configured using an artificial neural system, so as to be able to identify the products present in an area of interest by their species.
15. Installation selon la revendication 14, caractérisée en ce que ledit système neuronal artificiel a été configuré en utilisant le système Mask R-CNN. 15. Installation according to claim 14, characterized in that said artificial neural system has been configured using the Mask R-CNN system.
16. Installation selon l’une quelconque des revendications 1 à 15, caractérisée en ce qu’elle est configurée pour afficher sur ledit système de restitution d’informations : lorsque lesdits moyens pour détecter la pénétration d’un objet dans le périmètre prédéterminé au-dessus d’une quelconque zone d’intérêt n’ont détecté aucune pénétration d’un objet dans le périmètre au-dessus d’une quelconque des zones d’intérêt : des informations préalablement associées à un produit présent sur une quelconque zone d’intérêt, et lors que la pénétration d’un objet dans le périmètre au-dessus d’une zone d’intérêt a été détectée : des informations préalablement associées au produit qui se trouve sur ladite zone d’intérêt. 16. Installation according to any one of claims 1 to 15, characterized in that it is configured to display on said information retrieval system: when said means for detecting the penetration of an object within the predetermined perimeter at- above any zone of interest have detected no penetration of an object in the perimeter above any of the zones of interest: information previously associated with a product present on any zone of interest , and when the penetration of an object into the perimeter above an area of interest has been detected: information previously associated with the product which is located on said area of interest.
17. Installation selon l’une quelconque des revendications 1 à 16, caractérisée en ce que son système de vision comprend une caméra capable de détecter des images dans le spectre du proche infrarouge et/ou du proche ultraviolet. 17. Installation according to any one of claims 1 to 16, characterized in that its vision system comprises a camera capable of detecting images in the near infrared and / or near ultraviolet spectrum.
18. Réseau radioélectrique (26), comprenant : au moins une installation (1) selon l’une quelconque des revendications 1 à 17, chacune desdites installations (1) étant munie d’un premier récepteur-émetteur (16), une machine informatique externe (23) configurée pour communiquer, par l’intermédiaire d’un deuxième récepteur-émetteur (17), avec chacune desdites installations (1), et configurée pour envoyer des informations sur au moins un récepteur mobile, lesdits messages transitant par un autre réseau radioélectrique. 18. Radio network (26), comprising: at least one installation (1) according to any one of claims 1 to 17, each of said installations (1) being provided with a first receiver-transmitter (16), a computer machine external (23) configured to communicate, via a second receiver-transmitter (17), with each of said installations (1), and configured to send information to at least one mobile receiver, said messages passing through another radio network.
19. Procédé d’utilisation d’une installation (1) selon l’une des revendications 1 à 17, dans lequel on détermine, à des intervalles réguliers ou irréguliers, la quantité d’un produit présent sur une zone d’intérêt de la surface d”exposition de produits (2), ledit procédé comprenant les étapes successives suivantes : 19. Method of using an installation (1) according to one of claims 1 to 17, wherein the quantity of a product present in an area of interest of the area is determined at regular or irregular intervals. product display surface (2), said method comprising the following successive steps:
(i) On capte une image de la zone d’intérêt, (i) We capture an image of the area of interest,
(ii) A partir de cette image, on détermine un paramètre représentatif du volume des produits dans la zone d’intérêt, (ii) From this image, a parameter representative of the volume of products in the area of interest is determined,
(iii) On vérifie si ledit paramètre se situe en-dessous d’une première valeur seuil prédéterminée, ou si la vitesse de décroissance dudit paramètre par rapport à des déterminations précédentes dépasse se situe au-dessus d’une deuxième valeur seuil prédéterminée, (iii) It is verified whether said parameter is below a first predetermined threshold value, or whether the rate of decrease of said parameter relative to previous determinations exceeds is located above a second predetermined threshold value,
(iv) Si ledit paramètre se situe en-dessous de ladite première valeur seuil, ou si la vitesse de sa décroissance de situe au-dessus de ladite deuxième valeur seuil, on émet un message d’alerte, de préférence associé au produit. (iv) If said parameter is below said first threshold value, or if the rate of its decrease is above said second threshold value, an alert message is issued, preferably associated with the product.
20. Procédé d’utilisation selon la revendication 19 d’une installation selon l’une quelconque des revendications 13 à 18, dans lequel on arrête temporairement la nébulisation lorsque l’on capte une image destinée à servir à l’identification du produit et/ou à la détermination de la quantité de produits. 20. A method of use according to claim 19 of an installation according to any one of claims 13 to 18, wherein the nebulization is temporarily stopped when an image is captured intended to be used for the identification of the product and / or determining the quantity of products.
21. Procédé d’utilisation selon la revendication 19 ou 20, dans lequel 21. Method of use according to claim 19 or 20, wherein
Lors d’une première étape (100) ledit moyen de restitution d’informations (4) affiche un contenu relatif aux différentes zones d’intérêt de l’installation, ce contenu étant possiblement sélectionné de manière aléatoire parmi tous les contenus disponibles pour ladite installation, après une certaine durée AL , lors d’une deuxième étape (110) une requête est émise pour savoir si une zone d’intérêt a été sélectionnée par le système, cette sélection pouvant notamment être déclenchée par la détection d’un évènement par le dispositif capable de détecter la pénétration d’un objet dans le périmètre de détection qui se situe au-dessus d’une zone d’intérêt, si le système ne sélectionne pas (120) une zone d’intérêt, le procédé recommence avec ladite première étape (100), lors d’une troisième étape (140) qui se déroule si le système sélectionne (130) une zone d’intérêt, le système affiche sur un moyen de restitution d’informations (4) associé à la zone d’intérêt sélectionnée un contenu, en fonction du produit qui avait préalablement été identifié sur cette zone d’intérêt par le système de vision, la durée dudit affichage pouvant être prédéterminée, à la fin dudit affichage, le procédé retourne à ladite requête (110) de la deuxième étape. During a first step (100), said information retrieval means (4) displays content relating to the different areas of interest of the installation, this content possibly being selected randomly from among all the content available for said installation. , after a certain duration AL, during a second step (110) a request is sent to find out whether an area of interest has been selected by the system, this selection being able in particular to be triggered by the detection of an event by the device capable of detecting the penetration of an object into the detection perimeter which is located above an area of interest, if the system does not select (120) an area of interest, the method starts over with said first step (100), during a third step (140) which takes place if the system selects (130) an area of interest, the system displays a content on an information retrieval means (4) associated with the selected area of interest, depending on the product which had previously been identified on this area of interest by the vision system, the duration of said display being able to be predetermined, at the end of said display, the method returns to said request (110) of the second step.
22. Procédé d’utilisation d’une installation selon l’une quelconque des revendications 1 à 17, dans lequel : on effectue l’agencement de la surface d’exposition, en disposant sur chacune des différentes zones de ladite surface des produits d’une seule espèce, lesdits produits pouvant être différents ou identiques d’une zone à l’autre, on prend une image de tout ou partie de la surface d’exposition, on analyse ladite image pour reconnaître les zones comportant des produits d’une seule espèce et on identifie pour chaque zone ledit produit et on lui attribue un identifiant, sachant que ces trois sous-étapes peuvent être effectuées en même temps ou successivement, on établit la cartographie de la surface d’exposition en associant chaque zone à son identifiant. 22. A method of using an installation according to any one of claims 1 to 17, wherein: the arrangement of the exhibition surface is carried out, by arranging on each of the different zones of said surface products of. a single species, said products being able to be different or identical from one zone to another, an image is taken of all or part of the exhibition area, said image is analyzed to recognize the zones comprising products of a single species and said product is identified for each zone and an identifier is assigned to it, knowing that these three sub-steps can be carried out at the same time or successively, the mapping of the exhibition area is established by associating each zone with its identifier.
EP21705276.0A 2020-02-14 2021-02-11 Unit for presenting products for sale with artificial viewing system Pending EP4104092A1 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP20000068 2020-02-14
FR2001799A FR3107377B1 (en) 2020-02-14 2020-02-24 INSTALLATION FOR PRESENTING PRODUCTS FOR SALE, WITH ARTIFICIAL VISION SYSTEM
PCT/IB2021/051119 WO2021161207A1 (en) 2020-02-14 2021-02-11 Unit for presenting products for sale with artificial viewing system

Publications (1)

Publication Number Publication Date
EP4104092A1 true EP4104092A1 (en) 2022-12-21

Family

ID=74595340

Family Applications (1)

Application Number Title Priority Date Filing Date
EP21705276.0A Pending EP4104092A1 (en) 2020-02-14 2021-02-11 Unit for presenting products for sale with artificial viewing system

Country Status (2)

Country Link
EP (1) EP4104092A1 (en)
WO (1) WO2021161207A1 (en)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5572653A (en) 1989-05-16 1996-11-05 Rest Manufacturing, Inc. Remote electronic information display system for retail facility
US6624757B1 (en) 2000-04-12 2003-09-23 Neldon P. Johnson Shelf pricing display apparatus
FR2905019B1 (en) 2006-08-17 2008-10-17 Supertec Soc Par Actions Simpl PRODUCT MANAGEMENT METHOD ARRANGED ON AN INTELLIGENT DISPLAY AND INTELLIGENT DISPLAY COMPRISING THE SAME
JP5201905B2 (en) 2007-07-30 2013-06-05 サンデン株式会社 Product information display system
FR2996025B1 (en) 2012-09-24 2014-10-10 Areco Finances Et Technologie Arfitec METHOD FOR DISPLAYING INFORMATION RELATING TO EXPOSED PRODUCTS
WO2017175707A1 (en) * 2016-04-06 2017-10-12 日本電気株式会社 Object type identifying apparatus, object type identifying method, and recording medium
US10339595B2 (en) * 2016-05-09 2019-07-02 Grabango Co. System and method for computer vision driven applications within an environment
US10630959B2 (en) * 2016-07-12 2020-04-21 Datalogic Usa, Inc. System and method for object counting and tracking

Also Published As

Publication number Publication date
WO2021161207A1 (en) 2021-08-19

Similar Documents

Publication Publication Date Title
US11727353B2 (en) Comparing planogram compliance to checkout data
US11562581B2 (en) Camera configured to be mounted to store shelf
AU2018254439B2 (en) Fiber optic shelving system
US20190149725A1 (en) Using augmented reality for image capturing a retail unit
US10318837B2 (en) Distinguishing between stock keeping units using a physical dimension of a region depicted in an image
US9015072B2 (en) Method and apparatus for automated inventory management using depth sensing
RU2739542C1 (en) Automatic registration system for a sales outlet
FR3071341B1 (en) METHOD FOR IMPLEMENTING ARTICLE CONTROL CAMERA FOR SHELVES EQUIPPED WITH GONDOLA ELECTRONIC LABELS
US20210133845A1 (en) Smart platform counter display system and method
WO2016187001A1 (en) Systems and methods for merchandizing electronic displays
EP3038013B1 (en) Distinguishing between stock keeping units using hough voting methodology
US11934484B2 (en) Systems and methods for building image databases to facilitate computer vision-based consumer product identification
FR3090167A1 (en) Method for improving the accuracy of a training image data set of a convolutional neural network for loss prevention applications
US20230112491A1 (en) Automated object recognition kiosk for retail checkouts
US20230037427A1 (en) Identifying barcode-to-product mismatches using point of sale devices and overhead cameras
US11763252B2 (en) Intelligent marketing and advertising platform
JP7445592B2 (en) Platform for intelligent marketing and advertising
JP2022528022A (en) Analysis method and system of products on supermarket product shelves
FR3107377A1 (en) INSTALLATION TO PRESENT PRODUCTS FOR SALE, WITH ARTIFICIAL VISION SYSTEM
EP4104092A1 (en) Unit for presenting products for sale with artificial viewing system
WO2014044975A1 (en) Method for displaying data pertaining to displayed products
US11720922B2 (en) Sensor technology for identifying and assessing store inventory and merchandising
US20240005271A1 (en) Intelligent Marketing and Advertising Platform
JP6715878B2 (en) Vending Machine Purchasing Analysis System
JP7215560B2 (en) Processing device, processing method and program

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: UNKNOWN

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20220914

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

DAV Request for validation of the european patent (deleted)
DAX Request for extension of the european patent (deleted)