EP4689556A1 - Verfahren zur erstellung einer navigationsgrundlage für die navigation in einem verkaufsbereiches - Google Patents
Verfahren zur erstellung einer navigationsgrundlage für die navigation in einem verkaufsbereichesInfo
- Publication number
- EP4689556A1 EP4689556A1 EP23716223.5A EP23716223A EP4689556A1 EP 4689556 A1 EP4689556 A1 EP 4689556A1 EP 23716223 A EP23716223 A EP 23716223A EP 4689556 A1 EP4689556 A1 EP 4689556A1
- Authority
- EP
- European Patent Office
- Prior art keywords
- magnetic field
- location
- sales area
- navigation
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
- G01C21/206—Instruments for performing navigational calculations specially adapted for indoor navigation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
- G01C21/3804—Creation or updating of map data
- G01C21/3807—Creation or updating of map data characterised by the type of data
- G01C21/383—Indoor data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/02—Services making use of location information
- H04W4/021—Services related to particular areas, e.g. point of interest [POI] services, venue services or geofences
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/02—Services making use of location information
- H04W4/029—Location-based management or tracking services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/30—Services specially adapted for particular environments, situations or purposes
- H04W4/33—Services specially adapted for particular environments, situations or purposes for indoor environments, e.g. buildings
Definitions
- the invention relates to a method for creating a navigation basis in a sales area.
- Digital images created in this way are of very good quality, are essentially free of optical distortions and are therefore ideal for digitizing the sales area in the sense of creating a "realogram" that represents the actual inventory on the shelf at the time of optoelectronic recording.
- This type of digital representation of the sales area primarily serves the purposes of goods and inventory management in the sales area of the store. However, navigation in the sales area is not possible based on such a digital representation.
- the invention has set itself the task of creating a navigation basis that enables navigation in the real sales area.
- the subject matter of the invention is therefore a method for creating a navigation basis for navigation in a sales area, which has the method steps listed below, namely: detecting the magnetic field along a movement path in the sales area with the aid of at least one location-variable magnetic field detection device which is moved along the movement path in the sales area, and establishing a location reference in the sales room for the magnetic field detected at the respective location along the movement path, and storing the detected magnetic field and its location reference in the sales area in the form of a digital magnetic field map.
- the subject matter of the invention is therefore a navigation method for navigating in a sales area, which has the following method steps, namely: detecting the magnetic field at the location of a navigation device, and determining the location of the navigation device in the sales area with the aid of a digital magnetic field map in which the magnetic fields present at locations in the sales area are stored.
- the invention is based on the finding that different locations in the sales area can be described essentially unambiguously by the local magnetic field present there. This is due to the fact that the global earth's magnetic field in a sales area is locally individualized by the large number of objects installed there that influence the magnetic field, and without major changes to the arrangement or existence of these objects, the local individuality of the magnetic field is essentially retained.
- the magnetic field present along the movement path is thus recorded, digitized and made available for further use using the magnetic field detection device.
- the recording can essentially be continuous, quasi-continuous or sequential at predefined time intervals or also at specific times.
- a motion or acceleration sensor of the magnetic field detection device can be used to trigger the recording of the magnetic field at the respective location along the movement path when movement or acceleration is detected.
- a commercially available magnetometer can be used to record the magnetic field, which provides a three-dimensional or vectorial digital data representation of the recorded Magnetic rock provides such magnetometers.
- Such magnetometers are already built into modern smartphones and form the basis for a function that is often referred to as a "digital compass".
- a location reference is established for each of these magnetic field detections automatically - i.e. computerized, i.e. with the help of a computer that is either built into the magnetic field detection device or is located externally (e.g. in an external data processing device).
- the respective magnetic field measurement value which indicates the local magnetic field at the location of its detection along the movement path
- the location entered along the movement path is determined and recorded (saved), which is discussed below.
- Magnetic field-based navigation - i.e. the use of knowledge of the local magnetic field and its location reference - has also proven to be particularly advantageous because it does not require essentially permanent availability, i.e. the transmission of additional radio beacon signals, which would be necessary for radio-based navigation indoors, since the magnetic field used for location determination and subsequently also for navigation is always present.
- the starting point for navigation is first of all the determination of the location of the navigation device, which in turn is based on a pure detection of the magnetic field at the location of the navigation device, after which the location corresponding to the detected magnetic field is determined using the magnetic field map.
- sales area can also include a combination of outdoor and indoor areas, as well as the checkout areas where, for example, customers may wait in line to pay for the goods they have selected, or other areas not directly reserved for the sale of goods, such as the customer service center or a parking lot.
- the establishment of the location reference can be based on various measures, which are discussed in detail below.
- the recorded magnetic fields are digitally stored together with their location reference in the sales area.
- the location reference is the location at which the magnetic field was recorded in the sales area, i.e. the original recording location.
- Data pairs in the form of a digital representation of the recorded magnetic field and a digital representation of the recording location are stored in a data structure, which is referred to below as a digital magnetic field map. It indicates the magnetic fields recorded at different locations in the sales area.
- the movement path in the sales area can be predefined, i.e. known.
- the direction of movement along the movement path and the speed can also be defined. This means that the location reference - even in the case of minor deviations from the defined movement path or slight irregularities in speed - along the defined movement path is a good approximation of the product of the time multiplied by the time. If the magnetic field is recorded at defined times, the relationship between the location along the movement path and the magnetic field recorded there is immediately available and is stored.
- Known methods can also be used to establish the location reference when detecting the magnetic field along the movement path, such as the use of radio signals with known radio signal parameters which - according to a first variant - are emitted by radio transmitters whose locations in the sales area are known.
- radio transmitters can be formed, for example, by radio beacons or access points, etc. Their signals can be received by the magnetic field detection device and used there for triangulation in order to determine the relative location in relation to the radio transmitters. Since the location of the radio transmitters in the sales area is also known, the respective detected magnetic field can also be located in relation to the sales area.
- This type of location determination can also be implemented - according to a second variant - in such a way that the magnetic field detection device has a transmitter for transmitting a radio signal with known radio signal parameters and that this radio signal is received by several radio receivers which are positioned at known locations in the sales area.
- the location information in the sales area obtained by evaluating the received radio signals can be added to the detected magnetic fields are recorded so that a location reference of the recorded magnetic fields in the sales area is established.
- the data processing device stores the overall plan of the sales area together with - according to the first variant - the positions of the radio transmitters or together with - according to the second variant - the positions of the receivers in digital form.
- the determined relative position of the magnetic field detection device in relation to - depending on the variant selected - either the radio transmitters or the radio receivers also directly results in the locations of the magnetic field detection in the sales area, which are logged together with the magnetic fields detected there, so that the magnetic field map is created.
- the radio signal is no longer necessary for further location determination and subsequent navigation.
- This measure means that both the detection of the magnetic field and the creation of the image take place at essentially one and the same location, namely at the location where the two devices, i.e. the camera device and the magnetic field detection device, are currently located. Although there are essentially two devices, it can be said with a good approximation that they are located at a single location.
- the recorded magnetic field and the recording made can be transmitted separately in their digital representation to a higher-level data processing device and logically connected or linked there, for example stored in a data structure as a data set.
- the connection between the recording made and the recorded magnetic field, and thus their common reference to one and the same location where the magnetic field was recorded on the one hand and the recording was made on the other hand, can be established by means of a running index that is embedded in both digital representations or by transmitting time data that indicate the time at which the magnetic field was recorded and the recording was made.
- the index indicates the sequence of activities (detection of the magnetic field and creation of the recording) and pairs two such events with identical index values.
- the time specifies when the activities (detection of the magnetic field and creation of the recording) took place and pairs two such events with identical times.
- the running index can also have a time reference. if, for example, the occurrence of two adjacent index values always coincides with the elapse of a predetermined, known period of time. Since both devices (the camera device and the magnetic field detection device) are designed separately, they also have separate radio communication devices in order to transmit their respective data, which on the one hand represent the detected magnetic field and on the other hand the recording made, possibly together with the time information and/or the index values to the data processing device.
- the camera device and the magnetic field detection device moving with it can also be integrated in a combination device and thus use a common radio communication module to transmit the detected magnetic field and the recording made, if necessary together with the time information and/or the index values, to a data processing device where the recording is made.
- connection of the detected magnetic field and the created image takes place in the combination device which has the magnetic field detection device and the camera device.
- the combination device can generate one or more data packets that bundle the events (detected magnetic field and created recording) or a single data stream that contains the connected events (detected magnetic field and created recording) including their time reference (or their index reference). This avoids individual transmissions of the events in separate data transmission sequences.
- This measure also allows optimal use of the decentralized data processing power available in the combination device for the connection while maintaining more efficient post-processing in the higher-level (central) data processing facility because already connected events arrive there.
- the respective still image recording together with the magnetic field recorded at a time corresponding to the still image recording.
- the data packets mentioned above are suitable for this purpose; they are transmitted whenever the still image is created and the magnetic field is recorded at essentially the same time.
- the respective frame of the video recording can be provided together with the magnetic field recorded in a temporally corresponding manner to the respective frame of the video recording.
- the data stream mentioned is suitable for this because the video recording is also in the form of a video data stream structured in video frames.
- the magnetic field recorded for each video frame can be embedded in the video data stream in addition to the relevant video frame and thus transmitted to the data processing device.
- the transmission can also be carried out in such a way that the video data stream is transmitted in a conventional (standardized) manner and whenever a magnetic field is detected, which can occur, for example, at periodic intervals, the detected magnetic field is identified with the video frame number of the temporally associated video frame, i.e. a data packet consisting of the detected magnetic field and video frame number is transmitted to the data processing device in addition to the video data stream.
- the movement path usually has a limited (often even quite narrow) width, different movement paths are possible along this width and thus different local magnetic fields can be detected along these different movement paths.
- the location-variable camera device can - as already mentioned - be designed to capture a scene in its detection area in the form of still images or video recordings. It generates either a digital still image or a series of them or a digital video recording. It can also be provided that the camera device, e.g. depending on the requirements, generates both a still image and a video recording, whereby the still image and the video recording can be created at different times or a still image can be generated during the video recording (e.g. from the ongoing video recording).
- the camera device has the means usually provided for this, such as a lens and an image sensor, whereby objects or a scene located in a detection range of the camera are projected or imaged through the lens onto the image sensor.
- the (typically semiconductor-based) image sensor generates a digital image of the object or the scene located in the detection range of the camera on the basis of this projection.
- An electronics system of the camera which has at least one programmable processor and peripheral electronics for providing the functions of the camera device, further processes the created digital image.
- the digital image of the object or scene obtained in this way can be digitally buffered in the camera device and/or, if necessary, compressed to reduce data, in order to then be transmitted to a data processing device using a radio stage, such as an IoT (Internet of Things) radio stage that uses the 4G or 5G ("fifth-generation technology standard for broadband cellular networks") or subsequent radio standards.
- Other radio technologies can also be used for this, such as common WLAN standards such as IEEE 802.11. g, IEEE 802.11h, IEEE 802. lln (also known as WiFi 4) or subsequent standards.
- the data processing device can be formed by a local computer or server of the operator of the sales area, by a data center assigned to the operator of the sales area that can be accessed via the Internet, or by a cloud-based software solution that is hosted in a data center (a server farm) and is available to the operator of the sales area via the Internet.
- Software is processed on the data processing device.
- the images from the variable-position camera device and the stationary camera device are fed to the software in digital form.
- the software processes these images using the functionalities discussed below.
- the generation of the digital image of the sales area comprises processing the environment of the movement path in the sales area recorded with the help of at least one location-variable camera device with the help of image processing software, in particular with the help of what is known in technical jargon as computer vision.
- Software measures whereby as a result of the processing a virtual space is created as a digital image of the sales room.
- This virtual space can be made accessible to human-perceivable visualization with the help of a visualization device, in particular a screen or a device known as a virtual reality headset.
- a visualization device in particular a screen or a device known as a virtual reality headset.
- image processing software can be used to create the virtual space, which recognizes objects (shelf aisles, shelves, baskets, tables, etc.) in the sequence of images taken along the path of movement, be it a series of still images or a video recording, digitally describes these objects, arranges them together and thus creates a digital representation of the sales room.
- objects shelf aisles, shelves, baskets, tables, etc.
- image processing software can be used to create the virtual space, which recognizes objects (shelf aisles, shelves, baskets, tables, etc.) in the sequence of images taken along the path of movement, be it a series of still images or a video recording, digitally describes these objects, arranges them together and thus creates a digital representation of the sales room.
- reference points can also be provided in the sales area that are known to the image processing software because they were stored there in advance.
- the reference points can be radio beacons (known under the technical term "radio beacon") that send out a signal that is received by the variable-position camera, for example, and used to determine the relative position to the radio beacon. This information is made available to the image processing software so that the image captured using the variable-position camera device can be located more precisely in relation to the real sales area.
- the reference points can also be optically perceptible reference elements or reference signals whose position in the sales area is known or which can be used to determine a clear location in the sales room. These can be simple geometric figures.
- optically perceptible reference elements are contained in the images of the variable-position camera device, they can be identified there (and possibly decoded if they contain coded information). Their meaning is known to the image processing software because it was stored in advance or the way in which the visually perceptible reference elements or signals are processed was programmed in advance. Such reference Elements or signals can be used, on the one hand, to limit the position of the location-variable camera device and, on the other hand, to locate the images created with the location-variable camera device in the digital image of the sales area.
- the creation or construction of the virtual space can also be carried out completely autonomously, i.e. without using the reference points in the sales area, with the help of image processing software.
- image processing software The use of software measures known in technical jargon as computer vision, in German as “computer seeing” and as a synonym also known under the English term “machine vision”, has proven to be particularly advantageous in this context.
- the field of computer vision is well known at the time of registration.
- the software measures used there allow images taken by cameras to be processed and analyzed in a wide variety of ways in order to understand their content or to extract geometric information in order to create the virtual space as a "digital twin" of the real sales area.
- the "digital twin” represents a data structure in which the geometric information or objects recognized with the help of the CV as well as their spatial relationship to each other are stored.
- the furnishings mentioned can be easily recognized, as well as the corridors in between and their course as well as their orientation to each other.
- the data structure can store vectors that define corner points or intermediate points for the recognized objects or structures, which serve to delimit the objects or structures. These vectors can refer to an origin and/or to neighboring objects or structures.
- the 3D polygons or polygon networks obtained in this way, which describe the recognized geometric information, ultimately the recognized objects, in a form that is easily recognizable and perceptible to humans, the 3D polygons can be covered with a texture.
- This texturing of the 3D polygons can be done, for example, with the help of the recording of the location-variable camera and/or with the help of the recording of any stationary cameras provided in order to create a
- the texture can also be created using of predefined image elements in order to obtain a more abstract, possibly less detailed representation.
- visualization software accesses the data structure and controls a visualization device, such as a screen or a virtual reality headset, according to the view of the sales area desired by the user.
- the visualization software can be processed locally on the data processing device and transmit its control data and/or content data to the respective visualization device, e.g. in the case of the screen, wired or radio-based, or in the case of the virtual reality headset, preferably radio-based, e.g. with the radio technical measures mentioned.
- a screen of the navigation device can also function as a visualization device.
- the location reference of the magnetic field detected by the magnetic field detection device is established by evaluating the recording made at the same location, which is discussed in detail below.
- the known optical and/or optoelectronic parameters of the camera can be used, for example, to determine the distance between the camera device (or its optoelectronic imaging system) and an object in the image. It is now easy to convert to real dimensions because the image usually contains a large number of objects (shelves, shelves, electronic display devices, etc.) whose real dimensions are known. Knowing the dimensions of a real object, it is also possible to determine a scale that indicates which real unit of measurement a pixel or a pixel spacing corresponds to in the digital image. In the digital image of an object that is known per se, only the number of pixels along an object edge must be determined (counted) and put in relation to the real dimensions of the object along this object edge. The The lens equation can be used to determine, for example, the distance of the camera from the real object.
- a dynamic scale can also be generated for this perspective, which changes along the perspective, i.e. along the imaged spatial depth (linearly to a good approximation).
- the exact position of the camera device in relation to the captured scene can be determined both in reality and in the digital image.
- This location of the camera device now corresponds to a good approximation of the location of the magnetic field detection device, since this moves with the camera device, and is stored in the digital image of the sales room together with the magnetic field determined for this location.
- the digital magnetic field map of the sales room is obtained in summary, whereby the (detected) magnetic field present at individual locations in the sales room is assigned to these locations.
- the position of the magnetic field detection device can also be determined using a virtual camera that is placed in the virtual space and with which a recording is generated in its detection area from its position with a defined orientation.
- the virtual camera now uses the same parameters for its optoelectronic detection system as the real camera device.
- the virtual camera is now adjusted in the virtual space and its orientation adjusted until the recording created with it has the same content as that of the real camera device.
- the position found in this way defines the location of the camera device with which the real scene was recorded and is used to determine the location at which the magnetic field detection device carried out the magnetic field detection in the real space.
- the magnetic field detected in question is thus this location reference is noted in the magnetic field map.
- the purely image-based location determination process described here can be repeated for the large number of locations on the trajectory, whereby location determinations can be made step by step along the trajectory or a continuous location determination process can be carried out, which can depend on the type of recordings along the trajectory and on the available computing power.
- the scaling between real space and virtual space can also be carried out with the aid of the determined scale, as previously discussed.
- a navigation device that is used to determine its location and, based on this, for navigation in the sales area, i.e. for indoor navigation, because there is generally no satellite-based GPS navigation signal available there, uses the digital magnetic field map to orient itself in the sales area.
- the navigation device itself records the magnetic field at its location (similar to the magnetic field detection device using an integrated magnetometer).
- the magnetic field recorded at its location is then compared with the magnetic fields stored in the magnetic field map until there is a sufficient probability of a match with one of the magnetic fields stored there.
- the location stored in the magnetic field map for this magnetic field found is then identified as the location of the navigation device.
- navigation to another location in the sales area can now be started from there. This could, for example, involve navigation to a specific product.
- a magnetic field route from the location to a destination is generated from the magnetic field map and made available to the navigation device for navigation to the destination.
- the navigation device can be implemented, for example, by a smartphone or a tablet computer, hereinafter referred to as the user device, on which an application programmed for magnetic field-based navigation is executed.
- These devices contain the magnetometer, on which whose data the application has access to.
- the device can also have access to a digital shopping list, for example, in which the product to be searched for is listed.
- the location of the product being sought is known to the data processing device according to the underlying planogram or, where applicable, realogram and is also mapped in the virtual space, so that the data processing device can determine the shortest route through the sales area. Since the data processing device also has access to the digital magnetic field map of the sales area, which is fitted into the virtual space, it provides directions as a sequence of stored magnetic fields from the location to the product being sought.
- a "magnetic field route” is provided, i.e. the sequence of magnetic fields to be passed through in the sales area in order to get to the product.
- This sequence of magnetic fields to be passed through represents, figuratively speaking, the "series of magnetic waypoints" that the user must follow in order to reach the destination.
- transitions between neighboring "waypoints" i.e. from a magnetic field in one location to the next magnetic field in the next location, can also be smoothed or interpolated in order to depict a continuous course.
- This magnetic field route allows the user device to determine, using its magnetometer, whether the user is on the correct course towards the product. If the user device detects a deviation, it can inform the user of this circumstance either acoustically (movement instructions in the form of e.g. voice announcements, tones or noises, the interpretation of which is known to the user) or tactilely (movement instructions in the form of e.g. vibrations, etc., the interpretation of which is known to the user) or also communicate corrective measures in the aforementioned instruction method (acoustic / tactile).
- acoustically movement instructions in the form of e.g. voice announcements, tones or noises, the interpretation of which is known to the user
- tactilely movement instructions in the form of e.g. vibrations, etc.
- the magnetic field is recorded very precisely and in a linear manner on the path of movement of the variable-position magnetic field recording device, but on the other hand, it is not necessary to have a complete recording of every point in the area of the sales area intended for passenger traffic and, ultimately, every movement of a person - and therefore also of the user device carried with them - is subject to a certain dynamic and peculiarity, it has proven advantageous to take measures to avoid inundating the user with movement instructions to correct their movement.
- the user device can therefore be programmed in such a way that it can allow deviations from the magnetic field route to a certain, reasonable extent if these deviations correspond to the user's typical movement behavior and do not lead to a permanent departure from the magnetic field route.
- the magnetic field route itself can also be designed to be so wide that the user's typical movement patterns are exceeded in its width.
- the magnetic field route can also cover an entire aisle of shelves, for example.
- the provision of movement instructions can also be delayed until a deviation from the magnetic field route is detected, in order to give the user a certain amount of freedom of movement. The user is only confronted with this circumstance if he deviates from the magnetic field route for longer than pre-programmed.
- the user Once the user has arrived at the destination, he or she can still be informed where to go because this is also determined by the orientation of the user device that is moving with him or her (detected via the user device's digital compass) on the one hand and the known position of the product in relation to the end of the magnetic field route on the other hand, in order to be able to reliably visually detect the product in question or, in other words, to be able to see it.
- the magnetic field detection device can either be an integrated component of the camera device or can be moved along with it as a separate device. If the magnetic field detection device is integrated into the camera device, the Statements regarding installation and/or alignment made with reference to the camera device also apply to the magnetic field detection device, unless otherwise stated.
- the location-variable camera device can be designed as self-driving, e.g. as a self-driving robot.
- the environment of the movement path is captured using an externally moved location-variable camera device. This allows the basic structure of the path to be captured in a much more cost-effective, simpler to implement and more flexible manner.
- An externally moved camera device is not a camera attached to a self-driving robot that is moved in the sales area according to the robot's logic or a path of movement determined by the robot's remote control. Rather, the external movement is caused by the action of a person, whereby the person either moves the variable-position camera directly through the sales area or moves it indirectly because the variable-position camera device is attached to an object, such as a shopping cart, which is indirectly moved by the person.
- the externally moved, location-variable camera device can be a 360° camera, which is used to capture the surroundings of the movement path all around.
- This 360° camera can be attached to a shopping cart, e.g. to an upwardly projecting pole, preferably at the end of the pole, in order to be positioned high enough so that the person who is moving the shopping cart and thus the camera is not too disruptive or too dominant in the 360° camera recording.
- the camera is preferably worn on the head or shoulder in order to obtain the most uninterrupted panoramic field of view possible.
- This type of external movement enables the camera to be used to capture the surroundings of the movement path whenever the person moves through the sales area.
- the 360° camera Since it is a 360° camera, which, according to its name, is designed to capture the entire image of the Environment, it is also unimportant in which direction the person moves in the sales area or where the person is orientating himself, either standing or moving.
- the 360° camera can continuously record the environment - with the exception of the detection area that is shaded by the person - or only record it when a motion sensor integrated into it detects movement, so it can also be assumed that the 360° camera is moving along a path of movement.
- the surroundings of the movement path can be recorded using the location-variable camera device mounted on a shopping cart.
- This form of training also involves an externally moved camera device, since the shopping cart is moved by the staff moving in the sales area or the customers moving through the sales area.
- the 360° camera mounted on the end of a pole can be used for this.
- the pole is often used improperly, for example for hanging up clothes, which leads to the 360° camera being completely covered and thus rendered inoperable.
- the length of the pole can be chosen so that this cannot happen, but this can attract aesthetic criticism.
- the variable-position camera is particularly protected. From this relatively low position, it is also easy to view the various shelves, as the shelves are usually installed slightly inclined downwards. In this context, it has also proven to be particularly advantageous if the surroundings of the movement path are recorded through openings in the basket of the shopping cart or its wall, in particular between the bars of the basket.
- the camera device is located in a safe position. It cannot be damaged there because the wall of the basket, which is designed for maximum load-bearing capacity, or the bars of the basket, which are usually made of metal, offer the necessary protection against improper handling by the person moving the shopping cart and against collisions with hard objects.
- the existing mechanical structure of the basket is therefore used in two ways: on the one hand to protect it and on the other to support the camera device.
- the camera device In order to avoid the camera device's detection range being obscured by the person moving the shopping cart, the camera device is not attached to the section of the basket that faces the person pushing the shopping cart.
- the camera device can, for example, be attached to the side parts of the basket and from there record the area around the path of movement. However, when attached to one of the side parts, the camera device can only record the relevant lateral area, from where the detection range can be quite limited due to the relative proximity to shelves or other objects positioned along a shelf aisle.
- the area around the path of movement is therefore preferably recorded from a position at the front of the shopping cart. This is where the camera device usually has the widest detection range and can therefore be used to record large areas.
- the location-variable camera device for capturing the surroundings of the movement path particularly preferably has at least one capturing stage with a stereo camera.
- the capturing stage is understood to mean the optics and electronics that are required at least for generating raw video and/or still image data that represent the captured scene, which is generally known to the person skilled in the art.
- the stereo camera allows the stereoscopic recording of the surroundings, so that the evaluation of three-dimensional structures by the image processing software, such as computer vision, is facilitated.
- the location-variable camera device preferably has at least a first and a second, preferably also a third, detection stage, each of the detection stages detecting an individual spatial sector of the surroundings of the movement path. This means that each of the detection stages has its own optical detection system, which is individually aligned according to the spatial sector to be detected.
- the location-variable camera device has three detection levels at the front of the shopping cart, and in relation to the front of the shopping cart, the first detection level detects a first spatial sector diagonally to the left, the second detection level detects a second spatial sector diagonally to the right, and the third detection level detects a third spatial sector centrally ahead.
- the laterally oriented detection levels can be optimized for the focused detection of the shelf contents and therefore do not require an extremely deep detection range because they are usually moved relatively close to the shelves.
- a fairly wide detection range can be set for the centrally forward-oriented detection level in order to be able to "see" as deep as possible into the aisle.
- the first detection level which detects diagonally to the left
- the second detection level which detects diagonally to the right
- This crossing of the detection directions on the front of the shopping cart ensures that the distance between the optics of the respective detection level and the structures or objects to be detected is maximized, resulting in the widest possible detection range for the respective detection level.
- the recording area oriented diagonally to the left can be combined with the centrally oriented detection area may overlap slightly.
- the detection area oriented diagonally to the right may overlap slightly with the detection area oriented centrally.
- the camera device uses several detection stages that are arranged separately in terms of location, it may be sufficient to provide only one magnetic field detection device that moves with the camera device. In this case, its position can be assigned to exactly one of the detection stages and can also be determined in this way. However, it can also be advantageous for a single magnetic field detection device to be positioned at a middle position between the detection stages of the camera device.
- the number of magnetic field detection devices corresponds to the number of detection levels of the location-variable camera device and each magnetic field detection device is positioned locally at exactly one of the detection levels.
- each of the magnetic field detection stages is assigned to exactly one of the detection stages of the camera device and is also positioned in its immediate vicinity or integrated into it. This has the advantage that with a single movement of the shopping cart, several magnetic field detection stages are simultaneously moved along individual movement paths in order to detect the magnetic fields present there. This results in multi-track magnetic field detection along the path of the shopping cart.
- the location-variable camera device can be designed as a component of the shopping cart, i.e. already integrated into the shopping cart at the factory.
- the location-variable camera device is particularly preferably a retrofit kit that can be attached using a fastening mechanism adapted to the respective type of shopping cart. This has the advantage that conventional cameras that are in use millions of times over can be replaced.
- Shopping carts can be upgraded in order to use the invention across the board with the lowest possible investment outlay.
- the variable-position camera device is installed in a flat, plate-like housing that is attached from inside the basket of the shopping cart to the front of the shopping cart using the aforementioned attachment mechanism.
- the attachment mechanism holds the variable-position camera device to the structure of the basket, e.g.
- the optics of the respective detection level are positioned or variably positioned to suit the type of shopping cart in such a way that they can "look through” the basket structure unhindered through the openings of the basket, i.e. the beam path of the respective optics is as unaffected as possible by the basket.
- the retrofit kit can also be configured so that the respective optics look over the top edge of the shopping cart. This makes it possible to create an even more universally usable retrofit kit in which the positions of the respective optics are decoupled from the existing structure of the basket. Such a retrofit kit can also be attached regardless of the position of the respective optics below the top edge of the basket. The same applies, with appropriate adjustments, to a retrofit kit that is designed to be attached to the underside of the front edge of the basket, from where the optics of the respective detection level can be positioned unhindered by the structure of the basket.
- a digital plan of the sales area allows a digital plan of the sales area to be generated fully automatically.
- a digital plan is also known in technical jargon as a vector floor map and can show the sales area in two or three dimensions. map, in this case including the magnetic field map, which forms the basis for magnetic field-based navigation in the sales area.
- map in this case including the magnetic field map, which forms the basis for magnetic field-based navigation in the sales area.
- the end result is a digital map of the sales area in which a relationship is recorded between the respective recorded magnetic field and the location in the sales area where the magnetic field was recorded.
- the data processing device can also be programmed to control the ESLs to display product and/or price information. Status information can also be received and processed by the ESLs. An LED that may be available on the ESL can also be controlled.
- the communication network that is also used for communication with the camera devices can also be used to communicate with the ESLs. However, a separate communication network can also be used to communicate with the ESLs. The measures required in connection with the operation and management of the ESLs (devices and methods, hardware and software) are also sufficiently familiar to the expert.
- the electronics can be discrete or built using integrated electronics or a combination of both.
- ASICs Application Specific Integrated Circuits
- Many of the functionalities of the devices mentioned are implemented - possibly in conjunction with hardware components - using software that runs on an electronic processor.
- Devices designed for radio communication usually have an antenna configuration for sending and receiving radio signals as part of a transceiver module, as well as a modulator and/or a demodulator.
- the electronic devices can also have an internal electrical power supply, which can be implemented with a replaceable or rechargeable battery, for example.
- the devices can also be wired, either through an external power supply or by means of "Power over LAN”.
- a radio-based power supply can also be provided using "Power over WiFi”.
- Battery-operated electronic display units are preferably equipped with energy-saving electrophoretic screens.
- Fig. 1 shows a section of a basket of a shopping cart, on which a location-variable camera device with integrated magnetic field detection devices is mounted on the front inside the basket;
- Fig. 2 is a block diagram of an electronics system of the position-variable camera device with three detection stages and the magnetic field detection devices associated with these detection stages;
- Fig. 3 shows detection areas of the three detection stages of the position-variable camera device;
- Fig. 4 the three detection areas in the context of a rack goose
- Fig. 5A - 5C realistic still images of shelves and goods positioned on them as well as electronic display devices along the shelf aisle using the three detection levels;
- Fig. 6 a sales area in which three shopping carts with location-variable camera devices move.
- FIG 1 shows a basket 1 of a conventional shopping cart 2, which is in use millions of times, on the front of which, on the inside of the basket 1, there is a location-variable camera device 3 which has three magnetic field detection devices (magnetometers) 35 integrated into it.
- the basket 1 is formed by metal rods, which are referred to below as rods 4 for short.
- the location-variable camera device 3 is a retrofit kit for the shopping cart 2.
- the location-variable camera device 3 is attached to the basket 1 with the help of two fastening plates 5 provided outside the basket 1, which are screwed to a plate-shaped housing 6 of the location-variable camera device 3 with the help of two screws 7 (which are only marked with reference symbols on the left fastening plate 4).
- the location-variable camera device 3 has three stereo image capture stages 8, 9 and 10, hereinafter referred to as capture stages 8, 9 and 10 for short.
- Their respective stereo optics 11, 12 and 13 provided for image capture (see also reference symbols 11, 12 and 13 in Figure 2) or the individual image capture area realized by the respective optics is essentially undisturbed by the bars 4 of the basket 1.
- the respective stereo optics "look" through between the bars, figuratively speaking. It should be noted that the stereo optics of the middle detection level 10 are aligned horizontally, whereas the stereo optics of the two outer detection levels 8 and 9 are aligned vertically, which facilitates stereo resolution in the respective orientation.
- the first stereo optics 11 of the first detection stages 8 are attached to a first positioning arm 8A that can be flexibly pulled out of the central housing 6 or pushed into the central housing 6 and can thus be variably positioned on the front of the shopping cart 2, taking into account the bars 4 or a gap that opens up between them.
- a first image detection area (reference number 20 in Figure 3) of the first detection stage 8 is oriented diagonally to the left
- a second image detection area (reference number 21 in Figure 3) of the second detection stage 9 is oriented diagonally to the right
- a third image detection area (reference number 22 in Figure 3) of the third detection stage 10 is oriented centrally.
- the three image detection areas that actually have spatial extension, i.e. essentially Areas corresponding to sectors, hereinafter referred to as detection areas 20, 21 and 22, are visualized as mentioned in Figure 3 and following.
- Figure 2 uses a block diagram to show functional groups of the position-variable camera device 3.
- the three detection stages 8, 9 and 10 indicate the respective stereo optics 11, 12 and 13 as well as their orientation mentioned in the previous paragraph.
- the detection stages 8, 9 and 10 are digital stereo cameras which transmit the image data BD of their recordings via a bus 14, which is designed to transmit digital data and/or control signals, to a processing device 15, which is implemented using a microcontroller and the software processed on it.
- the processing device 15 With the help of the processing device 15, (pre-)processing of the image data and/or evaluations of the image data BD are carried out and communication with external devices, such as an access point or a network component of an IoT network (loT stands here for "Internet of Things"), is controlled for the transmission of the possibly pre-processed image data BD or for the transmission of the evaluation results obtained by the evaluation.
- external devices such as an access point or a network component of an IoT network (loT stands here for "Internet of Things")
- the camera device 3 has a first radio communication stage 16, which has the necessary active and passive electronic components (generally referred to as transceivers), which is only indicated by an antenna configuration 17.
- the location-variable camera device 3 also has a supply device 18 for its electrical supply, which is implemented using a rechargeable battery 19 and is designed to provide a supply voltage VCC with respect to a reference potential GND.
- the supply device 18 can use a variety of technologies to charge the battery 19, such as Power over WiFi for energy transmission using WiFi signals or a photovoltaic panel integrated into its housing 6 for "energy harvesting" from ambient light, etc.
- the location-variable camera device 3 further comprises the respective magnetic field detection device 35, which is symbolized here as a compass, integrated into the respective detection stage 8, 9 and 10.
- the magnetic field detection devices 35 With the help of the magnetic field detection devices 35, the magnetic field at the respective detection location, i.e. in relation to the stationary shopping cart 2 at three different locations, where the respective detection level 8, 9 or 19 is also located. If the shopping cart 2 is moved, the magnetic field is detected along a movement path of the respective detection level 8, 9 or 10, which is also followed by the magnetic field detection level 35 integrated there. The magnetic field can therefore be detected along the three movement paths de facto at the same time (simultaneously).
- the image is captured with the three detection levels 8, 9 and 10 and the magnetic field detected at the respective location is transmitted together - as stated in the general description - with the image data BD of the respective detection level 8, 9, 10 via the first radio communication level 16.
- Figure 3 shows the shopping cart 2 with the location-variable camera device 3. Furthermore, the first detection area 20 of the first detection level 8, the second detection area 21 of the second detection level 9 and the third detection area 22 of the third detection level 10 are indicated here, starting from the front of the shopping cart 2 or the three detection levels 8, 9 and 10 positioned there. The overlap of at least the edges of the detection areas 20 with 22 and 20 with 21 in the immediate vicinity of the shopping cart 2 can also be clearly seen here, which facilitates the assembly of the images created with the help of the respective detection levels 8 to 9 into a kind of "panoramic image" of the scene in front of the shopping cart 2. With regard to the positions of the three detection levels 8, 9 and 10, reference is made to Figure 1.
- the shopping cart 2 is shown positioned between two shelves 23, as is typically the case in a sales area 27 of a retailer, which operates a supermarket, for example, where the shelves 23 flank a shelf aisle.
- the shopping cart 2 is typically moved there by a person (customer), as is the location-variable camera device 3 mounted on the shopping cart 2.
- the first detection area oriented diagonally to the left 20 and the second detection area 21 oriented diagonally to the right allow an almost frontal view into the shelves 23 located there down to the shelf floors 24 and thus enable a very detailed visual recording of the objects and structures there, whereas the third detection area 22 oriented centrally to the front allows a far-reaching overview of the arrangement of the shelves 23 along the shelf aisle as well as the course of the shelf aisle in front of the shopping cart 2.
- Figures 5A to 5C visualize the images, i.e. the visual recording of the structures along a shelf aisle using the three previously discussed recording stages 8, 9 and 10.
- Figure 5A shows the arrangement of the shelves 23 on the left side of the shelf aisle, i.e. starting just in front of the shopping cart 2, recorded using the first recording stage 8.
- Figure 5C also shows the arrangement of the shelves 23 on the right side of the shelf aisle, i.e. starting just in front of the shopping cart 2, recorded using the second recording stage 9.
- Figure 5B shows the course of the side shelves 23 extending in front of the shopping cart 2 along the shelf aisle up to a transverse shelf 23, where the shelf aisle turns to the right in front of this transverse shelf 23. It can be clearly seen that two adjacent images of the shelves 23, i.e.
- the recorded digital images also show the shelves 24, which are only marked on the outer edges of Figures 5A and 5C, the goods 25 presented on the shelves 24, which are only marked once per Figures 5A to 5C, and on the front edge of the shelves, typically on shelf rails installed there (not explicitly Electronic display devices 26, known in technical jargon as "electronic shelf labels", or ESL 26 for short, are mounted on the shelves (marked with a reference symbol because they are known per se), which are only marked a few times in the lower area of the respective figures 5A to 5C for reasons of clarity. However, these ESLs 26 are located for all goods 25 corresponding to the respective goods 25 at the corresponding positions on the shelf rails, which has not been fully visualized in order not to overload the figures 5A, 5b and 5C.
- the image data BD generated with the aid of the detection stages 8, 9 and 10 are transmitted together with the values of the detected magnetic field by the variable-position camera device 3 via its radio communication stage 16 for further processing, which will be discussed in more detail below. It should be noted here, however, that according to the external movement of the variable-position camera device 3, different image contents are constantly being produced, which are transmitted in essentially continuous sequence via the radio communication stage 16. The same applies to the three-track magnetic field detection, which essentially runs synchronously with the image detection, with the respective magnetic field values being transmitted synchronously with the image data transmission in order to ensure their digital connection and subsequently to be able to correctly assign them to the locations where they were detected.
- the image data BD continuously generated during the external movement of the various location-variable camera devices 3 is transmitted together with the recorded magnetic field values via a radio network, of which only a single access point 28 is visualized for reasons of simplification, but in reality several are installed distributed throughout the sales area, from the access point 28 by cable using an I_AN network (LAN stands here for "Local Area Network”) to a data processing device 29, which is connected by a powerful server with application-specific software for image processing, where it is assembled into a three-dimensional overall view of the sales area 27.
- the software is also programmed to generate the digital magnetic field map mentioned in the general description using the measures discussed in the general description.
- a complete digital image of the sales area with all its structural elements or objects can be created, which in the applicant's technical jargon is referred to as a "master 3D location map" because this digital data structure stores the entirety of the objects and their three-dimensional location in the sales area 27.
- This master 3D location map is basically a static digital image of the sales area, which only has a relatively unspectacular dynamic insofar as a further external movement of one of the shopping carts 2 is used to update the master 3D location map along the respective movement path.
- Driving through the same zones of the sales area multiple times can be used to obtain a more accurate visual representation of the sales area, i.e. to model the virtual space more precisely or to ensure updates to the virtual space.
- Driving through the area multiple times increases the number of magnetic field measurements available for this area, i.e. their density, which contributes to more accurate location determination during navigation.
- a customer's shopping list can be transmitted to the supermarket staff, who in this case act as store pickers.
- the store picker moves through the sales area under the guidance of the navigation device - as was discussed in the general part of the description - and is guided to the goods 25 contained in the list with the help of the magnetic field map from which the respective magnetic field route was generated.
- This process can take place completely without using the PDA screen, because the PDA displays all Information about navigation and the product to be searched for is provided acoustically. This makes it easier for the store picker to handle the goods because he has both hands free, thus speeding up his work process.
- the lifespan of the PDA battery is extended or optimized because the screen usually consumes the most power.
- the screen can be completely switched off during the process described here, because the store picker's confirmation that he has worked on the current list item in the list can also be announced by a movement of the PDA, which can be detected by the PDA using its electronics.
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Geophysics And Detection Of Objects (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Verfahren zur Erstellung einer Navigationsgrundlage für die Navigation in einem Verkaufsbereiches, das die nachfolgend angeführten Verfahrensschritte aufweist, nämlich: - ein Erfassen des Magnetfelds entlang einer Bewegungsbahn im Verkaufsbereich mit Hilfe von zumindest einer ortsvariablen Magnetfeld-Erfassungseinrichtung, die entlang der Bewegungsbahn im Verkaufsbereich bewegt wird, und - ein computerisiertes Herstellen eines Ortsbezug im Verkaufsraum für das am jeweiligen Ort entlang der Bewegungsbahn erfasste Magnetfeld, und - ein Speichern des erfassten Magnetfelds und seines Ortsbezugs im Verkaufsbereich in Form einer digitalen Magnetfeld-Landkarte.
Description
Titel
Verfahren zur Erstellung einer Navigationsgrundlage für die Navigation in einem Verkaufsbereiches
Beschreibung
Technisches Feld
Die Erfindung betrifft ein Verfahren zur Erstellung einer Navigationsgrundlage in einem Verkaufsbereiches.
Hintergrund
Bei der Digitalisierung eines Verkaufsbereichs, wie etwa dem Verkaufsraum eines Supermarktes, werden heutzutage autonome Roboter verwendet, die sich relativ langsam und platzraubend durch den Supermarkt bewegen und mit ihrer Kamera die Warenbestände in Regalen optoelektronisch digital erfassen.
Damit erstellte digitale Abbildungen weisen eine sehr gute Qualität auf, sind im Wesentlichen frei von optischen Verzerrungen und eignen sich daher hervorragend für die Digitalisierung des Verkaufsbereichs im Sinne einer Erstellung eines „Realograms", welches den tatsächlichen Warenbestand im Regal zum Zeitpunkt der optoelektronischen Erfassung repräsentiert.
Diese Art der digitalen Abbildung des Verkaufsbereiches dient vorwiegend den Zwecken des Waren- und Bestandsmanagements im Verkaufsbereich des Geschäfts. Auf Grundlage einer solchen digitalen Abbildung ist jedoch keine Navigation im Verkaufsbereich möglich.
Die Erfindung hat sich vor diesem Hintergrund die Aufgabe gestellt, ein Navigationsgrundlage zu schaffen, mit der im realen Verkaufsbereich eine Navigation ermöglicht ist.
Zusammenfassung der Erfindung
Diese Aufgabe wird durch ein Verfahren gemäß Anspruch 1 gelöst. Der Gegenstand der Erfindung ist daher ein Verfahren zur Erstellung einer Navigationsgrundlage für die Navigation in einem Verkaufsbereiches, das die
nachfolgend angeführten Verfahrensschritte aufweist, nämlich: ein Erfassen des Magnetfelds entlang einer Bewegungsbahn im Verkaufsbereich mit Hilfe von zumindest einer ortsvariablen Magnetfeld-Erfassungseinrichtung, die entlang der Bewegungsbahn im Verkaufsbereich bewegt wird, und ein Herstellen eines Ortsbezug im Verkaufsraum für das am jeweiligen Ort entlang der Bewegungsbahn erfasste Magnetfeld, und ein Speichern des erfassten Magnetfelds und seines Ortsbezugs im Verkaufsbereich in Form einer digitalen Magnetfeld-Landkarte.
Diese Aufgabe wird durch eine Navigationsverfahren gemäß Anspruch 14 gelöst. Der Gegenstand der Erfindung ist daher ein Navigationsverfahren zum Navigieren in einem Verkaufsbereich, das die nachfolgenden Verfahrensschritte aufweist, nämlich: ein Erfassen des Magnetfels am Ort einer Navigationseinrichtung, und ein Ermitteln des Aufenthaltsorts der Navigationseinrichtung im Verkaufsbereich mit Hilfe einer digitalen Magnetfeld-Landkarte, in der zu Orten des Verkaufsbereiches das dort vorliegende Magnetfelder gespeichert ist.
Der Erfindung liegt die Erkenntnis zugrunde, dass unterschiedliche Orte im Verkaufsbereich durch das dort lokal vorliegende Magnetfeld im Wesentlichen eindeutig beschrieben werden können. Dies ist dadurch bedingt, dass das globale Erdmagnetfeld in einem Verkaufsbereich durch die Vielzahl der dort verbauten magnetfeldbeeinflussenden Gegenstände lokal individualisiert ist und ohne grobe Veränderung der Anordnung oder der Existenz dieser Gegenstände die lokale Individualität des Magnetfelds auch im Wesentlichen erhalten bleibt.
Das entlang der Bewegungsbahn vorliegende Magnetfeld wird also mit Hilfe der Magnetfeld-Erfassungseinrichtung erfasst, digitalisiert und zur weiteren Verwendung bereitgestellt. Die Erfassung kann im Wesentlichen kontinuierlich, quasikontinuierlich oder auch sequentiell in vordefinierten Zeitabständen oder auch anlassbezogen zu anlassveranlassten Zeitpunkten erfolgen. So kann z.B. ein Bewegung- oder Beschleunigungssensor der Magnetfeld-Erfassungseinrichtung benützt werden, um bei Festgestellter Bewegung oder Beschleunigung die Erfassung des Magnetfelds am jeweiligen Ort entlang der Bewegungsbahn auszulösen. Zur Erfassung des Magnetfelds kann ein handelsübliches Magnetometer zum Einsatz kommen, dass eine dreidimensionale oder vektorielle digitale Daten- Repräsentation des erfassten
Magnetfels bereitstellt. Solche Magnetometer sind heutzutage bereits in modernen Smartphones verbaut und bilden dort die Grundlage für eine Funktion, die oft als „digitaler Kompass" bezeichnet wird.
Um die Vielzahl der Magnetfelderfassungen, die entlang der Bewegungsbahn erfolgten, auch nachfolgend für die Navigation nutzen zu können, wird für jede dieser Magnetfelderfassungen automatisch - also computerisiert, das heißt mit Hilfe eines Computers, der entweder in der Magnetfeld-Erfassungseinrichtung verbaut ist oder dazu extern lokalisiert (z.B. in einer externen Datenverarbeitungseinrichtung) ist, ein Ortsbezug herstellt. Für den jeweiligen Magnetfeld-Messwert, der das lokale Magnetfeld am Ort seiner Erfassung entlang der Bewegungsbahn angibt, wird also der betretende Ort entlang der Bewegungsbahn ermittelt und festgehalten (gespeichert), worauf nachfolgend noch eingegangen ist.
Die magnetfeldbasierte Navigation - also die Nutzung der Kenntnis des lokalen Magnetfelds sowie dessen Ortsbezug - hat sich darüber hinaus als besonders vorteilhaft erwiesen, weil sie ohne die Notwendigkeit einer im Wesentlichen permanenten Verfügbarkeit, also Aussendung von zusätzlichen Funkfeuer-Signalen, die zur funkbasierten Navigation im Indoor-Bereich nötig wären, auskommt, da das Magnetfeld, das zur Ortsbestimmung und in Folge auch zur Navigation genutzt wird, ja immer vorhanden ist. Ausgangspunkt für die Navigation ist zunächst die Bestimmung des Aufenthaltsorts der Navigationseinrichtung, was wiederum auf einer reinen Erfassung des Magnetfelds am Ort der Navigationseinrichtung beruht, wonach der zum erfassten Magnetfeld passende Ort über die Magnetfeld-Landkarte ermittelt wird.
Bei dem Verkaufsbereich kann es sich beispielsweise um einen Verkaufsraum eines Supermarkts mit all seinen Einrichtungsgegenständen handeln, wie z.B. Regale, Körbe, Tische, Verkaufsinseln usw. zur Präsentation von Waren. Ebenso kann es sich bei dem Verkaufsbereich um einen Lagerbereich z.B. eines Baustoffhändlers oder eines Logistikzentrums usw. handeln, wo z.B. neben den besagten Regalen, Körben, oder Tischen usw. zur Präsentation oder Aufbewahrung von Waren auch Schwerlastregale in einer Verkaufs- bzw. Lagerhalle oder in einem Außenbereich aufgestellt sind. Der Begriff des Verkaufsbereiches ist hierbei nicht auf den erwähnten Supermarkt oder den Baustoffhandel usw. beschränkt, sondern kann verschiedenste
Sparten des Einzel- und Großhandels umfassen. Der Begriff Verkaufsbereich kann auch eine Kombination aus Außenbereich und Innenbereich umfassen, ebenso wie die Kassenbereiche, in denen z.B. Kunden ggf. in einer Schlange stehend auf die Bezahlung der von ihnen gewählten Waren warten, oder andere nicht unmittelbar für den Verkauf von Waren reservierte Bereiche, wie etwa das Kundenservicecenter oder einen Parkplatz.
Die Magnetfeld-Erfassungseinrichtung kann fremd-bewegt werden. In diesem Fall wird sie z.B. von einer Person, wie z.B. einem Mitarbeiter oder einem Kunden, direkt oder indirekt beweg. Die Person kann die Magnetfelde- Erfassungseinrichtung tragend bewegen. So wird die Magnetfeld- Erfassungseinrichtung direkt beweg. Die Person kann jedoch auch einen anderen Gegenstand bewegen, der seinerseits die Magnetfeld- Erfassungseinrichtung trägt. So wird die Magnetfeld-Erfassungseinrichtung indirekt bewegt. Die Magnetfelderfassung-Einrichtung kann jedoch auch selbst-bewegt sein. In diesem Fall weist sie eine Bewegungseinrichtung zum autonomen Fahren oder zum (funkbasierten) ferngesteuerten Fahren auf. Die Bewegungseinrichtung kann z.B. ein Fahrgestell mit motorischem Antrieb von Rändern, Walzen oder Ketten usw. und Lenkfähigkeit aufweisen. Gesteuert wird die Bewegung durch einen Bordcomputer der Magnetfeld- Erfassungseinrichtung.
Die Herstellung des Ortsbezugs kann auf unterschiedlichen Maßnahmen beruhen, worauf nachfolgend im Detail eingegangen ist. Jedenfalls werden die erfassten Magenfelder zusammen mit ihrem Ortsbezug im Verkaufsbereich digital gespeichert. Unter dem Ortsbezug ist jener Ort zu verstehen, an dem das Magnetfeld im Verkaufsbereich erfasst wurde, also der ursprüngliche Erfassungsort. Es werden also Datenpaare in Form einer digitalen Repräsentation des erfassten Magnetfelds und einer digitalen Repräsentation des Erfassungsorts in einer Datenstruktur gespeichert, die nachfolgend als digitale Magnetfeld-Landkarte bezeichnet wird. Sie gibt zu unterschiedlichen Orten des Verkaufsbereichs die dort erfassten Magnetfelder an.
Weitere, besonders vorteilhafte Ausgestaltungen und Weiterbildungen der Erfindung ergeben sich aus den abhängigen Ansprüchen sowie der nachfolgenden Beschreibung.
So kann beispielsweise die Bewegungsbahn im Verkaufsbereich vordefiniert, also bekannt sein. Auch kann die Bewegungsrichtung entlang der Bewegungsbahn und die Geschwindigkeit definiert sein. Somit ergibt sich der Ortsbezug - auch bei geringfügigen Abweichungen von der definierten Bewegungsbahn oder leichten Unregelmäßigkeiten in der Geschwindigkeit - entlang der definierten Bewegungsbahn in guter Näherung durch das Produkt aus Geschwindelt mal Zeit. Erfolgt die Erfassung des Magnetfelds zu definierten Zeitpunkten, liegt unmittelbar die Beziehung zwischen dem Ort entlang der Bewegungsbahn und dem dort erfassten Magnetfeld vor, die gespeichert wird.
Da die Datenverarbeitungseinrichtung den Gesamtplan des Verkaufsbereiches in digitaler Form speichert, kann die vordefinierte Bewegungsbahn direkt in diesem Plan computerisiert verortet werden und die erfassten Magnetfelder den betreffenden Orten im Verkaufsraum zugewiesen werden, sodass die Magnetfeld-Landkarte entsteht.
Auch kann zur Herstellung des Ortsbezugs bei der Magnetfelderfassung entlang der Bewegungsbahn auf an sich bekannte Verfahren zurückgegriffen werden, wie die Nutzung von Funksignalen mit bekannten Funksignalparametern, die - gemäß einer ersten Variante - von Funksendern ausgesandt werden, deren Orte im Verkaufsraum bekannt ist. Solche Sender können z.B. durch Funk-Funkfeuer oder durch Accesspoints usw. gebildet sein. Ihre Signale können bei der Magnetfelderfassung- Einrichtung empfange werden und dort zur Triangulation verwendet werden, um den relativen Ort in Bezug auf die Funksender zu bestimmen. Da auch der Ort der Funksender im Verkaufsbereich bekannt ist, lässt sich das jeweilige erfasste Magnetfeld auch in Bezug auf den Verkaufsbereich verorten.
Diese Art der Ortsbestimmung lässt sich auch - gemäß einer zweiten Variante - so realisieren, dass die Magnetfeld-Erfassungseinrichtung einen Sender zum Aussenden eines Funksignals mit bekannten Funksignalparametern aufweist und dass dieses Funksignal von mehreren Funkempfängern empfangen wird, die an bekannten Orten im Verkaufsbereich positioniert sind.
Die durch Auswertung der empfangenen Funksignale erhaltenen Ortsangaben im Verkaufsbereich können zu den erfassten Magnetfeldern
mitprotokolliert werden, so dass ein Ortsbezug der erfassten Magnetfelder im Verkaufsbereiches hergestellt wird.
In diesem Fall ist davon ausgegangen, dass die Datenverarbeitungseinrichtung den Gesamtplan des Verkaufsbereiches zusammen mit - gemäß der ersten Variante - den Positionen der Funksender oder zusammen mit - gemäß der zweiten Varianten - den Positionen der Empfänger in digitaler Form speichert. Somit ergibt sich aus der ermittelten Relativposition der Magnetfeld-Erfassungseinrichtung bezogen auf - in Abhängigkeit von der gewählten Varianten - entweder die Funksender oder die Funkempfänger auch unmittelbar die Orte der Magnetfelderfassung im Verkaufsbereich, die zusammen mit den dort erfassten Magnetfeldern mitprotokolliert werden, sodass die Magnetfeld-Landkarte entsteht.
Nachdem der Ortsbezug hergestellt wurde, sind die Funksignal für die weitere Ortsbestimmung und darauf aufbauende Navigation nicht mehr nötig.
Insbesondere in einem Verkaufsbereich, in dem bereits andere Funksysteme für z.B. die allgemeine Datenübertragung (WLAN, BlueTooth, ZigBee, usw.) oder ein spezielles Funksystem zur Steuerung von elektronischen Anzeigeeinrichtungen (wie etwa Electronic Shelf Labels) aktiv sind, hat es sich als besonders vorteilhaft erwiesen, wenn der Ortsbezug mit Hilfe einer ortsvariablen Kameraeinrichtung (3) hergestellt wird, welche Kameraeinrichtung (3) mit der Magnetfeld-Erfassungseinrichtung mitbewegt wird und eine digitale Aufnahme der Umgebung der Bewegungsbahn der Magnetfeld-Erfassungseinrichtung im Verkaufsbereich (27) erstellt.
Diese Maßnahme bewirkt, dass sowohl das Erfassen des Magnetfeldes wie auch das Erstellen der Aufnahme an im Wesentlichen ein und demselben Ort erfolgt, nämlich am Ort, wo sich die beiden Geräte, also die Kameraeinrichtung und die Magnetfelderfassungseinrichtung gerade befinden. Obwohl es sich grundsätzlich um zwei Einrichtungen handelt, kann mit guter Näherung von einem einzigen Ort gesprochen werden, an dem sie sich befinden.
Es treffen also die im Zusammenhang mit der Erörterung der Begriffe „fremd-bewegt" und „sei bst- bewegt" getätigten Aussagen nun auch auf die Kameraeinrichtung zu.
Auch erlaubt diese Lösung grundsätzlich eine möglichst einfache zeitliche Synchronisation der jeweiligen Aktivität der Einrichtungen (Geräte), also die Erfassung des Magnetfelds und die Erstellung der Aufnahme. Hierbei kann z.B. auf eine gemeinsame Zeitbasis zurückgegriffen werden, die bei beiden Geräten zur Anwendung kommt. So kann z.B. eines der Geräte die eigene Zeitbasis für das andere Gerät bereitstellen. Auch kann jedes Gerät seine eigene Zeitbasis haben, wobei die beiden Zeitbasen aufeinander synchronisiert sind, und beide Geräte ihre jeweilige Aktivität gemeinsam zu einem Zeitpunkt starten und in weiterer Folge zeitsynchron weitere Aktivitäten durchführen. Da - wie nachfolgend noch im Detail erörtert wird - für die Aufnahme als solches ein Ortsbezug hergestellt werden kann, steht dieser Ortsbezug der Aufnahme auch als Ortsbezug für das erfasste Magnetfeld zur Verfügung. Es liegt also eine aufnahme-basierte Herstellung des Ortsbezugs vor.
In diesem Zusammenhang hat es sich als besonders vorteilhaft erwiesen, wenn das am jeweiligen Ort der Bewegungsbahn erfasste Magnetfeld und die an diesem Ort erstelle Aufnahme miteinander digital verbunden werden.
Das erfasste Magnetfeld und die erstellte Aufnahme können in ihrer digitalen Repräsentation separat voneinander an eine übergeordnete Datenverarbeitungseinrichtung übermittelt werden und dort logisch miteinander verbunden bzw. verknüpft werden, wie z.B. in einer Datenstruktur als Datensatz abgespeichert werden. Die Zusammengehörigkeit der erstellten Aufnahme und das erfasste Magnetfeld, und somit ihr gemeinsamer Bezug zu ein und demselben Ort, an dem eineerseits das Magnetfeld erfasst wurde und andererseits auch die Aufnahme erstellt wurde, kann hierbei mittels eines laufenden Index, der in beide digitalen Repräsentationen eingebettet ist oder durch Mitübermittlung von Zeitdaten, welche den Zeitpunkt angeben, zu dem das Magnetfeld erfasst und die Aufnahme erstellt wurde, hergestellt werden. Der Index gibt die Sequenz der Aktivitäten (Erfassung des Magnetfelds und Erstellung der Aufnahme) an und paart jeweils zwei solcher Ereignisse mit identischem Indexwert. Der Zeitpunkt spezifiziert, wann die Aktivitäten (Erfassung des Magnetfelds und Erstellung der Aufnahme) erfolgten und paart jeweils zwei solcher Ereignisse mit identischer Zeitangabe. Auch der fortlaufende Index kann einen Zeitbezug
haben, wenn z.B. das Auftreten von zwei benachbarten Indexwerten immer mit dem Verstreichen einer vorbestimmten, bekannten Zeitperiode einhergehen. Da beide Geräte (die Kameraeinrichtung und das Magnetfeld- Erfassungsgerät) separat ausgeführt sind, weisen sie auch separate Funk- Kommunikationseinrichtungen auf, um ihre jeweiligen Daten, die einerseits das erfasste Magnetfeld und anderseits die erstellte Aufnahme repräsentieren, ggf. zusammen mit den Zeitangaben und/oder den Indexwerten an die Datenverarbeitungseinrichtung, zu übermitteln.
Die Kameraeinrichtung und die mit ihr mitbewegte Magnetfeld- Erfassungseinrichtung können auch in einem Kombinationsgerät integriert sein und so ein gemeinsames Funk-Kommunikationsmodul nutzen, um das erfasst Magnetfeld und die erstellte Aufnahme, ggf. zusammen mit den Zeitangaben und/oder den Indexwerten an eine Datenverarbeitungseinrichtung zu übermittle, wo die Verdingung hergestellt wird.
In diesem Zusammenhang hat es sich als besonders vorteilhaft erwiesen, dass das Verbinden des erfassten Magnetfelds und der erstellten Aufnahme in dem Kombinationsgerät erfolgt, welches die Magnetfeld- Erfassungseinrichtung und die Kameraeinrichtung aufweisen.
Das Kombinationsgerät kann aufbauend auf dieser Maßnahme ein oder mehrere Datenpakete, welche die Ereignisse (erfasstes Magnetfeld und erstelle Aufnahme) bündeln oder einen einzigen Datenstrom generieren, der die verbundenen Ereignisse (erfasstes Magnetfeld und erstelle Aufnahme) inklusive ihres Zeit-Bezugs (oder ihres Index-Bezugs) enthält. Es sind also individuelle Übertragungen der Ereignisse in separaten Datenübertagungssequenzen vermieden. Diese Maßnahme erlaubt auch eine optimale Ausnutzung der dezentral bei dem Kombinationsgerät vorliegenden Datenverarbeitungsleistung für das Verbinden bei zugleich erhaltener effizienterer Nachverarbeitung bei der übergeordneten (zentralen) Datenverarbeitungseinrichtung, weil dort bereits verbundene Ereignisse ankommen.
So kann einerseits gemäß einer ersten Ausbildungsform im Falle einer Ausbildung der Kameraeinrichtung als Standbild-Kamera, die zum Erzeugen von Stand-Aufnahmen ausgebildet ist, die jeweilige Standbild-
Aufnahme zusammen mit dem zu der Standbild-Aufnahme zeitlich korrespondierend erfassten Magnetfeld bereitgestellt werden.
Hierfür eignen sich die erwähnten Datenpakete, die immer dann übertragen werden, wenn das Standbild erstellt und im wesentlich zeitgleich dazu das Magnetfeld erfasst wurde.
So kann andererseits gemäß einer zweiten Ausbildungsform im Falle einer Ausbildung der Kameraeinrichtung als Video-Kamera, die zum Erzeugen einer Video-Aufnahme strukturiert in Video-Frames ausgebildet ist, der jeweilige Frame der Video-Aufnahme zusammen mit dem zum jeweiligen Frame der Video-Aufnahme zeitlich korrespondierend erfassten Magnetfeld bereitgestellt werden.
Hierfür eignet sich der erwähnte Datenstrom, weil auch die Video- Aufnahme in Form eines in Video-Frames strukturierten Video-Datenstroms vorliegt. Das zum jeweiligen Video-Frame erfasste Magnetfeld kann in den Video-Datenstrom zusätzlich zu dem betreffenden Video-Frame eingebettet werden und so an die Datenverarbeitungseinrichtung mitübertragen werden.
Die Übertragung kann jedoch auch so erfolgen, dass der Video- Datenstrom auf herkömmliche (standardisierte) Weise übertragen wird und immer dann, wenn eine Magnetfelderfassung erfolgt, die z.B. in periodischen Zeitabständen erfolgen kann, das erfasste Magnetfeld mit der Video-Frame- Nummer des zeitlich zugehörigen Video-Frames gekennzeichnet wird, also ein Datenpaket aus erfasstem Magnetfeld und Video-Frame-Nummer zusätzlich zu dem Video-Datenstrom an die Datenverarbeitungseinrichtung übermittelt wird.
Um eine möglichst flächenhafte Erfassung des Magnetfelds im Verkaufsbereich zu erhalten, insbesondere auf den für die Bewegung von Personen vorgesehenen Bewegungswegen, welche Personen sich z.B. zwischen Regalen oder in anderen Worten entlang von Regalgängen erstrecken, hat es sich als vorteilhaft erwiesen, dass das Erfassen des Magnetfelds mehrfach entlang von zumindest teilweise unterschiedlichen Bewegungsbahnen im Verkaufsbereich erfolgt.
Da der Bewegungsweg üblicherweise eine begrenzte (oft sogar recht schmale) Breite aufweist, sind entlang dieser Bereite unterschiedliche Bewegungsbahnen möglich und somit auch unterschiedliche lokale Magnetfelder entlang dieser unterschiedlichen Bewegungsbahnen erfassbar.
Die Vielzahl der an einem Abschnitt des Bewegungswegs vorliegenden Magnetfelderfassungen - also die um einen Ort im Verkaufsbereich vorliegende Magnetfeldwerte (vektoriellen Magnetfeldwerte) wie auch deren Unterschiede zueinander bilden für den betreffenden Ort einen charakteristischen magnetischen Fingerabdruck. Da sich das Navigationsgerät üblicherweise in Bewegung befindet, kann dieser Umstand genutzt werden, um seine „Position" innerhalb Magnetfeldkarte möglichst präzise zu lokalisieren.
Es lässt sich also nicht nur eine linienhafte Magnetfelderfassung entlang einer einzigen Bewegungsbahn durchführen und für die spätere Navigation nutzen. Vielmehr kann durch eine Vielzahl im Abstand zueinander benachbarter Bewegungsbahnen, die einen Bewegungsweg oder einen für den Personenaufenthalt bestimmten Platz, kurz Bereich genannt, durchlaufen, eine für diesen Bereich aussagekräftige Gruppe vom Magnetfelderfassungen generiert werden, die zur magnetfeldbasierten Ortsbeschreibung in diesem flächenhaften Bereich dienen. Werden diese Erfassungen entlang unterschiedlicher Bewegungsbahnen über die Zeit hinweg akkumuliert (gespeichert), ergibt sich eine Aussagekräftige Dichte von Magnetfeldwerten für den betroffenen Teil des Verkaufsbereichs. Dieser Umstand trägt entscheidend zur Genauigkeit der darauf aufbauenden Navigation im Verkaufsbereich bei. In Bezug auf die Entstehung der Magnetfelderfassungen für den Bereich ist es im Übrigen unerheblich, ob die Vielzahl der Bewegungsbahnen für diesen Bereich systematisch, also geplant, durchlaufen werden oder ob sich die Bewegungsbahnen im Laufe der Zeit zufällig ergeben.
Die ortsvariable Kameraeinrichtung kann - wie bereits angeklungen - zur Erfassung einer sich in ihrem Erfassungsbereich befindlichen Szene in Form von Standbildaufnahmen oder Videoaufnahmen ausgebildet sein. Sie generiert entweder eine digitale Standbildaufnahme oder eine Serie davon oder eben eine digitale Videoaufnahme. Auch kann vorgesehen sein, dass die Kameraeinrichtung, z.B. je nach Anforderung, sowohl eine Standbildaufnahme und eine Videoaufnahme generiert, wobei die Standbildaufnahme und die Videoaufnahme zeitlich versetzt zueinander erstellt werden können oder eine Standbildaufnahme währen der Videoaufnahme (z.B. aus der laufenden Videoaufnahme heraus) generiert werden kann. Hierfür weist die Kameraeinrichtung die dafür üblicherweise vorgesehene Mittel auf, wie z.B.
ein Objektiv und einen Bildsensor, wobei in einem Erfassungsbereich der Kamera befindliche Objekte oder eine Szene durch das Objektiv hindurch auf den Bildsensor projiziert bzw. abgebildet werden. Der (typischerweise halbleiterbasierte) Bildsensor erzeugt auf Basis dieser Projektion ein digitales Abbild des Objekts bzw. der im Erfassungsbereich der Kamera befindlichen Szene. Eine Elektronik der Kamera, die zumindest einen programmierbaren Prozessor und eine Peripherie-Elektronik zur Bereitstellung der Funktionen der Kameraeinrichtung aufweist, verarbeitet das erstellte digitale Abbild weiter. Das so erhaltene digitale Abbild des Objekts bzw. der Szene kann in der Kameraeinrichtung digital zwischengespeichert und/oder ggf. datenreduzierend komprimiert bereitgestellt werden, um dann mit Hilfe einer Funkstufe, wie z.B. einer loT (Internet of Things) Funkstufe, die den 4G oder 5G („fifth-generation technology Standard for broadband cellular networks") oder Funk-Folgestandards nützt, an eine Datenverarbeitungseinrichtung übertragen zu werden. Auch können hierfür andere Funktechnologien zum Einsatz kommen, wie z.B. gängige WLAN-Standards, wie etwa IEEE 802.11. g, IEEE 802.11h, IEEE 802. lln (auch als WiFi 4 bezeichnet) oder Folgestandards.
Die Datenverarbeitungseinrichtung kann durch einen lokalen Computer oder Server des Betreibers des Verkaufsbereichs, durch ein über das Internet erreichbares dem Betreiber des Verkaufsbereichs zugeordnetes Rechenzentrum oder eine cloudbasierte Softwarelösung, die in einem Rechenzentrum (einer Serverfarm) gehostet ist und für den Betreiber des Verkaufsbereichs über das Internet verfügbar ist, gebildet sein. Auf der Datenverarbeitungseinrichtung wird eine Software abgearbeitet. Der Software werden die Aufnahmen der ortsvariablen Kameraeinrichtung und der ortsfesten Kameraeinrichtung in digitaler Form zugeführt. Die Software verarbeitet diese Aufnahmen mit den nachfolgend erörterten Funktionalitäten.
Mit Hilfe der Aufnahme(n) der ortsvariablen Kameraeinrichtung lässt sich nun ein digitales Abbild des Verkaufsbereichs erstellen. Gemäß diesem Aspekt weist das Generieren des digitalen Abbilds des Verkaufsbereichs ein Verarbeiten der mit Hilfe der zumindest einen ortsvariablen Kameraeinrichtung erfassten Umgebung der Bewegungsbahn im Verkaufsbereich mit Hilfe von einer Bildverarbeitungssoftware, insbesondere mit Hilfe von im Fachjargon als Computer Vision bezeichneten
Softwaremaßnahmen, auf, wobei als Ergebnis des Verarbeitens als digitales Abbild des Verkaufsraums ein virtueller Raum geschaffen wird.
Dieser virtuelle Raum kann mit Hilfe eines Visualisierungsgeräts, insbesondere eines Bildschirms oder eines im Englischen als Virtual-Reality- Headset bezeichneten Geräts, einer humanwahrnehmbaren Visualisierung zugänglich gemacht werden.
Konkret kann für die Erstellung des virtuellen Raums eine Bilderverarbeitungssoftware zum Einsatz kommen, die in der Folge der Aufnahmen entlang der Bewegungsbahn, sei dies nun eine Serie von Standbildaufnahmen oder eine Videoaufnahme, Objekte (Regalgänge, Regale, Körbe, Tische, usw.) erkennt, diese Objekte digital beschreibt, aneinander ordnet und so eine digitale Repräsentation des Verkaufsraums schafft.
Zur Unterstützung dieses Verarbeitungsvorgangs können im Verkaufsbereich auch Bezugspunkte vorgesehen sein, die der Bildverarbeitungssoftware bekannt sind, weil sie vorab dort gespeichert wurden. Bei den Bezugspunkten kann es sich um Funkfeuer (bekannt unter dem Fachbegriff „Radio-Beacon") handeln, die ein Signal aussenden, das z.B. von der ortsvariablen Kamera empfangen wird und zur Bestimmung der Relativposition zum Funkfeuer benutz wird, wobei diese Information der Bildverarbeitungssoftware zur Verfügung gestellt wird, damit die mit Hilfe der ortsvariablen Kameraeinrichtung erfasste Aufnahme präziser mit Bezug zum realen Verkaufsbereich verortet werden kann. Bei den Bezugspunkten kann es sich jedoch auch um optisch wahrnehmbare Referenz-Elemente bzw. Referenz-Signals handeln, deren Position im Verkaufsbereich bekannt sind oder über die eine eindeutige Ortsangabe im Verkaufsraum zu ermitteln ist. Es kann sich hierbei um einfache geometrische Figuren handeln. Ebenso kann es ich hierbei um codierte Informationsträger in Form z.B. eines QR (aus dem Englischen - steht für „quick response") Codes, eines Infrarotlicht-Signals oder eines Laserlicht-Signals handeln. Diese optisch wahrnehmbaren Referenz-Elemente sind in den Aufnahmen der ortsvariablen Kameraeinrichtung enthalten, sie können dort identifiziert werden (ggf. auch decodiert werden, wenn sie codierte Information enthalten). Ihre Bedeutung ist der Bildverarbeitungssoftware bekannt, weil diese vorab gespeichert wurde oder die Art und Weise der Verarbeitung der visuelle wahrnehmbaren Referenzelemente bzw. -Signale vorab programmiert wurde. Solche Referenz-
Elemente oder -Signale können einerseits zur Eingrenzung der Position der ortsvariablen Kameraeinrichtung und andererseits zur Verortung der mit der ortsvariablen Kameraeinrichtung erstellten Aufnahmen im digitalen Abbild des Verkaufsbereichs eingesetzt werden.
Die Erstellung des bzw. der Aufbau des virtuellen Raums kann jedoch auch völlig autonom, also ohne die Verwendung der Bezugspunkte im Verkaufsbereich, mit Hilfe der Bildverarbeitungssoftware erfolgen. Als besonders vorteilhaft hat sich in diesem Zusammenhang die Verwendung der im Fachjargon als Computer Vision, in Deutsch als "Computer Sehen" bezeichnet und als Synonym auch unter dem englischen Begriff „Machine Vision" bekannt, bezeichneten Softwaremaßnahmen erwiesen. Das Fachgebiet der Computer Vision ist zum Zeitpunkt der Anmeldung hinlänglich bekannt. Die dort zur Anwendung kommenden Softwaremaßnahmen erlauben es, von Kameras aufgenommene Bilder auf unterschiedlichste Art und Weise zu verarbeiten und zu analysieren, um deren Inhalt zu verstehen oder geometrische Informationen zu extrahieren, um eben daraus den virtuellen Raum als „digitalen Zwilling" des realen Verkaufsbereichs zu schaffen. Der „digitale Zwilling" stellt eine Datenstruktur dar, in der die mit Hilfe der CV erkannten geometrischen Informationen bzw. Objekte wie auch ihre räumliche Beziehung zueinander gespeichert ist. So lassen sich z.B. in einem Geschäftslokal problemlos die erwähnten Einrichtungsgegenstände erkennen, wie auch dazwischenliegende Gänge und deren Verlauf wie auch deren Orientierung zueinander bestimmen. So kann die Datenstruktur z.B. Vektoren speichern, die für die erkannten Objekte oder Strukturen Eckpunkte oder auch Zwischenpunkte definieren, welche zur Begrenzung der Objekte bzw. Strukturen dienen. Diese Vektoren können sich auf einen Ursprung beziehen und/oder auf benachbarte Objekte oder Strukturen beziehen. Um die so erhaltene 3D-Polygone (oder Polygon-Netze), welche die erkannten geometrischen Informationen, letztendlich die erkannten Objekte beschreiben, in einer gut erkennbaren humanwahrnehmbaren Form wiedergeben zu können, können die 3D-Polygone mit einer Textur überzogen werden. Dieses Texturieren der 3D-Poylgone kann z.B. mit Hilfe der Aufnahme der ortsvariablen Kamera und/oder mit Hilfe der Aufnahme von ggf. vorgesehenen ortsfesten Kameras erfolgen, um einen realitätsnahen Eindruck zu vermitteln. Anstelle der Aufnahme kann die Textur auch mit Hilfe
von vordefinierten Bildelementen erfolgen, um eine abstraktere, ggf. nicht so detailgetreue Darstellung zu erhalten.
Wo angebracht, wird nachfolgend aus Gründen der Vereinfachung der Sprache der Verweis auf die Softwaremaßnahmen der Computer Vision kurz als „Computer Vision" bezeichnet.
Um die in der Datenstruktur gespeicherte räumliche Information der Objekte im Verkaufsbereich humanzugänglich zu machen, greift eine Visualisierungssoftware auf die Datenstruktur zu und steuert ein Visualisierungsgerät, wie etwa einen Bildschirm oder ein Virtual-Reality- Headset, entsprechend der vom Benutzer gewünschten Ansicht des Verkaufsraums an. Die Visualisierungssoftware kann lokalisiert auf der Datenverarbeitungseinrichtung abgearbeitet werden und Ihre Steuerdaten und/oder Inhaltsdaten an das jeweilige Visualisierungsgerät z.B. im Fall des Bildschirms leitungsgebunden oder funkbasiert oder im Fall des Virtual- Reality- Headsets bevorzugt funkbasiert, z.B. mit den erwähnten funktechnischen Maßnahmen, übertragen. Als Visualisierungsgerät kann auch ein Bildschirm der Navigationseinrichtung fungiere.
In weiterer Folge wird der Ortsbezug des mit Hilfe der Magnetfeld- Erfassungseinrichtung erfassten Magnetfelds durch Auswertung der am selben Ort erstellten Aufnahme hergestellt, worauf nachfolgend im Detail eingegangen ist.
Bei diesem Vorgang können die bekannten optischen und/oder optoelektronischen Parameter der Kamera zur Anwendung kommen, um z.B. die Entfernung zwischen der Kameraeinrichtung (bzw. ihrem optoelektronischen Abbildungssystem) und einem Objekt der Aufnahme zu ermitteln. Auf reale Abmessungen lässt sich nun leicht umrechnen, weil in der Aufnahme üblicherweise eine Vielzahl von Objekten (Regale, Regalböden, elektronische Anzeigeeinrichtungen, usw.) enthalten sind, von denen die realen Maße bekannt sind. Unter Kenntnis der Abmessung eines realen Objekts kann z.B. auch ein Maßstab ermittelt werden, der angibt, welcher realen Maßeinheit ein Pixel oder ein Pixelabstand in der digitalen Abbildung entspricht. Es muss in der digitalen Abbildung eines an sich bekannten Objekts nur die Anzahl der Pixel entlang einer Objektkante ermittelt werden (gezählt werden) und in das Verhältnis zur realen Abmessung des Objekts entlang dieser Objektkante gesetzt werden. In guter Näherung kann nun die
Linsengleichung herangezogen werden, um z.B. den Abstand der Kamera von dem realen Objekt zu ermitteln.
Da jede Abbildung einer Szene üblicherweise eine räumliche Perspektive aufweist, kann für diese Perspektive auch ein dynamischer Maßstab generiert werden, der sich entlang der Perspektive, also entlang der abgebildeten Raumtiefe, (in guter Näherung linear) ändert. Jedenfalls lässt mit Hilfe der jeweiligen Abbildung unter Berücksichtigung der perspektivischen Verzerrungen von bekannten Objekten in der Abbildung, also auf Grundlage der daraus ableitbaren geometrischen Gegebenheiten, genau die Position der Kameraeinrichtung in Bezug auf die erfasste Szene sowohl in der Realität wie auch im digitalen Abbild bestimmen. Dieser Ort der Kameraeinrichtung entspricht nun in guter Näherung dem Ort der Magnetfeld- Erfassungseinrichtung, da diese ja mit der Kameraeinrichtung mitbewegt ist, und wird zusammen mit dem für diesen Ort ermittelten Magnetfeld in der digitalen Abbildung des Verkaufsraums gespeichert.
Da dieser Vorgang für alle Magnetfelderfassungen entlang der jeweiligen Bewegungsbahn durchgeführt wird, ergibt sich bei ausreichend hoher Zahl von unterschiedlichen Bewegungsbahnen im Verkaufsbereich, die nicht zwingend, jedoch bevorzugt gleichmäßig verteilt im Verkaufsbereich verlaufen, summarisch betrachtet die digitale Magnetfeld-Landkarte des Verkaufsraums, wobei einzelnen Orten des Verkaufsraums das an diesen Orten vorliegende (erfasste) Magnetfeld zugeordnet ist.
Die Ermittlung der Position der Magnetfeld-Erfassungseinrichtung kann jedoch auch mit Hilfe von einer virtuellen Kamera erfolgen, die in den virtuellen Raum gestellt wird und mit der von ihrer Position aus mit einer definierten Orientierung eine Aufnahme in ihrem Erfassungsbereich generiert wird. Bei der virtuellen Kamera kommen nun dieselben Parameter für ihr optoelektronisches Erfassungssystem zum Einsatz, wie bei der realen Kameraeinrichtung. Nun wird die virtuelle Kamera so lange im virtuellen Raum zurechtgerückt und ihre Orientierung angepasst, bis dass die mit ihr erstellte Aufnahme Inhaltsgleich mit jener der realen Kameraeinrichtung ist. Die so gefunden Position definiert den Ort der Kameraeinrichtung, mit der die reale Szene erfasst wurde und wird für die Festlegung des Orts verwendet, an dem die Magnetfelder-Erfassungseinrichtung die Magnetfelderfassung im realen Raum vornahm. Das betreffende erfasste Magnetfeld wird somit mit
diesem Ortsbezug in der Magnetfeld-Landkarte vermerkt. Der hier beschriebene rein bildbasierte Ortsfestlegungsvorgang kann für die Vielzahl der Orte der Bewegungsbahn wiederholt werden, wobei schrittweise entlang der Bewegungsbahn Ortsbestimmungen erfolgen können oder auch ein kontinuierlicher Ortsbestimmungsprozess durchlaufen werden kann, was einerseits von der Art der Aufnahmen entlang der Bewegungsbahn und andererseits auch von der zur Verfügung stehenden Rechenleistung abhängen kann. Die Skalierung zwischen realem Raum und virtuellem Raum kann im Übrigen wie zuvor erörtert unter Zuhilfenahme des ermittelten Maßstabs erfolgen.
Ein Navigationseinrichtung, die zu ihrer Ortsbestimmung und darauf aufbauend zur Navigation im Verkaufsbereich, also zur Indoor-Navigation, weil dort vorwiegend kein satellitenbasiertes GPS-Navigationssignal verfügbar ist, eingesetzt wird, nützt die digitale Magnetfeld-Landkarte, um sich im Verkaufsbereich zu orientieren. Dabei erfasst die Navigationseinrichtung selbst das Magnetfeld an ihrem Aufenthaltsort (analog zur dem Magnetfeld- Erfassungsgerät mit Hilfe eines integrierten Magnetometers). Das an ihrem Aufenthaltsort erfasste Magnetfeld wird nun mit den in der Magnetfeld- Landkarte gespeicherten Magnetfeldern verglichen, bis dass eine Übereistimmung mit ausreichender Wahrscheinlichkeit mit einem der dort gespeicherten Magnetfelder vorliegt. Der zu diesem aufgefundenen Magnetfeld in der Magnetfeld-Landkarte gespeicherte Ort wird sodann als der Aufenthaltsort der Navigationseinrichtung identifiziert.
Ausgehend von dem ermittelten Aufenthaltsort der Navigationseinrichtung im Verkaufsbereich kann von dort aus nun die Navigation zu einem anderen Ort im Verkaufsbereich gestartet werden. Dabei kann es sich z.B. um die Navigation hin zu einem bestimmten Produkt handeln. Um dies zu ermöglichen, wird aus der Magnetfeld-Landkarte eine Magnetfeld-Route von dem Aufenthaltsort hin zu einem Zielort generiert und der Navigationseinrichtung zwecks Navigation hin zu dem Zielort bereitgestellt.
Die Navigationseinrichtung kann z.B. durch ein Smartphone oder einen Tablet-Computer, nachfolgend kurz Benutzergerät genannt, realisiert sein, auf dem eine für die magnetfeldbasierte Navigation programmierte Applikation ausgeführt wird. Diese Geräte enthält das Magnetometer, auf
dessen Erfassungsdaten die Applikation Zugriff hat. Zugleich kann das Gerät auch beispielhaft angeführt auf eine digitale Einkaufsliste Zugriff haben, in der das zu suchende Produkt angeführt ist.
Der Ort des gesuchten Produkts ist der Datenverarbeitungseinrichtung gemäß dem zugrundeliegenden Planogram oder ggf. Realogram bekannt und auch in dem virtuellen Raum abgebildet, sodass die Datenverarbeitungseinrichtung den kürzesten Weg durch den Verkaufsbereich ermitteln kann. Da die Datenverarbeitungseinrichtung auch Zugriff auf die digitale Magnetfeld-Landkarte des Verkaufsraums hat, die in den virtuellen Raum eingepasst ist, stellt sie eine Wegbeschreibung als Sequenz von gespeicherten Magnetfeldern vom Aufenthaltsort hin zum gesuchten Produkt bereit.
Im Unterscheid zu bekannten Navigationsmethoden wird also keine Wegbeschreibung im Sinne einer für den Benutzer des Benutzergeräts visuell wahrnehmbaren Wegbeschreibung bereitgestellt, an der er sich visuell orientieren kann, um dem darin vorgegeben Weg zu folgen. Im vorliegenden Fall wird vielmehr eine „Magnetfeld-Route" bereitgestellt, also die Sequenz der zu durchlaufenden Magnetfelder im Verkaufsbereich, um zu dem Produkt zu gelangen. Diese Sequenz der zu durchlaufenden Magnetfelder stellt bildlich gesprochen die „Reihe der magnetischer Wegpunkte" dar, denen der Benutzer folgen muss, um den Zielort zu erreichen. In diesem Zusammenhang kann auch erwähnt werden, dass Übergange zwischen benachbarten „Wegpunkten", also von einem Magnetfeld des einen Orts zum nächsten Magnetfeld des nächsten Orts, auch geglättet oder interpoliert werden können, um einen kontinuierlichen Verlauf abzubilden.
Diese Magnetfeld-Route erlaubt es dem Benutzergerät unter Verwendung seines Magnetometers festzustellen, ob sich der Benutzer auf dem korrekten Kurs hin zu dem Produkt befindet. Stellt das Benutzergerät eine Abweichung fest, kann es den Benutzer entweder akustisch (Bewegungsinstruktionen in Form von z.B. Sprachansagen, Tönen oder Geräuschen, deren Interpretation dem Benutzer bekannt ist) oder taktil (Bewegungsinstruktionen in Form von z.B. Vibrationen usw., deren Interpretation dem Benutzer bekannt ist) über diesen Umstand informieren oder auch Korrekturmaßnahmen in der erwähnten Instruktionsweise (akustisch / taktil) kommunizieren.
Da einerseits die Erfassung des Magnetfelds auf der Bewegungsbahn der ortsvariablen Magnetfeld-Erfassungseinrichtung sehr präzise und linienartig erfolgt, anderseits jedoch nicht eine vollständige Erfassung jedes Punkts des für den Personenverkehr bestimmten Bereichs des Verkaufsbereichs vorliegen muss und letztendlich jede Bewegung einer Person - und daher auch des mitgeführten Benutzergeräts - einer gewissen Dynamik und Eigenheit unterliegt, hat es sich als vorteilhaft erwiesen, wenn Maßnahmen ergriffen werden, um den Benutzer nicht mit Bewegungsinstruktionen zur Korrektur seiner Bewegung zu überfluten. Daher kann das Benutzergerät derart programmiert sein, dass es Abweichungen in einem gewissen, vertretbaren Umfang von der Magnetfeld- Route zulassen kann, wenn diese Abweichungen dem typischen Bewegungsverhalten des Benutzers entsprechen und nicht zu einem nachhaltigen Verlassen der Magnetfeld-Route führen. Auch kann die Magnetfeld-Route selbst so breit gestalte werden, dass sich typischen Bewegungsmuster des Benutzers in ihrer Breite ausgehen. Auch kann die Magnetfeld-Route z.B. einen ganzen Regalgang erfassen. Auch kann die Bereitstellung einer Bewegungsinstruktion zeitverzögert zum Erkennen einer Abweichung von der Magnetfeld-Route erfolgen, um dem Benutzer einen gewissen Bewegungsspielraum zu überlassen. Erst wenn der Benutzer länger als vorprogrammiert von der Magnetfeld-Route abweicht, wird er mit diesem Umstand konfrontiert.
Am Zielort angekommen kann dem Benutzer noch mitgeteilt werden, wohin er sich zu orientieren hat, weil sich auch dies aus der Orientierung des mit ihm mitbewegten Benutzergeräts (erfasst über den digitalen Kompass des Benutzergeräts) einerseits und anderseits aus der bekannten Position des Produkts in Bezug auf das Ende der Magnetfeld-Route ergibt, um das betreffende Produkt auch zuverlässig visuell erfassen zu können oder in anderen Worten ausgedrückt, sehen zu können.
Nachfolgend werden Aspekte des effizienten Aufbaues der Magnetfeld-Landkarte erörtert, die eng verknüpft im der ortsvariablen Kameraeinrichtung sind. Ergänzend sei an dieser Stelle noch generell festgehalten, dass die Magnetfeld-Erfassungseinrichtung entweder als integrierte Komponente der Kameraeinrichtung vorliegen kann oder als separates Gerät mit ihr mitbewegt wird. Ist die Magnetfeld- Erfassungseinrichtung in die Kameraeinrichtung integriert, so treffen die in
Bezug auf die Kameraeinrichtung getätigten Aussagen hinsichtlich Montage und/oder Ausrichtung auch auf die Magnetfeld-Erfassungseinrichtung zu, sofern nichts anderes erwähnt ist.
Die ortsvariable Kameraeinrichtung kann gemäß der einleitenden Offenbarung dieser Patentanmeldung als selbstfahrend, z.B. als selbstfahrender Roboter ausgebildet sein. Bevorzugt erfolgt das Erfassen der Umgebung der Bewegungsbahn mit Hilfe einer fremdbewegten ortsvariablen Kameraeinrichtung. Dies erlaubt eine wesentlich günstigere, einfacher zu realisierende und auch flexibler zu gestaltende Erfassung der Grundstruktur des Verlaufsbereiches.
Unter einer fremdbewegten Kameraeinrichtung ist eben keine an einem selbstfahrenden Roboter angerachte Kamera zu verstehen, die gemäß der Logik des Roboters oder durch eine Fernsteuerung des Roboters bedingte Bewegungsbahn im Verkaufsbereich bewegt wird. Vielmehr kommt die Fremdbewegung durch das Einwirken einer Person zustande, wobei die Person die ortsvariable Kamera entweder unmittelbar durch den Verkaufsbereich bewegt oder mittelbar bewegt, weil die ortsvariable Kameraeinrichtung an einem Objekt, wie z.B. einem Einkaufswagen, befestigt ist, das durch die Person mittelbar bewegt wird.
Gemäß einer ersten Ausbildungsform kann es sich bei der fremdbewegten ortsvariablen Kameraeinrichtung um eine 360°-Kamera handeln, mit der eine Rundum-Erfassung ihrer Umgebung der Bewegungsbahn erfolgt. Diese 360°-Kamera kann an einem Einkaufswagen, z.B. an einer nach oben aufragenden Stange, bevorzugt an deren Ende, befestigt sein, um hoch genug positioniert zu sein, damit die Person, die den Einkaufswagen und somit die Kamera fremdbewegt, nicht zu stark störend oder zu dominant in der Aufnahme der 360°-Kamera enthalten ist. Besonders bevorzugt handelt es sich jedoch um eine am Körper bzw. der Kleidung einer Person befestigte 360°-Kamera. Bevorzugt wird die Kamera am Kopf oder auf der Schulter positioniert getragen, um so ein möglichst ungestörtes Rundumblickfeld zu erhalten. Diese Art der Fremdbewegung ermöglicht es, dass die Kamera immer dann zur Erfassung der Umgebung ihrer Bewegungsbahn eingesetzt wird, wenn sich die Person durch den Verkaufsbereich bewegt. Da es sich um eine 360°Kamera handelt, die ja gemäß ihrer Bezeichnung zur abbildungsmäßigen Rundumerfassung der
Umgebung ausgebildet ist, ist es auch unbedeutend in welche Richtung sich die Person im Verkaufsbereich bewegt oder wohin sich die Person entweder stehend oder in Bewegung ausrichtet. Die 360° Kamera kann die Umgebung - mit Ausnahme jenes Erfassungsbereiches, der durch die Person abgeschattet ist - fortwährend erfassen oder nur dann erfassen, wenn ein in ihr integrierter Bewegungssensor eine Bewegung erkennt, also folglich auch von einer Bewegung der 360°-Kamera entlang einer Bewegungsbahn auszugehen ist.
Gemäß einer ersten Ausbildungsform kann das Erfassen der Umgebung der Bewegungsbahn mit der ortsvariablen Kameraeinrichtung erfolgen, die an einem Einkaufswagen montiert ist. Auch bei dieser Ausbildungsform handelt es sich um eine fremdbewegte Kameraeinrichtung, da der Einkaufswagen durch das sich im Verkaufsbereich bewegende Personal oder die sich durch den Verkaufsbereich bewegende Kundschaft bewegt wird. Wie erwähnt kann die am Ende einer Stange montierte 360°-Kamera hierfür eingesetzt werden. Die Erfahrung hat jedoch gezeigt, dass die Stange oft unsachgemäß verwendet wird, wie z.B. zum Aufhängen von Kleidungsstücken, was zur vollständigen Abdeckung der 360°-Kamera und somit zu ihrer Funktionslosigkeit führt. Optional kann die Länge der Stange so gewählt werden, dass dies nicht eintreten kann, was jedoch ästhetische Kritiker auf den Plan rufen kann. Auch ist eine solche Lösung anfällig für Beschädigungen, weil Person oft dazu neigen, den Einkaufswagen an der Stange gegriffen zu bewegen, obwohl die Stange ja nur zum Tragen einer sehr leichten Kameraeinrichtung vorgesehen ist und zur Erfüllung dieses Zwecks grundsätzlich nur relativ zart und fragil ausgebildet zu sein hat. Eine Benutzungssichere Ausbildung der Stange geht jedenfalls mit einem erheblichen Mehraufwand einher.
Als besonders vorteilhaft hat es sich daher erwiesen, dass das Erfassen der Umgebung der Bewegungsbahn aus einem Korb des Einkaufswagens heraus erfolgt. In dieser Position ist die ortsvariable Kamera besonders geschützt. Auch lässt sich aus dieser relativ niedrigen Position heraus problemlos in die verschiedenen Regaletagen Einsicht nehmen, da die Regalböden üblicherweise leicht nach vorne unten geneigt angebracht sind. In diesem Zusammenhang hat es sich weiterhin als besonders vorteilhaft erwiesen, wenn das Erfassen der Umgebung der Bewegungsbahn
durch Öffnungen des Korbs des Einkaufswagens bzw. seiner Wand hindurch, insbesondere zwischen Stäben des Korbs hindurch, erfolgt. Hier ist die Kameraeinrichtung an einer sicheren Position lokalisiert. Sie kann dort nicht beschädigt werden, weil die für maximale Traglast ausgelegte Wand des Korbs bzw. die Stäbe des Korbs, die üblicherweise aus Metall gefertigt sind, den erforderlichen Schutz vor einer unsachgemäßen Handhabung durch die den Einkaufswagen bewegende Person sowie gegen Kollisionen mit harten Gegenständen bieten. Es wird also die bereits vorhandene mechanische Struktur des Korbs in zweierlei Hinsicht genützt, nämlich einerseits zum Schutz und andererseits zum Tragen der Kameraeinrichtung.
Um eine Abschattung des Erfassungsbereiches der Kameraeinrichtung durch die den Einkaufswagen bewegende Person zu vermeiden, wird die Kameraeinrichtung nicht an jenem Korbabschnitt befestigt, welcher der den Einkaufswagen schiebenden Person zugewandt ist. Die Kameraeinrichtung kann z.B. an den Seitenteilen des Korbs befestigt sein und von dort aus die Umgebung der Bewegungsbahn erfassen. An einer der Seitenteile befestigt kann die Kameraeinrichtung jedoch nur die betreffende seitliche Umgebung erfassen, von wo aus der Erfassungsbereich durch die mitunter relative Nähe zu Regalen oder anderen entlang eines Regalgangs positionierten Gegenständen recht beschränkt sein kann. Bevorzugt erfolgt daher das Erfassen der Umgebung der Bewegungsbahn aus einer Position an der Front des Einkaufswagens heraus. Dort hat die Kameraeinrichtung üblicherweise den weitesten Erfassungsbereich und kann somit zur großflächigen Erfassung eingesetzt werden. Auch wird der Erfassungsbereich der Kamera dort nicht durch im Korb befindliche Gegenstände beeinträchtigt.
Besonders bevorzugt weist die ortsvariable Kameraeinrichtung zum Erfassen der Umgebung der Bewegungsbahn zumindest eine Erfassungsstufe mit einer Stereo-Kamera auf. Unter der Erfassungsstufe ist jene Optik und Elektronik zu verstehen, die zumindest für das Erzeugen von Roh-Video- und/oder Standbild-Daten erforderlich ist, welche die erfasste Szene repräsentieren, was dem Fachmann grundsätzlich bekannt ist. Die Stereo- Kamera erlaubt die stereoskopische Aufnahme der Umgebung, sodass die Auswertung von dreidimensionalen Strukturen durch die Bildverarbeitungssoftware, wie z.B. die Computer Vision, begünstigt wird.
Bevorzugt weist die ortsvariable Kameraeinrichtung zumindest eine erste und eine zweite, bevorzugt auch eine dritte, Erfassungsstufe auf wobei jede der Erfassungsstufen einen individuellen Raumsektor der Umgebung der Bewegungsbahn erfasst. Dies bedeutet, dass jede der Erfassungsstufen ihr eigenes optisches Erfassungssystem aufweist, das gemäß dem zu erfassenden Raumsektor individuell ausgerichtet ist.
Als besonders vorteilhaft hat es ich erwiesen, dass die ortsvariable Kameraeinrichtung drei Erfassungsstufen an der Front des Einkaufswagens aufweist und bezogen auf die Front des Einkaufswagens die erste Erfassungsstufe einen ersten Raumsektor schräg links voraus und die zweite Erfassungsstufe einen zweiten Raumsektor schräg rechts voraus und die dritte Erfassungsstufe einen dritten Raumsektor zentral voraus erfasst. Somit lässt sich die Erfassung und somit die Informationsbereitstellung durch die jeweilige Aufnahme der betreffenden Erfassungsstufe individuell optimieren. So können die seitlich orientierten Erfassungsstufen auf die fokussierte Erfassung der Regalinhalte optimiert sein und benötigen daher auch nicht einen extrem tiefen Erfassungsbereich, weil sie üblicherweise relativ nahe an den Regalen vorbeibewegt werden. Demgegenüber kann für die zentral nach vorne orientierte Erfassungsstufe ein recht weiter Erfassungsbereich eingestellt sein, um möglichst tief in den Regalgang „hineinsehen zu können".
Als besonders vorteilhaft hat es sich in diesem Kontext weiters erwiesen, dass die erste Erfassungsstufe, die nach schräg links voraus erfasst, an der rechten Frontseite des Einkaufswagens positioniert ist, und die zweite Erfassungsstufe, die nach schräg rechts voraus erfasst, an der linken Frontseite des Einkaufswagens positioniert ist. Diese Auskreuzung der Erfassungsrichtungen an der Front des Einkaufswagens sorgt dafür, dass eine Maximierung des Abstands zwischen der Optik der jeweiligen Erfassungsstufe und den zu erfassenden Strukturen bzw. Objekten vorliegt, sodass sich ein möglichst weiter Erfassungsbereich für die jeweilige Erfassungsstufe ergibt.
Um nun eine zusammenhängende Erfassung der Umgebung der ortsvariablen Kameraeinrichtung entlang der Front des Einkaufswagens zu erhalten, hat es sich als besonders vorteilhaft erwiesen, wenn zwei der Erfassungsstufen derart konfiguriert sind, dass sich die mit ihnen erfassten Raumsektoren zumindest geringfügig überlappen. So kann der nach schräg links voraus orientierte Erfassungsbereich mit dem zentral voraus orientierten
Erfassungsbereich geringfügig überlappen. Ebenso kann der nach schräg rechts voraus orientierte Erfassungsbereich mit dem zentral voraus orientierten Erfassungsbereich geringfügig überlappen. Diese geringfügigen Überlappungen ermöglichen es der Computer Vision die Anschlussstellen bzw. Überlappungsbereiche in der jeweiligen Aufnahme zu identifizieren und die Aufnahmen zusammenhängend zu verarbeiten.
Kommen bei der Kameraeinrichtung mehrere Erfassungsstufen zum Einsatz, die örtlich vorneigender getrennt angeordnet sind, kann es ausreichen, dass nur eine einzige Magnetfeld-Erfassungseinrichtung vorgesehen ist, die mit der Kameraeinrichtung mitbewegt wird. In diesem Fall kann ihre Position genau einer der Erfassungsstufen zugeordnet sein und auch so ermittelt werden Es kann jedoch auch vorteilhaft sein, dass eine einzige Magnetfeld-Erfassungseinrichtung an einer mittleren Position zwischen den Erfassungsstufen der Kameraeinrichtung positioniert ist.
Bevorzugt entspricht die Anzahl der Magnetfeld- Erfassungseirichtungen der Anzahl der Erfassungsstufen der ortsvariablen Kameraeinrichtung und jede Magnetfeld-Erfassungseinrichtungen ist örtlich bei genau einer der Erfassungsstufen positioniert.
Es können also mehrere Magnetfeld-Erfassungsstufen, insbesondere genauso viele, wie Erfassungsstufen der Kameraeinrichtung vorhanden sind, vorgesehen sein. Bevorzugt ist jede der Magnetfeld-Erfassungsstufen genau einer der Erfassungsstufen der Kameraeinrichtung zugeordnet und auch in ihrer unmittelbaren Nähe positioniert oder in sie integriert. Damit geht der Vorteil einher, dass mit einer einzigen Bewegung des Einkaufswagens gleichzeitig mehrere Magnetfeld-Erfassungsstufen entlang individueller Bewegungsbahnen zwecks Erfassung der dort vorliegenden Magnetfelder bewegt werden. Es kommt also zu einer mehrspurigen Magnetfelderfassung entlang des Wegs des Einkaufswagens.
Die ortsvariable Kameraeinrichtung kann als Bestandteil des Einkaufswagens ausgeführt sein, also bereits werksseitig in den Einkaufswagen integriert sein. Besonders bevorzugt handelt es sich bei der ortsvariablen Kameraeinrichtung jedoch um einen Nachrüstsatz, der mit einem entsprechend an den jeweiligen Typ des Einkaufswagens angepassten Befestigungsmechanismus befestigt werden kann. Damit geht der Vorteil einher, dass millionenfach in der Verwendung befindliche konventionelle
Einkaufswagen aufgerüstet werden können, um die Erfindung mit möglichst geringem Investitionsaufwand flächendeckend zum Einsatz zu bringen. Besonders bevorzugt ist die ortsvariable Kameraeinrichtung in einem flachen, plattenähnlichen Gehäuse verbaut, das von innerhalb des Korbs des Einkaufswagens an der Front des Einkaufswagens mit besagtem Befestigungsmechanismus befestigt wird. Der Befestigungsmechanismus hält die ortsvariable Kameraeinrichtung an der Struktur des Korbs, z.B. durch eine Befestigungsplatte, die von außerhalb des Korbs mit dem plattenförmigen Gehäuse verschraubt ist, sodass ein Teil der Struktur des Korbs zwischen die Befestigungsplatte und das Gehäuse eingeklemmt ist. Auch kann als Befestigungsmechanismus ein Steckmechanismus zum Einsatz kommen, der ein einfaches Aufstecken an die Innenseite der Wand des Korbs ermöglicht. Die Optik der jeweiligen Erfassungsstufe ist angepasst an den Typ des Einkaufswagens derart positioniert bzw. variabel zu positionieren, dass sie durch die Öffnungen des Korbs ungehindert durch die Korbstruktur „hindurchblicken" kann, also der Strahlengang der jeweiligen Optik durch den Korb möglichst unbeeinflusst ist.
Gemäß einer weiteren Ausbildungsform kann der Nachrüstsatz auch so konfiguriert sein, dass die jeweilige Optik über den oberen Rand das Einkaufswagens hinwegblickt. Somit lässt sich ein noch universeller einsetzbarer Nachrüstsatz schaffen, bei dem die Positionen der jeweiligen Optik von der vorliegenden Struktur des Korbs entkoppelt ist. Auch kann die Befestigung eines solchen Nachrüstsatzes unabhängig von der Position der jeweiligen Optik unterhalb des oberen Rands des Korbs erfolgen. Gleiches gilt mit entsprechenden Anpassungen sinngemäß für einen Nachrüstsatz, der zur Befestigung an der Unterseite des vorderen Rands des Korbs ausgebildet ist, von wo aus die Optik der jeweiligen Erfassungsstufe unbehindert durch die Struktur des Korbs positionierbar ist.
Zusammenfassend sei angemerkt, dass sich das vorangehend beschriebene System wie auch das Verfahren durch eine Reihe von Merkmalen auszeichnen, auf die nachfolgend hingewiesen ist.
Die erörterten Maßnahmen erlauben es vollautomatisch einen digitalen Plan des Verkaufsbereiches zu generieren. Ein solcher digitaler Plan wird im Fachjargon auf englisch auch als Vector-Floormap bezeichnet und kann den Verkaufsbereich zweidimensional oder auch dreidimensional
abbilden, im vorliegenden Fall inklusive der Magnetfeld-Landkarte, welche die Grundalge für eine magnetfeld-basierte Navigation im Verkaufsbereich bildet. Es liegt im Endergebnis also eine digitale Abbildung des Verkaufsbereiches vor, in der eine Beziehung zwischen dem jeweiligen erfassten Magnetfeld und dem Ort im Verkaufsbereich, an dem das Magnetfeld erfasst wurde, festgehalten ist.
Ganz allgemeine sei an dieser Stelle noch festgehalten, dass die Datenverarbeitungseinrichtung auch dazu programmiert sein kann, die ESLs zur Wiedergabe einer Produkt- und/oder Preisinformation anzusteuern. Es kann auch eine Statusinformation von den ESLs empfangen und verarbeitet werden. Ebenso kann eine an dem ESL ggf. verfügbare LED angesteuert werden. Auch kann zur Kommunikation mit den ESLs das Kommunikationsnetzwerk verwendet werden, das auch für die Kommunikation mit den Kameraeinrichtungen zum Einsatz kommt. Zur Kommunikation mit den ESLs kann jedoch auch ein davon separates weiteres Kommunikationsnetzwerk zum Einsatz kommen. Die im Zusammenhang mit dem Betrieb und der Verwaltung der ESLs nötigen Maßnahmen (Vorrichtungen und Verfahren, Hard- und Software) sind im Übrigen dem Fachmann hinlänglich geläufig.
Abschließend sei noch allgemein erwähnt, dass die erörterten elektronischen Einrichtungen und Geräte natürlich eine Elektronik aufweisen. Die Elektronik kann diskret oder durch integrierte Elektronik oder auch eine Kombination aus beiden aufgebaut sein. Auch können Microcomputer, Micro Controller, Application Specific Integrated Circuits (ASICs), ggf. in Kombination mit analogen oder digitalen elektronischen Peripheriebausteinen zum Einsatz kommen. Viele der erwähnten Funktionalitäten der Geräte werden - ggf. im Zusammenwirken mit Hardwarekomponenten - mit Hilfe einer Software realisiert, die auf einem Prozessor der Elektronik ausgeführt wird. Zur Funkkommunikation ausgebildete Geräte weisen üblicherweise als Bestandteil eines Transceiver-Moduls eine Antennenkonfiguration zum Senden und Empfangen von Funk-Signalen wie auch einen Modulator und/oder einen Demodulator auf. Die elektronischen Geräte können zudem eine interne elektrische Leistungsversorgung aufweisen, die beispielsweise mit einer austauschbaren oder aufladbaren Batterie realisiert sein kann. Auch können die Geräte leitungsgebunden, entweder durch ein externes Netzteil oder auch
mittel „Power over LAN" versorgt werden. Ebenso kann eine funkbasierte Leistungsversorgung mittels „Power over WiFi" vorgesehen sein.
Batteriebetriebene elektronische Anzeigeeinheiten sind bevorzugt mit energiesparenden elektrophoretischen Bildschirmen ausgerüstet.
Diese und weitere Aspekte der Erfindung ergeben sich durch die nachfolgend erörterten Figuren.
Figurenkurzbeschreibung
Die Erfindung wird im Folgenden unter Hinweis auf die beigefügte Figur anhand von Ausführungsbeispielen noch einmal näher erläutert, auf welche die Erfindung jedoch nicht beschränkt ist. Es zeigt auf schematische Weise:
Fig. 1 einen Ausschnitt eines Korbs eines Einkaufswagens, an dem eine ortsvariable Kameraeinrichtung mit integrierten Magnetfeld- Erfassungseinrichtungen frontseitig innerhalb des Korbs angebracht ist;
Fig. 2 ein Blockschaltbild einer Elektronik der ortsvariablen Kameraeinrichtung mit drei Erfassungsstufen und den diesen Erfassungsstufen zugeordneten Magnetfeld-Erfassungseinrichtungen; Fig. 3 Erfassungsbereiche der drei Erfassungsstufen der ortsvariablen Kameraeinrichtung;
Fig. 4 die drei Erfassungsbereiche im Kontext eines Regalgans;
Fig. 5A - 5C realitätsnahe Standbildaufnahmen von Regalen und darauf positionierten Waren sowie elektronischer Anzeigeeinrichtungen entlang des Regalgangs unter Verwendung der drei Erfassungsstufen;
Fig. 6 einen Verkaufsbereich, in dem sich drei Einkaufswagen mit ortsvariablen Kameraeinrichtungen bewegen.
Beschreibung der Ausführungsbeispiele
Die Figur 1 zeigt einen Korb 1 eines konventionellen und millionenfach in Verwendung befindlichen Einkaufswagens 2, an dessen Front sich an der Innenseite des Korbs 1 angebracht eine ortsvariable Kameraeinrichtung 3 befindet, die drei in sie integrierte Magnetfeld- Erfassungseinrichtungen (Magnetometer) 35 aufweist. Der Korb 1 ist durch Metallstäbe gebildet, die nachfolgend kurz als Stäbe 4 bezeichnet sind.
Bei der ortsvariablen Kameraeinrichtung 3 handelt es ich um einen Nachrüstsatz für den Einkaufswagen 2. Die ortsvariable Kameraeinrichtung 3 ist mit Hilfe zweier außerhalb des Korbs 1 vorgesehener Befestigungsplatten 5, die an einem plattenförmigen Gehäuse 6 der ortsvariablen Kamerareinrichtung 3 mit Hilfe zweiter Schrauben 7 (die nur an der linken Befestigungsplatte 4 mit Bezugszeichen gekennzeichnete sind) angeschraubt sind, an dem Korb 1 befestigt. Die ortvariable Kameraeinrichtung 3 weist drei Stereo-Bild-Erfassungsstufen 8, 9 und 10, nachfolgend kurz Erfassungsstufe 8, 9, und 10 genannt, auf. Ihre jeweilige zur Bilderfassung vorgesehene Stereo-Optik 11, 12 und 13 (siehe auch Bezugszeichen 11, 12 und 13 in der Figur 2) bzw. der durch die jeweilige Optik realisierte individuelle Bild- Erfassungsbereich ist im Wesentlichen durch die Stäbe 4 des Korbs 1 ungestört. Die jeweilige Stereo-Optik „blickt" also bildlich gesprochen zwischen den Stäben hindurch. Hierbei ist zu beachten, dass die Stereo-Optik der mittleren Erfassungsstufe 10 horizontal ausgerichtet ist, wohingegen die Stereo-Optik der beiden äußeren Erfassungsstufen 8 und 9 vertikal ausgerichtet sind, was die Stereoauflösung in der jeweiligen Ausrichtung erleichtert.
Um eine durch die Stäbe 4 des Korbs 1 unbehinderte Erfassung zu ermöglichen, ist die erste Stereo-Optik 11 der ersten Erfassungsstufen 8 an einem ersten, flexibel aus dem zentralen Gehäuse 6 herausziehbaren bzw. in das zentrale Gehäuse 6 einschiebbaren Positionierungsarm 8A angebracht und somit variable unter Beachtung der Stäbe 4 bzw. eines sich dazwischen auftuenden Spalts an der Front des Einkaufswagens 2 positionierbar. Gleiches gilt für die zweite Stereo-Optik 12 der zweiten Erfassungsstufe 9, die an einem zweiten, flexibel aus dem zentralen Gehäuse 6 herausziehbaren bzw. in das zentrale Gehäuse 6 einschiebbaren Positionierungsarm 9A angebracht ist.
Ein erster Bild-Erfassungsbereich (Bezugszeichen 20 in Figur 3) der erste Erfassungsstufe 8 ist nach schräg links voraus orientiert, ein zweiter Bild-Erfassungsbereich (Bezugszeichen 21 in Figur 3) der zweiten Erfassungsstufe 9 ist nach schräg rechts voraus orientiert und ein dritter Bild- Erfassungsbereich (Bezugszeichen 22 in Figur 3) der dritten Erfassungsstufe 10 ist zentral voraus orientiert. Die drei Bild-Erfassungsbereiche, die tatsächlich räumliche Ausdehnung haben, also im Wesentlichen
Ra um Sektoren entsprechen, nachfolgend kurz Erfassungsbereiche 20, 21 und 22 genannt, sind wie erwähnt in der Figur 3 und folgende visualisiert.
Die Figur 2 zeigt mit Hilfe eines Blockschaltbilds Funktionsgruppen der ortsvariablen Kameraeinrichtung 3. Bei den drei Erfassungsstufen 8, 9 und 10 ist die jeweilige Stereo-Optik 11, 12 und 13 wie auch ihre im vorangehenden Absatz angesprochene Orientierung angedeutet. Bei den Erfassungsstufen 8, 9, 10 handelt es ich um digitale Stereo-Kameras, welche die Bilddaten BD ihrer Aufnahmen über einen Bus 14, der zur Übertragung digitaler Daten und/oder Steuersignale ausgebildet ist, an eine Verarbeitungseinrichtung 15, die mit Hilfe eines Mikrokontroller und der auf ihm abgearbeiteten Software realisiert ist, abgeben. Mit Hilfe der Verarbeitungseinrichtung 15 werden (Vor-)Verarbeitungen der Bilddaten und/oder Auswertungen der Bilddaten BD durchgeführt und die Kommunikation mit externen Geräten, wie etwa einem Accesspoint oder einer Netzwerkkomponente eines IoT-Netzwerks (loT steht hier für „Internet of Things"), zur Übertragung der, ggf. vorgearbeiteten, Bilddaten BD oder zur Übertragung der durch die Auswertung gewonnenen Auswertungsergebnisse gesteuert. Für die physische Kommunikation mit dem externen Gerät weist die Kameraeinrichtung 3 eine erste Funk-Kommunikationsstufe 16 auf, welche die dafür nötigen aktiven und passive elektronischen Komponenten (allgemein als Transceiver bezeichnet) aufweist, was lediglich durch eine Antennenkonfiguration 17 angedeutet ist.
Die ortsvariable Kameraeinrichtung 3 weist weiters zu Ihrer elektrischen Versorgung eine Versorgungseinrichtung 18 auf, die mit Hilfe einer wiederaufladbaren Batterie 19 realisiert ist und die zum Bereitstellen einer Versorgungspannung VCC gegenüber einem Bezugspotenzial GND ausgebildet ist. Die Versorgungseinrichtung 18 kann zwecks Aufladung der Batterie 19 verschiedenste Technologien nutzen, wie z.B. Power over WiFi zur Energieübertragung mittels WiFi-Signalen oder auch ein in ihr Gehäuse 6 integriertes Photovoltaik-Paneel zum „Energie-Harvesting" von Umgebungslicht usw.
Die ortsvariable Kameraeinrichtung 3 weist weiters integriert in die jeweilige Erfassungsstufe 8, 9 und 10 die jeweilige Magnetfeld- Erfassungseinrichtung 35 auf, die hier als Kompass symbolisiert ist. Mit Hilfe der Magnetfeld-Erfassungseinrichtungen 35 wird das Magnetfeld am
jeweiligen Erfassungsort, also in Bezug auf den ruhenden Einkaufswagen 2 an drei verschieden Orten, wo auch die jeweilige Erfassungsstufe 8, 9 bzw. 19 verortet ist, erfasst. Wird der Einkaufswagen 2 bewegt, erfolgt die Magnetfelderfassung entlang einer Bewegungsbahn der jeweiligen Erfassungsstufe 8, 9 bzw. 10, der auch die dort integrierte Magnetfeld- Erfassungsstufe 35 folgt. Es kann also das Magnetfeld entlang der drei Bewegungsbahnen de facto gleichzeitig (simultan) erfasst werden. Gleichzeit erfolgt auch die Bilderfassung mit den drei Erfassungsstufen 8, 9 und 10 und das am jeweiligen Ort erfasste Magnetfeld wird zusammen - gemäß den Ausführungen in der allgemeinen Beschreibung - mit den Bilddaten BD der jeweiligen Erfassungsstufe 8, 9, 10 über die erste Funk-Kommunikationsstufe 16 abgegeben.
In der Figur 3 ist der Einkaufswagen 2 mit der Ortsvariablen Kameraeinrichtung 3 zu sehen. Weiterhin sind hier der erste Erfassungsbereich 20 der ersten Erfassungsstufe 8, der zweite Erfassungsbereich 21 der zweiten Erfassungsstufe 9 und der dritte Erfassungsbereich 22 der dritten Erfassungsstufe 10 ausgehend von der Front des Einkaufswagens 2 bzw. der dort positionierten drei Erfassungsstufen 8, 9 und 10 angedeutet. Deutlich zu sehen ist hier auch die Überlappung von zumindest der Ränder der Erfassungsbereiche 20 mit 22 und 20 mit 21 in der näheren Umgebung vom Einkaufswagen 2, was die Assemblierung der mit Hilfe der jeweiligen Erfassungsstufe 8 bis 9 erstellten Bilder zu einer Art „Panoramabild" der Szene vor dem Einkaufswagen 2 erleichtert. Hinsichtlich der Positionen der drei Erfassungsstufen 8, 9 und 10 ist auf die Figur 1 verwiesen.
In der Figur 4 ist der Einkaufswagen 2 zwischen zwei Regalen 23 positioniert dargestellt, wie dies typischerweise in einem Verkaufsbereich 27 eines Einzelhändlers, der z.B. einen Supermarkt betreibt, der Fall ist, wo die Regale 23 einen Regalgang flankieren. Der Einkaufswagen 2 wird dort typischerweise von einer Person (Kunde / Kundin) fremdbewegt, so auch die am Einkaufswagen 2 montierte ortsvariable Kameraeinrichtung 3. Auf den Regalen 23, genauer gesagt auf Regalböden bzw. Regalfächern 24 der Regale 23, sind vereinzelt Waren 25 abgelegt, die jedoch aus Gründen der Übersichtlichkeit nicht alle mit Bezugszeichen versehen sind. Deutlich zu sehen ist hier, dass der nach schräg links orientierte erste Erfassungsbereich
20 und der nach schräg rechts orientierten zweite Erfassungsbereich 21 einen fast frontalen Einblick in die dort lokalisierten Regale 23 bis in die Regalböden 24 ermöglichen und somit eine sehr detailgetreue bildliche Erfassung der dortigen Objekte und Strukturen ermöglichen, wo hingegen der zentral nach vorne orientierte dritte Erfassungsbereich 22 einen weitreichenden Überblick über die Anordnung der Regale 23 entlang des Regalgangs wie auch den Verlauf des Regalgangs vor dem Einkaufswagen 2 ermöglicht.
Während des Wegs des Einkaufswagens 2 erfolgt gemäß den Ausführungen zur Figur 2 eine dreispurige Erfassung des Magnetfelds zwischen den Regalen 23.
In den Figuren 5A bis 5C sind die Abbildungen, also die bildliche Erfassung der Strukturen entlang eines Regalgangs unter Verwendung der drei zuvor erörterten Erfassungsstufen 8, 9 und 10 visualisiert. So zeigt die Figur 5A die mit Hilfe der ersten Erfassungsstufe 8 erfasste Anordnung der Regale 23 zur linken Seite des Regalgangs, also knapp vor dem Einkaufswagen 2 beginnend. Weiterhin zeigt die Figur 5C die mit Hilfe der zweiten Erfassungsstufe 9 erfasste Anordnung der Regale 23 zur rechten Seite des Regalgangs, also knapp vor dem Einkaufswagen 2 beginnend. Die Figur 5B zeigt den sich vor dem Einkaufswagen 2 entlang des Regalgangs erstreckenden Verlauf der seitlichen Regale 23 bis hin zu einem quer verlaufenden Regal 23, wo der Regalgang vor diesem quer verlaufenden Regal 23 nach rechts abbiegt. Deutlich zu sehen ist, dass jeweils zwei benachbarte Aufnahmen der Regale 23, also die Aufnahmepaare gemäß den Figuren 5A und 5B wie auch gemäß den Figuren 5B und 5C gemeinsame Bereiche zeigen, die es erlauben, die Einzelaufnahmen der Figuren 5A, 5B und 5C miteinander zu verbinden. Es wird also mit Hilfe der drei Erfassungsstufen 8, 9 und 10 die Gesamtsituation vor dem Einkaufswagen 2 defacto räumlich erfasst, und zwar zwischen dem rechten und dem linken Erfassungsrand wie auch zwischen dem oberen und unteren Erfassungsrand, eben innerhalb der zur Verfügung stehenden Erfassungsbereiche 20 bis 22. Die erfassten digitalen Abbilder zeigen neben den Regalen 23 auch die Regalböden 24, die nur an den äußeren Rändern der Figuren 5A und 5C gekennzeichnet sind, die auf den Regalböden 24 präsentierten Waren 25, die pro Figur 5A bis 5C nur ein einziges Mal gekennzeichnet sind, sowie an der vorderen Kante der Regalböden typischerweise an dort verbauten Regalschienen (nicht explizit
mit einem Bezugszeichen gekennzeichnet, weil an sich bekannt) montierte elektronische Anzeigeeinrichtungen 26, im Fachjargon als „electronic shelf labels", kurz ESL 26 bezeichnet, die aus Gründen der Übersichtlichkeit nur wenige male im unteren Bereich der jeweiligen Figur 5A bis 5C gekennzeichnet sind. Diese ESLs 26 befinden sich jedoch für alle Waren 25 korrespondierend zu der jeweiligen Ware 25 an den entsprechenden Positionen der Regalschienen, was nicht vollständig visualisiert wurde, um die Figuren 5A, 5b und 5C nicht zu überladen.
Die mit Hilfe der Erfassungsstufen 8, 9 und 10 generierten Bilddaten BD werden zusammen mit den Werten des erfassten Magnetfelds von der ortsvariablen Kameraeinrichtung 3 mittels ihrer Funk-Kommunikationsstufe 16 zur weiteren Verarbeitung abgegeben, worauf noch im Detail eingegangen wird. Festgehalten ist hier jedoch, dass sich gemäß der Fremdbewegung der ortsvariablen Kameraeinrichtung 3 fortwährend andere Bildinhalte ergeben, die in im Wesentlichen kontinuierlicher Folge mittels der Funk- Kommunikationsstufe 16 abgegeben werden. Gleiches gilt für die dreispurige Magnetfelderfassung, die ja im Wesentlichen synchron zur Bilderfassung läuft, wobei die jeweiligen magnetfeldwert synchron zu Bilderdatenübermittlung übermittelt werden, um ihre digitale Verbindung sicherzustellen und sie in Folge auch korrekt den Orten ihrer Erfassung zuordnen zu können.
Was für den einen Einkaufswagen 2 erörtert wurde, gilt natürlich auch für die anderen Einkaufswagen 2, die mit der ortsvariablen Kameraeinrichtung 3 ausgerüstet durch den Verkaufsbereich 26 fremdbewegt werden, so wie dies in der Figur 6 dargestellt. In dieser Konfiguration wird im Wesentlichen (abhängig von Netzwerklatenz) simultan die Zone des Verkaufsbereichs 26 vor dem jeweiligen Einkaufswagen 2 mit Hilfe der jeweiligen ortsvariablen Kameraeinrichtung 3 bildlich erfasst und die daraus generierten Bilddaten BD zusammen mit den Magnetfeldwerten abgeben. Die während der Fremdbewegung der verschiedenen ortsvariablen Kameraeinrichtungen 3 kontinuierlich generierten Bilddaten BD werden zusammen mit erfassten Magnetfeldwerten über ein Funknetzwerk, von dem aus Gründen der Vereinfachung nur ein einziger Accesspoint 28 visualisiert ist, jedoch in Realität verteilt im Verkaufsbereich mehrere installiert sind, von dem Accesspoint 28 kabelgebunden mittels I_AN-Netzwerk (LAN steht hier für „Local Area Network") an eine Datenverarbeitungseinrichtung 29, die durch
einen leistungsfähigen Server mit anwendungsspezifischer Software zur Bildverarbeitung gebildet ist, übermittelt und dort zu einer dreidimensionalen Gesamtansicht des Verkaufsbereiches 27 assembliert. Die Software ist auch dazu programmiert, die in der allgemeinen Beschreibung erwähnte digitale Magnetfeld-Landkarte unter Anwendung der in der allgemeineb Beschreibung erörterten Maßnahmen zu generieren.
Sobald auch der letzte Bereich des Verkaufsbereichs 27 mit Hilfe der ortsvariablen Kameraeinrichtung(en) 3 erfasst wurde, kann eine vollständige digitale Abbildung des Verkaufsbereiches mit all seinen strukturellen Elementen bzw. Objekten (Regale, Regalböden, Waren, ELS, usw.) erstellt werden, was im Fachjargon des Anmelders als „Master-3D-Locationmap" bezeichnet wird, weil diese digitale Datenstruktur die Gesamtheit der Objekte und ihre dreidimensionale Verortung im Verkaufsbereich 27 speichert. Diese Master-3D-Locationmap ist grundsätzlich eine statische digitale Abbildung des Verkaufsbereiches, die nur insofern eine relativ unspektakuläre Dynamik aufweist, als dass eine weitere Fremdbewegung eines der Einkaufswagen 2 zum Updaten der Master-3D-Locationmap entlang der jeweiligen Bewegungsbahn benutz wird.
Mehrfaches Befahren derselben Zonen des Verkaufsbereichs kann dazu genutzte werden, um genauere bildliche Abbildung des Verkaufsbereiches zu erhalten, also den virtuellen Raum präziser zu modellieren oder auch für Updates des virtuellen Raums zu sorgen. Gleiches trifft auch auf die mehrfache Erfassung des lokalen Magnetfelds in diesem Bereich zu. Mehrfaches Befahren des Bereiches erhöht die Anzahl der für diesen Bereich verfügbaren Magnetfeldmessungen, also ihre Dichte, was zu einer genaueren Ortsbestimmung bei der Navigation beiträgt.
Mit einem PDA ausgerüstet, der eine Navigationseinrichtung zur magenfeldbasierten Navigation enthält, kann dem Personal des Supermarkts, das im vorliegenden Fall als Store-Picker fungiert, z.B. eine Einkaufsliste eines Kunden übermittelt werden. Der Store-Picker bewegt sich unter Anleitung der Navigationseinrichtung - so wie dies im allgemeinen Teil der Beschreibung erörtert wurde - durch den Verkaufsbereich und wird mit Hilfe der Magnetfeld-Landkarte, aus der die jeweilige Magnetfeld-Route generiert wurde - zu den in der Liste enthaltenen Waren 25 hingeleitet. Dieser Vorgang kann völlig ohne Nutzung des Bildschirms des PDA erfolgen, weil das PDA alle
Information betreffend die Navigation wie auch betreffend das zu suchende Produkt akustisch zur Verfügung stellt. Dies erleichtert dem Store-Picker das Handhaben der Waren, weil er beide Hände frei hat, und beschleunigt somit seinen Arbeitsablauf. Zudem wird die Lebensdauer der PDA-Batterie verlängert bzw. optimiert, weil der Bildschirm üblicherweise die größte Leistungsaufnahme verursacht. Der Bildschirm kann bei dem hier beschriebenen Prozess übrigens völlig abgeschaltet sein, weil die Bestätigung des Store- Pickers, dass er das aktuelle Listenelement in der Liste angearbeitet hat, auch durch eine Bewegung des PDAs, die von dem PDA mit Hilfe seiner Elektronik erfassbar ist, kundgetan werden kann.
Es wird abschließend noch einmal darauf hingewiesen, dass es sich bei der vorangehend detailliert beschriebenen Figur nur um ein Ausführungsbeispiel handelt, welches vom Fachmann in verschiedenster Weise modifiziert werden kann, ohne den Bereich der Erfindung zu verlassen. Es wird der Vollständigkeit halber auch darauf hingewiesen, dass die Verwendung der unbestimmten Artikel „ein" bzw. „eine" nicht ausschließt, dass die betreffenden Merkmale auch mehrfach vorhanden sein können.
Claims
1. Verfahren (30) zur Erstellung einer Navigationsgrundlage für die Navigation in einem Verkaufsbereiches (27), das die nachfolgend angeführten Verfahrensschritte aufweist, nämlich:
- ein Erfassen des Magnetfelds entlang einer Bewegungsbahn im Verkaufsbereich mit Hilfe von zumindest einer ortsvariablen Magnetfeld- Erfassungseinrichtung, die entlang der Bewegungsbahn im Verkaufsbereich bewegt wird, und
- ein computerisiertes Herstellen eines Ortsbezug im Verkaufsraum für das am jeweiligen Ort entlang der Bewegungsbahn erfasste Magnetfeld, und
- ein Speichern des erfassten Magnetfelds und seines Ortsbezugs im Verkaufsbereich in Form einer digitalen Magnetfeld-Landkarte.
2. Verfahren (30) nach Anspruch 1, wobei der Ortsbezug mit Hilfe einer ortsvariablen Kameraeinrichtung (3) hergestellt wird, welche Kameraeinrichtung (3) mit der Magnetfeld-Erfassungseinrichtung mitbewegt wird und eine digitale Aufnahme der Umgebung der Bewegungsbahn der Magnetfeld-Erfassungseinrichtung im Verkaufsbereich (27) erstellt.
3. Verfahren (30) nach Anspruch 2, wobei das am jeweiligen Ort der Bewegungsbahn erfasste Magnetfeld und die an diesem Ort erstelle Aufnahme miteinander digital verbunden werden.
4. Verfahren nach Anspruch 3, wobei das Verbinden des erfassten Magnetfelds und der erstellten Aufnahme in einem Kombinationsgerät erfolgt, welches die Magnetfeld-Erfassungseinrichtung und die Kameraeinrichtung aufweist.
5. Verfahren nach Anspruch 4, wobei im Falle einer Ausbildung der Kameraeinrichtung als Standbild-Kamera, die zum Erzeugen von Stand- Aufnahmen ausgebildet ist, die jeweilige Standbild-Aufnahme zusammen mit dem zu der Standbild-Aufnahme zeitlich korrespondierend erfassten Magnetfeld bereitgestellt wird.
6. Verfahren nach Anspruch 4, wobei im Falle einer Ausbildung der Kameraeinrichtung als Video-Kamera, die zum Erzeugen einer Video- Aufnahme strukturiert in Video-Frames ausgebildet ist, der jeweilige Frame der Video-Aufnahme zusammen mit dem zum jeweiligen Frame der Video- Aufnahme zeitlich korrespondierend erfassten Magnetfeld bereitgestellt wird.
7. Verfahren (30) nach einem der vorangehenden Ansprüche, wobei das Erfassen des Magnetfelds mehrfach entlang von zumindest teilweise unterschiedlichen Bewegungsbahnen im Verkaufsbereich erfolgt.
8. Verfahren (30) nach einem der vorangehenden Ansprüche 2 bis 7, wobei ein Generieren (32) eines digitalen Abbilds des Verkaufsbereichs (27) durch ein Verarbeiten der mit Hilfe der zumindest einen ortsvariablen Kameraeinrichtung (35; 40) erfassten Umgebung der Bewegungsbahn im Verkaufsbereich (27) mit Hilfe von einer Bildverarbeitungssoftware, insbesondere mit Hilfe von im Fachjargon als Computer Vision bezeichneten Softwaremaßnahmen, erfolgt, wobei als Ergebnis des Verarbeitens als digitales Abbild des Verkaufsbereichs ein virtueller Raum geschaffen wird.
9. Verfahren (30) nach Anspruch 8, wobei der Ortsbezug des mit Hilfe der Magnetfeld-Erfassungseinrichtung erfassten Magnetfelds durch Auswertung der am selben Ort erstellten Aufnahme hergestellt wird.
10. Verfahren (30) nach einem der vorangehenden Ansprüche 2 bis 9, wobei das Erfassen der Umgebung der Bewegungsbahn mit Hilfe einer fremdbewegten ortsvariablen Kameraeinrichtung (3) erfolgt.
11. Verfahren (30) nach einem der Ansprüche 2 bis 9 , wobei es sich bei der ortsvariablen Kameraeinrichtung (3) um eine 360°-Kamera, insbesondere am Körper bzw. der Kleidung einer Person befestigte 360°-Kamera handelt, mit der eine Rundum-Erfassung ihrer Umgebung der Bewegungsbahn erfolgt.
12. Verfahren (30) nach einem der Ansprüche 10 bis 11, wobei das
Erfassen der Umgebung der Bewegungsbahn mit der ortsvariablen
Kameraeinrichtung (3) erfolgt, die an einem Einkaufswagen (2) montiert ist.
13. Verfahren (30) nach Anspruch 12, wobei das Erfassen der Umgebung der Bewegungsbahn aus einem Korb (1) des Einkaufswagens (2) heraus erfolgt.
14. Navigationsverfahren zum Navigieren in einem Verkaufsbereich, das die nachfolgenden Verfahrensschritte aufweist, nämlich:
- ein Erfassen des Magnetfels am Ort einer Navigationseinrichtung, und
- ein Ermitteln des Aufenthaltsorts der Navigationseinrichtung im Verkaufsbereich mit Hilfe einer digitalen Magnetfeld-Landkarte, in der zu Orten des Verkaufsbereiches das dort vorliegende Magnetfelder gespeichert ist.
15. Navigationsverfahren nach Anspruch 20, wobei aus der Magnetfeld- Landkarte eine Magnetfeld-Route von dem Aufenthaltsort hin zu einem Zielort generiert wird und der Navigationseinrichtung zwecks Navigation hin zu dem Zielort bereitgestellt wird.
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/EP2023/058068 WO2024199640A1 (de) | 2023-03-28 | 2023-03-28 | Verfahren zur erstellung einer navigationsgrundlage für die navigation in einem verkaufsbereiches |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| EP4689556A1 true EP4689556A1 (de) | 2026-02-11 |
Family
ID=85980608
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| EP23716223.5A Pending EP4689556A1 (de) | 2023-03-28 | 2023-03-28 | Verfahren zur erstellung einer navigationsgrundlage für die navigation in einem verkaufsbereiches |
Country Status (3)
| Country | Link |
|---|---|
| EP (1) | EP4689556A1 (de) |
| CN (1) | CN120826585A (de) |
| WO (1) | WO2024199640A1 (de) |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11268818B2 (en) * | 2013-03-14 | 2022-03-08 | Trx Systems, Inc. | Crowd sourced mapping with robust structural features |
| WO2018145611A1 (en) * | 2017-02-10 | 2018-08-16 | The Hong Kong University Of Science And Technology | Effective indoor localization using geo-magnetic field |
| EP4553803A1 (de) * | 2017-03-08 | 2025-05-14 | Gatekeeper Systems, Inc. | Navigationssystem für rollwagen |
| WO2020026514A1 (ja) * | 2018-08-02 | 2020-02-06 | 日本電気株式会社 | 屋内位置推定装置、屋内位置推定方法及びプログラム |
| US11175144B2 (en) * | 2019-11-01 | 2021-11-16 | Mapsted Corp. | Magnetic parameter-based localization in mobile device navigation |
-
2023
- 2023-03-28 EP EP23716223.5A patent/EP4689556A1/de active Pending
- 2023-03-28 WO PCT/EP2023/058068 patent/WO2024199640A1/de not_active Ceased
- 2023-03-28 CN CN202380095168.2A patent/CN120826585A/zh active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| WO2024199640A1 (de) | 2024-10-03 |
| CN120826585A (zh) | 2025-10-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3529675B1 (de) | Innenraum-personenortung-basierte fertigungssteuerung in der metallverarbeitenden industrie | |
| DE102016105858A1 (de) | Mobiles dreidimensionales Messinstrument | |
| DE102012211071B3 (de) | Interaktion zwischen einem mobilen Roboter und einer Alarmanlage | |
| WO2019053062A1 (de) | Exploration einer unbekannten umgebung durch einen autonomen mobilen roboter | |
| WO2014028959A1 (de) | Verfahren und system zur unterstützung eines arbeiters in einer anlage zur manipulation von waren | |
| EP2161219A1 (de) | Verfahren und Vorrichtung zur visuellen Unterstützung von Kommissioniervorgängen | |
| EP3974934A1 (de) | Verfahren zur steuerung eines autonomen, mobilen roboters | |
| EP2977844A1 (de) | Verfahren zur reinigung oder bearbeitung eines raumes mittels eines selbsttätig verfahrbaren gerätes | |
| WO2015106755A1 (de) | Vorrichtung zur orientierung für automatisch in werkshallen geführte, elektrisch betriebene, transportfahrzeuge | |
| EP3355147B1 (de) | Verfahren zum betrieb eines sich selbsttätig fortbewegenden fahrzeugs | |
| EP3052427A2 (de) | Transportfahrzeug und verfahren zum störungsfreien transport von lastregalen in werkshallen mit funkabschattungen und mit teilweise autonomem fahrbetrieb | |
| WO2018114412A1 (de) | Verfahren zur erstellung einer umgebungskarte für ein bearbeitungsgerät | |
| EP3274735B1 (de) | Tracking-system und verfahren zum tracken eines trägers einer mobilen kommunikationseinheit | |
| WO2015043561A2 (de) | Transportfahrzeug und verfahren zum störungsfreien transport von lastregalen in werkshallen mit teilweise autonomem fahrbetrieb | |
| EP4505210A1 (de) | Positionsbestimmung-verfahren bzw. -system für eine positionsbestimmung von gegenständen | |
| DE102017103986A1 (de) | Verfahren zum Betrieb eines sich selbsttätig fortbewegenden Roboters | |
| DE102016121320A1 (de) | Verfahren zum Betrieb eines sich selbsttätig fortbewegenden Roboters | |
| DE102010018634A1 (de) | Verfahren zur Eingabe eines räumlichen Aufbaus von Fertigungseinrichtungen in ein rechnergestütztes Planungsprogramm und dessen Optimierung | |
| DE102013220107A1 (de) | Verfahren zur Anleitung und/oder Kontrolle von an einem Arbeitsplatz auszuführenden Montage- und Kommissionierungsprozessen | |
| EP3378825A1 (de) | Flurförderzeug mit einem flugfähigen objekt | |
| DE102018112012B4 (de) | Verfahren und Vorrichtung zum Markieren eines Lagerplatzes | |
| DE202023107560U1 (de) | System zur Erstellung einer digitalen Abbildung eines Verkaufsbereiches | |
| EP4689556A1 (de) | Verfahren zur erstellung einer navigationsgrundlage für die navigation in einem verkaufsbereiches | |
| EP3812869A1 (de) | Verfahren zur erstellung einer umgebungskarte für ein sich selbsttätig fortbewegendes bodenbearbeitungsgerät, sowie system aus zwei sich selbsttätig fortbewegenden bodenbearbeitungsgeräten | |
| EP4341760B1 (de) | Erfassungsgerät für ein warenwirtschaftssystem |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: UNKNOWN |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE |
|
| PUAI | Public reference made under article 153(3) epc to a published international application that has entered the european phase |
Free format text: ORIGINAL CODE: 0009012 |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE |
|
| 17P | Request for examination filed |
Effective date: 20251007 |
|
| AK | Designated contracting states |
Kind code of ref document: A1 Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC ME MK MT NL NO PL PT RO RS SE SI SK SM TR |