WO2023027419A1 - 센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치 - Google Patents

센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치 Download PDF

Info

Publication number
WO2023027419A1
WO2023027419A1 PCT/KR2022/012338 KR2022012338W WO2023027419A1 WO 2023027419 A1 WO2023027419 A1 WO 2023027419A1 KR 2022012338 W KR2022012338 W KR 2022012338W WO 2023027419 A1 WO2023027419 A1 WO 2023027419A1
Authority
WO
WIPO (PCT)
Prior art keywords
static
sensing device
point cloud
point
space
Prior art date
Application number
PCT/KR2022/012338
Other languages
English (en)
French (fr)
Inventor
박재일
민 트루엉홍
김영성
강성주
Original Assignee
(주)서울로보틱스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)서울로보틱스 filed Critical (주)서울로보틱스
Priority to EP22861629.8A priority Critical patent/EP4394440A1/en
Publication of WO2023027419A1 publication Critical patent/WO2023027419A1/ko
Priority to US18/585,611 priority patent/US20240192342A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88—Lidar systems specially adapted for specific applications
    • G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06—Systems determining position data of a target
    • G01S17/42—Simultaneous measurement of distance and other co-ordinates
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88—Lidar systems specially adapted for specific applications
    • G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88—Lidar systems specially adapted for specific applications
    • G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497—Means for monitoring or calibrating
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497—Means for monitoring or calibrating
    • G01S7/4972—Alignment of sensor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05—Geographic models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/62—Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/64—Three-dimensional objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30232—Surveillance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30236—Traffic on road, railway or crossing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30244—Camera pose

Definitions

  • It relates to a method for detecting an installation abnormality of a sensing device and a sensing device for performing the same.
  • LiDAR Light Detection And Ranging
  • LIDAR is a technology for emitting light to an object in a 3D space and then receiving the reflected light to acquire information about the 3D space. LIDAR cannot perceive color like a camera image sensor, but it can detect distant objects and has excellent spatial resolution.
  • the present invention relates to a method for detecting an abnormal installation of a sensing device based on a change in a point group obtained using a lidar sensor without a separate additional device when a change occurs in the installation state of the sensing device, and to a sensing device that performs the same. .
  • a method for detecting an abnormal installation of a sensing device includes obtaining a point cloud for each time in a 3-dimensional space using a lidar sensor, and based on the obtained point cloud for each time for the 3-dimensional space, Determining a static object region in a 3D space, and determining an installation abnormality of a sensing device based on static point clouds having a predetermined time difference among static point clouds by time corresponding to the determined static object region.
  • a computer-readable storage medium includes instructions for obtaining a point cloud for each time of a 3-dimensional space using a lidar sensor, and based on the obtained point cloud for each time of the 3-dimensional space, the 3-dimensional space Executed on a computer, including instructions for determining a static object area of , and instructions for determining an abnormality in the installation of the sensing device based on a static point cloud having a predetermined time difference among static point clouds for each time period corresponding to the determined static object area. Save the program to do it.
  • a sensing device may include a sensor unit for obtaining a point cloud for each time in a 3D space using a lidar sensor, a memory for storing one or more instructions, and executing the one or more instructions, thereby obtaining the three points.
  • a static object area of the 3D space is determined based on a point cloud by time in a dimensional space, and a sensing device is installed based on a static point cloud having a predetermined time difference among static point clouds by time corresponding to the determined static object area. It includes a processor that determines an anomaly.
  • FIG. 1 is a view for explaining a state in which a sensing device is installed and a state in which a change occurs in an installation state of the sensing device.
  • FIG. 2 is a diagram for explaining the configuration and operation of a sensing device according to an exemplary embodiment.
  • FIG. 3 is a diagram for explaining a dynamic point cloud, a static point cloud, and a static object region in a spatial information map generated by a sensing device.
  • FIG. 4 is a diagram for explaining a voxel map and voxels corresponding to unit regions of the voxel map.
  • FIG. 5 is a diagram for explaining a process of distinguishing static voxels from dynamic voxels.
  • FIG. 6 is a diagram for explaining a process of determining an installation abnormality of a sensing device.
  • FIG. 7 is a diagram for explaining configuration and operation of a server according to an exemplary embodiment.
  • FIG. 8 is a flowchart illustrating a method of detecting an installation abnormality of a sensing device according to an exemplary embodiment.
  • FIG. 9 is a detailed flowchart illustrating a process of determining an installation abnormality of a sensing device.
  • the present embodiments relate to a method for detecting an abnormality in the installation of a sensing device and a sensing device for performing the same, and detailed descriptions of matters widely known to those skilled in the art to which the following embodiments belong are omitted. do.
  • FIG. 1 is a view for explaining a state in which a sensing device 100 is installed and a state in which a change occurs in an installation state of the sensing device 100 .
  • the sensing device 100 is a device capable of obtaining point cloud data as spatial information about a 3D space, and may include at least one sensor.
  • the sensing device 100 may emit light in the 3D space and obtain a point cloud for the 3D space based on light received in response thereto.
  • the sensing device 100 may be installed indoors or outdoors where it can sense a space corresponding to a region of interest or as wide a space as possible. For example, as shown in FIG. 1 , the sensing device 100 may be installed by being fixed to a structure.
  • the sensing device 100 may include a LIDAR (Light Detection and Ranging) sensor as a 3D sensor for sensing a 3D space, and may obtain volumetric point cloud data.
  • the sensing device 100 may further include various types of sensors such as a radar sensor, an infrared image sensor, and a camera, as needed.
  • the sensing device 100 may use a plurality of sensors of the same type or a combination of sensors of the same type in consideration of the sensing range of each type of sensor or the type of data that can be obtained.
  • LiDAR sensors cannot detect the color of objects in a 3D space, but can detect their shape, size, and position.
  • a multi-channel lidar sensor that can collect information about 3D space is suitable for applications that cannot detect the color or texture of an object, but can utilize the approximate shape, size, and volume of an object.
  • a physical impact is applied to the sensing device 100 installed in the structure, or the sensing device 100 cannot be supported due to aging of the support or connection portion of the structure in which the sensing device 100 is installed. For this reason, a change may occur in the installation state of the sensing device 100 .
  • a point cloud of the 3D space acquired by the sensing device 100 is changed.
  • the sensing device ( 100) the equipment may be erroneously controlled or services may not be provided.
  • an inertial sensor or the like may be additionally mounted.
  • a device such as an inertial sensor on the sensing device 100, or when the installation state changes little by little over a long period of time, an abnormality in the installation of the sensing device 100 is detected. It can be difficult to do.
  • FIG. 2 is a diagram for explaining the configuration and operation of the sensing device 100 according to an exemplary embodiment.
  • a sensing device 100 may include a memory 110 , a processor 120 , a sensor unit 130 , and a communication interface 140 .
  • a processor 120 may control the processing unit 120 .
  • a sensor unit 130 may receive a signal from a sensor from a sensor.
  • a communication interface 140 may be used to communicate with a sensor.
  • Those skilled in the art related to the present embodiment may know that other general-purpose components may be further included in addition to the components shown in FIG. 2 .
  • Memory 110 may store software and/or programs.
  • the memory 110 may store instructions executable by the processor 120 .
  • the processor 120 may access and use data stored in the memory 110 or store new data in the memory 110 .
  • the processor 120 may execute instructions stored in the memory 110 .
  • the processor 120 may execute a computer program installed in the sensing device 100 .
  • the processor 120 may store and execute a computer program or application received from the outside in the memory 110 .
  • the processor 120 may execute at least one processing module to perform a predetermined operation.
  • the processor 120 may execute or control a processing module that executes a program for detecting an installation abnormality of the sensing device 100 .
  • the processor 120 may control other elements included in the sensing device 100 to perform an operation corresponding to an execution result of a command or a computer program.
  • the sensor unit 130 may include at least one sensor for sensing a 3D space.
  • the sensor unit 130 may include a light emitter that emits light in a 3D space and a light receiver that receives light, and further includes a dedicated processor for obtaining a point cloud for the 3D space based on the intensity of light received by the light receiver. may also include The sensor unit 130 may obtain a point cloud for each time in the 3D space in order to track an object located in the 3D space within the sensing range.
  • the sensor unit 130 may be a LIDAR (Light Detection and Ranging) sensor, and may obtain data for a space within a predetermined range including at least one 3D LIDAR sensor.
  • the sensor unit 130 may further include various types of sensors such as a radar sensor, an infrared image sensor, and an ultrasonic sensor.
  • the sensor unit 130 further includes at least one of a radar sensor and an ultrasonic sensor to obtain data on a blind area that cannot be detected by a lidar sensor or a nearby space within a predetermined distance from the sensing device 100. can do.
  • the communication interface 140 may perform wired/wireless communication with other devices or networks.
  • the communication interface 140 may include a communication module supporting at least one of various wired/wireless communication methods.
  • a communication module that performs short-range communication such as RFID (Radio Frequency Identification), NFC (Near Field Communication), Bluetooth, various types of wireless communication, or wired communication using a coaxial cable or optical cable may be included.
  • the communication interface 140 may be connected to a device located outside the sensing device 100 to transmit/receive signals or data.
  • the sensing device 100 communicates with the manager's terminal device through the communication interface 140, or uses the time-specific point cloud for the 3D space obtained from the sensing device 100 to control devices or provide certain services. can be connected to an external server that provides
  • An example of the processor 120 executes one or more instructions stored in the memory 110 to obtain a point cloud for a 3D space using a lidar sensor, and to obtain a point cloud for a 3D space. Based on this, it is possible to identify an object in a 3-dimensional space.
  • the processor 120 applies a point cloud for a 3-dimensional space to the object classification model or clusters the point cloud for a 3-dimensional space to determine the ground or building It can also identify static objects like animals or dynamic objects like animals.
  • the processor 120 may obtain a point cloud for each time of the 3D space by using a LIDAR sensor.
  • the processor 120 may detect an installation abnormality of the sensing device 100 based on the obtained point cloud for each time in the 3D space, in a manner described below.
  • the processor 120 may determine a static object region of the 3D space based on the obtained point cloud for each time of the 3D space by executing one or more instructions stored in the memory 110 .
  • the processor 120 may generate a spatial information map of the 3D space by detecting an object in the 3D space based on the acquired point cloud of the 3D space. In this case, the processor 120 may classify objects in the 3D space into static objects and dynamic objects.
  • a spatial information map generated based on a point cloud in time for a 3D space a dynamic object is detected and then disappears, or moves in a location within the spatial information map, while a static object is continuously located at the same location in the spatial information map. is detected
  • FIG. 3 is a diagram for explaining a dynamic point cloud, a static point cloud, and a static object region in a spatial information map generated by the sensing device 100.
  • a spatial information map generated based on a time-specific point cloud for a 3D space acquired using a lidar sensor is displayed.
  • the spatial information map of FIG. 3 is acquired by installing the sensing device 100 at a location where a vehicle moving intersection can be observed, and the sensing device 100 uses a lidar sensor, and the traffic at the intersection, which is an area of interest, is obtained. It can be used to monitor information.
  • the spatial information map of FIG. 3 it is possible to check point clouds corresponding to vehicles and pedestrians moving and stopping according to the traffic signal at the crossroads. Since vehicles and pedestrians move, they correspond to dynamic objects, and dynamic point clouds corresponding to such dynamic objects change their positions in the spatial information map and are not continuously detected in the same area for more than a certain period of time. On the other hand, traffic infrastructure, roads, buildings, etc. at intersections are static objects because they do not move, and static point clouds corresponding to such static objects can be continuously detected over a certain period of time in the same area of the spatial information map.
  • the corresponding point cloud When a point cloud is continuously detected in a specific area corresponding to a specific coordinate for a certain period of time or more, the corresponding point cloud may be classified as a static point cloud corresponding to a static object. On the other hand, if a point cloud is detected for less than a certain period in a specific area or a point cloud is created and then disappears, the corresponding point cloud may be classified as a dynamic point cloud corresponding to a dynamic object.
  • the processor 120 may divide the corresponding point cloud into a dynamic point cloud corresponding to a dynamic object and a static point cloud corresponding to a static object, based on a period in which point clouds for the same region of the spatial information map are continuously detected.
  • the processor 120 removes dynamic point clouds corresponding to dynamic objects from all point clouds corresponding to the 3D space, or extracts only static point clouds corresponding to static objects from all point clouds corresponding to the 3D space.
  • the whole can be determined as a static object area. That is, the processor 120 may determine the static object region based on the continuity of point groups for the same region in the frames of the spatial information map.
  • the processor 120 Based on the period in which point clouds within a unit area corresponding to each other are continuously detected between frames of the spatial information map generated from the time-specific point clouds of the 3D space obtained from the sensor unit 110, the processor 120 detects static object area can be determined.
  • the processor 120 may determine a static object region composed of static point clouds in a reference frame of a specific view of the spatial information map. For example, the processor 120 detects a static point cloud composed of static point clouds in a frame of a spatial information map corresponding to a certain point in time after the sensing device 100 is installed and a predetermined period required to distinguish a dynamic point cloud from a static point cloud has passed. object area can be determined.
  • the processor 120 may determine the static object region based on a period in which point clouds within a unit region at positions corresponding to each other between frames of the spatial information map are continuously detected with a number of points equal to or greater than a minimum detection threshold. Even if point clouds are continuously detected for the same area, since the corresponding point group may contain noise, only cases where the number of points in the continuously detected point group maintains the number of points equal to or higher than the minimum detection threshold are included, This is to filter cases classified as static point clouds.
  • the minimum detection threshold may be set to an appropriate value according to the environment in which the sensing device 100 is installed or weather conditions. In this case, the minimum detection threshold may be directly input from a user, or may be automatically set to an appropriate value according to the received information when the sensing device 100 receives information about external environments or weather conditions.
  • the processor 120 may determine a static object region in the 3D space based on a point cloud of a designated area among point clouds for each time in the 3D space obtained from the sensor unit 110 .
  • the sensing device 100 determines a static object region in the 3D space based on the point cloud of the designated region when a reference region in which dynamic point clouds rarely occur is designated instead of using the entire acquired point cloud for each time in the 3D space.
  • the reference area may be designated by a user or may be automatically designated as an area determined to be an area of a static point group corresponding to a static object having an appropriate height and size using a model trained by the sensing device 100. .
  • the processor 120 may generate a normalized map representing spatial information, such as a voxel map or a depth map, from the obtained temporal point cloud for the 3D space.
  • a normalized map representing spatial information, such as a voxel map or a depth map
  • the processor 120 distinguishes between static voxels and dynamic voxels in each frame of the voxel map, and determines a static object region composed of static voxels in a reference frame at a specific time of the voxel map. can decide
  • FIG. 4 is a diagram for explaining a voxel map and voxels corresponding to unit regions of the voxel map.
  • a voxel map corresponding to a 3D space monitored by the sensing device 100 is shown.
  • a voxel map is composed of voxel arrays, and a voxel array may be composed of voxels.
  • a voxel corresponds to a unit area of a voxel map, and each voxel may include a point cloud corresponding to a 3D space.
  • a point cloud existing in a voxel is a dynamic point group
  • the corresponding voxel is referred to as a dynamic voxel
  • a point cloud existing in a voxel is a static point group
  • it may be referred to as a static voxel.
  • FIG. 5 is a diagram for explaining a process of distinguishing static voxels from dynamic voxels.
  • the processor 120 may distinguish between static voxels in which a period in which point clouds within a voxel are continuously detected is equal to or greater than a threshold value, and dynamic voxels in which a period in which point clouds in a voxel are continuously detected is less than a threshold value.
  • a specific voxel of the voxel map if a point cloud within the voxel is continuously detected over a certain period of time, since the point cloud corresponds to a static object, the corresponding voxel may be classified as a static voxel.
  • a point cloud within the voxel is detected for less than a certain period of time or a point cloud is created and then disappears, the corresponding voxel can be classified as a dynamic voxel because the corresponding point cloud is a dynamic point group corresponding to a dynamic object.
  • the first voxel (Voxel 1) can be referred to as a static voxel because a point cloud consisting of at least two points is continuously detected from the time T-10 to before the time T-1, and the second voxel (Voxel 2) is the time T-9. Since it is temporarily detected only at time points T-1 and T-1, it can be referred to as a dynamic voxel.
  • the processor 120 may classify a voxel having a corresponding point cloud into a dynamic voxel and a static voxel based on a period in which point clouds for the same voxel of the voxel map are continuously detected.
  • the processor 120 may remove dynamic voxels from all voxels of the voxel map or extract only static voxels from all voxels of the voxel map, thereby determining at least some or all of them as the static object region. That is, the processor 120 may determine the static object region based on the continuity of the point group for the voxel at the same position in the frames of the voxel map.
  • the processor 120 determines the static object area based on the period in which point clouds in voxels corresponding to each other are continuously detected between frames of the voxel map generated from the point clouds for each time in the 3D space obtained from the sensor unit 110. can determine The processor 120 may determine a static object region composed of static voxels in a reference frame of a specific view of the voxel map.
  • FIG. 6 is a diagram for explaining a process of determining an installation abnormality of a sensing device.
  • the processor 120 may determine an installation abnormality of the sensing device 100 based on a static point cloud having a predetermined time difference among static point clouds by time corresponding to the static object area.
  • the static object area may be determined from a reference frame at an arbitrary point in time when it is confirmed that the sensing device 100 is normally installed. For example, it may be determined from a frame of a spatial information map at a certain point in the past after the sensing device 100 is normally installed in a structure.
  • the processor 120 may extract a first static point cloud of a first point in time and a second static point cloud of a second point of time having a predetermined time difference from the first point of time from the static point clouds by time corresponding to the determined static object region.
  • the processor 120 may determine whether the sensing device 100 has an installation error based on a difference between the first static point cloud and the second static point cloud.
  • a first static point cloud corresponding to a static object area and The second static point cloud is indicated by hatching.
  • the processor 120 may compare a first static point cloud corresponding to a static object area of a first view with a second static point cloud corresponding to a static object area of a second view.
  • the processor 120 compares the ratio of the area of the first static point cloud to the static object area with the ratio of the area of the second static point cloud to the static object area, and determines whether the sensing device 100 has an abnormal installation. can decide When the point of time at which the static object area is determined is the first point of view, as shown in FIG. 6 , the first static point cloud of the first point of view is evenly detected within the static object area, while the second static point cloud of the second point of view It can be seen that it is detected only in a part of the static object area. In FIG. 6 , the point in time for determining the static object area is determined as an arbitrary point in the past when the sensing device 100 is normally installed, but is not limited thereto.
  • the sensing device 100 is obtained by comparing the first static point cloud at the current point in time with the second static point cloud at the past point in time. can determine whether or not the installation of
  • the processor 120 determines the number of voxels constituting the determined static object region in the voxel map. It is possible to determine whether the sensing device 100 has an abnormal installation by comparing the ratio of the number of voxels constituting the first static point cloud at the first viewpoint to the ratio of the number of voxels constituting the second static point cloud at the second viewpoint. .
  • the processor 120 executes one or more instructions and, through the communication interface 140, determines the installation abnormality of the sensing device 100 by using the point cloud for the 3D space obtained by the sensing device 100. It can be used for device control or transmitted to a server that provides a certain service.
  • the server 200 may be replaced by a computing device, operator, console device, or the like.
  • the sensing device 100 may be equipped with a processor that obtains a point cloud for each time as spatial information on a 3D space, detects a static or dynamic object in the 3D space, and tracks the detected object. , but is not limited thereto.
  • the server 200 that utilizes the time-specific point cloud of the 3D space obtained by the sensing device 100 for device control or provides a predetermined service receives it, so that the server 200 is a static object or a dynamic object in the 3D space. , and can process a series of processing to track the detected object.
  • the server 200 may be implemented with technology such as cloud computing.
  • the server 200 may perform high-speed data communication with the sensing device 100 .
  • the server 200 may include a memory 210 , a processor 220 , and a communication interface 230 .
  • Those skilled in the art related to the present embodiment may know that other general-purpose components may be further included in addition to the components shown in FIG. 7 .
  • the above description of the sensing device 100 may be applied as it is to the configuration of the same name of the server 200 even if the content is omitted below.
  • Each component of the block diagram of FIG. 7 may be separated, added, or omitted according to the implementation method of the server 200 . That is, one component may be subdivided into two or more components, two or more components may be combined into one component, or some components may be added or removed depending on the implementation method.
  • the memory 210 may store instructions executable by the processor 220 .
  • Memory 210 may store software or programs.
  • the processor 220 may execute instructions stored in the memory 210 .
  • the processor 220 may perform overall control of the server 200 .
  • the processor 220 may acquire information and requests received through the communication interface 230 and store the received information in a storage (not shown).
  • the processor 220 may process received information.
  • the processor 220 obtains information used to control a device or provide a predetermined service from information received from the sensing device 100, or performs a processing operation to manage the received information. , It can be stored in a storage (not shown).
  • the processor 220 uses data or information stored in a storage (not shown) as a response to the request obtained from the manager's terminal, and sends the manager's terminal through the communication interface 230 a request corresponding to the request. information can be transmitted.
  • the communication interface 230 may perform wired/wireless communication with other devices or networks.
  • the communication interface 230 may be connected to a device located outside the server 200 to transmit/receive signals or data.
  • the server 200 may communicate with the sensing device 100 through the communication interface 230 or may be connected to other servers connected through a network.
  • the storage may store various software and information necessary for the server 200 to control devices or to provide predetermined services.
  • the storage may store programs executed in the server 200, applications, and various data or information used for certain services.
  • the server 200 may include a load balancer server and function servers providing predetermined services.
  • the server 200 may be composed of a plurality of servers divided according to functions or may be an integrated server.
  • the server 200 may acquire a point cloud for each time in a 3D space from the sensing device 100 through the communication interface 230 or receive a result of detecting an abnormal installation of the sensing device 100. there is.
  • the server 200 When the server 200 is connected to a plurality of sensing devices 100 and a result of detecting an installation abnormality is received from one of the sensing devices 100, the server 200 detects an installation abnormality. Reception of information or data received from the sensing device 100 may be blocked or deleted.
  • FIG. 8 is a flowchart illustrating a method of detecting an installation abnormality of the sensing device 100 according to an exemplary embodiment. A detailed description of the contents overlapping with the above description of the sensing device 100 will be omitted.
  • the sensing device 100 may obtain a point cloud for each time in the 3D space using the LIDAR sensor.
  • the sensing device 100 may continuously acquire point clouds in a 3D space.
  • the sensing device 100 may determine a static object region in the 3D space based on the obtained point cloud for each time of the 3D space.
  • the sensing device 100 may generate a spatial information map from the acquired time-specific point cloud for the 3D space.
  • the spatial information map may be a normalized map representing spatial information, such as a voxel map or a depth map.
  • the sensing device 100 may determine a static object area based on a period in which point clouds within a unit area at positions corresponding to each other are continuously detected between frames of the generated spatial information map.
  • the sensing device 100 may determine a static object area based on a period in which point clouds within a unit area corresponding to each other between frames of the spatial information map are continuously detected with a number of points equal to or greater than a minimum detection threshold.
  • the sensing device 100 classifies a static voxel in which a period in which a point cloud within a voxel is continuously detected is greater than or equal to a threshold value and a dynamic voxel in which the period is less than the threshold value;
  • a static object region composed of static voxels may be determined in a reference frame at a specific time point of the voxel map.
  • the sensing device 100 may determine a static object region in the 3D space based on a point cloud of a designated area among the obtained point clouds for each time in the 3D space.
  • the sensing device 100 determines a static object region in the 3D space based on the point cloud of the designated region when a reference region in which dynamic point clouds rarely occur is designated instead of using the entire acquired point cloud for each time in the 3D space.
  • the reference area may be designated by a user or may be automatically designated as an area determined to be an area of a static point group corresponding to a static object having an appropriate height and size using a model learned by the sensing device 100 .
  • the sensing device 100 may determine an installation abnormality of the sensing device 100 based on a static point cloud having a predetermined time difference among static point clouds by time corresponding to the determined static object area. This will be described in detail with reference to FIG. 9 below.
  • FIG. 9 is a detailed flowchart for explaining a process of determining an installation abnormality of the sensing device 100. Referring to FIG. Step 830 of FIG. 8 described above will be described in detail.
  • step 910 the sensing device 100 extracts a first static point cloud at a first time point and a second static point cloud at a second time point having a predetermined time difference from the first time point among the static point clouds for each time period corresponding to the determined static object area. can do.
  • the sensing device 100 may determine whether the sensing device 100 has an abnormal installation based on the difference between the first static point cloud and the second static point cloud.
  • the sensing device 100 may determine whether the sensing device 100 has an abnormal installation by comparing the ratio of the area of the first static point group to the determined static object area with the ratio of the area of the second static point group. .
  • a first static point cloud for the total number of voxels constituting the determined static object region is generated from the voxel map. It is possible to determine whether the sensing device 100 has an installation abnormality by comparing the ratio of the number of voxels constituting the second static point cloud with the ratio of the number of voxels constituting the second static point cloud.
  • the sensing device 100 may be installed in a moving object as well as a non-moving structure.
  • the sensing device 100 may be installed in a moving object as well as a non-moving structure.
  • the sensing device 100 may be installed in a moving object as well as a non-moving structure.
  • the sensing device 100 since the 3D space changes according to the movement of the vehicle or the drone, the location of a static object in the 3D space may change on the spatial information map. there is.
  • a point cloud for the same space may be obtained based on location information of the vehicle or drone.
  • the sensing device 100 in order to monitor a wider space, when a structure in which the sensing device 100 is installed periodically rotates at a predetermined angle, the sensing device 100 generates a point cloud for a 3D space obtained at the same angle. It can be obtained as a point cloud for the same space.
  • each of the above-described embodiments may be provided in the form of a computer program or application stored in a medium in order to execute predetermined steps for performing a method of detecting an abnormality in the installation of the sensing device 100 .
  • each of the above-described embodiments may be provided in the form of a computer program or application stored in a medium that causes at least one processor of the sensing device 100 to perform predetermined steps for performing a method for detecting an installation abnormality. there is.
  • the above-described embodiments may be implemented in the form of a computer-readable storage medium storing instructions and data executable by a computer or processor. At least one of instructions and data may be stored in the form of a program code, and when executed by a processor, a predetermined program module may be generated to perform a predetermined operation.
  • Such computer-readable storage media include read-only memory (ROM), random-access memory (RAM), flash memory, CD-ROMs, CD-Rs, CD+Rs, CD-RWs, CD+RWs, DVD-ROMs , DVD-Rs, DVD+Rs, DVD-RWs, DVD+RWs, DVD-RAMs, BD-ROMs, BD-Rs, BD-R LTHs, BD-REs, magnetic tapes, floppy disks, magneto-optical data storage devices, An optical data storage device, hard disk, solid-state disk (SSD), and may store instructions or software, related data, data files, and data structures, and may cause the processor or computer to execute instructions or It may be any device capable of providing software, associated data, data files, and data structures.
  • ROM read-only memory
  • RAM random-access memory
  • flash memory CD-ROMs, CD-Rs, CD+Rs, CD-RWs, CD+RWs, DVD-ROMs , DVD-Rs, DVD+R

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Astronomy & Astrophysics (AREA)

Abstract

라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득하는 센서부, 메모리, 및 메모리에 저장된 하나 이상의 명령어들을 실행함으로써, 획득된 3차원 공간에 대한 시간별 점군에 기초하여, 3차원 공간의 정적 객체 영역을 결정하고, 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치의 설치 이상을 판단하는 프로세서를 포함하는 센싱 장치가 개시된다.

Description

센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치
센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치에 관한 것이다.
라이다(Light Detection And Ranging, LiDAR) 기술과 같은 센싱 기술의 발전에 따라, 최근 다양한 산업 기술 분야에서 센싱 기술이 접목된 첨단 제어 기능들이 활용되고 있으며, 이를 위해 다양한 센싱 장치가 설치되고 있다.
라이다는 3차원 공간의 객체에 광을 방출한 후 반사된 광을 수신하여, 이로부터 3차원 공간에 대한 정보를 획득하는 기술이다. 라이다는 카메라 이미지 센서처럼 컬러를 인지할 수 없으나, 멀리 있는 물체까지 감지할 수 있고, 뛰어난 공간 분해능을 가지고 있다.
센싱 장치의 설치 상태에 변화가 발생한 경우, 별도의 추가 장치 없이, 라이다 센서를 이용하여 획득되는 점군의 변화에 기초하여, 센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치에 관한 것이다.
제1 측면에 따른 센싱 장치의 설치 이상을 감지하는 방법은, 라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득하는 단계, 상기 획득된 상기 3차원 공간에 대한 시간별 점군에 기초하여, 상기 3차원 공간의 정적 객체 영역을 결정하는 단계, 및 상기 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치의 설치 이상을 판단하는 단계를 포함한다.
제2 측면에 따른 컴퓨터 판독 가능 저장매체는, 라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득하는 명령어들, 상기 획득된 상기 3차원 공간에 대한 시간별 점군에 기초하여, 상기 3차원 공간의 정적 객체 영역을 결정 명령어들, 및 상기 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치의 설치 이상을 판단하는 명령어들을 포함하는, 컴퓨터에서 실행시키기 위한 프로그램을 저장한다.
제3 측면에 따른 센싱 장치는, 라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득하는 센서부, 하나 이상의 명령어들을 저장하는 메모리, 및 상기 하나 이상의 명령어들을 실행함으로써, 상기 획득된 상기 3차원 공간에 대한 시간별 점군에 기초하여, 상기 3차원 공간의 정적 객체 영역을 결정하고, 상기 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치의 설치 이상을 판단하는 프로세서를 포함한다.
도 1은 센싱 장치가 설치된 모습과 센싱 장치의 설치 상태에 변화가 발생한 모습을 설명하기 위한 도면이다.
도 2는 일 실시예에 따른 센싱 장치의 구성 및 동작을 설명하기 위한 도면이다.
도 3은 센싱 장치가 생성한 공간 정보 맵에서 동적 점군, 정적 점군, 및 정적 객체 영역을 설명하기 위한 도면이다.
도 4는 복셀 맵과 복셀 맵의 단위 영역에 대응되는 복셀을 설명하기 위한 도면이다.
도 5는 정적 복셀과 동적 복셀을 구분하는 프로세스를 설명하기 위한 도면이다.
도 6은 센싱 장치의 설치 이상을 판단하는 프로세스를 설명하기 위한 도면이다.
도 7은 일 실시예에 따른 서버의 구성 및 동작을 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 센싱 장치의 설치 이상을 감지하는 방법을 설명하기 위한 흐름도이다.
도 9는 센싱 장치의 설치 이상을 판단하는 프로세스를 설명하기 위한 상세 흐름도이다.
이하에서는 도면을 참조하여 다양한 실시예들을 상세히 설명한다. 실시예들의 특징을 보다 명확히 설명하기 위하여 이하의 실시예들이 속하는 기술분야에서 통상의 지식을 가진 자에게 널리 알려져 있는 사항들에 관해서 자세한 설명은 생략한다.
한편, 본 명세서에서 어떤 구성이 다른 구성과 "연결"되어 있다고 할 때, 이는 '직접적으로 연결'되어 있는 경우뿐 아니라, '그 중간에 다른 구성을 사이에 두고 연결'되어 있는 경우도 포함한다. 또한, 어떤 구성이 다른 구성을 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한, 그 외 다른 구성을 제외하는 것이 아니라 다른 구성들 더 포함할 수도 있다는 것을 의미한다.
또한, 본 명세서에서 사용되는 '제 1' 또는 '제 2' 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용할 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성 요소를 다른 구성 요소로부터 구별하는 목적으로만 사용된다.
본 실시예들은 센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치에 관한 것으로서 이하의 실시예들이 속하는 기술 분야에서 통상의 지식을 가진 자에게 널리 알려져 있는 사항들에 관해서는 자세한 설명을 생략한다.
도 1은 센싱 장치(100)가 설치된 모습과 센싱 장치(100)의 설치 상태에 변화가 발생한 모습을 설명하기 위한 도면이다.
센싱 장치(100)는 3차원 공간에 대한 공간 정보로서 점군(point cloud data)을 획득할 수 있는 장치로서, 적어도 하나의 센서를 포함할 수 있다. 센싱 장치(100)는 3차원 공간에 광을 방출하고, 이에 대한 응답으로 수신된 광에 기초하여 3차원 공간에 대한 점군을 획득할 수 있다. 센싱 장치(100)는 실내 또는 실외에서, 관심 영역에 해당하는 공간 또는 가능한 넓은 공간을 감지할 수 있는 곳에 설치될 수 있다. 예를 들어, 도 1에서와 같이, 센싱 장치(100)는 구조물에 고정시켜 설치될 수 있다.
센싱 장치(100)는 3차원 공간을 감지하는 3D 센서로써 라이다(Light Detection and Ranging) 센서를 구비할 수 있으며, 체적형 점군(volumetric point cloud data)을 획득할 수 있다. 센싱 장치(100)는 필요에 따라, 레이더(radar) 센서, 적외선 영상 센서, 카메라 등과 같은 다양한 종류의 센서를 더 포함할 수도 있다. 센싱 장치(100)는 각 종류의 센서가 가지고 있는 감지 범위나 획득할 수 있는 데이터의 종류 등을 고려하여, 동종의 센서를 복수 개 이용하거나, 이종의 센서들을 조합하여 이용할 수도 있다.
라이다 센서는 3차원 공간의 객체들의 컬러를 감지할 수 없으나, 형태, 크기, 위치를 감지할 수 있다. 3차원 공간에 대한 정보를 수집할 수 있는 다채널 라이다 센서는 객체의 컬러나 텍스쳐를 감지할 수 없지만, 객체의 대략적인 형태와 크기, 체적을 활용할 수 있는 분야에 적합하다.
도 1에 도시한 바와 같이, 구조물에 설치된 센싱 장치(100)에 물리적인 충격이 가해지거나, 센싱 장치(100)가 설치된 구조물의 지지부나 연결부가 노후화되어 센싱 장치(100)를 지지하지 못하는 등의 이유로, 센싱 장치(100)의 설치 상태에 변화가 발생할 수 있다. 센싱 장치(100)의 설치 위치나 각도에 변화가 생기면, 센싱 장치(100)가 획득하는 3차원 공간에 대한 점군에 변화가 생기게 된다. 센싱 장치(100)에서 획득된 3차원 공간에 대한 점군을 이용하여 기기의 제어에 활용하거나 소정의 서비스를 제공하는 경우, 센싱 장치(100)의 설치 상태의 변화를 알지 못한 상황에서, 센싱 장치(100)로부터 획득된 3차원 공간에 대한 점군을 이용하면, 기기를 잘못 제어하거나 서비스를 제공할 수 없게 될 수 있다.
센싱 장치(100)의 설치 상태의 변화를 감지하기 위해, 관성 센서 등을 추가로 탑재할 수 있다. 그러나, 센싱 장치(100)에 관성 센서와 같은 장치를 추가로 탑재하는 것이 불가능하거나 어려운 사정이 있는 경우 또는 오랜 시간에 걸쳐 조금씩 설치 상태에 변화가 생긴 경우, 센싱 장치(100)의 설치 이상을 감지해 내기가 어려울 수 있다.
이하, 센싱 장치(100)의 설치 상태에 변화가 발생하는 경우, 별도의 추가 장치 없이, 라이다 센서를 이용하여 획득되는 점군의 변화에 기초하여, 센싱 장치(100)의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치(100)에 대해 설명한다.
도 2는 일 실시예에 따른 센싱 장치(100)의 구성 및 동작을 설명하기 위한 도면이다.
도 2를 참조하면, 일 실시예에 따른 센싱 장치(100)는 메모리(110), 프로세서(120), 센서부(130), 통신 인터페이스(140)를 포함할 수 있다. 본 실시예와 관련된 기술분야에서 통상의 지식을 가진 자라면 도 2에 도시된 구성요소들 외에 다른 범용적인 구성요소들이 더 포함될 수 있음을 알 수 있다.
메모리(110)는 소프트웨어 및/또는 프로그램을 저장할 수 있다. 메모리(110)는 프로세서(120)에 의해 실행 가능한 명령어들을 저장할 수 있다.
프로세서(120)는 메모리(110)에 저장된 데이터에 접근하여 이를 이용하거나, 또는 새로운 데이터를 메모리(110)에 저장할 수 있다. 프로세서(120)는 메모리(110)에 저장된 명령어들을 실행할 수 있다. 프로세서(120)는 센싱 장치(100)에 설치된 컴퓨터 프로그램을 실행할 수 있다. 또한, 프로세서(120)는 외부로부터 수신한 컴퓨터 프로그램 또는 애플리케이션을 메모리(110)에 저장하고 실행시킬 수 있다. 프로세서(120)는 적어도 하나의 프로세싱 모듈을 실행하여, 소정의 동작을 수행할 수 있다. 예를 들어, 프로세서(120)는 센싱 장치(100)의 설치 이상을 감지하는 프로그램을 실행하는 프로세싱 모듈을 실행 또는 제어할 수 있다. 프로세서(120)는 명령어 또는 컴퓨터 프로그램 등의 실행 결과에 대응되는 동작을 수행하도록 센싱 장치(100)에 포함된 다른 구성들을 제어할 수 있다.
센서부(130)는 3차원 공간을 감지하기 위한 적어도 하나의 센서를 포함할 수 있다. 센서부(130)는 3차원 공간에 광을 방출하는 발광부와 광을 수신하는 수광부를 포함할 수 있으며, 수광부에 수신된 광의 세기에 기초하여 3차원 공간에 대한 점군을 획득하는 전용 프로세서를 더 포함할 수도 있다. 센서부(130)는 감지 범위 내의 3차원 공간에 위치한 객체를 추적하기 위해, 3차원 공간에 대한 시간별 점군을 획득할 수 있다.
센서부(130)는 라이다(Light Detection and Ranging) 센서일 수 있으며, 적어도 하나의 3차원 라이다 센서를 포함하여 소정의 범위의 공간에 대한 데이터를 획득할 수 있다. 센서부(130)는 환경에 따라, 레이더(radar) 센서, 적외선 영상 센서, 초음파 센서 등과 같은 다양한 종류의 센서를 더 포함할 수도 있다. 예를 들어, 센서부(130)는 레이더 센서 및 초음파 센서 중 적어도 하나를 더 포함하여 라이다 센서가 감지할 수 없는 사각 영역 또는 센싱 장치(100)로부터 소정의 거리 내의 근접 공간에 대한 데이터를 획득할 수 있다.
통신 인터페이스(140)는 다른 장치 또는 네트워크와 유무선 통신을 수행할 수 있다. 이를 위해, 통신 인터페이스(140)는 다양한 유무선 통신 방법 중 적어도 하나를 지원하는 통신 모듈을 포함할 수 있다. 예를 들어, RFID(Radio Frequency Identification), NFC(Near Field Communication), 블루투스(Bluetooth)와 같은 근거리 통신, 다양한 종류의 무선 통신 또는 동축 케이블이나 광케이블 등을 이용하는 유선 통신을 수행하는 통신 모듈이 포함될 수 있다. 통신 인터페이스(140)는 센싱 장치(100)의 외부에 위치한 장치와 연결되어 신호 또는 데이터를 송수신할 수 있다. 센싱 장치(100)는 통신 인터페이스(140)를 통해 관리자의 단말 장치와 통신을 수행하거나, 센싱 장치(100)로부터 획득된 3차원 공간에 대한 시간별 점군을 이용하여 기기의 제어에 활용하거나 소정의 서비스를 제공하는 외부 서버와 연결될 수 있다.
상기한 구성에 따른 일 예의 프로세서(120)는 메모리(110)에 저장된 하나 이상의 명령어들을 실행함으로써, 라이다 센서를 이용하여 3차원 공간에 대한 점군을 획득하고, 획득된 3차원 공간에 대한 점군에 기초하여, 3차원 공간에 있는 객체를 식별할 수 있다. 센싱 장치(100)가 객체 분류 모델을 이용한 객체 분류 기능을 지원하는 경우, 프로세서(120)는 3차원 공간에 대한 점군을 객체 분류 모델에 적용하거나, 3차원 공간에 대한 점군을 클러스터링함으로써 지면이나 건물과 같은 정적 객체나 동물과 같은 동적 객체를 식별할 수도 있다.
센싱 장치(100)가 3차원 공간을 모니터링하기 위해, 3차원 공간을 연속적으로 감지하는 경우, 프로세서(120)는 라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득할 수 있다. 프로세서(120)는 획득된 3차원 공간에 대한 시간별 점군에 기초하여, 이하에서 설명하는 방식으로, 센싱 장치(100)의 설치 이상을 감지할 수 있다.
프로세서(120)는 메모리(110)에 저장된 하나 이상의 명령어들을 실행함으로써, 획득된 3차원 공간에 대한 시간별 점군에 기초하여, 3차원 공간의 정적 객체 영역을 결정할 수 있다. 프로세서(120)는 획득된 3차원 공간에 대한 점군에 기초하여, 3차원 공간에 있는 객체를 검출하여, 3차원 공간에 대한 공간 정보 맵을 생성할 수 있다. 이때, 프로세서(120)는 3차원 공간에 있는 객체를 정적 객체와 동적 객체로 구분할 수 있다. 3차원 공간에 대한 시간별 점군에 기초하여 생성되는 공간 정보 맵에서, 동적 객체는 검출되었다가 사라지기도 하고, 공간 정보 맵 내에서 위치를 이동하는 반면, 정적 객체는 공간 정보 맵의 같은 위치에서 연속적으로 검출된다.
이하, 도 3 내지 도 5를 참조하여, 공간 정보 맵에서 동적 객체에 대응되는 동적 점군과 정적 객체에 대응되는 정적 점군을 구분하는 방식과 공간 정보 맵에서 정적 객체 영역을 결정하는 방식에 대해 설명한다.
도 3은 센싱 장치(100)가 생성한 공간 정보 맵에서 동적 점군, 정적 점군, 및 정적 객체 영역을 설명하기 위한 도면이다.
도 3을 참조하면, 라이다 센서를 이용하여 획득한 3차원 공간에 대한 시간별 점군에 기초하여 생성된 공간 정보 맵을 표시하고 있다. 도 3의 공간 정보 맵은 차량이 이동하는 사거리를 관찰할 수 있는 위치에 센싱 장치(100)를 설치하여, 센싱 장치(100)가 라이다 센서를 이용하여 획득한 것으로, 관심 지역인 사거리의 교통 정보를 모니터링하는데 이용될 수 있다.
도 3의 공간 정보 맵을 보면, 사거리의 교통 신호에 따라 이동 및 정지하는 차량과 보행자에 대응되는 점군을 확인할 수 있다. 차량과 보행자는 움직이므로 동적 객체에 해당하며, 이와 같은 동적 객체에 대응되는 동적 점군은 공간 정보 맵에서 그 위치가 변경되어, 동일한 영역에서 일정 기간 이상으로 연속적으로 검출되지 않는다. 반면, 사거리의 교통 인프라나 도로, 건물 등은 움직이지 않으므로 정적 객체에 해당하며, 이와 같은 정적 객체에 대응되는 정적 점군은 공간 정보 맵의 동일한 영역에서 일정 기간 이상으로 연속적으로 검출될 수 있다.
특정 좌표에 해당하는 특정 영역에서 점군이 일정 기간 이상으로 연속적으로 검출되는 경우, 해당 점군은 정적 객체에 대응되는 정적 점군으로 분류될 수 있다. 반면, 특정 영역에서 점군이 일정 기간 미만으로 검출되거나 점군이 생성되었다가 사라지는 경우, 해당 점군은 동적 객체에 대응되는 동적 점군으로 분류될 수 있다.
따라서, 프로세서(120)는 공간 정보 맵의 동일한 영역에 대한 점군이 연속적으로 검출되는 기간에 기초하여, 해당 점군을 동적 객체에 대응되는 동적 점군과 정적 객체에 대응되는 정적 점군으로 구분할 수 있다. 프로세서(120)는 3차원 공간에 대응되는 전체 점군에서 동적 객체에 대응되는 동적 점군을 제거하거나, 3차원 공간에 대응되는 전체 점군에서 정적 객체에 대응되는 정적 점군만을 추출함으로써, 이 중 적어도 일부 또는 그 전체를 정적 객체 영역으로 결정할 수 있다. 즉, 프로세서(120)는 공간 정보 맵의 프레임들에서 동일한 영역에 대한 점군의 연속성에 기초하여, 정적 객체 영역을 결정할 수 있다.
프로세서(120)는 센서부(110)로부터 획득된 3차원 공간에 대한 시간별 점군으로부터 생성되는 공간 정보 맵의 프레임들 간에 서로 대응되는 위치의 단위 영역 내의 점군이 연속적으로 검출되는 기간에 기초하여, 정적 객체 영역을 결정할 수 있다. 프로세서(120)는 공간 정보 맵의 특정 시점의 기준 프레임에서 정적 점군으로 이루어진 정적 객체 영역을 결정할 수 있다. 예를 들어, 프로세서(120)는 센싱 장치(100)가 설치되고, 동적 점군과 정적 점군을 구분하는데 요구되는 소정의 기간이 지난 후의 어느 시점에 대응되는 공간 정보 맵의 프레임에서 정적 점군으로 이루어진 정적 객체 영역을 결정할 수 있다.
프로세서(120)는 공간 정보 맵의 프레임들 간에 서로 대응되는 위치의 단위 영역 내의 점군이 최소 검출 임계값 이상의 점 개수로 연속적으로 검출되는 기간에 기초하여, 정적 객체 영역을 결정할 수 있다. 동일한 영역에 대해 점군이 연속적으로 검출되더라도, 해당 점군에 노이즈가 포함되어 있을 수 있으므로, 연속적으로 검출되는 점군의 점의 개수가 최소 검출 임계값 이상의 점 개수를 유지하는 경우만 포함시켜, 노이즈에 의해 정적 점군으로 분류되는 경우를 필터링하기 위함이다.
최소 검출 임계값은 센싱 장치(100)가 설치된 환경이나 기상 조건에 따라, 적정한 값으로 설정될 수 있다. 이때, 최소 검출 임계값은 사용자로부터 직접 입력받을 수도 있고, 센싱 장치(100)가 외부 환경이나 기상 조건에 대한 정보를 수신하여, 수신된 정보에 따라 적정한 값으로 자동으로 설정될 수도 있다.
한편, 프로세서(120)는 센서부(110)로부터 획득된 3차원 공간에 대한 시간별 점군 중에서 지정된 영역의 점군에 기초하여, 3차원 공간의 정적 객체 영역을 결정할 수도 있다. 센싱 장치(100)는 획득된 3차원 공간에 대한 시간별 점군 전체를 사용하는 대신, 동적 점군이 거의 발생되지 않는 레퍼런스 영역이 지정되면, 지정된 영역의 점군에 기초하여 3차원 공간의 정적 개체 영역을 결정할 수 있다. 레퍼런스 영역은 사용자가 지정하거나, 센싱 장치(100)가 학습된 모델(trained model)을 이용하여 적당한 높이와 사이즈에 해당하는 정적 객체에 대응되는 정적 점군의 영역이라고 판단된 영역으로 자동 지정될 수 있다.
한편, 프로세서(120)는 획득된 3차원 공간에 대한 시간별 점군으로부터 복셀 맵(voxel map), 뎁스 맵(depth map) 등과 같이, 공간 정보를 나타내는 정규화된 맵을 생성할 수 있다. 예를 들어, 공간 정보 맵이 복셀 맵인 경우, 프로세서(120)는 복셀 맵의 각 프레임에서, 정적 복셀과 동적 복셀을 구분하고, 복셀 맵의 특정 시점의 기준 프레임에서 정적 복셀로 이루어진 정적 객체 영역을 결정할 수 있다.
도 4는 복셀 맵과 복셀 맵의 단위 영역에 대응되는 복셀을 설명하기 위한 도면이다.
도 4를 참조하면, 센싱 장치(100)가 모니터링하는 3차원 공간에 대응되는 복셀 맵을 나타내고 있다. 복셀 맵은 복셀 어레이들로 구성되고, 복셀 어레이는 복셀들로 구성될 수 있다. 복셀은 복셀 맵의 단위 영역에 해당하며, 각 복셀에는 3차원 공간에 대응되는 점군이 포함될 수 있다. 이때, 복셀 내에 존재하는 점군이 동적 점군이면 해당 복셀을 동적 복셀이라 하고, 복셀 내에 존재하는 점군이 정적 점군이면 정적 복셀이라 할 수 있다.
도 5는 정적 복셀과 동적 복셀을 구분하는 프로세스를 설명하기 위한 도면이다.
프로세서(120)는 복셀 맵의 각 프레임에서, 복셀 내의 점군이 연속적으로 검출되는 기간이 임계값 이상인 정적 복셀과 복셀 내의 점군이 연속적으로 검출되는 기간이 임계값 미만인 동적 복셀을 구분할 수 있다. 복셀 맵의 특정 복셀에서, 복셀 내의 점군이 일정 기간 이상으로 연속적으로 검출되는 경우, 해당 점군은 정적 객체에 대응되는 정적 점군이므로, 해당 복셀은 정적 복셀로 분류될 수 있다. 반대로, 복셀 맵의 특정 복셀에서, 복셀 내의 점군이 일정 기간 미만으로 검출되거나 점군이 생성되었다가 사라지는 경우, 해당 점군은 동적 객체에 대응되는 동적 점군이므로, 해당 복셀은 동적 복셀로 분류될 수 있다.
도 5를 참조하면, 복셀 맵을 구성하는 두 개의 복셀(Voxel 1, Voxel 2)에 대해 T-10 시점부터 T 시점까지 복셀 내에 존재하는 점군을 확인할 수 있다. 제1 복셀(Voxel 1)은 T-10 시점부터 T-1 시점 이전까지 복셀 내에 점군이 연속적으로 검출되는 것을 알 수 있다. 반면, 제2 복셀(Voxel 2)은 T-9 시점에 점군이 존재하였다가 T-8 시점부터 T-2 시점까지는 점군이 존재하지 않고, 다시 T-1 시점에 점군이 존재함을 확인할 수 있다. 제1 복셀(Voxel 1)은 적어도 두 개의 점으로 이루어진 점군이 T-10 시점부터 T-1 시점 이전까지 연속적으로 검출되므로 정적 복셀이라 할 수 있고, 제2 복셀(Voxel 2)은 T-9 시점과 T-1 시점에서만 일시적으로 검출되므로 동적 복셀이라 할 수 있다.
프로세서(120)는 복셀 맵의 동일한 복셀에 대한 점군이 연속적으로 검출되는 기간에 기초하여, 해당 점군이 존재하는 복셀을 동적 복셀과 정적 복셀로 구분할 수 있다. 프로세서(120)는 복셀 맵의 전체 복셀에서 동적 복셀을 제거하거나, 복셀 맵의 전체 복셀에서 정적 복셀만을 추출함으로써, 이 중 적어도 일부 또는 그 전체를 정적 객체 영역으로 결정할 수 있다. 즉, 프로세서(120)는 복셀 맵의 프레임들에서 동일한 위치의 복셀에 대한 점군의 연속성에 기초하여, 정적 객체 영역을 결정할 수 있다.
프로세서(120)는 센서부(110)로부터 획득된 3차원 공간에 대한 시간별 점군으로부터 생성되는 복셀 맵의 프레임들 간에 서로 대응되는 위치의 복셀 내의 점군이 연속적으로 검출되는 기간에 기초하여, 정적 객체 영역을 결정할 수 있다. 프로세서(120)는 복셀 맵의 특정 시점의 기준 프레임에서 정적 복셀로 이루어진 정적 객체 영역을 결정할 수 있다.
도 6은 센싱 장치의 설치 이상을 판단하는 프로세스를 설명하기 위한 도면이다.
프로세서(120)는 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치(100)의 설치 이상을 판단할 수 있다. 정적 객체 영역은 센싱 장치(100)가 정상적으로 설치되어 있음이 확인되는 임의의 시점의 기준 프레임으로부터 결정될 수 있다. 예를 들어, 센싱 장치(100)가 구조물에 정상적으로 설치된 후 과거의 어느 시점에서의 공간 정보 맵의 프레임으로부터 결정될 수 있다.
프로세서(120)는 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 제1 시점의 제1 정적 점군과 제1 시점과 소정의 시간 차를 갖는 제2 시점의 제2 정적 점군을 추출할 수 있다. 프로세서(120)는 제1 정적 점군과 제2 정적 점군의 차이에 기초하여, 센싱 장치(100)의 설치 이상 여부를 결정할 수 있다.
도 6을 참조하면, 센싱 장치(100)가 정상적으로 설치되어 있던 제1 시점과 센싱 장치(100)의 설치 상태에 변화가 발생된 제2 시점 각각에서, 정적 객체 영역에 대응되는 제1 정적 점군과 제2 정적 점군을 빗금 표시로 나타내고 있다. 프로세서(120)는 제1 시점의 정적 객체 영역에 대응되는 제1 정적 점군과 제2 시점의 정적 객체 영역에 대응되는 제2 정적 점군을 비교할 수 있다.
예를 들어, 프로세서(120)는 정적 객체 영역에 대한 제1 정적 점군의 영역의 비율과 정적 객체 영역에 대한 제2 정적 점군의 영역의 비율을 비교하여, 센싱 장치(100)의 설치 이상 여부를 결정할 수 있다. 정적 객체 영역을 결정한 시점을 제1 시점으로 하는 경우, 도 6에 도시된 바와 같이, 제1 시점의 제1 정적 점군은 정적 객체 영역 내에서 고루 검출되는 반면, 제2 시점의 제2 정적 점군은 정적 객체 영역 내의 일부분에서만 검출됨을 알 수 있다. 도 6에서는 정적 객체 영역을 결정하는 시점을 센싱 장치(100)가 정상적으로 설치되어 있는 과거의 임의의 시점으로 정하였으나, 이에 제한되는 것은 아니다. 정적 객체 영역을 결정하는 시점을 센싱 장치(100)의 설치 상태에 변화가 발생된 현재 시점으로 하더라도, 현재 시점의 제1 정적 점군과 과거 시점의 제2 정적 점군을 비교하여, 센싱 장치(100)의 설치 이상 여부를 결정할 수 있다.
다른 예를 들어, 센싱 장치(100)가 획득된 3차원 공간에 대한 시간별 점군으로부터 복셀 맵을 생성하는 경우, 프로세서(120)는 복셀 맵에서, 결정된 정적 객체 영역을 구성하는 전체 복셀의 개수에 대한 제1 시점의 제1 정적 점군을 구성하는 복셀의 개수의 비율과 제2 시점의 제2 정적 점군을 구성하는 복셀의 개수의 비율을 비교하여, 센싱 장치(100)의 설치 이상 여부를 결정할 수 있다.
한편, 프로세서(120)는 하나 이상의 명령어들을 실행함으로써, 통신 인터페이스(140)를 통해, 센싱 장치(100)의 설치 이상 판단 결과를 센싱 장치(100)에서 획득된 3차원 공간에 대한 점군을 이용하여 기기의 제어에 활용하거나 소정의 서비스를 제공하는 서버로 전송할 수 있다.
도 7은 일 실시예에 따른 서버(200)의 구성 및 동작을 설명하기 위한 도면이다. 서버(200)는 컴퓨팅 디바이스, 오퍼레이터, 콘솔 장치 등으로 대체될 수 있다.
앞서 설명한 바와 같이, 센싱 장치(100)는 3차원 공간에 대한 공간 정보로서 시간별 점군을 획득하여, 3차원 공간상의 정적 객체나 동적 객체를 검출하고, 검출된 객체를 추적하는 프로세서를 탑재할 수 있으나, 이에 한정되는 것은 아니다. 센싱 장치(100)에서 획득된 3차원 공간에 대한 시간별 점군을 기기의 제어에 활용하거나 소정의 서비스를 제공하는 서버(200)가 수신하여, 서버(200)가 3차원 공간상의 정적 객체나 동적 객체를 검출하고, 검출된 객체를 추적하는 일련의 프로세싱을 처리할 수 있다. 서버(200)는 클라우드 컴퓨팅과 같은 기술로 구현될 수 있다. 서버(200)는 센싱 장치(100)와 고속의 데이터 통신을 수행할 수 있다.
도 7을 참조하면, 서버(200)는 메모리(210), 프로세서(220), 통신 인터페이스(230)를 포함할 수 있다. 본 실시예와 관련된 기술분야에서 통상의 지식을 가진 자라면 도 7에 도시된 구성요소들 외에 다른 범용적인 구성요소들이 더 포함될 수 있음을 알 수 있다. 앞서, 센싱 장치(100)에 대하여 설명한 내용은 이하 생략된 내용이라 하더라도, 서버(200)의 동일한 명칭의 구성에 대해서 그대로 적용될 수 있다.
도 7의 블록도의 각 구성요소는 서버(200)의 구현 방식에 따라 분리, 추가, 또는 생략될 수 있다. 즉, 구현 방식에 따라 하나의 구성요소가 2 이상의 구성요소로 세분화되거나, 2 이상의 구성요소가 하나의 구성요소로 합쳐질 수도 있고, 일부 구성요소가 더 추가되거나 제거될 수 있다.
메모리(210)는 프로세서(220)에 의해 실행 가능한 명령어들을 저장할 수 있다. 메모리(210)는 소프트웨어 또는 프로그램을 저장할 수 있다.
프로세서(220)는 메모리(210)에 저장된 명령어들을 실행할 수 있다. 프로세서(220)는 서버(200)의 전반적인 제어를 수행할 수 있다. 프로세서(220)는 통신 인터페이스(230)를 통해 수신되는 정보 및 요청 사항을 획득하고, 수신되는 정보를 스토리지(미도시)에 저장할 수 있다. 또한, 프로세서(220)는 수신되는 정보를 가공할 수 있다. 예를 들어, 프로세서(220)는 센싱 장치(100)로부터 수신되는 정보로부터 기기의 제어에 활용하거나 소정의 서비스를 제공하는데 이용되는 정보를 획득하거나, 수신되는 정보들을 관리하기 위한 가공행위를 수행하여, 스토리지(미도시)에 저장할 수 있다. 또한, 프로세서(220)는 관리자의 단말로부터 획득된 요청 사항에 대한 응답으로써, 스토리지(미도시)에 저장된 데이터 또는 정보를 이용하여, 통신 인터페이스(230)를 통해 관리자의 단말에 요청 사항에 대응되는 정보를 전송할 수 있다.
통신 인터페이스(230)는 다른 장치 또는 네트워크와 유무선 통신을 수행할 수 있다. 통신 인터페이스(230)는 서버(200)의 외부에 위치한 장치와 연결되어 신호 또는 데이터를 송수신할 수 있다. 서버(200)는 통신 인터페이스(230)를 통해 센싱 장치(100)와 통신을 수행하거나, 네트워크로 연결된 다른 서버와도 연결될 수 있다.
스토리지(미도시)는 서버(200)가 기기의 제어에 활용하거나 소정의 서비스를 제공하기 위해 필요한 각종 소프트웨어 및 정보들을 저장할 수 있다. 예를 들어, 스토리지(미도시)는 서버(200)에서 실행되는 프로그램, 애플리케이션, 및 소정의 서비스에 이용되는 각종 데이터 또는 정보를 저장할 수 있다.
서버(200)는 부하 분산 서버와 소정의 서비스를 제공하는 기능 서버들로 구성될 수 있다. 서버(200)는 기능별로 나눠진 복수의 서버들로 구성되거나, 하나로 통합된 형태의 서버가 될 수도 있다.
상기 구성에 따라, 서버(200)는 통신 인터페이스(230)를 통해 센싱 장치(100)로부터 3차원 공간에 대한 시간별 점군을 획득하거나, 센싱 장치(100)의 설치 이상을 감지한 결과를 수신할 수 있다. 서버(200)가 복수 개의 센싱 장치(100)들과 연결되어 있고, 그 중 어느 하나의 센싱 장치(100)로부터 설치 이상을 감지한 결과가 수신되는 경우, 서버(200)는 설치 이상이 감지된 센싱 장치(100)로부터 수신되는 정보나 데이터의 수신을 차단하거나 삭제할 수 있다.
도 8은 일 실시예에 따른 센싱 장치(100)의 설치 이상을 감지하는 방법을 설명하기 위한 흐름도이다. 이상에서 센싱 장치(100)에 대하여 설명한 내용과 중복되는 내용에 대해서는 이하 그 상세한 설명을 생략한다.
810 단계에서, 센싱 장치(100)는 라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득할 수 있다. 센싱 장치(100)는 3차원 공간에 대한 점군을 연속적으로 획득할 수 있다.
820 단계에서, 센싱 장치(100)는 획득된 3차원 공간에 대한 시간별 점군에 기초하여, 3차원 공간의 정적 객체 영역을 결정할 수 있다. 센싱 장치(100)는 획득된 3차원 공간에 대한 시간별 점군으로부터 공간 정보 맵을 생성할 수 있다. 공간 정보 맵은 복셀 맵(voxel map), 뎁스 맵(depth map) 등과 같이, 공간 정보를 나타내는 정규화된 맵일 수 있다. 센싱 장치(100)는 생성된 공간 정보 맵의 프레임들 간에 서로 대응되는 위치의 단위 영역 내의 점군이 연속적으로 검출되는 기간에 기초하여, 정적 객체 영역을 결정할 수 있다. 센싱 장치(100)는 공간 정보 맵의 프레임들 간에 서로 대응되는 위치의 단위 영역 내의 점군이 최소 검출 임계값 이상의 점 개수로 연속적으로 검출되는 기간에 기초하여, 정적 객체 영역을 결정할 수 있다.
예를 들어, 공간 정보 맵이 복셀 맵인 경우, 센싱 장치(100)는 복셀 맵의 각 프레임에서, 복셀 내의 점군이 연속적으로 검출되는 기간이 임계값 이상인 정적 복셀과 임계값 미만인 동적 복셀을 구분하고, 복셀 맵의 특정 시점의 기준 프레임에서 정적 복셀로 이루어진 정적 객체 영역을 결정할 수 있다.
한편, 센싱 장치(100)는 획득된 3차원 공간에 대한 시간별 점군 중에서 지정된 영역의 점군에 기초하여, 3차원 공간의 정적 객체 영역을 결정할 수도 있다. 센싱 장치(100)는 획득된 3차원 공간에 대한 시간별 점군 전체를 사용하는 대신, 동적 점군이 거의 발생되지 않는 레퍼런스 영역이 지정되면, 지정된 영역의 점군에 기초하여 3차원 공간의 정적 개체 영역을 결정할 수 있다. 레퍼런스 영역은 사용자가 지정하거나, 센싱 장치(100)가 학습된 모델을 이용하여 적당한 높이와 사이즈에 해당하는 정적 객체에 대응되는 정적 점군의 영역이라고 판단된 영역으로 자동 지정될 수 있다.
830 단계에서, 센싱 장치(100)는 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치(100)의 설치 이상을 판단할 수 있다. 이에 대해서는 이하 도 9를 참조하여 자세히 설명한다.
도 9는 센싱 장치(100)의 설치 이상을 판단하는 프로세스를 설명하기 위한 상세 흐름도이다. 앞서 설명한 도 8의 830 단계를 상세히 설명한다.
910 단계에서, 센싱 장치(100)는 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 제1 시점의 제1 정적 점군과 제1 시점과 소정의 시간 차를 갖는 제2 시점의 제2 정적 점군을 추출할 수 있다.
920 단계에서, 센싱 장치(100)는 제1 정적 점군과 제2 정적 점군의 차이에 기초하여, 센싱 장치(100)의 설치 이상 여부를 결정할 수 있다.
예를 들어, 센싱 장치(100)는 결정된 정적 객체 영역에 대한 제1 정적 점군의 영역의 비율과 제2 정적 점군의 영역의 비율을 비교하여, 센싱 장치(100)의 설치 이상 여부를 결정할 수 있다.
다른 예를 들어, 센싱 장치(100)가 획득된 3차원 공간에 대한 시간별 점군으로부터 복셀 맵을 생성하는 경우, 복셀 맵에서, 결정된 정적 객체 영역을 구성하는 전체 복셀의 개수에 대한 제1 정적 점군을 구성하는 복셀의 개수의 비율과 제2 정적 점군을 구성하는 복셀의 개수의 비율을 비교하여, 센싱 장치(100)의 설치 이상 여부를 결정할 수 있다.
설명의 편의상, 센싱 장치(100)가 움직이지 않는 구조물에 설치된 경우를 전제로 설명하였으나, 센싱 장치(100)는 움직이지 않는 구조물 뿐만 아니라, 움직이는 사물에도 설치될 수 있다. 예를 들어, 센싱 장치(100)가 차량이나 드론에 설치된 것인 경우, 차량이나 드론의 이동에 따라 3차원 공간이 변화하므로, 3차원 공간 내의 정적 객체도 공간 정보 맵에서 그 위치가 변화될 수 있다. 그러나, 차량이나 드론이 동일한 공간을 반복적으로 지나치게 되는 경우, 차량이나 드론의 위치 정보에 기초하여, 동일한 공간에 대한 점군을 획득할 수 있다. 다른 예를 들어, 보다 넓은 공간을 모니터링하기 위해, 센싱 장치(100)가 설치된 구조물이 소정의 각도로 주기적으로 회전하는 경우, 센싱 장치(100)는 동일한 각도에서 획득되는 3차원 공간에 대한 점군을 동일한 공간에 대한 점군으로써 획득할 수 있다.
상술한 실시예들 각각은 센싱 장치(100)의 설치 이상을 감지하는 방법을 수행하는 소정의 단계들을 실행시키기 위하여, 매체에 저장된 컴퓨터 프로그램 또는 애플리케이션 형태로 제공될 수 있다. 다시 말해서, 상술한 실시예들 각각은 센싱 장치(100)의 적어도 하나의 프로세서로 하여금, 설치 이상 감지 방법을 수행하는 소정의 단계들을 수행하도록 하는, 매체에 저장된 컴퓨터 프로그램 또는 애플리케이션 형태로 제공될 수 있다.
상술한 실시예들은 컴퓨터 또는 프로세서에 의하여 실행 가능한 명령어 및 데이터를 저장하는 컴퓨터 판독 가능 저장매체의 형태로 구현될 수 있다. 명령어 및 데이터 중 적어도 하나는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 소정의 프로그램 모듈을 생성하여 소정의 동작을 수행할 수 있다. 이와 같은 컴퓨터 판독 가능 저장매체는 read-only memory (ROM), random-access memory (RAM), flash memory, CD-ROMs, CD-Rs, CD+Rs, CD-RWs, CD+RWs, DVD-ROMs, DVD-Rs, DVD+Rs, DVD-RWs, DVD+RWs, DVD-RAMs, BD-ROMs, BD-Rs, BD-R LTHs, BD-REs, 마그네틱 테이프, 플로피 디스크, 광자기 데이터 저장 장치, 광학 데이터 저장 장치, 하드 디스크, 솔리드-스테이트 디스크(SSD), 그리고 명령어 또는 소프트웨어, 관련 데이터, 데이터 파일, 및 데이터 구조들을 저장할 수 있고, 프로세서나 컴퓨터가 명령어를 실행할 수 있도록 프로세서나 컴퓨터에 명령어 또는 소프트웨어, 관련 데이터, 데이터 파일, 및 데이터 구조들을 제공할 수 있는 어떠한 장치라도 될 수 있다.
이제까지 실시예들을 중심으로 살펴보았다. 개시된 실시예들이 속하는 기술 분야에서 통상의 지식을 가진 자는 개시된 실시예들이 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 발명의 범위는 전술한 실시예들의 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 발명의 범위에 포함된 것으로 해석되어야 할 것이다.

Claims (17)

  1. 라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득하는 단계;
    상기 획득된 상기 3차원 공간에 대한 시간별 점군에 기초하여, 상기 3차원 공간의 정적 객체 영역을 결정하는 단계; 및
    상기 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치의 설치 이상을 판단하는 단계;
    를 포함하는, 센싱 장치의 설치 이상을 감지하는 방법.
  2. 제1 항에 있어서,
    상기 3차원 공간의 정적 객체 영역을 결정하는 단계는,
    상기 획득된 상기 3차원 공간에 대한 시간별 점군으로부터 생성되는 공간 정보 맵의 프레임들 간에 서로 대응되는 위치의 단위 영역 내의 점군이 연속적으로 검출되는 기간에 기초하여, 상기 정적 객체 영역을 결정하는, 센싱 장치의 설치 이상을 감지하는 방법.
  3. 제2 항에 있어서,
    상기 3차원 공간의 정적 객체 영역을 결정하는 단계는,
    상기 공간 정보 맵의 프레임들 간에 서로 대응되는 위치의 단위 영역 내의 점군이 최소 검출 임계값 이상의 점 개수로 연속적으로 검출되는 기간에 기초하여, 상기 정적 객체 영역을 결정하는, 센싱 장치의 설치 이상을 감지하는 방법.
  4. 제2 항에 있어서,
    상기 3차원 공간의 정적 객체 영역을 결정하는 단계는,
    상기 공간 정보 맵이 복셀 맵인 경우, 상기 복셀 맵의 각 프레임에서, 복셀 내의 점군이 연속적으로 검출되는 기간이 임계값 이상인 정적 복셀과 상기 임계값 미만인 동적 복셀을 구분하고, 상기 복셀 맵의 특정 시점의 기준 프레임에서 상기 정적 복셀로 이루어진 상기 정적 객체 영역을 결정하는, 센싱 장치의 설치 이상을 감지하는 방법.
  5. 제1 항에 있어서,
    상기 3차원 공간의 정적 객체 영역을 결정하는 단계는,
    상기 획득된 상기 3차원 공간에 대한 시간별 점군 중에서 지정된 영역의 점군에 기초하여, 상기 3차원 공간의 정적 객체 영역을 결정하는, 센싱 장치의 설치 이상을 감지하는 방법.
  6. 제1 항에 있어서,
    상기 센싱 장치의 설치 이상을 판단하는 단계는,
    상기 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 제1 시점의 제1 정적 점군과 상기 제1 시점과 상기 소정의 시간 차를 갖는 제2 시점의 제2 정적 점군을 추출하는 단계; 및
    상기 제1 정적 점군과 상기 제2 정적 점군의 차이에 기초하여, 상기 센싱 장치의 설치 이상 여부를 결정하는 단계;
    를 포함하는, 센싱 장치의 설치 이상을 감지하는 방법.
  7. 제6 항에 있어서,
    상기 센싱 장치의 설치 이상 여부를 결정하는 단계는,
    상기 결정된 정적 객체 영역에 대한 상기 제1 정적 점군의 영역의 비율과 상기 제2 정적 점군의 영역의 비율을 비교하여, 상기 센싱 장치의 설치 이상 여부를 결정하는, 센싱 장치의 설치 이상을 감지하는 방법.
  8. 제6 항에 있어서,
    상기 센싱 장치의 설치 이상 여부를 결정하는 단계는,
    상기 획득된 상기 3차원 공간에 대한 시간별 점군으로부터 생성되는 복셀 맵에서, 상기 결정된 정적 객체 영역을 구성하는 전체 복셀의 개수에 대한 상기 제1 정적 점군을 구성하는 복셀의 개수의 비율과 상기 제2 정적 점군을 구성하는 복셀의 개수의 비율을 비교하여, 상기 센싱 장치의 설치 이상 여부를 결정하는, 센싱 장치의 설치 이상을 감지하는 방법.
  9. 라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득하는 명령어들;
    상기 획득된 상기 3차원 공간에 대한 시간별 점군에 기초하여, 상기 3차원 공간의 정적 객체 영역을 결정 명령어들; 및
    상기 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치의 설치 이상을 판단하는 명령어들을 포함하는, 컴퓨터에서 실행시키기 위한 프로그램을 저장한 컴퓨터 판독 가능 저장매체.
  10. 라이다 센서를 이용하여 3차원 공간에 대한 시간별 점군을 획득하는 센서부;
    하나 이상의 명령어들을 저장하는 메모리; 및
    상기 하나 이상의 명령어들을 실행함으로써, 상기 획득된 상기 3차원 공간에 대한 시간별 점군에 기초하여, 상기 3차원 공간의 정적 객체 영역을 결정하고, 상기 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 소정의 시간 차를 갖는 정적 점군에 기초하여, 센싱 장치의 설치 이상을 판단하는 프로세서;
    를 포함하는, 센싱 장치.
  11. 제10 항에 있어서,
    상기 프로세서는 상기 하나 이상의 명령어들을 실행함으로써,
    상기 획득된 상기 3차원 공간에 대한 시간별 점군으로부터 생성되는 공간 정보 맵의 프레임들 간에 서로 대응되는 위치의 단위 영역 내의 점군이 연속적으로 검출되는 기간에 기초하여, 상기 정적 객체 영역을 결정하는, 센싱 장치.
  12. 제11 항에 있어서,
    상기 프로세서는 상기 하나 이상의 명령어들을 실행함으로써,
    상기 복셀 맵의 각 프레임에서, 상기 연속적으로 검출되는 기간이 임계값 이상인 정적 복셀과 상기 임계값 미만인 동적 복셀을 구분하고, 상기 복셀 맵의 특정 시점에서의 기준 프레임에서 상기 정적 복셀로 이루어진 상기 정적 객체 영역을 결정하는, 센싱 장치.
  13. 제11 항에 있어서,
    상기 프로세서는 상기 하나 이상의 명령어들을 실행함으로써,
    상기 공간 정보 맵이 복셀 맵인 경우, 상기 복셀 맵의 각 프레임에서, 복셀 내의 점군이 연속적으로 검출되는 기간이 임계값 이상인 정적 복셀과 상기 임계값 미만인 동적 복셀을 구분하고, 상기 복셀 맵의 특정 시점의 기준 프레임에서 상기 정적 복셀로 이루어진 상기 정적 객체 영역을 결정하는, 센싱 장치.
  14. 제10 항에 있어서,
    상기 프로세서는 상기 하나 이상의 명령어들을 실행함으로써,
    상기 획득된 상기 3차원 공간에 대한 시간별 점군 중에서 지정된 영역의 점군에 기초하여, 상기 3차원 공간의 정적 객체 영역을 결정하는, 센싱 장치.
  15. 제10 항에 있어서,
    상기 프로세서는 상기 하나 이상의 명령어들을 실행함으로써,
    상기 결정된 정적 객체 영역에 대응되는 시간별 정적 점군 중에서 제1 시점의 제1 정적 점군과 상기 제1 시점과 상기 소정의 시간 차를 갖는 제2 시점의 제2 정적 점군을 추출하고, 상기 제1 정적 점군과 상기 제2 정적 점군의 차이에 기초하여, 상기 센싱 장치의 설치 이상 여부를 결정하는, 센싱 장치.
  16. 제15 항에 있어서,
    상기 프로세서는 상기 하나 이상의 명령어들을 실행함으로써,
    상기 결정된 정적 객체 영역에 대한 상기 제1 정적 점군의 영역의 비율과 상기 제2 정적 점군의 영역의 비율을 비교하여, 상기 센싱 장치의 설치 이상 여부를 결정하는, 센싱 장치.
  17. 제15 항에 있어서,
    상기 프로세서는 상기 하나 이상의 명령어들을 실행함으로써,
    상기 획득된 상기 3차원 공간에 대한 시간별 점군으로부터 생성되는 복셀 맵에서, 상기 결정된 정적 객체 영역을 구성하는 전체 복셀의 개수에 대한 상기 제1 정적 점군을 구성하는 복셀의 개수의 비율과 상기 제2 정적 점군을 구성하는 복셀의 개수의 비율을 비교하여, 상기 센싱 장치의 설치 이상 여부를 결정하는, 센싱 장치.
PCT/KR2022/012338 2021-08-26 2022-08-18 센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치 WO2023027419A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP22861629.8A EP4394440A1 (en) 2021-08-26 2022-08-18 Method for sensing installation abnormality of sensing device, and sensing device for performing same
US18/585,611 US20240192342A1 (en) 2021-08-26 2024-02-23 Method for sensing installation abnormality of sensing device, and sensing device for performing same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2021-0113404 2021-08-26
KR1020210113404A KR102656646B1 (ko) 2021-08-26 2021-08-26 센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/585,611 Continuation US20240192342A1 (en) 2021-08-26 2024-02-23 Method for sensing installation abnormality of sensing device, and sensing device for performing same

Publications (1)

Publication Number Publication Date
WO2023027419A1 true WO2023027419A1 (ko) 2023-03-02

Family

ID=85323268

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/012338 WO2023027419A1 (ko) 2021-08-26 2022-08-18 센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치

Country Status (4)

Country Link
US (1) US20240192342A1 (ko)
EP (1) EP4394440A1 (ko)
KR (1) KR102656646B1 (ko)
WO (1) WO2023027419A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180036753A (ko) * 2015-08-04 2018-04-09 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드 레이저 포인트 클라우드 기반의 도시 도로 인식 방법, 장치, 저장 매체 및 기기
US20190086546A1 (en) * 2016-03-14 2019-03-21 Imra Europe S.A.S. Processing method of a 3d point cloud
KR102140973B1 (ko) * 2019-03-27 2020-09-14 주식회사 이에스피 LiDAR를 이용한 광산 갱내 붕괴 감시 시스템
KR20210037469A (ko) * 2019-09-27 2021-04-06 (주)서울로보틱스 3차원 공간에 대응되는 맵을 생성하는 차량 및 방법
KR20210103172A (ko) * 2020-02-13 2021-08-23 공주대학교 산학협력단 방범 경비 시스템

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11995763B2 (en) * 2018-07-02 2024-05-28 Vayyar Imaging Ltd. System and methods for environment mapping
KR102647928B1 (ko) * 2018-11-16 2024-03-15 현대모비스 주식회사 객체 검출 센서의 장착 오차 판단 장치 및 방법
CN111238494B (zh) * 2018-11-29 2022-07-19 财团法人工业技术研究院 载具、载具定位系统及载具定位方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180036753A (ko) * 2015-08-04 2018-04-09 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드 레이저 포인트 클라우드 기반의 도시 도로 인식 방법, 장치, 저장 매체 및 기기
US20190086546A1 (en) * 2016-03-14 2019-03-21 Imra Europe S.A.S. Processing method of a 3d point cloud
KR102140973B1 (ko) * 2019-03-27 2020-09-14 주식회사 이에스피 LiDAR를 이용한 광산 갱내 붕괴 감시 시스템
KR20210037469A (ko) * 2019-09-27 2021-04-06 (주)서울로보틱스 3차원 공간에 대응되는 맵을 생성하는 차량 및 방법
KR20210103172A (ko) * 2020-02-13 2021-08-23 공주대학교 산학협력단 방범 경비 시스템

Also Published As

Publication number Publication date
EP4394440A1 (en) 2024-07-03
KR102656646B1 (ko) 2024-04-12
KR20230031035A (ko) 2023-03-07
US20240192342A1 (en) 2024-06-13

Similar Documents

Publication Publication Date Title
AU2019419781B2 (en) Vehicle using spatial information acquired using sensor, sensing device using spatial information acquired using sensor, and server
WO2019240452A1 (ko) 실 공간에서 관심지점 관련 정보를 자동으로 수집 및 업데이트하는 방법 및 시스템
WO2013058428A1 (ko) 레이더를 이용한 멀티 모드 장애물 감지 방법 및 그 장치
WO2020141694A1 (en) Vehicle using spatial information acquired using sensor, sensing device using spatial information acquired using sensor, and server
WO2021162205A1 (ko) 충돌 사고 방지 방법, 장치, 서버, 및 컴퓨터 프로그램
EP2965041A1 (en) Crowd sourced pathway maps
WO2023027421A1 (ko) 작업 공간에서의 관심 영역을 모니터링하는 방법 및 센싱 장치
CN109284801B (zh) 交通指示灯的状态识别方法、装置、电子设备及存储介质
WO2021060778A1 (ko) 3차원 공간에 대응되는 맵을 생성하는 차량 및 방법
WO2018146762A1 (ja) 情報処理装置、車載装置、情報処理方法、通信方法、情報処理プログラム及び通信プログラム
WO2021235682A1 (en) Method and device for performing behavior prediction by using explainable self-focused attention
WO2012011624A1 (ko) 위치 추정에 사용자 이동성을 활용하는 와이파이 라디오 맵 기반 실내 네비게이션 시스템 및 방법
WO2023027419A1 (ko) 센싱 장치의 설치 이상을 감지하는 방법 및 이를 수행하는 센싱 장치
WO2024140083A1 (zh) 装载率测量方法、装置、设备及介质
WO2021060599A1 (ko) 레인을 검출하는 차량 및 방법
CN112990168B (zh) 一种违法用地监测方法及系统
WO2009157653A2 (ko) Rfid를 이용한 위치 확인 방법 및 장치
WO2021167312A1 (ko) 라이다 센서를 구비한 터치 인식 방법 및 장치
KR101986015B1 (ko) 다중 센서 시뮬레이션 장치 및 다중 센서 시뮬레이션 방법
WO2023027422A1 (ko) 3차원 공간의 관심 영역을 모니터링하는 방법 및 센싱 장치
Kang et al. Automated parking lot management system using embedded robot type smart car based on wireless sensors
CN115061386B (zh) 智能驾驶的自动化仿真测试系统及相关设备
CN115623531A (zh) 利用无线射频信号的隐藏监控设备发现和定位方法
WO2023132570A1 (ko) 작업 현장을 모니터링하는 방법 및 장치
KR20160072361A (ko) IoT 및 영상처리 기반 위치추적을 통한 영유아 행동발달 분석과 안전 지킴 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22861629

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2024512021

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 2022861629

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2022861629

Country of ref document: EP

Effective date: 20240326