KR20210122101A - 객체를 분류하는 레이더 장치 및 방법 - Google Patents

객체를 분류하는 레이더 장치 및 방법 Download PDF

Info

Publication number
KR20210122101A
KR20210122101A KR1020210035112A KR20210035112A KR20210122101A KR 20210122101 A KR20210122101 A KR 20210122101A KR 1020210035112 A KR1020210035112 A KR 1020210035112A KR 20210035112 A KR20210035112 A KR 20210035112A KR 20210122101 A KR20210122101 A KR 20210122101A
Authority
KR
South Korea
Prior art keywords
radar
data
camera
vehicle
artificial intelligence
Prior art date
Application number
KR1020210035112A
Other languages
English (en)
Other versions
KR102557620B1 (ko
Inventor
이재은
Original Assignee
주식회사 비트센싱
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 비트센싱 filed Critical 주식회사 비트센싱
Priority to EP21781424.3A priority Critical patent/EP4116738A4/en
Priority to PCT/KR2021/003427 priority patent/WO2021201474A1/ko
Priority to US17/208,056 priority patent/US11846725B2/en
Publication of KR20210122101A publication Critical patent/KR20210122101A/ko
Application granted granted Critical
Publication of KR102557620B1 publication Critical patent/KR102557620B1/ko
Priority to US18/504,399 priority patent/US20240103132A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867—Combination of radar systems with cameras
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/04—Systems determining presence of a target
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/89—Radar or analogous systems specially adapted for specific applications for mapping or imaging
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/408—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/52—Radar, Lidar

Abstract

차량에 장착되는 레이더 장치는 차량의 외부로 레이더 신호를 송출하고, 객체에 의해 반사된 레이더 신호를 수신하는 송수신부, 객체를 감지하기 위해 반사된 레이더 신호를 처리하는 신호 처리부, 레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성하는 퓨전 데이터 생성부 및 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 감지된 객체를 분류하는 분류부를 포함할 수 있다.

Description

객체를 분류하는 레이더 장치 및 방법{RADAR APPARATUS AND METHOD FOR CLASSIFYING OBJECT}
본 발명은 객체를 분류하는 레이더 장치 및 방법에 관한 것이다.
차량용 레이더는 차량의 전방, 측방 및 후방에 존재하는 주변 차량 및 장애물의 위치 정보를 운전자에게 제공하는 역할을 수행한다.
이러한 차량용 레이더는 객체를 감지함에 있어 높은 거리 정확도를 갖고, 차량의 주행 상황(예컨대, 악천후, 야간 상황 등)에 영향을 받지 않으므로 안정적인 객체 감지 성능을 제공한다. 또한, 차량용 레이더는 객체의 속도를 측정할 수 있기 때문에 객체가 움직이고 있는지 정지해 있는지를 구분할 수 있다.
하지만, 차량용 레이더는 차량용 카메라 또는 라이다(Lidar)와 비교하여 횡방향에 대한 분해능이 떨어지기 때문에 차량용 레이더를 이용하여 객체의 형상을 추정하고 분류하기 어렵다. 또한, 차량용 레이더의 인공지능 학습에 사용되는 실측 데이터(Ground truth)의 확보를 위한 주석(Annotation) 과정에서도 차량용 레이더에 의해 감지된 객체의 측정 결과(예컨대, 객체의 위치, 속도 등)만으로는 사람이 객체를 판단하기 어렵기 때문에 다른 센서로부터의 추가적인 정보 없이는 차량용 레이더에 의해 감지된 객체를 분류하기 어렵다.
한편, 차량용 카메라는 차량용 레이더에 비해 횡방향에 대한 높은 분해성능을 보이고, 해상도(resolution) 기술이 좋아 객체를 인식하고 분류하는데 유용하게 사용된다.
하지만, 차량용 카메라는 스테레오 비젼(stereo vision) 등으로 객체에 대한 거리 측정이 가능하지만, 거리 정확도가 떨어지고, 원거리 감지에 어려움이 있다. 또한, 차량용 카메라는 차량의 주행 상황에 영향을 받기 때문에 악천후거나 야간 상황에서 객체 감지 성능이 저하되는 문제가 있다.
한국공개특허공보 제2020-0132137호 (2020.11.25. 공개)
본 발명은 전술한 종래 기술의 문제점을 해결하기 위한 것으로서, 레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성하고, 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 감지된 객체를 분류하고자 한다.
다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 제 1 측면에 따른 차량에 장착되는 레이더 장치는 차량의 외부로 레이더 신호를 송출하고, 객체에 의해 반사된 레이더 신호를 수신하는 송수신부; 상기 객체를 감지하기 위해 상기 반사된 레이더 신호를 처리하는 신호 처리부; 레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성하는 퓨전 데이터 생성부; 및 상기 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 상기 감지된 객체를 분류하는 분류부를 포함할 수 있다.
본 발명의 제 2 측면에 따른 차량에 장착되는 레이더 장치에 의해 객체를 분류하는 방법은 차량의 외부로 레이더 신호를 송출하는 단계; 객체에 의해 반사된 레이더 신호를 수신하는 단계; 상기 객체를 감지하기 위해 상기 반사된 레이더 신호를 처리하는 단계; 레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성하는 단계; 및 상기 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 상기 감지된 객체를 분류하는 단계를 포함할 수 있다.
상술한 과제 해결 수단은 단지 예시적인 것으로서, 본 발명을 제한하려는 의도로 해석되지 않아야 한다. 상술한 예시적인 실시예 외에도, 도면 및 발명의 상세한 설명에 기재된 추가적인 실시예가 존재할 수 있다.
전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 본 발명은 레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성하고, 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 감지된 객체를 분류할 수 있다.
또한, 본 발명은 퓨전 데이터를 이용하여 인공지능 모듈 간 실시간으로 학습이 이루어지도록 함으로써 학습된 인공지능 모듈을 통한 객체 감지 및 분류에 대한 성능을 향상시킬 수 있다.
또한, 본 발명은 악천후, 야간 상황 등과 같은 상황에서도 안정적인 객체 감지의 성능을 보이는 레이더 데이터를 통해 퓨전 데이터를 생성하고, 퓨전 데이터에 기초하여 카메라 인공지능 모듈의 객체 검출 성능을 개선시킬 수 있다.
또한, 본 발명은 악천후, 야간 상황 등과 같이 카메라의 식별이 어려운 상황에서도 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 레이더 장치로 안정적으로 객체를 감지 및 분류할 수 있다.
또한, 본 발명은 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 추후 카메라 없이 레이더 장치로 레이더 장치에 의해 감지된 객체를 분류할 수 있다.
도 1은 본 발명의 일 실시예에 따른, 레이더 장치의 블록도이다.
도 2a 내지 2c는 본 발명의 일 실시예에 따른, 퓨전 데이터의 생성에 이용되는 데이터를 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따른, 퓨전 데이터가 생성하는 과정을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른, 인공지능 모듈을 학습시키는 방법을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른, 차량의 주행시 주행 상황에 따라 퓨전 데이터를 생성하는 방법을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른, 레이더 인공지능 모듈에 대한 성능에 따라 퓨전 데이터를 생성하는 방법을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른, 차량에 장착된 레이더 장치를 통해 객체를 분류하는 방법을 나타낸 흐름도이다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1 개의 유닛이 2 개 이상의 하드웨어를 이용하여 실현되어도 되고, 2 개 이상의 유닛이 1 개의 하드웨어에 의해 실현되어도 된다.
본 명세서에 있어서 단말 또는 디바이스가 수행하는 것으로 기술된 동작이나 기능 중 일부는 해당 단말 또는 디바이스와 연결된 서버에서 대신 수행될 수도 있다. 이와 마찬가지로, 서버가 수행하는 것으로 기술된 동작이나 기능 중 일부도 해당 서버와 연결된 단말 또는 디바이스에서 수행될 수도 있다.
이하, 첨부된 구성도 또는 처리 흐름도를 참고하여, 본 발명의 실시를 위한 구체적인 내용을 설명하도록 한다.
도 1은 본 발명의 일 실시예에 따른, 레이더 장치(10)의 블록도이다.
도 1을 참조하면, 레이더 장치(10)는 송수신부(100), 신호 처리부(110), 퓨전 데이터 생성부(120), 분류부(130), 학습부(140) 및 자율 주행부(150)를 포함할 수 있다. 다만, 도 1에 도시된 레이더 장치(10)는 본 발명의 하나의 구현 예에 불과하며, 도 1에 도시된 구성요소들을 기초로 하여 여러 가지 변형이 가능하다.
송수신부(100)는 차량의 외부로 레이더 신호를 송출하고 객체에 의해 반사된 레이더 신호를 수신할 수 있다. 예를 들어, 객체는 차량의 전방, 측방 및 후방에 위치하는 장애물, 이동체, 보행자 등을 포함할 수 있다.
신호 처리부(110)는 객체를 감지하기 위해 반사된 레이더 신호를 처리할 수 있다. 이 때, 반사된 레이더 신호는 레이더 장치(10)가 장착된 차량의 주행 중에 수신된 신호이다.
구체적으로, 신호 처리부(110)는 반사된 레이더 신호에 대해 신호 처리 프로세스를 수행하여 객체에 대한 감지를 수행할 수 있다. 예를 들어, 도 2a를 참조하면, 신호 처리부(110)는 반사된 레이더 신호에 기초하여 적어도 하나의 객체를 구성하는 복수의 포인트 클라우드 데이터(201, 작은 박스)를 추출하고, 추출된 복수의 포인트 클라우드 데이터(201)를 이용하여 객체에 대한 감지 결과값을 도출할 수 있다. 여기서, 객체에 대한 감지 결과값은 복수의 포인트 클라우드 데이터(201)에 기반하여 도출된 객체의 위치 정보, 속도 정보, 객체 및 차량(레이더 장치(10)가 장착된 차량) 간의 각도 정보를 포함할 수 있다.
신호 처리부(110)는 객체에 대한 감지 결과값에 기초하여 객체에 대한 인식을 수행할 수 있다. 신호 처리부(110)는 객체에 대한 감지 결과값에 기초하여 감지된 객체가 실제 객체인지 아닌지 여부를 판단하고, 판단 결과에 기초하여 객체에 대한 인식 결과값을 도출할 수 있다. 예를 들어, 도 2a를 참조하면, 신호 처리부(110)는 복수의 포인트 클라우드 데이터(201)를 클러스터링한 후, 클러스터링된 포인트 클라우드 집합(203, 큰 네모 박스)을 실제 객체로서 추정할 수 있고, 이를 객체에 대한 인식 결과값으로 볼 수 있다. 또한, 신호 처리부(110)는 클러스터링된 포인트 클라우드 집합을 트래킹하고, 트래킹한 결과를 객체에 대한 인식 결과값으로 도출할 수 있다. 또한, 신호 처리부(110)는 차량의 이동 여부에 따라 클러스터링된 포인트 클라우드 집합에 대응하는 실제 객체의 이동 속도를 보정함으로써 보정된 결과를 객체에 대한 인식 결과값으로 도출할 수 있다.
신호 처리부(110)는 반사된 레이더 신호에 대한 고속 퓨리에 변환값, 객체에 대한 감지 결과값 및 객체에 대한 인식 결과값에 기초하여 레이더 데이터를 생성할 수 있다.
이미지 처리부(미도시)는 차량에 설치된 카메라로부터 수신된 이미지 데이터에 기초하여 객체 감지 및 객체 분류를 수행할 수 있다. 예를 들어, 도 2b를 참조하면, 이미지 처리부(미도시)는 이미지 데이터를 카메라 인공지능 모듈(20)에 입력한 후, 카메라 인공지능 모듈(20)을 통해 도출된 객체의 감지 결과값(예컨대, 객체의 위치 정보 등) 및 분류 결과값(예컨대, 객체의 차종 정보 등)을 포함하는 카메라 데이터를 도출할 수 있다. 이 때, 이미지 처리부(미도시)는 카메라 인공지능 모듈(20)을 통해 이미지 데이터로부터 객체를 인식한 후, 인식된 객체에 바운딩 박스(Bounding Box)를 설정함으로써 인식된 객체의 위치를 탐색할 수 있다. 또한, 이미지 처리부(미도시)는 카메라 인공지능 모듈(20)을 통해 인식된 객체(예컨대, 차량)가 복수의 카테고리(예컨대, 트럭 유형, 버스 유형, 승용차 유형 등) 중 어느 카테고리에 속하는지를 판단한 후, 객체가 속하는 카테고리에 인식된 객체를 분류할 수 있다.
퓨전 데이터 생성부(120)는 레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성할 수 있다.
여기서, 레이더 데이터는 객체로부터 반사된 레이더 신호에 대한 고속 퓨리에 변환값, 객체에 대한 감지 결과값, 객체에 대한 인식 결과값 등 레이더 신호로부터 파생될 수 있는 데이터를 포함할 수 있다. 여기서, 카메라 데이터는 카메라 인공지능 모듈을 통해 도출된 것으로, 차량에 장착된 카메라에 의해 생성된 이미지 데이터에 포함된 객체에 대한 감지 결과값 및 객체에 대한 분류 결과값을 포함할 수 있다.
퓨전 데이터 생성부(120)는 카메라 데이터를 레이더 장치(10)에 대한 레이더 좌표계로 투영시키고, 레이더 좌표계로 투영된 카메라 데이터 및 레이더 데이터를 타겟 별로 매칭시킴으로써 퓨전 데이터를 생성할 수 있다. 예를 들어, 도 2c를 참조하면, 퓨전 데이터 생성부(120)는 카메라 데이터에 포함된 객체의 위치 정보를 차량(205)에 장착된 레이더 장치(10)에 대한 레이더 좌표계(예를 들어, 차량(205)을 중심으로 하는 x, y, z 좌표계)로 변환하고, 레이더 좌표계로 변환된 카메라 데이터에 포함된 객체의 좌표와 레이더 데이터에 포함된 객체의 좌표가 유사한 위치에 있는지 확인할 수 있다. 이 경우, 레이더 좌표계로의 변환은 카메라 데이터 및 레이더 데이터 간에 위치 오차가 존재한 경우, 위치 오차를 보상하기 위해 수행될 수 있다. 이어서, 퓨전 데이터 생성부(120)는 레이더 좌표계로 변환된 카메라 데이터에 포함된 객체의 좌표와 레이더 데이터에 포함된 객체의 좌표가 서로 유사한 위치에 있는 있는 경우, 카메라 데이터에 포함된 객체와 레이더 데이터에 포함된 객체를 동일 객체로 인식하여 서로 매칭시킬 수 있다.
한편, 퓨전 데이터 생성부(120)는 카메라 데이터 및 레이더 데이터 간에 위치 오차가 임계값 미만일 경우, 카메라 데이터를 레이더 장치(10)에 대한 레이더 좌표계로 투영시키지 않고, 카메라 데이터 및 레이더 데이터를 타겟 별로 매칭시킴으로써 퓨전 데이터를 생성할 수 있다.
퓨전 데이터는 카메라 데이터 및 레이더 데이터 간의 상호 매칭 및 시간에 따른 통계 누적결과를 통해 신뢰도가 높은 분류 결과를 얻는데 이용될 수 있다.
레이더 장치(10)의 장점은 높은 거리 및 속도의 정확도와 빠른 감지 결과를 도출한다는 점이고, 카메라의 장점은 높은 횡방향 분해능, 차종(예컨대, 트럭, 버스, 승용차, 오토바이 등) 구분이 가능하다는 점이다. 이처럼 본원 발명은 카메라 및 레이더 장치(10) 각각의 장점을 이용하고, 각각의 단점을 서로 보완함으로써 카메라 및 레이더 장치(10)에 의해 감지된 객체에 대한 정확도를 갖는 퓨전 데이터를 생성할 수 있다.
도 3은 퓨전 데이터가 생성하는 과정을 설명하기 위한 도면이다. 도 3을 참조하면, 신호 처리부(110)는 객체에 의해 반사된 레이더 신호에 기초하여 레이더 데이터를 생성할 수 있다. 이미지 처리부(미도시)는 카메라 인공지능 모듈(20)을 통해 이미지 데이터에 기초하여 카메라 데이터를 생성할 수 있다. 이 때, 카메라 데이터는 레이더 데이터와의 타겟 별 매칭을 위해 레이더 좌표계로 좌표 변환될 수 있다. 퓨전 데이터 생성부(120)는 레이더 데이터 및 레이더 좌표계로 변환된 카메라 데이터를 이용하여 퓨전 데이터를 생성할 수 있다.
한편, 퓨전 데이터 생성부(120)는 차량의 주행 중에 주행 상황을 분석하고, 분석된 주행 상황에 기초하여 카메라 데이터 및 레이더 데이터 간에 가중치를 부여하여 퓨전 데이터를 생성할 수 있다. 여기서, 주행 상황은 차량의 주행 시에 영향을 주는 외부 환경 요소를 의미하는 것으로 다양한 주행 환경 정보(예컨대, 비오는 날씨, 안개낀 날씨, 야간 주행 등)를 포함할 수 있다. 예를 들어, 도 5를 참조하면, 차량 주행시의 날씨가 비가 내리는 날씨(또는 안개가 낀 날씨 등)인 경우, 카메라 데이터(50)를 이용한 객체(예컨대, 차량)의 검출은 정확도가 떨어지므로 이러한 경우, 퓨전 데이터 생성부(120)는 레이더 데이터(52)에 카메라 데이터(50)보다 높은 가중치를 부여함으로써 퓨전 데이터를 생성할 수 있다. 이 때, 레이더 데이터(52)에 높은 가중치가 부여된 퓨전 데이터는 학습부(140)의 추가 학습에 사용되고, 레이더 데이터(52)에 포함된 객체의 위치 정보를 기반으로 카메라 데이터(50)에서 객체의 위치 정보가 추정될 수 있다.
한편, 학습부(140)는 레이더 장치(10)에 대한 레이더 인공지능 모듈에 레이더 데이터를 입력하여 학습시키고, 카메라에 대한 카메라 인공지능 모듈에 이미지 데이터를 입력하여 학습시킬 수 있다. 여기서, 레이더 데이터는 차량의 주행 중에 수신된 반사된 레이더 신호에 기초하여 차량의 주행 중에 생성되는 데이터이고, 이미지 데이터는 카메라가 차량에 장착되어 있는 경우 차량의 주행 중에 생성된 데이터이다.
학습부(140)는 레이더 데이터를 레이더 인공지능 모듈에 입력하여, 레이더 인공지능 모듈을 통해 객체에 대한 검출 프로세스 및 분류 프로세스가 수행될 수 있도록 레이더 인공지능 모듈을 학습시킬 수 있다.
학습부(140)는 이미지 데이터를 카메라 인공지능 모듈에 입력하여, 카메라 인공지능 모듈을 통해 객체에 대한 감지 결과값 및 객체에 대한 분류 결과값을 포함하는 카메라 데이터를 도출하도록 카메라 인공지능 모듈을 학습시킬 수 있다.
차량에 장착된 레이더 장치 및 카메라는 차량의 주행 시에 레이더 신호를 수신하고, 이미지 데이터를 실시간으로 생성할 수 있다. 이에 따라, 학습부(140)에서 이용되는 카메라 데이터 및 레이더 데이터는 실시간으로 발생되는 레이더 신호 및 이미지 데이터에 기초하여 실시간으로 생성될 수 있다. 또한, 실시간으로 생성되는 카메라 데이터 및 레이더 데이터는 인공지능 모듈의 기본 학습에 실시간으로 이용되고, 인공지능 모듈의 추가 학습에 실시간으로 이용될 수 있다.
학습부(140)는 퓨전 데이터 생성부(120)에 의해 퓨전 데이터가 생성되면, 레이더 인공지능 모듈 및 카메라 인공지능 모듈에 퓨전 데이터를 추가로 입력하여 레이더 인공지능 모듈 및 카메라 인공지능 모듈을 추가 학습시킬 수 있다.
레이더 장치(10)에 의한 객체 감지 결과는 카메라의 객체 감지 결과와 비교하여 악천후 상황 및 야간 상황에서 안정적인 객체 감지 결과를 도출한다. 또한, 레이더 장치(10)는 대지 속도(ground speed) 정보를 통해 도로상에서 검출되는 일정 속도 이상의 움직임이 있는 객체를 특정 클래스로 한정지어 분류하는 것이 가능하기 때문에 악천후 상황 및 야간 상황에서 레이더 데이터를 카메라 인공지능 모듈의 학습에 활용할 수 있다.
학습에 사용되는 퓨전 데이터는 예를 들어, 감지된 객체의 종, 횡방향 위치 정보를 포함하고, 미리 학습된 카메라 인공지능 모듈에 의해 분류된 객체의 타입 정보(예컨대, 차량, 트럭, 오토바이, 자전거, 보행자 등)을 포함할 수 있다.
예를 들어, 도 4를 참조하면, 학습부(140)는 퓨전 데이터 및 레이더 데이터(실시간으로 수신된 반사된 레이더 신호에 기초하여 생성된 레이더 데이터)를 레이더 인공지능 모듈(22)에 입력하여 레이더 인공지능 모듈(22)을 통해 객체에 대한 분류 결과값을 도출하도록 레이더 인공지능 모듈(22)을 추가 학습시킬 수 있다. 또한, 학습부(140)는 퓨전 데이터 및 실시간 이미지 데이터를 카메라 인공지능 모듈(20)에 입력하여 카메라 인공지능 모듈(20)을 통해 객체에 대한 감지 결과값 및 객체에 대한 분류 결과값을 포함하는 카메라 데이터를 도출하도록 카메라 인공지능 모듈을 추가 학습시킬 수 있다.
이 후, 추가 학습된 카메라 인공지능 모듈로 실시간 이미지 데이터가 입력되면, 카메라 인공지능 모듈을 통해 실시간 카메라 데이터가 도출될 수 있다.
즉, 본원 발명은 기본 데이터에 해당하는 레이더 데이터 및 카메라 데이터에 기초하여 인공지능 모듈을 1차 학습시킬 수 있다. 이는, 인공지능 모듈이 최소한의 성능을 갖추기 위한 기본적인 학습에 해당한다. 그리고, 본원 발명은 레이더 데이터 및 카메라 데이터 각각의 단점을 보완하도록 생성된 퓨전 데이터에 기초하여 인공지능 모듈을 2 차 학습시킬 수 있으며, 이를 통해 인공지능 모듈의 성능을 향상시킬 수 있다. 특히, 본원 발명은 어노테이션(Annotation)에 어려움이 있는 레이더 데이터에 대해 퓨전 데이터 기반의 분류 학습 방법을 제시함으로써 효과적인 레이더 인공지능 모듈의 학습이 가능하도록 할 수 있다.
분류부(130)는 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 레이더 장치(10)에 의해 감지된 객체를 분류할 수 있다. 구체적으로, 분류부(130)는 추가 학습된 레이더 인공지능 모듈을 통해 레이더 장치(10)에 의해 감지된 객체를 분류할 수 있다.
한편, 성능 측정부(미도시)는 추가 학습된 레이더 인공지능 모듈을 통해 도출된 객체에 대한 분류 결과값에 기초하여 추가 학습된 레이더 인공지능 모듈에 대한 성능을 측정할 수 있다.
퓨전 데이터 생성부(120)는 레이더 인공지능 모듈에 대한 성능값이 기설정된 임계값을 초과하는 경우, 레이더 인공지능 모듈로부터 도출된 객체에 대한 분류 결과값에 더 기초하여 퓨전 데이터를 생성할 수 있다.
예를 들어, 도 6을 참조하면, 퓨전 데이터 생성부(120)는 레이더 인공지능 모듈에 대한 성능값이 기설정된 임계값을 초과하는 경우, 레이더 인공지능 모듈(22)을 통해 도출된 객체에 대한 분류 결과값, 및 카메라 인공지능 모듈(20)을 통해 도출된 카메라 데이터에 기초하여 퓨전 데이터를 생성할 수 있다.
학습부(140)는 레이더 인공지능 모듈로부터 도출된 객체에 대한 분류 결과값에 더 기초하여 퓨전 데이터가 생성되면, 레이더 인공지능 모듈 및 카메라 인공지능 모듈에 퓨전 데이터를 추가로 입력하여 레이더 인공지능 모듈 및 카메라 인공지능 모듈을 추가 학습시킬 수 있다.
자율 주행부(150)는 레이더 인공지능 모듈로부터 도출된 객체에 대한 분류 결과값에 기초하여 차량에 대한 자율 주행을 수행할 수 있다. 예를 들어, 차량이 카메라 없이 레이더 장치(10)를 장착한 상태로 주행하는 경우, 해당 차량은 레이더 장치(10)를 통해 레이더 신호를 송수신하고, 객체로부터 반사된 레이더 신호를 레이더 인공지능 모듈에 입력하고, 레이더 인공지능 모듈로부터 도출된 객체에 대한 분류 결과값에 기초하여 자율 주행을 수행할 수 있다.
한편, 당업자라면, 송수신부(100), 신호 처리부(110), 퓨전 데이터 생성부(120), 분류부(130), 학습부(140) 및 자율 주행부(150) 각각이 분리되어 구현되거나, 이 중 하나 이상이 통합되어 구현될 수 있음을 충분히 이해할 것이다.
도 7은 본 발명의 일 실시예에 따른, 차량에 장착된 레이더 장치(10)를 통해 객체를 분류하는 방법을 나타낸 흐름도이다.
도 7을 참조하면, 단계 S701에서 레이더 장치(10)는 차량의 외부로 레이더 신호를 송출할 수 있다.
단계 S703에서 레이더 장치(10)는 객체에 의해 반사된 레이더 신호를 수신할 수 있다.
단계 S705에서 레이더 장치(10)는 객체를 감지하기 위해 반사된 레이더 신호를 처리할 수 있다.
단계 S707에서 레이더 장치(10)는 레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성할 수 있다.
단계 S709에서 레이더 장치(10)는 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 감지된 객체를 분류할 수 있다.
상술한 설명에서, 단계 S701 내지 S709는 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다.
본 발명의 일 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행 가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
10: 레이더 장치
100: 송수신부
110: 신호 처리부
120: 퓨전 데이터 생성부
130: 분류부
140: 학습부
150: 자율 주행부

Claims (12)

  1. 차량에 장착되는 레이더 장치에 있어서,
    차량의 외부로 레이더 신호를 송출하고, 객체에 의해 반사된 레이더 신호를 수신하는 송수신부;
    상기 객체를 감지하기 위해 상기 반사된 레이더 신호를 처리하는 신호 처리부;
    레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성하는 퓨전 데이터 생성부; 및
    상기 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 상기 감지된 객체를 분류하는 분류부
    를 포함하는 것인, 레이더 장치.
  2. 제 1 항에 있어서,
    상기 신호 처리부는 상기 반사된 레이더 신호에 대해 신호 처리 프로세스를 수행하여 상기 객체에 대한 감지를 수행하고,
    상기 객체에 대한 감지 결과값에 기초하여 상기 객체에 대한 인식을 수행하는 것인, 레이더 장치.
  3. 제 2 항에 있어서,
    상기 레이더 데이터는 상기 반사된 레이더 신호에 대한 고속 퓨리에 변환값, 상기 객체에 대한 감지 결과값, 상기 객체에 대한 인식 결과값을 중 적어도 하나를 포함하고,
    상기 카메라 데이터는 카메라에 의해 생성된 이미지 데이터에 포함된 객체에 대한 감지 결과값 및 상기 객체에 대한 분류 결과값을 포함하는 것인, 레이더 장치.
  4. 제 3 항에 있어서,
    상기 퓨전 데이터 생성부는 상기 카메라 데이터 및 상기 레이더 데이터를 타겟 별로 매칭시킴으로써 상기 퓨전 데이터를 생성하는 것인, 레이더 장치.
  5. 제 4 항에 있어서,
    상기 레이더 장치에 대한 레이더 인공지능 모듈에 상기 레이더 데이터를 입력하여 학습시키고, 상기 카메라에 대한 카메라 인공지능 모듈에 상기 이미지 데이터를 입력하여 학습시키는 학습부
    를 더 포함하고,
    상기 카메라 데이터는 상기 카메라 인공지능 모듈을 통해 도출된 것인, 레이더 장치.
  6. 제 5 항에 있어서,
    상기 학습부는 상기 레이더 인공지능 모듈 및 상기 카메라 인공지능 모듈에 상기 퓨전 데이터를 추가로 입력하여 추가 학습시키는 것인, 레이더 장치.
  7. 제 6 항에 있어서,
    상기 퓨전 데이터 생성부는 상기 레이더 인공지능 모듈에 대한 성능 평가값이 기설정된 임계값을 초과하는 경우, 상기 레이더 인공지능 모듈로부터 도출된 상기 객체에 대한 분류 결과값에 더 기초하여 상기 퓨전 데이터를 생성하는 것인, 레이더 장치.
  8. 제 6 항에 있어서,
    상기 분류부는 상기 추가 학습된 레이더 인공지능 모듈을 통해 상기 감지된 객체를 분류하는 것인, 레이더 장치.
  9. 제 3 항에 있어서,
    상기 레이더 신호는 상기 차량의 주행 중에 수신되고,
    상기 이미지 데이터는 상기 카메라가 상기 차량에 장착되어 있는 경우 상기 차량의 주행 중에 생성되는 것인, 레이더 장치.
  10. 제 9 항에 있어서,
    상기 퓨전 데이터 생성부는 상기 차량의 주행 중에 주행 상황을 분석하고, 상기 분석된 주행 상황에 기초하여 상기 카메라 데이터 및 상기 레이더 데이터 간에 가중치를 부여하여 상기 퓨전 데이터를 생성하는 것인, 레이더 장치.
  11. 제 1 항에 있어서,
    상기 객체에 대한 분류 결과값에 기초하여 상기 차량에 대한 자율 주행을 수행하는 자율주행부
    를 더 포함하는 것인, 레이더 장치.
  12. 차량에 장착되는 레이더 장치에 의해 객체를 분류하는 방법에 있어서,
    차량의 외부로 레이더 신호를 송출하는 단계;
    객체에 의해 반사된 레이더 신호를 수신하는 단계;
    상기 객체를 감지하기 위해 상기 반사된 레이더 신호를 처리하는 단계;
    레이더 데이터 및 카메라 데이터에 기초하여 퓨전 데이터를 생성하는 단계; 및
    상기 생성된 퓨전 데이터에 기초하여 학습된 인공지능 모듈을 통해 상기 감지된 객체를 분류하는 단계
    를 포함하는 것인, 객체 분류 방법.
KR1020210035112A 2020-03-31 2021-03-18 객체를 분류하는 레이더 장치 및 방법 KR102557620B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP21781424.3A EP4116738A4 (en) 2020-03-31 2021-03-19 RADAR DEVICE AND METHOD FOR CLASSIFYING OBJECTS
PCT/KR2021/003427 WO2021201474A1 (ko) 2020-03-31 2021-03-19 객체를 분류하는 레이더 장치 및 방법
US17/208,056 US11846725B2 (en) 2020-03-31 2021-03-22 Radar apparatus and method for classifying object
US18/504,399 US20240103132A1 (en) 2020-03-31 2023-11-08 Radar apparatus and method for classifying object

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20200038964 2020-03-31
KR1020200038964 2020-03-31

Publications (2)

Publication Number Publication Date
KR20210122101A true KR20210122101A (ko) 2021-10-08
KR102557620B1 KR102557620B1 (ko) 2023-07-21

Family

ID=78115942

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210035112A KR102557620B1 (ko) 2020-03-31 2021-03-18 객체를 분류하는 레이더 장치 및 방법

Country Status (1)

Country Link
KR (1) KR102557620B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102456151B1 (ko) * 2022-01-07 2022-10-20 포티투닷 주식회사 레이더 및 카메라 기반의 센서 퓨전 시스템 및 주변 차량의 위치 산출 방법
KR20230075193A (ko) * 2021-11-22 2023-05-31 (주)노바코스 레이더와 카메라 융합 기반의 차량인식시스템

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180116749A (ko) * 2017-04-17 2018-10-25 주식회사 비트센싱 실시간 대규모 교통정보 수집방법 및 그 운용시스템
KR101993445B1 (ko) * 2018-03-05 2019-06-26 (주)시정 인공지능을 이용한 영상분석 시정계
KR20190140984A (ko) * 2017-06-15 2019-12-20 비오니어 스웨덴 에이비 비-v2v 차량의 검출
US20200026302A1 (en) * 2018-07-19 2020-01-23 Toyota Research Institute, Inc. Method and apparatus for road hazard detection
KR20200132137A (ko) 2019-05-15 2020-11-25 에이치에스앤티 주식회사 움직임 감지와 레이더 센서를 이용한 탐지 객체 위치 산출 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180116749A (ko) * 2017-04-17 2018-10-25 주식회사 비트센싱 실시간 대규모 교통정보 수집방법 및 그 운용시스템
KR20190140984A (ko) * 2017-06-15 2019-12-20 비오니어 스웨덴 에이비 비-v2v 차량의 검출
KR101993445B1 (ko) * 2018-03-05 2019-06-26 (주)시정 인공지능을 이용한 영상분석 시정계
US20200026302A1 (en) * 2018-07-19 2020-01-23 Toyota Research Institute, Inc. Method and apparatus for road hazard detection
KR20200132137A (ko) 2019-05-15 2020-11-25 에이치에스앤티 주식회사 움직임 감지와 레이더 센서를 이용한 탐지 객체 위치 산출 장치

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230075193A (ko) * 2021-11-22 2023-05-31 (주)노바코스 레이더와 카메라 융합 기반의 차량인식시스템
KR102456151B1 (ko) * 2022-01-07 2022-10-20 포티투닷 주식회사 레이더 및 카메라 기반의 센서 퓨전 시스템 및 주변 차량의 위치 산출 방법

Also Published As

Publication number Publication date
KR102557620B1 (ko) 2023-07-21

Similar Documents

Publication Publication Date Title
CN112166304B (zh) 传感器数据的误差检测
Danzer et al. 2d car detection in radar data with pointnets
WO2020052540A1 (zh) 对象标注方法、移动控制方法、装置、设备及存储介质
JP6682833B2 (ja) 物体認識アルゴリズムの機械学習のためのデータベース構築システム
US8704887B2 (en) Multi-object appearance-enhanced fusion of camera and range sensor data
US8818702B2 (en) System and method for tracking objects
US10726275B2 (en) System and method for correlating vehicular sensor data
García et al. Environment perception based on LIDAR sensors for real road applications
Roy et al. Multi-modality sensing and data fusion for multi-vehicle detection
Li et al. An adaptive 3D grid-based clustering algorithm for automotive high resolution radar sensor
KR102557620B1 (ko) 객체를 분류하는 레이더 장치 및 방법
CN109633686B (zh) 一种基于激光雷达侦测地面障碍物的方法及系统
Huang et al. Tightly-coupled LIDAR and computer vision integration for vehicle detection
US20240103132A1 (en) Radar apparatus and method for classifying object
US20220156517A1 (en) Method for Generating Training Data for a Recognition Model for Recognizing Objects in Sensor Data from a Surroundings Sensor System of a Vehicle, Method for Generating a Recognition Model of this kind, and Method for Controlling an Actuator System of a Vehicle
Bouain et al. Multi-sensor fusion for obstacle detection and recognition: A belief-based approach
US11554795B2 (en) Method for operating a driver assistance system of an ego vehicle having at least one surroundings sensor for detecting the surroundings of the ego vehicle, computer readable medium, system and vehicle
Kotur et al. Camera and LiDAR sensor fusion for 3d object tracking in a collision avoidance system
CN113611008B (zh) 一种车辆行驶场景采集方法、装置、设备及介质
CN116434162A (zh) 用于减少在车辆的周围环境中的跟踪对象的漏检测的系统和方法
US20210124351A1 (en) Onboard cluster tracking system
Alonso et al. Footprint-based classification of road moving objects using occupancy grids
US20230230257A1 (en) Systems and methods for improved three-dimensional data association using information from two-dimensional images
US20230334692A1 (en) Device and method for tracking an object
Hsu et al. Object detection and recognition by using sensor fusion

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant