KR20210061597A - 참조 데이터를 이용한 레이더 데이터 처리 장치 및 방법 - Google Patents

참조 데이터를 이용한 레이더 데이터 처리 장치 및 방법 Download PDF

Info

Publication number
KR20210061597A
KR20210061597A KR1020190149338A KR20190149338A KR20210061597A KR 20210061597 A KR20210061597 A KR 20210061597A KR 1020190149338 A KR1020190149338 A KR 1020190149338A KR 20190149338 A KR20190149338 A KR 20190149338A KR 20210061597 A KR20210061597 A KR 20210061597A
Authority
KR
South Korea
Prior art keywords
radar
data
radar data
resolution
input
Prior art date
Application number
KR1020190149338A
Other languages
English (en)
Inventor
조현웅
김종석
최성도
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190149338A priority Critical patent/KR20210061597A/ko
Priority to US16/912,250 priority patent/US11719811B2/en
Priority to CN202010701669.9A priority patent/CN112824931A/zh
Priority to EP20198414.3A priority patent/EP3825728A1/en
Publication of KR20210061597A publication Critical patent/KR20210061597A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/87—Combinations of radar systems, e.g. primary radar and secondary radar
    • G01S13/874—Combination of several systems for attitude determination
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/06—Systems determining position data of a target
    • G01S13/42—Simultaneous measurement of distance and other co-ordinates
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/87—Combinations of radar systems, e.g. primary radar and secondary radar
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/87—Combinations of radar systems, e.g. primary radar and secondary radar
    • G01S13/872—Combinations of primary radar and secondary radar
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/89—Radar or analogous systems specially adapted for specific applications for mapping or imaging
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/04—Display arrangements
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/41—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G01S7/417—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section involving the use of neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/865—Combination of radar systems with lidar systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867—Combination of radar systems with cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Theoretical Computer Science (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Traffic Control Systems (AREA)

Abstract

일 실시예에 따른 레이더 데이터 처리 장치는, 임의의 레이더 센서에 의해 획득된 입력 레이더 데이터와 함께 참조 데이터를 트레이닝된 해상도 증가 모델에 제공함으로써, 고해상도의 출력 레이더 데이터를 생성할 수 있다.

Description

참조 데이터를 이용한 레이더 데이터 처리 장치 및 방법{METHOD AND DEVICE TO IMPROVE RADAR DATA USING REFERENCE DATA}
이하, 레이더의 해상도를 향상시키는 기술이 제공된다.
ADAS(Advanced Driver Assistance Systems)는 차량의 내부 또는 외부에 탑재되는 센서들을 이용하여 운전자의 안전과 편의를 증진하고, 위험한 상황을 회피하고자 하는 목적으로 운전을 지원하는 보조 시스템이다.
ADAS에서 이용되는 센서들은 카메라, 적외선 센서, 초음파 센서, 라이더(LiDAR) 및 레이더(Radar)를 포함할 수 있다. 이 중에서 레이더는 광학 기반 센서에 비해, 날씨와 같은 주변 환경의 영향을 받지 않고 차량 주변의 오브젝트를 안정적으로 측정할 수 있다.
일 실시예에 따른 레이더 데이터 처리 방법은 레이더 센서에 의해 입력 레이더 데이터를 획득하는 단계; 및 상기 입력 레이더 데이터 및 참조 데이터(reference data)로부터 해상도 증가 모델을 이용하여 상기 입력 레이더 데이터의 해상도보다 증가된 해상도를 가지는 출력 레이더 데이터를 생성하는 단계를 포함할 수 있다.
상기 입력 레이더 데이터를 획득하는 단계는, 상기 입력 레이더 데이터로부터 입력 레이더 이미지를 생성하는 단계를 포함하고, 상기 출력 레이더 데이터를 생성하는 단계는, 상기 입력 레이더 이미지의 해상도보다 높은 해상도를 가지는 참조 레이더 이미지를 상기 참조 데이터로서 상기 입력 레이더 이미지에 연결(concatenate)하여 입력 데이터를 생성하는 단계; 및 상기 입력 데이터로부터 상기 해상도 증가 모델을 이용하여 상기 출력 레이더 데이터로서 출력 레이더 이미지를 생성하는 단계를 포함할 수 있다.
상기 참조 데이터는, 상기 입력 레이더 데이터를 획득하기 이전에 상기 레이더 센서보다 높은 해상도의 다른 레이더 센서에 의해 획득된 레이더 데이터일 수 있다.
상기 참조 데이터는, 상기 레이더 센서와 적어도 일부 중첩되는 시야각을 가지는 다른 레이더 센서에 의해 획득된 레이더 데이터일 수 있다.
상기 출력 레이더 데이터를 생성하는 단계는, 레이더 데이터 처리 장치의 주변 환경을 식별(identify)하는 단계; 및 참조 데이터베이스로부터 상기 식별된 주변 환경에 대응하는 참조 데이터를 획득하는 단계를 포함할 수 있다.
상기 참조 데이터를 획득하는 단계는, 상기 레이더 데이터 처리 장치의 외부 데이터베이스로부터 상기 식별된 주변 환경에 대응하는 상기 참조 데이터를 수신하는 단계를 포함할 수 있다.
레이더 데이터 처리 방법은 다른 레이더 센서가 추가 레이더 데이터를 획득하는 단계; 및 상기 추가 레이더 데이터로부터 상기 참조 데이터를 생성하는 단계를 더 포함하고, 상기 레이더 센서 및 다른 레이더 센서는 동일한 이동체(moving object)에 장착될 수 있다.
상기 추가 레이더 데이터를 획득하는 단계는, 상기 레이더 센서와 적어도 일부 시야각이 오버랩되는 상기 다른 레이더 센서가 상기 추가 레이더 데이터를 획득하는 단계를 포함할 수 있다.
상기 참조 데이터를 생성하는 단계는, 이전 시간 프레임에서 상기 다른 레이더 센서에 의해 획득된 이전 레이더 데이터 중 현재 시간 프레임에서 상기 레이더 센서의 시야각과 적어도 일부 장면이 공유되는 데이터를 이용하여 상기 참조 데이터를 생성하는 단계를 포함할 수 있다.
상기 참조 데이터를 생성하는 단계는, 이전 시간 프레임에서 상기 다른 레이더 센서에 의해 획득된 이전 레이더 데이터 중 현재 시간 프레임에서 상기 레이더 센서를 통해 검출된 객체를 포함하는 데이터를 이용하여 상기 참조 데이터를 생성하는 단계를 포함할 수 있다.
상기 출력 레이더 데이터를 생성하는 단계는, 상기 입력 레이더 데이터로부터 상기 해상도 증가 모델의 일부 레이어를 이용하여 입력 특징 데이터를 추출하는 단계; 및 상기 입력 특징 데이터 및 참조 특징 데이터로부터 상기 해상도 증가 모델의 다른 일부 레이어를 이용하여 상기 출력 레이더 데이터를 생성하는 단계를 포함할 수 있다.
상기 다른 일부 레이어를 이용하여 상기 출력 레이더 데이터를 생성하는 단계는, 상기 입력 레이더 데이터를 획득하기 전에 저장된 상기 참조 특징 데이터를 상기 입력 특징 데이터에 연결(concatenate)하는 단계; 및 상기 참조 특징 데이터 및 상기 입력 특징 데이터가 연결된 데이터로부터 상기 다른 일부 레이어를 이용하여 상기 출력 레이더 데이터를 생성하는 단계를 포함할 수 있다.
레이더 데이터 처리 방법은 상기 레이더 센서와 공통되는 기준 좌표계를 기준으로 정렬된 적외선 센서, 이미지 센서, 및 라이다 센서 중 적어도 하나에 기초하여 상기 참조 데이터를 획득하는 단계를 더 포함할 수 있다.
상기 참조 데이터를 획득하는 단계는, 상기 참조 데이터로부터 객체를 검출하고 분류하는 단계를 포함하고, 상기 출력 레이더 데이터를 생성하는 단계는, 상기 객체의 분류 결과와 함께 상기 입력 레이더 데이터 및 상기 참조 데이터로부터 상기 해상도 증가 모델을 이용하여 상기 출력 레이더 데이터를 생성하는 단계를 포함할 수 있다.
레이더 데이터 처리 방법은 상기 출력 레이더 데이터에 기초하여 레이더 데이터 처리 장치의 주변에 존재하는 객체에 관한 탐지 결과, 추적 결과, 인식 결과(recognition result), 주변 맵, 및 출력 스캔 이미지 중 하나 또는 둘 이상의 조합을 포함하는 결과 데이터를 생성하는 단계를 더 포함할 수 있다.
레이더 데이터 처리 방법은 상기 결과 데이터를 디스플레이를 통해 시각화하는 단계를 더 포함할 수 있다.
레이더 데이터 처리 방법은 상기 출력 레이더 데이터로부터 산출된 결과 데이터에 기초하여 레이더 신호 처리 장치가 장착된 차량의 속도, 가속도, 및 조향 중 적어도 하나를 변경하는 단계를 더 포함할 수 있다.
상기 입력 레이더 데이터를 획득하는 단계는, 사용자의 신체의 적어도 일부에 대한 레이더 데이터를 상기 입력 레이더 데이터로서 센싱하는 단계를 포함하고, 상기 출력 레이더 데이터에 기초하여 상기 사용자의 제스쳐(gesture), 신체 부위(body part), 및 신원(identity) 중 하나 또는 둘 이상의 조합을 인식하여 인식 결과를 지시하는 단계를 더 포함할 수 있다.
일 실시예에 따른 레이더 데이터 처리 장치는 레이더 신호를 전송 및 수신함으로써 입력 레이더 데이터를 획득하는 레이더 센서; 및 상기 입력 레이더 데이터 및 참조 데이터(reference data)로부터 해상도 증가 모델을 이용하여 상기 입력 레이더 데이터의 해상도보다 증가된 해상도를 가지는 출력 레이더 데이터를 생성하는 프로세서를 포함할 수 있다.
도 1은 레이더 데이터를 처리하는 방법을 통한 주변 환경 인식을 설명하는 도면이다.
도 2는 일 실시예에 따른 레이더 데이터 처리 장치의 구성을 설명하는 블록도이다.
도 3은 레이더 센서의 구성을 설명하는 블록도이다.
도 4는 일 실시예에 따른 해상도 증가 모델의 예시적인 구조를 설명하는 도면이다.
도 5 및 도 6은 일 실시예에 따른 해상도 증가 모델이 GAN 구조로 구현된 예시를 설명한다.
도 7 및 도 8은 일 실시예에 따른 레이더 데이터 처리 장치가 참조 데이터를 해상도 증가 모델의 적용하는 예시를 설명한다.
도 9는 일 실시예에 따른 고성능 레이더 센서를 이용한 참조 데이터 수집을 설명한다.
도 10은 일 실시예에 따른 복수의 레이더 센서들을 이용한 참조 데이터 수집을 설명한다.
도 11은 일 실시예에 따른 복수의 레이더 센서들 중 시야각을 공유하는 레이더 센서들 간의 참조 데이터를 설명한다.
도 12는 일 실시예에 따른 복수의 레이더 센서들 중 동일한 객체를 센싱한 레이더 센서들 간의 참조 데이터를 설명한다.
도 13은 일 실시예에 따른 레이더 데이터 처리 장치가 외부 서버로부터 참조 데이터를 검색 및 수신하는 예시를 설명한다.
도 14는 일 실시예에 따른 다양한 센서를 통해 수집된 추가 정보를 추가 참조 데이터로서 이용하는 예시를 설명한다.
도 15는 도 14에서 수집된 다양한 추가 정보에 기초한 객체 검출 결과를 추가 참조 데이터로서 이용하는 예시를 설명한다.
도 16은 일 실시예에 따른 레이더 데이터 처리 장치가 모바일 어플리케이션으로서 구현되는 예시를 설명하는 도면이다.
도 17은 일 실시예에 따른 레이더 데이터 처리 방법을 설명하는 흐름도이다.
도 18은 일 실시예에 따른 트레이닝 장치를 설명하는 도면이다.
도 19는 일 실시예에 따른 레이더 데이터 처리 장치의 다른 예시적인 구성을 설명하는 블록도이다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 특허출원의 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
아래 설명하는 실시예들에는 다양한 변경이 가해질 수 있다. 아래 설명하는 실시예들은 실시 형태에 대해 한정하려는 것이 아니며, 이들에 대한 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 실시예를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수 개의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
도 1은 레이더 데이터를 처리하는 방법을 통한 주변 환경 인식을 설명하는 도면이다.
일 실시예에 따른 레이더 데이터 처리 장치(110)는 센서를 통해 전방에 존재하는 객체를 검출할 수 있다. 예를 들어, 객체를 검출하는 센서는 이미지 센서, 라이다(LiDAR, Light Detection And Ranging) 센서, 및 레이더(RADAR, RAdio Detection And Ranging) 센서 등일 수 있으며, 이를 통해, 전방의 객체(180)까지의 거리, 객체(180)와의 각도, 및 객체(180)의 속도 등을 검출할 수 있다.
도 1에서는 센서가 레이더 센서(111)인 경우를 설명하고자 한다. 레이더 데이터 처리 장치(110)는 레이더 센서(111)에서 수신된 레이더 신호를 분석하여 전방의 객체(180)까지의 거리를 검출할 수 있다. 레이더 센서(111)는 레이더 데이터 처리 장치(110)의 내부 또는 외부에 위치할 수 있다. 레이더 센서(111)는 레이더 데이터 처리 장치(110)의 외부를 향해 레이더 신호를 방사할 수 있다. 레이더 데이터 처리 장치(110)는 레이더 센서(111)로부터 수신된 레이더 신호 뿐 아니라 다른 센서(예를 들어, 이미지 센서 등)에서 수집된 데이터를 함께 고려하여 전방의 객체(180)까지의 거리를 검출할 수도 있다.
레이더 데이터 처리 장치(110)는 차량에 탑재될 수 있다. 차량은 레이더 데이터 처리 장치(110)에 의해 검출된 객체까지의 거리에 기초하여, ACC(Adaptive Cruise Control) 동작, AEB(Autonomous Emergency Braking) 동작, 및 BSD(Blind Spot Detection) 동작 등을 수행할 수 있다.
더 나아가, 레이더 데이터 처리 장치(110)는 거리 검출 외에도 주변 맵(130)을 생성할 수 있다. 주변 맵(130)은 레이더 데이터 처리 장치(110)의 주변에 존재하는 표적들의 위치를 나타내는 맵으로서, 주변의 표적은 차량 및 사람과 같이 동적 객체일 수도 있고, 가드레일 및 신호등과 같이 정적 객체(예를 들어, 배경)일 수 있다.
주변 맵(130)을 생성하기 위한 방법으로 단일 스캔 이미지 방법이 사용될 수 있다. 레이더 데이터 처리 장치(110)가 센서로부터 단일 스캔 이미지(120)를 획득하고, 획득된 단일 스캔 이미지(120)로부터 주변 맵(130)을 생성하는 것이 단일 스캔 이미지 방법이다. 단일 스캔 이미지(120)는 단일 레이더 센서(111)에 의해 센싱된 레이더 신호로부터 생성된 이미지로서, 비교적 낮은 해상도를 나타낸다. 단일 스캔 이미지(120)는 레이더 스캔 이미지로서, 임의의 레이더 센서(111)에 의해 임의의 고도 각(elevation angle)으로부터 수신된 레이더 신호들이 지시하는 거리들을 나타낼 수 있다. 예를 들어, 도 1에 도시된 단일 스캔 이미지에서 가로 축은 레이더 센서(111)의 스티어링 각도, 세로 축은 레이더 센서(111)로부터 표적까지의 거리를 나타낼 수 있다. 다만, 단일 스캔 이미지의 형태를 도 1에 도시된 바로 한정하는 것은 아니고, 설계에 따라 다른 포맷(format)으로 표현될 수도 있다.
본 명세서에서 레이더 스캔 이미지는 거리-도플러 맵 및 거리-각도 맵과 같은 2차원 이미지 맵을 주로 설명하였으나, 이로 한정하는 것은 아니고, 거리-도플러-각도 맵과 같은 3차원 이상의 포맷으로 된 맵으로 구성될 수도 있다. 스티어링 각도는 레이더 데이터 처리 장치로부터 타겟 지점을 향하는 방향에 대응하는 각도를 나타낼 수 있다. 예를 들어, 스티어링 각도는 레이더 데이터 처리 장치(예를 들어, 차량)를 기준으로, 데이터 데이터를 처리하는 장치의 진행 방향 및 타겟 지점 사이의 각도일 수 있다. 참고로, 거리-도플러 맵은 임의의 표적이 가지는 도플러 속도 및 레이더 센서(111)로부터 해당 표적까지의 거리를 나타낼 수 있고, 예를 들어, 거리-도플러 맵의 한 축은 도플러 속도(예를 들어 ,시선 속도)를 나타내고, 다른 축은 거리를 나타낼 수 있다. 유사하게, 거리-각도 맵은 임의의 표적에 대응하는 도래각 및 레이더 센서(111)로부터 해당 표적까지의 거리를 나타낼 수 있고, 예를 들어, 거리-각도 맵의 한 축은 도래각을 나타내고, 다른 축은 거리를 나타낼 수 있다.
레이더 데이터 처리 장치(110)는 다중 레이더 맵(multi radar map)을 통해 표적의 형상에 대한 정확한 정보를 획득할 수 있다. 다중 레이더 맵은 복수의 레이더 스캔 이미지들의 결합으로부터 생성할 수 있다. 예를 들어, 레이더 데이터 처리 장치(110)는 레이더 센서(111)의 이동에 따라 획득되는 레이더 스캔 이미지들을 시공간적으로 결합함으로써 주변 맵(130)을 생성할 수 있다.
상술한 바와 같이, 레이더 데이터 처리 장치(110)는 레이더 신호로부터 생성된 레이더 원시 데이터(radar raw data)를 처리하여 임의의 스캔 이미지를 생성하고, 생성된 스캔 이미지에 기초하여 주변 맵(130)과 같은 주행 관련 정보를 생성하거나, 객체 인식 등을 수행할 수 있다. 이 때, 주행 관련 정보 생성 및 객체 인식 등에 있어서, 정확성을 향상시키기 위해서는 고해상도의 스캔 이미지가 요구된다. 본 명세서에서 해상도(resolution)는 이미지가 상세하게 표현되는 척도(measure)를 나타낼 수 있고, 분해능 단위(resolving power unit)는 작은 차이를 분별해내는 기기의 능력의 최소 단위로서, 예를 들어, 서로 떨어져 있는 두 물체가 구별될 수 있는 최소 단위(예를 들어, 구별 가능한 최소 거리 단위, 최소 각도 단위, 및 최소 속도 단위 등)를 나타낼 수 있다. 해상도는 분해능 및/또는 분해능 단위에 반비례할 수 있다. 따라서, 기기의 분해능 단위가 작아져서 향상될수록, 보다 고해상도의 데이터가 획득될 수 있다.
다만, 레이더 센서의 비용 및 개수 등의 제한으로 인하여, 단일 레이더 센서가 획득할 수 있는 레이더 원시 데이터의 정보 량이 제한될 수 있다. 단일 레이더 센서에 의한 레이더 원시 데이터의 정보 량이 제한되므로, 해당 레이더 원시 데이터로부터 생성되는 스캔 이미지의 해상도도 제한될 수 있다.
도 2는 일 실시예에 따른 레이더 데이터 처리 장치의 구성을 설명하는 블록도이다.
일 실시예에 따른 레이더 데이터 처리 장치(200)는 레이더 데이터 획득부(210), 해상도 증가 모델(220), 레이더 데이터 처리부(230), 및 참조 데이터베이스(290)를 포함할 수 있다. 레이더 데이터 획득부(210) 및 레이더 데이터 처리부(230)는 소프트웨어 모듈로 구현될 수 있으나, 이로 한정하는 것은 아니고 하드웨어 모듈 또는 소프트웨어 모듈 및 하드웨어 모듈의 조합으로 구현될 수도 있다.
우선, 레이더 데이터 획득부(210)는 레이더 데이터를 획득할 수 있다. 예를 들어, 레이더 데이터 획득부(210)는 레이더 신호를 전송 및 수신함으로써 레이더 원시 데이터를 획득하는 레이더 센서를 포함할 수 있다. 레이더 센서는 하기 도 3에서 설명한다. 레이더 원시 데이터는 복수의 차원들에 대응하는 정보를 포함할 수 있다. 예를 들어, 레이더 원시 데이터는 거리와 관련된 차원, 수평 각과 관련된 차원, 고도 각과 관련된 차원, 및 시선 속도(radial velocity)와 관련된 차원에 관한 정보를 포함할 수 있다. 다만, 본 명세서에서 각도는 주로 수평 각을 기준으로 설명하나, 이로 한정하는 것은 아니고, 아래에서 예시적으로 거리, 각도, 및 시선 속도의 3개 차원의 정보를 설명하였으나, 본 명세서의 레이더 데이터의 차원을 3개로 한정하는 것도 아니다.
거리와 관련된 차원은 처프 신호의 주파수에 대한 변화를 나타낼 수 있다. 처프 신호의 주파수 변화는 빠른 시간(fast time) 축에서 나타나는 정보이며, 레이더 센서에서 송신 신호와 수신 신호 간의 주파수 차이로부터 레이더 센서와 물체 간의 거리가 계산될 수 있다. 참고로, 빠른 시간 축은 아래 도 3에서 각 처프 신호의 주파수 변화가 나타나는 시간 축일 수 있다.
각도와 관련된 차원은 가상 안테나들에 대한 변화를 나타낼 수 있다. 예를 들어, 레이더 센서가 평면파(plane wave)를 이용하고, ULA (Uniform Linear Array)로 배치된 구조일 수 있다. 이 때, 임의의 특정 송신(TX) 안테나에서 송신된 레이더 신호는 복수의 수신(RX) 안테나에서 수신될 수 있다. 인접한 수신 안테나들은 서로 일정 간격만큼 이격되어 배치되고, 따라서 수신 안테나들은 동일한 송신 안테나로부터 방사된 신호에 대해 서로 다른 위상을 가지는 수신 신호를 수신하게 된다. 이러한 위상 차이를 통해 레이더 데이터 처리 장치(200)는 도래각(DoA, Direction of Arrival)을 추정할 수 있다.
시선 속도와 관련된 차원은 복수의 처프 신호들 간의 변화에 대한 정보로서 느린 시간(slow time) 축에서의 정보를 나타낼 수 있다. 예를 들어, 객체가 이동하고 있을 때, 해당 객체로부터 연속적으로 반사되어 수신되는 복수의 처프 신호들의 위상이 변화하고, 이러한 복수의 처프 신호들의 위상 변화 정보로부터 객체의 시선 속도가 추정될 수 있다. 참고로, 느린 시간 축은 아래 도 3에서 처프 신호들에 의해 구분되는 시간 축일 수 있다.
레이더 데이터 획득부(210)는 레이더 원시 데이터를 처리함으로써 레이더 데이터를 획득할 수 있다. 예를 들어, 레이더 데이터 획득부(210)는 레이더 원시 데이터를 전처리함으로써, 레이더 스캔 이미지를 생성할 수 있다. 예를 들어, 레이더 스캔 이미지 맵은 레이더 원시 데이터의 복수의 차원들 중 일부 차원에 관한 정보를 나타낼 수 있다. 예를 들어, 레이더 스캔 이미지 맵은 상술한 바와 같이, 거리-도플러 맵 및 거리-각도 맵과 같은 2차원 포맷으로 된 맵일 수 있다. 레이더 데이터가 레이더 스캔 이미지인 경우, 레이더 스캔 이미지의 해상도는 레이더 스캔 이미지에 포함된 화소들의 개수에 대응할 수 있다.
다만, 본 명세서에서 레이더 데이터를 주로 레이더 스캔 이미지로 설명하나, 이로 한정하는 것은 아니다. 레이더 데이터는 레이더 센서에 의해 센싱되는 레이더 원시 데이터(radar raw data) 및/또는 레이더 원시 데이터로부터 변환된 데이터를 포함할 수 있다. 레이더 원시 데이터의 해상도는 해당 레이더 원시 데이터를 센싱한 레이더 센서의 거리 분해능, 각도 분해능, 및 속도 분해능에 반비례할 수 있다. 예를 들어, 거리의 분해능은 처프 신호가 스윕(sweeping)하는 대역폭에 반비례한다. 즉, 대역폭이 증가될 수록, 향상된 거리 분해능이 제공된다. 레이더 센서에 포함된 가상 안테나들의 개수가 많아질수록 각도 분해능이 향상되어 도래각 추정 정확도가 높아질 수 있다. DBF(digital beam forming) 및 다른 도래각 추정 기법을 통해 도래각을 추정할 경우, 각도 해상도는 총 가상 안테나들(virtual antennas)의 개수에 반비례하기 때문이다. 참고로, 가상 안테나들의 개수는, 송신 안테나의 개수 및 수신 안테나의 개수의 곱에 대응할 수 있다. 처프 신호의 주기가 동일하다면, 한 번의 스캔에 더 많은 개수의 처프 신호가 사용될수록 레이더 데이터에서 속도 분해능이 향상될 수 있다. 레이더 센서의 하드웨어 성능에 따른 분해능 제한은 하기 도 3에서 설명한다. 다만, 레이더 센서의 해상도 및 분해능을 이로 한정하는 것은 아니다.
해상도 증가 모델(220)은 입력된 레이더 데이터의 해상도를 증가시키도록 설계된 모델로서, 예를 들어, 기계 학습 구조일 수 있고, 뉴럴 네트워크를 포함할 수 있다. 해상도 증가 모델(220)은 참조 데이터 및 제1 해상도의 입력 데이터로부터 제2 해상도의 출력 데이터를 출력하도록 설계될 수 있다. 여기서, 제2 해상도는 제1 해상도보다 높은 해상도로서, 본 명세서에서 제2 해상도는 고해상도, 제1 해상도는 저해상도라고 나타낼 수 있다. 제1 해상도의 입력 데이터는 저해상도 입력 데이터, 제2 해상도의 출력 데이터는 고해상도 출력 데이터라고 나타낼 수 있다. 아래 도 4에서는 해상도 증가 모델(220)의 예시적인 구조를 설명한다.
일 실시예에 따른 레이더 데이터 처리 장치(200)는 해상도 증가 모델(220)을 이용하여 입력 레이더 데이터 및 참조 데이터로부터 출력 레이더 데이터를 생성할 수 있다. 레이더 데이터 처리 장치(200)는 참조 데이터베이스(290)로부터 입력 레이더 데이터의 해상도를 증가시키는데 사용하는 참조 데이터를 로딩할 수 있다. 레이더 데이터 처리 장치(200)는 참조 데이터베이스(290)를 미리 저장할 수도 있으나, 외부 서버와 통신을 통해 참조 데이터베이스(290)를 필요할 때 요청하여 수신할 수도 있다. 또한, 참조 데이터베이스(290)는 외장 메모리 카드의 교체에 의해 업데이트될 수도 있다. 본 명세서에서 참조 데이터는, 해상도 증가 모델이 입력 레이더 데이터로부터 고해상도의 출력 레이더 데이터를 생성하기 위해 참조하는 데이터로서, 레이더 원시 데이터(radar raw data), 레이더 스캔 이미지, 레이더 데이터로부터 추출된 특징 데이터, 및 레이더 센서 외의 다른 종류의 센서에 의해 획득되는 추가 정보 등을 포함할 수 있다. 레이더 스캔 이미지 및 특징 데이터 등은 후술한다.
레이더 데이터 처리부(230)는 해상도 증가 모델(220)을 이용하여 상술한 바와 같이 생성된 출력 레이더 데이터를 처리할 수 있다. 예를 들어, 레이더 데이터 처리부(230)는 출력 레이더 데이터를 개별 객체까지의 실제 거리, 시선 속도, 및 각도로 변환하고, 변환된 정보를 이용하여 레이더 데이터 처리 장치(200)가 장착된 차량 및/또는 모바일 단말을 제어할 수 있다. 참고로, 앞서 데이터 획득부가 레이더 원시 데이터로부터 입력 레이더 데이터로서 레이더 스캔 이미지를 생성하는 것으로 설명하였으나, 이로 한정하는 것은 아니다. 예를 들어, 데이터 획득부가 입력 레이더 데이터로서 레이더 원시 데이터를 획득하고, 해상도 증가 모델(220)을 이용하여 레이더 원시 데이터로부터 출력 레이더 데이터가 생성될 수 있다. 레이더 데이터 처리부(230)는 출력 레이더 데이터를 출력 레이더 스캔 이미지로 변환할 수도 있다. 다른 예를 들어, 데이터 획득부가 전처리 동작들 중 일부 동작을 레이더 원시 데이터에 적용하여 입력 중간 데이터(input intermediate data)를 생성하고, 해상도 증가 모델(220)을 이용하여 입력 중간 데이터로부터 고해상도의 출력 중간 데이터(output intermediate data)가 생성될 수도 있다. 레이더 데이터 처리부(230)는 전처리 동작들 중 나머지 동작을 출력 중간 데이터에 적용하여 출력 레이더 스캔 이미지를 생성할 수도 있다.
도 3은 레이더 센서의 구성을 설명하는 블록도이다.
레이더 센서(310)는 안테나(313)를 통해 신호를 방사하고, 안테나(313)를 통해 신호를 수신할 수 있다. 레이더 센서(310)가 방사하는 신호 및 레이더 센서(310)에 의해 수신되는 신호를 레이더 신호라고 나타낼 수 있다. 레이더 센서(310)는 예를 들어, mmWave Radar일 수 있고, 방사된 전기파가 객체에 맞고 되돌아오는 시간(Time of Flight)과 신호 파형의 변화를 분석해 객체까지의 거리를 측정할 수 있다. 예를 들어, 레이더 센서(310)는 FMCW 레이더 (Frequency Modulated Continuous- Wave Radio Detection And Ranging) 레이더로 구현될 수 있다.
레이더 센서(310)의 처프 전송기(Chirp Transmitter)(311)는 시간에 따라 주파수가 변하는, 주파수 변조 신호(FM signal, Frequency Modulated signal)(302)를 생성할 수 있다. 예를 들어, 처프 전송기(311)는 처프 신호(chirp signal)(301)를 주파수 변조함으로써, 주파수 변조 신호(302)를 생성할 수 있다. 처프 신호(301)는 시간에 따라 진폭(amplitude)이 선형적으로 증가하거나 감소하는 신호를 나타낼 수 있다. 처프 전송기(311)는 처프 신호(301)의 진폭에 대응하는 주파수를 가지는 주파수 변조 신호(302)를 생성할 수 있다. 예를 들어, 도 3에 도시된 바와 같이, 주파수 변조 신호(302)는 처프 신호(301)의 진폭이 증가하는 구간에서는 점진적으로 주파수가 증가하는 파형을 나타낼 수 있고, 처프 신호(301)의 진폭이 감소하는 구간에서는 점진적으로 주파수가 감소하는 파형을 나타낼 수 있다. 다만, 처프 신호(301)의 형태를 도시된 바로 한정하는 것은 아니다. 처프 전송기(311)는 주파수 변조 신호(302)를 듀플렉서(312)로 전달할 수 있다.
레이더 센서(310)의 듀플렉서(duplexer)(312)는 안테나(313)를 통한 신호의 송신 경로 및 수신 경로를 결정할 수 있다. 예를 들어, 레이더 센서(310)가 주파수 변조 신호(302)를 방사하는 동안, 듀플렉서(312)는 처프 전송기(311)로부터 안테나(313)까지의 신호 경로를 형성할 수 있고, 형성된 신호 경로를 통해 주파수 변조 신호(302)를 안테나(313)로 전달한 후 외부로 방사할 수 있다.
레이더 센서(310)가 객체로부터 반사된 신호를 수신하는 동안, 듀플렉서(312)는 안테나(313)로부터 주파수 분석기(316)까지의 신호 경로를 형성할 수 있다. 안테나(313)는 방사된 신호가 장애물에 도달 후 반사되어 되돌아온 반사 신호를 수신할 수 있고, 레이더 센서(310)는 안테나(313)로부터 주파수 분석기(316)까지의 신호 경로를 통해 반사 신호를 주파수 분석기(316)로 전달할 수 있다.
주파수 믹서(frequency mixer)(314)는 수신된 신호로부터 주파수 변조(FM) 이전의 선형 신호(예를 들어, 원본 처프 신호)를 복조할 수 있다. 증폭기(315)는 복조된 선형 신호의 진폭을 증폭할 수 있다.
주파수 분석기(spectrum analyzer)(316)는 객체로부터 반사되어 들어오는 신호(308)와 방사된 처프 신호(301)를 비교할 수 있다. 주파수 분석기(316)는 방사된 처프 신호(301) 및 반사된 신호(308) 간의 주파수 차이를 검출할 수 있다. 방사된 처프 신호(301) 및 반사된 신호(308) 간의 주파수 차이는, 도 3에 도시된 그래프(309)에서, 방사된 처프 신호(301)의 진폭이 시간축을 따라 선형적으로 증가하는 구간 동안 일정한(constant) 차이를 나타낼 수 있고, 레이더 센서(310) 및 객체 간의 거리에 비례한다. 따라서, 레이더 센서(310) 및 객체 간의 거리는 방사된 처프 신호(301) 및 반사된 신호(308) 간의 주파수 차이로부터 도출(derive)될 수 있다. 주파수 분석기(316)는 분석된 정보를 레이더 데이터 처리 장치의 프로세서로 전달할 수 있다. 여기서, 프로세서로 전달되는 정보는 레이더 신호로부터 생성된 데이터로서, 레이더 원시 데이터라고 나타낼 수 있다.
예를 들어, 주파수 분석기(316)는 하기 수학식 1에 따라 레이더 센서(310) 및 객체 간의 거리를 계산할 수 있다.
[수학식 1]
Figure pat00001
상술한 수학식 1에서, R은 레이더 센서(310) 및 객체 간의 거리를 나타낸다 c는 광속을 나타낸다. T는 방사된 처프 신호(301)의 상승 구간의 시간 길이를 나타낸다. fb는 상승 구간 내 임의의 시점에서 방사된 처프 신호(301) 및 반사된 신호(308) 간의 주파수 차이로서, 비트 주파수(beat frequency)라고 부를 수 있다. B는 변조 대역폭을 나타낸다. 참고로, 비트 주파수 fb는 아래와 같은 수학식 2를 통해 도출될 수 있다.
[수학식 2]
Figure pat00002
상술한 수학식 2에서 fb는 비트 주파수를 나타내고, td는 방사된 처프 신호(301)의 방사 시점 및 반사된 신호(308)의 수신 시점 간의 시간 차이(예를 들어, 지연 시간)를 나타낸다.
상술한 수학식 1에서는 레이더 데이터로부터 산출되는 거리를 설명하였는데, 레이더 센서에 의해 획득되는 레이더 데이터로부터 산출되는 거리의 분해능은 아래 수학식 3과 같이 나타낼 수 있다.
[수학식 3]
Figure pat00003
상술한 수학식 3에서 dres는 거리 분해능을 나타낼 수 있고, c는 광속, B는 레이더 센서에 허용된 대역폭을 나타낼 수 있다. 레이더 센서에 허용되는 대역폭 B는 각 국의 법령에서 규정하는 바에 따라 정해지며, 현 시점에서 ETSI(European Telecommunications Standards Institute)와 FCC(Federal Communications Commission)는 자동차용 레이더(automotive radar)에 있어서 77 GHz 대역을 허용하였다. 수학식 3에 나타난 바와 같이, 대역폭이 증가될수록 dres가 작아지므로 거리 분해능이 향상될 수 있다. 다만, 가용한(available) 대역폭은 법령 등에 따라 제한되는 바, 각 레이더 센서는 거리 산출에 있어서 한정된 분해능을 가지게 된다.
상대 속도는 타겟 지점으로부터 레이더 센서를 향하는 시선 속도(radial velocity)인 도플러 속도일 수 있다. 레이더 센서에 의해 획득되는 레이더 데이터로부터 산출되는 도플러 속도의 분해능은 아래 수학식 4과 같이 나타날 수 있다.
[수학식 4]
Figure pat00004
상술한 수학식 4에서 vres는 도플러 속도 분해능을 나타내고,
Figure pat00005
는 레이더 센서가 사용하는 대역의 파장을 나타낼 수 있다. Tf는 복수의 일련의 처프 신호들에 주어진 프레임 시간으로서 한 스캔에 대응하는 레이더 신호의 시간 길이이다. 각 처프의 주기가 T이고 한 스캔 동안 n개의 처프 신호들이 송신 및 수신된다면, 프레임 시간 Tf는 nT일 수 있다. 수학식 4에 나타난 바와 같이, 프레임 시간 Tf가 증가되면 도플러 속도 분해능 vres가 작아지면서 향상될 수 있다. 다만, 각 처프 신호에 주어진 주기가 증가되면, 측정 가능한 최대 속도가 감소하고, 실시간 동작에 있어서 한번의 스캔에 허용되는 시간을 초과하는 문제가 발생할 수 있다. 다시 말해, 한 번의 스캔에서 사용할 처프 신호들의 개수 증가시키면 데이터 전송량 및 동작 시간이 증가하는 트레이드 오프 문제가 발생한다. 따라서, 각 레이더 센서는 도플러 속도 산출에 있어서 한정된 분해능을 가지게 된다.
도 4는 일 실시예에 따른 해상도 증가 모델의 예시적인 구조를 설명하는 도면이다.
일 실시예에 따른 해상도 증가 모델은, 레이더 데이터(예를 들어, 레이더 스캔 이미지)의 해상도를 증가시키도록 설계된 모델로서, 예를 들어, 기계 학습 구조일 수 있고, 뉴럴 네트워크(400)를 포함할 수 있다. 해상도 증가 모델은 제1 해상도의 입력 데이터로부터 제2 해상도의 출력 데이터를 출력하도록 설계될 수 있다. 여기서, 제2 해상도는 제1 해상도보다 높은 해상도로서, 본 명세서에서 제2 해상도는 고해상도, 제1 해상도는 저해상도라고 나타낼 수 있다. 제1 해상도의 입력 데이터는 저해상도 입력 데이터, 제2 해상도의 출력 데이터는 고해상도 출력 데이터라고 나타낼 수 있다.
뉴럴 네트워크(neural network)(400)는 딥 뉴럴 네트워크(DNN, deep neural network)의 예시에 해당할 수 있다. DNN은 완전 연결 네트워크(fully connected network), 딥 컨볼루셔널 네트워크(deep convolutional network) 및 리커런트 뉴럴 네트워크(recurrent neural network) 등을 포함할 수 있다. 뉴럴 네트워크(400)는 딥 러닝에 기반하여 비선형적 관계에 있는 입력 데이터 및 출력 데이터를 서로 매핑함으로써 이미지의 해상도 증가를 수행할 수 있다. 딥 러닝은 빅 데이터 세트로부터 이미지 처리와 같은 문제를 해결하기 위한 기계 학습 기법으로 지도식(supervised) 또는 비지도식(unsupervised) 학습을 통해 입력 데이터 및 출력 데이터를 서로 매핑할 수 있다.
도 4를 참조하면, 뉴럴 네트워크(400)는 입력 레이어(410), 히든 레이어(420) 및 출력 레이어(430)를 포함한다. 입력 레이어(410), 히든 레이어(420) 및 출력 레이어(430)는 각각 복수의 인공 노드들을 포함한다.
도 6에는 설명의 편의를 위해 히든 레이어(420)가 3개의 레이어를 포함하는 것으로 도시되었나, 히든 레이어(420)는 다양한 수의 레이어들을 포함할 수 있다. 또한, 도 6에는 뉴럴 네트워크(400)는 입력 데이터를 수신하기 위한 별도의 입력 레이어를 포함하는 것으로 도시되었으나, 입력 데이터가 히든 레이어(420)에 직접 입력될 수 있다. 뉴럴 네트워크(400)에서 출력 레이어(430)를 제외한 레이어들의 인공 노드들은 출력 신호를 전송하기 위한 링크들을 통해 다음 레이어의 인공 노드들과 연결될 수 있다. 링크들의 수는 다음 레이어에 포함된 인공 노드들의 수에 대응할 수 있다.
히든 레이어(420)에 포함된 각각의 인공 노드에는 이전 레이어에 포함된 인공 노드들의 가중된 입력들(weighted inputs)에 관한 활성 함수(activation function)의 출력이 입력될 수 있다. 가중된 입력은 이전 레이어에 포함된 인공 노드들의 입력에 가중치(weight)가 곱해진 것이다. 가중치는 뉴럴 네트워크(400)의 파라미터로 지칭될 수 있다. 활성 함수는 시그모이드(sigmoid), 하이퍼볼릭 탄젠트(hyperbolic tangent; tanh) 및 렐루(rectified linear unit; ReLU)를 포함할 수 있고, 활성 함수에 의해 뉴럴 네트워크(400)에 비선형성이 형성될 수 있다. 출력 레이어(430)에 포함된 각각의 인공 노드에는 이전 레이어에 포함된 인공 노드들의 가중된 입력들이 입력될 수 있다. 임의의 레이어로부터 다음 레이어로 가중된 데이터가 입력되는 과정을 전파(propagation)라고 나타낼 수 있다. 참고로, 뉴럴 네트워크(400)는 컨볼루션 필터링을 위해 구성된 컨볼루션 레이어를 포함할 수도 있다. 예를 들어, 장치는 이전 레이어로부터 컨볼루션 레이어로 임의의 정보를 전파할 수 있고, 전파된 정보에 대해 컨볼루션 필터링을 수행하며, 컨볼루션 필터링 결과를 그 다음 레이어로 전파할 수 있다.
위에서는 해상도 증가 모델의 예시로서, 뉴럴 네트워크(400)를 설명하였으나, 해상도 증가 모델을 뉴럴 네트워크(400)로 한정하는 것은 아니다.
도 5 및 도 6은 일 실시예에 따른 해상도 증가 모델이 GAN 구조로 구현된 예시를 설명한다.
GAN(Generative Adversarial Network) 구조는 해당 구조의 특징 및 적대적 손실(adversarial loss)로 인하여 실제 같은(realistic) 이미지를 결과로서 출력할 수 있다. 다만, GAN 구조로 된 해상도 증가 모델은 출력가능한 매니폴드(manifold)들 중 하나를 선택함으로써 분류기(discriminator)를 속일 수 있는 출력을 생성하는 것으로서, 그럴 듯한(plausible) 고해상도 출력을 생성할 수 있다. 일 실시예에 따른 해상도 증가 모델은 GAN 구조로서 생성기 모델(generator model) 및 분류기 모델(discriminator)을 포함할 수 있다. 도 5는 GAN 구조로 된 해상도 증가 모델의 트레이닝 과정을 설명하고, 도 6은 트레이닝 완료 후 해상도 증가 모델을 이용한 고해상도 데이터 출력을 설명한다.
도 5에 도시된 바와 같이, 트레이닝 장치는 원본 레이더 원시 데이터(501)로부터 데이터를 선별 동작(511)을 수행할 수 있다. 예를 들어, 트레이닝 장치는 원본 레이더 원시 데이터(501) 중 각 반복(iteration)에 사용할 임의의 차원(예를 들어, 각도 차원)에 대한 고해상도 데이터 및 저해상도 데이터를 선별할 수 있다. 예를 들어, 트레이닝 장치는 원본 레이더 원시 데이터(501)에서 일부 데이터를 추출하여 저해상도 데이터를 생성하고, 보다 많은 데이터를 추출하여 고해상도 데이터를 생성할 수 있다. 원본 레이더 원시 데이터(501)는 실제(practical) 레이더 데이터 처리 장치에 실장되는 레이더 센서보다 높은 성능의 레이더 센서를 통해 수집된 데이터일 수 있다.
트레이닝 장치는 선별된 고해상도 데이터에 대해 고해상도 전처리 동작(513)을 수행할 수 있다. 거리-각도 맵에 대한 고해상도 전처리 동작(513)은 거리 FFT(range FFT), MUSIC(MUlti SIgnal Classification), DBF(digital beam forming), 및 비동조 적분(non-coherent integration)을 포함할 수 있다. 거리-속도 맵에 대한 고해상도 전처리 동작(513)은 거리 FFT, 속도 FFT, 및 비동조 적분을 포함할 수 있다. 또한, 유사하게, 속도-각도 맵에 대한 고해상도 전처리 동작(513)은 속도 FFT, MUSIC, DBF, 및 비동조 적분을 포함할 수 있다. 다만, 이로 한정하는 것은 아니고, 고해상도 전처리 동작(513)은 거리, 각도, 속도 중 하나 또는 둘 이상의 차원에 대한 해상도를 증가시킬 수도 있다. 트레이닝 장치는 선별된 저해상도 데이터에 대해서 저해상도 전처리 동작(512)을 수행할 수 있다. 저해상도 전처리 동작(512)은 거리 FFT, 및 DBF를 포함할 수 있다.
상술한 고해상도 전처리 동작(513)의 결과로서, 트레이닝 장치는 참값(GT, ground truth) 데이터를 트레이닝 참값(561)으로서 생성할 수 있다. 저해상도 전처리 동작(512)의 결과로서 트레이닝 장치는 저해상도 트레이닝 입력(562)을 생성할 수 있다. 또한, 트레이닝 장치는 부가 입력으로서 MUSIC 결과(580)도 생성할 수 있다. 다만, 부가 입력을 MUSIC 결과(580)로 한정하는 것은 아니고, 레이더의 도래각을 추정하는 다른 기법의 결과일 수도 있다. 도 5에서 고해상도 트레이닝 참값(561) 및 저해상도 트레이닝 입력(562)은 거리-각도 맵 포맷의 레이더 스캔 이미지일 수 있다.
일 실시예에 따른 트레이닝 장치는 임시 고해상도 출력(570), 고해상도 트레이닝 참값(561), 및 서브스페이스 타입 기반 추정 기법에 기초하여 추정된 도래각 정보로부터 분류기 모델(550)에 의해 출력된 결과에 기초하여, 생성기 모델(540) 및 분류기 모델(550)을 트레이닝시킬 수 있다. 예를 들어, 서브스페이스 타입 기반 추정 기법은 MUSIC 알고리즘일 수 있고, MUSIC 결과값은 도래각 정보일 수 있다. 생성기 모델(540) 및 분류기 모델(550)은 도 4에서 상술한 바와 같은 구조로 구현될 수 있으나, 이로 한정하는 것은 아니다.
예를 들어, 트레이닝 장치는 생성기 모델(540)을 이용하여 저해상도 트레이닝 입력(562) 및 참조 데이터베이스(590)로부터 임시 고해상도 출력(570)을 생성할 수 있다. 예를 들어, 트레이닝 장치는 저해상도 트레이닝 입력(562) 및 참조 데이터베이스(590)를 생성기 모델(540)의 입력 레이어 및/또는 중간 레이어에 입력하고, 생성기 모델(540)에 포함된 복수의 노드들을 포함하는 레이어들로 순차적으로 전파시킴으로써 임시 고해상도 출력(570)을 생성할 수 있다. 생성기 모델(540) 내에서 데이터의 전파 과정은 도 4에서 상술한 바와 유사하게 수행될 수 있다. 트레이닝 장치는 생성기 모델(540)에 의해 출력된 임시 고해상도 출력(570), 고해상도 트레이닝 참값(561), 및 서브스페이스 타입 기반 추정 기법에 기초하여 추정된 도래각 정보를 분류기 모델(550)에 입력할 수 있다.
트레이닝 장치는 분류기 모델(550)을 이용하여 임시 고해상도 출력(570), 고해상도 트레이닝 참값(561), 및 서브스페이스 타입 기반 추정 기법에 기초하여 추정된 도래각 정보로부터 진위 정보를 출력할 수 있다. 진위 정보는 생성기 모델(540)에 의해 출력된 임시 고해상도 출력(570)이 기준 참값인 고해상도 트레이닝 참값(561)에 비해 진짜(real)인지 가짜(fake)인지 여부를 지시하는 정보일 수 있다. 트레이닝 장치는 진위 정보에 기초하여 적대적 손실(Adversarial loss)을 산출하고, 적대적 손실에 기초하여 생성기 모델(540) 및 분류기 모델(550)을 트레이닝시킬 수 있다. 트레이닝 장치는 생성기 모델(540) 및 분류기 모델(550) 중 한 모델만 트레이닝시키거나, 두 모델을 동시에 트레이닝시키거나, 두 모델을 각각 순차적으로 트레이닝시킬 수 있다.
트레이닝 장치는 트레이닝이 완료된 경우에 응답하여, 해상도 증가 모델로부터 분류기 모델(550)을 제거할 수 있다.
여기서, 트레이닝 과정에서 사용되는 부가 입력(additional input)인 MUSIC 결과(580)는 도미넌트(dominant)한 신호(signal)들의 위치를 지시하므로, 생성기 모델(540)이 도미넌트한 신호들의 위치와 무관하게 임시 고해상도 출력(570)을 생성하게 될 경우, 분류기 모델(550)이 해당 출력을 쉽게 가짜라고 판별할 수 있다. 따라서, 도 5에 따라 트레이닝된 생성기 모델(540)은, 일 실시예에 따른 해상도 증가 모델로서, 분류기 모델(550)을 속이기(fooling) 위해서는, MUSIC과 같이 정확하게 예측된 도래각 정보 및 더 많은 안테나 데이터의 DBF가 표현할 수 있는 풍부한 정보가 모두 표현되는 출력 데이터를 생성하게 된다.
도 6에 도시된 바와 같이 GAN 구조에서 트레이닝이 완료된 후, 해상도 증가 모델에서는 분류기 모델이 제거될 수 있다.
일 실시예에 따른 레이더 데이터 처리 장치는 레이더 신호의 송신 및 수신에 기초하여 레이더 센서에 의해 레이더 원시 데이터(601)를 생성할 수 있다. 레이더 데이터 처리 장치는 생성된 레이더 원시 데이터(601)에 대해 전처리 동작(612)을 수행할 수 있다. 전처리 동작(612)은 거리 FFT 동작 및 DBF 동작을 포함할 수 있으나, 이로 한정하는 것은 아니다. 레이더 데이터 처리 장치는 전처리 동작(612)의 결과로서 입력 레이더 데이터(662)를 생성할 수 있다. 예시적으로 입력 레이더 데이터(662)는 거리-각도 맵의 포맷으로 된 레이더 스캔 이미지일 수 있다. 레이더 데이터 처리 장치는 트레이닝된 생성기 모델(640)을 포함하는 해상도 증가 모델을 이용하여, 레이더 원시 데이터(601)를 전처리함으로써 생성된 입력 레이더 데이터(662)와 함께 참조 데이터베이스(690)의 참조 데이터로부터 고해상도 출력 레이더 데이터(670)를 생성할 수 있다. 생성된 고해상도 출력 레이더 데이터(670)는 입력 레이더 데이터(660)에 비해 고해상도를 가질 수 있다. 참고로, 참조 데이터는 입력 레이더 데이터(660)보다 고해상도의 데이터일 수 있으나, 이로 한정하는 것은 아니다. 또한, 참조 데이터의 해상도는 출력 레이더 데이터의 해상도와 동일할 수 있으나, 이로 한정하는 것은 아니고, 더 높거나 낮을 수도 있다.
도 7 및 도 8은 일 실시예에 따른 레이더 데이터 처리 장치가 참조 데이터를 해상도 증가 모델의 적용하는 예시를 설명한다.
도 7 및 도 8은 일 실시예에 따른 레이더 데이터 처리 장치는 상술한 바와 같이 입력 레이더 데이터로부터 입력 레이더 이미지를 생성한 예시를 설명한다. 다만, 이로 한정하는 것은 아니고, 레이더 데이터 처리 장치는 입력 레이더 데이터 자체 또는 입력 레이더 데이터로부터 변환된 다른 포맷의 데이터를 해상도 증가 모델에 제공할 수도 있다. 도 7에 도시된 입력 레이더 이미지 및 참조 레이더 이미지는 거리-각도 맵으로서, 임의의 거리 및 임의의 각도에 객체가 존재할 확률을 지시할 수 있다.
도 7에서 레이더 데이터 처리 장치는 참조 레이더 이미지(791)를 참조 데이터로서 입력 레이더 이미지(701)에 연결(concatenate)하여 입력 데이터(710)를 생성할 수 있다. 참조 레이더 이미지(791)는 예를 들어, 입력 레이더 이미지(701)의 해상도보다 높은 해상도를 가질 수 있으나, 이로 한정하는 것은 아니다. 아울러, 입력 데이터(710)는 입력 레이더 이미지(701) 및 참조 레이더 이미지(791)가 단순히(simply) 연결된(concatenated) 데이터로 설명되었으나, 이로 한정하는 것은 아니고, 임의의 다른 통합 연산(merging operation)을 통해 생성되는 단일 데이터(예를 들어, 행렬 포맷 또는 벡터 포맷)일 수도 있다.
레이더 데이터 처리 장치는 입력 데이터(710)로부터 해상도 증가 모델(740)을 이용하여 출력 레이더 데이터로서 출력 레이더 이미지를 생성할 수 있다. 도 7에서 해상도 증가 모델(740)은 하나 이상의 컨볼루션 레이어(Convolutional layer 1, Convolutional layer 2) 및 하나 이상의 풀링 레이어(Pooling1, Pooling2)를 포함하는 것으로 도시되었으나, 이로 한정하는 것은 아니다.
도 8에서 레이더 데이터 처리 장치는 참조 데이터로서 참조 특징 데이터(895)를 이용할 수 있다. 예를 들어, 참조 특징 데이터(895)는 참조 레이더 이미지로부터 특징 추출 모델을 이용하여 추출된 특징 데이터일 수 있다. 특징 추출 모델은 데이터(예를 들어, 이미지)의 특징을 추출하도록 설계된 모델(예를 들어, 뉴럴 네트워크)일 수 있다. 일 실시예에 따르면 레이더 데이터 처리 장치는 입력 레이더 데이터(801)로부터 해상도 증가 모델(840)의 일부 레이어(841)를 이용하여 입력 특징 데이터(805)를 추출할 수 있다. 도 8에서 일부 레이어(841)는 하나 이상의 컨볼루션 레이어(Convolutional layer 1) 및 풀링 레이어(Pooling1)를 포함하는 것으로 도시되었으나, 이로 한정하는 것은 아니다.
레이더 데이터 처리 장치는 입력 특징 데이터 및 참조 특징 데이터(895)로부터 해상도 증가 모델(840)의 다른 일부 레이어(842)를 이용하여 출력 레이더 데이터를 생성할 수 있다. 예를 들어, 레이더 데이터 처리 장치는 입력 레이더 데이터(801)를 획득하기 전에 저장된 참조 특징 데이터(895)를 입력 특징 데이터에 연결(concatenate)할 수 있다. 레이더 데이터 처리 장치는 참조 특징 데이터(895) 및 입력 특징 데이터가 연결된 데이터로부터 다른 일부 레이어(842)를 이용하여 출력 레이더 데이터를 생성할 수 있다. 도 8에서 다른 일부 레이어(842)는 하나 이상의 풀링 레이어(Pooling2)를 포함하는 것으로 도시되었으나, 이로 한정하는 것은 아니다. 아울러, 참조 특징 데이터(895) 및 입력 특징 데이터(805)는 추상화 레벨이 동일할 수 있으나, 이로 한정하는 것은 아니고 다를 수도 있다. 예를 들어, 참조 특징 데이터(895)를 추출하기 위해 참조 레이더 스캔 이미지에 적용된 컨볼루션 레이어의 개수와 입력 특징 데이터(805)를 추출하기 위해 입력 레이더 스캔 이미지에 적용된 컨볼루션 레이어의 개수는 동일하거나 다를 수 있다.
따라서 레이더 데이터 처리 장치는 참조 데이터베이스로서 참조 레이더 스캔 이미지 원본을 유지하는 대신, 높은 레벨(high-level)의 디테일(detail)이나 텍스쳐(texture)를 표현할 수 있는 특징 데이터를 유지할 수 있다. 특징 데이터는 데이터(예를 들어, 이미지)가 추상화된 데이터로서, 예를 들어, 특징 벡터 형태일 수 있다. 특징 데이터를 포함하는 참조 데이터베이스의 메모리 크기는 절감될 수 있다. 참조 특징 데이터(895)는 입력 레이더 데이터가 획득되기 전에 참조 데이터베이스에 저장될 수도 있다.
도 9는 일 실시예에 따른 고성능 레이더 센서를 이용한 참조 데이터 수집을 설명한다.
일 실시예에 따르면 참조 데이터는, 입력 레이더 데이터를 획득하기 이전에 레이더 센서보다 높은 해상도의 다른 레이더 센서에 의해 획득된 레이더 데이터일 수 있다.
예를 들어, 참조 데이터 수집 장치(920)는 고해상도 데이터 획득부(921) 및 참조 데이터 선별부(922)를 포함할 수 있다. 고해상도 데이터 획득부(921)는 고해상도로 레이더 데이터를 생성할 수 있는 고성능 레이더 센서를 포함할 수 있다. 고성능 레이더 센서는 하이엔드(high-end)의 하드웨어일 수 있다. 참조 데이터 선별부(922)는 고해상도 레이더 데이터 획득부(911)를 통해 수집된 고해상도 레이더 데이터를 처리 및 선별함으로써 참조 데이터베이스(990)를 생성할 수 있다. 예를 들어, 참조 데이터 선별부(922)는 장치 주변 환경에 따라 고해상도 레이더 데이터를 분류하여 참조 데이터로 저장할 수 있다. 다른 예를 들어, 참조 데이터 선별부(922)는 레이더 센서의 이동 방향에 따라 고해상도 레이더 데이터를 분류할 수도 있다.
레이더 데이터 처리 장치(910)는 레이더 데이터 획득부(911), 해상도 증가 모델(912), 및 레이더 데이터 처리부(913)를 포함할 수 있다. 해상도 증가 모델(912) 및 레이더 데이터 처리부(913)는 앞서 설명하였으므로 설명을 생략한다. 레이더 데이터 획득부(911)는 고해상도 레이더 획득부에 비해 낮은 성능의 레이더 센서를 포함할 수 있다. 레이더 데이터 처리 장치(910)의 메모리에는 참조 데이터 수집 장치(920)에 의해 생성된 참조 데이터베이스(990)가 이식될 수 있다. 따라서 레이더 데이터 처리 장치(910)는 상대적으로 저가의 레이더 센서와 함께 고해상도의 레이더 데이터에 관한 참조 데이터베이스(990)를 포함할 수 있다. 레이더 데이터 처리 장치(910)는 레이더 데이터 획득부(911)를 통해 획득된 저해상도 레이더 데이터와 함께 고해상도의 참조 데이터베이스(990)로부터 해상도 증가 모델(912)을 이용하여 고해상도의 출력 레이더 데이터를 생성할 수 있다. 레이더 데이터 처리 장치(910)는 참조 데이터의 고주파수 성분(high frequency component)를 통해 저해상도의 입력 레이더 데이터로부터 고주파수 성분을 복원할 수 있다. 참고로, 참조 데이터는, 레이더 센서와 적어도 일부 중첩되는 시야각을 가지는 다른 레이더 센서에 의해 획득된 레이더 데이터로서, 예를 들어, 고해상도 데이터 획득부(921) 및 레이더 데이터 획득부(911)의 시야각은 동일할 수 있다. 다만, 이로 한정하는 것은 아니다.
일 실시예에 따른 레이더 데이터 처리 장치(910)는 레이더 데이터 처리 장치(910)의 주변 환경을 식별(identify)할 수 있다. 주변 환경은 레이더 데이터 처리 장치(910)의 주변의 환경에 관한 정보로서, 예를 들어, 레이더 데이터 처리 장치(910)가 모바일 어플리케이션 또는 차량으로 구현된 경우 이동 환경 정보(movement environment information)일 수 있다. 예를 들어, 레이더 데이터 처리 장치(910)가 차량에 장착된 경우, 레이더 데이터 처리 장치(910)는 차량의 주행 환경을 상술한 이동 환경 정보로서 식별할 수 있다. 레이더 데이터 처리 장치(910)는 고속도로 주행 상태, 시내도로 주행 상태, 고가도로 주행 상태, 및 터널 주행 상태 등을 식별할 수 있다. 참고로, 레이더 데이터 처리 장치(910)는 레이더 데이터를 이용하여 이동 환경 정보를 식별할 수도 있으나, 이로 한정하는 것은 아니고, 측위 정보(localization)(예를 들어, GPS 정보, 가속도 정보 등) 및 지리적 맵 데이터에 기초하여 차량의 주행 환경을 식별할 수도 있다.
앞서 설명한 바와 같이, 참조 데이터 선별부(922)는 이동 환경 정보 별로 참조 데이터를 구별하여 참조 데이터베이스(990)를 생성할 수 있다. 레이더 데이터 처리 장치(910)는 참조 데이터베이스(990)에서 식별된 주변 환경에 대응하는 참조 데이터를 검색할 수 있다. 레이더 데이터 처리 장치(910)는 참조 데이터베이스(990)로부터 식별된 주변 환경에 대응하는 참조 데이터를 획득할 수 있다. 예를 들어, 현재 차량이 고속도로 주행 상태인 것으로 식별되는 경우, 레이더 데이터 처리 장치(910)는 고속도로 주행 상태로 선별된 참조 데이터를 로딩하여 입력 레이더 데이터와 함께 해상도 증가 모델(912)에 제공할 수 있다.
도 10은 일 실시예에 따른 복수의 레이더 센서들을 이용한 참조 데이터 수집을 설명한다.
일 실시예에 따르면 복수의 레이더 센서들(1011, 1012, 1013)이 차량의 여러 부위에 설치될 수 있고, 복수의 레이더 센서들(1011, 1012, 1013)에 의해 센싱된 정보를 기초로 레이더 데이터 처리 장치(1000)가 차량의 전방위(all direction)에 대한 타겟 지점까지의 거리, 방향(예를 들어, 스티어링 각도), 및 상대 속도를 상술한 바와 같이 계산할 수 있다. 레이더 데이터 처리 장치(1000)는 예를 들어, 차량에 탑재될 수 있다. 차량은 레이더 센서들(1011, 1012, 1013)에 의해 수집된 정보에 기초하여 획득된 정보를 이용하여, 주행에 도움이 되는 다양한 기능(예를 들어, ACC(Adaptive Cruise Control), BSD(Blind Spot Detection), 및 LCA(lane change assistance) 등)을 제공할 수 있다.
도 10에 도시된 바와 같이 하나의 이동체에 장착된 복수의 레이더 센서들(1011, 1012, 1013)은 동일 또는 유사한 맥락의 장면을 센싱할 수 있다. 예를 들어, 복수의 레이더 센서들(1011, 1012, 1013)의 각각의 시야각이 중첩되지 않더라도, 각 레이더 센서들(1011, 1012, 1013)은 연속된 외부 장면(1090)의 일부를 센싱할 수 있다. 예를 들어, 제1 레이더 센서(1011)는 외부 장면(1090)을 제1 시야각 범위(1091)로 센싱하고, 제2 레이더 센서(1012)는 동일한 외부 장면(1090)을 제2 시야각 범위(1092)로 센싱하며, 제3 레이더 센서(1013)는 동일한 외부 장면(1090)을 제3 시야각 범위(1093)로 센싱할 수 있다. 제1 시야각 범위(1091) 내지 제3 시야각 범위(1093)가 서로 중첩되지 않더라도 복수의 레이더 센서들(1011, 1012, 1013)이 이동체의 이동에 의존적일 수 있다. 다시 말해, 단일 이동체(예를 들어, 모바일 단말 또는 차량)에 장착된 복수의 레이더 센서들(1011, 1012, 1013)에 의해 센싱되는 레이더 데이터는 장면 맥락에 의존적일 수 있다. 상술한 바와 같이, 시야각이 겹치지 않는 다른 레이더 센서에 의해 획득된 레이더 데이터로 당해 레이더 센서에 의한 레이더 데이터의 해상도를 증가시키는데 사용될 수 있다.
예를 들어, 복수의 레이더 센서들(1011, 1012, 1013) 중 한 레이더 센서가 입력 레이더 데이터를 획득할 수 있고, 다른 레이더 센서가 추가 레이더 데이터를 획득할 수 있다. 레이더 데이터를 처리하는 장치는 추가 레이더 데이터로부터 참조 데이터를 생성할 수 있다. 레이더 센서 및 다른 레이더 센서는 동일한 이동체(moving object)에 장착될 수 있다.
참고로, 복수의 레이더 센서들(1011, 1012, 1013)의 각각은 자체적으로 프로세서 및 참조 데이터베이스를 포함할 수 있고, 서로 데이터를 교환할 수 있다. 복수의 레이더 센서들(1011, 1012, 1013) 중 한 레이더 센서는 레이더 데이터를 전처리한 결과 및/또는 레이더 데이터로부터 추출된 레이더 특징 데이터를 다른 레이더 센서로 전달할 수도 있다. 레이더 센서는 레이더 데이터를 생성하는 경우에 응답하여 지연 없이 즉시 데이터를 교환할 수 있으나, 이로 한정하는 것은 아니고, 시간차를 두고 데이터를 교환할 수도 있다.
또한, 레이더 데이터 처리 장치(1000)는 복수의 레이더 센서들(1011, 1012, 1013)의 각각에 의해 수집된 레이더 데이터를 중앙 프로세서(1020)를 통해 처리할 수도 있다. 예를 들어, 레이더 데이터 처리 장치(1000)는 자율주행 차량과 같이 서로 다른 종류의 센서들을 여러 개 사용하는 플랫폼으로 구현될 수 있다. 중앙 프로세서(1020)는 여러 센서들의 데이터를 취합하여 처리하고, 그 결과에 기초하여 차체를 제어할 수 있다. 중앙 프로세서(1020)가 복수의 레이더 센서들(1011, 1012, 1013)의 각각에서 수집된 레이더 데이터 및 참조 데이터로부터 해상도 증가 모델을 이용하여 각 레이더 센서의 시야각에 대한 고해상도의 출력 레이더 데이터를 생성할 수 있다. 각 레이더 센서의 레이더 데이터가 중앙 프로세서(1020)에 의해 처리될 경우, 데이터 전송의 오버헤드가 감소되고, 정확도가 개선될 수 있다. 레이더 센서는 레이더 데이터로부터 레이더 특징 데이터를 추출하여 중앙 프로세서(1020)로 전달함으로써 데이터 전송 속도를 개선할 수도 있다.
레이더 데이터 처리 장치(1000)는 각 레이더 센서에 대해 개별 레이더 센서에 대응하는 참조 데이터베이스 및 다른 레이더 센서에 의해 획득된 참조 데이터를 이용하여 보다 사실적인 고해상도의 출력 레이더 데이터를 생성할 수 있다.
도 9에서는 센서 레벨에서 개별 레이더 센서가 참조 데이터베이스를 포함하고, 레이더 센서가 해상도 증가 동작을 수행하여 고해상도의 레이더 데이터를 출력하는 동작을 설명하였으나, 아래에서는 비슷한 성능의 다른 레이더 센서에 의해 획득된 레이더 데이터를 참조 데이터로서 활용하는 예시를 설명한다. 예를 들어, 도 11은 서로 다른 용도의 레이더 센서들(1011, 1012, 1013) 간의 데이터 교환을 설명하고, 도 12는 인접한 시간 프레임들에서 동일한 장면 또는 객체를 센싱한 레이더 센서들(1011, 1012, 1013) 간의 데이터 교환을 설명하며, 도 13은 외부 서버로부터 참조 데이터를 검색하는 구성을 설명한다.
도 11은 일 실시예에 따른 복수의 레이더 센서들 중 시야각을 공유하는 레이더 센서들 간의 참조 데이터를 설명한다.
일 실시예에 따르면 임의의 레이더 데이터와 유사한 컨텐츠(contents)를 포함하는 다른 레이더 데이터는, 해당 레이더 데이터의 해상도를 증가시키는 참조 데이터로서 유용할 수 있다.
예를 들어, 도 11에 도시된 레이더 데이터 처리 장치는 차량에 장착될 수 있고, 복수의 레이더 센서들을 포함할 수 있다. 복수의 레이더 센서들은 넓은 센싱 범위를 커버하도록 배치될 수 있고, 예를 들어, 360도의 전방위를 커버하도록 배치될 수 있다. 예를 들어, 제1 레이더 센서(1111) 및 제2 레이더 센서(1112)는 전방 센싱 범위(1191, 1192)를 커버하고, 제3 레이더 센서(1113), 제4 레이더 센서(1114), 제6 레이더 센서(1116), 및 제7 레이더 센서(1117)는 측면 센싱 범위(1193, 1194, 1196, 1197)를 커버하며, 제5 레이더 센서(1115)는 후방 센싱 범위(1195)를 커버할 수 있다.
각 레이더 센서는 다양한 시야각 및 센싱 거리를 가질 수 있다. 레이더 센서의 사양은 이동체(예를 들어, 차량)의 장착 위치에 따라 결정될 수 있다. 예를 들어, 이동체의 전면에 장착되는 제1 레이더 센서(1111)는 LRR (Long Range Radar)로서 좁은 시야각과 낮은 거리 해상도(예를 들어, 큰 거리 분해능 단위), 및 낮은 각 해상도(예를 들어, 큰 각도 분해능 단위)를 가질 수 있으나, 먼 탐지 거리 및 높은 최대 탐지 가능 속도(maximum detectable velocity)를 가질 수 있다. 예를 들어, 다른 타입의 레이더 센서의 최대 탐지 가능 속도가 -100km/h 부터 100km/h까지라면, LRR 타입의 레이더 센서의 최대 탐지 가능 속도는 -300km/h부터 200km/h까지일 수 있다. LRR은 ACC (Adaptive Cruise Control)에 사용될 수 있다. 이동체의 측면에 장착되는 제3 레이더 센서(1113), 제4 레이더 센서(1114), 제6 레이더 센서(1116), 및 제7 레이더 센서(1117)는 MRR (Middle Range Radar)로서 중간 정도의 해상도 및 시야각을 가질 수 있다. 이동체의 전면 및 후면에 각각 장착되는 제2 레이더 센서(1112) 및 제5 레이더 센서(1115)는 SRR (Short Range Radar)로서, 짧은 탐지 거리를 갖지만 넓은 시야각과 높은 거리 해상도 및 높은 각 해상도를 가질 수 있다. MRR 및 SRR은 차량의 정지 및 진행(Stop& Go), ACC 보조, LCA (Lane Change Assist), BSD (Blind Spot Detection), 및 백업 레이더(Back-up radar)로서 사용될 수 있다.
일 실시예에 따른 레이더 데이터 처리 장치는 서로 다른 사양의 레이더 센서에 의해 획득된 레이더 데이터를 다른 레이더 센서와 교환시키거나 중앙 프로세서가 복수의 레이더 데이터를 수집함으로써, 각 레이더 데이터의 해상도를 증가시키는데 사용할 수 있다. 도 11에 도시된 바와 같이 360도의 전방위를 센싱 가능하게 배치된 레이더 센서들의 각각은 다른 레이더 센서와 적어도 일부 센싱 영역 및/또는 시야각을 공유할 수 있다. 제1 레이더 센서(1111)는 제2 레이더 센서(1112)와 제1 중첩 센싱 영역(1181)을 공유할 수 있다. 제2 레이더 센서(1112)는 제3 레이더 센서(1113)와 제2 중첩 센싱 영역(1182)을 공유할 수 있다. 제3 레이더 센서(1113)는 제4 레이더 센서(1114)와 제3 중첩 센싱 영역(1183)을 공유할 수 있다. 유사하게, 제6 레이더 센서(1116)는 제7 레이더 센서(1117)와 제4 중첩 센싱 영역(1184)을 공유하고, 제7 레이더 센서(1117)는 제2 레이더 센서(1112)와 제5 중첩 센싱 영역(1185)을 공유할 수 있다.
예를 들어, 레이더 데이터 처리 장치에서 임의의 레이더 센서와 적어도 일부 시야각이 오버랩되는 다른 레이더 센서가 추가 레이더 데이터를 획득할 수 있다. 레이더 데이터 처리 장치는 시야각이 오버랩되는 추가 레이더 데이터로부터 참조 데이터를 생성할 수 있다. 시야각이 오버랩되는 다른 레이더 센서에 의해 센싱된 추가 레이더 데이터는 연속된 장면 중에서도 동일한 부분 장면(partial scene)에 관한 것이므로, 레이더 데이터의 해상도를 증가시키기 위한 참조 데이터로서의 가치가 높을 수 있다. 참고로, 도 10에서는 레이더 센서 각각이 참조 데이터베이스를 포함하는 예시를 설명하였으나, 이로 한정하는 것은 아니고, 각 레이더 센서는 기 저장된 참조 데이터베이스 없이, 다른 레이더 센서로부터 전달되는 레이더 데이터를 참조 데이터로서 활용할 수도 있다. 다른 레이더 센서에 의해 획득되는 참조 데이터는 레이더 원시 데이터 포맷으로 저장 및/또는 전달될 수 있으나, 이로 한정하는 것은 아니고 레이더 원시 데이터로부터 고레벨 특징 데이터의 형태로 추출되어 전달될 수도 있다.
도 12는 일 실시예에 따른 복수의 레이더 센서들 중 동일한 객체를 센싱한 레이더 센서들 간의 참조 데이터를 설명한다.
일 실시예에 따른 레이더 데이터 처리 장치는, 임의의 레이더 센서에 의해 획득된 입력 레이더 데이터의 해상도를 증가시키기 위해, 이전 시간 프레임에서 다른 레이더 센서에 의해 획득된 이전 레이더 데이터 중 현재 시간 프레임에서 레이더 센서의 시야각과 적어도 일부 장면이 공유되는 데이터를 이용하여 참조 데이터를 생성할 수 있다. 다시 말해, 레이더 데이터 처리 장치는 이동체(예를 들어, 차량)의 측위 정보, 이동 정보, 레이더 센서들의 배치 정보, 및 레이더 센서들의 센싱 영역에 관한 정보 중 하나 또는 둘 이상의 조합에 기초하여 현재 시간 프레임의 각 레이더 센서에 대해 이전 시간 프레임에서 동일한 부분 장면을 센싱한 다른 레이더 센서를 결정할 수 있다. 레이더 데이터 처리 장치는 다른 레이더 센서에 의해 이전 시간 프레임에서 센싱된 레이더 데이터를, 현재 시간 프레임의 해당 레이더 센서에 의한 입력 레이더 데이터의 해상도를 증가시키기 위한 참조 데이터로 이용할 수 있다.
예를 들어, 도 11에 도시된 바와 같이 레이더 센서들이 배치된 차량에 있어서, 차량이 주행하는 동안 차량의 움직임 및 시간 경과에 따라 임의의 한 레이더 센서에서 센싱됐던 영역이 다른 레이더 센서에 의해 센싱될 수 있다. 예를 들어, 차량이 직진하는 경우, 제1 레이더 센서(1211)에 의해 제1 시점(1201)에서 센싱된 장면은, 제1 시점(1201) 이후의 제2 시점(1202)에서 제2 레이더 센서(1212)에 의해 센싱될 수 있다. 이 경우, 제1 시점(1201)에서 제1 레이더 센서에 의해 센싱된 레이더 데이터는, 제2 시점(1202)에서 제2 레이더 센서에 의해 센싱된 입력 레이더 데이터의 해상도를 증가시키기 위한 참조 데이터로서 이용될 수 있다. 제1 레이더 센서(1211)가 센싱한 부분 장면은, 일정 시간(예를 들어, 짧은 시간) 경과 후 차량의 움직임에 따라 제2 레이더 센서(1212)에 의해 센싱되는 부분 장면과 중첩될 수 있다.
또한, 레이더 데이터 처리 장치는 이전 시간 프레임에서 다른 레이더 센서에 의해 획득된 이전 레이더 데이터 중 현재 시간 프레임에서 레이더 센서를 통해 검출된 객체를 포함하는 데이터를 이용하여 참조 데이터를 생성할 수 있다. 예를 들어, 레이더 데이터 처리 장치는 차량의 주변에 표적(1290)이 검출되는 경우에 응답하여, 차량의 측위 정보, 차량의 이동 정보, 레이더 센서들의 배치 정보, 레이더 센서들의 센싱 영역에 관한 정보, 및 표적(1290)의 이동 정보 중 하나 또는 둘 이상의 조합에 기초하여 이전 시간 프레임에서 표적(1290)을 센싱한 다른 레이더 센서를 결정할 수 있다. 예를 들어, 차량이 직진하는 경우, 제1 레이더 센서(1211)에 의해 제1 시점(1201)에서 센싱된 객체는, 제1 시점(1201) 이후의 제2 시점(1202)에서 제2 레이더 센서(1212)에 의해 센싱될 수 있다. 레이더 데이터 처리 장치는 다른 레이더 센서에 의해 이전 시간 프레임에서 센싱된 레이더 데이터를, 현재 시간 프레임의 해당 레이더 센서에 의한 입력 레이더 데이터의 해상도를 증가시키기 위한 참조 데이터로 이용할 수 있다. 따라서, 레이더 데이터 처리 장치는 동일 표적(1290)에 대해 다른 시점에서 다중 뷰(multi-view)로 센싱된 정보를 참조 데이터로 이용할 수 있다.
참고로, 도 12에서는 직진을 예로 들어 설명하였으나, 이로 한정하는 것은 아니고, 차량이 우회전, 좌회전, U턴 등과 같은 주행을 하는 경우, 같은 표적(1290) 및/또는 장면에 대하여 전방, 전측방, 후측방, 후방 등의 레이더 센서가 다른 시점에서 다른 뷰로 센싱할 수 있다.
도 13은 일 실시예에 따른 레이더 데이터 처리 장치가 외부 서버로부터 참조 데이터를 검색 및 수신하는 예시를 설명한다.
일 실시예에 따르면 레이더 데이터 처리 장치(1300)는 레이더 데이터 처리 장치(1300)의 외부 데이터베이스로부터 식별된 주변 환경에 대응하는 참조 데이터(1331)를 수신할 수 있다. 주변 환경은 도 9에서 상술하였으므로 설명을 생략한다. 레이더 데이터 처리 장치(1300)는 통신부(1340)를 통해 외부 서버(1390)와 유선 또는 무선 통신을 수립할 수 있으며, 인터넷에 접속할 수 있다. 예를 들어, 레이더 데이터 처리 장치(1300)의 프로세서(1320)는 식별된 주변 환경(예를 들어, 다리, 터널, 및 도심 등)에 대응하는 데이터(예를 들어, 레이더 스캔 이미지 및 특징 데이터 등)를 외부 서버(1390)에 요청 및/또는 외부 서버(1390)에서 검색할 수 있다. 레이더 데이터 처리 장치(1300)는 외부 서버(1390)로부터 수신된 참조 데이터(1331)를 메모리(1330)의 참조 데이터베이스에 저장할 수도 있다. 따라서 레이더 데이터 처리 장치(1300)는 레이더 데이터(예를 들어, 레이더 스캔 이미지)의 업스케일링을 위해 적합하거나 필요한 참조 데이터베이스를 주변 환경에 응답하여 적응적으로(adaptive) 웹 검색(web retrieval)을 통해 구축(build)할 수 있다. 또한, 레이더 데이터 처리 장치(1300)는 외부 서버(1390)와의 통신을 통해 참조 데이터(1331) 및 해상도 증가 모델(1332)을 업데이트할 수도 있다.
센서(1310)는 상술한 레이더 센서 외에도 다양한 센서를 부가적으로 더 포함할 수도 있다. 레이더 센서 이외의 다른 종류의 센서는 아래 도 14에서 설명한다.
도 14는 일 실시예에 따른 다양한 센서를 통해 수집된 추가 정보를 추가 참조 데이터로서 이용하는 예시를 설명한다.
일 실시예에 따르면 레이더 데이터 처리 장치는 레이더 센서 외에도 다양한 센서를 통해 추가 정보를 수집하여 참조 데이터로서 이용할 수 있다. 예를 들어, 레이더 데이터 처리 장치는 레이더 센서와 공통되는 기준 좌표계를 기준으로 정렬된 적외선 센서, 이미지 센서, 및 라이다 센서 중 적어도 하나에 기초하여 참조 데이터를 획득할 수 있다. 도 14에서는 라이다 데이터로서 라이다 이미지 맵(1491) 및 카메라 데이터로서 카메라 이미지(1492)가 참조 데이터로서 획득될 수 있다. 레이더 데이터 처리 장치는 레이더 센서, 라이다 센서, 및 카메라 센서를 캘리브레이션(calibration)함으로써, 센서들의 좌표계를 기준 좌표계로 통일할 수 있다. 레이더 데이터 처리 장치는 입력 레이더 데이터(1410)와 함께 라이다 이미지 맵(1491) 및 카메라 이미지(1492)를 해상도 증가 모델(1420)에 적용함으로써, 출력 레이더 데이터(1480)를 생성할 수 있다.
도 15는 도 14에서 수집된 다양한 추가 정보에 기초한 객체 검출 결과를 추가 참조 데이터로서 이용하는 예시를 설명한다.
일 실시예에 따른 레이더 데이터 처리 장치는 앞서 도 14에서 설명된 다양한 추가 센서들에 의해 획득된 데이터로부터 추가적인 정보를 추출하여 이용할 수 있다.
예를 들어, 레이더 데이터 처리 장치는 참조 데이터로부터 객체를 검출하고 분류할 수 있다. 도 15에서는 레이더 데이터 처리 장치는 참조 데이터로서 카메라 이미지(1590)를 획득할 수 있고, 카메라 이미지(1590)로부터 객체를 검출 및 분류할 수 있다. 예를 들어, 차량의 주변에 존재하는 객체의 이미지 상의 좌표를 계산하고, 객체의 종류(예를 들어, 차량, 보행자, 신호등, 및 장애물 등)를 식별할 수 있다.
레이더 데이터 처리 장치는 객체의 분류 결과(1591)와 함께 입력 레이더 데이터(1510) 및 참조 데이터로부터 해상도 증가 모델(1520)을 이용하여 출력 레이더 데이터(1580)를 생성할 수 있다. 앞서 도 14에서 설명한 바와 같이 센서들이 기준 좌표계로 정렬되었으므로, 레이더 데이터 이외의 정보로부터 객체 검출 및 분류 결과(1591)를 이용하여 보다 고해상도의 출력 레이더 데이터(1580)가 생성될 수 있다. 입력 레이더 데이터(1510)에서 특정 타겟 지점으로부터 반사된 신호가 지시하는 객체 타입(예를 들어, 차량, 자전거, 및 사람 등)이 주어지기 때문이다. 예를 들어, 레이더 데이터 처리 장치는 해상도 증가 모델(1520)을 통해, 입력 레이더 데이터(1510)에서 객체가 검출된 지점(point)에 대해 객체 분류에 따른 이득(gain)을 주면서 출력 레이더 데이터(1580)를 생성할 수 있다.
도 16은 일 실시예에 따른 레이더 데이터 처리 장치가 모바일 어플리케이션으로서 구현되는 예시를 설명하는 도면이다.
일 실시예에 따른 레이더 데이터 처리 장치(1600)는 모바일 단말에 구현될 수도 있다. 레이더 데이터 처리 장치(1600)는 레이더 센서(1610)를 통해 사용자의 신체의 적어도 일부에 대한 레이더 데이터를 입력 레이더 데이터로서 센싱할 수 있다.
레이더 데이터 처리 장치(1600)의 데이터 전처리부(1621)는 입력 레이더 데이터에 대해 전처리를 적용함으로써 입력 레이더 스캔 이미지를 생성할 수 있다. 레이더 데이터 처리 장치(1600)는 참조 데이터베이스(1690)를 고려하여 입력 레이더 스캔 이미지로부터 해상도 증가 모델(1622)을 이용하여 출력 레이더 스캔 이미지를 생성할 수 있다.
레이더 데이터 처리 장치(1600)의 어플리케이션 수행부(1623)는 출력 레이더 데이터에 기초하여 사용자의 제스쳐(gesture), 신체 부위(body part), 및 신원(identity) 중 하나 또는 둘 이상의 조합을 인식하여 인식 결과를 지시할 수 있다. 예를 들어, 어플리케이션 수행부(1623)는 인식 결과에 대응하는 동작(예를 들어, 장치의 잠금 상태를 언락)을 수행하거나, 인식 결과를 디스플레이를 통해 시각화할 수 있다.
레이더 데이터 처리 장치(1600)는 모바일 단말에 탑재된 레이더 센서(1610)를 통해 레이더 데이터를 획득할 뿐만 아니라, 카메라 센서나 적외선 센서를 이용한 이미지 데이터까지 획득할 수 있다.
도 17은 일 실시예에 따른 레이더 데이터 처리 방법을 설명하는 흐름도이다.
우선, 단계(1710)에서 레이더 데이터 처리 장치는 레이더 센서에 의해 입력 레이더 데이터를 획득할 수 있다. 레이더 데이터 처리 장치는 레이더 센서 외의 추가적인 센서를 통해, 다른 종류의 정보도 수집할 수 있다.
그리고 단계(1720)에서 레이더 데이터 처리 장치는 입력 레이더 데이터 및 참조 데이터로부터 해상도 증가 모델을 이용하여 입력 레이더 데이터의 해상도보다 증가된 해상도를 가지는 출력 레이더 데이터를 생성할 수 있다.
일 실시예에 따른 레이더 데이터 처리 장치는 참조 데이터와 함께 입력 레이더 데이터를 해상도 증가 모델에 적용함으로써, 미세한 디테일(fine detail)이 복원된 고해상도 출력 레이더 데이터를 생성할 수 있다. 레이더 데이터 처리 장치는 참조 데이터 내에 존재하는 풍부한 텍스쳐(rich textures) 및 미세한 디테일(fine detail)를 참고하여 보다 실제적인 출력 레이더 데이터를 복원할 수 있다. 상술한 바와 같이 레이더 데이터 처리 장치는 참조 데이터를 통해 고해상도의 텍스쳐를 적응적으로 고해상도 출력 데이터의 복원에 반영할 수 있으며, 해상도 증가에 있어서의 ill-posed 문제를 완화시킬 수 있다.
다만, 레이더 데이터 처리 방법을 도 17에 상술한 바로 한정하는 것은 아니고, 도 1 내지 도 16에서 상술한 동작들 중 하나 이상과 동시에 병렬적으로 또는 순차적으로 수행될 수 있다.
도 18은 일 실시예에 따른 트레이닝 장치를 설명하는 도면이다.
일 실시예에 따른 트레이닝 장치(1800)는 프로세서(1810) 및 메모리(1820)를 포함할 수 있다.
프로세서(1810)는 원본 레이더 원시 데이터를 구성하는 복수의 차원들 중 적어도 한 차원에 대응하는 정보에 기초하여, 원본 레이더 원시 데이터로부터 고해상도 트레이닝 참값(1842) 및 저해상도 트레이닝 입력(1841)을 생성할 수 있다. 예를 들어, 프로세서(1810)는 원본 레이더 원시 데이터 중 트레이닝에 사용할 데이터를 선별하고, 선별된 데이터를 전처리하여 상술한 고해상도 트레이닝 참값(1842) 및 저해상도 트레이닝 입력(1841)을 생성할 수 있다. 프로세서(1810)는 저해상도 트레이닝 입력(1841) 및 참조 데이터로부터 고해상도 트레이닝 참값(1842)이 출력되도록 해상도 증가 모델(1830)을 트레이닝시킬 수 있다.
예를 들어, 트레이닝 장치(1800)의 프로세서(1810)는 저해상도 트레이닝 입력(1841), 참조 데이터 및 고해상도 트레이닝 참값(1842)에 기초하여 해상도 증가 모델(1830)을 트레이닝시킬 수 있다. 예를 들어, 트레이닝 장치(1800)는 임시 해상도 증가 모델(1830)에 기초하여 저해상도 트레이닝 입력(1841) 및 참조 데이터로부터 임시 고해상도 출력을 생성할 수 있다. 여기서, 임시 해상도 증가 모델(1830)은 트레이닝이 완료되기 전의 해상도 증가 모델(1830)을 나타낼 수 있고, 임시 고해상도 출력은 트레이닝이 완료되기 전의 해상도 증가 모델(1830)의 출력을 나타낼 수 있다. 트레이닝 장치(1800)는 상술한 임시 고해상도 출력 및 고해상도 트레이닝 참값(1842)(ground truth) 간의 손실을 미리 정의된 손실 함수에 기초하여 산출할 수 있다. 트레이닝 장치(1800)는 산출된 손실에 기초하여, 해상도 증가 모델(1830)을 트레이닝시킬 수 있다. 예를 들어, 트레이닝 장치(1800)는 손실이 최소화되도록 해상도 증가 모델(1830)의 파라미터를, 예를 들어, 역전파 방식(back propagation)으로, 업데이트할 수 있다. 다만, 트레이닝을 이로 한정하는 것은 아니고, 뉴럴 네크워크의 구조에 따라 다양한 방식의 트레이닝 기법이 적용될 수 있다. 예를 들어, 도 4, 도 7, 및 도 8에 도시된 해상도 증가 모델들(400, 740, 840)은 도 18에서 설명된 트레이닝이 적용될 수 있고, 도 6에 도시된 해상도 증가 모델에는 도 5에 설명된 트레이닝이 적용될 수 있다.
메모리(1820)는 해상도 증가 모델(1830)을 저장할 수 있다. 또한, 메모리(1820)는 참조 데이터베이스, 트레이닝 데이터(1840) 및 해상도 증가 모델(1830)을 트레이닝시키기 위해 요구되는 데이터를 임시로 또는 반영구적으로 저장할 수도 있다. 예를 들어, 메모리(1820)는 트레이닝 입력(1841) 및 참조 데이터로부터 해상도 증가 모델(1830)에 기초하여 산출된 임시 고해상도 출력을 저장할 수도 있다. 트레이닝 데이터(1840)는 상술한 바와 같이 트레이닝 입력(1841) 및 트레이닝 출력(1842)의 쌍을 포함할 수 있다. 참고로, 트레이닝 동작에 사용된 참조 데이터는, 트레이닝 완료 후 출력 레이더 데이터를 생성하는 데도 사용될 수 있다.
도 19는 일 실시예에 따른 레이더 데이터 처리 장치의 다른 예시적인 구성을 설명하는 블록도이다.
도 19를 참조하면, 컴퓨팅 장치(1900)는 위에서 설명한 레이더 데이터를 처리하는 방법을 이용하여 레이더 데이터를 처리하는 장치이다. 일 실시예에서, 컴퓨팅 장치(1900)는 도 2에서 설명된 장치(200)에 대응할 수 있다. 컴퓨팅 장치(1900)는, 예를 들어 이미지 처리 장치, 스마트폰, 웨어러블 기기(wearable device), 태블릿 컴퓨터, 넷북, 랩탑, 데스크탑, PDA(personal digital assistant), HMD(head mounted display), 드론, 및 자율 주행 차량 등일 수 있다.
도 19를 참조하면, 컴퓨팅 장치(1900)는 프로세서(1910), 저장 장치(1920), 센서(1930), 입력 장치(1940), 출력 장치(1950) 및 네트워크 인터페이스(1960)를 포함할 수 있다. 프로세서(1910), 저장 장치(1920), 센서(1930), 입력 장치(1940), 출력 장치(1950) 및 네트워크 인터페이스(1960)는 통신 버스(1970)를 통해 서로 통신할 수 있다.
프로세서(1910)는 컴퓨팅 장치(1900) 내에서 실행하기 위한 기능 및 인스트럭션들을 실행한다. 예를 들어, 프로세서(1910)는 저장 장치(1920)에 저장된 인스트럭션들을 처리할 수 있다. 프로세서(1910)는 도 1 내지 도 18을 통하여 전술한 하나 이상의 동작을 수행할 수 있다.
저장 장치(1920)는 프로세서의 실행에 필요한 정보 내지 데이터를 저장한다. 저장 장치(1920)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함할 수 있다. 저장 장치(1920)는 프로세서(1910)에 의해 실행하기 위한 인스트럭션들을 저장할 수 있고, 컴퓨팅 장치(1900)에 의해 소프트웨어 또는 애플리케이션이 실행되는 동안 관련 정보를 저장할 수 있다.
센서(1930)는 레이더 센서와 함께, 라이다 센서, 카메라 센서, 및 적외선 센서 등과 같은 다양한 종류의 센서를 포함할 수 있다.
입력 장치(1940)는 촉각, 비디오, 오디오 또는 터치 입력을 통해 사용자로부터 입력을 수신할 수 있다. 입력 장치(1940)는 키보드, 마우스, 터치 스크린, 마이크로폰, 또는 사용자로부터 입력을 검출하고, 검출된 입력을 전달할 수 있는 임의의 다른 장치를 포함할 수 있다.
출력 장치(1950)는 시각적, 청각적 또는 촉각적인 채널을 통해 사용자에게 컴퓨팅 장치(1900)의 출력을 제공할 수 있다. 출력 장치(1950)는 예를 들어, 디스플레이, 터치 스크린, 스피커, 진동 발생 장치 또는 사용자에게 출력을 제공할 수 있는 임의의 다른 장치를 포함할 수 있다.
네트워크 인터페이스(1960)는 유선 또는 무선 네트워크를 통해 외부 서버와 통신할 수 있다.
일 실시예에 따르면 출력 장치(1950)는 레이더 데이터를 처리한 결과 등을 시각 정보(visual information), 청각 정보(auditory information), 및 촉각 정보(haptic information) 중 적어도 하나를 이용하여 사용자에게 제공할 수 있다. 예를 들어, 컴퓨팅 장치(1900)가 차량에 장착된 경우, 컴퓨팅 장치(1900)는 출력 레이더 데이터에 기초하여 레이더 데이터 처리 장치의 주변에 존재하는 객체에 관한 탐지 결과, 추적 결과, 인식 결과(recognition result), 주변 맵, 및 출력 스캔 이미지 중 하나 또는 둘 이상의 조합을 포함하는 결과 데이터를 생성할 수 있다. 출력 장치(1950)는 상술한 결과 데이터를 디스플레이를 통해 시각화할 수 있다. 다른 예를 들어, 컴퓨팅 장치(1900)는 출력 레이더 데이터로부터 산출된 결과 데이터에 기초하여 장치(1900)가 장착된 차량의 속도, 가속도, 및 조향 중 적어도 하나를 변경할 수 있다.
참고로, 본 명세서에서 센서는 주로 레이더 센서인 것으로 설명하였으나, 라이더 센서로 구현될 수도 있다. 도 1 내지 도 18에서 레이더 데이터로 설명된 부분은 라이다 데이터(LiDAR data)로 대체될 수 있다. 일 실시예에 따르면, 데이터 처리 장치는 라이다 센서를 통해 입력 라이다 데이터를 획득하고, 입력 라이다 데이터와 함께 참조 데이터를 해상도 증가 모델에 제공함으로써 출력 라이다 데이터를 생성할 수도 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다.　 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.　　
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (20)

  1. 레이더 센서에 의해 입력 레이더 데이터를 획득하는 단계; 및
    상기 입력 레이더 데이터 및 참조 데이터(reference data)로부터 해상도 증가 모델을 이용하여 상기 입력 레이더 데이터의 해상도보다 증가된 해상도를 가지는 출력 레이더 데이터를 생성하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  2. 제1항에 있어서,
    상기 입력 레이더 데이터를 획득하는 단계는,
    상기 입력 레이더 데이터로부터 입력 레이더 이미지를 생성하는 단계
    를 포함하고,
    상기 출력 레이더 데이터를 생성하는 단계는,
    상기 입력 레이더 이미지의 해상도보다 높은 해상도를 가지는 참조 레이더 이미지를 상기 참조 데이터로서 상기 입력 레이더 이미지에 연결(concatenate)하여 입력 데이터를 생성하는 단계; 및
    상기 입력 데이터로부터 상기 해상도 증가 모델을 이용하여 상기 출력 레이더 데이터로서 출력 레이더 이미지를 생성하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  3. 제1항에 있어서,
    상기 참조 데이터는,
    상기 입력 레이더 데이터를 획득하기 이전에 상기 레이더 센서보다 높은 해상도의 다른 레이더 센서에 의해 획득된 레이더 데이터인,
    레이더 데이터를 처리하는 방법.
  4. 제3항에 있어서,
    상기 참조 데이터는,
    상기 레이더 센서와 적어도 일부 중첩되는 시야각을 가지는 다른 레이더 센서에 의해 획득된 레이더 데이터인,
    레이더 데이터를 처리하는 방법.
  5. 제1항에 있어서,
    상기 출력 레이더 데이터를 생성하는 단계는,
    레이더 데이터 처리 장치의 주변 환경을 식별(identify)하는 단계; 및
    참조 데이터베이스로부터 상기 식별된 주변 환경에 대응하는 참조 데이터를 획득하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  6. 제5항에 있어서,
    상기 참조 데이터를 획득하는 단계는,
    상기 레이더 데이터 처리 장치의 외부 데이터베이스로부터 상기 식별된 주변 환경에 대응하는 상기 참조 데이터를 수신하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  7. 제1항에 있어서,
    다른 레이더 센서가 추가 레이더 데이터를 획득하는 단계; 및
    상기 추가 레이더 데이터로부터 상기 참조 데이터를 생성하는 단계
    를 더 포함하고,
    상기 레이더 센서 및 다른 레이더 센서는 동일한 이동체(moving object)에 장착되는,
    레이더 데이터를 처리하는 방법.
  8. 제7항에 있어서,
    상기 추가 레이더 데이터를 획득하는 단계는,
    상기 레이더 센서와 적어도 일부 시야각이 오버랩되는 상기 다른 레이더 센서가 상기 추가 레이더 데이터를 획득하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  9. 제7항에 있어서,
    상기 참조 데이터를 생성하는 단계는,
    이전 시간 프레임에서 상기 다른 레이더 센서에 의해 획득된 이전 레이더 데이터 중 현재 시간 프레임에서 상기 레이더 센서의 시야각과 적어도 일부 장면이 공유되는 데이터를 이용하여 상기 참조 데이터를 생성하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  10. 제7항에 있어서,
    상기 참조 데이터를 생성하는 단계는,
    이전 시간 프레임에서 상기 다른 레이더 센서에 의해 획득된 이전 레이더 데이터 중 현재 시간 프레임에서 상기 레이더 센서를 통해 검출된 객체를 포함하는 데이터를 이용하여 상기 참조 데이터를 생성하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  11. 제1항에 있어서,
    상기 출력 레이더 데이터를 생성하는 단계는,
    상기 입력 레이더 데이터로부터 상기 해상도 증가 모델의 일부 레이어를 이용하여 입력 특징 데이터를 추출하는 단계;
    상기 입력 특징 데이터 및 참조 특징 데이터로부터 상기 해상도 증가 모델의 다른 일부 레이어를 이용하여 상기 출력 레이더 데이터를 생성하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  12. 제11항에 있어서,
    상기 다른 일부 레이어를 이용하여 상기 출력 레이더 데이터를 생성하는 단계는,
    상기 입력 레이더 데이터를 획득하기 전에 저장된 상기 참조 특징 데이터를 상기 입력 특징 데이터에 연결(concatenate)하는 단계; 및
    상기 참조 특징 데이터 및 상기 입력 특징 데이터가 연결된 데이터로부터 상기 다른 일부 레이어를 이용하여 상기 출력 레이더 데이터를 생성하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  13. 제1항에 있어서,
    상기 레이더 센서와 공통되는 기준 좌표계를 기준으로 정렬된 적외선 센서, 이미지 센서, 및 라이다 센서 중 적어도 하나에 기초하여 상기 참조 데이터를 획득하는 단계
    를 더 포함하는 레이더 데이터를 처리하는 방법.
  14. 제13항에 있어서,
    상기 참조 데이터를 획득하는 단계는,
    상기 참조 데이터로부터 객체를 검출하고 분류하는 단계
    를 포함하고,
    상기 출력 레이더 데이터를 생성하는 단계는,
    상기 객체의 분류 결과와 함께 상기 입력 레이더 데이터 및 상기 참조 데이터로부터 상기 해상도 증가 모델을 이용하여 상기 출력 레이더 데이터를 생성하는 단계
    를 포함하는 레이더 데이터를 처리하는 방법.
  15. 제1항에 있어서,
    상기 출력 레이더 데이터에 기초하여 레이더 데이터 처리 장치의 주변에 존재하는 객체에 관한 탐지 결과, 추적 결과, 인식 결과(recognition result), 주변 맵, 및 출력 스캔 이미지 중 하나 또는 둘 이상의 조합을 포함하는 결과 데이터를 생성하는 단계
    를 더 포함하는 레이더 데이터를 처리하는 방법.
  16. 제15항에 있어서,
    상기 결과 데이터를 디스플레이를 통해 시각화하는 단계
    를 더 포함하는 레이더 데이터를 처리하는 방법.
  17. 제1항에 있어서,
    상기 출력 레이더 데이터로부터 산출된 결과 데이터에 기초하여 레이더 신호 처리 장치가 장착된 차량의 속도, 가속도, 및 조향 중 적어도 하나를 변경하는 단계
    를 더 포함하는 레이더 데이터를 처리하는 방법.
  18. 제1항에 있어서,
    상기 입력 레이더 데이터를 획득하는 단계는,
    사용자의 신체의 적어도 일부에 대한 레이더 데이터를 상기 입력 레이더 데이터로서 센싱하는 단계
    를 포함하고,
    상기 출력 레이더 데이터에 기초하여 상기 사용자의 제스쳐(gesture), 신체 부위(body part), 및 신원(identity) 중 하나 또는 둘 이상의 조합을 인식하여 인식 결과를 지시하는 단계
    를 더 포함하는 레이더 데이터를 처리하는 방법.
  19. 제1항 내지 제18항 중 어느 한 항의 방법을 수행하기 위한 명령어를 포함하는 하나 이상의 컴퓨터 프로그램을 저장한 컴퓨터 판독 가능 기록 매체.
  20. 레이더 신호를 전송 및 수신함으로써 입력 레이더 데이터를 획득하는 레이더 센서; 및
    상기 입력 레이더 데이터 및 참조 데이터(reference data)로부터 해상도 증가 모델을 이용하여 상기 입력 레이더 데이터의 해상도보다 증가된 해상도를 가지는 출력 레이더 데이터를 생성하는 프로세서
    를 포함하는 레이더 데이터 처리 장치.
KR1020190149338A 2019-11-20 2019-11-20 참조 데이터를 이용한 레이더 데이터 처리 장치 및 방법 KR20210061597A (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020190149338A KR20210061597A (ko) 2019-11-20 2019-11-20 참조 데이터를 이용한 레이더 데이터 처리 장치 및 방법
US16/912,250 US11719811B2 (en) 2019-11-20 2020-06-25 Method and device to improve radar data using reference data
CN202010701669.9A CN112824931A (zh) 2019-11-20 2020-07-20 使用参考数据改善雷达数据的方法和设备
EP20198414.3A EP3825728A1 (en) 2019-11-20 2020-09-25 Method and device to improve radar data using reference data background

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190149338A KR20210061597A (ko) 2019-11-20 2019-11-20 참조 데이터를 이용한 레이더 데이터 처리 장치 및 방법

Publications (1)

Publication Number Publication Date
KR20210061597A true KR20210061597A (ko) 2021-05-28

Family

ID=72659644

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190149338A KR20210061597A (ko) 2019-11-20 2019-11-20 참조 데이터를 이용한 레이더 데이터 처리 장치 및 방법

Country Status (4)

Country Link
US (1) US11719811B2 (ko)
EP (1) EP3825728A1 (ko)
KR (1) KR20210061597A (ko)
CN (1) CN112824931A (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023234567A1 (ko) * 2022-05-30 2023-12-07 경북대학교 산학협력단 카메라와 레이더 센서를 이용한 딥러닝 기반 레이더 센서 고장 분류 장치 및 방법

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201807616D0 (en) * 2018-05-10 2018-06-27 Radio Physics Solutions Ltd Improvements in or relating to threat classification
US11852750B2 (en) * 2019-06-28 2023-12-26 Smart Radar System, Inc. Method and apparatus for radar signal processing using recurrent neural network
US11762079B2 (en) * 2020-09-30 2023-09-19 Aurora Operations, Inc. Distributed radar antenna array aperture
US11300652B1 (en) * 2020-10-30 2022-04-12 Rebellion Defense, Inc. Systems and methods for generating images from synthetic aperture radar data using neural networks
US20220171059A1 (en) * 2020-12-02 2022-06-02 Waymo Llc Dynamic sensing channel multiplexing for lidar applications
WO2022139783A1 (en) * 2020-12-21 2022-06-30 Intel Corporation High end imaging radar
US20230140890A1 (en) * 2021-11-09 2023-05-11 Aptiv Technologies Limited Machine-Learning-Based Super Resolution of Radar Data
CN114185038B (zh) * 2021-11-29 2022-08-12 珠海安自达科技有限公司 一种基于毫米波雷达网实现超高角度分辨力的方法及系统
TWI808874B (zh) * 2022-08-19 2023-07-11 明泰科技股份有限公司 用於交通工具的雷達系統及偵測方法
CN117291808B (zh) * 2023-11-27 2024-02-20 浙江优众新材料科技有限公司 一种基于流先验与极偏补偿的光场图像超分辨处理方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8989519B2 (en) 2009-04-20 2015-03-24 Yeda Research & Development Co. Ltd. Super resolution from a single signal
EP3009983A1 (en) * 2014-10-13 2016-04-20 Conti Temic microelectronic GmbH Obstacle detection apparatus and method
US10168785B2 (en) * 2015-03-03 2019-01-01 Nvidia Corporation Multi-sensor based user interface
GB201604672D0 (en) 2016-03-18 2016-05-04 Magic Pony Technology Ltd Generative methods of super resolution
US10613208B2 (en) 2015-05-15 2020-04-07 Texas Instruments Incorporated Low complexity super-resolution technique for object detection in frequency modulation continuous wave radar
US10373019B2 (en) 2016-01-13 2019-08-06 Ford Global Technologies, Llc Low- and high-fidelity classifiers applied to road-scene images
US11024009B2 (en) 2016-09-15 2021-06-01 Twitter, Inc. Super resolution using a generative adversarial network
US10410322B2 (en) 2017-04-05 2019-09-10 Here Global B.V. Deep convolutional image up-sampling
US10474160B2 (en) 2017-07-03 2019-11-12 Baidu Usa Llc High resolution 3D point clouds generation from downsampled low resolution LIDAR 3D point clouds and camera images
US11050162B2 (en) * 2017-12-02 2021-06-29 Metawave Corporation Method and apparatus for object detection with integrated environmental information
US10976412B2 (en) 2019-02-01 2021-04-13 GM Global Technology Operations LLC Deep learning for super resolution in a radar system
JP2022525197A (ja) * 2019-03-15 2022-05-11 東京エレクトロン株式会社 機械学習を用いた半導体製造データ取得機器における拡張された分解能

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023234567A1 (ko) * 2022-05-30 2023-12-07 경북대학교 산학협력단 카메라와 레이더 센서를 이용한 딥러닝 기반 레이더 센서 고장 분류 장치 및 방법

Also Published As

Publication number Publication date
US20210149041A1 (en) 2021-05-20
EP3825728A1 (en) 2021-05-26
CN112824931A (zh) 2021-05-21
US11719811B2 (en) 2023-08-08

Similar Documents

Publication Publication Date Title
KR20210061597A (ko) 참조 데이터를 이용한 레이더 데이터 처리 장치 및 방법
US11506776B2 (en) Method and device with improved radar resolution
TWI834771B (zh) 相機與雷達訊框之早期融合
JP7394582B2 (ja) レーダーデータを処理する装置及び方法
JP6239664B2 (ja) 周辺環境推定装置及び周辺環境推定方法
JP7239703B2 (ja) 領域外コンテキストを用いたオブジェクト分類
KR102669876B1 (ko) 국지적 분해능을 조정하는 레이더 데이터 처리 장치 및 방법
EP3164859B1 (en) Vehicle radar methods and systems
CN113167860A (zh) 雷达深度学习
EP3842824A2 (en) Method and device to process radar signal
US20170307733A1 (en) Vehicle radar methods and systems
KR20210106864A (ko) 레이더 신호에 기초한 오브젝트 검출 방법 및 장치
Ortiz et al. Applications and services using vehicular exteroceptive sensors: A survey
JP2022513505A (ja) レーダによるまたは問合せ電磁放射線の使用によるオブジェクトの向きの決定
CN112823353A (zh) 使用机器学习进行对象定位
US20210389777A1 (en) Method and apparatus with complex-valued attention network
US20220050196A1 (en) Method and apparatus for processing cfar of sensor data
CN115131756A (zh) 一种目标检测方法及装置
US20220404490A1 (en) Radar-based method and apparatus for generating a model of an object relative to a vehicle
US20230341545A1 (en) Near field radar beamforming
Gao Efficient and Enhanced Radar Perception for Autonomous Driving Systems
US20230393257A1 (en) Fractalet radar processing
EP4357813A1 (en) A vehicle radar system arranged to provide an estimated road lane
US20240142575A1 (en) Method and apparatus with neural network training
EP4369028A1 (en) Interface for detection representation of hidden activations in neural networks for automotive radar

Legal Events

Date Code Title Description
A201 Request for examination