KR20230020853A - 오브젝트 검출 방법 및 그 방법을 수행하는 전자 장치 - Google Patents

오브젝트 검출 방법 및 그 방법을 수행하는 전자 장치 Download PDF

Info

Publication number
KR20230020853A
KR20230020853A KR1020210102749A KR20210102749A KR20230020853A KR 20230020853 A KR20230020853 A KR 20230020853A KR 1020210102749 A KR1020210102749 A KR 1020210102749A KR 20210102749 A KR20210102749 A KR 20210102749A KR 20230020853 A KR20230020853 A KR 20230020853A
Authority
KR
South Korea
Prior art keywords
distance
target object
camera
difference
image
Prior art date
Application number
KR1020210102749A
Other languages
English (en)
Inventor
송호현
Original Assignee
주식회사 넥스트칩
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 넥스트칩 filed Critical 주식회사 넥스트칩
Priority to KR1020210102749A priority Critical patent/KR20230020853A/ko
Priority to PCT/KR2021/012884 priority patent/WO2023013811A1/ko
Publication of KR20230020853A publication Critical patent/KR20230020853A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/14—Adaptive cruise control
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/10—Geometric effects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Computer Graphics (AREA)
  • Mathematical Physics (AREA)
  • Geometry (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Analysis (AREA)

Abstract

일 예에 따른, 오브젝트를 검출하기 위해, 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 제2 영역까지의 제2 거리를 계산하고, 제2 시각에서 촬영된 제2 영상 내의 타겟 오브젝트의 제1 영역까지의 제3 거리 및 제2 영역까지의 제4 거리를 계산하고, 제1 거리 및 제3 거리 간의 제1 차이를 계산하고, 제2 거리 및 제4 거리 간의 제2 차이를 계산하고, 제1 차이 및 제2 차이에 기초하여 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정할 수 있다.

Description

오브젝트 검출 방법 및 그 방법을 수행하는 전자 장치{OBJECT DETECTION METHOD AND ELECTRONIC DEVICE PERFORMING THE METHOD}
아래의 실시예들은 오브젝트를 검출하는 기술에 관한 것이고, 구체적으로 영상을 이용하여 오브젝트를 검출하는 기술에 관한 것이다.
ADAS(Advanced Driver Assistance Systems)를 지원하는 차량 또는 자율주행 차량은, 사용자를 보조하거나 또는 차량의 경로를 생성하기 위해 차량 주변의 오브젝트를 자동으로 검출해야 한다. 예를 들어, 차량은 차량의 카메라를 이용하여 차량의 정면을 촬영함으로써 영상을 생성할 수 있다. 생성된 영상 내에는 도로, 다른 차량, 신호등 및 사람 등이 포함될 수 있다. 차량은 영상 내의 오브젝트를 검출하고, 검출된 오브젝트에 기초하여 사용자를 보조하거나, 경로를 생성할 수 있다.
일 실시예는 전자 장치에 의해 수행되는 오브젝트 검출 방법을 제공할 수 있다.
일 실시예는 영상 내의 오브젝트를 검출하는 전자 장치를 제공할 수 있다.
다만, 기술적 과제는 상술한 기술적 과제들로 한정되는 것은 아니며, 또 다른 기술적 과제들이 존재할 수 있다.
일 측면에 따른, 전자 장치에 의해 수행되는, 오브젝트 검출 방법은, 카메라를 이용하여 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 상기 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산하는 단계, 상기 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 제3 거리 및 상기 타겟 오브젝트의 상기 제2 영역까지의 제4 거리를 계산하는 단계, 상기 제1 거리 및 상기 제3 거리 간의 제1 차이를 계산하고, 상기 제2 거리 및 상기 제4 거리 간의 제2 차이를 계산하는 단계, 및 상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계를 포함할 수 있다.
상기 카메라는 단안(mono) 카메라일 수 있다.
상기 제1 영역은 상기 타겟 오브젝트의 최하단을 포함하고, 상기 제2 영역은 상기 타겟 오브젝트의 최상단을 포함할 수 있다.
상기 오브젝트 검출 방법은, 상기 제1 영상 내의 제1 오브젝트를 검출하는 단계, 상기 제2 영상 내의 제2 오브젝트를 검출하는 단계, 및 상기 제1 오브젝트 및 상기 제2 오브젝트가 상기 타겟 오브젝트로서 동일한 오브젝트인지 여부를 결정하는 단계를 더 포함할 수 있다.
상기 카메라를 이용하여 상기 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 상기 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산하는 단계는, 상기 제1 영상의 시점을 변경함으로써 제1 조감 영상을 생성하는 단계, 상기 카메라부터 상기 제1 조감 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 상기 제1 거리를 계산하는 단계, 및 상기 카메라부터 상기 제1 조감 영상 내의 상기 타겟 오브젝트의 상기 제2 영역까지의 상기 제2 거리를 계산하는 단계를 포함할 수 있다.
상기 오브젝트 검출 방법은, 상기 제1 시각에서의 상기 카메라의 제1 자세를 획득하는 단계를 더 포함하고, 상기 제1 영상의 시점을 변경함으로써 제1 조감 영상을 생성하는 단계는, 상기 제1 자세에 기초하여 상기 제1 영상의 시점을 변경함으로써 제1 조감 영상을 생성하는 단계를 포함할 수 있다.
상기 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 제3 거리 및 상기 타겟 오브젝트의 상기 제2 영역까지의 제4 거리를 계산하는 단계는, 상기 제2 시각에서의 상기 카메라의 제2 자세를 획득하는 단계, 상기 제2 자세에 기초하여 상기 제2 영상의 시점을 변경함으로써 제2 조감 영상을 생성하는 단계, 상기 카메라부터 상기 제2 조감 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 상기 제3 거리를 계산하는 단계, 및 상기 카메라부터 상기 제2 조감 영상 내의 상기 타겟 오브젝트의 상기 제2 영역까지의 상기 제4 거리를 계산하는 단계를 포함할 수 있다.
상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계는, 상기 제1 차이 및 상기 제2 차이가 동일한 경우 상기 타겟 오브젝트가 2차원 오브젝트인 것으로 결정하는 단계를 포함할 수 있다.
상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계는, 상기 제1 차이 및 상기 제2 차이가 동일하지 않은 경우 상기 타겟 오브젝트가 3차원 오브젝트인 것으로 결정하는 단계를 포함할 수 있다.
상기 전자 장치가 차량에 포함되고, 상기 타겟 오브젝트가 3차원 오브젝트로 결정된 경우, 상기 타겟 오브젝트는 차량의 경로를 생성하기 위해 이용될 수 있다.
다른 일 측면에 따른, 전자 장치는, 오브젝트를 검출하는 프로그램이 기록된 메모리, 및 상기 프로그램을 수행하는 프로세서를 포함하고, 상기 프로그램은, 카메라를 이용하여 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 상기 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산하는 단계, 상기 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 제3 거리 및 상기 타겟 오브젝트의 상기 제2 영역까지의 제4 거리를 계산하는 단계, 상기 제1 거리 및 상기 제3 거리 간의 제1 차이를 계산하고, 상기 제2 거리 및 상기 제4 거리 간의 제2 차이를 계산하는 단계, 및 상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계를 수행할 수 있다.
상기 전자 장치는, 자율 주행을 지원하는 차량 또는 ADAS(advanced driver assistance system)을 지원하는 차량에 포함될 수 있다.
상기 프로그램은, 상기 타겟 오브젝트가 3차원 오브젝트로 결정된 경우, 상기 타겟 오브젝트에 기초하여 상기 차량을 제어하는 단계를 더 수행할 수 있다.
상기 전자 장치는, 단안 카메라인 상기 카메라를 더 포함할 수 있다.
상기 제1 영역은 상기 타겟 오브젝트의 최하단을 포함하고, 상기 제2 영역은 상기 타겟 오브젝트의 최상단을 포함할 수 있다.
상기 프로그램은, 상기 제1 영상 내의 제1 오브젝트를 검출하는 단계, 상기 제2 영상 내의 제2 오브젝트를 검출하는 단계, 및 상기 제1 오브젝트 및 상기 제2 오브젝트가 상기 타겟 오브젝트로서 동일한 오브젝트인지 여부를 결정하는 단계를 더 수행할 수 있다.
상기 카메라를 이용하여 상기 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 상기 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산하는 단계는, 상기 제1 시각에서의 상기 카메라의 제1 자세를 획득하는 단계, 상기 제1 자세에 기초하여 상기 제1 영상의 시점을 변경함으로써 제1 조감 영상을 생성하는 단계, 상기 카메라부터 상기 제1 조감 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 상기 제1 거리를 계산하는 단계, 및 상기 카메라부터 상기 제1 조감 영상 내의 상기 타겟 오브젝트의 상기 제2 영역까지의 상기 제2 거리를 계산하는 단계를 포함할 수 있다.
상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계는, 상기 제1 차이 및 상기 제2 차이가 동일한 경우 상기 타겟 오브젝트가 2차원 오브젝트인 것으로 결정하는 단계, 및 상기 제1 차이 및 상기 제2 차이가 동일하지 않은 경우 상기 타겟 오브젝트가 3차원 오브젝트인 것으로 결정하는 단계를 포함할 수 있다.
또 다른 일 측면에 따른, 전자 장치에 의해 수행되는, 오브젝트 검출 방법은, 카메라를 이용하여 제1 시각에서 촬영된 제1 영상 내의 타겟 특징점까지의 제1 거리를 계산하는 단계, 상기 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 상기 타겟 특징점까지의 제2 거리를 계산하는 단계, 및 상기 카메라의 이동 속도, 제1 거리 및 제2 거리에 기초하여 상기 타겟 특징점을 포함하는 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계를 포함한다.
전자 장치에 의해 수행되는 오브젝트 검출 방법이 제공될 수 있다.
영상 내의 오브젝트를 검출하는 전자 장치가 제공될 수 있다.
도 1은 일 예에 따른 지면에 그려진 2차원 오브젝트를 도시한다.
도 2는 일 예에 따른 후속 영상에서 나타나는 2차원 오브젝트 및 3차원 오브젝트를 도시한다.
도 3은 일 예에 따른 3차원 오브젝트에 의해 나타나는 영상 내의 투사된 오브젝트를 도시한다.
도 4는 일 예에 따른 2차원 오브젝트에 의해 나타나는 영상 내의 오브젝트를 도시한다.
도 5는 일 실시 예에 따른 전자 장치의 구성도이다.
도 6은 일 실시 예에 따른 오브젝트를 검출하는 방법의 흐름도이다.
도 7은 일 예에 따른 영상들 내의 오브젝트들이 동일한 오브젝트인지 여부를 결정하는 방법의 흐름도이다.
도 8은 일 예에 따른 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 제2 영역까지의 제2 거리를 계산하는 방법의 흐름도이다.
도 9는 일 예에 따른 타겟 오브젝트가 3차원 오브젝트인 경우, 계산되는 제1 차이 및 제2 차이를 도시한다.
도 10은 일 예에 따른 타겟 오브젝트가 2차원 오브젝트인 경우, 계산되는 제1 차이 및 제2 차이를 도시한다.
도 11은 일 예에 따른 제1 차이 및 제2 차이에 기초하여 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 방법을 도시한다.
도 12는 일 예에 따른 전자 장치를 포함하는 차량을 도시한다.
도 13은 일 예에 따른 3차원 오브젝트에 기초하여 차량을 제어하는 방법의 흐름도이다.
도 14는 다른 일 실시 예에 따른, 오브젝트를 검출하는 방법의 흐름도이다.
실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 구현될 수 있다. 따라서, 실제 구현되는 형태는 개시된 특정 실시예로만 한정되는 것이 아니며, 본 명세서의 범위는 실시예들로 설명한 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.
도 1은 일 예에 따른 지면에 그려진 2차원 오브젝트를 도시한다.
최근 자동차 업계에서도 자율 주행을 위한 하나의 방식으로서, 영상에 기반한 딥러닝 방식들이 사용되고 있는 추세이다. 딥러닝 방식은 오브젝트 검출 모델의 학습을 통한 보행자/차량의 위치, 크기 검출 뿐만 아니라, 도로 주행 중 방해가 될 수 있는 일반적인 오브젝트(general object)까지도 영상을 이용하여 검출할 수 있다.
일 예에 따르면, 아트 도로 또는 시차 도로와 같이 차량이 주행하는 도로상에 페인트 등을 이용하여 가상의 오브젝트를 그린 상황에서, 단안 카메라(mono camera)의 영상을 이용하는 오브젝트 검출 모델은 레이더(radar) 또는 라이다(lidar)와 같은 추가 센서의 도움 없이는 영상(100) 내의 오브젝트(110)가 지면 면에 존재하는 2차원 오브젝트(즉, 그림)인지 또는 지면 위에 솟아 있는 3차원 오브젝트인지를 결정하지 못할 수 있다.
일 실시 예에 따르면, 오브젝트(110)가 2차원 오브젝트인지 또는 3차원 오브젝트인지 여부를 결정하기 위해 운동 시차(motion parallax)가 이용될 수 있다. 운동 시차는 관찰자가 움직일 때 가까운 오브젝트는 빨리 움직이는 것처럼 보이고, 멀리 있는 오브젝트는 느리게 움직이는 것처럼 보이는 현상, 또는 관찰자는 고정되어 있는 상태에서 동일한 속도로 움직이는 두 오브젝트들 간의 거리가 다른 경우, 가까운 거리에 있는 오브젝트가 멀리 있는 오브젝트에 비해 더 빨리 움직이는 것처럼 보이는 현상을 의미한다.
일 실시 예에 따르면, 영상을 촬영하는 카메라가 오브젝트에 대해 이동하면서 복수의 영상들을 촬영하는 경우, 영상들 내의 오브젝트들의 크기를 비교함으로써 오브젝트가 높이가 있는 3차원 오브젝트인지 여부가 결정될 수 있다.
아래에서 도 2 내지 도 11을 참조하여 영상 내의 오브젝트를 검출하는 방법에 대해 상세히 설명된다.
도 2는 일 예에 따른 후속 영상에서 나타나는 2차원 오브젝트 및 3차원 오브젝트를 도시한다.
일 예에 따르면, 카메라에 의해 제1 시각에서 촬영된 선행 영상에 기초하여 오브젝트(210)가 검출될 수 있다. 다만, 선행 영상 만으로는 오브젝트(210)가 2차원 영상인지 또는 3차원 영상인지 여부가 결정되지 않을 수 있다. 이어서, 카메라에 의해 제2 시각에서 촬영된 후속 영상에 기초하여 오브젝트(220) 또는 오브젝트(230)가 검출될 수 있다.
오브젝트(210)가 3차원 오브젝트인 경우에는 후속 영상에서 오브젝트(220)와 같이 나타나고, 오브젝트(210)가 2차원 오브젝트인 경우에는 후속 영상에서 오브젝트(230)와 같이 나타난다.
일 실시예에 따르면, 선행 영상의 오브젝트(210)의 형태와 후속 영상에서 나타나는 오브젝트(220 또는 230)의 형태 간의 비교를 통해 오브젝트가 3차원 오브젝트인지 여부가 결정될 수 있다.
도 3은 일 예에 따른 3차원 오브젝트에 의해 나타나는 영상 내의 투사된 오브젝트를 도시한다.
제1 시각에서, 3차원 오브젝트를 포함하는 장면을 촬영한 제1 영상에는 3차원 오브젝트가 투사된 오브젝트(313)가 나타난다. 투사된 오브젝트(313)의 길이(dap-d)는 카메라 및 3차원 오브젝트 간의 거리에 따라 달라질 수 있다. 카메라 및 3차원 오브젝트 간의 거리가 멀수록 투사된 오브젝트(313)의 길이는 길어진다.
카메라의 위치가 3차원 오브젝트와 가까워지는 방향으로 이동한 경우, 제2 시각에서 3차원 오브젝트를 포함하는 장면을 촬영한 제2 영상에는 3차원 오브젝트가 투사된 오브젝트(314)가 나타난다. 투사된 오브젝트(314)의 길이(d'ap-d')일 수 있다. 길이(d'ap-d')는 길이(dap-d)에 비해 짧을 수 있다.
도 4는 일 예에 따른 2차원 오브젝트에 의해 나타나는 영상 내의 오브젝트를 도시한다.
제1 시각에서, 2차원 오브젝트를 포함하는 장면을 촬영한 제1 영상에는 2차원 오브젝트(413)가 나타난다. 2차원 오브젝트(413)의 길이(dap-d)는 카메라 및 2차원 오브젝트 간의 거리에 따라 불변할 수 있다.
카메라의 위치가 2차원 오브젝트와 가까워지는 방향으로 이동한 경우, 제2 시각에서 2차원 오브젝트를 포함하는 장면을 촬영한 제2 영상에는 2차원 오브젝트(414)가 나타난다. 2차원 오브젝트(414)의 길이(d"ap-d")일 수 있다. 2차원 오브젝트는 지면에 그려진 그림이므로, 길이(d"ap-d")는 길이(dap-d)와 동일하다.
도 5는 일 실시 예에 따른 전자 장치의 구성도이다.
일 측면에 따른, 전자 장치(500)는 통신부(510), 프로세서(520), 및 메모리(530)를 포함한다. 추가적으로 전자 장치(500)는 카메라(540)를 더 포함할 수 있다. 전자 장치(500)는 차량 내에 포함될 수 있다. 예를 들어, 전자 장치(200)는 ECU(electronic control unit) 또는 BCM(body control module)과 같은 장치일 수 있다. 다른 예로, 전자 장치(200)는 ECU/BCM과 연결된 독립적인 장치일 수 있다.
통신부(510)는 프로세서(520), 메모리(530) 및 카메라(540)와 연결되어 데이터를 송수신한다. 통신부(510)는 외부의 다른 장치와 연결되어 데이터를 송수신할 수 있다. 이하에서 "A"를 송수신한다라는 표현은 "A를 나타내는 정보(information) 또는 데이터"를 송수신하는 것을 나타낼 수 있다.
통신부(510)는 전자 장치(500) 내의 회로망(circuitry)으로 구현될 수 있다. 예를 들어, 통신부(510)는 내부 버스(internal bus) 및 외부 버스(external bus)를 포함할 수 있다. 다른 예로, 통신부(510)는 전자 장치(500)와 외부의 장치를 연결하는 요소일 수 있다. 통신부(510)는 인터페이스(interface)일 수 있다. 통신부(510)는 외부의 장치로부터 데이터를 수신하여, 프로세서(520) 및 메모리(530)에 데이터를 전송할 수 있다.
프로세서(520)는 통신부(510)가 수신한 데이터 및 메모리(530)에 저장된 데이터를 처리한다. "프로세서"는 목적하는 동작들(desired operations)을 실행시키기 위한 물리적인 구조를 갖는 회로를 가지는 하드웨어로 구현된 데이터 처리 장치일 수 있다. 예를 들어, 목적하는 동작들은 프로그램에 포함된 코드(code) 또는 인스트럭션들(instructions)을 포함할 수 있다. 예를 들어, 하드웨어로 구현된 데이터 처리 장치는 마이크로프로세서(microprocessor), 중앙 처리 장치(central processing unit), 프로세서 코어(processor core), 멀티-코어 프로세서(multi-core processor), 멀티프로세서(multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array)를 포함할 수 있다.
프로세서(520)는 메모리(예를 들어, 메모리(530))에 저장된 컴퓨터로 읽을 수 있는 코드(예를 들어, 소프트웨어) 및 프로세서(520)에 의해 유발된 인스트럭션들을 실행한다.
메모리(530)는 통신부(510)가 수신한 데이터 및 프로세서(520)가 처리한 데이터를 저장한다. 예를 들어, 메모리(530)는 프로그램(또는 어플리케이션, 소프트웨어)을 저장할 수 있다. 저장되는 프로그램은 오브젝트를 검출할 수 있도록 코딩되어 프로세서(520)에 의해 실행 가능한 신텍스(syntax)들의 집합일 수 있다.
일 측면에 따르면, 메모리(530)는 하나 이상의 휘발성 메모리, 비휘발성 메모리 및 RAM(Random Access Memory), 플래시 메모리, 하드 디스크 드라이브 및 광학 디스크 드라이브를 포함할 수 있다.
메모리(530)는 전자 장치(500)를 동작 시키는 명령어 세트(예를 들어, 소프트웨어)를 저장한다. 전자 장치(500)를 동작 시키는 명령어 세트는 프로세서(220)에 의해 실행된다.
카메라(540)는 장면을 촬영함으로써 영상을 생성한다. 카메라(540)는 단안 카메라일 수 있다. 예를 들어, 카메라(540)는 차량의 전방에 배치될 수 있다.
통신부(510), 프로세서(520), 메모리(530) 및 카메라(540)에 대해, 아래에서 도 6 내지 도 13을 참조하여 상세히 설명된다.
도 6은 일 실시 예에 따른 오브젝트를 검출하는 방법의 흐름도이다.
아래의 단계들(610 내지 640)은 도 5를 참조하여 전술된 전자 장치(500)에 의해 수행된다.
단계(610)에서, 전자 장치(500)는 카메라(예: 카메라(540))를 이용하여 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 제2 영역까지의 제2 거리를 계산한다. 예를 들어, 제1 영역은 타겟 오브젝트의 최하단을 포함하고, 제2 영역은 타겟 오브젝트의 최상단을 포함할 수 있다. 최하단은 지면과 연결된 부분일 수 있다.
일 실시 예에 따르면, 제1 거리 및 제2 거리는 제1 영상의 시점을 조감 시점으로 변경함으로써 생성된 제1 조감 영상에 기초하여 계산될 수 있다. 아래에서 도 8 및 9를 참조하여 제1 조감 영상에 기초하여 제1 거리 및 제2 거리를 계산하는 방법이 상세히 설명된다.
단계(620)에서, 전자 장치(500)는 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 타겟 오브젝트의 제1 영역까지의 제3 거리 및 제2 영역까지의 제4 거리를 계산한다. 제2 시각은 제1 시각 이후의 시각일 수 있다. 카메라가 이동함으로써 제1 시각에서 카메라 및 타겟 오브젝트 간의 거리 보다 제2 시각에서 카메라 및 타겟 오브젝트 간의 거리가 가까워질 수 있다.
일 실시 예에 따르면, 제3 거리 및 제4 거리는 제2 영상의 시점을 조감 시점으로 변경함으로써 생성된 제2 조감 영상에 기초하여 계산될 수 있다.
단계(630)에서, 전자 장치(500)는 제1 거리 및 제3 거리 간의 제1 차이를 계산하고, 제2 거리 및 제4 거리 간의 제2 차이를 계산한다. 제1 차이 및 제2 차이를 계산하는 방법에 대해, 아래에서 도 10을 참조하여 상세히 설명된다.
단계(640)에서, 전자 장치(500)는 제1 차이 및 제2 차이에 기초하여 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정한다. 예를 들어, 제1 차이 및 제2 차이가 동일한 경우, 타겟 오브젝트가 2차원 오브젝트로 결정될 수 있다. 예를 들어, 제1 차이 및 제2 차이가 동일하지 않은 경우, 타겟 오브젝트가 2차원 오브젝트로 결정될 수 있다. 아래에서, 도 11을 참조하여 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 방법에 대해 상세히 설명된다.
일 실시 예에 따르면, 전자 장치(500)가 차량에 포함된 경우, 타겟 오브젝트가 3차원 오브젝트인지 여부에 따라 차량의 제어가 달라질 수 있다. 예를 들어, 3차원 오브젝트는 위험 오브젝트로서 회피 대상일 수 있다.
아래에서 도 12 내지 13을 참조하여, 차량을 제어하는 방법에 대해 상세히 설명된다.
도 7은 일 예에 따른 영상들 내의 오브젝트들이 동일한 오브젝트인지 여부를 결정하는 방법의 흐름도이다.
일 예에 따르면, 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하기 전에, 제1 영상 내의 오브젝트와 제2 영상 내의 오브젝트가 동일한 오브젝트인지 여부가 결정되어야 한다. 오브젝트 매칭을 위해 아래의 단계들(710 내지 750)이 더 수행될 수 있다.
단계(710)에서, 전자 장치(500)는 카메라를 이용하여 제1 시각의 제1 영상을 생성한다.
단계(720)에서, 전자 장치(500)는 제1 영상 내의 제1 오브젝트를 검출한다. 제1 영상 내에서 검출되는 오브젝트는 하나 이상일 수 있다. 예를 들어, 전자 장치(500)는 오브젝트 검출 알고리즘을 이용하여 제1 영상 내의 하나 이상의 오브젝트를 검출할 수 있고, 오브젝트 검출 알고리즘은 특별한 종류로 한정되지 않는다.
일 예에 따르면, 단계(720)가 수행된 후, 도 6을 참조하여 전술된 단계(610)가 수행될 수 있다. 예를 들어, 단계(610)에서, 전자 장치(500)는 검출된 하나 이상의 오브젝트들 각각에 대해 제1 거리 및 제2 거리를 계산할 수 있다.
일 예에 따르면, 단계들(710, 720, 610)은 단계(730)가 수행되기 전에 수행될 수 있다.
단계(730)에서, 전자 장치(500)는 카메라를 이용하여 제2 시각의 제2 영상을 생성한다.
단계(740)에서, 전자 장치(500)는 제2 영상 내의 제2 오브젝트를 검출한다. 제2 영상 내에서 검출되는 오브젝트는 하나 이상일 수 있다.
일 예에 따르면, 단계(740)가 수행된 후, 도 6을 참조하여 전술된 단계(620)가 수행될 수 있다. 예를 들어, 단계(620)에서, 전자 장치(500)는 검출된 하나 이상의 오브젝트들 각각에 대해 제3 거리 및 제4 거리를 계산할 수 있다. 단계(620)를 통해 계산되는 오브젝트에 대한 거리들이 제3 거리 및 제4 거리로 명명되었으나, 제2 시각 이후의 시각인 제3 시각의 제3 영상이 생성된 경우, 제3 영상과의 관계에서 제2 영상은 선행 영상이므로, 단계(620)를 통해 계산되는 오브젝트에 대한 거리들이 제1 거리 및 제2 거리로 취급될 수 있다.
일 예에 따르면, 단계(620)가 수행된 후, 단계(750)가 수행될 수 있다.
단계(750)에서, 전자 장치(500)는 제1 오브젝트 및 제2 오브젝트가 타겟 오브젝트로서 동일한 오브젝트인지 여부를 결정한다. 즉, 전자 장치(500)는 제1 오브젝트 및 제2 오브젝트가 매칭되는지 여부를 결정할 수 있다. 제1 오브젝트 및 제2 오브젝트가 매칭되는 경우, 도 6을 참조하여 전술된 단계(630)가 수행될 수 있다.
도 8은 일 예에 따른 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 제2 영역까지의 제2 거리를 계산하는 방법의 흐름도이다.
일 실시 예에 따르면, 도 6을 참조하여 전술된 단계(610)가 수행되기 전에 단계(810)가 더 수행될 수 있다.
단계(810)에서, 전자 장치(500)는 제1 시각에서의 카메라의 제1 자세를 획득할 수 있다. 예를 들어, 카메라의 자세는 자이로스코프 또는 가속도 센서에 의해 획득될 수 있다.
단계(610)는 아래의 단계들(820 내지 840)을 포함할 수 있다.
단계(820)에서, 전자 장치(500)는 제1 영상의 시점을 조감 시점으로 변경함으로써 제1 조감 영상을 생성할 수 있다. 정확한 제1 조감 영상을 생성하기 위해 카메라의 제1 자세 또는 획득(또는, 추정)된 지면의 경사도 등이 추가로 이용될 수 있다.
단계(830)에서, 전자 장치(500)는 기준점(예: 카메라의 위치)으로부터 제1 조감 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리를 계산할 수 있다.
단계(840)에서, 전자 장치(500)는 기준점으로부터 제1 조감 영상 내의 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산할 수 있다.
도 8을 참조하여 제1 영상의 제1 조감 영상에 기초하여 제1 거리 및 제2 거리를 계산하는 방법이 설명되었으나, 상기의 설명은 제2 영상에 기초하여 제2 조감 영상을 생성하고, 제2 조감 영상을 이용하여 제3 거리 및 제4 거리를 계산하기 위한 설명으로 대체될 수 있다.
도 9는 일 예에 따른 타겟 오브젝트가 3차원 오브젝트인 경우, 계산되는 제1 차이 및 제2 차이를 도시한다.
제1 시각에 대한 제1 조감 영상(910) 내의 타겟 오브젝트(911)의 최하단의 영역인 제1 영역과 기준점 간의 제1 거리(912)가 계산되고, 타겟 오브젝트(911)의 최상단의 영역인 제2 영역과 기준점 간의 제2 거리(913)가 계산될 수 있다. 예를 들어, 기준점은 조감 시점에서의 카메라의 위치일 수 있다. 다른 예로, 기준점은 조감 영상의 가장 하단 좌표일 수 있다.
상기와 유사하게, 제2 시각에 대한 제2 조감 영상(920) 내의 타겟 오브젝트(921)의 최하단의 영역인 제1 영역과 기준점 간의 제3 거리(922)가 계산되고, 타겟 오브젝트(921)의 최상단의 영역인 제2 영역과 기준점 간의 제4 거리(923)가 계산될 수 있다. 카메라가 실제 오브젝트와 가까워 짐에 따라 제2 조감 영상(920) 내의 타겟 오브젝트(921)의 위치는 제1 조감 영상(910) 내의 타겟 오브젝트(911)의 위치보다 상대적으로 하단에 위치할 수 있다.
실제 오브젝트가 3차원 오브젝트인 경우에는 운동 시차가 나타나므로, 제1 거리 및 제3 거리 간의 차이인 제1 차이(932)와 제2 거리 및 제4 거리 간의 차이인 제2 차이(933)는 다르게 나타날 수 있다. 예를 들어, 제1 차이(932) 보다 제2 차이(933)가 더 클 수 있다.
도 10은 일 예에 따른 타겟 오브젝트가 2차원 오브젝트인 경우, 계산되는 제1 차이 및 제2 차이를 도시한다.
제1 시각에 대한 제1 조감 영상(1010) 내의 타겟 오브젝트(1011)의 최하단의 영역인 제1 영역과 기준점 간의 제1 거리(1012)가 계산되고, 타겟 오브젝트(1011)의 최상단의 영역인 제2 영역과 기준점 간의 제2 거리(1013)가 계산될 수 있다.
상기와 유사하게, 제2 시각에 대한 제2 조감 영상(1020) 내의 타겟 오브젝트(1021)의 최하단의 영역인 제1 영역과 기준점 간의 제3 거리(1022)가 계산되고, 타겟 오브젝트(1021)의 최상단의 영역인 제2 영역과 기준점 간의 제4 거리(1023)가 계산될 수 있다. 카메라가 실제 오브젝트와 가까워 짐에 따라 제2 조감 영상(1020) 내의 타겟 오브젝트(1021)의 위치는 제1 조감 영상(1010) 내의 타겟 오브젝트(1011)의 위치보다 상대적으로 하단에 위치할 수 있다.
실제 오브젝트가 2차원 오브젝트인 경우에는 운동 시차가 나타나지 않으므로, 제1 거리 및 제3 거리 간의 차이인 제1 차이(1032)와 제2 거리 및 제4 거리 간의 차이인 제2 차이(1033)는 동일할 수 있다.
도 11은 일 예에 따른 제1 차이 및 제2 차이에 기초하여 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 방법을 도시한다.
일 실시 예에 따르면, 도 6을 참조하여 전술된 단계(640)는 아래의 단계들(1110 내지 1130)을 포함할 수 있다.
단계(1110)에서, 전자 장치(500)는 제1 차이 및 제2 차이가 동일한지 여부를 결정할 수 있다.
단계(1120)에서, 전자 장치(500)는 제1 차이 및 제2 차이가 동일한 경우, 타겟 오브젝트가 2차원 오브젝트인 것으로 결정할 수 있다.
단계(1130)에서, 전자 장치(500)는 제1 차이 및 제2 차이가 동일하지 않은 경우, 타겟 오브젝트가 3차원 오브젝트인 것으로 결정할 수 있다.
도 12는 일 예에 따른 전자 장치를 포함하는 차량을 도시한다.
일 실시 예에 따르면, 전자 장치(500)는 자율 주행을 지원하는 차량(1200) 또는 ADAS(advanced driver assistance system)을 지원하는 차량(1200)에 포함될 수 있다.
일 측면에 따른, 차량(1200)은 운전자로부터의 입력이 거의 없거나 또는 전혀 없는 상황에서도, 인지된 주행 환경에 따라서 자율 모드(autonomous mode)로 주행할 수 있다. 주행 환경은 차량(1200)에 부착 또는 설치된 하나 이상의 센서들을 통해 인지될 수 있다. 예를 들어, 하나 이상의 센서들은 카메라, 라이다, 레이더 및 음성 인식 센서들을 포함할 수 있고, 기재된 예들로 제한되는 것은 아니다. 주행 환경은 도로, 도로의 상태, 차선의 종류, 주변 차량의 유무, 근접한 차량과의 거리, 날씨, 장애물의 유무 등을 포함할 수 있고, 기재된 예들로 제한되는 것은 아니다.
차량(1200)은 주행 환경을 인식하고, 주행 환경에 적합한 자율 주행 경로를 생성한다. 자율 주행 경로를 따라가도록 자율 주행 차량은 내외부의 기계적인 요소들을 제어한다. 차량(1200)은 자율 주행 경로를 주기적으로 생성할 수 있다.
다른 일 측면에 따른, 차량(1200)은 어드밴스드 운전자 지원 시스템(advanced driver assistance systems: ADAS)을 이용하여 운전자의 운전을 보조할 수 있다. ADAS는 충돌 위험시 운전자가 제동장치를 밟지 않아도 스스로 속도를 줄이거나 멈추는 자동 긴급제동 시스템(Autonomous Emergency Braking: AEB), 차선 이탈 시 주행 방향을 조절해 차선을 유지하는 주행 조향보조 시스템(Lane Keep Assist System: LKAS), 사전에 정해 놓은 속도로 달리면서도 앞차와 간격을 알아서 유지하는 어드밴스드 스마트 크루즈 컨트롤(Advanced Smart Cruise Control: ASCC), 사각지대 충돌 위험을 감지해 안전한 차로 변경을 돕는 후측방 충돌 회피 지원 시스템(Active Blind Spot Detection: ABSD), 차량 주변 상황을 시각적으로 보여주는 어라운드 뷰 모니터링 시스템(Around View Monitor: AVM) 등을 포함한다.
차량(1200)에 포함된 전자 장치(500)는 차량(1200)의 기계적 장치를 제어하여, 자율 주행하거나 운전자의 운전을 보조할 수 있고, 기재된 실시예 이외의 ECU, BCM 및 다양한 종류의 컨트롤러나 센서 등에 사용될 수 있다.
도 13은 일 예에 따른 3차원 오브젝트에 기초하여 차량을 제어하는 방법의 흐름도이다.
일 실시 예에 따르면, 전자 장치(500)가 도 12를 참조하여 전술된 차량(1200)에 포함된 경우, 도 6을 참조하여 전술된 단계(640)가 수행된 후 아래의 단계(1310)가 수행될 수 있다.
단계(1310)에서, 전자 장치는 타겟 오브젝트가 3차원 오브젝트로 결정된 경우 타겟 오브젝트에 기초하여 차량을 제어할 수 있다. 예를 들어, 전자 장치(500)는 영상 내의 오브젝트가 3차원 오브젝트로 결정되는 경우, 3차원 오브젝트를 회피하도록 차량(1200)을 제어할 수 있다.
도 14는 다른 일 실시 예에 따른, 오브젝트를 검출하는 방법의 흐름도이다.
아래의 단계들(1410 내지 1430)은 도 5 내지 도 13을 참조하여 전술된 전자 장치(500)에 의해 수행된다.
단계(1410)에서, 전자 장치(500)는 카메라(예: 카메라(540))를 이용하여 제1 시각에서 촬영된 제1 영상 내의 타겟 특징점까지의 제1 거리를 계산한다. 예를 들어, 영상 내의 특징점을 검출하기 위해 SIFT(scale-invariant feature transform) 또는 ORB descriptor 가 이용될 수 있고, 기재된 실시예로 한정되지 않는다.
일 실시 예에 따르면, 전자 장치(500)는 제1 거리를 계산하기 위해 제1 영상을 제1 조감 영상으로 변환할 수 있다. 이와 관련된 설명은 도 8을 참조하여 전술된 단계들(810 내지 840)에 대한 설명이 유사하게 적용될 수 있으므로, 이하에서 생략한다.
단계(1420)에서, 전자 장치(500)는 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 타겟 특징점까지의 제2 거리를 계산한다.
단계(1430)에서, 전자 장치(500)는 카메라의 이동 속도, 제1 거리 및 제2 거리에 기초하여 타겟 특징점을 포함하는 오브젝트가 3차원 오브젝트인지 여부를 결정한다.
전자 장치(500)는 제1 영상 내의 특징점 및 제2 영상 내의 특징점이 매칭된 경우, 특징점이 이동한 속도를 계산할 수 있다. 예를 들어, 제1 시각 및 제2 시각 간의 시간과 제1 거리 및 제2 거리 간의 차이에 기초하여 특징점이 이동한 속도가 계산될 수 있다.
전자 장치(500)는 카메라의 이동 속도를 획득할 수 있다. 예를 들어, 전자 장치(500)를 포함하는 차량의 이동 속도가 카메라의 이동 속도에 대응할 수 있다.
일 실시 예에 따르면, 카메라의 이동 속도와 특징점의 이동 속도가 동일한 경우 해당 특징점을 포함하는 오브젝트가 2차원 오브젝트로 결정될 수 있다. 예를 들어, 클러스터링을 이용하여 특징점들의 그룹이 하나의 오브젝트로 고려될 수 있다.
일 실시 예에 따르면, 카메라의 이동 속도와 특징점의 이동 속도가 동일하지 않은 경우 해당 특징점을 포함하는 오브젝트가 3차원 오브젝트로 결정될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims (20)

  1. 전자 장치에 의해 수행되는, 오브젝트 검출 방법은,
    카메라를 이용하여 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 상기 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산하는 단계;
    상기 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 제3 거리 및 상기 타겟 오브젝트의 상기 제2 영역까지의 제4 거리를 계산하는 단계;
    상기 제1 거리 및 상기 제3 거리 간의 제1 차이를 계산하고, 상기 제2 거리 및 상기 제4 거리 간의 제2 차이를 계산하는 단계; 및
    상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계
    를 포함하는,
    오브젝트 검출 방법.
  2. 제1항에 있어서,
    상기 카메라는 단안(mono) 카메라인,
    3차원 오브젝트 검출 방법.
  3. 제1항에 있어서,
    상기 제1 영역은 상기 타겟 오브젝트의 최하단을 포함하고,
    상기 제2 영역은 상기 타겟 오브젝트의 최상단을 포함하는,
    3차원 오브젝트 검출 방법.
  4. 제1항에 있어서,
    상기 제1 영상 내의 제1 오브젝트를 검출하는 단계;
    상기 제2 영상 내의 제2 오브젝트를 검출하는 단계; 및
    상기 제1 오브젝트 및 상기 제2 오브젝트가 상기 타겟 오브젝트로서 동일한 오브젝트인지 여부를 결정하는 단계
    를 더 포함하는,
    3차원 오브젝트 검출 방법.
  5. 제1항에 있어서,
    상기 카메라를 이용하여 상기 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 상기 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산하는 단계는,
    상기 제1 영상의 시점을 변경함으로써 제1 조감 영상을 생성하는 단계;
    상기 카메라부터 상기 제1 조감 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 상기 제1 거리를 계산하는 단계; 및
    상기 카메라부터 상기 제1 조감 영상 내의 상기 타겟 오브젝트의 상기 제2 영역까지의 상기 제2 거리를 계산하는 단계
    를 포함하는,
    3차원 오브젝트 검출 방법.
  6. 제5항에 있어서,
    상기 제1 시각에서의 상기 카메라의 제1 자세를 획득하는 단계
    를 더 포함하고,
    상기 제1 영상의 시점을 변경함으로써 제1 조감 영상을 생성하는 단계는,
    상기 제1 자세에 기초하여 상기 제1 영상의 시점을 변경함으로써 제1 조감 영상을 생성하는 단계
    를 포함하는,
    3차원 오브젝트 검출 방법.
  7. 제1항에 있어서,
    상기 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 제3 거리 및 상기 타겟 오브젝트의 상기 제2 영역까지의 제4 거리를 계산하는 단계는,
    상기 제2 시각에서의 상기 카메라의 제2 자세를 획득하는 단계;
    상기 제2 자세에 기초하여 상기 제2 영상의 시점을 변경함으로써 제2 조감 영상을 생성하는 단계;
    상기 카메라부터 상기 제2 조감 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 상기 제3 거리를 계산하는 단계; 및
    상기 카메라부터 상기 제2 조감 영상 내의 상기 타겟 오브젝트의 상기 제2 영역까지의 상기 제4 거리를 계산하는 단계
    를 포함하는,
    3차원 오브젝트 검출 방법.
  8. 제1항에 있어서,
    상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계는,
    상기 제1 차이 및 상기 제2 차이가 동일한 경우 상기 타겟 오브젝트가 2차원 오브젝트인 것으로 결정하는 단계
    를 포함하는,
    3차원 오브젝트 검출 방법.
  9. 제1항에 있어서,
    상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계는,
    상기 제1 차이 및 상기 제2 차이가 동일하지 않은 경우 상기 타겟 오브젝트가 3차원 오브젝트인 것으로 결정하는 단계
    를 포함하는,
    3차원 오브젝트 검출 방법.
  10. 제1항에 있어서,
    상기 전자 장치가 차량에 포함되고, 상기 타겟 오브젝트가 3차원 오브젝트로 결정된 경우, 상기 타겟 오브젝트는 차량의 경로를 생성하기 위해 이용되는,
    3차원 오브젝트 검출 방법.
  11. 하드웨어와 결합되어 제1항 내지 제10항 중 어느 하나의 항의 방법을 실행시키기 위하여 컴퓨터 판독 가능한 기록매체에 저장된 컴퓨터 프로그램.
  12. 전자 장치는,
    오브젝트를 검출하는 프로그램이 기록된 메모리; 및
    상기 프로그램을 수행하는 프로세서
    를 포함하고,
    상기 프로그램은,
    카메라를 이용하여 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 상기 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산하는 단계;
    상기 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 제3 거리 및 상기 타겟 오브젝트의 상기 제2 영역까지의 제4 거리를 계산하는 단계;
    상기 제1 거리 및 상기 제3 거리 간의 제1 차이를 계산하고, 상기 제2 거리 및 상기 제4 거리 간의 제2 차이를 계산하는 단계; 및
    상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계
    를 수행하는,
    전자 장치.
  13. 제12항에 있어서,
    상기 전자 장치는, 자율 주행을 지원하는 차량 또는 ADAS(advanced driver assistance systems)을 지원하는 차량에 포함되는,
    전자 장치.
  14. 제13항에 있어서,
    상기 프로그램은,
    상기 타겟 오브젝트가 3차원 오브젝트로 결정된 경우, 상기 타겟 오브젝트에 기초하여 상기 차량을 제어하는 단계
    를 더 수행하는,
    전자 장치.
  15. 제12항에 있어서,
    상기 전자 장치는,
    단안 카메라인 상기 카메라
    를 더 포함하는,
    전자 장치.
  16. 제12항에 있어서,
    상기 제1 영역은 상기 타겟 오브젝트의 최하단을 포함하고,
    상기 제2 영역은 상기 타겟 오브젝트의 최상단을 포함하는,
    전자 장치.
  17. 제12항에 있어서,
    상기 프로그램은,
    상기 제1 영상 내의 제1 오브젝트를 검출하는 단계;
    상기 제2 영상 내의 제2 오브젝트를 검출하는 단계; 및
    상기 제1 오브젝트 및 상기 제2 오브젝트가 상기 타겟 오브젝트로서 동일한 오브젝트인지 여부를 결정하는 단계
    를 더 수행하는,
    전자 장치.
  18. 제12항에 있어서,
    상기 카메라를 이용하여 상기 제1 시각에서 촬영된 제1 영상 내의 타겟 오브젝트의 제1 영역까지의 제1 거리 및 상기 타겟 오브젝트의 제2 영역까지의 제2 거리를 계산하는 단계는,
    상기 제1 시각에서의 상기 카메라의 제1 자세를 획득하는 단계;
    상기 제1 자세에 기초하여 상기 제1 영상의 시점을 변경함으로써 제1 조감 영상을 생성하는 단계;
    상기 카메라부터 상기 제1 조감 영상 내의 상기 타겟 오브젝트의 상기 제1 영역까지의 상기 제1 거리를 계산하는 단계; 및
    상기 카메라부터 상기 제1 조감 영상 내의 상기 타겟 오브젝트의 상기 제2 영역까지의 상기 제2 거리를 계산하는 단계
    를 포함하는,
    전자 장치.
  19. 제12항에 있어서,
    상기 제1 차이 및 상기 제2 차이에 기초하여 상기 타겟 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계는,
    상기 제1 차이 및 상기 제2 차이가 동일한 경우 상기 타겟 오브젝트가 2차원 오브젝트인 것으로 결정하는 단계; 및
    상기 제1 차이 및 상기 제2 차이가 동일하지 않은 경우 상기 타겟 오브젝트가 3차원 오브젝트인 것으로 결정하는 단계
    를 포함하는,
    전자 장치.
  20. 전자 장치에 의해 수행되는, 오브젝트 검출 방법은,
    카메라를 이용하여 제1 시각에서 촬영된 제1 영상 내의 타겟 특징점까지의 제1 거리를 계산하는 단계;
    상기 카메라를 이용하여 제2 시각에서 촬영된 제2 영상 내의 상기 타겟 특징점까지의 제2 거리를 계산하는 단계; 및
    상기 카메라의 이동 속도, 제1 거리 및 제2 거리에 기초하여 상기 타겟 특징점을 포함하는 오브젝트가 3차원 오브젝트인지 여부를 결정하는 단계
    를 포함하는,
    오브젝트 검출 방법.
KR1020210102749A 2021-08-04 2021-08-04 오브젝트 검출 방법 및 그 방법을 수행하는 전자 장치 KR20230020853A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020210102749A KR20230020853A (ko) 2021-08-04 2021-08-04 오브젝트 검출 방법 및 그 방법을 수행하는 전자 장치
PCT/KR2021/012884 WO2023013811A1 (ko) 2021-08-04 2021-09-17 오브젝트 검출 방법 및 그 방법을 수행하는 전자 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210102749A KR20230020853A (ko) 2021-08-04 2021-08-04 오브젝트 검출 방법 및 그 방법을 수행하는 전자 장치

Publications (1)

Publication Number Publication Date
KR20230020853A true KR20230020853A (ko) 2023-02-13

Family

ID=85154584

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210102749A KR20230020853A (ko) 2021-08-04 2021-08-04 오브젝트 검출 방법 및 그 방법을 수행하는 전자 장치

Country Status (2)

Country Link
KR (1) KR20230020853A (ko)
WO (1) WO2023013811A1 (ko)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060021922A (ko) * 2006-01-26 2006-03-08 한민홍 두 개의 카메라를 이용한 장애물 감지 기술 및 장치
CN102761700B (zh) * 2011-04-29 2015-01-21 国际商业机器公司 拍摄设备及获得被拍摄物上不同点之间距离的方法
KR101535722B1 (ko) * 2013-11-04 2015-07-24 현대오트론 주식회사 스테레오 비전을 이용한 과속 방지턱 감지장치 및 그 제어 방법
KR102254157B1 (ko) * 2019-07-09 2021-05-21 삼성전자주식회사 와핑된 이미지를 통해 바닥 객체를 식별하는 전자 장치 및 그 제어 방법
KR102243244B1 (ko) * 2019-08-26 2021-04-23 엘지전자 주식회사 자율주행시스템에서 긴급단계에 따른 제어방법 및 이를 위한 장치

Also Published As

Publication number Publication date
WO2023013811A1 (ko) 2023-02-09

Similar Documents

Publication Publication Date Title
US9550496B2 (en) Travel control apparatus
US10489686B2 (en) Object detection for an autonomous vehicle
US11809194B2 (en) Target abnormality determination device
US11703883B2 (en) Autonomous driving device
US20200026282A1 (en) Lane/object detection and tracking perception system for autonomous vehicles
US9880554B2 (en) Misrecognition determination device
US9708004B2 (en) Method for assisting a driver in driving an ego vehicle and corresponding driver assistance system
EP3324332A1 (en) Method and system to predict vehicle traffic behavior for autonomous vehicles to make driving decisions
US20160325750A1 (en) Travel control apparatus
CN108688660B (zh) 运行范围确定装置
US20170359561A1 (en) Disparity mapping for an autonomous vehicle
KR102339776B1 (ko) 차량의 주행 제어 방법 및 장치
CN111091037B (zh) 用于确定驾驶信息的方法和设备
JP6985089B2 (ja) 立体物接地判定装置
US10929986B2 (en) Techniques for using a simple neural network model and standard camera for image detection in autonomous driving
KR20200131832A (ko) 정보 처리 장치, 이동 장치 및 방법, 그리고 프로그램
KR20220020804A (ko) 정보 처리 장치 및 정보 처리 방법, 그리고 프로그램
KR102669061B1 (ko) 인공지능 기반의 차량과 객체 간의 충돌 위험도 검출 시스템
US20240054793A1 (en) Information processing device, information processing method, and program
JP2020087191A (ja) 車線境界設定装置、車線境界設定方法
KR20210112672A (ko) 객체를 검출하기 위한 프로세서 및 객체 검출 방법
US12008818B2 (en) Systems and methods to train a prediction system for depth perception
JP6663622B2 (ja) 撮像装置
KR102695440B1 (ko) 카메라 자세 결정 및 그 방법을 수행하는 전자 장치
KR101875517B1 (ko) 영상 처리 방법 및 장치

Legal Events

Date Code Title Description
E902 Notification of reason for refusal