KR20200053125A - 전자 장치 및 그 제어 방법 - Google Patents

전자 장치 및 그 제어 방법 Download PDF

Info

Publication number
KR20200053125A
KR20200053125A KR1020180136333A KR20180136333A KR20200053125A KR 20200053125 A KR20200053125 A KR 20200053125A KR 1020180136333 A KR1020180136333 A KR 1020180136333A KR 20180136333 A KR20180136333 A KR 20180136333A KR 20200053125 A KR20200053125 A KR 20200053125A
Authority
KR
South Korea
Prior art keywords
image sensor
exposure time
image
shooting mode
electronic device
Prior art date
Application number
KR1020180136333A
Other languages
English (en)
Inventor
이태희
강화영
김동수
김민재
박상규
여동원
이해선
전승룡
정용주
장동훈
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020180136333A priority Critical patent/KR20200053125A/ko
Priority to CN201980071198.3A priority patent/CN112930679A/zh
Priority to EP19882935.0A priority patent/EP3843379A4/en
Priority to PCT/KR2019/011626 priority patent/WO2020096192A1/ko
Priority to US17/289,977 priority patent/US11933599B2/en
Publication of KR20200053125A publication Critical patent/KR20200053125A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00—Measuring arrangements characterised by the use of optical techniques
    • G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/026—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness by measuring distance between sensor and object
    • H04N5/2355—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • G06K9/00791—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/72—Combination of two or more compensation controls
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50—Control of the SSIS exposure
    • H04N25/57—Control of the dynamic range
    • H04N25/58—Control of the dynamic range involving two or more exposures
    • H04N25/581—Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583—Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
    • H04N5/2258—
    • H04N5/23245—
    • H04N5/2352—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle

Abstract

전자 장치가 개시된다. 전자 장치는, 제1 이미지 센서 및 제2 이미지 센서, 및 제1 이미지 센서 및 제2 이미지 센서 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 제1 이미지 센서 및 제2 이미지 센서 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행하고, 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 객체를 식별하고, 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 식별된 객체의 거리 정보를 획득하는 프로세서를 포함한다.

Description

전자 장치 및 그 제어 방법 {Electronic device and control method thereof}
본 개시는 전자 장치 및 그 제어 방법에 관한 것으로, 더욱 상세하게는 멀티 카메라를 이용하여 시인성 확보 및 거리 정보를 획득하는 전자 장치 및 그 제어 방법에 관한 것이다.
디지털 영상에서 밝은 곳은 더 밝게, 어두운 곳은 더 어둡게 만들어 사람이 실제 눈으로 보는 것에 가깝게 밝기의 범위를 확장시키는 HDR(High Dynamic Range) 기술이 각광받고 있다.
다만, HDR 기술에 기초하여 객체를 식별하고, 식별된 객체의 거리 정보를 획득하기 위해서는 최소 3대의 카메라가 요구되었다. 예를 들어, HDR 기술을 구현하기 위해 2대의 카메라가 필요하고, 스테레오 카메라를 이용하여 객체의 거리 정보를 산출하기 위해 2대의 카메라가 필요하다. 이 중 한대의 카메라가 HDR 기술을 구현하는데 이용됨과 동시에 스테레오 카메라로 이용된다고 하더라도 상술한 바와 같이 3대의 카메라가 필요한 실정이다.
본 개시는 상술한 필요성에 따른 것으로, 본 개시의 목적은, 멀티 카메라를 이용한 HDR 기술을 통해 획득된 이미지에서 객체를 식별하고, 식별된 객체의 거리 정보를 획득하는 전자 장치 및 그 제어 방법을 제공함에 있다.
상술한 목적을 달성하기 위한 본 개시의 일 실시 예에 따른 전자 장치는, 제1 이미지 센서 및 제2 이미지 센서, 및 프로세서를 포함할 수 있다.
상기 프로세서는, 상기 제1 이미지 센서 및 상기 제2 이미지 센서 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 상기 제1 이미지 센서 및 상기 제2 이미지 센서 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행할 수 있다.
상기 프로세서는, 상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 객체를 식별하고, 상기 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 상기 식별된 객체의 거리 정보를 획득할 수 있다.
상기 프로세서는, 상기 제1 촬영 모드에서 상기 제1 이미지 센서의 노출 시간을 제1 노출 시간으로, 상기 제2 이미지 센서의 노출 시간을 제2 노출 시간으로 제어할 수 있다.
상기 프로세서는, 상기 제2 촬영 모드에서 상기 제1 및 제2 이미지 센서의 노출 시간을 상기 제1 노출 시간으로 제어할 수 있다.
여기서, 상기 제2 노출 시간은, 상기 제1 노출 시간을 초과할 수 있다.
상기 프로세서는, 상기 제1 이미지 센서에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 상기 객체의 위치 정보 중 적어도 하나에 기초하여 상기 제1 노출 시간을 갱신할 수 있다.
상기 프로세서는, 상기 제1 촬영 모드에서 상기 제2 이미지 센서에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 상기 객체의 위치 정보 중 적어도 하나에 기초하여 상기 제2 노출 시간을 갱신할 수 있다.
상기 프로세서는, 기 설정된 프레임 간격으로, 상기 제1 촬영 모드 및 상기 제2 촬영 모드를 교번적으로 수행할 수 있다.
상기 프로세서는, 상기 제1 촬영 모드에서 상기 제2 이미지 센서에 의해 획득된 이미지에 포함된 픽셀 값이 기설정된 값 미만이면, 상기 제2 이미지 센서의 노출 시간이 하나의 프레임에 대응되는 시간 구간을 초과하도록 제어할 수 있다.
상기 전자 장치는, 차량에 탑재되는 주행 보조 장치일 수 있다.
상기 프로세서는, 상기 객체의 타입 정보 및 거리 정보 중 적어도 하나에 기초하여 상기 차량을 제어할 수 있다.
상기 프로세서는, 상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 HDR(High Dynamic Range) 영상을 생성하고, 상기 HDR 영상을 이용하여 상기 객체를 식별할 수 있다.
또한, 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법은, 제1 이미지 센서 및 제2 이미지 센서 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 상기 제1 이미지 센서 및 상기 제2 이미지 센서 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행하는 단계 및 상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 객체를 식별하고, 상기 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 상기 식별된 객체의 거리 정보를 획득하는 단계를 포함할 수 있다.
상기 교번적으로 수행하는 단계는, 상기 제1 촬영 모드에서 상기 제1 이미지 센서의 노출 시간을 제1 노출 시간으로, 상기 제2 이미지 센서의 노출 시간을 제2 노출 시간으로 제어할 수 있다.
상기 교번적으로 수행하는 단계는, 상기 제2 촬영 모드에서 상기 제1 및 제2 이미지 센서의 노출 시간을 상기 제1 노출 시간으로 제어할 수 있다.
여기서, 상기 제2 노출 시간은, 상기 제1 노출 시간을 초과할 수 있다.
상기 제어 방법은, 상기 제1 이미지 센서에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 상기 객체의 위치 정보 중 적어도 하나에 기초하여 상기 제1 노출 시간을 갱신하는 단계 및 상기 제1 촬영 모드에서 상기 제2 이미지 센서에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 상기 객체의 위치 정보 중 적어도 하나에 기초하여 상기 제2 노출 시간을 갱신하는 단계를 더 포함할 수 있다.
상기 교번적으로 수행하는 단계는, 기 설정된 프레임 간격으로, 상기 제1 촬영 모드 및 상기 제2 촬영 모드를 교번적으로 수행할 수 있다.
상기 교번적으로 수행하는 단계는, 상기 제1 촬영 모드에서 상기 제2 이미지 센서에 의해 획득된 이미지에 포함된 픽셀 값이 기설정된 값 미만이면, 상기 제2 이미지 센서의 노출 시간이 하나의 프레임에 대응되는 시간 구간을 초과하도록 제어할 수 있다.
상기 전자 장치는, 차량에 탑재되는 주행 보조 장치일 수 있다.
상기 제어 방법은, 상기 객체의 타입 정보 및 거리 정보 중 적어도 하나에 기초하여 상기 차량을 제어하는 단계를 더 포함할 수 있다.
거리 정보를 획득하는 단계는, 상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 HDR 영상을 생성하고, 상기 HDR 영상을 이용하여 상기 객체를 식별할 수 있다.
전자 장치의 프로세서에 의해 실행되는 경우 상기 전자 장치가 동작을 수행하도록 하는 컴퓨터 명령을 저장하는 비일시적 컴퓨터 판독 가능 매체에 있어서, 상기 동작은, 제1 이미지 센서 및 제2 이미지 센서 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 상기 제1 이미지 센서 및 상기 제2 이미지 센서 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행하는 단계 및 상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 객체를 식별하고, 상기 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 상기 식별된 객체의 거리 정보를 획득하는 단계를 포함할 수 있다.
상술한 바와 같이 본 개시의 다양한 실시 예에 따르면 전자 장치는 노출 시간이상이한 멀티 카메라를 통해 이미지를 촬영하여 객체를 식별하는 정확도를 높일 수 있다.
또한, 전자 장치는 멀티 카메라의 시차를 통해 이미지를 촬영하여 식별된 객체의 정확한 거리 정보를 획득할 수 있다.
또한, 전자 장치는 2개의 카메라 만으로 상술한 객체 식별 및 객체의 거리 정보를 획득할 수 있다.
도 1은 본 개시의 이해를 돕기 위해 다양한 객체를 포함하는 주변 이미지를 획득하는 전자 장치를 나타내는 도면이다.
도 2는 본 개시의 일 실시 예에 따른 전자 장치의 구성을 나타내는 블럭도이다.
도 3은 본 개시의 일 실시 예에 따른 전자 장치의 세부 구성의 일 예를 나타내는 블럭도이다.
도 4는 본 개시의 일 실시 예에 따른 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행하는 동작을 설명하기 위한 도면이다.
도 5는 본 개시의 일 실시 예에 따른 제2 이미지 센서의 노출 시간이 하나의 프레임에 대응되는 시간 구간을 초과하는 동작을 설명하기 위한 도면이다.
도 6은 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법을 설명하기 위한 흐름도이다.
이하에서는 첨부 도면을 참조하여 본 개시를 상세히 설명한다.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 개시에 대해 구체적으로 설명하기로 한다.
본 개시의 실시 예에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 개시의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.
본 개시의 실시 예들은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 특정한 실시 형태에 대해 범위를 한정하려는 것이 아니며, 개시된 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 실시 예들을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
A 및/또는 B 중 적어도 하나라는 표현은 "A" 또는 "B" 또는 "A 및 B" 중 어느 하나를 나타내는 것으로 이해되어야 한다.
본 명세서에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 어떤 구성요소가 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 어떤 구성요소와 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 개시에서 "모듈" 혹은 "부"는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈" 혹은 복수의 "부"는 특정한 하드웨어로 구현될 필요가 있는 "모듈" 혹은 "부"를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다.
본 명세서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
아래에서는 첨부한 도면을 참고하여 본 개시의 실시 예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 그리고 도면에서 본 개시를 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
이하 첨부된 도면들을 참조하여 본 개시의 일 실시 예를 보다 상세하게 설명한다.
도 1은 본 개시의 이해를 돕기 위해 다양한 객체를 포함하는 주변 이미지를 획득하는 전자 장치를 나타내는 도면이다.
도 1에 따르면, 본 개시의 일 실시 예에 따른 전자 장치(100)는 복수의 이미지 센서(110-1, 110-2)를 이용하여 주변 환경을 모니터링할 수 있다. 여기서, 전자 장치(100)는 차량에 탑재되는 주행 보조 장치로서, ADAS(Advanced Driver Assistance Systems)를 구현하는 장치일 수 있다. 구체적으로, 전자 장치(100)는 차량의 전장 시스템으로 구현될 수도 있고, 차량 내부에 설치되는 카메라 모듈로 구현될 수도 있다. 또는, 전자 장치(100)는 룸 미러 일체형 모듈로 구현될 수도 있으며, 차량에 탈부착 가능한 블랙박스, 휴대폰, PDA 등과 같은 휴대 장치 형태로 구현될 수도 있다.
전자 장치(100)는 복수의 이미지 센서(110-1, 110-2)를 이용하여 주변 환경, 전방 도로 상황 등을 촬영한 이미지(10)를 획득할 수 있다. 여기서, 이미지 센서(110)는 주변 환경을 촬영하는 구성으로서 카메라, 센서, 촬영 센서 등으로 불릴 수 있으나 이하에서는 설명의 편의를 위해 이미지 센서로 통칭하도록 한다.
본 개시의 일 실시 예에 따른 전자 장치(100)는 복수의 이미지 센서(110-1, 110-2) 각각을 통해 획득된 이미지에 포함된 객체를 식별하고, 식별된 객체의 거리 정보를 획득할 수 있는데, 이하에서는 도면을 참조하여 본 개시의 다양한 실시 예에 대해 자세히 설명하도록 한다.
도 2는 본 개시의 일 실시 예에 따른 전자 장치의 구성을 나타내는 블럭도이다.
도 2에 따르면, 전자 장치(100)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)를 포함하는 이미지 센서(110), 및 프로세서(120)를 포함한다.
이미지 센서(110)는 이미지를 획득하는 구성이다. 구체적으로, 이미지 센서(110)는 렌즈를 통해 입사되는 빛을 전기적인 영상 신호로 변환하여 촬영 이미지를 획득할 수 있다. 이미지 센서(110)는 CCD(Charge Coupled Device) 센서 또는 CMOS (Complementary Metal Oxide Semiconductor) 센서로 구현될 수 있으나, 이에 한정되는 것은 아니다.
한편, 이미지 센서(110)의 노출 시간에 따라 상이한 밝기의 영상이 획득될 수 있다. 예를 들어, 노출 시간이 짧은 경우 상대적으로 어두운 이미지가 획득되고, 노출 시간이 긴 경우 상대적으로 밝은 이미지가 획득될 수 있다. 여기서, 노출 시간은 이미지 센서(110)에 연결된 셔터(미도시)가 빛을 수용하기 위해 개방된 시간을 의미한다.
예를 들어, 주변 환경에 기초하여 이미지 센서(110)의 노출 시간이 상이하게 조정될 수 있다. 일 예로, 주변 환경이 어두운 경우 밝은 이미지를 획득하기 위하여 노출 시간을 상대적으로 길게 조정할 수 있다. 이 경우, 렌즈를 통해 입사되는 빛의 세기를 센싱하거나, 기 촬영된 이미지의 픽셀 정보에 기초하여 주변 조도가 식별될 수 있다.
한편, 본 개시의 일 실시 예에 따른 이미지 센서(110)는 차량에 탑재될 수 있다. 예를 들어, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)는 서로 다른 촬영 시차를 가지도록 서로 이격 배치될 수 있다. 예를 들어, 룸 미러의 양 단에서 전방을 촬영하도록 배치될 수 있다. 다만, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)는 룸 미러 뿐 아니라 기 설정된 간격으로 이격되어 다양한 위치에 배치될 수 있음은 물론이다. 일 예로, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)는 양 사이드 미러 중 어느 하나의 양단에 전방을 촬영하도록 배치될 수 있다. 다른 예로, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)는 양 사이드 미러 각각에서 전방을 촬영하도록 배치될 수 있다.
프로세서(120)는 전자 장치(100)의 전반적인 동작을 제어한다.
일 실시 예에 따라 프로세서(120)는 디지털 신호를 처리하는 디지털 시그널 프로세서(digital signal processor(DSP), 마이크로 프로세서(microprocessor), TCON(Time controller)으로 구현될 수 있다. 다만, 이에 한정되는 것은 아니며, 중앙처리장치(central processing unit(CPU)), MCU(Micro Controller Unit), MPU(micro processing unit), 컨트롤러(controller), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)), ARM 프로세서 중 하나 또는 그 이상을 포함하거나, 해당 용어로 정의될 수 있다. 또한, 프로세서(120)는 프로세싱 알고리즘이 내장된 SoC(System on Chip), LSI(large scale integration)로 구현될 수도 있고, FPGA(Field Programmable gate array) 형태로 구현될 수도 있다.
프로세서(120)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행할 수 있다. 일 실시 예에 따르면, 프로세서(120)는 기 설정된 프레임 간격으로, 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행할 수 있다. 예를 들어, 1 프레임 또는 2 프레임 이상의 간격으로 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행할 수 있다.
프로세서(120)는 제1 촬영 모드에서 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)를 통해 획득된 복수의 촬영 이미지를 이용하여 객체를 식별할 수 있다.
구체적으로, 제1 촬영 모드에서 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)의 노출 시간은 상이하게 제어되므로 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각으로부터 획득되는 이미지의 밝기는 상이할 수 있다. 프로세서(120)가 하나의 밝기로 촬영된 이미지로부터 객체를 식별하는 경우보다, 다양한 밝기로 촬영된 이미지에서 객체를 식별하는 경우 객체의 식별력이 높아질 수 있다. 따라서, 제1 촬영 모드에서, 프로세서(120)는 노출 시간이 서로 다르게 제어되는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각으로부터 획득된 복수의 촬영 이미지에서 다양한 객체를 정확하게 식별할 수 있다. 또는, 프로세서(120)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각으로부터 획득된 복수의 촬영 이미지를 하나의 이미지로 합성하고 합성된 이미지에서 다양한 객체를 식별할 수도 있다. 여기서, 합성 이미지는 밝은 영역은 더 밝게 조정되고, 어두운 영역은 더 어둡게 조정되어 명암비가 높은 이미지일 수 있다. 즉, 프로세서(120)는 다이나믹 레인지(Dynamic Range)가 증가된 이미지에서 객체를 획득할 수 있다.
다시 말해, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각으로부터 획득된 복수의 촬영 이미지가 하나의 이미지로 합성된 합성 이미지는 HDR(High Dynamic Range) 영상일 수 있다. 즉, 프로세서(120)는 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 HDR 영상을 생성하고, HDR 영상을 이용하여 객체를 식별할 수 있다. 여기서, HDR 영상이란 이미지에서 밝은 영역은 더 밝고, 어두운 영역은 더 어둡게 표시되어 이미지 상의 밝기의 범위가 확장된 영상을 의미할 수 있다.
여기서, 객체는 관심 객체(또는 관심 영역)일 수 있다. 즉, 프로세서(120)는 획득된 복수의 촬영 이미지로부터 관심 객체를 식별할 수 있다. 예를 들어, 관심 객체는, 횡단 보도, 신호등, 교통 표지판, 사람, 차량 등과 같은 주행 시 주의할 필요가 있는 객체일 수 있으나, 이는 일 예에 불과하다. 저장부(미도시)는 관심 객체에 관한 정보를 저장하고, 프로세서(120)는 저장부로부터 이러한 정보를 획득하여 촬영 이미지에서 객체를 식별할 수 있다. 예를 들어, 촬영 이미지에 탐색 윈도우를 적용하여 저장부에 저장된 관심 객체 이미지의 픽셀 값과 유사한 픽셀 값을 탐색하여 객체를 식별할 수 있다.
또는, 전자 장치(100)는 객체 정보가 학습된 별도의 트레이닝 모델을 구비하고, 프로세서(120)는 촬영 이미지를 트레이닝 모델에 적용하여 객체를 식별할 수도 있다. 이 경우, 트레이닝 모델은, 인공 신경망이나 뉴로모픽(neuromorphic) 프로세서와 같은 인지 시스템으로 구현될 수 있다. 예를 들어, 제1 이미지 센서(110-1)에서 촬영된 제1 이미지 및 제2 이미지 센서(110-2)에서 촬영된 제2 이미지에 동일한 트레이닝 모델이 적용될 수 있으나, 제1 및 제2 이미지에 상이한 트레이닝 모델이 적용될 수도 있다. 예를 들어, 제1 및 제2 이미지의 픽셀 값이 상이하므로 포함된 각 객체의 픽셀 값 또한 상이할 수 있다. 이에 따라 제1 이미지 센서(110-1)에서 촬영된 이미지와 유사한 픽셀 값을 가지는 샘플들로 트레이닝된 제1 트레이닝 모델을 제1 이미지에 적용하고, 제2 이미지 센서(110-2)에서 촬영된 이미지와 유사한 픽셀 값을 가지는 샘플들로 트레이닝된 제2 트레이닝 모델을 제2 이미지에 적용하여 객체를 식별할 수 있다.
또한, 프로세서(120)는 제1 이미지에서 식별된 객체 정보 및 제2 이미지에서 식별된 객체 정보를 취합하여 최종적으로 객체를 식별할 수 있다. 예를 들어, 제1 이미지에서 제1 객체 및 제2 객체가 식별되고, 제2 이미지에서 제2 객체 및 제3 객체가 식별되면, 제1 내지 제3 객체가 최종적으로 식별된 객체가 될 수 있다.
한편, 프로세서(120)는 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 식별된 객체의 거리 정보를 획득할 수 있다.
구체적으로, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)는 서로 이격되어 배치되므로 제1 이미지 센서(110-1)를 통해 획득되는 이미지와 제2 이미지 센서(110-2)를 통해 획득되는 이미지 간 시차가 존재한다. 프로세서(120)는 이러한 시차를 이용하여 복수의 이미지에 포함된 객체의 거리 정보를 획득할 수 있다. 여기서, 객체는 제1 촬영 모드에서 식별된 객체이다. 한편, 복수의 이미지 센서 간 시차를 이용하여 객체의 거리 정보를 산출하는 기술은 Stereo Disparity 기술에 해당하며, 이는 종래에 공지된 기술이므로 구체적인 설명은 생략하도록 한다.
여기서, 제2 촬영 모드는, Stereo Disparity 기술을 통해 제1 촬영 모드에서 식별된 객체의 거리 정보를 획득하기 위한 모드이므로, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)의 노출 시간을 상이하게 제어할 필요는 없다.
한편, 프로세서(120)는 제1 촬영 모드에서 제1 이미지 센서(110-1)의 노출 시간을 제1 노출 시간으로 제어하고, 제2 이미지 센서 (110-2)의 노출 시간을 제2 노출 시간으로 제어할 수 있다. 또한, 프로세서(120)는 제2 촬영 모드에서 제1 이미지 센서(110-1)및 제2 이미지 센서(110-2)의 노출 시간을 제1 노출 시간으로 제어할 수 있다.
여기서, 제1 노출 시간은 제1 이미지 센서(110-1)로부터 획득되는 영상 정보에 기초하여 산출되는 시간이고, 제2 노출 시간은 제2 이미지 센서(110-2)로부터 획득되는 영상 정보에 기초하여 산출되는 시간일 수 있다. 여기서, 영상 정보는 촬영 이미지의 픽셀 값, 촬영 이미지에 포함된 객체의 위치 정보, 감마 값, ISO(International Standards Organization) 게인 등을 포함할 수 있다. 제1 노출 시간 및 제2 노출 시간은 교번적으로 수행되는 모드 마다 갱신될 수 있으며, 이에 관하여는 후술하도록 한다.
즉, 프로세서(120)는 제2 촬영 모드에서 제2 이미지 센서(110-2)의 노출 시간을 제1 이미지 센서(110-1)의 노출 시간과 동일하게 제어할 수 있다. 구체적으로, 제2 촬영 모드에서, 프로세서(120)는 제1 이미지 센서(110-1)로부터 획득된 영상 정보에 기초하여 산출된 제1 노출 시간을 제2 이미지 센서(110-2)에도 적용할 수 있다.
이에 따라, 프로세서(120)는 제2 촬영 모드에서 제2 이미지 센서(110-2)로부터 획득된 영상 정보에 기초한 노출 시간을 별도로 획득하지 않으므로 프로세서(120)의 연산 량이 감소되는 효과가 있다.
한편, 제2 노출 시간은, 제1 노출 시간을 초과할 수 있다. 구체적으로, 제1 촬영 모드에서 제2 이미지 센서(110-2)는 제1 이미지 센서(110-1) 보다 긴 노출 시간을 갖도록 설정되어 있으므로, 프로세서(120)는 제1 이미지 센서(110-1)로부터 획득되는 이미지보다 제2 이미지 센서(110-2)로부터 밝은 이미지를 획득할 수 있다. 예를 들어, 제2 이미지 센서(110-2)의 타겟 픽셀 값이 제1 이미지 센서(110-1)의 타겟 픽셀 값보다 높게 설정되어 있으므로, 제1 촬영 모드의 동일한 조도 환경에서 제2 이미지 센서(110-2)는 제1 이미지 센서(110-1)보다 상대적으로 밝은 이미지를 획득할 수 있다. 여기서, 타겟 픽셀 값은 각 이미지 센서로부터 획득되는 촬영 이미지에 포함되는 픽셀 값이 목표하는 픽셀 값일 수 있다. 이러한 타겟 픽셀 값에 도달하기 위해 프로세서(120)는 각 이미지 센서의 노출 시간을 갱신하며, 이에 관하여는 후술하도록 한다.
이에 따라, 동일한 조도 환경에서 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)가 촬영 이미지를 획득하더라도 제2 이미지 센서(110-2)는 상대적으로 밝은 이미지를 획득할 수 있다.
프로세서(120)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)에 의해 획득된 촬영 이미지의 이전 영상 정보에 기초하여 제1 노출 시간 및 제2 노출 시간을 갱신할 수 있다.
구체적으로, 프로세서(120)는 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 객체의 위치 정보 중 적어도 하나에 기초하여 제1 노출 시간을 갱신할 수 있다.
예를 들어, 프로세서(120)는 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값의 평균 값(이하, 평균 픽셀 값)을 산출하고 산출된 평균 픽셀 값이 타겟 픽셀 값에 도달하도록 노출 시간을 제어할 수 있다. 여기서, 평균 픽셀 값은 Mean Value Algorithm을 이용하여 산출될 수 있다. Mean Value Algorithm은 공지된 기술이므로 자세한 설명은 생략하도록 한다. 타겟 픽셀 값은 기 저장되어 있거나 조도 환경에 따라 변경될 수 있다.
일 예로, 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이미지의 평균 픽셀 값이 타겟 픽셀 값에 근접한 경우, 제1 이미지 센서(110-1)의 노출 시간이 15ms인 경우를 상정한다. 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이미지의 평균 픽셀 값이 상술한 예시보다 타겟 픽셀 값과 차이가 큰 경우, 프로세서(120)는 제1 이미지 센서(110-1)의 노출 시간을 33ms로 갱신할 수 있다. 즉, 프로세서(120)는 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이미지의 평균 픽셀 값 및 제1 이미지 센서(110-1)의 타겟 픽셀 값을 비교하여 제1 노출 시간을 갱신할 수 있다.
또는, 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이미지의 평균 픽셀 값에 대응되는 노출 시간 정보가 저장부(미도시)에 저장되고, 프로세서(120)는 산출된 평균 픽셀 값에 기초하여 저장부로부터 노출 시간 정보를 획득하여 제1 노출 시간을 갱신할 수도 있다.
한편, 프로세서(120)는 이미지에 포함된 객체의 위치 정보에 기초하여 노출 시간을 갱신할 수도 있다. 이미지의 평균 픽셀 값만을 이용하는 경우 특정 객체가 식별되지 않을 수도 있다. 예를 들어, 제1 이미지 센서(110-1)의 타겟 픽셀 값이 127이고 제1 이미지 센서(110-1)가 주변 환경을 촬영하는 상황이 역광 상황인 경우를 상정한다. 역광 상황에서 특정 객체는 어둡고 특정 객체의 주변은 밝은 상태의 이미지가 획득될 수 있다. 이 경우, 획득된 이미지의 평균 픽셀 값이 127에 근접하게 산출되어 프로세서(120)는 제1 노출 시간을 짧게 갱신할 수 있다. 이후, 프로세서(120)는 갱신된 노출 시간에 따라 획득된 이미지에 포함된 특정 객체의 타입 등을 정확하게 식별하지 못할 수도 있다. 따라서, 프로세서(120)는 이미지에 포함된 객체의 위치 정보를 고려하여 노출 시간을 갱신할 수 있다.
구체적으로, 프로세서(120)는 이미지에 포함된 객체의 위치 정보에 기초하여 객체가 배치된 영역의 픽셀 값에 가중치를 부여할 수 있다. 예를 들어, 이미지에 포함된 객체가 이미지의 중앙 영역에 배치된 경우, 프로세서(120)는 중앙 영역의 픽셀 값에 가중치를 부여할 수 있다. 이에 따라, 프로세서(120)는 중앙 영역에 위치한 객체를 명확하게 식별할 수 있도록 제1 이미지 센서(110-1)의 노출 시간을 갱신할 수 있다.
한편, 프로세서(120)는 제1 촬영 모드에서 제2 이미지 센서(110-2)에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 객체의 위치 정보 중 적어도 하나에 기초하여 제2 노출 시간을 갱신할 수 있다.
제2 이미지 센서(110-2)에 적용되는 제2 노출 시간 또한 제1 노출 시간과 동일한 방법으로 갱신될 수 있다. 다만, 프로세서(120)는 제1 촬영 모드에서 제2 이미지 센서(110-2)에 의해 촬영된 이미지의 영상 정보에 기초하여 제2 노출 시간을 갱신하는 점에서 상이하다. 즉, 프로세서(120)는 제1 및 제2 촬영 모드에서 제1 이미지 센서(110-1)로부터 촬영된 적어도 하나의 이전 이미지의 픽셀 값 및 객체의 위치 정보 중 적어도 하나에 기초하여 제1 노출 시간을 갱신하였으나, 제2 이미지 센서(110-1)로부터 촬영된 적어도 하나의 이전 이미지 중 제1 촬영 모드에서 획득된 이미지의 픽셀 값 및 객체의 위치 정보에 기초하여 제2 노출 시간을 갱신할 수 있다. 제2 이미지 센서(110-2)는 촬영 모드에 따라 제1 이미지 센서(110-1)로부터 획득된 영상 정보에 기초하여 산출된 제1 노출 시간 및 제2 이미지 센서(110-2)로부터 획득된 영상 정보에 기초하여 산출된 제2 노출 시간을 교번적으로 이용하여 이미지를 획득하기 때문이다. 프로세서(120)는 상술한 실시 예와 같이, 제1 노출 시간 및 제2 노출 시간은 독립적으로 산출하여 갱신할 수 있다.
한편, 프로세서(120)는 기 설정된 프레임 간격으로, 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행할 수 있다. 구체적으로, 기 설정된 이벤트가 발생되지 않는 경우, 프로세서(120)는 하나의 프레임 간격으로 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행할 수 있다. 예를 들어, 30fps(frame per second)를 기준으로 상정하는 경우, 하나의 프레임 당 이미지 센서(110)의 노출 시간은 33ms를 초과할 수 없다. 따라서, 프로세서(120)는 이미지 센서(110)에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 객체의 위치 정보 중 적어도 하나에 기초하여 33ms 내에서 노출 시간을 갱신할 수 있다.
한편, 기 설정된 이벤트가 발생되는 경우, 프로세서(120)는 이미지 센서(110)의 노출 시간이 하나의 프레임에 대응되는 시간 구간을 초과하도록 제어할 수 있다. 여기서, 기 설정된 이벤트는, 제1 촬영 모드에서 제2 이미지 센서(110-2)에 의해 획득된 이미지에 포함된 픽셀 값이 기 설정된 값 미만인 이벤트 일 수 있다. 즉, 제2 이미지 센서(110-2)에 의해 획득된 적어도 하나의 이전 이미지의 평균 픽셀 값이 기 설정된 값 미만인 경우, 프로세서(120)는 제2 이미지 센서(110-2)의 노출 시간을 하나의 프레임에 대응되는 시간 구간을 초과하도록 제어할 수 있다.
예를 들어, 주변 환경이 매우 어두운 조도 환경에서, 제2 이미지 센서(110-2)가 하나의 프레임 당 최대 노출 시간으로 촬영 이미지를 획득하더라도 이미지에 포함된 객체를 식별하지 못할 수도 있다. 이 경우, 프로세서(120)는 프레임 당 최대 노출 시간을 초과하더라도 노출 시간을 길게 설정하여 노출 시간이 타겟 픽셀 값에 도달하도록 제어할 수 있다. 이에 따라, 복수의 프레임 동안 제1 촬영 모드가 수행되고, 제1 이미지 센서(110-1)가 복수의 촬영 이미지를 획득하는 동안 제2 이미지 센서(110-2)는 하나의 촬영 이미지를 획득할 수 있다. 이 경우 제2 이미지 센서(110-2)의 fps는 제1 이미지 센서(110-1)의 fps 보다 낮아질 수 있다. 이에 프로세서(120)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)로부터 서로 명암비가 높은 이미지를 획득할 수 있다.
한편, 프로세서(120)는 상술한 실시 예와 같이, 제1 촬영 모드 및 제2 촬영 모드를 교대로 반복하여 2개의 이미지 센서 만으로도 객체를 식별하고, 식별된 객체의 거리 정보를 획득할 수 있다.
한편, 프로세서(120)는 객체의 타입 정보 및 거리 정보 중 적어도 하나에 기초하여 전자 장치(100)가 탑재된 차량을 제어할 수 있다. 예를 들어, 촬영 이미지에 포함된 객체가 최고 속도를 제한하는 교통 표지판으로 식별된 경우, 프로세서(120)는 최고 속도를 초과하지 않도록 차량의 속도를 제어하거나, 촬영 이미지에 포함된 객체가 신호등인 경우, 신호등의 신호를 식별하여 차량을 제어할 수도 있다. 또는, 촬영 이미지에 포함된 객체의 거리 정보에 기초하여 객체의 거리 기 설정된 거리 미만인 경우, 차량을 제동시킬 수 있다.
전자 장치(100)는 차량에 탑재되는 장치로 설명하였으나, 차량과 관계없이 객체를 식별하고 식별된 객체의 거리 정보를 산출하는데 이용되는 장치일 수도 있다.
한편, 도 2에서는 이미지 센서(110) 및 프로세서(120)를 포함하는 전자 장치(100)를 기준으로 설명하였으나, 구현 예에 따라서는 이미지 센서(110)를 제외한 형태로 구현될 수도 있다. 이 경우, 전자 장치는 메모리 및/또는 프로세서로 구성되며, 촬영 이미지는 외부 이미지 센서와 연결된 인터페이스를 통해 획득할 수도 있다.
도 3은 본 개시의 일 실시 예에 따른 전자 장치의 세부 구성의 일 예를 나타내는 블럭도이다.
도 3a에 따르면, 전자 장치(100)는 이미지 센서(110), 프로세서(120), 통신부(130), 저장부(140) 및 센서(150)를 포함한다. 도 3a에 도시된 구성 중 도 2에 도시된 구성과 중복되는 부분에 대해서는 자세한 설명을 생략하도록 한다.
프로세서(120)는 저장부(140)에 저장된 각종 프로그램을 이용하여 전자 장치(100)의 동작을 전반적으로 제어한다.
구체적으로, 프로세서(120)는 RAM(121), ROM(122), 메인 CPU(123), 제1 내지 n 인터페이스(124-1 ~ 124-n), 버스(125)를 포함한다.
RAM(121), ROM(122), 메인 CPU(123), 제1 내지 n 인터페이스(124-1 ~ 124-n) 등은 버스(125)를 통해 서로 연결될 수 있다.
ROM(122)에는 시스템 부팅을 위한 명령어 세트 등이 저장된다. 턴온 명령이 입력되어 전원이 공급되면, 메인 CPU(123)는 ROM(122)에 저장된 명령어에 따라 저장부(140)에 저장된 O/S를 RAM(121)에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, 메인 CPU(123)는 저장부(140)에 저장된 각종 어플리케이션 프로그램을 RAM(121)에 복사하고, RAM(121)에 복사된 어플리케이션 프로그램을 실행시켜 각종 동작을 수행한다.
메인 CPU(123)는 저장부(140)에 액세스하여, 저장부(140)에 저장된 O/S를 이용하여 부팅을 수행한다. 그리고, 저장부(140)에 저장된 각종 프로그램, 컨텐츠 데이터 등을 이용하여 다양한 동작을 수행한다.
제1 내지 n 인터페이스(124-1 내지 124-n)는 상술한 각종 구성 요소들과 연결된다. 인터페이스들 중 하나는 네트워크를 통해 외부 장치와 연결되는 네트워크 인터페이스가 될 수도 있다.
통신부(130)는 외부 전자 장치(미도시) 또는 외부 서버(미도시)와 통신을 수행할 수 있다. 일 예로, 통신부(130)는 유/무선 통신 방식에 따라 외부 서버와 통신을 수행할 수 있는데, BT(BlueTooth), WI-FI(Wireless Fidelity), Zigbee, IR(Infrared), Serial Interface, USB(Universal Serial Bus), NFC(Near Field Communication), V2X(Vehicle to Everything), 이동통신(Cellular) 등과 같은 통신 방식을 이용할 수 있다.
통신부(130)는 객체 정보를 외부 서버로부터 수신할 수도 있다. 또한, 통신부(130)는 프로세서(120)의 제어에 따라 차량 제어부(미도시)로 제어 명령을 전송할 수도 있다. 예를 들어, 촬영 이미지에 포함된 객체의 타입 정보 및 거리 정보 중 적어도 하나에 기초하여 프로세서(120)의 제어에 따라 통신부(130)는 차량 속도에 관한 명령, 차량 제동에 관한 명령 등을 차량 제어부로 전송할 수 있다.
한편, 전자 장치(100)에 이미지 센서가 구비되지 않은 경우, 통신부(130)는 외부 이미지 센서로부터 획득된 촬영 이미지를 수신할 수도 있다.
저장부(140)는 전자 장치(100)를 구동/제어하기 위한 다양한 데이터, 프로그램 또는 어플리케이션을 저장할 수 있다. 저장부(140)는 전자 장치(100) 및 프로세서(120)의 제어를 위한 제어 프로그램, 제조사에서 최초 제공되거나 외부에서부터 다운로드 받은 어플리케이션, 데이터베이스들 또는 관련 데이터들을 저장할 수 있다.
특히, 저장부(140)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)로부터 획득된 복수의 촬영 이미지를 저장할 수 있다. 저장부(140)에 저장된 복수의 촬영 이미지는 프로세서(120)가 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)의 노출 시간을 갱신하는 과정에서 이용될 수 있다.
또한, 저장부(140)는 이미지 센서(110)에 의해 획득된 이미지의 평균 픽셀 값에 대응되는 노출 시간 정보를 룩업 테이블의 형태로 저장할 수 있다.
또한, 저장부(140)는 관심 영역 및 관심 객체 중 적어도 하나에 관한 정보를 저장할 수 있다. 예를 들어, 저장부(140)는 교통 표지판의 형태 정보, 신호등의 형태 정보 등을 저장할 수 있다. 저장부(140)에 저장된 형태 정보는 프로세서(120)가 촬영 이미지에 포함된 객체를 식별하는데 이용될 수 있다. 다만, 전자 장치(100)는 형태 정보가 학습된 별도의 트레이닝 모델을 구비하고, 촬영 이미지를 트레이닝 모델에 적용하여 객체를 식별할 수도 있다. 이 경우, 트레이닝 모델은, 인공 신경망이나 뉴로모픽(neuromorphic) 프로세서와 같은 인지 시스템으로 구현될 수 있다.
저장부(140)는 프로세서(120)에 포함된 롬(ROM), 램(RAM) 등의 내부 메모리로 구현되거나, 프로세서(120)와 별도의 메모리로 구현될 수도 있다. 저장부(140)는 비휘발성 메모리, 휘발성 메모리, 하드 디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SSD) 등과 같은 형태로 구현될 수 있다.
센서(150)는 다양한 형태의 입력을 감지할 수 있다. 구체적으로, 센서(150)는 사용자의 터치를 감지하는 터치 센서일 수도 있으며, 그 밖에도 본 개시에 따른 센서(150)는 조도 센서, 모션 센서 등과 같은 다양한 센서를 포함할 수 있다.
상술한 전자 장치(100)는 독자적으로 이용될 수 있으나, RADAR(RAadio Detection And Ranging) 유닛, LIDAR(LIght Detection And Ranging) 유닛과 함께 특정 객체를 식별하고 식별된 객체의 거리 정보를 산출하는데 이용될 수도 있다. 여기서, RADAR 유닛은 무선 신호를 이용하여 차량이 위치해 있는 환경 내의 물체들을 감지하도록 구성되는 센서일 수 있다. 또한, RADAR 유닛은, 물체들의 속도 및/또는 방향을 감지하도록 구성될 수 있다. LIDAR 유닛은 레이저를 이용하여 차량이 위치해 있는 환경 내의 물체들을 감지하도록 구성되는 센서일 수 있다.
전자 장치(100)는 추가적으로 디스플레이(미도시)를 포함할 수도 있다.
디스플레이는 이미지 센서(110)로부터 획득된 촬영 이미지를 디스플레이할 수 있다. 또한, 디스플레이는 차량 운행 정보 등을 포함하는 다양한 컨텐츠를 디스플레이 한다. 여기서, 차량 운행 정보는, 차량의 현재 속도, 차량이 현재 주행 중인 도로의 제한 속도, 교통 표지판 정보 등을 포함할 수 있다.
디스플레이는 LCD(liquid crystal display), OLED(organic light-emitting diode), LCoS(Liquid Crystal on Silicon), DLP(Digital Light Processing), QD(quantum dot), 마이크로 LED(Micro light-emitting diode) 디스플레이 등과 같은 다양한 형태로 구현될 수 있다. 특히, 디스플레이는 터치패드와 상호 레이어 구조를 이루는 터치 스크린 형태로 구현될 수 있다. 이 경우, 디스플레이는 출력 장치 이외에 사용자 인터페이스(미도시)로 사용될 수 있게 된다. 여기서, 터치스크린은 터치 입력 위치 및 면적뿐만 아니라 터치 입력 압력까지도 검출할 수 있도록 구성될 수 있다.
다만, 전자 장치(100)는 디스플레이를 별도로 포함하지 않을 수 있으며, 인터페이스(미도시)를 통해 외부 디스플레이 장치와 연결되어 다양한 컨텐츠에 대응되는 신호를 외부 디스플레이 장치로 전송할 수도 있다.
도 3b는 본 개시의 일 실시 예에 따른 이미지 센서의 일 예를 나타내기 위한 도면이다.
본 개시의 일 실시 예에 따라, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각은 별도의 프로세서와 연결된 경우를 상정하고, 프로세서는 어플리케이션 프로세서(Application Processor, AP)로 구현되는 경우를 상정하여 설명한다.
제1 이미지 센서(110-1)에 연결된 어플리케이션 프로세서는 제1 어플리케이션 프로세서(120-1)로, 제2 이미지 센서(110-2)에 연결된 어플리케이션 프로세서는 제2 어플리케이션 프로세서(120-2)로 명명한다. 여기서, 어플리케이션 프로세서(120-1, 120-2)는, 각 이미지 센서(110-1, 110-2)의 영상 정보에 기초하여 노출 시간을 갱신하고, 갱신된 노출 시간을 각 이미지 센서(110-1, 110-2)에 적용하여 촬영 이미지를 획득할 수 있다.
구체적으로, 제1 어플리케이션 프로세서(120-1)는 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이전 이미지의 영상 정보에 기초하여 제1 노출 시간을 갱신하고, 갱신된 제1 노출 시간 정보를 내부 인터페이스(미도시)를 통해 제2 어플리케이션 프로세서(120-2)로 전송할 수 있다. 여기서, 내부 인터페이스는 유선 케이블로 구현될 수 있다. 다만, 이에 한정되는 것은 아니며 내부 인터페이스는, BT(BlueTooth), WI-FI(Wireless Fidelity) 등과 같은 무선 통신 모듈로 구현될 수도 있다. 제2 어플리케이션 프로세서(120-2)는 수신된 제1 노출 시간 정보에 기초하여 제1 촬영 모드에서 제2 이미지 센서(110-2)의 노출 시간을 제어하여 촬영 이미지를 획득할 수 있다.
다른 실시 예에 따르면, 제1 어플리케이션 프로세서(120-1)는 제1 노출 시간 정보를 외부 인터페이스를 통해서 제2 어플리케이션 프로세서(120-2)로 전송할 수도 있다.
도 4는 본 개시의 일 실시 예에 따른 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행하는 동작을 설명하기 위한 도면이다.
도 4에 따르면, 전자 장치(100)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지(405, 410)를 획득하는 제1 촬영 모드를 수행할 수 있다.
제1 촬영 모드에서 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)의 노출 시간은 상이하게 제어되므로, 도 4와 같이, 제1 이미지 센서(110-1)로부터 획득되는 이미지(405) 및 제2 이미지 센서(110-2)로부터 획득되는 이미지(410)의 밝기는 상이할 수 있다. 구체적으로, 전자 장치(100)는 제1 촬영 모드에서 제1 이미지 센서(110-1)의 노출 시간을 제1 노출 시간(예를 들어, 5ms)으로 제어하고, 제2 이미지 센서(110-2)의 노출 시간을 제2 노출 시간(예를 들어, 30ms)으로 제어할 수 있다. 여기서, 제2 노출 시간은 제1 노출 시간을 초과하므로 제2 이미지 센서(110-2)로부터 획득되는 이미지(410)는 제1 이미지 센서(110-1)로부터 획득되는 이미지(405)보다 밝은 이미지일 수 있다.
전자 장치(100)는 제1 촬영 모드에서 획득된 복수의 촬영 이미지(405, 410)에서 객체를 식별할 수 있다. 전자 장치(100)는 하나의 밝기로 촬영된 이미지로부터 객체를 식별하는 경우보다, 다양한 밝기로 촬영된 이미지에서 객체를 식별하는 경우 객체의 식별력이 높아질 수 있다.
전자 장치(100)는 제1 이미지 센서(110-1)로부터 획득되는 이미지(405) 및 제2 이미지 센서(110-2)로부터 획득되는 이미지에서 서로 다른 객체를 식별할 수 있다. 도 4에서와 같이, 전자 장치(100)는, 제1 이미지 센서(110-1)로부터 획득되는 이미지(405)에서 신호등 영역을 식별할 수 있으나, 제2 이미지 센서(110-2)로부터 획득되는 이미지(410)에서는 이를 식별할 수 없다. 반면, 전자 장치는, 제2 이미지 센서(110-2)로부터 획득되는 이미지(410)에서 복수의 차량을 식별할 수 있으나, 제1 이미지 센서(110-1)로부터 획득되는 이미지(405)에서는 하나의 차량만을 식별할 수 있다.
이는, 하나의 밝기로 촬영된 이미지로부터 객체를 식별하는 경우보다, 다양한 밝기로 촬영된 이미지에서 객체를 식별하는 경우 객체의 식별력이 높아질 수 있기 때문이다.
전자 장치(100)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지(415, 420)를 획득하는 제2 촬영 모드를 수행할 수 있다. 여기서, 전자 장치(100)는 제2 이미지 센서(110-2)의 노출 시간을 제1 이미지 센서(110-1)의 노출 시간과 동일하게 제어할 수 있다. 따라서, 도 4와 같이, 제1 이미지 센서(110-1)로부터 획득되는 이미지(415) 및 제2 이미지 센서(110-2)로부터 획득되는 이미지(420)는 동일한 밝기일 수 있다.
이에 따라, 전자 장치(100)는 제2 촬영 모드에서 제2 이미지 센서(110-2)로부터 획득된 영상 정보에 기초한 노출 시간을 별도로 획득하지 않으므로 전자 장치(100)의 연산 량이 감소되는 효과가 있다.
제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)는 서로 이격되어 배치되므로 제1 이미지 센서(110-1)를 통해 획득되는 이미지(415)와 제2 이미지 센서(110-2)를 통해 획득되는 이미지(420) 간 시차가 존재한다. 전자 장치(100)는 이러한 시차를 이용하여 복수의 촬영 이미지(405, 410)에 포함된 객체의 거리 정보를 획득할 수 있다. 여기서, 객체는 제1 촬영 모드의 복수의 이미지(405, 410)에서 식별된 모든 객체를 의미한다.
한편, 전자 장치(100)는 프레임 별로 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행할 수 있다.
도 5는 본 개시의 일 실시 예에 따른 제2 이미지 센서의 노출 시간이 하나의 프레임에 대응되는 시간 구간을 초과하는 동작을 설명하기 위한 도면이다.
일반적으로, 전자 장치(100)는 도 4와 같이, 하나의 프레임 간격으로 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행할 수 있다.
다만, 제2 이미지 센서(110-2)에 의해 획득된 적어도 하나의 이전 이미지의 평균 픽셀 값이 기 설정된 값 미만인 경우, 전자 장치(100)는 제2 이미지 센서(110-2)의 노출 시간을 하나의 프레임에 대응되는 시간 구간을 초과하도록 제어할 수 있다.
예를 들어, 주변 환경이 매우 어두운 조도 환경에서, 제2 이미지 센서(110-2)가 하나의 프레임 당 최대 노출 시간으로 촬영 이미지를 획득하더라도 이미지에 포함된 객체를 식별하지 못할 수도 있다. 이 경우, 전자 장치(100)는 도 5와 같이, 프레임 당 최대 노출 시간을 초과하도록 노출 시간을 길게 설정하여 타겟 픽셀 값을 갖는 이미지를 획득할 수 있다. 이에 따라, 복수의 프레임 동안 제1 촬영 모드가 수행되어 제1 이미지 센서(110-1)가 복수의 촬영 이미지(505, 510)를 획득하는 동안 제2 이미지 센서(110-2)는 하나의 촬영 이미지(515)를 획득할 수 있다. 즉, 제1 이미지 센서(110-1)가 촬영 이미지(505)를 획득하는 동안 제2 이미지 센서(110-2)에 연결된 셔터의 노출이 계속되어(514) 제2 이미지 센서(110-2)는 노출 시간이 상대적으로 길게 조정된 상태에서 하나의 촬영 이미지(515)를 획득할 수 있다. 이 경우 제2 이미지 센서(110-2)의 fps는 제1 이미지 센서(110-1)의 fps 보다 낮아질 수 있다.
이후, 전자 장치(100)는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지(520, 525)를 획득하는 제2 촬영 모드를 수행하고, 이에 따라 복수의 촬영 이미지(520, 525)에 포함된 객체의 거리 정보를 획득할 수 있다.
도 5에서는 제1 이미지 센서(110-1)의 노출 시간을 2개의 프레임에 대응되는 시간 구간으로 설명하였으나, 조도 상황에 따라 노출 시간은 3개 이상의 프레임에 대응되는 시간 구간이 될 수도 있다.
도 6은 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법을 설명하기 위한 흐름도이다.
전자 장치는, 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행할 수 있다(S610).
구체적으로, 전자 장치는, 제1 촬영 모드에서 제1 이미지 센서(110-1)의 노출 시간을 제1 노출 시간으로 제어하고, 제2 이미지 센서(110-2)의 노출 시간을 제2 노출 시간으로 제어할 수 있다.
또한, 전자 장치는, 제2 촬영 모드에서 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)의 노출 시간을 제1 노출 시간으로 제어할 수 있다. 즉, 전자 장치는 제2 촬영 모드에서 제2 이미지 센서(110-2)의 노출 시간을 제1 이미지 센서(110-1)의 노출 시간과 동일하게 제어할 수 있다. 이에 따라, 전자 장치는 제2 촬영 모드에서 제2 이미지 센서(110-2)로부터 획득된 영상 정보에 기초한 노출 시간을 별도로 획득하지 않으므로 전자 장치(100)의 연산 량이 감소되는 효과가 있다.
여기서, 제2 노출 시간은, 제1 노출 시간을 초과할 수 있다. 구체적으로, 제1 촬영 모드에서 제2 이미지 센서(110-2)는 제1 이미지 센서(110-1) 보다 긴 노출 시간을 갖도록 설정되어 전자 장치는, 제1 이미지 센서(110-1)로부터 획득되는 이미지보다 밝은 이미지를 획득할 수 있다.
한편, 전자 장치는, 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 객체의 위치 정보 중 적어도 하나에 기초하여 제1 노출 시간을 갱신할 수 있다. 예를 들어, 전자 장치(100)는 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이전 이미지에 포함된 평균 픽셀 값을 산출하고 산출된 평균 픽셀 값이 타겟 픽셀 값에 도달하도록 노출 시간을 제어할 수 있다. 또는, 제1 이미지 센서(110-1)에 의해 획득된 적어도 하나의 이미지의 평균 픽셀 값에 대응되는 노출 시간 정보가 저장되고, 전자 장치는 산출된 평균 픽셀 값에 기초하여, 저장된 노출 시간 정보를 획득하여 제1 노출 시간을 갱신할 수도 있다.
또한, 전자 장치는, 제1 촬영 모드에서 제2 이미지 센서(110-2)에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 객체의 위치 정보 중 적어도 하나에 기초하여 제2 노출 시간을 갱신할 수 있다.
제2 이미지 센서(110-2)에 적용되는 제2 노출 시간 또한 제1 노출 시간과 동일한 방법으로 갱신될 수 있다. 다만, 전자 장치(100)는 제1 촬영 모드에서 제2 이미지 센서(110-2)에 의해 촬영된 이미지의 영상 정보에 기초하여 제2 노출 시간을 갱신할 수 있다.
한편, 전자 장치는, 기 설정된 프레임 간격으로, 제1 촬영 모드 및 제2 촬영 모드를 교번적으로 수행할 수 있다. 여기서, 기 설정된 프레임 간격은 하나의 프레임 간격일 수 있다.
다만, 제1 촬영 모드에서 제2 이미지 센서(110-2)에 의해 획득된 이미지에 포함된 픽셀 값이 기설정된 값 미만이면, 제2 이미지 센서(110-2)의 노출 시간이 하나의 프레임에 대응되는 시간 구간을 초과하도록 제어할 수 있다.
전자 장치는, 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 객체를 식별하고, 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 식별된 객체의 거리 정보를 획득할 수 있다(S620).
전자 장치(100)는 하나의 밝기로 촬영된 이미지로부터 객체를 식별하는 경우보다, 다양한 밝기로 촬영된 이미지에서 객체를 식별하는 경우 객체의 식별력이 높아질 수 있다. 따라서, 제1 촬영 모드에서, 전자 장치(100)는 노출 시간이 서로 다르게 제어되는 제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2) 각각으로부터 획득된 복수의 촬영 이미지에서 다양한 객체를 정확하게 식별할 수 있다.
제1 이미지 센서(110-1) 및 제2 이미지 센서(110-2)는 서로 이격되어 배치되므로 제1 이미지 센서(110-1)를 통해 획득되는 이미지와 제2 이미지 센서(110-2)를 통해 획득되는 이미지 간 시차가 존재한다. 전자 장치(100)는 이러한 시차를 이용하여 복수의 이미지에 포함된 객체의 거리 정보를 획득할 수 있다.
한편, S620 단계는, S610 단계 이후에 수행되거나 S610 단계와 동시에 수행될 수도 있다.
한편, 상술한 전자 장치는, 차량에 탑재되는 주행 보조 장치일 수 있다. 구체적으로, 전자 장치는, ADAS(Advanced Driver Assistance Systems)를 구현하는 장치일 수 있다. 예를 들어, 전자 장치는 차량의 전장 시스템으로서, 차량 내부에 설치되는 카메라 모듈, 룸 미러 일체형 모듈 또는 차량에 탈부착 가능한 블랙박스 등으로 구현될 수도 있다.
전자 장치는, 객체의 타입 정보 및 거리 정보 중 적어도 하나에 기초하여 차량을 제어할 수 있다.
한편, 전자 장치는 이미지 센서(110) 및 프로세서(120)를 포함하는 장치를 기준으로 설명하였으나, 구현 예에 따라서는 이미지 센서(110)를 제외한 형태로 구현될 수도 있다. 이 경우, 전자 장치는 메모리 및/또는 프로세서로 구성되며, 촬영 이미지는 외부 이미지 센서와 연결된 인터페이스를 통해 획득할 수도 있다.
각 단계의 상세 동작에 대해서는 상술한 바 있으므로 자세한 설명은 생략하도록 한다.
한편, 상술한 본 개시의 다양한 실시 예들에 따른 방법들 중 적어도 일부 구성은 기존 전자 장치에 설치 가능하며, OS 상에서 사용자가 직접 사용하게 되는 소프트웨어인 어플리케이션 형태로 구현될 수 있다.
또한, 상술한 본 개시의 다양한 실시 예들에 따른 방법들 중 적어도 일부 구성은, 기존 전자 장치에 대한 소프트웨어 업그레이드, 또는 하드웨어 업그레이드 만으로도 구현될 수 있다.
또한, 상술한 본 개시의 다양한 실시 예들은 전자 장치에 구비된 임베디드 서버, 또는 전자 장치 및 디스플레이 장치 중 적어도 하나의 외부 서버를 통해 수행되는 것도 가능하다.
한편, 본 개시의 일시 예에 따르면, 이상에서 설명된 다양한 실시 예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 전자 장치(예: 전자 장치(A))를 포함할 수 있다. 명령이 프로세서에 의해 실행될 경우, 프로세서가 직접, 또는 프로세서의 제어 하에 다른 구성요소들을 이용하여 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
또한, 본 개시의 일 실시 예에 따르면, 이상에서 설명된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
또한, 본 개시의 일 실시 예에 따르면, 이상에서 설명된 다양한 실시 예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합을 이용하여 컴퓨터(computer) 또는 이와 유사한 장치로 읽을 수 있는 기록 매체 내에서 구현될 수 있다. 일부 경우에 있어 본 명세서에서 설명되는 실시 예들이 프로세서 자체로 구현될 수 있다. 소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다.
한편, 상술한 다양한 실시 예들에 따른 기기의 프로세싱 동작을 수행하기 위한 컴퓨터 명령어(computer instructions)는 비일시적 컴퓨터 판독 가능 매체(non-transitory computer-readable medium) 에 저장될 수 있다. 이러한 비일시적 컴퓨터 판독 가능 매체에 저장된 컴퓨터 명령어는 특정 기기의 프로세서에 의해 실행되었을 때 상술한 다양한 실시 예에 따른 기기에서의 처리 동작을 특정 기기가 수행하도록 한다. 비일시적 컴퓨터 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 비일시적 컴퓨터 판독 가능 매체의 구체적인 예로는, CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등이 있을 수 있다.
일 실시 예에 따르면, 본 개시의 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM, 앱스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
또한, 상술한 다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시 예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시에 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
100: 전자 장치 110: 이미지 센서
120: 프로세서 130: 통신부
140: 저장부 150: 센서

Claims (19)

  1. 제1 이미지 센서 및 제2 이미지 센서; 및
    상기 제1 이미지 센서 및 상기 제2 이미지 센서 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 상기 제1 이미지 센서 및 상기 제2 이미지 센서 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행하고,
    상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 객체를 식별하고, 상기 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 상기 식별된 객체의 거리 정보를 획득하는 프로세서;를 포함하는 전자 장치.
  2. 제1항에 있어서,
    상기 프로세서는,
    상기 제1 촬영 모드에서 상기 제1 이미지 센서의 노출 시간을 제1 노출 시간으로, 상기 제2 이미지 센서의 노출 시간을 제2 노출 시간으로 제어하고,
    상기 제2 촬영 모드에서 상기 제1 및 제2 이미지 센서의 노출 시간을 상기 제1 노출 시간으로 제어하는, 전자 장치.
  3. 제2항에 있어서,
    상기 제2 노출 시간은, 상기 제1 노출 시간을 초과하는, 전자 장치.
  4. 제2항에 있어서,
    상기 프로세서는,
    상기 제1 이미지 센서에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 상기 객체의 위치 정보 중 적어도 하나에 기초하여 상기 제1 노출 시간을 갱신하고,
    상기 제1 촬영 모드에서 상기 제2 이미지 센서에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 상기 객체의 위치 정보 중 적어도 하나에 기초하여 상기 제2 노출 시간을 갱신하는, 전자 장치.
  5. 제1항에 있어서,
    상기 프로세서는,
    기 설정된 프레임 간격으로, 상기 제1 촬영 모드 및 상기 제2 촬영 모드를 교번적으로 수행하는, 전자 장치.
  6. 제1항에 있어서,
    상기 프로세서는,
    상기 제1 촬영 모드에서 상기 제2 이미지 센서에 의해 획득된 이미지에 포함된 픽셀 값이 기설정된 값 미만이면, 상기 제2 이미지 센서의 노출 시간이 하나의 프레임에 대응되는 시간 구간을 초과하도록 제어하는, 전자 장치.
  7. 제1항에 있어서,
    상기 전자 장치는,
    차량에 탑재되는 주행 보조 장치인, 전자 장치.
  8. 제7항에 있어서,
    상기 프로세서는,
    상기 객체의 타입 정보 및 거리 정보 중 적어도 하나에 기초하여 상기 차량을 제어하는, 전자 장치.
  9. 제1항에 있어서,
    상기 프로세서는,
    상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 HDR(High Dynamic Range) 영상을 생성하고, 상기 HDR 영상을 이용하여 상기 객체를 식별하는, 전자 장치.
  10. 전자 장치의 제어 방법에 있어서,
    제1 이미지 센서 및 제2 이미지 센서 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 상기 제1 이미지 센서 및 상기 제2 이미지 센서 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행하는 단계; 및,
    상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 객체를 식별하고, 상기 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 상기 식별된 객체의 거리 정보를 획득하는 단계;를 포함하는, 제어 방법.
  11. 제10항에 있어서,
    상기 교번적으로 수행하는 단계는,
    상기 제1 촬영 모드에서 상기 제1 이미지 센서의 노출 시간을 제1 노출 시간으로, 상기 제2 이미지 센서의 노출 시간을 제2 노출 시간으로 제어하고,
    상기 제2 촬영 모드에서 상기 제1 및 제2 이미지 센서의 노출 시간을 상기 제1 노출 시간으로 제어하는, 제어 방법.
  12. 제11항에 있어서,
    상기 제2 노출 시간은, 상기 제1 노출 시간을 초과하는, 제어 방법.
  13. 제11항에 있어서,
    상기 제1 이미지 센서에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 상기 객체의 위치 정보 중 적어도 하나에 기초하여 상기 제1 노출 시간을 갱신하는 단계; 및
    상기 제1 촬영 모드에서 상기 제2 이미지 센서에 의해 획득된 적어도 하나의 이전 이미지에 포함된 픽셀 값 및 상기 객체의 위치 정보 중 적어도 하나에 기초하여 상기 제2 노출 시간을 갱신하는 단계;를 포함하는, 제어 방법.
  14. 제10항에 있어서,
    상기 교번적으로 수행하는 단계는,
    기 설정된 프레임 간격으로, 상기 제1 촬영 모드 및 상기 제2 촬영 모드를 교번적으로 수행하는, 제어 방법.
  15. 제10항에 있어서,
    상기 교번적으로 수행하는 단계는,
    상기 제1 촬영 모드에서 상기 제2 이미지 센서에 의해 획득된 이미지에 포함된 픽셀 값이 기설정된 값 미만이면, 상기 제2 이미지 센서의 노출 시간이 하나의 프레임에 대응되는 시간 구간을 초과하도록 제어하는, 제어 방법.
  16. 제10항에 있어서,
    상기 전자 장치는,
    차량에 탑재되는 주행 보조 장치인, 제어 방법.
  17. 제16항에 있어서,
    상기 객체의 타입 정보 및 거리 정보 중 적어도 하나에 기초하여 상기 차량을 제어하는 단계;를 더 포함하는, 제어 방법.
  18. 제10항에 있어서,
    거리 정보를 획득하는 단계는,
    상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 HDR 영상을 생성하고, 상기 HDR 영상을 이용하여 상기 객체를 식별하는, 제어 방법.
  19. 전자 장치의 프로세서에 의해 실행되는 경우 상기 전자 장치가 동작을 수행하도록 하는 컴퓨터 명령을 저장하는 비일시적 컴퓨터 판독 가능 매체에 있어서, 상기 동작은,
    제1 이미지 센서 및 제2 이미지 센서 각각의 노출 시간을 상이하게 제어하여 복수의 촬영 이미지를 획득하는 제1 촬영 모드 및 상기 제1 이미지 센서 및 상기 제2 이미지 센서 각각의 노출 시간을 동일하게 제어하여 복수의 촬영 이미지를 획득하는 제2 촬영 모드를 교번적으로 수행하는 단계; 및,
    상기 제1 촬영 모드에서 획득된 복수의 촬영 이미지를 이용하여 객체를 식별하고, 상기 제2 촬영 모드에서 획득된 복수의 촬영 이미지에 기초하여 상기 식별된 객체의 거리 정보를 획득하는 단계;를 포함하는, 비일시적 컴퓨터 판독 가능 매체.
KR1020180136333A 2018-11-08 2018-11-08 전자 장치 및 그 제어 방법 KR20200053125A (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020180136333A KR20200053125A (ko) 2018-11-08 2018-11-08 전자 장치 및 그 제어 방법
CN201980071198.3A CN112930679A (zh) 2018-11-08 2019-09-09 电子设备及其控制方法
EP19882935.0A EP3843379A4 (en) 2018-11-08 2019-09-09 ELECTRONIC DEVICE AND CORRESPONDING CONTROL PROCEDURE
PCT/KR2019/011626 WO2020096192A1 (ko) 2018-11-08 2019-09-09 전자 장치 및 그 제어 방법
US17/289,977 US11933599B2 (en) 2018-11-08 2019-09-09 Electronic device and method for controlling same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180136333A KR20200053125A (ko) 2018-11-08 2018-11-08 전자 장치 및 그 제어 방법

Publications (1)

Publication Number Publication Date
KR20200053125A true KR20200053125A (ko) 2020-05-18

Family

ID=70612116

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180136333A KR20200053125A (ko) 2018-11-08 2018-11-08 전자 장치 및 그 제어 방법

Country Status (5)

Country Link
US (1) US11933599B2 (ko)
EP (1) EP3843379A4 (ko)
KR (1) KR20200053125A (ko)
CN (1) CN112930679A (ko)
WO (1) WO2020096192A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7059239B2 (ja) * 2019-11-15 2022-04-25 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP2023527599A (ja) * 2021-04-20 2023-06-30 バイドゥドットコム タイムズ テクノロジー （ベイジン） カンパニー リミテッド 自動運転車両を動作させるためのコンピュータ実施方法、非一時的機械可読媒体、データ処理システムおよびコンピュータプログラム

Family Cites Families (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19960888A1 (de) 1999-12-17 2001-06-21 Robot Foto Electr Kg Bilderfassungsystem zur Erzeugung eines Dunkel- und Hellbildes
KR20010067778A (ko) 2001-03-23 2001-07-13 원치선 영상/비디오 처리 방법 및 영상/비디오 객체 분할 방법
WO2003083773A2 (en) 2002-03-27 2003-10-09 The Trustees Of Columbia University In The City Of New York Imaging method and system
US6784898B2 (en) 2002-11-07 2004-08-31 Duke University Mixed mode grayscale method for display system
JP4434155B2 (ja) 2006-02-08 2010-03-17 ソニー株式会社 符号化方法、符号化プログラムおよび符号化装置
KR100824698B1 (ko) 2006-08-25 2008-04-24 인하대학교 산학협력단 이미지 검색기의 적합성 피드백을 위한 공간 위치정보 기반영역 가중치 방법
JP2009017474A (ja) 2007-07-09 2009-01-22 Fujitsu Ten Ltd 画像処理装置および画像処理方法
US8072503B2 (en) 2007-10-23 2011-12-06 At&T Intellectual Property I, L.P. Methods, apparatuses, systems, and computer program products for real-time high dynamic range imaging
WO2009099667A1 (en) 2008-02-08 2009-08-13 Google Inc. Panoramic camera with multiple image sensors using timed shutters
DE102008032686B4 (de) 2008-07-06 2020-07-16 Dürr Dental SE Verfahren zur Verbesserung des Kontrastes von Bildern, insbesondere Grauwertbildern und Vorrichtung zu seiner Durchführung
KR100990904B1 (ko) 2008-11-12 2010-11-01 한국과학기술원 다수 영상의 생성 및 합성을 통한 영상 보정 장치 및 그 방법
JP5599572B2 (ja) * 2009-03-12 2014-10-01 富士フイルム株式会社 症例画像検索装置、方法およびプログラム
KR101633893B1 (ko) 2010-01-15 2016-06-28 삼성전자주식회사 다중노출 영상을 합성하는 영상합성장치 및 방법
JP2011254340A (ja) 2010-06-03 2011-12-15 Hitachi Ltd 撮像装置
CN102457669B (zh) 2010-10-15 2014-04-16 华晶科技股份有限公司 图像处理方法
KR101714641B1 (ko) 2010-12-29 2017-03-09 엘지이노텍 주식회사 이미지의 선명도 증강이 가능한 카메라, 이미지의 선명도 증강방법 및 그 기록매체
JP5713752B2 (ja) 2011-03-28 2015-05-07 キヤノン株式会社 画像処理装置、及びその制御方法
KR101843450B1 (ko) * 2011-08-23 2018-03-29 엘지전자 주식회사 이동 단말기 및 이동 단말기의 제어 방법
JP5713885B2 (ja) * 2011-12-26 2015-05-07 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
US9137451B2 (en) 2012-03-09 2015-09-15 Htc Corporation Electronic apparatus and adjustment method thereof
JP6259185B2 (ja) 2012-12-21 2018-01-10 キヤノン株式会社 撮像装置及びその制御方法、プログラム並びに記憶媒体
US20140325439A1 (en) 2013-04-24 2014-10-30 Samsung Electronics Co., Ltd. Method for outputting image and electronic device thereof
US9615012B2 (en) 2013-09-30 2017-04-04 Google Inc. Using a second camera to adjust settings of first camera
CN104937921B (zh) 2013-12-06 2019-04-26 华为终端（东莞）有限公司 一种终端及图像处理方法、图像采集方法
TWI530911B (zh) 2014-02-25 2016-04-21 宏碁股份有限公司 動態曝光調整方法及其電子裝置
JP2015207861A (ja) 2014-04-18 2015-11-19 コニカミノルタ株式会社 撮像装置および撮像方法
KR101579098B1 (ko) * 2014-05-23 2015-12-21 엘지전자 주식회사 스테레오 카메라, 이를 구비한 차량 운전 보조 장치, 및 차량
KR101631439B1 (ko) * 2014-05-29 2016-06-17 엘지전자 주식회사 카메라, 및 이를 구비한 차량
US9704250B1 (en) 2014-10-30 2017-07-11 Amazon Technologies, Inc. Image optimization techniques using depth planes
GB2535613B (en) 2014-12-19 2019-01-02 Apical Ltd Sensor noise profile
JP6511283B2 (ja) 2015-02-12 2019-05-15 日立オートモティブシステムズ株式会社 物体検知装置
JP6620534B2 (ja) 2015-03-25 2019-12-18 株式会社Ｊｖｃケンウッド 表示装置
JP2017028490A (ja) * 2015-07-22 2017-02-02 ルネサスエレクトロニクス株式会社 撮像センサ及びセンサモジュール
KR102327842B1 (ko) 2015-08-17 2021-11-18 삼성전자주식회사 촬영 장치 및 그 제어 방법
JP2017112457A (ja) 2015-12-15 2017-06-22 オリンパス株式会社 撮像装置、撮像プログラム、撮像方法
WO2017196670A1 (en) 2016-05-13 2017-11-16 Vid Scale, Inc. Bit depth remapping based on viewing parameters
KR102649197B1 (ko) 2016-07-29 2024-03-20 삼성전자주식회사 그래픽 객체를 표시하기 위한 전자 장치 및 컴퓨터 판독 가능한 기록 매체
US10506172B2 (en) 2016-08-17 2019-12-10 Google Llc Camera setting adjustment based on predicted environmental factors and tracking systems employing the same
KR20180023644A (ko) * 2016-08-26 2018-03-07 삼성전기주식회사 이미지 센서 및 이를 포함하는 카메라 모듈
KR102582643B1 (ko) 2016-09-19 2023-10-05 삼성전자주식회사 디스플레이 장치 및 이의 영상 처리 방법
JP2018074417A (ja) * 2016-10-31 2018-05-10 オリンパス株式会社 撮像装置
US11449985B2 (en) 2016-12-02 2022-09-20 Regents Of The University Of Minnesota Computer vision for cancerous tissue recognition
KR101866676B1 (ko) 2017-01-03 2018-06-12 중앙대학교 산학협력단 다중 파장 영상을 이용한 객체 인식 장치 및 방법
CN107045715B (zh) 2017-02-22 2019-06-07 西南科技大学 一种单幅低动态范围图像生成高动态范围图像的方法
KR20180097966A (ko) * 2017-02-24 2018-09-03 삼성전자주식회사 자율 주행을 위한 영상 처리 방법 및 장치
KR102392751B1 (ko) 2017-03-07 2022-04-29 삼성전자 주식회사 카메라 모듈을 구비한 전자 장치 및 전자 장치 제어 방법
US10084967B1 (en) 2017-03-24 2018-09-25 Qualcomm Incorporated Systems and methods for regionally controlling exposure time in high dynamic range imaging
KR102479492B1 (ko) 2018-01-08 2022-12-20 삼성전자주식회사 차량 주변의 이미지를 제공하는 전자 장치 및 방법
US10630903B2 (en) * 2018-01-12 2020-04-21 Qualcomm Incorporated Systems and methods for image exposure
CN108259774B (zh) 2018-01-31 2021-04-16 珠海市杰理科技股份有限公司 图像合成方法、系统和设备

Also Published As

Publication number Publication date
EP3843379A4 (en) 2021-10-20
US20220006939A1 (en) 2022-01-06
CN112930679A (zh) 2021-06-08
WO2020096192A1 (ko) 2020-05-14
EP3843379A1 (en) 2021-06-30
US11933599B2 (en) 2024-03-19

Similar Documents

Publication Publication Date Title
US11409303B2 (en) Image processing method for autonomous driving and apparatus thereof
US10567674B2 (en) Systems and methods for detecting objects in imaging systems
US11068050B2 (en) Method for controlling display of virtual image based on eye area size, storage medium and electronic device therefor
EP3628121B1 (en) Electronic device for storing depth information in connection with image depending on properties of depth information obtained using image and control method thereof
KR102333101B1 (ko) 관심 객체에 대한 외부 광원의 속성 정보를 제공하는 방법을 지원하는 전자 장치
US20180081434A1 (en) Eye and Head Tracking
US10404922B2 (en) Image capturing apparatus with flicker compensation and method of operating the same
US20190034756A1 (en) Electronic device for acquiring image using plurality of cameras and method for processing image using the same
CN109670421B (zh) 一种疲劳状态检测方法和装置
US9854161B2 (en) Photographing device and method of controlling the same
JP6627866B2 (ja) 撮影装置、撮影方法、信号処理装置、信号処理方法、及び、プログラム
US11933599B2 (en) Electronic device and method for controlling same
JP7401013B2 (ja) 情報処理装置、制御装置、情報処理方法及びプログラム
TW201438464A (zh) 具能見度強化之攝影系統
CN112889271A (zh) 一种图像处理方法及装置
US10578877B1 (en) Near-eye display system and display method thereof
US20220194187A1 (en) Dimming light that is interfering with an observer's vision
US20170339349A1 (en) Image processing apparatus, surveillance camera system, image processing method, and program
WO2020129146A1 (ja) 表示制御装置及び表示制御方法
JP7095714B2 (ja) 画像処理装置、画像処理方法及びプログラム
WO2024080506A1 (ko) Udc 이미지 복원을 수행하는 방법 및 전자 장치
JP6355327B2 (ja) 画像処理装置及び方法
US20200219241A1 (en) Information processing device, information processing method, and recording medium
JP2023154475A (ja) 撮像装置およびその制御方法
JP2020113953A (ja) 頭部装着型表示装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal