KR102567149B1 - 차량 주변 영상을 생성하기 위한 장치 및 방법 - Google Patents

차량 주변 영상을 생성하기 위한 장치 및 방법 Download PDF

Info

Publication number
KR102567149B1
KR102567149B1 KR1020210167066A KR20210167066A KR102567149B1 KR 102567149 B1 KR102567149 B1 KR 102567149B1 KR 1020210167066 A KR1020210167066 A KR 1020210167066A KR 20210167066 A KR20210167066 A KR 20210167066A KR 102567149 B1 KR102567149 B1 KR 102567149B1
Authority
KR
South Korea
Prior art keywords
vehicle
image
sun
cameras
shadow
Prior art date
Application number
KR1020210167066A
Other languages
English (en)
Other versions
KR20230079874A (ko
Inventor
김관진
박재홍
Original Assignee
주식회사 와이즈오토모티브
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 와이즈오토모티브 filed Critical 주식회사 와이즈오토모티브
Priority to KR1020210167066A priority Critical patent/KR102567149B1/ko
Publication of KR20230079874A publication Critical patent/KR20230079874A/ko
Application granted granted Critical
Publication of KR102567149B1 publication Critical patent/KR102567149B1/ko

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/60—Analysis of geometric attributes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/71—Circuitry for evaluating the brightness variation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

차량의 주변을 나타내는 차량 주변 영상을 생성하기 위한 영상 생성 장치가 개시된다. 영상 생성 장치는, 차량에 설치된 복수의 카메라들로부터 카메라 영상들을 수신하도록 구성되는 영상 수신부, 카메라 영상들을 합성하여 차량 주변 영상을 생성하는 영상 합성부 및 차량 주변 영상을 출력하도록 구성되는 영상 출력부를 포함하고, 영상 합성부는, 생성된 차량 주변 영상을 분석하여, 카메라 영상들 각각의 밝기를 조절하기 위한 오프셋을 결정하고, 결정된 오프셋을 각 카메라 영상에 적용하고, 적용된 카메라 영상들을 재합성하여 차량 주변 영상을 보정한다.

Description

차량 주변 영상을 생성하기 위한 장치 및 방법{DEVICE AND METHOD FOR GENERATING IMAGE OF AROUND THE VEHICLE}
본 발명은 차량 주변 영상을 생성하기 위한 장치 및 방법에 관한 것으로, 특히, 차량에 설치된 복수의 카메라에 의해 생성된 카메라 영상들을 합성하여 차량 주변 영상을 생성하기 위한 장치 및 방법에 관한 것이다.
차량 영상 기술의 발달에 따라, 차량에는 다수의 카메라가 탑재되고 있다. 어라운드 뷰 모니터(Around View Monitor)는 차량에 탑재된 복수의 카메라들을 이용하여, 차량 주변의 영상을 생성한다. 이 때, 복수의 카메라들 각각의 탑재 위치 달라, 카메라들로 입사되는 빛의 광량에 차이가 발생할 수 있고, 이에 따라 각 카메라들에 의해 생성된 영상의 밝기 및 색상에 차이가 발생할 수 있다. 위와 같은 밝기 및 색상의 차이를 고려하지 않고 차량 주변 영상을 생성하면 시인성이 상대적으로 감소될 수 있다.
본 발명이 해결하고자 하는 과제는 차량에 설치된 복수의 카메라들에 의해 생성된 카메라 영상들 사이의 밝기 차이를 최소화하여 합성함으로써 균일한 밝기를 갖는 차량 주변 영상을 생성하기 위한 장치 및 방법을 제공하는 것이다.
본 발명의 실시 예들에 따른 차량의 주변을 나타내는 차량 주변 영상을 생성하기 위한 영상 생성 장치는, 차량에 설치된 복수의 카메라들로부터 카메라 영상들을 수신하도록 구성되는 영상 수신부, 카메라 영상들을 합성하여 차량 주변 영상을 생성하는 영상 합성부 및 차량 주변 영상을 출력하도록 구성되는 영상 출력부를 포함하고, 영상 합성부는, 생성된 차량 주변 영상을 분석하여, 카메라 영상들 각각의 밝기를 조절하기 위한 오프셋을 결정하고, 결정된 오프셋을 각 카메라 영상에 적용하고, 적용된 카메라 영상들을 재합성하여 차량 주변 영상을 보정한다.
본 발명의 실시 예들에 따른 차량의 주변을 나타내는 차량 주변 영상을 생성하기 위한 영상 생성 방법은, 차량에 설치된 복수의 카메라들로부터 카메라 영상들을 수신하는 단계, 카메라 영상들을 합성하여 차량 주변 영상을 생성하는 단계, 차량 주변 영상을 분석하여, 카메라 영상들 각각의 밝기를 조절하기 위한 오프셋을 결정하는 단계, 결정된 오프셋을 카메라 영상들 각각에 적용하는 단계, 오프셋이 적용된 카메라 영상들을 재합성하여 차량 주변 영상을 보정하는 단계 및 차량 주변 영상을 출력하는 단계를 포함한다.
본 발명의 실시 예들에 따르면, 차량에 설치된 복수의 카메라들에 의해 생성된 카메라 영상들 사이의 밝기 차이를 최소화하여 합성함으로써 균일한 밝기를 갖는 차량 주변 영상을 생성할 수 있는 효과가 있다.
도 1은 본 발명의 실시 예들에 따른 차량 주변 영상을 나타낸다.
도 2는 차량 주변 영상에 나타나는 밝기 차이를 나타낸다.
도 3은 본 발명의 실시 예들에 따른 차량을 나타낸다.
도 4는 본 발명의 실시 예들에 따른 차량 주변 영상 생성 장치를 나타낸다.
도 5 내지 도 8은 본 발명의 실시 예들에 따른 차량 주변 영상을 생성하는 과정을 설명하기 위한 도면이다.
도 9는 본 발명의 실시 예들에 따른 영상 생성 장치를 나타낸다.
본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 동일 또는 유사한 구성요소에 대해서는 동일한 참조 부호를 붙이도록 한다.
다르게 정의하지는 않았지만, 여기에 사용되는 기술용어 및 과학용어를 포함하는 모든 용어들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 일반적으로 이해하는 의미와 동일한 의미를 가진다. 보통 사용되는 사전에 정의된 용어들은 관련 기술문헌과 현재 개시된 내용에 부합하는 의미를 가지는 것으로 추가 해석되고, 정의되지 않는 한 이상적이거나 매우 공식적인 의미로 해석되지 않는다.
이하, 첨부한 도면을 참조하여 본 발명의 실시 예에 대하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다.
도 1은 본 발명의 실시 예들에 따른 차량 주변 영상을 나타낸다. 도 1을 참조하면, 차량(100)은 복수의 카메라들(CAM1~CAM6)을 탑재할 수 있다. 본 발명의 실시 예들에 따른 영상 생성 장치는, 복수의 카메라들(CAM1~CAM6)로부터 생성된 영상을 이용하여 도 1에 도시된 차량 주변 영상(10)을 생성할 수 있다. 복수의 카메라들(CAM1~CAM6) 각각은 설치된 위치에서 자신의 시야각에 해당하는 영상들을 촬영할 수 있다.
영상 생성 장치는 복수의 카메라들(CAM1~CAM6)로부터 촬영된 영상을 합성함으로써 차량 주변 영상(10)을 생성할 수 있다. 예컨대, 차량 주변 영상(10)의 제1영역(REG1)은 제1카메라(CAM1)에 의해 촬영된 영상에 기초하고, 제2영역(REG2)은 제2카메라(CAM2)에 의해 촬영된 영상에 기초할 수 있으며, 마찬가지로, 제6영역(REG6)은 제6카메라(CAM6)에 의해 촬영된 영상에 기초할 수 있다.
차량 주변 영상(10)은 차량(100)의 주변을 나타내는 영상일 수 있고, 차량 주변 영상(10)은 차량(100)의 상부를 나타낼 수 있지만(top-view), 이에 한정되는 것은 아니다. 다만, 도 1의 차량 주변 영상(10)에는 카메라들(CAM1~CAM6)이 나타나 있으나, 이는 설명을 위한 것이며, 실제 차량 주변 영상(10)에는 도시 생략될 수도 있다.
도 2는 차량 주변 영상에 나타나는 밝기 차이를 나타내는 도면이다. 도 2를 참조하면, 차량 주변 영상(10)의 각 영역(REG1~REG6)이 나타나 있다. 도 2를 통해 확인할 수 있는 바와 같이, 차량 주변 영상(10)의 각 영역(REG1~REG6)의 밝기(그리고 색상)에 차이가 발생할 수 있다.
상술한 바와 같이, 차량(100)의 각 위치에는 카메라들(CAM1~CAM6)이 설치되어 있는데, 카메라들(CAM1~CAM6)의 위치는 상이한 반면, 광원인 태양의 위치는 고정되어 있으므로 카메라들(CAM1~CAM6) 각각으로 입사되는 태양광의 정도가 서로 달라질 수 있고, 이에 따라, 카메라들(CAM1~CAM6) 각각에 의해 촬영된 영상에 기초하는 각 영역(REG1~REG6)의 밝기(그리고 색상)에 차이가 발생할 수 있다. 즉, 영역들(REG1~REG6) 사이의 밝기(및 색상)에 차이가 존재할 수 있다.
본 발명의 실시 예들에 따른 영상 생성 장치는, 카메라들(CAM1~CAM6) 각각으로 입사되는 태양광의 정도를 고려하여, 각 카메라들(CAM1~CAM6)의 영상을 합성함으로써 영역들(REG1~REG6) 사이에 밝기 및 색상 차이가 최소화된 차량 주변 영상(10)을 생성할 수 있는 효과가 있다.
도 3은 본 발명의 실시 예들에 따른 영상 생성 장치를 포함하는 차량을 나타낸다. 도 3을 참조하면, 차량(100)은 카메라(110), 영상 생성 장치(120) 및 디스플레이(130)를 포함할 수 있다. 도 3에 도시된 구성 외에도, 차량(100)의 기본적인 동작(주행, 운전자 보조 동작 등)을 수행하기 위한 구성들이 포함될 수 있으나, 이에 대한 설명은 생략한다.
카메라(110)는 도 1에 도시된 카메라들(CAM1~CAM6)을 집합적으로 나타낸다. 카메라(110)는 차량(100) 주변을 촬영하고, 영상을 생성할 수 있다. 본 명세서에서, 카메라(110)에 의해 촬영되어 생성된 영상은 카메라 영상이라고 한다. 실시 예들에 따라, 카메라(110)는 차량(100)에 탑재될 수 있다. 예컨대, 카메라(110)는 복수일 수 있고, 복수의 카메라들(110)은 차량(100)의 전방, 후방, 좌측 및 우측 등에 배치되어, 차량(100) 주변에 대한 영상을 생성할 수 있다.
영상 생성 장치(120)는 카메라(110)에 의해 생성된 카메라 영상을 합성하여, 차량(100)의 주변이 나타난 차량 주변 영상을 생성할 수 있다. 실시 예들에 따라, 영상 생성 장치(120)는 카메라(110)에 의해 생성된 카메라 영상을 각 영역별로 합성함으로써, 차량 주변 영상을 생성할 수 있다.
이 때, 실시 예들에 따라, 영상 생성 장치(120)는 카메라(110) 각각으로 입사되는 태양광의 정도를 고려하여 카메라 영상을 합성함으로써 밝기 및 색상 차이가 최소화되어 균일한 차량 주변 영상(10)을 생성할 수 있는 효과가 있다.
영상 생성 장치(120)는 생성된 차량 주변 영상(10)을 출력할 수 있다. 예컨대, 영상 생성 장치(120)는 차량 주변 영상(10)을 디스플레이(130)로 출력할 수 있다.
디스플레이(130)는 영상을 표시할 수 있다. 실시 예들에 따라, 디스플레이(130)는 영상 생성 장치(120)로부터 출력된 차량 주변 영상(10)을 수신하여 출력할 수 있다. 예컨대, 디스플레이(130)는 LCD(liquid crystal display) 디스플레이 또는 LED(light emitting diode) 디스플레이일 수 있으나, 본 발명의 실시 예들이 이에 한정되는 것은 아니다.
도 3은 본 발명의 실시 예들에 따른 영상 생성 장치를 나타낸다. 도 3을 참조하면, 영상 생성 장치(120)는 영상 수신부(121), 영상 합성부(123), 영상 출력부(125) 및 저장부(127)를 포함할 수 있다.
영상 수신부(121)는 카메라 영상을 수신할 수 있다. 실시 예들에 따라, 영상 수신부(121)는 카메라(110)와 전기적으로 연결되어, 카메라(110)로부터 카메라 영상을 수신할 수 있다. 실시 예들에 따라, 영상 수신부(121)는 수신된 카메라 영상을 저장부(127)에 저장할 수 있다.
영상 합성부(123)는 카메라 영상을 이용하여 차량 주변 영상(10)을 생성할 수 있다. 영상 합성부(123)는 연산 처리 기능을 갖는 집적회로를 포함할 수 있다. 예컨대, 영상 합성부(123)는 CPU(central processing unit), MCU(micro controller unit), DSP(digital signal processor), GPU(graphical processing unit), FPGA(field programmable gate array), ASIC(application specified integrated circuit) 등과 같은 프로세서를 포함할 수 있다.
실시 예들에 따라, 영상 합성부(123)는 카메라 영상을 합성함으로써, 차량 주변 영상(10)을 생성할 수 있다. 이 때, 영상 합성부(123)는 카메라들(110) 각각의 설치 위치 및 특성을 고려하여, 카메라들(110) 각각의 카메라 영상의 형태(예컨대, 크기 또는 방향)를 결정하고, 결정된 형태에 따라 카메라 영상을 조절하여 합성할 수도 있다.
또한, 영상 합성부(123)는 카메라들(110)로 입사되는 광량을 고려하여, 카메라들(110) 각각에 대응하는 카메라 영상의 밝기를 개별적으로 조절한 후, 카메라 영상을 합성하여 차량 주변 영상(10)을 생성할 수 있다.
본 발명의 실시 예들에 따른 영상 합성부(123)는 카메라들(110)로 입사되는 광량을 고려하여, 카메라들(110) 각각에 대응하는 카메라 영상의 밝기를 개별적으로 조절하여 합성하여 차량 주변 영상(10)을 생성할 수 있다.
영상 합성부(123)는 카메라 영상을 합성하여 차량 주변 영상(10)을 생성하고, 생성된 차량 주변 영상(10)을 분석하여 카메라 영상 합성 시 각 카메라 영상에 적용될 오프셋을 결정하고, 결정된 오프셋에 따라 카메라 영상을 재합성하여 차량 주변 영상을 재생성(또는 보정)할 수 있다. 즉, 영상 합성부(123)는 차량 주변 영상(10)을 생성하고, 차량 주변 영상(10)으로부터 오프셋을 결정한 후, 결정된 오프셋을 이용하여 보정된 차량 주변 영상(10)을 생성할 수 있다. 다만 설명의 편의상, 이하 본 명세서에서는 차량 주변 영상(10)의 생성, 재생성, 보정 등을 통칭하여 생성이라고 설명한다.
예를 들어, 영상 합성부(123)는 각 카메라 영상의 휘도(또는 밝기)에 결정된 오프셋을 반영하여, 각 카메라 영상의 밝기를 서로 다르게 한 후 합성하여 차량 주변 영상(10)을 생성할 수 있다. 이에 따라 생성된 차량 주변 영상(10)은 카메라들(110) 각각의 밝기 차이를 고려하여 생성된 것이므로, 균일한 밝기를 가지게 될 수 있다.
영상 출력부(125)는 차량 주변 영상(10)을 출력할 수 있다. 실시 예들에 따라, 영상 출력부(125)는 저장부(127)에 저장된 차량 주변 영상(10)을 외부로 출력할 수 있다. 예컨대, 영상 출력부(125)는 차량 주변 영상(10)을 디스플레이(130)로 출력할 수 있다.
저장부(127)는 영상 생성 장치(120)의 동작과 관련된 데이터를 저장할 수 있다. 실시 예들에 따라, 저장부(127)는 카메라들(110)로부터 전송된 카메라 영상 및 차량 주변 영상(10)을 저장할 수 있다. 또한, 저장부(127)는 차량 주변 영상(10) 생성 시, 각 카메라 영상의 밝기 조절을 위한 오프셋 정보를 더 저장할 수 있다.
도 5 내지 도 8은 본 발명의 실시 예들에 따른 차량 주변 영상을 생성하는 과정을 설명하기 위한 도면이다. 도 5 내지 도 8을 참조하여 설명되는 방법은 본 발명의 실시 예들에 따른 영상 생성 장치(120) 또는 영상 합성부(123)에 의해 수행될 수 있다.
도 5 및 도 6을 참조하면, 영상 합성부(123)는 생성된 차량 주변 영상(10)에 나타난 그림자(SHD)를 분석할 수 있다. 영상 합성부(123)는 그림자(SHD)를 분석하고, 분석 결과에 따라 카메라 영상들 각각에 적용될 오프셋을 결정할 수 있다.
영상 합성부(123)는 그림자(SHD)를 분석하여 현재 태양의 고도 및 태양과 차량 사이의 각도를 결정할 수 있다. 실시 예들에 따라, 영상 합성부(123)는 차량 주변 영상(10)의 픽셀을 분석하여, 그림자(SHD)를 인식하고 인식된 그림자(SHD)를 분석할 수 있다. 예컨대, 영상 합성부(123)는 경계선 검출 알고리즘(edge detection algorithm)과 같은 이미지 처리 기법을 이용하여, 차량 주변 영상(10)으로부터 그림자(SHD)를 인식할 수 있다.
영상 합성부(123)는 그림자(SHD)의 분석 결과를 이용하여, 태양의 고도 및 태양과 차량(100)의 상대 각도(ANG)를 계산할 수 있다. 실시 예들에 따라, 영상 합성부(123)는 그림자(SHD)의 형태를 결정하고, 결정된 그림자(SHD)의 형태를 이용하여 태양의 고도 및 태양과 차량(100)의 상대 각도(ANG)를 계산할 수 있다.
영상 합성부(123)는 차량 주변 영상(10)에 나타난 그림자(SHD)의 크기(SZ)를 결정하고, 결정된 그림자(SHD)의 크기(SZ)와 차량(100)의 높이(H)를 이용하여, 현재 태양의 고도를 계산할 수 있다. 실시 예들에 따라, 영상 합성부(123)는 차량(100)으로부터 그림자(SHD)가 끝나는 지점까지의 거리를 그림자(SHD)의 크기로서 결정할 수 있다.
차량(100)의 높이(H)는 미리 정해져 있는 값이므로, 그림자(SHD)의 크기(SZ)가 크면 태양의 고도는 낮게 계산될 수 있고, 반대로, 그림자(SHD)의 크기(SZ)가 작으면 태양의 고도는 높게 계산될 수 있다.
실시 예들에 따라, 저장부(127)는 그림자(SHD)의 크기(SZ)와 태양의 고도가 맵핑된 테이블을 저장할 수 있고, 영상 합성부는 저장된 테이블을 참조하여 그림자(SHD)의 크기(SZ)로부터 태양의 고도를 계산할 수 있으나, 이에 한정되는 것은 아니며, 영상 합성부(123)는 미리 결정된 수식에 따라 태양의 고도를 계산할 수도 있다.
또한, 영상 합성부(123)는 차량 주변 영상(10)에 나타난 그림자(SHD)의 방향을 결정하고, 결정된 그림자(SHD)의 방향에 기초하여, 태양과 차량(100) 사이의 상대 각도(ANG)를 계산할 수 있다. 실시 예들에 따라, 영상 합성부(123)는 그림자(SHD)의 꼭지점(P)의 위치를 결정하고, 결정된 꼭지점(P)의 위치로부터 그림자(SHD)의 방향을 결정할 수 있다. 예컨대, 영상 합성부(123)는 그림자(SHD)의 꼭지점(P)의 좌표를 계산하고, 그림자(SHD)의 꼭지점(P)의 좌표와 미리 지정된 차량(100) 상의 기준점(O)의 좌표로부터, 그림자(SHD)의 방향을 계산할 수 있다.
차량(100)의 그림자(SHD)의 방향은 차량(100)과 태양 사이의 상대 각도(ANG)에 따라 결정되는 것이므로, 영상 합성부(123)는 그림자(SHD)의 방향으로부터 상대 각도(ANG)를 계산할 수 있다.
실시 예들에 따라, 저장부(127)는 그림자(SHD)의 방향과 상대 각도(ANG)가 맵핑된 테이블을 저장할 수 있고, 영상 합성부는 저장된 테이블을 참조하여 그림자(SHD)의 방향으로부터 차량(100)과 태양 사이의 상대 각도(ANG)를 계산할 수 있으나, 이에 한정되는 것은 아니며, 영상 합성부(123)는 미리 결정된 수식에 따라 상대 각도(ANG)를 계산할 수도 있다.
한편, 실시 예들에 따라, 영상 합성부(123)는 그림자(SHD)가 검출되지 않거나, 또는 그림자(SHD)의 형태가 미리 저장된 패턴(즉, 차량의 그림자 패턴)이 아닌 경우에는, 차량 주변 영상(10)을 보정하지 않을 수 있다.
도 7을 참조하면, 영상 합성부(123)는 계산된 태양의 고도와, 차량(100) 및 태양 사이의 상대 각도(ANG)에 기초하여, 카메라들(110) 또는 카메라 영상들 각각에 대응하는 오프셋을 결정할 수 있다. 오프셋은 카메라 영상들을 합성하여 차량 주변 영상(10)을 생성할 때 카메라 영상들 각각의 밝기 차이를 최소화하기 위해, 밝기(또는 색상)을 조절하기 위한 값으로서, 예를 들어, 양의 오프셋은 카메라 영상의 밝기를 증가시키는 것을 의미하고, 음의 오프셋은 카메라 영상의 밝기를 감소시키는 것을 의미할 수 있다. 영상 합성부(123)는 결정된 오프셋을 각 카메라 영상에 적용하고, 오프셋이 적용된 카메라 영상을 합성하여 차량 주변 영상(10)을 생성할 수 있다.
실시 예들에 따라, 저장부(127)는 태양의 고도, 상대 각도(ANG) 및 카메라 영상 별 오프셋이 맵핑된 테이블을 저장할 수 있고, 영상 합성부(123) 저장된 테이블을 참조하여 고도 및 상대 각도(ANG)에 대응하는 오프셋을 결정할 수 있다. 예컨대, 고도 35도, 상대 각도 320도에 대응하는 제1카메라(CAM1)의 카메라 영상의 오프셋은 -30으로 결정될 수 있다.
또는, 실시 예들에 따라, 저장부(127)는 태양의 고도 및 상대 각도(ANG)에 기초하여, 각 카메라(110)로 입사되는 태양광의 상대 강도를 계산하고, 계산된 상대 강도의 평균에 기초하여 오프셋을 결정할 수도 있다.
도 8을 참조하면, 영상 합성부(123)는 결정된 오프셋을 이용하여 차량 주변 영상(10)을 생성할 수 있다. 실시 예들에 따라, 영상 합성부(123)는 카메라들(110)로부터 수신된 각 카메라 영상의 밝기(또는 색상)을 결정된 오프셋에 따라 조절하고, 조절된 카메라 영상을 합성하여 차량 주변 영상(10)을 생성할 수 있다. 예를 들어, 영상 합성부(123) 제1카메라(CAM1)의 카메라 영상의 밝기를 30만큼 감소시키고, 제2카메라(CAM2)의 카메라 영상의 밝기를 40만큼 감소시키고, 제3카메라(CAM3)의 카메라 영상의 밝기를 50만큼 감소시키고, 제4카메라(CAM4)의 카메라 영상의 밝기를 +40만큼 증가시키고, 제5카메라(CAM5)의 카메라 영상의 밝기를 50만큼 증가시키고, 제6카메라(CAM6)의 카메라 영상의 밝기를 30만큼 증가시킨 후, 카메라 영상들을 합성하여 차량 주변 영상(10)을 생성할 수 있다.
본 발명의 실시 예들에 따른 영상 합성부(123)는 카메라(110) 각각으로 입사되는 태양광의 정도를 고려하여 카메라 영상들의 밝기를 보정하기 위한 오프셋을 결정하고, 결정된 오프셋을 이용하여 카메라 영상들 각각의 밝기를 조절하여 합성함으로써, 영역들(REG1~REG6) 사이에 밝기 및 색상 차이가 최소화된 차량 주변 영상(10)을 생성할 수 있는 효과가 있다.
도 9는 본 발명의 실시 예들에 따른 영상 생성 장치를 나타낸다. 도 9를 참조하면, 영상 생성 장치(120A)는 도 4를 참조하여 설명된 영상 생성 장치(120)와 비교할 때, 측위 장치(129A)를 더 포함하는 차이가 있다. 이하에서는, 차이점에 대해서만 설명한다.
측위 장치(129)는 차량(100)의 현재 위치를 계산할 수 있다. 실시 예들에 따라, 측위 장치(129)는 차량(100)의 위도 및 경도를 포함한 현재 위치를 계산할 수 있다. 예컨대, 측위 장치(129)는 GPS(global positioning system)에 따라 차량(100)의 현재 위치를 계산할 수 있다.
실시 예들에 따라, 측위 장치(129)는 현재 위치를 계산하고, 위치 정보를 생성할 수 있다. 생성된 위치 정보는 저장부(127)에 저장될 수 있다.
영상 합성부(123)는 위치 정보를 이용하여, 차량(100)의 현재 위치에서 관측되는 태양의 위치를 계산할 수 있다. 실시 예들에 따라, 영상 합성부(123)는 차량(100)의 현재 위치로부터, 태양의 고도 및 방위각을 계산할 수 있다.
실시 예들에 따라, 저장부(127)는 차량(100)의 현재 위치 및 태양의 위치가 맵핑된 테이블을 저장할 수 있고, 영상 합성부(123)는 저장된 테이블을 참조하여 차량(100)의 위치 정보로부터 태양의 위치를 계산할 수 있으나, 이에 한정되는 것은 아니며, 영상 합성부(123)는 미리 결정된 수식에 따라 태양의 위치를 계산할 수도 있다.
영상 합성부(123)는 차량의 방향과 태양의 방위각을 이용하여, 차량(100)과 태양 사이의 상대 각도를 계산할 수 있다. 실시 예들에 따라, 영상 합성부(123)는 차량 주변 영상(10)에 나타난 그림자(SHD)를 분석하고, 분석 결과에 따라 차량(100)과 태양 사이의 상대 각도를 계산할 수 있다.
영상 합성부(123)는 계산된 태양의 위치(고도 및 방위각)와 차량(100)의 크기를 기초로, 기준 각도에서의 기준 그림자를 생성하고, 생성된 기준 그림자와 차량 주변 영상(10)에 나타난 그림자(SHD)를 비교함으로써, 차량(100)과 태양 사이의 상대 각도를 계산할 수 있다. 예를 들어, 영상 합성부(123)는 기준 그림자에 대해 차량 주변 영상(10)에 나타난 그림자(SHD)의 기울어진 정도를 결정함으로써, 상대 각도를 계산할 수 있다.
영상 합성부(123)는 계산된 태양의 고도와, 차량(100) 및 태양 사이의 상대 각도(ANG)에 기초하여, 카메라들(110) 또는 카메라 영상들 각각에 대응하는 오프셋을 결정할 수 있다.
본 발명은 도면과 명세서에 최적의 실시예들이 개시되었다. 여기서, 특정한 용어들이 사용되었으나, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미 한정이나 청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 발명은 기술분야의 통상의 지식을 가진 자라면, 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 권리범위는 첨부된 청구범위의 기술적 사상에 의해 정해져야 할 것이다.
10: 차량 주변 영상 100: 차량
CAM1~CAM6: 카메라 REG1~REG6: 영역
110: 카메라 120: 영상 생성 장치
130: 디스플레이

Claims (12)

  1. 차량의 주변을 나타내는 차량 주변 영상을 생성하기 위한 영상 생성 장치에 있어서,
    상기 차량에 설치된 복수의 카메라들로부터 카메라 영상들을 수신하도록 구성되는 영상 수신부;
    상기 복수의 카메라 각각에 대해, 태양의 고도 및 차량과 태양 사이의 상대 각도에 대응하는 오프셋이 맵핑된 테이블을 저장하는 저장부;
    상기 복수의 카메라 각각의 영상을 합성하여 상기 차량 주변 영상을 생성하는 영상 합성부; 및
    상기 차량 주변 영상을 출력하도록 구성되는 영상 출력부를 포함하고,
    상기 영상 합성부는,
    상기 차량 주변 영상에 나타난 그림자를 분석하여, 태양의 고도 및 상기 차량과 태양 사이의 상대 각도를 계산하고,
    상기 테이블을 참조하여 상기 복수의 카메라 각각에 대해, 상기 계산된 고도 및 상기 상대 각도에 대응하는 상기 오프셋을 결정하고,
    결정된 오프셋에 기초하여 상기 복수의 카메라 각각의 카메라 영상의 밝기를 보정하고,
    보정된 카메라 영상들을 재합성하여 밝기가 보정된 차량 주변 영상을 생성하는,
    영상 생성 장치.
  2. 제1항에 있어서,
    상기 복수의 카메라들은 상기 차량의 서로 다른 위치에 각각 설치되는,
    영상 생성 장치.
  3. 삭제
  4. 삭제
  5. 제1항에 있어서, 상기 영상 합성부는,
    상기 그림자의 크기를 결정하고, 결정된 그림자의 크기로부터 상기 태양의 고도를 계산하고,
    상기 그림자의 방향을 결정하고, 결정된 그림자의 방향으로부터 상기 상대 각도를 계산하는,
    영상 생성 장치.
  6. 차량의 주변을 나타내는 차량 주변 영상을 생성하기 위한 영상 생성 장치에 있어서,
    상기 차량의 현재 위치를 나타내는 위치 정보를 생성하는 측위 장치;
    상기 차량에 설치된 복수의 카메라들로부터 카메라 영상들을 수신하도록 구성되는 영상 수신부;
    상기 복수의 카메라 각각에 대해, 태양의 고도 및 차량과 태양 사이의 상대 각도에 대응하는 오프셋이 맵핑된 테이블을 저장하는 저장부;
    상기 복수의 카메라 각각의 영상을 합성하여 상기 차량 주변 영상을 생성하는 영상 합성부; 및
    상기 차량 주변 영상을 출력하도록 구성되는 영상 출력부를 포함하고,
    상기 영상 합성부는,
    상기 차량의 현재 위치에 대응하는 태양의 고도 및 방위각에 따라, 상기 차량의 기준 각도에서의 기준 그림자를 생성하고,
    생성된 기준 그림자와 상기 차량 주변 영상에 나타난 그림자를 비교하여, 상기 상대 각도를 계산하고,
    상기 테이블을 참조하여 상기 복수의 카메라 각각에 대해, 상기 태양의 고도 및 상기 상대 각도에 대응하는 상기 오프셋을 결정하고,
    결정된 오프셋에 기초하여 상기 복수의 카메라 각각의 카메라 영상의 밝기를 보정하고,
    보정된 카메라 영상들을 재합성하여 밝기가 보정된 차량 주변 영상을 생성하는,
    영상 생성 장치.
  7. 삭제
  8. 삭제
  9. 차량의 주변을 나타내는 차량 주변 영상을 생성하기 위한 영상 생성 방법에 있어서,
    상기 차량에 설치된 복수의 카메라들로부터 카메라 영상들을 수신하는 단계;
    상기 복수의 카메라 각각에 대해, 태양의 고도 및 차량과 태양 사이의 상대 각도에 대응하는 오프셋이 맵핑된 테이블을 저장하는 단계;
    상기 복수의 카메라 각각의 영상을 합성하여 상기 차량 주변 영상을 생성하는 단계;
    상기 생성된 차량 주변 영상에 나타난 그림자를 분석하여, 태양의 고도 및 상기 차량과 태양 사이의 상대 각도를 계산하는 단계;
    상기 테이블을 참조하여 상기 복수의 카메라 각각에 대해, 상기 계산된 고도 및 상기 상대 각도에 대응하는 상기 오프셋을 결정하는 단계;
    상기 결정된 오프셋에 기초하여 상기 복수의 카메라 각각의 카메라 영상의 밝기를 보정하는 단계;
    상기 보정된 카메라 영상들을 재합성하여 밝기가 보정된 차량 주변 영상을 생성하는 단계; 및
    상기 밝기가 보정된 차량 주변 영상을 출력하는 단계;를 포함하는,
    영상 생성 방법.
  10. 삭제
  11. 제9항에 있어서, 상기 태양의 고도 및 상기 차량과 태양 사이의 상대 각도를 계산하는 단계는,
    상기 그림자의 크기를 결정하고, 결정된 그림자의 크기로부터 상기 태양의 고도를 계산하는 단계; 및
    상기 그림자의 방향을 결정하고, 결정된 그림자의 방향으로부터 상기 상대 각도를 계산하는 단계를 포함하는,
    영상 생성 방법.
  12. 제9항에 있어서, 상기 태양의 고도 및 상기 차량과 태양 사이의 상대 각도를 계산하는 단계는,
    상기 차량의 현재 위치를 나타내는 위치 정보를 생성하는 단계;
    상기 위치 정보를 이용하여 태양의 고도 및 방위각을 계산하는 단계; 및
    상기 차량 주변 영상에 나타난 그림자를 분석하여 상기 차량과 상기 태양 사이의 상대 각도를 계산하는 단계를 포함하는,
    영상 생성 방법.
KR1020210167066A 2021-11-29 2021-11-29 차량 주변 영상을 생성하기 위한 장치 및 방법 KR102567149B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210167066A KR102567149B1 (ko) 2021-11-29 2021-11-29 차량 주변 영상을 생성하기 위한 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210167066A KR102567149B1 (ko) 2021-11-29 2021-11-29 차량 주변 영상을 생성하기 위한 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20230079874A KR20230079874A (ko) 2023-06-07
KR102567149B1 true KR102567149B1 (ko) 2023-08-25

Family

ID=86761579

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210167066A KR102567149B1 (ko) 2021-11-29 2021-11-29 차량 주변 영상을 생성하기 위한 장치 및 방법

Country Status (1)

Country Link
KR (1) KR102567149B1 (ko)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011065442A (ja) 2009-09-17 2011-03-31 Hitachi Automotive Systems Ltd 自車影認識装置
KR101438640B1 (ko) * 2013-09-02 2014-11-03 현대자동차 주식회사 선바이저 제어장치 및 선바이저 제어방법

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130117564A (ko) * 2012-04-18 2013-10-28 현대모비스 주식회사 차량용 카메라로부터 획득한 영상을 보정하는 영상 처리 장치 및 상기 장치를 이용한 영상 보정 방법
KR102268645B1 (ko) * 2014-11-11 2021-06-23 현대모비스 주식회사 영상 보정 장치
KR20170134893A (ko) * 2016-05-27 2017-12-07 인하대학교 산학협력단 태양의 상대적 위치를 추정하는 운전보조 시스템 및 태양의 상대적인 위치를 추정하는 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011065442A (ja) 2009-09-17 2011-03-31 Hitachi Automotive Systems Ltd 自車影認識装置
KR101438640B1 (ko) * 2013-09-02 2014-11-03 현대자동차 주식회사 선바이저 제어장치 및 선바이저 제어방법

Also Published As

Publication number Publication date
KR20230079874A (ko) 2023-06-07

Similar Documents

Publication Publication Date Title
US11303806B2 (en) Three dimensional rendering for surround view using predetermined viewpoint lookup tables
US9858639B2 (en) Imaging surface modeling for camera modeling and virtual view synthesis
US7139412B2 (en) Image synthesis display method and apparatus for vehicle camera
CN106101635B (zh) 车辆周围影像处理方法及装置
US7576767B2 (en) Panoramic vision system and method
JP5455124B2 (ja) カメラ姿勢パラメータ推定装置
KR101592740B1 (ko) 차량용 광각카메라의 영상 왜곡 보정 장치 및 방법
US8134608B2 (en) Imaging apparatus
EP2254334A1 (en) Image processing device and method, driving support system, and vehicle
JP2009017020A (ja) 画像処理装置及び表示画像生成方法
US11055541B2 (en) Vehicle lane marking and other object detection using side fisheye cameras and three-fold de-warping
KR20110067437A (ko) 복수개의 카메라로부터 획득한 영상을 정합하는 영상 처리 장치 및 방법
JP2007150658A (ja) 車載周辺画像表示装置
WO2021035524A1 (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
JP2009120135A (ja) 撮像装置
KR20150089677A (ko) 카메라 시스템, 캘리브레이션 장치 및 캘리브레이션 방법
KR102567149B1 (ko) 차량 주변 영상을 생성하기 위한 장치 및 방법
US12033306B2 (en) Camera device and electronic apparatus including the same
JP2005286577A (ja) 撮像装置、表示方法、および車両
JP2009123131A (ja) 撮像装置
US12080075B2 (en) Method for generating an image of vehicle surroundings, and apparatus for generating an image of vehicle surroundings
JP2008042664A (ja) 画像表示装置
WO2023119420A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
TWI834301B (zh) 車輛環景影像顯示方法
TWI768709B (zh) 雙影像融合方法與裝置

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant