KR100955889B1 - Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image - Google Patents

Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image Download PDF

Info

Publication number
KR100955889B1
KR100955889B1 KR1020080002238A KR20080002238A KR100955889B1 KR 100955889 B1 KR100955889 B1 KR 100955889B1 KR 1020080002238 A KR1020080002238 A KR 1020080002238A KR 20080002238 A KR20080002238 A KR 20080002238A KR 100955889 B1 KR100955889 B1 KR 100955889B1
Authority
KR
South Korea
Prior art keywords
image
area
pixel
boundary
panoramic
Prior art date
Application number
KR1020080002238A
Other languages
Korean (ko)
Other versions
KR20090076344A (en
Inventor
고성제
임묘택
권구락
김영중
홍민선
윤상문
박남숙
Original Assignee
고려대학교 산학협력단
한국오므론전장주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 고려대학교 산학협력단, 한국오므론전장주식회사 filed Critical 고려대학교 산학협력단
Priority to KR1020080002238A priority Critical patent/KR100955889B1/en
Publication of KR20090076344A publication Critical patent/KR20090076344A/en
Application granted granted Critical
Publication of KR100955889B1 publication Critical patent/KR100955889B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2622Signal amplitude transition in the zone between image portions, e.g. soft edges
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2625Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect

Abstract

본 발명은 파노라마 영상 생성 장치 및 방법과 파노라마 영상에 기반한 차량 후방 감시 장치에 관한 것이다. 본 발명은, 제1 영상과 제2 영상을 획득하는 영상 획득 단계; 상기 획득된 제1 및 제2 영상에 대해 픽셀(pixel)의 방향성을 기준으로 상기 제1 영상과 상기 제2 영상이 중첩되는 중첩 영역을 획득하는 영역 획득 단계; 상기 획득된 중첩 영역을 기준으로 상기 제1 영상과 상기 제2 영상을 합성하여 파노라마 영상을 생성하는 영상 합성 단계; 및 상기 생성된 파노라마 영상을 표시하는 영상 표시 단계를 포함하는 파노라마 영상 생성 방법과, 이를 실행하기 위한 파노라마 영상 생성 장치 및 파노라마 영상에 기반한 차량 후방 감시 장치를 제공한다.The present invention relates to an apparatus and method for generating a panoramic image and to an apparatus for monitoring a vehicle rear based on the panoramic image. The present invention includes an image acquisition step of acquiring a first image and a second image; An area acquiring step of acquiring an overlapping area in which the first image and the second image overlap with respect to the obtained first and second images based on a pixel orientation; An image synthesizing step of synthesizing the first image and the second image based on the obtained overlapping region to generate a panoramic image; And a panorama image generating method including an image displaying step of displaying the generated panorama image, a panorama image generating apparatus for performing the same, and a vehicle rear monitoring apparatus based on the panorama image.

파노라마 영상, 픽셀 방향성, 1차 미분 에지 연산자, 소벨(Sobel) 연산자 Panoramic image, pixel directionality, first-order differential edge operator, Sobel operator

Description

파노라마 영상 생성 장치 및 방법과 파노라마 영상에 기반한 차량 후방 감시 장치 {Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image}Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image}

본 발명은 복수의 영상을 합성하여 파노라마 영상을 생성하는 기술 분야에 관한 것으로서, 보다 상세하게는 영상 합성 과정의 복잡도를 낮추어서 실시간으로 파노라마 영상을 생성할 수 있는 파노라마 영상 생성 장치 및 방법과 파노라마 영상에 기반한 차량 후방 감시 장치에 관한 것이다.The present invention relates to a technical field of generating a panorama image by synthesizing a plurality of images, and more particularly, to a panorama image generating apparatus and method for generating a panorama image in real time by reducing the complexity of the image synthesis process, and a panorama image. It relates to a vehicle rear monitoring device based.

파노라마 영상은 보다 넓은 시야를 제공한다. 카메라를 상하좌우로 움직이면서 촬영하는 경우 각 부분 영상들을 포함하는 여러 프레임들을 조합하여 전체 영상으로 재구성하는 파노라마 영상 재구성은 각 프레임들 간의 확대 배율 차이, 중심과 가장자리 부분간의 기하학적 왜곡, 움직이는 카메라에 의한 영상 번짐 현상 등을 보정, 해결해주는 연구와 함께 프레임들을 변환하여 재구성해주기 위한 연구가 수행되고 있다. 또한 디지털 영상을 변환하는 경우, 정수 격자 위치를 벗어난 화소의 값들이 쓰이는 경우가 빈번하므로 이를 효과적으로 보간할 수 있는 알고리즘이 요구된다. 그리고 가상환경의 구축이나 초고해상도 연구와 관련하여 활발히 연구가 진행되고 있지만 여전히 복잡도에 관한 문제점이 상존하는 실정이다.Panoramic images provide a wider field of view. When moving the camera up, down, left, and right, the panorama image reconstruction, which combines several frames including the partial images, and reconstructs the whole image, shows the difference in magnification between the frames, the geometric distortion between the center and the edges, and the image by the moving camera. In addition to researches to correct and solve blur, the researches for converting and reconstructing frames have been conducted. In addition, when converting a digital image, values of pixels outside the integer lattice position are frequently used, and therefore an algorithm capable of effectively interpolating them is required. Although research is being actively conducted in relation to the construction of the virtual environment or the research of ultra high resolution, there are still problems regarding complexity.

파노라마 영상의 합성에 있어서 종래 기술로는 모델기반 표현 방법과 영상기반 표현 방법으로 나눌 수 있다. 모델기반 표현 방법으로는 3-D 모델을 생성하기 위해 긴 처리 시간이 필요하고 복잡한 모델은 표현할 수 없는 한계가 있으므로 실시간 파노라마 영상을 획득하기 위해 실제 구현하기가 어려운 문제점이 있다. 그리고 영상기반 표현 방법으로는 2차원 영상만을 이용하기 때문에 모델기반 표현 방법에 비해서는 처리할 데이터가 적지만 실시간 처리에는 역시 무리가 있고 복잡한 장면에서는 영상 합성이 잘 이루어지지 않는 문제점이 있다.Conventional techniques for synthesizing panoramic images can be divided into model-based representation methods and image-based representation methods. Model-based representation requires a long processing time to generate a 3-D model, and there is a limitation that complex models cannot be represented. Therefore, it is difficult to actually implement a real-time panorama image. In addition, since only two-dimensional images are used as the image-based expression method, there is less data to process than the model-based expression method, but there are problems in real-time processing and image synthesis is not well performed in complex scenes.

본 발명은 상기와 같은 문제점을 해결하고 최근의 추세와 요청에 따라 제안된 것으로서, 영상 합성 과정의 복잡도를 낮추어서 실시간으로 파노라마 영상을 생성할 수 있는 파노라마 영상 생성 장치 및 방법을 제공하는데 그 목적이 있다.The present invention solves the above problems and has been proposed in accordance with recent trends and requests, and has an object to provide a panorama image generating apparatus and method capable of generating a panorama image in real time by reducing the complexity of the image synthesis process. .

본 발명의 다른 목적은, 차량의 후방에 장착된 복수의 카메라로부터 획득되는 영상들에 대해 영상 합성 과정의 복잡도를 낮추어 실시간으로 파노라마 감시 영상을 생성함으로써 운전자가 차량 후방에 대한 감시를 실시간으로 효율적으로 수행할 수 있도록 하는 파노라마 영상에 기반한 차량 후방 감시 장치를 제공하는 것이다.Another object of the present invention is to reduce the complexity of the image synthesis process for the images obtained from a plurality of cameras mounted on the rear of the vehicle to generate a panoramic surveillance image in real time, allowing the driver to efficiently monitor the rear of the vehicle in real time. It is to provide a vehicle rear monitoring apparatus based on a panoramic image that can be performed.

상기의 목적을 달성하기 위한 본 발명의 일 양상으로서, 본 발명에 따른 파노라마 영상 생성 방법은, 제1 영상과 제2 영상을 획득하는 영상 획득 단계; 상기 획득된 제1 및 제2 영상에 대해 픽셀(pixel)의 방향성을 기준으로 상기 제1 영상과 상기 제2 영상이 중첩되는 중첩 영역을 획득하는 영역 획득 단계; 상기 획득된 중첩 영역을 기준으로 상기 제1 영상과 상기 제2 영상을 합성하여 파노라마 영상을 생성하는 영상 합성 단계; 및 상기 생성된 파노라마 영상을 표시하는 영상 표시 단계를 포함하여 이루어진다.As an aspect of the present invention for achieving the above object, a method for generating a panoramic image according to the present invention, the image acquisition step of obtaining a first image and a second image; An area acquiring step of acquiring an overlapping area in which the first image and the second image overlap with respect to the obtained first and second images based on a pixel orientation; An image synthesizing step of synthesizing the first image and the second image based on the obtained overlapping region to generate a panoramic image; And an image displaying step of displaying the generated panoramic image.

상기 영역 획득 단계는, (a) 상기 제1 영상의 경계 영역(이하 "제1 경계 영역"이라 함)과 파노라마 영상을 구성하기 위해 상기 제1 경계 영역과 대응되는 상 기 제2 영상의 경계 영역(이하 "제2 경계 영역"이라 함)을 1차 미분 에지(edge) 연산자를 이용하여 필터링하는 단계; 및 (b) 상기 필터링된 제1 및 제2 경계 영역에 대해 서로 대응되는 픽셀마다 방향성을 비교하여 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 임계치 이상인 영역을 상기 중첩 영역으로 획득하는 단계를 포함하여 수행될 수 있다.The area acquiring step may include: (a) a boundary area of the second image corresponding to the first boundary area to form a boundary area of the first image (hereinafter referred to as a “first boundary area”) and a panoramic image; Filtering (hereinafter referred to as “second boundary region”) using a first order differential edge operator; And (b) comparing the directionality of each of the pixels corresponding to each other with respect to the filtered first and second boundary regions to obtain a region having a distribution ratio of pixels having the same direction within an error range as a threshold value as the overlapping region. Can be.

상기 1차 미분 에지 연산자는, 소벨(Sobel) 연산자인 것을 기술적 특징으로 할 수 있다. The first derivative edge operator may be a technical feature that is a Sobel operator.

상기 (a) 단계는, 상기 제1 경계 영역 및 상기 제2 경계 영역을 구성하는 각 픽셀에 대해, 상기 소벨 연산자를 이용하여 x축 방향, y축 방향, 좌측 대각선 방향 및 우측 대각선 방향에 대한 필터링 값을 각각 구하고 이들을 합산한 값을 상기 각 픽셀의 필터링 값으로 설정하고, 상기 (b) 단계는, 상기 서로 대응되는 픽셀마다 상기 설정된 필터링 값을 비교함으로써 방향성을 비교하는 것을 기술적 특징으로 할 수 있다.In the step (a), for each pixel constituting the first boundary region and the second boundary region, filtering is performed on the x-axis direction, the y-axis direction, the left diagonal direction and the right diagonal direction using the Sobel operator. Obtaining values and summing these values are set as the filtering values of the respective pixels, and in the step (b), the directionality can be compared by comparing the set filtering values for each corresponding pixel. .

상기 영상 합성 단계는, 상기 획득된 중첩 영역에 대해 저주파통과필터(Low Pass Filter)를 적용하는 것을 기술적 특징으로 할 수 있다.The image synthesizing step may be a technical feature of applying a low pass filter to the obtained overlapped region.

상기 제1 영상과 상기 제2 영상은, 해상도가 동일한 것을 기술적 특징으로 할 수 있다.The first image and the second image may be characterized in that the resolution is the same.

상기의 목적을 달성하기 위한 본 발명의 다른 양상으로서, 본 발명에 따른 파노라마 영상 생성 장치는, 해상도가 서로 동일한 제1 영상과 제2 영상을 획득하는 영상 획득부; 상기 획득된 제1 및 제2 영상에 대해 픽셀(pixel)의 방향성을 기 준으로 상기 제1 영상과 상기 제2 영상이 중첩되는 중첩 영역을 획득하는 영역 획득부; 상기 획득된 중첩 영역을 기준으로 상기 제1 영상과 상기 제2 영상을 합성하여 파노라마 영상을 생성하는 영상 합성부; 상기 생성된 파노라마 영상을 표시하는 표시부; 및 상기 영상 획득부, 상기 영역 획득부, 상기 영상 합성부 및 상기 표시부를 제어하는 제어부를 포함하여 이루어질 수 있다.As another aspect of the present invention for achieving the above object, the panorama image generating apparatus according to the present invention, the image acquisition unit for obtaining a first image and a second image of the same resolution; A region obtaining unit obtaining an overlapping region in which the first image and the second image overlap with each other based on a direction of a pixel with respect to the obtained first and second images; An image synthesizer configured to synthesize the first image and the second image based on the obtained overlapped area to generate a panorama image; A display unit displaying the generated panoramic image; And a controller for controlling the image acquisition unit, the area acquisition unit, the image synthesis unit, and the display unit.

상기 영역 획득부는, 상기 제1 영상의 경계 영역(이하 "제1 경계 영역"이라 함)과 파노라마 영상을 구성하기 위해 상기 제1 경계 영역과 대응되는 상기 제2 영상의 경계 영역(이하 "제2 경계 영역"이라 함)을 1차 미분 에지(edge) 연산자를 이용하여 필터링하고, 상기 필터링된 제1 및 제2 경계 영역에 대해 서로 대응되는 픽셀마다 방향성을 비교하여 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 임계치 이상인 영역을 상기 중첩 영역으로 획득하는 것을 기술적 특징으로 할 수 있다.The area acquirer may include a boundary area of the first image (hereinafter referred to as a “first boundary area”) and a boundary area of the second image corresponding to the first boundary area (hereinafter referred to as a “second” area) to form a panoramic image. Boundary region ") using a first order differential edge operator, and compares the directionality of each pixel corresponding to each other with respect to the filtered first and second boundary regions so that It may be a technical feature that an area having a distribution ratio equal to or greater than a threshold is obtained as the overlapped area.

상기 1차 미분 에지 연산자는, 소벨(Sobel) 연산자인 것을 기술적 특징으로 할 수 있다.The first derivative edge operator may be a technical feature that is a Sobel operator.

상기 영역 획득부는, 상기 제1 경계 영역 및 상기 제2 경계 영역을 구성하는 각 픽셀에 대해, 상기 소벨 연산자를 이용하여 x축 방향, y축 방향, 좌측 대각선 방향 및 우측 대각선 방향에 대한 필터링 값을 각각 구하고 이들을 합산한 값을 상기 각 픽셀의 필터링 값으로 설정하고, 상기 서로 대응되는 픽셀마다 상기 설정된 필터링 값을 비교함으로써 방향성을 비교하는 것을 기술적 특징으로 할 수 있다.The area obtaining unit may be configured to filter the values of the x-axis direction, the y-axis direction, the left diagonal direction and the right diagonal direction for each pixel constituting the first boundary area and the second boundary area by using the Sobel operator. It may be a technical feature to compare the directivity by obtaining the respective values and adding the summed values as the filtering values of the respective pixels and comparing the set filtering values for each pixel corresponding to each other.

상기 영상 합성부는, 상기 획득된 중첩 영역에 대해 저주파통과필터(Low Pass Filter)를 적용하는 것을 기술적 특징으로 할 수 있다.The image synthesizing unit may be a technical feature of applying a low pass filter to the obtained overlapped region.

상기의 목적을 달성하기 위한 본 발명의 또 다른 양상으로서, 본 발명에 따른 파노라마 영상에 기반한 차량 후방 감시 장치는, 차량의 후방에 특정 이격 거리로 설치되고, 피사체를 각각 촬영하여 제1 감시 영상과 제2 감시 영상을 각각 획득하는 제1 및 제2 영상 획득부; 상기 획득된 제1 및 제2 감시 영상에 대해 픽셀(pixel)의 방향성을 기준으로 상기 제1 감시 영상과 상기 제2 감시 영상이 중첩되는 중첩 영역을 획득하는 영역 획득부; 상기 획득된 중첩 영역을 기준으로 상기 제1 감시 영상과 상기 제2 감시 영상을 합성하여 파노라마 감시 영상을 생성하는 영상 합성부; 상기 생성된 파노라마 감시 영상을 표시하는 표시부; 및 상기 영상 획득부, 상기 영역 획득부, 상기 영상 합성부 및 상기 표시부를 제어하는 제어부를 포함하여 이루어질 수 있다.As another aspect of the present invention for achieving the above object, the vehicle rear monitoring apparatus based on the panoramic image according to the present invention is installed at a rear of the vehicle at a specific separation distance, each of the subject to take a first surveillance image and First and second image acquisition units respectively acquiring a second surveillance image; An area obtaining unit obtaining an overlapping area in which the first surveillance image and the second surveillance image overlap with respect to the acquired first and second surveillance images based on a pixel orientation; An image synthesizer configured to generate the panoramic surveillance image by synthesizing the first surveillance image and the second surveillance image based on the obtained overlapped area; A display unit displaying the generated panoramic surveillance image; And a controller for controlling the image acquisition unit, the area acquisition unit, the image synthesis unit, and the display unit.

상기 영역 획득부는, 상기 제1 감시 영상의 경계 영역(이하 "제1 경계 영역"이라 함)과 파노라마 감시 영상을 구성하기 위해 상기 제1 경계 영역과 대응되는 상기 제2 감시 영상의 경계 영역(이하 "제2 경계 영역"이라 함)을 1차 미분 에지(edge) 연산자를 이용하여 필터링하고, 상기 필터링된 제1 및 제2 경계 영역에 대해 서로 대응되는 픽셀마다 방향성을 비교하여 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 임계치 이상인 영역을 상기 중첩 영역으로 획득하는 것을 기술적 특징으로 할 수 있다.The area obtaining unit may include a boundary area of the first surveillance image (hereinafter referred to as a “first boundary region”) and a boundary area of the second surveillance image corresponding to the first boundary region (hereinafter, referred to as a “first boundary region”). Filter the " second boundary region " using a first-order differential edge operator and compare the directionality for each pixel corresponding to the filtered first and second boundary regions so that the directionality is within the error range. The technical feature may be to obtain, as the overlapping region, an area in which a distribution ratio of the same pixels is greater than or equal to a threshold.

상기 1차 미분 에지 연산자는, 소벨(Sobel) 연산자인 것을 기술적 특징으로 할 수 있다.The first derivative edge operator may be a technical feature that is a Sobel operator.

상기 영역 획득부는, 상기 제1 경계 영역 및 상기 제2 경계 영역을 구성하는 각 픽셀에 대해, 상기 소벨 연산자를 이용하여 x축 방향, y축 방향, 좌측 대각선 방향 및 우측 대각선 방향에 대한 필터링 값을 각각 구하고 이들을 합산한 값을 상기 각 픽셀의 필터링 값으로 설정하고, 상기 서로 대응되는 픽셀마다 상기 설정된 필터링 값을 비교함으로써 방향성을 비교하는 것을 기술적 특징으로 할 수 있다.The area obtaining unit may be configured to filter the values of the x-axis direction, the y-axis direction, the left diagonal direction and the right diagonal direction for each pixel constituting the first boundary area and the second boundary area by using the Sobel operator. It may be a technical feature to compare the directivity by obtaining the respective values and adding the summed values as the filtering values of the respective pixels and comparing the set filtering values for each pixel corresponding to each other.

상기 제어부는, 상기 차량의 후방을 실시간으로 감시하기 위해 상기 영상 획득부, 상기 영역 획득부 및 상기 영상 합성부를 제어하여 상기 파노라마 감시 영상을 실시간으로 합성하고 상기 합성된 파노라마 감시 영상을 상기 표시부에 실시간으로 표시하는 것을 기술적 특징으로 할 수 있다.The controller is configured to control the image acquisition unit, the area acquisition unit, and the image synthesizing unit in real time to synthesize the panoramic surveillance image in real time and to monitor the rear side of the vehicle in real time. It may be characterized by the technical features.

본 발명에 따른 파노라마 영상 생성 장치 및 방법과 파노라마 영상에 기반한 차량 후방 감시 장치에 의하면 다음과 같은 효과가 있다.According to the panorama image generating apparatus and method and the rear view vehicle based on the panoramic image according to the present invention has the following advantages.

첫째, 본 발명에 따른 파노라마 영상 생성 장치 및 방법에 의하면, 영상 합성 과정의 복잡도를 낮추어서 실시간으로 파노라마 영상을 생성할 수 있는 효과가 있다.First, according to the panorama image generating apparatus and method according to the present invention, it is possible to reduce the complexity of the image synthesis process to generate a panorama image in real time.

둘째, 본 발명에 따른 파노라마 영상에 기반한 차량 후방 감시 장치에 의하면, 차량의 후방에 장착된 복수의 카메라로부터 획득되는 영상들에 대해 영상 합성 과정의 복잡도를 낮추어 실시간으로 파노라마 감시 영상을 생성함으로써 운전자가 차량 후방에 대한 감시를 실시간으로 효율적으로 수행할 수 있는 효과가 있다.Secondly, according to the rear-vehicle monitoring apparatus based on the panoramic image according to the present invention, by reducing the complexity of the image synthesizing process for the images obtained from a plurality of cameras mounted on the rear of the vehicle to generate a panoramic surveillance image in real time It is effective to monitor the rear of the vehicle efficiently in real time.

본 발명의 상술한 목적, 특징들 및 장점은 첨부된 도면과 관련된 다음의 상세한 설명을 통하여 보다 분명해질 것이다. 이하 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예들을 상세히 설명한다. 명세서 전체에 걸쳐서 동일한 참조번호들은 동일한 구성요소들을 나타낸다. 또한, 본 발명과 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우, 그 상세한 설명을 생략한다.The above objects, features and advantages of the present invention will become more apparent from the following detailed description taken in conjunction with the accompanying drawings. Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. Like numbers refer to like elements throughout. In addition, when it is determined that the detailed description of the known function or configuration related to the present invention may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted.

도 1은 본 발명의 일 실시예에 따른 파노라마 영상 생성 장치의 블록 구성도이다. 도 1을 참조하여, 본 발명의 일 실시예에 따른 파노라마 영상 생성 장치를 상세히 설명하기로 한다.1 is a block diagram of a panoramic image generating apparatus according to an embodiment of the present invention. Referring to FIG. 1, a panoramic image generating apparatus according to an embodiment of the present invention will be described in detail.

본 발명의 일 실시예에 따른 파노라마 영상 생성 장치는, 영상 획득부(100), 영역 획득부(110), 영상 합성부(120), 표시부(130), 저장부(140) 및 제어부(150)를 포함하여 구성될 수 있다.In the panorama image generating apparatus according to an embodiment of the present invention, the image obtaining unit 100, the region obtaining unit 110, the image synthesizing unit 120, the display unit 130, the storage unit 140 and the controller 150 It may be configured to include.

상기 영상 획득부(100)는 제1 영상과 제2 영상을 획득한다. 예를 들어 상기 영상 획득부(100)는, 도 1에 도시된 바와 같이, 제1 카메라(103)와 제2 카메라(104)를 포함할 수 있다. 상기 제1 카메라(103)는 상기 제1 영상을 획득하고, 상기 제2 카메라(104)는 상기 제2 영상을 획득할 수 있다. 여기서 상기 제1 영상 및 상기 제2 영상은 해상도가 동일할 수 있다.The image acquisition unit 100 acquires a first image and a second image. For example, as illustrated in FIG. 1, the image acquisition unit 100 may include a first camera 103 and a second camera 104. The first camera 103 may acquire the first image, and the second camera 104 may acquire the second image. The first image and the second image may have the same resolution.

상기 영역 획득부(110)는, 상기 획득된 제1 및 제2 영상에 대해 픽셀(pixel)의 방향성을 기준으로 상기 제1 영상과 상기 제2 영상이 중첩되는 중첩 영역을 획 득한다. 상기 중첩 영역은, 상기 제1 및 제2 영상에 대해 픽셀의 방향성이 공통되는 영역을 말한다. 이때 픽셀의 방향성이 100% 일치하는 것을 요하는 것은 아니다. 상기 중첩 영역은, 상기 제1 및 제2 영상에 대해 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 임계치 이상인 영역을 말한다. 상기 중첩 영역에 관한 상세한 내용은 후술하기로 한다.The area acquisition unit 110 acquires an overlapping area in which the first image and the second image overlap with respect to the obtained first and second images based on the direction of the pixel. The overlapping area refers to an area in which directionalities of pixels are common to the first and second images. This does not require that the directionality of the pixels match 100%. The overlapping area refers to an area in which the distribution ratio of pixels having the same directionality within the error range with respect to the first and second images is greater than or equal to a threshold. Details of the overlapping region will be described later.

상기 영상 합성부(120)는, 상기 획득된 중첩 영역을 기준으로 상기 제1 영상과 상기 제2 영상을 합성하여 파노라마 영상을 생성한다. 상기 영상 합성부(120)는, 상기 획득된 중첩 영역에 대해 저주파통과필터(Low Pass Filter)를 적용할 수 있다.The image synthesizing unit 120 generates a panoramic image by synthesizing the first image and the second image based on the obtained overlapping region. The image synthesizer 120 may apply a low pass filter to the obtained overlapped region.

상기 표시부(130)는, 상기 제어부(150)로부터 출력되는 제어 신호에 의해 파노라마 영상 생성 장치의 상태 혹은 각종 정보를 디스플레이하기 위한 표시 장치이다. 예를 들어, 상기 표시부(130)는, 상기 제어부(150)의 제어 신호에 따라 상기 영상 합성부(120)에서 생성된 상기 파노라마 영상을 표시한다.The display unit 130 is a display device for displaying the state or various information of the panoramic image generating apparatus by the control signal output from the control unit 150. For example, the display unit 130 displays the panoramic image generated by the image synthesizing unit 120 according to the control signal of the controller 150.

상기 저장부(140)는, 본 발명의 일 실시예에 따른 파노라마 영상 생성 장치의 전반적인 동작을 제어하는 소정의 프로그램을 저장하고 있으며, 상기 제어부(150)에 의해 파노라마 영상 생성 장치의 전반적인 동작이 수행될 때 입출력되는 데이터 및 처리되는 각종 데이터를 저장한다. 상기 저장부(140)는, 상기 영상 획득부(140), 상기 영역 획득부(110) 및 상기 영상 합성부(120)의 동작에 의해 생성될 수 있는 각종 영상 데이터들을 임시적으로 또는 영구적으로 저장할 수 있다. 예를 들어, 상기 저장부(140)는, 상기 영상 획득부(100)에서 획득되는 영상들과, 상기 영상 합성부(120)에서 생성되는 파노라마 영상을 저장할 수 있다. The storage unit 140 stores a predetermined program for controlling the overall operation of the panoramic image generating apparatus according to an embodiment of the present invention, and the overall operation of the panoramic image generating apparatus is performed by the controller 150. When the data is stored, the data input and output and the various data processed are stored. The storage unit 140 may temporarily or permanently store various image data generated by the operations of the image acquisition unit 140, the area acquisition unit 110, and the image synthesis unit 120. have. For example, the storage 140 may store the images acquired by the image acquisition unit 100 and the panorama image generated by the image synthesis unit 120.

상기 제어부(150)는, 상기 구성 요소들을 제어하고, 본 발명의 일 실시예에 따른 파노라마 영상 생성 장치의 전반적인 동작을 총괄한다.The controller 150 controls the components and manages the overall operation of the panoramic image generating apparatus according to an embodiment of the present invention.

도 2는 본 발명의 일 실시예에 따른 파노라마 영상 생성 방법의 흐름도이다. 도 2 및 필요한 도면들을 참조하여, 본 발명의 일 실시예에 따른 파노라마 영상 생성 장치의 구체적인 동작과 본 발명의 일 실시예에 따른 파노마라 영상 생성 방법을 상세히 설명하기로 한다.2 is a flowchart illustrating a panorama image generating method according to an embodiment of the present invention. Referring to FIG. 2 and necessary drawings, a detailed operation of the panoramic image generating apparatus according to an embodiment of the present invention and a panomamara image generating method according to an embodiment of the present invention will be described in detail.

먼저 제1 영상 및 제2 영상을 획득한다[S200]. 상기 S200 단계는, 상기 영상 획득부(100)에 의해 수행될 수 있다.First, a first image and a second image are obtained [S200]. The step S200 may be performed by the image acquisition unit 100.

그리고 상기 획득된 제1 및 제2 영상에 대해 픽셀의 방향성을 기준으로 상기 제1 영상과 상기 제2 영상이 중첩되는 중첩 영역을 획득한다[S210]. 상기 S210 단계는, 상기 영역 획득부(110)에 의해 수행될 수 있다.In operation S210, an overlapping region in which the first image and the second image overlap with each other is obtained based on the direction of the pixel with respect to the obtained first and second images. The step S210 may be performed by the area acquisition unit 110.

도 3은 중첩 영역 획득 단계(S210)의 상세 흐름도이다. 상기 영역 획득부(110)는, 상기 제1 영상의 경계 영역(이하 "제1 경계 영역"이라 함)과 파노라마 영상을 구성하기 위해 상기 제1 경계 영역과 대응되는 상기 제2 영상의 경계 영역(이하 "제2 경계 영역"이라 함)을 1차 미분 에지(edge) 연산자를 이용하여 필터링한다[S300]. 상기 1차 미분 에지 연산자의 예를 들면, 소벨(Sobel) 연산자, 로버츠(Roberts) 연산자, 프리윗(Prewitt) 연산자, 프리첸(Frei-Chen) 연산자 등이 있 다.3 is a detailed flowchart of the overlapped area obtaining step (S210). The region obtaining unit 110 may include a boundary region of the first image (hereinafter referred to as a “first boundary region”) and a boundary region of the second image corresponding to the first boundary region to form a panoramic image. Hereinafter, the "second boundary region" is filtered using a first derivative edge operator [S300]. Examples of the first derivative edge operator include the Sobel operator, the Roberts operator, the Prewitt operator, the Frei-Chen operator, and the like.

도 4는 특정 픽셀을 필터링하여 필터링 값을 획득하는 방법의 일 실시예의 흐름도이다. 도 5는 소벨 연산자의 필터 계수이다. 도 6은 소벨 연산자를 이용하여 특정 픽셀에 대한 x축 방향의 필터링 값을 획득하는 예를 도시한 도면이다. 도 4 내지 도 6을 참조하여, 픽셀을 필터링하여 필터링 값을 획득하는 방법의 일 실시예를 상세히 설명하기로 한다.4 is a flowchart of an embodiment of a method of filtering a specific pixel to obtain a filtering value. 5 is a filter coefficient of the Sobel operator. FIG. 6 illustrates an example of obtaining a filtering value in the x-axis direction for a specific pixel by using the Sobel operator. 4 to 6, an embodiment of a method of filtering a pixel to obtain a filtering value will be described in detail.

상기 영역 획득부(110)는, 상기 제1 경계 영역 및 상기 제2 경계 영역을 구성하는 각 픽셀에 대해, 상기 소벨 연산자를 이용하여 x축 방향, y축 방향, 좌측 대각선(Left-diagonal) 방향 및 우측 대각선(Right-diagonal) 방향에 대한 필터링 값을 각각 구하고[S410] 이들을 합산한[S420] 값을 상기 각 픽셀의 필터링 값으로 설정하고[S430], 상기 서로 대응되는 픽셀마다 상기 설정된 필터링 값을 비교함으로써 방향성을 비교할 수 있다. 예를 들어, 도 6을 참조하면, 상기 제1 영상(200)의 특정 픽셀(201)에 대해 x축 방향에 대한 필터링 값이 -27로 구해진 것을 알 수 있다.The area obtaining unit 110 may use the Sobel operator with respect to each pixel constituting the first boundary area and the second boundary area, and use the Sobel operator in an x-axis direction, a y-axis direction, and a left-diagonal direction. And calculating filtering values for a right-diagonal direction, respectively (S410), and adding the sums of the filtering values (S420) to the filtering values of the respective pixels (S430), and setting the filtering values for each of the corresponding pixels. By comparing these, the directivity can be compared. For example, referring to FIG. 6, it can be seen that the filtering value for the x-axis direction of the specific pixel 201 of the first image 200 is obtained as −27.

그리고 상기 영역 획득부(110)는, 상기 필터링된 제1 및 제2 경계 영역에 대해 서로 대응되는 픽셀마다 방향성을 비교하여 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 임계치 이상인 영역을 상기 중첩 영역으로 획득한다[S310].In addition, the area obtaining unit 110 compares the direction of each pixel corresponding to each other with respect to the filtered first and second boundary areas, and acquires an area having a distribution ratio of pixels having the same direction within an error range as a threshold value as the overlapping area. [S310].

도 7a 및 도 7b는 제1 및 제2 영상의 경계 영역 및 중첩 영역을 설명하기 위한 도면이다. 예를 들어, 도 7a를 참조하면, 좌측 영상에 해당하는 상기 제1 영 상(200)의 가장 우측에 존재하는 픽셀들(PA ,14, PA ,24, PA ,34, PA ,44)을 구성하는 픽셀 라인(line)이 상기 제1 경계 영역(300a)이 되고, 우측 영상에 해당하는 상기 제2 영상(210)의 가장 좌측에 존재하는 픽셀들(PB ,11, PB ,21, PB ,31, PB ,41)을 구성하는 픽셀 라인이 상기 제2 경계 영역(300a)이 된다. 그리고 PA ,14와 PB ,11, PA ,24와 PB ,21, PA ,34와 PB,31 및 PA ,44와 PB ,41가 각각 서로 대응되는 픽셀들이 된다. 상기 제1 경계 영역(300a)과 상기 제2 경계 영역(300b)이 상기 중첩 영역에 해당하는지를 판단하기 위한 비교 대상이 된다. 즉 상기 제1 경계 영역(300a)과 상기 제2 경계 영역(300b)을 구성하는 픽셀들에 대해 서로 대응되는 픽셀끼리 방향성이 비교된다. 예를 들어, 픽셀 PA ,14와 픽셀 PB ,11의 방향성이 서로 비교된다. 이때, 도 4 내지 도 6을 참조하여 전술한 상기 필터링 값에 의해 픽셀의 방향성이 비교될 수 있다. 서로 대응되는 픽셀끼리 상기 필터링 값에 의해 방향성을 비교할 때, 상기 필터링 값이 반드시 정확하게 일치하여야 하는 것은 아니다. 서로 대응되는 픽셀들의 각각의 필터링 값이 미리 설정된 오차 범위 내에서 동일하면, 서로 동일한 방향성을 갖는 픽셀들로 판단된다.7A and 7B are diagrams for describing boundary regions and overlapping regions of the first and second images. For example, referring to FIG. 7A, pixels P A , 14 , P A , 24 , P A , 34 , P A , which exist on the rightmost side of the first image 200 corresponding to the left image. A pixel line constituting a 44 becomes the first boundary region 300a and the pixels P B , 11 , and P B that exist on the leftmost side of the second image 210 corresponding to the right image. Pixel lines constituting , 21 , P B , 31 , P B , 41 become the second boundary region 300a. P A , 14 , P B , 11 , P A , 24 , P B , 21 , P A , 34 , P B, 31, and P A , 44 , P B , 41 are pixels corresponding to each other. The first boundary area 300a and the second boundary area 300b correspond to the overlapping area. That is, the pixels corresponding to each other with respect to the pixels constituting the first boundary area 300a and the second boundary area 300b are compared. For example, the directions of the pixels P A , 14 and the pixels P B , 11 are compared with each other. In this case, the direction of the pixels may be compared by the filtering values described above with reference to FIGS. 4 to 6. When comparing the directions of pixels corresponding to each other by the filtering value, the filtering values do not necessarily have to match exactly. If the respective filtering values of the pixels corresponding to each other are the same within a preset error range, the pixels are determined to have the same direction.

또한 예를 들어, 도 7b를 참조하면, 좌측 영상에 해당하는 상기 제1 영상(200)의 가장 우측에 존재하는 픽셀들(PA ,14, PA ,24, PA ,34, PA ,44)을 구성하는 픽셀 라인(303a)과 좌측으로 그 다음에 존재하는 픽셀들(PA ,13, PA ,23, PA ,33, PA ,43)을 구성하는 픽셀 라인(301a)이 상기 제1 경계 영역(300a)이 된다. 그리고 우측 영상에 해 당하는 상기 제2 영상(210)의 가장 좌측에 존재하는 픽셀들(PB ,11, PB ,21, PB ,31, PB ,41)을 구성하는 픽셀 라인(301b)와 우측으로 그 다음에 존재하는 픽셀들(PB ,12, PB ,22, PB ,32, PB,42)을 구성하는 픽셀 라인(303b)이 상기 제2 경계 영역(300a)이 된다. 여기서 픽셀 라인(303a)과 픽셀 라인(303b)가 서로 대응되는 픽셀 라인들이고, 픽셀 라인(301a)과 픽셀 라인(301b)가 서로 대응되는 픽셀 라인들이다. 상기 서로 대응되는 픽셀 라인들을 각각 구성하는 픽셀들끼리 상기 필터링 값을 이용하여 방향성이 비교된다.For example, referring to FIG. 7B, the pixels P A , 14 , P A , 24 , P A , 34 , P A , which exist on the rightmost side of the first image 200 corresponding to the left image. Pixel line 303a constituting 44 and pixel line 301a constituting pixels P A , 13 , P A , 23 , P A , 33 , P A , 43 which are next to the left It becomes the first boundary area 300a. The pixel line 301b constituting pixels P B , 11 , P B , 21 , P B , 31 , P B , 41 which exist on the leftmost side of the second image 210 corresponding to the right image. The pixel line 303b constituting the pixels P B , 12 , P B , 22 , P B , 32 , P B, 42 next to and to the right becomes the second boundary region 300a. . Here, the pixel line 303a and the pixel line 303b are pixel lines corresponding to each other, and the pixel line 301a and the pixel line 301b are pixel lines corresponding to each other. Pixels constituting the pixel lines corresponding to each other are compared with each other by using the filtering value.

상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이란, 상기 제1 경계 영역(300a)과 상기 제2 경계 영역(300b)를 픽셀별로 방향성을 비교한 결과, 상기 제1 경계 영역(300a) 또는 상기 제2 경계 영역(300b)를 구성하는 픽셀들의 개수에 대한 방향성이 동일한 픽셀들의 개수의 비율을 말한다. 예를 들어, 도 7a에서 상기 제1 경계 영역(300a)과 상기 제2 경계 영역(300b)를 픽셀별로 방향성을 비교한 결과, 3개의 픽셀의 방향성이 오차 범위 내로 동일하다면 상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율은, 3/4=0.75=75%가 된다. 상기 임계치가 70%라면, 도 7a에 도시된 상기 제1 경계 영역(300a)과 상기 제2 경계 영역(300b)은 동일한 픽셀들로 구성된 영역으로 간주하여 상기 중첩 영역이 된다.The distribution ratio of the pixels having the same directionality within the error range means that the first boundary region 300a and the second boundary region 300b are oriented for each pixel, and thus, the first boundary region 300a or the second boundary region. The ratio of the number of pixels having the same directivity to the number of pixels constituting the boundary area 300b refers to the ratio. For example, in FIG. 7A, when the directionality of the first boundary area 300a and the second boundary area 300b is compared for each pixel, if the directionality of the three pixels is the same within the error range, the directionality is within the error range. The distribution ratio of the same pixels is 3/4 = 0.75 = 75%. If the threshold value is 70%, the first boundary area 300a and the second boundary area 300b shown in FIG. 7A are regarded as an area composed of the same pixels and become the overlapping area.

또한 예를 들어, 도 7b에서 서로 대응되는 상기 픽셀 라인(301a)와 상기 픽셀 라인(301b)에 대해 픽셀별 방향성을 비교한 결과 상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 75%이고, 서로 대응되는 상기 픽셀 라인(303a)와 상기 픽셀 라인(303b)에 대한 상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 100%인 경우, 상기 임계치가 70%라면, 도 7b에 도시된 상기 제1 경계 영역(300a)과 상기 제2 경계 영역(300b)은 동일한 픽셀들로 구성된 영역으로 간주하여 상기 중첩 영역이 된다.For example, in FIG. 7B, the pixel-to-pixel 301a and the pixel line 301b corresponding to each other are compared, and as a result, the distribution ratio of pixels having the same directionality within an error range is 75% and corresponds to each other. When the distribution ratio of the pixels having the same directionality with respect to the pixel line 303a and the pixel line 303b is 100% within an error range, and the threshold value is 70%, the first boundary region shown in FIG. 7B ( 300a) and the second boundary area 300b are regarded as an area composed of the same pixels, and thus become the overlapping area.

또한 예를 들어, 도 7b에서 서로 대응되는 상기 픽셀 라인(301a)과 상기 픽셀 라인(301b)에 대해 픽셀별 방향성을 비교한 결과 상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 50%이고, 서로 대응되는 상기 픽셀 라인(303a)과 상기 픽셀 라인(303b)에 대한 상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 75%인 경우, 상기 임계치가 70%라면, 도 7b에 도시된 상기 픽셀 라인(301a)과 상기 픽셀 라인(301b)는 동일한 픽셀들로 구성된 영역이 아닌 것으로 간주되어 상기 중첩 영역이 될 수 없고, 상기 픽셀 라인(303a)과 상기 픽셀 라인(303b)가 서로 동일한 픽셀들로 구성된 영역으로 간주되어 상기 중첩 영역이 된다.For example, in FIG. 7B, the pixel-to-pixel 301a and the pixel line 301b corresponding to each other are compared, and as a result, the distribution ratio of pixels having the same directionality within an error range is 50% and corresponds to each other. If the distribution ratio of the pixels having the same directionality with respect to the pixel line 303a and the pixel line 303b is 75%, and the threshold is 70%, the pixel line 301a shown in FIG. 7B. And the pixel line 301b are not considered to be an area composed of the same pixels and thus cannot be the overlapping area, and the pixel line 303a and the pixel line 303b are regarded as an area composed of the same pixels. To become the overlapping area.

그리고 상기 획득된 중첩 영역을 기준으로 상기 제1 영상과 상기 제2 영상을 합성하여 파노라마 영상을 생성한다[S220]. 상기 S220 단계는, 상기 영상 합성부(120)에 의해 수행될 수 있다. 도 8a 및 도 8b는 각각, 도 7a 및 도 7b에 대해 중첩 영역을 기준으로 합성된 파노라마 영상의 예를 도시한 도면이다. 도 8a 및 도 8b은 상기 제1 경계 영역(300a)과 상기 제2 경계 영역(300b)이 모두 상기 중첩 영역이 된 경우들이다.In operation S220, a panorama image is generated by synthesizing the first image and the second image based on the obtained overlapped region. The step S220 may be performed by the image synthesizing unit 120. 8A and 8B illustrate an example of a panoramic image synthesized based on an overlapping region with respect to FIGS. 7A and 7B, respectively. 8A and 8B illustrate cases where both of the first boundary area 300a and the second boundary area 300b become the overlapping area.

그리고 상기 생성된 파노라마 영상 중 상기 중첩 영역에 대해 저주파통과필터를 적용한다[S230]. 상기 S230 단계는, 상기 영상 합성부(120)에 의해 수행될 수 있다. 상기 중첩 영역에 대해 저주파통과필터를 적용하게 되면, 합성에 의해 생성될 수 있는 잡음(noise)이 제거될 수 있다.The low pass filter is applied to the overlapped region among the generated panorama images [S230]. The step S230 may be performed by the image synthesizing unit 120. When a low pass filter is applied to the overlapped region, noise that may be generated by synthesis may be removed.

그리고 상기 파노라마 영상을 상기 표시부(130)에 표시한다[S240].The panoramic image is displayed on the display unit 130 [S240].

전술한 본 발명의 일 실시예에 따른 파노라마 영상 생성 장치 및 방법은, 다양한 분야에 적용될 수 있다. 도 9는 본 발명의 일 실시예에 따른 파노라마 영상에 기반한 차량 후방 감시 장치를 설명하기 위한 도면이다. 도 9는, 도 1 내지 도 8을 참조하여 전술한 본 발명의 일 실시예에 따른 파노라마 영상 생성 장치 및 방법에 의해 생성되는 파노라마 영상에 기반하여 차량의 후방을 감지하기 위한 장치를 나타낸다. 도 9에는, 상기 제1 카메라(103)와 상기 제2 카메라(104)를 포함하는 상기 영상 획득부(100)와, 상기 표시부(130)만을 도시하였으나, 본 발명의 일 실시예에 따른 파노라마 영상에 기반한 차량 후방 감시 장치는, 도 1에 도시된 구성요소들, 즉 상기 영상 획득부(100), 상기 영역 획득부(110), 상기 영상 합성부(120), 상기 표시부(130), 상기 저장부(140) 및 상기 제어부(150)를 포함하여 구성될 수 있다. 상기 각 구성요소의 기능 및 역할은 전술한 바와 동일하다.The above-described panorama image generating apparatus and method according to an embodiment of the present invention can be applied to various fields. 9 is a diagram for describing a vehicle rear monitoring apparatus based on a panoramic image according to an exemplary embodiment. FIG. 9 illustrates an apparatus for detecting a rear of a vehicle based on a panoramic image generated by the panoramic image generating apparatus and method according to an embodiment of the present invention described above with reference to FIGS. 1 to 8. In FIG. 9, only the image acquisition unit 100 including the first camera 103 and the second camera 104 and the display unit 130 are illustrated, but the panoramic image according to an embodiment of the present invention is illustrated. The apparatus for monitoring a vehicle behind the vehicle is based on the components shown in FIG. 1, that is, the image acquisition unit 100, the area acquisition unit 110, the image synthesis unit 120, the display unit 130, and the storage. The unit 140 and the controller 150 may be configured to be included. The function and role of each component is the same as described above.

도 9에 도시된 바와 같이, 차량의 후방에 두 대의 카메라(103, 104)를 설치하여 이로부터 제공되는 영상들을 본 발명의 실시예에 따라 파노라마 영상으로 합성함으로써, 운전자에게 차량 후방에 대한 보다 넓은 시야를 제공할 수 있게 된다. 운전자에게 넓은 시야의 후방 영상을 제공함으로써, 운전자의 후방에 위치한 장애물이나 주차공간확보, 후진에 관하여 운전자에게 편의를 제공할 뿐만 아니라 여러 돌발 상황에 대해 운전자에게 알려줄 수 있게 된다.As shown in FIG. 9, two cameras 103 and 104 are installed at the rear of the vehicle, and the images provided therefrom are synthesized into a panoramic image according to an embodiment of the present invention, thereby providing a wider view to the driver. It is possible to provide a field of view. By providing the driver with a rearward view of a wide field of view, the driver may not only provide convenience to the driver in relation to obstacles, parking spaces and reversing located behind the driver, but may also inform the driver of various accidents.

본 발명의 일 실시예에 따른 파노라마 영상에 기반한 차량 후방 감시 장치에 의하면, 종래 기술에 의한 파노라마 영상 생성 장치 및 방법에 비해 계산량이 획기적으로 적어지므로, 파노라마 영상의 획득이 실시간으로 가능해진다. 상기 제어부(150)는, 상기 차량의 후방을 실시간으로 감시하기 위해 상기 영상 획득부(100), 상기 영역 획득부(110) 및 상기 영상 합성부(120)를 제어하여, 상기 영상 획득부(100)를 통해 제1 및 제2 감시 영상을 실시간으로 획득하고 상기 제1 및 제2 감시 영상을 상기 파노라마 감시 영상으로 실시간으로 합성하고 상기 합성된 파노라마 감시 영상을 상기 표시부(130)에 실시간으로 표시한다.According to the rear-vehicle monitoring apparatus based on the panoramic image according to an embodiment of the present invention, the amount of calculation is significantly reduced compared to the panorama image generating apparatus and method according to the prior art, it is possible to obtain the panoramic image in real time. The controller 150 controls the image acquirer 100, the region acquirer 110, and the image synthesizer 120 to monitor the rear of the vehicle in real time. Acquires the first and second surveillance images in real time, synthesizes the first and second surveillance images into the panoramic surveillance image in real time, and displays the synthesized panoramic surveillance image on the display unit 130 in real time. .

상기에서 설명한 본 발명의 실시예들에서는, 상기 제1 영상을 좌측 영상으로 하고 상기 제2 영상을 우측 영상으로 하여 합성하는 예를 위주로 설명하였으나, 본 발명이 이에 한정되지 않음은 물론이다. 예를 들어 상기 제1 영상을 상(上)측 영상으로, 상기 제2 영상을 하(下)측 영상으로 하여 합성할 수 있다.In the above-described embodiments of the present invention, an example of synthesizing the first image as the left image and the second image as the right image has been described, but the present invention is not limited thereto. For example, the first image may be synthesized by using an upper image and the second image by a lower image.

상기에서 설명한 본 발명의 실시예들에서는, 상기 중첩 영역이 라인 전체에 해당하는 것을 위주로 설명하였으나, 본 발명이 이에 한정되지 않음은 물론이다. 상기 중첩 영역은, 상기 제1 및 제2 경계 영역의 일부일 수 있음은 이미 설명하였다. 예를 들어 도 7a를 참조하면, 상기 중첩 영역이, 상기 제1 영상(200)에 대해서는 픽셀 집합 {PA ,24, PA ,34, PA ,44}에 해당하는 영역이고 상기 제2 영상(210)에 대해서 는 픽셀 집합 {PB ,11, PB ,21, PB ,31}에 해당하는 영역일 수 있다. 이때 상기 영상 합성부(120)는, 상기 중첩 영역을 기준으로 상기 제1 영상(200)과 상기 제2 영상(210)을 합성하되, 상기 중첩 영역에 해당하지 않는 행에 해당하는 픽셀 라인은 삭제할 수 있다. 즉 상기 제1 영상(200)에 대해서는 픽셀 집합 {PA ,11, PA ,12, PA ,13, PA ,14}에 해당하는 픽셀 라인과 상기 제2 영상(210)에 대해서는 픽셀 집합 {PB ,41, PB ,42, PB ,43, PB,44}에 해당하는 픽셀 라인이 삭제될 수 있다.In the above-described embodiments of the present invention, the overlap region corresponds to the entire line, but the present invention is not limited thereto. It has already been described that the overlap region may be part of the first and second boundary regions. For example, referring to FIG. 7A, the overlapped region corresponds to a pixel set {P A , 24 , P A , 34 , P A , 44 } with respect to the first image 200 and the second image. For the 210, it may be an area corresponding to the pixel set {P B , 11 , P B , 21 , P B , 31 }. In this case, the image synthesizing unit 120 synthesizes the first image 200 and the second image 210 based on the overlapping region, and deletes the pixel line corresponding to the row that does not correspond to the overlapping region. Can be. That is, the pixel line corresponding to the pixel set {P A , 11 , P A , 12 , P A , 13 , P A , 14 } for the first image 200 and the pixel set for the second image 210. Pixel lines corresponding to {P B , 41 , P B , 42 , P B , 43 , P B, 44 } may be deleted.

상기에서 설명한 본 발명에 의한 파노라마 영상 생성 방법은, 컴퓨터에서 실행시키기 위한 프로그램으로 컴퓨터로 읽을 수 있는 기록매체에 기록하여 제공될 수 있다.The above-described panorama image generating method according to the present invention may be provided by recording on a computer-readable recording medium as a program for executing in a computer.

본 발명에 의한 파노라마 영상 생성 방법은 소프트웨어를 통해 실행될 수 있다. 소프트웨어로 실행될 때, 본 발명의 구성 수단들은 필요한 작업을 실행하는 코드 세그먼트들이다. 프로그램 또는 코드 세그먼트들은 프로세서 판독 가능 매체에 저장되거나 전송 매체 또는 통신망에서 반송파와 결합된 컴퓨터 데이터 신호에 의하여 전송될 수 있다.The panorama image generating method according to the present invention may be executed through software. When implemented in software, the constituent means of the present invention are code segments that perform the necessary work. The program or code segments may be stored on a processor readable medium or transmitted by a computer data signal coupled with a carrier on a transmission medium or network.

컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 장치의 예로는, ROM, RAM, CD-ROM, DVD±ROM, DVD-RAM, 자기 테이프, 플로피 디스크, 하드 디스크(hard disk), 광데이터 저장장치 등이 있다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 장치에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.Computer-readable recording media include all kinds of recording devices that store data that can be read by a computer system. Examples of computer-readable recording devices include ROM, RAM, CD-ROM, DVD ± ROM, DVD-RAM, magnetic tape, floppy disks, hard disks, optical data storage devices, and the like. The computer readable recording medium can also be distributed over network coupled computer devices so that the computer readable code is stored and executed in a distributed fashion.

이상에서 설명한 본 발명은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 있어 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변형 및 변경이 가능하므로 전술한 실시예 및 첨부된 도면에 의해 한정되는 것이 아니다.The present invention described above is capable of various substitutions, modifications, and changes without departing from the spirit of the present invention for those skilled in the art to which the present invention pertains. It is not limited by the drawings.

도 1은 본 발명의 일 실시예에 따른 파노라마 영상 생성 장치의 블록 구성도이다.1 is a block diagram of a panoramic image generating apparatus according to an embodiment of the present invention.

도 2는 본 발명의 일 실시예에 따른 파노라마 영상 생성 방법의 흐름도이다.2 is a flowchart illustrating a panorama image generating method according to an embodiment of the present invention.

도 3은 중첩 영역 획득 단계(S210)의 상세 흐름도이다.3 is a detailed flowchart of the overlapped area obtaining step (S210).

도 4는 특정 픽셀을 필터링하여 필터링 값을 획득하는 방법의 일 실시예의 흐름도이다.4 is a flowchart of an embodiment of a method of filtering a specific pixel to obtain a filtering value.

도 5는 소벨 연산자의 필터 계수이다.5 is a filter coefficient of the Sobel operator.

도 6은 소벨 연산자를 이용하여 특정 픽셀에 대한 x축 방향의 필터링 값을 획득하는 예를 도시한 도면이다.FIG. 6 illustrates an example of obtaining a filtering value in the x-axis direction for a specific pixel by using the Sobel operator.

도 7a 및 도 7b는 제1 및 제2 영상의 경계 영역 및 중첩 영역을 설명하기 위한 도면이다.7A and 7B are diagrams for describing boundary regions and overlapping regions of the first and second images.

도 8a 및 도 8b는 각각, 도 7a 및 도 7b에 대해 중첩 영역을 기준으로 합성된 파노라마 영상의 예를 도시한 도면이다.8A and 8B illustrate an example of a panoramic image synthesized based on an overlapping region with respect to FIGS. 7A and 7B, respectively.

도 9는 본 발명의 일 실시예에 따른 파노라마 영상에 기반한 차량 후방 감시 장치를 설명하기 위한 도면이다.9 is a diagram for describing a vehicle rear monitoring apparatus based on a panoramic image according to an exemplary embodiment.

<도면의 주요 부분에 대한 부호의 설명><Explanation of symbols for the main parts of the drawings>

100: 영상 획득부 103: 제1 카메라100: image acquisition unit 103: the first camera

104: 제2 카메라 110: 영역 획득부104: second camera 110: area acquisition unit

120: 영상 합성부 130: 표시부120: video synthesizing unit 130: display unit

140: 저장부 150: 제어부140: storage unit 150: control unit

200: 제1 영상, 제1 감시 영상 210: 제2 영상, 제2 감시 영상200: first image, first surveillance image 210: second image, second surveillance image

300a: 제1 경계 영역 300b: 제2 경계 영역300a: first boundary region 300b: second boundary region

400: 파노라마 영상, 파노라마 감시 영상400: panoramic video, panoramic surveillance video

Claims (17)

제1 영상과 제2 영상을 획득하는 영상 획득 단계;An image acquiring step of acquiring a first image and a second image; 상기 획득된 제1 및 제2 영상에 대해 픽셀(pixel)의 방향성을 기준으로 상기 제1 영상과 상기 제2 영상이 중첩되는 중첩 영역을 획득하는 영역 획득 단계;An area acquiring step of acquiring an overlapping area in which the first image and the second image overlap with respect to the obtained first and second images based on a pixel orientation; 상기 획득된 중첩 영역을 기준으로 상기 제1 영상과 상기 제2 영상을 합성하여 파노라마 영상을 생성하는 영상 합성 단계; 및An image synthesizing step of synthesizing the first image and the second image based on the obtained overlapping region to generate a panoramic image; And 상기 생성된 파노라마 영상을 표시하는 영상 표시 단계를 포함하고,An image display step of displaying the generated panoramic image; 상기 영역 획득 단계는,The area obtaining step, 상기 제1 영상의 경계 영역(이하 "제1 경계 영역"이라 함)과 파노라마 영상을 구성하기 위해 상기 제1 경계 영역과 대응되는 상기 제2 영상의 경계 영역(이하 "제2 경계 영역"이라 함)을 구성하는 각 픽셀에 대해, 1차 미분 에지(edge) 연산자를 이용하여 x축 방향, y축 방향, 좌측 대각선 방향 및 우측 대각선 방향에 대한 필터링 값을 각각 구하고 이들을 합산한 값을 상기 각 픽셀의 방향성으로 하여 상기 중첩 영역을 획득하는 단계인 파노라마 영상 생성 방법.A boundary region of the first image (hereinafter referred to as a “first boundary region”) and a boundary region of the second image corresponding to the first boundary region (hereinafter referred to as a “second boundary region”) to form a panoramic image. For each pixel constituting), the filtering values for the x-axis direction, the y-axis direction, the left diagonal direction, and the right diagonal direction are respectively calculated by using a first-order differential edge operator, and the sum of these values is added to each pixel. Acquiring the overlapped area by using the directionality of the panoramic image; 제 1 항에 있어서, 상기 영역 획득 단계는,The method of claim 1, wherein the area obtaining step comprises: (a) 상기 제1 경계 영역 및 상기 제2 경계 영역을 구성하는 상기 각 픽셀에 대해, 상기 합산한 값을 상기 각 픽셀의 필터링 값으로 설정하는 단계; 및(a) setting the summed value as a filtering value of each pixel for each pixel constituting the first boundary area and the second boundary area; And (b) 상기 제1 경계 영역 및 상기 제2 경계 영역에 대해 서로 대응되는 픽셀마다 상기 설정된 필터링 값을 비교함으로써 방향성을 비교하여 상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 임계치 이상인 영역을 상기 중첩 영역으로 획득하는 단계를(b) comparing the directionality by comparing the set filtering value for each pixel corresponding to each other with respect to the first boundary area and the second boundary area so that the distribution area of pixels having the same directionality within an error range is greater than or equal to a threshold value; To obtain the steps 포함하는 것을 특징으로 하는 파노라마 영상 생성 방법.Panoramic image generating method comprising the. 제 2 항에 있어서, 상기 1차 미분 에지 연산자는,The method of claim 2, wherein the first derivative edge operator is 소벨(Sobel) 연산자인 것을 특징으로 하는 파노라마 영상 생성 방법.A panorama image generation method, characterized in that the Sobel operator. 삭제delete 제 3 항에 있어서, 상기 영상 합성 단계는,The method of claim 3, wherein the synthesizing the image comprises: 상기 획득된 중첩 영역에 대해 저주파통과필터(Low Pass Filter)를 적용하는 것을 특징으로 하는 파노라마 영상 생성 방법.A low pass filter is applied to the obtained overlapped area. 제 1 항에 있어서, 상기 제1 영상과 상기 제2 영상은,The method of claim 1, wherein the first image and the second image, 해상도가 동일한 것을 특징으로 하는 파노라마 영상 생성 방법.A panorama image generating method characterized by the same resolution. 제 1 항, 제 2 항, 제 3 항, 제 5 항, 또는 제 6 항 중 어느 한 항의 방법을 컴퓨터로 실행시킬 수 있는 컴퓨터 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.A non-transitory computer-readable recording medium having recorded thereon a computer program capable of executing the method of any one of claims 1, 2, 3, 5, or 6. 해상도가 서로 동일한 제1 영상과 제2 영상을 획득하는 영상 획득부;An image acquisition unit for acquiring a first image and a second image having the same resolution; 상기 획득된 제1 및 제2 영상에 대해 픽셀(pixel)의 방향성을 기준으로 상기 제1 영상과 상기 제2 영상이 중첩되는 중첩 영역을 획득하는 영역 획득부;A region obtaining unit obtaining an overlapping region in which the first image and the second image overlap with respect to the obtained first and second images based on a directionality of a pixel; 상기 획득된 중첩 영역을 기준으로 상기 제1 영상과 상기 제2 영상을 합성하여 파노라마 영상을 생성하는 영상 합성부;An image synthesizer configured to synthesize the first image and the second image based on the obtained overlapped area to generate a panorama image; 상기 생성된 파노라마 영상을 표시하는 표시부; 및A display unit displaying the generated panoramic image; And 상기 영상 획득부, 상기 영역 획득부, 상기 영상 합성부 및 상기 표시부를 제어하는 제어부를 포함하고,And a controller for controlling the image acquisition unit, the area acquisition unit, the image synthesis unit, and the display unit. 상기 영역 획득부는,The area acquisition unit, 상기 제1 영상의 경계 영역(이하 "제1 경계 영역"이라 함)과 파노라마 영상을 구성하기 위해 상기 제1 경계 영역과 대응되는 상기 제2 영상의 경계 영역(이하 "제2 경계 영역"이라 함)을 구성하는 각 픽셀에 대해, 1차 미분 에지(edge) 연산자를 이용하여 x축 방향, y축 방향, 좌측 대각선 방향 및 우측 대각선 방향에 대한 필터링 값을 각각 구하고 이들을 합산한 값을 상기 각 픽셀의 방향성으로 하여 상기 중첩 영역을 획득하는 파노라마 영상 생성 장치.A boundary region of the first image (hereinafter referred to as a “first boundary region”) and a boundary region of the second image corresponding to the first boundary region (hereinafter referred to as a “second boundary region”) to form a panoramic image. For each pixel constituting), the filtering values for the x-axis direction, the y-axis direction, the left diagonal direction, and the right diagonal direction are respectively calculated by using a first-order differential edge operator, and the sum of these values is added to each pixel. And a panorama image generating device for acquiring the overlapped area with the directionality of. 제 8 항에 있어서, 상기 영역 획득부는,The method of claim 8, wherein the area obtaining unit, 상기 제1 경계 영역 및 상기 제2 경계 영역을 구성하는 상기 각 픽셀에 대해, 상기 합산한 값을 상기 각 픽셀의 필터링 값으로 설정하고, 상기 제1 경계 영역 및 상기 제2 경계 영역에 대해 서로 대응되는 픽셀마다 상기 설정된 필터링 값을 비교함으로써 방향성을 비교하여 상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 임계치 이상인 영역을 상기 중첩 영역으로 획득하는 것을 특징으로 하는 파노라마 영상 생성 장치.For each of the pixels constituting the first boundary area and the second boundary area, the summed value is set as a filtering value of each pixel, and corresponding to each other for the first boundary area and the second boundary area. And comparing the directionality by comparing the set filtering value for each pixel to obtain an area in which the distribution ratio of pixels having the same directionality equal to or greater than a threshold within the error range is obtained as the overlapping area. 제 9 항에 있어서, 상기 1차 미분 에지 연산자는,10. The method of claim 9, wherein the first derivative edge operator is 소벨(Sobel) 연산자인 것을 특징으로 하는 파노라마 영상 생성 장치.A panoramic image generating device characterized in that the Sobel operator. 삭제delete 제 10 항에 있어서, 상기 영상 합성부는,The method of claim 10, wherein the image synthesizing unit, 상기 획득된 중첩 영역에 대해 저주파통과필터(Low Pass Filter)를 적용하는 것을 특징으로 하는 파노라마 영상 생성 장치.And a low pass filter is applied to the obtained overlapped area. 차량의 후방에 특정 이격 거리로 설치되고, 피사체를 각각 촬영하여 제1 감시 영상과 제2 감시 영상을 각각 획득하는 제1 및 제2 영상 획득부;First and second image acquisition units installed at a rear of the vehicle at a specific separation distance and respectively photographing a subject to obtain a first surveillance image and a second surveillance image; 상기 획득된 제1 및 제2 감시 영상에 대해 픽셀(pixel)의 방향성을 기준으로 상기 제1 감시 영상과 상기 제2 감시 영상이 중첩되는 중첩 영역을 획득하는 영역 획득부;An area obtaining unit obtaining an overlapping area in which the first surveillance image and the second surveillance image overlap with respect to the acquired first and second surveillance images based on a pixel orientation; 상기 획득된 중첩 영역을 기준으로 상기 제1 감시 영상과 상기 제2 감시 영상을 합성하여 파노라마 감시 영상을 생성하는 영상 합성부;An image synthesizer configured to generate the panoramic surveillance image by synthesizing the first surveillance image and the second surveillance image based on the obtained overlapped area; 상기 생성된 파노라마 감시 영상을 표시하는 표시부; 및A display unit displaying the generated panoramic surveillance image; And 상기 영상 획득부, 상기 영역 획득부, 상기 영상 합성부 및 상기 표시부를 제어하는 제어부를 포함하고,And a controller for controlling the image acquisition unit, the area acquisition unit, the image synthesis unit, and the display unit. 상기 영역 획득부는,The area acquisition unit, 상기 제1 감시 영상의 경계 영역(이하 "제1 경계 영역"이라 함)과 파노라마 영상을 구성하기 위해 상기 제1 경계 영역과 대응되는 상기 제2 감시 영상의 경계 영역(이하 "제2 경계 영역"이라 함)을 구성하는 각 픽셀에 대해, 1차 미분 에지(edge) 연산자를 이용하여 x축 방향, y축 방향, 좌측 대각선 방향 및 우측 대각선 방향에 대한 필터링 값을 각각 구하고 이들을 합산한 값을 상기 각 픽셀의 방향성으로 하여 상기 중첩 영역을 획득하는 파노라마 영상에 기반한 차량 후방 감시 장치.A boundary area of the first surveillance image (hereinafter referred to as "first boundary region") and a second boundary image corresponding to the first boundary region (hereinafter referred to as "first boundary region") to form a panoramic image. For each pixel constituting the filter, the filtering values for the x-axis direction, the y-axis direction, the left diagonal direction, and the right diagonal direction are respectively calculated using a first-order differential edge operator, and the sum of these values is recalled. And a panoramic image based on the panoramic image for acquiring the overlapped area by the direction of each pixel. 제 13 항에 있어서, 상기 영역 획득부는,The method of claim 13, wherein the area obtaining unit, 상기 제1 경계 영역 및 상기 제2 경계 영역을 구성하는 상기 각 픽셀에 대해, 상기 합산한 값을 상기 각 픽셀의 필터링 값으로 설정하고, 상기 제1 경계 영역 및 상기 제2 경계 영역에 대해 서로 대응되는 픽셀마다 상기 설정된 필터링 값을 비교함으로써 방향성을 비교하여 상기 방향성이 오차 범위 내로 동일한 픽셀들의 분포율이 임계치 이상인 영역을 상기 중첩 영역으로 획득하는 것을 특징으로 하는 파노라마 영상에 기반한 차량 후방 감시 장치.For each of the pixels constituting the first boundary area and the second boundary area, the summed value is set as a filtering value of each pixel, and corresponding to each other for the first boundary area and the second boundary area. And comparing the directionality by comparing the set filtering value for each pixel to obtain an area in which the distribution ratio of pixels having the same directionality equal to or greater than a threshold within the error range is obtained as the overlapping area. 제 14 항에 있어서, 상기 1차 미분 에지 연산자는,15. The method of claim 14, wherein the first derivative edge operator is 소벨(Sobel) 연산자인 것을 특징으로 하는 파노라마 영상에 기반한 차량 후방 감시 장치.A rear view monitoring device based on a panoramic image, characterized in that the Sobel operator. 삭제delete 제 13 항에 있어서, 상기 제어부는,The method of claim 13, wherein the control unit, 상기 차량의 후방을 실시간으로 감시하기 위해 상기 영상 획득부, 상기 영역 획득부 및 상기 영상 합성부를 제어하여 상기 파노라마 감시 영상을 실시간으로 합성하고 상기 합성된 파노라마 감시 영상을 상기 표시부에 실시간으로 표시하는 것을 특징으로 하는 파노라마 영상에 기반한 차량 후방 감시 장치.Controlling the image acquisition unit, the area acquisition unit, and the image synthesis unit to monitor the rear of the vehicle in real time, to synthesize the panoramic surveillance image in real time and to display the synthesized panoramic surveillance image in real time on the display unit. Vehicle rear monitoring device based on panoramic image.
KR1020080002238A 2008-01-08 2008-01-08 Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image KR100955889B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020080002238A KR100955889B1 (en) 2008-01-08 2008-01-08 Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020080002238A KR100955889B1 (en) 2008-01-08 2008-01-08 Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image

Publications (2)

Publication Number Publication Date
KR20090076344A KR20090076344A (en) 2009-07-13
KR100955889B1 true KR100955889B1 (en) 2010-05-03

Family

ID=41333467

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080002238A KR100955889B1 (en) 2008-01-08 2008-01-08 Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image

Country Status (1)

Country Link
KR (1) KR100955889B1 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101077584B1 (en) * 2009-12-14 2011-10-27 (주) 에투시스템 Apparatus and method for processing images obtained by a plurality of cameras
KR101140342B1 (en) * 2010-07-28 2012-05-03 한국전기연구원 Image Reconstruction Method and Apparatus for DTSDigital Tomosynthesis System
KR101464218B1 (en) * 2014-04-25 2014-11-24 주식회사 이오씨 Apparatus And Method Of Processing An Image Of Panorama Camera
CN116311087B (en) * 2023-05-23 2023-08-08 深圳市鑫莱达安防技术有限公司 Monitoring method, device, equipment and storage medium based on camera group

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005223902A (en) * 2004-02-03 2005-08-18 Hewlett-Packard Development Co Lp Method for providing image alignment feedback for panoramic (composite) image in digital camera using edge detection
JP2007180720A (en) * 2005-12-27 2007-07-12 Alpine Electronics Inc Vehicle drive support apparatus

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005223902A (en) * 2004-02-03 2005-08-18 Hewlett-Packard Development Co Lp Method for providing image alignment feedback for panoramic (composite) image in digital camera using edge detection
JP2007180720A (en) * 2005-12-27 2007-07-12 Alpine Electronics Inc Vehicle drive support apparatus

Also Published As

Publication number Publication date
KR20090076344A (en) 2009-07-13

Similar Documents

Publication Publication Date Title
JP7164706B2 (en) Image stitching method and device, in-vehicle image processing device, electronic device, storage medium
US8428390B2 (en) Generating sharp images, panoramas, and videos from motion-blurred videos
JP4658223B2 (en) Image generating method, apparatus, program thereof, and recording medium recording program
KR101421624B1 (en) Image processing apparatus, image processing method and program
JP2014212519A (en) Stereoscopic panoramas
WO2018168539A1 (en) Learning method and program
EP2979449B1 (en) Enhancing motion pictures with accurate motion information
Jeong et al. Multi-frame example-based super-resolution using locally directional self-similarity
JP5225313B2 (en) Image generating apparatus, image generating method, and program
KR100955889B1 (en) Apparatus And Method For Generating Panorama Image And Apparatus For Monitoring Rear View Of Vehicle Based On Panorama Image
US10412374B2 (en) Image processing apparatus and image processing method for imaging an image by utilization of a pseudo image
US20230394833A1 (en) Method, system and computer readable media for object detection coverage estimation
CN114881921A (en) Event and video fusion based occlusion-removing imaging method and device
KR100972764B1 (en) Image processing device, image processing method and recording medium embodying an image processing program
KR101341617B1 (en) Apparatus and method for super-resolution based on error model of single image
CN115546027B (en) Image suture line determination method, device and storage medium
Zhang et al. Video superresolution reconstruction using iterative back projection with critical-point filters based image matching
Mancas-Thillou et al. An introduction to super-resolution text
Faramarzi et al. Space-time super-resolution from multiple-videos
JP2005157847A (en) Image processor and processing method
CN103050110B (en) Method, device and system for image adjustment
JP5024300B2 (en) Image processing apparatus, image processing method, and program
Choi et al. Cnn-based pre-processing and multi-frame-based view transformation for fisheye camera-based avm system
CN109754370B (en) Image denoising method and device
US20150093019A1 (en) Method and apparatus for generating temporally consistent depth maps

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130405

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20140304

Year of fee payment: 5

LAPS Lapse due to unpaid annual fee