KR100927236B1 - A recording medium that can be read by a computer on which an image restoring method, an image restoring apparatus and a program for executing the image restoring method are recorded. - Google Patents

A recording medium that can be read by a computer on which an image restoring method, an image restoring apparatus and a program for executing the image restoring method are recorded. Download PDF

Info

Publication number
KR100927236B1
KR100927236B1 KR1020080043448A KR20080043448A KR100927236B1 KR 100927236 B1 KR100927236 B1 KR 100927236B1 KR 1020080043448 A KR1020080043448 A KR 1020080043448A KR 20080043448 A KR20080043448 A KR 20080043448A KR 100927236 B1 KR100927236 B1 KR 100927236B1
Authority
KR
South Korea
Prior art keywords
image
reconstructed
images
enlargement ratio
distance
Prior art date
Application number
KR1020080043448A
Other languages
Korean (ko)
Other versions
KR20090013015A (en
Inventor
이희주
김은수
황동춘
Original Assignee
광운대학교 산학협력단
김은수
황동춘
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 광운대학교 산학협력단, 김은수, 황동춘 filed Critical 광운대학교 산학협력단
Publication of KR20090013015A publication Critical patent/KR20090013015A/en
Application granted granted Critical
Publication of KR100927236B1 publication Critical patent/KR100927236B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • G06T5/75Unsharp masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

영상 복원 방법, 그 장치 및 그 방법을 실행하는 프로그램이 기록된 기록매체가 개시된다. 본 발명의 일 실시예에 따르면, 영상 복원 장치가 영상을 복원하는 방법에 있어서, (a) 소정의 객체로부터 획득된 요소 영상 집합을 영상 복원 투과체를 통하여 상기 영상 복원 투과체로부터 거리가 다른 복수의 평면상에 결상시켜 각각의 상기 평면상에 복원 영상을 생성하는 단계; (b) 참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 산출하는 단계; (c) 상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 단계를 포함하는 영상 복원 방법이 제공될 수 있다. 이에 따라서, 마스킹 방식을 이용하여 방해물의 정보가 제거된 복원 영상을 제공할 수 있다.Disclosed is a recording medium on which an image restoration method, an apparatus, and a program for executing the method are recorded. According to an embodiment of the present invention, in a method for reconstructing an image by an image reconstructing apparatus, (a) a plurality of element image sets obtained from a predetermined object having a different distance from the image reconstructing transmissive body through an image reconstructing transmissive body; Imaging on a plane of to generate a reconstructed image on each plane; (b) calculating an enlargement ratio by analyzing correlations with respect to the reference image and the reconstructed images, respectively; and (c) enlarging the set of element images at the enlargement ratio, and masking the reference image to the enlarged image to remove obstruction information. Accordingly, the reconstructed image from which the information of the obstacle is removed can be provided by using a masking method.

Description

영상 복원 방법, 영상 복원 장치 및 영상 복원 방법을 실행하는 프로그램이 기록된 컴퓨터에서 판독될 수 있는 기록매체{Method, device for restoring of image and computer readable record-medium on which program for executing method thereof}Method, device for restoring of image and computer readable record-medium on which program for executing method

본 발명은 영상 복원에 관한 것으로, 보다 상세하게 마스킹(masking)을 통해 방해물 정보를 제거하여 인식 대상 물체를 복원할 수 있는 영상 복원 방법, 그 장치 및 그 방법을 실행하는 프로그램이 기록된 기록매체에 관한 것이다.The present invention relates to an image restoration, and more particularly, to an image restoration method capable of restoring an object to be recognized by removing obstacle information through masking, and an apparatus and a program for executing the method, on a recording medium having recorded thereon. It is about.

3차원 물체 인식에 관한 연구 및 시스템 구현은 수 세기 동안 진척되어 왔다. 3차원 물체 인식에는 본질적으로 공간상의 3차원 물체의 위치 정보 검출이 수반된다. 최근에 3차원 물체 인식을 위한 접근방법으로 집적영상기법이 제안되었다. 3차원 영상을 기록하고 디스플레이 하는 방법중의 하나인 집적영상기법은 마이크로 렌즈 어레이(lens array)를 통해 물체의 다(多)시점 2차원 영상들을 획득하는 방법이다. 이러한 집적영상기법을 이용한 3차원 물체 인식에 관한 접근 방식들은 공간상의 3차원 물체의 위치정보를 검출하는 연구를 수반하고 있다.Research and system implementation on three-dimensional object recognition have been advanced for centuries. Recognizing three-dimensional objects inherently involves detecting positional information of three-dimensional objects in space. Recently, an integrated imaging technique has been proposed as an approach for 3D object recognition. An integrated imaging technique, which is one of methods for recording and displaying a 3D image, is a method of obtaining multi-view 2D images of an object through a microlens array. Approaches to 3D object recognition using integrated image technique have been accompanied by a study of detecting position information of 3D object in space.

일반적으로 집적영상 시스템은 크게 픽업과정과 디스플레이 및 복원과정으로 이루어져 있다. 픽업과정에서는 렌즈 어레이 또는 핀홀 어레이를 통하여 맺힌 다시점의 축소된 영상이 CCD 카메라에 의해 기록된다. 이 기록된 영상들을 요소 영상들이라고 한다. 이에 반해 디스플레이 및 복원 과정은 픽업과정의 역 과정으로 처리한다. 디스플레이 패널의 기록된 요소 영상들이 렌즈 어레이 또는 핀홀 어레이를 통해 3차원 영상으로 복원된다. 집적영상을 복원함에 있어서는 광학적 집적 영상 복원기법과 컴퓨터적 집적 영상 복원기법이 있다. 광학적 집적 영상 복원기법은 회절과 수차 등과 같은 광학적 장치의 물리적인 제한에 의해 야기된 요소 영상들간의 불충분한 오버랩과 복원된 3차원 영상의 저하된 화질로 인해 저해상도의 3차원 영상이 복원되는 문제점을 가지고 있다. 이러한 결점을 보완하기 위해 기하광학의 디지털 시뮬레이션을 통하여 컴퓨터적으로 3차원 영상을 복원할 수 있는 핀홀 어레이 모델기반 컴퓨터적 집적영상 복원기법(computer integral imaging reconstruction: CIIR)이 소개되었다. 즉, 핀홀 어레이 모델을 이용하여 도립적으로 매핑된 모든 요소영상들간의 중첩으로부터 3차원 영상이 뎁스 평면상에서 컴퓨터적으로 복원될 수 있다. 하지만 기존의 컴퓨터적 집적 영상 복원기법 또한 복원된 영상 평면에서 요소영상들간의 불충분한 오버랩에 따른 격자구조와 명암도의 불규칙성으로 인해 저해상도의 영상을 복원하였다. 이후 복원된 3차원 영상의 해상도를 향상시키기 위해 렌즈 어레이 모델 기반 컴퓨터적 집적 영상 복원기법이 제안되었다. In general, the integrated imaging system is largely composed of a pickup process, a display process and a restoration process. In the pickup process, a reduced image of a multi-view made through the lens array or the pinhole array is recorded by the CCD camera. These recorded images are called element images. In contrast, the display and restoration process is the reverse of the pickup process. The recorded element images of the display panel are reconstructed into three-dimensional images through the lens array or the pinhole array. In recovering an integrated image, there are an optical integrated image restoration technique and a computer integrated image restoration technique. The optically integrated image reconstruction technique is capable of reconstructing low-resolution three-dimensional images due to insufficient overlap between element images caused by physical limitations of optical devices such as diffraction and aberration, and reduced image quality of reconstructed three-dimensional images. Have. To overcome this drawback, a computer integrated imaging reconstruction (CIIR) based on a pinhole array model, which can reconstruct three-dimensional images computer-aided through geometrical digital simulation, was introduced. That is, the 3D image may be computerly restored on the depth plane from the overlap between all the element images mapped inductively using the pinhole array model. However, the existing computer integrated image reconstruction technique also reconstructed low resolution images due to lattice structure and contrast irregularities due to insufficient overlap between element images in the reconstructed image plane. Since then, a lens array model-based computer integrated image reconstruction technique has been proposed to improve the resolution of reconstructed three-dimensional images.

광학적 또는 컴퓨터적으로 복원된 영상의 해상도는 3차원 물체의 검출 및 인 식 그리고 위치정보 추출 등과 같은 응용 분야에 중요한 요소로 작용하게 된다. 즉, 3차원 물체의 영상이나 features들 간의 상관도 측정이 본질적으로 물체 인식을 위한 하위 프로세서로 작용하므로 정확한 출력 평면에서의 critical 상관피크는 영상이나 features들의 해상도에 크게 의존한다. 따라서, 집적영상에서 복원된 영상의 해상도를 향상시키는 것이 이슈가 되고 있다. 최근에 집적영상으로부터 복원된 영상의 해상도를 향상시키기 위한 몇몇 디지털적 방법이 제안되었다. 그 중 하나의 방법은 중간영상복원기법(Intermediate-view-reconstruction: IVR)을 사용하여 획득된 요소영상들 사이 사이의 중간 요소 영상들을 생성하므로 이로 인한 충분한 오버랩에 의해 해상도가 향상된 영상이 획득하는 방법이다.The resolution of an optically or computerly reconstructed image is an important factor in applications such as the detection and recognition of three-dimensional objects and the extraction of location information. In other words, the correlation between the images and features of a 3D object essentially acts as a sub-processor for object recognition, so the critical correlation peak in the correct output plane is highly dependent on the resolution of the images or features. Therefore, improving the resolution of the image reconstructed from the integrated image is an issue. Recently, several digital methods have been proposed to improve the resolution of images reconstructed from integrated images. One of them is to generate intermediate element images between the element images obtained by using an intermediate-view-reconstruction (IVR) method, thereby obtaining an image having an improved resolution due to sufficient overlap. to be.

이와 비슷하게 다른 방법은 획득된 요소영상들을 먼저 서브 이미지로 재배열하고 IVR을 사용하여 재배열된 서브이미지 사이 사이의 중간 서브이미지들을 생성한 다음, 다시 요소 영상들로 변환하여 해상도가 향상된 영상을 획득하는 방법이다. IVR의 결과로 요소영상들의 수가 증가되지만, 렌즈 어레이로부터 획득된 요소영상이나 재배열된 서브이미지의 낮은 해상도가 IVR 단계에서 많은 false-negatives와 false-positives들을 야기함에 따라 결과적으로 해상도가 저하될 문제점이 있다. 따라서 위에서 제안된 방법들은 인접한 요소영상들이나 서브이미지들간의 폐쇄영역(occlusion region)들이 없을지라도 추가적으로 서브 픽셀 레벨의 시차보정이 필요하고 인접한 요소영상들이나 서브이미지들간의 baseline이 충분히 멀어야 된다는 문제점이 있다. Similarly, another method first rearranges the acquired element images into sub-images, generates intermediate sub-images between the rearranged sub-images using an IVR, and then converts them into element images to obtain an image having improved resolution. That's how. The number of element images increases as a result of the IVR, but the low resolution of element images or rearranged sub-images obtained from the lens array may cause a lot of false-negatives and false-positives in the IVR stage, resulting in a decrease in resolution. There is this. Therefore, even though there are no occlusion regions between adjacent element images or sub-images, the methods proposed above require additional subpixel level parallax correction and the baseline between adjacent element images or sub-images should be far enough. .

만일 인접한 영상 요소들이나 서브이미지들간의 거리가 충분히 주어지지 않 은 상태에서 복원을 하게 되면 방해물의 정보가 인식 대상의 복원 영상에서 노이즈 역할을 하여 인식률을 저하시키는 요인이 된다.If the restoration is performed in a state where the distance between adjacent image elements or sub-images is not sufficiently given, the obstacle information serves as a noise in the reconstructed image of the object to be recognized, thereby reducing the recognition rate.

본 발명은 마스킹 방식을 이용하여 방해물의 정보가 제거된 복원 영상을 제공할 수 있는 영상 복원 방법, 그 장치 및 그 방법을 실행하는 프로그램이 기록된 기록매체를 제공하기 위한 것이다.An object of the present invention is to provide an image restoration method capable of providing a restored image from which obstructions have been removed using a masking method, an apparatus, and a recording medium having recorded thereon a program for executing the method.

또한, 본 발명은 방해물 정보를 제거하여 인식 대상 개체를 복원함으로써 인식 대상 개체의 인식률을 향상시킬 수 있는 영상 복원 방법, 그 장치 및 그 방법을 실행하는 프로그램이 기록된 기록매체를 제공하기 위한 것이다.In addition, the present invention is to provide an image restoration method that can improve the recognition rate of the object to be recognized by removing the obstacle information to restore the object to be recognized, an apparatus and a recording medium on which the program for executing the method is recorded.

본 발명의 일 측면에 따르면, 영상 복원 장치가 방해물 정보를 제거하여 영상을 복원할 수 있는 방법 및 그 방법을 수행하기 위한 프로그램을 기록한 기록매체가 제공된다.According to an aspect of the present invention, there is provided a method for restoring an image by removing obstacle information, and a recording medium recording a program for performing the method.

본 발명의 일 실시예에 따르면, 영상 복원 장치가 영상을 복원하는 방법에 있어서, (a) 소정의 객체로부터 획득된 요소 영상 집합을 영상 복원 투과체를 통하여 상기 영상 복원 투과체로부터 거리가 다른 복수의 평면상에 결상시켜 각각의 상기 평면상에 복원 영상을 생성하는 단계; (b) 참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 산출하는 단계; (c) 상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 단계를 포함하는 영상 복원 방법이 제공될 수 있다.According to an embodiment of the present invention, in a method for reconstructing an image by an image reconstructing apparatus, (a) a plurality of element image sets obtained from a predetermined object having a different distance from the image reconstructing transmissive body through an image reconstructing transmissive body; Imaging on a plane of to generate a reconstructed image on each plane; (b) calculating an enlargement ratio by analyzing correlations with respect to the reference image and the reconstructed images, respectively; and (c) enlarging the set of element images at the enlargement ratio, and masking the reference image to the enlarged image to remove obstruction information.

상기 영상 복원 투과체는 복수의 핀홀을 포함하는 핀홀 배열 또는 복수의 렌즈를 포함하는 렌즈 배열일 수 있다.The image restoration transmissive body may be a pinhole array including a plurality of pinholes or a lens array including a plurality of lenses.

상기 평면상에 복원 영상을 생성하는 단계 이전에, 상기 소정의 객체로부터 영상 획득 투과체를 통하여 상기 요소 영상 집합을 획득하는 단계를 더 포함할 수 있다.Before generating the reconstructed image on the plane, the method may further include acquiring the element image set from the predetermined object through an image acquisition transmitting body.

참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 결정하는 단계는, 각각의 복원 영상과 상기 참조 영상에 대한 상관도값을 각각 산출하는 단계; 상기 산출된 상관도값이 가장큰 상관도값에 해당하는 복원 영상에 상응하는 거리를 픽업 거리로 결정하는 단계; 및 상기 결정된 픽업 거리를 이용하여 확대 비율을 산출하는 단계를 포함할 수 있다.Determining an enlargement ratio by analyzing correlations with respect to the reference image and the reconstructed images, respectively, calculating a correlation value for each reconstructed image and the reference image; Determining a distance corresponding to the reconstructed image corresponding to the correlation value having the largest correlation value as a pickup distance; And calculating an enlargement ratio using the determined pickup distance.

상기 확대 비율은 하기 수학식을 이용하여 산출된다.The enlargement ratio is calculated using the following equation.

M= L/gM = L / g

여기서, L은 핀홀 배열부터 상기 복원 영상까지의 거리이며, 상기 g는 상기 요소 영상에서 상기 핀홀 배열까지의 거리이다.L is a distance from the pinhole array to the reconstructed image, and g is a distance from the element image to the pinhole array.

상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 단계는, (a) 상기 요소 영상 집합을 핀홀 배열을 하나씩 개방하여 요소 영상을 상기 확대 비율로 확대하는 단계; (b) 상기 확대된 영상과 상기 참조 영상을 마스킹하여 상기 확대 영상에서 방 해물 정보를 제거하는 단계를 포함할 수 있다.Enlarging the elementary image set at the enlargement ratio, and masking the reference image to the enlarged image to remove the obstacle information, (a) opening the elementary image set pinhole array one by one to enlarge the elementary image; Expanding at a rate; (b) masking the enlarged image and the reference image to remove the obstacle information from the enlarged image.

(c) 상기 방해물 정보가 제거된 확대된 영상을 상기 확대 비율을 이용하여 축소하여 신규 요소 영상을 생성하는 단계를 더 포함하되, 상기 (a) 단계 내지 상기 (c) 단계는 n회 반복 수행되며, 상기 n은 상기 요소 영상 집합에 포함된 요소 영상의 개수이다.(c) further generating a new element image by reducing the enlarged image from which the obstacle information is removed using the enlargement ratio, wherein steps (a) to (c) are repeated n times. N is the number of element images included in the element image set.

상기 복수의 신규 요소 영상을 이용하여 인식대상개체를 복원하는 단계를 더 포함할 수 있다.The method may further include reconstructing the object to be recognized using the plurality of new element images.

복원 영상에 포함된 방해물을 제거하는 방법을 수행하기 위해 디지털 처리 장치에 의해 실행될 수 있는 명령어들의 프로그램이 유형적으로 구현되어 있으며, 상기 디지털 처리 장치에 의해 판독될 수 있는 프로그램을 기록한 기록매체에 있어서,In the recording medium recording a program that can be read by the digital processing device is implemented in the form of a program of instructions that can be executed by the digital processing device to perform a method for removing the obstacle contained in the reconstructed image,

소정의 객체로부터 획득된 요소 영상 집합을 영상 복원 투과체를 통하여 상기 영상 복원 투과체로부터 거리가 다른 복수의 평면상에 결상시켜 각각의 상기 평면상에 복원 영상을 생성하는 단계;Generating a reconstructed image on each of the planes by forming a set of element images obtained from a predetermined object on a plurality of planes having a different distance from the image reconstructing transmission body through the image reconstructing transmission body;

참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 산출하는 단계; 및Calculating an enlargement ratio by analyzing correlations with respect to the reference image and the reconstructed images, respectively; And

상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 단계를 수행하는 프로그램을 기록한 기록매체가 제공될 수 있다.A recording medium may be provided that records a program for enlarging the set of element images at the enlargement ratio and removing the obstacle information by masking the reference image on the enlarged image.

본 발명의 다른 측면에 따르면, 영상 복원 장치가 방해물 정보를 제거하여 영상을 복원할 수 있는 복원 장치가 제공된다.According to another aspect of the present invention, there is provided a restoring apparatus capable of restoring an image by removing the obstacle information.

본 발명의 일 실시예에 따르면, 영상 복원 장치에 있어서, 소정의 객체로부터 획득된 요소 영상 집합을 영상 복원 투과체를 통하여 상기 영상 복원 투과체로부터 거리가 다른 복수의 평면상에 결상시켜 각각의 상기 평면상에 복원 영상을 생성하는 영상 생성부; 참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 산출하는 산출부; 및 상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 제거부를 포함하는 영상 복원 장치가 제공될 수 있다.According to an embodiment of the present invention, in the image restoring apparatus, an element image set obtained from a predetermined object is imaged on a plurality of planes having different distances from the image restoring transmission body through an image restoring transmission body. An image generating unit generating a reconstructed image on a plane; A calculator configured to calculate a magnification ratio by analyzing correlations of the reference image and the reconstructed images, respectively; And a remover configured to enlarge the element image set at the enlargement ratio, and to remove the obstacle information by masking the reference image on the enlarged image.

상기 소정의 객체로부터 영상 획득 투과체를 통하여 상기 요소 영상 집합을 획득하는 픽업부를 더 포함할 수 있다.The apparatus may further include a pickup unit configured to acquire the set of element images from the predetermined object through the image acquisition transmissive member.

상기 산출부는 각각의 복원 영상과 상기 참조 영상에 대한 상관도값을 각각 산출하며, 상기 산출된 상관도값이 가장큰 상관도값에 해당하는 복원 영상에 상응하는 거리를 픽업 거리로 결정하고, 상기 결정된 픽업 거리를 이용하여 확대 비율을 산출할 수 있다.The calculator calculates a correlation value for each of the reconstructed image and the reference image, and determines a pickup distance as a distance corresponding to the reconstructed image corresponding to the correlation value having the largest correlation value. The enlargement ratio may be calculated using the determined pickup distance.

상기 제거부는 상기 요소 영상 집합을 핀홀 배열을 하나씩 개방하여 요소 영상을 상기 확대 비율로 확대하며, 상기 확대된 영상과 상기 참조 영상을 마스킹하여 상기 확대 영상에서 방해물 정보를 제거할 수 있다.The removal unit may enlarge the element image at the enlargement ratio by opening the pinhole arrays one by one, and remove the obstacle information from the enlarged image by masking the enlarged image and the reference image.

상기 제거부는 상기 방해물 정보가 제거된 확대된 영상을 상기 확대 비율을 이용하여 축소하여 신규 요소 영상을 생성하며, n회 반복 수행되며, 상기 n은 상기 요소 영상 집합에 포함된 요소 영상의 개수이다.The removal unit reduces the enlarged image from which the obstacle information has been removed to generate a new element image by using the enlargement ratio, and repeats n times, where n is the number of element images included in the element image set.

상기 복수의 신규 요소 영상을 이용하여 인식대상개체를 복원하는 복원부를 더 포함할 수 있다.The apparatus may further include a restoration unit for restoring an object to be recognized using the plurality of new element images.

본 발명에 따른 영상 복원 방법, 그 장치 및 그 방법을 실행하는 프로그램이 기록된 기록매체를 제공함으로써, 마스킹 방식을 이용하여 방해물의 정보가 제거된 복원 영상을 제공할 수 있는 효과가 있다.By providing a recording medium on which an image restoring method, an apparatus, and a program for executing the method according to the present invention are recorded, there is an effect of providing a restored image from which information of an obstacle is removed by using a masking method.

또한, 본 발명은 방해물 정보를 제거하여 인식 대상 개체를 복원함으로써 인식 대상 개체의 인식률을 향상시킬 수 있는 효과도 있다.In addition, the present invention has an effect of improving the recognition rate of the object to be recognized by removing the obstacle information to restore the object to be recognized.

본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.As the invention allows for various changes and numerous embodiments, particular embodiments will be illustrated in the drawings and described in detail in the written description. However, this is not intended to limit the present invention to specific embodiments, it should be understood to include all transformations, equivalents, and substitutes included in the spirit and scope of the present invention. In the following description of the present invention, if it is determined that the detailed description of the related known technology may obscure the gist of the present invention, the detailed description thereof will be omitted.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. Terms such as first and second may be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terminology used herein is for the purpose of describing particular example embodiments only and is not intended to be limiting of the present invention. Singular expressions include plural expressions unless the context clearly indicates otherwise. In this application, the terms "comprise" or "have" are intended to indicate that there is a feature, number, step, operation, component, part, or combination thereof described in the specification, and one or more other features. It is to be understood that the present invention does not exclude the possibility of the presence or the addition of numbers, steps, operations, components, components, or a combination thereof.

이하, 본 발명의 실시예를 첨부한 도면들을 참조하여 상세히 설명하기로 한다. Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings.

이해와 설명의 편의를 위해 우선 도 1을 참조하여 일반적인 3차원 집적 영상 시스템에 대해 간략하게 설명하기로 한다.For convenience of understanding and description, a general 3D integrated imaging system will be briefly described with reference to FIG. 1.

도 1은 일반적인 3차원 집적 영상 시스템의 원리를 예시한 도면이다.1 is a diagram illustrating the principle of a general three-dimensional integrated imaging system.

일반적으로 집적 영상은 픽업 과정과 디스플레이 과정으로 구성된다. 집적 영상의 픽업 과정은 2차원 센서와 렌즈 배열로 구성된다. 여기서, 3차원 물체들을 통해서 들어온 제한된 양의 광선들이 렌즈 배열을 통해 픽업된다. 이때, 그 광선들은 2차원 영상 센서를 통해 3차원 객체 각각의 정보를 가진 요소 영상들로서 디지 털 영상으로 저장된다.In general, the integrated image is composed of a pickup process and a display process. The pickup process of the integrated image consists of a two-dimensional sensor and a lens array. Here, a limited amount of rays entering through the three-dimensional objects are picked up through the lens array. At this time, the rays are stored as digital images as element images having information of each 3D object through a 2D image sensor.

반면에 집적 영상의 디스플레이 과정은 픽업 과정으로 역이다. 요소 영상을 가지고 있는 디지털 영상은 3차원 영상들의 복원을 위한 디스플레이 장치에 표시되고, 렌즈 배열의 앞 부분에 디스플레이 된다.On the other hand, the display process of the integrated image is the reverse of the pickup process. The digital image having the element image is displayed on the display device for reconstruction of the three-dimensional images, and displayed in the front portion of the lens array.

또한, 요소 영상의 광학적 복원 방식을 그대로 모델링 한 컴퓨터를 이용한 복원 방식이 연구 보고 되었다. 이 복원 방식은 3차원 영상을 일정한 거리에 놓인 평면에서 복원하는 방식이다.In addition, a computer-based reconstruction method that models the optical reconstruction method of element images is reported. This reconstruction method reconstructs a three-dimensional image in a plane placed at a certain distance.

도 2는 본 발명의 일 실시예에 따른 영상 복원 장치의 블록 구성도이며, 도 3은 본 발명의 일 실시예에 따른 영상 생성부에서의 복원 기법을 설명하기 위해 예시한 도면이고, 도 4는 본 발명의 일 실시예에 따른 거리에 따라 복원된 영상을 예시한 도면이며, 도 5는 본 발명의 일 실시예에 따른 마스킹을 설명하기 위해 예시한 도면이다. FIG. 2 is a block diagram of an image restoration apparatus according to an embodiment of the present invention. FIG. 3 is a diagram illustrating a restoration technique in an image generating unit according to an embodiment of the present invention. FIG. 5 is a diagram illustrating an image reconstructed according to a distance according to an embodiment of the present invention. FIG. 5 is a diagram illustrating masking according to an embodiment of the present invention.

도 2를 참조하면, 본 발명에 따른 영상 복원 장치(200)는 픽업부(210), 영상 생성부(215), 산출부(220), 제거부(225) 및 복원부(230)를 포함하여 구성된다. Referring to FIG. 2, the image restoration apparatus 200 according to the present invention includes a pickup unit 210, an image generator 215, a calculator 220, a remover 225, and a restorer 230. It is composed.

픽업부(210)는 소정의 객체로부터 집적 영상 방식을 이용하여 요소 영상 집합을 획득한다. 여기서, 요소 영상 집합은 집적 영상 방식으로 서로 다른 시차에 의해 생성된 요소 영상들에 대한 집합이다. 보다 상세하게 픽업부(210)는 소정의 객체로부터 반사되는 빛이 렌즈 배열의 각각의 렌즈를 통해 CCD 카메라(charge-couple camera)등의 광학 센서에 그 세기와 방향이 기록됨으로써 요소 영상 집합을 획득할 수 있다.The pickup unit 210 acquires a set of element images from a predetermined object by using an integrated image method. Here, the element image set is a set of element images generated by different parallaxes in an integrated image method. In more detail, the pickup unit 210 acquires the element image set by recording the intensity and the direction of the light reflected from a predetermined object to an optical sensor such as a charge-couple camera through each lens of the lens array. can do.

여기서, CCD 카메라는 디지털 카메라의 일종으로 렌즈 배열을 통해 입사되는 객체에 대한 신호를 전기적인 신호로 변환하여 2차원 요소 영상을 획득할 수 있다.Here, the CCD camera is a kind of digital camera and may acquire a 2D element image by converting a signal of an object incident through the lens array into an electrical signal.

즉, 집적 영상 방식은 CCD 카메라와 같은 2차원 영상 획득 장치를 이용하여 3차원 영상을 위한 요소 영상 집합을 획득할 수 있다.That is, the integrated image method may acquire a set of element images for a 3D image by using a 2D image acquisition device such as a CCD camera.

렌즈 배열은 소정의 객체와 영상 획득 장치 사이에 위치하며, 객체에 반사되는 빛을 통과시켜 영상 획득 장치로 전달한다. 이때, 렌즈 배열을 대신하여 핀홀 배열을 이용할 수 있으며, 핀홀 배열은 복수개의 핀홀로 구성되어 각각의 핀홀을 통해 객체에 반사되는 빛을 통과시켜 영상 획득 장치로 전달할 수 있다.The lens array is positioned between the predetermined object and the image capturing apparatus, and passes the light reflected from the object to the image capturing apparatus. In this case, a pinhole array may be used instead of the lens array, and the pinhole array may include a plurality of pinholes, and may pass light reflected to an object through each pinhole to be transmitted to the image acquisition device.

이와 같은 렌즈 배열 또는 핀홀 배열 이외에도 다양한 각도에서 객체에 반사되는 빛을 통과시켜 영상 획득 장치로 전달할 수 있는 투과체의 경우 본 발명에 동일하게 적용될 수 있음은 당연하다.In addition to the lens array or the pinhole array as described above, it is obvious that the same may be applied to the present invention in the case of a transmissive body capable of passing the light reflected from the object at various angles to the image acquisition device.

이하, 본 명세서에서는 이해와 설명의 편의를 위해 영상 획득을 위한 투과체는 렌즈 배열인 것을 가정하여 설명하며, 영상 복원을 위한 투과체는 핀홀 배열인 것을 가정하여 이를 중점으로 설명하기로 한다. 그러나, 전술한 바와 같이, 영상 획득 투과체 및 영상 복원 투과체는 렌즈 배열 및 핀홀 배열 이외에도 다른 투과체일 수도 있으며, 본 발명이 이에 한정되지 않음은 당 업자에게는 자명하다.Hereinafter, in the present specification, for convenience of understanding and explanation, it is assumed that the transmission body for acquiring an image is a lens array, and the transmission body for image reconstruction is assumed to be a pinhole array and will be mainly described. However, as described above, the image acquisition transmission body and the image restoration transmission body may be other transmission bodies other than the lens array and the pinhole array, and the present invention is not limited thereto.

영상 생성부(215)는 픽업부(210)를 통해 획득된 요소 영상 집합을 핀홀 배열을 이용하여 평면상에 결상시킴으로써 복원 영상을 생성한다. 여기서, 복원 영상은 각각의 요소 영상이 핀홀 배열에 투과되어 일정한 거리에 있는 평면상에 역으로 결 상된 영상이다.The image generator 215 generates a reconstructed image by imaging the set of element images acquired through the pickup unit 210 on a plane using a pinhole array. Here, the reconstructed image is an image in which each element image is inversely imaged on a plane at a predetermined distance through the pinhole array.

또한, 핀홀 배열은 전술한 바와 같이, 영상 복원을 위한 투과체로써 렌즈 배열과 같이 요소 영상을 투과시켜 평면상에 결상시킬 수 있는 모든 투과체를 포함할 수 있다.In addition, as described above, the pinhole array may include all the transmissive bodies capable of transmitting an image of an element and forming an image on a plane as a lens array as the transmissive body for image restoration.

요소 영상 집합 중 하나의 요소 영상이 하나의 핀홀을 통과하여 핀홀 배열과 일정한 거리에 있는 평면상에 결상된다. 요소 영상 집합 중 다른 요소 영상은 다른 핀홀 배열을 통과하여 동일한 평명상에 결상된다. 이로 인해, 하나의 복원 영상은 평면상에 요소 영상들이 중첩되어 결상되어 생성될 수 있다.One elementary image of the elementary image set passes through one pinhole and is imaged on a plane at a predetermined distance from the pinhole array. Different element images of the element image set pass through different pinhole arrays and are imaged on the same plane. Thus, one reconstructed image may be generated by forming an image by overlapping element images on a plane.

이에 대해 도 3을 참조하여 보다 상세히 설명하기로 한다.This will be described in more detail with reference to FIG. 3.

도 3에서 도시된 바와 같이, 복원 영상은 요소 영상 집합이 핀홀 배열을 통하여 평면상에 결상되어 생성될 수 있다.As shown in FIG. 3, the reconstructed image may be generated by forming a set of element images on a plane through a pinhole arrangement.

요소 영상 집합은 전술한 바와 같이 영상 획득 장치(예를 들어, CCD 카메라)에 촬상된 다수의 요소 영상들의 집합이다.The element image set is a set of a plurality of element images captured by an image capturing apparatus (for example, a CCD camera) as described above.

하나의 복원 영상은 요소 영상이 평면상에 중첩적으로 결상되어 생성될 수 있다.One reconstructed image may be generated by forming an element image superimposed on a plane.

예를 들어, 핀홀 배열로부터 거리가 L인 평면상에 복원 영상을 생성하는 경우 각각의 요소 영상은 핀홀 배열을 통과하여 평면상에 결상된다. 이와 같은 경우 요소 영상은 역으로(즉, 180도 회전되어) 결상되어 핀홀 배열과 요소 영상과의 거리(g)가 L보다 작은 경우 중첩적으로 결상된다. 하나의 요소 영상이 결상된 자리에 중첩적으로 다른 요소 영상이 결상된다.For example, when generating a reconstructed image on a plane having a distance L from the pinhole array, each element image passes through the pinhole array and is imaged on the plane. In this case, the element image is reversed (ie, rotated by 180 degrees) and overlapped when the distance g between the pinhole array and the element image is smaller than L. Another element image is superimposed on the position where one element image is formed.

이에 따라 중첩적으로 결상된 요소 영상들은 물체에 대한 서로 다른 시점과 거리 정보를 포함하며 평면상에 하나의 복원 영상을 구성하게 된다. 또한, L과 g의 비율을 이하에서는 확대 비율(M=L/g)라 칭하기로 한다. 평면상에 복원되는 영상은 확대 비율(M)이 1보다 큰 경우 요소 영상은 확대 비율(M)에 따라

Figure 112008033271930-pat00001
크기로 확대될 수 있다. 각각의 요소 영상은 각 픽셀 별로 중첩되어 더해진다. 여기서, a 및 b는 영상의 사이즈이다.Accordingly, the superimposed image elements include different viewpoints and distance information about an object and constitute one reconstructed image on a plane. In addition, the ratio of L and g is called an enlargement ratio (M = L / g) below. If the image reconstructed on the plane has an enlargement ratio (M) greater than 1, the element image is determined according to the enlargement ratio (M).
Figure 112008033271930-pat00001
Can be enlarged to size. Each element image is added to be superimposed on each pixel. Here, a and b are the size of the image.

다시, 도 2를 참조하면, 산출부(220)는 복수의 복원 영상들과 참조 영상에 대한 상관도를 분석하여 확대 비율을 산출한다.Referring back to FIG. 2, the calculator 220 calculates an enlargement ratio by analyzing a correlation between the plurality of reconstructed images and the reference image.

예를 들어 산출부(220)는 각각의 복원 영상과 참조 영상에 대한 상관도값을 각각 산출한다. 그리고, 산출부(220)는 각각 산출된 상관도값들 중에서 가장 큰 상관도값에 해당하는 복원 영상에 상응하는 거리를 픽업 거리로 결정할 수 있다. 이어서, 산출부(220)는 결정된 픽업 거리를 렌즈 공식을 이용하여 확대 비율을 산출할 수 있다. 이해와 설명의 편의를 도모하기 위해 픽업 거리를 이용하여 산출된 확대 비율을 기준 비율이라 칭하기로 한다.For example, the calculator 220 calculates a correlation value for each reconstructed image and a reference image, respectively. The calculator 220 may determine a distance corresponding to the reconstructed image corresponding to the largest correlation value among the calculated correlation values as the pickup distance. Subsequently, the calculator 220 may calculate the enlargement ratio using the lens formula for the determined pickup distance. For convenience of understanding and explanation, the enlargement ratio calculated using the pickup distance will be referred to as a reference ratio.

여기서, 상관도는 변수들간의 관련성을 분석하여 하나의 변수가 다른 변수들과 어느 정도의 밀접한 관련성으로 변화하는지를 알아보기 위해 이용된다. 산출부(220)는 참조 영상의 좌표 PR (xr, yr, zr)와 복원된 복원 영상의 좌표들 Po(xo, yo, z)간을 이용하여 상관도를 산출할 수 있다. 즉, 상관도는 두 변량 사이의 상관관계의 정도를 나타내는 수치인 상관 계수로 계산되고, 상관 계수는 -1과 1사이의 값을 가지며, 절대값이 1에 가까울수록, 강한 상관 관계를 암시한다. 상관 계수의 계산은 이미 주지의 수치이므로, 본 발명의 이해와 설명의 편의를 도모하기 위하여, 본 발명의 요지와 관련이 없는 부분에 대한 상세한 설명은 생략한다.Here, the correlation is used to analyze the relationship between variables and to determine how closely one variable changes with other variables. The calculator 220 calculates a correlation using the coordinates P R (x r , y r , z r ) of the reference image and the coordinates P o (x o , y o , z) of the reconstructed reconstructed image. Can be. That is, the correlation is calculated as a correlation coefficient, which is a numerical value representing the degree of correlation between two variables, and the correlation coefficient has a value between -1 and 1, and the closer the absolute value is to 1, the stronger the correlation is. . Since the calculation of the correlation coefficient is already well-known numerical value, in order to facilitate the understanding and explanation of this invention, detailed description of the part which is not related to the summary of this invention is abbreviate | omitted.

이와 같은 상관도는 상관 피크를 띠는 지점이 도출될 때까지 거리 파라미터 Z'의 변화에 따라 반복적으로 계산된다. 상술한 바와 같이 목표 물체의 복원 평면 영상들(142)은 원래 목표 물체가 위치했던 Zo'-평면에서 복원된 선명하게 초점이 맞춰진 부분 영상과 Zo'-평면에서 벗어나서 복원된 흐려진 부분 영상들로 이루어져 있다. 따라서 이미 알고 있는 참조 영상과 복원 평면 영상간의 거리 파라미터 Z'의 변화에 따라 각각의 출력 평면에서 복원된 복원 영상들간의 상관도를 계산하면 목표 물체가 위치했던 Zo'-평면에서 현저하게 상관 피크를 띠게 된다. 또한 이 상관 피크를 띠는 지점을 토대로 공간상의 목표 물체의 3차원 위치 정보 (xo, yo, zo)를 검출할 수 있다.This correlation is calculated repeatedly according to the change of the distance parameter Z 'until a point having a correlation peak is derived. As described above, the reconstructed planar images 142 of the target object include a sharply focused partial image reconstructed from the Z o ' -plane where the original target object was located and blurred partial images reconstructed from the Z o ' -plane. Consists of Therefore, if we calculate the correlation between the reconstructed images reconstructed in each output plane according to the change of the distance parameter Z 'between the reference image and the reconstructed plane image, the remarkable correlation peak in the Z o ' -plane where the target object is located is calculated. Will be In addition, the three-dimensional positional information (x o , y o , z o ) of the target object in space can be detected based on the point having this correlation peak.

도 4를 참조하면, 참조 영상과 거리에 따라 복원된 영상들이 예시되어 있다. 도 4의 (a)는 기설정된 참조 영상(즉, 방해물)이며, (b) 내지 (f)는 각각 거리별로 복원된 복원영상이다. 도 4의 (b) 내지 (f)에 도시된 바와 같이, 각 거리에 따라 복원된 복원 영상들 중에서 어느 시점(즉, 거리)에서 초점이 명확해지는 것을 알 수 있다. 이와 같이 초점이 잘 맞는 거리(즉, 픽업된 거리, 초점에 잘 맞게 복원된 거리)를 픽업된 거리로 결정하게 된다.Referring to FIG. 4, images reconstructed according to a distance from a reference image are illustrated. FIG. 4A illustrates a preset reference image (ie, obstacle), and (b) to (f) are reconstructed images reconstructed for each distance. As shown in (b) to (f) of FIG. 4, it can be seen that the focus becomes clear at a certain point of time (ie, distance) among the reconstructed images reconstructed according to each distance. As such, a well-focused distance (ie, a picked-up distance and a well-reconstructed distance) is determined as the picked-up distance.

제거부(225)는 핀홀 배열을 하나씩 개방하여 요소 영상 집합에서 요소 영상 을 하나씩 기준 비율로 확대한후 참조 영상을 마스킹(masking)하여 방해물 정보를 제거한다. 여기서, 참조 영상은 방해물에 대한 영상일 수 있다. The remover 225 opens the pinhole arrays one by one to enlarge the element images one by one at a reference ratio and then masks the reference image to remove the obstacle information. Here, the reference image may be an image of an obstacle.

예를 들어, 제거부(225)는 요소 영상 집합 중에서 요소 영상을 하나씩 핀홀 배열을 통해 투과한 후 결정된 거리에 따라 평면상에 결상시켜 영상을 복원한다. 여기서, 복원된 영상은 하나의 요소 영상에 상응하는 영상이다. 이해와 설명의 편의를 위해, 제거부(225)가 하나의 요소 영상에 상응하여 복원한 영상을 복원 요소 영상이라 칭하기로 한다. 그리고, 제거부(225)는 복원 요소 영상과 마스크 영상을 마스킹하여 방해물 정보를 제거한다. 여기서, 마스킹 영상은 참조 영상을 결정된 거리에 따라 확대한 영상일 수 있다. 그리고, 제거부(225)는 방해물 정보가 제거된 복원 요소 영상을 결정된 거리를 이용하여 축소시킨다. 여기서, 방해물 정보가 제거된 축소된 요소 영상을 이해와 설명의 편의를 위해 이하에서는 신규 요소 영상이라 칭하기로 한다.For example, the remover 225 reconstructs the image by transmitting the element images from the element image set through the pinhole array one by one and then forming an image on a plane according to the determined distance. Here, the reconstructed image is an image corresponding to one element image. For convenience of understanding and explanation, the image reconstructed by the remover 225 corresponding to one element image will be referred to as a reconstructed element image. The remover 225 removes the obstacle information by masking the reconstructed element image and the mask image. Here, the masking image may be an enlarged image of the reference image according to the determined distance. The remover 225 reduces the reconstructed element image from which the obstacle information is removed by using the determined distance. Here, the reduced element image from which the obstacle information has been removed will be referred to as a new element image for convenience of explanation and explanation.

제거부(225)는 모든 요소 영상 집합에 포함된 요소 영상에 대해 이를 수행하여 방해물 정보를 제거하여 각각의 신규 요소 영상들을 생성하여 신규 요소 영상 집합을 생성할 수 있다.The remover 225 may generate a new element image set by generating respective new element images by removing obstacle information by performing the element images included in all the element image sets.

도 5를 참조하여 제거부(225)가 방해물 정보를 제거하는 방법을 보다 상세히 설명하면 다음과 같다.A method of removing the obstacle information by the remover 225 will be described in more detail with reference to FIG. 5 as follows.

도 5에 예시된 510과 같은 하나의 요소 영상을 핀홀 배열을 통해 결정된 거리를 이용하여 확대한다(도 515참조). 이와 같이 확대된 요소 영상과 마스킹 영상을 마스킹하여 방해물(도 5의 예시에서는 철조망) 정보를 제거하여 인식대상개체에 대한 정보만을 남긴다. 이와 같이, 확대된 요소 영상과 마스킹 영상을 마스킹하면 확대된 요소 영상에는 인식대상개체 정보만 포함된다(520참조). 그리고, 제거부(225)는 다시 확대된 거리만큼 결정된 거리를 이용하여 축소시켜 신규 요소 영상(525)를 생성한다.One element image, such as 510 illustrated in FIG. 5, is enlarged using the distance determined through the pinhole arrangement (see FIG. 515). By masking the enlarged element image and the masking image as described above, the obstacle (the barbed wire in the example of FIG. 5) information is removed to leave only information on the object to be recognized. As described above, when the enlarged element image and the masking image are masked, only the object information to be recognized is included in the enlarged element image (see 520). The remover 225 reduces the size using the distance determined by the enlarged distance to generate a new element image 525.

다시 도 2를 참조하면, 복원부(230)는 제어부()에 의해 방해물 정보가 제거된 신규 요소 영상 집합을 핀홀 배열을 이용하여 확대 비율만큼 확대하여 복원 영상을 생성할 수 있다. 여기서, 복원 영상은 이미 제거부(225)에 의해 방해물 정보가 제거되었으므로 인식대상개체에 대한 정보만을 포함하고 있음은 당연하다.Referring back to FIG. 2, the reconstructor 230 may generate a reconstructed image by enlarging the new element image set from which the obstruction information is removed by the control unit by an enlargement ratio using a pinhole arrangement. In this case, since the obstacle image is already removed by the remover 225, the reconstructed image includes only information on the object to be recognized.

도 6은 본 발명의 일 실시예에 따른 집적 영상 복원 장치에서 영상을 복원하는 방법을 나타낸 순서도이다. 이하에서 설명되는 각각의 단계는 집적 영상 복원 장치의 각각의 내부 구성 요소에 의해 수행되어지나 이해와 설명의 편의를 도모하기 위해 집적 영상 복원 장치라 통칭하기로 한다.6 is a flowchart illustrating a method of restoring an image in the integrated image restoration apparatus according to an embodiment of the present invention. Each step described below is performed by each internal component of the integrated image restoration apparatus, but will be collectively referred to as an integrated image restoration apparatus for the convenience of understanding and explanation.

단계 610에서 영상 복원 장치(200)는 소정의 객체로부터 요소 영상 집합을 획득한다. 요소 영상 집합의 획득은 전술한 바와 같이 렌즈 배열을 통해 영상 획득 장치(예를 들어, CCD 카메라)에 기록하여 획득될 수 있다. 이와 같은 경우, 각각의 렌즈를 통해 하나의 요소 영상이 생성될 수 있으며, 생성된 요소 영상들을 2차원적으로 나열하여 요소 영상 집합을 생성할 수 있다.In operation 610, the image reconstruction apparatus 200 obtains a set of element images from a predetermined object. Acquisition of a set of element images may be obtained by recording to an image acquisition device (eg, a CCD camera) through a lens array as described above. In this case, one element image may be generated through each lens, and the element image set may be generated by arranging the generated element images in two dimensions.

단계 615에서 영상 복원 장치(200)는 획득된 요소 영상 집합을 핀홀 배열을 통해 거리가 다른 복수의 평면상에 결상시켜 각각의 평면상에 복원 영상을 생성한 다. 전술한 바와 같이, 영상 복원 장치(200)는 요소 영상 집합을 거리를 변화시켜 각각의 평면상에 결상시켜 복원 영상을 생성할 수 있다. In operation 615, the image reconstruction apparatus 200 forms a reconstructed image on each plane by imaging the obtained element image set on a plurality of planes having different distances through a pinhole array. As described above, the image reconstructing apparatus 200 may generate a reconstructed image by forming a set of element images by varying a distance and forming an image on each plane.

단계 620에서 영상 복원 장치(200)는 복원 영상들 및 참조 영상과의 상관도를 분석하여 확대 비율을 산출한다.In operation 620, the image reconstruction apparatus 200 calculates an enlargement ratio by analyzing a correlation between the reconstructed images and the reference image.

예를 들어, 영상 복원 장치(200)는 각각 복원 영상과 참조 영상간의 상관도값을 각각 산출한다. 그리고, 영상 복원 장치(200)는 상관도값이 가장큰 상관도값에 해당하는 복원 영상에 상응하는 거리를 픽업 거리로 결정한다. 이어서, 영상 복원 장치(200)는 결정된 픽업 거리를 렌즈 공식을 이용하여 확대 비율을 산출할 수 있다.For example, the image reconstruction apparatus 200 calculates a correlation value between the reconstructed image and the reference image, respectively. The image reconstruction device 200 determines a distance corresponding to the reconstructed image corresponding to the correlation value having the largest correlation value as the pickup distance. Subsequently, the image reconstruction apparatus 200 may calculate the enlargement ratio using the determined formula by using the lens formula.

단계 625에서 영상 복원 장치(200)는 핀홀 배열을 하나씩 개방하여 확대 비율에 따라 요소 영상을 확대한 후 참조 영상과 마스킹(Masking)하여 방해물 정보를 제거하여 신규 요소 영상을 생성한다.In operation 625, the image reconstruction apparatus 200 opens the pinhole arrays one by one to enlarge the element images according to an enlargement ratio, and masks the reference images to remove the obstacle information to generate a new element image.

보다 상세하게 영상 복원 장치(200)는 핀홀 배열을 하나씩 개방하여 요소 영상을 하나씩 확대 비율에 따라 확대한 후 참조 영상과 마스킹하여 방해물 정보를 제거한다. 이와 같은 방식으로 영상 복원 장치(200)는 요소 영상 집합의 모든 요소 영상에 대해 마스킹하여 방해물 정보를 제거하여 신규 요소 영상을 생성한다. In more detail, the image reconstructing apparatus 200 removes the obstacle information by opening the pinhole arrays one by one, magnifying the element images one by one according to an enlargement ratio, and masking the reference images. In this manner, the image reconstruction apparatus 200 generates a new element image by masking all element images of the element image set to remove obstacle information.

이와 같이, 마스킹 과정을 통해 방해물 정보가 제거된 신규 요소 영상들의 집합을 신규 요소 영상 집합이라 칭하기로 한다.As described above, a set of new element images from which obstruction information is removed through a masking process will be referred to as a new element image set.

단계 630에서 영상 복원 장치(200)는 신규 요소 영상 집합을 컴퓨터적 집적영상 복원 방법에 따라 복원한다.In operation 630, the image restoration apparatus 200 restores the new element image set according to the computer integrated image restoration method.

도 7은 본 발명의 일 실시예에 따른 영상 복원 장치에 의해 복원된 영상을 예시한 도면이며, 도 8은 본 발명의 일 실시예에 따른 방해물의 거리를 찾기 위한 상관도 그래프의 예시도면이다. 7 is a diagram illustrating an image reconstructed by an image reconstruction device according to an embodiment of the present invention, and FIG. 8 is an exemplary diagram of a correlation graph for finding a distance of an obstacle according to an embodiment of the present invention.

도 7을 참조하면, 도 7의 (a)는 요소 영상 집합이다. 도 7의 (a)에 예시된 요소 영상 집합은 픽업된 요소 영상들의 집합이다. 도 7의 (b)는 9mm의 거리에서 복원된 참조 영상(즉, 방해물)을 예시한 것이다. 그리고, 도 7의 (c)는 12mm의 거리에서 복원된 인식대상개체의 영상을 예시한 것이다.Referring to FIG. 7, (a) of FIG. 7 is a set of element images. The element image set illustrated in (a) of FIG. 7 is a set of picked up element images. FIG. 7B illustrates a reference image (ie, obstruction) reconstructed at a distance of 9 mm. FIG. 7C illustrates an image of an object to be recognized which is reconstructed at a distance of 12 mm.

도 8은 참조 영상(즉, 방해물)과 복원거리를 변화시켜 복원한 복원 영상들간의 상관도값을 나타낸 그래프이다. 도 8에서 보여지는 바와 같이, 복원거리가 9mm인 경우 상관도값이 가장 높은 것을 알 수 있다. 이와 같은 결과를 통해서 방해물의 위치는 렌즈 배열로부터 9mm 떨어져 위치된 것을 추출할 수 있으며, 이를 이용하여 기준 비율은 3으로 산출될 수 있다.8 is a graph showing a correlation value between a reference image (ie, an obstacle) and reconstructed images reconstructed by changing a reconstruction distance. As shown in FIG. 8, it can be seen that the correlation value is the highest when the restoration distance is 9 mm. Through this result, it is possible to extract the position of the obstruction is located 9mm away from the lens array, the reference ratio can be calculated as 3 using this.

도 9는 본 발명의 다른 실시예에 따른 영상 복원 장치에 의해 복원된 영상을 예시한 도면이며, 도 10은 본 발명의 일 실시예에 따른 방해물 제거 전후의 상관도를 나타낸 그래프이다.FIG. 9 is a diagram illustrating an image restored by an image restoration apparatus according to another embodiment of the present invention, and FIG. 10 is a graph showing a correlation before and after removing an obstacle according to an embodiment of the present invention.

도 9의 (a)는 도 7의 (a)에 예시된 픽업된 요소 영상 집합들에 대해 방해물 정보를 제거한 신규 요소 영상 집합이며, 도 9의 (b)는 9mm 거리에서 복원된 방해물에 대한 복원 영상(즉, 방해물 정보가 제거된 방해물에 대한 복원 영상)이며, 도 9의 (c)는 방해물 정보가 제거된 인식대상 개체에 대한 복원된 영상이다. FIG. 9 (a) is a novel element image set from which obstruction information is removed for the picked-up element image sets illustrated in FIG. 7 (a), and FIG. 9 (b) is a reconstruction for the obstruction restored at a distance of 9 mm. An image (that is, a reconstructed image of an obstruction from which obstruction information is removed) and FIG. 9C is a reconstructed image of an object to be recognized from which obstruction information has been removed.

도 7의 (c)와 도 9의 (c)를 비교하면, 방해물에 대한 정보가 대부분 제거된 것을 알 수 있다. 도 9의 (c)에서 방해물에 대한 정보가 완벽하게 제거되지 않은 이유는 요소 영상의 확대시에 발생되는 블록화 현상 때문에 경계점을 완벽하게 제거하지 못함으로 인해 발생된 것이다. Comparing FIG. 7 (c) with FIG. 9 (c), it can be seen that most information on the obstacles has been removed. The reason why the information on the obstacle is not completely removed in FIG. 9 (c) is caused by the inability to completely remove the boundary point due to the blocking phenomenon that occurs when the element image is enlarged.

도 10의 (a)는 방해물에 대한 정보를 제거하기 전의 상관도를 나타낸 그래프이며, 도 10의 (b)는 방해물에 대한 정보를 제거한 후의 상관도를 나타낸 그래프이다. 도 10의 (a)와 (b)를 비교하면, 도 10의 (a)의 경우 상관도 그래프는 많은 봉우리들을 가지는 형태로써 원하는 수치와 다른 수치들간의 구분이 쉽지 않음을 알 수 있다. 그리나 도 10의 (b)는 가파른 봉우리를 가지며, 그래프 관찰을 통해 방해물 정보를 제거한 후에 인식률이 많이 향상된 것을 알 수 있다.10 (a) is a graph showing the correlation before removing the information on the obstacle, Figure 10 (b) is a graph showing the correlation after removing the information on the obstacle. When comparing (a) and (b) of FIG. 10, it can be seen that the correlation graph in FIG. 10 (a) has many peaks, and it is not easy to distinguish between desired values and other values. However, FIG. 10 (b) has a steep peak, and it can be seen that the recognition rate is improved after removing the obstacle information through the graph observation.

상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야에서 통상의 지식을 가진 자라면 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although the above has been described with reference to a preferred embodiment of the present invention, those skilled in the art to which the present invention pertains without departing from the spirit and scope of the present invention as set forth in the claims below It will be appreciated that modifications and variations can be made.

도 1은 일반적인 3차원 집적 영상 시스템의 원리를 예시한 도면.1 illustrates the principle of a typical three-dimensional integrated imaging system.

도 2는 본 발명의 일 실시예에 따른 영상 복원 장치의 블록 구성도.2 is a block diagram of an image restoration apparatus according to an embodiment of the present invention.

도 3은 본 발명의 일 실시예에 따른 영상 생성부에서의 복원 기법을 설명하기 위해 예시한 도면.3 is a diagram illustrating a reconstruction technique in an image generating unit according to an embodiment of the present invention.

도 4는 본 발명의 일 실시예에 따른 거리에 따라 복원된 영상을 예시한 도면.4 is a diagram illustrating an image reconstructed according to a distance according to an embodiment of the present invention.

도 5는 본 발명의 일 실시예에 따른 마스킹을 설명하기 위해 예시한 도면.5 is a diagram for explaining masking according to an embodiment of the present invention;

도 6은 본 발명의 일 실시예에 따른 집적 영상 복원 장치에서 영상을 복원하는 방법을 나타낸 순서도.6 is a flowchart illustrating a method of restoring an image in an integrated image restoration apparatus according to an embodiment of the present invention.

도 7은 본 발명의 일 실시예에 따른 영상 복원 장치에 의해 복원된 영상을 예시한 도면.7 is a diagram illustrating an image restored by an image restoration apparatus according to an embodiment of the present invention.

도 8은 본 발명의 일 실시예에 따른 방해물의 거리를 찾기 위한 상관도 그래프의 예시도면.8 is an exemplary diagram of a correlation graph for finding a distance of an obstacle in accordance with an embodiment of the present invention.

9는 본 발명의 다른 실시예에 따른 영상 복원 장치에 의해 복원된 영상을 예시한 도면.9 is a diagram illustrating an image reconstructed by an image reconstruction device according to another embodiment of the present invention.

도 10은 본 발명의 일 실시예에 따른 방해물 제거 전후의 상관도를 나타낸 그래프.10 is a graph showing a correlation before and after removing an obstruction according to an embodiment of the present invention.

<도면의 주요부분에 대한 부호의 설명><Description of the symbols for the main parts of the drawings>

210: 픽업부210: pickup section

215: 영상 생성부215: image generating unit

220: 산출부220: output unit

225: 제거부225: removal unit

230: 복원부230: restoration unit

Claims (17)

영상 복원 장치가 영상을 복원하는 방법에 있어서,In the method for restoring an image by the image restoration apparatus, (a) 소정의 객체로부터 획득된 요소 영상 집합을 영상 복원 투과체를 통하여 상기 영상 복원 투과체로부터 거리가 다른 복수의 평면상에 결상시켜 각각의 상기 평면상에 복원 영상을 생성하는 단계;(a) generating a reconstructed image on each of the planes by forming a set of element images obtained from a predetermined object on a plurality of planes having a different distance from the image reconstructing transmission body through the image reconstructing transmission body; (b) 참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 산출하는 단계; 및(b) calculating an enlargement ratio by analyzing correlations with respect to the reference image and the reconstructed images, respectively; And (c) 상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 단계를 포함하는 영상 복원 방법. (c) enlarging the set of element images at the enlargement ratio, and masking the reference image to the enlarged image to remove obstruction information. 제1 항에 있어서,According to claim 1, 상기 영상 복원 투과체는 복수의 핀홀을 포함하는 핀홀 배열 또는 복수의 렌즈를 포함하는 렌즈 배열인 것을 특징으로 하는 영상 복원 방법.And the image reconstructing transmission body is a pinhole array including a plurality of pinholes or a lens array including a plurality of lenses. 제1 항에 있어서,According to claim 1, 상기 평면상에 복원 영상을 생성하는 단계 이전에, Before generating the reconstructed image on the plane, 상기 소정의 객체로부터 영상 획득 투과체를 통하여 상기 요소 영상 집합을 획득하는 단계를 더 포함하는 영상 복원 방법.And acquiring the element image set from the predetermined object through an image acquisition transmitting body. 제1 항에 있어서,According to claim 1, 참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 결정하는 단계는,Determining an enlargement ratio by analyzing correlations with respect to the reference image and the reconstructed images, 각각의 복원 영상과 상기 참조 영상에 대한 상관도값을 각각 산출하는 단계;Calculating a correlation value for each reconstructed image and the reference image, respectively; 상기 산출된 상관도값이 가장 큰 상관도값에 해당하는 복원 영상에 상응하는 거리를 픽업 거리로 결정하는 단계; 및Determining a distance corresponding to a reconstructed image corresponding to a correlation value having the largest correlation value as a pickup distance; And 상기 결정된 픽업 거리를 이용하여 확대 비율을 산출하는 단계를 포함하는 것을 특징으로 하는 영상 복원 방법.And calculating an enlargement ratio using the determined pickup distance. 제1 항에 있어서,According to claim 1, 상기 확대 비율은 하기 수학식을 이용하여 산출되는 것을 특징으로 하는 영상 복원 방법.The enlargement ratio is calculated using the following equation. M= L/gM = L / g 여기서, L은 핀홀 배열부터 상기 복원 영상까지의 거리이며, 상기 g는 상기 요소 영상에서 상기 핀홀 배열까지의 거리임.L is a distance from the pinhole array to the reconstructed image, and g is a distance from the element image to the pinhole array. 제1 항에 있어서,According to claim 1, 상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 단계는,Enlarging the element image set at the enlargement ratio, and masking the reference image to the enlarged image to remove the obstacle information, (a) 핀홀 배열을 하나씩 개방하여 상기 요소 영상 집합내의 요소 영상을 상기 확대 비율로 확대하는 단계; 및(a) opening the pinhole arrays one by one to enlarge the element images in the element image set at the enlargement ratio; And (b) 상기 확대된 영상과 상기 참조 영상을 마스킹하여 상기 확대 영상에서 방해물 정보를 제거하는 단계를 포함하는 것을 특징으로 하는 영상 복원 방법.and (b) masking the enlarged image and the reference image to remove obstruction information from the enlarged image. 제6 항에 있어서,The method of claim 6, (c) 상기 방해물 정보가 제거된 확대된 영상을 상기 확대 비율을 이용하여 축소하여 신규 요소 영상을 생성하는 단계를 더 포함하되,(c) further comprising generating a new element image by reducing the enlarged image from which the obstacle information is removed using the enlargement ratio, 상기 (a) 단계 내지 상기 (c) 단계는 n회 반복 수행되며, 상기 n은 상기 요소 영상 집합에 포함된 요소 영상의 개수인 것을 특징으로 하는 영상 복원 방법.The steps (a) to (c) are repeated n times, wherein n is the number of element images included in the element image set. 제7 항에 있어서,The method of claim 7, wherein 상기 복수의 신규 요소 영상을 이용하여 인식대상개체를 복원하는 단계를 더 포함하는 영상 복원 방법.And reconstructing the object to be recognized using the plurality of new element images. 영상 복원 장치에 있어서,In the image restoration apparatus, 소정의 객체로부터 획득된 요소 영상 집합을 영상 복원 투과체를 통하여 상기 영상 복원 투과체로부터 거리가 다른 복수의 평면상에 결상시켜 각각의 상기 평면상에 복원 영상을 생성하는 영상 생성부;An image generation unit configured to form a set of element images obtained from a predetermined object on a plurality of planes having a different distance from the image restoration transmission body through an image restoration transmission body to generate a restoration image on each plane; 참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 산출하는 산출부; 및A calculator configured to calculate a magnification ratio by analyzing correlations of the reference image and the reconstructed images, respectively; And 상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 제거부를 포함하는 영상 복원 장치. And a remover configured to enlarge the element image set at the enlargement ratio and to remove the obstacle information by masking the reference image on the enlarged image. 제9 항에 있어서,The method of claim 9, 상기 영상 복원 투과체는 복수의 핀홀을 포함하는 핀홀 배열 또는 복수의 렌즈를 포함하는 렌즈 배열인 것을 특징으로 영상 복원 장치.And the image reconstructing transmission body is a pinhole array including a plurality of pinholes or a lens array including a plurality of lenses. 제9 항에 있어서,The method of claim 9, 상기 소정의 객체로부터 영상 획득 투과체를 통하여 상기 요소 영상 집합을 획득하는 픽업부를 더 포함하는 영상 복원 장치.And a pickup unit for acquiring the element image set from the predetermined object through an image acquisition transmitting body. 제9 항에 있어서,The method of claim 9, 상기 산출부는 각각의 복원 영상과 상기 참조 영상에 대한 상관도값을 각각 산출하며, 상기 산출된 상관도값이 가장큰 상관도값에 해당하는 복원 영상에 상응하는 거리를 픽업 거리로 결정하고, 상기 결정된 픽업 거리를 이용하여 확대 비율을 산출하는 것을 특징으로 하는 영상 복원 장치.The calculator calculates a correlation value for each of the reconstructed image and the reference image, and determines a pickup distance as a distance corresponding to the reconstructed image corresponding to the correlation value having the largest correlation value. And an enlargement ratio is calculated using the determined pickup distance. 제9 항에 있어서,The method of claim 9, 상기 확대 비율은 하기 수학식을 이용하여 산출되는 것을 특징으로 하는 영상 복원 장치The magnification ratio is calculated using the following equation M= L/gM = L / g 여기서, L은 핀홀 배열부터 상기 복원 영상까지의 거리이며, 상기 g는 상기 요소 영상에서 상기 핀홀 배열까지의 거리임.L is a distance from the pinhole array to the reconstructed image, and g is a distance from the element image to the pinhole array. 제9 항에 있어서,The method of claim 9, 상기 제거부는 핀홀 배열을 하나씩 개방하여 상기 요소 영상 집합내의 요소 영상을 상기 확대 비율로 확대하며, 상기 확대된 영상과 상기 참조 영상을 마스킹하여 상기 확대 영상에서 방해물 정보를 제거하는 것을 특징으로 하는 영상 복원 장치.The removal unit opens the pinhole arrays one by one to enlarge the element images in the element image set at the enlargement ratio, and masks the enlarged image and the reference image to remove the obstacle information from the enlarged image. Device. 제14 항에 있어서,The method of claim 14, 상기 제거부는 상기 방해물 정보가 제거된 확대된 영상을 상기 확대 비율을 이용하여 축소하여 신규 요소 영상을 생성하며, The removal unit reduces the enlarged image from which the obstacle information is removed using the enlargement ratio to generate a new element image. n회 반복 수행되며, 상기 n은 상기 요소 영상 집합에 포함된 요소 영상의 개수인 것을 특징으로 하는 영상 복원 장치.n is repeatedly performed, and n is the number of element images included in the element image set. 제15 항에 있어서,The method of claim 15, 상기 복수의 신규 요소 영상을 이용하여 인식대상개체를 복원하는 복원부를 더 포함하는 영상 복원 장치.And a reconstruction unit for reconstructing the object to be recognized using the plurality of new element images. 복원 영상에 포함된 방해물을 제거하는 방법을 수행하기 위해 컴퓨터에 의해 실행될 수 있는 명령어들의 프로그램이 유형적으로 구현되어 있으며, 프로그램을 기록한 상기 컴퓨터로 판독할 수 있는 기록매체에 있어서,A program of instructions that can be executed by a computer is tangibly embodied to perform a method of removing an obstacle included in a reconstructed image, and in the computer-readable recording medium recording the program, 소정의 객체로부터 획득된 요소 영상 집합을 영상 복원 투과체를 통하여 상기 영상 복원 투과체로부터 거리가 다른 복수의 평면상에 결상시켜 각각의 상기 평면상에 복원 영상을 생성하는 단계;Generating a reconstructed image on each of the planes by forming a set of element images obtained from a predetermined object on a plurality of planes having a different distance from the image reconstructing transmission body through the image reconstructing transmission body; 참조 영상과 복원 영상들에 대해 각각 상관도를 분석하여 확대 비율을 산출하는 단계; 및Calculating an enlargement ratio by analyzing correlations with respect to the reference image and the reconstructed images, respectively; And 상기 요소 영상 집합을 상기 확대 비율로 확대하며, 상기 확대된 영상에 상기 참조 영상을 마스킹하여 방해물 정보를 제거하는 단계를 수행하는 프로그램을 기록한 상기 컴퓨터로 판독할 수 있는 기록매체.And recording a program for enlarging the set of element images at the enlargement ratio and removing the obstacle information by masking the reference image on the enlarged image.
KR1020080043448A 2007-07-30 2008-05-09 A recording medium that can be read by a computer on which an image restoring method, an image restoring apparatus and a program for executing the image restoring method are recorded. KR100927236B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20070076490 2007-07-30
KR1020070076490 2007-07-30

Publications (2)

Publication Number Publication Date
KR20090013015A KR20090013015A (en) 2009-02-04
KR100927236B1 true KR100927236B1 (en) 2009-11-16

Family

ID=40683682

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080043448A KR100927236B1 (en) 2007-07-30 2008-05-09 A recording medium that can be read by a computer on which an image restoring method, an image restoring apparatus and a program for executing the image restoring method are recorded.

Country Status (1)

Country Link
KR (1) KR100927236B1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101093758B1 (en) 2009-12-02 2011-12-19 광운대학교 산학협력단 Method and apparatus for reconstructing integral image
KR101104296B1 (en) 2009-11-26 2012-01-11 광운대학교 산학협력단 Method and apparatus for detecting object
US20210080400A1 (en) * 2019-09-12 2021-03-18 Aisin Seiki Kabushiki Kaisha Image restoration apparatus, image restoration method, image restoration program, restorer generation apparatus, restorer generation method, restorer generation program, determiner generation apparatus, determiner generation method, determiner generation program, article determination apparatus, article determination method, and article determination program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070019393A (en) * 2005-08-12 2007-02-15 재단법인서울대학교산학협력재단 Three-dimensional display system using floating display device
KR20070052131A (en) * 2005-11-16 2007-05-21 광운대학교 산학협력단 Three-dimensional display apparatus using intermediate elemental images
KR20080102785A (en) * 2007-05-22 2008-11-26 광운대학교 산학협력단 Method for finding location of 3d integral image reconstruction and apparatus thereof

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070019393A (en) * 2005-08-12 2007-02-15 재단법인서울대학교산학협력재단 Three-dimensional display system using floating display device
KR20070052131A (en) * 2005-11-16 2007-05-21 광운대학교 산학협력단 Three-dimensional display apparatus using intermediate elemental images
KR20080102785A (en) * 2007-05-22 2008-11-26 광운대학교 산학협력단 Method for finding location of 3d integral image reconstruction and apparatus thereof

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
논문:한국해양정보통신학회논문지

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101104296B1 (en) 2009-11-26 2012-01-11 광운대학교 산학협력단 Method and apparatus for detecting object
KR101093758B1 (en) 2009-12-02 2011-12-19 광운대학교 산학협력단 Method and apparatus for reconstructing integral image
US20210080400A1 (en) * 2019-09-12 2021-03-18 Aisin Seiki Kabushiki Kaisha Image restoration apparatus, image restoration method, image restoration program, restorer generation apparatus, restorer generation method, restorer generation program, determiner generation apparatus, determiner generation method, determiner generation program, article determination apparatus, article determination method, and article determination program
US11815468B2 (en) * 2019-09-12 2023-11-14 Aisin Corporation Image restoration apparatus, image restoration method, image restoration program, restorer generation apparatus, restorer generation method, restorer generation program, determiner generation apparatus, determiner generation method, determiner generation program, article determination apparatus, article determination method, and article determination program

Also Published As

Publication number Publication date
KR20090013015A (en) 2009-02-04

Similar Documents

Publication Publication Date Title
JP4915859B2 (en) Object distance deriving device
CN110476185B (en) Depth of field information estimation method and device
JP6446997B2 (en) Light field processing by converting to scale and depth space
Rajan et al. Simultaneous estimation of super-resolved scene and depth map from low resolution defocused observations
Bishop et al. The light field camera: Extended depth of field, aliasing, and superresolution
EP2403233B1 (en) Image processing apparatus and method
JP6998554B2 (en) Image generator and image generation method
JP4807986B2 (en) Image input device
KR101706216B1 (en) Apparatus and method for reconstructing dense three dimension image
JP2001194114A (en) Image processing apparatus and method and program providing medium
JP6320075B2 (en) Image processing apparatus and control method thereof
KR100891161B1 (en) Method for finding location of 3D integral image reconstruction and Apparatus thereof
US20160173849A1 (en) Processing of Light Fields by Transforming to Scale and Depth Space
JP6234401B2 (en) Image processing apparatus, imaging apparatus, image processing method, and program
KR100927236B1 (en) A recording medium that can be read by a computer on which an image restoring method, an image restoring apparatus and a program for executing the image restoring method are recorded.
JP3699921B2 (en) Image reconstruction method and image reconstruction apparatus
KR100942271B1 (en) Method and Apparatus for Reconstruction Integral Image Using Depth
JP6494402B2 (en) Image processing apparatus, imaging apparatus, image processing method, and program
Shroff et al. High resolution image reconstruction for plenoptic imaging systems using system response
KR101391095B1 (en) Method and apparatus for improving stereo vision image using depth information of an image
JP4337203B2 (en) Distance image generating apparatus, distance image generating method, and program providing medium
Jang et al. 3D image correlator using computational integral imaging reconstruction based on modified convolution property of periodic functions
JP7099538B2 (en) Image processing device and image processing method
Sakurikar et al. Dense view interpolation on mobile devices using focal stacks
Muniraj et al. Subpixel based defocused points removal in photon-limited volumetric dataset

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20121113

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20131119

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20140919

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20151109

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20161110

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20171106

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20191104

Year of fee payment: 11