KR20180073215A - N-View Blending-based Hole Filling Method for Intermediate View Image - Google Patents

N-View Blending-based Hole Filling Method for Intermediate View Image Download PDF

Info

Publication number
KR20180073215A
KR20180073215A KR1020160176828A KR20160176828A KR20180073215A KR 20180073215 A KR20180073215 A KR 20180073215A KR 1020160176828 A KR1020160176828 A KR 1020160176828A KR 20160176828 A KR20160176828 A KR 20160176828A KR 20180073215 A KR20180073215 A KR 20180073215A
Authority
KR
South Korea
Prior art keywords
image
view image
hole
intermediate view
filling
Prior art date
Application number
KR1020160176828A
Other languages
Korean (ko)
Other versions
KR101993962B1 (en
Inventor
김병균
황영배
최병호
Original Assignee
전자부품연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 전자부품연구원 filed Critical 전자부품연구원
Priority to KR1020160176828A priority Critical patent/KR101993962B1/en
Publication of KR20180073215A publication Critical patent/KR20180073215A/en
Application granted granted Critical
Publication of KR101993962B1 publication Critical patent/KR101993962B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/507Depth or shape recovery from shading
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/001Image restoration
    • G06T5/005Retouching; Inpainting; Scratch removal
    • G06T5/77
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/529Depth or shape recovery from texture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/028Multiple view windows (top-side-front-sagittal-orthogonal)

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

The present invention provides an N-view blending-based hole filling method in intermediate view image synthesis. According to an embodiment of the present invention, the hole filling method comprises the following steps: synthesizing a first intermediate view image from a first reference image; and filling a hole generated in the first intermediate view image by using a second intermediate view image synthesized from a second reference image. Therefore, clear and realistic three-dimensional content can be manufactured by utilizing data of various viewpoints in the intermediate view image synthesis.

Description

중간시점 영상합성에서의 N-시점 블렌딩 기반 홀 채움 방법{N-View Blending-based Hole Filling Method for Intermediate View Image}[0001] N-VIEW BLENDING-BASED HOLE FILLING METHOD FOR INTERMEDIATE View Image [0002]

본 발명은 홀 채움 방법에 관한 것으로, 더욱 상세하게는 중간시점 영상합성에서 홀 채움 방법에 관한 것이다.The present invention relates to a hole filling method, and more particularly, to a hole filling method in an intermediate view image synthesis.

중간시점 영상합성에서 발생하는 홀 영역에 대해, Modified Joint Bilateral Filter를 사용하여 배경 객체의 깊이를 기준으로 홀 채움을 수행하고 있다.For the hole area generated in the mid-view image synthesis, the hole filling is performed based on the depth of the background object using the modified joint bilateral filter.

그러나 이러한 홀 채움 방법은 홀 영역에 대한 정확한 데이터를 보장할 수 없고 또한 occlusion 영역으로 인해 발생하는 boundary noise를 효과적으로 제거할 수 없다.However, such a hole filling method can not guarantee correct data on the hole area and can not effectively remove the boundary noise caused by the occlusion area.

따라서 3D 영상합성에서 중요한 오브젝트 간의 경계 부분의 정보가 정확하지 않음으로 최종적으로 합성하는 3D 영상 콘텐츠의 3차원 효과를 극대화하지 못하는 문제가 있다.Therefore, there is a problem that the information of the boundary part between the objects important in the 3D image synthesis is not accurate, so that the 3D effect of the finally synthesized 3D image contents can not be maximized.

본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것으로서, 본 발명의 목적은, 정확한 중간시점 영상합성을 위한 방안으로, 중간시점 영상합성에서 전-배경 객체간의 Occlusion 영역으로 인해 발생하는 홀 영역을 여러 시점의 데이터의 정보를 이용하여 채우는 N-시점 블렌딩 기반 홀 채움 방법을 제공함에 있다.SUMMARY OF THE INVENTION The present invention has been conceived to solve the above problems, and it is an object of the present invention to provide a method for synthesizing an intermediate viewpoint image, in which a hole area generated due to occlusion area between pre- And a method of filling a hole based on N-view blending by filling information of data at various points in time.

또한, 본 발명의 다른 목적은, Occlusion 영역의 홀 주변에서 발생하는 Boundary noise를 제거하기 위한 방안으로, Boundary noise region을 지정하여 다른 시점의 합성 데이터로부터 값을 할당하여 중간시점 영상의 화질을 개선하는 방법을 제공함에 있다.Another object of the present invention is to eliminate the boundary noise occurring in the vicinity of the hole in the occlusion region, and to designate a boundary noise region to assign a value from synthesis data at another time point to improve the quality of the intermediate view image Method.

상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른, 홀 채움 방법은 제1 레퍼런스 영상으로부터 제1 중간시점 영상을 합성하는 단계; 제2 레퍼런스 영상으로부터 합성한 제2 중간시점 영상을 이용하여, 제1 중간시점 영상에 발생한 홀을 채우는 단계;를 포함한다.According to an aspect of the present invention, there is provided a hole filling method including: synthesizing a first intermediate view image from a first reference image; And filling a hole formed in the first intermediate view image using the second intermediate view image synthesized from the second reference image.

본 발명에 따른 홀 채움 방법은 제1 중간시점 영상을 이용하여, 제2 중간시점 영상에 발생한 홀을 채우는 단계;를 더 포함할 수 있다. The hole filling method according to the present invention may further include filling holes generated in the second intermediate view image using the first intermediate view image.

제1 중간시점 영상에 발생한 홀을 채우는 단계는, 제2 레퍼런스 영상을 더 이용할 수 있다. The step of filling the hole generated in the first intermediate viewpoint image may further use the second reference viewpoint.

제2 중간시점 영상에 발생한 홀을 채우는 단계는, 제1 레퍼런스 영상을 더 이용할 수 있다.The step of filling the holes generated in the second intermediate viewpoint image may further use the first reference image.

본 발명에 따른 홀 채움 방법은 제1 중간시점 영상에서 Occlusion 홀 주변의 경계 부분에 발생한 노이즈를 제거하는 단계;를 더 포함할 수 있다. The hole filling method according to the present invention may further include removing noise generated at a boundary portion around the occlusion hole in the first intermediate view image.

경계 부분은, 제1 중간시점 영상의 깊이 영상을 이용하여 지정할 수 있다. The boundary portion can be designated using the depth image of the first intermediate view image.

노이즈를 제거하는 단계는, 제2 중간시점 영상을 이용하여, 노이즈를 제거할 수 있다. The step of removing noise may remove noise by using the second mid-view image.

한편, 본 발명의 다른 실시예에 따른, 다시점 영상 시스템은 제1 레퍼런스 영상과 제2 레퍼런스 영상을 생성하는 생성부; 및 제1 레퍼런스 영상으로부터 제1 중간시점 영상을 합성하고, 제2 레퍼런스 영상으로부터 합성한 제2 중간시점 영상을 이용하여 제1 중간시점 영상에 발생한 홀을 채우는 영상 프로세서;를 포함한다. According to another aspect of the present invention, there is provided a multi-view image system including a generator for generating a first reference image and a second reference image; And an image processor for synthesizing a first intermediate view image from the first reference image and filling holes generated in the first intermediate view image using the second intermediate view image synthesized from the second reference image.

이상 설명한 바와 같이, 본 발명의 실시예들에 따르면, 중간시점 영상합성에서 여러 시점의 데이터를 활용함으로서 선명하고 실감있는 3D 콘텐츠 제작을 가능하게 한다.INDUSTRIAL APPLICABILITY As described above, according to the embodiments of the present invention, it is possible to produce sharp and realistic 3D contents by utilizing data at various points in the mid-view image synthesis.

또한, 본 발명의 실시예들에 따르면, Boundary noise region을 지정하여 다른 시점의 합성 데이터로부터 값을 할당하여, 중간시점 영상에서 Occlusion 영역의 홀 주변에서 발생하는 Boundary noise를 제거할 수 있게 된다.Also, according to embodiments of the present invention, a boundary noise region is designated and a value is assigned from synthesis data at another time point, thereby eliminating boundary noise occurring around the hole in the occlusion region in the intermediate view image.

도 1은 N 번째 레퍼런스 영상으로부터 합성한 중간시점 영상,
도 2는 N+1 번째 레퍼런스 영상으로부터 합성한 중간시점 영상,
도 3은, 도 1과 도 2의 중간시점 영상들에서 발생한 홀 영역을 Red와 Green으로 각각 마스킹한 결과,
도 5는 홀 영역과 전-배경 객체 사이에 발생할 수 있는 Boundary noise region을 정의한 결과,
도 6은 홀 주변부에 Boundary noise가 나타난 중간시점 영상,
도 7은 다른 레퍼런스 영상으로부터 합성한 중간시점 영상으로부터 Boundary noise를 제거한 결과,
도 8은 기존 방식에 해당하는 M-JBF를 이용한 홀 채움 결과,
도 9는 본 발명의 일 실시예에 따른 N-View Blending 기반 홀 채움 결과,
도 10은 본 발명의 다른 실시예에 따른 다시점 영상 생성 시스템의 블럭도이다.
FIG. 1 shows an intermediate view image synthesized from an Nth reference image,
FIG. 2 shows an intermediate view image synthesized from the (N + 1) th reference image,
FIG. 3 shows the result of masking the hole areas generated in the intermediate view images of FIG. 1 and FIG. 2 by Red and Green, respectively,
FIG. 5 illustrates a boundary noise region that may occur between a hole region and a pre-background object. As a result,
6 shows an intermediate view image in which boundary noise appears at the periphery of the hole,
FIG. 7 shows a result of eliminating boundary noise from an intermediate view image synthesized from another reference image,
FIG. 8 is a graph showing the hole filling results using the M-JBF corresponding to the conventional method,
FIG. 9 is a graph showing the results of N-View Blending-based hole filling according to an embodiment of the present invention,
10 is a block diagram of a multi-view image generation system according to another embodiment of the present invention.

이하에서는 도면을 참조하여 본 발명을 보다 상세하게 설명한다.Hereinafter, the present invention will be described in detail with reference to the drawings.

본 발명의 일 실시예에 따른 N-View Blending 기반 홀 채움(Hole-Filling) 방법에서는, 기준이 되는 레퍼런스 영상으로부터 합성된 중간시점의 홀 영역을 그와 다른 레퍼런스 영상으로부터 합성된 중간시점 영상을 이용하여 보간한다. In the Hole-Filling method based on N-View Blending according to an embodiment of the present invention, an intermediate view point image synthesized from a reference image as a reference is used as an intermediate view image synthesized from other reference images .

나아가, 기준이 되는 레퍼런스 영상으로부터 합성된 중간시점의 홀 영역 채움은, 다른 레퍼런스 영상을 더 이용할 수도 있다. 즉, 기준 레퍼런스 영상으로부터 합성된 중간시점의 홀 영역 채움은, 다른 레퍼런스 영상 및/또는 다른 레퍼런스 영상으로부터 합성된 중간시점 영상을 참조하여 수행할 수 있는 것이다.Furthermore, another reference image may be further used for filling the hole area at the intermediate point synthesized from the reference image to be a reference. That is, the filling of the hole area at the intermediate point synthesized from the reference reference image can be performed by referring to the intermediate view image synthesized from another reference image and / or another reference image.

도 1은 N 번째 레퍼런스 영상으로부터 합성한 중간시점 영상이고, 도 2는 N+1 번째 레퍼런스 영상으로부터 합성한 중간시점 영상이다.1 is an intermediate view image synthesized from an Nth reference image, and FIG. 2 is an intermediate view image synthesized from an (N + 1) th reference image.

도 1과 도 2에 나타난 바와 같이, 각각의 레퍼런스 영상들로부터 합성된 중간시점 영상들에는 Occlusion 영역의 홀이 발생하는데, 각각의 홀은 다른 중간시점 영상에 해당 정보가 존재한다.As shown in FIGS. 1 and 2, in the intermediate view images synthesized from the respective reference images, holes are generated in the Occlusion area, and the corresponding information exists in the other intermediate view images.

도 3은, 도 1의 중간시점 영상에서 발생한 홀 영역을 Red로, 도 2의 중간시점 영상에서 발생한 홀 영역을 Green으로, 각각 마스킹한 결과이다. 이때, 마스킹된 영역의 정보는 다른 레퍼런스 영상으로부터 합성된 중간시점으로부터 채우며, 그 결과는 도 4와 같다.3 is a result of masking the hole area generated in the mid-view image of FIG. 1 with Red, and the hole area generated from the intermediate view image of FIG. 2 with green. At this time, the information of the masked area is filled from the intermediate viewpoint synthesized from the other reference images, and the result is shown in FIG.

한편, 깊이 영상은 전경과 배경의 분리가 뚜렷하나 컬러 영상의 경우 객체의 경계 부분에서 픽셀 값이 부드러워지는 경향이 있다. 이러한 차이로 인해 깊이 영상을 이용한 3차원 워핑시 Occlusion 홀 주변의 경계 부분에 노이즈가 발생하게 되며, 이로 인해 합성되는 중간시점 영상의 화질의 저하가 발생하게 된다.On the other hand, the separation of the foreground and the background is distinct in the depth image, but in the case of the color image, the pixel value tends to soften at the boundary of the object. Due to this difference, noise is generated at the boundary portion around the occlusion hole in the 3D warping using the depth image, resulting in a deterioration in the quality of the synthesized intermediate view image.

따라서 boundary noise를 제거해야 영상 화질을 개선할 수 있으며, 이러한 boundary noise 영역을 사전에 정의해야 한다. 아래 식은 각각의 레퍼런스 영상으로부터 합성된 중간시점 영상의 깊이 영상으로부터 Occlusion 홀을 정의하고, 정의된 Occlusion 홀로부터 마스크 영상에 Boundary noise region을 지정하는 식이다.Therefore, it is necessary to remove the boundary noise to improve the image quality, and the boundary noise region must be defined in advance. The following equation defines the occlusion hole from the depth image of the intermediate view image synthesized from each reference image and assigns the boundary noise region to the mask image from the defined occlusion hole.

Figure pat00001
Figure pat00001

3차원 워핑으로 발생하는 홀 영역이 모두 전-배경 객체의 Occlusion으로 인해 발생되는 것은 아니며, 홀 주변픽셀의 값의 차이가 크다면 그것은 전-배경 객체의 Occlusion으로 발생하는 홀로 정의할 수 있다.If all the hole regions generated by 3D warping are not generated due to Occlusion of the pre-background object, and if the difference of pixel values around the hole is large, it can be defined as a hole that occurs as Occlusion of the pre-background object.

그러한 홀 주변부에 대해서만 Boundary noise region으로 정의할 수 있으며, 그러한 주변부 픽셀을 다른 레퍼런스 영상으로부터 합성한 중간시점 영상의 데이터를 적용하여 Boundary noise를 제거할 수 있다.Boundary noise region can be defined only for the periphery of the hole, and boundary noise can be removed by applying the data of the intermediate view image obtained by synthesizing the peripheral pixels from other reference images.

도 5는 홀 영역과 전-배경 객체 사이에 발생할 수 있는 Boundary noise region을 정의한 결과이고, 도 6은 홀 주변부에 Boundary noise가 나타난 중간시점 영상이며, 도 7에는 다른 레퍼런스 영상으로부터 합성한 중간시점 영상으로부터 Boundary noise를 제거한 결과를 나타내었다.FIG. 5 is a result of defining a boundary noise region that may occur between the hole region and the pre-background object, FIG. 6 is an intermediate view image in which boundary noise appears in the periphery of the hole, The results of removing the boundary noise from

이러한 결과는 종래에 단일 레퍼런스 영상으로부터 합성된 중간시점 영상의 홀을 M-JBF 알고리즘을 통해 홀 채움을 한 결과와 비교하여 볼때, 텍스쳐와 경계부분의 픽셀정보가 개선된 것을, 도 8과 도 9를 통해 확인할 수 있다.These results show that the pixel information of the texture and the boundary portion is improved in comparison with the result of hole filling of the intermediate view image synthesized from the single reference image through the M-JBF algorithm, .

도 8은 기존 방식에 해당하는 M-JBF를 이용한 홀 채움 결과이고, 도 9는 본 발명의 일 실시예에 따른 N-View Blending 기반 홀 채움 결과이다.FIG. 8 is a Hall filling result using the M-JBF corresponding to the conventional method, and FIG. 9 is a Hall filling result based on the N-View Blending according to an embodiment of the present invention.

지금까지, N-View Blending 기반 홀 채움 방법에 대해, 바람직한 실시예를 들어 상세히 설명하였다.Up to now, the N-View Blending-based hole filling method has been described in detail with a preferred embodiment.

본 발명의 일 실시예에 따른 N-View Blending 기반 홀 채움 방법은, 하나의 레퍼런스 데이터로부터 새로운 정보를 만들던 방식에서 다른 레퍼런스 데이터를 이용함으로 새로운 데이터를 생성하는 것이 아닌 실제하는 데이터로부터 Occlusion 영역을 다루는 방식으로, 3D 콘텐츠 생성에 있어 중요한 전-배경 객체사이의 경계의 정확도를 향상시킴으로 실감있는 콘텐츠 생성에 기여할 수 있다.The N-View Blending-based hole filling method according to an embodiment of the present invention is a method of creating new information from one reference data, not generating new data by using other reference data, Method, it is possible to contribute to realistic content creation by improving the accuracy of the boundary between pre-background objects important for 3D content creation.

도 10은 본 발명의 다른 실시예에 따른 다시점 영상 생성 시스템의 블럭도이다. 본 발명의 실시예에 따른 다시점 영상 생성 시스템은, 도 10에 도시된 바와 같이, 다시점 영상 생성부(110), 영상 프로세서(120), 영상 출력부(130) 및 저장부(140)를 포함한다.10 is a block diagram of a multi-view image generation system according to another embodiment of the present invention. 10, a multi-view image generation system according to an embodiment of the present invention includes a multi-view image generation unit 110, a video processor 120, an image output unit 130, and a storage unit 140 .

다시점 영상 생성부(110)는 다수의 카메라로 다시점 영상들을 생성하고, 영상 프로세서(120)는 다시점 영상들을 레퍼런스 영상들로 하여 중간시점 영상들을 생성하는데, 이 과정에서 전술한 홀 채움 방법이 적용된다.The multi-view image generating unit 110 generates multi-view images using a plurality of cameras, and the image processor 120 generates multi-view images using multi-view images as reference images. In this process, Is applied.

영상 출력부(130)는 생성된 영상들을 디스플레이, 외부기기, 네트워크 등으로 출력한다. 저장부(140)는 생성된 영상들을 저장하는 한편, 영상 프로세서(120)가 중간시점 영상을 생성함에 있어 필요한 저장공간을 제공한다.The image output unit 130 outputs the generated images to a display, an external device, a network, or the like. The storage unit 140 stores the generated images and provides a storage space necessary for the image processor 120 to generate an intermediate view image.

한편, 본 실시예에 따른 장치와 방법의 기능을 수행하게 하는 컴퓨터 프로그램을 수록한 컴퓨터로 읽을 수 있는 기록매체에도 본 발명의 기술적 사상이 적용될 수 있음은 물론이다. 또한, 본 발명의 다양한 실시예에 따른 기술적 사상은 컴퓨터로 읽을 수 있는 기록매체에 기록된 컴퓨터로 읽을 수 있는 코드 형태로 구현될 수도 있다. 컴퓨터로 읽을 수 있는 기록매체는 컴퓨터에 의해 읽을 수 있고 데이터를 저장할 수 있는 어떤 데이터 저장 장치이더라도 가능하다. 예를 들어, 컴퓨터로 읽을 수 있는 기록매체는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광디스크, 하드 디스크 드라이브, 등이 될 수 있음은 물론이다. 또한, 컴퓨터로 읽을 수 있는 기록매체에 저장된 컴퓨터로 읽을 수 있는 코드 또는 프로그램은 컴퓨터간에 연결된 네트워크를 통해 전송될 수도 있다.It goes without saying that the technical idea of the present invention can also be applied to a computer-readable recording medium having a computer program for performing the functions of the apparatus and method according to the present embodiment. In addition, the technical idea according to various embodiments of the present invention may be embodied in computer-readable code form recorded on a computer-readable recording medium. The computer-readable recording medium is any data storage device that can be read by a computer and can store data. For example, the computer-readable recording medium may be a ROM, a RAM, a CD-ROM, a magnetic tape, a floppy disk, an optical disk, a hard disk drive, or the like. In addition, the computer readable code or program stored in the computer readable recording medium may be transmitted through a network connected between the computers.

또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but, on the contrary, It will be understood by those skilled in the art that various changes in form and detail may be made therein without departing from the spirit and scope of the present invention.

110 : 다시점 영상 생성부
120 : 영상 프로세서
130 : 영상 출력부
140 : 저장부
110: Multi-view image generating unit
120: image processor
130: Video output unit
140:

Claims (8)

제1 레퍼런스 영상으로부터 제1 중간시점 영상을 합성하는 단계;
제2 레퍼런스 영상으로부터 합성한 제2 중간시점 영상을 이용하여, 제1 중간시점 영상에 발생한 홀을 채우는 단계;를 포함하는 것을 특징으로 하는 홀 채움 방법.
Synthesizing a first intermediate view image from a first reference image;
And filling the holes generated in the first intermediate viewpoint image using the second intermediate viewpoint image synthesized from the second reference viewpoint.
청구항 1에 있어서,
제1 중간시점 영상을 이용하여, 제2 중간시점 영상에 발생한 홀을 채우는 단계;를 더 포함하는 것을 특징으로 하는 홀 채움 방법.
The method according to claim 1,
And filling the holes generated in the second intermediate viewpoint image using the first intermediate viewpoint image.
청구항 2에 있어서,
제1 중간시점 영상에 발생한 홀을 채우는 단계는,
제2 레퍼런스 영상을 더 이용하는 것을 특징으로 하는 홀 채움 방법.
The method of claim 2,
The step of filling holes generated in the first intermediate viewpoint image,
And a second reference image is further used.
청구항 3에 있어서,
제2 중간시점 영상에 발생한 홀을 채우는 단계는,
제1 레퍼런스 영상을 더 이용하는 것을 특징으로 하는 홀 채움 방법.
The method of claim 3,
The step of filling holes generated in the second mid-
Wherein the first reference image is further used.
청구항 1에 있어서,
제1 중간시점 영상에서 Occlusion 홀 주변의 경계 부분에 발생한 노이즈를 제거하는 단계;를 더 포함하는 것을 특징으로 하는 홀 채움 방법.
The method according to claim 1,
And removing noise generated at a boundary portion around the occlusion hole in the first intermediate view image.
청구항 5에 있어서,
경계 부분은,
제1 중간시점 영상의 깊이 영상을 이용하여 지정하는 것을 특징으로 하는 홀 채움 방법.
The method of claim 5,
The boundary portion,
Wherein a depth image of the first intermediate viewpoint image is used to designate the depth of the first intermediate viewpoint image.
청구항 6에 있어서,
노이즈를 제거하는 단계는,
제2 중간시점 영상을 이용하여, 노이즈를 제거하는 것을 특징으로 하는 홀 채움 방법.
The method of claim 6,
The step of removing noise includes:
And noise is removed using the second intermediate viewpoint image.
제1 레퍼런스 영상과 제2 레퍼런스 영상을 생성하는 생성부; 및
제1 레퍼런스 영상으로부터 제1 중간시점 영상을 합성하고, 제2 레퍼런스 영상으로부터 합성한 제2 중간시점 영상을 이용하여 제1 중간시점 영상에 발생한 홀을 채우는 영상 프로세서;를 포함하는 것을 특징으로 하는 다시점 영상 시스템.
A generator for generating a first reference image and a second reference image; And
And an image processor for synthesizing a first intermediate view image from the first reference image and filling a hole formed in the first intermediate view image using the second intermediate view image synthesized from the second reference image, Point video system.
KR1020160176828A 2016-12-22 2016-12-22 N-View Blending-based Hole Filling Method for Intermediate View Image KR101993962B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160176828A KR101993962B1 (en) 2016-12-22 2016-12-22 N-View Blending-based Hole Filling Method for Intermediate View Image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160176828A KR101993962B1 (en) 2016-12-22 2016-12-22 N-View Blending-based Hole Filling Method for Intermediate View Image

Publications (2)

Publication Number Publication Date
KR20180073215A true KR20180073215A (en) 2018-07-02
KR101993962B1 KR101993962B1 (en) 2019-07-01

Family

ID=62913850

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160176828A KR101993962B1 (en) 2016-12-22 2016-12-22 N-View Blending-based Hole Filling Method for Intermediate View Image

Country Status (1)

Country Link
KR (1) KR101993962B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021137584A1 (en) * 2019-12-30 2021-07-08 삼성전자 주식회사 Moving image processing method and electronic device for supporting same

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110059803A (en) * 2008-10-02 2011-06-03 프라운호퍼-게젤샤프트 추르 푀르데룽 데어 안제반텐 포르슝 에 파우 Intermediate view synthesis and multi-view data signal extraction
KR20120078924A (en) * 2011-01-03 2012-07-11 삼성전자주식회사 Method and apparatus for rendering high quality multi-view images for 3d display

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110059803A (en) * 2008-10-02 2011-06-03 프라운호퍼-게젤샤프트 추르 푀르데룽 데어 안제반텐 포르슝 에 파우 Intermediate view synthesis and multi-view data signal extraction
KR20120078924A (en) * 2011-01-03 2012-07-11 삼성전자주식회사 Method and apparatus for rendering high quality multi-view images for 3d display

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021137584A1 (en) * 2019-12-30 2021-07-08 삼성전자 주식회사 Moving image processing method and electronic device for supporting same

Also Published As

Publication number Publication date
KR101993962B1 (en) 2019-07-01

Similar Documents

Publication Publication Date Title
US20180300937A1 (en) System and a method of restoring an occluded background region
JP5156837B2 (en) System and method for depth map extraction using region-based filtering
US9013482B2 (en) Mesh generating apparatus, method and computer-readable medium, and image processing apparatus, method and computer-readable medium
JP4879326B2 (en) System and method for synthesizing a three-dimensional image
KR101168384B1 (en) Method of generating a depth map, depth map generating unit, image processing apparatus and computer program product
JP4796072B2 (en) Image rendering based on image segmentation
KR102380862B1 (en) Method and apparatus for image processing
KR20130084850A (en) Method and apparatus for image processing generating disparity value
BR112019027116A2 (en) apparatus for generating an image, apparatus for generating an image signal, method for generating an image, method for generating an image signal and image signal
KR20080047673A (en) Apparatus for transforming 3d image and the method therefor
KR100989435B1 (en) Method and apparatus for processing multi-viewpoint image
KR101993962B1 (en) N-View Blending-based Hole Filling Method for Intermediate View Image
KR20170046434A (en) Image processing method and image processing apparatus
WO2017202079A1 (en) Stereoscopic image producing method and apparatus
KR20140056073A (en) Method and system for creating dynamic floating window for stereoscopic contents
KR20140051035A (en) Method and apparatus for image encoding
TW201332339A (en) Method for restructure images
JP5254297B2 (en) Image processing device
KR101993961B1 (en) Hole Filling Method for Arbitrary View Image
KR20190072987A (en) Stereo Depth Map Post-processing Method with Scene Layout
US20130195348A1 (en) Image processing apparatus and method
KR101801898B1 (en) Method and apparatus for generating representing image from multi-view image
JP2015103960A (en) Method, program and apparatus for specifying image depth
TW201208344A (en) System and method of enhancing depth of a 3D image
KR102349590B1 (en) Copyright Protection Method for LF Contents

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)