KR101150871B1 - Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity - Google Patents

Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity Download PDF

Info

Publication number
KR101150871B1
KR101150871B1 KR1020100073381A KR20100073381A KR101150871B1 KR 101150871 B1 KR101150871 B1 KR 101150871B1 KR 1020100073381 A KR1020100073381 A KR 1020100073381A KR 20100073381 A KR20100073381 A KR 20100073381A KR 101150871 B1 KR101150871 B1 KR 101150871B1
Authority
KR
South Korea
Prior art keywords
feature points
vertical
shift
horizontal
stereo image
Prior art date
Application number
KR1020100073381A
Other languages
Korean (ko)
Other versions
KR20120011529A (en
Inventor
손광훈
김동현
Original Assignee
연세대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 연세대학교 산학협력단 filed Critical 연세대학교 산학협력단
Priority to KR1020100073381A priority Critical patent/KR101150871B1/en
Publication of KR20120011529A publication Critical patent/KR20120011529A/en
Application granted granted Critical
Publication of KR101150871B1 publication Critical patent/KR101150871B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/002Eyestrain reduction by processing stereoscopic signals or controlling stereoscopic devices

Abstract

스테레오 영상의 특징점들의 수평 변이 및 수직 변이에 기초해 스테레오 영상의 수평 변이 특성 및 수직 변이 특성을 추정하고, 피로도를 계산하는 방법 및 장치가 개시된다.Disclosed are a method and apparatus for estimating a horizontal shift characteristic and a vertical shift characteristic of a stereo image and calculating a fatigue degree based on the horizontal shift and vertical shift of feature points of the stereo image.

Description

수평 변이 및 수평 변이에 기초한 스테레오 영상의 피로도 계산 방법 및 장치{Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity} Method and apparatus for calculating fatigue image of stereo image based on horizontal and horizontal variation {method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity}

본 발명은 스테레오 영상의 피로도를 추정하는 방법 및 장치에 관한 것으로 보다 상세히는 스테레오 영상의 수평 변이 및 수평 변이에 기초해 스트레오 영상의 피로도를 추정하는 방법 및 장치에 관한 것이다. The present invention relates to a method and apparatus for estimating fatigue of a stereo image, and more particularly, to a method and apparatus for estimating fatigue of a stereo image based on a horizontal shift and a horizontal shift of a stereo image.

영상 기술의 발전에 따라 고해상도의 HDTV에 이어 3DTV(3차원 TV)에 대한 연구과 많이 이루어지고 있다. 3DTV의 질을 향상시키기 위해서는 인간의 시각 특성을 고려한 시각적으로 편안한 느낌을 줄 수 있는 양질의 콘텐트에 대한 연구가 필요하다. With the development of image technology, research on 3DTV (3D TV) is being done a lot after high definition HDTV. In order to improve the quality of 3DTV, research on high-quality contents that can give a visually comfortable feeling considering human visual characteristics is necessary.

3DTV의 바람직하지 못한 효과에 의한 두 가지 큰 문제점은 깊이감 왜곡(depth distortion)과 피로이다. 깊이감 왜곡은 스테레오 영상에서 소정의 장면을 시청할 때 사용자가 느끼는 깊이감과 실제 장면의 깊이감이 상이하여 발생하는 왜곡으로 카메라 파라미터의 세밀한 조정을 통해 왜곡을 줄일 수 있는 방안들이 연구되고 있다. Two major problems caused by the undesirable effects of 3DTV are depth distortion and fatigue. Depth distortion is a distortion that occurs when a user experiences a predetermined scene in a stereo image and the depth of the actual scene is different. Therefore, methods for reducing distortion through fine adjustment of camera parameters have been studied.

피로는 스테레오 영상을 보고있는 사용자가 지속적으로 스테레오 영상의 시각적인 모순을 해결하기 위해 노력하는 과정에서 발생한다. 피로는 수많은 요인들에 의해 발생할 수 있는 바, 카메라 구성, 시청 환경 및 영상 특성 등에 의해 발생할 수 있다.Fatigue occurs when a user watching a stereo image is constantly trying to resolve the visual contradictions of the stereo image. Fatigue can be caused by a number of factors, such as camera configuration, viewing environment and image characteristics.

본 발명이 해결하고자 하는 기술적 과제는 스테레오 영상의 피로도를 보다 정확하게 계산하기 위한 방법 및 장치를 제공하는데 있고, 상기 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공하는데 있다. SUMMARY OF THE INVENTION The present invention has been made in an effort to provide a method and apparatus for more accurately calculating fatigue of a stereo image, and to provide a computer-readable recording medium having recorded thereon a program for executing the method.

상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 스테레오 영상의 피로도를 추정하는 방법은 스테레오 영상의 특징점들을 추출하는 단계; 상기 특징점들의 상기 특징점들의 수평 변이 및 수직 변이를 추정하는 단계; 상기 특징점들의 수평 변이 및 수직 변이에 기초해, 상기 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하는 단계; 및 상기 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 상기 스테레오 영상의 피로도를 추정하는 단계를 포함한다.According to an aspect of the present invention, there is provided a method of estimating fatigue of a stereo image, including extracting feature points of the stereo image; Estimating horizontal and vertical shifts of the feature points of the feature points; Generating at least one value representing a horizontal shift characteristic of the stereo image and at least one value representing a vertical shift characteristic based on the horizontal shift and the vertical shift of the feature points; And estimating the fatigue degree of the stereo image based on at least one value representing the generated horizontal shift characteristic and at least one value representing the vertical shift characteristic.

본 발명의 또 다른 실시예에 따르면, 상기 수평 변이 특성을 나타내는 적어도 하나의 값은 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합에서 상기 수평 변이가 상대적으로 작은 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합을 감산한 제1 값 및 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들을 합한 제2 값을 포함한다.According to another embodiment of the present invention, at least one value representing the horizontal shift characteristic is the horizontal shift in a sum of values obtained by multiplying a horizontal shift of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency. Is a first value obtained by subtracting a sum of multiplying horizontal shifts of relatively small feature points by a weight based on spatial frequency, and values multiplied by horizontal shifts of feature points having a relatively large horizontal shift among the feature points and weights based on spatial frequency. The sum of the second values.

본 발명의 또 다른 실시예에 따르면, 상기 수직 변이 특성을 나타내는 적어도 하나의 값은 상기 특징점들의 수직 좌표를 x로 설정하고, 상기 특징점들의 수직 변이를 정규화하여 생성된 정규화된 수직 변이를 y로 설정한 다음, 최소 자승법에 의해 추정된 y=ax+b의 a 및 b를 포함한다.According to another embodiment of the present invention, at least one value representing the vertical shift characteristic sets the vertical coordinate of the feature points to x and sets the normalized vertical shift generated by normalizing the vertical shift of the feature points to y. Then, a and b of y = ax + b estimated by the least squares method.

상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 스테레오 영상의 피로도를 추정하는 장치는 스테레오 영상의 특징점들을 추출하고, 상기 특징점들의 상기 특징점들의 수평 변이 및 수직 변이를 추정한 다음, 상기 특징점들의 수평 변이 및 수직 변이에 기초해, 상기 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하는 변이추정부; 및 상기 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 상기 스테레오 영상의 피로도를 추정하는 피로도 추정부를 포함한다.An apparatus for estimating the fatigue level of a stereo image according to an embodiment of the present invention for solving the technical problem, extracts feature points of the stereo image, estimates the horizontal shift and vertical shift of the feature points of the feature points, and then A variation estimating unit for generating at least one value representing a horizontal variation characteristic of the stereo image and at least one value representing a vertical variation characteristic based on the horizontal variation and the vertical variation of the stereo image; And a fatigue estimator for estimating the fatigue degree of the stereo image based on at least one value indicating the generated horizontal shift characteristic and at least one value indicating the vertical shift characteristic.

상기 기술적 과제를 해결하기 위해 본 발명을 상기 스테레오 영상의 피로도 추정 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공한다.In order to solve the above technical problem, the present invention provides a computer-readable recording medium having recorded thereon a program for executing the fatigue estimation method of the stereo image.

본 발명에 따르면, 스테레오 영상의 피로도를 보다 정확하게 추정할 수 있어, 스테레오 영상의 인코딩 시에 피로도를 고려하여 저피로도의 스테레오 영상으로 인코딩할 수 있다. 또한, 스테레오 영상의 디코딩 시에는 피로도를 줄일 수 있는 재생 방법으로 스테레오 영상을 재생하거나, 사용자에게 피로도와 관련된 경고를 디스플레이할 수 있다. According to the present invention, it is possible to estimate the fatigue degree of the stereo image more accurately, and to encode the stereo image of the low fatigue degree in consideration of the fatigue degree when encoding the stereo image. In addition, when decoding the stereo image, the stereo image may be reproduced by a reproduction method that reduces fatigue, or a warning related to the fatigue may be displayed to the user.

도 1은 본 발명의 일 실시예에 따른 스테레오 영상의 피로도를 추정하는 장치를 도시한다.
도 2a 및 2b는 스테레오 영상의 디스플레이 좌표(display coordinate)를 도시한다.
도 3은 본 발명의 일 실시예에 따른 키스톤 왜곡 모델링을 도시한다.
도 4는 본 발명의 일 실시예 따른 스테레오 영상의 피로도 추정 방법을 설명하기 위한 흐름도이다.
1 illustrates an apparatus for estimating fatigue degree of a stereo image according to an exemplary embodiment of the present invention.
2A and 2B show display coordinates of a stereo image.
3 illustrates keystone distortion modeling according to an embodiment of the present invention.
4 is a flowchart illustrating a fatigue estimation method of a stereo image according to an embodiment of the present invention.

이하에서는 도면을 참조하여 본 발명의 실시예들을 상세히 설명한다. Hereinafter, with reference to the drawings will be described embodiments of the present invention;

도 1은 본 발명의 일 실시예에 따른 스테레오 영상의 피로도를 추정하는 장치를 도시한다. 1 illustrates an apparatus for estimating fatigue degree of a stereo image according to an exemplary embodiment of the present invention.

도 1을 참조하면, 본 발명의 일 실시예에 따른 스테레오 영상의 피로도 추정 장치(100)는 변이 계산부(120) 및 피로도 계산부(120)를 포함한다.Referring to FIG. 1, an apparatus 100 for estimating fatigue of a stereo image according to an exemplary embodiment of the present invention includes a variation calculator 120 and a fatigue calculator 120.

변이 계산부(110)는 스테레오 영상에서 피로도 추정에 이용될 특징점을 추출한다. 스테레오 영상의 모든 픽셀들에 대해 좌안 영상 및 우안 영상에서의 변이를 계산하는 밀집 정합(dense matching) 방법들이 이미 제안되어 있다. 그러나, 밀집 정합 방법은 텍스쳐 영역이 적은 영상 등과 같이 특정 영상에서의 변이를 계산하는 방법에는 적합하지 않다. 또한, 밀집 정합 방법은 스테레오 영상의 수평 변이만 존재한다고 가정하기 때문에 스테레오 카메라에 의해 발생하는 키스톤 왜곡(keystone distortion)을 고려하여 수직 변이를 측정하는데 적합하지 않다. The variation calculator 110 extracts feature points to be used for fatigue estimation in the stereo image. Dense matching methods have already been proposed for calculating the variation in left and right eye images for all pixels of a stereo image. However, the dense matching method is not suitable for a method for calculating the variation in a specific image, such as an image having a small texture area. In addition, since the dense matching method assumes that only horizontal shift of a stereo image exists, it is not suitable for measuring vertical shift in consideration of keystone distortion caused by a stereo camera.

따라서, 스파스 변이 추정(sparse disparity estimation) 방법이 스테레오 영상의 피로도를 계산하는데 이용되며, 이를 위해 변이 계산부(110)는 스테레오 영상에서 피로도 추정에 이용될 특징점들을 SIFT(Scale-Invariant Feature Transform)을 이용해 추출한다. SIFT는 크기 및 회전에 불변한 특징점들 추출하기 위한 알고리즘으로서 아핀 왜곡(affine distortion)이나 3차원 시점에 강인한 정합을 제공할 수 있다. Therefore, a sparse disparity estimation method is used to calculate a fatigue degree of a stereo image. To this end, the variation calculator 110 selects feature points to be used for estimating fatigue in a stereo image (SIFT). Extract with. SIFT is an algorithm for extracting feature points that are invariant in size and rotation, and can provide robust matching at affine distortion or three-dimensional viewpoint.

특징점들이 추출되면 변이 계산부(120)는 스테레오 영상에서 추출된 특징점들의 변이를 계산한다. 스테레오 영상에서 특징점들의 변이는 다음 수학식 1과 같이 정의될 수 있다. When the feature points are extracted, the variation calculator 120 calculates the variation of the feature points extracted from the stereo image. The variation of the feature points in the stereo image may be defined as in Equation 1 below.

Figure 112010049162344-pat00001
Figure 112010049162344-pat00001

Dispih는 영상 좌표에서의 수평 변이를 의미하고, Dispiv는 영상 좌표에서의 수직 변이를 의미한다. Xir, Xil, Yir 및 Yil은 좌안 영상 및 우안 영상에서 동일한 특징점에 대한 x, y 좌표를 의미한다. Disp ih means horizontal shift in image coordinates, and Dis iv means vertical shift in image coordinates. X ir , X il , Y ir, and Y il mean x and y coordinates of the same feature point in the left eye image and the right eye image.

그러나, 수학식 1에 따른 변이들은 시청 환경에 따라 변화하는 깊이 값(depth value)을 고려하지 아니한 변이들이므로, 각변이가 특징점들의 변이를 측정하기 위해 이용될 수 있다. 각변이는 특징점의 3차원 위치에 대한 양안의 각과 특징점이 디스플레이 평면에 투영된 위치에 대한 양안의 각 사이의 차이를 의미한다. 도 2a 및 2b를 참조하여 상세히 설명한다. However, since the variations according to Equation 1 are variations that do not consider the depth value changing according to the viewing environment, each variation may be used to measure the variation of the feature points. Angular variation refers to the difference between the angle of both eyes relative to the three-dimensional position of the feature point and the angle of both eyes relative to the position where the feature point is projected onto the display plane. This will be described in detail with reference to FIGS. 2A and 2B.

도 2a 및 2b는 스테레오 영상의 디스플레이 좌표(display coordinate)를 도시한다. 2A and 2B show display coordinates of a stereo image.

도 2a를 참조하면, 사용자가 정면에서 스테레오 영상을 시청하는 경우에 양안(210 및 211)의 중심 및 디스플레이 평면(220)의 중심을 수직으로 가로지르는 Z 축 상의 위치(230)에 특징점이 있는 경우, 특징점의 각변이는 특징점의 3차원 위치(230)에 대한 양안(210 및 211)의 각도 β와 특징점이 디스플레이 평면에 투영된 위치(231)에 대한 양안(210 및 211)의 각도 α 사이의 차이로 정의될 수 있다. 이를 수학식으로 표현하면 다음의 수학식 2와 같다.Referring to FIG. 2A, when a user views a stereo image from the front, a feature point exists at a position 230 on a Z axis vertically transverse to the center of both eyes 210 and 211 and the center of the display plane 220. , The angular variation of the feature point is between the angle β of both eyes 210 and 211 relative to the three-dimensional position 230 of the feature point and the angle α of both eyes 210 and 211 relative to the position 231 where the feature point is projected onto the display plane. Can be defined as a difference. This may be expressed as Equation 2 below.

Figure 112010049162344-pat00002
Figure 112010049162344-pat00002

Dispa는 특징점의 각변이를 의미하며, I는 양안(210 및 211) 사이의 거리를 의미하고, V는 양안(210 및 211)과 디스플레이 평면(220) 사이의 거리를 의미한다. Zd는 도 2a의 3차원 위치(230)와 특징점이 디스플레이 평면에 투영된 위치(231) 사이의 거리를 의미한다.Disp a means the angular variation of the feature point, I means the distance between both eyes 210 and 211, and V means the distance between both eyes 210 and 211 and the display plane 220. Z d means the distance between the three-dimensional position 230 of FIG. 2A and the position 231 at which the feature point is projected onto the display plane.

특징점의 위치를 3차원으로 보다 일반화하면, 도 2b에 도시된 바와 같을 수 있다. 도 2b를 참조하면, 사용자가 정면에서 스테레오 영상을 시청하는 경우에 특징점의 3차원 위치(240)에 대한 양안(210 및 211)의 각도 β와 특징점이 디스플레이 평면(220)에 투영된 위치(241)에 대한 양안(210 및 211)의 각도 α 사이의 차이가 각변이가 된다. 벡터의 내적(inner product)을 이용해 이를 표현하면, 다음의 수학식 3과 같다. If the location of the feature point is more generalized in three dimensions, it may be as shown in FIG. 2B. Referring to FIG. 2B, when the user views a stereo image from the front, the angle β of the binoculars 210 and 211 with respect to the three-dimensional position 240 of the feature point and the position 241 at which the feature point is projected on the display plane 220 are shown. The difference between the angles α of both eyes 210 and 211 relative to If this is expressed using the inner product of the vector, Equation 3 below.

Figure 112010049162344-pat00003
Figure 112010049162344-pat00003

Figure 112010049162344-pat00004
Figure 112010049162344-pat00004

Figure 112010049162344-pat00005
Figure 112010049162344-pat00005

Figure 112010049162344-pat00006
Figure 112010049162344-pat00006

Figure 112010049162344-pat00007
Figure 112010049162344-pat00007

벡터 a는 좌안의 위치(210)로부터 특징점의 좌안 투영 위치(250) 즉, Pdl=(Xdl, Ydl, Zdl)로의 벡터이고, 벡터 a는 우안의 위치(211)로부터 특징점의 우안 투영 위치(251) 즉, Pdr=(Xdr, Ydr, Zdr)로의 벡터이다. 시청자의 위치 즉, 양안(210 및 211)의 중심이 Pv=(Xv, Yv, Zv)일 때, 좌안의 위치(210)는 Pvl=(Xvl, Yvl, Zvl)=(Xv-I/2, Yv, Zv)이며, 우안의 위치(211)는 Pvr=(Xvr, Yvr, Zvr)=(Xv+I/2, Yv, Zv)이다. 각도 β는

Figure 112010049162344-pat00008
이고, 각도 α는
Figure 112010049162344-pat00009
이며, 각변이 Dispa는 각도 β와 각도 α의 차이를 의미한다. (논문 및 직무 발명서에는 각도 β가 벡터 c와 벡터 d의 내적에서 계산되는 것으로, 각도 α가 벡터 a 및 벡터 b의 내적에서 계산되는 것으로 기재되어 있습니다. 논문의 기재가 옳은지 상기 기재가 옳은지 확인바랍니다.)The vector a is a vector from the left eye position 210 to the left eye projection position 250 of the feature point, that is, P dl = (X dl , Y dl , Z dl ), and the vector a is the right eye of the feature point from the right eye position 211. It is a vector to the projection position 251, ie, P dr = (X dr , Y dr , Z dr ). When the viewer's position, i.e., the center of both eyes 210 and 211, is P v = (X v , Y v , Z v ), the position 210 of the left eye is P vl = (X vl , Y vl , Z vl ) = (X v -I / 2, Y v , Z v ), and the position of the right eye 211 is P vr = (X vr , Y vr , Z vr ) = (X v + I / 2, Y v , Z v ). Angle β is
Figure 112010049162344-pat00008
And the angle α is
Figure 112010049162344-pat00009
Each variation Disp a means a difference between an angle β and an angle α. (Thesis and job invention documents that the angle β is calculated from the dot product of the vectors c and vector d, and the angle α is calculated from the dot products of the vectors a and vector b. Confirm whether the article is correct or not. wish.)

수학식 3에 따라 계산된 각변이 Dispa가 계산되면, 변이 계산부(110)는 각변이로부터 특징점들의 수평 변이 및 수직 변이를 계산한다. 각변이 Dispa는 수평 각변이 및 수직 각변이를 포함하고 있으므로, 각변이 Dispa에서 수평 각변이 및 수직 각변이를 각각 계산할 수 있다. 시청자의 위치가 Pv=(0, 0, -Zv)이고, Zv=Zvl=Zvr이라고 가정하고, 수평 방향 각변이를 구하기 위해 y 축 좌표들을 평균하고, 수직 방향 각변이를 구하기 위해 x 축 좌표들을 평균하면, 수평 각변이 및 수직 각변이는 다음의 수학식 4와 같이 추정될 수 있다.When the disparity calculated by Equation 3 is Disp a , the disparity calculator 110 calculates the horizontal and vertical shifts of the feature points from the disparity. Since angular variation Disp a includes horizontal angular variation and vertical angular variation, it is possible to calculate horizontal angular variation and vertical angular variation in angular variation Disp a , respectively. Assume that the viewer's position is P v = (0, 0, -Z v ) and Z v = Z vl = Z vr , average the y-axis coordinates to find the horizontal angular shift, and find the vertical angular shift. In order to average the x-axis coordinates, the horizontal angular shift and the vertical angular shift can be estimated as in Equation 4 below.

Figure 112010049162344-pat00010
Figure 112010049162344-pat00010

Figure 112010049162344-pat00011
Figure 112010049162344-pat00011

Figure 112010049162344-pat00012
Figure 112010049162344-pat00012

Figure 112010049162344-pat00013
Figure 112010049162344-pat00013

Figure 112010049162344-pat00014
Figure 112010049162344-pat00014

Figure 112010049162344-pat00015
Figure 112010049162344-pat00015

Dispah는 특징점의 수평 각변이를 의미하고, Dispav는 특징점의 수직 각변이를 의미한다.(벡터 c와 d는 수학식 3의 벡터 c와 d와 동일한 것을 이용하는 것이 맞는지 확인 부탁드립니다.)Disp ah means the horizontal angular shift of the feature point, and Disp av means the vertical angular shift of the feature point. (Please make sure that the vectors c and d are the same as the vectors c and d in Equation 3.)

특징점들에 대해 각변이가 계산되면, 변이 계산부(110)는 SIFT에 의해 추출된 특징점들을 소정의 알고리즘에 따라 필터링함으로써 정합 오류를 줄 일 수 있다. 예를 들어, SIFT에 의해 추출된 특징점들을 RANSAC(RANdom SAmple Consensus) 알고리즘에 따라 필터링함으로써 정합 오류가 발생하는 특징점들을 제거할 수 있다.
When the angular variation is calculated for the feature points, the variation calculator 110 may reduce the matching error by filtering the feature points extracted by the SIFT according to a predetermined algorithm. For example, the feature points extracted by the SIFT may be filtered according to a random SAmple consensus (RANSAC) algorithm to remove feature points in which a matching error occurs.

(1) 수평 변이 특성의 추정(1) Estimation of horizontal shift characteristics

수학식 4와 같이 수평 변이가 특징점들 각각에 대해 계산되면, 특징점들의 수평 변이에 기초해 스테레오 영상의 수평 변이 특성을 추정할 수 있다. When the horizontal shift is calculated for each of the feature points as shown in Equation 4, the horizontal shift characteristic of the stereo image may be estimated based on the horizontal shift of the feature points.

(i) 수평 변이의 범위(i) the extent of horizontal variation

스테레오 영상의 수평 변이 특성을 단순화하여 추정하기 위해 특징점들의 수평 변이 중 최대 수평 변이 및 최소 수평 변이를 이용할 수 있다. In order to simplify and estimate the horizontal shift characteristic of the stereo image, the maximum horizontal shift and the minimum horizontal shift among the horizontal shifts of the feature points may be used.

Figure 112010049162344-pat00016
Figure 112010049162344-pat00016

Rangeh1 수평 변이의 범위를 의미하며, f(l)는 전체 특징점들 중에서 수평 변이가 상대적으로 큰 특징점들을 의미하고, f(s)는 전체 특징점들 중에서 수평 변이가 상대적으로 작은 특징점들을 의미한다. 상기 수학식 5에 따르면, Rangeh1는 특징점들 중에서 수평 변이가 상대적으로 큰 특징점들의 수평 변이를 합한 값에서 특징점들 중에서 수평 변이가 상대적으로 작은 특징점들의 수평 변이를 합한 값을 감산한 값이다. 예를 들어, 전체 fn개의 특징점들을 수평 변위가 큰 순서대로 나열했을 때, f(l)은 수평 변이가 상위 5%~15%에 포함되는 특징점들일 수 있고, f(s)는 상위 85%~95%에 포함되는 특징점들일 수 있다.Range h1 is F (l) means feature points where the horizontal shift is relatively large among the feature points, and f (s) means feature points where the horizontal shift is relatively small among the feature points. According to Equation 5, the range h1 is a value obtained by subtracting the horizontal variation of the feature points having the relatively small horizontal shift from the sum of the horizontal variation of the feature points having the relatively large horizontal shift among the feature points. For example, when all fn feature points are listed in the order of increasing horizontal displacement, f (l) may be feature points whose horizontal shift is included in the top 5% to 15%, and f (s) is the top 85% to It may be feature points included in 95%.

(ii) 특징점의 위치를 고려한 수평 변이의 범위 및 최대 수평 변이(ii) the extent of the horizontal shift and the maximum horizontal shift, taking into account the position of the feature points;

수평 변이의 범위뿐만 아니라 최대 수평 변이도 스테레오 영상의 수평 변이 특성을 추정하는데 이용될 수 있다. The maximum horizontal variation as well as the range of the horizontal variation may be used to estimate the horizontal variation characteristic of the stereo image.

Figure 112010049162344-pat00017
Figure 112010049162344-pat00017

수평 변이들 중 상대적으로 큰 수평 변이가 피로도에 큰 영향을 미치므로, 수평 변이가 큰 특징점들(f(l))의 수평 변이들의 합인 Maxh2도 스테레오 영상의 수평 변이 특성을 추정하는데 이용할 수 있다. 다만, 수평 변이의 절대값이 소정 임계값 즉, thah 이상인 특징점들에 대해서만 Maxh2 및 Rangeh2를 계산한다.Since the relatively large horizontal variation among the horizontal variations greatly affects the fatigue, Max h2 , which is the sum of the horizontal variations of the feature points f (l) having the large horizontal variation, can also be used to estimate the horizontal variation of the stereo image. . However, Max h2 only for feature points whose absolute value of the horizontal shift is greater than or equal to a predetermined threshold, that is, th ah. And Calculate Range h2 .

(iii) 공간 주파수 및 특징점의 위치를 고려한 수평 변이의 범위 및 최대 수평 변이(iii) the extent of the horizontal shift and the maximum horizontal shift, taking into account the spatial frequency and the position of the feature points;

스테레오 영상의 공간 주파수(예를 들어, cpd : cycle per degree)가 증가하면, 쉽게 피로를 느끼는 것이 실험적으로 증명되어 있다. 따라서, 전술한 수학식 6을 공간 주파수에 기초해 가중치를 곱함으로써, 수평 변이의 범위 및 최대 수평 변이를 계산할 수 있다. Experimental evidence has shown that fatigue increases easily as the spatial frequency (eg, cpd: cycle per degree) of stereo images increases. Therefore, by multiplying the above-described equation (6) based on the spatial frequency, the range of the horizontal shift and the maximum horizontal shift can be calculated.

Figure 112010049162344-pat00018
Figure 112010049162344-pat00018

공간 주파수는 스테레오 영상에 소벨(Sobel) 연산을 적용함으로써 생성될 수 있다. 소벨 연산 결과, 생성된 Sobel(f)는 각각의 특징점에 대응된 값들로서 공간 주파수를 나타내는 값이다. Sobel(f)를 픽셀 값의 최대 크기 즉 , 255에 따라 스케일링하고, 상수 λ를 곱함으로써, 가중치인 S(f)를 계산한다. 그런 다음, 가중치 S(f)에 기초해 수평 평위가 큰 특징점들의 수평 변이의 합인 Maxh3 및 수평 변이의 범위인 Rangeh3를 계산한다.
The spatial frequency may be generated by applying a Sobel operation to the stereo image. As a result of the Sobel calculation, the generated Sobel (f) is a value representing a spatial frequency as values corresponding to each feature point. The weight S (f) is calculated by scaling Sobel (f) according to the maximum size of the pixel value, ie 255, and multiplying by the constant λ. Then, based on the weight S (f), Max h3 , which is the sum of the horizontal shifts of the feature points having the large horizontal level, and Range h3 , which is the range of the horizontal shifts, are calculated.

(2) 수직 변이 특성의 추정(2) Estimation of vertical shift characteristics

(i) 수직 변이의 범위(i) the range of vertical variation

스테레오 영상의 수직 변이 특성을 단순화하여 추정하기 위해 특징점들의 수평 변이 중 최대 값 및 최소 값을 이용할 수 있다. In order to simplify and estimate the vertical shift characteristic of the stereo image, the maximum and minimum values among the horizontal shifts of the feature points may be used.

Figure 112010049162344-pat00019
Figure 112010049162344-pat00019

Rangev1 수직 변이의 범위를 의미하며, f(l)는 전체 특징점들 중에서 수직 변이가 상대적으로 큰 특징점들을 의미하고, f(s)는 전체 특징점들 중에서 수직 변이가 상대적으로 작은 특징점들을 의미한다. 상기 수학식 8에 따르면, Rangev1는 특징점들 중에서 수직 변이가 상대적으로 큰 특징점들의 수직 변이를 합한 값에서 특징점들 중에서 수직 변이가 상대적으로 작은 특징점들의 수직 변이를 합한 값을 감산한 값이다. 예를 들어, 전체 fn개의 특징점들을 수직 변위가 큰 순서대로 나열했을 때, f(l)은 수직 변이가 상위 5%~15%에 포함되는 특징점들일 수 있고, f(s)는 상위 85%~95%에 포함되는 특징점들일 수 있다.Range v1 is The range of vertical variation means f (l) is a feature point where the vertical shift is relatively large among all the feature points, and f (s) refers to feature points where the vertical variation is relatively small among the feature points. According to Equation 8, Range v1 is a value obtained by subtracting the vertical variation of the feature points having a relatively small vertical shift from the sum of the vertical variation of the feature points having a relatively large vertical shift. For example, when all fn feature points are listed in order of increasing vertical displacement, f (l) may be feature points whose vertical variation is included in the top 5% to 15%, and f (s) is the top 85% to It may be feature points included in 95%.

(ii) 특징점의 위치를 고려한 수직 변이의 범위 및 최대 수직 변이(ii) the range of vertical shifts and the maximum vertical shifts taking into account the position of the feature points;

수직 변이의 범위뿐만 아니라 최대 수직 변이도 스테레오 영상의 수직 변이 특성을 추정하는데 이용될 수 있다. The maximum vertical shift as well as the range of vertical shift may be used to estimate the vertical shift characteristic of the stereo image.

Figure 112010049162344-pat00020
Figure 112010049162344-pat00020

수직 변이의 경우에는 상대적으로 큰 변이와 상대적으로 작은 변이 모두 피로도에 영향을 미친다. 따라서, 수직 변이가 상대적으로 큰 특징점들(f(l))의 수직 변이들의 합에 대한 절대 값과 수직 변이가 상대적으로 작은 특징점들(f(s))의 수직 변이들의 합에 대한 절대 값을 비교하여 더 큰 절대 값을 Maxv2로 설정하고, 스테레오 영상의 수직 변이 특성을 추정하는데 이용할 수 있다. 다만, 수직 변이의 절대값이 소정 임계값 즉, thah 이상인 특징점들에 대해서만 Maxv2 및 Rangev2를 계산한다. 다만, 수직 변이의 경우에는

Figure 112010049162344-pat00021
Figure 112010049162344-pat00022
중 더 큰 값이 더 큰 피로를 야기하므로,
Figure 112010049162344-pat00023
Figure 112010049162344-pat00024
를 비교하여, Maxv2를 결정하는 것이 수학식 6과 상이하다.(특징점들 중 수평 변이가 큰 특징점들의 수평 변이의 합, 즉 Maxv2를 계산하는 방법이 수학식 6과 상이한 이유를 아주 상세히 설명해주시기 바랍니다.)In the case of vertical variation, both relatively large and relatively small variations affect fatigue. Therefore, the absolute value of the sum of the vertical shifts of the feature points f (l) having a relatively large vertical shift and the sum of the vertical shifts of the feature points f (s) having a relatively small vertical shift are given. In comparison, a larger absolute value can be set to Max v2 and used to estimate the vertical shift characteristic of the stereo image. However, Max v2 only for feature points whose absolute value of the vertical shift is greater than or equal to a predetermined threshold, that is, th ah. And Range v2 . However, in the case of vertical variation
Figure 112010049162344-pat00021
And
Figure 112010049162344-pat00022
Of the larger values cause more fatigue,
Figure 112010049162344-pat00023
And
Figure 112010049162344-pat00024
The comparison, it is different from the equation (6) to determine the Max v2. (Feature points the sum of the horizontal variation, the horizontal variation of the large characteristic point of, i.e., the method of calculating the Max v2 very detailed description of Equation (6) with different reasons Please.)

(iii) 키스톤 왜곡 모델링(keystone distortion modeling)(iii) keystone distortion modeling

대부분의 수직 변이는 카메라 설정에 의해 발생한다. 카메라의 분리(separation), 결합 거리(convergence distance) 및 초점 거리에 의해 키스톡 왜곡이 발생한다. 키스톤 왜곡에 의해 발생하는 수직 변이는 특정점의 수직 좌표에 의해 스케일링될 수 있으므로, 정규화(normalization)가 수행될 수 있다. Most vertical shifts are caused by camera settings. Keystalk distortion occurs due to separation of the camera, convergence distance and focal length. Since the vertical shift caused by the keystone distortion can be scaled by the vertical coordinate of the specific point, normalization can be performed.

최소 자승법(least square method)에 의해 복수의 특징점들에 대한 선형 방정식(320) y=ax+b를 추정할 수 있다. 특징점의 수평 좌표인 Xi(f)를 선형 방정식(320)의 x로 설정하고, 정규화된 수직 변이 Normalized_Dispiv(f)를 선형 방정식(320)의 y로 설정한 다음, 복수의 특징점들에 대해 최소 자승법을 적용하면, 특징점들에 대한 선형 방정식(320)을 추정할 수 있다. The linear equation 320 y = ax + b for a plurality of feature points may be estimated by a least square method. Set X i (f), the horizontal coordinate of the feature point, to x in the linear equation (320), set Normalized_Disp iv (f) to y in the linear equation (320), and then for a plurality of feature points. Applying the least squares method, the linear equation 320 for the feature points can be estimated.

도 3은 본 발명의 일 실시예에 따른 키스톤 왜곡 모델링을 도시한다. 3 illustrates keystone distortion modeling according to an embodiment of the present invention.

도 3을 참조하면, 키스톤 왜곡에 의해 발생된 수직 변이들(310 내지 316)을 최소 자승법에 의해 추정된 선형 방정식(320)에 따른 선 위의 정규화된 수직 변이들(330 내지 333)로 정규화시킨다. 이때, 수직 좌표가 소정 값(th) 이하인 수직 변이들은 정규화에 의해 발생하는 오류를 최소화하기 위해 정규화하지 않는다. 정규화된 수직 변이는 다음 수학식 11에 의해 계산된다. Referring to FIG. 3, normalized vertical variations 310 to 316 caused by keystone distortion are normalized to normalized vertical variations 330 to 333 on the line according to the linear equation 320 estimated by the least squares method. . At this time, the vertical shifts whose vertical coordinate is less than or equal to the predetermined value th are not normalized in order to minimize an error caused by normalization. The normalized vertical shift is calculated by the following equation (11).

Figure 112010049162344-pat00025
Figure 112010049162344-pat00025

상기 수학식 10에서 col은 영상의 세로 방향 크기를 나타내고, Yi(f)는 특징점의 수직 좌표를 의미한다. 상기 수학식 10에 따라 수직 변이들을 정규화함으로써, 특징점들에 대한 선형 방정식(320)을 추정하고, 선형 방정식(320)의 기울기 a 및 y 축 절편 b를 수직 변이 특성으로 이용한다. In Equation 10, col denotes a vertical size of an image, and Yi (f) denotes a vertical coordinate of a feature point. By normalizing the vertical shifts according to Equation 10, the linear equation 320 for the feature points is estimated, and the slope a and y-axis intercepts b of the linear equation 320 are used as the vertical shift characteristics.

변이 추정부(110)가 전술한 수학식 5 내지 10을 통해 스테레오 영상의 수평 변이을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하면, 피로도 추정부(120)는 스테레오 영상의 피로도를 Fatigue = c1Dh+c2Dv+c3 또는 Fatugue = c1Dh1+c2Dh2+c3Dv1+c4Dv2+c3 에 의해 추정할 수 있다. Dh는 스테레오 영상의 수평 변이 특성을 나타내는 값이고 Dv는 스테레오 영상의 수직 변이 특성을 나타내는 값이다. When the variation estimator 110 generates at least one value representing the horizontal variation of the stereo image and at least one value representing the vertical variation characteristic through the equations 5 to 10 described above, the fatigue estimation unit 120 may determine the stereo image. Fatigue can be estimated by Fatigue = c 1 D h + c 2 D v + c 3 or Fatugue = c 1 D h1 + c 2 D h2 + c 3 D v1 + c 4 D v2 + c 3 . D h is a value indicating a horizontal shift characteristic of a stereo image and D v is a value indicating a vertical shift characteristic of a stereo image.

예를 들어, Dh는 수학식 5에 따른 Rangeh1에 대응될 수 있다. 또한, Dh1 Dh2는 수학식 6에 따른 Maxh2 및 Rangeh2에 대응되거나, 수학식 7에 따른 Maxh3 및 Rangeh3에 대응될 수 있다. For example, D h may correspond to Range h1 according to Equation 5. In addition, D h1 And D h2 may correspond to Max h2 and Range h2 according to Equation 6, or may correspond to Max h3 and Range h3 according to Equation 7.

마찬가지로, Dv는 수학식 8에 따른 Rangev1에 대응될 수 있다. 또한, Dv1 Dv2는 수학식 9에 따른, Maxv2 및 Rangev2에 대응되거나, 키스톤 왜곡 모델링을 통해 얻어진 선형 방정식(320)의 a 및 b에 대응될 수 있다. Similarly, D v may correspond to Range v 1 according to Equation 8. Also, D v1 And D v2 may correspond to Max v2 and Range v2 according to Equation 9, or may correspond to a and b of linear equation 320 obtained through keystone distortion modeling.

c1, c2 및 c3 복수의 상이한 스테레오 영상을 분석하고, 분석 결과 얻어진 데이터에 대해 1차원 선형 회기 분석을 적용함으로써 c1, c2 및 c3을 다음의 수학식 12와 같이 계산할 수 있다. c1, c2 and c3 By analyzing a plurality of different stereo images and applying one-dimensional linear regression analysis to the data obtained as a result of analysis, c1, c2 and c3 can be calculated as in the following equation (12).

Figure 112010049162344-pat00026
Figure 112010049162344-pat00026

Dh(pk)는 k 번째 스테레오 영상의 수평 변이 특성을 나타내는 값이고 Dv(pk)는 k 번째 스테레오 영상의 수평 변이 특성을 나타내는 값이다. dk는 k번째 스테레오 영상에 대한 시청자의 주관적인 피로도 값이다. n은 실험에 이용된 전체 스테레오 영상의 개수를 나타낸다. 복수의 스테레오 영상에 대해 시청자의 주관적인 피로도 값을 실험을 통해 추정하고, 추정된 주관적인 피로도 값과 수학식 6 내지 11을 통해 구해진 수평 변이 특성을 나타내는 값 및 수평 변이 특성을 나타내는 값 사이의 상관 관계를 회귀 분석을 통해 분석함으로써 C 행렬을 구할 수 있다. D h (p k ) is a value indicating the horizontal shift characteristic of the k-th stereo image and D v (p k ) is a value indicating the horizontal shift characteristic of the k-th stereo image. d k is the subjective fatigue value of the viewer for the k-th stereo image. n represents the total number of stereo images used in the experiment. The subjective fatigue value of the viewer is estimated through experiments for a plurality of stereo images, and the correlation between the estimated subjective fatigue value and the value indicating the horizontal shift characteristic and the value indicating the horizontal shift characteristic obtained through Equations 6 to 11 Regression analysis can be used to find C matrices.

Dh 및 Dv가 수학식 6, 7, 9 및 10에서 계산된 바와 같이 복수의 값에 대응되는 경우에 c1, c2, c3, c4 및 c5는 다음과 같이 계산할 수 있다.When D h and D v correspond to a plurality of values as calculated in Equations 6, 7, 9 and 10, c1, c2, c3, c4 and c5 may be calculated as follows.

Figure 112010049162344-pat00027
Figure 112010049162344-pat00027

Figure 112010049162344-pat00028
Figure 112010049162344-pat00028

상기 수학식 12에서 Dh1(pk) 및 Dh2(pk)는 k 번째 스테레오 영상의 수평 변이 특성을 나타내는 복수의 값으로서 수학식 6의 Maxh2 및 Rangeh2에 각각 대응되거나, 수학식 7의 Maxh3 및 Rangeh3에 각각 대응될 수 있다. In Equation 12, D h1 (p k ) and D h2 (p k ) correspond to Max h2 and Range h2 of Equation 6 as a plurality of values representing horizontal shift characteristics of the k-th stereo image, or Equation 7 May correspond to Max h3 and Range h3 , respectively.

또한, Dv1(pk) 및 Dv2(pk)는 k 번째 스테레오 영상의 수직 변이 특성을 나타내는 복수의 값으로서 수학식 9의 Maxv2 및 Rangev2에 각각 대응되거나, 키스톤 왜곡 모델링을 통해 얻어진 선형 방정식(320)의 a 및 b에 각각 대응될 수 있다.In addition, D v1 (p k ) and D v2 (p k ) are a plurality of values representing vertical shift characteristics of the k-th stereo image and correspond to Max v2 and Range v2 of Equation 9, respectively, or are obtained through keystone distortion modeling. Correspond to a and b of the linear equation 320, respectively.

스테레오 영상의 피로도가 Fatigue = c1Dh+c2Dv+c3 또는 Fatugue = c1Dh1+c2Dh2+c3Dv1+c4Dv2+c3 에 의해 추정되면, 이에 기초해 스테레오 영상을 수정함으로써 시청자가 느끼는 QoS(Quality of Service)를 향상시킬 수 있다. 스테레오 영상의 인코딩 과정에서 스테레오 영상의 피로도를 미리 추정하고, 피로도가 큰 것으로 판단되면, 피로도가 작아지도록 깊이감을 조절하여 피로도를 낮추거나, 카메라 설정 및 카메라 파라미터를 조정하여 스테레오 영상을 부호화할 수 있다. 또한, 스테레오 영상의 디코딩 과정에서는 스테레오 영상을 디스플레이 하기 전에 디코딩된 스테레오 영상의 피로도를 미리 추정하여 깊이감을 조절하거나, 카메라 파라미터를 조정할 수 있다. 스테레오 영상을 디스플레이할 때 피로도에 대해 시청자에게 미리 경고 메시지를 디스플레이 할 수도 있다.Fatigue of stereo image Fatigue = c 1 D h + c 2 D v + c 3 Or, if estimated by Fatugue = c 1 D h1 + c 2 D h2 + c 3 D v1 + c 4 D v2 + c 3 , modify the stereo image based on this to improve the quality of service (QoS) that the viewer feels. Can be. In the encoding process of the stereo image, the fatigue degree of the stereo image is estimated in advance, and if it is determined that the fatigue degree is large, the depth may be reduced by adjusting the depth to reduce the fatigue degree, or the stereo image may be encoded by adjusting the camera settings and the camera parameters. . In addition, in the decoding process of the stereo image, before the stereo image is displayed, fatigue of the decoded stereo image may be estimated in advance to adjust depth or camera parameters. When displaying a stereo image, a warning message may be displayed to the viewer in advance about fatigue.

도 4는 본 발명의 일 실시예 따른 스테레오 영상의 피로도 추정 방법을 설명하기 위한 흐름도이다. 4 is a flowchart illustrating a fatigue estimation method of a stereo image according to an embodiment of the present invention.

도 4를 참조하면, 단계 410에서 본 발명의 일 실시예에 따른 피로도 추정 장치(100)는 입력된 스테레오 영상의 특징점들을 추출한다. 전술한 바와 같이 SIFT를 이용해 스테레오 영상의 특징점을 추출할 수 있다. 또한, 추출된 특징점들을 RANSAC 알고리즘을 통해 필터링함으로써 피로도 추정에 오류를 발생시키는 특징점들을 피로도 추정에서 제외할 수도 있다. Referring to FIG. 4, in operation 410, the fatigue estimation apparatus 100 according to an exemplary embodiment extracts feature points of an input stereo image. As described above, the feature point of the stereo image may be extracted using the SIFT. In addition, by filtering the extracted feature points through the RANSAC algorithm, feature points that cause an error in the fatigue estimation may be excluded from the fatigue estimation.

단계 420에서 피로도 추정 장치(100)는 단계 410에서 추출된 특징점들의 수평 변이 및 수직 변이를 추정한다. 전술한 바와 같이 영상 좌표에서의 특징점들의 수평 변이 및 수직 변이를 추정할 수도 있고, 수평 각변이 및 수직 각변이를 추정할 수도 있다.In operation 420, the fatigue estimation apparatus 100 estimates the horizontal variation and the vertical variation of the feature points extracted in operation 410. As described above, the horizontal shift and the vertical shift of the feature points in the image coordinates may be estimated, and the horizontal angular shift and the vertical angular shift may be estimated.

단계 430에서 피로도 추정 장치(100)는 단계 420에서 추정된 특징점들의 수평 변이 및 수직 변이에 기초해 입력된 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성한다.In operation 430, the fatigue estimation apparatus 100 may determine at least one value indicating a horizontal shift characteristic of the input stereo image and at least one value indicating the vertical shift characteristic based on the horizontal shift and vertical shift of the feature points estimated in step 420. Create

수학식 5 내지 10과 관련하여 전술한 값들 즉, Rangeh1, Maxh2, Rangeh2, Maxh3, Rangeh3, Rangev1, Maxv2, Rangev2, a 및 b 등이 생성될 수 있다. The above-described values with respect to Equations 5 to 10, that is, Range h1 , Max h2 , Range h2 , Max h3 , Range h3 , Range v1 , Max v2 , Range v2 , a and b may be generated.

단계 440에서 피로도 추정 장치(100)는 단계 430에서 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 스테레오 영상의 피로도를 추정한다. In operation 440, the fatigue estimation apparatus 100 estimates the fatigue degree of the stereo image based on at least one value indicating the horizontal shift characteristic and the at least one value indicating the vertical shift characteristic generated in step 430.

스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 Fatigue = c1Dh+c2Dv+c3 또는 Fatugue = c1Dh1+c2Dh2+c3Dv1+c4Dv2+c3를 계산함으로써 스테레오 영상의 피로도를 추정할 수 있다.Based on at least one value representing the horizontal shift characteristic of the stereo image and at least one value representing the vertical shift characteristic Fatigue = c 1 D h + c 2 D v + c 3 Alternatively, the fatigue of the stereo image may be estimated by calculating Fatugue = c 1 D h1 + c 2 D h2 + c 3 D v1 + c 4 D v2 + c 3 .

이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명이 상기의 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명의 사상은 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이와 균등하거나 또는 등가적인 변형 모두는 본 발명 사상의 범주에 속한다 할 것이다. 또한, 본 발명에 따른 시스템은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. As described above, although the present invention has been described by way of limited embodiments and drawings, the present invention is not limited to the above-described embodiments, which can be variously modified and modified by those skilled in the art to which the present invention pertains. Modifications are possible. Accordingly, the spirit of the invention should be understood only by the claims set forth below, and all equivalent or equivalent modifications will fall within the scope of the invention. In addition, the system according to the present invention can be embodied as computer readable codes on a computer readable recording medium.

예를 들어, 본 발명의 예시적인 실시예에 따른 피로도 추정 장치는 도 1에 도시된 바와 같은 장치의 각각의 유닛들에 커플링된 버스, 상기 버스에 결합된 적어도 하나의 프로세서를 포함할 수 있다. 또한, 명령, 수신된 메시지 또는 생성된 메시지를 저장하기 위해 상기 버스에 결합되어, 전술한 바와 같은 명령들을 수행하기 위한 적어도 하나의 프로세서에 커플링된 메모리를 포함할 수 있다. For example, a fatigue estimation apparatus according to an exemplary embodiment of the present invention may include a bus coupled to respective units of the apparatus as shown in FIG. 1, and at least one processor coupled to the bus. . It may also include a memory coupled to the bus for storing instructions, received messages or generated messages and coupled to at least one processor for performing instructions as described above.

또한, 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광데이터 저장장치 등을 포함한다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.The computer-readable recording medium also includes all kinds of recording devices in which data that can be read by a computer system is stored. Examples of the recording medium include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device and the like. The computer readable recording medium can also be distributed over network coupled computer systems so that the computer readable code is stored and executed in a distributed fashion.

Claims (17)

스테레오 영상의 특징점들을 추출하는 단계;
상기 특징점들의 상기 특징점들의 수평 변이 및 수직 변이를 추정하는 단계;
상기 특징점들의 수평 변이 및 수직 변이에 기초해, 상기 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하는 단계; 및
상기 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 상기 스테레오 영상의 피로도를 추정하는 단계를 포함하고,
상기 수평 변이 특성을 나타내는 적어도 하나의 값은, 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합에서 상기 수평 변이가 상대적으로 작은 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합을 감산한 제1 값과, 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들을 합한 제2 값을 포함하고,
상기 수직 변이 특성을 나타내는 적어도 하나의 값은, 상기 특징점들의 수직 좌표를 x로 설정하고, 상기 특징점들의 수직 변이를 정규화하여 생성된 정규화된 수직 변이를 y로 설정한 다음, 최소 자승법에 의해 추정된 y=ax+b의 a 및 b를 포함하는 것을 특징으로 하는 스트레오 영상의 피로도 추정 방법.
Extracting feature points of a stereo image;
Estimating horizontal and vertical shifts of the feature points of the feature points;
Generating at least one value representing a horizontal shift characteristic of the stereo image and at least one value representing a vertical shift characteristic based on the horizontal shift and the vertical shift of the feature points; And
Estimating the fatigue degree of the stereo image based on at least one value representing the generated horizontal shift characteristic and at least one value representing the vertical shift characteristic,
The at least one value representing the horizontal shift characteristic may be equal to a horizontal shift of feature points having a relatively small horizontal shift from a sum of values obtained by multiplying a horizontal shift of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency. A first value obtained by subtracting a sum of values multiplied by a weight based on a spatial frequency, and a second value obtained by adding a value obtained by multiplying a horizontal variation of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency;
The at least one value representing the vertical shift characteristic is set by a vertical coordinate of the feature points to x, a normalized vertical shift generated by normalizing the vertical shift of the feature points to y, and then estimated by a least squares method. A fatigue estimation method of a stereo image, comprising a and b of y = ax + b.
삭제delete 삭제delete 삭제delete 삭제delete 제 1 항에 있어서, 상기 수직 변이 특성을 나타내는 적어도 하나의 값은
상기 특징점들 중 수직 변이가 상대적으로 큰 특징점들의 수직 변이의 합에서 상기 수직 변이가 상대적으로 작은 특징점들의 합을 감산한 제3 값을 더 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 방법.
The method of claim 1, wherein the at least one value representing the vertical shift characteristic is
And a third value obtained by subtracting a sum of feature points having a relatively small vertical shift from a sum of vertical shifts of feature points having a relatively large vertical shift among the feature points.
제 6 항에 있어서, 상기 수직 변이 특성을 나타내는 적어도 하나의 값은
상기 특징점들 중 수직 변이가 상대적으로 큰 특징점들의 수직 변이의 합에 대한 절대 값 및 상기 특징점들 중 수직 변이가 상대적으로 작은 특징점들의 수직 변이의 합에 대한 절대 값 중 더 큰 제4 값을 더 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 방법.
7. The method of claim 6, wherein at least one value representing the vertical shift characteristic is
An absolute value for the sum of the vertical shifts of the feature points having a relatively high vertical shift among the feature points, and a fourth value greater than the absolute value for the sum of the vertical shifts of the feature points for which the vertical shift among the feature points is relatively small; A fatigue estimation method of a stereo image, characterized in that.
삭제delete 스테레오 영상의 특징점들을 추출하고, 상기 특징점들의 상기 특징점들의 수평 변이 및 수직 변이를 추정한 다음, 상기 특징점들의 수평 변이 및 수직 변이에 기초해, 상기 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하는 변이추정부; 및
상기 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 상기 스테레오 영상의 피로도를 추정하는 피로도 추정부를 포함하고,
상기 수평 변이 특성을 나타내는 적어도 하나의 값은, 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합에서 상기 수평 변이가 상대적으로 작은 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합을 감산한 제1 값과, 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들을 합한 제2 값을 포함하고,
상기 수직 변이 특성을 나타내는 적어도 하나의 값은, 상기 특징점들의 수직 좌표를 x로 설정하고, 상기 특징점들의 수직 변이를 정규화하여 생성된 정규화된 수직 변이를 y로 설정한 다음, 최소 자승법에 의해 추정된 y=ax+b의 a 및 b를 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 장치.
Extracting feature points of the stereo image, estimating a horizontal shift and a vertical shift of the feature points of the feature points, and based on the horizontal shift and the vertical shift of the feature points, at least one value representing a horizontal shift characteristic of the stereo image and A variation estimator for generating at least one value representing the vertical variation characteristic; And
A fatigue estimator configured to estimate a fatigue degree of the stereo image based on at least one value indicating the generated horizontal shift characteristic and at least one value indicating the vertical shift characteristic;
The at least one value representing the horizontal shift characteristic may be equal to a horizontal shift of feature points having a relatively small horizontal shift from a sum of values obtained by multiplying a horizontal shift of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency. A first value obtained by subtracting a sum of values multiplied by a weight based on a spatial frequency, and a second value obtained by adding a value obtained by multiplying a horizontal variation of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency;
The at least one value representing the vertical shift characteristic is set by a vertical coordinate of the feature points to x, a normalized vertical shift generated by normalizing the vertical shift of the feature points to y, and then estimated by a least squares method. An apparatus for estimating fatigue of a stereo image, comprising a and b of y = ax + b.
삭제delete 삭제delete 삭제delete 삭제delete 제 9 항에 있어서, 상기 수직 변이 특성을 나타내는 적어도 하나의 값은
상기 특징점들 중 수직 변이가 상대적으로 큰 특징점들의 수직 변이의 합에서 상기 수직 변이가 상대적으로 작은 특징점들의 합을 감산한 제3 값을 더 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 장치.
10. The method of claim 9, wherein at least one value representing the vertical shift characteristic is
And a third value obtained by subtracting a sum of feature points having a relatively small vertical shift from a sum of vertical shifts of feature points having a relatively vertical vertical shift among the feature points.
제 14 항에 있어서, 상기 수직 변이 특성을 나타내는 적어도 하나의 값은
상기 특징점들 중 수직 변이가 상대적으로 큰 특징점들의 수직 변이의 합에 대한 절대 값 및 상기 특징점들 중 수직 변이가 상대적으로 작은 특징점들의 수직 변이의 합에 대한 절대 값 중 더 큰 제4 값을 더 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 장치.
15. The method of claim 14, wherein at least one value representing the vertical shift characteristic is
An absolute value for the sum of the vertical shifts of the feature points having a relatively high vertical shift among the feature points, and a fourth value greater than the absolute value for the sum of the vertical shifts of the feature points for which the vertical shift among the feature points is relatively small; The fatigue estimation device of the stereo image, characterized in that.
삭제delete 제 1 항, 제 6 항 및 제 7 항 중 어느 한 항의 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체.A computer-readable recording medium having recorded thereon a program for executing the method of any one of claims 1, 6 and 7.
KR1020100073381A 2010-07-29 2010-07-29 Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity KR101150871B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100073381A KR101150871B1 (en) 2010-07-29 2010-07-29 Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100073381A KR101150871B1 (en) 2010-07-29 2010-07-29 Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity

Publications (2)

Publication Number Publication Date
KR20120011529A KR20120011529A (en) 2012-02-08
KR101150871B1 true KR101150871B1 (en) 2012-06-13

Family

ID=45835734

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100073381A KR101150871B1 (en) 2010-07-29 2010-07-29 Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity

Country Status (1)

Country Link
KR (1) KR101150871B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102281184B1 (en) 2014-11-20 2021-07-23 삼성전자주식회사 Method and apparatus for calibrating image
CN115901191B (en) * 2022-12-12 2023-09-05 复旦大学 Quantification method, system, equipment and medium for parallax fatigue of head-up display system

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11355808A (en) * 1998-06-04 1999-12-24 Olympus Optical Co Ltd Video system

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11355808A (en) * 1998-06-04 1999-12-24 Olympus Optical Co Ltd Video system

Also Published As

Publication number Publication date
KR20120011529A (en) 2012-02-08

Similar Documents

Publication Publication Date Title
US9137512B2 (en) Method and apparatus for estimating depth, and method and apparatus for converting 2D video to 3D video
US7944444B2 (en) 3D image processing apparatus and method
US8116557B2 (en) 3D image processing apparatus and method
US9277207B2 (en) Image processing apparatus, image processing method, and program for generating multi-view point image
EP2477158B1 (en) Multi-view rendering apparatus and method using background pixel expansion and background-first patch matching
Conze et al. Objective view synthesis quality assessment
CA2726208C (en) System and method for depth extraction of images with forward and backward depth prediction
US20110032341A1 (en) Method and system to transform stereo content
US20100073364A1 (en) Conversion method and apparatus with depth map generation
US20120127270A1 (en) Depth estimation based on global motion
US20120127267A1 (en) Depth estimation based on global motion
CA2729106A1 (en) System and method for depth extraction of images with motion compensation
US9154762B2 (en) Stereoscopic image system utilizing pixel shifting and interpolation
KR20110014067A (en) Method and system for transformation of stereo content
Bosc et al. Visual quality assessment of synthesized views in the context of 3D-TV
Farid et al. Perceptual quality assessment of 3D synthesized images
Bosc et al. An edge-based structural distortion indicator for the quality assessment of 3D synthesized views
EP2525324B1 (en) Method and apparatus for generating a depth map and 3d video
JP5210416B2 (en) Stereoscopic image generating apparatus, stereoscopic image generating method, program, and recording medium
KR101150871B1 (en) Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity
De Sorbier et al. Augmented reality for 3D TV using depth camera input
Ryu et al. Synthesis quality prediction model based on distortion intolerance
US20130229408A1 (en) Apparatus and method for efficient viewer-centric depth adjustment based on virtual fronto-parallel planar projection in stereoscopic images
Hua et al. A depth optimization method for 2D-to-3D conversion based on RGB-D images
EP2657909B1 (en) Method and image processing device for determining disparity

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20150429

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20160519

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20170522

Year of fee payment: 6

LAPS Lapse due to unpaid annual fee