KR101150871B1 - Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity - Google Patents
Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity Download PDFInfo
- Publication number
- KR101150871B1 KR101150871B1 KR1020100073381A KR20100073381A KR101150871B1 KR 101150871 B1 KR101150871 B1 KR 101150871B1 KR 1020100073381 A KR1020100073381 A KR 1020100073381A KR 20100073381 A KR20100073381 A KR 20100073381A KR 101150871 B1 KR101150871 B1 KR 101150871B1
- Authority
- KR
- South Korea
- Prior art keywords
- feature points
- vertical
- shift
- horizontal
- stereo image
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/144—Processing image signals for flicker reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2213/00—Details of stereoscopic systems
- H04N2213/002—Eyestrain reduction by processing stereoscopic signals or controlling stereoscopic devices
Abstract
스테레오 영상의 특징점들의 수평 변이 및 수직 변이에 기초해 스테레오 영상의 수평 변이 특성 및 수직 변이 특성을 추정하고, 피로도를 계산하는 방법 및 장치가 개시된다.Disclosed are a method and apparatus for estimating a horizontal shift characteristic and a vertical shift characteristic of a stereo image and calculating a fatigue degree based on the horizontal shift and vertical shift of feature points of the stereo image.
Description
본 발명은 스테레오 영상의 피로도를 추정하는 방법 및 장치에 관한 것으로 보다 상세히는 스테레오 영상의 수평 변이 및 수평 변이에 기초해 스트레오 영상의 피로도를 추정하는 방법 및 장치에 관한 것이다. The present invention relates to a method and apparatus for estimating fatigue of a stereo image, and more particularly, to a method and apparatus for estimating fatigue of a stereo image based on a horizontal shift and a horizontal shift of a stereo image.
영상 기술의 발전에 따라 고해상도의 HDTV에 이어 3DTV(3차원 TV)에 대한 연구과 많이 이루어지고 있다. 3DTV의 질을 향상시키기 위해서는 인간의 시각 특성을 고려한 시각적으로 편안한 느낌을 줄 수 있는 양질의 콘텐트에 대한 연구가 필요하다. With the development of image technology, research on 3DTV (3D TV) is being done a lot after high definition HDTV. In order to improve the quality of 3DTV, research on high-quality contents that can give a visually comfortable feeling considering human visual characteristics is necessary.
3DTV의 바람직하지 못한 효과에 의한 두 가지 큰 문제점은 깊이감 왜곡(depth distortion)과 피로이다. 깊이감 왜곡은 스테레오 영상에서 소정의 장면을 시청할 때 사용자가 느끼는 깊이감과 실제 장면의 깊이감이 상이하여 발생하는 왜곡으로 카메라 파라미터의 세밀한 조정을 통해 왜곡을 줄일 수 있는 방안들이 연구되고 있다. Two major problems caused by the undesirable effects of 3DTV are depth distortion and fatigue. Depth distortion is a distortion that occurs when a user experiences a predetermined scene in a stereo image and the depth of the actual scene is different. Therefore, methods for reducing distortion through fine adjustment of camera parameters have been studied.
피로는 스테레오 영상을 보고있는 사용자가 지속적으로 스테레오 영상의 시각적인 모순을 해결하기 위해 노력하는 과정에서 발생한다. 피로는 수많은 요인들에 의해 발생할 수 있는 바, 카메라 구성, 시청 환경 및 영상 특성 등에 의해 발생할 수 있다.Fatigue occurs when a user watching a stereo image is constantly trying to resolve the visual contradictions of the stereo image. Fatigue can be caused by a number of factors, such as camera configuration, viewing environment and image characteristics.
본 발명이 해결하고자 하는 기술적 과제는 스테레오 영상의 피로도를 보다 정확하게 계산하기 위한 방법 및 장치를 제공하는데 있고, 상기 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공하는데 있다. SUMMARY OF THE INVENTION The present invention has been made in an effort to provide a method and apparatus for more accurately calculating fatigue of a stereo image, and to provide a computer-readable recording medium having recorded thereon a program for executing the method.
상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 스테레오 영상의 피로도를 추정하는 방법은 스테레오 영상의 특징점들을 추출하는 단계; 상기 특징점들의 상기 특징점들의 수평 변이 및 수직 변이를 추정하는 단계; 상기 특징점들의 수평 변이 및 수직 변이에 기초해, 상기 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하는 단계; 및 상기 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 상기 스테레오 영상의 피로도를 추정하는 단계를 포함한다.According to an aspect of the present invention, there is provided a method of estimating fatigue of a stereo image, including extracting feature points of the stereo image; Estimating horizontal and vertical shifts of the feature points of the feature points; Generating at least one value representing a horizontal shift characteristic of the stereo image and at least one value representing a vertical shift characteristic based on the horizontal shift and the vertical shift of the feature points; And estimating the fatigue degree of the stereo image based on at least one value representing the generated horizontal shift characteristic and at least one value representing the vertical shift characteristic.
본 발명의 또 다른 실시예에 따르면, 상기 수평 변이 특성을 나타내는 적어도 하나의 값은 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합에서 상기 수평 변이가 상대적으로 작은 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합을 감산한 제1 값 및 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들을 합한 제2 값을 포함한다.According to another embodiment of the present invention, at least one value representing the horizontal shift characteristic is the horizontal shift in a sum of values obtained by multiplying a horizontal shift of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency. Is a first value obtained by subtracting a sum of multiplying horizontal shifts of relatively small feature points by a weight based on spatial frequency, and values multiplied by horizontal shifts of feature points having a relatively large horizontal shift among the feature points and weights based on spatial frequency. The sum of the second values.
본 발명의 또 다른 실시예에 따르면, 상기 수직 변이 특성을 나타내는 적어도 하나의 값은 상기 특징점들의 수직 좌표를 x로 설정하고, 상기 특징점들의 수직 변이를 정규화하여 생성된 정규화된 수직 변이를 y로 설정한 다음, 최소 자승법에 의해 추정된 y=ax+b의 a 및 b를 포함한다.According to another embodiment of the present invention, at least one value representing the vertical shift characteristic sets the vertical coordinate of the feature points to x and sets the normalized vertical shift generated by normalizing the vertical shift of the feature points to y. Then, a and b of y = ax + b estimated by the least squares method.
상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 스테레오 영상의 피로도를 추정하는 장치는 스테레오 영상의 특징점들을 추출하고, 상기 특징점들의 상기 특징점들의 수평 변이 및 수직 변이를 추정한 다음, 상기 특징점들의 수평 변이 및 수직 변이에 기초해, 상기 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하는 변이추정부; 및 상기 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 상기 스테레오 영상의 피로도를 추정하는 피로도 추정부를 포함한다.An apparatus for estimating the fatigue level of a stereo image according to an embodiment of the present invention for solving the technical problem, extracts feature points of the stereo image, estimates the horizontal shift and vertical shift of the feature points of the feature points, and then A variation estimating unit for generating at least one value representing a horizontal variation characteristic of the stereo image and at least one value representing a vertical variation characteristic based on the horizontal variation and the vertical variation of the stereo image; And a fatigue estimator for estimating the fatigue degree of the stereo image based on at least one value indicating the generated horizontal shift characteristic and at least one value indicating the vertical shift characteristic.
상기 기술적 과제를 해결하기 위해 본 발명을 상기 스테레오 영상의 피로도 추정 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공한다.In order to solve the above technical problem, the present invention provides a computer-readable recording medium having recorded thereon a program for executing the fatigue estimation method of the stereo image.
본 발명에 따르면, 스테레오 영상의 피로도를 보다 정확하게 추정할 수 있어, 스테레오 영상의 인코딩 시에 피로도를 고려하여 저피로도의 스테레오 영상으로 인코딩할 수 있다. 또한, 스테레오 영상의 디코딩 시에는 피로도를 줄일 수 있는 재생 방법으로 스테레오 영상을 재생하거나, 사용자에게 피로도와 관련된 경고를 디스플레이할 수 있다. According to the present invention, it is possible to estimate the fatigue degree of the stereo image more accurately, and to encode the stereo image of the low fatigue degree in consideration of the fatigue degree when encoding the stereo image. In addition, when decoding the stereo image, the stereo image may be reproduced by a reproduction method that reduces fatigue, or a warning related to the fatigue may be displayed to the user.
도 1은 본 발명의 일 실시예에 따른 스테레오 영상의 피로도를 추정하는 장치를 도시한다.
도 2a 및 2b는 스테레오 영상의 디스플레이 좌표(display coordinate)를 도시한다.
도 3은 본 발명의 일 실시예에 따른 키스톤 왜곡 모델링을 도시한다.
도 4는 본 발명의 일 실시예 따른 스테레오 영상의 피로도 추정 방법을 설명하기 위한 흐름도이다.1 illustrates an apparatus for estimating fatigue degree of a stereo image according to an exemplary embodiment of the present invention.
2A and 2B show display coordinates of a stereo image.
3 illustrates keystone distortion modeling according to an embodiment of the present invention.
4 is a flowchart illustrating a fatigue estimation method of a stereo image according to an embodiment of the present invention.
이하에서는 도면을 참조하여 본 발명의 실시예들을 상세히 설명한다. Hereinafter, with reference to the drawings will be described embodiments of the present invention;
도 1은 본 발명의 일 실시예에 따른 스테레오 영상의 피로도를 추정하는 장치를 도시한다. 1 illustrates an apparatus for estimating fatigue degree of a stereo image according to an exemplary embodiment of the present invention.
도 1을 참조하면, 본 발명의 일 실시예에 따른 스테레오 영상의 피로도 추정 장치(100)는 변이 계산부(120) 및 피로도 계산부(120)를 포함한다.Referring to FIG. 1, an
변이 계산부(110)는 스테레오 영상에서 피로도 추정에 이용될 특징점을 추출한다. 스테레오 영상의 모든 픽셀들에 대해 좌안 영상 및 우안 영상에서의 변이를 계산하는 밀집 정합(dense matching) 방법들이 이미 제안되어 있다. 그러나, 밀집 정합 방법은 텍스쳐 영역이 적은 영상 등과 같이 특정 영상에서의 변이를 계산하는 방법에는 적합하지 않다. 또한, 밀집 정합 방법은 스테레오 영상의 수평 변이만 존재한다고 가정하기 때문에 스테레오 카메라에 의해 발생하는 키스톤 왜곡(keystone distortion)을 고려하여 수직 변이를 측정하는데 적합하지 않다. The
따라서, 스파스 변이 추정(sparse disparity estimation) 방법이 스테레오 영상의 피로도를 계산하는데 이용되며, 이를 위해 변이 계산부(110)는 스테레오 영상에서 피로도 추정에 이용될 특징점들을 SIFT(Scale-Invariant Feature Transform)을 이용해 추출한다. SIFT는 크기 및 회전에 불변한 특징점들 추출하기 위한 알고리즘으로서 아핀 왜곡(affine distortion)이나 3차원 시점에 강인한 정합을 제공할 수 있다. Therefore, a sparse disparity estimation method is used to calculate a fatigue degree of a stereo image. To this end, the
특징점들이 추출되면 변이 계산부(120)는 스테레오 영상에서 추출된 특징점들의 변이를 계산한다. 스테레오 영상에서 특징점들의 변이는 다음 수학식 1과 같이 정의될 수 있다. When the feature points are extracted, the
Dispih는 영상 좌표에서의 수평 변이를 의미하고, Dispiv는 영상 좌표에서의 수직 변이를 의미한다. Xir, Xil, Yir 및 Yil은 좌안 영상 및 우안 영상에서 동일한 특징점에 대한 x, y 좌표를 의미한다. Disp ih means horizontal shift in image coordinates, and Dis iv means vertical shift in image coordinates. X ir , X il , Y ir, and Y il mean x and y coordinates of the same feature point in the left eye image and the right eye image.
그러나, 수학식 1에 따른 변이들은 시청 환경에 따라 변화하는 깊이 값(depth value)을 고려하지 아니한 변이들이므로, 각변이가 특징점들의 변이를 측정하기 위해 이용될 수 있다. 각변이는 특징점의 3차원 위치에 대한 양안의 각과 특징점이 디스플레이 평면에 투영된 위치에 대한 양안의 각 사이의 차이를 의미한다. 도 2a 및 2b를 참조하여 상세히 설명한다. However, since the variations according to Equation 1 are variations that do not consider the depth value changing according to the viewing environment, each variation may be used to measure the variation of the feature points. Angular variation refers to the difference between the angle of both eyes relative to the three-dimensional position of the feature point and the angle of both eyes relative to the position where the feature point is projected onto the display plane. This will be described in detail with reference to FIGS. 2A and 2B.
도 2a 및 2b는 스테레오 영상의 디스플레이 좌표(display coordinate)를 도시한다. 2A and 2B show display coordinates of a stereo image.
도 2a를 참조하면, 사용자가 정면에서 스테레오 영상을 시청하는 경우에 양안(210 및 211)의 중심 및 디스플레이 평면(220)의 중심을 수직으로 가로지르는 Z 축 상의 위치(230)에 특징점이 있는 경우, 특징점의 각변이는 특징점의 3차원 위치(230)에 대한 양안(210 및 211)의 각도 β와 특징점이 디스플레이 평면에 투영된 위치(231)에 대한 양안(210 및 211)의 각도 α 사이의 차이로 정의될 수 있다. 이를 수학식으로 표현하면 다음의 수학식 2와 같다.Referring to FIG. 2A, when a user views a stereo image from the front, a feature point exists at a
Dispa는 특징점의 각변이를 의미하며, I는 양안(210 및 211) 사이의 거리를 의미하고, V는 양안(210 및 211)과 디스플레이 평면(220) 사이의 거리를 의미한다. Zd는 도 2a의 3차원 위치(230)와 특징점이 디스플레이 평면에 투영된 위치(231) 사이의 거리를 의미한다.Disp a means the angular variation of the feature point, I means the distance between both
특징점의 위치를 3차원으로 보다 일반화하면, 도 2b에 도시된 바와 같을 수 있다. 도 2b를 참조하면, 사용자가 정면에서 스테레오 영상을 시청하는 경우에 특징점의 3차원 위치(240)에 대한 양안(210 및 211)의 각도 β와 특징점이 디스플레이 평면(220)에 투영된 위치(241)에 대한 양안(210 및 211)의 각도 α 사이의 차이가 각변이가 된다. 벡터의 내적(inner product)을 이용해 이를 표현하면, 다음의 수학식 3과 같다. If the location of the feature point is more generalized in three dimensions, it may be as shown in FIG. 2B. Referring to FIG. 2B, when the user views a stereo image from the front, the angle β of the
벡터 a는 좌안의 위치(210)로부터 특징점의 좌안 투영 위치(250) 즉, Pdl=(Xdl, Ydl, Zdl)로의 벡터이고, 벡터 a는 우안의 위치(211)로부터 특징점의 우안 투영 위치(251) 즉, Pdr=(Xdr, Ydr, Zdr)로의 벡터이다. 시청자의 위치 즉, 양안(210 및 211)의 중심이 Pv=(Xv, Yv, Zv)일 때, 좌안의 위치(210)는 Pvl=(Xvl, Yvl, Zvl)=(Xv-I/2, Yv, Zv)이며, 우안의 위치(211)는 Pvr=(Xvr, Yvr, Zvr)=(Xv+I/2, Yv, Zv)이다. 각도 β는 이고, 각도 α는 이며, 각변이 Dispa는 각도 β와 각도 α의 차이를 의미한다. (논문 및 직무 발명서에는 각도 β가 벡터 c와 벡터 d의 내적에서 계산되는 것으로, 각도 α가 벡터 a 및 벡터 b의 내적에서 계산되는 것으로 기재되어 있습니다. 논문의 기재가 옳은지 상기 기재가 옳은지 확인바랍니다.)The vector a is a vector from the
수학식 3에 따라 계산된 각변이 Dispa가 계산되면, 변이 계산부(110)는 각변이로부터 특징점들의 수평 변이 및 수직 변이를 계산한다. 각변이 Dispa는 수평 각변이 및 수직 각변이를 포함하고 있으므로, 각변이 Dispa에서 수평 각변이 및 수직 각변이를 각각 계산할 수 있다. 시청자의 위치가 Pv=(0, 0, -Zv)이고, Zv=Zvl=Zvr이라고 가정하고, 수평 방향 각변이를 구하기 위해 y 축 좌표들을 평균하고, 수직 방향 각변이를 구하기 위해 x 축 좌표들을 평균하면, 수평 각변이 및 수직 각변이는 다음의 수학식 4와 같이 추정될 수 있다.When the disparity calculated by Equation 3 is Disp a , the
Dispah는 특징점의 수평 각변이를 의미하고, Dispav는 특징점의 수직 각변이를 의미한다.(벡터 c와 d는 수학식 3의 벡터 c와 d와 동일한 것을 이용하는 것이 맞는지 확인 부탁드립니다.)Disp ah means the horizontal angular shift of the feature point, and Disp av means the vertical angular shift of the feature point. (Please make sure that the vectors c and d are the same as the vectors c and d in Equation 3.)
특징점들에 대해 각변이가 계산되면, 변이 계산부(110)는 SIFT에 의해 추출된 특징점들을 소정의 알고리즘에 따라 필터링함으로써 정합 오류를 줄 일 수 있다. 예를 들어, SIFT에 의해 추출된 특징점들을 RANSAC(RANdom SAmple Consensus) 알고리즘에 따라 필터링함으로써 정합 오류가 발생하는 특징점들을 제거할 수 있다.
When the angular variation is calculated for the feature points, the
(1) 수평 변이 특성의 추정(1) Estimation of horizontal shift characteristics
수학식 4와 같이 수평 변이가 특징점들 각각에 대해 계산되면, 특징점들의 수평 변이에 기초해 스테레오 영상의 수평 변이 특성을 추정할 수 있다. When the horizontal shift is calculated for each of the feature points as shown in Equation 4, the horizontal shift characteristic of the stereo image may be estimated based on the horizontal shift of the feature points.
(i) 수평 변이의 범위(i) the extent of horizontal variation
스테레오 영상의 수평 변이 특성을 단순화하여 추정하기 위해 특징점들의 수평 변이 중 최대 수평 변이 및 최소 수평 변이를 이용할 수 있다. In order to simplify and estimate the horizontal shift characteristic of the stereo image, the maximum horizontal shift and the minimum horizontal shift among the horizontal shifts of the feature points may be used.
Rangeh1은 수평 변이의 범위를 의미하며, f(l)는 전체 특징점들 중에서 수평 변이가 상대적으로 큰 특징점들을 의미하고, f(s)는 전체 특징점들 중에서 수평 변이가 상대적으로 작은 특징점들을 의미한다. 상기 수학식 5에 따르면, Rangeh1는 특징점들 중에서 수평 변이가 상대적으로 큰 특징점들의 수평 변이를 합한 값에서 특징점들 중에서 수평 변이가 상대적으로 작은 특징점들의 수평 변이를 합한 값을 감산한 값이다. 예를 들어, 전체 fn개의 특징점들을 수평 변위가 큰 순서대로 나열했을 때, f(l)은 수평 변이가 상위 5%~15%에 포함되는 특징점들일 수 있고, f(s)는 상위 85%~95%에 포함되는 특징점들일 수 있다.Range h1 is F (l) means feature points where the horizontal shift is relatively large among the feature points, and f (s) means feature points where the horizontal shift is relatively small among the feature points. According to Equation 5, the range h1 is a value obtained by subtracting the horizontal variation of the feature points having the relatively small horizontal shift from the sum of the horizontal variation of the feature points having the relatively large horizontal shift among the feature points. For example, when all fn feature points are listed in the order of increasing horizontal displacement, f (l) may be feature points whose horizontal shift is included in the top 5% to 15%, and f (s) is the top 85% to It may be feature points included in 95%.
(ii) 특징점의 위치를 고려한 수평 변이의 범위 및 최대 수평 변이(ii) the extent of the horizontal shift and the maximum horizontal shift, taking into account the position of the feature points;
수평 변이의 범위뿐만 아니라 최대 수평 변이도 스테레오 영상의 수평 변이 특성을 추정하는데 이용될 수 있다. The maximum horizontal variation as well as the range of the horizontal variation may be used to estimate the horizontal variation characteristic of the stereo image.
수평 변이들 중 상대적으로 큰 수평 변이가 피로도에 큰 영향을 미치므로, 수평 변이가 큰 특징점들(f(l))의 수평 변이들의 합인 Maxh2도 스테레오 영상의 수평 변이 특성을 추정하는데 이용할 수 있다. 다만, 수평 변이의 절대값이 소정 임계값 즉, thah 이상인 특징점들에 대해서만 Maxh2 및 Rangeh2를 계산한다.Since the relatively large horizontal variation among the horizontal variations greatly affects the fatigue, Max h2 , which is the sum of the horizontal variations of the feature points f (l) having the large horizontal variation, can also be used to estimate the horizontal variation of the stereo image. . However, Max h2 only for feature points whose absolute value of the horizontal shift is greater than or equal to a predetermined threshold, that is, th ah. And Calculate Range h2 .
(iii) 공간 주파수 및 특징점의 위치를 고려한 수평 변이의 범위 및 최대 수평 변이(iii) the extent of the horizontal shift and the maximum horizontal shift, taking into account the spatial frequency and the position of the feature points;
스테레오 영상의 공간 주파수(예를 들어, cpd : cycle per degree)가 증가하면, 쉽게 피로를 느끼는 것이 실험적으로 증명되어 있다. 따라서, 전술한 수학식 6을 공간 주파수에 기초해 가중치를 곱함으로써, 수평 변이의 범위 및 최대 수평 변이를 계산할 수 있다. Experimental evidence has shown that fatigue increases easily as the spatial frequency (eg, cpd: cycle per degree) of stereo images increases. Therefore, by multiplying the above-described equation (6) based on the spatial frequency, the range of the horizontal shift and the maximum horizontal shift can be calculated.
공간 주파수는 스테레오 영상에 소벨(Sobel) 연산을 적용함으로써 생성될 수 있다. 소벨 연산 결과, 생성된 Sobel(f)는 각각의 특징점에 대응된 값들로서 공간 주파수를 나타내는 값이다. Sobel(f)를 픽셀 값의 최대 크기 즉 , 255에 따라 스케일링하고, 상수 λ를 곱함으로써, 가중치인 S(f)를 계산한다. 그런 다음, 가중치 S(f)에 기초해 수평 평위가 큰 특징점들의 수평 변이의 합인 Maxh3 및 수평 변이의 범위인 Rangeh3를 계산한다.
The spatial frequency may be generated by applying a Sobel operation to the stereo image. As a result of the Sobel calculation, the generated Sobel (f) is a value representing a spatial frequency as values corresponding to each feature point. The weight S (f) is calculated by scaling Sobel (f) according to the maximum size of the pixel value, ie 255, and multiplying by the constant λ. Then, based on the weight S (f), Max h3 , which is the sum of the horizontal shifts of the feature points having the large horizontal level, and Range h3 , which is the range of the horizontal shifts, are calculated.
(2) 수직 변이 특성의 추정(2) Estimation of vertical shift characteristics
(i) 수직 변이의 범위(i) the range of vertical variation
스테레오 영상의 수직 변이 특성을 단순화하여 추정하기 위해 특징점들의 수평 변이 중 최대 값 및 최소 값을 이용할 수 있다. In order to simplify and estimate the vertical shift characteristic of the stereo image, the maximum and minimum values among the horizontal shifts of the feature points may be used.
Rangev1은 수직 변이의 범위를 의미하며, f(l)는 전체 특징점들 중에서 수직 변이가 상대적으로 큰 특징점들을 의미하고, f(s)는 전체 특징점들 중에서 수직 변이가 상대적으로 작은 특징점들을 의미한다. 상기 수학식 8에 따르면, Rangev1는 특징점들 중에서 수직 변이가 상대적으로 큰 특징점들의 수직 변이를 합한 값에서 특징점들 중에서 수직 변이가 상대적으로 작은 특징점들의 수직 변이를 합한 값을 감산한 값이다. 예를 들어, 전체 fn개의 특징점들을 수직 변위가 큰 순서대로 나열했을 때, f(l)은 수직 변이가 상위 5%~15%에 포함되는 특징점들일 수 있고, f(s)는 상위 85%~95%에 포함되는 특징점들일 수 있다.Range v1 is The range of vertical variation means f (l) is a feature point where the vertical shift is relatively large among all the feature points, and f (s) refers to feature points where the vertical variation is relatively small among the feature points. According to Equation 8, Range v1 is a value obtained by subtracting the vertical variation of the feature points having a relatively small vertical shift from the sum of the vertical variation of the feature points having a relatively large vertical shift. For example, when all fn feature points are listed in order of increasing vertical displacement, f (l) may be feature points whose vertical variation is included in the top 5% to 15%, and f (s) is the top 85% to It may be feature points included in 95%.
(ii) 특징점의 위치를 고려한 수직 변이의 범위 및 최대 수직 변이(ii) the range of vertical shifts and the maximum vertical shifts taking into account the position of the feature points;
수직 변이의 범위뿐만 아니라 최대 수직 변이도 스테레오 영상의 수직 변이 특성을 추정하는데 이용될 수 있다. The maximum vertical shift as well as the range of vertical shift may be used to estimate the vertical shift characteristic of the stereo image.
수직 변이의 경우에는 상대적으로 큰 변이와 상대적으로 작은 변이 모두 피로도에 영향을 미친다. 따라서, 수직 변이가 상대적으로 큰 특징점들(f(l))의 수직 변이들의 합에 대한 절대 값과 수직 변이가 상대적으로 작은 특징점들(f(s))의 수직 변이들의 합에 대한 절대 값을 비교하여 더 큰 절대 값을 Maxv2로 설정하고, 스테레오 영상의 수직 변이 특성을 추정하는데 이용할 수 있다. 다만, 수직 변이의 절대값이 소정 임계값 즉, thah 이상인 특징점들에 대해서만 Maxv2 및 Rangev2를 계산한다. 다만, 수직 변이의 경우에는 및 중 더 큰 값이 더 큰 피로를 야기하므로, 및 를 비교하여, Maxv2를 결정하는 것이 수학식 6과 상이하다.(특징점들 중 수평 변이가 큰 특징점들의 수평 변이의 합, 즉 Maxv2를 계산하는 방법이 수학식 6과 상이한 이유를 아주 상세히 설명해주시기 바랍니다.)In the case of vertical variation, both relatively large and relatively small variations affect fatigue. Therefore, the absolute value of the sum of the vertical shifts of the feature points f (l) having a relatively large vertical shift and the sum of the vertical shifts of the feature points f (s) having a relatively small vertical shift are given. In comparison, a larger absolute value can be set to Max v2 and used to estimate the vertical shift characteristic of the stereo image. However, Max v2 only for feature points whose absolute value of the vertical shift is greater than or equal to a predetermined threshold, that is, th ah. And Range v2 . However, in the case of vertical variation And Of the larger values cause more fatigue, And The comparison, it is different from the equation (6) to determine the Max v2. (Feature points the sum of the horizontal variation, the horizontal variation of the large characteristic point of, i.e., the method of calculating the Max v2 very detailed description of Equation (6) with different reasons Please.)
(iii) 키스톤 왜곡 모델링(keystone distortion modeling)(iii) keystone distortion modeling
대부분의 수직 변이는 카메라 설정에 의해 발생한다. 카메라의 분리(separation), 결합 거리(convergence distance) 및 초점 거리에 의해 키스톡 왜곡이 발생한다. 키스톤 왜곡에 의해 발생하는 수직 변이는 특정점의 수직 좌표에 의해 스케일링될 수 있으므로, 정규화(normalization)가 수행될 수 있다. Most vertical shifts are caused by camera settings. Keystalk distortion occurs due to separation of the camera, convergence distance and focal length. Since the vertical shift caused by the keystone distortion can be scaled by the vertical coordinate of the specific point, normalization can be performed.
최소 자승법(least square method)에 의해 복수의 특징점들에 대한 선형 방정식(320) y=ax+b를 추정할 수 있다. 특징점의 수평 좌표인 Xi(f)를 선형 방정식(320)의 x로 설정하고, 정규화된 수직 변이 Normalized_Dispiv(f)를 선형 방정식(320)의 y로 설정한 다음, 복수의 특징점들에 대해 최소 자승법을 적용하면, 특징점들에 대한 선형 방정식(320)을 추정할 수 있다. The linear equation 320 y = ax + b for a plurality of feature points may be estimated by a least square method. Set X i (f), the horizontal coordinate of the feature point, to x in the linear equation (320), set Normalized_Disp iv (f) to y in the linear equation (320), and then for a plurality of feature points. Applying the least squares method, the
도 3은 본 발명의 일 실시예에 따른 키스톤 왜곡 모델링을 도시한다. 3 illustrates keystone distortion modeling according to an embodiment of the present invention.
도 3을 참조하면, 키스톤 왜곡에 의해 발생된 수직 변이들(310 내지 316)을 최소 자승법에 의해 추정된 선형 방정식(320)에 따른 선 위의 정규화된 수직 변이들(330 내지 333)로 정규화시킨다. 이때, 수직 좌표가 소정 값(th) 이하인 수직 변이들은 정규화에 의해 발생하는 오류를 최소화하기 위해 정규화하지 않는다. 정규화된 수직 변이는 다음 수학식 11에 의해 계산된다. Referring to FIG. 3, normalized
상기 수학식 10에서 col은 영상의 세로 방향 크기를 나타내고, Yi(f)는 특징점의 수직 좌표를 의미한다. 상기 수학식 10에 따라 수직 변이들을 정규화함으로써, 특징점들에 대한 선형 방정식(320)을 추정하고, 선형 방정식(320)의 기울기 a 및 y 축 절편 b를 수직 변이 특성으로 이용한다. In Equation 10, col denotes a vertical size of an image, and Yi (f) denotes a vertical coordinate of a feature point. By normalizing the vertical shifts according to Equation 10, the
변이 추정부(110)가 전술한 수학식 5 내지 10을 통해 스테레오 영상의 수평 변이을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하면, 피로도 추정부(120)는 스테레오 영상의 피로도를 Fatigue = c1Dh+c2Dv+c3 또는 Fatugue = c1Dh1+c2Dh2+c3Dv1+c4Dv2+c3 에 의해 추정할 수 있다. Dh는 스테레오 영상의 수평 변이 특성을 나타내는 값이고 Dv는 스테레오 영상의 수직 변이 특성을 나타내는 값이다. When the
예를 들어, Dh는 수학식 5에 따른 Rangeh1에 대응될 수 있다. 또한, Dh1 및 Dh2는 수학식 6에 따른 Maxh2 및 Rangeh2에 대응되거나, 수학식 7에 따른 Maxh3 및 Rangeh3에 대응될 수 있다. For example, D h may correspond to Range h1 according to Equation 5. In addition, D h1 And D h2 may correspond to Max h2 and Range h2 according to Equation 6, or may correspond to Max h3 and Range h3 according to Equation 7.
마찬가지로, Dv는 수학식 8에 따른 Rangev1에 대응될 수 있다. 또한, Dv1 및 Dv2는 수학식 9에 따른, Maxv2 및 Rangev2에 대응되거나, 키스톤 왜곡 모델링을 통해 얻어진 선형 방정식(320)의 a 및 b에 대응될 수 있다. Similarly, D v may correspond to Range v 1 according to Equation 8. Also, D v1 And D v2 may correspond to Max v2 and Range v2 according to Equation 9, or may correspond to a and b of
c1, c2 및 c3 복수의 상이한 스테레오 영상을 분석하고, 분석 결과 얻어진 데이터에 대해 1차원 선형 회기 분석을 적용함으로써 c1, c2 및 c3을 다음의 수학식 12와 같이 계산할 수 있다. c1, c2 and c3 By analyzing a plurality of different stereo images and applying one-dimensional linear regression analysis to the data obtained as a result of analysis, c1, c2 and c3 can be calculated as in the following equation (12).
Dh(pk)는 k 번째 스테레오 영상의 수평 변이 특성을 나타내는 값이고 Dv(pk)는 k 번째 스테레오 영상의 수평 변이 특성을 나타내는 값이다. dk는 k번째 스테레오 영상에 대한 시청자의 주관적인 피로도 값이다. n은 실험에 이용된 전체 스테레오 영상의 개수를 나타낸다. 복수의 스테레오 영상에 대해 시청자의 주관적인 피로도 값을 실험을 통해 추정하고, 추정된 주관적인 피로도 값과 수학식 6 내지 11을 통해 구해진 수평 변이 특성을 나타내는 값 및 수평 변이 특성을 나타내는 값 사이의 상관 관계를 회귀 분석을 통해 분석함으로써 C 행렬을 구할 수 있다. D h (p k ) is a value indicating the horizontal shift characteristic of the k-th stereo image and D v (p k ) is a value indicating the horizontal shift characteristic of the k-th stereo image. d k is the subjective fatigue value of the viewer for the k-th stereo image. n represents the total number of stereo images used in the experiment. The subjective fatigue value of the viewer is estimated through experiments for a plurality of stereo images, and the correlation between the estimated subjective fatigue value and the value indicating the horizontal shift characteristic and the value indicating the horizontal shift characteristic obtained through Equations 6 to 11 Regression analysis can be used to find C matrices.
Dh 및 Dv가 수학식 6, 7, 9 및 10에서 계산된 바와 같이 복수의 값에 대응되는 경우에 c1, c2, c3, c4 및 c5는 다음과 같이 계산할 수 있다.When D h and D v correspond to a plurality of values as calculated in Equations 6, 7, 9 and 10, c1, c2, c3, c4 and c5 may be calculated as follows.
상기 수학식 12에서 Dh1(pk) 및 Dh2(pk)는 k 번째 스테레오 영상의 수평 변이 특성을 나타내는 복수의 값으로서 수학식 6의 Maxh2 및 Rangeh2에 각각 대응되거나, 수학식 7의 Maxh3 및 Rangeh3에 각각 대응될 수 있다. In Equation 12, D h1 (p k ) and D h2 (p k ) correspond to Max h2 and Range h2 of Equation 6 as a plurality of values representing horizontal shift characteristics of the k-th stereo image, or Equation 7 May correspond to Max h3 and Range h3 , respectively.
또한, Dv1(pk) 및 Dv2(pk)는 k 번째 스테레오 영상의 수직 변이 특성을 나타내는 복수의 값으로서 수학식 9의 Maxv2 및 Rangev2에 각각 대응되거나, 키스톤 왜곡 모델링을 통해 얻어진 선형 방정식(320)의 a 및 b에 각각 대응될 수 있다.In addition, D v1 (p k ) and D v2 (p k ) are a plurality of values representing vertical shift characteristics of the k-th stereo image and correspond to Max v2 and Range v2 of Equation 9, respectively, or are obtained through keystone distortion modeling. Correspond to a and b of the
스테레오 영상의 피로도가 Fatigue = c1Dh+c2Dv+c3 또는 Fatugue = c1Dh1+c2Dh2+c3Dv1+c4Dv2+c3 에 의해 추정되면, 이에 기초해 스테레오 영상을 수정함으로써 시청자가 느끼는 QoS(Quality of Service)를 향상시킬 수 있다. 스테레오 영상의 인코딩 과정에서 스테레오 영상의 피로도를 미리 추정하고, 피로도가 큰 것으로 판단되면, 피로도가 작아지도록 깊이감을 조절하여 피로도를 낮추거나, 카메라 설정 및 카메라 파라미터를 조정하여 스테레오 영상을 부호화할 수 있다. 또한, 스테레오 영상의 디코딩 과정에서는 스테레오 영상을 디스플레이 하기 전에 디코딩된 스테레오 영상의 피로도를 미리 추정하여 깊이감을 조절하거나, 카메라 파라미터를 조정할 수 있다. 스테레오 영상을 디스플레이할 때 피로도에 대해 시청자에게 미리 경고 메시지를 디스플레이 할 수도 있다.Fatigue of stereo image Fatigue = c 1 D h + c 2 D v + c 3 Or, if estimated by Fatugue = c 1 D h1 + c 2 D h2 + c 3 D v1 + c 4 D v2 + c 3 , modify the stereo image based on this to improve the quality of service (QoS) that the viewer feels. Can be. In the encoding process of the stereo image, the fatigue degree of the stereo image is estimated in advance, and if it is determined that the fatigue degree is large, the depth may be reduced by adjusting the depth to reduce the fatigue degree, or the stereo image may be encoded by adjusting the camera settings and the camera parameters. . In addition, in the decoding process of the stereo image, before the stereo image is displayed, fatigue of the decoded stereo image may be estimated in advance to adjust depth or camera parameters. When displaying a stereo image, a warning message may be displayed to the viewer in advance about fatigue.
도 4는 본 발명의 일 실시예 따른 스테레오 영상의 피로도 추정 방법을 설명하기 위한 흐름도이다. 4 is a flowchart illustrating a fatigue estimation method of a stereo image according to an embodiment of the present invention.
도 4를 참조하면, 단계 410에서 본 발명의 일 실시예에 따른 피로도 추정 장치(100)는 입력된 스테레오 영상의 특징점들을 추출한다. 전술한 바와 같이 SIFT를 이용해 스테레오 영상의 특징점을 추출할 수 있다. 또한, 추출된 특징점들을 RANSAC 알고리즘을 통해 필터링함으로써 피로도 추정에 오류를 발생시키는 특징점들을 피로도 추정에서 제외할 수도 있다. Referring to FIG. 4, in
단계 420에서 피로도 추정 장치(100)는 단계 410에서 추출된 특징점들의 수평 변이 및 수직 변이를 추정한다. 전술한 바와 같이 영상 좌표에서의 특징점들의 수평 변이 및 수직 변이를 추정할 수도 있고, 수평 각변이 및 수직 각변이를 추정할 수도 있다.In
단계 430에서 피로도 추정 장치(100)는 단계 420에서 추정된 특징점들의 수평 변이 및 수직 변이에 기초해 입력된 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성한다.In
수학식 5 내지 10과 관련하여 전술한 값들 즉, Rangeh1, Maxh2, Rangeh2, Maxh3, Rangeh3, Rangev1, Maxv2, Rangev2, a 및 b 등이 생성될 수 있다. The above-described values with respect to Equations 5 to 10, that is, Range h1 , Max h2 , Range h2 , Max h3 , Range h3 , Range v1 , Max v2 , Range v2 , a and b may be generated.
단계 440에서 피로도 추정 장치(100)는 단계 430에서 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 스테레오 영상의 피로도를 추정한다. In
스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 Fatigue = c1Dh+c2Dv+c3 또는 Fatugue = c1Dh1+c2Dh2+c3Dv1+c4Dv2+c3를 계산함으로써 스테레오 영상의 피로도를 추정할 수 있다.Based on at least one value representing the horizontal shift characteristic of the stereo image and at least one value representing the vertical shift characteristic Fatigue = c 1 D h + c 2 D v + c 3 Alternatively, the fatigue of the stereo image may be estimated by calculating Fatugue = c 1 D h1 + c 2 D h2 + c 3 D v1 + c 4 D v2 + c 3 .
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명이 상기의 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명의 사상은 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이와 균등하거나 또는 등가적인 변형 모두는 본 발명 사상의 범주에 속한다 할 것이다. 또한, 본 발명에 따른 시스템은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. As described above, although the present invention has been described by way of limited embodiments and drawings, the present invention is not limited to the above-described embodiments, which can be variously modified and modified by those skilled in the art to which the present invention pertains. Modifications are possible. Accordingly, the spirit of the invention should be understood only by the claims set forth below, and all equivalent or equivalent modifications will fall within the scope of the invention. In addition, the system according to the present invention can be embodied as computer readable codes on a computer readable recording medium.
예를 들어, 본 발명의 예시적인 실시예에 따른 피로도 추정 장치는 도 1에 도시된 바와 같은 장치의 각각의 유닛들에 커플링된 버스, 상기 버스에 결합된 적어도 하나의 프로세서를 포함할 수 있다. 또한, 명령, 수신된 메시지 또는 생성된 메시지를 저장하기 위해 상기 버스에 결합되어, 전술한 바와 같은 명령들을 수행하기 위한 적어도 하나의 프로세서에 커플링된 메모리를 포함할 수 있다. For example, a fatigue estimation apparatus according to an exemplary embodiment of the present invention may include a bus coupled to respective units of the apparatus as shown in FIG. 1, and at least one processor coupled to the bus. . It may also include a memory coupled to the bus for storing instructions, received messages or generated messages and coupled to at least one processor for performing instructions as described above.
또한, 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광데이터 저장장치 등을 포함한다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.The computer-readable recording medium also includes all kinds of recording devices in which data that can be read by a computer system is stored. Examples of the recording medium include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device and the like. The computer readable recording medium can also be distributed over network coupled computer systems so that the computer readable code is stored and executed in a distributed fashion.
Claims (17)
상기 특징점들의 상기 특징점들의 수평 변이 및 수직 변이를 추정하는 단계;
상기 특징점들의 수평 변이 및 수직 변이에 기초해, 상기 스테레오 영상의 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값을 생성하는 단계; 및
상기 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 상기 스테레오 영상의 피로도를 추정하는 단계를 포함하고,
상기 수평 변이 특성을 나타내는 적어도 하나의 값은, 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합에서 상기 수평 변이가 상대적으로 작은 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합을 감산한 제1 값과, 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들을 합한 제2 값을 포함하고,
상기 수직 변이 특성을 나타내는 적어도 하나의 값은, 상기 특징점들의 수직 좌표를 x로 설정하고, 상기 특징점들의 수직 변이를 정규화하여 생성된 정규화된 수직 변이를 y로 설정한 다음, 최소 자승법에 의해 추정된 y=ax+b의 a 및 b를 포함하는 것을 특징으로 하는 스트레오 영상의 피로도 추정 방법.Extracting feature points of a stereo image;
Estimating horizontal and vertical shifts of the feature points of the feature points;
Generating at least one value representing a horizontal shift characteristic of the stereo image and at least one value representing a vertical shift characteristic based on the horizontal shift and the vertical shift of the feature points; And
Estimating the fatigue degree of the stereo image based on at least one value representing the generated horizontal shift characteristic and at least one value representing the vertical shift characteristic,
The at least one value representing the horizontal shift characteristic may be equal to a horizontal shift of feature points having a relatively small horizontal shift from a sum of values obtained by multiplying a horizontal shift of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency. A first value obtained by subtracting a sum of values multiplied by a weight based on a spatial frequency, and a second value obtained by adding a value obtained by multiplying a horizontal variation of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency;
The at least one value representing the vertical shift characteristic is set by a vertical coordinate of the feature points to x, a normalized vertical shift generated by normalizing the vertical shift of the feature points to y, and then estimated by a least squares method. A fatigue estimation method of a stereo image, comprising a and b of y = ax + b.
상기 특징점들 중 수직 변이가 상대적으로 큰 특징점들의 수직 변이의 합에서 상기 수직 변이가 상대적으로 작은 특징점들의 합을 감산한 제3 값을 더 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 방법.The method of claim 1, wherein the at least one value representing the vertical shift characteristic is
And a third value obtained by subtracting a sum of feature points having a relatively small vertical shift from a sum of vertical shifts of feature points having a relatively large vertical shift among the feature points.
상기 특징점들 중 수직 변이가 상대적으로 큰 특징점들의 수직 변이의 합에 대한 절대 값 및 상기 특징점들 중 수직 변이가 상대적으로 작은 특징점들의 수직 변이의 합에 대한 절대 값 중 더 큰 제4 값을 더 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 방법.7. The method of claim 6, wherein at least one value representing the vertical shift characteristic is
An absolute value for the sum of the vertical shifts of the feature points having a relatively high vertical shift among the feature points, and a fourth value greater than the absolute value for the sum of the vertical shifts of the feature points for which the vertical shift among the feature points is relatively small; A fatigue estimation method of a stereo image, characterized in that.
상기 생성된 수평 변이 특성을 나타내는 적어도 하나의 값 및 수직 변이 특성을 나타내는 적어도 하나의 값에 기초해 상기 스테레오 영상의 피로도를 추정하는 피로도 추정부를 포함하고,
상기 수평 변이 특성을 나타내는 적어도 하나의 값은, 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합에서 상기 수평 변이가 상대적으로 작은 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들의 합을 감산한 제1 값과, 상기 특징점들 중 수평 변이가 상대적으로 큰 특징점들의 수평 변이와 공간 주파수에 기초한 가중치를 곱한 값들을 합한 제2 값을 포함하고,
상기 수직 변이 특성을 나타내는 적어도 하나의 값은, 상기 특징점들의 수직 좌표를 x로 설정하고, 상기 특징점들의 수직 변이를 정규화하여 생성된 정규화된 수직 변이를 y로 설정한 다음, 최소 자승법에 의해 추정된 y=ax+b의 a 및 b를 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 장치.Extracting feature points of the stereo image, estimating a horizontal shift and a vertical shift of the feature points of the feature points, and based on the horizontal shift and the vertical shift of the feature points, at least one value representing a horizontal shift characteristic of the stereo image and A variation estimator for generating at least one value representing the vertical variation characteristic; And
A fatigue estimator configured to estimate a fatigue degree of the stereo image based on at least one value indicating the generated horizontal shift characteristic and at least one value indicating the vertical shift characteristic;
The at least one value representing the horizontal shift characteristic may be equal to a horizontal shift of feature points having a relatively small horizontal shift from a sum of values obtained by multiplying a horizontal shift of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency. A first value obtained by subtracting a sum of values multiplied by a weight based on a spatial frequency, and a second value obtained by adding a value obtained by multiplying a horizontal variation of feature points having a relatively large horizontal shift among the feature points and a weight based on a spatial frequency;
The at least one value representing the vertical shift characteristic is set by a vertical coordinate of the feature points to x, a normalized vertical shift generated by normalizing the vertical shift of the feature points to y, and then estimated by a least squares method. An apparatus for estimating fatigue of a stereo image, comprising a and b of y = ax + b.
상기 특징점들 중 수직 변이가 상대적으로 큰 특징점들의 수직 변이의 합에서 상기 수직 변이가 상대적으로 작은 특징점들의 합을 감산한 제3 값을 더 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 장치.10. The method of claim 9, wherein at least one value representing the vertical shift characteristic is
And a third value obtained by subtracting a sum of feature points having a relatively small vertical shift from a sum of vertical shifts of feature points having a relatively vertical vertical shift among the feature points.
상기 특징점들 중 수직 변이가 상대적으로 큰 특징점들의 수직 변이의 합에 대한 절대 값 및 상기 특징점들 중 수직 변이가 상대적으로 작은 특징점들의 수직 변이의 합에 대한 절대 값 중 더 큰 제4 값을 더 포함하는 것을 특징으로 하는 스테레오 영상의 피로도 추정 장치.15. The method of claim 14, wherein at least one value representing the vertical shift characteristic is
An absolute value for the sum of the vertical shifts of the feature points having a relatively high vertical shift among the feature points, and a fourth value greater than the absolute value for the sum of the vertical shifts of the feature points for which the vertical shift among the feature points is relatively small; The fatigue estimation device of the stereo image, characterized in that.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020100073381A KR101150871B1 (en) | 2010-07-29 | 2010-07-29 | Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020100073381A KR101150871B1 (en) | 2010-07-29 | 2010-07-29 | Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20120011529A KR20120011529A (en) | 2012-02-08 |
KR101150871B1 true KR101150871B1 (en) | 2012-06-13 |
Family
ID=45835734
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020100073381A KR101150871B1 (en) | 2010-07-29 | 2010-07-29 | Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101150871B1 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102281184B1 (en) | 2014-11-20 | 2021-07-23 | 삼성전자주식회사 | Method and apparatus for calibrating image |
CN115901191B (en) * | 2022-12-12 | 2023-09-05 | 复旦大学 | Quantification method, system, equipment and medium for parallax fatigue of head-up display system |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11355808A (en) * | 1998-06-04 | 1999-12-24 | Olympus Optical Co Ltd | Video system |
-
2010
- 2010-07-29 KR KR1020100073381A patent/KR101150871B1/en not_active IP Right Cessation
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11355808A (en) * | 1998-06-04 | 1999-12-24 | Olympus Optical Co Ltd | Video system |
Also Published As
Publication number | Publication date |
---|---|
KR20120011529A (en) | 2012-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9137512B2 (en) | Method and apparatus for estimating depth, and method and apparatus for converting 2D video to 3D video | |
US7944444B2 (en) | 3D image processing apparatus and method | |
US8116557B2 (en) | 3D image processing apparatus and method | |
US9277207B2 (en) | Image processing apparatus, image processing method, and program for generating multi-view point image | |
EP2477158B1 (en) | Multi-view rendering apparatus and method using background pixel expansion and background-first patch matching | |
Conze et al. | Objective view synthesis quality assessment | |
CA2726208C (en) | System and method for depth extraction of images with forward and backward depth prediction | |
US20110032341A1 (en) | Method and system to transform stereo content | |
US20100073364A1 (en) | Conversion method and apparatus with depth map generation | |
US20120127270A1 (en) | Depth estimation based on global motion | |
US20120127267A1 (en) | Depth estimation based on global motion | |
CA2729106A1 (en) | System and method for depth extraction of images with motion compensation | |
US9154762B2 (en) | Stereoscopic image system utilizing pixel shifting and interpolation | |
KR20110014067A (en) | Method and system for transformation of stereo content | |
Bosc et al. | Visual quality assessment of synthesized views in the context of 3D-TV | |
Farid et al. | Perceptual quality assessment of 3D synthesized images | |
Bosc et al. | An edge-based structural distortion indicator for the quality assessment of 3D synthesized views | |
EP2525324B1 (en) | Method and apparatus for generating a depth map and 3d video | |
JP5210416B2 (en) | Stereoscopic image generating apparatus, stereoscopic image generating method, program, and recording medium | |
KR101150871B1 (en) | Method and apparatus for calculating fatigue of stereoscopic image based on horizontal disparity and vertical disparity | |
De Sorbier et al. | Augmented reality for 3D TV using depth camera input | |
Ryu et al. | Synthesis quality prediction model based on distortion intolerance | |
US20130229408A1 (en) | Apparatus and method for efficient viewer-centric depth adjustment based on virtual fronto-parallel planar projection in stereoscopic images | |
Hua et al. | A depth optimization method for 2D-to-3D conversion based on RGB-D images | |
EP2657909B1 (en) | Method and image processing device for determining disparity |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20150429 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20160519 Year of fee payment: 5 |
|
FPAY | Annual fee payment |
Payment date: 20170522 Year of fee payment: 6 |
|
LAPS | Lapse due to unpaid annual fee |