JP2012100084A - Stereoscopic image display device and stereoscopic image display method - Google Patents

Stereoscopic image display device and stereoscopic image display method Download PDF

Info

Publication number
JP2012100084A
JP2012100084A JP2010246130A JP2010246130A JP2012100084A JP 2012100084 A JP2012100084 A JP 2012100084A JP 2010246130 A JP2010246130 A JP 2010246130A JP 2010246130 A JP2010246130 A JP 2010246130A JP 2012100084 A JP2012100084 A JP 2012100084A
Authority
JP
Japan
Prior art keywords
image
eye
video signal
reference point
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010246130A
Other languages
Japanese (ja)
Inventor
Shingo Takahashi
信吾 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2010246130A priority Critical patent/JP2012100084A/en
Publication of JP2012100084A publication Critical patent/JP2012100084A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To facilitate confirmation of a superimposed image by making it easy to concentrate on observation of a stereoscopic image.SOLUTION: A signal input part 101 acquires a signal containing a stereoscopic image signal. A right and left image separation part 102 separates the stereoscopic image signal acquired by the signal input part 101 into a right-eye image signal and a left-eye image signal. An expansion/reduction part 104 changes the right-eye image signal and the left-eye image signal with the centers of respective expansion and reduction as reference points. A right and left image composition part 105 composes the right-eye image signal and the left-eye image signal expanded or reduced by the expansion/reduction part 104. A display 106 displays the stereoscopic image signal composed by the right and left image composition part 105.

Description

本発明は、左目用映像と右目用映像とをそれぞれ左目と右目で観察することで観察者が立体視できる立体映像表示装置および立体映像表示方法に関する。   The present invention relates to a stereoscopic video display apparatus and a stereoscopic video display method that enable an observer to stereoscopically view a left-eye video and a right-eye video by observing the left-eye video and the right-eye video with the left eye and the right eye, respectively.

立体映像の立体感を損なうことなく、立体放送番組視聴中に緊急放送などのテロップを画面に表示する方法として、受信信号にテロップデータがあることを判別するとパイロットランプを点灯させ、観察者がそれに気がついてリモコン操作をすると、視差の付加されたテロップ情報が映像表示部にOSD表示される技術が特開平10−327430号公報(特許文献1)に開示されている。また、立体映像及びそのフレーム内でテロップを付与したい立体視オブジェクトを認識し、自動的に立体視オブジェクトの傍に視差の付加されたテロップを付与する技術が特開2006−32516号公報(特許文献2)に開示されている。   As a method of displaying emergency broadcasts and other telops on the screen while viewing a 3D broadcast program without losing the stereoscopic effect of the 3D image, the pilot lamp is turned on when the received signal contains telop data, and the observer Japanese Laid-Open Patent Publication No. 10-327430 (Patent Document 1) discloses a technique in which telop information to which parallax is added is OSD-displayed on a video display unit when a remote controller operation is noticed. Japanese Laid-Open Patent Publication No. 2006-32516 (Patent Document) discloses a technique for recognizing a stereoscopic image and a stereoscopic object to which a telop is to be added within the frame and automatically adding a telop with parallax added to the side of the stereoscopic object. 2).

特開平10−327430号公報Japanese Patent Laid-Open No. 10-327430 特開2006−32516号公報JP 2006-32516 A

しかしながら、特許文献1に開示された技術では、立体映像の視聴において観察者は立体映像の特に至近の映像に集中して観察するため、表示装置の距離にあるパイロットランプに気が付かず、また気が付くと眼の輻輳が至近映像から離れてしまうことで至近の映像に集中できないなどの課題があった。また、特許文献2に開示された、立体映像中にテロップを付与する技術においても、映像オブジェクトに関連したテロップばかりでは無いため、映像オブジェクトに関連しないテロップに対しては適切な表示ができるものではないという課題があった。
そこで本発明は、立体映像の観察において観察のための集中を楽にすることと、そのことでテロップや各種のOSD等(以下、重畳画像という)の確認をしやすくすることとを備えた立体映像表示装置を提供することを目的とする。
However, in the technique disclosed in Patent Document 1, since the observer concentrates on the close-up image of the stereoscopic image when viewing the stereoscopic image, the pilot lamp located at the distance of the display device is not aware of the pilot lamp. There were problems such as being unable to concentrate on the close-up video because the eye congestion was away from the close-up video. Also, in the technology for providing a telop in a stereoscopic video disclosed in Patent Document 2, since it is not only a telop related to a video object, an appropriate display cannot be performed for a telop not related to a video object. There was no problem.
Therefore, the present invention makes it easy to concentrate for observation in the observation of stereoscopic images, and thereby facilitates confirmation of telops and various OSDs (hereinafter referred to as superimposed images). An object is to provide a display device.

上記した課題を解決するために、本発明は次の(a)〜(d)の立体映像表示装置および(e)の立体映像表示方法を提供する。
(a)立体映像信号を含む映像信号を入力する映像信号入力部(101)と、入力された立体映像信号を左目用映像信号と右目用映像信号に分離する左右映像分離部(102)と、左目用映像を拡大縮小する中心である第1の基準点と右目用映像を拡大縮小する中心である第2の基準点のそれぞれを基準点としてして左目用映像信号と右目用映像信号を変更する拡大縮小部(104)と、変更された左目用映像信号と右目用映像信号を合成する左右映像合成部(105)と、左目用映像信号と右目用映像信号が合成された映像信号を立体映像として知覚されるように表示する表示部(106)とを有し、前記左右映像合成部は、前記第1の基準点と前記第2の基準点の表示部上の間隔を拡大縮小の前後で変えず、また前記拡大縮小部は前記第1の基準点と前記第2の基準点を両眼視差の基となる左右映像がずれる方向と平行な同一線上に設定することを特徴とする立体映像表示装置。
(b)視差を備えた左目用重畳画像信号と右目用重畳画像信号を生成する重畳画像生成部(202)と、前記左右映像合成部に入力される前の左目用映像信号と右目用映像信号に前記視差を備えた左目用重畳画像信号と右目用重畳画像信号をそれぞれ合成する重畳画像合成部(203)と、を更に備え、前記視差を備えた左目用重畳画像信号と右目用重畳画像信号を合成するときには、拡大縮小部にて左目用映像信号と右目用映像信号のそれぞれを、、前記第1の基準点と前記第2の基準点を中心に縮小するために前記左目用映像信号と前記右目用映像信号を変更する、(a)記載の立体映像表示装置。
(c)前記第1の基準点と前記第2の基準点の内少なくとも片方が表示画面上の外側に位置する、(a)または(b)に記載の立体映像表示装置。
(d)前記重畳画像が表示される位置に応じて、前記第1の基準点と前記第2の基準点の位置を設定する、(b)または(c)記載の立体映像信号表示装置。
(e)立体映像信号を含む映像信号を入力する映像信号入力ステップと、入力された立体映像信号を左目用映像信号と右目用映像信号に分離する左右映像分離ステップと、左目用映像と右目用映像のそれぞれを、両眼視差の基となる左右映像がずれる方向と平行な同一線上に設定した拡大縮小のそれぞれの中心を第1の基準点および第2の基準点として左目用映像信号と右目用映像信号を変更する拡大縮小ステップと、変更された左目用映像信号と右目用映像信号を前記第1の基準点と前記第2の基準点の表示部上の間隔を拡大縮小前後で変えずに合成する左右映像合成ステップと、左目用映像信号と右目用映像信号が合成された映像信号を立体映像として知覚されるように表示する表示ステップとを有することを特徴とする立体映像表示方法。
In order to solve the above-described problems, the present invention provides the following three-dimensional image display devices (a) to (d) and the three-dimensional image display method (e).
(A) a video signal input unit (101) for inputting a video signal including a stereoscopic video signal, a left-right video separation unit (102) for separating the input stereoscopic video signal into a left-eye video signal and a right-eye video signal, The left-eye video signal and the right-eye video signal are changed with the first reference point that is the center for scaling the left-eye video and the second reference point that is the center for scaling the right-eye video as the reference points. An enlargement / reduction unit (104), a left / right video synthesis unit (105) that synthesizes the changed left-eye video signal and the right-eye video signal, and a video signal obtained by synthesizing the left-eye video signal and the right-eye video signal. A display unit (106) that displays the image so as to be perceived as an image, and the left and right image synthesis unit sets the interval between the first reference point and the second reference point on the display unit before and after the enlargement or reduction. And the enlargement / reduction portion is not Stereoscopic image display apparatus characterized by setting a reference point and the upper second direction parallel to the same line of left and right images are shifted to a reference point as a base of the binocular parallax.
(B) a superimposed image generation unit (202) that generates a left-eye superimposed image signal and a right-eye superimposed image signal having parallax, and a left-eye video signal and a right-eye video signal before being input to the left-right video synthesis unit And a superimposed image combining unit (203) for respectively combining the left-eye superimposed image signal and the right-eye superimposed image signal having the parallax, and the left-eye superimposed image signal and the right-eye superimposed image signal having the parallax. Are combined with the left-eye video signal in order to reduce the left-eye video signal and the right-eye video signal, respectively, with the first reference point and the second reference point as the center. The stereoscopic video display device according to (a), wherein the right-eye video signal is changed.
(C) The three-dimensional image display device according to (a) or (b), wherein at least one of the first reference point and the second reference point is located outside the display screen.
(D) The stereoscopic video signal display device according to (b) or (c), wherein the positions of the first reference point and the second reference point are set according to a position where the superimposed image is displayed.
(E) a video signal input step for inputting a video signal including a stereoscopic video signal, a left-right video separation step for separating the input stereoscopic video signal into a left-eye video signal and a right-eye video signal, a left-eye video and a right-eye The left eye video signal and the right eye with the respective centers of enlargement / reduction set as the first reference point and the second reference point on the same line parallel to the direction in which the left and right images that are the basis of binocular parallax are shifted An enlargement / reduction step for changing the video signal for the image, and the changed left-eye video signal and the right-eye video signal without changing the interval on the display portion between the first reference point and the second reference point before and after the enlargement / reduction. 3D video display method, comprising: a left and right video synthesis step for synthesizing the video signal; and a display step for displaying the video signal obtained by synthesizing the left-eye video signal and the right-eye video signal so as to be perceived as a stereoscopic video. .

本発明の立体映像表示装置によれば、観察のための集中を楽にし、そのことで重畳画像の確認をしやすくすることができる。   According to the three-dimensional image display device of the present invention, it is possible to facilitate the concentration for observation, thereby facilitating the confirmation of the superimposed image.

立体カメラによる撮影と、立体映像表示装置による表示の例を説明するための図である。It is a figure for demonstrating the example of imaging | photography with a stereoscopic camera, and the display by a stereoscopic video display apparatus. 立体カメラにより撮影した立体映像を拡大縮小した後に立体映像表示装置に表示した場合の結像位置を比較するための図である。It is a figure for comparing the image formation position at the time of displaying on a stereo image display apparatus, after expanding and reducing the stereo image image | photographed with the stereo camera. 本発明の実施形態1に係る、立体映像表示装置の構成を示すブロック図である。It is a block diagram which shows the structure of the three-dimensional video display apparatus based on Embodiment 1 of this invention. 本発明の実施形態1に係る、立体映像表示装置の動作を説明すためのフローチャートである。It is a flowchart for demonstrating operation | movement of the three-dimensional video display apparatus based on Embodiment 1 of this invention. 映像拡大縮小時の表示例を示す図である。It is a figure which shows the example of a display at the time of image expansion / reduction. 基準点に位置する映像の映像拡大縮小前後の結像位置の変化を説明するための図である。It is a figure for demonstrating the change of the image formation position before and behind the image expansion / reduction of the image | video located in a reference point. 観察者に対し至近距離の位置に結像する映像の拡大縮小前後の結像位置の変化を説明するための図である。It is a figure for demonstrating the change of the image formation position before and behind the expansion / contraction of the image | video imaged in a close distance position with respect to an observer. 本発明の実施形態2に係る、立体映像表示装置の構成を示すブロック図である。It is a block diagram which shows the structure of the three-dimensional video display apparatus based on Embodiment 2 of this invention. 本発明の実施形態2に係る、立体映像表示装置の動作を説明すためのフローチャートである。It is a flowchart for demonstrating operation | movement of the stereoscopic video display apparatus based on Embodiment 2 of this invention. 重畳画像の表示例を示す図である。It is a figure which shows the example of a display of a superimposed image. 重畳画像表示前後における、表示画像の結像位置の変化を説明するための図である。It is a figure for demonstrating the change of the image formation position of a display image before and after a superimposed image display.

図1(A)は立体カメラで被写体を撮影する様子を示す図であり、左右の各カメラと被写体との位置関係をxy座標で示してある。左カメラの座標を(0,b)、右カメラの座標を(0,d)、被写体の座標を(e,f)とする。図1(B)は、図1(A)で撮影した映像を立体映像表示装置に表示した様子を示す図であり、説明を単純化するために観察者の左目の座標が図1(A)における左カメラの座標と同じ(0,b)、観察者の右目の座標が図1(A)における右カメラの座標と同じ(0,d)であるとする。
図1(A)で撮影した映像をx=gの位置にある表示装置に表示した場合、左カメラで撮影した被写体映像を座標(g,i)に映し、右カメラで撮影した被写体映像を座標(g,h)に映し、観察者が表示装置を観察すると、左目には座標(g,i)の被写体映像は見えるが座標(g,h)の被写体映像は見えず、右目には座標(g,h)の被写体映像は見えるが座標(g,i)の被写体映像は見えないように構成された立体映像表示装置である場合に、観察者にはあたかも被写体が座標(e’,f’)に位置するがごとく見えることを示している。座標(g,i)の映像を左目用映像、座標(g,h)の映像を右目用映像とする。
FIG. 1A is a diagram illustrating a situation in which a subject is photographed with a stereoscopic camera, and the positional relationship between the left and right cameras and the subject is indicated by xy coordinates. The left camera coordinates are (0, b), the right camera coordinates are (0, d), and the subject coordinates are (e, f). FIG. 1B is a diagram illustrating a state in which the image captured in FIG. 1A is displayed on the stereoscopic image display device, and the coordinates of the left eye of the observer are illustrated in FIG. It is assumed that the coordinates of the right camera of the observer are the same (0, b) and the coordinates of the right eye of the observer are the same (0, d) as the coordinates of the right camera in FIG.
When the video shot in FIG. 1A is displayed on the display device at the position of x = g, the subject video shot by the left camera is displayed at coordinates (g, i), and the subject video shot by the right camera is coordinated. When the observer observes the display device, the subject image at coordinates (g, i) is visible to the left eye, but the subject image at coordinates (g, h) is not visible, and the coordinate image ( In the case of a stereoscopic video display device configured such that the subject video of g, h) can be seen but the subject video of coordinates (g, i) cannot be seen, the viewer looks as if the subject is in coordinates (e ′, f ′). ) Is visible as though it is located. The video at coordinates (g, i) is the left-eye video, and the video at coordinates (g, h) is the right-eye video.

図1(A)に記載の左右それぞれのカメラから被写体に伸びる線、および図1(B)に記載の観察者の左右それぞれの目から表示装置に映された被写体映像に伸びる線をそれぞれ左視線、右視線と称する。
図1(A)の左カメラ座標(0,b)と被写体座標(e,f)から、左視線は式1で現わされる。
y=(f−b)x/e+b・・・式1
同様に、図1(A)の右カメラ座標(0,d)と被写体座標(e,f)から、右視線は式2で現わされる。
y=(f−d)x/e+d・・・式2
A line extending from the left and right cameras shown in FIG. 1A to the subject, and a line extending from the left and right eyes of the observer shown in FIG. , Referred to as right gaze.
From the left camera coordinates (0, b) and subject coordinates (e, f) in FIG.
y = (f−b) x / e + b Equation 1
Similarly, from the right camera coordinates (0, d) and subject coordinates (e, f) in FIG.
y = (f−d) x / e + d Equation 2

図1(B)の左右の目の座標と図1(A)の左右カメラの座標が同じであるから、図1(B)の結像位置座標(e’、f’)と図1(A)の被写体座標(e、f)が同じになるためには、図1(B)の左右視線は図1(A)の左右視線と同じである必要がある。
図1(B)で表示装置のx座標をgとすると、表示装置上の左目用映像のy座標(i)と右目用映像のy座標(h)は、それぞれ下記式3、式4で現わされる。
i=(f−b)g/e+b・・・式3
h=(f−d)g/e+d・・・式4
Since the left and right eye coordinates in FIG. 1B and the left and right camera coordinates in FIG. 1A are the same, the imaging position coordinates (e ′, f ′) in FIG. 1B and FIG. In order for the subject coordinates (e, f) of () to be the same, the left / right line of sight in FIG. 1 (B) needs to be the same as the left / right line of sight in FIG. 1 (A).
If the x coordinate of the display device is g in FIG. 1B, the y coordinate (i) of the left-eye video and the y coordinate (h) of the right-eye video on the display device are expressed by the following equations 3 and 4, respectively. I will.
i = (f−b) g / e + b Equation 3
h = (f−d) g / e + d Equation 4

次に、左右の目の座標と左目用映像座標および右目用映像座標から、観察者に見える立体映像の結像位置を計算する。
図1(B)の左目座標(0,b)と左目用映像座標(g,i)から、左視線は式5で現わされる。
y=(i−b)x/g+b・・・式5
同様に、図1(B)の右目座標(0,d)と右目用映像座標(g,h)から、右視線は式6で現わされる。
y=(h−d)x/g+d・・・式6
式5と式6から、左視線と右視線の交点を求めることで、立体映像の結像位置のx座標(e’)とy座標(f’)は、それぞれ式7と式8で現わされる。
e’=(d−b)g/(i−b−h+d)・・・式7
f’=(h−d)((d−b)g/(i−b−h+d))/g+d・・・式8
Next, the imaging position of the stereoscopic image that can be seen by the observer is calculated from the left and right eye coordinates, the left-eye image coordinates, and the right-eye image coordinates.
From the left-eye coordinates (0, b) and the left-eye video coordinates (g, i) in FIG.
y = (ib) x / g + b Formula 5
Similarly, from the right eye coordinates (0, d) and the right eye image coordinates (g, h) in FIG.
y = (h−d) x / g + d Equation 6
By obtaining the intersection of the left line of sight and the right line of sight from Expression 5 and Expression 6, the x coordinate (e ′) and y coordinate (f ′) of the imaging position of the stereoscopic image are expressed by Expression 7 and Expression 8, respectively. Is done.
e ′ = (db) g / (ib−h + d) Expression 7
f ′ = (h−d) ((d−b) g / (i−b−h + d)) / g + d Expression 8

図2は、これらの各座標数値を条件1〜8について、4種類の被写体座標を設定して計算した結果を示している。左目座標は左カメラの座標と同じで、各条件ともに(0,30)とし、右目座標は右カメラの座標と同じで、各条件ともに(0,−30)としている。ここで設定した座標の単位はmmであり、つまり撮影手段の基線長は60mm、観察者の眼間距離も60mmとしている。
撮影時の被写体のy座標(f)は各条件共通で50mmとしているが、x座標(e)は850mm、1700mm、4000mm、100000mmの4種類としている。ここで、表示装置のx座標を1700mmとしているので、4種類の被写体の設定は、1つが表示装置よりも近く、1つは表示装置までの距離と同じ、2つが表示装置よりも遠くである。
FIG. 2 shows the result of calculating these coordinate numerical values for conditions 1 to 8 by setting four types of subject coordinates. The left eye coordinates are the same as the left camera coordinates, and each condition is (0, 30). The right eye coordinates are the same as the right camera coordinates, and each condition is (0, -30). The unit of coordinates set here is mm, that is, the base line length of the photographing means is 60 mm, and the interocular distance of the observer is also 60 mm.
The y-coordinate (f) of the subject at the time of shooting is set to 50 mm in common for each condition, but the x-coordinate (e) is set to four types of 850 mm, 1700 mm, 4000 mm, and 100,000 mm. Here, since the x coordinate of the display device is 1700 mm, one of the four types of subjects is set closer to the display device, one is the same as the distance to the display device, and two are further from the display device. .

撮影時被写体座標と式3から左目用映像のy座標(i)が求められ、同様に式4から右目用映像のy座標(h)が求められる。左目用映像と右目用映像のx座標はすべて1700mmとなる。更に左目用映像座標および右目用映像座標と式7から立体映像結像位置のx座標(e’)が求められ、同様に式8から立体映像結像位置のy座標(f’)が求められる。このようにして算出したe’、f’の値を図2の変形前立体映像結像座標の欄に示す。座標(e’,f’)が、撮影時被写体位置の座標(e,f)と同じ値になっていることが確認できる。   The y-coordinate (i) of the left-eye image is obtained from the subject coordinates and the expression 3 at the time of shooting, and similarly, the y-coordinate (h) of the right-eye image is obtained from the expression 4. The x coordinates of the left-eye video and the right-eye video are all 1700 mm. Further, the x-coordinate (e ′) of the stereoscopic image imaging position is obtained from the left-eye video coordinate and the right-eye video coordinate and Expression 7, and similarly, the y-coordinate (f ′) of the stereoscopic image imaging position is obtained from Expression 8. . The values of e ′ and f ′ calculated in this way are shown in the column of stereoscopic image imaging coordinates before deformation in FIG. It can be confirmed that the coordinates (e ′, f ′) have the same value as the coordinates (e, f) of the subject position during shooting.

この立体映像を拡大または縮小処理した場合の各座標を図2の、変形後の欄に示す。
倍率Nは表示画面に写しだされた映像の拡大倍率で、条件1〜4は2倍に拡大し、条件5〜8は0.5倍、つまり半分に縮小している。
無限遠被写体を撮影した時に左右カメラの平行な光軸に相当する位置の映像は同じ被写体の略同じ部位が映し出だされるが、左目用映像のこの部位が映し出された表示画面上の位置と、右目用映像のこの部位が映し出された表示画面上の位置との間隔をここでは表示映像の基線長と称し、更にここでは表示映像の基線長と撮影手段の基線長は同じとしている。従って図2の表示装置の基線長の欄の値は全ての条件で60mmとなっている。
Each coordinate when the stereoscopic image is enlarged or reduced is shown in the column after transformation in FIG.
The magnification N is an enlargement magnification of the video imaged on the display screen. Conditions 1 to 4 are magnified 2 times, and conditions 5 to 8 are 0.5 times, that is, reduced to half.
When shooting an object at infinity, the image at the position corresponding to the parallel optical axis of the left and right cameras shows the same part of the same subject, but the position on the display screen where this part of the left-eye image is shown The distance from the position on the display screen where this part of the right-eye video image is projected is referred to herein as the base line length of the display video. Here, the base line length of the display video is the same as the base line length of the imaging means. Therefore, the value in the base line length column of the display device of FIG. 2 is 60 mm under all conditions.

左右映像を、それぞれの映像の中心を固定した位置関係で拡大縮小した場合、この表示映像の基線長も同様に拡大縮小する。ここで、無限遠の被写体を基線長60mmの撮影手段で撮影した立体映像を表示映像の基線長60mmで映し出して、眼間距離60mmの観察者が観察すると、被写体はあたかも無限遠に存在するがごとく感じることができる。この映像を例えば0.5倍に縮小すると表示映像の基線長も60mmから30mmに変化する。この場合、観察者は無限遠の被写体映像を観察者と表示装置の距離である視聴距離の2倍の距離、つまり視聴距離が1700mmであったならば、3400mmにあるがごとく感じることになる。これは立体感の大幅な減少と捉えることができる。   When the left and right images are enlarged / reduced in a positional relationship in which the centers of the respective images are fixed, the base line length of the display image is similarly enlarged / reduced. Here, when a stereoscopic image obtained by photographing an infinite subject with an imaging means having a base length of 60 mm is projected with a base length of 60 mm of the display image and observed by an observer with an interocular distance of 60 mm, the subject exists as if it is at infinity. I can feel it. When this image is reduced by, for example, 0.5 times, the base line length of the display image also changes from 60 mm to 30 mm. In this case, the observer feels that the subject image at infinity is 3400 mm if the viewing distance is twice as long as the distance between the observer and the display device, that is, the viewing distance is 1700 mm. This can be regarded as a significant reduction in stereoscopic effect.

逆にこのように撮影した立体映像を例えば2倍に拡大すると表示映像の基線長も60mmから120mmに変化する。この場合、極端に目の輻輳角が広がるため、観察者は無限遠の被写体映像を立体映像として認識することが出来なくなる。一方、拡大倍率が1倍に近い場合には人の目と脳はなんとか融像しようとするために疲労などの課題が生じる。
このため拡大縮小する前後で表示映像の基線長を変化させなければこの様な課題は生じなくなる。
ここでは拡大縮小の前後で基線長が変化しないようにするために、表示画面の中心に対して拡大縮小した後に画像全体を移動させる方法を例として説明する。移動は図2に示す左画像表示位置移動量jと右画像表示位置移動量kに基づいて行う。拡大倍率をNとすると、jとkはそれぞれ式9、式10で現わされる。
j=(b−d)/2×(N−1)・・・式9
k=(d−b)/2×(N−1)・・・式10
On the other hand, when the stereoscopic image captured in this way is enlarged, for example, twice, the base length of the display image also changes from 60 mm to 120 mm. In this case, since the convergence angle of the eyes is extremely widened, the observer cannot recognize a subject image at infinity as a stereoscopic image. On the other hand, when the enlargement magnification is close to 1, the human eye and brain somehow try to fuse, causing problems such as fatigue.
For this reason, such a problem will not occur unless the base line length of the display image is changed before and after scaling.
Here, in order to prevent the baseline length from changing before and after enlargement / reduction, a method of moving the entire image after enlargement / reduction with respect to the center of the display screen will be described as an example. The movement is performed based on the left image display position movement amount j and the right image display position movement amount k shown in FIG. Assuming that the enlargement magnification is N, j and k are expressed by Equation 9 and Equation 10, respectively.
j = (b−d) / 2 × (N−1) Equation 9
k = (d−b) / 2 × (N−1) Equation 10

条件1〜8について計算したj、kの値を図2の左画像表示位置移動量、右画像表示位置移動量の欄に示す。
ここで移動方向はy軸方向で観察者から見て右から左に動かす方向をプラスとする。
また、変形後左目用映像のy座標i’と変形後右目用映像のy座標h’はそれぞれ式11、式12で現わされる。
i’=i×N+j・・・式11
h’=h×N+k・・・式12
これは、映像全体の拡大縮小倍率に応じて拡大縮小した表示画面上の基線長を、左右映像で按分して移動することによって拡大縮小前の基線長に戻すことを前提としている。
条件1〜8について計算したi’、h’の値を図2の変形後左目用映像座標、変形後右目用映像座標の欄に示す。尚、x座標の値(g)は変形前後で変わらない。
The values of j and k calculated for conditions 1 to 8 are shown in the left image display position movement amount and right image display position movement amount columns of FIG.
Here, the moving direction is positive in the y-axis direction and moving from right to left as viewed from the observer.
Further, the y-coordinate i ′ of the transformed left-eye image and the y-coordinate h ′ of the transformed right-eye image are expressed by Equations 11 and 12, respectively.
i ′ = i × N + j Equation 11
h ′ = h × N + k Equation 12
This is based on the premise that the base line length on the display screen enlarged / reduced according to the enlargement / reduction ratio of the entire video is returned to the base line length before the enlargement / reduction by moving equally between the left and right videos.
The values of i ′ and h ′ calculated for conditions 1 to 8 are shown in the columns of the transformed left-eye video coordinates and the transformed right-eye video coordinates in FIG. Note that the value (g) of the x coordinate does not change before and after the deformation.

このように、座標(g,i)に表示されていた左目用映像は、倍率Nで拡大または縮小された後、左画像表示位置移動量jだけy軸方向に移動し、変形後左目用映像座標(g,i’)の位置に表示される。同様に、座標(g,h)に表示されていた右目用映像は、倍率Nで拡大または縮小された後、右画像表示位置移動量kだけy軸方向に移動し、変形後左目用映像座標(g,h’)の位置に表示される。
更に変形後左目用映像座標(g,i’)および変形後右目用映像座標(g,h’)から、式13により変形後立体映像結像位置のx座標e”が求められ、式14から変形後立体映像結像位置のy座標f”が求められる。
e”=(d−b)g/(i’−b−h’+d)・・・式13
f”=(h−d)((d−b)g/(i’−b−h’+d))/g+d・・・式14
条件1〜8について計算したe”、f”の値を図2の変形後立体映像結像座標の欄に示す。
As described above, the left-eye image displayed at the coordinates (g, i) is enlarged or reduced at the magnification N, and then moved in the y-axis direction by the left image display position movement amount j. It is displayed at the position of coordinates (g, i ′). Similarly, the video for the right eye displayed at the coordinates (g, h) is enlarged or reduced at the magnification N, and then moved in the y-axis direction by the right image display position movement amount k. It is displayed at the position (g, h ′).
Further, from the transformed left-eye image coordinates (g, i ′) and the transformed right-eye image coordinates (g, h ′), the x-coordinate e ″ of the transformed stereoscopic image forming position is obtained by Equation 13, and from Equation 14 A y-coordinate f ″ of the post-deformation stereoscopic image forming position is obtained.
e ″ = (d−b) g / (i′−b−h ′ + d) Equation 13
f ″ = (h−d) ((d−b) g / (i′−b−h ′ + d)) / g + d Equation 14
The values of e ″ and f ″ calculated for the conditions 1 to 8 are shown in the column of the transformed stereoscopic image imaging coordinates in FIG.

図2の変形前立体映像結像座標(e’,f’)と変形後立体映像結像座標(e”,f”)を比較すると、条件1〜8でy座標であるf’とf”が同じ値となることが確認できる。一方、x座標であるe’とe”は異なる値になっており、倍率Nを2とした条件1〜4ではe”はe’の半分になっており、倍率Nを0.5とした条件5〜8ではe”はe’の2倍になっていることが確認できる。
以上のように、基線長を変えないように拡大することで映像の大きさが大きくなると共に近くに見え、基線長を変えないように縮小することで映像の大きさが小さくなるとともに遠くに見えるという自然な映像変形が可能となる。
2 is compared with the post-deformation stereoscopic image imaging coordinates (e ′, f ′) and the post-deformation stereoscopic image imaging coordinates (e ″, f ″) of FIG. On the other hand, e ′ and e ″, which are x-coordinates, are different values, and e ″ is half of e ′ in conditions 1 to 4 where the magnification N is 2. It can be confirmed that e ″ is twice e ′ in conditions 5 to 8 where the magnification N is 0.5.
As described above, enlargement without changing the baseline length makes the image size larger and closer, and reduction without changing the baseline length makes the image size smaller and looks farther away. Natural video transformations are possible.

ここでは説明を簡単にするため、左右映像をそれぞれの映像の中心を固定した位置関係で拡大縮小した後に移動させ、拡大縮小前後で基線長が変わらないように補正する方法を説明したが、この方法の代わりに、表示映像の基線長と同じ距離離れた所定の2点を左右それぞれの映像の基準点として設定して、それぞれの基準点を中心に左右映像を拡大縮小することでも基線長を変えずに拡大縮小することができ、同じ効果を得ることができる。   Here, for the sake of simplicity, the left and right images have been moved after being scaled in a positional relationship with the center of each image fixed, and the method for correcting the baseline length before and after scaling has been explained. Instead of the method, two base points that are the same distance as the baseline length of the displayed video are set as the reference points for the left and right videos, and the baseline length can also be increased by scaling the left and right videos around each reference point. It can be scaled without changing, and the same effect can be obtained.

以下、本発明を実施するための最良の形態について、図面を参照して説明する。   The best mode for carrying out the present invention will be described below with reference to the drawings.

(実施形態1)
図3は本発明の実施形態1に係る、立体映像表示装置の構成を示すブロック図である。
立体映像表示装置100は、映像信号入力部101、左右映像分離部102、拡大縮小部104、左右映像合成部105、表示部106、ユーザ入力部107、制御部108を備える。
(Embodiment 1)
FIG. 3 is a block diagram showing the configuration of the stereoscopic video display apparatus according to Embodiment 1 of the present invention.
The stereoscopic video display apparatus 100 includes a video signal input unit 101, a left / right video separation unit 102, an enlargement / reduction unit 104, a left / right video synthesis unit 105, a display unit 106, a user input unit 107, and a control unit 108.

映像信号入力部101には、立体映像信号が入力される。立体映像信号の方式は限定せず、サイドバイサイド方式/トップアンドボトム方式/インタレース方式等、どのような方式でも良い。映像信号入力部101に入力された立体映像信号は左右映像分離部102に送られる。左右映像分離部102は映像信号入力部101から受け取った立体映像信号を、左目用映像信号と右目用映像信号に分離し、拡大縮小部104に送る。拡大縮小部104では左右映像分離部102から受け取った左目用映像信号と右目用映像信号のそれぞれについて、拡大縮小時の映像上の中心位置を基準点として設定した後、左目用映像と右目用映像を基準点を中心に拡大または縮小するための変更を行い、左右映像合成部105に送る。   A stereoscopic video signal is input to the video signal input unit 101. The method of the stereoscopic video signal is not limited, and any method such as side-by-side method / top-and-bottom method / interlace method may be used. The stereoscopic video signal input to the video signal input unit 101 is sent to the left and right video separation unit 102. The left and right video separation unit 102 separates the stereoscopic video signal received from the video signal input unit 101 into a left-eye video signal and a right-eye video signal, and sends them to the enlargement / reduction unit 104. The enlargement / reduction unit 104 sets the center position on the video at the time of enlargement / reduction for each of the left-eye video signal and the right-eye video signal received from the left / right video separation unit 102, and then the left-eye video and the right-eye video Is changed to enlarge or reduce around the reference point and sent to the left and right video composition unit 105.

左右映像合成部105は拡大縮小部104から受け取った左目用映像信号と右目用映像信号を合成し、表示部106に送る。表示部106は左右映像合成部105から受け取った立体映像信号の表示を行う。ここで、左右映像合成部105での左目用映像信号と右目用映像信号の合成は表示部106の表示方法に合わせたフォーマットで行えばよい、また表示部の表示方法は例えば偏光めがね方式やシャッターめがね方式が一般的であるが他の方式でも良く、表示方式は問わない。   The left and right video synthesis unit 105 synthesizes the left-eye video signal and the right-eye video signal received from the enlargement / reduction unit 104 and sends them to the display unit 106. The display unit 106 displays the stereoscopic video signal received from the left and right video synthesis unit 105. Here, the left-eye video signal and the right-eye video signal in the left-right video synthesis unit 105 may be combined in a format that matches the display method of the display unit 106. The display method of the display unit is, for example, a polarized glasses method or a shutter. Although the glasses method is common, other methods may be used and the display method is not limited.

ユーザ入力部107でユーザは基準点の位置を設定し、映像の拡大縮小の指示を行う。ユーザがユーザ入力部107にて入力した基準点の位置情報や映像の拡大縮小の指示情報はデータとして制御部108に送られる。制御部108は、ユーザ入力部107から受け取った基準点の位置に関するデータを拡大縮小部104に送り、拡大縮小部104では、このデータを元に基準点の設定を行う。また、制御部108はユーザ入力部107から受け取った映像拡大縮小の指示情報に基づき、拡大縮小部104の動作を制御する。拡大縮小部104は制御部108の制御により映像の拡大縮小を行う。   In the user input unit 107, the user sets the position of the reference point and gives an instruction to enlarge or reduce the image. Reference point position information and video enlargement / reduction instruction information input by the user through the user input unit 107 are sent to the control unit 108 as data. The control unit 108 sends data relating to the position of the reference point received from the user input unit 107 to the enlargement / reduction unit 104, and the enlargement / reduction unit 104 sets the reference point based on this data. The control unit 108 controls the operation of the enlargement / reduction unit 104 based on the video enlargement / reduction instruction information received from the user input unit 107. The enlargement / reduction unit 104 enlarges / reduces the image under the control of the control unit 108.

本実施形態における立体映像表示装置100の動作を更に図4〜図7を使って説明する。
図4は本実施形態に係る、立体映像表示装置100の動作を説明するためのフローチャートである。図5は映像拡大縮小時の表示例を示す図である。図6は基準点に位置する映像の映像拡大縮小前後の結像位置の変化を説明するための図である。図7は観察者に対し至近距離の位置に結像する映像の拡大縮小前後の結像位置の変化を説明するための図である。
The operation of the stereoscopic image display apparatus 100 in the present embodiment will be further described with reference to FIGS.
FIG. 4 is a flowchart for explaining the operation of the stereoscopic video display apparatus 100 according to the present embodiment. FIG. 5 is a diagram showing a display example at the time of video enlargement / reduction. FIG. 6 is a diagram for explaining a change in the imaging position before and after video enlargement / reduction of an image located at the reference point. FIG. 7 is a diagram for explaining a change in the imaging position before and after enlargement / reduction of an image formed at a position at a close distance to the observer.

図4のステップS101で映像信号入力部101に立体映像信号が入力される。ステップS102で左右映像分離部102は、入力された立体映像信号を左目用映像信号と右目用映像信号に分離する。一方、ユーザ入力部107から入力された基準点の位置に関するデータは制御部108を通じて拡大縮小部104に送られる。
左目用映像信号の基準点と右目用映像信号の基準点は、両眼視差の元となる左右映像がずれる方向と平行な同一線上に設定される必要があり、この条件内でユーザは左右映像信号の基準点の位置を設定することができる。基準点は必ずしも映像内に位置している必要はなく、左右映像信号のどちらか一方もしくは両方の基準点が映像内に位置していなくとも良い。ここで、左右映像信号の基準点同士の間隔は視聴者の目の間隔以下であることが望ましい。
A stereoscopic video signal is input to the video signal input unit 101 in step S101 of FIG. In step S102, the left and right video separation unit 102 separates the input stereoscopic video signal into a left-eye video signal and a right-eye video signal. On the other hand, data relating to the position of the reference point input from the user input unit 107 is sent to the enlargement / reduction unit 104 through the control unit 108.
The reference point of the video signal for the left eye and the reference point of the video signal for the right eye must be set on the same line parallel to the direction in which the left and right images that cause binocular parallax are shifted. The position of the reference point of the signal can be set. The reference point does not necessarily need to be located in the video, and either one or both of the left and right video signals may not be located in the video. Here, the interval between the reference points of the left and right video signals is preferably equal to or less than the interval between the viewer's eyes.

図5(B−LR)は映像信号入力部101に入力された立体映像信号の一例である。この例では左右の映像信号は立体映像の視聴において液晶シャッターや偏光板を用いる眼鏡を必要とする方法で伝送されており、裸眼で視聴すると、図5(B−LR)に示すように左右映像は重なって見える。同図で、顔の映像は至近距離映像であり、丸型の映像は無限遠方にある映像とする。また、図5(B−LR)で右側に位置する顔の映像と左側に位置する丸型の映像が左目用の映像であり、分離後の左目用の映像を図5(B−L)に示す。図5(B−LR)で左側に位置する顔の映像と右側に位置する丸型の映像が右目用の映像であり、分離後の右目用の映像を図5(B−R)に示す。   FIG. 5 (B-LR) is an example of a stereoscopic video signal input to the video signal input unit 101. In this example, the left and right video signals are transmitted by a method that requires glasses using a liquid crystal shutter and a polarizing plate for viewing stereoscopic images. When viewing with the naked eye, the left and right video signals are displayed as shown in FIG. 5 (B-LR). Seem to overlap. In the figure, the face image is a close-up image, and the round image is an image at infinity. Further, in FIG. 5 (B-LR), the face image located on the right side and the round image located on the left side are the left-eye image, and the separated left-eye image is shown in FIG. 5 (B-L). Show. In FIG. 5 (B-LR), the face image located on the left side and the round image located on the right side are right eye images, and the separated right eye image is shown in FIG. 5 (BR).

図4に戻って説明する。ステップS103で拡大縮小部104は、左右映像分離部102から受け取った左目用映像信号と右目用映像信号のそれぞれについて、制御部108から送られた基準点の位置に関するデータを元に基準点の設定を行う。ここでは説明を簡略化するため、基準点を図5(B−LR)に示す丸型の映像の中心位置に設定したと仮定する。すなわち、図5(B−L)の丸型の映像の中心位置が左目用映像の基準点であり、図5(B−R)の丸型の映像の中心位置が右目用映像の基準点になる。   Returning to FIG. In step S <b> 103, the enlargement / reduction unit 104 sets a reference point based on data regarding the position of the reference point sent from the control unit 108 for each of the left-eye video signal and the right-eye video signal received from the left-right video separation unit 102. I do. Here, in order to simplify the explanation, it is assumed that the reference point is set at the center position of the round image shown in FIG. 5 (B-LR). That is, the center position of the round image in FIG. 5 (B-L) is the reference point for the left-eye image, and the center position of the round image in FIG. 5 (B-R) is the reference point for the right-eye image. Become.

ステップS104で制御部108は、ユーザ入力部107から拡大縮小の指示が入力されたか否かの判定を行なう。拡大縮小指示の入力形式は、拡大縮小率を予め設定しておいて、拡大するか縮小するか拡大も縮小もしないかを選択する構成でも良いし、ユーザが任意の拡大縮小率を入力する構成でも良い。ユーザが任意の拡大縮小率を入力する構成の場合、ユーザが入力した拡大縮小率が1より小さければ縮小、1ならば拡大縮小しない、1より大きければ拡大することを意味する。   In step S <b> 104, the control unit 108 determines whether an enlargement / reduction instruction has been input from the user input unit 107. The input / output format of the enlargement / reduction instruction may be configured to set an enlargement / reduction ratio in advance and select whether to enlarge, reduce, or neither enlargement nor reduction, or a configuration in which the user inputs an arbitrary enlargement / reduction ratio But it ’s okay. In the case of a configuration in which the user inputs an arbitrary enlargement / reduction ratio, it means that if the enlargement / reduction ratio input by the user is smaller than 1, the image is reduced if it is 1, and if it is larger than 1, it means that the image is enlarged.

ステップS104で制御部108が、拡大縮小の指示が入力されていないと判定した場合或いはユーザの入力した拡大縮小率が1であると判定した場合(S104/no)、制御部108は拡大縮小部104に対し、左右映像信号の拡大縮小をしない様に制御する。拡大縮小部104は左右映像信号を拡大縮小せずに、左右画像合成部105に送る。ステップS105にて、左右画像合成部105は拡大縮小部104から受け取った左右映像信号を合成する。ステップS106にて、表示部106は左右画像合成部から受け取った立体映像信号を表示する。   When the control unit 108 determines in step S104 that an enlargement / reduction instruction has not been input or when it is determined that the enlargement / reduction ratio input by the user is 1 (S104 / no), the control unit 108 performs the enlargement / reduction unit. 104 is controlled not to enlarge or reduce the left and right video signals. The enlarging / reducing unit 104 sends the left and right video signals to the left / right image synthesis unit 105 without enlarging / reducing. In step S <b> 105, the left and right image combining unit 105 combines the left and right video signals received from the enlargement / reduction unit 104. In step S106, display unit 106 displays the stereoscopic video signal received from the left and right image combining unit.

ステップS104で制御部108が、縮小の指示が入力されたと判定した場合或いはユーザの入力した拡大縮小率が1よりも小さいと判定した場合(S104/縮小)、ステップS107に進み、制御部108は拡大縮小部104に対し、映像を縮小するように制御する。拡大縮小部104は左目用映像と右目用映像をそれぞれの基準点を中心に縮小するように左目用映像信号と右目用映像信号の変更を行う。図5(A−L)は、図5(B−L)の映像を基準点(丸型の映像の中心)を中心に縮小した映像である。図5(A−R)は、図5(B−R)の映像を基準点(丸型の映像の中心)を中心に縮小した映像である。次にステップS105に進み、左右映像合成部105は左右の映像を合成する。図5(A−LR)は図5(A−L)に示す縮小済み左映像と図5(A−R)に示す縮小済み右映像を合成した映像である。   If the control unit 108 determines in step S104 that a reduction instruction has been input, or if it is determined that the user's input enlargement / reduction ratio is less than 1 (S104 / reduction), the process proceeds to step S107, and the control unit 108 The enlargement / reduction unit 104 is controlled to reduce the video. The enlargement / reduction unit 104 changes the left-eye video signal and the right-eye video signal so as to reduce the left-eye video and the right-eye video around the respective reference points. FIG. 5 (AL) is an image obtained by reducing the image of FIG. 5 (B-L) around a reference point (center of a round image). FIG. 5 (A-R) is an image obtained by reducing the image of FIG. 5 (B-R) around a reference point (center of a circular image). Next, proceeding to step S105, the left and right video composition unit 105 synthesizes the left and right videos. FIG. 5 (A-LR) is an image obtained by combining the reduced left image shown in FIG. 5 (AL) and the reduced right image shown in FIG. 5 (AR).

ステップS104で制御部108が、拡大の指示が入力されたと判定した場合或いはユーザの入力した拡大縮小率が1よりも大きいと判定した場合(S104/拡大)、ステップS108に進み、制御部108は拡大縮小部104に対し、映像信号を拡大するように制御する。拡大縮小部104は左目用映像と右目用映像をそれぞれの基準点を中心に拡大するように左目用映像信号と右目用映像信号の変更を行う。図5(C−L)は、図5(B−L)の映像を基準点(丸型の映像の中心)を中心に拡大した映像である。図5(C−R)は、図5(B−R)の映像を基準点(丸型の映像の中心)を中心に拡大した映像である。次にステップS105に進み、左右映像合成部105は左右の映像を合成する。図5(C−LR)は図5(C−L)に示す拡大済み左映像と図5(C−R)に示す拡大済み右映像を合成した映像である。   If the control unit 108 determines in step S104 that an enlargement instruction has been input or if it is determined that the enlargement / reduction ratio input by the user is greater than 1 (S104 / enlargement), the control unit 108 proceeds to step S108. The enlargement / reduction unit 104 is controlled to enlarge the video signal. The enlargement / reduction unit 104 changes the left-eye video signal and the right-eye video signal so that the left-eye video and the right-eye video are enlarged around the respective reference points. FIG. 5 (CL) is an image obtained by enlarging the image of FIG. 5 (B-L) around a reference point (center of a round image). FIG. 5 (CR) is an image obtained by enlarging the image of FIG. 5 (B-R) around a reference point (center of a round image). Next, proceeding to step S105, the left and right video composition unit 105 synthesizes the left and right videos. FIG. 5 (C-LR) is an image obtained by combining the enlarged left image shown in FIG. 5 (CL) and the enlarged right image shown in FIG. 5 (CR).

上記ステップS107またはS108とS105、S106で映像信号を拡大縮小して表示した場合の立体映像の結像位置の変化を図6と図7を使って説明する。図6は図5で説明した丸型映像、すなわち左右映像の基準点に位置する映像の、映像拡大縮小前後での結像位置の変化を説明するための図である。図6(B)は、拡大縮小前の映像である図5(B−LR)の映像を立体視した時の丸型映像の結像位置を図示したもので、左右の映像の表示画面上の間隔をαとする。この時、結像位置は視聴者に対して表示画面の位置より遠い、結像位置bに示す位置になる。
図6(A)は、縮小後の映像である図3(A−LR)の映像を立体視した時の丸型映像の見え方を図示したもので、左右の映像の表示画面上の間隔は図6(B)と変わらずαとなり、従って結像位置aは結像位置bと同じ位置となる。但し、丸型映像の大きさは図6(B)に対して所定の倍率で縮小されたものになる。
A change in the image formation position of the stereoscopic video when the video signal is enlarged and reduced in steps S107 or S108, S105, and S106 will be described with reference to FIGS. FIG. 6 is a diagram for explaining a change in the imaging position of the round image described in FIG. 5, that is, an image located at the reference point of the left and right images before and after image enlargement / reduction. FIG. 6B illustrates the image forming position of the round image when the image of FIG. 5B-LR, which is the image before enlargement / reduction, is stereoscopically viewed on the display screens of the left and right images. Let the interval be α. At this time, the imaging position is a position indicated by the imaging position b, which is farther from the display screen than the viewer.
FIG. 6 (A) illustrates how the round image looks when the image of FIG. 3 (A-LR), which is a reduced image, is stereoscopically viewed. The interval between the left and right images on the display screen is as follows. As in FIG. 6B, it is α, so that the imaging position a is the same as the imaging position b. However, the size of the round image is reduced by a predetermined magnification with respect to FIG.

図6(C)は、拡大後の映像である図5(C−LR)の映像を立体視した時の丸型映像の結像位置を図示したもので、左右の映像の表示画面上の間隔は図6(B)と変わらずαとなり、従って結像位置cは結像位置bと同じ位置となる。但し、丸型映像の大きさは図6(B)に対して所定の倍率で拡大されたものになる。このように、基準点の位置にある映像は、映像を拡大縮小すると映像の大きさは拡大縮小されるが、結像位置は変わらない。   FIG. 6C illustrates the image formation position of a round image when the image of FIG. 5C-LR, which is an enlarged image, is stereoscopically viewed, and the interval between the left and right images on the display screen. Is equal to α as in FIG. 6B, and the imaging position c is the same position as the imaging position b. However, the size of the round image is enlarged at a predetermined magnification with respect to FIG. As described above, when the image at the reference point is enlarged or reduced, the size of the image is enlarged or reduced, but the image forming position is not changed.

図7は図5で説明した、観察者に対して至近距離に結像する顔映像の、映像拡大縮小前後の結像位置の変化を説明するための図である。図7(B)は、拡大縮小前の映像である図5(B−LR)の映像を立体視した時の顔映像の結像位置を図示したもので、左右の映像の表示画面上の間隔をβeとする。この時、結像位置は視聴者に対して表示画面の位置より近い、結像位置eに示す位置となる。
図7(A)は、縮小後の映像である図5(A−LR)の映像を立体視した時の顔映像の見え方を図示したもので、左右の映像の表示画面上の間隔はβeよりも狭いβdとなる。従って結像位置dは結像位置eよりも視聴者に対し表示画面寄りの位置となる。このとき、図4(A)の顔映像の大きさは図4(B)に対して所定の倍率で縮小されたものになる。
FIG. 7 is a diagram for explaining the change in the image formation position before and after image enlargement / reduction of the face image formed at a close distance with respect to the observer described with reference to FIG. FIG. 7B illustrates the image formation position of the face image when stereoscopically viewing the image of FIG. 5B (B-LR), which is the image before enlargement / reduction, and the interval on the display screen of the left and right images. Is βe. At this time, the imaging position is a position indicated by the imaging position e, which is closer to the viewer than the position of the display screen.
FIG. 7A illustrates how the face image looks when the image of FIG. 5A-LR, which is a reduced image, is stereoscopically viewed, and the interval on the display screen of the left and right images is βe. Which is narrower than βd. Therefore, the image formation position d is closer to the viewer than the image formation position e. At this time, the size of the face image in FIG. 4A is reduced by a predetermined magnification with respect to FIG. 4B.

図7(C)は、拡大後の映像である図5(C−LR)の映像を立体視した時の顔映像の結像位置を図示したもので、左右の映像の表示画面上の間隔はβeよりも広いβfとなる。従って結像位置fは結像位置eよりも視聴者寄りの位置となる。このとき、顔映像の大きさは図7(A)に対して所定の倍率で拡大されたものになる。このように、基準点の位置にない映像は、映像を拡大縮小すると映像の大きさが拡大縮小されると共に、結像位置が変わる。   FIG. 7C illustrates the image formation position of the face image when the image of FIG. 5C-LR, which is an enlarged image, is stereoscopically viewed, and the interval on the display screen of the left and right images is as follows. βf is wider than βe. Therefore, the imaging position f is closer to the viewer than the imaging position e. At this time, the size of the face image is enlarged at a predetermined magnification with respect to FIG. As described above, when an image that is not at the position of the reference point is enlarged or reduced, the size of the image is enlarged or reduced, and the imaging position is changed.

以上、説明した特性を利用して、左右映像の基準点同士の間隔を視聴者の目の間隔に近い値に設定することで、映像を拡大縮小した場合、視聴者に対し遠くに結像する映像については結像位置の変化を少なく、視聴者に対する結像位置が近い映像ほど結像位置の変化を大きくすることができるため、遠くの映像の距離感を変えずに至近距離の映像の距離感を変えることができる。   By using the characteristics described above, the distance between the reference points of the left and right images is set to a value close to the distance between the viewer's eyes, and when the image is enlarged or reduced, the image is formed far away from the viewer. For images, there is little change in the image formation position, and the closer the image formation position to the viewer, the greater the change in the image formation position, so the distance of the closest image without changing the sense of distance of distant images You can change the feeling.

(実施形態2)
図8は本発明の実施形態2に係る立体映像表示装置の構成を示すブロック図である。図中、図3と共通する部分には同じ番号を付与する。図8の立体映像表示装置では図3の立体映像表示装置に対し、重畳画像生成部202、重畳画像合成部203が追加されている。
(Embodiment 2)
FIG. 8 is a block diagram showing a configuration of a stereoscopic video display apparatus according to Embodiment 2 of the present invention. In the figure, the same reference numerals are given to portions common to FIG. In the stereoscopic video display device of FIG. 8, a superimposed image generation unit 202 and a superimposed image synthesis unit 203 are added to the stereoscopic video display device of FIG.

本実施形態における立体映像信号表示装置200の動作を図9〜図11を使って説明する。図9は実施形態2に係る立体映像装置200の動作を説明するためのフローチャートである。図10は重畳画像の表示例を示す図である。図11は重畳画像表示前後における、表示画像の結像位置の変化を説明するための図である。   The operation of the stereoscopic video signal display apparatus 200 according to the present embodiment will be described with reference to FIGS. FIG. 9 is a flowchart for explaining the operation of the stereoscopic video apparatus 200 according to the second embodiment. FIG. 10 is a diagram illustrating a display example of a superimposed image. FIG. 11 is a diagram for explaining a change in the imaging position of the display image before and after displaying the superimposed image.

図9のステップS201〜S203は、図4で説明したステップS101〜S103と同様であるので、説明は省略する。ステップS204で制御部108は、重畳画像表示の指示があるか否か判定する。重畳画像表示の指示は通常ユーザ入力部107を介して、図示しないリモコン等を使用してユーザにより入力されるが、これに限定されず、映像信号入力部101に入力される映像信号に付加情報として付加された緊急信号等を検出して自動的に重畳画像を表示する構成としても良い。制御部108が重畳画像表示の指示がないと判定した場合(S204/no)、ステップS205に進む。ステップS205〜S206は、図4のステップS105〜S106と同様である。このとき制御部108は拡大縮小部104に対し、拡大縮小しないように制御すると同時に重畳画像生成部202に対し、重畳画像を生成しないように制御する。したがって、この時ステップS205では、拡大縮小せず、重畳画像を合成しない状態で左右映像が合成される。   Steps S201 to S203 in FIG. 9 are the same as steps S101 to S103 described in FIG. In step S204, the control unit 108 determines whether there is an instruction to display a superimposed image. The superimposition image display instruction is normally input by the user through a user input unit 107 using a remote controller (not shown), but is not limited thereto. Additional information is added to the video signal input to the video signal input unit 101. It is good also as a structure which detects the emergency signal etc. which were added as, and displays a superimposed image automatically. When the control unit 108 determines that there is no instruction to display a superimposed image (S204 / no), the process proceeds to step S205. Steps S205 to S206 are the same as steps S105 to S106 in FIG. At this time, the control unit 108 controls the enlargement / reduction unit 104 not to enlarge / reduce, and simultaneously controls the superimposed image generation unit 202 not to generate a superimposed image. Accordingly, at this time, in step S205, the left and right images are combined without being enlarged or reduced and without combining the superimposed images.

ステップS204で制御部108が重畳画像表示の指示があると判定した場合(S204/yes)。ステップS207に進み、制御部108は拡大縮小部104に対し、映像を縮小するよう制御する。拡大縮小部104は左目用映像と右目用映像をそれぞれの基準点を中心に縮小するように左目用映像信号と右目用映像信号の変更を行う。ここで縮小率はデフォルト値として予め設定されている構成でも良く、またユーザが設定する構成としても良い。   When the control unit 108 determines in step S204 that there is an instruction to display a superimposed image (S204 / yes). In step S207, the control unit 108 controls the enlargement / reduction unit 104 to reduce the image. The enlargement / reduction unit 104 changes the left-eye video signal and the right-eye video signal so as to reduce the left-eye video and the right-eye video around the respective reference points. Here, the reduction ratio may be set in advance as a default value, or may be set by the user.

制御部108は重畳画像生成部202に対し重畳画像を生成するよう指示する。重畳画像生成部202は左目用映像信号用重畳画像と右目用映像信号用重畳画像をそれぞれ生成し、重畳画像合成部203に送る。ステップS208で重畳画像合成部203は、拡大縮小部104から受け取った左目用映像信号と右目用映像信号のそれぞれに、重畳画像生成部202から受け取った左目用映像用重畳画像信号と右目用映像用重畳画像信号を合成する。ステップS205、S206の流れは図4のS105、S106と同様である。   The control unit 108 instructs the superimposed image generation unit 202 to generate a superimposed image. The superimposed image generation unit 202 generates a left-eye video signal superimposed image and a right-eye video signal superimposed image, and sends them to the superimposed image synthesis unit 203. In step S <b> 208, the superimposed image composition unit 203 adds the left-eye video signal and the right-eye video signal received from the superimposed image generation unit 202 to the left-eye video signal and right-eye video signal received from the enlargement / reduction unit 104, respectively. The superimposed image signal is synthesized. The flow of steps S205 and S206 is the same as S105 and S106 of FIG.

図10(B−LR)は映像信号入力部101に入力された立体映像の一例であり、図5(B−LR)と同じものである。図10(B−L)と図10(B−R)は左右映像分離部102で分離された、それぞれ左目用映像と右目用映像であり、実施形態1で説明した例と同様に、拡大縮小部104で、左目用映像と右目用映像それぞれ丸型の映像の中心位置に基準点を設定したと仮定する。図10(B−L)の映像を拡大縮小部104にて縮小した後、重畳画像合成部203にて重畳画像を合成した映像が図10(A−L)の映像であり、同様に図10(B−R)の映像を拡大縮小部104にて縮小した後、重畳画像合成部203にて重畳画像を合成した映像が図10(A−R)の映像である。
図10(A−LR)は図10(A−L)の映像と図10(A−R)の映像を左右映像合成部105で合成した映像であり、表示部106にて重畳画像付き立体映像として表示される。図10に示すように、映像を縮小することにより、画面上に映像が表示されない部分が現れる。この部分に重畳画像が表示されるように重畳画像を合成することで、元の映像を隠すことなく重畳画像の表示を行うこともできる。
FIG. 10 (B-LR) is an example of a stereoscopic video input to the video signal input unit 101, and is the same as FIG. 5 (B-LR). 10B and 10B are a left-eye image and a right-eye image, respectively, separated by the left and right image separation unit 102. Like the example described in the first embodiment, enlargement / reduction is performed. It is assumed that the reference point is set at the center position of the round image for each of the left-eye image and the right-eye image in the unit 104. A video obtained by reducing the video in FIG. 10 (B-L) by the enlargement / reduction unit 104 and then synthesizing the superimposed image by the superimposed image synthesis unit 203 is the video in FIG. 10 (A-L). The video obtained by reducing the video of (BR) by the enlargement / reduction unit 104 and then synthesizing the superimposed image by the superimposed image synthesis unit 203 is the video of FIG.
10 (A-LR) is an image obtained by synthesizing the image of FIG. 10 (A-L) and the image of FIG. 10 (A-R) by the left and right image synthesizing unit 105, and the display unit 106 has a stereoscopic image with a superimposed image. Is displayed. As shown in FIG. 10, when the video is reduced, a portion where the video is not displayed appears on the screen. By superimposing the superimposed image so that the superimposed image is displayed at this portion, the superimposed image can be displayed without hiding the original video.

図11を使って、図10に示した立体映像の結像位置の変化を説明する。図11(C)は図10(B−LR)に示す立体映像の中の顔映像の結像位置を示す図である。顔映像の表示画面上の視差はβiであり、結像位置は結像位置iとなる。図11(B)は縮小後の顔映像の結像位置を示す図である。縮小後の顔映像の表示画面上の視差はβiに対し小さいβgとなり、結像位置は結像位置iよりも表示画面寄りの結像位置gとなる。
飛び出して見える映像の結像位置を表示画面寄りに移動することで、至近映像に集中していた視聴者の負担は緩和される。一方、立体映像視聴中の視聴者に対し重畳画像の認識を容易にするためには、視聴者の注目する至近映像の結像位置と重畳画像の結像位置の、表示画面からの距離を近くすることが有効である。
A change in the imaging position of the stereoscopic video shown in FIG. 10 will be described with reference to FIG. FIG. 11C is a diagram illustrating the imaging position of the face image in the stereoscopic image illustrated in FIG. 10B-LR. The parallax on the display screen of the face image is βi, and the imaging position is the imaging position i. FIG. 11B is a diagram showing the imaging position of the reduced face image. The parallax on the display screen of the face image after the reduction is βg which is smaller than βi, and the imaging position is an imaging position g closer to the display screen than the imaging position i.
By moving the image formation position of the projected image closer to the display screen, the burden on the viewer who has concentrated on the closest image is reduced. On the other hand, in order to facilitate the recognition of the superimposed image for the viewer who is viewing the stereoscopic video, the distance from the display screen between the imaging position of the close image and the imaging position of the superimposed image that the viewer is interested in is reduced. It is effective to do.

図11(A)に縮小後の映像に重畳画像を合成した時の至近映像の結像位置と重畳画像の結像位置の一例を示す。この例では視聴者が重畳画像の表示内容を確認する際に視聴者への負担が少なくなるように重畳画像の結像位置qを表示画面の近くに設定している。この時、至近映像の結像位置と重畳画像の結像位置の表示画面からの距離の差は小さく(d2)、至近映像に集中している視聴者は容易に重畳画像を認識することができる。
仮に、映像を縮小しない状態で上記の例と同じ結像位置になるように重畳画像を重畳した場合、至近映像の結像位置と重畳画像の結像位置の表示画面からの距離の差は大きく(d1)、至近映像に集中している視聴者は重畳画像の表示に気付かない可能性がある。
FIG. 11A shows an example of the close-up image formation position and the overlap image formation position when the superimposed image is combined with the reduced image. In this example, the imaging position q of the superimposed image is set near the display screen so that the burden on the viewer is reduced when the viewer confirms the display content of the superimposed image. At this time, the difference in distance from the display screen between the image formation position of the close-up image and the image formation position of the superimposed image is small (d2), and the viewer who is concentrated on the close-up image can easily recognize the superimposed image. .
If the superimposed image is superimposed so that the image formation position is the same as in the above example without reducing the image, the difference in the distance from the display screen between the image formation position of the closest image and the image formation position of the overlap image is large. (D1) A viewer who is concentrated on the close-up image may not notice the display of the superimposed image.

映像を縮小することにより、視聴者が認識しやすい位置である至近映像の結像位置に対し表示画面からの距離の差が小さい位置に重畳画像が結像するように重畳画像を表示することで、結果的に重畳画像の結像位置は表示画面から近い位置となり、認識した重畳画像の内容を確認するための視聴者の負担を軽減することができる。至近映像の結像位置よりも視聴者に近い位置に結像するように重畳画像を表示する場合でも、映像縮小後であれば極端に視聴者に近い位置に重畳画像結像位置を設定する必要がないので、視聴者への負担を大きくせずにすむ。   By reducing the image, the superimposed image is displayed so that the superimposed image is formed at a position where the difference in the distance from the display screen is small with respect to the imaging position of the close-up image, which is a position that the viewer can easily recognize. As a result, the image formation position of the superimposed image is close to the display screen, and the burden on the viewer for confirming the content of the recognized superimposed image can be reduced. Even when the superimposed image is displayed so that the image is formed closer to the viewer than the image forming position of the close-up image, it is necessary to set the superimposed image imaging position at a position extremely close to the viewer after image reduction. This eliminates the burden on viewers.

100 立体映像信号表示装置
101 映像信号入力部
102 左右映像分離部
104 拡大縮小部
105 左右映像合成部
106 表示部
107 ユーザ入力部
108 制御部
200 立体映像信号表示装置
202 重畳画像生成部
203 重畳画像重畳部
100 stereoscopic video signal display device 101 video signal input unit 102 left and right video separation unit 104 enlargement / reduction unit 105 left and right video synthesis unit 106 display unit 107 user input unit 108 control unit 200 stereoscopic video signal display device 202 superimposed image generation unit 203 superimposed image superposition Part

Claims (5)

立体映像信号を含む映像信号を入力する映像信号入力部と、
入力された前記立体映像信号を左目用映像信号と右目用映像信号に分離する左右映像分離部と、
左目用映像を拡大縮小する中心である第1の基準点と右目用映像を拡大縮小する中心である第2の基準点のそれぞれを基準点として左目用映像と右目用映像を変更する拡大縮小部と、
変更された前記左目用映像信号と前記右目用映像信号を合成する左右映像合成部と、
前記左目用映像信号と前記右目用映像信号が合成された映像信号を立体映像として知覚されるように表示する表示部と
を有し、
前記左右映像合成部は、前記第1の基準点と前記第2の基準点の表示部上の間隔を拡大縮小の前後で変えず、前記拡大縮小部は前記第1の基準点と前記第2の基準点を両眼視差の基となる左右映像がずれる方向と平行な同一線上に設定することを特徴とする立体映像表示装置。
A video signal input unit for inputting a video signal including a stereoscopic video signal;
A left and right video separation unit that separates the input stereoscopic video signal into a left-eye video signal and a right-eye video signal;
An enlargement / reduction unit that changes the left-eye image and the right-eye image with reference to the first reference point that is the center for enlarging / reducing the left-eye image and the second reference point that is the center for enlarging / reducing the right-eye image When,
A left and right video synthesis unit that synthesizes the changed left-eye video signal and the right-eye video signal;
A display unit that displays a video signal obtained by synthesizing the left-eye video signal and the right-eye video signal so as to be perceived as a stereoscopic video;
The left and right image combining unit does not change the interval on the display unit between the first reference point and the second reference point before and after the enlargement / reduction, and the enlargement / reduction unit does not change the first reference point and the second reference point. The three-dimensional image display apparatus is characterized in that the reference point is set on the same line parallel to the direction in which the left and right images that are the basis of binocular parallax are shifted.
視差を備えた左目用重畳画像信号と右目用重畳画像信号を生成する重畳画像生成部と、
前記左右映像合成部に入力される前の前記左目用映像信号と前記右目用映像信号に前記視差を備えた左目用重畳画像信号と右目用重畳画像信号をそれぞれ合成する重畳画像合成部と、
を更に備え、
前記視差を備えた左目用重畳画像信号と右目用重畳画像信号を合成するときには、拡大縮小部にて前記左目用映像と前記右目用映像のそれぞれを、前記第1の基準点と前記第2の基準点を中心に縮小するために前記左目用映像信号と前記右目用映像信号を変更する、
請求項1記載の立体映像表示装置。
A superimposed image generating unit that generates a superimposed image signal for the left eye and a superimposed image signal for the right eye with parallax;
A superimposed image combining unit that combines the left-eye video signal and the right-eye superimposed video signal with the parallax with the left-eye video signal and the right-eye video signal before being input to the left-right video combining unit;
Further comprising
When the left-eye superimposed image signal and the right-eye superimposed image signal having the parallax are combined, the enlargement / reduction unit converts the left-eye video and the right-eye video, respectively, to the first reference point and the second Changing the video signal for the left eye and the video signal for the right eye to reduce the image around a reference point,
The stereoscopic image display apparatus according to claim 1.
前記第1の基準点と前記第2の基準点の内、少なくとも一方が表示画面上の外側に位置する請求項1または2に記載の立体映像表示装置。   The three-dimensional image display device according to claim 1, wherein at least one of the first reference point and the second reference point is located on the outside of the display screen. 前記重畳画像が表示される位置に応じて、前記第1の基準点と前記第2の基準点の位置を設定する、請求項2または3記載の立体映像信号表示装置。   4. The stereoscopic video signal display device according to claim 2, wherein positions of the first reference point and the second reference point are set according to a position where the superimposed image is displayed. 5. 立体映像信号を含む映像信号を入力する映像信号入力ステップと、
入力された立体映像信号を左目用映像信号と右目用映像信号に分離する左右映像分離ステップと、
左目用映像と右目用映像のそれぞれを、両眼視差の基となる左右映像がずれる方向と平行な同一線上に設定した拡大縮小のそれぞれの中心を第1の基準点および第2の基準点として左目用映像信号と右目用映像信号を変更する拡大縮小ステップと、
変更された前記左目用映像信号と前記右目用映像信号を前記第1の基準点と前記第2の基準点の表示部上の間隔を拡大縮小前後で変えずに合成する左右映像合成ステップと、
前記左目用映像信号と前記右目用映像信号が合成された映像信号を立体映像として知覚されるように表示する表示ステップと
を有することを特徴とする立体映像表示方法。
A video signal input step for inputting a video signal including a stereoscopic video signal;
A left and right video separation step of separating the input stereoscopic video signal into a left-eye video signal and a right-eye video signal;
The respective centers of enlargement / reduction set with the left-eye video and the right-eye video set on the same line parallel to the direction in which the left-right video that is the basis of binocular parallax is shifted are defined as the first reference point and the second reference point. A scaling step for changing the left-eye video signal and the right-eye video signal;
A left-right video synthesis step of synthesizing the changed left-eye video signal and the right-eye video signal without changing the interval between the first reference point and the second reference point on the display unit before and after scaling;
And a display step of displaying a video signal obtained by synthesizing the left-eye video signal and the right-eye video signal so as to be perceived as a stereoscopic video.
JP2010246130A 2010-11-02 2010-11-02 Stereoscopic image display device and stereoscopic image display method Pending JP2012100084A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010246130A JP2012100084A (en) 2010-11-02 2010-11-02 Stereoscopic image display device and stereoscopic image display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010246130A JP2012100084A (en) 2010-11-02 2010-11-02 Stereoscopic image display device and stereoscopic image display method

Publications (1)

Publication Number Publication Date
JP2012100084A true JP2012100084A (en) 2012-05-24

Family

ID=46391512

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010246130A Pending JP2012100084A (en) 2010-11-02 2010-11-02 Stereoscopic image display device and stereoscopic image display method

Country Status (1)

Country Link
JP (1) JP2012100084A (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012065066A (en) * 2010-09-15 2012-03-29 Sharp Corp Stereoscopic image generation device, stereoscopic image display device, stereoscopic image adjustment method, program for allowing computer to perform stereoscopic image adjustment method, and recording medium with program recorded therein

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012065066A (en) * 2010-09-15 2012-03-29 Sharp Corp Stereoscopic image generation device, stereoscopic image display device, stereoscopic image adjustment method, program for allowing computer to perform stereoscopic image adjustment method, and recording medium with program recorded therein

Similar Documents

Publication Publication Date Title
JP5059922B2 (en) Stereoscopic image generating apparatus, stereoscopic image display apparatus, stereoscopic image adjustment method, program for causing computer to execute stereoscopic image adjustment method, and recording medium recording the program
TWI444036B (en) 2d to 3d user interface content data conversion
JP2011071898A (en) Stereoscopic video display device and stereoscopic video display method
TW201234838A (en) Stereoscopic display device and control method of stereoscopic display device
US20220256133A1 (en) Viewer-adjusted stereoscopic image display
JP2006349921A (en) Image display device
WO2011121920A1 (en) Imaging control device, immersion position information generation device, imaging control method, immersion position information generation method
JP2011211450A (en) Three-dimensional video display device, three-dimensional video photographing device, and three-dimensional video display method
US20120120065A1 (en) Image providing apparatus and image providing method based on user&#39;s location
JP4634863B2 (en) Stereoscopic image generation apparatus and stereoscopic image generation program
JP2003348621A (en) Means for setting two-viewpoint camera
JP2010171628A (en) Image processing device, program, image processing method, recording method, and recording medium
JP2012010047A5 (en)
JP2016032227A (en) Image display system, three-dimensional image pointing device, and image display device
KR101648864B1 (en) GUI providing method related to 3D image, and display apparatus and 3D image providing system using the same
JP2012010047A (en) Stereoscopic display device and display method of stereoscopic display device
JP2011151676A (en) Video display system
JP2004102526A (en) Three-dimensional image display device, display processing method, and processing program
TW201916682A (en) Real-time 2D-to-3D conversion image processing method capable of processing 2D image in real time and converting the 2D image into 3D image without requiring complicated subsequent processing
KR101638959B1 (en) Display mode changing method, and display apparatus and 3D image providing system using the same
JP2012100084A (en) Stereoscopic image display device and stereoscopic image display method
JP2011223126A (en) Three-dimensional video display apparatus and three-dimensional video display method
JP7339278B2 (en) Stereoscopic display adjusted to the viewer
JP4591997B2 (en) Stereoscopic image display device
JP2014175813A (en) Stereoscopic video display method and device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120724

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130507

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130514

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130917