JP2012156699A - Stereoscopic image processing apparatus and stereoscopic image display apparatus - Google Patents

Stereoscopic image processing apparatus and stereoscopic image display apparatus Download PDF

Info

Publication number
JP2012156699A
JP2012156699A JP2011013143A JP2011013143A JP2012156699A JP 2012156699 A JP2012156699 A JP 2012156699A JP 2011013143 A JP2011013143 A JP 2011013143A JP 2011013143 A JP2011013143 A JP 2011013143A JP 2012156699 A JP2012156699 A JP 2012156699A
Authority
JP
Japan
Prior art keywords
eye
image data
image
display
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011013143A
Other languages
Japanese (ja)
Inventor
Hironobu Yasui
裕信 安井
Noritaka Okuda
悟崇 奥田
Hirotaka Sakamoto
浩隆 坂本
Satoshi Yamanaka
聡 山中
Koji Minami
浩次 南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2011013143A priority Critical patent/JP2012156699A/en
Publication of JP2012156699A publication Critical patent/JP2012156699A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a stereoscopic image processing apparatus which displays and outputs a satisfactory stereoscopic image which is not uncomfortable at the ends of the screen by changing the range of the parallax amount of the stereoscopic image to be suitable for a user.SOLUTION: The stereoscopic image processing apparatus inputs a pair of inputted image data for the right eye and inputted image data for the left eye, and generates image data to be displayed by expanding respective image data for the right eye and inputted image data for the left eye so that only areas becoming a pair of images become display areas when deviating the display position of the inputted image data for the left eye to one of the right and left in a horizontal direction and deviating the inputted image data for the right eye to the other, respectively by portions of a parallax offset amount.

Description

本発明は、立体画像をなす一対の入力画像を表示する立体画像表示装置における立体画像処理装置に関する。   The present invention relates to a stereoscopic image processing apparatus in a stereoscopic image display apparatus that displays a pair of input images forming a stereoscopic image.

近年、ユーザーが擬似的に奥行き感を得るための画像表示技術として、両眼視差を利用した立体画像表示技術が多く提案されている。これは、3次元空間を左眼で見た画像と右眼で見た画像とをそれぞれユーザーの左右眼に見せることによって、擬似的に奥行き感を誘発する技術である。   In recent years, many stereoscopic image display techniques using binocular parallax have been proposed as image display techniques for a user to obtain a pseudo-depth feeling. This is a technology that induces a sense of depth in a pseudo manner by showing an image viewed with the left eye and an image viewed with the right eye to the left and right eyes of the user, respectively.

また、ユーザーの左右眼に異なる画像を見せるための技術として、左眼用画像と右眼用画像とを時間的に交互に切り替えてディスプレイに表示すると同時に、画像が切り替わるタイミングに同期して左右それぞれの視界を閉じる眼鏡を用いて左右の視界を時間的に分離する方式や、ディスプレイの前面にディスプレイに表示された画像の表示角を制限するバリアやレンズを用いることで左右眼それぞれに分離して左眼用画像と右眼用画像とを見せる方式など、様々な方式が提案されている。   In addition, as a technique for showing different images to the left and right eyes of the user, the left-eye image and the right-eye image are alternately switched in time and displayed on the display, and at the same time, the left and right images are synchronized with the timing at which the images are switched. Separate the left and right eyes by using a method that separates the left and right fields of view temporally using glasses that close the field of view, and a barrier or lens that limits the display angle of the image displayed on the display in front of the display. Various methods have been proposed, such as a method for showing a left-eye image and a right-eye image.

このような立体画像表示装置においては、ユーザーが注視している物体が飛び出した点に目の輻輳角を合わせながら、ディスプレイ表面にピントを合わせるという不整合により、飛び出し量が大きすぎると目の疲れを誘発するという問題点がある。また、ユーザーとディスプレイの表示面との距離やディスプレイ表示面の大きさ、ユーザーの個人差によって、ユーザーにとって好適な奥行き感が異なる。   In such a stereoscopic image display device, if the amount of popping out is too large due to the mismatch of focusing on the display surface while adjusting the convergence angle of the eye to the point where the object being watched by the user has popped out, fatigue of the eyes There is a problem of inducing. Also, the sense of depth suitable for the user varies depending on the distance between the user and the display surface of the display, the size of the display surface, and individual differences among users.

これらの問題に対して、従来の立体画像処理装置においては、視差量指示信号に基づいて、入力された立体画像の表示タイミングを調整することで映像の表示位置を画面上で左右に移動させるものがある。(例えば、特許文献1参照)。   With respect to these problems, the conventional stereoscopic image processing apparatus moves the video display position to the left and right on the screen by adjusting the display timing of the input stereoscopic image based on the parallax amount instruction signal. There is. (For example, refer to Patent Document 1).

特開2000−78615号公報(第3−4頁、第3図)JP 2000-78615 A (page 3-4, FIG. 3)

しかしながら、特許文献1のような方法で視差量を調整することで、画面端に片側の目だけに表示する画素データのない画面外の黒い部分(以下ブランキングともいう)が表示されてしまい、画面端の立体感が無くなってしまう問題点が生じる。例えば、左眼用画像を左に移動させれば左眼用画像の右画面端にはブランキングが表示されるため、右眼用画像の右端に対応する左眼用画像がなくなり、一対の立体画像をなし得ないこととなる。同様に右眼用画像を右に移動させれば右眼用画像の左画面端にはブランキングが表示されるため、左眼用画像の左端に対応する右眼用画像がなくなり、一対の立体画像をなし得ないこととなる。これによりユーザーは画面両端に違和感のある画像を見ることになるという問題があった。   However, by adjusting the amount of parallax by a method such as Patent Document 1, a black portion outside the screen (hereinafter also referred to as blanking) without pixel data to be displayed only on one side of the screen is displayed at the edge of the screen, There is a problem that the stereoscopic effect at the edge of the screen is lost. For example, if the left-eye image is moved to the left, blanking is displayed at the right screen end of the left-eye image, so there is no left-eye image corresponding to the right end of the right-eye image, and a pair of three-dimensional images An image cannot be made. Similarly, if the right-eye image is moved to the right, blanking is displayed at the left screen end of the right-eye image, so there is no right-eye image corresponding to the left end of the left-eye image, and a pair of three-dimensional images An image cannot be made. As a result, there is a problem that the user sees an uncomfortable image on both ends of the screen.

この発明は、上述のような課題を解決するためになされたもので、入力された左眼用画像及び右眼用画像に対して視差量を調整した場合においても、画面端に違和感のない良好な立体画像を表示出力することを目的とする。   The present invention has been made to solve the above-described problems, and even when the parallax amount is adjusted with respect to the input image for the left eye and the image for the right eye, the screen edge is not uncomfortable. An object is to display and output a simple stereoscopic image.

本発明に係わる立体画像処理装置は、一対の左眼用入力画像データ及び右眼用入力画像データを入力され、視差オフセット量の調整量を示す視差調整情報に基づいて前記左眼用入力画像データから左眼用表示画像データを、前記右眼用入力画像データから右眼用表示画像データを生成する画像生成部と、前記左眼用表示画像データ及び前記右眼用表示画像データから所定の出力フォーマットの画像信号を出力する表示出力部とを備えるものであって、前記画像生成部は、前記左眼用入力画像データの表示位置を左及び右の水平方向のうち一方の方向に、前記右眼用入力画像データの表示位置を他方の方向にそれぞれ前記視差オフセット量分ずらしたときに、一対の画像となる領域のみが表示領域となるように左眼用入力画像データ及び右眼用入力画像データをそれぞれ引き延ばすことを特徴とするものである。   The stereoscopic image processing apparatus according to the present invention receives a pair of left-eye input image data and right-eye input image data, and inputs the left-eye input image data based on parallax adjustment information indicating an adjustment amount of a parallax offset amount. The left eye display image data, the right eye display image data from the right eye display image data, and a predetermined output from the left eye display image data and the right eye display image data. A display output unit that outputs an image signal in a format, wherein the image generation unit sets the display position of the input image data for the left eye in one of the left and right horizontal directions and the right When the display position of the input image data for the eye is shifted in the other direction by the amount of parallax offset, the input image data for the left eye and the right eye are set so that only the area that becomes the pair of images becomes the display area. Is characterized in that the stretching force image data, respectively.

本発明によれば、入力された一対の左眼用入力画像データ及び右眼用入力画像データにある視差量を、視差オフセット量に基づいて視差範囲を変更した新たな一対の画像を生成することでユーザーにとって好適な奥行き感を得ながら、さらに視差オフセット量によって画像端に現れる一対をなさない領域を表示せず、元映像にない部分を作り出し出力することで、ユーザーにとって好適な視差量範囲の立体画像を表示出力することができる。   According to the present invention, it is possible to generate a new pair of images in which the parallax amount in the pair of input image data for the left eye and the input image data for the right eye is changed based on the parallax offset amount. By creating and outputting a part that does not exist in the original video without displaying a pair of areas that appear at the edge of the image due to the parallax offset amount while obtaining a feeling of depth suitable for the user, a parallax amount range suitable for the user A stereoscopic image can be displayed and output.

実施の形態1に係る立体画像処理装置を示すブロック図である。1 is a block diagram illustrating a stereoscopic image processing apparatus according to Embodiment 1. FIG. 左眼用入力画像と右眼用入力画像の視差とユーザーが感じる奥行き感の関係を示す図である。It is a figure which shows the relationship between the parallax of the input image for left eyes and the input image for right eyes, and the feeling of depth which a user feels. 視差調整を説明する図である。It is a figure explaining parallax adjustment. スクリーン上に示される画素とユーザーが感じる物体の位置を説明する図である。It is a figure explaining the position of the object shown to the pixel and user which are shown on a screen. 視差調整をした場合の左右画像の共通部を説明する図である。It is a figure explaining the common part of the right-and-left image at the time of parallax adjustment. スケーリング手法を説明する図である。It is a figure explaining a scaling method. 実施の形態2に係る立体画像処理装置を示すブロック図である。6 is a block diagram illustrating a stereoscopic image processing apparatus according to Embodiment 2. FIG.

実施の形態1.
図1は、本発明の実施の形態1に係る立体画像処理装置の構成を示す図である。図1において、立体画像処理装置100は、視差情報検出部1と、視差調整部2と、画像生成部3と、表示出力部4を備え、表示デバイス200に接続することで立体画像表示装置となる。
Embodiment 1 FIG.
FIG. 1 is a diagram showing a configuration of a stereoscopic image processing apparatus according to Embodiment 1 of the present invention. In FIG. 1, a stereoscopic image processing apparatus 100 includes a parallax information detection unit 1, a parallax adjustment unit 2, an image generation unit 3, and a display output unit 4. Become.

はじめに、構成要素の概要を説明する。視差情報検出部1は、左眼用入力画像データDa1及び右眼用入力画像データDb1からそれぞれ1枚の画面(フレーム)ごとに視差情報の最大飛び出し量T1max及び最大引き込み量H1maxを出力するものである。視差調整部2は、入力される画像がユーザーにとって好適な視差量範囲に収まるようにするための設定すべき視差オフセット量となる視差調整情報T2を決定するものであって、最大飛び出し量T1max及び最大引き込み量H1maxとユーザーによって決定される最大飛び出ししきい値ST1及び最大引き込みしきい値SH1とから、視差調整情報T2を決定し、出力するものである。画像生成部3は、左眼用入力画像データDa1及び右眼用入力画像データDb1を入力し、視差調整情報T2に基づいて左眼用表示画像データDa2及び右眼用表示画像データDb2を生成するものである。表示出力部4は、左眼用表示画像データDa2と右眼用表示画像データDb2とに基づいて表示デバイス200の入力フォーマットに対応した画像信号を出力するものである。   First, an outline of the components will be described. The parallax information detection unit 1 outputs the maximum amount T1max of the parallax information and the maximum amount H1max of the parallax information for each screen (frame) from the left-eye input image data Da1 and the right-eye input image data Db1. is there. The parallax adjustment unit 2 determines parallax adjustment information T2 that is a parallax offset amount to be set so that an input image falls within a parallax amount range suitable for the user. The parallax adjustment information T2 is determined and output from the maximum pull-in amount H1max, the maximum pop-out threshold value ST1 and the maximum pull-in threshold value SH1 determined by the user. The image generation unit 3 inputs the left-eye input image data Da1 and the right-eye input image data Db1, and generates the left-eye display image data Da2 and the right-eye display image data Db2 based on the parallax adjustment information T2. Is. The display output unit 4 outputs an image signal corresponding to the input format of the display device 200 based on the left-eye display image data Da2 and the right-eye display image data Db2.

次に、視差情報検出部1が求める最大飛び出し量T1max及び最大引き込み量H1maxについて説明する。図2は、左眼用画像と右眼用画像の視差とユーザーが感じる奥行き感の関係を示すものであり、左眼用画像はユーザーの左眼のみに、右眼用画像はユーザーの右眼のみに見えるように制御されているものとする。図2(a)では、ある物体に関する左眼用画像におけるディスプレイ面上の表示位置をP1l、右眼用画像におけるディスプレイ面上の表示位置をP1rとする。同様に、図2(b)では、ある物体に関する左眼用画像におけるディスプレイ面上の表示位置をP2l、右眼用画像におけるディスプレイ面上の表示位置をP2rとする。このとき、ユーザーにはP1lとP1rが一つの対象物として見えたときはF1の空間位置に存在するように見え、P2lとP2rが一つの対象物として見えたときはF2の空間位置に存在するように見える。   Next, the maximum pop-out amount T1max and the maximum pull-in amount H1max obtained by the parallax information detection unit 1 will be described. FIG. 2 shows the relationship between the parallax between the image for the left eye and the image for the right eye and the sense of depth felt by the user. The image for the left eye is only for the user's left eye, and the image for the right eye is the user's right eye. It is controlled to be visible only. In FIG. 2A, the display position on the display surface in the left-eye image regarding a certain object is P1l, and the display position on the display surface in the right-eye image is P1r. Similarly, in FIG. 2B, the display position on the display surface in the left-eye image regarding a certain object is P2l, and the display position on the display surface in the right-eye image is P2r. At this time, when P1l and P1r are seen as one object, the user appears to exist in the spatial position of F1, and when P2l and P2r appear as one object, they exist in the spatial position of F2. looks like.

ここで、ある物体の左眼用画像の水平座標をX(Pl)、右眼用画像の水平座標をX(Pr)とした場合、視差は第1式で求められる。ここで、入力される画像のフォーマットによって1フレームにおける1ライン上の画素数は決められるので、水平座標はゼロ座標をフレームの左端とした画素数単位で表すものとして説明する。   Here, when the horizontal coordinate of the image for the left eye of a certain object is X (Pl) and the horizontal coordinate of the image for the right eye is X (Pr), the parallax is obtained by the first equation. Here, since the number of pixels on one line in one frame is determined by the format of the input image, the horizontal coordinate is described as being expressed in units of the number of pixels with the zero coordinate as the left end of the frame.

Figure 2012156699
Figure 2012156699

第1式を図2(a)のP1l及びP1rに当てはめた場合に求まるd1=X(P1l)−X(P1r)は正の値となり、図2(b)のP2l及びP2rに当てはめた場合に求まるd2=X(P2l)−X(P2r)は負の値となる。   When the first equation is applied to P1l and P1r in FIG. 2A, d1 = X (P1l) −X (P1r) is a positive value, and when applied to P2l and P2r in FIG. The obtained d2 = X (P2l) -X (P2r) is a negative value.

図2(a)のように、視差が正の値で求まる場合は、物体はディスプレイ面とユーザーの間に存在するように見えるので、視差dが正の値の時を飛び出し量という。また図2(b)のように、視差が負の値で求まる場合は、物体はディスプレイ面より奥に存在するように見えるので、視差dが負の値の時を引き込み量という。ここで、1枚の画面(以下、1フレームとする)の入力画像において、正の最大値をもつ視差を最大飛び出し量といい、負の最大値をもつ視差を最大引き込み量という。   As shown in FIG. 2A, when the parallax is obtained with a positive value, the object appears to be present between the display surface and the user. Further, as shown in FIG. 2B, when the parallax is obtained with a negative value, the object appears to be present behind the display surface. Here, in an input image of one screen (hereinafter referred to as one frame), parallax having a positive maximum value is referred to as a maximum pop-out amount, and parallax having a negative maximum value is referred to as a maximum pull-in amount.

視差情報検出部1は、上述の1フレームごとの最大飛び出し量及び最大引き込み量を求めるものであって、左眼用入力画像と右眼用入力画像とを比較し、左眼用入力画像と右眼用入力画像とで同じ物体を表示している画素を検出し、それらの画素の水平座標の差分を計算することでそれぞれの物体の視差dを算出する。1フレームごとにこの視差dが正の場合の最大値、すなわち最大飛び出し量T1maxと、視差dが負の場合の絶対値の最大値、すなわち最大引き込み量T2maxを算出する。この視差dを求める際、画素ごとではなく、簡略化のため、画面をある区間に区切ってその区間ごとで、視差dを求め、1画面での最大飛び出し量T1maxと最大引き込み量T2maxを求めても良い。同じ物体を表示している画素の検出方法としては、例えばブロックマッチングなどの手法を用いることができる。   The parallax information detection unit 1 calculates the maximum pop-out amount and the maximum pull-in amount for each frame described above, compares the left-eye input image with the right-eye input image, and compares the left-eye input image with the right-eye input image. Pixels displaying the same object in the ophthalmic input image are detected, and the parallax d of each object is calculated by calculating the difference between the horizontal coordinates of those pixels. For each frame, a maximum value when the parallax d is positive, that is, a maximum pop-out amount T1max, and a maximum absolute value when the parallax d is negative, that is, a maximum pull-in amount T2max are calculated. When calculating the parallax d, for the sake of simplicity, instead of pixel by pixel, the screen is divided into certain sections, and the parallax d is calculated for each section, and the maximum pop-out amount T1max and the maximum pull-in amount T2max in one screen are calculated. Also good. As a method for detecting pixels displaying the same object, for example, a technique such as block matching can be used.

次に、視差調整部2について説明する。視差調整部2は、ユーザーによって決定される最大飛び出ししきい値ST1及び最大引き込みしきい値SH1と、視差情報検出部1から出力された最大飛び出し量T1max及び最大引き込み量H1maxとから、視差調整情報T2を決定し出力する。   Next, the parallax adjustment unit 2 will be described. The parallax adjustment unit 2 calculates parallax adjustment information from the maximum pop-out threshold value ST1 and the maximum pull-in threshold value SH1 determined by the user, and the maximum pop-out amount T1max and the maximum pull-in amount H1max output from the parallax information detection unit 1. T2 is determined and output.

一般的に、飛び出し量が大きいと目が疲れたり、立体視になりにくかったりする場合がある。そのため、ユーザーが決定した最大飛び出ししきい値を超えないように引き込む方向に視差を調整する。また、最大引き込み量が大きい時も、立体視になりにくくなる場合がある。そのため、ユーザーが決定した最大引き込みしきい値を超えないように飛び出す方向に視差を調整する。この飛び出し量と引き込み量とは画面のサイズ、画素数、ユーザーの視距離等によって最適値が異なる。また最大引き込み量に関しては、両眼間の距離が子供で5cmのため、表示画面上での引き込み視差の最大値(無限遠)が5cmを超えないようにすることが望ましいとされている。   In general, when the pop-out amount is large, eyes may become tired or stereoscopic viewing may be difficult. Therefore, the parallax is adjusted in the pull-in direction so as not to exceed the maximum pop-out threshold determined by the user. Further, even when the maximum pull-in amount is large, stereoscopic viewing may be difficult. Therefore, the parallax is adjusted in the direction of popping out so as not to exceed the maximum pull-in threshold determined by the user. The pop-up amount and the pull-in amount have different optimum values depending on the screen size, the number of pixels, the viewing distance of the user, and the like. Regarding the maximum pull-in amount, since the distance between both eyes is 5 cm for children, it is desirable that the maximum value (infinity) of the pull-in parallax on the display screen should not exceed 5 cm.

飛び出し量と引き込み量では、飛び出し量が大きい場合の方が、目が疲れたり、立体視になりにくかったりするとされているため、できるだけ引き込む方向に調整することが望ましい。例えば、最大飛び出し量が大きい場合は、飛び出し量を控えめにするように引き込み方向にシフトする。また、最大引き込み量が先に述べた5cmを超える場合は、最大5cmになるように飛び出し方向にシフトする。このようにして、視差調整部2はユーザーの決定した視差しきい値の範囲になるべく入るように動作を行う。このようにして、視差調整部2はユーザーの決定した視差しきい値の範囲になるべく入るような視差調整情報を決定する。   The amount of pop-out and the amount of pull-in are preferably adjusted in the direction of pull-in as much as possible because the eyes are tired or less likely to become stereoscopic when the amount of pop-out is large. For example, when the maximum pop-out amount is large, the shift is made in the pull-in direction so that the pop-out amount is conservative. Further, when the maximum pull-in amount exceeds 5 cm, the shift is made in the pop-out direction so as to be 5 cm at the maximum. In this way, the parallax adjustment unit 2 operates so as to be within the parallax threshold range determined by the user. In this manner, the parallax adjustment unit 2 determines parallax adjustment information that falls within the parallax threshold range determined by the user.

次に、視差調整部2の視差オフセット調整方法を説明する。視差調整情報T2は、ユーザーによって決定される最大飛び出ししきい値ST1及び最大引き込みしきい値SH1と、視差情報検出部1から出力された最大飛び出し量T1max及び最大引き込み量H1maxとから、4つの場合に場合分けし、以下の第2式〜第5式で表されるものとする。ここで最大飛び出ししきい値ST1及び最大引き込みしきい値SH1の決定については、例えば、ユーザーが表示デバイス200からのテスト画像あるいは過去の視聴実績などからユーザーが決定したり、複数の候補からユーザーが選択したものから決定したりするものである。また、a、b、c、およびdはいずれも0以上1以下の係数であり、これらの係数は入力される画像のもつ視差に対応する距離が表示デバイス200の大きさによって違うことなどを考慮して設定されるものである。   Next, the parallax offset adjustment method of the parallax adjustment unit 2 will be described. The parallax adjustment information T2 includes four cases of the maximum pop-out threshold value ST1 and the maximum pull-in threshold value SH1 determined by the user, and the maximum pop-out amount T1max and the maximum pull-in amount H1max output from the parallax information detection unit 1. It is assumed that the following formulas 2 to 5 are used. Here, regarding the determination of the maximum pop-out threshold value ST1 and the maximum pull-in threshold value SH1, for example, the user determines from a test image from the display device 200 or past viewing results, or the user selects from a plurality of candidates. It is determined from the selection. Further, a, b, c, and d are all coefficients of 0 or more and 1 or less, and these coefficients take into consideration that the distance corresponding to the parallax of the input image varies depending on the size of the display device 200. Is set.

Figure 2012156699
Figure 2012156699

Figure 2012156699
Figure 2012156699

Figure 2012156699
Figure 2012156699

Figure 2012156699
Figure 2012156699

第2式の場合を説明する。最大飛び出し量T1maxが最大飛び出ししきい値ST1より大きく、最大引き込み量H1maxが最大引き込みしきい値SH1以下の場合は、最大飛び出し量T1maxと最大飛び出ししきい値ST1との差に係数a(0≦a≦1)を乗算し負の数にしたものを、視差調整情報T2とする。すなわち、飛び出し量が大きいときに、引き込むように(視差が負の方向)動作させる。a<1にして、引き込み量が大きく変化するのを防止するようにしても良い。また、係数a=0とし、動作をやめても良い。   The case of the second formula will be described. When the maximum pop-out amount T1max is larger than the maximum pop-out threshold value ST1 and the maximum pull-in amount H1max is less than or equal to the maximum pull-in threshold value SH1, the coefficient a (0 ≦ 0) is set as the difference between the maximum pop-out amount T1max and the maximum pop-out threshold value ST1. A negative number obtained by multiplying a ≦ 1) is set as parallax adjustment information T2. That is, when the pop-out amount is large, the operation is performed so as to be pulled in (the parallax is in a negative direction). A <1 may be set to prevent the pull-in amount from changing greatly. Further, the coefficient a = 0 may be set to stop the operation.

第3式の場合を説明する。最大飛び出し量T1maxが最大飛び出ししきい値ST1より大きく、最大引き込み量H1maxが最大引き込みしきい値SH1より大きい場合は、最大飛び出し量T1maxと最大飛び出ししきい値ST1との差に係数b(0≦b≦1)を乗算し負の数にしたものと、最大引き込み量H1maxと最大引き込みしきい値SH1との差に係数a(0≦c≦1)を乗算したものを、視差調整情報T2とする。b=c=1としたときは、ユーザーが決めた最大値からの差が大きい方の視差量を減らすように動作させる。また、b>cとし、最大引き込み量より最大飛び出し量を減らす調整を優先としたり、b<cとして、最大飛び出し量より最大引き出し量を減らす調整を優先として良い。また、b<1、c<1として、引き込み量や飛び出し量が大きく変化するのを防止するようにしても良い。また、係数b=0として、引き込む動作をやめたり、係数c=0として、飛び出す量をやめても良い。   The case of the third formula will be described. When the maximum pop-out amount T1max is larger than the maximum pop-out threshold value ST1 and the maximum pull-in amount H1max is larger than the maximum pull-in threshold value SH1, the coefficient b (0 ≦ 0) is added to the difference between the maximum pop-out amount T1max and the maximum pop-out threshold value ST1. b ≦ 1) multiplied by a negative number, and the difference between the maximum pull-in amount H1max and the maximum pull-in threshold value SH1 multiplied by a coefficient a (0 ≦ c ≦ 1), and the parallax adjustment information T2 To do. When b = c = 1, the operation is performed so as to reduce the parallax amount having the larger difference from the maximum value determined by the user. In addition, it is possible to give priority to the adjustment that reduces the maximum pop-out amount over the maximum pull-in amount with b> c, or prioritize the adjustment that reduces the maximum pull-out amount over the maximum pop-out amount with b <c. Further, it is possible to prevent the pull-in amount and the pop-out amount from changing greatly by setting b <1 and c <1. Further, the pull-in operation may be stopped by setting the coefficient b = 0, or the pop-out amount may be stopped by setting the coefficient c = 0.

第4式の場合を説明する。最大飛び出し量T1maxが最大飛び出ししきい値ST1以下で、最大引き込み量H1maxが最大引き込みしきい値SH1より大きい場合は、最大引き込み量H1maxと最大引き込みしきい値SH1との差に係数d(0≦d≦1)を乗算したものを、視差調整情報T2とする。すなわち、飛び出し量が小さい(しきい値以下)が、最大引き込み量が大きいときに、引き込み量を減らす、すなわち飛び出し量を増やすよう(視差が正の方向)に動作させる。d<1にして、飛び出し量が大きく変化するのを防止するようにして良い。また、係数d=0とし、動作をやめても良い。   The case of the fourth formula will be described. When the maximum pop-out amount T1max is equal to or smaller than the maximum pop-out threshold value ST1 and the maximum pull-in amount H1max is larger than the maximum pull-in threshold value SH1, a coefficient d (0 ≦ 0) is calculated as the difference between the maximum pull-in amount H1max and the maximum pull-in threshold value SH1. The product obtained by multiplying d ≦ 1) is set as parallax adjustment information T2. That is, when the pop-out amount is small (below the threshold value) but the maximum pull-in amount is large, the pull-in amount is reduced, that is, the pop-out amount is increased (the parallax is in the positive direction). d <1 may be set so as to prevent the jump amount from changing greatly. The operation may be stopped by setting the coefficient d = 0.

第5式の場合を説明する。最大飛び出し量T1maxが最大飛び出ししきい値ST1以下で、最大引き込み量H1maxが最大引き込みしきい値SH1以下の場合は、T2=0とする。すなわち、最大飛び出し量も最大引き込み量も、ユーザーによって決定された最大飛び出ししきい値ST1と最大引き込みしきい値SH1の範囲にある場合は、何もせず、入力された立体画像をそのまま出力することとする。   The case of the fifth formula will be described. When the maximum pop-out amount T1max is equal to or smaller than the maximum pop-out threshold value ST1 and the maximum pull-in amount H1max is equal to or smaller than the maximum pull-in threshold value SH1, T2 = 0. That is, if the maximum pop-out amount and the maximum pull-in amount are within the range of the maximum pop-out threshold value ST1 and the maximum pull-in threshold value SH1 determined by the user, nothing is done and the input stereoscopic image is output as it is. And

上記のように、視差調整部2は、ユーザーによって決定される最大飛び出ししきい値ST1及び最大引き込みしきい値SH1と、最大飛び出し量T1max及び最大引き込み量H1maxとから、視差調整情報T2を決定し、画像生成部3へ出力する。   As described above, the parallax adjustment unit 2 determines the parallax adjustment information T2 from the maximum pop-out threshold value ST1 and the maximum pull-in threshold value SH1 determined by the user, the maximum pop-out amount T1max, and the maximum pull-in amount H1max. And output to the image generation unit 3.

次に、画像生成部3の動作を説明する。画像生成部3は、視差調整部2から出力された視差調整情報T2に基づいて、左眼用入力画像Da1と右眼用入力画像Db1から新たな左眼用画像と右眼用画像を生成し、左眼用表示画像Da2と右眼用表示画像Db2を出力する。ここで、画像生成部3は、視差調整情報T2に基づいて、左眼用画像と右眼用画像をそれぞれペアにして画像を生成する。   Next, the operation of the image generation unit 3 will be described. Based on the parallax adjustment information T2 output from the parallax adjustment unit 2, the image generation unit 3 generates a new left-eye image and right-eye image from the left-eye input image Da1 and the right-eye input image Db1. The left-eye display image Da2 and the right-eye display image Db2 are output. Here, the image generation unit 3 generates an image by pairing the left-eye image and the right-eye image based on the parallax adjustment information T2.

図3(a)に示す左眼用入力画像Da1及び右眼用入力画像Db1が入力されたとする。図中の黒丸物体B1lとB1rとは立体視となる同じ物体とする。この左眼用入力画像の物体B1lと右眼用入力画像の物体B1rとには元々視差d1があるものとする。図3(b)は、左眼用入力画像全体を水平方向へ左に平行移動し、右眼用入力画像全体を右に水平移動したものとする。すなわち、波線の画像を実線の画像となるよう水平移動させる。図3(b)を見ると、物体B1の左眼用画像と右眼用画像の視差はd1−sとなり小さくなっている。つまり、ユーザーからは飛び出している物体が引き込む方向へ奥に移動した様に見える。   Assume that the left-eye input image Da1 and the right-eye input image Db1 shown in FIG. The black circle objects B1l and B1r in the figure are the same objects that are stereoscopically viewed. It is assumed that the object B1l of the input image for the left eye and the object B1r of the input image for the right eye originally have a parallax d1. In FIG. 3B, it is assumed that the entire left-eye input image is translated horizontally to the left, and the entire right-eye input image is horizontally moved to the right. That is, the wavy line image is horizontally moved so as to become a solid line image. In FIG. 3B, the parallax between the image for the left eye and the image for the right eye of the object B1 is d1-s, which is small. In other words, it appears to the user that the object that is popping out has moved back in the direction of drawing.

上記説明をスクリーン上に示される画素とユーザーが感じる物体の位置との図で説明する。図4(a)は、図2(a)と同じである。図4(a)のP1lは、図3の左眼用画像の物体B1l中の画素、右眼用画像の画素P1rは右眼用画像の物体B1r中の画素であるとする。左眼用画像の画素P1lとP1rとは視差d1があり、ユーザーには空間中の点F1に物体があるように感じられる。図4(b)は、図3(b)で説明したようにディスプレイ面上に表示された左眼用画像を全体に左に、右眼用画像を右に移動させたものである。すなわち、図4(b)では、左眼用画像の物体B1l中の画素P1lはP1l−sに、右眼用画像の物体B1r中の画素P1rはP1r−sに移動する。図4(b)に示すように、左眼用画像の画素P1l−sと右眼用画像の画素P1r−sとの視差はd1−sとなり、左眼用画像の画素P1l−sと右眼用画像の画素P1r−sとで、ユーザーには空間中の点F1−sに物体があるように感じられる。すなわち、飛び出している物体が−Fだけ奥に引き込んだように感じられる。   The above description will be described with reference to the pixel on the screen and the position of the object felt by the user. FIG. 4A is the same as FIG. 4A is assumed to be a pixel in the object B1l of the image for the left eye in FIG. 3, and a pixel P1r of the image for the right eye is a pixel in the object B1r of the image for the right eye. The pixels P1l and P1r of the image for the left eye have parallax d1, and the user feels that there is an object at the point F1 in the space. FIG. 4B is a diagram in which the left-eye image displayed on the display surface is moved to the left and the right-eye image is moved to the right as described with reference to FIG. That is, in FIG. 4B, the pixel P1l in the object B1l of the left-eye image moves to P1l-s, and the pixel P1r in the object B1r of the right-eye image moves to P1r-s. As shown in FIG. 4B, the parallax between the pixel P1l-s of the left-eye image and the pixel P1r-s of the right-eye image is d1-s, and the pixel P1l-s of the left-eye image and the right eye With the pixel P1r-s of the image for use, the user feels that there is an object at the point F1-s in the space. That is, it can be felt that the projecting object has been pulled in by -F.

このように、左眼用入力画像と右眼用入力画像とを水平移動させることで視差を変えることができる。この移動量を視差オフセット量とする。視差オフセット量を負の方向に大きくすると、左眼画像全体を左に水平移動させ、右眼画像全体を右に水平移動させることとする。また、視差オフセット量を正の方向に大きくすると、左眼画像全体を右に水平移動させ、右眼画像全体を左に水平移動させることとする。すなわち、視差オフセット量を負の方向に大きくすると、画面全体が引き込む方向になり、視差オフセット量を正の方向に大きくすると、画面全体が飛び出す方向になる。つまり、視差オフセット量を調整することで、飛び出し量と引き込み量、すなわち、奥行き感を前にしたり、後ろにしたりすることができる。また、視差オフセット量で、左右画像をペアとして、左右を同時に反対方向に水平移動させることが特徴である。画像生成部3では、視差調整部2から出力された視差調整情報T2を入力して、この視差調整情報T2を視差オフセット量として調整を行う。   Thus, the parallax can be changed by horizontally moving the input image for the left eye and the input image for the right eye. This movement amount is set as a parallax offset amount. When the parallax offset amount is increased in the negative direction, the entire left eye image is horizontally moved to the left, and the entire right eye image is horizontally moved to the right. When the parallax offset amount is increased in the positive direction, the entire left eye image is horizontally moved to the right, and the entire right eye image is horizontally moved to the left. That is, when the parallax offset amount is increased in the negative direction, the entire screen is drawn, and when the parallax offset amount is increased in the positive direction, the entire screen is projected. That is, by adjusting the parallax offset amount, the pop-out amount and the pull-in amount, that is, the sense of depth can be moved forward or backward. In addition, the left and right images are paired with the parallax offset amount, and the left and right are simultaneously moved horizontally in opposite directions. In the image generation unit 3, the parallax adjustment information T2 output from the parallax adjustment unit 2 is input, and the parallax adjustment information T2 is adjusted as the parallax offset amount.

上述の通り、左眼用画像全体と右眼用画像全体とを水平方向へ平行移動し、視差調整を行なうとき、移動後の画像は元画像にない部分(表示すべき画像データのない部分)が表示されることになる。この状況を図5を用いて説明する。図5は視差調整をした場合の左右画像の共通部を説明する図である。ここで、図5(a)は、図3(b)と同じ図である。例えば、図5(a)のように、左眼用画像全体を左に水平移動したときに、左眼用画像を表示デバイス200にて表示するときの表示領域(点線枠内)の右側斜線部分が、元画像にない部分となる。同様に右眼用画像全体を右に水平移動したときに、右眼用画像を表示デバイス200にて表示するときの表示領域の左側斜線部分が、元画像にない部分となる。左目用画像と右眼用画像とは立体視しているもの以外は同じものでないと両眼で見たとき違和感のあるものになってしまうため、左目用画像と右眼用画像とを同じになるように画像を作ることが望ましい。   As described above, when the entire left-eye image and the entire right-eye image are translated in the horizontal direction and the parallax adjustment is performed, the moved image is a portion that is not in the original image (the portion that has no image data to be displayed). Will be displayed. This situation will be described with reference to FIG. FIG. 5 is a diagram for explaining a common part of left and right images when parallax adjustment is performed. Here, FIG. 5A is the same diagram as FIG. For example, as shown in FIG. 5A, when the entire left-eye image is horizontally moved to the left, the right oblique line portion of the display area (within the dotted frame) when the left-eye image is displayed on the display device 200 Is a portion that is not in the original image. Similarly, when the entire right-eye image is horizontally moved to the right, the left hatched portion of the display area when the right-eye image is displayed on the display device 200 is a portion that is not in the original image. The left-eye image and the right-eye image must be the same except for the one that is viewed stereoscopically. It is desirable to make an image as follows.

図5(a)で斜線部分以外の左右画像の共通部分は図5(b)の実線太線で示す中央部である。この中央部画像が視差オフセット量分ずらしたときに、一対の画像となる領域であって、この中央部画像から左右の部分を作り出すこととする。この元映像にない部分は、視差オフセット量、すなわち視差調整情報T2に基づくため、この元映像にない部分を作り出す際に、視差調整情報T2に基づいて以下で述べるスケーリング手法(拡大処理)を用いて引き延ばし率を決定し、引き延ばし率に応じて元の入力画像の画素データから引き延ばした後に該当する領域の画素データを再構築することで左眼用表示画像及び右眼用表示画像を生成する。   In FIG. 5A, the common part of the left and right images other than the shaded part is the central part indicated by the solid thick line in FIG. When this center image is shifted by the amount of parallax offset, it is a region that becomes a pair of images, and left and right portions are created from this center image. Since the part that is not in the original video is based on the parallax offset amount, that is, the parallax adjustment information T2, the scaling method (enlargement process) described below is used based on the parallax adjustment information T2 when creating the part that is not in the original video. Then, the enlargement rate is determined, and the pixel data of the corresponding region is reconstructed after being extended from the pixel data of the original input image according to the extension rate, thereby generating the left-eye display image and the right-eye display image.

次に、周辺を切り取った中央部画像から元のサイズとなるように画像を引き延ばす第1のスケーリング手法について述べる。図6(a)に示すように、視差調整情報T2によって決定された左右共通部分の中央画像が、元画像の水平サイズとなるように、左右共通部分の中央画像の水平サイズからから引き延ばし率を計算する。この水平方向に一定の引き延ばし率で、左右画像の中央部分を引き延ばし、元の画像サイズを作り出すスケーリングをする。この一定の引き延ばし率で行うスケーリングは、水平に一定比率で引き延ばしているため、少しだけ横長になるだけで、あまり違和感がない。   Next, a first scaling method will be described in which an image is stretched so as to be the original size from a central image obtained by cutting out the periphery. As shown in FIG. 6A, the enlargement rate is reduced from the horizontal size of the central image of the left and right common portion so that the central image of the left and right common portion determined by the parallax adjustment information T2 becomes the horizontal size of the original image. calculate. The horizontal portion is stretched at a certain stretch rate to stretch the central portion of the left and right images to produce the original image size. Since the scaling performed at this constant stretch rate is horizontally stretched at a constant rate, it becomes slightly horizontal and does not feel strange.

次に、周辺を切り取った中央部画像から元のサイズとなるように画像を引き延ばす第2のスケーリング手法について述べる。図6(b)に示すように、中央部の真円率はそのまま(1倍)で、周辺になるほど引き延ばし率を高くする手法を用いる。視差調整情報T2によって決定された左右共通部分の中央画像が、元画像の水平サイズとなるように、左右共通部分の中央画像の真円率を確保する領域から徐々に大きくなるように引き延ばし率を計算するこの引き延ばし率は線形でも非線形となるように定めても良い。また、真円率を確保する領域を大きくしても小さくしても良い。真円率の確保の領域をなしにして、中央から徐々に引き延ばし率を大きくしても良い。このように決定された引き延ばし率を、図6(b)の下に一例を示す。左右画像の中央部分はそのままで、周辺になるほど引き延ばし率を高くし、元の画像サイズを作り出すスケーリングをする。この手法の特徴は、人は中央部を良く注視し、周辺部はあまり気にならないという特性を利用したスケーリング手法で、引き延ばしたことがわかりにくい手法である。   Next, a second scaling method will be described in which an image is stretched so as to be the original size from the central image obtained by cutting the periphery. As shown in FIG. 6B, a method is used in which the roundness rate at the center is as it is (1 time) and the stretching rate is increased toward the periphery. The enlargement ratio is gradually increased so that the center image of the left and right common part determined by the parallax adjustment information T2 becomes the horizontal size of the original image and gradually increases from the area that secures the roundness of the center image of the right and left common part. The stretching rate to be calculated may be determined to be linear or non-linear. Further, the area for ensuring the roundness may be increased or decreased. It is also possible to increase the rate of elongation gradually from the center without providing a region for securing the perfect circle rate. An example of the stretching rate determined in this way is shown below FIG. The center part of the left and right images is left as it is, and the enlargement ratio is increased toward the periphery, and scaling is performed to produce the original image size. The feature of this method is that it is difficult to understand that it has been extended by a scaling method that takes advantage of the fact that people pay close attention to the central part and the peripheral part is not so concerned.

次に、周辺を切り取った中央部画像から元のサイズとなるように画像を引き延ばす第3のスケーリング手法について述べる。図6(c)に示すように、視差調整情報T2によって決定された左右共通部分の中央画像が、元画像の水平サイズとなるように、左右共通部分の中央画像の水平サイズからから引き延ばし率を計算する。この引き延ばし率を水平方向と垂直方向とで同じ比率となるように適用し、左右画像の中心を基準に、水平方向と垂直方向とに引き延ばし、元の画像サイズを作り出すスケーリングを行う。垂直方向の画像が画像外に出てしまい切り取られてしまうが、水平と垂直とに一定比率で引き延ばしているため、真円率が保たれ、違和感がない。   Next, a third scaling method for extending an image so as to be the original size from the central image obtained by cutting the periphery will be described. As shown in FIG. 6C, the enlargement rate is reduced from the horizontal size of the central image of the left and right common portion so that the central image of the left and right common portion determined by the parallax adjustment information T2 becomes the horizontal size of the original image. calculate. This stretching ratio is applied so that the ratio is the same in the horizontal direction and the vertical direction, and scaling is performed to create the original image size by stretching in the horizontal direction and the vertical direction with reference to the center of the left and right images. An image in the vertical direction goes out of the image and is cut out. However, since the image is stretched at a constant ratio in the horizontal and vertical directions, the roundness is maintained and there is no sense of incongruity.

次に、周辺を切り取った中央部画像から元のサイズの画像を作り出す第4の手法について述べる。これは図6(d)に示すように、スケーリング手法を用いず引き延ばしを行わないで、左眼用画像と右眼用画像を水平移動させ、画像がない部分をロゴや宣伝の入った壁紙のような画像や黒やグレー、色の画像を挿入する。すなわち、左眼用画像と右眼用画像の共通部分を残し、左眼用画像と右眼用画像との両方の共通部分以外をロゴや宣伝の入った壁紙のような画像や黒やグレー、色の画像にする。最も簡単に構成でき、両眼画像に同じ画像が表示されるため、違和感がない手法である。   Next, a fourth method for creating an image of the original size from the center image obtained by cutting the periphery will be described. As shown in FIG. 6D, without scaling without using a scaling method, the left-eye image and the right-eye image are moved horizontally, and the portion without the image is replaced with a wallpaper containing a logo or advertisement. Insert an image like this, or a black, gray, or color image. That is, leave the common part of the image for the left eye and the image for the right eye, and the image other than the common part of both the image for the left eye and the image for the right eye, such as an image such as a logo or advertising wallpaper, black or gray, Make a color image. This is the simplest method, and the same image is displayed in the binocular image, so there is no sense of incongruity.

周辺を切り取った中央部画像から元のサイズの画像を作り出す手法を、上記の第1〜第4の手法について述べたが、第1〜第4の手法に限らず、それ以外の既知のスケーリング手法や画像挿入で作成してもよい。   Although the above-described first to fourth methods have been described as methods for generating an image of the original size from the central image obtained by cutting the periphery, the present invention is not limited to the first to fourth methods, and other known scaling methods are also used. Or by inserting images.

このようにして、画像生成部3は、視差調整部2から出力された視差調整情報T2に応じて、それぞれ左眼用の画像及び右眼用の画像から同じだけ引き延ばし率を変え、左眼用入力画像Da1及び右眼用入力画像Db1からスケーリングによって、新たな左眼用表示画像Da2及び右眼用表示画像Db2を出力する。このことにより、視差調整情報T2が変わっても、左右画像のどちらかの水平端の画像が欠けたり、異なる画像となることがなく、違和感のない良好な立体画像が得ることができる。   In this way, the image generation unit 3 changes the enlargement rate by the same amount from the left-eye image and the right-eye image in accordance with the parallax adjustment information T2 output from the parallax adjustment unit 2, respectively. A new left-eye display image Da2 and right-eye display image Db2 are output by scaling from the input image Da1 and the right-eye input image Db1. As a result, even if the parallax adjustment information T2 is changed, an image at the horizontal end of either of the left and right images is not lost or a different image is obtained, and a good stereoscopic image without a sense of incongruity can be obtained.

また、視差調整部2が決定し出力する視差調整情報T2は、毎フレームの最大飛び出し量T1max及び最大引き込み量H1maxに対応して毎フレーム新しい視差調整情報T2を出力するのではなく、最大飛び出し量T1max及び最大引き込み量H1maxについて複数フレーム単位で最大値を求めたものと最大飛び出ししきい値ST1及び最大引き込みしきい値SH1とから求めても構わない。また、入力される映像の番組やコンテンツ単位などで最大飛び出し量T1max及び最大引き込み量H1maxの最大値履歴を記憶したものと最大飛び出ししきい値ST1及び最大引き込みしきい値SH1とから求めても構わない。このようにした視差調整情報T2に基づいて画像生成部3で左眼用表示画像及び右眼用表示画像を生成することで、視差調整及び引き延ばし率が変動する頻度を抑えることができ、ユーザーにとって見やすい映像を提供することができるという効果を奏する。上述の第4の手法についてもユーザーにとって見やすい映像を提供することができるという効果を奏することはいうまでもない。   Further, the parallax adjustment information T2 determined and output by the parallax adjustment unit 2 does not output the new parallax adjustment information T2 for each frame corresponding to the maximum pop-out amount T1max and the maximum pull-in amount H1max for each frame, but the maximum pop-out amount. The maximum value for T1max and the maximum pull-in amount H1max may be obtained from the maximum value obtained in units of a plurality of frames, the maximum pop-out threshold ST1, and the maximum pull-in threshold SH1. Alternatively, the maximum pop-out amount T1max and the maximum pull-in amount H1max may be obtained from the maximum pop-out threshold value ST1 and the maximum pull-in threshold value SH1 stored in the program or content unit of the input video. Absent. By generating the display image for the left eye and the display image for the right eye in the image generation unit 3 based on the parallax adjustment information T2 thus configured, it is possible to suppress the frequency with which the parallax adjustment and the enlargement rate fluctuate. There is an effect that it is possible to provide an easy-to-view video. Needless to say, the fourth method described above can also provide an image that can be easily viewed by the user.

さらに、画像生成部3において視差調整情報T2に基づく引き延ばし率の変更を必ず実施するのではなく、視差調整情報T2に基づく引き延ばし率について最大値の履歴を記憶し、その引き延ばし率の最大値が更新されるまで引き延ばし率の最大値を用いたスケーリングを保持するとして、より引き延ばし率が変動する頻度を抑えることができ、ユーザーにとって見やすい映像を提供することができるという効果を奏する。このとき例えば入力される映像の番組やコンテンツ単位などで引き延ばし率の最大値の履歴の保持を消去するなどしても構わない。上述の第4の手法についても切り取る範囲について履歴を記憶したものを用いることでユーザーにとって見やすい映像を提供することができるという効果を奏することはいうまでもない。   Further, the image generation unit 3 does not always change the stretching rate based on the parallax adjustment information T2, but stores a history of the maximum value of the stretching rate based on the parallax adjustment information T2, and the maximum value of the stretching rate is updated. If the scaling using the maximum value of the stretch rate is held until the image is displayed, the frequency at which the stretch rate fluctuates can be suppressed, and an image that is easy for the user to view can be provided. At this time, for example, the history of the maximum value of the stretch rate may be deleted for each input video program or content unit. It goes without saying that the above-described fourth method also provides an effect that it is possible to provide an image that is easy for the user to view by using a history that has been stored for the range to be clipped.

次に、表示出力部4の動作を説明する。立体表示を可能にする表示の方式としては、空間的に異なる座標に左眼用画像と右眼用画像とを表示する方式や、時間的に異なるフレームに左眼用画像と右眼用画像とを表示する方式などがある。表示出力部4は左眼用表示画像と右眼用表示画像とを入力して、表示デバイス200の入力に対応した画像信号を出力する表示装置である。   Next, the operation of the display output unit 4 will be described. Display methods that enable stereoscopic display include a method for displaying left-eye images and right-eye images at spatially different coordinates, and left-eye images and right-eye images in temporally different frames. There is a method to display. The display output unit 4 is a display device that inputs a display image for the left eye and a display image for the right eye and outputs an image signal corresponding to the input of the display device 200.

なお、表示出力部4は、ある決まった画像信号フォーマットに変換して画像信号を出力するものとしても構わない。例えば、ブルーレイ再生録画装置などに立体画像処理装置100を備えて、表示デバイスを備えるTVに接続する場合においても、本発明の効果を奏することはいうまでもない。   The display output unit 4 may convert the image signal format into a predetermined image signal format and output the image signal. For example, even when the stereoscopic image processing apparatus 100 is provided in a Blu-ray playback / recording apparatus or the like and connected to a TV having a display device, it goes without saying that the effects of the present invention are achieved.

このように、左眼用入力画像と右眼用入力画像とから視差情報を検出し、検出した視差情報と視差調整情報とに基づいて左眼用入力画像及び右眼用入力画像を変更することによって、画面全体の奥行き感を増加させる、あるいは減少させることができるため、ユーザーにとって好適な視差量範囲で、最適な奥行き感の立体画像を表示することができる。また、視差調整情報に基づいて視差範囲を変更した新たな一対の画像を生成する際、新たな一対の画像端に元映像にない部分を作り出す表示するようにしたので、左右画像の水平端が欠けたり、異なる画像となることがなく、良好な立体画像が得ることができ、ユーザーにとって好適な視差量範囲の立体画像を表示出力することができる。
実施の形態2.
In this manner, parallax information is detected from the left-eye input image and the right-eye input image, and the left-eye input image and the right-eye input image are changed based on the detected parallax information and the parallax adjustment information. Thus, the depth feeling of the entire screen can be increased or decreased, so that a stereoscopic image with the optimum depth feeling can be displayed within the parallax amount range suitable for the user. In addition, when generating a new pair of images in which the parallax range is changed based on the parallax adjustment information, the new pair of images are displayed so as to create a portion that is not included in the original video. A good stereoscopic image can be obtained without lacking or different images, and a stereoscopic image in a parallax amount range suitable for the user can be displayed and output.
Embodiment 2. FIG.

実施の形態1では、視差調整部2が視差情報検出部1が求める最大飛び出し量T1max及び最大引き込み量H1maxと、最大飛び出ししきい値ST1及び最大引き込みしきい値SH1とから視差調整情報T2を決定していたが、視差情報検出部1を設けずに入力した立体画像から視差情報を検出しないで、ユーザーが任意に変更したい視差調整量S1に基づき視差調整情報T2を決定するとしてもよい。   In Embodiment 1, the parallax adjustment unit 2 determines the parallax adjustment information T2 from the maximum pop-out amount T1max and the maximum pull-in amount H1max obtained by the parallax information detection unit 1, and the maximum pop-out threshold value ST1 and the maximum pull-in threshold value SH1. However, the parallax adjustment information T2 may be determined based on the parallax adjustment amount S1 that the user wants to arbitrarily change without detecting the parallax information from the input stereoscopic image without providing the parallax information detection unit 1.

図7は本発明の実施の形態2に係る立体画像処理装置の構成を示す図である。図7において、立体画像処理装置101は、視差調整部5と、画像生成部3と、表示出力部4を備え、表示デバイス200に接続することで立体画像表示装置となる。ここで、実施の形態1と同じ符号のものについては実施の形態1で説明したものと同様であるため、本実施の形態では説明を省略する。   FIG. 7 is a diagram showing a configuration of a stereoscopic image processing apparatus according to Embodiment 2 of the present invention. In FIG. 7, the stereoscopic image processing apparatus 101 includes a parallax adjustment unit 5, an image generation unit 3, and a display output unit 4, and becomes a stereoscopic image display device by being connected to the display device 200. Here, the same reference numerals as those in the first embodiment are the same as those described in the first embodiment, and thus the description thereof is omitted in this embodiment.

視差調整部5は、飛び出し量の度合いをユーザーに調整させる。例えば、視差調整メニューで視差調整量S1を、+A〜−Bの範囲で調整できるものとする。符号が+の時は、飛び出し量を大きくすることを意味する。すなわち、飛び出し方向に左眼用画像と右眼用画像とを水平移動させる。符号が−の時は、飛び出し量を小さくする。すなわち、引き込み方向に左眼用画像と右眼用画像とを水平移動させる。飛び出し量が大きいと一般的に目が疲れたり、立体視が入りにくかったりする場合があるため、主に、飛び出し量を抑えるために、+A側をA=0とし、ユーザー調整で−B側を主に行うこととしても良い。   The parallax adjustment unit 5 allows the user to adjust the degree of the pop-out amount. For example, it is assumed that the parallax adjustment amount S1 can be adjusted in the range of + A to -B on the parallax adjustment menu. When the sign is +, it means that the pop-out amount is increased. That is, the left eye image and the right eye image are horizontally moved in the pop-out direction. When the sign is-, the pop-out amount is reduced. That is, the left eye image and the right eye image are horizontally moved in the pull-in direction. If the pop-out amount is large, the eyes may become tired or the stereoscopic view may be difficult to enter. Therefore, in order to suppress the pop-out amount, the A side is set to A = 0, and the -B side is adjusted by user adjustment. You can do it mainly.

視差調整部5から出力される視差調整情報T2の決定手法を説明する。視差調整部5にはユーザーによって決定される視差調整量S1が入力される。視差調整情報T2は、上記視差調整量S1に比例または、任意の値を持たせて出力する。例えば、視差調整量S1を、+1〜−2の範囲で調整できるものとする。視差調整量S1=+1のときT2=+e、S1=0のときT2=0、S1=−1のときT2=−f、S1=−2のときT2=−g(g>f)とする。ここで、e、f、gは任意の数値にしてよい。   A method for determining the parallax adjustment information T2 output from the parallax adjustment unit 5 will be described. The parallax adjustment unit 5 receives the parallax adjustment amount S1 determined by the user. The parallax adjustment information T2 is output in proportion to the parallax adjustment amount S1 or an arbitrary value. For example, it is assumed that the parallax adjustment amount S1 can be adjusted in the range of +1 to −2. When the parallax adjustment amount S1 = + 1, T2 = + e, when S1 = 0, T2 = 0, when S1 = −1, T2 = −f, and when S1 = −2, T2 = −g (g> f). Here, e, f, and g may be arbitrary numerical values.

また、画像生成部3の動作について述べる。画像生成部3は、視差調整部5から出力された視差調整情報T2に基づいて、毎回スケーリングの引き延ばし率を変えずに、引き延ばし率を想定される最大値に固定とし、視差調整情報T2に応じて、左目用入力画像と右眼用入力画像を水平方向にシフトするだけにすることも考えられる。すなわち、視差調整情報T2の最大値は決まっているため、予め画像を視差調整情報T2の最大値の場合の固定の引き延ばし率でスケーリングをした元画像より大きな画素数の画像を作成する。視差調整情報T2によって、前述の視差オフセット量の手法で左目用入力画像と右眼用入力画像とを水平方向にシフトする。スケーリングの手法は前記第1〜第4の手法を用いて良い。本手法は、予め視差調整情報の最大値でスケーリングしているため、シフトしないと見えない画像部分があるが、視差調整情報T2によって引き延ばし率が変動しないため、引き延ばし率が変動することによる違和感がないことが特徴である。このことにより、視差調整情報T2が変わっても、左右画像のどちらかの水平端の画像が欠けたり、異なる画像となることがなく、良好な立体画像が得られる。   The operation of the image generation unit 3 will be described. Based on the parallax adjustment information T2 output from the parallax adjustment unit 5, the image generation unit 3 fixes the scaling rate to the assumed maximum value without changing the scaling rate of scaling every time, and responds to the parallax adjustment information T2. Thus, it is conceivable to simply shift the left-eye input image and the right-eye input image in the horizontal direction. That is, since the maximum value of the parallax adjustment information T2 is determined, an image having a larger number of pixels than the original image obtained by scaling the image with a fixed extension rate in the case of the maximum value of the parallax adjustment information T2 in advance is created. Based on the parallax adjustment information T2, the left-eye input image and the right-eye input image are shifted in the horizontal direction by the above-described method of parallax offset amount. As the scaling method, the first to fourth methods may be used. Since this method is previously scaled with the maximum value of the parallax adjustment information, there is an image portion that cannot be seen unless it is shifted. It is characteristic that there is not. As a result, even if the parallax adjustment information T2 changes, an image at the horizontal end of either the left or right image is not lost or a different image is obtained, and a good stereoscopic image is obtained.

このように、ユーザーによって決定された視差調整量を用いて、左眼用入力画像と右眼用入力画像とについて視差オフセット量を調整し、視差調整量に基づいて新たな一対の画像端に元映像にない部分を作り出すようにした場合においても、所期の目的を達成しうることはいうまでもない。
In this manner, the parallax adjustment amount determined by the user is used to adjust the parallax offset amount for the left-eye input image and the right-eye input image, and the original pair of image edges is generated based on the parallax adjustment amount. It goes without saying that the intended purpose can be achieved even when a portion not included in the image is created.

100 立体画像処理装置
1 視差情報検出部
2 視差調整部
3 画像生成部
4 表示出力部
5 視差調整部
DESCRIPTION OF SYMBOLS 100 Stereoscopic image processing apparatus 1 Parallax information detection part 2 Parallax adjustment part 3 Image generation part 4 Display output part 5 Parallax adjustment part

Claims (8)

一対の左眼用入力画像データ及び右眼用入力画像データを入力され、視差オフセット量の調整量を示す視差調整情報に基づいて前記左眼用入力画像データから左眼用表示画像データを、前記右眼用入力画像データから右眼用表示画像データを生成する画像生成部と、
前記左眼用表示画像データ及び前記右眼用表示画像データから所定の出力フォーマットの画像信号を出力する表示出力部とを備える立体画像処理装置であって、
前記画像生成部は、前記左眼用入力画像データの表示位置を左及び右の水平方向のうち一方の方向に、前記右眼用入力画像データの表示位置を他方の方向にそれぞれ前記視差オフセット量分ずらしたときに、一対の画像となる領域のみが表示領域となるように左眼用入力画像データ及び右眼用入力画像データをそれぞれ引き延ばす
ことを特徴とする立体画像処理装置。
A pair of left-eye input image data and right-eye input image data is input, and the left-eye display image data is converted from the left-eye input image data based on the parallax adjustment information indicating the adjustment amount of the parallax offset amount. An image generation unit that generates right-eye display image data from right-eye input image data;
A stereoscopic image processing apparatus comprising: a display output unit that outputs an image signal of a predetermined output format from the display image data for the left eye and the display image data for the right eye,
The image generation unit sets the display position of the left-eye input image data in one of the left and right horizontal directions, and the display position of the right-eye input image data in the other direction, respectively. A three-dimensional image processing apparatus, wherein the left-eye input image data and the right-eye input image data are each extended so that only a region that becomes a pair of images becomes a display region when shifted by a distance.
前記左眼用入力画像データ及び前記右眼用入力画像データから最大飛び出し量と最大引き込み量とを含む視差情報を検出する視差情報検出部と、
設定された最大飛び出ししきい値及び設定された最大引き込みしきい値と前記視差情報とから前記視差調整情報を生成する視差調整部と
をさらに備えることを特徴とする請求項1に記載の立体画像処理装置。
A parallax information detection unit that detects parallax information including a maximum pop-out amount and a maximum pull-in amount from the left-eye input image data and the right-eye input image data;
The stereoscopic image according to claim 1, further comprising: a parallax adjustment unit that generates the parallax adjustment information from the set maximum pop-out threshold value, the set maximum pull-in threshold value, and the parallax information. Processing equipment.
前記画像生成部は、前記視差調整情報に基づいた所定の水平引き伸ばし率で一定に引き延ばす
ことを特徴とする請求項1及び請求項2に記載の立体画像処理装置。
3. The stereoscopic image processing apparatus according to claim 1, wherein the image generation unit uniformly extends the image at a predetermined horizontal expansion rate based on the parallax adjustment information.
前記画像生成部は、さらに前記視差調整情報に基づいた所定の垂直引き伸ばし率で一定に引き延ばす
ことを特徴とする請求項3に記載の立体画像処理装置。
The stereoscopic image processing apparatus according to claim 3, wherein the image generation unit further extends the image at a predetermined vertical expansion rate based on the parallax adjustment information.
前記画像生成部は、前記表示領域における所定の中央領域は真円率1倍を保持し、前記中央領域以外を引き延ばす
ことを特徴とする請求項1及び請求項2に記載の立体画像処理装置。
3. The stereoscopic image processing apparatus according to claim 1, wherein the image generation unit maintains a circularity rate of 1 in a predetermined central region in the display region and extends other than the central region.
一対の左眼用入力画像データ及び右眼用入力画像データを入力され、視差オフセット量の調整量を示す視差調整情報に基づいて前記左眼用入力画像データから左眼用表示画像データを、前記右眼用入力画像データから右眼用表示画像データを生成する画像生成部と、
前記左眼用表示画像データ及び前記右眼用表示画像データから所定の出力フォーマットの画像信号を出力する表示出力部とを備える立体画像処理装置であって、
前記画像生成部は、前記左眼用入力画像データの表示位置を左及び右の水平方向のうち一方の方向に、前記右眼用入力画像データの表示位置を他方の方向にそれぞれ前記視差オフセット量分ずらしたときに、一対の画像とならない領域に第二の左眼用表示画像データ及び第二の右眼用表示画像データを付加して前記左眼用表示画像データ及び前記右眼用表示画像データを生成する
ことを特徴とする立体画像処理装置。
A pair of left-eye input image data and right-eye input image data is input, and the left-eye display image data is converted from the left-eye input image data based on the parallax adjustment information indicating the adjustment amount of the parallax offset amount. An image generation unit that generates right-eye display image data from right-eye input image data;
A stereoscopic image processing apparatus comprising: a display output unit that outputs an image signal of a predetermined output format from the display image data for the left eye and the display image data for the right eye,
The image generation unit sets the display position of the left-eye input image data in one of the left and right horizontal directions, and the display position of the right-eye input image data in the other direction, respectively. The left-eye display image data and the right-eye display image are added by adding the second left-eye display image data and the second right-eye display image data to a region that does not become a pair of images when shifted by a distance. A stereoscopic image processing apparatus characterized by generating data.
画像生成部は、前記視差オフセット量の最大値を記憶して、その最大値を用いて前記左眼用表示画像データ及び前記右眼用表示画像データを生成する
ことを特徴とする請求項1から請求項6のいずれか1項に記載の立体画像処理装置。
The image generation unit stores the maximum value of the parallax offset amount, and generates the display image data for the left eye and the display image data for the right eye using the maximum value. The stereoscopic image processing apparatus according to claim 6.
請求項1から請求項7のいずれか一項に記載の立体画像処理装置を備え、
前記表示出力部からの前記画像信号を表示する表示デバイスをさらに備える
ことを特徴とする立体画像表示装置。
A stereoscopic image processing apparatus according to any one of claims 1 to 7, comprising:
A stereoscopic image display apparatus, further comprising a display device that displays the image signal from the display output unit.
JP2011013143A 2011-01-25 2011-01-25 Stereoscopic image processing apparatus and stereoscopic image display apparatus Pending JP2012156699A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011013143A JP2012156699A (en) 2011-01-25 2011-01-25 Stereoscopic image processing apparatus and stereoscopic image display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011013143A JP2012156699A (en) 2011-01-25 2011-01-25 Stereoscopic image processing apparatus and stereoscopic image display apparatus

Publications (1)

Publication Number Publication Date
JP2012156699A true JP2012156699A (en) 2012-08-16

Family

ID=46837994

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011013143A Pending JP2012156699A (en) 2011-01-25 2011-01-25 Stereoscopic image processing apparatus and stereoscopic image display apparatus

Country Status (1)

Country Link
JP (1) JP2012156699A (en)

Similar Documents

Publication Publication Date Title
JP4259913B2 (en) Stereoscopic image processing apparatus, stereoscopic image processing program, and recording medium recording the program
JP5522404B2 (en) Image processing method, image processing apparatus, and program
JP5545036B2 (en) Image processing apparatus, image processing method, and image display apparatus
JP5002702B2 (en) Parallax image generation device, stereoscopic video display device, and parallax image generation method
JP2011166285A (en) Image display device, image display viewing system and image display method
JP2012065066A (en) Stereoscopic image generation device, stereoscopic image display device, stereoscopic image adjustment method, program for allowing computer to perform stereoscopic image adjustment method, and recording medium with program recorded therein
JP2011176800A (en) Image processing apparatus, 3d display apparatus, and image processing method
JP2011035712A (en) Image processing device, image processing method and stereoscopic image display device
JP2011216937A (en) Stereoscopic image display device
US20120229600A1 (en) Image display method and apparatus thereof
CN107172409A (en) Camber display screen bore hole 3D display methods and device
JP5127973B1 (en) Video processing device, video processing method, and video display device
JP5488212B2 (en) Image processing apparatus, image processing method, and image display apparatus
JP5528162B2 (en) Image processing apparatus and image processing method
JP2013090129A (en) Image processing apparatus, image processing method and program
JP5926546B2 (en) Image processing apparatus and method
US9113140B2 (en) Stereoscopic image processing device and method for generating interpolated frame with parallax and motion vector
JP2011254176A (en) Image processor and control method thereof
JP5911325B2 (en) Stereoscopic image processing apparatus and stereoscopic image display apparatus
JP2011176822A (en) Image processing apparatus, 3d display apparatus, and image processing method
JP2012156699A (en) Stereoscopic image processing apparatus and stereoscopic image display apparatus
JP2018191191A (en) Stereoscopic video generation device
WO2012014489A1 (en) Video image signal processor and video image signal processing method
US9330487B2 (en) Apparatus and method for processing 3D images through adjustment of depth and viewing angle
JP2013187763A (en) Parallax correction processing apparatus