JPH1127703A - Display device and its control method - Google Patents

Display device and its control method

Info

Publication number
JPH1127703A
JPH1127703A JP9174507A JP17450797A JPH1127703A JP H1127703 A JPH1127703 A JP H1127703A JP 9174507 A JP9174507 A JP 9174507A JP 17450797 A JP17450797 A JP 17450797A JP H1127703 A JPH1127703 A JP H1127703A
Authority
JP
Japan
Prior art keywords
images
image
difference
right difference
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP9174507A
Other languages
Japanese (ja)
Inventor
Takeo Sakimura
岳生 崎村
Katsumi Iijima
克己 飯島
Katsuhiko Mori
克彦 森
Sunao Kurahashi
直 倉橋
Kotaro Yano
光太郎 矢野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP9174507A priority Critical patent/JPH1127703A/en
Publication of JPH1127703A publication Critical patent/JPH1127703A/en
Withdrawn legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To automatically correct the horizontal difference and also to easily perform correction that is suitable to user's taste by extracting the horizontal difference of a set of images that mutually have parallax and providing a means which corrects the extracted horizontal difference. SOLUTION: Automatic correction is performed by a program that is loaded to a storage device 13 under the control of a CPU 10. Two images undergo color processing by an image-processing part 12 and after that, they are respectively and separately shown on a display 19. A correspondence point area is designated is a left image by using a GUI 14 for left and right difference correction, while in a right image, a correspondence point is searched about each point in the area by using template matching, and parallax is calculated with acquired correspondence points with each other. Horizontal difference (vertical difference (d), rotation (θ) and a magnification rate (m)) based on two sets of correspondence points is calculated from a correspondence group that shows the parallax of a maximum frequency, while the right image is corrected so that the followings are established: (d)=0, (θ)=0 and (m)=1. Then they are shown as a stereoscopic image on the display 19.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、少なくとも1つ以
上の撮像装置によって撮像した互いに視差を有する一組
の画像を立体視表示する表示装置及びその制御方法に関
するものである。
[0001] 1. Field of the Invention [0002] The present invention relates to a display device for stereoscopically displaying a set of images having parallax captured by at least one image pickup device and a control method thereof.

【0002】[0002]

【従来の技術】従来より実写画像による立体視画像表示
法が知られている。これは少なくとも1つ以上の撮像装
置により、基線長で与えられる間隔で左右2視点からの
画像の撮像を行う。このように左右の2視点からある着
目した被写体を撮像した場合、それぞれの撮像装置で撮
像される画像中の被写体の位置が画像の水平方向に互い
に異なっている。すなわちこれが視差であり、この視差
を含む1組の画像をステレオ視することにより、ユーザ
は立体感のある画像を見る。
2. Description of the Related Art Conventionally, a stereoscopic image display method using a real image has been known. In this method, at least one or more imaging devices capture images from two viewpoints on the right and left at intervals given by the base line length. When a subject of interest is imaged from two viewpoints on the left and right in this way, the position of the object in the image captured by each imaging device is different from each other in the horizontal direction of the image. That is, this is parallax, and by viewing a set of images including this parallax in stereo, the user sees an image with a three-dimensional effect.

【0003】次に、従来の実写画像の立体表示を実現す
る表示装置の構成について、図6を用いて説明する。図
6は従来の実写画像の立体表示を実現する表示装置の構
成を示すブロック図である。図6において、パーソナル
コンピュータ(以下、PCと呼ぶ)7には撮像装置1が
インタフェースケーブル6を介して接続されている。
尚、立体視画像を撮像表示するためには、少なくとも2
箇所からの撮像が必要である。ここでは、1つの撮像装
置1のみを複数回用いて、複数箇所から撮像することを
想定しているが、複数の撮像装置を用いて同時に撮像す
ることもできる。
Next, a configuration of a conventional display device for realizing a stereoscopic display of a photographed image will be described with reference to FIG. FIG. 6 is a block diagram showing a configuration of a conventional display device for realizing stereoscopic display of a real image. In FIG. 6, the imaging device 1 is connected to a personal computer (hereinafter, referred to as a PC) 7 via an interface cable 6.
In order to capture and display a stereoscopic image, at least two
Imaging from a location is required. Here, it is assumed that imaging is performed from a plurality of locations by using only one imaging device 1 a plurality of times, but imaging can be performed simultaneously using a plurality of imaging devices.

【0004】撮像装置1は、レンズ2、CCD3、A/
Dコンバータ4、メモリ5を備えている。そして、CC
D3によって撮像された画像を、A/Dコンバータ4に
よってA/D変換し、その変換結果して得られた画像デ
ータをメモリ5に一時的に蓄える。その後、パラレルイ
ンタフェース9を介して、PC7に入力する。尚、ここ
での撮像によって得られる画像データは、ある基線長だ
け変更して2回、撮像を行って得られる互いに視差を有
する左右一組の画像データである。
[0004] An imaging device 1 comprises a lens 2, a CCD 3, an A /
A D converter 4 and a memory 5 are provided. And CC
The image captured by D3 is A / D converted by the A / D converter 4, and the image data obtained as a result of the conversion is temporarily stored in the memory 5. After that, it is input to the PC 7 via the parallel interface 9. Note that the image data obtained by imaging here is a set of left and right image data having parallax mutually obtained by performing imaging twice with a certain base line length changed.

【0005】PC7内では、CPUバス8にパラレルイ
ンタフェース9、CPU10、メモリ11、画像処理部
12、立体視画像表示制御部16、記録装置13、ディ
スプレイコントローラ17が接続されている。また、デ
ィスプレイ19への画像の出力は、ディスプレイコント
ローラ17を介して行っている。PC7に入力した左右
一組の画像データは、一旦、メモリ11に蓄えられ、C
PU10の制御に従って画像処理部12で各画像の色処
理等の画像処理が行なわれる。この画像処理が終わった
のち、立体視画像表示制御部16では、その画像データ
をディスプレイ19に表示するための制御信号を発生す
る。この発生された制御信号に基づいて、ディスプレイ
コントローラ17は、左右の一組の画像データをVRA
M18に転送する。そして、VRAM18に転送された
画像データに基づく画像をディスプレイ19に表示す
る。尚、画像データに基づく画像の表示については、撮
像した左右画像を、一旦、記録装置13に記録してお
き、改めて記録装置13から再生してディスプレイ19
に表示する場合でも同様の手順で表示する。
[0005] In the PC 7, a parallel interface 9, a CPU 10, a memory 11, an image processing unit 12, a stereoscopic image display control unit 16, a recording device 13, and a display controller 17 are connected to a CPU bus 8. The output of the image to the display 19 is performed via the display controller 17. The pair of left and right image data input to the PC 7 is temporarily stored in the memory 11 and
Image processing such as color processing of each image is performed by the image processing unit 12 under the control of the PU 10. After the image processing is completed, the stereoscopic image display control unit 16 generates a control signal for displaying the image data on the display 19. Based on the generated control signal, the display controller 17 converts a set of left and right image data into a VRA.
Transfer to M18. Then, an image based on the image data transferred to the VRAM 18 is displayed on the display 19. As for the display of the image based on the image data, the captured right and left images are temporarily recorded in the recording device 13, reproduced from the recording device 13 again, and displayed on the display 19.
Is displayed in the same procedure.

【0006】互いに視差を有する左右一組の画像データ
をステレオ視する方法には、様々な方法がある。1つの
方法としては、ディスプレイ19上に左右それぞれの画
像データを左右交互に出力する。そして、ユーザ側で
は、その左右交互に出力される画像データの表示切替に
同期して、左右のシャッターの切替を行う液晶シャッタ
ー眼鏡20で見ることにより、立体視画像を得ることが
できる。この方法において、立体視画像表示制御部16
では、撮像装置1で得られた左右一組の画像データをデ
ィスプレイ19に、120Hz程度の垂直走査周波数に
応じて切り替えて表示するようにディスプレイコントロ
ーラ17を制御する。一方で、この左右一組の画像デー
タの切替に同期した信号を液晶シャッター眼鏡20に送
信することで、左右シャッターの切替を制御をする。
There are various methods for stereoscopically viewing a set of left and right image data having parallax with each other. As one method, left and right image data are alternately output on the display 19. Then, the user can obtain a stereoscopic image by viewing the liquid crystal shutter glasses 20 that switch the left and right shutters in synchronization with the display switching of the image data that is output alternately to the left and right. In this method, the stereoscopic image display control unit 16
Then, the display controller 17 is controlled so that a set of left and right image data obtained by the imaging apparatus 1 is switched and displayed on the display 19 according to a vertical scanning frequency of about 120 Hz. On the other hand, switching of the left and right shutters is controlled by transmitting a signal synchronized with the switching of the pair of image data to the liquid crystal shutter glasses 20.

【0007】また別の方法としては、左右一組の画像デ
ータを垂直走査方向の1ラインおきに交互に配置して、
1枚のストライプ状の立体視画像を作成する。この立体
視画像を、例えば、本出願人が 特願平8−14861
1号と特願平8−148612号で開示しているレンチ
キュラーレンズを備えたディスプレイや、あるいは偏光
板、偏光眼鏡を通して、右目では右画像のみを、左目で
は左画像のみを見るようにする。これにより、立体視画
像を得ることができる。
As another method, a set of left and right image data is alternately arranged every other line in the vertical scanning direction.
A single striped stereoscopic image is created. This stereoscopic image is, for example, disclosed in Japanese Patent Application No. 8-14861 by
Through a display having a lenticular lens disclosed in Japanese Patent Application No. 1 and Japanese Patent Application No. 8-148612, or through a polarizing plate or polarizing glasses, the right eye sees only the right image and the left eye sees only the left image. Thereby, a stereoscopic image can be obtained.

【0008】この場合、立体視画像表示制御部16は、
左右一組の画像データを垂直走査方向に1ラインずつ並
べて立体視画像を作成し、これをディスプレイ19に表
示するための制御信号を発生する。また、ディスプレイ
19は、この場合、ディスプレイ面にレンチキュラーレ
ンズや偏光板を備える。以上のように、立体視表示は、
異なる視点から撮像される画像の視差を利用することで
実現している。
In this case, the stereoscopic image display control unit 16
A set of left and right image data is arranged one line at a time in the vertical scanning direction to create a stereoscopic image, and a control signal for displaying the stereoscopic image on the display 19 is generated. In this case, the display 19 includes a lenticular lens and a polarizing plate on the display surface. As described above, stereoscopic display is
This is realized by using the parallax of images captured from different viewpoints.

【0009】このように、立体視表示は、少なくとも1
つ以上の撮像装置によって撮像した互いに視差を有する
一組の画像を単純に重ね合わせて表示していた。しか
し、撮像装置でこれらの画像を撮像するときに、撮像す
る視点の位置関係に、視差を生じる水平方向の位置のず
れ以外の差である左右差を生じる場合がある。この左右
差には、上下差、回転、拡大率の差、色、ホワイトバラ
ンス、露光量などがあり、特に、単一の撮像装置を用い
て複数回撮像する場合に生じやすい。このような左右差
がある場合には、立体視で融像すべき左右の画像の被写
体の位置関係が、上下にずれている、一方に対して他方
が傾いている、両者の大きさが異なる等の差異を生じ、
ユーザにとって融像し難いものとなる。
[0009] As described above, the stereoscopic display has at least one display.
A set of images having parallax captured by one or more imaging devices is simply superimposed and displayed. However, when these images are captured by the image capturing apparatus, there may be a left-right difference in the positional relationship between the viewpoints to be captured, which is a difference other than a shift in a horizontal position that causes parallax. The left-right difference includes a vertical difference, a rotation, a difference in enlargement ratio, a color, a white balance, an exposure amount, and the like, and is particularly likely to occur when a single imaging device is used to perform imaging multiple times. When there is such a left-right difference, the positional relationship between the subjects of the left and right images to be fused in stereoscopic view is shifted vertically, the other is inclined with respect to one, and the sizes of the two are different. Etc.,
It is difficult for the user to fuse.

【0010】さて、一般に複数の実写画像の左右差を補
正する処理としては、撮像した画像を水平方向、あるい
は鉛直方向につなぎ合わせて高精細画像を作成するパノ
ラマ画像合成処理があげられる。このパノラマ画像合成
処理では、視点一致して撮像した複数の画像のオーバー
ラップする領域を厳密に合わせて、シームレスに合成す
ることを目的としている。従って、撮像した複数の画像
の左右差を補正するには、合成する画像同士でオーバー
ラップする領域の対応点を少なくとも2点以上決定し、
その2点を結ぶ線分の位置、傾き、長さを合わせるよう
に補正してやればよい。尚、パノラマ画像合成処理にお
いては、2点の対応点を結ぶ線分の位置、傾き、長さは
合成する画像の並進、回転、拡大率に対して線形の関係
を満たしている。
Generally, as a process for correcting the left-right difference between a plurality of real images, there is a panoramic image synthesizing process for creating a high-definition image by connecting captured images in a horizontal direction or a vertical direction. The purpose of this panoramic image synthesizing process is to perform seamless synthesis by strictly matching overlapping areas of a plurality of images captured at the same viewpoint. Therefore, in order to correct the left-right difference between a plurality of captured images, at least two or more corresponding points of an overlapping area between images to be combined are determined,
What is necessary is just to correct so that the position, inclination, and length of the line connecting the two points may be adjusted. In the panoramic image synthesizing process, the position, inclination, and length of a line connecting two corresponding points satisfy a linear relationship with the translation, rotation, and enlargement ratio of the image to be synthesized.

【0011】[0011]

【発明が解決しようとする課題】しかしながら、上記従
来の表示装置における立体視画像表示では、撮像した一
組の画像は互い似視差の異なる画像であるため、任意の
2点による対応点を結ぶ線分は上記の線形の関係を満た
さない。また、その一組の画像には、互いにオクルージ
ョン領域を持っているために、対応点が存在しない場合
も存在する。従って、立体視画像で左右差の補正を行う
ためには、その一組の画像中で視差が等しく、オクルー
ジョン領域を持たない部分画像の上下差、回転、拡大率
において線形な対応点を決定することが必要であった。
However, in the above-described stereoscopic image display in the conventional display device, since a pair of captured images are images having different parallaxes, a line connecting corresponding points by arbitrary two points is used. Min does not satisfy the above linear relationship. In addition, since the set of images has occlusion regions, there is a case where there is no corresponding point. Therefore, in order to correct the left-right difference in the stereoscopic image, the parallax is equal in the set of images, and a linear corresponding point in the vertical difference, rotation, and magnification of the partial image having no occlusion area is determined. It was necessary.

【0012】また、文献「3次元ディスプレイ」(増田
千鶴著 産業図書)では、一組の画像の左右差に対し
ての許容範囲を示している。しかし、いずれもあくまで
も立体視画像の左右差に関する調査結果であり、その左
右差を補正するための機構について言及しているもので
はない。また、この許容範囲の対象がインターレース表
示するテレビについてのみ言及しており、ノンインター
レースの表示をするPCのディスプレイに接続したシス
テムを想定したものではない。
[0012] In addition, the document "3D display" (Chizuru Masuda, Industrial Books) shows an allowable range for the left-right difference of a set of images. However, these are all results of a survey on the left-right difference between stereoscopic images, and do not refer to a mechanism for correcting the left-right difference. In addition, the target of the allowable range refers only to a television that displays an interlace display, and does not assume a system connected to a display of a PC that displays a non-interlace display.

【0013】また、左右差を自動補正する処理が提案さ
れているが、対応点が誤って決定される場合があり、良
好な立体視画像を得ることができない。また、ユーザが
補正された画像を良好な立体視画像であると感じるかど
うかは、ユーザ自身の主観的な判断であり、仮に、その
左右差が自動補正されたとしてもユーザにとって最適な
立体視画像であるとは限らない。そのため、左右差が施
された後でも、ユーザ自身が手動で左右差を調整するこ
とが必要とされている。
Although a process for automatically correcting the left-right difference has been proposed, a corresponding point may be erroneously determined, and a satisfactory stereoscopic image cannot be obtained. Whether the user perceives the corrected image as a good stereoscopic image is a subjective judgment of the user himself, and even if the left-right difference is automatically corrected, the optimal stereoscopic image for the user is determined. It is not necessarily an image. Therefore, even after the left-right difference is applied, it is necessary for the user to manually adjust the left-right difference.

【0014】本発明は上記の問題点に鑑みてなされたも
のであり、少なくとも1つ以上の撮像装置によって撮像
された互いに視差を有する一組の画像の左右差を自動的
に良好に補正することができ、かつユーザの嗜好にあっ
た左右差の補正を容易に行うことができる表示装置及び
その制御方法を提供することを目的としている。
SUMMARY OF THE INVENTION The present invention has been made in view of the above problems, and it is an object of the present invention to automatically and properly correct a left-right difference between a pair of images having parallax captured by at least one image pickup device. It is an object of the present invention to provide a display device and a control method for the display device, which can easily correct the left-right difference according to the user's preference.

【0015】[0015]

【課題を解決するための手段】上記の目的を達成するた
めの本発明による表示装置は以下の構成を備える。即
ち、少なくとも1つ以上の撮像装置によって撮像した互
いに視差を有する一組の画像を立体視表示する表示装置
であって、前記一組の画像の視差以外の差である左右差
を抽出する抽出手段と、前記抽出手段で抽出された左右
差を補正する補正手段とを備えることを特徴とする表示
装置。
A display device according to the present invention for achieving the above object has the following arrangement. That is, a display device for stereoscopically displaying a set of images having parallax captured by at least one or more imaging devices, and extracting means for extracting a left-right difference that is a difference other than the parallax of the set of images. And a correcting unit for correcting the left-right difference extracted by the extracting unit.

【0016】また、好ましくは、前記左右差は、少なく
とも前記一組の画像における上下差、回転、拡大率の
比、色、階調、ホワイトバランス、露光量を含む。ま
た、好ましくは、前記補正手段は、前記抽出手段で抽出
された左右差が最小となるように補正する。また、好ま
しくは、前記補正手段で前記左右差が補正された前記一
組の画像を表示する表示手段とを更に備える。
Preferably, the left-right difference includes at least a vertical difference, a rotation, a magnification ratio, a color, a gradation, a white balance, and an exposure amount in the set of images. Preferably, the correction means corrects the left and right difference extracted by the extraction means so as to be minimum. Preferably, the image processing apparatus further includes display means for displaying the set of images in which the left-right difference has been corrected by the correction means.

【0017】また、好ましくは、前記抽出手段は、前記
一組の画像中の一方の画像に対し前記左右差の抽出対象
となる部分画像を指定する指定手段を備え、前記指定手
段で指定された前記一組の画像中の一方の部分画像と、
該部分画像に対応する該一組の画像中の他方の画像の部
分画像を比較することで、前記左右差を抽出することを
特徴とする。
Preferably, the extraction means includes designation means for designating a partial image from which the left-right difference is to be extracted with respect to one image in the set of images, and One partial image in the set of images;
The left-right difference is extracted by comparing partial images of the other image in the set of images corresponding to the partial image.

【0018】また、好ましくは、前記補正手段は、前記
抽出手段で抽出された左右差に対する補正量の入力をユ
ーザから受け付けるユーザーインタフェースを備え、前
記ユーザーインタフェースから入力された補正量に基づ
いて、前記左右差を補正する。また、好ましくは、前記
補正手段で前記左右差が補正された前記一組の画像を表
示する表示手段とを更に備える。
Preferably, the correction means includes a user interface for receiving an input of a correction amount for the left-right difference extracted by the extraction means from a user, and based on the correction amount input from the user interface, Correct the left / right difference. Preferably, the image processing apparatus further includes display means for displaying the set of images in which the left-right difference has been corrected by the correction means.

【0019】上記の目的を達成するための本発明による
コンピュータ可読メモリは以下の構成を備える。即ち、
少なくとも1つ以上の撮像装置によって撮像した互いに
視差を有する一組の画像を立体視表示する表示装置の制
御方法であって、前記一組の画像の視差以外の差である
左右差を抽出する抽出工程と、前記抽出工程で抽出され
た左右差を補正する補正工程とを備える。
A computer readable memory according to the present invention for achieving the above object has the following configuration. That is,
A method of controlling a display device for stereoscopically displaying a set of images having parallax captured by at least one or more imaging devices, the method comprising extracting left and right differences other than the parallax of the set of images. And a correcting step for correcting the left-right difference extracted in the extracting step.

【0020】上記の目的を達成するための本発明による
コンピュータ可読メモリは以下の構成を備える。即ち、
少なくとも1つ以上の撮像装置によって撮像した互いに
視差を有する一組の画像を立体視表示する表示装置の制
御のプログラムコードが格納されたコンピュータ可読メ
モリであって、前記一組の画像の視差以外の差である左
右差を抽出する抽出工程のプログラムコードと、前記抽
出工程で抽出された左右差を補正する補正工程のプログ
ラムコードとを備える。
A computer readable memory according to the present invention for achieving the above object has the following configuration. That is,
A computer-readable memory storing a program code for controlling a display device for stereoscopically displaying a pair of images having parallax captured by at least one or more imaging devices, the computer-readable memory storing a program code other than the parallax of the pair of images. There is provided a program code for an extraction step for extracting a left-right difference as a difference, and a program code for a correction step for correcting the left-right difference extracted in the extraction step.

【0021】[0021]

【発明の実施の形態】以下、図面を参照して本発明の好
適な実施形態を詳細に説明する。 [実施形態1]図1は本発明の実施形態1における表示
装置の構成を示すブロック図である。尚、図1の表示装
置において、図6に示した表示装置の構成要素と同様の
構成要素については、同様の参照番号を付加し、その詳
細についてはここでは省略する。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Preferred embodiments of the present invention will be described below in detail with reference to the drawings. [Embodiment 1] FIG. 1 is a block diagram showing a configuration of a display device according to Embodiment 1 of the present invention. Note that, in the display device of FIG. 1, the same components as those of the display device shown in FIG. 6 are denoted by the same reference numerals, and the details thereof are omitted here.

【0022】図1において、図6に示した表示装置と異
なる点は、PC7内のCPUバス8に左右差補正用グラ
フィカル・ユーザーインタフェース14(左右差補正用
GUI)を接続しているところである。撮像装置1によ
って撮像し、PC7に入力した左右一組の画像データ
は、一度メモリ11に蓄えられる。次に、画像処理部1
2で、左右それぞれの画像データの色処理が行われる。
従来では、ここからすぐ立体視画像の表示を行っていた
が、このまま左右一組の画像データを重ね合わせて立体
視画像を表示すると、撮像する際に生じる左右の画像画
像データの上下差、回転、拡大率の比の差を生じていた
ときに、良好な立体視画像を表示できないという問題点
があった。
FIG. 1 differs from the display device shown in FIG. 6 in that a graphical user interface 14 for correcting left and right differences (a GUI for correcting left and right differences) is connected to a CPU bus 8 in the PC 7. One set of left and right image data captured by the imaging device 1 and input to the PC 7 is once stored in the memory 11. Next, the image processing unit 1
At 2, color processing is performed on the left and right image data.
Conventionally, a stereoscopic image was displayed immediately from here. However, if a stereoscopic image is displayed by superimposing a set of left and right image data as it is, the vertical difference and rotation of the left and right image data generated when capturing an image. However, there is a problem that a good stereoscopic image cannot be displayed when there is a difference in the magnification ratio.

【0023】そこで、本実施形態では、ここで左右差補
正用GUI14を通して左右の画像データの上下差、回
転、拡大率の差の自動補正を行う。この自動補正は、例
えば、記録装置13のプログラムメモリ上に不図示の記
憶媒体からロードしたプログラムを使用することで行
う。このプログラムはCPU10の制御によって動作す
る。
Therefore, in the present embodiment, the automatic correction of the difference between the left and right image data, the rotation, and the enlargement ratio is performed through the left / right difference correction GUI 14 here. This automatic correction is performed, for example, by using a program loaded from a storage medium (not shown) on the program memory of the recording device 13. This program operates under the control of the CPU 10.

【0024】次に実施形態1で実行される処理につい
て、図2及び図3を用いて説明する。図2は本発明の実
施形態1で実行される処理を示すフローチャートであ
る。尚、ここでは、図3に示すような具体例と併せて説
明する。また、図3に示す左右一組の画像201a、2
01bは、撮像装置1を2回用いて立体視撮像した画像
である。
Next, the processing executed in the first embodiment will be described with reference to FIGS. FIG. 2 is a flowchart showing the processing executed in the first embodiment of the present invention. Here, a description will be given in conjunction with a specific example as shown in FIG. Also, a set of left and right images 201a, 2a shown in FIG.
01b is an image stereoscopically captured using the imaging device 1 twice.

【0025】まず、右画像201bは左画像201aに
対して、上下差、回転、拡大率の差が含まれている。そ
して、この2枚の画像は画像処理部12で色処理を施し
た後、立体視表示する前にディスプレイ19にそれぞれ
別々に表示する(ステップS1)。次に、左右差補正用
GUI14にあるマウスを用いて、左画像中201aで
対応点を探索する領域を指定する(ステップS2)。
尚、探索する領域の大きさは任意であるが、ユーザは特
定の被写体を選択することが好ましい。これは、ステッ
プS2以降の処理において、立体視画像の主被写体上の
視差が同じ領域の2点を選択することで、左右の画像の
左右差に線形な位置、回転、長さを持つ線分を抽出する
ためである。
First, the right image 201b includes a difference between the top and bottom, rotation and enlargement ratio with respect to the left image 201a. After the two images are subjected to color processing by the image processing unit 12, they are separately displayed on the display 19 before being stereoscopically displayed (step S1). Next, an area for searching for a corresponding point in the left image 201a is designated using the mouse on the left / right difference correction GUI 14 (step S2).
Although the size of the area to be searched is arbitrary, it is preferable that the user selects a specific subject. This is because, in the processing after step S2, by selecting two points in the region where the parallax on the main subject of the stereoscopic image is the same, a line segment having a linear position, rotation, and length in the left-right difference between the left and right images In order to extract

【0026】次に、指定した左画像201aの対応点探
索領域内の各点について、右画像中201bで対応する
点をテンプレートマッチングにより探索し、得られた一
組の対応点同士で視差を算出する(ステップS3)。次
に、この対応点探索領域における視差のヒストグラム
を、例えば、図4のように作成する(ステップS4)。
図4では、横軸に視差、縦軸に度数を示している。
Next, for each point in the corresponding point search area of the designated left image 201a, a corresponding point is searched by template matching in the right image 201b, and parallax is calculated between the obtained set of corresponding points. (Step S3). Next, a parallax histogram in the corresponding point search area is created, for example, as shown in FIG. 4 (step S4).
In FIG. 4, the horizontal axis indicates parallax, and the vertical axis indicates power.

【0027】次に、この作成したヒストグラムから最大
度数の視差を示した対応点群から2組の対応点を抽出す
る(ステップS5)。尚、抽出する対応点はそれらを結
んでできる線分の精度を向上させるために、なるべく線
分の距離の大きいものを選択する。ここで選択した対応
点は、ユーザが指定した領域で同じ視差量を多数持つ特
定の被写体上にある点であると判断できるので、その対
応点を結ぶ線分は左右画像の左右差に線形であるとみな
せる。
Next, two sets of corresponding points are extracted from the corresponding histogram from the corresponding point group showing the parallax of the maximum frequency (step S5). In order to improve the accuracy of a line segment formed by connecting them, the corresponding points to be extracted are selected as long as possible. Since the corresponding point selected here can be determined to be a point on a specific subject having the same amount of parallax in the area designated by the user, the line connecting the corresponding points is linearly represented by the left and right difference between the left and right images. Can be considered to be.

【0028】以上のようにして、左画像201a中の指
定領域のテンプレートマッチングを行い、左右の画像の
2組の対応点A、AとB、B’を決定する。いま、各画
像の左上を原点として、A(Xa,Ya)、B(Xb,Y
b)、A’(Xa’,Ya’)、B’(Xb’,Yb’)と
する。そして、このとき、左画像201aに対する右画
As described above, the template matching of the designated area in the left image 201a is performed, and two corresponding points A, A, B, and B 'of the left and right images are determined. Now, with the origin at the upper left of each image, A (Xa, Ya), B (Xb, Y
b), A '(Xa', Ya ') and B' (Xb ', Yb'). At this time, the right image with respect to the left image 201a

【0029】像201bの上下差をd、回転をθ、拡大
率の比をmを、それぞれ数式(数1)〜(数3)によっ
て算出する(ステップS6)。
The vertical difference d, the rotation θ, and the magnification ratio m of the image 201b are calculated by equations (1) to (3), respectively (step S6).

【0030】[0030]

【数1】 (Equation 1)

【0031】[0031]

【数2】 (Equation 2)

【0032】[0032]

【数3】 これら左右の画像の上下差d、回転θ、拡大率の比m
は、それぞれの画像における対応点を結ぶ線分AB,
A’B’の位置、傾き、長さに線形である。そこでAB
を基準として、A’B’がd=0、θ=0、m=1とな
るように右画像201bを補正する(ステップS7)。
以下、右画像201bに対する補正について図3を用い
て説明する。まず、回転θ=0となるように右画像20
1bを回転して画像202を作成する。画像の回転は、
画像の中心を軸として回転する。次に、拡大率の比m=
1となるように拡大、あるいは縮小して画像203を作
成する。図3では、拡大率の比m<1であったため、画
像202を拡大している。画像の拡大、縮小は、画像の
中心から放射状に拡大、縮小を行う。次に、上下差d=
0となるように、左画像201aに対して、右画像20
3を上下させて合わせる。そして、その画像を立体視画
像204としてディスプレイ19に表示する(ステップ
S8)。
(Equation 3) The vertical difference d, rotation θ, and magnification ratio m between these left and right images
Is a line segment AB connecting the corresponding points in each image,
The position, inclination, and length of A'B 'are linear. So AB
, The right image 201b is corrected so that A′B ′ becomes d = 0, θ = 0, and m = 1 (step S7).
Hereinafter, the correction for the right image 201b will be described with reference to FIG. First, the right image 20 is set so that the rotation θ = 0.
1b is rotated to create an image 202. Image rotation is
Rotate around the center of the image. Next, the magnification ratio m =
The image 203 is created by enlarging or reducing to become 1. In FIG. 3, the image 202 is enlarged because the ratio of the enlargement ratios is m <1. The enlargement and reduction of the image are performed radially from the center of the image. Next, the vertical difference d =
0 to the right image 20a with respect to the left image 201a.
Move 3 up and down to fit. Then, the image is displayed on the display 19 as the stereoscopic image 204 (step S8).

【0033】立体視表示は立体視画像表示制御部16に
より、ディスプレイ19に表示する制御信号を発生す
る。この制御信号に基づいてディスプレイコントローラ
18は補正した左画像データと元の右画像データをVR
AM18に転送して、ディスプレイ19に立体視表示す
る。図3では、液晶シャッター眼鏡を用いた立体視画像
表示法について示しているが、その他レンチキュラーレ
ンズによる表示方法についても同様である。
For stereoscopic display, a control signal to be displayed on a display 19 is generated by a stereoscopic image display control unit 16. Based on this control signal, the display controller 18 converts the corrected left image data and the original right image data into VR.
The data is transferred to the AM 18 and displayed on the display 19 in a stereoscopic manner. FIG. 3 shows a stereoscopic image display method using liquid crystal shutter glasses, but the same applies to other display methods using lenticular lenses.

【0034】尚、右画像201bの回転θ、拡大率の比
m、上下差dの偏光は、それぞれ画像の中心を軸として
行ったが、これに限定されない。例えば、回転や拡大率
の変更を画像中のどの部分を軸として行っても構わな
い。また、同時に左右画像における主被写体の位置の間
隔を変えることもできる。また、画像204に示すよう
に補正によって立体視できる領域は多少欠落するが、そ
の範囲で立体視する。
The rotation θ of the right image 201b, the ratio m of the magnification, and the polarization of the vertical difference d are performed with the center of the image as an axis. However, the present invention is not limited to this. For example, the rotation or enlargement ratio may be changed using any portion in the image as an axis. At the same time, the interval between the positions of the main subjects in the left and right images can be changed. In addition, as shown in the image 204, although a region that can be stereoscopically viewed by the correction is slightly missing, the region is stereoscopically viewed in that range.

【0035】以上説明したように、実施形態1による立
体視画像の表示は、単純に重ね合わせて表示したときと
は異なり、左右の画像の上下差、回転、拡大率の比に差
のない、良好な立体視画像204を表示することができ
る。但し、この実施形態1は一例であり、撮像した左右
の画像の持つその他の左右差、例えば、色、階調、ホワ
イトバランス、露光量についても同様に左右の画像にお
ける対応点を比較して自動に補正することもできる。
As described above, the display of the stereoscopic image according to the first embodiment is different from the case of simply superimposing and displaying, and there is no difference in the vertical difference, rotation, and the ratio of the enlargement ratio between the left and right images. An excellent stereoscopic image 204 can be displayed. However, the first embodiment is an example, and other left and right differences of the captured right and left images, for example, color, gradation, white balance, and exposure amount are also automatically compared by comparing corresponding points in the left and right images. Can also be corrected.

【0036】[実施形態2]次に、自動的に左右差を補
正する以外に、ユーザが左右差補正用GUI14を通じ
て上下差、回転、拡大率の差を補正する方法を、実施形
態2として説明する。また、実施形態2でも実施形態1
の場合と同様に左右画像の左右差として、上下差、回
転、拡大率の差についてその補正方法を示すがその他
色、階調、ホワイトバランス、露光量などの差について
も同様である。
[Second Embodiment] Next, as a second embodiment, a method in which a user corrects a difference between a vertical direction, a rotation, and an enlargement ratio through the left / right difference correction GUI 14 in addition to automatically correcting the left / right difference will be described. I do. Also, in Embodiment 2, Embodiment 1
As in the case of the above, the method of correcting the vertical difference, rotation, and magnification ratio as the left / right difference between the left and right images will be described. However, the same applies to other differences in color, gradation, white balance, exposure amount, and the like.

【0037】実施形態2の表示装置は、実施形態1と同
様、図1の表示装置を用いて説明することができる。但
し、実施形態1と異なる点は、ユーザが左右差補正用G
UI14を手動で左右差を補正する機能を持ち合わせて
いる点である。これは、実施形態1で説明した補正にお
ける一組の左右画像の左右差を補正する際に決定された
左右の画像の対応点は、探索のマッチングエラーを起こ
している場合もあり、必ずしも正しい対応点であるとは
限らない。そのため、正確な対応点が決らなかったと
き、この対応点によって補正された左右の画像からユー
ザにとって良好な立体視画像を与えるものではない。ま
た、立体視する左右の画像の見易さはユーザ自身の主観
的な判断が介入するため自動的に補正された左右画像が
必ずしもそのユーザにとって良好なものではない。
The display device of the second embodiment can be described using the display device of FIG. 1 as in the first embodiment. However, the difference from the first embodiment is that the user sets the left-right difference correction G
The point is that the UI 14 has a function of manually correcting the left-right difference. This is because the corresponding points of the left and right images determined when correcting the left and right difference between a pair of left and right images in the correction described in the first embodiment may cause a search matching error, and are not necessarily correct. Not necessarily a point. Therefore, when an accurate corresponding point is not determined, a stereoscopic image favorable for the user is not provided from the left and right images corrected by the corresponding point. In addition, as for the visibility of the left and right images to be stereoscopically viewed, the automatically corrected left and right images are not necessarily good for the user because the subjective judgment of the user is involved.

【0038】そこで、このような問題点を解決するため
に、左右差補正用GUI14によって、ユーザが直接、
左右の画像の上下差、回転、拡大率の差を補正できるよ
うにする。この実施形態2で実現する左右差補正用GU
I14について、図5を用いて説明する。図5は本発明
の実施形態2の左右差補正用GUIを示す図である。
In order to solve such a problem, the user can directly use the left / right difference correction GUI 14 to directly
It is possible to correct a vertical difference, a rotation, and a difference in magnification between left and right images. GU for correcting left and right differences realized in the second embodiment
I14 will be described with reference to FIG. FIG. 5 is a view showing a left-right difference correction GUI according to the second embodiment of the present invention.

【0039】図5において、ユーザインタフェース40
3はディスプレイ401上に立体視画像402と共に表
示されている。また、ユーザインタフェース403を拡
大したユーザインタフェース404には、上下差調節ボ
タン405、回転調節ボタン406、拡大率調節ボタン
407と、水平方向調節ボタン408を備えいる。これ
らの各ボタンの+方向、−方向をそれぞれマウスでクリ
ックすることにより、左画像に対する右画像の各パラメ
ータを変更することができる。
In FIG. 5, the user interface 40
3 is displayed on the display 401 together with the stereoscopic image 402. The user interface 404 obtained by enlarging the user interface 403 includes a vertical adjustment button 405, a rotation adjustment button 406, an enlargement ratio adjustment button 407, and a horizontal direction adjustment button 408. By clicking the + direction and the-direction of each of these buttons with the mouse, each parameter of the right image with respect to the left image can be changed.

【0040】水平方向調節ボタン408は、左右の画像
の立体視画像におけるオーバーラップ量を制御するもの
である。そして、409に示すように+方向のボタンを
押すと点線で示した右画像は左画像に対して右方向に移
動し、−方向のボタンを押すと右方向へ移動する。上下
差調節ボタン405は、左右の画像の立体視画像におけ
る上下差を制御するものである。そして、410に示す
ように+方向のボタンを押すと左画像に対して点線で示
した右画像が鉛直上向きに移動し、−方向のボタンを押
すと鉛直下向きに移動する。
The horizontal direction adjustment button 408 controls the amount of overlap between the left and right images in a stereoscopic image. When the button in the + direction is pressed as shown at 409, the right image indicated by the dotted line moves rightward with respect to the left image, and when the button in the-direction is pressed, it moves rightward. The up / down difference adjustment button 405 controls the up / down difference in the stereoscopic image of the left and right images. When the button in the + direction is pressed as shown at 410, the right image indicated by a dotted line moves vertically upward with respect to the left image, and moves downward in the vertical direction when the button in the-direction is pressed.

【0041】回転調節ボタン406は、左右の画像の立
体視画像における上下差を制御するものである。そし
て、411に示すように+方向のボタンを押すと左画像
に対して点線で示した右画像が画像中心を軸として反時
計周りに回転し、−方向にボタンを押すと時計周りに回
転する。拡大率調節ボタン407は、左右の画像の立体
視画像における拡大率の比を制御するものである。そし
て、412に示すように+方向のボタンを押すと点線で
示した右画像が拡大し、−方向にボタンを押すと縮小す
る。
The rotation adjustment button 406 controls the vertical difference between the left and right images in the stereoscopic image. When the button in the + direction is pressed as shown at 411, the right image indicated by the dotted line with respect to the left image rotates counterclockwise around the center of the image, and when the button is pressed in the-direction, it rotates clockwise. . The enlargement ratio adjustment button 407 controls the ratio of the enlargement ratio between the left and right images in the stereoscopic image. When the button in the + direction is pressed as shown at 412, the right image indicated by the dotted line is enlarged, and when the button is pressed in the-direction, it is reduced.

【0042】以上説明したように、実施形態2によれ
ば、ユーザーインタフェース404を通じてユーザが自
由に左右の画像の左右差を調節することができるため、
自動的に行った左右差の補正に誤りがあった場合でも、
ユーザが直接その補正の再補正を行うことができる。ま
た、ユーザ自身の好みに応じた補正、調整を行うことが
できる。
As described above, according to the second embodiment, the user can freely adjust the difference between the left and right images through the user interface 404.
Even if there is an error in the automatic left / right difference correction,
The user can directly re-correct the correction. Further, correction and adjustment according to the user's own preference can be performed.

【0043】但し、この実施形態2は一例であり、撮像
した左右の画像の持つその他の左右差、例えば、色、階
調、ホワイトバランス、露光量についても同様にユーザ
ーインタフェースを404用いてユーザが手動で補正す
ることができる。また、ユーザインタフェース404を
PC上の特定のファンクションキーに割り当て同様の操
作を与えることも可能である。
However, Embodiment 2 is an example, and other left and right differences of the captured right and left images, for example, color, gradation, white balance, and exposure amount can be similarly determined by the user using the user interface 404. It can be corrected manually. Further, it is also possible to assign the user interface 404 to a specific function key on the PC and to give a similar operation.

【0044】以上説明したように、実施形態1、2によ
れば、少なくとも1つ以上の撮像装置で撮像した互いに
視差を有する一組の画像において、撮像するときに生じ
る左右の画像の上下差、回転、拡大率の差を自動的に補
正して立体視表示することにより、ユーザに融像しやす
い立体視画像を表示することができる。また、左右一組
の画像の左右差を、ユーザーインタフェースを用いてユ
ーザが自由に補正することができるので、ユーザの嗜好
にあった立体視画像を表示することができる。
As described above, according to the first and second embodiments, in a set of images having parallax captured by at least one image capturing apparatus, a vertical difference between left and right images generated when capturing images, By automatically correcting the difference between the rotation and the enlargement ratio and performing stereoscopic display, it is possible to display a stereoscopic image that is easily fused to the user. In addition, since the user can freely correct the left and right difference between a pair of left and right images using the user interface, a stereoscopic image suitable for the user's preference can be displayed.

【0045】尚、本発明は、複数の機器(例えば、ホス
トコンピュータ、インタフェース機器、リーダ、プリン
タ等)から構成されるシステムに適用しても、一つの機
器からなる装置(例えば、複写機、ファクシミリ装置
等)に適用してもよい。また、本発明の目的は、前述し
た実施形態の機能を実現するソフトウェアのプログラム
コードを記録した記憶媒体を、システムあるいは装置に
供給し、そのシステムあるいは装置のコンピュータ(ま
たはCPUやMPU)が記憶媒体に格納されたプログラ
ムコードを読出し実行することによっても、達成される
ことは言うまでもない。
Even if the present invention is applied to a system composed of a plurality of devices (for example, a host computer, an interface device, a reader, a printer, etc.), an apparatus (for example, a copier, a facsimile) comprising one device Device). Further, an object of the present invention is to provide a storage medium storing a program code of software for realizing the functions of the above-described embodiments to a system or an apparatus, and a computer (or CPU or MPU) of the system or apparatus to store the storage medium. Needless to say, this can also be achieved by reading and executing the program code stored in the program.

【0046】この場合、記憶媒体から読出されたプログ
ラムコード自体が上述した実施の形態の機能を実現する
ことになり、そのプログラムコードを記憶した記憶媒体
は本発明を構成することになる。プログラムコードを供
給するための記憶媒体としては、例えば、フロッピディ
スク、ハードディスク、光ディスク、光磁気ディスク、
CD−ROM、CD−R、磁気テープ、不揮発性のメモ
リカード、ROMなどを用いることができる。
In this case, the program code itself read from the storage medium realizes the functions of the above-described embodiment, and the storage medium storing the program code constitutes the present invention. As a storage medium for supplying the program code, for example, a floppy disk, a hard disk, an optical disk, a magneto-optical disk,
A CD-ROM, CD-R, magnetic tape, nonvolatile memory card, ROM, or the like can be used.

【0047】また、コンピュータが読出したプログラム
コードを実行することにより、前述した実施形態の機能
が実現されるだけでなく、そのプログラムコードの指示
に基づき、コンピュータ上で稼働しているOS(オペレ
ーティングシステム)などが実際の処理の一部または全
部を行い、その処理によって前述した実施の形態の機能
が実現される場合も含まれることは言うまでもない。
When the computer executes the readout program code, not only the functions of the above-described embodiment are realized, but also the OS (Operating System) running on the computer based on the instruction of the program code. ) May perform some or all of the actual processing, and the processing may realize the functions of the above-described embodiments.

【0048】更に、記憶媒体から読出されたプログラム
コードが、コンピュータに挿入された機能拡張ボードや
コンピュータに接続された機能拡張ユニットに備わるメ
モリに書き込まれた後、そのプログラムコードの指示に
基づき、その機能拡張ボードや機能拡張ユニットに備わ
るCPUなどが実際の処理の一部または全部を行い、そ
の処理によって前述した実施形態の機能が実現される場
合も含まれることは言うまでもない。
Further, after the program code read from the storage medium is written into a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer, the program code is read based on the instruction of the program code. It goes without saying that the CPU included in the function expansion board or the function expansion unit performs part or all of the actual processing, and the functions of the above-described embodiments are realized by the processing.

【0049】本発明を上記記憶媒体に適用する場合、そ
の記憶媒体には、先に説明したフローチャートに対応す
るプログラムコードを格納することになるが、簡単に説
明すると、図7のメモリマップ例に示す各モジュールを
記憶媒体に格納することになる。すなわち、少なくとも
「抽出モジュール」および「補正モジュール」の各モジ
ュールのプログラムコードを記憶媒体に格納すればよ
い。
When the present invention is applied to the storage medium, the storage medium stores program codes corresponding to the above-described flowcharts. Each module shown will be stored in a storage medium. That is, at least the program code of each of the “extraction module” and the “correction module” may be stored in the storage medium.

【0050】尚、「抽出モジュール」は、一組の画像の
視差以外の差である左右差を抽出する。「補正モジュー
ル」は、抽出された左右差を補正する。
The "extraction module" extracts a left-right difference, which is a difference other than the parallax of a set of images. The “correction module” corrects the extracted left-right difference.

【0051】[0051]

【発明の効果】以上説明したように、本発明によれば、
少なくとも1つ以上の撮像装置によって撮像された互い
に視差を有する一組の画像の左右差を自動的に良好に補
正することができ、かつユーザの嗜好にあった左右差の
補正を容易に行うことができる表示装置及びその制御方
法を提供することを目的としている。
As described above, according to the present invention,
It is possible to automatically and satisfactorily correct the left-right difference between a pair of images having parallax captured by at least one or more imaging devices, and easily correct the left-right difference according to the user's preference. And a control method thereof.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施形態1における表示装置の構成を
示すブロック図である。
FIG. 1 is a block diagram illustrating a configuration of a display device according to a first embodiment of the present invention.

【図2】本発明の実施形態1で実行される処理を示すフ
ローチャートである。
FIG. 2 is a flowchart illustrating processing executed in the first embodiment of the present invention.

【図3】本発明の実施形態1の左右差の補正を説明する
ための図である。
FIG. 3 is a diagram for explaining correction of a left-right difference according to the first embodiment of the present invention.

【図4】本発明の実施形態1の視差におけるヒストグラ
ムを示す図である。
FIG. 4 is a diagram illustrating a histogram of parallax according to the first embodiment of the present invention.

【図5】本発明の実施形態2の左右差補正用GUIを示
す図である。
FIG. 5 is a diagram illustrating a left-right difference correction GUI according to a second embodiment of the present invention.

【図6】従来の実写画像の立体表示を実現する表示装置
の構成を示すブロック図である。
FIG. 6 is a block diagram showing a configuration of a conventional display device that realizes stereoscopic display of a real photographed image.

【図7】本発明の実施形態を実現するプログラムコード
を格納した記憶媒体のメモリマップの構造を示す図であ
る。
FIG. 7 is a diagram showing a structure of a memory map of a storage medium storing a program code for realizing an embodiment of the present invention.

【符号の説明】[Explanation of symbols]

1 撮像装置 2 レンズ 3 CCD 4 A/Dコンバータ 5 メモリ 6 インタフェースケーブル 7 パーソナルコンピュータ 8 CPUバス 9 パラレルインタフェース 10 CPU 11 メモリ 12 画像処理部 13 記録装置 14 左右差補正用GUI 15 ユーザーインタフェース 16 立体視画像表示制御部 17 ディスプレイコントローラ 18 VRAM 19 ディスプレイ 20 液晶シャッター眼鏡 REFERENCE SIGNS LIST 1 imaging device 2 lens 3 CCD 4 A / D converter 5 memory 6 interface cable 7 personal computer 8 CPU bus 9 parallel interface 10 CPU 11 memory 12 image processing unit 13 recording device 14 GUI for correcting left-right difference 15 user interface 16 stereoscopic image Display controller 17 display controller 18 VRAM 19 display 20 liquid crystal shutter glasses

───────────────────────────────────────────────────── フロントページの続き (72)発明者 倉橋 直 東京都大田区下丸子3丁目30番2号 キヤ ノン株式会社内 (72)発明者 矢野 光太郎 東京都大田区下丸子3丁目30番2号 キヤ ノン株式会社内 ──────────────────────────────────────────────────続 き Continued on the front page (72) Inventor Nao Kurahashi 3-30-2 Shimomaruko, Ota-ku, Tokyo Canon Inc. (72) Inventor Kotaro Yano 3-30-2 Shimomaruko, Ota-ku, Tokyo Canon Inside the corporation

Claims (15)

【特許請求の範囲】[Claims] 【請求項1】 少なくとも1つ以上の撮像装置によって
撮像した互いに視差を有する一組の画像を立体視表示す
る表示装置であって、 前記一組の画像の視差以外の差である左右差を抽出する
抽出手段と、 前記抽出手段で抽出された左右差を補正する補正手段と
を備えることを特徴とする表示装置。
1. A display device for stereoscopically displaying a pair of images having parallax captured by at least one or more imaging devices, wherein a left-right difference that is a difference other than the parallax of the pair of images is extracted. A display device, comprising: an extraction unit that performs the extraction and a correction unit that corrects the left-right difference extracted by the extraction unit.
【請求項2】 前記左右差は、少なくとも前記一組の画
像における上下差、回転、拡大率の比、色、階調、ホワ
イトバランス、露光量を含むことを特徴とする請求項1
に記載の表示装置。
2. The apparatus according to claim 1, wherein the left-right difference includes at least a vertical difference, a rotation, a magnification ratio, a color, a gradation, a white balance, and an exposure amount in the set of images.
The display device according to claim 1.
【請求項3】 前記補正手段は、前記抽出手段で抽出さ
れた左右差が最小となるように補正することを特徴とす
る請求項1に記載の表示装置。
3. The display device according to claim 1, wherein the correction unit corrects the left-right difference extracted by the extraction unit to be minimum.
【請求項4】 前記補正手段で前記左右差が補正された
前記一組の画像を表示する表示手段とを更に備えること
を特徴とする請求項3に記載の表示装置。
4. The display device according to claim 3, further comprising display means for displaying the set of images in which the left-right difference has been corrected by the correction means.
【請求項5】 前記抽出手段は、前記一組の画像中の一
方の画像に対し前記左右差の抽出対象となる部分画像を
指定する指定手段を備え、 前記指定手段で指定された前記一組の画像中の一方の部
分画像と、該部分画像に対応する該一組の画像中の他方
の画像の部分画像を比較することで、前記左右差を抽出
することを特徴とする請求項1に記載の表示装置。
5. The image processing apparatus according to claim 1, wherein the extracting unit includes a specifying unit that specifies a partial image from which the left-right difference is to be extracted with respect to one image in the set of images, and the one set specified by the specifying unit. The left-right difference is extracted by comparing a partial image of one of the images and a partial image of the other image in the set of images corresponding to the partial image. The display device according to the above.
【請求項6】 前記補正手段は、前記抽出手段で抽出さ
れた左右差に対する補正量の入力をユーザから受け付け
るユーザーインタフェースを備え、 前記ユーザーインタフェースから入力された補正量に基
づいて、前記左右差を補正することを特徴とする請求項
1に記載の表示装置。
6. The correction means includes a user interface for receiving, from a user, an input of a correction amount for the left-right difference extracted by the extraction means, and calculates the left-right difference based on the correction amount input from the user interface. The display device according to claim 1, wherein the correction is performed.
【請求項7】 前記補正手段で前記左右差が補正された
前記一組の画像を表示する表示手段とを更に備えること
を特徴とする請求項6に記載の表示装置。
7. The display device according to claim 6, further comprising display means for displaying the set of images in which the left-right difference has been corrected by the correction means.
【請求項8】 少なくとも1つ以上の撮像装置によって
撮像した互いに視差を有する一組の画像を立体視表示す
る表示装置の制御方法であって、 前記一組の画像の視差以外の差である左右差を抽出する
抽出工程と、 前記抽出工程で抽出された左右差を補正する補正工程と
を備えることを特徴とする表示装置の制御方法。
8. A control method for a display device for stereoscopically displaying a set of images having parallax mutually captured by at least one or more imaging devices, wherein the left and right images are differences other than the parallax of the set of images. A control method for a display device, comprising: an extraction step of extracting a difference; and a correction step of correcting a left-right difference extracted in the extraction step.
【請求項9】 前記左右差は、少なくとも前記一組の画
像における上下差、回転、拡大率の比、色、階調、ホワ
イトバランス、露光量を含むことを特徴とする請求項8
に記載の表示装置の制御方法。
9. The method according to claim 8, wherein the left-right difference includes at least a vertical difference, a rotation, a magnification ratio, a color, a gradation, a white balance, and an exposure amount in the set of images.
A control method for a display device according to claim 1.
【請求項10】 前記補正工程は、前記抽出工程で抽出
された左右差が最小となるように補正することを特徴と
する請求項8に記載の表示装置の制御方法。
10. The control method for a display device according to claim 8, wherein the correcting step corrects the left and right difference extracted in the extracting step to be a minimum.
【請求項11】 前記補正工程で前記左右差が補正され
た前記一組の画像を表示する表示工程とを更に備えるこ
とを特徴とする請求項10に記載の表示装置の制御方
法。
11. The control method for a display device according to claim 10, further comprising a display step of displaying the set of images in which the left-right difference has been corrected in the correction step.
【請求項12】 前記抽出工程は、前記一組の画像中の
一方の画像に対し前記左右差の抽出対象となる指定され
た部分画像と、該部分画像に対応する該一組の画像中の
他方の画像の部分画像を比較することで、該左右差を抽
出することを特徴とする請求項8に記載の表示装置の制
御方法。
12. The extracting step includes, for one image in the set of images, a designated partial image from which the left-right difference is to be extracted and an image in the set of images corresponding to the partial image. The method according to claim 8, wherein the left / right difference is extracted by comparing partial images of the other image.
【請求項13】 前記補正工程は、ユーザーインタフェ
ースから入力された前記左右差に対する補正量に基づい
て該左右差を補正することを特徴とする請求項8に記載
の表示装置の制御方法。
13. The method according to claim 8, wherein the correcting step corrects the left-right difference based on a correction amount for the left-right difference input from a user interface.
【請求項14】 前記補正工程で前記左右差が補正され
た前記一組の画像を表示する表示工程とを更に備えるこ
とを特徴とする請求項13に記載の表示装置の制御方
法。
14. The method according to claim 13, further comprising a display step of displaying the set of images in which the left-right difference has been corrected in the correction step.
【請求項15】 少なくとも1つ以上の撮像装置によっ
て撮像した互いに視差を有する一組の画像を立体視表示
する表示装置の制御のプログラムコードが格納されたコ
ンピュータ可読メモリであって、 前記一組の画像の視差以外の差である左右差を抽出する
抽出工程のプログラムコードと、 前記抽出工程で抽出された左右差を補正する補正工程の
プログラムコードとを備えることを特徴とするコンピュ
ータ可読メモリ。
15. A computer-readable memory storing a program code for controlling a display device for stereoscopically displaying a set of images having parallax captured by at least one or more imaging devices, the computer-readable memory comprising: A computer-readable memory comprising: a program code for an extraction step for extracting a left-right difference that is a difference other than parallax of an image; and a program code for a correction step for correcting the left-right difference extracted in the extraction step.
JP9174507A 1997-06-30 1997-06-30 Display device and its control method Withdrawn JPH1127703A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP9174507A JPH1127703A (en) 1997-06-30 1997-06-30 Display device and its control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP9174507A JPH1127703A (en) 1997-06-30 1997-06-30 Display device and its control method

Publications (1)

Publication Number Publication Date
JPH1127703A true JPH1127703A (en) 1999-01-29

Family

ID=15979722

Family Applications (1)

Application Number Title Priority Date Filing Date
JP9174507A Withdrawn JPH1127703A (en) 1997-06-30 1997-06-30 Display device and its control method

Country Status (1)

Country Link
JP (1) JPH1127703A (en)

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002034054A (en) * 2000-07-14 2002-01-31 Sony Corp Image processing system and recording medium
JP2002344997A (en) * 2001-05-14 2002-11-29 Univ Waseda Edit method for stereoscopic video signal, and optical adaptor for a video camera for stereoscopic video photographing
WO2004098204A1 (en) * 2003-05-02 2004-11-11 Seijiro Tomita Stereoscopic photographing method and apparatus
JP2005130312A (en) * 2003-10-24 2005-05-19 Sony Corp Stereoscopic vision image processing device, computer program, and parallax correction method
JP2006507764A (en) * 2002-11-21 2006-03-02 ビジョン サード イメージング,インコーポレイテッド Critical alignment of parallax images for autostereoscopic display
JP2007151125A (en) * 2005-11-28 2007-06-14 Samsung Electronics Co Ltd Apparatus and method for processing 3d video signal
JP2007336370A (en) * 2006-06-16 2007-12-27 Necディスプレイソリューションズ株式会社 Projector and view angle control method
JP2008092555A (en) * 2006-10-03 2008-04-17 Quanta Computer Inc Device and method for generating three-dimensional image
JP2009516447A (en) * 2005-11-17 2009-04-16 ノキア コーポレイション Method and apparatus for generating, transferring and processing three-dimensional image data
JP2010124366A (en) * 2008-11-21 2010-06-03 Sony Corp Image signal processing apparatus, image signal processing method and image projection device
JP2010130048A (en) * 2008-11-25 2010-06-10 Sony Corp Image signal processing apparatus, image signal processing method, and image projection apparatus
JP2010187385A (en) * 2010-03-10 2010-08-26 Olympus Corp Image display device
JP2010268109A (en) * 2009-05-13 2010-11-25 Keizo Ota Display control program and information processing device
JP2010278979A (en) * 2009-06-01 2010-12-09 Nhk Media Technology Inc Stereoscopic video adjusting apparatus, stereoscopic video adjusting system, and program
JP2011029905A (en) * 2009-07-24 2011-02-10 Fujifilm Corp Imaging device, method and program
JP2011035712A (en) * 2009-08-03 2011-02-17 Mitsubishi Electric Corp Image processing device, image processing method and stereoscopic image display device
JP2011071604A (en) * 2009-09-24 2011-04-07 Fujifilm Corp Multi-lens camera and control method therefor
WO2011114739A1 (en) * 2010-03-17 2011-09-22 パナソニック株式会社 Replay device
JP2012019399A (en) * 2010-07-08 2012-01-26 For-A Co Ltd Stereoscopic image correction device, stereoscopic image correction method, and stereoscopic image correction system
CN102339062A (en) * 2011-07-11 2012-02-01 西北农林科技大学 Navigation and remote monitoring system for miniature agricultural machine based on DSP (Digital Signal Processor) and binocular vision
JP2012060243A (en) * 2010-09-06 2012-03-22 Fujifilm Corp Stereoscopic image display control device, and operation control method of the same and operation control program of the same
WO2012060406A1 (en) * 2010-11-05 2012-05-10 シャープ株式会社 Device for creating stereoscopic image data, device for playing back stereoscopic image data, and file management method
JP2012209895A (en) * 2011-03-30 2012-10-25 Fujitsu Ltd Stereo image calibration method, stereo image calibration device and stereo image calibration computer program
JP2013070296A (en) * 2011-09-26 2013-04-18 Hitachi Consumer Electronics Co Ltd Three-dimensional video processing device, three-dimensional display device, three-dimensional video processing method and receiving device
JP2014507907A (en) * 2011-02-24 2014-03-27 モビクリップ Method for calibrating a stereoscopic photographic device
US9019261B2 (en) 2009-10-20 2015-04-28 Nintendo Co., Ltd. Storage medium storing display control program, storage medium storing library program, information processing system, and display control method
JP2016511979A (en) * 2013-03-13 2016-04-21 インテル コーポレイション Improved technology for 3D image editing
US11089290B2 (en) 2009-11-04 2021-08-10 Nintendo Co., Ltd. Storage medium storing display control program, information processing system, and storage medium storing program utilized for controlling stereoscopic display

Cited By (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002034054A (en) * 2000-07-14 2002-01-31 Sony Corp Image processing system and recording medium
JP4617024B2 (en) * 2001-05-14 2011-01-19 学校法人早稲田大学 3D video signal editing method
JP2002344997A (en) * 2001-05-14 2002-11-29 Univ Waseda Edit method for stereoscopic video signal, and optical adaptor for a video camera for stereoscopic video photographing
JP2006507764A (en) * 2002-11-21 2006-03-02 ビジョン サード イメージング,インコーポレイテッド Critical alignment of parallax images for autostereoscopic display
WO2004098204A1 (en) * 2003-05-02 2004-11-11 Seijiro Tomita Stereoscopic photographing method and apparatus
JP2005130312A (en) * 2003-10-24 2005-05-19 Sony Corp Stereoscopic vision image processing device, computer program, and parallax correction method
JP2009516447A (en) * 2005-11-17 2009-04-16 ノキア コーポレイション Method and apparatus for generating, transferring and processing three-dimensional image data
US8619121B2 (en) 2005-11-17 2013-12-31 Nokia Corporation Method and devices for generating, transferring and processing three-dimensional image data
JP2007151125A (en) * 2005-11-28 2007-06-14 Samsung Electronics Co Ltd Apparatus and method for processing 3d video signal
JP2007336370A (en) * 2006-06-16 2007-12-27 Necディスプレイソリューションズ株式会社 Projector and view angle control method
JP2008092555A (en) * 2006-10-03 2008-04-17 Quanta Computer Inc Device and method for generating three-dimensional image
JP2010124366A (en) * 2008-11-21 2010-06-03 Sony Corp Image signal processing apparatus, image signal processing method and image projection device
US8803946B2 (en) 2008-11-21 2014-08-12 Sony Corporation Image signal processing device, method and projecting device for stereoscopic images
US8411134B2 (en) 2008-11-25 2013-04-02 Sony Corporation Image signal processing apparatus, image signal processing method, and image projection apparatus
JP2010130048A (en) * 2008-11-25 2010-06-10 Sony Corp Image signal processing apparatus, image signal processing method, and image projection apparatus
JP2010268109A (en) * 2009-05-13 2010-11-25 Keizo Ota Display control program and information processing device
JP2010278979A (en) * 2009-06-01 2010-12-09 Nhk Media Technology Inc Stereoscopic video adjusting apparatus, stereoscopic video adjusting system, and program
JP2011029905A (en) * 2009-07-24 2011-02-10 Fujifilm Corp Imaging device, method and program
JP2011035712A (en) * 2009-08-03 2011-02-17 Mitsubishi Electric Corp Image processing device, image processing method and stereoscopic image display device
JP2011071604A (en) * 2009-09-24 2011-04-07 Fujifilm Corp Multi-lens camera and control method therefor
US8854432B2 (en) 2009-09-24 2014-10-07 Fujifilm Corporation Multi-lens camera and control method
US9019261B2 (en) 2009-10-20 2015-04-28 Nintendo Co., Ltd. Storage medium storing display control program, storage medium storing library program, information processing system, and display control method
US11089290B2 (en) 2009-11-04 2021-08-10 Nintendo Co., Ltd. Storage medium storing display control program, information processing system, and storage medium storing program utilized for controlling stereoscopic display
JP2010187385A (en) * 2010-03-10 2010-08-26 Olympus Corp Image display device
WO2011114739A1 (en) * 2010-03-17 2011-09-22 パナソニック株式会社 Replay device
JP2012019399A (en) * 2010-07-08 2012-01-26 For-A Co Ltd Stereoscopic image correction device, stereoscopic image correction method, and stereoscopic image correction system
JP2012060243A (en) * 2010-09-06 2012-03-22 Fujifilm Corp Stereoscopic image display control device, and operation control method of the same and operation control program of the same
WO2012060406A1 (en) * 2010-11-05 2012-05-10 シャープ株式会社 Device for creating stereoscopic image data, device for playing back stereoscopic image data, and file management method
JP2012100211A (en) * 2010-11-05 2012-05-24 Sharp Corp Stereoscopic image data creating apparatus, stereoscopic image data playback apparatus, and file managing method
JP2014507907A (en) * 2011-02-24 2014-03-27 モビクリップ Method for calibrating a stereoscopic photographic device
US9787970B2 (en) 2011-02-24 2017-10-10 Nintendo European Research And Development Sas Method for calibrating a stereoscopic photography device
JP2012209895A (en) * 2011-03-30 2012-10-25 Fujitsu Ltd Stereo image calibration method, stereo image calibration device and stereo image calibration computer program
CN102339062A (en) * 2011-07-11 2012-02-01 西北农林科技大学 Navigation and remote monitoring system for miniature agricultural machine based on DSP (Digital Signal Processor) and binocular vision
JP2013070296A (en) * 2011-09-26 2013-04-18 Hitachi Consumer Electronics Co Ltd Three-dimensional video processing device, three-dimensional display device, three-dimensional video processing method and receiving device
JP2016511979A (en) * 2013-03-13 2016-04-21 インテル コーポレイション Improved technology for 3D image editing

Similar Documents

Publication Publication Date Title
JPH1127703A (en) Display device and its control method
JP5214826B2 (en) Stereoscopic panorama image creation device, stereo panorama image creation method, stereo panorama image creation program, stereo panorama image playback device, stereo panorama image playback method, stereo panorama image playback program, and recording medium
JP4072674B2 (en) Image processing apparatus and method, recording medium, and program
US6549650B1 (en) Processing of image obtained by multi-eye camera
JP2883265B2 (en) Image processing device
US6747610B1 (en) Stereoscopic image display apparatus capable of selectively displaying desired stereoscopic image
KR101899877B1 (en) Apparatus and method for improving quality of enlarged image
JP4065488B2 (en) 3D image generation apparatus, 3D image generation method, and storage medium
US20130113875A1 (en) Stereoscopic panorama image synthesizing device, multi-eye imaging device and stereoscopic panorama image synthesizing method
JPWO2007116549A1 (en) Image processing device
JPH10155104A (en) Compound eye image pickup method and device and storage medium
JPWO2013108339A1 (en) Stereo camera
JP2009044496A (en) Photographing field angle calculation apparatus
JP2004118711A (en) Image processor, image processing method and program
KR20150003576A (en) Apparatus and method for generating or reproducing three-dimensional image
WO2017118662A1 (en) Spherical virtual reality camera
JP4717853B2 (en) File generation method and apparatus, and stereoscopic image display control method and apparatus
CN113253845A (en) View display method, device, medium and electronic equipment based on eye tracking
JP2013171058A (en) Stereoscopic image processing device, stereoscopic image pickup device, stereoscopic image display device
JP2017143354A (en) Image processing apparatus and image processing method
JP2004102526A (en) Three-dimensional image display device, display processing method, and processing program
JPH1188912A (en) Compound eye camera and display control method for the compound eye camera
WO2012132267A1 (en) Omnidirectional stereo image output device
JP4129786B2 (en) Image processing apparatus and method, recording medium, and program
CN114518860B (en) Method and device for creating panoramic picture based on large screen, intelligent terminal and medium

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20040907