JPWO2013168736A1 - 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム - Google Patents

立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム Download PDF

Info

Publication number
JPWO2013168736A1
JPWO2013168736A1 JP2014514731A JP2014514731A JPWO2013168736A1 JP WO2013168736 A1 JPWO2013168736 A1 JP WO2013168736A1 JP 2014514731 A JP2014514731 A JP 2014514731A JP 2014514731 A JP2014514731 A JP 2014514731A JP WO2013168736 A1 JPWO2013168736 A1 JP WO2013168736A1
Authority
JP
Japan
Prior art keywords
cursor
image
eye
mode
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014514731A
Other languages
English (en)
Other versions
JP6065908B2 (ja
Inventor
伸 三国
伸 三国
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2014514731A priority Critical patent/JP6065908B2/ja
Publication of JPWO2013168736A1 publication Critical patent/JPWO2013168736A1/ja
Application granted granted Critical
Publication of JP6065908B2 publication Critical patent/JP6065908B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/08Cursor circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/156Mixing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/31Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)

Abstract

立体画像表示装置は、左右いずれか一方の眼用の画像にカーソルを表示し、他方の眼用の画像にはカーソルを表示しない第1モードのカーソル描画と、左右両眼用の画像の視差を利用してカーソルに奥行きを持たせて表示する第2モードのカーソル描画と、を制御するカーソル描画制御部と、第1モードから第2モードのカーソル描画に切り替えるときに、一方の眼用の画像におけるカーソルが指示している位置に基づいて、画像の照合により他方の眼用の画像におけるその位置を検索し、他方の眼用の画像においてカーソルを表示させる位置を求める画像解析部と、を備える。

Description

[関連出願についての記載]
本発明は、日本国特許出願:特願2012−107594号(2012年5月9日出願)に基づくものであり、同出願の全記載内容は引用をもって本書に組み込み記載されているものとする。
本発明は、立体画像表示装置、そのカーソル表示方法及びコンピュータプログラムに関する。特に、両眼視差を利用した疑似3次元表示空間において、操作の対象となる物体をカーソルによって指定する立体画像表示装置に関する。
両眼視差を利用して画像を立体的に見せる3D立体視表示装置が、携帯電話、スマートフォン、ゲーム機などの携帯機器にも採用されるようになってきている。これらの3D立体視表示装置において、3次元空間の対象物を指定する必要がある場合がある。3次元空間の対象物の指定方法としては、カーソルやポインタなどの位置指定指標を画像上で動かして指定する方法が一般的である。画面上で矢印などによって操作の対象となる位置を指定する位置指定指標は、カーソルやポインタなど様々な呼び方がある。本明細書では、位置指定指標についてカーソルと呼ぶことにする。すなわち、本明細書において、ポインタなどを含む位置指定指標の総称をカーソルと呼ぶことにする。
従来の3D立体視表示装置において3次元空間の対象物を指定する場合、大きく分けて2種類の方法があった。
第1の方法は、カーソルも3D空間で奥行きを持たせて表示し、その移動方法として上下左右の2次元の方向制御に加えて奥行き方向の制御操作系を用意することで、3次元空間座標をダイレクトに指定するものであった。たとえば、特許文献1の図4には、十字キー32の他、Y軸用シーソースイッチ31の2つのキー、スイッチを用いてポインター(カーソル)を3次元空間で移動させることが記載されている。
第2の方法は、現実世界において物体を自分の指で差し示すのと同じ考え方を用いたもので、指は近く、対象物は遠いために対象物を注視すると指が2本に見えるが、人間の認識には左右の目で差があり(以下、認識に主として使われる側を利き目と称する)、利き目側で見えている指の映像を正しい方向を示している指として採用し、対象物を特定するというものである。
特許文献2には、右目と左目のうち、利き目の視線上にある物体をカーソルに対応する物体として選択することにより、自然な操作環境を提供する三次元物体操作方法が記載されている。特許文献2の図5には、右目の片目で見れば、カーソル位置506が物体A(501)の作用点502に重なって見え、左目の片目で見れば、カーソル位置506が物体B(503)の作用点504に重なって見えることが記載されている。特許文献2では、操作者所望の作用点として利き目側の作用点を選択することが記載されている。たとえば、特許文献2の図5の例では、利き目が右目であれば、作用点502を操作者所望の作用点として選択し、利き目が左目であれば、作用点504を操作者所望の作用点として選択することになる。
また、特許文献3には、左目用の視点と右目用の視点との間隔を調整し、さらに、視線位置の奥行きを変更することにより、生成される画像の立体感を調整し、オブジェクト空間の見え方を変化させることが記載されている。
特開2011−153995号公報 特開2004−362218号公報 特開2003−107603号公報
以下の分析は、本発明によって与えられたものである。両眼視差を利用した疑似3次元表示空間において、操作の対象となる物体についてカーソルを用いて指定しようとする場合、背景技術で説明した第1の方法では、3D立体視表示装置はあくまでも擬似的な3次元空間表示であるため(具体的には遠方でも近傍でも目の焦点位置が変わらないため)生理的な実感が薄く、奥行き方向を合わせるのは非常に難しかった。
また、第2の方法では、利き目でない方の目にもカーソルが表示されるので、カーソル、又は、物体が二重に見えて、位置合わせ操作が難しかった。
本発明は、上記事情に鑑みてなされたものであり、疑似3次元空間において、位置合わせが容易にできて見やすいカーソル表示環境を提供することを目的とする。
本発明の第1の視点によれば、左右いずれか一方の眼用の画像にカーソルを表示し、他方の眼用の画像にはカーソルを表示しない第1モードのカーソル描画と、左右両眼用の画像の視差を利用してカーソルに奥行きを持たせて表示する第2モードのカーソル描画と、を制御するカーソル描画制御部と、前記第1モードから前記第2モードのカーソル描画に切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置に基づいて、画像の照合により前記他方の眼用の画像におけるその位置を検索し、前記他方の眼用の画像においてカーソルを表示させる位置を求める画像解析部と、を備える両眼視差を利用した立体画像表示装置が提供される。
本発明の第2の視点によれば、両眼視差を利用した立体画像表示装置のカーソル表示方法であって、左右いずれか一方の眼用の画像にカーソルを表示し、他方の眼用の画像にはカーソルを表示しない第1モードから、左右両眼用の画像の視差を利用してカーソルを立体的に表示する第2モードに切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している画像の位置を検出し、画像の照合により前記他方の眼用の画像におけるその位置を検索し、検索された位置に基づいて、前記他方の眼用の画像においてカーソルを表示するカーソル表示方法が提供される。
なお、本方法は、両眼視差を利用した立体画像表示装置という、特定の機械に結びつけられている。
本発明の第3の視点によれば、両眼視差を利用した立体画像表示装置において、コンピュータにカーソル表示処理を実行させるコンピュータプログラムであって、左右いずれか一方の眼用の画像にカーソルを表示させ、他方の眼用の画像にはカーソルを表示させない第1モードの表示処理と、左右両眼用の画像の視差を利用してカーソルに奥行きを持たせて表示させる第2モードの表示処理と、前記第1モードから第2モードの表示に切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置に基づいて、画像の照合により前記他方の眼用の画像におけるその位置を検索し、前記他方の眼用の画像にカーソルを表示させる位置を求め、第2モードの表示に切り替える処理と、を実行させるコンピュータプログラムが提供される。
なお、このコンピュータプログラムは、コンピュータが読み取り可能な記憶媒体に記録することができる。記憶媒体は、半導体メモリ、ハードディスク、磁気記録媒体、光記録媒体等の非トランジェント(non−transient)なものとすることができる。本発明は、コンピュータプログラム製品として具現することも可能である。
本発明の各視点によれば、両眼視差を利用した疑似3次元表示において、位置合わせが容易にできて見やすいカーソル表示環境を提供することができる。
第1の実施形態による立体画像表示装置全体のブロック図である。 第1の実施形態による(a)仮想奥行き位置を示す図と(b)実際の表示画面例を示す図、及び、(c)特許文献2による実際の表示画面例を示す図である。 第1の実施形態による立体画像表示装置において、カーソルが移動しているときの動作を説明する図である。 第1の実施形態による立体画像表示装置において、カーソルの移動が終了したときの動作を説明する図である。 第1の実施形態による立体画像表示装置において、カーソルを立体的に描画するときの動作を説明する図である。 第1の実施形態による処理を説明するフローチャートである。 第1の実施形態において3次元座標を算出する方法を説明する図である。 第2の実施形態による動作を説明する図である。 第2の実施形態による処理を説明するフローチャートである。 第3の実施形態において、カーソルの方向を指定する一例を説明する図である。 第3の実施形態による方向を含めた位置指定による検索画像の抽出例を示す図である。 第3の実施形態による処理全体を説明するフローチャートである。 第3の実施形態によるカーソル描画処理を説明するフローチャートである。
本発明の実施形態の概要について説明する。なお、概要に付記する図面参照符号は専ら理解を助けるための例示であり、図示の態様に限定することを意図するものではない。
一例を図1に示すように、本願開示の一実施形態による立体画像表示装置(10)は、左右いずれか一方の眼用の画像にカーソルを表示し、他方の眼用の画像にはカーソルを表示しない第1モードのカーソル描画と、左右両眼用の画像の視差を利用してカーソルに奥行きを持たせて表示する第2モードのカーソル描画と、を制御するカーソル描画制御部(20)を備える。
第1モードでは、たとえば、利き目にのみカーソルを表示させ、第2モードでは、指示する物体の奥行きに合わせた位置にカーソルを表示することができるのでどちらもカーソルが二重に見えることはない。
さらに、一実施形態による立体画像表示装置(10)は、第1モードから第2モードのカーソル描画に切り替えるときに、一方の眼用の画像におけるカーソルが指示している位置に基づいて、画像の照合により他方の眼用の画像におけるその位置を検索し、他方の眼用の画像においてカーソルを表示させる位置を求める画像解析部(30)を備える。
左眼用の画像と右眼用の画像とを照合することにより、カーソルを表示していなかった方の画像におけるカーソルの表示位置を求めるので、カーソルが指示する物体と奥行きが合致したカーソルを比較的容易に表示させることができる。たとえば、カーソルの移動中は第1モード、カーソルの位置が定まった後は第2モードの表示を行うことにより、両眼視差を利用した疑似3次元表示において、位置合わせが容易にできて見やすいカーソル表示環境を提供することができる。
ここで、一実施形態におけるカーソル表示の一例について、少し詳しい説明をしておく。図2(a)は、一実施形態におけるカーソル表示の仮想奥行き位置を示す図であり、図2(b)は、その実際の表示画面例を示す図である。
図2(a)において、実際に画像が表示されるのは、表示面505上であるが、右目には、右目投影中心508からみた画像が、左目には、左目投影中心507から見た画像が見える。すなわち、左目と右目では、視点の異なる位置からの画像が見える。左右両眼で物体B(503)と物体A(501)を見た場合、左右両眼の視差から物体B(503)は、表示面505より奥まった位置に見え、物体A(501)は物体B(503)よりさらに奥まった位置に存在するように見える。
一実施形態における第1モードでは、左右いずれか一方の眼用の画像にカーソルが表示され、他方の眼用の画像にはカーソルが表示されない。カーソルが表示される方の眼として利き目を選択することができる。たとえば、利き目が左目である場合、左目用の画像には、カーソル506Lが表示され、右目用の画像には、カーソル506Rは表示されない。すなわち、左目片目で画像を見ると、物体A、物体Bの他、物体Bの作用点502を指すカーソル506Lが見える。一方、右目片目で画像を見ると、物体A、物体Bは見えるが、カーソル506Rは見えない。従って、右左両眼で画像を観察すると、カーソル506Lは、物体Bの作用点502を指しているのが見える。第1モードでは、カーソルは片目用の画像にしか見えないので、カーソルに奥行きは感じられないが、カーソルが左目と右目で異なった位置に見えたりすることはない。
次に、一実施形態における第2モードでは、左目用の画像には、カーソル506Lが表示され、右目用の画像には、カーソル506Rが表示される。すなわち、両眼視差により、カーソル506L、506Rは、カーソルが指している物体Bの作用点502に存在するように見える。カーソルが指す物体Bの奥行きとカーソルの506L、506Rの奥行きが一致しているので、カーソルを両眼で注視したときに背景の物体Bが二重に見えたり、物体Bを両眼で注視したときにカーソルが二重に見えたりすることはない。
すなわち、図2(b)に示すように、第1モードにおいても、第2モードにおいても、いずれの場合もカーソルは、物体Bの作用点502を指しているように見え、それ以外の場所にカーソルが二重に見えることはない。特に、カーソルを移動させるときは、第1モードの表示を行い、カーソルを移動させないときは、第2モードの表示を行うことができる。
ここで比較のため、特許文献2の図5における実際の表示画面例を図2(c)に示す。すなわち、特許文献2の図5の例では、左目片目で画像を見た場合には、カーソル506Lの先端は物体Bの作用点504を指しているように見え、右目片目で画像を見た場合には、カーソル506Rの先端は物体Aの作用点502を指しているように見える。特許文献2では、左右両眼のうち、利き目側の眼のカーソル位置を操作者所望の作用点として選択することが記載されている。すなわち作用点(カーソルの先端が重なって見える位置)は502、504の二つが存在するので、背景の物体を注視すれば、カーソルが二重に見え、カーソルに注視すれば、背景が二重に見えることになる。従って、利き目側の眼のカーソル位置を操作者所望の作用点として選択したとしても位置が合わせにくく、カーソルも見えづらいと考えられる。
一方、本願開示の一実施形態によれば、第1モード、第2モードのいずれにおいても、作用点(カーソルの先端が重なって見える位置)は502の一つしか存在しない。従って、カーソルや背景が二重に見えることはないので、位置が合わせやすく、見えやすいカーソル表示環境を提供することができる。
すなわち、一実施形態によれば、注視しているものに対してカーソルが1つだけ表示されているので操作がわかりやすく、また、後述するように画像の特徴を検索して奥行きの合致したカーソルを出現させているのでカーソル位置は空間位置的に図2(a)の502に存在していることになり、即座に空間的な位置を目視確認することができる。また、空間座標が一意に定義された状態であるので現実空間の3次元座標を取得することもできる。
以下に、上記カーソル表示を実現する具体的な実施の形態について、図面を参照してさらに詳しく説明する。
[第1の実施形態]
図1(a)は、第1の実施形態による立体画像表示装置全体のブロック図である。図1(a)を用いて、第1の実施形態による立体画像表示装置10の構成について説明する。図1では、立体画像表示装置10が、携帯端末装置である例を示しているが、立体画像表示装置10は、両眼視差を利用して疑似的に立体画像を表示するものであれば、携帯端末装置に限られるものではない。立体画像表示装置10は、左カメラ部50Lと右カメラ部50Rの2台のカメラを備えている。左カメラ部50Lと右カメラ部50Rは、それぞれ左眼用の画像と右眼用の画像を撮影するカメラである。左カメラ部50Lと右カメラ部50Rは、それぞれ左画像メモリ40Lと右画像メモリ40Rに接続され、左カメラ部50Lで撮影された映像は左画像メモリ40Lに、右カメラ部50Rで撮影された映像は右画像メモリ40Rに格納される。
また、画像メモリ40L、40Rはカーソル描画制御部20から書き込み可能であって、画像にカーソル形状のデータを重ね書きすることで、画像にカーソルを重ね合わせることができる。左画像メモリ40Lと右画像メモリ40Rに格納された画像データは、3D表示制御部80に送られ、3D表示制御部80は、3D表示部90に疑似3次元画像を表示する。3D表示部90に表示された画像は、ユーザーが立体視画像として見ることが出来る。
カーソル描画制御部20は、左画像メモリ40Lと右画像メモリ40Rとに接続され、左画像メモリ40Lと右画像メモリ40Rへのカーソル描画を制御する。カーソル描画制御部20は、カーソル座標メモリ21と、カーソル形状メモリ22と、利き目設定メモリ23と、移動中フラグ24と、を備える。カーソル座標メモリ21は、図1(c)に示すように、左画像メモリ40Lに描画するカーソルのX座標、Y座標と、右画像メモリ40Rに描画するカーソルのX座標、Y座標とを記憶する。カーソル形状メモリ22は、描画するカーソルの形状を記憶する。利き目設定メモリ23は、右、左いずれの眼が利き目であるかを記憶する。移動中フラグ24は、カーソルが移動中であるか否かを記憶する。
画像解析部30は、左右いずれの画像にのみカーソルを表示する第1モードから左右いずれの画像にもカーソルを表示する第2モードに切り替えるときに、カーソルを表示している方の画像のカーソルが指示している位置に基づいて、画像の照合によりカーソルを表示していない方の画像におけるその位置を検索し、表示していない方の画像におけるカーソルを表示させる位置を求める。画像解析部30は、検索画像メモリ31と画像一致検索部32とを備える。画像解析部30は、左画像メモリ40L、右画像メモリ40Rに接続され、左画像メモリ40L、右画像メモリ40Rの画像の一部を取り出して検索画像メモリ31に格納することができる。画像メモリ40L又は40R全体をアクセスして検索画像メモリ31に格納された映像と似た映像の存在する場所を検索することができる。すなわち、検索画像メモリ31には、左画像メモリ40L、右画像メモリ40Rのうち、カーソルを表示している方のカーソル表示に関連する部分の画像を格納し、画像一致検索部32は、カーソルを表示していない方の画像メモリから、似た映像の存在する場所を検索することができる。
この検索自体は動画圧縮や各種の画像処理の既存技術を利用可能であるので、ここではその詳細は省略する。特に、これらの処理はハードウェアによって高速に処理する手段も開発されているため、検索処理を高速に行うこともできる。
主制御部60は、カーソル描画制御部20及び画像解析部30を制御するプログラム及び制御データやワーク用にデータメモリとして用いるメモリ61を備えている。操作部70はユーザーからの操作を入力し、主制御部60は、操作部70からの入力に基づいて、立体画像表示装置10全体を制御することができる。
また、図1(a)の左画像メモリ40L、右画像メモリ40Rは、それぞれ図1(b)に示すように、カメラから転送されたデータを保持しておくカメラデータバッファ41と、それをコピーした後にカーソル画像などを重ね合わせ描画する書き込み加工をする加工描画データバッファ42と、の2重のバッファ構造にしてもよい。この場合はカメラからの画像を静止した状態でカーソル操作できるようになるので使い勝手をよくすることができる。
次に、図3から図6を用いて、第1の実施形態による立体画像表示装置10の基本的な動作について説明する。図3は第1モード(ユーザーがカーソルの位置を指定する操作によりカーソルが移動しているとき等)の動作を説明する図、図4はカーソルの移動が終了する等により第1モードから第2モードに移行するときの動作を説明する図、図5は、第2モードにおいてカーソルを立体的に奥行きを持たせて表示するときの動作を説明する図である。図6は、図3〜図5の各処理のフローチャートである。
まず、図3を用いて、ユーザーがカーソルの位置を指定する操作にすることにより、カーソルが移動しているとき(第1モード)の動作を説明する。図3では、カーソルが移動しているときに主に動作するブロックと、利き目が左目である場合に、主な制御に用いる信号線を太線で、制御にほとんど用いない信号線を破線で示している。カーソルが移動しているときは、移動中フラグ24がONに設定される。移動中フラグ24がONの場合、カーソル描画制御部20は、左画像メモリ40Lと右画像メモリ40Rのうち、利き目設定メモリ23に設定された側の画像メモリにのみカーソル形状メモリ22のデータを書き込む。図3では、利き目設定メモリ23に左目が設定されている場合を示しているので、カーソル描画制御部20は、左画像メモリ40Lにのみカーソルシンボルを書き込み、右画像メモリ40Rにはカーソルシンボルを書き込まない。カーソル座標メモリ21は左描画座標だけが使用され、その値は主制御部60が操作部70からの指示に従って更新している。これによって、カーソルの位置指定(移動)中は、利き目側にのみカーソルが表示されている。
図6(a)のフローチャートでは、カーソルが移動しているとき、ステップS1で移動中フラグ24(図1又は図3参照)をONに設定した後、ステップS2乃至ステップS5のループ処理を繰り返す。このステップS1からS5までの処理は例えばポインティングデバイスでカーソルを指定してドラッグするなどの移動を開始する操作が行われると起動される。
図6(a)のステップS2では、カーソル描画処理(M1)を行う。このカーソル描画処理(M1)の詳細なステップを、図6(b)に示す。カーソル描画処理(M1)では、利き目設定メモリ23に利き目として左目が設定されている場合は、ステップS11でYesと判定され、ステップS12からS14までを実行する。まず、カーソルシンボルの転送先を左画像メモリ40Lに設定する(ステップS12)。次に、転送先の座標位置をカーソル座標メモリ21内の左描画座標(図1(c)参照)に設定する(ステップS13)。次に、カーソル形状メモリ22の描画データをステップS12、ステップS13での設定に基づいて、左画像メモリ40Lに転送する(ステップS14)。ステップS15では、移動中フラグ24がONの状態にあるので、Yesと判定され、カーソル描画処理(M1)を終了する。
もし、利き目設定メモリ23に利き目として右目が設定されている場合は、ステップS11でNo、ステップS16でYesと判定され、ステップS17からステップS19までを実行する。ステップS17からステップS19までの処理は、左画像メモリ40Lが右画像メモリ40Rに代わり、転送先の座標位置がカーソル座標メモリ21内の左描画座標から右描画座標に代わることを除いて、ステップS12からステップS14までの処理と内容は同一である。すなわち、移動中フラグ24がONのときは、利き目設定メモリの内容に応じて、左画像メモリ、右画像メモリの一方のみにカーソル描画を行い、他方の画像メモリにはカーソル描画を行わない。
図6(a)に戻って、カーソル移動中の処理について、説明を続ける。ステップS2でカーソル描画処理(M1)が終わると、ユーザーがカーソルの移動指定を行うか、カーソル位置の確定を行うか操作部70からの入力を待つ。操作部70からのカーソルの移動位置の指定入力、又は、位置確定入力があった場合は、ステップS4に進む。ステップS4では、操作部70からの入力がカーソル位置の確定入力であるか否か判定する。カーソルの移動指定の場合は、ステップS4の判定はNoとなるので、ステップS5へと進む。ステップS5では、操作部70からの入力に基づいて、カーソル座標メモリ21の利き目側の座標値を更新し、ステップS2のカーソル描画処理(M1)に戻る。ステップS4の判定で操作部70からの入力がカーソル位置の確定入力であった場合は、カーソル移動処理を終了し、カーソル表示を片目表示(モード1)から両目表示(モード2)に切り替える処理に進む。
図4(a)は、立体画像表示装置10全体について、カーソル表示を片目表示(モード1)から両目表示(モード2)に切り替える動作、すなわち、移動が終わって(例えばカーソルを移動していたポインティングデバイスをリリースして)カーソルを3D表示する準備段階の各ブロックの動作を説明する図である。図4(a)では、カーソルを3D表示する準備段階で主に動作するブロックと主な制御に用いる信号線を太線で、制御にほとんど用いない信号線を破線で示している。また、図4(b)は、特に、左右の画像メモリ40L、40Rと、画像解析部30の動作に着目した説明図である。
この段階では、まず第1に主制御部60が画像解析部30とカーソル描画制御部20を制御し、カーソル座標メモリ21から、利き目設定メモリ23で設定されている側(即ち今まで座標値を更新していた側)の座標(カーソルの先端が表示されていた座標)を画像解析部30に送り、画像解析部30の検索画像メモリ31に座標位置周辺の画像を転送させる。図4(b)に示すように、左画像メモリ40Lのカーソルの先端があった位置の周辺が検索画像メモリ31に転送されている。
次に、画像一致検索部32が起動され、検索画像メモリ31の画像と、右画像メモリ40Rの内容が比較されて右画像メモリ40Rの中で、検索画像メモリ31の画像に似た画像が検索される。図4(b)では、矩形で囲まれた部分が検索されている。この場所は、左側の楕円形501と右側の楕円形503の位置が左右の目で異なるため、左側の楕円部分501の濃度は検索画像メモリ31の内容と異なるが、多くを占める右側の楕円部分503の濃度が完全に一致しているため、この場所が検索される結果がもたらされている。その検索結果の中央座標が左画像メモリ40Lのカーソル先端に相当する座標となるので、主制御部60はそれをカーソル座標メモリ21の右描画座標にセットする。
このカーソルを片目表示(モード1)から両目表示(モード2)に切り替える処理は、図6(a)のフローチャートでは、ステップS6からステップS10に相当する。まず、主制御部60はカーソルを3D表示する準備として移動中フラグ24をOFFに設定する(ステップS6)。次に、左画像メモリ40L、右画像メモリ40Rのうち、今まで更新していた画像メモリのカーソル位置の近傍画像を検索画像メモリ31に抽出転送する(ステップS7)。さらに、画像一致検索部32を動作させて、検索を実行する(ステップS8)。次に、その結果をカーソル座標メモリ21の利き目でない方の座標に座標値を設定する(ステップS9)。これで、カーソル座標メモリ21に左右の描画座標が設定できたので、その座標値に基づいて、カーソル描画処理(M1)を行う(ステップS10)。このステップS10のカーソル描画処理(M1)では、移動中フラグ24がOFFに設定されており、ONではないため、利き目設定に係わらず、左画像メモリと右画像メモリの両方に対してカーソル形状メモリの描画データ転送が行われ、左右両目の画像にカーソル描画を行う(図6(b)において、ステップS12〜S14とS17〜S19を実行する)。このカーソル描画では、左右両目の画像にカーソルが描画されるが、その描画位置は左右で異なっているためにユーザーには指示された奥行きに合致する映像として感じられる。
図5(a)は、左右両眼用の画像にカーソルを立体的に奥行きを持たせて表示するときの立体画像表示装置10全体の動作を説明する図、図5(b)は、このときに、左画像メモリ40Lと右画像メモリ40Rの画像データを説明する図である。図5(a)に示すように、カーソル形状メモリ22の内容が、カーソル座標メモリ21の内容に従って左右の画像メモリ40L、40Rに転送される。図5(b)に示すように、左右で異なった座標に、カーソルは表示される。しかし、右側の楕円形503を基準にすると左右の画像メモリ40L、40Rで同様の場所にカーソルが表示され、これによってユーザーは立体視した状態でカーソルが指す物体503と奥行きが合致した場所に見えることになる。
このように、第1の実施形態の立体画像表示装置は3次元の座標計算をすることなしに、カーソルが指す物体と奥行き方向を一致させたカーソルを描画することができるので処理が単純で高速な動作が可能である。ただし、この段階ではカーソルの空間座標自体は保持できていない。しかし、左右の画像の表示位置が確定していることから3次元の座標は逆算が可能である。
図7は、第1の実施形態において3次元座標を算出する方法を説明する図である。図7では、すでに説明した図2(a)、(b)と同じケースを例にして説明している。すなわち、図7(a)、(b)は、図2(a)、(b)と同じ図面である。図7(d)は座標系を説明する図であり、カメラ101の上下方向102、左右方向103、奥行き方向104にそれぞれ座標軸を設けた立体座標系を示す。図7(c)では、左右及び奥行き方向の広がりを持つ平面を見下ろす形の図になっている(要するに上から見下ろした図である)。カメラのレンズ及び画像センサーは装置に固定的に装備されているため、画角(=2α)の値は固定値である。その画角に対応するドット数(=2w)もまた、装置の表示系に依存した固定値であるため、左画像のカーソル位置(作用点)502がレンズ正面から成す角θは、中央からのドット数xによって計算可能である。これは右側においても同様である。また、2つのレンズ(507、508)の間隔Dは装置に固有の固定値であるため既知であり、1辺とその両側の角度が判明しているためにカーソル位置502と2つのレンズ(507、508)で作られる三角形は一意に決定される。よってカーソル位置502までの現実世界における距離LがDの実機上の長さを元に求められ、奥行き方向の座標値が決定する。Lが決定することで、逆にxドットに対する現実世界における距離が計算でき、それが左右方向の座標となる。さらにドットと現実世界の距離との比例定数を用いて上下方向の座標も決定され、3次元空間における座標が決定される。このように、本実施形態の立体画像表示装置においては3次元の座標計算をすることなしに奥行き方向を一致させたカーソルを描画しているが、それは3次元空間の座標を取得できないという欠点を有しているわけではなく、3次元空間の測定方法としての利用も可能である。
以上、説明したように第1の実施形態による立体画像表示装置によれば、カーソルを動かしている間は、注視している対象に対してカーソルが1つだけ表示されているのでわかりやすく、操作しやすい。このとき利き目側に表示できるので、疲れの少ない操作系にすることができる。また、操作終了後に自動的に画像の特徴を検索してもう一方の目の画像内の位置を検索し、表示するようにしたので、軽い処理でありながら、容易に奥行きが合致したカーソル位置の指定することが出来、空間的な位置も目視確認することができる。
また、この一連の動作の結果を利用して3次元空間座標を取得できるので、2次元空間の位置を指定するだけで3次元空間座標を指定することのできる装置を提供することができ、測定装置などに用いれば1次元分の入力操作を省略できるので装置の操作性が向上する。
[第2の実施形態]
図8は、第2の実施形態による立体画像表示装置を説明する図である。第2の実施形態による立体画像表示装置全体の構成は図1(a)に示す第1の実施形態による立体画像表示装置10とほぼ同一である。ただし、図8(a)に示すように、第2の実施形態による立体画像表示装置では、カーソル座標メモリ21に複数のカーソルの座標を記憶し、複数のカーソルを用いて位置を指定する点が第1の実施形態と異なっている。以下、第2の実施形態による立体画像表示装置の説明では、第1の実施形態による立体画像装置と異なる点のみを説明し、第1の実施形態と構成、動作が同一である点については、説明を省略する。
図8(a)に示すように、第2の実施形態の立体画像表示装置では、カーソル座標メモリ21を拡張して2組のカーソルを同時に操作・表示できるようにしている。この装置は2つのカーソルで挟まれた領域を指定する動作を想定したものであり、図8(a)に示すように、座標1系が左側のカーソル506−1、座標2系が右側のカーソル506−2の描画位置を指定している。また、カーソル506−1、カーソル506−2それぞれに左画像メモリへの描画位置と右画像メモリへの描画位置が必要であるので、カーソル座標メモリ21は合計4箇所のカーソル描画座標を保持している。
第2の実施形態による立体画像表示装置では、第1の実施形態による立体画像表示装置と異なり、カーソル位置の周辺の検索画像を取得する際に、画像メモリのカーソルの先端があった位置の周辺を検索画像メモリに転送するのではなく、カーソルの先端の先にある画像を送る動作をする。この動作が可能なのは、2つのカーソルで範囲指定する場合、2つのカーソルに挟まれた位置に着目する部分が存在するという性質があるからであり、第2の実施形態ではこの性質を利用して検索する画像を抽出している。
すなわち、第2の実施形態では、カーソルが指示している位置の近傍の画像を抽出することに加えて、複数のカーソルが指示している範囲の画像からカーソルが指示している位置の近傍の画像を抽出する。
図8(b)、(c)は、比較のため、単に、カーソルが指示している位置の近傍の画像を抽出する場合の抽出画像を説明する図である。利き目が、左目であり、図8(b)の左画像メモリ40Lにおいて、カーソルは、図8(a)の画像メモリ40に示すカーソル506−1、カーソル506−2に示す位置にあり、物体B(503)の左端と右端を指しているとする。図8(b)に左画像メモリ40Lから検索画像メモリ31に抽出される画像を111L、112Lで示す。111Lは、カーソル506−1の先端近傍の画像であり、112Lは、カーソル506−2の先端近傍の画像である。図8(c)には、画像111L、112Lの領域にそれぞれ対応する右画像メモリ40Rの画像を111R、112Rで示す。図8(b)の画像111Lの拡大図に示すように、抽出される画像111Lには、物体A(501)の領域Aが多く含まれる。カーソル506−1が指しているのは、物体B(503)の左端であるのにも係わらず、抽出された画像111Lには、物体A(501)の領域Aが多く含まれるため、検索時に完全一致を見込める右側の楕円部分[物体B(503)]である領域Bの面積が少ない。これは検索画像においてノイズ成分が多いことを意味している。
図8(d)、(e)には、第2の実施形態によるカーソルが指示している位置の近傍の画像を抽出することに加えて、複数のカーソルが指示している範囲の画像からカーソルが指示している位置の近傍の画像を抽出する場合の抽出画像を説明する図である。図8(d)には、左画像メモリ40Lから検索画像メモリ31に抽出される画像を121L、122Lで示し、図8(e)には、画像121L、122Lの領域にそれぞれ対応する右画像メモリ40Rの画像を121R、122Rで示す。図8(d)には、さらに画像121Lの拡大図を示す。この画像121Lの拡大図に示すように、カーソルの先端の先の領域を抽出するために誤差の大きい領域Aが少なく、領域Bの部分が多くなっている。この抽出範囲の差異によって検索の精度を向上させることができる。
図9は、第2の実施形態による動作を説明するフローチャートである。第2の実施形態ではカーソル描画処理がカーソルペア描画処理(M2)となり、図9(b)に示すその内部で座標1、座標2と切り替えながらカーソル描画処理(図6(b)参照)を呼ぶようになっている。そのため、カーソルの移動中は、どちらのカーソルを操作していてもカーソルがだぶって見えることは無く、容易な操作が可能となっている。また、確定後は2つのカーソルごとに検索処理を行い、それぞれカーソルの向きを考慮した座標が検索画像に抽出転送されるので、用途に見合った高い精度での検索が可能になる。
図9のフローチャートについてもう少し詳しく説明する。図9(a)で、カーソル506−1、506−2(図8(a)参照)のどちらかが移動しているとき、ステップS21で移動中フラグ24をONに設定した後、ステップS22乃至ステップS25のループ処理を繰り返す。ステップS22では、カーソルペア描画処理(M2)を行う。このカーソルペア描画処理(M2)の詳細なステップを、図9(b)に示す。ステップS41でカーソル座標メモリ21に格納されている二つのカーソル506−1、506−2の座標のうち、カーソル506−1の座標系である座標1を使用するように設定した後、ステップS42でカーソル描画処理(M1)を行う。カーソル描画処理(M1)の内容はすでに、説明した図6(b)に示す処理である。次に、ステップS43で、カーソル506−2の座標系である座標2を使用するように設定した後、ステップS44で再びカーソル描画処理(M1)を行う。すなわち、カーソルペア描画処理(M2)では、ステップS42とステップS44で二つのカーソルのカーソル描画処理(M1)を行う。
図9(a)に戻って、説明を続ける。ステップS23では、ユーザーがカーソルの移動指定を行うか、カーソル位置の確定を行うか操作部70からの入力を待つ。操作部70からのカーソルの移動位置の指定入力、又は、位置確定入力があった場合は、ステップS24に進む。さらに、位置確定入力でない場合(移動位置の指定入力である場合)は、ステップS25へ進み、カーソル座標メモリ21に保持している2つのカーソルの座標のうち、移動操作している指標側の座標値を更新する。移動操作している指標側の座標値には左描画座標と右描画座標があるが、このうち更新するのは、利き目側座標値である。次に、ステップS22に戻り、同じ処理を繰り返す。
ステップS24で位置の確定入力があった場合は、ステップS26からステップS33の処理へと進む。ステップS26で移動中フラグ24をOFFに設定した後、カーソル506−1(図8(a)参照)の座標である座標1の右側(座標2側)の近傍座標を検索画像メモリ31の検索画像に抽出転送する(ステップS27)。次に、画像一致検索部32を動作させて検索を実行し(ステップS28)、検索結果に基づいて、カーソル座標メモリ21のカーソル座標1の利き目ではない方に座標値を設定する(ステップS29)。さらに、カーソル506−2の座標である座標2の左側(座標1側)の近傍座標を検索画像メモリ31の検索画像に抽出転送し(ステップS30)、画像一致を検索し(ステップS31)、カーソル座標2の利き目側ではない方の座標値を設定する(ステップS32)。最後に、ステップS33で、カーソルペア描画処理(M2)を行い、位置指定装置を終了する。
[第3の実施形態]
第2の実施形態では2つのカーソルの内部(挟まれる領域)に着目する部分が存在するという性質を利用することで精度を上げていたが、この精度を上げる仕組みを単一カーソルしか用いない場合にも適用可能にしたものが第3の実施形態である。第3の実施形態では、カーソルに方向を示す要素を持たせたことを特徴としている。
図10は、第3の実施形態による立体画像表示装置の構成上の特徴と、カーソル指定操作と処理の例を示している。第3の実施形態による立体画像表示装置全体の構成は図1(a)に示す第1の実施形態による立体画像表示装置10とほぼ同一である。ただし、図10(b)に示すように、第3の実施形態による立体画像表示装置では、カーソル座標メモリ21に描画開始座標と描画終了座標を記憶し、カーソルの方向を指定している点が異なる。
次に図10(a)、(c)を用いて、第3の実施形態によるカーソル指定操作について説明する。図10(a)において、現在操作中のカーソルは網掛けされた位置120に存在している。ユーザーはカーソル更新位置を指定する際、方向を示すために点Aでドラッグを開始し、更新位置を示すために点Bでドラッグを終了する。このとき、点Aはカーソル座標メモリの左描画開始座標(利き目が左だった場合)に設定され、点Bが左描画終了座標に設定される。カーソルを描画する際は、この終了点がカーソルの先端となり、開始点と方向が合致した、図10(c)に示すようなカーソルが描画される。なお、この指定方法は一例であり、例えば先端の座標を指定してからフリック動作(いったん先端の座標をポイントしたあと、素早く弾くような動作)で方向を指示することによりカーソルの先端と方向を入力するようにしてもよい。以下の説明では、先に説明したドラッグの開始と終了により方向を指定する入力方法の場合を例にして説明を進める。
第3の実施形態においては第2の実施形態と同様にカーソル位置の周辺の検索画像を取得する際に、単に画像メモリのカーソルの先端があった位置の周辺を検索画像メモリ31に転送するのではなく、カーソルの先端の先にある画像を抽出画像として送る動作をする。ただし、第2の実施形態と異なり、方向が任意となっているため、図11に示すように、カーソルの向きにより抽出される画像の位置は異なる。図11では8方向を表しているが、実際には例えばカーソルの先端が四辺に接し、カーソルの方向を延長した線上に中心座標が来る、というルールを決めて計算すれば、任意の方向に対する処理を可能にすることができる。この抽出方法によって、第2の実施形態と同様にノイズ成分の少ない画像を検索対象とすることができるようになり、利き目ではない側の画像を検索する際の精度を向上させることができる。
次に、第3の実施形態の処理についてフローチャートを用いて説明する。図12は、第3の実施形態における位置指定操作全体を説明するフローチャートである。第1の実施形態との処理の違いは検索画像を抽出する際の処理と、検索結果から利き目ではない側のカーソル座標を設定するときに、結果の座標に対して方向を考慮したオフセットをかけることと、カーソル描画処理において方向を考慮したカーソルを描画するためにカーソル画像データを生成する処理が追加されていることである。
まず、図12において、場所の確定が終わった後に、ステップS57でカーソルの終了位置を延長した近傍画像を検索画像に抽出転送している。これは図11で示した動作である。この画像の検索を行い、得られた座標と言うのは利き目と反対側の画像におけるカーソルの終了位置を延長した近傍画像の座標となっている。そのため、図11に示したオフセットの逆のオフセットをかけてカーソルの先端座標に戻してやり、それを座標メモリの終了点に設定する。また、開始点については、終了点を起点として利き目側の終了点から開始点を結ぶ線と平行で、同じ距離を移動した座標を設定する(ステップS59)。これにより、利き目ではない方の目のカーソル表示を行う際に、奥行きが画像と合致しているだけでなく、矢印方向が利き目と同じ形状のカーソルを表示できるようになる。図12のステップS52、S60によるカーソル描画処理(M3)の詳細を図13(a)に示す。第1の実施形態のカーソル描画処理(M1;図6(b)参照)では単純にカーソル形状メモリの描画データを転送していたステップS19が、第3の実施形態によるカーソル描画処理(M33)では、ステップS69のカーソル作成転送処理(M4)に拡張されている。図13(b)にその処理の詳細を示す。図13(b)のカーソル作成転送処理(M4)では、まず方向に従ってカーソル画像パターンを生成している(ステップS71〜S73)。生成は主制御部60のメモリ61で行うようになっており、カーソル形状メモリ22の内容を転送し(ステップS71)、開始終了座標に従って画像加工処理によって回転をかけている(ステップS72、S73)。さらに、描画する際は先端の座標が回転しているため、それを補正する補正値を求めて転送を行うようにしている(ステップS74、S75)。これによって、先端が指定された座標にある、指定された回転角を持つカーソルが描画される。
第3の実施形態によれば、利き目と反対側の画像を検索する際に、ノイズ成分の少ない画像を使うことが出来るので検索精度が高く、また、任意の方向を設定でき、カーソルの表示方向が指定方向に一致するので、画面内の物体の指定が正確で、かつ指定方法の自由度が高くなるという利点がある。
なお、図1に示す立体画像表示装置の構成は、本願開示による立体画像表示装置の好ましい一例を示したものに過ぎず、任意の構成を取ることができる。一例をあげれば、左カメラ部50L、右カメラ部50Rなどのカメラは必ずしも装置に内蔵する必要はなく、外部から疑似3次元画像を入力するものや、アニメーションによって作成された疑似3次元画像を表示する装置に適用可能である。また、主制御部60が行う処理の一部、又は全部を画像解析部30、カーソル描画制御部20が行うことも可能である。さらには、画像解析部30、カーソル描画制御部20が行う処理の一部、又は、全部を主制御部60が行うものであってもよい。要は、画像解析部30、カーソル描画制御部20、主制御部60が行う機能を何らかのハードウェア、及び/又は、ソフトウェアで実行する手段があればよい。
第1乃至第3の実施形態に係る立体画像表示装置は、一般の画像表示装置に限られず、3D表示対応の、携帯電話、スマートフォン、他の装置(例えば、ゲーム機、タブレットPC(Personal Computer)、ノートPC、PDA(Personal Data Assistants:携帯情報端末))にも適用可能である。さらには、3D映像を作成処理するCAD装置、遠隔手術装置、遠隔診断治療装置における3次元映像における位置指定に用いることなども可能である。すなわち、カーソル(ポインタなどを含む位置指定指標の総称)を用いて位置を指定する装置であって、両眼視差を利用した疑似3次元画像を表示する装置であれば、任意の装置に適用可能である。
また、各実施形態では、カーソルの形状として矢印型のカーソルを記載しているが、画面上の位置、(方向)を示すシンボルであれば、どのようなものであってもよい。たとえば、第1、第2の実施形態のようにカーソルに方向性を持たせない場合は、片目にだけカーソルを表示する第1モードでは、表示面に対して平行な上下方向と左右方向の直交する2本の直線の交点によってカーソル位置を表示し、カーソルに奥行きを持たせて立体的に表示する第2モードでは、上下方向と左右方向に加えて表示面に垂直な奥行き方向の互いに直交する3つの直線の交点により位置を指定するカーソルなどであってもよい。
また、カーソルの位置、(方向)を指定する手段は、マウス、トラックボール、キー、スイッチ、タッチパネルなど任意の手段でよいことは特に言及するまでもない。
なお、好ましい実施形態として、カーソルの移動中には、片目にカーソルを表示する第1モードを用い、カーソルの位置が確定したときにカーソルに奥行きを持たせて表示する第2モードを用いる例を示したが、第1モードと第2モードの切り替えは任意の操作、任意のタイミングで行うものであってもよい。以上説明した各実施形態によれば、第1モードから第2モードに切り替えるときに、画像の照合によりカーソルを表示していなかった方の画像におけるカーソル表示位置を決定しているので、容易に第1モード(カーソルの片目表示)から第2モード(カーソルに奥行きを持たせて表示)に切り替えることができる。なお、第2モードから第1モードへの切り替えは、左右両眼用の画像のうち、片側のカーソル表示を止めれば切り替えられるので、特に説明するまでもなく容易である。
さらに、第1モードにおいて、利き目側にカーソルを表示する例を好ましい例として説明したが、ユーザーの好み等によって任意の側の片目にカーソル表示を行うものであってもよい。
以下に、本明細書、図面に開示した本発明に関連する好ましい形態を付記する。
[形態1]
左右いずれか一方の眼用の画像にカーソルを表示し、他方の眼用の画像にはカーソルを表示しない第1モードのカーソル描画と、左右両眼用の画像の視差を利用してカーソルに奥行きを持たせて表示する第2モードのカーソル描画と、を制御するカーソル描画制御部と、
前記第1モードから前記第2モードのカーソル描画に切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置に基づいて、画像の照合により前記他方の眼用の画像におけるその位置を検索し、前記他方の眼用の画像においてカーソルを表示させる位置を求める画像解析部と、
を備えることを特徴とする両眼視差を利用した立体画像表示装置。
[形態2]
前記画像解析部が、前記一方の眼用の画像におけるカーソルが指示している位置の近傍の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定することを特徴とする形態1記載の立体画像表示装置。
[形態3]
前記カーソル描画制御部が、一つの画像に複数のカーソルを同時に表示するように制御し、
前記画像解析部が、前記一方の眼用の画像における前記複数のカーソルが指示している範囲の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定することを特徴とする形態1又は2記載の立体画像表示装置。
[形態4]
前記カーソル描画制御部が、位置と方向とを指示するカーソルの表示を制御し、
前記画像解析部が、前記一方の眼用の画像におけるカーソルが指示している位置と方向とに基づいて画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置と方向とを決定することを特徴とする形態1乃至3のいずれかに記載の立体画像表示装置。
[形態5]
前記カーソル描画制御部が、前記カーソルを移動させるときに前記第1モードのカーソル描画を行い、カーソルが停止しているときに前記第2モードのカーソル描画を行うように制御することを特徴とする形態1乃至4のいずれかに記載の立体画像表示装置。
[形態6]
左眼用の画像メモリと、右眼用の画像メモリと、を備え、
カーソル描画制御部が、前記第1モードのカーソル描画において左右いずれか一方の眼用の画像メモリに対するカーソル描画を制御し、前記第1モードから前記第2モードのカーソル描画に切り替えるときに、前記画像解析部が求めた前記他方の眼用の画像におけるカーソル表示位置に基づいて、他方の眼用の画像メモリに対するカーソル描画を制御することを特徴とする形態1乃至5のいずれかに記載の立体画像表示装置。
[形態7]
前記第1モードのカーソル描画において、利き目を前記一方の眼として設定可能であることを特徴とする形態1乃至6のいずれかに記載の立体画像表示装置。
[形態8]
第2モードのカーソル描画において、左眼用の画像におけるカーソルを表示する位置と、右眼用の画像におけるカーソルを表示する位置と、左眼用の画像の視点と右眼用の画像の視点との距離と、から、カーソルが指示している位置の3次元空間座標を算出する手段をさらに有することを特徴とする形態1乃至7のいずれかに記載の立体画像表示装置。
[形態9]
両眼視差を利用した立体画像表示装置のカーソル表示方法であって、
左右いずれか一方の眼用の画像にカーソルを表示し、他方の眼用の画像にはカーソルを表示しない第1モードから、左右両眼用の画像の視差を利用してカーソルを立体的に表示する第2モードに切り替えるときに、
前記一方の眼用の画像におけるカーソルが指示している画像の位置を検出し、画像の照合により前記他方の眼用の画像におけるその位置を検索し、検索された位置に基づいて、前記他方の眼用の画像においてカーソルを表示することを特徴とするカーソル表示方法。
[形態10]
前記第1モードにおいて、左右両眼用の画像のうち、利き目側の画像にカーソルを表示させることが可能であることを特徴とする形態9記載のカーソル表示方法。
[形態11]
前記第1モードから第2モードに切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置の近傍の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定することを特徴とする形態9又は10記載のカーソル表示方法。
[形態12]
一つの画像に複数のカーソルを同時に表示し、前記第1モードから第2モードに切り替えるときに、前記一方の眼用の画像における前記複数のカーソルが指示している範囲の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定することを特徴とする形態9乃至11のいずれかに記載のカーソル表示方法。
[形態13]
前記カーソルが位置と方向とを指示するカーソルであって、前記第1モードから第2モードに切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置と方向とに基づいて画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置と方向とを決定することを特徴とする形態9乃至12のいずれかに記載のカーソル表示方法。
[形態14]
前記カーソルを移動させるときに前記第1モードのカーソル描画を行い、カーソルが停止しているときに前記第2モードのカーソル描画を行うことを特徴とする形態9乃至13のいずれかに記載のカーソル表示方法。
[形態15]
第2モードのときに、左眼用の画像におけるカーソルを表示する位置と、右眼用の画像におけるカーソルを表示する位置と、左眼用の画像の視点と右眼用の画像の視点との距離と、から、カーソルが指示している位置の3次元空間座標を算出することを特徴とする形態9乃至14のいずれかに記載のカーソル表示方法。
[形態16]
両眼視差を利用した立体画像表示装置において、コンピュータにカーソル表示処理を実行させるコンピュータプログラムであって、
左右いずれか一方の眼用の画像にカーソルを表示させ、他方の眼用の画像にはカーソルを表示させない第1モードの表示処理と、
左右両眼用の画像の視差を利用してカーソルに奥行きを持たせて表示させる第2モードの表示処理と、
前記第1モードから第2モードの表示に切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置に基づいて、画像の照合により前記他方の眼用の画像におけるその位置を検索し、前記他方の眼用の画像にカーソルを表示させる位置を求め、第2モードの表示に切り替える処理と、
を備えることを特徴とするコンピュータプログラム。
[形態17]
前記第2モードの表示に切り替える処理において、
前記一方の眼用の画像におけるカーソルが指示している位置の近傍の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定することを特徴とする形態16記載のコンピュータプログラム。
[形態18]
前記第2モードの表示に切り替える処理において、
一つの画像に複数のカーソルを同時に表示させ、前記一方の眼用の画像における前記複数のカーソルが指示している範囲の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定することを特徴とする形態16又は17記載のコンピュータプログラム。
[形態19]
前記第2モードの表示に切り替える処理において、
位置と方向とを指示するカーソルを表示させ、
前記一方の眼用の画像におけるカーソルが指示している位置と方向とに基づいて画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置と方向とを決定することを特徴とする形態16乃至18のいずれかに記載のコンピュータプログラム。
[形態20]
前記カーソルを移動させるときに前記第1モードのカーソル表示処理を行わせ、カーソルが停止しているときに前記第2モードのカーソル表示処理を行わせることを特徴とする形態16乃至19のいずれかに記載のコンピュータプログラム。
[形態21]
利き目を前記左右いずれか一方の眼として設定する処理を行い、前記第1モードの表示処理において、前記利き目として設定した一方の眼用の画像にカーソルを表示させることを特徴とする形態16乃至19のいずれかに記載のコンピュータプログラム。
[形態22]
第2モードのときに、左眼用の画像におけるカーソルを表示する位置と、右眼用の画像におけるカーソルを表示する位置と、左眼用の画像の視点と右眼用の画像の視点との距離と、から、カーソルが指示している位置の3次元空間座標を算出する処理をさらに含むことを特徴とする形態16乃至21のいずれかに記載のコンピュータプログラム。
[形態23]
左右いずれか一方の眼用の画像にカーソルを表示して他方の眼用の画像にはカーソルを表示しない第1モードから、左右両眼用の画像の視差を利用してカーソルを立体的に表示する第2モードに切り替えるときに、
前記一方の眼用の画像におけるカーソルが指示している画像の位置を検出し、画像の照合により前記他方の眼用の画像におけるその位置を検索し、前記他方の眼用の画像において検索された位置にカーソルを表示させることを特徴とする立体画像表示装置。
[形態24]
コンピュータを形態1乃至8、23のいずれかに記載の立体画像表示装置として機能させるコンピュータプログラム。
[形態25]
形態16乃至22、24のいずれかに記載のコンピュータプログラムを記録したコンピュータが読み取り可能な記録媒体。
本発明の全開示(特許請求の範囲及び図面を含む)の枠内において、さらにその基本的技術思想に基づいて、実施例ないし実施例の変更・調整が可能である。また、本発明の特許請求の範囲の枠内において種々の開示要素(各請求項の各要素、各実施例の各要素、各図面の各要素等を含む)の多様な組み合わせないし選択が可能である。すなわち、本発明は、特許請求の範囲及び図面を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。
10:立体画像表示装置(携帯端末装置)
20:カーソル描画制御部
21:カーソル座標メモリ
22:カーソル形状メモリ
23:利き目設定メモリ
24:移動中フラグ
30:画像解析部
31:検索画像メモリ
32:画像一致検索部
40:画像メモリ
40L:(左)画像メモリ
40R:(右)画像メモリ
41:カメラデータバッファ
42:加工描画データバッファ
50L:左カメラ部
50R:右カメラ部
60:主制御部
61:メモリ[プログラムメモリ、データメモリ(制御データ)]
70:操作部
80:3D表示制御部
90:3D表示部
101:カメラ
102〜104:座標軸
111L、111R、112L、112R、121L、121R、122L、122R:画像
120、506−1、506−2:カーソル
501:物体A
502、504:作用点(カーソルの先端が重なって見える位置、カーソル位置)
503:物体B
505:表示面
506L:(左目用の画像表示面における)カーソル
506R:(右目用の画像表示面における)カーソル
507:左目投影中心(レンズ)
508:右目投影中心(レンズ)

Claims (10)

  1. 左右いずれか一方の眼用の画像にカーソルを表示し、他方の眼用の画像にはカーソルを表示しない第1モードのカーソル描画と、左右両眼用の画像の視差を利用してカーソルに奥行きを持たせて表示する第2モードのカーソル描画と、を制御するカーソル描画制御部と、
    前記第1モードから前記第2モードのカーソル描画に切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置に基づいて、画像の照合により前記他方の眼用の画像におけるその位置を検索し、前記他方の眼用の画像においてカーソルを表示させる位置を求める画像解析部と、
    を備える両眼視差を利用した立体画像表示装置。
  2. 前記画像解析部が、前記一方の眼用の画像におけるカーソルが指示している位置の近傍の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定する請求項1記載の立体画像表示装置。
  3. 前記カーソル描画制御部が、一つの画像に複数のカーソルを同時に表示するように制御し、
    前記画像解析部が、前記一方の眼用の画像における前記複数のカーソルが指示している範囲の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定する請求項1又は2記載の立体画像表示装置。
  4. 前記カーソル描画制御部が、位置と方向とを指示するカーソルの表示を制御し、
    前記画像解析部が、前記一方の眼用の画像におけるカーソルが指示している位置と方向とに基づいて画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置と方向とを決定する請求項1乃至3いずれか1項記載の立体画像表示装置。
  5. 前記カーソル描画制御部が、前記カーソルを移動させるときに前記第1モードのカーソル描画を行い、カーソルが停止しているときに前記第2モードのカーソル描画を行うように制御する請求項1乃至4いずれか1項記載の立体画像表示装置。
  6. 左眼用の画像メモリと、右眼用の画像メモリと、を備え、
    カーソル描画制御部が、前記第1モードのカーソル描画において左右いずれか一方の眼用の画像メモリに対するカーソル描画を制御し、前記第1モードから前記第2モードのカーソル描画に切り替えるときに、前記画像解析部が求めた前記他方の眼用の画像におけるカーソル表示位置に基づいて、他方の眼用の画像メモリに対するカーソル描画を制御する請求項1乃至5いずれか1項記載の立体画像表示装置。
  7. 前記第1モードのカーソル描画において、利き目を前記一方の眼として設定可能である請求項1乃至6いずれか1項記載の立体画像表示装置。
  8. 両眼視差を利用した立体画像表示装置のカーソル表示方法であって、
    左右いずれか一方の眼用の画像にカーソルを表示し、他方の眼用の画像にはカーソルを表示しない第1モードから、左右両眼用の画像の視差を利用してカーソルを立体的に表示する第2モードに切り替えるときに、
    前記一方の眼用の画像におけるカーソルが指示している画像の位置を検出し、画像の照合により前記他方の眼用の画像におけるその位置を検索し、検索された位置に基づいて、前記他方の眼用の画像においてカーソルを表示するカーソル表示方法。
  9. 前記第1モードから第2モードに切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置の近傍の画像を抽出し、前記抽出した画像に類似する画像を他方の眼用の画像から抽出して他方の眼用の画像におけるカーソル表示位置を決定する請求項8記載のカーソル表示方法。
  10. 両眼視差を利用した立体画像表示装置において、コンピュータにカーソル表示処理を実行させるコンピュータプログラムであって、
    左右いずれか一方の眼用の画像にカーソルを表示させ、他方の眼用の画像にはカーソルを表示させない第1モードの表示処理と、
    左右両眼用の画像の視差を利用してカーソルに奥行きを持たせて表示させる第2モードの表示処理と、
    前記第1モードから第2モードの表示に切り替えるときに、前記一方の眼用の画像におけるカーソルが指示している位置に基づいて、画像の照合により前記他方の眼用の画像におけるその位置を検索し、前記他方の眼用の画像にカーソルを表示させる位置を求め、第2モードの表示に切り替える処理と、
    を実行させるコンピュータプログラム。
JP2014514731A 2012-05-09 2013-05-08 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム Expired - Fee Related JP6065908B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014514731A JP6065908B2 (ja) 2012-05-09 2013-05-08 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012107594 2012-05-09
JP2012107594 2012-05-09
PCT/JP2013/062927 WO2013168736A1 (ja) 2012-05-09 2013-05-08 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム
JP2014514731A JP6065908B2 (ja) 2012-05-09 2013-05-08 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JPWO2013168736A1 true JPWO2013168736A1 (ja) 2016-01-07
JP6065908B2 JP6065908B2 (ja) 2017-01-25

Family

ID=49550770

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014514731A Expired - Fee Related JP6065908B2 (ja) 2012-05-09 2013-05-08 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム

Country Status (5)

Country Link
US (1) US9594436B2 (ja)
EP (1) EP2849155A4 (ja)
JP (1) JP6065908B2 (ja)
CN (1) CN104285243A (ja)
WO (1) WO2013168736A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI516093B (zh) * 2012-12-22 2016-01-01 財團法人工業技術研究院 影像互動系統、手指位置的偵測方法、立體顯示系統以及立體顯示器的控制方法
US9986225B2 (en) * 2014-02-14 2018-05-29 Autodesk, Inc. Techniques for cut-away stereo content in a stereoscopic display
US10162412B2 (en) * 2015-03-27 2018-12-25 Seiko Epson Corporation Display, control method of display, and program
CN105159522B (zh) * 2015-07-22 2018-03-13 深圳多新哆技术有限责任公司 一种虚拟现实显示设备响应外设设备操作的方法
CN108334191B (zh) * 2017-12-29 2021-03-23 北京七鑫易维信息技术有限公司 基于眼动分析设备的确定注视点的方法和装置
CN110456911B (zh) * 2019-08-09 2022-05-13 Oppo广东移动通信有限公司 电子设备控制方法和装置、电子设备、可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1139135A (ja) * 1997-07-22 1999-02-12 Sanyo Electric Co Ltd カーソル表示装置
JP2003284098A (ja) * 2002-03-20 2003-10-03 Topcon Corp 立体画像表示装置及び方法
JP2011134295A (ja) * 2009-11-26 2011-07-07 Canon Inc 立体映像表示装置およびカーソル表示方法、プログラム、記憶媒体
WO2011114564A1 (ja) * 2010-03-18 2011-09-22 富士フイルム株式会社 立体画像表示装置およびその制御方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003107603A (ja) 2001-09-28 2003-04-09 Namco Ltd 立体視画像生成装置、立体視画像生成情報および情報記憶媒体
EP1534021B1 (en) 2002-03-08 2010-04-28 Topcon Corporation Device and method for displaying stereo image
JP2004362218A (ja) 2003-06-04 2004-12-24 Canon Inc 三次元物体操作方法
CN101655747B (zh) 2009-08-14 2011-05-11 四川大学 一种三维立体鼠标
JP2011081480A (ja) * 2009-10-05 2011-04-21 Seiko Epson Corp 画像入力システム
JP5467683B2 (ja) 2010-01-28 2014-04-09 エフ・エーシステムエンジニアリング株式会社 立体映像表示装置の立体ノギス像形成装置およびプログラム
JP2012066049A (ja) * 2010-09-22 2012-04-05 Fujifilm Corp 放射線画像撮影装置および立体視画像表示方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1139135A (ja) * 1997-07-22 1999-02-12 Sanyo Electric Co Ltd カーソル表示装置
JP2003284098A (ja) * 2002-03-20 2003-10-03 Topcon Corp 立体画像表示装置及び方法
JP2011134295A (ja) * 2009-11-26 2011-07-07 Canon Inc 立体映像表示装置およびカーソル表示方法、プログラム、記憶媒体
WO2011114564A1 (ja) * 2010-03-18 2011-09-22 富士フイルム株式会社 立体画像表示装置およびその制御方法

Also Published As

Publication number Publication date
WO2013168736A1 (ja) 2013-11-14
US20150130713A1 (en) 2015-05-14
JP6065908B2 (ja) 2017-01-25
EP2849155A4 (en) 2015-12-16
CN104285243A (zh) 2015-01-14
EP2849155A1 (en) 2015-03-18
US9594436B2 (en) 2017-03-14

Similar Documents

Publication Publication Date Title
US10652515B2 (en) Information processing apparatus, stereoscopic display method, and program
JP6065908B2 (ja) 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム
US9651782B2 (en) Wearable tracking device
JP5300825B2 (ja) 指示受付装置、指示受付方法、コンピュータプログラム及び記録媒体
KR101518727B1 (ko) 입체 인터랙션 시스템 및 입체 인터랙션 방법
US9906778B2 (en) Calibration device, calibration program, and calibration method
US9432652B2 (en) Information processing apparatus, stereoscopic display method, and program
US8988500B2 (en) Information processing apparatus, stereoscopic display method, and program
CN114647317A (zh) 由外围设备启用的远程触摸检测
CN111161396B (zh) 虚拟内容的控制方法、装置、终端设备及存储介质
US10171800B2 (en) Input/output device, input/output program, and input/output method that provide visual recognition of object to add a sense of distance
JP6021568B2 (ja) 画像処理用プログラム、画像処理装置、画像処理システム、および画像処理方法
JP7210131B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2011180690A (ja) 表示制御装置、表示制御方法、および表示制御プログラム
JP2014186507A (ja) 画像処理用プログラム、情報処理装置、情報処理システム、および画像処理方法
JP5520772B2 (ja) 立体画像の表示システム及び表示方法
JP2023184238A (ja) 情報処理装置、情報処理方法、プログラム
JP2011123748A (ja) 携帯端末、描画システム及び描画方法
KR20170074161A (ko) 사용자의 손 제스처를 이용하는 다시점 3d 콘텐츠 제공 시스템 및 그 방법
JP2014116843A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161212

R150 Certificate of patent or registration of utility model

Ref document number: 6065908

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees