JP2014078861A - 表示制御装置 - Google Patents
表示制御装置 Download PDFInfo
- Publication number
- JP2014078861A JP2014078861A JP2012225647A JP2012225647A JP2014078861A JP 2014078861 A JP2014078861 A JP 2014078861A JP 2012225647 A JP2012225647 A JP 2012225647A JP 2012225647 A JP2012225647 A JP 2012225647A JP 2014078861 A JP2014078861 A JP 2014078861A
- Authority
- JP
- Japan
- Prior art keywords
- cursor
- display
- information
- video
- control unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
【課題】映像に対してカーソルを重畳させて立体表示する際、映像とカーソルの立体的な位置関係を好適に設定できる。表示制御装置を提供する。
【解決手段】映像およびカーソルを立体表示する表示部104と、カーソルを表示する場合、表示部上におけるカーソルの表示位置を示す位置情報を取得する検出部101と、映像に基づいて、表示部に映像を立体表示した際、映像の奥行き方向の定位位置を示す第1視差情報を少なくとも1つ以上の画素毎に取得する制御部103と、位置情報が示すカーソルの表示位置における映像の定位位置よりも、カーソルの定位位置が近くなるように、第1視差情報に基づいてカーソル用の視差情報である第2視差情報を設定する制御部103と、表示部に対して、取得した第1視差情報に基づき映像を立体表示させるとともに、位置情報が示す位置かつ第2視差情報で示される定位位置にカーソルを立体表示させる制御部103と、を備える。
【選択図】図1
【解決手段】映像およびカーソルを立体表示する表示部104と、カーソルを表示する場合、表示部上におけるカーソルの表示位置を示す位置情報を取得する検出部101と、映像に基づいて、表示部に映像を立体表示した際、映像の奥行き方向の定位位置を示す第1視差情報を少なくとも1つ以上の画素毎に取得する制御部103と、位置情報が示すカーソルの表示位置における映像の定位位置よりも、カーソルの定位位置が近くなるように、第1視差情報に基づいてカーソル用の視差情報である第2視差情報を設定する制御部103と、表示部に対して、取得した第1視差情報に基づき映像を立体表示させるとともに、位置情報が示す位置かつ第2視差情報で示される定位位置にカーソルを立体表示させる制御部103と、を備える。
【選択図】図1
Description
本開示は、立体表示する際の映像とカーソルの位置関係を制御する表示制御装置に関する。
特許文献1は、ステレオ写真間における、互いに対応する対応点の視差を検出し、その検出量から各画素の奥行の大小関係を取得する方法が開示されている。
本開示は、映像に対してカーソルを重畳させて立体表示する際、映像とカーソルの立体的な位置関係を好適に設定できる表示制御装置を提供する。
本開示における表示制御装置は、立体表示されている映像に対してカーソルを重畳し表示する表示制御装置であって、映像およびカーソルを立体表示する表示部と、カーソルを表示する場合、表示部上におけるカーソルの表示位置を示す位置情報を取得する位置情報取得部と、映像に基づいて、表示部に映像を立体表示した際、映像の奥行き方向の定位位置を示す第1視差情報を少なくとも1つ以上の画素毎に取得する視差情報取得部と、位置情報が示すカーソルの表示位置における映像の定位位置よりも、カーソルの定位位置が近くなるように、第1視差情報に基づいてカーソル用の視差情報である第2視差情報を設定する設定部と、表示部に対して、取得した第1視差情報に基づき映像を立体表示させるとともに、位置情報が示す位置かつ第2視差情報で示される定位位置にカーソルを立体表示させる制御部と備える。
本開示における表示制御装置は、映像に対してカーソルを重畳させて立体表示する際、映像とカーソルの立体的な位置関係を好適に設定できる。
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、発明者(ら)は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。
(実施の形態1)
以下、図1〜17を用いて、実施の形態1を説明する。
昨今タッチパネルを搭載したタブレットの普及が進み、多視点映像システムが利用されるようになってきている。
以下、図1〜17を用いて、実施の形態1を説明する。
昨今タッチパネルを搭載したタブレットの普及が進み、多視点映像システムが利用されるようになってきている。
図15は、多視点映像システムにおける多視点撮影を示している。これは、デジタルカメラ等で、静止物を様々な角度から撮影するものである。撮影したデータは、撮影した視点と関連づけて蓄積されるものである。
図16は、多視点映像システムにおける、多視点映像表示の様子を示している。ユーザは、タッチパネル等のインタフェース装置を使って、表示されているオブジェクトの表示角度や拡大率を変化させることができる。その結果、人は、自由な角度から自由な大きさで対象物を見ることができることから、高い臨場感を得ることができるという特徴がある。
本実施形態に開示する立体映像でのカーソル奥行きの定位位置の制御方法は、この多視点映像システムを3D撮影で実現する場合、有効に作用する。
図1は、上記の立体映像でのカーソル奥行の定位位置の制御をおこなう表示制御装置100のブロック図である。
図1に示すよう、表示制御装置100は、検出部101、蓄積部102、制御部103および表示部104を備える。
検出部101は、使用者からの操作に基づき、表示部104上に表示するカーソルの位置に関する情報を検出する。検出部101は、例えばマウス、タブレット等、いわゆるポインティングデバイスで構成される。要するに、表示部104上において表示するカーソルの位置を指定することができるものであれば、どのようなものを利用してもかまわない。検出部101は、ポインティングデバイスの指示する、画面上の座標値を取得する機能を備える。検出部101は、操作するユーザの操作の検出に検出遅れが発生しないように、例えば、10ms間隔で、ポインティングデバイスの指し示す位置座標を取得するものとする。
蓄積部102は、表示部104で表示するステレオ映像を蓄積する。さらに、蓄積部102は、ステレオ映像のポリゴンデータを蓄積する。さらに、蓄積部102は、ステレオ映像に対してポリゴンデータを重畳する際に利用する付加情報を蓄積する。
上記ステレオ映像は、水平方向に所定(例えば60mm)の距離離れた位置から同時に撮影することによって得られる映像で、各映像ファイルは、データサイズを抑えるために、JPEG等の適切な方法で圧縮されている。
上記ポリゴンデータは、ステレオ映像に写っている被写体の形状を、互いに1辺を接する3角形の集合体として定義したデータである。各3角形には、頂点の座標値X,Y,Zが定義される。尚、ポリゴンデータの要素の形状は、3角形に限定する必要はない。頂点が同じ平面上に乗っている多角形でもよいし、あるいは、適切な補間関数で定義された自由曲面パッチであっても構わない。さらには、それらの平面や曲面群が、どのように相互に接続されているかを示すトポロジー構造を記述するデータを備えていても構わない。要は、ポリゴンデータとは、ステレオ映像に写っている被写体の形状を、コンピュータ内に定義された形状モデルとして定義するデータを指すものとする。
このポリゴンデータは、ステレオ写真の組み合わせから、一般に視差マッチングと呼ばれる方法によって、生成することができる。あるいは、ステレオ写真を撮影する際に、撮影対象をレーザ光線でスキャニングし、その位置情報を得る3Dスキャナーを使用して取得することもできる。
このポリゴンデータは、ステレオ写真の組み合わせから、一般に視差マッチングと呼ばれる方法によって、生成することができる。あるいは、ステレオ写真を撮影する際に、撮影対象をレーザ光線でスキャニングし、その位置情報を得る3Dスキャナーを使用して取得することもできる。
上記付加情報は、ステレオ映像とポリゴンデータの表示位置の対応関係を示す情報である。上記付加情報は、ステレオ映像とポリゴンデータの対応情報と、位置あわせ情報を含む。前記対応情報は、そのステレオ映像(群)とポリゴンデータが対応しているかの関係を含む情報である。また、前記位置あわせ情報は、上記ステレオ映像と上記ポリゴンデータを重ねて表示部104上に表示させたときに、これらの位置が重なって表示されるように、ポリゴンデータの座標系を平行・回転移動、または、拡大縮小する座標変換の情報を含む。 この付加情報によって、ステレオ映像と当該ステレオ映像に映し出される対象物のポリゴンデータは、互いに関連付けられている。これにより、表示制御装置100はステレオ映像を選んだ場合に、写っている対象物のポリゴンデータを特定することができる。
制御部103は、蓄積部102に蓄積されるステレオ映像を表示部104に出力する機能を有する。具体的に、ステレオ映像が所定規格によって圧縮符号化されている場合、制御部103は、ステレオ映像を復号化し、表示用のステレオ映像を生成する。
さらに、制御部103は、表示部104上にカーソルを立体表示する際、当該カーソルの奥行き方向の定位位置を設定する機能を有する。つまり、カーソルは制御部103で定位位置を設定されることにより、ステレオ映像よりも手前に表示されるようになる。ここで、定位位置とは、ある特定の物体を立体視した際、表示部104の表示面と垂直な方向に定位する位置に関する情報である。つまり、定位位置が変更すると、視聴者が視聴した際に感じる飛び出し感が変わる。
図2は、ステレオ映像上で、人に飛び出しや奥行きを感じさせるための基本的な仕組みを説明するための図である。
Reの位置にある右眼から見える映像として、あるオブジェクトを、スクリーン上のRsの位置に表示する。一方、Leの位置にある左眼からは、このオブジェクトが、スクリーン上のLsの位置にあるように表示する。その結果、人は、視差からこのオブジェクトが、点C上にあるように感じることができる。つまり、スクリーン平面上に表示する、オブジェクトRsとLsの間の距離を適切に調整することによって、人は飛び出しや奥行きを感じることができる。制御部103は、このオブジェクトの表示間隔、すなわち視差を調整することにより定位位置を調整する。
図2は、ステレオ映像上で、人に飛び出しや奥行きを感じさせるための基本的な仕組みを説明するための図である。
Reの位置にある右眼から見える映像として、あるオブジェクトを、スクリーン上のRsの位置に表示する。一方、Leの位置にある左眼からは、このオブジェクトが、スクリーン上のLsの位置にあるように表示する。その結果、人は、視差からこのオブジェクトが、点C上にあるように感じることができる。つまり、スクリーン平面上に表示する、オブジェクトRsとLsの間の距離を適切に調整することによって、人は飛び出しや奥行きを感じることができる。制御部103は、このオブジェクトの表示間隔、すなわち視差を調整することにより定位位置を調整する。
具体的に、制御部103は、検出部101で検出したカーソルの表示位置および、ステレオ映像の視差情報に基づいて、カーソルの定位位置を設定する。
ここで、視差情報とは、視聴者がある映像を立体視した際に感じる飛び出しまたは引き込みに関する情報である。なお、制御部103の詳細な動作については後述する。
表示部104は、制御部103から出力されるステレオ映像およびカーソルに関する情報に基づいて、ステレオ映像およびカーソルを立体表示する。表示部104は、フレームシーケンシャル方式の表示デバイスでも構わないし、視差バリア方式の表示デバイスでも構わない。要するに、入力されるステレオ映像およびカーソルを立体表示できるデバイスであればどのようなものを利用しても構わない。
<制御部103における動作説明>
以下、図面を参照しながら制御部103における詳細な動作、特にカーソルを表示部104上に立体表示した際の定位位置の算出について説明する。
<制御部103における動作説明>
以下、図面を参照しながら制御部103における詳細な動作、特にカーソルを表示部104上に立体表示した際の定位位置の算出について説明する。
まず、制御部103は蓄積部102に蓄積されるステレオ映像、ポリゴンデータおよび付加情報を利用し、図3に示すようにステレオ映像とポリゴンデータとが重なるように、2つの情報を重畳させる。
そして、制御部103は、重畳後におけるポリゴンデータから得られる座標情報に基づいて、表示部104に表示させるカーソルの奥行き方向における定位位置を設定する。その際、制御部103は、ポリゴンデータが示すステレオ映像の定位位置を基準にしてカーソルの定位位置を設定する。
図4は、ポリゴンデータに基づくカーソルの定位位置を設定する方法を説明するための図である。
以下、説明の便宜上、表示するステレオ映像は既に設定されているものとする。また、制御部103は、検出部101からスクリーン上に表示するカーソルの位置座標Rsを取得しているものとする。
点Cの位置に飛び出すようにカーソルを表示部104において立体表示する場合、制御部103は、予め設定されるステレオ映像および当該ステレオ映像のヘッダ情報等に基づいて得られる倍率や表示のスクリーンまでの距離を利用し、スクリーン上座標値を基準に、両眼それぞれの位置座標(Re,Le)を求める。ここで、スクリーン上座標値とは、スクリーン平面を基準にした座標値であり、ポリゴンデータをステレオ映像に重ねるように調整する際、ポリゴンデータが有する座標値を例えばアフィン変換によって変換したものである。
さらに、制御部103は、検出部101から得られるRsおよび右眼位置Reを結ぶ直線に基づき、ポリゴンデータと直線との交点Cの交点座標を求める。
そして、制御部103は、交点Cの座標値および左眼位置Leから得られる直線と、スクリーンとの交点をLsとして算出する。
そして、制御部103は、RsおよびLsから算出される視差を視聴者側に飛び出すように調整することにより、カーソルが常にステレオ映像よりも手前に表示されるよう、カーソルの定位位置を設定する。
なお、上記の座標計算はポリゴンデータが有する3次元空間上における座標値に基づいて算出される。ただし、ポリゴンデータが座標値を有していない場合は、ステレオ映像からステレオマッチング法等を利用して直接的にカーソルの定位位置を設定しても構わない。
以下、図面を参照しながら制御部103における詳細動作を説明する。
図5は、本実施例における制御部103の行う処理の説明図である。
また、図6は、本実施例における制御部103のフローチャートである。
なお、以下の動作を実行する前には、仮想的に設定する右眼位置Reおよび左眼位置Le座標値が取得されているものとする。ここでReおよびLeの座標値はスクリーン平面をxy座標とし、その平面に直交する方向にz軸方向を設定したxyz座標系として与えられる。以下、xyz座標系と表現する場合は、この座標系を示す。
(ステップ1)制御部103は、ユーザの指示に基づいて、蓄積部102から目的のステレオ映像を読み込む。同時に、ステレオ映像に該当する部分のポリゴンデータも蓄積部102から読み込む。このとき、制御部103は例えばアフィン変換等を利用して、読み込んだポリゴンデータの座標系をxyz座標系に変換する。これにより、制御部103はスクリーン平面を基準とするポリゴンデータの座標値が取得できる。
(ステップ2)制御部103は、読み込んだステレオ映像をデコードし、表示部104に出力する。そして、表示部104は、出力されたステレオ映像を受け取ると、そのステレオ映像をディスプレイ上に立体表示する。
(ステップ3)制御部103は、検出部101が取得したカーソルの位置情報を取得する。具体的には、検出部101から右眼用のカーソルに関する位置情報を受け取る。この位置情報は、スクリーン平面上におけるxy座標で表現される値である。なお、説明の便宜上、図5においてはRpと表現する。なお、制御部103は検出部101から取得する位置情報は右眼用のカールに関する位置情報と設定する。
(ステップ4)制御部103は、上記ステップで取得したReの座標値、Rpの座標値およびポリゴンデータの座標値に基づいて、ステップ3で取得したカーソルと右眼位置とで形成される直線と、ポリゴンデータ上の交点座標を計算する。この計算は例えば、ポリゴンデータを構成する各3角形の平面と直線との交点を求め、その交点が、3角形の領域に含まれるか否かを判定すればよい。この交点が、3角形の領域に含まれれば、その交点は点Cになり、含まれていなければ、別の3角形との交点を探すことによって行われる。
(ステップ5)次に制御部103は、左眼用のカーソルに関する位置情報を計算する。具体的に制御部103は、左眼位置Leと点Cを結ぶ直線と、スクリーン平面との交点座標を上記の位置情報として求める。ここで、左眼用のカーソルは、表示部104にカーソルを立体表示する際に、右眼用のカーソルと対になるものである。この点を、Lpとする。
(ステップ6)制御部103は、ステップ5で求められたLpの位置座標を調節する。具体的に、制御部103は、所定の値だけRpとLpとの間隔を広くするようにLpの座標値をずらしたものをLp’として求める。そして、この座標値を、実際に左眼用のカーソルを表示する位置と設定する。このLpの移動によって、視聴者が立体表示されたカーソルの定位位置は、点Cから視聴者側の点C’に移動することになる。これによりカーソルは、表示部104に表示される映像の表面に沿って奥行きが変化しながらも、所定の量、オブジェクトより手前に定位する。よって、視聴者において発生するカーソルの定位位置と、映像の定位位置とで起こる錯誤を防止することができる。
(ステップ7)制御部103は、表示部104にRpの座標値およびLp’の座標値を出力する表示部104は、制御部103から出力されるRpの座標値およびLp’の座標値に対してカーソルを表示する。これにより、視聴者はカーソルを視聴した際、当該カーソルを立体視できる。
上記の動作により、表示部104に立体表示されるカーソルは、ステレオ映像の表面より所定の値手前に定位して表示される。
(まとめ)
本実施形態における表示制御装置100は、立体表示されている映像に対してカーソルを重畳し表示する表示制御装置100であって、映像およびカーソルを立体表示する表示部104と、カーソルを表示する場合、表示部104上におけるカーソルの表示位置を示す位置情報を取得する検出部101と、制御部103を備え、
制御部103は、映像に基づいて、表示部に映像を立体表示した際、映像の奥行き方向の定位位置を示す第1視差情報を少なくとも1つ以上の画素毎に取得し、位置情報が示すカーソルの表示位置における映像の定位位置よりも、カーソルの定位位置が近くなるように、第1視差情報に基づいてカーソル用の視差情報である第2視差情報を設定し、表示部に対して、取得した第1視差情報に基づき映像を立体表示させるとともに、位置情報が示す位置かつ第2視差情報で示される定位位置にカーソルを立体表示させる。
(まとめ)
本実施形態における表示制御装置100は、立体表示されている映像に対してカーソルを重畳し表示する表示制御装置100であって、映像およびカーソルを立体表示する表示部104と、カーソルを表示する場合、表示部104上におけるカーソルの表示位置を示す位置情報を取得する検出部101と、制御部103を備え、
制御部103は、映像に基づいて、表示部に映像を立体表示した際、映像の奥行き方向の定位位置を示す第1視差情報を少なくとも1つ以上の画素毎に取得し、位置情報が示すカーソルの表示位置における映像の定位位置よりも、カーソルの定位位置が近くなるように、第1視差情報に基づいてカーソル用の視差情報である第2視差情報を設定し、表示部に対して、取得した第1視差情報に基づき映像を立体表示させるとともに、位置情報が示す位置かつ第2視差情報で示される定位位置にカーソルを立体表示させる。
上記の動作により、これによりカーソルは、表示部104に表示される映像の表面に沿って奥行きが変化しながらも、所定の量、オブジェクトより手前に定位する。よって、視聴者において発生するカーソルの定位位置と、映像の定位位置とで起こる錯誤を防止することができる。
(その他の実施形態1)
本実施形態における表示制御装置100は、ステップ1とステップ2との間にステップAを実施しても構い。
(その他の実施形態1)
本実施形態における表示制御装置100は、ステップ1とステップ2との間にステップAを実施しても構い。
以下、ステップAの動作について図面を参照しながら説明する。
(ステップA)制御部103は、蓄積部102から取得したポリゴンデータの平滑化をおこなう。具体的には、ポリゴンデータのある点に注目したときに、その点座標と、その周辺の点座標との加重平均を計算する。
図7は、ポリゴンデータの構成を示す図である。
図7の例では、点1〜点7の各点の座標ベクトルをV1〜V7としている。
点3の周りには、点1、点2、点6、点7が存在している。このとき、例えば点3については次の数式を用いて座標値を平滑化する。
上記のように処理することにより。表示部104に表示するカーソルの奥行き方向の定位位置が、細かく変動することを避け、ヒステリシスに変動するように制御できる。
(その他の実施形態2)
蓄積部102に保存されているポリゴンデータは、ステレオ映像から生成される。しかし、画像処理の誤差から、取得されたポリゴンデータは、ポリゴンが定義されていない穴の開いた状態になることがある。つまり、ステレオ映像のすべてに対して座標値を有するポリゴンデータが定義できない。
(その他の実施形態2)
蓄積部102に保存されているポリゴンデータは、ステレオ映像から生成される。しかし、画像処理の誤差から、取得されたポリゴンデータは、ポリゴンが定義されていない穴の開いた状態になることがある。つまり、ステレオ映像のすべてに対して座標値を有するポリゴンデータが定義できない。
そのようなポリゴンデータを用いて、ポインティングデバイスのカーソルの奥行き制御を行った場合、カーソル位置のポリゴン上の座標値を求める交点計算においてエラーが発生し、正しくポリゴンデータ上に点が求められない可能性がある。
本実施形態においては、上記の課題を解決する。
以下、図面を参照しながら本実施形態における表示制御装置100の動作を説明する。
図8は、右眼からの指示位置とポリゴンデータの交点抽出の平滑化処理を説明するための図である。
図9は、スクリーン上において設定する複数の右眼用のカーソルの位置座標を説明するための図である。
図10は、本実施形態における制御部103の動作示すフローチャートである。
制御部103は、図8に示すように、右眼位置Reと右眼用のカーソルの表示位置Rpを結ぶ直線と、ポリゴンデータとの交点座標を求める際に、その周辺における座標値Cnを求める機能を備える。
制御部103は、右眼用のカーソルを表示するRpと右眼位置Reとを結ぶ直線と、ポリゴンデータとの交点座標Cを算出する。本実施例では、そのとき、Rpをただ1点とするのではなく、図9に示すように、Rpの予定の距離分離れた点Rp1,Rp2,Rp3、Rp4を求める。
1.右眼位置ReとRp1を結ぶ直線と、ポリゴンデータとの交点座標をC1とする
2.右眼位置ReとRp2を結ぶ直線と、ポリゴンデータとの交点座標をC2とする
3.右眼位置ReとRp3を結ぶ直線と、ポリゴンデータとの交点座標をC3とする
4.右眼位置ReとRp4を結ぶ直線と、ポリゴンデータとの交点座標をC4とする
そして、制御部103は、算出した座標が、極端に離れているものを除外し、残った交点座標の平均値を以後に利用する交点Cの座標値とする。具体的に、制御部103は求めたC1〜C4について、右目位置Reからの距離を求め、その最大と最少のものを削除したうえで
残ったもので位置ベクトルを平均化する方法がある。図8に示した例では、C1〜C4のうち、C2とC4を除外して、C1とC3で平均化して得られる座標値を、交点座標Cのとして算出している。
2.右眼位置ReとRp2を結ぶ直線と、ポリゴンデータとの交点座標をC2とする
3.右眼位置ReとRp3を結ぶ直線と、ポリゴンデータとの交点座標をC3とする
4.右眼位置ReとRp4を結ぶ直線と、ポリゴンデータとの交点座標をC4とする
そして、制御部103は、算出した座標が、極端に離れているものを除外し、残った交点座標の平均値を以後に利用する交点Cの座標値とする。具体的に、制御部103は求めたC1〜C4について、右目位置Reからの距離を求め、その最大と最少のものを削除したうえで
残ったもので位置ベクトルを平均化する方法がある。図8に示した例では、C1〜C4のうち、C2とC4を除外して、C1とC3で平均化して得られる座標値を、交点座標Cのとして算出している。
以下、制御部103における詳細な動作について図面を参照しながら説明する。
本実施例の動作では、実施例1におけるステップ4に代えて、ステップ4−1からステップ4−4を実施する。
(ステップ4−1)制御部103は、ステップ3で取得したRpの座標値に基づいて、当該Rpの周辺に複数個のRpnを設定する。例えば、制御部103はRp中心に、10ピクセル離れた4つの点を生成し、Rp1,Rp2,Rp3、Rp4とする。
(ステップ4−2)制御部103は、右眼位置Reおよび上記で設定した位置Rpnを結ぶ直線と、ポリゴンデータとの交点座標をそれぞれC1からC4といて算出する。このステプ4−2の計算は、ステップ4−1で設定したRpnのすべての点について行うまで繰り返すものとする。
(ステップ4−3)制御部103は、得られた複数個のCnからエラーと疑わしきCnを排除する。
(ステップ4−4)制御部103は、上記の排除の結果、残ったCnを平均化し、交点座標Cを求める。このときの、制御部103は、点Cnへの位置ベクトルをVCnした場合、次式によって算出する。
(その他の実施形態3)
本実施の形態は、右眼位置Reと右眼用のカーソルの表示位置Rpを結ぶ直線と、ポリゴンデータとの交点座標が、算出できなかった場合におけるエラー処理を開示する。
以下、上記のエラー処理の具体的動作について図面を参照しながら説明する。
図11は、制御部103における交点座標Cを算出する際の動作を説明するための図である。
また、図12は、本実施形態における制御部103の動作内容を説明するためのフローチャートである。
蓄積部102に保存されているポリゴンデータは、ステレオ映像から生成される。しかし、このポリゴンデータは、図11に示すように、スクリーン面上の一部分のみを占める形状として定義している場合がある。つまり、このポリゴンデータは、スクリーン上全面にわたって定義されるのではなく、たとえば、画面の周囲では、ポリゴンデータが定義されていない。この場合は、たとえば図6におけるステップ4において交点座標を計算する際、右眼位置Reと右眼用のカーソルの表示位置Rpを結ぶ直線と、ポリゴンデータとの交点座標Cを求めようと思っても、求めることができない。その結果、交点Cの座標が不定や極端に大きな、あるいは小さな値になると、この部分では、マウスカーソルの奥行は手前に飛び出したり、奥に引っ込んだりする。この結果、視聴者は目の疲労を起こしやすくなる可能性がある。
そこで、制御部103は、交点が求まらなかった場合、右眼位置Reと右眼用のカーソルを表示する表示位置Rpを結ぶ直線上に、上記交点Cに対応する点TCを設定する機能を備える。このようなTCを設定し、このTCが示す位置座標にカーソルを定位させることにより、視聴者にとって、見やすい3D映像とその指示カーソルとすることが可能になる。
なお、この点TCと、スクリーン位置は、ポリゴンデータの存在する前後範囲の中に納まっていることが望ましい。TCが、ポリゴンデータの存在する範囲から大きく逸脱していると、表示部104に表示するカーソルは、おおきく画面上から飛び出したり、または、大きく奥に引っ込んだりようになり、視聴者に目の疲労を起こさせる可能性があるためである。
以下、制御部103における詳細な動作について図面を参照しながら説明する。
本実施例の動作では、実施例1におけるステップ4に代えて、ステップ4−5からステップ4−7を実施する。
(ステップ4−5)制御部103は、右眼位置Reと右眼用のカーソルの表示位置Rpを結ぶ直線と、ポリゴンデータとの交点Cを計算する。
(ステップ4−6)制御部103は、交点Cが計算できない場合、右眼位置Reと右眼用のカーソルの表示位置Rpnを結ぶ直線上で、スクリーンから所定の距離離れた位置にある、点TCを求める。このときの「所定の値」は、3D画像に重なるように位置決めしたポリゴンデータの、ポリゴンデータの存在する前後範囲におさまるようになっていることが望ましい。
(ステップ4−7)制御部103は、点TCの座標値を点Cの座標値に代えて以後の処理を実行する。
上記の処理を行うことで、ポリゴンデータの定義されている範囲の外に、ポインティングデバイスのカーソルを移動させたときであっても、表示部104に表示するカーソルの奥行き方向の位置が大きく前後に変化することを低減できる。よって、視聴者は、目の疲労を大きく感じることなく、3D映像を見ることが可能になる。
(その他の実施形態4)
上記の実施形態では、Lpは、左眼位置Leとポリゴンデータ上の点C結ぶ直線とスクリーンとの交点として求めていた。さらに、その点の座標をさらに所定の値、水平方向に移動させることで、Lp’が求まるものとしている。
(その他の実施形態4)
上記の実施形態では、Lpは、左眼位置Leとポリゴンデータ上の点C結ぶ直線とスクリーンとの交点として求めていた。さらに、その点の座標をさらに所定の値、水平方向に移動させることで、Lp’が求まるものとしている。
本実施形態では、上記の算出方法に限定されるものではなく、以下に開示する方法を用いて算出しても構わない。
図13および図14は、本実施形態におけるLp’の算出方法を説明するための図である。
図13に示すLは、スクリーンと視聴位置との距離である。また、dは、人の両目の間隔である。通常は、60mmから65mmである。mは、求めた点Cのスクリーンからの飛び出し量である。gは点Cからスクリーンに下した位置からLpまでの距離である。さらにgは、点Cからスクリーンに下した位置からLpまでの距離である。
幾何学的な関係から、図13の場合は、次式が成立する。
(数4) (L−m)/d = m/g
上記の数式に基づいて、gは次式で算出される。
上記の数式に基づいて、gは次式で算出される。
(数5) g=m×d/(L−m)
点Cがスクリーンより奥に定位している場合は、図14に示すように、点Cの飛び出し量を−mとして計算する。これにより、点Cがスクリーンより手前に定位している場合に対して、左右逆方向にRpをずらすこととなりLpの位置が算出できる。LpからLp‘を求める場合、図13および図14どちらも、右の方向に、所定の距離ずらすことで、ポインティングデバイスのカーソルは、3D映像のオブジェクトの表面より少し手前に定位させることが可能になる。
点Cがスクリーンより奥に定位している場合は、図14に示すように、点Cの飛び出し量を−mとして計算する。これにより、点Cがスクリーンより手前に定位している場合に対して、左右逆方向にRpをずらすこととなりLpの位置が算出できる。LpからLp‘を求める場合、図13および図14どちらも、右の方向に、所定の距離ずらすことで、ポインティングデバイスのカーソルは、3D映像のオブジェクトの表面より少し手前に定位させることが可能になる。
上記のように、両目の距離(d)、スクリーンと視聴位置との距離(L)を使用することで、より簡単な計算で、カーソルの表示位置を求めることができる。
(その他の実施形態5)
上記の各実施形態においては、ステレオ映像から生成したポリゴンデータ、または、3Dスキャナー等によって得られるポリゴンデータを用いることで、ステレオ映像に映っているオブジェクトの表面に沿って、立体表示するカーソルの奥行き定位位置を制御する方法を示した。
(その他の実施形態5)
上記の各実施形態においては、ステレオ映像から生成したポリゴンデータ、または、3Dスキャナー等によって得られるポリゴンデータを用いることで、ステレオ映像に映っているオブジェクトの表面に沿って、立体表示するカーソルの奥行き定位位置を制御する方法を示した。
ところで、ユーザがオブジェクトの表示角度をさまざまに変更した場合、その視線方向での視差量を都度計算するのは、応答性の低下を招き、操作性が悪化することになる。本実施例で開示したように、表示されているオブジェクトに関する視差情報を、ポリゴンデータとしてその形状を定義することで、視線方向などが変わった場合でも、単一のポリゴンデータに基づいて、奥行き情報を求めることが可能になる。その結果、ユーザが映像の表示方向を変化させた直後であっても、別の視差データを読み出す必要はないので、待ち時間なく、マウスのカーソル位置を、オブジェクトの定位位置に沿って変化させることが可能になる。
加えて、ポリゴンデータは、ただ一つである必要はなく、所定の視点範囲ごとに、ポリゴンデータを定義しておくこともできる。視点が所定の範囲から変化からした場合に、制御部103は別のポリゴンデータを読み込むという動作であってもよい。この動作により、ポリゴンデータは、所定の視線から見える範囲のデータを備えておればよいことになる。
その結果、制御部103は、一度に読み込むべきデータ量を削減することができ、全体としての応答性を確保できる。
その結果、制御部103は、一度に読み込むべきデータ量を削減することができ、全体としての応答性を確保できる。
なお上記において、右眼位置と左眼位置の距離は、通常、人の両目の間隔である60mm程度で設定してよい。また、右眼位置と左眼位置と、スクリーンとの間の距離は、ディスプレイのサイズから想定される適正な視聴距離を設定してもよいし赤外線等を使用した測距手段を使って、人の視聴位置とディスプレイの間の距離を計測してもよい。
(その他の実施形態6)
上記の各実施形態においては、ステレオ映像と、ステレオ映像に写っているオブジェクトの形状を定義したポリゴンデータを用いて、マウスなどのポインティングデバイスのカーソルを、ステレオ映像に写っているオブジェクトの表面に沿って移動させる方法を示した。 ところで、実際のシステムにおいては、画面上に、ステレオ映像とカーソルだけでなく、説明用のウィンドウやOSDメニューなどが重畳して表示されることがある。
図17は、その様子を示したものである。ポリゴンデータと左右の眼の間に配置された平板は、視聴者からみたときの、ウィンドウまたはOSDメニューの定位位置を示している。
この場合、ポインティングデータのカーソルは、上記オブジェクトのポリゴン上ではなく、オブジェクト上に重畳表示された、上記ウィンドウまたはOSDメニュー上に定位するようにすることが望ましい。このようにすることで、ユーザは、カーソルがメニューの下にめり込むように感じられることがなく、自然にオブジェクト表面をカーソルでなぞることが可能になる。
(その他の実施形態6)
上記の各実施形態においては、ステレオ映像と、ステレオ映像に写っているオブジェクトの形状を定義したポリゴンデータを用いて、マウスなどのポインティングデバイスのカーソルを、ステレオ映像に写っているオブジェクトの表面に沿って移動させる方法を示した。 ところで、実際のシステムにおいては、画面上に、ステレオ映像とカーソルだけでなく、説明用のウィンドウやOSDメニューなどが重畳して表示されることがある。
図17は、その様子を示したものである。ポリゴンデータと左右の眼の間に配置された平板は、視聴者からみたときの、ウィンドウまたはOSDメニューの定位位置を示している。
この場合、ポインティングデータのカーソルは、上記オブジェクトのポリゴン上ではなく、オブジェクト上に重畳表示された、上記ウィンドウまたはOSDメニュー上に定位するようにすることが望ましい。このようにすることで、ユーザは、カーソルがメニューの下にめり込むように感じられることがなく、自然にオブジェクト表面をカーソルでなぞることが可能になる。
本実施形態では、右目位置Reとスクリーン上のカーソル位置Rpを結ぶ直線と、表示されているオブジェクトとの交点C1は上記直線とポリゴンデータとの交点を示し、交点C2は、上記直線と、上記ウィンドウまたはOSDメニューとの交点を示している。
得られたC1とC2の、視聴者に近い方C2が、ユーザに見える側であるとして、C2の位置に、カーソルを定位させるようにする。すなわち、左眼位置LeとCを結ぶ直線と、スクリーン平面との交点Lpを求め、さらに、カーソルが視聴者に近づくように所定の方向に所定の量移動させたLp´を求める。
Lp´の位置に、左眼用のカーソルの映像を表示することで、視聴者には、C´の位置にカーソルが定位するように見える。
Lp´の位置に、左眼用のカーソルの映像を表示することで、視聴者には、C´の位置にカーソルが定位するように見える。
以上のように、本開示における技術の例示として、実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。
したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、上記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。
また、上述の実施の形態は、本開示における技術を例示するためのものであるから、特許請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
本開示は、ステレオ映像に対してカーソルを重畳する表示制御装置に適用可能である。具体的には、立体表示機能付きテレビまたはパーソナルコンピュータなどに、本開示は適用可能である。
100 表示制御装置
101 検出部
102 蓄積部
103 制御部
104 表示部
101 検出部
102 蓄積部
103 制御部
104 表示部
Claims (4)
- 立体表示されている映像に対してカーソルを重畳し表示する表示制御装置であって、
前記映像およびカーソルを立体表示する表示部と、
前記カーソルを表示する場合、前記表示部上における前記カーソルの表示位置を示す位置情報を取得する位置情報取得部と、
前記映像に基づいて、前記表示部に前記映像を立体表示した際、前記映像の奥行き方向の定位位置を示す第1視差情報を少なくとも1つ以上の画素毎に取得する視差情報取得部と、
前記位置情報が示す前記カーソルの表示位置における前記映像の定位位置よりも、前記カーソルの定位位置が近くなるように、前記第1視差情報に基づいて前記カーソル用の視差情報である第2視差情報を設定する設定部と、
前記表示部に対して、前記取得した第1視差情報に基づき前記映像を立体表示させるとともに、前記位置情報が示す位置かつ前記第2視差情報で示される定位位置に前記カーソルを立体表示させる制御部と、を備える、
表示制御装置。 - 前記設定部は、前記第1視差情報を取得した単位毎に、前記カーソルが移動する空間上において平滑化された第2視差情報を設定する請求項1に記載の表示制御装置。
- 前記設定部は、前記位置情報が示す前記カーソルの表示位置および前記表示位置周辺における前記映像の視差情報を取得し、前記取得した視差情報を平滑化することにより前記第2視差情報を設定する請求項1に記載の表示制御装置。
- 前記設定部は、前記表示部上に前記カーソルを立体表示した場合、所定の定位位置よりも画面の奥方向に定位しないように前記第2視差情報を設定する請求項1に記載の表示制御装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012225647A JP2014078861A (ja) | 2012-10-11 | 2012-10-11 | 表示制御装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012225647A JP2014078861A (ja) | 2012-10-11 | 2012-10-11 | 表示制御装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014078861A true JP2014078861A (ja) | 2014-05-01 |
Family
ID=50783831
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012225647A Pending JP2014078861A (ja) | 2012-10-11 | 2012-10-11 | 表示制御装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014078861A (ja) |
-
2012
- 2012-10-11 JP JP2012225647A patent/JP2014078861A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8768043B2 (en) | Image display apparatus, image display method, and program | |
CN104641633B (zh) | 用于组合来自多个深度相机的数据的系统和方法 | |
JP2007052304A (ja) | 映像表示システム | |
WO2011114564A1 (ja) | 立体画像表示装置およびその制御方法 | |
CN111164971B (zh) | 用于3d内容的视差观察器系统 | |
JP2015018296A (ja) | 表示制御装置、プログラム及び記録媒体 | |
TWI657431B (zh) | 動態顯示系統 | |
AU2018249563B2 (en) | System, method and software for producing virtual three dimensional images that appear to project forward of or above an electronic display | |
JP2012256110A (ja) | 情報処理装置、情報処理方法およびプログラム | |
KR20140121529A (ko) | 광 필드 영상을 생성하는 방법 및 장치 | |
KR20190027079A (ko) | 전자 장치, 그 제어 방법 및 컴퓨터 판독가능 기록 매체 | |
KR20110088995A (ko) | 3차원 모델 안에서 감시 카메라 영상을 시각화하기 위한 방법 및 시스템, 및 기록 매체 | |
JP2022058753A (ja) | 情報処理装置、情報処理方法及びプログラム | |
WO2015072091A1 (ja) | 画像処理装置、画像処理方法及びプログラム記憶媒体 | |
KR101632514B1 (ko) | 깊이 영상 업샘플링 방법 및 장치 | |
TWI486052B (zh) | 立體影像處理裝置以及立體影像處理方法 | |
JP2012105172A (ja) | 画像生成装置、画像生成方法、コンピュータプログラムおよび記録媒体 | |
JP6168597B2 (ja) | 情報端末装置 | |
JP2013150249A (ja) | 画像処理装置と画像処理方法およびプログラム | |
JP2009055332A (ja) | 映像合成表示装置 | |
JP6405539B2 (ja) | 多視点画像に対するラベル情報の処理装置及びそのラベル情報の処理方法 | |
JP2014078861A (ja) | 表示制御装置 | |
KR101473234B1 (ko) | 신체 트래킹에 기반한 영상 디스플레이 방법 및 시스템 | |
JP5868055B2 (ja) | 画像処理装置および画像処理方法 | |
KR101779423B1 (ko) | 영상처리방법 및 영상처리장치 |