JP6581514B2 - 三次元位置校正装置およびそのプログラム、ならびに、自由視点画像生成装置 - Google Patents
三次元位置校正装置およびそのプログラム、ならびに、自由視点画像生成装置 Download PDFInfo
- Publication number
- JP6581514B2 JP6581514B2 JP2016004429A JP2016004429A JP6581514B2 JP 6581514 B2 JP6581514 B2 JP 6581514B2 JP 2016004429 A JP2016004429 A JP 2016004429A JP 2016004429 A JP2016004429 A JP 2016004429A JP 6581514 B2 JP6581514 B2 JP 6581514B2
- Authority
- JP
- Japan
- Prior art keywords
- sensor
- calibration
- viewpoint image
- space
- dimensional position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000013598 vector Substances 0.000 claims description 37
- 239000003550 marker Substances 0.000 claims description 33
- 238000004364 calculation method Methods 0.000 claims description 22
- 230000017105 transposition Effects 0.000 claims description 2
- 238000000034 method Methods 0.000 description 15
- 238000005259 measurement Methods 0.000 description 12
- 238000013500 data storage Methods 0.000 description 10
- 239000011159 matrix material Substances 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 238000007796 conventional method Methods 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000004069 differentiation Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000000053 physical method Methods 0.000 description 1
Images
Landscapes
- Measurement Of Length, Angles, Or The Like Using Electric Or Magnetic Means (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Processing Or Creating Images (AREA)
Description
例えば、コンピュータグラフィックスで自由視点画像を生成して表示する場合、この画像表示手法は、仮想カメラを設置した仮想空間の座標系と、表示装置を設置した物理空間(実空間)の座標系とを対応付ける。そして、この画像表示手法は、観察者の視点位置に対応する仮想空間の位置に仮想カメラを設置し、表示装置の表示領域に対応する仮想空間の画像を撮影(生成)する。
つまり、仮想カメラは、暗室の中に設置された長方形の窓を通して外を見ていることに相当し、その窓枠の四隅の各点は、物理空間に設置された表示装置の表示領域の四隅の各点に対応することになる。
このとき、三次元位置センサで取得した位置情報は、赤外カメラやトランスミッタ(磁場発生装置)の位置に対する相対位置で表現される。
そこで、三次元位置センサで取得した相対位置と物理空間の位置とを対応付けるためには、それぞれの座標系(センサ空間座標系、物理空間座標系)との位置合わせを行う必要がある。
すなわち、従来、観察者の視点位置に応じて変化させた画像を表示する自由視点の画像表示手法においては、仮想空間と物理空間とセンサ空間との3つの空間の座標系を合わせることで実現している。
しかし、従来の手法は、センサ空間の座標系と物理空間の座標系との対応付けを行うために、三次元位置センサの物理空間上の基準位置を計測する必要がある。そのため、従来の手法は、別途計測を行うための機材が必要となってしまい、計測に手間がかかってしまうという問題がある。
しかし、三次元位置センサとして、赤外カメラ等の光学センサを用いた場合、観察者にとって、カメラの主点位置が不明であるため、必ずしも光学センサを表示装置の表示面に揃えることができず、正確な位置合わせを行うことは困難である。
このように、従来の手法において、正確にセンサ空間と物理空間とを対応付けるためには、前記したように、別途計測手段を設ける必要があり、計測に手間がかかってしまう。
なお、本発明に係る三次元位置校正装置は、コンピュータを、位置収集手段、校正データ算出手段として機能させるための三次元位置校正プログラムで動作させることができる。
そして、自由視点画像生成装置は、視点画像生成装置によって、三次元位置校正装置で校正された校正データに基づいて、三次元位置センサから取得したセンサ空間上の磁気センサの位置から物理空間上の視点位置を算出し、当該視点位置を仮想カメラの位置として、CGを表示装置の画面上に投影変換することで視点画像を生成する。
これによって、自由視点画像生成装置は、三次元位置センサを表示装置から離した状態で、正確に物理空間とセンサ空間との校正を行い、正しい視点位置に対応する視点画像を表示することができる。
本発明によれば、三次元位置センサを表示装置から離した状態でも、センサ空間と物理空間とを対応付けることができる。
また、本発明によれば、磁気センサの位置を動かすだけの簡単な動作で、センサ空間と物理空間とを精度よく対応付けることができる。
これによって、本発明は、磁気センサの位置で検出される観察者の正確な視点位置に応じた視点画像を生成することが可能になる。
〔自由視点画像表示システムの全体構成〕
まず、図1を参照して、本発明の実施形態に係る自由視点画像表示システムSの全体構成について説明する。
そして、自由視点画像生成装置1は、視点画像生成手段12によって、センサ空間における観察者Mの視点位置から、物理空間における位置を算出し、その視点位置に対応する表示装置2に表示する画像(視点画像)を生成する。
なお、この自由視点画像生成装置1における校正や視点画像の生成については、後記する自由視点画像生成装置1の構成および動作の説明において詳細に行うこととする。
磁場測定器(磁気センサ)31は、磁場発生器30が発生する磁場の方向および強度を測定するものである。この磁場測定器31は、測定した磁場の方向および強度をコントローラ32に出力する。なお、磁場測定器31は、観察者Mが視点画像を観る際に、観察者Mの視点位置に対応する位置、例えば、メガネ等に固定される。
このように、自由視点画像表示システムSを構成することで、自由視点画像表示システムSは、観察者Mの視点位置に応じた視点画像を表示装置2に表示することができる。
以下、自由視点画像生成装置1の構成および動作について、詳細に説明する。
まず、図2を参照(適宜図1参照)して、自由視点画像生成装置1の構成について説明する。図2に示すように、自由視点画像生成装置1は、三次元位置校正手段10と、校正データ記憶手段11と、視点画像生成手段12と、CG情報記憶手段13と、を備える。
なお、三次元位置校正手段10と視点画像生成手段12とは、図示を省略した切り替え手段によって、いずれか一方が動作するものとする。
ここでは、三次元位置校正手段10は、マーカ表示手段100と、位置収集手段101と、校正データ算出手段102と、を備える。
なお、図3に示したマーカMKの形状は十字形状としているが、観察者Mが表示装置2の画面上の位置を視認可能な形状であれば、×印、矢印等、どのような形状であっても構わない。
この位置収集手段101は、マーカMK(図3)の位置から等距離となる位置で磁場測定器31を移動させたときの複数(3点以上)の三次元位置を収集する。
このとき、位置収集手段101は、マーカ表示手段100でマーカMKを表示した後、一定時間内に、予め定めたサンプリング間隔で磁場測定器31の位置を収集する。これによって、観察者は、一定時間内に磁場測定器31の複数の位置を容易に設定することができる。
また、収集する磁場測定器31の位置は、測定ノイズが含まれることもあるため、数十、数百等のできるだけ多くの位置を収集することが好ましい。
この位置収集手段101は、収集した磁場測定器31の複数の位置(三次元位置)を校正データ算出手段102に出力する。
図5に示すように、予め定めた物理空間座標系FRにおけるマーカMKの位置(物理空間位置ベクトル)をr、センサ空間座標系FSにおける磁場測定器31の複数の位置(センサ空間位置ベクトル)をpi(1≦i≦N;Nは収集位置の数)とする。
また、校正データ算出手段102が算出するセンサ空間座標系FSの原点座標の物理空間座標系FRにおける位置(校正位置ベクトル)をsとする。
すなわち、その平面上の点の位置ベクトルをvとすると、以下の式(1)の関係が成り立つ。なお、tは転置を示す。
なお、原理的には、3点の独立なpiでsを決定することができる。しかし、piには、測定ノイズが含まれることがあり、校正の精度を高めるため、ここでは、位置収集手段101において、piを3点よりも多く収集している。
ここで、尤もらしい校正位置ベクトルsを決定するため、以下の式(3)の誤差関数Lを定義する。
図2に戻って、自由視点画像生成装置1の構成について説明を続ける。
このように三次元位置校正手段10を構成することで、三次元位置校正手段10は、三次元位置センサ3を表示装置2から離した状態でも、センサ空間と物理空間とを対応付けることができる。
また、三次元位置校正手段10は、測定用紐で接続された磁場測定器31を移動させる動作で、三次元位置センサ3の位置を収集することができ、簡単に校正を行うことができる。
なお、三次元位置校正手段10で校正された校正データ(校正位置ベクトルs)は、三次元位置センサ3(より詳細には、磁場発生器30)の位置を変えない限り有効である。
ここでは、視点画像生成手段12は、位置取得手段120と、視点位置算出手段121と、投影変換手段122と、を備える。
この位置取得手段120は、予め定めたサンプリング間隔で磁場測定器31の位置を取得する。これによって、位置取得手段120は、観察者Mの視点位置の変化を、逐次、センサ空間座標系FSにおける三次元位置として取得する。
この位置取得手段120は、取得したセンサ空間座標系FSにおける視点位置を、視点位置算出手段121に出力する。
この視点位置算出手段121は、位置取得手段120で取得したセンサ空間座標系FSにおける視点位置(位置ベクトル)をp、校正データ記憶手段11に記憶されている校正データ(校正位置ベクトル)をsとしたとき、以下の式(10)によって、物理空間座標系FRにおける視点位置(位置ベクトルq)を算出する。
図6(a)に示すように、仮想空間上の投影対象の範囲をz軸方向の−near面から−far面とし、−near面の投影範囲におけるx座標の最大値をright、最小値をleft、y座標の最大値をtop、最小値をbottomとする。なお、通常、near,farは、0<near<farを満たす任意の値である。
この場合、投影行列は、以下の式(11)となる。
このとき、表示装置2の表示画面の横軸(右方向を正)を表す単位ベクトルvrは、以下の式(12)で表される。
同様に、表示装置2の表示画面の縦軸(上方向を正)を表す単位ベクトルvuは、以下の式(13)で表される。
また、仮想カメラVcから、表示装置2の表示画面への鉛直距離dは、以下の式(15)で表される。
そして、視錐台VFのパラメータ値right,left,top,bottomは、以下の式(16)により計算することができる。
この視錐台VFのパラメータ値を用いることで、仮想空間座標系FVと物理空間座標系FRとを対応付けることができる。
図2に戻って、自由視点画像生成装置1の構成について説明を続ける。
このように視点画像生成手段12を構成することで、視点画像生成手段12は、センサ空間と物理空間とを対応付ける校正データに基づいて、観察者Mの視点位置をセンサ空間上の位置から物理空間上の位置に変換し、仮想空間と対応付けることで、視点位置に応じた視点画像を生成することができる。
以上説明したように自由視点画像生成装置1を構成することで、自由視点画像生成装置1は、三次元位置センサ3を表示装置2から離した状態でも、センサ空間と物理空間とを簡易な手法で対応付けることができ、観察者の正確な視点位置に応じた視点画像を表示装置2に表示することができる。
次に、自由視点画像生成装置1の動作について説明する。
(校正動作)
最初に、図7を参照(適宜図1,図2参照)して、自由視点画像生成装置1の三次元位置校正手段10による物理空間とセンサ空間の位置合わせ動作(校正動作)について説明する。
ここで、観察者Mは、一端に吸盤、他端に三次元位置センサ3の磁場測定器31を取り付けた測定用紐の吸盤を、ステップS1で表示された表示装置2のマーカ位置に吸着させる(ステップS2)。
そして、三次元位置校正手段10は、位置収集手段101によって、観察者Mが測定用紐を張り詰めてマーカ位置から等間隔の状態で移動させた磁場測定器31の位置(三次元座標位置)を収集する(ステップS3)。
これによって、物理空間座標系FRのマーカ位置を基準として、センサ空間座標系FSにおける磁場測定器31の位置が収集されることになる。
ここで、データ数が予め定めた数(N)未満の場合(ステップS4でNo)、位置収集手段101は、ステップS3に戻って、磁場測定器31の位置の収集を継続する。
そして、三次元位置校正手段10は、ステップS5で算出された校正データを校正データ記憶手段11に書き込み記憶する(ステップS6)。
次に、図8を参照(適宜図1,図2参照)して、自由視点画像生成装置1の視点画像生成手段12による視点画像の生成動作について説明する。
すなわち、視点画像生成手段12は、ステップS10で取得したセンサ空間座標系FSにおける視点位置(位置ベクトル)をp、校正データ記憶手段11に記憶されている校正データ(校正位置ベクトル)をsとしたとき、前記式(10)により、物理空間座標系FRにおける視点位置(位置ベクトルq)を算出する。
このとき、投影変換手段122は、仮想カメラの視点となる位置を頂点とする視錐台内のオブジェクトを、表示装置2の表示画面の各頂点が対応するように視錐台のニアプレーンに投影することで、物理空間と仮想区間とを対応付ける。
以上の動作によって、自由視点画像生成装置1は、視点画像生成手段12によって、観察者の正確な視点位置に応じた視点画像を表示装置2に表示することができる。
ここでは、自由視点画像生成装置1が、三次元位置校正手段10と、校正データ記憶手段11と、視点画像生成手段12と、CG情報記憶手段13と、を備える構成とした。これらは、それぞれ別途独立した装置として構成してもよい。
例えば、三次元位置校正手段10を、三次元位置校正装置10として構成してもよい。このとき、三次元位置校正装置10は、コンピュータを、マーカ表示手段100、位置収集手段101、校正データ算出手段102として機能させるプログラム(三次元位置校正プログラム)で動作させることができる。
1 自由視点画像生成装置
10 三次元位置校正手段(三次元位置校正装置)
100 マーカ表示手段
101 位置収集手段
102 校正データ算出手段
11 校正データ記憶手段
12 視点画像生成手段(視点画像生成装置)
120 位置取得手段
121 視点位置算出手段
122 投影変換手段
13 CG情報記憶手段
2 表示装置
3 三次元位置センサ
30 磁気発生器
31 磁気測定器(磁気センサ)
32 コントローラ
Claims (5)
- 観察者の視点位置を磁気センサの位置により検出する三次元位置センサのセンサ空間の座標系と、前記観察者が視認する表示装置が配置された物理空間の座標系とを対応付ける三次元位置校正装置であって、
一端を前記物理空間の予め定めた位置に固定し、他端を前記磁気センサに固定した固定長部材の前記他端の位置を前記観察者が複数箇所に移動させることで、前記三次元位置センサが検出した前記センサ空間における少なくとも3点以上の位置を収集する位置収集手段と、
この位置収集手段で収集された前記センサ空間における複数の位置と、前記物理空間における予め定めた位置とに基づいて、誤差の最も小さい前記物理空間における前記センサ空間の原点座標の位置を校正データとして算出する校正データ算出手段と、
を備えることを特徴とする三次元位置校正装置。 - 前記物理空間における予め定めた位置として、前記表示装置の画面上にマーカを表示するマーカ表示手段を、さらに備えることを特徴とする請求項1に記載の三次元位置校正装置。
- コンピュータを、請求項1から請求項3にいずれか一項に記載の三次元位置校正装置として機能させるための三次元位置校正プログラム。
- 表示装置を視認する観察者の視点位置を磁気センサの位置により検出し、前記視点位置に対応した視点画像を生成する自由視点画像生成装置であって、
請求項1から請求項3のいずれか一項に記載の三次元位置校正装置と、
この三次元位置校正装置で校正された校正データに基づいて、三次元位置センサから取得したセンサ空間上の前記磁気センサの位置から物理空間上の視点位置を算出し、当該視点位置を仮想カメラの位置として、CGを前記表示装置の画面上に投影変換することで前記視点画像を生成する視点画像生成装置と、
を備える自由視点画像生成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016004429A JP6581514B2 (ja) | 2016-01-13 | 2016-01-13 | 三次元位置校正装置およびそのプログラム、ならびに、自由視点画像生成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016004429A JP6581514B2 (ja) | 2016-01-13 | 2016-01-13 | 三次元位置校正装置およびそのプログラム、ならびに、自由視点画像生成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017125739A JP2017125739A (ja) | 2017-07-20 |
JP6581514B2 true JP6581514B2 (ja) | 2019-09-25 |
Family
ID=59365010
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016004429A Active JP6581514B2 (ja) | 2016-01-13 | 2016-01-13 | 三次元位置校正装置およびそのプログラム、ならびに、自由視点画像生成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6581514B2 (ja) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11276438A (ja) * | 1998-03-30 | 1999-10-12 | Isuzu Motors Ltd | 視線計測装置 |
JP5730818B2 (ja) * | 2012-06-01 | 2015-06-10 | トヨタ自動車東日本株式会社 | 作業位置判別システム及び作業位置判別方法 |
JP2014153247A (ja) * | 2013-02-12 | 2014-08-25 | Toyota Motor East Japan Inc | 作業位置判別システム及び作業位置判別方法 |
US9551873B2 (en) * | 2014-05-30 | 2017-01-24 | Sony Interactive Entertainment America Llc | Head mounted device (HMD) system having interface with mobile computing device for rendering virtual reality content |
-
2016
- 2016-01-13 JP JP2016004429A patent/JP6581514B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017125739A (ja) | 2017-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5036260B2 (ja) | 位置姿勢算出方法及び装置 | |
CN105027562B (zh) | 用于将数字信息投影到真实环境中的真实对象上的方法和系统 | |
CN103983255B (zh) | 用于测量和远程控制的移动场控制器 | |
JP4136859B2 (ja) | 位置姿勢計測方法 | |
US8699005B2 (en) | Indoor surveying apparatus | |
TWI496108B (zh) | AR image processing apparatus and method | |
CN104685541A (zh) | 用于确定三维对象上注视点的方法和装置 | |
JP2004163292A (ja) | 測量装置と電子的記憶媒体 | |
CN107532885A (zh) | 光图案中的强度变化用于体积中的物体的深度绘制 | |
WO2005017644A2 (ja) | 3次元測量装置及び電子的記憶媒体 | |
JP2017129567A (ja) | 情報処理装置、情報処理方法、プログラム | |
EP3706076B1 (en) | Method and device to determine the dimensions and distance of a number of objects in an environment | |
US20170026636A1 (en) | Method for the positionally accurate projection of a mark onto an object, and projection apparatus | |
WO2019121127A1 (en) | Combining image based and inertial probe tracking | |
JPWO2019222255A5 (ja) | ||
JP2005091298A (ja) | 画像処理を用いたグローバル座標取得装置 | |
KR20140120282A (ko) | 플렉시블 디스플레이의 휨 모션들에 대한 광 검출 | |
JP4566786B2 (ja) | 位置姿勢計測方法および情報処理装置 | |
KR20120058802A (ko) | 3차원 위치/방향 추정 시스템에서 3차원 위치를 보정하는 장치 및 방법 | |
EP1840507B1 (en) | Method and integrated system for the digital survey of three-dimensional environments. | |
JP2017122690A (ja) | ヒト計測システムの座標校正方法 | |
JP6581514B2 (ja) | 三次元位置校正装置およびそのプログラム、ならびに、自由視点画像生成装置 | |
EP3392748B1 (en) | System and method for position tracking in a virtual reality system | |
KR100991570B1 (ko) | 다양한 형태를 갖는 간판크기를 원격으로 측정하는 방법 및그 방법을 이용한 간판크기 원격 측정 장치 | |
JP5230354B2 (ja) | 位置特定装置及び異動建物検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181203 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190806 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190830 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6581514 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |