JP2016192600A - 情報処理装置および投影装置 - Google Patents
情報処理装置および投影装置 Download PDFInfo
- Publication number
- JP2016192600A JP2016192600A JP2015070389A JP2015070389A JP2016192600A JP 2016192600 A JP2016192600 A JP 2016192600A JP 2015070389 A JP2015070389 A JP 2015070389A JP 2015070389 A JP2015070389 A JP 2015070389A JP 2016192600 A JP2016192600 A JP 2016192600A
- Authority
- JP
- Japan
- Prior art keywords
- projection
- information
- image
- unit
- viewpoint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3191—Testing thereof
- H04N9/3194—Testing thereof including sensor feedback
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3185—Geometric adjustment, e.g. keystone or convergence
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Geometry (AREA)
- Transforming Electric Information Into Light Information (AREA)
- Controls And Circuits For Display Device (AREA)
- Projection Apparatus (AREA)
Abstract
Description
影装置を設置し、どこに投影すべきかを適切に設定することはユーザにとって困難である
。例えば、投影面に投影される理想的な画像と、実際にその投影面に投影された画像を撮
像手段によって撮像した画像とを比較して、撮像画像の再現度を求める手法が知られてい
る。しかしながら、撮像位置から離れた位置や範囲から観察される画像に基づいた投影環
境の適切度を得ることは困難である。
づいた投影環境の適切度を得ることができる情報処理装置および投影装置を提供することにある。
部からの出力画像が投影される投影面の形状情報と前記投影部の位置に関する投影点情報
とを取得する形状取得部と、前記投影面を観察する視点位置を示す視点情報を取得する視
点取得部と、前記形状情報と前記投影点情報と前記視点情報とから前記投影面の投影適切
度を算出する算出部と、前記投影適切度に基づく補助情報データを生成する生成部と、
を備える。
なお、図面は模式的または概念的なものであり、各部分の厚みと幅との関係、部分間の
大きさの比率などは、必ずしも現実のものと同一とは限らない。また、同じ部分を表す場
合であっても、図面により互いの寸法や比率が異なって表される場合もある。各図面中、
同様の構成要素には同一の符号を付して詳細な説明は適宜省略する。
図1は、第1の実施形態に係る画像投影装置を表すブロック図である。図2は、第1の
実施形態にかかる情報処理方法を説明するフローチャート図である。なお、図1に表した
ブロック図は、本実施形態にかかる情報処理装置の要部構成の一例であり、必ずしも実際
のプログラムモジュールの構成とは一致しない場合がある。
部112とを備える。情報処理装置200は、形状取得部201と、視点取得部202と
、算出部203と、生成部204と、を備えている。
Integrated Circuit)、FPGA(Field Programmable Gate Array)等の集積回
路、CPU(Central Processing Unit)、MPU(Micro Processing Unit)等の電
子回路である。
筺体に納められていてもよいし、離れて形成されていてもよい。情報処理装置200は、
投影部100と直接的または間接的に接続されている。情報処理装置200からのデータ
は、例えば投影部に有線または無線で送信される。
処理装置200の一部、又は全部を、LSI(Large Scale Integration)等の集積回路
又はIC(Integrated Circuit)チップセットとして実現してもよい。各機能ブロックに
ついては、個別にプロセッサ化してもよいし、各機能ブロックの一部、又は全部を集積し
てプロセッサ化してもよい。また、集積回路は、LSIに限らず専用回路、又は汎用プロ
セッサを用いてもよい。
、物体の画像投影装置100と対向する面である。
110によって投影面に投影される。以下に、出力画像を投影するための適切な投影面を
選択するための情報処理装置200における処理について説明する。
得られた距離情報209を形状取得部201へ送る。
205と画像投影装置100の位置に関する情報(投影点情報)210を取得し、形状情報
205と投影点情報210を算出部203に送る。
報である。投影点情報210は、例えば、投影面と画像投影装置100の相対的な位置に
関する情報である。あるいは、投影点情報210は、例えば、ある座標系を使って表わさ
れた画像投影装置100の位置に関する情報である。
が入力部112を使用して入力した、投影面を観察するための視点位置に関わる情報(視
点位置情報)206を取得し、視点位置情報206を算出部203に送る。視点位置情報
206は、例えば、画像投影装置100または投影面と視点位置との相対的な位置に関す
る情報である。あるいは、視点位置情報206は、ある座標系を使って表わされた視点位
置に関する情報である。
、入力画像データ101に含まれる入力画像データ101の水平/垂直方向の画素数が送
られる。
される画像(推定画像)の出力画像に対する位置ずれと画素情報の欠損(歪・欠損情報)の
少なくとも一方に基づいて、当該投影面が投影に適しているかを示す投影適切度207を
算出する。算出部203は、投影適切度207を生成部204に送る。推定画像は、算出
部203によって、形状情報205、投影点情報210、視点位置情報206および入力
画像データ101を使って得られる。
される画像(観察画像)を推定して得た画像である。
置のずれである。画素情報の欠損は、出力画像内の点が、推定画像において存在しないこ
とを意味する。
る。補助情報208は、例えば投影部110へ送られる。補助情報208は、例えば、投
影適切度207の値を含む。補助情報は、例えば、投影面内の所定の範囲と、その範囲内
の投影適切度207の値を含む。
データ101は、投影部110にも送られてもよい。投影部110は、入力画像データ1
01と補助情報を用いて出力画像を生成してもよい。この場合、出力画像は、例えば入力
画像から生成される画像と投影適切度を含む。
得部201は、投影面の形状情報205と投影点情報210を取得し算出部203に送る
。視点取得部202は、視点位置情報206を取得し、算出部203に送る(S201)。
照しつつ説明する。図3は、本実施形態の距離センサ111を例示する模式的斜視図であ
る。図4(a)〜図4(c)は、投影面の三次元座標の算出方法を説明する模式的平面図
である。図4(a)は、投光画像の画素の座標を例示する模式的平面図である。図4(b
)は、投稿画像の画素に対応する受光画像の画素の座標を例示する模式的平面図である。
図4(c)は、投光部と受光部と対象物体との幾何学的関係を例示する模式的平面図であ
る。対象物体350は、投影面351を有する。距離センサ111は、距離センサ111
自身と投影面351との距離を計測し、その距離に関する視点情報(距離情報)209を
形状取得部201に送る。形状取得部201は、視点情報209に基づいて、投影面35
1の形状情報205と、投影点情報210と、を取得し算出部203に送る。
投光部111aおよび受光部111bは、互いに略同じ高さに設けられている。例えば、
投光部111aの中心111cと受光部111bの中心111dとを結ぶ中心線C1は、
距離センサ111の底面111eと略平行である。そのため、距離センサ111を水平面
に設置すると、中心線C1は、水平となる。
光する。受光部111bは、投光部111aが投射した赤外光のうちで投影面351から
反射される赤外光を受光する。
赤外光のパターンを2次元の画像として考える。投光画像の画素の座標(xp,yp)に
対応する受光画像の画素の座標を(xc,yc)と表す。形状取得部201は、次のよう
にして、投光画像の画素の座標(xp,yp)に対応する受光画像の画素の座標(xc,
yc)を求めることで、投影面351の三次元形状の座標(Xs,Ys,Zs)を求める
ことができる。
画素の座標が座標(x2,0)である場合について考える。投光部111aと、受光部1
11bと、投光画像の座標(x1,0)の画素の光があたる対象物体350と、の関係は
、図4(c)に表した通りである。図4(c)に表した「L」は、投光部111aと受光
部111bとの間の物理的な距離である。図4(c)に表した「D」は、距離センサ11
1と対象物体350との間の距離である。図4(c)に表した「f」は、受光部111b
の焦点距離である。このとき、幾何的な関係から式(1)の関係が成り立つ。
について説明している。なお、投光部111aが投光し受光部111bが受光する光は、
可視光であってもよい。
。この場合には、投影部110は、特定のパターンの光を対象物体350に投影する。撮
影部は、対象物体350を撮影する。撮影部が撮影した画像と、投影部110が対象物体
350に投影した元のパターンと、の対応関係から撮影部と対象物体350との距離情報
を求めることができる。
像投影装置100は、複数の撮影部が撮影した複数の画像の画素の対応関係から撮影部と
対象物体350との間の距離を求める。例えば、2つの撮影部同士を結ぶ直線と、対象物
体350と、の間の距離を求めることができる。
る方法には限定されない。例えば、距離センサ111は、パルス形状に変調した光を投影
面351に投影し、投影面351において反射した光を受光し、投影した光の位相と受光
した光の位相との間の差に基づいて距離センサ111自身と投影面351との間の距離を
計測してもよい。このように、距離センサ111は、投影部110から画像を投影する対
象物体350の三次元形状を取得する手段の一例である。対象物体350の三次元形状を
取得する手段は、これらに限られるわけではない。
原点として算出される。そのため、距離センサ111の受光部111bと、投影部110
と、の間の距離に基づいて、投影点(投影部110)の座標を設定することができる。例
えば、投影部110と受光部111bとが、x方向にpx、y方向にpy、z方向にpz
だけ互いに離れている場合には、投影点の座標は、(Xp,Yp,Zp)=(px,py
,pz)と設定することができる。形状取得部201は、投影面の形状情報205を算出
し、投影点の投影点情報210とともに、算出部203へ送る。
実施形態の画像投影装置100を例示する模式的斜視図である。本実施の形態では、入力
部112は情報処理装置200と同じ筺体に納められている。入力部112は、例えば、
表示面113と操作部114とを有する。操作部114は、例えばボタンである。ユーザ
は、例えば操作部114を用いて視点位置の座標を入力する。
えば、ユーザが視点位置情報206を入力するための補助情報を表示する。表示面113
は、例えば、投影点の位置と視点位置を表示する。
影部110の投影方向に平行なz軸と、z軸に垂直なx軸とy軸を有する座標系で表された空
間が表示されている。ユーザは、操作部114を使って、この座標系で表される視点位置
を設定する。ユーザが視点の座標を設定すると、表示面113には、この空間内と視点位
置が表示される。
てもよい。入力部112によって、基準となる視点(基準視点)に対して広がりを持った
視点範囲を設定されてもよい。操作部114によって基準視点と距離が入力されることに
よって、基準視点を中心としてその距離を半径とする視点範囲が設定されることができる
。表示面113には、視点位置の代わりに視点範囲が表示されてもよい。
。入力部112は、例えば、タブレット端末やパーソナルコンピュータ(PC)であって
もよい。
作により、タッチパネルに表示される座標空間が回転可能であってもよい。ユーザは、1
点の視点位置または視点範囲をタッチ操作により設定してもよい。視点範囲が設定された
場合は、視点取得部202は視点範囲の重心を基準視点とすることができる。
適切度207の算出について図6〜図9を使って説明する。なお、図6〜9の説明のため
に用いる「出力画像」は、入力画像データ101を使って得られるものであり、補助情報
を含まなくてもよい。
)に示した投影面に投影する出力画像を示す図である。図6(c)は図6(a)に示した
投影面に図6(b)に示した出力画像を投影した時に、視点位置において観察される画像
(観察画像)を示している。算出部203は、投影面351上の一点と、投影部110が
投影面に出力画像を投影する場合に、この一点と対応する出力画像内の一画素を算出する
。投影面351上の一点は、例えば投影面351を表す三次元座標系で表される。出力画
像内の一画素は、例えば出力画像を表す座標系で表される。
通るように、x軸およびy軸が設定されている。図6(b)、図6(c)の例では、出力
画像と観察画像はともに、画面のx座標の最小値が「−1」、x座標の最大値が「1」で
あり、y座標の最小値が「−1」、y座標の最大値は「1」であるように座標が設定され
ている。
51に投影される場合にこの一画素に対応する投影面351上の一点の三次元座標をM=
(Xs,Ys,Zs)と表す。出力画像の一画素の座標mp=(xp,yp)と、投影面
351上の一点の三次元座標M=(Xs,Ys,Zs)と、の間の関係式は、次の式の通
りである。
表す。つまり、算出部203は、投影面351上の点の三次元座標に対応する入力画像の
画素の座標を算出する処理において透視投影変換を実行する。次の式に表したように、透
視投影行列PPは、内部パラメータAPと、外部パラメータRP、tPと、で表される。
、投影部110が有するレンズの焦点距離や、投影部110が有するレンズの光軸に対す
る表示素子の(画像)中心の位置(座標)などを含む。外部パラメータRP、tPは、投
影部110の位置や、投影部110の姿勢などを表す。例えば、外部パラメータRP、t
Pは、三次元空間において任意に設定された原点に対して、投影部110が存在する位置
や、投影部110が画像を投影する方向などを表す。
外部パラメータRP、tPをさらに説明する。図7(a)および図7(b)は、内部パラ
メータAPを説明する模式的平面図である。図7(a)は、レンズの光軸が表示素子の中
心と一致している場合を例示する模式的平面図である。図7(b)は、レンズの光軸が表
示素子の中心からy方向にずれている場合を例示する模式的平面図である。なお、図7(
a)および図7(b)は、yz平面における模式的平面図である。図8は、外部パラメー
タRP、tPを説明するための図である。
おいて、レンズ121の光軸121aと対象物353の端部353aとの間の距離Y、レ
ンズ121の光軸121aと投影像133の端部133aとの間の距離y、レンズ121
と対象物353との間の距離Z、および焦点距離fについては、次の式が成り立つ。
素子131の中心131aと一致しているため、表示素子131上の投影像133のy座
標y’については、次の式が成り立つ。
座標(cx,cy)は、(0,0)となる。つまり、cx=0およびcy=0が成り立つ
。一方で、図7(b)に表した例では、レンズ121の光軸121aが表示素子131の
中心131aからy方向にずれている。そのため、表示素子131上の投影像133のy
座標y’については、次の式が成り立つ。
y座標cyについては、cy=0が成り立たない。つまり、レンズ121の光軸121a
と、表示素子131の(画素)中心の位置と、に応じて座標cyは、0以外の値となる。
レンズ121の光軸121aが表示素子131の中心131aからx方向にずれている場
合には、レンズ121の光軸121aに対する表示素子131の中心131aの位置のx
座標cxについては、cx=0が成り立たない。内部パラメータAPは、次の式で表され
る。
表示素子131の中心131aの位置の座標(cx,cy)を表す。式(14)の中のf
x、fyは、画素単位で表されるレンズ121の焦点距離fx、fyを表す。式(14)
に表したように、内部パラメータAPは、レンズ121の光軸121aに対する表示素子
131の中心131aの位置の座標(cx,cy)と、画素単位で表されるレンズ121
の焦点距離fx、fyと、を含むパラメータである。
行移動を表すパラメータである。外部パラメータtPに関する行列は、投影点の位置を原
点とするための並進行列tである。図8に表した例では、並進行列tは、次の式で表され
る。
タRPに関する行列は、投影方向を表すベクトルVがZ軸となるように座標を変換するた
めの回転行列Rである。回転行列Rは、次の式で表される。
面351の座標を、投影点の位置を原点とし投影方向をz軸とした投影部110の座標に
変換するための変換行列を表す。なお、回転行列の例として、座標(x,y,z)をx軸
まわりに角度αだけ回転させる回転行列Rxは、次の式で表される。
05を算出している。そのため、投影面351を形成する各点の三次元座標は既知である
。そのため、投影面351を形成する全ての点について、投影される出力画像の画素の座
標を式(6)により算出する。
法を説明する。ここで、観察画像の画素の座標をme=(xe,ye)と表し、投影面3
51において座標me=(xe,ye)に対応する位置の三次元座標をM=(Xs,Ys
,Zs)と表す。観察画像の画素me=(xe,ye)と、投影面351上の三次元座標
M=(Xs,Ys,Zs)と、の間の関係式は、次の式の通りである。
る際の透視投影行列である。つまり、算出部203は、投影面351上の点の三次元座標
に対応する観察画像の画素の座標を算出する処理において透視投影変換を実行する。本実
施形態においては、視点からカメラなどの撮影装置を用いて投影面351を観察すること
を想定するため、透視投影行列Peは、撮影装置の内部パラメータおよび外部パラメータ
で決定される。内部パラメータおよび外部パラメータの詳細は、投影部110の透視投影
行列PPの場合と同様であり、事前にキャリブレーションによって求めることが可能であ
る。
応する入力画像上の画素の座標(xp,yp)と、座標(Xs,Ys,Zs)の投影面3
51上の点に対応する観察画像上の画素の座標(xe,ye)と、を得ることにより、入
力画像上の画素の座標(xp,yp)と、観察画像上の画素の座標(xe,ye)と、の
間の対応関係を求めることができる。図6の例では、出力画像上の画素102に対応する
のは観察画像104上の画素191であり、出力画像上の画素190に対応するのは観察
画像104上の画素106である。
従って、出力画像と式(6)および式(17)によって、推定画像を得ることができる。
)との間に対応が求められない場合について図9を用いて説明する。図9(a)は、投影
面と投影点と視点の関係の一例を示す図である。図9(b)は、投影面と投影点と視点の
関係の他の例を示す図である。
(xp,yp)が投影範囲505に含まれる点(Xs,Ys,Zs)に投影される場合を
考える。出力画像は、投影面503の投影範囲504に投影される。投影範囲504のう
ち視点に近い一部分は、視点から遠い他の部分よりも視点側に凸である。
は影になる。投影範囲505は、投影面503のうち凹凸の境界にある範囲である。
ことは出来ない。従って、視点502における観察画像において出力画像の画素(xp,
yp)に対応する画素を求めることは出来ない。すなわち、視点502で観察される画像
は、入力画像の画素情報の一部が欠損することとなる。
が投影面503の一部である投影範囲508に含まれる点(Xs,Ys,Zs)に投影さ
れる場合を考える。出力画像は投影面506の投影範囲507に投影される。ここで、投
影範囲507の一部である投影範囲508に含まれる点(Xs,Ys,Zs)は、距離セ
ンサ111が距離を計測できないものとする。
とが出来ない場合がある。鏡面領域に当たった光は距離センサ111の受光部111bへ
進まずに、投光部111aに戻るためである。また、投影面上に反射率の著しく低い領域
が存在すると、投光部111aからの光が投影面において反射されにくいので、受光部に
十分な量の光が進まない。従って、距離センサ111によって反射率が低い領域の距離を
測定することが困難な場合がある。
が不明であるため、出力画像の画素の座標(xp,yp)との対応関係は求められない。
その結果、出力画像の画素の座標(xp,yp)が投影される投影面上の点を求めること
ができない。従って、視点502の位置に関わらず、投影面506上に投影された像は、
出力画像の画素情報の一部が欠損することとなり、観察画像も、出力画像の一部が欠損す
る。このように、推定画像は、出力画像の一部が欠損する場合がある。
した視点が広がりを持つ範囲として設定されている場合は、視点範囲内の当該視点のイン
デックスをiとして、当該視点における誤差D(i)は式(19)のように表すことが出
来る。
であり、任意に設定される。
jは出力画像の画素を表すインデックス(1≦j≦N)である。Nは出力画像に含まれる画
素数である。I、j、N、Mはいずれも自然数である。
なお、出力画像の画素(xp,yp)に対応する推定画像の画素(xe,ye)が求めら
れない場合は、ずれ量dを、予め定めたずれ量の最大値dmaxと設定する。ずれ量の最
大値dmaxは、例えば、図6の例では、画面内の最長距離である8(=22+22)を
設定することが出来る。また、視点範囲内に含まれるすべての視点位置(1≦i≦L)に関
して求められる誤差D(i)のうち、値が最大となる誤差D(i)をその視点範囲におけ
る代表誤差Doutとしてもよい。
る誤差量を表す基準誤差Dthとから、投影対象(投影面)が画像を投影するのに適切かど
うかを表す適切度Rlv(投影適切度207)を式(21)に従って算出する。
適さないことを示している。算出部103は、適切度Rlvをとして生成部204に送る
。
る位置ずれも欠損もない領域の面積の割合で表わされる。例えば、位置ずれも欠損もなく
観察画像が観察された場合には、投影適切度207は100パーセントである。あるいは
、投影適切度207は、ランクで表わされても良い。
S203)。
)。
では、投影画像の右上に補助情報ウィンドウ601が表示され、ウィンドウ601内に投
影適切度207の値が表示されている。ウィンドウ601内における投影適切度の表示方
法はこの限りではない。補助情報は、図10(c)、(d)、(e)に示すように、投影
適切度は、メータを表す図形を用いて表されてもよい。また、投影適切度が十分でない場
合には、図10(b)に示すように、補助情報は、投影適切度207の値に加えて出力画
像を別の場所に投影するように示唆する情報を含んでもよい。
0が図示しない音出力部を有し、生成部105から送られる投影適切度に応じた補助情報
によって音出力部が音を鳴らしてもよい。
に入力されて投影部110に送られ、出力画像が生成される。この出力画像は、補助情報
を含まない。出力画像は、投影部110によって投影面に投影される。投影部110に形
成された像は、視点位置から観察された場合に、位置ずれや画素情報の欠損が少なく、出
力画像に近い。
簡便に知ることが可能である。本実施の形態によれば、ユーザは、投影部の位置や向きと
投影面と視点位置とによって定められる投影環境が画像の投影に適しているのか、あるい
は投影環境を変更した方がよいのかを簡単に知ることが可能である。
本発明の第2の実施形態について説明する。本実施形態においては、出力画像に含まれ
る複数の小領域に対して投影適切度207が生成される。すなわち、投影面に含まれる複
数の領域それぞれについて投影適切度207が算出される。算出部203は、投影適切度
207を、出力画像に含まれる複数の小領域毎に算出して生成部204に送る。投影適切
度207は、出力画像に含まれる小領域が投影される投影面上の領域が、投影に適切かど
うかを表す。生成部204は、各小領域の補助情報を生成する。以下、算出部203、生
成部204について詳細に説明する。
る。Mは任意の自然数である。算出部203は、各小領域に含まれる画素について、推定
画像の対応する画素との関係を求める。たとえば、任意のj番目(1≦j≦M、jは自然
数)の小領域jに含まれる画素(xp,yp)に対応する推定画像の画素(xe,ye)
を求め、ずれ量dを算出する。出力画像にN個の画素が含まれ(Nは自然数)、M個の小
領域が均等に画素を有するとすると、1つの小領域に含まれる画素の個数はN/M個にな
る。小領域jにおいては、N/M個の画素それぞれについて、複数のずれ量dが算出され
る。これら複数のずれ量dの合計を、領域jにおける視点位置iの誤差D(i,j)とす
る。
画素(xe,ye)が求められない場合は、出力画像の画素(xp,yp)に対するずれ
量dを、予め定めたずれ量の最大値dmaxと設定する。さらに,視点位置情報206が
視点範囲に関するものである場合には、視点範囲内に含まれる複数の視点位置(1≦i≦
L)に関して誤差D(i,j)を算出する。視点範囲内で求められた誤差D(i,j)の
うち、値が最大となるD(i,j)を領域jにおける視点範囲内の代表誤差Dout(j
)として算出する。
め定めておいた許容できる誤差量を表す基準誤差Dthとから、投影対象(投影面)が画像
を投影するのに適切かどうかを表す適切度Rlv(j)(投影適切度207)を式(23
)に従って算出する。適切度Rlv(j)は、小領域毎に算出される。
する。投影部110は、例えば、入力画像データ101に基づく画像と補助情報を含む出
力画像を生成してもよい。
01に基づく画像に重ねて、投影面上の領域毎の投影適切度を表示した出力画像の例であ
る。出力画像に含まれるすべての小領域の投影適切度が表示されてもよい。隣接する複数
の小領域が同じまたは近しい投影適切度有する場合は、それらの小領域をまとめた領域に
ついて、投影適切度の平均値が表示されてもよい。
度よりも高い場合は、投影部110の投影方向がこの一領域に向くように、あるいは投影
方向がこの他の領域から離れるように示唆する情報を補助情報は含んでもよい。この一領
域と隣接しこの他の領域から遠く、投影像のない領域は、投影適切度が高い可能性が高い
ためである。
簡便に知ることが可能である。本実施の形態によれば、ユーザは、投影部の位置や向きと
投影面と視点位置とによって定められる投影環境が画像の投影に適しているのか、あるい
は投影環境を変更した方がよいのかを簡単に知ることが可能である。
本発明の第3の実施形態について説明する。本実施の形態は、投影面の形状情報205
と視点位置情報206と投影点情報210に従って、入力画像データ101を補正した補
正画像データ302を生成する補正部301を新たに備える。算出部203は、補正画像
データ302を投影部110から投影する場合の投影適切度207を算出する点が第1の
実施形態と異なる。以下、補正部301、算出部203について詳細に説明する。
しその投影された画像を観察する場合、投影点と視点が一致しない限り、視点で観察され
る画像(観察画像)は出力画像に対して歪む。補正部301は、観察画像において入力画
像データ101から生成される画像に対する歪が発生しないように、入力画像データ10
1を補正した補正画像データ302を生成する。
a)と図13(b)は、投影部と撮影装置と投影面の関係の一例を示す模式図である。図
13(a)に表したように、投影部110が投影面351に第1画像を投影し、撮影装置
370が投影面351に投影された第2画像(観察画像)を撮影することを考える。ここ
で、第1画像の一画素の座標をmpと表し、投影面351において座標mpに対応する位
置の三次元座標をMと表し、さらに投影面351の三次元座標Mに対応する第2画像の一
画素の座標をmC1と表すとする。投影部110の透視投影行列PPと、撮影装置370
の透視投影行列PCと、を用いると、画素の位置mpと、画素の位置 mC1と、の間の
関係は、式(6)と式(17)を用いて、式(24)のように表される。
像を投影し、投影部110が仮想的に投影面351に投影された第4画像を撮影すること
を考える。仮想的な第3画像の位置mpの画素に対応する仮想的な第4画像の画素の位置
をmC2とする。画素の位置mpと、画素の位置mC2と、の間の関係は、次の式のよう
に表される。
置で撮影される第2画像の第1画像に対する歪みは、撮影装置370の位置から仮想的に
投影され投影部110の位置で仮想的に撮影される第4画像の第3画像に対する歪みの逆
歪みであることがわかる。従って、次の式(式(26))に示すように、撮影装置370
の位置から仮想的に投影され投影部110の位置で仮想的に撮影される第4画像を、投影
部110の位置から投影し(すなわちmp=mc2とする)、撮影装置370の位置で観
察すれば、歪みはキャンセルされる。すなわち、視点位置において幾何的な歪みを抑えた
観察画像が観察される。
の実施形態に係る画像投影装置を表すブロック図である。図15は、第3の実施形態に係
る情報処理方法を説明するフローチャート図である。図15におけるS211は、図2に
おけるS201と同じである。
投影することで、基準視点から投影面351を観察したときの歪みを抑えた画像表示を行
う。補正部301は、入力画像データ101から補正画像データ302を生成し、投影部
110に送る(S212)。
投影部から投影面に投影する際に、視点において観察される観察画像の出力画像に対する
画素位置のずれと画素情報の欠損(歪・欠損情報) を推定し、当該投影面の投影適切度2
07を算出する。
置のずれ(歪)が発生しないように形状が補正されている。投影面の形状、視点の位置、投
影点の位置の関係によっては、図8に示したように、観察画像において出力画像の画素情
報が一部欠落している可能性がある。そのため、まず、投影部から投影する画像が何であ
れ、投影面に投影された画像を基準視点から観察した時に発生する画素の欠損を調査する
。具体的には数式(9)と数式(20)によって求めた出力画像の画素に対応する観察画
像の画素を算出し、観察画像に対応する画素が存在しない出力画像の画素を欠損画素とし
て定義する。欠損画素に関しては、歪量が予め定めた値dmaxと設定する。以上により
、投影する映像の種類によらず、投影点から投影面に投影した画像を視点から観察した時
に、欠損する情報を評価することが出来る。観察画像において原画像に対して欠損する画
素に関して歪量dmaxを足し合わせた値を欠損情報D1とする。
に投影面に投影された映像を観察した時の観察画像の出力画像に対する画素位置のずれと
画素情報の欠損(歪・欠損情報)を推定する。視点取得部202において、取得された視点
位置が基準視点1点のみである場合は、基準視点における欠損情報を示す第1の評価情報
のみをもとに投影面の適切度を算出すればよい。視点位置として広がりを持った範囲が取
得された場合は、この範囲に含まれる各視点位置から投影面に投影された画像を観察した
時の歪・欠損情報を評価する必要がある。ここで、本実施の形態では、基準視点位置から
見て観察画像の入力画像に対する画素位置のずれ(歪)が発生しないように補正画像を生
成しているため、基準視点位置以外の視点位置から投影面に投影された補正画像を観察し
た時に発生する出力画像に対する歪・欠損情報は、基準視点から仮想的に投影面に出力画
像を投影し、仮想的に周囲の別の視点から投影面を観察した時に観察される画像の出力画
像に対する歪・欠損情報を推定することで求められる。このことを踏まえて、基準視点以
外の複数の視点に関して式(22)に従って、歪・欠損情報を推定し、求められた歪・欠
損情報のうち視点範囲の中で最大の値を歪情報D2として設定する。
歪・欠損量Dout=D1+D2として設定し、この値に基づいて式(23)に従って投
影適切度Rlvを算出する(S213)。なお、視点情報が、広がりをもった範囲ではな
くある1点で観察すると設定されている場合は、欠損情報D1のみを歪・欠損量Dout
として設定し、投影適切度Rlvを算出してもよい。また、視点情報が広がりをもつ範囲
である場合は、歪情報D2のみを歪・欠損量Doutとして設定し、投影適切度Rlvを
算出してもよい。この場合は、基準視点における観察画像において、原画像に対する画素
情報の欠落が無いことを前提としている。以上より、算出部203は算出した投影適切度
207を生成部204に送る。生成部204は第1または第2の形態と同様に補助情報を
生成し、補助情報208を投影部110に送る(S214)。投影部110は、補助情報
208を合わせて投影面に投影する。投影部110は、補助情報208に加えて補正画像
も表示しても良い(S215)。
うかを簡便に知ることが可能である。本実施の形態によれば、投影面の形状、視点位置、
投影面の位置を取得し、視点位置における観察画像の原画像に対する歪と欠落を推定し、
歪と欠落を表す情報から、投影面が画像に適しているかどうか、ならびに投影に適さない
場合はどちらの方向に投影すべきかを表す情報を補助情報としてユーザに提示するので、
ユーザは、現在置かれている投影環境が適しているのか、投影環境をどう変更すべきかを
簡単に知ることが可能である。
本発明の第4の実施形態について説明する。本実施の形態は、第1の実施形態と全体的
な構成は同様であるため、第1の実施例との差分について詳細に説明する。本実施の形態
は、投影面を撮影する撮影部401を新たに備え、算出部203が投影面の投影適切度2
07を、歪・欠損情報だけでなく、投影面の可視情報も用いて算出する点が第1の実施形
態と異なる。図16に本実施形態にかかる画像投影装置の構成図を示す。図16において
は、第3の実施形態に係る画像投影装置に撮影部401を加えた例を示している。以下、
撮影部401、算出部203について詳細に説明する。
10に付属されていて、投影部110から画像が投影されている投影面上の範囲を撮影す
る。撮影部401の撮影に際しては、投影部からパターン画像(画面全体が白い画像)を
投影面に投影する。撮影部は投影面上のパターン画像が投影されている範囲を撮影した撮
影情報402を算出部203へ送る。
402から、当該投影面の歪・欠損情報と可視情報を生成する。算出部203は、第1の
実施例と同様の方法で、式(18)〜式(20)に従って、歪・欠損情報の代表誤差Do
utを算出する。次に、算出部は、撮影画像の画素の座標mcと投影面上の3次元座標M
との対応を求める。
事前にキャリブレーション処理が済んでいて、内部パラメータ、外部パラメータが求めら
れており、透視投影変換行列Pcが既知であるとする。式(6)と式(27)から、撮影
画像の画素の座標mc=(xc、yc)に対応する入力画像(原画像)の画素の座標mP=
(xP、yP)を求め、撮影画像の座標mcにおける画素値C(xc、yc)と入力画像
の座標mPにおける画素値P(xP、yP)とを算出する。画素値C(xc、yc)と画
素値P(xP、yP)との差分をC=|C(xc、yc)‐P(xP、yP)|として、入
力画像中の全画素で算出し、全画素におけるcの和を可視情報の誤差Coutとして算出
する。可視情報の誤差Coutはすなわち投影部からパターン画像を投影した時に、パタ
ーン画像の各画素の値と、パターン画像の各画素に対応する撮影画像の画素値との差分の
和を表している。そのため、投影面の色が白い場合は、可視情報の誤差Coutは値が小
さいが、投影面に色がついていたり、模様がついていたりすると、可視情報の誤差Cou
tの値は大きくなる傾向がある。算出部203は、可視情報の誤差Coutから可視的な
適切度RlvCを算出する。なお、Cthは予め求めておいた許容可能な可視情報の誤差
の上限値を意味する。
な投影適切度Rlvは式(29)に示すように、RlvCとRlvDを重みαを用いてブ
レンディングすることで算出する。形状情報による画質への影響と可視情報による画質へ
の影響の優先度に応じて、重みαを調整して投影面の適切度Rlvを算出することが出来
る。
送る。生成部204は第1〜第3の形態と同様に補助情報208を生成し、補助情報20
8を投影部110に送る。投影部110は、補助情報208を合わせて投影面に投影する
。投影部110は、補助情報208に加えて補正画像も投影面に投影しても良い。
うかを簡便に知ることが可能である。本実施の形態によれば、歪と欠落を表す情報と投影
面の可視的な情報を合わせて評価することで、投影面が画像に適しているかどうかを表す
情報を補助情報としてユーザに提示するので、ユーザは、現在置かれている投影環境が適
しているのか、環境を変更した方がよいのかを簡単に知ることが可能である。
実施形態は、これらの具体例に限定されるものではない。例えば、導光体に含まれる導光
板、プリズム列部、プリズム体、高屈折率層、低屈折率層及び偏向部、並びに、面光源に
含まれる光源などの各要素の具体的な構成に関しては、当業者が公知の範囲から適宜選択
することにより本発明を同様に実施し、同様の効果を得ることができる限り、本発明の範
囲に包含される。
また、各具体例のいずれか2つ以上の要素を技術的に可能な範囲で組み合わせたものも
、本発明の要旨を包含する限り本発明の範囲に含まれる。
宜設計変更して実施し得る全ての導光体及び面光源も、本発明の要旨を包含する限り、本
発明の範囲に属する。
到し得るものであり、それら変更例及び修正例についても本発明の範囲に属するものと了
解される。
部、200…情報処理装置、201…形状取得部、202…視点取得部、203…算出部、204…生成
部、205…形状情報、206…視点情報、207…適切度、208補助情報データ、210…投影点情
報
Claims (8)
- 投影部に接続される情報処理装置であって、
前記投影部からの出力画像が投影される投影面の形状情報と前記投影部の位置に関する
投影点情報とを取得する形状取得部と、
前記投影面を観察する視点位置を示す視点情報を取得する視点取得部と、
前記形状情報と前記投影点情報と前記視点情報とから前記投影面の投影適切度を算出す
る算出部と、
前記投影適切度に基づく補助情報データを生成する生成部と、
を備えた情報処理装置。 - 前記算出部は、前記出力画像が前記投影面に投影される場合に前記視点位置から観察さ
れると推定される推定画像の前記出力画像に対する位置ずれと画素情報の欠損の少なくと
も一方に基づいて、前記投影面が投影に適しているかを示す投影適切度を算出する、請求
項1に記載の情報処理装置。 - 前記視点情報は、一範囲に含まれる複数の視点位置に関する情報である、請求項1また
は2に記載の情報処理装置。 - 前記算出部は、前記複数の視点位置のそれぞれに対応する複数の前記投影適切度を求め
、
前記生成部は、前記複数の投影適切度のうち最小の投影適切度に基づく前記補助情報デ
ータを生成する、請求項3記載の情報処理装置。 - 前記算出部は、前記投影面に含まれる複数の領域それぞれについて前記投影適切度を算
出し、
前記生成部は、前記複数の領域それぞれについて補助情報データを生成する、請求項1乃
至4のいずれか一項に記載の情報処理装置。 - 前記出力画像を生成するための画像データが入力され、前記形状と前記投影点情報と前
記視点情報に基づいて前記画像データを補正した補正画像データを生成する補正部をさら
に備る、請求項1乃至5のいずれか一項に記載の情報処理装置。 - 前記投影面を撮影する撮影部をさらに備え、
前記算出部が、撮影部による撮影画像と前記出力画像が前記投影面に投影される場合に
前記視点位置から観察されると推定される推定画像の前記出力画像に対する位置ずれと画
素情報の欠損の少なくとも一方に基づいて、前記投影面が投影に適しているかを示す投影
適切度を算出する、
請求項1に記載の情報処理装置。 - 請求項1乃至7のいずれか一項に記載の情報処理装置と、
前記投影部と、
を有する投影装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015070389A JP2016192600A (ja) | 2015-03-30 | 2015-03-30 | 情報処理装置および投影装置 |
US15/008,807 US20160295187A1 (en) | 2015-03-30 | 2016-01-28 | Information processing device and projection apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015070389A JP2016192600A (ja) | 2015-03-30 | 2015-03-30 | 情報処理装置および投影装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016192600A true JP2016192600A (ja) | 2016-11-10 |
Family
ID=57016374
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015070389A Pending JP2016192600A (ja) | 2015-03-30 | 2015-03-30 | 情報処理装置および投影装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20160295187A1 (ja) |
JP (1) | JP2016192600A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017169480A (ja) * | 2016-03-23 | 2017-09-28 | オリンパス株式会社 | 観察装置、測定システム及び観察方法 |
JP6780315B2 (ja) * | 2016-06-22 | 2020-11-04 | カシオ計算機株式会社 | 投影装置、投影システム、投影方法及びプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007072695A1 (ja) * | 2005-12-22 | 2007-06-28 | Matsushita Electric Industrial Co., Ltd. | 画像投射装置 |
JP2007288295A (ja) * | 2006-04-13 | 2007-11-01 | Nippon Telegr & Teleph Corp <Ntt> | 観察位置追従式映像提示装置及び観察位置追従式映像提示プログラム,映像提示装置及び映像提示プログラム |
JP2009049862A (ja) * | 2007-08-22 | 2009-03-05 | Seiko Epson Corp | 投射画像の形状歪補正支援システム、投射画像の形状歪補正支援方法、及びプロジェクタ |
JP2010250560A (ja) * | 2009-04-15 | 2010-11-04 | Canon Inc | 画像処理装置およびその方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3951984B2 (ja) * | 2003-08-22 | 2007-08-01 | 日本電気株式会社 | 画像投影方法、及び画像投影装置 |
CN104067268A (zh) * | 2012-04-20 | 2014-09-24 | 惠普发展公司,有限责任合伙企业 | 统一的用户简档 |
-
2015
- 2015-03-30 JP JP2015070389A patent/JP2016192600A/ja active Pending
-
2016
- 2016-01-28 US US15/008,807 patent/US20160295187A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007072695A1 (ja) * | 2005-12-22 | 2007-06-28 | Matsushita Electric Industrial Co., Ltd. | 画像投射装置 |
JP2007288295A (ja) * | 2006-04-13 | 2007-11-01 | Nippon Telegr & Teleph Corp <Ntt> | 観察位置追従式映像提示装置及び観察位置追従式映像提示プログラム,映像提示装置及び映像提示プログラム |
JP2009049862A (ja) * | 2007-08-22 | 2009-03-05 | Seiko Epson Corp | 投射画像の形状歪補正支援システム、投射画像の形状歪補正支援方法、及びプロジェクタ |
JP2010250560A (ja) * | 2009-04-15 | 2010-11-04 | Canon Inc | 画像処理装置およびその方法 |
Also Published As
Publication number | Publication date |
---|---|
US20160295187A1 (en) | 2016-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106127745B (zh) | 结构光3d视觉系统与线阵相机的联合标定方法及装置 | |
JP4917351B2 (ja) | 3次元形状測定装置におけるキャリブレーション方法 | |
US11259696B2 (en) | Imaging of the eye | |
JP2013539147A5 (ja) | ||
US20100315422A1 (en) | Method and apparatus for surface contour mapping | |
JP5633058B1 (ja) | 3次元計測装置及び3次元計測方法 | |
JP2014102246A (ja) | 位置姿勢検出システム | |
KR102276456B1 (ko) | Iid에서 디스플레이 오차를 보정하는 장치 및 방법 | |
JPWO2013038656A1 (ja) | 投影像自動補正システム、投影像自動補正方法およびプログラム | |
US9357191B2 (en) | Image processor, image processing method, and image projector | |
CN105306922A (zh) | 一种深度相机参考图的获取方法和装置 | |
Mahdy et al. | Projector calibration using passive stereo and triangulation | |
CN112102387B (zh) | 一种基于深度相机深度估计性能的测试方法与测试系统 | |
JP5561503B2 (ja) | プロジェクター、プログラム、情報記憶媒体および台形歪み補正方法 | |
US20210183092A1 (en) | Measuring apparatus, measuring method and microscope system | |
JP2016192600A (ja) | 情報処理装置および投影装置 | |
CN109945840B (zh) | 三维影像摄取方法及系统 | |
RU2579532C2 (ru) | Оптико-электронный стереоскопический дальномер | |
JP5727969B2 (ja) | 位置推定装置、方法、及びプログラム | |
JPWO2009107365A1 (ja) | 複眼測距装置の検査方法及び検査装置並びにそれに用いるチャート | |
JP2019207127A (ja) | レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置 | |
JP2006300656A (ja) | 画像計測方法、装置、プログラム及び記録媒体 | |
EP3001141B1 (en) | Information processing system and information processing method | |
JP7397734B2 (ja) | 測距システム、測距方法及び測距プログラム | |
KR102591844B1 (ko) | 미러를 이용한 카메라 캘리브레이션 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20170220 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20170522 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171205 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180731 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180827 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190402 |