JP2006059202A - 撮像装置及び画像補正方法 - Google Patents
撮像装置及び画像補正方法 Download PDFInfo
- Publication number
- JP2006059202A JP2006059202A JP2004241656A JP2004241656A JP2006059202A JP 2006059202 A JP2006059202 A JP 2006059202A JP 2004241656 A JP2004241656 A JP 2004241656A JP 2004241656 A JP2004241656 A JP 2004241656A JP 2006059202 A JP2006059202 A JP 2006059202A
- Authority
- JP
- Japan
- Prior art keywords
- image
- spherical image
- spherical
- camera
- coordinate system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 83
- 238000000034 method Methods 0.000 title claims abstract description 81
- 238000003702 image correction Methods 0.000 title claims abstract description 62
- 238000001514 detection method Methods 0.000 claims abstract description 54
- 239000013598 vector Substances 0.000 claims abstract description 20
- 230000005484 gravity Effects 0.000 claims description 103
- 238000004364 calculation method Methods 0.000 claims description 22
- 238000000605 extraction Methods 0.000 claims description 14
- 230000015572 biosynthetic process Effects 0.000 abstract description 9
- 230000001133 acceleration Effects 0.000 description 26
- 238000010586 diagram Methods 0.000 description 14
- 230000036544 posture Effects 0.000 description 14
- 239000011159 matrix material Substances 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 6
- 230000003068 static effect Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
Images
Landscapes
- Studio Devices (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
【課題】傾きが補正された球面画像を容易に精度良く形成可能な撮像装置及び画像補正方法を提供する。
【解決手段】 撮像装置1は、カメラ10を有し、カメラ10で取得された被写体像16の画像データから球面画像形成手段31が、カメラ10のカメラ座標系Ccで表される球面画像40を形成する。また、撮像装置1は、実空間での重力方向に対するカメラ座標系Ccの傾きを検出する傾き検出センサ50を有し、撮像装置1の画像補正手段32は、この傾き検出センサ50の検出結果に基づいて、カメラ座標系Ccを回転させて球面画像空間での重力ベクトルGsを重力方向と一致させることで、球面画像40の傾きを補正する。
【選択図】図1
【解決手段】 撮像装置1は、カメラ10を有し、カメラ10で取得された被写体像16の画像データから球面画像形成手段31が、カメラ10のカメラ座標系Ccで表される球面画像40を形成する。また、撮像装置1は、実空間での重力方向に対するカメラ座標系Ccの傾きを検出する傾き検出センサ50を有し、撮像装置1の画像補正手段32は、この傾き検出センサ50の検出結果に基づいて、カメラ座標系Ccを回転させて球面画像空間での重力ベクトルGsを重力方向と一致させることで、球面画像40の傾きを補正する。
【選択図】図1
Description
本発明は、移動ロボット等に好適に利用される撮像装置及び画像補正方法に関するものである。
カメラで撮像した被写体像を、仮想球体の表面上に投影した画像は、球面画像として知られる。この球面画像は、カメラ周囲の情景を表示することができる結果、地上の障害物の回避や場所の同定などの種々のタスクを有する移動ロボットのナビゲーションシステムや、街のワークスルー(Walk through)のコンテンツ作製などへの応用が期待されている。
ところで、球面画像は、カメラを中心としたカメラ座標系で表示されるので、カメラの姿勢が変化してカメラが重力方向に対して傾くと、それに応じて球面画像も傾く。その結果、同じ被写体を違う時刻に撮影した場合や、車にカメラを取り付けて移動しながら街を撮影した場合等に、撮影毎にカメラの姿勢が変化すると、得られた球面画像毎の対応関係が取りにくい。そこで、例えば、非特許文献1では、フーリエ変換に基づいたフーリエ位相相関法を適用することで、実空間の3次元座標系が有する3つの軸からのカメラ座標系の回転角をそれぞれ求めて、球面画像の傾きを補正する手法が開示されている。
A. Makadia and K. Daniilidis, "Direct 3D-Rotation Estimation from Spherical Images via a generalized shift theorem," Proc. of Conf. on Computer Vision and Pattern Recognition(CVPR) , pp217-224, 2003.
A. Makadia and K. Daniilidis, "Direct 3D-Rotation Estimation from Spherical Images via a generalized shift theorem," Proc. of Conf. on Computer Vision and Pattern Recognition(CVPR) , pp217-224, 2003.
しかしながら、非特許文献1に記載の技術では、球面画像の傾き補正をするための計算が煩雑であると共に計算に時間を要するため、容易に傾きが補正された球面画像を形成することができないという問題点や、3つの軸に対する回転角を計算で算出すると、算出過程で誤差が累積するため傾き補正の精度が悪くなるという問題点がある。
そこで、本発明は、傾きが補正された球面画像を容易に精度良く形成可能な撮像装置及び画像補正方法を提供することを目的とする。
上記課題を解決するために、本発明に係る撮像装置は、カメラと、カメラで取得された被写体像の画像データからカメラのカメラ座標系で表される球面画像を形成する球面画像形成手段と、実空間での重力方向に対するカメラ座標系の傾きを検出する傾き検出センサと、傾き検出センサの検出結果に基づいて、カメラ座標系を回転させて球面画像空間での重力ベクトルを重力方向と一致させることで、球面画像の傾きを補正する画像補正手段と、を備えたことを特徴とする。
この撮像装置では、カメラによって取得された被写体像を、球面画像形成手段によって、カメラ座標系で表示される球面画像に変換する。また、カメラで被写体像を取得しているときに、重力方向に対するカメラ座標系の傾きを傾き検出センサで検出する。そして、画像補正手段が、傾き検出センサの検出結果に基づいてカメラ座標系を回転させて、球面画像空間での重力ベクトルと実空間での重力方向とを一致させる。
これにより、例えば、撮影毎にカメラの姿勢が変化した場合でも、球面画像の対応関係が取りやすくなる。また、傾き検出センサの検出結果を利用して球面画像の傾きを補正しているので、球面画像の傾き補正を容易に実施することができる。更に、傾き検出センサの検出結果を利用しているため、精度良く傾きを補正することができる。
また、本発明に係る撮像装置のカメラは、画角が180度以上の魚眼レンズを有し、魚眼レンズによって結像された被写体像を取得することが好ましい。この場合、魚眼レンズを利用しているため、カメラを中心とした周囲360度のうち上記画角に含まれる領域の被写体像を一度に取得することができる。その結果、例えば、地上の傷害物の回避や場所の同定など種々のタスクに対応するため広い視野が要求される移動ロボットへの利用や、街のワークスルーのコンテンツ作製に有効である。
更に、本発明に係る撮像装置のカメラは、外光が入射する面が互いに反対側に位置するように配置されており画角が180度以上の一対の魚眼レンズを有し、カメラは、一対の魚眼レンズでそれぞれ結像された一対の被写体像を一度に取得し、球面画像形成手段は、一対の被写体像に基づいて、カメラの周囲360度の情景が投影された球面画像を形成することが好適である。この場合、カメラで一度撮像することでカメラを中心とした全方位の情景が投影された球面画像を得ることができる。そのため、この場合も、広い視野が要求される移動ロボットへの利用や、街のワークスルーのコンテンツ作製に有効である。
更にまた、本発明に係る撮像装置の傾き検出センサは、カメラ座標系の傾きとして、重力方向を重力参照軸として有する3次元座標系での重力参照軸に直交する2つの軸に対するカメラ座標系の第1及び第2の回転角をそれぞれ検出し、画像補正手段は、3次元座標系の2つの軸それぞれに対応するカメラ座標系の第1及び第2の軸周りにカメラ座標系を第1及び第2の回転角に基づいて回転させることで球面画像の重力方向に対する傾きを補正する傾き補正部を有することが好ましい。
この場合、カメラ座標系が、傾き検出センサで検出された第1及び第2の回転角に基づいて第1及び第2の軸周りに回転されるので、カメラ座標系の他の軸が重力参照軸と一致する。その結果、カメラ座標系の重力参照軸に対する傾きが確実に補正される傾向にある。
また、本発明に係る撮像装置において画像補正手段は、傾き検出センサのセンサ座標系に対するカメラ座標系の傾きを校正する校正部を有することが好ましい。これにより、カメラと傾き検出センサとが重力方向に対して互いに異なる方向に傾いていても、その傾きは校正部によって校正されるので、傾き検出センサの検出結果に基づいてカメラ座標系の傾きを回転させることで、球面画像の重力方向に対する傾きを確実に補正できる傾向にある。
また、本発明に係る撮像装置における画像補正手段は、傾きが補正された球面画像として第1球面画像と第2球面画像とが形成された場合、第1球面画像と第2球面画像とに対してフーリエ位相相関法を適用することによって、第1球面画像に対する第2球面画像の重力方向周りの第3の回転角を算出する回転角算出部と、第3の回転角に基づいて第2球面画像を重力方向周りに回転させることで第1球面画像に対する第2球面画像の重力方向周りの回転を補正する回転補正部と、を更に備えることが好ましい。
この場合、回転角算出部がフーリエ位相相関法を利用して算出した第3の回転角に基づいて、回転補正部が、第2球面画像を重力方向周りに回転させる結果、第1球面画像を表示するカメラ座標系と第2球面画像を表示するカメラ座標系とがほぼ一致する。その結果、第1球面画像と第2球面画像との視点が揃い画像間の対応関係が更に取りやすくなる。
また、本発明に係る撮像装置における画像補正手段は、球面画像が有する上半球面画像を抽出する画像抽出部を有し、回転角算出部は、画像抽出部によって第1球面画像から抽出された第1上半球面画像と第2球面画像から抽出された第2上半球面画像とに対してフーリエ位相相関法を適用して第3の回転角を算出することが好ましい。
球面画像は、カメラ座標系で表示されているため、球面画像空間での重力ベクトルと実空間での重力方向とが一致していると、上半球面画像には、地平線(horizon)より上方に位置する静的なもの(例えば、空や建物などの上部)が表示されやすい。そのため、第1上半球面画像と第2上半球面画像とに対してフーリエ位相相関法を適用した場合に、カメラの回転に伴う回転角のみが算出される傾向にある。その結果、より正確に第3の回転角を算出することができる。
更に、本発明に係る撮像装置においては、球面画像から、中心射影によって球面画像の中心を焦点とする平面画像を形成する平面画像形成手段を更に有することが好適である。この場合、球面画像が中心射影によって平面画像が形成されるので、任意の視点の平面画像を得ることができる。
また、本発明に係る画像補正方法は、カメラによって被写体像を取得する被写体像取得工程と、カメラで取得された被写体像を、カメラのカメラ座標系で表される仮想球体の表面に投影して球面画像を形成する球面画像形成工程と、実空間での重力方向に対するカメラ座標系の傾きを検出する傾き検出工程と、傾き検出工程で検出された検出結果に基づいて、球面画像空間での重力ベクトルが重力方向と一致するようにカメラ座標系を回転させることで球面画像の重力方向に対する傾きを補正する第1の画像補正工程と、を備えたことを特徴とする。
この場合、被写体像取得工程でカメラによって取得された被写体像が、球面画像形成工程で球面画像に変換される。また、傾き検出工程で、重力方向に対するカメラ座標系の傾きが、傾き検出センサで検出される。そして、その検出結果に基づいて、第1の画像補正工程において、カメラ座標系を回転させることで球面画像空間での重力ベクトルと実空間での重力方向とを一致させる。これにより、例えば、撮影毎にカメラの姿勢が変化した場合でも、球面画像の対応関係が取りやすくなる。また、傾き検出センサの検出結果を利用して球面画像の傾きを補正しているので、球面画像の傾き補正を容易に実施することができる。更に、傾き検出センサの検出結果を利用しているため、精度良く傾きを補正することができる。
また、本発明に係る画像補正方法の被写体像取得工程において、カメラは、画角が180度以上の魚眼レンズによって被写体像を取得することが好ましい。魚眼レンズを利用しているため、カメラを中心とした周囲360度のうち上記画角に含まれる領域の被写体像を一度に取得することができる。その結果、例えば、地上の傷害物の回避と場所の同定など種々のタスクに対応するため広い視野が要求される移動ロボットへの利用や、街のワークスルーのコンテンツ作製に有効である。
更に、本発明に係る画像補正方法では、被写体像取得工程において、カメラは、外光が入射する面が互いに反対側に位置するように配置されており画角が180度以上の一対の魚眼レンズによって結像された一対の被写体像を一度に取得し、球面画像形成工程において、一対の被写体像からそれぞれに対応する半球面画像を形成し、それらを結合してカメラの周囲360度の情景が投影された球面画像を形成することが好適である。
この場合、カメラで一度撮像することでカメラを中心とした全方位の情景が投影された球面画像を得ることができる。そのため、この場合も、移動ロボットへの利用や、街のワークスルーのコンテンツ作製に有効である。
更にまた、本発明に係る画像補正方法の傾き検出工程において、傾き検出センサは、重力方向を重力参照軸として有する3次元座標系での重力参照軸に直交する2つの軸に対するカメラ座標系の第1及び第2の回転角をそれぞれ検出し、第1の画像補正工程において、3次元座標系の上記2つの軸それぞれに対応するカメラ座標系の第1及び第2の軸周りにカメラ座標系を第1及び第2の回転角に基づいて回転させることによって、球面画像の重力方向に対する傾きを補正することが好適である。
この場合、カメラ座標系が、傾き検出センサで検出された第1及び第2の回転角に基づいてそれぞれ第1及び第2の軸周りに回転されることで、カメラ座標系の他の軸が重力参照軸に一致する。その結果、カメラ座標系の重力参照軸に対する傾きが確実に補正される傾向にある。
また、本発明に係る画像補正方法は、傾き検出センサのセンサ座標系に対するカメラ座標系の傾きを校正する校正工程を備え、第1の画像補正工程において、校正工程で校正されたカメラ座標系を回転させることで球面画像の重力方向に対する傾きを補正することが好適である。この場合、校正工程でセンサ座標系に対するカメラ座標系の傾きが校正され、その校正されたカメラ座標系を傾き検出センサの検出結果に応じて回転させるので、確実にカメラ座標系の傾きを補正することができる。
更にまた、本発明に係る画像補正方法では、第1の画像補正工程によって傾きが補正された球面画像として第1球面画像と第2球面画像とが形成された場合、第1球面画像と第2球面画像とに対してフーリエ位相相関法を適用することによって、第1球面画像に対する第2球面画像の重力方向周りの第3の回転角を算出する回転角算出工程と、第3の回転角に基づいて第2球面画像を重力方向周りに回転させることで第2球面画像の第1球面画像に対する重力方向周りの回転を補正する第2の画像補正工程と、を更に備えたことが好ましい。
この場合、回転角算出工程において、フーリエ位相相関法を利用して算出した第3の回転角に基づいて、第2の画像補正工程で、第2球面画像を重力方向周りに回転させる結果、第1球面画像のカメラ座標系と第2球面画像のカメラ座標系とがほぼ一致する。その結果、第1球面画像と第2球面画像との対応関係が更に取りやすくなる。
更にまた、本発明に係る画像補正方法においては、第1球面画像が有する第1上半球面画像を抽出すると共に、第2球面画像が有する第2上半球面画像を抽出する画像抽出工程を有し、回転角算出工程において、画像抽出工程で抽出された第1上半球面画像と第2上半球面画像とに対してフーリエ位相相関法を適用することが好ましい。
球面画像は、カメラを中心としたカメラ座標系で表示されているため、球面画像空間での重力ベクトルと実空間での重力方向とが一致していると、上半球面画像には、地平線より上方に位置する静的なもの(例えば、空や建物などの上部)が表示されやすい一方、車や人など動的なものが表示されにくい傾向にある。そのため、第1上半球面画像及び第2上半球面画像に対してフーリエ位相相関法を適用した場合に、カメラの回転に伴う回転角のみが算出される傾向にある。その結果、より正確に第3の回転角を算出することができる。
更にまた、本発明に係る画像補正方法は、球面画像から中心射影によって球面画像の中心を焦点とする平面画像を形成する平面画像形成工程を更に備えることが好適である。この場合、球面画像から中心射影によって平面画像が形成されるので、より見やすい画像を取得することができる。
本発明の撮像装置によれば、傾きが補正された球面画像を容易に精度良く形成することができる。また、本発明の画像補正方法によれば、球面画像の傾きを容易に精度よく補正することができる。
以下、図を参照して本発明の撮像装置及び画像補正方法の好適な実施形態について説明する。なお、以下の説明においては、同一の要素には同一の符号を用いることとし重複する説明は省略する。
図1は、本発明に係る撮像装置の一実施形態の構成を示すブロック図である。撮像装置1は、カメラ10を有し、カメラ10で取得された被写体像に基づいて、カメラ10を中心した全方位の情景が投影された球面画像を形成する。そのため、撮像装置1は、例えば、傷害物の回避や場所の同定などのために広い視野を要する移動ロボットや、街のワークスルーのコンテンツ作製等に好適に利用される。
撮像装置1のカメラ10は、一対の魚眼レンズ11,12と、各魚眼レンズ11,12で結像された被写体像を取得する像取得部13とを備え、台20上に配置されている。各魚眼レンズ11,12の画角w(図2参照)は185度であって、等距離射影方式で被写体像を結像する。そして、魚眼レンズ11,12の入射面11a,12bは、互いに反対側に位置すると共に、各魚眼レンズ11,12の光軸L1,L2は略一致している。このような魚眼レンズ11,12の配置によって、図2に示すように、各魚眼レンズ11,12で結像され像取得部13で取得された被写体像を合わせると、カメラ10を中心とした全方位の情景の被写体像をほぼ取得できることになる。なお、図2に示したハッチングは、魚眼レンズ11,12の視野領域を模式的に示すものである。
また、図1に示すように、各魚眼レンズ11,12で結像された一対の被写体像を取得する像取得部13は、各魚眼レンズ11,12の像面に受光面を有する撮像素子13A,13Bを有し、撮像素子13Aと魚眼レンズ11とは、第1の撮像部14を構成し、撮像素子13Bと魚眼レンズ12とは、第2の撮像部15を構成している。各撮像素子13A,13Bは、例えば、CCDカメラであり、像取得部13は、図3に示すように、撮像素子13A,13B上に結像された被写体像16,17を、画像データとして同時に取得する。撮像素子13A,13Bで取得された被写体像16,17の画像データは、撮像装置1の一部を構成する画像形成手段30に入力される。
図1に示すように、画像形成手段30は、CPUなどを備えたいわゆるコンピュータであり、撮像素子13A,13Bからの被写体像16,17の画像データに基づいて球面画像を形成する球面画像形成部(球面画像形成手段)31を有している。球面画像形成部31は、被写体像16,17を一度半球面画像に変換した後、それらを結合して球面画像を形成する。
図4を利用して、被写体像を半球面画像に変換する方法について説明する。図4(a)は魚眼レンズの結像特性を説明するための図であり、魚眼レンズが中心Oに位置しており、魚眼レンズの視野内の点Pi(iは任意の整数)からの外光が魚眼レンズに入射している状態を示している。説明を簡便化するため、図4に記載の魚眼レンズの画角wは180度としている。
図4(b)は、魚眼レンズの像面Qを示す図である。等距離射影方式の魚眼レンズでは、図4(a)に示す点Piは、図4(b)の像面Qにおいて、位置座標(ri,φi)で表される点qiに投影される。すなわち、魚眼レンズの焦点距離をfしたときに、点Piは、X軸からの方位角φiは変化せずに、画像中心OIからの距離riが次の式で表される点qiに投影される。
この(式1)より、
が成り立つ。
そこで、図4(c)に示すように、画像中心OIを原点とし、その原点を中心とした単位半径の仮想の半球体SHを考えると、qiに相当する半球体SHの表面上の点piは、
と表される。この点piは、点Piの半球体SH上への投影点に対応する。したがって、式(3)は、被写体像を構成している各画素(すなわち、点qi)の位置座標を特定することによって被写体像を半球面画像に変換することができることを示している。
そして、球面画像形成部31(図1参照)は、上記のようにして、各魚眼レンズ11,12で結像された被写体像16,17から変換された各半球面画像を結合することによって、1つの球面画像を形成する。
2つの半球面画像を結合する場合には、半球面画像の画像中心、魚眼レンズ11,12の焦点距離、及び、第1及び第2の撮像部14,15の相対姿勢などのカメラパラメータが校正されていることが好ましい。カメラ10は、前述したカメラパラメータが次に説明する校正方法で校正されているものとする。以下の説明のために、魚眼レンズ11,12にそれぞれ対応する画像中心をO1,O2とし、焦点距離をf1,f2とする。
魚眼レンズ11,12は、画角wが185度であることから、実空間の被写体に含まれる平行線群の一対の消失点が、被写体像16,17中に現れる。そのため、少なくとも2つの消失点対の交点として各画像中心Oj(jは1又は2)を校正する。なお、各画像中心O1,O2は、光軸L1,L2上に位置するので、画像中心O1,O2の校正は、光軸L1,L2に直交する面内における魚眼レンズ11,12の各焦点の位置の校正に相当する。
そして、各魚眼レンズ11,12で結像された被写体像16,17内の一対の消失点間の距離をπで除することで、各魚眼レンズ11,12の焦点距離fk(kは1又は2)を算出する。次に、上記のようにして求められた第1及び第2の撮像部14,15に対応する画像中心Oj及び焦点距離fkに基づいて、各被写体像16,17をそれぞれ半球面画像に変換する。そして、各半球面画像に含まれている、実空間での水平線に略平行な直線群に対する消失点と、その水平線に直交する直線に略平行な直線群の消失点とに基づいて、2つの半球面画像を表示する座標系間の変換行列を算出する。この変換行列が、2つの半球面画像を表示する座標系間の相対姿勢に相当する。
次に、魚眼レンズ11,12の画角wが185度であることから、2つの半球面画像に重複している画像領域があることを利用して、上述のようにして算出された焦点距離fk及び変換行列を更に校正する。
以上のようにして、校正された画像中心Oj、焦点距離fk及び2つの半球面画像間の相対姿勢に基づいて、球面画像形成部31は、2つの半球面画像を形成すると共に、それらを結合して、図5に示すように、1つの球面画像40を形成する。この球面画像40は、2つの半球体SHが結合されてなる1つの仮想球体Sの表面に、魚眼レンズ11,12で結像された被写体像が投影されたものであり、球面画像40は、カメラ10を中心としたカメラ座標系Ccで表示される。
このカメラ座標系Ccは、カメラ10が有する魚眼レンズ11,12の焦点Ofを原点OCとしており、魚眼レンズ11の光軸L1(又は魚眼レンズ11の光軸L2)をZc軸(第2の軸)としている。なお、カメラ10は2つの魚眼レンズ11,12を有しているので、その焦点は実際には2つあることになるが、カメラ10に対して被写体は十分遠く離れているため、魚眼レンズ11,12の焦点はほぼ一致しているとみなせる結果、1つの焦点Ofとしている。このカメラ座標系Ccは、カメラ10からみた実空間(世界)を球面画像40として表示するものであるため、カメラ座標系Ccを基準とした画像空間を球面画像空間と称する。そして、この球面画像空間での重力ベクトルGSは、Xc軸と略平行とする。
このように、カメラ座標系Ccで表示される球面画像40は、図5に示すように、実空間での重力方向をXw軸(重力参照軸)として有し、Xw軸に直交する2つの軸であるYw軸、Zw軸からなる世界座標系(3次元座標系)Cwに対して、カメラ座標系Ccが傾いている(すなわち、カメラ10が傾いている)と、その傾きに応じて球面画像40も傾く。
そこで、図1に示す撮像装置1は、この傾きを補正するために、実空間での重力方向を検出する加速度センサ(傾き検出センサ)50を有する。加速度センサ50は、カメラ10が搭載された台20上に搭載されており、世界座標系CwにおけるXw軸方向(すなわち、実空間での重力方向)を検出する。そして、加速度センサ50は、この重力方向に対するカメラ10の傾きの検出結果として、Yw軸周りのカメラ座標系Ccの第1の回転角(ピッチ角)β、及び、Zw軸周りのカメラ座標系Ccの第2の回転角(ロール角)γを出力する。
この加速度センサ50で検出されたピッチ角β及びロール角γは、画像形成手段30が有する画像補正手段32に入力される。画像補正手段32は、傾き補正部32Aを有しており、傾き補正部32Aは、入力されたピッチ角β及びロール角γに基づいて、Yw軸及びZw軸に対応するカメラ座標系Ccの2つの軸であるYc(第1の軸)軸及びZc軸周りにカメラ座標系Ccを回転させることによって、Xc軸をXw軸に一致させる。
この傾き補正部32Aによる傾きの補正方法について、より具体的に説明する。通常、任意の座標系において、X軸周りの回転行列をRX、Y軸周りの回転行列をRY、Z軸周りの回転行列をRZとすると、その座標系の回転は、回転行列R、
で表される。
そこで、傾き補正部32Aは、加速度センサ50の検出結果であるピッチ角β及びロール角γに基づいてカメラ座標系Ccを前述したように回転させることで、球面画像空間内での重力ベクトルGSの方向(すなわち、Xc軸の方向)をXw軸に一致させる。
ところで、加速度センサ50が検出するのは、図6に示すように、実際には加速度センサ50を中心としその姿勢の変化に応じて傾きが変わるセンサ座標系Csの重力方向(Xw軸)に対する傾きである。そのため、加速度センサ50でカメラ座標系Ccの傾きを検出するには、カメラ座標系Ccとセンサ座標系Csとの相対姿勢を校正する必要がある。
図1に示す画像補正手段32は、このセンサ座標系Csとカメラ座標系Ccとの傾きを校正部32Bによって校正する。図7を利用して、校正部32Bによる校正方法について説明する。
球面画像40には、カメラ10を中心とした全方位の情景が投影されているので、その画像内には、実空間で重力方向に延びる平行線群61が投影されており、それらは、消失点62A,62Bを有する曲線群62を形成している。この消失点62A,62Bは、加速度センサ50が重力方向に対して傾いていない(すなわち、β及びγが約0)とし、且つ、カメラ座標系Ccがセンサ座標系Csに対して傾いていないとすれば、球面画像40の両極(地球を例に説明すると、北極及び南極)40n,40sに相当する位置に現れる。
そこで、カメラ座標系Ccがセンサ座標系Csに対して傾いている場合、球面画像40に現れる一対の消失点62A,62Bの位置ベクトルをVn,VSとし、センサ座標系CsのYs軸周りのカメラ座標系Ccの回転角をΔβとし、Zs軸周りのカメラ座標系Ccの回転角をΔγとすると、カメラ座標系CcをYc軸周りに回転角Δβに基づいて回転させ、Zc軸周りに回転角Δγに基づいて回転させれば、Vn及びVSは、球面画像40の極(北極、南極)40n,40sの位置ベクトルと一致するため、
が成り立つ。
そして、校正部32Bは、この2つの方程式を最小二乗法を適用して解くことで、カメラ座標系Ccとセンサ座標系Csとの間の傾きを表す回転角Δβ,Δγを算出する。そして、校正部32Bは、このΔβ及びΔγを利用して、予めセンサ座標系Csに対するカメラ座標系Ccの傾きを校正する。これにより、加速度センサ50で算出されたピッチ角β及びロール角γに基づいて、重力方向に対するカメラ座標系Ccの傾きは確実に補正される。以下の説明では、特に断らない限りカメラ座標系Ccは校正されているものとする。
この校正方法において、消失点62A,62Bの位置の特定は、図8(a)に示すような、ストライプ状のテストパターン60を使用して行うことが好適である。すなわち、テストパターン60の平行線群61が延びる方向が重力方向となるようにテストパターン60をカメラ10に対して配置して、それをカメラ10で撮影する。そして、形成された球面画像40に現れる曲線群62に対して円錐曲線をフィッティングして、その曲線の交点を求め、消失点62A,62Bの位置とする。円錐曲線をフィッティングするための曲線群62は、テストパターン60を利用しなくても、球面画像40に現れる建物や木などを利用しても良いが、テストパターン60を利用する方が誤差が小さくなるため好ましい。なお、この消失点の算出の仕方は、カメラ10のカメラパラメータを校正するときに、消失点を算出する方法と同様である。
図9(a)は、傾き補正部32Aによって、傾きが補正された球面画像40の斜視図である。また、図9(b)は、屋外で撮影され、傾き補正部32Aによって実際に傾きが補正された球面画像図である。この図9(b)は、車の上にカメラ10及び加速度センサ50を搭載して撮影した場合の球面画像40の一部を示しており、図中、向かって左側は、例えば、魚眼レンズ12側の画像で、右側は、魚眼レンズ11側の画像である。
図9(a),(b)に示すように、球面画像空間での重力ベクトルGSと、実空間での重力方向(Xw軸)とが一致していると、球面画像40において、その重力ベクトルGS方向の半分の位置が地平線70に相当する。そのため、球面画像40が地平線70より上の上半球領域に相当する上半球面画像40Aと地平線70より下の下半球領域に相当する下半球面画像40Bとに確実に分けられる。そして、複数の球面画像40を取得した場合、球面画像40間で地平線70の位置がほぼ一致するので、球面画像40間の比較を実施し易い。また、図9(b)に示すように、上半球面画像40Aには、地上に固定された建物などランドマークとして有用なものが表示されるため、場所の同定などを実施し易い。
このように、重力方向に対する傾きの補正に加えて、図1に示す撮像装置1は、傾きが補正された球面画像40に対して、Xc軸(すなわち、重力方向)周りの回転を更に補正する。以下、この重力方向周りの傾きの補正について説明する。
Xc軸周りの回転の補正は、少なくとも2つの球面画像40を比較するときに有効であるため、図10に示すようにカメラ10の撮影範囲80内に互いに重複領域(図10のハッチング部分)を有する第1の地点90A及び第2の地点90Bで撮影を実施したものとする。そして、図11(a)に示すように、第1の地点90Aでの撮影で形成され、重力方向からの傾きが補正された球面画像40を第1球面画像41とする。同様に、図11(b)に示すように、第2の地点90Bでの撮影で形成され、重力方向からの傾きが補正された球面画像40を第2球面画像42とする。この第1球面画像41及び第2球面画像42は、それぞれ第1カメラ座標系C1C及び第2カメラ座標系C2Cで表示されている。
図1に示す撮像装置1は、フーリエ位相相関法を利用して、参照球面画像としての第1球面画像41に対する第2球面画像42の重力方向周りの回転を補正する。このフーリエ位相相関法では、第1球面画像41及び第2球面画像42をフーリエ変換し、その相関値を取ることで、第1球面画像41及び第2球面画像42の重複領域(同じ被写体が含まれている領域)内にある同じ被写体(例えば、木や建物)の位置のズレを算出する。
そのため、この重複領域の画像には、地上に固定されもの(建物や木等)や空など時間的に変化しにくいものが含まれていることが誤差を小さくする観点から好ましい。前述したように、傾き補正された球面画像40の上半球面画像40Aには、建物の上部など静的なものが多いため、フーリエ位相相関法に適している。
そこで、図1に示す画像補正手段32は、球面画像40からその上半球面画像40Aを抽出する画像抽出部32Cを有する。画像抽出部32Cは、傾き補正された第1球面画像41及び第2球面画像42が形成された場合、第1球面画像41から第1上半球面画像41Aを抽出し、第2球面画像42から第2上半球面画像42Aを抽出し、それらを回転角算出部32Dに入力する。
回転角算出部32Dは、第1球面画像41に対する第2球面画像42の重力方向周りの第3の回転角(ヨー角)αをフーリエ位相相関法を利用して算出する。より具体的には、例えば、傾き補正部32Aによって傾きが補正された球面画像40(図9(a)参照)において、球面画像40上の任意の画素piの位置を緯度ui、経度viで表示すれば、球面画像40はI(u,v)と表される。そこで、第2球面画像42が第1球面画像41に対して、ヨー角αだけ回転したものとすれば、第1球面画像41をI1(u,v)と表したとき、第2球面画像42はI2(u,v+α)と表され、
が成り立つ。
そこで、回転角算出部32Dは、式(9)をフーリエ変換して、それらの位相項の相関を取ることで、ヨー角αを算出する。このヨー角αの算出するに当たって、前述したように誤差を小さくする観点から、回転角算出部32Dは、画像抽出部32Cから入力された第1上半球面画像41Aと第2上半球面画像42Aとに対してフーリエ位相相関法を適用してヨー角αを算出する。なお、このヨー角αを算出する際には、球面画像40を一度平面画像に変換してからフーリエ位相相関法を適用することが、適用範囲などの設定の観点から好ましい。この回転角算出部32Dで算出されたヨー角αは、回転補正部32Eに入力される。回転補正部32Eは、入力されたヨー角αに基づいて第2カメラ座標系C2CをX2C軸(重力方向)周りに回転させる。
これによって、第1カメラ座標系C1Cと第2カメラ座標系C2Cとが精度良く一致する。その結果、視点の揃った画像になる傾向にあるので、第1球面画像41及び第2球面画像42との対応関係が更に取りやすくなる。
このように撮像装置1では、視点の安定した球面画像40が得られるが、球面画像40は平面画像として表示された場合、更にユーザに見やすい。そこで、図1の画像形成手段30は、球面画像40を平面画像に変換する平面画像形成部(平面画像形成手段)33を有する。この平面画像形成部33は、球面画像40から中心射影によって平面画像を形成する。
図12を利用して平面画像を形成するための方法を説明する。球面画像40と同じ焦点Ofを有する、すなわち、球面画像40の中心OCを焦点とする平面画像100を設定する。この際、平面画像100の形状(交差する2つの辺間の角度δや、画像のサイズ)を設定しておく。図12では、平面画像100を球面画像40に接するようにZc=1の位置に配置し、平面画像100の形状を略長方形としている。
次に、平面画像100の画素tl(lは任意の整数)と焦点Ofとを直線で結び、その直線と球面画像40との交点mlを求める。そして、校正済みの魚眼レンズ11,12の焦点(画像中心O1,O2に対応)及び焦点距離f1,f2を利用して、球面画像40を形成するために取得した被写体像16,17を表す画素であって、交点mlに対応する画素qlの輝度値を画素tlの輝度値とする。これによって、被写体像16,17に対応する輝度を有する平面画像100が形成される。なお、交点mlに対応する被写体像の点の座標値が整数でない場合、内挿アルゴリズムで補間を行う。
このように、球面画像40から中心射影によって平面画像100を形成することで、ユーザの任意の視点方向に沿った平面画像を容易に形成することができる。
次に、上記撮像装置1の動作及び画像補正方法について説明する。
先ず、撮像装置1を組み立てたときに、カメラ座標系Ccとセンサ座標系Csとの傾きを校正部32Bによって校正する(校正工程)。
次に、カメラ10を図10に示した第1の地点90Aに設置してカメラ10の周囲の情景を撮影する(被写体像取得工程)と、そのカメラ10で取得された一対の被写体像16,17の画像データが、球面画像形成部31に入力され、球面画像40が形成される(球面画像形成工程)。加速度センサ50は、撮影時にカメラ10の姿勢(すなわち、カメラ座標系Ccの傾き)を検出して、ピッチ角β及びロール角γを傾き補正部32Aに入力する(傾き検出工程)。傾き補正部32Aは、入力されたピッチ角β及びロール角γに基づいてカメラ座標系Ccを回転させてXc軸をXw軸に一致させることで、球面画像40の重力方向に対する傾きを補正する(第1の画像補正工程)。そして、傾き補正部32Aは、この傾き補正された球面画像40を第1球面画像41として画像抽出部32Cに入力する。
次に、カメラ10を第2の地点90Bに設置してその周囲の情景を撮影し、傾き補正された球面画像40(第1球面画像41)を形成した場合と同様にして、すなわち、上述した球面画像形成工程、傾き検出工程及び第1の画像補正工程を実施して、その第2の地点90Bで撮影された情景に対応し、傾き補正された球面画像40を形成する。そして、傾き補正部32Aは、その球面画像40を、第2球面画像42として画像抽出部32Cに入力する。
画像抽出部32Cは、第1球面画像41及び第2球面画像42が入力されると、第1球面画像41及び第2球面画像42から第1上半球面画像41A及び第2上半球面画像42Aを抽出して、回転角算出部32Dに入力する(画像抽出工程)。
回転角算出部32Dは、第1上半球面画像41A及び第2上半球面画像42Aを一度平面画像に展開して、その平面画像に対してフーリエ位相相関法を適用して第1上半球面画像41Aに対する第2上半球面画像42Aの重力方向周りのヨー角αを算出する。そして、そのヨー角αを回転補正部32Eに入力する(回転角算出工程)。なお、ヨー角αの算出にあたって、必ずしも、第1上半球面画像41A及び第2上半球面画像42Aを平面画像に展開しなくてもよい。
回転補正部32Eは、そのヨー角αに基づいて第2球面画像42を重力方向(X2c軸)周りに回転させる(第2の画像補正工程)。これによって、第2カメラ座標系C2Cが第1カメラ座標系C1Cとほぼ完全に一致するので、補正された第1球面画像41と第2球面画像42との比較が容易になる。
更に、この重力方向に対する傾き及び重力方向周りの回転が補正された第1球面画像41及び第2球面画像42は、平面画像形成部33に入力されて、上述した中心射影によって任意の視点に応じた平面画像100に変換される(平面画像形成工程)。
この撮像装置1で実施する画像補正方法では、撮影時に、カメラ10の重力方向の傾きを加速度センサ50で検出し、その検出結果に基づいて球面画像40の傾きを補正する結果、撮影時のカメラ10の姿勢に応じた球面画像40の傾きを精度良く補正できる。そして、撮影毎に、カメラ10の傾きに依存しない、視点の安定した球面画像40が得られるので、複数の球面画像40の対応を取るのに有効である。また、加速度センサ50の検出結果を直接利用しているので、補正に要する時間が短くてすむ結果、移動ロボットなどに好適に利用することができる。
また、撮像装置1で実施される画像補正方法では、2つの地点、又は同じ地点で異なる時刻に撮影を実施した結果、2つの球面画像40として第1球面画像41及び第2球面画像42が形成されたとき、第1球面画像41に対する第2球面画像42の重力方向周りの回転も補正する。ところで、この重力方向周りの回転を表すヨー角αを、例えば、加速度センサの検出結果から算出すると、誤差が累積する傾向にある。これに対して、上記画像補正方法では、このヨー角αをフーリエ位相相関法を利用して求めているので、精度の良い補正が可能となっている。
更に、撮像装置1は、平面画像形成部33を有しており、重力に対する傾きが補正された球面画像40や、更に、重力方向周りの回転が補正された球面画像40(すなわち、第2球面画像42)を中心射影によって画像平面に投影することで平面画像100を形成する。球面画像40には、カメラ10を中心とした全方位の情景が投影されているので、任意の視点に対応した平面画像100を容易に形成することができる。この平面画像100でも画像内の重力ベクトルと実空間での重力方向とはほぼ一致しているので、異なる球面画像40から形成された平面画像100の比較が容易になる。
ところで、撮像装置1が好適に利用される移動ロボットでは、地上の障害物の回避や、場所の同定など種々のタスクを有している。この障害物の回避には地上の観測が必要である一方、場所の同定は地面に立つランドマークを要する。
上記撮像装置1では、カメラ10周囲の情景を同時に取得できることに加えて、移動ロボットの運動によらない安定した球面画像40を得ることができる。そして、重力方向の傾きが補正されるので、球面画像40は、地平線70を境にして、ランドマークとなる静的なものが表示されやすい上半球面画像40Aと、障害物などが表示される下半球面画像40Bとに確実に分かれる。そのため、上記撮像装置1で形成され画像補正が実施された球面画像40を移動ロボットのナビゲーションシステムに利用すると、下半球面画像40Bで障害物を観測しながら、上半球面画像40Aでランドマークを特定して場所の同定を確実に実施することができる。
更に、撮像装置1を街のワークスルーのコンテンツ作製に利用する場合にも、車などにカメラ10を搭載してもカメラ10の揺れに依存しにくい安定した球面画像40を取得できるので、コンテンツ作製が容易になる。
以上、本発明の好適な実施形態について説明したが、本発明は上記実施形態に限定されないことは言うまでもない。例えば、本実施形態において、魚眼レンズ11,12とは、必ずしも1つのレンズを意味するものではなく、画角wが180度以上になるように設計され魚眼レンズ特性を有するレンズ系をも含んでいる。
更に、撮像装置1は、2つの魚眼レンズ11,12を有しているとしたが、魚眼レンズは1つだけでも良い。この場合には、球面画像40は、仮想球体Sの半分の領域に被写体像が投影された、半球面画像になる。また、カメラ10が有するレンズは、魚眼レンズでなくてもよく、レンズで結像された被写体像を仮想球体Sの表面に投影できればよい。魚眼レンズ以外のレンズとしては、例えば、広角レンズが挙げられる。また、傾き検出センサは、加速度センサ50としているが、カメラ10の傾きが検出できれば特に限定されない。
更に、球面画像40は、必ずしも、仮想球体Sの全表面に被写体像が投影されたものでなくてもよく、被写体像が仮想球体Sの一部に投影されたもの(例えば、上述した半球面画像)とすることもできる。
更に、撮像装置1のカメラ10は、2つの撮像素子13A,13Bを有する像取得部13を備えているが、図13に示すカメラ110のように、像取得部111は、1つの撮像素子112からなっていてもよい。この場合には、魚眼レンズ11,12を透過した外光をミラーなどの光路変換素子113で撮像素子111に入力し、撮像素子111の受光面の異なる領域でそれぞれ被写体像16,17をそれぞれ取得する。
また、撮像装置1で実施する画像補正方法では、ヨー角α(重力方向の回転角)を算出する際に、第1球面画像41及び第2球面画像42の上半球面画像41A及び第2上半球面画像42に対してフーリエ位相相関法を適用しているが、第1球面画像41及び第2上半球面画像に対してフーリエ位相相関法を適用してもよい。
更に、上記最良の実施形態では、2つの球面画像40(すなわち、第1球面画像41と第2球面画像42)を例として重力方向周りの回転の補正について説明したが、球面画像40が複数ある場合には、例えば、1つを参照用の球面画像とし、その球面画像に対する他の球面画像それぞれの重力方向周りの回転を上記2つの球面画像について説明した方法で補正すればよい。また、撮影毎に、1つ前の撮影時に形成された球面画像に対して重力方向周りの回転を補正することもできる。
また、重力方向周りの回転が補正された第1球面画像41及び第2球面画像42から平面画像100を形成しているが、平面画像100は、傾き補正部32Aによって傾きが補正された球面画像40から形成しても良い。この場合でも、球面画像40ですでに傾きが補正されているので、より見やすく、対応関係の取りやすい平面画像100を得ることができる。
以下に、本発明に係る撮像装置及び画像補正方法を、実施例に基づいてより具体的に説明する。なお、本発明は、以下の実施例に限定されるものではない。
(実施例1)
図14は、実際に試作した撮像装置1の一例の構成を示す写真図である。図14に示すように、撮像装置1は、第1及び第2の撮像部14,15としての一対の「Sony Handycam」を台20上に互いに反対向き配置して、その台20上にVRセンサを搭載したものである。この2つの「Sony Handycam」が図1に示した撮像装置1のカメラ10に相当する。 「Sony Handycam」が有する魚眼レンズとして、画角185度を有する「OlympusFCON-02」を使用した。更に、図14の撮像装置1が有するVRセンサは、3軸(X軸、Y軸、Z軸)の振動ジャイロと3軸の加速度センサ50とからなり、3軸それぞれの加速度、3軸の角速度、3軸の回転角(ヨー角、ピッチ角、ロール角)を出力する。この実施例1では、VRセンサの加速度センサ50から出力されるピッチ角、ロール角を球面画像40の傾き補正に利用し、ヨー角は、参照用とした。
図14は、実際に試作した撮像装置1の一例の構成を示す写真図である。図14に示すように、撮像装置1は、第1及び第2の撮像部14,15としての一対の「Sony Handycam」を台20上に互いに反対向き配置して、その台20上にVRセンサを搭載したものである。この2つの「Sony Handycam」が図1に示した撮像装置1のカメラ10に相当する。 「Sony Handycam」が有する魚眼レンズとして、画角185度を有する「OlympusFCON-02」を使用した。更に、図14の撮像装置1が有するVRセンサは、3軸(X軸、Y軸、Z軸)の振動ジャイロと3軸の加速度センサ50とからなり、3軸それぞれの加速度、3軸の角速度、3軸の回転角(ヨー角、ピッチ角、ロール角)を出力する。この実施例1では、VRセンサの加速度センサ50から出力されるピッチ角、ロール角を球面画像40の傾き補正に利用し、ヨー角は、参照用とした。
この撮像装置1を組み立てたときに、先ず、図14に示した第1及び第2の撮像部からなるカメラ10と、VRセンサが有する加速度センサ50との間の傾きの校正を校正部32Bによって実施した後、所定の場所に撮像装置1を設置して撮影を実施した。そして、同じ被写体を異なる時刻に、カメラ10の姿勢を変化させながら撮影して球面画像40を形成した。撮影毎に加速度センサ50が出力した検出結果を表1に示す。
図15は、図14の撮像装置1で取得された球面画像40である。図15(a)〜(c)は、それぞれ表1(a)〜(c)に対応する撮影で得られた球面画像40である。各図15(a)〜(c)において、左側の図は、補正前の球面画像40を示している。そして、右側の図は、表1のロール角及びピッチ角を利用して、実施形態で説明した画像補正方法によって傾き補正した後の球面画像40を示している。
表1に示すカメラ10の傾きに応じて、図15(a)〜(c)の左側の球面画像40は、傾いている一方、右側の図は、確かに傾きが補正されていることが分かる。そして、傾きが補正されることによって、画像毎に対応関係が取りやすくなっている。
(実施例2)
次に、重力方向周りの回転の補正まで含めた画像補正方法の実施例について説明する。図16(a),(b)は、撮像装置1の一例を示す写真図である。図16(a)に示すように、撮像装置1は、魚眼レンズを有するカメラ10としての「Sony Handycam」と、VRセンサと、画像形成手段30としてのパーソナルコンピュータとを有する。そして、図16(b)に示すように、カメラ10とVRセンサとは、同じ台20上に固定されている。カメラ10としての「Sony Handycam」及びそれに取り付けられた魚眼レンズは、実施例1の撮像装置に使用したものと同じものである。また、VRセンサも、第1の実施形態に使用したものと同じである。
次に、重力方向周りの回転の補正まで含めた画像補正方法の実施例について説明する。図16(a),(b)は、撮像装置1の一例を示す写真図である。図16(a)に示すように、撮像装置1は、魚眼レンズを有するカメラ10としての「Sony Handycam」と、VRセンサと、画像形成手段30としてのパーソナルコンピュータとを有する。そして、図16(b)に示すように、カメラ10とVRセンサとは、同じ台20上に固定されている。カメラ10としての「Sony Handycam」及びそれに取り付けられた魚眼レンズは、実施例1の撮像装置に使用したものと同じものである。また、VRセンサも、第1の実施形態に使用したものと同じである。
図16の撮像装置1では、魚眼レンズで上空を撮影するようにカメラ10を配置し、上半球面画像40Aに相当する半球面画像を直接取得するようにした。なお、カメラ10及びVRセンサを台20上に設置したときに、カメラ10と、VRセンサが有する加速度センサ50との間の傾きの校正を校正部32Bによって実施した。
カメラ10と加速度センサ50との傾きが校正された状態で、4つの異なる時刻に、カメラ10の姿勢を変化させながら撮影を実施した。各撮影時におけるVRセンサが有する加速度センサ50の検出結果を、表2に示す。表2から理解されるように、表2の(b)の場合には、表2の(a)の場合よりピッチ角が大きくずれており、(c)の場合には、(a)の場合よりロール角が大きくずれている。更に、(d)の場合には、ロール角、ピッチ角、ヨー角全てが(a)の場合よりも大きくずれている。
そして、撮影毎に、取得された被写体像に対応する球面画像40を形成し、表2の(b),(c)の場合は、検出されたロール角及びピッチ角(表2参照)を利用して、画像補正手段32によって重力方向に対する傾きを補正した。また、表2の(d)の場合は、球面画像40を形成した後、先ず、検出されたロール角及びピッチ角(表2参照)を利用して画像補正手段32で重力方向に対する傾きを補正した。次いで、表2(a)の場合に形成された球面画像40に対する重力方向周りのヨー角を算出した。算出結果は、表2の通りである。そして、その算出されたヨー角に基づいて重力方向周りの回転も補正した。
図17(a)は、表2(a)の場合にカメラ10の周囲の撮影をして形成された球面画像40の図である。図17(b),(c)は、カメラ10の姿勢が表2の(b),(c)の状態でその周囲を撮影した後、重力方向に対する傾きが補正された球面画像40の図である。更に、図17(d)は、カメラ10の姿勢が表2の(d)の状態で、その周囲を撮影した後、重力方向の傾き加えて、重力周りの回転が補正された球面画像40の図である。また、図18(a)〜(d)は、図17(a)〜(d)の各図を平面画像に表したものである。
図17(a)〜(d)を比較すると、カメラ10が表2の(a)〜(c)のように姿勢が変化しているにも拘わらず、図17(a)〜(c)に関しては、建物の配置などがほぼ一致しており、傾き補正ができていることが分かる。また、図17(d)の建物の位置が図17(a)の建物の位置に対して変わっており、重力方向周りの回転も補正できていることが分かる。
また、図18(a)〜(d)を比較すると、球面画像40において球面画像空間での重力ベクトルGsが世界座標系Cwでの重力参照軸であるXw軸に沿っているため、建物の鉛直方向が揃っており図18(a)〜(d)の対応が取りやすくなっている。更に、図18(a)と図18(d)とを比較すると、図18(d)では、建物が図面において右側に移動しており、ヨー角が補正されていことが分かる。
(実施例3)
次に、平面画像形成部33によって、球面画像40を中心射影によって平面画像に変換する場合の実施例について説明する。
(実施例3)
次に、平面画像形成部33によって、球面画像40を中心射影によって平面画像に変換する場合の実施例について説明する。
実施例3で使用した撮像装置1は、図14に示した実施例1の撮像装置1と同じである。この時にも、撮像装置1を組み立てたときに、VRセンサの加速度センサ50とカメラ10との姿勢の校正を実施例1と同様に実施した。その後、撮像装置1の周囲の情景を撮影し、球面画像40を形成した。魚眼レンズで撮影された被写体像16,17を図19に示す。この一対の被写体像に基づいて球面画像40を形成し、その球面画像40に対して、実施形態で説明した画像補正方法によって重力方向に対する傾きを補正した。そして、傾き補正された球面画像40を、平面画像形成部33によって、中心射影して図20に示す平面画像を形成した。
図20に示す6つの平面画像100は、球面画像40を取り囲むと共に球面画像40に外接する仮想の立方体の6つの平面にそれぞれ投影されたものである。このように、傾きが補正された1つの球面画像40が形成されたことによって、任意の視点の平面画像100を得ることができる。そして、球面画像40は、重力方向に対する傾きが補正されているので、得られた平面画像100ごとの対応関係も取りやすくなっている。
本発明に係る撮像装置及び画像補正方法は、移動ロボットのナビゲーションシステムや、街のワークスルーのコンテンツ作製に利用することができる。
1…撮像装置、10…カメラ、11,12…魚眼レンズ、11a,12b…入射面(外光が入射する面)、16,17…被写体像、31…球面画像形成部(球面画像形成手段)、32…画像補正手段、32A…傾き補正部、32C…画像抽出部、32B…校正部、32D…回転角算出部、32E…回転補正部、33…平面画像形成部(平面画像形成手段)、40…球面画像、40A…上半球面画像、40B…下半球面画像、41…第1球面画像、41A…第1上半球面画像、42…第2球面画像、42A…第2上半球面画像、50…加速度センサ(傾き検出センサ)、100…平面画像、Cc…カメラ座標系、Cs…センサ座標系、Cw…世界座標系(3次元座標系)、Gs…重力ベクトル、S…仮想球体。
Claims (16)
- カメラと、
前記カメラで取得された前記被写体像の画像データから前記カメラのカメラ座標系で表される球面画像を形成する球面画像形成手段と、
実空間での重力方向に対する前記カメラ座標系の傾きを検出する傾き検出センサと、
前記傾き検出センサの検出結果に基づいて、前記カメラ座標系を回転させて球面画像空間での重力ベクトルを前記重力方向と一致させることで、前記球面画像の傾きを補正する画像補正手段と、
を備えたことを特徴とする撮像装置。 - 前記カメラは、画角が180度以上の魚眼レンズを有し、前記魚眼レンズによって結像された被写体像を取得することを特徴とする請求項1に記載の撮像装置。
- 前記カメラは、外光が入射する面が互いに反対側に位置するように配置されており画角が180度以上の一対の魚眼レンズを有し、
前記カメラは、前記一対の魚眼レンズでそれぞれ結像された一対の被写体像を一度に取得し、
前記球面画像形成手段は、前記一対の被写体像に基づいて、前記カメラの周囲360度の情景が投影された球面画像を形成することを特徴とする請求項1に記載の撮像装置。 - 前記傾き検出センサは、前記カメラ座標系の傾きとして、重力方向を重力参照軸として有する3次元座標系での前記重力参照軸に直交する2つの軸に対する前記カメラ座標系の第1及び第2の回転角をそれぞれ検出し、
前記画像補正手段は、前記3次元座標系の前記2つの軸それぞれに対応する前記カメラ座標系の第1及び第2の軸周りに前記カメラ座標系を前記第1及び第2の回転角に基づいて回転させることで前記球面画像の前記重力方向に対する傾きを補正する傾き補正部を有することを特徴とする請求項1〜3の何れか1項に記載の撮像装置。 - 前記画像補正手段は、
前記傾き検出センサのセンサ座標系に対する前記カメラ座標系の傾きを校正する校正部を有することを特徴とする請求項1〜4の何れか1項に記載の撮像装置。 - 前記画像補正手段は、
傾きが補正された前記球面画像として第1球面画像と第2球面画像とが形成された場合、前記第1球面画像と前記第2球面画像とに対してフーリエ位相相関法を適用することによって、前記第1球面画像に対する前記第2球面画像の前記重力方向周りの第3の回転角を算出する回転角算出部と、
前記第3の回転角に基づいて前記第2球面画像を前記重力方向周りに回転させることで前記第1球面画像に対する前記第2球面画像の前記重力方向周りの回転を補正する回転補正部と、
を更に備えたことを特徴とする請求項1〜5の何れか1項に記載の撮像装置。 - 前記画像補正手段は、
前記球面画像が有する上半球面画像を抽出する画像抽出部を有し、
前記回転角算出部は、前記画像抽出部によって前記第1球面画像から抽出された第1上半球面画像と前記第2球面画像から抽出された前記第2上半球面画像とに対してフーリエ位相相関法を適用して前記第3の回転角を算出することを特徴とする請求項6に記載の撮像装置。 - 前記球面画像から、中心射影によって前記球面画像の中心を焦点とする平面画像を形成する平面画像形成手段を更に有することを特徴とする請求項1〜7の何れか1項に記載の撮像装置。
- カメラによって被写体像を取得する被写体像取得工程と、
前記カメラで取得された前記被写体像を、前記カメラのカメラ座標系で表される仮想球体の表面に投影して球面画像を形成する球面画像形成工程と、
実空間での重力方向に対する前記カメラ座標系の傾きを検出する傾き検出工程と、
前記傾き検出工程で検出された検出結果に基づいて、球面画像空間での重力ベクトルが前記重力方向と一致するように前記カメラ座標系を回転させることで前記球面画像の前記重力方向に対する傾きを補正する第1の画像補正工程と、
を備えたことを特徴とする画像補正方法。 - 前記被写体像取得工程において、前記カメラは、画角が180度以上の魚眼レンズによって被写体像を取得することを特徴とする請求項9に記載の画像補正方法。
- 前記被写体像取得工程において、前記カメラは、外光が入射する面が互いに反対側に位置するように配置されており画角が180度以上の一対の魚眼レンズによって結像された一対の被写体像を一度に取得し、
前記球面画像形成工程において、前記一対の被写体像からそれぞれに対応する半球面画像を形成し、それらを結合して前記カメラの周囲360度の情景が投影された球面画像を形成することを特徴とする請求項9に記載の画像補正方法。 - 前記傾き検出工程において、前記傾き検出センサは、重力方向を重力参照軸として有する3次元座標系での前記重力参照軸に直交する2つの軸に対する前記カメラ座標系の第1及び第2の回転角をそれぞれ検出し、
前記第1の画像補正工程において、前記3次元座標系の前記2つの軸それぞれに対応する前記カメラ座標系の第1及び第2の軸周りに前記カメラ座標系を前記第1及び第2の回転角に基づいて回転させることによって、前記球面画像の前記重力方向に対する傾きを補正することを特徴とする請求項9〜11の何れか1項に記載の画像補正方法。 - 前記傾き検出センサのセンサ座標系に対する前記カメラ座標系の傾きを校正する校正工程を備え、
前記第1の画像補正工程において、前記校正工程で校正された前記カメラ座標系を回転させることで前記球面画像の前記重力方向に対する傾きを補正することを特徴とする請求項9〜12の何れか1項に記載の画像補正方法。 - 前記第1の画像補正工程によって傾きが補正された前記球面画像として第1球面画像と第2球面画像とが形成された場合、
前記第1球面画像と前記第2球面画像とに対してフーリエ位相相関法を適用することによって、前記第1球面画像に対する前記第2球面画像の前記重力方向周りの第3の回転角を算出する回転角算出工程と、
前記第3の回転角に基づいて前記第2球面画像を前記重力方向周りに回転させることで前記第1球面画像に対する前記第2球面画像の前記重力方向周りの回転を補正する第2の画像補正工程と、
を更に備えたことを特徴とする請求項9〜13の何れか1項に記載の画像補正方法。 - 前記第1球面画像が有する第1上半球面画像を抽出すると共に、前記第2球面画像が有する第2上半球面画像を抽出する画像抽出工程を有し、
前記回転角算出工程において、前記画像抽出工程で抽出された前記第1上半球面画像と前記第2上半球面画像とに対してフーリエ位相相関法を適用して前記第3の回転角を算出することを特徴とする請求項14に記載の画像補正方法。 - 前記球面画像から中心射影によって前記球面画像の中心を焦点とする平面画像を形成する平面画像形成工程を更に備えることを特徴とする請求項9〜15の何れか1項に記載の画像補正方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004241656A JP2006059202A (ja) | 2004-08-20 | 2004-08-20 | 撮像装置及び画像補正方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004241656A JP2006059202A (ja) | 2004-08-20 | 2004-08-20 | 撮像装置及び画像補正方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006059202A true JP2006059202A (ja) | 2006-03-02 |
Family
ID=36106613
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004241656A Pending JP2006059202A (ja) | 2004-08-20 | 2004-08-20 | 撮像装置及び画像補正方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006059202A (ja) |
Cited By (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008187497A (ja) * | 2007-01-30 | 2008-08-14 | Nikon Corp | カメラ、画像記録プログラムおよび画像表示プログラム |
JP2009033500A (ja) * | 2007-07-27 | 2009-02-12 | Ricoh Co Ltd | 撮像装置とその制御方法 |
JP2010278813A (ja) * | 2009-05-29 | 2010-12-09 | M Soft:Kk | 映像合成方法、映像合成システム |
KR20120067049A (ko) * | 2010-12-15 | 2012-06-25 | 엘지이노텍 주식회사 | 화각을 이용한 카메라 모듈의 중력 코드값 측정 시스템, 그 측정 방법 및 그 측정 방법의 기록매체 |
JP2013045089A (ja) * | 2011-08-26 | 2013-03-04 | Ricoh Co Ltd | 撮像システムおよび結像光学系 |
JP2013214947A (ja) * | 2012-03-09 | 2013-10-17 | Ricoh Co Ltd | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム |
JP2014099885A (ja) * | 2013-12-27 | 2014-05-29 | Olympus Imaging Corp | 撮像装置および画像処理方法 |
KR20140147597A (ko) * | 2013-06-20 | 2014-12-30 | 엘지전자 주식회사 | 이동 단말기 및 이의 제어방법 |
JP2015019344A (ja) * | 2012-09-11 | 2015-01-29 | 株式会社リコー | 画像処理装置、画像処理方法、プログラムおよび撮像システム |
JP2015046813A (ja) * | 2013-08-29 | 2015-03-12 | 株式会社リコー | 撮像装置、撮像方法、及びプログラム |
JP2015129973A (ja) * | 2015-03-31 | 2015-07-16 | 株式会社リコー | 広角レンズ及び撮像装置 |
US9110365B2 (en) | 2009-11-19 | 2015-08-18 | Olympus Corporation | Imaging apparatus |
JP5843033B1 (ja) * | 2014-05-15 | 2016-01-13 | 株式会社リコー | 撮像システム、撮像装置、プログラムおよびシステム |
JP5843034B1 (ja) * | 2014-05-15 | 2016-01-13 | 株式会社リコー | 動画表示装置およびプログラム |
CN105765966A (zh) * | 2013-12-19 | 2016-07-13 | 英特尔公司 | 碗形成像系统 |
WO2016159107A1 (ja) * | 2015-03-30 | 2016-10-06 | 株式会社インタニヤ | デジタルカメラ及びデジタルカメラ用記録カード |
JP2018038087A (ja) * | 2012-03-09 | 2018-03-08 | 株式会社リコー | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム |
JP2018195348A (ja) * | 2013-05-16 | 2018-12-06 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP2018201123A (ja) * | 2017-05-26 | 2018-12-20 | 株式会社リコー | 画像処理装置、画像処理方法、プログラム |
CN109367483A (zh) * | 2017-08-09 | 2019-02-22 | 安波福电子(苏州)有限公司 | 一种角度自适应的车载鸟瞰系统及其实现方法 |
KR20190080780A (ko) * | 2017-12-28 | 2019-07-08 | 캐논 가부시끼가이샤 | 전자기기 및 그 제어 방법 |
US10442355B2 (en) | 2014-09-17 | 2019-10-15 | Intel Corporation | Object visualization in bowl-shaped imaging systems |
JP2020061770A (ja) * | 2019-12-26 | 2020-04-16 | 株式会社ザクティ | 全天球画像生成方法、全天球画像生成表示方法、全天球画像生成システムのプログラム及び全天球画像生成表示システムのプログラム |
US20210027434A1 (en) * | 2017-10-06 | 2021-01-28 | Google Llc | Systems and Methods for Leveling Images |
JP2021097375A (ja) * | 2019-12-19 | 2021-06-24 | 株式会社Jvcケンウッド | 画像調整装置、バーチャル・リアリティ画像表示システム、及び画像調整方法 |
CN113643265A (zh) * | 2021-08-19 | 2021-11-12 | 深圳赛安特技术服务有限公司 | 基于人工智能的质量等级确定方法、装置、设备及介质 |
CN115174879A (zh) * | 2022-07-18 | 2022-10-11 | 峰米(重庆)创新科技有限公司 | 投影画面校正方法、装置、计算机设备和存储介质 |
JP7443749B2 (ja) | 2019-12-19 | 2024-03-06 | 株式会社Jvcケンウッド | 画像調整装置、バーチャル・リアリティ画像表示システム、及び画像調整方法 |
JP7443751B2 (ja) | 2019-12-19 | 2024-03-06 | 株式会社Jvcケンウッド | バーチャル・リアリティ画像表示システム及びバーチャル・リアリティ画像表示システムの制御方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11508384A (ja) * | 1995-06-23 | 1999-07-21 | インタラクティブ ピクチャーズ コーポレーション | 球形画像を作成する方法および装置 |
JP2003032597A (ja) * | 2001-07-13 | 2003-01-31 | Mega Chips Corp | 撮像再生システム、撮像装置、再生装置及び撮像再生方法 |
-
2004
- 2004-08-20 JP JP2004241656A patent/JP2006059202A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11508384A (ja) * | 1995-06-23 | 1999-07-21 | インタラクティブ ピクチャーズ コーポレーション | 球形画像を作成する方法および装置 |
JP2003032597A (ja) * | 2001-07-13 | 2003-01-31 | Mega Chips Corp | 撮像再生システム、撮像装置、再生装置及び撮像再生方法 |
Cited By (62)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008187497A (ja) * | 2007-01-30 | 2008-08-14 | Nikon Corp | カメラ、画像記録プログラムおよび画像表示プログラム |
JP2009033500A (ja) * | 2007-07-27 | 2009-02-12 | Ricoh Co Ltd | 撮像装置とその制御方法 |
EP2074817A1 (en) * | 2007-07-27 | 2009-07-01 | Ricoh Company, Ltd. | Imaging apparatus and a control method of the imaging apparatus |
US20100208080A1 (en) * | 2007-07-27 | 2010-08-19 | Ricoh Company, Ltd. | Imaging apparatus and a control method of the imaging apparatus |
EP2074817A4 (en) * | 2007-07-27 | 2010-12-22 | Ricoh Co Ltd | IMAGING APPARATUS AND CONTROL METHOD FOR THE IMAGING APPARATUS |
US8264554B2 (en) | 2007-07-27 | 2012-09-11 | Ricoh Company, Ltd. | Imaging apparatus and method of obtaining a roll angle of the imaging apparatus, and correcting detected roll angle |
JP2010278813A (ja) * | 2009-05-29 | 2010-12-09 | M Soft:Kk | 映像合成方法、映像合成システム |
US9110365B2 (en) | 2009-11-19 | 2015-08-18 | Olympus Corporation | Imaging apparatus |
KR20120067049A (ko) * | 2010-12-15 | 2012-06-25 | 엘지이노텍 주식회사 | 화각을 이용한 카메라 모듈의 중력 코드값 측정 시스템, 그 측정 방법 및 그 측정 방법의 기록매체 |
KR101669624B1 (ko) | 2010-12-15 | 2016-10-26 | 엘지이노텍 주식회사 | 화각을 이용한 카메라 모듈의 중력 코드값 측정 시스템, 그 측정 방법 및 그 측정 방법의 기록매체 |
JP2013045089A (ja) * | 2011-08-26 | 2013-03-04 | Ricoh Co Ltd | 撮像システムおよび結像光学系 |
KR20190031343A (ko) * | 2012-03-09 | 2019-03-25 | 가부시키가이샤 리코 | 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체 |
KR101961364B1 (ko) | 2012-03-09 | 2019-03-25 | 가부시키가이샤 리코 | 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체 |
US9607358B2 (en) | 2012-03-09 | 2017-03-28 | Ricoh Company, Limited | Image capturing apparatus, image capture system, image processing method, information processing apparatus, and computer-readable storage medium |
JP2018038087A (ja) * | 2012-03-09 | 2018-03-08 | 株式会社リコー | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム |
CN104160693A (zh) * | 2012-03-09 | 2014-11-19 | 株式会社理光 | 图像捕获装置、图像捕获系统、图像处理方法、信息处理装置和计算机可读存储介质 |
US11049215B2 (en) | 2012-03-09 | 2021-06-29 | Ricoh Company, Ltd. | Image capturing apparatus, image capture system, image processing method, information processing apparatus, and computer-readable storage medium |
KR102046032B1 (ko) | 2012-03-09 | 2019-11-19 | 가부시키가이샤 리코 | 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체 |
KR20180121691A (ko) * | 2012-03-09 | 2018-11-07 | 가부시키가이샤 리코 | 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체 |
JP2013214947A (ja) * | 2012-03-09 | 2013-10-17 | Ricoh Co Ltd | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム |
JP2020129823A (ja) * | 2012-03-09 | 2020-08-27 | 株式会社リコー | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム |
EP3182696A1 (en) | 2012-03-09 | 2017-06-21 | Ricoh Company, Ltd. | Image capturing apparatus, image capture system, image processing method, information processing apparatus, and computer-readable storage medium |
KR101916616B1 (ko) * | 2012-03-09 | 2018-11-07 | 가부시키가이샤 리코 | 화상 캡처링 장치, 화상 캡처 시스템, 화상 처리 방법, 정보 처리 장치, 및 컴퓨터-판독 가능 저장 매체 |
JP2016027744A (ja) * | 2012-09-11 | 2016-02-18 | 株式会社リコー | 撮像装置および撮像システム |
JP2019097178A (ja) * | 2012-09-11 | 2019-06-20 | 株式会社リコー | 撮像装置、画像処理装置および方法 |
US10666860B2 (en) | 2012-09-11 | 2020-05-26 | Ricoh Company, Ltd. | Image processor, image processing method and program, and imaging system |
JP2015019344A (ja) * | 2012-09-11 | 2015-01-29 | 株式会社リコー | 画像処理装置、画像処理方法、プログラムおよび撮像システム |
JP2017175616A (ja) * | 2012-09-11 | 2017-09-28 | 株式会社リコー | 撮像装置、画像処理装置および方法 |
JP2018195348A (ja) * | 2013-05-16 | 2018-12-06 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
KR102089432B1 (ko) * | 2013-06-20 | 2020-04-14 | 엘지전자 주식회사 | 이동 단말기 및 이의 제어방법 |
KR20140147597A (ko) * | 2013-06-20 | 2014-12-30 | 엘지전자 주식회사 | 이동 단말기 및 이의 제어방법 |
JP2015046813A (ja) * | 2013-08-29 | 2015-03-12 | 株式会社リコー | 撮像装置、撮像方法、及びプログラム |
CN105765966A (zh) * | 2013-12-19 | 2016-07-13 | 英特尔公司 | 碗形成像系统 |
JP2017502404A (ja) * | 2013-12-19 | 2017-01-19 | インテル コーポレイション | ボウル形状イメージングシステム |
US10692173B2 (en) | 2013-12-19 | 2020-06-23 | Intel Corporation | Bowl-shaped imaging system |
US10210597B2 (en) | 2013-12-19 | 2019-02-19 | Intel Corporation | Bowl-shaped imaging system |
JP2014099885A (ja) * | 2013-12-27 | 2014-05-29 | Olympus Imaging Corp | 撮像装置および画像処理方法 |
JP2016149734A (ja) * | 2014-05-15 | 2016-08-18 | 株式会社リコー | 動画表示装置およびプログラム |
JP5843034B1 (ja) * | 2014-05-15 | 2016-01-13 | 株式会社リコー | 動画表示装置およびプログラム |
CN106464804A (zh) * | 2014-05-15 | 2017-02-22 | 株式会社理光 | 成像系统、成像装置、计算机程序和系统 |
JP5843033B1 (ja) * | 2014-05-15 | 2016-01-13 | 株式会社リコー | 撮像システム、撮像装置、プログラムおよびシステム |
EP3143761A4 (en) * | 2014-05-15 | 2017-04-26 | Ricoh Company, Ltd. | Imaging system, imaging apparatus, computer program, and system |
US10681268B2 (en) | 2014-05-15 | 2020-06-09 | Ricoh Company, Ltd. | Imaging system, imaging apparatus, and system |
JP2016149733A (ja) * | 2014-05-15 | 2016-08-18 | 株式会社リコー | 撮像システム、撮像装置、プログラムおよびシステム |
US10442355B2 (en) | 2014-09-17 | 2019-10-15 | Intel Corporation | Object visualization in bowl-shaped imaging systems |
WO2016159107A1 (ja) * | 2015-03-30 | 2016-10-06 | 株式会社インタニヤ | デジタルカメラ及びデジタルカメラ用記録カード |
JP2015129973A (ja) * | 2015-03-31 | 2015-07-16 | 株式会社リコー | 広角レンズ及び撮像装置 |
JP2018201123A (ja) * | 2017-05-26 | 2018-12-20 | 株式会社リコー | 画像処理装置、画像処理方法、プログラム |
CN109367483A (zh) * | 2017-08-09 | 2019-02-22 | 安波福电子(苏州)有限公司 | 一种角度自适应的车载鸟瞰系统及其实现方法 |
US20210027434A1 (en) * | 2017-10-06 | 2021-01-28 | Google Llc | Systems and Methods for Leveling Images |
US11823359B2 (en) * | 2017-10-06 | 2023-11-21 | Google Llc | Systems and methods for leveling images |
KR20190080780A (ko) * | 2017-12-28 | 2019-07-08 | 캐논 가부시끼가이샤 | 전자기기 및 그 제어 방법 |
KR102415637B1 (ko) * | 2017-12-28 | 2022-07-01 | 캐논 가부시끼가이샤 | 전자기기 및 그 제어 방법 |
JP2021097375A (ja) * | 2019-12-19 | 2021-06-24 | 株式会社Jvcケンウッド | 画像調整装置、バーチャル・リアリティ画像表示システム、及び画像調整方法 |
JP7322692B2 (ja) | 2019-12-19 | 2023-08-08 | 株式会社Jvcケンウッド | 画像調整装置、バーチャル・リアリティ画像表示システム、及び画像調整方法 |
JP7443749B2 (ja) | 2019-12-19 | 2024-03-06 | 株式会社Jvcケンウッド | 画像調整装置、バーチャル・リアリティ画像表示システム、及び画像調整方法 |
JP7443751B2 (ja) | 2019-12-19 | 2024-03-06 | 株式会社Jvcケンウッド | バーチャル・リアリティ画像表示システム及びバーチャル・リアリティ画像表示システムの制御方法 |
JP2020061770A (ja) * | 2019-12-26 | 2020-04-16 | 株式会社ザクティ | 全天球画像生成方法、全天球画像生成表示方法、全天球画像生成システムのプログラム及び全天球画像生成表示システムのプログラム |
JP7025042B2 (ja) | 2019-12-26 | 2022-02-24 | 株式会社ザクティ | 全天球画像生成方法、全天球画像生成表示方法、全天球画像生成システムのプログラム及び全天球画像生成表示システムのプログラム |
CN113643265A (zh) * | 2021-08-19 | 2021-11-12 | 深圳赛安特技术服务有限公司 | 基于人工智能的质量等级确定方法、装置、设备及介质 |
CN115174879A (zh) * | 2022-07-18 | 2022-10-11 | 峰米(重庆)创新科技有限公司 | 投影画面校正方法、装置、计算机设备和存储介质 |
CN115174879B (zh) * | 2022-07-18 | 2024-03-15 | 峰米(重庆)创新科技有限公司 | 投影画面校正方法、装置、计算机设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2006059202A (ja) | 撮像装置及び画像補正方法 | |
CN106643699B (zh) | 一种虚拟现实系统中的空间定位装置和定位方法 | |
CN108876714B (zh) | 图像捕获装置、信息处理装置和图像处理方法 | |
US10594941B2 (en) | Method and device of image processing and camera | |
Lobo et al. | Vision and inertial sensor cooperation using gravity as a vertical reference | |
Burschka et al. | V-GPS (SLAM): Vision-based inertial system for mobile robots | |
KR20160116075A (ko) | 카메라로부터 획득한 영상에 대한 자동보정기능을 구비한 영상처리장치 및 그 방법 | |
Aghayari et al. | Geometric calibration of full spherical panoramic Ricoh-Theta camera | |
Li | Full-view spherical image camera | |
JP4132068B2 (ja) | 画像処理装置及び三次元計測装置並びに画像処理装置用プログラム | |
JP2004531113A (ja) | 注釈記入による全方位性3次元イメージデータ獲得装置、その方法及び感光範囲の拡大方法 | |
JP2005115420A (ja) | 三次元形状生成装置 | |
Li | Monitoring around a vehicle by a spherical image sensor | |
CN113240615B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
JP2017191022A (ja) | 三次元点群データに実寸法を付与する方法とそれを用いた管路等の位置測定 | |
CN110119189B (zh) | Slam系统的初始化、ar控制方法、装置和系统 | |
Núnez et al. | Data Fusion Calibration for a 3D Laser Range Finder and a Camera using Inertial Data. | |
Huttunen et al. | A monocular camera gyroscope | |
JP2005244861A (ja) | 撮像装置及び撮像系パラメータ校正方法 | |
KR102389762B1 (ko) | 디지털 트윈 연동 증강현실 카메라를 통한 공간 형성 및 인식 시스템 및 그 방법 | |
JP4631048B2 (ja) | 撮像装置及び撮像系パラメータの校正方法 | |
JP2014092922A (ja) | 検出装置、検出方法及び検出プログラム | |
CN113450254A (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
WO2017179136A1 (ja) | 全天球カメラロボット高度調整システム、全天球カメラロボット高度調整方法及びプログラム | |
JP2005275789A (ja) | 三次元構造抽出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070727 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100325 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100330 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100727 |