JP5155145B2 - 画像補正装置、方法、プログラム、集積回路、システム - Google Patents

画像補正装置、方法、プログラム、集積回路、システム Download PDF

Info

Publication number
JP5155145B2
JP5155145B2 JP2008501769A JP2008501769A JP5155145B2 JP 5155145 B2 JP5155145 B2 JP 5155145B2 JP 2008501769 A JP2008501769 A JP 2008501769A JP 2008501769 A JP2008501769 A JP 2008501769A JP 5155145 B2 JP5155145 B2 JP 5155145B2
Authority
JP
Japan
Prior art keywords
image
camera
extraction range
information
shooting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008501769A
Other languages
English (en)
Other versions
JPWO2007097431A1 (ja
Inventor
圭司 銀杏
淳 大宮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2008501769A priority Critical patent/JP5155145B2/ja
Publication of JPWO2007097431A1 publication Critical patent/JPWO2007097431A1/ja
Application granted granted Critical
Publication of JP5155145B2 publication Critical patent/JP5155145B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、画像を補正する技術に関し、特に、移動体に搭載されるカメラが撮影した画像を補正する技術に関する。
カメラが被写体を撮影できるようカメラの撮影位置や撮影方向を制御する技術が、従来、広く用いられている。
例えば、特許文献1には、第1のカメラを用いて監視対象領域を監視し、撮影映像に基づいて監視領域内の侵入者を検知して、侵入者を追尾するよう第2のカメラの撮影方向を制御する侵入物体監視システムが開示されている。また、特許文献2には、監視領域を移動する移動体にカメラを搭載し、移動体自身が被写体を追尾しつつカメラを制御して被写体を撮影する技術が開示されている。
しかし、飛行体などの移動体にカメラを搭載し、移動体を移動させながら撮影を行う場合、風などの外乱によって移動体が動いて、カメラの撮影映像に悪影響を及ぼすという問題がある。
例えば、移動体を移動させながら被写体を撮影している時に、外乱により移動体が動いて本来撮影を行うべき位置から外れて撮影を行うと、被写体を意図したように撮影できない。例えば、被写体が小さく写ったり、撮影画像の中の意図しない位置に写ったりする。従来の技術では、カメラが固定であったり、移動体が安定して移動できることを前提としているが、撮影画像に与える外乱の悪影響は大きく、この悪影響は無視できないものである。
このような外乱の悪影響に対処するために、移動体が外乱に対して安定して飛行等できるように移動体を機械制御して被写体を撮影する技術が、従来、用いられている。例えば、観測カメラの分野では、気球等の飛行体にカメラを搭載し、空中で飛行体を安定させて地上を撮影する技術がある。下記の特許文献3には、撮影装置を、気球が揺れ動いたとしても自重によって姿勢が復帰できるように吊すとともに、撮影装置の撮影方向を任意の向きに遠隔制御することにより、目的の場所を撮影する技術が開示されている。
日本国公開特許公報 特開2001−319279号公報 日本国公開特許公報 特開2004−328484号公報 日本国公開特許公報 特開昭60−53942号公報
上述の従来技術は、外乱があったとしても、カメラの撮影位置を本来の撮影位置に戻すよう制御することで、本来意図したような撮影を行う技術である。
しかし、外乱には規則性がない場合が大半であり、外乱をモデル化できず、移動体が安定して飛行するまでに時間がかかる。その間、本来意図したような撮影結果を得ることができない。つまり、外乱の及ぼす悪影響を回避することは難しい。
また、移動体に搭載されたカメラが撮影した映像に基づいて、移動体やカメラを制御する技術が提案されている。しかし、この場合、撮影された映像が本来意図したものであるか、外乱を受けた結果望ましくないものとなっているかを、映像に基づいて判断するのは困難である。
そこで、本発明は、カメラを搭載した移動体により撮影を行った場合に、外乱の悪影響があったとしても、本来意図したような画像を出力する画像補正装置を提供することを目的とする。
上記課題を解決するため、本発明は、移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正装置であって、前記カメラが撮影した撮影画像を取得する画像取得手段と、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得手段と、前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定手段と、前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力手段とを備えることを特徴とする。
上述の構成を備える画像補正装置は、撮影画像から、所定の画像抽出範囲の画像を抽出して出力する。画像抽出範囲の画像を出力画像とするので、撮影画像は、出力画像よりも大きいサイズの画像である。そのため、撮影時のカメラ位置と指定されたカメラ位置とに差分があったとしても、その差分が所定の大きさ以下であれば、撮影画像には、指定されたカメラ位置から撮影が行われた場合に出力画像として出力する画像が含まれている。この画像は、位置の差分の大きさや方向によって、撮影画像における位置や範囲が定まる。
したがって、外乱の影響があったとしても、指定されたカメラ位置から撮影が行われた場合に出力画像として出力する画像が含まれる出力画像抽出範囲の位置および範囲を、位置の差分に基づいて撮影画像から特定することにより、画像補正装置は、本来意図したような、外乱の悪影響がない画像を出力することができる。
上述の構成は、具体的には、以下のようにすればよい。
すなわち、本発明は、前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解する分解部と、前記撮影方向の成分に基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、前記撮影方向に直交する平面の成分に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部とを含む画像補正装置としてもよい。
位置の差分のうち、カメラの撮影方向の成分は、要するに、実際の撮影が行われたカメラ位置が、指定されたカメラ位置よりも撮影対象面に近いか大きいかを示すものである。当然、指定されたカメラ位置よりも実際のカメラ位置が撮影対象面に近ければ、被写体は意図した大きさよりも大きく写るし、指定されたカメラ位置よりも実際のカメラ位置が撮影対象面に遠ければ、被写体は意図した大きさよりも小さく写る。
したがって、位置の差分のうち、カメラの撮影方向の成分に基づいて、出力画像抽出範囲のサイズを決定することで、出力画像における被写体の大きさを、本来意図したような大きさにすることができる。
また、位置の差分のうち、カメラの撮影方向に直交する平面の成分は、要するに、実際のカメラ位置から撮影した場合の撮影対象面が、指定されたカメラ位置から撮影した場合の撮影対象面とどれだけずれているかを示すものである。
したがって、位置の差分のうち、カメラの撮影方向に直交する平面の成分に基づいて、出力画像抽出範囲の基準点を決定することで、指定されたカメラ位置から撮影した場合に出力される画像を出力画像抽出範囲に含めることができる。
具体的には、前記位置差分情報に示される前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点のカメラ位置を終点とするベクトルで表したとき、前記撮影方向に直交する平面の成分は、前記ベクトルを前記撮影方向に直交する平面に射影した射影ベクトルであり、前記画像基準点算出部は、前記射影ベクトルの大きさに基づいて、前記移動させる基準点の移動量を算出し、前記射影ベクトルが前記撮影方向に直交する平面で示す方向の逆方向に、前記算出した移動量の分、前記標準の画像抽出範囲の基準点を前記移動させることとする。
また、前記カメラ情報取得手段は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの画角、または、前記指定されたカメラ位置における前記カメラの画角の少なくともいずれかを示す画角情報、および、前記撮影画像の撮影が行われた時点の前記カメラ位置から撮影対象までの距離、または、前記指定されたカメラ位置から撮影対象までの距離の少なくともいずれかを示す距離情報を取得し、前記画像基準点算出部は、前記取得された前記画角情報と、前記距離情報とに基づいて、撮影範囲の大きさを算出し、前記撮影範囲の大きさと、前記射影ベクトルの大きさとの比率に基づいて、前記基準点の前記移動量を算出することとすればよい。
基準点を移動させる方向および移動量は、上記射影ベクトルに基づいて定まる。射影ベクトルに基づいて、出力画像抽出範囲の基準点を決定することで、前記決定をより精度よく行うことができる。つまり、本来意図した画像を出力する精度を高めることができる。さらに、カメラの画角や、カメラ位置から撮影対象面までの距離を考慮して基準点の移動量を算出すれば、より正確に、出力画像抽出範囲の基準点を算出することができる。
また、位置の差分のうち、カメラの撮影方向の成分は、上述の通り、実際のカメラ位置が、本来のカメラ位置より撮影対象面まで遠いか近いかを示すものである。具体的に、どのようにして出力画像抽出範囲を決定するかは、以下のようにすればよい。
すなわち、前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置を終点とするベクトルで表したとき、前記画像サイズ算出部は、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と同一方向の場合は前記サイズを拡大し、前記ベクトルの撮影方向の成分が、前記撮影方向情報に示される前記撮影方向と反対方向の場合は前記サイズを縮小して前記サイズの決定を行うこととすればよい。
上述の構成を備える画像補正装置は、実際のカメラ位置が指定されたカメラ位置よりも撮影対象面まで近いか遠いかに応じて、出力画像抽出範囲のサイズを拡大または縮小するので、指定されたカメラ位置から撮影した場合と、実際のカメラ位置から撮影した場合とで、被写体の大きさを揃えることができる。つまり、本来意図したような画像を出力することができる。
より具体的には、前記画像サイズ算出部は、前記撮影方向の成分の大きさに応じて、前記サイズの補正の倍率を決定する倍率決定部を含み、決定した倍率に従って前記標準の画像抽出範囲のサイズを前記補正することとすればよい。
また、前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置を終点とするベクトルで表し、前記ベクトルの撮影方向の成分の大きさをa、前記指定されたカメラ位置から撮影対象までの距離をbとし、前記カメラ情報取得手段は、さらに、前記指定されたカメラ位置から撮影対象までの距離を示す距離情報を取得し、前記倍率決定部は、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と前記同一方向の場合は、前記倍率をb/(b−a)と決定し、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と反対方向の場合は、前記倍率をb/(b+a)と決定することとすればよい。
こうすることで、出力画像抽出範囲のサイズをより正確に決定することができる。
ところで、出力画像のサイズは一定である方が望ましい場合がある。画像表示ソフトウェアやハードウェアの制約により、表示できる画像サイズの幅が限られる場合があるからでる。しかし、画像サイズ算出部により出力画像抽出範囲のサイズが変更された場合、抽出した画像をそのまま出力すると、変更後の画像サイズの画像が出力され、出力画像の画像サイズが一定でなくなる。
そこで、前記補正画像出力手段は、前記出力画像抽出範囲の画像を前記撮影画像から抽出し、抽出した画像を、前記画像サイズ算出部により決定された前記倍率の逆数倍のサイズの画像に拡大または縮小する出力画像サイズ調節部を含み、前記出力画像サイズ調節部により前記倍率の逆数倍のサイズとなった画像を前記出力することとすればよい。
こうすることで、出力画像の画像サイズを一定にすることができる。
また、カメラのロール操作を考慮して出力画像抽出範囲を決定することとしてもよい。
すなわち、前記カメラは、撮影方向を回転軸として撮影範囲を回転させるロール操作を行うことができ、前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の、ロール操作が行われている回転量を角度で示すロール角情報を取得するロール角情報取得手段を備え、前記決定手段は、前記位置差分情報と、前記取得した前記ロール角情報とに基づいて前記修正を行って前記出力画像抽出範囲の前記決定を行うこととしてもよい。
具体的には、前記ロール角情報取得手段は、さらに、前記指定されたカメラ位置におけるロール操作が行われている回転量を示す指定ロール角情報を取得し、前記決定手段は、前記取得した前記ロール角情報に示される回転量と、前記指定ロール角情報に示される回転量との差分の回転量を示す差分回転量を算出する差分回転量算出部を含み、前記位置差分情報に基づいて前記修正した範囲の画像抽出範囲を、前記差分回転量算出部で算出した前記差分回転量に示される回転量に基づいて回転させ、回転後の画像抽出範囲を前記出力画像抽出範囲と前記決定することとしてもよい。
また、前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、前記決定手段は、前記位置差分情報に基づいて、前記標準の画像抽出範囲の基準点を移動させる方向および移動量を決定する画像基準点算出部と、前記画像基準点算出部が決定した方向および移動量に示される前記移動後の点を、前記標準の画像抽出範囲の基準点に基づいた点を回転の中心として、前記ロール角情報に示される回転量の分、前記ロール角情報の示す回転方向とは逆方向に回転させる画像基準点補正部とを含み、前記画像基準点補正部により前記回転された点を基準点とした場合の画像抽出範囲を、前記回転された点に基づいた点を回転の中心として、前記差分回転量算出部が算出した前記差分回転量に示される回転量の分、前記差分回転量の回転方向とは逆方向に回転させ、回転後の画像抽出範囲を出力画像抽出範囲と前記決定することとしてもよい。
上述の構成を備える画像補正装置は、実際のカメラ位置からの撮影時にカメラのロール操作が行われた場合においても、そのロール操作を考慮して、本来意図した画像が含まれる範囲を出力画像抽出範囲として決定することができる。
また、実際のカメラ位置からの撮影と、指定されたカメラ位置からの撮影とで、撮影方向が平行でない場合は、以下のようにすればよい。
すなわち、前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラの撮影方向と、前記指定されたカメラ位置における撮影方向との誤差を示す撮影方向誤差情報を取得する撮影方向誤差情報取得手段を備え、前記決定手段は、前記取得した撮影方向誤差情報と、前記位置差分情報とに基づいて前記修正して前記出力画像抽出範囲の前記決定を行うこととしてもよい。
具体的には、前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解し、前記撮影方向誤差情報に示される前記撮影方向の誤差を、前記撮影方向情報に示される前記撮影方向の成分と、前記直交する平面の成分とに分解する分解部と、前記差分の前記撮影方向成分と前記撮影方向の誤差の前記撮影方向成分とに基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、前記差分の前記直交する平面の成分と前記撮影方向の誤差の前記直交する平面の成分とに基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部とを含むこととしてもよい。
撮影方向に誤差がある場合でも、この撮影方向の誤差は、結局、カメラの撮影方向成分と、撮影方向に直交する平面の成分とに分解することができるので、撮影方向の誤差を考慮して出力画像抽出範囲を決定することができる。
また、移動体がローリングやピッチングなどの運動を行っていてその運動の分の差が、指定されたカメラ位置と、実際のカメラ位置とである場合、この運動の影響で、カメラの撮影方向が本来意図した方向からずれることがある。例えば、指定されたカメラ位置では、ピッチングが行われないことを意図していても、実際のカメラ位置において移動体がピッチングを行っていたとすると、そのピッチングの分、撮影方向に誤差ができる。この場合も、結局、上述のように、撮影方向の誤差を、撮影方向成分と撮影方向に直交する平面の成分とに分解すれば、出力画像抽出範囲を決定することができる。
すなわち、前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点における前記移動体と、前記指定されたカメラ位置における移動体との、ローリング角度、ピッチング角度、ヨーイング角度の差分の少なくとも1つを示す移動体運動誤差情報を取得する運動後差情報取得手段を備え、前記決定手段は、前記取得した位置差分情報と、前記移動体運動誤差情報とに基づいて前記修正して前記出力画像抽出範囲の前記決定を行うとしてもよい。
具体的には、前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解し、前記移動体運動誤差情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記直交する平面の成分とに分解する分解部と、前記位置差分情報に示される前記差分の前記撮影方向成分と前記移動体運動誤差情報に示される前記差分の前記撮影方向成分との和に基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、前記位置差分情報に示される前記差分の前記直交する平面の成分と前記移動体運動誤差情報に示される前記差分の前記直交する平面の成分との和に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点を決定する画像基準点算出部とを含むこととしてもよい。
これにより、移動体の運動の誤差を考慮して出力画像抽出範囲を決定することができる。
また、本発明は、前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、前記決定手段は、前記位置差分情報に示される位置の差分に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部を含むこととしてもよい。
例えば、指定されたカメラ位置と、実際のカメラ位置とで、位置の差分のうち、撮影方向の成分が小さく、撮影画像におよぼす影響が無視できる程度である場合には、出力画像抽出範囲の位置のみを決定し、画像サイズをそのままにしておいてもよい。こうすることで、出力画像抽出範囲の決定を高速化できる。
また、本発明は、前記決定手段は、前記位置差分情報に示される位置の差分に基づいて、前記標準の画像抽出範囲のサイズを拡大または縮小し、拡大または縮小後のサイズを、出力画像抽出範囲のサイズと決定することとしてもよい。
例えば、指定されたカメラ位置と、実際のカメラ位置都で、位置の差分のうち、撮影方向に直交する平面の成分が小さく、撮影画像におよぼす影響が無視できる程度である場合には、出力画像抽出範囲のサイズのみを決定し、基準点の位置をそのままにしておいてもよい。こうすることで、出力画像抽出範囲の決定を高速化できる。
また、本発明は、具体的には、前記移動体は、前記移動体が移動すべき経路を示す指令情報に基づいて移動および前記カメラによる撮影を行い、前記画像補正装置は、さらに、前記指令情報を取得する指令情報取得手段を備え、前記指定されたカメラ位置とは、前記指令情報に示される経路上の位置である、という構成により実現される。
また、本発明の実施の方法としては、以下のようにしてもよい。
すなわち、前記画像補正装置は、さらに、前記標準の画像抽出範囲を修正する修正方法を、前記差分と対応づけた画像補正情報を取得して記憶する画像補正情報取得手段を備え、前記決定手段は、前記位置差分情報に示される差分と対応している前記修正方法を、前記記憶している前記画像補正情報から読み出し、前記対応している前記修正方法に従って前記決定を行うこととしてもよい。
具体的には、前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、前記画像補正情報は、前記差分と対応付けて、前記出力画像抽出範囲のサイズおよび基準点の位置とを記憶しており、前記決定手段は、前記画像補正情報に示される前記サイズおよび前記基準点の位置を、前記出力画像抽出範囲と前記決定することとしてもよい。
この場合、位置の差分に応じてどのように出力画像抽出範囲を決定するかを予め取得して記憶しているので、出力画像抽出範囲の位置やサイズを算出する処理は不要であり、処理を高速化できる。
また、本発明は、以下のようにしてもよい。
すなわち、前記移動体は、カメラの撮影により映像を生成し、
前記画像補正装置は、前記生成された映像を構成する各画像について、前記決定手段により前記出力画像抽出範囲の前記決定を行い、前記補正画像出力手段は、各画像について前記決定された出力画像抽出範囲の画像を抽出して映像として出力する映像出力部を含むこととしてもよい。
これにより、画像補正装置は、移動体が撮影した映像を補正し、補正後の映像を出力することができる。
また、本発明は、以下のようにしてもよい。
すなわち、移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正システムであって、カメラ位置の指定を受け付ける位置指定受付手段と、受け付けた指定にかかるカメラ位置を位置指定情報として記憶する位置指定情報記憶手段と、前記移動体が実際に移動した経路を示す移動軌跡情報を取得する移動軌跡情報取得手段と、前記位置指定情報と、前記取得した移動軌跡情報とに基づいて、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、前記指定されたカメラ位置との差分を算出する位置差分算出手段と、前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記位置差分算出手段により算出された前記差分に基づいて修正し、出力画像抽出範囲として決定する決定手段と、前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力手段とを含むこととしてもよい。
こうすることで、移動体が画像を撮影した後でも、後から移動体が移動すべき経路を指定し、指定した経路から移動体が撮影したならば得られたであろう出力画像を出力することができる。
また、本発明は、移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正方法であって、前記画像補正方法は、前記カメラが撮影した撮影画像を取得する画像取得ステップと、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得ステップと、前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定ステップと、前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力ステップとを含むことを特徴とする画像補正方法でもある。
また、本発明は、移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正処理を画像補正装置に行わせるための制御プログラムであって、前記制御プログラムは、前記カメラが撮影した撮影画像を取得する画像取得ステップと、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得ステップと、前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定ステップと、前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力ステップとを含むことを特徴とする制御プログラムでもある。
また、本発明は、移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正処理を実行する集積回路であって、前記カメラが撮影した撮影画像を取得する画像取得部と、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得部と、前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定部と、前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力部とを含むことを特徴とする集積回路でもある。
<実施の形態>
以下、本発明について、画像補正装置1を中心に説明する。
1.1 概要
本発明の画像補正装置1は、移動体2に搭載されたカメラ24により撮影された画像を補正して出力する。移動体2とは、例えば、ガス気球などの飛行体である。以下、移動体2がガス気球である場合を例にして説明する。移動体2はカメラ24を搭載している。室内や公園等の場において、移動体2は、移動指令装置3と通信を行って得られた指令情報70に従って移動および撮影を行う。
図1は、本発明の構成の概要を示した図である。
図1には、画像補正装置1と、移動体2と、移動指令装置3が示されている。
まず、移動指令装置3、移動体2、画像補正装置1が発揮する機能を順に簡単に説明する。
1.1.1 移動指令装置3の概要
移動指令装置3は、移動体2が移動すべき経路およびカメラ24の撮影方法を指令する。具体的には、移動体2が移動すべき移動経路およびカメラ24の撮影方法に関する情報が含まれている指令情報70を移動体2に送信する。なお、移動指令装置3は、指令情報70を画像補正装置1にも送信する。
1.1.2 移動体2の概要
移動体2は、風などの外乱の影響を受けていても移動指令装置3に指令された経路に沿うように自機の移動を制御しつつ、カメラ24による撮影を行う。
具体的には、移動体2は、指令情報70を移動指令装置3から受け付けて、指令情報70に示される移動経路および撮影方法により移動と撮影とを行うよう自機を制御する。
移動体2は、上部に気球21、下部に雲台23およびカメラ24、後部にプロペラ22を備えている。移動体2は、自機の位置を逐次取得し、指令情報70に示される移動経路との誤差を位置差分情報80として記録する。風などの外乱の影響を受けて移動体2の位置が指令情報70に示される移動経路から外れた場合には、位置の誤差を修正して前記移動経路に復帰するよう、プロペラ22を制御する。
また、移動体2は、指令情報70に示される撮影方法により撮影を行うよう、雲台23によりカメラ24の撮影方法を制御する。カメラ24により撮影された画像に識別子を付して画像を記憶し、撮影の時点と前記識別子とを対応づけた撮影画像情報90を生成する。撮影画像情報90は、カメラ24により撮影された画像を管理するための情報である。
移動体2は、撮影画像と、位置差分情報80と、撮影画像情報90とを、画像補正装置1へ送信する。
1.1.3 画像補正装置1の概要
画像補正装置1は、移動体2が送信する撮影画像と、位置差分情報80と、撮影画像情報90とを取得する。位置差分情報80には移動体2が実際にいた位置と本来いるべき位置との誤差が時刻と対応づけて示されている。画像補正装置1は、この誤差に基づいて、各時点において撮影された撮影画像を補正する。
1.1.4 移動体2の位置およびカメラ24の撮影方向の表現
移動体2の位置とカメラ24の撮影方向について、補足する。
移動体2の位置は、実空間上の3次元の座標で表現されるとする。実空間上の3次元の座標系を、グローバル座標系と称する。図1には、グローバル座標系を(x,y,z)と示している。ここで、実施の形態1では、xy平面を、地表に平行な平面とし、z軸を高さ方向とする。
また、カメラ24の撮影方向は、カメラ24を座標の原点としたカメラ座標系で表現することとする。
図2は、カメラ座標系を示す図である。
図2(a)は移動体2の斜視図である。図2(a)に示すように、カメラ座標系は、カメラ24を原点とし、p軸、q軸、r軸の3軸からなる。本実施形態では、移動体2の前部と後部とを結ぶ方向をp軸、移動体2の上部と下部とを結ぶ方向をr軸とする。p軸とr軸とは直交することとする。p軸およびr軸からなる平面に直交する方向をq軸とする。すなわち、カメラ座標系は、移動体2の前後方向の軸をp軸、そして、移動体2の左右の方向をq軸、上下方向の軸をr軸として表される。なお、各軸の正方向については、例えば、p軸は移動体2の後部から前部への方向を正とする。q軸は、移動体2の右側面から左側面への方向を正とする。r軸は、移動体2の下部から上部への方向を正とする。
図2(b)は、移動体2の平面図であり、図2(c)は、移動体2の背面図である。
カメラ24の撮影方向は、カメラ座標系の原点を始点とする単位ベクトルで、p、q、rの各軸の成分を用いて"(p,q,r)"と表すこととする。例えばカメラ24の撮影方向が"(1,0,0)"である場合、カメラ24は移動体2の前方を向いている。カメラ24の撮影方向が"(0,1,0)"である場合、カメラ24は移動体2の左方を向いている。
1.1.5 実施の形態1における前提条件
ここで、実施の形態1における前提条件を説明する。
まず、移動体2の運動についての前提条件を説明する。
移動体2のような飛行体の運動は、主に、ローリングとピッチングとヨーイングとに分けられる。
移動体2が前後方向の軸、つまりp軸を中心に回転する運動を移動体2のローリングという。要するに移動体2が右や左に傾く運動である。
移動体2の左右側面を貫く軸方向、つまりq軸を中心に移動体2が回転する運動をピッチングという。要するに移動体2が機首を上下に振る運動である。
移動体2の上下方向の軸、つまりr軸を中心に移動体2が回転する運動をヨーイングという。要するに移動体2が機首を左右に振る運動である。
実施の形態1では、移動体2は、移動体2のローリングとピッチングが発生しにくい、または、ローリングやピッチングが発生したとしても直ちに元の釣り合い位置に戻る性質を備えているものとする。つまり、移動体2は、横安定と縦安定に優れた構成を備えているとする。なお、移動体2などの飛行体の横安定性と縦安定性を向上させる技術は、従来から広く研究され開示されており、本発明の特徴部分ではないため詳細な説明を省略する。
続いて、カメラ24の操作についての前提条件を説明する。
移動体2に搭載されているカメラ24は、チルト操作、パン操作、ロール操作を行うことができる。移動体2の上下方向の軸を中心にカメラ24を回転させることをパン操作という。パン操作を行うと、移動体2から見た場合に、移動体2の左方または右方にカメラ24を向けることとなる。また、p軸およびq軸からなる平面に対するカメラ24の傾きを操作することをチルト操作という。チルト操作を行うと、移動体2から見た場合に、移動体2の上方または下方にカメラ24を向けることとなる。また、カメラ24の撮影方向の軸を中心にカメラ24を回転させることをロール操作という。
実施の形態1においては、カメラ24は、チルト操作とパン操作が行われることとし、カメラ24のロール操作は行われないこととする。
なお、実際には、移動体2が移動するときには上昇や下降、左旋回や右旋回などを行うので、ローリングやピッチングを行うのであるが、ローリングやピッチングがカメラの撮影画像に与える影響は、無視できる程度に小さいものとする。つまり、撮影画像が、あたかもロール操作が行われたように大きく回転して、例えば地平線を水平に撮影したいにもかかわらず地平線が撮影画像において斜めに撮影されるなどの悪影響は出ない程度の運動であるとする。または、ローリングやピッチングによって移動体2が傾いた場合に、その傾きを考慮して、撮影画像が無視できないほどに回転しないよう、自動的にカメラのロール操作が行われることとする。
以下、移動体2、画像補正装置1の構成を順に説明する。なお、移動指令装置3は、指令情報70を送信する通信機能を有していればよく、特に構成要素に特徴があるわけではないので、構成の詳細な説明を省略する。
1.2 移動体2の構成
移動体2の構成を具体的に説明する。
図3は、移動体2の構成を示す機能ブロック図である。
図3に示すように、移動体2は、移動体本体20と、気球21と、プロペラ22と、雲台23と、カメラ24とからなる。なお、気球とプロペラと雲台とカメラとを備えた移動体は、従来より様々な場面で利用されている。例えばビル内部や屋外などで災害が発生した時に、人が踏み込むには危険な地帯を上方から撮影するといった場面などで広く利用されている。したがって、移動体2の具体的な実装、つまり気球の大きさや移動体2の重量等の説明は省略する。
1.2.1 気球21
気球21は、上述のように移動体2の上部に備えられている。本実施形態では、上述のように気球21はガス気球としている。気球21には、空気より軽い気体、例えばヘリウムガスが封入されており、移動体2を空中に浮遊させるだけの浮力を移動体2に与える。
1.2.2 プロペラ22
プロペラ22は、上述のように移動体2の後部に備えられている。移動体2は、プロペラ22を制御することで、移動体2の移動を制御することができる。
1.2.3 雲台23
雲台23は、カメラ24のカメラアングルを可動にする。つまり、カメラ24にパン操作やチルト操作などを行わせることができる。
1.2.4 カメラ24
カメラ24は、本来撮影すべき画角よりも広角の画像を撮影する。例えば、画像撮影範囲が、出力画像に要求される撮影範囲の2〜4倍程度の広角の画像を撮影する。
1.2.5 移動体本体20
移動体本体20は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random AccessMemory)等からなり、コンピュータプログラムを実行することにより、プロペラ22や雲台23やカメラ24の動作を制御する。また、通信機能を有し、移動指令装置3や画像補正装置1と通信を行う。
移動体本体20は、具体的には、指令情報取得部201と、位置誤差算出部202と、位置管理部203と、GPS204と、方向誤差算出部205と、方向管理部206と、ジャイロ207と、位置差分情報送信部208と、プロペラ動力補正部209と、プロペラ動力制御部210と、カメラアングル補正部211と、カメラアングル制御部212と、撮影画像取得部213と、撮影画像情報送信部214とからなる。
1.2.6 指令情報取得部201
指令情報取得部201は、通信機能を有し、移動指令装置3と通信を行う。
具体的に説明すると、指令情報取得部201は、移動指令装置3から送信される指令情報70を取得する。
1.2.6.1 指令情報70
ここで、後の説明の便宜のために、指令情報70を詳しく説明する。
図7は、指令情報70を示す図である。
図7(a)に示すように、指令情報70の1件のレコードは、時刻71と、位置72と、移動方向73と、撮影方向74と、画角75と、撮影対象面までの距離76とからなる。
時刻71は、時刻を示す。各レコード間の時刻の間隔は、どんなものでもよい。例えば1秒や1分ごととする。
位置72は、時刻71に示される時点において移動体2がいるべきグローバル座標系における座標を示す。座標のx軸、y軸、z軸の各成分を、"(x,y,z)"と表すこととする。
移動方向73は、時刻71に示される時点において移動体2が向くべき方向を示す。方向は、グローバル座標系の原点"(0,0,0)"を始点とする単位ベクトルとして表されることとする。移動体2は、位置72に示される座標において、この単位ベクトルに平行な方向を向くように制御される。例えば、移動方向73に"(0,−1,0)"と示されている場合、移動体2が向くべき方向は、y軸に平行な方向(すなわちxz平面に直交する方向)となる。
撮影方向74は、時刻71に示される時点においてカメラ24が向くべき方向を示す。なお、上述したように、カメラ24の向きはカメラ座標系で表現されるため、撮影方向74にはカメラ座標系における方向が示されている。
画角75は、時刻71に示される時点におけるカメラ24の画角の設定を示す。例えばカメラ24の焦点距離の長さをミリメートル単位で画角75として指令情報70に含めることとする。なお、画角75は、角度で示してもよい。また、水平方向および垂直方向の画角が異なる場合は、それぞれを画角75において示すこととしてもよい。
撮影対象面までの距離76は、カメラ24から撮影対象面までの距離を示す。撮影対象面とは、例えば、カメラ24の撮影方向のベクトルに直交する平面であって、撮影対象となる被写体が含まれる平面である。この平面は、地表面などの実際にある平面とは異なり、仮想的な平面である。要するに、撮影対象面までの距離とは、撮影の対象である被写体までの距離ということであるが、必ずしも被写体の存在を前提にしてはいないので、任意の距離を設定してもよい。したがって、撮影対象面までの距離は、撮影対象までの距離と同等でもある。撮影対象面までの距離76は、例えば、メートルを単位とする距離で表現する。
1.2.6.2 指令情報70の補足説明
指令情報70は、図7に示すように、各時刻において移動体2が位置すべき座標である位置72と、移動体2が向くべき方向である移動方向73と、カメラ座標系においてカメラ24が向くべき方向である撮影方向74とを含む。移動体2は、各時刻において位置72に示される座標を通過するようにプロペラ22を制御しつつ、撮影方向74に示される方向に撮影を行うようカメラ24を制御する。つまり、指令情報70は、移動体2が移動すべき経路および撮影方法を示したものといえる。
図7(b)に、上記指令情報70に示される、移動体2の移動すべき移動経路を簡単に図示する。なお、図7(b)において、"×"印は、時刻71に示される時刻において、移動体2が位置すべき座標を示している。実線は、移動体2が移動すべき移動経路であり、破線は、移動体2が撮影を行うべき撮影方向である。なお、撮影方向74は、カメラ座標系で表現されたカメラの撮影方向なので、グローバル座標系においてカメラが撮影している方向は、移動方向73に示されるベクトルと、撮影方向74に示されるベクトルとの和に平行な方向になる。
1.2.7 位置誤差算出部202
位置誤差算出部202は、移動体2が風などの外乱を受けることで、本来いるべき位置からどの程度離れているかを算出する。
具体的には、位置誤差算出部202は、指令情報取得部201が取得した指令情報70の、時刻71と位置72取得する。また、「1.2.8 位置管理部203」で後述する位置管理部203から、移動体2が実際に位置している座標の情報を取得する。時刻71に示される時点になった時に、位置72、すなわち移動体2が位置すべき座標の情報と、位置管理部203から受け付けた実際に位置している座標の情報とに基づいて、位置すべき座標と実際に位置している座標との誤差をベクトルで算出する。算出されるベクトルを、位置誤差ベクトルとする。
例えば、図4に示すように、位置73に示される、移動体2が本来位置すべき座標40aを始点とし、外乱の影響で本来位置すべき座標から離れている、移動体2が実際に位置している座標40bを終点とするベクトルを位置誤差ベクトルとする。
1.2.8 位置管理部203
位置管理部203は、移動体2が実際に位置している座標を管理する。
具体的には、GPS204から逐次出力される、移動体2が実際に位置している座標の情報を受け付けて記憶する。また、移動体2の実際の位置を、より精度良く管理するために、高度計などを備えて、移動体2の気圧高度を逐次測定してGPS高度を補正して記憶するなどとしてもよい。
1.2.9 GPS204
GPS204は、GPS(Global Positioning System )機能を有し、移動体2が実際に位置している座標を、GPS機能により逐次取得する。取得した座標を、逐次、位置管理部203へ出力する。GPS204により測定される座標の誤差は、小さいほど望ましい。
なお、GPS機能については、従来から知られている技術であるため、詳細な説明を省略する。
1.2.10 方向誤差算出部205
方向誤差算出部205は、外乱の影響を受けることで、移動体2が本来向くべき方向からどれだけずれているかを算出する。
具体的には、方向誤差算出部205は、指令情報取得部201が取得した指令情報70の、時刻71と移動方向73とを指令情報取得部201から取得する。また、「1.2.11 方向管理部206」で後述する方向管理部206から、移動体2が実際に向いている方向についての情報を受け付ける。時刻71に示される時刻になった時に、移動方向73、すなわち移動体2が向くべき方向についての情報と、方向管理部206から取得した、実際に向いている方向についての情報とに基づいて、向くべき方向と実際に向いている方向との誤差をベクトルで算出する。算出されるベクトルを、方向誤差ベクトルとする。
例えば、図5(a)に示すように、移動体2が実際に向いている方向を示す単位ベクトル50aから、移動体2が本来向くべき方向を示す単位ベクトル50bを引いたベクトル差を、方向誤差ベクトル50cとする。
方向誤差算出部205は、算出した方向誤差ベクトルを、カメラアングル補正部211とプロペラ動力補正部209とへ出力する。
1.2.11 方向管理部206
方向管理部206は、移動体2がグローバル座標系において実際に向いている方向を管理する。
具体的には、ジャイロ207から逐次出力される、移動体2が実際に向いている方向の情報を受け付けて記憶する。
1.2.12 ジャイロ207
ジャイロ207は、ジャイロ機構により、移動体2が実際に向いている方向を検出する。検出によって得られた、移動体2が実際に向いている方向を、逐次、方向管理部206へ出力する。
なお、ジャイロ機構による方向の検出については、従来から知られている技術であるため詳細な説明を省略する。
1.2.13 位置差分情報送信部208
位置差分情報送信部208は、通信機能を有し、画像補正装置1と通信を行う。
具体的には、位置差分情報送信部208は、位置誤差算出部202が算出した位置誤差ベクトルを、算出の時点と対応付けて、位置差分情報80として画像補正装置1へ送信する。
1.2.14 プロペラ動力補正部209
プロペラ動力補正部209は、指令情報取得部201が取得した指令情報70に示される、移動体2が移動すべき経路に沿って移動するようにプロペラ動力を補正する。
具体的には、プロペラ動力補正部209は、指令情報70の、時刻71、位置72、移動方向73を取得する。また、位置誤差算出部202から、位置誤差ベクトルを取得する。また、方向誤差算出部205から、方向誤差ベクトルを取得する。
プロペラ動力補正部209は、位置誤差ベクトルと方向誤差ベクトルとに基づいて、移動体2が位置すべき座標および移動体2が向くべき方向に復帰するのに必要なプロペラ動力の補正量を逐次算出してプロペラ補正情報としてプロペラ動力制御部210へ出力する。基本的には、誤差のベクトルがゼロになるようにプロペラ動力を補正すればよい。
1.2.15 プロペラ動力制御部210
プロペラ動力制御部210は、時刻71と、位置72と、移動方向73と、プロペラ補正情報とをプロペラ動力補正部209から取得して、指令情報70に示される移動経路、つまり時刻71に示されるそれぞれの時刻に、位置72および移動方向73に示される位置および方向になるようにプロペラ22のプロペラ動力を制御する。また、プロペラ補正情報に基づいてプロペラ動力を補正する。
なお、位置および方向の誤差がなくなるように、プロペラにより飛行体の移動を制御する技術は従来広く知られているため、詳細な説明を省略する。
1.2.16 カメラアングル補正部211
カメラアングル補正部211は、本来向くべき方向にカメラ24が向くように、カメラ24の撮影方向を補正する。
移動体2は、指令情報70の撮影方向74により、所定の時点においてカメラ24が撮影を行うべき撮影方向を管理している。この撮影方向は、上述のように、カメラ座標系で表現されている。つまり、撮影方向74には、移動体2から見た場合のカメラ24の撮影すべき方向が示されているのであって、移動体2がグローバル座標系において向いている方向とは無関係に定義されている。したがって、移動体2の移動方向が本来向くべき方向からずれていると、カメラ24の撮影方向もまた、グローバル座標系において本来撮影すべき撮影方向からずれてしまう。この撮影方向の誤差を修正するには、移動体2の方向誤差ベクトルを用いてカメラ24の撮影方向を補正すればよい。
例えば、図5(b)に示すように、カメラ24の実際の撮影方向を示す単位ベクトル50dに、上記方向誤差ベクトルの逆ベクトル50eを足すと、カメラ24の本来の撮影方向を示す単位ベクトル50fを求めることができる。
カメラアングル補正部211は、指令情報取得部201から時刻71、撮影方向74を取得する。また、方向誤差算出部205から、方向誤差ベクトルを受け付ける。カメラアングル補正部211は、方向誤差ベクトルに基づいて、撮影方向74に示されるカメラ24の撮影方向を補正してカメラ24の本来の撮影方向を示す単位ベクトルを算出する。補正後のカメラ24の撮影方向に関する情報を、カメラアングル制御部212へ出力する。
1.2.17 カメラアングル制御部212
カメラアングル制御部212は、カメラアングル補正部211から補正後のカメラ24の撮影方向に関する情報を取得して、雲台23により、カメラ24の撮影方向を制御する。つまり、移動体2が外乱の影響を受けて本来向くべき方向からずれた方向を向いたとしても、カメラ24のグローバル座標系における撮影方向が、グローバル座標系において本来撮影を行うべき方向に平行になるように雲台23を制御する。
なお、実施の形態1においては、カメラアングル制御部212の制御により、カメラ24のグローバル座標系における撮影方向が、ほぼ常にグローバル座標系において本来撮影を行うべき方向に平行となっているものとする。
1.2.18 撮影画像取得部213
撮影画像取得部213は、カメラ24を制御して、逐次、カメラ24に画像を撮影させる。撮影された画像に、例えばファイル名などの識別子を付して記憶する。また、撮影された画像の識別子と、撮影が行われた時刻とを対応づけて撮影画像情報90として記憶する。
1.2.19 撮影画像情報送信部214
撮影画像情報送信部214は、通信機能を有し、画像補正装置1に対して、カメラ24により撮影された画像、および、撮影画像情報90を送信する。
具体的には、撮影画像取得部213に記憶されている画像、および、撮影画像情報90を取得して画像補正装置1へ送信する。
1.2.20 その他
また、上述したように、指令情報70には、画角75や、撮影対象面までの距離76などの情報が含まれる。移動体本体20は、図示していないが、画角75や撮影対象面までの距離76などの情報に基づいて、カメラ24が撮影を行うための各種パラメータの設定を行う。例えば、焦点距離の設定や、発光、輝度や色差の調整、などを行う。
1.3 画像補正装置1の構成
次に、画像補正装置1の構成を具体的に説明する。
図6は、画像補正装置1の構成を示す機能ブロック図である。
図6に示すように、画像補正装置1は、位置差分情報取得部11と、撮影画像情報取得部12と、カメラ情報取得部13と、画像補正処理部14と、画像出力部15とからなる。
画像補正装置1は、具体的には、CPU、ROM、RAM等を備えるコンピュータシステムである。プログラムに従って、画像の補正処理を行う。画像補正装置1は、通信機能を有しており、移動指令装置3および移動体2と通信を行う。
1.3.1 位置差分情報取得部11
位置差分情報取得部11は、移動体2の位置差分情報送信部208から送信される位置差分情報80を取得して画像補正処理部14へ出力する。
1.3.2 撮影画像情報取得部12
撮影画像情報取得部12は、移動体2の撮影画像情報送信部214から送信される画像と撮影画像情報90とを取得して画像補正処理部14へ出力する。
1.3.3 カメラ情報取得部13
カメラ情報取得部13は、移動指令装置3から送信される指令情報70を取得して画像補正処理部14へ出力する。
1.3.4 画像補正処理部14
画像補正処理部14は、位置差分情報80に含まれる位置誤差ベクトルに基づいて、各時点においてカメラ24により撮影された広角の撮影画像から、出力画像として抽出すべき画像抽出範囲を決定し、決定した画像抽出範囲の画像を撮影画像から抽出して出力する。
画像補正処理部14は、広角の撮影画像から出力画像を抽出するための標準の画像抽出範囲を記憶している。画像抽出範囲は、撮影画像における位置を示す基準点と、抽出する大きさ、すなわち画像サイズとで表される。実施の形態1では、上記基準点は、画像抽出範囲の中心点を示すこととする。すなわち、画像抽出範囲は、中心点と、画像サイズとによって表現される。また、標準の画像抽出範囲の中心点(すなわち基準点)は、広角の撮影画像の中心点と一致しているとする。移動体2に位置の誤差がない場合は、標準の画像抽出範囲の画像を撮影画像から抽出して出力する。なお、画像抽出範囲については後述する。
具体的に画像補正処理部14を説明すると、画像補正処理部14は、位置差分情報80を位置差分情報取得部11から取得する。また、カメラ24により撮影された画像と撮影画像情報90とを撮影画像情報取得部12から取得する。また、指令情報70をカメラ情報取得部13から取得する。
また、図示するように、画像補正処理部14は、画像中心点算出部101と、画像サイズ算出部102とを含む。
画像中心点算出部101は、位置誤差ベクトルに基づいて、出力画像を抽出するための画像抽出範囲の中心点の位置を算出する。
画像サイズ算出部102は、位置誤差ベクトルに基づいて、出力画像を抽出するための画像抽出範囲の画像サイズを算出する。
画像補正処理部14は、位置差分情報80から、時刻81に示される各時点における位置誤差ベクトルを取得する。画像補正処理部14は、標準の画像抽出範囲を、位置誤差ベクトルに基づいて修正する。つまり、標準の画像抽出範囲の中心点を、位置誤差ベクトルに基づいて移動させ、また、画像サイズを、位置誤差ベクトルに基づいて拡大または縮小して、出力画像を抽出するための出力画像抽出範囲として決定する。
画像抽出範囲を決定するまでの処理を簡単に説明すると、まず、画像補正処理部14は、指令情報70から、ある時点において移動体2が向くべき方向、つまり移動方向73と、カメラ座標系で表現されたカメラ24の撮影方向、つまり撮影方向74とを取得して、実空間上、つまりグローバル座標系においてカメラ24が向くべき方向を示す単位ベクトルを算出する。この単位ベクトルを、撮影方向の単位ベクトルと呼ぶこととする。なお、この単位ベクトルの示す方向は、カメラアングル補正部211の補正により、カメラ24がグローバル座標系において実際に撮影している撮影方向と平行である。
前記撮影方向の単位ベクトルは、グローバル座標系で表されている。また、位置誤差ベクトルもグローバル座標系で表される。したがって、位置誤差ベクトルを、カメラ24の撮影方向の成分と、カメラ24の撮影方向に直交する平面の成分とに分解することができる。
画像補正処理部14は、このように位置誤差ベクトルの成分を分解し、さらに、指令情報70に含まれる、画角75や撮影対象面までの距離76を用いて、標準の画像抽出範囲を修正して出力画像を抽出するための出力画像抽出範囲を決定する。画像補正処理部14は、位置誤差ベクトルのうち、カメラ24の撮影方向に直交する平面の成分を用いて、画像中心点算出部101により基準点の位置を修正する。位置誤差ベクトルのうち、カメラ24の撮影方向の成分を用いて、画像サイズ算出部102により画像サイズを修正する。このようにして、標準の画像抽出範囲の中心点と画像サイズとを修正して、出力画像抽出範囲を決定する。この処理は、後で詳しく説明する。
画像補正処理部14は、出力画像抽出範囲を決定すると、その抽出範囲の画像を撮影画像から抽出して、画像サイズの調整を行って画像出力部15へ出力する。
要するに、画像補正処理部14は、広角に撮影された画像から、位置の誤差がなかった場合に出力するであろう画像の範囲を、位置の誤差を用いて、特定する。特定した範囲の画像を抽出して出力する。
1.3.5 画像出力部15
画像出力部15は、画像補正処理部14から出力される画像を受け付けて、映像信号としてディスプレイ4へ出力する。
1.4 データ
次に、位置差分情報80、撮影画像情報90について説明する。
1.4.1 位置差分情報80
図8は、位置差分情報80を示す図である。
図8(a)に示すように、位置差分情報80の1件のレコードは、時刻81と、位置誤差82とからなる。
時刻81は、時刻を示す。
位置誤差82は、時刻81に示される時点における位置誤差ベクトルを示す。
図8(b)に、上記位置誤差82に示される誤差がある場合の移動体2の移動経路、つまり移動体2の実際の移動経路を簡単に図示する。なお、移動体2が本来移動すべき経路は、図7に示した指令情報70の通りとする。なお、図8(b)において、"○"印は、時刻81に示される時点において、移動体2が実際にいた位置の座標を表している。実線は、移動体2が実際に移動した移動経路である。破線は、移動体2が実際に撮影を行った撮影方向である。この撮影方向は、カメラアングル補正部211によって補正された撮影方向なので、移動体2が実際に撮影を行うべき位置からの撮影方向と平行である。
なお、本来移動体2が移動すべき移動経路と、実際に移動体2が移動した移動経路とを、図9および図10に示す。
図9は、本来移動体2が各時刻において位置すべき座標と、実際に移動体2が移動した移動経路とをxy平面に投影した図である。
同図においては、本来移動体2が各時点において位置すべき座標は、図7の指令情報70と対応している。図9においては、"×"印を付すことで、移動体2が各時点において位置すべき座標を示す。また、移動体2が各時点において撮影を行うべき撮影方向を破線で示す。
また、移動体2が実際に移動した移動経路は、図8の位置差分情報80と対応している。移動体2が実際に移動した経路を実線で示す。また、移動体2が実際に撮影を行った撮影方向は、移動体2が本来撮影を行うべき撮影方向と平行であるので、図9では移動体2が実際に撮影を行った撮影方向の図示を省略する。
図10は、本来移動体2が各時刻において位置すべき座標と、実際に移動体2が移動した移動経路とをxz平面に投影した図である。
詳細な説明は、図9と同様であるので省略する。
1.4.2 撮影画像情報90
図11は、撮影画像情報90を示す図である。
図11に示すように、撮影画像情報90の1件のレコードは、時刻91と、画像識別子92とからなる。
時刻91は、画像が撮影された時点を示す。
画像識別子92は、カメラ24によって撮影された画像の各々を識別する識別子を示す。例えば画像のファイル名である。
1.5 動作
次に、移動体2と画像補正装置1の動作を説明する。
1.5.1 移動体2の動作
移動体2は、指令情報70に示されるように移動しながら、逐次、画像の撮影を行っている。
図12は、移動体2の動作を示すフローチャートである。
指令情報取得部201は、移動指令装置3から指令情報70を取得する(ステップS129)。位置誤差算出部202は、位置管理部203から自機の位置を取得する(ステップS122)。位置誤差算出部202は、指令情報70と自機の位置とに基づいて位置誤差ベクトルを算出する(ステップS123)。
また、方向誤差算出部205は、移動体2が実際に向いている方向を方向管理部206から取得する(ステップS124)。方向誤差算出部205は、方向誤差ベクトルを算出する(ステップS125)。
プロペラ動力補正部209は、指令情報70と、位置誤差ベクトルと、方向誤差ベクトルとに基づいて、移動体2が本来移動すべき移動経路を通過するよう、プロペラ動力を補正する(ステップS126)。
また、カメラアングル補正部211は、方向誤差ベクトルと、指令情報70とに基づいて、カメラアングルを補正する(ステップS127)。
位置差分情報送信部208は、位置差分情報80を画像補正装置1へ送信する(ステップS128)。
また、撮影画像情報送信部214は、撮影画像と、撮影画像情報90とを画像補正装置1へ送信する(ステップS129)。
移動体2は、各構成要素を機能させて、上述の処理を逐次繰り返す。
1.5.2 画像補正装置1の動作
図13は、画像補正装置1の動作を示すフローチャートである。
画像補正装置1は、指令情報70や位置差分情報80等に示されるそれぞれの時刻における位置誤差ベクトルやカメラ24の撮影方向を用いて画像抽出範囲を決定し、各時刻において撮影された撮影画像から画像を抽出して出力する。
以下、具体的に説明すると、画像補正装置1は、移動体2から送信される撮影画像および撮影画像情報90を、撮影画像情報取得部12により取得する(ステップS131)。また、移動体2から送信される位置差分情報80を、位置差分情報取得部11により取得する(ステップS132)。また、移動指令装置3から送信される指令情報70を、カメラ情報取得部13により取得する(ステップS133)。
上述の「1.3.4 画像補正処理部14」で説明したように、画像補正処理部14は、位置差分情報80の位置誤差82に示される位置誤差ベクトルを、カメラ24の撮影方向の成分と、カメラ24の撮影方向に直交する平面の成分とに分解する。
画像補正装置1は、画像中心点算出部101により、位置誤差ベクトルの、カメラ24の撮影方向に直交する平面の成分に基づいて、出力画像を抽出するための画像抽出範囲の中心点を決定する(ステップS134)。
また、画像サイズ算出部102により、位置誤差ベクトルの、カメラ24の撮影方向の成分に基づいて、出力画像を抽出するための画像抽出範囲の画像サイズを決定する(ステップS135)。
画像補正装置1は、決定された中心点および画像サイズにより定まる画像抽出範囲の画像を、撮影画像から抽出する(ステップS136)。なお、ステップS134およびステップS135の処理は、後で詳しく説明する。
画像補正装置1は、抽出した画像を、画像出力部15によりディスプレイ4に出力する(ステップS137)。
画像補正装置1は、上述の処理を繰り返し行う。
1.6 画像抽出範囲の決定方法
ここで、画像中心点算出部101と画像サイズ算出部102とが、撮影画像から出力画像を抽出するための出力画像抽出範囲を決定する処理について、詳しく説明する。
上述のように、画像中心点算出部101は、位置誤差ベクトルの、カメラ24の撮影方向に直交する平面の成分(以下、「直交平面成分」という)に基づいて、出力画像抽出範囲の中心点を定める。
また、画像サイズ算出部102は、位置誤差ベクトルの、カメラ24の撮影方向の成分(以下、「撮影方向成分」という)に基づいて、出力画像抽出範囲の画像サイズを定める。
本来のカメラ位置からのカメラ24の撮影方向と実際のカメラ位置からの撮影方向は平行である。したがって、位置誤差ベクトルのうち、撮影方向成分の誤差は、要するに、カメラ24が、本来撮影すべき位置よりも撮影対象面に対して距離が近いか遠いかを示している。撮影対象面までの距離が本来の撮影位置からよりも近いのであれば、より近距離から撮影しているので、被写体が本来のカメラ24の位置よりも大きく写る。また、撮影対象面までの距離が本来の位置からよりも遠いのであれば、被写体が小さく写る。そこで、例えば、被写体が大きく写った場合は、出力画像抽出範囲の画像サイズを、標準の画像抽出範囲のものよりも大きくして画像を抽出する。
ただし、このままだと、画像サイズが大きい画像を出力してしまうので、抽出した画像を、本来の出力画像のサイズにあわせて縮小してから出力すればよい。こうすれば、本来のカメラ24の位置から撮影した場合に出力するであろう画像と同様の画像を出力することができる。
また、カメラ位置の誤差のうち、直交平面成分の誤差は、要するに、被写体が画像のどこに写るかに影響を与えるものである。例えば、本来、被写体を画像の中心付近に写すことを意図しているとする。カメラ24が、本来の撮影位置よりも高い高度から撮影していたとする。そうすると、カメラ24の撮影方向は本来撮影すべき位置からの撮影方向と平行なので、被写体が、画像の中心から下側よりに写ってしまう。
そこで、直交平面成分の誤差がある場合は、その誤差の方向の逆側に、標準の画像抽出範囲の中心点をずらし、ずらした点を出力画像抽出範囲の中心点とすることで、本来の位置から撮影した場合に出力するであろう画像と同様の画像を出力することができる。
1.6.1 実際のカメラ位置が本来の位置に一致している場合
図14は、実際のカメラ位置が本来のカメラ位置に一致している場合に、画像補正処理部14が画像抽出範囲を決定する過程を示す図である。
この場合、位置誤差ベクトルがゼロなので、当然、出力画像抽出範囲は、標準の画像抽出範囲と同一である。
図14(a)は、カメラ位置と、カメラ24が撮影対象面に対して撮影する実際の撮影範囲の大きさを示している。なお、同図(a)では、撮影対象面に平行な視点からカメラ位置と撮影範囲を眺めた場合の図を示している。撮影対象面とカメラの撮影方向とは直交する。本来のカメラ位置160aは、実際のカメラ位置165aと一致している。また、撮影方向164aは、本来のカメラ位置160aと実際のカメラ位置165aとで一致している。また、撮影対象面における本来の撮影範囲161aは、実際の撮影範囲166aと一致している。
図14(b)は、広角に撮影された撮影画像150aと、標準の画像抽出範囲151aと、出力画像152aとを示している。
画像補正処理部14は、標準の画像抽出範囲151aを出力画像抽出範囲と決定し、出力画像抽出範囲の画像を、撮影画像150aから抽出し、出力画像152aとして出力する。
1.6.2 位置誤差ベクトルが撮影方向と直交している場合
図15は、位置誤差ベクトルが撮影方向と直交している場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図である。
図15(a)は、カメラ位置と、カメラ24が撮影対象面に対して撮影する実際の撮影範囲の大きさを示している。図14(a)と同様に、撮影対象面に平行な視点からカメラ位置と撮影範囲を眺めた場合の図を示している。本来のカメラ位置160bと実際のカメラ位置165bとが、位置誤差ベクトル169bの分、撮影方向に直行する平面においてずれている。撮影方向164bは、本来のカメラ位置160bと実際のカメラ位置165bとで平行である。また、撮影対象面における本来の撮影範囲161bと、実際の撮影範囲166bとが、位置誤差ベクトル169bの分だけずれている。
位置誤差ベクトル169bは、撮影方向164bと直交しているので、位置誤差ベクトル169bの撮影方向成分はゼロである。したがって、画像補正処理部14は、画像抽出範囲の中心点の補正を行い、画像サイズの補正は行わない。
ここで、位置誤差ベクトル169bのうち、直交平面成分のベクトルをα(i,j)とする。なお、ベクトルαの成分iは、撮影対象面の水平方向と平行な成分を示し、ベクトルαの成分jは、撮影対象面の垂直方向と平行な成分を示すこととする。
上述のように、カメラ24の撮影方向は、実際のカメラ位置165bと本来のカメラ位置160bとで平行である。また、撮影対象面は、カメラ24の撮影方向164bに対して直交する。したがって、撮影対象面において、実際の撮影範囲166bは、本来の撮影範囲161bからベクトルα(i,j)だけずれたものであるとわかる。
図16に、撮影対象面における、本来のカメラ位置と実際のカメラ位置との撮影範囲を示す。図16に示すように、本来の撮影範囲161bを、位置誤差ベクトル169b(ベクトルα)だけずらすと、実際の撮影範囲166bと一致する。図16において、本来の撮影範囲161bの中心点を、本来の中心点162bとして示す。また、実際の撮影範囲166bの中心点を、実際の中心点167bとして示す。
また、図16では、本来の撮影範囲161bのうち、本来のカメラ位置から撮影された場合に標準の画像抽出範囲として抽出される範囲を、本来の標準抽出対象範囲163bとして示す。要するに、撮影範囲のうち、本来意図した画像として出力する範囲を示す。同様に、実際の撮影範囲166bのうち、実際のカメラ位置から撮影された場合に標準の画像抽出範囲として抽出される範囲を、実際の標準抽出範囲168bとして示す。要するに、実際に撮影された画像のうち、標準の画像抽出範囲に示される画像に相当する部分である。
図16に示すように、実際のカメラ位置から撮影された撮影対象面の撮影範囲を、ベクトルαの逆ベクトル、−αだけずらせば、本来のカメラ位置から撮影された撮影対象面の撮影範囲と一致する。ということは、実際の標準抽出範囲168bを、ベクトルαの逆ベクトルだけ移動させると、本来の標準抽出範囲163bに一致することとなる。
本来、出力したい画像は、本来の撮影範囲161bのうち、本来の標準抽出範囲163bに示される範囲の画像である。この点を考慮して、出力画像抽出範囲を決定すればよい。
図15(b)は、広角に撮影された撮影画像150bと、標準の画像抽出範囲151bと、出力画像152bと、出力画像抽出範囲153bと、中心点の補正量154bとを示している。中心点の補正量154bは、撮影画像150bの中心点(すなわち、標準の画像抽出範囲151の中心点)を、どれだけ移動させて出力画像抽出範囲の中心点とするかを示す。
ここで、撮影対象面までの距離を「b」とする。撮影対象面までの距離は、指令情報70の撮影対象面までの距離76に示されているので既知である。また、カメラ24の水平画角の角度を「θ」、垂直画角の角度を「ω」とする。カメラ24の画角は、指令情報70の画角75に示されているので既知である。また、撮影画像150bの画像サイズを、縦「m」ピクセル、横「n」ピクセルとする。そうすると、撮影対象面の範囲の大きさを距離で示すと、水平方向が「2b・tan(θ/2)」、垂直方向が「2b・tan(ω/2)」となる。また、位置誤差ベクトルのうち、直交平面成分のベクトルはα(i,j)である。撮影対象面においては、実際のカメラ位置からの撮影対象面を、ベクトルαの逆ベクトルだけ撮影対象面を動かすことで、本来のカメラ位置からの撮影対象面に一致させることができる。
したがって、縦「m」ピクセル、横「n」ピクセルの撮影画像150bにおいて、標準の画像抽出範囲151bの中心点をどれだけ移動させればよいかというと、水平方向に「v」ピクセル、垂直方向に「w」ピクセル動かすとすると、水平方向に関しては、(ベクトルαの逆ベクトルのi成分:撮影対象面の水平方向の大きさ=中心点の水平方向への移動量:撮影画像の水平方向のサイズ)であるから、−i:2b・tan(θ/2)=v:nより、「v=−in/{2b・tan(θ/2)}」となる。垂直方向に関しては、同様に、「w=−jm/{2b・tan(ω/2)}」となる。
画像補正処理部14は、標準の画像抽出範囲151bの中心点から水平方向に「v」ピクセル、垂直方向に「w」ピクセル移動した点を、出力画像抽出範囲153bの中心点と決定する。なお、出力画像抽出範囲153bの画像サイズは、上述のように標準の画像抽出範囲151bと同サイズである。
1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合
図17は、位置誤差ベクトルの方向が撮影方向と一致している場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図である。
図17(a)は、カメラ位置と、カメラ24が撮影対象面に対して撮影する実際の撮影範囲の大きさを示している。図14(a)と同様に、撮影対象面に平行な視点からカメラ位置と撮影範囲を眺めた場合の図を示している。本来のカメラ位置160cと、実際のカメラ位置165cとが、位置誤差ベクトル169cの分、撮影方向にずれている。撮影方向164cと、位置誤差ベクトル169cとが示す方向が一致している。また、実際の撮影範囲166cが、本来の撮影範囲161cよりも小さい。
要するに、本来のカメラ位置よりも撮影対象面までの距離が短い場合である。位置誤差ベクトル169cの方向は、撮影方向164cと一致しているので、位置誤差ベクトル169cの直交平面成分はゼロである。したがって、画像補正処理部14は、画像を抽出するための画像サイズの補正を行う。
ここで、位置誤差ベクトル169cの大きさを「a」とする。本来のカメラ位置から撮影対象面までの距離を「b」とする。「b」は、指令情報70の撮影対象面までの距離76から得られる。実際のカメラ位置から撮影対象面までの距離は、「b−a」となる。
本来の撮影範囲161cと、実際の撮影範囲166cとの、縦、横の長さの比は、ともに「b:(b−a)」となる。つまり、実際の撮影範囲166cの大きさは、撮影範囲の縦、横ともに、本来の撮影範囲161cの「(b−a)/b」倍した大きさとなる。言い換えると、実際の撮影範囲161cの縦、横をともに「b/(b−a)」倍した範囲の大きさが、本来の撮影範囲166cの大きさとなる。したがって、出力画像抽出範囲153cの画像サイズを、縦、横ともに標準の画像抽出範囲151cの画像サイズの「b/(b−a)」倍とすればよい。なお、中心点は、上述のように、標準の画像抽出範囲151cと出力画像抽出範囲153cとで一致している。
図17(b)は、広角に撮影された撮影画像150cと、標準の画像抽出範囲151cと、出力画像152cと、出力画像抽出範囲153cとを示している。
画像補正処理部14は、標準の画像抽出範囲151cの中心点を出力画像抽出範囲153cの中心点とし、出力画像抽出範囲153cの画像サイズを、縦、横ともに標準の画像抽出範囲151cのb/(b−a)倍と決定する。つまり、中心点を中心に、標準の画像抽出範囲151cの画像サイズを拡大する。
ただし、このままの画像サイズであると、出力画像152cの画像サイズが大きくなってしまうので、画像補正処理部14は、出力画像抽出範囲153cの範囲の画像を撮影画像から抽出し、抽出した画像を、縦、横ともに(b−a)/b倍して縮小する。縮小後の画像を、出力画像152cとして出力する。
1.6.4 位置誤差ベクトルの方向が撮影方向の反対方向である場合
図18は、位置誤差ベクトルの方向が撮影方向の反対方向である場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図である。
図18(a)は、カメラ位置と、カメラ24が撮影対象面に対して撮影する実際の撮影範囲の大きさを示している。図14(a)と同様に、撮影対象面に平行な視点からカメラ位置と撮影範囲を眺めた場合の図を示している。本来のカメラ位置160dと、実際のカメラ位置165dとが、位置誤差ベクトル169dの分、撮影方向164dに示す方向と反対側にずれている。また、実際の撮影範囲166dが、本来の撮影範囲161dよりも大きい。
要するに、本来のカメラ位置よりも撮影対象面までの距離が遠い場合である。位置誤差ベクトル169dの方向は、撮影方向164dと平行(ただし、向きは逆)なので、位置誤差ベクトル169dの直交平面成分はゼロである。したがって、画像補正処理部14は、画像を抽出するための画像サイズの補正を行う。
上述の「1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合」、および、図16の場合と同様に、位置誤差ベクトル169dの大きさを「a」、本来のカメラ位置から撮影対象面までの距離を「b」とする。そうすると、実際のカメラ位置から撮影対象面までの距離は、「b+a」となる。上述の図16に示した例と同様に考えると、出力画像抽出範囲153dは、縦、横ともに標準の画像抽出範囲151dの「b/(b+a)」倍とすればよいことがわかる。
図18(b)は、広角に撮影された撮影画像150dと、標準の画像抽出範囲151dと、出力画像152dと、出力画像抽出範囲153dとを示している。
画像補正処理部14は、出力画像抽出範囲153dの画像サイズを、縦、横ともに標準の画像抽出範囲151の「b/(b+a)」倍と決定する。これは、標準の画像抽出範囲151dよりも画像サイズが小さい。
画像補正処理部14は、出力画像抽出範囲153dの範囲の画像を撮影画像から抽出し、抽出した画像を、縦、横ともに「(b+a)/b」倍して拡大する。拡大後の画像を、出力画像152dとして出力する。
1.6.5 一般的な場合
図19は、画像補正処理部14が、位置誤差ベクトルを撮影方向成分と直交平面成分とに分解して出力画像抽出範囲を決定する処理の過程を示す図である。
位置誤差ベクトルが撮影方向成分のみの場合を、「1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合」「1.6.4 位置誤差ベクトルの方向が撮影方向の反対である場合」で説明した。また、位置誤差ベクトルが直交平面成分のみの場合を、「1.6.2 位置誤差ベクトルが撮影方向と直交している場合」で説明した。
一般的な場合として、位置誤差ベクトルが撮影方向成分と直交平面成分とに分解される場合は、上述の処理を組み合わせればよい。
すなわち、位置誤差ベクトルを、撮影方向に直交する平面に射影した射影ベクトル(つまり、位置誤差ベクトルの直交平面成分)をα(i,j)、撮影方向成分の大きさを「a」、本来のカメラ位置から撮影対象面までの距離を「b」とすると、出力画像抽出範囲153eの中心点を、「1.6.2 位置誤差ベクトルが撮影方向と直交している場合」で示したように決定し、出力画像抽出範囲153eの画像サイズを、「1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合」または「1.6.4 位置誤差ベクトルの方向が撮影方向の反対である場合」で示したように決定すればよい。
1.7 実施の形態1の変形例1
以上のように実施の形態1について説明してきたが、以下のように変形してもよい。
1.7.1 変形例1・経路を後から指定
上述の実施の形態1の説明では、指令情報70に示される移動経路に沿うように移動体2が移動し撮影した画像を、画像補正装置1が補正する場合を説明した。つまり、移動体2の移動経路が、撮影の前に予め指定されている場合を説明した。本発明は、これに限らず、移動体2の移動経路を、画像の撮影が行われた後で指定することとしてもよい。
この場合は、画像補正装置1は、実際に撮影された画像に基づいて、後から指定した経路に沿って移動体2が撮影を行ったならば得られるであろう画像を出力する。
図20に、変形例1の概要を示す。図20には、カメラが実際に移動した軌跡を軌跡170として示す。また、カメラが実際に撮影した方向を、実際の撮影方向171(171a、171b、・・)として示す。また、ユーザが後から指定した経路を、ユーザ指定経路172として示す。
図20に示すように、ユーザが経路を指定する際に参考になるよう、軌跡170と、各時点における実際の撮影方向171(171a、171b、・・)とをディスプレイに表示する。ユーザは、ディスプレイに表示された軌跡を参考にして、カメラが移動すべき経路を指定する。例えばユーザに経路を描かせてもよいし、カメラの実際の軌跡を軸としてパイプ状などの表示方法で経路の候補を複数表示し、ユーザに経路を選択させてもよい。
こうしてユーザが指定したユーザ指定経路172が決定すると、軌跡170上の点と、ユーザ指定経路172上の点との位置誤差ベクトルを算出することができる。算出した位置誤差ベクトルと、実際の撮影方向171の情報があれば、後は、上述で詳しく説明したように、位置誤差ベクトルに基づいて出力画像抽出範囲を決定することで、ユーザ指定経路172上の点から撮影した場合に得られる出力画像を、撮影画像から抽出することができる。
ここで、位置誤差ベクトルを算出するには、軌跡170上の1点に対応する、ユーザ指定経路172上の点が必要となる。軌跡170上の1点に対して、位置誤差ベクトルを算出するのに用いるユーザ指定経路172上の点は、どのようにでもとることができる。例えば、軌跡170上の1点を含む平面であって、グローバル座標系におけるカメラを搭載した移動体の移動方向に直交する平面と、ユーザ指定経路172との交点を、位置誤差ベクトルを算出するためのユーザ指定経路172上の点とする。移動体の移動方向は、軌跡170に基づいて得られることとする。
もちろん、これ以外の方法で位置誤差ベクトルを算出するためのユーザ指定経路172上の点を決定してもよい。例えば、軌跡170上の1点と、その点から実際に撮影した実際の撮影方向171をベクトルで表し、このベクトルとを含む平面が、ユーザ指定経路172と交差する点を、位置誤差ベクトルを算出するためのユーザ指定経路172上の点としてもよい。
このようにして、位置誤差ベクトルを算出するためのユーザ指定経路172上の点を決定すると、画像補正装置1は、図21に示すように、決定された点であるユーザ指定経路上の点180aを始点とし、この点と対応する軌跡上の1点180bを終点とするベクトルを、位置誤差ベクトルとして算出する。
1.7.2 変形例1の構成の例
移動体2の移動経路を後から指定する場合の構成の一例を、図22に示す。
図22に示すように、上述の変形例1は、例えば、画像補正装置1000と、カメラ装置2000と、経路指定装置3000と、ディスプレイ4からなる構成で実現できる。
1.7.3 カメラ装置2000の構成
カメラ装置2000は、移動しながら撮影を行う装置である。カメラ装置2000は、自装置が移動した経路(自装置が通過した座標および移動方向)と、撮影を行った時点におけるカメラの撮影方向とを記憶している。例えば、移動体2の位置管理部203、GPS204、方向管理部206、ジャイロ207と同等の機能を有することで、自機が通過した座標およびその時の移動方向を記憶する。また、カメラによって撮影を行った時刻と対応づけて、カメラの撮影方向や撮影時の画角などを記憶する。
なお、画角が固定の場合は、画角が変化しないので撮影があるたびに画角を記憶する必要はない。撮影方向についても同様である。
また、カメラ装置2000は、撮影時における撮影対象面までの距離を記憶する。撮影対象面までの距離は、距離センサなどによりカメラの撮影方向に存在する建築物、構造物、地表面等までの距離を測定することで得られる。あるいは、撮影対象面までの距離は、カメラ装置2000が求めるのではなく、カメラ装置2000の移動経路に基づいて、撮影後に他の装置等によって求めたり、ユーザにより指定したりすることとしてもよい。
このようにして、カメラ装置2000は、例えば図23に示すような移動軌跡情報70aを生成して記憶する。カメラ装置2000は、移動軌跡情報70aを、画像補正装置1000と経路指定装置3000へ送信する。
また、カメラ装置2000は、移動体2の撮影画像取得部213および撮影画像情報送信部214と同等の機能を有しており、撮影画像情報90を生成して画像補正装置1000へ送信する。
1.7.3.1 移動軌跡情報70a
ここで、移動軌跡情報70aについて説明する。
図23に示すように、移動軌跡情報70aの1件のレコードは、時刻71aと、位置72aと、移動方向73aと、撮影方向74aと、画角75aと、撮影対象面までの距離76aとからなる。移動軌跡情報70aは、指令情報70と実質的にほぼ同等の情報である。違いは、移動軌跡情報70aが、カメラ装置2000が実際に移動した経路等を示す情報であるのに対し、指令情報70は、移動体2が移動すべき経路等を示す情報である点である。
時刻71aは、時刻を示す。
位置72aは、時刻71aに示される時点においてカメラ装置2000が実際にいたグローバル座標系における座標を示す。
移動方向73aは、時刻71aに示される時点においてカメラ装置2000が実際に向いていたグローバル座標系における方向を示す。
撮影方向74aは、時刻71aに示される時点においてカメラ装置2000のカメラが向いていた方向を示す。撮影方向74aには、カメラ座標系における方向が示されている。なお、カメラ装置2000のカメラのカメラ座標系は、どのように定義してもよい。例えば、移動体2と同様にp軸、q軸、r軸を定義することとしてもよい。
画角75aは、時刻71aに示される時点におけるカメラ装置2000のカメラの画角を示す。
撮影対象面までの距離76aは、カメラ装置2000のカメラから撮影対象面までの距離を示す。
1.7.4 経路指定装置3000の構成
経路指定装置3000は、カメラ装置2000から移動軌跡情報70aを取得して、ディスプレイ4にカメラが実際に移動した軌跡を表示する。
詳しく図示していないが、経路指定装置3000は、移動軌跡情報70aの位置72a等に基づいて、カメラ装置2000が実際に移動した経路を3次元表現等で描画する画像処理部を備える。カメラ装置2000などの移動体が各時点において位置していた座標の情報に基づいて、移動体が実際に移動した軌跡をディスプレイに表示する技術は、従来から知られており、また、本発明の特徴部分でもないので、詳細な説明は省略する。
また、経路指定装置3000は、例えばキーボード、タッチパネルなどの、ユーザからの入力を受け付ける操作受付部を備え、ユーザから経路の指定を受け付ける。経路の指定を受け付けると、ユーザ指定の経路と、移動軌跡情報70aとから、画像撮影の各時点における位置誤差ベクトルを算出する。例えば、移動体2の位置誤差算出部202と同等の機能を有することで、位置誤差ベクトルを算出することができる。算出した位置誤差ベクトルを、それぞれの時点と対応づけて位置差分情報80として記憶する。これは、上述の実施例において説明した位置差分情報80と同等の情報である。
経路指定装置3000は、位置差分情報80を、画像補正装置1000へ送信する。
1.7.5 画像補正装置1000の構成
画像補正装置1000は、上述の実施例で説明した画像補正装置1とほぼ同等の機能を有している。異なる点は、カメラ情報取得部1013が取得する情報が、移動軌跡情報70aである点と、位置差分情報80を、経路指定装置3000から取得する点と、撮影画像情報90を、カメラ装置2000から取得する点である。なお、「1.7.3.1 移動軌跡情報70a」で上述したように、移動軌跡情報70aは、実質的には指令情報70と同等の情報である。ここで、「1.7.3 カメラ装置2000の構成」で上述したように、撮影対象面までの距離をカメラ装置2000が測定しない場合は、移動軌跡情報70aには、撮影対象面までの距離76aの情報が含まれていない。この場合、画像補正装置1000は、撮影対象面までの距離76aについての情報を、撮影対象面までの距離を算出した別の装置から取得するか、ユーザから撮影対象面までの距離の指定を受け付ける。
また、画像補正装置1000は、位置差分情報取得部1011、撮影画像情報取得部1012、カメラ情報取得部1013、画像補正装置1010、画像出力部1015からなり、画像補正処理部1010は、画像中心点算出部1101と、画像サイズ算出部1102とを含む。
これらの構成要素は、それぞれ、図6に示した画像補正装置1の位置差分情報取得部11、撮影画像情報取得部12、カメラ情報取得部13、画像補正処理部14、画像出力部15、画像中心点算出部101、画像サイズ算出部102と同等の機能を有しているため、詳細な説明を省略する。
1.7.6 画像補正装置1000の動作
画像補正装置1000は、移動軌跡情報70aの移動方向73aと撮影方向74aとからカメラの撮影方向を算出することができる。したがって、画像補正処理部1000は、算出した位置誤差ベクトルを、カメラの撮影方向の成分と、撮影方向に直交する成分とに分解することで、画像補正装置1と同様の方法で、出力画像抽出範囲を決定することができる。画像補正装置1と同様の方法で処理を行えばよいので、詳細な説明は省略する。
1.8 実施の形態1の変形例2
上述の実施の形態1の説明では、カメラ24のロール操作がないものとして説明したが、ロール操作が行われる場合も、本発明に含まれる。
以下、変形例2について説明する。なお、以下の説明では、位置誤差ベクトルの撮影方向成分の誤差がないものとして説明する。撮影方向成分に誤差がある場合は、撮影方向成分の誤差について、上述の「1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合」「1.6.4 位置誤差ベクトルの方向が撮影方向の反対方向である場合」で説明した処理を行って出力画像抽出範囲の画像サイズを決定すればよい。
カメラのロール操作が行われる場合であっても、要するに、実際のカメラ位置から撮影した場合の撮影範囲を、どのように動かせば、本来のカメラ位置から撮影した場合の撮影範囲に一致するかを考慮すればよい。
以下、ロール操作が行われたときに、撮影方向を軸にしてカメラ24が回転した角度をロール角度という。
なお、ロール操作を考慮する場合、移動体2は、撮影時のロール操作の回転量を記憶することとする。そして、各撮影時点でのロール操作の回転量を示すロール角情報を画像補正装置1へ送信することとする。画像補正装置1は、送信されたロール角情報を取得することとする。
1.8.1 撮影位置が同一の場合
まず、撮影位置が同一で、本来のカメラ位置からの撮影と、実際のカメラ位置からの撮影とでロール角度が異なる場合を説明する。
図24は、ロール角度が異なる場合の、本来のカメラ位置と実際のカメラ位置との撮影範囲を示す図である。
なお、本来のカメラ位置からの撮影では、ロール操作が行われず、ロール角度が0とする。実際のカメラ位置からの撮影では、反時計回りに角度θだけロール操作が行われたとする。
図24(a)では、本来のカメラ位置から撮影した場合の本来の撮影範囲30aを、点線で示す。また、実際のカメラ位置から撮影した場合の実際の撮影範囲31aを、実線で示す。なお、本来の撮影範囲30aの中に、出力画像として抽出される範囲を点線で示している。
本来の撮影範囲30aを、撮影範囲30aの中心を基準にして反時計回りにθだけ回転させたのが、実際の撮影範囲31aである。したがって、実際の撮影範囲31aを、本来の撮影範囲30aに一致させるには、実際の撮影範囲31aの中心を基準にして時計回りにθだけ回転させればよい。また、本来のカメラ位置から撮影した場合の標準の画像抽出範囲の画像が、実際の撮影画像では時計回りにθだけ回転して写っていることとなる。したがって、実際の撮影範囲31aの撮影画像における、標準の画像抽出範囲を、中心点を基準に時計回りにθだけ回転させると、出力すべき画像の画像抽出範囲が得られることとなる。
図24(b)は、実際のカメラ位置から撮影した撮影画像32aと、標準の画像抽出範囲33aを示す図である。
この標準の画像抽出範囲33aを、時計回りにθ(反時計回りに−θ)回転させたものが、出力画像抽出範囲34aである。出力画像抽出範囲34aを、図24(c)に示す。
出力画像抽出範囲34aの画像を、撮影画像32aから抽出して得られた画像が、出力画像35aとなる。図24(d)に、出力画像35aを示す。
なお、本来のカメラ位置からの撮影において、ロール操作が行われない場合を説明したが、要するに、撮影位置が同一で、本来のカメラ位置からの撮影と、実際のカメラ位置からの撮影とでロール角度が異なる場合は、そのロール角度の差の分だけ、撮影範囲が回転していることになる。
したがって、実際のカメラ位置からの撮影範囲を、そのロール角度の差の分、逆方向に回転させれば、本来のカメラ位置からの撮影範囲と一致する。ということは、実際のカメラ位置から撮影された撮影画像の、標準の画像抽出範囲を、画像抽出範囲の中心点を中心に、ロール角度の分、逆方向に回転させると、出力画像抽出範囲が得られる。
1.8.2 撮影位置が異なる場合
次に、一般的な場合として、カメラのロール操作が行われつつ、カメラの撮影方向に直行する平面上で、本来のカメラ位置と実際のカメラ位置とで位置の誤差がある場合を説明する。
本来のカメラ位置からの撮影ではロール操作が行われず、実際のカメラ位置からの撮影では、反時計回りにθだけロール操作が行われたとする。
カメラの撮影方向に直交する平面をi軸とj軸で表し、i軸は、ロール操作が行われていない、本来のカメラ位置からの撮影対象面における撮影範囲の水平方向と平行、j軸は本来のカメラ位置からの撮影対象面における撮影範囲の垂直方向と平行であるとする。位置誤差ベクトルの、撮影方向に直行する平面の成分を、ベクトルα(i,j)とする。
図25は、ロール角度および撮影位置が異なる場合の、本来のカメラ位置と実際のカメラ位置との撮影範囲を示す図である。
図25(a)に、本来のカメラ位置から撮影した場合の本来の撮影範囲30bを、点線で示す。また、実際のカメラ位置から撮影した場合の実際の撮影範囲31bを、実線で示す。位置誤差ベクトルαを撮影対象面に射影した射影ベクトルを、射影ベクトル36bとして示す。なお、撮影方向に直行する平面と、撮影対象面とは平行であるため、図25(a)では、撮影方向に直行する平面のi軸およびj軸も図示している。
図25(a)に示すように、実際の撮影範囲31bを、本来の撮影範囲30bに一致させるには、実際の撮影範囲31bを、i軸およびj軸からなる平面において射影ベクトル36bの逆ベクトルだけ移動させるとともに、ロール角度の分、逆方向に回転させればよい。また、本来意図したような出力画像を得るには、実際の撮影範囲31bの撮影画像における、標準の画像抽出範囲を、画像抽出範囲の中心点を基準に時計回りにθだけ回転させて、さらに、標準の画像抽出範囲の中心点を、ロール角度を考慮して射影ベクトルに基づいて移動させればよい。
図25(b)は、実際のカメラ位置から撮影した撮影画像32bの標準の画像抽出範囲を、時計回りにθ(反時計回りに−θ)回転させた画像抽出範囲を点線で示している。この画像抽出範囲の中心点を、標準の中心点38bとして示す。
ただし、このままでは、位置の誤差を考慮していないので、本来のカメラ位置から得られるであろう出力画像を抽出することはできない。
ここで、ベクトルαは、ロール操作が行われていない場合の、撮影対象面における撮影範囲の水平方向をi軸、垂直方向をj軸としていることに留意する。仮に、実際のカメラ位置からの撮影においてロール操作を行っていない場合は、本来の撮影範囲の水平方向および垂直方向と、実際の撮影範囲の水平方向および垂直方向がそれぞれ平行である。そのため、ベクトルαを撮影対象面に射影した射影ベクトル36bの示す方向の逆方向に、実際の撮影画像においても標準の画像抽出範囲の中心点を移動させれば出力画像抽出範囲の中心点が得られることとなる。
しかし、実際の撮影においてロール操作が行われていると、撮影対象面において、本来の撮影範囲の水平方向および垂直方向が、実際の撮影範囲の水平方向および垂直方向と、それぞれ平行とはなっていない。また、射影ベクトル36bは、ベクトルα(i,j)を撮影対象面に射影したベクトルである。したがって、実際の撮影範囲を、本来の撮影範囲に一致させるには、まず、実際の撮影範囲の水平方向をi’軸、垂直方向をj’軸として、実際の撮影範囲の中心点を、射影ベクトル36bの成分、つまりベクトルα(i,j)分、ベクトルαとは逆方向に移動させる。つまり、i’軸方向にーi、j’軸方向に−jだけ移動させる。
そして、移動させた点を、実際の撮影範囲の、もともとの中心点を基準にして時計回りにθ(半時計周りに−θ)だけ回転させると、本来の撮影範囲の中心点に一致する。
実際の撮影画像から出力画像抽出範囲を決定する際も、この点を考慮する。要するに、実際の撮影においてロール操作が行われなかったと仮定した場合の、出力画像抽出範囲の中心点を、標準の画像抽出範囲の中心点を基準にして時計回りにθ(半時計周りに−θ、つまりロール操作の逆回転)だけ回転させる。回転させた点が、ロール操作が行われた場合の出力画像抽出範囲の中心点である。
図25(c)は、実際の撮影においてロール操作が行われなかったと仮定した場合の、出力画像抽出範囲の中心点37bを示す図である。本来の撮影範囲の水平方向および垂直方向が、撮影方向に直交する平面のi軸およびj軸とそれぞれ平行で、ベクトルαおよび射影ベクトル36bを、i軸およびj軸の成分で表現しているので、ロール操作が行われなかったと仮定した場合の出力画像抽出範囲の中心点を移動させる方向は、射影ベクトル36bの各成分により表現される方向の逆方向である。
この中心点37bを、標準の中心点38bを基準にθだけ時計回りに回転させた点が、出力画像抽出範囲33bの中心点39bである。図25(d)に、出力画像抽出範囲33bとその中心点39bを示す。
1.8.3 ロール操作がある場合のまとめ
要するに、本来の撮影ではロール操作が行われず、実際の撮影ではロール操作が半時計周りにθだけ行われ、かつ、撮影方向に直行する平面に位置の誤差がある場合は、実施の形態1で説明した、ロール操作がない場合の出力画像抽出範囲の中心点を、標準の画像抽出範囲の中心点を基準にして時計回りにθ(半時計周りに−θ)だけ回転させ、さらに、出力画像抽出範囲そのものを、出力画像抽出範囲の中心点を基準に時計回りにθだけ回転させればよい。
なお、本来の撮影においてもロール操作が行われるべきである場合は、まず、実際の撮影画像から、本来の撮影においてロール操作が行われなかった場合の出力画像抽出範囲を決定し、さらに、決定した出力画像抽出範囲を、その出力画像抽出範囲の中心点を基準にして、本来の撮影において行われるべきロール操作のロール角度の分だけ同じ方向に回転させればよい。
この場合は、画像補正装置1は、本来の撮影において行われるべきロール操作の回転量を示す指定ロール角情報を取得することとする。
1.9 実施の形態1の変形例3
上述の実施の形態1の説明では、カメラ24の撮影方向は、指令情報70に示される、本来向くべき方向と平行であるとして説明した。
これに限らず、画像補正装置1は、カメラ24の撮影方向が、本来向くべき方向からずれている場合、つまり本来向くべき方向と平行でない場合であっても、そのずれを考慮して、撮影画像から出力画像抽出範囲を決定することができる。
1.9.1 撮影方向に誤差がある場合
上述のように、本発明は、位置誤差ベクトルを、撮影方向成分と、直交平面成分とに分解して出力画像抽出範囲を決定した。ここで、カメラ24の撮影方向が本来向くべき方向と平行ではなく、撮影方向に誤差がある場合、この誤差のベクトルを撮影方向誤差ベクトルとする。撮影方向はベクトルで表されるため、撮影方向誤差ベクトルは、例えば、実際の撮影方向を示すベクトルから本来の撮影方向を示すベクトルを引いた差分のベクトルとする。この撮影方向誤差ベクトルは、撮影方向の成分と、撮影方向に直交する平面の成分とに分解することができる。そうすると、位置誤差ベクトルを撮影方向成分と直交平面成分とに分解したときと同様の方法で、撮影方向の誤差を考慮して出力画像抽出範囲を決定することができる。
ここで、上述の実施形態では、撮影方向のベクトルは、単位ベクトルで表現することとした。撮影方向誤差ベクトルのうち、撮影方向に直行する平面の成分は、カメラ位置から撮影対象面までの距離が長くなるほど、拡大することに留意しなければならない。これに対し、撮影方向誤差ベクトルのうち、撮影方向の誤差は、拡大しない。
図26に、撮影方向誤差ベクトルがある場合の、カメラ位置と撮影対象面を図示する。
図26(a)には、本来の撮影方向41aと、実際の撮影方向42aと、撮影方向誤差ベクトル43aと、本来の撮影範囲44aと、実際の撮影範囲45aと、誤差46aと、カメラ位置49aとが示されている。
カメラ位置49aは、本来の撮影位置と実際の撮影位置とで同一とする。本来の撮影方向41aと、実際の撮影方向42aとの誤差の角度が、θで表されるとする。
ここで、実際の撮影方向42aは、移動体2が実際の撮影方向を記録する等の方法により既知であるとする。
本来の撮影方向41aと、実際の撮影方向42aは、上述のように、単位ベクトルとして表される。撮影対象面までの距離を「b」とする。撮影対象面までの距離は、本来の撮影位置および実際の撮影位置とでほぼ同じとする。そうすると、撮影方向誤差ベクトル43aのうち、直交平面成分の誤差は、撮影対象面において「b」倍となる。すなわち、誤差46aの大きさは、撮影方向誤差ベクトル43aのうち、直交平面成分の誤差の「b」倍となる。
図26(b)に、撮影方向誤差ベクトルのうち、直交平面成分を示すベクトルβ(i,j)を図示する。
図26(c)に、撮影対象面における、本来の撮影範囲44aと、実際の撮影範囲45aと、誤差46aとを示す。また、撮影方向誤差ベクトルのうち、直交平面成分を示すベクトルβを、ベクトルβ47aとして示す。誤差46aは、図示するように、ベクトルβ47aの「b」倍である。撮影方向に誤差がある場合は、誤差46aを、位置誤差ベクトルの直交平面成分とみなして、上述の実施の形態1と同様の方法で、出力画像抽出範囲の中心点を決定すればよい。
同様に、撮影方向誤差ベクトルのうち、撮影方向の成分に基づいて、上述の実施の形態1の「1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合」「。6.4 位置誤差ベクトルの方向が撮影方向の反対方向である場合」で説明したようにして、出力画像抽出範囲の画像サイズを拡大または縮小すればよい。
1.9.2 撮影方向に誤差がある場合の補足
なお、撮影方向誤差ベクトルのうち、撮影方向に直交する平面の成分に基づく誤差が撮影画像に与える影響は、撮影対象面までの距離が長くなるほど拡大する。そのため、撮影対象面までの距離が比較的長い場合は、撮影方向誤差ベクトルのうち、撮影方向の成分に基づく誤差は、直交平面成分に基づく誤差と比べて撮影画像に及ぼす誤差の影響が小さくなる場合がある。要するに、撮影方向に誤差があっても、被写体までの距離が遠ければ、撮影画像中の被写体の大きさはそれほど変わらないということである。
したがって、撮影方向誤差ベクトルのうち、撮影方向の成分については、誤差がないものと近似して、出力画像抽出範囲の画像サイズの拡大または縮小を行わないこととしてもよい。こうすると、画像補正装置1の処理を高速化でき、リアルタイム性のある処理を要する場合に有用である。
なお、撮影方向に誤差があり、カメラの位置にも誤差がある場合は、上述の誤差46aと、位置誤差ベクトルの直交平面成分とを合成して、合成したベクトルに基づいて出力画像抽出範囲の中心点を決定すればよい。
1.9.3 移動体2の運動がある場合
なお、上述の実施の形態1では、移動体2は、ローリングとピッチングが発生しにくいもの、あるいはローリングやピッチングによって撮影画像には大きな影響が出ないとして説明したが、本来の撮影方法と実際の撮影方法とで、移動体2がローリングやピッチングを行っている等の相違がある場合、カメラ24の撮影方向が、本来の撮影方法と実際の撮影方法とで異なることとなる。
移動体2が実際の撮影においてローリングやピッチングを行っている場合、例えばローリングが行われていれば、カメラ24の撮影方向が、p軸まわりに回転するということである。つまり、本来撮影すべき方向と、実際撮影した方向とが異なる。このように、移動体2の運動が、p軸やq軸やr軸まわりの運動、つまりカメラ座標系における回転として表現できるので、この運動は、結局、カメラの撮影方向の誤差として扱えばよいことになる。
上述の通り、カメラ24の撮影方向の誤差である、撮影方向誤差ベクトルを、撮影方向の成分と、撮影方向に直行する平面の成分とに分解することで、移動体2の運動を考慮して出力画像抽出範囲を決定することができる。
例えば、移動体2が実際に撮影を行ったときのローリングの角度やピッチングの角度やヨーイングの角度を移動体2が記憶しておき、画像補正装置1は、移動体2からこれらの情報を取得する。そして、本来移動体2が移動を行うときのローリングの角度やピッチングの角度やヨーイングの角度についての情報を取得することで、実際のローリングの角度等の情報との差分を求め、移動体2の運動の誤差を示す移動体運動誤差情報を取得する。この移動体運動誤差情報が取得できれば、カメラの撮影方向の誤差がわかる。その後は、上述のように、カメラの撮影方向の誤差に基づいて画像の抽出を行えばよい。
1.10 その他の補足
以上のように本発明にかかる画像補正装置1について実施の形態に基づいて説明したが、以下のように変形することもでき、本発明は上述の実施の形態で示した画像補正装置1に限られないことは勿論である。
1.10.1 位置差分情報送信部208の送信タイミング
位置差分情報送信部208が位置差分情報80を画像補正装置1へ送信するタイミングについて補足すると、位置差分情報送信部208は、位置誤差算出部202から位置誤差ベクトルを受け付けるたびに、逐次、送信することとしてもよい。この場合は、画像補正装置1は各時点の誤差ベクトルを受信することになるので、移動体2のカメラ24により撮影された画像を、リアルタイムに補正することができる。また、位置差分情報送信部208は、ある程度、各時点の位置誤差ベクトルを蓄積してからまとめて画像補正装置1へ送信してもよい。
また、撮影画像情報送信部214が撮影画像情報90およびカメラ24により撮影された画像を画像補正装置1へ送信するタイミングについても、同様である。すなわち、撮影画像情報送信部214は、撮影画像取得部213に記憶されている画像、および、撮影画像情報90を、画像が撮影されるたびに逐次読み出して送信することとしてもよい。この場合は、画像補正装置1は、上述のようにリアルタイムに補正することができる。また、ある程度、画像が蓄積されてからまとめて画像補正装置1へ送信してもよい。
1.10.2 移動体2のバリエーション
上述の実施例では、移動体2が飛行体である場合について説明したが、これに限られない。要するに、外乱の影響を受ける移動体であれば本発明を適用できる。例えば、ボート、ヨット、帆船などの、水面に浮かんで移動する浮遊移動体であってもよい。これら浮遊移動体は、移動に際して風の影響を受けやすい。また、波の影響により、浮遊移動体が揺れ動く。この他にも、例えば、地上を走行する走行体であってもよい。山岳や荒れ地を移動体が走行する場合、石などの障害物により、移動体が跳ねる場合がある。また、地上、水上に限らず、水中を移動する移動体であってもよい。水流の影響で移動体が移動に影響を受ける場合がある。
1.10.3 構成のバリエーション
なお、上述の実施の形態の説明では、画像補正装置1と、移動体2と、移動指令装置3とが別々の装置であるとして説明してきたが、別々の装置に分けられている必要はない。例えば移動体2が移動指令装置3や画像補正装置1の機能を有していてもよい。また、画像補正装置1が移動指令装置3の機能を有していてもよい。例えば、上述の実施の形態の説明では、移動体2が位置誤差や方向誤差を算出してプロペラ動力の補正やカメラアングル補正を行うこととしているが、これらの処理を、移動指令装置3が遠隔操作により移動体2に指令することとしてもよい。また、画像補正装置1は、指令情報70を、移動指令装置3から取得することとしているが、移動体2から取得することとしてもよい。
また、図6では、ディスプレイ4が画像補正装置1の外部にあるように図示されているが、画像補正装置1にディスプレイ4が含まれていてもよい。
なお、上述の実施の形態の説明では、移動体2は、位置誤差ベクトルや方向誤差ベクトルに基づいて、画像補正やプロペラ動力補正やカメラアングル補正を行うこととしているが、この他に、外乱を計測して得られたデータに基づいて、撮影画像から画像を抽出する出力画像抽出範囲の決定や、プロペラ動力補正やカメラアングル補正を行うとしてもよい。外乱を計測するには、例えば風圧センサ等を用いる。移動体2が水上や水中を移動する場合には水圧センサを用いるとよい。また、移動体2が地上を走行する場合は、圧力センサを用いるとよい。
また、移動体2の速度や加速度等に基づいて、出力画像抽出範囲の決定やプロペラ動力補正やカメラアングル補正を行うとしてもよい。
また、GPS204やジャイロ207を用いて移動体2の位置や方向を取得するとしているが、他の装置が移動体2の位置や方向を測定し、移動体2に通知することとしてもよい。
また、移動体2が気球21やプロペラ22により飛行する場合を説明したが、翼や羽、ジェット等、他の装置を用いてもよい。
また、上述の実施形態では、画像補正装置1は、指令情報70を受け付けることで、本来のカメラ24の撮影方向74の情報を取得して、撮影方向74に示される情報に基づいて、位置誤差ベクトルを分解していたが、移動体2がカメラ24の撮影方向を逐次記憶し、カメラ24の実際の撮影方向を取得して、実際の撮影方向に基づいて、位置誤差ベクトルを分解して画像の補正を行うこととしてもよい。
また、撮影対象面までの距離は、指令情報70に示されるように本来のカメラ位置からの距離としているが、移動体2が撮影対象面までの距離を測定できる場合は、実際のカメラ位置からの距離を用いて、画像サイズの補正等を行ってもよい。
また、位置誤差ベクトルや方向誤差ベクトルなど、誤差を示すためのベクトルの算出方法は、上述の実施の形態の方法に限らない。例えば、移動体2が本来位置している座標を終点とし、実際位置している座標を始点としたベクトルを位置誤差ベクトルとしてもよい。方向誤差ベクトルについても同様に、移動体2が本来向くべき方向を示す単位ベクトルから実際に向いている方向を示す単位ベクトルを引いたベクトル差を方向誤差ベクトルとしてもよく、さまざまな算出方法が考えられる。撮影方向誤差ベクトルについても同様である。
1.10.4 映像の補正
なお、上述の実施形態では、画像補正装置1は、移動体2のカメラ24が撮影した画像を補正することとして説明したが、移動体2が映像を撮影する場合、その映像を構成する1枚1枚の画像について、出力画像抽出範囲を決定して画像を順に抽出し、抽出した画像を順に出力することで、移動体2が撮影した映像を補正する映像補正装置とすることもできる。例えば、災害発生の現場や、屋外競技などのイベント会場などにおいて、安価で小型な移動体にカメラを搭載して上空から撮影させ、映像補正装置は、撮影された映像をリアルタイムで受け付けて、その映像を構成する1枚1枚の画像を逐次補正して出力するなどの利用形態が想定できる。人が撮影する場合は、カメラを人が操作するので、操作者が意図したような映像を撮影できるのは当然であるが、この場合、ヘリコプター等に搭乗して撮影することとなり、移動体は比較的大きくならざるを得ない上に、一般的に高コストである。
1.10.5 画像補正の方法のバリエーション
なお、上述の実施形態で説明した方法の他に、撮影画像から出力画像抽出範囲を決定する方法は、以下のようなものがある。
例えば、位置誤差ベクトルと、撮影対象面までの距離と、画角とに基づいて、標準の画像抽出範囲から中心点を移動させる方向および移動量、拡大または縮小する画像サイズの倍率等を、予め算出しておく。算出結果を、画像補正情報として、画像補正装置1に記憶させることとしてもよい。つまり、上述の位置誤差ベクトルがある場合に、実際の撮影対象面を本来の撮影対象面まで移動させるのに必要なベクトルの向きおよび方向を記憶していればよい。これらの補正量は、実験やシミュレーションなどにより算出しておく。後は、そのベクトルの大きさに基づいて、画像抽出範囲の中心点の移動量が定まる。
1.10.6 その他
(1)上記の各装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレィユニット、キーボード、マウスなどから構成されるコンピュータシステムである。前記RAM又は前記ハードディスクユニットには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、各装置は、その機能を達成する。ここで、コンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
(2)上記の各装置を構成する構成要素の一部又は全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。前記RAMには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、システムLSIは、その機能を達成する。
(3)上記の各装置を構成する構成要素の一部又は全部は、各装置に脱着可能なICカード又は単体のモジュールから構成されているとしてもよい。前記ICカード又は前記モジュールは、マイクロプロセッサ、ROM、RAM、などから構成されるコンピュータシステムである。前記ICカード又は前記モジュールは、上記の超多機能LSIを含むとしてもよい。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、前記ICカード又は前記モジュールは、その機能を達成する。このICカード又はこのモジュールは、耐タンパ性を有するとしてもよい。
(4)本発明は、上記に示す方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。
また、本発明は、前記コンピュータプログラム又は前記デジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD―ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray Disc)、半導体メモリなど、に記録したものとしてもよい。また、これらの記録媒体に記録されている前記コンピュータプログラム又は前記デジタル信号であるとしてもよい。
また、本発明は、前記コンピュータプログラム又は前記デジタル信号を、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしてもよい。
また、本発明は、マイクロプロセッサとメモリとを備えたコンピュータシステムであって、前記メモリは、上記コンピュータプログラムを記憶しており、前記マイクロプロセッサは、前記コンピュータプログラムに従って動作するとしてもよい。
また、前記プログラム又は前記デジタル信号を前記記録媒体に記録して移送することにより、又は前記プログラム又は前記デジタル信号を前記ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。
(5)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
本発明の画像補正装置は、カメラを搭載した移動体が撮影する際に、外乱の影響を受け、本来撮影したかった画像からずれが生じてしまうという頻繁に起こりうる事象に対し、移動体の位置の誤差に基づいて画像を補正して、本来撮影したかった画像を得ることができ、有用である。また、映像を構成する画像の各々を補正することで、映像を出力する映像補正装置としても用いることができる。
本発明の構成の概要を示した図。 カメラ座標系を示す図。 移動体2の構成を示す機能ブロック図。 位置誤差ベクトルの算出の一例を示す図。 方向誤差ベクトルの算出の一例を示す図。 画像補正装置1の構成を示す機能ブロック図。 指令情報70を示す図。 位置差分情報80を示す図。 本来移動体2が各時刻において位置すべき座標と、実際に移動体2が移動した移動経路とをxy平面に投影した図。 本来移動体2が各時刻において位置すべき座標と、実際に移動体2が移動した移動経路とをxz平面に投影した図。 撮影画像情報90を示す図。 移動体2の動作を示すフローチャート。 画像補正装置1の動作を示すフローチャート。 実際のカメラ位置が本来のカメラ位置に一致している場合に、画像補正処理部14が画像抽出範囲を決定する過程を示す図。 位置誤差ベクトルが撮影方向と直交している場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図。 撮影対象面における、本来のカメラ位置と実際のカメラ位置との撮影範囲を示す図。 位置誤差ベクトルの方向が撮影方向と一致している場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図。 位置誤差ベクトルの方向が撮影方向の反対方向である場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図。 画像補正処理部14が、位置誤差ベクトルを撮影方向成分と直交平面成分とに分解して出力画像抽出範囲を決定する処理の過程を示す図。 変形例1の概要を示す図。 変形例における、位置誤差ベクトルの算出の一例を示す図。 移動体2の移動経路を後から指定する場合の構成の一例を示す図。 移動軌跡情報70aを示す図。 ロール角度が異なる場合の、本来のカメラ位置と実際のカメラ位置との撮影範囲を示す図。 ロール角度および撮影位置が異なるばあいの、本来のカメラ位置と実際のカメラ位置との撮影範囲を示す図。 撮影方向誤差ベクトルがある場合の、カメラ位置と撮影対象面を示す図。
符号の説明
1 画像補正装置
2 移動体
3 移動指令装置
4 ディスプレイ
20 移動体本体
21 気球
22 プロペラ
23 雲台
24 カメラ
201 指令情報取得部
202 位置誤差算出部
203 位置管理部
204 GPS
205 方向誤差算出部
206 方向管理部
207 ジャイロ
208 位置差分情報送信部
209 プロペラ動力補正部
210 プロペラ動力制御部
211 カメラアングル補正部
212 カメラアングル制御部
213 撮影画像取得部
214 撮影画像情報送信部
1000 画像補正装置
1010 画像補正処理部
1011 位置差分情報取得部
1012 撮影画像情報取得部
1013 カメラ情報取得部
1101 画像中心点算出部
1102 画像サイズ算出部
1015 画像出力部
2000 カメラ装置
3000 経路指定装置

Claims (25)

  1. 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正装置であって、
    前記カメラが撮影した撮影画像を取得する画像取得手段と、
    前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得手段と、
    前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定手段と、
    前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力手段とを備える
    ことを特徴とする画像補正装置。
  2. 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
    前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、
    前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解する分解部と、
    前記撮影方向の成分に基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、
    前記撮影方向に直交する平面の成分に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部とを含む
    ことを特徴とする請求項1記載の画像補正装置。
  3. 前記位置差分情報に示される前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点のカメラ位置を終点とするベクトルで表したとき、
    前記撮影方向に直交する平面の成分は、前記ベクトルを前記撮影方向に直交する平面に射影した射影ベクトルであり、
    前記画像基準点算出部は、前記射影ベクトルの大きさに基づいて、前記移動させる基準点の移動量を算出し、前記射影ベクトルが前記撮影方向に直交する平面で示す方向の逆方向に、前記算出した移動量の分、前記標準の画像抽出範囲の基準点を前記移動させる
    ことを特徴とする請求項2記載の画像補正装置。
  4. 前記カメラ情報取得手段は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの画角、または、前記指定されたカメラ位置における前記カメラの画角の少なくともいずれかを示す画角情報、および、前記撮影画像の撮影が行われた時点の前記カメラ位置から撮影対象までの距離、または、前記指定されたカメラ位置から撮影対象までの距離の少なくともいずれかを示す距離情報を取得し、
    前記画像基準点算出部は、前記取得された前記画角情報と、前記距離情報とに基づいて、撮影範囲の大きさを算出し、前記撮影範囲の大きさと、前記射影ベクトルの大きさとの比率に基づいて、前記基準点の前記移動量を算出する
    ことを特徴とする請求項3記載の画像補正装置。
  5. 前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置を終点とするベクトルで表したとき、
    前記画像サイズ算出部は、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と同一方向の場合は前記サイズを拡大し、前記ベクトルの撮影方向の成分が、前記撮影方向情報に示される前記撮影方向と反対方向の場合は前記サイズを縮小して前記サイズの決定を行う
    ことを特徴とする請求項2記載の画像補正装置。
  6. 前記画像サイズ算出部は、前記撮影方向の成分の大きさに応じて、前記サイズの補正の倍率を決定する倍率決定部を含み、決定した倍率に従って前記標準の画像抽出範囲のサイズを前記補正する
    ことを特徴とする請求項2記載の画像補正装置。
  7. 前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置を終点とするベクトルで表し、前記ベクトルの撮影方向の成分の大きさをa、前記指定されたカメラ位置から撮影対象までの距離をbとし、
    前記カメラ情報取得手段は、さらに、前記指定されたカメラ位置から撮影対象までの距離を示す距離情報を取得し、
    前記倍率決定部は、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と前記同一方向の場合は、前記倍率をb/(b−a)と決定し、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と反対方向の場合は、前記倍率をb/(b+a)と決定する
    ことを特徴とする請求項6記載の画像補正装置。
  8. 前記補正画像出力手段は、前記出力画像抽出範囲の画像を前記撮影画像から抽出し、抽出した画像を、前記画像サイズ算出部により決定された前記倍率の逆数倍のサイズの画像に拡大または縮小する出力画像サイズ調節部を含み、
    前記出力画像サイズ調節部により前記倍率の逆数倍のサイズとなった画像を前記出力する
    ことを特徴とする請求項6記載の画像補正装置。
  9. 前記カメラは、撮影方向を回転軸として撮影範囲を回転させるロール操作を行うことができ、
    前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の、ロール操作が行われている回転量を角度で示すロール角情報を取得するロール角情報取得手段を備え、
    前記決定手段は、前記位置差分情報と、前記取得した前記ロール角情報とに基づいて前記修正を行って前記出力画像抽出範囲の前記決定を行う
    ことを特徴とする請求項1記載の画像補正装置。
  10. 前記ロール角情報取得手段は、さらに、前記指定されたカメラ位置におけるロール操作が行われている回転量を示す指定ロール角情報を取得し、
    前記決定手段は、前記取得した前記ロール角情報に示される回転量と、前記指定ロール角情報に示される回転量との差分の回転量を示す差分回転量を算出する差分回転量算出部を含み、
    前記位置差分情報に基づいて前記修正した範囲の画像抽出範囲を、前記差分回転量算出部で算出した前記差分回転量に示される回転量に基づいて回転させ、回転後の画像抽出範囲を前記出力画像抽出範囲と前記決定する
    ことを特徴とする請求項9記載の画像補正装置。
  11. 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
    前記決定手段は、前記位置差分情報に基づいて、前記標準の画像抽出範囲の基準点を移動させる方向および移動量を決定する画像基準点算出部と、
    前記画像基準点算出部が決定した方向および移動量に示される前記移動後の点を、前記標準の画像抽出範囲の基準点に基づいた点を回転の中心として、前記ロール角情報に示される回転量の分、前記ロール角情報の示す回転方向とは逆方向に回転させる画像基準点補正部とを含み、
    前記画像基準点補正部により前記回転された点を基準点とした場合の画像抽出範囲を、前記回転された点に基づいた点を回転の中心として、前記差分回転量算出部が算出した前記差分回転量に示される回転量の分、前記差分回転量の回転方向とは逆方向に回転させ、回転後の画像抽出範囲を出力画像抽出範囲と前記決定する
    ことを特徴とする請求項10記載の画像補正装置。
  12. 前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラの撮影方向と、前記指定されたカメラ位置における撮影方向との誤差を示す撮影方向誤差情報を取得する撮影方向誤差情報取得手段を備え、
    前記決定手段は、前記取得した撮影方向誤差情報と、前記位置差分情報とに基づいて前記修正して前記出力画像抽出範囲の前記決定を行う
    ことを特徴とする請求項1記載の画像補正装置。
  13. 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
    前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、
    前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解し、前記撮影方向誤差情報に示される前記撮影方向の誤差を、前記撮影方向情報に示される前記撮影方向の成分と、前記直交する平面の成分とに分解する分解部と、
    前記差分の前記撮影方向成分と前記撮影方向の誤差の前記撮影方向成分とに基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、
    前記差分の前記直交する平面の成分と前記撮影方向の誤差の前記直交する平面の成分とに基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部とを含む
    ことを特徴とする請求項12記載の画像補正装置。
  14. 前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点における前記移動体と、前記指定されたカメラ位置における移動体との、ローリング角度、ピッチング角度、ヨーイング角度の差分の少なくとも1つを示す移動体運動誤差情報を取得する運動後差情報取得手段を備え、
    前記決定手段は、前記取得した位置差分情報と、前記移動体運動誤差情報とに基づいて前記修正して前記出力画像抽出範囲の前記決定を行う
    ことを特徴とする請求項1記載の画像補正装置。
  15. 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
    前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、
    前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解し、前記移動体運動誤差情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記直交する平面の成分とに分解する分解部と、
    前記位置差分情報に示される前記差分の前記撮影方向成分と前記移動体運動誤差情報に示される前記差分の前記撮影方向成分との和に基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、
    前記位置差分情報に示される前記差分の前記直交する平面の成分と前記移動体運動誤差情報に示される前記差分の前記直交する平面の成分との和に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点を決定する画像基準点算出部とを含む
    ことを特徴とする請求項14記載の画像補正装置。
  16. 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
    前記決定手段は、前記位置差分情報に示される位置の差分に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部を含む
    ことを特徴とする請求項1記載の画像補正装置。
  17. 前記決定手段は、前記位置差分情報に示される位置の差分に基づいて、前記標準の画像抽出範囲のサイズを拡大または縮小し、拡大または縮小後のサイズを、出力画像抽出範囲のサイズと決定する
    ことを特徴とする請求項1記載の画像補正装置。
  18. 前記移動体は、前記移動体が移動すべき経路を示す指令情報に基づいて移動および前記カメラによる撮影を行い、
    前記画像補正装置は、さらに、前記指令情報を取得する指令情報取得手段を備え、
    前記指定されたカメラ位置とは、前記指令情報に示される経路上の位置である
    ことを特徴とする請求項1記載の画像補正装置。
  19. 前記画像補正装置は、さらに、
    前記標準の画像抽出範囲を修正する修正方法を、前記差分と対応づけた画像補正情報を取得して記憶する画像補正情報取得手段を備え、
    前記決定手段は、前記位置差分情報に示される差分と対応している前記修正方法を、前記記憶している前記画像補正情報から読み出し、前記対応している前記修正方法に従って前記決定を行う
    ことを特徴とする請求項1記載の画像補正装置。
  20. 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
    前記画像補正情報は、前記差分と対応付けて、前記出力画像抽出範囲のサイズおよび基準点の位置とを記憶しており、
    前記決定手段は、前記画像補正情報に示される前記サイズおよび前記基準点の位置を、前記出力画像抽出範囲と前記決定する
    ことを特徴とする請求項19記載の画像補正装置。
  21. 前記移動体は、カメラの撮影により映像を生成し、
    前記画像補正装置は、前記生成された映像を構成する各画像について、前記決定手段により前記出力画像抽出範囲の前記決定を行い、
    前記補正画像出力手段は、各画像について前記決定された出力画像抽出範囲の画像を抽出して映像として出力する映像出力部を含む
    ことを特徴とする請求項1記載の画像補正装置。
  22. 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正システムであって、
    カメラ位置の指定を受け付ける位置指定受付手段と、
    受け付けた指定にかかるカメラ位置を位置指定情報として記憶する位置指定情報記憶手段と、
    前記移動体が実際に移動した経路を示す移動軌跡情報を取得する移動軌跡情報取得手段と、
    前記位置指定情報と、前記取得した移動軌跡情報とに基づいて、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、前記指定されたカメラ位置との差分を算出する位置差分算出手段と、
    前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記位置差分算出手段により算出された前記差分に基づいて修正し、出力画像抽出範囲として決定する決定手段と、
    前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力手段とを含む
    ことを特徴とする画像補正システム。
  23. 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正方法であって、
    前記画像補正方法は、
    前記カメラが撮影した撮影画像を取得する画像取得ステップと、
    前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得ステップと、
    前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定ステップと、
    前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力ステップとを含む
    ことを特徴とする画像補正方法。
  24. 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正処理を画像補正装置に行わせるための制御プログラムであって、
    前記制御プログラムは、
    前記カメラが撮影した撮影画像を取得する画像取得ステップと、
    前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得ステップと、
    前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定ステップと、
    前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力ステップとを含む
    ことを特徴とする制御プログラム。
  25. 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正処理を実行する集積回路であって、
    前記カメラが撮影した撮影画像を取得する画像取得部と、
    前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得部と、
    前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定部と、
    前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力部とを含む
    ことを特徴とする集積回路。
JP2008501769A 2006-02-23 2007-02-23 画像補正装置、方法、プログラム、集積回路、システム Expired - Fee Related JP5155145B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008501769A JP5155145B2 (ja) 2006-02-23 2007-02-23 画像補正装置、方法、プログラム、集積回路、システム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2006047110 2006-02-23
JP2006047110 2006-02-23
JP2008501769A JP5155145B2 (ja) 2006-02-23 2007-02-23 画像補正装置、方法、プログラム、集積回路、システム
PCT/JP2007/053426 WO2007097431A1 (ja) 2006-02-23 2007-02-23 画像補正装置、方法、プログラム、集積回路、システム

Publications (2)

Publication Number Publication Date
JPWO2007097431A1 JPWO2007097431A1 (ja) 2009-07-16
JP5155145B2 true JP5155145B2 (ja) 2013-02-27

Family

ID=38437466

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008501769A Expired - Fee Related JP5155145B2 (ja) 2006-02-23 2007-02-23 画像補正装置、方法、プログラム、集積回路、システム

Country Status (4)

Country Link
US (1) US8085308B2 (ja)
JP (1) JP5155145B2 (ja)
CN (1) CN101390383B (ja)
WO (1) WO2007097431A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018124774A1 (ko) * 2017-01-02 2018-07-05 삼성전자 주식회사 전자 장치 및 그 제어 방법
US10267949B2 (en) 2014-10-17 2019-04-23 Sony Corporation Information processing apparatus and information processing method

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8617008B2 (en) 2001-09-12 2013-12-31 Pillar Vision, Inc. Training devices for trajectory-based sports
US8409024B2 (en) * 2001-09-12 2013-04-02 Pillar Vision, Inc. Trajectory detection and feedback system for golf
US9769354B2 (en) 2005-03-24 2017-09-19 Kofax, Inc. Systems and methods of processing scanned data
JP4775296B2 (ja) * 2007-03-27 2011-09-21 日本電気株式会社 撮像空間安定化装置及び被写体追尾装置
US9767354B2 (en) 2009-02-10 2017-09-19 Kofax, Inc. Global geographic information retrieval, validation, and normalization
US9576272B2 (en) 2009-02-10 2017-02-21 Kofax, Inc. Systems, methods and computer program products for determining document validity
JP5231331B2 (ja) * 2009-05-29 2013-07-10 株式会社エム・ソフト 映像合成方法、映像合成システム
DE102009058597B4 (de) * 2009-12-17 2012-04-19 Siemens Aktiengesellschaft Bildaufnahmesystem zur Aufnahme und Übertragung digitaler Videobilder, Bilddatenverarbeitungssystem zum Empfangen und Verarbeiten digitaler Bilddaten, Bildstabilisierungssystem und Verfahren zum Generieren verwacklungsarmer digitaler Videobilder
JP5486298B2 (ja) * 2009-12-28 2014-05-07 キヤノン株式会社 画像処理装置および画像処理方法
JP5264831B2 (ja) * 2010-06-21 2013-08-14 シャープ株式会社 画像処理装置、画像読取装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体
WO2012035886A1 (ja) * 2010-09-16 2012-03-22 パイオニア株式会社 端末保持装置
WO2012053102A1 (ja) * 2010-10-22 2012-04-26 パイオニア株式会社 端末装置、端末装置によって実行される画像処理方法及び画像処理プログラム
EP2754288A4 (en) * 2011-09-07 2015-06-03 Umoove Ltd SYSTEM AND METHOD FOR TRACKING AN OBJECT IN AN IMAGE CAPTURED BY A MOBILE DEVICE
FR2982393B1 (fr) * 2011-11-09 2014-06-13 Sagem Defense Securite Recherche d'une cible dans une image multispectrale
JP5858741B2 (ja) * 2011-11-15 2016-02-10 キヤノン株式会社 自動追尾カメラシステム
JP5711104B2 (ja) * 2011-12-14 2015-04-30 株式会社東芝 画像表示装置、方法、プログラム、及び画像処理装置
US9277101B2 (en) * 2011-12-22 2016-03-01 Verizon Patent And Licensing Inc. Method and system for generating interpolations of captured video content
US10146795B2 (en) 2012-01-12 2018-12-04 Kofax, Inc. Systems and methods for mobile image capture and processing
US8855375B2 (en) 2012-01-12 2014-10-07 Kofax, Inc. Systems and methods for mobile image capture and processing
JP2013219544A (ja) * 2012-04-09 2013-10-24 Ricoh Co Ltd 画像処理装置、画像処理方法、及び画像処理プログラム
TWI460668B (zh) * 2012-07-30 2014-11-11 Faraday Tech Corp 影像擷取系統與方法
CN103152522A (zh) * 2013-02-25 2013-06-12 东莞宇龙通信科技有限公司 调整拍摄位置的方法及其终端
US9208536B2 (en) 2013-09-27 2015-12-08 Kofax, Inc. Systems and methods for three dimensional geometric reconstruction of captured image data
US9355312B2 (en) 2013-03-13 2016-05-31 Kofax, Inc. Systems and methods for classifying objects in digital images captured using mobile devices
US8948457B2 (en) 2013-04-03 2015-02-03 Pillar Vision, Inc. True space tracking of axisymmetric object flight using diameter measurement
US20140316841A1 (en) 2013-04-23 2014-10-23 Kofax, Inc. Location-based workflows and services
DE202014011407U1 (de) 2013-05-03 2020-04-20 Kofax, Inc. Systeme zum Erkennen und Klassifizieren von Objekten in durch Mobilgeräte aufgenommenen Videos
US20150130936A1 (en) * 2013-11-08 2015-05-14 Dow Agrosciences Llc Crop monitoring system
JP2016538783A (ja) 2013-11-15 2016-12-08 コファックス, インコーポレイテッド モバイル映像データを用いて長尺文書の合成画像を生成するためのシステムおよび方法
JP5880612B2 (ja) * 2014-03-28 2016-03-09 ブラザー工業株式会社 情報処理装置及びプログラム
US9760788B2 (en) 2014-10-30 2017-09-12 Kofax, Inc. Mobile document detection and orientation based on reference object characteristics
JP6675607B2 (ja) * 2015-05-28 2020-04-01 国立大学法人東京工業大学 画像処理装置、画像処理システム、および画像処理プログラム
JP6570904B2 (ja) * 2015-07-10 2019-09-04 株式会社東芝 補正情報出力装置、画像処理装置、補正情報出力方法、撮像制御システム及び移動体制御システム
US10242285B2 (en) 2015-07-20 2019-03-26 Kofax, Inc. Iterative recognition-guided thresholding and data extraction
US10467465B2 (en) 2015-07-20 2019-11-05 Kofax, Inc. Range and/or polarity-based thresholding for improved data extraction
WO2017020150A1 (zh) * 2015-07-31 2017-02-09 深圳市大疆创新科技有限公司 一种图像处理方法、装置及摄像机
JP6281729B2 (ja) * 2015-09-16 2018-02-21 エスゼット ディージェイアイ オスモ テクノロジー カンパニー リミテッドSZ DJI Osmo Technology Co., Ltd. 撮影を行うシステム
CN108476282B (zh) * 2016-01-22 2020-07-17 富士胶片株式会社 摄影辅助装置及摄影辅助方法
US9779296B1 (en) 2016-04-01 2017-10-03 Kofax, Inc. Content-based detection and three dimensional geometric reconstruction of objects in image and video data
JP7203305B2 (ja) * 2017-11-08 2023-01-13 パナソニックIpマネジメント株式会社 撮影システム、撮影方法、及びプログラム
US10803350B2 (en) 2017-11-30 2020-10-13 Kofax, Inc. Object detection and image cropping using a multi-detector approach
JP7123604B2 (ja) * 2018-03-30 2022-08-23 セコム株式会社 監視システム及び監視装置
CN109316202B (zh) * 2018-08-23 2021-07-02 苏州佳世达电通有限公司 影像校正方法及检测装置
US11816873B2 (en) * 2018-09-06 2023-11-14 Shiseido Company, Ltd. Image analysis device, image analysis method, and program
JP7253001B2 (ja) * 2021-03-30 2023-04-05 本田技研工業株式会社 情報処理装置及び方法
CN114245089B (zh) * 2021-12-20 2023-07-18 青岛海信激光显示股份有限公司 几何校正方法、装置、激光投影设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005295495A (ja) * 2003-10-02 2005-10-20 Kazuo Iwane カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置,画像安定化装置,位置姿勢安定化装置,目的対象物ロックオン装置及び実写対象物属性呼出装置
JP2005303806A (ja) * 2004-04-14 2005-10-27 Matsushita Electric Ind Co Ltd 移動機構付き撮像装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6053942A (ja) 1983-09-05 1985-03-28 Asahi Shokai:Kk 空中撮影装置
JP3852745B2 (ja) * 2000-02-28 2006-12-06 株式会社日立国際電気 物体検出方法及び物体検出装置
DE60138330D1 (de) * 2000-02-28 2009-05-28 Hitachi Int Electric Inc Vorricht ung und Systemzur Überwachung von eingedrungenen Objekte
JP4015051B2 (ja) * 2002-04-22 2007-11-28 松下電器産業株式会社 カメラ補正装置
US7688381B2 (en) * 2003-04-08 2010-03-30 Vanbree Ken System for accurately repositioning imaging devices
JP2004328484A (ja) * 2003-04-25 2004-11-18 Hitachi Ltd 監視システム及び監視端末
JP4380550B2 (ja) * 2004-03-31 2009-12-09 株式会社デンソー 車載用撮影装置
US20060078162A1 (en) * 2004-10-08 2006-04-13 Dynapel, Systems, Inc. System and method for stabilized single moving camera object tracking
JP4389749B2 (ja) * 2004-10-15 2009-12-24 株式会社ニコン パンニング撮影可能なカメラおよび動画像編集用プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005295495A (ja) * 2003-10-02 2005-10-20 Kazuo Iwane カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置,画像安定化装置,位置姿勢安定化装置,目的対象物ロックオン装置及び実写対象物属性呼出装置
JP2005303806A (ja) * 2004-04-14 2005-10-27 Matsushita Electric Ind Co Ltd 移動機構付き撮像装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10267949B2 (en) 2014-10-17 2019-04-23 Sony Corporation Information processing apparatus and information processing method
WO2018124774A1 (ko) * 2017-01-02 2018-07-05 삼성전자 주식회사 전자 장치 및 그 제어 방법
KR20180079767A (ko) * 2017-01-02 2018-07-11 삼성전자주식회사 전자 장치 및 그 제어 방법
KR102653336B1 (ko) * 2017-01-02 2024-04-02 삼성전자주식회사 전자 장치 및 그 제어 방법

Also Published As

Publication number Publication date
CN101390383B (zh) 2011-09-21
CN101390383A (zh) 2009-03-18
JPWO2007097431A1 (ja) 2009-07-16
WO2007097431A1 (ja) 2007-08-30
US8085308B2 (en) 2011-12-27
US20100007751A1 (en) 2010-01-14

Similar Documents

Publication Publication Date Title
JP5155145B2 (ja) 画像補正装置、方法、プログラム、集積回路、システム
JP5659305B2 (ja) 画像生成装置および画像生成方法
WO2017000876A1 (zh) 对地定位或导航用相机、飞行器及其导航方法
CN111953892B (zh) 无人飞行器、检查方法
JP6583840B1 (ja) 検査システム
JP4446041B2 (ja) カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置,画像安定化装置,位置姿勢安定化装置,目的対象物ロックオン装置及び実写対象物属性呼出装置
CN110291777B (zh) 图像采集方法、设备及机器可读存储介质
WO2018024239A1 (zh) 混合式图像稳定系统
CN112703748B (zh) 信息处理装置、信息处理方法以及程序记录介质
CN114208143A (zh) 信息处理系统、信息处理方法和程序
JP5857419B2 (ja) 目標標定装置及び目標標定方法
TWI726536B (zh) 影像擷取方法及影像擷取設備
JP4896116B2 (ja) 空中移動体からの自動追尾撮影装置
JP6681101B2 (ja) 検査システム
JP5277600B2 (ja) 架空線撮影システム及び方法
JP2000213953A (ja) 飛しょう体の航法装置
JP2007241085A (ja) 撮影映像処理システム及び撮影映像処理装置並びに撮影映像表示方法
CN108475410B (zh) 三维立体水印添加方法、装置及终端
JP6436601B2 (ja) 移動体、移動体の制御方法、制御プログラムを格納した記憶媒体、および制御プログラム
JP2019219874A (ja) 自律移動撮影制御システムおよび自律移動体
JP4517813B2 (ja) パンニング撮影可能なカメラおよび動画像編集用プログラム
JP6997164B2 (ja) 画像処理装置、画像処理方法、プログラム、及び記録媒体
JP4515884B2 (ja) カメラスタビライザ目標位置補正方法
JP2001186513A (ja) 撮像装置
CN112119362A (zh) 云台系统及其控制方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120529

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121206

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151214

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5155145

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees