JP5155145B2 - 画像補正装置、方法、プログラム、集積回路、システム - Google Patents
画像補正装置、方法、プログラム、集積回路、システム Download PDFInfo
- Publication number
- JP5155145B2 JP5155145B2 JP2008501769A JP2008501769A JP5155145B2 JP 5155145 B2 JP5155145 B2 JP 5155145B2 JP 2008501769 A JP2008501769 A JP 2008501769A JP 2008501769 A JP2008501769 A JP 2008501769A JP 5155145 B2 JP5155145 B2 JP 5155145B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- camera
- extraction range
- information
- shooting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003702 image correction Methods 0.000 title claims description 202
- 238000000034 method Methods 0.000 title claims description 75
- 238000000605 extraction Methods 0.000 claims description 287
- 239000013598 vector Substances 0.000 claims description 245
- 230000033001 locomotion Effects 0.000 claims description 120
- 238000004364 calculation method Methods 0.000 claims description 76
- 238000012937 correction Methods 0.000 claims description 55
- 238000012545 processing Methods 0.000 claims description 51
- 238000003384 imaging method Methods 0.000 claims description 42
- 238000005096 rolling process Methods 0.000 claims description 18
- 239000000284 extract Substances 0.000 claims description 17
- 238000000354 decomposition reaction Methods 0.000 claims description 4
- 230000009467 reduction Effects 0.000 claims description 2
- 230000008569 process Effects 0.000 description 24
- 230000006870 function Effects 0.000 description 22
- 230000005540 biological transmission Effects 0.000 description 18
- 238000010586 diagram Methods 0.000 description 16
- 238000004590 computer program Methods 0.000 description 13
- 238000012986 modification Methods 0.000 description 11
- 230000004048 modification Effects 0.000 description 11
- 230000002411 adverse Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 7
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 7
- 239000007789 gas Substances 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 4
- 239000013589 supplement Substances 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000001307 helium Substances 0.000 description 1
- 229910052734 helium Inorganic materials 0.000 description 1
- SWQJXJOGLNCZEY-UHFFFAOYSA-N helium atom Chemical compound [He] SWQJXJOGLNCZEY-UHFFFAOYSA-N 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000004575 stone Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
例えば、特許文献1には、第1のカメラを用いて監視対象領域を監視し、撮影映像に基づいて監視領域内の侵入者を検知して、侵入者を追尾するよう第2のカメラの撮影方向を制御する侵入物体監視システムが開示されている。また、特許文献2には、監視領域を移動する移動体にカメラを搭載し、移動体自身が被写体を追尾しつつカメラを制御して被写体を撮影する技術が開示されている。
例えば、移動体を移動させながら被写体を撮影している時に、外乱により移動体が動いて本来撮影を行うべき位置から外れて撮影を行うと、被写体を意図したように撮影できない。例えば、被写体が小さく写ったり、撮影画像の中の意図しない位置に写ったりする。従来の技術では、カメラが固定であったり、移動体が安定して移動できることを前提としているが、撮影画像に与える外乱の悪影響は大きく、この悪影響は無視できないものである。
しかし、外乱には規則性がない場合が大半であり、外乱をモデル化できず、移動体が安定して飛行するまでに時間がかかる。その間、本来意図したような撮影結果を得ることができない。つまり、外乱の及ぼす悪影響を回避することは難しい。
そこで、本発明は、カメラを搭載した移動体により撮影を行った場合に、外乱の悪影響があったとしても、本来意図したような画像を出力する画像補正装置を提供することを目的とする。
上述の構成は、具体的には、以下のようにすればよい。
また、位置の差分のうち、カメラの撮影方向に直交する平面の成分は、要するに、実際のカメラ位置から撮影した場合の撮影対象面が、指定されたカメラ位置から撮影した場合の撮影対象面とどれだけずれているかを示すものである。
具体的には、前記位置差分情報に示される前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点のカメラ位置を終点とするベクトルで表したとき、前記撮影方向に直交する平面の成分は、前記ベクトルを前記撮影方向に直交する平面に射影した射影ベクトルであり、前記画像基準点算出部は、前記射影ベクトルの大きさに基づいて、前記移動させる基準点の移動量を算出し、前記射影ベクトルが前記撮影方向に直交する平面で示す方向の逆方向に、前記算出した移動量の分、前記標準の画像抽出範囲の基準点を前記移動させることとする。
すなわち、前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置を終点とするベクトルで表したとき、前記画像サイズ算出部は、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と同一方向の場合は前記サイズを拡大し、前記ベクトルの撮影方向の成分が、前記撮影方向情報に示される前記撮影方向と反対方向の場合は前記サイズを縮小して前記サイズの決定を行うこととすればよい。
また、前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置を終点とするベクトルで表し、前記ベクトルの撮影方向の成分の大きさをa、前記指定されたカメラ位置から撮影対象までの距離をbとし、前記カメラ情報取得手段は、さらに、前記指定されたカメラ位置から撮影対象までの距離を示す距離情報を取得し、前記倍率決定部は、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と前記同一方向の場合は、前記倍率をb/(b−a)と決定し、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と反対方向の場合は、前記倍率をb/(b+a)と決定することとすればよい。
ところで、出力画像のサイズは一定である方が望ましい場合がある。画像表示ソフトウェアやハードウェアの制約により、表示できる画像サイズの幅が限られる場合があるからでる。しかし、画像サイズ算出部により出力画像抽出範囲のサイズが変更された場合、抽出した画像をそのまま出力すると、変更後の画像サイズの画像が出力され、出力画像の画像サイズが一定でなくなる。
こうすることで、出力画像の画像サイズを一定にすることができる。
すなわち、前記カメラは、撮影方向を回転軸として撮影範囲を回転させるロール操作を行うことができ、前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の、ロール操作が行われている回転量を角度で示すロール角情報を取得するロール角情報取得手段を備え、前記決定手段は、前記位置差分情報と、前記取得した前記ロール角情報とに基づいて前記修正を行って前記出力画像抽出範囲の前記決定を行うこととしてもよい。
また、実際のカメラ位置からの撮影と、指定されたカメラ位置からの撮影とで、撮影方向が平行でない場合は、以下のようにすればよい。
また、移動体がローリングやピッチングなどの運動を行っていてその運動の分の差が、指定されたカメラ位置と、実際のカメラ位置とである場合、この運動の影響で、カメラの撮影方向が本来意図した方向からずれることがある。例えば、指定されたカメラ位置では、ピッチングが行われないことを意図していても、実際のカメラ位置において移動体がピッチングを行っていたとすると、そのピッチングの分、撮影方向に誤差ができる。この場合も、結局、上述のように、撮影方向の誤差を、撮影方向成分と撮影方向に直交する平面の成分とに分解すれば、出力画像抽出範囲を決定することができる。
また、本発明は、前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、前記決定手段は、前記位置差分情報に示される位置の差分に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部を含むこととしてもよい。
また、本発明は、前記決定手段は、前記位置差分情報に示される位置の差分に基づいて、前記標準の画像抽出範囲のサイズを拡大または縮小し、拡大または縮小後のサイズを、出力画像抽出範囲のサイズと決定することとしてもよい。
また、本発明は、具体的には、前記移動体は、前記移動体が移動すべき経路を示す指令情報に基づいて移動および前記カメラによる撮影を行い、前記画像補正装置は、さらに、前記指令情報を取得する指令情報取得手段を備え、前記指定されたカメラ位置とは、前記指令情報に示される経路上の位置である、という構成により実現される。
すなわち、前記画像補正装置は、さらに、前記標準の画像抽出範囲を修正する修正方法を、前記差分と対応づけた画像補正情報を取得して記憶する画像補正情報取得手段を備え、前記決定手段は、前記位置差分情報に示される差分と対応している前記修正方法を、前記記憶している前記画像補正情報から読み出し、前記対応している前記修正方法に従って前記決定を行うこととしてもよい。
また、本発明は、以下のようにしてもよい。
すなわち、前記移動体は、カメラの撮影により映像を生成し、
前記画像補正装置は、前記生成された映像を構成する各画像について、前記決定手段により前記出力画像抽出範囲の前記決定を行い、前記補正画像出力手段は、各画像について前記決定された出力画像抽出範囲の画像を抽出して映像として出力する映像出力部を含むこととしてもよい。
また、本発明は、以下のようにしてもよい。
すなわち、移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正システムであって、カメラ位置の指定を受け付ける位置指定受付手段と、受け付けた指定にかかるカメラ位置を位置指定情報として記憶する位置指定情報記憶手段と、前記移動体が実際に移動した経路を示す移動軌跡情報を取得する移動軌跡情報取得手段と、前記位置指定情報と、前記取得した移動軌跡情報とに基づいて、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、前記指定されたカメラ位置との差分を算出する位置差分算出手段と、前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記位置差分算出手段により算出された前記差分に基づいて修正し、出力画像抽出範囲として決定する決定手段と、前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力手段とを含むこととしてもよい。
また、本発明は、移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正方法であって、前記画像補正方法は、前記カメラが撮影した撮影画像を取得する画像取得ステップと、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得ステップと、前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定ステップと、前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力ステップとを含むことを特徴とする画像補正方法でもある。
以下、本発明について、画像補正装置1を中心に説明する。
1.1 概要
本発明の画像補正装置1は、移動体2に搭載されたカメラ24により撮影された画像を補正して出力する。移動体2とは、例えば、ガス気球などの飛行体である。以下、移動体2がガス気球である場合を例にして説明する。移動体2はカメラ24を搭載している。室内や公園等の場において、移動体2は、移動指令装置3と通信を行って得られた指令情報70に従って移動および撮影を行う。
図1には、画像補正装置1と、移動体2と、移動指令装置3が示されている。
まず、移動指令装置3、移動体2、画像補正装置1が発揮する機能を順に簡単に説明する。
1.1.1 移動指令装置3の概要
移動指令装置3は、移動体2が移動すべき経路およびカメラ24の撮影方法を指令する。具体的には、移動体2が移動すべき移動経路およびカメラ24の撮影方法に関する情報が含まれている指令情報70を移動体2に送信する。なお、移動指令装置3は、指令情報70を画像補正装置1にも送信する。
移動体2は、風などの外乱の影響を受けていても移動指令装置3に指令された経路に沿うように自機の移動を制御しつつ、カメラ24による撮影を行う。
具体的には、移動体2は、指令情報70を移動指令装置3から受け付けて、指令情報70に示される移動経路および撮影方法により移動と撮影とを行うよう自機を制御する。
移動体2は、撮影画像と、位置差分情報80と、撮影画像情報90とを、画像補正装置1へ送信する。
画像補正装置1は、移動体2が送信する撮影画像と、位置差分情報80と、撮影画像情報90とを取得する。位置差分情報80には移動体2が実際にいた位置と本来いるべき位置との誤差が時刻と対応づけて示されている。画像補正装置1は、この誤差に基づいて、各時点において撮影された撮影画像を補正する。
移動体2の位置とカメラ24の撮影方向について、補足する。
移動体2の位置は、実空間上の3次元の座標で表現されるとする。実空間上の3次元の座標系を、グローバル座標系と称する。図1には、グローバル座標系を(x,y,z)と示している。ここで、実施の形態1では、xy平面を、地表に平行な平面とし、z軸を高さ方向とする。
図2は、カメラ座標系を示す図である。
図2(a)は移動体2の斜視図である。図2(a)に示すように、カメラ座標系は、カメラ24を原点とし、p軸、q軸、r軸の3軸からなる。本実施形態では、移動体2の前部と後部とを結ぶ方向をp軸、移動体2の上部と下部とを結ぶ方向をr軸とする。p軸とr軸とは直交することとする。p軸およびr軸からなる平面に直交する方向をq軸とする。すなわち、カメラ座標系は、移動体2の前後方向の軸をp軸、そして、移動体2の左右の方向をq軸、上下方向の軸をr軸として表される。なお、各軸の正方向については、例えば、p軸は移動体2の後部から前部への方向を正とする。q軸は、移動体2の右側面から左側面への方向を正とする。r軸は、移動体2の下部から上部への方向を正とする。
カメラ24の撮影方向は、カメラ座標系の原点を始点とする単位ベクトルで、p、q、rの各軸の成分を用いて"(p,q,r)"と表すこととする。例えばカメラ24の撮影方向が"(1,0,0)"である場合、カメラ24は移動体2の前方を向いている。カメラ24の撮影方向が"(0,1,0)"である場合、カメラ24は移動体2の左方を向いている。
ここで、実施の形態1における前提条件を説明する。
まず、移動体2の運動についての前提条件を説明する。
移動体2のような飛行体の運動は、主に、ローリングとピッチングとヨーイングとに分けられる。
移動体2の左右側面を貫く軸方向、つまりq軸を中心に移動体2が回転する運動をピッチングという。要するに移動体2が機首を上下に振る運動である。
移動体2の上下方向の軸、つまりr軸を中心に移動体2が回転する運動をヨーイングという。要するに移動体2が機首を左右に振る運動である。
移動体2に搭載されているカメラ24は、チルト操作、パン操作、ロール操作を行うことができる。移動体2の上下方向の軸を中心にカメラ24を回転させることをパン操作という。パン操作を行うと、移動体2から見た場合に、移動体2の左方または右方にカメラ24を向けることとなる。また、p軸およびq軸からなる平面に対するカメラ24の傾きを操作することをチルト操作という。チルト操作を行うと、移動体2から見た場合に、移動体2の上方または下方にカメラ24を向けることとなる。また、カメラ24の撮影方向の軸を中心にカメラ24を回転させることをロール操作という。
なお、実際には、移動体2が移動するときには上昇や下降、左旋回や右旋回などを行うので、ローリングやピッチングを行うのであるが、ローリングやピッチングがカメラの撮影画像に与える影響は、無視できる程度に小さいものとする。つまり、撮影画像が、あたかもロール操作が行われたように大きく回転して、例えば地平線を水平に撮影したいにもかかわらず地平線が撮影画像において斜めに撮影されるなどの悪影響は出ない程度の運動であるとする。または、ローリングやピッチングによって移動体2が傾いた場合に、その傾きを考慮して、撮影画像が無視できないほどに回転しないよう、自動的にカメラのロール操作が行われることとする。
1.2 移動体2の構成
移動体2の構成を具体的に説明する。
図3に示すように、移動体2は、移動体本体20と、気球21と、プロペラ22と、雲台23と、カメラ24とからなる。なお、気球とプロペラと雲台とカメラとを備えた移動体は、従来より様々な場面で利用されている。例えばビル内部や屋外などで災害が発生した時に、人が踏み込むには危険な地帯を上方から撮影するといった場面などで広く利用されている。したがって、移動体2の具体的な実装、つまり気球の大きさや移動体2の重量等の説明は省略する。
気球21は、上述のように移動体2の上部に備えられている。本実施形態では、上述のように気球21はガス気球としている。気球21には、空気より軽い気体、例えばヘリウムガスが封入されており、移動体2を空中に浮遊させるだけの浮力を移動体2に与える。
1.2.2 プロペラ22
プロペラ22は、上述のように移動体2の後部に備えられている。移動体2は、プロペラ22を制御することで、移動体2の移動を制御することができる。
雲台23は、カメラ24のカメラアングルを可動にする。つまり、カメラ24にパン操作やチルト操作などを行わせることができる。
1.2.4 カメラ24
カメラ24は、本来撮影すべき画角よりも広角の画像を撮影する。例えば、画像撮影範囲が、出力画像に要求される撮影範囲の2〜4倍程度の広角の画像を撮影する。
移動体本体20は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random AccessMemory)等からなり、コンピュータプログラムを実行することにより、プロペラ22や雲台23やカメラ24の動作を制御する。また、通信機能を有し、移動指令装置3や画像補正装置1と通信を行う。
指令情報取得部201は、通信機能を有し、移動指令装置3と通信を行う。
具体的に説明すると、指令情報取得部201は、移動指令装置3から送信される指令情報70を取得する。
1.2.6.1 指令情報70
ここで、後の説明の便宜のために、指令情報70を詳しく説明する。
図7(a)に示すように、指令情報70の1件のレコードは、時刻71と、位置72と、移動方向73と、撮影方向74と、画角75と、撮影対象面までの距離76とからなる。
時刻71は、時刻を示す。各レコード間の時刻の間隔は、どんなものでもよい。例えば1秒や1分ごととする。
移動方向73は、時刻71に示される時点において移動体2が向くべき方向を示す。方向は、グローバル座標系の原点"(0,0,0)"を始点とする単位ベクトルとして表されることとする。移動体2は、位置72に示される座標において、この単位ベクトルに平行な方向を向くように制御される。例えば、移動方向73に"(0,−1,0)"と示されている場合、移動体2が向くべき方向は、y軸に平行な方向(すなわちxz平面に直交する方向)となる。
画角75は、時刻71に示される時点におけるカメラ24の画角の設定を示す。例えばカメラ24の焦点距離の長さをミリメートル単位で画角75として指令情報70に含めることとする。なお、画角75は、角度で示してもよい。また、水平方向および垂直方向の画角が異なる場合は、それぞれを画角75において示すこととしてもよい。
指令情報70は、図7に示すように、各時刻において移動体2が位置すべき座標である位置72と、移動体2が向くべき方向である移動方向73と、カメラ座標系においてカメラ24が向くべき方向である撮影方向74とを含む。移動体2は、各時刻において位置72に示される座標を通過するようにプロペラ22を制御しつつ、撮影方向74に示される方向に撮影を行うようカメラ24を制御する。つまり、指令情報70は、移動体2が移動すべき経路および撮影方法を示したものといえる。
位置誤差算出部202は、移動体2が風などの外乱を受けることで、本来いるべき位置からどの程度離れているかを算出する。
具体的には、位置誤差算出部202は、指令情報取得部201が取得した指令情報70の、時刻71と位置72取得する。また、「1.2.8 位置管理部203」で後述する位置管理部203から、移動体2が実際に位置している座標の情報を取得する。時刻71に示される時点になった時に、位置72、すなわち移動体2が位置すべき座標の情報と、位置管理部203から受け付けた実際に位置している座標の情報とに基づいて、位置すべき座標と実際に位置している座標との誤差をベクトルで算出する。算出されるベクトルを、位置誤差ベクトルとする。
1.2.8 位置管理部203
位置管理部203は、移動体2が実際に位置している座標を管理する。
1.2.9 GPS204
GPS204は、GPS(Global Positioning System )機能を有し、移動体2が実際に位置している座標を、GPS機能により逐次取得する。取得した座標を、逐次、位置管理部203へ出力する。GPS204により測定される座標の誤差は、小さいほど望ましい。
1.2.10 方向誤差算出部205
方向誤差算出部205は、外乱の影響を受けることで、移動体2が本来向くべき方向からどれだけずれているかを算出する。
方向誤差算出部205は、算出した方向誤差ベクトルを、カメラアングル補正部211とプロペラ動力補正部209とへ出力する。
方向管理部206は、移動体2がグローバル座標系において実際に向いている方向を管理する。
具体的には、ジャイロ207から逐次出力される、移動体2が実際に向いている方向の情報を受け付けて記憶する。
ジャイロ207は、ジャイロ機構により、移動体2が実際に向いている方向を検出する。検出によって得られた、移動体2が実際に向いている方向を、逐次、方向管理部206へ出力する。
なお、ジャイロ機構による方向の検出については、従来から知られている技術であるため詳細な説明を省略する。
位置差分情報送信部208は、通信機能を有し、画像補正装置1と通信を行う。
具体的には、位置差分情報送信部208は、位置誤差算出部202が算出した位置誤差ベクトルを、算出の時点と対応付けて、位置差分情報80として画像補正装置1へ送信する。
プロペラ動力補正部209は、指令情報取得部201が取得した指令情報70に示される、移動体2が移動すべき経路に沿って移動するようにプロペラ動力を補正する。
具体的には、プロペラ動力補正部209は、指令情報70の、時刻71、位置72、移動方向73を取得する。また、位置誤差算出部202から、位置誤差ベクトルを取得する。また、方向誤差算出部205から、方向誤差ベクトルを取得する。
1.2.15 プロペラ動力制御部210
プロペラ動力制御部210は、時刻71と、位置72と、移動方向73と、プロペラ補正情報とをプロペラ動力補正部209から取得して、指令情報70に示される移動経路、つまり時刻71に示されるそれぞれの時刻に、位置72および移動方向73に示される位置および方向になるようにプロペラ22のプロペラ動力を制御する。また、プロペラ補正情報に基づいてプロペラ動力を補正する。
1.2.16 カメラアングル補正部211
カメラアングル補正部211は、本来向くべき方向にカメラ24が向くように、カメラ24の撮影方向を補正する。
カメラアングル補正部211は、指令情報取得部201から時刻71、撮影方向74を取得する。また、方向誤差算出部205から、方向誤差ベクトルを受け付ける。カメラアングル補正部211は、方向誤差ベクトルに基づいて、撮影方向74に示されるカメラ24の撮影方向を補正してカメラ24の本来の撮影方向を示す単位ベクトルを算出する。補正後のカメラ24の撮影方向に関する情報を、カメラアングル制御部212へ出力する。
カメラアングル制御部212は、カメラアングル補正部211から補正後のカメラ24の撮影方向に関する情報を取得して、雲台23により、カメラ24の撮影方向を制御する。つまり、移動体2が外乱の影響を受けて本来向くべき方向からずれた方向を向いたとしても、カメラ24のグローバル座標系における撮影方向が、グローバル座標系において本来撮影を行うべき方向に平行になるように雲台23を制御する。
1.2.18 撮影画像取得部213
撮影画像取得部213は、カメラ24を制御して、逐次、カメラ24に画像を撮影させる。撮影された画像に、例えばファイル名などの識別子を付して記憶する。また、撮影された画像の識別子と、撮影が行われた時刻とを対応づけて撮影画像情報90として記憶する。
撮影画像情報送信部214は、通信機能を有し、画像補正装置1に対して、カメラ24により撮影された画像、および、撮影画像情報90を送信する。
具体的には、撮影画像取得部213に記憶されている画像、および、撮影画像情報90を取得して画像補正装置1へ送信する。
また、上述したように、指令情報70には、画角75や、撮影対象面までの距離76などの情報が含まれる。移動体本体20は、図示していないが、画角75や撮影対象面までの距離76などの情報に基づいて、カメラ24が撮影を行うための各種パラメータの設定を行う。例えば、焦点距離の設定や、発光、輝度や色差の調整、などを行う。
次に、画像補正装置1の構成を具体的に説明する。
図6は、画像補正装置1の構成を示す機能ブロック図である。
図6に示すように、画像補正装置1は、位置差分情報取得部11と、撮影画像情報取得部12と、カメラ情報取得部13と、画像補正処理部14と、画像出力部15とからなる。
1.3.1 位置差分情報取得部11
位置差分情報取得部11は、移動体2の位置差分情報送信部208から送信される位置差分情報80を取得して画像補正処理部14へ出力する。
撮影画像情報取得部12は、移動体2の撮影画像情報送信部214から送信される画像と撮影画像情報90とを取得して画像補正処理部14へ出力する。
1.3.3 カメラ情報取得部13
カメラ情報取得部13は、移動指令装置3から送信される指令情報70を取得して画像補正処理部14へ出力する。
画像補正処理部14は、位置差分情報80に含まれる位置誤差ベクトルに基づいて、各時点においてカメラ24により撮影された広角の撮影画像から、出力画像として抽出すべき画像抽出範囲を決定し、決定した画像抽出範囲の画像を撮影画像から抽出して出力する。
また、図示するように、画像補正処理部14は、画像中心点算出部101と、画像サイズ算出部102とを含む。
画像サイズ算出部102は、位置誤差ベクトルに基づいて、出力画像を抽出するための画像抽出範囲の画像サイズを算出する。
画像補正処理部14は、位置差分情報80から、時刻81に示される各時点における位置誤差ベクトルを取得する。画像補正処理部14は、標準の画像抽出範囲を、位置誤差ベクトルに基づいて修正する。つまり、標準の画像抽出範囲の中心点を、位置誤差ベクトルに基づいて移動させ、また、画像サイズを、位置誤差ベクトルに基づいて拡大または縮小して、出力画像を抽出するための出力画像抽出範囲として決定する。
画像補正処理部14は、このように位置誤差ベクトルの成分を分解し、さらに、指令情報70に含まれる、画角75や撮影対象面までの距離76を用いて、標準の画像抽出範囲を修正して出力画像を抽出するための出力画像抽出範囲を決定する。画像補正処理部14は、位置誤差ベクトルのうち、カメラ24の撮影方向に直交する平面の成分を用いて、画像中心点算出部101により基準点の位置を修正する。位置誤差ベクトルのうち、カメラ24の撮影方向の成分を用いて、画像サイズ算出部102により画像サイズを修正する。このようにして、標準の画像抽出範囲の中心点と画像サイズとを修正して、出力画像抽出範囲を決定する。この処理は、後で詳しく説明する。
要するに、画像補正処理部14は、広角に撮影された画像から、位置の誤差がなかった場合に出力するであろう画像の範囲を、位置の誤差を用いて、特定する。特定した範囲の画像を抽出して出力する。
画像出力部15は、画像補正処理部14から出力される画像を受け付けて、映像信号としてディスプレイ4へ出力する。
1.4 データ
次に、位置差分情報80、撮影画像情報90について説明する。
図8は、位置差分情報80を示す図である。
図8(a)に示すように、位置差分情報80の1件のレコードは、時刻81と、位置誤差82とからなる。
時刻81は、時刻を示す。
図8(b)に、上記位置誤差82に示される誤差がある場合の移動体2の移動経路、つまり移動体2の実際の移動経路を簡単に図示する。なお、移動体2が本来移動すべき経路は、図7に示した指令情報70の通りとする。なお、図8(b)において、"○"印は、時刻81に示される時点において、移動体2が実際にいた位置の座標を表している。実線は、移動体2が実際に移動した移動経路である。破線は、移動体2が実際に撮影を行った撮影方向である。この撮影方向は、カメラアングル補正部211によって補正された撮影方向なので、移動体2が実際に撮影を行うべき位置からの撮影方向と平行である。
図9は、本来移動体2が各時刻において位置すべき座標と、実際に移動体2が移動した移動経路とをxy平面に投影した図である。
同図においては、本来移動体2が各時点において位置すべき座標は、図7の指令情報70と対応している。図9においては、"×"印を付すことで、移動体2が各時点において位置すべき座標を示す。また、移動体2が各時点において撮影を行うべき撮影方向を破線で示す。
図10は、本来移動体2が各時刻において位置すべき座標と、実際に移動体2が移動した移動経路とをxz平面に投影した図である。
1.4.2 撮影画像情報90
図11は、撮影画像情報90を示す図である。
図11に示すように、撮影画像情報90の1件のレコードは、時刻91と、画像識別子92とからなる。
画像識別子92は、カメラ24によって撮影された画像の各々を識別する識別子を示す。例えば画像のファイル名である。
1.5 動作
次に、移動体2と画像補正装置1の動作を説明する。
移動体2は、指令情報70に示されるように移動しながら、逐次、画像の撮影を行っている。
図12は、移動体2の動作を示すフローチャートである。
指令情報取得部201は、移動指令装置3から指令情報70を取得する(ステップS129)。位置誤差算出部202は、位置管理部203から自機の位置を取得する(ステップS122)。位置誤差算出部202は、指令情報70と自機の位置とに基づいて位置誤差ベクトルを算出する(ステップS123)。
プロペラ動力補正部209は、指令情報70と、位置誤差ベクトルと、方向誤差ベクトルとに基づいて、移動体2が本来移動すべき移動経路を通過するよう、プロペラ動力を補正する(ステップS126)。
位置差分情報送信部208は、位置差分情報80を画像補正装置1へ送信する(ステップS128)。
また、撮影画像情報送信部214は、撮影画像と、撮影画像情報90とを画像補正装置1へ送信する(ステップS129)。
1.5.2 画像補正装置1の動作
図13は、画像補正装置1の動作を示すフローチャートである。
画像補正装置1は、指令情報70や位置差分情報80等に示されるそれぞれの時刻における位置誤差ベクトルやカメラ24の撮影方向を用いて画像抽出範囲を決定し、各時刻において撮影された撮影画像から画像を抽出して出力する。
画像補正装置1は、画像中心点算出部101により、位置誤差ベクトルの、カメラ24の撮影方向に直交する平面の成分に基づいて、出力画像を抽出するための画像抽出範囲の中心点を決定する(ステップS134)。
画像補正装置1は、決定された中心点および画像サイズにより定まる画像抽出範囲の画像を、撮影画像から抽出する(ステップS136)。なお、ステップS134およびステップS135の処理は、後で詳しく説明する。
画像補正装置1は、上述の処理を繰り返し行う。
1.6 画像抽出範囲の決定方法
ここで、画像中心点算出部101と画像サイズ算出部102とが、撮影画像から出力画像を抽出するための出力画像抽出範囲を決定する処理について、詳しく説明する。
また、画像サイズ算出部102は、位置誤差ベクトルの、カメラ24の撮影方向の成分(以下、「撮影方向成分」という)に基づいて、出力画像抽出範囲の画像サイズを定める。
また、カメラ位置の誤差のうち、直交平面成分の誤差は、要するに、被写体が画像のどこに写るかに影響を与えるものである。例えば、本来、被写体を画像の中心付近に写すことを意図しているとする。カメラ24が、本来の撮影位置よりも高い高度から撮影していたとする。そうすると、カメラ24の撮影方向は本来撮影すべき位置からの撮影方向と平行なので、被写体が、画像の中心から下側よりに写ってしまう。
1.6.1 実際のカメラ位置が本来の位置に一致している場合
図14は、実際のカメラ位置が本来のカメラ位置に一致している場合に、画像補正処理部14が画像抽出範囲を決定する過程を示す図である。
図14(a)は、カメラ位置と、カメラ24が撮影対象面に対して撮影する実際の撮影範囲の大きさを示している。なお、同図(a)では、撮影対象面に平行な視点からカメラ位置と撮影範囲を眺めた場合の図を示している。撮影対象面とカメラの撮影方向とは直交する。本来のカメラ位置160aは、実際のカメラ位置165aと一致している。また、撮影方向164aは、本来のカメラ位置160aと実際のカメラ位置165aとで一致している。また、撮影対象面における本来の撮影範囲161aは、実際の撮影範囲166aと一致している。
画像補正処理部14は、標準の画像抽出範囲151aを出力画像抽出範囲と決定し、出力画像抽出範囲の画像を、撮影画像150aから抽出し、出力画像152aとして出力する。
図15は、位置誤差ベクトルが撮影方向と直交している場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図である。
図15(a)は、カメラ位置と、カメラ24が撮影対象面に対して撮影する実際の撮影範囲の大きさを示している。図14(a)と同様に、撮影対象面に平行な視点からカメラ位置と撮影範囲を眺めた場合の図を示している。本来のカメラ位置160bと実際のカメラ位置165bとが、位置誤差ベクトル169bの分、撮影方向に直行する平面においてずれている。撮影方向164bは、本来のカメラ位置160bと実際のカメラ位置165bとで平行である。また、撮影対象面における本来の撮影範囲161bと、実際の撮影範囲166bとが、位置誤差ベクトル169bの分だけずれている。
ここで、位置誤差ベクトル169bのうち、直交平面成分のベクトルをα(i,j)とする。なお、ベクトルαの成分iは、撮影対象面の水平方向と平行な成分を示し、ベクトルαの成分jは、撮影対象面の垂直方向と平行な成分を示すこととする。
図16に、撮影対象面における、本来のカメラ位置と実際のカメラ位置との撮影範囲を示す。図16に示すように、本来の撮影範囲161bを、位置誤差ベクトル169b(ベクトルα)だけずらすと、実際の撮影範囲166bと一致する。図16において、本来の撮影範囲161bの中心点を、本来の中心点162bとして示す。また、実際の撮影範囲166bの中心点を、実際の中心点167bとして示す。
本来、出力したい画像は、本来の撮影範囲161bのうち、本来の標準抽出範囲163bに示される範囲の画像である。この点を考慮して、出力画像抽出範囲を決定すればよい。
1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合
図17は、位置誤差ベクトルの方向が撮影方向と一致している場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図である。
ここで、位置誤差ベクトル169cの大きさを「a」とする。本来のカメラ位置から撮影対象面までの距離を「b」とする。「b」は、指令情報70の撮影対象面までの距離76から得られる。実際のカメラ位置から撮影対象面までの距離は、「b−a」となる。
画像補正処理部14は、標準の画像抽出範囲151cの中心点を出力画像抽出範囲153cの中心点とし、出力画像抽出範囲153cの画像サイズを、縦、横ともに標準の画像抽出範囲151cのb/(b−a)倍と決定する。つまり、中心点を中心に、標準の画像抽出範囲151cの画像サイズを拡大する。
1.6.4 位置誤差ベクトルの方向が撮影方向の反対方向である場合
図18は、位置誤差ベクトルの方向が撮影方向の反対方向である場合に、画像補正処理部14が出力画像抽出範囲を決定する過程を示す図である。
上述の「1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合」、および、図16の場合と同様に、位置誤差ベクトル169dの大きさを「a」、本来のカメラ位置から撮影対象面までの距離を「b」とする。そうすると、実際のカメラ位置から撮影対象面までの距離は、「b+a」となる。上述の図16に示した例と同様に考えると、出力画像抽出範囲153dは、縦、横ともに標準の画像抽出範囲151dの「b/(b+a)」倍とすればよいことがわかる。
画像補正処理部14は、出力画像抽出範囲153dの画像サイズを、縦、横ともに標準の画像抽出範囲151の「b/(b+a)」倍と決定する。これは、標準の画像抽出範囲151dよりも画像サイズが小さい。
1.6.5 一般的な場合
図19は、画像補正処理部14が、位置誤差ベクトルを撮影方向成分と直交平面成分とに分解して出力画像抽出範囲を決定する処理の過程を示す図である。
一般的な場合として、位置誤差ベクトルが撮影方向成分と直交平面成分とに分解される場合は、上述の処理を組み合わせればよい。
以上のように実施の形態1について説明してきたが、以下のように変形してもよい。
1.7.1 変形例1・経路を後から指定
上述の実施の形態1の説明では、指令情報70に示される移動経路に沿うように移動体2が移動し撮影した画像を、画像補正装置1が補正する場合を説明した。つまり、移動体2の移動経路が、撮影の前に予め指定されている場合を説明した。本発明は、これに限らず、移動体2の移動経路を、画像の撮影が行われた後で指定することとしてもよい。
図20に、変形例1の概要を示す。図20には、カメラが実際に移動した軌跡を軌跡170として示す。また、カメラが実際に撮影した方向を、実際の撮影方向171(171a、171b、・・)として示す。また、ユーザが後から指定した経路を、ユーザ指定経路172として示す。
1.7.2 変形例1の構成の例
移動体2の移動経路を後から指定する場合の構成の一例を、図22に示す。
1.7.3 カメラ装置2000の構成
カメラ装置2000は、移動しながら撮影を行う装置である。カメラ装置2000は、自装置が移動した経路(自装置が通過した座標および移動方向)と、撮影を行った時点におけるカメラの撮影方向とを記憶している。例えば、移動体2の位置管理部203、GPS204、方向管理部206、ジャイロ207と同等の機能を有することで、自機が通過した座標およびその時の移動方向を記憶する。また、カメラによって撮影を行った時刻と対応づけて、カメラの撮影方向や撮影時の画角などを記憶する。
また、カメラ装置2000は、撮影時における撮影対象面までの距離を記憶する。撮影対象面までの距離は、距離センサなどによりカメラの撮影方向に存在する建築物、構造物、地表面等までの距離を測定することで得られる。あるいは、撮影対象面までの距離は、カメラ装置2000が求めるのではなく、カメラ装置2000の移動経路に基づいて、撮影後に他の装置等によって求めたり、ユーザにより指定したりすることとしてもよい。
また、カメラ装置2000は、移動体2の撮影画像取得部213および撮影画像情報送信部214と同等の機能を有しており、撮影画像情報90を生成して画像補正装置1000へ送信する。
ここで、移動軌跡情報70aについて説明する。
図23に示すように、移動軌跡情報70aの1件のレコードは、時刻71aと、位置72aと、移動方向73aと、撮影方向74aと、画角75aと、撮影対象面までの距離76aとからなる。移動軌跡情報70aは、指令情報70と実質的にほぼ同等の情報である。違いは、移動軌跡情報70aが、カメラ装置2000が実際に移動した経路等を示す情報であるのに対し、指令情報70は、移動体2が移動すべき経路等を示す情報である点である。
位置72aは、時刻71aに示される時点においてカメラ装置2000が実際にいたグローバル座標系における座標を示す。
移動方向73aは、時刻71aに示される時点においてカメラ装置2000が実際に向いていたグローバル座標系における方向を示す。
画角75aは、時刻71aに示される時点におけるカメラ装置2000のカメラの画角を示す。
1.7.4 経路指定装置3000の構成
経路指定装置3000は、カメラ装置2000から移動軌跡情報70aを取得して、ディスプレイ4にカメラが実際に移動した軌跡を表示する。
1.7.5 画像補正装置1000の構成
画像補正装置1000は、上述の実施例で説明した画像補正装置1とほぼ同等の機能を有している。異なる点は、カメラ情報取得部1013が取得する情報が、移動軌跡情報70aである点と、位置差分情報80を、経路指定装置3000から取得する点と、撮影画像情報90を、カメラ装置2000から取得する点である。なお、「1.7.3.1 移動軌跡情報70a」で上述したように、移動軌跡情報70aは、実質的には指令情報70と同等の情報である。ここで、「1.7.3 カメラ装置2000の構成」で上述したように、撮影対象面までの距離をカメラ装置2000が測定しない場合は、移動軌跡情報70aには、撮影対象面までの距離76aの情報が含まれていない。この場合、画像補正装置1000は、撮影対象面までの距離76aについての情報を、撮影対象面までの距離を算出した別の装置から取得するか、ユーザから撮影対象面までの距離の指定を受け付ける。
これらの構成要素は、それぞれ、図6に示した画像補正装置1の位置差分情報取得部11、撮影画像情報取得部12、カメラ情報取得部13、画像補正処理部14、画像出力部15、画像中心点算出部101、画像サイズ算出部102と同等の機能を有しているため、詳細な説明を省略する。
画像補正装置1000は、移動軌跡情報70aの移動方向73aと撮影方向74aとからカメラの撮影方向を算出することができる。したがって、画像補正処理部1000は、算出した位置誤差ベクトルを、カメラの撮影方向の成分と、撮影方向に直交する成分とに分解することで、画像補正装置1と同様の方法で、出力画像抽出範囲を決定することができる。画像補正装置1と同様の方法で処理を行えばよいので、詳細な説明は省略する。
上述の実施の形態1の説明では、カメラ24のロール操作がないものとして説明したが、ロール操作が行われる場合も、本発明に含まれる。
以下、変形例2について説明する。なお、以下の説明では、位置誤差ベクトルの撮影方向成分の誤差がないものとして説明する。撮影方向成分に誤差がある場合は、撮影方向成分の誤差について、上述の「1.6.3 位置誤差ベクトルの方向が撮影方向と一致している場合」「1.6.4 位置誤差ベクトルの方向が撮影方向の反対方向である場合」で説明した処理を行って出力画像抽出範囲の画像サイズを決定すればよい。
以下、ロール操作が行われたときに、撮影方向を軸にしてカメラ24が回転した角度をロール角度という。
1.8.1 撮影位置が同一の場合
まず、撮影位置が同一で、本来のカメラ位置からの撮影と、実際のカメラ位置からの撮影とでロール角度が異なる場合を説明する。
なお、本来のカメラ位置からの撮影では、ロール操作が行われず、ロール角度が0とする。実際のカメラ位置からの撮影では、反時計回りに角度θだけロール操作が行われたとする。
本来の撮影範囲30aを、撮影範囲30aの中心を基準にして反時計回りにθだけ回転させたのが、実際の撮影範囲31aである。したがって、実際の撮影範囲31aを、本来の撮影範囲30aに一致させるには、実際の撮影範囲31aの中心を基準にして時計回りにθだけ回転させればよい。また、本来のカメラ位置から撮影した場合の標準の画像抽出範囲の画像が、実際の撮影画像では時計回りにθだけ回転して写っていることとなる。したがって、実際の撮影範囲31aの撮影画像における、標準の画像抽出範囲を、中心点を基準に時計回りにθだけ回転させると、出力すべき画像の画像抽出範囲が得られることとなる。
この標準の画像抽出範囲33aを、時計回りにθ(反時計回りに−θ)回転させたものが、出力画像抽出範囲34aである。出力画像抽出範囲34aを、図24(c)に示す。
出力画像抽出範囲34aの画像を、撮影画像32aから抽出して得られた画像が、出力画像35aとなる。図24(d)に、出力画像35aを示す。
したがって、実際のカメラ位置からの撮影範囲を、そのロール角度の差の分、逆方向に回転させれば、本来のカメラ位置からの撮影範囲と一致する。ということは、実際のカメラ位置から撮影された撮影画像の、標準の画像抽出範囲を、画像抽出範囲の中心点を中心に、ロール角度の分、逆方向に回転させると、出力画像抽出範囲が得られる。
次に、一般的な場合として、カメラのロール操作が行われつつ、カメラの撮影方向に直行する平面上で、本来のカメラ位置と実際のカメラ位置とで位置の誤差がある場合を説明する。
本来のカメラ位置からの撮影ではロール操作が行われず、実際のカメラ位置からの撮影では、反時計回りにθだけロール操作が行われたとする。
図25は、ロール角度および撮影位置が異なる場合の、本来のカメラ位置と実際のカメラ位置との撮影範囲を示す図である。
ただし、このままでは、位置の誤差を考慮していないので、本来のカメラ位置から得られるであろう出力画像を抽出することはできない。
実際の撮影画像から出力画像抽出範囲を決定する際も、この点を考慮する。要するに、実際の撮影においてロール操作が行われなかったと仮定した場合の、出力画像抽出範囲の中心点を、標準の画像抽出範囲の中心点を基準にして時計回りにθ(半時計周りに−θ、つまりロール操作の逆回転)だけ回転させる。回転させた点が、ロール操作が行われた場合の出力画像抽出範囲の中心点である。
1.8.3 ロール操作がある場合のまとめ
要するに、本来の撮影ではロール操作が行われず、実際の撮影ではロール操作が半時計周りにθだけ行われ、かつ、撮影方向に直行する平面に位置の誤差がある場合は、実施の形態1で説明した、ロール操作がない場合の出力画像抽出範囲の中心点を、標準の画像抽出範囲の中心点を基準にして時計回りにθ(半時計周りに−θ)だけ回転させ、さらに、出力画像抽出範囲そのものを、出力画像抽出範囲の中心点を基準に時計回りにθだけ回転させればよい。
1.9 実施の形態1の変形例3
上述の実施の形態1の説明では、カメラ24の撮影方向は、指令情報70に示される、本来向くべき方向と平行であるとして説明した。
1.9.1 撮影方向に誤差がある場合
上述のように、本発明は、位置誤差ベクトルを、撮影方向成分と、直交平面成分とに分解して出力画像抽出範囲を決定した。ここで、カメラ24の撮影方向が本来向くべき方向と平行ではなく、撮影方向に誤差がある場合、この誤差のベクトルを撮影方向誤差ベクトルとする。撮影方向はベクトルで表されるため、撮影方向誤差ベクトルは、例えば、実際の撮影方向を示すベクトルから本来の撮影方向を示すベクトルを引いた差分のベクトルとする。この撮影方向誤差ベクトルは、撮影方向の成分と、撮影方向に直交する平面の成分とに分解することができる。そうすると、位置誤差ベクトルを撮影方向成分と直交平面成分とに分解したときと同様の方法で、撮影方向の誤差を考慮して出力画像抽出範囲を決定することができる。
図26に、撮影方向誤差ベクトルがある場合の、カメラ位置と撮影対象面を図示する。
カメラ位置49aは、本来の撮影位置と実際の撮影位置とで同一とする。本来の撮影方向41aと、実際の撮影方向42aとの誤差の角度が、θで表されるとする。
本来の撮影方向41aと、実際の撮影方向42aは、上述のように、単位ベクトルとして表される。撮影対象面までの距離を「b」とする。撮影対象面までの距離は、本来の撮影位置および実際の撮影位置とでほぼ同じとする。そうすると、撮影方向誤差ベクトル43aのうち、直交平面成分の誤差は、撮影対象面において「b」倍となる。すなわち、誤差46aの大きさは、撮影方向誤差ベクトル43aのうち、直交平面成分の誤差の「b」倍となる。
図26(c)に、撮影対象面における、本来の撮影範囲44aと、実際の撮影範囲45aと、誤差46aとを示す。また、撮影方向誤差ベクトルのうち、直交平面成分を示すベクトルβを、ベクトルβ47aとして示す。誤差46aは、図示するように、ベクトルβ47aの「b」倍である。撮影方向に誤差がある場合は、誤差46aを、位置誤差ベクトルの直交平面成分とみなして、上述の実施の形態1と同様の方法で、出力画像抽出範囲の中心点を決定すればよい。
1.9.2 撮影方向に誤差がある場合の補足
なお、撮影方向誤差ベクトルのうち、撮影方向に直交する平面の成分に基づく誤差が撮影画像に与える影響は、撮影対象面までの距離が長くなるほど拡大する。そのため、撮影対象面までの距離が比較的長い場合は、撮影方向誤差ベクトルのうち、撮影方向の成分に基づく誤差は、直交平面成分に基づく誤差と比べて撮影画像に及ぼす誤差の影響が小さくなる場合がある。要するに、撮影方向に誤差があっても、被写体までの距離が遠ければ、撮影画像中の被写体の大きさはそれほど変わらないということである。
なお、撮影方向に誤差があり、カメラの位置にも誤差がある場合は、上述の誤差46aと、位置誤差ベクトルの直交平面成分とを合成して、合成したベクトルに基づいて出力画像抽出範囲の中心点を決定すればよい。
なお、上述の実施の形態1では、移動体2は、ローリングとピッチングが発生しにくいもの、あるいはローリングやピッチングによって撮影画像には大きな影響が出ないとして説明したが、本来の撮影方法と実際の撮影方法とで、移動体2がローリングやピッチングを行っている等の相違がある場合、カメラ24の撮影方向が、本来の撮影方法と実際の撮影方法とで異なることとなる。
例えば、移動体2が実際に撮影を行ったときのローリングの角度やピッチングの角度やヨーイングの角度を移動体2が記憶しておき、画像補正装置1は、移動体2からこれらの情報を取得する。そして、本来移動体2が移動を行うときのローリングの角度やピッチングの角度やヨーイングの角度についての情報を取得することで、実際のローリングの角度等の情報との差分を求め、移動体2の運動の誤差を示す移動体運動誤差情報を取得する。この移動体運動誤差情報が取得できれば、カメラの撮影方向の誤差がわかる。その後は、上述のように、カメラの撮影方向の誤差に基づいて画像の抽出を行えばよい。
以上のように本発明にかかる画像補正装置1について実施の形態に基づいて説明したが、以下のように変形することもでき、本発明は上述の実施の形態で示した画像補正装置1に限られないことは勿論である。
1.10.1 位置差分情報送信部208の送信タイミング
位置差分情報送信部208が位置差分情報80を画像補正装置1へ送信するタイミングについて補足すると、位置差分情報送信部208は、位置誤差算出部202から位置誤差ベクトルを受け付けるたびに、逐次、送信することとしてもよい。この場合は、画像補正装置1は各時点の誤差ベクトルを受信することになるので、移動体2のカメラ24により撮影された画像を、リアルタイムに補正することができる。また、位置差分情報送信部208は、ある程度、各時点の位置誤差ベクトルを蓄積してからまとめて画像補正装置1へ送信してもよい。
上述の実施例では、移動体2が飛行体である場合について説明したが、これに限られない。要するに、外乱の影響を受ける移動体であれば本発明を適用できる。例えば、ボート、ヨット、帆船などの、水面に浮かんで移動する浮遊移動体であってもよい。これら浮遊移動体は、移動に際して風の影響を受けやすい。また、波の影響により、浮遊移動体が揺れ動く。この他にも、例えば、地上を走行する走行体であってもよい。山岳や荒れ地を移動体が走行する場合、石などの障害物により、移動体が跳ねる場合がある。また、地上、水上に限らず、水中を移動する移動体であってもよい。水流の影響で移動体が移動に影響を受ける場合がある。
なお、上述の実施の形態の説明では、画像補正装置1と、移動体2と、移動指令装置3とが別々の装置であるとして説明してきたが、別々の装置に分けられている必要はない。例えば移動体2が移動指令装置3や画像補正装置1の機能を有していてもよい。また、画像補正装置1が移動指令装置3の機能を有していてもよい。例えば、上述の実施の形態の説明では、移動体2が位置誤差や方向誤差を算出してプロペラ動力の補正やカメラアングル補正を行うこととしているが、これらの処理を、移動指令装置3が遠隔操作により移動体2に指令することとしてもよい。また、画像補正装置1は、指令情報70を、移動指令装置3から取得することとしているが、移動体2から取得することとしてもよい。
なお、上述の実施の形態の説明では、移動体2は、位置誤差ベクトルや方向誤差ベクトルに基づいて、画像補正やプロペラ動力補正やカメラアングル補正を行うこととしているが、この他に、外乱を計測して得られたデータに基づいて、撮影画像から画像を抽出する出力画像抽出範囲の決定や、プロペラ動力補正やカメラアングル補正を行うとしてもよい。外乱を計測するには、例えば風圧センサ等を用いる。移動体2が水上や水中を移動する場合には水圧センサを用いるとよい。また、移動体2が地上を走行する場合は、圧力センサを用いるとよい。
また、GPS204やジャイロ207を用いて移動体2の位置や方向を取得するとしているが、他の装置が移動体2の位置や方向を測定し、移動体2に通知することとしてもよい。
また、上述の実施形態では、画像補正装置1は、指令情報70を受け付けることで、本来のカメラ24の撮影方向74の情報を取得して、撮影方向74に示される情報に基づいて、位置誤差ベクトルを分解していたが、移動体2がカメラ24の撮影方向を逐次記憶し、カメラ24の実際の撮影方向を取得して、実際の撮影方向に基づいて、位置誤差ベクトルを分解して画像の補正を行うこととしてもよい。
また、位置誤差ベクトルや方向誤差ベクトルなど、誤差を示すためのベクトルの算出方法は、上述の実施の形態の方法に限らない。例えば、移動体2が本来位置している座標を終点とし、実際位置している座標を始点としたベクトルを位置誤差ベクトルとしてもよい。方向誤差ベクトルについても同様に、移動体2が本来向くべき方向を示す単位ベクトルから実際に向いている方向を示す単位ベクトルを引いたベクトル差を方向誤差ベクトルとしてもよく、さまざまな算出方法が考えられる。撮影方向誤差ベクトルについても同様である。
なお、上述の実施形態では、画像補正装置1は、移動体2のカメラ24が撮影した画像を補正することとして説明したが、移動体2が映像を撮影する場合、その映像を構成する1枚1枚の画像について、出力画像抽出範囲を決定して画像を順に抽出し、抽出した画像を順に出力することで、移動体2が撮影した映像を補正する映像補正装置とすることもできる。例えば、災害発生の現場や、屋外競技などのイベント会場などにおいて、安価で小型な移動体にカメラを搭載して上空から撮影させ、映像補正装置は、撮影された映像をリアルタイムで受け付けて、その映像を構成する1枚1枚の画像を逐次補正して出力するなどの利用形態が想定できる。人が撮影する場合は、カメラを人が操作するので、操作者が意図したような映像を撮影できるのは当然であるが、この場合、ヘリコプター等に搭乗して撮影することとなり、移動体は比較的大きくならざるを得ない上に、一般的に高コストである。
なお、上述の実施形態で説明した方法の他に、撮影画像から出力画像抽出範囲を決定する方法は、以下のようなものがある。
例えば、位置誤差ベクトルと、撮影対象面までの距離と、画角とに基づいて、標準の画像抽出範囲から中心点を移動させる方向および移動量、拡大または縮小する画像サイズの倍率等を、予め算出しておく。算出結果を、画像補正情報として、画像補正装置1に記憶させることとしてもよい。つまり、上述の位置誤差ベクトルがある場合に、実際の撮影対象面を本来の撮影対象面まで移動させるのに必要なベクトルの向きおよび方向を記憶していればよい。これらの補正量は、実験やシミュレーションなどにより算出しておく。後は、そのベクトルの大きさに基づいて、画像抽出範囲の中心点の移動量が定まる。
(1)上記の各装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレィユニット、キーボード、マウスなどから構成されるコンピュータシステムである。前記RAM又は前記ハードディスクユニットには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、各装置は、その機能を達成する。ここで、コンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
(2)上記の各装置を構成する構成要素の一部又は全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。前記RAMには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、システムLSIは、その機能を達成する。
(3)上記の各装置を構成する構成要素の一部又は全部は、各装置に脱着可能なICカード又は単体のモジュールから構成されているとしてもよい。前記ICカード又は前記モジュールは、マイクロプロセッサ、ROM、RAM、などから構成されるコンピュータシステムである。前記ICカード又は前記モジュールは、上記の超多機能LSIを含むとしてもよい。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、前記ICカード又は前記モジュールは、その機能を達成する。このICカード又はこのモジュールは、耐タンパ性を有するとしてもよい。
(4)本発明は、上記に示す方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。
また、本発明は、マイクロプロセッサとメモリとを備えたコンピュータシステムであって、前記メモリは、上記コンピュータプログラムを記憶しており、前記マイクロプロセッサは、前記コンピュータプログラムに従って動作するとしてもよい。
(5)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
2 移動体
3 移動指令装置
4 ディスプレイ
20 移動体本体
21 気球
22 プロペラ
23 雲台
24 カメラ
201 指令情報取得部
202 位置誤差算出部
203 位置管理部
204 GPS
205 方向誤差算出部
206 方向管理部
207 ジャイロ
208 位置差分情報送信部
209 プロペラ動力補正部
210 プロペラ動力制御部
211 カメラアングル補正部
212 カメラアングル制御部
213 撮影画像取得部
214 撮影画像情報送信部
1000 画像補正装置
1010 画像補正処理部
1011 位置差分情報取得部
1012 撮影画像情報取得部
1013 カメラ情報取得部
1101 画像中心点算出部
1102 画像サイズ算出部
1015 画像出力部
2000 カメラ装置
3000 経路指定装置
Claims (25)
- 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正装置であって、
前記カメラが撮影した撮影画像を取得する画像取得手段と、
前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得手段と、
前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定手段と、
前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力手段とを備える
ことを特徴とする画像補正装置。 - 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、
前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解する分解部と、
前記撮影方向の成分に基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、
前記撮影方向に直交する平面の成分に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部とを含む
ことを特徴とする請求項1記載の画像補正装置。 - 前記位置差分情報に示される前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点のカメラ位置を終点とするベクトルで表したとき、
前記撮影方向に直交する平面の成分は、前記ベクトルを前記撮影方向に直交する平面に射影した射影ベクトルであり、
前記画像基準点算出部は、前記射影ベクトルの大きさに基づいて、前記移動させる基準点の移動量を算出し、前記射影ベクトルが前記撮影方向に直交する平面で示す方向の逆方向に、前記算出した移動量の分、前記標準の画像抽出範囲の基準点を前記移動させる
ことを特徴とする請求項2記載の画像補正装置。 - 前記カメラ情報取得手段は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの画角、または、前記指定されたカメラ位置における前記カメラの画角の少なくともいずれかを示す画角情報、および、前記撮影画像の撮影が行われた時点の前記カメラ位置から撮影対象までの距離、または、前記指定されたカメラ位置から撮影対象までの距離の少なくともいずれかを示す距離情報を取得し、
前記画像基準点算出部は、前記取得された前記画角情報と、前記距離情報とに基づいて、撮影範囲の大きさを算出し、前記撮影範囲の大きさと、前記射影ベクトルの大きさとの比率に基づいて、前記基準点の前記移動量を算出する
ことを特徴とする請求項3記載の画像補正装置。 - 前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置を終点とするベクトルで表したとき、
前記画像サイズ算出部は、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と同一方向の場合は前記サイズを拡大し、前記ベクトルの撮影方向の成分が、前記撮影方向情報に示される前記撮影方向と反対方向の場合は前記サイズを縮小して前記サイズの決定を行う
ことを特徴とする請求項2記載の画像補正装置。 - 前記画像サイズ算出部は、前記撮影方向の成分の大きさに応じて、前記サイズの補正の倍率を決定する倍率決定部を含み、決定した倍率に従って前記標準の画像抽出範囲のサイズを前記補正する
ことを特徴とする請求項2記載の画像補正装置。 - 前記差分を、前記指定されたカメラ位置を始点とし、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置を終点とするベクトルで表し、前記ベクトルの撮影方向の成分の大きさをa、前記指定されたカメラ位置から撮影対象までの距離をbとし、
前記カメラ情報取得手段は、さらに、前記指定されたカメラ位置から撮影対象までの距離を示す距離情報を取得し、
前記倍率決定部は、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と前記同一方向の場合は、前記倍率をb/(b−a)と決定し、前記ベクトルの撮影方向の成分の方向が、前記撮影方向情報に示される前記撮影方向と反対方向の場合は、前記倍率をb/(b+a)と決定する
ことを特徴とする請求項6記載の画像補正装置。 - 前記補正画像出力手段は、前記出力画像抽出範囲の画像を前記撮影画像から抽出し、抽出した画像を、前記画像サイズ算出部により決定された前記倍率の逆数倍のサイズの画像に拡大または縮小する出力画像サイズ調節部を含み、
前記出力画像サイズ調節部により前記倍率の逆数倍のサイズとなった画像を前記出力する
ことを特徴とする請求項6記載の画像補正装置。 - 前記カメラは、撮影方向を回転軸として撮影範囲を回転させるロール操作を行うことができ、
前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の、ロール操作が行われている回転量を角度で示すロール角情報を取得するロール角情報取得手段を備え、
前記決定手段は、前記位置差分情報と、前記取得した前記ロール角情報とに基づいて前記修正を行って前記出力画像抽出範囲の前記決定を行う
ことを特徴とする請求項1記載の画像補正装置。 - 前記ロール角情報取得手段は、さらに、前記指定されたカメラ位置におけるロール操作が行われている回転量を示す指定ロール角情報を取得し、
前記決定手段は、前記取得した前記ロール角情報に示される回転量と、前記指定ロール角情報に示される回転量との差分の回転量を示す差分回転量を算出する差分回転量算出部を含み、
前記位置差分情報に基づいて前記修正した範囲の画像抽出範囲を、前記差分回転量算出部で算出した前記差分回転量に示される回転量に基づいて回転させ、回転後の画像抽出範囲を前記出力画像抽出範囲と前記決定する
ことを特徴とする請求項9記載の画像補正装置。 - 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
前記決定手段は、前記位置差分情報に基づいて、前記標準の画像抽出範囲の基準点を移動させる方向および移動量を決定する画像基準点算出部と、
前記画像基準点算出部が決定した方向および移動量に示される前記移動後の点を、前記標準の画像抽出範囲の基準点に基づいた点を回転の中心として、前記ロール角情報に示される回転量の分、前記ロール角情報の示す回転方向とは逆方向に回転させる画像基準点補正部とを含み、
前記画像基準点補正部により前記回転された点を基準点とした場合の画像抽出範囲を、前記回転された点に基づいた点を回転の中心として、前記差分回転量算出部が算出した前記差分回転量に示される回転量の分、前記差分回転量の回転方向とは逆方向に回転させ、回転後の画像抽出範囲を出力画像抽出範囲と前記決定する
ことを特徴とする請求項10記載の画像補正装置。 - 前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラの撮影方向と、前記指定されたカメラ位置における撮影方向との誤差を示す撮影方向誤差情報を取得する撮影方向誤差情報取得手段を備え、
前記決定手段は、前記取得した撮影方向誤差情報と、前記位置差分情報とに基づいて前記修正して前記出力画像抽出範囲の前記決定を行う
ことを特徴とする請求項1記載の画像補正装置。 - 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、
前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解し、前記撮影方向誤差情報に示される前記撮影方向の誤差を、前記撮影方向情報に示される前記撮影方向の成分と、前記直交する平面の成分とに分解する分解部と、
前記差分の前記撮影方向成分と前記撮影方向の誤差の前記撮影方向成分とに基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、
前記差分の前記直交する平面の成分と前記撮影方向の誤差の前記直交する平面の成分とに基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部とを含む
ことを特徴とする請求項12記載の画像補正装置。 - 前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点における前記移動体と、前記指定されたカメラ位置における移動体との、ローリング角度、ピッチング角度、ヨーイング角度の差分の少なくとも1つを示す移動体運動誤差情報を取得する運動後差情報取得手段を備え、
前記決定手段は、前記取得した位置差分情報と、前記移動体運動誤差情報とに基づいて前記修正して前記出力画像抽出範囲の前記決定を行う
ことを特徴とする請求項1記載の画像補正装置。 - 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
前記画像補正装置は、さらに、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置における前記カメラの撮影方向、または、前記指定されたカメラ位置における前記カメラの撮影方向の少なくともいずれかを示す撮影方向情報を取得するカメラ情報取得手段を備え、
前記決定手段は、前記取得された前記撮影方向情報に基づいて、前記位置差分情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記撮影方向に直交する平面の成分とに分解し、前記移動体運動誤差情報に示される前記差分を、前記撮影方向情報に示される前記撮影方向の成分と、前記直交する平面の成分とに分解する分解部と、
前記位置差分情報に示される前記差分の前記撮影方向成分と前記移動体運動誤差情報に示される前記差分の前記撮影方向成分との和に基づいて、前記標準の画像抽出範囲のサイズを補正し、補正後のサイズを、出力画像抽出範囲のサイズと決定する画像サイズ算出部と、
前記位置差分情報に示される前記差分の前記直交する平面の成分と前記移動体運動誤差情報に示される前記差分の前記直交する平面の成分との和に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点を決定する画像基準点算出部とを含む
ことを特徴とする請求項14記載の画像補正装置。 - 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
前記決定手段は、前記位置差分情報に示される位置の差分に基づいて、前記標準の画像抽出範囲の基準点を移動させ、移動後の基準点を出力画像抽出範囲の基準点と決定する画像基準点算出部を含む
ことを特徴とする請求項1記載の画像補正装置。 - 前記決定手段は、前記位置差分情報に示される位置の差分に基づいて、前記標準の画像抽出範囲のサイズを拡大または縮小し、拡大または縮小後のサイズを、出力画像抽出範囲のサイズと決定する
ことを特徴とする請求項1記載の画像補正装置。 - 前記移動体は、前記移動体が移動すべき経路を示す指令情報に基づいて移動および前記カメラによる撮影を行い、
前記画像補正装置は、さらに、前記指令情報を取得する指令情報取得手段を備え、
前記指定されたカメラ位置とは、前記指令情報に示される経路上の位置である
ことを特徴とする請求項1記載の画像補正装置。 - 前記画像補正装置は、さらに、
前記標準の画像抽出範囲を修正する修正方法を、前記差分と対応づけた画像補正情報を取得して記憶する画像補正情報取得手段を備え、
前記決定手段は、前記位置差分情報に示される差分と対応している前記修正方法を、前記記憶している前記画像補正情報から読み出し、前記対応している前記修正方法に従って前記決定を行う
ことを特徴とする請求項1記載の画像補正装置。 - 前記画像抽出範囲は、基準点によりその画像抽出範囲の撮影画像における位置が定められ、
前記画像補正情報は、前記差分と対応付けて、前記出力画像抽出範囲のサイズおよび基準点の位置とを記憶しており、
前記決定手段は、前記画像補正情報に示される前記サイズおよび前記基準点の位置を、前記出力画像抽出範囲と前記決定する
ことを特徴とする請求項19記載の画像補正装置。 - 前記移動体は、カメラの撮影により映像を生成し、
前記画像補正装置は、前記生成された映像を構成する各画像について、前記決定手段により前記出力画像抽出範囲の前記決定を行い、
前記補正画像出力手段は、各画像について前記決定された出力画像抽出範囲の画像を抽出して映像として出力する映像出力部を含む
ことを特徴とする請求項1記載の画像補正装置。 - 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正システムであって、
カメラ位置の指定を受け付ける位置指定受付手段と、
受け付けた指定にかかるカメラ位置を位置指定情報として記憶する位置指定情報記憶手段と、
前記移動体が実際に移動した経路を示す移動軌跡情報を取得する移動軌跡情報取得手段と、
前記位置指定情報と、前記取得した移動軌跡情報とに基づいて、前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、前記指定されたカメラ位置との差分を算出する位置差分算出手段と、
前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記位置差分算出手段により算出された前記差分に基づいて修正し、出力画像抽出範囲として決定する決定手段と、
前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力手段とを含む
ことを特徴とする画像補正システム。 - 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正方法であって、
前記画像補正方法は、
前記カメラが撮影した撮影画像を取得する画像取得ステップと、
前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得ステップと、
前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定ステップと、
前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力ステップとを含む
ことを特徴とする画像補正方法。 - 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正処理を画像補正装置に行わせるための制御プログラムであって、
前記制御プログラムは、
前記カメラが撮影した撮影画像を取得する画像取得ステップと、
前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得ステップと、
前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定ステップと、
前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力ステップとを含む
ことを特徴とする制御プログラム。 - 移動体に搭載されたカメラにより撮影されて生成された画像を補正して出力する画像補正処理を実行する集積回路であって、
前記カメラが撮影した撮影画像を取得する画像取得部と、
前記撮影画像の撮影が行われた時点の前記カメラのカメラ位置と、指定されたカメラ位置との差分を示す位置差分情報を取得する差分取得部と、
前記撮影画像から出力画像を抽出するための標準の画像抽出範囲を、前記記憶されている前記位置差分情報に基づいて修正し、出力画像抽出範囲として決定する決定部と、
前記決定された出力画像抽出範囲の画像を、前記撮影画像から抽出して出力する補正画像出力部とを含む
ことを特徴とする集積回路。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008501769A JP5155145B2 (ja) | 2006-02-23 | 2007-02-23 | 画像補正装置、方法、プログラム、集積回路、システム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006047110 | 2006-02-23 | ||
JP2006047110 | 2006-02-23 | ||
JP2008501769A JP5155145B2 (ja) | 2006-02-23 | 2007-02-23 | 画像補正装置、方法、プログラム、集積回路、システム |
PCT/JP2007/053426 WO2007097431A1 (ja) | 2006-02-23 | 2007-02-23 | 画像補正装置、方法、プログラム、集積回路、システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2007097431A1 JPWO2007097431A1 (ja) | 2009-07-16 |
JP5155145B2 true JP5155145B2 (ja) | 2013-02-27 |
Family
ID=38437466
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008501769A Expired - Fee Related JP5155145B2 (ja) | 2006-02-23 | 2007-02-23 | 画像補正装置、方法、プログラム、集積回路、システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US8085308B2 (ja) |
JP (1) | JP5155145B2 (ja) |
CN (1) | CN101390383B (ja) |
WO (1) | WO2007097431A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018124774A1 (ko) * | 2017-01-02 | 2018-07-05 | 삼성전자 주식회사 | 전자 장치 및 그 제어 방법 |
US10267949B2 (en) | 2014-10-17 | 2019-04-23 | Sony Corporation | Information processing apparatus and information processing method |
Families Citing this family (46)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8617008B2 (en) | 2001-09-12 | 2013-12-31 | Pillar Vision, Inc. | Training devices for trajectory-based sports |
US8409024B2 (en) * | 2001-09-12 | 2013-04-02 | Pillar Vision, Inc. | Trajectory detection and feedback system for golf |
US9769354B2 (en) | 2005-03-24 | 2017-09-19 | Kofax, Inc. | Systems and methods of processing scanned data |
JP4775296B2 (ja) * | 2007-03-27 | 2011-09-21 | 日本電気株式会社 | 撮像空間安定化装置及び被写体追尾装置 |
US9767354B2 (en) | 2009-02-10 | 2017-09-19 | Kofax, Inc. | Global geographic information retrieval, validation, and normalization |
US9576272B2 (en) | 2009-02-10 | 2017-02-21 | Kofax, Inc. | Systems, methods and computer program products for determining document validity |
JP5231331B2 (ja) * | 2009-05-29 | 2013-07-10 | 株式会社エム・ソフト | 映像合成方法、映像合成システム |
DE102009058597B4 (de) * | 2009-12-17 | 2012-04-19 | Siemens Aktiengesellschaft | Bildaufnahmesystem zur Aufnahme und Übertragung digitaler Videobilder, Bilddatenverarbeitungssystem zum Empfangen und Verarbeiten digitaler Bilddaten, Bildstabilisierungssystem und Verfahren zum Generieren verwacklungsarmer digitaler Videobilder |
JP5486298B2 (ja) * | 2009-12-28 | 2014-05-07 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
JP5264831B2 (ja) * | 2010-06-21 | 2013-08-14 | シャープ株式会社 | 画像処理装置、画像読取装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体 |
WO2012035886A1 (ja) * | 2010-09-16 | 2012-03-22 | パイオニア株式会社 | 端末保持装置 |
WO2012053102A1 (ja) * | 2010-10-22 | 2012-04-26 | パイオニア株式会社 | 端末装置、端末装置によって実行される画像処理方法及び画像処理プログラム |
EP2754288A4 (en) * | 2011-09-07 | 2015-06-03 | Umoove Ltd | SYSTEM AND METHOD FOR TRACKING AN OBJECT IN AN IMAGE CAPTURED BY A MOBILE DEVICE |
FR2982393B1 (fr) * | 2011-11-09 | 2014-06-13 | Sagem Defense Securite | Recherche d'une cible dans une image multispectrale |
JP5858741B2 (ja) * | 2011-11-15 | 2016-02-10 | キヤノン株式会社 | 自動追尾カメラシステム |
JP5711104B2 (ja) * | 2011-12-14 | 2015-04-30 | 株式会社東芝 | 画像表示装置、方法、プログラム、及び画像処理装置 |
US9277101B2 (en) * | 2011-12-22 | 2016-03-01 | Verizon Patent And Licensing Inc. | Method and system for generating interpolations of captured video content |
US10146795B2 (en) | 2012-01-12 | 2018-12-04 | Kofax, Inc. | Systems and methods for mobile image capture and processing |
US8855375B2 (en) | 2012-01-12 | 2014-10-07 | Kofax, Inc. | Systems and methods for mobile image capture and processing |
JP2013219544A (ja) * | 2012-04-09 | 2013-10-24 | Ricoh Co Ltd | 画像処理装置、画像処理方法、及び画像処理プログラム |
TWI460668B (zh) * | 2012-07-30 | 2014-11-11 | Faraday Tech Corp | 影像擷取系統與方法 |
CN103152522A (zh) * | 2013-02-25 | 2013-06-12 | 东莞宇龙通信科技有限公司 | 调整拍摄位置的方法及其终端 |
US9208536B2 (en) | 2013-09-27 | 2015-12-08 | Kofax, Inc. | Systems and methods for three dimensional geometric reconstruction of captured image data |
US9355312B2 (en) | 2013-03-13 | 2016-05-31 | Kofax, Inc. | Systems and methods for classifying objects in digital images captured using mobile devices |
US8948457B2 (en) | 2013-04-03 | 2015-02-03 | Pillar Vision, Inc. | True space tracking of axisymmetric object flight using diameter measurement |
US20140316841A1 (en) | 2013-04-23 | 2014-10-23 | Kofax, Inc. | Location-based workflows and services |
DE202014011407U1 (de) | 2013-05-03 | 2020-04-20 | Kofax, Inc. | Systeme zum Erkennen und Klassifizieren von Objekten in durch Mobilgeräte aufgenommenen Videos |
US20150130936A1 (en) * | 2013-11-08 | 2015-05-14 | Dow Agrosciences Llc | Crop monitoring system |
JP2016538783A (ja) | 2013-11-15 | 2016-12-08 | コファックス, インコーポレイテッド | モバイル映像データを用いて長尺文書の合成画像を生成するためのシステムおよび方法 |
JP5880612B2 (ja) * | 2014-03-28 | 2016-03-09 | ブラザー工業株式会社 | 情報処理装置及びプログラム |
US9760788B2 (en) | 2014-10-30 | 2017-09-12 | Kofax, Inc. | Mobile document detection and orientation based on reference object characteristics |
JP6675607B2 (ja) * | 2015-05-28 | 2020-04-01 | 国立大学法人東京工業大学 | 画像処理装置、画像処理システム、および画像処理プログラム |
JP6570904B2 (ja) * | 2015-07-10 | 2019-09-04 | 株式会社東芝 | 補正情報出力装置、画像処理装置、補正情報出力方法、撮像制御システム及び移動体制御システム |
US10242285B2 (en) | 2015-07-20 | 2019-03-26 | Kofax, Inc. | Iterative recognition-guided thresholding and data extraction |
US10467465B2 (en) | 2015-07-20 | 2019-11-05 | Kofax, Inc. | Range and/or polarity-based thresholding for improved data extraction |
WO2017020150A1 (zh) * | 2015-07-31 | 2017-02-09 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、装置及摄像机 |
JP6281729B2 (ja) * | 2015-09-16 | 2018-02-21 | エスゼット ディージェイアイ オスモ テクノロジー カンパニー リミテッドSZ DJI Osmo Technology Co., Ltd. | 撮影を行うシステム |
CN108476282B (zh) * | 2016-01-22 | 2020-07-17 | 富士胶片株式会社 | 摄影辅助装置及摄影辅助方法 |
US9779296B1 (en) | 2016-04-01 | 2017-10-03 | Kofax, Inc. | Content-based detection and three dimensional geometric reconstruction of objects in image and video data |
JP7203305B2 (ja) * | 2017-11-08 | 2023-01-13 | パナソニックIpマネジメント株式会社 | 撮影システム、撮影方法、及びプログラム |
US10803350B2 (en) | 2017-11-30 | 2020-10-13 | Kofax, Inc. | Object detection and image cropping using a multi-detector approach |
JP7123604B2 (ja) * | 2018-03-30 | 2022-08-23 | セコム株式会社 | 監視システム及び監視装置 |
CN109316202B (zh) * | 2018-08-23 | 2021-07-02 | 苏州佳世达电通有限公司 | 影像校正方法及检测装置 |
US11816873B2 (en) * | 2018-09-06 | 2023-11-14 | Shiseido Company, Ltd. | Image analysis device, image analysis method, and program |
JP7253001B2 (ja) * | 2021-03-30 | 2023-04-05 | 本田技研工業株式会社 | 情報処理装置及び方法 |
CN114245089B (zh) * | 2021-12-20 | 2023-07-18 | 青岛海信激光显示股份有限公司 | 几何校正方法、装置、激光投影设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005295495A (ja) * | 2003-10-02 | 2005-10-20 | Kazuo Iwane | カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置,画像安定化装置,位置姿勢安定化装置,目的対象物ロックオン装置及び実写対象物属性呼出装置 |
JP2005303806A (ja) * | 2004-04-14 | 2005-10-27 | Matsushita Electric Ind Co Ltd | 移動機構付き撮像装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6053942A (ja) | 1983-09-05 | 1985-03-28 | Asahi Shokai:Kk | 空中撮影装置 |
JP3852745B2 (ja) * | 2000-02-28 | 2006-12-06 | 株式会社日立国際電気 | 物体検出方法及び物体検出装置 |
DE60138330D1 (de) * | 2000-02-28 | 2009-05-28 | Hitachi Int Electric Inc | Vorricht ung und Systemzur Überwachung von eingedrungenen Objekte |
JP4015051B2 (ja) * | 2002-04-22 | 2007-11-28 | 松下電器産業株式会社 | カメラ補正装置 |
US7688381B2 (en) * | 2003-04-08 | 2010-03-30 | Vanbree Ken | System for accurately repositioning imaging devices |
JP2004328484A (ja) * | 2003-04-25 | 2004-11-18 | Hitachi Ltd | 監視システム及び監視端末 |
JP4380550B2 (ja) * | 2004-03-31 | 2009-12-09 | 株式会社デンソー | 車載用撮影装置 |
US20060078162A1 (en) * | 2004-10-08 | 2006-04-13 | Dynapel, Systems, Inc. | System and method for stabilized single moving camera object tracking |
JP4389749B2 (ja) * | 2004-10-15 | 2009-12-24 | 株式会社ニコン | パンニング撮影可能なカメラおよび動画像編集用プログラム |
-
2007
- 2007-02-23 WO PCT/JP2007/053426 patent/WO2007097431A1/ja active Application Filing
- 2007-02-23 US US12/279,013 patent/US8085308B2/en active Active
- 2007-02-23 CN CN2007800064764A patent/CN101390383B/zh not_active Expired - Fee Related
- 2007-02-23 JP JP2008501769A patent/JP5155145B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005295495A (ja) * | 2003-10-02 | 2005-10-20 | Kazuo Iwane | カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置,画像安定化装置,位置姿勢安定化装置,目的対象物ロックオン装置及び実写対象物属性呼出装置 |
JP2005303806A (ja) * | 2004-04-14 | 2005-10-27 | Matsushita Electric Ind Co Ltd | 移動機構付き撮像装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10267949B2 (en) | 2014-10-17 | 2019-04-23 | Sony Corporation | Information processing apparatus and information processing method |
WO2018124774A1 (ko) * | 2017-01-02 | 2018-07-05 | 삼성전자 주식회사 | 전자 장치 및 그 제어 방법 |
KR20180079767A (ko) * | 2017-01-02 | 2018-07-11 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
KR102653336B1 (ko) * | 2017-01-02 | 2024-04-02 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
Also Published As
Publication number | Publication date |
---|---|
CN101390383B (zh) | 2011-09-21 |
CN101390383A (zh) | 2009-03-18 |
JPWO2007097431A1 (ja) | 2009-07-16 |
WO2007097431A1 (ja) | 2007-08-30 |
US8085308B2 (en) | 2011-12-27 |
US20100007751A1 (en) | 2010-01-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5155145B2 (ja) | 画像補正装置、方法、プログラム、集積回路、システム | |
JP5659305B2 (ja) | 画像生成装置および画像生成方法 | |
WO2017000876A1 (zh) | 对地定位或导航用相机、飞行器及其导航方法 | |
CN111953892B (zh) | 无人飞行器、检查方法 | |
JP6583840B1 (ja) | 検査システム | |
JP4446041B2 (ja) | カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置,画像安定化装置,位置姿勢安定化装置,目的対象物ロックオン装置及び実写対象物属性呼出装置 | |
CN110291777B (zh) | 图像采集方法、设备及机器可读存储介质 | |
WO2018024239A1 (zh) | 混合式图像稳定系统 | |
CN112703748B (zh) | 信息处理装置、信息处理方法以及程序记录介质 | |
CN114208143A (zh) | 信息处理系统、信息处理方法和程序 | |
JP5857419B2 (ja) | 目標標定装置及び目標標定方法 | |
TWI726536B (zh) | 影像擷取方法及影像擷取設備 | |
JP4896116B2 (ja) | 空中移動体からの自動追尾撮影装置 | |
JP6681101B2 (ja) | 検査システム | |
JP5277600B2 (ja) | 架空線撮影システム及び方法 | |
JP2000213953A (ja) | 飛しょう体の航法装置 | |
JP2007241085A (ja) | 撮影映像処理システム及び撮影映像処理装置並びに撮影映像表示方法 | |
CN108475410B (zh) | 三维立体水印添加方法、装置及终端 | |
JP6436601B2 (ja) | 移動体、移動体の制御方法、制御プログラムを格納した記憶媒体、および制御プログラム | |
JP2019219874A (ja) | 自律移動撮影制御システムおよび自律移動体 | |
JP4517813B2 (ja) | パンニング撮影可能なカメラおよび動画像編集用プログラム | |
JP6997164B2 (ja) | 画像処理装置、画像処理方法、プログラム、及び記録媒体 | |
JP4515884B2 (ja) | カメラスタビライザ目標位置補正方法 | |
JP2001186513A (ja) | 撮像装置 | |
CN112119362A (zh) | 云台系统及其控制方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20091208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120529 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121113 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121206 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151214 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5155145 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |