JP2019047218A - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP2019047218A JP2019047218A JP2017166101A JP2017166101A JP2019047218A JP 2019047218 A JP2019047218 A JP 2019047218A JP 2017166101 A JP2017166101 A JP 2017166101A JP 2017166101 A JP2017166101 A JP 2017166101A JP 2019047218 A JP2019047218 A JP 2019047218A
- Authority
- JP
- Japan
- Prior art keywords
- image
- fluctuation
- moving image
- motion vector
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 画像に対して良好にゆらぎ補正する。【解決手段】 動画を構成する複数のフレームに対して、大気の影響に起因するゆらぎを補正する画像処理装置であって、先に撮影された第1の動画に含まれる複数のフレームが移動物体を含まないと判定された場合に、前記第1の動画を構成する少なくとも2つのフレーム間で算出された動きベクトルを複数の領域毎の基準ゆらぎ量として設定する設定手段と、前記基準ゆらぎ量に基づいて、前記第1の動画の後に撮影された第2の動画に含まれる複数のフレームを用いて、基準画像を生成する生成手段と、前記第2の動画を構成する処理対象のフレームと前記基準画像とに基づいて、前記制約範囲の大きさである動きベクトルを算出する算出手段と、前記動きベクトルに基づいて、前記処理対象のフレームのゆらぎを補正する補正手段と、を有することを特徴とする。【選択図】 図4
Description
本発明は、画像における大気ゆらぎの影響を除去する画像処理方法に関する。
監視カメラシステムなどにおいて大気ゆらぎに起因する画像の劣化を補正する技術(以降ではゆらぎ補正と呼ぶ)が用いられている。ここで大気ゆらぎとは、大気の乱流や温度差により光の屈折率が空間的および時間的に変化する自然現象を指す。また、大気ゆらぎは陽炎とも呼ばれる。大気ゆらぎは光の屈折の時間的変動を引き起こし、その結果として特に望遠レンズで遠方を撮影した場合に、被写体が時間的に変化する歪み(以降ではゆらぎと呼ぶ)を有するようになる。
そこで特許文献1では、陽炎などの自然界の大気要因によって生じる事象による画像画質の劣化を改善する方法を開示している。特許文献1に開示された方法によれば、時間領域での指数移動平均によって得られた参照画像とボケを与えられた入力画像とから局所的なゆらぎを計算して陽炎による動きベクトルを検出し、検出した動きベクトルを用いてゆらぎを除去している。
特許文献1に記載された方法では、推定した参照画像と入力画像とから動きベクトルを算出する。そのため、例えば入力画像にノイズが多く含まれる場合など、動きベクトルからゆらぎ以外の要因(ノイズ、移動物体)を排除することが難しく、良好にゆらぎ補正をすることができない場合がある。
そこで本発明は、画像に対して良好にゆらぎ補正することを目的とする。
上記課題を解決するため本発明は、動画を構成する複数のフレームに対して、大気の影響に起因するゆらぎを補正する画像処理装置であって、先に撮影された第1の動画に含まれる複数のフレームそれぞれにおいて、移動物体を含むか否かを判定する判定手段と、前記判定手段により移動物体を含まないと判定された場合に、前記第1の動画を構成する少なくとも2つのフレーム間で算出された動きベクトルを複数の領域ごとの基準ゆらぎ量として設定する設定手段と、前記基準ゆらぎ量に基づいて動きベクトルの大きさの上限と下限とからなる制約範囲を決定する決定手段と、前記第1の動画の後に撮影された第2の動画に含まれる複数のフレームを用いて、基準画像を生成する生成手段と、前記第2の動画を構成する処理対象のフレームと前記基準画像と前記制約範囲に基づいて、ゆらぎの動きベクトルを算出する算出手段と、前記ゆらぎの動きベクトルに基づいて、前記処理対象のフレームのゆらぎを補正する補正手段と、を有することを特徴とする。
本発明によれば、画像に対して良好にゆらぎ補正することができる。
以下、添付の図面を参照して、本発明を好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例にすぎず、本発明は図示された構成に必ずしも限定されるものではない。
<第1実施形態>
第1実施形態では、事前に撮影された動画を用いて基準ゆらぎ量を生成しておき、動画における各フレームのゆらぎ補正をする方法について説明する。図1は、第1実施形態に適用可能な画像処理装置のハード構成を示す図である。画像処理装置100は、CPU101、RAM102、ROM103、二次記憶装置104、入力インターフェース105、出力インターフェース106を含む。画像処理装置100の各構成要素は、システムバス107によって相互に接続されている。また、画像処理装置100は、入力インターフェース105を介して外部記憶装置108および操作部110に接続されている。また、画像処理装置100は、出力インターフェース106を介して外部記憶装置108および表示装置109に接続されている。
第1実施形態では、事前に撮影された動画を用いて基準ゆらぎ量を生成しておき、動画における各フレームのゆらぎ補正をする方法について説明する。図1は、第1実施形態に適用可能な画像処理装置のハード構成を示す図である。画像処理装置100は、CPU101、RAM102、ROM103、二次記憶装置104、入力インターフェース105、出力インターフェース106を含む。画像処理装置100の各構成要素は、システムバス107によって相互に接続されている。また、画像処理装置100は、入力インターフェース105を介して外部記憶装置108および操作部110に接続されている。また、画像処理装置100は、出力インターフェース106を介して外部記憶装置108および表示装置109に接続されている。
CPU101は、RAM102をワークメモリとして、ROM103に格納されたプログラムを実行し、システムバス107を介して画像処理装置100の各構成要素を統括的に制御する。これにより、後述する様々な処理が実行される。二次記憶装置104は、処理装置100で取り扱われる種々のデータを記憶する記憶装置であり、本実施形態ではHDDが用いられる。CPU101は、システムバス107を介して二次記憶装置104へのデータの書き込みおよび二次記憶装置104に記憶されたデータの読出しを行う。なお、二次記憶装置104にはHDDの他に、光ディスクドライブやフラッシュメモリなど、様々な記憶デバイスを用いることが可能である。
入力インターフェース105は、例えばUSBやIEEE1394等のシリアルバスインターフェースである。画像処理装置100は、入力インターフェース105を介して、外部装置からデータや命令等を入力する。本実施形態では、画像処理装置100は、入力インターフェース105を介して、外部記憶装置108(例えば、ハードディスク、メモリカード、CFカード、SDカード、USBメモリなどの記憶媒体)からデータを取得する。また本実施形態では、画像処理装置100は、操作部110に入力されたユーザの指示を、入力インターフェース105を介して取得する。操作部110は、マウスやキーボードなどの入力装置であり、ユーザの指示を入力する。
出力インターフェース106は、入力インターフェース105と同様にUSBやIEEE1394等のシリアルバスインターフェースである。なお、出力インターフェース106は、例えばDVIやHDMI(登録商標)等の映像出力端子であってもよい。画像処理装置100は、出力インターフェース106を介して、外部装置にデータ等を出力する。本実施形態では、画像処理装置100は、出力インターフェース106を介して表示装置109(液晶ディスプレイなどの各種画像表示デバイス)に、CPU101によって処理されたデータ(例えば、画像データ)を出力する。
図2は、画像処理装置の機能ブロック図である。画像処理装置100は、図2に示すように、基準ゆらぎ量取得部201、範囲決定部202、データ取得部203、基準画像生成部204、ゆらぎ算出部205、ゆらぎ補正部206としての機能を有する。また図3は、基準ゆらぎ量取得部201の詳細な機能ブロック図である。本実施形態における画像処理装置100は、ある固定カメラから撮影した動画に対してゆらぎ補正を実行する。まず基準ゆらぎ量取得部201は、事前に撮影した動画から、基準ゆらぎ量を取得する。
範囲決定部202は、処理対象フレームを複数の領域に分割した領域ごとに、ゆらぎがとり得る動きベクトルの大きさを制約範囲として設定する。データ取得部203は、ゆらぎ補正をする画像データを取得する。本実施形態では画像データは動画とする。従って、連続的に撮影された複数フレームが画像データとして取得されることになる。なおデータ取得部203は、基準ゆらぎ量取得部201が取得する基準ゆらぎを算出した動画と同じ条件で撮影された動画を取得する。基準画像生成部204は、処理対象の動画を用いて、背景画像である基準画像を生成する。ゆらぎ算出部205は、処理対象動画において、発生しているゆらぎを算出する。この時、大気のゆらぎ以外の要因による動きベクトルを除くため、設定された制約範囲内の動きベクトルを検出する。ゆらぎ補正部206は、算出したゆらぎの動きベクトルに基づいて、処理対象の動画のうちフレームごとにワーピング処理を実行する。
基準ゆらぎ量取得部201は、図3に示すように、データ取得部301、基準画像生成部302、ゆらぎ算出部303、移動物体判定部304、基準ゆらぎ量生成部305としての機能を有する。基準ゆらぎ量取得部201は、ゆらぎ補正をする動画像の撮影前に、事前に撮影した動画を用いてゆらぎとして想定される動きの大きさを特定しておく。上記各部の機能は、CPU101がROM103内に格納された制御プログラムを読み込み実行することで実現される。なお、各部に相当する専用の処理回路を備えるように画像処理装置100を構成するようにしてもよい。
以下、画像処理装置100が実行するゆらぎ補正について説明する。図4は、画像処理装置が実行する処理の流れを示すフローチャートである。以降、フローチャートにおける各ステップを「S」を用いて表すこととする。
S401において基準ゆらぎ量取得部201は、処理対象画像の各領域における基準ゆらぎ量を取得する。領域とは、想定されるゆらぎの大きさに応じて画像を分割して得られる部分領域である。処理対象フレームにおいて、全ての画素がいずれかの領域に含まれている必要がある。また、領域の大きさは1画素でもよく、その場合には各画素で独立に異なる基準ゆらぎ量が設定される。基準ゆらぎ量とは、各領域において想定されるゆらぎの大きさである。基準ゆらぎ量の取得の詳細については、後述する。
S402において制約範囲決定部202は、基準ゆらぎ量に基づいて処理対象画像におけるゆらぎ算出に用いる動きベクトルの制約範囲を決定する。この制約範囲は、基準ゆらぎ量と同様に処理対象画像の各領域に対して与えられる。この詳細は、S405において説明する。
S403においてデータ取得部203は、入力インターフェース105を介して外部装置から、または二次記憶装置104から、処理対象画像の画像データを取得する。ここで入力される画像データは、動画ではなく、時間間隔をおいて撮影された同一シーンの複数の画像であってもよい。この動画は、固定されたカメラによって撮影されている。そして、データ取得部203は、取得した画像データを基準画像生成部204に出力する。
S404において基準画像生成部204は、処理対象の画像データに基づいて基準画像を生成する。基準画像とは、処理対象のフレームのゆらぎを算出するために用いる、ゆらぎが除去された画像である。ここでは基準画像生成部204は、複数フレームにおける対応する画素の画素値を平均することにより基準画像を生成する。なお基準画像生成部204は、動画に移動物体が含まれていることを想定して、背景差分法により移動物体を除く背景を抽出した上で、複数フレームにおける同じ画素位置の画素値を平均する。しかし、基準画像の生成方法はこれらに限られることはない。また、任意の1フレームをそのまま基準画像としてもよい。
S405においてゆらぎ算出部205は、基準画像を用いて動画のうち処理対象とするフレームの各画素におけるゆらぎを算出する。処理対象とするフレームと次のフレームそれぞれにおいて、被写体上の同一の点がどの位置に写っているかの相対位置を表すベクトルを、動きベクトルと呼ぶ。動きベクトルを算出する方法としては、公知のオプティカルフローを生成するための公知の算出手法を用いることができる。この動きベクトルには、移動物体である被写体自身の動きによる成分と、被写体自身の動きによらず大気の影響を受けたことによる成分とがある。なお本実施形態では、固定されたカメラによって撮影した動画を処理対象としているため、カメラ自体の動きによるものは考えない。本実施形態では、算出した動きベクトルに対して、基準ゆらぎ量に応じた制約範囲を設定することで、大気ゆらぎを特定する。制約範囲とは、各画素においてゆらぎの動きベクトルの取りうる大きさの上限と下限である。ゆらぎ算出部205は、このように想定されるゆらぎの大きさを用いて制約範囲を設定し、算出された動きベクトルのうち制約範囲内の大きさの動きベクトルのみをゆらぎの動きベクトルとする。これにより大気ゆらぎ以外の要因の動きベクトルを除く。また、上限を設けずに動きベクトルを算出し、閾値を超えた画素が一定以上の隣接したかたまりを形成する場合には、その領域を移動物体として識別する。移動物体を識別する方法はこれに限られることはなく、動きベクトルに基づき移動物体を識別する公知の方法を用いることができる。
S406においてゆらぎ補正部206は、算出したゆらぎの動きベクトルに基づいて、処理対象のフレームに対してワーピング処理をすることで処理対象のフレームのゆらぎを補正する。ワーピング処理は、処理対象フレームにおける各画素を動きベクトルに従い移動し、等間隔の画素の格子点上の値を補間により算出する。S405において移動物体と識別された領域は、ゆらぎ補正を行わない、または他の領域と異なる方法の補正を行うといった処理の切り替えを行う。異なる方法の補正として、例えば特許文献2に示されているように、移動物体全体の動きベクトルを算出し、動き補償を行った画像を用いて時間平均化処理を行う方法が挙げられる。
次に、基準ゆらぎ量を取得する処理について説明する。図5は、基準ゆらぎ量取得部201が実行する処理の流れを示すフローチャートである。S501においてデータ取得部301は、ゆらぎ補正をする動画の撮影よりも前に撮影された動画の画像データを取得する。また、この動画は移動物体を含まないフレームを有することが必要である。S502において基準画像生成部302は、データ取得部301が取得した画像データ(複数フレーム)に対して背景差分法により移動物体を除く背景を抽出した上で、各フレームの同じ画素位置の画素値を平均することで基準画像を生成する。
S503においてゆらぎ算出部303は、基準画像を用いて、画像データ(複数フレーム)から選択されたフレームの各画素における動きベクトルを算出する。動きベクトルの算出には、ブロックマッチング法や勾配法が一般的に用いられる。ブロックマッチング法は、選択したフレームの注目画素を含むブロックと類似したブロックを基準画像において探索し、基準画像において、選択したフレームの注目画素に対応する画素を特定する。この対応する画素間の移動量を動きベクトルとして算出する。一方勾配法は、フレーム内の隣接画素間輝度勾配とフレーム間の同一画素の輝度差と動きベクトルとが満たすべき関係式を、近傍複数画素に対する連立方程式として立てて解くことで、動きベクトルを算出する。
S504において移動物体判定部304は、動きベクトルに基づいて選択したフレームにおける移動物体を検出する。ここでは、動きベクトルの大きさが既定の閾値を超える画素が一定数以上あれば、そのフレームは移動物体を含むと判定する。閾値としては、基準ゆらぎ量以上の値を設定することが望ましく、静止物体と同様のゆらぎ補正がされるべきではない物体の移動速度の最小値である。動きベクトルの大きさが閾値を超える画素は、ゆらぎの有無によらず移動している物体上の一点であるとみなすことができる。
S505において、選択したフレームに対しS504において移動物体がないと判定された場合に、基準ゆらぎ量生成部305は各動きベクトルの大きさを基準ゆらぎ量としてRAM102または二次記憶装置104に保存する。選択したフレームに対しS504において移動物体があると判定された場合には、S501に戻り別の画像データを取得してS504までの処理を行うことを、移動物体がないと判定されるまで繰り返す。こうして生成された基準ゆらぎ量は、大気ゆらぎだけに起因する各フレームの画素ごとの変形量を表す。また、ステップS503において複数のフレームが選択された場合には、その中から移動物体がないと判定されたフレームの各々に対し基準ゆらぎ量のマップを生成し、これらを合成した上で保存する。合成の方法としては、画素ごとに平均値、中央値、最大値などの統計値を返す方法が挙げられる。また、基準ゆらぎ量の代わりにステップS402で決定される制約範囲を保存してもよい。
以上が、第1実施形態の画像処理装置100で行われる処理である。以上で説明したように、移動物体を含まない状態で事前に撮影された動画を用いて基準ゆらぎ量を生成することで、良好なゆらぎ補正を実現することができる。
<第2実施形態>
第2実施形態では、処理対象の動画を用いて基準ゆらぎ量を生成することで、良好なゆらぎ補正を実現する例を述べる。なお、以下では第1実施形態と異なる点を中心に説明することとする。以下、第2の実施形態の画像処理装置100で行われる処理について、図6に示す機能ブロック図および図7に示すフローチャートを用いて説明する。画像処理装置100は、図6に示すように、データ取得部601、基準画像生成部602、ゆらぎ算出部603、処理選択部604、移動物体判定部605、基準ゆらぎ量生成部605、制約範囲決定部606、ゆらぎ補正部607としての機能を有する。以下、各部により行われる処理の流れを説明する。
第2実施形態では、処理対象の動画を用いて基準ゆらぎ量を生成することで、良好なゆらぎ補正を実現する例を述べる。なお、以下では第1実施形態と異なる点を中心に説明することとする。以下、第2の実施形態の画像処理装置100で行われる処理について、図6に示す機能ブロック図および図7に示すフローチャートを用いて説明する。画像処理装置100は、図6に示すように、データ取得部601、基準画像生成部602、ゆらぎ算出部603、処理選択部604、移動物体判定部605、基準ゆらぎ量生成部605、制約範囲決定部606、ゆらぎ補正部607としての機能を有する。以下、各部により行われる処理の流れを説明する。
図7は、第2実施形態における処理の流れを示すフローチャートである。S701においてデータ取得部601は、入力インターフェース105を介して外部の撮像装置から、処理対象のフレームの画像データを実時間で取得する。S702において、基準画像生成部602は、すでに取得済である過去の複数フレームを用いて基準画像を生成する。基準画像が既に生成されている場合には、必ずしも新たに生成する必要はない。
S703においてゆらぎ算出部603は、基準画像を用いて、現在のフレームの各画素における動きベクトルを算出する。S704において処理選択部604は、基準ゆらぎ量の更新、またはゆらぎ補正のいずれを行うかを選択する。ステップS705〜707は、基準ゆらぎ量および制約範囲を最新の状態に更新するために、定期的に実行される。
S705において移動物体判定部605は、動きベクトルに基づいて処理対象のフレームにおける移動物体を検出する。S706において、ステップS704において移動物体がないと判定された場合、基準ゆらぎ量生成部606が、動きベクトルの大きさを基準ゆらぎ量としてRAM102または二次記憶装置104に保存する。もしくは、新たに生成された基準ゆらぎ量と過去に生成された基準ゆらぎ量とを合成してもよい。
S707において制約範囲決定部607は、基準ゆらぎ量に基づき制約範囲を更新する。S708においてゆらぎ補正部608は、動きベクトルに基づいて現在のフレームの画像に幾何変換を行うことで処理対象のフレームのゆらぎを補正する。S706において移動物体があると判別された場合には、移動物体と識別された領域は、ゆらぎ補正を行わない、または他の領域と異なる方法の補正を行うといった処理の切り替えを行う。
以上の処理により、特に実時間でゆらぎ補正の処理を行う場合に、基準ゆらぎ量や制約範囲を次々と更新して最新のゆらぎ情報を用いることでより高精度にゆらぎを補正することができる。
<第3実施形態>
第3実施形態では、動画を撮影したシーンの深度情報を用いて基準ゆらぎ量を生成することで、良好なゆらぎ補正を実現する例を述べる。なお、以下では第1実施形態と異なる点を中心に説明する。以下、第3実施形態の画像処理装置100が実行する処理について、図8に示す機能ブロック図および図9に示すフローチャートを用いて説明する。
第3実施形態では、動画を撮影したシーンの深度情報を用いて基準ゆらぎ量を生成することで、良好なゆらぎ補正を実現する例を述べる。なお、以下では第1実施形態と異なる点を中心に説明する。以下、第3実施形態の画像処理装置100が実行する処理について、図8に示す機能ブロック図および図9に示すフローチャートを用いて説明する。
図8は、第3実施形態の画像処理装置100の機能ブロック図である。画像処理装置100は、図8に示すように、深度取得部801、基準ゆらぎ量生成部802、制約範囲決定部803、データ取得部804、基準画像生成部805、ゆらぎ算出部806、ゆらぎ補正部807としての機能を有する。以下、各部により行われる処理の流れを説明する。図9は、第3実施形態における処理の流れを示すフローチャートである。
S901において深度取得部201は、処理対象フレームの各画素に対する深度を示す深度情報を取得する。深度はカメラと被写体との距離であり、ステレオカメラやTOFセンサなど様々な手段を用いて取得することができる。処理対象フレームを取得する主カメラを含む2台以上のカメラから深度情報を取得する場合には、処理対象フレームの各画素に対する深度は直接推定することができる。しかし、TOFセンサなど主カメラとは別のデバイスを用いる場合、得られる深度マップに対して幾何変換を行い、処理対象フレームと同一視点の画像に変換する必要がある。具体的には、専用チャートを撮影するなどして主カメラと深度取得デバイスの相対位置のキャリブレーションを行い、この結果に基づき深度マップに射影変換を行う。この他にも、主カメラで取得した画像だけから深度を推定する方法がある。例えば、霧や霞によって遠方の視認性が低下している場合には、公知の観測モデルに従い、1枚の画像から透過率マップを生成する。この透過率マップは深度の関数であり、予め係数を較正しておけば深度マップに変換可能である。
S902において基準ゆらぎ量生成部201は、ステップS901で得られた深度マップに基づいて基準ゆらぎ量を生成する。ここで、深度とゆらぎの大きさの間の関係について述べる。ゆらぎの強さはFriedのパラメータによって表されることが一般的に知られており、Friedのパラメータr0は地上での遠方の観測を前提とすると式(1)で与えられる。
ここで、Cnは定数、kは2π/波長、Lは深度を表す。この関係に基づき、想定されるゆらぎによる動きベクトルの大きさを深度の関数として定義し、あるいはゆらぎと深度の関係をルックアップテーブルとして記憶しておくことで、深度マップを各領域の基準ゆらぎ量に変換することが可能になる。
S903において制約範囲決定部202は、基準ゆらぎ量に基づいてゆらぎ補正またはゆらぎ算出に用いる制約範囲を決定する。ステップS904においてデータ取得部203は、入力インターフェース105を介して外部装置から、または二次記憶装置104から、処理対象の動画を取得する。
S905において基準画像生成部204は、処理対象の動画(複数フレーム)の画像データから基準画像を生成する。S906においてゆらぎ算出部205は、基準画像を用いて処理対象の画像の各画素におけるゆらぎを算出する。S907においてゆらぎ補正部206は、動きベクトルに基づいて画像に幾何変換を行うことで処理対象のフレームのゆらぎを補正する。
以上が、第2実施形態の画像処理装置100が実行する処理である。以上で説明したように、本実施形態によれば、深度情報を利用することで、良好なゆらぎ補正を実現することができる。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
201 基準ゆらぎ量取得部
202 制約範囲決定部
203 データ取得部
204 基準画像生成部
205 ゆらぎ算出部
206 ゆらぎ補正部
202 制約範囲決定部
203 データ取得部
204 基準画像生成部
205 ゆらぎ算出部
206 ゆらぎ補正部
Claims (6)
- 動画を構成する複数のフレームに対して、大気の影響に起因するゆらぎを補正する画像処理装置であって、
先に撮影された第1の動画に含まれる複数のフレームそれぞれにおいて、移動物体を含むか否かを判定する判定手段と、
前記判定手段により移動物体を含まないと判定された場合に、前記第1の動画を構成する少なくとも2つのフレーム間で算出された動きベクトルを複数の領域ごとの基準ゆらぎ量として設定する設定手段と、
前記基準ゆらぎ量に基づいて動きベクトルの大きさの上限と下限とからなる制約範囲を決定する決定手段と、
前記第1の動画の後に撮影された第2の動画に含まれる複数のフレームを用いて、基準画像を生成する生成手段と、
前記第2の動画を構成する処理対象のフレームと前記基準画像と前記制約範囲に基づいて、ゆらぎの動きベクトルを算出する算出手段と、
前記ゆらぎの動きベクトルに基づいて、前記処理対象のフレームのゆらぎを補正する補正手段と、を有することを特徴とする画像処理装置。 - 前記設定手段は、前記第1の動画に対応するシーンにおける被写体までの距離を示す深度情報を取得し、前記深度情報に基づいて前記基準ゆらぎ量を設定することを特徴とする請求項1に記載の画像処理装置。
- 前記決定手段は、前記第1の動画に含まれる1フレームにおける画素ごとの動きベクトルの大きさに基づいて、前記制約範囲を決定することを特徴とする請求項1または2に記載の画像処理装置。
- 前記算出手段は、前記前記第2の動画を構成する処理対象のフレームと前記基準画像との間で算出される動きベクトルのうち、前記制約範囲内の大きさの動きベクトルを前記ゆらぎの動きベクトルとして算出することを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。
- コンピュータを請求項1乃至4のいずれか一項に記載の画像処理装置の各手段として機能させるプログラム。
- 動画を構成する複数のフレームに対して、大気の影響に起因するゆらぎを補正する画像処理方法であって、
先に撮影された第1の動画に含まれる複数のフレームそれぞれにおいて、移動物体を含むか否かを判定し、
移動物体を含まないと判定された場合に、前記第1の動画を構成する少なくとも2つのフレーム間で算出された動きベクトルを複数の領域ごとの基準ゆらぎ量として設定し、
前記基準ゆらぎ量に基づいて動きベクトルの大きさの上限と下限とからなる制約範囲を決定し、
前記第1の動画の後に撮影された第2の動画に含まれる複数のフレームを用いて、基準画像を生成し、
前記第2の動画を構成する処理対象のフレームと前記基準画像と前記制約範囲に基づいて、ゆらぎの動きベクトルを算出し、
前記ゆらぎの動きベクトルに基づいて、前記処理対象のフレームのゆらぎを補正することを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017166101A JP2019047218A (ja) | 2017-08-30 | 2017-08-30 | 画像処理装置、画像処理方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017166101A JP2019047218A (ja) | 2017-08-30 | 2017-08-30 | 画像処理装置、画像処理方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019047218A true JP2019047218A (ja) | 2019-03-22 |
Family
ID=65816647
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017166101A Pending JP2019047218A (ja) | 2017-08-30 | 2017-08-30 | 画像処理装置、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019047218A (ja) |
-
2017
- 2017-08-30 JP JP2017166101A patent/JP2019047218A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9251589B2 (en) | Depth measurement apparatus, image pickup apparatus, and depth measurement program | |
JP5980294B2 (ja) | データ処理装置、撮像装置、およびデータ処理方法 | |
KR101624450B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 기록 매체 | |
KR20200041981A (ko) | 이미지 처리 방법, 기기, 및 장치 | |
JP6570296B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN107316326B (zh) | 应用于双目立体视觉的基于边的视差图计算方法和装置 | |
JP6579868B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2015035658A (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
EP3528206A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP6020471B2 (ja) | 画像処理方法、画像処理装置および画像処理プログラム | |
KR101698314B1 (ko) | 영상 통계정보에 기반한 정지장면 분할장치 및 그 방법 | |
JPWO2013038833A1 (ja) | 画像処理システム、画像処理方法および画像処理プログラム | |
KR20180102639A (ko) | 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기억 매체 | |
US10142613B2 (en) | Image processing apparatus, image processing system, and image processing method | |
JP2018195084A (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
US9451165B2 (en) | Image processing apparatus | |
US20150187051A1 (en) | Method and apparatus for estimating image noise | |
JP6395429B2 (ja) | 画像処理装置、その制御方法及び記憶媒体 | |
JP2018061130A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7263149B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US9270883B2 (en) | Image processing apparatus, image pickup apparatus, image pickup system, image processing method, and non-transitory computer-readable storage medium | |
US10949988B2 (en) | Information processing apparatus, information processing method, and program | |
JP2019020839A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2019047218A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2019191661A (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム |