JP2015186170A - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP2015186170A
JP2015186170A JP2014062992A JP2014062992A JP2015186170A JP 2015186170 A JP2015186170 A JP 2015186170A JP 2014062992 A JP2014062992 A JP 2014062992A JP 2014062992 A JP2014062992 A JP 2014062992A JP 2015186170 A JP2015186170 A JP 2015186170A
Authority
JP
Japan
Prior art keywords
image
image data
spatial frequency
image processing
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014062992A
Other languages
English (en)
Inventor
伸穂 池田
Nobuo Ikeda
伸穂 池田
和博 嶋内
Kazuhiro Shimauchi
和博 嶋内
靖二郎 稲葉
Yasujiro Inaba
靖二郎 稲葉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2014062992A priority Critical patent/JP2015186170A/ja
Priority to US14/659,855 priority patent/US9836668B2/en
Publication of JP2015186170A publication Critical patent/JP2015186170A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Geometry (AREA)

Abstract

【課題】オーバーラップ領域を含む複数の画像の良好な処理を可能とする。【解決手段】空間周波数特性調整部は、第1の画像に対応した第1の画像データと、この第1の画像との間でオーバーラップ領域を持つ第2の画像に対応した第2の画像データの空間周波数特性を合わせるための調整を行う。画像処理部は、調整後の第1の画像データおよび第2の画像データを用いた処理を行う。例えば、画像処理部は、調整された第1の画像データおよび第2の画像データに基づいて第1の画像および第2の画像のそれぞれのオーバーラップ領域内の特徴量を検出し、この検出された特徴量を利用した処理を行う。【選択図】図1

Description

本技術は、画像処理装置および画像処理方法に関し、特に、オーバーラップ領域を含む複数の画像を処理する画像処理装置などに関する。
従来、複数もしくは単数のカメラで撮像した、オーバーラップ領域を含む複数の画像の合成において、輝度、色差といった信号の強度の補正やカメラのフォーカスレンズを調整することで画像のボケ量の調整を行う方法はいくつか提案されている(例えば、特許文献1、特許文献2参照)。
また、従来、SIFT(Scale Invariant Feature Transform)などの、画像間の特徴量の算出を行い、画像間のずれ量を算出するようなアルゴリズムが提案されている。このアルゴリズムにおいては、それぞれの画像を異なる解像度に変換し、それぞれの解像度間での特徴量算出とマッチングを行うが、この場合、比較される画像間の持つ周波数特性が同程度であることを前提としている。
そのため、カメラの個体ばらつきによる解像度の違いについては考慮されていないため、正しいずれ量の算出が行われない。できるだけ少ない画像でパノラマ画像を作成する場合は、画角の端を使用することになるがカメラの価格を安く抑えるために、画角の端での画像解像度は保証されないことが多い。
特表2008−507449号公報 特開2004−242047号公報
本技術の目的は、オーバーラップ領域を含む複数の画像の良好な処理を可能とすることにある。
本技術の概念は、
第1の画像に対応した第1の画像データと、上記第1の画像との間でオーバーラップ領域を持つ第2の画像に対応した第2の画像データの空間周波数特性を合わせるための調整を行う空間周波数特性調整部と、
上記調整が行われた第1の画像データおよび第2の画像データを用いた処理を行う画像処理部を備える
画像処理装置にある。
本技術において、空間周波数特性調整部により、第1の画像に対応した第1の画像データと、第1の画像との間でオーバーラップ領域を持つ第2の画像に対応した第2の画像データの空間周波数特性を合わせるための調整が行われる。例えば、空間周波数特性調整部は、第1の画像データおよび第2の画像データに対して、ローパスフィルタあるいはバンドパスフィルタを用いたフィルタリングを行う、ようにされてもよい。
また、例えば、空間周波数特性調整部は、第1の画像データから空間周波数特性を検出すると共に第2の画像データから空間周波数特性を検出し、双方の空間周波数特性の検出結果に基づいて得られた空間周波数特性に、第1の画像データおよび第2の画像データの空間周波数特性を合わせる、ようにされてもよい。この場合、例えば、双方が共通に持つ最も高い空間周波数を含む空間周波数特性に合わせることが可能となる。
画像処理部により、調整が行われた第1の画像データおよび第2の画像データを用いた処理が行われる。例えば、画像処理部は、調整された第1の画像データおよび第2の画像データに基づいて第1の画像および第2の画像のそれぞれのオーバーラップ領域内の特徴量を検出し、この検出された特徴量を利用した処理を行う、ようにされてもよい。
このように本技術においては、空間周波数特性が合わせられた第1の画像データおよび第2の画像データを用いた処理を行うものであり、オーバーラップ領域を含む複数の画像の処理を良好に行うことが可能となる。
なお、本技術において、例えば、画像処理部は、調整された第1の画像データおよび第2の画像データに基づいて、第1の画像および第2の画像のオーバーラップ領域の位置ずれを求め、この位置ずれの情報に基づいて第1の画像データおよび第2の画像データを合成してパノラマ画像データを生成する、ようにされてもよい。
また、本技術において、例えば、画像処理部は、調整された第1の画像データおよび第2の画像データに基づいて、第1の画像および第2の画像のオーバーラップ領域に同一オブジェクトが存在するか否かを判別する、ようにされてもよい。
また、本技術において、例えば、第1の画像データは左眼画像データであり、第2の画像データは右眼画像データであり、画像処理部は、調整された第1の画像データおよび第2の画像データに基づいて第1の画像および第2の画像のオーバーラップ領域の位置ずれを求め、この位置ずれの情報に基づいて第1の画像データおよび第2の画像データに視差調整を行って出力する、ようにされてもよい。
本技術によれば、オーバーラップ領域を含む複数の画像の処理を良好に行うことが可能となる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
第1の実施の形態としての画像処理装置の構成例を示すブロック図である。 第2の実施の形態としての画像処理装置の構成例を示すブロック図である。 パノラマ画像撮像用の6個のカメラの設置と画角、オーバーラップの関係を示す図である。 被写体の一例を示す図である。 2つの撮像画像のオーバーラップ領域の位置ずれ量を求め、位置合わせを行ってパノラマ画像を合成することを説明するための図である。 隣接する第1のカメラおよび第2のカメラでそれぞれ撮像された、空間周波数特性(MTF)が互いに異なる2つの画像の一例を示す図である。 空間周波数特性(MTF)を合わせるように調整された後の2つの画像の一例を示す図である。 第3の実施の形態としての画像処理装置の構成例を示すブロック図である。 2つの監視カメラの設置と画角、オーバーラップの関係を示す図である。 第4の実施の形態としての画像処理装置の構成例を示すブロック図である。 左眼用カメラおよび右眼用カメラの設置と画角、オーバーラップの関係を示す図である。
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明を以下の順序で行う。
1. 第1の実施の形態
2. 第2の実施の形態
3.第3の実施の形態
4.第4の実施の形態
5.変形例
<1.第1の実施の形態>
[画像処理装置の構成例]
図1は、第1の実施の形態としての画像処理装置100の構成例を示している。この画像処理装置100は、空間周波数特性(MTF:Modulation Transfer Function)調整部101と、画像処理部102を有している。
MTF調整部101は、第1の画像データV1と第2の画像データV2の空間周波数特性を合わせるための調整を行う。ここで、第1の画像データV1は、第1の画像に対応した画像データであり、例えば、第1のカメラで第1の画像を撮像することで得られたものである。第2の画像データV2は、第1の画像との間でオーバーラップ領域を持つ第2の画像に対応した画像データであり、例えば、第2のカメラで第2の画像を撮像することで得られたものである。
MTF調整部101は、第1の画像データV1および第2の画像データV2に対して、ローパスフィルタあるいはバンドパスフィルタを用いたフィルタリングを行うことで、第1の画像データV1と第2の画像データV2の空間周波数特性を合わせる。この場合、フィルタ特性は固定でもよいが、第1の画像データV1および第2の画像データV2のそれぞれの空間周波数特性に応じて、適応的に、フィルタ特性が変更されるようにされてもよい。
この場合、MTF調整部101は、例えばフーリエ変換処理を行うことで、第1の画像データV1から空間周波数特性を検出すると共に第2の画像データV2から空間周波数特性を検出する。そして、MTF調整部101は、双方の空間周波数特性の検出結果に基づいて得られた空間周波数特性、例えば双方が共通に持つ最も高い空間周波数を含む空間周波数特性に、第1の画像データV1および第2の画像データV2のそれぞれの空間周波数特性を制限するように、フィルタ特性を変更する。
画像処理部102は、MTF調整部101で空間周波数特性が調整された後の第1の画像データV1´および第2の画像データV2´を用いた処理を行って、処理結果を出力する。画像処理部102は、例えば、第1の画像データV1´および第2の画像データV2´に基づいて、第1の画像および第2の画像のオーバーラップ領域内のそれぞれの特徴量を検出し、この検出された特徴量を利用した処理を行う。画像処理部102は、例えば、SIFT,SURF,BRISK,HOG,LBPなどの、領域で特徴量を得るアルゴリズムを用いて、特徴量を検出する。
例えば、画像処理部102は、検出特徴量を利用して、第1の画像および第2の画像のオーバーラップ領域の位置ずれ量を検出する処理を行う。また、例えば、画像処理部102は、検出特徴量を利用して、第1の画像および第2の画像のオーバーラップ領域に同一オブジェクトが存在するか否かを判別する処理を行う。
図1に示す画像処理装置100においては、画像処理部102に第1の画像データV1および第2の画像データV2が直接供給されるものではなく、空間周波数特性が合わせられた後の第1の画像データV1´および第2の画像データV2´が供給される。そのため、画像処理部102では、第1の画像データおよび第2の画像データを用いた処理を良好に行うことできる。例えば、画像処理部102では、特徴量検出による第1の画像および第2の画像のオーバーラップ領域の位置ずれ量の検出を高性能で行うことができる。
<2.第2の実施の形態>
[画像処理装置の構成例]
図2は、第2の実施の形態としての画像処理装置200の構成例を示している。この画像処理装置200は、空間周波数特性(MTF)調整部201と、位置ずれ量算出部202と、パノラマ画像合成部203を有している。
MTF調整部201は、画像データV1〜V6の空間周波数特性を合わせるための調整を行う。ここで、画像データV1〜V6は、図3に示すように、それぞれ外方に向くように円形に配置されたパノラマ画像撮像用の6個のカメラ211〜216で得られる画像データである。ここで、各カメラの撮像領域には、それぞれ、隣接するカメラの撮像領域との間にカメラの画角で作られるオーバーラップ領域が存在する。つまり、隣接する2つのカメラが撮像する画像の間にはオーバーラップ領域が存在する。
図4は、被写体の一例を示している。図5(a1),(a2)は、隣接する第1のカメラおよび第2のカメラでそれぞれ撮像される画像の一例を示しており、各画像の間にはオーバーラップ領域が存在する。この各画像のオーバーラップ領域の位置ずれ量を求め、図5(b)に示すように、オーバーラップ領域の位置合わせを行って合成することで、パノラマ画像を生成できる。
MTF調整部201は、画像データV1〜V6に対して、ローパスフィルタあるいはバンドパスフィルタを用いたフィルタリングを行うことで、画像データV1〜V6の空間周波数特性を合わせる。この場合、上述の図1の画像処理装置100におけるMTF調整部101と同様に、フィルタ特性は固定でもよいが、画像データV1〜V6のそれぞれの空間周波数特性に応じて、適応的に、フィルタ特性が変更されるようにされてもよい。
位置ずれ量算出部202は、MTF調整部201で空間周波数特性が調整された後の画像データV1´〜V6´を用いて、隣接する2つの画像のオーバーラップ領域の位置ずれ量を算出する。例えば、カメラ211,212の撮像画像のオーバーラップ領域の位置ずれ量、カメラ212,213の撮像画像のオーバーラップ領域の位置ずれ量、カメラ213,214の撮像画像のオーバーラップ領域の位置ずれ量、カメラ214,215の撮像画像のオーバーラップ領域の位置ずれ量、カメラ215,216の撮像画像のオーバーラップ領域の位置ずれ量を、それぞれ算出する。
この場合、位置ずれ量算出部202は、例えば、画像データV1´,V2´に基づいて、カメラ211,212の撮像画像のオーバーラップ領域内のそれぞれの特徴量を検出する。ここで、位置ずれ量算出部202は、例えば、SIFT,SURF,BRISK,HOG,LBPなどの、領域で特徴量を得るアルゴリズムを用いて、特徴量を検出する。そして、位置ずれ量算出部202は、この検出された特徴量を利用したマッチング処理を行って、カメラ211,212の撮像画像のオーバーラップ領域の位置ずれ量を算出する。なお、詳細説明は省略するが、位置ずれ量算出部202は、その他の隣接する2つの画像のオーバーラップ領域の位置ずれ量の算出も同様に行う。
パノラマ画像合成部203は、位置ずれ量算出部202で算出された隣接する2つの画像のオーバーラップ領域の位置ずれ量に基づいて画像データV1〜V6を合成してパノラマ画像データPVを得る。この場合、隣接する2つの画像のオーバーラップ領域が位置ずれ量に基づいて位置合わせされて合成された状態となる(図5(b)参照)。
上述したように、図2に示す画像処理装置200においては、位置ずれ量算出部202に画像データV1〜V6が直接供給されるものではなく、空間周波数特性が合わせられた後の画像データV1´〜V6´が供給される。そのため、位置ずれ量算出部202における、特徴量検出による隣接する2つの画像のオーバーラップ領域の位置ずれ量の検出性能を高めることができる。
図6(a),(b)は、隣接する第1のカメラおよび第2のカメラでそれぞれ撮像された2つの画像の一例を示している。この例では、第1のカメラおよび第2のカメラのレンズやフォーカスのばらつきなどにより、2つの画像の空間周波数特性(MTF)が異なっている。この場合、空間周波数特性の違いから、同じ位置P1に特徴量が検出されなくなる確率が高くなる。これに対して、図7(a),(b)は、空間周波数特性が合わせられた後の2つの画像の一例を示している。この場合には、同じ位置P1に特徴量が検出される確率が高くなる。
したがって、図2に示す画像処理装置200においては、カメラ211〜216のレンズやフォーカスのばらつきなどがあっても、位置ずれ量算出部202における位置ずれ量の検出性能を高めることができ、従って、パノラマ画像合成部203では、画像データV1〜V6の合成を良好に行うことができ、高品質のパノラマ画像データPVを得ることができる。
<3.第3の実施の形態>
[画像処理装置の構成例]
図8は、第3の実施の形態としての画像処理装置300の構成例を示している。この画像処理装置300は、空間周波数特性(MTF)調整部301と、特徴量検出部302と、同一オブジェクト判別部303を有している。
MTF調整部301は、画像データV1〜V6の空間周波数特性を合わせるための調整を行う。ここで、画像データV1,V2は、図9に示すように配置された監視カメラ311,312でそれぞれ得られる画像データである。ここで、監視カメラ311,312の撮像領域には、カメラの画角で作られる多角形のオーバーラップ領域が存在する。
MTF調整部301は、画像データV1,V2に対して、ローパスフィルタあるいはバンドパスフィルタを用いたフィルタリングを行うことで、画像データV1,V2の空間周波数特性を合わせる。この場合、上述の図1の画像処理装置100におけるMTF調整部101と同様に、フィルタ特性は固定でもよいが、画像データV1〜V2のそれぞれの空間周波数特性に応じて、適応的に、フィルタ特性が変更されるようにされてもよい。
特徴量検出部302は、MTF調整部301で空間周波数特性が調整された後の画像データV1´,V2´に基づいて、監視カメラ311,312の撮像画像のオーバーラップ領域内のそれぞれの特徴量を検出する。ここで、特徴量検出部302は、例えば、SIFT,SURF,BRISK,HOG,LBPなどの、領域で特徴量を得るアルゴリズムを用いて、特徴量を検出する。
同一オブジェクト判別部303は、特徴量検出部302で検出された特徴量を用いて、監視カメラ311,312の撮像領域のオーバーラップ領域に同一オブジェクト(人物、物)が存在するか否かを判別し、存在の有無を示すオブジェクト情報を出力する。
上述したように、図8に示す画像処理装置300においては、特徴量検出部302に画像データV1,V2が直接供給されるものではなく、空間周波数特性が合わせられた後の画像データV1´,V2´が供給される。そのため、特徴量検出部302では、監視カメラ311,312のそれぞれの撮像画像に対して同じ位置に特徴量が検出される確率が高くなる。従って、同一オブジェクト判別部303では、監視カメラ311,312の撮像領域のオーバーラップ領域に同一オブジェクト(人物、物)が存在するか否かの判別を精度よく行うことができる。
<4.第4の実施の形態>
[画像処理装置の構成例]
図10は、第4の実施の形態としての画像処理装置400の構成例を示している。この画像処理装置400は、空間周波数特性(MTF)調整部401と、位置ずれ量算出部402と、視差調整部403を有している。
MTF調整部401は、画像データV1,V2の空間周波数特性を合わせるための調整を行う。ここで、画像データV1,V2は、図11に示すように平行設置された左眼用カメラ411、右眼用カメラ412で得られる左眼、右眼の画像データである。ここで、カメラ411,412の撮像領域には、カメラの画角で作られるオーバーラップ領域が存在する。
MTF調整部401は、画像データV1,V2に対して、ローパスフィルタあるいはバンドパスフィルタを用いたフィルタリングを行うことで、画像データV1,V2の空間周波数特性を合わせる。この場合、上述の図1の画像処理装置100におけるMTF調整部101と同様に、フィルタ特性は固定でもよいが、画像データV1,V2のそれぞれの空間周波数特性に応じて、適応的に、フィルタ特性が変更されるようにされてもよい。
位置ずれ量算出部402は、MTF調整部401で空間周波数特性が調整された後の画像データV1´,V2´を用いて、左眼画像、右眼画像のオーバーラップ領域内のそれぞれの特徴量を検出する。ここで、位置ずれ量算出部402は、例えば、SIFT,SURF,BRISK,HOG,LBPなどの、領域で特徴量を得るアルゴリズムを用いて、特徴量を検出する。そして、位置ずれ量算出部402は、この検出された特徴量を利用したマッチング処理を行って、左眼画像、右眼画像のオーバーラップ領域の位置ずれ量を算出する。
視差調整部403は、位置ずれ量算出部402で算出された左眼画像、右眼画像のオーバーラップ領域の位置ずれ量に基づいて、左眼画像データV1および右眼画像データV2に対して視差調整を行って、視差調整された左眼画像データVLおよび右眼画像データVRを得る。例えば、視差調整部403は、スクリーン上に定位させたい被写体が重なるように、左眼画像、右眼画像の位置を調整する。
上述したように、図10に示す画像処理装置400においては、位置ずれ量算出部402に画像データV1,V2が直接供給されるものではなく、空間周波数特性が合わせられた後の画像データV1´,V2´が供給される。そのため、位置ずれ量算出部402における左眼画像、右眼画像のオーバーラップ領域の位置ずれ量の検出性能を高めることができる。
したがって、左眼用カメラ411、右眼用カメラ412のレンズやフォーカスのばらつきなどがあっても、位置ずれ量算出部402における位置ずれ量の検出性能を高めることができ、従って、視差調整部403では、画像データV1,V2に対して視差調整を精度よく行うことができる。
<5.変形例>
なお、上述実施の形態において、MTF調整部101,201,301,401では、時間軸上で空間周波数特性を調整するように説明しているが、周波数軸上で空間周波数特性を調整する構成とすることも可能とである。
また、本技術は、以下のような構成を取ることもできる。
(1)第1の画像に対応した第1の画像データと、上記第1の画像との間でオーバーラップ領域を持つ第2の画像に対応した第2の画像データの空間周波数特性を合わせるための調整を行う空間周波数特性調整部と、
上記調整が行われた第1の画像データおよび第2の画像データを用いた処理を行う画像処理部を備える
画像処理装置。
(2)上記画像処理部は、
上記調整された第1の画像データおよび第2の画像データに基づいて上記第1の画像および上記第2の画像の上記オーバーラップ領域内のそれぞれの特徴量を検出し、該検出された特徴量を利用した処理を行う
前記(1)に記載の画像処理装置。
(3)上記空間周波数特性調整部は、
上記第1の画像データおよび上記第2の画像データに対して、ローパスフィルタあるいはバンドパスフィルタを用いたフィルタリングを行う
前記(1)または(2)に記載の画像処理装置。
(4)上記空間周波数特性調整部は、
上記第1の画像データから空間周波数特性を検出すると共に上記第2の画像データから空間周波数特性を検出し、双方の空間周波数特性の検出結果に基づいて得られた空間周波数特性に、上記第1の画像データおよび上記第2の画像データの空間周波数特性を合わせる
前記(1)から(3)のいずれかに記載の画像処理装置。
(5)上記画像処理部は、
上記調整された第1の画像データおよび第2の画像データに基づいて、上記第1の画像および上記第2の画像のオーバーラップ領域の位置ずれを求め、該位置ずれの情報に基づいて上記第1の画像データおよび上記第2の画像データを合成してパノラマ画像データを生成する
前記(1)から(4)のいずれかに記載の画像処理装置。
(6)上記画像処理部は、
上記調整された第1の画像データおよび第2の画像データに基づいて、上記第1の画像および上記第2の画像のオーバーラップ領域に同一オブジェクトが存在するか否かを判別する
前記(1)から(4)のいずれかに記載の画像処理装置。
(7)上記第1の画像データは左眼画像データであり、上記第2の画像データは右眼画像データであり、
上記画像処理部は、
上記調整された第1の画像データおよび第2の画像データに基づいて上記第1の画像および上記第2の画像のオーバーラップ領域の位置ずれを求め、該位置ずれの情報に基づいて上記第1の画像データおよび上記第2の画像データに視差調整を行って出力する
前記(1)から(4)のいずれかに記載の画像処理装置。
(8)第1の画像に対応した第1の画像データと、上記第1の画像との間でオーバーラップ領域を持つ第2の画像に対応した第2の画像データの空間周波数特性を合わせるための調整を行う空間周波数特性調整ステップと、
上記調整が行われた第1の画像データおよび第2の画像データを用いた処理を行う画像処理ステップを有する
画像処理方法。
100,200,300,400・・・画像処理装置
101,201,301,401・・・空間周波数特性(MTF)調整部
102・・・画像処理部
202・・・位置ずれ量算出部
203・・・パノラマ画像合成部
302・・・特徴量検出部
303・・・同一オブジェクト判別部
402・・・位置ずれ量算出部
403・・・視差調整部

Claims (8)

  1. 第1の画像に対応した第1の画像データと、上記第1の画像との間でオーバーラップ領域を持つ第2の画像に対応した第2の画像データの空間周波数特性を合わせるための調整を行う空間周波数特性調整部と、
    上記調整が行われた第1の画像データおよび第2の画像データを用いた処理を行う画像処理部を備える
    画像処理装置。
  2. 上記画像処理部は、
    上記調整された第1の画像データおよび第2の画像データに基づいて上記第1の画像および上記第2の画像の上記オーバーラップ領域内のそれぞれの特徴量を検出し、該検出された特徴量を利用した処理を行う
    請求項1に記載の画像処理装置。
  3. 上記空間周波数特性調整部は、
    上記第1の画像データおよび上記第2の画像データに対して、ローパスフィルタあるいはバンドパスフィルタを用いたフィルタリングを行う
    請求項1に記載の画像処理装置。
  4. 上記空間周波数特性調整部は、
    上記第1の画像データから空間周波数特性を検出すると共に上記第2の画像データから空間周波数特性を検出し、双方の空間周波数特性の検出結果に基づいて得られた空間周波数特性に、上記第1の画像データおよび上記第2の画像データの空間周波数特性を合わせる
    請求項1に記載の画像処理装置。
  5. 上記画像処理部は、
    上記調整された第1の画像データおよび第2の画像データに基づいて、上記第1の画像および上記第2の画像のオーバーラップ領域の位置ずれを求め、該位置ずれの情報に基づいて上記第1の画像データおよび上記第2の画像データを合成してパノラマ画像データを生成する
    請求項1に記載の画像処理装置。
  6. 上記画像処理部は、
    上記調整された第1の画像データおよび第2の画像データに基づいて、上記第1の画像および上記第2の画像のオーバーラップ領域に同一オブジェクトが存在するか否かを判別する
    請求項1に記載の画像処理装置。
  7. 上記第1の画像データは左眼画像データであり、上記第2の画像データは右眼画像データであり、
    上記画像処理部は、
    上記調整された第1の画像データおよび第2の画像データに基づいて上記第1の画像および上記第2の画像のオーバーラップ領域の位置ずれを求め、該位置ずれの情報に基づいて上記第1の画像データおよび上記第2の画像データに視差調整を行って出力する
    請求項1に記載の画像処理装置。
  8. 第1の画像に対応した第1の画像データと、上記第1の画像との間でオーバーラップ領域を持つ第2の画像に対応した第2の画像データの空間周波数特性を合わせるための調整を行う空間周波数特性調整ステップと、
    上記調整が行われた第1の画像データおよび第2の画像データを用いた処理を行う画像処理ステップを有する
    画像処理方法。
JP2014062992A 2014-03-26 2014-03-26 画像処理装置および画像処理方法 Pending JP2015186170A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014062992A JP2015186170A (ja) 2014-03-26 2014-03-26 画像処理装置および画像処理方法
US14/659,855 US9836668B2 (en) 2014-03-26 2015-03-17 Image processing device, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014062992A JP2015186170A (ja) 2014-03-26 2014-03-26 画像処理装置および画像処理方法

Publications (1)

Publication Number Publication Date
JP2015186170A true JP2015186170A (ja) 2015-10-22

Family

ID=54191131

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014062992A Pending JP2015186170A (ja) 2014-03-26 2014-03-26 画像処理装置および画像処理方法

Country Status (2)

Country Link
US (1) US9836668B2 (ja)
JP (1) JP2015186170A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101791032B1 (ko) * 2016-10-14 2017-11-21 상명대학교산학협력단 영상의 공간 주파수 정규화 장치 및 방법
WO2018105097A1 (ja) * 2016-12-09 2018-06-14 三菱電機株式会社 画像合成装置、画像合成方法、及び画像合成プログラム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017050662A (ja) * 2015-09-01 2017-03-09 キヤノン株式会社 画像処理装置、撮像装置および画像処理プログラム
CN110249620B (zh) * 2017-02-17 2021-04-23 富士胶片株式会社 图像处理装置、图像处理方法及相机系统
CN108447023B (zh) * 2018-03-20 2021-08-24 北京奇虎科技有限公司 图像处理方法、装置及电子设备
CN108389155B (zh) * 2018-03-20 2021-10-01 北京奇虎科技有限公司 图像处理方法、装置及电子设备
CN108399599B (zh) * 2018-03-20 2021-11-26 北京奇虎科技有限公司 图像处理方法、装置及电子设备
CN114500971B (zh) * 2022-02-12 2023-07-21 北京蜂巢世纪科技有限公司 基于数据共享的场馆3d全景视频生成方法、装置、头戴式显示设备和介质
US20230379594A1 (en) * 2022-05-20 2023-11-23 Varjo Technologies Oy Image blending

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB8317407D0 (en) * 1983-06-27 1983-07-27 Rca Corp Image transform techniques
US4674125A (en) * 1983-06-27 1987-06-16 Rca Corporation Real-time hierarchal pyramid signal processing apparatus
US5187754A (en) * 1991-04-30 1993-02-16 General Electric Company Forming, with the aid of an overview image, a composite image from a mosaic of images
US6005983A (en) * 1993-09-08 1999-12-21 California Institutue Of Technology Image enhancement by non-linear extrapolation in frequency space
US5684890A (en) * 1994-02-28 1997-11-04 Nec Corporation Three-dimensional reference image segmenting method and apparatus
US6192322B1 (en) * 1996-04-19 2001-02-20 Raytheon Company Moving object and transient event detection using rotation strip aperture image measurements
US6184781B1 (en) * 1999-02-02 2001-02-06 Intel Corporation Rear looking vision system
US7194112B2 (en) * 2001-03-12 2007-03-20 Eastman Kodak Company Three dimensional spatial panorama formation with a range imaging system
JP4200778B2 (ja) 2003-02-06 2008-12-24 株式会社日立製作所 撮像装置
CN1985266B (zh) 2004-07-26 2010-05-05 奥普提克斯晶硅有限公司 全景视觉系统和方法
US20070081081A1 (en) * 2005-10-07 2007-04-12 Cheng Brett A Automated multi-frame image capture for panorama stitching using motion sensor
US8350948B2 (en) * 2005-11-29 2013-01-08 Kyocera Corporation Image device which bypasses blurring restoration during a through image
US20080126426A1 (en) * 2006-10-31 2008-05-29 Alphan Manas Adaptive voice-feature-enhanced matchmaking method and system
GB2473247B (en) * 2009-09-04 2015-02-11 Sony Corp A method and apparatus for image alignment
US8767264B2 (en) * 2011-03-24 2014-07-01 Seiko Epson Corporation Printing device and printing method
WO2012132486A1 (ja) * 2011-03-31 2012-10-04 富士フイルム株式会社 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体
JP2013217799A (ja) * 2012-04-10 2013-10-24 Honda Elesys Co Ltd 物体検知装置、物体検知方法、物体検知プログラム、及び動作制御システム
WO2014152855A2 (en) * 2013-03-14 2014-09-25 Geerds Joergen Camera system
US9185284B2 (en) * 2013-09-06 2015-11-10 Qualcomm Incorporated Interactive image composition
CN104933433A (zh) * 2014-03-17 2015-09-23 联想(北京)有限公司 一种图像处理方法及电子设备
US9197885B2 (en) * 2014-03-20 2015-11-24 Gopro, Inc. Target-less auto-alignment of image sensors in a multi-camera system

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101791032B1 (ko) * 2016-10-14 2017-11-21 상명대학교산학협력단 영상의 공간 주파수 정규화 장치 및 방법
WO2018105097A1 (ja) * 2016-12-09 2018-06-14 三菱電機株式会社 画像合成装置、画像合成方法、及び画像合成プログラム
JPWO2018105097A1 (ja) * 2016-12-09 2019-04-25 三菱電機株式会社 画像合成装置、画像合成方法、及び画像合成プログラム

Also Published As

Publication number Publication date
US20150279073A1 (en) 2015-10-01
US9836668B2 (en) 2017-12-05

Similar Documents

Publication Publication Date Title
JP2015186170A (ja) 画像処理装置および画像処理方法
US11665427B2 (en) Still image stabilization/optical image stabilization synchronization in multi-camera image capture
TWI549519B (zh) 高解析度陣列相機
JP5287702B2 (ja) 画像処理装置および方法、並びにプログラム
US20140340543A1 (en) Image-processing apparatus and image-processing method
US20150278996A1 (en) Image processing apparatus, method, and medium for generating color image data
JP2014155121A5 (ja)
JP2015138200A5 (ja) 焦点調節装置及び焦点調節方法
JP2019097169A (ja) 映像復元装置及び方法
US9148552B2 (en) Image processing apparatus, image pickup apparatus, non-transitory storage medium storing image processing program and image processing method
JP2012195668A (ja) 画像処理装置、画像処理方法およびプログラム
JP2016201745A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、及びプログラム
JP2012124766A5 (ja)
KR20130077414A (ko) 영상 처리를 통한 광축 오차 보상 방법 및 시스템, 광축 오차 보상 기능이 구현된 줌 카메라
JP2001208524A (ja) 画像処理装置及び画像処理方法
JP6585668B2 (ja) 物体検出装置
CN110995982B (zh) 图像处理装置及其控制方法、摄像装置、以及记录介质
JP2013044597A (ja) 画像処理装置および方法、プログラム
US20190340771A1 (en) Method for detecting motion in a video sequence
TW201720130A (zh) 機器視覺中進行影像擷取之方法及裝置
JP2016156702A (ja) 撮像装置および撮像方法
JP2007166442A (ja) 撮像装置
JP5453328B2 (ja) 立体撮像システム、補正装置およびそのプログラム
JP2013192152A (ja) 撮像装置、撮像システムおよび画像処理方法
JP2017017551A (ja) 画像処理装置及び画像処理方法