JP2013009274A - 画像処理装置および画像処理方法、プログラム - Google Patents

画像処理装置および画像処理方法、プログラム Download PDF

Info

Publication number
JP2013009274A
JP2013009274A JP2011142241A JP2011142241A JP2013009274A JP 2013009274 A JP2013009274 A JP 2013009274A JP 2011142241 A JP2011142241 A JP 2011142241A JP 2011142241 A JP2011142241 A JP 2011142241A JP 2013009274 A JP2013009274 A JP 2013009274A
Authority
JP
Grant status
Application
Patent type
Prior art keywords
image data
image
multi
region
synthesis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011142241A
Other languages
English (en)
Other versions
JP2013009274A5 (ja )
Inventor
Shugo Higuchi
州吾 樋口
Original Assignee
Canon Inc
キヤノン株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date

Links

Images

Abstract

【課題】多視点画像データに基づいて自然なボケ味のある出力画像を出力する。
【解決手段】ユーザはリフォーカスパラメータ設定することができる。多視点画像データとリフォーカスパラメータとに基づいて、画像データを画像合成可能な領域(合成領域)と画像合成不可な領域(非合成領域)とに分割し、画像中の各ブロックごとに合成可能領域か合成不可領域かを設定する。画像合成可能な領域に対して、画像合成処理を行う。
【選択図】図4

Description

本発明は、多視点画像データを合成する画像処理装置に関する。

複数の視点(撮影位置)から被写体を撮影した画像データ(以下、多視点画像データ)を用いて、任意のフォーカス距離、被写界深度、視点の画像データを生成する方法がある。非特許文献1では、複数のカメラを2次元平面上に格子状に配置することで、視点の異なる複数の画像データを取得する。そして、これらの複数の画像データに基づいて計算処理することにより、任意の距離にフォーカスのあった画像データを生成することができる。
また、フォーカス位置をユーザにわかりやすく通知する方法として、被写体の奥行き位置とフォーカス位置とを示すマップ画像を作成し、表示する方法が提案されている(特許文献1)。

特開2010−177741号公報

Bennet Wilburn、他9名、"High Performance Imaging Using Large Camera Arrays"、Proc. ACM. SIGGRAPH、pp. 765−776、2005.

しかしながら、上述の非特許文献1では、多視点画像データを用いたリフォーカス処理を行う際に、視点、フォーカス位置、開口径のパラメータを設定する必要があり、パラメータの組合せによっては、不自然なボケ領域のある画像が生成される場合があった。そのため、不自然なボケ領域のないリフォーカス処理をした画像を生成するためには、良好なパラメータの組合せを設定する必要がある。
特許文献1では、ユーザはフォーカス位置を把握することはできるが、不自然なボケ領域を把握することはできないため、不適当なパラメータの組合せを回避することは難しい。
そこで本発明では、多視点画像データに基づいて自然なボケ味のある出力画像を出力することを目的とする。

以上の課題を解決するために、本発明の画像処理装置は、複数の撮像部を有する撮像装置により取得された、該複数の撮像部それぞれに対応する多視点画像データを入力する入力手段と、画像合成後のフォーカス距離を示すフォーカス距離データを含むリフォーカスパラメータを取得する取得手段と、前記リフォーカスパラメータに基づいて、前記複数の多視点画像データを合成する合成領域を設定する設定手段と、前記合成領域において、前記複数の多視点画像データを合成する合成手段と、前記合成手段により合成された画像データを出力画像データとして出力する出力手段と、を有することを特徴とする。

本発明によれば、多視点画像データを合成して出力画像データを出力する画像処理において、自然なボケ味のある出力画像データを得ることができる。

複数の撮像部を備えた多眼方式の撮像装置の一例を示した図である。 多眼方式の撮像装置の内部構成を示すブロック図である。 撮像部の内部構成を示す図である。 本実施例における画像処理部の動作を示すフローチャートである。 リフォーカスパラメータを設定するGUIの一例を示す図である。 画像の領域分割処理の一例を示すフローチャートである。 撮像装置と被写体との位置関係を示す概念図である。 奥行き画像データの一例を示す図である。 画像合成処理の一例を示すフローチャートである。 実施例1における領域調整処理の一例を示すフローチャートである。 実施例1における表示部の一例を示す図である。 実施例2における領域調整処理の一例を示すフローチャートである。 実施例2における表示部の一例を示す図である。 実施例3における領域調整処理の一例を示すフローチャートである。 実施例3における表示部の一例を示す図である。

[実施例1]
図1は、複数の撮像部を備えた多眼方式による撮像装置の一例を示した図である。

撮像装置100の筐体は、カラー画像データを取得する25個の撮像部101〜125及び撮影ボタン126を備えている。25個の撮像部101〜125は、正方格子上に均等に配置されている。
ユーザーが撮影ボタン126を押下すると、撮像部101〜125が被写体からの光情報をセンサ(撮像素子)で受光し、受光した信号がA/D変換されて、複数のカラー画像デ―タ(デジタルデータ)が取得される。

このような多眼方式の撮像装置により、同一の被写体を複数の視点位置(撮像位置)から撮像したカラー画像群を得ることができる。本実施例では、このカラー画像データを多視点画像データとよぶ。
なお、ここでは撮像部の数を25個としたが撮像部の数は25個に限定されない。撮像装置が複数の撮像部を有する限りにおいて本実施例は適用可能である。

また、本実施例では25個の撮像部が正方格子上に均等に配置される例について説明するが、撮像部の配置は任意である。例えば、放射状や直線状に配置してもよいし、まったくランダムに配置してもよい。

図2は、撮像装置100の内部構成を示すブロック図である。

中央処理装置(CPU)201は、以下に述べる各部を統括的に制御する。
RAM202は、CPU201の主メモリ、ワークエリア等として機能する。
ROM203は、CPU201で実行される制御プログラム等を格納している。
バス204は、各種データの転送経路となる。例えば、撮像部101〜125によって取得された多視点画像データはバス204を介して所定の処理部に送られる。
操作部205は、ユーザの指示を受け付ける。操作部205には、ボタンやモードダイヤルなどが含まれる。
表示部206は、画像や文字の表示を行う表示部であり、例えば、液晶ディスプレイが用いられる。表示部206は、タッチスクリーン機能を有していても良く、その場合はタッチスクリーンを用いたユーザ指示を操作部205の入力として扱うことも可能である。
表示制御部207は、表示部206に表示される画像や文字の表示制御を行う。
撮像部制御部208は、フォーカスを合わせる、シャッターを開く・閉じる、絞りを調節するなどの、CPU201からの指示に基づいた撮像系の制御を行う。
デジタル信号処理部209は、バス204を介して受け取ったデジタルデータに対し、ホワイトバランス処理、ガンマ処理、ノイズ低減処理などの各種処理を行う。
エンコーダ部210は、デジタルデータをJPEGやMPEGなどのファイルフォーマットに変換する処理を行う。
外部メモリ制御部211は、PCやその他のメディア(例えば、ハードディスク、メモリーカード、CFカード、SDカード、USBメモリ)に繋ぐためのインターフェースである。
画像処理部212は、撮像部101〜125で取得された多視点画像データ或いは、デジタル信号処理部209から出力されるカラー画像群から、フォーカス位置の変更などの画像処理を行う。画像処理部212の詳細については後述する。

なお、撮像装置100の構成要素は上記以外にも存在するが、本実施例の主眼ではないので、説明を省略する。

図3は、撮像部101〜125の内部構成を示す図である。

撮像部101〜125は、レンズ301〜303、絞り304、シャッター305、光学ローパスフィルタ306、iRカットフィルタ307、カラーフィルタ308、センサ309及びA/D変換部310で構成される。レンズ301〜303は夫々、ズームレンズ301、フォーカスレンズ302、ぶれ補正レンズ303である。センサ309は、例えばCMOSやCCDなどのセンサである。

センサ309で被写体からの光量を検知すると、検知された光量がA/D変換部310によってデジタル値に変換され、多視点画像データとなってバス204に出力される。

(画像処理部)
次に、画像処理部212の詳細について説明する。図4は、画像処理部212の動作を示すフローチャートである。

まず、ステップS401では、撮像部101〜125で撮影した多視点画像データを取得する。多視点画像データは、撮影ボタン126または操作部205からのユーザの指示に基づいて、撮像部制御部208が撮像部101〜125のシャッターを閉じることにより得られる画像データ群である。また、これらの多視点画像データは、RAM202またはPCやその他のメディアから外部メモリ制御部211を通じて画像入力されるものでも構わない。

次に、ステップS402では、リフォーカスパラメータを取得する。リフォーカスパラメータは、画像合成後のフォーカス距離を示すフォーカス距離データとボケの大きさを示すボケデータとを含む。フォーカス距離とは、画像合成処理(リフォーカス処理)を行う際にピントを合わせる撮像装置からの距離である。例えば、フォーカス距離を1000mmとした場合、撮像装置から1000mmの距離にある被写体にピントが合う画像データが生成される。また、ボケの大きさとは、リフォーカス処理を行う際にピントからずれた被写体のボケの大きさを示すものであり、絞りの開口径でも表現することができる。開口径が大きいほどボケが大きくなり、開口径が小さいほどボケが小さくなる。

ここで、リフォーカスパラメータの設定方法について説明する。ユーザは表示部206に表示されたGUI(グラフィカルユーザインタフェース)を通してリフォーカスパラメータ設定することができる。図5は、リフォーカスパラメータを設定するGUIの一例を示すものである。GUIには、プレビュー画面501、フォーカス距離調整つまみ502、ボケの大きさ調整用つまみ503が含まれる。ユーザはフォーカス距離調整つまみ502とボケの大きさ調整つまみ503を左右に移動させることにより、フォーカス距離とボケの大きさを個別に設定することができる。なお、リフォーカスパラメータの設定方法は、上記方法に限定されるものではないことは言うまでもない。例えば、表示部206にタッチパネルを用いて、プレビュー画面501に表示された被写体をタッチすることによりフォーカス位置を決定し、フォーカス距離を算出しても構わない。また、ボケの大きさは、絞りの開口径の大きさや被写界深度と相関があるため、ボケの大きさ調整用つまみの代わりに、開口径調整つまみ、または被写界深度調整つまみを用いても構わない。

次に、ステップS403では、多視点画像データとリフォーカスパラメータとに基づいて、画像データを画像合成可能な領域(合成領域)と画像合成不可な領域(非合成領域)とに分割する処理を行う。この画像領域分割処理により、画像中の各ブロックごとに合成可能領域か合成不可領域かを設定することができる。なお、画像の領域分割処理の詳細については後述する。本実施例においては、各ブロックは矩形ブロックとする。

次に、ステップS404では、画像中の注目ブロックが画像合成可能な領域か否かを判定する。画像合成可能な領域はステップS405へ、画像合成不可な領域はステップS406に進む。
ステップS405では、画像合成可能な領域に対して、画像合成処理を行う。なお、画像合成処理の詳細については後述する。

ステップS406では、画像合成不可な領域に対して、領域調整処理を行う。なお、領域長処理の詳細については後述する。ステップS404、及びステップS405又はステップS406を画像中の各ブロックごとに順次行い、全てのブロックに関して画像合成処理、又は領域調整処理を行う。

なお、各ブロックは矩形ブロックであることに限らず、任意の形状のブロックで構わない。更に、各ブロックは画像中の画素に対応していても構わない。

ステップS407では、画像合成処理された合成画像データ、或いは、領域調整処理された領域調整後画像データに基づいて、出力画像データを出力する。

(画像の領域分割処理)
ステップS403における画像の領域分割処理の詳細について説明する。図6は、画像の領域分割処理を示すフローチャートである。

まず、ステップS601では、画像中の注目ブロックについて、多視点画像データと撮像部101〜125の配置関係から被写体までの距離情報を算出する。距離情報を算出するアルゴリズムとしては、ステレオマッチング法やマルチベースラインステレオ法などが適用可能であり、本実施例では、ステレオマッチング法による距離情報の算出を行う。

まず、距離情報の算出方法を説明するにあたり、撮像装置と被写体との位置関係について説明する。図7は、本実施例で用いる撮像装置と被写体との位置関係を示す概念図である。図7は、撮像装置と被写体との位置関係を上から見た図であり、撮像装置の前に被写体A、被写体B、被写体Cがあり、各々、撮像装置からd1、d2、d3離れた距離に配置されている。また、1つの撮像部で撮影できる範囲は視野範囲aの広さを持つ。

ステレオマッチング法では、基準となる画像データを複数のブロックに分割し、その他の画像データの中から、対象となるブロックに一番近いブロック位置を検出する。そして、2つのブロックの位置関係、対応する撮像部の位置関係、撮像部の画角を用いて、三角測量を行い、対象ブロックの距離を算出する。なお、基準となる画像データは、視点の中心となる画像データであり、本実施例では撮像部113で撮影した画像データとする。そして、算出されたブロックごとの距離情報に基づき奥行き画像データを算出する。図8は、奥行き画像データの一例を示す図である。ここでは、被写体Aは距離d1、被写体Bは距離d2、被写体Cは距離d3、その他は距離∞であることを示す距離情報が得られる。

次に、ステップS602では、被写体までの距離情報とフォーカス位置から距離差を算出する。フォーカス位置は、前述のとおり、表示部206に表示されたGUIを通して設定される値であり、本実施例では被写体Aまでの距離d1に設定されているものとする。したがって、フォーカス位置から被写体Aまでの距離差は0、フォーカス位置から被写体Bまでの距離差はd2−d1、フォーカス位置から被写体Cまでの距離差はd3−d1となる。

次に、ステップS603では、距離差とボケの大きさから合成に必要な画像枚数を算出する。ボケの大きさは、前述のとおり、表示部206に表示されたGUIを通して設定される値であり、本実施例では中程度に設定されているものとする。また、画像合成に必要な枚数は、距離差が小さいほど少なく、距離差が大きいほど多くなるように算出され、ボケの大きさが小さいほど少なく、ボケの大きさが大きいほど多くなるように算出される。例えば、フォーカス距離をf、ボケの大きさをr、被写体までの距離をdとすると、合成に必要な枚数nは、
n=INT(α(d−f)+βr) (1)
で表すことができる。ここで、INT()は有理数を整数に変換する関数を示している。また、αとβは距離差とボケの大きさとの関係を示す重み係数であり、撮像部の配置関係などにより算出、または操作部205からの指示により設定されてもよい。ここでは、被写体Aに必要な合成枚数は1枚、被写体Bに必要な合成枚数は3枚、被写体Cに必要な合成枚数は4枚と算出されたとする。

次に、ステップS604では、多視点画像データの中から、合成に必要な画像枚数を満たす被写体領域を抽出する。そして、合成に必要な画像枚数を満たす領域はステップS605へ、そうでない場合はS606に進む。

ここでは、被写体領域の抽出について、前述の図7に示す撮像装置と被写体との位置関係を示す概念図を用いて説明する。まず、被写体の領域ごとに撮影されている画像枚数を算出する。例えば、被写体Bの右側は、撮像部111、112、113に存在するので3枚、被写体Bの左側は、撮像部111、112、113、114に存在するので4枚になる。同様に、被写体Cの右側は、すべての撮像部に存在するので5枚、被写体Cの中央は撮像部112、113、114、115に存在するので4枚、被写体Cの左側は撮像部113、114、115に存在するので3枚となる。

次に、被写体ごとに合成に必要な画像枚数を比較する。例えば、被写体Bの合成に必要な画像枚数は3枚であるため、被写体Bは全領域において合成可能であると判断できる。また、被写体Cの合成に必要な画像枚数は4枚であるため、被写体Cの左側と中央は合成可能、被写体Cの右側は合成不可であると判断できる。

ステップS605では、対象領域を合成可能領域として設定し、RAM202などに格納する。

ステップS606では、対象領域を合成不可領域として設定し、RAM202などに格納する。

本実施例においては、画像中の各ブロックについて図6の処理を繰り返し、画像中の具ロックそれぞれに対して合成可能領域か合成不可領域を設定する。

なお、本実施例では、簡単のため画像を合成可能領域(合成領域)と合成不可領域(非合成領域)との二つに分割するとしたがこれに限らない。すなわち、領域分割処理においては、画像を合成する際に多視点画像データを合成する合成領域と、その合成領域と異なる処理を行う領域が設定できれば良い。

(画像合成処理)
次に、ステップS405における画像合成処理の詳細について説明する。図9は、画像合成処理を示すフローチャートである。

まず、ステップS901では、ボケの大きさに基づいて、画像データごとに重み係数を算出する。本実施例では、視点の中心から各撮像部までの距離をli(i=1〜25)とすると、重み係数wi(i=1〜25)は、
wi=1 (li ≦ r) (2)
wi=0 (li > r) (3)
で定義する。ここで、rはボケの大きさである。つまり、この重み係数は、ボケの大きさが大きいほど画像合成に使用する画像データ数は増加し、ボケの大きさが小さいほど画像合成に使用する画像データ数は減少することを示している。

次に、ステップS902では、フォーカス距離に基づいて、画像データごとにシフト量を算出する。本実施例では、各画像データをここで算出したシフト量だけ移動させた後、重み係数を乗算して足し合わせることで画像合成処理を行う。

シフト量の算出は、視点中心から各撮像部までの水平方向の距離をlxi(i=1〜25)、垂直方向の距離をlyi(i=1〜25)とすると、水平方向のシフト量Δxi、および垂直方向のシフト量Δyiは、
Δxi=lxi×f÷(d×Δx) (i=1〜25) (4)
Δyi=lyi×f÷(d×Δy) (i=1〜25) (5)
で定義できる。ここで、fはフォーカス距離、dは被写体の距離、Δxは水平方向の画素ピッチ、Δyは垂直方向の画素ピッチである。

最後に、ステップS903では、重み係数とシフト量に基づいて、各画像データを合成し合成画像データを生成する。各画像データの座標値をIi(x、y) (i=1〜25)、合成画像データの座標値をH(x、y)とすると、
H(x、y)=Σ(wi×Ii(x+Δxi、y+Δyi))÷N (6)
で表すことができる。ここで、Nは重み係数の総和である。

(領域調整処理)
ステップS406における領域調整処理の詳細について説明する。図10は、領域調整処理を示すフローチャートである。

まず、ステップS1001では、合成不可領域を包含する領域を決定する。例えば、合成可能領域が矩形領域となるように、合成不可領域を包含する領域(包含領域)を決定する。

次に、ステップS1002では、包含領域を切り取り、合成可能領域を表示部206に表示する。図11に、表示部206に表示されるGUIの一例を示す。図11では、ステップS604で合成不可領域であると判定された、被写体Cの左側領域を含む包含領域1201が切り取られて表示されている。

(出力画像データの出力)
ステップS407の出力画像データの出力について説明する。ステップS407では、ステップS405において画像合成処理されたブロックをつなぎ合わせて一つの出力画像データを生成する。出力画像データには領域調整処理により切り取られた包含領域の画像情報は含まれていない。生成された出力画像データは、表示部206に表示されたり、外部メモリ制御部211を介して外部に送信される。

なお、出力画像データを出力する際に包含領域にかかるデータ(多視点画像データ中のどの位置の領域が合成不可領域であるかを示すデータ)をメタデータとして付加しておいてもよい。後段の処理において、このメタデータに基づいてユーザーに対して合成不可領域の位置やサイズを通知することが可能となる。

以上の通り、出力される出力画像データには、領域調整処理により切り取られた合成不可領域の画像情報は含まれていない為、自然なボケ味のある出力画像データを取得することができる。

(変形例)
・本実施例では、出力画像データには合成不可領域の画像情報が含まれないとした。しかしながら、出力画像データに合成可能領域の画像情報と合成不可領域の画像情報を含めることも可能である。この場合、出力画像データには、どの位置が合成不可領域であるかを示す情報を含め、後段の処理(画像を表示する処理)の際に合成不可領域の画像を表示させないような表示制御を行えばよい。

・本実施例では、撮像部101〜125で撮像される多視点画像データがすべてカラー画像であることを前提に各部の構成や処理を説明した。しかし、撮像部101〜125で撮像される多視点画像データの一部或いは全部をモノクロ画像データに変更しても構わない。その場合には、図3のカラーフィルタ308は省略される。

・本実施例では、多視点画像データは複数の撮像部を備えたカメラを用いて撮影されたものであるとして説明した。しかし、多視点画像データは、多眼方式カメラで撮影されたものに限定されないのは言うまでもない。例えば、細かいマイクロレンズを格子状に並べて撮像素子の直前に備えた、いわゆるライトフィールドカメラを用いて撮影されたものから取得しても構わない。

[実施例2]
実施例1では、合成不可領域を切り取ることにより、自然なボケ味のある領域のみを用いてリフォーカス処理をした画像を生成する方法について説明した。本実施例においては、ボケの不自然さを示す係数を用いて、ユーザが合成に使用する領域を調整する方法について説明する。

本実施例における画像処理部のフローチャートは、実施例1と同様、図4に示す通りであるが、ステップS406における領域調整処理の詳細が異なる。その他の処理については実施例1と同一であるため説明を省略する。

ここでは、ステップS406における領域調整処理の詳細について説明する。図12は、領域調整処理を示すフローチャートである。

まず、ステップS1201では、領域ごとにボケの不自然さを示す係数を算出する。ボケの不自然さを示す係数は、例えば、ステップS603で算出する合成に必要な画像枚数と、ステップS604で算出する被写体領域の撮影されている画像枚数との比率で算出する。これは、ボケの大きさが大きいほど合成に必要な画像枚数は増加するが、撮影されている画像枚数が少ないと、画像合成の際に自然なボケ味を出すことができないためである。

被写体領域ごとに合成に必要な画像枚数をP、撮影されている画像枚数をQとすると、ボケの不自然さを示す係数Rは、
R=min(1−Q/P,0) (7)
で表すことができる。撮像装置および被写体との位置関係が実施例1と同一であるとすると、画像不可領域は被写体Cの右側であり、ボケの不自然さを示す係数は0.25(=1−3/4)となる。

次に、ステップS1202では、ボケの不自然さを示す係数とその領域を表示部206に表示する。図14に、表示部206に表示されるGUIの一例を示す。図13では、ボケの不自然さを示す係数が0であるときの合成可能領域の境界1301がプレビュー画面501に表示されている。

最後に、ステップS1203では、操作部205からのユーザの指示に基づいて、合成可能領域の境界を調整する。例えば、ユーザは、図13に示す表示部206に表示された不自然さの許容度調整つまみ1303を左右に移動させることにより、合成可能領域の境界を調整することができる。あるいは、プレビュー画面501上に不自然さを示す係数ごとに境界線を表示し、ユーザに選択させてもよい。1301は不自然さを示す係数が0、1302は不自然さを示す係数が0.75となる合成可能領域の境界線である。

以上により、ユーザはボケの不自然さを示す係数に基づいて、合成する領域を調整することが可能となる。

[実施例3]
実施例2では、ボケの不自然さを示す係数を用いて、ユーザが合成に使用する領域を調整する方法について説明した。本実施例においては、ユーザが不自然なボケ領域を把握しやすいように、合成不可領域を強調表示してユーザに通知する方法について説明する。

本実施例における画像処理部のフローチャートは、実施例1と同様、図4に示す通りであるが、ステップS406における領域調整処理の詳細が異なる。その他の処理については実施例1と同一であるため説明を省略する。

ここでは、ステップS406における領域調整処理の詳細について説明する。図14は、領域調整処理を示すフローチャートである。

まず、ステップS1401では、合成不可領域を包含する領域を決定する。例えば、合成可能領域が矩形領域となるように、合成不可領域を包含する領域を決定する。

次に、ステップS1402では、包含領域を強調する画像処理を行い、合成不可領域通知を行う。図15に、表示部206に表示されるGUIの一例を示す。図15では、合成不可領域1501が、ゼブラパターンで表示されている。その他にも、画像を強調表示する方法として、合成不可領域にある被写体の輪郭を強調したり、ボケの不自然さを示す係数に基づいて彩度を変化させたりするなどの方法を用いてもよい。

以上により、ユーザは不自然なボケ領域を容易に把握することができ、不自然なボケ領域の発生を回避して、自然なボケ味のあるリフォーカス処理をした画像を生成することが可能となる。

(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (9)

  1. 複数の撮像部を有する撮像装置により取得された、該複数の撮像部それぞれに対応する多視点画像データを入力する入力手段と、
    画像合成後のフォーカス距離を示すフォーカス距離データを含むリフォーカスパラメータを取得する取得手段と、
    前記リフォーカスパラメータに基づいて、前記複数の多視点画像データを合成する合成領域を設定する設定手段と、
    前記合成領域において、前記複数の多視点画像データを合成する合成手段と、
    前記合成手段により合成された画像データを出力画像データとして出力する出力手段と、
    を有することを特徴とする画像処理装置。
  2. 前記リフォーカスパラメータは、画像合成後のフォーカス距離を示すフォーカス距離データと画像合成後のボケの大きさを示すボケデータとを含むことを特徴とする請求項1に記載の画像処理装置。
  3. 前記リフォーカスパラメータに基づいて、前記複数の多視点画像データを合成しない非合成領域を設定する第2の設定手段を更に有し、
    前記出力手段は、前記出力画像データの中に前記非合成領域の画像を含まないことを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記設定手段は、画像合成する際に要する前記多視点画像データの数に基づいて合成領域を設定することを特徴とする請求項1又は3のいずれか一項に記載の画像処理装置。
  5. 前記リフォーカスパラメータに基づいて、画像合成後のボケに関する係数を算出する算出手段を更に有し、
    前記設定手段は、前記リフォーカスパラメータと前記係数とに基づいて、前記複数の多視点画像データを合成する合成領域を設定することを特徴とする請求項1乃至4のいずれか一項に記載の画像処理装置。
  6. 前記リフォーカスパラメータに基づいて、前記複数の多視点画像データを合成しない非合成領域を設定する第2の設定手段を更に有し、
    前記出力手段は、前記合成手段により合成された画像データと前記第2の設定手段により設定された非合成領域を強調表示した画像データとを含む出力画像データを出力することを特徴とする請求項1又は2に記載の画像処理装置。
  7. 前記請求項1乃至6のいずれか一項の画像処理装置を有する撮像装置。
  8. コンピュータを請求項1乃至6のいずれか一項に記載の画像処理装置として機能させるためのプログラム
  9. 複数の撮像部を有する撮像装置により取得された、該複数の撮像部それぞれに対応する多視点画像データを入力する入力工程と、
    画像合成後のフォーカス距離を示すフォーカス距離データを含むリフォーカスパラメータを取得する取得工程と、
    前記リフォーカスパラメータに基づいて、前記複数の多視点画像データを合成する合成領域を設定する設定工程と、
    前記合成領域において、前記複数の多視点画像データを合成する合成工程と、
    前記合成工程により合成された画像データを出力画像データとして出力する出力工程と、
    を有することを特徴とする画像処理方法。
JP2011142241A 2011-06-27 Withdrawn JP2013009274A5 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011142241A JP2013009274A5 (ja) 2011-06-27

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011142241A JP2013009274A5 (ja) 2011-06-27

Publications (2)

Publication Number Publication Date
JP2013009274A true true JP2013009274A (ja) 2013-01-10
JP2013009274A5 true JP2013009274A5 (ja) 2014-08-14

Family

ID=

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014129127A1 (ja) * 2013-02-21 2014-08-28 Necカシオモバイルコミュニケーションズ株式会社 画像処理装置、画像処理方法、及び非一時的なコンピュータ可読媒体
JP2014158258A (ja) * 2013-01-15 2014-08-28 Canon Inc 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2015023486A (ja) * 2013-07-22 2015-02-02 株式会社ニコン 画像処理装置、画像表示装置、及び撮像装置
JP2015115818A (ja) * 2013-12-12 2015-06-22 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム。
JP2015115816A (ja) * 2013-12-12 2015-06-22 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム。
JP2015188251A (ja) * 2013-03-05 2015-10-29 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2016511562A (ja) * 2013-01-22 2016-04-14 サムスン エレクトロニクス カンパニー リミテッド 複数のマイクロレンズを使用して撮影する撮影装置及びその撮影方法
CN106105193A (zh) * 2014-03-13 2016-11-09 三星电子株式会社 用于产生具有深度信息的图像的图像拾取设备和方法
JP2017161941A (ja) * 2017-06-07 2017-09-14 キヤノン株式会社 再生装置、撮像装置および再生装置の制御方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011022796A (ja) * 2009-07-15 2011-02-03 Canon Inc 画像処理方法および画像処理装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011022796A (ja) * 2009-07-15 2011-02-03 Canon Inc 画像処理方法および画像処理装置

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014158258A (ja) * 2013-01-15 2014-08-28 Canon Inc 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2016511562A (ja) * 2013-01-22 2016-04-14 サムスン エレクトロニクス カンパニー リミテッド 複数のマイクロレンズを使用して撮影する撮影装置及びその撮影方法
CN105052124A (zh) * 2013-02-21 2015-11-11 日本电气株式会社 图像处理设备、图像处理方法、以及非瞬时计算机可读介质
US9621794B2 (en) 2013-02-21 2017-04-11 Nec Corporation Image processing device, image processing method and permanent computer-readable medium
JPWO2014129127A1 (ja) * 2013-02-21 2017-02-02 日本電気株式会社 画像処理装置、画像処理方法、及びプログラム
EP2961152A4 (en) * 2013-02-21 2016-09-21 Nec Corp Image processing device, image processing method and permanent computer-readable medium
WO2014129127A1 (ja) * 2013-02-21 2014-08-28 Necカシオモバイルコミュニケーションズ株式会社 画像処理装置、画像処理方法、及び非一時的なコンピュータ可読媒体
JP2015188251A (ja) * 2013-03-05 2015-10-29 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2015023486A (ja) * 2013-07-22 2015-02-02 株式会社ニコン 画像処理装置、画像表示装置、及び撮像装置
JP2015115816A (ja) * 2013-12-12 2015-06-22 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム。
JP2015115818A (ja) * 2013-12-12 2015-06-22 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム。
CN106105193A (zh) * 2014-03-13 2016-11-09 三星电子株式会社 用于产生具有深度信息的图像的图像拾取设备和方法
JP2017161941A (ja) * 2017-06-07 2017-09-14 キヤノン株式会社 再生装置、撮像装置および再生装置の制御方法

Similar Documents

Publication Publication Date Title
US20130223759A1 (en) Image processing method and device, and program
US20050265619A1 (en) Image providing method and device
US20110012998A1 (en) Imaging device, imaging method and recording medium
US20110025830A1 (en) Methods, systems, and computer-readable storage media for generating stereoscopic content via depth map creation
US20110064299A1 (en) Image processing apparatus and image processing method
US20130265311A1 (en) Apparatus and method for improving quality of enlarged image
US20120154551A1 (en) Stereo image display system, stereo imaging apparatus and stereo display apparatus
US9412206B2 (en) Systems and methods for the manipulation of captured light field image data
US20140092281A1 (en) Generating Images from Light Fields Utilizing Virtual Viewpoints
JP2010206774A (ja) 3次元画像出力装置及び方法
JP2006115198A (ja) 立体画像生成プログラム、立体画像生成システムおよび立体画像生成方法
JP2011022796A (ja) 画像処理方法および画像処理装置
JP2006115246A (ja) 立体表示のための画像処理プログラム、画像処理装置および立体表示システム
US20120287329A1 (en) Image processing apparatus and method thereof
JP2004200973A (ja) 簡易ステレオ画像入力装置、方法、プログラム、および記録媒体
WO2012086120A1 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
US20130162861A1 (en) Image processing device for generating reconstruction image, image generating method, and storage medium
US8208048B2 (en) Method for high dynamic range imaging
US20130038723A1 (en) Image acquisition apparatus and image processing apparatus
JPH11146423A (ja) 2次元映像を3次元映像に変換する装置および方法
JP2006119843A (ja) 画像生成方法およびその装置
US20050195295A1 (en) Image-taking apparatus and image processing method
US20140071131A1 (en) Image processing apparatus, image processing method and program
US20110109727A1 (en) Stereoscopic imaging apparatus and imaging control method
WO2011065738A2 (en) Image processing apparatus and method

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140626

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140626

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150331

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20150406