JP6074926B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP6074926B2 JP6074926B2 JP2012151595A JP2012151595A JP6074926B2 JP 6074926 B2 JP6074926 B2 JP 6074926B2 JP 2012151595 A JP2012151595 A JP 2012151595A JP 2012151595 A JP2012151595 A JP 2012151595A JP 6074926 B2 JP6074926 B2 JP 6074926B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- order
- data
- captured
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/675—Focus control based on electronic image sensor signals comprising setting of focusing regions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/743—Bracketing, i.e. taking a series of images with varying exposure conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
Description
しかしながら、虫の目レンズは、全長が非常に長いため、携帯に不便である。
そのため、通常のレンズを搭載した撮像装置が、一回のシャッタ操作により、同一の構図の被写体を複数のフォーカス位置でほぼ同時に撮影し、その結果得られる複数の撮像画像のデータを合成することによって、全焦点画像のデータを生成する技術が開示されている(特許文献1を参照)。
複数のフォーカス位置で撮影される複数の撮像画像のデータを取得する画像取得手段と、
複数の撮像画像のデータについて、フォーカス距離の遠近の順番とは異なる順番を合成の順番として決定する順番決定手段と、
前記順番決定手段により決定された順番で前記複数の撮像画像のデータを合成して全焦点画像のデータを生成する合成手段と、
前記合成手段による合成の基準となる基準画像を特定する基準画像特定手段と、
を備え、
前記順番決定手段は、前記画像取得手段により取得された各撮影画像のフォーカス位置と前記基準画像のフォーカス位置との関係に基づいて、前記合成の順番を変化させる、
ことを特徴とする。
具体的には、遠くの主要被写体である「建物」が手前の主要被写体である「模型」よりも小さくなるような構図で撮影した場合が挙げられる。
ここで、撮像装置1により撮像された画像そのものを、全焦点画像と区別すべく、「撮像画像」と呼ぶ。
後述するように、本発明の一実施形態として撮像装置1が存在する。この撮像装置1は、同一の構図で焦点をずらしながらn回(nは、2以上の整数値)撮像をする。これにより、複数枚の撮像画像P1,・・・,Pnの各データが得られることになる。そこで、撮像装置1は、これらの複数枚の撮像画像P1,・・・,Pnの各データを合成することで、全焦点画像Pgのデータを生成する。
しかしながら、このような従来の手法を適用すると、偽エッジがある画像の領域を合成してしまう可能性があり、全焦点画像Pgとして、全体としてエッジが効いていない不鮮明な画像、即ち、全被写体に焦点が合っていない画像のデータが得られてしまうおそれがある。
そこで、本発明が適用された撮像装置1には、複数枚の撮像画像P1,・・・,Pnを合成するにあたり、その合成順番を、撮影順ではなく、全被写体に焦点が合うような順番に変更する手法(以下、「合成順番変更手法」と呼ぶ。)が適用されている。
図3において、正方形は、撮像装置1により撮像された1枚の画像を示している。ここで、画像内のアルファベットは、被写体を示すものではなく、撮影の順番(撮像順)を示す符号を示している。そして、図3中上方から下方に向かって、処理が実行されていくものとする。
即ち、図3の最上部は、撮像装置1が撮像画像A,B,C・・・をその順番で撮像し終えた段階の状態を示している。
このようにして得られる全焦点画像は、偽エッジがある領域が合成されたエッジの効いていない従来の全焦点画像とは異なり、全ての被写体に焦点が合った全焦点画像となる。
このような順番で合成することにより基準画像においてフォーカスがあっている主要被写体のエッジ強度の低下を防ぐことができる。
本手法のさらなる詳細、特に合成順番の決定とフォーカス位置との関係については、後述する。
そして、並び替えられた撮像画像のデータは、逐次合成されてゆく。ここで、「逐次合成」とは、画像群における全ての撮像画像のデータが同時に合成されるのではなく、画像群における一部の撮像画像のデータ同士が合成された後、合成画像のデータと、残りの一部の撮像画像のデータ同士が合成されるといった処理が繰り返されることで、複数の撮像画像のデータが順を追って次々に合成されていくことをいう。
具体的には例えば、図3の例でいえば、逐次合成として次のような一連の処理が実行される。即ち、撮像画像A,C,D,Bの順に並び替えられた画像群のうち、まず、撮像画像Aと撮像画像Cとの各データが合成されて、合成画像ACのデータが生成される。次に、この合成画像ACと、合成画像Dとの各データが合成されて、画像ACDのデータが生成される。最後に、この合成画像ACDBと撮像画像Bとが合成されて、全焦点画像としての合成画像ACDBのデータが生成される。
以下、このような本手法が適用された撮像装置1、即ち、本発明の一実施形態に係る撮像装置1について、図4以降の図面を参照して説明する。
撮像装置1は、例えばデジタルカメラとして構成される。
フォーカスレンズは、後述のレンズ駆動部43によって駆動され、後述のイメージセンサ42の受光面に被写体の像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部41から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。AFEは、各種信号処理によって、デジタル信号が生成され、撮像部16の出力信号として出力される。このような撮像部16の出力信号が撮像画像のデータとなる。撮像画像のデータは、CPU11等に適宜供給される。また、撮像画像のデータには、メタデータとして、撮像された順番の情報と、撮像された時点におけるフォーカス位置の情報とが付加される。なお、以下、特に断りのない限り、メタデータが付加された撮像画像のデータを、単に「撮像画像のデータ」と呼ぶ。
このようなフォーカスの機構を有する撮像装置1では、撮影最短距離側方向、即ち、手前側の被写体に焦点を合わせての撮影と、無限遠方向、即ち、ピント調節が不要となるほどの遠い距離の対象を被写体とする撮影とが可能である。
また、レンズ駆動部43は、フォーカス位置を、AF処理によって決定された位置から変化させながら、順次フォーカス位置の異なる撮像を行う後述する「フォーカスブラケティング撮影」が可能となるように駆動する。具体的には、レンズ駆動部43は、例えば、フォーカス位置を、AF処理によって決定された位置から最短距離側に移動させた後、無限遠側に移動させるように、フォーカスレンズを駆動することができる。また、レンズ駆動部43は、フォーカス位置を、決定された位置から無限遠側に移動させた後、最短距離側に移動させるように、フォーカスレンズを駆動することができる。また、レンズ駆動部43は、決定されたフォーカス位置から最短距離側又は無限遠側のうちフォーカスレンズの移動量(レンズ駆動部43の駆動量)が少ない方を優先した順番で撮像するように駆動することができる。また、レンズ駆動部43は、決定されたフォーカス位置から無限遠、その他の位置の順番で撮影することができる。つまり、レンズ駆動部43は、設定したフォーカス位置となるように順次駆動することができる。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
「全焦点画像生成処理」とは、焦点の異なる複数枚の撮像画像のデータを合成して全焦点画像のデータを生成して出力するまでの一連の処理をいう。
図5は、撮像装置1の機能的構成のうち、全焦点画像生成処理を実行するための機能的構成を示す機能ブロック図である。
また、記憶部19の一領域として、撮像画像記憶部71と、合成画像記憶部72と、が設けられる。
撮像画像記憶部71は、撮像部16から出力された撮像画像のデータを記憶する。
合成画像記憶部72は、画像合成部54により合成された全焦点画像のデータを記憶する。
「フォーカスブラケティング撮影」とは、入力部17のレリーズボタンを一回押すだけで、任意の被写体に焦点が合った位置(所定のフォーカス位置)と、レンズ駆動部43を駆動調整してその前後に焦点をずらした位置(所定のフォーカス位置からずらしたフォーカス位置)との各々で複数枚の撮像画像を連写する手法である。
具体的には、撮像画像取得部52は、フォーカスブラケティング撮影により撮像部16から順次出力されてくる複数の撮像画像のデータ、即ちユーザが任意に決定した主要被写体に焦点が合った位置で撮像された撮像画像(以下、「主要被写体合焦画像」と呼ぶ。)のデータと、当該位置から前後の位置に焦点をずらして撮像された複数枚の撮像画像のデータとを取得する。
本実施形態においては、撮像画像取得部52は、1枚の主要被写体合焦画像と、当該位置から前後の4つの位置にそれぞれ焦点位置をずらして撮像された4枚の撮像画像との合計5枚の撮像画像のデータを取得する。
この場合、撮像画像取得部52は、複数の撮像画像のデータを撮像順に記憶されるように撮像画像記憶部71に出力する。
「合成順番決定処理」とは、精度の高い全焦点画像のデータを生成するために、取得された複数の撮像画像のデータについての撮像順番及びフォーカス位置に基づいて、合成の順番を決定する一連の処理である。
また、合成順番決定部53は、合成の順番として最も早い順番の撮像画像のデータを基準画像のデータとして決定する。
画像合成部54は、逐次合成している最中に、撮像画像のデータが合成に適したデータであるか否か、即ち、全焦点画像のデータを生成するのに適しているか否かを判別し、不適切な撮像画像のデータを逐次合成の対象から除外するようにする。
また、画像合成部54は、全焦点画像のデータを生成した後、当該全焦点画像が適切であるか否かを判別して、不適切であれば、全焦点画像のデータとして合成画像記憶部72への記憶を禁止する。
画像合成部54での具体的なデータの適否の判別については、後述する。
詳細には、出力制御部55は、全焦点画像のデータとして適していると画像合成部54により判別された場合には、合成画像記憶部72に記憶される全焦点画像のデータを読み出して、当該全焦点画像を出力部18の表示部に表示させるように制御する。
なお、画像合成部54により生成された全焦点画像のデータが不適切のため合成画像記憶部72への記憶が禁止された場合、出力制御部55は、撮像画像記憶部71に記憶された複数の撮像画像のデータのうちの所定の1つ、例えば基準画像のデータを出力部18から表示出力させるように制御する。
図6は、図5の撮像装置1の機能的構成のうち、合成順番決定部53及び画像合成部54の機能的構成の詳細を示す機能ブロック図である。
「第1の順番」とは、ユーザが任意に決定したフォーカス位置で撮像した撮像画像のデータ、即ち主要被写体合焦画像のデータに対して決定される順番である。ここで、第Kの順番(Kは、1以上の整数値であり、ここでは1乃至4のうちのいずれかの整数値)とは、K番目に合成される撮像画像のグループであって、このグループ内の複数画像の合成順番を含む順番である。
本実施形態においては、撮像装置1はオートフォーカスで撮像するために、第1順番決定部91は、最初に撮像された撮像画像(主要被写体合焦画像)のデータに対して、画像合成の第1の順番を決定する。なお、ユーザが入力部17(図4)を操作してマニュアルでフォーカスを合わせる場合には、主要被写体合焦画像のデータはユーザが任意で決定したものであり、当該データが第1の順番となる。
「第2の順番」とは、第1の順番で決定された主要被写体合焦画像のデータよりも手前に焦点が合っている複数又は単数の撮像画像のデータに対して決定される順番である。即ち、「第2の順番」は、フォーカス位置の値が第1の順番で決定された主要被写体合焦画像のデータよりも高い(近い)撮像画像のデータに対して決定される順番である。
第2順番決定部92は、第2の順番として決定された画像のデータに対して、第1の順番の主要被写体合焦画像の焦点に近い順に、2番目以降の順番を決定する。
「第3の順番」とは、第1の順番で決定された主要被写体合焦画像のデータよりも奥に焦点が合っている複数又は単数の撮像画像のデータに対して決定される順番である。即ち、「第3の順番」は、フォーカス位置の値が第1の順番で決定された撮像画像のデータよりも低い(遠い)撮像画像のデータに対して決定される順番である。
第3順番決定部93は、第3の順番として決定された撮像画像のデータに対して、第1の順番の画像の焦点に近い順に、第2の順番で決定された順番以降の順番を決定する。第3順番決定部93は、例えば、第2の順番で決定された順番が3番目であった場合には、3番目以降の順番を決定する。
「第4の順番」とは、取得した複数の撮像画像のデータのうち、無限遠で撮像された撮像画像に決定される順番である。即ち、「第4の順番」は、フォーカス位置の値が最も低い(最も遠い)撮像画像のデータに決定される順番である。第4順番決定部94は、例えば、第3の順番で決定された順番が6番目であった場合には、最後に合成する7番目の順番を決定する。
図7は、合成順番変更手法の一例について示す模式図である。
図7の例では、撮像装置1は、まず、オートフォーカスにて1枚の撮像画像を撮像し、その後、異なるフォーカス位置で6枚の撮像画像の撮像を行うことで、合計7枚の撮像画像を撮像するものとする。
この場合、撮像画像のデータに対しては、撮像順に合わせて、撮像画像Img_capt[0]乃至Img_capt[6]の名前の各々が付される。
ここで、各撮像画像のデータのフォーカス位置は、それぞれ次の通りになる。即ち、撮像画像Img_capt[0]の場合にはフォーカス位置は「40」となる。撮像画像Img_capt[1]の場合にはフォーカス位置は「20」となり、撮像画像Img_capt[2]の場合にはフォーカス位置は「30」となり、撮像画像Img_capt[3]の場合にはフォーカス位置は「0」となり、撮像画像Img_capt[4]の場合にはフォーカス位置は「50」となり、撮像画像Img_capt[5]の場合にはフォーカス位置は「70」となり、撮像画像Img_capt[6]の場合にはフォーカス位置は「90」となる。
フォーカス位置の値は、最も手前に焦点が合っている場合にはフォーカス位置は「100」、徐々に奥に焦点が合うに従って値は下がり、最終的に無限遠となるとフォーカス位置は「0」となる。
このような撮像画像Img_capt[0]乃至Img_capt[6]のデータに対して、合成順番決定部53は、合成順番の決定を行う。
具体的には、先ず、位置合わせ部111は、合成順番決定部53により1番目に決定された主要被写体合焦画像である撮像画像と、2番目の撮像画像との各データの位置合わせを行う。その際、位置合わせ部111は、合成時の位置ずれが予め設定されている閾値を超えているか否かを判別することで合成が成功したか否かを判別する。また、位置合わせ部111は、位置合わせができない場合には、次の順番の撮像画像のデータを用いて位置合わせを行う。
具体的には、合成MAP作成部112は、合成順番決定部53により1番目に決定された主要被写体合焦画像である撮像画像と、位置合わせをした撮像画像の各データのエッジ強度の分布から合成MAPを作成する。その際、合成MAP作成部112は、合成MAPから動体の有無を合成する面積等を判別して、合成の適否を判別する。具体的には、合成MAP作成部112は、動体がある場合や合成する面積が極端に少ない等の場合には、合成MAPの生成対象となった撮像画像又は合成画像を次の合成対象として採用せずに、位置合わせ部111に通知する。すると、位置合わせ部111は、次の順番の撮像画像の位置合わせを再度行うので、合成MAP作成部112は、再度合成MAPを作製する。
具体的には、αブレンド部113は、合成順番決定部53により1番目に決定された主要被写体合焦画像である撮像画像と、位置合わせをした撮像画像の各データについてαブレンドを行うことにより、合成画像のデータを生成する。
即ち、位置合わせ部111と、合成MAP作成部112と、αブレンド部113との各々の上述した処理を一連の処理として、当該一連の処理が繰り返し実行されることで逐次合成が行われる。
判別結果出力部115は、合成画像判別部114による画像合成の適否の判別結果を出力する。
図8は、図5の機能的構成を有する図4の撮像装置1が実行する全焦点画像生成処理の流れを説明するフローチャートである。
全焦点画像生成処理とは、フォーカス位置の異なる複数枚の撮像画像のデータから全焦点画像のデータを生成するまでの一連の処理である。
全焦点画像生成処理は、ユーザが入力部17を用いて全焦点画像生成処理を実行する所定の操作をした場合、その操作を契機として開始される。
「合成順番決定処理」とは、ステップS1において撮像された撮像画像のデータ群に対して、撮像画像の合成する順番を決定する一連の処理である。
「画像合成処理」とは、ステップS2の合成順番決定処理で決定された合成順番に基づいて、撮像画像の各データの逐次合成を行って、合成画像のデータを生成するまでの一連の処理である。
「合成画像判別処理」とは、ステップS4の画像合成処理で生成された全焦点画像のデータが適切なものであるか否かを判別する一連の処理である。
撮像画像の各データの合成が失敗したと判断された場合には、ステップS6において、NOであると判断されて、処理はステップS7に進む。
ステップS7において、出力制御部55は、出力画像の設定を行う。詳細には、出力制御部55は、ステップS5において撮像画像の各データの合成が失敗したと判断されたため、全焦点画像のデータが適切なものではないので、その代わりとして基準画像を表示対象に設定する。これにより、処理はステップS8に進む。
これに対して、撮像画像の合成が成功したと判断された場合には、ステップS6において、YESであると判断されて、処理はステップS8に進む。
ステップS8において、出力制御部55は、出力画像のデータを出力部18から表示出力させる。
図9は、図8の全焦点画像生成処理のうち、ステップS2の合成順番決定処理の詳細な流れを説明するフローチャートである。
図7の例に示すように、第1順番決定部91は、撮像順番が1番目のImg_capt[0]を第1の順番の画像として決定する。
図7の例に示すように、第2順番決定部92は、Img_capt[4](フォーカス位置「50」)を2番目とし,Img_capt[5](フォーカス位置「70」)を3番目とし、Img_capt[6](フォーカス位置「90」)を4番目とする。
図7の例に示すように、第3順番決定部93は、Img_capt[2](フォーカス位置「30」)を5番目とし,Img_capt[1](フォーカス位置「20」)を6番目とする。
図7の例に示すように、第4順番決定部94は、Img_capt[3]を7番目とする。
その後、合成順番決定処理は終了する。
図10は、図8の全焦点画像生成処理のうち、ステップS4の画像合成処理の詳細な流れについて説明するフローチャートである。
つまり、各画像の画素毎の特徴点を算出し、この特徴点を利用して位置合わせを行う。なお、画素からの特徴点を算出する具体的な方法については周知であるため省略する。
位置合わせが失敗したと判別された場合には、ステップS53において、NOと判断されて、処理はステップS51に戻され、それ以降の処理が繰り返される。
位置合わせが成功したと判別された場合には、ステップS53において、YESと判断されて、処理はステップS54に進む。
合成MAPとは、被写体領域を255、非被写体領域を0とした多値のMAPである。この合成MAPは、被写体領域に合焦した画像と非被写体領域に合焦した画像で、画素毎にエッジ強度を比較し、そのエッジ比較結果の空間密度分布から尤度(ここでは、被写体領域らしさ)を算出することで、生成することができる。
合成MAPの作成が失敗したと判別された場合には、ステップS56において、NOと判断されて、処理はステップS51に戻され、それ以降の処理が繰り返される。
合成MAPの作成が成功した判別された場合には、ステップS56において、YESと判断されて、処理はステップS57に進む。
調整方法は、AF位置と撮影フォーカス位置の関係から、合成すべく画像の重要度を求め、合成MAPに重み(例えば、ゲイン)を与えることで行う。
合成MAP’=合成MAP×[重要度に応じたゲイン]
つまり、各画像合成においては、なるべく主要被写体のエッジ強度が低下しないような合成を行うので、主要被写体らしさの高い画素ほど、Img_outのほうの合成比率が高くなるような合成を行う。
全ての画像において処理が終了していないと判別された場合には、ステップS60において、NOと判断されて、処理はステップS51に戻され、それ以降の処理が繰り返される。
全ての画像において処理が終了したと判別された場合には、ステップS60において、YESと判断されて、画像合成処理は終了する。
図11は、図8の全焦点画像生成処理のうち、ステップS5の合成画像判別処理の詳細な流れについて説明するフローチャートである。
一定枚数以上の画像を合成できないと判別された場合には、ステップS81において、NOと判断されて、処理はステップS83に進む。ステップS83については後述する。
一定枚数以上の画像を合成できたと判別された場合には、ステップS81において、YESと判断されて、処理はステップS82に進む。
レンズ駆動部43は、フォーカス位置を変更する。
撮像部16は、複数のフォーカス位置で撮影を行う。
撮像画像取得部52は、複数のフォーカス位置で撮影され複数の撮像画像のデータを取得する。
合成順番決定部53は、撮像画像取得部52により取得された複数の撮像画像のデータについて、フォーカス距離の遠近の順番及び撮影の順番のいずれとも異なる、撮像部16で撮影された画像の合成の順番を決定する。
画像合成部54は、合成順番決定部53により決定された順番で撮像部16により撮影された複数の撮像画像を合成して全焦点画像のデータを生成する。
従って、撮像装置1においては、合成順番決定部53により決定された順番で撮像部16により撮影された複数の撮像画像を合成して全焦点画像のデータを生成する。
これにより、撮像装置1においては、全体に鮮明な画像となる全焦点画像を生成することができる。
従って、撮像装置1においては、例えば、ユーザの意思が反映された画像を基準画像として特定することで、ユーザが意図して撮像した被写体を基準にした合成が可能となり、基準画像を中心として全体としてより鮮明な全焦点画像を生成することができる。
これにより、撮像装置1においては、偽のエッジが少ないエッジ強度が異なる撮像画像を合成する順番を決定することで全体としてより鮮明な全焦点画像を生成することができる。
これにより、撮像装置1においては、偽のエッジが少ないエッジ強度が最も強い最も無限遠近くのフォーカス位置で撮影された撮像画像を最後に合成することで全体としてより鮮明な全焦点画像を生成することができる。
これにより、撮像装置1においては、偽のエッジが少ないエッジ強度が強い撮像画像をより後から合成することで全体としてより鮮明な全焦点画像を生成することができる。
これにより、被写体に多少の動きや手振れ等があっても全体としてより鮮明な全焦点画像を生成することができる。
合成画像判別部114は、最も無限遠近くのフォーカス位置で撮影された撮像画像以外の合成に成功したか否かを判別する。
判別結果出力部115は、合成画像判別部114により判別された合成成功回数に応じて合成に成功したか否かを出力する。
これにより、撮像装置1においては、最も無限遠近くのフォーカス位置で撮影された撮像画像以外の合成であっても合成の回数が合成結果に強く影響するため、合成に成功したか否かの判別が適切に行える。
これにより、撮像装置1においては、簡略な方法で合成が成功したか否かを判別することができる。
これにより、撮像装置1においては、簡略な方法で合成が成功したか否かを判別することができる。
例えば、本発明は、全焦点画像生成処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、ポータブルゲーム機等に適用可能である。
換言すると、図5の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図5の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
[付記1]
複数のフォーカス位置で撮影された複数の撮像画像のデータを取得する画像取得手段と、
前記画像取得手段により取得された前記複数の撮像画像のデータについて、フォーカス距離の遠近の順番及び撮影の順番のいずれとも異なる順番を合成の順番として決定する順番決定手段と、
前記順番決定手段により決定された順番で前記複数の撮像画像のデータを合成して全焦点画像のデータを生成する合成手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記合成手段による合成の基準となる基準画像を特定する基準画像特定手段を更に備えることを特徴とする付記1に記載の画像処理装置。
[付記3]
前記順番決定手段は、前記画像取得手段により取得された各撮影画素のフォーカス位置と前記基準画像のフォーカス位置との関係に基づいて、前記合成の順番を変化させることを特徴とする付記2に記載の画像処理装置。
[付記4]
前記順番決定手段は、最も無限遠近くのフォーカス位置で撮影された撮像画像を最後に合成する順番に決定することを特徴とする付記1乃至3のいずれか一つに記載の画像処理装置。
[付記5]
前記順番決定手段は、各撮影画素のフォーカス位置を対象に前記基準画像のフォーカス位置から撮像装置の備えるレンズの撮影最短距離側方向に、続いて前記基準画像のフォーカス位置から無限遠方向に順番に、前記撮像画像の合成順番を決定することを特徴とする付記3に記載の画像処理装置。
[付記6]
前記合成手段は、前記複数の撮像画像のデータを位置合わせしながら合成して全焦点画像のデータを生成することを特徴とする付記1乃至5のいずれか一つに記載の画像処理装置。
[付記7]
最も無限遠近くのフォーカス位置で撮影された撮像画像以外の合成に成功したか否かを更に判別する判別手段と、
前記判別手段により判別された合成の成功回数に応じて合成に成功したか否かを更に出力する合成可否出力手段と、を更に備えることを特徴とする付記1乃至6のいずれか一つに記載の画像処理装置。
[付記8]
前記判別手段は、前記合成手段による合成時の位置ずれが予め設定されている閾値を超えているか否かを判別することで合成が成功したか否かを判別することを特徴とする付記7に記載の画像処理装置。
[付記9]
前記判別手段は、合成する撮像画像から作成されるデプスマップに基づいて、合成が成功したか否かを判別することを特徴とする付記7又は8に記載の画像処理装置。
[付記10]
前記フォーカス位置を変更するフォーカス手段と、
複数のフォーカス位置で撮影を行う撮影手段と、
を備えることを特徴とする付記1乃至9のいずれか一つに記載の画像処理装置。
[付記11]
複数のフォーカス位置で撮影された複数の撮像画像のデータを取得する画像取得ステップと、
前記画像取得ステップの処理で取得された前記複数の撮像画像のデータについて、フォーカス距離の遠近の順番及び撮影の順番のいずれとも異なる順番を合成の順番として決定する順番決定ステップと、
前記順番決定ステップの処理で決定された順番で前記複数の撮像画像のデータを合成して全焦点画像のデータを生成する合成ステップと、
を含むことを特徴とする画像処理方法。
[付記12]
コンピュータに、
複数のフォーカス位置で撮影された複数の撮像画像のデータを取得する画像取得機能と、
前記画像取得機能の発揮により取得された前記複数の撮像画像のデータについて、フォーカス距離の遠近の順番及び撮影の順番のいずれとも異なる順番を合成の順番として決定する順番決定機能と、
前記順番決定機能の発揮により決定された順番で前記複数の撮像画像を合成して全焦点画像のデータを生成する合成機能と、
を実現させるためのプログラム。
Claims (10)
- 複数のフォーカス位置で撮影される複数の撮像画像のデータを取得する画像取得手段と、
複数の撮像画像のデータについて、フォーカス距離の遠近の順番とは異なる順番を合成の順番として決定する順番決定手段と、
前記順番決定手段により決定された順番で前記複数の撮像画像のデータを合成して全焦点画像のデータを生成する合成手段と、
前記合成手段による合成の基準となる基準画像を特定する基準画像特定手段と、
を備え、
前記順番決定手段は、前記画像取得手段により取得された各撮影画像のフォーカス位置と前記基準画像のフォーカス位置との関係に基づいて、前記合成の順番を変化させる、
ことを特徴とする画像処理装置。 - 前記順番決定手段は、最も無限遠近くのフォーカス位置で撮影された撮像画像を最後に合成する順番に決定することを特徴とする請求項1に記載の画像処理装置。
- 前記順番決定手段は、各撮影画像のフォーカス位置を対象に前記基準画像のフォーカス位置から当該画像処理装置の備えるレンズの撮影最短距離側方向に、続いて前記基準画像のフォーカス位置から無限遠方向に順番に、前記撮像画像の合成順番を決定することを特徴とする請求項1に記載の画像処理装置。
- 前記合成手段は、前記複数の撮像画像のデータを位置合わせしながら合成して全焦点画像のデータを生成することを特徴とする請求項1乃至3のいずれか一項に記載の画像処理装置。
- 最も無限遠近くのフォーカス位置で撮影された撮像画像以外の合成に成功したか否かを更に判別する判別手段と、
前記判別手段により判別された合成の成功回数に応じて合成に成功したか否かを更に出力する合成可否出力手段と、を更に備えることを特徴とする請求項1乃至4のいずれか一項に記載の画像処理装置。 - 前記判別手段は、前記合成手段による合成時の位置ずれが予め設定されている閾値を超えているか否かを判別することで合成が成功したか否かを判別することを特徴とする請求項5に記載の画像処理装置。
- 前記判別手段は、合成する撮像画像から作成されるデプスマップに基づいて、合成が成功したか否かを判別することを特徴とする請求項5又は6に記載の画像処理装置。
- 前記フォーカス位置を変更するフォーカス手段と、
複数のフォーカス位置で撮影を行う撮影手段と、
を備えることを特徴とする請求項1乃至7のいずれか一項に記載の画像処理装置。 - 複数のフォーカス位置で撮影される複数の撮像画像のデータを取得する画像取得処理と、
複数の撮像画像のデータについて、フォーカス距離の遠近の順番とは異なる順番を合成の順番として決定する順番決定処理と、
前記順番決定処理の処理で決定された順番で前記複数の撮像画像のデータを合成して全焦点画像のデータを生成する合成処理と、
前記合成処理による合成の基準となる基準画像を特定する基準画像特定処理と、
を含み、
前記順番決定処理では、前記画像取得処理で取得された各撮影画像のフォーカス位置と前記基準画像のフォーカス位置との関係に基づいて、前記合成の順番を変化させる、
ことを特徴とする画像処理方法。 - コンピュータに、
複数のフォーカス位置で撮影される複数の撮像画像のデータを取得する画像取得機能と、
複数の撮像画像のデータについて、フォーカス距離の遠近の順番とは異なる順番を合成の順番として決定する順番決定機能と、
前記順番決定機能の発揮により決定された順番で前記複数の撮像画像を合成して全焦点画像のデータを生成する合成機能と、
前記合成機能による合成の基準となる基準画像を特定する基準画像特定機能と、
を実現させ、
前記順番決定機能では、前記画像取得機能の発揮により取得された各撮影画像のフォーカス位置と前記基準画像のフォーカス位置との関係に基づいて、前記合成の順番を変化させる、
ことを特徴とするプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012151595A JP6074926B2 (ja) | 2012-07-05 | 2012-07-05 | 画像処理装置、画像処理方法及びプログラム |
US13/926,887 US9386223B2 (en) | 2012-07-05 | 2013-06-25 | Image processing apparatus, image processing method and storage medium for acquiring an omnifocal image by combining multiple images with a specific order |
CN201310276324.3A CN103533232B (zh) | 2012-07-05 | 2013-07-03 | 图像处理装置以及图像处理方法 |
KR20130078393A KR101495584B1 (ko) | 2012-07-05 | 2013-07-04 | 화상 처리 장치, 화상 처리 방법 및 기억 매체 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012151595A JP6074926B2 (ja) | 2012-07-05 | 2012-07-05 | 画像処理装置、画像処理方法及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2014017539A JP2014017539A (ja) | 2014-01-30 |
JP2014017539A5 JP2014017539A5 (ja) | 2015-07-30 |
JP6074926B2 true JP6074926B2 (ja) | 2017-02-08 |
Family
ID=49878240
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012151595A Expired - Fee Related JP6074926B2 (ja) | 2012-07-05 | 2012-07-05 | 画像処理装置、画像処理方法及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US9386223B2 (ja) |
JP (1) | JP6074926B2 (ja) |
KR (1) | KR101495584B1 (ja) |
CN (1) | CN103533232B (ja) |
Families Citing this family (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101838033B1 (ko) * | 2011-11-25 | 2018-03-15 | 삼성전자 주식회사 | 사용자 디바이스의 영상 촬영 방법 및 장치 |
JP5664626B2 (ja) * | 2012-10-12 | 2015-02-04 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP6242244B2 (ja) * | 2014-02-28 | 2017-12-06 | オリンパス株式会社 | 撮像装置、撮像方法、およびプログラム |
US9307166B2 (en) * | 2014-03-26 | 2016-04-05 | Intel Corporation | All-in-focus implementation |
JP2015207860A (ja) * | 2014-04-18 | 2015-11-19 | オリンパス株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
CN103929591B (zh) * | 2014-04-22 | 2017-06-20 | 苏州比特速浪电子科技有限公司 | 图像处理装置 |
JP6325885B2 (ja) * | 2014-05-12 | 2018-05-16 | オリンパス株式会社 | 撮像装置、撮像方法、及びプログラム |
CN105334681B (zh) * | 2014-06-25 | 2018-01-30 | 深圳市墨克瑞光电子研究院 | 液晶透镜成像装置及液晶透镜成像方法 |
JP6317635B2 (ja) * | 2014-06-30 | 2018-04-25 | 株式会社東芝 | 画像処理装置、画像処理方法及び画像処理プログラム |
CN105301864B (zh) * | 2014-07-29 | 2018-01-30 | 深圳市墨克瑞光电子研究院 | 液晶透镜成像装置及液晶透镜成像方法 |
CN105657240A (zh) * | 2015-06-29 | 2016-06-08 | 宇龙计算机通信科技(深圳)有限公司 | 一种拍照方法及装置 |
JP6702796B2 (ja) | 2016-05-16 | 2020-06-03 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム |
EP3478182A4 (en) * | 2016-05-25 | 2020-02-26 | Carson, Benjamin | METHOD, SYSTEM, SOFTWARE AND DEVICE FOR IMAGING AND MINIATURIZED THREE-DIMENSIONAL ANALYSIS REMOTELY OF HUMAN LESION CLINICAL APPLICATIONS AND RESEARCH THEREOF |
JP6706167B2 (ja) * | 2016-07-15 | 2020-06-03 | オリンパス株式会社 | 撮像装置、画像合成方法、およびプログラム |
US10719408B2 (en) * | 2016-08-03 | 2020-07-21 | Microsoft Technology Licensing, Llc | Retain locally deleted content at storage service |
CN106454116B (zh) * | 2016-11-18 | 2019-06-28 | 成都微晶景泰科技有限公司 | 自动全焦成像方法及装置 |
CN106937056B (zh) * | 2017-03-31 | 2020-10-09 | 努比亚技术有限公司 | 双摄像头的对焦处理方法、对焦处理装置和移动终端 |
JP6891071B2 (ja) * | 2017-08-07 | 2021-06-18 | キヤノン株式会社 | 情報処理装置、撮像システム、撮像方法及びプログラム |
CN109862252B (zh) * | 2017-11-30 | 2021-01-29 | 北京小米移动软件有限公司 | 图像拍摄方法及装置 |
JP2019114919A (ja) * | 2017-12-22 | 2019-07-11 | オリンパス株式会社 | 撮像装置、撮像方法、およびプログラムを記録した記録媒体 |
CN108171743A (zh) * | 2017-12-28 | 2018-06-15 | 努比亚技术有限公司 | 拍摄图像的方法、设备及计算机可存储介质 |
JP7169092B2 (ja) * | 2018-05-21 | 2022-11-10 | 株式会社ミツトヨ | 焦点距離可変レンズ装置および焦点距離可変レンズ制御方法 |
JP6790318B2 (ja) * | 2018-06-19 | 2020-11-25 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 無人航空機、制御方法、及びプログラム |
JP7098474B2 (ja) * | 2018-08-07 | 2022-07-11 | 株式会社ミツトヨ | 非接触式変位計 |
JP6833772B2 (ja) * | 2018-08-22 | 2021-02-24 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
CN111061123B (zh) * | 2019-12-25 | 2022-02-15 | 重庆特斯联智慧科技股份有限公司 | 一种旅游景观展示的旋转全景成像系统及使用方法 |
JP2021180366A (ja) * | 2020-05-11 | 2021-11-18 | キヤノン株式会社 | 撮像装置及びその制御方法、並びにプログラム |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0380676A (ja) * | 1989-08-23 | 1991-04-05 | Ricoh Co Ltd | 電子パンフォーカス装置 |
JP3956584B2 (ja) | 2000-06-02 | 2007-08-08 | 株式会社日立製作所 | 全焦点画像合成方法及び装置 |
US6538249B1 (en) | 1999-07-09 | 2003-03-25 | Hitachi, Ltd. | Image-formation apparatus using charged particle beams under various focus conditions |
US7006111B1 (en) * | 1999-11-09 | 2006-02-28 | Intel Corporation | Digital image stitching |
JP2001268439A (ja) | 2000-03-16 | 2001-09-28 | Minolta Co Ltd | 合成画像の作成方法 |
KR100432617B1 (ko) * | 2001-05-16 | 2004-05-22 | 주식회사 메디슨 | 직교 성질을 갖는 골레이 코드 세트를 이용하는 초음파영상 형성 장치 및 방법 |
US6885764B2 (en) * | 2001-11-21 | 2005-04-26 | Ge Medical Systems Global Technology Company, Llc | High Speed Z-smoothing method and apparatus for CT imaging system |
WO2004107012A1 (ja) * | 2003-05-30 | 2004-12-09 | Vixen Co., Ltd. | 天体の自動導入装置 |
US8098275B2 (en) * | 2003-12-30 | 2012-01-17 | The Trustees Of The Stevens Institute Of Technology | Three-dimensional imaging system using optical pulses, non-linear optical mixers and holographic calibration |
EP1653395A3 (fr) * | 2004-10-01 | 2006-05-10 | Axalto SA | Procédé de sécurisation d'un objet portatif personnel |
TWI279143B (en) * | 2005-07-11 | 2007-04-11 | Softfoundry Internat Ptd Ltd | Integrated compensation method of video code flow |
JP2007282152A (ja) | 2006-04-12 | 2007-10-25 | Eiji Shiraishi | 一回のシャッター操作で、同じ構図の被写体を複数のピントでほぼ同時に撮影する同時多重ピントデジカメ。 |
CN101191719A (zh) * | 2006-12-01 | 2008-06-04 | 鸿富锦精密工业(深圳)有限公司 | 影像焦点合成系统及方法 |
JP4582423B2 (ja) * | 2007-04-20 | 2010-11-17 | 富士フイルム株式会社 | 撮像装置、画像処理装置、撮像方法、及び画像処理方法 |
US8179432B2 (en) * | 2007-04-30 | 2012-05-15 | General Electric Company | Predictive autofocusing |
US8188412B2 (en) * | 2007-12-27 | 2012-05-29 | Olympus Corporation | Confocal microscope which weights and combines signals output from a plurality of photodetectors and calculates omnifocal brightness information for the plurality of signals |
JP4524717B2 (ja) * | 2008-06-13 | 2010-08-18 | 富士フイルム株式会社 | 画像処理装置、撮像装置、画像処理方法及びプログラム |
JP5154392B2 (ja) | 2008-12-12 | 2013-02-27 | 株式会社キーエンス | 撮像装置 |
JP2010166247A (ja) | 2009-01-14 | 2010-07-29 | Olympus Corp | 画像処理装置、画像処理プログラムおよび画像処理方法 |
US8629899B2 (en) * | 2009-08-06 | 2014-01-14 | Qualcomm Incorporated | Transforming video data in accordance with human visual system feedback metrics |
US8494301B2 (en) * | 2010-09-16 | 2013-07-23 | Eastman Kodak Company | Refocusing images using scene captured images |
-
2012
- 2012-07-05 JP JP2012151595A patent/JP6074926B2/ja not_active Expired - Fee Related
-
2013
- 2013-06-25 US US13/926,887 patent/US9386223B2/en active Active
- 2013-07-03 CN CN201310276324.3A patent/CN103533232B/zh not_active Expired - Fee Related
- 2013-07-04 KR KR20130078393A patent/KR101495584B1/ko active IP Right Grant
Also Published As
Publication number | Publication date |
---|---|
US9386223B2 (en) | 2016-07-05 |
US20140009572A1 (en) | 2014-01-09 |
CN103533232A (zh) | 2014-01-22 |
CN103533232B (zh) | 2016-11-16 |
KR20140005802A (ko) | 2014-01-15 |
JP2014017539A (ja) | 2014-01-30 |
KR101495584B1 (ko) | 2015-02-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6074926B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6288952B2 (ja) | 撮像装置およびその制御方法 | |
JP5786847B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP4553346B2 (ja) | 焦点調節装置及び焦点調節方法 | |
US10142557B2 (en) | Image pickup apparatus, image pickup method, and non-transitory computer-readable medium storing computer program | |
JP5664626B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2013005091A (ja) | 撮像装置および距離情報取得方法 | |
US20180167565A1 (en) | Imaging apparatus and image synthesis method | |
JP6608194B2 (ja) | 画像処理装置およびその制御方法ならびにプログラム | |
JP2006308813A (ja) | フォーカスブラケット機能付き撮像装置 | |
JP2007286118A (ja) | 撮像装置及びその制御方法 | |
JP6260652B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP2013210572A (ja) | 撮像装置および撮像装置の制御プログラム | |
JP6491442B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP6757245B2 (ja) | 動画再生装置、撮像装置、動画再生方法及びプログラム | |
JP6071173B2 (ja) | 撮像装置、その制御方法及びプログラム | |
JP2015084517A (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP6478536B2 (ja) | 画像処理装置および撮像装置、ならびにそれらの制御方法、プログラム | |
JP6362735B2 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
JP5979288B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP6450879B2 (ja) | 記録装置、記録方法及び記録プログラム | |
JP2010078682A (ja) | 焦点調節装置、焦点調節制御方法、及びプログラム | |
JP6169963B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP2014230172A (ja) | 画像処理装置、撮像装置、再生装置、制御方法、及びプログラム | |
JP6375114B2 (ja) | 画像再生装置及び画像再生装置の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150611 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150611 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160517 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160628 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160719 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20161213 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20161226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6074926 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |