JP5857567B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP5857567B2
JP5857567B2 JP2011201501A JP2011201501A JP5857567B2 JP 5857567 B2 JP5857567 B2 JP 5857567B2 JP 2011201501 A JP2011201501 A JP 2011201501A JP 2011201501 A JP2011201501 A JP 2011201501A JP 5857567 B2 JP5857567 B2 JP 5857567B2
Authority
JP
Japan
Prior art keywords
region
attention area
focus
image processing
input image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011201501A
Other languages
English (en)
Other versions
JP2013062761A (ja
Inventor
敬史 上田
敬史 上田
淳 水口
淳 水口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011201501A priority Critical patent/JP5857567B2/ja
Priority to US13/589,673 priority patent/US8958655B2/en
Priority to EP12006258.3A priority patent/EP2571251B1/en
Priority to CN201210328749.XA priority patent/CN103002212B/zh
Publication of JP2013062761A publication Critical patent/JP2013062761A/ja
Application granted granted Critical
Publication of JP5857567B2 publication Critical patent/JP5857567B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)

Description

本開示は、画像処理装置、画像処理方法およびプログラムに関する。
近日、撮影装置には多様な撮影モードが実装される傾向にある。例えば、ミニチュアモードによれば、撮影時の画像、または撮影後の画像を、被写界深度が浅いミニチュアのような画像にすることが可能である。
このようなミニチュアモードに関し、例えば特許文献1には、主要被写体を含まない背景領域に、レンズの焦点距離に応じた度合いでぼかし処理を施す撮影装置が開示されている。ここで、特許文献1には、画像中の合焦位置に対応する領域を主要被写体領域に決定する例や、被写体として複数の顔領域が抽出された場合には、最もサイズが大きい顔領域、または、最も中央に寄っている顔領域を基準として主要被写体領域を決定する例が記載されている。
特開2008−118348号公報
しかし、複数の合焦位置が存在する画像から、ぼかし処理を施さない注目領域を1つの合焦位置を基準にして決定する場合と、複数の合焦位置を基準にして決定する場合とでは、得られる結果が異なる。したがって、注目領域を画一的に1つの合焦位置を基準にして決定すると、ユーザが期待した結果を得られない場合が生じ得る。
そこで、本開示では、画像中の注目領域を撮影情報に基づいて適切に決定することが可能な、新規かつ改良された画像処理装置、画像処理方法およびプログラムを提案する。
本開示によれば、複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定する注目領域決定部と、前記注目領域に含まれない周辺領域に対してぼかし処理を施す画像処理部と、を備える画像処理装置が提供される。
また、本開示によれば、複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定することと、前記注目領域に含まれない周辺領域に対してぼかし処理を施すことと、を含む画像処理方法が提供される。
また、本開示によれば、コンピュータを、複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定する注目領域決定部と、前記注目領域に含まれない周辺領域に対してぼかし処理を施す画像処理部と、として機能させるための、プログラムが提供される。
以上説明したように本開示によれば、画像中の注目領域を撮影情報に基づいて適切に決定することができる。
本開示の実施形態による画像処理システム1の構成を示した説明図である。 フォーカスポイントの配置例を示した説明図である。 ミニチュア処理を示した説明図である。 ミニチュア処理を示した説明図である。 ミニチュア処理を示した説明図である。 複数の合焦位置が存在する画像の具体例を示した説明図である。 複数の合焦位置が存在する画像の具体例を示した説明図である。 本実施形態による画像処理装置20の構成を示した説明図である。 画像処理装置20の第1の動作例を示したフローチャートである。 複数の合焦位置を考慮した注目領域の決定方法を示したフローチャートである。 分散度の算出方法を示した説明図である。 分散度の算出方法を示した説明図である。 画像処理装置の第2の動作例を示したフローチャートである。 画像処理装置のハードウェア構成を示したブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
また、以下に示す項目順序に従って本開示を説明する。
1.画像処理システムの基本構成
2.画像処理装置の構成
3.画像処理装置の動作
3−1.第1の動作例
3−2.第2の動作例
4.ハードウェア構成
5.むすび
<1.画像処理システムの基本構成>
本開示による技術は、一例として「2.画像処理装置の構成」〜「3.画像処理装置の動作」において詳細に説明するような形態で実施され得る。本開示の実施形態による画像処理装置(20)は、
A.複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定する注目領域決定部と、
B.前記注目領域に含まれない周辺領域に対してぼかし処理を施す画像処理部と、を備える。
以下では、まず、このような画像処理装置を含む画像処理システムの基本構成について説明する。
図1は、本開示の実施形態による画像処理システム1の構成を示した説明図である。図1に示したように、本開示の実施形態による画像処理システム1は、撮影装置10と、画像処理装置20と、を備える。
(撮影装置10)
撮影装置10は、被写体を撮影して画像を取得する。具体的には、撮影装置10は、撮影レンズおよびズームレンズなどの撮影光学系、およびCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を備える。撮影光学系は、被写体から発せられる光を集光して、撮影素子の撮像面に被写体像を形成する。撮影素子は、撮影光学系によって形成された被写体像を電気的な画像信号に変換する。
また、本実施形態による撮影装置10は、撮像面の複数箇所にフォーカスポイントを有し、フォーカスポイント毎の合焦状態を検出することができる。例えば、図2に示したように、撮像面14の35箇所にフォーカスポイントP1〜P35が配置され、撮影装置10は、各フォーカスポイントにおける合焦の度合いを検出することができる。
このような撮影装置10は、画像の撮影時に撮影情報を取得し、図1に示したように、画像および撮影情報を含む画像ファイルを画像処理装置20に供給する。なお、撮影情報は、例えば、画像撮影時の焦点距離を示す焦点距離情報、およびフォーカス情報を含む。また、フォーカス情報は、各フォーカスポイントにおける合焦の度合いを示す情報や、撮影時のレンズ位置のような光学系の状態を示す情報を含んでもよい。
(画像処理装置20)
画像処理装置20は、撮影装置10から供給される画像に多様な画像処理を施す機能を有する。例えば、画像処理装置20は、撮影装置10から供給される画像に、当該画像の撮影情報を用いてミニチュア処理を施すことが可能である。ミニチュア処理は、画像中の注目領域はぼかさず、注目領域の周辺領域にぼかし処理を施す処理であり、これにより、被写界深度が浅いミニチュアのような画像を得ることが可能である。以下、図3〜図5を参照し、ミニチュア処理について簡単に説明する。
図3〜図5は、ミニチュア処理を示した説明図である。なお、図3〜図5においては、ミニチュア処理による画像のぼけの強さを色の濃淡で表現している。すなわち、図3〜図5においては、ぼけの強い領域ほど薄い色を付している。
図3に示したように、画像の中央付近のフォーカスポイントP20が画像中で唯一の合焦位置(すなわち、合焦の度合いが閾値を超えている位置)である場合、フォーカスポイントP20を含む領域が注目領域として決定される。また、図4に示したように、画像の下部のフォーカスポイントP30が画像中で唯一の合焦位置である場合、フォーカスポイントP30を含む領域が注目領域として決定される。同様に、図5に示したように、画像の上部のフォーカスポイントP5が画像中で唯一の合焦位置である場合、フォーカスポイントP5を含む領域が注目領域として決定される。
そして、画像処理装置20は、注目領域を中心に、注目領域の周辺領域にぼかし処理を施す。具体的には、画像処理装置20は、図3〜図5に示したように、注目領域から離れるほど強いぼかし処理を施す。これにより、被写界深度が浅いミニチュアのような画像が得られる。または、画像処理装置20は、合焦位置を中心に、合焦位置の周辺領域にぼかし処理を施してもよい。
なお、本明細書においては、上記のようなミニチュア処理を画像処理装置20において行う例を説明するが、ミニチュア処理を行うための構成を撮影装置10に設けることにより、撮影装置10においてミニチュア処理を行うことも可能である。この場合、撮影装置10は、画像の撮影後にミニチュア処理を行ってもよいし、画像の撮影時にミニチュア処理を行ってもよい。
また、画像処理装置20の一例としてPC(Personal Computer)を示しているが、画像処理装置20はPCに限定されない。例えば、画像処理装置20は、家庭用映像処理装置(DVDレコーダ、ビデオデッキなど)、PDA(Personal Digital Assistants)、家庭用ゲーム機器、家電機器などの情報処理装置であってもよい。また、画像処理装置20は、携帯電話、PHS(Personal Handyphone System)、携帯用映像処理装置、携帯用ゲーム機器などの情報処理装置であってもよい。
(背景)
上述したように、画像中に存在する合焦位置が1つである場合、その合焦位置を含むように注目領域を決定することができる。しかし、実際には、画像中に複数の合焦位置が存在する場合がある。以下、複数の合焦位置が存在する画像の具体例を説明する。
図6および図7は、複数の合焦位置が存在する画像の具体例を示した説明図である。図6に示した例では、人物の顔領域に対応するフォーカスポイントP11、P12、P18およびP19において画像が合焦している。特にフォーカスポイントP12の合焦度合いが最も高い。
また、図7に示した例では、道路脇の木の領域に対応するフォーカスポイントP2、P6、P9、P13、P15、P21、P22およびP28において画像が合焦している。特にフォーカスポイントP28の合焦度合いが最も高い。
このような複数の合焦位置が存在する画像から注目領域を決定するための手法として、最合焦位置を含む領域を注目領域に決定する手法や、複数の合焦位置を考慮して例えば複数の合焦位置の重心位置を含む領域を注目領域に決定する手法などが挙げられる。
しかし、用いる手法によって決定される注目領域が異なる場合がある。例えば、図6に示したように合焦位置が1箇所に集中している場合には、各手法によって決定される注目領域に大差は無い。一方、図7に示したように合焦位置が分散している場合には、各手法で異なる注目領域が決定される。このように注目領域が異なると、ミニチュア処理により最終的に得られる画像も異なるので、注目領域が適切でない場合、ユーザが期待した結果を得ることが困難である。
そこで、上記事情を一着眼点にして本実施形態による画像処理装置20を創作するに至った。本実施形態による画像処理装置20は、画像中の注目領域を撮影情報に基づいて適切に決定することが可能である。以下、このような本実施形態による画像処理装置20について詳細に説明する。
<2.画像処理装置の構成>
図8は、本実施形態による画像処理装置20の構成を示した説明図である。図8に示したように、本実施形態による画像処理装置20は、記憶部216と、注目領域決定部220と、ぼかし処理部230と、を備える。
記憶部216は、撮影装置10から供給された画像および撮影情報からなる画像ファイルを記憶する。なお、記憶部216は、不揮発性メモリ、磁気ディスク、光ディスク、およびMO(Magneto Optical)ディスクなどの記憶媒体であってもよい。
注目領域決定部220は、記憶部216に記憶されている画像について、当該画像の撮影情報に基づいて注目領域を決定するための手法を選択し、選択した手法によって当該画像の注目領域を決定する。注目領域を決定するための手法としては、最合焦位置を含む領域を注目領域に決定する手法や、複数の合焦位置を考慮して例えば複数の合焦位置の重心位置を含む領域を注目領域に決定する手法が挙げられる。
ここで、被写界深度が浅いと被写体の焦点が合い難いので、被写界深度の浅い画像において最も合焦度合いの高い最合焦位置は、ユーザが意図した被写体である可能性が高い。一方、被写界深度が深いと多くの被写体に焦点が合うので、被写界深度の深い画像の最合焦位置は、ユーザが意図した唯一の被写体ではない場合がある。このため、詳細については「3.画像処理装置の動作」で説明するように、注目領域決定部220は、画像撮影時の被写界深度に基づいて注目領域を決定するための手法を選択する。
なお、図3〜図5などにおいては注目領域が画像の水平方向に沿う領域である例を説明したが、注目領域の形態はかかる例に限定されない。例えば、注目領域は、画像の垂直方向に沿う領域であってもよいし、円形領域であってもよいし、水平方向および垂直方向の一部を構成する矩形領域であってもよい。
ぼかし処理部230は、注目領域決定部220により決定された注目領域の周辺領域に対してぼかし処理を施す画像処理部である。例えば、ぼかし処理部230は、注目領域からの距離に応じて異なるローパスフィルタを用いることにより、注目領域から離れた領域にはより強いぼかし処理を施してもよい。
<3.画像処理装置の動作>
以上、本実施形態による画像処理装置20の構成を説明した。続いて、本実施形態による画像処理装置20の動作例を説明する。
(第1の動作例)
図9は、画像処理装置20の第1の動作例を示したフローチャートである。図9に示したように、まず、画像処理装置20の注目領域決定部220は、処理対象の画像および当該画像の撮影情報を取得する(S308)。
そして、注目領域決定部220は、撮影情報に含まれるフォーカス情報に基づき、画像中に複数の合焦位置が存在するか否かを判断する(S308)。ここで、画像中に複数の合焦位置が存在しない場合、注目領域決定部220は、画像中の最合焦位置を含む領域を注目領域に決定する(S316)。なお、画像中に複数の合焦位置が存在するか否かの判断は、フォーカス情報が無い場合であっても、画像を解析することにより行うことが可能である。同様に、最合焦位置および合焦位置を画像解析により検出することも可能である。
一方、画像中に複数の合焦位置が存在する場合、注目領域決定部220は、撮影情報に含まれる焦点距離情報の示す焦点距離に基づいて注目領域の決定手法を選択する(S312)。
具体的には、焦点距離が長いほど被写界深度が浅く、焦点距離が短いほど被写界深度が深いので、注目領域決定部220は、焦点距離が閾値以上である場合には最合焦位置を含む領域を注目領域に決定する(S316)。
また、注目領域決定部220は、焦点距離が閾値未満である場合には、複数の合焦位置を考慮して注目領域を決定する(S320)。一例として、注目領域決定部220は、焦点距離が閾値未満である場合、画一的に、複数の合焦位置の例えば重心位置を含む領域を注目領域に決定してもよい。また、注目領域決定部220は、焦点距離が閾値未満である場合、図10を参照して説明するように、複数の合焦位置の分散を考慮して注目領域を決定してもよい。
図10は、複数の合焦位置の分散を考慮した注目領域の決定手法を示したフローチャートである。図10に示したように、注目領域決定部220は、まず、複数の合焦位置の分散度を算出する(S322)。分散度の算出方法については後述する。
そして、注目領域決定部220は、分散度が閾値以上である場合(S324)、最合焦位置を含む領域を注目領域に決定する(S326)。一方、注目領域決定部220は、分散度が閾値未満である場合(S324)、複数の合焦位置に基づいて例えば複数の合焦位置の重心位置を含む領域を注目領域に決定する(S328)。
これにより、例えば図6および図7に示した画像の焦点距離が閾値未満である場合、合焦位置の分散度が閾値未満である図6に示した画像については、複数の合焦位置の例えば重心位置を含む領域が注目領域に決定される。一方、合焦位置の分散度が閾値以上である図7に示した画像については、最合焦位置P28を含む領域が注目領域に決定される。
上記のようにしてS316またはS320で注目領域が決定されると、ぼかし処理部230は、図9に示したように、注目領域の周辺領域に対してぼかし処理を施す(S330)。
以上説明したように、画像処理装置20の第1の動作例によれば、画像撮影時の焦点距離に応じて注目領域を適切に決定することが可能となる。また、画像処理装置20の第1の動作例によれば、複数の合焦位置が存在する場合に複数の合焦位置の分散度を算出することにより、注目領域をより適切に決定することが可能である。
(補足)
ここで、図11および図12を参照し、注目領域決定部220がS322において合焦位置の分散度を算出するための方法を補足する。
−第1の算出方法
注目領域決定部220は、まず、下記数式(1)に従い、水平方向(X方向)で最も離れている合焦位置の距離ΔXを算出し、下記数式(2)に従い、垂直方向(Y方向)に最も離れている合焦位置の距離ΔYを算出する。
ΔX=Xmax−Xmin (数式1)
ΔY=Ymax−Ymin (数式2)
なお、図11に示したように、フォーカスポイントP10、P12、P27およびP30が合焦位置である場合、数式1で表現されるΔXは、フォーカスポイントP30とP27の水平方向の距離に該当する。また、下記数式2で表現されるΔYは、P10およびP12とP30との垂直方向の距離に該当する。
そして、注目領域決定部220は、距離ΔXおよび距離ΔYを用いて、下記数式3に従って分散度を算出する。
分散度=ΔX・ΔY
(数式3)
上記数式3により得られる分散度の大きさにより、画像における複数の合焦位置の散らばり具合を評価することができる。なお、上記数式3においては距離ΔXと距離ΔYを乗算する例を示しているが、分散度の算出するための演算はかかる例に限定されず、例えば、距離ΔXと距離ΔYを加算してもよい。かかる構成により、距離ΔXまたは距離ΔYが「0」であった場合に分散度が「0」として算出されてしまう場合を回避できる。
−第2の算出方法
また、上記の第1の算出方法では、水平方向上および垂直方向上での合焦位置の分散度を算出する方法を説明したが、注目領域決定部220は、水平方向上または垂直方向上のいずれかの合焦位置の分散度のみを算出してもよい。
例えば、図3〜図5に示したように注目領域が水平方向に沿う領域である場合、同一の垂直方向位置で合焦位置が水平方向上に分散していても、最合焦位置を含む注目領域、および、複数の合焦位置の重心位置を含む注目領域は一致する。このため、注目領域が水平方向に沿う領域である場合、水平方向上での合焦位置の分散度を算出する意義は薄いと考えられる。
そこで、注目領域決定部220は、注目領域が沿う方向(例えば、水平方向)と交差する方向(例えば、垂直方向)での合焦位置の分散度のみを算出してもよい。かかる構成により、画像処理装置20の処理を簡略化することが可能である。
−第3の算出方法
また、注目領域決定部220は、複数の合焦位置を含むエリアの面積を分散度として算出してもよい。例えば、図11に示したように、フォーカスポイントP10、P12、P27およびP30が合焦位置である場合、注目領域決定部220は、フォーカスポイントP10、P12、P27およびP30を含むエリアの面積を分散度として算出してもよい。
(3−2.第2の動作例)
図13は、画像処理装置20の第2の動作例を示したフローチャートである。図13に示したように、まず、画像処理装置20の注目領域決定部220は、処理対象の画像および当該画像の撮影情報を取得する(S308)。
そして、注目領域決定部220は、撮影情報に含まれるフォーカス情報に基づき、画像中に複数の合焦位置が存在するか否かを判断する(S308)。ここで、画像中に複数の合焦位置が存在しない場合、注目領域決定部220は、画像中の最合焦位置を含む領域を注目領域に決定する(S316)。
一方、画像中に複数の合焦位置が存在する場合、注目領域決定部220は、撮影情報に含まれるフォーカス情報から得られる最合焦位置の被写体距離が閾値未満であるか否かに基づき、注目領域の決定手法を選択する(S334)。
具体的には、被写体距離が近いほど被写界深度が浅く、被写体距離が遠いほど被写界深度が深いので、注目領域決定部220は、最合焦位置の被写体距離が閾値未満である場合には最合焦位置を含む領域を注目領域に決定する(S316)。一方、注目領域決定部220は、最合焦位置の被写体距離が閾値以上である場合、複数の合焦位置を考慮して注目領域を決定する(S320)。例えば、注目領域決定部220は、第1の動作例で説明したように、複数の合焦位置の例えば重心位置を含む領域を注目領域に決定してもよいし、複数の合焦位置の分散を考慮して注目領域を決定してもよい。
<4.ハードウェア構成>
以上説明した画像処理装置20による画像処理は、以下に図14を参照して説明する画像処理装置20が有するハードウェアと協働して実現される。
図14は、画像処理装置20のハードウェア構成を示したブロック図である。画像処理装置20は、CPU(Central Processing Unit)201と、ROM(Read Only Memory)202と、RAM(Random Access Memory)203と、ホストバス204と、を備える。また、画像処理装置20は、ブリッジ205と、外部バス206と、インタフェース207と、入力装置208と、出力装置210と、ストレージ装置(HDD)211と、ドライブ212と、通信装置215とを備える。
CPU201は、演算処理装置および制御装置として機能し、各種プログラムに従って画像処理装置20内の動作全般を制御する。また、CPU201は、マイクロプロセッサであってもよい。ROM202は、CPU201が使用するプログラムや演算パラメータ等を記憶する。RAM203は、CPU201の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバスなどから構成されるホストバス204により相互に接続されている。
ホストバス204は、ブリッジ205を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス206に接続されている。なお、必ずしもホストバス204、ブリッジ205および外部バス206を分離構成する必要はなく、一のバスにこれらの機能を実装してもよい。
入力装置208は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチおよびレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU201に出力する入力制御回路などから構成されている。画像処理装置20のユーザは、該入力装置208を操作することにより、画像処理装置20に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置210は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Diode)装置およびランプなどの表示装置を含む。さらに、出力装置210は、スピーカおよびヘッドホンなどの音声出力装置を含む。出力装置210は、例えば、再生されたコンテンツを出力する。具体的には、表示装置は再生された映像データ等の各種情報をテキストまたはイメージで表示する。一方、音声出力装置は、再生された音声データ等を音声に変換して出力する。
ストレージ装置211は、本実施形態にかかる画像処理装置20の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置211は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。ストレージ装置211は、例えば、HDD(Hard Disk Drive)で構成される。このストレージ装置211は、ハードディスクを駆動し、CPU201が実行するプログラムや各種データを格納する。
ドライブ212は、記憶媒体用リーダライタであり、画像処理装置20に内蔵、あるいは外付けされる。ドライブ212は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体24に記録されている情報を読み出して、RAM203に出力する。また、ドライブ212は、リムーバブル記憶媒体24に情報を書き込むこともできる。
通信装置215は、例えば、通信網12に接続するための通信デバイス等で構成された通信インタフェースである。また、通信装置215は、無線LAN(Local Area Network)対応通信装置であっても、LTE(Long Term Evolution)対応通信装置であっても、有線による通信を行うワイヤー通信装置であってもよい。
<5.むすび>
以上説明したように、本実施形態の画像処理装置20によれば、撮影情報のうちの被写界深度に関する情報に基づき注目領域の決定することができるので、画像に適したミニチュア効果を得ることが可能である。また、本実施形態の画像処理装置20によれば、複数の合焦位置が存在する場合に複数の合焦位置の分散度を算出することにより、注目領域をより適切に決定することが可能となる。
なお、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、本明細書の画像処理装置20の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、画像処理装置20の処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、画像処理装置20に内蔵されるCPU201、ROM202およびRAM203などのハードウェアを、上述した画像処理装置20の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
また、以下のような構成も本開示の技術的範囲に属する。
(1)
複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定する注目領域決定部と、
前記注目領域に含まれない周辺領域に対してぼかし処理を施す画像処理部と、
を備える、画像処理装置。
(2)
前記注目領域決定部は、前記撮影情報に基づき、前記入力画像の撮影時の被写界深度に応じた手法に従って前記注目領域を決定する、前記(1)に記載の画像処理装置。
(3)
前記撮影情報は、前記入力画像中の各位置の合焦状態を示す合焦情報を含み、
前記注目領域決定部は、前記入力画像中に複数の合焦位置が存在しない場合、最合焦位置を含む領域を前記注目領域に決定し、前記入力画像中に複数の合焦位置が存在する場合、前記撮影情報に含まれる他の前記被写界深度に関する情報に応じた手法で前記注目領域に決定する、前記(2)に記載の画像処理装置。
(4)
前記撮影情報は焦点距離を示す焦点距離情報を含み、
前記注目領域決定部は、前記焦点距離が第1の閾値より高い場合には最合焦位置を含む領域を前記注目領域に決定し、前記焦点距離が前記第1の閾値以下の場合には複数の合焦位置から前記注目領域を決定する、前記(3)に記載の画像処理装置。
(5)
前記注目領域決定部は、前記焦点距離が前記第1の閾値以下の場合、前記複数の合焦位置の分散度を算出し、前記分散度が第2の閾値より高い場合には前記最合焦位置を含む領域を前記注目領域に決定し、前記分散度が前記第2の閾値以下の場合には前記複数の合焦位置から前記注目領域を決定する、前記(4)に記載の画像処理装置。
(6)
前記撮影情報は被写体距離を特定可能な情報を含み、
前記注目領域決定部は、前記被写体距離が前記第3の閾値以下の場合、最合焦位置を含む領域を前記注目領域に決定し、前記被写体距離が前記第3の閾値より高い場合には複数の合焦位置から前記注目領域を決定する、前記(3)に記載の画像処理装置。
(7)
前記注目領域決定部は、前記被写体距離が前記第3の閾値より高い場合、前記複数の合焦位置の分散度を算出し、前記分散度が第2の閾値より高い場合には前記最合焦位置を含む領域を前記注目領域に決定し、前記分散度が前記第2の閾値以下の場合には前記複数の合焦位置から前記注目領域を決定する、前記(6)に記載の画像処理装置。
(8)
前記注目領域は前記入力画像中の第1の方向に沿う領域であり、
前記注目領域決定部は、前記複数の合焦位置の、前記第1の方向と交差する第2の方向上での分散度を算出する、前記(5)または(7)に記載の画像処理装置。
(9)
複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定することと、
前記注目領域に含まれない周辺領域に対してぼかし処理を施すことと、
を含む、画像処理方法。
(10)
コンピュータを、
複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定する注目領域決定部と、
前記注目領域に含まれない周辺領域に対してぼかし処理を施す画像処理部と、
として機能させるための、プログラム。
10 撮影装置
20 画像処理装置
216 記憶部
220 注目領域決定部
230 ぼかし処理部

Claims (7)

  1. 複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定する注目領域決定部と、
    前記注目領域に含まれない周辺領域に対してぼかし処理を施す画像処理部と、
    を備え、
    前記撮影情報は、前記入力画像中の各位置の合焦状態を示す合焦情報および焦点距離を示す焦点距離情報を含み、
    前記注目領域決定部は、前記入力画像中に複数の合焦位置が存在しない場合、最合焦位置を含む領域を前記注目領域に決定し、前記入力画像中に複数の合焦位置が存在する場合には前記撮影情報に含まれる焦点距離と第1の閾値とを比較し、前記焦点距離が前記第1の閾値より高い場合には最合焦位置を含む領域を前記注目領域に決定する一方で、前記焦点距離が前記第1の閾値以下の場合には複数の合焦位置から前記注目領域を決定する、画像処理装置。
  2. 前記注目領域決定部は、前記焦点距離が前記第1の閾値以下の場合、前記複数の合焦位置の分散度を算出し、前記分散度が第2の閾値より高い場合には前記最合焦位置を含む領域を前記注目領域に決定し、前記分散度が前記第2の閾値以下の場合には前記複数の合焦位置から前記注目領域を決定する、請求項1に記載の画像処理装置。
  3. 複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定する注目領域決定部と、
    前記注目領域に含まれない周辺領域に対してぼかし処理を施す画像処理部と、
    を備え、
    前記撮影情報は、前記入力画像中の各位置の合焦状態を示す合焦情報および被写体距離を特定可能な情報を含み、
    前記注目領域決定部は、前記入力画像中に複数の合焦位置が存在しない場合、最合焦位置を含む領域を前記注目領域に決定し、前記入力画像中に複数の合焦位置が存在する場合には前記撮影情報により特定される被写体距離と第3の閾値とを比較し、前記被写体距離が前記第3の閾値以下の場合、最合焦位置を含む領域を前記注目領域に決定し、前記被写体距離が前記第3の閾値より高い場合には複数の合焦位置から前記注目領域を決定する、画像処理装置。
  4. 前記注目領域決定部は、前記被写体距離が前記第3の閾値より高い場合、前記複数の合焦位置の分散度を算出し、前記分散度が第2の閾値より高い場合には前記最合焦位置を含む領域を前記注目領域に決定し、前記分散度が前記第2の閾値以下の場合には前記複数の合焦位置から前記注目領域を決定する、請求項3に記載の画像処理装置。
  5. 前記注目領域は前記入力画像中の第1の方向に沿う領域であり、
    前記注目領域決定部は、前記複数の合焦位置の、前記第1の方向と交差する第2の方向上での分散度を算出する、請求項2に記載の画像処理装置。
  6. 複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定することと、
    前記注目領域に含まれない周辺領域に対してぼかし処理を施すことと、
    を含み、
    前記撮影情報は、前記入力画像中の各位置の合焦状態を示す合焦情報および焦点距離を示す焦点距離情報を含み、
    前記入力画像中に複数の合焦位置が存在しない場合、最合焦位置を含む領域を前記注目領域に決定し、前記入力画像中に複数の合焦位置が存在する場合には前記撮影情報に含まれる焦点距離と第1の閾値とを比較し、前記焦点距離が前記第1の閾値より高い場合には最合焦位置を含む領域を前記注目領域に決定する一方で、前記焦点距離が前記第1の閾値以下の場合には複数の合焦位置から前記注目領域を決定することを含む、画像処理方法。
  7. コンピュータを、
    複数の手法のうちで、入力画像の撮影に際して得られた撮影情報に応じた手法に従って前記入力画像における注目領域を決定する注目領域決定部と、
    前記注目領域に含まれない周辺領域に対してぼかし処理を施す画像処理部と、
    を備え、
    前記撮影情報は、前記入力画像中の各位置の合焦状態を示す合焦情報および焦点距離を示す焦点距離情報を含み、
    前記注目領域決定部は、前記入力画像中に複数の合焦位置が存在しない場合、最合焦位置を含む領域を前記注目領域に決定し、前記入力画像中に複数の合焦位置が存在する場合には前記撮影情報に含まれる焦点距離と第1の閾値とを比較し、前記焦点距離が前記第1の閾値より高い場合には最合焦位置を含む領域を前記注目領域に決定する一方で、前記焦点距離が前記第1の閾値以下の場合には複数の合焦位置から前記注目領域を決定する、画像処理装置として機能させるための、プログラム。
JP2011201501A 2011-09-15 2011-09-15 画像処理装置、画像処理方法およびプログラム Active JP5857567B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2011201501A JP5857567B2 (ja) 2011-09-15 2011-09-15 画像処理装置、画像処理方法およびプログラム
US13/589,673 US8958655B2 (en) 2011-09-15 2012-08-20 Image processor, image processing method, and computer readable medium
EP12006258.3A EP2571251B1 (en) 2011-09-15 2012-09-04 Image processor, image processing method, and computer readable medium
CN201210328749.XA CN103002212B (zh) 2011-09-15 2012-09-07 图像处理器、图像处理方法和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011201501A JP5857567B2 (ja) 2011-09-15 2011-09-15 画像処理装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2013062761A JP2013062761A (ja) 2013-04-04
JP5857567B2 true JP5857567B2 (ja) 2016-02-10

Family

ID=47115120

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011201501A Active JP5857567B2 (ja) 2011-09-15 2011-09-15 画像処理装置、画像処理方法およびプログラム

Country Status (4)

Country Link
US (1) US8958655B2 (ja)
EP (1) EP2571251B1 (ja)
JP (1) JP5857567B2 (ja)
CN (1) CN103002212B (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6172935B2 (ja) * 2012-12-27 2017-08-02 キヤノン株式会社 画像処理装置、画像処理方法及び画像処理プログラム
CN103945210B (zh) * 2014-05-09 2015-08-05 长江水利委员会长江科学院 一种实现浅景深效果的多摄像头拍摄方法
JP5927265B2 (ja) * 2014-10-28 2016-06-01 シャープ株式会社 画像処理装置及びプログラム
US20170094019A1 (en) * 2015-09-26 2017-03-30 Microsoft Technology Licensing, Llc Providing Access to Non-Obscured Content Items based on Triggering Events
CN105227838B (zh) * 2015-09-28 2018-07-06 广东欧珀移动通信有限公司 一种图像处理方法及移动终端
KR102372711B1 (ko) 2015-10-13 2022-03-17 삼성전자주식회사 영상 촬영 장치 및 이의 제어 방법
CN111656776B (zh) * 2018-01-30 2022-08-09 索尼公司 图像处理器、图像处理方法和计算机可读记录介质
CN109919867A (zh) * 2019-02-21 2019-06-21 成都品果科技有限公司 一种滤镜方法及装置

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6940820B2 (en) * 2001-01-19 2005-09-06 General Instrument Corporation Voice-aided diagnostic for voice over internet protocol (VOIP) based device
US6801642B2 (en) * 2002-06-26 2004-10-05 Motorola, Inc. Method and apparatus for limiting storage or transmission of visual information
KR100977713B1 (ko) * 2003-03-15 2010-08-24 삼성전자주식회사 영상신호의 글자 인식을 위한 전처리 장치 및 방법
JP4329694B2 (ja) * 2005-01-07 2009-09-09 株式会社ニコン 撮像装置
CN101297545B (zh) * 2005-10-28 2012-05-02 株式会社尼康 摄影装置、图像处理装置
JP4645413B2 (ja) * 2005-11-01 2011-03-09 株式会社ニコン 撮像装置
US8407093B2 (en) * 2005-12-28 2013-03-26 Brian R. Cartmell Advertising technique
JP4923587B2 (ja) * 2006-01-25 2012-04-25 株式会社ニコン 焦点検出装置、方法およびカメラ
JP4935302B2 (ja) 2006-11-02 2012-05-23 株式会社ニコン 電子カメラおよびプログラム
US7928983B2 (en) * 2007-06-04 2011-04-19 Daedal Doodle, LLC Interactive labyrinth curve generation and applications thereof
JP2009027298A (ja) * 2007-07-18 2009-02-05 Ricoh Co Ltd 撮像装置および撮像装置の制御方法
JP2009054130A (ja) * 2007-07-27 2009-03-12 Ricoh Co Ltd 画像処理装置、画像処理方法およびデジタルスチルカメラ
JP4866317B2 (ja) * 2007-08-23 2012-02-01 株式会社リコー 撮像装置及び撮像装置の制御方法
JP2009110137A (ja) * 2007-10-29 2009-05-21 Ricoh Co Ltd 画像処理装置、画像処理方法及び画像処理プログラム
JP4813446B2 (ja) * 2007-11-16 2011-11-09 富士フイルム株式会社 撮像システム、この撮像システムを備えた撮像装置、携帯端末機器、車載機器、および医療機器、並びに撮像システムの製造方法
KR101510098B1 (ko) * 2007-12-21 2015-04-08 삼성전자주식회사 디지털 영상 처리 장치에서 영상의 배경흐림 효과 처리장치 및 방법
JP5300133B2 (ja) * 2008-12-18 2013-09-25 株式会社ザクティ 画像表示装置及び撮像装置
TWI493500B (zh) * 2009-06-18 2015-07-21 Mstar Semiconductor Inc 使二維影像呈現出三維效果之影像處理方法及相關影像處理裝置
JP5173954B2 (ja) * 2009-07-13 2013-04-03 キヤノン株式会社 画像処理装置及び画像処理方法
JP5493789B2 (ja) * 2009-12-07 2014-05-14 株式会社リコー 撮像装置および撮像方法
US8655093B2 (en) * 2010-09-02 2014-02-18 Edge 3 Technologies, Inc. Method and apparatus for performing segmentation of an image

Also Published As

Publication number Publication date
EP2571251B1 (en) 2021-12-22
US8958655B2 (en) 2015-02-17
JP2013062761A (ja) 2013-04-04
EP2571251A3 (en) 2017-01-04
CN103002212B (zh) 2018-06-19
EP2571251A2 (en) 2013-03-20
CN103002212A (zh) 2013-03-27
US20130071042A1 (en) 2013-03-21

Similar Documents

Publication Publication Date Title
JP5857567B2 (ja) 画像処理装置、画像処理方法およびプログラム
US10540805B2 (en) Control of display of composite image based on depth information
JP6746607B2 (ja) パンニングショットの自動生成
JP5847924B2 (ja) 拡張現実表現のための二次元画像取込み
US10419661B2 (en) Shooting method and shooting device
US8582891B2 (en) Method and apparatus for guiding user with suitable composition, and digital photographing apparatus
US8400532B2 (en) Digital image capturing device providing photographing composition and method thereof
JP2011028689A (ja) 動画抽出装置、プログラム、および動画抽出方法
JP2015056143A (ja) 情報処理装置および情報処理方法
KR20160016068A (ko) 이미지 생성 방법 및 그 전자 장치
KR20120068078A (ko) 영상 처리 장치 및 그의 영상 데이터와 오디오 데이터의 연결 방법
KR20140090078A (ko) 이미지 처리 방법 및 그 방법을 처리하는 전자 장치
CN104935810A (zh) 引导拍摄方法及装置
CN108156378A (zh) 拍照方法、移动终端及计算机可读存储介质
JP2006040232A (ja) 画像処理装置及びその方法、撮像装置、プログラム
KR20090111913A (ko) 모션 검출 방법 및 장치
US9047795B2 (en) Methods and devices for providing a wallpaper viewfinder
US20150062436A1 (en) Method for video recording and electronic device thereof
JP5764982B2 (ja) 再生処理装置、撮像装置、再生処理方法、及びプログラム
JP2013058861A (ja) 画像処理装置、画像処理装置の制御方法およびプログラム
JP2010157854A (ja) 情報処理装置、情報処理方法およびプログラム
CN108198195A (zh) 一种对焦的方法、终端及计算机可读存储介质
JP2008061163A (ja) 撮像装置および撮像方法
JP2019175107A (ja) 認識装置、認識方法、プログラムおよびデータ生成装置
JP2012233954A (ja) 電子機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150616

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151130

R151 Written notification of patent or utility model registration

Ref document number: 5857567

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250