JP5930245B1 - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP5930245B1
JP5930245B1 JP2015010793A JP2015010793A JP5930245B1 JP 5930245 B1 JP5930245 B1 JP 5930245B1 JP 2015010793 A JP2015010793 A JP 2015010793A JP 2015010793 A JP2015010793 A JP 2015010793A JP 5930245 B1 JP5930245 B1 JP 5930245B1
Authority
JP
Japan
Prior art keywords
image
mask information
image processing
subject
size
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015010793A
Other languages
English (en)
Other versions
JP2016136291A (ja
Inventor
武志 佐藤
武志 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2015010793A priority Critical patent/JP5930245B1/ja
Priority to KR1020150180270A priority patent/KR102400283B1/ko
Priority to CN201510953987.3A priority patent/CN105827947B/zh
Priority to US14/974,375 priority patent/US9900523B2/en
Application granted granted Critical
Publication of JP5930245B1 publication Critical patent/JP5930245B1/ja
Publication of JP2016136291A publication Critical patent/JP2016136291A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2622Signal amplitude transition in the zone between image portions, e.g. soft edges
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

【課題】画像処理に際して主たる被写体が写された画像への処理強度を適切に制御する。【解決手段】撮影により取得された元画像G1おける注目すべき被写体(人物の顔等)の位置及びサイズを取得する。取得した位置及びサイズに基づき、元画像G1における所定の画像処理を施す位置及びその強度との関係を示すマスク情報M3を生成する。生成したマスク情報M3を使用し、元画像G1における各位置に対して異なる強度の所定の画像処理が施された新たな画像G3を生成する。新たな画像G3の生成に際しては、例えば元画像G1、又は元画像G1に所定の画像処理を行った処理画像G2の一方を、マスク情報M3により示される画素毎の透過率を用いて他方に透過合成する。【選択図】図4

Description

本発明は、例えばデジタルカメラに用いて好適な画像処理装置、画像処理方法に関するものである。
従来、デジタルカメラ等において行われる画像処理の1種として、元画像に、専用のレンズの色収差・球面収差等のために生ずるものと同様のボケを付加してやわらかい雰囲気を醸し出すソフトフォーカス処理が知られている。係るソフトフォーカス処理に関する技術として、例えば下記特許文献1には、元画像の内容によらず画一的にならないように、元画像から人物の顔を検出し、その大きさに応じて処理強度を制御する技術が開示されている。
特開2000−69277号公報
しかしながら、上記のように人物の顔の大きさに応じて処理強度を制御したとしても、人物の顔と他の部分を適切な処理強度でぼかすことができない。人物以外の被写体やソフトフォーカス以外の画像処理についても同様であり、主たる被写体と他の部分に対する画像処理の処理強度を適切に制御することができないという問題があった。
本発明は、かかる従来の課題に鑑みてなされたものであり、画像処理に際して主たる被写体が写された画像への処理強度を適切に制御することができる画像処理装置、画像処理方法及びプログラムを提供することを目的とする。
前記課題を解決するため、本発明の画像処理装置にあっては、撮影により取得された元画像における注目すべき被写体の位置及びサイズを取得する取得手段と、前記取得手段により取得された前記注目すべき被写体の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成手段と、前記マスク情報生成手段により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成手段と、を備え、前記マスク情報生成手段は、予め用意されている基本となるマスク情報を、前記注目すべき被写体の位置及びサイズに基づき加工することで、画像処理を施すためのマスク情報を生成する、ことを特徴とする。
本発明によれば、画像処理に際して主たる被写体が写された画像への処理強度を適切に制御することが可能となる。
本発明の各実施形態に共通するデジタルカメラのブロック図である。 第1の実施形態における撮影処理を示すフローチャートである。 (a)は第1のマスク画像、(b)は第2のマスク画像を示す図である。 第1の実施形態における撮影処理で生成される画像の例を示す図である。 第3のマスク画像の生成方法を示す図である。 第2のマスク画像の他の形態を示す図である。 第2の実施形態における撮影処理を示すフローチャートである。
以下、本発明の実施形態について説明する。
(実施形態1)
先ず、本発明の第1の実施形態について説明する。図1は、本実施形態、及び後述する第2の実施形態に係る画像処理装置の一形態としてのデジタルカメラ1の電気的構成を示すブロック図である。
図1に示したように、デジタルカメラ1は、制御部2と、レンズ部3、撮像部4、表示部5、画像記憶部6、プログラム記憶部7、顔検出部8、操作部9、電源部10の各部を備えている。
制御部2は、CPU(Central Processing Unit)、及びその周辺回路等や、RAM(Random Access memory)等の作業用の内部メモリ、画像処理回路を含み、デジタルカメラ1の各部を制御するとともに、後述する種々の画像処理も行う。
レンズ部3は、フォーカス調整用、及びズーム用のレンズを含むレンズ群、及びレンズ群を駆動するモータと、絞り、及び絞りを開閉駆動して開度を調整するアクチュエータ等から構成される。
撮像部4は、CCD(Charge Coupled Device)やCMOS(Complementary Meta1 0xide Semiconductor)型の撮像素子と、撮像素子から出力された撮像信号に対して所定のアナログ処理を行った後、デジタル信号に変換するAFE(Analog Front End)とから構成される。撮像部4は、デジタルカメラ1に撮影モードが設定されている間、レンズ部3のレンズ群を介して被写体を所定のフレームレートで逐次撮像し、被写体の画像データ(撮像データ)を制御部2へ供給する。
制御部2へ供給された画像データは表示部5へ供給され、表示部5においてライブビュー画像として表示される。
後述する操作部9による撮影実行指示を契機として実行される撮影時に撮像部4から制御部2へ供給された画像データは、ガンマ補正やホワイトバランス調整、画素毎のR,G,Bの色成分データの生成、YUV変換等からなる現像処理が施された後、JPEG(Joint Photographic Expert Group)方式により圧縮される。圧縮後の画像データは、種々の属性情報が付加され、Exif(Exchangeable Image File Format)規格に準拠した静止画ファイルとして画像記憶部6に記憶される。
画像記憶部6は、例えばデジタルカメラ1に内蔵されたフラッシュメモリや、デジタルカメラ1に着脱自在な各種のメモリカード、及びメモリカードへのデータの入出力を可能とするカードインターフェイスにより構成される。
画像記憶部6に静止画ファイルとして記憶された画像データは、デジタルカメラ1に再生モードが設定されている間、必要に応じて制御部2により読み出されて伸張された後、表示部5へ供給されて画面表示される。
表示部5は、カラー液晶表示パネルと、制御部2から供給される画像データ等に応じてカラー液晶表示パネルを駆動する表示駆動回路とから構成される。表示部5は、前述したように撮影モードにおいては被写体画像をライブビュー表示し、再生モードにおいては画像記憶部6に静止画ファイルとして記憶されている画像データからなる既存の撮影画像を表示する。
プログラム記憶部7は、例えばROM(Read Only Memory)や、フラッシュメモリ等の記憶データが随時書き換え可能な不揮発性メモリにより構成される。プログラム記憶部7には、制御部2に後述する処理を行わせるためのプログラムが予め記憶されている。
また、プログラム記憶部7には、制御部2にAE(Auto Exposure)制御、AF(Auto Focus)制御や、AWB(Auto White Balance)制御等を行わせるためのプログラム、及びAE制御に際して使用されるシャッター速度、ISO感度、絞り値の組み合わせを示すプログラム線図を構成するデータ等の各種データも格納されている。なお、制御部2によるAF制御は、撮像部4の撮像素子をAFセンサとして使用する所謂コントラスト検出方式による制御である。
さらに、プログラム記憶部7には、制御部2に後述する撮影処理を行わせるプログラム、及びその際に使用されるマスクデータ101が記憶されている。マスクデータ101は、図3(a)に示した第1のマスク画像M1を表す画像データであり、グレースケール画像のデータである。
また、第1のマスク画像M1は、図3(b)に示した第2のマスク画像M2を周方向に4分割したものに相当する画像であり、第2のマスク画像M2は、黒一色の背景に、各画素の輝度が中心を最大として周辺に向かい徐々に低下する楕円形のグラデーション領域を有する画像である。
ここで、本実施形態においては、この第2のマスク画像M2が後述する第3のマスク画像M3の生成に用いられる本発明の基本情報に相当し、上記グラデーション領域の形状(楕円形)が本発明における所定の画像処理を施す処理領域の基本形状である。また、上記グラデーション領域の各画素の輝度の変化が、本発明における前記所定の画像処理の強度の変化であり、具体的には処理強度が中心側から周辺側に向かい徐々に増大することを示す内容である。
顔検出部8は、撮像部4において撮像された画像から任意の人物の顔部分を検出する顔検出処理を行うための画像処理回路と、顔検出処理に使用する各種のデータが記憶されたメモリや作業用の記憶メモリ等から構成され、上記顔部分に該当する領域を示す領域情報を制御部2へ供給する。
顔検出部8における顔検出処理は、二値化や輪郭抽出、パターンマッチング等の画像認識技術を用いて所定の位置関係にある目、鼻、口を探索し、それらが存在する矩形領域(以下、顔領域という)を特定し、その領域を顔部分として検出する公知の汎用的な処理である。
操作部9は、電源ボタンや、シャッターボタン、撮影モードと再生モードとの切り替えに使用されるモードの切換スイッチ、ズームレバー、各種機能の選択や設定に使用されるコントロールボタン等の複数の操作スイッチから構成される。操作部9における操作スイッチの操作状態は制御部2において随時監視される。
電源部10は、充電池、およびDC/DCコンバータなどで構成され、デジタルカメラ1の各部へ、各々の動作に必要な電力を供給する。
一方、本実施形態のデジタルカメラ1には、撮影モードで使用可能な機能としてソフトフォーカス機能が設けられている。ソフトフォーカス機能は、撮像時に得られた画像に従来と同様のソフトフォーカス処理を含む所定の処理を自動的に行い、処理後の画像を最終的な撮影画像として記録する機能である。
そして、デジタルカメラ1においては、ユーザーによりソフトフォーカス機能の使用が設定されているときの撮影モードにおいては、制御部2が、プログラム記憶部7に記憶されているプログラムに従い図2のフローチャートに示した撮影処理を実行する。
すなわち制御部2は、撮影モードの設定とともに撮像部4による被写体画像の取り込み、表示部5におけるライブビュー表示を開始して撮影待機状態となり、図2に示したように、ユーザーによって撮影実行が指示されるまでは(ステップSA1:NO)、その撮影待機状態を継続する。なお、図示しないが、係る撮影待機状態において制御部2はAF制御を行う。
その後、ユーザーによって撮影実行が指示されると(ステップSA1:YES)、制御部2は、撮像部4によって得られた撮像画像のデータに画像の記録に向けた標準の現像処理を施して標準現像画像を生成する(ステップSA2)。
引き続き、制御部2は、生成した標準現像画像にソフトフォーカス処理を施し、ソフトフォーカス画像、すなわち専用のレンズの色収差・球面収差等のために生ずるものと同様のボケを付加した処理画像を生成する(ステップSA3)。上記ソフトフォーカス処理は1又は複数段階の処理からなる公知の画像処理技術を用いた処理である。
次に、制御部2は、顔検出部8により標準現像画像を処理対象とした顔検出処理を行わせる(ステップSA4)。
ここで、顔検出部8により標準現像画像から任意の人物の顔が検出できなければ(ステップSA5:NO)、制御部2は、前述したソフトフォーカス画像を撮影画像として、つまりソフトフォーカス画像を最終的な記録画像として圧縮処理、属性情報の付加を行った後、静止画ファイルとして画像記憶部6に保存し(ステップSA6)、撮影処理を終了する。
これに対し、上記の標準現像画像において任意の人物の顔が検出された場合(ステップSA5:YES)、例えばステップSA2の処理で図4に示した標準現像画像G1が生成され、ステップSA3の処理で図4に示したソフトフォーカス画像G2が生成されていた場合、制御部2はステップSA7以降の処理を実行する。
ここでは、ステップSA7以降の具体的な処理内容に先立ち、その概略を説明する。すなわち制御部2は、既説した図3(a)の第1のマスク画像M1を用いて同図(b)の第2のマスク画像M2を生成し、係る第2のマスク画像M2を用いて図4に示した第3のマスク画像M3を生成する。なお、第3のマスク画像M3は、第1のマスク画像M1と同様にグレースケール画像であるとともに、標準現像画像G1と同一の画像サイズ(画素数)を有する画像である。
しかる後、制御部2は、標準現像画像G1の各画素に、第3のマスク画像M3の各画素の輝度に応じた透過率、つまり背景となる画像に標準現像画像G1を重ねたとき背景側の画像が透過して見える度合を設定し、ソフトフォーカス画像G2を背景として標準現像画像G1を合成することにより、図4に示した合成画像G3を生成する。すなわち背景となるソフトフォーカス画像G2に公知のαブレンドによって標準現像画像G1を合成し、合成画像G3を生成する。なお、図4において合成画像G3に破線で示した楕円Xは、前述した第3のマスク画像M3におけるグラデーション領域に対応する領域(後述する効果低減領域)を便宜的に示したものである。
以下、ステップSA7以降の処理を具体的に説明する。まず、制御部2は、標準現像画像G1において、顔検出部8により検出された顔領域の画像における中心位置と大きさとを取得する(ステップSA7)。図5(a)は、標準現像画像G1と顔領域W、及びその中心Oを示した図である。ステップSA7の処理に際して制御部2は、顔領域Wの大きさとして、顔領域Wの縦サイズAを取得し、顔領域Wの中心Oの位置として画像内の座標位置を取得する。
次に、制御部2は、取得データ(大きさAと中心Oの座標位置)に基づいて、図4に示した第3のマスク画像M3を生成する際における第2のマスク画像M2の大きさと中心位置を算出する(ステップSA8)。ここで算出する第2のマスク画像M2の大きさは、後に生成する第3のマスク画像M3において第2のマスク画像M2に相当する部分の縦サイズCであり、また、上記中心位置は、第2のマスク画像M2の中心Pの第3のマスク画像M3における座標位置である。
ステップSA8の処理に際して制御部2は、顔領域Wの縦サイズAに予め決められている所定倍数を乗ずることより上記縦サイズCを算出する。図5(b)に示した例は、上記の所定倍数が2倍とした場合の例である。
また、ステップSA8の処理に際して制御部2は、第2のマスク画像M2の中心Pの第3のマスク画像M3における座標位置として、標準現像画像G1における顔領域Wの中心Oの座標位置を、その縦サイズAの所定割合(n%)分だけ上方へ移動させた座標位置を算出する。例えば顔領域Wの中心の座標位置を(x0,y0)とすれば、y軸方向の移動量BをA×n%とし、第2のマスク画像M2の中心Pの座標位置として(x0,y0−B)を取得する。図5(b)に示した例は、上記の所定割合を40%とした場合の例である。
ここで、前述した所定倍数、及び所定割合は、ステップSA4の顔検出処理で特定された顔領域Wと標準現像画像G1における頭髪部分を除いた実際の人物の顔部分との違いを考慮して決められた値であって、具体的には経験則に基づいて決められた値である。
引き続き、制御部2は、上述した算出データ(第2のマスク画像M2の縦サイズCと、中心Pの座標位置)に基づき、図3(a)に示した第1のマスク画像M1を加工し、画像処理用のマスク画像である図4に示した第3のマスク画像M3を生成する(ステップSA9)。
具体的に説明すると、制御部2は、まず、第1のマスク画像M1を上下及び左右に反転させて、新たな3つのマスク画像を生成し、それらを第1のマスク画像M1に連結することにより図3(b)に示した第2のマスク画像M2を生成する。次に、制御部2は、生成した第2のマスク画像M2を縦サイズが前述した縦サイズCとなるサイズに拡大し、拡大後の第2のマスク画像M2に平滑化処理を施して、各画素の輝度値が滑らかに変化する状態を確保する。
しかる後、制御部2は、平滑化した第2のマスク画像M2を、標準現像画像G1と同一の画素サイズを有するグレースケールの黒一色の画像を背景とし、その中心Pを先に算出した座標位置に配置させた状態で上書き合成することによって第3のマスク画像M3を生成する。その際、拡大及び平滑化した第2のマスク画像M2に上記黒一色の画像からはみ出す余剰部分はトリミングする。
そして、第3のマスク画像M3を生成した後、制御部2は、第3のマスク画像M3を用いて標準現像画像G1をソフトフォーカス画像G2にαブレンドにより合成することによって合成画像G3を生成する(ステップSA10)。
その際、制御部2は、先に述べたように第3のマスク画像M3の各画素の輝度に応じた透過率を標準現像画像G1の各画素に設定する。より具体的には、標準現像画像G1の各画素に第3のマスク画像M3の対応する画素の輝度値に応じた0%〜100%の透過率、すなわち対応する画素の輝度がより高い画素により低い透過率を設定する。つまり第2のマスク画像M2に該当する中心Pの画素に最低透過率(0%:完全な不透明)を設定するとともに、他の画素に前記グラデーション領域の周辺に向かい徐々に増大する透過率を設定し、前記グラデーション領域を除く第3のマスク画像M3の他の領域に最大透過率(100%:完全な透明)を設定する。
なお、標準現像画像G1をソフトフォーカス画像G2にαブレンドする際には、上記の透過率に応じたα値(1〜0)を用いて各画素のRGB値が計算される。
これにより、図4に示したように画像全体にソフトフォーカスによる演出効果を確保しつつ、人物の顔部分におけるソフトフォーカス処理によるボケ効果が他の部分よりも低減し、かつボケ効果の強度が中心側から周辺側に向かい徐々に増大する、言い換えるとボケ効果の低減度合いが周辺に向かって徐々に低下する合成画像G3が得られる。
しかる後、制御部2は、生成した合成画像G3を撮影画像、つまり最終的な記録画像として圧縮処理、属性情報の付加を行った後、静止画ファイルとして画像記憶部6に保存し(ステップSA11)、撮影処理を終了する。
したがって、本実施形態においては、ソフトフォーカス機能を用いた撮影時に主たる被写体、つまり撮影画像において注目すべき被写体が人物である場合には、ソフトフォーカスの処理強度に関係なく人物の顔部分への処理強度、つまりボケ効果を適切に制御することができ、その結果、記録画像として良好な撮影画像を得ることができる。
しかも、記録画像として得られる最終的な撮影画像(合成画像G3)が、ソフトフォーカス処理によるボケ効果の低減度合いが人物の顔部分のほぼ中心から周辺に向かって徐々に低下したものであり、最終的な撮影画像においては、人物の顔部分と他の領域との間にボケ度合の境目が生じないことから、撮影画像により自然な演出効果を確保することができる。
また、汎用的な顔検出処理によって得られる顔領域Wの位置を標準現像画像G1における人物の顔部分の位置とすることにより、その位置取得に要する処理負担が軽く済む。
また、前述した第3のマスク画像M3の生成に際しては、第3のマスク画像M3におけるグラデーション領域の中心Pを、前述したように顔領域Wの中心Oとは異なる位置(本実施形態では上方側)に移動させることから、公知の人物の顔を領域で検出する技術を使用しても、グラデーション領域の位置、つまりソフトフォーカス処理によるボケ効果を低減させる領域(以下、効果低減領域という)の位置を実際の人物の顔部分と整合させることができる。その結果、人物の顔部分の位置取得に要する処理負担を軽減しつつ、最終的な撮影画像として、より良好な撮影画像を得ることができる。
また、第3のマスク画像M3を生成する際には第2のマスク画像M2を顔領域Wの大きさに応じて拡大することから、効果低減領域(グラデーション領域)の大きさを、人物の顔部分を確実に覆う大きさとすることができる。これによっても、最終的な撮影画像として、より良好な撮影画像を得ることができる。
また、主たる被写体が人物以外の対象物、例えば風景等である場合には、従来と同様に、画面全体にソフトフォーカスによる演出効果を確保した撮影画像(ソフトフォーカス画像)を得ることができる。
また、主たる被写体が人物である場合のみ第3のマスク画像M3を生成することから、主たる被写体が人物以外の対象物である場合には、第3のマスク画像M3の生成に要する無駄な処理を削減することができる。
他方、予め記憶されている第1のマスク画像M1に基づいて第3のマスク画像M3を生成する。言い換えると、前述した効果低減領域の基本情報である基本形状、処理効果の低減度合の変化内容が第1のマスク画像M1として予め記憶されていることから、第3のマスク画像M3の生成に要する処理を削減することができる。
また、第1のマスク画像M1が、第2のマスク画像M2を4分割したものに相当する画像であるため、第3のマスク画像M3の基本情報を効率的に記憶しておくことができる。
ここで、本実施形態においては、主として標準現像画像G1に存在する人物の顔が一つである場合を想定した処理について説明したが、標準現像画像G1に複数人の顔が存在する場合には、第3のマスク画像M3の生成に際しては、各々の顔の位置及び大きさに応じた複数の効果低減領域を確保すればよい。また、その場合、複数の効果低減領域が重なる重複領域が生じるときには、その重複領域における処理効果の低減度合を、それが大きい側の効果低減領域の低減度合とすればよい。
また、本実施形態では、第3のマスク画像M3に確保する効果低減領域の位置と大きさを人物の顔の位置と大きさ(顔領域Wの大きさ)に応じて調整したが、さらに効果低減領域の形状を人物の顔の形状に応じて調整するようにしてもよい。具体的には、顔領域Wの縦サイズと横サイズの比率、つまり細めの顔と太めの顔とで効果低減領域(楕円形領域)の扁平率を調整してもよい。その場合は、第3のマスク画像M3により的確な効果低減領域を確保することができる。なお、人物の顔の形状の違いには、その人物の個人差による文字通りの形状(太めや細め)だけでなく、撮影方向の違いに起因するものも含まれる。
また、本実施形態においては、人物の顔の向きと画像の向きとが一致していることを前提としたが、例えば横たわった状態にある人物を撮影したときには、人物の顔が横向きであって上下方向が画像の向きと一致していない場合もある。したがって、本発明の実施に際しては、例えば前述した顔検出処理に際して人物の顔の向き、つまり画像内での回転方向と回転量とを取得し、第3のマスク画像M3の生成に際しては、人物の顔の向きに応じて第2のマスク画像M2を回転させることが望ましい。それによっても第3のマスク画像M3により的確な効果低減領域を確保することが可能となる。
また、前述したように第3のマスク画像M3に確保する効果低減領域の形状や向きを、顔領域Wの縦サイズと横サイズの比率や人物の顔の向きに応じて調整する場合には、第1のマスク画像M1として、効果低減領域の形状や向きが異なるものを予め複数記憶しておき、それらを選択的に使用して第3のマスク画像M3を生成すれば、その生成に要する処理を削減することができる。
また、本実施形態においては、第3のマスク画像M3の生成には図3(b)に示した第2のマスク画像M2を用いたが、これに限らず第3のマスク画像M3の生成には、例えば図6に示したように最大輝度の画素位置Qが楕円形の領域内で偏心したグラデーション領域を有する他のマスク画像M21を用いることもできる。
その場合においても、低減度合の変化を中心側から周辺側に向かい徐々に低下させることにより、本実施形態と同様、最終的な撮影画像には、人物の顔部分と他の領域との間にボケ度合の境目が生じないため、撮影画像により自然な演出効果を確保することができる。
また、その場合には、第3のマスク画像M3の生成に際し、上記画素位置Qが本実施形態で図5(b)に示した第2のマスク画像M2の中心Pの位置となるように配置すれば、効果低減領域を実際の人物の顔部分と整合させることができる。さらに、第1のマスク画像M1を、上記他のマスク画像M21を図で左右に分割した画像とすれば、第3のマスク画像M3の基本情報を効率的に記憶しておくことができる。
また、第3のマスク画像M3に確保する効果低減領域の形状が楕円形である場合について説明したが、効果低減領域の形状は適宜変更することができる。
即ち、効果低減領域の対象を人物の顔以外とした場合に、例えば、猫等の動物であれば楕円形であっても横長、花であれば真円、建物であれば矩形、といったように注目すべき被写体に応じて、或いは、注目すべき被写体に応じた撮影を行う撮影モードに応じて、効果低減領域の形状を適宜変更するようにしてもよい。
(実施形態2)
次に、本発明の第2の実施形態について説明する。第1の実施形態とは異なり撮影時にAF制御でピントがあった被写体を主たる被写体、つまり注目すべき被写体とするものである。すなわち、本実施形態は、図1に示した構成を備えたデジタルカメラ1において、プログラム記憶部7に、前述した各種のデータに加え以下のデータやプログラムが記憶されているものである。
すなわち本実施形態においてプログラム記憶部7には、レンズ部3におけるレンズ群の調整位置とフォーカス距離(ピントが合った被写体までの距離)との関係を示す距離取得テーブルが記憶されている。また、プログラム記憶部7には、制御部2に、画像内で相対的に動きのある被写体に対して、継続的にピント合わせを行う所謂コンティニアスAFによるAF制御を行わせるためのプログラム、及びユーザーによりソフトフォーカス機能の使用が設定されているときの撮影モードにおいて、制御部2に図7に示した撮影処理を行わせるプログラムが記憶されている。
ここで、本実施形態における撮影処理と第1の実施形態における撮影処理との違いを先に述べると、本実施形態において制御部2は、撮影時に顔検出を行うことなく、AF制御でピントがあった被写体までの距離(以下、フォーカス距離)と合焦位置とに応じた第3のマスク画像を生成し、それを用いて最終的な撮影画像(記録画像)を生成する。
次に、本実施形態における制御部2の処理を図7のフローチャートに従い具体的に説明する。図から明らかなように、ステップSB1〜SB3の処理は第1の実施形態と同一である。
すなわち制御部2は、ライブビュー表示及びAF制御を伴う撮影待機状態において、ユーザーによって撮影実行が指示されると(ステップSB1:YES)、撮像部4に記録用の画像を撮像させ、その撮像画像のデータに標準の現像処理を行って標準現像画像を生成し(ステップSB2)、生成した標準現像画像の全体にソフトフォーカス処理を施し、ソフトフォーカス画像を生成する(ステップSB3)。
次に、制御部2は、撮影実行が指示された時点におけるフォーカス距離と、合焦位置つまり画像内でピントが合っている座標とを取得する(ステップSB4)。なお、フォーカス距離は、撮影実行が指示された時点でのレンズ群の調整位置に基づき前述した距離取得テーブルから取得する。
次に、制御部2は、上記の取得データ(フォーカス距離と合焦位置)に基づいて、基準のマスク画像である第2のマスク画像M2(図5参照)の大きさと中心位置を取得する(ステップSB5)。
ここで取得する第2のマスク画像M2の大きさは、第1の実施形態と同様、後に生成する第3のマスク画像(図示せず)における第2のマスク画像M2に相当する部分の縦サイズである。また、このとき取得される縦サイズは、フォーカス距離と、レンズ部3の焦点距離、つまりズーム倍率に応じて変化する。フォーカス距離が長くなるに従い、或いはレンズ部3の焦点距離が長くなるに従い小さくなるものであり、制御部2は、フォーカス距離及びレンズ部3の焦点距離をパラメータとするとともに、フォーカス距離が長くなるに従い、或いはレンズ部3の焦点距離が長くなるに従い縦サイズが小さくなる所定の関数を用いた計算によって縦サイズを取得する。つまり制御部2は、第3のマスク画像における第2のマスク画像M2に相当する部分の大きさを、フォーカス距離が遠くなるに従い、或いはレンズ部3の焦点距離が長くなるに従い小さくなるように調整する。
引き続き、制御部2は、上記の取得データ(第2のマスク画像M2の縦サイズと、合焦位置)に基づき、図3(a)に示した第1のマスク画像M1を加工し、画像処理用のマスク画像である第3のマスク画像を生成する(ステップSB6)。
すなわち制御部2は、第1の実施形態と同様に第1のマスク画像M1から第2のマスク画像M2を生成した後、そのサイズを、縦サイズが先に取得した縦サイズとなるサイズに拡大し、拡大後の第2のマスク画像M2に平滑化処理を施す。しかる後、制御部2は、平滑化した第2のマスク画像M2を、標準現像画像と同一の画素サイズを有するグレースケールの黒一色の画像に、その中心Pを先に算出した合焦位置に配置させた状態で上書き合成することによって第3のマスク画像を生成する。なお、本実施形態においても、図5(b)に例示したように、上記拡大画像に上記黒一色の画像からはみ出す余剰部分が生じる場合には、その余剰部分はトリミングする。
そして、制御部2は、生成した第3のマスク画像M3を用いて、ステップSB3で生成したソフトフォーカス画像を標準現像画像にαブレンドにより合成し、合成画像を生成する(ステップSB7)。なお、具体的な処理は第1の実施形態と同様である。
これにより、合成画像として画像全体にソフトフォーカスによる演出効果を確保しつつ、撮影時にピントがあった被写体部分にボケが生じていない画像が得られる。
しかる後、制御部2は、生成した合成画像を撮影画像(記録画像)として圧縮処理、属性情報の付加を行った後、静止画ファイルとして画像記憶部6に保存し(ステップSB8)、撮影処理を終了する。
したがって、本実施形態においても、ソフトフォーカス機能を用いた撮影時には、撮影者が注目している主たる被写体が人物である場合には、画像全体にソフトフォーカスによる演出効果を確保しつつ、人物の顔部分にボケが生じていない撮影画像を得ることができる。また、主たる被写体が人物以外である場合には、その被写体部分にボケが生じていない撮影画像を得ることができる。すなわち本実施形態においても、ソフトフォーカスの強度に関係なく主たる被写体への処理強度を適切に制御することができ、その結果、良好な撮影画像を得ることができる。
また、本実施形態においても、第2のマスク画像M2が楕円形のグラデーション領域を有する画像であって、第3のマスク画像M3に確保する効果低減領域が、ピントがあった被写体部分のほぼ中心から周辺に向かって徐々に低下するものである。したがって、最終的な撮影画像においては、ピントがあった被写体部分と他の領域との間にボケ度合の境目が生じないことから、撮影画像により自然な演出効果を確保することができる。
しかも、本実施形態においては、第3のマスク画像M3を生成する際には第2のマスク画像M2の大きさをフォーカス距離、或いはレンズ部3の焦点距離に応じて調整する。したがって、主たる被写体(注目すべき被写体)が人物の顔や草花等のように実際の大きさが予め想定されている場合においては、煩雑な被写体認識処理を行わなくとも、第3のマスク画像M3に確保すべき効果低減領域の大きさを適切な大きさとすることができる。
なお、本実施形態で説明した撮影処理では、常に、ソフトフォーカス画像を標準現像画像にαブレンドにより合成した合成画像を撮影画像として記録するようにした。しかし、例えばデジタルカメラ1が、撮影モードの下位の動作モードとして、撮影条件や前述した現像処理の内容が人物撮影モードのように特定の対象物の撮影に適した内容に自動的に設定される特定の撮影モードを有した構成である場合には、制御部2に以下のような撮影処理を行わせてもよい。
すなわちソフトフォーカス機能を用いた撮影時には、制御部2に、前述したステップSB3の処理でソフトフォーカス画像を生成した後、その撮影モードが特定の撮影モードであるか否かを確認させる。そして、撮影モードが特定の撮影モードであるときには、標準現像画像をソフトフォーカス画像にαブレンドにより合成した合成画像を撮影画像として記録し、逆に特定の撮影モードでないときには、生成したソフトフォーカス画像をそのまま撮影画像として記録する処理を制御部2に行わせるようにしてもよい。
そして、撮影モードが特定の撮影モードであるときにだけ、ソフトフォーカス画像を標準現像画像にαブレンドにより合成した合成画像を撮影画像として記録する場合においては、撮影モードから主たる被写体実際の大きさを予め想定できる。したがって、係る場合には、先に述べたように第3のマスク画像M3に確保すべき効果低減領域の大きさを、確実に主たる被写体の実際の大きさに対応する適切な大きさとすることができる。
また、第2の実施形態においても、第3のマスク画像M3に確保する効果低減領域の形状が楕円形である場合について説明したが、第1の実施形態と同様、効果低減領域の形状は適宜変更することができる。
さらに、例えば先に述べたように撮影モードの下位の動作モードとして特定の対象物の撮影に適した撮影モードが設けられている場合には、効果低減領域の形状をそれらの撮影モードの種類に応じた形状としてもよい。その場合には、効果低減領域の基本形状を表す第1のマスク画像M1として、撮影モードに対応した異なる基本形状をそれぞれ表す複数の第1のマスク画像を予め用意しておけばよい。
ここで、以上説明した第1及び第2の実施形態においては、第3のマスク画像M3に確保すべき効果低減領域の基本形状等を表すマスク情報として第1のマスク画像M1がプログラム記憶部7に記憶されており、第1のマスク画像M1から第2のマスク画像M2を生成する構成について説明した。しかし、効果低減領域の基本形状等を表すマスク情報として第2のマスク画像M2をプログラム記憶部7に記憶しておくようにして構わない。
また、第1及び第2の実施形態においては、撮影時に取得した標準現像画像と、標準現像画像から生成したソフトフォーカス画像とをαブレンドで合成する際、ソフトフォーカス画像を背景としたが、本発明の実施に際しては、標準現像画像を背景としてもよい。その場合には、例えば第3のマスク画像M3として白黒を反転させた画像を生成すればよい。
いずれの場合であっても、標準現像画像とソフトフォーカス画像とを第3のマスク画像M3、すなわちソフトフォーカス処理によるボケ効果を低減させる効果低減領域を表すマスク情報を用いて合成し、最終的な撮影画像を生成することから、例えば標準現像画像から画素ごとに効果を変化させ最終的な撮影画像を直接生成する場合に比べ、比較的単純な画像処理であっても、目的とする最終的な撮影画像を容易に生成することができる。特に、標準現像画像とソフトフォーカス画像との合成をαブレンドによる合成としたことから、目的とする最終的な撮影画像を極めて簡単な画像処理により生成することができる。
また、第1及び第2の実施形態においては、撮像時に得られた画像に行う所定の画像処理が、ボケを付加してやわらかい雰囲気を醸し出すぼかし効果を得るためのソフトフォーカス処理である場合について説明した。しかし、本発明は、所定の画像処理がソフトフォーカス処理以外の画像処理である場合にも適用することができる。
係る画像処理は、例えば元画像に特定の色合いを付加したり、明るさを調整したりするための処理でもよいし、元画像を絵画調の画像に変換するための処理でもよい。さらに、所定の画像処理による効果は、元画像の全体に及ぶものである必要はなく、クロススクリーン効果のように元画像の特定部分に確保される効果であっても構わない。
また、第1及び第2の実施形態では、撮影時に取得した標準現像画像を元画像として新たな合成画像を生成する場合について説明した。しかし、本発明における元画像は、撮影により取得されたものであればよく、画像記憶部6に既に記録されている撮影画像であっても構わない。
その場合であっても、第1の実施形態と同様の処理によって、図4に示したような合成画像G3を生成することができる。さらに、撮影画像の付加情報として撮影時のフォーカス位置、フォーカス距離等が静止画ファイルに記憶されていれば、第2の実施形態と同様の手法により注目すべき被写体を特定することができる。
また、本発明は、デジタルカメラ1に限らず他の装置においても実施することができる。他の装置には、例えば任意のデジタルカメラにより撮影された撮影画像を鑑賞用として表示することを主たる目的とするデジタルフォトフレームや汎用的なパーソナルコンピュータ、スマートフォンが含まれる。
また、先に述べたように本発明における元画像は、撮影により取得されたものであればよく、例えば本発明をデジタルカメラで実施する場合、及びそれ以外の装置で実施する場合に関係なく、元画像は任意の画像処理が既に施されている撮影画像であっても構わない。
以上、本発明のいくつかの実施形態、及びその変形例について説明したが、これらは本発明の作用効果が得られる範囲内であれば適宜変更が可能であり、変更後の実施形態も特許請求の範囲に記載された発明、及びその発明と均等の発明の範囲に含まれる。
以下に、本出願の特許請求の範囲に記載された発明を付記する。
[請求項1]
撮影により取得された元画像における注目すべき被写体の位置及びサイズを取得する取得手段と、
前記取得手段により取得された前記注目すべき被写体の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成手段と、
前記マスク情報生成手段により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成手段と、
を備えることを特徴とする画像処理装置。
[請求項2]
前記注目すべき被写体を、前記元画像における領域として検出する検出手段をさらに備え、
前記取得手段は、前記検出手段により検出された注目すべき被写体領域の元画像における位置及びサイズを取得する
ことを特徴とする請求項1記載の画像処理装置。
[請求項3]
前記マスク情報生成手段は、前記元画像における画像処理による処理効果を低減すべき位置及びその低減度合いとの関係を示す効果低減領域を表すマスク情報を生成し、
前記画像生成手段は、前記マスク情報生成手段により生成されたマスク情報を使用し、前記元画像に所定の画像処理による処理効果が確保されるとともに、前記注目すべき被写体に該当する部分への前記処理効果が低減された新たな画像を生成する
ことを特徴とする請求項2記載の画像処理装置。
[請求項4]
前記マスク情報生成手段は、前記取得手段により取得された前記被写体領域と中心位置が異なる中心位置で画像処理を施すマスク情報を生成することを特徴とする請求項2又は3記載の画像処理装置。
[請求項5]
前記マスク情報生成手段は、前記被写体領域の大きさに応じて異なる大きさの前記効果低減領域を表す前記マスク情報を生成することを特徴とする請求項3又は4記載の画像処理装置。
[請求項6]
前記取得手段は、前記検出手段により検出された被写体領域における注目すべき被写体の向きをさらに取得し、
前記マスク情報生成手段は、前記取得手段により取得された被写体の向きに応じた前記元画像における所定の画像処理を施す位置及びその強度との関係を示す前記マスク情報を生成する
ことを特徴とする請求項2乃至5いずれか1項に記載の画像処理装置。
[請求項7]
前記マスク情報生成手段は、前記検出手段において注目すべき被写体が検出できたことを条件として前記マスク情報を生成し、
前記画像生成手段は、前記検出手段において注目すべき被写体が検出できたことを条件として新たな画像を生成する
ことを特徴とする請求項2乃至6のいずれか1項に記載の画像処理装置。
[請求項8]
前記画像生成手段は、前記検出手段において注目すべき被写体が検出できない場合、前記元画像に前記所定の画像処理を施した処理画像を新たな画像として生成することを特徴とする請求項7記載の画像処理装置。
[請求項9]
前記検出手段による検出対象となる注目すべき被写体の種類に応じて前記所定の画像処理を施す処理領域の形状を予め設定する設定手段をさらに備え、
前記マスク情報生成手段は、前記検出手段により検出された前記注目すべき被写体領域の位置及びサイズに対応し、かつ、前記設定手段により予め設定された形状を有する処理領域を特定するとともに、この特定した処理領域内における各位置と所定の画像処理の強度との関係を示すマスク情報を生成する
ことを特徴とする請求項2乃至8のいずれか1項に記載の画像処理装置。
[請求項10]
前記設定手段は、前記検出手段による検出対象となる注目すべき被写体の種類に応じて、前記所定の画像処理を施す処理領域の形状と、この処理領域内における所定の基準点からの距離の比に応じた画像処理の強度を予めさらに設定し、
前記マスク情報生成手段は、前記検出手段により検出された注目すべき被写体領域のサイズと、前記設定手段により予め設定された所定の基準点からの距離の比に応じた画像処理の強度に基づいて、前記特定した処理領域内における各位置と所定の画像処理の強度との関係を示すマスク情報を生成する
ことを特徴とする請求項9記載の画像処理装置。
[請求項11]
前記設定手段は、前記検出手段による検出対象となる注目すべき被写体の種類に応じて、前記所定の画像処理を施す処理領域の形状と、この処理領域内における所定の基準点からの距離の比に応じた所定の画像処理の強度を予め設定し、
前記マスク情報生成手段は、前記検出手段により検出された注目すべき被写体領域のサイズと、前記設定手段により予め設定された所定の基準点からの方向および距離の比に応じた所定の画像処理の強度に基づいて、前記特定した処理領域内における各位置と所定の画像処理の強度との関係を示すマスク情報を生成する
ことを特徴とする請求項10記載の画像処理装置。
[請求項12]
撮影により取得された元画像におけるフォーカス調整の対象であった被写体を注目すべき被写体として特定する特定手段と、
前記特定手段により特定された前記被写体のフォーカス情報を取得する取得手段と、
前記取得手段により取得された前記フォーカス情報に基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成手段と、
前記マスク情報生成手段により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成手段と、
を備えることを特徴とする画像処理装置。
[請求項13]
前記取得手段は、前記被写体のフォーカス情報として、前記フォーカス調整が行われたときの元画像おける当該被写体の位置に加え、フォーカス距離及び/又はレンズの焦点距離をさらに取得し、
前記マスク情報生成手段は、前記取得手段により取得された前記被写体の位置及びフォーカス距離及び/又はレンズの焦点距離に応じた前記元画像における所定の画像処理を施す位置及びその強度との関係を示す前記マスク情報を生成する
ことを特徴とする請求項12記載の画像処理装置。
[請求項14]
前記マスク情報の基本情報を記憶する記憶手段をさらに備え、
前記マスク情報生成手段は、前記記憶手段に記憶されている基本情報を用いて前記マスク情報を生成する
ことを特徴とする請求項1乃至13のいずれか1項に記載の画像処理装置。
[請求項15]
前記記憶手段に記憶されている基本情報には、前記所定の画像処理を施す処理領域の基本形状が含まれることを特徴とする請求項14記載の画像処理装置。
[請求項16]
前記記憶手段に記憶されている基本情報には、前記所定の画像処理を施す処理領域における前記所定の画像処理の強度の変化内容であって、中心側から周辺側に向かい徐々に増大する変化内容が含まれることを特徴とする請求項15記載の画像処理装置。
[請求項17]
前記画像生成手段は、前記元画像と、前記元画像に前記所定の画像処理を施した処理画像とを前記マスク情報生成手段により生成されたマスク情報を使用して合成することによって前記新たな画像を生成することを特徴とする請求項1乃至16のいずれか1項に記載の画像処理装置。
[請求項18]
前記マスク情報生成手段は、画素毎の透過率を示す前記マスク情報を生成し、
前記画像生成手段は、前記処理画像又は前記元画像の一方を、前記マスク情報により示される透過率を画素毎に設定して前記処理画像又は前記元画像の他方に透過合成することによって前記新たな画像を生成する
ことを特徴とする請求項17記載の画像処理装置。
[請求項19]
撮像手段を更に備え、
前記取得手段は、前記撮像手段による撮影により取得された元画像における注目すべき被写体の位置及びサイズを取得する
ことを特徴とする請求項1乃至18のいずれか1項に記載の画像処理装置。
[請求項20]
撮影により取得された元画像における注目すべき被写体の位置及びサイズを取得する取得処理と、
前記取得処理により取得された前記注目すべき被写体の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成処理と、
前記マスク情報生成処理により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成処理と、
を含むことを特徴とする画像処理方法。
[請求項21]
コンピュータに、
撮影により取得された元画像における注目すべき被写体の位置及びサイズを取得する取得機能と、
前記取得機能により取得された前記注目すべき被写体の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成機能と、
前記マスク情報生成機能により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成機能と、
を実現させることを特徴とするプログラム。
[請求項22]
撮影により取得された元画像におけるフォーカス調整の対象であった被写体を注目すべき被写体として特定する特定処理と、
前記特定処理により特定された前記被写体のフォーカス情報を取得する取得処理と、
前記取得処理により取得された前記フォーカス情報に基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成処理と、
前記マスク情報生成処理により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成処理と、
を含むことを特徴とする画像処理装置。
[請求項23]
コンピュータに、
撮影により取得された元画像におけるフォーカス調整の対象であった被写体を注目すべき被写体として特定する特定機能と、
前記特定機能により特定された前記被写体のフォーカス情報を取得する取得機能と、
前記取得機能により取得された前記フォーカス情報に基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成機能と、
前記マスク情報生成機能により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成機能と、
を実現させることを特徴とするプログラム。
1 デジタルカメラ
2 制御部
3 レンズ部
4 撮像部
5 表示部
6 画像記憶部
7 プログラム記憶部
8 顔検出部
9 操作部
10 電源部
101 マスクデータ
M1 第1のマスク画像
M2 第2のマスク画像
M3 第3のマスク画像
M11 マスク画像
G1 標準現像画像
G2 ソフトフォーカス画像
G3 合成画像
A 顔領域の縦サイズ
B 移動量
C 拡大後の第2のマスク画像の縦サイズ
W 顔領域
O 顔領域の中心
P 第2のマスク画像の中心
Q 実施形態2における第2のマスク画像の中心

Claims (19)

  1. 撮影により取得された元画像における注目すべき被写体の位置及びサイズを取得する取得手段と、
    前記取得手段により取得された前記注目すべき被写体の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成手段と、
    前記マスク情報生成手段により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成手段と、
    を備え
    前記マスク情報生成手段は、予め用意されている基本となるマスク情報を、前記注目すべき被写体の位置及びサイズに基づき加工することで、画像処理を施すためのマスク情報を生成する、
    ことを特徴とする画像処理装置。
  2. 前記注目すべき被写体を、前記元画像における領域として検出する検出手段をさらに備え、
    前記取得手段は、前記検出手段により検出された注目すべき被写体領域の元画像における位置及びサイズを取得し、
    前記マスク情報生成手段は、前記取得手段により取得された注目すべき被写体領域の位置及びサイズに基づき、画像処理を施すマスク情報を生成する、
    ことを特徴とする請求項1記載の画像処理装置。
  3. 注目すべき被写体を、撮影により取得された元画像における領域として検出する検出手段と、
    前記検出手段により検出された領域の位置及びサイズを取得する取得手段と、
    前記取得手段により取得された領域の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成手段と、
    前記マスク情報生成手段により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成手段と、
    を備え
    前記マスク情報生成手段が生成するマスク情報の中心位置を、前記領域の位置及びサイズに基づき、当該領域の中心から移動させた位置に特定する中心位置特定手段を、更に備え、
    前記マスク情報生成手段は、前記中心位置特定手段により特定された位置を中心として前記マスク情報を生成する、
    ことを特徴とする画像処理装置。
  4. 前記マスク情報生成手段は、前記元画像における画像処理による処理効果を低減すべき位置及びその低減度合いとの関係を示す効果低減領域を表すマスク情報を生成し、
    前記画像生成手段は、前記マスク情報生成手段により生成されたマスク情報を使用し、前記元画像に所定の画像処理による処理効果が確保されるとともに、前記注目すべき被写体に該当する部分への前記処理効果が低減された新たな画像を生成する
    ことを特徴とする請求項2又は3記載の画像処理装置。
  5. 前記マスク情報生成手段は、前記被写体領域の大きさに応じて異なる大きさの前記効果低減領域を表す前記マスク情報を生成することを特徴とする請求項4記載の画像処理装置。
  6. 前記取得手段は、前記検出手段により検出された被写体領域における注目すべき被写体の向きをさらに取得し、
    前記マスク情報生成手段は、前記取得手段により取得された被写体の向きに応じた前記元画像における所定の画像処理を施す位置及びその強度との関係を示す前記マスク情報を生成する
    ことを特徴とする請求項2乃至5いずれか1項に記載の画像処理装置。
  7. 前記マスク情報生成手段は、前記検出手段において注目すべき被写体が検出できたことを条件として前記マスク情報を生成し、
    前記画像生成手段は、前記検出手段において注目すべき被写体が検出できたことを条件として新たな画像を生成する一方、検出できない場合、前記元画像に前記所定の画像処理を施した処理画像を新たな画像として生成する、
    ことを特徴とする請求項2乃至6のいずれか1項に記載の画像処理装置。
  8. 前記検出手段による検出対象となる注目すべき被写体の種類に応じて前記所定の画像処理を施す処理領域の形状を予め設定する設定手段をさらに備え、
    前記マスク情報生成手段は、前記検出手段により検出された前記注目すべき被写体領域の位置及びサイズに対応し、かつ、前記設定手段により予め設定された形状を有する処理領域を特定するとともに、この特定した処理領域内における各位置と所定の画像処理の強度との関係を示すマスク情報を生成する
    ことを特徴とする請求項2乃至のいずれか1項に記載の画像処理装置。
  9. 前記設定手段は、前記検出手段による検出対象となる注目すべき被写体の種類に応じて、前記所定の画像処理を施す処理領域の形状と、この処理領域内における所定の基準点からの距離に比例した所定の画像処理の強度を予めさらに設定し、
    前記マスク情報生成手段は、前記検出手段により検出された注目すべき被写体領域のサイズと、前記設定手段により予め設定された所定の基準点からの距離に比例した所定の画像処理の強度に基づいて、前記特定した処理領域内における各位置と所定の画像処理の強度との関係を示すマスク情報を生成する
    ことを特徴とする請求項記載の画像処理装置。
  10. 前記設定手段は、前記検出手段による検出対象となる注目すべき被写体の種類に応じて、前記所定の画像処理を施す処理領域の形状と、この処理領域内における所定の基準点からの方向に応じた所定の画像処理の強度を予めさらに設定し、
    前記マスク情報生成手段は、前記検出手段により検出された注目すべき被写体領域のサイズと、前記設定手段により予め設定された所定の基準点からの方向および距離に比例した所定の画像処理の強度に基づいて、前記特定した処理領域内における各位置と所定の画像処理の強度との関係を示すマスク情報を生成する
    ことを特徴とする請求項記載の画像処理装置。
  11. 前記予め用意されているマスク情報には、前記所定の画像処理を施す処理領域の基本形状が含まれることを特徴とする請求項記載の画像処理装置。
  12. 前記予め用意されているマスク情報は、前記所定の画像処理を施す処理領域における前記所定の画像処理の強度の変化についての情報を含み、前記強度が中心側から周辺側に向かい徐々に増大するよう変化することを示すことを特徴とする請求項1記載の画像
    処理装置。
  13. 前記画像生成手段は、前記元画像と、前記元画像に前記所定の画像処理を施した処理画像とを前記マスク情報生成手段により生成されたマスク情報を使用して合成することによって前記新たな画像を生成することを特徴とする請求項1乃至1のいずれか1項に記載の画像処理装置。
  14. 前記マスク情報生成手段は、画素毎の透過率を示す前記マスク情報を生成し、
    前記画像生成手段は、前記処理画像又は前記元画像の一方を、前記マスク情報により示される透過率を画素毎に設定して前記処理画像又は前記元画像の他方に透過合成することによって前記新たな画像を生成する
    ことを特徴とする請求項1記載の画像処理装置。
  15. 撮像手段を更に備え、
    前記取得手段は、前記撮像手段による撮影により取得された元画像における注目すべき被写体領域の位置及びサイズを取得する
    ことを特徴とする請求項乃至18のいずれか1項に記載の画像処理装置。
  16. 撮影により取得された元画像における注目すべき被写体の位置及びサイズを取得する取得処理と、
    前記取得処理により取得された前記注目すべき被写体の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成処理と、
    前記マスク情報生成処理により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成処理と、
    を含み、
    前記マスク情報生成処理では、予め用意されている基本となるマスク情報を、前記注目すべき被写体の位置及びサイズに基づき加工することで、画像処理を施すためのマスク情報を生成する、
    ことを特徴とする画像処理方法。
  17. 注目すべき被写体を、撮影により取得された元画像における領域として検出する検出処理と、
    前記検出処理により検出された領域の位置及びサイズを取得する取得処理と、
    前記取得処理により取得された領域の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成処理と、
    前記マスク情報生成処理により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成処理と、
    を含み、
    前記マスク情報生成処理で生成するマスク情報の中心位置を、前記領域の位置及びサイズに基づき、当該領域の中心から移動させた位置に特定する中心位置特定処理を、更に含み、
    前記マスク情報生成処理で、前記中心位置特定処理で特定された位置を中心として前記マスク情報を生成する、
    ことを特徴とする画像処理方法。
  18. コンピュータに、
    撮影により取得された元画像における注目すべき被写体の位置及びサイズを取得する取得機能と、
    前記取得機能により取得された前記注目すべき被写体の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成機能と、
    前記マスク情報生成機能により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成機能
    と、
    を実現させ
    前記マスク情報生成機能は、予め用意されている基本となるマスク情報を、前記注目すべき被写体の位置及びサイズに基づき加工することで、画像処理を施すためのマスク情報を生成する、
    ことを特徴とするプログラム。
  19. 注目すべき被写体を、撮影により取得された元画像における領域として検出する検出機能と、
    前記検出機能により検出された領域の位置及びサイズを取得する取得機能と、
    前記取得機能により取得された領域の位置及びサイズに基づき、前記元画像における所定の画像処理を施す位置及びその強度との関係を示すマスク情報を生成するマスク情報生成機能と、
    前記マスク情報生成機能により生成されたマスク情報を使用し、前記元画像における各位置に対して異なる強度の所定の画像処理が施された新たな画像を生成する画像生成機能と、
    を実現させ
    前記マスク情報生成機能が生成するマスク情報の中心位置を、前記領域の位置及びサイズに基づき、当該領域の中心から移動させた位置に特定する中心位置特定機能を、更に実現させ、
    前記マスク情報生成機能は、前記中心位置特定機能により特定された位置を中心として前記マスク情報を生成する、
    ことを特徴とるプログラム。
JP2015010793A 2015-01-23 2015-01-23 画像処理装置、画像処理方法及びプログラム Active JP5930245B1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015010793A JP5930245B1 (ja) 2015-01-23 2015-01-23 画像処理装置、画像処理方法及びプログラム
KR1020150180270A KR102400283B1 (ko) 2015-01-23 2015-12-16 화상 처리 장치, 화상 처리 방법 및 프로그램
CN201510953987.3A CN105827947B (zh) 2015-01-23 2015-12-17 图像处理装置、图像处理方法以及记录介质
US14/974,375 US9900523B2 (en) 2015-01-23 2015-12-18 Image processing apparatus which performs image processing on photographic subject

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015010793A JP5930245B1 (ja) 2015-01-23 2015-01-23 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP5930245B1 true JP5930245B1 (ja) 2016-06-08
JP2016136291A JP2016136291A (ja) 2016-07-28

Family

ID=56102914

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015010793A Active JP5930245B1 (ja) 2015-01-23 2015-01-23 画像処理装置、画像処理方法及びプログラム

Country Status (4)

Country Link
US (1) US9900523B2 (ja)
JP (1) JP5930245B1 (ja)
KR (1) KR102400283B1 (ja)
CN (1) CN105827947B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020113061A (ja) * 2019-01-11 2020-07-27 株式会社東芝 情報処理装置、情報処理方法およびプログラム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10863158B2 (en) * 2016-05-17 2020-12-08 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program
JP6421794B2 (ja) * 2016-08-10 2018-11-14 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
JP2019070872A (ja) * 2017-10-05 2019-05-09 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
JP7030534B2 (ja) * 2018-01-16 2022-03-07 キヤノン株式会社 画像処理装置および画像処理方法
JP2020115607A (ja) * 2019-01-17 2020-07-30 日本電気株式会社 画像処理装置、画像処理方法、プログラム
CN112215762A (zh) * 2019-07-12 2021-01-12 阿里巴巴集团控股有限公司 视频图像处理方法、装置及电子设备
CN113808028B (zh) * 2020-09-14 2023-08-08 北京航空航天大学 基于归因算法的对抗样本的检测方法和装置
CN117859150A (zh) * 2022-06-20 2024-04-09 北京小米移动软件有限公司 图像处理方法及装置、电子设备、存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11224327A (ja) * 1998-02-09 1999-08-17 Fujitsu Ltd ディジタル画像処理装置
JP2004080709A (ja) * 2002-08-22 2004-03-11 Nikon Corp 電子カメラ,および画像処理プログラム
JP2004303193A (ja) * 2003-03-20 2004-10-28 Omron Corp 画像処理装置
JP2006140594A (ja) * 2004-11-10 2006-06-01 Pentax Corp デジタルカメラ
JP2006338377A (ja) * 2005-06-02 2006-12-14 Fujifilm Holdings Corp 画像補正方法および装置並びにプログラム
JP2012231200A (ja) * 2011-04-23 2012-11-22 Olympus Imaging Corp 撮像装置および撮像方法
JP2013179464A (ja) * 2012-02-28 2013-09-09 Nikon Corp 電子カメラ

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000069277A (ja) 1998-06-11 2000-03-03 Fuji Photo Film Co Ltd 画像処理装置
US7440593B1 (en) * 2003-06-26 2008-10-21 Fotonation Vision Limited Method of improving orientation and color balance of digital images using face detection information
JP2007065784A (ja) 2005-08-29 2007-03-15 Canon Inc 画像処理装置及び画像処理方法及びプログラム及びコンピュータ読み取り可能な記憶媒体
KR101890589B1 (ko) * 2012-03-12 2018-09-28 한화에어로스페이스 주식회사 사생활 보호 영상 처리 시스템 및 방법

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11224327A (ja) * 1998-02-09 1999-08-17 Fujitsu Ltd ディジタル画像処理装置
JP2004080709A (ja) * 2002-08-22 2004-03-11 Nikon Corp 電子カメラ,および画像処理プログラム
JP2004303193A (ja) * 2003-03-20 2004-10-28 Omron Corp 画像処理装置
JP2006140594A (ja) * 2004-11-10 2006-06-01 Pentax Corp デジタルカメラ
JP2006338377A (ja) * 2005-06-02 2006-12-14 Fujifilm Holdings Corp 画像補正方法および装置並びにプログラム
JP2012231200A (ja) * 2011-04-23 2012-11-22 Olympus Imaging Corp 撮像装置および撮像方法
JP2013179464A (ja) * 2012-02-28 2013-09-09 Nikon Corp 電子カメラ

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020113061A (ja) * 2019-01-11 2020-07-27 株式会社東芝 情報処理装置、情報処理方法およびプログラム

Also Published As

Publication number Publication date
CN105827947B (zh) 2019-04-09
CN105827947A (zh) 2016-08-03
JP2016136291A (ja) 2016-07-28
KR102400283B1 (ko) 2022-05-20
US9900523B2 (en) 2018-02-20
US20160219227A1 (en) 2016-07-28
KR20160091238A (ko) 2016-08-02

Similar Documents

Publication Publication Date Title
JP5930245B1 (ja) 画像処理装置、画像処理方法及びプログラム
JP4902562B2 (ja) 撮像装置、画像処理装置、制御方法およびプログラム
US20100225785A1 (en) Image processor and recording medium
US20100328477A1 (en) Image processor, image processing method, digital camera, and imaging apparatus
JP4752941B2 (ja) 画像合成装置及びプログラム
JP7023662B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム
JP2011041089A (ja) 画像処理方法、画像処理装置、画像処理プログラム、撮像装置
CN109639959B (zh) 图像处理装置、图像处理方法以及记录介质
JP4929631B2 (ja) 画像生成装置、及び画像生成方法
JP5009204B2 (ja) 撮影装置および撮影装置における画像合成方法
JP2003189325A (ja) 画像処理装置及びカラー画像撮像装置
JP2017143354A (ja) 画像処理装置及び画像処理方法
JP2011239267A (ja) 撮像装置及び画像処理装置
JP2009253925A (ja) 撮像装置及び撮像方法と、撮影制御プログラム
JP2009071768A (ja) 画像信号処理装置および撮像装置
JP2019169985A (ja) 画像処理装置
JP2014021782A (ja) 画像処理装置、その制御方法及びプログラム
JP2013081136A (ja) 画像処理装置および制御プログラム
JP6185730B2 (ja) 撮像装置及び撮像方法
KR101905813B1 (ko) 영상비교장치
JP4812073B2 (ja) 画像撮像装置、画像撮像方法、プログラムおよび記録媒体
JP2006025059A (ja) 電子カメラ装置、及び色調整方法
JP2010022068A (ja) 電子カメラ装置、色調整方法及びプログラム
JP5906860B2 (ja) 画像処理装置、画像処理方法、及び、プログラム
JP4074883B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160310

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160419

R150 Certificate of patent or registration of utility model

Ref document number: 5930245

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150