JP4453721B2 - 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム - Google Patents

画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム Download PDF

Info

Publication number
JP4453721B2
JP4453721B2 JP2007156066A JP2007156066A JP4453721B2 JP 4453721 B2 JP4453721 B2 JP 4453721B2 JP 2007156066 A JP2007156066 A JP 2007156066A JP 2007156066 A JP2007156066 A JP 2007156066A JP 4453721 B2 JP4453721 B2 JP 4453721B2
Authority
JP
Japan
Prior art keywords
face
detected
image
detection
smile
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007156066A
Other languages
English (en)
Other versions
JP2008311817A (ja
Inventor
弘 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007156066A priority Critical patent/JP4453721B2/ja
Priority to US12/126,401 priority patent/US8542885B2/en
Priority to CN2008101101907A priority patent/CN101325658B/zh
Priority to KR1020080055368A priority patent/KR20080109666A/ko
Publication of JP2008311817A publication Critical patent/JP2008311817A/ja
Application granted granted Critical
Publication of JP4453721B2 publication Critical patent/JP4453721B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Description

本発明は、人物などの被写体を含んだ画像の撮影を行なう画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムに係り、特に、画像に含まれる被写体から特定のパターンを認識したことに応じてカメラ・ワークの自動化処理を行なう画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムに関する。
さらに詳しくは、本発明は、画像に含まれる被写体から笑顔を認識したことを利用して撮影するタイミングを自動的に決定する画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムに係り、特に、入力画像に複数の被写体が含まれる場合に、適当な被写体に着目して笑顔検出を行ない、撮影タイミングを自動的に決定する画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムに関する。
カメラは、視覚的な情報を記録する手段として長い歴史を持つ。最近では、フィルムや感光板を使って撮影する銀塩カメラに代わって、CCD(Charge Coupled Device)やCMOS(Complementary Mental−Oxide Semiconductor)などの固体撮像素子で捕捉した画像をデジタル化するデジタルカメラが広範に普及している。デジタルカメラによれば、デジタル符号化された画像をメモリに記憶し、コンピュータによる画像処理や画像管理を行なうことができ、さらにフィルムの寿命という問題がないといった利点がある。
銀塩カメラもデジタルカメラも基本的なカメラ・ワークはほとんど同じであるが、撮影画像のデジタル化とも相俟って、カメラ・ワークに関して自動化技術が進んでおり、このため、カメラ操作に未熟なユーザであっても、撮影に失敗する可能性は極めて低くなってきている。
例えば、オート・フォーカス機能(AF)、自動露光(AE)、手振れ補正などである。デジタルカメラの場合、AFやAEなどの処理を光学系で行なうだけでなく、デジタル処理により実現することができるという利点がある。また、AWB(Auto White Balance)により撮像画像に対してホワイトバランス・ゲインを掛けるなど、デジタル処理により撮影画像に画質調整を施すことによって、適正な色状態を再現することができる。
オート・フォーカスや画質補正などの機能は、画像フレーム内に存在する1以上の被写体のうちいずれに合わせて処理を行なうべきである。古くは、ユーザが重要な被写体をマニュアル操作で設定することが行なわれていた。最近では、撮像画像から顔を検出して、その顔に対して自動的にフォーカスを合わせる、あるいは、その顔に合わせて自動的に画質を補正する、といった顔検出を利用した撮像技術が導入されている。
ここで、撮像した画像信号から顔を検出する手法として、例えば、平均的な顔画像をテンプレートとして利用し、入力画像信号とマッチングする手法が当業界において広く知られている(例えば、特許文献1を参照のこと)。また、撮像された顔が傾いていると、顔を正しく検出し難いため、顔の角度を検出して、その検出値に応じて顔の画像を回転させた後、マッチング処理などを行なうなどの手法も知られている。顔の角度を検出する方法としては、顔の中心線を検出し、その中心線らしさを示す度合いを顔の左右対称性に基づいて算出して、その度合いの高い中心線の角度を顔の角度として出力する手法などが挙げられる(例えば、特許文献2を参照のこと)。
また、最近では、笑顔など被写体の画像から特定のパターンを認識したことを利用して撮影するタイミングを決めるオート・シャッタに関する研究開発が進められている。
例えば、撮影する主要被写体に含まれる注目部位において、主要被写体が所定の撮影条件を満たすかどうかを判断し、撮影条件を満たしたときに撮影タイミング信号を出力するカメラについて提案がなされている(例えば、特許文献3〜5を参照のこと)。ここで言う注目部位とは、例えば、人物を撮影するときの当該人物の目や口の形や色、鳥を撮影するときの当該鳥の羽根などである。
具体的な撮影タイミングの判断基準として、人物が見栄えよく写る条件である、「瞬きをしていない」、「視線がカメラ方向を向いている」、「微笑んでいる」などを適切な撮影タイミングの判断基準とすることが考えられる。また、人物を被写体として撮影した写真を良好にするために写真を修正する技術が従来から知られているが、人が瞬きしている瞬間の写真を瞬きしていない写真に修正することや、笑っていない人の写真を笑っているように修正することは難しいということも、笑顔を撮影条件とする理由の1つである。
例えば、被写体の目の中の白色部分の面積や、口の横方向の長さ、口の中の白色部分の面積などの画像情報に基づいて、「微笑んでいる」という撮影条件を判定することができる。しかしながら、撮像素子より入力された画像フレーム中に複数の被写体が含まれる場合には、いずれの被写体に着目して笑顔検出して撮影タイミングの制御を行なうべきか不明である。
例えば、複数の顔が検出された場合には一番大きい又は最至近の顔の枠がAFエリアに設定するとともに、スルー画像を利用して顔検出を行なうときには、顔検出を行なっていないときよりもスルー画像の輝度を上げて顔検出し易くするデジタルカメラについて提案がなされている(例えば、特許文献6を参照のこと)。しかしながら、当該デジタルカメラは、笑顔検出に基づいて自動撮影を行なうものではなく、また、AFエリアに設定する検出顔はカメラ側によって自動的に決められてしまい、撮影者が自ら笑顔を撮りたいと望む被写体を指定することはできない。
また、検出した顔のうち距離が最も近い顔に焦点が合うように撮影レンズの焦点調整を行なうとともに、液晶表示器には焦点が合わされた顔を囲む枠を表示し、枠で囲まれた顔が所望の人物の顔でないときには十字キーなどのユーザ操作によって他の顔に枠を移動する撮像装置について提案がなされている(例えば、特許文献7を参照のこと)。この撮像装置は、最至近であることを基準として主役判定して自動焦点合わせを行なうが、笑顔検出に基づいて自動撮影を行なうものではない。また、撮影者が自ら笑顔を撮りたいと望む被写体を指定することができるが、特定の被写体しか検出対象に選ぶことはできない。
自動焦点合わせの場合、光学系が持つ焦点深度などの特性も依るが、基本的には結像する場所は1点であるから、同時に複数の被写体を検出対象に選ぶことはあり得ない。これに対し、笑顔検出による自動撮影の場合、例えばパーティーなどの風景を撮影する際に比較的大人数を画角に含めた場合、注目しているメンバーの1人が笑っているだけでは不十分であり、メンバーが同時に笑っていることが撮影条件として要求されることもある。言い換えれば、笑顔検出に基づく自動撮影は、自動焦点合わせとは本質的に相違する。
特開2003−271933号公報(段落0051〜0053、図6) 特開平9−171560号公報(段落0032〜0044、図4) 特開2000−347278号公報 特開2004−294498号公報 特開2006−237803号公報 特開2006−33437号公報 特開2006−145629号公報
本発明の目的は、画像に含まれる被写体から特定のパターンを認識したことに応じてカメラ・ワークの自動化処理を好適に行なうことができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することにある。
本発明のさらなる目的は、画像に含まれる被写体から笑顔を認識したことを利用して、適切な撮影タイミングを自動的に決定することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することにある。
本発明のさらなる目的は、入力画像に複数の被写体が含まれる場合に、適当な被写体に着目して笑顔検出を行ない、好適な撮影タイミングを自動的に決定することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することにある。
本発明は、上記課題を参酌してなされたものであり、その第1の側面は、被写体を結像した画像を入力する画像入力手段と、
該入力画像を信号処理する画像信号処理手段と、
前記画像信号処理手段による信号処理後の入力画像を画面表示する表示手段と、
前記画像信号処理手段による信号処理後の入力画像から被写体の顔を検出する顔検出手段と、
前記顔検出手段によって検出された検出顔から笑顔検出の対象とすべきものを設定する笑顔検出対象顔設定手段と、
前記表示手段が表示するスルー画像上において、前記笑顔検出対象顔設定手段によって設定された検出顔をその他の検出顔と区別して表示する表示制御手段と、
前記の笑顔検出対象に設定された検出顔とその他の検出顔を区別した表示画面上におけるユーザの操作に応じて、笑顔検出対象の検出顔を変更する笑顔検出顔変更手段と、
を具備することを特徴とする画像撮影装置である。
本発明の係る画像撮影装置は、笑顔検出対象となった検出顔の笑顔度レベルを検出し、検出された笑顔度レベルが笑顔検出レベルに到達したことに応じて撮影処理を制御するように構成されている。勿論、笑顔検出結果に基づいて撮影以外の処理を行なうことも考えられる。
現在、デジタルカメラなどの画像撮影装置が広範に普及しており、各種カメラ・ワークの自動化技術についても並行して進められている。このうち、自動撮影に関しては、笑顔など被写体の画像から特定のパターンを認識したことを利用して撮影するタイミングを決めるオート・シャッタ機能について研究開発がなされている。具体的な撮影タイミングの判断基準として、人物が見栄えよく写る条件である、「瞬きをしていない」、「視線がカメラ方向を向いている」、「微笑んでいる」などを適切な撮影タイミングの判断基準とすることが考えられる。
ここで、撮像素子より入力された画像フレーム中に複数の被写体が含まれる場合には、いずれの被写体に着目して笑顔検出して撮影タイミングの制御を行なうべきか、という問題がある。
これに対し、本発明に係る画像撮影装置は、撮影者が笑顔を検出して笑顔を撮りたい被写体を自在に選択するように構成されている。具体的には、前記顔検出手段によって検出された検出顔から笑顔検出の対象とすべきものを設定し、笑顔検出対象に設定された検出顔とその他の検出顔を区別してスルー画像上にOSD表示するが、表示画面上におけるユーザの操作に応じて、笑顔検出対象の検出顔を変更するようになっている。
前記顔検出手段が入力画像から複数の被写体の顔を検出したときに、前記笑顔検出対象顔設定手段は、画像内の各検出顔の位置又はその他の情報に基づいて検出顔毎の重要度を判別し、該重要度に応じて各検出顔に優先順位を割り振り、優先順位の高い方から所定数の検出顔を笑顔検出の対象に設定する。
また、撮影者などのユーザが笑顔検出対象となっている検出顔を視認できるようにするために、前記表示制御手段は、笑顔検出対象となった検出顔に枠を付けてスルー画像を表示するようにする。あるいは、前記表示制御手段は、前記顔検出手段によって検出されたすべての検出顔に枠を付けるとともに、笑顔検出対象となった検出顔についての枠の表示形式を変え又は所定のアイコンを付けてスルー画像を表示する。
ここで、2以上の検出顔を笑顔検出対象とした場合において、前記撮影制御手段は、少なくとも1人の笑顔が検出されたら撮影を自動的に行なう、あるいは、選択されたN人全員の笑顔が検出されたら撮影を自動的に行なうようにしてもよい。
前記表示手段の表示画面はタッチパネルを兼ね備えていてもよい。このような場合、前記笑顔検出顔変更手段は、前記タッチパネルに対するユーザ操作に応じて笑顔検出対象の検出顔を変更するようにすればよい。
あるいは、前記顔検出手段が入力画像から複数の被写体の顔を検出するとともに各検出顔に操作順を付与し、前記笑顔検出対象顔設定手段が各検出顔の重要度に応じて複数の検出顔を笑顔検出の対象に設定している場合において、前記笑顔検出顔変更手段は、上下左右キーなどの一般的な操作キーを介してユーザが指定した検出顔を操作順に応じて特定し、該検出顔の優先順位を繰り上げて笑顔検出の対象に変更するようにする。
また、複数の検出顔を笑顔検出の対象に設定している場合には、前記タッチパネルを介してユーザが指定した検出顔の優先順位を繰り上げて笑顔検出の対象に変更するようにする。
また、複数の検出顔を笑顔検出の対象に設定している場合には、前記笑顔検出顔変更手段は、前記タッチパネルを介して前記画面上でユーザが指定した領域内の検出顔の優先順位を繰り上げて笑顔検出の対象に変更するようにしてもよい。
ここで、笑顔検出の対象とすることができる被写体の人数がN人に制限されている場合において、前記タッチパネルを介して前記画面上でユーザが指定した領域内にN人を超える検出顔が含まれているときには、該領域内の検出顔毎の重要度を判別し、該重要度に応じて各検出顔に優先順位を割り振り、優先順位の高い方から所定数の検出顔を笑顔検出の対象に設定するようにすればよい。
このように、本発明に係る画像撮影装置によれば、撮影者が笑顔を検出して笑顔を撮りたい被写体を自在に選択することができる。例えばスルー画像を表示するタッチパネル上で任意に笑顔検出対象の被写体を指定することが可能であり、笑顔の検出対象となる被写体と非対象となる被写体とを区別してスルー画像に表示することもできる。したがって、例えばパーティーなどの風景を撮影する際に比較的大人数を画角に含めた場合などに、2人以上のメンバーが同時に笑っていることを撮影条件にして、笑顔検出に基づく自動撮影を好適に行なうことができる。
また、本発明の第2の側面は、被写体を結像した入力画像を撮影するための処理をコンピュータ上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、前記コンピュータに対し、
該入力画像を信号処理する画像信号処理手順と、
前記画像信号処理手順を実行して信号処理後の入力画像を所定の表示手段に画面表示する表示手順と、
前記画像信号処理手順を実行して信号処理後の入力画像から被写体の顔を検出する顔検出手順と、
前記顔検出手順を実行することによって検出された検出顔から笑顔検出の対象とすべきものを設定する笑顔検出対象顔設定手順と、
前記画面上に表示されるスルー画像上において、前記笑顔検出対象顔設定手順を実行して設定された検出顔をその他の検出顔と区別して表示する表示制御手順と、
前記の笑顔検出対象に設定された検出顔とその他の検出顔を区別した表示画面上におけるユーザの操作に応じて、笑顔検出対象の検出顔を変更する笑顔検出顔変更手順と、
を実行させることを特徴とするコンピュータ・プログラムである。
本発明の第2の側面に係るコンピュータ・プログラムは、コンピュータ上で所定の処理を実現するようにコンピュータ可読形式で記述されたコンピュータ・プログラムを定義したものである。換言すれば、本発明の第2の側面に係るコンピュータ・プログラムをコンピュータにインストールすることによって、コンピュータ上では協働的作用が発揮され、本発明の第1の側面に係る画像撮影装置と同様の作用効果を得ることができる。
本発明によれば、画像に含まれる被写体から笑顔を認識したことを利用して、適切な撮影タイミングを自動的に決定することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することができる。
また、本発明によれば、入力画像に複数の被写体が含まれる場合に、適当な被写体に着目して笑顔検出を行ない、好適な撮影タイミングを自動的に決定することができる、優れた画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラムを提供することができる。
本発明に係る画像撮影装置によれば、撮影者が笑顔を検出して笑顔を撮りたい被写体を自在に選択することができる。例えばスルー画像を表示するタッチパネル上で任意に笑顔検出対象の被写体を指定することが可能であり、笑顔の検出対象となる被写体と非対象となる被写体とを区別してスルー画像に表示することもできる。したがって、例えばパーティーなどの風景を撮影する際に比較的大人数を画角に含めた場合などに、2人以上のメンバーが同時に笑っていることを撮影条件にして、笑顔検出に基づく自動撮影を好適に行なうことができる。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
以下、図面を参照しながら本発明の実施形態について詳解する。
図1には、本発明を適用することができるデジタルスチルカメラ1のハードウェア構成を模式的に示している。図示のデジタルスチルカメラ1は、撮像素子11と、前処理部12と、カメラ・デジタル信号処理部(DSP)16で構成され、光学系10を介して入力される画像をデジタル処理して記録するようになっている。
光学系10は、被写体からの光を撮像素子11に集光するためのレンズ、レンズを移動させてフォーカス合わせやズーミングを行なうための駆動機構、開閉操作により被写体からの光を所定時間だけ撮像素子11に入射させるシャッタ機構、被写体からの光線束の方向並びに範囲を限定するアイリス(絞り)機構(いずれも図示しない)を含んでいる。ドライバ10aは、後述するCPU29からの制御信号に基づいて、光学系10内の各機構の駆動を制御する。
撮像素子11は、CCDやCMOSなどの光電変換効果を持つ各画素が2次元に配列され、被写体からの入射光を電気信号に変換する。受光側には例えばG市松RB色コーディング単板が配設されている。各色フィルタを通した入射光量に対応する信号電荷が各画素に蓄積され、各画素から読み出される3色の各信号電荷量からその画素位置における入射光の色を再現することができる。なお、撮像素子11から出力されるアナログ画像信号は、RGB各色の原色信号であるが、補色系の色信号であってもよい。
AFE(Analog Front End)部12は、CDS/AGC/ADCブロック13と、タイミング・ジェネレータ14と、Vドライバ15を備え、例えば1つのIC(Integrated Circuit)チップとして構成される。
CDS/AGC/ADCブロック13では、画素信号中の撮像素子211から受ける信号の低雑音を高精度に抑圧した後(Correlated Double Sampling(相関二重サンプリング):CDS)、サンプル・ホールドを行ない、さらにAGC(Automatic Gain Control:自動利得制御回路)により適正なゲイン・コントロールをかけて、AD変換を施してデジタル画像信号を出力する。
タイミング・ジェネレータ14は、撮像素子11を駆動するためのタイミング・パルス信号を生成する。そして、Vドライバ15は、このタイミング・パルス信号に従って、撮像素子11の各画素の電荷を垂直方向にライン単位で出力するための駆動信号を出力する。
カメラDSP(Digital Signal Processor)部16は、カメラ信号処理部17と、解像度変換部18と、画像コーデック処理部19と、メモリ制御部20と、表示制御部21と、メディア制御部22を備え、例えば1つのICチップとして構成されている。
カメラ信号処理部17は、AFE部12から送られてくる画像信号に対して、欠陥画素補正やデジタル・クランプ、デジタル・ゲイン制御などの前処理を施した後、AWBによりホワイトバランス・ゲインを掛けるとともに、シャープネス・再度コントラスト調整などの画質補正処理を施して適正な色状態を再現し、さらにデモザイク処理によりRGB画面信号を作成する(画質調整には、フラッシュ調光や赤目軽減などの処理を含めることができる)。また、カメラ信号処理部17は、RGB画像信号に対してγ補正を施し、画像情報をモニタ出力、プリントアウト、又は画像記録する際に適した階調に変換する。また、カメラ信号処理部17では、AFE部13の出力画像信号を基に、輝度情報を検波し、所定範囲毎のヒストグラムを算出するヒストグラム検波、並びに所定範囲毎に色情報を検波する色検波が行なわれる。ヒストグラム検波並びに色検波の結果は、後述する制御部27に出力される。
解像度変換部(Resolution Converter)18は、画像のサイズの変更を行なう。画像コーデック処理部19は、RGB画像信号を輝度信号と色差信号(Y/Cr/Cb)に色空間変換し、JPEG(Joint Picture Experts Group)圧縮やMPEG(Moving Picture Experts Group)などの符号化圧縮処理を行なう。
メモリ制御部20は、撮影した画像情報などのデータを、SDRAM(Synchronous DRAM)などからなるメモリ装置24に対して書き込みや読み出しを行なうためのアクセス動作を制御する。
モニタ・ディスプレイ25は、例えばLCD(Liquid Crystal Display)やその他のタイプの薄型表示パネルなどで構成される。表示制御部21は、モニタ・ディスプレイ25の駆動を制御し、カメラ信号処理部17から出力された画像データ(スルー画像)や、メモリ装置24に保持されている画像データを、モニタ・ディスプレイ25に表示するための信号に変換して、モニタ・ディスプレイ25に出力する。
また、モニタ・ディスプレイ25上には、スルー画像が表示される他、後述する制御部27からの要求に応じて、メニュー画面や各種設定画面や、各種警告情報などを合成して、OSD(On SCreen Display)として表示出力される。本実施形態では、モニタ・ディスプレイ25上にOSD表示される設定画面の1つとして、撮影者が任意に笑顔検出対象として指定した被写体を識別するための検出枠が含まれる。また、笑顔の検出対象となる被写体と非対象となる被写体とを区別して検出枠を表示することもできる。これらの詳細については後述に譲る。
本実施形態では、モニタ・ディスプレイ25の表面にはタッチセンサが重畳されており、タッチパネルを兼ねている。タッチパネルが認識する座標と表示パネルに表示する座標は同一である。したがって、撮影者は、モニタ・ディスプレイの表示画面上で、笑顔の検出対象となる被写体や、その他のGUI部品などを直接指定することができる。
メディア制御部22は、メモリスティック(登録商標)などの着脱可能な記録メディア26を装填するためのスロットを備え、記録メディア26へのデータの書き込みや読み出しを行なう。メディア制御部22は、例えば、メモリ装置24に保持されている撮影画像ファイルを記録メディア26に記録する。
また、カメラDSP部16は、バス・インターフェース・ユニット(BIU)23を介して制御部27に接続されている。制御部27は、UI(User Interface)部28と、ユーザ操作に応じて当該装置全体の動作を統括的に制御するCPU(Central Processing Unit)29と、CPU29にとっての主記憶メモリであるRAM30と、プログラム・コードや装置情報などを不揮発的に保持するEEPROM(Electrically Erasable and Programmable ROM)31などで構成される。
CPU29は、解像度変換部18により解像度変換した後の画像を用いて被写体の笑顔検出処理を行なう。また、CPU29は、モニタ・ディスプレイ25上にOSD表示するためのGUI処理を行なう。本実施形態では、このGUI処理には、撮影者が任意に笑顔検出対象として指定した被写体を識別するための検出枠の表示と、笑顔の検出対象となる被写体と非対象となる被写体とを区別して検出枠を表示することが含まれる。
UI部28は、ユーザが指示入力を行なうための操作機能や、スピーカやLEDランプなどの出力機能を備えている。操作機能として、例えば、シャッタ・レリーズ・ボタンやフラッシュ発光のオン/オフなどの各種設定を行なうためのキーやダイヤルなどを備え、これらへのユーザ操作に応じた制御信号がCPU29に入力される。本実施形態では、UI部28は、操作機能として、図示のように上下左右キー、及びこれら4つのキーに囲まれた中央(決定キー)の5通りの入力が可能な操作キー(あるいは十字キー)を備えているものとする。
また、UI部28は、出力機能を用いて、アラームなどの音声出力や、LEDの点灯又は点滅によって、カメラ・ワークなどに関する情報をユーザにフィードバックすることができる。
フラッシュ発光部32は、制御部27からのフラッシュ制御情報に従って、フラッシュを発光する。
このデジタルスチルカメラ1では、撮像素子11によって受光されて光電変換された信号が、順次AFE部12に供給され、CDS処理やAFE処理が施された後、デジタル信号に変換される。カメラ信号処理部17は、AFE部12から供給されたデジタル画像信号を画質補正し、最終的に輝度信号(Y)と色差信号(R−Y、B−Y)に変換して出力する。
カメラ信号処理部17から出力された画像データは、表示制御部21によって表示用の画像信号に変換され、モニタ・ディスプレイ25上でスルー画像が表示される。
図2には、カメラ画像をモニタ・ディスプレイ25上に表示する際のデータフローを模式的に示している。
被写体の情報は光学系10、撮像素子11、及びAFE部12を通してデジタル信号に変換されカメラDSP部16へ送られる。カメラDSP部16では、画像信号処理により明るさ、色などの補正が行なわれ、パネルに表示するための画像の解像度変換がさらに行なわれ、その結果作成された画像がモニタ・ディスプレイ25上に表示される。このような画像出力処理の制御は、制御部27内のCPU29が所定のプログラム・コードを実行するという形態で実現される。実際には、制御の分担が細かく分かれているが、本発明の要旨に直接関連しないので、ここでは詳細な説明を省略する。
また、UI部28を介したユーザ操作などで制御部27に画像の記録が指示されると、カメラ信号処理部17からの画像データは画像コーデック処理部19に供給され、所定の圧縮符号化処理が施されて、メモリ制御部20を通じてメモリ装置24に保存され、あるいはメディア制御部22を通じて記録メディア26に保存される。静止画像の記録の際には、カメラ信号処理部17からは1フレーム分の画像データが画像コーデック処理部19に供給される。ちなみに、動画像の記録の際には、処理された画像データが画像コーデック処理部19に連続的に供給される。
図3には、デジタルスチルカメラ1が画像撮影処理する際のデータフローを模式的に示している。また、図4には、デジタルスチルカメラ1が画像撮影する際の処理手順をフローチャートの形式で示している。
上記で図2を参照しながら説明したと同様に、被写体をモニタ・ディスプレイ25上に表示させている状態で、UI部28中のシャッターキーをユーザが押下すると(ステップS1)、UI部28はキー検出して、キー情報の信号をCPU29に送る。これに応答して、CPU29は、ドライバ10aに制御信号を出力し、撮影処理を実行する(ステップS2)。その際、適宜AF及びAEの処理が併せて行なわれる。
ドライバ10aを通じて撮影処理の指示が行なわれると、上記と同様に、被写体の情報は光学系10、撮像素子11、及びAFE部12を通してデジタル信号に変換されカメラDSP部16へ送られる。カメラDSP部16では、画像信号処理により明るさ、色などの補正が行なわれ、撮影モードに応じた画像サイズとなるように解像度変換がさらに行なわれる(ステップS3)。その後、画像コーデック処理部19によって画像にJPEG圧縮処理が施された後(ステップS4)、メディア制御部22を通じて記録メディア26に記録される(ステップS5)。
本実施形態に係るデジタルスチルカメラ1は、笑顔など被写体の画像から特定のパターンを認識したことを利用して撮影するタイミングを決めるオート・シャッタ機能を適用することができる。笑顔認識は、CPU29において所定の画像認識処理プログラムを実行するか、又は、制御部27内に画像認識処理用のエンジン(図示しない)を搭載することによって実現可能である。笑顔認識技術自体は周知のものでよいので、ここでは詳細な説明を省略する。
なお、デジタルスチルカメラ1は、カメラが撮影処理を実施する際に、UI部28の出力機能を用いて、アラーム音の発生やランプの点灯若しくは点滅といったUI部28からの外部出力によって撮影するタイミングを被写体に通知するようにしてもよい。
本実施形態に係るデジタルスチルカメラ1は、被写体の笑顔検出に基づいて自動撮影処理を行なうことができる。図5には、デジタルスチルカメラ1が笑顔検出に基づいて自動撮影を行なうための処理手順をフローチャートの形式で示している。
まず、図2と同様のデータフローに従って、光学系10より入力されるカメラ画像をモニタ・ディスプレイ25上に表示させる(ステップS11)。このとき、表示される画像は、制御部27内にも供給される。
本実施形態では、撮影者は、笑顔を検出して笑顔を撮りたい被写体を自在に選択することができる(ステップS12)。具体的には、スルー画像を表示するモニタ・ディスプレイ25(タッチパネル)上で任意に笑顔検出対象の被写体を指定する。
所定の画像認識処理プログラムを実行するCPU29(若しくは、図示しない画像認識エンジン)は、先行ステップS12において指定された被写体についての笑顔度レベルを検出する(ステップS13)。この指定操作に応じて、モニタ・ディスプレイ25上では、指定された指定した被写体を識別するための検出枠がOSD表示される。このとき、笑顔の検出対象となる被写体と非対象となる被写体とを区別して検出枠を表示するようにしてもよい。
ここで、UI部28中のシャッターキーをユーザが押下すると、カメラ撮影処理が起動する(ステップS14)。具体的には、CPU29がドライバ10aを通じて撮影処理の指示を行ない、被写体の情報は光学系10、撮像素子11、及びAFE部12を通してデジタル信号に変換されカメラDSP部16へ送られる。カメラDSP部16では、画像信号処理により明るさ、色などの補正が行なわれる。ここで、笑顔検出に基づいて自動撮影機能がオンされているときには、シャッターキーの押下操作により即座にシャッタが切られるのではなく、被写体の笑顔度レベルがあらかじめ設定された笑顔検出レベルに達したときに、カメラ撮影処理が起動する。
このようにして、シャッターキーの押下操作又は笑顔検出結果に応じてカメラ撮影処理が実施された後、解像度変換部18によって撮影モードに応じた画像サイズに変換され(ステップS15)、さらに、画像コーデック処理部19によって画像にJPEG圧縮処理が施された後(ステップS16)、メディア制御部22を通じて記録メディア26に記録される(ステップS17)。
本実施形態に係るデジタルスチルカメラ1は、撮影者が任意に笑顔検出対象の被写体を指定することが可能であり、例えば2人以上の被写体を同時に笑顔検出の対象として指定することも許容されている。そして、笑顔の検出対象となる被写体と非対象となる被写体とを区別してスルー画像に表示するとともに、スルー画像から得られた被写体の笑顔度レベルが所定の撮影条件を満たすときには、撮影処理が自動的に起動する。以下では、笑顔検出に基づく撮影処理について説明する。なお、被写体の顔検出並びに検出顔の笑顔検出処理のために、制御部27内に画像認識用のエンジンを装備することも考えられるが、以下では便宜上、これらの処理をCPU29内で実施するものとする。
(1)顔検出処理
解像度変換部18によりスルー画像用に解像度変換された画像データは、所定の画像認識処理プログラムを実行するCPU29にも供給される。そして、例えば画像パターン検出により顔検出すなわち画像フレーム中から各被写体の顔領域の抽出を行なう。本発明の要旨は特定の顔検出処理に限定されるものではない。例えば、「ピクセル差分特徴を用いた実時間任意姿勢顔検出器の学習」(第10回画像センシングシンポジウム(SSII 2004))に記載されている顔検出処理アルゴリズムを適用することができる。
顔検出に際し、解像度変換した後の画像全体にわたってスキャンを行なう。但し、画像内に多数の被写体が含まれる場合には、すべての検出顔を対象にして補正や笑顔検出の処理を行なうことは難しい。そこで、各検出顔に優先順位を付け、優先順位の高い検出顔を笑顔検出処理の対象に指定するようにしてもよい。
なお、優先順位の設定方法として、例えば、画面の中央に近い、あるいは顔領域が大きいといった情報に基づいて被写体の重要度を表すスコアをつけ、スコアの大きい順に優先順位を高くするようにすればよい。
現在顔検出している顔の中で笑顔検出の顔を撮影者が知るために、笑顔検出対象となっている被写体と、対象外の被写体とをスルー画像上で区別して表示することが好ましい。検出対象及び対象外の被写体を区別するために、例えば、検出対象の検出顔のみ枠を表示するという方法が考えられる。図6には、検出対象の検出顔のみ枠を表示したスルー画像の一例を示している。
図7には、検出対象の検出顔に枠を表示するための処理手順をフローチャートの形式で示している。ここでは、N人までの被写体を笑顔検出の対象にできるものとする(但し、Nは正の整数)。
まず、図2と同様のデータフローに従って、光学系10より入力されるカメラ画像をモニタ・ディスプレイ25上に表示させる(ステップS21)。このとき、表示されるスルー画像の情報は、制御部27内にも供給される。
制御部27内のCPU29は、所定の顔検出プログラムを実行中であり、スルー画像の情報から顔検出を行なう(ステップS22)。ここで、M人の顔が検出されたときには(但し、Mは正の整数で、M>Nとする)、検出顔毎の重要度を判別し、この判別結果に基づいて各検出顔に優先順位を付ける(ステップS23)。
そして、優先順位が1〜Nまでの検出顔については、笑顔検出用のGUI処理、すなわち当該検出顔に枠をOSD表示する(ステップS24)。一方、優先順位がN+1〜Mまでの検出顔については、通常のGUI処理を行なう(ステップS25)。
また、検出対象及び対象外の被写体を区別して表示する他の方法として、すべての検出顔に枠を表示するが、笑顔検出の対象として選択されている検出顔のみ枠の形態(色や太さ、線の種類などの線の属性)を変える(図8を参照のこと)、あるいは検出対象の検出顔の枠にアイコンを付加する(図9を参照のこと)といった方法なども挙げることができる。図8に示した例では、前列の左から2名の被写体が笑顔検出対象に選択されているが、これらの検出顔のみ太線の枠で囲い、それ以外の検出顔は細い点線の枠で囲っている。また、図9に示した例では、前列の左から2名の被写体が笑顔検出対象に選択されているが、これらの検出顔にのみ、選択されたことを示すアイコンが付加されている。
このように、枠の表示方法に関しては2通りの仕様が考えられる。1つは自動で選択される笑顔検出対象の人数分だけ、変更された優先順位で上位の人だけを選択して枠を表示するという方法である。もう1つは、領域で囲った顔すべてを新たな笑顔検出対象とする方法である。後者のようにすべての検出顔を枠で囲う場合には、ユーザ(撮影者)は、笑顔検出対象となっている検出顔を確認できるだけでなく、システムが入力画像から顔検出したすべての被写体を確認することもできる。
(2)笑顔検出処理
笑顔検出の仕様については幾つかのケースが想定される。例えば、複数の検出顔についてそれぞれ笑顔検出を行ない、これら複数の検出結果を統計的に処理することもできる。ここでは説明の簡素化のため、上記で検出された検出顔のうち最も優先順位の高い顔1名(仮に、その被写体を「Aさん」とする)について着目し、その人が笑ったら自動的に撮影を行なう仕様に従って説明する。
笑顔検出処理には、上記の顔検出処理と同じアルゴリズム、例えば、「ピクセル差分特徴を用いた実時間任意姿勢顔検出器の学習」(第10回画像センシングシンポジウム(SSII 2004))に記載されている顔検出処理アルゴリズムを適用することができる。但し、この場合は参照する画像の辞書が相違する。
そして、着目する被写体の検出顔について笑顔が検出されると、入力画像についての撮影用の解像度変換、JPEG画像圧縮、符号化圧縮画像の記録メディアへの記録といった撮影処理が起動する。
上述したように、入力画像からM人の顔が検出されたときには、優先順位付けによって、このうちN人が笑顔検出の対象として選択される(但し、MとNは正の整数で、M≧Nとする)(前述)。ここで、Nが2以上、すなわち笑顔検出の対象となる被写体が複数存在する場合には、少なくとも1人の笑顔が検出されたら撮影を自動的に行なう、あるいは、選択されたN人全員の笑顔が検出されたら撮影を自動的に行なう、というような仕様が考えられる。いずれにしても対象のN人が誰なのかは優先順位の決め方の中で決まっている
なお、本明細書では、笑顔検出に基づいて撮影処理を起動する場合についてのみ説明するが、勿論、笑顔検出結果に基づいて撮影以外の処理を行なうことも考えられる。
(3)被写体の選択
上記の説明では、撮像素子より入力された画像フレーム中に複数の被写体が含まれる場合には、システム側で笑顔検出の対象となる被写体を自動で選択するようになっている。各検出顔について重要度を判別し、判別結果に基づいて優先順位を付け、最も優先順位の高い検出顔を笑顔検出の対象に指定する。
撮影者は、モニタ・ディスプレイ25に表示されたスルー画像を介して、笑顔の検出対象となる被写体を指定することができる。この指定方法として、タッチパネルとして構成されるモニタ・ディスプレイ25の表示画面上で指先やスタイラスを用いて直接被写体を指示する方法と、UI部28が備える十字キーを用いて選択する方法などが考えられる。以下では、各方法についてそれぞれ説明する。
ここで、図10に示す入力画像を例にとって、自動で選択された笑顔検出対象の顔を別の顔に変更する操作について説明する。同図では、画像中で前列略中央の枠で囲われた検出顔が優先順位に従って笑顔検出の対象として自動選択されているときに、前列の右隣の被写体を笑顔検出の対象に変更したいとする。
図11に示すように、タッチパネルを構成するモニタ・ディスプレイ25の画面上で、変更したい顔の付近に対してタッチ操作を行なう。すると位置検出によりタッチされた座標を認識する。続いて、画像パターン検出によりその座標の近傍で顔検出を行なう。
このとき、顔検出ができたならば、その検出顔の優先順位を最高位に変更する。これに伴い、当該検出顔より優先順位が高位であったその他の検出顔の優先順位をそれぞれ1つずつ繰り下げる。
そして、OSD表示処理する際に、この新しい優先順位変更の情報に基づいて、優先順位が最高位に変更された顔に対して枠作成の処理を行ない、モニタ・ディスプレイ25上に枠を表示させる。
なお、上記ではタッチすることにより顔検出が成功した場合で説明したが、タッチした位置で顔検出ができなかった場合は、変更の処理を実施しない。
また、タッチパネルではなく、UI部28に装備された上下左右キーを用いて、笑顔検出の対象となる被写体を選択するという操作方法も考えられる。以下では、このような操作方法について説明する。
この場合、顔検出処理が終了した時点で、各検出顔に対しキー操作のための操作順を割り振る。図12にはその様子を図解している。図示の例では、画像を上から下に向かって水平スキャンを繰り返していき、左から右、そして上から下に、各検出顔に操作順を付けていく。
そして、ユーザによる上下左右キーのキー操作が行なわれると、現在選択されている検出顔から、キー操作に応じた分だけ操作順を前後させて、処理対象となる検出顔を変更する。
図13には、上下左右キーのキー操作に応じて処理対象の検出顔を変更するときの画面遷移例を示している。同図において、操作したキーを斜線で示しておく。各検出顔に操作順が割り振られた後に、中央の決定キーを押下すると顔を変更するモードに入る。そして、左キーで操作順を1だけ増分するように顔選択を移動させ、また、右キーで操作順を1だけ減分するように顔選択を移動させる。移動が終わったら、再び決定キーで笑顔検出対象の顔を決定する。
(4)笑顔検出対象の検出顔が複数存在する場合の処理
ここまでの説明では、笑顔検出の対象となる検出顔を1名だけに限定していたが、複数の検出顔を笑顔検出の対象とすることができる。
図14には、笑顔検出の対象となる検出顔を3名としたときに、笑顔検出対象の検出顔を変更するときの画面遷移例を示している。
まず、顔検出を行なった後、例えば、画面の中央に近い、あるいは顔領域が大きいといった情報に基づいて被写体の重要度を表すスコアをつけるといったアルゴリズムに従って優先順位の設定を行ない、優先順位が上位3名までの被写体が検出対象に選択され、同図左に示すようにモニタ・ディスプレイ25上の画面においてこれらの検出顔が枠で囲われる。
このとき、同図中央に示すように、ユーザ(撮影者)が、検出対象に選ばれていないが検出対象にしたいと考えている被写体の顔の付近をタッチパネルで指示する。
このような指示操作に応答して、ユーザが希望する被写体の優先順位を最上位に変更し、それまでは当該被写体よりも優先順位が上位であった各被写体の優先順位をそれぞれ1ずつ減分する。この結果、優先順位が3位であった被写体は4位に繰り下がり、笑顔の検出対象から外れることになる。
そして、新しい優先順位が上位3名までの被写体が検出対象に選択され、同図右に示すようにモニタ・ディスプレイ25上の画面においてこれらの検出顔が枠で囲われる。同図左と比較すると、後列の最左端の被写体がユーザのタッチ操作に従って優先順位が最上位となったことに伴い、後列略中央の被写体が検出対象から外され、この検出顔を囲っていた枠が消失している。
(5)被写体の選択方法
上記の説明では、タッチパネル又は左右キー操作によって被写体を1つずつ選択する例について説明したが、タッチパネル上で複数の検出顔を囲うようなタッチ操作によって同時に複数の検出顔を指定することもできる。
図15には、このような場合の画面遷移例を示している。ここでは、笑顔検出の対象となる検出顔を2名とし、自動で選択される笑顔検出対象の人数分だけ枠表示するものとする。
ユーザ(撮影者)は、タッチパネルを介して、検出対象として指定したい顔を囲うようなタッチパネル操作を行なう。すると、位置検出によりタッチ座標から囲われた領域を認識すると、続いて画像パターン検出によりその領域内で顔検出を行なう。
ここで、タッチ操作された領域内から顔画像を検出ができたら、その検出顔に対して顔の優先順位を最高位に変更する。このとき、同領域内から検出した顔が1人であればその人を1番目の優先順位にする。また、検出顔が複数あるときには、これらの中での所定のアルゴリズムにより優先順位を割り振る。検出顔が2名を超えるときには(図示の例では4名)、同領域内での優先順位が2番目までの検出顔について優先順位の繰り上げを行なうが、3番目以降の検出顔は繰り上げを行なわない。また、この優先順位の繰り上げに伴い、これらの被写体よりも優先順位が上位であった各被写体の優先順位を繰り下げる。
そして、OSD表示処理する際に、この新しい優先順位変更の情報に基づいて、笑顔検出の対象に変更された顔に対して枠作成の処理を行ない、モニタ・ディスプレイ25のスルー画像上に枠を表示させる。
図15Aに示した例では、最前列の左から2名までの被写体が笑顔の検出対象に選択されている。
このとき、図15Bに示すように、ユーザ(撮影者)は、タッチパネルを介して後列の左から4名の顔を囲うような操作を行なう。
領域で囲った顔すべてを新たな笑顔検出対象とする場合には、図15Cに示すように、最前列の左から2名までの被写体から後列の左から4名の検出顔に、笑顔検出対象が切り替わる。これに伴って、後列の左から4名の検出顔をそれぞれ囲う枠が表示されるとともに、最前列の左から2名の検出顔を囲っていた枠が消失する。
また、笑顔検出対象の人数分すなわち2名だけを笑顔検出対象を切り替える場合には、図15Dに示すように、タッチパネル操作により囲われた4名の中から所定のアルゴリズムにより優先順位が上位とされた後列の左から3番目及び4番目の2名のみが笑顔検出対象に選択され、後列の左から3番目及び4番目の検出顔を囲う枠が表示される。これに伴い、最前列の左から2名の検出顔を囲っていた枠が消失する。
図16には、ユーザのタッチパネル操作に応じて笑顔検出対象となる検出顔を切り替えるための処理手順をフローチャートの形式で示している。
まず、システム側で入力画像に対して顔検出処理を行ない、さらに各検出顔の重要度を判別して優先順位を付け、上位から所定人数を笑顔検出対象に自動選択する(ステップS31)。
選択された各検出顔は、スルー画像上で枠が付けられる。ユーザ(撮影者)は、モニタ・ディスプレイ25上で、笑顔検出の対象となっている被写体を確認する。ここで、笑顔対象を変更したいときには、検出対象として指定したい顔を囲うようなタッチパネル操作を行なう(ステップS32)。
すると、位置検出によりタッチ座標から囲われた領域を認識すると、続いて画像パターン検出によりその領域内で顔検出を行なう(ステップS33)。ここで、タッチ操作された領域内から顔画像を検出ができたら、その検出顔に対して顔の優先順位を繰り上げる(ステップS34)。また、この優先順位の繰り上げに伴い、これらの被写体よりも優先順位が上位であった各被写体の優先順位を繰り下げる。
そして、OSD表示処理する際に、この新しい優先順位変更の情報に基づいて、優先順位が最高位に変更された顔に対して枠作成の処理を行ない、モニタ・ディスプレイ25のスルー画像上に枠を表示させる(ステップS35)。
このように、本実施形態に係るデジタルスチルカメラ1によれば、撮影者が笑顔を検出して笑顔を撮りたい被写体を自在に選択することができる。例えばスルー画像を表示するタッチパネル上で任意に笑顔検出対象の被写体を指定することが可能であり、笑顔の検出対象となる被写体と非対象となる被写体とを区別してスルー画像に表示することもできる。したがって、例えばパーティーなどの風景を撮影する際に比較的大人数を画角に含めた場合などに、2人以上のメンバーが同時に笑っていることを撮影条件にして、笑顔検出に基づく自動撮影を好適に行なうことができる。
以上、特定の実施形態を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
本明細書では、デジタルスチルカメラに適用した実施形態を中心に説明してきたが、本発明の要旨はこれに限定されるものではない。例えば、携帯電話機やPDA(Personal Digital Assistant)、あるいはその他のカメラ機能を備えたさまざまな情報機器に対して本発明を同様に適用することができる。
また、本明細書では、笑顔検出に基づいて撮影処理を起動する場合についてのみ説明したが、勿論、笑顔検出結果に基づいて撮影以外の処理を行なうことも考えられる。
要するに、例示という形態で本発明を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本発明の要旨を判断するためには、特許請求の範囲を参酌すべきである。
図1は、本発明を適用することができるデジタルスチルカメラ1のハードウェア構成を模式的に示した図である。 図2は、カメラ画像をモニタ・ディスプレイ25上にスルー表示する際のデータフローを模式的に示した図である。 図3は、デジタルスチルカメラ1が画像撮影処理する際のデータフローを模式的に示した図である。 図4は、デジタルスチルカメラ1が画像撮影する際の処理手順を示したフローチャートである。 図5は、デジタルスチルカメラ1が笑顔検出に基づいて自動撮影を行なうとともに撮影するタイミングを被写体に通知するための処理手順を示したフローチャートである。 図6は、検出対象の検出顔のみ枠を表示したスルー画像の一例を示した図である。 図7は、検出対象の検出顔に枠を表示するための処理手順を示したフローチャートである。 図8は、笑顔検出の対象として選択されている検出顔のみ枠の形態を変えて表示したスルー画像の一例を示した図である。 図9は、検出対象の検出顔の枠にアイコンを付加したスルー画像の一例を示した図である。 図10は、自動で選択された笑顔検出対象の顔を別の顔に変更する操作を説明するための図である。 図11は、自動で選択された笑顔検出対象の顔を別の顔に変更する操作を説明するための図である。 図12は、画像から検出された各検出顔に対してキー操作のための操作順を割り振る処理を説明するための図である。 図13は、上下左右キーのキー操作に応じて処理対象の検出顔を変更するときの画面遷移例を示した図である。 図14は、笑顔検出の対象となる検出顔を3名としたときに、笑顔検出対象の検出顔を変更するときの画面遷移例を示した図である。 図15Aは、同時に複数の検出顔を笑顔検出の対象として師弟するときの画面遷移例を示した図である。 図15Bは、同時に複数の検出顔を笑顔検出の対象として師弟するときの画面遷移例を示した図である。 図15Cは、同時に複数の検出顔を笑顔検出の対象として師弟するときの画面遷移例を示した図である。 図15Dは、同時に複数の検出顔を笑顔検出の対象として師弟するときの画面遷移例を示した図である。 図16は、ユーザのタッチパネル操作に応じて笑顔検出対象となる検出顔を切り替えるための処理手順を示したフローチャートである。
符号の説明
1…デジタルスチルカメラ
10…光学系
10a…ドライバ
11…撮像素子
12…AFE部
13…CDS/AGC/ADCブロック
14…タイミング・ジェネレータ
15…Vドライバ
16…カメラDSP部
17…カメラ信号処理部
18…解像度変換部
19…画像コーデック処理部
20…メモリ制御部
21…表示制御部
22…メディア制御部
23…バス・インターフェース・ユニット
24…メモリ装置
25…モニタ・ディスプレイ
26…記録メディア
27…制御部
28…UI部
29…CPU
30…RAM
31…EEPROM
32…フラッシュ発光部

Claims (8)

  1. 被写体を結像した画像を入力する画像入力手段と、
    入力される前記画像を信号処理する信号処理手段と、
    前記信号処理手段が信号処理した前記画像から被写体の顔を検出する検出手段と、
    前記検出手段が検出した各検出顔の重要度を判別し、該重要度に応じて各検出顔に優先順位を割り振り、優先順位の高い方から所定数の検出顔を笑顔検出の対象に設定する設定手段と、
    スルー画像上において前記設定手段が設定した検出顔とその他の検出顔とを区別して表示画面に表示する表示手段と、
    前記表示画面の顔に対する操作入力に基づいて、笑顔検出の対象とする顔を前記設定手段に変更させる制御手段と、
    笑顔検出対象となった検出顔の笑顔度レベルを検出する笑顔度レベル検出手段と、
    前記笑顔度レベル検出手段により検出された笑顔度レベルが笑顔検出レベルに到達したことに応じて撮影処理を制御する撮影制御手段と、
    を具備することを特徴とする画像撮影装置。
  2. 前記設定手段は、画像内の各検出顔の位置又はその他の情報に基づいて検出顔毎の重要度を判別する、
    ことを特徴とする請求項1に記載の画像撮影装置。
  3. 前記表示手段は、笑顔検出対象となった検出顔に枠を付けてスルー画像を表示する、
    ことを特徴とする請求項1に記載の画像撮影装置。
  4. 前記表示手段は、前記検出手段によって検出されたすべての検出顔に枠を付けるとともに、笑顔検出対象となった検出顔についての枠の表示形式を変え又は所定のアイコンを付けてスルー画像を表示する、
    ことを特徴とする請求項1に記載の画像撮影装置。
  5. 2以上の検出顔を笑顔検出対象とした場合において、前記撮影制御手段は、少なくとも1人の笑顔が検出されたら撮影を自動的に行なう、あるいは、選択された全員の笑顔が検出されたら撮影を自動的に行なう、
    ことを特徴とする請求項1に記載の画像撮影装置。
  6. 前記表示画面上で方向を指示する方向操作キーをさらに備え、
    前記検出手段が入力画像から複数の被写体の顔を検出するとともに各検出顔に操作順を付与し、前記設定手段が各検出顔の重要度に応じて複数の検出顔を笑顔検出の対象に設定している場合において、
    前記制御手段は、前記方向操作キーを介してユーザが指定した検出顔を操作順に応じて特定し、該検出顔の優先順位を繰り上げて笑顔検出の対象に変更する、
    ことを特徴とする請求項1に記載の画像撮影装置。
  7. 被写体を結像した入力画像を撮影処理する画像撮影方法であって、
    入力される前記画像を信号処理する信号処理ステップと、
    前記信号処理ステップにおいて信号処理した前記画像から被写体の顔を検出する検出ステップと、
    前記顔検出ステップにおいて検出した各検出顔の重要度を判別し、該重要度に応じて各検出顔に優先順位を割り振り、優先順位の高い方から所定数の検出顔を笑顔検出の対象とする顔に設定する設定ステップと、
    スルー画像上において、前記設定ステップにおいて設定された検出顔とその他の検出顔とを区別して表示する表示ステップと、
    前記スルー画像上の顔に対する操作入力に基づいて、笑顔検出の対象とする顔を前記設定ステップにより変更させる制御ステップと、
    笑顔検出対象となった検出顔の笑顔度レベルを検出する笑顔度レベル検出ステップと、
    前記笑顔度レベル検出ステップにおいて検出された笑顔度レベルが笑顔検出レベルに到達したことに応じて撮影処理を制御する撮影制御ステップと、
    を有し、
    2以上の検出顔を笑顔検出対象とした場合において、前記撮影制御ステップでは、少なくとも1人の笑顔が検出されたら撮影を自動的に行なう、あるいは、選択された全員の笑顔が検出されたら撮影を自動的に行なう、
    ことを特徴とする画像撮影方法。
  8. 被写体を結像した入力画像を撮影するための処理をコンピュータ上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、前記コンピュータを、
    入力される前記画像を信号処理する信号処理手段、
    前記信号処理手段が信号処理した前記画像から被写体の顔を検出する検出手段、
    前記検出手段が検出した各検出顔の重要度を判別し、該重要度に応じて各検出顔に優先順位を割り振り、優先順位の高い方から所定数の検出顔を笑顔検出の対象に設定する設定手段、
    スルー画像上において前記設定手段が設定した検出顔とその他の検出顔とを区別して表示画面に表示する表示手段、
    前記表示画面の顔に対する操作入力に基づいて、笑顔検出の対象とする顔を前記設定手段に変更させる制御手段、
    笑顔検出対象となった検出顔の笑顔度レベルを検出する笑顔度レベル検出手段と、
    前記笑顔度レベル検出手段により検出された笑顔度レベルが笑顔検出レベルに到達したことに応じて撮影処理を制御する撮影制御手段と、
    として機能させ、
    2以上の検出顔を笑顔検出対象とした場合において、前記撮影制御手段は、少なくとも1人の笑顔が検出されたら撮影を自動的に行なう、あるいは、選択された全員の笑顔が検出されたら撮影を自動的に行なう、
    ことを特徴とするコンピュータ・プログラム。
JP2007156066A 2007-06-13 2007-06-13 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム Expired - Fee Related JP4453721B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007156066A JP4453721B2 (ja) 2007-06-13 2007-06-13 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
US12/126,401 US8542885B2 (en) 2007-06-13 2008-05-23 Imaging device, imaging method and computer program
CN2008101101907A CN101325658B (zh) 2007-06-13 2008-06-12 成像设备和成像方法
KR1020080055368A KR20080109666A (ko) 2007-06-13 2008-06-12 촬상 장치, 촬상 방법, 및 컴퓨터 프로그램

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007156066A JP4453721B2 (ja) 2007-06-13 2007-06-13 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009223762A Division JP4849163B2 (ja) 2009-09-29 2009-09-29 画像処理装置及び画像処理方法、並びにコンピュータ・プログラム

Publications (2)

Publication Number Publication Date
JP2008311817A JP2008311817A (ja) 2008-12-25
JP4453721B2 true JP4453721B2 (ja) 2010-04-21

Family

ID=40136514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007156066A Expired - Fee Related JP4453721B2 (ja) 2007-06-13 2007-06-13 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム

Country Status (4)

Country Link
US (1) US8542885B2 (ja)
JP (1) JP4453721B2 (ja)
KR (1) KR20080109666A (ja)
CN (1) CN101325658B (ja)

Families Citing this family (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4254873B2 (ja) * 2007-02-16 2009-04-15 ソニー株式会社 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム
JP5164692B2 (ja) * 2008-06-27 2013-03-21 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2010108475A (ja) * 2008-10-03 2010-05-13 Sony Corp 画像処理装置および方法、プログラム、並びに記録媒体
JP5116652B2 (ja) * 2008-12-24 2013-01-09 三洋電機株式会社 撮像装置および笑顔記録プログラム
EP2373002A4 (en) 2008-12-26 2012-07-25 Panasonic Corp IMAGE CAPTURE DEVICE
JP5304294B2 (ja) * 2009-02-10 2013-10-02 株式会社ニコン 電子スチルカメラ
JP5272775B2 (ja) * 2009-02-12 2013-08-28 株式会社ニコン 電子スチルカメラ
WO2011021906A2 (en) * 2009-08-21 2011-02-24 Samsung Electronics Co., Ltd. Method and apparatus for requesting data, and method and apparatus for obtaining data
JP5610738B2 (ja) * 2009-10-28 2014-10-22 キヤノン株式会社 表示制御装置、制御方法、プログラム及び記憶媒体
JP5424851B2 (ja) * 2009-12-16 2014-02-26 キヤノン株式会社 画像処理装置および画像処理方法
JP2011135376A (ja) * 2009-12-24 2011-07-07 Samsung Yokohama Research Institute Co Ltd 撮像装置及び画像処理方法
JP5430428B2 (ja) * 2010-02-01 2014-02-26 オリンパスイメージング株式会社 撮影機器
KR101630304B1 (ko) * 2010-02-04 2016-06-14 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 매체
KR101709503B1 (ko) * 2010-06-04 2017-03-08 엘지전자 주식회사 이동 단말기 및 영상 디스플레이 방법
CN102447644B (zh) * 2010-10-09 2017-04-19 三星电子(中国)研发中心 基于嵌入有联系人信息的图像进行通信的方法
JP5710940B2 (ja) * 2010-11-09 2015-04-30 オリンパス株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP5871473B2 (ja) * 2011-02-09 2016-03-01 キヤノン株式会社 目標物選択装置、その制御方法、および制御プログラム
JP5220157B2 (ja) * 2011-04-01 2013-06-26 キヤノン株式会社 情報処理装置及びその制御方法、プログラム、並びに記憶媒体
JP2012244526A (ja) * 2011-05-23 2012-12-10 Sony Corp 情報処理装置、情報処理方法及びコンピュータプログラム
CN102890604B (zh) * 2011-07-21 2015-12-16 腾讯科技(深圳)有限公司 人机交互中在机器侧标识目标对象的方法及装置
KR101231469B1 (ko) * 2012-02-23 2013-02-07 인텔 코오퍼레이션 이미지 처리 지원 방법, 장치, 및 이 방법을 실행하기 위한 컴퓨터 판독 가능한 기록 매체
US8965046B2 (en) 2012-03-16 2015-02-24 Qualcomm Technologies, Inc. Method, apparatus, and manufacture for smiling face detection
US9712750B2 (en) * 2012-04-09 2017-07-18 Sony Corporation Display control device and associated methodology of identifying a subject in an image
CN104204938B (zh) * 2012-04-19 2017-11-17 索尼移动通信株式会社 图像聚焦
JP5970937B2 (ja) 2012-04-25 2016-08-17 ソニー株式会社 表示制御装置および表示制御方法
KR20140014548A (ko) * 2012-07-24 2014-02-06 삼성전자주식회사 전자 장치, 그 제어 방법, 및 컴퓨터 판독가능 기록매체
CN102999164B (zh) * 2012-11-30 2016-08-03 广东欧珀移动通信有限公司 一种电子书翻页控制方法及智能终端
CN103347117B (zh) * 2013-05-31 2015-08-12 东莞宇龙通信科技有限公司 通信终端的拍摄方法及通信终端
CN104935912B (zh) * 2014-03-19 2017-09-29 联想(北京)有限公司 一种信息处理方法及电子设备
WO2015178520A1 (ko) * 2014-05-22 2015-11-26 엘지전자 주식회사 이동 단말기 및 그 제어방법
US10027883B1 (en) * 2014-06-18 2018-07-17 Amazon Technologies, Inc. Primary user selection for head tracking
US9729865B1 (en) 2014-06-18 2017-08-08 Amazon Technologies, Inc. Object detection and tracking
US9571725B2 (en) * 2014-09-02 2017-02-14 Htc Corporation Electronic device and image capture method thereof
KR102294599B1 (ko) * 2014-09-02 2021-08-27 엘지전자 주식회사 디스플레이 디바이스 및 그 제어 방법
CN105516576B (zh) * 2014-09-22 2020-01-21 中兴通讯股份有限公司 一种基于口型识别的拍照方法、装置和移动终端
CN104410782A (zh) * 2014-11-07 2015-03-11 深圳市金立通信设备有限公司 一种终端
CN104504366A (zh) * 2014-11-24 2015-04-08 上海闻泰电子科技有限公司 基于光流特征的笑脸识别系统及方法
CN104636036A (zh) * 2015-01-12 2015-05-20 青岛海信电器股份有限公司 一种画面显示控制方法及装置
CN105260732A (zh) * 2015-11-26 2016-01-20 小米科技有限责任公司 图片处理方法及装置
US10136049B2 (en) * 2017-01-09 2018-11-20 International Business Machines Corporation System, method and computer program product for contextual focus/zoom of event celebrities
WO2018188007A1 (zh) * 2017-04-13 2018-10-18 华为技术有限公司 自拍的方法、装置和终端设备
JP7040043B2 (ja) * 2018-01-25 2022-03-23 セイコーエプソン株式会社 写真処理装置、写真データの生産方法および写真処理プログラム
CN108462833B (zh) * 2018-03-26 2021-01-22 北京小米移动软件有限公司 拍摄方法、装置及计算机可读存储介质
US11113507B2 (en) 2018-05-22 2021-09-07 Samsung Electronics Co., Ltd. System and method for fast object detection
CN109151325A (zh) * 2018-10-26 2019-01-04 昆山亿趣信息技术研究院有限公司 一种合成笑脸的处理方法及处理装置
JP2020149304A (ja) * 2019-03-13 2020-09-17 ソニー株式会社 撮像装置および表情検出方法
CN111314760B (zh) * 2020-01-19 2021-07-02 深圳市爱深盈通信息技术有限公司 电视机及其笑脸拍摄方法
JP2021150760A (ja) * 2020-03-18 2021-09-27 キヤノン株式会社 撮像装置およびその制御方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09171560A (ja) 1995-12-20 1997-06-30 Oki Electric Ind Co Ltd 顔の傾き検出装置
JP2000347278A (ja) 1999-06-04 2000-12-15 Fuji Photo Film Co Ltd カメラ及び撮影方法
US6931147B2 (en) * 2001-12-11 2005-08-16 Koninklijke Philips Electronics N.V. Mood based virtual photo album
JP2003271933A (ja) 2002-03-18 2003-09-26 Sony Corp 顔検出装置及び顔検出方法並びにロボット装置
JP2004294498A (ja) 2003-03-25 2004-10-21 Fuji Photo Film Co Ltd 自動撮影システム
JP4489608B2 (ja) 2004-03-31 2010-06-23 富士フイルム株式会社 ディジタル・スチル・カメラ,画像再生装置および顔画像表示装置ならびにそれらの制御方法
JP4442344B2 (ja) 2004-07-16 2010-03-31 株式会社ニコン デジタルカメラ
JP4742296B2 (ja) 2004-09-22 2011-08-10 カシオ計算機株式会社 撮像装置、合成画像作成方法及びプログラム
WO2006040761A2 (en) * 2004-10-15 2006-04-20 Oren Halpern A system and a method for improving the captured images of digital still cameras
JP2006145629A (ja) 2004-11-16 2006-06-08 Fuji Photo Film Co Ltd 撮像装置
JP2006201531A (ja) 2005-01-21 2006-08-03 Konica Minolta Holdings Inc 撮像装置
JP2006237803A (ja) 2005-02-23 2006-09-07 Konica Minolta Photo Imaging Inc 撮像システム、写真撮影スタジオ、撮像システムの制御方法
JP2006253805A (ja) 2005-03-08 2006-09-21 Olympus Corp 撮影装置及び撮影方法
EP1962497B1 (en) 2005-11-25 2013-01-16 Nikon Corporation Electronic camera and image processing device
JP4197019B2 (ja) * 2006-08-02 2008-12-17 ソニー株式会社 撮像装置および表情評価装置
JP4757173B2 (ja) * 2006-11-17 2011-08-24 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP2008201531A (ja) 2007-02-20 2008-09-04 Fuji Xerox Co Ltd 画像形成装置
US7664389B2 (en) * 2007-05-21 2010-02-16 Sony Ericsson Mobile Communications Ab System and method of photography using desirable feature recognition
JP4958659B2 (ja) * 2007-07-03 2012-06-20 キヤノン株式会社 画像表示制御装置及び画像表示制御方法及びプログラム及び記録媒体
JP5053731B2 (ja) * 2007-07-03 2012-10-17 キヤノン株式会社 画像表示制御装置及び画像表示制御方法及びプログラム及び記録媒体
US8750578B2 (en) * 2008-01-29 2014-06-10 DigitalOptics Corporation Europe Limited Detecting facial expressions in digital images

Also Published As

Publication number Publication date
CN101325658A (zh) 2008-12-17
KR20080109666A (ko) 2008-12-17
US20080317285A1 (en) 2008-12-25
CN101325658B (zh) 2010-09-01
JP2008311817A (ja) 2008-12-25
US8542885B2 (en) 2013-09-24

Similar Documents

Publication Publication Date Title
JP4453721B2 (ja) 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP4600435B2 (ja) 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP4356778B2 (ja) 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
US8164643B2 (en) Composition determining apparatus, composition determining method, and program
US8823864B2 (en) Image capturing apparatus and associated methodology for auto-focus and facial detection
US8624988B2 (en) Image pickup apparatus, image pickup method, and program thereof
TW200808044A (en) Imaging apparatus and computer readable recording medium
JP5681871B2 (ja) 撮像装置、撮像方法及びプログラム
JP4849163B2 (ja) 画像処理装置及び画像処理方法、並びにコンピュータ・プログラム
JP5180349B2 (ja) 撮影装置および方法並びにプログラム
JP2009094946A (ja) 撮像装置及び撮像装置における肖像権保護方法
JP4799501B2 (ja) 撮影装置、撮影装置の制御方法およびプログラム
JP2009089220A (ja) 撮像装置
JP5332369B2 (ja) 画像処理装置及び画像処理方法、並びにコンピュータ・プログラム
KR20110090610A (ko) 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 매체
JP5077294B2 (ja) 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP2007208355A (ja) 撮影装置および方法並びにプログラム
JP2006128793A (ja) 撮像装置、及びその制御方法
JP5157528B2 (ja) 撮影装置
KR101533279B1 (ko) 영상의 흔들림을 판단하는 디지털 영상 신호 처리 장치의 제어 방법, 이를 기록한 기록 매체, 및 상기 제어 방법에 의해 실행하는 디지털 영상 신호 처리 장치
JP4862755B2 (ja) 画像撮影制御装置及び画像撮影制御方法、並びにコンピュータ・プログラム
JP2006253761A (ja) 撮像装置およびプログラム
JP2011250277A (ja) 撮像装置
KR20100018332A (ko) 촬영한 영상을 분리 저장하는 디지털 촬영 장치의 제어방법 및 상기 방법에 의해 제어되는 디지털 촬영 장치

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081006

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081006

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090610

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090929

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20091016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100112

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100125

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130212

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4453721

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140212

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees