JP5087856B2 - 電子カメラ - Google Patents

電子カメラ Download PDF

Info

Publication number
JP5087856B2
JP5087856B2 JP2006104047A JP2006104047A JP5087856B2 JP 5087856 B2 JP5087856 B2 JP 5087856B2 JP 2006104047 A JP2006104047 A JP 2006104047A JP 2006104047 A JP2006104047 A JP 2006104047A JP 5087856 B2 JP5087856 B2 JP 5087856B2
Authority
JP
Japan
Prior art keywords
face
face recognition
data
image
electronic camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006104047A
Other languages
English (en)
Other versions
JP2007281760A (ja
Inventor
弘剛 野崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2006104047A priority Critical patent/JP5087856B2/ja
Priority to EP07737019A priority patent/EP2012528A4/en
Priority to EP18156792.6A priority patent/EP3379819A1/en
Priority to US12/225,824 priority patent/US8379108B2/en
Priority to PCT/JP2007/000362 priority patent/WO2007113937A1/ja
Publication of JP2007281760A publication Critical patent/JP2007281760A/ja
Application granted granted Critical
Publication of JP5087856B2 publication Critical patent/JP5087856B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32106Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title separate from the image data, e.g. in a different computer file
    • H04N1/32122Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title separate from the image data, e.g. in a different computer file in a separate device, e.g. in a memory or on a display separate from image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3204Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a user, sender, addressee, machine or electronic recording medium
    • H04N2201/3205Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a user, sender, addressee, machine or electronic recording medium of identification information, e.g. name or ID code

Description

本発明は、電子カメラに関する。
従来から、人物の顔を撮影した撮影画像から人物の顔の特徴点を抽出し、認識する人物に関する顔認識データと上記の特徴点との一致度に基づいて顔認識を行う技術が開示されている(特許文献1参照)。かかる顔認識の技術では、予め電子カメラなどに顔認識データを登録する必要がある。特に顔認識の精度を向上させるためにはより多くの顔認識データが必要となるので、複数フレームの撮影画像から顔認識データを生成する必要がある。
特開平6−259534号公報
ところで、上記のカメラにおいて顔認識データを生成する作業が煩雑であると顔認識データの生成量および生成頻度が低下し、顔認識機能が十分に活用されなくなるおそれもある。そのため、顔認識データをより容易に作成できる手段が要望されている。
本発明は上記従来技術の課題を解決するためのものであって、その目的は、顔認識データを容易に作成できる電子カメラを提供することである。
本発明の一態様として、撮像素子と、操作部と、顔検出部と、制御部と、顔認識データ生成部と、記録部と、表示部とを備えた電子カメラを提供する。撮像素子は、被写体の結像を光電変換して画像信号を生成する。操作部は、レリーズを指示する入力を受け付ける。顔検出部は、レリーズの待機時に画像信号に基づいて撮影画面内の顔領域を検出する。制御部は、レリーズに応じて被写体を撮影し、画像信号から撮影画像を生成する。顔認識データ生成部は、顔領域が検出されている状態でレリーズがあった場合に、撮影画像に基づいて顔領域に対応する人物の顔の特徴点を抽出し、次回撮影の顔認識処理で用いる顔認識データを生成する。記録部は、顔認識データと、顔認識データに対応する顔を示すインデックス画像とを対応付けて記録する。表示部は、顔認識処理の認識対象を指定する入力を受け付けるときに、インデックス画像を表示する。
本発明の電子カメラによれば、顔領域が検出されている状態でレリーズがあった場合には、撮影画像データとともに、撮影された人物の顔認識データが生成される。
図1は本実施形態の電子カメラの構成を示すブロック図である。
電子カメラは、撮影光学系11と、第1レンズ駆動部12と、揺動センサ部13と、像ぶれ補正レンズ14と、第2レンズ駆動部15と、撮像素子16と、アナログ信号処理部17と、A/D変換部18と、内蔵メモリ19と、画像処理部20と、カードI/F21と、入出力I/F22と、操作部材23および液晶モニタ24と、閃光発光部25と、CPU26と、顔登録メモリ27およびデータバス28とを有している。なお、内蔵メモリ19、画像処理部20、カードI/F21、入出力I/F22およびCPU26は、データバス28を介して接続されている。
撮影光学系11は、ズームレンズ11aと、合焦位置調節用のフォーカシングレンズ11bとを含む複数のレンズ群で構成されている。撮影光学系11を構成する各レンズは、第1レンズ駆動部12によって光軸方向に駆動調整される。
揺動センサ部13は、電子カメラの縦揺れを検出する縦方向角速度センサと、電子カメラの横揺れを検出する横方向角速度センサとを備えている。揺動センサ部13は電子カメラの揺れを示すカメラ揺動データをCPU26に出力する。このカメラ揺動データは、像ぶれ補正レンズ14の移動量の演算に使用される。
像ぶれ補正レンズ14は光軸直角方向に揺動可能に構成されている。第2レンズ駆動部15は、像ぶれ補正レンズ14を縦方向に揺動させる縦揺動手段と、像ぶれ補正レンズ14を横方向に揺動させる横揺動手段とで構成される。この第2レンズ駆動部15は、CPU26が演算した像ぶれ補正レンズ14の移動量に基づいて、像ぶれ補正レンズ14を揺動させてぶれ補正を実行する。
撮像素子16は、撮影光学系11を通過した光束を光電変換して被写体像のアナログ画像信号を生成する。この撮像素子16は、非レリーズ時(撮影待機時)にも所定間隔毎に被写体を露光し、間引き読み出しによるアナログ画像信号(スルー画像信号)を出力する。スルー画像信号は、後述のAF演算、AE演算および顔検出動作や、ファインダ用画像の生成などに使用される。
アナログ信号処理部17は、相関二重サンプリングを行うCDS回路、アナログ画像信号の出力を増幅するゲイン回路、入力信号の波形を一定の電圧レベルにクランプするクランプ回路等で構成されている。A/D変換部18は撮像素子16のアナログ画像信号をデジタル画像信号に変換する。内蔵メモリ19は、画像処理部20での画像処理の前工程および後工程でデータを一時的に保存する。なお、内蔵メモリ19には後述の撮影画像データを記録可能な記録領域を設けることもできる。
画像処理部20はデジタル画像信号に所定の画像処理を施す。この画像処理部20はレリーズ時の画像信号に基づいて撮影画像データを生成する。また、画像処理部20はスルー画像信号に基づいてスルー画像データを順次生成する。このスルー画像データの解像度は、撮影画像データの解像度よりも低く設定される。スルー画像データは、CPU26による顔認識処理に使用されるとともに、液晶モニタ24の表示画像(プレビュー画像)としても使用される。さらに、画像処理部20は撮影画像データの圧縮処理なども実行する。さらにまた、画像処理部20は、撮影画像の一部を切り出して解像度を変換する電子ズーム処理を行うことも可能である。
また、画像処理部20は、CPU26の指示により各種表示(顔認識時の枠表示など)のビデオデータを生成し、上記のビデオデータをスルー画像データに重畳させて液晶モニタ24に出力する。これによって、プレビュー画像には上記の各種表示が合成される。
カードI/F21には、記録媒体29を接続するためのコネクタが形成されている。記録媒体29は公知の半導体メモリなどで構成される。そして、カードI/F21は、記録媒体29に対する撮影画像データの書き込み/読み込みを制御する。
入出力I/F22には、操作部材23および液晶モニタ24が接続されている。操作部材23は入力釦やレリーズ釦などを備えている。操作部材23の入力釦は、例えば、電子カメラの撮影モード(通常撮影モード、再生モード、顔登録モード、顔認識撮影モード等)の切り換え入力などを受け付ける。また、操作部材23のレリーズ釦は、半押しによるAF動作の指示入力と、全押しによるレリーズ入力とを受け付ける。
一方、液晶モニタ24は主として電子カメラの背面部分に配置される。この液晶モニタ24には、撮影画像データの再生画像や電子カメラの各種設定を変更するための設定画面などが表示される。上記の設定画面には後述の顔認識データを編集するための編集画面が含まれる。また、撮影モードでの液晶モニタ24には上記のプレビュー画像を動画表示することが可能である。したがって、ユーザーは、液晶モニタ24のプレビュー画像を確認しつつ被写体のフレーミングを行うことができる。
さらに、入出力I/F22には外部接続端子が形成されている。そして、入出力I/F22は、外部接続端子を介して接続されたコンピュータなどとのデータ送受信をUSB(Universal Serial Bus)やIEEE1394などのシリアル通信規格に準拠して制御する。また、入出力I/F22の外部接続端子には、外部との無線通信を行うための拡張機器である通信ユニット30を接続することも可能である。
閃光発光部25は、キセノン発光管、発光のエネルギを蓄えるメインコンデンサ、閃光を被写体に効率良く照射するための反射傘やレンズ部材、発光タイミングや光量を調整する発光制御回路などから構成されている。
CPU26は、不図示のROMに格納されたシーケンスプログラムに従って電子カメラの各部動作を制御する。例えば、CPU26はスルー画像信号に基づいて公知のコントラスト方式のAF(オートフォーカス)演算や、公知のAE(自動露出)演算などを実行する。また、CPU26は、上記のカメラ揺動データに基づいて像ぶれ補正レンズ14の移動量を演算する。
さらに、CPU26は顔検出部31、顔認識部32として機能する。顔検出部31は、スルー画像データまたは撮影画像データから特徴点を抽出して被写体の顔領域、顔の大きさ等を検出する。例えば、顔検出部31は、特開2001−16573号公報などに記載された特徴点抽出処理によって顔領域を抽出する。また、上記の特徴点としては、例えば、眉、目、鼻、唇の各端点、顔の輪郭点、頭頂点や顎の下端点などが挙げられる。
顔認識部32は、顔登録モードでは、検出した顔の特徴点に基づいて顔認識データを生成する。例えば、顔認識部32は、検出した顔の特徴点の位置、特徴点から求まる顔パーツの大きさ、各特徴点の相対距離などから登録人物の顔認識データを生成する。
また、顔認識部32は、顔認識撮影モードでは、撮影画面内の人物の顔が顔認識データの登録人物の顔か否かを判定する顔認識処理を行う。具体的には、まず顔認識部32は検出された顔の特徴点に基づいて、撮影人物の顔の特徴点の位置、各顔パーツの大きさ、各特徴点の相対距離などを演算する。次に顔認識部32は、上記の演算結果と顔認識データとを比較して所定の登録人物の顔と撮影人物の顔との相似度を求める。そして、顔認識部32は上記の相似度が閾値を上回る場合に撮影人物が所定の登録人物に合致すると判定する。
なお、CPU26は、顔認識処理の結果に基づいて、撮影条件または画像処理の設定変更や、撮像素子16へのレリーズ指示などを実行することが可能である。
顔登録メモリ27には、CPU26の顔認識部32が生成した顔認識データが記録される。この顔登録メモリ27には登録人物ごとにグループフォルダが生成されている。グループフォルダには、各登録人物の顔認識データがそれぞれ記録されている。すなわち、顔登録メモリ27の顔認識データは、グループフォルダによって登録人物ごとにグループ化されている。例えば、グループフォルダには、同一の登録人物に関して顔の向き、眼鏡の有無および撮影条件などが異なる複数の顔認識データを記録することが可能である。そして、登録人物を指定することで、CPU26はグループフォルダ内の顔認識データを顔登録メモリ27から一括して読み出すことが可能となっている。
また、顔登録メモリ27には、登録人物の名称および顔認識時の処理設定のデータが記録されている。上記の登録人物の名称および顔認識時の処理設定は、各登録人物のグループフォルダにそれぞれ対応付けされている。
ここで、顔認識時の処理設定には、登録人物が認識された場合に適用される電子カメラの各種制御の設定が記録されている。例えば、顔認識時の処理設定には、(1)撮影時の撮影条件の設定、(2)撮影画像データの画像処理の設定、(3)撮影画像データの記録先の設定、(4)撮影画像データの印刷指定の設定、(5)撮影画像データの送信設定、などが含まれる。
上記(1)の撮影条件の設定には、各登録人物を撮影するときの露出補正値や、被写界深度の設定(浅め、標準の選択)などが含まれる。また、登録人物の検出の際にCPU26が自動的に撮影を行う設定も可能である。上記(2)の画像処理の設定には、撮影画像データのソフトフォーカス処理の有無の設定、エッジ強調の抑制の設定などが含まれる。
上記(3)の記録先の設定では、撮影画像データの記録先となる記録媒体29内の記録フォルダのディレクトリパスを各登録人物ごとに指定できる。すなわち、CPU26は顔登録メモリ27のデータを参照し、各登録人物ごとに異なる記録フォルダに撮影画像データを記録することが可能となる。
上記(4)の印刷指定の設定では、例えば、DPOF(Digital Print Order Format)などの規格による撮影画像データの印刷指定の有無を各登録人物ごとに指定できる。なお、上記(5)の送信設定では、登録人物の撮影時における撮影画像データの送信の要否と、送信先のアドレス情報(電子メールアドレス)とを指定できる。
また、顔登録メモリ27には、顔登録画像、顔認識データの登録時期および顔認識データの取得時の撮影条件のデータが記録されている。上記の顔登録画像、顔認識データの登録時期および顔認識データの取得時の撮影条件のデータは、グループフォルダ内の個々の顔認識データにそれぞれ対応付けされている。
上記の顔登録画像は、顔認識データ取得時の撮影画像データであって、所定の画素サイズにリサイズされている。そして、顔登録画像は上記の編集画面で液晶モニタ24に表示される。すなわち、顔登録画像は、登録人物または顔認識データの識別性、検索性を高めるインデックス画像として機能する。例えば、顔登録画像によって、ユーザーは誰のどのような画像(顔正面、横向きなど)から顔認識データが生成されたかを編集画面で確認することも可能となる。
顔認識データの登録時期は、その顔認識データの元となる顔登録画像データの撮影日時のデータである。また、顔認識データの取得時の撮影条件は、顔登録画像データの撮影条件のデータである。上記の撮影条件には、例えば、撮影光学系11の焦点距離のデータや、撮影時のホワイトバランスおよび露出条件や、撮影時のフラッシュ発光の有無などが含まれる。なお、顔認識データの登録時期および顔認識データの取得時の撮影条件のデータは、CPU26が顔認識処理で使用する顔認識データを絞り込む場合の判定にも使用される。
また、顔登録メモリ27には、各登録人物ごとの撮影回数を示す撮影回数データも記録される。この撮影回数データの撮影回数は、CPU26が顔認識撮影モードでの顔認識の結果に応じてインクリメントする。なお、上記の撮影回数は、ユーザーが編集画面などで手動で入力するようにしてもよい。
以下、図2および図3の流れ図を参照しつつ、本実施形態の電子カメラでの撮影動作の一例を説明する。
ステップ101:まず、ユーザーはCPU26に対して電子カメラの設定入力を行う。
例えば、電子カメラが通常撮影モードやポートレート撮影モードに設定されている状態において、ユーザーは操作部材23によりモード選択画面を呼び出す操作を行う。これにより、CPU26はモード選択画面(図4参照)を液晶モニタ24に表示する。
そして、ユーザーは操作部材23でモード選択画面上の選択枠を操作し、CPU26に対して顔認識撮影モードの起動を指示する。これにより、CPU26は顔認識撮影モードの一連の動作を開始する。
また、上記のモード選択画面では、ユーザーは選択枠で顔登録オン、顔登録オフの項目を選択してCPU26に入力できる。顔登録オンを指定入力した場合には、CPU26は撮影時に撮影画像データと顔認識データとを生成する。顔登録オフを指定入力した場合には、CPU26は撮影時に撮影画像データのみを生成する。なお、本実施形態では顔登録オンの項目を入力した場合を説明するものとする。
ステップ102:CPU26は、登録人物の選択画面(図5参照)を液晶モニタ24に表示する。そして、CPU26は、顔認識対象の登録人物(撮影時に顔認識を行う登録人物)の指定入力をユーザーから受け付ける。なお、顔認識対象の登録人物を撮影前に予めユーザーがCPU26に指定入力しておくことも可能である。
ここで、登録人物の選択画面では、CPU26は1または2以上の登録人物の指定を受け付けることができる。例えば、CPU26は顔登録メモリ27の登録人物の全指定を受け付けることもできる。また、グループフォルダを所定のカテゴリ(例えば、家族、サークルなど)で予めリンクするとともに、ユーザーが選択画面でカテゴリを指定入力することで、CPU26にリンクされた登録人物の一括指定を入力することもできる。
ステップ103:CPU26は、撮像素子16を駆動させてスルー画像信号の取得を開始する。撮像素子16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画像処理部20はスルー画像信号に基づいてスルー画像データを生成する。そして、液晶モニタ24にはスルー画像データに基づいてプレビュー画像が動画表示される。
ステップ104:CPU26はレリーズ釦が半押しされたか否かを判定する。レリーズ釦が半押しされた場合(YES側)にはS105に移行する。一方、レリーズ釦が半押しされていない場合(NO側)には、CPU26はレリーズ釦の半押し操作を待機する。
ステップ105:CPU26の顔検出部31は、スルー画像データに顔検出処理を施して撮影画面内の顔領域を検出する。顔検出部31が撮影画面内で人物の顔を検出した場合、画像処理部20はプレビュー画像の顔領域の位置に矩形の枠を合成表示する(図6参照)。これにより、ユーザーはプレビュー画像で顔検出の有無を確認することができる。
ステップ106:CPU26はS105で顔領域が検出されたか否かを判定する。顔領域が検出された場合(YES側)にはS107に移行する。一方、顔領域が検出されない場合(NO側)にはS122に移行する。
ステップ107:CPU26の顔認識部32は、検出した顔領域(S105)に対して顔認識処理を実行する。そして、顔認識部32は、登録人物の顔(S102)が含まれているか否かを判定する。登録人物の顔が含まれている場合(YES側)にはS108に移行する。一方、登録人物の顔が含まれない場合(NO側)にはS110に移行する。
ステップ108:CPU26は登録人物の顔の位置を基準としてAF演算およびAE演算を実行する。なお、登録人物が複数検出されている場合、CPU26は所定のアルゴリズムで登録人物の優先順位を決定し、優先順位が最も高い登録人物の顔に基づいて上記演算を実行する。
ステップ109:CPU26は、検出された登録人物に応じて、電子カメラの撮影条件の設定や画像処理の設定などを変更する。その後、S111に移行する。なお、顔認識時の処理設定で登録人物の自動撮影が設定されている場合には、CPU26はS112に移行して登録人物を自動的に撮影する。
ここで、上記の設定変更は、その登録人物に対応する顔認識時の処理設定のデータに基づいて行われる。登録人物が複数検出されている場合には、CPU26は上記のS107と同様に優先順位が最も高い登録人物のデータを選択する。
ステップ110:CPU26は、検出した顔領域の位置を基準としてAF演算およびAE演算を実行する。なお、顔領域が複数検出されている場合、CPU26は撮影画面の中央の顔領域または最も至近側の顔領域を基準として上記演算を実行する。
ステップ111:CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦が全押しされた場合(YES側)にはS112に移行する。一方、レリーズ釦が全押しされていない場合(NO側)には、CPU26はレリーズ釦の全押し操作を待機する。
ステップ112:CPU26は撮像素子16を駆動させて被写体像を撮影する。その後、画像処理部20はレリーズ時の画像信号に基づいて撮影画像データを生成する。この撮影画像データは最終的に記録媒体29に記録される。
ここで、登録人物の顔が撮影されている場合、画像処理部20はS109で設定された画像処理を撮影画像データに施す。また、CPU26は、撮影された登録人物に対応する撮影回数データのカウントをインクリメントする。
ステップ113:CPU26は、レリーズに応じて、S105で検出されている顔の顔認識データを生成する。ここで、複数の顔領域が検出されている場合には、CPU26は撮影画面内の一部の顔領域のみから顔認識データを生成してもよく、あるいは全部の顔領域から顔認識データを生成するようにしてもよい。
複数の顔認識データを生成する場合には、CPU26は、所定のアルゴリズムで処理対象となる顔領域を決定して顔認識データを逐次生成する。上記の処理対象を決定するアルゴリズムの一例として、CPU26は登録人物を優先して顔認識データを生成するようにしてもよい。登録人物が複数撮影されている場合には、CPU26は優先順位の高い人物から顔認識データを生成するようにしてもよい。
以下、S113での顔認識データの生成工程を具体的に述べる。まず、第1に、CPU26は画像処理部20に対して顔登録画像データの生成を指示する。画像処理部20は、レリーズ時の画像信号から撮影画面の全体画像を生成するとともに、この全体画像から顔の部分を切り出して顔登録画像データを生成する。顔登録画像は、全体画像の顔領域を例えば80×80画素程度のサイズで切り出して生成される。かかる顔画像データの画像に対しては、解像度変換による変倍処理を施さないようにするのが好ましい。なお、全体画像に対応する画像データは、上記の撮影画像データでもよく、あるいは撮影画像データの生成プロセスにおける中間工程のデータ(例えば圧縮処理前の画像データなど)でもよい。
第2に、CPU26の顔検出部31は、各々の顔登録画像データの画像ごとに特徴点抽出処理を施して、各々の顔登録画像データに対応する顔の特徴点を抽出する。そして、CPU26の顔認識部32は、顔登録画像データから抽出した顔の特徴点に基づいて顔認識データを生成する。なお、その後に画像処理部20は、解像度変換で顔登録画像データの顔画像を所定のサイズにリサイズしてインデックス画像データを生成する。
ステップ114:CPU26は、顔登録メモリの記録容量が不足しているか(すなわち、顔登録メモリに現在処理中の顔認識データを記録不能か)否かを判定する。記録容量が不足する場合(YES側)にはS115に移行する。一方、記録容量が十分な場合(NO側)にはS118に移行する。
ステップ115:CPU26は、現在処理中の顔認識データの記録に関する選択画面を液晶モニタ24に表示する。この選択画面では、現在処理中の顔認識データを記録するか否かの入力をユーザーに促す表示が行われる。
図7に上記の選択表示の一例を示す。この選択画面での表示処理、動作は、CPU26がシーケンスプログラムに基づいて実行する。図7の選択画面には、現在の処理対象の人物を示す表示と、他のデータを消去してこの人物の顔認識データを記録しますか等のメッセージと、メッセージに対応する選択表示(はい、いいえ)が画面上に表示される。図7では、処理対象の人物の表示として、全体画像において処理対象の顔領域に矩形枠を重畳表示する。なお、処理対象の人物の顔画像を表示してもよい(図示を省略する)。
そして、操作部材23によってユーザーが上記の選択表示の一方を選択枠で指定入力することで、その選択結果がCPU26に入力される。
ステップ116:CPU26は、S115の選択画面の選択表示で、はいが指定入力されたか否かを判定する。はいが指定入力された場合(YES側)にはS117に移行する。いいえが指定入力された場合(NO側)にはS121に移行する。なお、この場合に現在処理中の顔領域は、以後処理済みと同様に扱われることとなる。
ステップ117:CPU26は、顔登録メモリ27のデータ群のうちで、優先順位が最も低く設定されている登録人物のデータを上書き可能な状態に変更する。これにより、現在処理中の顔認識データ等を記録するための容量が顔登録メモリ27上に確保される。
ここで、CPU26は、ある登録人物の顔認識データ等をすべて消去してもよい。あるいは、CPU26は、ある登録人物の顔認識データのうちで比較的に重要度の低いデータ(例えば特徴点の抽出数が最も少ない顔認識データや、撮影日時が最も古い顔認識データなど)のみを順次消去するようにしてもよい。
ステップ118:CPU26は、S107の判定結果に基づいて、処理対象の顔領域が未登録の人物のものか否かを判定する。未登録の人物の場合(YES側)にはS119に移行する。一方、既登録の人物の場合(NO側)にはS120に移行する。
ステップ119:CPU26は、現在処理中の顔認識データを記録するために、新規のグループフォルダを顔登録メモリ27に生成する。また、CPU26は、新規のグループフォルダに対応する撮影回数データのカウントをインクリメントし、この段階で未登録の人物の撮影回数をカウントする。
ステップ120:CPU26は、顔登録メモリ27において撮影された人物に対応するグループフォルダに、現在処理中の顔認識データおよびその関連データを記録する。ここで、顔認識データの関連データには、上記のインデックス画像データと、レリーズ時の撮影条件のデータと、顔認識データの登録時期を示す撮影日時データとが含まれる。各々の関連データは、CPU26によって顔認識データに対応付けされた状態で記録される。
ステップ121:CPU26は、顔認識データを生成する顔領域が残っているか否かを判定する。顔認識データを生成する顔領域が残っている場合(YES側)には、CPU26は、次に処理対象となる顔領域を決定するとともに、S113に戻って上記動作を繰り返す。一方、顔認識データを生成する顔領域が他にない場合(NO側)には、CPU26は1フレーム分の撮影動作を終了して撮影待機状態に移行する。なお、CPU26は、ユーザーの操作に応じてS104に戻って撮影を続行してもよい。
ステップ122:この場合には、CPU26は、顔検出を行わない通常撮影モードの場合と同様のアルゴリズムでAF演算およびAE演算を実行する。そして、CPU26はレリーズ釦の全押しに応じて被写体を撮影する。その後、画像処理部20はレリーズ時の画像信号に基づいて撮影画像データを生成する。勿論、この場合には顔認識データが生成されることはない。
以下、本実施形態の顔認識撮影モードの作用効果を説明する。上記の顔認識撮影モードでは、電子カメラはレリーズに応じて撮影画像データと顔認識データとを同時に生成する(S112、S113)。したがって、ユーザーが意識的に顔登録のためだけの撮影を行わなくとも、通常のスナップ写真などの撮影時に顔認識データが生成される。そのため、顔登録メモリ27に顔認識データを登録する作業が非常に容易となる。
また、上記の顔認識撮影モードでは、電子カメラが顔認識データに基づいて撮影人物の顔認識を行なう(S107)。そして、認識対象の顔が検出された場合には、その登録人物に対応する設定で撮影時の各種処理などが行われる(S108、S109、S112)。そのため、登録人物の撮影時において電子カメラがユーザーの意図を反映させた処理を自動的に行うので、電子カメラを操作するユーザーの利便性が著しく向上する。
(実施形態の補足事項)
以上、本発明を上記の実施形態によって説明してきたが、本発明の技術的範囲は上記実施形態に限定されるものではなく、例えば以下のような形態であってもよい。
(1)上記実施形態では電子カメラが撮影時に顔認識データを生成する例を説明した。しかし、CPU26は、撮影時には顔登録画像データを記録するにとどめ、撮影後にコンピュータによる後処理で顔登録画像データから顔認識データを生成してもよい。
上記の場合には、CPU26は、インデックス画像データや、撮影条件および撮影日時などを顔画像データに対応付けして記録してもよい。また、上記の顔画像データについても、CPUは、同一の撮影人物から生成した複数の顔画像データを同一のフォルダ等にグループ化して記録するのが好ましい。
(2)上記実施形態において、CPU26は、顔登録画像データを生成することなく、レリーズ前に顔検出で抽出した特徴点に基づいてレリーズとともに顔認識データを生成してもよい。
(3)上記実施形態において、CPU26は、顔認識データを生成するときに現在の処理対象の人物を示す表示を液晶モニタ24に表示するようにしてもよい。また、顔認識データを作成するときには、CPU26は処理対象の人物の顔認識データの要否をユーザーに確認する選択表示を液晶モニタ24に毎回表示するようにしてもよい。
(4)上記実施形態において顔登録メモリの記録容量が不足する場合、CPU26は顔認識データの生成を中止するとともに、液晶モニタ24にNG表示を行うようにしてもよい。
(5)上記実施形態では、電子カメラが撮影前に顔検出処理および顔認識処理を実行する例を説明した。しかし、本発明は、撮影前に顔検出処理を行うが顔認識処理を行わない撮影モードにおいても同様に適用できる。
(6)上記実施形態における登録時期のデータは、元となる顔画像が概ねいつ頃撮影されたかを示すもので足りる。したがって、CPUは、登録時期に関して撮影年、撮影月、撮影日のいずれかで記録を打ち切って、詳細な時刻などの記録を省略するようにしてもよい。
(7)上記実施形態における顔認識処理では、顔認識部32はグループ化された顔認識データのうちから判定に使用する顔認識データを所定条件で絞り込むようにしてもよい。例えば、顔認識部32は、顔認識データの登録時期に基づいて撮影日時よりも一定期間以上古い顔認識データを除外してもよい。同様に、顔認識部32は顔認識データの取得時の撮影条件に基づいて今回の撮影条件と大きく異なる撮影条件で生成された顔認識データを除外してもよい。
(8)本発明の電子カメラは実施形態の電子カメラの構成と必ずしも一致する必要はない。例えば、内蔵メモリ19と顔登録メモリ27とが共通のメモリで構成されていてもよい。顔登録メモリ27がデータバス28を介してCPU26に接続されていてもよい。また、揺動センサ部13、像ぶれ補正レンズ14および第2レンズ駆動部15からなる光学的なぶれ補正機構が省略されていてもよい。さらに、電子カメラ内に通信ユニット30が内蔵されていてもよい。
(9)CPU26は顔登録メモリ27内のデータを記録媒体29に記録して、顔登録メモリ27のバックアップを可能としてもよい。また、CPU26は、予め他の電子カメラで生成された顔認識データ等を記録媒体29から取得し、電子カメラ間で顔登録メモリ27のデータを共用できるようにしてもよい。
本実施形態の電子カメラの構成を示すブロック図 本実施形態の電子カメラでの撮影動作を示す流れ図 本実施形態の電子カメラでの撮影動作を示す流れ図 モード選択画面の一例を示す図 登録人物の選択画面の一例を示す図 顔検出時におけるプレビュー画像の表示例を示す図 顔認識データ生成時の選択画面の一例を示す図
符号の説明
16…撮像素子、20…画像処理部、23…操作部材、26…CPU、27…顔登録メモリ、31…顔検出部、32…顔認識部

Claims (7)

  1. 被写体の結像を光電変換して画像信号を生成する撮像素子と、
    レリーズを指示する入力を受け付ける操作部と、
    前記レリーズの待機時に前記画像信号に基づいて撮影画面内の顔領域を検出する顔検出部と、
    前記レリーズに応じて前記被写体を撮影し、前記画像信号から撮影画像を生成する制御部と、
    前記顔領域が検出されている状態で前記レリーズがあった場合に、前記撮影画像に基づいて前記顔領域に対応する人物の顔の特徴点を抽出し、次回撮影の顔認識処理で用いる顔認識データを生成する顔認識データ生成部と、
    前記顔認識データと、前記顔認識データに対応する顔を示すインデックス画像とを対応付けて記録する記録部と、
    顔認識処理の認識対象を指定する入力を受け付けるときに、前記インデックス画像を表示する表示部と、
    を備えることを特徴とする電子カメラ。
  2. 請求項1に記載の電子カメラにおいて、
    前記顔認識データ生成部は、前記レリーズ時の撮影条件を示す撮影条件データを生成するとともに、該撮影条件データを前記顔認識データに対応付けて記録することを特徴とする電子カメラ。
  3. 請求項1に記載の電子カメラにおいて、
    前記顔認識データ生成部は、前記顔認識データの取得時期を示す取得時期データを生成するとともに、該取得時期データを前記顔認識データに対応付けて記録することを特徴とする電子カメラ。
  4. 請求項1に記載の電子カメラにおいて、
    前記顔検出部の出力および前記顔認識データに基づいて、前記顔領域の人物が前記顔認識データに対応する登録人物か否かを判定する顔認識部をさらに備えることを特徴とする電子カメラ。
  5. 請求項4に記載の電子カメラにおいて、
    前記顔認識データ生成部は、前記判定の結果に基づいて同一の人物から生成された複数の前記顔認識データをグループ化して記録することを特徴とする電子カメラ。
  6. 請求項4に記載の電子カメラにおいて、
    前記記録部は、各々の前記登録人物の撮影回数を示す撮影回数データをさらに記録し、
    前記顔認識データ生成部は、前記撮影回数に基づいて前記登録人物に優先順位を設定することを特徴とする電子カメラ。
  7. 請求項6に記載の電子カメラにおいて、
    前記記録部の容量が不足する場合には、前記顔認識データ生成部は前記優先順位が相対的に低く設定された前記登録人物に関するデータを消去することを特徴とする電子カメラ。
JP2006104047A 2006-04-05 2006-04-05 電子カメラ Expired - Fee Related JP5087856B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006104047A JP5087856B2 (ja) 2006-04-05 2006-04-05 電子カメラ
EP07737019A EP2012528A4 (en) 2006-04-05 2007-04-03 ELECTRONIC CAMERA
EP18156792.6A EP3379819A1 (en) 2006-04-05 2007-04-03 Electronic camera
US12/225,824 US8379108B2 (en) 2006-04-05 2007-04-03 Electronic camera that detects and extracts faces
PCT/JP2007/000362 WO2007113937A1 (ja) 2006-04-05 2007-04-03 電子カメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006104047A JP5087856B2 (ja) 2006-04-05 2006-04-05 電子カメラ

Publications (2)

Publication Number Publication Date
JP2007281760A JP2007281760A (ja) 2007-10-25
JP5087856B2 true JP5087856B2 (ja) 2012-12-05

Family

ID=38563210

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006104047A Expired - Fee Related JP5087856B2 (ja) 2006-04-05 2006-04-05 電子カメラ

Country Status (4)

Country Link
US (1) US8379108B2 (ja)
EP (2) EP2012528A4 (ja)
JP (1) JP5087856B2 (ja)
WO (1) WO2007113937A1 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8555352B2 (en) * 2003-06-20 2013-10-08 Juniper Networks, Inc. Controlling access nodes with network transport devices within wireless mobile networks
US7986867B2 (en) * 2007-01-26 2011-07-26 Myspace, Inc. Video downloading and scrubbing system and method
US8218830B2 (en) * 2007-01-29 2012-07-10 Myspace Llc Image editing system and method
JP5139716B2 (ja) * 2007-05-16 2013-02-06 キヤノン株式会社 画像検索装置及び画像検索方法
JP5099488B2 (ja) * 2007-08-31 2012-12-19 カシオ計算機株式会社 撮像装置、顔認識方法およびそのプログラム
JP5327424B2 (ja) * 2008-04-10 2013-10-30 株式会社ニコン 電子カメラ
CN103402070B (zh) 2008-05-19 2017-07-07 日立麦克赛尔株式会社 记录再现装置及方法
KR101469544B1 (ko) * 2008-09-26 2014-12-05 삼성전자주식회사 영상 처리 방법 및 장치, 이를 이용한 디지털 촬영 장치
JP4927808B2 (ja) * 2008-11-26 2012-05-09 京セラ株式会社 カメラ付き機器
JP5404172B2 (ja) * 2009-05-12 2014-01-29 キヤノン株式会社 画像処理装置、その制御方法及びプログラム
KR101626003B1 (ko) * 2009-08-24 2016-06-13 삼성전자주식회사 디지털 촬영장치
CN103945132B (zh) 2010-02-19 2019-05-14 株式会社尼康 电子设备及电子设备的图像取得方法
JP2012150626A (ja) * 2011-01-19 2012-08-09 Dainippon Printing Co Ltd 画像出力受付端末および方法、並びにプログラム
JP5225446B2 (ja) * 2011-09-26 2013-07-03 京セラ株式会社 カメラ付き機器
KR102057581B1 (ko) 2013-04-16 2019-12-19 삼성전자 주식회사 카메라를 구비하는 장치의 자동 포커싱 장치 및 방법
JP2015039240A (ja) * 2014-11-13 2015-02-26 株式会社ニコン 電子機器および電子機器用プログラム
US10129477B2 (en) * 2015-08-19 2018-11-13 Google Llc Smart image sensor having integrated memory and processor
WO2017151859A1 (en) * 2016-03-02 2017-09-08 Tinoq Inc. Systems and methods for efficient face recognition
EP3427240A4 (en) 2016-03-08 2019-10-30 Tinoq Inc. SYSTEMS AND METHOD FOR A COMPOSITE SENSOR SYSTEM
CN112866575A (zh) 2016-03-30 2021-05-28 蒂诺克股份有限公司 用于用户检测和识别的系统和方法
US11263418B2 (en) 2018-08-21 2022-03-01 Tinoq Inc. Systems and methods for member facial recognition based on context information
JP7211266B2 (ja) * 2019-05-27 2023-01-24 富士フイルムビジネスイノベーション株式会社 情報処理装置、及び情報処理プログラム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06259534A (ja) 1993-03-03 1994-09-16 Toshiba Corp 人物認証装置
JP3755343B2 (ja) * 1999-06-30 2006-03-15 オムロン株式会社 歩行者観測装置、およびその装置を用いた歩行者認識システム、扉開閉制御システムならびに建造物
JP2002207741A (ja) * 2001-01-12 2002-07-26 Minolta Co Ltd 画像データ検索装置、画像データ検索方法、画像データ検索プログラムおよび画像データ検索プログラムを記録したコンピュータ読み取り可能な記録媒体
JP4277309B2 (ja) * 2001-02-28 2009-06-10 富士フイルム株式会社 デジタルカメラ
JP2004086625A (ja) * 2002-08-27 2004-03-18 Hitoshi Hongo 顧客情報管理装置
JP4218348B2 (ja) * 2003-01-17 2009-02-04 オムロン株式会社 撮影装置
US20040207743A1 (en) * 2003-04-15 2004-10-21 Nikon Corporation Digital camera system
JP2005208454A (ja) 2004-01-26 2005-08-04 Konica Minolta Photo Imaging Inc 写真撮影システム、写真撮影方法、及びプログラム
JP4340806B2 (ja) * 2004-03-22 2009-10-07 富士フイルム株式会社 画像処理装置、方法及びプログラム
JP2005323015A (ja) * 2004-05-07 2005-11-17 Nikon Gijutsu Kobo:Kk デジタルカメラ
US20050248681A1 (en) * 2004-05-07 2005-11-10 Nikon Corporation Digital camera
JP4293055B2 (ja) * 2004-05-25 2009-07-08 カシオ計算機株式会社 カメラ装置およびプログラム
JP4478510B2 (ja) * 2004-06-03 2010-06-09 キヤノン株式会社 カメラシステム、カメラ、及びカメラの制御方法
US7430369B2 (en) * 2004-08-16 2008-09-30 Canon Kabushiki Kaisha Image capture apparatus and control method therefor
JP4551839B2 (ja) * 2004-08-16 2010-09-29 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP4419759B2 (ja) 2004-09-01 2010-02-24 株式会社ニコン 電子カメラシステム
JP2006074498A (ja) 2004-09-02 2006-03-16 Canon Inc 画像処理装置及び撮像装置
US7783115B2 (en) * 2004-12-14 2010-08-24 Fujifilm Corporation Apparatus and method for setting degrees of importance, apparatus and method for representative image selection, apparatus and method for printing-recommended image selection, and programs therefor
US8488847B2 (en) * 2005-11-25 2013-07-16 Nikon Corporation Electronic camera and image processing device

Also Published As

Publication number Publication date
EP2012528A1 (en) 2009-01-07
WO2007113937A1 (ja) 2007-10-11
EP2012528A4 (en) 2010-12-15
EP3379819A1 (en) 2018-09-26
JP2007281760A (ja) 2007-10-25
US8379108B2 (en) 2013-02-19
US20090167883A1 (en) 2009-07-02

Similar Documents

Publication Publication Date Title
JP5087856B2 (ja) 電子カメラ
JP4315148B2 (ja) 電子カメラ
JP4432886B2 (ja) 電子カメラ
JP5056061B2 (ja) 撮像装置
JP4553346B2 (ja) 焦点調節装置及び焦点調節方法
US7791668B2 (en) Digital camera
US8488847B2 (en) Electronic camera and image processing device
US8111321B2 (en) Imaging device and method for its image processing, with face region and focus degree information
JP5397751B2 (ja) カメラおよび画像補正方法
JP4577275B2 (ja) 撮像装置、画像記録方法、および、プログラム
EP1594311A2 (en) Digital camera
JP2008118348A (ja) 電子カメラおよびプログラム
JP2007281646A (ja) 電子カメラ
JP2007148691A (ja) 画像処理装置
JP4360369B2 (ja) 電子カメラ
JP2007150604A (ja) 電子カメラ
JP2008252711A (ja) ディジタルカメラ
JP4577445B2 (ja) 撮像装置、画像記録方法、および、プログラム
JP2007281647A (ja) 電子カメラおよび画像処理装置
JP4894708B2 (ja) 撮像装置
JP2008017169A (ja) 電子カメラ
JP2008092299A (ja) 電子カメラ
JP2005323015A (ja) デジタルカメラ
JP2007208355A (ja) 撮影装置および方法並びにプログラム
JP5423851B2 (ja) 電子カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120501

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120814

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120827

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150921

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5087856

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150921

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees