JP2008054297A - 撮影装置および方法並びにプログラム - Google Patents

撮影装置および方法並びにプログラム Download PDF

Info

Publication number
JP2008054297A
JP2008054297A JP2007185163A JP2007185163A JP2008054297A JP 2008054297 A JP2008054297 A JP 2008054297A JP 2007185163 A JP2007185163 A JP 2007185163A JP 2007185163 A JP2007185163 A JP 2007185163A JP 2008054297 A JP2008054297 A JP 2008054297A
Authority
JP
Japan
Prior art keywords
image
object detection
determination
parameter
scene
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007185163A
Other languages
English (en)
Other versions
JP5027580B2 (ja
Inventor
Masahiko Sugimoto
雅彦 杉本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007185163A priority Critical patent/JP5027580B2/ja
Publication of JP2008054297A publication Critical patent/JP2008054297A/ja
Priority to US12/898,980 priority patent/US8797423B2/en
Application granted granted Critical
Publication of JP5027580B2 publication Critical patent/JP5027580B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】撮影状況が変化する画像から対象物を検出する撮影装置において、対象物の検出性能を向上させる。
【解決手段】撮影された画像から対象物を検出する対象物検出処理を行うとき、画像のシーンを判別し、その判別結果に応じて、対象物検出処理に使用されるパラメータを制御する。
【選択図】図3

Description

本発明は撮影により画像を取得するデジタルカメラ等の撮影装置に関するものである。
デジタルカメラやデジタルビデオカメラ等の撮影装置において、人物等の対象物を撮影する場合、撮影に適切な焦点、露光等の設定を行うとともに、撮影された画像における対象物に対して各種画像処理を施すため、撮影される画像(被写体像)から対象物を検出することが期待されている。
このような、撮影装置により撮影される画像は撮影条件が常に一定ではないので、特許文献1では、対象画像から顔のテンプレート画像との相関値が設定しきい値以上である位置を顔領域として検出するとき、対象画像の明るさに応じて、相関値の設定しきい値を変化させることにより、顔の検出性能を向上させる方法が提案されている。
特開2005−004287号
しかしながら、明るさに応じて、相関値の設定しきい値を変化させる特許文献1において提案されている手法では、様々な撮影条件の変化に充分に対応できず、その検出性能が不十分である場合がある。
本発明は、上記事情に鑑み、様々な撮影条件の変化に対して、その検出性能をより向上させる撮影装置を提供することを目的とするものである。
本発明の撮影装置は、撮影された画像から対象物を検出する対象物検出処理を行う対象物検出手段と画像のシーンを判別するシーン判別手段と、該シーン判別手段の判別結果に応じて対象物検出処理に使用されるパラメータを制御するパラメータ制御手段とを備えたことを特徴とするものである。
また、パラメータとは、対象検出処理手段に使用される助変数を意味するものである。例えば、対象物検出処理手段に使用されるゲイン補正におけるゲイン、検出判定しきい値、ノイズ低減におけるノイズ低減量の度合い、輪郭補正の度合い、ガンマカーブ値のいずれか一つ以上を含む数値等であってもよい。
上記装置においては、対象物検出手段は、パラメータ制御手段により変更された変更後のパラメータを含む複数の異なる値のパラメータを用いて画像から対象物を検出し、それらの検出結果を統合して対象物検出結果とするものであってもよい。
また、パラメータ制御手段は、対象物検出手段によりそのパラメータでは対象物が検出されなかったとき、パラメータを変更するものであってもよい。
また、画像のシーンを判別するシーン判別手段を備え、パラメータ制御手段は、シーン判別手段の判別結果に応じてパラメータを制御するものであってもよい。
また、シーン判別手段が、逆光判定、露出判定、明度判定、ノイズ判定のいずれか一つ以上の判定処理により判別するものであってもよい。
なお、画像のシーンとは、例えば、逆光、夜景、水中等の対象物の検出に影響を及ぼす画像の状況を意味するものである。
また、パラメータ制御手段は、対象物検出手段が対象物検出処理を行なう画像を撮影したタイミングもしくは前記対象物処理を行なうタイミングに応じてパラメータの制御方法を変化させるものであってもよい。なお、対象物検出処理とは、検出本体に限らず、検出本体を行なう前に対象画像に実施される各種前処理を含むものであってもよい。
本発明の撮影方法は、撮影された画像から対象物を検出する対象物検出処理を行い、画像のシーンを判別し、該判別結果に応じて対象物検出処理に使用されるパラメータを制御することを特徴とするものである。
なお、本発明による撮影方法をコンピュータに実行させるためのプログラムとして提供してもよい。
本発明の撮影装置によれば、撮影された画像から対象物を検出する対象物検出処理を行う対象物検出手段と対象物検出処理に使用されるパラメータを制御するパラメータ制御手段とを備えたものであるから、撮影状況が変化しても、その撮影状況下で撮影された画像からの検出処理に適したパラメータに変化させることができるため、対象物の検出性能を向上させることができる。
上記装置において、対象物検出手段が、パラメータ制御手段により変更された変更後のパラメータを含む複数の異なる値のパラメータを用いて画像から対象物を検出し、それらの検出結果を統合して対象物検出結果とするものである場合、対象物の検出精度をより向上させることができる。
上記装置において、パラメータ制御手段が、対象物検出手段によりそのパラメータでは対象物が検出されなかったとき、パラメータを変更するものである場合、変更されたパラメータを使用して検出処理を行うことにより、対象物の検出率を向上させることができる。
上記装置において、画像のシーンを判別するシーン判別手段を備え、パラメータ制御手段が、シーン判別手段の判別結果に応じてパラメータを制御するものである場合、シーンの判別結果に基づいてその画像での検出処理に適したパラメータを効率的に決定することができるため、検出の効率を向上させることができる。
また、パラメータ制御手段が、対象物検出手段が対象物検出処理を行なう画像を撮影したタイミングもしくは前記対象物処理を行うタイミングに応じてパラメータの制御方法を変化させるものである場合、画像が撮影されたタイミング情報に基づいてその画像での検出処理に適したパラメータを効率的に決定することができる。
以下、図面を参照して本発明の実施形態について説明する。図1は本発明の撮影装置の一実施形態であるデジタルカメラ1の背面を中心とする斜視図である。図1に示すように、このデジタルカメラ1の背面には、撮影者による操作のためのインターフェースとして、動作モードスイッチ11、メニュー/OKボタン12、ズーム/上下レバー13、左右ボタン14、Back(戻る)ボタン15、表示切替ボタン16を有している他、ファインダ17、液晶モニタ18を有している。また、上面には、レリーズボタン19を有している。図2は第1の実施形態によるデジタルカメラ1の前面を中心とする斜視図である。図2に示すように、前面には、レンズ20、レンズカバー21、電源スイッチ22、ファインダ窓23、フラッシュ24、セルフタイマーランプ25及びAF補助光26が設けられ、側面にはメディアスロット27が設けられている。
動作モードスイッチ11は、静止画撮影モード、動画撮影モード、および再生モードの各動作モードを切り替えるためのスライドスイッチである。
メニュー/OKボタン12は、押下することによって、撮影モード、フラッシュ発光モード、記録画素数や感度等の設定を行うための各種メニューを液晶モニタ18に表示させたり、液晶モニタ18に表示されたメニューに基づく選択・設定を確定させたりするためのボタンである。なお、メニュー/OKボタン12により、撮影モードを露出やホワイトバランスをすべて自動で設定するためのオートモード、およびマニュアルで設定するためのマニュアルモードに設定可能である。
ズーム/上下矢印レバー13は、上下方向にレバーを倒すことによって、撮影時は望遠/広角の調整を行い、各種設定時は液晶モニタ18に表示されるメニュー画面中のカーソルを上下に移動させるためのレバーである。
左右矢印ボタン14は、各種設定時に液晶モニタ18に表示されるメニュー画面中のカーソルを左右に移動させるためのボタンである。
Back(戻る)ボタン15は、押下することによって各種設定操作を中止し、モニタ18に1つ前の画面を表示するためのボタンである。
表示切替ボタン16は、押下することによって、液晶モニタ18の表示のON/OFF、各種ガイド表示、文字表示のON/OFF等を切り替えるためのボタンである。
ファインダ17は、ユーザが被写体を撮影する際に構図やピントを合わせるために覗くためのものである。ファインダ17から見える被写体像は、ファインダ窓23を介して映し出される。
以上説明した各ボタン、レバーの操作によって設定された内容は、液晶モニタ18中の表示や、ファインダ内のランプ、スライドレバーの位置等によって確認することができるようになっている。
液晶モニタ18は、撮影の際に被写体確認用のスルー画を表示することにより、電子ビューファインダとして機能する他、撮影後の静止画や動画の再生表示、各種設定メニューの表示を行う。
レリーズボタン19は、2段階押しのスイッチとなっている。ユーザによってレリーズボタン19が半押しされる、自動露出調整、自動焦点調整などの各種撮影準備処理が施される。この状態でレリーズボタン19を全押しすると、決定された露出、合焦位置に基づいて撮影が行われ、液晶モニタ18に表示された画像が撮影画像として記録される。
撮影レンズ20は、被写体像を所定の結像面上(デジタルカメラ1内部にあるCCD等)に結像させるためのものであり、フォーカスレンズやズームレンズ等によって構成される。レンズカバー21は、デジタルカメラ1の電源がオフ状態のとき、再生モードであるとき等に撮影レンズ20の表面を覆い、汚れやゴミ等から撮影レンズ20を保護するものである。電源スイッチ22は、デジタルカメラ1の電源のオン/オフを切り替えるためのスイッチである。ストロボ光24は、シャッタボタン19が押下され、デジタルカメラ1の内部にあるシャッタが開いている間に、撮影に必要な光を被写体に対して瞬間的に照射するためのものである。セルフタイマーランプ25は、セルフタイマーによって撮影する際に、シャッタの開閉タイミングを被写体に知らせるためものである。
図3はデジタルカメラ1の機能構成を示す概略ブロック図である。図3に示すデジタルカメラ1は、撮影により取得した画像データを、Exif形式の画像ファイルに変換して、本体に着脱可能な外部記録メディア70へ記録するものである。
このデジタルカメラの操作系としては、前述の動作モードスイッチ11、メニュー/OKボタン12、ズーム/上下矢印レバー13、左右矢印ボタン14、Back(戻る)ボタン15、表示切替ボタン16、レリーズボタン19、電源スイッチ22と、これらのスイッチ類の操作内容をCPU75に伝えるためのインターフェース部分である操作系制御部74とを有している。
光学系としては、フォーカスレンズ20aおよびズームレンズ20bを有している。これらの各レンズは、モータとモータドライバからなるフォーカスレンズ駆動部51、ズームレンズ駆動部52によってステップ駆動され、光軸方向に移動可能な構成となっている。フォーカスレンズ駆動部51は、AF処理部62から出力されるフォーカス駆動量データに基づいてフォーカスレンズ20aをステップ駆動する。ズームレンズ駆動部52は、ズーム/上下レバー13の操作量データに基づいてズームレンズ20bのステップ駆動を制御する。
絞り54は、モータとモータドライバとからなる絞り駆動部55によって駆動される。この絞り駆動部55は、AE(自動露出)/AWB(オートホワイトバランス)処理部63から出力される絞り値データに基づいて絞り54の絞り径の調整を行う。
シャッタ56は、メカニカルシャッタであり、モータとモータドライバとからなるシャッタ駆動部57によって駆動される。シャッタ駆動部57は、レリーズボタン19の押下により発生する信号と、AE/AWB処理部63から出力されるシャッタスピードデータとに応じて、シャッタ56の開閉の制御を行う。
上記光学系の後方には、撮像素子であるCCD58を有している。CCD58は、多数の受光素子を2次元的に配列した光電面を有しており、光学系を通過した被写体光がこの光電面に結像し、光電変換される。光電面の前方には、各画素に光を集光するためのマイクロレンズアレイ(不図示)と、R,G,B各色のフィルタが規則的に配列されたカラーフィルタアレイ(不図示)とが配置されている。CCD58は、CCD制御部59から供給される垂直転送クロックおよび水平転送クロックに同期して、画素毎に蓄積された電荷を1ラインずつシリアルなアナログ撮影信号として出力する。各画素において電荷を蓄積する時間、すなわち、露出時間は、CCD制御部59から与えられる電子シャッタ駆動信号によって決定される。また、CCD58はCCD制御部59により、あらかじめ定められた大きさのアナログ撮像信号が得られるように、ゲインが調整されている。
CCD58が出力する画像信号は、アナログ信号処理部60に入力される。このアナログ信号処理部60は、アナログ信号のノイズを除去する相関2重サンプリング回路(CDS)と、アナログ信号のゲインを調節するオートゲインコントローラ(AGC)と、アナログ信号をデジタル信号に変換するA/Dコンバータ(ADC)とからなる。このデジタル信号に変換された画像データは、画素毎にR,G,Bの濃度値を持つCCD−RAWデータである。
タイミングジェネレータ72は、タイミング信号を発生させるものであり、このタイミング信号がシャッタ駆動部57、CCD制御部59、アナログ信号処理部60に入力されて、シャッタボタン19の操作と、シャッタ56の開閉、CCD58の電荷取り込み、アナログ信号処理60の処理の同期が取られる。
フラッシュ制御部73は、撮影時にフラッシュ24を発光させる。具体的には、フラッシュ発光モードがフラッシュオンとされている場合、およびフラッシュ発光モードがオートモードである場合においてプレ画像が所定の明るさにない場合にフラッシュ24をオンとして、撮影時にフラッシュ24を発光させる。一方、フラッシュ発光モードがフラッシュオフとされている場合、撮影時にフラッシュ24の発光を禁止する。
また、フラッシュ制御部73は、AF処理部62が求めた焦点位置に基づいて、焦点位置が遠いほど発光量が大きくなるようにフラッシュ24の発光量を決定する。この発光量を第1の発光量とする。なお、フラッシュ24を発光させて撮影を行う場合において、プレ撮影により取得されたプレ画像に顔が含まれている場合には、フラッシュ24の発光量を第1の発光量よりも小さい第2の発光量に決定する。ここで、発光量は顔に白とびが発生しない程度小さくすればよく、その程度は実験的に求めればよいものである。
画像入力コントローラ61は、アナログ信号処理部60から入力されたCCD−RAWデータをフレームメモリ66に書き込む。この フレームメモリ66は、画像データに対して後述の各種デジタル画像処理(信号処理)を行う際に使用する作業用メモリであり、例えば、一定周期のバスクロック信号に同期してデータ転送を行うSDRAM(Synchronous Dynamic Random Access Memory)が使用される。
表示制御部71は、フレームメモリ66に格納された画像データをスルー画像として液晶モニタ18に表示させたり、再生モード時に外部記録メディア70に保存されている画像データを液晶モニタ18に表示させたりするためのものである。なお、スルー画像は、撮影モードが選択されている間、所定間隔でCCD58により撮影される。
AF処理部62およびAE/AWB処理部63は、プレ画像に基づいて撮影条件を決定する。このプレ画像とは、レリーズボタン19が半押しされることによって発生する半押し信号を検出したCPU75がCCD58にプレ撮影を実行させた結果、フレームメモリ66に格納された画像データにより表される画像である。
AF処理部62は、プレ画像に基づいて焦点位置を検出し、フォーカス駆動量データを出力する(AF処理)。焦点位置の検出方式としては、例えば、ピントが合った状態では画像のコントラストが高くなるという特徴を利用して合焦位置を検出するパッシブ方式が考えられる。
AE/AWB処理部63は、プレ画像に基づいて被写体輝度を測定し、測定した被写体輝度に基づいて絞り値、シャッタスピード等を決定し、絞り値データおよびシャッタスピードデータを露出設定値として決定するとともに(AE処理)、撮影時のホワイトバランスを自動調整する(AWB)。なお、露出およびホワイトバランスについては、撮影モードがマニュアルモードに設定されている場合には、デジタルカメラ1のユーザがマニュアル操作により設定可能である。また、露出およびホワイトバランスが自動で設定された場合にも、ユーザがメニュー/OKボタン12等の操作系から指示を行うことにより、露出およびホワイトバランスをマニュアル調整することが可能である。
画像処理部64は、本画像の画像データに対して、ガンマ補正、シャープネス補正、コントラスト補正等の画質補正処理、CCD−RAWデータを輝度信号であるYデータと、青色色差信号であるCbデータおよび赤色色差信号であるCrデータとからなるYCデータに変換するYC処理を行う。この本画像とは、レリーズボタン19が全押しされることによって実行される本撮影においてCCD58から取り込まれ、アナログ信号処理部60、画像入力コントローラ61経由でフレームメモリ66に格納された画像データによる画像である。本画像の画素数の上限は、CCD58の画素数によって決定されるが、例えば、ファイン、ノーマル等の設定により、記録画素数を変更することができる。一方、スルー画像およびプレ画像の画像数は、本画像よりも少なく、例えば、本画像の1/16程度の画素数で取り込まれる。
圧縮/伸長処理部65は、画像処理部64によって補正・変換処理が行われた本画像の画像データに対して、例えば、JPEG等の圧縮形式で圧縮処理を行い、画像ファイルを生成する。この画像ファイルには、Exifフォーマット等に基づいて、撮影日時等の付帯情報が格納されたタグが付加される。また、圧縮/伸長処理部65は、再生モードの場合には、外部記録メディア70から圧縮された画像ファイルを読み出し、伸張処理を行う。伸長後の画像データは液晶モニタ18に出力される。
メディア制御部67は、外部記録メディア70にアクセスして画像ファイルの書き込みと読み込みの制御を行う。
内部メモリ68は、デジタルカメラ1において設定される各種定数、およびCPU75が実行するプログラム等を格納する。
対象物検出部80は、撮影された画像から対象物を検出する対象物検出処理を行ない、その検出結果を出力するものである。この対象物検出処理は、検出本体と検出本体を行なう前に対象画像データに実施される各種前処理とを含むものであり、具体的には、図4に示すように、アナログ信号処理部から出力されるCCD−RAWデータを入力し、入力された画像データに対して、例えばキズ補正、オフセット補正、ゲイン補正、コントラスト補正 、ガンマ補正、リサイズ等のデジタル信号処理を前処理として行い、信号処理された画像データから顔のテンプレート画像との相関値が設定しきい値以上である位置を検出する検出本体の検出結果を出力するものである。
また、対象物検出部80は、顔に含まれる顔の特徴を有する領域(例えば肌色を有する、目を有する、顔の形状を有する等)を顔領域として検出する。
例えば、特開2006−202276号(以下、参考文献1という)の手法を用いることができる。参考文献1の手法は、顔の追跡は、動きベクトル、特徴点検出等の公知の手法や学習データに対してリサンプリングの際に重みを逐次的に更新していき,できた機械を最後に学習機械に対する重みをつけて足し合わせて統合学習機械をつくる手法であるAdaboostに基づいたマシンラーニング手法を利用するものであることが考えられる。例えば、平均フレームモデルを実際の顔画像に嵌め込み、平均フレームモデル上の各ランドマークの位置を、顔から検出された相対応するランドマークの位置に合致するように移動することによって平均フレームモデルを変形させて顔のフレームモデルを構築するのに際し、マシンラーニング手法により、所定のランドマークであることが分かっている複数のサンプル画像上の点における輝度プロファイルと、該ランドマークではないことが分かっている複数のサンプル画像上の点における輝度プロファイルとに対して学習を行って得た識別器および各識別器に対する識別条件(顔の検出判定しきい値等)を用いて、顔画像から当該ランドマークを示す点の位置を検出する手法である。また、特開2004−334836号(以下、参考文献2という)の手法を用いることも可能である。参考文献2の手法は、画像データから一定の大きさの画像データを切り出し、各切出画像データと特徴部分画像データの照合データとを比較して前記処理対象画像中に前記特徴部分画像が存在するか否かを検出する画像データの特徴部分抽出方法を使用する手法である。なお、特開2007−11970号(以下、参考文献3という)の手法のように人物の顔領域以外に、動物の顔等を特定被写体として検出してもよい。
上記参考文献1−3はいずれも、顔の検出判定しきい値に基づき、顔であるか否かを判別する。顔の検出判定しきい値は、顔らしさ(顔スコア)のしきい値を示すものである。また、顔の検出判定しきい値は、上述の顔のテンプレート画像との相関値による設定しきい値をも含むものである。
また、対象物検出部80は、例えば、サブウィンドウが本画像またはスルー画像の全体画像上を複数画素間隔で走査し複数の部分画像が生成される。生成された部分画像の中から、正面顔検出手段および横顔検出手段において正面顔もしくは横顔である部分画像が検出される手法であってもよい。
また、検出モード切替手段を設けることにより検出率モード、誤検出抑制モード、計算速度モード、正面顔検出モード、横顔検出モードのいずれかに切り替えられたとき、パラメータ制御部が、横顔検出手段および正面顔検出手段の検出性能を決定する検出判定しきい値を変更し、横顔検出手段および正面顔検出手段において各検出モードにおける検出性能を重視した顔検出が行われてもよい。
また、対象物検出部80は、特開2007−94633号(以下、参考文献4)の手法を用いるものであってもよい。
また、対象物検出部80は、スルー画像または画像データから、動きベクトルを検出できる。対象物検出部80は、撮影されたスルー画像または画像データが、動きベクトル量の多い所定数の対象物が存在することに基づき、横顔検出手段をより発揮できるように検出性能を決定する検出判定しきい値を変更するように制御してもよい。
また、対象物検出部80は、撮影されたスルー画像または画像データが、動きベクトル量の多い所定数の対象物が存在することに基づき、正面顔検出手段よりも横顔検出手段を有効に発揮できるように検出性能を決定する検出判定しきい値を変更するように制御してもよい。
また図11に示すように、アナログ信号処理部から出力されるCCD−RAWデータを入力し、入力された画像データに対して、例えばキズ補正、オフセット補正、ゲイン補正、コントラスト補正 、ガンマ補正、リサイズ、ノイズ低減等のデジタル信号処理を前処理として行い、信号処理された画像データから顔の検出判定しきい値以上である位置を検出する検出本体の検出結果を出力するものであってもよい。

更に、図12に示すように、アナログ信号処理部から出力されるCCD−RAWデータを入力し、入力された画像データに対して、例えばキズ補正、オフセット補正、ゲイン補正、コントラスト補正 、ガンマ補正、リサイズ等(リサイズ処理の後にノイズ低減処理があってもよい)のデジタル信号処理を前処理として行い、信号処理された画像データから顔の検出判定しきい値以上である位置を検出する検出本体の検出結果を出力する。
更に、図13に示すように、アナログ信号処理部から出力されるCCD−RAWデータを入力し、入力された画像データに対して、例えばキズ補正、オフセット補正、ゲイン補正、コントラスト補正 、ガンマ補正、リサイズ、ノイズ低減、輪郭補正等のデジタル信号処理を前処理として行い、信号処理された画像データから顔の検出判定しきい値以上である位置を検出する検出本体の検出結果を出力するものであってもよい。ここで、ゲイン補正におけるゲイン、検出本体における相関値の設定しきい値等の上記対象物検出処理に使用される各種パラメータは、後述するパラメータ制御部84により制御されるものである。また、この対象物検出処理に使用されるパラメータは、表示用または記録用の画像に対して施される画質補正に使用されるパラメータとは別に制御されるものである。これにより、例えば逆光度合いの高い画像に対して、顔の検出性能を向上させるため、顔検出処理のゲイン補正に使用されるゲインの値を充分大きくしても、表示または記録される画像が白とびするようなことはない。
また、図12に示すように、ゲイン補正におけるゲインを設定する際に、AE/AWB処理部63から得られるホワイトバランス補正のゲイン値に応じて、パラメータ制御部84により制御されるものであってもよい。
シーン判別部82は、撮影された画像に対して、例えば逆光、夜景、水中等のその画像のシーンを判別するものである。以下に図5および図6を参照してシーン判別処理の一つである逆光判定処理について説明する。まず、所定の大きさ、例えば水平方向の幅および垂直方向の幅がそれぞれ全体画像の水平方向の幅と垂直方向の幅を16分割した長さである矩形の領域を単位測光エリアのとし、水平、垂直、斜め(NE、NW)に隣接する2つ単位測光エリアを、画像内の所定の逆光判定領域上に走査させ、その2つの単位測光エリアにおける測光値(明るさ)の差が設定しきい値以上である場合に、逆光であると判断するとともに、測光値の差の最大値をシーンの逆光度合いとして出力する。なお、測光値の差が最大となる部分の位置情報等も同時に取得し、出力するようにしてもよい。
また、シーン判別部82は、上述した逆光判定処理に限らず、明度判定処理、EV値による判定処理(露出判定処理)、ノイズ量による判定処理であってもよい。これらの処理は、一般的に暗い画像やノイズが多い画像であると、対象物検出の精度が落ちることから、暗い画像であるか否かを判定する。
例えば、明度判定処理とは、スルー画像または本画像から画素値の明度を判定することで、暗い画像であるか否かを判定する。
また、EV値による判定処理は、絞り値と露光時間によって決まる露出値であるEV値に基づいて暗いかどうかを判定する。
また、ノイズ量による判定処理は、撮像素子であるCCD58固有のノイズ量をCCD−RAWから検出し、ノイズ量を判定する。
パラメータ制御部84は、シーン判別部82から出力されたシーン判別結果に応じて、対象物検出部80による対象物検出処理に使用されるパラメータを制御する。例えば、シーン判別部82により逆光であると判断された場合、図7に示すように、シーン判別部82から出力された逆光度合いに応じたゲイン補正におけるゲイン(検出ゲイン)の値が算出され(ステップST1)、あらかじめ設定された上限値および下限値の範囲内で決定される(ステップST2〜5)。
また、逆光度合いに限らず、EV値や、明度、ノイズ低減量の度合いに応じた判別をおこなってもよく、EV値や、明度、ノイズ量の度合いに応じたゲイン補正におけるゲイン(検出ゲイン)の値が算出されてもよい。
また、パラメータは、対象検出処理手段に使用されるノイズ低減のノイズ低減量の度合い、輪郭補正の輪郭補正の度合い、ガンマ補正のガンマカーブ値のいずれか一つ以上を含む数値であってもよい。
例えば、逆光度合いに応じて(例えば、逆光と判断できる場合)、ガンマ補正のガンマカーブを変更するようにパラメータを制御してもよい。
また、逆光度合いに応じて(例えば、逆光と判断できる場合)、輪郭補正の輪郭補正の度合いを強くするようにパラメータを制御してもよい。また、明度の度合いに応じて(例えば、暗いと判断できる場合)、ノイズ低減の度合いを強くするようにパラメータを制御してもよい。
なお、輪郭補正の度合いには、輪郭補正を行う(ON)、輪郭補正を行わない(OFF)、輪郭補正をどの程度の値で行うか、を数値又は文字により設定するものである。
なお、ノイズ低減量の度合いには、ノイズ低減を行う(ON)、ノイズ低減を行わない(OFF)、ノイズ低減をどの程度の値で行うか、を数値又は文字により設定するものである。
なお、パラメータ制御部84は、レリーズボタン19の押下により発生する信号を参照して、撮影の各段階、すなわち、処理を行うタイミング毎に制御方法を変えることにより、より効率よくパラメータを制御できるようにしている。具体的には、レリーズボタン19が半押しされたとき、プレ撮影直前のスルー画像で逆光用のゲインを使って顔が検出された場合に限り、そのスルー画像での顔検出処理に使用されたゲインの値をプレ画像に対する顔検出処理に使用されるゲインとして設定し、さらに、検出本体の処理における相関値のしきい値は、あらかじめ設定された逆光用しきい値に設定される。
EV値に基づきEV値用しきい値を設定する場合は、レリーズボタン19が半押しされたとき、プレ撮影直前のスルー画像でEV値用のゲインを使って顔が検出された場合に限り、そのスルー画像での顔検出処理に使用されたゲインの値をプレ画像に対する顔検出処理に使用されるゲインとして設定し、さらに、検出本体の処理における検出判定しきい値は、あらかじめ設定されたEV値用しきい値に設定される。
明度に基づき明度用しきい値を設定する場合は、レリーズボタン19が半押しされたとき、プレ撮影直前のスルー画像で明度用のゲインを使って顔が検出された場合に限り、そのスルー画像での顔検出処理に使用されたゲインの値をプレ画像に対する顔検出処理に使用されるゲインとして設定し、さらに、検出本体の処理における検出判定しきい値は、あらかじめ設定された明度用しきい値に設定される。
ノイズ量に基づきノイズ用しきい値を設定する場合は、レリーズボタン19が半押しされたとき、プレ撮影直前のスルー画像でノイズ用のゲインを使って顔が検出された場合に限り、そのスルー画像での顔検出処理に使用されたゲインの値をプレ画像に対する顔検出処理に使用されるゲインとして設定し、さらに、検出本体の処理における検出判定しきい値は、あらかじめ設定されたノイズ用しきい値に設定される。
また、レリーズボタン19が全押しされた場合には、プレ撮影直前のスルー画像で逆光用のゲインを使って顔が検出され、さらに、本撮影時にオート露出モードおよびフラッシュ発光禁止モードである場合に限り、そのスルー画像での顔検出処理に使用されたゲインの値を本画像に対する顔検出処理に使用されるゲインとして設定し、さらに、検出本体の処理における検出判定しきい値(相関値のしきい値等)は、あらかじめ設定された逆光用しきい値に設定される。
なお、EV値用しきい値、明度用しきい値、ノイズ用しきい値を設定してもよいし、これらのしきい値を複数使用し設定されてもよい。
CPU75は、動作モードスイッチ11等の操作系やAF処理部62等の各種処理部からの信号に応じてデジタルカメラ1の本体各部を制御する。
データバス76は、画像入力コントローラ61、各種処理部62〜65、フレームメモリ66、メディア制御部67、内部メモリ68、表示制御部71、対象物検出部80、シーン判別部82、パラメータ制御部84、およびCPU75に接続されており、デジタル画像データ等のやり取りを行う。
次いで、以上の構成のデジタルカメラ1において撮影時に行われる処理について説明する。まず、CPU75がデジタルカメラ1の動作モードを判定し、再生モードである場合には、外部記録メディア70に記録されている画像データを液晶モニタ18に表示する再生処理を行い、動作モードが撮影モードである場合には、液晶モニタ18にスルー画像を表示し、レリーズボタン19が半押しされたか否かの監視を開始するとともに、スルー画像に対する対処物検出処理が行なわれる。
図8はパラメータ制御部84による、スルー画像に対する対象物(顔)検出処理に使用されるパラメータ制御処理を示すフローチャートである。まず、逆光未検出救済モードがオンであるか否かを判定し(ステップST11)、逆光未検出救済モードがオンである場合、顔が連続して検出されない回数を示すnoface_countの値に「0」を設定し、(ステップST13)、顔検出結果を取得し(ステップST14)、顔が検出されなかったか否かを判定する(ステップST15)。顔が検出された場合、noface_countの値に「0」を設定し(ステップST16)、ステップST14に戻り、続けて顔検出処理が行なわれるが、顔が検出されなかった場合には、その検出処理時に用いられた現在のゲインが順光用ゲインであるか否かを判定し(ステップST17)、順光用ゲインではなかった場合、後述するステップST26に進む。順光用ゲインである場合には、顔が連続して検出されない回数を示すnoface_countの値が、予め設定された顔が検出されない状態での通常ゲイン連続使用回数しきい値を示すth_noface_count_stdの値以上であるか否かを判定する(ステップST18)。ステップST18が否定された場合、noface_countの値をインクリメンタルし(ステップST19)、ステップST14に戻る。ステップST18が肯定された場合には、シーン判別部82による逆光判定処理を行い(ステップST20)、そのシーン判別部82から出力された逆光度合いが設定しきい値以上であるか否かを判断する(ステップST21)。ステップST21が否定されると、ステップST14に戻る。逆光度合いが設定しきい値以上であると判断された場合には、シーン判別部82から出力された逆光度合いに応じた逆光用ゲインの値を算出し(ステップST22)、算出されたゲインの値を逆光用のゲインの値として設定する(ステップST23)。さらに、検出本体の処理における相関値のしきい値があらかじめ設定された逆光用しきい値となるように設定し(ステップST24)。noface_countの値に「0」に設定し(ステップST16)、ステップST14に戻る。
一方、ステップST17で、検出処理時に用いられた現在のゲインが順光用ゲインであるか否かが判定され、順光用ゲインではなかった場合には、顔が連続して検出されない回数を示すnoface_countの値が、予め設定された顔が検出されない状態での逆光用ゲイン連続使用回数しきい値を示すth_noface_count_backlightの値以上であるか否かを判定する(ステップST26)。ステップST26が否定された場合、noface_countの値をインクリメンタルし(ステップST27)、ステップST14に戻る。ステップST26が肯定された場合には、ゲインの値として順光用ゲインの値を設定するえ(ステップST28)、さらに、検出本体の処理における相関値のしきい値が順光用しきい値となるように設定し(ステップST29)、noface_countの値に「0」に設定し(ステップST30)、ステップST14に戻る。
以上のパラメータ制御処理により決定されたパラメータを使用した対象物検出処理に続いて、レリーズボタン19が半押しされたとき、プレ撮影を行ってプレ画像を取得するとともに、プレ画像に対する対象物検出処理が行なわれる。
図9はパラメータ制御部84による、プレ画像に対する対象物検出処理に使用されるパラメータ制御処理を示すフローチャートである。まず、プレ撮影直前のスルー画像で顔が検出されなかったか否かを判定する(ステップST31)。顔が検出された場合、そのプレ撮影直前のスルー画像での検出処理に使用されたゲインの値が順光用ゲインであったか否かを判定し(ステップST32)、順光用ゲインではない場合、ゲインの値がそのスルー画像での顔検出処理に使用されたゲインの値になるように設定する(ステップST33)、さらに、検出本体の処理における相関値のしきい値は、あらかじめ設定された逆光用しきい値に設定し(ステップST34)、リターンする。
なお、ステップST31が肯定された場合、およびステップST32が肯定された場合はステップST35に進み、ゲインの値が順光用のゲインとなるように設定する(ステップST35)、さらに、検出本体の処理における相関値のしきい値は、あらかじめ設定された順光用のしきい値となるように設定し(ステップST36)、リターンする。
以上のパラメータ制御処理により決定されたパラメータを使用した対象物検出処理に続いて、AE/AWB処理部63およびAF処理部62がプレ画像に基づいてAE/AWBおよびAF処理をそれぞれ行い、また、フラッシュ制御部73がフラッシュ24の発光量を決定する。続いて、CPU75はレリーズボタン19の半押しが解除されたか否かを判定し、解除され場合は、液晶モニタ18にスルー画像を表示し、レリーズボタン19が半押しされたか否かの監視を開始するとともに、スルー画像に対する対処物検出処理に戻る。一方、レリーズボタン19の半押しが解除されない場合には、さらにレリーズボタン19が全押しされたか否かを判定し、全押しされてない場合には、レリーズボタン19の半押しが解除されたか否かの判定に戻る。さらにレリーズボタン19が全押しされた場合には、本画像の撮影(本撮影)を行い、以下のようにパラメータ制御部84により制御されたパラメータを使用して本撮影により取得された本画像に対して対象物検出処理が行なわれる。
図10はパラメータ制御部84による、本画像に対する対象物検出処理に使用されるパラメータ制御処理を示すフローチャートである。まず、本撮影時の逆光対応顔検出処理モードがオンであるか否かを判定する(ステップST41)。逆光対応顔検出処理モードがオンである場合、マニュアル露出モードであるか否かを判定する(ステップST42)。ステップST42が否定されると、さらにフラッシュが発光したか否かを判定する(ステップST43)。ステップST43が否定されると、スルー画像の最新結果で顔が検出されなかったか否かを判定する(ステップST44)。顔が検出された場合、そのスルー画像の最新結果での検出処理に使用されたゲインの値が順光用のゲインであったか否かを判定し(ステップST45)、順光用のゲインではない場合、ゲインの値がそのスルー画像での顔検出処理に使用されたゲインの値になるように設定する(ステップST46)、さらに、検出本体の処理における相関値のしきい値は、あらかじめ設定された逆光用しきい値に設定し(ステップST47)、リターンする。
なお、ステップST41が否定された場合、ステップST42が肯定された場合、ステップST43が肯定された場合、ステップST44が肯定された場合、およびステップST45が肯定された場合はステップST48に進み、ゲインの値がゲインの値が順光用のゲインとなるように設定し(ステップST48)、さらに、検出本体の処理における相関値のしきい値は、あらかじめ設定された順光用のしきい値となるように設定し(ステップST49)、リターンする。
以上のパラメータ制御処理により決定されたパラメータを使用した対象物検出処理の後、本撮影により取得された本画像に対して画像処理を行ない、処理済みの本画像を液晶モニタ18に表示するとともに、外部記録メディア70に記録する。そして、電源がオフとされたか否かを判定し、電源がオフとされない場合には、レリーズボタン19が半押しされたか否かの監視を開始するとともに、スルー画像に対する対処物検出処理が行なわれ、電源がオフとされると処理を終了する。
このように、本発明の実施形態においては、画像のシーンを判別した判別結果に応じて対象物検出処理に使用されるパラメータを制御し、対象物検出処理行なうようにしたものである。このように、シーンの判別結果に基づいてその画像での検出処理に適したパラメータにパラメータを制御することにより、撮影状況が変化しても、その撮影状況下で撮影された画像からの検出処理に適したパラータに変化させることができるため、対象物の検出性能を向上させることができる。
また、対象物検出手段が対象物検出処理を行なう画像を撮影したタイミングに応じてパラメータの制御方法を変化させることにより、画像が撮影されたタイミング情報に基づいてその画像での検出処理に適したパラメータを効率的に決定することができる。
なお、上記実施形態においては、所定の対象物検出処理の一例として顔検出について説明しているが、これに限定されるものではなく、顔以外の他の被写体でもよいものである。
以上、本発明の実施形態に係るデジタルカメラについて説明したが、本発明の適用範囲はこれに限定されず、例えば、カメラ付き携帯電話、カメラ付きPDA等、電子撮像機能を備えた他の電子機器に対しても適用可能である。
本発明の撮影装置の一実施形態であるデジタルカメラの背面を中心とする斜視図 本発明の撮影装置の一実施形態であるデジタルカメラの前面を中心とする斜視図 本発明の撮影装置の一実施形態であるデジタルカメラの構成を示すブロック図(その1) 対象物検出部80による対象物検出処理を示すブロック図 シーン判別部82の逆光判定処理を説明するための図 シーン判別部82の逆光判定処理を説明するための図 逆光度合いに応じたゲインの値の算出する処理を示すフローチャート パラメータ制御部84による、スルー画像に対する対象物検出処理に使用されるパラメータ制御処理を示すフローチャート パラメータ制御部84による、プレ画像に対する対象物検出処理に使用されるパラメータ制御処理を示すフローチャート パラメータ制御部84による、本画像に対する対象物検出処理に使用されるパラメータ制御処理を示すフローチャート 本発明の撮影装置の一実施形態であるデジタルカメラの構成を示すブロック図(その2) 本発明の撮影装置の一実施形態であるデジタルカメラの構成を示すブロック図(その3) 本発明の撮影装置の一実施形態であるデジタルカメラの構成を示すブロック図(その3)
符号の説明
1 デジタルカメラ
80 対象物検出部
82 シーン判別部
84 パラメータ制御部

Claims (9)

  1. 撮影された画像から対象物を検出する対象物検出処理を行う対象物検出手段と
    前記画像のシーンを判別するシーン判別手段と、
    該シーン判別手段の判別結果に応じて前記対象物検出処理に使用されるパラメータを制御するパラメータ制御手段と
    を備えたものであることを特徴とする撮影装置。
  2. 前記対象物検出手段が、前記パラメータ制御手段により変更された変更後のパラメータを含む複数の異なる値のパラメータを用いて前記画像から対象物を検出し、それらの検出結果を統合して対象物検出結果とするものであることを特徴とする請求項1記載の撮影装置。
  3. 前記パラメータ制御手段が、前記対象物検出手段により前記パラメータでは前記対象物が検出されなかったとき、前記パラメータを変更するものであることを特徴とする請求項1記載の撮影装置。
  4. 前記パラメータ制御手段が、前記対象物検出手段が対象物検出処理を行う前記画像を撮影したタイミングもしくは前記対象物処理を行うタイミングに応じて前記パラメータの制御方法を変化させるものであることを特徴とする請求項1から3のいずれか1項記載の撮影装置。
  5. 前記パラメータが、前記対象物検出手段に使用されるゲイン補正におけるゲインまたは前記対象物検出手段に使用される検出判定しきい値であることを特徴とする請求項1から4のいずれか1項記載の撮影装置。
  6. 前記シーン判別手段が、逆光判定、露出判定、明度判定、ノイズ判定のいずれか一つ以上の判定処理により判別するものであることを特徴とする請求項1から5のいずれか1項記載の撮影装置。
  7. 前記パラメータが、前記対象物検出手段に使用される輪郭補正における輪郭補正の度合い、前記対象物検出手段に使用されるノイズ低減におけるノイズ低減の度合い、前記対象物検出手段に使用されるガンマ補正におけるガンマカーブ値のいずれか一つ以上を含むものであることを特徴とする請求項1から4のいずれか1項記載の撮影装置。
  8. 撮影された画像から対象物を検出する対象物検出処理を行い、
    前記画像のシーンを判別し、
    該シーン判別手段の判別結果に応じて前記対象物検出処理に使用されるパラメータを制御することを特徴とする撮影方法。
  9. 撮影された画像から対象物を検出する対象物検出処理を行う手順と
    前記画像のシーンを判別する手順と、
    該シーン判別手段の判別結果に応じて前記対象物検出処理に使用されるパラメータを制御する手順と
    を有することを特徴とする撮影方法をコンピュータに実行させるためのプログラム。
JP2007185163A 2006-07-25 2007-07-17 撮影装置および方法並びにプログラム Expired - Fee Related JP5027580B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007185163A JP5027580B2 (ja) 2006-07-25 2007-07-17 撮影装置および方法並びにプログラム
US12/898,980 US8797423B2 (en) 2006-07-25 2010-10-06 System for and method of controlling a parameter used for detecting an objective body in an image and computer program

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006202426 2006-07-25
JP2006202426 2006-07-25
JP2007185163A JP5027580B2 (ja) 2006-07-25 2007-07-17 撮影装置および方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP2008054297A true JP2008054297A (ja) 2008-03-06
JP5027580B2 JP5027580B2 (ja) 2012-09-19

Family

ID=39237847

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007185163A Expired - Fee Related JP5027580B2 (ja) 2006-07-25 2007-07-17 撮影装置および方法並びにプログラム

Country Status (1)

Country Link
JP (1) JP5027580B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008108024A (ja) * 2006-10-25 2008-05-08 Matsushita Electric Ind Co Ltd 画像処理装置および撮像装置
CN101909152A (zh) * 2009-05-26 2010-12-08 奥林巴斯映像株式会社 摄像装置
JP2011216976A (ja) * 2010-03-31 2011-10-27 Casio Computer Co Ltd 撮像装置、撮像方法及びプログラム
KR101116593B1 (ko) 2009-09-16 2012-03-16 (주) 인텍플러스 광학식 영상 측정 시스템 및 그를 이용한 측정 방법
JP2013250533A (ja) * 2012-06-04 2013-12-12 Canon Inc 撮像装置及びその制御方法
US9055215B2 (en) 2012-07-23 2015-06-09 Casio Computer Co., Ltd. Subject detection device and subject detection method for detecting subject image from image using selected discriminator corresponding to a photographing environment
CN108234980A (zh) * 2017-12-28 2018-06-29 北京小米移动软件有限公司 图像处理方法、装置及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001298660A (ja) * 2000-04-13 2001-10-26 Minolta Co Ltd デジタルカメラ、画像処理装置、画像処理方法および記録媒体
JP2001330882A (ja) * 2000-05-24 2001-11-30 Canon Inc 被写体認識機能付きカメラ
JP2005192162A (ja) * 2003-12-26 2005-07-14 Konica Minolta Photo Imaging Inc 画像処理方法、画像処理装置及び画像記録装置
JP2006018523A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像処理装置および画像処理方法およびコンピュータプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001298660A (ja) * 2000-04-13 2001-10-26 Minolta Co Ltd デジタルカメラ、画像処理装置、画像処理方法および記録媒体
JP2001330882A (ja) * 2000-05-24 2001-11-30 Canon Inc 被写体認識機能付きカメラ
JP2005192162A (ja) * 2003-12-26 2005-07-14 Konica Minolta Photo Imaging Inc 画像処理方法、画像処理装置及び画像記録装置
JP2006018523A (ja) * 2004-06-30 2006-01-19 Canon Inc 画像処理装置および画像処理方法およびコンピュータプログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008108024A (ja) * 2006-10-25 2008-05-08 Matsushita Electric Ind Co Ltd 画像処理装置および撮像装置
CN101909152A (zh) * 2009-05-26 2010-12-08 奥林巴斯映像株式会社 摄像装置
US8810667B2 (en) 2009-05-26 2014-08-19 Olympus Imaging Corp. Imaging device
KR101116593B1 (ko) 2009-09-16 2012-03-16 (주) 인텍플러스 광학식 영상 측정 시스템 및 그를 이용한 측정 방법
JP2011216976A (ja) * 2010-03-31 2011-10-27 Casio Computer Co Ltd 撮像装置、撮像方法及びプログラム
JP2013250533A (ja) * 2012-06-04 2013-12-12 Canon Inc 撮像装置及びその制御方法
US9055215B2 (en) 2012-07-23 2015-06-09 Casio Computer Co., Ltd. Subject detection device and subject detection method for detecting subject image from image using selected discriminator corresponding to a photographing environment
KR101529384B1 (ko) * 2012-07-23 2015-06-16 가시오게산키 가부시키가이샤 피사체 검출 장치, 피사체 검출 방법 및 기록 매체
CN108234980A (zh) * 2017-12-28 2018-06-29 北京小米移动软件有限公司 图像处理方法、装置及存储介质

Also Published As

Publication number Publication date
JP5027580B2 (ja) 2012-09-19

Similar Documents

Publication Publication Date Title
JP4819001B2 (ja) 撮影装置および方法並びにプログラム、画像処理装置および方法並びにプログラム
US8199203B2 (en) Imaging apparatus and imaging method with face detection based on scene recognition results
JP4782725B2 (ja) 合焦装置および方法並びにプログラム
US7893969B2 (en) System for and method of controlling a parameter used for detecting an objective body in an image and computer program
US7720369B2 (en) Image taking apparatus
US7668451B2 (en) System for and method of taking image
JP4510768B2 (ja) 撮影装置および方法並びにプログラム
JP2007264196A (ja) ストロボ制御装置及び方法
JP2008017166A (ja) 撮影装置および方法並びにプログラム
JP5180349B2 (ja) 撮影装置および方法並びにプログラム
JP5027580B2 (ja) 撮影装置および方法並びにプログラム
JP4818999B2 (ja) 撮影装置および方法並びにプログラム
US9055212B2 (en) Imaging system, image processing method, and image processing program recording medium using framing information to capture image actually intended by user
US20070206938A1 (en) Distance measuring apparatus and method
US20070195190A1 (en) Apparatus and method for determining in-focus position
JP2006163496A (ja) 画像記録装置、画像記録方法及び画像記録プログラム
JP2008263478A (ja) 撮像装置
JP2008298847A (ja) 撮影方法及びデジタルカメラ
JP2007279333A (ja) 合焦位置決定装置及び方法
JP4717840B2 (ja) 撮像装置およびその制御方法
JP4750063B2 (ja) 撮像装置および撮像方法
JP2008054031A (ja) デジタルカメラ及び表示制御方法
JP2007208355A (ja) 撮影装置および方法並びにプログラム
JP2008219367A (ja) 撮像装置及び撮像方法
JP2008028956A (ja) 撮像装置、および、撮像装置における対象物検出用画像信号の生成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110816

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120612

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120622

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150629

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5027580

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees