JP5298887B2 - デジタルカメラ - Google Patents

デジタルカメラ Download PDF

Info

Publication number
JP5298887B2
JP5298887B2 JP2009017646A JP2009017646A JP5298887B2 JP 5298887 B2 JP5298887 B2 JP 5298887B2 JP 2009017646 A JP2009017646 A JP 2009017646A JP 2009017646 A JP2009017646 A JP 2009017646A JP 5298887 B2 JP5298887 B2 JP 5298887B2
Authority
JP
Japan
Prior art keywords
automatic
facial expression
subject
face
photographing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009017646A
Other languages
English (en)
Other versions
JP2010177991A (ja
Inventor
哲生 因
正永 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2009017646A priority Critical patent/JP5298887B2/ja
Publication of JP2010177991A publication Critical patent/JP2010177991A/ja
Application granted granted Critical
Publication of JP5298887B2 publication Critical patent/JP5298887B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、デジタルカメラに係り、特に、被写体人物の所定の顔表情を検出すると自動的に撮影動作を開始させる機能を備えたデジタルカメラに関する。
近年、被写体人物の笑顔などの所定の顔表情を検出すると自動的に撮影動作を開始させる顔表情検出自動撮影モード機能を備えたデジタルカメラが広く普及している。このような顔表情検出自動撮影モード機能を備えたデジタルカメラは、例えば、顔表情検出自動撮影モードを設定してシャッターレリーズボタンを押圧操作すると、顔表情検出自動撮影モードが起動する。このデジタルカメラは、この顔表情検出自動撮影モード中に被写体人物の笑顔等を検出すると、自動的に撮影動作を開始し、笑顔の被写体人物を撮像して、その被写体画像データを記録媒体に記録する。このような笑顔等の自動撮影が予め定められた所定の回数行われると、顔表情検出自動撮影モードは、自動的に終了する。また、撮影者が、笑顔等の自動撮影が上述の所定回数行われる前に、シャッターレリーズボタンを押圧操作すると、顔表情検出自動撮影モードを強制的に終了させることができる。
しかしながら、上述の顔表情検出自動撮影モード機能を備えたデジタルカメラは、撮影者が顔表情検出自動撮影モードに設定したことを忘れてしまい風景を撮影しようとした場合や、被写体人物が被写界領域から移動してしまい、いつまでも戻ってこない場合であっても、無意味に笑顔などの表情を検出し続けるといった問題がある。
請求項1の発明によるデジタルカメラは、被写体人物の所定の顔表情を検出すると自動的に撮影動作を開始させる顔表情自動撮影モードを起動させるモード設定手段と、被写体を撮像して、被写体画像データを出力する撮像手段と、前記被写体画像データに基づき被写体人物画像を検出する人物検出手段と、前記被写体画像データに基づき、前記被写体人物画像の顔表情が前記所定の顔表情に対応することを検出すると、検出信号を出力する顔表情検出手段と、前記検出信号に応じて自動的に撮影動作を開始する自動撮影手段と、前記人物検出手段が、前記顔表情自動撮影モードの起動後、第1の所定期間の間に前記被写体人物画像を検出しない場合に、前記顔表情自動撮影モードを終了させる自動キャンセル手段と、を備え、前記人物検出手段は、前記被写体画像データに基づき前記被写体人物の顔を検出し、前記自動キャンセル手段は、前記人物検出手段が前記第1の所定期間の間に前記被写体人物画像の顔を検出し、その後に前記被写体人物画像の顔検出が不可能になった場合、前記顔検出の不可能が第2の所定期間継続したときにも前記顔表情自動撮影モードを終了させることを特徴とする。
本発明のデジタルカメラによれば、顔表情自動撮影モードの設定時に、所定期間の間、被写体人物を検出しないときには、顔表情自動撮影モードを終了させることができる。
本発明の実施の形態に係るデジタルカメラの構成を示すブロック図である。
以下、本発明の実施の形態によるデジタルカメラについて、図面を参照しながら説明する。
図1は、本発明の実施の形態によるデジタルカメラの構成を示すブロック図である。
図1に示されるように、デジタルカメラは、撮影レンズ11、絞り12、撮像素子13、バッファメモリ14、画像処理部15、画像記録部16および制御部20を備える。また、デジタルカメラは、顔認識部21、顔データ記憶部22、顔表情検出部23、顔表情データ記憶部24および自動撮影部30を備える。さらに、デジタルカメラは、顔表情撮影モード設定部40、自動キャンセル部41、シーン解析部42、撮影モード自動設定部43、表示制御部44およびディスプレイ45を備える。
撮影レンズ11は、ズームレンズやフォーカスレンズを含む複数のレンズで構成され、被写体像を撮像素子13上に結像する。図1では簡単のため、撮影レンズ11は1枚のレンズで示されている。撮像素子13は、撮影レンズ11からの被写体光L1を光電変換することにより画像信号を生成する。
撮像素子13から出力される画像信号は、バッファメモリ14を介して画像処理部15に送られ、ここで所定の種々の画像処理が施される。撮影開始前の段階では、撮像素子13からの画像信号は、バッファメモリ14、画像処理部15および制御部20を介してディスプレイ45に送られ、スルー画像として表示される。撮影段階では、撮像素子13からの画像信号は、バッファメモリ14、画像処理部15を介して画像記録部16へ送られ、不揮発性メモリ(記憶媒体)16aに記録される。
画像記録部16は、画像データとその画像データに関する属性データ(例えば、撮影日時、撮影場所)とを関連付けてメモリ16aに記録する。画像データには、撮像素子13からの被写体画像データや、外部機器から画像記録部16に入力された被写体画像データが含まれる。
顔認識部21は、撮像素子13からバッファメモリ14、画像処理部15、制御部20を介して送られたスルー画像データを入力し、このスルー画像データを顔データ記憶部22に予め記憶されている顔データと比較することにより、スルー画像中の被写体人物の顔を検出する。顔認識部21は、被写体人物の顔を検出、即ち認識している間、認識信号を出力する。
顔データ記憶部22は、例えば、眉、眼、鼻、唇の形状に関する特徴点のデータを記憶している。
顔認識には、例えば、特開2001−16573号公報に開示されている検出手法を用いることができる。この検出手法は、入力画像中から特徴点を抽出して被写体の顔領域、顔の大きさ等を検出するものである。特徴点としては、眉、眼、鼻、唇の各端点、および顔の輪郭点、例えば頭頂点や顎の下端点が挙げられる。
他の顔認識としては、例えば、特開2005−157679号公報に開示されている検出手法を用いることができる。この検出手法は、先ず、入力画像中の2画素間の輝度差を特徴量として学習しておき、その特徴量に基づいて入力画像中の所定領域に顔が存在するか否かを示す推定値を算出し、推定値が1以上のときにその所定領域に顔が存在すると判別するものである。
顔表情検出部23は、顔認識部21により検出された顔領域の画像の顔表情を顔表情データ記憶部24に予め記憶されている所定の顔表情データと比較することにより、顔画像中の被写体人物の顔表情の種類を検出する。すなわち、顔表情検出部23は、被写体人物の顔表情が所定の顔表情であることを検出する。
顔表情には、笑顔、泣き顔、怒り顔、驚き顔、寝顔などの様々な種類があり、顔表情データ記憶部24は、これらの様々な顔表情をデータとして記憶している。
顔表情検出部23が顔領域の画像の顔表情を検出する場合には、特開2008−42319号公報に開示されている検出手法を用いることができる。この検出手法は、例えば笑顔であることを検出するには、検出された画像の顔が笑顔と通常時の顔という2つの顔表情のいずれに近いかに基づいて表情の種類を判断するものである。
顔表情検出部23は、被写体人物の顔表情が所定の顔表情であることを検出すると、検出信号を出力する。
自動撮影部30は、顔表情検出部23からの検出信号に応じて撮影レンズ11、絞り12および撮像素子13に動作信号を出力して被写体の自動撮影を行う。画像記録部16は、撮影された被写体画像データと属性データ(例えば、撮影日時、撮影場所)とを関連付けてメモリ16aに記録する。
顔表情撮影モード設定部40は、顔表情の種類を設定するとともに、その設定された顔表情を検出すると自動撮影を行うモードをON設定する操作部である。顔表情撮影モードでは、例えば、所定の顔表情として笑顔を設定すると、顔表情検出部23は被写体人物画像の笑顔を検出するように動作する。
自動キャンセル部41は、顔表情撮影モード設定部40により顔表情撮影モードが起動した後、顔認識部21が被写体人物画像の顔を検出しない時間が所定時間(以下、第1の所定時間T1という)経過すると、顔表情撮影モードを強制的に終了させる。なお、この第1の所定時間T1は10秒程度が好ましい。
また、自動キャンセル部41は、上記の第1の所定時間T1の途中、顔認識部21が被写体人物画像の顔を検出したが、その後、被写体人物画像の顔の検出が不可能となり、その検出不可能状態が所定時間(以下、第2の所定時間T2という)経過した時も、顔表情撮影モードを強制的に終了させる。もし、第2の所定時間T2内に顔認識部21が被写体人物画像の顔を再検出すれば、顔表情撮影モードをキャンセルすることなく、顔表情検出部23による被写体人物の顔表情検出が行われる。なお、この第2の所定時間T2は3秒程度が好ましい。
すなわち、自動キャンセル部41は、タイマー機能を有しており、このタイマーは、顔表情撮影モードの起動時にONとなり計時を開始し、顔認識部21が顔を認識して認識信号を出力するとその認識信号により計時をリセットする。また、タイマーは、顔認識部21が顔を認識できず認識信号を出力しない状態のまま第1の所定時間T1を計時すると、
自動キャンセル部41は、これに応じて顔表情撮影モードをキャンセルする。
タイマーは、更に、第1の所定時間T1の間に顔認識部21の認識信号が出力された後に、顔認識部21が顔認識をすることができずに認識信号が出力されなくなる、すなわち消失すると、計時を再開する。そして、タイマーは、第2の所定時間T2を計時すると、自動キャンセル部41は、これに応じて顔表情撮影モードをキャンセルする。
第2の所定時間T2は、第1の所定時間T1よりも短く設定される。
シーン解析部42は、被写体のスルー画像から被写体の情景(シーン)を解析する。シーンには、森や海などの風景、花火画像のように画像全体が暗い夜景、人物の近景であるポートレートなどがある。シーン解析部42は、例えば、被写体画像中に緑の部分や青の部分が多い場合は風景シーンであると解析し、輝度が低い部分が多い場合は夜景シーンであると解析する。
撮影モード自動設定部43は、自動キャンセル部41が顔表情撮影モードを強制的に終了させた時に、顔表情撮影モードとは異なる撮影モードを自動的に起動する。異なる撮影モードには、風景モード、夜景モード、ポートレートモードなどがある。シーン解析部42によりその時の被写体が風景シーンであると解析されると、撮影モード自動設定部43は、風景モードを起動し、同様に、その時の被写体が夜景シーンであると解析されると、夜景モードを起動し、ポートレートシーンであると解析されるとポートレートモードを起動する。
表示制御部44は、ディスプレイ45による表示を制御する。すなわち、表示制御部44は、ディスプレイ45がスルー画像の表示、バッファメモリ14に一時的に記録されている撮影画像の表示、画像記録部16のメモリ16aに保存された被写体画像の再生表示を行なう時の表示態様を制御する。また、表示制御部44は、ディスプレイ45に、被写体画像に属性情報を付加して表示させる。さらに、表示制御部44は、ディスプレイ45に、自動キャンセル部41が顔表情撮影モードをキャンセルしたときに、そのキャンセルを告げる表示を行わせる。
ディスプレイ45は、スルー画像の表示やバッファメモリ14に一時的に記録されている撮影画像、メモリ16aに保存された撮影画像の再生表示を行い、また、表示制御部44の指令に従って、撮影画像に関連する属性情報の表示やキャンセルの表示などを行う。
以上のように構成されたデジタルカメラは、以下のように動作する。
以下の説明では、ユーザーが顔表情撮影モード設定部40の操作によって所定の顔表情として笑顔を設定したものとする。笑顔撮影モードのON設定が行われて笑顔撮影モードが起動すると、顔認識部21は直ちにスルー画像中の被写体人物の顔検出動作を開始し、自動キャンセル部41のタイマーは計時を開始する。顔認識部21は、スルー画像中の被写体人物の顔画像を顔データ記憶部22の顔データと比較することにより、スルー画像中の被写体人物の顔を検出すると、認識信号を出力する。この認識信号の出力により、自動キャンセル部41のタイマーは計時をリセットする。
顔表情検出部23は、顔認識部21により検出された顔画像の顔表情を顔表情データ記憶部24に予め記憶されている笑顔データと比較することにより、顔画像中の被写体人物の顔表情が笑顔であることを検出すると、検出信号を出力する。自動撮影部30は、その検出信号に応じて撮影レンズ11、絞り12および撮像素子13へ動作信号を出力して被写体の撮影を行う。撮影された被写体画像データは、その属性データと関連付けられて画像記録部16のメモリ16aへ保存される。
ところが、顔認識部21は、被写体人物が存在しない場合はもちろん顔検出が不可能であり、被写体人物が存在していても、その人物が帽子やマスクを被っていたり、あるいは人物が遠方にいるために顔を認識できなかった場合にも顔検出はできない。顔認識部21が笑顔撮影モードの起動時から第1の所定時間T1の時間内に被写体人物の顔を検出できなかった場合は、自動キャンセル部41のタイマーは第1の所定時間T1を計時し、これに応じて自動キャンセル部41は笑顔撮影モードを終了させ、ディスプレイ45はキャンセルの表示を行う。
次に、顔認識部21が第1の所定時間T1の時間内に被写体人物の顔を検出した後に、被写体人物の顔検出が不可能となった場合について説明する。被写体人物の顔検出が不可能となり、顔認識部21からの認識信号の出力が中断した時点で、自動キャンセル部41のタイマーは計時を開始する。顔認識部21が第2の所定時間T2の時間内に被写体人物の顔を検出できなかった場合は、自動キャンセル部41は笑顔撮影モードを終了させ、ディスプレイ45はキャンセルの表示を行う。
なお、顔認識部21が第2の所定時間T2の時間内に被写体人物の顔を検出した場合は、認識信号を出力し、この認識信号により、自動キャンセル部41は計時をリセットする。そして、顔表情検出部23は笑顔検出動作を再開する。
自動キャンセル部41が笑顔撮影モードをキャンセルすると、撮影モード自動設定部43は、その時のシーン解析部42の解析結果に基づいて撮影モードを自動設定し起動する。例えば、シーン解析部42は、被写体画像中に緑の部分や青の部分が多い場合は風景シーンであると解析し、撮影モード自動設定部43は、顔表情撮影モードとは異なる撮影モードである風景モードを自動的に設定し起動する。こうして、笑顔撮影モードから風景モードに自動的に切り換えられる。
本実施の形態によるデジタルカメラは、以下の作用効果を奏する。
(1)笑顔撮影モードの起動時から第1の所定時間T1の時間内に被写体人物の顔を検出できなかった場合は、自動キャンセル部41は笑顔撮影モードを終了させるので、無意味な笑顔撮影モードを継続することがなくなる。
(2)顔認識部21が第1の所定時間T1の時間内に被写体人物の顔を検出した後に、その顔検出ができなくなり、その顔検出不可能状態が第2の所定時間T2の間、継続した場合には、自動キャンセル部41は笑顔撮影モードを終了させるので、無意味な笑顔撮影モードを継続することがなくなる。
(3)笑顔撮影モードの終了後に、撮影モード自動設定部43は、シーン解析部42の解析結果に基づいて撮影モードを自動設定するので、現状に即した撮影モードへ変更できる。
本発明のデジタルカメラは、以下のように変形することもできる。
移動する被写体人物を追尾して撮影動作を実行する追尾撮影モードと、顔表情撮影モードとを組み合わせることもできる。例えば、追尾撮影モードの起動により被写体人物を追尾し、その人物が被写体画面から完全にフレームアウトしても、その時点から短時間、例えば3秒以内に被写体画面に復帰した場合には追尾動作を再開する。
ところが、フレームアウトした人物が3秒以内に復帰しなかった場合には、追尾撮影モードをキャンセルして顔表情撮影モードへ自動的に切り換える。また、追尾撮影モードと顔表情撮影モードとを同時に起動させてもよい。なお、被写体追尾機能については、特開2007−074296号公報に記載の手法を利用することができる。
本実施の形態によるデジタルカメラは、顔認識部21によりスルー画像中の被写体人物の顔を検出するものであるが、人物全体あるいは人物の上半身を検出する検出部として顔認識部21を構成することもできる。遠景の人物は顔検出が難しいが、このように人物全体あるいは人物の上半身を検出することによって容易に人物の存在を認識することができる。
本発明は、その特徴を損なわない限り、以上説明した実施の形態に何ら限定されない。
13:撮像素子 16:画像記録部
21:顔認識部 22:顔データ記憶部
23:顔表情検出部 24:顔表情データ記憶部
30:自動撮影部 40:顔表情撮影モード設定部
41:自動キャンセル部 42:シーン解析部
43:撮影モード自動設定部 45:ディスプレイ

Claims (6)

  1. 被写体人物の所定の顔表情を検出すると自動的に撮影動作を開始させる顔表情自動撮影モードを起動させるモード設定手段と、
    被写体を撮像して、被写体画像データを出力する撮像手段と、
    前記被写体画像データに基づき被写体人物画像を検出する人物検出手段と、
    前記被写体画像データに基づき、前記被写体人物画像の顔表情が前記所定の顔表情に対応することを検出すると、検出信号を出力する顔表情検出手段と、
    前記検出信号に応じて自動的に撮影動作を開始する自動撮影手段と、
    前記人物検出手段が、前記顔表情自動撮影モードの起動後、第1の所定期間の間に前記被写体人物画像を検出しない場合に、前記顔表情自動撮影モードを終了させる自動キャンセル手段と、を備え
    前記人物検出手段は、前記被写体画像データに基づき前記被写体人物の顔を検出し、
    前記自動キャンセル手段は、前記人物検出手段が前記第1の所定期間の間に前記被写体人物画像の顔を検出し、その後に前記被写体人物画像の顔検出が不可能になった場合、前記顔検出の不可能が第2の所定期間継続したときにも前記顔表情自動撮影モードを終了させることを特徴とするデジタルカメラ。
  2. 請求項に記載のデジタルカメラにおいて、
    前記第2の所定期間は、前記第1の所定期間よりも短いことを特徴とするデジタルカメラ。
  3. 請求項1に記載のデジタルカメラにおいて、
    表示手段を更に備え、
    前記表示手段は、前記自動キャンセル手段が前記顔表情自動撮影モードを終了させたときに、前記顔表情自動撮影モードの終了を表示することを特徴とするデジタルカメラ。
  4. 請求項に記載のデジタルカメラにおいて、
    表示手段を更に備え、
    前記表示手段は、前記自動キャンセル手段が前記第2の所定期間の後に前記自動撮影モードを終了させたときに、前記顔表情自動撮影モードの終了を表示することを特徴とするデジタルカメラ。
  5. 請求項1に記載のデジタルカメラにおいて、
    前記顔表情自動撮影モードとは異なった撮影モードを設定する撮影モード自動設定手段を更に備え、
    前記撮影モード自動設定手段は、前記自動キャンセル手段が前記第1の所定期間の後に前記顔表情自動撮影モードを終了させた時に、前記異なった撮影モードを自動的に起動することを特徴とするデジタルカメラ。
  6. 請求項に記載のデジタルカメラにおいて、
    前記顔表情自動撮影モードとは異なった撮影モードを設定する撮影モード自動設定手段を更に備え、
    前記撮影モード自動設定手段は、前記自動キャンセル手段が前記第2の所定期間の後に前記顔表情自動撮影モードを終了させた時に、前記異なった撮影モードを自動的に起動することを特徴とするデジタルカメラ。
JP2009017646A 2009-01-29 2009-01-29 デジタルカメラ Expired - Fee Related JP5298887B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009017646A JP5298887B2 (ja) 2009-01-29 2009-01-29 デジタルカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009017646A JP5298887B2 (ja) 2009-01-29 2009-01-29 デジタルカメラ

Publications (2)

Publication Number Publication Date
JP2010177991A JP2010177991A (ja) 2010-08-12
JP5298887B2 true JP5298887B2 (ja) 2013-09-25

Family

ID=42708509

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009017646A Expired - Fee Related JP5298887B2 (ja) 2009-01-29 2009-01-29 デジタルカメラ

Country Status (1)

Country Link
JP (1) JP5298887B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5516209B2 (ja) 2010-08-06 2014-06-11 アイシン・エィ・ダブリュ株式会社 ナビゲーション装置、ナビゲーション方法、及びナビゲーションプログラム
JP5779367B2 (ja) * 2011-03-10 2015-09-16 オリンパス株式会社 撮像装置、撮像制御方法及び撮像制御プログラム
JP6432290B2 (ja) * 2014-11-07 2018-12-05 カシオ計算機株式会社 撮像装置、撮像制御方法、及びプログラム
JP7179496B2 (ja) * 2018-06-04 2022-11-29 東芝ホームテクノ株式会社 加熱調理器

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4626425B2 (ja) * 2005-07-11 2011-02-09 富士フイルム株式会社 撮像装置、撮像方法及び撮像プログラム
US7664389B2 (en) * 2007-05-21 2010-02-16 Sony Ericsson Mobile Communications Ab System and method of photography using desirable feature recognition
JP2008299430A (ja) * 2007-05-29 2008-12-11 Canon Inc 画像処理装置、画像処理方法、及び画像処理プログラム

Also Published As

Publication number Publication date
JP2010177991A (ja) 2010-08-12

Similar Documents

Publication Publication Date Title
JP4254873B2 (ja) 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム
KR100738492B1 (ko) 촬상장치 및 그 제어방법
TWI393434B (zh) 攝像裝置及程式儲存記憶媒體
JP4605039B2 (ja) 自動撮影方法及び自動撮影装置並びに自動撮影プログラム
KR101436839B1 (ko) 사람 수 체크를 이용한 셀프타이머 촬영 장치 및 방법
US8350918B2 (en) Image capturing apparatus and control method therefor
JP5030022B2 (ja) 撮像装置及びそのプログラム
JP5228354B2 (ja) ディジタルカメラ
KR101325002B1 (ko) 화상 처리 장치, 화상 처리 방법 및 기록 매체
JP5298887B2 (ja) デジタルカメラ
JP4623299B2 (ja) 撮像装置および撮像方法
JP2010273280A (ja) 撮像装置
JP2013183185A (ja) 撮像装置、撮影制御方法及びプログラム
JP2010068190A (ja) デジタルカメラ、画像処理装置およびデジタルカメラシステム
JP5104595B2 (ja) 撮影装置
JP4998122B2 (ja) 撮像装置及びそのプログラム
JP5448868B2 (ja) 撮像装置および撮像装置の制御方法
JP5661380B2 (ja) 撮像装置及び撮像装置の制御方法
JP5157704B2 (ja) 電子スチルカメラ
JP2009182880A (ja) 撮像装置及びそのプログラム
JP2010273281A (ja) 撮像装置
JP2009207100A (ja) 撮像装置及びそのプログラム
JP2008172732A (ja) 撮像装置及びその制御方法、プログラム、
JP5359337B2 (ja) 電子スチルカメラ
JP5157761B2 (ja) 電子スチルカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120710

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130603

R150 Certificate of patent or registration of utility model

Ref document number: 5298887

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees