JP5265337B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP5265337B2 JP5265337B2 JP2008335018A JP2008335018A JP5265337B2 JP 5265337 B2 JP5265337 B2 JP 5265337B2 JP 2008335018 A JP2008335018 A JP 2008335018A JP 2008335018 A JP2008335018 A JP 2008335018A JP 5265337 B2 JP5265337 B2 JP 5265337B2
- Authority
- JP
- Japan
- Prior art keywords
- face
- image data
- face detection
- exposure
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 35
- 238000012937 correction Methods 0.000 claims description 32
- 238000000605 extraction Methods 0.000 claims description 14
- 238000001514 detection method Methods 0.000 description 190
- 238000011835 investigation Methods 0.000 description 38
- 238000012545 processing Methods 0.000 description 32
- 238000000034 method Methods 0.000 description 27
- 230000008569 process Effects 0.000 description 24
- 239000004973 liquid crystal related substance Substances 0.000 description 16
- 238000004891 communication Methods 0.000 description 12
- 230000008859 change Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 8
- 230000035945 sensitivity Effects 0.000 description 6
- 230000008034 disappearance Effects 0.000 description 5
- 238000005375 photometry Methods 0.000 description 5
- 230000014509 gene expression Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000011514 reflex Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000037433 frameshift Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Landscapes
- Exposure Control For Cameras (AREA)
- Studio Devices (AREA)
Description
すなわち、本発明の撮影装置は、被写体からの光を結像する撮影レンズと、前記撮影レンズにより結像される像に対応する電気信号を出力する撮像素子と、前記電気信号に基づいて、画像データを生成する生成手段と、前記画像データにおいて人物の顔を示す参照画像データと類似する類似画像データを抽出する抽出手段と、前記類似画像データが前記被写体の顔であるか否かの類似度の大きさを複数の基準値と比較して、前記類似画像データが前記被写体の顔であるか否かを判断する判断手段と、前記判断手段により前記被写体の顔と判断された類似画像データを利用して、前記撮像素子の露出を制御する露出制御手段と、前記判断手段により前記類似画像データが前記被写体の顔であると判断する一の基準値よりも小さく、且つ、前記類似画像データが前記被写体の顔でないと判断される他の基準値よりも大きいとき、前記撮像素子の露出を補正する露出補正値を設定するために、前記抽出された類似画像データの出力の大きさが第1の所定値以下であるか否か、及び、前記第1の所定値よりも大きい第2の所定値以上であるか否かを判定する類似画像出力判定手段と、前記類似画像出力判定手段により前記抽出された類似画像データの出力の大きさが前記第1の所定値以下であると判定された場合、前記撮像素子の出力が高くなるように前記露出補正値を設定し、前記類似画像出力判定手段により前記抽出された類似画像データの出力の大きさが前記第2の所定値以上であると判定された場合、前記撮像素子の出力が低くなるように前記露出補正値を設定して前記撮像素子の露出を制御する露出値を変更する制御手段とを備える。
また、前記判断手段は、前記抽出手段により前回抽出された前記類似画像データの位置を中心とする一致条件判定領域内に、前記抽出手段により今回抽出された前記類似画像データの位置が入っているとき、その類似画像データを前記被写体の顔と判断するように構成してもよい。
図1は、本発明の実施形態の撮像装置を示す図である。なお、図1に示す撮像装置は一眼レフカメラである。
絞り203は、絞り駆動機構202内に備えられている不図示のステッピングモータにより駆動される。
ボディユニット100は、ボディ制御用マイクロコンピュータ(以下、Bμcomという)101と、画像処理IC102と、顔検出IC103と、SDRAM(Synchronous Dynamic Random Access Memory)104と、撮像素子駆動IC110と、撮像素子111と、フォーカルプレーン式のシャッタ120と、シャッタ駆動制御回路121と、通信コネクタ130と、液晶モニタ140と、カメラ操作スイッチ150と、通信コネクタ160とを備えて構成されている。なお、撮像素子111、撮像素子駆動IC110、SDRAM104、液晶モニタ140、及び通信コネクタ130を介した記録メディア131が画像処理IC102に接続されており、電子撮像機能と電子記録表示機能を実現している。また、不図示の電源の電圧は各回路に必要とする電圧に変換されて供給される。
Bμcom101は、連写時の撮影間隔を計測するためのタイマを備えるとともに、撮像装置全体の動作制御を行う制御手段、計数手段、モード設定手段、検出手段、判定手段、演算手段などの機能を備えている。また、Bμcom101は、通信コネクタ160、シャッタ駆動制御回路121、液晶モニタ140、カメラ操作SW150、及び不図示の電源に接続されている。なお、Bμcom101とLμcom201とは、レンズユニット200をボディユニット100へ装着することにより、通信コネクタ160を介して互いに通信可能に電気的接続がなされる。そして、Lμcom201はBμcom101からの制御信号により動作し、本実施形態の撮像装置が一眼レフカメラのデジタルカメラとして稼動する。
カメラ操作スイッチ150は、撮影動作の実行を指示するためのレリーズボタン、撮影
モードを連写モードや通常撮影モードなどに切り替えるためのモード変更スイッチ、AELAFLボタン、及び電源のオン、オフを切り替えるためのパワースイッチなどユーザが本実施形態の撮像装置を操作するために必要な複数の操作手段で構成される。
まず、Bμcom101からの制御信号により画像処理IC102の動作が制御され、撮像素子駆動IC110からのデジタル電気信号が画像処理IC102に入力されると、画像処理IC102は、画像データに変換して一時記録用メモリであるSDRAM104に記録する。なお、SDRAM104は、画像処理IC102の画像処理のためのワークエリアとしても使用される。
次に、本実施形態の撮像装置のライブビュー(以下、LVという)動作について説明する。なお、露光は、例えば、1秒当たり30枚程度の割合で連続的に行うものとする。
また、「LV動作」時において、撮影レンズ210a、210bからの光束は常に撮像素子111に導かれているので、被写体に対するAFやAEパラメータ決定を、デジタル電気信号に基づいて画像処理IC102に行わせることができる。以下、「LV動作」時のAFを「LVAF」といい、「LV動作」時のAEパラメータ決定を「LVAE」という。
まず、「LV動作」時に得られる画像データは、画像処理IC102により顔検出処理に必要な画像データに変換されSDRAM104に逐次記録される。
画像データと重なる調査領域Cは5%になる。
次に、本実施形態の撮像装置における顔検出データに基づく「LVAF」について説明する。
そして、Bμcom101は、その位置に撮影レンズ210a、210bのピント(焦点)が合うように制御信号をLμcom201に送る。
まず、Bμcom101は、「LV動作」時に取得された画像データに対して、図5Aのように、5列7行の測光領域を設定する。
of Photographic Exposure)値におけるBV(Brightness Value)値で測光結果を示している。図5Bの例では、背景と重なる測光領域のBV値は5になっており、人物の顔と重なる測光領域のBV値は4になっている。すなわち、人物の顔と重なる測光領域は背景と重なる測光領域よりも一段暗くなっている。
図6は、本実施形態の撮像装置における「LV動作」から「撮影動作」までの一連の動作を説明するためのフローチャートである。
次に、Bμcom101は、「LVAE」を行い、撮像素子111に投影される被写体像のBV値を求める(STEP1−30)。なお、後述するSTEP1−60で被写体の顔の位置情報と大きさ情報が取得されている場合は、それらの情報を使って「LVAE」を行う。
11に入射される光量が適切な量になるように、すなわち、撮像素子111の露出が適切な露出になるように、レンズの絞り量、シャッタ120の速度、撮像素子111の感度などを設定する(STEP1−40)。ここでは、被写界深度を深くし、顔検出処理が行い易いようにするために、絞り203をF5.6などの値に設定する。被写界深度が浅いと、ピントが合っていない領域がボケるため顔検出処理が行い難い。そのため、ピントが合う領域を広げるために、絞り203を絞っておく。
そして、Bμcom101は、STEP1−210で得られた画像データに対して画像処理IC102において画像処理を行わせ(STEP1−220)、その画像データを記録メディア131に記録し(STEP1−230)、撮影動作を終了する。
図7は、上記STEP1−60における顔検出処理の動作を説明するためのフローチャートである。
類似度が80%以上であると判断した場合(STEP2−30がYes)、顔検出IC103は、STEP2−20で検出した調査領域を被写体の顔であると判断し、その調査領域の位置情報、大きさ情報、及び類似度をBμcom101に送り(STEP2−40)、顔検出処理を終了する。例えば、図8Aに示す調査領域Dの類似度が90%とすると、顔検出IC103は、調査領域Dの位置情報、大きさ情報、及び類似度をBμcom101に送る。Bμcom101は、その調査領域Dの位置情報や大きさ情報に基づいて、LVAEやLVAFを行う。
STEP1−30で求められたBV値により定められる絞り203の絞り値をAV、シャッタ120の露光時間をTV、撮像素子111の感度をSVとすると、SV+BV値=AV+TVの関係により、Bμcom101がSTEP1−40において補正後のSV=補正前のSV+(STEP2−70で設定された露出補正値)を計算することで、次のSTEP1−50で取得される画像データが明るくなる。そして、画像データに対して再度STEP2−10においてスキャンが行われると、STEP2−80で類似度が80%以上であると判断される可能性が高くなる。もし、再度、類似度が80%以上でないと判断され、STEP2−60で撮像素子111の出力が所定値A以下であると判断されると、STEP2−70で再び露出補正値が設定される。このときの露出補正値は、固定値であってもよいし、前回よりも類似度が上がった場合に撮像素子111の出力がさらに高くなるように変更してもよい。これにより、逆光により調査領域が被写体の顔として認識されなかった場合に、その調査領域の露出量を増やして明るくすることができ、その調査領域における類似度を高くすることができる。なお、撮像素子111の出力をデジタル値に変換し、そのデジタル値に応じて露出補正値を設定するか否かを判断してもよい。例えば、撮像素子111の出力が1024段階で表される場合において、撮像素子111の出力が60段階とすると、120段階になるように、露出補正値を設定する。また、露出補正値を設定した後、調査領域の類似度が80%以上であると判断した場合は、STEP1−50で画像データを取得した後、露出補正値をゼロに戻す。
てフリッカの影響を緩和させた後、調査領域の類似度が80%以上であると判断した場合は、その露光時間を維持させておく必要がある。例えば、STEP2−90の動作が行われたとき、そのことを示すフラグをセットし、そのフラグがセットされているときは露光時間の高速側に制限がかかるように構成する。
まず、顔検出IC103は、上述したように、SDRAM104に記録されている画像データに対して調査領域でスキャンを行い(STEP2−10)、類似度が所定値以上である調査領域を1以上検出して顔検出リストをつくる(STEP2−20)。なお、類似度の計算方法は、従来から様々な方法が実現されており、本実施形態では説明を省略する。また、以下、類似度が所定値以上である調査領域の数を顔検出数という。また、図12は、顔検出リストの一例を示す図である。図12に示す顔検出リストの各顔検出データには、STEP2−20で検出された調査領域の通し番号を示す顔番号k、調査領域の中心のX座標を示すNewX[k]、調査領域の中心のY座標を示すNewY[k]、調査領域の縦及び横のそれぞれの画素数を示すNewSize[k]、類似度を示すNewR[k]、及び調査領域のBV値を示すFaceBV[n]がそれぞれ格納されているものとする。また、図12に示す顔検出リストは、類似度が所定値以上の調査領域を3つまで検出することが可能なものとする。
顔検出数がゼロでないと判断した場合(STEP2−30がNo)、顔検出IC103は、顔番号kに1を入力する(STEP2−40)。すなわち、顔検出リスト内の顔番号1に対応する顔検出データについて以下の動作が行われる。
、顔番号1に対応する顔検出データについて以下の動作が行われる。
次に、顔検出IC103は、「顔番号nのGet_count[n]が1以上で、かつ、F_new[n]がゼロ」であるか否かを判断する(STEP2−80)。「顔番号nのGet_count[n]が1以上で、かつ、F_new[n]がゼロ」であるとは、顔番号kの顔検出データが顔番号nの顔検出データとして顔追跡リストに登録されたが、その顔検出データが更新されていないことを示している。
NewY[k]−(0.4×Size[n])≦Y[n]≦NewY[k]+(0.4×Size[n]) −式20
NewSize[k]×0.8≦Size[n]≦NewSize[k]×1.2 −式30
(NewR[k]+R[n])/2≧ 666 −式50
顔番号nの顔検出データに対して抽出条件1が成立すると判断した場合(STEP2−90がYes)、顔検出IC103は、顔番号nの顔検出データに対して更新処理を行った後(STEP2−140)、顔番号nに10を入力し(STEP2−150)、STEP2−70に進む。例えば、顔検出IC103は、上記更新処理として、X[n]に(NewX[k]+X[n])/2を、Y[n]に(NewY[k]+Y[n])/2を、Size[n]に(NewSize[k]+Size[n])/2を、R[n]に(NewR[k]+R[n])/2を、Lost_Count[n]にゼロを、F_New[n]に1を、FaceBV[n]に(NewFaceBV[k]+FaceBV[n])/2をそれぞれ入力するとともに、Get_Count[n]に1を加算する。なお、Get_Count[n]は、後述の演算により3よりも大きくならないように設定される。
まず、顔検出IC103は、上記STEP2−20で検出した各調査領域において、撮像素子111の出力が所定値A以下であるか否かを判断する(STEP3−10)。
10がYes)、顔検出IC103は、撮像素子111の出力が高くなるように、上記STEP1−40で得られる露出を補正するための露出補正値を設定する(STEP3−20)。例えば、所定値Aは、複数の顔検出精度保証範囲の下限値のうちの最も大きい値に対応する撮像素子111の出力とする。また、撮像素子111の出力が所定値A以下と判断された顔検出データのうち、X[n]及びY[n]が画像データ全体の中心の座標により近く、かつ、Size[n]がより大きい顔検出データを優先度が高いものとし、全ての顔検出データに優先順位をつける。そして、最も優先順位が高い顔検出データに対応する撮像素子111の出力が高くなるように、露出補正値を設定する。このとき、撮像素子111の出力が所定値以下でない顔検出データに対応する被写体の顔がオーバーにならないように、露出補正値の大きさを細かく設定する。例えば、優先度が最も高い顔検出データのFaceBV[n]が1段高くなるように露出補正値を設定した際に、他の顔検出データのFaceBV[n]がオーバーになる場合、優先度が最も高い顔検出データのFaceBV[n]が0.5段高くなるように露出補正値を設定し、他の顔検出データのFaceBV[n]がまだオーバーになる場合、優先度が最も高い顔検出データのFaceBV[n]が0.25段高くなるように露出補正値を設定する。これにより、複数の被写体の顔を考慮した露出補正処理を行うことができる。
影響を受けずに顔検出精度を向上させることができるので、その顔検出の情報を使って被写体を適正に撮影することができる。
次に、図11に示すフローチャートにおいて、顔番号nが10であるか否かを判断する(STEP2−100)。
る顔番号1〜9のうち、まだ顔検出データが格納されていないところに、顔番号kの顔検出データが格納される。
また、顔検出数がゼロであると判断した場合(STEP2−30がYes)、顔検出IC103は、消失処理を行う。
まず、顔検出IC103は、顔番号nに1を入力する(STEP2−230)。すなわち、顔追跡リストの顔番号1の顔検出データに対して以下の動作が行われる。
顔番号nのGet_Count[n]がゼロでないと判断した場合(STEP2−250がNo)、顔検出IC103は、F_New[n]がゼロであるか否かを判断する(STEP2−260)。
そして、Bμcom101は、顔検出IC103から送られた顔検出データのうち、Get_Count[n]が2以上の顔検出データ、すなわち、2回以上更新された顔検出データに基づいて、「LVAF」及び「LVAE」を行う。
101 ボディ制御用マイクロコンピュータ
102 画像処理IC
103 顔検出IC
104 SDRAM
110 撮像素子駆動IC
111 撮像素子
120 シャッタ
121 シャッタ駆動制御回路
130 通信コネクタ
131 記録メディア
140 液晶モニタ
150 カメラ操作スイッチ
160 通信コネクタ
180 フラッシュユニット
181 閃光発光部
182 発光制御回路
183 フラッシュ制御用マイクロコンピュータ
185 フラッシュ用通信コネクタ
200 レンズユニット
202 絞り駆動機構
203 絞り
204 レンズ駆動機構
210a 撮影レンズ
210b 撮影レンズ
Claims (4)
- 被写体からの光を結像する撮影レンズと、
前記撮影レンズにより結像される像に対応する電気信号を出力する撮像素子と、
前記電気信号に基づいて、画像データを生成する生成手段と、
前記画像データにおいて人物の顔を示す参照画像データと類似する類似画像データを抽出する抽出手段と、
前記類似画像データが前記被写体の顔であるか否かの類似度の大きさを複数の基準値と比較して、前記類似画像データが前記被写体の顔であるか否かを判断する判断手段と、
前記判断手段により前記被写体の顔と判断された類似画像データを利用して、前記撮像素子の露出を制御する露出制御手段と、
前記判断手段により前記類似画像データが前記被写体の顔であると判断する一の基準値よりも小さく、且つ、前記類似画像データが前記被写体の顔でないと判断される他の基準値よりも大きいとき、前記撮像素子の露出を補正する露出補正値を設定するために、前記抽出された類似画像データの出力の大きさが第1の所定値以下であるか否か、及び、前記第1の所定値よりも大きい第2の所定値以上であるか否かを判定する類似画像出力判定手段と、
前記類似画像出力判定手段により前記抽出された類似画像データの出力の大きさが前記第1の所定値以下であると判定された場合、前記撮像素子の出力が高くなるように前記露出補正値を設定し、前記類似画像出力判定手段により前記抽出された類似画像データの出力の大きさが前記第2の所定値以上であると判定された場合、前記撮像素子の出力が低くなるように前記露出補正値を設定して前記撮像素子の露出を制御する露出値を変更する制御手段と、
を備えることを特徴とする撮像装置。 - 請求項1に記載の撮像装置であって、
前記判断手段は、前記参照画像データと前記類似画像データとの類似度に応じて、前記類似画像データを前記被写体の顔と判断する
ことを特徴とする撮像装置。 - 請求項1又は請求項2に記載の撮像装置であって、
前記判断手段は、前記抽出手段により前回抽出された前記類似画像データの位置を中心とする一致条件判定領域内に、前記抽出手段により今回抽出された前記類似画像データの位置が入っているとき、その類似画像データを前記被写体の顔と判断する
ことを特徴とする撮像装置。 - 請求項1又は請求項2に記載の撮像装置であって、
前記撮影レンズと前記撮像素子との間に設けられるシャッタを備え、
前記制御手段は、前記判断手段により前記類似画像データが前記被写体の顔と判断されず、かつ、前記シャッタの露光時間が所定時間以下のとき、前記シャッタの露光時間を前記所定時間よりも長くする
ことを特徴とする撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008335018A JP5265337B2 (ja) | 2008-12-26 | 2008-12-26 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008335018A JP5265337B2 (ja) | 2008-12-26 | 2008-12-26 | 撮像装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2010157902A JP2010157902A (ja) | 2010-07-15 |
JP2010157902A5 JP2010157902A5 (ja) | 2012-02-09 |
JP5265337B2 true JP5265337B2 (ja) | 2013-08-14 |
Family
ID=42575465
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008335018A Expired - Fee Related JP5265337B2 (ja) | 2008-12-26 | 2008-12-26 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5265337B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5510287B2 (ja) * | 2010-11-22 | 2014-06-04 | カシオ計算機株式会社 | 被写体検出装置、被写体検出方法及びプログラム |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006174106A (ja) * | 2004-12-16 | 2006-06-29 | Canon Inc | 画像入力装置 |
JP2007067560A (ja) * | 2005-08-29 | 2007-03-15 | Canon Inc | 撮像装置及びその制御方法、コンピュータプログラム及び記録媒体 |
JP4431532B2 (ja) * | 2005-09-16 | 2010-03-17 | 富士フイルム株式会社 | 対象画像の位置検出装置および方法ならびに対象画像の位置検出装置を制御するプログラム |
JP5319078B2 (ja) * | 2006-07-07 | 2013-10-16 | オリンパスイメージング株式会社 | カメラ、カメラの画像処理方法、プログラム、記録媒体 |
-
2008
- 2008-12-26 JP JP2008335018A patent/JP5265337B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010157902A (ja) | 2010-07-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5945395B2 (ja) | 撮像装置 | |
JP6370134B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
US9106830B2 (en) | Image capture apparatus and method for tracking a subject | |
US8472671B2 (en) | Tracking apparatus, tracking method, and computer-readable storage medium | |
TWI425826B (zh) | 影像選擇裝置、影像選擇方法 | |
CN100553295C (zh) | 照相机、照相机的图像处理方法 | |
US20170223251A1 (en) | Image capturing apparatus, image capturing method, and control method | |
US8670658B2 (en) | Image capture apparatus and method of controlling the same | |
JP5713885B2 (ja) | 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体 | |
US8823863B2 (en) | Image capturing apparatus and control method therefor | |
US9875423B2 (en) | Image pickup apparatus that calculates light amount change characteristic, electronic apparatus, and method of calculating light amount change characteristic | |
JP2012227893A (ja) | カメラおよびカメラの制御方法 | |
JP5868061B2 (ja) | 撮像装置 | |
JP2008283379A (ja) | 撮像装置及びプログラム | |
JP2015031743A (ja) | 露出制御装置、その制御方法、および制御プログラム、並びに撮像装置 | |
JP5265337B2 (ja) | 撮像装置 | |
JP2013062689A (ja) | 撮像装置、その制御方法、及びプログラム | |
JP5586415B2 (ja) | カメラの制御方法およびカメラ | |
US8681263B2 (en) | Imager capturing an image with a rolling shutter using flicker detection | |
JP2008172733A (ja) | 撮像装置及びその制御方法 | |
JP2013040997A (ja) | 露出演算装置およびカメラ | |
US20200112665A1 (en) | Image capturing apparatus and control method thereof, and non-transitory storage medium | |
JP5171566B2 (ja) | 撮影装置 | |
JP2018133826A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2012065128A (ja) | 画像評価装置及び画像評価プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111216 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111216 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121102 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130402 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130501 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5265337 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |