JP4360307B2 - 撮像装置及び露出制御方法 - Google Patents

撮像装置及び露出制御方法 Download PDF

Info

Publication number
JP4360307B2
JP4360307B2 JP2004265768A JP2004265768A JP4360307B2 JP 4360307 B2 JP4360307 B2 JP 4360307B2 JP 2004265768 A JP2004265768 A JP 2004265768A JP 2004265768 A JP2004265768 A JP 2004265768A JP 4360307 B2 JP4360307 B2 JP 4360307B2
Authority
JP
Japan
Prior art keywords
exposure control
imaging
exposure
indicated
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004265768A
Other languages
English (en)
Other versions
JP2006081103A (ja
Inventor
宏 小森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004265768A priority Critical patent/JP4360307B2/ja
Publication of JP2006081103A publication Critical patent/JP2006081103A/ja
Application granted granted Critical
Publication of JP4360307B2 publication Critical patent/JP4360307B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、撮像の際に自動露出の制御を行う撮像装置及び露出制御方法に関する。
例えば民生用のビデオカメラにおいて、被写体を撮像する場合には一般的には自動露出制御(AE)が用いられていた(特許文献1参照)。
この自動露出制御(AE)は、撮像された像の明るさ(あるいは被写体の明るさ)を検出する手段と、光軸中心の開口絞り調整機能を有する光学系のアイリス、電子シャッタの機能を有する撮像素子、信号処理系のゲイン調整の機能を有するアンプなどのデバイスに対し、指示を出し露出を変化させる手段を有していた。
そこで、撮像された像が明るすぎる場合(あるいは暗すぎる場合)、この自動露出制御(AE)を用いて、適正な露出となるように上記デバイスの状態を遷移させるという制御を行うことにより、露出制御を行うようにしていた。
特開平4-271582号公報
ところが、デバイスに対する指示の遷移が速すぎると、適正露出の状態を通り過ぎてしまう。このとき、被写体が少し明るくなったことで、逆に撮像される画が暗くなってしまう。
また、ひどい場合には、ハンチングを起こしてしまう。このとき、明るさの変化が急に起きるため、動画としてみた場合不自然な画となってしまう。
逆に、デバイスに対する指示の遷移が遅すぎると、適正露出に到達するまでの時間がかかり、それまでの間は明るすぎる画(あるいは暗すぎる画)が撮像されてしまう。
このため、従来、この遷移スピードは、現在の状態と適正露出状態の差が大きければ高速にし、現在の状態と適正露出状態の差が小さければ低速として、ハンチングを起こさず、明るすぎる(あるいは暗すぎる)状態が長く続かないような範囲の値となるように決定されていた。
しかし、現在の状態と適正露出状態の差に基づいて遷移スピードを決定するパターンは1通りであり、ユーザーが期待するスピードでは無い場合でも、それを変更する手段を提供していなかったという不都合があった。
本発明の目的は、現在の露出状態と適正露出状態の差を利用するだけではなく、焦点距離などのAE以外の状態を示すパラメータを利用したり、撮影状況やユーザーの好みに合わせ、遷移スピードをユーザーが指定できる仕組みを持つことで、より自然で好まれるAEの追従を実現する撮像装置を提供することにある。
上記課題を解決し、本発明の目的を達成するため、本発明の撮像装置は、撮像された画像情報の輝度検波値の適正露出状態との差分値を演算する差分演算手段と、撮像動作を行う際に得られる撮像に関する情報を用いて差分値に対する露出制御値を決定して自動露出の露出状態の遷移のスピードを変化させる露出制御手段とを備えたものである。
これにより、自動露出制御動作を行う撮像装置のうち、現在の状態から適正露出状態への遷移スピードを現在の状態と適正露出状態の差だけでなく、露出制御装置が得る様々な情報を用いて決定し変化させることができる。
ここで、自動露出制御動作を行う撮像装置において、自動露出の遷移のスピードをユーザー指示や撮像状況を示すパラメータにより変化させることにより、ユーザーが選択して指定した任意の遷移スピードで自動露出制御動作を行うことができる。
また、焦点距離の情報に応じて自動露出制御(AE)の係数を変化させることにより、自然な遷移スピードで自動露出制御動作を行うことができる。
また、本発明の露出制御方法は、撮像された画像情報の輝度検波値の適正露出状態との差分値を演算する差分演算ステップと、撮像動作を行う際に得られる撮像に関する情報を用いて上記差分値に対する露出制御値を決定して自動露出の露出状態の遷移のスピードを変化させる露出制御ステップとを備えたものである。
これにより、自動露出制御動作を行う露出制御方法のうち、現在の状態から適正露出状態への遷移スピードを現在の状態と適正露出状態の差だけでなく、露出制御の際に得る様々な情報を用いて決定し変化させることができる。
ここで、自動露出制御動作を行う露出制御方法において、自動露出の遷移のスピードをユーザー指示や撮像状況を示すパラメータにより変化させることにより、ユーザーが選択して指定した任意の遷移スピードで自動露出制御動作を行うことができる。
また、焦点距離の情報に応じて自動露出制御(AE)の係数を変化させることにより、自然な遷移スピードで自動露出制御動作を行うことができる。
本発明により、自動露出制御(AE)の遷移スピードをユーザーの好みや撮影状況にあわせて変化させることができる。
また、焦点距離が長い(TELE端での撮影)の場合は、ちょっとした被写体の動きが
撮像画に与える変化が大きく、自動露出制御(AE)状態が変動することが多いが、焦点距離の情報に応じて自動露出制御(AE)の係数を変化させ、自然な自動露出制御(AE)遷移スピードを実現することができる。
そのほか、撮像状況を示すユーザー指示のパラメータを考慮することで、自然なAE遷移スピードを実現することができる。
以下に、本発明の実施の形態の詳細について、適宜、図面を参照しながら説明する。
図1は、本実施の形態による撮像装置の構成例を示すブロック図である。図1は、撮像装置の概略を示すものである。
本発明に係る撮像装置における主要部の簡略構成は、撮像レンズ及びアイリスブロック1、撮像素子2、サンプルホールド及びアナログディジタル変換ブロック3、カメラ信号処理ブロック4、カメラ制御ブロック5、ユーザーインターフェース制御ブロック6などから成るものである。
図1において、撮像レンズ及びアイリスブロック1は、光学系として、対物レンズに対して、アイリス12を露光調整可能にし、フォーカスレンズ11をフォーカス動作可能にすると共にズームレンズ13をズーム動作可能に収納するレンズ筺体を有している。
この撮像レンズ及びアイリスブロック1の光軸方向には撮像素子2が配置され、撮像レンズ1を通過した光が撮像素子2上で結像され、光の強弱が電気信号の強弱に変換される。撮像素子2により光電変換されたアナログ画像信号はサンプルホールド及びアナログディジタル変換ブロック3のサンプルホールド回路14により所定のタイミングでサンプルホールドした後に、アナログディジタル変換回路15によりディジタル画像データに変換される。
カメラ信号処理ブロック4は、ディジタル的に信号を増幅する増幅回路16や、そのほかの信号処理回路を備えていて後段の画像出力部8や録画部9に供給するディジタル画像データの処理を行っている。つまり、このディジタル画像データは、カメラ信号処理ブロック4の増幅回路16で信号処理可能なレベルに増幅され、増幅されたディジタル画像データは、輝度信号及び色信号処理回路17により輝度信号及び色信号処理が施されて画像出力部8又は録画部9に出力される。
また、増幅回路16で信号処理可能なレベルに増幅されたディジタル画像データは、輝度信号検波回路18により輝度信号レベルが検出される。つまり、輝度信号検波回路18では画像信号の明るさの検波を行っていて、検波結果をカメラ制御ブロック5に送信している。この輝度信号レベルに応じてカメラ制御ブロック5の露出制御部20により露出制御が行われる。
つまり、露出制御部20からの露出制御信号に基づいて、アイリス12の露光調整、撮像素子2に対するタイミング発生回路7からの光電変換タイミング、増幅回路16の増幅レベルがそれぞれ制御される。
ここで、ユーザーインターフェース制御ブロック6のユーザーインターフェースマイコン(マイクロコンピュータ)はボタン操作等のユーザーからの指示を受け付けて、この出力は、カメラ制御ブロック5のカメラ制御マイコン(マイクロコンピュータ)に供給され、カメラ制御ブロック5のカメラ制御マイコンに対して、様々な動作指示を出す。その中には、露出制御部20に対するAEの遷移スピードを指定する指示が含まれる。カメラ制御マイコンは、この指示に基づいて露出制御部20の制御信号を生成する。
また、カメラ制御ブロック5のうち、レンズ制御部19は、ズームレンズ位置を指定する出力を持っているので、ズームレンズ位置により焦点距離が決まるため、露出制御部20はズームレンズ位置を焦点距離情報として露出制御に利用可能である。
カメラ制御ブロック5のうち、露出制御部20は、アイリス12に対して絞り調整状態を指定する。また、露出制御部20は、撮像素子2に対してタイミング発生回路7経由で電子シャッタのための露光時間を指定する。また、露出制御部20は、増幅回路16に対して増幅倍率を指定する。
このように、露出制御部20は、絞り調整、電子シャッタタイミング及びゲインという3つの明るさを可変するデバイスの状態を指定する制御信号を各デバイスに出力する。
また、カメラ信号処理ブロック4の輝度信号検波回路18からは、信号処理の垂直同期信号と同期して明るさ検波の情報が得られる。露出制御部20では、現在の露光状態が、適正露光よりも明るいか暗いか、またどの程度適正露光からずれているかを計算により求めることができる。
自動露出制御動作では、アイリス、電子シャッタ、ゲインの状態が適正露出状態に収束するようにこれら各デバイスへの出力を更新し続けている。
このように構成された撮像装置の自動露出制御ブロックの動作を以下に説明する。
図2は、自動露出制御を示す図である。図2は、図1に示したカメラ制御ブロック5のカメラ制御マイコン内の露出制御部20が自動露出制御の処理を行うフローチャートの概要を示す。
図2において、まず、露出制御部20は、21で示す輝度信号検波回路18から得られた現在の明るさ検波値をもとに、22で示すように、撮像モードに応じた中央重点などの重み付け計算や、その他の補正計算を行い、現在の明るさを示す値を作成する。
一方、露出制御部20は、23で示す適正露光の場合の検波値(目標値)を固定値あるいは撮影状況に応じて変調するなどして別に作成しておく。
露出制御部20は、24で示すように、現在の検波値と目標値のずれ量の比を求める。ここで比の値を対数化し、EV(Exposure Value)値で表現しておく。これが、適正露光からのずれ量となる。
露出制御部20は、28で示すアイリス・電子シャッタ・ゲインの現在の制御信号の出力値をEV値で表現した値を持ち、その合計を撮影状況や撮影モードに応じて、30で示すように、各デバイスへ分配し出力するように処理するようになっている。
ここで、露出制御部20は、特有の自動露出制御の動作として、そこに適正露光からのずれをもとに、25で示すユーザー指定速度や26で示す焦点距離情報に基づいて、27で示すように、現在の出力に加算する量の計算を行う。そして、27で作成した加算量を28の出力値に29で示すように加え、30で示すように、31で示すアイリス・32で示す電子シャッタ・33で示すゲインの出力値を更新して分配することで実現されている。
例えば、21で示す輝度信号検波回路18から得られた現在の明るさ検波値と23で示す適正露光の場合の検波値(目標値)のずれ量の比が32倍であり、これを対数化したEV値が5EVであるとする。また、このとき、28で示すアイリス・電子シャッタ・ゲインの現在の制御信号の出力値がそれぞれ−1EV、−1EV、+1EVで、合計が−1EVであるとする。
ここで、25で示すユーザー指定速度や26で示す焦点距離情報に基づいて、27で作成した加算量を+0.3EVずつ合計5EVのずれ量をなくすようにするまで自動露出制御する場合には、29で示す加算により出力される−1EV+0.3EV=−0.7EVを、31で示すアイリス=−0.7EV、32で示す電子シャッタ=−1EV、33で示すゲイン=+1EVの出力値を5EVのずれ量がなくなるまで分配する。
これにより、比較的遅い遷移スピードで自動露出制御することができる。また、逆に、一度に5EVのずれ量をなくすように自動露出制御する場合には、比較的速い遷移スピードで自動露出制御することができる。
図3は、出力加算量計算を示す図である。図3は適正露光からのずれ量をもとに、現在出力に加算する量の計算の例を示す。
図3において、41で示す適正露光からのずれ量が大きいときは、適正露光に近づけるように、42で示すように、43で示す現在出力への加算量(仮)を大きめの値とする。また、逆に、41で示す適正露光からのずれ量が小さいときは、42で示すように、43で示す現在出力への加算量(仮)を小さな値とする。
このとき、43で示す現在出力への加算量(仮)が大きい値の場合は、そのまま上述した動作を実行すると、自動露出制御の遷移が比較的高速となる。また、逆に、43で示す現在出力への加算量(仮)が小さい値の場合は、そのまま上述した動作を実行すると、自動露出制御の遷移が比較的低速となる。
ここで、遷移スピードを制御するために、41で示す適正露光からのずれ量をもとに42で作成した、43で示す現在出力への加算量(仮) に対して、44で示すユーザーが指定する係数を45で示すように掛ける処理、又は、この処理と共にもしくはこの処理とは別に46で示す焦点距離に応じた係数を47で示すように掛ける処理となる計算を行い、48で示す最終的に出力に加算する値を作成する。
例えば、44で示すユーザーが指定する係数として、高速時の係数を1、低速時の係数を0.6、特に指定しない(標準時)を選択的に設定することができるようにする。
これにより、43で示す現在出力への加算量(仮)が大きい値の場合に、44で示すユーザーが指定する係数として、高速時の係数1を設定することにより、43で示す現在出力への加算量(仮)の大きい値による処理を一度に行うことで自動露出制御の遷移を比較的最高速とすることができる。また、逆に、43で示す現在出力への加算量(仮)が大きい値の場合に、44で示すユーザーが指定する係数として、低速時の係数0.6を設定することにより、43で示す現在出力への加算量(仮)の大きい値がなくなるまで、低速時の係数0.6を掛けた値による処理を繰り返すことで自動露出制御の遷移を比較的中低速とすることができる。また、43で示す現在出力への加算量(仮)が大きい値の場合に、44で示すユーザーが指定する係数として、特に指定しない(標準時)を設定することにより、自動露出制御の遷移を標準的速度とすることができる。
これに対して、43で示す現在出力への加算量(仮)が小さい値の場合に、44で示すユーザーが指定する係数として、高速時の係数1を設定することにより、43で示す現在出力への加算量(仮)が小さい値による処理を一度に行うことで自動露出制御の遷移を比較的中高速とすることができる。また、逆に、43で示す現在出力への加算量(仮)が小さい値の場合に、44で示すユーザーが指定する係数として、低速時の係数0.6を設定することにより、43で示す現在出力への加算量(仮)の小さい値がなくなるまで、低速時の係数0.6を掛けた値による処理を繰り返すことで自動露出制御の遷移を比較的最低速とすることができる。また、43で示す現在出力への加算量(仮)が小さい値の場合に、44で示すユーザーが指定する係数として、特に指定しない(標準時)を設定することにより、自動露出制御の遷移を標準的速度とすることができる。
また、例えば、46で示す焦点距離に応じた係数として、焦点距離f=20mm以上のときに低速時の係数を0.5、焦点距離f=20mm〜10mmのときに中速時の係数を0.5から1.0を線形補間した値、焦点距離f=10mm以下のときに高速時の係数の1を選択的に設定することができるようにする。
これにより、43で示す現在出力への加算量(仮)が大きい値の場合に、46で示す焦点距離に応じた係数として高速時の係数1を設定することにより、43で示す現在出力への加算量(仮)の大きい値による処理を一度に行うことで自動露出制御の遷移を比較的最高速とすることができる。また、逆に、43で示す現在出力への加算量(仮)が大きい値の場合に、46で示す焦点距離に応じた係数として低速時の係数0.5を設定することにより、43で示す現在出力への加算量(仮)の大きい値がなくなるまで、低速時の係数0.5を掛けた値による処理を繰り返すことで自動露出制御の遷移を比較的中低速とすることができる。また、43で示す現在出力への加算量(仮)が大きい値の場合に、46で示す焦点距離に応じた係数として中速時の0.5から1.0を線形補間した値を設定することにより、自動露出制御の遷移を比較的中速度とすることができる。
これに対して、43で示す現在出力への加算量(仮)が小さい値の場合に、46で示す焦点距離に応じた係数として高速時の係数1を設定することにより、43で示す現在出力への加算量(仮)が小さい値による処理を一度に行うことで自動露出制御の遷移を比較的中高速とすることができる。また、逆に、43で示す現在出力への加算量(仮)が小さい値の場合に、46で示す焦点距離に応じた係数として低速時の係数0.5を設定することにより、43で示す現在出力への加算量(仮)の小さい値がなくなるまで、低速時の係数0.5を掛けた値による処理を繰り返すことで自動露出制御の遷移を比較的最低速とすることができる。また、43で示す現在出力への加算量(仮)が小さい値の場合に、46で示す焦点距離に応じた係数として中速時の0.5から1.0を線形補間した値を設定することにより、自動露出制御の遷移を比較的中速度とすることができる。
また、44で示すユーザーが指定する係数による処理及び46で示す焦点距離に応じた係数による処理を適宜組み合わせて適用することで、任意の自動露出制御の遷移スピードを実現することができる。
図4は、適正光量から現在出力への加算量の変換の例を示す図である。
図4において、適正光量からのずれ量が0から0.25EVのとき、現在出力への加算量は0EVとなる。また、適正光量からのずれ量が0.25から0.5EVのとき、現在出力への加算量は0.1EVとなる。また、適正光量からのずれ量が0.5から0.75EVのとき、現在出力への加算量は0.2EVとなる。また、適正光量からのずれ量が0.75EV以上のとき、現在出力への加算量は0.3EVとなる。
また、適正光量からのずれ量が0から−0.25EVのとき、現在出力への加算量は0EVとなる。また、適正光量からのずれ量が−0.25から−0.5EVのとき、現在出力への加算量は−0.1EVとなる。また、適正光量からのずれ量が−0.5から−0.75EVのとき、現在出力への加算量は−0.2EVとなる。また、適正光量からのずれ量が−0.75EV以下のとき、現在出力への加算量は−0.3EVとなる。
なお、図4に示す変換の例は、段階的なものを示したが、これに限らず、直線的にしてもよい。
なお、ずれ量は以下の数1式で表される。
[数1]
log(現在/目標)
以上、44で示すユーザーが指定する係数による処理及び46で示す焦点距離に応じた係数による処理の例について説明したが、これに限らず、他の撮像動作を行う際に得られる撮像に関する情報として、例えば、アイリスの動作状況、オートフォーカスの動作状況、アニュアルフォーカスの動作状況、ホワイトバランスの動作状況、手ぶれ補正の動作状況、画像のビットレートに適用することができることは言うまでもない。
本実施の形態による撮像装置の構成例を示すブロック図である。 自動露出制御を示す図である。 出力加算量計算を示す図である。 適正光量から現在出力への加算量の変換の例を示す図である。
符号の説明
1…撮像レンズ及びアイリスブロック、2…撮像素子、3…サンプルホールド及びアナログディジタル変換ブロック、4…カメラ信号処理ブロック、5…カメラ制御ブロック、6…ユーザーインターフェース制御ブロック、7…タイミング発生回路、8…画像出力部、9…録画部、10…速度指示部、11…フォーカスレンズ、12…アイリス、13…ズームレンズ、14…サンプルホールド回路、15…アナログディジタル変換回路、16…増幅回路、17…輝度信号及び色信号処理回路、18…輝度信号検波回路、19…レンズ制御部、20…露出制御部

Claims (4)

  1. 光学系を介して被写体の画像を撮像して画像情報を記録媒体に記録する際に、自動露出の制御を行う撮像装置において、
    上記撮像された画像情報の輝度検波値の適正露出状態との差分値を演算する差分演算手段と、
    上記撮像動作を行う際に得られる撮像に関する情報を用いて上記差分値に対する露出制御値を決定して自動露出の露出状態の遷移のスピードを変化させる露出制御手段と、を備え
    上記撮像に関する情報として焦点距離の情報を用いる
    撮像装置。
  2. 請求項1記載の撮像装置において、
    上記撮像に関する情報としてユーザーが指定するパラメータを用い
    像装置。
  3. 光学系を介して被写体の画像を撮像して画像情報を記録媒体に記録する際に、自動露出の制御を行う撮像装置における露出制御方法において、
    上記撮像された画像情報の輝度検波値の適正露出状態との差分値を演算する差分演算ステップと、
    上記撮像動作を行う際に得られる撮像に関する情報を用いて上記差分値に対する露出制御値を決定して自動露出の露出状態の遷移のスピードを変化させる露出制御ステップと、を備え
    上記撮像に関する情報として焦点距離の情報を用いる
    露出制御方法。
  4. 請求項3記載の露出制御方法において、
    上記撮像に関する情報としてユーザーが指定するパラメータを用い
    出制御方法。
JP2004265768A 2004-09-13 2004-09-13 撮像装置及び露出制御方法 Expired - Fee Related JP4360307B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004265768A JP4360307B2 (ja) 2004-09-13 2004-09-13 撮像装置及び露出制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004265768A JP4360307B2 (ja) 2004-09-13 2004-09-13 撮像装置及び露出制御方法

Publications (2)

Publication Number Publication Date
JP2006081103A JP2006081103A (ja) 2006-03-23
JP4360307B2 true JP4360307B2 (ja) 2009-11-11

Family

ID=36160154

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004265768A Expired - Fee Related JP4360307B2 (ja) 2004-09-13 2004-09-13 撮像装置及び露出制御方法

Country Status (1)

Country Link
JP (1) JP4360307B2 (ja)

Also Published As

Publication number Publication date
JP2006081103A (ja) 2006-03-23

Similar Documents

Publication Publication Date Title
JP4594257B2 (ja) ディジタル撮像装置
CN100372368C (zh) 成像设备及其控制方法
JP2006287323A (ja) 撮像装置
US9307137B2 (en) Imaging apparatus and imaging method which perform focus adjustment while performing live-view display
JP2008170508A (ja) 撮像装置
US7920203B2 (en) Image pickup apparatus and method of controlling the same
US20080084497A1 (en) Auto Focus System
JP4922768B2 (ja) 撮像装置、焦点自動調節方法
US10425573B2 (en) Automatic focus adjustment device and automatic focus adjustment control device
US20090290859A1 (en) Image pickup device and method of correcting camera shake of the image pickup device
JP2009169282A (ja) 撮像装置及びそのプログラム
JP2020077938A (ja) 撮影装置、その制御方法、プログラム
JP4360307B2 (ja) 撮像装置及び露出制御方法
CN111835980B (zh) 摄像设备及其控制方法以及存储介质
JP2005136480A (ja) 撮影装置
JP2006333052A (ja) 露出調整装置
KR100402216B1 (ko) 촬상 장치
JP2002330335A (ja) 静止画像撮像装置
JP4789776B2 (ja) 撮像装置及び撮像方法
KR100213888B1 (ko) 비디오 카메라의 자동초점 조절방법
JP2007060577A (ja) 撮像装置
JPH09186922A (ja) 撮像装置
JP2936824B2 (ja) ビデオカメラ用露出制御装置
JP5230235B2 (ja) 撮像装置及びその制御方法
JPH06197269A (ja) 撮像装置及び露出制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070511

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090721

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090803

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120821

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130821

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees