JP2005012397A - Imaging apparatus and control method of its image - Google Patents

Imaging apparatus and control method of its image Download PDF

Info

Publication number
JP2005012397A
JP2005012397A JP2003172946A JP2003172946A JP2005012397A JP 2005012397 A JP2005012397 A JP 2005012397A JP 2003172946 A JP2003172946 A JP 2003172946A JP 2003172946 A JP2003172946 A JP 2003172946A JP 2005012397 A JP2005012397 A JP 2005012397A
Authority
JP
Japan
Prior art keywords
control
image
zoom
zoom operation
during
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003172946A
Other languages
Japanese (ja)
Other versions
JP4314898B2 (en
Inventor
Noriyasu Murata
憲保 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2003172946A priority Critical patent/JP4314898B2/en
Publication of JP2005012397A publication Critical patent/JP2005012397A/en
Application granted granted Critical
Publication of JP4314898B2 publication Critical patent/JP4314898B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an imaging apparatus which can certainly stabilize the quality of an image acquired by an imaging operation during zoom operation, and to provide a control method of its image. <P>SOLUTION: The imaging apparatus latches the control target value of exposure control or white balance control calculated by a target value calculation unit 32 based on an imaged image to a latch register 33. A frame synchronizing signal is frequency divided by a frequency divider 34 to 1/N frequency division by a predetermined frequency demultiplying number N in response to a zoom state signal indicating the moving speed of a zoom lens, and output to the latch register 33. A control target value calculated and latched at each frame is outputted at each N frame as a control output, and the controlling frequency of the exposure control or the white balance control during the zoom operation is reduced in response to the zoom speed. The follow-up properties of the control during the zoom operation are delayed rather than that during the zoom stopping, and hence the stability of the control during the zoom operation is secured. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

【0001】
【発明の属する技術分野】
本発明は、ズーム機能を備えたデジタルカメラ等の撮像装置、及びズーム機能を備えた撮像装置に用いて好適な画像制御方法に関する。
【0002】
【従来の技術】
従来、デジタルカメラやデジタルビデオカメラ等の撮像装置では、自動露出制御(AE)やオートホワイトバランス制御(AWB)が一般に行われている。これらの制御は、一般に撮像した画像から明るさ成分や色成分を取得し、それに基づき次に撮像する画像の明るさ成分の量や色成分の割合を制御するフィードバック制御となっている。
【0003】
また、現在、デジタルカメラ等においてはズーム機能を有したものが多いが、例えばズームレンズの駆動の制御と、自動露出制御やオートホワイトバランス制御とは独立して行われているのが一般的である。
【0004】
そのため、ズーム機能を備えたデジタルカメラ等においてズームレンズがテレ側からワイド側、又はワイド側からテレ側へ駆動されるズーム動作中、つまり画角が連続して変化する間においては、変化部分の画像に露出やホワイトバランスに影響するものが含まれていると、逐次撮像される画像における明るさ成分や色成分が頻繁に変化することにより、自動露出制御やオートホワイトバランス制御が不安定となる可能性があった。
【0005】
一方、これと関連した技術としては、ズームレンズ位置がワイド時には、ホワイトバランス調整間隔を短くし、ズームレンズ位置がテレ時には、ホワイトバランス調整間隔を長くすることにより、ズーム倍率に応じたホワイトバランス調整を行う方法が下記特許文献1に記載されている。
【0006】
【特許文献1】
特開平4−245888号公報
【0007】
【発明が解決しようとする課題】
しかしながら、上記方法では、あるズーム倍率の状態におけるホワイトバランス調整を良好に行うことはできるが、ズーム動作中におけるオートホワイトバランス制御に安定性を確保することはできなかった。つまりズーム動作中に撮像される画像の質を確実に安定させることはできなかった。
【0008】
本発明は、かかる従来の課題に鑑みてなされたものであり、ズーム動作中の撮像動作により取得される画像の質を確実に安定させることができる撮像装置、及びその画像制御方法を提供することを目的とする。
【0009】
【課題を解決するための手段】
前記課題を解決するために請求項1の発明にあっては、ズーム機能を備えた撮像装置において、撮像した画像に含まれる所定の画像成分に基づき撮像する画像に対するフィードバック制御を行う画像制御手段と、ズーム機能の動作状態を検出する検出手段と、この検出手段によりズーム動作中であることが検出された場合に、前記画像制御手段による撮像する画像に対するフィードバック制御の追従速度を、ズーム動作停止中よりも遅らせる遅延手段とを備えたものとした。
【0010】
かかる構成においては、ズーム動作中には、撮像する画像に対するフィードバック制御の追従速度がーム動作停止中よりも遅くなることにより、ズーム動作中の画角の変化に伴い、撮像された画像において所定の画像成分が頻繁に変化したとしても、安定したフィードバック制御が行われる。
【0011】
また、請求項2の発明にあっては、前記遅延手段は、前記追従速度をズーム動作中の画角の変化速度に応じて遅らせるものとした。
【0012】
かかる構成においては、ズーム動作中に画角の変化速度が変動する場合においても、その時々のフィードバック制御の遅延度合が適切なものとなる。
【0013】
また、請求項3の発明にあっては、前記遅延手段は、前記画像制御手段におけるフィードバック制御の動作頻度を低減させることにより、ズーム動作中における前記追従速度をズーム動作停止中よりも遅らせるものとした。
【0014】
かかる構成においても、ズーム動作中における画角の変化に伴い、撮像された画像において所定の画像成分が頻繁に変化したとしても、安定したフィードバック制御が行われる。
【0015】
また、請求項4の発明にあっては、前記遅延手段は、前記画像制御手段による1回の制御量を低減させることにより、ズーム動作中における前記追従速度をズーム動作停止中よりも遅らせるものとした。
【0016】
かかる構成においても、ズーム動作中における画角の変化に伴い、撮像された画像において所定の画像成分が頻繁に変化したとしても、安定したフィードバック制御が行われる。
【0017】
また、請求項5の発明にあっては、前記遅延手段は、前記画像制御手段による制御量にヒステリシスを持たせるものとした。
【0018】
かかる構成においては、ズーム動作中におけるその時々のフィードバック制御時における制御量がより適切なものとなる。
【0019】
また、請求項6の発明にあっては、前記画像制御手段は、撮像した画像の明るさの成分に基づき露出を制御する露出制御手段を含むものとした。
【0020】
かかる構成においては、ズーム動作中における画角の変化に伴い、撮像された画像において明るさの成分が頻繁に変化したとしても、安定した露出制御が行われる。
【0021】
また、請求項7の発明にあっては、前記画像制御手段は、撮像した画像の色成分に基づきホワイトバランスを制御するホワイトバランス制御手段を含むものとした。
【0022】
かかる構成においては、ズーム動作中における画角の変化に伴い、撮像された画像において色の成分が頻繁に変化したとしても、安定したホワイトバランス制御が行われる。また、請求項8の発明にあっては、ズーム機能を備えた撮像装置における画像制御方法であって、撮像した画像に含まれる所定の画像成分に基づき撮像する画像に対するフィードバック制御を行うとともに、ズーム動作中にはフィードバック制御の追従速度をズーム動作停止中よりも遅らせる方法とした。
【0023】
かかる方法によれば、ズーム動作中における画角の変化に伴い、撮像された画像において所定の画像成分が頻繁に変化したとしても、安定したフィードバック制御が行われる。
【0024】
【発明の実施の形態】
以下、本発明の一実施の形態を図にしたがって説明する。
(第1の実施の形態)
図1は、本発明に係るデジタルカメラの電気的構成を示すブロック図である。このデジタルカメラにおいて、被写体像はレンズ1、ズームレンズ2、絞り3を通してCCD4のベイヤー配列の色フィルタが設けられた感光部に結像される。
CCD4はTG(Timing Generator)20により駆動され、各画素の蓄積電荷レベルに応じた信号を出力する。この信号はCCD4を駆動するTG20からのタイミングに同期した信号を用いてCDS(Correlated Double Sampling)回路5でサンプリングされ、AGC(Auto Gain Control)アンプ6に入力され所定のゲインが乗じられた後、ADコンバータ7で、例えば10ビットでデジタルデータ化される。このデジタルデータはデジタルクランプ回路8で所定の黒レベルにクランプされ、メモリバスインターフェース9を介してDMA転送によりメモリ10(DRAM等)にベイヤー画素データとして保存される。
【0025】
メモリ10上の画素データ量が画像処理ブロック単位(例えば8×8画素単位)以上の利用可能状態になるとDMA転送が起動され、画素データはメモリバスインターフェース9を介してメモリ10からベイヤー入力バッファ11に画像処理ブロック単位で転送される。画像処理ブロック単位の画素データはRGB重み付け部12でホワイトバランス(WB)の設定の後、ガンマ補正処理部13で所定のガンマ補正カーブの係数が乗じられ、Y(輝度信号)生成部14、C(色信号)生成部15の各処理によって輝度信号Y、色信号Cが生成される。その後、画像加工処理部16で様々な画像加工処理(エッジ強調、色調調整等)が行われてメモリバスインターフェース9を介してメモリ10に保存される。同時に、メモリ10に保存された輝度信号Y、色信号Cはシステム制御装置24により制御される表示データ処理部17を介して表示装置18にモニタ表示される。
【0026】
システム制御装置24はCPU及びROM、RAMを内蔵しており、ROMに格納されたプログラムにより動作するとともに、ユーザーが操作するキー入力装置23の状態を検出しながらシステム全体の制御を行う。そしてキー入力装置23からズーム操作の状態が検知されると、システム制御装置24は、その移動方向(テレ側又はワイド側)と移動量に応じてズーム駆動部25を制御し、ズームレンズ2を移動させることにより被写体の画角を変化させる。このとき、ズーム駆動部25は本発明の検出手段であって、ズーム操作に応じたズームレンズ2の移動速度つまりズーム速度を検出し、それをズーム状態信号としてAE制御処理部19とAWB制御処理部22にそれぞれ出力する。
【0027】
一方、前述したY生成部14から出力された輝度信号YはAE制御処理部19に入力される。AE制御処理部19は本発明の露出制御手段(画像制御手段)であって、入力した輝度信号Yのレベルに応じた制御信号を絞り駆動部21とTG20とAGCアンプ6にそれぞれ送り、被写体像が暗い場合には絞り3は開放し、CCD4の露光時間を許容される限り長くし、さらにその状態でも十分な出力画像レベル(低域輝度信号の積分レベル)が得られない場合にはAGCアンプ6のゲインを増加させる自動露出制御(AE)を行う。また、C生成部15から出力された色信号CはAWB制御処理部22に入力される。AWB制御処理部22は本発明のホワイトバランス制御手段(画像制御手段)であって、色信号Cに応じた制御信号をRGB重み付け部12に送り、RGBの各成分の調整(重み付け)によるオートホワイトバランス制御(AWB)を行う。
【0028】
図2は、AE制御処理部19及びAWB制御処理部22に共通する部分の回路構成を示した図であって、双方の処理部19,22は、それぞれが評価値抽出部31、目標値演算部32、ラッチレジスタ33、分周器34を備えており、分周器34には、CCD4を駆動するTG20から送られる画像フレームに同期したフレーム同期信号と、前記ズーム駆動部25から送られたズーム状態信号(ズーム速度)が入力する構成である。なお、本実施の形態においてはラッチレジスタ33、分周器34が本発明の遅延手段として機能する。
【0029】
AE制御処理部19及びAWB制御処理部22においては、評価値抽出部31によって、画像成分入力(AEでは輝度信号Y、AWBでは色信号C)から評価値(AEでは明るさを反映する成分、AWBでは色の偏りを反映する成分)が抽出され、それに基づき目標値演算部32により制御目標値(AEでは絞り値、露光時間、AGCゲインであり、AWBではRGBゲインである。)が演算される。演算された制御目標値はラッチレジスタ33にラッチされるとともに、それが分周器34を介してフレーム同期信号が入力する毎に前述した各部へ出力される。それに伴い前述した自動露出制御及びオートホワイトバランス制御が行われ、表示装置18に表示されるモニタ画像の明るさと色合いが自動調整される。
【0030】
一方、分周器34は前記ズーム状態信号に応じた所定の分周回数Nでフレーム同期信号を1/N分周してラッチレジスタ33に出力し、ラッチレジスタ33に一時保存された前述した制御目標値を制御出力する。本実施の形態において、分周器34におけるズーム速度と分周回数Nとの関係は、ズーム速度がゼロつまりズーム停止状態で「1」、以後はズーム速度が増加する毎に「2」〜「5」に5段階に変化するよう設定されている。
【0031】
これにより、ズーム停止中にはAE及びAWBの制御がフレーム毎に実施される一方、ズーム動作中にはその制御間隔がフレーム単位で延長され、かつその制御間隔がズーム速度に比例して長くなる。つまりフィードバック制御中の制御頻度をズーム速度に比例して減少させる間引き制御が行われる。
【0032】
したがって、ズーム動作中においては被写体の変化に対するAE及びAWBの追従が遅くなるため、ズーム動作中にフレーム内の明るさや色成分が頻繁に変化したとしても、その影響を受けることなく安定した自動露出制御と安定したオートホワイトバランス制御が行われる。その結果、ズーム動作中においても、表示装置18に表示されるモニタ画像における明るさや色合いの状態を、確実に良好な状態に制御することができ、ズーム動作中にモニタ画像の明るさや色合いが不自然に変動することが防止できる。
【0033】
なお、本実施の形態では、自動露出制御とオートホワイトバランス制御の双方について前述した間引き制御を行わせるようにしたが、どちらか一方の制御について間引き制御を行わせ、他方についてはフレーム毎の制御を行わせるようにしてもかまわない。
【0034】
また、分周器34におけるズーム速度と分周回数Nとの関係、つまり制御頻度は前述した以外の制御頻度に設定してもよく、さらには、それらを自動露出制御とオートホワイトバランス制御とで異ならせるようにしてもよい。
【0035】
(第2の実施の形態)
次に本発明の第2の実施の形態を説明する。本実施の形態は、図1に示したデジタルカメラにおいて、AE制御処理部19及びAWB制御処理部22が図3に示した共通する回路構成を備えたものである。
【0036】
すなわち本実施の形態においては、第1の実施の形態と異なり、目標値演算部32の後段には第1〜第3のラッチレジスタ41〜43が直列に接続されており、それらの出力が第1〜第3の低減器44〜46を介して加算器47に入力され、そこで加算された後、前述した各部へ出力される構成であり、第1〜第3のラッチレジスタ41〜43、第1〜第3の低減器44〜46、加算器47によって本発明の遅延手段が実現されている。
【0037】
そして、本実施の形態においては、第1〜第3のラッチレジスタ41〜43に前述したフレーム同期信号がそれぞれ入力されると、第1のラッチレジスタ41からは目標値演算部32により演算された今回の制御目標値(現フレームでの制御目標値)が出力され、第2のラッチレジスタ42からは前回の制御目標値が、また第3のラッチレジスタ43からは前々回の制御目標値がそれぞれ出力され、各々の制御目標値が第1〜第3の低減器44〜46に個別に入力される。第1〜第3の低減器44〜46においては、前述したズーム状態信号に応じた互いに異なる低減倍率を個別に乗じられ、低減後の各制御目標値が加算器47において加算され、加算後の値が歳出的な制御目標値として出力される。
【0038】
つまり現フレーム、及び過去の2回のフレームでの制御目標値をそれぞれ
E(t),E(t−1),E(t−2)
とし、それらに対する低減倍率をそれぞれ
K0,K1,K2
とすると、
制御出力 = K0×E(t)+K1×E(t−1)+K2×E(t−2)
となり、現フレームでの制御目標値に、過去のフレームでの制御目標値を用いてダンピングがかけられる構成となっている。
【0039】
また、本実施の形態において第1〜第3の低減器(乗算器)44〜46におけるズーム速度と低減倍率との関係は、
ズーム速度がゼロつまりズーム停止状態で、
(K0,Kl,K2)=(1,0,0)
以後はズーム速度に応じて、
(K0,Kl,K2)=(0.8,0.15,0.05)
(K0,Kl,K2)=(0.7,0.2 ,0.1)
(K0,Kl,K2)=(0.6,0.27,0.13)
(K0,Kl,K2)=(0.5,0.2, 0.1)
の5段階に変化するよう設定されている。
【0040】
これにより、ズーム停止中には、AE及びAWBによる通常の制御が行われる一方、ズーム動作中には、制御の変化度合いがズーム速度に比例して低減され、かつその低減度合いにヒステリシスが存在するダンピング制御が行われる。つまりズーム動作中においては、1回の制御動作時における制御量が低減されることによって、被写体の変化に対するAE及びAWBの追従が遅くなる。
【0041】
したがって、ズーム動作中には、第1の実施の形態と同様、フレーム内の明るさや色成分が頻繁に変化したとしても、その影響を受けることなく安定した自動露出制御と安定したオートホワイトバランス制御が行われる。その結果、ズーム動作中においても、表示装置18に表示されるモニタ画像における明るさや色合いの状態を、確実に良好な状態に制御することができ、ズーム動作中にモニタ画像の明るさや色合いが不自然に変動することが防止できる。
【0042】
なお、本実施の形態では、自動露出制御とオートホワイトバランス制御の双方について前述したダンピング制御を行わせるようにしたが、どちらか一方の制御についてダンピング制御を行わせ、他方についてはダンピング無しの制御を行わせるようにしてもかまわない。
【0043】
また、第1〜第3の乗算器44〜46におけるズーム速度と低減倍率との関係、つまり制御量の低減度合い、及びヒステリシスの強度は、前述した以外の度合いに設定してもよく、さらには、それらを自動露出制御とオートホワイトバランス制御とで異ならせるようにしてもよい。
【0044】
また、本実施の形態では、ズーム動作中におけるダンピング制御に際して、その時々の制御量に前回及び前々回の制御目標値を反映させる(ヒステリシスを持たせる)ようにしたが、その時々の制御量に前回の制御目標値のみを反映させるようにしてもよい。その場合には、前述した第3のラッチレジスタ43と、第3の低減器46とを廃止すればよい。さらには、ヒステリシスを持たせることなくズーム速度に応じて制御量を低減させるようにしてもよい。その場合には、前述した第2及び第3のラッチレジスタ42,43と、第2及び第3の低減器45,46と、加算器47を廃止すればよい。かかる場合であっても、ズーム動作中に表示装置18に表示されるモニタ画像の明るさや色合いが頻繁に変化することが防止できる。但し、本実施の形態のように、その時々の制御量に過去一定期間の制御目標値を反映させた方が、ズーム動作中におけるその時々の自動露出制御やオートホワイトバランス制御の制御量をより適切なものとすることができるため、ズーム動作中における画角の変化速度に応じた制御の安定性をより一層確実なものとすることができる。
【0045】
また、以上説明した実施の形態とは別に、ズーム動作中における自動露出制御とオートホワイトバランス制御について、一方の制御に第1の実施の形態で説明した間引き制御を採用し、かつ他方の制御に第2の実施の形態で説明したダンピング制御を採用するようにしてもよい。その場合においても各制御の詳細についても前述したように適宜変更することができる。
【0046】
また、ズームレンズ2の移動による画角調整が可能な光学ズームを備えたデジタルカメラについて説明したが、本発明は、CCD4又はメモリ10上で画素切り出しを行うことにより実現されるズーム機能、つまり所謂デジタル(電子)ズームを備えたデジタルカメラにも適用でき、その場合においても、ズーム動作中における自動露出制御やオートホワイトバランス制御に第1又は第2の実施の形態と同様の間引き制御やダンピング制御を採用することにより、前述した実施の形態と同様の効果を得ることができる。
【0047】
また、撮像する画像に対するフィードバック制御の例として自動露出制御とオートホワイトバランス制御とを示したが、これ以外にも、撮像した画像に含まれる所定の画像成分に基づき、次に撮像する画像に対するフィードバック制御を行うものにおいて、ズーム動作中に、そのフィードバック制御の追従速度をズーム停止中よりも遅らせるようにしてもよい。その場合においても、ズーム動作中には制御動作の安定性が確保できるため、ズーム動作中おける、その制御内容に応じた画像の質を安定させることができる。
【0048】
さらに、本発明はデジタルカメラに限らず、ズーム機能を有するものであれば、デジタルビデオカメラ等の他の撮像装置にも採用することができる。
【0049】
【発明の効果】
以上説明したように請求項1、3、4、8の発明においては、ズーム動作中の画角の変化に伴い、撮像された画像において所定の画像成分が頻繁に変化したとしても、安定したフィードバック制御が行われるようにした。よって、ズーム動作中の撮像動作により取得される画像の質を安定させることができる。
【0050】
また、請求項2の発明においては、ズーム動作中に画角の変化速度が変動する場合においても、その時々のフィードバック制御の遅延度合が適切なものとなるようにした。よって、ズーム動作中の撮像動作により取得される画像の質をより確実に安定させることができる。
【0051】
また、請求項5の発明においては、撮像する画像に対するフィードバック制御の1回の制御量を低減させてズーム動作中におけるフィードバック制御の追従速度を遅らせるとき、ズーム動作中におけるその時々のフィードバック制御時における制御量がより適切なものとなるようにした。よって、ズーム動作中の撮像動作により取得される画像の質をより一層確実に安定させることができる。
【0052】
また、請求項6の発明においては、ズーム動作中における画角の変化に伴い、撮像された画像において明るさの成分が頻繁に変化したとしても、安定した露出制御が行われるようにした。よって、ズーム動作中の撮像動作により取得される画像の明るさを安定して制御することができる。
【0053】
また、請求項7の発明にあっては、ズーム動作中における画角の変化に伴い、撮像された画像において色の成分が頻繁に変化したとしても、安定したホワイトバランス制御が行われるようにした。よって、ズーム動作中の撮像動作により取得される画像の色合いを安定して制御することができる。
【図面の簡単な説明】
【図1】本発明の各実施の形態を示すデジタルカメラのブロック図である。
【図2】第1の実施の形態におけるAE制御処理部及びAWB制御処理部に共通する回路構成を示すブロック図である。
【図3】第2の実施の形態におけるAE制御処理部及びAWB制御処理部に共通する回路構成を示すブロック図である。
【符号の説明】
2 ズームレンズ
4 CCD
19 AE制御処理部
22 AWB制御処理部
25 ズーム駆動部
31 評価値抽出部
32 目標値演算部
33 ラッチレジスタ
34 分周器
41〜43 第1〜第3のラッチレジスタ
44〜46 第1〜第3の低減器
47 加算器
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image pickup apparatus such as a digital camera having a zoom function, and an image control method suitable for use in an image pickup apparatus having a zoom function.
[0002]
[Prior art]
Conventionally, in an imaging apparatus such as a digital camera or a digital video camera, automatic exposure control (AE) and auto white balance control (AWB) are generally performed. These controls are generally feedback control that acquires a brightness component and a color component from a captured image and controls the amount of the brightness component and the ratio of the color component of the next image to be captured based on the brightness component and the color component.
[0003]
At present, many digital cameras and the like have a zoom function. However, for example, the drive control of a zoom lens, and automatic exposure control and auto white balance control are generally performed independently. is there.
[0004]
Therefore, in a digital camera equipped with a zoom function, the zoom lens is driven from the tele side to the wide side or from the wide side to the tele side during zoom operation, that is, while the angle of view continuously changes, If an image that affects exposure or white balance is included in the image, the automatic exposure control and auto white balance control will become unstable due to frequent changes in the brightness and color components of the sequentially captured image. There was a possibility.
[0005]
On the other hand, as a related technology, when the zoom lens position is wide, the white balance adjustment interval is shortened. When the zoom lens position is tele, the white balance adjustment interval is lengthened to adjust the white balance according to the zoom magnification. The method of performing is described in Patent Document 1 below.
[0006]
[Patent Document 1]
JP-A-4-245888
[Problems to be solved by the invention]
However, although the above method can satisfactorily perform white balance adjustment at a certain zoom magnification, stability cannot be ensured in auto white balance control during zoom operation. That is, the quality of an image captured during the zoom operation cannot be reliably stabilized.
[0008]
The present invention has been made in view of such a conventional problem, and provides an imaging apparatus capable of reliably stabilizing the quality of an image acquired by an imaging operation during a zoom operation, and an image control method thereof. With the goal.
[0009]
[Means for Solving the Problems]
In order to solve the above-mentioned problem, in the invention of claim 1, in an imaging apparatus having a zoom function, image control means for performing feedback control on an image to be captured based on a predetermined image component included in the captured image; Detecting means for detecting the operation state of the zoom function, and when the detecting means detects that the zoom operation is being performed, the tracking speed of the feedback control for the image captured by the image control means is being stopped. And delay means for delaying the time.
[0010]
In such a configuration, during zoom operation, the follow-up speed of feedback control with respect to the image to be captured becomes slower than that during stop of the zoom operation, so that a change in the angle of view during zoom operation causes a predetermined amount in the captured image. Even if the image component frequently changes, stable feedback control is performed.
[0011]
In the invention according to claim 2, the delay means delays the follow-up speed in accordance with a change speed of the angle of view during the zoom operation.
[0012]
In such a configuration, even when the change speed of the angle of view fluctuates during the zoom operation, the degree of feedback control delay at that time is appropriate.
[0013]
According to a third aspect of the present invention, the delay means delays the follow-up speed during the zoom operation more than when the zoom operation is stopped by reducing the operation frequency of the feedback control in the image control means. did.
[0014]
Even in such a configuration, stable feedback control is performed even if a predetermined image component frequently changes in the captured image as the angle of view changes during the zoom operation.
[0015]
According to a fourth aspect of the present invention, the delay unit delays the follow-up speed during the zoom operation compared to when the zoom operation is stopped by reducing the amount of control performed once by the image control unit. did.
[0016]
Even in such a configuration, stable feedback control is performed even if a predetermined image component frequently changes in the captured image as the angle of view changes during the zoom operation.
[0017]
In the invention of claim 5, the delay means gives a hysteresis to a control amount by the image control means.
[0018]
In such a configuration, the control amount at the time of feedback control during the zoom operation is more appropriate.
[0019]
In the invention of claim 6, the image control means includes an exposure control means for controlling exposure based on a brightness component of a captured image.
[0020]
In such a configuration, stable exposure control is performed even if the brightness component frequently changes in the captured image as the angle of view changes during the zoom operation.
[0021]
In the invention of claim 7, the image control means includes white balance control means for controlling white balance based on a color component of a captured image.
[0022]
In such a configuration, stable white balance control is performed even if the color component frequently changes in the captured image as the angle of view changes during the zoom operation. According to an eighth aspect of the present invention, there is provided an image control method for an image pickup apparatus having a zoom function, wherein feedback control is performed on an image to be picked up based on a predetermined image component included in the picked-up image, and zoom is performed. During the operation, the feedback control follow-up speed is made slower than when the zoom operation is stopped.
[0023]
According to this method, stable feedback control is performed even if a predetermined image component frequently changes in a captured image as the angle of view changes during the zoom operation.
[0024]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
(First embodiment)
FIG. 1 is a block diagram showing an electrical configuration of a digital camera according to the present invention. In this digital camera, a subject image is imaged through a lens 1, a zoom lens 2, and a diaphragm 3 on a photosensitive portion provided with a color filter with a Bayer arrangement of a CCD 4.
The CCD 4 is driven by a TG (Timing Generator) 20 and outputs a signal corresponding to the accumulated charge level of each pixel. This signal is sampled by a CDS (Correlated Double Sampling) circuit 5 using a signal synchronized with the timing from the TG 20 that drives the CCD 4, input to an AGC (Auto Gain Control) amplifier 6, and multiplied by a predetermined gain. The AD converter 7 converts it into digital data, for example, with 10 bits. This digital data is clamped to a predetermined black level by the digital clamp circuit 8 and stored as Bayer pixel data in the memory 10 (DRAM or the like) by DMA transfer via the memory bus interface 9.
[0025]
When the amount of pixel data on the memory 10 becomes usable in an image processing block unit (for example, 8 × 8 pixel unit) or more, DMA transfer is started, and the pixel data is transferred from the memory 10 via the memory bus interface 9 to the Bayer input buffer 11. Are transferred in units of image processing blocks. The pixel data for each image processing block is set with white balance (WB) by the RGB weighting unit 12 and then multiplied by a coefficient of a predetermined gamma correction curve by the gamma correction processing unit 13 to obtain a Y (luminance signal) generation unit 14, C A luminance signal Y and a color signal C are generated by each process of the (color signal) generation unit 15. Thereafter, various image processing processes (edge enhancement, color tone adjustment, etc.) are performed by the image processing processing unit 16 and stored in the memory 10 via the memory bus interface 9. At the same time, the luminance signal Y and the color signal C stored in the memory 10 are displayed on the display device 18 via the display data processing unit 17 controlled by the system control device 24.
[0026]
The system control device 24 includes a CPU, a ROM, and a RAM. The system control device 24 is operated by a program stored in the ROM, and controls the entire system while detecting the state of the key input device 23 operated by the user. When the state of the zoom operation is detected from the key input device 23, the system control device 24 controls the zoom drive unit 25 according to the moving direction (tele side or wide side) and the moving amount, and the zoom lens 2 is moved. The angle of view of the subject is changed by moving it. At this time, the zoom drive unit 25 is detection means of the present invention, and detects the moving speed of the zoom lens 2 in accordance with the zoom operation, that is, the zoom speed, and uses it as a zoom state signal and the AE control processing unit 19 and the AWB control processing. Output to the unit 22.
[0027]
On the other hand, the luminance signal Y output from the Y generation unit 14 described above is input to the AE control processing unit 19. The AE control processing unit 19 is an exposure control unit (image control unit) according to the present invention, and sends a control signal corresponding to the level of the input luminance signal Y to the aperture driving unit 21, the TG 20, and the AGC amplifier 6, respectively, and the subject image. If the aperture is dark, the aperture 3 is opened, and the exposure time of the CCD 4 is increased as much as possible. Further, if a sufficient output image level (integration level of the low-frequency luminance signal) cannot be obtained even in this state, the AGC amplifier Automatic exposure control (AE) for increasing the gain of 6 is performed. The color signal C output from the C generation unit 15 is input to the AWB control processing unit 22. The AWB control processing unit 22 is a white balance control unit (image control unit) according to the present invention, which sends a control signal corresponding to the color signal C to the RGB weighting unit 12 and performs auto white by adjusting (weighting) each component of RGB. Balance control (AWB) is performed.
[0028]
FIG. 2 is a diagram showing a circuit configuration of a part common to the AE control processing unit 19 and the AWB control processing unit 22, and both the processing units 19 and 22 are respectively an evaluation value extraction unit 31 and a target value calculation. 32, a latch register 33, and a frequency divider 34. The frequency divider 34 is synchronized with an image frame sent from the TG 20 that drives the CCD 4, and sent from the zoom drive unit 25. The zoom state signal (zoom speed) is input. In this embodiment, the latch register 33 and the frequency divider 34 function as delay means of the present invention.
[0029]
In the AE control processing unit 19 and the AWB control processing unit 22, the evaluation value extraction unit 31 performs evaluation values (components that reflect brightness in AE) from an image component input (luminance signal Y in AE and color signal C in AWB), In AWB, a component that reflects color deviation) is extracted, and based on this, a target value calculation unit 32 calculates a control target value (the aperture value, exposure time, and AGC gain in AE, and the RGB gain in AWB). The The calculated control target value is latched in the latch register 33, and is output to each unit described above every time a frame synchronization signal is input via the frequency divider 34. Accordingly, the above-described automatic exposure control and auto white balance control are performed, and the brightness and hue of the monitor image displayed on the display device 18 are automatically adjusted.
[0030]
On the other hand, the frequency divider 34 divides the frame synchronization signal by 1 / N at a predetermined frequency N in accordance with the zoom state signal, outputs it to the latch register 33, and controls the above-described control temporarily stored in the latch register 33. Control output of target value. In the present embodiment, the relationship between the zoom speed and frequency division number N in the frequency divider 34 is “1” when the zoom speed is zero, that is, when the zoom is stopped, and thereafter “2” to “ "5" is set to change in 5 steps.
[0031]
Thus, while zooming is stopped, control of AE and AWB is performed for each frame, while during zoom operation, the control interval is extended in frame units, and the control interval becomes longer in proportion to the zoom speed. . That is, thinning control is performed to reduce the control frequency during feedback control in proportion to the zoom speed.
[0032]
Therefore, since the tracking of AE and AWB with respect to changes in the subject is slow during zoom operation, even if the brightness and color components in the frame change frequently during zoom operation, stable automatic exposure is not affected by the change. Control and stable auto white balance control are performed. As a result, even during the zoom operation, the brightness and hue of the monitor image displayed on the display device 18 can be reliably controlled to be in a favorable state, and the brightness and hue of the monitor image are not satisfactory during the zoom operation. Natural fluctuations can be prevented.
[0033]
In this embodiment, the above-described thinning control is performed for both the automatic exposure control and the auto white balance control. However, the thinning control is performed for one of the controls, and the control for each frame is performed for the other control. It does not matter even if it is made to do.
[0034]
Further, the relationship between the zoom speed and the number of frequency divisions N in the frequency divider 34, that is, the control frequency may be set to a control frequency other than those described above, and further, these may be set by automatic exposure control and auto white balance control. You may make it differ.
[0035]
(Second Embodiment)
Next, a second embodiment of the present invention will be described. In the present embodiment, in the digital camera shown in FIG. 1, the AE control processing unit 19 and the AWB control processing unit 22 have the common circuit configuration shown in FIG.
[0036]
That is, in the present embodiment, unlike the first embodiment, the first to third latch registers 41 to 43 are connected in series at the subsequent stage of the target value calculation unit 32, and their outputs are the first ones. The first to third reducers 44 to 46 are input to the adder 47, added there, and then output to the above-described units. The first to third latch registers 41 to 43, The delay means of the present invention is realized by the first to third reducers 44 to 46 and the adder 47.
[0037]
In the present embodiment, when the frame synchronization signal described above is input to each of the first to third latch registers 41 to 43, the target value calculation unit 32 calculates the first latch register 41. The current control target value (the control target value in the current frame) is output, the previous control target value is output from the second latch register 42, and the previous control target value is output from the third latch register 43. Each control target value is individually input to the first to third reducers 44 to 46. In the first to third reducers 44 to 46, the reduction magnifications different from each other according to the zoom state signal described above are individually multiplied, and the respective control target values after reduction are added in the adder 47, and after the addition, The value is output as an expenditure control target value.
[0038]
That is, the control target values in the current frame and the past two frames are respectively E (t), E (t-1), and E (t-2).
And the reduction ratios for these are K0, K1, and K2, respectively.
Then,
Control output = K0 * E (t) + K1 * E (t-1) + K2 * E (t-2)
Thus, damping is applied to the control target value in the current frame using the control target value in the past frame.
[0039]
In the present embodiment, the relationship between the zoom speed and the reduction magnification in the first to third reducers (multipliers) 44 to 46 is as follows.
When the zoom speed is zero, that is, when the zoom is stopped,
(K0, K1, K2) = (1, 0, 0)
After that, depending on the zoom speed,
(K0, K1, K2) = (0.8, 0.15, 0.05)
(K0, K1, K2) = (0.7, 0.2, 0.1)
(K0, K1, K2) = (0.6, 0.27, 0.13)
(K0, K1, K2) = (0.5, 0.2, 0.1)
It is set to change in five stages.
[0040]
Thus, during zoom stop, normal control by AE and AWB is performed, while during zoom operation, the degree of change in control is reduced in proportion to the zoom speed, and there is hysteresis in the reduction degree. Damping control is performed. That is, during the zoom operation, the amount of control during one control operation is reduced, so that the tracking of the AE and AWB with respect to changes in the subject is delayed.
[0041]
Therefore, during zoom operation, as in the first embodiment, even if the brightness and color components in the frame change frequently, stable automatic exposure control and stable auto white balance control are not affected by the change. Is done. As a result, even during the zoom operation, the brightness and hue of the monitor image displayed on the display device 18 can be reliably controlled to be in a favorable state, and the brightness and hue of the monitor image are not satisfactory during the zoom operation. Natural fluctuations can be prevented.
[0042]
In this embodiment, the above-described damping control is performed for both the automatic exposure control and the auto white balance control. However, the damping control is performed for one of the controls, and the control without damping is performed for the other control. It does not matter even if it is made to do.
[0043]
Further, the relationship between the zoom speed and the reduction magnification in the first to third multipliers 44 to 46, that is, the degree of reduction of the control amount and the strength of the hysteresis may be set to a degree other than those described above. These may be made different between automatic exposure control and auto white balance control.
[0044]
Further, in the present embodiment, during damping control during zoom operation, the control target value of the previous time and the previous time is reflected (having hysteresis) in the control amount at that time. Only the control target value may be reflected. In that case, the third latch register 43 and the third reducer 46 described above may be eliminated. Furthermore, the control amount may be reduced according to the zoom speed without giving hysteresis. In that case, the second and third latch registers 42 and 43, the second and third reducers 45 and 46, and the adder 47 may be eliminated. Even in such a case, it is possible to prevent frequent changes in brightness and hue of the monitor image displayed on the display device 18 during the zoom operation. However, as in this embodiment, reflecting the control target value for a certain period in the past in the control amount at that time increases the control amount for the automatic exposure control and auto white balance control at that time during the zoom operation. Since it can be made appropriate, the stability of control according to the change speed of the angle of view during the zoom operation can be further ensured.
[0045]
In addition to the embodiment described above, with regard to automatic exposure control and auto white balance control during zoom operation, the thinning control described in the first embodiment is adopted for one control, and the other control is used. You may make it employ | adopt the damping control demonstrated in 2nd Embodiment. Even in this case, the details of each control can be changed as appropriate as described above.
[0046]
Further, although the digital camera provided with the optical zoom capable of adjusting the angle of view by moving the zoom lens 2 has been described, the present invention is a zoom function realized by cutting out pixels on the CCD 4 or the memory 10, that is, a so-called so-called zoom function. The present invention can also be applied to a digital camera equipped with a digital (electronic) zoom, and even in that case, thinning control and damping control similar to the first or second embodiment for automatic exposure control and auto white balance control during zoom operation By adopting, it is possible to obtain the same effect as that of the above-described embodiment.
[0047]
In addition, although automatic exposure control and auto white balance control have been shown as examples of feedback control for an image to be captured, feedback to the next image to be captured based on a predetermined image component included in the captured image is also possible. In the control, the follow-up speed of the feedback control may be delayed during the zoom operation than during the zoom stop. Even in such a case, since the stability of the control operation can be ensured during the zoom operation, the image quality corresponding to the control content during the zoom operation can be stabilized.
[0048]
Furthermore, the present invention is not limited to a digital camera and can be applied to other imaging devices such as a digital video camera as long as it has a zoom function.
[0049]
【The invention's effect】
As described above, according to the first, third, fourth, and eighth aspects of the present invention, even when a predetermined image component frequently changes in a captured image due to a change in the angle of view during the zoom operation, stable feedback is achieved. Control was done. Therefore, the quality of the image acquired by the imaging operation during the zoom operation can be stabilized.
[0050]
Further, in the invention of claim 2, even when the change speed of the angle of view fluctuates during the zoom operation, the feedback control delay time at that time is appropriate. Therefore, the quality of the image acquired by the imaging operation during the zoom operation can be stabilized more reliably.
[0051]
In the invention of claim 5, when the feedback control follow-up speed during the zoom operation is delayed by reducing the control amount of the feedback control for the image to be picked up once, at the time of the feedback control at that time during the zoom operation The control amount was made more appropriate. Therefore, the quality of the image acquired by the imaging operation during the zoom operation can be more reliably stabilized.
[0052]
According to the sixth aspect of the present invention, stable exposure control is performed even if the brightness component frequently changes in the captured image as the angle of view changes during the zoom operation. Therefore, it is possible to stably control the brightness of the image acquired by the imaging operation during the zoom operation.
[0053]
According to the invention of claim 7, stable white balance control is performed even if the color component frequently changes in the captured image as the angle of view changes during the zoom operation. . Therefore, it is possible to stably control the hue of the image acquired by the imaging operation during the zoom operation.
[Brief description of the drawings]
FIG. 1 is a block diagram of a digital camera showing embodiments of the present invention.
FIG. 2 is a block diagram showing a circuit configuration common to an AE control processing unit and an AWB control processing unit in the first embodiment.
FIG. 3 is a block diagram showing a circuit configuration common to an AE control processing unit and an AWB control processing unit in the second embodiment.
[Explanation of symbols]
2 Zoom lens 4 CCD
19 AE control processing unit 22 AWB control processing unit 25 Zoom drive unit 31 Evaluation value extraction unit 32 Target value calculation unit 33 Latch register 34 Frequency dividers 41 to 43 First to third latch registers 44 to 46 First to third Reducer 47 Adder

Claims (8)

ズーム機能を備えた撮像装置において、
撮像した画像に含まれる所定の画像成分に基づき撮像する画像に対するフィードバック制御を行う画像制御手段と、
ズーム機能の動作状態を検出する検出手段と、
この検出手段によりズーム動作中であることが検出された場合に、前記画像制御手段による撮像する画像に対するフィードバック制御の追従速度を、ズーム動作停止中よりも遅らせる遅延手段とを備えたことを特徴とする撮像装置。
In an imaging device having a zoom function,
Image control means for performing feedback control on an image captured based on a predetermined image component included in the captured image;
Detection means for detecting the operating state of the zoom function;
A delay means for delaying a follow-up speed of feedback control for an image picked up by the image control means when the detection means detects that the zoom operation is being performed, compared to when the zoom operation is stopped; An imaging device.
前記遅延手段は、前記追従速度をズーム動作中の画角の変化速度に応じて遅らせることを特徴とする請求項1記載の撮像装置。The imaging apparatus according to claim 1, wherein the delay unit delays the follow-up speed according to a change speed of a field angle during a zoom operation. 前記遅延手段は、前記画像制御手段におけるフィードバック制御の動作頻度を低減させることにより、ズーム動作中における前記追従速度をズーム動作停止中よりも遅らせることを特徴とする請求項1又は2記載の撮像装置。3. The imaging apparatus according to claim 1, wherein the delay unit delays the follow-up speed during the zoom operation than when the zoom operation is stopped by reducing an operation frequency of feedback control in the image control unit. . 前記遅延手段は、前記画像制御手段による1回の制御量を低減させることにより、ズーム動作中における前記追従速度をズーム動作停止中よりも遅らせることを特徴とする請求項1又は2記載の撮像装置。3. The imaging apparatus according to claim 1, wherein the delay unit delays the follow-up speed during the zoom operation more than when the zoom operation is stopped by reducing a control amount of one time by the image control unit. . 前記遅延手段は、前記画像制御手段による制御量にヒステリシスを持たせることを特徴とする請求項4記載の撮像装置。The imaging apparatus according to claim 4, wherein the delay unit gives hysteresis to a control amount by the image control unit. 前記画像制御手段は、撮像した画像の明るさの成分に基づき露出を制御する露出制御手段を含むことを特徴とする請求項1乃至5いずれか記載の撮像装置。The imaging apparatus according to claim 1, wherein the image control unit includes an exposure control unit that controls exposure based on a brightness component of a captured image. 前記画像制御手段は、撮像した画像の色成分に基づきホワイトバランスを制御するホワイトバランス制御手段を含むことを特徴とする請求項1乃至6いずれか記載の撮像装置。The imaging apparatus according to claim 1, wherein the image control unit includes a white balance control unit that controls white balance based on a color component of a captured image. ズーム機能を備えた撮像装置における画像制御方法であって、
撮像した画像に含まれる所定の画像成分に基づき撮像する画像に対するフィードバック制御を行うとともに、ズーム動作中にはフィードバック制御の追従速度をズーム動作停止中よりも遅らせることを特徴とする画像制御方法。
An image control method in an imaging apparatus having a zoom function,
An image control method, wherein feedback control is performed on an image to be captured based on a predetermined image component included in the captured image, and the follow-up speed of feedback control is delayed during zoom operation than when zoom operation is stopped.
JP2003172946A 2003-06-18 2003-06-18 Imaging apparatus and image control method thereof Expired - Fee Related JP4314898B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003172946A JP4314898B2 (en) 2003-06-18 2003-06-18 Imaging apparatus and image control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003172946A JP4314898B2 (en) 2003-06-18 2003-06-18 Imaging apparatus and image control method thereof

Publications (2)

Publication Number Publication Date
JP2005012397A true JP2005012397A (en) 2005-01-13
JP4314898B2 JP4314898B2 (en) 2009-08-19

Family

ID=34096906

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003172946A Expired - Fee Related JP4314898B2 (en) 2003-06-18 2003-06-18 Imaging apparatus and image control method thereof

Country Status (1)

Country Link
JP (1) JP4314898B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006262000A (en) * 2005-03-16 2006-09-28 Fuji Photo Film Co Ltd Image processing apparatus and its processing method
JP2013048319A (en) * 2011-08-29 2013-03-07 Ricoh Co Ltd Imaging apparatus, imaging method and imaging program
JP2017085482A (en) * 2015-10-30 2017-05-18 キヤノン株式会社 Video image processing device, video image processing method, program
CN112887630A (en) * 2021-04-06 2021-06-01 南昌欧菲光电技术有限公司 Automatic exposure method, electronic device, and computer-readable storage medium

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006262000A (en) * 2005-03-16 2006-09-28 Fuji Photo Film Co Ltd Image processing apparatus and its processing method
JP4680639B2 (en) * 2005-03-16 2011-05-11 富士フイルム株式会社 Image processing apparatus and processing method thereof
JP2013048319A (en) * 2011-08-29 2013-03-07 Ricoh Co Ltd Imaging apparatus, imaging method and imaging program
JP2017085482A (en) * 2015-10-30 2017-05-18 キヤノン株式会社 Video image processing device, video image processing method, program
CN112887630A (en) * 2021-04-06 2021-06-01 南昌欧菲光电技术有限公司 Automatic exposure method, electronic device, and computer-readable storage medium

Also Published As

Publication number Publication date
JP4314898B2 (en) 2009-08-19

Similar Documents

Publication Publication Date Title
JP2007096582A (en) Image sensing device, exposure controller, method and program
KR20070068977A (en) Photographing apparatus, and photographing method
JP2011147008A (en) Imaging apparatus, imaging method, and, imaging program
RU2394388C1 (en) Image forming device and method of controlling said device
US7982773B2 (en) Imaging apparatus capable of capturing an image with reduced light falloff at edges and method for controlling the same
KR20090091597A (en) Apparatus and method for compensating backlight of camera
JPH11215426A (en) Automatic focusing system
EP1998552A2 (en) Imaging apparatus and image processing program
JP2010062802A (en) Imaging apparatus, imaging method, and computer readable recording medium storing program for executing the method
JP4761048B2 (en) Imaging apparatus and program thereof
US20060197866A1 (en) Image taking apparatus
JP4314898B2 (en) Imaging apparatus and image control method thereof
US8488020B2 (en) Imaging device, method for controlling the imaging device, and recording medium recording the method
US8872935B2 (en) Imaging apparatus and imaging operation processing method
JP2003204450A (en) Imaging apparatus and video signal processing method
JP3748031B2 (en) Video signal processing apparatus and video signal processing method
JP6728010B2 (en) Imaging device and method for controlling imaging device
JPH07135599A (en) Image pickup device and its picture processing method
JP2006217249A (en) Electronic camera, electronic camera system and program
JPH11155108A (en) Video signal processor and processing method and video camera using the same
JP3943613B2 (en) Imaging device and lens unit
US7719593B2 (en) Variable frame rate imaging
KR100558522B1 (en) Apparatus and method for adjusting a camera clock
RU2430482C1 (en) Image forming device and method of controlling said device
JP2005020341A (en) Exposure control method and exposure controller

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060419

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081007

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090428

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090511

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120529

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120529

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130529

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130529

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees