JP4247547B2 - カメラ用露光量制御方法および装置 - Google Patents

カメラ用露光量制御方法および装置 Download PDF

Info

Publication number
JP4247547B2
JP4247547B2 JP2006525608A JP2006525608A JP4247547B2 JP 4247547 B2 JP4247547 B2 JP 4247547B2 JP 2006525608 A JP2006525608 A JP 2006525608A JP 2006525608 A JP2006525608 A JP 2006525608A JP 4247547 B2 JP4247547 B2 JP 4247547B2
Authority
JP
Japan
Prior art keywords
image
hsoll
image brightness
target value
hist
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2006525608A
Other languages
English (en)
Other versions
JP2007502588A (ja
JP2007502588A5 (ja
Inventor
デイーテル クレーケル,
Original Assignee
アーデーツエー・オートモテイブ・デイスタンス・コントロール・システムズ・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アーデーツエー・オートモテイブ・デイスタンス・コントロール・システムズ・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング filed Critical アーデーツエー・オートモテイブ・デイスタンス・コントロール・システムズ・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング
Publication of JP2007502588A publication Critical patent/JP2007502588A/ja
Publication of JP2007502588A5 publication Critical patent/JP2007502588A5/ja
Application granted granted Critical
Publication of JP4247547B2 publication Critical patent/JP4247547B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Description

本発明は、少なくとも1つの画像センサによるカメラのための露光制御方法であって、画像輝度目標値が予め設定され、この画像輝度目標値に制御される方法に関する。本発明は、少なくとも1つの画像センサを持つカメラ用露光制御装置であって、画像輝度目標値が予め設定され、この画像輝度目標値に制御されるものに関する。
将来、ますます多くの自動車が、車両の近傍や遠方の周辺を監視するシステムを持つことが予想されている。これは、車両の動きを全体としてまた道路上の交通流における移動物体として検出するシステムを含んでいる。これらのシステムに基いて、運転者補助あるいはナビゲーションのため目標へ向けた車両の案内や操舵、及び衝突回避までの搭乗者保護システムの拡張が実現可能である。このようなシステムは、半自動、あるいは全自動走行の基礎をなしている。車両周辺監視システムとして、間隔およびシーケンス制御として公知のレーダーシステムの外に、可視光に基くかあるいは赤外線範囲にある撮像センサ(画像センサ等)を持つカメラシステム(車両周辺監視カメラ)が特に適している。
例えば画像処理などによる車線認識のためのカメラを持つ車両で連続的に撮像する場合、露光状態は一定ではない。例えばトンネルに入る場合あるいはトンネルから出る場合のように、露光状態は非常に速く変化し、明るい日光から夜の暗闇まで広い動的範囲を含んでいる。しかしカメラシステムは、全ての条件下で十分確実かつ正確に動作せねばならない。これはシステムの極めて幅広いダイナミックレンジを必要とする。このダイナミックレンジには、今日市場に普及している安価な固定露光設定のカメラでは対応できない。通常これに、絞りや露光時間が合わされる。一般に車両内には、LCDあるいはCMOSセンサを備えたカメラが使用される。これらのセンサでは、露光時間に、光を集める時間が対応している。以下この時間を「積分時間」と称する。これは、純電子的に制御可能である。通常、機械的な絞りは存在しない。その代わりに、LCDおよびCMOSカメラセンサでは、信号を更に処理するためアナログ/デジタル変換器へ送る前に、付加的に増幅率が調節される。ドイツ連邦共和国特許第10215525号明細書あるいは米国特許出願第2003/098914号明細書に記載されているように、今までの制御方法は、目標値からの制御偏差を連続的に測定し、この偏差を連続的な再制御によってできるだけ小さく保つようにしている。しかし画像処理システムによる画像の評価の際、連続する各画像の輝度を制御することは、必ずしも有利ではない。他方、制御せねばならない場合、目標値は可能な限り速く設定されねばならない。
本発明の課題は、光の状態が変化する場合にも、できるだけ高い画像コントラストを迅速かつ確実に設定できるセンサの露光量制御方法および装置を提示することである。
本発明によれば、この課題は、独立請求項の特徴によって解決される。その従属請求項の特徴によって、有利な展開が提供される。
本発明によれば、照度Bに関係する画像輝度Hの関数に基いて制御が行われることによって、課題が解決される。ここで照度は、実際に光学的に存在して画像センサの入力側に生じる輝度を意味し、この輝度から、画像センサの出力側に、適当な積分および/あるいは増幅によって、評価のために利用される輝度が得られる。
測定された輝度の制御は、照度Bに関係する画像輝度Hの(特性曲線K)の勾配αの調節によって行われる。その際制御ステップにおいて、最初の勾配α1、画像輝度目標値Hsollおよび現在の画像輝度Histから、次式
α2=α1*Hsoll/Hist
により新しい勾配が求められる。
勾配を合わせることによって、直ちに新しい動作点が予め設定され、こうして時間のかかる連続的な制御をやめることができる。勾配αの調節は、画像センサの積分時間および/あるいは増幅率の適当な前もっての設定によって行われる。
本発明によれば、画像輝度目標値Hsollとして、目標値Hsoll1,Hsoll2の範囲が予め設定されるようにするのが好ましい。この場合、各所定値の相互間隔は動作範囲従って適合の頻度を規定する。従って比較的まれに適合を行わねばならないため、最大の理論的動作範囲に対して大きい範囲が、能動動作範囲として規定される。それにより特に、適合の行われた後一般に所定の時間間隔において新たな適合は必要でない。しかし具体的な値は、検出すべき画像の動特性および輝度変動に強く関係している。
下限Hsoll1のための目標値50〜90%及び上限Hsoll2のための目標値の110〜130%の目標値のための範囲が、予め設定されるのがよい。
本発明の展開によれば、新しい勾配α2を求める際、特性曲線の所定の特性が考慮される。
本発明によれば、特性曲線が原点Uを通らず、新しい勾配α2が、少なくとも1つのオフセット値Offs1,Offs2を考慮して、次式
α2=α1*(Hsoll−Offs)/(Hist−Offs1)
により求められる。
また本発明の課題は、次の装置によっても解決され、この装置において計算機により画像評価が行われ、計算機により実質的に、露光制御および画像輝度の調節または制御も行われる。
現在の画像輝度Histの目標画像輝度Hsollへの調節は、1つの制御ステップで行われるのがよい。
本発明によれば、画像輝度の測定のため特定の重要な絵素が選択され、実質的にこの範囲に画像輝度が制御される。
本発明によれば、計算機が、設定された感度を介して写像される場面の現在の画像輝度を逆算し、この値をシステムあるいは他のシステムに利用可能にするようにしている。画像センサとして画像検出のためすべての公知の及び考えられるセンサ、特に線状あるいはマトリクス状に配置されかつ光を本発明による光学系から得る感光要素(画素または絵素)から成るマルチセンサ構造が適している。Si画像センサ(CCD)も使用可能である。CCD画像センサの場合、透明な電極を経て入射する光により、強度および露光時間に比例して、「ポテンシャルサンプ」(Si−SiO境界層)に集められる電荷が発生される。別の電極によって、これらの電荷は、光を通さない区域へ移され、「アナログ」シフトレジスタ(バケットチエン原理)において行毎に、高いクロック速度で逐次に読み出される出力レジスタへ送られる。しかし、CMOS技術に基く画像センサが好んで使用される。CMOSセンサを使用する場合、絞り制御は必要ない。全輝度範囲における一定のコントラスト分解能が可能となる。これらのセンサは更に、同時に一層高い感度(一層高い読出し速度で)個々の絵素へ有利に選択的にアクセスできる。画像センサチップ上で信号の最初の前処理も可能である。
本発明の特に好ましい実施形態では、実質的にVGA分解能を持つセンサなるべくCMOSカメラセンサ用の公知のフォーマットが使用される。標準フォーマットの使用により、システムの費用は少ない。なぜならば、これらは既に大量生産されているからである。
しかし本発明は、これらの標準センサの使用に限定されないことは明らかである。例えば、本発明による光学システムにおいては、特殊な高度に動的なセンサを使用することもできる。特に、いわゆるTFA(Thin Film an ASIC)チップを画像センサとして使用することも考えられる。これらのセンサの使用により、全体で200dB以上の動的範囲を達成できる。これらのシステムは、特に夕暮れ時や夜における低い光度でも、例えば暗視装置として使用することができる。
本発明による方法および装置は、なるべく自動車用の車両周辺監視カメラに使用される。
本発明を添付図面(図1〜図4)を参照して詳しく説明する。
図1には、車両周辺を監視するカメラ用の画像処理システムが概略的に示されている。画像処理システムは、画像撮影手段1(センサ付きカメラ)、画像データ取得手段2(フレームグラッパ)および計算機ユニット3から構成されている。画像データ取得手段2は、カメラ1から画像データ4を得る。出力データとして、取得された画像データ5が、これを評価する計算機3へ送られる。また計算機は、カメラ1を構成するためカメラ1への接続部6も持っている。
図2は、照度B(特性曲線K)の関数として、センサの画像輝度Hの推移を概略的に示している。露光制御の出発点は、センサが、飽和閾値(理想的には最大画像輝度Hmaxの所にある)以下では、照度、積分時間および増幅率に関して実質的に直線的性質を示す、という事実である。
直線的推移の勾配αは、設定される積分時間および設定される増幅率によって規定される。
α=η*積分時間*増幅率
比例定数ηは、センサの光感度を含んでいる。
平均画像輝度Hを調節するため、目標値Hsollが予め設定され、この値に制御される。センサへの新しい制御値の伝送は、画像データ伝送を妨げる可能性がある。従って制御過程は、可能な限り稀に行われるべきである。従って付加的にHsoll1とHsoll2との間の許容範囲が予め設定され、制御が介入する前に、この許容範囲内で画像輝度が変化してもよい。
図3は、目標値(目標画像輝度)Hsollへの現在の画像輝度Histの追跡を概略的に示している。現在の画像輝度Histが、Hsoll1とHsoll2との間の許容範囲から逸脱すると、現在の画像輝度Histが目標画像輝度Hsollに一致するように、特性曲線K1の勾配が変化される。新しい勾配は新しい特性曲線K2を描く。
本発明の本質は、新しい勾配α1を計算し、それにより目標画像輝度Hsollへの現在の画像輝度Histの追跡を制御ステップで行うことである。
直線関係のため、以前の勾配α1に、目標画像輝度Hsollと現在の画像輝度Histの比を掛けることにより新しい勾配α2が得られる。
α2=α1 Hsoll/Hist
新しい勾配α2が求められると、可能な限り正確に新しい特性曲線K2を設定するため積分時間あるいは増幅率あるいは両者が選択的に合わされる。
偏差の確認後、センサにおいて新しい積分時間および/あるいは増幅率が設定され、従って次の次の画像のために有効になる。25Hzの典型的な画像繰返し数において、既に40ms後に新しい設定を行うことができるであろう。
新しい勾配α2を求める際に、照度Bと画像輝度Hとの関係の特性曲線Kの所定の特性が、実質的な直線範囲で勾配の適当な適合を行うことによって、考慮される。
更に直線範囲およびオフセットの限界を考慮することもできる。しかし原理的に、費用のかかる計算例えば高次の多項式により、一層複雑な計算を考慮することもできる。
図4は、特性曲線K3,K4が原点Uを通らない場合を概略的に示している。その場合、オフセット Offs1またはOffs2が適当な輝度において差し引かれる。
本発明は、直線特性曲線を持つセンサのみに限定されない。非直線特性曲線(例えば対数特性曲線)を持つセンサでは、特性曲線の下部の分岐が直線により十分に正確に近似される。従ってこの方法は、非直線特性曲線を持つセンサにも転用され、従って画像輝度が、非直線特性曲線を持つセンサにおいても十分よく目標値に調節される。典型的に非直線特性曲線を持つセンサは、直線特性曲線を持つセンサよりも著しく大きい動的範囲を覆う。従って非直線特性曲線を持つセンサでは、目標値への画像輝度の調節は、直線特性曲線を持つセンサにおけるより危険が少ない。従って非直線特性曲線における制御パラメータの計算の際、増大した不正確さが、画質の悪化にあまり影響を及ぼすことはない。
画像評価を扱う計算機またはマイクロコントローラあるいはディジタル信号プロセッサDSPを介して画像輝度の監視が考慮されているので、現在の画像輝度が制御ステップで目標画像輝度に調節される。
画像輝度を測定するため重要な絵素の選択も考慮されている。例えば車線認識のような応用の際、測定に有利な範囲は画像の一部しか占めない。従って露光制御は、この範囲からの絵素に限定される。こうしてこの範囲を最適に表示することができる。
「輝度センサ」の機能の引受けも同様に有利に考えられる。計算機が増幅率および積分時間の絶対的調節についての監視を行う場合、計算機は、調節される感度を介して、写像される場面の現在の輝度に逆算し、この値を外部輝度として出力することができる。
この値は、例えば車両の前照灯を制御するために使用することができる。
画像処理システムを概略的に示す。 センサの画像輝度Hの推移を照度Bの関数として概略的に示す。 画像輝度目標値(目標画像輝度)Hsollへの現在の画像輝度Histの追跡を概略的に示す。 原点(零点)を通らない画像輝度の推移(特性曲線K)の第3の記入を概略的に示す。

Claims (9)

  1. 少なくとも1つの画像センサによるカメラのための露光制御方法であって、画像輝度目標値(Hsoll)が予め設定され、この画像輝度目標値(Hsoll)に制御され、画像センサの積分時間および/あるいは増幅率の制御による勾配(α)の調節によって制御が行われるものにおいて、最初の勾配α1、画像輝度目標値Hsollおよび現在の画像輝度Histから、次式
    α2=α1*Hsoll/Hist
    により新しい勾配が求められることを特徴とする、カメラ用露光量制御方法。
  2. a) 画像輝度Histが、画像輝度目標値Hsollの許容範囲(Hsoll1,Hsoll2)と比較され、
    b) 画像輝度Histが画像輝度目標値Hsollの許容範囲(Hsoll1,Hsoll2)外にある場合にのみ、制御ステップにおいて新しい勾配α2が予め設定されることを特徴とする、請求項1記載の方法。
  3. 新しい勾配α2を求める際、画像輝度(H)と照度(B)との関係を表わす所定の特性曲線(K)の特性が考慮されることを特徴とする、請求項1あるいは2記載の方法。
  4. 特性曲線(K)が原点Uを通らず、新しい勾配α2が、少なくとも1つのオフセット値Offs1を考慮して、次式
    α2=α1*(Hsoll−Offs1)/(Hist−Offs1)
    により求められることを特徴とする、請求項3記載の方法。
  5. 各勾配(α2,α1)に対して付属するオフセット値(Offs1,Offs2)が設定され、新しい勾配α2が、付属するオフセット値を考慮して、次式
    α2=α1*(Hsoll−Offs)/(Hist−Offs
    により求められることを特徴とする、請求項4記載の方法。
  6. 少なくとも1つの画像センサを持つカメラ用露光制御装置であって、先行する請求項の1つに記載の方法により、画像輝度目標値Hsollが予め設定され、この画像輝度目標値Hsoll制御されるものにおいて、計算機が設けられ、この計算機において画像評価が一緒に行われ、計算機により少なくとも実質的に、露光制御および画像輝度の調節または制御も行われることを特徴とする、カメラ用露光量制御装置。
  7. 画像輝度の測定のため特定の重要な絵素が選択され、実質的にこの範囲に画像輝度が制御されることを特徴とする、請求項6記載の装置。
  8. 計算機が、設定された感度を介して写像される場面の現在の画像輝度を逆算し、この値をシステムあるいは他のシステムに利用可能にするようにしていることを特徴とする、請求項6あるいは7記載の装置。
  9. 自動車用の車両周辺監視カメラ用の先行する請求項の1つに記載の方法および装置の使用。
JP2006525608A 2003-08-14 2004-01-20 カメラ用露光量制御方法および装置 Expired - Lifetime JP4247547B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE10337357A DE10337357A1 (de) 2003-08-14 2003-08-14 Verfahren und Vorrichtung zur Beleuchtungssteuerung für eine Kamera
PCT/DE2004/000067 WO2005018225A1 (de) 2003-08-14 2004-01-20 Verfahren und vorrichtung zur belichtungssteuerung für eine kamera

Publications (3)

Publication Number Publication Date
JP2007502588A JP2007502588A (ja) 2007-02-08
JP2007502588A5 JP2007502588A5 (ja) 2007-12-27
JP4247547B2 true JP4247547B2 (ja) 2009-04-02

Family

ID=34177544

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006525608A Expired - Lifetime JP4247547B2 (ja) 2003-08-14 2004-01-20 カメラ用露光量制御方法および装置

Country Status (6)

Country Link
US (1) US20060269271A1 (ja)
EP (1) EP1654867B1 (ja)
JP (1) JP4247547B2 (ja)
DE (2) DE10337357A1 (ja)
ES (1) ES2395820T3 (ja)
WO (1) WO2005018225A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4987573B2 (ja) * 2007-06-01 2012-07-25 富士重工業株式会社 車外監視装置
JP4389999B2 (ja) 2007-12-26 2009-12-24 株式会社デンソー 露出制御装置及び露出制御プログラム
DE112010004843A5 (de) * 2009-12-18 2012-09-27 Daimler Ag Anzeigeverfahren und anzeigevorrichtung für ein fahrzeug
JP5937832B2 (ja) * 2012-01-30 2016-06-22 クラリオン株式会社 車載カメラ用露出制御装置
CN114185250A (zh) * 2016-12-20 2022-03-15 Ev 集团 E·索尔纳有限责任公司 将一光敏层曝光之装置及方法
DE102017215347A1 (de) * 2017-09-01 2019-03-07 Conti Temic Microelectronic Gmbh Verfahren zur vorhersehbaren Belichtungssteuerung zumindest einer ersten Fahrzeugkamera
DE102017219276A1 (de) 2017-10-26 2019-05-02 Continental Automotive Gmbh Belichtungssteuerung für eine Kamera mit nichtlinearer Kennlinie
US10558873B2 (en) * 2017-12-14 2020-02-11 Waymo Llc Methods and systems for controlling extent of light encountered by an image capture device of a self-driving vehicle
DE102018002218A1 (de) 2018-03-19 2018-09-20 Daimler Ag Verfahren zur prädiktiven Regelung einer Empfindlichkeit eines Empfängers eines Bildsensors

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4969045A (en) * 1988-05-20 1990-11-06 Sanyo Electric Co., Ltd. Image sensing apparatus having automatic iris function of automatically adjusting exposure in response to video signal
JP2841528B2 (ja) * 1989-08-24 1998-12-24 株式会社明電舎 固体電解質型燃料電池
US5831676A (en) * 1992-08-19 1998-11-03 Canon Kabushiki Kaisha Image pickup device using plural control parameters for exposure control
US5670935A (en) * 1993-02-26 1997-09-23 Donnelly Corporation Rearview vision system for vehicle including panoramic view
US5801773A (en) * 1993-10-29 1998-09-01 Canon Kabushiki Kaisha Image data processing apparatus for processing combined image signals in order to extend dynamic range
JP3834130B2 (ja) * 1996-07-19 2006-10-18 株式会社リコー デジタルカメラ
WO1999033684A2 (en) * 1997-12-31 1999-07-08 Gentex Corporation Vehicle vision system
EP1074430B1 (en) * 1999-08-04 2007-10-17 Iteris, Inc. Imaging system and method with dynamic brightness control
JP3949903B2 (ja) * 2001-04-09 2007-07-25 東芝エルエスアイシステムサポート株式会社 撮像装置及び撮像信号処理方法
DE10130439A1 (de) * 2001-06-23 2003-01-02 Ulrich Claus Belichtungsautomat für abtastende Objektaufnahmen
US7176976B2 (en) * 2001-08-30 2007-02-13 Lightsurf Technologies, Inc. Autoexposure methodology in a digital camera
US6859230B2 (en) * 2001-11-07 2005-02-22 Omnivision Technologies, Inc. Method of fast automatic exposure or gain control in a MOS image sensor

Also Published As

Publication number Publication date
JP2007502588A (ja) 2007-02-08
WO2005018225A1 (de) 2005-02-24
EP1654867B1 (de) 2012-12-05
US20060269271A1 (en) 2006-11-30
ES2395820T3 (es) 2013-02-15
DE112004002050D2 (de) 2006-10-05
EP1654867A1 (de) 2006-05-10
DE10337357A1 (de) 2005-03-10

Similar Documents

Publication Publication Date Title
JP4248558B2 (ja) 道路区画線検出装置
JP5375814B2 (ja) 露出制御装置
JP4389999B2 (ja) 露出制御装置及び露出制御プログラム
EP1763229B1 (en) Imaging system for a moving apparatus
WO2005125185A1 (ja) 撮像装置
JP2768042B2 (ja) 距離測定装置
CN102428700A (zh) 监视装置
US11758283B2 (en) Image capture device and image adjusting method
JP4247547B2 (ja) カメラ用露光量制御方法および装置
JP2008110715A (ja) 車両用オートライトシステム
JP2011258144A (ja) 画像撮影装置、画像補正処理方法及び画像補正処理プログラム
JP5228717B2 (ja) 画像入力装置
JP2004096345A (ja) 撮像装置
US8531589B2 (en) Image pickup device and image pickup method
JP2004289786A (ja) 撮像装置
JP4668863B2 (ja) 撮像装置
JP2012138688A (ja) 車載カメラの露出制御値の決定方法
JP4539400B2 (ja) ステレオカメラの補正方法、ステレオカメラ補正装置
JP2012010282A (ja) 撮像装置、露光制御方法及び露光制御プログラム
US20020090213A1 (en) Photometric device and camera
JP2009188872A (ja) 映像補正装置、映像補正方法、及び映像補正プログラム
KR20200128464A (ko) 자율 주행 차량의 카메라 시스템의 작동 방법
KR20200128461A (ko) 자율 주행 차량의 카메라 시스템 및 그의 작동 방법
JP4187853B2 (ja) 車両用距離検出装置
JP2007166142A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071011

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081209

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081225

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120123

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4247547

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120123

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130123

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140123

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term