JP4426220B2 - Electronic endoscope device capable of split photometry - Google Patents

Electronic endoscope device capable of split photometry Download PDF

Info

Publication number
JP4426220B2
JP4426220B2 JP2003190921A JP2003190921A JP4426220B2 JP 4426220 B2 JP4426220 B2 JP 4426220B2 JP 2003190921 A JP2003190921 A JP 2003190921A JP 2003190921 A JP2003190921 A JP 2003190921A JP 4426220 B2 JP4426220 B2 JP 4426220B2
Authority
JP
Japan
Prior art keywords
peak
luminance
luminance signal
value
subject image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003190921A
Other languages
Japanese (ja)
Other versions
JP2005021423A (en
Inventor
兼一 入山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2003190921A priority Critical patent/JP4426220B2/en
Publication of JP2005021423A publication Critical patent/JP2005021423A/en
Application granted granted Critical
Publication of JP4426220B2 publication Critical patent/JP4426220B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Endoscopes (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、撮像素子を有するビデオスコープを備えた電子内視鏡装置に関する。特に、絞りの開閉調整や電子シャッタ機能等によって、表示される被写体像の明るさを適正に維持する明るさ調整に関する。
【0002】
【従来の技術】
従来の電子内視鏡装置では、被写体像に応じた画像信号がビデオスコープ内の撮像素子から読み出されると、被写体像の明るさを示す輝度値(以下、代表輝度値という)が算出される。そして、この輝度値と適正な明るさを示す参照輝度値との差に基づいて、例えば、絞りの開閉によって観察部位に照射される光の光量が調整される。輝度値を算出する測光方式としては、画面全体の明るさ平均を求める平均測光や、画面全体の中で比較的輝度値の高い値を被写体像の明るさとするピーク測光がある。また、表示される被写体像を分割し、分割エリア毎に適切な測光方式を割り当てる分割測光方式も知られている(例えば、特許文献1、2、3参照)。これら分割測光方式では、エリア毎に求められる輝度値に対して重み付けを行った後全加算することにより代表輝度値を算出したり、エリアごとに求められた輝度値を全加算して平均値を算出したりする。
【0003】
【特許文献1】
特開2000−333901号公報(第3図)
【特許文献2】
特開2002−98913号公報(第5図)
【特許文献3】
特開2000−81577号公報(第8図)
【0004】
【発明が解決しようとする課題】
従来の測光方式では、いわゆるハレーションを発生させる高輝度の微小領域が複数のエリアに跨っている場合、高輝度情報が各エリアに分散されてしまう。
【0005】
その結果、代表輝度値に高輝度情報が十分反映されず、誤った被写体像の明るさが検出され、適正な明るさ調整を実行することができない。
【0006】
そこで本発明では、高輝度の微小領域が複数のエリアに跨っても、被写体像の明るさを適正に検出することが可能な電子内視鏡装置等を得ることを目的とする。
【0007】
【課題を解決するための手段】
本発明の電子内視鏡装置は、被写体を照明するための光源と、照明された被写体からの反射光に基づいた画像信号が読み出される撮像素子を有するビデオスコープとを備えた電子内視鏡装置であって、撮像素子から読み出される画像信号に基づいて、被写体像を構成する画素の輝度信号を順次検出する輝度信号検出手段と、被写体像全体を分割することにより規定される複数のエリアそれぞれに対し、ピーク値を算出するために所定のピーク検波特性に基づいてピーク測光を実行するピーク測光手段と、複数のエリアそれぞれに対して算出された各ピーク値に基づいて、被写体像の明るさを示す代表輝度値を算出する輝度値算出手段と、代表輝度値に基づいて、被写体像の明るさを調整する明るさ調整手段とを備えたことを特徴とする。例えば、各ピーク値を重み付けした後に被写体像全体のピーク値を算出してもよく、あるいは各ピーク値を加算して平均値を算出してもよい。明るさ調整手段は、例えば、絞りの開閉や、光源の光強度調整、あるいは電子シャッタ速度の調整により明るさを調整する。
【0008】
各エリアに対し、エリアに対応したピーク検波特性が与えられ、その特性に応じてピーク値が算出される。そのため、高輝度の微小領域がエリア間に跨っている場合においても、適切に高輝度情報が検出され、適正な被写体像の明るさ調整が行われる。
【0009】
ピーク測光手段は、以下のピーク検波特性を表す式に従ってピーク値を算出すればよい。このとき、対応するエリアに応じたα、βがあらかじめ定められる。
y(n)=β×y(n−1)+α×x(n)
ただし、y(n)はピーク測光手段から出力される輝度信号、x(n)はピーク測光手段に入力される輝度信号、αは入力される輝度信号に対するゲイン値、βはフィードバックされる前回輝度信号y(n−1)に対するゲイン値、nはサンプル画素を示す。
【0010】
本発明の内視鏡用被写体像明るさ検出装置は、照明された被写体からの反射光を受光する撮像素子から読み出される被写体像に応じた画像信号に基づいて、被写体像を構成する画素の輝度信号を順次検出する輝度信号検出手段と、被写体像全体を分割することにより規定される複数のエリアそれぞれに対し、ピーク値を算出するために所定のピーク検波特性に基づいてピーク測光を実行するピーク測光手段と、複数のエリアそれぞれに対して算出された各ピーク値に基づいて、被写体像の明るさを示す代表輝度値を算出する輝度値算出手段とを備えたことを特徴とする。
【0011】
本発明の内視鏡用被写体像明るさ検出方法は、照明された被写体からの反射光を受光する撮像素子から読み出される被写体像に応じた画像信号に基づいて、被写体像を構成する画素の輝度信号を順次検出し、被写体像全体を分割することにより規定される複数のエリアそれぞれに対し、ピーク値を算出するために所定のピーク検波特性に基づいてピーク測光を実行し、複数のエリアそれぞれに対して算出された各ピーク値に基づいて、被写体像の明るさを示す代表輝度値を算出することを特徴とする。
【0012】
【発明の実施の形態】
以下では、図面を参照して本発明である実施形態について説明する。
【0013】
図1は、第1の実施形態である電子内視鏡装置のブロック図である。検査、手術等が開始されると、ビデオスコープが体内へ挿入される。
【0014】
電子内視鏡装置には、CCD(Charge-Coupled Device)54を有するビデオスコープ50と、CCD54から読み出される信号を処理するプロセッサ10とが備えられており、被写体像を表示するモニタ32およびキーボード34がプロセッサ10に接続される。ビデオスコープ50はプロセッサ10に着脱自在に接続される。
【0015】
ランプ電源スイッチ(図示せず)がONになると、ランプ制御回路11Aを含むランプ電源11からランプ(照明用光源)12へ電源が供給され、これによりランプ12から光が放射される。ランプ12から放射された光は、集光レンズ14を介してビデオスコープ50内に設けられたライトガイド51の入射端51Aに入射する。ライトガイド51は、ランプ12から放射される光を観察部位Sの近傍にあるビデオスコープ50の先端部60へ光を伝達する極細の光ファイバーの束であり、ライトガイド51を通った光は出射端51Bから出射する。これにより、照明用レンズである配光レンズ52を介して被写体である観察部位Sに光が照射されて、観察部位Sが照明される。
【0016】
観察部位Sにおいて反射した光は、対物レンズ53を通ってCCD54の受光領域に到達し、これにより観察部位Sの光学像がCCD54の受光領域に形成される。本実施形態では、カラー撮像方式として同時単板式が適用されており、CCDの受光面上には、イエロー(Ye)、シアン(Cy)、マゼンタ(Mg)、グリーン(G)の色要素が市松状に並べられた補色カラーフィルタ(図示せず)が受光領域の各画素位置に対応するよう配置されている。そして、CCD54では、補色カラーフィルタの各色要素を透過した光の色に応じた複数の画素信号から成る画像信号が光電変換により発生し、所定時間間隔ごとに1フレームもしくは1フィールド分の画像信号が、色差線順次方式に従って順次読み出される。本実施形態では、カラーテレビジョン方式としてNTSC方式が適用されており、1/30(1/60)秒間隔ごとに1フレーム(1フィールド)分の画像信号が順次読み出され、初期信号処理回路55へ送られる。
【0017】
初期信号処理回路55には、プリアンプ、サンプルホールド回路、画像メモリ、画像処理回路(いずれも図示せず)などが含まれており、初期信号処理回路55に入力された画像信号は、各回路における処理の後デジタル画像信号に変換され、画像メモリに一時的に格納される。画像メモリから読み出されたデジタル画像信号は画像処理回路に送られ、ホワイトバランス調整、ガンマ補正などの処理が施された後、プロセッサ10のプロセッサ信号処理回路28へ送られる。また、初期信号処理回路55に入力された画像信号の輝度成分である輝度信号が生成され、A/D変換器(図示せず)においてデジタル信号に変換された後、プロセッサ10の調光回路23へ送られる。ここでは、NTSC方式に従って1/30(1/60)秒間隔ごとに1フレーム分の輝度信号が順次送られる。
【0018】
プロセッサ信号処理回路28では、初期信号処理回路55から送られてくる画像信号に対して所定の処理が施される。処理された画像信号は、NTSCコンポジット信号、Y/C分離信号(いわゆるSビデオ信号)、RGB分離信号などのビデオ信号(映像信号)としてモニタ32へ出力され、これにより被写体像がモニタ32に映し出される。
【0019】
プロセッサ10のシステムコントロール回路22には、CPU24、ROM25、RAM26が含まれており、CPU24は、プロセッサ10全体を制御し、調光回路23、ランプ制御回路11A、プロセッサ信号処理回路28などの各回路に制御信号を出力する。タイミングコントロール回路30では、信号の処理タイミングを調整するクロックパルスがプロセッサ10内の各回路に出力され、また、ビデオ信号に付随される同期信号がプロセッサ信号処理回路28に送られる。システムコントロール回路22内のROM25には、電子内視鏡装置全体を制御するためのプログラムがあらかじめ記憶されている。
【0020】
ライトガイド51の入射端51Aと集光レンズ14との間には、被写体Sに照射される光の光量を調整する絞り16が設けられており、モータ18の駆動によって開閉する。本実施形態では、DSP(Digital Signal Processor)で構成された調光回路23により、絞り16を通過する光、すなわち被写体Sへ照射される光の光量調整の制御が実行される。調光回路23は、順次ビデオスコープ50から送られてくる輝度信号に基づき、光量調整用の制御信号をモータドライバ20へ送信する。そして、モータドライバ20は、この制御信号に基づいて駆動信号をモータ18へ送信する。これにより、モータ18が作動し、絞り16が所定の開度となるように駆動される。
【0021】
ビデオスコープ50内には、ビデオスコープ50全体を制御するスコープ制御部56と、ビデオスコープ50に関連したデータがあらかじめ記憶されたEEPROM57とが設けられている。スコープ制御部56は、初期信号処理回路55を制御するとともに、EEPROM57からスコープ関連のデータを読み出す。ビデオスコープ50がプロセッサ10に接続されると、スコープ制御部56とシステムコントロール回路22との間でデータが送受信され、データがシステムコントロール回路22へ送られる。
【0022】
プロセッサ10のフロントパネル46には、自動調光において基準となる参照輝度値Yrの設定をするための設定スイッチ46Aが設けらており、オペレータがスイッチを操作すると、操作に応じた信号がシステムコントロール回路22へ送られる。参照輝度値Yrのデータは、RAM26へ一時的に格納されるとともに、必要に応じてシステムコントロール回路22から調光回路23へ送られる。
【0023】
図2は、調光回路23の模式的ブロック図であり、図3は、測光エリアを示した図である。
【0024】
図3に示すように、表示される被写体像の全体領域AAは、5つの測光エリアに分割されており、ここでは、各測光エリアを、それぞれエリアA,エリアB,エリアC,エリアD,エリアEと規定する。調光回路23では、第1検出器71〜第5検出器75において各測光エリアのピーク値が検出され、全体検出器82において被写体像全体領域AAに対する全体ピーク値(代表輝度値)が検出される。ただし、ピーク値および被写体像を構成する各画素の輝度値は、は28=256段階に分けられた輝度レベルの値によって表される。各画素の輝度値およびピーク値は、0〜255のいずれかの値となる。
【0025】
後述するように、各検出回路は、対応する測光エリアに応じたピーク検波特性を有し、各検出回路ではピーク特性を決定するパラメータがあらかじめ設定されており、パラメータの値に従ってピーク値が検出される。各検出回路から出力されたピーク値は、重み付け回路76〜80において、それぞれエリア固有の重み付け係数によって重み付けされ、全体ピーク検出器82へ送られる。全体ピーク検出器82では、5つのピーク値の中で最大値であるピーク値が選択される。そして、選択された最大ピーク値はあらかじめ設定された基準ピーク値と比較され、その差分情報に基づいて制御信号がモータドライバ20へ送信される。
【0026】
図4は、図2の第1検出器71のブロック図である。
【0027】
第1検出器71は、増幅器92、93と、比較器94と、切換器96と、遅延メモリ98とを備える。エリアA領域内にある画素に応じた輝度信号は、増幅器92、比較器94に時系列的にサンプル数分だけ順に入力される。増幅器92、93におけるゲイン値であってピーク特性を決定するゲインα1、β1は、以下の関係を満たす。
α1+β1=1 ・・(1)
【0028】
第1検出器71に入力された輝度信号は、増幅器92と比較器94へ送られる。増幅器92に入力された輝度信号は、α1だけ増幅された後、遅延メモリ98に格納されて増幅器93においてβ1だけ増幅された前回輝度信号と加算され、切換器96へ送られる。以下では、入力輝度信号をx(n)で表し、遅延メモリ98に格納されていた輝度信号を、メモリ内輝度信号y(n−1)と表す。ただし、nはサンプル回数(サンプルされる画素の数)を示す。
【0029】
一方、比較器94では、入力された輝度信号x(n)の輝度レベルと、前回輝度信号が入力された時に遅延メモリ98に格納された輝度信号の輝度レベルとが比較される。入力輝度信号x(n)の輝度レベルよりもメモリ内輝度信号y(n−1)の輝度レベルが大きい場合、L(Low)信号が切換回路96に入力される。切換回路96は、L信号に従って接点S2と遅延メモリ98とを接続させる。一方、入力輝度信号x(n)の輝度レベルよりもメモリ内輝度信号y(n−1)の輝度レベルが小さい場合、H(High)信号が切換回路96へ送られる。切換回路96は、H信号に従って接点S1と遅延メモリ98とを接続させる。
【0030】
遅延メモリ98に格納された輝度信号は、リセットパルスの入力タイミングに従って切換回路96、増幅器93へフィードバックされるとともに、図2に示した全体ピーク検出器82へ送られる。そして、新たに入力輝度信号x(n+1)が第1検出器71へ入力した場合、比較器94において、入力輝度信号x(n+1)の輝度レベルとメモリ内輝度信号y(n)の輝度レベルとが比較される。新たに入力される輝度信号の輝度レベルが遅延メモリ98に格納される輝度信号の輝度レベルより大きくならない限り、遅延メモリ98に格納されている輝度信号が全体ピーク検出器82へ出力し続けられる。
【0031】
第2検出回路72〜第5検出回路75においても、第1検出回路71と同様に構成されており、各回路において、エリアに応じたゲインαk、βkが(k=2〜5)が定められている。
【0032】
ここで、輝度信号のピーク検波特性について入力輝度信号x(n)がメモリ内輝度信号y(n−1)より大きい場合に遅延メモリ98に格納される輝度信号をy(n)とした場合、y(n)は入力輝度信号x(n)とメモリ内輝度信号y(n−1)とに基づき、以下の差分方程式に従う。
y(n)=βk×y(n−1)+αk×x(n) ・・(2)
(1)式を解くと、y(n)は次式に示す指数関数で表される。ただし、βk^nは、βk nを表す。
y(n)=αkβk/(βk―1)×βk^n
+αk/(1−βk)×1 ・・(3)
また、(1)式同様、αkとβk(k=1〜5)とは以下の関係を満たす。
αk+βk=1 ・・(4)
【0033】
ゲインαk、βkは、被写体(観察部位)、あるいは対応する測光エリアの場所等に基づいて適正な値にそれぞれ定められる。好ましくは、被写体像全体領域AAに占める最小面積、すなわちサンプル数nを決定した後、αk、βkがエリアごとに定められる。例えば、αk=βk=0.5の場合、輝度信号y(n)は、次式によって表される。
y(n)=1−0.5^(n+1) ・・(5)
【0034】
図5は、遅延メモリ98に格納される輝度信号y(n)の輝度レベル特性を示した図である。ここでは、エリアA、エリアB内に高輝度の微小領域が生じた場合において、微小領域の場所に従った輝度信号レベルの特性を示す。
【0035】
従来方式として測光エリア毎に平均輝度レベルを算出する場合、輝度レベル状態(A)で示すように、高輝度の微小領域D(面積=サンプル数=d)がエリアA、エリアBに跨って存在する場合、輝度信号y1、y2のレベルはともにピーク値の半分近い値になる。したがって、高輝度情報がエリアA,エリアBに分散され、被写体像の明るさが適正に検出されない。
【0036】
α1=α2=1、β1=β2=0の場合、一度ピーク値の輝度レベルが図3に示す遅延メモリ98に入力されると、ピーク値の輝度信号が切換回路96、遅延メモリ98に繰り返し入力される。したがって、輝度レベル状態(B)で示すように、輝度信号y1、y2のレベルはピーク値で維持される。一方、α1=α2=β1=β2=0.5の場合、輝度レベル状態(C)で示すように、エリアA,エリアBとの境界付近において輝度信号y1、y2のレベルは、ピーク値を維持する。
【0037】
ここで、測光エリアに跨る高輝度の被写体に対し、エリアの境界を挟んで生じる輝度変動の変動許容率を輝度分解能に対応させた場合、すなわち、1ビット分の変動率(=1/256=0.4%)を変動許容率とした場合、サンプリング数nは以下の条件式を満たす。ただし、αk=βk=0.5とする。
y(n)=1−0.5^(n+1)>(1−1/256) ・・(6)
(6)式から、nは以下の条件式を満たす必要がある。
n>6.97 ・・(7)
nは自然数であることから、7以上のサンプル画素が必要となる。
【0038】
以上のように本実施形態によれば、αk、βkで表されるピーク検波特性をもつ第1〜第5検出回路71〜75が調光回路23に設けられており、被写体像全体領域AAの中において所定のサンプル画素に基づき、輝度信号のピーク値が検出される。増幅器92、93のαk、βkを被写体像に従って決定することができるため、高輝度の微小領域Dが分割されたエリアA〜E間に跨った場合においても、ピーク値が適正に検出される。
【0039】
絞りの開閉によって被写体像の明るさを調整する代わりに、直接光源の光強度を調整してもよい。あるいは、CCD54の電子シャッタ機能を利用して電荷蓄積時間を制御することにより被写体像の明るさを調整してもよい。
【0040】
次に、図6を用いて、第2の実施形態について説明する。図6は、第2の実施形態における調光回路23のブロック図である。
【0041】
図6に示すように、第2の実施形態では、全体平均ピーク検出器82’が調光回路23に設けられている。そして、各エリアA〜Eの重み付けされたピーク値が加算され、その平均値がピーク値として検出される。
【0042】
【発明の効果】
以上のように本発明によれば、高輝度の微小領域が複数に跨っても、被写体像の明るさを適正に検出することができる。
【図面の簡単な説明】
【図1】第1の実施形態である電子内視鏡装置のブロック図である。
【図2】調光回路のブロック図である。
【図3】測光エリアを示した図である。
【図4】第1検出器を示したブロック図である。
【図5】ピーク検波特性に従った輝度レベル特性を示した図である。
【図6】第2の実施形態における調光回路のブロック図である。
【符号の説明】
10 プロセッサ
12 ランプ(光源)
16 絞り
23 調光回路
50 ビデオスコープ
54 CCD(撮像素子)
71 第1検出器
72 第2検出器
73 第3検出器
74 第4検出器
75 第5検出器
92、93 増幅器
94 比較器
96 切換器
98 遅延メモリ
α1、β1 ゲイン
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an electronic endoscope apparatus including a video scope having an image sensor. In particular, the present invention relates to brightness adjustment for appropriately maintaining the brightness of a displayed subject image by adjusting the opening / closing of an aperture, an electronic shutter function, or the like.
[0002]
[Prior art]
In a conventional electronic endoscope apparatus, when an image signal corresponding to a subject image is read from an image sensor in a video scope, a luminance value indicating the brightness of the subject image (hereinafter referred to as a representative luminance value) is calculated. Then, based on the difference between the luminance value and the reference luminance value indicating appropriate brightness, for example, the amount of light applied to the observation region is adjusted by opening and closing the diaphragm. As a photometric method for calculating the luminance value, there are average photometry for obtaining the average brightness of the entire screen, and peak photometry using a relatively high luminance value in the entire screen as the brightness of the subject image. There is also known a divided photometry method that divides a displayed subject image and assigns an appropriate photometry method for each divided area (see, for example, Patent Documents 1, 2, and 3). In these divided metering methods, the luminance value obtained for each area is weighted and then added up to calculate the representative luminance value, or the luminance value obtained for each area is added up to obtain the average value. Or calculate.
[0003]
[Patent Document 1]
JP 2000-333901 A (FIG. 3)
[Patent Document 2]
Japanese Patent Laid-Open No. 2002-98913 (FIG. 5)
[Patent Document 3]
JP 2000-81577 A (FIG. 8)
[0004]
[Problems to be solved by the invention]
In the conventional photometry method, when a high-brightness minute region that generates so-called halation straddles a plurality of areas, high-brightness information is dispersed in each area.
[0005]
As a result, the high luminance information is not sufficiently reflected in the representative luminance value, the erroneous brightness of the subject image is detected, and appropriate brightness adjustment cannot be performed.
[0006]
Therefore, an object of the present invention is to obtain an electronic endoscope apparatus or the like that can appropriately detect the brightness of a subject image even when a high-luminance minute region extends over a plurality of areas.
[0007]
[Means for Solving the Problems]
An electronic endoscope apparatus according to the present invention includes a light source for illuminating a subject, and a video scope including an image sensor that reads an image signal based on reflected light from the illuminated subject. And a luminance signal detecting means for sequentially detecting luminance signals of pixels constituting the subject image based on an image signal read from the image sensor, and a plurality of areas defined by dividing the entire subject image. On the other hand, the peak metering means for performing peak metering based on a predetermined peak detection characteristic to calculate the peak value, and the brightness of the subject image based on each peak value calculated for each of a plurality of areas. A luminance value calculating unit that calculates a representative luminance value to be shown; and a brightness adjusting unit that adjusts the brightness of the subject image based on the representative luminance value. For example, the peak value of the entire subject image may be calculated after weighting each peak value, or the average value may be calculated by adding the peak values. The brightness adjusting means adjusts the brightness by opening / closing the aperture, adjusting the light intensity of the light source, or adjusting the electronic shutter speed, for example.
[0008]
For each area, a peak detection characteristic corresponding to the area is given, and a peak value is calculated according to the characteristic. Therefore, even when a high-brightness minute region is straddling between areas, high-brightness information is appropriately detected, and appropriate brightness adjustment of the subject image is performed.
[0009]
The peak photometric means may calculate the peak value according to the following formula representing the peak detection characteristics. At this time, α and β corresponding to the corresponding area are determined in advance.
y (n) = β × y (n−1) + α × x (n)
However, y (n) is a luminance signal output from the peak photometry means, x (n) is a luminance signal input to the peak photometry means, α is a gain value for the input luminance signal, and β is a previous luminance to be fed back. A gain value for the signal y (n-1), n indicates a sample pixel.
[0010]
The endoscopic subject image brightness detection apparatus according to the present invention is configured such that the luminance of pixels constituting a subject image is based on an image signal corresponding to the subject image read from an image sensor that receives reflected light from an illuminated subject. A peak for performing peak metering based on a predetermined peak detection characteristic to calculate a peak value for each of a plurality of areas defined by dividing the entire subject image and a luminance signal detecting means for sequentially detecting signals. It is characterized by comprising photometric means and luminance value calculating means for calculating a representative luminance value indicating the brightness of the subject image based on each peak value calculated for each of a plurality of areas.
[0011]
The endoscope subject image brightness detection method according to the present invention is based on an image signal corresponding to a subject image read from an image sensor that receives reflected light from an illuminated subject, and brightness of pixels constituting the subject image. For each of a plurality of areas defined by sequentially detecting signals and dividing the entire subject image, peak photometry is performed based on a predetermined peak detection characteristic to calculate a peak value. On the basis of the calculated peak values, a representative luminance value indicating the brightness of the subject image is calculated.
[0012]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0013]
FIG. 1 is a block diagram of an electronic endoscope apparatus according to the first embodiment. When examination, surgery, etc. are started, the video scope is inserted into the body.
[0014]
The electronic endoscope apparatus includes a video scope 50 having a CCD (Charge-Coupled Device) 54 and a processor 10 for processing a signal read from the CCD 54, and a monitor 32 and a keyboard 34 for displaying a subject image. Are connected to the processor 10. The video scope 50 is detachably connected to the processor 10.
[0015]
When a lamp power switch (not shown) is turned on, power is supplied from the lamp power source 11 including the lamp control circuit 11A to the lamp (light source for illumination) 12, and thereby light is emitted from the lamp 12. The light emitted from the lamp 12 enters the incident end 51 </ b> A of the light guide 51 provided in the video scope 50 through the condenser lens 14. The light guide 51 is a bundle of ultrafine optical fibers that transmits light emitted from the lamp 12 to the distal end portion 60 of the video scope 50 in the vicinity of the observation site S. The light that has passed through the light guide 51 is emitted from the emission end. The light is emitted from 51B. As a result, light is irradiated to the observation region S that is the subject through the light distribution lens 52 that is an illumination lens, and the observation region S is illuminated.
[0016]
The light reflected at the observation site S passes through the objective lens 53 and reaches the light receiving area of the CCD 54, whereby an optical image of the observation site S is formed in the light receiving area of the CCD 54. In the present embodiment, a simultaneous single plate type is applied as a color imaging method, and yellow (Ye), cyan (Cy), magenta (Mg), and green (G) color elements are checked on the light receiving surface of the CCD. Complementary color filters (not shown) arranged in a line are arranged so as to correspond to the respective pixel positions in the light receiving region. In the CCD 54, an image signal composed of a plurality of pixel signals corresponding to the color of light transmitted through each color element of the complementary color filter is generated by photoelectric conversion, and an image signal for one frame or one field is generated at predetermined time intervals. The color difference lines are sequentially read out in accordance with the sequential method. In the present embodiment, the NTSC system is applied as a color television system, and image signals for one frame (one field) are sequentially read out every 1/30 (1/60) second interval, and an initial signal processing circuit. 55.
[0017]
The initial signal processing circuit 55 includes a preamplifier, a sample hold circuit, an image memory, an image processing circuit (none of which are shown), and the image signal input to the initial signal processing circuit 55 After processing, it is converted into a digital image signal and temporarily stored in an image memory. The digital image signal read from the image memory is sent to the image processing circuit, subjected to processing such as white balance adjustment and gamma correction, and then sent to the processor signal processing circuit 28 of the processor 10. Also, a luminance signal that is a luminance component of the image signal input to the initial signal processing circuit 55 is generated, converted into a digital signal by an A / D converter (not shown), and then the dimming circuit 23 of the processor 10. Sent to. Here, in accordance with the NTSC system, a luminance signal for one frame is sequentially sent every 1/30 (1/60) second interval.
[0018]
In the processor signal processing circuit 28, predetermined processing is performed on the image signal sent from the initial signal processing circuit 55. The processed image signal is output to the monitor 32 as a video signal (video signal) such as an NTSC composite signal, a Y / C separation signal (so-called S video signal), or an RGB separation signal, whereby a subject image is displayed on the monitor 32. It is.
[0019]
The system control circuit 22 of the processor 10 includes a CPU 24, a ROM 25, and a RAM 26. The CPU 24 controls the entire processor 10, and each circuit such as a light control circuit 23, a lamp control circuit 11A, and a processor signal processing circuit 28. Output a control signal. In the timing control circuit 30, a clock pulse for adjusting a signal processing timing is output to each circuit in the processor 10, and a synchronization signal accompanying the video signal is sent to the processor signal processing circuit 28. The ROM 25 in the system control circuit 22 stores in advance a program for controlling the entire electronic endoscope apparatus.
[0020]
A diaphragm 16 that adjusts the amount of light applied to the subject S is provided between the incident end 51 </ b> A of the light guide 51 and the condenser lens 14, and opens and closes by driving the motor 18. In the present embodiment, the light control circuit 23 constituted by a DSP (Digital Signal Processor) controls the light amount adjustment of the light passing through the diaphragm 16, that is, the light applied to the subject S. The dimming circuit 23 transmits a control signal for adjusting the amount of light to the motor driver 20 based on the luminance signal sequentially sent from the video scope 50. The motor driver 20 transmits a drive signal to the motor 18 based on this control signal. As a result, the motor 18 is operated and the diaphragm 16 is driven so as to have a predetermined opening.
[0021]
In the video scope 50, a scope control unit 56 for controlling the entire video scope 50 and an EEPROM 57 in which data related to the video scope 50 are stored in advance are provided. The scope control unit 56 controls the initial signal processing circuit 55 and reads scope-related data from the EEPROM 57. When the video scope 50 is connected to the processor 10, data is transmitted and received between the scope control unit 56 and the system control circuit 22, and the data is sent to the system control circuit 22.
[0022]
The front panel 46 of the processor 10 is provided with a setting switch 46A for setting a reference luminance value Yr used as a standard in automatic light control. When the operator operates the switch, a signal corresponding to the operation is sent to the system control. It is sent to the circuit 22. The data of the reference luminance value Yr is temporarily stored in the RAM 26 and sent from the system control circuit 22 to the dimming circuit 23 as necessary.
[0023]
FIG. 2 is a schematic block diagram of the light control circuit 23, and FIG. 3 is a diagram showing a photometry area.
[0024]
As shown in FIG. 3, the entire area AA of the displayed subject image is divided into five photometric areas. Here, each photometric area is divided into area A, area B, area C, area D, and area. E. In the light control circuit 23, the first detector 71 to the fifth detector 75 detect the peak value of each photometric area, and the overall detector 82 detects the overall peak value (representative luminance value) for the entire subject image area AA. The However, the peak value and the luminance value of each pixel constituting the subject image are represented by luminance level values divided into 2 8 = 256 levels. The luminance value and the peak value of each pixel are any one of 0 to 255.
[0025]
As will be described later, each detection circuit has a peak detection characteristic corresponding to the corresponding photometry area, and a parameter for determining the peak characteristic is preset in each detection circuit, and the peak value is detected according to the parameter value. The The peak value output from each detection circuit is weighted by the weighting coefficient specific to each area in the weighting circuits 76 to 80 and sent to the whole peak detector 82. In the total peak detector 82, the peak value which is the maximum value among the five peak values is selected. The selected maximum peak value is compared with a preset reference peak value, and a control signal is transmitted to the motor driver 20 based on the difference information.
[0026]
FIG. 4 is a block diagram of the first detector 71 of FIG.
[0027]
The first detector 71 includes amplifiers 92 and 93, a comparator 94, a switch 96, and a delay memory 98. Luminance signals corresponding to the pixels in the area A area are sequentially input to the amplifier 92 and the comparator 94 by the number of samples in time series. The gains α 1 and β 1 that determine the peak characteristics of the amplifiers 92 and 93 satisfy the following relationship.
α 1 + β 1 = 1 (1)
[0028]
The luminance signal input to the first detector 71 is sent to the amplifier 92 and the comparator 94. The luminance signal input to the amplifier 92 is amplified by α 1 , stored in the delay memory 98, added to the previous luminance signal amplified by β 1 in the amplifier 93, and sent to the switch 96. Hereinafter, the input luminance signal is represented by x (n), and the luminance signal stored in the delay memory 98 is represented by an in-memory luminance signal y (n−1). Here, n indicates the number of samples (number of pixels to be sampled).
[0029]
On the other hand, the comparator 94 compares the luminance level of the input luminance signal x (n) with the luminance level of the luminance signal stored in the delay memory 98 when the previous luminance signal was input. When the luminance level of the in-memory luminance signal y (n−1) is higher than the luminance level of the input luminance signal x (n), an L (Low) signal is input to the switching circuit 96. The switching circuit 96 connects the contact S2 and the delay memory 98 according to the L signal. On the other hand, when the luminance level of the in-memory luminance signal y (n−1) is smaller than the luminance level of the input luminance signal x (n), an H (High) signal is sent to the switching circuit 96. The switching circuit 96 connects the contact S1 and the delay memory 98 according to the H signal.
[0030]
The luminance signal stored in the delay memory 98 is fed back to the switching circuit 96 and the amplifier 93 in accordance with the input timing of the reset pulse, and is sent to the whole peak detector 82 shown in FIG. When a new input luminance signal x (n + 1) is input to the first detector 71, the comparator 94 determines the luminance level of the input luminance signal x (n + 1) and the luminance level of the in-memory luminance signal y (n). Are compared. As long as the luminance level of the newly input luminance signal does not become higher than the luminance level of the luminance signal stored in the delay memory 98, the luminance signal stored in the delay memory 98 is continuously output to the overall peak detector 82.
[0031]
The second detection circuit 72 to the fifth detection circuit 75 are also configured in the same manner as the first detection circuit 71. In each circuit, the gains α k and β k corresponding to the area (k = 2 to 5) are set. It has been established.
[0032]
Here, when the input luminance signal x (n) is larger than the in-memory luminance signal y (n−1) with respect to the peak detection characteristic of the luminance signal, the luminance signal stored in the delay memory 98 is y (n). y (n) is based on the input luminance signal x (n) and the in-memory luminance signal y (n−1), and follows the following difference equation.
y (n) = [beta] k * y (n-1) + [alpha] k * x (n) (2)
When the equation (1) is solved, y (n) is expressed by an exponential function shown in the following equation. However, β k ^ n represents β k n .
y (n) = α k β k / (β k −1) × β k ^ n
+ Α k / (1−β k ) × 1 (3)
Similarly to the equation (1), α k and β k (k = 1 to 5) satisfy the following relationship.
α k + β k = 1 (4)
[0033]
The gains α k and β k are respectively set to appropriate values based on the subject (observation site) or the location of the corresponding photometric area. Preferably, after determining the minimum area in the entire subject image area AA, that is, the number of samples n, α k and β k are determined for each area. For example, when α k = β k = 0.5, the luminance signal y (n) is expressed by the following equation.
y (n) = 1-0.5 ^ (n + 1) (5)
[0034]
FIG. 5 is a diagram showing the luminance level characteristic of the luminance signal y (n) stored in the delay memory 98. Here, when a high-brightness minute region is generated in area A and area B, the characteristic of the luminance signal level according to the location of the minute region is shown.
[0035]
When the average brightness level is calculated for each photometric area as a conventional method, a high brightness minute area D (area = number of samples = d) exists across area A and area B as shown in the brightness level state (A). In this case, the levels of the luminance signals y1 and y2 are both close to half the peak value. Therefore, the high luminance information is dispersed in area A and area B, and the brightness of the subject image is not properly detected.
[0036]
When α 1 = α 2 = 1 and β 1 = β 2 = 0, once the luminance value of the peak value is input to the delay memory 98 shown in FIG. 3, the luminance signal of the peak value is switched to the switching circuit 96 and the delay memory. 98 is repeatedly input. Therefore, as shown in the luminance level state (B), the levels of the luminance signals y1 and y2 are maintained at the peak values. On the other hand, when α 1 = α 2 = β 1 = β 2 = 0.5, as shown in the luminance level state (C), the levels of the luminance signals y1 and y2 near the boundary between the areas A and B are Maintain peak value.
[0037]
Here, for a high-brightness subject straddling the photometric area, when the fluctuation tolerance of the luminance fluctuation generated across the boundary of the area is made to correspond to the luminance resolution, that is, the fluctuation rate for 1 bit (= 1/256 = 0.4%) is assumed to be a variation allowable rate, the sampling number n satisfies the following conditional expression. However, α k = β k = 0.5.
y (n) = 1-0.5 ^ (n + 1)> (1-1 / 256) (6)
From equation (6), n must satisfy the following conditional expression.
n> 6.97 (7)
Since n is a natural number, 7 or more sample pixels are required.
[0038]
As described above, according to the present embodiment, the first to fifth detection circuits 71 to 75 having the peak detection characteristics represented by α k and β k are provided in the dimming circuit 23, and the entire subject image region A peak value of the luminance signal is detected based on a predetermined sample pixel in AA. Since α k and β k of the amplifiers 92 and 93 can be determined according to the subject image, the peak value is properly detected even when the high-intensity minute region D straddles between the divided areas A to E. The
[0039]
Instead of adjusting the brightness of the subject image by opening and closing the aperture, the light intensity of the light source may be directly adjusted. Alternatively, the brightness of the subject image may be adjusted by controlling the charge accumulation time using the electronic shutter function of the CCD 54.
[0040]
Next, a second embodiment will be described with reference to FIG. FIG. 6 is a block diagram of the dimming circuit 23 in the second embodiment.
[0041]
As shown in FIG. 6, in the second embodiment, an overall average peak detector 82 ′ is provided in the dimming circuit 23. Then, the weighted peak values of the areas A to E are added, and the average value is detected as the peak value.
[0042]
【The invention's effect】
As described above, according to the present invention, it is possible to appropriately detect the brightness of a subject image even when a plurality of high-brightness micro-regions span a plurality.
[Brief description of the drawings]
FIG. 1 is a block diagram of an electronic endoscope apparatus according to a first embodiment.
FIG. 2 is a block diagram of a dimming circuit.
FIG. 3 is a diagram showing a photometric area.
FIG. 4 is a block diagram showing a first detector.
FIG. 5 is a diagram showing a luminance level characteristic according to a peak detection characteristic.
FIG. 6 is a block diagram of a dimming circuit according to a second embodiment.
[Explanation of symbols]
10 Processor 12 Lamp (light source)
16 Aperture 23 Light control circuit 50 Video scope 54 CCD (image sensor)
71 first detector 72 second detector 73 third detector 74 fourth detector 75 fifth detector 92, 93 amplifier 94 comparator 96 switch 98 delay memory α 1 , β 1 gain

Claims (3)

被写体を照明するための光源と、照明された被写体からの反射光に基づいた画像信号が読み出される撮像素子を有するビデオスコープとを備えた電子内視鏡装置であって、
前記撮像素子から読み出される画像信号に基づいて、被写体像を構成する画素の輝度信号を順次検出する輝度信号検出手段と、
被写体像全体を分割することにより規定される複数のエリアそれぞれに対し、ピーク値を算出するために所定のピーク検波特性に基づいてピーク測光を実行するピーク測光手段と、
前記複数のエリアそれぞれに対して算出された各ピーク値に基づいて、被写体像の明るさを示す代表輝度値を算出する輝度値算出手段と、
前記代表輝度値に基づいて、被写体像の明るさを調整する明るさ調整手段とを備え
前記ピーク測光手段が、以下の式のα、βにより特徴付けられるピーク検波特性に従ってピーク値を算出し、対応するエリアに従ってα、βの値があらかじめ定められていることを特徴とする電子内視鏡装置。
y(n)=β×y(n−1)+α×x(n)
ただし、y(n)は前記ピーク測光手段から出力される輝度信号、x(n)は前記ピーク測光手段に入力される輝度信号、αは入力される輝度信号に対するゲイン値、βはフィードバックされる前回輝度信号y(n−1)に対するゲイン値、nはサンプル画素を示す。
An electronic endoscope apparatus comprising: a light source for illuminating a subject; and a video scope having an image sensor that reads an image signal based on reflected light from the illuminated subject,
Luminance signal detection means for sequentially detecting the luminance signals of the pixels constituting the subject image based on the image signal read from the image sensor;
Peak metering means for performing peak metering based on a predetermined peak detection characteristic for calculating a peak value for each of a plurality of areas defined by dividing the entire subject image;
Luminance value calculating means for calculating a representative luminance value indicating the brightness of the subject image based on each peak value calculated for each of the plurality of areas;
Brightness adjusting means for adjusting the brightness of the subject image based on the representative brightness value ;
An electronic endoscope characterized in that the peak photometric means calculates a peak value according to a peak detection characteristic characterized by α and β in the following equations, and values of α and β are determined in advance according to a corresponding area. Mirror device.
y (n) = β × y (n−1) + α × x (n)
However, y (n) is a luminance signal output from the peak photometry means, x (n) is a luminance signal input to the peak photometry means, α is a gain value for the input luminance signal, and β is fed back. A gain value for the previous luminance signal y (n-1), n indicates a sample pixel.
照明された被写体からの反射光を受光する撮像素子から読み出される被写体像に応じた画像信号に基づいて、被写体像を構成する画素の輝度信号を順次検出する輝度信号検出手段と、
被写体像全体を分割することにより規定される複数のエリアそれぞれに対し、ピーク値を算出するために所定のピーク検波特性に基づいてピーク測光を実行するピーク測光手段と、
前記複数のエリアそれぞれに対して算出された各ピーク値に基づいて、被写体像の明るさを示す代表輝度値を算出する輝度値算出手段とを備え
前記ピーク測光手段が、以下の式のα、βにより特徴付けられるピーク検波特性に従ってピーク値を算出し、対応するエリアに従ってα、βの値があらかじめ定められていることを特徴とする内視鏡用被写体像明るさ検出装置。
y(n)=β×y(n−1)+α×x(n)
ただし、y(n)は前記ピーク測光手段から出力される輝度信号、x(n)は前記ピーク測光手段に入力される輝度信号、αは入力される輝度信号に対するゲイン値、βはフィードバックされる前回輝度信号y(n−1)に対するゲイン値、nはサンプル画素を示す。
A luminance signal detecting means for sequentially detecting luminance signals of pixels constituting the subject image based on an image signal corresponding to the subject image read from the image sensor that receives reflected light from the illuminated subject;
Peak metering means for performing peak metering based on a predetermined peak detection characteristic for calculating a peak value for each of a plurality of areas defined by dividing the entire subject image;
A luminance value calculating means for calculating a representative luminance value indicating the brightness of the subject image based on each peak value calculated for each of the plurality of areas ;
Endoscope characterized in that the peak photometric means calculates peak values according to peak detection characteristics characterized by α and β in the following formulas, and α and β values are determined in advance according to corresponding areas. Subject image brightness detection device.
y (n) = β × y (n−1) + α × x (n)
However, y (n) is a luminance signal output from the peak photometry means, x (n) is a luminance signal input to the peak photometry means, α is a gain value for the input luminance signal, and β is fed back. A gain value for the previous luminance signal y (n-1), n indicates a sample pixel.
照明された被写体からの反射光を受光する撮像素子から読み出される被写体像に応じた画像信号に基づいて、被写体像を構成する画素の輝度信号を順次検出し、
被写体像全体を分割することにより規定される複数のエリアそれぞれに対し、ピーク値を算出するために所定のピーク検波特性に基づいてピーク測光を実行し、
前記複数のエリアそれぞれに対して算出された各ピーク値に基づいて、被写体像の明るさを示す代表輝度値を算出し、
以下の式のα、βにより特徴付けられるピーク検波特性に従ってピーク値を算出し、対応するエリアに従ってα、βの値があらかじめ定められていることを特徴とする内視鏡用被写体像明るさ検出方法。
y(n)=β×y(n−1)+α×x(n)
ただし、y(n)は前記ピーク測光手段から出力される輝度信号、x(n)は前記ピーク測光手段に入力される輝度信号、αは入力される輝度信号に対するゲイン値、βはフィードバックされる前回輝度信号y(n−1)に対するゲイン値、nはサンプル画素を示す。
Based on the image signal corresponding to the subject image read from the image sensor that receives the reflected light from the illuminated subject, the luminance signal of the pixels constituting the subject image is sequentially detected,
For each of a plurality of areas defined by dividing the entire subject image, execute peak metering based on a predetermined peak detection characteristic to calculate a peak value,
Based on each peak value calculated for each of the plurality of areas, a representative luminance value indicating the brightness of the subject image is calculated ,
Endoscopic object image brightness detection characterized in that peak values are calculated according to the peak detection characteristics characterized by α and β in the following equations, and α and β values are predetermined according to the corresponding areas. Method.
y (n) = β × y (n−1) + α × x (n)
However, y (n) is a luminance signal output from the peak photometry means, x (n) is a luminance signal input to the peak photometry means, α is a gain value for the input luminance signal, and β is fed back. A gain value for the previous luminance signal y (n-1), n indicates a sample pixel.
JP2003190921A 2003-07-03 2003-07-03 Electronic endoscope device capable of split photometry Expired - Lifetime JP4426220B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003190921A JP4426220B2 (en) 2003-07-03 2003-07-03 Electronic endoscope device capable of split photometry

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003190921A JP4426220B2 (en) 2003-07-03 2003-07-03 Electronic endoscope device capable of split photometry

Publications (2)

Publication Number Publication Date
JP2005021423A JP2005021423A (en) 2005-01-27
JP4426220B2 true JP4426220B2 (en) 2010-03-03

Family

ID=34188661

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003190921A Expired - Lifetime JP4426220B2 (en) 2003-07-03 2003-07-03 Electronic endoscope device capable of split photometry

Country Status (1)

Country Link
JP (1) JP4426220B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5467756B2 (en) 2008-11-14 2014-04-09 Hoya株式会社 Endoscope device
EP2599434B1 (en) 2010-07-26 2017-05-10 Olympus Corporation Endoscope apparatus and control method for endoscope apparatus

Also Published As

Publication number Publication date
JP2005021423A (en) 2005-01-27

Similar Documents

Publication Publication Date Title
US7623150B2 (en) Electronic endoscope
JP4390440B2 (en) Automatic dimming device for endoscope and electronic endoscope device
JP4338337B2 (en) Electronic endoscope apparatus for performing color adjustment processing and video scope of electronic endoscope apparatus
JP5288775B2 (en) Endoscope device
JP4223778B2 (en) Automatic dimming device for endoscope and electronic endoscope device
JP2996373B2 (en) Electronic endoscope device
JP6000133B2 (en) Imaging apparatus, imaging system, and imaging method
JP2007215907A (en) Endoscope processor, endoscopic system and black balance adjustment program
JP5653163B2 (en) Endoscope device
JP4426220B2 (en) Electronic endoscope device capable of split photometry
JP4459506B2 (en) Automatic dimming device for endoscope and electronic endoscope device
JP4663448B2 (en) Endoscope signal processing apparatus and electronic endoscope apparatus operating method
JP2001154232A (en) Photometric device
JP3940016B2 (en) Electronic endoscope device capable of recording still images
JP2002263064A (en) Automatic dimmer for endoscope and processor of electronic endoscope apparatus containing the same
JP4024632B2 (en) Electronic endoscope device capable of recording still images
JP4464083B2 (en) Electronic endoscope device
JP4786875B2 (en) Videoscope of electronic endoscope device capable of brightness adjustment processing
JP4566703B2 (en) Electronic endoscope device
JP4555056B2 (en) Electronic endoscope device
JP2014023828A (en) Endoscope apparatus
JP4502666B2 (en) Videoscope of electronic endoscope device capable of brightness adjustment processing
JP2008219712A (en) Camera
JP3898973B2 (en) Electronic endoscope device capable of recording still images
JP4503931B2 (en) Electronic endoscope device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060531

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080501

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091124

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091210

R150 Certificate of patent or registration of utility model

Ref document number: 4426220

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term