JP2006149483A - 電子内視鏡装置及び色ずれ補正装置 - Google Patents

電子内視鏡装置及び色ずれ補正装置 Download PDF

Info

Publication number
JP2006149483A
JP2006149483A JP2004341258A JP2004341258A JP2006149483A JP 2006149483 A JP2006149483 A JP 2006149483A JP 2004341258 A JP2004341258 A JP 2004341258A JP 2004341258 A JP2004341258 A JP 2004341258A JP 2006149483 A JP2006149483 A JP 2006149483A
Authority
JP
Japan
Prior art keywords
color
image
signal
difference value
circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004341258A
Other languages
English (en)
Other versions
JP4632761B2 (ja
Inventor
Susumu Kawada
晋 川田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004341258A priority Critical patent/JP4632761B2/ja
Publication of JP2006149483A publication Critical patent/JP2006149483A/ja
Application granted granted Critical
Publication of JP4632761B2 publication Critical patent/JP4632761B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

【課題】色画像の属性情報に基づいて色ずれの判定に用いる閾値を調整することで色ずれの誤検出を防止し、各色画像間のぶれを適正に補正することができる電子内視鏡装置及び色ずれ補正装置を提供する。
【解決手段】CCD12から出力される面順次の色信号を、それぞれを合成することで1つの画像を形成する色画像を生成する色信号別に記憶する同時化メモリ23と、色ずれによる色画像のぶれを補正するぶれ補正処理回路28を備えた静止画処理回路24とを備えている。ぶれ補正処理回路28では、色画像を構成する画素について隣接画素との間で算出した差分値が、閾値調整手段によって調整された色ずれの検出基準となる閾値以上である場合に色ずれを検出し、色画像における色ずれ量を算出する。更に、一の色画像を他の色画像に対してシフトさせて色ずれ量が最小となる画像を特定し、静止画像として出力する。
【選択図】図1

Description

本発明は、異なる波長の複数の照明光で順次照明された被写体を撮像手段によって面順次撮像し、撮像手段から出力される各色の画像信号間に生ずる色ずれを検出して補正することによって、色ずれの少ない画像を表示することができる電子内視鏡装置及び色ずれ補正装置に関する。
近年、医療分野で内視鏡が広く用いられるようになっている。最近では、光学式内視鏡の接眼部に撮像手段を備えたテレビカメラを装着したテレビカメラ外付け内視鏡や、先端部に固体撮像素子等の撮像手段を内蔵した電子内視鏡などによって撮像された、被写体の画像をモニタに表示する電子内視鏡装置も普及しつつある。例えば、モニタと組み合わされた電子内視鏡装置を用いると、検査を開始してから速やかに、体腔内の内視鏡画像をモニタに映し出して観察することが可能となるため、検査しながらにして病変部位などを早期に発見し、迅速に処置することができる。
電子内視鏡装置は、光源装置から発生される照明光が、電子内視鏡内のライトガイドを介して電子内視鏡先端から射出されて、被写体となる体腔内の病変部を照明する。照明された被写体の像は、電子内視鏡の先端部に内蔵されている電荷結合素子(以下、CCDという)などの固体撮像素子によって撮像される。被写体の像が撮像されて生成された撮像信号は、電子内視鏡に接続されるビデオプロセッサなどの画像処理装置において信号処理され、NTSCやPALといった標準TV方式の映像信号に変換されてモニタに出力される。
被写体像をカラーで表示する電子内視鏡装置の照明方式として、面順次方式と同時方式がある。面順次方式の照明方式を用いた場合、画素数が少ない場合にも解像度が比較的高くて色再現性に優れているため、微妙な色の変化を観察する必要がある医療分野では、面順次方式の電子内視鏡装置が広く用いられている。面順次方式の電子内視鏡装置では、光源装置内のランプから射出された照明光の光路上に、例えば赤色(R)、緑色(G)、青色(B)と、それぞれ異なる色波長域の光を透過させる三つの色透過フィルタが配置されている開口部を有し、開口部以外は遮光部となっている回転フィルタが挿入されており、回転フィルタが回転されることで、照明光が間欠的に遮断されて各色光が順次に被写体に照射される。そして、電子内視鏡先端に配置されたCCDで、各色毎に得られた被写体の像が時系列的に撮像される。このときCCDでは、回転フィルタの回転タイミングにあわせて露光と遮光とが行われる。CCDの露光期間中にCCDの全ての画素に新たな電荷が蓄えられ、照明光の遮断時であるCCDの遮光期間中に、蓄えられた全ての電荷が読み出される。この電荷の蓄積と読み出しの動作が繰り返されて、CCDで撮像されて生成された撮像信号がビデオプロセッサ内の患者回路に入力される。
患者回路へ入力された撮像信号は、プリアンプ回路を経てCDS回路に入力され、ノイズが除去されてベースバンド化された後、A/D変換回路でアナログ信号からデジタル信号へと変換される。撮像信号から変換され、デジタル化された映像信号は、フォトカプラなどの絶縁回路を通して二次回路へ出力され、OBクランプ処理、ホワイトバランス処理、γ補正処理などの前処理が施される。これらの前処理に引き続いて、拡大処理、強調処理、及び同時化処理といった各種の信号処理が施された後、D/A変換回路でアナログ信号に変換される。アナログ化された映像信号は、後処理部に出力されてゲイン調整などが施された後に、75Ωドライブ回路によってモニタ等の外部接続機器へ出力される。
上述のように、面順次の照明方式によって被写体像をカラー表示する電子内視鏡装置においては、例えばR、G及びBの三つの色透過フィルタが配置された回転フィルタを回転させて、R、G及びBの各色光を順次に被写体に照射し、各色毎の被写体の像をCCDにおいて時系列に撮像している。このため、従来は、面順次方式でCCDを駆動する場合においては、R、G及びBの各色の画像信号は時系列的に取り込まれることから、被写体と撮像側とのいずれか一方、又は双方が撮影中に動くと、これらの各色の画像信号を重ね合わせた時に静止画として表示する場合には色ずれが発生してしまう。
色ずれなどの画像劣化の少ない静止画を得るために、被写体や撮像側の動きを検出する回路(例えば、特許文献1参照)や、色ずれを検出する装置(例えば、特許文献2参照)が提案されている。特許文献1に記載された提案は、面順次に撮像された各画像について、各画像の範囲内で特定の領域を設定し、設定された領域に基づいて静止画メモリに記憶された各色画像間の色ずれ情報を得ることで、被写体や撮像側の動きを検出するものである。また、特許文献2に記載された提案は、面順次に撮像された各画像について、各画像の範囲内で特定の領域を設定し、設定された領域に基づいて静止画メモリに記憶された各色画像間の色ずれ情報を得ることで、同時化メモリから出力される各色画像を上下左右方向へ移動させて、静止された画像間の色ずれ量を最小とするようにぶれ補正を行うものであり、特に、CCDの画素数の違いや静止画時の拡大率の違いによる色ずれや、被写体が一定の明るさ以上の場合の色ずれを適正に補正するものである。
特許第2828105号公報(図1) 特開2001−169300号公報(図1)
しかしながら、これらの提案においては、G画像の信号波形の輝度レベルと、R画像(またはB画像)の信号波形の輝度レベルとの差分値を算出し、差分値に応じて色ずれ度数を積算しており、例えば映像信号レベルを10bitとした場合に、G画像とR画像(またはB画像)との差分がわずか1bitしかなくとも色ずれであると判定するため、CCDで撮像する際に各画像に生ずるノイズ成分も色ずれと検出してしまう。従って、多少のノイズはあるが色ずれはない画像も、色ずれがあるものとして検出されてしまうという問題があった。また、画像が明るくなると、各色画像間の差分が大きくなる傾向があり、かつ、ノイズ成分が多く含まれるようになるため、画像が明るくなればなるほど、本来色ずれではない画像を色ずれが生じていると誤検出する確率が高くなってしまうという問題があった。
そこで、本発明においては、色画像の属性情報に基づいて色ずれの判定に用いる閾値を調整することで色ずれの誤検出を防止し、各色画像間のぶれを適正に補正することができる電子内視鏡装置及び色ずれ補正装置を提供することを目的とする。
本発明の内視鏡用画像処理装置は、被写体の体腔内を面順次に撮像して撮像信号を生成する撮像手段を備えた電子内視鏡と、前記電子内視鏡に着脱自在に接続されて前記撮像信号を映像信号に変換処理する信号処理装置と、前記信号処理装置と着脱自在に接続されて前記映像信号を表示する映像表示装置とを備えた電子内視鏡装置において、前記信号処理装置は、前記面順次の撮像信号を、それぞれを合成することで1つの画像を形成するための複数の色画像を色信号別に記憶する記憶手段と、前記複数の色画像間の色ずれの検出基準となる閾値を調整する閾値調整手段と、前記複数の色画像のそれぞれに対し、前記色画像を構成する複数の画素における隣接画素との差分値を算出し、前記差分値と前記閾値とを比較して差分値を調整する差分値算出調整手段と、前記調整された差分値から前記複数の色画像間の色ずれ量を算出する色ずれ算出手段と、前記色ずれ量が最小となるように、前記複数の色画像の中の少なくとも1の色画像を他の色画像に対して上下左右方向にシフトさせる画像移動手段とを備えている。
色画像の属性情報に基づいて色ずれの判定に用いる閾値を調整することで色ずれの誤検出を防止し、各色画像間のぶれを適正に補正することができる電子内視鏡装置及び色ずれ補正装置を実現することができる。
以下、図面を参照して本発明の実施の形態を説明する。
(第1の実施の形態)
まず、図1に基づき、本発明の第1の実施の形態に係わる電子内視鏡装置1の全体構成について説明する。図1は、本実施の形態に係わる電子内視鏡装置1の全体構成を説明するブロック図である。図1に示すように、本実施の形態の電子内視鏡装置1は、撮像手段を備えた電子内視鏡2と、信号処理装置としてのビデオプロセッサ3と、電子内視鏡2に照明光を供給する光源装置4と、ビデオプロセッサ3から出力される映像信号を表示する、映像表示装置としてのモニタ5とから構成されている。
電子内視鏡2の本体は、操作部6と、操作部6の先端側に連設された細長で例えば可動性を有する挿入部7と、操作部6の側部から延出し、基端側が二股に分岐した、可撓性を有するケーブル8とから構成されており、この本体に内視鏡の機能が組み込まれている。ケーブル8の分岐した基端部にはそれぞれコネクタ9、10が設けられており、ケーブル8は、コネクタ9を介してビデオプロセッサ3と、コネクタ10を介して光源装置4と接続されている。挿入部7の先端には、対物レンズ11と、固体撮像素子としてのCCD12とが取り付けられており、CCD12は対物レンズ11の結像位置に配置されている。CCD12の基端側から駆動信号線13と出力信号線14とが延出し、この駆動信号線13と出力信号線14とは、挿入部7、操作部6、ケーブル8内を挿通し、コネクタ9を介してビデオプロセッサ3に接続されている。また、電子内視鏡2には、挿入部7の先端まで照明光を伝達するガラスファイバ束であるライトガイド15が配置され、このライトガイド15は、挿入部7、操作部6、ケーブル8内を挿通し、コネクタ10を介して光源装置4に接続されている。光源装置4から出射される照明光が、ライトガイド15の入射端に入射されるようになっている。
光源装置4は、白色光を発生する光源ランプ16と、赤(R)、緑(G)及び青(B)の三原色の色透過フィルタを有し、モータ17によって駆動される回転フィルタ18とを備えている。光源ランプ16から射出された白色光は、その光路中に配置された回転フィルタ18を透過して、順次、R、G及びBの各波長の照明光になされた後、集光レンズ19によって集光され、ライトガイド15の入射端に入射される。ライトガイド15の先端より出射されたR、G及びBの各照明光により被写体から反射した光は、対物レンズ11を透過してCCD12の撮像面に結像され、光電変換されて光学像から撮像信号へ変換される。回転フィルタ18は、回転フィルタ駆動回路20によって駆動され、通常は20Hzで回転している。CCD12での露光と遮光とは回転フィルタ18の回転に合わせて行われるよう制御されており、例えば上述のように、回転フィルタ18が20Hzで回転している場合、各色毎に1/60Hzのタイミングで露光と遮光とが繰り返されている。
色ずれ補正装置としてのビデオプロセッサ3には、CCD12に対して駆動信号を出力する駆動回路21が設けられている。また、ビデオプロセッサ3には、CCD12で撮像された信号を処理する各種処理機構として、前処理回路22と、同時化メモリ23、27と、静止画処理回路24と、拡大縮小回路25と、強調回路26とが設けられている。CCD12で撮像された撮像信号は、コネクタ9を経由して前処理回路22へ出力される。前処理回路22は、プリアンプ回路、CDS回路、A/D変換回路、絶縁回路、OBクランプ回路、オートゲインコントロール(AGC)回路、ホワイトバランス処理回路の図示しない各回路を有している。前処理回路22に入力された撮像信号は、プリアンプ回路を経て、CDS回路で相関二重サンプリングを行いノイズが除去されてベースバンド化された後、A/D変換回路でアナログ信号からデジタル信号へと変換される。撮像信号から変換されてデジタル化された映像信号は、フォトカプラなどの絶縁回路を通してOBクランプ回路へ出力され、オプティカルブラック(OB)部がクランプ処理された後、AGC回路で信号のレベルが適正なレベルになるようにゲインが自動制御され、ホワイトバランス回路に出力される。ホワイトバランス回路に入力された信号は、ホワイトバランス調整、すなわち、光学系の透過特性などの機材ばらつき(機種による差や個体差を含む)から生じた色調のばらつきを補正するために、基準となる白の被写体を撮像した場合にR、G及びBの各色信号のレベルが等しくなるように、各色信号に対してゲイン調整がなされ、前処理回路22での各種処理を終了する。前処理回路22での処理によって、変換及び調整された、R、G及びBの各色成分の面順次デジタル映像信号は、時系列的に記憶手段としての同時化メモリ23へ書き込まれ、読み出されるときに同時化される。
R、G及びBのそれぞれの信号に対して静止画指示がなされている場合、同時化メモリ23から静止画処理回路24へ、同時化された映像信号が出力される。静止画像生成手段としての静止画処理回路24は、同時化メモリ23から出力された映像信号を静止画処理する回路であり、R、G及びBの各色画像間の色ずれを軽減させる、ぶれ補正処理回路28を備えている。ぶれ補正処理回路28は、事前に設定された条件に従って機能するように制御されている。同時化メモリ23から出力された映像信号、もしくは静止画処理回路24で静止画処理された映像信号は、図示しない面順次回路によって再度面順次化され、後段の図示しない色調調整回路で色調が調整された後に、図示しないγ補正回路でγ補正される。γ補正された映像信号は、拡大縮小回路25に出力されて、表示される画像の大きさを観察者の任意の大きさに調整すべく、電子拡大もしくは電子縮小処理が行われ、強調回路26へ出力される。強調回路26では、映像信号に対して構造強調や輪郭強調などの強調処理が行われる。強調回路26から出力されたR、G及びBの各色成分の面順次デジタル映像信号は、時系列的に同時化メモリ27へ書き込まれ、読み出されるときに同時化される。
同時化メモリ27から出力された同時化された映像信号は、セレクタ回路29に入力される。セレクタ回路29では、CPU30で生成された文字や画像マスク信号を映像信号に重畳してD/A変換回路31へ出力する。また、セレクタ回路29では、D/A変換回路31へ出力する信号を、映像信号から、CPU30より出力されるメニュー画面やカラーバーなどのテスト画面の信号へ切り替える操作も行われる。D/A変換回路31では、デジタルの映像信号がアナログのR、G及びB信号に変換されて後処理回路32へ出力される。後処理回路32の図示しない回路において、R、G及びB信号は、例えば、内視鏡形状検出装置から入力される画像と合成されたり、ファイリング装置の画像と切り替えられたりといった、図示しない外部機器からの入力画像との合成や切り替え処理がなされる。処理されたR、G及びB信号は、引き続きゲイン調整などが行われた後、図示しない75Ωドライブ回路を通して、モニタ5や図示しない外部記録機器などに出力される。
CPU30は、ビデオプロセッサ3内の各回路と制御線で電気的に接続されており、図示しないキーボードを操作することによって、セレクタ回路29において映像信号に重畳される、文字や画像マスク信号を生成したり、メニュー画面やテスト画面への切り替えを行ったりする。CPU30は、セレクタ回路29を制御する他にも、前処理回路22を制御して上述した処理を実行させたり、同期信号発生回路(SSG回路)33やD/A変換回路31に対して制御信号を出力して同期信号や映像信号の出力を制御したりしている。
SSG回路33は、前処理回路22や同時化メモリ23、27において適切な信号処理が行われるように、これらに対してクロック信号(CLK信号)や内部同期信号を出力している。また、SSG回路33は、標準TV方式に則った外部同期信号を生成して、同時化メモリ27やセレクタ回路29の信号処理等も行っている。尚、本実施の形態においては、フィールド周波数59.94Hz(もしくは60Hz)で走査線数が525本のインターレース方式であるNTSC方式、あるいはフィールド周波数50Hzで走査線数が625本のインターレース方式であるPAL方式のいずれかの方式に則った外部同期信号がSSG回路33から出力されている。更に、SSG回路33は、回転フィルタ18の回転周期に同期してCCD12の露光と遮光とが繰り返し行われるように、CCD12を駆動させる駆動回路21と、回転フィルタ駆動回路20とに対して同期信号を出力している。SSG回路33から出力される同期信号に従って、回転フィルタ18が遮光されるタイミングに合わせて、画素データである撮像信号がCCD12から読み出される。
光源ランプ16から出射された照明光の光路上に挿入された回転フィルタ18が、回転フィルタ駆動回路20によって回転させられることにより、照明光が間欠的に遮断される。回転フィルタ18を照明光が透過するタイミングで被写体が照射され、CCD12は露光状態になされる。また、回転フィルタ18で照明光が遮断されるタイミングで、CCD12は遮光状態になされる。CCD12では、露光状態にあるときに画素に電荷が蓄積され、遮光状態にあるときに蓄積された全ての電荷が読み出される。すなわち、SSG回路33から出力される同期信号により、この電荷の蓄積と読み出しの動作が回転フィルタ18の回転タイミングに合わせて繰り返し行われ、CCD12で撮像された撮像信号がビデオプロセッサ3に出力されて画像処理される。
次に、静止画処理回路24に設けられた、R、G及びBの各色画像間の色ずれを軽減させるぶれ補正処理回路28の構成について、図2を用いて説明する。図2は、ぶれ補正処理回路28の構成を説明するブロック図である。R、G及びBの各色画像間の色ずれは、水平(H)方向に色ずれする場合と、垂直(V)方向に色ずれする場合とがあるが、ここではまず、水平(方向)の色ずれを検出する場合を例にあげて説明する。尚、本実施の形態においては、ぶれ補正処理回路28に入力される映像信号は10bit階調で処理される。
同時化メモリ23から出力されたR、G及びB信号は、それぞれ入力端子41、42、43に入力される。入力端子41に入力されたR信号は、そのまま比較回路44に出力されると共に、1クロック(1CK)遅延回路45にも出力される。1CK遅延回路45では、入力されたR信号が1クロック遅延されて、比較回路44へ出力される。比較回路44では、入力端子41から入力された信号と、1CK遅延回路45から入力された信号との差分であるΔRが算出される。比較回路44への入力信号をR、R´とすると、これらの比較結果であるΔRを、R>R´、R=R´、R<R´の3通りの何れかに分類する3値処理が行われて、3値化信号として出力される。
ここで、ぶれ補正処理回路28には、G画像における個々の画素の輝度レベルを検出する、閾値調整手段としての輝度レベル検出回路28aが設けられている。輝度レベル検出回路28aでは、ビデオプロセッサ3に接続される電子内視鏡2に応じて設定された、ぶれ補正領域内の画素についてその属性値である輝度レベルが検出され、検出結果に基づいて、差分値算出調整手段としての比較回路44、46、48における差分演算に用いる閾値が設定される。閾値は、例えば図3に示すように、画素の輝度レベルに応じて5段階に設定されている。図3は、輝度レベルと閾値との関係を説明する図である。ぶれ補正処理回路28に入力される映像信号が10bit階調で処理される場合、画素の輝度レベルは0〜1023のいずれかの値をとる。輝度レベルを図3に示すように、0〜63、64〜127、128〜255、256〜511、512〜1023の5段階に区分し、検出対象画素の輝度レベルが0〜63場合は閾値が2に、64〜127の場合は閾値が4に、128〜255の場合は閾値が8に、256〜511の場合は閾値が16に、512〜1023の場合は閾値が32に設定される。尚、輝度レベルの区分は、図3に示す5段階に限定されるものではなく、例えば接続される電子内視鏡2に応じて異なる区分を設定してもよい。
すなわち、輝度レベル検出回路28aでは、比較回路44、46、48において差分演算が行われる前に、差分演算の対象である隣接する二つの画素の輝度レベルを検出し、差分演算の閾値を設定する。比較回路44、46、48では、差分演算を行った後に、算出された差分値と輝度レベル検出回路28aによって設定された閾値とを比較し、差分値が閾値未満である場合には、差分値がない、すなわちR=R´であるものとして3値化処理を行う。言い換えると、比較回路44、46、48は、差分値が閾値を超えている場合に差分値を差が有りとし、差分値が閾値を超えていない場合に差分値を差が無しとして調整するように3値化処理を行う。
比較回路44での3値化処理によって、例えば、R>R´の場合は+が、R=R´の場合は0が、R<R´の場合は−が出力される。入力端子42に入力されたG信号、及び入力端子43に入力されたB信号も、R信号と同様に、1クロック遅延された信号との差分であるΔG、ΔBが算出され、それぞれ3値化信号として出力される。すなわち、入力端子42に入力されたG信号は、そのまま比較回路46へ出力されると共に1CK遅延回路47にも出力される。1CK遅延回路47では、入力されたG信号が1クロック遅延されて、比較回路46へ出力される。比較回路46では、入力端子42から入力された信号と、1CK遅延回路47から入力された信号との差分であるΔGが算出され、輝度レベル検出回路28aによって設定された閾値との比較が行われた後に3値化処理が施され、3値化信号として出力される。また、入力端子43に入力されたB信号は、そのまま比較回路48へ出力されると共に1CK遅延回路49にも出力される。1CK遅延回路49では、入力されたB信号が1クロック遅延されて、比較回路48へ出力される。比較回路48では、入力端子43から入力された信号と、1CK遅延回路49から入力された信号との差分であるΔBが算出され、輝度レベル検出回路28aによって設定された閾値との比較が行われた後に3値化処理が施され、3値化信号として出力される。
比較回路44から出力された差分信号ΔRと、比較回路46から出力された差分信号ΔGとは、不一致回路50へ入力されて、ΔGに対するΔRの一致、不一致が検出される。また、比較回路46から出力された差分信号ΔGと、比較回路48から出力された差分信号ΔBとは、不一致回路51へ入力されて、ΔGに対するΔBの一致、不一致が検出される。不一致回路50から出力された検出信号FL1と、不一致回路51から出力された検出信号FL2とは、2入力のオア回路52に入力されて論理和がとられ、R、G及びBの各信号間の相関が求められて、色ずれ度数FL3として出力される。色ずれ算出手段としての色ずれ度数算出回路53は、オア回路52から入力された色ずれ度数FL3を、色ずれ検索領域内の画素について積算し、積算した色ずれ度数を色ずれ最小画像算出回路54へ出力する。尚、色ずれ度数の積算は、R、G及びBの各色画像が同時化された1画像フレーム単位、すなわち、1画面単位で行われる。色ずれ最小画像算出回路54では、色ずれ探索領域内で、G画像を基準としてR画像及びB画像の各領域を、水平(H)方向にシフトさせて積算したR(又はB)信号の色ずれ度数の中で、最小の色ずれ度数が求められる。
次に、ぶれ補正処理回路28における色ずれの検出方法を、図4を用いて説明する。図4は、ぶれ補正処理回路28における色ずれの検出方法の一例を説明する図である。図4における符号R、G、B、ΔR、ΔG、ΔB、FL1、FL2、FL3は、図2に示した符号と同じ信号を表している。図4において、横軸に示す時間に対し、縦軸に示す映像信号R、G及びBの各レベルが時間的に変化する。つまり、時間軸に対してR、G及びBの各レベルに変動が生じると、所定のサンプル間隔における各差分信号(ΔR、ΔG、ΔB)に変化(+、0、−)が生じる。尚、一般的には、R信号、G信号及びB信号は互いに複数のサンプル間隔(複数クロック時間)ずれているが、図4に示すサンプル間隔は、回転フィルタ18を構成するR、G及びBの色フィルタ毎の回転時間差に相当した撮像信号遅延時間(1クロック遅延時間)に対応している。色ずれ検出領域において、R信号とG信号との間、及びG信号とB信号との間には、1サンプル間隔のずれがあるため、R信号及びB信号を、G信号を基準(中心)にして1サンプル間隔ずらすとR、G及びB画像を一致させることができ、すなわち色ずれを最小とすることができる。ΔRとΔGとの排他的論理和(EX−OR)出力FL1は、R画像とG画像との色ずれ状態を表しており、ΔGとΔBとの排他的論理和(EX−OR)出力FL2は、G画像とB画像との色ずれ状態を表している。従って、FL1とFL2との論理和(OR)出力FL3が、R画像、G画像及びB画像のトータルの色ずれ状態を表す情報として出力される。
垂直(V)方向の色ずれについては、同時化メモリ23から出力されたR、G及びB信号を、図示しないラインメモリによってシフトし、シフト後のR、G及びB信号がそれぞれラインメモリから入力端子41、42、43に入力される。入力端子41、42、43に入力された信号を用い、R画像及びB画像における色ずれ検出対象領域内の画素について、水平(H)方向の色ずれ検出方法と同様にして色ずれを検出し、積算した色ずれ度数データの中で色ずれが最小となる色ずれ度数最小値を選択する。上述のようにして得られた、水平(H)方向の色ずれ度数最小値と、垂直(V)方向の色ずれ度数最小値とを更に比較し、その結果に基づいて色ずれが最小となるように画像のぶれを補正し、補正した静止画像を後段の回路へ出力する。
つまり、ぶれ補正処理回路28では、G画像の信号波形とR画像(またはB画像)との差を演算し、G画像に対してR画像(またはB画像)が遅れていたり、進んでいたりした場合に、その差分(すなわちRとGとの差分、GとBとの差分)に応じて色ずれ度数が積算されていく。但し、差分値が、画素の輝度レベルに応じて設定された閾値未満である場合は、たとえ差分値が0でないとしても色ずれとしては検知せず、色ずれ度数が加算されない。差分値が閾値以上である場合に、色ずれがあるものとして検知し、差分に応じて色ずれ度数が加算される。そして、色ずれ探索領域内で、G画像を基準にR画像、B画像の各領域が水平(H)方向及び垂直(V)方向にシフトされ、シフトされたR、B画像毎に色ずれが検出されて積算された色ずれ度数データから、最小の色ずれ度数が選択される。更に、最小の色ずれ度数に従って画像のぶれが補正され、補正後の静止画像が後段の回路へと出力される。
尚、本実施の形態においては、図示しないメニュー画面において、G画像を基準としてR画像またはB画像の位置を上下左右にシフトさせる際の画像のシフト量を、0画素、2画素、4画素、8画素の4パターンから選択することができる。シフト量が複数用意されていることで、観察部位の色ずれの多少に応じて適切なシフト量を設定することができる。例えば食道観察時において、拍動の激しい箇所では色ずれが多いためにシフト量を8画素に設定し、画像の動きの少ないその他の箇所では色ずれが少ないためにシフト量を2画素もしくは4画素に設定して、観察を行うことができる。シフト量が0画素の場合は、画像をシフトさせてぶれ補正を行うことはせず、次のように色ずれ補正処理を行う。すなわち、静止画像表示が選択された後、所定時間内で一番色ずれの少ない画像を選択し、出力する。具体的には、図2から図4を用いて説明した上述の色ずれ検出方法を用い、R画像またはB画像をシフトさせない状態で、静止画のG画像とR画像またはB画像との差分を算出して積算し、1画面分の色ずれ度数を算出する。この場合も、設定された閾値以上の差分のみを色ずれとして検出する。算出された色ずれ度数は図示しないメモリに格納されて、静止画像表示が選択されてから所定時間までの間に算出され、同じくメモリに格納されている他の静止画像の色ずれ度数と比較される。比較の結果、色ずれ度数が最小である静止画像が出力される。
上述のように構成された電子内視鏡装置1の作用について、図5を用いて説明する。図5は、ぶれ補正処理回路28におけるぶれ補正処理を説明するフローチャートである。電子内視鏡装置1の電源を投入して動作状態にすると通常の観察が開始され、ステップS1においてモニタ5に内視鏡画像が動画で表示される。続いて、ステップS2において、ぶれ補正処理回路28の輝度レベル検出回路28aに入力されたG信号の輝度レベルから、色ずれ検出基準となる閾値が設定される。次に、ステップS3において、比較回路44、46、48は、それぞれR、G、Bの各色信号についての差分値ΔR、ΔG、ΔBを算出し、引き続きステップS4において、算出された差分値と、ステップS2において設定された閾値とを比較する。差分値が閾値以上である場合は、ステップS5に進んで色ずれがあると判定する。すなわち、ステップS5において、比較回路44、46、48は算出した差分値ΔR、ΔG、ΔBをそのまま用いて3値化処理を行い、3値化された信号を不一致回路50、51へ出力し、ステップS7へ進む。ステップS4において差分値が閾値未満である場合は、ステップS6へ進んで色ずれがないと判定する。すなわち、ステップS6において、比較回路44、46、48は算出した差分値ΔR、ΔG、ΔBを0とみなして3値化処理を行い、3値化された信号を不一致回路50、51へ出力し、ステップS7へ進む。
ステップS7においては、ステップS5もしくはステップS6からの色ずれ情報を用いて、1画面分の色ずれ度数を算出する。すなわち、ステップS7において、不一致回路50、51は入力された差分信号の一致、不一致を検出して、検出信号FL1、FL2をオア回路52へ出力する。オア回路52は入力された検出信号FL1、FL2との論理和をとることでR、G、Bの信号間の相関を求め、色ずれ度数FL3として色ずれ度数算出回路53へ出力する。色ずれ度数算出回路53は、オア回路52から入力された色ずれ度数FL3を色ずれ検索領域内の画素について積算し、1画面分の色ずれ度数を算出する。続いて、ステップS8において、事前に設定された画面数分の、ステップS7において算出された色ずれ度数の中から、1画面分の色ずれ度数が最小のものを特定する。
次に、ステップS9において、図示しないキーボードや、電子内視鏡2に設けられた操作スイッチなどから、静止画像表示の指示が入力されたか否かを判定する。静止画像表示の指示が入力されていないと判定した場合はステップS1に戻り上述の処理を繰り返し行う。静止画像表示の指示が入力されたと判定した場合はステップS10に進み、G画像を基準として、R画像またはB画像を、メニュー画面から選択されて事前に設定されている画素数分、上下左右の何れかの方向にシフトさせる。次に、ステップS11において、シフト後の画像について、1画面分の色ずれ度数を算出する。尚、ステップS11における色ずれ度数の算出は、ステップS3からステップS7の処理と同一である。続いて、ステップS12において、R画像またはB画像を上下左右の全方向にシフトさせて色ずれ度数を算出したか否かを判定する。全方向へのシフトが終了していない場合、ステップS10に戻り、シフトしていない方向にR画像またはB画像をシフトさせて、色ずれ度数を算出する。上下左右の4方向ともシフトが終了し、それぞれの色ずれ度数を算出している場合、ステップS13へ進み、色ずれ度数が最小になるシフト方向と、その方向へ画像をシフトした場合の色ずれ度数とを特定する。
続いて、ステップS14において、画像シフト前の最小色ずれ度数、すなわちステップS8において特定された色ずれ度数と、画像シフト後の最小色ずれ度数、すなわちステップS13において特定された色ずれ度数とを比較する。ステップS8において特定された色ずれ度数のほうが、ステップS13において特定された色ずれ度数よりも小さい場合、ステップS15に進み、そうでない場合はステップS16へ進む。ステップS15においては、ステップS8で特定された色ずれ度数が算出された、ぶれ補正を行っていない画像を静止画像としてモニタ5に表示する。ステップS16においては、ステップS13で特定された色ずれ度数が算出された画像、すなわち、R画像またはB画像をG画像に対して設定された画素数だけシフトさせてぶれ補正処理を行った画像を、静止画像としてモニタ5に表示する。尚、ステップS10において、シフト量として0画素が設定されている場合、ステップS11からステップS14の処理をスキップしてステップS15の処理が実行される。
このように、本実施の形態の電子内視鏡装置では、G画像信号の輝度レベルが低く画像が暗い部分には、わずかな色ずれも検出できるように色ずれの判定に用いる閾値を小さく設定し、輝度レベルが高く画像が明るい部分には、肉眼では確認されないような色ずれや撮像時に生じたノイズを色ずれと判定しないように、色ずれの判定に用いる閾値を大きく設定することで、色ずれの誤検出を防止し、各色画像間のぶれを適正に補正することができる。従って、静止画像には画像の暗い部分と明るい部分とが混在するが、画像が暗い部分、例えばG画像信号の輝度レベルが10bit階調で127以下の場合は閾値を2とし、画像が明るい部分、例えばG画像信号の輝度レベルが10bit階調で512以上の部分では閾値を32とするなど、それぞれの輝度に応じて閾値を調整することで、適切に画像のぶれを補正することができる。
(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。本実施の形態における電子内視鏡装置1の構成は、ぶれ補正処理回路28に設けられたG画像の個々の画素の輝度レベルを検出する輝度レベル検出回路28aを、G画像の複数の画素の輝度レベルの平均値である平均輝度レベルを算出する平均輝度レベル検出回路28bに置き換えれば、第1の実施の形態の電子内視鏡装置1と同様の構成であるので、同じ構成については同じ符号を付して説明は省略する。ここでは特徴となる、平均輝度レベル検出回路28bについて説明する。
平均輝度レベル検出回路28bでは、ビデオプロセッサ3に接続される電子内視鏡2に応じて設定された、ぶれ補正領域内の画素について平均輝度レベルが検出され、検出結果に基づいて、比較回路44、46、48での差分演算に用いる閾値が設定される。閾値は、例えば図6に示すように、色画像の一つであるG画像の平均輝度レベルと比例関係になるように設定されており、平均輝度レベルが高くなると閾値も高い値が設定されるようになっている。図6は、第2の実施の形態における平均輝度レベルと閾値との関係を説明する図である。図6に示す平均輝度レベルと閾値との関係は、ルックアップテーブルとして登録されており、検出された平均輝度レベルをこのルックアップテーブルに照らし合わせることで閾値が設定される。尚、閾値を、平均輝度レベルと比例関係になるように設定するのではなく、図7に示すように、平均輝度レベルが高くなるとこれに応じて閾値は指数的に高くなるように設定してもよい。図7は、第2の実施の形態における平均輝度レベルと閾値との別の関係を説明する図である。また、接続される電子内視鏡2に応じて、平均輝度レベルと閾値の対応関係が変更されるようにしてもよい。更には、第一の実施の形態における輝度レベルの区分と同様に、平均輝度レベルを5段階に区分して、区分毎に対応する閾値を設定しておき、算出された平均輝度レベルがどの区分に属するかによって閾値を設定するようにしてもよい。尚、ルックアップテーブルは、各種信号処理を行っているFPGA(Field Programmable Gate Array)の内部メモリを使用して構成されているが、FPGAの内部メモリの代わりに外部に接続されるフラッシュメモリを使用して構成してもよい。
本実施の形態における電子内視鏡装置1のぶれ補正処理は、図5のステップS2における、G画像の個々の画素の輝度レベルから色ずれ検出基準となる閾値を設定する処理を、G画像のぶれ補正領域内の画素の平均輝度レベルから閾値を設定する処理に置き換えれば、第一の実施の形態のぶれ補正処理と同様であるので、説明を省略する。
このように、本実施の形態の電子内視鏡装置では、G画像信号の輝度レベルが低く全体的に画像が暗い場合には、わずかな色ずれも検出できるように色ずれの判定に用いる閾値を小さく設定し、輝度レベルが高く全体的に画像が明るい場合には、肉眼では確認されないような色ずれや撮像時に生じたノイズを色ずれと判定しないように、色ずれの判定に用いる閾値を大きく設定することで、色ずれの誤検出を防止し、各色画像間のぶれを適正に補正することができる。また、全ての画素について閾値を算出するのではなく、1画面分につき閾値を1つ算出すればよいので、処理の高速化を図ることができる。
以上の実施の形態から、次の付記項に記載の点に特徴がある。
(付記項1)被写体を光電変換して撮像信号を出力する撮像手段を備えた電子内視鏡と、前記電子内視鏡が着脱自在に接続され、前記撮像手段で得られた前記撮像信号に対する信号処理を行い映像信号を生成する信号処理装置と、前記信号処理装置と接続され前記映像信号を表示する映像表示装置とを備えた電子内視鏡装置において、
撮像された面順次画像を各RGBの色画像別にメモリへ書き込んで同時化する同時化手段と、
前記同時化手段で静止画像を生成させる静止画像生成手段と、
前記各色画像に対して隣接画素との差分値を求める差分値算出手段と、
前記差分値がある閾値を超えた場合に前記各色画像間の色ずれ量を算出する色ずれ算出手段と、
前記閾値を前記各色画像の属性値に応じて調整する閾値調整手段と、
算出された前記色ずれ量が最小となるように前記各色画像を上下左右に移動させる画像移動手段と
を設けたことを特徴とする電子内視鏡装置。
(付記項2)前記属性値が、差分値を取る画素の輝度レベルとすることを特徴とする、付記項1に記載の電子内視鏡装置。
(付記項3)前記属性値が、前記各色画像の平均値とすることを特徴とする、付記項1に記載の電子内視鏡装置。
(付記項4)前記画像移動手段が、G画像に対してR画像及びB画像を移動させることを特徴とする、付記項1ないし付記項3のいずれかに記載の電子内視鏡装置。
本実施の形態に係わる電子内視鏡装置1の全体構成を説明するブロック図である。 ぶれ補正処理回路28の構成を説明するブロック図である。 輝度レベルと閾値との関係を説明する図である。 ぶれ補正処理回路28における色ずれの検出方法の一例を説明する図である。 ぶれ補正処理回路28における、ぶれ補正処理を説明するフローチャートである。 第2の実施の形態における平均輝度レベルと閾値との関係を説明する図である。 第2の実施の形態における平均輝度レベルと閾値との別の関係を説明する図である。
符号の説明
1 電子内視鏡装置、 2 電子内視鏡、 3 ビデオプロセッサ、 4 光源装置、 5 モニタ、 6 操作部、 7 挿入部、 8 ケーブル、 9、10 コネクタ、 11 対物レンズ、 12 CCD、 13 駆動信号線、 14 出力信号線、 15 ライトガイド、 16 光源ランプ、 17 モータ、 18 回転フィルタ、 19 集光レンズ、 20 回転フィルタ駆動回路、 21 駆動回路、 22 前処理回路、 23、27 同時化メモリ、 24 静止画処理回路、 25 拡大縮小回路、 26 強調回路、 28 ぶれ補正処理回路、 28a 輝度レベル検出回路、 29 セレクタ回路、 30 CPU、 31 D/Aコンバータ、 32 後処理回路、 33 同期信号発生回路(SSG回路)
代理人 弁理士 伊 藤 進

Claims (6)

  1. 被写体の体腔内を面順次に撮像して撮像信号を生成する撮像手段を備えた電子内視鏡と、前記電子内視鏡に着脱自在に接続されて前記撮像信号を映像信号に変換処理する信号処理装置と、前記信号処理装置と着脱自在に接続されて前記映像信号を表示する映像表示装置とを備えた電子内視鏡装置において、
    前記信号処理装置は、
    前記面順次の撮像信号を、それぞれを合成することで1つの画像を形成するための複数の色画像を色信号別に記憶する記憶手段と、
    前記複数の色画像間の色ずれの検出基準となる閾値を調整する閾値調整手段と、
    前記複数の色画像のそれぞれに対し、前記色画像を構成する複数の画素における隣接画素との差分値を算出し、前記差分値と前記閾値とを比較して差分値を調整する差分値算出調整手段と、
    前記調整された差分値から前記複数の色画像間の色ずれ量を算出する色ずれ算出手段と、
    前記色ずれ量が最小となるように、前記複数の色画像の中の少なくとも1の色画像を他の色画像に対して上下左右方向にシフトさせる画像移動手段と、
    を備えたことを特徴とする電子内視鏡装置。
  2. 前記差分値算出調整手段は、前記差分値が前記閾値を超えている場合に前記差分値を差が有りとし、前記差分値が前記閾値を超えていない場合に前記差分値を差が無しとして調整することを特徴とする請求項1に記載の電子内視鏡装置。
  3. 前記閾値調整手段は、前記閾値を前記複数の色画像の属性値に応じて調整することを特徴とする請求項1又は請求項2に記載の電子内視鏡装置。
  4. 前記属性値は、差分値を算出する前記複数の画素の輝度レベルであることを特徴とする請求項3に記載の電子内視鏡装置。
  5. 前記輝度レベルは、前記複数の色画像を構成する前記複数の画素の輝度レベルの平均値であることを特徴とする請求項4に記載の電子内視鏡装置。
  6. 被写体の体腔内を面順次に撮像して得られた複数の色画像間の色ずれの検出基準となる閾値を調整する閾値調整手段と、
    前記複数の色画像のそれぞれに対し、前記色画像を構成する複数の画素における隣接画素との差分値を算出し、前記差分値と前記閾値とを比較して差分値を調整する差分値算出調整手段と、
    前記調整された差分値から前記複数の色画像間の色ずれ量を算出する色ずれ算出手段と、
    前記色ずれ量が最小となるように、前記複数の色画像の中の少なくとも1の色画像を他の色画像に対して上下左右方向にシフトさせる画像移動手段と、
    を備えたことを特徴とする色ずれ補正装置。

JP2004341258A 2004-11-25 2004-11-25 電子内視鏡装置及び色ずれ補正装置 Expired - Fee Related JP4632761B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004341258A JP4632761B2 (ja) 2004-11-25 2004-11-25 電子内視鏡装置及び色ずれ補正装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004341258A JP4632761B2 (ja) 2004-11-25 2004-11-25 電子内視鏡装置及び色ずれ補正装置

Publications (2)

Publication Number Publication Date
JP2006149483A true JP2006149483A (ja) 2006-06-15
JP4632761B2 JP4632761B2 (ja) 2011-02-16

Family

ID=36628464

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004341258A Expired - Fee Related JP4632761B2 (ja) 2004-11-25 2004-11-25 電子内視鏡装置及び色ずれ補正装置

Country Status (1)

Country Link
JP (1) JP4632761B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008272370A (ja) * 2007-05-07 2008-11-13 Olympus Medical Systems Corp 医用ガイドシステム
WO2016088628A1 (ja) * 2014-12-02 2016-06-09 オリンパス株式会社 画像評価装置、内視鏡システム、画像評価装置の作動方法および画像評価装置の作動プログラム
WO2017168528A1 (ja) * 2016-03-28 2017-10-05 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
WO2020121373A1 (ja) * 2018-12-10 2020-06-18 オリンパス株式会社 画像記録装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05244608A (ja) * 1991-08-12 1993-09-21 Olympus Optical Co Ltd 色ズレ軽減装置
JP2001169300A (ja) * 1999-12-06 2001-06-22 Olympus Optical Co Ltd 色ずれ検出装置
JP2003333607A (ja) * 2002-05-16 2003-11-21 Olympus Optical Co Ltd 色ズレ軽減装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05244608A (ja) * 1991-08-12 1993-09-21 Olympus Optical Co Ltd 色ズレ軽減装置
JP2001169300A (ja) * 1999-12-06 2001-06-22 Olympus Optical Co Ltd 色ずれ検出装置
JP2003333607A (ja) * 2002-05-16 2003-11-21 Olympus Optical Co Ltd 色ズレ軽減装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008272370A (ja) * 2007-05-07 2008-11-13 Olympus Medical Systems Corp 医用ガイドシステム
WO2016088628A1 (ja) * 2014-12-02 2016-06-09 オリンパス株式会社 画像評価装置、内視鏡システム、画像評価装置の作動方法および画像評価装置の作動プログラム
JPWO2016088628A1 (ja) * 2014-12-02 2017-04-27 オリンパス株式会社 画像評価装置、内視鏡システム、画像評価装置の作動方法および画像評価装置の作動プログラム
WO2017168528A1 (ja) * 2016-03-28 2017-10-05 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
JPWO2017168528A1 (ja) * 2016-03-28 2019-01-31 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
US10567658B2 (en) 2016-03-28 2020-02-18 Olympus Corporation Image processing device, image processing method, image processing program
WO2020121373A1 (ja) * 2018-12-10 2020-06-18 オリンパス株式会社 画像記録装置
JPWO2020121373A1 (ja) * 2018-12-10 2021-09-30 オリンパス株式会社 画像記録装置、画像記録方法及び内視鏡システム
JP7123166B2 (ja) 2018-12-10 2022-08-22 オリンパス株式会社 画像記録装置、画像記録装置の作動方法及び内視鏡システム

Also Published As

Publication number Publication date
JP4632761B2 (ja) 2011-02-16

Similar Documents

Publication Publication Date Title
KR100707896B1 (ko) 내시경 화상 처리 장치
JP3382973B2 (ja) 電子内視鏡装置
JP2004000335A (ja) 電子内視鏡装置
JP4895834B2 (ja) 画像処理装置
JP2005086423A (ja) 撮影環境判定方法および撮像装置
JP2006061620A (ja) 内視鏡用映像信号処理装置
US10548465B2 (en) Medical imaging apparatus and medical observation system
JPH0690900A (ja) 電子内視鏡装置
JPH08111812A (ja) 電子内視鏡装置
JPH0761309B2 (ja) 内視鏡装置
JP5038027B2 (ja) 画像処理装置およびこれを備えた内視鏡装置
JP2005176940A (ja) 電子内視鏡
JP6430880B2 (ja) 内視鏡システム、及び、内視鏡システムの作動方法
JP4632761B2 (ja) 電子内視鏡装置及び色ずれ補正装置
JP2005204741A (ja) 電子内視鏡装置
JP2003204932A (ja) 内視鏡撮像システム
JP2000197604A (ja) 内視鏡装置
JP2001154232A (ja) 測光装置
JPH06315463A (ja) 電子内視鏡装置
KR101947097B1 (ko) 스트로보스코프 상에서 토탈 셔터 이미지 센서 모듈 제어를 위한 isp
JP2001211448A (ja) 内視鏡装置
JPH01297044A (ja) 電子内視鏡装置
JP2000350231A (ja) 映像信号処理装置
JPH10243289A (ja) 画像加算装置
JP5322633B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071005

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100420

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101102

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101116

R151 Written notification of patent or utility model registration

Ref document number: 4632761

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131126

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees