JP2016120185A - 内視鏡システム - Google Patents

内視鏡システム Download PDF

Info

Publication number
JP2016120185A
JP2016120185A JP2014263191A JP2014263191A JP2016120185A JP 2016120185 A JP2016120185 A JP 2016120185A JP 2014263191 A JP2014263191 A JP 2014263191A JP 2014263191 A JP2014263191 A JP 2014263191A JP 2016120185 A JP2016120185 A JP 2016120185A
Authority
JP
Japan
Prior art keywords
light
luminance value
unit
illumination light
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014263191A
Other languages
English (en)
Other versions
JP6335776B2 (ja
Inventor
佑一 竹内
Yuichi Takeuchi
佑一 竹内
俊明 渡邉
Toshiaki Watanabe
俊明 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2014263191A priority Critical patent/JP6335776B2/ja
Publication of JP2016120185A publication Critical patent/JP2016120185A/ja
Application granted granted Critical
Publication of JP6335776B2 publication Critical patent/JP6335776B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Endoscopes (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

【課題】外光の遮断が不十分な環境下においてホワイトバランス調整を行った場合でも、色再現性の高い画像を得る。
【解決手段】 内視鏡システムは、ビデオプロセッサを具備し、前記ビデオプロセッサは、ホワイトバランス調整作業時に被検体に外光が照射される環境において、光源装置からの照明光の出射と遮断とを制御する光源制御部と、画像信号の色成分毎の輝度値を求める輝度値取得部と、前記照明光の出射時において前記輝度値取得部が求めた輝度値と、前記照明光の遮断時において前記輝度値取得部が求めた輝度値との差分を色成分毎に求める輝度値演算部と、前記照明光の出射時と遮断時とで、前記画像信号に基づく画像の明るさを調整可能な明るさ調整部と、前記明るさ調整部及び輝度値演算部を制御して、前記光源装置の照明光のみに基づく画像信号に対応する前記ホワイトバランス調整値を算出可能にする制御部とを具備する。
【選択図】図1

Description

本発明は、外光環境下において正確なホワイトバランス調整が可能な内視鏡システムに関する。
近年、内視鏡は医療分野における診断や処置具を用いた治療等に広く用いられるようになった。特に、電荷結合素子(CCD)等の撮像素子を設けた電子内視鏡装置が普及している。電子内視鏡によって撮像された観察像は、ビデオプロセッサによって信号処理され、テレビモニタに映出される。
内視鏡等の撮像装置においては、例えば、被写体を撮像して得られる画像の色合いを、当該被写体を肉眼で見た場合と同様の自然な色合いに近づけるためのホワイトバランス調整が行われる。例えば、特許文献1においては、フラッシュ発光時の露光制御値と非発光時の露光制御値とを用いることで、少ない撮影回数でフラッシュ発光時と非発光時とのいずれにおいても適切なホワイトバランスを得る撮像装置が開示されている。
なお、体腔内を撮影する内視鏡においては、内視鏡の照明光学系を経て出射された照明光(以下、自照明光ともいう)のみを用いて撮影を行っており、特許文献1に開示されたホワイトバランス調整は有効ではない。
内視鏡のホワイトバランス調整においては、体外において、自照明光以外の外的要因により発生する光(以下、単に外光ともいう)を遮断した環境下で白色の被写体を撮像することを可能にする専用の器具、例えばホワイトバランス調整用補助具等を用いた作業が行われることが多い。しかし、手術室内への持ち込みの制限等の理由により、前述の専用の器具を用いたホワイトバランス調整作業が実質的に困難な場合がある。この場合には、例えば、ガーゼまたは白色の紙等の代用の被写体を体外で撮影してホワイトバランス調整値を求めるホワイトバランス調整作業が行われる。
特開2011−135378号公報
しかしながら、上述した代用の被写体を用いたホワイトバランス調整では、自照明光だけでなく外光の影響を受けることになり、ホワイトバランス調整の調整結果を適用した画像の色再現性が低下してしまうという問題点がある。
本発明は、外光の遮断が不十分な環境下においてホワイトバランス調整を行った場合でも、色再現性の高い画像を得ることができる内視鏡システムを提供することを目的とする。
本発明に係る内視鏡システムは、光源装置の照明光によって照明された被検体の光学像に基づく画像信号を得る撮像部を有する内視鏡から前記画像信号が与えられて所定の信号処理を行うビデオプロセッサを具備する内視鏡システムであって、前記ビデオプロセッサは、ホワイトバランス調整作業時に前記被検体に前記照明光以外の外光が照射される環境において、前記光源装置からの照明光の出射と遮断とを制御する光源制御部と、前記画像信号の色成分毎の輝度値を求める輝度値取得部と、前記照明光の出射時において前記輝度値取得部が求めた輝度値と、前記照明光の遮断時において前記輝度値取得部が求めた輝度値との差分を色成分毎に求める輝度値演算部と、前記輝度値演算部の演算結果に基づいてホワイトバランス調整値を求めるホワイトバランス変更部と、前記照明光の出射時と遮断時とで、前記画像信号に基づく画像の明るさを調整可能な明るさ調整部と、前記明るさ調整部及び輝度値演算部を制御して、前記光源装置の照明光のみに基づく画像信号に対応する前記ホワイトバランス調整値を算出可能にする制御部とを具備する。
本発明によれば、外光の遮断が不十分な環境下においてホワイトバランス調整を行った場合でも、色再現性の高い画像を得ることができるという効果を有する。
本発明の第1の実施の形態に係る内視鏡システムを示すブロック図。 本実施の形態における内視鏡システムの外観を説明するための説明図。 ホワイトバランス調整作業時における処理の流れを示すフローチャート。 本発明の第2の実施の形態において採用される動作フローを示すフローチャート。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る内視鏡システムを示すブロック図である。また、図2は本実施の形態における内視鏡システムの外観を説明するための説明図である。
図1及び図2に示すように、内視鏡システム1は、被検体内に挿入されるとともに、当該被検体内における生体組織等の被写体を撮像して画像信号として出力するように構成された内視鏡2と、当該被写体を照明するための照明光として白色光を内視鏡2に供給するように構成された光源装置3と、内視鏡2から出力される画像信号に対して信号処理を施すことにより映像信号を生成して出力するように構成されたビデオプロセッサ4と、ビデオプロセッサ4から出力される映像信号に応じた画像等を画面上に表示するように構成されたモニタ5と、を有している。
図2に示すように、内視鏡2は、細長の挿入部6を備えた光学視管2Aと、光学視管2Aの接眼部7に対して着脱可能なカメラユニット2Bと、を有して構成されている。光学視管2Aは、被検体内に挿入される細長の挿入部6と、挿入部6の基端部に設けられた把持部8と、把持部8の基端部に設けられた接眼部7と、を有して構成されている。
把持部8にはライトガイド口金12が設けられており、ケーブル13aの一方の端部に設けられた図示しない接続部材によって、ライトガイド口金12とケーブル13aとが着脱自在に接続されるようになっている。また、ケーブル13aの他方の端部にはライトガイドコネクタ14が設けられており、ケーブル13aは、ライトガイドコネクタ14によって光源装置3に対して着脱自在に接続されるようになっている。
図1に示すように、ケーブル13aの内部には、光源装置3から供給される照明光を伝送するためのライトガイド13が挿通されている。また、挿入部6の内部には、ケーブル13aを介して供給される照明光を挿入部6の先端に伝送するためのライトガイド11が挿通されている。ライトガイド11の入射端部は把持部8に設けられたライトガイド口金12に配置されており、ライトガイド11の出射端部は挿入部6の先端部における照明レンズ15の近傍に配置されている。
挿入部6の先端面には、ライトガイド11により伝送された照明光を外部へ出射するための照明レンズ15が配置された図示しない照明窓と、外部から入射される光に応じた光学像を得るための対物レンズ17が配置された図示しない対物窓とが相互に隣接して設けられている。挿入部6の先端の対物窓には対物レンズ17が配設されており、対物レンズ17には、被写体を照明する光が被写体によって反射して戻り光として入射するようになっている。
挿入部6の内部には、対物レンズ17に入射した戻り光に基づく光学像を接眼部7へ伝送するためのリレーレンズ18が設けられている。接眼部7の内部には、リレーレンズ18により伝送された光学像を肉眼で観察可能とするための接眼レンズ19が設けられている。
カメラユニット2Bは、接眼レンズ19を経て形成された光学像を結像するための結像レンズ21と、結像レンズ21の結像位置に撮像面が配置されたCCDイメージセンサ(以下、CCDという)22と、を有して構成されている。また、カメラユニット2Bは、ビデオプロセッサ4に対して着脱可能な信号コネクタ28を端部に設けた信号ケーブル27を有している。
CCD22は、信号ケーブル27内の信号線を介してビデオプロセッサ4に接続されるように構成されている。また、CCD22は、結像レンズ21により結像された光学像を光電変換するための複数の画素(不図示)と、当該複数の画素を2次元状に配置した撮像面上に設けられた原色カラーフィルタ24と、を具備して構成されている。また、CCD22は、ビデオプロセッサ4から出力されるCCD駆動信号に応じ、結像レンズ21により結像された光学像を撮像する際の露光期間及び読出期間を設定するように構成されている。また、CCD22は、結像レンズ21によって撮像面に結像された光学像を光電変換することにより画像信号を生成し、生成した画像信号を信号ケーブル27を介してビデオプロセッサ4に出力するようになっている。
原色カラーフィルタ24は、例えば、赤色域の光を透過するRフィルタと、緑色域の光を透過するGフィルタと、青色域の光を透過するBフィルタと、をCCD22の各画素に対応する位置に例えばベイヤ配列で配置することにより形成されている。これにより、CCD22は、結像レンズ21により結像された光学像を、赤色、緑色及び青色の波長帯域毎に分離して撮像することができるようになっている。
光源装置3は、白色光を発生する白色LED31と、白色LED31から発せられた白色光を集光してライトガイド13へ出射する集光レンズ32と、ビデオプロセッサ4の制御に応じて白色LED31を駆動するLEDドライバ33と、を有して構成されている。
LEDドライバ33は、ビデオプロセッサ4の制御に応じて、白色LED31の動作状態をオン状態(光の出射状態)またはオフ状態(光の遮断状態)のいずれかに切り替えるように構成されている。また、LEDドライバ33は、オン状態の白色LED31から発せられる白色光の光量を、ビデオプロセッサ4の制御に応じた設定光量に変化させることができるように構成されている。白色LED31からの光は、集光レンズ32、ライトガイド13,11及び照明レンズ15を介して自照明光として被写体に照射されるようになっている。
なお、本実施の形態においては、白色LED31の代わりに、例えば、キセノンランプ等の他の光源を用いて光源装置3を構成してもよい。
ビデオプロセッサ4は、CCDドライバ41と、アンプ42と、プリプロセス回路43と、A/D変換回路44と、色分離回路45と、ホワイトバランス調整回路46と、画像処理回路47と、映像信号生成回路48と、制御部50と、メモリ56と、操作パネル57と、を有して構成されている。
CCDドライバ41は、CCD22を駆動すると共に露光期間及び読出期間を設定するためのCCD駆動信号を生成して出力するようになっている。アンプ42は、信号ケーブル27を介して入力された画像信号を増幅してプリプロセス回路43に出力するようになっている。プリプロセス回路43は、アンプ42から出力される画像信号に対して相関二重サンプリング処理等の信号処理を施すことにより当該画像信号に含まれる信号成分を抽出し、さらに、抽出した信号成分に応じた画像信号を生成してA/D変換回路44に出力するようになっている。
A/D変換回路44は、プリプロセス回路43から出力されるアナログの画像信号に対してA/D変換処理を施すことによりデジタルの画像信号を生成し、当該生成したデジタルの画像信号を色分離回路45に出力するように構成されている。
色分離回路45は、A/D変換回路44から出力される画像信号を、原色カラーフィルタ24のRフィルタを透過した光を撮像して得られる赤色の色成分の輝度値Rs、原色カラーフィルタ24のGフィルタを透過した光を撮像して得られる緑色の色成分の輝度値Gs、及び、原色カラーフィルタ24のBフィルタを透過した光を撮像して得られる青色の色成分の輝度値Bsに分離するための色分離処理を行うように構成されている。また、色分離回路45は、前述の色分離処理より得られた各色成分の輝度値に対応する画像信号を生成し、当該生成した画像信号をホワイトバランス調整回路46及び制御部50に出力するようになっている。
ホワイトバランス調整回路46は、アンプ46a、46b及び46cの3つのアンプを具備し、当該3つのアンプにおけるゲイン値を制御部50の制御に基づいて個別に設定することができるように構成されている。アンプ46aは、色分離回路45から出力される赤色の色成分の画像信号に対し、ゲイン値Grを乗じて画像処理回路47及び制御部50に出力する。アンプ46bは、色分離回路45から出力される緑色の色成分の画像信号に対し、ゲイン値Ggを乗じて画像処理回路47及び制御部50に出力する。また、アンプ46cは、色分離回路45から出力される青色の色成分の画像信号に対し、ゲイン値Gbを乗じて画像処理回路47及び制御部50に出力するようになっている。
すなわち、ホワイトバランス調整回路46は、後述するように、制御部50によって設定されるホワイトバランス調整値であるゲイン値Gr、Gg及びGbを用いて、色分離回路45から出力される画像信号のホワイトバランス調整を行うようになっている。
画像処理回路47は、制御部50に制御されて、ホワイトバランス調整回路46から出力される各色成分の画像信号に対して、例えば、ガンマ補正処理及び強調処理等の所定の画像処理を施して映像信号生成回路48に出力するように構成されている。
映像信号生成回路48は、画像処理回路47から出力される各色成分の画像信号に基づいて、赤色の色成分の画像信号をモニタ5のR(赤色)チャンネルに割り当て、緑色の色成分の画像信号をモニタ5のG(緑色)チャンネルに割り当て、青色の色成分の画像信号をモニタ5のB(青色)チャンネルに割り当てるための処理を行うことにより映像信号を生成し、当該生成した映像信号をモニタ5に出力するように構成されている。
制御部50は、図示しないCPU等のプロセッサによって構成することができ、図示しないプログラムメモリに記憶されたプログラムに従って動作して各部を制御するものであってもよい。ビデオプロセッサ4には、操作パネル57が設けられている。操作パネル57は、ユーザの操作に応じた指示を行うことが可能な1以上の入力装置を具備して構成されている。操作パネル57はユーザのパネル操作に基づく操作信号を発生して制御部50に出力するようになっている。制御部50は、操作パネル57からの操作信号に基づいて各部を制御することができるようになっている。例えば、操作パネル57は、色分離回路45から出力される画像信号のホワイトバランス調整を行わせるための指示を行うことが可能なホワイトバランススイッチ(不図示)等のスイッチを有していてもよい。また、例えば、制御部50は、操作パネル57の操作に基づいて、画像処理回路47の画像処理に用いられるパラメータを変更するための制御を行うようになっていてもよい。
本実施の形態においては、制御部50は、補助具を用いることなく体外で内視鏡のホワイトバランス調整作業を行った場合でも、ホワイトバランス調整回路46において正しくホワイトバランス調整を行うことを可能にするホワイトバランス調整値を求めることができるようになっている。上述したように、体外において、補助具を用いることなく内視鏡のホワイトバランス調整作業を行った場合には、画像信号は自照明光だけでなく外光の影響を受け、正しいホワイトバランス調整値を求めることができない。そこで、本実施の形態においては、画像信号から外光の影響を除去することで、適切なホワイトバランス調整値を求めるようになっている。
このような適切なホワイトバランス調整値を求めるために、本実施の形態においては、制御部50には平均値算出部51、輝度値演算部52、ホワイトバランス(WhB)変更部53、撮像制御部54及び光源制御部55が設けられている。制御部50は、ホワイトバランス調整作業時には、外光の影響を除去するために、自照明光を点灯及び非点灯(消灯)させた2回の撮像を行う。
輝度値取得部として機能する平均値算出部51は、色分離回路45の出力が与えられて、白色LED31を点灯させて自照明光を被写体に照射しながら行う撮像(以下、点灯撮像という)におけるR,G,B色成分毎の平均輝度値Ra1,Ga1,Ba1と、白色LED31を消灯させて自照明光を被写体に照射せずに行う撮像(以下、非点灯撮像という)におけるR,G,B色成分毎の平均輝度値Ra2,Ga2,Ba2をそれぞれ求める。例えば、平均値算出部51は、CCD22の撮像面の中央と周辺とにおける感度が異なることを考慮して、CCD22の撮像面の所定領域に対応する輝度値の平均値を平均輝度値として求めてもよい。平均値算出部51は、求めた平均輝度値Ra1,Ga1,Ba1,Ra2,Ga2,Ba2をメモリ56に記憶させる。
輝度値演算部52は、メモリ56から平均輝度値を読み出して平均輝度値Ra1,Ga1,Ba1と平均輝度値Ra2,Ga2,Ba2との差分を色成分毎に求める。平均輝度値Ra1,Ga1,Ba1は、自照明光及び外光による戻り光に基づくものであり、平均輝度値Ra2,Ga2,Ba2は外光の戻り光のみに基づくものである。CCD22によって得られるR,G,B光に対応する各色の画像信号のレベルが被写体を照明するR,G,B光成分の光量に比例し、また、点灯撮像時と非点灯撮像時とで外光の光量には変化がないものとする。この場合には、自照明光の戻り光のR,G,B成分に基づく平均輝度値をそれぞれRa0,Ga0,Ba0とすると、Ra0=Ra1−Ra2、Ga0=Ga1−Ga2、Ba0=Ba1−Ba2が成立する。
輝度値演算部52は、点灯撮像時と非点灯撮像時における平均輝度値の差分を各色毎に求めることで、自照明光のみの戻り光に基づく色成分毎の平均輝度値を得る。WhB変更部53は、輝度値演算部52が求めた各色の平均輝度値Ra0,Ga0,Ba0に基づいて、所定の白色の被写体を撮像した場合におけるアンプ46a〜46cの出力レベルの比が1:1:1となるように、アンプ46a〜46cにそれぞれ設定するゲイン値であるホワイトバランス調整値を求める。WhB変更部53は、求めたホワイトバランス調整値をアンプ46a〜46cに設定するようになっている。
本実施の形態においては、制御部50の撮像制御部54は、画像信号に基づく画像の明るさを調整する明るさ調整部としても機能し、ホワイトバランス調整作業中における点灯撮像時と非点灯撮像時とで、CCD22の露光時間が同一となるように、CCDドライバ41を制御するようになっている。例えば、撮像制御部54は、点灯撮像時と非点灯撮像時とにおけるCCD22のシャッター速度を同一とする。これにより、CCD22の撮像条件が点灯撮像時と非点灯撮像時とで等しくなり、自照明光の戻り光に基づく各色の平均輝度値を確実に求めることが可能となる。
更に、本実施の形態においては、制御部50の光源制御部55は、明るさ調整部としても機能し、LEDドライバ33を制御して点灯撮像時と非点灯撮像時とで、白色LED31の点灯及び消灯を制御すると共に、点灯撮像時において求める平均輝度値Ra1,Ga1,Ba1のいずれも飽和しないように、白色LED31の出射光量を制御するようになっている。これにより、平均輝度値Ra1,Ga1,Ba1は、戻り光の各色成分に対応したものとなり、自照明光及び外光の戻り光に基づく平均輝度値の比を正確に求めることができる。なお、光源制御部55は、点灯撮像時における平均輝度値Ra1,Ga1,Ba1のレベルが、所定の閾値よりも大きくなるように白色LED31の出射光量を制御することで、ノイズの影響を受け難くするようにしてもよい。これにより、平均輝度値Ra1,Ga1,Ba1は、戻り光の各色成分に対応したものとなり、自照明光及び外光の戻り光に基づく各色成分の平均輝度値の比を確実に求めることができる。
なお、明るさ調整部は、画像信号に基づく画像の明るさを調整する種々の機構によって構成することができ、例えば撮像制御部54及び光源制御部55だけでなく、ビデオプロセッサ4中のアンプ等によって構成することもできる。明るさ調整部は、自照明光の光量の設定、CCD22の受光時の設定及びビデオプロセッサ4における信号処理の設定を制御することで画像の明るさを調整可能であるが、本実施の形態においては、出射光量及び露光時間以外の設定値については、点灯撮像時と非点灯撮像時において共通の設定を用いるものとする。
また、本実施例のカメラユニット2Bは、1つのCCDを具備する単板のカメラユニットとして構成されたものに限らず、例えば、結像レンズ21を通過した光をRGBの色毎に分光するためのダイクロイックプリズム等の分光光学系と、当該分光光学系を経て出射されるR光の光学像を撮像するための第1のCCDと、当該分光光学系を経て出射されるG光の光学像を撮像するための第2のCCDと、当該分光光学系を経て出射されるB光の光学像を撮像するための第3のCCDと、を具備する3板のカメラユニットとして構成されたものであってもよい。また、カメラユニット2Bが3板のカメラユニットとして構成されている場合には、色分離回路45が不要となるため、例えば、A/D変換回路44から出力される画像信号をホワイトバランス調整回路46及び制御部50に出力されるようにすればよい。
また、本実施の形態のCCD22は、原色カラーフィルタ24を撮像面上に具備する原色CCDとして構成されたものに限らず、例えば、結像レンズ21により結像された光学像を、シアン、マゼンタ、黄色及び緑色の波長帯域毎に分離して撮像するための補色カラーフィルタを撮像面上に具備する補色CCDとして構成されたものであってもよい。また、CCD22が補色CCDとして構成されている場合には、例えば、A/D変換回路44から出力される画像信号に応じた輝度信号Y、色差信号Cb及び色差信号Crが色分離回路45において生成され、当該輝度信号Y、色差信号Cb及び色差信号Crに応じた赤、緑及び青の色成分の画像信号がRGB変換回路において生成され、当該画像信号がホワイトバランス調整回路46及び制御部50に出力されるようにすればよい。
次に、このように構成された実施の形態の作用について図3を参照して説明する。図3はホワイトバランス調整作業時における処理の流れを示すフローチャートである。
術者は、内視鏡システム1の各部を接続して電源を投入した後、挿入部6の先端面をガーゼ等の白色の被写体に対向する位置に配置した状態にして、ホワイトバランス調整作業を開始する。例えば、術者は操作パネル57のホワイトバランススイッチを操作する。これにより、制御部50は、ホワイトバランス調整値の算出のための処理を開始する。
制御部50は、自照明光を用いた点灯撮像と自照明光を用いない非点灯撮像との2回の撮像を行う。なお、点灯撮像と非点灯撮像のいずれを先に行ってもよい。先ず、撮像制御部54は、図3のステップS1において、点灯撮像及び非点灯撮像に共通の露光時間を設定する。なお、撮像制御部54は、非点灯撮像時においても十分な露光が行われると共に、各色の画像信号が飽和しないように露光時間の設定を行う。
図3のステップS2〜S4は非点灯撮像の処理を示し、ステップS5〜S9は点灯撮像の処理を示している。ステップS2では、光源制御部55はLEDドライバ33を制御して、白色LED31を点灯させない状態とする。この状態で、撮像制御部54は、CCDドライバ41を制御して、非点灯撮像を行う(ステップS3)。
被写体は外光のみにより照明され、この外光による被写体からの戻り光が対物レンズ17に入射する。対物レンズ17に入射した光は、リレーレンズ18、接眼レンズ19、結像レンズ21、カラーフィルタ24を介してCCD22の撮像面に結像する。CCD22はCCDドライバ41によって所定のシャッター速度に制御されており、撮像面に所定の露光時間で露光された光学像を光電変換して、画像信号を出力する。
この画像信号は信号ケーブル27を介してビデオプロセッサ4のアンプ42に供給される。画像信号はアンプ42によって増幅された後プリプロセス回路43に供給され、プリプロセス回路43によって相関二重サンプリング処理等の信号処理が施される。プリプロセス回路43の出力はA/D変換回路44によってデジタル信号に変換された後、色分離回路45に与えられる。色分離回路45は、入力された画像信号の赤色成分の輝度値Rs2、緑色成分の輝度値Gs2、及び青色成分の輝度値Bs2を分離する色分離処理を行う。色分離回路45は、色分離処理より得られた各色成分の輝度値に対応する画像信号を生成して制御部50に出力する。
平均値算出部51は、ステップS4において、色分離回路45の出力に基づいて輝度値の平均値を算出して、メモリ56に記憶させる。例えば、平均値算出部51は、各色成分の輝度値Rs2,Gs2,Bs2を画面の所定領域について平均した平均輝度値Ra2,Ga2,Ba2を求める。平均値算出部51は、求めた平均輝度値Ra2,Ga2,Ba2をメモリ56に記憶させる。
次に、制御部50は、点灯撮像を行う。この場合には、光源制御部55は、ステップS5において、LEDドライバ33を制御して白色LED31を点灯させると共に、その出射光量が所定の出射光量となるように制御する(ステップS6)。白色LED31からの光は、ライトガイド13,11及び照明レンズ15を介して自照明光として被写体に照射される。こうして、この場合には、被写体は、自照明光及び外光によって照明されることになり、これらの光による被写体からの戻り光が対物レンズ17に入射する。こうして、この場合には、CCD22の撮像面には、自照明光及び外光の影響を受けた被写体光学像が結像する。CCD22はCCDドライバ41によって非点灯撮像時と同じシャッター速度に制御されており、撮像面に非点灯撮像時と同じ露光時間で露光された光学像を光電変換して、画像信号を出力する(ステップS7)。
この画像信号は信号ケーブル27を介してビデオプロセッサ4に供給される。画像信号は、増幅及び相関二重サンプリング処理等の信号処理が施された後、デジタル信号に変換されて色分離回路45に与えられる。色分離回路45は、入力された画像信号の赤色成分の輝度値Rs1、緑色成分の輝度値Gs1、及び青色成分の輝度値Bs1を分離する色分離処理を行い、各色成分の輝度値に対応する画像信号を生成して制御部50に出力する。
平均値算出部51は、ステップS8において、非点灯撮像時と同様の手法によって輝度値の平均値を算出して、メモリ56に記憶させる。例えば、平均値算出部51は、各色成分の輝度値Rs1,Gs1,Bs1を画面の所定領域について平均した平均輝度値Ra1,Ga1,Ba1を求める。平均値算出部51は、求めた平均輝度値Ra1,Ga1,Ba1をメモリ56に記憶させる。
次に、制御部50は、メモリ56に記憶された平均輝度値Ra1,Ga1,Ba1の各値のいずれかが飽和しているか否かを判定する(ステップS9)。飽和している場合には、光源制御部55は、白色LED31の出射光量を低下させる光量制御を行う。こうして、自照明光の光量を低下させた状態で、ステップS7,S8の処理を行って、自照明光及び外光の戻り光に基づく画像信号の平均輝度値Ra1,Ga1,Ba1を求めてメモリ56の内容を更新する。以後、ステップS6〜S9を繰り返す。こうして、メモリ56には、飽和していない平均輝度値Ra1,Ga1,Ba1が記憶される。これにより、メモリ56に記憶された平均輝度値Ra1,Ga1,Ba1は、戻り光の各色成分に対応したものとなり、自照明光及び外光に基づく各色成分の平均輝度値の比を正確に求めることが可能となる。
ステップS9において、平均輝度値Ra1,Ga1,Ba1の各値が飽和していないと判定された場合には、制御部50は次のステップS10に処理を移行する。ステップS10では、輝度値演算部52によって輝度値の差分演算が行われる。輝度値演算部52は、メモリ56から平均輝度値Ra1,Ga1,Ba1,Ra2,Ga2,Ba2を読み出し、各色毎に点灯撮像時と非点灯撮像時の平均輝度値の差分を求める。
差分(Ra1−Ra2)、(Ga1−Ga2)、(Ba1−Ba2)は、それぞれ、自照明光のみの戻り光に基づく画像信号の各色成分の平均輝度値Ra0,Ga0,Ba0に対応する。WhB変更部53は、ステップS11において、輝度値演算部52によって算出された平均輝度値Ra0,Ga0,Ba0に基づいてホワイトバランス調整値を算出する。例えば、WhB変更部53は、輝度値がRa0,Ga0,Ba0の各色成分がアンプ46a〜46cに入力された場合に、各アンプ46a〜46cの出力の比が1:1:1になるように、各アンプ46a〜46cに設定するゲインを求め、このゲインをホワイトバランス調整値としてアンプ46a〜46cに設定する(ステップS12)。
WhB変更部53が設定するホワイトバランス調整値は、自照明光のみによって被写体が照明されている場合において、白色の被写体からの戻り光に基づく画像信号の各色成分のレベル比をホワイトバランス調整回路46によって1:1:1にするものである。即ち、体外においてホワイトバランス調整作業を行った場合でも、体内で使用する場合において適切なホワイトバランス調整が可能である。
このように本実施の形態においては、体外においてホワイトバランス調整作業を行う場合には、自照明光を用いた点灯撮像と外光のみによる非点灯撮像との2回の撮像を行うと共に、点灯撮像による画像信号の平均輝度値と非点灯撮像による画像信号の平均輝度値とについて各色毎に差分を求めることで、自照明光のみに基づく各色成分の平均輝度値を得る。この平均輝度値に基づいてホワイトバランス調整値を求めることで、外光の影響を除き自照明光のみによる照明が行われている場合と同様のホワイトバランス調整値を得ることができる。しかも、点灯撮像時と非点灯撮像時とで同一の露光時間を設定し、また、点灯撮像時においては自照明光の出射光量を調整して各色成分の平均輝度値が飽和しないように制御しており、自照明光の戻り光に基づく画像信号の各色成分の比を正確に求めることが可能であり、高精度のホワイトバランス調整が可能である。こうして、外光の遮断が不十分な環境下、例えば体外において補助具を用いることなくホワイトバランス調整作業を行う場合でも、適切なホワイトバランス調整値の算出を高精度に行うことが可能であり、実使用時において確実なホワイトバランス調整を行うことができ、高い色再現性の画像を得ることができる。
(第2の実施の形態)
図4は本発明の第2の実施の形態において採用される動作フローを示すフローチャートである。図4において図3と同一の手順には同一符号を付して説明を省略する。本実施の形態におけるハードウェア構成は第1の実施の形態と同様である。
第1の実施の形態においては、点灯撮像と非点灯撮像の2回の撮像における撮像条件を一致させるために露光時間の制御を行うと共に、平均輝度値が飽和しないように自照明光の出射光量の制御を行った。しかし、外光が暗すぎる場合や明るすぎる場合等においては、露光時間等の撮像条件を決定する各種設定値(以下、撮像条件設定値という)を調整した方が各色成分の平均輝度値の比を正確に検出することができることがある。本実施の形態においては、点灯撮像と非点灯撮像の2回の撮像において撮像条件設定値を変えて撮像条件を変化させた場合でも、確実に自照明光のみによる戻り光に対応したホワイトバランス調整値を取得することを可能にしたものである。
一般的に、ビデオプロセッサは色分離回路の前段までにAGC回路が設けられている。例えば、図1のアンプ42がAGC回路として機能するように構成してもよい。この場合には、アンプ42は、入力信号のレベルが比較的低い場合にはゲインが高くなり、入力信号のレベルが比較的低い場合にはゲインが低くなるように作用する。これにより、色分離回路45に十分で且つ飽和しないレベルの画像信号を与えることが可能となる。
また、外光が比較的暗い場合にはCCD22の露光時間を比較的長くし、外光が比較的明るい場合にはCCD22の露光時間を比較的短くするように、CCDドライバ41が制御するようにしてもよい。この場合にも、色分離回路45に十分で且つ飽和しないレベルの画像信号を与えることが可能となる。また、例えば、CCDドライバ41は、外光が比較的暗い場合には、複数の画素を加算して読み出すピニング処理を行うようにしてもよい。更に、CCD22の感度を変更可能な場合には、CCDドライバ41は、外光の明るさに応じて感度を変更するようにしてもよい。
本実施の形態においては、このようなAGC回路のゲイン値、露光時間、ピニング処理の有無等の撮像条件を決定する各種情報が撮像条件設定値としてメモリ56に記憶されるようになっている。例えば、制御部50は、アンプ42のゲインを調整すると同時に、その調整値を撮像条件設定値としてメモリ56に与えて記憶させる。また、撮像制御部54は、CCDドライバ41を制御すると同時に、その情報を撮像条件設定値としてメモリ56に与えて記憶させる。
本実施の形態においては、制御部50は、ホワイトバランス調整作業時に、必要に応じて撮像条件設定値を点灯撮像と非点灯撮像とで変化させた2回の撮像を行う。また、輝度値演算部52は、これらの2回の撮像時の撮像条件設定値を用いて各色の平均輝度値を正規化することで、自照明光のみによる戻り光に対応した正確なホワイトバランス調整値を取得するようになっている。
このように構成された実施の形態においては、第1の実施の形態と同様に、ホワイトバランス調整作業では、自照明光を用いた点灯撮像と自照明光を用いない外光のみによる非点灯撮像との2回の撮像を行う。図4のステップS3では、非点灯撮像が行われる。被写体は外光のみにより照明され、この外光による被写体からの戻り光に基づく画像信号がCCD22から出力される。CCD22からの画像信号はビデオプロセッサ4に供給され、アンプ42によって所定のゲインで増幅される。
アンプ42からの画像信号は、プリプロセス回路43によって相関二重サンプリング処理等の信号処理が施され、A/D変換回路44によってデジタル信号に変換された後、色分離回路45に与えられる。色分離回路45は、入力された画像信号の赤色成分の輝度値Rs2、緑色成分の輝度値Gs2、及び青色成分の輝度値Bs2を分離する色分離処理を行う。色分離回路45は、色分離処理より得られた各色成分の輝度値に対応する画像信号を生成して制御部50に出力する。平均値算出部51は、ステップS4において、色分離回路45の出力に基づいて各色成分の輝度値の平均値を算出して、各色成分の平均輝度値Ra2,Ga2,Ba2をメモリ56に記憶させる。
本実施の形態においては、制御部50は、ステップS21において、非点灯撮像時における撮像条件設定値をメモリ56に記憶させる。例えば、メモリ56には、CCD22の露光時間、アンプ42のゲイン、ピニング処理の有無等の撮像条件設定値が記憶される。
次に、制御部50は、ステップS5において白色LED31を点灯させ、自照明光及び外光により被写体を照明する点灯撮像を行う(ステップS7)。この場合には、被写体は、自照明光及び外光によって照明されることになり、これらの光による被写体からの戻り光に基づく画像信号がCCD22から出力される。
CCD22からの画像信号はビデオプロセッサ4に供給されて、アンプ42によって所定のゲインで増幅される。更に、画像信号は、相関二重サンプリング処理等の信号処理が施され、デジタル信号に変換された後、色分離回路45に与えられる。色分離回路45は、入力された画像信号の各色成分の輝度値Rs1、Gs1、Bs1を分離する色分離処理を行い、各色成分の輝度値に対応する画像信号を生成して制御部50に出力する。平均値算出部51は、ステップS8において、色分離回路45の出力に基づいて各色成分の輝度値の平均値を算出して、各色成分の平均輝度値Ra1,Ga1,Ba1をメモリ56に記憶させる。
本実施の形態においては、制御部50は、ステップS25において、点灯撮像時における撮像条件設定値をメモリ56に記憶させる。例えば、メモリ56には、CCD22の露光時間、アンプ42のゲイン、ピニング処理の有無等の撮像条件設定値が記憶される。
いま、説明を簡単にするために、非点灯撮像時と点灯撮像時とでは、撮像条件設定値としてCCD22の露光時間及びアンプ42のゲインのみが変化するものとして説明する。例えば、非点灯撮像時における露光時間をX(秒)、アンプ42のゲインをαとし、点灯撮像時における露光時間をY(秒)、アンプ42のゲインをβとして、正規化した露光時間をZ(秒)、アンプ42のゲインをγとする。
輝度値演算部52は、ステップS10における輝度値差分演算に際して、撮像条件設定値を読み出して平均輝度値の正規化を行う(ステップS9)。いま、上述したように、非点灯撮像時における各色成分の平均輝度値がRa2,Ga2,Ba2で、点灯撮像時における各色成分の平均輝度値がRa1,Ga1,Ba1であるものとする。輝度値演算部52は、下記(1)式によって、非点灯撮像時における平均輝度値を正規化した値(正規化平均輝度値)Ra2n,Ga2n,Ba2nを求める。
Ra2n=Ra2・(Z/X)・(γ/α)
Ga2n=Ga2・(Z/X)・(γ/α)
Ba2n=Ba2・(Z/X)・(γ/α) …(1)
また、同様にして、輝度値演算部52は、下記(2)式によって、点灯撮像時における平均輝度値を正規化した値(正規化平均輝度値)Ra1n,Ga1n,Ba1nを求める。
Ra1n=Ra1・(Z/Y)・(γ/β)
Ga1n=Ga1・(Z/Y)・(γ/β)
Ba1n=Ba1・(Z/Y)・(γ/β) …(2)
輝度値演算部52は、色成分毎に、点灯撮像時と非点灯撮像時の正規化平均輝度値の差分を求める。差分(Ra1n−Ra2n)、(Ga1n−Ga2n)、(Ba1n−Ba2n)は、それぞれ、自照明光のみの戻り光に基づく画像信号の各色成分の正規化平均輝度値Ra0n,Ga0n,Ba0nに対応する。
WhB変更部53は、ステップS11において、輝度値演算部52によって算出された正規化平均輝度値Ra0n,Ga0n,Ba0nに基づいてホワイトバランス調整値を算出する。例えば、WhB変更部53は、輝度値がRa0n,Ga0n,Ba0nの各色成分がアンプ46a〜46cに入力された場合に、各アンプ46a〜46cの出力の比が1:1:1になるように、各アンプ46a〜46cに設定するゲインを求め、このゲインをホワイトバランス調整値としてアンプ46a〜46cに設定する(ステップS12)。
他の作用は第1の実施の形態と同様である。
正規化平均輝度値Ra0n,Ga0n,Ba0nの比は、平均輝度値Ra0,Ga0,Ba0の比と等しい。従って、正規化平均輝度値Ra0n,Ga0n,Ba0nに基づいて求めたホワイトバランス調整値を用いることで、適切なホワイトバランス調整が可能である。
このように本実施の形態においては、第1の実施の形態と同様の効果が得られると共に、自照明光を用いた点灯撮像と外光のみによる非点灯撮像との2回の撮像時における撮像条件を変更して撮像を行った場合でも、平均輝度値を正規化した後差分を求めるようにしていることから、自照明光のみの戻り光に対応したホワイトバランス調整値を正確に求めることができる。これにより、点灯撮像時と非点灯撮像時においてそれぞれ最適な撮像条件にて撮像を行うことができ、ホワイトバランス調整値の算出精度を向上させることができる。
なお、図4では、非点灯撮像時及び点灯撮像時において各撮像時の撮像条件設定値及び平均輝度値を記憶させ、ホワイトバランス調整値算出の際に撮影条件設定値を読み出して平均輝度値を正規化後に差分を求める例について説明したが、非点灯撮像及び点灯撮像毎に、各撮影時における撮影条件設定値に基づいて平均輝度値を正規化した後記憶させ、正規化された平均輝度値を読み出して差分を求めるようにしてもよいことは明らかである。
また、本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい
1…内視鏡システム、2…内視鏡、3…光源装置、4…ビデオプロセッサ、5…モニタ、11…ライトガイド、17…対物レンズ、22…CCD、33…LEDドライバ、31…白色LED、41…CCDドライバ、45…色分離回路、46…ホワイトバランス調整回路、50…制御部、51…平均値算出部、52…輝度値演算部、53…WhB変更部、54…撮像制御部、55…光源制御部、56…メモリ。

Claims (6)

  1. 光源装置の照明光によって照明された被検体の光学像に基づく画像信号を得る撮像部を有する内視鏡から前記画像信号が与えられて所定の信号処理を行うビデオプロセッサを具備する内視鏡システムであって、
    前記ビデオプロセッサは、
    ホワイトバランス調整作業時に前記被検体に前記照明光以外の外光が照射される環境において、前記光源装置からの照明光の出射と遮断とを制御する光源制御部と、
    前記画像信号の色成分毎の輝度値を求める輝度値取得部と、
    前記照明光の出射時において前記輝度値取得部が求めた輝度値と、前記照明光の遮断時において前記輝度値取得部が求めた輝度値との差分を色成分毎に求める輝度値演算部と、
    前記輝度値演算部の演算結果に基づいてホワイトバランス調整値を求めるホワイトバランス変更部と、
    前記照明光の出射時と遮断時とで、前記画像信号に基づく画像の明るさを調整可能な明るさ調整部と、
    前記明るさ調整部及び輝度値演算部を制御して、前記光源装置の照明光のみに基づく画像信号に対応する前記ホワイトバランス調整値を算出可能にする制御部と
    を具備したことを特徴とする内視鏡システム。
  2. 前記明るさ調整部は、前記照明光の光量の設定、前記撮像部の受光時の設定及び前記撮像部からの画像信号に対する前記所定の信号処理の設定のうちの少なくとも1つを制御する
    ことを特徴とする請求項1に記載の内視鏡システム。
  3. 前記制御部は、前記撮像部の露光時間を前記照明光の出射時及び遮断時において同一時間に設定すると共に、前記照明光の遮断時における前記画像信号の各色成分の輝度値が飽和しないように前記照明光の光量を制限する
    ことを特徴とする請求項1に記載の内視鏡システム。
  4. 前記制御部は、前記照明光の出射時及び遮断時における前記明るさ調整部の設定を記憶し、前記照明光の出射時及び遮断時における前記明るさ調整部の設定の変化に応じて前記輝度値取得部が取得した輝度値を補正した後、前記輝度値演算部に与える
    ことを特徴とする請求項1に記載の内視鏡システム。
  5. 前記ビデオプロセッサは、前記輝度値取得部が求めた前記画像信号の色成分毎の輝度値を記憶するメモリ
    を具備したことを特徴とする請求項1乃至4のいずれか1つに記載の内視鏡システム。
  6. 前記内視鏡及び光源装置
    を具備したことを特徴とする請求項1乃至5のいずれか1つに記載の内視鏡システム。
JP2014263191A 2014-12-25 2014-12-25 内視鏡システム Active JP6335776B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014263191A JP6335776B2 (ja) 2014-12-25 2014-12-25 内視鏡システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014263191A JP6335776B2 (ja) 2014-12-25 2014-12-25 内視鏡システム

Publications (2)

Publication Number Publication Date
JP2016120185A true JP2016120185A (ja) 2016-07-07
JP6335776B2 JP6335776B2 (ja) 2018-05-30

Family

ID=56326808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014263191A Active JP6335776B2 (ja) 2014-12-25 2014-12-25 内視鏡システム

Country Status (1)

Country Link
JP (1) JP6335776B2 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0469615A (ja) * 1990-07-10 1992-03-04 Olympus Optical Co Ltd 内視鏡用ホワイトバランス調整具
JPH0690900A (ja) * 1992-06-16 1994-04-05 Olympus Optical Co Ltd 電子内視鏡装置
JP2001327466A (ja) * 2000-05-24 2001-11-27 Olympus Optical Co Ltd 内視鏡システム
JP2005065186A (ja) * 2003-08-20 2005-03-10 Sony Corp 撮像装置
JP2005210485A (ja) * 2004-01-23 2005-08-04 Sony Corp 画像処理方法、および画像処理装置、並びにコンピュータ・プログラム
JP2011135378A (ja) * 2009-12-24 2011-07-07 Samsung Electronics Co Ltd 撮像装置及び撮像方法
JP2012152314A (ja) * 2011-01-25 2012-08-16 Hoya Corp ホワイトバランス調整システム、内視鏡プロセッサ、補正とバランス調整キャップ
US20140267656A1 (en) * 2013-03-15 2014-09-18 Olive Medical Corporation White balance and fixed pattern noise frame calibration using distal cap

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0469615A (ja) * 1990-07-10 1992-03-04 Olympus Optical Co Ltd 内視鏡用ホワイトバランス調整具
JPH0690900A (ja) * 1992-06-16 1994-04-05 Olympus Optical Co Ltd 電子内視鏡装置
JP2001327466A (ja) * 2000-05-24 2001-11-27 Olympus Optical Co Ltd 内視鏡システム
JP2005065186A (ja) * 2003-08-20 2005-03-10 Sony Corp 撮像装置
JP2005210485A (ja) * 2004-01-23 2005-08-04 Sony Corp 画像処理方法、および画像処理装置、並びにコンピュータ・プログラム
JP2011135378A (ja) * 2009-12-24 2011-07-07 Samsung Electronics Co Ltd 撮像装置及び撮像方法
JP2012152314A (ja) * 2011-01-25 2012-08-16 Hoya Corp ホワイトバランス調整システム、内視鏡プロセッサ、補正とバランス調整キャップ
US20140267656A1 (en) * 2013-03-15 2014-09-18 Olive Medical Corporation White balance and fixed pattern noise frame calibration using distal cap

Also Published As

Publication number Publication date
JP6335776B2 (ja) 2018-05-30

Similar Documents

Publication Publication Date Title
US9029755B2 (en) Imaging system with illumination controller to variably control illumination light
US8721532B2 (en) Endoscope apparatus and method for controlling fluorescence imaging apparatus
JP5789348B2 (ja) 光源装置
JP5968944B2 (ja) 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法
US20200337540A1 (en) Endoscope system
US10610082B2 (en) Endoscope apparatus
US10349027B2 (en) Imaging device and processing device
US20200163538A1 (en) Image acquisition system, control apparatus, and image acquisition method
JP6072374B2 (ja) 観察装置
JP5659315B2 (ja) 内視鏡装置
JP5467182B1 (ja) 撮像システム
WO2016104386A1 (ja) 調光装置、撮像システム、調光装置の作動方法および調光装置の作動プログラム
JP2996373B2 (ja) 電子内視鏡装置
US20180158180A1 (en) Image processing apparatus
JP6246436B1 (ja) 内視鏡用プロセッサ及び内視鏡用プロセッサの作動方法
US10462440B2 (en) Image processing apparatus
WO2019155902A1 (ja) 撮像システム
JP6335776B2 (ja) 内視鏡システム
JP2013094489A (ja) 内視鏡装置
JP2010279457A (ja) 電子内視鏡、電子内視鏡システムおよび色調整方法
JP6423245B2 (ja) 内視鏡システム
JP2015150138A (ja) 内視鏡システム、画像生成装置およびマウスピース
WO2017022323A1 (ja) 画像信号処理方法、画像信号処理装置および画像信号処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170327

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180403

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180417

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180501

R150 Certificate of patent or registration of utility model

Ref document number: 6335776

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250