JP5940306B2 - 内視鏡装置及び内視鏡装置の作動方法 - Google Patents

内視鏡装置及び内視鏡装置の作動方法 Download PDF

Info

Publication number
JP5940306B2
JP5940306B2 JP2012005313A JP2012005313A JP5940306B2 JP 5940306 B2 JP5940306 B2 JP 5940306B2 JP 2012005313 A JP2012005313 A JP 2012005313A JP 2012005313 A JP2012005313 A JP 2012005313A JP 5940306 B2 JP5940306 B2 JP 5940306B2
Authority
JP
Japan
Prior art keywords
magnification
image
region
unit
observation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012005313A
Other languages
English (en)
Other versions
JP2013144008A (ja
Inventor
成剛 温
成剛 温
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2012005313A priority Critical patent/JP5940306B2/ja
Priority to US13/738,178 priority patent/US20130184530A1/en
Publication of JP2013144008A publication Critical patent/JP2013144008A/ja
Application granted granted Critical
Publication of JP5940306B2 publication Critical patent/JP5940306B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00174Optical arrangements characterised by the viewing angles
    • A61B1/00181Optical arrangements characterised by the viewing angles for multiple fixed viewing angles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、内視鏡装置及び内視鏡装置の作動方法等に関する。
内視鏡装置では、被写体の広い範囲を観察する必要があるため、広角の光学系が用いられている。例えば、特許文献1には、観察範囲の中央部及び中央部よりも外側の範囲の両方を同時に観察できる状態と、中央部のみを観察できる状態とを、可変絞りにより切換える広角光学系が開示されている。内視鏡装置に用いる場合には、中央部及びその外側の範囲の両方を観察できる状態は、大腸のヒダ裏観察に有効であり、今まで見落としていた病変の発見を期待できる。
特開2010−117665号公報
さて、内視鏡装置では、画像全体の状況を俯瞰的に確認するために、画像全体の明るさを考慮して照明光の調光が行われる。しかしながら、広角の光学系では、画像全体の明るさを考慮した調光は必ずしも適切ではないという課題がある。例えば、観察倍率を増加させて拡大観察を行う際には、ユーザーは観察範囲の中央部を観察対象としている場合が多いが、画像全体の明るさを考慮してしまうと観察対象に対して最適に調光されないという課題がある。
本発明の幾つかの態様によれば、観察対象に対して最適に調光することが可能な内視鏡装置及び調光制御方法等を提供できる。
本発明の一態様は、観察範囲の少なくとも中央部における観察倍率が可変である対物光学系と、前記観察倍率の制御を行う倍率制御部と、前記観察倍率が、第1の倍率よりも高い第2の倍率である場合には、前記観察倍率が前記第1の倍率である場合に比べて、前記観察範囲の中央部に対応する画像の中央部をより重視した測光処理を行い、前記測光処理の結果に基づいて前記画像の明るさを調整する制御を行う調光制御部と、を含む内視鏡装置に関係する。
本発明の一態様によれば、観察倍率が第1の倍率である場合よりも、観察倍率が第1の倍率より高い第2の倍率である場合の方が、画像の中央部をより重視した測光処理が行われる。これにより、観察対象に対して最適に調光することが可能になる。
また本発明の他の態様は、観察範囲の少なくとも中央部における観察倍率が可変である対物光学系の前記観察倍率の制御を行い、前記観察倍率が、第1の倍率よりも高い第2の倍率である場合には、前記観察倍率が前記第1の倍率である場合に比べて、前記観察範囲の中央部に対応する画像の中央部をより重視した測光処理を行い、前記測光処理の結果に基づいて前記画像の明るさを調整する制御を行う調光制御方法に関係する。
第1の実施形態における内視鏡装置の構成例。 撮像画像の構成例。 対物光学系の詳細な構成例。 第1の実施形態における倍率制御部の詳細な構成例。 調光制御部の詳細な構成例。 サンプリング処理についての説明図。 サンプリング処理についての説明図。 サンプリング処理についての説明図。 調光処理部の詳細な構成例。 第2の実施形態における内視鏡装置の構成例。 第2の実施形態における倍率制御部の詳細な構成例。
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.第1の実施形態
1.1.内視鏡装置
図1に、第1の実施形態における内視鏡装置の構成例を示す。内視鏡装置は、挿入部102(広義には撮像部)、制御装置1000(プロセッサ部)を含む。
挿入部102は、消化管等の体腔内の撮像を行う。挿入部102は、ライトガイド103、対物光学系201、撮像素子203を含む。
制御装置1000は、内視鏡装置の制御や画像処理を行う。制御装置1000は、光源部104、A/D変換部204、デジタルゲイン制御部205、画像処理部206、表示部207、倍率制御部208、光源制御部209、調光制御部210、制御部211、外部I/F部212を含む。
A/D変換部204は、デジタルゲイン制御部205および調光制御部210へ接続している。デジタルゲイン制御部205は、画像処理部206を介して表示部207へ接続している。倍率制御部208は、調光制御部210、対物光学系201へ接続している。調光制御部210は、デジタルゲイン制御部205へ接続しており、光源制御部209と双方向に接続している。光源制御部209は、光源部104へ接続している。制御部211は、A/D変換部204、デジタルゲイン制御部205、画像処理部206、表示部207、倍率制御部208、光源制御部209、調光制御部210、及び外部I/F部212と双方向に接続している。
挿入部102は、内視鏡診察や治療に適用するため、体内に挿入できるように湾曲が可能で細長い形状になっている。挿入部102は、制御装置300に対して着脱可能となっている。医師(広義にはユーザー、観察者)は、診察目的に応じて複数種類のスコープ(挿入部102)の中から必要なスコープを選択し、選択したスコープを制御装置300に装着して診察或は治療を行う。
光源部104が出射する光は、湾曲可能なライトガイド103を経由して被写体101へ照射される。挿入部102の先端部には、対物光学系201が配置されており、被写体101からの反射光は、対物光学系201を介して撮像素子203に入射される。
対物光学系201は、中央視野(観察範囲の中央部)を観察するための第1光学系と、側方視野(観察範囲の中央部以外の部分、観察範囲の周辺部)を観察するための第2光学系との二系統から構成される広角光学系である。対物光学系201を通して2つの異なる範囲の視野を同時に撮像できる。対物光学系201については、詳細に後述する。
中央視野及び側方視野における被写体101からの反射光は、対物光学系201を介して、撮像素子203に光学像として結像する。撮像素子203により出力されたアナログ画像信号はA/D変換部204へ転送される。例えば、撮像素子203は、RGB3チャンネルの撮像素子であり、RGB3チャンネルのアナログ画像信号を出力する。A/D変換部204は、撮像素子203からのアナログ画像信号をデジタル化してデジタル画像信号(以下、適宜「撮像画像」又は単に「画像」と呼ぶ)としてデジタルゲイン制御部205および調光制御部210へ転送する。
図2に、本実施形態により撮像される画像の構成例を示す。画像中央部の領域である中央領域R1(広義には第1領域)は、第1光学系の観察範囲である中央視野に対応する領域である。画像中央部以外(周辺部)の領域である周辺領域R2(広義には第2領域)は、第2光学系の観察範囲である側方視野に対応する領域である。
倍率制御部208は、挿入部102の観察倍率(撮像倍率)を制御する。倍率制御部208の詳細については後述する。調光制御部210は、観察倍率及び撮像画像に基づいて調光制御を行う。具体的には、観察倍率が所定倍率よりも高い場合には、画像の中央領域R1を重視した調光を行う。例えば、中央領域R1を重視した調光として、中央重点測光処理を行う。ここで、中央重点測光処理とは、観察範囲の中央部を重点的に測光する処理のことであり、少なくとも本明細書に記載する測光処理(明るさ評価値を求める処理)を含むものとする。調光制御部210の詳細については後述する。
光源制御部209は、調光制御部210による制御に基づいて、光源部104が出射する光量を調整する。デジタルゲイン制御部205は、調光制御部210による制御に基づいて、撮像画像に対してデジタルゲインによる明るさ(例えば輝度)調整を行う。
画像処理部206は、制御部211による制御に基づいて、デジタルゲイン制御部205により処理された画像に対して画像処理(例えば公知の画像処理)を行う。例えば、画像処理部206は、ホワイトバランス処理、カラーマネージメント処理、階調変換処理などを行う。画像処理部206は、処理後のRGB画像を表示部207へ転送する。表示部207は、そのRGB画像を表示する。
制御部211は内視鏡装置の各部の制御を行う。外部I/F部212には、医師からの操作情報が入力され、その操作情報は制御部211に対して出力される。
1.2.対物光学系
図3に、対物光学系201の詳細な構成例を示す。対物光学系201は、部材LB1〜LB3により構成される。観察範囲の中央部に対応する中央視野から部材LB1に入射する光は、部材LB1〜LB3により屈折され、撮像素子203に結像される。この中央視野を結像する光学系が、上述した第1光学系に対応する。また、観察範囲の周辺部に対応する側方視野から部材LB2に入射する光は、部材LB3、LB2により反射され、撮像素子203に結像される。この側方視野を結像する光学系が、上述した第2光学系に対応する。倍率制御部208により、中央視野(第1光学系)の観察倍率のみが制御され、側方視野(第2光学系)の観察倍率は制御されない。
なお、第1光学系と第2光学系は、必ずしも別個の構成要素として区別される必要はなく、図3に示すように共通の構成要素により実現されてもよい。また、中央視野だけでなく側方視野の観察倍率が制御されてもよい。この場合、観察倍率と所定倍率の比較は、少なくとも中央視野の観察倍率と所定倍率とを比較すればよい。
1.3.倍率制御部
図4に、倍率制御部208の詳細な構成例を示す。倍率制御部208は、光学系倍率制御部301、倍率判断部302、ROM303(広義にはメモリー、記憶部)を含む。
光学系倍率制御部301は、対物光学系201及び倍率判断部302へ接続している。倍率判断部302は、調光制御部210へ接続している。ROM303は倍率判断部302へ接続している。制御部211は、光学系倍率制御部301、倍率判断部302及びROM303と双方向に接続している。
ユーザーは、外部I/F部212を介して観察倍率を調整する。制御部211は、その情報を受けて光学系倍率制御部301を制御し、光学系倍率制御部301が対物光学系201の観察倍率を制御する。上述のように、中央視野に対応する第1光学系の観察倍率が調整される。
倍率判断部302は、光学系倍率制御部301からの観察倍率と、ROM303からの拡大倍率閾値(所定閾値)を、制御部211からの制御に基づいて取得する。倍率判断部302は、観察倍率と拡大倍率閾値を比較し、その結果を調光制御部210へ転送する。なお、装着されたスコープ(挿入部102)の種類に応じて、拡大倍率閾値は異なる。
1.4.調光制御部
図5に、調光制御部210の詳細な構成例を示す。調光制御部210は、調光切替部401、サンプリング部402、ゲイン算出部403、調光処理部404(明るさ制御部)、ROM405を含む。
倍率判断部302は、調光切替部401、サンプリング部402、ゲイン算出部403及び調光処理部404を介してデジタルゲイン制御部205へ接続している。調光処理部404は、光源制御部209と双方向に接続している。ROM405は、サンプリング部402、ゲイン算出部403、及び調光処理部404へ接続している。A/D変換部204は、サンプリング部402へ接続している。制御部211は、調光切替部401、サンプリング部402、ゲイン算出部403、調光処理部404、ROM405と双方向に接続している。
調光切替部401は、制御部211からの制御に基づいて、倍率判断部302からの観察倍率と拡大倍率閾値の比較情報を用いて、調光の制御を切り替える。具体的には、調光切替部401は、観察倍率が拡大倍率閾値より小さい場合には、画像全体(画像の中央部、及び画像の周辺部)の明るさを考慮した調光処理に切り替える。一方、観察倍率が拡大倍率閾値より大きい又は同一である場合には、画像の中央部の明るさを重視した調光処理に切り替える。調光切替部401は、これらの切り替えを指示する信号を、サンプリング部402に対して出力する。
図6に示すように、サンプリング部402は、観察倍率が拡大倍率閾値より小さい場合には、画像全体から均等に明るさ情報をサンプリングする。なお以下では、サンプリング対象が、画像の中のG信号であり、明るさ情報が画素値である場合を例に説明するが、本実施形態はこれに限定されない。
サンプリング部402は、サンプリング対象となる領域SA(以下、サンプリング領域と呼ぶ)を、所定の間隔Dで画像全体に設定する。1つのサンプリング領域SAは、1画素であってもよいし、複数画素を含む領域であってもよい。間隔Dの情報は、予めROM405に保存されており、サンプリング部402がROM405から読み出す。サンプリング部402は、各サンプリング領域SAから画素値を取得し、その画素値を加算平均した値Avgを算出する。
図7に示すように、サンプリング部402は、観察倍率が拡大倍率閾値より大きい又は同一である場合には、画像の中央領域R1のみから画素値をサンプリングする。具体的には、サンプリング部402は、サンプリング領域SAを、所定の間隔Dで中央領域R1に設定し、各サンプリング領域SAから画素値を取得し、その画素値を加算平均した値Avgを算出する。画像の中央部に対応する中央領域R1の情報は、予めROM405に保存されており、サンプリング部402がROM405から読み出す。サンプリング部402は、加算平均値Avgをゲイン算出部403へ転送する。
なお、観察倍率が拡大倍率閾値より小さい場合における加算平均値Avgの算出手法は、上記に限定されず、画像の中央部を重視する種々の手法を適用できる。例えば、以下に述べる変形例のように加算平均値Avgを算出してもよい。
第1の変形例では、図8に示すように、サンプリング部402は、中央領域R1と周辺領域R2とで異なる間隔でサンプリング領域SAを設定してもよい。即ち、中央領域R1では間隔Dでサンプリング領域SAを設定し、周辺領域R2では、間隔2Dでサンプリング領域SAを設定してもよい。
第2の変形例では、下式(1)に示すように、中央領域R1からサンプリングした画素値と、周辺領域R2からサンプリングした画素値とに対して、それぞれ異なる重み係数を乗算し、加算平均を行ってもよい。下式(1)において、Wcは、中央領域R1における重み係数であり、Wsは、周辺領域R2における重み係数であり、Wc>Wsである。
Figure 0005940306
ここで、i,jはそれぞれ、中央領域R1においてサンプリング対象となる画素の横軸座標、縦軸座標である。k,lはそれぞれ、周辺領域R2においてサンプリング対象となる画素の横軸座標、縦軸座標である。Vcは、中央領域R1からサンプリングした画素値である。Vsは、周辺領域R2からサンプリングした画素値である。mは、中央領域R1においてサンプリング対象となる画素の数である。nは、周辺領域R2においてサンプリング対象となる画素の数である。
第3の変形例では、サンプリング部402は、画像の中心画素からの距離に比例した重み係数を設定してもよい。この場合、サンプリング部402は、画像の中心画素からサンプリング領域SAまでの距離が大きいほど、重み係数を小さくする。
ゲイン算出部403は、制御部211からの制御に基づいて、サンプリング部402からの加算平均値AvgとROM405からの調光基準値Bvとを用いて、下式(2)により明るさゲイン値Gvを算出し、Gvを調光処理部404へ転送する。
Gv=Bv/Avg (2)
調光処理部404は、照明光の強度、及び画像に対するデジタルゲインの少なくとも一方を、明るさゲイン値Gvに基づいて調整することにより、画像の明るさを調整する。図9に、調光処理部404の詳細な構成例を示す。調光処理部404は、光源強度倍率算出部501、デジタルゲイン算出部502を含む。
ゲイン算出部403は、光源強度倍率算出部501、デジタルゲイン算出部502を介してデジタルゲイン制御部205へ接続している。ROM405は、光源強度倍率算出部501、デジタルゲイン算出部502へ接続している。光源強度倍率算出部501は、光源制御部209と双方向に接続している。制御部211は、光源強度倍率算出部501、デジタルゲイン算出部502と双方向に接続している。
光源強度倍率算出部501は、制御部211からの制御に基づいて、現在の光源強度Lvと、光源部104の最大強度MAXvとから、下式(3)に示す最大倍率Rmを算出する。現在の光源強度Lvは、光源制御部209から出力される。最大強度MAXvは、ROM405に記憶されている。
Rm=MAXv/Lv (3)
光源強度倍率算出部501は、最大倍率Rmと明るさゲイン値Gvを比較する。最大倍率Rmが明るさゲイン値Gvより大きい又は同一である場合、光源強度倍率をGvに設定する。この場合、デジタルゲイン算出部502は、制御部211からの制御に基づいて、デジタルゲイン値Dvを1に設定する。一方、光源強度倍率算出部501は、最大倍率Rmが明るさゲイン値Gvより小さい場合、光源強度倍率をRmに設定する。この場合、デジタルゲイン算出部502は、制御部211からの制御に基づいて、下式(4)によりデジタルゲイン値Dvを算出する。光源強度倍率算出部501は、光源強度倍率を光源制御部209へ転送し、デジタルゲイン値Dvをデジタルゲイン制御部205へ転送する。
Dv=Gv/Rm (4)
光源制御部209は、光源強度倍率に基づいて、光源部104から出射される光の強度を調整する。
デジタルゲイン制御部205は、制御部211からの制御に基づいて、下式(5)に示すように画像に対してデジタルゲイン値Dvを乗算する処理を行う。デジタルゲイン制御部205は、乗算処理後の画像を画像処理部206へ転送する。
R’(q,p)=R(q,p)*Dv,
G’(q,p)=G(q,p)*Dv,
B’(q,p)=B(q,p)*Dv (5)
ここで、qは、画像における画素の横軸座標である。pは、画像における画素の縦軸座標である。R、G、Bは乗算処理前の画素値である。R’、G’、B’は乗算処理後の画素値である。
上記では、観察倍率に応じて自動的に調光手法を切り替える場合を例に説明したが、本実施形態はこれに限定されない。例えば、医師が外部I/F部212を介して、観察状況に応じて手動で調光手法を制御する構成にしてもよい。
以上の実施形態によれば、図1に示すように、内視鏡装置は、対物光学系201と、倍率制御部208と、調光制御部210を含む。対物光学系201は、観察範囲の少なくとも中央部における観察倍率が可変である。倍率制御部221は、観察倍率の制御を行う。調光制御部210は、観察倍率が、第1の倍率よりも高い第2の倍率である場合には、観察倍率が第1の倍率である場合に比べて、観察範囲の中央部に対応する画像の中央部をより重視した測光処理を行い、測光処理の結果に基づいて画像の明るさを調整する制御を行う。
例えば本実施形態では、観察範囲の中央部に対応する中央視野の観察倍率が可変である。又は、第2の実施形態で後述するように、観察範囲全体の観察倍率が可変であってもよい。また本実施形態では、第1の倍率は所定倍率(拡大倍率閾値)よりも小さい倍率であり、第2の倍率は、所定倍率よりも大きい倍率である。なお本実施形態はこれに限定されず、中央部を重視する度合いが観察倍率に応じて連続的に変化し、第1の倍率より第2の倍率の方が重視する度合いが大きくなるように調光してもよい。
ここで、「画像の中央部を重視した測光処理」とは、画像の明るさが測光処理の結果(例えば加算平均値Avg)に与える影響が、画像の周辺部よりも画像の中央部の方が大きい測光処理のことである。例えば、観察範囲の中央部により重点をおいた測光処理(中央重点測光処理)、あるいは、観察範囲の中央部における測光の重み付けをより高くした測光処理である。
このようにすれば、医者の観察状況に応じて適応的に調光処理を行うことができるため、病変部の視認性の向上に貢献できる。即ち、観察倍率が大きい場合には、医師が病変部(広義には注目領域)を拡大観察したいと考え、病変部を視野中央部に納めている状況が想定される。この場合、視野全体で調光を行うと、例えば周辺部に暗い領域があると明るい中央部が飽和するという課題がある。この点、本実施形態によれば、観察倍率が大きい場合に中央部を重視するため、視野中央部を適切な明るさに調光できる。特に図3の光学系では、視野中央部のみが拡大されるため、医師の関心が視野中央部にある可能性が非常に高い。
また本実施形態では、調光制御部210は、評価値取得部(図5のサンプリング部402)を有する。図6等で説明したように、評価値取得部は、明るさの評価値(加算平均値Avg)を取得するための取得対象画素又は取得対象領域(サンプリング領域SA)を画像に設定し、設定した取得対象画素又は取得対象領域の画素値に基づいて評価値を取得する。図7、図8、第1〜第3の変形例で説明したように、評価値取得部は、観察倍率が第2の倍率である場合、画像の少なくとも中央部に取得対象画素又は取得対象領域を設定して評価値を取得する処理を、測光処理として行う。調光制御部210は、評価値に基づいて画像の明るさを調整する制御を行う。
このようにすれば、画像の少なくとも中央部に取得対象画素又は取得対象領域を設定して評価値を取得することにより、画像の中央部を重視した測光処理が可能となる。即ち、取得対象画素又は取得対象領域の設定手法を観察倍率に応じて制御することで、画像の中央部を重視した評価値を取得できる。
具体的には、評価値取得部(サンプリング部402)は、観察倍率が第2倍率である場合、画像の中央部において、画像の中央部以外の部分よりも、取得対象画素又は取得対象領域(サンプリング領域SA)の数を多く設定する。
例えば、調光制御部210は、領域設定部(図5のサンプリング部402)を有する。図7で説明したように、領域設定部は、画像の中央部に対応する領域である中央領域R1と、中央領域R1よりも外側の領域である周辺領域R2とを画像に設定する。評価値取得部は、所定倍率(拡大倍率閾値)よりも低い第1の倍率である場合には、中央領域R1及び周辺領域R2に取得対象画素又は取得対象領域を設定し、所定倍率よりも高い第2の倍率である場合には、周辺領域R2に取得対象画素又は取得対象領域を設定せずに中央領域R1に取得対象画素又は取得対象領域を設定する。
このようにすれば、サンプリングする取得対象画素又は取得対象領域の数を制御することにより、画像の中央部を重視した調光を実現できる。例えば、周辺領域R2に設定する取得対象画素又は取得対象領域の数を、正の数とゼロで切り替えることにより、画像全体を考慮した調光と中央部を重視した調光を切り替えることができる。
又は、評価値取得部は、観察倍率が第2倍率である場合、画像の中央部において、画像の中央部以外の部分よりも、取得対象画素又は取得対象領域の密度を大きく(間隔を小さく)設定する。
ここで、取得対象画素又は取得対象領域の密度とは、領域に設定された取得対象画素又は取得対象領域の個数と、その領域の面積との比である。あるいは、領域に設定された取得対象画素又は取得対象領域に含まれる画素の数と、その領域に含まれる画素の総数との比である。
例えば、第1の変形例(図8)で説明したように、評価値取得部は、所定倍率よりも低い第1の倍率である場合には、中央領域R1及び周辺領域R2において同一の密度(間隔D)を設定し、所定倍率よりも高い第2の倍率である場合には、周辺領域R2よりも中央領域R1における密度を大きくする(間隔2D)。
このようにすれば、サンプリングする取得対象画素又は取得対象領域の密度を制御することにより、画像の中央部を重視した調光を実現できる。例えば、中央領域R1での密度と周辺領域R2での密度との比(本実施形態では、1:1、2:1)を切り替えることにより、画像全体を考慮した調光と中央部を重視した調光を切り替えることができる。
又は、評価値取得部は、観察倍率が第2倍率である場合、画像の中央部において、画像の中央部以外の部分よりも、取得対象画素又は取得対象領域の画素値に対する重み係数を大きくし、重み係数により重み付けされた画素値に基づいて評価値を取得する。
例えば、第2の変形例(上式(1))で説明したように、評価値取得部は、所定倍率よりも低い第1の倍率である場合には、中央領域R1及び周辺領域R2において同一の重み係数を設定し、所定倍率よりも高い第2の倍率である場合には、周辺領域R2よりも中央領域R1における重み係数を大きくする。
あるいは、第3の変形例で説明したように、評価値取得部は、観察倍率が第2倍率である場合、画像の中心に近いほど大きくなる重み係数を設定する。
このようにすれば、サンプリングした画素値に乗じる重み係数を制御することにより、画像の中央部を重視した調光を実現できる。例えば、中央領域R1での重み係数と周辺領域R2での重み係数との比(本実施形態では、Wc:Ws)を変更すること、又は、画像中心からの距離に対する重み係数の分布を変更することにより、画像全体を考慮した調光と中央部を重視した調光を切り替えることができる。
また本実施形態では、調光制御部210は、照明光の強度、及び画像のデジタルゲインの少なくとも一方を、測光処理の結果に基づいて制御することにより、画像の明るさを調整する。
例えば本実施形態では、上式(2)、(3)で説明したように、光源制御部209が、光源部104の出射光量を制御することにより、照明光の強度を制御する。上式(4)で説明したように、デジタルゲイン制御部205がデジタルゲインを制御する。
このようにすれば、画像の中央部を重視して求めた評価値(加算平均値Avg)に基づいて、調光処理を行うことができる。また、デジタルゲインを併用した場合、照明光の強度が最大となる場合であっても、さらに画像を明るくすることが可能である。
2.第2の実施形態
2.1.内視鏡装置
図10に、第2の実施形態における内視鏡装置の構成例を示す。内視鏡装置は、挿入部102、制御装置1000を含む。挿入部102は、ライトガイド103、撮像素子203、対物光学系220(対物レンズ)を含む。制御装置1000は、光源部104、A/D変換部204、デジタルゲイン制御部205、画像処理部206、表示部207、光源制御部209、調光制御部210、制御部211、外部I/F部212、倍率制御部221を含む。
なお以下では、第1の実施形態と同一の構成要素については、同一の符号を付し、適宜説明を省略する。
デジタルゲイン制御部205は、画像処理部206、倍率制御部221を介して表示部207へ接続している。倍率制御部221は、調光制御部210へ接続している。制御部211は、A/D変換部204、デジタルゲイン制御部205、画像処理部206、表示部207、倍率制御部221、光源制御部209、調光制御部210、及び外部I/F部212と双方向に接続している。
対物光学系220は、撮像できる範囲が空間的に180度を超える魚眼レンズである。第1の実施形態では、画像の中央領域と画像の周辺領域は、それぞれ第1光学系の視野と第2光学系の視野に対応していたが、第2の実施形態では、画像の中央領域と画像の周辺領域は、画像の中央部と画像の周辺部を所定の境界線で分割した領域である。
倍率制御部221は、画像に対して電子ズームを行うことにより、観察倍率を制御する。図12に、倍率制御部221の詳細な構成例を示す。倍率制御部221は、倍率判断部302、ROM303、電子ズーム倍率制御部601を含む。
画像処理部206は、電子ズーム倍率制御部601、倍率判断部302を介して調光制御部210へ接続している。ROM303は倍率判断部302へ接続している。電子ズーム倍率制御部601は、表示部207へ接続している。制御部211は、電子ズーム倍率制御部601、倍率判断部302及びROM303と双方向に接続している。
電子ズーム倍率制御部601は、画像処理部206からの画像を拡大縮小する画像処理を行い、処理後の画像を表示部207へ転送する。拡大縮小の倍率は観察倍率に対応しており、観察倍率は、ユーザーが外部I/F部212を介して指示する。制御部211は、その指示に基づいて電子ズーム倍率制御部601を制御する。倍率判断部302は、制御部211からの制御に基づいて、電子ズーム倍率制御部601からの観察倍率と、ROM303からの拡大倍率閾値とを比較する。倍率判断部302は、比較結果を調光制御部210へ転送する。なお、内視鏡スコープの種類に応じて、拡大倍率閾値は異なる。
調光制御部210は、第1の実施形態と同様に、観察倍率が拡大倍率閾値より大きい又は同一である場合には、画像の中央部を重視した調光処理を行う。魚眼レンズを用いるため観察範囲には境界がないが、画像には、中央部に対応する中央領域R1と、周辺部に対応する周辺領域R2とを設定する。領域を設定する情報は、例えばROM405に予め記憶しておき、サンプリング部402が、その情報を読み出してサンプリング処理を行えばよい。なお、中央領域R1を設定する調光制御に限定されず、第1実施形態の第3変形例で説明したように、画像の中心画素に近いほど重み係数を大きくする調光制御を行ってもよい。
ここで、第1、第2の実施形態では対物光学系の画角が180度を超えるとしたが、本実施形態は、画角が180度以下の対物光学系にも適用可能である。
以上の実施形態によれば、魚眼レンズを用いた場合に、観察倍率が大きいときに画像の中央部を重視した調光を行うことで、視野中央部を適切な明るさに調光できる。これにより、医者の観察状況に応じて適応的に調光処理を行うことができるため、病変部の視認性の向上に貢献できる。
また本実施形態では、倍率制御部208は、対物光学系の観察倍率を制御する光学系倍率制御部301(図4)と、画像に対する電子ズームの拡大倍率を制御する電子ズーム倍率制御部601(図11)と、のうち少なくとも一方を有する。
これにより、光学ズーム及び電子ズームの少なくとも一方により、観察倍率を可変に制御できる。なお、第1、第2の実施形態では、図3の光学系と光学ズーム、又は魚眼レンズと電子ズームの組み合わせを例に説明したが、これに限定されず、図3の光学系と電子ズーム、又は魚眼レンズと光学ズームを組み合わせてもよい。また、光学ズームと電子ズームを組み合わせてもよい。この場合、観察倍率は、光学ズームと電子ズームの倍率を乗算した値となる。
以上、本発明を適用した実施形態およびその変形例について説明したが、本発明は、各実施形態やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施形態や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
また、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。
101 被写体、102 挿入部、103 ライトガイド、104 光源部、
201,220 対物光学系、203 撮像素子、204 A/D変換部、
205 デジタルゲイン制御部、206 画像処理部、207 表示部、
208,221 倍率制御部、209 光源制御部、210 調光制御部、
211 制御部、212 外部I/F部、300 制御装置、
301 光学系倍率制御部、302 倍率判断部、401 調光切替部、
402 サンプリング部、403 ゲイン算出部、404 調光処理部、
501 光源強度倍率算出部、502 デジタルゲイン算出部、
601 電子ズーム倍率制御部、
Avg 加算平均値、Bv 調光基準値、D 間隔、Dv デジタルゲイン値、
Gv 明るさゲイン値、LB1〜LB3 部材、Lv 光源強度、
MAXv 最大強度、R1 中央領域、R2 周辺領域、Rm 最大倍率、
SA サンプリング領域

Claims (18)

  1. 観察範囲の少なくとも中央部における観察倍率が可変である対物光学系と、
    前記観察倍率の制御を行う倍率制御部と、
    前記観察倍率が、第1の倍率よりも高い第2の倍率である場合には、前記観察倍率が前記第1の倍率である場合に比べて、前記観察範囲の中央部に対応する画像の中央部をより重視した測光処理を行い、前記測光処理の結果に基づいて前記画像の明るさを調整する制御を行う調光制御部と、
    を含むことを特徴とする内視鏡装置。
  2. 請求項1において、
    前記調光制御部は、
    前記明るさの評価値を取得するための取得対象画素又は取得対象領域を前記画像に設定し、設定した前記取得対象画素又は前記取得対象領域の画素値に基づいて前記評価値を取得する評価値取得部を有し、
    前記評価値取得部は、
    前記観察倍率が前記第2の倍率である場合、前記画像の少なくとも中央部に前記取得対象画素又は前記取得対象領域を設定して前記評価値を取得する処理を、前記測光処理として行い、
    前記調光制御部は、
    前記評価値に基づいて前記画像の明るさを調整する制御を行うことを特徴とする内視鏡装置。
  3. 請求項2において、
    前記評価値取得部は、
    前記観察倍率が前記第2倍率である場合、前記画像の中央部において、前記画像の中央部以外の部分よりも、前記取得対象画素又は前記取得対象領域の数を多く設定することを特徴とする内視鏡装置。
  4. 請求項3において、
    前記調光制御部は、
    前記画像の中央部に対応する領域である中央領域と、前記中央領域よりも外側の領域である周辺領域とを前記画像に設定する領域設定部を有し、
    前記評価値取得部は、
    所定倍率よりも低い前記第1の倍率である場合には、前記中央領域及び前記周辺領域に前記取得対象画素又は前記取得対象領域を設定し、前記所定倍率よりも高い前記第2の倍率である場合には、前記周辺領域に前記取得対象画素又は前記取得対象領域を設定せずに前記中央領域に前記取得対象画素又は前記取得対象領域を設定することを特徴とする内視鏡装置。
  5. 請求項2において、
    前記評価値取得部は、
    前記観察倍率が前記第2倍率である場合、前記画像の中央部において、前記画像の中央部以外の部分よりも、前記取得対象画素又は前記取得対象領域の密度を大きく設定することを特徴とする内視鏡装置。
  6. 請求項5において、
    前記調光制御部は、
    前記画像の中央部に対応する領域である中央領域と、前記中央領域よりも外側の領域である周辺領域とを前記画像に設定する領域設定部を有し、
    前記評価値取得部は、
    所定倍率よりも低い前記第1の倍率である場合には、前記中央領域及び前記周辺領域において同一の前記密度を設定し、前記所定倍率よりも高い前記第2の倍率である場合には、前記周辺領域よりも前記中央領域における前記密度を大きくすることを特徴とする内視鏡装置。
  7. 請求項2において、
    前記評価値取得部は、
    前記観察倍率が前記第2倍率である場合、前記画像の中央部において、前記画像の中央部以外の部分よりも、前記取得対象画素又は前記取得対象領域の前記画素値に対する重み係数を大きくし、前記重み係数により重み付けされた前記画素値に基づいて前記評価値を取得することを特徴とする内視鏡装置。
  8. 請求項7において、
    前記調光制御部は、
    前記画像の中央部に対応する領域である中央領域と、前記中央領域よりも外側の領域である周辺領域とを前記画像に設定する領域設定部を有し、
    前記評価値取得部は、
    所定倍率よりも低い前記第1の倍率である場合には、前記中央領域及び前記周辺領域において同一の前記重み係数を設定し、前記所定倍率よりも高い前記第2の倍率である場合には、前記周辺領域よりも前記中央領域における前記重み係数を大きくすることを特徴とする内視鏡装置。
  9. 請求項7において、
    前記評価値取得部は、
    前記観察倍率が前記第2倍率である場合、前記画像の中心に近いほど大きくなる前記重み係数を設定することを特徴とする内視鏡装置。
  10. 請求項1において、
    前記調光制御部は、
    照明光の強度、及び前記画像のデジタルゲインの少なくとも一方を、前記測光処理の結果に基づいて制御することにより、前記画像の前記明るさを調整することを特徴とする内視鏡装置。
  11. 請求項1において、
    前記対物光学系は、
    180度よりも大きい画角を有することを特徴とする内視鏡装置。
  12. 請求項11において、
    前記対物光学系は、
    魚眼レンズであることを特徴とする内視鏡装置。
  13. 請求項12において、
    前記調光制御部は、
    前記画像の中央部に対応する領域である中央領域と、前記中央領域よりも外側の領域である周辺領域とを設定するための領域設定情報を記憶する記憶部と、
    前記領域設定情報に基づいて、前記中央領域と前記周辺領域を前記画像に設定する領域設定部と、
    を有することを特徴とする内視鏡装置。
  14. 請求項11において、
    前記対物光学系は、
    前記観察範囲の中央部を結像するレンズ光学系と、
    前記観察範囲の中央部よりも外側の範囲を結像する反射光学系と、
    を有することを特徴とする内視鏡装置。
  15. 請求項14において、
    前記調光制御部は、
    前記レンズ光学系が結像する前記観察範囲に対応する領域である中央領域と、前記反射光学系が結像する前記観察範囲に対応する領域である周辺領域とを設定するための領域設定情報を記憶する記憶部と、
    前記領域設定情報に基づいて、前記中央領域と前記周辺領域を前記画像に設定する領域設定部と、
    を有することを特徴とする内視鏡装置。
  16. 請求項1において、
    前記倍率制御部は、
    前記観察倍率が、所定倍率よりも低い前記第1の倍率であるか、前記所定倍率よりも高い前記第2の倍率であるかを判断する倍率判断部を有し、
    前記調光制御部は、
    前記倍率判断部での判断結果に基づいて前記測光処理を行うことを特徴とする内視鏡装置。
  17. 請求項1において、
    前記倍率制御部は、
    前記対物光学系の前記観察倍率を制御する光学系倍率制御部と、
    前記画像に対する電子ズームの拡大倍率を制御する電子ズーム倍率制御部と、
    のうち少なくとも一方を有することを特徴とする内視鏡装置。
  18. 内視鏡装置が、観察範囲の少なくとも中央部における観察倍率が可変である対物光学系の前記観察倍率の制御を行い、
    前記内視鏡装置が、前記観察倍率が、第1の倍率よりも高い第2の倍率である場合には、前記観察倍率が前記第1の倍率である場合に比べて、前記観察範囲の中央部に対応する画像の中央部をより重視した測光処理を行い、前記測光処理の結果に基づいて前記画像の明るさを調整する制御を行うことを特徴とする内視鏡装置の作動方法
JP2012005313A 2012-01-13 2012-01-13 内視鏡装置及び内視鏡装置の作動方法 Active JP5940306B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012005313A JP5940306B2 (ja) 2012-01-13 2012-01-13 内視鏡装置及び内視鏡装置の作動方法
US13/738,178 US20130184530A1 (en) 2012-01-13 2013-01-10 Endoscope apparatus and brightness control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012005313A JP5940306B2 (ja) 2012-01-13 2012-01-13 内視鏡装置及び内視鏡装置の作動方法

Publications (2)

Publication Number Publication Date
JP2013144008A JP2013144008A (ja) 2013-07-25
JP5940306B2 true JP5940306B2 (ja) 2016-06-29

Family

ID=48780430

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012005313A Active JP5940306B2 (ja) 2012-01-13 2012-01-13 内視鏡装置及び内視鏡装置の作動方法

Country Status (2)

Country Link
US (1) US20130184530A1 (ja)
JP (1) JP5940306B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3108798A1 (en) * 2014-05-16 2016-12-28 Olympus Corporation Endoscopic system
JP6983067B2 (ja) * 2015-07-15 2021-12-17 ソニーグループ株式会社 医療用観察装置及び医療用観察方法
JP2018157918A (ja) * 2017-03-22 2018-10-11 ソニー株式会社 手術用制御装置、制御方法、手術システム、およびプログラム
JP7012549B2 (ja) * 2018-02-07 2022-01-28 オリンパス株式会社 内視鏡装置、内視鏡装置の制御方法、内視鏡装置の制御プログラム、および記録媒体
WO2020012564A1 (ja) * 2018-07-10 2020-01-16 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
JP7252023B2 (ja) * 2019-03-22 2023-04-04 ソニー・オリンパスメディカルソリューションズ株式会社 画像処理装置及び医療用観察システム
JP2022020501A (ja) 2020-07-20 2022-02-01 ソニーグループ株式会社 医療用アーム制御システム、医療用アーム制御方法及びプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0644687B1 (en) * 1993-09-17 2003-12-03 Canon Kabushiki Kaisha Image pickup apparatus
JPH09262206A (ja) * 1996-03-28 1997-10-07 Asahi Optical Co Ltd 電子内視鏡の照明制御装置
DE10130876B4 (de) * 2000-06-29 2007-11-08 Fujinon Corp. Elektronische Endoskopvorrichtung
JP2002010975A (ja) * 2000-06-29 2002-01-15 Fuji Photo Optical Co Ltd 電子内視鏡装置
JP2005252626A (ja) * 2004-03-03 2005-09-15 Canon Inc 撮像装置および画像処理方法
JP2006068322A (ja) * 2004-09-02 2006-03-16 Olympus Corp 内視鏡装置
JP4284448B2 (ja) * 2005-01-28 2009-06-24 富士フイルム株式会社 画像処理装置及び方法
JP4875319B2 (ja) * 2005-06-20 2012-02-15 オリンパスメディカルシステムズ株式会社 内視鏡
JP2007020762A (ja) * 2005-07-14 2007-02-01 Pentax Corp プロセッサ及び電子内視鏡システム
JP2009022375A (ja) * 2007-07-17 2009-02-05 Hoya Corp 電子内視鏡システム
JP2010246781A (ja) * 2009-04-17 2010-11-04 Hoya Corp 撮像装置、撮像装置における調光方法、および内視鏡システム
JP5498728B2 (ja) * 2009-06-09 2014-05-21 Hoya株式会社 医療用観察システム
CN102469930B (zh) * 2009-11-06 2014-09-10 奥林巴斯医疗株式会社 内窥镜系统
JP5606120B2 (ja) * 2010-03-29 2014-10-15 富士フイルム株式会社 内視鏡装置

Also Published As

Publication number Publication date
JP2013144008A (ja) 2013-07-25
US20130184530A1 (en) 2013-07-18

Similar Documents

Publication Publication Date Title
JP5940306B2 (ja) 内視鏡装置及び内視鏡装置の作動方法
JP5814698B2 (ja) 自動露光制御装置、制御装置、内視鏡装置及び内視鏡装置の作動方法
JP5856733B2 (ja) 撮像装置
JP6168879B2 (ja) 内視鏡装置、内視鏡装置の作動方法及びプログラム
JP5953187B2 (ja) 合焦制御装置、内視鏡システム及び合焦制御方法
EP2926718B1 (en) Endoscope system
JP5698476B2 (ja) 内視鏡システム、内視鏡システムの作動方法及び撮像装置
JP5663331B2 (ja) 制御装置、内視鏡装置、絞り制御方法及びプログラム
JP6137921B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN107613839A (zh) 内窥镜装置和内窥镜装置的工作方法
US20160128545A1 (en) Endoscope apparatus and method for controlling endoscope apparatus
US20140036050A1 (en) Imaging device and imaging method
JPWO2017072853A1 (ja) 撮像装置、内視鏡装置及び撮像装置の作動方法
JPWO2020178962A1 (ja) 内視鏡システム、画像処理装置、総処理時間検出方法および処理装置
JP2009240531A (ja) 撮影装置
JP2014228851A (ja) 内視鏡装置、画像取得方法および画像取得プログラム
JP2002528206A (ja) 画像照度の最適化
JP5498335B2 (ja) 撮像装置および内視鏡診断装置
JPWO2016088628A1 (ja) 画像評価装置、内視鏡システム、画像評価装置の作動方法および画像評価装置の作動プログラム
JP7179837B2 (ja) 内視鏡装置、内視鏡画像表示方法及び内視鏡装置の作動方法
WO2013061939A1 (ja) 内視鏡装置及びフォーカス制御方法
JP2024507108A (ja) 内視鏡カメラ関心領域の自動露出
WO2016039270A1 (ja) 内視鏡システム、内視鏡システムの作動方法
WO2016080351A1 (ja) 撮像装置、画像処理装置、撮像装置の作動方法
JP2012120618A (ja) 制御装置、内視鏡装置及び絞り制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150918

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160518

R151 Written notification of patent or utility model registration

Ref document number: 5940306

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250