JP6188721B2 - 蛍光観察装置 - Google Patents

蛍光観察装置 Download PDF

Info

Publication number
JP6188721B2
JP6188721B2 JP2014551989A JP2014551989A JP6188721B2 JP 6188721 B2 JP6188721 B2 JP 6188721B2 JP 2014551989 A JP2014551989 A JP 2014551989A JP 2014551989 A JP2014551989 A JP 2014551989A JP 6188721 B2 JP6188721 B2 JP 6188721B2
Authority
JP
Japan
Prior art keywords
image
fluorescence
unit
fluorescent
gradation value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014551989A
Other languages
English (en)
Other versions
JPWO2014091964A1 (ja
Inventor
康成 石原
康成 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2014091964A1 publication Critical patent/JPWO2014091964A1/ja
Application granted granted Critical
Publication of JP6188721B2 publication Critical patent/JP6188721B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2423Optical details of the distal end
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/26Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes using light guides
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N2021/6463Optics
    • G01N2021/6471Special filters, filter wheel
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/06Illumination; Optics
    • G01N2201/061Sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Optics & Photonics (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Astronomy & Astrophysics (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Signal Processing (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Description

本発明は、蛍光観察装置に関するものである。
従来、被写体の形態を撮影した白色光画像のような参照画像と、被写体からの蛍光を撮影することによって病変部を可視化した蛍光画像とを取得し、蛍光画像内の病変部を参照画像の上に重ねて表示する蛍光観察装置が知られている(例えば、特許文献1および2参照。)。
特許第4533673号公報 特開2005−204958号公報
特許文献1は、カラーの参照画像を構成する赤成分画像、緑成分画像、青成分画像のうちのいずれかに蛍光画像を加算することによって、病変部を赤、緑または青色の領域として参照画像上に表示している。この場合、病変部が表示されている領域において、参照画像は元の階調値の情報、すなわち被写体の形態の情報を含んでいるため、病変部の形態も観察することができるという利点があるが、病変部の視認性を十分に確保することが難しいという不都合がある。一方、特許文献2は、参照画像の病変部の領域を擬似カラーによって塗りつぶしている。この場合、病変部の視認性は良好になるという利点があるが、擬似カラーによって参照画像内の病変部の形態の観察が妨げられてしまうという不都合がある。
本発明は、上述した事情に鑑みてなされたものであって、参照画像を用いた病変部の観察を妨げることなく病変部を視認性良く参照画像上に表示することができる蛍光観察装置を提供することを目的とする。
上記目的を達成するため、本発明は以下の手段を提供する。
本発明は、被写体に参照光および励起光を照射する光源と、該光源からの前記励起光の照射によって前記被写体において発生した蛍光を撮影して蛍光画像を生成する蛍光画像生成部と、前記光源からの前記参照光の照射によって前記被写体から戻る戻り光を撮影してカラーの参照画像を生成する参照画像生成部と、前記蛍光画像生成部によって生成された前記蛍光画像から所定の閾値以上の階調値を有する蛍光領域を抽出する抽出部と、該抽出部によって抽出された前記蛍光領域と対応する領域に、前記蛍光領域の階調値に応じた変化量で視覚的に時間変化する効果を発生させるように時刻によって異なる階調値を付与したフレーム画像を生成する動き効果生成部と、前記参照画像を構成する複数の色成分画像のうち少なくとも1つに前記動き効果生成部によって生成された前記フレーム画像を加算し、該フレーム画像が加算された色成分画像を含む複数の前記色成分画像から合成画像を合成する合成部とを備える蛍光観察装置を提供する。
本発明によれば、光源からの参照光の照射によって被写体の形態を撮影した参照画像が参照画像生成部によって取得される。一方、光源からの励起光の照射によって被写体に存在する病変部からの蛍光を撮影した蛍光画像が蛍光画像生成部によって取得される。蛍光画像内の病変部は抽出部によって蛍光領域として抽出される。続いて、抽出された病変部と対応する参照画像内の領域に階調値を有するフレーム画像が動き効果生成部によって生成される。そして、合成部によって、参照画像を構成する色成分画像にフレーム画像が加算されることによって、参照画像上に病変部が表示された合成画像が合成される。
この場合に、連続表示される合成画像内の病変部においては、病変部からの蛍光の強度に応じて設定された変化量で階調値が時刻に従って変化することによって、動きの効果が発生する。したがって、病変部を視認性良く参照画像上に表示することができる。また、合成画像は、病変部の領域において、参照画像を構成する色成分画像が有していた階調値、すなわち被写体の形態の情報を含んでいる。したがって、参照画像を用いた病変部の観察も行うことができる。
上記発明においては、前記蛍光領域の階調値に基づいて該階調値の増加に伴って増加する係数を算出する係数算出部を備え、前記動き効果生成部は、前記係数算出部によって算出された前記係数に基づいて前記変化量を決定してもよい。
このようにすることで、係数算出部によって適切に設定された係数を用いて、病変部における動きの効果の変化量が適切となるように調整される。これにより、蛍光領域の階調値が小さい場合であっても、病変部に十分に大きな動きの効果を与えて、観察者に病変部をさらに確実に認識させることができる。
上記発明においては、前記動き効果生成部は、所定のオブジェクトが前記蛍光領域の階調値に応じた速さで前記対応する領域内を移動する効果を発生させる前記フレーム画像を生成してもよい。
このようにすることで、合成画像内の病変部において、所定のオブジェクトが移動する効果が与えられる。このオブジェクトの移動の速さから、病変部の病変の程度を直感的に容易に観察者に認識させることができる。
上記発明においては、前記動き効果生成部は、所定のオブジェクトが前記蛍光領域の階調値に応じた振幅で前記対応する領域内を移動する効果を発生させる前記フレーム画像を生成してもよい。
このようにすることで、合成画像内の病変部において、所定のオブジェクトが移動する効果が与えられる。このオブジェクトの移動の振幅から、病変部の病変の程度を直感的に容易に観察者に認識させることができる。
上記発明においては、前記動き効果生成部は、前記蛍光領域の階調値に応じた周期で色が変化する効果を発生させる前記フレーム画像を生成してもよい。
このようにすることで、合成画像内の病変部において、色が変化する効果が与えられる。この色の変化の時間周期から、病変部の病変の程度を直感的に容易に観察者に認識させることができる。
上記発明においては、前記動き効果生成部は、前記蛍光領域の階調値に応じた幅で色が変化する効果を発生させる前記フレーム画像を生成してもよい。
このようにすることで、合成画像内の病変部において、色が変化する効果が与えられる。この色の変化の幅から、病変部の病変の程度を直感的に容易に観察者に認識させることができる。
上記の合成画像にオブジェクトを表示する構成においては、前記参照画像における前記被写体の移動量を検出する移動量検出部を備え、前記動き効果生成部が、前記移動量検出部によって検出された前記被写体の移動量を前記蛍光領域の階調値に加えた値に応じた変化量で変化する効果を付与してもよい。
このようにすることで、視野の移動によって参照画像内において被写体が移動しているときに、この被写体の動きに対して病変部におけるオブジェクトの動きの大きさが変化する。これにより、動いている被写体に対してオブジェクトの動きを十分に目立たせることができる。
上記発明においては、前記蛍光画像生成部によって生成された前記蛍光画像を前記参照画像生成部によって生成された前記参照画像で除算することによって前記蛍光画像の階調値を補正する蛍光補正部を備え、前記抽出部が、前記蛍光補正部によって補正された蛍光画像から前記蛍光領域を抽出していてもよい。
このようにすることで、観察距離および観察角度に依存した蛍光画像内の階調値の変化を除去し、被写体において発生している蛍光の本来の強度をより正確に反映するように補正された蛍光画像が得られる。この補正された蛍光画像を用いることによって、病変部をより正確に抽出できる。さらに、病変部の病変の程度をより正確に表した動きの効果を、病変部に与えることができる。
上記の蛍光補正部を備える構成においては、前記蛍光補正部によって補正された前記蛍光画像における画素ごとの階調値の平均値とその階調値の標準偏差との和に基づいて前記抽出部における前記所定の閾値を設定する閾値設定部を備えていてもよい。
このようにすることで、蛍光画像における画素ごとの階調値の変動に追従して、抽出部における閾値を更新することができる。また、画素ごとの階調値にばらつきがある場合であっても、精度が高い閾値を設定することができる。
本発明によれば、参照画像を利用した病変部の観察を妨げることなく病変部を視認性良く参照画像上に表示することができるという効果を奏する。
本発明の一実施形態に係る蛍光観察装置の全体構成図である。 図1の蛍光観察装置の画像処理ユニットにおいて生成される(a)白色光画像、(b)蛍光画像、(c)フレーム画像および(d)合成画像である。 図1の画像処理ユニットの処理を説明するフローチャートである。 図1の蛍光観察装置の画像処理ユニットにおいて生成される合成画像の変形例であって、階調値が(a)最小のときと、(b)最大のときを示している。 図1の蛍光観察装置の画像処理ユニットにおいて生成される合成画像の変形例であって、色相が(a)赤のときと、(b)緑のときと、(c)青のときとを示している。 図1の蛍光観察装置の第1の変形例の全体構成図である。 図6の画像処理ユニットの処理を説明するフローチャートである。 図1の蛍光観察装置の第2の変形例の全体構成図である。 図8の画像処理ユニットの処理を説明するフローチャートである。 図1の蛍光観察装置の第3の変形例の全体構成図である。 図10の画像処理ユニットの処理を説明するフローチャートである。
以下に、本発明の一実施形態に係る蛍光観察装置1について図1から図5を参照して説明する。
本実施形態に係る蛍光観察装置1は、内視鏡装置であって、図1に示されるように、体内に挿入される細長い挿入部2と、光源3と、該光源3からの励起光および白色光(参照光)を挿入部2の先端2aから被写体Xに向けて照射する照明ユニット4と、挿入部2の先端2aに設けられ、被写体Xの画像情報S1,S2を取得する撮像ユニット5と、挿入部2の基端側に配置され、撮像ユニット5によって取得された画像情報S1,S2を処理する画像処理ユニット6と、該画像処理ユニット6によって処理された画像Gを表示する表示部7とを備えている。
光源3は、キセノンランプ31と、該キセノンランプ31から発せられた光から励起光および白色光を切り出すフィルタ32と、フィルタ32によって切り出された励起光および白色光を集光するカップリングレンズ33とを備えている。フィルタ32は、励起光および白色光に対応する400nmから740nmの波長帯域の光を選択的に透過する。すなわち、本実施形態において、近赤外光(例えば、波長帯域700nmから740nm)が励起光として用いられる。
照明ユニット4は、挿入部2の長手方向のほぼ全長にわたって配置されたライトガイドファイバ41と、挿入部2の先端2aに設けられた照明光学系42とを備えている。ライトガイドファイバ41は、カップリングレンズ33によって集光された励起光および白色光を導光する。照明光学系42は、ライトガイドファイバ41によって導光されてきた励起光および白色光を拡散させて、挿入部2の先端2aに対向する被写体Xに照射する。
撮像ユニット5は、被写体Xからの光を集光する対物レンズ51と、該対物レンズ51によって集光された光のうち、励起光および蛍光を反射し、励起光よりも短い波長を有する白色光(波長帯域400nmから700nm、戻り光)を透過するダイクロイックミラー52と、該ダイクロイックミラー52によって反射された蛍光およびダイクロイックミラー52を透過した白色光をそれぞれ集光する2つの集光レンズ53,54と、集光レンズ54によって集光された白色光を撮影するカラーCCDのような撮像素子55と、集光レンズ53によって集光された蛍光を撮影する高感度モノクロCCDのような撮像素子56とを備えている。図中、符号57は、ダイクロイックミラー52によって反射された光のうち蛍光(例えば、波長帯域760nmから850nm)を選択的に透過し、励起光を遮断する励起光カットフィルタである。
このような波長特性を有するフィルタ32、ダイクロイックミラー52および励起光カットフィルタ57の組み合わせによれば、例えば、蛍光色素Cy7で標識した抗CEA抗体を被写体Xに投与して観察することによって、白色光画像G1と蛍光画像G2とを同時に取得することができる。CEAは、癌に特異的に発現するタンパク質である。
画像処理ユニット6は、撮像素子55によって取得された白色光画像情報S1から白色光画像(参照画像)G1を生成する白色光画像生成部(参照画像生成部)61と、撮像素子56によって取得された蛍光画像情報S2から蛍光画像G2を生成する蛍光画像生成部62と、該蛍光画像生成部62によって生成された蛍光画像G2から蛍光領域Fを抽出する抽出部63と、該抽出部63によって抽出された蛍光領域Fの階調値を用いて後述するフレーム画像Gfの生成のための係数cを算出する係数算出部64と、蛍光領域Fの位置において時間変化するフレーム画像Gfを生成する動き効果生成部65と、該動き効果生成部65によって生成されたフレーム画像Gfを白色光画像G1に加算して合成画像Gを生成する合成部66とを備えている。図2の(a)から(d)は、画像処理ユニット6の画像処理において生成される各種の画像G1,G2,Gf,Gを示している。
抽出部63は、蛍光画像生成部62から入力された蛍光画像G2の各画素の階調値を所定の閾値Sと比較し、図2の(b)に示されるように、所定の閾値S以上の階調値を有する画素を蛍光領域Fとして抽出する。抽出部63は、抽出した画素の階調値を係数算出部64に出力し、抽出した画素の位置を動き効果生成部65に出力する。
係数算出部64は、抽出部63から入力された、蛍光領域Fを構成する画素の階調値の平均値mを算出し、算出された平均値mに基づいて係数cを算出し、算出された係数cを動き効果生成部65に出力する。係数cは、平均値mの増加に従って増加する関数、例えば、平均値mに比例する関数として設定されている。
なお、係数算出部64は、平均値mに代えて、抽出部63によって抽出された画素の階調値の中央値または最頻値を用いて係数cを算出してもよい。
動き効果生成部65は、時刻tをカウントするクロックを有している。動き効果生成部65は、時刻tの経過に伴って係数cに基づく動き量(変化量)で動くアニメーションを構成するフレーム画像Gfを、クロックによってカウントされた時刻tに応じて生成する。
具体的には、動き効果生成部65は、抽出部63から入力された画素の位置に基づいて、図2の(c)に示されるように、蛍光領域Fと対応する領域内に所定のオブジェクトOを表示したフレーム画像Gfを生成する。すなわち、フレーム画像Gfは、オブジェクトOを構成する画素において階調値を有している。この階調値は、任意の所定の値であってもよく、蛍光領域Fの階調値に基づいて設定された値であってもよい。
図2の(c)には、所定のオブジェクトOの一例として、一定の寸法を有し一定の間隔で並んだ複数の円が示されている。動き効果生成部65は、フレーム画像Gfが連続して表示されたときにこれら円が時刻tの経過に伴って蛍光領域F内を動くアニメーションを生成するフレーム画像Gfを作成する。
ここで、動き量は、オブジェクトOの動きの振幅および速さを意味し、係数cの増加に従って増加する関数、例えば、係数cに比例する関数として設定されている。動き効果生成部65は、係数cが大きい程、すなわち、蛍光領域Fの階調値が大きい程、オブジェクトOの動きの振幅および速さのうち少なくとも一方が大きくなるようなフレーム画像Gfを生成する。
合成部66は、白色光画像生成部61から入力された白色光画像G1を構成する赤(R)成分画像、緑(G)成分画像および青(B)成分画像のうちいずれかに、例えばG成分画像に、動き効果生成部65から入力されたフレーム画像Gfを加算する。具体的には、G成分画像の各画素の階調値にフレーム画像Gfの各画素の階調値を加算する。そして、フレーム画像Gfが加算されたG成分画像と他の2つのR成分画像およびB成分画像とから合成画像Gを合成し、生成された合成画像Gを表示部7に出力する。
次に、このように構成された蛍光観察装置1の作用について説明する。
本実施形態に係る蛍光観察装置1を用いて被写体Xである体内の生体組織を観察するには、予め、病変部に集積する蛍光物質を被写体Xに投与しておく。そして、体内に挿入部2を挿入してその先端2aを被写体Xに対向配置し、光源3の作動によって励起光および白色光を挿入部2の先端2aから被写体Xに照射する。
被写体Xにおいては、病変部に含まれる蛍光物質が励起光によって励起されることによって蛍光が発せられるとともに、被写体Xの表面において白色光が反射される。被写体Xから発せられた蛍光および反射された白色光の一部は、挿入部2の先端2aに戻り、対物レンズ51によって集光される。
対物レンズ51によって集光された光のうち、白色光はダイクロイックミラー52を透過し、集光レンズ54によって集光され、撮像素子55によって白色光画像情報S1として取得される。一方、対物レンズ51によって集光された蛍光は、ダイクロイックミラー52によって反射され、励起光カットフィルタ57によって励起光を除去され、集光レンズ53によって集光され、撮像素子56によって蛍光画像情報S2として取得される。各撮像素子55,56によって取得された画像情報S1,S2は、画像処理ユニット6に送られる。
図3に、画像処理ユニット6による画像処理を説明するフローチャートを示す。
画像処理ユニット6において、白色光画像情報S1が白色光画像生成部61に入力されて白色光画像G1が生成され、蛍光画像情報S2が蛍光画像生成部62に入力されて蛍光画像G2が生成される(ステップS1)。
蛍光画像G2は、抽出部63に送られ、所定の閾値S以上の階調値を有する蛍光領域Fが抽出される(ステップS2)。抽出された蛍光領域Fの各位置の階調値は係数算出部64に、蛍光領域Fの位置の情報は動き効果生成部65に、それぞれ送られる。次に、係数算出部64において、抽出部63から送られてきた階調値から蛍光領域Fの階調値の平均値mが算出され、さらに該平均値mから係数cが算出される(ステップS3)。
次に、動き効果生成部65において、時刻tおよび係数cに基づいて、蛍光領域Fの位置に所定のオブジェクトOが表示されたフレーム画像Gfが生成される(ステップS4)。次に、合成部66において、白色光画像G1を構成する3つの成分画像のうちG成分画像にフレーム画像Gfが加算され(ステップS5)、該フレーム画像Gfが加算されたG成分画像とそのままのR成分画像およびB成分画像とを用いてカラーの合成画像Gが生成され(ステップS6)、生成された合成画像Gが表示部7に表示される(ステップS7)。
表示部7に連続的に表示される合成画像Gにおいては、該合成画像Gに含まれている所定のオブジェクトOが動きの効果を発生する。すなわち、合成画像Gの蛍光領域Fに対応する領域に、該蛍光領域Fの階調値に応じた動き量で緑色の所定のオブジェクトOが動くアニメーションが表示される。
このように、本実施形態によれば、観察者が観察している表示部7の合成画像G内の病変部の位置に所定のオブジェクトOが動くアニメーションが表示される。観察者は、動く所定のオブジェクトOによって病変部を容易に認識することができる。さらに、所定のオブジェクトOの動きの振幅や速さから、病変部における蛍光の強度、すなわち、病変の程度を直感的に容易に認識することができる。また、合成画像GのオブジェクトOが表示されている領域において、白色光画像G1を構成する3つの色成分画像の階調値、すなわち被写体Xの形態の情報が含まれている。したがって、合成画像Gにおいて、病変部の位置にオブジェクトOが表示されていても、病変部の形態を十分に鮮明に観察することができる。
なお、本実施形態においては、フレーム画像Gfを白色光画像G1のG成分画像に加算することとしたが、これに代えて、フレーム画像GfをR成分画像またはB成分画像に加算してもよい。あるいは、フレーム画像Gfを複数の成分画像に分配して加算してもよい。例えば、フレーム画像の階調値をG成分画像とB成分画像とに2:1の割合で分配して加算してもよい。
また、本実施形態においては、動き効果生成部65が、合成画像G内の病変部の領域に空間的な動きの効果を与えることとしたが、動き効果生成部65が病変部の領域に与える動きの効果の態様は、これに限定されるものではなく、時刻の経過に伴って視覚的に変化する効果であればよい。例えば、動き効果生成部65は、病変部の領域において色が時刻によって変化するような階調値を付与したフレーム画像を生成し、蛍光領域Fの階調値に応じた時間周期または幅で色が変化する効果を与えてもよい。また、上述したオブジェクトOの動きの効果に色の変化の効果を組み合わせてもよい。ここで、色の変化とは、色の色相、彩度、明度、または濃淡の変化である。
このように、空間的な動きに代えて、またはこれに加えて、色の変化の効果を与えることによっても、観察者に病変部を容易に認識させることができる。また、色の変化の時間周期またはその幅を、蛍光領域Fの階調値に応じて設定することで、観察者に病変部の病変の程度を直感的に容易に認識させることができる。
この場合、色の変化の効果が与えられる領域における、合成画像Gと白色光画像G1とフレーム画像Gfとの関係は、式(1)によって一般化して表わされるマトリクスによって定義される。式(1)において、R’、G’、B’はそれぞれ、合成画像GのR成分、G成分、B成分の階調値である。R、G、Bはそれぞれ、白色光画像G1のR成分、G成分、B成分の階調値である。sinで表される要素は、フレーム画像Gfの各色成分の階調値である。A、B、Cは、0または係数cである。
Figure 0006188721
色の濃淡の変化の効果を与える場合について説明すると、ΦR=ΦG=ΦB=0とすることによって、フレーム画像GfにおいてR成分、G成分およびB成分の階調値が全て同一の位相で変化する。そして、A=C=0、B=c、β=1とすると、係数cに比例した幅で周期的に変化するフレーム画像GfのG成分の階調値が、G成分画像の階調値に加算される。これにより、図4(a),(b)に示されるように、合成画像Gにおいて蛍光領域Fが透明と濃い緑との間で点滅する。一方、A=C=0、B=1、β=cとすると、係数cに比例した速さで周期的に変化するフレーム画像GfのG成分の階調値が、G成分画像に加算される。これにより、合成画像Gにおいて蛍光領域Fが点滅する。一方、A=−1、B=1、C=0、α=β=1とすると、互いに逆位相で変化するフレーム画像GfのR成分の階調値とG成分の階調値とが、白色光画像G1のR成分画像およびG成分画像にそれぞれ加算される。この場合、合成画像Gにおいて、G成分の階調値が最大のときにR成分の階調値が最小となり、蛍光領域Fの色相が赤と緑との間で交互に変化する。
色相の変化の効果を与える場合について説明すると、φR、φG、φBを互いに異なる値にすることによって、フレーム画像GfにおいてR成分、G成分、B成分の階調値が互いに異なる位相で変化する。例えば、φR=0、φG=2π/3、φB=4π/3とする。そして、A=B=C=1、α=β=γ=cとすると、図5の(a)から(c)に示されるように、合成画像Gにおいて蛍光領域Fの色相が係数cに比例した時間周期で赤、緑、青の順に変化する。一方、A=B=C=c、α=β=γ=1とすると、合成画像Gにおいて蛍光領域Fの色相が係数cに比例した幅で変化する。図5の(a)から(c)において、ハッチングの向きの違いは、色相の違いを表わしている。
次に、上述した本実施形態に係る蛍光観察装置1の変形例について説明する。
(第1の変形例)
本実施形態の第1の変形例に係る蛍光観察装置100は、図6に示されるように、白色光画像G1内における被写体Xの移動量を検出する移動量検出部67をさらに備えている。
移動量検出部67は、例えば、白色光画像G1から特徴領域を抽出し、抽出された特徴領域の動きベクトルを算出するなどの周知の技術を用いて、挿入部2の先端2aと被写体Xとの間の移動量Mvを算出し、算出された移動量Mvを係数算出部64に出力する。
係数算出部64は、移動量検出部67から入力された移動量Mvと、抽出部63から入力された蛍光領域Fの階調値の平均値mとに基づいて係数c’を算出する。例えば、係数算出部64は、上述した係数cに移動量Mvを加算することによって、係数c’を算出する。
このように構成された蛍光観察装置100の作用について図7を参照して説明する。
本変形例においては、ステップS1において生成された白色光画像G1から、該白色光画像G1内における被写体Xの移動量Mvが検出される(ステップS8)。次のステップS3’においては、検出された移動量Mvも加味して係数c’が算出される。ステップS4においては、係数cに代えて係数c’を用いてフレーム画像Gfを生成する。以降の処理は図3と同じであるので説明を省略する。
このように、本変形例によれば、挿入部2の先端2aと被写体Xとの相対移動によって白色光画像G1内において被写体Xが移動した場合に、この移動量Mvに応じてオブジェクトOの動き量が変化する。すなわち、白色光画像G1の視野が一定であるときの動き量に対して、白色光画像G1の視野が移動しているときの動き量が大きくなる。このように、被写体Xの動き量に対してオブジェクトOの動き量を相対的に変化させることによって、動いている被写体Xに対してオブジェクトOの動きを十分に目立たせて観察者に病変部を確実に認識させることができる。
(第2の変形例)
本実施形態の第2の変形例に係る蛍光観察装置200は、図8に示されるように、白色光画像生成部61によって生成された白色光画像G1を用いて、蛍光画像生成部62によって生成された蛍光画像G2を補正する蛍光補正部68をさらに備えている。蛍光補正部68は、蛍光画像生成部62から入力された蛍光画像G2の各画素の階調値を、白色光画像生成部61から入力された白色光画像G1の各画素の階調値によって除算することによって、階調値が補正された補正蛍光画像G2’を生成し、生成された補正蛍光画像G2’を抽出部63に出力する。
抽出部63は、蛍光画像G2に代えて、補正蛍光画像G2’から蛍光領域Fを抽出する。
このように構成された蛍光観察装置200の作用について図9を参照して説明する。
本変形例においては、ステップS1において生成された蛍光画像G2の階調値が白色光画像G1の階調値によって補正される(ステップS9)。次のステップS2’においては、階調値が補正された補正蛍光画像G2’から蛍光領域Fが抽出される。以降の処理は図3と同じであるので説明を省略する。
このように、本変形例によれば、白色光画像G1を用いて階調値が規格化された補正蛍光画像G2’は、挿入部2の先端2aと被写体Xとの間の観察距離および観察角度に依存する階調値の変化が除去され、被写体Xの各位置から発せられている蛍光の本来の強度をより正確に反映した画像となる。抽出部63は、未処理の蛍光画像G2に代えてこのような補正蛍光画像G2’を用いることによって、病変部を蛍光領域Fとしてさらに正確に抽出することができる。また、動き効果生成部65は、病変部の病変の程度をさらに正確に表わした動き量を、蛍光領域Fに与えることができる。
(第3の変形例)
本実施形態の第3の変形例に係る蛍光観察装置300は、第2の変形例をさらに変形したものであって、図10に示されるように、補正蛍光画像G2’における階調値の分布を算出する階調値分布算出部69と、抽出部63における閾値Sを設定する閾値設定部70とをさらに備えている。
階調値分布算出部69は、補正蛍光画像G2’の全体または所定の一部の領域における階調値の分布に基づいて、補正蛍光画像G2’の階調値の平均値Mおよび標準偏差σを算出し、得られた平均値Mおよび標準偏差σを閾値設定部70および係数算出部64に出力する。
閾値設定部70は、例えば、下式(2)に示されるように、階調値の平均値Mと標準偏差σとの和から閾値Sを算出する。そして、閾値設定部70は、算出された閾値Sを、蛍光領域Fを抽出するための所定の閾値Sとして抽出部63に設定する。aおよびbは、補正蛍光画像G2’における所定の階調値以上の領域の占める割合が増加するごとに減少するように設定された係数である。
S=aM+bσ ・・・(2)
係数算出部64は、m、M、σを用いて、例えば、下式(3)から係数cを算出する。
c=(m−M)/σ ・・・(3)
このように構成された蛍光観察装置300の作用について図11を参照して説明する。
本変形例においては、ステップS9において補正蛍光画像G2’が生成された後、該補正蛍光画像G2’の階調値の平均値Mと標準偏差σとが算出され(ステップS10)、これらの値M,σに基づいて抽出部63において用いられる閾値Sが設定される(ステップS11)。次のステップS2’においては、ステップS11において設定された閾値S以上の階調値を有する蛍光領域Fが補正蛍光画像G2’から抽出される。以降の処理は図3と同じであるので説明を省略する。
このように、本変形例によれば、補正蛍光画像G2’の階調値の分布に応じて、抽出部63において用いられる閾値Sと、動き効果生成部65において用いられる係数cとが変動する。これにより、補正蛍光画像G2’に観察距離や観察角度に依存した階調値の変動が残存している場合でも、病変部を常時正確に抽出することができる。また、補正蛍光画像G2’において画素ごとの階調値にばらつきがある場合であっても、さらに精度が高い閾値Sを設定することができる。その結果、病変部の抽出の精度をさらに向上することができる。
1,100,200,300 蛍光観察装置
2 挿入部
3 光源
31 キセノンランプ
32 フィルタ
33 カップリングレンズ
4 照明ユニット
41 ライトガイドファイバ
42 照明光学系
5 撮像ユニット
51 対物レンズ
52 ダイクロイックミラー
53,54 集光レンズ
55,56 撮像素子
57 励起光カットフィルタ
6 画像処理ユニット
61 白色光画像生成部(参照画像生成部)
62 蛍光画像生成部
63 抽出部
64 係数算出部
65 動き効果生成部
66 合成部
67 移動量検出部
68 蛍光補正部
69 階調値分布算出部
70 閾値設定部
7 表示部
G 合成画像
G1 白色光画像(参照画像)
G2 蛍光画像
G2’ 補正蛍光画像
Gf フレーム画像

Claims (9)

  1. 被写体に参照光および励起光を照射する光源と、
    該光源からの前記励起光の照射によって前記被写体において発生した蛍光を撮影して蛍光画像を生成する蛍光画像生成部と、
    前記光源からの前記参照光の照射によって前記被写体から戻る戻り光を撮影してカラーの参照画像を生成する参照画像生成部と、
    前記蛍光画像生成部によって生成された前記蛍光画像から所定の閾値以上の階調値を有する蛍光領域を抽出する抽出部と、
    該抽出部によって抽出された前記蛍光領域と対応する領域に、前記蛍光領域の階調値に応じた変化量で視覚的に時間変化する効果を発生させるように時刻によって異なる階調値を付与したフレーム画像を生成する動き効果生成部と、
    前記参照画像を構成する複数の色成分画像のうち少なくとも1つに前記動き効果生成部によって生成された前記フレーム画像を加算し、該フレーム画像が加算された色成分画像を含む複数の前記色成分画像から合成画像を合成する合成部とを備える蛍光観察装置。
  2. 前記蛍光領域の階調値に基づいて該階調値の増加に伴って増加する係数を算出する係数算出部を備え、
    前記動き効果生成部が、前記係数算出部によって算出された前記係数に基づいて前記変化量を決定する請求項1に記載の蛍光観察装置。
  3. 前記動き効果生成部は、所定のオブジェクトが前記蛍光領域の階調値に応じた速さで前記対応する領域内を移動する効果を発生させる前記フレーム画像を生成する請求項1または請求項2に記載の蛍光観察装置。
  4. 前記動き効果生成部は、所定のオブジェクトが前記蛍光領域の階調値に応じた振幅で前記対応する領域内を移動する効果を発生させる前記フレーム画像を生成する請求項1から請求項3のいずれかに記載の蛍光観察装置。
  5. 前記動き効果生成部は、前記蛍光領域の階調値に応じた周期で色が変化する効果を発生させる前記フレーム画像を生成する請求項1から請求項4のいずれかに記載の蛍光観察装置。
  6. 前記動き効果生成部は、前記蛍光領域の階調値に応じた幅で色が変化する効果を発生させる前記フレーム画像を生成する請求項1から請求項5のいずれかに記載の蛍光観察装置。
  7. 前記参照画像における前記被写体の移動量を検出する移動量検出部を備え、
    前記動き効果生成部が、前記移動量検出部によって検出された前記被写体の移動量を前記蛍光領域の階調値に加えた値に応じた変化量で変化する前記フレーム画像を生成する請求項3または請求項4に記載の蛍光観察装置。
  8. 前記蛍光画像生成部によって生成された前記蛍光画像を前記参照画像生成部によって生成された前記参照画像で除算することによって前記蛍光画像の階調値を補正する蛍光補正部を備え、
    前記抽出部が、前記蛍光補正部によって補正された蛍光画像から前記蛍光領域を抽出する請求項1から請求項7のいずれかに記載の蛍光観察装置。
  9. 前記蛍光補正部によって補正された前記蛍光画像における画素ごとの階調値の平均値とその階調値の標準偏差との和に基づいて前記抽出部における前記所定の閾値を設定する閾値設定部を備える請求項8に記載の蛍光観察装置。
JP2014551989A 2012-12-13 2013-12-03 蛍光観察装置 Active JP6188721B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012272305 2012-12-13
JP2012272305 2012-12-13
PCT/JP2013/082437 WO2014091964A1 (ja) 2012-12-13 2013-12-03 蛍光観察装置

Publications (2)

Publication Number Publication Date
JPWO2014091964A1 JPWO2014091964A1 (ja) 2017-01-05
JP6188721B2 true JP6188721B2 (ja) 2017-08-30

Family

ID=50934256

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014551989A Active JP6188721B2 (ja) 2012-12-13 2013-12-03 蛍光観察装置

Country Status (5)

Country Link
US (1) US9207179B2 (ja)
EP (1) EP2932882A4 (ja)
JP (1) JP6188721B2 (ja)
CN (1) CN104853666B (ja)
WO (1) WO2014091964A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104515760B (zh) * 2014-12-17 2017-10-31 深圳市纳观生物有限公司 双色荧光定位超分辨率生物显微方法及系统
JP6484336B2 (ja) * 2015-06-17 2019-03-13 オリンパス株式会社 撮像装置
WO2017175452A1 (ja) * 2016-04-04 2017-10-12 ソニー株式会社 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
EP3616596A3 (en) * 2016-05-23 2020-03-18 Leica Instruments (Singapore) Pte. Ltd. Image processor, medical observation device, such as a microscope or an endoscope, and method using pseudo-color image data
WO2018181156A1 (ja) * 2017-03-31 2018-10-04 Hoya株式会社 電子内視鏡システム
KR101998592B1 (ko) * 2017-09-20 2019-07-10 인더스마트 주식회사 근적외선 형광 검출장치 및 방법
CN108195802B (zh) * 2017-11-21 2020-09-15 广州标旗电子科技有限公司 一种钻石发光成像检测方法
JP7134759B2 (ja) * 2018-07-13 2022-09-12 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置及び医療用観察システム
WO2020036109A1 (ja) * 2018-08-17 2020-02-20 富士フイルム株式会社 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
WO2020054542A1 (ja) * 2018-09-11 2020-03-19 富士フイルム株式会社 医療画像処理装置、医療画像処理方法及びプログラム、内視鏡システム
EP3858222B1 (en) * 2018-09-28 2023-11-22 FUJIFILM Corporation Medical image processing device, medical image processing method, program, diagnosis assistance device, and endoscope system
JP7038641B2 (ja) * 2018-11-02 2022-03-18 富士フイルム株式会社 医療診断支援装置、内視鏡システム、及び作動方法
EP3690819B1 (en) * 2019-01-31 2023-09-13 Leica Instruments (Singapore) Pte. Ltd. Image processing device and method, and medical observation device comprising such an image processing device, using an intensity or brightness-dependent variation of a pseudocolor pattern characteristic
US11730340B2 (en) * 2019-05-01 2023-08-22 Karl Storz Imaging, Inc. Video display system having an adaptive overlay
WO2021039438A1 (ja) * 2019-08-27 2021-03-04 富士フイルム株式会社 医療画像処理システム及びその動作方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020138008A1 (en) * 2000-01-13 2002-09-26 Kazuhiro Tsujita Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images
JP4298151B2 (ja) * 2000-01-13 2009-07-15 富士フイルム株式会社 蛍光画像表示方法および装置
DE60122894T2 (de) * 2000-07-14 2007-03-15 Xillix Technologies Corp., Richmond Kompaktes fluorezenz endoskopisches video system
JP3862582B2 (ja) * 2001-06-29 2006-12-27 富士フイルムホールディングス株式会社 蛍光画像取得方法および装置並びにプログラム
JP2005204958A (ja) 2004-01-23 2005-08-04 Pentax Corp 自家蛍光観察可能な電子内視鏡装置およびシステム
JP4533673B2 (ja) 2004-06-07 2010-09-01 オリンパス株式会社 赤外観察システム及び赤外観察システムによる作動方法
JP4611674B2 (ja) * 2004-06-29 2011-01-12 Hoya株式会社 電子内視鏡システム
JP5461753B2 (ja) * 2004-07-30 2014-04-02 オリンパス株式会社 内視鏡装置
JP5114003B2 (ja) * 2005-11-04 2013-01-09 オリンパス株式会社 蛍光内視鏡装置
US20060173358A1 (en) * 2005-01-11 2006-08-03 Olympus Corporation Fluorescence observation endoscope apparatus and fluorescence observation method
JP2007215927A (ja) * 2006-02-20 2007-08-30 Pentax Corp 内視鏡プロセッサ、擬似カラー画像生成プログラム、及び蛍光内視鏡システム
JP5160343B2 (ja) * 2008-08-22 2013-03-13 オリンパスメディカルシステムズ株式会社 撮像システム及び内視鏡システム
JP2011005002A (ja) * 2009-06-26 2011-01-13 Hoya Corp 内視鏡装置
WO2011111619A1 (ja) * 2010-03-09 2011-09-15 オリンパス株式会社 蛍光内視鏡装置
JP5484977B2 (ja) * 2010-03-23 2014-05-07 オリンパス株式会社 蛍光観察装置

Also Published As

Publication number Publication date
JPWO2014091964A1 (ja) 2017-01-05
EP2932882A4 (en) 2017-01-11
WO2014091964A1 (ja) 2014-06-19
US9207179B2 (en) 2015-12-08
CN104853666A (zh) 2015-08-19
US20150276602A1 (en) 2015-10-01
EP2932882A1 (en) 2015-10-21
CN104853666B (zh) 2016-11-02

Similar Documents

Publication Publication Date Title
JP6188721B2 (ja) 蛍光観察装置
JP6391562B2 (ja) 蛍光観察装置
JP6057890B2 (ja) 蛍光観察装置
US9417188B2 (en) Fluorescence observation device
JP6461797B2 (ja) 蛍光観察装置
US9332909B2 (en) Fluoroscopy apparatus
US9513221B2 (en) Fluorescence observation apparatus
JP5993184B2 (ja) 蛍光観察装置および蛍光観察装置の作動方法
US9498109B2 (en) Fluorescence endoscope device
CN109310271B (zh) 时间和/或空间调制的伪彩色图案的医学观察设备和方法
US20130250079A1 (en) Fluorescence endoscope apparatus
JPWO2013015120A1 (ja) 蛍光内視鏡装置
WO2016056157A1 (ja) 色分解プリズム及び撮像装置
JP2012143284A5 (ja) 走査型眼科撮影装置
JP5346635B2 (ja) 蛍光観察装置
US20160302652A1 (en) Fluorescence observation apparatus
JP5498282B2 (ja) 蛍光観察装置
KR102007361B1 (ko) 다채널 형광 내시경 장치 및 이를 이용한 영상 획득 제어 방법
US20210315513A1 (en) Dental imaging system
JP2012052869A (ja) 撮像システム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170718

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170801

R151 Written notification of patent or utility model registration

Ref document number: 6188721

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250