JP2017153763A - 画像処理装置とその作動方法および作動プログラム - Google Patents

画像処理装置とその作動方法および作動プログラム Download PDF

Info

Publication number
JP2017153763A
JP2017153763A JP2016040709A JP2016040709A JP2017153763A JP 2017153763 A JP2017153763 A JP 2017153763A JP 2016040709 A JP2016040709 A JP 2016040709A JP 2016040709 A JP2016040709 A JP 2016040709A JP 2017153763 A JP2017153763 A JP 2017153763A
Authority
JP
Japan
Prior art keywords
image
color
observation
feature amount
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016040709A
Other languages
English (en)
Other versions
JP6581923B2 (ja
Inventor
寺村 友一
Yuichi Teramura
友一 寺村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2016040709A priority Critical patent/JP6581923B2/ja
Priority to US15/448,009 priority patent/US10521904B2/en
Priority to CN201710122966.6A priority patent/CN107153833A/zh
Publication of JP2017153763A publication Critical patent/JP2017153763A/ja
Application granted granted Critical
Publication of JP6581923B2 publication Critical patent/JP6581923B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30092Stomach; Gastric
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

【課題】診断に活用する所見に該当する領域の有無と併せて、所見の程度も把握することが可能な画像処理装置とその作動方法および作動プログラムを提供する。【解決手段】領域決定部63は、特徴量算出部62からの第1特徴量に基づき、予め設定された複数の所見のそれぞれに該当する観察画像内の領域を決定する。レベル分類部64は、特徴量算出部62からの第2特徴量に基づき、複数の所見の各々に対して予め設定された、所見の程度を表す複数のレベルのいずれかに領域を分類する。色割り当て画像生成部65は、所見毎に設定された表示色、かつレベル毎に設定された、表示色の色味で、観察画像に対して色割り当て処理を行って、色割り当て画像を生成する。色割り当て画像は、表示制御部43の制御の下、モニタ14に表示される。【選択図】図3

Description

本発明は、画像処理装置とその作動方法および作動プログラムに関する。
医療分野において、生体内の観察対象を撮影する内視鏡システムが広く利用されている。内視鏡システムは、生体内に挿入され、観察対象を撮影して画像信号を出力する内視鏡と、画像信号に基づき、観察対象の観察画像を生成しこれをモニタに出力する内視鏡用プロセッサ装置(以下、単にプロセッサ装置と表記)とを備える。
観察画像を利用した診断においては、医師にとって、観察画像内に、予め設定された複数の所見に該当する領域が有るか否かを判定したり、所見の程度がどの程度かを見極めることが重要である。例えば胃粘膜の観察画像では、びまん性発赤、地図状発赤、腸上皮化生等の、胃炎の京都分類として知られる複数の所見それぞれに対しての有無やその程度をスコア化することで、当該領域がピロリ菌の感染によって生じる慢性胃炎に特徴的なものであるか否かを判断している。また、大腸ポリープの観察画像では、I型、II型、IIIs型
等の、ピットパターン分類として知られる複数の所見のいずれかにポリープを分類することで、大腸癌の深達度を判断している。
特許文献1には、大腸ポリープの観察画像において、予め用意された基本パターンとの類似度といった特徴量に基づき、ピットパターン分類の複数の所見のいずれかにポリープを分類し、分類結果に応じた色の強調処理(色割り当て処理)を行うプロセッサ装置が記載されている。所見の分類が自動化され、かつ分類結果に応じた色割り当て画像が表示されるため、診断が捗る。
特開2014−166298号公報
上述のように、観察画像を利用した診断においては、所見に該当する領域の有無の判定と併せて、より診断の効率化を図るために所見の程度を把握したいという要望がある。しかしながら特許文献1では、領域に対応する所見は把握することができるが、所見の程度は把握することができない。
本発明は、診断に活用する所見に該当する領域の有無と併せて、所見の程度も把握することが可能な画像処理装置とその作動方法および作動プログラムを提供することを目的とする。
本発明の画像処理装置は、生体内の観察対象を撮影して得られた画像信号を取得する画像信号取得部と、画像信号に基づき、観察対象の観察画像を生成する観察画像生成部と、画像信号から特徴量を算出する特徴量算出部と、特徴量に基づき、予め設定された複数の所見のそれぞれに該当する観察画像内の領域を決定する領域決定部と、特徴量に基づき、複数の所見の各々に対して予め設定された、所見の程度を表す複数のレベルのいずれかに領域を分類するレベル分類部と、所見毎に設定された表示色、かつレベル毎に設定された、表示色の色味で、観察画像に対して色割り当て処理を行って、色割り当て画像を生成する色割り当て画像生成部と、色割り当て画像の表示を制御する表示制御部とを備える。
特徴量算出部は複数種類の特徴量を算出し、領域決定部は、複数種類の特徴量のうちの第1特徴量に基づき領域の決定を行い、レベル分類部は、複数種類の特徴量のうちの第2特徴量に基づきレベルの分類を行うことが好ましい。この場合、第2特徴量は第1特徴量を含むことが好ましい。
色割り当て画像生成部は、領域の境界に対して色割り当て処理を行うことが好ましい。
観察対象は胃粘膜であり、所見は胃炎に関するものであることが好ましい。
画像信号取得部は、短波長側の光強度を長波長側の光強度と比べて強くした照明光を観察対象に照射して得られた画像信号を取得することが好ましい。
画像信号に対して明るさを均一にする明るさ補正処理を施す明るさ補正処理部を備え、特徴量算出部は、明るさ補正処理済みの画像信号から特徴量を算出することが好ましい。
照明光として白色光を観察対象に照射して得られた画像信号に基づく通常画像に対して色およびコントラストのうち少なくとも1つを低減する低減処理を施す低減処理部を備え、表示制御部は、低減処理済みの通常画像に、色割り当て画像を重畳することが好ましい。
本発明の画像処理装置の作動方法は、生体内の観察対象を撮影して得られた画像信号を取得する画像信号取得ステップと、画像信号に基づき、観察対象の観察画像を生成する観察画像生成ステップと、画像信号から特徴量を算出する特徴量算出ステップと、特徴量に基づき、予め設定された複数の所見のそれぞれに該当する観察画像内の領域を決定する領域決定ステップと、特徴量に基づき、複数の所見の各々に対して予め設定された、所見の程度を表す複数のレベルのいずれかに領域を分類するレベル分類ステップと、所見毎に設定された表示色、かつレベル毎に設定された、表示色の色味で、観察画像に対して色割り当て処理を行って、色割り当て画像を生成する色割り当て画像生成ステップと、色割り当て画像の表示を制御する表示制御ステップとを備える。
本発明の画像処理装置の作動プログラムは、生体内の観察対象を撮影して得られた画像信号を取得する画像信号取得機能と、画像信号に基づき、観察対象の観察画像を生成する観察画像生成機能と、画像信号から特徴量を算出する特徴量算出機能と、特徴量に基づき、予め設定された複数の所見のそれぞれに該当する観察画像内の領域を決定する領域決定機能と、特徴量に基づき、複数の所見の各々に対して予め設定された、所見の程度を表す複数のレベルのいずれかに領域を分類するレベル分類機能と、所見毎に設定された表示色、かつレベル毎に設定された、表示色の色味で、観察画像に対して色割り当て処理を行って、色割り当て画像を生成する色割り当て画像生成機能と、色割り当て画像の表示を制御する表示制御機能とを、コンピュータに実行させる。
本発明によれば、生体内の観察対象を撮影して得られた画像信号から算出した特徴量に基づき、予め設定された複数の所見のそれぞれに該当する領域を決定し、かつ複数の所見の各々に対して予め設定された、所見の程度を表す複数のレベルのいずれかに領域を分類して、これら領域決定結果および分類結果に応じた色割り当て処理を行った色割り当て画像を表示するので、診断に活用する所見に該当する領域の有無と併せて、所見の程度も把握することが可能な画像処理装置とその作動方法および作動プログラムを提供することができる。
内視鏡システムの外観図である。 内視鏡システムの各部を示すブロック図である。 画像処理部の各機能部を示すブロック図である。 特徴量算出部の処理の流れを示す説明図である。 第1特徴量と第2特徴量の例を示す表である。 領域決定テーブルの内容を示す図である。 レベル分類テーブルの内容を示す図である。 色割り当てテーブルの内容を示す図である。 領域決定部、レベル分類部、および色割り当て画像生成部の処理の流れを示す説明図である。 領域決定部、レベル分類部、および色割り当て画像生成部の処理の流れの別の例を示す説明図である。 色割り当て処理の詳細を示す図である。 表示制御部の機能部を示すブロック図である。 第2観察モードの場合の画像表示画面を示す図である。 凡例表示画面を示す図である。 第1観察モードの場合の画像表示画面を示す図である。 プロセッサ装置の処理手順を示すフローチャートである。 第2実施形態の画像処理部の各機能部を示すブロック図である。 明るさ補正処理の概念図である。 第3実施形態の画像処理部および表示制御部の各機能部を示すブロック図である。 第3実施形態の画像表示画面を示す図である。
[第1実施形態]
図1において、内視鏡システム10は、生体内の観察対象を撮影して画像信号を出力する内視鏡11と、本発明の画像処理装置に相当し、画像信号に基づき観察対象の観察画像を生成するプロセッサ装置12と、観察対象に照射する照明光を内視鏡11に供給する光源装置13とを備えている。プロセッサ装置12には、モニタ14と、キーボードやマウス等の入力デバイス15とが接続されている。
内視鏡11は、生体内に挿入される挿入部16と、挿入部16の基端部分に設けられた操作部17と、内視鏡11とプロセッサ装置12および光源装置13を連結するユニバーサルコード18とを備えている。本実施形態において、内視鏡11は、主に胃粘膜を観察対象とする上部消化管用である。
挿入部16は、先端から順に連設された、先端部19、湾曲部20、可撓管部21で構成される。湾曲部20は、連結された複数の湾曲駒からなり、操作部17のアングルノブ22を操作することにより、上下左右方向に湾曲動作する。図1では上方向の湾曲動作を破線で示している。湾曲部20が湾曲することにより、先端部19が所望の方向に向けられる。可撓管部21は、食道等の曲がりくねった管道に挿入できるように可撓性を有している。
挿入部16には、プロセッサ装置12との間で各種信号を通信する通信ケーブル、光源装置13からの照明光を先端部19に導光するライトガイド35(図2参照)等が挿通されている。操作部17には、アングルノブ22の他、鉗子や電気メスといった処置具が挿入される鉗子口23、先端部19に設けられた送気・送水ノズルから送気・送水を行う際に操作される送気・送水ボタン24等が設けられている。
ユニバーサルコード18には、挿入部16から延設される通信ケーブルやライトガイド35が挿通されている。ユニバーサルコード18のプロセッサ装置12および光源装置13側の一端には、コネクタ25が取り付けられている。コネクタ25は、通信用コネクタ25Aと光源用コネクタ25Bからなる複合タイプのコネクタである。通信用コネクタ25Aはプロセッサ装置12に、光源用コネクタ25Bは光源装置13に、それぞれ着脱自在に接続される。通信用コネクタ25Aには通信ケーブルの一端が配設されており、光源用コネクタ25Bには照明光が入射するライトガイド35の入射端が配設されている。
図2において、内視鏡11の先端部19には、観察対象を撮影するための観察窓30、および観察対象に照明光を照射するための照明窓31が設けられている。観察窓30の奥には、対物光学系32と撮像センサ33が配置されている。照明窓31の奥には、照射レンズ34と、照明光が出射するライトガイド35の出射端が配置されている。
観察対象の像は、観察窓30を通して対物光学系32に入射し、対物光学系32によって撮像センサ33の撮像面33Aに結像される。撮像センサ33は、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等からなり、撮像面33Aには、フォトダイオード等の画素を構成する複数の光電変換素子がマトリックス状に配列されている。撮像センサ33は、撮像面33Aで受光した光を光電変換して、各画素においてそれぞれの受光量に応じた信号電荷を蓄積する。信号電荷はアンプによって電圧信号に変換されて読み出される。撮像センサ33は、この電圧信号を画像信号として出力する。
撮像センサ33はカラー撮像センサであり、撮像面33Aには青色マイクロカラーフィルタ(Bフィルタ)、緑色マイクロカラーフィルタ(Gフィルタ)、赤色マイクロカラーフィルタ(Rフィルタ)の青色、緑色、赤色の3色のマイクロカラーフィルタが設けられ、各フィルタが各画素に割り当てられている。各フィルタの配列は例えばベイヤー配列である。なお、以下の説明では、Bフィルタが割り当てられた画素(B画素)から出力された画像信号をB画像信号、Gフィルタが割り当てられた画素(G画素)から出力された画像信号をG画像信号、Rフィルタが割り当てられた画素(R画素)から出力された画像信号をR画像信号という。
光源装置13から供給された照明光は、ライトガイド35により照射レンズ34に導光されて照明窓31から観察対象に向けて照射される。照射レンズ34は凹レンズからなり、ライトガイド35から出射した照明光の発散角を広げる。これにより、観察対象の広い範囲に照明光が照射される。なお、照明窓31は2つ設けられており、先端部19に位置するライトガイド35の出射端は、2つの照明窓31に照明光を導光するために、照明窓31の前段で2本に分岐している。
先端部19には、観察窓30および照明窓31の他に、観察窓30を洗浄するために送気・送水を行う送気・送水ノズル、処置具を突出させて各種処置を行うための鉗子出口が設けられている。
撮像センサ33には、アナログ信号処理部(AFE:Analog Front End)36と撮像制御部37が接続されている。AFE36には、撮像センサ33から画像信号が入力される。AFE36は、相関二重サンプリング回路、自動ゲイン制御回路、およびアナログ/デジタル変換器で構成されている。相関二重サンプリング回路は、撮像センサ33からのアナログの画像信号に対して相関二重サンプリング処理を施し、信号電荷のリセットに起因するノイズを除去する。自動ゲイン制御回路は、相関二重サンプリング回路によりノイズが除去された画像信号を増幅する。アナログ/デジタル変換器は、自動ゲイン制御回路で増幅された画像信号を、所定のビット数に応じた階調値をもつデジタルな画像信号に変換してプロセッサ装置12に出力する。
撮像制御部37は、プロセッサ装置12内の主制御部40に接続されており、主制御部40から入力される基準クロック信号に同期して、撮像センサ33およびAFE36に対して駆動信号を入力する。撮像センサ33は、撮像制御部37からの駆動信号に基づいて、所定のフレームレートで画像信号をAFE36に出力し、AFE36は、撮像制御部37からの駆動信号に基づいて、所定のフレームレートで相関二重サンプリング処理、増幅、およびアナログ/デジタル変換を行う。
プロセッサ装置12は、主制御部40と、デジタル信号処理部(DSP;Digital Signal Processor)41と、画像処理部42と、表示制御部43とを備えている。主制御部40は、CPU(Central Processing Unit)、作動プログラム44や制御に必要な設定データを記憶するROM(Read Only Memory)、作動プログラム44をロードして作業メモリとして機能するRAM(Random Access Memory)を有し、CPUが作動プログラム44を実行することにより、プロセッサ装置12の各部を制御する。
DSP41は、AFE36からのデジタルの画像信号(B画像信号、G画像信号、R画像信号)に対して画素補間処理を施す。この画素補間処理によって、B画素、G画素、R画素の各画素で不足した色の画像信号(例えばB画素の場合はG画像信号とR画像信号)が生成され、全画素についてB画像信号、G画像信号、R画像信号が揃う。
また、DSP41は、画素補間処理後の画像信号に対して、欠陥画素補正、オフセット補正、ガンマ補正、ホワイトバランス補正等を施す。さらに、DSP41は、画像信号に基づいて露出値を算出して、画像全体の光量が不足している場合(露出アンダー)には照明光の光量を上げるように、一方、光量が高すぎる場合(露出オーバー)には照明光の光量を下げるように制御する露出制御信号を主制御部40に出力する。主制御部40は、光源装置13に露出制御信号を送信する。
画像処理部42は、DSP41からの画像信号に対して各種画像処理を施す。表示制御部43は、後述する画像表示画面76(図13等参照)をモニタ14に出力する。なお、画像処理部42には、例えば移動平均法やメディアンフィルタ法に代表されるノイズ低減処理が施された画像信号が入力される。
内視鏡システム10は、第1観察モードと第2観察モードの2つの観察モードを有している。主制御部40は、入力デバイス15を介して入力される、これらの観察モードの切替信号を受信する。なお、内視鏡11の操作部17に観察モードを切り替えるスイッチを設けてもよい。あるいは、フットスイッチで観察モードを切り替えてもよい。
第1観察モードは観察画像をモニタ14に表示する観察モードである。一方、第2観察モードは、観察画像に加えて色割り当て画像をモニタ14に表示する観察モードである。色割り当て画像は、観察画像内の領域に対応する所見と、所見の程度を表すレベルとに基づき、観察画像に対して色割り当て処理を行った画像である。
光源装置13は、青色光BLを発する青色半導体光源(B半導体光源)50と、緑色光GLを発する緑色半導体光源(G半導体光源)51と、赤色光RLを発する赤色半導体光源(R半導体光源)52と、光路結合部53と、各半導体光源50〜52の駆動を制御する光源制御部54とを備えている。
各半導体光源50〜52は、例えば発光ダイオード(LED:Light Emitting Diode)、レーザダイオード(LD:Laser Diode)、EL(Electro Luminescence)素子といった発光素子を有する。光源制御部54は、各半導体光源50〜52の点灯、消灯および光量の制御を行う。光量の制御は、主制御部40からの露出制御信号に基づいて、各半導体光源50〜52への供給電力を変更することで行う。
光源制御部54は、各半導体光源50〜52に駆動電流を連続的に与えることで各半導体光源50〜52を点灯させる。そして、露出制御信号に応じて、与える駆動電流の値を変化させることにより各半導体光源50〜52への供給電力を変更し、青色光BL、緑色光GL、赤色光RLの光量をそれぞれ制御する。なお、駆動電流を連続的に与えるのではなくパルス状に与え、駆動電流パルスの振幅を変化させるPAM(Pulse Amplitude Modulation)制御や、駆動電流パルスのデューティ比を変化させるPWM(Pulse Width Modulation)制御を行ってもよい。
青色光BLの発光スペクトルは、例えば420nm〜500nm付近の波長成分を有し、中心波長460±10nm、半値幅25±10nmである。緑色光GLの発光スペクトルは、例えば480nm〜600nm付近の波長成分を有し、中心波長550±10nm、半値幅100±10nmである。赤色光RLの発光スペクトルは、例えば600nm〜650nm付近の波長成分を有し、中心波長625±10nm、半値幅20±10nmである。なお、中心波長は各色光の発光スペクトルの幅の中心の波長を示し、半値幅は各色光の発光スペクトルのピークの半分を示す波長の範囲である。
青色光BL、緑色光GL、赤色光RLの光強度比BL:GL:RLは、光源制御部54によって一定に保たれており、例えば次式(1)のように設定されている。
BL:GL:RL=2:2:1 ・・・(1)
すなわち、短波長側の光である青色光BL、緑色光GLの光強度が、長波長側の光である赤色光RLの光強度と比べて強く設定されている。なお、光強度は、光の光束の単位立体角内の密度であり、光量は、光の放射エネルギーを人間の感覚(視感度)に基づき評価した値である。
光路結合部53は、青色光BL、緑色光GL、赤色光RLの各色光の光路を1つの光路に結合し、各色光を内視鏡11のライトガイド35の入射端に集光する。光路結合部53で光路が結合された青色光BL、緑色光GL、赤色光RLの混合光は、キセノンランプが発する白色光とほぼ同等の発光スペクトルを有する白色光である。本実施形態では、この白色光を照明光として用いる。
なお、白色光は、キセノンランプが発する白色光のように、青色成分、緑色成分、赤色成分の波長帯域をすべて含む広帯域光だけでなく、本実施形態のように青色成分、緑色成分、赤色成分の少なくとも3色のそれぞれの波長帯域の光を混合した照明光も含む。
光源制御部54は、第1観察モード、第2観察モードのいずれの観察モードにおいても、各半導体光源50〜52を点灯する。したがって観察対象には、常に青色光BL、緑色光GL、赤色光RLの混合光が照明光として照射される。
図3において、画像処理部42には、作動プログラム44の起動により、画像信号取得部60、観察画像生成部61、特徴量算出部62、領域決定部63、レベル分類部64、および色割り当て画像生成部65が構築される。
画像信号取得部60は、DSP41からの画像信号(B画像信号、G画像信号、R画像信号)を取得する画像信号取得機能を担う。この画像信号は、式(1)で示したように、短波長側の光である青色光BL、緑色光GLの光強度を、長波長側の光である赤色光RLの光強度と比べて強くした照明光を観察対象に照射して得られたものである。すなわち、画像信号取得部60は、短波長側の光強度を長波長側の光強度と比べて強くした照明光を観察対象に照射して得られた画像信号を取得する。
第1観察モードの場合、画像信号取得部60は、取得した画像信号を観察画像生成部61に出力する。一方、第2観察モードの場合、画像信号取得部60は、取得した画像信号を観察画像生成部61に加えて特徴量算出部62にも出力する。
観察画像生成部61は、画像信号取得部60からの画像信号に基づき、観察画像を生成する観察画像生成機能を担う。観察画像生成部61は、生成した観察画像を表示制御部43および色割り当て画像生成部65に出力する。本実施形態では、観察画像は、照明光として白色光を観察対象に照射して得られた画像信号に基づく通常画像である。
特徴量算出部62は、画像信号から複数種類の特徴量を算出する特徴量算出機能を担う。特徴量算出部62は、複数種類の特徴量のうちの第1特徴量を領域決定部63に、複数種類の特徴量のうちの第2特徴量をレベル分類部64にそれぞれ出力する。
領域決定部63は、予め設定された複数の所見のそれぞれに該当する観察画像内の領域を決定する領域決定機能を担う。領域決定部63は、特徴量算出部62からの第1特徴量および領域決定テーブル66(図6参照)に基づき領域の決定を行う。領域決定部63は、領域の決定結果(領域決定結果)を色割り当て画像生成部65に出力する。
レベル分類部64は、複数の所見の各々に対して予め設定された、所見の程度を表す複数のレベルのいずれかに観察画像内の領域を分類するレベル分類機能を担う。レベル分類部64は、特徴量算出部62からの第2特徴量およびレベル分類テーブル67(図7参照)に基づきレベルの分類を行う。レベル分類部64は、レベルの分類結果(レベル分類結果)を色割り当て画像生成部65に出力する。
色割り当て画像生成部65は、領域決定部63からの領域決定結果、レベル分類部64からのレベル分類結果、並びに色割り当てテーブル68(図8参照)に基づき、色割り当て画像を生成する色割り当て画像生成機能を担う。色割り当て画像生成部65は、生成した色割り当て画像を表示制御部43に出力する。
図4のステップS10に示すように、特徴量算出部62は、画像信号に対して周知の輪郭抽出処理を施し、領域REを抽出する。領域REは、具体的には胃粘膜の点やスジ、隆起、窪み、穴等である。図4では、領域REとして多数の点が抽出された様子を示している。
領域REの抽出後、特徴量算出部62は、各領域REの色特徴量VA、形態特徴量VBを算出する(ステップS11)。色特徴量VAは、B画像信号、G画像信号、R画像信号の各画像信号で表される色成分(画素値)に関する特徴量であり、例えば、各領域REの青色成分、緑色成分、赤色成分のそれぞれの平均値、分散、最大値、最小値、各領域REの赤色成分と緑色成分の比、各領域REの青色成分と緑色成分の比等である。形態特徴量VBは、各領域REの形態に関する特徴量であり、例えば各領域REの形状(扁平度、凹凸度、円形度、分枝数等)、サイズ(最大径、最大幅、長さ、曲率、面積等)等である。
次いで、特徴量算出部62は、算出した色特徴量VA、形態特徴量VBに基づき、領域REをグループ化する(ステップS12)。具体的には、各領域REのうち、色特徴量VA、形態特徴量VBが予め設定された範囲内にある領域REを、1つのグループGRとして認識する。こうして1つのグループGRにグループ化された領域REは、色成分および形態の特徴がほぼ同じ領域REである。図4では、領域REとして抽出された多数の点が1つのグループGRとして認識された様子を示している。
特徴量算出部62は、ステップS12でグループ化したグループGRについて、分布特徴量VCを算出する(ステップS13)。分布特徴量VCは、グループGR内における各領域REの分布に関する特徴量であり、例えば、グループGR内の領域REの個数、密度、グループGR内の隣接する領域RE間の距離の平均値、分散、最大値、最小値等である。
特徴量算出部62は、各領域REの色特徴量VA、形態特徴量VB、および分布特徴量VCに領域REの位置情報を付し、これらを領域決定部63およびレベル分類部64に出力する。位置情報は、例えば撮像面33Aの一角の画素を原点とし、各画素の位置を二次元的に表現した座標等である。領域REが矩形状の場合は、位置情報として矩形の対角線上の2点の座標が付される。領域REが円形状の場合は、円の中心の座標と直径または半径が、領域REが楕円形状の場合は、楕円の中心の座標と長径、短径がそれぞれ位置情報として付される。領域REが上記のいずれの形状でもない場合は、領域REの境界の全ての画素の座標が位置情報として付される。
特徴量算出部62は、図5に示す表70に基づき、算出した色特徴量VA、形態特徴量VB、および分布特徴量VCを第1特徴量と第2特徴量に振り分け、第1特徴量を領域決定部63に、第2特徴量をレベル分類部64にそれぞれ出力する。
表70は、第1特徴量と第2特徴量の例である。第1特徴量は、色特徴量VA1、形態特徴量VB1、VB2、および分布特徴量VC1で構成される。対して第2特徴量は、色特徴量VA1、形態特徴量VB1、VB2、および分布特徴量VC1に加えて、破線の枠で示すように、色特徴量VA2、形態特徴量VB3、および分布特徴量VC2を有する。すなわち、第2特徴量は第1特徴量を含んでいる。
色特徴量VA1は例えば赤色成分の平均値、色特徴量VA2は例えば赤色成分と緑色成分の比である。形態特徴量VB1は例えば扁平度、形態特徴量VB2は例えば円形度、形態特徴量VB3は例えば面積である。分布特徴量VC1は例えば密度、分布特徴量VC2は例えば距離の平均値である。
図6において、領域決定テーブル66には、条件と所見の項目が設けられている。条件の項目に登録されたA、B、C等は、今までに培われた膨大な医学的知見に基づいて策定された第1特徴量の範囲を示す不等式、例えば色特徴量VA1<X、Y<形態特徴量VB1≦Z(X、Y、Zは数値)等である。
所見の項目には、各条件に対応する所見が登録されている。所見は胃炎に関するもの、より具体的には領域REがピロリ菌の感染によって生じる慢性胃炎に特徴的なものであるか否かを判断するための胃炎の京都分類として知られるものである。所見には、正常な胃粘膜を示すRAC(Regular Arrangement of Collecting Venules)、ピロリ菌の現感染を示すびまん性発赤、点状発赤、ピロリ菌の現感染または既感染を示す委縮、腸上皮下生、ピロリ菌の既感染を示す地図状発赤等がある。なお、ここで例示した以外にも、胃底腺ポリープ、腺か上皮過形成ポリープ、稜線状発赤、斑状発赤、陥凹型びらん、多発性白色扁平隆起といった様々な所見が条件とセットで登録されている。
図7において、レベル分類テーブル67には、所見、条件、およびレベルの項目が設けられている。所見の項目には、図6の領域決定テーブル66の所見の項目に登録された各所見が登録されている。条件の項目に登録されたa−1、b−1、c−1等は、領域決定テーブル66の条件と同様に、医学的知見に基づいて策定された第2特徴量の範囲を示す不等式である。レベルの項目には、複数の所見の各々に対して、レベル1、レベル2、レベル3の3つのレベルが登録されている。所見の程度は、例えば、レベル1が軽度、レベル2が中度、レベル3が高度である。
ここで所見の程度とは、例えば、所見が委縮の場合は、胃粘膜の厚みと相関の見られる粘膜色の黄色成分の強さから推定される委縮の程度、びまん性発赤の場合は、赤色成分の強さから推定されるびまん性発赤の程度、点状発赤の場合は密度から推定される点状発赤の程度である。なお、所見が正常な胃粘膜を示すRACの場合は、RACの領域とその周辺の領域の色のコントラストの大きさから推定される、正常の確信度の程度である。
図8において、色割り当てテーブル68には、所見、表示色、レベル、および色味の項目が設けられている。表示色の項目には、所見毎に設定された表示色が登録されている。色味の項目には、レベル毎に設定された、表示色の色味が登録されている。
ここで表示色とは、色の三要素のうちの色相である。また、色味とは、色の三要素のうちの彩度または/および明度である。図8では、RACには赤色、委縮には緑色、腸上皮化生には青色、びまん性発赤には黄色、点状発赤には紫色、地図状発赤には橙色がそれぞれ表示色として登録されている。また、レベル1には彩度低(彩度がレベル2より低い)、レベル2には彩度中(彩度がレベル1とレベル3の中間)、レベル3には彩度高(彩度がレベル2より高い)がそれぞれ色味として登録されている。
図9および図10は、領域決定部63、レベル分類部64、および色割り当て画像生成部65の機能を示すものである。ステップS20に示すように、領域決定部63は、第1特徴量および領域決定テーブル66に基づき各所見に該当する領域REを決定し、領域決定結果を色割り当て画像生成部65に出力する。また、これと並行してステップS21に示すように、レベル分類部64は、第2特徴量およびレベル分類テーブル67に基づきレベルの分類を行い、レベル分類結果を色割り当て画像生成部65に出力する。領域決定部63およびレベル分類部64は、領域決定結果およびレベル分類結果に、特徴量算出部62からの領域REの位置情報を付す。
図9は領域決定結果として腸上皮化生が出力され、レベル分類結果としてレベル1が出力された例を示している。図10は領域決定結果として委縮が出力され、レベル分類結果としてレベル1、レベル2が出力された例を示している。
ステップS22に示すように、色割り当て画像生成部65は、観察画像生成部61からの観察画像の各領域REに対して、色割り当てテーブル68に登録された表示色および色味で色割り当て処理を行う。色割り当て処理は、領域決定結果およびレベル分類結果に付された領域REの位置情報に基づいて、観察画像内の各領域REの位置を特定し、各領域REを色割り当てテーブル68に登録された表示色および色味で着色する処理である。色割り当て画像生成部65は、こうした色割り当て処理を、特徴量を算出した領域REの全てに対して行って、領域REを色割り当てテーブル68に登録された表示色および色味でカラー化した色割り当て画像を生成する。
図9では、所見が腸上皮化生、レベルがレベル1であるため、青色(彩度低)が領域REに割り当てられる。一方、図10では、所見が委縮、レベルがレベル1、レベル2であるため、緑色(彩度低)、緑色(彩度中)が領域REにそれぞれ割り当てられる。なお、図9に例示した腸上皮化生、図10に例示した委縮以外の領域も、同様に色割り当てテーブル68に基づく色割り当て処理が行われる。
図11において、色割り当て処理においては、領域REの境界が、ハッチングHで示すように色割り当てテーブル68で設定された表示色および色味で縁取られる。すなわち、色割り当て画像生成部65は、領域REの境界に対して色割り当て処理を行う。
図12において、表示制御部43には、作動プログラム44の起動により、表示画面生成部75が構築される。表示画面生成部75には、観察画像生成部61から観察画像が、色割り当て画像生成部65から色割り当て画像がそれぞれ入力される。表示画面生成部75は、観察画像と色割り当て画像に基づき、画像表示画面76を生成する。表示画面生成部75は、生成した画像表示画面76を、モニタ14に出力するための映像信号に変換する。この映像信号に基づく画像表示画面76がモニタ14に表示される。
図13に示すように、画像表示画面76は、検査情報表示領域80、観察画像表示領域81、および色割り当て画像表示領域82を有する。検査情報表示領域80には、内視鏡検査の日付、内視鏡検査の対象患者の氏名、患者ID(Identification Data)、性別、生年月日といった検査情報が表示される。観察画像表示領域81には観察画像が、色割り当て画像表示領域82には色割り当て画像がそれぞれ表示される。
色割り当て画像を表示する画像表示画面76を生成してモニタ14に出力する表示画面生成部75を有する表示制御部43は、色割り当て画像の表示を制御する表示制御機能を担う。
色割り当て画像表示領域82には、凡例ボタン83が設けられている。凡例ボタン83が選択された場合、表示画面生成部75は、図14に示す凡例表示画面85を生成してモニタ14に出力する。
図14において、凡例表示画面85には、各所見の各レベルに対応する表示色および色味を示すカラーブロック86が一覧表示される。この凡例表示画面85により、色割り当て画像内の領域の所見およびレベルが識別可能となる。なお、凡例表示画面85を画像表示画面76と別に表示するのではなく、凡例表示画面85を画像表示画面76内に表示してもよい。
図13に示す画像表示画面76は、第2観察モードの場合の表示例である。一方、第1観察モードの場合、色割り当て画像は生成されない。このため第1観察モードの場合の画像表示画面76は、図15に示すように色割り当て画像表示領域82がないものとなる。
次に、上記構成による作用について、図16に示すフローチャートを参照して説明する。内視鏡11とプロセッサ装置12および光源装置13がコネクタ25を介して接続され、内視鏡システム10が起動されると、各半導体光源50〜52が点灯して青色光BL、緑色光GL、赤色光RLの混合光が照明光として観察対象に照射され、同時に撮像センサ33による観察対象の撮影が開始される。この際、観察モードには第1観察モードが設定されている。
撮像制御部37の制御の下、撮像センサ33から画像信号が出力される。画像信号はAFE36で相関二重サンプリング処理、増幅、およびアナログ/デジタル変換が施され、DSP41に出力される。DSP41では、画像信号に対して画素補間処理等が施される。DSP41で各種処理が施された画像信号は、画像処理部42に出力される。
図16のステップS100に示すように、DSP41からの画像信号は、画像信号取得部60で取得される(画像信号取得ステップ)。
ここで照明光は、短波長側の光である青色光BL、緑色光GLの光強度が、長波長側の光である赤色光RLの光強度と比べて強く設定されている。周知のように、短波長側の光は、長波長側の光と比べて、粘膜表層の構造を際立たせる効果がある。このため、短波長側の光である青色光BL、緑色光GLの光強度を、長波長側の光である赤色光RLの光強度と比べて強く設定することで、粘膜表層の構造を的確に捉えた画像信号を画像信号取得部60で取得することができる。
画像信号は画像信号取得部60から観察画像生成部61に出力される。観察画像生成部61では、画像信号に基づき、観察画像が生成される(ステップS110、観察画像生成ステップ)。観察画像は表示制御部43に出力される。
表示制御部43では、観察画像生成部61からの観察画像に基づき、表示画面生成部75により図15に示す色割り当て画像表示領域82がない画像表示画面76が生成される(ステップ120でNO、ステップS170)。画像表示画面76はモニタ14に表示される(ステップS180)。
医師は、必要に応じて入力デバイス15を操作し、観察モードを第2観察モードに切り替える。これにより入力デバイス15からの切替信号が主制御部40で受信され、観察モードが第2観察モードに切り替わる(ステップS120でYES)。
第2観察モードの場合、画像信号は観察画像生成部61に加えて特徴量算出部62にも出力される。特徴量算出部62では、輪郭抽出処理により領域REが抽出され、抽出された領域REについて、複数種類の特徴量が算出される(ステップS130、特徴量算出ステップ)。複数種類の特徴量のうち、表70で設定された第1特徴量が領域決定部63に、第2特徴量がレベル分類部64にそれぞれ出力される。
領域決定部63では、第1特徴量および領域決定テーブル66に基づき、各所見に該当する領域REが決定される(ステップS140、領域決定ステップ)。また、レベル分類部64では、第2特徴量およびレベル分類テーブル67に基づき、領域REについてレベルの分類が行われる(ステップS150、レベル分類ステップ)。領域決定部63による領域決定結果、およびレベル分類部64によるレベル分類結果は、色割り当て画像生成部65に出力される。
第1特徴量に基づき各所見に該当する領域REを決定し、第2特徴量に基づきレベルの分類を行うので、各所見に該当する領域REの決定に有用な特徴量は第1特徴量に設定し、レベルの分類に有用な特徴量は第2特徴量に設定することができ、特徴量をその特性に応じて使い分けることができる。
また、第2特徴量は第1特徴量を含み、各所見に該当する領域REの決定と比べて多くの特徴量でレベルの分類を行うので、各所見に該当する領域REの決定精度と比べてレベルの分類精度を高めることができる。所見は経験の浅い医師であってもある程度見た目で判断することができるが、レベルの見極めには熟練が必要である。したがって、レベルの分類精度を高めることで、経験を問わず自信をもってレベルを見極めることができる。
色割り当て画像生成部65では、領域決定結果、レベル分類結果、並びに色割り当てテーブル68に基づき、色割り当て画像が生成される(ステップS160、色割り当て画像生成ステップ)。この際、領域REの境界に対して色割り当て処理が行われる。色割り当て画像は表示制御部43に出力される。
領域REの境界に対して色割り当て処理を行うので、領域REの全体に色割り当て処理を行い、領域REの全体を色割り当てテーブル68で設定された表示色および色味で塗り潰す場合よりも、表示に煩わしさがない。
また、インジゴカルミン等の色素を観察対象に散布して観察する場合や、狭帯域の波長の照明光を観察対象に照射して観察する場合も領域REの境界が主に着色されるので、色素を観察対象に散布して観察する場合や、狭帯域の波長の照明光を観察対象に照射して観察する場合の表示に似せることができる。色素を観察対象に散布して観察したり、狭帯域の波長の照明光を観察対象に照射して観察することに慣れた医師が違和感なく観察することができる。
表示制御部43では、表示画面生成部75により、観察画像生成部61から観察画像と、色割り当て画像生成部65から色割り当て画像に基づき、図13に示す色割り当て画像表示領域82を有する画像表示画面76が生成される(ステップS170)。画像表示画面76はモニタ14に表示される(ステップS180、表示制御ステップ)。これら一連のステップS100〜ステップS180は、医師により観察終了の指示が入力デバイス15に入力される(ステップS190でYES)まで続けられる。
医師は、第2観察モードにおける画像表示画面76において、色割り当て画像を観察することで、表示色により所見を把握することができ、併せて色味により所見の程度も把握することができる。また、第2観察モードにおける画像表示画面76には観察画像と色割り当て画像が並列表示されるので、医師はこれらの画像を比較しながら内視鏡検査を進めることができる。
本実施形態では、胃粘膜を観察対象とし、所見を胃炎に関するもの(胃炎の京都分類)としている。胃炎、特にピロリ菌の感染によって生じる慢性胃炎は、胃癌の重要なリスクファクターに指摘されている。また、胃癌は、癌の種類別の死亡者数の統計で常に上位にランクインしている。このため、胃粘膜を観察対象とし、所見を胃炎に関するものとすることで、胃癌の予防、胃癌の患者に掛かる医療費の削減、および胃癌による死亡者数の削減に寄与することができる。
[第2実施形態]
図17および図18に示す第2実施形態では、画像信号に対して明るさを均一にする明るさ補正処理を施し、その後特徴量を算出する。
図17において、本実施形態の画像処理部90には、上記第1実施形態の各機能部に加えて、明るさ補正処理部91が構築される。なお、図17では、上記第1実施形態の各機能部のうち、画像信号取得部60と特徴量算出部62のみを図示し、領域決定部63等の図示を省略している。
明るさ補正処理部91は、画像信号取得部60からの画像信号に対して明るさを均一にする明るさ補正処理を施す。特徴量算出部62は、明るさ補正処理部91からの明るさ補正処理済みの画像信号から特徴量を算出する。
図18は、明るさ補正処理の概念図である。矢印の上段は明るさ補正処理前、下段は明るさ補正処理後の撮像センサ33のある行の画素の位置に対応する明るさを示す。明るさは、例えば各画素のB画像信号、G画像信号、R画像信号から算出される明度である。明るさ補正処理前は、照明光の照射ムラや胃粘膜の形状等により、明るい領域と暗い領域が混在している。明るさ補正処理部91は、こうした明るさのムラを補正し、矢印の下段に示すように、明るさ補正処理前の明るさの平均値付近で明るさを全域にわたってほぼ一定とする。
このように、明るさ補正処理によって明るさがほぼ一定となった画像信号から特徴量を算出するので、信頼性の高い特徴量を算出することができ、ひいては領域決定結果およびレベル分類結果の信頼性も確保することができる。
上記第1実施形態では、各半導体光源50〜52から発せられる青色光BL、緑色光GL、赤色光RLの混合光を照明光として用いているが、本発明はこれに限定されない。血中ヘモグロビンの吸収率が高い帯域に波長を合わせた狭帯域光、あるいは赤外光等の可視光以外の光を照明光として用いてもよい。すなわち、観察画像は通常画像に限らず、狭帯域光を観察対象に照射して得られた画像信号に基づく画像等の特殊画像であってもよい。
また、上記第1実施形態では、観察モードに関わらず、常に青色光BL、緑色光GL、赤色光RLの混合光を照明光として照射しているが、第1観察モードでは青色光BL、緑色光GL、赤色光RLの混合光を照射し、第2観察モードでは青色狭帯域光と緑色光GLの混合光を照射する等、観察モードに応じて照明光を変更してもよい。さらに、半導体光源50〜52に代えて、キセノンランプを用いてもよい。
また、青色光BL、緑色光GL、赤色光RLの光強度比BL:GL:RLを、上記第1実施形態の式(1)で示した2:2:1ではなく、1:1:1とし、均一な光強度としてもよい。第1観察モードでは光強度比を1:1:1、第2観察モードでは光強度比を2:2:1とする等、観察モードに応じて光強度比を変更してもよい。
領域に選択的に集積する蛍光を発する薬剤や、インジゴカルミン等の色素を観察対象に散布してもよい。
[第3実施形態]
図19および図20に示す第3実施形態では、照明光として白色光を観察対象に照射して得られた画像信号に基づく通常画像に対して色およびコントラストのうち少なくとも1つを低減する低減処理を施した後、通常画像に色割り当て画像を重畳する。
図19において、本実施形態の画像処理部95には、上記第1実施形態の各機能部に加えて、低減処理部96が構築される。また、表示制御部97には、表示画面生成部75に加えて、画像重畳部98が構築される。なお、図19では、図17と同様に、上記第1実施形態の画像処理部42の各機能部のうち、観察画像生成部61および色割り当て画像生成部65のみを図示し、領域決定部63等の図示を省略している。
低減処理部96は、通常画像に対して低減処理を施す。低減処理は、通常画像の色およびコントラストのうち少なくとも1つを低減する処理であり、例えば通常画像をグレースケール化し、かつ各画素の階調数を減じて、色およびコントラストを低減する処理である。
画像重畳部98は、低減処理部96からの低減処理済みの通常画像に、色割り当て画像生成部65からの色割り当て画像を重畳し、重畳画像を生成する。表示画面生成部75は、観察画像生成部61からの観察画像と、画像重畳部98からの重畳画像に基づき、図20に示す画像表示画面100を生成する。
図20において、画像表示画面100は、画像表示画面76の色割り当て画像表示領域82の代わりに、重畳画像を表示する重畳画像表示領域101を有する。その他の構成は画像表示画面76と同じである。
観察画像が上記第1実施形態のように白色光を観察対象に照射して得られた画像信号に基づく通常画像ではなく、狭帯域光を観察対象に照射して得られた画像信号に基づく画像等の特殊画像であった場合、色割り当て処理は特殊画像に対して行われ、色割り当て画像は特殊画像がベースとなる。
特殊画像は通常画像と比べて観察対象の情報が捨象されたものとなる。このため、特殊画像をベースとする色割り当て画像では、観察対象の全体的な性状を把握することが困難となるおそれがある。この懸念は、特殊画像をベースとした色割り当て画像を通常画像に重畳して、特殊画像で捨象された観察対象の情報を通常画像で補うことで解決する。しかしながら、単に通常画像に色割り当て画像を重畳したのでは、せっかく色割り当て処理を行って領域に対応する所見と所見の程度の把握を可能とした色割り当て画像が、かえって見辛くなる。
そこで本実施形態では、上記のように通常画像に対して色およびコントラストのうち少なくとも1つを低減する低減処理を施し、低減処理済みの通常画像に色割り当て画像を重畳している。これにより、重畳画像において通常画像が色割り当て画像の観察の妨げになることがなく、特殊画像で捨象された観察対象の情報を通常画像で補いつつも、色割り当て画像の視認性を高めることができる。
また、通常画像に色割り当て画像を重畳する場合、通常画像で使用される色と同じ色を所見の表示色に設定してしまうと、重畳画像において見分けがつかなくなる。このため、通常画像に色割り当て画像を重畳する場合は、表示色として使用可能な色に制約がある。対して本実施形態のように、低減処理として色を低減する処理を施した通常画像に色割り当て画像を重畳する場合は、表示色として使用可能な色の幅が広がり、よりバリエーションに富んだ表示をすることが可能となる。
なお、上記第1実施形態のように通常画像をベースに色割り当て画像を生成する場合も、色割り当て画像に対して観察対象の情報が捨象される処理が施され、色割り当て画像が、観察対象の情報が捨象されたものであった場合は、本実施形態は有効である。
上記各実施形態では、胃粘膜を観察対象とし、所見を胃炎に関するもの(胃炎の京都分類)としているが、下部消化管用の内視鏡で大腸ポリープを観察対象とし、所見を大腸癌のピットパターン分類として知られるI型、II型、IIIs型等としてもよい。
大腸癌は胃癌と並んで癌の種類別の死亡者数の統計で上位にあり、特に女性の場合は死亡者数が1位である。このため、大腸ポリープを観察対象とし、所見を大腸癌のピットパターン分類とすることで、大腸癌の予防、大腸癌の患者に掛かる医療費の削減、および大腸癌による死亡者数の削減に寄与することができる。なお、大腸ポリープを観察対象とする場合は、大腸癌のピットパターン分類に限らず、所見を、炎症性腸疾患、クローン病、潰瘍性大腸炎等に関するものとしてもよい。
胃粘膜や大腸ポリープを観察対象として領域を決定しレベルを分類する場合、血管はノイズとなる。そこで、特徴量の算出に先立ち、血管部分の画像信号を検出し、血管部分の画像信号を周辺部分の画像信号で補間する処理を施してもよい。こうしてノイズとなる血管部分を目立たなくしたうえで特徴量を算出すれば、算出した特徴量、ひいては領域決定結果およびレベル分類結果がより信頼の置けるものとなる。
白色光の照明下において、粘膜表層の血管は赤色、中層の血管は茶褐色、深層の血管は紫色をそれぞれ呈することが知られている。このため、特定の色成分に着目して血管部分の画像信号を検出すればよい。なお、白色光ではなく、血中ヘモグロビンの吸収率が高い帯域に波長を合わせた狭帯域光の照明下では、血管の色が白色光の場合と異なるので、照明光に応じて着目する色成分を変更することが好ましい。
特定の色成分の画像信号を血管部分の画像信号として検出したうえで、さらにその周辺部分の特定の色成分と似た色成分の画像信号も併せて血管部分の画像信号として検出することが好ましい。また、別の血管として検出した部分の間隔が所定値以下で、かつ別の血管として検出した部分の長手方向が一致している場合、別の血管として検出した部分を同一の血管部分と推定して再認識する処理を加えてもよい。さらに、血管として検出した部分の幅、長さ、あるいは面積が所定値以下であった場合、血管部分ではなく単なる画像ノイズとして処理してもよい。
領域を決定しレベルを分類する場合にノイズとなるものは、血管に限らない。例えば、照明光が当たりすぎてハレーションを起こしている部分、逆に穴等で照明光が当たらない暗い部分、あるいは鉗子出口から突出した処置具の先端や可撓管部21、挿入部16に被覆されて挿入部16の挿入を案内するガイドシース等の人工物も、血管と同様ノイズとなる。さらに、ピンボケ部分とブレ部分もノイズとなる。そこで、特徴量の算出に先立ち、こうしたノイズとなる部分の画像信号を検出して、これらの部分の画像信号を特徴量の算出対象から除外することが好ましい。
この場合、特徴量の算出対象となる画像信号が全体の例えば10%以下等、特徴量の算出対象となる画像信号が比較的少なく、このままでは特徴量の信頼性を確保できないと判断した場合は、以降の特徴量の算出、領域の決定、レベルの分類、色割り当て処理の実施を中止してもよい。
なお、所見毎に予め用意された複数の基本パターンとの類似度を特徴量として算出し、これを第1特徴量として領域決定部63に出力してもよい。この場合、特徴量算出部62は、複数の基本パターンと画像信号とを照合し、複数の基本パターンの各々について類似度を算出する。特徴量算出部62は、観察画像を細分化した各領域のそれぞれに対して照合と類似度の算出を行う。領域決定部63は、複数の基本パターンとの類似度に応じて、各所見に該当する領域を決定する。例えば、複数の基本パターンとの類似度のうち、最も高い類似度を示した基本パターンに対応する所見を、その領域の所見とする。
なお、異なる複数の所見に該当する複数の領域同士が一部オーバーラップしていてもよい。この場合、オーバーラップした部分は、異なる所見が混在した領域となる。
上記第1実施形態で記載した第1特徴量と第2特徴量は一例であり、適宜変更してもよい。また、第1特徴量と第2特徴量は全く同じ特徴量でもよいし、全て異なる特徴量でもよい。
上記第1実施形態で記載した表示色および色味も一例であり、適宜変更してもよい。色味としては、上記第1実施形態で例示した彩度に加えて、あるいは代えて、明度を加えてもよい。
レベルは上記第1実施形態のレベル1〜3の3段階に限らない。レベル1、レベル2の2段階でもよいし、レベル1〜10等、さらに細かく段階分けしてもよい。
上記第1実施形態では、第2観察モードにおける画像表示画面76において、観察画像と色割り当て画像を並列表示しているが、色割り当て画像のみを表示してもよい。この場合は観察画像を画像表示画面76とは別の表示画面で表示する、あるいは画像表示画面76に表示切替ボタンを設け、表示切替ボタンの操作に応じて観察画像と色割り当て画像の表示を切り替える。観察画像と色割り当て画像を別の表示画面で表示する場合は、モニタ14を2台のマルチモニタとし、一方のモニタに観察画像の表示画面、他方のモニタに色割り当て画像の表示画面を表示してもよい。上記第3実施形態の重畳画像についても同様に、重畳画像のみを表示してもよい。
画像表示画面76に特徴量を表示してもよい。例えば色割り当て画像上の領域REを選択可能としておき、選択された領域REの特徴量の一覧を画像表示画面76上にポップアップ表示する。この場合、色特徴量VA、形態特徴量VB、および分布特徴量VCの特徴量の種類毎にまとめて表示することが好ましい。
上記第1実施形態では、Bフィルタ、Gフィルタ、およびRフィルタの原色カラーフィルタが撮像面33Aに設けられた撮像センサ33を例示しているが、シアン、マゼンタ、イエローの補色カラーフィルタが撮像面に設けられた撮像センサを用いてもよい。
また、カラーフィルタが設けられていないモノクロの撮像センサを用いてもよい。モノクロの撮像センサを用いる場合は、各半導体光源50〜52を、フレームレートに合わせて順次点灯させる。光源としてキセノンランプを用いる場合は、キセノンランプからの白色光を、フレームレートに合わせて青色光BL、緑色光GL、および赤色光RLに順次分光するロータリーフィルタが、キセノンランプとライトガイド35の入射端の間等に設けられる。
上記各実施形態では、内視鏡11と直接接続されるプロセッサ装置12を、本発明の画像処理装置として機能させる例で説明したが、画像処理装置をプロセッサ装置から独立した装置としてもよい。
本発明は、上記第1実施形態で例示した、いわゆる軟性鏡と呼ばれる内視鏡11に限らず、超小型のカプセル内に撮像センサと光源が組み込まれたカプセル内視鏡についても適用することが可能である。
本発明は、上述の種々の実施形態あるいは種々の変形例を適宜組み合わせることも可能である。また、上記各実施形態に限らず、本発明の要旨を逸脱しない限り種々の構成を採用し得ることはもちろんである。さらに、本発明は、プログラムに加えて、プログラムを記憶する記憶媒体にも及ぶ。
10 内視鏡システム
11 内視鏡
12 プロセッサ装置(画像処理装置)
13 光源装置
14 モニタ
15 入力デバイス
16 挿入部
17 操作部
18 ユニバーサルコード
19 先端部
20 湾曲部
21 可撓管部
22 アングルノブ
23 鉗子口
24 送気・送水ボタン
25 コネクタ
25A 通信用コネクタ
25B 光源用コネクタ
30 観察窓
31 照明窓
32 対物光学系
33 撮像センサ
34 照射レンズ
35 ライトガイド
36 アナログ信号処理部(AFE)
37 撮像制御部
40 主制御部
41 デジタル信号処理部(DSP)
42、90、95 画像処理部
43、97 表示制御部
44 作動プログラム
50 青色半導体光源(B半導体光源)
51 緑色半導体光源(G半導体光源)
52 赤色半導体光源(R半導体光源)
53 光路結合部
54 光源制御部
60 画像信号取得部
61 観察画像生成部
62 特徴量算出部
63 領域決定部
64 レベル分類部
65 色割り当て画像生成部
66 領域決定テーブル
67 レベル分類テーブル
68 色割り当てテーブル
70 表
75 表示画面生成部
76、100 画像表示画面
80 検査情報表示領域
81 観察画像表示領域
82 色割り当て画像表示領域
83 凡例ボタン
85 凡例表示画面
86 カラーブロック
91 明るさ補正処理部
96 低減処理部
98 画像重畳部
101 重畳画像表示領域
RE 領域
HC ハッチング

Claims (10)

  1. 生体内の観察対象を撮影して得られた画像信号を取得する画像信号取得部と、
    前記画像信号に基づき、前記観察対象の観察画像を生成する観察画像生成部と、
    前記画像信号から特徴量を算出する特徴量算出部と、
    前記特徴量に基づき、予め設定された複数の所見のそれぞれに該当する前記観察画像内の領域を決定する領域決定部と、
    前記特徴量に基づき、複数の前記所見の各々に対して予め設定された、前記所見の程度を表す複数のレベルのいずれかに前記領域を分類するレベル分類部と、
    前記所見毎に設定された表示色、かつ前記レベル毎に設定された、前記表示色の色味で、前記観察画像に対して色割り当て処理を行って、色割り当て画像を生成する色割り当て画像生成部と、
    前記色割り当て画像の表示を制御する表示制御部とを備える画像処理装置。
  2. 前記特徴量算出部は複数種類の前記特徴量を算出し、
    前記領域決定部は、複数種類の前記特徴量のうちの第1特徴量に基づき前記領域の決定を行い、
    前記レベル分類部は、複数種類の前記特徴量のうちの第2特徴量に基づき前記レベルの分類を行う請求項1に記載の画像処理装置。
  3. 前記第2特徴量は前記第1特徴量を含む請求項2に記載の画像処理装置。
  4. 前記色割り当て画像生成部は、前記領域の境界に対して前記色割り当て処理を行う請求項1ないし3のいずれか1項に記載の画像処理装置。
  5. 前記観察対象は胃粘膜であり、
    前記所見は胃炎に関するものである請求項1ないし4のいずれか1項に記載の画像処理装置。
  6. 前記画像信号取得部は、短波長側の光強度を長波長側の光強度と比べて強くした照明光を前記観察対象に照射して得られた前記画像信号を取得する請求項1ないし5のいずれか1項に記載の画像処理装置。
  7. 前記画像信号に対して明るさを均一にする明るさ補正処理を施す明るさ補正処理部を備え、
    前記特徴量算出部は、前記明るさ補正処理済みの前記画像信号から前記特徴量を算出する請求項1ないし6のいずれか1項に記載の画像処理装置。
  8. 照明光として白色光を前記観察対象に照射して得られた前記画像信号に基づく通常画像に対して色およびコントラストのうち少なくとも1つを低減する低減処理を施す低減処理部を備え、
    前記表示制御部は、前記低減処理済みの前記通常画像に、前記色割り当て画像を重畳する請求項1ないし7のいずれか1項に記載の画像処理装置。
  9. 生体内の観察対象を撮影して得られた画像信号を取得する画像信号取得ステップと、
    前記画像信号に基づき、前記観察対象の観察画像を生成する観察画像生成ステップと、
    前記画像信号から特徴量を算出する特徴量算出ステップと、
    前記特徴量に基づき、予め設定された複数の所見のそれぞれに該当する前記観察画像内の領域を決定する領域決定ステップと、
    前記特徴量に基づき、複数の前記所見の各々に対して予め設定された、前記所見の程度を表す複数のレベルのいずれかに前記領域を分類するレベル分類ステップと、
    前記所見毎に設定された表示色、かつ前記レベル毎に設定された、前記表示色の色味で、前記観察画像に対して色割り当て処理を行って、色割り当て画像を生成する色割り当て画像生成ステップと、
    前記色割り当て画像の表示を制御する表示制御ステップとを備える画像処理装置の作動方法。
  10. 生体内の観察対象を撮影して得られた画像信号を取得する画像信号取得機能と、
    前記画像信号に基づき、前記観察対象の観察画像を生成する観察画像生成機能と、
    前記画像信号から特徴量を算出する特徴量算出機能と、
    前記特徴量に基づき、予め設定された複数の所見のそれぞれに該当する前記観察画像内の領域を決定する領域決定機能と、
    前記特徴量に基づき、複数の前記所見の各々に対して予め設定された、前記所見の程度を表す複数のレベルのいずれかに前記領域を分類するレベル分類機能と、
    前記所見毎に設定された表示色、かつ前記レベル毎に設定された、前記表示色の色味で、前記観察画像に対して色割り当て処理を行って、色割り当て画像を生成する色割り当て画像生成機能と、
    前記色割り当て画像の表示を制御する表示制御機能とを、コンピュータに実行させる画像処理装置の作動プログラム。
JP2016040709A 2016-03-03 2016-03-03 画像処理装置とその作動方法および作動プログラム Active JP6581923B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016040709A JP6581923B2 (ja) 2016-03-03 2016-03-03 画像処理装置とその作動方法および作動プログラム
US15/448,009 US10521904B2 (en) 2016-03-03 2017-03-02 Image processing apparatus, operating method, and non-transitory computer readable medium
CN201710122966.6A CN107153833A (zh) 2016-03-03 2017-03-03 图像处理装置及其工作方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016040709A JP6581923B2 (ja) 2016-03-03 2016-03-03 画像処理装置とその作動方法および作動プログラム

Publications (2)

Publication Number Publication Date
JP2017153763A true JP2017153763A (ja) 2017-09-07
JP6581923B2 JP6581923B2 (ja) 2019-09-25

Family

ID=59723733

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016040709A Active JP6581923B2 (ja) 2016-03-03 2016-03-03 画像処理装置とその作動方法および作動プログラム

Country Status (3)

Country Link
US (1) US10521904B2 (ja)
JP (1) JP6581923B2 (ja)
CN (1) CN107153833A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020069300A (ja) * 2018-11-02 2020-05-07 富士フイルム株式会社 医療診断支援装置、内視鏡システム、及び医療診断支援方法
JPWO2019087971A1 (ja) * 2017-10-30 2020-10-22 富士フイルム株式会社 医療画像処理装置、及び、内視鏡装置
WO2021010225A1 (ja) * 2019-07-18 2021-01-21 Hoya株式会社 コンピュータプログラム、情報処理方法、及び内視鏡用プロセッサ
JP2022060540A (ja) * 2017-10-17 2022-04-14 富士フイルム株式会社 医療画像処理装置、及び、内視鏡装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018142658A1 (ja) * 2017-02-01 2018-08-09 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
CN110392546B (zh) * 2017-03-07 2022-09-02 索尼公司 信息处理设备、辅助系统和信息处理方法
JP7105300B2 (ja) * 2018-04-24 2022-07-22 オリンパス株式会社 内視鏡システム及び内視鏡システムの作動方法
WO2021212693A1 (zh) * 2020-04-23 2021-10-28 北京华科创智健康科技股份有限公司 一种融合Gabor小波的多尺度局部水平集超声图像分割方法
CN116721175B (zh) * 2023-08-09 2023-10-10 安翰科技(武汉)股份有限公司 一种图像显示方法、图像显示装置以及胶囊内窥镜系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1091782A (ja) * 1996-09-10 1998-04-10 Olympus Optical Co Ltd 濃淡画像用特定部位抽出方法
JP2007526799A (ja) * 2004-01-21 2007-09-20 エッダ・テクノロジー・インコーポレイテッド デジタルx線撮影ソフトコピーの読取値のインテリジェントな定性的および定量的分析のための方法およびシステム
JP2010184057A (ja) * 2009-02-13 2010-08-26 Fujifilm Corp 画像処理方法および装置
JP2012125395A (ja) * 2010-12-15 2012-07-05 Fujifilm Corp 内視鏡装置
WO2013140667A1 (ja) * 2012-03-21 2013-09-26 オリンパスメディカルシステムズ株式会社 画像処理装置
JP2014166298A (ja) * 2013-01-31 2014-09-11 Olympus Corp 内視鏡用画像処理装置、内視鏡装置、画像処理方法及び画像処理プログラム
JP2015112429A (ja) * 2013-12-13 2015-06-22 オリンパスメディカルシステムズ株式会社 画像処理装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5259141B2 (ja) * 2007-08-31 2013-08-07 オリンパスメディカルシステムズ株式会社 被検体内画像取得システム、被検体内画像処理方法および被検体内導入装置
US8706184B2 (en) * 2009-10-07 2014-04-22 Intuitive Surgical Operations, Inc. Methods and apparatus for displaying enhanced imaging data on a clinical image
JP5802364B2 (ja) * 2009-11-13 2015-10-28 オリンパス株式会社 画像処理装置、電子機器、内視鏡システム及びプログラム
US20120101372A1 (en) * 2010-10-25 2012-04-26 Fujifilm Corporation Diagnosis support apparatus, diagnosis support method, lesioned part detection apparatus, and lesioned part detection method
US8896841B2 (en) * 2012-03-13 2014-11-25 Kabushiki Kaisha Topcon Optical imaging method and optical imaging apparatus using optical coherence tomography
JP5647752B1 (ja) * 2013-03-27 2015-01-07 富士フイルム株式会社 画像処理装置及び内視鏡システムの作動方法
JP5522305B1 (ja) * 2013-09-24 2014-06-18 住友電気工業株式会社 光学的測定システムおよびその作動方法
CN104331694A (zh) * 2014-04-02 2015-02-04 上海齐正微电子有限公司 医疗影像特征区域实时提取和标示方法
JP2016158682A (ja) * 2015-02-27 2016-09-05 Hoya株式会社 画像処理装置
WO2017046857A1 (ja) * 2015-09-14 2017-03-23 オリンパス株式会社 内視鏡装置
EP3357402B1 (en) * 2015-09-28 2020-06-17 FUJIFILM Corporation Endoscope system and operation method for endoscope system

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1091782A (ja) * 1996-09-10 1998-04-10 Olympus Optical Co Ltd 濃淡画像用特定部位抽出方法
JP2007526799A (ja) * 2004-01-21 2007-09-20 エッダ・テクノロジー・インコーポレイテッド デジタルx線撮影ソフトコピーの読取値のインテリジェントな定性的および定量的分析のための方法およびシステム
JP2010184057A (ja) * 2009-02-13 2010-08-26 Fujifilm Corp 画像処理方法および装置
JP2012125395A (ja) * 2010-12-15 2012-07-05 Fujifilm Corp 内視鏡装置
WO2013140667A1 (ja) * 2012-03-21 2013-09-26 オリンパスメディカルシステムズ株式会社 画像処理装置
JP2014166298A (ja) * 2013-01-31 2014-09-11 Olympus Corp 内視鏡用画像処理装置、内視鏡装置、画像処理方法及び画像処理プログラム
JP2015112429A (ja) * 2013-12-13 2015-06-22 オリンパスメディカルシステムズ株式会社 画像処理装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022060540A (ja) * 2017-10-17 2022-04-14 富士フイルム株式会社 医療画像処理装置、及び、内視鏡装置
JP7296498B2 (ja) 2017-10-17 2023-06-22 富士フイルム株式会社 医療画像処理装置、及び、内視鏡装置
JPWO2019087971A1 (ja) * 2017-10-30 2020-10-22 富士フイルム株式会社 医療画像処理装置、及び、内視鏡装置
JP2020069300A (ja) * 2018-11-02 2020-05-07 富士フイルム株式会社 医療診断支援装置、内視鏡システム、及び医療診断支援方法
JP7038641B2 (ja) 2018-11-02 2022-03-18 富士フイルム株式会社 医療診断支援装置、内視鏡システム、及び作動方法
US11464394B2 (en) 2018-11-02 2022-10-11 Fujifilm Corporation Medical diagnosis support device, endoscope system, and medical diagnosis support method
WO2021010225A1 (ja) * 2019-07-18 2021-01-21 Hoya株式会社 コンピュータプログラム、情報処理方法、及び内視鏡用プロセッサ
US11937767B2 (en) 2019-07-18 2024-03-26 Hoya Corporation Endoscope

Also Published As

Publication number Publication date
US20170256055A1 (en) 2017-09-07
CN107153833A (zh) 2017-09-12
US10521904B2 (en) 2019-12-31
JP6581923B2 (ja) 2019-09-25

Similar Documents

Publication Publication Date Title
JP6581923B2 (ja) 画像処理装置とその作動方法および作動プログラム
JP5460506B2 (ja) 内視鏡装置の作動方法及び内視鏡装置
JP7125484B2 (ja) 内視鏡システム
JP5631764B2 (ja) 内視鏡システム及びその作動方法
WO2020075578A1 (ja) 医用画像処理装置、内視鏡システム、及び医用画像処理方法
JP5872916B2 (ja) 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法
JP7021183B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP7048732B2 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
JP5762344B2 (ja) 画像処理装置及び内視鏡システム
JP6941233B2 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
US20210343011A1 (en) Medical image processing apparatus, endoscope system, and medical image processing method
JP7374280B2 (ja) 内視鏡装置、内視鏡プロセッサ、及び内視鏡装置の作動方法
JP2016174976A (ja) 内視鏡システム
JP6203088B2 (ja) 生体観察システム
JP2014166590A (ja) 内視鏡システム及び内視鏡システムの作動方法
JP6454755B2 (ja) 内視鏡システム
JP5965028B2 (ja) 内視鏡システム
JP6694046B2 (ja) 内視鏡システム
JP6970777B2 (ja) 内視鏡システム
US11790487B2 (en) Image processing systems and methods of using the same
JP2022009755A (ja) 内視鏡システム
CN114786560A (zh) 内窥镜装置及观察方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180308

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190318

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190902

R150 Certificate of patent or registration of utility model

Ref document number: 6581923

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250