JP6741759B2 - 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム - Google Patents

画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム Download PDF

Info

Publication number
JP6741759B2
JP6741759B2 JP2018518028A JP2018518028A JP6741759B2 JP 6741759 B2 JP6741759 B2 JP 6741759B2 JP 2018518028 A JP2018518028 A JP 2018518028A JP 2018518028 A JP2018518028 A JP 2018518028A JP 6741759 B2 JP6741759 B2 JP 6741759B2
Authority
JP
Japan
Prior art keywords
image
section
abnormal
vivo
representative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018518028A
Other languages
English (en)
Other versions
JPWO2017199408A1 (ja
Inventor
北村 誠
誠 北村
光隆 木村
光隆 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2017199408A1 publication Critical patent/JPWO2017199408A1/ja
Application granted granted Critical
Publication of JP6741759B2 publication Critical patent/JP6741759B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/0002Operational features of endoscopes provided with data storages
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30028Colon; Small intestine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30028Colon; Small intestine
    • G06T2207/30032Colon polyp
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30092Stomach; Gastric
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Optics & Photonics (AREA)
  • Quality & Reliability (AREA)
  • Geometry (AREA)
  • Multimedia (AREA)
  • Endoscopes (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、例えば生体の管腔内を順次撮像することにより取得された管腔画像から異常領域を検出し、検出した異常領域に基づいて算出した情報を表示部に表示させる画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラムに関する。
内視鏡やカプセル型内視鏡等の医用観察装置を用いて生体内の管腔を時系列順に撮像することにより取得された一連の画像群(以下、生体内管腔画像群ともいう)から、異常領域等の注目領域が写った画像を代表画像として抽出する技術が知られている。医師等のユーザは、画像群から抽出された代表画像を観察することで、大量の画像を詳細に観察する負担を軽減することができ、正確かつ効率の良い診断を行うことが可能である。
例えば特許文献1には、時系列順に取得された生体内管腔画像群から注目領域を検出し、注目領域の特徴量と注目領域を含む生体内管腔画像の時系列位置とに基づいて注目領域をグループに分類し、各グループに分類された注目領域から代表領域を選出し、選出した代表領域を含む画像を代表画像として出力する画像処理装置が開示されている。
特開2011−24727号公報
しかしながら、特許文献1が開示する技術では、ユーザが、生体内管腔画像群から選出された代表画像のみを観察することになる。このため、代表画像に写っている注目領域が時系列で前後する生体内管腔画像においても続いているか否か等、注目領域に係る時系列の情報を把握することができなかった。すなわち、特許文献1が開示する技術では、代表画像から精度の高い診断ができるものの、時系列の情報を加味したより精度の高い診断ができないおそれがあった。
本発明は、上記に鑑みてなされたものであって、生体の管腔内を時系列順に撮像することにより取得された一連の画像群を用いて診断を行う際に、効率的かつ精度の高い診断を行うことができる画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラムの提供を目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、生体内に導入される医用装置が撮像した複数の生体内管腔画像から異常領域をそれぞれ検出する異常検出部と、類似した前記異常領域を含む類似異常区間を設定する類似異常区間設定部と、前記類似異常区間に関する情報を生成する区間情報生成部と、前記類似異常区間に関する情報を表示装置に表示させる区間情報表示制御部と、を備えることを特徴とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置の作動方法は、異常検出部が、生体内に導入される医用装置が撮像した複数の生体内管腔画像から異常領域をそれぞれ検出する異常検出ステップと、類似異常区間設定部が、類似した前記異常領域を含む類似異常区間を設定する類似異常区間設定ステップと、区間情報生成部が、前記類似異常区間に関する情報を生成する区間情報生成ステップと、区間情報表示制御部が、前記類似異常区間に関する情報を表示装置に表示させる区間情報表示制御ステップと、を含むことを特徴とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置の作動プログラムは、生体内に導入される医用装置が撮像した複数の生体内管腔画像から異常領域をそれぞれ検出する異常検出手順と、類似した前記異常領域を含む類似異常区間を設定する類似異常区間設定手順と、前記類似異常区間に関する情報を生成する区間情報生成手順と、前記類似異常区間に関する情報を表示装置に表示させる区間情報表示制御手順と、をコンピュータに実行させることを特徴とする。
本発明によれば、生体の管腔内を時系列順に撮像することにより取得された一連の画像群を用いて診断を行う際に、効率的かつ精度の高い診断を行うことができるという効果を奏する。
図1は、本発明の実施の形態1に係る画像処理装置の機能構成を示すブロック図である。 図2は、本発明の実施の形態1に係る画像処理装置が行う画像処理を説明するフローチャートである。 図3は、本発明の実施の形態1に係る画像処理装置が行う画像処理において抽出された複数の代表画像の表示態様の一例を説明する図である。 図4は、本発明の実施の形態1に係る画像処理装置が行う画像処理において抽出した複数の代表画像から代表画像が選択された場合の表示態様の一例を説明する図である。 図5は、本発明の実施の形態1の変形例1に係る画像処理装置が行う画像処理において抽出した複数の代表画像から代表画像が選択された場合の表示態様の一例を説明する図である。 図6は、本発明の実施の形態1の変形例2に係る画像処理装置が行う画像処理において抽出した複数の代表画像から代表画像が選択された場合の表示態様の一例を説明する図である。 図7は、本発明の実施の形態1の変形例3に係る画像処理装置が行う画像処理において抽出した複数の代表画像から代表画像が選択された場合の表示態様の一例を説明する図である。 図8は、本発明の実施の形態1の変形例4に係る画像処理装置が行う画像処理において抽出された複数の代表画像の表示態様の一例を説明する図である。 図9は、本発明の実施の形態2に係る画像処理装置の機能構成を示すブロック図である。 図10は、本発明の実施の形態2に係る画像処理装置が行う画像処理を説明するフローチャートである。 図11は、本発明の実施の形態2の変形例1に係る画像処理装置の機能構成を示すブロック図である。 図12は、本発明の実施の形態2の変形例2に係る画像処理装置の機能構成を示すブロック図である。 図13は、本発明の実施の形態2の変形例3に係る画像処理装置の機能構成を示すブロック図である。 図14は、本発明の実施の形態3に係る画像処理装置の機能構成を示すブロック図である。 図15は、本発明の実施の形態3に係る画像処理装置が行う画像処理を説明するフローチャートである。
以下に、本発明を実施するための形態(以下、「実施の形態」という)を説明する。
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置の機能構成を示すブロック図である。同図に示す画像処理装置1は、演算部2と、記憶部3と、入力部4と、を備える。画像処理装置1は、カプセル型内視鏡や内視鏡等の医用装置により撮像された生体内管腔画像を取得して所定の画像処理を行う機能を有する。生体内管腔画像としては、各画素位置においてR(赤)、G(緑)、B(青)の波長成分に対する画素レベル(画素値)を持つカラー画像を用いる。生体内管腔画像は、時系列で連続して撮像されることにより生成され、順次画像処理装置1に入力される。画像処理装置1は、生成した画像や情報を表示装置5に出力して、各種情報を表示装置5に表示させる。表示装置5は、LCDやELディスプレイ等の表示装置によって実現され、画像処理装置1から入力された生体内管腔画像を含む各種画面を表示する。
演算部2は、時系列で連続して撮像した生体内管腔画像の異常領域を検出する異常検出部21と、類似した異常領域を含む類似異常区間を設定する類似異常区間設定部22と、類似異常区間に関する区間情報を算出する区間情報生成部23と、区間情報生成部23が算出した区間情報を表示装置5に出力して、表示装置5における区間情報の表示制御を行う区間情報表示制御部24と、類似異常区間から代表的な生体内管腔画像を代表画像として抽出する代表画像抽出部25と、代表画像抽出部25により抽出された代表画像を出力して、表示装置5における代表画像の表示制御を行う代表画像表示制御部26とを有する。
異常検出部21は、生体内管腔画像の各種特徴量に基づいて画像において注目すべき注目領域である異常領域を検出する。異常領域とは、管内画像における被写体の性状または状態が所定の条件を満たす領域である。例えば、管内画像が生体の管内画像(生体内管腔画像)である場合には、生体の組織性状または生体内の状態が所定の条件を満たすような領域である。より具体的には、例えば潰瘍、アフタ、びらん、ポリープ、腫瘍、出血、発赤、絨毛異常等の生体の組織性状が変化している領域、および出血等の生体内における状態変化が発生している領域等を挙げることができる。実施の形態1においては、管腔内画像の色特徴量(色情報)に基づいて異常領域を検出する例を説明する。ここで、出血や発赤、血管異常等の異常領域は赤色調の特定色を示し、潰瘍やアフタ等の異常領域は白色調の特定色を示す。そこで、異常検出部21は、画素値の各色成分(R成分、G成分、B成分)や、これらの各色成分を基に公知の変換処理により二次的に算出した値(例えば、YCbCr変換により算出した色差、HSI変換により算出した色相、彩度、G/R、B/G等の色比など)といった色特徴量を用いて、生体内管腔画像内の特定色を示す領域を検出し、この領域を異常領域とする。より詳細には、事前に収集した各種の異常領域の色特徴量を基に、異常領域の判別基準(色範囲)を予め作成し、記憶部3に記録しておく。そして、生体内管腔画像から異常領域を検出する際に、この判別基準を記憶部3から読み出すと共に、生体内管腔画像を構成する各画素について色特徴量を算出し、各画素の色特徴量を判別基準と比較することにより、当該生体内管腔画像から異常領域を検出する。
なお、異常領域の検出方法は、上述した検出方法に限定されず、異常領域を検出可能な公知の種々の方法を適用することができる。例えば、代表的な色特徴量との特徴空間距離に基づく方法等を用いても良い。また、上記説明においては、生体内管腔画像を構成する画素単位の色特徴量を用いて異常領域を検出したが、画像内のエッジ情報等を基に生体内管腔画像を小領域に分割し、小領域単位の色特徴量を用いて異常領域を検出しても良い。さらに、色特徴量以外の形状特徴量や、テクスチャ特徴量を用いて、異常領域を検出しても良い。
類似異常区間設定部22は、異常検出部21が検出した異常領域に基づいて、同一の異常領域を含む類似異常区間を設定する。より詳細には、類似異常区間設定部22は、異常領域を含む生体内管腔画像のうち、時系列で連続する生体内管腔画像を、同一の異常領域を含む生体内管腔画像群として抽出し、この生体内管腔画像群を一つの類似異常区間として設定する。
なお、同一の異常領域を含む生体内管腔画像群の抽出方法としては、上述した抽出方法の他にも、公知の種々の方法を適用することができる。例えば、異常画像間における正規化相互相関や、動きベクトル変化量や、画素値(輝度値又はG成分の値)の変化量等に基づいて、画像間の変化量を求め、変化量が所定値以下である異常画像群を、同一の異常領域を含む異常画像群として抽出しても良い。或いは、異常領域の形状特徴量(面積、円形度等)や色特徴量(色比、色相等)の異常画像間における差分値を算出し、差分値が、予め設定されている所定値以下である異常画像群を、同一の異常領域を含む異常画像群として抽出しても良い。
区間情報生成部23は、類似異常区間の長さ情報を生成する長さ情報生成部231を有している。長さ情報生成部231は、類似異常区間の撮像画像枚数を算出する撮像枚数算出部231aと、類似異常区間の撮像時間を算出する撮像時間算出部231bと、類似異常区間の移動距離を算出する移動距離算出部231cとを有する。本実施の形態1では、長さ情報生成部231が生成する長さ情報が、類似異常区間に関する情報に相当する。
撮像枚数算出部231aは、類似異常区間における生体内管腔画像を計数することによって撮像画像枚数を算出する。
撮像時間算出部231bは、類似異常区間における生体内管腔画像の撮像に要した撮像時間を算出する。この撮像時間は、類似異常区間における医用装置の撮像部の移動時間に相当する。
移動距離算出部231cは、類似異常区間における医用装置の移動距離を算出する。具体的には、移動距離算出部231cは、例えば特開2006−334297号公報で開示されているような、テンプレートマッチングを行って動きベクトルを算出し、この動きベクトルから移動距離を推定する方法を用いる。なお、移動距離算出部231cは、電波の受信状況や、医用装置内のセンサー等の検出結果により体内位置を推定する方法を用いて、推定結果から移動距離を算出するようにしてもよい。この体内位置の推定方法は、類似異常区間の開始位置と終了位置とにおける体内位置を推定し、その差を算出することで、移動距離を算出する。
区間情報表示制御部24は、入力部4を介して代表画像が選択された場合、記憶部3を参照して、選択された代表画像に対応する類似異常区間について、撮像枚数算出部231a、撮像時間算出部231b及び移動距離算出部231cがそれぞれ生成した長さ情報である撮像画像枚数、撮像時間及び移動距離を取得し、表示装置5に出力する。
代表画像抽出部25は、異常検出部21が検出した異常領域を含む生体内管腔画像から、同一の異常領域を含む生体内管腔画像群を抽出し、抽出された生体内管腔画像群から、各異常領域の重要度と、各異常領域の視認性とのうちの少なくともいずれかに基づいて代表画像を抽出する。代表画像抽出部25は、同一の異常領域を含む生体内管腔画像群の各々から、重要度の高い異常領域を含む生体内管腔画像や、異常領域の視認性の良い生体内管腔画像を代表画像として抽出する。ここで、異常領域の重要度とは、生体内管腔画像に対する診断における検出対象と各異常領域との関連性、言い換えると、検出対象らしさのことをいい、この関連性が強いほど(検出対象らしいほど)重要度が高くなる。例えば、出血源を検出対象とする場合、検出された異常領域が出血源らしいほど、当該異常領域の重要度は高いと判断される。代表画像表示制御部26は、類似異常区間が一つ設定されていれば、その類似異常区間から少なくとも一つの代表画像を抽出し、互いに異なる複数の類似異常区間が設定されていれば、各類似異常区間からそれぞれ少なくとも一つの代表画像を抽出する。
代表画像の抽出方法は特に限定されない。例えば、各生体内管腔画像群の時系列順での先頭の生体内管腔画像を代表画像として抽出しても良い。或いは、各生体内管腔画像群における同一の異常領域の色特徴量に基づいて抽出しても良い。具体的には、異常領域が赤色調の特定色を示す場合、異常領域の赤色が強い生体内管腔画像を優先的に代表画像として抽出し、異常領域が白色調の特定色を示す場合、異常領域の白色が強い生体内管腔画像を優先的に代表画像として抽出する。また、異常領域の面積が大きい生体内管腔画像や、異常領域の位置が中央に近い生体内管腔画像を優先的に代表画像として抽出しても良い。
代表画像表示制御部26は、代表画像抽出部25が抽出した代表画像を外部の表示装置5に出力して、出力した代表画像を該表示装置5に表示させる。
演算部2は、演算および制御機能を有するCPU(Central Processing Unit)等の汎用プロセッサ、またはASIC(Application Specific Integrated Circuit)もしくはFPGA(Field Programmable Gate Array)等の専用の集積回路等を用いて実現される。演算部2が汎用プロセッサまたはFPGAによって実現される場合は、記憶部3が記憶する各種プログラムや各種データを記憶部3から読み出し、画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括して制御する。演算部2がASICを用いて実現される場合は、各種処理を単独で実行してもよいし、記憶部3が記憶する各種データ等を用いることによって各種処理を実行してもよい。
記憶部3は、処理対象となる生体内管腔画像のデータ、および処理を行う際に必要な各種情報を記憶する。記憶部3は、ROM(Read Only Memory)またはRAM(Random Access Memory)等の各種ICメモリ、内蔵もしくはデータ通信端子で接続されたハードディスク、またはCD−ROM等の情報記録装置およびその読取装置等によって実現される。記憶部3は、画像処理装置1が取得した生体内管腔画像の画像データの他、画像処理装置1を動作させると共に、画像処理装置1に種々の機能を実行させるためのプログラムや、このプログラムの実行中に使用されるデータ等を記憶する。具体的には、記憶部3は、本実施の形態1に係る作動プログラムや、異常領域の検出処理等を行う際に用いられる各種パラメータを記憶する。
記憶部3が記憶する画像処理プログラム等の各種プログラムは、コンピュータ読み取り可能な記録媒体に記録することも可能である。また、各種プログラムの記憶部3または記録媒体への記録は、コンピュータまたは記録媒体を製品として出荷する際に行ってもよいし、通信ネットワークを介したダウンロードにより行ってもよい。ここでいう通信ネットワークは、例えば既存の公衆回線網、LAN(Local Area Network)、WAN(Wide Area Network)などによって実現されるものであり、有線、無線を問わない。
入力部4は、外部からの操作に応じた信号の入力を受け付け、受け付けた信号を演算部2に入力する。ここで、入力部4は、例えばキーボードやマウス等のユーザインタフェースを用いて実現される。なお、画像処理装置1が表示部を有する場合には、表示パネルの表面にタッチパネルを配設し、このタッチパネルを入力部として機能させることも可能である。
以上の構成を有する画像処理装置1は、1つのコンピュータを用いて実現してもよいし、複数のコンピュータを用いて実現してもよい。後者の場合には、通信ネットワークを介してデータの送受信を行いながら、互いに連携して処理を行うようにすることも可能である。なお、ここでいうコンピュータは、例えば汎用のパーソナルコンピュータやサーバ等によって構成することができる。
なお、生体内管腔画像を画像処理装置1に入力するための医用装置の構成に関して本発明では特に限定しない。医用装置の一例として、カプセル型内視鏡が挙げられる。カプセル型内視鏡は、経口摂取等によって被検体内に導入された後、臓器(消化管)内部を移動し、最終的に被検体の外部に排出される。その間、カプセル型内視鏡は、臓器内部を該臓器の蠕動運動により移動しつつ撮像を行い、画像信号を順次生成して、画像処理装置1や、カプセル型内視鏡と画像処理装置1との間を中継する中継装置に無線送信する。
続いて、画像処理装置1の演算部2が行う画像処理について、図2〜図4を参照して説明する。図2は、本発明の実施の形態1に係る画像処理装置が行う画像処理を説明するフローチャートである。まず、画像処理装置1は、生体内管腔画像の入力があると、生体内管腔画像の画像データを取得して記憶部3へ書き込んで記憶させる(ステップS101)。この生体内管腔画像は、時系列に沿って複数入力される。記憶部3は、入力される生体内管腔画像を時系列に沿って、又は時系列と対応付けて記憶する。画像処理装置1は、生体内管腔画像を撮像するカプセル内視鏡等の機器との通信によって生体内管腔画像を取得してもよいし、生体内管腔画像が記録された記録媒体から生体内管腔画像のデータを読み出すことによって取得してもよい。
続くステップS102において、異常検出部21は、記憶部3に記憶された生体内管腔画像の画像データを順次読み出し、各生体内管腔画像から異常領域を検出する処理を行う。具体的には、異常検出部21は、記憶部3に予め記録されている異常領域の判別基準を読み出し、各生体内管腔画像を構成する各画素の色特徴量をこの判別基準と比較することにより、異常領域を判別する。
その後、類似異常区間設定部22は、ステップS102において検出された異常領域から、同一又は類似した異常領域を含む複数の生体内管腔画像からなる生体内管腔画像群として抽出し、この生体内管腔画像群を類似異常区間として設定する(ステップS103)。
続くステップS104において、代表画像抽出部25は、ステップS103において抽出された各生体内管腔画像群から、異常領域の重要度の高い生体内管腔画像や異常領域の視認性の良い生体内管腔画像を少なくとも1枚、代表画像として抽出する。抽出される代表画像の数は、定数であっても良いし(例えば、各生体内管腔画像群から1枚)、生体内管腔画像群に属する生体内管腔画像の枚数に応じて決定しても良い(例えば、生体内管腔画像の枚数のα倍、0<α<1)。なお、後者の場合、代表画像の枚数が1枚に満たないときには、少なくとも1枚の代表画像を抽出するものとする。或いは、抽出される代表画像の数を特定せず、所定の基準を満たす生体内管腔画像(例えば、色特徴量が所定の閾値以上の生体内管腔画像)を全て代表画像として抽出しても良い。以下の説明では、一つの類似異常区間について、一枚の生体内管腔画像が代表画像として抽出されるものとして説明する。
続くステップS105において、区間情報生成部23は、類似異常区間の長さ情報を生成する。具体的には、区間情報生成部23は、長さ情報生成部231により算出された類似異常区間の撮像画像枚数、撮像時間及び移動距離を取得して、これらの情報を含む長さ情報を生成する。区間情報生成部23は、各類似異常区間の長さ情報を生成後、生成した長さ情報を、類似異常区間と対応付けて記憶部3に記憶させる。
続くステップS106において、代表画像表示制御部26は、ステップS104において代表画像抽出部25が抽出した代表画像を外部の表示装置5に出力して、出力した代表画像を該表示装置5に表示させる。
図3は、本発明の実施の形態1に係る画像処理装置が行う画像処理において抽出された複数の代表画像の表示態様の一例を説明する図である。ステップS103において複数の類似異常区間が設定され、各類似異常区間において一枚の代表画像が抽出された場合、図3に示すように、それぞれの類似異常区間における代表画像W1〜W6が表示装置5に表示される。代表画像W1〜W6は、互いに異なる異常領域R1〜R10を含んだ生体内管腔画像である。
続くステップS107において、演算部2は、入力部4が受け付けた信号であって、表示装置5に表示されている複数の代表画像W1〜W6のうちのいずれかを選択する選択入力を指示する信号が入力されたか否かを判断する。ここで、演算部2は、選択入力がない場合(ステップS107:No)、本画像処理を終了する。これに対し、演算部2は、選択入力がある場合(ステップS107:Yes)、ステップS108に移行する。
ステップS108において、演算部2は、入力された信号に基づいて、選択された代表画像を判断し、判断結果を区間情報表示制御部24に出力する。区間情報表示制御部24は、選択された代表画像に対応する類似異常区間についての長さ情報を取得して、表示装置5に出力する。これにより、長さ情報が、代表画像とともに表示装置5に表示される。
図4は、本発明の実施の形態1に係る画像処理装置が行う画像処理において抽出した複数の代表画像から代表画像が選択された場合の表示態様の一例を説明する図である。入力部4を介して代表画像W5が選択された場合、図4に示すように、当該代表画像W5が選択されている旨を示す選択枠S1が表示されるとともに、当該代表画像W5に対応する類似異常区間についての長さ情報D1である撮像画像枚数、撮像時間及び移動距離が表示されている。これにより、ユーザは、選択した代表画像についての時系列の情報を確認することができる。
以上説明した本発明の実施の形態1によれば、区間情報生成部23が、類似異常区間設定部22により設定された類似異常区間について、撮像画像枚数、撮像時間及び移動距離を長さ情報として生成し、入力部4を介して代表画像が選択された場合に、区間情報表示制御部24が、選択された代表画像に対応する類似異常区間の長さ情報を取得して表示装置5に出力するようにしたので、生体の管腔内を時系列順に撮像することにより取得された一連の画像群から代表画像を抽出する際に、この代表画像に写っている注目領域に係る時系列の情報を表示することが可能となる。これにより、ユーザは、代表画像と、この代表画像に係る時系列の情報とを確認して、効率的かつ精度の高い診断を行うことができる。
なお、上述した実施の形態1では、長さ情報生成部231が、撮像画像枚数、撮像時間及び移動距離に関する情報を生成するものとして説明したが、撮像画像枚数、撮像時間及び移動距離のうち、少なくとも一つの情報があれば、代表画像が属する類似区間の時系列の情報を確認することが可能である。すなわち、上述した実施の形態1の構成において、撮像枚数算出部231a、撮像時間算出部231b及び移動距離算出部231cのうち少なくとも一つを有するものであればよい。
上述した実施の形態1では、代表画像が選択された場合に、図4に示したような選択枠S1と、当該代表画像に対応する長さ情報D1が表示されるものとして説明したが、これに限らない。以下、変形例1〜3では、代表画像が選択された場合に表示装置5が表示する例を説明する。
(実施の形態1の変形例1)
本変形例1では、選択された代表画像とともに、体内における医用装置の位置等を示す画像を表示する。図5は、本発明の実施の形態1の変形例1に係る画像処理装置が行う画像処理において抽出した複数の代表画像から代表画像が選択された場合の表示態様の一例を説明する図である。
入力部4を介して代表画像W5が選択された場合、上述したステップS108では、表示装置5が、図5に示すように、この選択された代表画像W5とともに、体内において医用装置、例えばカプセル型内視鏡が通過した軌跡Q1を表示する。この際、軌跡Q1には、選択された代表画像W5に関する情報として、軌跡Q1における代表画像W5の位置を示す矢印Y1と、代表画像W5が属する類似異常区間を示す破線矢印YRとが付与されている。
区間情報表示制御部24は、代表画像W5と対応付いている軌跡情報をもとに、矢印Y1の表示位置を算出する。また、区間情報表示制御部24は、撮像枚数算出部231a、撮像時間算出部231b及び移動距離算出部231cがそれぞれ生成した長さ情報である撮像画像枚数、撮像時間及び移動距離と、類似異常区間の開始位置及び/又は終了位置から体内におけるカプセル型内視鏡の位置情報を算出し、長さ情報と位置情報を統合することにより、体内位置統合情報である破線矢印YRを生成し、出力する。また、破線矢印YRの表示位置及び表示範囲は、代表画像W5を含む類似異常区間の開始位置及び終了位置における各生体内管腔画像と対応付いている軌跡情報をもとに算出するようにしてもよい。
(実施の形態1の変形例2)
本変形例2では、選択された代表画像とともに、体内における医用装置の位置等を示す画像を表示する。図6は、本発明の実施の形態1の変形例2に係る画像処理装置が行う画像処理において抽出した複数の代表画像から代表画像が選択された場合の表示態様の一例を説明する図である。
入力部4を介して代表画像W5が選択された場合、上述したステップS108では、表示装置5が、図6に示すように、この選択された代表画像W5とともに、医用装置が取得した複数の生体内管腔画像の平均色を時系列に沿って配列したカラーバーCB1を表示する。この際、カラーバーCB1には、選択された代表画像W5に関する情報として、カラーバーCB1における代表画像W5の位置を示す矢印Y1と、代表画像W5を含む類似異常区間を示す破線矢印YRとが付与されている。区間情報表示制御部24は、代表画像W5である生体内管腔画像の平均色の位置をもとに、矢印Y1の表示位置を算出する。また、区間情報表示制御部24は、代表画像W5が属する類似異常区間の開始位置と終了位置とにおける各生体内管腔画像の平均色の位置をもとに、破線矢印YRの表示位置及び表示範囲を算出する。
(実施の形態1の変形例3)
本変形例3では、選択された代表画像とともに、体内における医用装置の位置等を示す画像を表示する。図7は、本発明の実施の形態1の変形例3に係る画像処理装置が行う画像処理において抽出した複数の代表画像から代表画像が選択された場合の表示態様の一例を説明する図である。
入力部4を介して代表画像W5が選択された場合、上述したステップS108では、表示装置5が、図7に示すように、この選択された代表画像W5とともに、体内において医用装置、例えばカプセル型内視鏡が導入される被検体Q10の臓器マップQ2を表示する。この際、臓器マップQ2には、選択された代表画像W5に関する情報として、軌跡Q1における代表画像W5の位置を示す矢印Y1と、代表画像W5を含む類似異常区間を示す破線矢印YRとが付与されている。区間情報表示制御部24は、代表画像W5と対応付いている軌跡情報や、カプセル型内視鏡の移動距離をもとに、矢印Y1の表示位置を算出する。また、区間情報表示制御部24は、代表画像W5が属する類似異常区間の開始位置及び終了位置における各生体内管腔画像と対応付いている軌跡情報や、移動距離をもとに、破線矢印YRの表示位置及び表示範囲を算出する。
なお、上述した変形例1〜3において、実施の形態1に係る長さ情報D1をさらに表示するようにしてもよい。
(実施の形態1の変形例4)
上述した実施の形態1では、抽出された複数の代表画像を並べて一括して静止画表示するものとして説明したが、本変形例4では、これらの画像を切り替えて表示するようにしてもよい。図8は、本発明の実施の形態1の変形例4に係る画像処理装置が行う画像処理において抽出された複数の代表画像の表示態様の一例を説明する図である。図8に示すように、抽出された複数の代表画像W1〜W6は、予め設定されている条件に基づいて並べられており、表示装置5において、この配列順に表示される。条件としては、例えば時系列、異常領域の数等がある。このように、抽出された複数の代表画像を動画表示するようにしてもよい。本変形例4では、画像の切り替えにより順次表示される代表画像W1〜W6に対して、ユーザが選択入力した場合、選択入力時に表示されている代表画像が選択され、この選択された代表画像について、図4に示す長さ情報D1等が表示される。
(実施の形態2)
図9は、本発明の実施の形態2に係る画像処理装置の機能構成を示すブロック図である。同図に示す画像処理装置1Aは、演算部2Aと、記憶部3と、入力部4とを備える。以下、実施の形態1に係る画像処理装置1の演算部2が有する構成部位と同様の構成部位については、同じ符号を付して説明する。画像処理装置1Aは、生成した画像や情報を表示装置5に出力して、各種情報を表示装置5に表示させる。
演算部2Aは、時系列で連続して撮像した生体内管腔画像の異常領域を検出する異常検出部21と、類似した異常領域を含む類似異常区間を設定する類似異常区間設定部22と、類似異常区間に関する情報を算出する区間情報生成部23Aと、区間情報生成部23Aが算出した区間情報を出力する区間情報表示制御部24Aと、類似異常区間から代表的な生体内管腔画像を代表画像として抽出する代表画像抽出部25と、代表画像抽出部25により抽出された代表画像を出力する代表画像表示制御部26と、異常の種類を判定する異常種類判定部27とを有する。
区間情報生成部23Aは、類似異常区間に属する複数の生体内管腔画像のうち、代表画像として選択されなかった生体内管腔画像を抽出する類似画像群抽出部232を有している。類似画像群抽出部232は、類似異常区間から時系列順に、この類似異常区間に属する全ての生体内管腔画像を抽出する非代表画像抽出部232aを有している。本実施の形態2では、類似画像群抽出部232が抽出した生体内管腔画像が、類似異常区間に関する情報に相当する。
異常種類判定部27は、形状異常であるか否かを判定する形状異常判定部271と、色異常であるか否かを判定する色異常判定部272と、テクスチャ異常であるか否かを判定するテクスチャ異常判定部273とを有している。
ポリープ、腫瘍等の形状異常は円形状の領域であることが多い。そこで、形状異常判定部271は、円形状を有する領域であるか否かに基づいて、検出された異常領域が形状異常であるか否かを判定する。具体的に、形状異常判定部271は、生体内管腔画像における画素値(輝度(Y)成分の画素値や、G成分の画素値等)の勾配強度を公知のSobelフィルタやLaplacianフィルタ等を用いて算出する。形状異常判定部271は、形状異常判定部271が算出した勾配強度と、事前に作成しておいた円形状モデルとの相関値を算出し、相関値が、予め設定されている閾値以上であれば、検出された異常領域が形状異常であると判定する。なお、本実施の形態2では、事前に作成しておいた円形状モデルとのパターンマッチングにより、検出された異常領域が形状異常であるか否かを判定するものとして説明したが、これに限らず、生体内管腔画像から円形状の領域を検出できればよいため、例えば、公知のハフ変換、RANSAC、DPM(Deformable Part Model)、ELSD(Ellipse and Line Segment Detector)等により検出してもよい。
上述したように、色異常であるアフタ、潰瘍等は白色調の特定色を示し、出血や発赤は赤色調の特定色を示す。そこで、色異常判定部272は、この白色及び赤色の特定色に基づいて、検出された異常領域が色異常であるか否かを判定する。具体的に、事前に収集した色異常、及びその他異常を有する画像から、各色成分(R成分、G成分、B成分)の画素値や、それらをもとに公知の変換処理により二次的に算出される値、色差(YCbCr変換)、色相、彩度(HSI変換)、色比(G/R、B/G)等を算出し、算出された値をもとに、色異常の判定基準を設定しておく。そして、色異常判定部272は、処理対象の各画素の色特徴量と、予め設定しておいた判定基準とをもとに、各画素が色異常であるか否かを判定する。なお、本実施の形態2では事前に設定しておいた判定基準に基づいて色異常を検出するものとして説明したが、これに限らず、生体内管腔画像より特定色を有する異常領域を検出できればよいため、例えば、代表的な色特徴量との特徴量空間距離に基づく方法等により検出してもよい。また、画素単位の色特徴量を用いて検出するのではなく、生体内管腔画像内のエッジ情報等をもとに小領域に分割した後、小領域単位の色特徴量を用いて色異常であるか否かを判定しもよい。
テクスチャ異常である絨毛異常は、粘膜表面の模様が不均一であることが多い。そこで、テクスチャ異常判定部273は、粘膜表面の模様が不均一である異常領域をテクスチャ異常と判定する。具体的には、事前に用意されたテクスチャ異常を有する画像からLBP(Local Binary Pattern)特徴量や、各色成分(R成分、G成分、B成分)の画素値の分散等のテクスチャ特徴量を算出し、算出された特徴量をもとにテクスチャ異常の判定基準を決定しておく。そして、生体内管腔画像を矩形に分割した分割領域毎に、算出したテクスチャ特徴量と、上述した判定基準とをもとに、各分割領域がテクスチャ異常であるか否かを判定する。
なお、本実施の形態2においては、形状異常判定部271の判定結果と、色異常判定部272及びテクスチャ異常判定部273の判定結果とが互いに異なることを前提に説明する。
区間情報表示制御部24Aは、代表画像として選択されなかった生体内管腔画像を出力する。区間情報表示制御部24Aは、形状異常判定部271が、代表画像が形状異常であると判定した場合、生体内管腔画像を高いフレームレートの動画で表示装置5に表示させる。これに対し、区間情報表示制御部24Aは、色異常判定部272が色異常であると判定した場合、及び/又はテクスチャ異常判定部273がテクスチャ異常であると判定した場合に、低フレームレート(間引き表示)の静止画で表示装置5に表示させる。形状異常(腫瘍)は、粘膜襞と間違え易いため、連続画像で詳しく確認する必要がある。それに対して、色異常及びテクスチャ異常は静止画からも診断し易い異常であるため、診断時間を削減するために静止画で素早く表示する。
続いて、画像処理装置1Aの演算部2Aが行う画像処理について、図10を参照して説明する。図10は、本発明の実施の形態2に係る画像処理装置が行う画像処理を説明するフローチャートである。まず、画像処理装置1Aは、生体内管腔画像の入力があると、生体内管腔画像の画像データを取得して記憶部3へ書き込んで記憶させる(ステップS201)。その後は、上述した実施の形態1のステップS102〜S104と同様にして、各生体内管腔画像から異常領域を検出し(ステップS202)、検出された異常領域から類似異常区間を設定し(ステップS203)、設定された類似異常区間に属する複数の生体内管腔画像から代表画像を抽出する(ステップS204)。
続くステップS205において、区間情報生成部23Aは、類似異常区間から代表画像として選択されなかった生体内管腔画像を抽出する。具体的には、非代表画像抽出部232aが、設定された類似異常区間に属する生体内管腔画像を抽出する。非代表画像抽出部232aは、類似異常区間に属する生体内管腔画像の全てを抽出してもよいし、時系列で並んでいる複数の生体内管腔画像から、予め設定された間隔で生体内管腔画像を抽出してもよい。区間情報生成部23Aは、抽出された生体内管腔画像を区間情報として出力する。
続くステップS206において、代表画像表示制御部26は、ステップS204において代表画像抽出部25が抽出した代表画像を外部の表示装置5に出力して、出力した代表画像を該表示装置5に表示させる。表示装置5では、例えば、図3に示すように、それぞれの類似異常区間における代表画像W1〜W6が表示装置5に表示される。
続くステップS207において、異常種類判定部27は、検出された異常領域が、形状異常であるか、又は色異常若しくはテクスチャ異常であるかの異常の種類を判定する。異常種類判定部27は、形状異常判定部271、色異常判定部272及びテクスチャ異常判定部273の各判定結果に基づいて、設定された類似異常区間に属する生体内管腔画像が有する異常領域の異常の種類を判定する。
続くステップS208において、区間情報生成部23Aは、類似異常区間に対応する判定結果に基づいて、フレームレートの設定を行う。区間情報生成部23Aは、形状異常判定部271が、代表画像が形状異常であると判定した場合、この代表画像が属する類似異常区間の生体内管腔画像のフレームレートを、高フレームレートに設定する。これに対し、区間情報生成部23Aは、色異常判定部272が色異常であると判定した場合、及び/又はテクスチャ異常判定部273がテクスチャ異常であると判定した場合に、この代表画像が属する類似異常区間の生体内管腔画像のフレームレートを、低フレームレートに設定する。低フレームレートに設定された場合、類似異常区間に属する複数の生体内管腔画像は、間引き表示により表示装置5に表示される。
続くステップS209において、演算部2は、入力部4からの信号であって、表示装置5に表示されている複数の代表画像W1〜W6のうちのいずれかを選択する選択入力を指示する信号が入力されたか否かを判断する。ここで、演算部2は、選択入力がない場合(ステップS209:No)、本画像処理を終了する。これに対し、演算部2は、選択入力がある場合(ステップS209:Yes)、ステップS210に移行する。
ステップS210において、演算部2は、入力された信号に基づいて、選択された代表画像を判断し、判断結果を区間情報表示制御部24Aに出力する。区間情報表示制御部24Aは、選択された代表画像に対応する類似異常区間について、非代表画像抽出部232aが抽出した生体内管腔画像と、この類似異常区間に係るフレームレートの情報とを取得して、表示装置5に出力する。
以上説明した本発明の実施の形態2によれば、異常種類判定部27が、類似異常区間に属する生体内管腔画像群の異常領域の異常の種類を判定し、区間情報生成部23Aが、異常種類判定部27の判定結果に基づいて類似異常区間のフレームレートを設定し、入力部4を介して代表画像が選択された場合に、区間情報表示制御部24Aが、選択された代表画像と、非代表画像抽出部232aが抽出した代表画像以外の生体内管腔画像と、この類似異常区間に設定されたフレームレートを表示装置5に出力するようにした。これにより、ユーザは、生体の管腔内を時系列順に撮像することにより取得された一連の画像群から代表画像を観察する際に、この代表画像に写っている注目領域に係る時系列の情報を把握することができる。
また、本発明の実施の形態2によれば、異常種類判定部27が、類似異常区間に属する生体内管腔画像群に存在する異常領域の種類を判定し、区間情報生成部23Aが、異常種類判定部27の判定結果に基づいて類似異常区間のフレームレートを設定するようにしたので、異常の種類に応じて生体内管腔画像の表示態様を変えることができる。これにより、ユーザは、精度の高い診断を効率よく行うことができる。
なお、上述した実施の形態2では、区間情報生成部23Aが、異常領域の異常の種類に応じてフレームレートを変更するものとして説明したが、異常領域が形状異常である場合の生体内管腔画像の表示間隔を、異常領域が色異常又はテクスチャ異常である場合の生体内管腔画像の表示間隔と比して短く設定するようにしてもよい。
また、上述した実施の形態2では、すべての類似異常区間について、異常の種類を判定するものとして説明したが、選択入力された代表画像が属する類似異常区間のみについて、この類似異常区間の異常の種類を判定するようにしてもよい。この場合、ステップS207は、ステップS209において代表画像が選択された際に、異常種類判定部27が、この代表画像が属する類似異常区間について異常の種類の判定を行う。
また、上述した実施の形態2では、異常種類判定部27が、形状異常判定部271、色異常判定部272及びテクスチャ異常判定部273を有し、それぞれの判定結果に基づいてフレームレートを設定するものとして説明したが、異常種類判定部27は、形状異常判定部271、色異常判定部272及びテクスチャ異常判定部273のうちのいずれか一つを有していればよい。例えば、異常種類判定部27が形状異常判定部271のみを有している場合、区間情報生成部23Aは、形状異常判定部271により異常領域が形状異常であると判定された場合は高フレームレートに設定し、形状異常判定部271により異常領域が形状異常ではないと判定された場合は低フレームレートに設定すればよい。
(実施の形態2の変形例1)
図11は、本発明の実施の形態2の変形例1に係る画像処理装置の機能構成を示すブロック図である。同図に示す画像処理装置1Bは、演算部2Bと、記憶部3と、入力部4とを備える。以下、実施の形態2に係る画像処理装置1Aの演算部2Aが有する構成部位と同様の構成部位については、同じ符号を付して説明する。画像処理装置1Bは、生成した画像や情報を表示装置5に出力して、各種情報を表示装置5に表示させる。
演算部2Bは、時系列で連続して撮像した生体内管腔画像の異常領域を検出する異常検出部21と、類似した異常領域を含む類似異常区間を設定する類似異常区間設定部22と、類似異常区間に関する情報を算出する区間情報生成部23Bと、区間情報生成部23Bが算出した区間情報を出力する区間情報表示制御部24Aと、異常の種類を判定する異常種類判定部27とを有する。
区間情報生成部23Bは、類似異常区間から代表画像として選択されなかった生体内管腔画像を抽出する類似画像群抽出部232Aを有している。類似画像群抽出部232Aは、類似異常区間から悪性度の高い重要な生体内管腔画像群を優先的に抽出する重要画像抽出部232bを有している。ここでいう悪性度は、組織の悪性の度合いを示すものであり、病理学的に設定される指標の一つであり、悪性の度合いを定量的に評価して決定される数値である。
重要画像抽出部232bは、類似異常区間に属する複数の生体内管腔画像のうち、悪性度の高い重要な生体内管腔画像を優先的に抽出する。具体的に、事前に用意された悪性度のレベルが様々な画像から、各色成分(R成分、G成分、B成分)の画素値や、それらをもとに公知の変換処理により二次的に算出される値、色差(YCbCr変換)、色相、彩度(HSI変換)、色比(G/R、B/G)等を算出し、算出された値をもとに悪性度の判別基準を設定しておく。重要画像抽出部232bは、類似異常区間に属する生体内管腔画像について、予め設定しておいた判定基準に基づいて悪性度を判定し、悪性度が高い生体内管腔画像を優先的に抽出する。ここでいう「優先的に抽出する」とは、予め設定されている数の生体内管腔画像を、悪性度が高い方から順に抽出することをいう。
本変形例1によれば、重要画像抽出部232bが、類似異常区間に属する複数の生体内管腔画像のうち、悪性度の高い重要な生体内管腔画像を抽出するようにしたので、表示装置5には、代表画像のほか、悪性度が高いと判定された生体内管腔画像が表示される。これにより、ユーザは、効率的、かつ確実な診断を行うことが可能となる。
(実施の形態2の変形例2)
図12は、本発明の実施の形態2の変形例2に係る画像処理装置の機能構成を示すブロック図である。同図に示す画像処理装置1Cは、演算部2Cと、記憶部3と、入力部4とを備える。以下、実施の形態2に係る画像処理装置1Aの演算部2Aが有する構成部位と同様の構成部位については、同じ符号を付して説明する。画像処理装置1Cは、生成した画像や情報を表示装置5に出力して、各種情報を表示装置5に表示させる。
演算部2Cは、時系列で連続して撮像した生体内管腔画像の異常領域を検出する異常検出部21と、類似した異常領域を含む類似異常区間を設定する類似異常区間設定部22と、類似異常区間に関する情報を算出する区間情報生成部23Cと、区間情報生成部23Cが算出した区間情報を出力する区間情報表示制御部24Aと、異常の種類を判定する異常種類判定部27とを有する。
区間情報生成部23Cは、類似異常区間から代表画像として選択されなかった生体内管腔画像を抽出する類似画像群抽出部232Bを有している。類似画像群抽出部232Bは、類似異常区間から視認性の高い生体内管腔画像群を優先的に抽出する高視認性画像抽出部232cを有している。ここでいう視認性は、画像における被写体などの見え方の度合いを示すものであり、見え方を定量的に評価して決定される数値である。
高視認性画像抽出部232cは、類似異常区間に属する複数の生体内管腔画像のうち、視認性の高く、容易に診断が可能な生体内管腔画像群を優先的に抽出する。具体的に、事前に用意された視認性のレベルが様々な画像から、各色成分(R成分、G成分、B成分)の画素値や、それらをもとに公知の変換処理により二次的に算出される値、色差(YCbCr変換)、色相、彩度(HSI変換)、色比(G/R、B/G)等を算出し、算出された値をもとに視認性の判定基準を決定しておく。高視認性画像抽出部232cは、類似異常区間に属する生体内管腔画像について、予め決定しておいた判定基準に基づいて視認性を判定し、視認性が高い生体内管腔画像を優先的に抽出する。
本変形例2によれば、高視認性画像抽出部232cが、類似異常区間に属する複数の生体内管腔画像のうち、視認性の高い生体内管腔画像を抽出するようにしたので、表示装置5には、代表画像のほか、視認性が高いと判定された生体内管腔画像が表示される。これにより、ユーザは、代表画像と、代表画像とは異なる視認性の高い生体内管腔画像を確認することができ、効率的かつ精度の高い診断を行うことが可能となる。
(実施の形態2の変形例3)
図13は、本発明の実施の形態2の変形例3に係る画像処理装置の機能構成を示すブロック図である。同図に示す画像処理装置1Dは、演算部2Dと、記憶部3と、入力部4とを備える。以下、実施の形態2に係る画像処理装置1Aの演算部2Aが有する構成部位と同様の構成部位については、同じ符号を付して説明する。画像処理装置1Dは、生成した画像や情報を表示装置5に出力して、各種情報を表示装置5に表示させる。
演算部2Dは、時系列で連続して撮像した生体内管腔画像の異常領域を検出する異常検出部21と、類似した異常領域を含む類似異常区間を設定する類似異常区間設定部22と、類似異常区間に関する情報を算出する区間情報生成部23Dと、区間情報生成部23Dが算出した区間情報を出力する区間情報表示制御部24Aと、異常の種類を判定する異常種類判定部27とを有する。
区間情報生成部23Dは、類似異常区間から代表画像として選択されなかった生体内管腔画像を抽出する類似画像群抽出部232Cを有している。類似画像群抽出部232Cは、類似異常区間から代表画像と類似していない生体内管腔画像群を抽出する非類似画像抽出部232dを有している。
非類似画像抽出部232dは、類似異常区間から代表的な生体内管腔画像と類似していない生体内管腔画像を抽出する。具体的には、代表画像と類似異常区間から代表画像として選択されなかった生体内管腔画像の正規化相互相関や動きベクトル変化量、画素値(輝度(Y)成分の画素値や、G成分の画素値等)の変化量を算出して、算出した変化量が、予め設定されている所定値以上となる生体内管腔画像を優先的に抽出する。非類似画像抽出部232dは、例えば、変化量と所定値との差が大きい方から順に生体内管腔画像を抽出する。
本変形例3によれば、非類似画像抽出部232dが、類似異常区間に属する複数の生体内管腔画像のうち、代表画像との類似度が低い生体内管腔画像を抽出するようにしたので、表示装置5には、代表画像のほか、この代表画像から見え方が異なる生体内管腔画像が表示される。これにより、ユーザは、効率的、かつ精度の高い診断を行うことが可能となる。
なお、上述した実施の形態2及び変形例1〜3に係る区間情報生成部23A〜23Dを適宜組み合わせてもよい。具体的には、非代表画像抽出部232a、重要画像抽出部232b、高視認性画像抽出部232c及び非類似画像抽出部232dのうち、少なくとも二つを組み合わせて代表画像以外の生体内管腔画像を抽出するようにしてもよい。例えば、非代表画像抽出部232aと重要画像抽出部232bとを組み合わせた場合、重要画像抽出部232bは、非代表画像抽出部232aにより抽出された複数の生体内管腔画像のそれぞれについて悪性度の判定を行い、判定基準を満たす生体内管腔画像を抽出する。
(実施の形態3)
図14は、本発明の実施の形態3に係る画像処理装置の機能構成を示すブロック図である。同図に示す画像処理装置1Eは、演算部2Eと、記憶部3と、入力部4とを備える。以下、実施の形態1に係る画像処理装置1の演算部2が有する構成部位と同様の構成部位については、同じ符号を付して説明する。画像処理装置1Eは、生成した画像や情報を表示装置5に出力して、各種情報を表示装置5に表示させる。
演算部2Eは、時系列で連続して撮像した生体内管腔画像の異常領域を検出する異常検出部21と、類似した異常領域を含む類似異常区間を設定する類似異常区間設定部22と、類似異常区間における生体内の腸管の動きや、サイズ、腸管内の内容物の量、粘膜の損傷度を、類似異常区間に関する情報をとして生成する区間情報生成部23Eと、区間情報生成部23Eが算出した区間情報を出力する区間情報表示制御部24Bとを有する。ここで、本実施の形態3における「内容物」とは、腸管内に残存する残渣や血液のことをいう。また、本実施の形態3においては、異常検出部21が検出する異常領域は、腸管を含む領域の検出を行う。
区間情報生成部23Eは、腸管の動き情報を算出する腸管動き情報算出部233と、腸管のサイズを算出する腸管サイズ算出部234と、腸管内における内容物の量を算出する内容物量算出部235と、粘膜の損傷度を算出する粘膜損傷度算出部236とを有している。
腸管動き情報算出部233は、腸管の動き情報を算出する。具体的に、腸管動き情報算出部233は、類似異常区間における生体内管腔画像群の正規化相相関、動きベクトル等により算出される画像の動きと、センサー等の検出結果から算出される医用装置の動きとにより腸管の動きを示す情報を算出する。
腸管サイズ算出部234は、腸管のサイズを算出する。具体的に、腸管サイズ算出部234は、画像内の奥行き情報(R成分の画素値や、自動ゲインコントロール(AGC:Automatic Gain Control)値等)、および円弧領域(ハフ変換などによる円弧抽出)の大きさから腸管のサイズを算出する。
内容物量算出部235は、残渣の量を算出する残渣量算出部235aと、出血の量を算出する出血量算出部235bとを有している。残渣量算出部235a及び出血量算出部235bは、色特徴量やテクスチャ特徴量に基づいて、生体内管腔画像における残渣の量、及び出血の量をそれぞれ算出する。内容物量算出部235は、残渣及び出血に加えて、生体内管腔画像における泡の量を算出するようにしてもよい。
粘膜損傷度算出部236は、粘膜の損傷度を算出する。具体的に、粘膜損傷度算出部236は、画像処理によって検出された、絨毛の有無や、粘膜性異常の有無などに基づいて、粘膜の損傷度を算出する。粘膜損傷度算出部236は、絨毛の単位面積当たりの量と、医学的に決められている判定基準とを比較することによって、粘膜の損傷度を算出する。絨毛の単位面積当たりの量は、生体内管腔画像の周波数解析を行った後、高周波成分を抽出することによって算出することができる。
区間情報表示制御部24Bは、区間情報生成部23Eが生成した、腸管の動き情報、腸管のサイズ、腸管内の異常領域における内容物の量及び粘膜の損傷度を、類似異常区間ごとに時系列で表示装置5に出力する。
続いて、画像処理装置1Eの演算部2Eが行う画像処理について、図15を参照して説明する。図15は、本発明の実施の形態3に係る画像処理装置が行う画像処理を説明するフローチャートである。まず、画像処理装置1Eは、生体内管腔画像の入力があると、生体内管腔画像の画像データを取得して記憶部3へ書き込んで記憶させる(ステップS301)。その後は、上述した実施の形態1のステップS102、S103と同様にして、各生体内管腔画像から異常領域を検出し(ステップS302)、検出された異常領域から類似異常区間を設定する(ステップS303)。
続くステップS304〜S307では区間情報生成部23Eが、設定された類似異常区間ごとに、腸管に係る情報の算出を行う。ステップS304では、腸管動き情報算出部233が、腸管の動き情報を算出する。ステップS305では、腸管サイズ算出部234が、腸管のサイズを算出する。ステップS306では、内容物量算出部235が、残渣の量及び出血の量を算出する。ステップS307では、粘膜損傷度算出部236は、粘膜の損傷度を算出する。これらのステップS304〜ステップS307は、これらの情報が得られれば、この順に行う必要はなく、同時に行うようにしてもよい。
続くステップS308において、区間情報表示制御部24Bは、区間情報生成部23Eが生成した類似異常区間ごとの腸管に係る情報を取得して、表示装置5に出力する。表示装置5は、類似異常区間ごとに、当該類似異常区間に係る腸管の情報を表示する。
以上説明した本発明の実施の形態3によれば、区間情報生成部23Eが、類似異常区間設定部22により設定された類似異常区間について腸管に係る情報の算出を行い、区間情報表示制御部24Bが、区間情報生成部23Eにより生成された腸管に係る情報を取得して表示装置5に出力するようにしたので、生体の管腔内を時系列順に撮像することにより取得された一連の画像群から腸管に係る情報を表示する際に、生体内管腔画像に写っている腸管に係る時系列の情報を表示することが可能となる。これにより、ユーザは、各生体内管腔画像に写っている腸管に係る時系列の情報を確認して、精度の高い診断を行うことができる。
(その他の実施の形態)
ここまで、本発明を実施するための形態を説明してきたが、本発明は上述した実施の形態1〜3によってのみ限定されるべきものではない。例えば、実施の形態1と実施の形態3とを組み合わせて、腸管に係る情報とともに、代表画像を表示して、代表画像の選択入力があった場合に、選択された代表画像に関する長さ情報を表示するようにしてもよい。このように、本発明はここでは記載していない様々な実施の形態等を含み得るものである。
以上のように、本発明にかかる画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラムは、生体の管腔内を時系列順に撮像することにより取得された一連の画像群を用いて診断を行う際に、効率的かつ精度の高い診断を行うのに有用である。
1、1A〜1E 画像処理装置
2、2A〜2E 演算部
3 記憶部
4 入力部
5 表示装置
21 異常検出部
22 類似異常区間設定部
23、23A〜23E 区間情報生成部
24、24A、24B 区間情報表示制御部
25 代表画像抽出部
26 代表画像表示制御部
27 異常種類判定部
231 長さ情報生成部
231a 撮像枚数算出部
231b 撮像時間算出部
231c 移動距離算出部
232、232A〜232C 類似画像群抽出部
232a 非代表画像抽出部
232b 重要画像抽出部
232c 高視認性画像抽出部
232d 非類似画像抽出部
233 腸管動き情報算出部
234 腸管サイズ算出部
235 内容物量算出部
235a 残渣量算出部
235b 出血量算出部
236 粘膜損傷度算出部
271 形状異常判定部
272 色異常判定部
273 テクスチャ異常判定部

Claims (12)

  1. 生体内に導入される医用装置が撮像した複数の生体内管腔画像から異常領域をそれぞれ検出する異常検出部と、
    類似した前記異常領域を含む類似異常区間を設定する類似異常区間設定部と、
    前記類似異常区間に関する情報を生成する区間情報生成部と、
    前記類似異常区間に関する情報を表示装置に表示させる区間情報表示制御部と、
    前記類似異常区間に属する複数の生体内管腔画像から、代表とする生体内管腔画像を抽出する代表画像抽出部と、
    前記代表とする生体内管腔画像を前記表示装置に表示させる代表画像表示制御部と、
    を備え
    前記区間情報生成部は、
    前記類似異常区間に属する複数の生体内管腔画像のうち、前記代表とする生体内管腔画像以外の少なくとも一部の生体内管腔画像を抽出する類似画像群抽出部、
    を有することを特徴とする画像処理装置。
  2. 前記類似画像群抽出部は、
    前記類似異常区間に属する複数の生体内管腔画像のうち、前記代表とする生体内管腔画像以外の全ての生体内管腔画像を抽出する非代表画像抽出部、
    を有することを特徴とする請求項に記載の画像処理装置。
  3. 前記類似画像群抽出部は、
    前記類似異常区間に属する複数の生体内管腔画像のうち、悪性度の高い複数の生体内管腔画像を抽出する重要画像抽出部、
    を有することを特徴とする請求項に記載の画像処理装置。
  4. 前記類似画像群抽出部は、
    前記類似異常区間に属する複数の生体内管腔画像のうち、視認性の高い複数の生体内管腔画像を抽出する高視認性画像抽出部、
    を有することを特徴とする請求項に記載の画像処理装置。
  5. 前記類似画像群抽出部は、
    前記類似異常区間に属する複数の生体内管腔画像のうち、前記代表とする生体内管腔画像との類似度が相対的に低い複数の生体内管腔画像を抽出する高視認性画像抽出部、
    を有することを特徴とする請求項に記載の画像処理装置。
  6. 前記異常検出部により検出された異常領域の異常の種類を判定する異常種類判定部、
    をさらに備え、
    前記区間情報生成部は、前記異常の種類に基づいて、前記生体内管腔画像の表示態様を決定する
    ことを特徴とする請求項に記載の画像処理装置。
  7. 前記異常種類判定部は、
    前記異常領域が形状異常であるか否かを判定する形状異常判定部と、
    前記異常領域が色異常であるか否かを判定する色異常判定部と、
    前記異常領域がテクスチャ異常であるか否かを判定するテクスチャ異常判定部と、
    のうちの少なくとも一つを有し、
    前記異常領域が、形状異常であるか、又は色異常若しくはテクスチャ異常であるかを判定する
    ことを特徴とする請求項に記載の画像処理装置。
  8. 前記区間情報生成部は、前記異常領域が形状異常である場合の前記生体内管腔画像のフレームレートを、前記異常領域が色異常又はテクスチャ異常である場合の前記生体内管腔画像のフレームレートと比して高く設定する
    ことを特徴とする請求項に記載の画像処理装置。
  9. 前記区間情報生成部は、前記異常領域が形状異常である場合の前記生体内管腔画像の表示間隔を、前記異常領域が色異常又はテクスチャ異常である場合の前記生体内管腔画像の表示間隔と比して短く設定する
    ことを特徴とする請求項に記載の画像処理装置。
  10. 外部からの操作に応じた信号の入力を受け付ける入力部をさらに備え、
    前記区間情報表示制御部は、前記入力部が、複数の前記代表画像のうちのいずれかを選択する操作に応じた信号の入力を受け付けた場合、選択された前記代表画像が属する前記類似異常区間に関する情報を表示装置に表示させる
    ことを特徴とする請求項に記載の画像処理装置。
  11. 異常検出部が、生体内に導入される医用装置が撮像した複数の生体内管腔画像から異常領域をそれぞれ検出する異常検出ステップと、
    類似異常区間設定部が、類似した前記異常領域を含む類似異常区間を設定する類似異常区間設定ステップと、
    区間情報生成部が、前記類似異常区間に属する複数の生体内管腔画像のうち、代表とする生体内管腔画像以外の少なくとも一部の生体内管腔画像を抽出し、該抽出した情報に基づいて前記類似異常区間に関する情報を生成する区間情報生成ステップと、
    区間情報表示制御部が、前記類似異常区間に関する情報を表示装置に表示させる区間情報表示制御ステップと、
    代表画像抽出部が、前記類似異常区間に属する複数の生体内管腔画像から、代表とする生体内管腔画像を抽出する代表画像抽出ステップと、
    代表画像表示制御部が、前記代表とする生体内管腔画像を前記表示装置に表示させる代表画像表示制御ステップと、
    を含むことを特徴とする画像処理装置の作動方法。
  12. 生体内に導入される医用装置が撮像した複数の生体内管腔画像から異常領域をそれぞれ検出する異常検出手順と、
    類似した前記異常領域を含む類似異常区間を設定する類似異常区間設定手順と、
    前記類似異常区間に属する複数の生体内管腔画像のうち、代表とする生体内管腔画像以外の少なくとも一部の生体内管腔画像を抽出し、該抽出した情報に基づいて前記類似異常区間に関する情報を生成する区間情報生成手順と、
    前記類似異常区間に関する情報を表示装置に表示させる区間情報表示制御手順と、
    前記類似異常区間に属する複数の生体内管腔画像から、代表とする生体内管腔画像を抽出する代表画像抽出手順と、
    前記代表とする生体内管腔画像を前記表示装置に表示させる代表画像表示制御手順と、
    をコンピュータに実行させることを特徴とする画像処理装置の作動プログラム。
JP2018518028A 2016-05-19 2016-05-19 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム Active JP6741759B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/064933 WO2017199408A1 (ja) 2016-05-19 2016-05-19 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム

Publications (2)

Publication Number Publication Date
JPWO2017199408A1 JPWO2017199408A1 (ja) 2019-04-04
JP6741759B2 true JP6741759B2 (ja) 2020-08-19

Family

ID=60325075

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018518028A Active JP6741759B2 (ja) 2016-05-19 2016-05-19 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム

Country Status (3)

Country Link
US (1) US10776921B2 (ja)
JP (1) JP6741759B2 (ja)
WO (1) WO2017199408A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3603483A4 (en) * 2017-03-30 2020-04-22 FUJIFILM Corporation ENDOSCOPIC SYSTEM AND METHOD FOR THE OPERATION THEREOF
KR101898580B1 (ko) * 2018-01-22 2018-09-13 주식회사 뷰노 영상의 열람을 지원하는 방법 및 이를 이용한 장치
JP6988001B2 (ja) * 2018-08-30 2022-01-05 オリンパス株式会社 記録装置、画像観察装置、観察システム、観察システムの制御方法、及び観察システムの作動プログラム
JP7373335B2 (ja) * 2019-09-18 2023-11-02 富士フイルム株式会社 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法、及びプログラム
JP7495511B2 (ja) 2020-09-15 2024-06-04 富士フイルム株式会社 医用画像処理装置及び医用画像処理装置の作動方法並びに医用画像処理装置用プログラム
CN113112448A (zh) * 2021-02-25 2021-07-13 惠州华阳通用电子有限公司 一种显示画面检测方法及存储介质
CN113094537B (zh) * 2021-04-07 2024-01-02 南京云格信息技术有限公司 一种基于fpga的图像处理系统
WO2023286199A1 (ja) * 2021-07-14 2023-01-19 アイリス株式会社 処理装置、処理プログラム、処理方法及び処理システム
JP2023039392A (ja) * 2021-09-08 2023-03-20 株式会社エビデント 検査支援方法、検査支援装置、検査支援システム、およびプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4418400B2 (ja) 2005-05-20 2010-02-17 オリンパスメディカルシステムズ株式会社 画像表示装置
JP4716794B2 (ja) 2005-06-06 2011-07-06 オリンパスメディカルシステムズ株式会社 画像表示装置
JP4914680B2 (ja) * 2006-09-05 2012-04-11 オリンパスメディカルシステムズ株式会社 画像表示装置
US8900124B2 (en) 2006-08-03 2014-12-02 Olympus Medical Systems Corp. Image display device
EP2163183A4 (en) 2007-06-05 2015-04-29 Olympus Corp IMAGE PREPARATION DEVICE, IMAGE PROCESSING PROGRAM AND IMAGE PROCESSING
JP5408850B2 (ja) * 2007-07-30 2014-02-05 オリンパス株式会社 画像解析装置および画像解析プログラム
JP5220705B2 (ja) 2009-07-23 2013-06-26 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
CN104114077B (zh) 2012-10-18 2016-07-20 奥林巴斯株式会社 图像处理装置和图像处理方法
JP6411834B2 (ja) * 2014-09-22 2018-10-24 オリンパス株式会社 画像表示装置、画像表示方法、及び画像表示プログラム

Also Published As

Publication number Publication date
US20190087959A1 (en) 2019-03-21
JPWO2017199408A1 (ja) 2019-04-04
WO2017199408A1 (ja) 2017-11-23
US10776921B2 (en) 2020-09-15

Similar Documents

Publication Publication Date Title
JP6741759B2 (ja) 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム
US11170498B2 (en) Image processing device, image processing method, and image processing program for detecting specific region from image captured by endoscope designated as detection target image in response to determining that operator's action in not predetermined action
US8830307B2 (en) Image display apparatus
JP5147308B2 (ja) 画像抽出装置および画像抽出プログラム
CN109310398B (zh) 用于检测肺部滑动的超声系统和方法
JP7413585B2 (ja) 医用画像処理装置、作動方法、プログラム、及び記録媒体、診断支援装置並びに内視鏡システム
JP2010158308A (ja) 画像処理装置、画像処理方法および画像処理プログラム
WO2018020558A1 (ja) 画像処理装置、画像処理方法およびプログラム
JPWO2018105063A1 (ja) 画像処理装置
JP6552601B2 (ja) 画像処理装置、画像処理装置の作動方法および画像処理プログラム
JP2010187756A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2010115413A (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
US20210274999A1 (en) Endoscope system, endoscope image processing method, and storage medium
US20200090548A1 (en) Image processing apparatus, image processing method, and computer-readable recording medium
KR20150049585A (ko) 용종 검출 장치 및 그 동작방법
EP2962622A1 (en) Image processing device, endoscope device, image processing method, and image processing program
JP4472602B2 (ja) 画像表示装置
WO2022251112A1 (en) Phase identification of endoscopy procedures
JP6840263B2 (ja) 内視鏡システム及びプログラム
US20190298159A1 (en) Image processing device, operation method, and computer readable recording medium
JP5004736B2 (ja) 画像処理装置および画像処理プログラム
JP4464894B2 (ja) 画像表示装置
JP2013240701A (ja) 画像処理装置、画像処理装置の作動方法および画像処理プログラム
JP4923096B2 (ja) 画像表示装置
JP4594834B2 (ja) 画像表示装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181107

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200727

R151 Written notification of patent or utility model registration

Ref document number: 6741759

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250