JPWO2016208016A1 - 画像処理装置、画像処理方法、及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法、及び画像処理プログラム Download PDF

Info

Publication number
JPWO2016208016A1
JPWO2016208016A1 JP2017524509A JP2017524509A JPWO2016208016A1 JP WO2016208016 A1 JPWO2016208016 A1 JP WO2016208016A1 JP 2017524509 A JP2017524509 A JP 2017524509A JP 2017524509 A JP2017524509 A JP 2017524509A JP WO2016208016 A1 JPWO2016208016 A1 JP WO2016208016A1
Authority
JP
Japan
Prior art keywords
region
image
mucosal
unit
mucous membrane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017524509A
Other languages
English (en)
Inventor
光隆 木村
光隆 木村
北村 誠
誠 北村
都士也 上山
都士也 上山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2016208016A1 publication Critical patent/JPWO2016208016A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/044Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for absorption imaging

Abstract

管腔内の状態を適切に反映した学習サンプルを取得することができる画像処理装置等を提供する。画像処理装置1は、生体の管腔内を撮像した管腔内画像から粘膜領域を抽出する粘膜領域抽出部110と、粘膜領域の表面性状を取得し、該表面性状に基づいて管腔内画像における粘膜領域を加工することにより、上記管腔内画像とは異なる画像を生成する画像生成部120とを備える。

Description

本発明は、生体の管腔内を撮像した画像に対して画像処理を行う画像処理装置、画像処理方法、及び画像処理プログラムに関する。
内視鏡等の医用観察装置を用いて生体の管腔内(消化管内)を撮像した管腔内画像に対し、識別基準を用いて異常領域等の特定領域を検出する技術が知られている。この際に用いられる識別基準は、通常、学習サンプルとして管腔内画像から抽出された様々なバリエーションの粘膜領域や異常領域の画像をもとに作成される。
画像の識別に関する技術として、例えば特許文献1には、学習サンプルとして取得した画像に対し、任意の注目領域の位置、方向、外観を変更したり、注目領域を拡大縮小又は回転させたりといった処理を行うことにより新たな画像を生成し、新たな画像及びもとの画像から特徴量を算出して識別基準を作成する技術が開示されている。
米国特許第8903167号明細書
しかし、上記特許文献1に開示された技術を管腔内画像に適用しようとした場合、注目領域に対して上述したような幾何学的な処理を行うだけでは、管腔内の状態を適切に反映した学習サンプルを取得することは困難である。
本発明は、上記に鑑みて為されたものであって、管腔内の状態を適切に反映した学習サンプルを取得することができる画像処理装置、画像処理方法、及び画像処理プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、生体の管腔内を撮像した管腔内画像から粘膜領域を抽出する粘膜領域抽出部と、前記粘膜領域の表面性状を取得し、該表面性状に基づいて前記管腔内画像における前記粘膜領域を加工することにより、前記管腔内画像とは異なる画像を生成する画像生成部と、を備えることを特徴とする。
本発明に係る画像処理方法は、生体の管腔内を撮像した管腔内画像から粘膜領域を抽出する粘膜領域抽出ステップと、前記粘膜領域の表面性状を取得し、該表面性状に基づいて前記管腔内画像における前記粘膜領域を加工することにより、前記管腔内画像とは異なる画像を生成する画像生成ステップと、を含むことを特徴とする。
本発明に係る画像処理プログラムは、生体の管腔内を撮像した管腔内画像から粘膜領域を抽出する粘膜領域抽出ステップと、前記粘膜領域の表面性状を取得し、該表面性状に基づいて前記管腔内画像における前記粘膜領域を加工することにより、前記管腔内画像とは異なる画像を生成する画像生成ステップと、をコンピュータに実行させることを特徴とする。
本発明によれば、管腔内画像から抽出した粘膜領域の表面性状に基づいて、この粘膜領域を加工することにより上記管腔内画像とは異なる画像を生成するので、管腔内の状態を適切に反映した学習サンプルを取得することが可能となる。
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。 図2は、図1に示す演算部の動作を示すフローチャートである。 図3は、管腔内画像から抽出された粘膜領域を示す模式図である。 図4は、粘膜領域に絨毛領域を合成した画像を示す模式図である。 図5は、粘膜領域に絨毛領域及び血管領域を合成した画像を示す模式図である。 図6は、本発明の実施の形態2に係る画像処理装置が備える演算部の構成を示すブロック図である。 図7は、図6に示す演算部の動作を示すフローチャートである。 図8は、図7に示す識別基準の作成処理を示すフローチャートである。 図9は、本発明の実施の形態3に係る画像処理装置が備える演算部の構成を示すブロック図である。 図10は、図9に示す演算部の動作を示すフローチャートである。 図11は、本発明の実施の形態4に係る画像処理装置が備える演算部の構成を示すブロック図である。 図12は、図11に示す演算部の動作を示すフローチャートである。 図13は、図12に示す粘膜領域の属性の判定処理を示すフローチャートである。 図14は、本発明の実施の形態5に係る画像処理装置が備える演算部の構成を示すブロック図である。 図15は、図14に示す演算部の動作を示すフローチャートである。 図16は、図15に示す新たな画像の生成処理を示すフローチャートである。
以下、本発明の実施の形態に係る画像処理装置、画像処理方法、及び画像処理プログラムについて、図面を参照しながら説明する。なお、これらの実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。本実施の形態1に係る画像処理装置1は、内視鏡等の医用観察装置を用いて生体の管腔内を撮像することにより取得された管腔内画像から粘膜領域を抽出し、この粘膜領域の表面性状に基づいて、もとの管腔内画像とは異なる新たな画像を生成する画像処理を実行する装置である。管腔内画像は、通常、各画素位置においてR(赤)、G(緑)、B(青)の波長成分に対する画素レベル(画素値)を持つカラー画像である。なお、生体内を撮像する内視鏡は、カプセル内視鏡、軟性内視鏡、硬性内視鏡等のいずれであっても良い。
図1に示すように、画像処理装置1は、該画像処理装置1全体の動作を制御する制御部10と、医用観察装置が管腔内を撮像して生成した管腔内画像の画像データを取得する画像取得部20と、外部からの操作に応じた信号を制御部10に入力する入力部30と、各種情報や画像の表示を行う表示部40と、画像取得部20によって取得された画像データや種々のプログラムを格納する記憶部50と、画像データに対して所定の画像処理を実行する演算部100とを備える。
制御部10は、CPU(Central Processing Unit)等の汎用プロセッサやASIC(Application Specific Integrated Circuit)等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて構成される。制御部10が汎用プロセッサである場合、記憶部50が記憶する各種プログラムを読み込むことによって画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括して制御する。また、制御部10が専用プロセッサである場合、プロセッサが単独で種々の処理を実行しても良いし、記憶部50が記憶する各種データ等を用いることで、プロセッサと記憶部50が協働又は結合して種々の処理を実行しても良い。
画像取得部20は、医用観察装置を含むシステムの態様に応じて適宜構成される。例えば、医用観察装置を画像処理装置1に接続する場合、画像取得部20は、医用観察装置において生成された画像データを取り込むインタフェースによって構成される。また、医用観察装置によって生成された画像データを保存しておくサーバを設置する場合、画像取得部20は、サーバと接続される通信装置等で構成され、サーバとデータ通信を行って画像データを取得する。或いは、医用観察装置によって生成された画像データを、可搬型の記憶媒体を用いて受け渡ししても良く、この場合、画像取得部20は、可搬型の記憶媒体を着脱自在に装着し、記憶された画像の画像データを読み出すリーダ装置によって構成される。
入力部30は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現され、これらの入力デバイスに対する外部からの操作に応じて発生させた入力信号を制御部10に出力する。
表示部40は、LCD(Liquid Crystal Display)やEL(Electro-Luminescence)ディスプレイ等の表示装置によって実現され、制御部10の制御の下で、管腔内画像を含む各種画面を表示する。
記憶部50は、更新記録可能なフラッシュメモリ等のROM(Read Only Memory)やRAM(Random Access Memory)といった各種IC(integrated circuit)メモリ、内蔵若しくはデータ通信端子で接続されたハードディスク若しくはCD−ROM(Compact Disc Read Only Memory)等の情報記憶装置及び該情報記憶装置に対する情報の書込読取装置等によって実現される。記憶部50は、画像取得部20によって取得された管腔内画像の画像データの他、画像処理装置1を動作させると共に、種々の機能を画像処理装置1に実行させるためのプログラムや、このプログラムの実行中に使用されるデータ等を格納する。具体的には、記憶部50は、管腔内画像から粘膜領域を抽出し、この粘膜領域の表面性状に基づいて、もとの管腔内画像とは異なる新たな画像を生成する画像処理プログラムを格納するプログラム記憶部51を有する。また、記憶部50は、該画像処理において用いられる識別基準等の情報を格納する。
演算部100は、CPU等の汎用プロセッサやASIC等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて構成される。演算部100が汎用プロセッサである場合、プログラム記憶部51が記憶する画像処理プログラムを読み込むことにより、管腔内画像から粘膜領域を抽出し、この粘膜領域の表面性状に基づいて、もとの管腔内画像とは異なる新たな画像を生成する画像処理を実行する。また、演算部100が専用プロセッサである場合、プロセッサが単独で種々の処理を実行しても良いし、記憶部50が記憶する各種データ等を用いることで、プロセッサと記憶部50が協働又は結合して画像処理を実行しても良い。
次に、演算部100の構成について説明する。図1に示すように、演算部100は、管腔内画像から粘膜領域を抽出する粘膜領域抽出部110と、粘膜領域の表面性状を取得し、この表面性状に基づいて管腔内画像における粘膜領域を加工することにより上記新たな画像を生成する画像生成部120とを備える。
画像生成部120は、粘膜表面の微細構造を表す新たな画像を生成する微細構造生成部121を備える。詳細には、微細構造生成部121は、粘膜表面に存在する絨毛を表す絨毛領域を生成する絨毛生成部121aと、粘膜表面に透見する血管を表す血管領域を生成する血管生成部121bとを有する。
絨毛生成部121aは、絨毛を表すモデルを格納しており、このモデルを粘膜領域に貼り付けることにより、新たな画像を生成する。以下、絨毛を表すモデルを絨毛モデルという。絨毛モデルは、生体の管腔内画像から1つ以上の絨毛を含む領域を抽出することにより予め1つ以上作成しておく。
血管生成部121bは、血管を表すモデルを格納しており、このモデルを粘膜領域に貼り付けることにより、新たな画像を生成する。以下、血管を表すモデルを血管モデルという。血管モデルは、生体の管腔内画像から1つ以上の血管を含む領域を抽出することにより予め1つ以上作成しておく。
次に、演算部100の動作を説明する。図2は、演算部100の動作を示すフローチャートである。まず、ステップS10において、演算部100は、医用観察装置により取得された管腔内画像を記憶部50から読み出すことにより取得する。
続くステップS11において、粘膜領域抽出部110は、管腔内画像から粘膜領域を抽出する。詳細には、粘膜領域抽出部110は、管腔内画像を構成する各画素の画素値に基づき、画素ごと、或いは管腔内画像を複数の区画に分画した区画ごとに特徴量を算出し、この特徴量と事前に作成された判別基準を用いて閾値処理を行うことにより、粘膜領域を抽出する。
粘膜領域を抽出するための特徴量としては、色特徴量や、形状特徴量や、テクスチャ特徴量が挙げられる。色特徴量としては、各画素の画素値(R、G、B成分の各値)、G/R値又はB/G値等の色比、色相、彩度、明度、色差等が挙げられる。形状特徴量としては、管腔内画像から抽出される領域の面積(画素数)、周囲長、水平フェレ径又は垂直フェレ径を含むフェレ径、HOG特徴量(Histogram of Oriented Gradients)やSIFT特徴量(Scale Invariant Feature Transform)等が挙げられる。テクスチャ特徴量としては、例えばLocal Binary Pattern(LBP)が挙げられる。LBPは、注目画素とその周囲8方向の画素との画素値の大小関係を、2の8乗である256次元のヒストグラムで表した特徴量である。
粘膜領域抽出部110は、このような特徴量を算出し、事前に作成しておいた判別基準に基づき、管腔内画像内を、絨毛領域や血管領域を含む粘膜領域とそれ以外の領域、具体的には残渣領域や泡領域や暗部領域等を含む非粘膜領域とに判別し、粘膜領域を抽出する。なお、粘膜領域としては、粘膜領域の輪郭で囲まれる領域を抽出しても良いし、粘膜領域を含む矩形領域を抽出しても良い。或いは、粘膜領域が検出された管腔内画像全体を粘膜領域として抽出しても良い。図3は、管腔内画像から抽出された粘膜領域を示す模式図である。図3においては、粘膜領域を含む矩形領域が抽出された例を示している。
粘膜領域抽出部110は、抽出した粘膜領域の画像を画像生成部120に出力すると共に、記憶部50に記憶させる。
続くステップS12において、画像生成部120は、ステップS11において抽出された粘膜領域の表面性状を取得する。粘膜領域の表面性状とは、粘膜の凹凸状態、粘膜の色、ハレーション領域の有無、残渣や泡など、観察に不要な不要領域の有無、絨毛の有無、絨毛の色、血管の有無、血管の形状や色、出血の有無等の状態のことである。これらの表面性状は、粘膜領域に対し、上記ステップS11において列挙した色特徴量、形状特徴量、テクスチャ特徴量を算出することにより取得することができる。
続くステップS13において、画像生成部120は、粘膜領域の表面性状に基づいて管腔内画像における粘膜領域を加工することにより、新たな画像を生成する。具体的には、粘膜領域に対して絨毛モデルや血管モデルを貼り付ける処理や、粘膜領域の色や形状やテクスチャを変化させる処理が挙げられる。本実施の形態1においては、粘膜領域に絨毛モデル及び血管モデルを貼り付ける処理を説明する。
絨毛生成部121aは、粘膜領域に絨毛モデルを貼り付けることにより、粘膜領域に絨毛領域が合成された新たな画像を生成する。詳細には、絨毛生成部121aは、予め格納している絨毛モデルの中からいずれかの絨毛モデルを選択して粘膜領域に貼り付ける。絨毛モデルの選択方法としては、複数の絨毛モデルを表示部40(図1参照)に表示するなどしてユーザに任意の絨毛モデルを選択させても良いし、絨毛生成部121aがランダムに選択しても良い。或いは、以下に説明するように、粘膜領域の表面性状に応じて絨毛生成部121aが絨毛モデルを適宜選択しても良い。以下、粘膜領域の表面性状に応じた絨毛モデルの選択方法及び調整方法を説明する。
(1−1)粘膜と内視鏡に設けられた撮像素子との位置関係を考慮する場合
絨毛生成部121aは、管腔内画像に写った粘膜と、この管腔内画像を撮像した内視鏡に設けられた撮像素子との位置関係、具体的には、内視鏡が正面から粘膜を撮像したか、或いは内視鏡が斜め方向から粘膜を撮像したかという位置関係を取得する。この位置関係は、粘膜領域から抽出したエッジの形状から判断することができる。具体的には、エッジの円形度が大きいほど、即ちエッジの形状が真円に近いほど、粘膜に対して内視鏡の撮像素子が正面に近い方向を向いていると判断され、エッジの円形度が小さいほど、即ちエッジの形状が真円から遠いほど、粘膜に対して内視鏡の撮像素子が斜め方向を向いていると判断される。或いは、管腔内画像を撮像した内視鏡に加速度センサが設けられ、この加速度センサの検出値が画像付帯情報として管腔内画像に付帯されている場合には、この画像付帯情報に基づいて粘膜と内視鏡との位置関係を取得しても良い。
粘膜に対して内視鏡の撮像素子が正面に近い方向を向いている場合、粘膜表面に存在する絨毛の先端は内視鏡の撮像素子の方を向いている。そのため、管腔内画像においては円形状に近い絨毛が観察される。この場合、絨毛生成部121aは、円形状に近い絨毛モデルを選択して粘膜領域に貼り付ける。
一方、粘膜に対して内視鏡の撮像素子が斜めを向いている場合、内視鏡は粘膜表面に存在する絨毛を横向きに近い方向から撮像する。そのため、管腔内画像においては基端側から先端側に向かって突出する細長い形状の絨毛が観察される。そこで、この場合、絨毛生成部121aは、一般的に知られる細長い形状の絨毛モデルを選択する。
細長い形状の絨毛モデルを選択した際、絨毛生成部121aは、絨毛モデルを貼り付ける向きを決定する。具体的には、絨毛モデルの基端部が管腔の手前側、絨毛モデルの先端部が管腔の奥側となるように、絨毛モデルの向きを調整する。
管腔の奥側、手前側といった向きは、管腔内画像において輝度が所定値よりも低く且つ面積が所定値よりも大きい領域を抽出し、この領域内において輝度が最も低い位置を管腔の奥とすることで決定することができる。この奥の方に絨毛モデルの先端側が向くように絨毛モデルを回転させて粘膜領域に貼り付ける。
(1−2)粘膜領域の奥行を考慮する場合
管腔内画像における粘膜領域の奥行を考慮する場合、絨毛生成部121aはまず、管腔内画像を構成する各画素の輝度を算出し、輝度値が相対的に低い領域を奥行が深いと判断し、輝度値が相対的に高い領域を奥行が浅いと判断する。奥行が深い場合、絨毛は小さく写り、奥行が浅い場合、絨毛は大きく写る。そこで、絨毛生成部121aは、管腔内画像における粘膜領域の奥行に応じた大きさの絨毛モデルを選択して粘膜領域に貼り付ける。或いは、絨毛生成部121aは、任意に選択された絨毛モデルを、粘膜領域の奥行に応じて拡大又は縮小して粘膜領域に貼り付けても良い。
或いは、絨毛生成部121aは、粘膜領域に写った絨毛の大きさに合わせて絨毛モデルを選択しても良い。詳細には、絨毛生成部121aはまず、粘膜領域からエッジを抽出する。このエッジは1つ1つの絨毛の輪郭を表す。絨毛生成部121aは、このエッジ同士の間隔に近い大きさの絨毛モデルを選択する。或いは、絨毛生成部121aは、任意に選択された絨毛モデルを、エッジ同士の間隔に応じて拡大又は縮小しても良い。
(1−3)粘膜領域の明るさを考慮する場合
絨毛生成部121aは、まず、粘膜領域を構成する各画素の画素値から輝度を算出し、さらに、各画素の輝度の平均値(平均輝度値)を算出する。そして、絨毛生成部121aは、予め格納している絨毛モデルの平均輝度値を粘膜領域の平均輝度値と比較し、粘膜領域の平均輝度値と等しい、又は粘膜領域の平均輝度値の所定範囲内(例えば±数10%以内)である平均輝度値を有する絨毛モデルを選択する。この条件に合う絨毛モデルを格納していない場合、絨毛生成部121aは、粘膜領域の平均輝度値に対して最も近い平均輝度値を有する絨毛モデルを選択しても良い。
続いて、絨毛生成部121aは、粘膜領域内において、絨毛モデルを貼り付ける領域とその周辺領域との間で輝度の差が大きくなり過ぎないように、絨毛モデルの輝度を調整する。具体的には、粘膜領域のうち輝度が比較的高い領域に対しては、絨毛モデルの輝度を高く調整した上で、絨毛モデルを貼り付ける。反対に、粘膜領域のうち輝度が比較的低い領域に対しては、絨毛モデルの輝度を低く調整した上で、絨毛モデルを貼り付ける。
(1−4)粘膜領域の色を考慮する場合
絨毛生成部121aは、まず、粘膜領域を構成する各画素の画素値のうちのR値を抽出し、各画素のR値の平均値(平均R値)を算出する。絨毛生成部121aは、予め格納している絨毛モデルの平均R値を粘膜領域の平均R値と比較し、粘膜領域の平均R値と等しい、又は粘膜領域の平均R値の所定範囲内(例えば数10%以内)である平均R値を有する絨毛モデルを選択する。この条件に合う絨毛モデルを格納していない場合、絨毛生成部121aは、粘膜領域の平均R値に対して最も近い平均R値を有する絨毛モデルを選択しても良い。
続いて、絨毛生成部121aは、選択した絨毛モデルにおけるR値のヒストグラムを作成し、絨毛モデルにおけるR値の中央値が粘膜領域におけるR値の中央値と等しくなるようにヒストグラムを係数倍することにより、絨毛モデルにおけるR値を調整する。そして、R値を調整した絨毛モデルを粘膜領域に貼り付ける。
絨毛生成部121aは、同様の手法により、絨毛モデルにおけるG値、B値、R/G値、R/B値等を調整しても良い。
(1−5)粘膜領域の密度を考慮する場合
絨毛生成部121aは、まず、粘膜領域に対してフーリエ変換を行うことにより、粘膜領域の画像を周波数空間の画像に変換し、周波数分布に基づいて周波数を取得する。取得する周波数は、例えば、強度が最大の周波数でも良いし、強度が最低の周波数でも良い。或いは、周波数分布の中央値であっても良い。絨毛生成部121aは、取得した粘膜領域の周波数に対して周波数が所定範囲内である絨毛モデルを選択する。或いは、粘膜領域の周波数に対して周波数が最も近い絨毛モデルを選択しても良い。
絨毛生成部121aは、選択した絨毛モデルに複数の絨毛の画像が含まれる場合、選択した絨毛モデルをそのまま粘膜領域に貼り付ける。一方、選択した絨毛モデルに絨毛の画像が1つしか含まれない場合、この絨毛モデルを複製し、粘膜領域の周波数と近くなるように絨毛モデルの配置間隔を調整して粘膜領域に貼り付ける。
絨毛生成部121aは、上記(1−1)〜(1−5)の手法を単独で実行しても良いし、適宜組み合わせて実行しても良い。一例として、粘膜と内視鏡との位置関係を考慮して選択した絨毛モデルを、粘膜領域の奥行に合わせて拡大又は縮小したり、粘膜領域の色や明るさに合わせて絨毛モデルの色や明るさを調整したりしても良い。
複数の手法を組み合わせる場合や、異なる手法により選択された複数の絨毛モデルを同じ粘膜領域に貼り付ける場合には、絨毛モデルを粘膜領域に貼り付けた後、さらに平滑化処理等を追加することで、絨毛モデルと粘膜領域との境界における違和感を低減させることができる。図4は、図3に示す粘膜領域に絨毛モデルを貼り付けることにより生成した新たな画像を示す模式図である。
また、血管生成部121bは、粘膜領域に血管モデルを貼り付けることにより、粘膜領域に血管領域が合成された新たな画像を生成する。詳細には、血管生成部121bは、予め格納している血管モデルの中からいずれかの血管モデルを選択して粘膜領域に貼り付ける。或いは、粘膜領域に絨毛領域が合成された画像(図4参照)に対して、さらに血管モデルを貼り付けても良い。
血管モデルの選択方法としては、複数の血管モデルを表示部40(図1参照)に表示するなどしてユーザに任意の血管モデルを選択させても良いし、血管生成部121bがランダムに選択しても良い。或いは、以下に説明するように、粘膜領域の表面性状に応じて血管生成部121bが血管モデルを適宜選択しても良い。以下、粘膜領域の表面性状に応じた血管モデルの選択方法及び調整方法を説明する。
(2−1)粘膜と内視鏡に設けられた撮像素子との位置関係を考慮する場合
血管生成部121bは、まず、粘膜と内視鏡に設けられた撮像素子との位置関係を取得する。粘膜と内視鏡の撮像素子との位置関係は、粘膜領域を構成する各画素のR値から血管領域を抽出し、この血管領域のエッジから算出される血管の太さをもとに判断することができる。即ち、血管の一端と他端との太さの比が所定範囲内である場合、粘膜に対して内視鏡が正面を向いていると判断され、血管の一端と他端との太さの比が所定範囲を超えている場合、粘膜に対して内視鏡の撮像素子が斜めを向いていると判断される。或いは、管腔内画像を撮像した内視鏡に加速度センサが設けられ、この加速度センサの検出値が画像付帯情報として管腔内画像に付帯されている場合には、この画像付帯情報に基づいて粘膜と内視鏡との位置関係を取得しても良い。
粘膜に対して内視鏡の撮像素子が正面に近い方向を向いている場合、血管の太さは粘膜領域において大きくは変化しない。そのため、血管生成部121bは、太さが一様な血管モデルを選択して粘膜領域に貼り付ける。
一方、粘膜に対して内視鏡の撮像素子が斜めを向いている場合、血管の太さは粘膜領域において大きく変化することがある。そのため、血管生成部121bは、太さが一様でない血管モデルを選択する。さらに、血管生成部121bは、粘膜と内視鏡の撮像素子との位置関係を判定する際に抽出した血管領域のエッジから血管の一端と他端との太さの比を算出し、血管の一端と他端との太さの比が類似するように血管モデルを回転させた上で粘膜領域に貼り付ける。具体例として、血管の太さが画面の左から右に向かって細くなっている場合、血管モデルも画面の左から右に向かって細くなるように回転させた上で粘膜領域に貼り付ける。
(2−2)粘膜領域の奥行を考慮する場合
血管生成部121bは、まず、上記(1−2)と同様にして管腔内画像における粘膜領域の奥行を判断する。奥行が深い場合、血管は細く写り、奥行が浅い場合、血管は太く写るため、血管生成部121bは、粘膜領域の奥行に応じた太さの血管モデルを選択する。或いは、血管生成部121bは、任意に選択した血管モデルを、粘膜領域の奥行に応じて拡大又は縮小しても良い。具体的には、奥行が深い場合には血管モデルを縮小し、奥行が浅い場合には血管モデルを拡大する。この際の血管モデルの拡大率又は縮小率は、粘膜領域から抽出される血管領域のエッジをもとに算出した血管の太さに基づいて、粘膜領域に存在する血管領域の太さと、血管モデルの太さとが近い値となるように決定する。
(2−3)血管の明るさを考慮する場合
血管生成部121bは、まず、粘膜領域内の血管領域を構成する各画素の画素値から輝度を算出し、さらに、各画素の輝度の平均値(平均輝度値)を算出する。そして、血管生成部121bは、予め格納している血管モデルの平均輝度値を血管領域の平均輝度値と比較し、血管領域の平均輝度値と等しい、又は血管領域の平均輝度値の所定範囲内(例えば±数10%以内)である平均輝度値を有する血管モデルを選択する。この条件に合う血管モデルを格納していない場合、血管生成部121bは、血管領域の平均輝度値に対して最も近い平均輝度値を有する血管モデルを選択しても良い。
続いて、血管生成部121bは、粘膜領域内において、血管モデルを貼り付ける領域とその周辺の血管領域との間で輝度の差が大きくなり過ぎないように、血管モデルの輝度を変更する。具体的には、周辺の血管領域の輝度が高い領域に対しては、血管モデルの輝度を高く調整した上で、血管モデルを貼り付ける。反対に、周辺の血管領域の輝度が低い領域に対しては、血管モデルの輝度を低く調整した上で、血管モデルを貼り付ける。
(2−4)血管領域の色を考慮する場合
血管生成部121bは、まず、粘膜領域内の血管領域を構成する各画素の画素値のうちのR値を抽出し、各画素のR値の平均値(平均R値)を算出する。血管生成部121bは、予め格納している血管モデルの平均R値を血管領域の平均R値と比較し、血管領域の平均R値と等しい、又は血管領域の平均R値の所定範囲内(例えば数10%以内)である平均R値を有する血管モデルを選択する。この条件に合う血管モデルを格納していない場合、血管生成部121bは、血管領域の平均R値に対して最も近い平均R値を有する血管モデルを選択しても良い。
続いて、血管生成部121bは、選択した血管モデルにおけるR値のヒストグラムを作成し、血管モデルにおけるR値の中央値が血管領域におけるR値の中央値と等しくなるようにヒストグラムを係数倍することにより、血管モデルにおけるR値を調整する。そして、R値を調整した血管モデルを粘膜領域に貼り付ける。
血管生成部121bは、同様の手法により、血管モデルにおけるG値、B値、R/G値、R/B値等を調整しても良い。
(2−5)血管領域の密度を考慮する場合
血管生成部121bは、まず、粘膜領域内の血管領域のエッジを抽出することにより、血管領域同士のピッチを算出する。そして、複数の血管モデルの中から、血管領域同士のピッチの所定範囲内(例えば数10%以内)であるピッチを有する血管モデルを選択する。上記所定範囲内であるピッチを有する血管モデルが血管生成部121bに格納されていない場合には、血管生成部121bが格納する血管モデルのうち、血管領域同士のピッチに最も近いピッチを有する血管モデルを選択する。
血管生成部121bは、選択した血管モデルに複数の血管が含まれる場合、選択した血管モデルをそのまま粘膜領域に貼り付ける。一方、選択した血管モデルに血管が1つしか含まれていない場合、血管モデルを複製し、血管領域同士の間隔と近くなるように血管モデルの配置間隔を調整して粘膜領域に貼り付ける。
(2−6)血管の形状を考慮する場合、
血管生成部121bは、血管の形状、即ち、血管の分岐数や太さや長さに基づいて血管モデルを選択又は調整しても良い。詳細には、血管生成部121bは、粘膜領域内の血管領域からエッジを抽出し、抽出したエッジ同士の交点をカウントする。この交点の数が血管の分岐数である。血管生成部121bは、任意に選択した血管モデルにおけるエッジと粘膜領域内の血管領域から抽出したエッジとが交差するように血管モデルを粘膜領域に貼り付けることにより、分岐数を増加させる。
或いは、血管生成部121bは、粘膜領域内の血管領域を、周囲の画素の画素値を用いて埋めることにより、分岐数を減少させても良い。
また、血管生成部121bは、粘膜領域内の血管領域から抽出したエッジをもとに血管領域の太さを算出し、この太さと異なる太さの血管モデルを選択して粘膜領域に貼り付ける。それにより、粘膜領域内の血管領域の太さを変化させることができる。
また、血管生成部121bは、粘膜領域内の血管領域から抽出したエッジをもとに血管領域の長さを算出し、この長さと異なる長さの血管モデルを選択して粘膜領域に貼り付ける。それにより、粘膜領域内の血管領域の長さを変化させることができる。
血管生成部121bは、上記(2−1)〜(2−6)の手法を単独で実行しても良いし、適宜組み合わせて実行しても良い。一例として、血管領域の色を考慮して選択された血管モデルを、粘膜領域の奥行に合わせて拡大又は縮小しても良い。複数の手法を組み合わせる場合や、異なる手法により選択された複数の血管モデルを同じ粘膜領域に貼り付ける場合には、血管モデルを粘膜領域に貼り付けた後、さらに平滑化処理等を追加することで、血管モデルと粘膜領域との境界における違和感を低減させることができる。図5は、図4に示す画像に対し、さらに血管モデルを貼り付けることにより生成した新たな画像を示す模式図である。
再び図2を参照すると、ステップS13に続くステップS14において、画像生成部120は、新たに生成した画像を出力し、学習サンプルとして記憶部50に記憶させる。その後、演算部100の動作は終了する。
以上説明したように、本発明の実施の形態1によれば、管腔内画像から抽出した粘膜領域に対し、粘膜領域の表面性状に基づいて選択及び調整された絨毛モデルや血管モデルを貼り付けることにより新たな画像を生成するので、管腔内の状態を適切に反映した学習サンプルを得ることができる。
(実施の形態2)
次に、本発明の実施の形態2について説明する。図6は、本発明の実施の形態2に係る画像処理装置が備える演算部の構成を示すブロック図である。本実施の形態2に係る画像処理装置は、図1に示す演算部100の代わりに、図6に示す演算部200を備える。演算部200以外の画像処理装置の各部の構成及び動作は、実施の形態1と同様である。
演算部200は、粘膜領域抽出部110及び画像生成部120に加えて、画像生成部120が生成した新たな画像を用いて管腔内画像内の領域を識別するための識別基準を作成する識別基準作成部210を備える。このうち、粘膜領域抽出部110及び画像生成部120の構成及び動作は実施の形態1と同様である。
識別基準作成部210は、病変や病変と疑われる病変候補など、正常な粘膜とは異なる特定の特徴を有する領域を異常領域として、粘膜領域から識別するための基準を作成する。識別基準作成部210は、管腔内画像から抽出された粘膜領域から算出された特徴量と、画像生成部120が生成した新たな画像から算出された特徴量とに対して異なる重みを設定する重み設定部211を有する。
次に、演算部200の動作について説明する。図7は、演算部200の動作を示すフローチャートである。なお、図7のステップS10〜S14は全体として実施の形態1と同様であるが、ステップS11において抽出された粘膜領域を記憶部50に記憶する際には、もとの粘膜領域である旨を示すフラグを付加すると共に、ステップS13において生成された画像を記憶部50に記憶する際には、新たに生成された画像であることを示すフラグを付加しておく。以下、ステップS13において生成された画像を生成画像ともいう。
ステップS14に続くステップS21において、識別基準作成部210は、ステップS11において抽出された粘膜領域と、ステップS13において生成された生成画像とを記憶部50から読み出し、粘膜領域及び生成画像に基づいて識別基準を作成する。
図8は、ステップS21における識別基準の作成処理を示すフローチャートである。まず、ステップS211において、識別基準作成部210は、粘膜領域及び生成画像の特徴量として、色特徴量、形状特徴量、テクスチャ特徴量を算出する。各特徴量の種類については、ステップS11において説明したものと同様である。
続くステップS212において、重み設定部211は、管腔内画像から抽出された粘膜領域及び生成画像からそれぞれ算出された特徴量に対して重みを設定する。詳細には、重み設定部211は、粘膜領域及び生成画像に付加されたフラグをもとに、粘膜領域と生成画像とを判別し、粘膜領域の特徴量に与えられる重みの方が生成画像の特徴量に与えられる重みよりも大きくなるように、それぞれの重みを設定する。粘膜領域は、管腔内画像から抽出された実際の粘膜を写したものであるから信頼度が高く、それに対して、生成画像は、様々な仮定をもとにモデルから作成したものであるから粘膜領域よりも相対的に信頼度が低いためである。
続くステップS213において、識別基準作成部210は、ステップS211において算出した特徴量に対してステップS212において設定した重みを掛けあわせた上で特徴量分布を作成し、この特徴量分布に基づき、サポートベクターマシン(SVM)等の学習器を用いて識別基準を作成する。この際、ステップS212において設定された重みを、粘膜領域及び生成画像のそれぞれの特徴量に乗じて演算を行う。
ステップS21に続くステップS22において、識別基準作成部210は、作成した識別基準を出力して記憶部50に記憶させる。その後、演算部200の動作は終了する。
以上説明したように、本発明の実施の形態2によれば、管腔内画像から抽出された粘膜領域、及び粘膜領域をもとに生成された画像を学習サンプルとして用いて識別基準を作成するので、信頼性の高い識別基準を作成することができる。この際に、粘膜領域及び生成画像の特徴量に与えられる重みを変えることで、識別基準の信頼性をさらに向上させることが可能となる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。図9は、本発明の実施の形態3に係る画像処理装置が備える演算部の構成を示すブロック図である。本実施の形態3に係る画像処理装置は、図1に示す演算部100の代わりに、図9に示す演算部300を備える。演算部300以外の画像処理装置の各部の構成及び動作は、実施の形態1と同様である。
演算部300は、粘膜領域抽出部110及び画像生成部310を備える。このうち、粘膜領域抽出部110の動作は実施の形態1と同様である。
画像生成部310は、粘膜領域抽出部110が抽出した粘膜領域を加工することにより、新たな画像を生成する。より詳細には、画像生成部310は、生体の粘膜以外の被写体を表す領域、即ち非粘膜領域を生成する非粘膜領域生成部311を有する。
非粘膜領域生成部311は、粘膜領域に対し、泡領域、残渣領域、若しくは処置具が写った処置具領域等を合成することにより、新たな画像を生成する。或いは、粘膜領域に対してハレーション領域若しくは暗部領域を生成又は消去することにより、新たな画像を生成する。非粘膜領域生成部311は、泡を表す泡モデル、残渣を表す残渣モデル、及び処置具を表す処置具モデルを各々1つ以上格納している。
次に、演算部300の動作を説明する。図10は、演算部300の動作を示すフローチャートである。なお、図10のステップS10〜S12は実施の形態1と同様である。
ステップS12に続くステップS31において、画像生成部310は、粘膜領域の表面性状に基づいて、粘膜領域に非粘膜領域を合成した新たな画像を生成する。以下、新たな画像の生成処理を、非粘膜領域の種類ごとに説明する。
(3−1)粘膜領域に対して泡領域を合成する場合
非粘膜領域生成部311は、粘膜領域に泡モデルを貼り付けることにより、粘膜領域に泡領域が合成された新たな画像を生成する。詳細には、非粘膜領域生成部311は、予め格納している泡モデルの中からいずれかの泡モデルを選択して粘膜領域に貼り付ける。泡モデルの選択方法としては、複数の泡モデルを表示部40(図1参照)に表示するなどしてユーザに任意の泡モデルを選択させても良いし、非粘膜領域生成部311がランダムに選択しても良い。或いは、以下に説明するように、粘膜領域の表面性状に応じて非粘膜領域生成部311が泡モデルを適宜選択しても良い。以下、粘膜領域の表面性状に応じた泡モデルの選択方法及び調整方法を説明する。
(3−1−1)粘膜領域の奥行を考慮する場合
非粘膜領域生成部311は、まず、実施の形態1における(1−2)と同様にして管腔内画像における粘膜領域の奥行を判断する。奥行が深い場合、泡は小さく写り、奥行が浅い場合、泡は大きく写るため、非粘膜領域生成部311は、粘膜領域の奥行に応じた大きさの泡モデルを選択して粘膜領域に貼り付ける。或いは、任意に選択した泡モデルを、粘膜領域の奥行に応じて拡大又は縮小した上で粘膜領域に貼り付けても良い。
(3−1−2)粘膜領域の明るさを考慮する場合
非粘膜領域生成部311は、まず、粘膜領域を構成する各画素の画素値から輝度を算出し、さらに、各画素の輝度の平均値(平均輝度値)を算出する。そして、非粘膜領域生成部311は、予め格納している泡モデルの平均輝度値を粘膜領域の平均輝度値と比較し、粘膜領域の平均輝度値と等しい、又は粘膜領域の平均輝度値の所定範囲内(例えば±数10%以内)である平均輝度値を有する泡モデルを選択する。この条件に合う泡モデルを格納していない場合、非粘膜領域生成部311は、粘膜領域の平均輝度値に対して最も近い平均輝度値を有する泡モデルを選択しても良い。
続いて、非粘膜領域生成部311は、粘膜領域内において、泡モデルを貼り付ける領域とその周辺領域との間で輝度の差が大きくなり過ぎないように、泡モデルの輝度を調整する。具体的には、粘膜領域のうち輝度が比較的高い領域に対しては、泡モデルの輝度を高く調整した上で、泡モデルを貼り付ける。反対に、粘膜領域のうち輝度が比較的低い領域に対しては、泡モデルの輝度を低く調整した上で、泡モデルを貼り付ける。
(3−1−3)泡の密度を考慮する場合
非粘膜領域生成部311は、粘膜領域に貼り付ける泡モデルのピッチの範囲を決定する。このピッチの範囲は、所定の範囲内でランダムに決定しても良いし、ユーザに任意のピッチの範囲を入力させることとしても良い。そして、非粘膜領域生成部311は、任意に選択した泡モデルを、先に決定したピッチの範囲内に収まるように重ね合わせたり、或いは間隔を開けたりしながら粘膜領域に貼り付ける。
非粘膜領域生成部311は、上記(3−1−1)〜(3−1−3)の手法を単独で実行しても良いし、複数の手法を適宜組み合わせて実行しても良い。複数の手法を組み合わせる場合や、形状や大きさの異なる複数の泡モデルを組み合わせて使用する場合には、泡モデルを粘膜領域に貼り付けた後、さらに平滑化処理等を追加することで、泡モデルと粘膜領域との境界における違和感を低減させることができる。
(3−2)粘膜領域に対して残渣領域を合成する場合
非粘膜領域生成部311は、粘膜領域に残渣モデルを貼り付けることにより、粘膜領域に残渣モデルが合成された画像を生成する。詳細には、非粘膜領域生成部311は、予め格納している残渣モデルの中からいずれかの残渣モデルを選択して粘膜領域に貼り付ける。残渣モデルはユーザに選択させても良いし、非粘膜領域生成部311がランダムに選択しても良い。或いは、以下に説明するように、粘膜領域の表面性状に応じて非粘膜領域生成部311が残渣モデルを適宜選択しても良い。以下、粘膜領域の表面性状に応じた残渣モデルの選択方法及び調整方法を説明する。
(3−2−1)粘膜領域の奥行を考慮する場合
非粘膜領域生成部311は、まず、実施の形態1における(1−2)と同様にして管腔内画像における粘膜領域の奥行を判断する。奥行が深い場合、残渣は小さく写り、奥行が浅い場合、残渣は大きく写るため、非粘膜領域生成部311は、粘膜領域の奥行に応じた大きさの残渣モデルを選択して粘膜領域に貼り付ける。或いは、任意に選択した残渣モデルを、粘膜領域の奥行に応じて拡大又は縮小した上で粘膜領域に貼り付けても良い。
(3−2−2)粘膜領域の明るさを考慮する場合
非粘膜領域生成部311は、上記(3−1−2)と同様にして粘膜領域の平均輝度値を算出する。そして、非粘膜領域生成部311は、予め格納している残渣モデルの平均輝度値を粘膜領域の平均輝度値と比較し、粘膜領域の平均輝度値と等しい、又は粘膜領域の平均輝度値の所定範囲内(例えば±数10%以内)である平均輝度値を有する残渣モデルを選択する。この条件に合う残渣モデルを格納していない場合、非粘膜領域生成部311は、粘膜領域の平均輝度値に対して最も近い平均輝度値を有する残渣モデルを選択しても良い。
続いて、非粘膜領域生成部311は、粘膜領域内において、残渣モデルを貼り付ける領域とその周辺領域との間で輝度の差が大きくなり過ぎないように、残渣モデルの輝度を調整する。具体的には、粘膜領域のうち輝度が比較的高い領域に対しては、残渣モデルの輝度を高く調整した上で、残渣モデルを貼り付ける。反対に、粘膜領域のうち輝度が比較的低い領域に対しては、残渣モデルの輝度を低く調整した上で、残渣モデルを貼り付ける。
(3−2−3)残渣の密度を考慮する場合
非粘膜領域生成部311は、粘膜領域に貼り付ける残渣モデルのピッチの範囲を決定する。このピッチの範囲は、所定の範囲内でランダムに決定しても良いし、ユーザに任意のピッチの範囲を入力させることとしても良い。そして、非粘膜領域生成部311は、任意に選択した残渣モデルを、先に決定したピッチの範囲内に収まるように重ね合わせたり、或いは間隔を開けたりしながら粘膜領域に貼り付ける。
非粘膜領域生成部311は、上記(3−2−1)〜(3−2−3)の手法を単独で実行しても良いし、複数の手法を適宜組み合わせて実行しても良い。複数の手法を組み合わせる場合や、形状や大きさの異なる複数の残渣モデルを組み合わせて使用する場合には、残渣モデルを粘膜領域に貼り付けた後、さらに平滑化処理等を追加することで、残渣モデルと粘膜領域との境界における違和感を低減させることができる。
(3−3−1)粘膜領域にハレーション領域を生成する場合
非粘膜領域生成部311は、粘膜領域上でハレーション領域を生成する領域を決定する。ハレーション領域を生成する領域は、非粘膜領域生成部311がランダムに決定しても良いし、粘膜領域を表示部40に表示してユーザに指定させても良い。非粘膜領域生成部311は、決定した領域における輝度値を所定の閾値よりも高くすることにより、当該領域をハレーション領域とする。
(3−3−2)粘膜領域からハレーション領域を消去する場合
非粘膜領域生成部311は、粘膜領域からハレーション領域を抽出する。詳細には、粘膜領域を構成する各画素の画素値から輝度値を算出し、輝度値が所定の閾値よりも高い領域をハレーション領域として判断する。或いは、粘膜領域を表示部40に表示して、ハレーション領域をユーザに指定させることとしても良い。非粘膜領域生成部311は、ハレーション領域の周囲の画素の画素値を用いて当該ハレーション領域を補間することにより、ハレーション領域を消去する。
なお、非粘膜領域生成部311は、(3−3−1)及び(3−3−2)において説明したハレーション領域の生成及び消去のうちのいずれか一方を単独で実行しても良いし、両者を組み合わせて実行しても良い。
(3−4−1)粘膜領域に暗部領域を生成する場合
非粘膜領域生成部311は、粘膜領域上で暗部領域を生成する領域を決定する。暗部領域を生成する領域は、非粘膜領域生成部311がランダムに決定しても良いし、粘膜領域を表示部40に表示してユーザに指定させても良い。非粘膜領域生成部311は、決定した領域における輝度値を所定の閾値よりも低くすることにより、当該領域を暗部領域とする。
(3−4−2)粘膜領域から暗部領域を消去する場合
非粘膜領域生成部311は、粘膜領域から暗部領域を抽出する。詳細には、粘膜領域を構成する各画素の画素値から輝度値を算出し、輝度値が所定の閾値よりも低い領域を暗部領域として判断する。或いは、粘膜領域を表示部40に表示して、暗部領域をユーザに指定させることとしても良い。非粘膜領域生成部311は、暗部領域の周囲の画素の画素値を用いて当該暗部領域を補間することにより、暗部領域を消去する。
なお、非粘膜領域生成部311は、(3−4−1)及び(3−4−2)において説明した暗部領域の合成及び消去のうちのいずれか一方を単独で実行しても良いし、両者を組み合わせて実行しても良い。
(3−5)粘膜領域に処置具領域を合成する場合
非粘膜領域生成部311は、粘膜領域に処置具モデルを貼り付けることにより、粘膜領域に処置具領域が合成された新たな画像を生成する。詳細には、非粘膜領域生成部311は、予め格納している処置具モデルの中からいずれかの処置具モデルを選択して粘膜領域に貼り付ける。処置具モデルの選択方法としては、複数の処置具モデルを表示部40に表示するなどしてユーザに任意の処置具モデルを選択させても良いし、非粘膜領域生成部311がランダムに選択しても良い。或いは、以下に説明するように、粘膜領域の表面性状に応じて非粘膜領域生成部311が処置具モデルを適宜選択しても良い。以下、粘膜領域の表面性状に応じた処置具モデルの選択方法及び調整方法を説明する。
(3−5−1)粘膜領域の奥行を考慮する場合
非粘膜領域生成部311は、まず、実施の形態1における(1−2)と同様にして管腔内画像における粘膜領域の奥行を判断する。奥行が深い場合、処置具は小さく写り、奥行が浅い場合、処置具は大きく写るため、非粘膜領域生成部311は、粘膜領域の奥行に応じた大きさの処置具モデルを選択して粘膜領域に貼り付ける。或いは、任意に選択した処置具モデルを、粘膜領域の奥行に応じて拡大又は縮小した上で粘膜領域に貼り付けても良い。
(3−5−2)粘膜領域の明るさを考慮する場合
非粘膜領域生成部311は、上記(3−1−2)と同様にして粘膜領域の平均輝度値を算出する。そして、非粘膜領域生成部311は、予め格納している処置具モデルの平均輝度値を粘膜領域の平均輝度値と比較し、粘膜領域の平均輝度値と等しい、又は粘膜領域の平均輝度値の所定範囲内(例えば±数10%以内)である平均輝度値を有する処置具モデルを選択する。この条件に合う処置具モデルを格納していない場合、非粘膜領域生成部311は、粘膜領域の平均輝度値に対して最も近い平均輝度値を有する処置具モデルを選択しても良い。
続いて、非粘膜領域生成部311は、粘膜領域内において、処置具モデルを貼り付ける領域とその周辺領域との間で輝度の差が大きくなり過ぎないように、処置具モデルの輝度を調整する。具体的には、粘膜領域のうち輝度が比較的高い領域に対しては、処置具モデルの輝度を高く調整した上で、処置具モデルを貼り付ける。反対に、粘膜領域のうち輝度が比較的低い領域に対しては、処置具モデルの輝度を低く調整した上で、処置具モデルを貼り付ける。
非粘膜領域生成部311は、上記(3−5−1)及び(3−5−2)の手法を単独で実行しても良いし、複数の手法を適宜組み合わせて実行しても良い。複数の手法を組み合わせる場合や、形状や大きさの異なる複数の処置具モデルを組み合わせて使用する場合には、処置具モデルを粘膜領域に貼り付けた後、さらに平滑化処理等を追加することで、処置具モデルと粘膜領域との境界における違和感を低減させることができる。
ステップS31に続くステップS32において、画像生成部310は、新たに生成した画像を出力し、学習サンプルとして記憶部50に記憶させる。その後、演算部300の動作は終了する。
以上説明したように、本発明の実施の形態3によれば、管腔内画像から抽出した粘膜領域に対し、粘膜領域の表面性状に基づいて選択及び調整された泡モデル、残渣モデル、処置具モデルを貼り付ける、或いは、粘膜領域に対してハレーション領域又は暗部領域を生成又は消去することにより新たな画像を生成するので、管腔内の状態を適切に反映した学習サンプルを得ることができる。
(実施の形態4)
次に、本発明の実施の形態4について説明する。図11は、本発明の実施の形態4に係る画像処理装置が備える演算部の構成を示すブロック図である。本実施の形態4に係る画像処理装置は、図1に示す演算部100の代わりに、図11に示す演算部400を備える。演算部400以外の画像処理装置の各部の構成及び動作は、実施の形態1と同様である。
演算部400は、粘膜領域抽出部110及び画像生成部120に加えて、粘膜領域の属性を判定する粘膜領域属性判定部410と、粘膜領域の属性に基づいて新たな画像の生成方法を決定する生成方法決定部420とを備える。なお、粘膜領域抽出部110及び画像生成部120の構成及び動作は実施の形態1と同様である。
ここで、粘膜領域の属性には、粘膜領域内に正常な粘膜とは異なる特徴を有する異常領域が存在するか否か、異常領域が存在する場合にはその異常領域の種類、当該粘膜領域が位置する臓器の種類、粘膜領域が観察に適さない不要領域であるか否かいった特徴や性質が含まれる。このうち、観察に適さない不要領域とは、画像がボケているボケ領域や、画像に色ズレが生じている色ズレ領域のことである。
詳細には、粘膜領域属性判定部410は、粘膜領域から異常領域を抽出する異常領域抽出部411と、抽出された異常領域の種類を推定する異常種類推定部412と、当該粘膜領域が位置する臓器の種類を判別する臓器判別部413と、粘膜領域が観察に適さない不要領域であるか否かを判定する不要領域判定部414とを備える。
生成方法決定部420は、粘膜領域属性判定部410の判定結果、即ち粘膜領域の属性に基づいて、新たに生成する画像の数を決定する生成数決定部421を備える。
次に、演算部400の動作を説明する。図12は、演算部400の動作を示すフローチャートである。なお、図12のステップS10、S11は、実施の形態1と同様である。
ステップS11に続くステップS41において、粘膜領域属性判定部410は、ステップS11において抽出された粘膜領域の属性を判定する。図13は、粘膜領域の属性の判定処理を示すフローチャートである。
ステップS411において、異常領域抽出部411は、粘膜領域から異常領域を抽出する。詳細には、異常領域抽出部411は、まず、粘膜領域を構成する各画素の画素値をもとに色特徴量を算出し、予め作成されている正常な粘膜領域の識別基準を用いて閾値処理を行うことにより、正常な粘膜の特徴を有する粘膜領域を正常領域として抽出し、正常領域以外の粘膜領域を異常領域として抽出する。色特徴量としては、画素値のうちのR値、G値、B値や、これらの値をもとに2次的に算出される値、具体的には、G/R値又はB/G値等の色比、色相、彩度、明度、色差等が挙げられる。また、識別基準は、事前に収集された異常領域の色特徴量に基づいて作成されたものである。
続くステップS412において、異常種類推定部412は、ステップS411において抽出された異常領域の各々に対し、異常領域の種類を推定する。詳細には、まず、異常種類推定部412は、各異常領域について色特徴量、形状特徴量、及びテクスチャ特徴量を算出し、予め異常領域の種類別に作成されている判別基準を用いてこれらの特徴量を判別する。色特徴量としては、ステップS411において列挙した色特徴量等が用いられる。また、形状特徴量としては、異常領域の面積(画素数)、周囲長、水平フェレ径又は垂直フェレ径を含むフェレ径、HOG特徴量、SIFT特徴量等が用いられる。テクスチャ特徴量としては、LBP等が挙げられる。また、異常領域の判別基準は、種類別に事前に収集された異常領域の特徴量分布から確率密度関数を作成することにより求められる。異常種類推定部412は、種類別に作成された判別基準を用いて、各異常領域を出血、潰瘍、腫瘍、絨毛異常のいずれかとして推定する。
続くステップS413において、臓器判別部413は、粘膜領域が位置する臓器の種類を判別する。詳細には、臓器判別部413は、当該粘膜領域が抽出された管腔内画像の平均R値、平均G値、及び平均B値を算出し、これらの値に基づいて、管腔内画像が撮像された臓器が、食道、胃、小腸、大腸のいずれかであるかを判別する。
具体的には、臓器判別部413は、管腔内画像の平均R値、平均G値、及び平均B値が、食道、胃、小腸、大腸のそれぞれについて予め設定されているR、G、Bの各色要素のいずれの範囲内に含まれるかを判別する。例えば、管腔内画像の平均R値、平均G値、及び平均B値が食道のR、G、Bの各色要素の範囲内である場合、臓器判別部413は、判別対象の粘膜領域は食道に位置すると判別する。胃、小腸、大腸についても同様である(参考:特開2006−288612号公報)。
続くステップS414において、不要領域判定部414は、当該粘膜領域が観察に適さない不要領域であるか否か、具体的には、粘膜領域がボケているか否か又は粘膜領域に色ズレが生じているか否かを判定する。
粘膜領域がボケているか否かの判定は次のように行われる。即ち、不要領域判定部414は、粘膜領域に対してソーベル(sobel)フィルタ、ラプラシアン(Laplacian)フィルタ等の処理を施すことにより、粘膜領域内からエッジを抽出し、粘膜領域におけるエッジ強度が所定値以下の場合、当該粘膜領域はボケていると判定する。
また、粘膜領域に色ズレが生じているか否かの判定は次のように行われる。即ち、不要領域判定部414は、粘膜領域内の注目画素におけるR、G、Bの各値と、注目画素と隣接する隣接画素におけるR、G、Bの各値との差を算出し、各値の差が閾値以下であるか否かを判定する。そして、不要領域判定部414は、R、G、Bの中の少なくとも1つにおいて、差が閾値よりも大きくなる場合に、注目画素に色ズレが生じていると判定する。このような注目画素に対する処理を粘膜領域全体について行うことにより、粘膜領域全体における色ズレを判定する。詳細には、色ズレが生じている画素数の合計が所定値以上である場合や、粘膜領域の画素数に対する色ズレが生じている画素数の割合が所定値以上である場合に、当該粘膜領域を色ズレ領域と判定する。その後、処理はメインルーチンに戻る。
ステップS41に続くステップS42において、生成数決定部421は、ステップS41において判定された異常領域の種類、臓器の種類、及び不要領域の判定結果に基づいて、新たな画像を生成する数を決定する。詳細には、以下のように決定する。
生成数決定部421は、異常領域の種類の重要度に応じて、画像の生成数を決定する。具体的には、異常領域の重要度は、絨毛異常、腫瘍、潰瘍、出血の順に高くなるため、画像の生成数も、絨毛異常、腫瘍、潰瘍、出血の順に増加させる。
また、生成数決定部421は、臓器の種類に応じて画像の生成数を決定する。具体的には、当該内視鏡検査の検査対象である臓器の種類と、判別対象の粘膜領域が位置する臓器の種類とが一致する場合に、生成する画像の数を多く設定する。なお、検査対象である臓器の種類は、入力部30によりユーザに入力させることとしても良いし、管腔内画像の関連情報として記憶部50に予め記憶させておいても良い。
また、生成数決定部421は、当該粘膜領域が不要領域である場合、画像の生成数を少なく設定する。
続くステップS43において、画像生成部120は、粘膜領域の表面性状を取得する。粘膜領域の表面性状の取得処理は、実施の形態1と同様である(図2のステップS12参照)。
続くステップS44において、画像生成部120は、粘膜領域の表面性状に基づいて、ステップS42において決定した数の画像を新たに生成する。新たな画像を生成する個別の処理は、実施の形態1と同様である(図2のステップS13参照)。
続くステップS45において、画像生成部120は、新たに生成した画像を出力し、学習サンプルとして記憶部50に記憶させる。その後、演算部400の動作は終了する。
以上説明したように、本発明の実施の形態4によれば、粘膜領域の属性に応じて、当該粘膜領域をもとに生成する画像の数を変化させるので、重要な異常領域が抽出された粘膜領域や検査対象の臓器内の粘膜領域から、より多くの学習サンプルを取得することが可能となる。
(実施の形態5)
次に、本発明の実施の形態5について説明する。図14は、本発明の実施の形態5に係る画像処理装置が備える演算部の構成を示すブロック図である。本実施の形態5に係る画像処理装置は、図1に示す演算部100の代わりに、図14に示す演算部500を備える。演算部500以外の画像処理装置の各部の構成及び動作は、実施の形態1と同様である。
演算部500は、粘膜領域抽出部110と、粘膜領域の表面性状に基づいて新たな画像を生成する画像生成部510と、粘膜領域の属性を判定する粘膜領域属性判定部520と、粘膜領域の属性に基づいて新たな画像の生成方法を決定する生成方法決定部530とを備える。このうち、粘膜領域抽出部110の動作は実施の形態1と同様である。
画像生成部510は、管腔内画像から抽出された粘膜領域に対し、該粘膜領域における色情報や形状情報やテクスチャ情報を変化させることにより微細構造を生成する微細構造生成部511を備える。詳細には、微細構造生成部511は、粘膜領域の色情報を変更する色情報変更部511aと、粘膜領域の形状情報を変更する形状情報変更部511bと、粘膜領域のテクスチャ情報を変更するテクスチャ情報変更部511cとを有する。
粘膜領域属性判定部520は、粘膜領域から異常領域を抽出する異常領域抽出部521と、抽出された異常領域の種類を推定する異常種類推定部522と、当該粘膜領域が位置する臓器の種類を判別する臓器判別部523とを備える。
生成方法決定部530は、粘膜領域属性判定部520による判定結果に基づいて、新たに生成される画像における微細構造の生成方法を決定する。生成方法決定部530は、微細構造生成部511が粘膜領域の色情報、形状情報、及びテクスチャ情報を変化させる際に、それぞれの情報にパラメータとして与えられる重みを決定する重み決定部531を備える。
次に、演算部500の動作を説明する。図15は、演算部500の動作を示すフローチャートである。なお、図15のステップS10、S11は実施の形態1と同様である(図2参照)。
ステップS11に続くステップS51において、粘膜領域属性判定部520は、ステップS11において抽出された粘膜領域の属性を判定する。詳細には、異常領域抽出部521が粘膜領域から異常領域を抽出し、異常種類推定部522がこの異常領域の種類を推定する。また、臓器判別部523が、粘膜領域が位置する臓器の種類を判別する。異常領域の抽出処理、異常領域の種類の推定処理、及び臓器の種類の判別処理は、実施の形態4と同様である(図13のステップS411〜S413参照)。
続くステップS52において、生成方法決定部530は、粘膜領域の属性に基づいて、新たな画像の生成方法を決定する。詳細には、粘膜領域における色情報、形状情報、及びテクスチャ情報を変更する際にそれぞれの情報に与えられる重みを設定する。以下、粘膜領域の属性に基づく重みの設定方法を説明する。なお、色情報、形状情報、及びテクスチャ情報にそれぞれ与えられる重みは、合計が1となるように規格化される。
(5−1−1)異常領域が出血である場合
この場合、粘膜領域の表面の微細構造に対して色情報を優先的に変更するために、色情報の重みを形状情報及びテクスチャ情報の重みよりも大きくする。なお、形状情報及びテクスチャ情報の重みは同程度であって良い。
(5−1−2)異常領域が潰瘍である場合
この場合、粘膜領域の表面の微細構造に対して色情報及び形状情報を優先的に変更するために、色情報及び形状情報の重みをテクスチャ情報の重みよりも大きくする。なお、色情報及び形状情報の重みは同程度であって良い。
(5−1−3)異常領域が腫瘍である場合
この場合、粘膜領域の表面の微細構造に対して形状情報を優先的に変更するために、形状情報の重みを色情報及びテクスチャ情報の重みよりも大きくする。なお、色情報及びテクスチャ情報の重みは同程度であって良い。
(5−1−4)異常領域が絨毛異常である場合
この場合、粘膜領域の表面の微細構造に対してテクスチャ情報を優先的に変更するために、テクスチャ情報の重みを色情報及び形状情報の重みよりも大きくする。なお、色情報及び形状情報の重みは同程度であって良い。
(5−2−1)臓器が胃である場合
この場合、粘膜領域の表面の微細構造に対して色情報を優先的に変更するために、色情報の重みを形状情報及びテクスチャ情報の重みよりも大きくする。なお、形状情報及びテクスチャ情報の重みは同程度であって良い。
(5−2−2)臓器が小腸である場合
この場合、粘膜領域の表面の微細構造に対してテクスチャ情報を優先的に変更するために、テクスチャ情報の重みを色情報及び形状情報の重みよりも大きくする。なお、色情報及び形状情報の重みは同程度であって良い。
(5−2−3)臓器が大腸である場合
この場合、粘膜領域の表面の微細構造に対して形状情報を優先的に変更するために、形状情報の重みを色情報及びテクスチャ情報の重みよりも大きくする。なお、色情報及びテクスチャ情報の重みは同程度であって良い。
重み決定部531は、異常領域の種類と臓器の種類とのいずれかに基づいて重みを決定しても良いし、異常領域の種類と臓器の種類との両方に基づいて重みを決定しても良い。後者の場合、異常領域の種類に基づいて決定した重み(上記(5−1−1)〜(5−1−4)参照)と、臓器の種類に基づいて決定した重み(上記(5−2−1)〜(5−2−3)参照)との平均値を算出すれば良い。
ステップS52に続くステップS53において、画像生成部510は、ステップS11において抽出された粘膜領域の表面性状を取得する。具体的には、粘膜領域の色情報として各画素の色相、形状情報として粘膜領域の輪郭、及びテクスチャ情報として各画素の輝度値を取得する。
続くステップS54において、微細構造生成部511は、粘膜領域の表面性状に基づいて、新たな画像をステップS52において決定した生成方法で生成する。この際、色情報、形状情報、テクスチャ情報の変更は個別に実行しても良いし、複数種類の情報の変更を組み合わせて実行しても良い。図16は、新たな画像の生成処理を示すフローチャートである。以下においては、複数種類の情報の変更を組み合わせる場合を説明する。
まず、ステップS541において、色情報変更部511aは、ステップS11において抽出された粘膜領域の色情報を変更する。詳細には、色情報変更部511aは、まず、粘膜領域を構成する各画素における色相(H値)の平均値(平均H値)を算出する。そして、この平均H値が所定の範囲内に収まるように、粘膜領域を構成する各画素のH値を所定間隔で変動させ、H値が異なる粘膜領域の画像を複数作成する。具体的には、生体の粘膜領域が取り得る色相(H値)として予め定められた範囲に対し、色情報の重みを掛けあわせた範囲内に平均H値が収まるようにする。例えば色情報の重みが0.9である場合、平均H値が変動可能な範囲は、生体の粘膜領域が取り得るH値の範囲の90%以内となる。なお、色情報の重みがゼロである場合、ステップS541は省略される。
続くステップS542において、形状情報変更部511bは、ステップS541において色情報が変更された粘膜領域の形状情報を変更する。詳細には、H値が異なる複数の粘膜領域の画像の各々に対し、アフィン変換等の公知の幾何学的な変換処理により、粘膜領域の形状を変化させた画像を複数作成する。この際、形状情報の重みに応じて、アフィン変換等における変換量を決定する。具体的には、形状情報の重みが大きいほど変換量を多くする。なお、形状情報の重みがゼロである場合、ステップS542は省略される。
続くステップS543において、テクスチャ情報変更部511cは、ステップS542において形状情報が変更された粘膜領域のテクスチャ情報を変更する。詳細には、H値や形状が異なる粘膜領域の画像の各々に対し、粘膜領域に先鋭化フィルタや平滑化フィルタ等のフィルタ処理を施すことにより、粘膜表面のテクスチャを変化させた複数の画像を作成する。この際、テクスチャ情報の重みに応じて、フィルタ処理におけるパラメータを決定する。具体的には、テクスチャ情報の重みが大きいほど、極端な先鋭化や、極端な平滑化が許容されるようにパラメータを決定する。なお、テクスチャ情報の重みがゼロである場合、ステップS543は省略される。その後、処理はメインルーチンに戻る。
ステップS54に続くステップS55において、画像生成部510は、新たに生成した画像を出力し、学習サンプルとして記憶部50に記憶させる。その後、演算部500の動作は終了する。
以上説明したように、本発明の実施の形態5によれば、粘膜領域の属性に応じて、粘膜領域の色情報、形状情報、及びテクスチャ情報を変更することにより新たな画像を生成するので、粘膜領域の状態を適切に反映した学習サンプルを得ることができる。
以上説明した実施の形態1〜5は、記憶装置に記憶された画像処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータシステムで実行することによって実現することができる。また、このようなコンピュータシステムを、ローカルエリアネットワーク(LAN)、広域エリアネットワーク(WAN)、又は、インターネット等の公衆回線を介して、他のコンピュータシステムやサーバ等の機器に接続して使用しても良い。この場合、実施の形態1〜5に係る画像処理装置は、これらのネットワークを介して管腔内画像の画像データを取得したり、これらのネットワークを介して接続された種々の出力機器(ビュアーやプリンタ等)に画像処理結果を出力したり、これらのネットワークを介して接続された記憶装置(記憶媒体及びその読取装置等)に画像処理結果を格納するようにしても良い。
本発明は、実施の形態1〜5に限定されるものではなく、各実施の形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。
1 画像処理装置
10 制御部
20 画像取得部
30 入力部
40 表示部
50 記憶部
51 プログラム記憶部
100、200、300、400、500 演算部
110 粘膜領域抽出部
120、310、510 画像生成部
121、511 微細構造生成部
121a 絨毛生成部
121b 血管生成部
210 識別基準作成部
211 重み設定部
311 非粘膜領域生成部
410、520 粘膜領域属性判定部
411、521 異常領域抽出部
412、522 異常種類推定部
413、523 臓器判別部
414 不要領域判定部
420、530 生成方法決定部
421 生成数決定部
511a 色情報変更部
511b 形状情報変更部
511c テクスチャ情報変更部
531 重み決定部

Claims (20)

  1. 生体の管腔内を撮像した管腔内画像から粘膜領域を抽出する粘膜領域抽出部と、
    前記粘膜領域の表面性状を取得し、該表面性状に基づいて前記管腔内画像における前記粘膜領域を加工することにより、前記管腔内画像とは異なる画像を生成する画像生成部と、
    を備えることを特徴とする画像処理装置。
  2. 前記粘膜領域抽出部が抽出した前記粘膜領域と、前記画像生成部が生成した前記画像とを構成する各画素の特徴量を算出し、該特徴量に基づいて、前記粘膜領域が特定の特徴を有するか否かを識別するための識別基準を作成する識別基準作成部をさらに備える、ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記識別基準作成部は、前記粘膜領域及び前記画像からそれぞれ算出された前記特徴量に対して重みを設定する重み設定部を備え、前記重み設定部により設定された重みが与えられた前記特徴量に基づいて前記識別基準を作成する、ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記画像生成部は、前記粘膜領域に対し、生体の粘膜における微細構造を表す領域を合成することにより前記画像を生成する、ことを特徴とする請求項1に記載の画像処理装置。
  5. 前記微細構造を表す領域は、絨毛領域と血管領域とのうちの少なくともいずれかである、ことを特徴とする請求項4に記載の画像処理装置。
  6. 前記画像生成部は、前記粘膜領域に対し、生体の粘膜以外の被写体を表す領域を合成することにより前記画像を生成する、ことを特徴とする請求項1に記載の画像処理装置。
  7. 前記粘膜領域の属性を判定する粘膜領域属性判定部と、
    前記粘膜領域属性判定部が判定した前記粘膜領域の属性に応じて、前記画像生成部が実行する前記画像の生成方法を決定する生成方法決定部と、
    をさらに備えることを特徴とする請求項1に記載の画像処理装置。
  8. 前記粘膜領域属性判定部は、
    前記粘膜領域から特定の特徴を有する領域を正常領域として抽出し、該正常領域以外の前記粘膜領域を異常領域として抽出する異常領域抽出部と、
    前記異常領域の種類を推定する異常領域推定部と、
    を備える、ことを特徴とする請求項7に記載の画像処理装置。
  9. 前記粘膜領域属性判定部は、前記粘膜領域が位置する臓器の種類を判別する臓器判別部を備える、ことを特徴とする請求項7に記載の画像処理装置。
  10. 前記粘膜領域属性判定部は、前記粘膜領域が観察に適さない不要領域であるか否かを判定する不要領域判定部を備える、ことを特徴とする請求項7に記載の画像処理装置。
  11. 前記生成方法決定部は、前記粘膜領域の属性に応じて、前記画像生成部が生成する前記画像の数を決定する、ことを特徴とする請求項7に記載の画像処理装置。
  12. 前記粘膜領域属性判定部は、
    前記粘膜領域から特定の特徴を有する領域を正常領域として抽出し、該正常領域以外の前記粘膜領域を異常領域として抽出する異常領域抽出部と、
    前記異常領域の種類を推定する異常領域推定部と、
    を備え、
    前記生成方法決定部は、前記異常特徴の種類に応じて前記画像の数を決定する、
    ことを特徴とする請求項11に記載の画像処理装置。
  13. 前記粘膜領域属性判定部は、前記粘膜領域が位置する臓器の種類を判別する臓器判別部を備え、
    前記生成方法決定部は、前記臓器の種類に応じて前記画像の数を決定する、
    ことを特徴とする請求項11に記載の画像処理装置。
  14. 前記粘膜領域属性判定部は、前記粘膜領域が観察に適さない不要領域であるか否かを判定する不要領域判定部を備え、
    前記生成方法決定部は、前記粘膜領域が前記不要領域であるか否かに応じて前記画像の数を決定する、
    ことを特徴とする請求項11に記載の画像処理装置。
  15. 前記画像生成部は、前記粘膜領域における色情報、形状情報、及びテクスチャ情報のうちの少なくともいずれかを変化させることにより前記画像を生成し、
    前記生成方法決定部は、前記粘膜領域属性判定部が判定した前記粘膜領域の属性に応じて、前記色情報、前記形状情報、及び前記テクスチャ情報のうちの少なくともいずれかの変化のさせ方を決定する、
    ことを特徴とする請求項7に記載の画像処理装置。
  16. 前記生成方法決定部は、前記粘膜領域の属性に応じて、前記色情報、前記形状情報、及び前記テクスチャ情報を変化させる際にそれぞれに与えられる重みを決定する、ことを特徴とする請求項15に記載の画像処理装置。
  17. 前記粘膜領域属性判定部は、
    前記粘膜領域から、特定の特徴を有する領域を異常領域として抽出する異常領域抽出部と、
    前記特定の特徴の種類を推定する異常領域推定部と、
    を備え、
    前記生成方法決定部は、前記特定の特徴の種類に応じて前記重みを決定する、
    ことを特徴とする請求項16に記載の画像処理装置。
  18. 前記粘膜領域属性判定部は、前記粘膜領域が位置する臓器の種類を判別する臓器判別部を備え、
    前記生成方法決定部は、前記臓器の種類に応じて前記重みを決定する、
    ことを特徴とする請求項16に記載の画像処理装置。
  19. 生体の管腔内を撮像した管腔内画像から粘膜領域を抽出する粘膜領域抽出ステップと、
    前記粘膜領域の表面性状を取得し、該表面性状に基づいて前記管腔内画像における前記粘膜領域を加工することにより、前記管腔内画像とは異なる画像を生成する画像生成ステップと、
    を含むことを特徴とする画像処理方法。
  20. 生体の管腔内を撮像した管腔内画像から粘膜領域を抽出する粘膜領域抽出ステップと、
    前記粘膜領域の表面性状を取得し、該表面性状に基づいて前記管腔内画像における前記粘膜領域を加工することにより、前記管腔内画像とは異なる画像を生成する画像生成ステップと、
    をコンピュータに実行させることを特徴とする画像処理プログラム。
JP2017524509A 2015-06-24 2015-06-24 画像処理装置、画像処理方法、及び画像処理プログラム Pending JPWO2016208016A1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/068264 WO2016208016A1 (ja) 2015-06-24 2015-06-24 画像処理装置、画像処理方法、及び画像処理プログラム

Publications (1)

Publication Number Publication Date
JPWO2016208016A1 true JPWO2016208016A1 (ja) 2018-04-05

Family

ID=57586285

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017524509A Pending JPWO2016208016A1 (ja) 2015-06-24 2015-06-24 画像処理装置、画像処理方法、及び画像処理プログラム

Country Status (2)

Country Link
JP (1) JPWO2016208016A1 (ja)
WO (1) WO2016208016A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019012623A1 (ja) * 2017-07-12 2019-01-17 オリンパス株式会社 画像処理装置、光走査型観察システムおよび画像処理方法
WO2020017211A1 (ja) * 2018-07-20 2020-01-23 富士フイルム株式会社 医用画像学習装置、医用画像学習方法、及びプログラム
JP7162744B2 (ja) * 2019-08-16 2022-10-28 Hoya株式会社 内視鏡用プロセッサ、内視鏡システム、情報処理装置、プログラム及び情報処理方法
JP7116849B2 (ja) * 2019-08-16 2022-08-10 Hoya株式会社 内視鏡用プロセッサ、内視鏡システム、情報処理装置、プログラム及び情報処理方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006166939A (ja) * 2004-12-10 2006-06-29 Olympus Corp 画像処理方法
JP2012143340A (ja) * 2011-01-11 2012-08-02 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
JP2013099509A (ja) * 2011-10-12 2013-05-23 Fujifilm Corp 内視鏡システム及び画像生成方法
JP2013240701A (ja) * 2013-08-05 2013-12-05 Olympus Corp 画像処理装置、画像処理装置の作動方法および画像処理プログラム
JP2014166298A (ja) * 2013-01-31 2014-09-11 Olympus Corp 内視鏡用画像処理装置、内視鏡装置、画像処理方法及び画像処理プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006166939A (ja) * 2004-12-10 2006-06-29 Olympus Corp 画像処理方法
JP2012143340A (ja) * 2011-01-11 2012-08-02 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
JP2013099509A (ja) * 2011-10-12 2013-05-23 Fujifilm Corp 内視鏡システム及び画像生成方法
JP2014166298A (ja) * 2013-01-31 2014-09-11 Olympus Corp 内視鏡用画像処理装置、内視鏡装置、画像処理方法及び画像処理プログラム
JP2013240701A (ja) * 2013-08-05 2013-12-05 Olympus Corp 画像処理装置、画像処理装置の作動方法および画像処理プログラム

Also Published As

Publication number Publication date
WO2016208016A1 (ja) 2016-12-29

Similar Documents

Publication Publication Date Title
JP5683888B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP6045396B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP6059261B2 (ja) マルチモーダル画像統合におけるレジストレーション精度を改善するインテリジェントなランドマーク選択
JP4418400B2 (ja) 画像表示装置
JP6371544B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
US9761004B2 (en) Method and system for automatic detection of coronary stenosis in cardiac computed tomography data
JP5039310B2 (ja) 脳内出血部位セグメンテーション装置
US9672610B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP2007069007A (ja) 脊柱画像における脊柱彎曲の自動検出および特定の角度の計算方法および装置
CN113573654A (zh) 用于检测并测定病灶尺寸的ai系统
JP2011234931A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP5576775B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JPWO2016185617A1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
WO2016208016A1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP6407718B2 (ja) 画像処理装置及び画像処理方法
JP6458166B2 (ja) 医用画像処理方法及び装置及びシステム及びプログラム
JP4373682B2 (ja) 関心組織領域抽出方法、関心組織領域抽出プログラム及び画像処理装置
CN115100494A (zh) 一种病灶图像的识别方法、装置、设备及可读存储介质
JP2019028887A (ja) 画像処理方法
JP4124406B2 (ja) 異常陰影検出装置
JP2006334140A (ja) 異常陰影候補の表示方法及び医用画像処理システム
WO2022180786A1 (ja) 画像処理装置、画像処理方法及び記憶媒体
JP7019104B2 (ja) 閾値の学習方法
JP7100505B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
JP2020131019A (ja) 画像処理装置、画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190806

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200303