JP7122328B2 - 画像処理装置、プロセッサ装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、プロセッサ装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP7122328B2
JP7122328B2 JP2019564350A JP2019564350A JP7122328B2 JP 7122328 B2 JP7122328 B2 JP 7122328B2 JP 2019564350 A JP2019564350 A JP 2019564350A JP 2019564350 A JP2019564350 A JP 2019564350A JP 7122328 B2 JP7122328 B2 JP 7122328B2
Authority
JP
Japan
Prior art keywords
score map
score
interest
image
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019564350A
Other languages
English (en)
Other versions
JPWO2019138772A1 (ja
Inventor
正明 大酒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2019138772A1 publication Critical patent/JPWO2019138772A1/ja
Application granted granted Critical
Publication of JP7122328B2 publication Critical patent/JP7122328B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)

Description

本発明は画像処理装置、プロセッサ装置、画像処理方法、及びプログラムに係り、特に内視鏡画像における注目領域の認識に関する。
医療分野において内視鏡システムを用いた検査が行われている。近年においては、画像解析によって内視鏡画像に含まれる病変等の注目領域の自動認識を行うシステムが知られている。
内視鏡システムは、スコープの先端に具備される撮像装置を用いて体腔内部の撮像を行う。撮像装置は体腔内部を移動し、体腔内部を順次撮像する。なお、スコープは内視鏡と同義である。撮像装置は撮像した内視鏡画像をモニタに出力する。撮像装置を用いて撮像された内視鏡画像から病変等を自動認識することで病変等の見落としが抑制される。すなわち、内視鏡画像から病変等を自動認識する技術を用いて、内視鏡検査の支援が可能である。
特許文献1は、基準画像、及び参照画像のそれぞれについて尤度マップを生成し、基準画像と参照画像との差分に対して尤度を用いた重み付けをして、基準画像の注目領域と参照画像の候補領域との非類似度を算出するX線診断装置が記載されている。
特許文献2は、内視鏡の観察画像から特定領域を判別する画像処理装置が記載されている。同文献に記載の発明は、判別基準の初期値と、既に判別を行った画像内の特定領域の特徴量との加重平均に基づいて、特定領域の判別に用いる判別基準が作成される。
特開2015-41370号公報 特許第5576711号公報
しかしながら、内視鏡システムでは、スコープの操作、送液、及び残差等の影響に起因する、被写体像のぶれ、及びぼけ等が発生し得る。被写体像のぶれ、及びぼけ等の現象は注目領域の誤認識につながるおそれがある。また、体腔内部は病変と類似する構造を有する粘膜が存在し得る。注目領域が病変の場合、病変と類似する構造の存在が病変の誤認識につながるおそれがある。
特許文献1に記載の発明において、基準画像は第1撮像方向について対象物にX線を透過して取得した投影データに基づいて生成される。参照画像は第2撮像方向について対象物にX線を透過して取得した投影データに基づいて生成される。
特許文献1に記載の発明は、撮像方向が異なる複数の視点において、同一の対象物にX線を透過して得られた複数のX線透過画像のそれぞれについて尤度マップを生成するものであって、時系列の医用画像である内視鏡画像の注目領域の認識を行うものではない。
特許文献2に記載の発明は、被検体の個人差、及び観察位置の違い等を考慮して、特定領域の判別に用いる判別基準を作成するものであって、被写体像のぶれ、及びぼけ等が発生した場合に特定領域の誤判別が懸念される。
本発明はこのような事情に鑑みてなされたもので、内視鏡画像から注目領域を認識する際の誤認識を抑制し得る、画像処理装置、プロセッサ装置、画像処理方法、及びプログラムを提供することを目的とする。
上記目的を達成するために、次の発明態様を提供する。
第1態様に係る画像処理装置は、時系列の複数の医用画像を取得する画像取得部と、画像取得部を用いて取得した2つ以上の医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成部と、スコアマップを保存するスコアマップ保存部と、スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算部と、を備えた画像処理装置である。
第1態様によれば、時系列の複数の医用画像について、注目領域らしさを表すスコアの分布であるマップを生成する。注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成する。これにより、誤検出の原因となり得るスコアの影響が抑制された演算スコアマップに基づいて、誤認識が抑制された注目領域の認識が可能となる。
時系列の医用画像の例として、内視鏡を用いて体腔内部を撮像して得られた内視鏡画像が挙げられる。内視鏡画像は動画像でもよいし、時系列の静止画像でもよい。
スコアの例として、0以上1以下の数値が挙げられる。スコアは、任意の数値範囲の数値を正規化した数値でもよい。正規化の例として、0から255を用いて表される数値を255で除算する例が挙げられる。
スコアマップは、階調値、色彩、及び濃度等を用いてスコアを表現した画像を適用し得る。スコアマップは、医用画像の位置情報が保有されるものが好ましい。
演算スコアマップを生成する際の演算の例として算術平均演算等の平均値を算出する演算が挙げられる。
第1態様に係る画像処理装置は、1つ以上のプロセッサと、1つ以上のメモリを備えた画像処理装置であって、プロセッサは、時系列の複数の医用画像を取得し、画像取得部を用いて取得した2つ以上の医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成し、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成し、メモリは、スコアマップを保存する画像処理装置として構成し得る。
第2態様は、第1態様の画像処理装置において、スコアマップ生成部は、コンボリューションニューラルネットワークを用いてスコアマップを生成する構成としてもよい。
第2態様によれば、コンボリューションニューラルネットワークを用いて生成されたスコアマップに基づく注目領域の認識が可能である。
第3態様は、第1態様又は第2態様の画像処理装置において、スコアマップ演算部は、演算対象のスコアマップに対して加重平均演算を施して、演算スコアマップを生成する構成としてもよい。
第3態様によれば、スコアマップに対して加重平均演算が施され、演算スコアマップが生成される。これにより、各スコアマップにおける注目領域として誤認識された領域が除去された演算スコアマップの生成が可能である。
第4態様は、第3態様の画像処理装置において、医用画像を表示する表示装置へ、演算スコアマップに基づいて注目領域を表す報知画像を表示させる表示制御部を備えた構成としてもよい。
第4態様によれば、表示装置に表示された医用画像における注目領域を視覚的に認識し得る。
報知画像の例として、注目領域を囲むバウンディングボックス、並びに色の違い、又は色の強弱を用いて注目領域と他の領域とを表すヒートマップ等が挙げられる。
第5態様は、第4態様の画像処理装置において、表示制御部は、報知画像を医用画像に重畳表示させ、かつ報知画像を医用画像の注目領域の位置とずらして表示させる構成としてもよい。
第5態様によれば、注目領域の視認性を低下させることなく、報知画像を医用画像に重畳表示させることが可能である。
第5態様において、医用画像を静止させた際に、注目領域の位置に報知画像を重畳表示させてもよい。
第6態様は、第4態様の画像処理装置において、スコアマップ演算部は、演算スコアマップへの注目時刻のスコアマップの影響を相対的に小さくする重みを用いた加重平均演算を施して演算スコアマップを生成し、表示制御部は、演算スコアマップに基づいて生成された報知画像を医用画像に重畳表示させる構成としてもよい。
第6態様によれば、演算スコアマップにおける注目時刻のスコアマップの影響を相対的に小さくし得る。これにより、報知画像は医用画像の注目位置に対して遅れて追従し得る。
加重平均演算に適用される重み等のパラメータを設定する加重平均演算パラメータ設定部を備えてもよい。加重平均演算パラメータ設定部は、入力インターフェースを介して入力された情報に基づいて、加重平均演算に適用されるパラメータを設定してもよい。
第7態様は、第6態様の画像処理装置において、スコアマップ演算部は、注目時刻のスコアマップの重みを、注目時刻よりも過去のスコアマップの重みの算術平均未満として、加重平均演算を施して演算スコアマップを生成する構成としてもよい。
第7態様によれば、演算スコアマップにおける注目時刻のスコアマップの影響を相対的に小さくする重みを実現し得る。
第8態様は、第6態様の画像処理装置において、スコアマップ演算部は、加重平均演算に用いる重みの最小値を、注目時刻のスコアマップへ適用する加重平均演算を施して演算スコアマップを生成する構成としてもよい。
第8態様によれば、演算スコアマップにおける注目時刻のスコアマップの影響を、注目時刻よりも過去の時刻のスコアマップの影響と同程度、又は注目時刻よりも過去の時刻のスコアマップの影響以下とすることが可能である。
第9態様は、第1態様から第8態様のいずれか一態様の画像処理装置において、スコアマップ演算部は、注目時刻のスコアマップを含む時系列の2以上の規定された数のスコアマップがスコアマップ保存部に保存された場合に、注目時刻のスコアマップを含む、時系列の2以上の規定された数のスコアマップについて、演算スコアマップを生成する構成としてもよい。
第9態様によれば、規定された数のスコアマップに基づく演算スコアマップの生成が可能である。これにより、演算スコアマップにおける注目時刻のスコアマップの影響の程度を維持することが可能である。
第9態様は、医用画像を表示する表示装置へ、演算スコアマップに基づいて注目領域を表す報知画像を表示させる表示処理部を備えた構成としてもよい。
第10態様は、第1態様から第9態様のいずれか一態様の画像処理装置において、画像取得部は、内視鏡を用いて取得した観察画像を取得する構成としてもよい。
第10態様によれば、内視鏡を用いて撮像された動画像において、誤認識が抑制された注目領域の認識が可能である。
第11態様に係るプロセッサ装置は、内視鏡の動作を制御する内視鏡制御部と、内視鏡を用いた撮像を制御する撮像制御部と、内視鏡を用いて撮像して得られた内視鏡画像を処理する画像処理部と、を備え、画像処理部は、時系列の複数の医用画像として内視鏡画像を取得する画像取得部と、画像取得部を用いて取得した2つ以上の医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成部と、スコアマップを保存するスコアマップ保存部と、スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算部と、を備えたプロセッサ装置である。
第11態様によれば、第1態様と同様の効果を得ることができる。
第11態様において、第2態様から第10態様で特定した事項と同様の事項を適宜組み合わせることができる。その場合、画像処理装置において特定される処理や機能を担う構成要素は、これに対応する処理や機能を担うプロセッサ装置の構成要素として把握することができる。
第11態様に係るプロセッサ装置は、1つ以上のプロセッサと、1つ以上のメモリとを備えたプロセッサ装置であって、プロセッサは、内視鏡の動作を制御し、内視鏡を用いた撮像を制御し、内視鏡を用いて撮像して得られた内視鏡画像を処理し、かつ時系列の複数の医用画像として内視鏡画像を取得し、画像取得部を用いて取得した2つ以上の医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成し、スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成し、メモリはスコアマップを保存するプロセッサ装置を構成し得る。
第12態様に係る画像処理方法は、時系列の複数の医用画像を取得する画像取得工程と、画像取得工程において取得した2つ以上の医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成工程と、スコアマップを保存するスコアマップ保存工程と、スコアマップ保存工程において保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算工程と、を含む画像処理方法である。
第12態様によれば、第1態様と同様の効果を得ることができる。
第12態様において、第2態様から第10態様で特定した事項と同様の事項を適宜組み合わせることができる。その場合、画像処理装置において特定される処理や機能を担う構成要素は、これに対応する処理や機能を担う画像処理方法の構成要素として把握することができる。
第13態様に係るプログラムは、コンピュータに、時系列の複数の医用画像を取得する画像取得機能、画像取得機能を用いて取得した2つ以上の医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成機能、スコアマップを保存するスコアマップ保存機能、及びスコアマップ保存機能を用いて保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算機能を実現させるプログラムである。
第13態様によれば、第1態様と同様の効果を得ることができる。
第13態様において、第2態様から第10態様で特定した事項と同様の事項を適宜組み合わせることができる。その場合、画像処理装置において特定される処理や機能を担う構成要素は、これに対応する処理や機能を担うプログラムの構成要素として把握することができる。
本発明によれば、時系列の複数の医用画像について、注目領域らしさを表すスコアの分布であるマップを生成する。注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成する。これにより、誤検出の原因となり得るスコアの影響が抑制された演算スコアマップに基づいて、誤認識が抑制された注目領域の認識が可能となる。
図1は内視鏡システムの全体構成を示す概略図である。 図2は画像処理装置のハードウェアの構成例を示すブロック図である。 図3は画像処理装置の機能を示す機能ブロック図である。 図4は図3に示した画像解析処理部の機能を示す機能ブロック図である。 図5はスコアマップの模式図である。 図6は演算スコアマップの模式図である。 図7は動画像観察中の注目領域の報知例を示す内視鏡画像の模式図である。 図8は静止画像観察中の注目領域の報知例を示す内視鏡画像の模式図である。 図9は画像処理方法の流れを示すフローチャートである。
以下、添付図面に従って本発明の好ましい実施の形態について詳説する。本明細書では、同一の構成要素には同一の参照符号を付して、重複する説明を省略する。
[内視鏡システムの全体構成]
図1は内視鏡システムの全体構成を示す概略図である。図1に示した内視鏡システム9は、内視鏡10、光源装置11、プロセッサ装置12、表示装置13、画像処理装置14、入力装置15、及びモニタ装置16を備える。内視鏡システム9は、ネットワーク17を介して記憶装置18と通信可能に接続される。
内視鏡10は電子内視鏡である。また、内視鏡10は軟性内視鏡である。内視鏡10は挿入部20、操作部21、及びユニバーサルコード22を備える。挿入部20は被検体内に挿入される。挿入部20は、全体が細径で長尺状に形成されている。
挿入部20は、軟性部25、湾曲部26、及び先端部27を備える。挿入部20は、軟性部25、湾曲部26、及び先端部27が連設されて構成される。軟性部25は、挿入部20の基端側から先端側に向けて順に可撓性を有する。湾曲部26は、操作部21が操作された場合に湾曲可能な構造を有する。先端部27は、図示しない撮像光学系及び撮像素子28等が内蔵される。
撮像素子28は、CMOS型撮像素子又はCCD型撮像素子が適用される。CMOSは、Complementary Metal Oxide Semiconductorの省略語である。CCDは、Charge Coupled Deviceの省略語である。
先端部27の先端面27aは、図示しない観察窓が配置される。観察窓は、先端部27の先端面27aに形成された開口である。観察窓の後方には、図示しない撮像光学系が配置される。撮像素子28の撮像面は、観察窓、及び撮像光学系等を介して、被観察部位からの反射光が入射する。撮像素子28は、撮像素子28の撮像面に入射した被観察部位からの反射光を撮像して、撮像信号を出力する。ここでいう撮像は、被観察部位からの反射光を電気信号へ変換するという意味が含まれる。
操作部21は挿入部20の基端側に連設される。操作部21は、術者が操作する各種操作部材を備える。具体的には、操作部21は、2種類の湾曲操作ノブ29を備える。湾曲操作ノブ29は、湾曲部26の湾曲操作の際に用いられる。なお、術者は、医師、操作者、及びユーザなどと呼ばれることがあり得る。
操作部21は、送気送水ボタン30、及び吸引ボタン31を備える。送気送水ボタン30は、術者が送気送水操作を行う際に用いられる。吸引ボタン31は、術者が吸引操作を行う際に用いられる。
操作部21は、静止画像撮像指示部32、及び処置具導入口33を備える。静止画像撮像指示部32は、被観察部位の静止画像を撮像する際に、術者が操作する。処置具導入口33は、挿入部20の内部を挿通している処置具挿通路の内部に処置具を挿入する開口である。なお、処置具挿通路、及び処置具の図示は省略する。なお、静止画像は符号38cを付して図3に図示する。
ユニバーサルコード22は、内視鏡10を光源装置11に接続する接続コードである。ユニバーサルコード22は、挿入部20の内部を挿通しているライトガイド35、信号ケーブル36、及び図示しない流体チューブを内包している。
また、ユニバーサルコード22の先端は、光源装置11に接続されるコネクタ37a、及びコネクタ37aから分岐され、かつプロセッサ装置12に接続されるコネクタ37bを備える。
コネクタ37aを光源装置11に接続すると、ライトガイド35及び図示しない流体チューブが光源装置11に挿入される。これにより、ライトガイド35及び図示しない流体チューブを介して、光源装置11から内視鏡10に対して必要な照明光と水と気体とが供給される。
その結果、先端部27の先端面27aの図示しない照明窓から被観察部位に向けて照明光が照射される。また、送気送水ボタン30の押下操作に応じて、先端部27の先端面27aの図示しない送気送水ノズルから気体又は水が噴射される。
コネクタ37bをプロセッサ装置12に接続すると、信号ケーブル36とプロセッサ装置12とが電気的に接続される。これにより、信号ケーブル36を介して、内視鏡10の撮像素子28からプロセッサ装置12へ被観察部位の撮像信号が出力され、かつプロセッサ装置12から内視鏡10へ制御信号が出力される。
本実施形態では、内視鏡10として軟性内視鏡を例に挙げて説明を行ったが、内視鏡10として、硬性内視鏡等の被観察部位の動画撮像を可能な各種の電子内視鏡を用いてもよい。
光源装置11は、コネクタ37aを介して、内視鏡10のライトガイド35へ照明光を供給する。照明光は、白色光、又は特定の波長帯域の光を適用可能である。照明光は、白色光、及び特定の波長帯域の光を組み合わせてもよい。光源装置11は、観察目的に応じた波長帯域の光を、照明光として適宜選択可能に構成される。
プロセッサ装置12は、コネクタ37b及び信号ケーブル36を介して、内視鏡10の動作を制御する。また、プロセッサ装置12は、コネクタ37b及び信号ケーブル36を介して、内視鏡10の撮像素子28から撮像信号を取得する。プロセッサ装置12は規定のフレームレートを適用して内視鏡10から出力された撮像信号を取得する。
プロセッサ装置12は、内視鏡10から取得した撮像信号に基づき、被観察部位の観察画像である内視鏡画像38を生成する。ここでいう内視鏡画像38には動画像が含まれる。内視鏡画像38は静止画像が含まれてもよい。動画像は符号38aを付して図3に図示する。
プロセッサ装置12は、操作部21の静止画像撮像指示部32が操作された場合、動画像の生成と並行して、撮像素子28から取得した撮像信号に基づき被観察部位の静止画像を生成する。静止画像は、動画像の解像度に対して高解像度に生成されていてもよい。
内視鏡画像38の生成の際に、プロセッサ装置12はホワイトバランス調整、及びシェーディング補正等のデジタル信号処理を適用した画質の補正を行う。プロセッサ装置12はDICOM規格で規定された付帯情報を内視鏡画像38へ付加してもよい。なお、DICOMは、Digital Imaging and Communications in Medicineの省略語である。
内視鏡画像38は、被検体内、すなわち、体腔の内部を撮像した体腔内画像である。内視鏡画像38が、特定の波長帯域の光を用いて撮像して得られた画像である場合、両者は特殊光画像である。そして、プロセッサ装置12は、生成した内視鏡画像38を、表示装置13と画像処理装置14とのそれぞれに出力する。プロセッサ装置12は、DICOM規格に準拠した通信プロトコルに従って、ネットワーク17を介して内視鏡画像38を記憶装置18へ出力してもよい。
表示装置13は、プロセッサ装置12に接続される。表示装置13は、プロセッサ装置12から送信された内視鏡画像38を表示する。術者は、表示装置13に表示される内視鏡画像38を確認しながら、挿入部20の進退操作等をし得る。術者は、被観察部位に病変等を検出した場合に、静止画像撮像指示部32を操作して被観察部位の静止画を撮像し得る。
画像処理装置14は、コンピュータが用いられる。入力装置15はコンピュータに接続可能なキーボード及びマウス等が用いられる。入力装置15とコンピュータとの接続は有線接続、又は無線接続のいずれでもよい。モニタ装置16は、コンピュータに接続可能な各種モニタが用いられる。
画像処理装置14として、ワークステーション及びサーバ装置等の診断支援装置を用いてもよい。この場合、入力装置15及びモニタ装置16は、それぞれワークステーション等に接続した複数の端末ごとに設けられる。更に、画像処理装置14として、医療レポート等の作成支援を行う診療業務支援装置を用いてもよい。
画像処理装置14は、内視鏡画像38の取得、及び内視鏡画像38の記憶を行う。画像処理装置14は、モニタ装置16の再生制御を行う。すなわち、画像処理装置14は、内視鏡画像38を取得する内視鏡画像取得部、内視鏡画像38を記憶する画像記憶部、及び内視鏡画像38の表示制御を行う表示制御部を備える。内視鏡画像取得部は符号41を付して図3に図示する。画像記憶部は符号48を付して図3に図示する。表示制御部は符号44を付して図3に図示する。
なお、本明細書における画像の記憶は、画像の保存と読み替えることが可能である。ここでいう画像の記憶は、画像の非一時的記憶を意味する。画像処理装置14は画像を一次記憶する一次記憶用のメモリを備えてもよい。
入力装置15は、画像処理装置14に対する操作指示の入力に用いられる。モニタ装置16は、画像処理装置14の制御の下、内視鏡画像38の表示を行う。モニタ装置16は、画像処理装置14における各種情報の表示部として機能してもよい。
画像処理装置14は、ネットワーク17を介して記憶装置18と接続される。画像の格納形式、及びネットワーク17を経由した各装置間の通信は、DICOM規格、及びDICOM規格に準拠したプロトコル等を適用可能である。
なお、上記した画像という用語は、画像を表す画像データの意味が含まれている。本明細書における画像という用語は、画像自体、及び画像データの少なくともいずれかを意味している。
記憶装置18は、データを非一時的に記憶するストレージ等を適用可能である。記憶装置18は、図示しないサーバ装置を用いて管理されてもよい。サーバ装置は、各種データを記憶して管理するコンピュータを適用可能である。
[画像処理装置の構成]
次に、画像処理装置について説明する。
〔概要〕
本実施形態に示した内視鏡システム9は、内視鏡10の先端部27に具備される撮像素子28を用いて体腔内部を撮像する。内視鏡システム9は、撮像した体腔内部を表す内視鏡画像38を受信する。内視鏡システム9は、表示装置13を用いて受信した内視鏡画像38を表示する。内視鏡画像38は医用画像の一例に相当する。
また、本実施形態に示した画像処理装置14は、内視鏡画像38のフレーム画像ごとに、注目領域らしさのスコアの分布を表すスコアマップを生成する。画像処理装置14は、注目時刻のスコアマップ、及び注目時刻よりも過去の少なくとも1つのスコアマップに対して加重平均処理を施して演算スコアマップを生成する。なお、注目領域は符号70を付して図5に図示する。
画像処理装置14は、演算スコアマップに基づいてバウンディングボックスを生成する。画像処理装置14は、モニタ装置16に表示される内視鏡画像38にバウンディングボックスを重畳表示させる。
なお、フレーム画像は符号38bを付して図3に図示する。スコアマップは符号39aを付して図5に図示する。演算スコアマップは符号39bを付して図6に図示する。バウンディングボックスは符号82を付して図7に図示する。
〔ハードウェア構成〕
図2は画像処理装置のハードウェアの構成例を示すブロック図である。画像処理装置14は、制御部1、メモリ2、ハードディスク装置3、通信インターフェース4、入力コントローラ5、及びディスプレイコントローラ6を備える。
〈制御部〉
制御部1は、画像処理装置14の全体制御部40、各種演算部、及び記憶制御部として機能する。制御部1は、メモリ2に具備されるROM(read only memory)に記憶されているプログラムを実行する。制御部1は、通信インターフェース4を介して、外部の記憶装置からプログラムをダウンロードし、ダウンロードしたプログラムを実行してもよい。外部の記憶装置は、ネットワーク17を介して画像処理装置14と通信可能に接続されていてもよい。
制御部1は、メモリ2に具備されるRAM(random access memory)を演算領域とし、各種プログラムと協働して、各種処理を実行する。これにより、画像処理装置14の各種機能が実現される。
制御部1は、ハードディスク装置3からのデータの読み出し、及びハードディスク装置3へのデータの書き込みを制御する。制御部1は、1つ又は2つ以上のプロセッサ(processor)が含まれてもよい。
プロセッサの一例として、FPGA(Field Programmable Gate Array)、及びPLD(Programmable Logic Device)等が挙げられる。FPGA、及びPLDは、製造後に回路構成の変更を可能とする。
プロセッサの他の例として、ASIC(Application Specific Integrated Circuit)が挙げられる。ASICは、特定の処理を実行させるために専用に設計された回路構成を備える。
制御部1は、同じ種類の2以上のプロセッサを適用可能である。例えば、制御部1は2つ以上のFPGAを用いてもよいし、2つのPLDを用いてもよい。制御部1は、異なる種類の2つ以上プロセッサを適用してもよい。例えば、制御部1は1つ以上のFPGAと1つ以上のASICとを適用してもよい。
複数の制御部を備える場合、複数の制御部は1つのプロセッサを用いて構成してもよい。複数の制御部を1つのプロセッサで構成する一例として、1つ以上のCPU(Central Processing Unit)とソフトウェアとの組合せを用いて1つのプロセッサを構成し、このプロセッサが複数の制御部として機能する形態がある。CPUに代わり、又はCPUと併用して、画像処理に特化したプロセッサであるGPU(Graphics Processing Unit)を適用してもよい。なお、ここでいうソフトウェアはプログラムと同義である。複数の制御部が1つのプロセッサを用いて構成される代表例として、クライアント装置、及びサーバ装置等のコンピュータが挙げられる。
複数の制御部を1つのプロセッサで構成する他の例として、複数の制御部を含むシステム全体の機能を1つのICチップで実現するプロセッサを使用する形態が挙げられる。複数の制御部を含むシステム全体の機能を1つのICチップで実現するプロセッサの代表例として、SoC(System On Chip)が挙げられる。なお、ICは、Integrated Circuitの省略語である。
このように、制御部1は、ハードウェア的な構造として、各種のプロセッサを1つ以上用いて構成される。
〈メモリ〉
メモリ2は、図示しないROM、及び図示しないRAMを備える。ROMは、画像処理装置14において実行される各種プログラムを記憶する。ROMは、各種プログラムの実行に用いられるパラメータ、及びファイル等を記憶する。RAMは、データの一時記憶領域、及び制御部1のワーク領域等として機能する。
〈ハードディスク装置〉
ハードディスク装置3は、各種データを非一時的に記憶する。具体的には、ハードディスク装置3は、内視鏡10の観察画像、及び図1に示した記憶装置18等の外部の記憶装置から取得した医用画像等を記憶する。ハードディスク装置3は、画像処理装置14の外部に外付けされてもよい。ハードディスク装置3に代わり、又はこれと併用して、大容量の半導体メモリ装置を適用してもよい。
〈通信インターフェース〉
通信インターフェース4は、図1に示した記憶装置18等の外部の装置との間のデータ通信を行う。図2に示したIFは、interfaceの省略後である。
〈入力コントローラ〉
入力コントローラ5は、キーボード、及びマウス等の入力装置15から送信される信号を受信し、画像処理装置14に適用される形式の信号に変換するインターフェースである。
〈ディスプレイコントローラ〉
ディスプレイコントローラ6は、画像処理装置14において生成された画像を表す信号を、モニタ装置16を用いて表示させる映像信号に変換するインターフェースである。ディスプレイコントローラ6は、画像を表す映像信号をモニタ装置16へ送信する。
なお、図2に示した画像処理装置14のハードウェア構成は一例であり、適宜、追加、削除、及び変更が可能である。
〔画像処理装置の機能〕
図3は画像処理装置の機能を示す機能ブロック図である。図3に示した画像処理装置14は、全体制御部40、内視鏡画像取得部41、画像解析処理部43、表示制御部44、入力制御部46、及び記憶部47を備える。
全体制御部40、内視鏡画像取得部41、画像解析処理部43、表示制御部44、入力制御部46、及び記憶部47は、通信信号線68を介して相互に通信可能に接続される。以下、各部について詳細に説明する。
〈全体制御部〉
全体制御部40は、画像処理装置14の制御プログラムの実行に基づき、内視鏡画像取得部41、画像解析処理部43、及び表示制御部44を統括的に制御する。
〈内視鏡画像取得部〉
内視鏡画像取得部41は、図1に示したプロセッサ装置12を用いて生成された内視鏡画像38を取得する。内視鏡画像取得部41は、外部の記憶装置に記憶されている内視鏡画像38を取得してもよい。内視鏡画像取得部41は、メモリーカード等の各種情報記憶媒体を介して、上記した内視鏡画像38を取得してもよい。
内視鏡画像取得部41は、動画像38aを取得する。内視鏡画像取得部41は、動画像38aとして、時系列のフレーム画像38bを取得してもよい。内視鏡画像取得部41は、時系列の2以上の静止画像38cを取得してもよい。
動画像38aの撮像途中に静止画像38cの撮像操作が行われた場合、内視鏡画像取得部41は、図1に示したプロセッサ装置12から静止画像38cを取得する。内視鏡画像取得部41は時系列の複数の医用画像を取得する画像取得部の一例に相当する。
〈画像解析処理部〉
画像解析処理部43は、深層学習アルゴリズム45に基づく深層学習を用いて、内視鏡画像取得部41を用いて取得した内視鏡画像38の解析処理を実行する。内視鏡画像38の解析処理の詳細は後述する。
深層学習アルゴリズム45は、公知のコンボリューションニューラルネットワークの手法と、全結合層と、出力層とを含むアルゴリズムである。深層学習はディープラーニングと呼ばれることがある。
コンボリューションニューラルネットワークは、畳み込み層、及びプーリング層の繰り返し処理である。コンボリューションニューラルネットワークは、畳み込みニューラルネットワークと呼ばれる場合がある。なお、深層学習を用いた画像解析処理は公知技術であるので、具体的な説明は省略する。コンボリューションニューラルネットワークはCNNと表されることがある。CNNは、Convolutional Neural Networkの省略語である。
〈表示制御部〉
表示制御部44は、モニタ装置16を用いて内視鏡画像38を再生する際に、画像表示を制御するディスプレイドライバーとして機能する。表示制御部44は、モニタ装置16を用いて、動画像38aの再生中に撮像された静止画像38cを動画像38aに重畳表示させてもよい。表示制御部44は、モニタ装置16を用いて、再生中の動画像38a、又は静止画像38cに報知画像等を重畳表示してもよい。
〈入力制御部〉
入力制御部46は、入力装置15から入力された信号を、画像処理装置14に適用される形式の信号に変換し、変換後の信号を全体制御部40へ送信する。全体制御部40は、入力装置15から入力された情報に基づいて、画像処理装置14の各部を制御する。
〈記憶部〉
記憶部47は、画像記憶部48、及びプログラム記憶部49を備える。画像記憶部48は、内視鏡画像取得部41を用いて取得した内視鏡画像38を記憶する。画像記憶部48に記憶された画像は、全体制御部40の制御の下、画像解析処理部43へ読み出される。
プログラム記憶部49は、画像処理装置14を動作させる各種プログラムを記憶する。プログラム記憶部49に記憶された各種プログラムは、全体制御部40の制御の下、各部へ読み出される。
〔画像解析処理部の構成例〕
図4は図3に示した画像解析処理部の機能を示す機能ブロック図である。画像解析処理部43は、スコアマップ生成部51、スコアマップ保存部52、及びスコアマップ演算部53を備える。以下、上記した各部について詳細に説明する。
〈スコアマップ生成部〉
スコアマップ生成部51は、内視鏡画像38のフレーム画像38bごとのスコアマップ39aを生成する。スコアマップ39aは、フレーム画像38bごとの、各フレーム画像38bにおける位置情報を保有した、注目領域らしさを表すスコアの分布である。スコアは0以上1以下の連続する数値を適用可能である。スコアは、任意の数値範囲の数値を正規化した数値でもよい。正規化の例として、0から255を用いて表される数値を255で除算する例が挙げられる。
本実施形態では、スコア0は最も注目領域らしくないことを表す。また、スコア1は最も注目領域らしいことを表す。
スコアマップ生成部51は、コンボリューションニューラルネットワークを用いて、各フレーム画像38bからスコアマップ39aを生成する。スコアマップ生成部51は、コンボリューションニューラルネットワークを用いた機械学習器を備える。機械学習器は、フレーム画像38bを入力するとスコアマップ39aを出力する。
機械学習器は、注目領域の70の種類ごとの学習データを用いて機械学習済みの機械学習器である。コンボリューションニューラルネットワークを用いたスコアマップ39aは公知の手法を適用可能である。ここでは、コンボリューションニューラルネットワークを用いたスコアマップ39aの詳細は省略する。
〈スコアマップ保存部〉
スコアマップ保存部52は、スコアマップ生成部51を用いて生成されたスコアマップを時系列順に保存する。本実施形態では、画像解析処理部43がスコアマップ保存部52を具備する態様を示したが、スコアマップ保存部52は画像解析処理部43の外部に具備されるメモリを適用してもよい。
〈スコアマップ演算部〉
スコアマップ演算部53は、スコアマップ保存部52に規定数のスコアマップ39aが保存された場合に、注目時刻におけるフレーム画像38bから生成されたスコアマップ39a、及び注目時刻よりも過去のフレーム画像38bから生成されたスコアマップ39aであり、スコアマップ保存部52を用いて保存されているスコアマップ39aのうち少なくとも1つを演算対象として演算を行う。スコアマップ演算部53は、演算結果として1つの演算スコアマップ39bを生成する。演算の例として加重平均演算が挙げられる。加重平均演算の詳細は後述する。
スコアマップ演算部53は、演算スコアマップ39bに基づいて注目領域を報知する際に用いられる報知画像を表す信号を生成する。例えば、スコアマップ演算部53は、演算スコアマップ39bに基づいて注目領域を表すバウンディングボックスを表す信号を生成する。スコアマップ演算部53は、表示制御部44を介して、モニタ装置16を用いて内視鏡画像38にバウンディングボックスを重畳表示させる。
バウンディングボックスは、注目領域を囲む位置に配置される図形である。バウンディングボックスは、円、四角形、及び任意の閉曲線等を適用可能である。
注目領域の他の報知例として、内視鏡画像38にヒートマップを重畳表示させる例が挙げられる。ヒートマップは、色彩の違い、及び同一色彩の濃度の違いの少なくともいずれかを用いてスコアの大小を表すものである。注目領域の他の報知例として、スコア自体を表示させる例が挙げられる。
スコアマップ演算部53は、スコアマップ保存部52に規定数のスコアマップ39aが保存されるまでの期間は、注目時刻における内視鏡画像38から生成されたスコアマップ39aに基づいて、バウンディングボックス等を用いて注目領域を報知してもよい。
〔スコアマップ生成の具体例〕
次に、スコアマップ生成の具体例について説明する。図5はスコアマップの模式図である。図5に示したフレーム画像38b、フレーム画像38b、及びフレーム画像38bは、連続する時系列の任意のフレーム画像38bである。時系列順に、フレーム画像38b、フレーム画像38b、及びフレーム画像38bとなる。
フレーム画像38b、フレーム画像38b、及びフレーム画像38bは、いずれも注目領域70を有している。注目領域70の一例として病変が挙げられる。病変の例として、腫瘍、ポリープなどが挙げられる。注目領域70の他の例として、炎症領域、出血領域、処置痕、及び処置具などが挙げられる。処置具の例として、内視鏡10に具備される鉗子等、及び血管等のクリッピングに使用されるクリップ等が挙げられる。
スコアマップ39aはフレーム画像38bから生成される。スコアマップ39aはフレーム画像38bから生成される。スコアマップ39aはフレーム画像38bから生成される。以下、スコアマップ39a、スコアマップ39a、及びスコアマップ39aを総称してスコアマップ39aと呼ぶことがある。
図5に示したスコアマップ39aの白はスコア1を表している。スコアマップ39aの黒はスコア0を表している。スコアマップ39aの生成は、コンボリューションニューラルネットワークを用いた公知の手法を適用し得る。
フレーム画像38bとスコアマップ39aとの対応関係を学習したCNNを用いて、フレーム画像38bからスコアマップ39aを生成し得る。CNNは、1画素ごとに注目領域らしさを表すスコアを出力することが可能である。CNNは、複数の画素を含む領域ごとにスコアを出力することも可能である。
スコアマップ39aは、フレーム画像38bの注目領域70として正しく認識された第1スコア領域72を有している。また、スコアマップ39aは、フレーム画像38bの注目領域70として誤認識された第2スコア領域74を有している。スコアマップ39a、及びスコアマップ39aも同様である。
本実施形態では、スコア0、及びスコア1を用いた二値化画像をスコアマップ39aとする例を示したが、スコアマップ39aは3以上の多値の量子化画像を適用してもよい。多値の量子化画像の例として、黒の濃淡を用いて多値を表現したグレースケール画像が挙げられる。
スコアマップ39aは、1画素ごとにスコアが付与されてもよいし、2以上の画素を含む領域を単位としてスコアが付与されてもよい。
〔演算スコアマップ生成の具体例〕
図6は演算スコアマップの模式図である。図6には図5に示した3つのスコアマップ39aである、スコアマップ39a、スコアマップ39a、及びスコアマップ39aを演算して、演算スコアマップ39bが生成される例を示す。
スコアマップ39aは注目時刻のスコアマップ39aである。スコアマップ39a、及びスコアマップ39aは注目時刻よりも過去のスコアマップ39aである。注目時刻の例として現在の時刻が挙げられる。
すなわち、本実施形態に示す演算スコアマップ39bは、注目時刻のスコアマップ39aと、注目時刻よりも過去のスコアマップ39a、及びスコアマップ39aを用いて演算スコアマップ39bが生成される。注目時刻よりも過去のスコアマップ39aは1つ以上であればよい。
演算スコアマップ39bは、加重平均演算、及び加重平均値の二値化処理を適用して生成される。スコアマップ39aの加重平均演算を用いて、各スコアマップ39aにおける同一位置のスコアの加重平均値が算出される。位置ごとの加重平均値に対して規定の閾値を用いて二値化処理が施される。このようにして、図6に示した演算スコアマップ39bが生成される。なお、演算スコアマップ39bの生成は、多値の量子化処理を適用してもよい。
二値化処理では、位置ごとの加重平均値が規定の閾値を超える場合が1とされ、位置ごとの加重平均値が規定の閾値以下の場合が0とされる。例えば、閾値として0.5が用いられる。閾値が0.5の場合、演算スコアマップ39bの生成に用いられる複数のスコアマップ39aのいずれかにおいてスコアが0の位置は、演算スコアマップ39bにおいてスコアが0とされる。スコアが0以上1以下の数値の場合、閾値は0.1以上0.5以下の数値を適用し得る。閾値は0.2以上0.5以下の数値がより好ましい。
スコアマップ39aを平均化すると誤認識された領域のスコアは減少する。一方、正しく認識された領域はスコアが高いまま維持される。このようにして、スコアマップ39aにおいて注目領域70として誤認識された第2スコア領域74は、演算スコアマップ39bから除去される。また、スコアマップ39aにおいて注目領域70として認識された第1スコア領域72のうち、境界近傍の誤認識されている可能性がある領域もまた、演算スコアマップ39bから除去される。
図6に示した演算スコアマップ39bは、スコアマップ39a、スコアマップ39a、及びスコアマップ39aにおける第1スコア領域72に対応する第3スコア領域80を有している。一方、演算スコアマップ39bは、スコアマップ39a、スコアマップ39a、及びスコアマップ39aにおける第2スコア領域74に対応する領域を有していない。
本実施形態では、スコアマップ39aの規定数として3を例示したが、スコアマップ39aの規定数は2以上の整数であればよい。スコアマップ39aの規定数が相対的に大きい場合は注目領域70の認識の精度が向上する。規定数が相対的に小さい場合は演算効率が向上する。スコアマップ39aの規定数は、注目領域70の認識の精度、及び演算効率のバランスを考慮して規定することが可能である。
演算スコアマップ39bの生成に適用される演算は、規定数のスコアマップ39aを用いた算術平均演算等の他の平均演算、及び平均演算以外の演算を適用することが可能である。
〔注目領域の報知の具体例〕
内視鏡画像38において注目領域70を報知する際に、バウンディングボックス等を用いて認識した注目領域70を囲むなど、注目領域70に報知画像を重畳表示させる場合、注目領域70とそれ以外の領域との比較が困難になり、診断等に支障をきたすことが懸念される。
本実施形態に示す注目領域70の報知は、内視鏡画像38における注目領域70の視認性を低下させずに、注目領域70に対して報知画像を重畳表示させる。
図7は動画像観察中の注目領域の報知例を示す内視鏡画像の模式図である。図7に示した内視鏡画像38は動画像38aを構成する任意のフレーム画像38bである。図7に示した内視鏡画像38は、注目領域70を表す報知画像としてバウンディングボックス82が重畳表示されている。
バウンディングボックス82は、演算スコアマップ39bの第3スコア領域80に基づいて生成される。図7に示したバウンディングボックス82は、演算スコアマップ39bの第3スコア領域80に外接する四角形が適用されている。
動画像38aの観察中にバウンディングボックス82が注目領域70と重なる場合、注目領域70が視認しにくくなる。本実施形態に示したバウンディングボックス82は、注目領域70とずらした位置に表示される。
すなわち、演算スコアマップ39bを算出する加重平均演算は、注目時刻のスコアマップ39aである、図6に示したスコアマップ39aの影響が、他のスコアマップ39aの影響よりも小さくなる重みが適用される。注目時刻のスコアマップ39aの影響が最も小さくなる重みを用いた加重平均演算がより好ましい。
これにより、注目時刻よりも数フレーム前のフレーム画像38bにおける注目領域70の位置にバウンディングボックス82が表示され、注目領域70から少し遅れながらバウンディングボックス82が注目領域70に追従する。
図8は静止画像観察中の注目領域の報知例を示す内視鏡画像の模式図である。静止画像38cにおけるバウンディングボックス82は、注目領域70を囲む位置に表示される。すなわち、動画像38aの観察中は、注目領域70とずらされた位置にバウンディングボックス82が表示され、動画像38aを停止させた静止画像38cの観察中は、注目領域70と一致する位置にバウンディングボックス82が表示される。
ここでいうバウンディングボックス82の位置はバウンディングボックス82の重心の位置を適用し得る。同様に、注目領域70の位置は注目領域70の重心の位置を適用し得る。
〔加重平均演算の具体例〕
注目時刻のスコアマップ39aをX(t)とする。注目時刻tよりも過去の7つのスコアマップ39aをX(t)、X(t)、X(t)、X(t)、X(t)、X(t)、及びX(t)とする。注目時刻tのスコアマップX(t)に適用される重みをWtとする。注目時刻tよりも過去のスコアマップX(t)に適用される重みをWtとする。但し、jは1から注目時刻tよりも過去のスコアマップ39aの総数までの整数である。過去のスコアマップ39aの総数が7の場合の注目時刻tにおける演算スコアマップY(t)は、以下の式1を用いて表される。
Figure 0007122328000001
スコアマップ39aの総数がnの場合の演算スコアマップY(t)は、以下の式2を用いて表される。但し、iは0からnまでの整数である。スコアマップ39aの総数nは1以上の整数である。スコアマップ39aの総数nは、注目時刻tのスコアマップ39aの数、及び注目時刻tよりも過去のスコアマップ39aの数の総数である。
Figure 0007122328000002
ここで、上記の式1、及び式2におけるX(t)は、各スコアマップ39aを構成する各画素の位置、及び各画素のスコアの組の集合体を意味する。上記の式1、及び式2におけるY(t)は、演算スコアマップ39bを構成する各画素の位置、及び各画素の演算結果の組の集合体を意味する。
n=8の場合の重みの例として、以下の式3、及び式4に示す重みが挙げられる。
Figure 0007122328000003
Figure 0007122328000004
上記の式3、及び式4に示した重みを用いた場合、注目時刻tの4フレーム前のスコアマップ39aの重みが最大となっている。これにより、注目時刻tから、おおよそ4フレーム分遅れて動画像38aにバウンディングボックス82が追従する。
上記の式3、及び式4に示した重みは、注目時刻tから過去に向かって単純増加している。また、上記の式3、及び式4に示した重みは、注目時刻tから過去の時刻における中央の時刻を最大として、中央の時刻から過去の時刻に向かって単純減少している。
重みは上記の式3、及び式4に示す例に限定されない。重みが最大となる時刻に応じて、内視鏡画像38の注目領域70とバウンディングボックス82等の報知画像とのずれを規定し得る。
過去のスコアマップ39aの総数が2の場合の注目時刻tにおける演算スコアマップY(t)は、以下の式5を用いて表される。また、n=3の場合の重みの例として、以下の式6、及び式7に示す重みが挙げられる。
Figure 0007122328000005
Figure 0007122328000006
Figure 0007122328000007
上記の式6に示す重みの例は、注目時刻tから過去の時刻tに向かって単純増加し、かつ過去の時刻tから過去の時刻tに向かって単純減少する例である。上記の式7に示す重みの例は、注目時刻tから過去の時刻に向かって単純増加する例である。
上記の式3、式4、式6、及び式7には、注目時刻tのスコアマップ39aに適用される重みが、加重平均演算に用いられる重みの最小値となる加重平均演算を例示したが、注目時刻tのスコアマップ39aに適用される重みは、上記の式3、式4、式6、及び式7に示した例に限定されない。スコアマップ演算部53は、注目時刻tのスコアマップ39aに適用される重みを、注目時刻tのスコアマップ39a以外のスコアマップ39aの重みの算術平均未満とすることで、演算スコアマップ39bにおける注目時刻tのスコアマップ39aの影響を、注目時刻tよりも過去の時刻のスコアマップ39aよりも小さくし得る。注目時刻tよりも過去のスコアマップ39aは、注目時刻のスコアマップ以外のスコアマップに相当する。
加重平均演算に用いられるスコアマップ39aの規定数は固定値とされる。すなわち、注目時刻のスコアマップ39aが更新された場合、更新後の注目時刻tのスコアマップ39aから規定数の過去のスコアマップ39aが適用される。これにより、演算スコアマップ39bにおける注目時刻tのスコアマップ39aの影響の程度が維持される。
[画像処理方法の手順]
図9は画像処理方法の流れを示すフローチャートである。内視鏡画像38の観察が開始される。内視鏡画像取得工程S10では、図3に示した内視鏡画像取得部41は、図1に示したプロセッサ装置12を介して内視鏡画像38を取得する。
内視鏡画像取得工程S10の後にスコアマップ生成工程S12へ進む。スコアマップ生成工程S12では、図4に示したスコアマップ生成部51は、内視鏡画像38の各フレーム画像38bからスコアマップ39aを生成する。スコアマップ生成工程S12の後にスコアマップ保存工程S14へ進む。
スコアマップ保存工程S14では、スコアマップ生成部51はスコアマップ生成工程S12において生成されたスコアマップ39aをスコアマップ保存部52へ保存する。なお、内視鏡画像取得工程S10、スコアマップ生成工程S12、及びスコアマップ保存工程S14は並行して実行されてもよい。スコアマップ保存工程S14の後にスコアマップ数判定工程S16へ進む。
スコアマップ数判定工程S16では、スコアマップ演算部53は、スコアマップ保存工程S14において保存されたスコアマップ数が規定数以上であるか否かを判定する。スコアマップ数判定工程S16において、スコアマップ保存工程S14において保存されたスコアマップ数が規定数未満であると判定された場合はNo判定となる。No判定の場合は、スコアマップ数判定工程S16においてYes判定となるまで、内視鏡画像取得工程S10からスコアマップ数判定工程S16の各工程を繰り返し実行する。
スコアマップ数判定工程S16において保存されたスコアマップ数が規定数以上であると判定された場合はYes判定となる。Yes判定の場合はスコアマップ演算工程S18へ進む。
スコアマップ演算工程S18では、スコアマップ演算部53は、注目時刻のスコアマップ39a、及び注目時刻よりも過去の時刻における少なくとも1つのスコアマップ39aを含む、規定数のスコアマップ39aを用いて演算スコアマップ39bを生成する。スコアマップ演算工程S18の後に報知画像表示工程S20へ進む。
報知画像表示工程S20では、スコアマップ演算部53は、モニタ装置16に表示される内視鏡画像38に対して、図7に示したバウンディングボックス82等の報知画像を重畳表示させる。報知画像表示工程S20の後に観察終了判定工程S22へ進む。
観察終了判定工程S22では、画像解析処理部43は、内視鏡画像38の観察を終了するか否かを判定する。例えば、規定期間、内視鏡画像38を取得しない場合に、内視鏡画像38の観察を終了すると判定し得る。観察終了判定工程S22において、内視鏡画像38の観察を終了しないと判定した場合はNo判定となる。No判定の場合、画像処理装置14は観察終了判定工程S22においてYes判定となるまで、内視鏡画像取得工程S10から観察終了判定工程S22までの各工程を繰り返し実行する。
一方、観察終了判定工程S22において、内視鏡画像38の観察を終了すると判定した場合はYes判定となる。Yes判定の場合、内視鏡システム9は内視鏡画像38の観察を終了する。
[画像処理装置、及び方法の作用効果]
上記の如く構成された画像処理装置、及び方法によれば、以下の作用効果を得ることが可能である。
〔1〕
内視鏡画像38の各フレーム画像38bについて、注目領域70らしさを表すスコアの分布であるスコアマップ39aを生成し、スコアマップ39aを保存する。注目時刻のスコアマップ39aを含む規定数のスコアマップ39aが保存された場合に、規定数のスコアマップ39aに対して加重平均演算を施して、1つの演算スコアマップ39bを生成する。これにより、誤検出の原因となり得るスコアの影響が抑制された演算スコアマップ39bに基づいて、誤認識が抑制された注目領域70の認識が可能となる。
〔2〕
スコアマップ39aの生成はコンボリューションニューラルネットワークが適用される。これにより、コンボリューションニューラルネットワークを用いて生成されたスコアマップ39aに基づく注目領域70の認識が可能となる。
〔3〕
規定数のスコアマップ39aに対して加重平均演算を施して演算スコアマップ39bが生成される。これにより、注目領域70として誤認識された第2スコア領域74が演算スコアマップ39bから除去される。
〔4〕
加重平均演算は、注目時刻よりも過去のスコアマップ39aの影響よりも注目時刻のスコアマップ39aの影響が小さくなる重みが適用される。これにより、演算スコアマップ39bに基づいて生成されたバウンディングボックス82等の報知画像を内視鏡画像38に重畳表示させる際に、報知画像の位置を注目領域70の位置とずらすことが可能となる。
〔5〕
加重平均演算は、注目時刻のスコアマップ39aに最小の重みを適用する。これにより、演算スコアマップ39bへの注目時刻のスコアマップ39aの影響を最小とすることが可能となる。
〔6〕
規定数のスコアマップ39aを用いて演算スコアマップ39bが生成される。これにより、演算スコアマップ39bへの注目時刻のスコアマップ39aの影響の程度を維持し得る。
〔7〕
演算スコアマップ39bの第3スコア領域80に基づくバウンディングボックス82を内視鏡画像38に重畳表示させる。これにより、内視鏡画像38における注目領域70の報知が可能となる。
[内視鏡画像の変形例]
〔第1例〕
内視鏡画像38は、白色帯域の光、又は白色帯域の光として波長帯域が異なる複数の光を照射して取得した通常光画像を適用し得る。
〔第2例〕
内視鏡画像38は、特定の波長帯域の光を照射して取得した特殊光画像を適用し得る。特定の波長帯域は、白色光の波長帯域よりも狭い波長帯域を適用し得る。
[特定の波長帯域の変形例]
〔第1例〕
特定の波長帯域の第1例は、可視域の青色帯域又は緑色帯域である。第1例の波長帯域は、390ナノメートル以上450ナノメートル以下、又は530ナノメートル以上550ナノメートル以下の波長帯域を含み、且つ第1例の光は、390ナノメートル以上450ナノメートル以下、又は530ナノメートル以上550ナノメートル以下の波長帯域内にピーク波長を有する。
〔第2例〕
特定の波長帯域の第2例は、可視域の赤色帯域である。第2例の波長帯域は、585ナノメートル以上615ナノメートル以下、又は610ナノメートル以上730ナノメートル以下の波長帯域を含み、且つ第2例の光は、585ナノメートル以上615ナノメートル以下、又は610ナノメートル以上730ナノメートル以下の波長帯域内にピーク波長を有する。
〔第3例〕
特定の波長帯域の第3例は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、且つ第3例の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する。この第3例の波長帯域は、400±10ナノメートル、440±10ナノメートル、470±10ナノメートル、又は600ナノメートル以上750ナノメートル以下の波長帯域を含み、且つ第3例の光は、400±10ナノメートル、440±10ナノメートル、470±10ナノメートル、又は600ナノメートル以上750ナノメートル以下の波長帯域にピーク波長を有する。
〔第4例〕
特定の波長帯域の第4例は、生体内の蛍光物質が発する蛍光の観察に用いられ、且つこの蛍光物質を励起させる励起光の波長帯域である。例えば、390ナノメートル以上470ナノメートル以下の波長帯域である。なお、蛍光の観察は蛍光観察と呼ばれる場合がある。
〔第5例〕
特定の波長帯域の第5例は、赤外光の波長帯域である。この第5例の波長帯域は、790ナノメートル以上820ナノメートル以下、又は905ナノメートル以上970ナノメートル以下の波長帯域を含み、且つ第5例の光は、790ナノメートル以上820ナノメートル以下、又は905ナノメートル以上970ナノメートル以下の波長帯域にピーク波長を有する。
[特殊光画像の生成例]
プロセッサ装置12は、白色光、又は白色光として異なる波長帯域を有する複数の光を用いて撮像して得られた通常光画像に基づいて、特定の波長帯域の情報を有する特殊光画像を生成してもよい。なお、ここでいう生成は取得が含まれる。この場合、プロセッサ装置12は、特殊光画像取得部として機能する。そして、プロセッサ装置12は、特定の波長帯域の信号を、通常光画像に含まれる赤、緑、及び青、或いはシアン、マゼンタ、及びイエローの色情報に基づく演算を行うことで得る。
なお、赤、緑、及び青は、RGB(Red,Green,Blue)と表されることがある。また、シアン、マゼンタ、及びイエローは、CMY(Cyan,Magenta,Yellow)と表されることがある。
[特徴量画像の生成例]
プロセッサ装置12は、通常光画像、及び特殊光画像の少なくともいずれか一方に基づいて、公知の酸素飽和度画像等の特徴量画像を生成してもよい。
[診断支援装置、医療行業務支援装置への適用例]
本実施形態に示した画像処理装置14を備えた診断支援装置、及び医療行業務支援装置を構成し得る。
[プロセッサ装置への適用例]
本実施形態に示した画像処理装置14を備えるプロセッサ装置12を構成し得る。すなわち、内視鏡10の動作を制御する内視鏡制御部、内視鏡10を用いた撮像を制御する撮像制御部、光源装置11を制御する光源制御部、及び画像処理装置14を備えたプロセッサ装置12を構成し得る。画像処理装置14は画像処理部の一例に相当する。
[コンピュータを画像処理装置として機能させるプログラムへの適用例]
上述した画像処理方法は、コンピュータを用いて、画像処理方法における各工程に対応する機能を実現させるプログラムとして構成可能である。例えば、画像取得機能、スコアマップ生成機能、スコアマップ保存機能、及びスコアマップ演算機能を実現させるプログラムを構成し得る。
上述した画像処理機能をコンピュータに実現させるプログラムを、有体物である非一時的な情報記憶媒体である、コンピュータが読取可能な情報記憶媒体に記憶し、情報記憶媒体を通じてプログラムを提供することが可能である。
また、非一時的な情報記憶媒体にプログラムを記憶して提供する態様に代えて、ネットワークを介してプログラム信号を提供する態様も可能である。
[実施形態及び変形例等の組み合わせについて]
上述した実施形態で説明した構成要素、及び変形例で説明した構成要素は、適宜組み合わせて用いることができ、また、一部の構成要素を置き換えることもできる。
以上説明した本発明の実施形態は、本発明の趣旨を逸脱しない範囲で、適宜構成要件を変更、追加、削除することが可能である。本発明は以上説明した実施形態に限定されるものではなく、本発明の技術的思想内で当該分野の通常の知識を有する者により、多くの変形が可能である。
1 制御部
2 メモリ
3 ハードディスク装置
4 通信インターフェース
5 入力コントローラ
6 ディスプレイコントローラ
9 内視鏡システム
10 内視鏡
11 光源装置
12 プロセッサ装置
13 表示装置
14 画像処理装置
15 入力装置
16 モニタ装置
17 ネットワーク
18 記憶装置
20 挿入部
21 操作部
22 ユニバーサルコード
25 軟性部
26 湾曲部
27 先端部
27a 先端面
28 撮像素子
29 湾曲操作ノブ
30 送気送水ボタン
31 吸引ボタン
32 静止画像撮像指示部
33 処置具導入口
35 ライトガイド
36 信号ケーブル
37a、37b コネクタ
38 内視鏡画像
38a 動画像
38b、38b、38b、38b フレーム画像
38c 静止画像
39a、39a、39a、39a スコアマップ
39b 演算スコアマップ
40 全体制御部
41 内視鏡画像取得部
43 画像解析処理部
44 表示制御部
45 深層学習アルゴリズム
46 入力制御部
47 記憶部
48 画像記憶部
49 プログラム記憶部
51 スコアマップ生成部
52 スコアマップ保存部
53 スコアマップ演算部
68 通信信号線
70 注目領域
72 第1スコア領域
74 第2スコア領域
80 第3スコア領域
82 バウンディングボックス
S10からS22 画像処理方法の各工程

Claims (24)

  1. 時系列の複数の医用画像を取得する画像取得部と、
    前記画像取得部を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成部と、
    前記スコアマップを保存するスコアマップ保存部と、
    前記スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算部と、
    を備え
    前記スコアマップ生成部は、前記スコアマップとして、前記スコアを表す画素値を有する量子化画像を生成する画像処理装置。
  2. 前記画像取得部は、内視鏡を用いて取得した観察画像を取得する請求項1に記載の画像処理装置。
  3. 時系列の複数の医用画像を取得する画像取得部と、
    前記画像取得部を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成部と、
    前記スコアマップを保存するスコアマップ保存部と、
    前記スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算部と、
    を備え、
    前記画像取得部は、内視鏡を用いて取得した観察画像を取得する画像処理装置。
  4. 前記スコアマップ生成部は、コンボリューションニューラルネットワークを用いて前記スコアマップを生成する請求項1から3のいずれか一項に記載の画像処理装置。
  5. 前記医用画像を表示する表示装置へ、前記演算スコアマップに基づいて前記注目領域を表す報知画像を表示させる表示制御部を備えた請求項1から4のいずれか一項に記載の画像処理装置。
  6. 前記表示制御部は、前記報知画像を前記医用画像に重畳表示させ、かつ前記報知画像を前記医用画像の前記注目領域の位置とずらして表示させる請求項に記載の画像処理装置。
  7. 前記スコアマップ演算部は、演算対象の前記スコアマップに対して加重平均演算を施して、前記演算スコアマップを生成する請求項1から6のいずれか一項に記載の画像処理装置。
  8. 時系列の複数の医用画像を取得する画像取得部と、
    前記画像取得部を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成部と、
    前記スコアマップを保存するスコアマップ保存部と、
    前記スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算部と、
    を備え、
    前記スコアマップ演算部は、演算対象の前記スコアマップに対して加重平均演算を施して、前記演算スコアマップを生成する画像処理装置。
  9. 前記医用画像を表示する表示装置へ、前記演算スコアマップに基づいて前記注目領域を表す報知画像を表示させる表示制御部を備え、
    前記スコアマップ演算部は、前記演算スコアマップへの前記注目時刻のスコアマップの影響を相対的に小さくする重みを用いた前記加重平均演算を施して前記演算スコアマップを生成し、
    前記表示制御部は、前記演算スコアマップに基づいて生成された前記報知画像を前記医用画像に重畳表示させる請求項7又は8に記載の画像処理装置。
  10. 前記スコアマップ演算部は、前記注目時刻のスコアマップの前記重みを、前記注目時刻よりも過去のスコアマップの重みの算術平均未満として、前記加重平均演算を施して前記演算スコアマップを生成する請求項に記載の画像処理装置。
  11. 前記スコアマップ演算部は、前記加重平均演算に用いる前記重みの最小値を、前記注目時刻のスコアマップへ適用する前記加重平均演算を施して前記演算スコアマップを生成する請求項に記載の画像処理装置。
  12. 前記スコアマップ演算部は、演算対象の前記スコアマップに対して平均演算を施して、前記演算スコアマップを生成する請求項1から6のいずれか一項に記載の画像処理装置。
  13. 時系列の複数の医用画像を取得する画像取得部と、
    前記画像取得部を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成部と、
    前記スコアマップを保存するスコアマップ保存部と、
    前記スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算部と、
    を備え、
    前記スコアマップ演算部は、演算対象の前記スコアマップに対して平均演算を施して、前記演算スコアマップを生成する画像処理装置。
  14. 前記スコアマップ演算部は、前記注目時刻のスコアマップを含む時系列の2以上の規定された数の前記スコアマップが前記スコアマップ保存部に保存された場合に、前記注目時刻のスコアマップを含む、前記時系列の2以上の規定された数のスコアマップについて、前記演算スコアマップを生成する請求項1から13のいずれか一項に記載の画像処理装置。
  15. 時系列の複数の医用画像を取得する画像取得部と、
    前記画像取得部を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成部と、
    前記スコアマップを保存するスコアマップ保存部と、
    前記スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算部と、
    を備え、
    前記スコアマップ演算部は、前記注目時刻のスコアマップを含む時系列の2以上の規定された数の前記スコアマップが前記スコアマップ保存部に保存された場合に、前記注目時刻のスコアマップを含む、前記時系列の2以上の規定された数のスコアマップについて、前記演算スコアマップを生成する画像処理装置。
  16. 内視鏡の動作を制御する内視鏡制御部と、
    前記内視鏡を用いた撮像を制御する撮像制御部と、
    前記内視鏡を用いて撮像して得られた内視鏡画像を処理する画像処理部と、
    を備え、
    前記画像処理部は、
    時系列の複数の医用画像として前記内視鏡画像を取得する画像取得部と、
    前記画像取得部を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成部と、
    前記スコアマップを保存するスコアマップ保存部と、
    前記スコアマップ保存部に保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算部と、
    を備えたプロセッサ装置。
  17. コンピュータが、
    時系列の複数の医用画像を取得する画像取得工程と、
    前記画像取得工程において取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成工程と、
    前記スコアマップを保存するスコアマップ保存工程と、
    前記スコアマップ保存工程において保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算工程と、
    を実行する画像処理方法であって、
    前記スコアマップ生成工程は、前記スコアマップとして、前記スコアを表す画素値を有する量子化画像を生成する画像処理方法。
  18. コンピュータが、
    時系列の複数の医用画像を取得する画像取得工程と、
    前記画像取得工程において取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成工程と、
    前記スコアマップを保存するスコアマップ保存工程と、
    前記スコアマップ保存工程において保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算工程と、
    を実行する画像処理方法であって、
    前記画像取得工程は、内視鏡を用いて取得した観察画像を取得する画像処理方法。
  19. コンピュータが、
    時系列の複数の医用画像を取得する画像取得工程と、
    前記画像取得工程において取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成工程と、
    前記スコアマップを保存するスコアマップ保存工程と、
    前記スコアマップ保存工程において保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算工程と、
    を実行する画像処理方法であって、
    スコアマップ演算工程は、演算対象の前記スコアマップに対して加重平均演算を施して、前記演算スコアマップを生成する画像処理方法。
  20. コンピュータが、
    時系列の複数の医用画像を取得する画像取得工程と、
    前記画像取得工程において取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成工程と、
    前記スコアマップを保存するスコアマップ保存工程と、
    前記スコアマップ保存工程において保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算工程と、
    を実行する画像処理方法であって、
    スコアマップ演算工程は、演算対象の前記スコアマップに対して平均演算を施して、前記演算スコアマップを生成する画像処理方法。
  21. コンピュータに、
    時系列の複数の医用画像を取得する画像取得機能、
    前記画像取得機能を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成機能、
    前記スコアマップを保存するスコアマップ保存機能、及び
    前記スコアマップ保存機能を用いて保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算機能を実現させるプログラムであって、
    前記スコアマップ生成機能は、前記スコアマップとして、前記スコアを表す画素値を有する量子化画像を生成するプログラム
  22. コンピュータに、
    時系列の複数の医用画像を取得する画像取得機能、
    前記画像取得機能を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成機能、
    前記スコアマップを保存するスコアマップ保存機能、及び
    前記スコアマップ保存機能を用いて保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算機能を実現させるプログラムであって、
    前記画像取得機能は、内視鏡を用いて取得した観察画像を取得するプログラム
  23. コンピュータに、
    時系列の複数の医用画像を取得する画像取得機能、
    前記画像取得機能を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成機能、
    前記スコアマップを保存するスコアマップ保存機能、及び
    前記スコアマップ保存機能を用いて保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算機能を実現させるプログラムであって、
    スコアマップ演算機能は、演算対象の前記スコアマップに対して加重平均演算を施して、前記演算スコアマップを生成するプログラム
  24. コンピュータに、
    時系列の複数の医用画像を取得する画像取得機能、
    前記画像取得機能を用いて取得した2つ以上の前記医用画像について、注目領域らしさのスコアの分布を表すスコアマップを生成するスコアマップ生成機能、
    前記スコアマップを保存するスコアマップ保存機能、及び
    前記スコアマップ保存機能を用いて保存したスコアマップについて、注目時刻のスコアマップと、注目時刻よりも過去の少なくとも1つのスコアマップとから1つの演算スコアマップを生成するスコアマップ演算機能を実現させるプログラムであって、
    スコアマップ演算機能は、演算対象の前記スコアマップに対して平均演算を施して、前記演算スコアマップを生成するプログラム
JP2019564350A 2018-01-10 2018-12-13 画像処理装置、プロセッサ装置、画像処理方法、及びプログラム Active JP7122328B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018002004 2018-01-10
JP2018002004 2018-01-10
PCT/JP2018/045952 WO2019138772A1 (ja) 2018-01-10 2018-12-13 画像処理装置、プロセッサ装置、画像処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2019138772A1 JPWO2019138772A1 (ja) 2020-12-10
JP7122328B2 true JP7122328B2 (ja) 2022-08-19

Family

ID=67219641

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019564350A Active JP7122328B2 (ja) 2018-01-10 2018-12-13 画像処理装置、プロセッサ装置、画像処理方法、及びプログラム

Country Status (2)

Country Link
JP (1) JP7122328B2 (ja)
WO (1) WO2019138772A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110136808B (zh) * 2019-05-23 2022-05-24 安翰科技(武汉)股份有限公司 一种拍摄装置辅助显示系统
WO2022224446A1 (ja) * 2021-04-23 2022-10-27 日本電気株式会社 画像処理装置、画像処理方法及び記憶媒体

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013037702A1 (en) 2011-09-14 2013-03-21 Siemens Aktiengesellschaft Method and a system for medical imaging
US20160235388A1 (en) 2015-02-17 2016-08-18 Siemens Aktiengesellschaft Vessel tree tracking in angiography videos

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013037702A1 (en) 2011-09-14 2013-03-21 Siemens Aktiengesellschaft Method and a system for medical imaging
US20160235388A1 (en) 2015-02-17 2016-08-18 Siemens Aktiengesellschaft Vessel tree tracking in angiography videos

Also Published As

Publication number Publication date
JPWO2019138772A1 (ja) 2020-12-10
WO2019138772A1 (ja) 2019-07-18

Similar Documents

Publication Publication Date Title
JP7270626B2 (ja) 医用画像処理装置、医用画像処理システム、医用画像処理装置の作動方法、プログラム、及び記憶媒体
JP7166430B2 (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム
JP7143504B2 (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム
US11298012B2 (en) Image processing device, endoscope system, image processing method, and program
JP7125479B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及び内視鏡システム
JP7289373B2 (ja) 医療画像処理装置、内視鏡システム、診断支援方法及びプログラム
WO2019130868A1 (ja) 画像処理装置、プロセッサ装置、内視鏡システム、画像処理方法、及びプログラム
JP2023115352A (ja) 医療画像処理装置、医療画像処理システム、医療画像処理装置の作動方法及び医療画像処理プログラム
US11564560B2 (en) Image processing apparatus, operating method of image processing apparatus, and computer-readable recording medium
JP7122328B2 (ja) 画像処理装置、プロセッサ装置、画像処理方法、及びプログラム
JP7387859B2 (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム
WO2019087969A1 (ja) 内視鏡システム、報知方法、及びプログラム
WO2019088008A1 (ja) 画像処理装置、画像処理方法、プログラム、及び内視鏡システム
US20210209398A1 (en) Medical image processing apparatus, processor device, medical image processing method, and program
JP7148625B2 (ja) 医用画像処理装置、プロセッサ装置、医用画像処理装置の作動方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220310

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220713

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220808

R150 Certificate of patent or registration of utility model

Ref document number: 7122328

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150