JP7391113B2 - 学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラム - Google Patents

学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラム Download PDF

Info

Publication number
JP7391113B2
JP7391113B2 JP2021572140A JP2021572140A JP7391113B2 JP 7391113 B2 JP7391113 B2 JP 7391113B2 JP 2021572140 A JP2021572140 A JP 2021572140A JP 2021572140 A JP2021572140 A JP 2021572140A JP 7391113 B2 JP7391113 B2 JP 7391113B2
Authority
JP
Japan
Prior art keywords
medical image
image
lesion
data
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021572140A
Other languages
English (en)
Other versions
JPWO2021149120A1 (ja
JPWO2021149120A5 (ja
Inventor
静児 坂元
明広 窪田
大和 神田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2021149120A1 publication Critical patent/JPWO2021149120A1/ja
Publication of JPWO2021149120A5 publication Critical patent/JPWO2021149120A5/ja
Application granted granted Critical
Publication of JP7391113B2 publication Critical patent/JP7391113B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/38Registration of image sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Description

本発明は、学習用の医療画像データを作成する学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラムに関する。
近年、医用画像に対して病変部の候補位置を示し、鑑別情報を表示するコンピュータ診断支援装置(CAD:Computer-Aided Diagnosis)が開発されている。例えば、日本国特開2005-185560号公報には、医用画像を教師データとして装置に学習させて、病変部を検出あるいは鑑別する医用画像処理システムが提案されている。日本国特開2005-185560号公報には、教師データを更新可能にしてCADの専門性を高くする医用画像処理システムが開示されている。
しかし、教師データを作成するとき、症例によっては病変部が認識し難い場合がある。その症例分野のエキスパートの医者であれば、病変部を認識できるが、その症例分野のエキスパートでない医者には、病変部の有無及びその病変領域を判別できない場合がある。例えば、白色光を用いた通常観察の内視鏡画像では、その症例分野のエキスパートでない医者には、症例によっては病変部が認識し難い場合がある。
従って、そのような病変部の有無及びその病変領域の判別が難しい医用画像を教師データにする場合、エキスパートが医用画像を実際に観て、病変部の病変領域の指定をする作業をしなければならない。そのため、病変部の画像データを医用画像処理システムに与えて学習させるための教師データの作成に膨大な時間が掛ってしまうという問題がある。
よって、本発明は、教師データを簡単に作成することができる学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラムを提供することを目的とする。
本発明の一態様の学習用医療画像データ作成装置は、第1の医療画像を取得する第1画像取得部と、前記第1の医療画像とは観察モードが異なり、前記第1の医療画像と略同一の箇所を撮影して得られた第2の医療画像を取得する第2画像取得部と、前記第1の医療画像と前記第2の医療画像の位置合わせを行う位置合わせ部と、前記位置合わせが行われた前記第2の医療画像内の病変部についての病変領域情報を作成する病変領域情報作成部と、前記位置合わせされた前記第2の医療画像内の前記病変領域情報を前記第1の医療画像に関連付けた教師データを作成するデータ作成部と、を有し、前記第1の医療画像、および、前記教師データで構成された学習データセットを作成する。
本発明の一態様の学習用医療画像データ作成方法は、第1の医療画像を取得し、前記第1の医療画像とは観察モードが異なり、前記第1の医療画像と略同一の箇所を撮影して得られた第2の医療画像を取得し、前記第1の医療画像と前記第2の医療画像の位置合わせを行い、前記位置合わせが行われた前記第2の医療画像内の病変部についての病変領域情報を作成し、前記前記位置合わせされた前記第2の医療画像内の前記病変領域情報を前記第1の医療画像に関連付けた教師データを作成し、前記第1の医療画像、および、前記教師データで構成された学習データセットを作成する。
本発明の一態様のプログラムは、コンピュータに、第1の医療画像を取得し、前記第1の医療画像とは観察モードが異なり、前記第1の医療画像と略同一の箇所を撮影して得られた第2の医療画像を取得し、前記第1の医療画像と前記第2の医療画像の位置合わせを行い、前記位置合わせが行われた前記第2の医療画像内の病変部についての病変領域情報を作成し、前記前記位置合わせされた前記第2の医療画像内の前記病変領域情報を前記第1の医療画像に関連付けた教師データを作成し、前記第1の医療画像、および、前記教師データで構成された学習データセットを作成する。
本実施形態に関わる医用システムの構成図である。 本実施形態に関わるサーバの構成を示すブロック図である。 本実施形態に関わる画像データの処理の流れの例を示すフローチャートである。 本実施形態に関わる、教師用データの作成プロセスを説明するための図である。 本実施形態に関わる教師データテーブルの構成を示す図である。
以下、図面を用いて実施形態を説明する。
(システム構成)
図1は、本実施形態に関わる医用システムの構成図である。医用システム1は、内視鏡システムであり、内視鏡装置2と、コンピュータ診断支援装置(以下、CAD装置という)3を含む。内視鏡装置2は、挿入部4aを有する内視鏡4と、内視鏡4から延出するユニバーサルケーブル5が接続されたビデオプロセッサ6と、ビデオプロセッサ6と接続された表示装置7を有する。内視鏡装置2は、信号線8によりCAD装置3と接続されている。
医者が挿入部4aを被検体内に挿入すると、挿入部4aの先端部の観察窓を通して得られた被検体内の部位の画像は、内視鏡画像として表示装置7に表示される。医者は、表示装置7に表示ざれる内視鏡画像を見て、病変部の発見及び鑑別を行う。なお、挿入部4aの先端からは検査部位を照明する照明光が、ビデオプロセッサ6内に設けられた光源装置6dからの光を挿入部4a内に挿通されたライトガイドを通して挿入部4aの先端部の照明窓から出射される。
ビデオプロセッサ6は、制御部6a、記憶装置6b、操作パネル6c及び光源装置6dを有する。医者などは、操作パネル6cを操作して、内視鏡装置2に対する各種指示を与えることができる。内視鏡装置2は、第1の観察モードと、第1の観察モードとは異なる第2の観察モードを有している。内視鏡装置2は、観察モードとして、所謂通常光観察モードである白色光観察モードと、所謂特殊光観察モードである狭帯域光観察モードの2つの観察モードを有する。観察モードの切り替えは、医者などが操作パネル6cを操作することによって行うことができる。よって、医者は、2つの観察モードのうち所望の1つの観察モードを選択して被検体内を観察することができる。なお、医者は、観察中に、観察モードを切り換えることもできる。
光源装置6dは、観察モードが白色光観察モードであるとき、白色光を出射し、観察モードが狭帯域光観察モードであるとき、所定の狭帯域光を出射する。白色光は、RGBの波長を含む広帯域光である。狭帯域光は、例えば中心波長が415nmと540nmの2つの狭帯域光である。
観察部位からの反射光は、図示しない撮像素子により光電変換されて内視鏡画像が生成される。生成された内視鏡画像は、表示装置7に表示されると共に、医者が内視鏡4の操作部4bに設けられたレリーズスイッチ4cを押下することにより、静止画又は動画で記憶装置6bに記憶させることができる。よって、各観察モードで得られた静止画及び動画の内視鏡画像の画像データは、記憶装置6bに記録される。
制御部6aは、中央処理装置(CPU)、ROM、RAMを含む。記憶装置6bは、ハードディスク装置などの書き換え可能な大容量の不揮発性メモリである。制御部6aは、ROM及び記憶装置6bに記憶されている各種機能のためのソフトウエアプログラムを読み出してRAMに展開して実行することにより、内視鏡装置2の各種機能を実現する。
内視鏡装置2とCAD装置3は、信号線8により通信可能となっている。CAD装置3には、内視鏡装置2からの内視鏡画像の画像データがリアルタイムで入力される。CAD装置3は、入力された内視鏡画像の画像データ中の病変部を検出し、その検出結果情報を内視鏡装置2へ出力する。内視鏡装置2は、検出結果情報を内視鏡画像と共に表示装置7に表示する。
CAD装置3は、病変部検出プログラムLDPを有している。ここでは、病変部検出プログラムLDPの病変部検出アルゴリズムは、病変部を含む画像データを教師データとして機械学習して得られたモデルを利用している。よって、CAD装置3は、その病変部検出プログラムLDPを用いて、内視鏡装置2から受信した内視鏡画像中の病変部の検出をリアルタイムで行う。CAD装置3は、内視鏡画像中に病変部を発見すると、発見した病変部の領域情報を抽出して、病変部の検出メッセージなどを内視鏡装置2へ送信する。内視鏡装置2の表示装置7には、CAD装置3からの検出メッセージが表示される。その結果、医者は、表示装置7に表示される内視鏡画像を見ながら、CAD装置3からの病変部検出結果を認識することができる。
内視鏡装置2は、サーバ11とネットワーク12により接続されている。ネットワーク12は、インターネットでもよいし、LANでもよい。サーバ11は、プロセッサ13と記憶装置14を有している。サーバ11は、後述するように、内視鏡装置2において得られた内視鏡画像の画像データから、教師データを作成する教師データ作成プログラムTDCを有している。
図2は、サーバ11の構成を示すブロック図である。サーバ11は、プロセッサ13と、記憶装置14と、通信回路15と、表示装置16と、キーボードとマウスを含む入力装置17を有している。プロセッサ13、記憶装置14、通信回路15、表示装置16及び入力装置17は、バス18を介して互いに接続されている。なお、表示装置16と入力装置17は、それぞれインターフェース(I/F)16a、17aを介して、バス18に接続されている。
プロセッサ13は、中央処理装置(CPU)、ROM、RAMを含む。プロセッサ13は、ROM及び記憶装置14に記憶されているプログラムを読み出して実行する。なお、プロセッサ13の一部がFPGA(Field Programmable Gate Array)などの半導体装置、電子回路などで構成されていてもよい。
記憶装置14は、各種プログラムを記憶するプログラム記憶領域14a、第1画像G1を記憶する第1画像記憶領域14b、第2画像G2を記憶する第2画像記憶領域14c、及び教師データを記憶する教師データ記憶領域14dを含む。第1画像G1は、内視鏡装置2において白色光観察モードで得られた白色光画像であり、第2画像G2は、内視鏡装置2において狭帯域光観察モードで得られた狭帯域光画像である。
プログラム記憶領域14aは、教師データ作成プログラムTDCと病変部検出アルゴリズム作成プログラムLDCを含む。教師データ作成プログラムTDCは、内視鏡装置2において得られた内視鏡画像を用いて、病変部検出アルゴリズムのための教師データを作成するソフトウエアプログラムである。教師データ作成プログラムTDCの処理については、後述する。
病変部検出アルゴリズム作成プログラムLDCの病変部検出アルゴリズムは、教師データ作成プログラムTDCにより作成された教師データを用いて学習されたアルゴリズムである。病変部検出アルゴリズム作成プログラムLDCは、CAD装置3に格納される病変部検出プログラムLDPの検出アルゴリズムの部分のプログラムを生成する。
なお、ここでは、教師データ作成プログラムTDCは、サーバ11において実行されるが、パーソナルコンピュータなどのコンピュータでもよい。
(教師データの作成処理)
教師データの作成処理について説明する。図3は、画像データの処理の流れの例を示すフローチャートである。図3は、教師データ作成プログラムTDCの処理を示す。教師データ作成プログラムTDCは、プロセッサ13により記憶装置14から読み出されて実行される。
教師データの作成処理が行われる前に、内視鏡装置2において取得された各観察モードの内視鏡画像は、ネットワーク12を介してサーバ11に転送される。白色光観察モードで撮影されて取得された白色光画像は、第1画像G1として、第1画像記憶領域14bに記憶される。狭帯域光観察モードで撮影されて取得された狭帯域光画像は、第2画像G2として、第2画像記憶領域14cに記憶される。よって、内視鏡装置2において検査毎に取得された2つの観察モードの多くの内視鏡画像の画像データが、第1画像記憶領域14bと第2画像記憶領域14cに記憶され蓄積されている。
なお、ここでは、第1画像G1と第2画像G2の画像データは、内視鏡装置2からサーバ11にネットワーク12を介して転送されているが、第1画像G1と第2画像G2の画像データを記憶装置6bからUSB(Universal Serial Bus)メモリなどの記憶媒体に転送して記録し、その記憶媒体をサーバ11に装着して第1画像G1と第2画像G2の画像データを第1画像記憶領域14bと第2画像記憶領域14cに記憶させるようにしてもよい。
プロセッサ13は、教師データ作成プログラムTDCを実行して、第1画像と第2画像を用いて教師用データを作成する。まず、プロセッサ13は、第1画像記憶領域14bから第1画像G1を取得する(ステップ(以下、Sと略す)1)。第1画像G1の取得は、第1画像記憶領域14bに記憶された複数の内視鏡画像の中から1枚を、教師用データを作成するデータ作成者に選択させることにより行われる。例えば、データ作成者は、第1画像記憶領域14bに記憶された複数の白色光画像を表示装置16に表示させて、表示された複数の白色光画像の中から1枚を入力装置17により選択する。
次に、プロセッサ13は、第2画像記憶領域14cから第2画像G2を取得する(S2)。第2画像G2の取得も、第2画像記憶領域14cに記憶された複数の内視鏡画像の中から1枚を、教師用データを作成するデータ作成者に選択させることにより行われる。例えば、データ作成者は、第2画像記憶領域14cに記憶された複数の狭帯域光画像を表示装置16に表示させて、表示された複数の狭帯域光画像の中から1枚を選択する。
従って、S1の処理は、第1の医療画像を取得する第1画像取得部を構成し、S2の処理は、第1の医療画像とは異なり、第1の医療画像と略同一の箇所を撮影して得られた第2の医療画像を取得する第2画像取得部を構成する。
なお、第1画像記憶領域14bに記憶された白色光画像が、動画であるときは、データ作成者は、再生中の動画を見ながら、一時停止して特定された1枚の静止画が、第1画像G1として選択されて取得される。同様に、第2画像記憶領域14cに記憶された狭帯域光画像が、動画であるときは、データ作成者は、再生中の動画を見ながら、一時停止して特定された1枚の静止画が、第2画像G2として選択されて取得される。すなわち、第1の医療画像と第2の医療画像は、それぞれ動画から選択された静止画でもよい。
プロセッサ13は、取得された第2画像G2中の病変部の病変領域を抽出する(S3)。病変部の病変領域の抽出は、第2画像G2中の色調の差、所定の特徴量の有無、等々により抽出することができる。例えば、所定の色の輝度値が、所定の閾値以上の画素値のある領域が病変領域として抽出される。
なお、ここでは、プロセッサ13が病変領域を、画像処理により抽出しているが、データ作成者が表示装置16に表示された第2画像G2上で、マウスなどの入力装置17を用いて病変部の領域の境界をなぞるようにして病変領域を設定してもよい。
プロセッサ13は、第1画G1像と第2画像G2の位置合わせを行う(S4)。S3では、第1画像G1と第2画像G2のそれぞれにおける2以上の特徴点を抽出し、抽出された2以上の特徴点に基づいて、第1画像G1と第2画像G2のずれ量が検出され調整される。なお、第1画像G1中の血管パターンと第2画像G2中の血管パターンの位置などを比較して、第1画像G1と第2画像G2のずれ量を検出してもよい。S4の処理が、第1の医療画像と第2の医療画像の位置合わせを行う位置合わせ部を構成する。
図4は、教師用データの作成プロセスを説明するための図である。S1,S2において、白色光画像である第1画像G1と狭帯域光画像である第2画像G2が、データ作成者によって選択される。第1画像G1は、白色光画像であり、病変部は視認し難く表示されている。一方、第2画像G2は、上述した2つの狭帯域光を用いた狭帯域光画像であり、病変領域LRは、第2画像G2中に識別可能に表示されている。第1画像G1が取得されたときとは別のタイミングで、第2画像は取得されたため、第1画像G1と第2画像G2は、被検体内の略同一の箇所を撮影して得られた画像であっても視点位置等が異なっている。
そこで、S4では、第1画像G1と第2画像G2のそれぞれにおける2以上の特徴点を検出して、2以上の特徴点の位置から、第1画像G1上に対する第2画像G2のずれ量が算出され、算出されたずれ量に基づいて第1画像G1と第2画像G2の位置合わせが行われる。図4では、二点鎖線で示す第2画像G2の中心位置は、XY方向において第1画像G1の中心位置に対してずれているだけでなく、第2画像G2は第1画像G1に対して視線方向周りに角度θだけ回転している。よって、S4では、第2画像G2の第1画像G1に対する、XY方向における位置ズレ量と、視線方向周りの回転角θが検出され、第1画像の被写体像と第2画像中の被写体像の位置合わせが行われる。
なお、位置合わせには、被写体の大きさを調整するための第2画像G2のサイズの拡大又は縮小処理を含んでもよい。第1画像G1が取得されたときの挿入部4aの先端から被写体までの距離が、第2画像G2が取得されたときの挿入部4aの先端から被写体までの距離と異なる場合があるからである。
さらになお、図4の例では、第2画像G2の第1画像G1に対する、XY方向における位置ズレ量と視線方向周りの回転角θが検出されているが、第1画像G1の視線方向と第2画像G2の視線方向の成す角度を検出して、その角度についても位置合わせを行うようにしてもよい。すなわち、第1画像G1の視線方向に直交する面と、第2画像G2の視線方向に直交する面とは平行でないとき、第2画像G2の視線方向に直交する面が第1画像G1の視線方向に直交する面と平行になるように、第2画像G2を変形するように補正してもよい。
S4の後、プロセッサ13は、マスク領域MRの設定を行う(S5)。マスク領域MRは、第1画像G1において病変領域LR以外の領域をマスクする領域である。よって、図4において、位置合わせがされた第2画像G2中の病変領域LRの、第1画像G1における領域(二点鎖線で示す)以外の領域が、マスク画像MGのマスク領域MR(斜線で示す領域)である。S5では、マスク領域MRを規定するマスク画像MGが生成される。
なお、ここでは、マスク領域MRが設定されているが、S5において、病変領域LRの領域を示す病変領域情報を生成するようにしてもよい。具体的には、図4において第1画像G1中の二点鎖線で示す領域(すなわち病変領域LR)を指定する情報を、S5において生成するようにしてもよい。
よって、S5の処理は、第2の医療画像(狭帯域光画像)内の病変部についての病変領域情報(マスク領域情報又は病変領域情報)を作成する病変領域情報作成部を構成する。S5では、第1の医療画像に対して位置合わせが行われた第2の医療画像内の病変部の病変領域から病変領域情報が作成される。
S5の後、プロセッサ13は、教師データを作成し、教師データ記憶領域14dの教師データテーブルTBLに記憶する(S6)ここで作成される教師データは、第1画像G1の画像データとマスク画像MGのマスク領域情報MRIを含む。すなわち、教師データは、第1画像G1と病変領域情報とを関連付ける学習用医療画像データを構成する。
図5は、教師データテーブルTBLの構成を示す図である。教師データテーブルTBLは、第1画像G1の画像データと、その第1画像G1における病変領域を示すマスク領域情報MRIとからなる組のデータを複数格納する。図5に示すように、例えば、第1画像データ「G100001」とマスク領域情報「MRI00001」が1つの組のデータを構成する。各組のデータが1つの教師データを構成する。よって、S6の処理が、第1の医療画像(白色光画像)と病変領域情報とを関連付ける学習用医療画像データを作成するデータ作成部を構成する。
以上のS1からS6の処理が実行されることにより、1つの教師データが作成される。よって、データ作成者は、S1からS6の処理を繰り返すことにより、学習用医療画像データである教師データを簡単に多く作成することができる。
作成された教師データは、病変部検出プログラムLDPの病変部検出アルゴリズムの病変部検出モデルの学習用医療画像データとして用いられる。教師データが増えることより、機械学習により得られた病変部検出モデルは、更新され、病変部検出アルゴリズムの病変部検出精度の向上が期待される。更新された病変部検出モデルを利用した病変部検出プログラムLDPは、サーバ11からネットワーク12を介して、点線で示すように、CAD装置3に送信され、病変部検出アルゴリズムのソフトウエアプログラムは更新される。その結果、内視鏡装置2には、病変部検出精度の向上した検出結果情報が内視鏡画像と共に表示装置7に表示される。
従って、上述した実施形態によれば、教師データを簡単に作成することができる学習用医療画像データ作成装置を提供することができる。
なお、上述した実施形態では、第1画像G1と第2画像の位置合わせ処理(S4)が行われているが、観察モードの切り替えタイミングで得られた第1画像G1と第2画像G2の場合は、位置合わせ処理を行わなくてもよい。
例えば、白色光観察モードで白色光画像が取得された直後に、操作パネル6cが操作されて観察モードが白色光観察モードから狭帯域光観察モードに切り替わり、その切り替わった直後に狭帯域光画像が取得される場合がある。このような場合は、内視鏡4の挿入部4aの位置及び向きはほとんど変化していない場合がある。
あるいは、観察モードが切り替えタイミングに応じて、切り替え直前の白色光画像(又は狭帯域光画像)と、切り替え直後の狭帯域光画像(又は白色光画像)とが、それぞれ第1画像G1と第2画像G2として自動的に取得されるようにしたときは、第1画像G1と第2画像G2が取得されたときの内視鏡4の挿入部4aの位置及び向きはほとんど変化していない。
よって、このようにして取得された第1画像G1と第2画像G2から教師データを作成する場合には、図3のS4の処理は省略することができる。
さらになお、上述した実施形態では、内視鏡装置2は、白色光観察モードと狭帯域光観察モードの2つの観察モードを有し、第1画像が白色光画像で、第2画像は、中心波長が415nmと540nmの2つの狭帯域光の狭帯域光画像であるが、所望の病変を検出できるが波長であれば、第2画像は、中心波長が415nmと540nm以外の波長帯域の狭帯域光画像でもよい。
また、内視鏡装置2が、白色光観察モードと、狭帯域光観察モード以外の観察モードとを有し、第1画像が白色光画像で、第2画像は、蛍光観察画像でもよい。
さらにまた、第1画像が白色光画像で、第2画像は、ヨードを含むルゴール溶液などにより観察部位を染色した染色画像、インジゴカルミンなどを観察部位に散布した着色画像でもよい。
さらにまた、第1画像が白色光画像で、第2画像は、他のモダリティにより得られた画像(X線画像、超音波画像など)や、その後に鉗子により生検が行われた領域を含む画像などでもよい。
上述した実施形態及び各変形例によれば、例えばエキスパートの医者以外には病変部の認識が難しい又はできないような症例についても、教師データを迅速に作成することができる。その結果、上述した実施形態及び各変形例の学習用医療画像データ作成装置は、病変部の見落とし率を低減した、確度の高い生検箇所の提示をすることができるCAD装置の迅速な提供に寄与する。
なお、以上説明した動作を実行するプログラムは、コンピュータプログラム製品として、フレキシブルディスク、CD-ROM等の可搬媒体や、ハードディスク等の記憶媒体に、その全体あるいは一部が記録され、あるいは記憶されている。そのプログラムがコンピュータにより読み取られて、動作の全部あるいは一部が実行される。あるいは、そのプログラムの全体あるいは一部を通信ネットワークを介して流通または提供することができる。利用者は、通信ネットワークを介してそのプログラムをダウンロードしてコンピュータにインストールしたり、あるいは記録媒体からコンピュータにインストールすることで、容易に本発明の学習用医療画像データ作成装置を実現することができる。
本発明は、上述した実施の形態に限定されるものではなく、本発明の要旨を変えない範囲において、種々の変更、改変等が可能である。

Claims (10)

  1. 第1の医療画像を取得する第1画像取得部と、
    前記第1の医療画像とは観察モードが異なり、前記第1の医療画像と略同一の箇所を撮影して得られた第2の医療画像を取得する第2画像取得部と、
    前記第1の医療画像と前記第2の医療画像の位置合わせを行う位置合わせ部と、
    前記位置合わせが行われた前記第2の医療画像内の病変部についての病変領域情報を作成する病変領域情報作成部と、
    前記位置合わせされた前記第2の医療画像内の前記病変領域情報を前記第1の医療画像に関連付けた教師データを作成するデータ作成部と、を有し、
    前記第1の医療画像、および、前記教師データで構成された学習データセットを作成する、学習用医療画像データ作成装置。
  2. 前記第1の医療画像と前記第2の医療画像は、それぞれ動画から選択された静止画である、請求項1に記載の学習用医療画像データ作成装置。
  3. 前記第1の医療画像は、第1の観察モードで撮影された画像であり、前記第2の医療画像は、前記第1の観察モードとは異なる第2の観察モードで撮影された画像である、請求項1に記載の学習用医療画像データ作成装置。
  4. 前記第1の観察モードは、白色光観察モードであり、
    前記第2の観察モードは、狭帯域光観察モードである、請求項3に記載の学習用医療画像データ作成装置。
  5. 前記位置合わせ部は、前記第1の医療画像の視線方向と前記第2の医療画像の視線方向のなす角度を検出し、前記角度に基づき前記位置合わせを行う、請求項1に記載の学習用医療画像データ作成装置。
  6. 第1の医療画像を取得し、
    前記第1の医療画像とは観察モードが異なり、前記第1の医療画像と略同一の箇所を撮影して得られた第2の医療画像を取得し、
    前記第1の医療画像と前記第2の医療画像の位置合わせを行い、
    前記位置合わせが行われた前記第2の医療画像内の病変部についての病変領域情報を作成し、
    前記前記位置合わせされた前記第2の医療画像内の前記病変領域情報を前記第1の医療画像に関連付けた教師データを作成し、
    前記第1の医療画像、および、前記教師データで構成された学習データセットを作成する、学習用医療画像データ作成方法。
  7. コンピュータに、
    第1の医療画像を取得し、
    前記第1の医療画像とは観察モードが異なり、前記第1の医療画像と略同一の箇所を撮影して得られた第2の医療画像を取得し、
    前記第1の医療画像と前記第2の医療画像の位置合わせを行い、
    前記位置合わせが行われた前記第2の医療画像内の病変部についての病変領域情報を作成し、
    前記前記位置合わせされた前記第2の医療画像内の前記病変領域情報を前記第1の医療画像に関連付けた教師データを作成し、
    前記第1の医療画像、および、前記教師データで構成された学習データセットを作成する、処理を実行させるプログラム。
  8. 前記病変領域情報作成部は、前記位置合わせが行われた前記第2の医療画像内の病変部の領域の境界をなぞるようにして前記病変領域情報を作成することを特徴とする請求項1に記載の学習用医療画像データ作成装置。
  9. 前記病変領域情報は、前記位置合わせが行われた前記第2の医療画像内の病変部の領域の境界をなぞるようにして作成されることを特徴とする請求項6に記載の学習用医療画像データ作成方法。
  10. 前記病変領域情報は、前記位置合わせが行われた前記第2の医療画像内の病変部の領域の境界をなぞるようにして作成されることを特徴とする請求項7に記載のプログラム。
JP2021572140A 2020-01-20 2020-01-20 学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラム Active JP7391113B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/001783 WO2021149120A1 (ja) 2020-01-20 2020-01-20 学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラム

Publications (3)

Publication Number Publication Date
JPWO2021149120A1 JPWO2021149120A1 (ja) 2021-07-29
JPWO2021149120A5 JPWO2021149120A5 (ja) 2022-09-08
JP7391113B2 true JP7391113B2 (ja) 2023-12-04

Family

ID=76991702

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021572140A Active JP7391113B2 (ja) 2020-01-20 2020-01-20 学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラム

Country Status (4)

Country Link
US (1) US20220351396A1 (ja)
JP (1) JP7391113B2 (ja)
CN (1) CN115023171A (ja)
WO (1) WO2021149120A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006141686A (ja) 2004-11-19 2006-06-08 Pentax Corp 電子内視鏡システム
JP2010172673A (ja) 2009-02-02 2010-08-12 Fujifilm Corp 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法
JP2013188364A (ja) 2012-03-14 2013-09-26 Fujifilm Corp 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムにおける露光量調整方法
WO2019235195A1 (ja) 2018-06-04 2019-12-12 富士フイルム株式会社 画像処理装置、内視鏡システム、及び画像処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006141686A (ja) 2004-11-19 2006-06-08 Pentax Corp 電子内視鏡システム
JP2010172673A (ja) 2009-02-02 2010-08-12 Fujifilm Corp 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡検査支援方法
JP2013188364A (ja) 2012-03-14 2013-09-26 Fujifilm Corp 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムにおける露光量調整方法
WO2019235195A1 (ja) 2018-06-04 2019-12-12 富士フイルム株式会社 画像処理装置、内視鏡システム、及び画像処理方法

Also Published As

Publication number Publication date
WO2021149120A1 (ja) 2021-07-29
JPWO2021149120A1 (ja) 2021-07-29
US20220351396A1 (en) 2022-11-03
CN115023171A (zh) 2022-09-06

Similar Documents

Publication Publication Date Title
JP7127785B2 (ja) 情報処理システム、内視鏡システム、学習済みモデル、情報記憶媒体及び情報処理方法
JP5486432B2 (ja) 画像処理装置、その作動方法およびプログラム
JP6463038B2 (ja) 画像位置合せ装置、方法およびプログラム
JP4676021B2 (ja) 診断支援装置、診断支援プログラムおよび診断支援方法
JP5675227B2 (ja) 内視鏡画像処理装置および作動方法、並びに、プログラム
JP7166430B2 (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム
JP6254053B2 (ja) 内視鏡画像診断支援装置、システムおよびプログラム、並びに内視鏡画像診断支援装置の作動方法
WO2014168128A1 (ja) 内視鏡システム及び内視鏡システムの作動方法
WO2019220916A1 (ja) 医療画像処理装置、医療画像処理方法及び内視鏡システム
JP5934070B2 (ja) 仮想内視鏡画像生成装置およびその作動方法並びにプログラム
JP5961504B2 (ja) 仮想内視鏡画像生成装置およびその作動方法並びにプログラム
KR101595962B1 (ko) 대장내시경 수술 시뮬레이션시스템
JPWO2019130868A1 (ja) 画像処理装置、プロセッサ装置、内視鏡システム、画像処理方法、及びプログラム
JP7385731B2 (ja) 内視鏡システム、画像処理装置の作動方法及び内視鏡
JP7194889B2 (ja) コンピュータプログラム、学習モデルの生成方法、手術支援装置、及び情報処理方法
JP7457415B2 (ja) コンピュータプログラム、学習モデルの生成方法、及び支援装置
JP2008054763A (ja) 医療画像診断装置
US10631948B2 (en) Image alignment device, method, and program
JP6840263B2 (ja) 内視鏡システム及びプログラム
JP7391113B2 (ja) 学習用医療画像データ作成装置、学習用医療画像データ作成方法及びプログラム
US20220346632A1 (en) Image processing apparatus, image processing method, and non-transitory storage medium storing computer program
JP7311936B1 (ja) コンピュータプログラム、学習モデルの生成方法、及び情報処理装置
WO2024029502A1 (ja) 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体
US20220414885A1 (en) Endoscope system, medical image processing device, and operation method therefor

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220714

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230815

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231121

R151 Written notification of patent or utility model registration

Ref document number: 7391113

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151