WO2019220916A1 - 医療画像処理装置、医療画像処理方法及び内視鏡システム - Google Patents

医療画像処理装置、医療画像処理方法及び内視鏡システム Download PDF

Info

Publication number
WO2019220916A1
WO2019220916A1 PCT/JP2019/017650 JP2019017650W WO2019220916A1 WO 2019220916 A1 WO2019220916 A1 WO 2019220916A1 JP 2019017650 W JP2019017650 W JP 2019017650W WO 2019220916 A1 WO2019220916 A1 WO 2019220916A1
Authority
WO
WIPO (PCT)
Prior art keywords
attention
coordinate
coordinates
image processing
unit
Prior art date
Application number
PCT/JP2019/017650
Other languages
English (en)
French (fr)
Inventor
正明 大酒
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to CN201980029220.8A priority Critical patent/CN112055555A/zh
Priority to EP19804568.4A priority patent/EP3795063A4/en
Priority to JP2020519555A priority patent/JP7125479B2/ja
Publication of WO2019220916A1 publication Critical patent/WO2019220916A1/ja
Priority to US17/081,993 priority patent/US11616931B2/en
Priority to US18/169,150 priority patent/US20230199152A1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Definitions

  • the coordinate calculation unit 43 acquires attention area information from the attention area information acquisition unit 42, and based on the acquired attention area information, obtains a plurality of attention coordinates on the outline of a polygon or circle having a symmetrical shape surrounding the attention area. calculate.
  • the coordinate calculation unit 43 calculates the coordinates of four vertices of a rectangle (rectangle indicated by a broken line) inscribed in the attention area 60 as attention coordinates P1 to P4 as shown in FIG.
  • the display device 16 can input and display image data indicating the graphics S1 to S4, so that the notification information including the graphics S1 to S4 for notifying the attention area of the image being displayed can be superimposed and displayed on the image.
  • the two types of notification information shown in FIG. 9 are obtained when the coordinates of a point that equally divides the circumference of a circle surrounding the region of interest into a plurality of points (points divided into four in the example of FIG. 9) are the attention coordinates. It is applied and consists of four arc figures.
  • the attention area detection unit 41 shown in FIG. 2 can simultaneously detect a plurality of attention areas 66 and 67 by CNN when there are a plurality of attention areas in one frame image.
  • the medical image processing apparatus 14 has a function for appropriately controlling update of the notification information mainly with respect to fluctuations in the image (attention area) of the time series image.
  • a determination unit 52 and a coordinate storage unit 53 are added.
  • control unit 44 determines whether or not to end the display of the notification information based on the input from the operation unit 15 or the like (step S26). If not, the control unit 44 returns to step S10, and from step S10. When the process of step S26 is repeatedly executed to end the display of the notification information, the medical image process is ended.

Abstract

時系列画像の注目領域を図形により報知する場合に、注目領域とその周辺領域との比較を容易にし、かつ注目領域を見逃しにくくすることができる医療画像処理装置、医療画像処理方法及び内視鏡システムを提供する。座標算出部(43)は、時系列画像の注目領域を示す注目領域情報に基づいて注目領域を囲む対称な形状を有する多角形又は円の輪郭線上の複数の注目座標を算出する。報知情報表示制御部(45B)は、注目領域を報知する図形を時系列画像に重畳させる際に、算出された複数の注目座標に基づいて図形をそれぞれ重畳させる。ここで、図形は、注目領域の大きさに対してサイズが変わらない図形である。

Description

医療画像処理装置、医療画像処理方法及び内視鏡システム
 本発明は医療画像処理装置、医療画像処理方法及び内視鏡システムに係り、特に時系列画像の注目領域を報知する技術に関する。
 医療分野においては、内視鏡システムを用いた検査が行われている。近年、内視鏡スコープにより撮像された時系列画像(動画)をモニタに表示し、一方、時系列画像の画像解析によって時系列画像に含まれる病変領域などの注目領域の認識を行い、注目領域を報知することで検査を支援することが知られている。
 内視鏡の検査時に、認識器によって画像(時系列画像)中から病変を検出した場合、モニタに表示されている画像中の病変領域を枠で囲むことで、病変を報知することができる。
 特許文献1に記載の内視鏡画像処理装置は、検出部によって病変部等の特徴領域が検出された場合、特徴領域が検出されたことを報知する第1表示画像を生成する報知部と、特徴領域に対する強調処理が行われた第2表示画像を生成する強調処理部と、を備えている。
 報知部により生成される第1表示画像は、観察画像と、観察画像の表示領域とは別の表示領域に表示される報知画像(例えば、フラグ等)とからなる。術者は、第1表示画像上にフラグが立つと(報知画像が表示されると)、より注意深く観察画像を観察し、術者が自ら目視によって病変部を発見することが可能になる。
 強調処理部により生成される第2表示画像は、観察画像又は静止画内の特徴領域に対して強調処理を施した観察画像又は静止画である。ここで、強調処理は、画像内の特徴領域の位置を示す表示を行う処理であり、例えば、病変候補領域を囲むマーカ画像(四角形の枠)を表示させる処理である。
 また、特許文献1には、マーカ画像は、四角形の枠画像に限らず、例えば、三角形、円形、星形等どのような枠画像でも構わないという記載がある。更に、マーカ画像は、病変候補領域を囲む枠画像に限らず、病変候補領域の位置を示すことができるものであれば、病変候補領域を囲まない画像であっても構わないという記載がある(特許文献1の段落[0031])。
 また、特許文献1に記載の画像処理装置は、生体組織を撮像した画像データを取得し、取得した画像データに基づき、画像データが表す画像に写された生体組織の病変の重症度を示すスコアを画素毎に計算し、スコアが高い領域を囲むように印を付すマーキングを行っている。特許文献2の図14(c-1)には、スコアが高い領域を囲むように配列された複数の符号や図形(例えば矢印)からなる印を付した例が示されており、図14(c-2)には、スコアが高い領域を囲む環状の印を付した例が示されている。
 特許文献1には、マーカ画像は、病変候補領域を囲む枠画像に限らず、病変候補領域を囲まない画像であっても構わないという記載があるが、病変候補領域を囲まない画像とは、例えば、病変候補領域の明るさや色調を周辺領域とは異なるものとすることによって病変候補領域の位置を示すものであり、この場合も病変候補領域の明るさや色調が変化するため、病変領域と周辺との比較が困難となる。
 また、特許文献1に記載の発明によれば、観察画像の表示領域とは別の表示領域に表示される報知画像とからなる第1表示画像を表示することで、観察画像の観察が報知画像により阻害されることはないが、報知画像のみでは観察画像の何れの領域に病変領域が存在するかを直ちに確認することができない。一方、第1表示画像から第2表示画像に切り替える場合にはその切り替え操作が煩雑になり、第1表示画像と第2表示画像とを同時に表示する場合には、第1表示画像及び第2表示画像の表示領域が小さくなる。
 特許文献2には、生体組織の病変の重症度を示すスコアが高い領域を囲むように、複数の矢印を配列してなるマーキング画像をオーバーレイ表示する記載があるが、画素毎にスコアを計算し、その計算結果に基づいて複数の矢印をスコアが高い領域の境界に配列するため、矢印の数が多くなり、重症度の高い領域とその周辺との比較が困難となる場合がある。
国際公開第2017/073338号 特開2016-158681号公報
 ところで、特許文献1に記載の第2表示画像のように、マーカ画像として四角形等の枠画像を使用し、枠画像により観察画像中の病変領域を囲ってしまうと、周辺との比較が困難となる場合がある。
 本発明はこのような事情に鑑みてなされたもので、時系列画像の注目領域を図形により報知する場合に、注目領域とその周辺領域との比較を容易にし、かつ注目領域を見逃しにくくすることができる医療画像処理装置、医療画像処理方法及び内視鏡システムを提供することを目的とする。
 上記目的を達成するために本発明の一の態様に係る医療画像処理装置は、時系列画像の注目領域を示す注目領域情報に基づいて注目領域を囲む対称な形状を有する多角形又は円の輪郭線上の複数の注目座標を算出する座標算出部と、複数の注目座標に基づいて図形を時系列画像にそれぞれ重畳させる報知情報表示制御部と、を備え、図形は、注目領域の大きさに対してサイズが変わらない図形である。
 本発明の一の態様によれば、時系列画像の注目領域を示す注目領域情報に基づいて注目領域を囲む対称な形状を有する多角形又は円の輪郭線上の複数の注目座標を算出する。図形を時系列画像に重畳させる際に、算出した複数の注目座標に基づいて図形をそれぞれ時系列画像に重畳させるが、図形は、注目領域の大きさに対してサイズが変わらない図形であり、注目領域の大きさ(注目座標間の間隔)により重畳する位置が変化しても図形のサイズ自体は変わらない。
 したがって、各注目座標に基づいて時系列画像に重畳される各図形の間隔は、注目領域の大きさに応じて離間し、注目領域が大きくなると、複数の図形は、各図形が互いに疎になって目立たなくり、大きな注目領域とその周辺領域との比較を阻害しないようになる。一方、注目領域が小さくなると、複数の図形は、各図形が互いに密になって目立ちやすくなり、小さな注目領域を見逃しにくくすることができる。
 本発明の他の態様に係る医療画像処理装置において、被写体像を含む時系列画像を取得する時系列画像取得部と、時系列画像取得部が取得した時系列画像から注目領域を検出する注目領域検出部と、注目領域検出部から注目領域を示す注目領域情報を取得する注目領域情報取得部と、を備えることが好ましい。注目領域検出部は、例えば、学習によって画像から特徴量を算出し、注目領域の認識処理を行う畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)を適用することができる。
 本発明の更に他の態様に係る医療画像処理装置において、座標算出部は、多角形の頂点の座標を、複数の注目座標として算出することが好ましい。
 本発明の更に他の態様に係る医療画像処理装置において、座標算出部は、多角形の辺の中点の座標を、複数の注目座標として算出することが好ましい。
 本発明の更に他の態様に係る医療画像処理装置において、多角形は、注目領域が内接する多角形であることが好ましい。これにより、注目領域を囲むように複数の図形を配置することができる。
 本発明の更に他の態様に係る医療画像処理装置において、多角形は四角形であることが好ましい。
 本発明の更に他の態様に係る医療画像処理装置において、座標算出部は、円の円周を複数に等分割する点の座標を、複数の注目座標として算出することが好ましい。この場合、注目座標の数と円周を等分割する点の数とは一致する。
 本発明の更に他の態様に係る医療画像処理装置において、円は、注目領域が内接する円であることが好ましい。これにより、注目領域を囲むように複数の図形を配置することができる。
 本発明の更に他の態様に係る医療画像処理装置において、座標算出部が算出した注目座標を基準座標として記憶する座標記憶部と、座標記憶部に記憶された基準座標と座標算出部が算出した注目座標とを比較し、基準座標と注目座標との変化量が閾値を超えているか否かを判別する判別部と、を備え、判別部により変化量が閾値以下と判別されると、報知情報表示制御部は、座標記憶部に記憶された基準座標に基づいて図形を重畳させ、判別部により変化量が閾値を超えていると判別されると、報知情報表示制御部は、座標算出部により算出された注目座標に基づいて図形を重畳させ、かつ座標記憶部に記憶された基準座標を、座標算出部により算出された注目座標により更新することが好ましい。
 時系列画像の注目領域は、時間とともに大きさや位置が変動し得るが、注目領域の僅かな変動に合せて図形を追従させると、図形が頻繁に移動して見苦しくなる。そこで、新たに算出された注目座標と一時的に記憶されている基準座標との変化量が閾値以下の場合には、基準座標に基づいて図形を重畳させることで、図形の移動を抑制し、変化量が閾値を超える場合には、算出された注目座標に基づいて図形を重畳させ、かつ基準座標を、算出された注目座標により更新する。
 本発明の更に他の態様に係る医療画像処理装置において、座標算出部が算出した注目座標を基準座標として記憶し、基準座標の中心に位置する座標を第1中心座標として記憶する座標記憶部と、座標記憶部に記憶された第1中心座標と座標算出部が算出した注目座標の中心に位置する第2中心座標とを比較し、第1中心座標と第2中心座標との変化量が閾値を超えているか否かを判別する判別部と、を備え、判別部により変化量が閾値以下と判別されると、報知情報表示制御部は、座標記憶部に記憶された基準座標に基づいて図形を重畳させ、判別部により変化量が閾値を超えていると判別されると、報知情報表示制御部は、座標算出部により算出された注目座標に基づいて図形を重畳させ、かつ座標記憶部に記憶された基準座標及び第1中心座標を、座標算出部により算出された注目座標及び第2中心座標により更新することが好ましい。
 本発明の更に他の態様に係る医療画像処理装置において、座標算出部が算出した注目座標を基準座標として記憶する座標記憶部と、座標記憶部に記憶された基準座標と座標算出部が算出した注目座標とを比較し、注目座標が基準座標の内側であるか否かを判別する判別部と、を備え、判別部により内側であると判別されると、報知情報表示制御部は、座標記憶部に記憶された基準座標に基づいて図形を重畳させ、判別部により外側であると判別されると、報知情報表示制御部は、座標算出部により算出された注目座標に基づいて図形を重畳させ、かつ座標記憶部に記憶された基準座標を、座標算出部により算出された注目座標により更新することが好ましい。
 本発明の更に他の態様に係る医療画像処理装置において、図形は、1つの図形を回転し、もしくは1つの図形を回転又は反転した複数の注目座標に対応する複数の図形であることが好ましい。これにより、複数の図形を個別に準備することなく、1つの図形から複数の図形が生成可能になる。
 本発明の更に他の態様に係る医療画像処理装置において、報知情報表示制御部は、注目領域が複数の場合、時系列画像に付加する図形として、複数の注目領域にそれぞれ異なる形状の図形を割り当てることが好ましい。これにより、複数の注目領域を、異なる形状の図形により区別しやすくなり、複数の注目領域が移動する場合に目視で追尾しやすくなる。
 本発明の更に他の態様に係る医療画像処理装置において、注目領域が複数の場合、時系列画像に付加する図形として、複数の注目領域にそれぞれ異なる色の図形を割り当てることが好ましい。これにより、複数の注目領域を、異なる色の図形により区別しやすくなり、複数の注目領域が移動する場合に目視で追尾しやすくなる。
 本発明の更に他の態様に係る医療画像処理装置において、図形は、複数の注目座標の間隔が、図形のサイズに対応する所定の間隔になると互いに連結し、所定の間隔を超えると、注目座標の間隔に応じて離間することが好ましい。個々の図形が、注目領域を囲む多角形又は円の輪郭線上に沿った形状の場合、複数の注目座標の間隔が、図形のサイズに対応する所定の間隔になると、各図形は互いに連結し、注目領域を囲む多角形又は円になる。
 本発明の更に他の態様に係る内視鏡システムは、時系列画像を撮像する内視鏡スコープと、内視鏡スコープが撮像した時系列画像を表示器に表示させる表示制御部と、上記の医療画像処理装置と、を備え、報知情報表示制御部は、表示器に表示された時系列画像に注目領域を報知する図形を重畳して表示させる。
 本発明の更に他の態様に係る医療画像処理方法は、時系列画像の注目領域を示す注目領域情報に基づいて注目領域を囲む対称な形状を有する多角形又は円の輪郭線上の複数の注目座標を算出するステップと、複数の注目座標に基づいて図形を時系列画像にそれぞれ重畳させるステップと、を含み、図形は、注目領域の大きさに対してサイズが変わらない図形である。
 本発明によれば、時系列画像の注目領域を図形により報知する場合に、大きな注目領域を報知する場合には図形を目立たなくし、大きな注目領域とその周辺領域との比較を容易にし、かつ小さな注目領域を報知する場合には図形を目立ちやすくし、小さな注目領域を見逃しにくくすることができる。
図1は、本発明に係る医療画像処理装置を含む内視鏡システム9の全体構成を示す概略図である。 図2は、医療画像処理装置14の第1実施形態を示すブロック図である。 図3は、医療画像処理装置14の座標算出部43及び報知情報表示制御部45Bを説明するために用いた図である。 図4は、表示器16に表示される画像及び報知情報を示す図である。 図5は、図4に示す状態から時間経過後に表示器16に表示される画像及び報知情報を示す図である。 図6は、図5に示す状態から時間経過後に表示器16に表示される画像及び報知情報を示す図である。 図7は、図6に示す状態から時間経過後に表示器16に表示される画像及び報知情報を示す図である。 図8は、注目領域を囲む対称な形状を有する多角形が四角形の場合に適用される、5種類の報知情報(A)~(E)を示す図である。 図9は、注目領域を囲む円の輪郭線上に表示される2種類の報知情報を示す図である。 図10は、注目領域を囲む対称な形状を有する四角形の輪郭線上に、図形の先端の位置が配置される6種類の報知情報を示す図である。 図11は、注目領域を囲む対称な形状を有する三角形の輪郭線上に、各図形が配置される4種類の報知情報を示す図である。 図12は、2つの図形から構成される報知情報(A)、5つの図形から構成される報知情報(B)、及び6つの図形から構成される報知情報(C)を示す図である。 図13は、4つの図形L1~L4からなる報知情報を示す図である。 図14は、表示器16に表示される画像及び報知情報の他の実施形態を示す図である。 図15は、医療画像処理装置14の第2実施形態を示すブロック図である。 図16は、本発明に係る医療画像処理方法の実施形態を示すフローチャートである。
 以下、添付図面に従って本発明に係る医療画像処理装置、医療画像処理方法及び内視鏡システムの好ましい実施形態について説明する。
 [内視鏡システムの全体構成]
 図1は、本発明に係る医療画像処理装置を含む内視鏡システム9の全体構成を示す概略図である。
 図1に示すように、内視鏡システム9は、電子内視鏡である内視鏡スコープ10と、光源装置11と、内視鏡プロセッサ装置12と、表示装置13と、医療画像処理装置14と、操作部15と、表示器16と、を備える。
 内視鏡スコープ10は、被写体像を含む時系列画像を取得する時系列画像取得部に相当するものであり、例えば軟性内視鏡である。この内視鏡スコープ10は、被検体内に挿入され且つ先端と基端とを有する挿入部20と、挿入部20の基端側に連設され且つ術者が把持して各種操作を行う手元操作部21と、手元操作部21に連設されたユニバーサルコード22と、を有する。
 挿入部20は、全体が細径で長尺状に形成されている。挿入部20は、その基端側から先端側に向けて順に可撓性を有する軟性部25と、手元操作部21の操作により湾曲可能な湾曲部26と、不図示の撮像光学系(対物レンズ)及び撮像素子28等が内蔵される先端部27と、が連設されて構成される。
 撮像素子28は、CMOS(complementary metal oxide semiconductor)型又はCCD(charge coupled device)型の撮像素子である。撮像素子28の撮像面には、先端部27の先端面に開口された不図示の観察窓、及びこの観察窓の後方に配置された不図示の対物レンズを介して、被観察部位の像光が入射する。撮像素子28は、その撮像面に入射した被観察部位の像光を撮像(電気信号に変換)して、撮像信号を出力する。
 手元操作部21には、術者によって操作される各種操作部材が設けられている。具体的に、手元操作部21には、湾曲部26の湾曲操作に用いられる2種類の湾曲操作ノブ29と、送気送水操作用の送気送水ボタン30と、吸引操作用の吸引ボタン31と、が設けられている。また、手元操作部21には、被観察部位の静止画39の撮影指示を行うための静止画撮影指示部32と、挿入部20内を挿通している処置具挿通路(不図示)内に処置具(不図示)を挿入する処置具導入口33と、が設けられている。
 ユニバーサルコード22は、内視鏡スコープ10を光源装置11に接続するための接続コードである。このユニバーサルコード22は、挿入部20内を挿通しているライトガイド35、信号ケーブル36、及び流体チューブ(不図示)を内包している。また、ユニバーサルコード22の端部には、光源装置11に接続されるコネクタ37aと、このコネクタ37aから分岐され且つ内視鏡プロセッサ装置12に接続されるコネクタ37bと、が設けられている。
 コネクタ37aを光源装置11に接続することで、ライトガイド35及び流体チューブ(不図示)が光源装置11に挿入される。これにより、ライトガイド35及び流体チューブ(不図示)を介して、光源装置11から内視鏡スコープ10に対して必要な照明光と水と気体とが供給される。その結果、先端部27の先端面の照明窓(不図示)から被観察部位に向けて照明光が照射される。また、前述の送気送水ボタン30の押下操作に応じて、先端部27の先端面の送気送水ノズル(不図示)から先端面の観察窓(不図示)に向けて気体又は水が噴射される。
 コネクタ37bを内視鏡プロセッサ装置12に接続することで、信号ケーブル36と内視鏡プロセッサ装置12とが電気的に接続される。これにより、信号ケーブル36を介して、内視鏡スコープ10の撮像素子28から内視鏡プロセッサ装置12へ被観察部位の撮像信号が出力されると共に、内視鏡プロセッサ装置12から内視鏡スコープ10へ制御信号が出力される。
 光源装置11は、コネクタ37aを介して、内視鏡スコープ10のライトガイド35へ照明光を供給する。照明光は、白色光(白色の波長帯域の光又は複数の波長帯域の光)、或いは1又は複数の特定の波長帯域の光、或いはこれらの組み合わせなど観察目的に応じた各種波長帯域の光が選択される。尚、特定の波長帯域は、白色の波長帯域よりも狭い帯域である。
 特定の波長帯域の第1例は、例えば可視域の青色帯域又は緑色帯域である。この第1例の波長帯域は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域を含み、且つ第1例の光は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域内にピーク波長を有する。
 特定の波長帯域の第2例は、例えば可視域の赤色帯域である。この第2例の波長帯域は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域を含み、且つ第2例の光は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域内にピーク波長を有する。
 特定の波長帯域の第3例は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、且つ第3例の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する。この第3例の波長帯域は、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域を含み、且つ第3例の光は、上記400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域にピーク波長を有する。
 特定の波長帯域の第4例は、生体内の蛍光物質が発する蛍光の観察(蛍光観察)に用いられ且つこの蛍光物質を励起させる励起光の波長帯域(390nmから470nm)である。
 特定の波長帯域の第5例は、赤外光の波長帯域である。この第5例の波長帯域は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域を含み、且つ第5例の光は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域にピーク波長を有する。
 内視鏡プロセッサ装置12は、コネクタ37b及び信号ケーブル36を介して、内視鏡スコープ10の動作を制御する。また、内視鏡プロセッサ装置12は、コネクタ37b及び信号ケーブル36を介して内視鏡スコープ10の撮像素子28から取得した撮像信号に基づき、被写体像を含む時系列のフレーム画像38aからなる時系列画像(「動画38」ともいう)を生成する。更に、内視鏡プロセッサ装置12は、内視鏡スコープ10の手元操作部21にて静止画撮影指示部32が操作された場合、動画38の生成と並行して、動画38中の1枚のフレーム画像を撮影指示のタイミングに応じて取得し、静止画39とする。
 動画38及び静止画39は、被検体内、即ち生体内を撮像した医療画像である。更に動画38及び静止画39が、上述の特定の波長帯域の光(特殊光)により得られた画像である場合、両者は特殊光画像である。そして、内視鏡プロセッサ装置12は、生成した動画38及び静止画39を、表示装置13と医療画像処理装置14とにそれぞれ出力する。
 尚、内視鏡プロセッサ装置12は、上述の白色光により得られた通常光画像に基づいて、上述の特定の波長帯域の情報を有する特殊光画像を生成(取得)してもよい。この場合、内視鏡プロセッサ装置12は、特殊光画像取得部として機能する。そして、内視鏡プロセッサ装置12は、特定の波長帯域の信号を、通常光画像に含まれる赤、緑、及び青[RGB(Red,Green,Blue)]あるいはシアン、マゼンタ、及びイエロー[CMY(Cyan,Magenta,Yellow)]の色情報に基づく演算を行うことで得る。
 また、内視鏡プロセッサ装置12は、例えば、上述の白色光により得られた通常光画像と、上述の特定の波長帯域の光(特殊光)により得られた特殊光画像との少なくとも一方に基づいて、公知の酸素飽和度画像等の特徴量画像を生成してもよい。この場合、内視鏡プロセッサ装置12は、特徴量画像生成部として機能する。尚、上記の生体内画像、通常光画像、特殊光画像、及び特徴量画像を含む動画38又は静止画39は、いずれも画像による診断、検査の目的でヒトの人体を撮像し、又は計測した結果を画像化した医療画像である。
 表示装置13は、内視鏡プロセッサ装置12に接続されており、この内視鏡プロセッサ装置12から入力された動画38及び静止画39を表示する。術者(医師)は、表示装置13に表示される動画38を確認しながら、挿入部20の進退操作等を行い、被観察部位に病変等を発見した場合には静止画撮影指示部32を操作して被観察部位の静止画撮像を実行し、また、診断、生検等を行う。
 [医療画像処理装置]
 医療画像処理装置14は、主として時系列画像に含まれる注目領域を術者に報知するものであり、本実施形態では、例えばパーソナルコンピュータが用いられる。また、操作部15は、パーソナルコンピュータに有線接続又は無線接続されるキーボード及びマウス等が用いられ、表示器16はパーソナルコンピュータに接続可能な液晶モニタ等の各種モニタが用いられる。
 <医療画像処理装置の機能>
 [医療画像処理装置14の第1実施形態]
 図2は、医療画像処理装置14の第1実施形態を示すブロック図である。
 図2に示す医療画像処理装置14は、主として時系列画像取得部40、注目領域検出部41、注目領域情報取得部42、座標算出部43、制御部44、表示制御部45及び記憶部47から構成されている。
 制御部44は、記憶部47に記憶されたプログラム(医療画像処理プログラム)51に基づき、時系列画像取得部40、注目領域検出部41、注目領域情報取得部42、座標算出部43、及び表示制御部45を統括制御し、また、これらの各部の一部として機能する。
 記憶部47は、注目領域検出部41による検出結果を記憶し、また、撮像された静止画39を記憶するとともに、報知情報を構成する図形を記憶する図形記憶部50、プログラム51及び医療画像処理装置14の各種制御に係る情報等を記憶する部分である。
 時系列画像取得部40は、内視鏡プロセッサ装置12(図1)に有線接続又は無線接続された不図示の画像入出力インターフェースを用いて、内視鏡プロセッサ装置12から被写体像を含む時系列のフレーム画像38aからなる時系列画像(本例では、内視鏡スコープ10により撮像される動画38)を取得する。また、内視鏡スコープ10にて動画38の撮像途中に既述の静止画39の撮像が行われた場合、時系列画像取得部40は、内視鏡プロセッサ装置12から動画38及び静止画39を取得する。
 尚、時系列画像取得部40は、内視鏡プロセッサ装置12から動画38を直接取得する代わりに、メモリーカード、ハードディスク装置等の各種情報記憶媒体を介して動画38を取得してもよい。また、時系列画像取得部40は、インターネット上のサーバ或いはデータベース等にアップロードされた動画38をインターネット経由で取得してもよい。
 注目領域検出部41は、体腔の観察中に撮像された動画38から注目領域を検出する部分であり、本例では、動画38の各フレーム画像(又は間引かれた一定間隔のフレーム画像)を順次入力し、学習によって入力した画像の特徴量を算出し、画像内の注目領域の認識処理を行う畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)を含み、画像内の色情報、画素値の勾配等で特徴量を算出する。注目領域検出部41は、算出された特徴量を用いて画像上の病変等の注目領域を検出し、更に検出された注目領域が、「腫瘍性」、「非腫瘍性」、「その他」といった病変に関する複数のカテゴリのうちのいずれのカテゴリに属するかのカテゴリ分類等の認識結果を取得することも可能である。
 尚、注目領域検出部41は、CNNにより注目領域を検出するものに限らず、画像内の色、画素値の勾配、形状、大きさ等の特徴量を画像処理により解析して注目領域を検出するものでもよい。また、注目領域としては、病変に限らず、治療跡、処置具等が考えられる。
 注目領域情報取得部42は、注目領域検出部41により注目領域が検出された場合、注目領域検出部41から注目領域を示す注目領域情報を取得する。注目領域情報は、例えば画像内の注目領域の輪郭の座標情報とすることができる。
 座標算出部43は、注目領域情報取得部42から注目領域情報を取得し、取得した注目領域情報に基づいて注目領域を囲む対称な形状を有する多角形又は円の輪郭線上の複数の注目座標を算出する。本例では、座標算出部43は、図3に示すように注目領域60が内接する四角形(破線で示した矩形)の4つの頂点の座標を、注目座標P1~P4として算出する。
 表示制御部45は、表示器16に動画38を表示させるとともに、動画38に含まれる注目領域を術者に報知する報知情報(図形)を表示させるものであり、画像表示制御部45A及び報知情報表示制御部45Bを含む。
 画像表示制御部45Aは、時系列画像取得部40が取得した時系列画像(動画38)を入力し、入力した動画38に基づいて表示用の画像データを生成して表示器16に出力する。表示器16は、画像表示制御部45Aから入力される表示用の画像データに基づき内視鏡画像(動画の通常光画像又は特殊光画像)を表示する。
 報知情報表示制御部45Bは、座標算出部43により算出された複数の注目座標(本例では、4つの注目座標P1~P4)に基づいて、注目領域を報知する図形であって、複数の注目座標と同数の複数の図形からなる報知情報を内視鏡画像に重畳させる。
 報知情報表示制御部45Bは、例えば、図3に示した注目領域60を囲う矩形の各頂点を示す注目座標P1~P4を入力する場合、以下に示す図形からなる報知情報を重畳表示させる。
 報知情報表示制御部45Bは、注目座標P1から、図3上で水平方向右に向かう固定長の線分Hと、垂直方向下に向かう固定長の線分Vとを生成し、これらの線分H,VからなるL字状の図形S1を生成する。報知情報表示制御部45Bは、他の注目座標P2、P3及びP4に対し、上記と同様にして各注目座標P2、P3及びP4に対応する図形S2、S3及びS4を生成する。
 これらの図形S1~S4は、それぞれ一定のサイズに固定された図形である。尚、本例の図形S1の線分H、Vの長さは同一であり、太さは固定値である。また、線分H、Vの長さは、例えば、画像の水平方向サイズが1280ピクセル、垂直方向サイズが1024ピクセルの場合は、注目座標P1から24ピクセルの長さが好ましい。
 報知情報表示制御部45Bは、生成した図形S1~S4を示す画像データを表示器16に出力する。
 表示器16は、図形S1~S4を示す画像データを入力することで、表示中の画像の注目領域を報知する、図形S1~S4からなる報知情報を画像に重畳表示することができる。
 図4から図7は、それぞれ表示器16に表示される画像及び報知情報(図形)を示す図であり、図4から図7に向かって時間が経過した状態の画像及び報知情報に関して示している。
 即ち、図4から図7に示す画像は、内視鏡スコープ10の先端を注目領域に徐々に近づけた場合の時系列画像の一部を時系列順に示しており、注目領域61、62、63、64は、徐々に大きく撮像されている。
 図4に示す画像は、注目領域61が内視鏡スコープ10の先端から遠いため、注目領域61は小さく撮像されている。
 図4に示す図形S1~S4は、注目領域61が小さく、各注目座標の間隔が、図形S1~S4のサイズに対応する所定の間隔(本例では、48ピクセルの長さ)以下となっているため、互いに連結して矩形の枠を構成している。尚、図形S1~S4からなる報知情報は、一辺の長さが、図形S1~S4のサイズに対応する所定の間隔(本例では、48ピクセルの長さ)以下にならないように制限することが好ましい。報知情報が小さくなりすぎて目立たなくなり、小さな注目領域を見逃すおそれが高くなるからである。
 図5に示す図形S1~S4は、注目領域62が注目領域61よりも大きくなり、各注目座標の間隔も大きくなり、4つの図形S1~S4は、注目領域62の大きさに応じて離間する。図5上では、4つの図形S1~S4は、互いに離間しているが、注目領域62が比較的小さく、各図形S1~S4が互いに密になり、目立ちやすくなっている。
 一方、図6に示す図形S1~S4は、注目領域63が注目領域62よりも大きくなり、各注目座標の間隔も更に大きくなり、4つの図形S1~S4は、注目領域63の大きさに応じて離間し、図7に示す図形S1~S4は、注目領域64が注目領域63よりも大きくなり、4つの図形S1~S4は、注目領域63の大きさに応じて離間する。
 図6及び図7に示す図形S1~S4は、注目領域63、64の大きさに応じて大きく離間していき、各図形S1~S4が互いに疎になって目立たなくなり、また、注目領域63、64とその周辺領域との比較を阻害しないようになる。
 尚、図2に示した座標算出部43は、図3に示したように注目領域60が内接する矩形の4つの頂点の座標を、注目座標P1~P4として算出するが、これに限らず、注目領域60が内接する矩形を一定の比率(例えば、1.2倍)で拡大し、拡大した矩形の各頂点を注目座標として算出してもよし、注目領域60が内接する矩形の4つの頂点の座標を、互いに離間する方向に一定量移動させた座標を、それぞれ注目座標として算出してもよい。
 また、報知情報表示制御部45Bは、固定長の線分H,Vにより図形S1~S4を生成する場合に限らず、報知情報を構成する図形S1~S4(アイコン画像)を記憶する図形記憶部50から図形S1~S4を読み出し、注目座標P1~P4に基づいて各注目座標P1~P4に対応する位置に各図形S1~S4を配置することで、図形S1~S4からなる報知情報を画像に重畳させることができる。
 [報知情報(図形)のバリエーション]
 図8は、注目領域を囲む対称な形状を有する四角形の輪郭線に沿って表示される5種類の報知情報(A)~(E)を示す図である。
 図8に示す報知情報(A)は、図3等に示した図形S1~S4からなる報知情報であり、報知情報(B)は、報知情報(A)の変形例である。
 報知情報(C)は、注目領域を囲む矩形の各辺の中点の座標を、注目座標とした場合に適用されるもので、一定の長さの線分の図形により構成されている。
 報知情報(D)及び(E)は、それぞれ注目領域を囲む多角形を菱形とした場合に適用されるもので、報知情報(D)は菱形の各頂点の座標を注目座標とした場合に適用され、報知情報(E)は菱形の各辺の中点の座標を注目座標とした場合に適用される。
 図9は、注目領域を囲む円の輪郭線上に表示される2種類の報知情報(図形)を示す図である。
 図9に示す2種類の報知情報は、それぞれ注目領域を囲む円の円周を複数に等分割する点(図9の例では、4等分する点)の座標を、注目座標とする場合に適用されるもので、4つの弧の図形から構成されている。
 図10は、注目領域を囲む対称な形状を有する四角形の輪郭線上に、図形の先端の位置が配置される6種類の報知情報を示す図である。
 図10に示す報知情報は、それぞれ矢印、又は矢印と同じ意味をもたせた図形から構成されている。
 図10に示す報知情報は、複数の矢印等の先端の位置が注目座標の位置と一致し、かつ複数の矢印等が注目領域に向くように配置される。
 図11は、注目領域を囲む対称な形状を有する三角形の輪郭線上に、各図形が配置される4種類の報知情報を示す図である。
 図11に示す報知情報は、それぞれ注目領域を囲む多角形を三角形(正三角形)とした場合に適用されるもので、正三角形の各頂点、又は正三角形の各辺の中点を注目座標として配置される、3つの図形から構成されている。
 図12は、2つの図形から構成される報知情報(A)、5つの図形から構成される報知情報(B)、及び6つの図形から構成される報知情報(C)を示す図である。
 図12に示す報知情報(A)は、注目領域を囲む矩形の対角位置に配置される2つの図形からなる報知情報である。
 また、図12に示す報知情報(B)は、注目領域を囲む多角形を五角形(正五角形)とした場合に適用されるものであり、報知情報(C)は、注目領域を囲む多角形を六角形(正六角形)とした場合に適用されるものである。
 図8から図12に示した各報知情報を構成する複数の図形は、1つの図形を回転した図形である。報知情報を構成する複数の図形は、相似形だからである。
 また、図13は、4つの図形L1~L4からなる報知情報を示す図である。
 図13に示す図形L1とL3とは、点対称の図形であり、図形L1を180度回転させると、図形L1と図形L3とは一致する。
 また、図形L1とL2、及び図形L1とL4とは、それぞれ線対称の図形であり、図形L1を、図13上で水平方向の軸回り方向に反転させると、図形L1と図形L2とは一致し、垂直方向の軸回り方向に反転させると、図形L1と図形L4とは一致する。
 即ち、図13に示す4つの図形L1~L4は、1つの図形を回転又は反転させることで、生成することができる図形である。
 図2に示した図形記憶部50は、図8から図13に示した1乃至複数の種類の報知情報を記憶することが可能であるが、1つの報知情報を構成する複数の図形のうちの1つの図形のみを記憶し、報知情報表示制御部45Bは、報知情報を構成する複数の図形のうちの1つの図形を回転又は反転させることで、報知情報を構成する複数の図形を取得し、複数の注目座標に対して使用することができる。即ち、複数の図形は、個別に準備することなく、1つの図形から複数の図形が生成することができる。
 図14は、表示器16に表示される画像及び報知情報(図形)の他の実施形態を示す図であり、図14に示す画像には、複数の注目領域66、67が存在する。
 図2に示した注目領域検出部41は、1フレームの画像内に複数の注目領域が存在する場合、CNNにより複数の注目領域66、67を同時に検出することが可能である。
 注目領域情報取得部42は、注目領域検出部41により複数の注目領域66、67が検出された場合、注目領域検出部41から注目領域66、67を示す複数の注目領域情報を取得し、座標算出部43は、注目領域情報取得部42から複数の注目領域情報を取得すると、取得した複数の注目領域情報に基づいて複数の注目領域66、67に対して注目領域毎に、その注目領域を囲む複数の注目座標を算出する。
 報知情報表示制御部45Bは、注目領域情報取得部42が複数の注目領域66、67に対応する複数の注目領域情報を取得すると、複数の注目領域66、67に対してそれぞれ報知情報を付加させるが、この場合、複数の注目領域66、67にそれぞれ異なる形状の図形からなる報知情報を割り当てることが好ましい。
 図14に示す例では、手前側の大きな注目領域66には、複数の略L字状の図形を割り当て、奥側の小さな注目領域67には、複数の矢印の図形を割り当てている。
 また、報知情報表示制御部45Bは、複数の注目領域に対してそれぞれ図形を付加させる際に、複数の注目領域にそれぞれ異なる色の図形を割り当てるようにしてもよい。この場合、図形の形状は、同一でもよいし、異なるものでもよい。
 これにより、複数の注目領域を、異なる形状の図形又は異なる色の図形により区別しやすくなり、複数の注目領域が移動する場合に目視で追尾しやすくなる。
 [医療画像処理装置14の第2実施形態]
 図15は、医療画像処理装置14の第2実施形態を示すブロック図である。尚、図15において、図2に示した医療画像処理装置14の第1実施形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
 図15に示す第2実施形態の医療画像処理装置14は、主として時系列画像の画像(注目領域)の変動に対し、報知情報の更新を適正に制御する機能が追加されており、図2に示した第1実施形態と比較して判別部52及び座標記憶部53が追加されている。
 座標記憶部53は、座標算出部43が算出した注目座標(複数の注目座標)を基準座標として記憶する記憶部である。尚、報知情報の表示開始時には、座標記憶部53には基準座標は記憶されておらず、また、画像内に注目領域が存在しない場合(座標算出部43により注目座標が算出されない場合)には、座標記憶部53に記憶されている基準座標はクリアされる。
 判別部52は、座標記憶部53に記憶された基準座標と座標算出部43が算出した注目座標とを比較し、基準座標と注目座標との変化量が閾値を超えているか否かを判別する。
 図3に示したL字状の4つの図形S1~S1からなる報知情報を表示する場合、4つの注目座標P1~P4が算出されるため、基準座標と注目座標との変化量(それぞれ対応する座標間の距離)は、4つ求めることができる。判別部52は、このようにして求められる複数の変化量のうちの少なくとも1つが、閾値を超えているか否かを判別する。画像の水平方向サイズが1280ピクセル、垂直方向サイズが1024ピクセルの場合は、変化量の閾値は8ピクセルが好ましい。
 判別部52により変化量が閾値以下と判別されると、報知情報表示制御部45Bは、座標記憶部53に記憶された基準座標に基づいて図形(報知情報)を重畳させ、判別部52により変化量が閾値を超えていると判別されると、報知情報表示制御部45Bは、座標算出部43により算出された注目座標(現在表示されている画像に対して算出された注目座標)に基づいて図形を重畳させ、かつ座標記憶部53に記憶された基準座標を、座標算出部43により算出された注目座標により更新する。
 時系列画像の注目領域は、時間とともに大きさや位置が変動し得るが、上記のように注目領域を報知する報知情報の表示を更新することにより、注目領域の大きさや位置の変化量が小さい場合には報知情報が固定されるため、報知情報が頻繁に移動して見苦しくならないようにすることができる。
 また、第2実施形態の第1変形例として、座標記憶部53は、座標算出部43が算出した注目座標を基準座標として記憶するとともに、基準座標(複数の基準座標)の中心に位置する座標を第1中心座標として記憶する。尚、第1中心座標は、注目領域を囲む対称な形状を有する多角形又は円の中心に相当する座標になることは言うまでもない。
 判別部52は、座標記憶部53に記憶された第1中心座標と座標算出部43が算出した注目座標の中心に位置する第2中心座標とを比較し、第1中心座標と第2中心座標との変化量が閾値を超えているか否かを判別する。尚、第2中心座標は、現在表示されている画像の注目領域を囲む対称な形状を有する多角形又は円の中心に相当する座標である。
 判別部52により変化量が閾値以下と判別されると、報知情報表示制御部45Bは、座標記憶部53に記憶された基準座標に基づいて図形(報知情報)を重畳させ、判別部52により変化量が閾値を超えていると判別されると、報知情報表示制御部45Bは、座標算出部43により算出された注目座標(現在表示されている画像に対して算出された注目座標)に基づいて図形を重畳させ、かつ座標記憶部53に記憶された基準座標及び第1中心座標を、座標算出部により算出された注目座標及び第2中心座標により更新する。
 例えば、内視鏡スコープ10の先端部27の対物レンズの光軸上で注目領域を捕捉しつつ、内視鏡スコープ10の先端部27を対物レンズの光軸方向に移動させた場合、時系列画像内で注目領域の大きさは変化するが、注目領域は移動しない。
 第2実施形態の第1変形例によれば、上記のように内視鏡スコープ10が操作された場合、画面上の報知情報(図形)の表示位置は更新されずに保持されるため、注目領域から報知情報を相対的に遠ざけ、又は相対的に近づけることができ、注目領域とその周辺領域との比較を容易にすることができる。
 更に、第2実施形態の第2変形例として、座標記憶部53は、第2実施形態と同様に座標算出部43が算出した注目座標(複数の注目座標)を基準座標として記憶する。
 判別部52は、座標記憶部53に記憶された基準座標と座標算出部43が算出した注目座標とを比較し、注目座標が基準座標の内側であるか否かを判別する。ここで、注目座標が基準座標の内側であるとは、例えば、基準座標(複数の基準座標)により特定される、注目領域を囲む対称な形状を有する多角形又は円の輪郭線の内側に、注目座標(複数の中心座標)の全てが入る場合をいう。
 判別部52により内側であると判別されると、報知情報表示制御部45Bは、座標記憶部53に記憶された基準座標に基づいて図形を重畳させ、判別部52により外側であると判別されると、報知情報表示制御部45Bは、座標算出部43により算出された注目座標に基づいて図形(報知情報)を重畳させ、かつ座標記憶部53に記憶された基準座標を、座標算出部43により算出された注目座標により更新する。
 例えば、内視鏡スコープ10の先端部27を注目領域に近づけ、注目領域を拡大表示して注目領域を観察する場合に、注目領域の周辺領域に表示されている図形(報知情報)が注目領域とその周辺領域との比較を阻害する場合が考えられる。この場合に、内視鏡スコープ10の先端部27を注目領域から少し遠ざけると(注目領域の表示を小さくさせると)、画面上の報知情報の表示位置は更新されずに保持される。
 第2実施形態の第2変形例によれば、上記のように内視鏡スコープ10が操作された場合、注目領域から報知情報を相対的に遠ざけることができ、注目領域とその周辺領域との比較を容易にすることができる。
 [医療画像処理方法]
 図16は、本発明に係る医療画像処理方法の実施形態を示すフローチャートであり、図15に示した第2実施形態の医療画像処理装置14の各部の処理手順に関して示している。
 図16において、時系列画像取得部40は、内視鏡プロセッサ装置12から被写体像を含む時系列画像(本例では、内視鏡スコープ10により撮像される動画38)を取得する(ステップS10)。
 注目領域検出部41は、ステップS10で取得した時系列画像を順次入力し、CNNにより画像内の注目領域を検出し(ステップS12)、注目領域情報取得部42は、注目領域検出部41により注目領域が検出された場合、注目領域検出部41から注目領域を示す注目領域情報を取得する(ステップS14)。
 座標算出部43は、注目領域情報取得部42から注目領域情報を取得し、取得した注目領域情報に基づいて注目領域を囲む対称な形状を有する多角形又は円の輪郭線上の複数の注目座標を算出する(ステップS16)。
 判別部52は、座標記憶部53に記憶された基準座標と座標算出部43が算出した注目座標とを比較し、基準座標と注目座標との変化量を算出し(ステップS18)、算出した変化量が閾値を超えているか否かを判別する(ステップS20)。ここで、座標記憶部53には、座標算出部43が算出した注目座標(複数の注目座標)が基準座標として記憶されている。尚、報知情報の表示開始時には、座標記憶部53には基準座標は記憶されておらず、また、画像内に注目領域が存在しない場合(座標算出部43により注目座標が算出されない場合)には、座標記憶部53に記憶されている基準座標はクリアされる。
 判別部52により変化量が閾値を超えていると判別されると(「No」の場合)、報知情報表示制御部45Bは、座標算出部43により算出された注目座標(現在表示されている画像に対して算出された注目座標)に基づいて報知情報(図形)を重畳表示させ(ステップS22)、座標記憶部53に記憶された基準座標を、座標算出部43により算出された現在の注目座標により更新する(ステップS24)。
 一方、判別部52により変化量が閾値以下と判別されると(「Yes」の場合)、報知情報表示制御部45Bは、座標記憶部53に記憶された基準座標に基づいて図形(報知情報)を重畳表示させる(ステップS28)。
 続いて、制御部44は、操作部15等からの入力に基づいて報知情報の表示を終了させるか否かを判別し(ステップS26)、終了させない場合には、ステップS10に戻り、ステップS10からステップS26の処理を繰り返し実行させ、報知情報の表示を終了させる場合には、本医療画像処理を終了させる。
 [その他]
 上記実施形態の医療画像処理装置14は、時系列画像取得部40及び注目領域検出部41を設けずに、注目領域情報取得部42が、外部から時系列画像の注目領域を示す注目領域情報を取得するものでもよく、また、画像表示制御部45Aを設けずに、内視鏡プロセッサ装置12により表示させる時系列画像(動画)に対して、報知情報表示制御部45Bが生成した報知情報を重畳表示させるようにしてもよい。
 また、上記実施形態では、内視鏡プロセッサ装置12と医療画像処理装置14とが別体に設けられているが、内視鏡プロセッサ装置12と医療画像処理装置14とが一体化されていてもよい。即ち、内視鏡プロセッサ装置12に、医療画像処理装置14としての機能を設けてもよい。
 更に、上記実施形態の医療画像処理装置14の各種制御を実行するハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の制御部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
 1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で構成されてもよい。また、複数の制御部を1つのプロセッサで構成してもよい。複数の制御部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の制御部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の制御部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の制御部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
 また、上記実施形態では、内視鏡スコープ10により撮像された時系列画像を、本発明が適用される医療画像としたが、これに限らず、例えば超音波診断装置、CT(Computed Tomography)装置、及びMRI(Magnetic Resonance Imaging)装置等により取得される医療画像であって、連続的に出力される医療画像であれば、如何なるものでもよい。
 更にまた、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
9 内視鏡システム
10 内視鏡スコープ
11 光源装置
12 内視鏡プロセッサ装置
13 表示装置
14 医療画像処理装置
15 操作部
16 表示器
20 挿入部
21 手元操作部
22 ユニバーサルコード
25 軟性部
26 湾曲部
27 先端部
28 撮像素子
29 湾曲操作ノブ
30 送気送水ボタン
31 吸引ボタン
32 静止画撮影指示部
33 処置具導入口
35 ライトガイド
36 信号ケーブル
37a、37b コネクタ
38 動画
38a フレーム画像
39 静止画
40 時系列画像取得部
41 注目領域検出部
42 注目領域情報取得部
43 座標算出部
44 制御部
45 表示制御部
45A 画像表示制御部
45B 報知情報表示制御部
47 記憶部
50 図形記憶部
51 プログラム
52 判別部
53 座標記憶部
60、61、62、63、64、66、67 注目領域
L1~L4、S1~S4 図形
P1~P4 注目座標
S10~S28 ステップ

Claims (17)

  1.  時系列画像の注目領域を示す注目領域情報に基づいて前記注目領域を囲む対称な形状を有する多角形又は円の輪郭線上の複数の注目座標を算出する座標算出部と、
     前記複数の注目座標に基づいて図形を前記時系列画像にそれぞれ重畳させる報知情報表示制御部と、を備え、
     前記図形は、前記注目領域の大きさに対してサイズが変わらない図形である医療画像処理装置。
  2.  被写体像を含む前記時系列画像を取得する時系列画像取得部と、
     前記時系列画像取得部が取得した時系列画像から前記注目領域を検出する注目領域検出部と、
     前記注目領域検出部から前記注目領域を示す注目領域情報を取得する注目領域情報取得部と、を備える請求項1に記載の医療画像処理装置。
  3.  前記座標算出部は、前記多角形の頂点の座標を、前記複数の注目座標として算出する請求項1又は2に記載の医療画像処理装置。
  4.  前記座標算出部は、前記多角形の辺の中点の座標を、前記複数の注目座標として算出する請求項1から3のいずれか1項に記載の医療画像処理装置。
  5.  前記多角形は、前記注目領域が内接する多角形である請求項1から4のいずれか1項に記載の医療画像処理装置。
  6.  前記多角形は四角形である請求項1から5のいずれか1項に記載の医療画像処理装置。
  7.  前記座標算出部は、前記円の円周を複数に等分割する点の座標を、前記複数の注目座標として算出する請求項1又は2に記載の医療画像処理装置。
  8.  前記円は、前記注目領域が内接する円である請求項1、2又は7に記載の医療画像処理装置。
  9.  前記座標算出部が算出した前記注目座標を基準座標として記憶する座標記憶部と、
     前記座標記憶部に記憶された前記基準座標と前記座標算出部が算出した前記注目座標とを比較し、前記基準座標と前記注目座標との変化量が閾値を超えているか否かを判別する判別部と、を備え、
     前記判別部により前記変化量が前記閾値以下と判別されると、前記報知情報表示制御部は、前記座標記憶部に記憶された前記基準座標に基づいて前記図形を重畳させ、
     前記判別部により前記変化量が前記閾値を超えていると判別されると、前記報知情報表示制御部は、前記座標算出部により算出された前記注目座標に基づいて前記図形を重畳させ、かつ前記座標記憶部に記憶された前記基準座標を、前記座標算出部により算出された前記注目座標により更新する請求項1から8のいずれか1項に記載の医療画像処理装置。
  10.  前記座標算出部が算出した前記注目座標を基準座標として記憶し、前記基準座標の中心に位置する座標を第1中心座標として記憶する座標記憶部と、
     前記座標記憶部に記憶された前記第1中心座標と前記座標算出部が算出した前記注目座標の中心に位置する第2中心座標とを比較し、前記第1中心座標と前記第2中心座標との変化量が閾値を超えているか否かを判別する判別部と、を備え、
     前記判別部により前記変化量が前記閾値以下と判別されると、前記報知情報表示制御部は、前記座標記憶部に記憶された前記基準座標に基づいて前記図形を重畳させ、
     前記判別部により前記変化量が前記閾値を超えていると判別されると、前記報知情報表示制御部は、前記座標算出部により算出された前記注目座標に基づいて前記図形を重畳させ、かつ前記座標記憶部に記憶された前記基準座標及び前記第1中心座標を、前記座標算出部により算出された前記注目座標及び前記第2中心座標により更新する請求項1から8のいずれか1項に記載の医療画像処理装置。
  11.  前記座標算出部が算出した前記注目座標を基準座標として記憶する座標記憶部と、
     前記座標記憶部に記憶された前記基準座標と前記座標算出部が算出した前記注目座標とを比較し、前記注目座標が前記基準座標の内側であるか否かを判別する判別部と、を備え、
     前記判別部により内側であると判別されると、前記報知情報表示制御部は、前記座標記憶部に記憶された前記基準座標に基づいて前記図形を重畳させ、
     前記判別部により外側であると判別されると、前記報知情報表示制御部は、前記座標算出部により算出された前記注目座標に基づいて前記図形を重畳させ、かつ前記座標記憶部に記憶された前記基準座標を、前記座標算出部により算出された前記注目座標により更新する請求項1から8のいずれか1項に記載の医療画像処理装置。
  12.  前記図形は、1つの図形を回転し、もしくは1つの図形を回転又は反転した前記複数の注目座標に対応する複数の図形である請求項1から11のいずれか1項に記載の医療画像処理装置。
  13.  前記報知情報表示制御部は、前記注目領域が複数の場合、前記時系列画像に付加する前記図形として、前記複数の注目領域にそれぞれ異なる形状の図形を割り当てる請求項1から12のいずれか1項に記載の医療画像処理装置。
  14.  前記報知情報表示制御部は、前記注目領域が複数の場合、前記時系列画像に付加する前記図形として、前記複数の注目領域にそれぞれ異なる色の図形を割り当てる請求項1から12のいずれか1項に記載の医療画像処理装置。
  15.  前記図形は、前記複数の注目座標の間隔が、前記図形のサイズに対応する所定の間隔になると互いに連結し、前記所定の間隔を超えると、前記注目座標の間隔に応じて離間する請求項1から14のいずれか1項に記載の医療画像処理装置。
  16.  前記時系列画像を撮像する内視鏡スコープと、
     前記内視鏡スコープが撮像した前記時系列画像を表示器に表示させる表示制御部と、
     請求項1から15のいずれか1項に記載の医療画像処理装置と、を備え、
     前記報知情報表示制御部は、前記表示器に表示された前記時系列画像に前記注目領域を報知する前記図形を重畳して表示させる内視鏡システム。
  17.  時系列画像の注目領域を示す注目領域情報に基づいて前記注目領域を囲む対称な形状を有する多角形又は円の輪郭線上の複数の注目座標を算出するステップと、
     前記複数の注目座標に基づいて図形を前記時系列画像にそれぞれ重畳させるステップと、を含み、
     前記図形は、前記注目領域の大きさに対してサイズが変わらない図形である医療画像処理方法。
PCT/JP2019/017650 2018-05-14 2019-04-25 医療画像処理装置、医療画像処理方法及び内視鏡システム WO2019220916A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN201980029220.8A CN112055555A (zh) 2018-05-14 2019-04-25 医疗图像处理装置、医疗图像处理方法及内窥镜系统
EP19804568.4A EP3795063A4 (en) 2018-05-14 2019-04-25 MEDICAL IMAGE PROCESSING DEVICE, MEDICAL IMAGE PROCESSING METHOD AND ENDOSCOPE SYSTEM
JP2020519555A JP7125479B2 (ja) 2018-05-14 2019-04-25 医療画像処理装置、医療画像処理装置の作動方法及び内視鏡システム
US17/081,993 US11616931B2 (en) 2018-05-14 2020-10-27 Medical image processing device, medical image processing method, and endoscope system
US18/169,150 US20230199152A1 (en) 2018-05-14 2023-02-14 Medical image processing device, medical image processing method, and endoscope system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018093213 2018-05-14
JP2018-093213 2018-05-14

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/081,993 Continuation US11616931B2 (en) 2018-05-14 2020-10-27 Medical image processing device, medical image processing method, and endoscope system

Publications (1)

Publication Number Publication Date
WO2019220916A1 true WO2019220916A1 (ja) 2019-11-21

Family

ID=68539819

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/017650 WO2019220916A1 (ja) 2018-05-14 2019-04-25 医療画像処理装置、医療画像処理方法及び内視鏡システム

Country Status (5)

Country Link
US (2) US11616931B2 (ja)
EP (1) EP3795063A4 (ja)
JP (1) JP7125479B2 (ja)
CN (1) CN112055555A (ja)
WO (1) WO2019220916A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020054541A1 (ja) * 2018-09-11 2021-08-30 富士フイルム株式会社 医療画像処理装置、医療画像処理方法及びプログラム、内視鏡システム
WO2022202401A1 (ja) * 2021-03-22 2022-09-29 富士フイルム株式会社 医療画像処理装置、内視鏡システム、医療画像処理方法、及び医療画像処理プログラム
JP7449004B2 (ja) 2022-03-04 2024-03-13 ナショナル チュン チェン ユニバーシティ 周波数帯域を用いたハイパースペクトルによる物体画像の検出方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11712157B2 (en) * 2021-02-17 2023-08-01 PacificMD Biotech, LLC System and method for endoscopic imaging and analyses
CN115861600B (zh) * 2022-12-20 2023-09-05 西北民族大学 一种spect图像的roi区域识别方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012050598A (ja) * 2010-08-31 2012-03-15 Fujifilm Corp 撮像表示方法および装置
JP2016158681A (ja) 2015-02-27 2016-09-05 Hoya株式会社 画像処理装置
WO2016199273A1 (ja) * 2015-06-11 2016-12-15 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
WO2017073338A1 (ja) 2015-10-26 2017-05-04 オリンパス株式会社 内視鏡画像処理装置
WO2017216883A1 (ja) * 2016-06-14 2017-12-21 オリンパス株式会社 内視鏡装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6077226A (en) * 1999-03-30 2000-06-20 General Electric Company Method and apparatus for positioning region of interest in image
JP5802364B2 (ja) * 2009-11-13 2015-10-28 オリンパス株式会社 画像処理装置、電子機器、内視鏡システム及びプログラム
JP5658873B2 (ja) * 2009-11-13 2015-01-28 オリンパス株式会社 画像処理装置、電子機器、内視鏡システム及びプログラム
JP2014203341A (ja) * 2013-04-08 2014-10-27 Kddi株式会社 情報端末装置及び認識対象
CN105764402B (zh) * 2013-12-05 2018-02-13 奥林巴斯株式会社 立体内窥镜系统
US10599810B2 (en) * 2014-06-04 2020-03-24 Panasonic Corporation Control method and recording system
CN106560827B (zh) * 2015-09-30 2021-11-26 松下知识产权经营株式会社 控制方法
JP2018137571A (ja) * 2017-02-21 2018-08-30 Eizo株式会社 画像処理装置、プログラム及び画像処理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012050598A (ja) * 2010-08-31 2012-03-15 Fujifilm Corp 撮像表示方法および装置
JP2016158681A (ja) 2015-02-27 2016-09-05 Hoya株式会社 画像処理装置
WO2016199273A1 (ja) * 2015-06-11 2016-12-15 オリンパス株式会社 内視鏡装置及び内視鏡装置の作動方法
WO2017073338A1 (ja) 2015-10-26 2017-05-04 オリンパス株式会社 内視鏡画像処理装置
WO2017216883A1 (ja) * 2016-06-14 2017-12-21 オリンパス株式会社 内視鏡装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3795063A4

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2020054541A1 (ja) * 2018-09-11 2021-08-30 富士フイルム株式会社 医療画像処理装置、医療画像処理方法及びプログラム、内視鏡システム
JP7113903B2 (ja) 2018-09-11 2022-08-05 富士フイルム株式会社 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、内視鏡システム
WO2022202401A1 (ja) * 2021-03-22 2022-09-29 富士フイルム株式会社 医療画像処理装置、内視鏡システム、医療画像処理方法、及び医療画像処理プログラム
JP7449004B2 (ja) 2022-03-04 2024-03-13 ナショナル チュン チェン ユニバーシティ 周波数帯域を用いたハイパースペクトルによる物体画像の検出方法

Also Published As

Publication number Publication date
US11616931B2 (en) 2023-03-28
EP3795063A4 (en) 2021-07-07
EP3795063A1 (en) 2021-03-24
JP7125479B2 (ja) 2022-08-24
CN112055555A (zh) 2020-12-08
US20230199152A1 (en) 2023-06-22
US20210042553A1 (en) 2021-02-11
JPWO2019220916A1 (ja) 2021-05-27

Similar Documents

Publication Publication Date Title
WO2019220916A1 (ja) 医療画像処理装置、医療画像処理方法及び内視鏡システム
US11607109B2 (en) Endoscopic image processing device, endoscopic image processing method, endoscopic image processing program, and endoscope system
JP7413585B2 (ja) 医用画像処理装置、作動方法、プログラム、及び記録媒体、診断支援装置並びに内視鏡システム
JPWO2014168128A1 (ja) 内視鏡システム及び内視鏡システムの作動方法
JP2022186872A (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法、及びプログラム
JP7315576B2 (ja) 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、診断支援装置、ならびに内視鏡システム
US20210174115A1 (en) Medical image processing apparatus, medical image processing method, program, and endoscope system
EP3936027A1 (en) Apparatus and method for processing medical image
US11481944B2 (en) Medical image processing apparatus, medical image processing method, program, and diagnosis support apparatus
US20210174557A1 (en) Medical image processing apparatus, medical image processing method, program, and endoscope system
JP6840263B2 (ja) 内視鏡システム及びプログラム
WO2019088008A1 (ja) 画像処理装置、画像処理方法、プログラム、及び内視鏡システム
CN116724334A (zh) 计算机程序、学习模型的生成方法、以及手术辅助装置
US20230206445A1 (en) Learning apparatus, learning method, program, trained model, and endoscope system

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19804568

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2020519555

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2019804568

Country of ref document: EP

Effective date: 20201214