JP2022174780A - 超音波診断装置及び診断支援方法 - Google Patents

超音波診断装置及び診断支援方法 Download PDF

Info

Publication number
JP2022174780A
JP2022174780A JP2021080735A JP2021080735A JP2022174780A JP 2022174780 A JP2022174780 A JP 2022174780A JP 2021080735 A JP2021080735 A JP 2021080735A JP 2021080735 A JP2021080735 A JP 2021080735A JP 2022174780 A JP2022174780 A JP 2022174780A
Authority
JP
Japan
Prior art keywords
lesion candidate
exclusion
mark
database
diagnostic apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021080735A
Other languages
English (en)
Inventor
朋史 西浦
Tomofumi Nishiura
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Healthcare Corp
Original Assignee
Fujifilm Healthcare Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Healthcare Corp filed Critical Fujifilm Healthcare Corp
Priority to JP2021080735A priority Critical patent/JP2022174780A/ja
Priority to CN202210436506.1A priority patent/CN115337039A/zh
Priority to US17/730,338 priority patent/US20220367038A1/en
Publication of JP2022174780A publication Critical patent/JP2022174780A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4411Device being modular
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0825Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of the breast, e.g. mammography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4483Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer
    • A61B8/4488Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer the transducer being a phased array
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Public Health (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Gynecology & Obstetrics (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

【課題】機械学習型検出部に再学習を行わせることなく、マーク表示対象となる病変部候補を柔軟に修正できるようにする。【解決手段】検出部33は、機械学習済み検出モデルを用いて、表示フレームデータ(断層画像)に含まれる病変部候補を検出する。除外処理部34は、検出された病変部候補の特徴ベクトルを除外データベース中の特徴ベクトル群と照合し、検出された病変部候補が除外対象に該当するか否かを判定する。マーク表示制御部30は、検出された病変部候補が除外対象に該当する場合に、病変部候補を通知するマークの表示を制限する。【選択図】図1

Description

本開示は、超音波診断装置及び診断支援方法に関し、特に、検査者に対して病変部候補を通知する技術に関する。
超音波検査においては、被検者の表面に当接されたプローブが被検者の表面に沿って走査される。その走査の過程において、表示器に表示されるリアルタイム断層画像が観察され、その観察を通じて病変部の有無が判断される。病変部が見つかった場合、病変部が詳しく検査される。
動的に変化する断層画像上において、一時的に現れる病変部を視覚的に特定することは容易ではない。病変部の特定を支援する技術として、CADe(Computer Aided Detection)がある。その技術は、例えば、断層画像に含まれる病変部候補を検出し、検出された病変部候補を検査者に通知するものである。例えば、断層画像上に病変部候補を囲むマークが表示される。CADeは、CAD(Computer Aided Diagnosis)と共に利用され又はCADに含まれるものである。CADはCADxとも表記される。
特許文献1には、CAD機能を備えたデータ解析システムが開示されている。そのシステムでは、自動検出装置において、特徴ベクトルの演算、特徴ベクトルと学習データの比較、等が行われている。病変部候補の誤認が生じた場合、再学習が実行されている。特許文献1には、再学習を行うことなく、誤認を防止する技術は開示されていない。
なお、本願明細書において、病変部は、疾患の可能性がある部位又は精査しておく必要性のある部位を意味する。病変部候補は、検査者による病変部の特定及び診断を支援するために検出された部位を意味する。
特許第5982726号明細書
機械学習型検出部により病変部候補を検出し、超音波画像と共に病変部候補を通知するマークを表示する超音波診断装置において、マーク表示対象を修正したい場合、機械学習型検出部に再学習を行わせるのが一般的である。しかし、再学習には通常かなりの時間を要する。再学習を容易に行えないことから、被検者、検査目的、医療機関等に応じてマーク表示対象を柔軟に修正したいというニーズを満たせない状況にある。
本開示の目的は、機械学習型検出部により病変部候補を検出する超音波診断装置において、マーク表示対象となる病変部候補を柔軟に修正できるようにすることにある。あるいは、本開示の目的は、機械学習型検出部における再学習の必要性を低減できる新しい仕組みを提供することにある。
本開示に係る超音波診断装置は、機械学習済み検出モデルを有し、超音波画像中の病変部候補を検出する検出部と、除外対象とする病変部候補ごとにその特徴量が登録されるデータベースと、前記検出部により検出された病変部候補の特徴量を前記データベースに登録されている特徴量群に対して照合することにより、前記検出された病変部候補が除外対象に該当するか否かを判定する判定部と、前記検出された病変部候補が除外対象に該当しない場合に前記超音波画像上に前記検出された病変部候補を通知するマークを表示し、前記検出された病変部候補が除外対象に該当する場合に前記マークの表示を制限する表示制御部と、を含むことを特徴とする。
本開示に係る診断支援方法は、機械学習済み検出モデルを用いて、超音波画像中の病変部候補を検出する工程と、除外対象とする病変部候補ごとにその特徴量をデータベースに登録する工程と、前記検出された病変部候補の特徴量を前記データベースに登録されている特徴量群に対して照合することにより、前記検出された病変部候補が除外対象に該当するか否かを判定する工程と、前記検出された病変部候補が除外対象に該当しない場合に前記超音波画像上に前記検出された病変部候補を通知するマークを表示し、前記検出された病変部候補が除外対象に該当する場合に前記マークの表示を制限する工程と、を含むことを特徴とする。
本開示に係るプログラムは、情報処理装置において診断支援方法を実行するためのプログラムであって、機械学習済み検出モデルを用いて、超音波画像中の病変部候補を検出する機能と、除外対象とする病変部候補ごとにその特徴量をデータベースに登録する機能と、前記検出された病変部候補の特徴量を前記データベースに登録されている特徴量群に対して照合することにより、前記検出された病変部候補が除外対象に該当するか否かを判定する機能と、前記検出された病変部候補が除外対象に該当しない場合に前記超音波画像上に前記検出された病変部候補を通知するマークを表示し、前記検出された病変部候補が除外対象に該当する場合に前記マークの表示を制限する機能と、を含むことを特徴とする。
本開示によれば、機械学習型検出部により病変部候補を検出する超音波診断装置において、マーク表示対象となる病変部候補を柔軟に修正できる。あるいは、本開示によれば、機械学習型検出部における再学習の必要性を低減できる。
実施形態に係る超音波診断装置の構成を示すブロック図である。 マーク生成方法を説明するための図である。 画像解析部の第1構成例を示す図である。 第1動作例を模式的に示す図である。 第1動作例を示すフローチャートである。 第2動作例を模式的に示す図である。 第2動作例を示すフローチャートである。 画像解析部の第2構成例を示す図である。 変形例を示す図である。
以下、実施形態を図面に基づいて説明する。
(1)実施形態の概要
実施形態に係る超音波診断装置は、検出部、データベース、判定部、及び、表示制御部を有する。検出部は、機械学習済み検出モデルを有し、超音波画像中の病変部候補を検出する。データベースには、除外対象とする病変部候補ごとにその特徴量が登録される。判定部は、検出部により検出された病変部候補の特徴量をデータベースに登録されている特徴量群に対して照合することにより、検出された病変部候補が除外対象に該当するか否かを判定する。表示制御部は、検出された病変部候補が除外対象に該当しない場合に、超音波画像上に、検出された病変部候補を通知するマークを表示し、検出された病変部候補が除外対象に該当する場合にマークの表示を制限する。
上記構成は、検出対象の一部がマーク表示対象にならないように当該一部を事後的に除外するものである。上記構成によれば、機械学習済み検出モデルを修正することなく、マーク表示対象を容易に制限できる。その制限を解除することも容易である。
病変部候補の特徴量の概念には、病変部候補から抽出される特徴量、病変部候補及びその周囲を含む画像部分から抽出される特徴量、及び、病変部候補を含む超音波画像から抽出される特徴量、が含まれる。特徴量の概念には、特徴ベクトル、画像パターン等が含まれる。病変部候補を通知するマークは、超音波画像上において、病変部候補を特定する表示要素である。
実施形態に係る超音波診断装置は、更に、入力部、及び、登録部を有する。入力部は、超音波画像中の病変部候補及び超音波画像上のマークを観察したユーザーからの除外指示を受け付ける。登録部は、除外指示の対象となった病変部候補の特徴量をデータベースに登録する。機械学習済み検出モデルを再学習させることなくユーザーによりマーク表示対象となる病変部候補群を修正し得る。
実施形態においては、入力部は、フリーズ状態において、除外指示を受け付ける。登録部は、フリーズ状態において、除外指示の対象となった病変部候補の特徴量をデータベースに登録してデータベースを更新する。フリーズ状態は、送受信停止状態であり、静止画像が表示されている状態である。
実施形態においては、入力部は、リアルタイム動作状態において、除外指示を受け付ける。登録部は、リアルタイム動作状態において、除外指示を受け付けたタイミングに基づいて表示済みの1又は複数のフレームデータを特定する。また、登録部は、リアルタイム動作状態において、1又は複数のフレームデータから病変部候補の特徴量を抽出し、当該特徴量をデータベースに登録してデータベースを更新する。
上記構成によれば、リアルタイム動作状態においてデータベースを更新し得る。例えば、誤検出に起因するマーク表示を制限できる。リアルタイム動作状態は、送受信を行いながら超音波画像を動画像として表示している状態である。例えば、除外指定を受け付けたタイミングを基準として、過去に遡って所定期間内の複数のフレームデータが特定され、それらに基づいて複数の特徴量又は代表特徴量が抽出される。
実施形態において、検出部は、病変部候補の特徴量を求める機能を有する。実施形態において、検出部とは別に演算部が設けられる。演算部は、病変部候補の特徴量を演算するものである。
実施形態に係る超音波診断装置は、データベースの全部又は一部をクリアする管理部を含む。実施形態において、データベースは複数のテーブルを含む。各テーブルに特徴量が登録される。管理部は複数のテーブルの中からクリアするテーブルを選択する。例えば、被検者ごと、超音波検査ごと、又は、検査者ごとに、テーブルを用意しておき、所定のタイミングで、使用したテーブルをクリアしてもよい。
実施形態に係る診断支援方法は、検出工程、登録工程、判定工程、及び、表示制御工程を有する。検出工程では、機械学習済み検出モデルを用いて、超音波画像中の病変部候補が検出される。登録工程では、除外対象とする病変部候補ごとにその特徴量がデータベースに登録される。判定工程では、検出された病変部候補の特徴量がデータベースに登録されている特徴量群に対して照合され、これにより、検出された病変部候補が除外対象に該当するか否かが判定される。表示制御工程では、検出された病変部候補が除外対象に該当しない場合に、超音波画像上に、検出された病変部候補を通知するマークが表示される。検出された病変部候補が除外対象に該当する場合にマークの表示が制限される。
上記診断支援方法はハードウエアの機能として又はソフトウエアの機能として実現される。後者の場合、診断支援方法を実行するためのプログラムが、可搬型記憶媒体又はネットワークを介して、情報処理装置へインストールされる。情報処理装置の概念には、超音波診断装置、画像処理装置、コンピュータ等が含まれる。
(2)実施形態の詳細
図1には、実施形態に係る超音波診断装置の構成がブロック図として示されている。超音波診断装置は、病院等の医療機関に設置され、生体(被検者)に対する超音波の送受波により得られた受信信号に基づいて、超音波画像を形成する医療用の装置である。超音波検査対象となる臓器は、例えば、乳房である。
乳房の集団健診においては、短時間にしかも見落としなく病変部を特定する必要がある。実施形態に係る超音波診断装置は、検査者による病変部の特定を支援するために、超音波画像に含まれる病変部候補(例えば腫瘤である可能性が認められる低輝度部分)を自動的に検出するCADe機能を備えている。これについては後に詳述する。
プローブ10は、超音波を送受波する手段として機能する。具体的には、プローブ10は、可搬型送受波器であり、それはユーザーである検査者(医師、検査技師等)によって保持及び操作される。乳房の超音波診断に際しては、プローブ10の送受波面(具体的には音響レンズ表面)が被検者の胸部表面に当接される。リアルタイムで表示される断層画像を観察しながら、胸部表面に沿ってプローブ10がマニュアルで走査される。断層画像上において病変部候補が特定された場合、プローブ10の位置及び姿勢がゆっくり調整され、その後、プローブ10の位置及び姿勢が固定された状態で、断層画像がじっくり観察される。
プローブ10は、図示された構成例において、一次元配列された複数の振動素子からなる振動素子アレイを備えている。振動素子アレイによって超音波ビーム(送信ビーム及び受信ビーム)12が形成され、超音波ビーム12の電子的な走査により走査面14が形成される。走査面14は観察面であり、すなわち二次元データ取込領域である。超音波ビーム12の電子走査方式として、電子セクタ走査方式、電子リニア走査方式等が知られている。超音波ビーム12のコンベックス走査が行われてもよい。プローブ10内に2D振動素子アレイを設け、超音波ビームの二次元走査により、生体内からボリュームデータが取得されてもよい。
プローブ10の位置情報を求める測位システムを設けてもよい。測位システムは、例えば、磁気センサ及び磁場発生器により構成される。プローブ(正確にはプローブヘッド)に磁気センサが装着される。磁気センサによって磁場発生器により生成された磁場が検出される。これにより、磁気センサの三次元座標情報が得られる。三次元座標情報に基づいてプローブ10の位置及び姿勢を特定し得る。
送信回路22は送信ビームフォーマーとして機能する。具体的には、送信時において、送信回路22は、振動素子アレイに対して複数の送信信号を並列的に供給する。これにより送信ビームが形成される。受信時において、生体内からの反射波が振動素子アレイに到達すると、複数の振動素子から複数の受信信号が並列的に出力される。受信回路24は受信ビームフォーマーとして機能し、複数の受信信号の整相加算(遅延加算ともいう。)により、ビームデータを生成する。
1回の電子走査当たり、電子走査方向に並ぶ複数のビームデータが生成され、それらが走査面14に対応する受信フレームデータを構成する。個々のビームデータは深さ方向に並ぶ複数のエコーデータにより構成される。受信回路24の後段にはビームデータ処理部が設けられているが、その図示が省略されている。
画像形成部26は、受信フレームデータに基づいて断層画像(Bモード断層画像)を形成する電子回路である。それはDSC(Digital Scan Converter)を有している。DSCは、座標変換機能、画素補間機能、フレームレート変換機能等を有している。より詳しくは、画像形成部26により、受信フレームデータ列に基づいて表示フレームデータ列が生成される。表示フレームデータ列を構成する各表示フレームデータは、断層画像データである。複数の断層画像データによりリアルタイム動画像が構成される。断層画像以外の超音波画像が生成されてもよい。例えば、カラーフローマッピング画像が形成されてもよいし、組織を立体的に表現した三次元画像が形成されてもよい。図示の構成例では、表示フレームデータ列は、表示処理部32及び画像解析部28に送られている。
画像解析部28は、CADe機能を発揮するモジュールである。画像解析部28は、検出部33及び除外処理部34を有する。
検出部33は、表示フレームデータごとに、つまり断層画像ごとに、病変部候補を検出する。検出部33は、機械学習済み検出モデルを有する機械学習型検出器を含む。それは例えばCNN等により構成され、低輝度の閉領域を病変部候補として検出する。検出部33での病変部候補の検出に先立って、断層画像に対して二値化処理、ノイズ除去等が適用されてもよい。検出部33は、病変部候補の検出後に病変部候補情報を出力する。
病変部候補情報には、病変部候補の位置情報、病変部候補のサイズ情報、検出の信頼度、等が含まれる。一定の閾値を超える信頼度が得られた場合、病変部候補が検出されたとみなされる。検出部33は、病変部候補の特徴量として特徴ベクトルを演算する機能を備えている。
病変部候補の位置情報は、例えば、病変部候補それ自体の中心点の座標を示す情報であり、あるいは、病変部候補に接しつつそれを囲む図形の中心点の座標を示す情報である。中心点は代表点である。中心点として、図形の幾何学的な中心点や図形の重心点を採用し得る。病変部候補のサイズ情報は、例えば、病変部候補それ自体のサイズを示す情報であり、あるいは、病変部候補に接しつつそれを囲む図形のサイズを示す情報である。例えば、図形の中心点の座標と図形の左上隅点の座標から、病変部候補のサイズが特定される。中心点の座標が特定されている前提の下、左上隅点の座標を病変部候補のサイズ情報とみなしてもよい。病変部候補のサイズ情報として、病変部候補の面積が求められてもよい。複数の病変部候補が並列的に検出されてもよい。
特徴ベクトルは複数のベクトル要素で構成される。公知の1又は複数の特徴ベクトル演算方法を用い得る。特徴ベクトル演算方法として、多変量解析法を用いてもよい。特徴量として画像パターンを用いてもよい。なお、病変部候補の特徴量として、病変部候補から抽出される特徴量、病変部候補及びその周囲を含む画像部分から抽出される特徴量、並びに、病変部候補を含む超音波画像から抽出される特徴量、が挙げられる。
除外処理部34は除外データベースを有する。除外処理部34は、検出部33が現在検出した病変部候補(現病変部候補)の特徴ベクトルを、除外データベース上の特徴ベクトル群に照合する。除外処理部34は、一定以上の類似度を有する特徴ベクトルがヒットした場合、つまり、検出された病変部候補が除外対象に該当した場合、除外指示信号をマーク表示制御部30へ出力する。一定以上の類似度を有する特徴ベクトルがヒットしなかった場合、つまり、検出された病変部候補が除外対象に該当しない場合、除外指示信号は出力されない。
マーク表示制御部30は、検出された病変部候補を通知するマークを超音波画像上に重畳表示するものである。但し、マーク表示制御部30は、除外処理部34から除外指示信号が出力された場合、マークを表示しない。このように、検出対象とマーク表示対象を区別することにより、マーク表示対象が事後的にカスタマイズされている。カスタマイズに当たって、検出部33内の機械学習型検出器に再学習を行わせる必要はない。マーク表示制御部30が生成したマークを含むグラフィックデータが表示処理部32へ出力されている。
マークを表示する場合において、マークの表示形態の変更により信頼度の大小を表現してもよい。例えば、信頼度が低い場合に寒色系の色でマークを表示し、信頼度が高い場合に暖色系の色でマークを表示してもよい。信頼度が低い場合に低輝度でマークを表示し、信頼度が高い場合に高輝度でマークを表示してもよい。信頼度が低い場合に高い透明度でマークを表示し、信頼度が高い場合に低い透明度でマークを表示してもよい。信頼度が低い場合に細い線幅でマークを表示し、信頼度が高い場合に太い線幅でマークを表示してもよい。信頼度が低い場合に破線でマークを表示し、信頼度が高い場合に実線でマークを表示してもよい。マーク自体の種類を切り替えてもよい。例えば、4つの角を示す4つの表示要素の表示と矩形の図形の表示とを切り替えてもよい。幾つかの手法を同時に適用してもよい。
画像形成部26、画像解析部28及びマーク表示制御部30は、それぞれ、プロセッサにより構成され得る。単一のプロセッサが、画像形成部26、画像解析部28及びマーク表示制御部30として機能してもよい。後述するCPUが、画像形成部26、画像解析部28及びマーク表示制御部30として機能してもよい。
表示処理部32は、カラー演算機能、画像合成機能等を有する。表示処理部32には、画像形成部26の出力及びマーク表示制御部30の出力が与えられている。病変部候補を囲むマークは、グラフィック画像を構成する1つの要素である。実施形態においては、マーク表示制御部30がマークを生成しているが、主制御部38、表示処理部32等がマークを生成するようにしてもよい。
表示器36は、LCD、有機EL表示デバイス等によって構成される。表示器36には、動画像としての断層画像がリアルタイムで表示され、また、グラフィック画像の一部としてマークが表示される。表示処理部32は、例えば、プロセッサにより構成される。
主制御部38は、図1に示された各構成要素の動作を制御するものである。主制御部38は、実施形態において、プログラムを実行するCPUによって構成される。主制御部38には、操作パネル40が接続されている。操作パネル40は入力部つまり入力デバイスであり、それは、複数のスイッチ、複数のボタン、トラックボール、キーボード、等を有する。操作パネル40を利用してマーク表示条件を設定又は変更し得る。除外データベースに対して除外対象を登録する際に操作パネル40が操作される。
実施形態においては、表示フレームデータ列が画像解析部28に与えられているが、受信フレームデータ列が画像解析部28に与えられてもよい(符号42を参照)。その場合、画像形成部26とは別に、画像形成を簡易且つ迅速に実行する他の画像形成部が設けられてもよい。
シネメモリ27は、リングバッファ構造を有する。シネメモリ27には、現在から過去に遡って一定期間内の表示フレームデータ列が一時的に格納される。後述するフリーズ状態においては、シネメモリ27から選択的に読み出された表示フレームデータが断層画像(静止画像)として表示器36に表示される。その際において、除外対象の登録のために、画像解析部28及びマーク表示制御部30を再度動作させてもよい。画像解析部28及びマーク表示制御部30で生成されたデータをバッファに一時的に記憶しておき、バッファから読み出されたデータを用いて除外対象の登録を行うようにしてもよい。
図2には、マーク生成方法が示されている。断層画像44には病変部候補46が含まれる。断層画像44の二値化により二値化画像が生成される。二値化画像に対するエッジ検出又は領域検出により、二値化された病変部候補46Aが抽出される。例えば、病変部候補46Aにおける水平方向の両端座標、及び、病変部候補46Aにおける垂直方向の両端座標により、病変部候補46Aに外接する矩形52が定義される。実際には、矩形52の中心点48の座標及び矩形の左上隅点50の座標が特定される。
矩形52の外側に、水平方向及び垂直方向に一定のマージン56,58をおいた図形として、矩形54が定義される。その矩形54が断層画像44上にマーク64として表示される。マーク64は、病変部候補46及びその周囲を囲む図形である。図示の例では、マーク64は、破線で構成されている。4つの隅部分のみを表す4つの要素からなるマークが表示されてもよい。円形や楕円のマークが表示されてもよい。
実施形態においては、表示フレームデータ単位で病変部候補46の検出が実行される。病変部候補46が検出された場合であって、その病変部候補46が除外対象に該当しない場合、その病変部候補46を含む断層画像44上にマーク64が表示される。マーク64の表示により、検査者に対して病変部候補46の存在を知覚させることが可能となり、病変部候補46の見落としを防止できる。一方、病変部候補46が除外対象に該当する場合、マーク64は表示されない。
図3には、図1に示した画像解析部28の第1構成例が示されている。検出部33は、機械学習済み検出モデル70を有している。検出モデル70により断層画像(表示フレームデータ)72に含まれる病変部候補が検出される。検出モデル70は、例えばCNNパラメータセットにより構成され、そのインストールが符号74で示されている。実施形態では、除外処理部34が設けられているので、検出モデル70に再学習を行わせることなく、マーク表示対象を修正することが可能である。符号76で示されているように、病変部情報を構成する位置情報、サイズ情報等がマーク表示制御部30へ与えられている。
検出部33は、病変部候補の特徴ベクトルを演算する機能を有している。符号78で示されているように、特徴ベクトルを示す情報が除外処理部34へ送られている。なお、検出部33とは別のモジュールにより特徴ベクトルが演算されてもよい。それについては後に図8を用いて説明する。
除外処理部34は、除外データベース80、照合部(判定部)82、及び、登録部84を有する。後述する管理部89が除外処理部34の一部を構成してもよい。除外データベース80は、図示の構成例において、複数の除外テーブル80Aにより構成される。選択信号88により選択された除外テーブル80Aが実際に使用される。もちろん、除外データベース80が単一の除外テーブルにより構成されてもよい。複数の被検者に対応した複数の除外テーブル80Aが設けられてもよいし、複数の検査者に対応した複数の除外テーブル80Aが設けられてもよいし、複数の診療科目に対応した複数の除外テーブル80Aが設けられてもよい。
照合部82は、現在検出されている現病変部候補の特徴ベクトルを、選択された除外テーブル80Aに登録されている特徴ベクトル群に対して照合する。一定以上の類似度を生じさせた特徴ベクトルがヒットした場合、現病変部候補は除外対象に該当することが判定され、照合部82からマーク表示制御部30へ除外指示信号90が出力される。一定以上の類似度を生じさせる特徴ベクトルが存在しない場合、除外指示信号90は出力されない。このように、実施形態によれば、現病変部候補を事後的に評価することが可能であり、換言すれば、そのような事後的な評価により検出モデル70に再学習を行わせる必要を無くすことが可能である。
登録部84は、選択されている除外テーブルに対して、現病変部候補の特徴ベクトルを登録する処理を実行する。後述するように、フリーズ状態及びリアルタイム動作状態において、特徴ベクトルの登録を行い得る。符号86は、ユーザーの登録指示を表す信号を示している。
管理部89は、除外データベース80の全部又は一部をクリアする処理を実行する。除外テーブル80Aごとにその内容を消去し得る。例えば、ユーザーのクリア指示に従って1又は複数の除外テーブル80Aのクリアが実行されてもよいし、一定のクリア条件が満たされた時点で1又は複数の除外テーブル80Aの自動的なクリアが実行されてもよい。例えば、新しい被検者の検査開始時、送受信条件の変更時、等において自動的なクリアが実行されてもよい。
マーク表示制御部30は、マークを生成する機能、及び、マークの表示を制限する機能(マークを非表示とする機能)、を有する。マーク表示制御部30は、検出部33から出力される病変部候補情報に基づいて、病変部候補を囲む図形としてマークを生成する。信頼度に基づいてマークの表示態様が変更される。マーク表示制御部30は、除外指示信号が入力された場合、マークの生成を行わず、マークを非表示とする。マークは、フレーム単位で生成されており、マークの表示/非表示の判断もフレーム単位で行われる。
図4には、フリーズ状態で実行される第1動作例が模式的に示されている。画面92内には静止画像としての断層画像102が表示されている。操作パネル40内のフリーズボタン96が既に操作されており、上記のように送受信を停止したフリーズ状態にある。断層画像102の下側にはシネメモリの記憶領域が帯状の図形によって表現されている。その右端がフリーズ時点に相当する。例えば、カーソル100を左側へシフトさせれば、より過去の表示フレームデータを選択し得る。選択された表示フレームデータが断層画像102として表示される。図示の例では、断層画像102内に病変部候補104が含まれ、それを囲むようにマーク106が表示されている。
マーク106が誤検出に由来して表示されたものである場合やマーク106を表示させたくない病変部候補である場合、除外ボタン108が操作される。すると、表示されている病変部候補の特徴ベクトルが除外データベース(具体的には、選択された除外テーブル)に登録される。これにより除外データベースが更新される。必要に応じて、フリーズ状態において、除外対象の登録が繰り返される。フリーズボタン96の再操作により、フリーズ状態が解除され、リアルタイム動作状態に戻る。その段階では、更新後のデータベースに基づいて病変部候補が除外対象か否かが判定される。
図5には、第1動作例がフローチャートとして示されている。S10では、フリーズボタンの操作が検出され、超音波診断装置がフリーズ状態となる。S12では、ユーザーにより、シネメモリのバックサーチが実施され、特定の表示フレームデータが選択される。S14では、登録指示の操作があったか否かが判断され、その操作があった場合、S16において、表示されている病変部候補の特徴ベクトルが除外データベースに登録される。すなわち、除外データベースが更新される。S18でフリーズ解除の操作が判定されるまで、S10以降の一連の工程が繰り返し実行される。S18でフリーズ解除の操作が判定された場合、符号110で示すように、更新された除外データベースを用いて、病変部候補の判定が行われる。
図6には、リアルタイム動作状態で実行される第2動作例が模式的に示されている。(A)は、時間軸を示しており、t1は除外操作があった時点(現在時)を示している。(B)はシネメモリを示しており、その中には表示データ列112が格納されている。符号112Aは、先頭の表示フレームデータ、つまりシネメモリ上、最新の表示フレームデータを示している。第2動作例では、除外操作があると、(C)に示すように、t1より過去一定期間taにわたって除外対処を登録する処理が実行される。一定期間taが例えばN秒で指定されてもよい。Nは例えば1,2,3,・・・である。
一定期間ta内に属する個々の表示フレームデータに対して病変部候補の検出の有無が調査され、病変部候補が検出されている場合、その特徴ベクトルが除外データベースに自動的に登録される。複数の表示フレームデータに含まれる複数の病変部候補に基づいてそれらを代表する単一の特徴ベクトルが演算され、それがデータベースに登録されてもよい。例えば、超音波検査の最中において、誤検出と思われる事象が生じた場合、検査者により除外操作が行われる(例えば除外ボタンが押される)。すると、リアルタイム動作状態であってもデータベースに特徴ベクトルが登録され、それが更新される。その時点以降、更新されたデータベースに基づくマーク表示制御が実行される。
図7には、第2動作例がフローチャートとして示されている。S20では、除外操作の有無が判定される。除外操作があった場合、S22において参照期間が決定され、S24で参照期間内の各表示フレームデータが調査され、それに病変部候補が含まれている場合、その特徴ベクトルが除外データベースに登録される。除外データベースは逐次的に更新される。すなわち、符号114で示すように、更新された除外データベースが直ちに有効化され、それが利用される。S28では、登録処理を終了させるか否かが判断される。
図8には、画像解析部の第2構成例が示されている。なお、図8において、図3に示した構成と同様の構成には同一の符号を付し、その説明を省略する。
画像解析部28Aは、検出部33A及び除外処理部34Aを有し、更に、特徴べクトル演算部116を有している。特徴ベクトル演算部116は、検出部33Aとは別に設けられており、病変部候補の特徴ベクトルを演算する。特徴ベクトル演算部116は、機械学習型演算部ではなく、一般的な演算部である。検出部33Aは機械学習済み検出モデル70Aを有する。検出部33Aは特徴ベクトルを演算する機能を備えていない。第2構成例においても、除外処理部34Aにおいて除外データベース80を利用した除外処理が実行される。なお、図8においては管理部の図示が省略されている。
図9には、変形例が示されている。リアルタイム動作状態において、動画像としての断層画像120が表示されている。そこには、検出対象となった病変部候補が含まれるが、マーク126は表示されていない。そのような場合において、除外処理モードが有効となっていることを示すインジケータ128を表示してもよい。また、マーク表示が制限されていることを示すインジケータ130を表示してもよい。
上記実施形態によれば、機械学習型検出部に再学習を行わせることなく、マーク表示対象となる病変部候補を柔軟にカスタマイズできる。除外データベースと共に、又はそれに代えて、追加データベースを設けてもよい。
10 プローブ、26 画像形成部、28 画像解析部、30 マーク表示制御部、33 検出部、34 除外処理部。

Claims (10)

  1. 機械学習済み検出モデルを有し、超音波画像中の病変部候補を検出する検出部と、
    除外対象とする病変部候補ごとにその特徴量が登録されるデータベースと、
    前記検出部により検出された病変部候補の特徴量を前記データベースに登録されている特徴量群に対して照合することにより、前記検出された病変部候補が除外対象に該当するか否かを判定する判定部と、
    前記検出された病変部候補が除外対象に該当しない場合に前記超音波画像上に前記検出された病変部候補を通知するマークを表示し、前記検出された病変部候補が除外対象に該当する場合に前記マークの表示を制限する表示制御部と、
    を含むことを特徴とする超音波診断装置。
  2. 請求項1記載の超音波診断装置において、
    前記超音波画像中の病変部候補及び前記超音波画像上のマークを観察したユーザーからの除外指示を受け付ける入力部と、
    前記除外指示の対象となった病変部候補の特徴量を前記データベースに登録する登録部と、
    を含み、
    前記機械学習済み検出モデルを再学習させることなく前記ユーザーによりマーク表示対象となる病変部候補群を修正し得る、
    ことを特徴とする超音波診断装置。
  3. 請求項2記載の超音波診断装置において、
    前記入力部は、フリーズ状態において、前記除外指示を受け付け、
    前記登録部は、前記フリーズ状態において、前記除外指示の対象となった病変部候補の特徴量を前記データベースに登録して前記データベースを更新する、
    ことを特徴とする超音波診断装置。
  4. 請求項2記載の超音波診断装置において、
    前記入力部は、リアルタイム動作状態において、前記除外指示を受け付け、
    前記登録部は、
    前記リアルタイム動作状態において、前記除外指示を受け付けたタイミングに基づいて表示済みの1又は複数のフレームデータを特定し、
    前記リアルタイム動作状態において、前記1又は複数のフレームデータから病変部候補の特徴量を抽出し、当該特徴量を前記データベースに登録して前記データベースを更新する、
    ことを特徴とする超音波診断装置。
  5. 請求項1記載の超音波診断装置において、
    前記検出部は、前記病変部候補の特徴量を求める機能を有する、
    ことを特徴とする超音波診断装置。
  6. 請求項1記載の超音波診断装置において、
    前記検出部とは別に設けられ、前記病変部候補の特徴量を演算する演算部を含む、
    ことを特徴とする超音波診断装置。
  7. 請求項1記載の超音波診断装置において、
    前記データベースの全部又は一部をクリアする管理部を含む、
    ことを特徴とする超音波診断装置。
  8. 請求項7記載の超音波診断装置において、
    前記データベースは複数のテーブルを含み、
    前記各テーブルに前記特徴量が登録され、
    前記管理部は前記複数のテーブルの中からクリアするテーブルを選択する、
    ことを特徴とする超音波診断装置。
  9. 機械学習済み検出モデルを用いて、超音波画像中の病変部候補を検出する工程と、
    除外対象とする病変部候補ごとにその特徴量をデータベースに登録する工程と、
    前記検出された病変部候補の特徴量を前記データベースに登録されている特徴量群に対して照合することにより、前記検出された病変部候補が除外対象に該当するか否かを判定する工程と、
    前記検出された病変部候補が除外対象に該当しない場合に前記超音波画像上に前記検出された病変部候補を通知するマークを表示し、前記検出された病変部候補が除外対象に該当する場合に前記マークの表示を制限する工程と、
    を含むことを特徴とする診断支援方法。
  10. 情報処理装置において診断支援方法を実行するためのプログラムであって、
    機械学習済み検出モデルを用いて、超音波画像中の病変部候補を検出する機能と、
    除外対象とする病変部候補ごとにその特徴量をデータベースに登録する機能と、
    前記検出された病変部候補の特徴量を前記データベースに登録されている特徴量群に対して照合することにより、前記検出された病変部候補が除外対象に該当するか否かを判定する機能と、
    前記検出された病変部候補が除外対象に該当しない場合に前記超音波画像上に前記検出された病変部候補を通知するマークを表示し、前記検出された病変部候補が除外対象に該当する場合に前記マークの表示を制限する機能と、
    を含むことを特徴とするプログラム。


JP2021080735A 2021-05-12 2021-05-12 超音波診断装置及び診断支援方法 Pending JP2022174780A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021080735A JP2022174780A (ja) 2021-05-12 2021-05-12 超音波診断装置及び診断支援方法
CN202210436506.1A CN115337039A (zh) 2021-05-12 2022-04-24 超声波诊断装置以及诊断辅助方法
US17/730,338 US20220367038A1 (en) 2021-05-12 2022-04-27 Ultrasonic diagnostic device and diagnostic assisting method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021080735A JP2022174780A (ja) 2021-05-12 2021-05-12 超音波診断装置及び診断支援方法

Publications (1)

Publication Number Publication Date
JP2022174780A true JP2022174780A (ja) 2022-11-25

Family

ID=83947892

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021080735A Pending JP2022174780A (ja) 2021-05-12 2021-05-12 超音波診断装置及び診断支援方法

Country Status (3)

Country Link
US (1) US20220367038A1 (ja)
JP (1) JP2022174780A (ja)
CN (1) CN115337039A (ja)

Also Published As

Publication number Publication date
US20220367038A1 (en) 2022-11-17
CN115337039A (zh) 2022-11-15

Similar Documents

Publication Publication Date Title
CN110870792B (zh) 用于超声导航的系统和方法
KR101565311B1 (ko) 3 차원 심초음파 검사 데이터로부터 평면들의 자동 검출
CN111315301B (zh) 用于将超声乳房图像与其他成像模态的乳房图像相关的超声系统和方法
US20190105013A1 (en) Ultrasound system and method for detecting lung sliding
US11607200B2 (en) Methods and system for camera-aided ultrasound scan setup and control
CN111227864A (zh) 使用超声图像利用计算机视觉进行病灶检测的方法与装置
JP2005000656A (ja) 生理学的構造及び事象の標識付けの方法及びシステム
JP7145107B2 (ja) 超音波診断装置及び表示方法
WO2018195946A1 (zh) 一种超声图像显示方法、设备及存储介质
JP2020039645A (ja) 超音波診断装置及び表示方法
US20200405264A1 (en) Region of interest positioning for longitudinal montioring in quantitative ultrasound
JP2022174780A (ja) 超音波診断装置及び診断支援方法
JP2024501181A (ja) 超音波画像取得、追跡、及びレビュー
CN111292248B (zh) 超声融合成像方法及超声融合导航系统
JP7438038B2 (ja) 超音波診断装置及び診断支援方法
JP7457571B2 (ja) 超音波診断装置及び診断支援方法
JP7488789B2 (ja) 超音波診断装置及び診断支援方法
JP7299100B2 (ja) 超音波診断装置及び超音波画像処理方法
US20220378403A1 (en) Ultrasound diagnostic apparatus and diagnosis assistance method
US20240180529A1 (en) Method for use in ultrasound imaging
US20240225588A1 (en) Method and Apparatus of Intelligent Analysis for Liver Tumor
US20230196580A1 (en) Ultrasound diagnostic apparatus and ultrasound image processing method
RU2779836C2 (ru) Ультразвуковая система и способ для корреляции между ультразвуковыми изображениями груди и изображениями груди других методов визуализации
WO2024013114A1 (en) Systems and methods for imaging screening
CN116650006A (zh) 用于自动超声检查的系统和方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20211109

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231027

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20231027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240229

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240604