JP7277345B2 - 画像処理装置及び画像処理プログラム - Google Patents

画像処理装置及び画像処理プログラム Download PDF

Info

Publication number
JP7277345B2
JP7277345B2 JP2019217149A JP2019217149A JP7277345B2 JP 7277345 B2 JP7277345 B2 JP 7277345B2 JP 2019217149 A JP2019217149 A JP 2019217149A JP 2019217149 A JP2019217149 A JP 2019217149A JP 7277345 B2 JP7277345 B2 JP 7277345B2
Authority
JP
Japan
Prior art keywords
image
display
processing
unit
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019217149A
Other languages
English (en)
Other versions
JP2021083955A (ja
Inventor
充男 穐山
康彦 阿部
広治 安藤
康一郎 栗田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Priority to JP2019217149A priority Critical patent/JP7277345B2/ja
Publication of JP2021083955A publication Critical patent/JP2021083955A/ja
Application granted granted Critical
Publication of JP7277345B2 publication Critical patent/JP7277345B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本明細書及び図面に開示の実施形態は、画像処理装置及び画像処理プログラムに関する。
医用分野では、超音波プローブの複数の振動子(圧電振動子)を用いて発生させた超音波を利用して、被検体内部を画像化する超音波診断装置が使用されている。超音波診断装置は、超音波診断装置に接続された超音波プローブから被検体内に超音波を送信させ、反射波に基づくエコー信号を生成し、画像処理によって所望の超音波画像を得る。
超音波診断装置による心エコー検査では、表示画像のフリーズ操作後に、操作者が直近の複数心拍から手動で最適と考えられる心拍を選択し、選択した心拍に対応する超音波画像に対し、種々の計測及び解析が行われる。超音波画像の計測及び解析の手法としては、例えば、心筋の壁運動解析を行う2次元WMT(Wall Motion Tracking)及び3次元WMTや、左室駆出率等を自動で算出するAuto_EF(Automated Ejection Fraction)等が挙げられる。
Auto_EFは、実際の心臓の形態と、予め構築されたデータベースに登録された特徴(心臓の外観、左室心内膜等)を照合してパターン認識を行い、同様のパターンを有した心臓を探し出して左室心内膜を検出し、各心拍の定量値として、拡張末期左室容積(EDV)、収縮末期左室容積(ESV)、左室駆出率(EF)等を算出する方法である。
特開2013-135836号公報
本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、バックグラウンドで行われる処理の状態を操作者に提示することである。
ただし、本明細書等に開示の実施形態により解決される課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を、本明細書等に開示の実施形態が解決する他の課題として位置づけることもできる。
実施形態に係る画像処理装置は、受付部と、生成部と、表示制御部と、処理部とを備える。受付部は、特定の超音波画像の保存指示を受け付ける。生成部は、保存指示に係る特定の超音波画像のサムネイル画像を生成する。表示制御部は、超音波画像を表示部にライブ表示させるとともに、サムネイル画像を表示部に表示させる。処理部は、表示制御部によるライブ表示のバックグラウンドで、保存指示により保存された特定の超音波画像から定量値を取得する処理を実行する。表示制御部は、処理が完了すると処理の結果をサムネイル画像上に表示させる。
実施形態に係る画像処理装置は、受付部と、生成部と、表示制御部と、処理部とを備える。受付部は、特定の医用画像の保存指示を受け付ける。生成部は、保存指示に係る特定の医用画像のサムネイル画像を生成する。表示制御部は、医用画像を表示部にライブ表示させるとともに、サムネイル画像を表示部に表示させる。処理部は、表示制御部によるライブ表示のバックグラウンドで、保存指示により保存された特定の医用画像から定量値を取得する処理を実行する。表示制御部は、処理が完了すると処理の結果をサムネイル画像上に表示させる。
図1は、実施形態に係る画像処理装置を設ける超音波診断装置の構成の一例を示す概略図。 図2は、実施形態に係る画像処理装置の機能の一例を示すブロック図。 図3は、実施形態に係る画像処理装置の動作の一例をフローチャートとして示す図。 図4は、実施形態に係る画像処理装置において、Bモード画像の表示例を示す図。 図5は、実施形態に係る画像処理装置において、サムネイル画像の表示例を示す図。 図6は、実施形態に係る画像処理装置において、進捗度を示す情報の表示例を示す図。 図7は、実施形態に係る画像処理装置において、処理の結果としての代表値の表示例を示す図。 図8は、実施形態に係る画像処理装置において、処理の結果を示す情報の表示例を示す図。 図9は、実施形態に係る画像処理装置において、処理開始前におけるサムネイル画像の拡大画像の表示例を示す図。 図10は、実施形態に係る画像処理装置において、処理中におけるサムネイル画像の拡大画像の表示例を示す図。 図11は、実施形態に係る画像処理装置において、処理終了後における処理の結果をワークシート形式で示す画像の表示例を示す図。 図12は、実施形態に係る画像処理装置において、処理終了後におけるサムネイル画像の拡大画像と処理の結果をワークシート形式で示す画像との表示例を示す図。 図13は、実施形態に係る画像処理装置において、処理終了後におけるサムネイル画像の拡大画像の表示例を示す図。 図14は、実施形態に係る画像処理装置において、処理終了後におけるサムネイル画像の拡大画像の表示例を示す図。 図15は、実施形態に係る画像処理装置において、周期性の変化が大きい心拍を含めた処理結果である旨を提示するための、図7の表示画面における代表値の表示例を示す図。 図16は、実施形態に係る画像処理装置において、周期性の変化が大きい心拍を単純に除いた処理結果である旨を提示するための、図7の表示画面における代表値の表示例を示す図。
以下、図面を参照しながら、画像処理装置及び画像処理プログラムの実施形態について詳細に説明する。
実施形態に係る画像処理装置は、医用画像を生成する医用画像診断装置の一部として設けられる。以下、画像処理装置が、医用画像診断装置としての超音波診断装置の一部として設けられる場合について説明する。しかし、その場合に限定されるものではない。例えば、画像処理装置は、医用画像診断装置としての単純X線装置、X線透視撮影装置、X線CT(Computed Tomography)装置、MRI(Magnetic Resonance Imaging)装置、及び核医学診断装置等の一部として設けられる場合であってもよい。画像処理装置は、スキャン装置によるスキャンを行いながら、そのスキャンにより取得された画像データからバックグランドで定量値を取得する処理を行うように制御可能なものであればよい。
図1は、実施形態に係る画像処理装置を設ける超音波診断装置の構成の一例を示す概略図である。
図1は、実施形態に係る画像処理装置10を設ける超音波診断装置1を示す。超音波診断装置1は、画像処理装置10と、超音波プローブ20と、入力インターフェース30と、ディスプレイ40と、生体信号センサ50とを示す。なお、画像処理装置10に、超音波プローブ20と、入力インターフェース30と、ディスプレイ40と、生体信号センサ50とのうちの少なくとも1個を加えた装置を画像処理装置と称する場合もある。以下の説明では、画像処理装置10の外部に、超音波プローブ20と、入力インターフェース30と、ディスプレイ40と、生体信号センサ50との全てが備えられる場合について説明する。
画像処理装置10は、送受信回路11と、Bモード処理回路12と、ドプラ処理回路13と、画像生成回路14と、画像メモリ15と、ネットワークインターフェース16と、処理回路17と、メインメモリ18とを備える。回路11~14は、特定用途向け集積回路(ASIC:Application Specific Integrated Circuit)等によって構成されるものである。しかしながら、その場合に限定されるものではなく、回路11~14の機能の全部又は一部は、処理回路17がプログラムを実行することで実現されるものであってもよい。
送受信回路11は、送信回路及び受信回路(図示省略)を有する。送受信回路11は、処理回路17による制御の下、超音波の送受信における送信指向性と受信指向性とを制御する。なお、送受信回路11が画像処理装置10に設けられる場合について説明するが、送受信回路11は、超音波プローブ20に設けられてもよいし、画像処理装置10と超音波プローブ20との両方に設けられてもよい。なお、送受信回路11は、送受信部の一例である。
送信回路は、パルス発生回路、送信遅延回路、及びパルサ回路等を有し、超音波振動子に駆動信号を供給する。パルス発生回路は、所定のレート周波数で、送信超音波を形成するためのレートパルスを繰り返し発生する。送信遅延回路は、超音波プローブ20の超音波振動子から発生される超音波をビーム状に集束して送信指向性を決定するために必要な圧電振動子ごとの遅延時間を、パルス発生回路が発生する各レートパルスに対し与える。また、パルサ回路は、レートパルスに基づくタイミングで、超音波振動子に駆動パルスを印加する。送信遅延回路は、各レートパルスに対し与える遅延時間を変化させることで、圧電振動子面から送信される超音波ビームの送信方向を任意に調整する。
受信回路は、アンプ回路、A/D(Analog to Digital)変換器、及び加算器等を有し、超音波振動子が受信したエコー信号を受け、このエコー信号に対して各種処理を行ってエコーデータを生成する。アンプ回路は、エコー信号をチャンネル毎に増幅してゲイン補正処理を行う。A/D変換器は、ゲイン補正されたエコー信号をA/D変換し、デジタルデータに受信指向性を決定するのに必要な遅延時間を与える。加算器は、A/D変換器によって処理されたエコー信号の加算処理を行ってエコーデータを生成する。加算器の加算処理により、エコー信号の受信指向性に応じた方向からの反射成分が強調される。
Bモード処理回路12は、処理回路17による制御の下、受信回路からエコーデータを受信し、対数増幅、及び包絡線検波処理等を行って、信号強度が輝度の明るさで表現されるデータ(2次元又は3次元データ)を生成する。このデータは、一般に、Bモードデータと呼ばれる。なお、Bモード処理回路12は、Bモード処理部の一例である。
なお、Bモード処理回路12は、フィルタ処理により、検波周波数を変化させることで、映像化する周波数帯域を変えることができる。Bモード処理回路12のフィルタ処理機能を用いることにより、コントラストハーモニックイメージング(CHI:Contrast Harmonic Imaging)や、ティッシュハーモニックイメージング(THI:Tissue Harmonic Imaging)等のハーモニックイメージングを実行可能である。すなわち、Bモード処理回路12は、造影剤が注入された被検体の反射波データから、造影剤(微小気泡、バブル)を反射源とするハーモニック成分の反射波データ(高調波データ又は分周波データ)と、被検体内の組織を反射源とする基本波成分の反射波データ(基本波データ)とを分離することができる。Bモード処理回路12は、また、ハーモニック成分の反射波データ(受信信号)から、造影画像データを生成するためのBモードデータを生成することができ、また、基本波成分の反射波データ(受信信号)から、基本波(ファンダメンタル)画像データを生成するためのBモードデータを生成することができる。
また、Bモード処理回路12のフィルタ処理機能を用いることによるTHIにおいて、被検体の反射波データから、ハーモニック成分の反射波データ(受信信号)である高調波データ又は分周波データを分離することができる。そして、Bモード処理回路12は、ハーモニック成分の反射波データ(受信信号)から、ノイズ成分を除去した組織画像データを生成するためのBモードデータを生成することができる。
さらに、CHIやTHIのハーモニックイメージングを行なう際、Bモード処理回路12は、上述したフィルタ処理を用いた方法とは異なる方法により、ハーモニック成分を抽出することができる。ハーモニックイメージングでは、振幅変調(AM:Amplitude Modulation)法や位相変調(PM:Phase Modulation)法、AM法及びPM法を組み合わせたAMPM法と呼ばれる映像法が行なわれる。AM法、PM法及びAMPM法では、同一の走査線に対して振幅や位相が異なる超音波送信を複数回行なう。これにより、送受信回路11は、各走査線で複数の反射波データ(受信信号)を生成し出力する。そして、Bモード処理回路12は、各走査線の複数の反射波データ(受信信号)を、変調法に応じた加減算処理することで、ハーモニック成分を抽出する。そして、Bモード処理回路12は、ハーモニック成分の反射波データ(受信信号)に対して包絡線検波処理等を行なって、Bモードデータを生成する。
例えば、PM法が行なわれる場合、送受信回路11は、処理回路17が設定したスキャンシーケンスにより、例えば(-1,1)のように、位相極性を反転させた同一振幅の超音波を、各走査線で2回送信させる。そして、送受信回路11は、「-1」の送信による受信信号と、「1」の送信による受信信号とを生成し、Bモード処理回路12は、これら2つの受信信号を加算する。これにより、基本波成分が除去され、2次高調波成分が主に残存した信号が生成される。そして、Bモード処理回路12は、この信号に対して包絡線検波処理等を行なって、THIのBモードデータやCHIのBモードデータを生成する。
又は、例えば、THIでは、受信信号に含まれる2次高調波成分と差音成分とを用いて映像化を行なう方法が実用化されている。差音成分を用いた映像化法では、例えば、中心周波数が「f1」の第1基本波と、中心周波数が「f1」より大きい「f2」の第2基本波とを合成した合成波形の送信超音波を、超音波プローブ20から送信させる。この合成波形は、2次高調波成分と同一の極性を持つ差音成分が発生するように、互いの位相が調整された第1基本波の波形と第2基本波の波形とを合成した波形である。送受信回路11は、合成波形の送信超音波を、位相を反転させながら、例えば、2回送信させる。かかる場合、例えば、Bモード処理回路12は、2つの受信信号を加算することで、基本波成分が除去され、差音成分及び2次高調波成分が主に残存したハーモニック成分を抽出した後、包絡線検波処理等を行なう。
ドプラ処理回路13は、処理回路17による制御の下、受信回路からのエコーデータから速度情報を周波数解析し、平均速度、分散、パワー等の移動体の移動情報を多点について抽出したデータ(2次元又は3次元データ)を生成する。このデータは、一般に、ドプラデータと呼ばれる。ここで、移動体とは、例えば、血流や、心壁等の組織、造影剤である。なお、ドプラ処理回路13は、ドプラ処理部の一例である。
画像生成回路14は、処理回路17による制御の下、超音波プローブ20が受信したエコー信号に基づいて、所定の輝度レンジで表現された超音波画像を画像データとして生成する。例えば、画像生成回路14は、超音波画像として、Bモード処理回路12によって生成された2次元のBモードデータから反射波の強度を輝度にて表したBモード画像を生成する。また、画像生成回路14は、超音波画像として、ドプラ処理回路13によって生成された2次元のドプラデータから移動態情報を表す平均速度画像、分散画像、パワー画像、又は、これらの組み合わせ画像としてのカラードプラ画像を生成する。なお、画像生成回路14は、画像生成部の一例である。
ここで、画像生成回路14は、一般的には、超音波走査の走査線信号列を、テレビ等に代表されるビデオフォーマットの走査線信号列に変換(スキャンコンバート)し、表示用の超音波画像データを生成する。具体的には、画像生成回路14は、超音波プローブ20による超音波の走査形態に応じて座標変換を行なうことで、表示用の超音波画像データを生成する。また、画像生成回路14は、スキャンコンバート以外に、種々の画像処理として、例えば、スキャンコンバート後の複数の画像フレームを用いて、輝度の平均値画像を再生成する画像処理(平滑化処理)や、画像内で微分フィルタを用いる画像処理(エッジ強調処理)等を行なう。また、画像生成回路14は、超音波画像データに、種々のパラメータの文字情報、目盛り、ボディーマーク等を合成する。
すなわち、Bモードデータ及びドプラデータは、スキャンコンバート処理前の超音波画像データであり、画像生成回路14が生成するデータは、スキャンコンバート処理後の表示用の超音波画像データである。なお、Bモードデータ及びドプラデータは、生データ(Raw Data)とも呼ばれる。画像生成回路14は、スキャンコンバート処理前の2次元超音波画像データから、表示用の2次元超音波画像データを生成する。
さらに、画像生成回路14は、Bモード処理回路12によって生成された3次元のBモードデータに対して座標変換を行なうことで、3次元Bモード画像データを生成する。また、画像生成回路14は、ドプラ処理回路13によって生成された3次元のドプラデータに対して座標変換を行なうことで、3次元ドプラ画像データを生成する。画像生成回路14は、「3次元のBモード画像データや3次元ドプラ画像データ」を「3次元超音波画像データ(ボリュームデータ)」として生成する。
そして、画像生成回路14は、3次元メモリに記憶されたボリュームデータをディスプレイ40にて表示するための各種の2次元画像データを生成するために、ボリュームデータに対してレンダリング処理を行なう。画像生成回路14は、レンダリング処理として、例えば、断面再構成法(MPR:Multi Planer Reconstruction)を行なってボリュームデータからMPR画像データを生成する処理を行う。また、画像生成回路14は、レンダリング処理として、例えば、3次元の情報を反映した2次元画像データを生成するボリュームレンダリング(VR:Volume Rendering)処理を行う。
画像メモリ15は、例えば、磁気的若しくは光学的記録媒体、又は半導体メモリ等のプロセッサにより読み取り可能な記録媒体等を有する。画像メモリ15は、処理回路17の制御による制御の下、画像生成回路14によって生成された、心拍データに対応付けられた複数心拍分の超音波画像データを保存する。画像メモリ15に保存された複数の超音波画像データは、被検体の心拍データと1心拍(1つの心周期)単位で対応付けられる。具体的には、例えば画像メモリ15に保存された各超音波画像データは、1心拍に対応する心拍データに対応付けられる。
なお、画像メモリ15は、1心拍分の超音波画像データを1つの画像データとして保存してもよいし、複数心拍分の超音波画像データを1つの画像データにまとめて保存してもよい。また、画像メモリ15は、処理回路17の制御による制御の下、画像生成回路14によって生成された超音波画像データを、2次元データとしてのみならず、ボリュームデータとして記憶してもよい。なお、画像メモリ15は、記憶部の一例である。
ネットワークインターフェース16は、ネットワークの形態に応じた種々の情報通信用プロトコルを実装する。ネットワークインターフェース16は、この各種プロトコルに従って、超音波診断装置1と、外部の画像管理装置60及び画像処理装置70等の他の機器とを接続する。この接続には、電子ネットワークを介した電気的な接続等を適用することができる。ここで、電子ネットワークとは、電気通信技術を利用した情報通信網全般を意味し、無線/有線の病院基幹のLAN(Local Area Network)やインターネット網のほか、電話通信回線網、光ファイバ通信ネットワーク、ケーブル通信ネットワーク及び衛星通信ネットワーク等を含む。
また、ネットワークインターフェース16は、非接触無線通信用の種々のプロトコルを実装してもよい。この場合、画像処理装置10は、例えば超音波プローブ20と、ネットワークを介さず直接にデータ送受信することができる。なお、ネットワークインターフェース16は、ネットワーク接続部の一例である。
処理回路17は、専用又は汎用のCPU(central processing unit)、MPU(micro processor unit)、又はGPU(Graphics Processing Unit)の他、ASIC、及び、プログラマブル論理デバイス等を意味する。プログラマブル論理デバイスとしては、例えば、単純プログラマブル論理デバイス(SPLD:simple programmable logic device)、複合プログラマブル論理デバイス(CPLD:complex programmable logic device)、及び、フィールドプログラマブルゲートアレイ(FPGA:field programmable gate array)等が挙げられる。
また、処理回路17は、単一の回路によって構成されてもよいし、複数の独立した回路要素の組み合わせによって構成されてもよい。後者の場合、メインメモリ18は回路要素ごとに個別に設けられてもよいし、単一のメインメモリ18が複数の回路要素の機能に対応するプログラムを記憶するものであってもよい。なお、処理回路17は、処理部の一例である。
メインメモリ18は、RAM(random access memory)、フラッシュメモリ(flash memory)等の半導体メモリ素子、ハードディスク、光ディスク等によって構成される。メインメモリ18は、USB(universal serial bus)メモリ及びDVD(digital video disk)等の可搬型メディアによって構成されてもよい。メインメモリ18は、処理回路17において用いられる各種処理プログラム(アプリケーションプログラムの他、OS(operating system)等も含まれる)や、プログラムの実行に必要なデータを記憶する。また、OSに、操作者に対するディスプレイ40への情報の表示にグラフィックを多用し、基礎的な操作を入力インターフェース30によって行うことができるGUI(graphical user interface)を含めることもできる。なお、メインメモリ18は、記憶部の一例である。
超音波プローブ20は、前面部に複数個の微小な振動子(圧電素子)を備え、スキャン対象を含む領域、例えば管腔体を含む領域に対して超音波の送受波を行う。各振動子は電気音響変換素子であり、送信時には電気パルスを超音波パルスに変換し、また、受信時には反射波を電気信号(受信信号)に変換する機能を有する。超音波プローブ20は小型、軽量に構成されており、ケーブル(又は無線通信)を介して画像処理装置10に接続される。
超音波プローブ20は、スキャン方式の違いにより、リニア型、コンベックス型、及びセクタ型等の種類に分けられる。また、超音波プローブ20は、アレイ配列次元の違いにより、アジマス方向に1次元(1D)的に複数個の振動子が配列された1Dアレイプローブと、アジマス方向かつエレベーション方向に2次元(2D)的に複数個の振動子が配列された2Dアレイプローブとの種類に分けられる。なお、1Dアレイプローブは、エレベーション方向に少数の振動子が配列されたプローブを含む。
ここで、3Dスキャン、つまり、ボリュームスキャンが実行される場合、超音波プローブ20として、リニア型、コンベックス型、及びセクタ型等のスキャン方式を備えた2Dアレイプローブが利用される。又は、ボリュームスキャンが実行される場合、超音波プローブ20として、リニア型、コンベックス型、及びセクタ型等のスキャン方式を備え、エレベーション方向に機械的に揺動する機構を備えた1Dプローブが利用される。後者のプローブは、メカ4Dプローブとも呼ばれる。
入力インターフェース30は、操作者によって操作が可能な入力デバイスと、入力デバイスからの信号を入力する入力回路とを含む。入力デバイスは、トラックボール、スイッチ、マウス、キーボード、操作面に触れることで入力操作を行うタッチパッド、表示画面とタッチパッドとが一化されたタッチスクリーン、光学センサを用いた非接触入力デバイス、及び音声入力デバイス等によって実現される。操作者により入力デバイスが操作されると、入力回路はその操作に応じた信号を生成して処理回路17に出力する。なお、入力インターフェース30は、入力部の一例である。
ディスプレイ40は、例えば液晶ディスプレイやOLED(Organic Light Emitting Diode)ディスプレイ等の一般的な表示出力装置により構成される。ディスプレイ40は、処理回路17の制御に従って各種情報を表示する。なお、ディスプレイ40は、表示部の一例である。
生体信号センサ50は、超音波走査される被検体から生体信号を検出する。生体信号センサ50は、生体信号として、例えば、被検体のECG(心電図波形:Electrocardiogram)信号を電気信号として検出する。生体信号センサ50は、検出されたECG信号にデジタル化処理を含む各種処理を施した上で、心拍データとして画像処理装置10に送信する。なお、生体信号センサ50は、生体信号として、ECGに加え/代え、脳波、脈拍、及び呼吸等の被検体から発せられる周期性を有する他の信号を検出してもよい。
また、図1は、画像処理装置10の外部機器である画像管理装置60と画像処理装置70とを示す。画像管理装置60は、例えば、DICOM(Digital Imaging and Communications in Medicine)サーバであり、ネットワークNを介してデータ送受信可能に超音波診断装置1等の機器に接続される。画像管理装置60は、超音波診断装置1によって生成された超音波画像等の医用画像をDICOMファイルとして管理する。
画像処理装置70は、ネットワークNを介してデータ送受信可能に超音波診断装置1や画像管理装置60等の機器に接続される。画像処理装置70としては、例えば、超音波診断装置1によって生成された超音波画像に対して各種画像処理を施すワークステーションや、タブレット端末等の携帯型情報処理端末等が挙げられる。なお、画像処理装置70はオフラインの装置であって、超音波診断装置1によって生成された超音波画像を可搬型の記憶媒体を介して読み出し可能な装置であってもよい。
続いて、画像処理装置10の機能について説明する。
図2は、画像処理装置10の機能の一例を示すブロック図である。
処理回路17は、メインメモリ18、又は、処理回路17内のメモリに記憶されたコンピュータプログラム(例えば、画像処理プログラム)を読み出して実行することで、画像取得機能171と、表示制御機能172と、受付機能173と、記憶制御機能174と、サムネイル生成機能175と、処理機能176と、管理機能177と、評価機能178とを実現する。以下、機能171~178がコンピュータプログラムによって実現される場合を例に挙げて説明するが、機能171~178の全部又は一部は、画像処理装置10にASIC等の回路等の機能として設けられるものであってもよい。
画像取得機能171は、送受信回路11と、Bモード処理回路12と、ドプラ処理回路13と、画像生成回路14等を制御して、超音波プローブ20を用いたスキャンを実行させて超音波画像データを取得する機能を含む。具体的には、画像取得機能171は、超音波画像データとして、Mモード画像データや、Bモード画像データや、ドプラ画像データ等を取得する。なお、画像取得機能171は、画像取得部の一例である。
表示制御機能172は、画像取得機能171による制御に従って画像生成回路14によって生成された各超音波画像データを超音波画像としてディスプレイ40にライブ表示させる機能を含む。また、表示制御機能172は、超音波画像データのライブ表示とともに、後述のサムネイル生成機能175によって生成されたサムネイル画像データをサムネイル画像としてディスプレイ40に表示させる機能を含む。なお、表示制御機能172は、表示制御部の一例である。
受付機能173は、複数フレームの超音波画像のうち特定フレームの超音波画像データの保存指示を入力インターフェース30から受け付ける機能を含む。なお、受付機能173は、受付部の一例である。
記憶制御機能174は、生体信号センサ50から出力された心拍データを取得し、画像生成回路14によって生成された複数の超音波画像データを心拍データに対応付けて画像メモリ15に逐次保存(一次的に保存)する機能を含む。記憶制御機能174は、複数の超音波画像データを画像メモリ15に逐次保存するとともに、心拍データを複数の超音波画像データと対応付けて別のメモリ(図示省略)に逐次保存してもよい。また、記憶制御機能174は、複数の超音波画像データを取得した期間における、被検体の複数心拍に関する心拍データを取得してもよい。
また、記憶制御機能174は、受付機能173によって受け付けられた保存指示に係る特定フレームの超音波画像データに対応する複数フレームの超音波画像データを、画像メモリ15に保存(二次的に保存)する機能を含む。なお、記憶制御機能174は、記憶制御部の一例である。
サムネイル生成機能175は、受付機能173によって受け付けられた保存指示に係る特定フレームの超音波画像データのサムネイルを示すサムネイル画像データを生成する機能を含む。なお、サムネイル生成機能175は、生成部の一例である。
処理機能176は、表示制御機能172によるライブ表示のバックグラウンドで、受付機能173の保存指示により記憶制御機能174によって保存された複数フレームの超音波画像データから定量値を取得する処理を実行する機能を含む。例えば、処理機能176は、処理として、複数心拍にわたる複数の超音波画像データから各心拍における定量値を取得する処理を実行する。なお、処理機能176は、処理部の一例である。
また、表示制御機能172は、処理機能176による処理が完了すると、処理結果をディスプレイ40に表示させる機能を含む。
管理機能177は、処理機能176による処理状態(未処理、処理中、処理後未承認、処理後承認済)を管理する機能を含む。その場合、表示制御機能172は、処理状態に応じて表示態様を変更する。また、管理機能177は、外部装置(例えば、図1に図示する画像管理装置60)への転送状態(未転送/転送済)を管理する機能を含む。その場合、表示制御機能172は、転送状態に応じて表示態様を変更する。なお、管理機能177は、管理部の一例である。
評価機能178は、処理機能176によって各心拍から得られた定量値の信頼度を評価する機能を含む。その場合、表示制御機能172は、信頼度に基づく情報をディスプレイ40に表示させる。例えば、評価機能178は、Auto_EFの際のパターンマッチングの確度を定量値の信頼度とし、信頼度に応じて、処理結果の表示態様を変更する。なお、評価機能178は、評価部の一例である。
機能171~178の詳細については、図3~図14を用いて説明する。
続いて、画像処理装置10の動作について説明する。
図3は、画像処理装置10の動作の一例をフローチャートとして示す図である。図3において、「ST」に数字を付した符号はフローチャートの各ステップを示す。
画像処理装置10の画像取得機能171は、例えば、HIS(Hospital Information Systems)等の検査依頼装置(図示省略)から検査オーダ情報を受信した後、入力インターフェース30を介して心エコー検査の超音波スキャンの開始指示を受け付ける。画像取得機能171は、送受信回路11と、Bモード処理回路12と、ドプラ処理回路13と、画像生成回路14等を制御して、超音波プローブ20を用いた超音波スキャンを開始させる(ステップST1)。表示制御機能172は、ステップST1によって取得された、心臓を含む各フレームのBモード画像データをBモード画像としてディスプレイ40にライブ表示させる(ステップST2)。
図4は、Bモード画像の表示例を示す図である。
図4は、超音波画像としてのBモード画像を含む表示画面D1を示す。表示画面D1は、ライブ表示される第nフレームのBモード画像Bnを含む。nは、1以上の整数である。第nフレームのBモード画像Bn上に第n+1フレームのBモード画像Bn+1が重畳されてBモード画像の表示が更新されることで、Bモード画像がライブ表示される。なお、表示画面D1には図示しないが、表示画面D1(後述する表示画面D2~D11についても同様)は、心拍データ(例えば、心電図波形)を含んでいてもよい。
また、表示画面D1は、「保存」指示を受け付けるためのユーザインターフェース、例えば保存ボタンPを設ける場合があるが、その説明については図5を用いて後述する。
図3の説明に戻って、受付機能173は、ステップST2によってディスプレイ40に表示されたフレームのBモード画像データの保存指示を入力インターフェース30から受け付ける(ステップST3)。一般的には、入力インターフェース30からライブ表示によるBモード画像の更新画像がフリーズされた上で、保存指示が受け付けられる。
記憶制御機能174は、ステップST3によって受け付けられた保存指示により、保存指示直前の複数心拍にわたる複数フレームのBモード画像データを取得して画像メモリ15に保存する(ステップST4)。例えば、記憶制御機能174は、ステップST4において、画像メモリ15(又はメインメモリ18)に一次的に保存された複数フレームのBモード画像データから、保存指示直前の4心拍に対応する複数フレームのBモード画像データを取得して画像メモリ15に二次的に保存する。画像メモリ15に一次的に保存された複数フレームのBモード画像データは、心拍データに対応付けられている。
サムネイル生成機能175は、ステップST3によって保存指示を受け付けたBモード画像データのサムネイルを示すサムネイル画像データを生成する(ステップST5)。表示制御機能172は、Bモード画像データのライブ表示とともに、ステップST5によって生成されたサムネイル画像データをサムネイル画像としてディスプレイ40に表示させる(ステップST6)。
図5は、サムネイル画像の表示例を示す図である。
図5は、サムネイル画像を含む表示画面D2を示す。表示画面D2は、ライブ表示される第nフレームのBモード画像Bnと、保存指示されたBモード画像データのサムネイルを示すサムネイル画像Bとを含む。
図4に示す表示画面D1において、入力インターフェース30により画面上のマーカが保存ボタンP上に合わせられて決定(クリック)されると、表示制御機能172は、表示画面D1から図5に示す表示画面D2に移行させる。
また、表示画面D2は、処理を開始させるためのユーザインターフェース、例えば開始ボタンQを設ける場合があるが、その説明については図6を用いて後述する。表示制御機能172は、開始ボタンQの要素として、処理を行う断面の種別を受け付けるためのユーザインターフェース、例えば「4ch(チャンバ)」ボタン、「2ch」ボタン、「3ch」ボタンをディスプレイ40に表示させる。
図3の説明に戻って、受付機能173は、表示制御機能172によるライブ表示のバックグラウンドで、ステップST4によって保存された、複数心拍にわたる複数フレームのBモード画像データに基づいて、各心拍の定量値を取得する処理の開始指示を受け付ける(ステップST7)。
処理機能176は、ステップST7によって受け付けられた処理開始指示により、表示制御機能172によるライブ表示のバックグラウンドで、各心拍の定量値を取得する処理を開始する(ステップST7)。つまり、超音波スキャンによるライブ表示と同時並行で、定量値の取得が行われる。
例えば、処理機能176は、保存指示直前の4心拍にわたる複数フレームのBモード画像データに対して、ライブ表示のバックグラウンドで、定量値を得るためのAuto_EFを実行する。ここで、予め複数心拍(例えば、4心拍)が処理の対象として設定されている場合には、その複数心拍の各心拍について定量値が取得されてもよいし、入力インターフェース30を介して複数心拍から選択された1又は各心拍について定量値が取得されてもよい。その場合、受付機能173は、入力インターフェース30を介して複数心拍のうち任意の心拍の指定を受け付ける。また、予め1心拍が設定され、保存指示の直前の1心拍のみについて定量値が取得されてもよい。
表示制御機能172は、ステップST7によって開始された処理の進捗度(%)を算出し、処理の進捗度をディスプレイ40に表示させる(ステップST8)。
図6は、進捗度を示す情報の表示例を示す図である。
図6は、進捗度を示す情報を含む表示画面D3を示す。表示画面D3は、ライブ表示される第nフレームのBモード画像Bnと、保存指示されたBモード画像データのサムネイルを示すサムネイル画像Bと、時刻mにおける進捗度を示す情報Tmとを含む。進捗度を示す情報Tmは、サムネイル画像Bに重畳されることが好適である。
図6において、進捗度を示す情報Tmは、Auto_EFの進捗度を示す「XX.X%」を含む。ここで、「XX.X」は、「0.00」~「100.0」の数値を意味する。時間の経過とともに、Auto_EFの進捗度は増加することになる。
図5に示す表示画面D2において、入力インターフェース30により画面上のマーカが例えば「4ch」ボタン上に合わせられて決定(クリック)されると4ch画像について処理が開始され、表示制御機能172は、表示画面D2から図6に示す表示画面D3に移行させる。「4ch」は、4ch画像は、四腔像である4chビューの4ch画像を選択するためのものである。「2ch」、「3ch」は、4chビューを基点として、さらに左室中心軸回りにMPR画像を回転し、4chビューから60度、270度回転したそれぞれの位置のMPR画像を選択するためのものである。
なお、断面の選択はユーザインターフェースを介して決定するものとして説明したが、その場合に限定されるものではない。例えば、処理機能176は、処理を行う心臓の断面の種別(ビュー)を、超音波画像データに対する画像処理、又は、撮像手順に基づいて決定する。画像処理からビューを決定する処理には、例えば、超音波画像データと、ビューとを関連付けたルックアップテーブル(LUT)が用いられてもよいし、機械学習が用いられてもよい。また、機械学習としてCNN(畳み込みニューラルネットワーク)や畳み込み深層信念ネットワーク(CDBN:Convolutional Deep Belief Network)等の、多層のニューラルネットワークを用いた深層学習が用いられてもよい。また、ストレスエコー等の撮像手順(プロトコル)のように、撮像手順ごとにビューが決まっている場合には、撮像手順からビューが決定される。
図3の説明に戻って、処理機能176は、ステップST7によって開始された、各心拍の定量値を求める処理が、全心拍について終了したか否かを判断する(ステップST9)。ステップST9の判断にてNO、つまり、ステップST7によって開始された処理が終了していないと判断される場合、処理機能176は、ステップST7によって開始された処理の進捗度を再び算出し、処理の進捗度を表示画面D3上に表示させる(ステップST8)。
一方で、ステップST9の判断にてYES、つまり、ステップST7によって開始された処理が終了したと判断される場合、表示制御機能172は、処理結果としての、複数の心拍から取得された複数の定量値の代表値をディスプレイ40、例えばサムネイル画像上に表示させる(ステップST10)。代表値とは、例えば、各心拍から得られた定量値の平均値、中央値、最頻値または標準偏差の値である。なお、表示制御機能172は、処理結果としての代表値をサムネイル画像上に表示させる場合に限定されず、複数心拍のうち特定の心拍(例えば最新心拍)から得られた定量値をサムネイル画像上に表示させてもよい。また、解析対象の心拍は必ずしも複数心拍である必要はなく1つの心拍であってもよい。解析対象が1心拍である場合には、例えば当該1心拍から得られた定量値がサムネイル画像上に表示される。
図7は、処理結果としての代表値の表示例を示す図である。
図7は、代表値Uを含む表示画面D4を示す。表示画面D4は、ライブ表示される第nフレームのBモード画像Bnと、保存指示されたBモード画像データのサムネイルを示すサムネイル画像Bと、処理結果としての代表値Uとを含む。代表値Uは、サムネイル画像Bに重畳されることが好適である。
図7において、代表値Uは、Auto_EFにより計測された複数心拍の定量値に基づく左室駆出率(EF)の「58.8%」を含む。なお、代表値Uは、EFの値に限定されるものではない。代表値U、言い換えれば、代表値Uの元となる定量値は、左心室及び左心房の少なくとも一方に関する拡張期左心室内径(LVLd)と、拡張末期左室容積(EDV)と、左心室長さ(LVLs)と、収縮末期左室容積(ESV)と、1回心拍出量(SV)と、心拍出量(CO)と、左室駆出率(EF)と、心筋ストレイン(GLS)とのうち少なくとも1つを含むことが好適である。なお、表示される代表値Uの種類は、予め設定されていればよい。
この表示画面D4による表示により、ライブ表示されるBモード画像Bnを参照しながら代表値Uを簡易に視認することができる。
また、表示画面D4は、処理結果の表示形式を「Work Sheet」に切り替えるためのユーザインターフェース、例えば切替ボタンWを設ける場合があるが、その説明については図8を用いて後述する。
画像処理装置10によると、保存指示直前の複数心拍にわたる複数フレームの超音波画像データから定量値を取得する処理(例えば、Auto_EF)を行う際、処理の完了を操作者に分かりやすく表示することができる。
(第1の変形例)
表示制御機能172は、処理結果を、図7に示す簡易形式で代表値として提示するのみならず、詳細形式(例えば、ワークシート形式)で提示してもよい。簡易形式は、定量値を複数心拍の代表値を表示するものである一方で、ワークシート形式は、処理結果を、各心拍の定量値として表示するものである。また、ワークシート形式は、Auto_EFによって算出される輪郭ライン等の等を示してもよい。
表示制御機能172は、入力インターフェース30を介して図7に示す表示画面D4に設けられる「Work Sheet」の切替ボタンWが押下されることで、表示画面D4を、処理結果をワークシート形式で示す画面に切り替えることができる。表示制御機能172は、処理機能176による複数心拍に対する処理結果を、複数心拍間で比較可能にディスプレイ40に表示させる。
図8は、処理結果を示す情報の表示例を示す図である。
図8は、ワークシート形式で示される処理結果を含む表示画面D5である。表示画面D5の上段左側は、保存指示直前の複数心拍のうち最新心拍の、4ch画像に基づく拡張期左心室内径(LVLd4)と、拡張末期左室容積(EDV4)と、左心室長さ(LVLs4)と、収縮末期左室容積(ESV4)と、1回心拍出量(SV4)と、心拍出量(CO4)と、左室駆出率(EF4)と、心筋ストレイン(GLS4)との値を含む。それらの値は、Auto_EFにより計測される定量値である。
また、表示画面D5の上段右側は、最新心拍における拡張末期と収縮末期の各超音波画像を含む。各超音波画像には、Auto_EFにより算出される、定量値を取得する処理の途中結果として、左室心内膜の輪郭ライン等の線(例えば、画像中の破線と実線の直線)も示されることが好適である。受付機能173が途中結果の変更を受け付けると、処理機能176は、変更後の途中結果に基づいて定量値を再計測して更新する。なお、途中結果は、心室及び心房の少なくとも一方の内膜の輪郭ラインと、選択された心拍との少なくとも一方を含む。
表示画面D5の下段左側は、保存指示直前の複数心拍のうち最新心拍の1心拍前の、4ch画像に基づく拡張期左心室内径(LVLd4)と、拡張末期左室容積(EDV4)と、左心室長さ(LVLs4)と、収縮末期左室容積(ESV4)と、1回心拍出量(SV4)と、心拍出量(CO4)と、左室駆出率(EF4)と、心筋ストレイン(GLS4)との値を含む。それらの値は、Auto_EFにより計測される定量値である。
また、表示画面D5の下段右側は、最新心拍の1心拍前における拡張末期と収縮末期の各超音波画像を含む。各超音波画像には、Auto_EFにより算出される、定量値を取得する処理の途中結果として、左室心内膜の輪郭ライン等の線(例えば、画像中の破線と実線の直線)も示されることが好適である。受付機能173が途中結果の変更を受け付けると、処理機能176は、変更後の途中結果に基づいて定量値を再計測して更新する。
また、表示画面D5は、心拍ごとに操作者が計測値を承認するためのインターフェース、例えば承認ボタンを含む。入力インターフェース30を介して承認ボタンが押下され、受付機能173が心拍ごとの承認を受け付けることで、管理機能177は、計測された定量値に対する承認を与えることができる。
なお、表示制御機能172は、処理の状態を識別可能なように、処理の状態に応じて表示画面の全体又は一部の表示態様を変更してもよい。例えば、管理機能177が、処理中の状態であると判断する場合には、表示制御機能172は、図6の表示画面D3の進捗度を示す情報Tmの枠部分を青色で表示させる。管理機能177が、処理終了後未承認の状態であると判断する場合には、表示制御機能172は、図7の表示画面D4の代表値Uの枠部分を黄色で表示させる。管理機能177が、処理後承認済みの状態であると判断する場合には、表示制御機能172は、図8の表示画面D5の承認ボタンの枠部分を白色で表示させる。なお色は上記の例に限定されるものではない。また、色に限らず処理状態の変化を識別可能な表示態様であればよい。上記の例では情報Tmの枠部分の色を変更することとしたが、枠部分の色の変更に加えて又は枠部分の色の変更に替えて、情報Tmに含まれる文字または数字の色を変更することとしてもよい。例えば、表示制御機能172は、複数心拍のそれぞれに関して定量値が取得される場合には、定量値の取得が完了した順に定量値を青色でサムネイル画像上に表示させ、設定された心拍分の定量値が取得された後に代表値を黄色でサムネイル画像上に表示させることとしてもよい。また、例えば、表示制御機能172は、複数心拍のそれぞれに関して定量値が取得される場合には、定量値の取得が完了した順に定量値をサムネイル画像上に青色で表示させ、最新の心拍から取得された定量値を黄色でサムネイル画像上に表示させることとしてもよい。
また、管理機能177は、外部装置(例えば、画像管理装置60)への処理結果の転送状態についても、処理の状態を識別可能なように、転送状態に応じて表示画面の全体又は一部の表示態様を変更してもよい。例えば、管理機能177が、外部装置に未転送の状態であると判断する場合には、表示制御機能172は、表示画面D5の承認ボタンの枠部分の白色を維持する。管理機能177が、外部装置に転送済みの状態であると判断する場合には、表示制御機能172は、表示画面D5の承認ボタンの枠部分を赤色で表示させる。
このように、表示画面D5の表示によれば、操作者は、複数心拍間の定量値の差異を比較評価することができる。また、表示画面D5の表示によれば、操作者は、定量値の妥当性を確認し、輪郭ラインの修正、処理対象の心拍の再設定、承認操作等を行うことができる。
(第2の変形例)
表示制御機能172は、図5に示す処理開始前の表示画面D2において、保存指示されたBモード画像のサムネイル画像Bを視認可能な態様で表示してもよい。
図9は、処理開始前におけるサムネイル画像の拡大画像の表示例を示す図である。
図9は、処理開始前におけるサムネイル画像の拡大画像B´を含む表示画面D6を示す。表示画面D6は、図5に示す表示画面D2において、入力インターフェース30により画面上のマーカMが操作される場合の画面を示す。マーカMがサムネイル画像B上に合わせられると、表示制御機能172は、ライブ表示されるBモード画像Bnの前面に、サムネイル画像Bの拡大画像B´を重畳(ポップアップ)表示させる。
また、表示画面D6は、処理を開始させるための開始ボタンQ(図5に図示)を設ける場合がある。
このように、表示画面D6の表示及び機能によれば、操作者は、ライブ表示されるBモード画像Bnを参照しつつ、簡易な操作で、処理予定のBモード画像を拡大画像B´として視認することができる。
(第3の変形例)
表示制御機能172は、図6に示す処理中の表示画面D3において、保存指示されたBモード画像のサムネイル画像Bを視認可能な態様で表示してもよい。
図10は、処理中におけるサムネイル画像の拡大画像の表示例を示す図である。
図10は、処理中におけるサムネイル画像の拡大画像B´を含む表示画面D7を示す。表示画面D7は、図6に示す表示画面D3において、入力インターフェース30により画面上のマーカMが操作される場合の画面を示す。マーカMがサムネイル画像B(又は、進捗度を示す情報Tm)上に合わせられると、表示制御機能172は、ライブ表示されるBモード画像Bnの前面に、サムネイル画像Bの拡大画像B´を重畳表示させる。
このように、表示画面D7の表示及び機能によれば、操作者は、ライブ表示されるBモード画像Bnを参照しつつ、簡易な操作で、処理中のBモード画像を拡大画像B´として視認することができる。
(第4の変形例)
表示制御機能172は、図7に示す処理終了後の表示画面D4において、処理結果をワークシート形式で示す画像を視認可能な態様で表示してもよい。
図11は、処理終了後における処理結果をワークシート形式で示す画像の表示例を示す図である。
図11は、処理終了後における処理結果をワークシート形式で示す画像Cを含む表示画面D8を示す。表示画面D8は、図7に示す表示画面D4において、入力インターフェース30により画面上のマーカMが操作される場合の画面を示す。マーカMがサムネイル画像B上に合わせられると、表示制御機能172は、ライブ表示されるBモード画像Bnの前面に、処理結果をワークシート形式で示す画像C(図8に図示する表示画面D5の縮小画像)を重畳表示させる。
また、表示制御機能172は、入力インターフェース30を介して表示画面D8上の「Work Sheet」の切替ボタンWが押下されることで、又は、入力インターフェース30によりマーカMが画像C上に合わせられて決定(クリック)されることで、表示制御機能172は、表示画面D8を、処理結果をワークシート形式で示す表示画面D5(図8に図示)に切り替えることができる。
このように、表示画面D8の表示及び機能によれば、操作者は、ライブ表示されるBモード画像Bnを参照しつつ、簡易な操作で、ワークシート形式で示される処理結果を視認することができる。
(第5の変形例)
表示制御機能172は、図7に示す処理終了後の表示画面D4において、サムネイル画像の拡大画像と、処理結果をワークシート形式で示す画像とを視認可能な態様で表示してもよい。つまり、表示制御機能172は、図11を用いて説明した画像Cに加え、サムネイル画像Bの拡大画像をも視認可能な態様で表示する。
図12は、処理終了後におけるサムネイル画像の拡大画像と処理結果をワークシート形式で示す画像との表示例を示す図である。
図12は、処理終了後におけるサムネイル画像の拡大画像B´と、処理結果をワークシート形式で示す画像Cとを含む表示画面D9を示す。表示画面D9は、図7に示す表示画面D4において、入力インターフェース30により画面上のマーカMが操作される場合の画面を示す。マーカMがサムネイル画像B(又は、代表値U)上に合わせられると、表示制御機能172は、ライブ表示されるBモード画像Bnの前面に、処理結果をワークシート形式で示す画像C(図8に図示する表示画面D5の縮小画像)と、サムネイル画像Bの拡大画像B´とを重畳表示させる。
また、入力インターフェース30を介して表示画面D9上の「Work Sheet」の切替ボタンWが押下されることで、又は、入力インターフェース30によりマーカMが画像C上に合わせられて決定(クリック)されることで、表示制御機能172は、表示画面D9を、処理結果をワークシート形式で示す表示画面D5(図8に図示)に切り替えることができる。
このように、表示画面D9の表示及び機能によれば、操作者は、ライブ表示されるBモード画像Bnを参照しつつ、簡易な操作で、処理済みのBモード画像の拡大画像B´と、ワークシート形式で示される処理結果とを視認することができる。
(第6の変形例)
表示制御機能172は、図12に示す処理終了後の表示画面D9において、入力インターフェース30によりマーカMが拡大画像B´上に合わせられて決定(クリック)されることで、サムネイル画像の拡大画像を視認可能な態様で表示してもよい。
図13は、処理終了後におけるサムネイル画像の拡大画像の表示例を示す図である。
図13は、処理終了後におけるサムネイル画像Bの拡大画像B´´を含む表示画面D10を示す。表示画面D10は、図12に示す表示画面D9において、入力インターフェース30によりマーカMが拡大画像B´上に合わせられて決定(クリック)された後の画面を示す。拡大画像B´が決定されると、表示制御機能172は、拡大画像B´の拡大画像B´´を、ライブ表示されるBモード画像Bnに代替して表示させる。
また、表示制御機能172は、表示画面D10において拡大画像B´´を表示させる際、表示画面D10に、計測値等の情報Vを含めてもよい。なお、計測値等の情報Vの「A4C」は、計測された4chの1断面(Single Plane)画像を意味する。
また、入力インターフェース30を介して表示画面D9上の「Work Sheet」の切替ボタンWが押下されることで、表示制御機能172は、表示画面D10を、処理結果をワークシート形式で示す表示画面D5(図8に図示)に切り替えることができる。
このように、表示画面D10の表示及び機能によれば、操作者は、処理済みのBモード画像を拡大画像B´´として視認することができる。
(第7の変形例)
表示制御機能172は、図13に示す処理終了後の表示画面D10において、入力インターフェース30によりマーカMが計測値等の情報V上に合わせられることで、処理結果をワークシート形式で示す画像を視認可能な態様で表示してもよい。
図14は、処理終了後におけるサムネイル画像の拡大画像の表示例を示す図である。
図14は、処理終了後におけるサムネイル画像Bの拡大画像B´´を含む表示画面D11を示す。表示画面D11は、入力インターフェース30により画面上のマーカMが操作される場合の画面を示す。マーカMが計測値等の情報V上に合わせられると、表示制御機能172は、拡大画像B´´の前面に、処理結果を詳細形式で示す画像C(図8に図示する表示画面D5の縮小画像)を重畳表示させる。
また、入力インターフェース30を介して表示画面D11上の「Work Sheet」の切替ボタンWが押下されることで、又は、入力インターフェース30によりマーカMが画像C上に合わせられて決定(クリック)されることで、表示制御機能172は、表示画面D11を、処理結果をワークシート形式で示す表示画面D5(図8に図示)に切り替えることができる。
このように、表示画面D11の表示及び機能によれば、操作者は、処理済みのBモード画像を拡大画像B´´として視認することができる。
(第8の変形例)
表示制御機能172は、図7に示す処理終了後の表示画面D4に示すように、処理結果をサムネイル画像上に表示させる際、心拍データに基づく周期性の変化に応じて、処理結果としての代表値Uの表示態様を変更させてもよい。例えば、処理機能176は、生体信号センサ50から出力された心拍データ(例えばECG信号)を取得し、ECG波形に基づいて、処理対象の複数心拍に、R-R間隔の変化が大きい心拍を含むと判断する。その場合、表示制御機能172は、処理結果としての代表値Uの表示態様を変更させる。R-R間隔とは、ECG波形に現われる第1のR波から次の第2のR波が現われるまでの時間間隔を意味する。R-R間隔の変化が大きく、かつ、R-R間隔が短い心拍では、心拍異常、例えば、心房細動等の不整脈が発生していると推認される。
ここで、処理機能176による、周期性の変化が大きい心拍の検出方法について説明する。処理機能176は、ECG波形に基づいて心拍ごとにR-R間隔を算出する。処理機能176は、各R-R間隔と閾値とを比較し、当該閾値以下のR-R間隔に対応する心拍を、周期性の変化が大きい心拍として検出する。なお、閾値は、予め設定(Preset)されるものであってもよいし、複数心拍のR-R間隔の平均値であってもよいし、複数心拍のR-R間隔の最大値と最小値との中間値であってもよいし、当該平均値又は中間値から所定の値(例えば、3σ)が減算された値であってもよい。
そして、周期性の変化が大きい心拍を含むと判断された場合、処理機能176による処理と表示制御機能172による表示との方法により、次の3つの「処理・表示態様(1)~(3)」が可能である。なお、処理・表示態様(1)~(3)は、任意に選択可能である。
(1)周期性の変化が大きい心拍を含めた処理により定量値を取得し、定量値と共に当該処理を行った旨の表示を行う。
(2)周期性の変化が大きい心拍を単純に除いた処理により定量値を取得し、定量値と共に当該処理を行った旨の表示を行う。
(3)周期性の変化が大きい心拍を除き、それを他の心拍で補った処理により定量値を取得し、定量値と共に当該処理を行った旨の表示を行う。
処理・表示態様(1)について説明する。周期性の変化が大きい心拍が検出された場合、表示制御機能172は、処理機能176による処理が完了すると、周期性の変化が大きい心拍を含めた処理結果である旨を、処理結果と共にディスプレイ40に表示させる。
図15は、周期性の変化が大きい心拍を含めた処理結果である旨を提示するための、図7の表示画面D4における代表値Uの表示例を示す図である。図15(A)は、周期性の変化が大きい心拍を含めた処理結果である旨をマークM1として提示する例である。図15(B)は、周期性の変化が大きい心拍を含めた処理結果である旨を、代表値Uの表示領域の背景色の変化として提示する例である。
図15(A)に示すように、図7の表示画面D4におけるサムネイル画像Bは、定量値としての代表値Uと、周期性の変化が大きい心拍を含めた処理結果である旨を示すマークM1「^」とを含む。また、図15(B)に示すように、図7の表示画面D4におけるサムネイル画像Bは、定量値としての代表値Uと、周期性の変化が大きい心拍を含めた処理結果である旨を示す背景色とを含む。操作者は、これらの表示画面を確認することで、処理結果が、周期性の変化が大きい心拍を含めたデータから取得されたものであることを認識することができるので、操作者が期待した心拍で解析したという誤解を招くことはない。また、操作者は、必要であれば、周期性の変化が大きい心拍を除いた再処理を促すこともできる。
続いて、処理・表示態様(2)について説明する。周期性の変化が大きい心拍が検出された場合、処理機能176は、周期性の変化が大きい心拍を単純に除いて、正常の心拍のみを用いて処理を行う。例えば、「m」を2以上の整数とすると、処理機能176は、m個の心拍のうち、周期性の変化が大きい1個の心拍を検出した場合、周期性の変化が大きい心拍が除かれたm-1個の心拍において定量値を取得する。そして、表示制御機能172は、処理機能176による処理が完了すると、周期性の変化が大きい心拍を単純に除いた処理結果である旨を、処理結果と共にディスプレイ40に表示させる。
図16は、周期性の変化が大きい心拍を単純に除いた処理結果である旨を提示するための、図7の表示画面D4における代表値Uの表示例を示す図である。図16(A)は、周期性の変化が大きい心拍を単純に除いた処理結果である旨をマークM2として提示する例である。図16(B)は、周期性の変化が大きい心拍を単純に除いた処理結果である旨を、代表値Uの表示領域の背景色の変化として提示する例である。
図16(A)に示すように、図7の表示画面D4におけるサムネイル画像Bは、定量値としての代表値Uと、周期性の変化が大きい心拍を含めた処理結果である旨を示すマークM2「*」とを含む。また、図16(B)に示すように、図7の表示画面D4におけるサムネイル画像Bは、定量値としての代表値Uと、周期性の変化が大きい心拍を含めた処理結果である旨を示す背景色とを含む。操作者は、これらの表示画面を確認することで、処理結果が、周期性の変化が大きい心拍を単純に除いたデータから取得されたものであることを認識することができる。操作者は、必要であれば、処理対象の心拍の数を増やすべく再処理を促すこともできる。
なお、図16に示す処理・表示態様(2)によるマークや背景色は、図15に示す処理・表示態様(1)によるマークや背景色と同一であってもよいし、異なっていてもよい。後者の場合、操作者は、マークや背景色の違いによって、表示結果が、周期性の変化が大きい心拍を含むものであるか、周期性の変化が大きい心拍を単純に除いたものなのかについて、簡単に視認することができる。
続いて、処理・表示態様(3)について説明する。周期性の変化が大きい心拍が検出された場合、処理機能176は、周期性の変化が大きい心拍を除いた上で、除かれた心拍の数の分を他の心拍で補う。例えば、「n」を基準の心拍とすると、処理機能176は、第n-4番目から第n番目までの5個の心拍のうち、周期性の変化が大きい第n-4番目の心拍を検出した場合、第n-4番目より古い第n-5番目と、第n-3番目から第n番目までとの5個の心拍において定量値を取得する。そして、表示制御機能172は、処理機能176による処理が完了すると、周期性の変化が大きい第n-4番目の心拍を除いた上で、除かれた心拍の数の分を他の第n-5番目の心拍で補った処理結果である旨を、処理結果と共にディスプレイ40に表示させる。
処理・表示態様(3)による表示例は、図16に示す処理・表示態様(2)による表示例と同等であるので説明を省略する。また、処理・表示態様(3)によるマークや背景色は、図15に示す処理・表示態様(1)によるマークや背景色、及び、図16に示す処理・表示態様(2)によるマークや背景色と同一であってもよいし、異なっていてもよい。後者の場合、操作者は、マークや背景色の違いによって、表示結果が、周期性の変化が大きい心拍を含むものであるか、周期性の変化が大きい心拍を単純に除いたものなのか、周期性の変化が大きい心拍を除いて正常な心拍で補ったものであるのかについて、簡単に視認することができる。
なお、周期性の変化は、上述したようなR-R間隔の変化に限定されるものではない。例えば、周期性の変化は、ECG波形に現われる第1のP波から次の第2のP波が現われるまでの時間間隔であるP-P間隔の変化や、ECG波形に現われる第1のT波から次の第2のT波が現われるまでの時間間隔であるT-T間隔の変化等であってもよい。また、処理終了後の表示画面は、表示画面D4に限定されるものではなく、図8に示す表示画面D5や、図11~図14にそれぞれ示す表示画面D8~D11であってもよい。
以上説明した少なくとも1つの実施形態によれば、バックグラウンドで行われる処理の状態を操作者に提示することができる。
なお、画像取得機能171は、画像取得部の一例である。表示制御機能172は、表示制御部の一例である。受付機能173は、受付部の一例である。記憶制御機能174は、記憶制御部の一例である。サムネイル生成機能175は、生成部の一例である。処理機能176は、処理部の一例である。管理機能177は、管理部の一例である。評価機能178は、評価部の一例である。
いくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、実施形態同士の組み合わせ、実施形態と1又は複数の変形例との組み合わせを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1 超音波診断装置
10 画像処理装置
17 処理回路
40 ディスプレイ
171 画像取得機能
172 表示制御機能
173 受付機能
174 記憶制御機能
175 サムネイル生成機能
176 処理機能
177 管理機能
178 評価機能

Claims (19)

  1. 特定の超音波画像の保存指示を受け付ける受付部と、
    前記保存指示に係る前記特定の超音波画像のサムネイル画像を生成する生成部と、
    超音波画像を表示部にライブ表示させるとともに、前記サムネイル画像を表示部に表示させる表示制御部と、
    前記表示制御部による前記ライブ表示のバックグラウンドで、前記保存指示により保存された前記特定の超音波画像から定量値を取得する処理を実行する処理部と、
    を備える画像処理装置であって、
    前記表示制御部は、前記処理が完了すると前記処理の結果を前記サムネイル画像上に表示させる、
    画像処理装置。
  2. 前記処理部は、前記処理として、複数心拍にわたる複数の超音波画像から各心拍における定量値を取得する処理を実行する、
    請求項1に記載の画像処理装置。
  3. 前記処理部は、前記各心拍から得られた定量値のうち最新心拍から得られた定量値または前記複数心拍から得られた複数の定量値の代表値を算出し、
    前記表示制御部は、最新心拍から得られた定量値または前記代表値を前記処理の結果として前記サムネイル画像上に表示させる、
    請求項2に記載の画像処理装置。
  4. 前記代表値は、前記各心拍から得られた定量値の平均値、中央値、最頻値または標準偏差の値である、
    請求項3に記載の画像処理装置。
  5. 前記表示制御部は、前記処理の結果を前記サムネイル画像上に表示させる第1の表示画面から、各心拍の定量値が示された第2の表示画面に切り替える、
    請求項4に記載の画像処理装置。
  6. 前記表示制御部は、前記第2の表示画面において、前記定量値を前記複数心拍間で比較可能に前記表示部に表示させる、
    請求項5に記載の画像処理装置。
  7. 前記受付部は、前記複数心拍の心拍ごとに定量値の承認を受け付ける、
    請求項6に記載の画像処理装置。
  8. 前記処理の状態を管理する管理部を更に備え、
    前記表示制御部は、前記処理の状態に応じて表示態様を変更する、
    請求項7に記載の画像処理装置。
  9. 前記各心拍から得られた定量値の信頼度を評価する評価部を更に備え、
    前記表示制御部は、前記信頼度に基づく情報を前記表示部に表示させる、
    請求項2乃至8のいずれか1項に記載の画像処理装置。
  10. 前記処理の結果の外部装置への転送状態を管理する管理部を更に備え、
    前記管理部は、前記転送状態に応じて表示態様を変更する、
    請求項1乃至9のいずれか1項に記載の画像処理装置。
  11. 前記超音波画像は、心臓を含み、
    前記受付部は、前記処理を行う前記心臓の断面の種別の指定を受け付け、
    前記表示部は、前記保存指示を受け付けた後に前記種別の指定を受け付けるためのユーザインターフェースを前記表示部に表示させる、
    請求項1乃至10のいずれか1項に記載の画像処理装置。
  12. 前記超音波画像は、心臓を含み、
    前記処理部は、前記処理を行う前記心臓の断面の種別を前記超音波画像に対する画像処理または撮像手順に基づいて決定する、
    請求項1乃至11のいずれか1項に記載の画像処理装置。
  13. 前記表示制御部は、前記定量値を取得する処理の途中結果を前記表示部に表示させる、
    請求項1乃至12のいずれか1項に記載の画像処理装置。
  14. 前記受付部は、前記途中結果の変更を受け付け、
    前記処理部は、変更後の途中結果に基づいて前記定量値を更新する、
    請求項13に記載の画像処理装置。
  15. 前記超音波画像は、心臓を含み、
    前記途中結果は、心室および心房の少なくとも一方の内膜の輪郭ラインと、心拍とのうちの少なくとも一方を含む、
    請求項14に記載の画像処理装置。
  16. 前記定量値は、左心室および左心房の少なくとも一方に関する駆出率および心筋ストレインの少なくとも一方を含む、
    請求項1乃至15のいずれか1項に記載の画像処理装置。
  17. 前記表示制御部は、前記処理の結果を前記サムネイル画像上に表示させる際、心拍データに基づく周期性の変化に応じて、前記処理の結果の表示態様を変更させる、
    請求項1乃至16のいずれか1項に記載の画像処理装置。
  18. 特定の医用画像の保存指示を受け付ける受付部と、
    前記保存指示に係る前記特定の医用画像のサムネイル画像を生成する生成部と、
    医用画像を表示部にライブ表示させるとともに、前記サムネイル画像を表示部に表示させる表示制御部と、
    前記表示制御部による前記ライブ表示のバックグラウンドで、前記保存指示により保存された前記特定の医用画像から定量値を取得する処理を実行する処理部と、
    を備える画像処理装置であって、
    前記表示制御部は、前記処理が完了すると前記処理の結果を前記サムネイル画像上に表示させる、
    画像処理装置。
  19. コンピュータに、
    特定の超音波画像の保存指示を受け付ける受付機能と、
    前記保存指示に係る前記特定の超音波画像のサムネイル画像を生成する生成機能と、
    超音波画像を表示部にライブ表示させるとともに、前記サムネイル画像を表示部に表示させる表示制御機能と、
    前記表示制御機能による前記ライブ表示のバックグラウンドで、前記保存指示により保存された前記特定の超音波画像から定量値を取得する処理を実行する処理機能と、
    を実現させる画像処理プログラムであって、
    前記表示制御機能は、前記処理が完了すると前記処理の結果を前記サムネイル画像上に表示させる、
    画像処理プログラム。
JP2019217149A 2019-11-29 2019-11-29 画像処理装置及び画像処理プログラム Active JP7277345B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019217149A JP7277345B2 (ja) 2019-11-29 2019-11-29 画像処理装置及び画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019217149A JP7277345B2 (ja) 2019-11-29 2019-11-29 画像処理装置及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2021083955A JP2021083955A (ja) 2021-06-03
JP7277345B2 true JP7277345B2 (ja) 2023-05-18

Family

ID=76086395

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019217149A Active JP7277345B2 (ja) 2019-11-29 2019-11-29 画像処理装置及び画像処理プログラム

Country Status (1)

Country Link
JP (1) JP7277345B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004514526A (ja) 2000-12-07 2004-05-20 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 超音波診断心臓画像の捕捉、分析、及び表示方法
JP2010172376A (ja) 2009-01-27 2010-08-12 Toshiba Corp 超音波画像診断装置および画像処理プログラム
JP2014140717A (ja) 2012-12-28 2014-08-07 Canon Inc 被検体情報取得装置、表示方法、およびプログラム
JP2016514564A5 (ja) 2014-03-20 2017-04-20
JP2017158917A (ja) 2016-03-11 2017-09-14 東芝メディカルシステムズ株式会社 医用診断装置、および医用解析プログラム
WO2019217222A1 (en) 2018-05-08 2019-11-14 Fujifilm Sonosite, Inc. Ultrasound system with automated wall tracing

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3713303B2 (ja) * 1994-06-22 2005-11-09 株式会社東芝 超音波診断装置
WO2014162232A1 (en) 2013-04-03 2014-10-09 Koninklijke Philips N.V. 3d ultrasound imaging system

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004514526A (ja) 2000-12-07 2004-05-20 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 超音波診断心臓画像の捕捉、分析、及び表示方法
JP2010172376A (ja) 2009-01-27 2010-08-12 Toshiba Corp 超音波画像診断装置および画像処理プログラム
JP2014140717A (ja) 2012-12-28 2014-08-07 Canon Inc 被検体情報取得装置、表示方法、およびプログラム
JP2016514564A5 (ja) 2014-03-20 2017-04-20
JP2017158917A (ja) 2016-03-11 2017-09-14 東芝メディカルシステムズ株式会社 医用診断装置、および医用解析プログラム
WO2019217222A1 (en) 2018-05-08 2019-11-14 Fujifilm Sonosite, Inc. Ultrasound system with automated wall tracing

Also Published As

Publication number Publication date
JP2021083955A (ja) 2021-06-03

Similar Documents

Publication Publication Date Title
US9855024B2 (en) Medical diagnostic imaging apparatus, medical image processing apparatus, and control method for processing motion information
JP5689662B2 (ja) 超音波診断装置、超音波画像処理装置、超音波画像処理プログラム、医用画像診断装置、医用画像処理装置及び医用画像処理プログラム
US9747689B2 (en) Image processing system, X-ray diagnostic apparatus, and image processing method
JP5586203B2 (ja) 超音波診断装置、超音波画像処理装置及び超音波画像処理プログラム
US9888905B2 (en) Medical diagnosis apparatus, image processing apparatus, and method for image processing
JP5897674B2 (ja) 超音波診断装置、画像処理装置及び画像処理プログラム
JP7392093B2 (ja) 超音波診断装置、及び制御プログラム
JP6815259B2 (ja) 超音波診断装置、医用画像処理装置及び医用画像処理プログラム
US20190239861A1 (en) Ultrasonic diagnostic apparatus
CN111317508B (zh) 超声波诊断装置、医用信息处理装置、计算机程序产品
JP6863774B2 (ja) 超音波診断装置、画像処理装置及び画像処理プログラム
US20220313214A1 (en) Ultrasonic diagnostic apparatus, image processing apparatus, and image processing method
JP6411183B2 (ja) 医用画像診断装置、画像処理装置及び画像処理プログラム
JP7277345B2 (ja) 画像処理装置及び画像処理プログラム
US11678858B2 (en) Ultrasonic diagnostic apparatus and method for controlling ultrasonic scan using ECG gating
US20200093370A1 (en) Apparatus, medical information processing apparatus, and computer program product
JP6964996B2 (ja) 解析装置
US10813621B2 (en) Analyzer
JP7356229B2 (ja) 超音波診断装置
JP7446139B2 (ja) 超音波診断装置及びプログラム
US20220304651A1 (en) Ultrasound diagnostic apparatus, medical image analytic apparatus, and non-transitory computer readable storage medium storing medical image analysis program
JP7346192B2 (ja) 装置、医用情報処理装置、及びプログラム
JP7249855B2 (ja) 超音波診断装置、医用画像処理装置、及び超音波スキャン制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220818

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230324

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230508

R150 Certificate of patent or registration of utility model

Ref document number: 7277345

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150