JP6424623B2 - 画像処理装置及びプログラム - Google Patents

画像処理装置及びプログラム Download PDF

Info

Publication number
JP6424623B2
JP6424623B2 JP2014539649A JP2014539649A JP6424623B2 JP 6424623 B2 JP6424623 B2 JP 6424623B2 JP 2014539649 A JP2014539649 A JP 2014539649A JP 2014539649 A JP2014539649 A JP 2014539649A JP 6424623 B2 JP6424623 B2 JP 6424623B2
Authority
JP
Japan
Prior art keywords
cycle
moving image
image
target area
reference moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014539649A
Other languages
English (en)
Other versions
JPWO2014054379A1 (ja
Inventor
宏 大和
宏 大和
謙太 嶋村
謙太 嶋村
遠山 修
修 遠山
慎太郎 村岡
慎太郎 村岡
翔 野地
翔 野地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Publication of JPWO2014054379A1 publication Critical patent/JPWO2014054379A1/ja
Application granted granted Critical
Publication of JP6424623B2 publication Critical patent/JP6424623B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5288Devices using data or image processing specially adapted for radiation diagnosis involving retrospective matching to a physiological signal
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/54Control of apparatus or devices for radiation diagnosis
    • A61B6/541Control of apparatus or devices for radiation diagnosis involving acquisition triggered by a physiological signal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/46Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment with special arrangements for interfacing with the operator or the patient
    • A61B6/461Displaying means of special interest
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • G06T2207/10124Digitally reconstructed radiograph [DRR]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical

Description

本発明は、人体または動物の身体における対象領域が撮影された動画像を表示するための画像処理技術に関する。
医療現場では、X線等を用いて内臓や骨格等に含まれる人体等の患部を撮影することにより、各種検査や診断が行われている。そして、近年では、デジタル技術の適用により、X線等を用いて患部の動きを捉えた動画像を比較的容易に取得することが可能となっている。
そこでは、FPD(flat panel detector)等の半導体イメージセンサを利用し、診断対象領域を含む被写体の動態画像を撮影できるため、従来のX線撮影による静止画撮影及び診断では実施できなかった診断対象領域の動き解析による診断を実施することが可能になってきた。
動画像による診断を実施するあたり、例えば、同一の被写体の撮影時期が異なる動画像同士を比較する場合や被写体が異なる動画像同士を比較する場合がある。このような場合において、撮影タイミングによる位相のズレ、動き速度の違いにより、複数の動画像を単純に比較することが困難であるという問題がある。
そこで、近年、複数の動画像を比較しながら診断を行うための技術が提案されている。例えば、特許文献1が開示する技術では、動画像表示技術において、対象物の一連の動態における位相を認識し、認識された位相に応じて、動画像を構成するフレーム画像を並び替えることで動画像表示を行う技術が開示されている。具体的には、胸部の正面画像と側面画像とを並べて動画表示する際に、それらを構成するフレーム画像を並び替えることにより、両者の位相を一致させて表示している。
また、特許文献2が開示する技術では、放射線画像処理技術において、放射線動画像撮影時に光動画像を同時に撮影し、光動画像にて被検体の動きを解析し、複数の放射線動画像の被検体の動きを揃えて表示する方法が開示されている。具体的には、被検体の動きに基づいて、複数の放射線動画像の再生を開始するフレーム画像を決定し、被検体の動きが揃うようにフレーム画像の表示間隔を決定している。そして、複数の放射線動画像の表示間隔のばらつきが一定以上である場合に、放射線動画像に対して補間画像を挿入している。
特開2004−411号公報 特開2008−206741号公報
しかしながら、上記特許文献1に開示の従来技術では、フレーム画像を並び替えて加工しているため、本来の一連の動画像とならないことから、診断性能が低下する課題がある。
また、上記特許文献2に開示の従来技術では、本来の動画像に対して、人工的な補間画像を挿入しているため、この補間画像の存在によって誤った診断が行われる可能性が生じるという課題がある。
本発明は、このような事情に鑑みてなされたものであり、人体または動物の身体における対象領域が撮影された動画像を表示にするに際し、複数の動画像間の比較診断を適切かつ効率的に行うことが可能な画像処理技術を提供することを目的とする。
本発明による画像生成装置は、人体または動物の対象領域の物理的状態が周期的に変化する状態を捉えた基準動画像を取得する基準動画像取得部と、人体または動物の前記対象領域の物理的状態が周期的に変化する状態を捉えた、前記基準動画像と比較すべき参照動画像を取得する参照動画像取得部と、前記基準動画像における前記対象領域の周期的な変化である第1の周期的変化に基づいて第1の対象領域周期を抽出する基準周期抽出部と、前記参照動画像における前記対象領域の周期的な変化である第2の周期的変化に基づいて第2の対象領域周期を抽出する参照周期抽出部と、前記第1または第2の対象領域周期毎に、前記第1及び第2の周期的変化を特定の位相において同期させる周期調整処理を実施する周期調整部と、前記周期調整処理を施した後の前記基準動画像及び前記参照動画像を比較できるように表示する表示用画像を生成する表示画像生成部とを備え、前記表示画像生成部は、前記第1の対象領域周期と前記第2の対象領域周期とが異なる場合に、前記第1の対象領域周期と前記第2の対象領域周期との差の期間、前記第1及び第2の対象領域周期のうち周期の短い方と対応する前記基準動画像または前記参照動画像の表示を固定状態とすることを特徴とする
本発明によれば、人体または動物の身体における対象領域が撮影された動画像を表示にするに際し、複数の動画像間の比較診断を適切かつ効率的に行うことが可能な画像処理技術を提供することができる。
この発明の目的、特徴、局面、および利点は、以下の詳細な説明と添付図面とによって、より明白となる。
第1実施形態に係る放射線動態画像撮影システム100の全体構成を示す図である。 動画像間を比較診断する際の問題点について説明する図である。 動画像間を比較診断する際の問題点について説明する図である。 動画像間を比較診断する際の問題点について説明する図である。 動画像間を比較診断する際の問題点について説明する図である。 第1実施形態に係る画像処理装置3の機能構成を示すブロック図である。 放射線動態画像撮影によって撮影した動態画像を例示する図である。 肺野領域の輪郭抽出を例示する模式図である。 肺野領域の特徴点の位置を例示した模式図である。 呼吸情報の波形データを時系列で示した模式図である。 心臓壁の変動を例示する模式図である。 心臓の横幅の変動サイクルを例示する模式図である。 心電計4で計測された波形の一部を例示する模式図である。 呼吸周期の検出方法を説明する図である。 呼吸周期の検出方法を説明する図である。 呼吸周期の検出方法を説明する図である。 呼吸周期の検出方法を説明する図である。 呼吸周期の検出方法を説明する図である。 第1及び第2の肺野領域時間変化T1,T2を例示する図である。 周期調整処理を説明する図である。 周期調整処理を説明する図である。 周期調整処理を説明する図である。 周期調整処理を説明する図である。 表示用画像IGにおける第1及び第2の肺野領域時間変化を例示する図である。 第1実施形態において実現される画像処理装置3の基本動作を説明するフローチャートである。 第2実施形態に係る画像処理装置3Aの機能構成を示すブロック図である。 第2実施形態において実現される画像処理装置3Aの基本動作を説明するフローチャートである。 第3実施形態に係る画像処理装置3Bの機能構成を示すブロック図である。 第1の周期一致処理を説明する図である。 第2の周期一致処理を説明する図である。 第2の周期一致処理を説明する図である。 第3実施形態において実現される画像処理装置3Bの基本動作を説明するフローチャートである。
<1.第1実施形態>
本発明の第1実施形態に係る放射線動態画像撮影システムについて以下説明する。
<1−1.放射線動態画像撮影システムの全体構成>
第1実施形態に係る放射線動態画像撮影システムは、人体または動物の身体を被写体として、被写体の対象領域の放射線動態画像の撮影を行う。対象領域としては、例えば肺や心臓を含み、その状態が周期的に変化する領域が挙げられる。
図1は、第1実施形態に係る放射線動態画像撮影システムの全体構成を示す図である。図1に示すように、放射線動態画像撮影システム100は、撮像装置1と、撮影制御装置2(撮影用コンソール)と、画像処理装置3(診断用コンソール)と、心電計4とを備える。撮像装置1及び心電計4と、撮影制御装置2とが通信ケーブル等により接続され、撮影制御装置2と、画像処理装置3とがLAN(Local Area Network)等の通信ネットワークNTを介して接続されて構成されている。放射線動態画像撮影システム100を構成する各装置は、DICOM(Digital Image and Communications in Medicine)規格に準じており、各装置間の通信は、DICOM規格に則って行われる。
<1−1−1.撮像装置1の構成>
撮像装置1は、例えば、X線撮像装置等によって構成され、呼吸に伴う被写体Mの胸部の動態を撮影する装置である。動態撮影は、被写体Mの胸部に対し、X線等の放射線を繰り返して照射しつつ、時間順次に複数の画像を取得することにより行う。この連続撮影により得られた一連の画像を動態画像(動画像)と呼ぶ。また、動態画像を構成する複数の画像のそれぞれをフレーム画像と呼ぶ。
図1に示すように、撮像装置1は、照射部(放射線源)11と、放射線照射制御装置12と、撮像部(放射線検出部)13と、読取制御装置14と、サイクル検出センサ15と、サイクル検出装置16とを備えて構成されている。
照射部11は、放射線照射制御装置12の制御に従って、被写体Mに対し放射線(X線)を照射する。図示例は人体用のシステムであり、被写体Mは検査対象者に相当する。以下では被写体Mを「被検者」とも呼ぶ。
放射線照射制御装置12は、撮影制御装置2に接続されており、撮影制御装置2から入力された放射線照射条件に基づいて照射部11を制御して放射線撮影を行う。
撮像部13は、FPD等の半導体イメージセンサにより構成され、照射部11から照射されて被検者Mを透過した放射線を電気信号(画像情報)に変換する。
読取制御装置14は、撮影制御装置2に接続されている。読取制御装置14は、撮影制御装置2から入力された画像読取条件に基づいて撮像部13の各画素のスイッチング部を制御して、当該各画素に蓄積された電気信号の読み取りをスイッチングしていき、撮像部13に蓄積された電気信号を読み取ることにより、画像データを取得する。そして、読取制御装置14は、取得した画像データ(フレーム画像)を撮影制御装置2に出力する。画像読取条件は、例えば、フレームレート、フレーム間隔、画素サイズ、画像サイズ(マトリックスサイズ)等である。フレームレートは、1秒あたりに取得するフレーム画像数であり、パルスレートと一致している。フレーム間隔は、連続撮影において、1回のフレーム画像の取得動作開始から次のフレーム画像の取得動作開始までの時間であり、パルス間隔と一致している。
ここで、放射線照射制御装置12と読取制御装置14とは互いに接続され、互いに同期信号をやりとりして放射線照射動作と画像の読み取りの動作を同調させるようになっている。
サイクル検出装置16は、被検者Mの呼吸サイクルを検出して撮影制御装置2の制御部21に出力する。また、サイクル検出装置16は、例えばレーザー照射によって被写体Mの胸部の動き(被検者Mの呼吸サイクル)を検出するサイクル検出センサ15と、サイクル検出センサ15により検出された呼吸サイクルの時間を測定し制御部21に出力する計時部(不図示)とを備える。なお、後述するように画像データから呼吸サイクルの情報を得る場合には、サイクル検出装置16は省略することが可能である。
<1−1−2.撮影制御装置2の構成>
撮影制御装置2は、放射線照射条件や画像読取条件を撮像装置1に出力して撮像装置1による放射線撮影及び放射線画像の読み取り動作を制御するとともに、撮像装置1により取得された動態画像を撮影技師によるポジショニングの確認や診断に適した画像であるか否かの確認用に表示する。
図1に示すように、撮影制御装置2は、制御部21と、記憶部22と、操作部23と、表示部24と、通信部25とを備えて構成され、各部はバス26により接続されている。
制御部21は、CPU(Central Processing Unit)やRAM(Random Access Memory)等により構成される。制御部21のCPUは、操作部23の操作に応じて、記憶部22に記憶されているシステムプログラムや各種処理プログラムを読み出してRAM内に展開し、展開されたプログラムに従って後述する撮影制御処理を始めとする各種処理を実行し、撮影制御装置2各部の動作や、撮像装置1の動作を集中制御する。
記憶部22は、不揮発性の半導体メモリやハードディスク等により構成される。記憶部22は、制御部21で実行される各種プログラムやプログラムにより処理の実行に必要なパラメータ、或いは処理結果等のデータを記憶する。
操作部23は、カーソルキー、数字入力キー、及び各種機能キー等を備えたキーボードと、マウス等のポインティングデバイスとを備えて構成され、キーボードに対するキー操作、マウス操作、あるいは、タッチパネルを介して入力された指示信号を制御部21に出力する。
表示部24は、カラーLCD(Liquid Crystal Display)等のモニタにより構成され、制御部21から入力される表示信号の指示に従って、操作部23からの入力指示やデータ等を表示する。
通信部25は、LANアダプタやモデムやTA(Terminal Adapter)等を備え、通信ネットワークNTに接続された各装置との間のデータ送受信を制御する。
<1−1−3.画像処理装置3の構成>
画像処理装置3は、撮像装置1から送信された動態画像を、撮影制御装置2を介して取得し、医師等が読影診断するための画像を表示する。
図1に示すように、画像処理装置3は、制御部31と、記憶部32と、操作部33と、表示部34と、通信部35とを備えて構成され、各部はバス37により接続されている。
制御部31は、CPU、RAM等により構成される。制御部31のCPUは、操作部33の操作に応じて、記憶部32に記憶されているシステムプログラムや、各種処理プログラムを読み出してRAM内に展開し、展開されたプログラムに従って各種処理を実行し、画像処理装置3各部の動作を集中制御する(詳細は後述する)。
記憶部32は、不揮発性の半導体メモリやハードディスク等により構成される。記憶部32は、制御部31で実行される各種プログラムやプログラムにより処理の実行に必要なパラメータ、或いは処理結果等のデータを記憶する。例えば、記憶部32は、後述する画像処理を実行するための画像処理プログラムを記憶している。これらの各種プログラムは、読取可能なプログラムコードの形態で格納され、制御部31は、当該プログラムコードに従った動作を逐次実行する。
操作部33は、カーソルキー、数字入力キー、及び各種機能キー等を備えたキーボードと、マウス等のポインティングデバイスを備えて構成され、キーボードに対するキー操作やマウス操作、あるいは、タッチパネルを介して入力された指示信号を制御部31に出力する。
表示部34は、カラーLCD等のモニタにより構成され、制御部31から入力される表示信号の指示に従って、操作部33からの入力指示、データ、及び、後述する表示用画像を表示する。
通信部35は、LANアダプタやモデムやTA等を備え、通信ネットワークNTに接続された各装置との間のデータ送受信を制御する。
<1−1−4.心電計4の構成>
図1では心電計4は被検者Mとは離れて示されているが、実際には心電計4の各電極端子は被検者Mに装着されており、被検者Mの心電波形をデジタル信号として出力する。
図1に示すように、心電計4は、位相検出部41を備えて構成され、位相検出部41は、制御部21のCPUからの制御信号に応答して、撮像装置1による撮影動作を同期させるための基礎情報として、被写体Mの心拍の位相を検出する。なお、第1実施形態に係る放射線動態画像撮影システム100では、心電計4を備えて構成されることが必須ではない。
<1−1−5.情報蓄積装置5の構成>
図1に示すように、情報蓄積装置5は、例えばパーソナル・コンピュータまたはワークステーションを用いたデータベースサーバからなり、参照画像記憶部51を備えて構成され、制御部31とはバス36を介してデータの送受信を行う。参照画像記憶部51には、後述の基準動画像と比較すべき参照動画像が予め記憶されている。
<1−2.複数の動画像を比較する際の問題点>
この実施形態における画像処理装置3の詳細を説明する前提として、診断のために、複数の動画像同士を比較する際における問題点について説明しておく。一例として、肺領域に関し、過去に撮影された動画像と新たに撮影された動画像とを比較する場合について説明する。
図2〜図5は、複数の動画像を比較する際の問題点について説明するための図である。これらの図において、OTは、過去に撮影された動画像における肺領域の動き(呼吸サイクル)を示し、NTは、新たに撮影された動画像における呼吸サイクルを示す。
図2は、撮影開始タイミングの違いにより生じる呼吸の位相のズレを説明する図である。すなわち、撮影開始タイミングTMが、過去の動画像の呼吸サイクルOTでは最大呼気B2の時点であるのに対し、新たな動画像の呼吸サイクルNTでは最大吸気B1の時点である。これにより、2つの動画像における呼吸の位相が時間方向にずれているため、一周期分に要する時間が両者で一致していても、周期が半周期ずれているため、そのまま表示した場合は比較が困難である。
図3は、呼吸速度の違いにより生じる呼吸の周期のズレを説明する図である。すなわち、撮影開始タイミングTMは、過去の動画像の呼吸サイクルOT及び新たな動画像の呼吸サイクルNTともに最大呼気B2の時点に位置するが、過去の動画像の呼吸サイクルOTが1.5周期動く間に、新たな動画像の呼吸サイクルNTは1周期しか動いておらず、呼吸速度の違いにより周期がずれている。このように、呼吸の周期がずれていると、そのまま表示した場合は比較が困難である。
図3における課題に対して、図4では、動画像間の呼吸の周期が同じになるように、フレームレートを調整した場合を示す。すなわち、図3における呼吸の周期のズレを、図4で示されるように、過去の動画像の呼吸サイクルOTの周期を長くして一致させることができる。この過去の動画像の呼吸サイクルOTの周期を長くするには、過去の動画像に対して補間画像を挿入することで実現することができる。しかしながら、前述した通り、補間画像の存在は、誤った診断の原因となり得るという課題がある。
また、図5(a)で示されるように、過去の動画像の呼吸サイクルOTと新たな動画像の呼吸サイクルNTとにおける振幅が異なる場合は、図5(b)で示されるように、過去の動画像の呼吸サイクルOTの周期を長くして両者の一周期分に要する時間を一致させるように呼吸サイクルOTcと対応した過去の動画像を補間画像の挿入により新たに生成しても、本来の動きとは異なる動きをする可能性がある。すなわち、図5(b)の領域R1では、過去の動画像が実際の動きとは異なる表示になる可能性がある。このように、動きそのものの比較が必要な診断の場合、実際の動きと異なるような表示では悪影響(誤診)を与える可能性がある。
このような背景の下、複数の動画像を比較する際、対象領域において実際の動きと異なる動きが発生するのを抑制された表示を行うことが望まれている。
そこで、本実施形態では、複数の動画像における対象領域の動きの周期、位相などの画像表示要因が互いに異なる場合においても、周期毎に、対象領域の動きが同期するように表示する。これにより、複数の動画像を適切かつ容易に比較することができ、動態診断を適切かつ効率的に行うことができる。
以下では、第1実施形態における画像処理装置3の詳細について説明する。
<1−3.画像処理装置3の具体的構成>
本発明の第1実施形態における放射線動態画像撮影システム100の画像処理装置3は、動画像間の対象領域の周期的な動き(変化)が互いに異なる場合においても、周期毎に、各対象領域の変化が同期するように動画像を表示する。これにより、動態診断を適切かつ効率的に行うことが可能となる。
<1−3−1.画像処理装置3の機能構成>
図6は、放射線動態画像撮影システム100における画像処理装置3において、CPU等が各種プログラムに従って動作することにより制御部31で実現される機能構成を他の構成とともに示す図である。図6で示されるように、撮像装置1と画像処理装置3との間に、撮影制御装置2が介在し、撮影制御装置2の記憶部22に記憶された検出データ(フレーム画像)が通信部25を介して、画像処理装置3の通信部35に出力される。なお、この実施形態の画像処理装置3は、主として心臓および両肺を含む胸部が撮影された動態画像を使用する。
制御部31は、主に、動画像取得部200と、周期抽出部300と、周期調整部400と、表示画像生成部500と、から構成される。
以下では、図6で示されたような制御部31の機能的な構成が、あらかじめインストールされたプログラムの実行によって、実現されるものとして説明するが、専用のハードウエア構成で実現されても良い。
以降、動画像取得部200、周期抽出部300、周期調整部400、表示画像生成部500が行う各処理についての具体的内容を、図6を参照しながら順次説明する。
<1−3−1−1.動画像取得部200>
動画像取得部200は、撮像装置1の読取制御装置14によって撮影された人体または動物の対象領域の物理的状態が周期的に変化する状態を捉えた基準動画像を取得する基準動画像取得部210と、人体または動物の対象領域の物理的状態が周期的に変化する状態を捉えた、基準動画像と比較すべき参照動画像を情報蓄積装置5の参照画像記憶部51から取得する参照動画像取得部220と、を備えて構成される。
本実施形態における対象領域とは、肺及び心臓を含む胸部領域であり、特に肺野領域について重点的に解析を行う。また、ここでいう「物理的状態」という用語は、肺や心臓の幾何学的形状を指すほか、血流の濃度(血流の有無)などをも包含した意味で用いている。また、基準動画像が新たに撮影された動画像(現時点で診断を行いたい動画像)である場合に、参照動画像は、過去に撮影された同一人物についての動画像や、予め準備されている見本となるような動画像(平均的な動画像であったり、特定の症例を示す動画像)である。さらに、基準動画像と参照動画像とが同一人物について異なる方向(例えば、正面と側面)から撮影した動画像であっても構わない。
また、本実施形態における参照動画像は、参照画像記憶部51に記憶された1または2以上の動画像であるが、ユーザーによりそれらの中から1つが選択されて用いられる。
図7は、呼吸に伴う被検者Mの胸部の動態に対し、放射線動態画像撮影によって撮影した動画像を例示する図である。図7で示されるように、基準動画像取得部210(または参照動画像取得部220)により取得されたフレーム画像SG1〜SG10(RG1〜RG10)は、呼吸サイクルの少なくとも1周期を一定の撮影タイミングで連続撮影されたものである。具体的には、時刻 t=t1, t2, t3, …, t10 の撮影タイミングにおいて撮影された画像が、フレーム画像SG1,SG2,SG3,…,SG10(RG1,RG2,RG3,…,RG10)にそれぞれ対応している。
<1−3−1−2.周期抽出部300>
周期抽出部300は、基準動画像(複数の基準フレーム画像SGから構成)に捉えられた、対象領域(肺野)の周期的な変化(呼吸サイクル)T1に基づいて第1の対象領域周期PC1を検出し、複数の基準フレーム画像SGを第1の対象領域周期PC1単位に分類する基準周期抽出部310と、参照動画像(複数の参照フレーム画像RGから構成)に捉えられた、対象領域(肺野)の周期的な変化(呼吸サイクル)T2に基づいて第2の対象領域周期PC2を検出し、複数の参照フレーム画像RGを第2の対象領域周期PC2単位に分類する参照周期抽出部320と、を備えて構成される(図6参照)。なお、基準周期抽出部310が複数の基準フレーム画像SGを第1の対象領域周期PC1単位に分類する機能を備えることは必須ではなく、また、参照周期抽出部320においても、複数の参照フレーム画像RGを第2の対象領域周期PC2単位に分類する機能を備えることは必須ではない。
<1−3−1−2−1.肺野領域の変化(呼吸サイクル)の第1の検出方法>
本実施形態では、肺野領域の変化(呼吸サイクル)の検出方法(第1の検出方法)として、動画像を構成するフレーム画像の解析によって呼吸サイクルを検出する方法を採用している。図6で示されるように基準周期抽出部310は、基準動画像取得部210によって取得された複数の基準フレーム画像SGを用いて、肺野領域の面積を算出することで、第1の呼吸サイクルT1を検出する。同様に、参照周期抽出部320は、参照動画像取得部220によって取得された複数の参照フレーム画像RGを用いて、肺野領域の面積を算出することで、第2の呼吸サイクルT2を検出する。肺野領域の面積の求め方は、肺野領域の輪郭抽出を行い、輪郭に囲まれた領域の画素数を肺野領域として定義することが可能である。
図8は、肺野領域の輪郭抽出を例示する模式図である。肺野領域の抽出は、図8で示すように、左右ごとに抽出しても、心臓や脊椎の領域を含んだ輪郭として抽出してもよい。抽出方法としては、従来技術(例えば、"Image feature analysis and computer-aided diagnosis: Accurate determination of ribcage boundary in chest radiographs”, Xin-Wei Xu and Kunio Doi, Medical Physics, Volume 22(5), May 1995, pp.617-626.等参照)等を採用することができる。
このように、基準周期抽出部310(参照周期抽出部320)では、取得された複数の基準フレーム画像SG(複数の参照フレーム画像RG)を用いて、肺野領域の輪郭OLの抽出を実施し、抽出された領域内のピクセル数を特徴量、すなわち肺野領域の面積として検出する。そして、この面積の周期的な変化が第1の呼吸サイクルT1(第2の呼吸サイクルT2)である。
なお、変形例として、上記のように肺野領域の面積を求める代わりに、肺野領域の特徴点間の距離を求めるようにしてもよい。この場合、複数の基準フレーム画像SG(複数の参照フレーム画像RG)を用いて、肺野領域の特徴点間の距離を算出し、呼吸情報とすることが可能である。すなわち、肺野領域の抽出を上記方法と同様に実施し、抽出された領域から、特徴点2点を求め、その2点間の距離を求めることで特徴量を算出する。
図9は、この変形例における肺野領域の特徴点の位置を例示した図である。肺領域の上端LTから下端LBまでの長さ(肺野長)の変化を算出する場合、図9(a)では、肺尖部を肺領域の上端LTとし、肺尖部から体軸方向におろした直線と横隔膜との交点を肺領域の下端LBとして抽出した例であり、図9(b)では、肺尖部を肺領域の上端LTとし、肋横角を肺領域の下端LBとして抽出した例である。このように肺野領域の特徴点間の距離を特徴量として、この特徴量の周期的な変化を呼吸サイクルとすればよい。
図10は、本実施形態において基準周期抽出部310(参照周期抽出部320)において検出された呼吸情報の波形データを時系列で示した模式図であり、肺野領域の面積といった特徴量を算出し、時間方向にモニタリングした結果となる。図10で示されるように、呼吸の周期的な変化(呼吸サイクル)Bの1周期PCは、吸気と呼気とから構成され、1回の呼気と1回の吸気からなる。吸気では、横隔膜が下がって息が吸い込まれるに連れて胸郭中の肺野の領域が大きくなる。息を最大限に吸い込んだとき(吸気と呼気の変換点)が最大吸気時B1である。呼気では、横隔膜が上がって息が吐き出されるに連れて肺野の領域が小さくなるが、息を最大限に排出したとき(呼気と吸気の変換点)が最大呼気時B2となる。
ここで、本明細書では、画像特徴量が振幅値が最大となる値を最大振幅値AP1、振幅値が最小となる値を最小振幅値AP2と称するとともに、最大振幅値AP1と最小振幅値AP2とを総称して振幅値APと称する。なお、最大振幅値AP1を示す点は、吸気から呼気への変換点に位置する最大吸気となる点B1に相当し、最小振幅値AP2を示す点は、呼気から吸気への変換点に位置する最大呼気となる点B2に相当する。
このように、基準周期抽出部310(参照周期抽出部320)は、取得された複数の基準フレーム画像SG(複数の参照フレーム画像RG)を用いて、肺野領域の輪郭OLの抽出を実施し、抽出された領域から肺野領域の面積を検出することで、第1の呼吸サイクルT1(第2の呼吸サイクルT2)を検出する。
<1−3−1−2−2.肺野領域の変化(呼吸サイクル)の第2の検出方法>
ここで、呼吸サイクルの検出方法の更なる変形例として、上記第1の呼吸サイクルの検出方法に代えて採用可能な第2の呼吸サイクルの検出方法を説明する。
この第2の検出方法では、別機器による計測結果を用いる。すなわち、複数の基準フレーム画像SG(または複数の参照フレーム画像RG)が撮影されるのと同期して外部より呼吸情報を取得し、この呼吸情報を基準動画像(または参照動画像)と対応付けて記憶して利用する。
本実施形態のシステム構成(図1参照)では、サイクル検出装置16が設けられているため、これが利用可能である。この場合、基準周期抽出部310は、基準動画像取得部210を介して、複数の基準フレーム画像SGを取得するとともに、これと同期した呼吸情報をサイクル検出装置16を介して取得することができる。一方、参照周期抽出部320では、参照画像記憶部51から参照動画像取得部220を介して、複数の参照フレーム画像RGを取得するとともに、これと同期した呼吸情報を取得する。参照動画像に関しては、その撮影時にサイクル検出装置16によって呼吸情報を取得し、この呼吸情報が参照動画像と対応づけて参照画像記憶部51に格納されているものとする。
なお、この第2の呼吸サイクルの検出方法では、例えば、特許第3793102号に記載されているような装置を用いることができる。また、レーザー光とCCDカメラで構成されたセンサによるモニタリングにより実施する手法(例えば、"FG視覚センサを用いた就寝者の呼吸モニタリングに関する検討",青木 広宙,中島 真人,電子情報通信学会ソサイエティ大会講演論文集 2001年.情報・システムソサイエティ大会講演論文集, 320-321, 2001-08-29.等参照)等を採用することもできる。
また、呼吸サイクル以外に、図11〜図13で示すように、心拍サイクル(心臓領域の変化)を検出する方法も存在するが、心拍サイクルについては<変形例>の欄で後に詳述する。
<1−3−1−2−3.呼吸周期検出方法>
続いて、第1(第2)の呼吸サイクルT1(T2)に基づいて、呼吸周期を検出する方法について説明する。第1または第2の呼吸周期PC1(PC2)は、それぞれ、(a1)第1または第2の呼吸サイクルT1(T2)が基準期間内において最小値を示すタイミング又は基準期間内において最大値を示すタイミング、(a2)第1または第2の呼吸サイクルT1(T2)の傾きの正負が変わるタイミング、(a3)第1または第2の呼吸サイクルT1(T2)の変曲点のタイミング、(a4)第1または第2の呼吸サイクルT1(T2)が所定の閾値となるタイミング、及び、(a5)第1または第2の呼吸サイクルT1(T2)の傾きの絶対値が基準値より大きくなるタイミングに基づいて検出することが可能である。以下に、これらのタイミング(a1)〜(a5)を用いた第1〜5の呼吸周期の検出方法を説明するが、これらの検出方法のいずれかをユーザーによる選択によって選択可能に設けてもよいし、複数の検出方法で検出した結果に基づいて、例えば平均値を用いる等により、最終的な結果を得るようにしてもよい。なお、本実施形態においては、タイミング(a1)を用いた第1の呼吸周期の検出方法を採用している。したがって、以下に説明する第2〜5の呼吸周期の検出方法は、第1の呼吸周期の検出方法に代えて、または、第1の呼吸周期の検出方法に加えて採用されるものである。
図14〜図18は、呼吸周期の検出方法を説明する図であり、図10と同様に画像特徴量(肺野領域の面積)を時系列で示す図である。なお、黒丸はフレーム画像の撮影タイミングを示す。
<1−3−1−2−3−1.第1の周期検出方法:最大値、最小値>
第1の周期検出方法は、本実施形態において採用されたタイミング(a1)に基づく検出方法であり、呼吸サイクルの基準期間内における最大値(最大吸気時)B1、又は、基準期間内における最小値(最大呼気時)B2に基づいて呼吸周期を検出する。なお、ここでの最大値や最小値は近似値であっても構わない。すなわち、図14で示されるように、第1または第2の呼吸サイクルT1(T2)の基準期間S1内における最大値B1を示すタイミング又は基準期間S2内における最小値B2を示すタイミングに基づいて呼吸周期PC1(PC2)を検出する。ここで、最大値B1を探索するときの基準期間S1としては、最大振幅値AP1(図10参照)が1つ存在する期間(画像特徴量が平均的な値以上である期間であり、その中にピーク値を持つ)が設定される。最小値B2を探索するときの基準期間S2としては、最小振幅値AP2(図10参照)が1つ存在する期間(画像特徴量が平均的な値以下である期間であり、その中にピーク値を持つ)が設定される。
複数の基準フレーム画像SGまたは参照フレーム画像RGに関して、上記のように画像特徴量を解析することにより、最大値B1及び最小値B2を取得することができる。また、期間S1や期間S2といった一定期間の範囲の中で、最大値B1及び最小値B2を取るようにすれば、呼吸の1周期内での最大吸気時及び最大呼気時を知ることができる。そして、“点B1、点B2、点B1の順で探索された期間”、“点B2、点B1、点B2の順で探索された期間”、“点B2が2つ両端(開始点、終点)に存在する期間”、“点B1が2つ両端に存在する期間”、のうち何れかの期間を呼吸周期PC1(PC2)として検出すればよい。そして、1つの呼吸周期PC1(PC2)と対応する基準フレーム画像SG(参照フレーム画像RG)を1周期分のフレーム画像として分類することができる。
このようにして、複数の基準フレーム画像SGまたは参照フレーム画像RGに基づいて第1または第2の呼吸周期PC1(PC2)を検出する。
<1−3−1−2−3−2.第2の周期検出方法:傾きの正負>
第2の周期検出方法は、タイミング(a2)に基づく検出方法であり、呼吸サイクル(変化曲線)の傾きの正負の変換点に基づいて呼吸周期を検出する。すなわち、図15(a)で示されるように、第1または第2の呼吸サイクルT1(T2)の曲線の傾きの正負が変わる変化点B10,B20に基づいて呼吸周期PC1(PC2)を検出する。なお、変化点B10,B20としては近似値を用いてもよい。
図15(b)は、複数の基準フレーム画像SGまたは参照フレーム画像RGについて、フレーム画像間の画像特徴量の差分を時間順次でとり、その差分が正か負の何れの符号であるかを図15(a)の時間軸に対応させて示したグラフである。図15(b)で示されるように、画像特徴量の差分を時系列で求めれば、その差分が正から負に変わる変化点B10や負から正に変わる変化点B20を検出することができる。そして、“変化点B10、変化点B20、変化点B10の順で探索された期間”、“変化点B20、変化点B10、変化点B20の順で探索された期間”、“変化点B20が2つ両端に存在する期間”、“変化点B10が2つ両端に存在する期間”、のうち何れかの期間を呼吸周期として検出すればよい。そして、1つの呼吸周期と対応する基準フレーム画像SGまたは参照フレーム画像RGを1周期分のフレーム画像として分類する。
なお、上記のようにフレーム画像間の画像特徴量の差分を時系列で求める代わりに、第1または第2の呼吸サイクルT1(T2)の曲線の微分値を求めるようにしても構わない。
<1−3−1−2−3−3.第3の周期検出方法:変曲点>
第3の周期検出方法としては、タイミング(a3)に基づく検出方法であり、呼吸サイクル(変化曲線)の変曲点に基づいて呼吸周期を検出する。すなわち、図16で示されるように、第1または第2の呼吸サイクルT1(T2)の変曲点B3,B4を示すタイミングに基づいて呼吸周期PC1(PC2)を検出する。なお、変曲点B3,B4としては近似値を用いてもよい。
例えば、第1または第2の呼吸サイクルT1(T2)は周期を持つとの前提から、第1または第2の呼吸サイクルT1(T2)を関数で表現し、その関数の2回微分をとることによりわかる、凹凸が変化する点を、変曲点として抽出する。そして、複数の基準フレーム画像SGまたは参照フレーム画像RGの撮影タイミングのうち、この変曲点に最も近い撮影タイミングを変曲点B3,B4として検出する(図16参照)。そして、“変曲点B3、変曲点B4、変曲点B3の順で探索された期間”、“変曲点B4、変曲点B3、変曲点B4の順で探索された期間”、“変曲点B4が2つ両端に存在する期間”、“変曲点B3が2つ両端に存在する期間”、のうち何れかの期間を呼吸周期として検出すればよい。そして、1つの呼吸周期と対応する基準フレーム画像SGまたは参照フレーム画像RGを1周期分のフレーム画像として分類する。
<1−3−1−2−3−4.第4の周期検出方法:所定の閾値>
第4の周期検出方法としては、タイミング(a4)に基づく検出方法であり、呼吸サイクルが所定の閾値となるタイミングに基づいて呼吸周期を検出する。すなわち、図17で示されるように、第1または第2の呼吸サイクルT1(T2)の一定の閾値v1となる点B30,B40に基づいて呼吸周期PC1(PC2)を検出する。ここでいう閾値v1は、第1または第2の呼吸サイクルT1(T2)における画素特徴量の中間の値とすることが好ましい。なお、点B30,B40としては近似値を用いてもよい。
例えば、第1または第2の呼吸サイクルT1(T2)は周期を持つとの前提から、第1または第2の呼吸サイクルT1(T2)を関数で表現し、一定の閾値となる点を検出する。そして、複数の基準フレーム画像SGまたは参照フレーム画像RGの撮影タイミングのうち、この点に最も近い撮影タイミングを点B30、点B40として検出する(図17参照)。そして、“点B30、点B40、点B30の順で探索された期間”、“点B40、点B30、点B40の順で探索された期間”、“点B40が2つ両端に存在する期間”、“点B30が2つ両端に存在する期間”、のうち何れかの期間を呼吸周期として検出すればよい。そして、1つの呼吸周期と対応する基準フレーム画像SGまたは参照フレーム画像RGを1周期分のフレーム画像と分類する。
<1−3−1−2−3−5.第5の周期検出方法:傾きの絶対値>
第5の周期検出方法としては、タイミング(a5)に基づく検出方法であり、呼吸サイクル(変化曲線)の傾きの絶対値に基づいて呼吸周期を検出する。すなわち、図18で示されるように、第1または第2の呼吸サイクルT1(T2)の傾きの絶対値が基準値より大きくなるタイミングに基づいて呼吸周期PC1(PC2)を検出する。ここでいう基準値は、想定される第1または第2の呼吸サイクルT1(T2)の最大の傾きとなる値であり、経験的に知られた値などを用いることができる。
例えば、第2の周期検出方法と同様に、図18(a)で示されるように、複数の基準フレーム画像SGまたは参照フレーム画像RGにおいて、フレーム画像間の画像特徴量の差分を時間順次でとり、その差分D1を傾きを示す値(フレーム画像の時間間隔が一定であれば、差分は傾きを示す値となる)とする。そして、図18(b)で示されるように、その差分D1が基準値より大きくなる点B31(または点B31’でもよい)を求める(図18(b)参照)。
また、この方法では、基準値より大きくなる点として、傾きの"絶対値"を対象としているため、傾きが最も小さくなる点(傾きが負の方向に大きい点)も含まれる。したがって、図18(c)で示されるように、差分D1の絶対値が基準値より大きくなる点として、点B31に加え、点B41も検出される。そして、“点B31、点B41、点B31の順で探索された期間”、“点B41、点B31、点B41の順で探索された期間”、“点B41が2つ両端に存在する期間”、“点B31が2つ両端に存在する期間”、のうち何れかの期間を呼吸周期として検出すればよい。そして、1つの呼吸周期と対応する基準フレーム画像SGまたは参照フレーム画像RGを1周期分のフレーム画像として分類する。
<1−3−1−3.周期調整部400>
周期調整部400では、第1または第2の呼吸周期(対象領域周期)PC1,PC2毎に、基準動画像及び参照動画像の肺野領域(対象領域)の周期的な変化を特定の位相において同期させる周期調整処理を実施する。周期調整処理は、第1及び第2の呼吸サイクルT1,T2が、(b1)第1及び第2の呼吸周期PC1,PC2毎において最小となる第1の特徴点、(b2)第1及び第2の呼吸周期PC1,PC2毎において最大となる第2の特徴点、(b3)第1及び第2の呼吸周期PC1,PC2毎において変曲点となる第3の特徴点、(b4)第1及び第2の呼吸周期PC1,PC2毎において所定の閾値となる第4の特徴点、及び、(b5)第1及び第2の呼吸周期PC1,PC2毎において傾きの絶対値が最大となる第5の特徴点のうち、何れか1つの特徴点である調整用特徴点に基づいて実行することが可能である。この調整用特徴点が同期をとる特定の位相を示す。
また、周期調整処理は、第1の呼吸サイクルT1及び第2の呼吸サイクルT2のうち、何れか一方を固定用呼吸サイクル、他方を調整の対象となる調整用呼吸サイクルとし、調整用呼吸サイクルが調整用特徴点となるタイミングを、固定用呼吸サイクルが調整用特徴点となるタイミングに一致するように時間方向にシフトさせる処理を含む。第1の呼吸サイクルT1及び第2の呼吸サイクルT2は、それぞれ、基準動画像(複数の基準フレーム画像SGから構成)及び参照動画像(複数の参照フレーム画像RGから構成)と対応するものであるので、第1の呼吸サイクルT1又は第2の呼吸サイクルT2を時間方向にシフトさせるというのは、基準動画像又は参照動画像を時間方向にシフトさせることを意味する。すなわち、複数の基準フレーム画像SG又は複数の参照フレーム画像RGの表示タイミングを変更することになる。
なお、本実施形態において、基準動画像が現時点で診断を行いたい動画像である場合には、基準動画像に対応した第1の呼吸サイクルT1を固定用呼吸サイクルとし、参照動画像に対応した第2の呼吸サイクルT2を調整用呼吸サイクルとすることが好ましい。
図19は、第1及び第2の呼吸サイクルT1,T2を合わせて例示する図である。なお、図19において、第1の呼吸サイクルT1における点1B1,点1B2、及び、第2の呼吸サイクルT2における点2B1,点2B2は、上記の第1の周期検出方法により検出された呼吸の1周期内での最大吸気時及び最大呼気時を示す点である(後述の図20及び図21も同様)。図19で示されるように、第1の呼吸サイクルの周期PC1と第2の呼吸サイクルT2の周期PC2とが異なるため、基準動画像と参照動画像とをそのまま同時に表示すると動きがバラバラになり、比較診断することは困難である。
そこで、周期調整部400が、第1または第2の呼吸周期PC1,PC2毎に、周期調整処理を実施する。
図20〜図23は、周期調整処理を説明する図である。
ここで、図20〜図23における周期調整処理は、固定用呼吸サイクルを第1の呼吸サイクルT1とし、調整用呼吸サイクルを第2の呼吸サイクルT2としている。
<1−3−1−3−1.第1の特徴点に基づく調整方法>
図20は、本実施形態における上記の第1の特徴点に基づく周期調整処理の方法を示す。この調整方法では、図20で示されるように、第1及び第2の呼吸周期PC1,PC2毎において最小となる点1B2,点2B2を調整用の特徴点として周期調整処理を行う。
この周期調整方法では、第2の呼吸サイクルT2が点2B2となるタイミングを、第1の呼吸サイクルT1が点1B2となるタイミングに一致するように時間方向にシフトさせる。つまり、画像特徴量が最小となる点1B2と点2B2とを時間方向に一致させる。具体的には、点2B2を矢印AR22の方向にシフトさせ調整点C22に移動させることで、点1B2と点2B2とを時間方向に一致させることが可能となる。これは、第2の呼吸サイクルT2と対応する参照動画像の表示タイミングを各呼吸周期PC2において早くすることを意味する。この結果、図21(a)で示されるように、第2の呼吸サイクルTC2が時間方向にシフトされ、第2の呼吸サイクルT2cとなる。この周期調整方法によれば、基準動画像と参照動画像とを表示する際に、呼吸周期PC1毎に、最大呼気時のタイミングを一致させることができる。
<1−3−1−3−2.第2の特徴点に基づく調整方法>
第2の特徴点に基づく調整方法としては、図20で示されるように、第1及び第2の呼吸周期PC1,PC2毎において最大となる点1B1,点2B1を調整用の特徴点として周期調整処理を行う。
この周期調整方法では、第2の呼吸サイクルT2が点2B1となるタイミングを、第1の呼吸サイクルT1が点1B1となるタイミングに一致するように時間方向にシフトさせる。つまり、画像特徴量が最大となる点1B1と点2B1とを時間方向に一致させる方法である。具体的には、点2B1を矢印AR12の方向にシフトさせ調整点C12に移動させることで、点1B1と点2B1とを時間方向に一致させることが可能となる。これは、第2の呼吸サイクルT2と対応する参照動画像の表示タイミングを各呼吸周期P2において早くすることを意味する。この結果、図21(b)で示されるように、第2の呼吸サイクルTC2が時間方向にシフトされ、第2の呼吸サイクルT2cとなる。この周期調整方法によれば、基準動画像と参照動画像とを表示する際に、呼吸周期PC1毎に、最大吸気時のタイミングを一致させることができる。
なお、本実施形態においては、上記の第1の特徴点に基づく調整方法と、第2の特徴点に基づく調整方法とを採用しており、これら2つの調整方法のいずれか一方がユーザーにより選択可能になっている。
以下に第3〜第5の特徴点に基づく調整方法を説明するが、これらの調整方法は、上記の第3〜第5の周期検出方法を採用した場合に好適な調整方法である。
<1−3−1−3−3.第3〜第5の特徴点に基づく調整方法(1)>
図22及び図23は、上記の第3〜第5の特徴点に基づく調整方法と結果とを示す。また、図22及び図23において、第1の呼吸サイクルT1に対する中間点1B3,1B4、及び、第2の呼吸サイクルT2に対する中間点2B3,2B4は、上記の第3〜第5の周期検出方法により検出された点である。第3〜第5の特徴点に基づく調整方法(1)では、図22で示されるように、第1及び第2の呼吸周期PC1,PC2毎において中間点1B3,中間点2B3を各々調整用の特徴点として周期調整処理を行う。ここでいう中間点1B3及び中間点2B3は、第3の特徴点に基づく処理の場合は第3の周期検出方法により検出された変曲点B3に相当し、第4の特徴点に基づく処理の場合は第4の周期検出方法により検出された一定の閾値v1を基準に求められた点B30に相当し、第5の特徴点に基づく処理の場合は第5の周期検出方法により検出された傾きが最大となる点B31に相当する。
この周期調整方法では、第2の呼吸サイクルT2が中間点2B3となるタイミングを、第1の呼吸サイクルT1が中間点1B3となるタイミングに一致するように時間方向にシフトさせる。つまり、画像特徴量の中間点1B3と中間点2B3とを時間方向に一致させる。具体的には、中間点2B3を矢印AR32の方向にシフトさせ調整点C32に移動させることで、図23(a)に示すように、中間点1B3と中間点2B3とを時間方向に一致させることが可能となる。
<1−3−1−3−4.第3〜第5の特徴点に基づく調整方法(2)>
第3〜第5の特徴点に基づく調整方法(2)では、図22で示されるように、第1及び第2の呼吸周期PC1,PC2毎において中間点1B4,中間点2B4を調整用の特徴点として周期調整処理を行う。ここでいう中間点1B4及び中間点2B4は、第3の特徴点に基づく処理の場合は第3の周期検出方法により検出された変曲点B4に相当し、第4の特徴点に基づく処理の場合は第4の周期検出方法により検出された一定の閾値v1を基準に求められた点B40に相当し、第5の特徴点に基づく処理の場合は第5の周期検出方法により検出された傾きが最大となる点B41に相当する。
この周期調整方法は、第2の呼吸サイクルT2が中間点2B4となるタイミングを、第1の呼吸サイクルT1が中間点1B4となるタイミングに一致するように時間方向にシフトさせる。つまり、画像特徴量の中間点1B4と中間点2B4とを時間方向に一致させる。具体的には、中間点2B4を矢印AR42の方向にシフトさせ調整点C42に移動させることで、図23(b)に示すように、中間点1B4と中間点2B4とを時間方向に一致させることが可能となる。
<1−3−1−4.表示画像生成部500>
上述のように、図20〜図23の場合では、第2の呼吸サイクルT2を時間方向にシフトして第2の呼吸サイクルT2cとしたため、周期調整部400は、第1の呼吸サイクルT1と第2の呼吸サイクルT2cとを表示画像生成部500に出力する。そして、表示画像生成部500では、周期調整処理を施した後の第1及び第2の呼吸サイクルT1,T2cに基づいて表示用画像IGを生成し、表示用画像IGを表示部34に出力する(図6参照)。この表示用画像IGは、基準動画像及び参照動画像を比較表示するためのものであり、この表示において第1及び第2の呼吸サイクルT1,T2cは、周期調整処理が施された後のものとなっている。言い換えれば、第1の呼吸サイクルT1となるように、基準動画像を構成する複数の基準フレーム画像SGのそれぞれを表示用画像IGに用いるとともに、第2の呼吸サイクルT2cとなるように、参照動画像を構成する複数の参照フレーム画像RGのそれぞれを表示用画像IGに用いることになる。
図24は表示用画像IGにおける第1及び第2の呼吸サイクルT1,T2cを例示する図である。図24(a)では、第1の特徴点に基づく調整方法で周期調整処理が実施された場合に生成された表示用画像IGの第1の呼吸サイクルT1と第2の呼吸サイクルT2cとを示す。また、図24(b)では、第2の特徴点に基づく調整方法で周期調整処理が実施された場合に生成された表示用画像IGの第1の呼吸サイクルT1と第2の呼吸サイクルT2cとを示す。
図24(a)及び(b)で示されるように、表示用画像IGの生成方法としては2通り存在する。1つ目の生成方法は、図24(a)に示されるように、周期調整処理において用いた特定の位相を示す調整用の特徴点(この場合は第1の特徴点)を時間方向に連続させることで、第1の呼吸周期PC1と第2の呼吸周期PC2との差を埋めるものである。すなわち、図24(a)の場合、調整用の特徴点は第1の特徴点であるので、第1の呼吸周期PC1毎に、第2の呼吸サイクルT2cにおける最小点2B2(第1の特徴点)を一定の時間区間ST内で連続して存在させる。このようにして生成された第2の呼吸サイクルT2cの第2の呼吸周期PC2rは、第1の呼吸周期PC1と一致し、基準動画像と参照動画像の表示に要する表示時間が第1の呼吸周期PC1毎に一致することになる。なお、図24(a)では調整用の特徴点が第1の特徴点である場合を示すが、調整用の特徴点が第2の特徴点である場合にも同様に、最大点2B1を時間方向に連続させることで、表示用画像IGを生成することができる。また、図24(a)では第2の呼吸周期PC2が第1の呼吸周期PC1よりも小さい場合を示したが、第2の呼吸周期PC2が第1の呼吸周期PC1よりも大きい場合には、第1の呼吸周期PC1の期間だけ参照動画像の表示を行うようにすればよい。この生成方法によれば、周期調整処理において用いた調整用の特徴点から始まる肺野領域(対象領域)の変化を観察することができる。
次に、2つ目の表示用画像IGの生成方法は、図24(b)で示されるように、周期調整処理において用いた調整用の特徴点(この場合は第2の特徴点、すなわち特定の位相)とは逆の位相の点(この場合は第1の特徴点)を時間方向に連続させることで、第1の呼吸周期PC1と第2の呼吸周期PC2との差を埋めるものである。すなわち、図24(b)の場合、調整用の特徴点は第2の特徴点であるので、第1呼吸周期PC1毎に、第2の呼吸サイクルT2cにおける最小点2B2(第1の特徴点)を一定の時間区間ST内で連続して存在させる。このようにして生成された第2の呼吸サイクルT2cの第2の呼吸周期PC2rは、第1の呼吸周期PC1と一致し、基準動画像と参照動画像の表示に要する表示時間が第1の呼吸周期PC1毎に一致することになる。なお、図24(b)では特定の位相となる調整用の特徴点が第2の特徴点である場合を示すが、調整用の特徴点が第1の特徴点である場合にも同様に、第2の特徴点とは逆の位相の点となる最大点2B1を時間方向に連続させることで、表示用画像IGを生成することができる。また、図24(b)では第2の呼吸周期PC2が第1の呼吸周期PC1よりも小さい場合を示したが、第2の呼吸周期PC2が第1の呼吸周期PC1よりも大きい場合には、第1の呼吸周期PC1の期間だけ参照動画像の表示を行うようにすればよい。この生成方法によれば、周期調整処理において用いた調整用の特徴点を中心としてその前後の変化を観察することができる。
上記の時間区間STにおける参照動画像の表示は、表示部34のディスプレイ上では、一時停止状態(表示固定状態)となる。すなわち、図24(a)及び(b)の例では、第2の呼吸サイクルT2cの最小点2B2に対応する参照フレーム画像RGが時間区間STの間連続的に表示される。
なお、図24では、第1及び第2の特徴点に基づく調整方法で周期調整処理が実施された場合のみを説明したが、第3〜第5の特徴点に基づく調整方法においても各特徴点に対して同様の処理を施すことにより表示用画像IGが生成可能である。
また、表示用画像IGの作成方法として、基準動画像と参照動画像とを隣接配置して表示用画像IGを作成する。その代わりに、基準動画像と参照動画像とを重畳して1の動画として表示しても良い。重畳表示する際は、それぞれの動画に異なる色を付けて表示することが好ましい。例えば、重畳表示する場合、基準動画像を赤、参照動画像を緑などのように割り振ると比較診断が行いやすくなる。
さらに、インジゲータなどの情報で、変更部分(例えば、上述の時間区間ST)が分かるように視覚情報を生成しても良い。例えば、動画表示(再生)中に現在の表示位置が分かるプログレスバーがある場合は、変更部分の表示中にはプログレスバー上に色を付けて表示する方法や、周期図による表示を行う場合は、変更前と変更後との情報表示などを行う方法を採用することができる。
<1−3−2.画像処理装置3の基本動作>
図25は、本実施形態に係る画像処理装置3において実現される基本動作を説明するフローチャートである。既に各部の個別機能の説明は行ったため(図6参照)、ここでは全体の流れのみ説明する。
図25に示すように、まず、ステップS1Aにおいて、制御部31の基準動画像取得部210が、撮像装置1の読取制御装置14によって撮影された基準動画像(複数の基準フレーム画像SG)を、撮影制御装置2を介して取得する。また、ステップS1Aと並行してステップS1Bにおいて、制御部31の参照動画像取得部220が、参照画像記憶部51から参照動画像(複数の参照フレーム画像RG)を取得する(図7参照)。
ステップS2Aでは、基準周期抽出部310が、第1の呼吸サイクルT1に基づいて第1の呼吸周期PC1を検出し、複数の基準フレーム画像SGを該第1の呼吸周期PC1単位に分類する。また、ステップS2Aと並行してステップS2Bにおいて、参照周期抽出部320が、第2の呼吸サイクルT2に基づいて第2の呼吸周期PC2を検出し、複数の参照フレーム画像RGを該第2の呼吸周期PC2単位に分類する(図8〜図18参照)。
ステップS3では、周期調整部400が、第1の呼吸周期PC1毎に、第2の呼吸サイクルT2を時間方向にシフトして第1の呼吸サイクルT1と第2の呼吸サイクルT2とを同期させる周期調整処理を実施する(図20〜図23参照)。
ステップS4では、表示画像生成部500が、ステップS3において周期調整処理を施した後の第1及び第2の呼吸サイクルT1,T2cに基づいて表示用画像IGを生成し、表示用画像IGを表示部34に出力する(図24参照)。
最後に、ステップS5において、表示部34が、表示用画像IGをディスプレイに表示して、本動作フローが終了される。
以上、第1実施形態における画像処理装置3では、第1または第2の呼吸周期PC1,PC2毎に、基準動画像及び参照動画像の肺野領域の周期的な変化(第1及び第2の呼吸サイクル)を特定の位相(特徴点)において同期させる周期調整処理を実施する周期調整部400と、周期調整処理を施した後の基準動画像及び参照動画像を比較できるように表示する表示用画像IGを生成する表示画像生成部500とを備える。すなわち、第1及び第2の呼吸周期PC1,PC2が互いに異なる場合においても、第1または第2の呼吸周期PC1,PC2毎に、第1の呼吸サイクルT1と第2の呼吸サイクルT2との特定の位相を一致させて表示することが可能となる。その結果、医者等の専門家が、表示部34にて表示される表示用画像IGを参照して同期した状態の該基準動画像と該参照動画像とを比較しながら動態診断をすることができるため、動態診断を適切かつ効率的に行うことが可能となる。また、動画読影による診断時間の短縮化が図れ、ユーザーにとっての利便性が向上する。
また、第1または第2の呼吸周期PC1,PC2は、タイミング(a1)〜(a5)のうち、少なくとも1つのタイミングに基づいて抽出されることにより、複数の基準フレーム画像SGまたは複数の参照フレーム画像RGを、第1または第2の呼吸周期PC1,PC2単位に正確に分類することが可能となる(図14〜図18参照)。
また、周期調整処理は、第1〜第5の特徴点(b1)〜(b5)のうち、何れか1つの特徴点である調整用特徴点(特定の位相)に基づいて実行されることにより、第1の呼吸サイクルT1及び第2の呼吸サイクルT2を特定の位相において正確に同期させることが可能となる(図20〜図23参照)。
また、周期調整処理は、調整用呼吸サイクルが調整用特徴点となるタイミングを、固定用呼吸サイクルが調整用特徴点となるタイミングに一致するように時間方向にシフトさせるだけであり、画像補間などにより動画像を加工することなく、第1及び第2の呼吸サイクルT1,T2そのものの変化を用いて表示用画像IGを生成することができる。
なお、上記の説明では、参照動画像は1の動画像であったが、参照動画像は2以上の動画像とすることもできる。この場合、基準動画像と複数の参照動画像とを比較しながら動態診断をすることが可能となる。
<2.第2実施形態>
図26は、本発明の第2実施形態として構成された画像処理装置3Aで用いられる制御部31Aの機能構成を示す図である。この制御部31Aは、第1実施形態の画像処理装置3における制御部31(図6参照)の代替として使用される。第1実施形態と異なる点は、第1実施形態の周期調整部400に対応する周期調整部400Aが調整対象切替部450を更に備える点である。なお、残余の構成は画像処理装置3と同様である。
<2−1.調整対象切替部450>
周期調整部400Aにおける調整対象切替部450は、調整用呼吸サイクルを第1の呼吸サイクルT1と第2の呼吸サイクルT2との間で切り替える。すなわち、切り替え前の調整用呼吸サイクルを第2の呼吸サイクルT2としていた場合には、調整対象切替部450によって調整用呼吸サイクルを第2の呼吸サイクルT2から第1の呼吸サイクルT1に切り替えることができ、逆に、切り替え前の調整用呼吸サイクルを第1の呼吸サイクルT1としていた場合には、調整対象切替部450によって調整用呼吸サイクルを第1の呼吸サイクルT1から第2の呼吸サイクルT2に切り替えることができる。
上述したように、基準動画像が新たに撮影された動画像である場合、医者等の専門家が読影を行う際、現時点で診断を行いたい基準動画像を観察し、参照動画像は参考のために用いられることが多い。このため、基本的には、基準動画像を変更することなくそのまま用い、参照動画像の表示を変更することで表示用画像IGが生成される。
しかしながら、参照動画像を変更することなくそのまま用い、基準動画像の表示を変更することで両者を比較して診断することが有用である可能性もある。
そこで、そのような場合に備えて、調整対象切替部450により、ユーザーの指定の下、調整用呼吸サイクルを参照動画像における第2の呼吸サイクルT2から基準動画像における第1の呼吸サイクルT1に切り替える。また、逆に、調整用呼吸サイクルを第1の呼吸サイクルT1から第2の呼吸サイクルT2に戻したい場合においても、ユーザーの指定の下、調整対象切替部450により切り替えることが可能となる。
<2−2.画像処理装置3Aの基本動作>
続いて、図27は、第2実施形態に係る画像処理装置3Aの動作フローを例示した図である。ここでは、調整用呼吸サイクルのデフォルト設定は、第2の呼吸サイクルT2である。なお、図27のうち、ステップST1A,ST2A,ST1B,ST2B,ST6は図25のステップS1A,S2A,S1B,S2B,S5と同様であるため、その説明は省略する。
この第2実施形態では、第1実施形態では存在しなかった調整対象切替部450が付加されたことで、下記の工程が追加される。
すなわち、第1実施形態と同様の工程として、ステップST1A,ST2A,ST1B,ST2Bを経て、図27で示されるように、ステップST3にて、調整対象切替部450が、調整用呼吸サイクルを第2の呼吸サイクルT2から第1の呼吸サイクルT1に切り替える。
ステップST4では、周期調整部400Aが、第2の呼吸周期PC2毎に、第1の呼吸サイクルT1を時間方向にシフトして基準動画像と参照動画像とを同期させる周期調整処理を実施する。
ステップST5では、表示画像生成部500が、ステップST4において周期調整処理を施した後の第1及び第2の呼吸サイクルT1c,T2に基づいて表示用画像IGを生成し、表示用画像IGを表示部34に出力する(図26参照)。そして、残余の工程は第1実施形態と同様となる。
以上のように第2実施形態に係る画像処理装置3Aでは、調整用呼吸サイクルを第1の呼吸サイクルT1と第2の呼吸サイクルT2の間で切り替えることにより、ユーザー指定の下、調整対象とする動画像を変更することが可能となる。
<3.第3実施形態>
図28は、本発明の第3実施形態として構成された画像処理装置3Bで用いられる制御部31Bの機能構成を示す図である。この制御部31Bは、第1実施形態の画像処理装置3における制御部31(図6参照)の代替として使用される。第1実施形態と異なる点は、第1実施形態の周期調整部400に対応する周期調整部400Bが周期一致処理部460を更に備える点である。なお、残余の構成は画像処理装置3と同様である。
<3−1.周期一致処理部460>
周期調整部400Bにおける周期一致処理部460は、第1の呼吸サイクルT1及び第2の呼吸サイクルT2のうち、何れか一方を固定用呼吸サイクル、他方を調整の対象となる調整用呼吸サイクルとし、第1及び第2の周期PC1,PC2のうち固定用呼吸サイクルの周期を固定用周期、調整用呼吸サイクルの周期を調整用周期とし、調整用呼吸サイクルを変更して調整用周期を固定用周期に一致させる周期一致処理を行う。ここでいう周期一致処理は大別して2つの処理があるため、以下、処理毎に分説する。
<3−1−1.第1の周期一致処理>
第1の周期一致処理としては、次の2つのケースが挙げられる。1つ目のケースとしては、調整用周期が固定用周期より短い場合、周期一致処理は、調整用呼吸サイクルの変化速度を遅く変更する処理となる。調整用呼吸サイクルの変化速度を遅くするには、動画像を表示する際の単位時間当たりのフレーム画像の数(fps:frame per second)を減らせばよい。すなわち、動画像を構成するフレーム画像毎の表示時間を長くすることになる。
2つ目のケースとしては、調整用周期が固定用周期より長い場合、周期一致処理は、調整用呼吸サイクルの変化速度を早く変更する処理となる。調整用呼吸サイクルの変化速度を速くするには、動画像を表示する際の単位時間当たりのフレーム画像の数を増やせばよい。すなわち、動画像を構成するフレーム画像毎の表示時間を短くすることになる。また、動画像を構成するフレーム画像の一部を間引いて変化速度を速くすることも可能である。
図29は、対象領域を肺野領域として、第1の周期一致処理の一例を説明する図である。図29(a)及び図29(b)ともに、固定用呼吸サイクルが第1の呼吸サイクルT1であり、調整用呼吸サイクルが第2の呼吸サイクルT2であり、第2の呼吸周期PC2が第1の呼吸周期PC1より短い場合を示している。すなわち、調整用周期が固定用周期よりも短い場合であるため、上記の1つ目のケースを例示している。
図29(a)及び図29(b)の左図では、周期調整部400Bの周期調整方法による処理によって、第1の呼吸サイクルT1の点1B2と第2の呼吸サイクルT2cの点2B2との時間軸方向の位置が一致した状態を示す。そして、図29(a)及び図29(b)の右図では、第2の呼吸サイクルT2cの変化速度を遅く変更する処理を行い、第2の肺野領域時間変化T2rとすることで、第2の呼吸周期PC2rを第1の呼吸周期PC1に一致させた状態を示す。
次に、図29(a)の右図と図29(b)の右図との差異について説明する。すなわち、図29(a)の右図では、第2の呼吸サイクルT2cの変化速度を遅く変更する処理を、第2の呼吸周期PC2内で均等に行うことで第2の肺野領域時間変化T2rを生成しているのに対して、図29(b)の右図では、変化速度を遅く変更する処理を、第2の呼吸周期PC2内の特定の時間区間DT2のみに行うことで第2の呼吸サイクルT2rを生成している点で異なる。
第2の呼吸サイクルT2cの変化速度を遅く変更する処理については、例えば、図29(a)の左図において、第2の呼吸サイクルT2cの変化速度が15fpsであるとき、図29(a)の右図における第2の呼吸サイクルT2rの変化速度は7.5fpsなどの最適な速度に変更することで、第2の呼吸周期PC2rを第1の呼吸周期PC1に一致させることが可能となる。
以上のように、第1の周期一致処理では、フレーム画像の変化速度の変更により第1及び第2の呼吸周期PC1,PC2rを一致させる。
<3−1−2.第2の周期一致処理>
第2の周期一致処理は、調整用周期が固定用周期より短い場合に、調整用呼吸サイクルに対応する動画表示を一定期間、表示固定状態とする処理である。そして、この周期一致処理は固定用周期毎に繰り返し行われる。なお、上記第1実施形態の図24(a)では、固定用周期(周期調整処理の調整用特徴点の間の期間)の後に、表示固定状態となる期間STを設けたが、ここでは表示固定状態となる期間を固定用周期の途中に設ける。したがって、上記第1実施形態の図24(b)の例においても、この周期一致処理が実行されている。
図30は、この第2の周期一致処理を示す図である。図30では、第1の呼吸サイクルT1が固定用呼吸サイクルであり、第2の呼吸サイクルT2が調整用呼吸サイクルであり、第1の呼吸周期PC1が固定用周期であり、第2の呼吸周期PC2が調整用周期である。また、第1の呼吸周期PC1より第2の呼吸周期PC2の方が短い。上記第1実施形態で説明した周期調整処理により、第1の呼吸サイクルT1における点1B2と第2の呼吸サイクルT2cにおける点2B2とは時間軸方向の位置が一致されている(図21(a)参照)。ここにおいて、周期調整処理において用いた調整用の特徴点である点2B2とは振幅方向について反対側の特徴点、すなわち点2B1を期間ST1の間時間軸方向に連続して存在させる。これにより、第1の呼吸周期PC1と第2の呼吸周期PC2との差を埋めている。この場合、ST1=PC1−PC2である。そして、期間ST1の間、参照動画像の表示が固定されることになる。さらに、図30で示されるように、この周期一致処理は第1の呼吸周期PC1毎に繰り返し行われる。
以上のように、第2の周期一致処理では、表示速度(第1または第2の呼吸サイクルT1,T2cの変化速度)そのものを変えずに、表示固定状態の期間ST1を固定用周期の途中に設ける。
続いて、この第2の周期一致処理の別の態様として、図31に示されるように、第2の呼吸サイクルの各呼吸周期における最大値と最小値の両方を時間軸方向に連続して存在させるようにすることもできる。図31においても、図30と同様に、第1の呼吸サイクルT1が固定用呼吸サイクルであり、第2の呼吸サイクルT2が調整用呼吸サイクルであり、第1の呼吸周期PC1が固定用周期であり、第2の呼吸周期PC2が調整用周期である。また、第1の呼吸周期PC1より第2の呼吸周期PC2の方が短い。この処理は、周期調整処理が、呼吸サイクルの変曲点(図16参照)、所定の閾値(図17参照)、傾きの絶対値(図18参照)で求められた点で行われている場合に好適である。これらの点で周期調整処理を行った場合には、各呼吸周期における最大値(最大吸気時)と最小値(最大呼気時)の中間の画像特徴量で位相を合わせることができるため、最大値(最大吸気時)と最小値(最大呼気時)を表示固定状態とすることが容易である。図31では、各固定用周期において、期間ST1及び期間ST2の間、それぞれ第2の呼吸サイクルの最大値2B1及び最小値2B2を連続して存在させ、これらの期間だけ参照動画像を表示固定状態としている。
<3−2.画像処理装置3Bの基本動作>
続いて、図32は、第3実施形態に係る画像処理装置3Bの動作フローを例示した図である。ここでは、固定用呼吸サイクルを第1の呼吸サイクルT1とし、調整用呼吸サイクルを第2の呼吸サイクルT2とし、固定用周期を第1の呼吸周期PC1とするとともに、調整用周期を第2の呼吸周期PC2とする。なお、図32のうち、ステップSP1A,SP2A,SP1B,SP2B,SP3,SP5,SP6は図25のステップS1A,S2A,S1B,S2B,S3,S5,S6と同様であるため、その説明は省略する。
すなわち、第1実施形態と同様の工程として、ステップSP1A,SP2A,SP1B,SP2B,SP3を経て、図32で示されるように、ステップSP4にて、周期一致処理部460が、上述の第1または第2の周期一致処理により、第2の呼吸周期PC2を第1の呼吸周期PC1に一致させるように第2の呼吸サイクルT2cを変更して第2の呼吸サイクルT2rを生成する(図29〜図31参照)。そして、残余の工程は第1実施形態と同様となる。
以上のように第3実施形態に係る画像処理装置3Bでは、周期調整処理は、第2の呼吸サイクルT2c(調整用呼吸サイクル)を変更して第2の呼吸周期PC2(調整用周期)を第1の呼吸周期PC1(固定用周期)に一致させる周期一致処理を含む。これにより、第1の呼吸周期PC1内においては表示時間を調整することなく、第2の呼吸周期PC2の表示時間のみを調整することで表示用画像IGを生成することが可能となる。
この第3実施形態によれば、第2の呼吸サイクルT2rの連続した表示と第1の呼吸サイクルT1の連続した表示とを第1の呼吸周期PC1毎により比較認識し易い態様で行わせることが可能となる。
<4.変形例>
以上、本発明の実施形態について説明してきたが、本発明は、上記実施形態に限定されるものではなく、様々な変形が可能である。
例えば、上記第1〜第3実施形態では、基準動画像及び参照動画像における対象領域の周期的な動きが肺野領域の呼吸サイクルである場合を説明したが、心臓領域の心拍情報(心拍サイクル)であっても構わない。すなわち、呼吸サイクルに代えて、心拍サイクルを用いることができる。その場合の心拍サイクルの検出方法及び心拍周期の検出方法について説明する。
<4−1.心臓領域の変化(心拍サイクル)の第1の検出方法>
心拍サイクルの第1の検出方法として、図6で示されるように基準周期抽出部310では、基準動画像取得部210によって取得された複数の基準フレーム画像SGを用いて、心臓壁の動き量を算出することで、第1の心拍サイクルT1(心拍情報)とするとともに、参照周期抽出部320では、参照動画像取得部220によって取得された複数の参照フレーム画像RGを用いて、心臓壁の動き量を算出することで、第2の心拍サイクルT2(心拍情報)とする。
詳細には、動画像から心臓壁の変動が検出されることで、各フレーム画像SG(RG)が撮影されたタイミングにおける心臓の拍動の位相が検出される。したがって、心臓壁が心臓の拍動の位相として検出される。
図11は、動画像で捉えられた心臓壁の変動を例示する模式図である。図11で示されるように、心臓壁HLの変動の一例として、心臓の横幅の変動を採用する。図11(a)〜図11(c)では、心臓が拡張していく過程で、心臓の横幅がw1からw3へと大きくなっていく状態が例示されている。
そこで、基準周期抽出部310(参照周期抽出部320)では、各フレーム画像SG(RG)から、心臓の横幅を検出することで、第1(第2)の心拍サイクルT1(T2)とする。具体的に、心臓の横幅を検出する手法としては、例えば、心臓の輪郭を検出して行う手法等が挙げられる。そして、この心臓の輪郭を検出する手法としては、種々の公知の手法を採用することができ、例えば、心臓の形状を示すモデル(心臓モデル)を用いて、X線画像中の特徴点と、心臓モデルの特徴点とを合わせて行くことで、心臓の輪郭を検出する手法(例えば、"Image feature analysis and computer-aided diagnosis in digital radiography: Automated analysis of sizes of heart and lung in chest images", Nobuyuki Nakamori et al., Medical Physics, Volume 17, Issue 3, May,1990, pp.342-350.等参照)等を採用することができる。
図12は、基準動画像を構成する複数の基準フレーム画像SG(参照動画像を構成する複数の参照フレーム画像RG)について、撮影された時刻と心臓の横幅との関係を例示する模式図である。図12では、横軸が時刻、縦軸が心臓の横幅を示し、丸印が検出された心臓の横幅の値を示している。
ここで、時刻tで捉えられた心臓の横幅をHw(t)、時刻(t+1)で捉えられた心臓の横幅をHw(t+1)とし、(Hw(t+1)−Hw(t))≧0が成立する場合には、時刻tで捉えられたフレーム画像SG(RG)が心臓の拡張時に分類され、(Hw(t+1)−Hw(t))<0が成立する場合には、時刻tで捉えられたフレーム画像SG(RG)が心臓の収縮時に分類される。
このように、心臓の横幅、すなわち、心臓壁HLの変動を検出することで、心臓の拡張時および収縮時が分類できるため、心臓の拍動の位相を検出することが可能となり、心拍サイクル(曲線)を得ることができる。
<4−2.心臓領域の変化(心拍サイクル)の第2の検出方法>
心臓領域時間変化の第2の検出方法として、心電計の計測結果を用いる。すなわち、この検出方法は、複数の基準フレーム画像SG(または複数の基準フレーム画像SG)が撮影されるのと同期して外部より心拍情報が取得されている場合に採用可能である。図13は、被検者Mの心電図波形の一部を例示する図である。なお、図13では、横軸が時刻、縦軸が電気信号の大きさ(電圧)を示しており、いわゆるP波、Q波、R波、S波、T波及びU波の形状をそれぞれ示す曲線Pp,Qp,Rp,Sp,Tp及びUpを含む電気信号の変化を示す曲線が示されている。
図1のシステム形態では心電計4が設けられているため、心電計4の出力を用いることができる。この場合、基準周期抽出部310は、基準動画像取得部210を介して、複数の基準フレーム画像SGを取得するとともに、これと同期した心拍情報をも取得し、該心拍情報を第1の心拍サイクルT1とする。一方、参照周期抽出部320では、参照画像記憶部51から参照動画像取得部220を介して、複数の参照フレーム画像RGを取得するとともに、これと同期した心拍情報をも取得し、該心拍情報を第2の心拍サイクルT2とする。参照動画像に関しては、その撮影時に心電計4によって心拍情報を取得し、この心拍情報が参照動画像と対応づけて参照画像記憶部51に格納されているものとする。
なお、心拍サイクルを用いた場合であっても、周期調整処理や表示画像生成処理は、呼吸サイクルの場合と同様の処理が採用可能である。
<4−3.心拍周期検出方法>
続いて、第1(第2)の心拍サイクルT1(T2)における心拍周期を検出する方法について説明する。
心拍サイクルの第1の検出方法で検出された心拍サイクルT1(T2)(図12で示される心臓壁の動きに相当)に対しても、上記呼吸サイクルで説明したタイミング(a1)〜(a6)の何れかもしくは組合せに基づき心拍周期を検出することができる。
また、心拍サイクルの第2の検出方法で検出された心拍サイクルT1(T2)に対しても同様であるが、この検出方法では、図13で示される位相検出部41から取得された点(Pp,Qp,Rp,Sp,Tp及びUp)に基づいて、心拍周期を容易に検出することができる。そして、複数の基準フレーム画像SGまたは参照フレーム画像RGを第1または第2の心拍周期PC1(PC2)単位に分類することが可能である。
<4−4 その他>
※ 上記の実施形態では、画像処理装置3,3A,3Bを個別に実施されるように各実施形態に分けて記載したが、これらの個別機能は、互いに矛盾しない限り、相互に組み合わせてもよい。
※ 被写体は、人体だけでなく、動物の身体であってもよい。
この発明は詳細に説明されたが、上記した説明は、すべての局面において、例示であって、この発明がそれに限定されるものではない。例示されていない無数の変形例が、この発明の範囲から外れることなく想定され得るものと解される。
1 撮像装置
2 撮影制御装置
3,3A,3B 画像処理装置
4 心電計
31,31A,31B 制御部
34 表示部
41 位相検出部
100,100A,100B 放射線動態画像撮影システム
200 動画像取得部
210 基準動画像取得部
220 参照動画像取得部
300 周期抽出部
310 基準周期抽出部
320 参照周期抽出部
400,400A,400B 周期調整部
450 調整対象切替部
460 周期一致処理部
500 表示画像生成部
T1 第1の対象領域時間変化
T2 第2の対象領域時間変化
PC1 第1の対象領域周期
PC2 第2の対象領域周期
SG 基準フレーム画像
RG 参照フレーム画像
IG 表示用画像

Claims (13)

  1. 人体または動物の対象領域の物理的状態が周期的に変化する状態を捉えた基準動画像を
    取得する基準動画像取得部と、
    人体または動物の前記対象領域の物理的状態が周期的に変化する状態を捉えた、前記基
    準動画像と比較すべき参照動画像を取得する参照動画像取得部と、
    前記基準動画像における前記対象領域の周期的な変化である第1の周期的変化に基づい
    て第1の対象領域周期を抽出する基準周期抽出部と、
    前記参照動画像における前記対象領域の周期的な変化である第2の周期的変化に基づい
    て第2の対象領域周期を抽出する参照周期抽出部と、
    前記第1または第2の対象領域周期毎に、前記第1及び第2の周期的変化を特定の位相
    において同期させる周期調整処理を実施する周期調整部と、
    前記周期調整処理を施した後の前記基準動画像及び前記参照動画像を比較できるように
    表示する表示用画像を生成する表示画像生成部と、を備え、
    前記表示画像生成部は、
    前記第1の対象領域周期と前記第2の対象領域周期とが異なる場合に、前記第1の対象
    領域周期と前記第2の対象領域周期との差の期間、前記第1及び第2の対象領域周期のう
    ち周期の短い方と対応する前記基準動画像または前記参照動画像の表示を固定状態とする
    ことを特徴とする、画像処理装置。
  2. 請求項1記載の画像処理装置であって、
    前記周期調整部は、
    前記第1の対象領域周期毎に、前記第1の周期的変化が前記特定の位相を示す時に、前
    記第2の周期的変化が前記特定の位相となるように、前記第2の周期的変化を時間軸方向
    にシフトすることを特徴とする、画像処理装置。
  3. 請求項1記載の画像処理装置であって、
    前記周期調整部は、
    前記第1及び第2の周期的変化のいずれか一方を固定用周期的変化とし、他方を調整用
    周期的変化とし、前記固定用周期的変化が前記特定の位相を示す時に、前記調整用周期的
    変化が前記特定の位相となるように、前記調整用周期的変化を時間軸方向にシフトすると
    ともに、
    前記調整用周期的変化を前記第1の周期的変化と前記第2の周期的変化との間で切り替
    える調整対象切替部を含むことを特徴とする、画像処理装置。
  4. 人体または動物の対象領域の物理的状態が周期的に変化する状態を捉えた基準動画像を
    取得する基準動画像取得部と、
    人体または動物の前記対象領域の物理的状態が周期的に変化する状態を捉えた、前記基
    準動画像と比較すべき参照動画像を取得する参照動画像取得部と、
    前記基準動画像における前記対象領域の周期的な変化である第1の周期的変化に基づい
    て第1の対象領域周期を抽出する基準周期抽出部と、
    前記参照動画像における前記対象領域の周期的な変化である第2の周期的変化に基づい
    て第2の対象領域周期を抽出する参照周期抽出部と、
    前記第1または第2の対象領域周期毎に、前記第1及び第2の周期的変化を特定の位相
    において同期させる周期調整処理を実施する周期調整部と、
    前記周期調整処理を施した後の前記基準動画像及び前記参照動画像を比較できるように
    表示する表示用画像を生成する表示画像生成部と、を備え、
    前記周期調整部は、
    前記第1の対象領域周期毎に、前記第1の周期的変化が前記特定の位相を示す時に、前
    記第2の周期的変化が前記特定の位相となるように、前記第2の周期的変化を時間軸方向
    にシフトすることを特徴とする、画像処理装置。
  5. 人体または動物の対象領域の物理的状態が周期的に変化する状態を捉えた基準動画像を
    取得する基準動画像取得部と、
    人体または動物の前記対象領域の物理的状態が周期的に変化する状態を捉えた、前記基
    準動画像と比較すべき参照動画像を取得する参照動画像取得部と、
    前記基準動画像における前記対象領域の周期的な変化である第1の周期的変化に基づい
    て第1の対象領域周期を抽出する基準周期抽出部と、
    前記参照動画像における前記対象領域の周期的な変化である第2の周期的変化に基づい
    て第2の対象領域周期を抽出する参照周期抽出部と、
    前記第1または第2の対象領域周期毎に、前記第1及び第2の周期的変化を特定の位相
    において同期させる周期調整処理を実施する周期調整部と、
    前記周期調整処理を施した後の前記基準動画像及び前記参照動画像を比較できるように
    表示する表示用画像を生成する表示画像生成部と、を備え、
    前記周期調整部は、
    前記第1及び第2の周期的変化のいずれか一方を固定用周期的変化とし、他方を調整用
    周期的変化とし、前記固定用周期的変化が前記特定の位相を示す時に、前記調整用周期的
    変化が前記特定の位相となるように、前記調整用周期的変化を時間軸方向にシフトすると
    ともに、
    前記調整用周期的変化を前記第1の周期的変化と前記第2の周期的変化との間で切り替
    える調整対象切替部を含むことを特徴とする、画像処理装置。
  6. 請求項1ないし請求項5のうち、いずれか1項記載の画像処理装置であって、
    前記表示画像生成部は、
    前記特定の位相において、前記基準動画像または前記参照動画像の表示を固定状態とす
    ることを特徴とする、画像処理装置。
  7. 請求項1ないし請求項5のうち、いずれか1項記載の画像処理装置であって、
    前記表示画像生成部は、
    前記特定の位相とは逆の位相において、前記基準動画像または前記参照動画像の表示を
    固定状態とすることを特徴とする、画像処理装置。
  8. 請求項1ないし請求項のうち、いずれか1項記載の画像処理装置であって、
    前記第1または第2の対象領域周期は、
    (a1)前記対象領域の周期的な変化における基準期間内での最小値を示すタイミング
    及び前記基準期間内での最大値を示すタイミングのうち、少なくとも一方のタイミング、
    (a2)前記対象領域の周期的な変化を示す曲線の傾きの正負が変わる変化点を示すタ
    イミング、
    (a3)前記対象領域の周期的な変化を示す曲線の変曲点を示すタイミング、
    (a4)前記対象領域の周期的な変化を示す値が所定の閾値となる点を示すタイミング
    、及び、
    (a5)前記対象領域の周期的な変化を示す曲線の傾きの絶対値が基準値より大きくな
    る点を示すタイミングのうち、少なくとも1つのタイミングに基づいて抽出される、画像
    処理装置。
  9. 請求項1ないし請求項のうち、いずれか1項記載の画像処理装置であって、
    前記周期調整処理は、前記第1及び第2の対象領域周期毎において、
    (b1)前記基準動画像及び参照動画像における前記対象領域の周期的な変化が最小と
    なる第1の特徴点、
    (b2)前記基準動画像及び参照動画像における前記対象領域の周期的な変化が最大と
    なる第2の特徴点、
    (b3)前記基準動画像及び参照動画像における前記対象領域の周期的な変化を示す曲
    線が変曲点となる第3の特徴点、
    (b4)前記基準動画像及び参照動画像における前記対象領域の周期的な変化を示す値
    が所定の閾値となる第4の特徴点、及び、
    (b5)前記基準動画像及び参照動画像における前記対象領域の周期的な変化を示す曲
    線の傾きの絶対値が最大となる第5の特徴点のうち、何れか1つの特徴点である調整用特
    徴点に基づいて実行される、画像処理装置。
  10. 請求項1ないし請求項のうち、いずれか1項記載の画像処理装置であって、
    前記参照動画像は、2以上の動画像を含む、画像処理装置。
  11. 請求項1ないし請求項10のうち、いずれか1項記載の画像処理装置であって、
    前記対象領域は、
    肺であることを特徴とする、画像処理装置。
  12. 請求項1ないし請求項11のうち、いずれか1項記載の画像処理装置であって、
    前記表示用画像を表示する表示部、を更に備えることを特徴とする、画像処理装置。
  13. 画像処理装置に含まれるコンピュータによって実行されることにより、前記コンピュー
    タを、請求項1ないし請求項12のうち、いずれか1項記載の画像処理装置として機能さ
    せるプログラム。
JP2014539649A 2012-10-04 2013-09-06 画像処理装置及びプログラム Active JP6424623B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012221999 2012-10-04
JP2012221999 2012-10-04
PCT/JP2013/074074 WO2014054379A1 (ja) 2012-10-04 2013-09-06 画像処理装置及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018083030A Division JP6512338B2 (ja) 2012-10-04 2018-04-24 画像処理装置及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2014054379A1 JPWO2014054379A1 (ja) 2016-08-25
JP6424623B2 true JP6424623B2 (ja) 2018-11-21

Family

ID=50434710

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2014539649A Active JP6424623B2 (ja) 2012-10-04 2013-09-06 画像処理装置及びプログラム
JP2018083030A Active JP6512338B2 (ja) 2012-10-04 2018-04-24 画像処理装置及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2018083030A Active JP6512338B2 (ja) 2012-10-04 2018-04-24 画像処理装置及びプログラム

Country Status (4)

Country Link
US (1) US9836842B2 (ja)
JP (2) JP6424623B2 (ja)
CN (1) CN104703539B (ja)
WO (1) WO2014054379A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150042677A1 (en) * 2012-03-23 2015-02-12 Konica Minolta, Inc. Image-generating apparatus
JP5578297B1 (ja) * 2012-12-12 2014-08-27 コニカミノルタ株式会社 画像処理装置及びプログラム
EP3114648B1 (en) * 2014-03-04 2019-06-05 Xact Robotics Ltd. Dynamic planning method for needle insertion
JP6532206B2 (ja) * 2014-10-01 2019-06-19 キヤノン株式会社 医用画像処理装置、医用画像処理方法
JP6418091B2 (ja) * 2015-07-10 2018-11-07 コニカミノルタ株式会社 胸部画像表示システム及び画像処理装置
JP6607259B2 (ja) * 2015-11-20 2019-11-20 富士通株式会社 脈波分析装置、脈波分析方法、および脈波分析プログラム
EP3424403B1 (en) * 2016-03-03 2024-04-24 Sony Group Corporation Medical image processing device, system, method, and program
US10165222B2 (en) * 2016-06-09 2018-12-25 Intel Corporation Video capture with frame rate based on estimate of motion periodicity
JP2017225475A (ja) * 2016-06-20 2017-12-28 コニカミノルタ株式会社 放射線画像処理システムおよび放射線画像処理装置
JP2018081063A (ja) * 2016-11-18 2018-05-24 株式会社東芝 位置検出装置、処理装置、およびプログラム
EP3565259A1 (en) * 2016-12-28 2019-11-06 Panasonic Intellectual Property Corporation of America Three-dimensional model distribution method, three-dimensional model receiving method, three-dimensional model distribution device, and three-dimensional model receiving device
JP6772908B2 (ja) 2017-03-10 2020-10-21 コニカミノルタ株式会社 動態解析システム及びプログラム
JP6962057B2 (ja) * 2017-08-08 2021-11-05 コニカミノルタ株式会社 X線画像処理装置及びx線画像処理方法
JP6950483B2 (ja) * 2017-11-20 2021-10-13 コニカミノルタ株式会社 動態撮影システム
JP7020125B2 (ja) * 2018-01-12 2022-02-16 コニカミノルタ株式会社 動態画像解析装置及びプログラム
EP3579553B1 (en) * 2018-06-05 2020-05-20 Axis AB A method, controller, and system for encoding a sequence of video frames
JP7188051B2 (ja) * 2018-12-18 2022-12-13 コニカミノルタ株式会社 医用画像管理システム
JP7211172B2 (ja) * 2019-03-08 2023-01-24 コニカミノルタ株式会社 動態画像解析システム及び動態画像処理装置
JP2021194139A (ja) * 2020-06-11 2021-12-27 コニカミノルタ株式会社 画像表示装置及びプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5982953A (en) * 1994-09-02 1999-11-09 Konica Corporation Image displaying apparatus of a processed image from temporally sequential images
CN1106825C (zh) * 1997-02-13 2003-04-30 通用电器横河医疗系统株式会社 识别被观察器官状态时间相位的超声波诊断装置
JP3793102B2 (ja) 2002-02-22 2006-07-05 キヤノン株式会社 ダイナミックx線撮影方法及びダイナミックx線画像撮影を行うための制御装置
JP3639825B2 (ja) 2002-04-03 2005-04-20 キヤノン株式会社 動画像表示方法、プログラム、コンピュータ可読記憶媒体、及び動画像表示装置
US20050075213A1 (en) * 2003-10-06 2005-04-07 Arick Thomas P. Exercise device independent, variable display rate visual exercise system
JP4439882B2 (ja) * 2003-11-14 2010-03-24 キヤノン株式会社 放射線画像処理装置及び処理方法
JP4705104B2 (ja) * 2004-08-09 2011-06-22 ブラッコ・シュイス・ソシエテ・アノニム 複数のマスクに基づく医療画像処理のためのイメージ登録方法および装置
US7715654B2 (en) * 2005-10-18 2010-05-11 Siemens Medical Solutions Usa, Inc. System and method for fast multimodal registration by least squares
DE102007009019B3 (de) * 2007-02-23 2008-09-18 Siemens Ag Verfahren zum Schaffen erweiterter Möglichkeiten bei der bildlichen Darstellung eines Patientenherzens
JP2008206741A (ja) * 2007-02-27 2008-09-11 Fujifilm Corp 放射線画像処理装置、放射線画像処理方法およびプログラム
WO2009093693A1 (ja) * 2008-01-25 2009-07-30 Konica Minolta Holdings, Inc. 画像生成装置、画像生成方法およびプログラム
JP5624265B2 (ja) * 2008-06-03 2014-11-12 株式会社東芝 画像表示装置、プログラム及び画像表示システム
JP5157918B2 (ja) * 2009-01-06 2013-03-06 コニカミノルタホールディングス株式会社 動画像表示装置およびプログラム
CN101658426B (zh) * 2009-09-11 2011-08-31 昆明理工大学 基于三维正电子发射探测器灵敏度特性的呼吸门控技术
US20120010513A1 (en) * 2010-07-08 2012-01-12 Wong Stephen T C Chemically-selective, label free, microendoscopic system based on coherent anti-stokes raman scattering and microelectromechanical fiber optic probe
CN104887258B (zh) * 2010-08-27 2018-04-03 柯尼卡美能达医疗印刷器材株式会社 诊断支援系统
JP5498989B2 (ja) * 2011-05-30 2014-05-21 富士フイルム株式会社 画像処理装置、画像処理方法および画像処理プログラム
US9773311B2 (en) * 2011-06-29 2017-09-26 The Regents Of The University Of Michigan Tissue phasic classification mapping system and method

Also Published As

Publication number Publication date
JPWO2014054379A1 (ja) 2016-08-25
US20150254852A1 (en) 2015-09-10
CN104703539B (zh) 2018-04-10
US9836842B2 (en) 2017-12-05
CN104703539A (zh) 2015-06-10
JP6512338B2 (ja) 2019-05-15
JP2018138193A (ja) 2018-09-06
WO2014054379A1 (ja) 2014-04-10

Similar Documents

Publication Publication Date Title
JP6512338B2 (ja) 画像処理装置及びプログラム
JP5408399B1 (ja) 画像生成装置
JP5408400B1 (ja) 画像生成装置及びプログラム
US9901317B2 (en) Image processing apparatus for acquiring a dynamic image and storage medium
JP6323451B2 (ja) 画像処理装置及びプログラム
JP6350522B2 (ja) 画像処理装置及びプログラム
JP6597548B2 (ja) 動態解析システム
JP6772908B2 (ja) 動態解析システム及びプログラム
JP6418091B2 (ja) 胸部画像表示システム及び画像処理装置
JP6217241B2 (ja) 胸部診断支援システム
JP2014079312A (ja) 画像処理装置及びプログラム
JP2018078974A (ja) 動態画像処理システム
US20190180440A1 (en) Dynamic image processing device
JP2019092612A (ja) 動態撮影システム
JP2020142018A (ja) 動態画像解析システム及び動態画像処理装置
JP2006051070A (ja) 血管撮影画像処理装置及び血管撮影画像処理方法及び血管撮影画像処理プログラム
JP2020062394A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180925

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181008

R150 Certificate of patent or registration of utility model

Ref document number: 6424623

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150