JP2023013454A - 画像処理装置、方法、プログラム及び記憶媒体 - Google Patents
画像処理装置、方法、プログラム及び記憶媒体 Download PDFInfo
- Publication number
- JP2023013454A JP2023013454A JP2021117653A JP2021117653A JP2023013454A JP 2023013454 A JP2023013454 A JP 2023013454A JP 2021117653 A JP2021117653 A JP 2021117653A JP 2021117653 A JP2021117653 A JP 2021117653A JP 2023013454 A JP2023013454 A JP 2023013454A
- Authority
- JP
- Japan
- Prior art keywords
- intervertebral
- image processing
- label
- label information
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 182
- 238000000034 method Methods 0.000 title description 61
- 238000004364 calculation method Methods 0.000 claims abstract description 23
- 210000000988 bone and bone Anatomy 0.000 claims description 9
- 210000003484 anatomy Anatomy 0.000 claims description 3
- 238000003672 processing method Methods 0.000 claims 2
- 238000001514 detection method Methods 0.000 abstract description 20
- 238000002372 labelling Methods 0.000 abstract description 7
- 230000006870 function Effects 0.000 description 54
- 238000010586 diagram Methods 0.000 description 29
- 238000000605 extraction Methods 0.000 description 16
- 238000012937 correction Methods 0.000 description 14
- 238000010801 machine learning Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 210000000115 thoracic cavity Anatomy 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000000877 morphologic effect Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 206010027476 Metastases Diseases 0.000 description 1
- 230000003187 abdominal effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000009401 metastasis Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000000010 osteolytic effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
Images
Abstract
【課題】ランドマークの検出精度が低い場合でも、椎骨に対して高い精度でラベル付けを行うこと。【解決手段】実施形態に係る画像処理装置は、第1の取得部と、第2の取得部と、推定部と、算出部とを備える。第1の取得部は、3次元の医用画像から椎間孔の位置を取得する。第2の取得部は、医用画像の椎骨に関連するランドマーク情報を取得する。推定部は、椎間孔の位置とランドマーク情報との対応付けを複数個用いて、椎間孔ラベル情報を推定する。算出部は、椎間孔ラベル情報に基づいて、椎骨ラベル情報を算出する。【選択図】図1
Description
本明細書及び図面に開示の実施形態は、画像処理装置、方法、プログラム及び記憶媒体に関する。
医用画像の診断において、脊椎を構成する椎骨に異常を見つけた際に、その異常が何番目の椎骨なのかを記録する必要がある。そのため、医用画像中の椎骨に対して、その解剖学的なラベルを自動的に特定する技術(椎骨にラベル付けを行う技術)が求められている。
このような技術として、例えば、モルフォロジー演算の一種である3次元Opening演算を用いて椎間板を検出して椎骨のセグメンテーションを行った後に、第12胸椎(T12)を認識することで椎骨のラベル付けを行う技術が知られている。しかしながら、この技術では、T12の認識に失敗した場合やT12自体を含まない画像の場合にはラベル付けが出来ないという課題がある。また、画像のスライス幅が厚いと薄い椎間板を検出できず椎骨のセグメンテーションに失敗する場合があるという課題もある。
また、他の技術として、例えば、椎間孔を検出することで椎骨のセグメンテーションを行う技術が知られている。この方法では、スライス幅の厚い画像においても椎骨のセグメンテーションが可能であるが、ラベル付与を行う具体的な方法は記載されていない。
一方、機械学習を用いることで、画像の撮影範囲に依らずに画像から椎体を含む解剖学的ランドマークを検出する技術が知られている。これによると、椎体のランドマーク情報を用いて椎骨のラベル付けをすることが可能である。
保田竜也 他、"腹部X線CT画像からの脊柱,肋骨,椎間板,脊椎の段階的認識"、J JSCAS vol.19 no.3 2017
Mohammad A. Dabbah, et al. "Detection and location of 127 anatomical landmarks in diverse CT datasets", SPIE Medical Imaging 2014.
本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、ランドマークの検出精度が低い場合でも、椎骨に対して高い精度でラベル付けを行うことである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置付けることもできる。
実施形態に係る画像処理装置は、第1の取得部と、第2の取得部と、推定部と、算出部とを備える。第1の取得部は、3次元の医用画像から椎間孔の位置を取得する。第2の取得部は、前記医用画像の椎骨に関連するランドマーク情報を取得する。推定部は、前記椎間孔の位置と前記ランドマーク情報との対応付けを複数個用いて、椎間孔ラベル情報を推定する。算出部は、前記椎間孔ラベル情報に基づいて、椎骨ラベル情報を算出する。
以下、図面を参照しながら、画像処理装置、方法、プログラム及び記憶媒体の実施形態について詳細に説明する。なお、本願に係る画像処理装置、方法、プログラム及び記憶媒体は、以下に示す実施形態によって限定されるものではない。
(第1の実施形態)
図1は、第1の実施形態に係る画像処理装置10の構成の一例を示す図である。図1に示すように、画像処理装置10は、処理回路11と、通信インターフェース12と、記憶回路13と、ディスプレイ14と、入力インターフェース15と、接続部16とを有している。
図1は、第1の実施形態に係る画像処理装置10の構成の一例を示す図である。図1に示すように、画像処理装置10は、処理回路11と、通信インターフェース12と、記憶回路13と、ディスプレイ14と、入力インターフェース15と、接続部16とを有している。
処理回路11は、入力インターフェース15を介してユーザから受け付けた入力操作に応じて、制御機能11aと、第1の取得機能11bと、第2の取得機能11cと、推定機能11dと、算出機能11eとを実行して、画像処理装置10を制御する。ここで、第1の取得機能11bは、第1の取得部の一例である。また、第2の取得機能11cは、第2の取得部の一例である。また、推定機能11dは、推定部の一例である。また、算出機能11eは、算出部の一例である。
制御機能11aは、入力インターフェース15を介した操作に応じて、種々のGUI(Graphical User Interface)や、種々の表示情報を生成して、ディスプレイ14に表示するように制御する。また、制御機能11aは、通信インターフェース12を介して、図示しないネットワーク上の外部装置との情報の送受信を制御する。例えば、制御機能11aは、上記ネットワークに接続されたモダリティや、医用画像保管装置などから、3次元の医用画像(ボリュームデータ)を取得する。
第1の取得機能11bは、制御機能11aによって取得された3次元の医用画像を対象として椎間孔の位置を取得するための椎間孔位置検出工程を実行する。第2の取得機能11cは、医用画像に含まれる椎骨に関連するランドマーク情報を取得する。推定機能11dは、椎間孔の位置と椎骨に関連するランドマーク情報とに基づいて椎間孔ラベル情報を推定する椎間孔ラベル推定工程を実行する。算出機能11eは、椎間孔ラベル情報に基づいて椎骨ラベル情報を算出する椎骨ラベル算出工程を実行する。なお、各工程については、後に詳述する。
上述した処理回路11は、例えば、プロセッサによって実現される。その場合に、上述した各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路13に記憶される。そして、処理回路11は、記憶回路13に記憶された各プログラムを読み出して実行することで、各プログラムに対応する機能を実現する。換言すると、処理回路11は、各プログラムを読み出した状態で、図1に示した各処理機能を有することとなる。
なお、処理回路11は、複数の独立したプロセッサを組み合わせて構成され、各プロセッサがプログラムを実行することによって各処理機能を実現するものとしてもよい。また、処理回路11が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。また、処理回路11が有する各処理機能は、回路等のハードウェアとソフトウェアとの混合によって実現されても構わない。また、ここでは、各処理機能に対応するプログラムが単一の記憶回路13に記憶される場合の例を説明したが、実施形態はこれに限られない。例えば、各処理機能に対応するプログラムが複数の記憶回路が分散して記憶され、処理回路11が、各記憶回路から各プログラムを読み出して実行する構成としても構わない。
通信インターフェース12は、画像処理装置10と、ネットワークを介して接続された他の装置との間で送受信される各種データの伝送及び通信を制御する。具体的には、通信インターフェース12は、処理回路11に接続されており、他の装置から受信したデータを処理回路11に出力、又は、処理回路11から出力されたデータを他の装置に送信する。例えば、通信インターフェース12は、ネットワークカードやネットワークアダプタ、NIC(Network Interface Controller)等によって実現される。
記憶回路13は、各種データ及び各種プログラムを記憶する。具体的には、記憶回路13は、処理回路11に接続されており、処理回路11から入力されたデータを記憶、又は、記憶しているデータを読み出して処理回路11に出力する。例えば、記憶回路13は、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子や、ハードディスク、光ディスク等によって実現される。
ディスプレイ14は、各種情報及び各種データを表示する。具体的には、ディスプレイ314は、処理回路11に接続されており、処理回路11から出力された各種情報及び各種データを表示する。例えば、ディスプレイ14は、液晶ディスプレイやCRT(Cathode Ray Tube)ディスプレイ、有機ELディスプレイ、プラズマディスプレイ、タッチパネル等によって実現される。
入力インターフェース15は、ユーザから各種指示及び各種情報の入力操作を受け付ける。具体的には、入力インターフェース15は、処理回路11に接続されており、ユーザから受け取った入力操作を電気信号へ変換して処理回路11に出力する。例えば、入力インターフェース15は、トラックボール、スイッチボタン、マウス、キーボード、操作面へ触れることで入力操作を行うタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力インターフェース、及び音声入力インターフェース等によって実現される。なお、本明細書において、入力インターフェース15は、マウス、キーボード等の物理的な操作部品を備えるものだけに限られない。例えば、装置とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を制御回路へ出力する電気信号の処理回路も入力インターフェース15の例に含まれる。
接続部16は、処理回路11と、通信インターフェース12と、記憶回路13と、ディスプレイ14と、入力インターフェース15とを接続するバス等である。
以上、画像処理装置10の全体構成について説明した。かかる構成のもと、画像処理装置10は、ランドマークの検出精度が低い場合でも、椎骨に対して高い精度でラベル付けを行うことを可能にする。上述したように、例えば、機械学習を用いることで、医用画像から椎体を含む解剖学的ランドマークを検出する技術が知られており、この技術によって検出した椎体のランドマークの情報を用いて椎骨のラベル付けが可能になる。
しかしながら、椎骨のように類似した構造が繰り返されるような構造の場合、画像上でも類似した画像特徴が空間的に連続するため、機械学習を用いたランドマーク検出では、ランドマークの検出精度が低くなる場合がある。そこで、本実施形態に係る画像処理装置10は、例えば、機械学習等で得られたランドマークの精度が低い場合でも、椎骨に対して高い精度でラベル付けを行うことができるように構成されている。以下、画像処理装置10の詳細について説明する。
図2は、画像処理装置10の全体処理工程を示す図である。画像処理装置10は、医用画像30と、椎体ランドマーク情報31とを入力して、医用画像30に対する椎骨ラベル情報32を出力する。ここで、医用画像30は、処理の対象となる3次元のボリュームデータである。
なお、図2における医用画像30を取得する工程は、処理回路11が、制御機能11aに対応するプログラムを記憶回路13から読み出して実行することで実現される。また、図2における椎間孔位置検出工程20は、処理回路11が、第1の取得機能11bに対応するプログラムを記憶回路13から読み出して実行することで実現される。また、図2における椎体ランドマーク情報31を取得する工程は、処理回路11が、第2の取得機能11cに対応するプログラムを記憶回路13から読み出して実行することで実現される。また、図2における椎間孔ラベル推定工程24は、処理回路11が、推定機能11dに対応するプログラムを記憶回路13から読み出して実行することで実現される。また、図2における椎骨ラベル算出工程25は、処理回路11が、算出機能11eに対応するプログラムを記憶回路13から読み出して実行することで実現される。
図2に示すように、本実施形態では、処理回路11が、例えば、被検体のX線CT画像を医用画像30として取得する。また、処理回路11は、椎体ランドマーク情報31を取得する。ここで、椎体ランドマーク情報31は、椎体に関する解剖学的ランドマークの情報(ランドマークのラベル(識別子)と、ランドマークの医用画像30における座標)である。椎体に関するランドマークとは、例えば、夫々の椎体の重心位置である。椎体ランドマーク情報31は、画像処理装置10の外部等で、医用画像30に対して機械学習等を用いた検出処理を行うことで得られた情報である。一方、椎骨ラベル情報32は、夫々の椎骨の代表位置と、それがいずれの椎骨かを表すラベル(識別子)とからなる。
画像処理装置10の内部では、処理回路11が、椎間孔位置検出工程20と、椎間孔ラベル推定工程24と、椎骨ラベル算出工程25とを順番に実行する。さらに、処理回路11は、椎間孔位置検出工程20において、脊柱管抽出工程21と、椎間孔抽出工程22と、椎間孔補正工程23とを順番に実行する。以下、各工程の詳細について例を挙げて説明する。
図3は、脊柱管抽出工程21のデータフロー図である。脊柱管抽出工程21では、処理回路11は、記憶回路13から医用画像210を読み出し、閾値に基づく2値化処理やモルフォロジー演算等を用いた既存の脊柱管領域抽出アルゴリズム211を用いることで、脊柱管領域212を生成する。
なお、図3においては、医用画像210及び脊柱管領域212を、3次元ボリュームデータをサジタル断面に投影した図で表している。また、図3における脊柱管領域212の図は、脊柱管領域と医用画像との対応関係を分かりやすくするために背景に医用画像を配置してあるが、実際の脊柱管領域は、中心の白色部分のみである。
そして、処理回路11は、抽出した脊柱管を用いて椎間孔を抽出する。具体的には、処理回路11は、医用画像に含まれる脊柱管に対する膨張処理結果と前記医用画像との重畳領域と、前記脊柱管に対応する領域とに基づいて、椎間孔の位置を取得する。図4は、椎間孔抽出工程22のデータフロー図である。図5は、椎間孔抽出工程22を示すフローチャートである。図4において、構造要素224と225を除いて、各画像は3次元ボリュームデータをコロナル断面に投影した図で表している。図5のフローチャートの各処理を、図4のデータフロー図を参照しながら説明する。椎間孔抽出工程22において、処理回路11は、以下の処理を行う。
まず、ステップS100において、処理回路11は、脊柱管抽出工程21で得られた脊柱管領域画像220(S)と医用画像221(M)とを読み込む。
ステップS101において、処理回路11は、脊柱管領域画像220(S)にDilation演算を行って脊柱管膨張画像(D)を生成する。
ステップS102において、処理回路11は、画像222に示すように、脊柱管膨張画像(D)と医用画像221(M)とを重ね合わせ、画像222に対して閾値処理することで2値化を行い、2値化画像(L)を生成する。
ステップS103において、処理回路11は、ステップS102で得た2値化画像(L)から脊柱管領域220の3次元Opening演算結果を減算することで、非骨領域223(N)を得る。
ステップS104において、処理回路11は、左右方向(X軸方向)に細長い線状の構造要素224を用いて、ステップS103で得た非骨領域223(N)に対して3次元Opening演算を行い、演算結果画像(P)を得る。ここで、椎体ランドマーク情報等からOpening対象領域の大まかな部位を判別し、それに応じて構造要素を変更してもよい。たとえば、部位が腰椎や胸椎と判別された場合は横一文字型の構造要素224を用い、部位が頚椎と判別された場合には斜め一文字型の構造要素225(a)または225(b)を用いるようにできる。
ステップS105において、処理回路11は、ステップS104で得た演算結果画像内(P)の連結領域を辿る(ラベリング処理する)ことでブロブ(白色領域の塊)に分割する。本ステップで生成されたブロブ群は、配列C[:]に格納される。
ステップS106において、処理回路11は、ステップS105で得た各ブロブ(配列C[:])において、重心のZ座標値が近いブロブ同士を結合する。本ステップで生成されたブロブ群は、配列H[:]に格納される。
ステップS107において、処理回路11は、ステップS106で得た結合後の各ブロブ(配列H[:])の重心座標値を、椎間孔の座標値226として、頭側から順に配列F[:]に保存する。
なお、脊柱管の周囲を大まかに(X方向100mm、Y方向80mm程度のサイズで)切り出し、脊柱管の心線が直線になるようにスライスを平行移動したボリューム画像を生成したうえで、その画像に対して上記の処理を行っても良い。これにより、処理に必要なメモリ容量の削減と、処理速度の向上が可能である。
椎間孔抽出工程22で抽出された椎間孔には、本来の椎間孔ではないノイズも含まれている。これらノイズは、溶骨性骨転移等によって作られた椎骨の欠損部分などに発生することが多い。このため、抽出した椎間孔からノイズを取り除いて補正する必要がある。そこで、処理回路11は、椎間孔の解剖学的構造に基づいて、椎間孔の位置を補正する。具体的には、処理回路11は、椎間孔補正工程23として、椎間孔の座標値が概ね等間隔であるというモデルに基づいて、椎間孔抽出工程22で得た椎間孔の座標値266(配列F[:])から、モデルに当てはまらない座標値を削除する処理を行う。椎間孔補正工程23で生成された座標値は、頭側から順に配列G[:]に格納される。
図6は、椎間孔補正工程23のデータフロー図である。図6において、各画像は3次元ボリュームデータをコロナル断面に投影した図で表している。図7は、椎間孔補正工程23を示すフローチャートである。図7のフローチャートの各処理を、図6のデータフロー図を参照しながら説明する。椎間孔補正工程23では、処理回路11は、椎間孔抽出工程22で得られた椎間孔の座標値の候補230を読み込む(ステップS200)。次に、処理回路11は、椎間孔の間隔を3次多項式でフィッティングして、3次多項式のグラフに載らないはみ出した点を除去する(ステップS201からS211)。具体的には、処理回路11は、まず、補正後の椎間孔の座標値を入れる配列G[:]に、椎間孔の座標値の候補配列F[:]をコピーする(ステップS201)。次に、処理回路11は、はみ出した点をG[:]から1個ずつ削除する処理(ステップS203からS211)を複数回(F[:]の長さの4分の1程度の数だけ)繰り返す。
ステップS203からS204において、処理回路11は、椎間孔のZ座標値の差分値群v[:]をそれぞれ算出する。
ステップS205において、処理回路11は、椎間孔のZ座標値の差分値群v[:]に基づいて、差分値が最低となる椎間孔の座標を抽出する。
ステップS206からS210において、処理回路11は、配列G[:]に基づく配列u[:]から末尾を削除した配列を独立変数とし、差分値群v[:]から各椎間孔の座標を削除した場合の各差分値群を従属変数とする3次元多項式近似をそれぞれ行い、残差が最小となる椎間孔の座標を抽出する。
ステップS211において、処理回路11は、補正後の椎間孔の座標値を入れる配列G[:]から抽出した椎間孔の座標を削除した配列を生成する。処理回路11は、上記したステップS203からS211を複数回実行する。
その結果、画像232に示すように、補正後の椎間孔の座標値(白点)が得られる。ここで、図6における画像232において、候補230に見られた不適当な候補点は、除去した点(黒点)で表している。
なお、椎間孔抽出工程22と椎間孔補正工程23による椎間孔の座標推定は、上記で説明した方法のほかに、公知のいずれの方法で行ってもよい。例えば、特許文献1の方法を用いてもよい。
図8は、椎間孔ラベル推定工程24のデータフロー図である。図8において、各画像は3次元ボリュームデータをサジタル断面に投影した図で表している。図9は、椎間孔ラベル推定工程24を示すフローチャートである。図10A及び図10Bは、椎間孔ラベルを推定する方法を具体的な例で説明した図である。図10では、背景灰色の行が各椎間孔に対応するラベルを入れる要素の行である。図16は、椎骨ラベルと椎間孔ラベルとの間の対応関係を示す図である。また、背景白色の行が各椎間孔に挟まれた領域に対応する。椎間孔ラベル推定工程24において、処理回路11は、以下の処理を行うことで椎間孔ラベルを推定する。
ステップS300において、処理回路11は、椎間孔補正工程23で得られた椎間孔の座標値240(G[:])と、画像処理装置10の外部等で得られた椎体ランドマーク情報241(A[:])とを読み込む。
ステップS301からS303において、処理回路11は、椎体ランドマークの各点を脊柱管の中心線上に対応付けた仮のランドマーク242(B[:])を生成する。ここで、仮のランドマーク242の夫々には、その元となった椎体ランドマークのラベルを付与する。ただし、図16に示すように、頚椎では椎骨と椎間孔との間のラベルの対応関係が胸椎や腰椎とは異なるため、ステップS303では、処理回路11は、仮のランドマーク242に付与したC1からC7のラベルを、それぞれC2からC8に置換する処理を行う。
ステップS304において、処理回路11は、配列G[:]の長さをG_lenという一時変数に入れる。
以降の処理で、処理回路11は、比較的精度の高い椎体ランドマーク(例えば、T2からT12までのランドマーク)を用いて、椎間孔ラベルの推定を行う。なお、比較的精度の高いランドマークであれば、用いるのはT2からT12までのランドマークでなく、他のランドマークでも良い。
ステップS305において、処理回路11は、T2からT12の椎体を順番に、注目する椎体rと置き、夫々の椎体rについてステップS306~S308の処理を行う。
ステップS306において、処理回路11は、椎間孔の座標値240(G[:])を頭側から順に評価するための変数jを定義する。
ステップS307において、処理回路11は、仮のランドマーク情報B[:]の中から、ラベルがrに等しい要素を見つけ出し(すなわち、椎体rを示す仮のランドマークを選択し)、そのZ座標値よりG[j]のZ座標値が足側であるかを判定する。そして、処理回路11は、判定がYesである場合、G[j]が椎体rに対応づく椎間孔の位置だと判断して、ステップS308に処理を進める。
ステップS308において、処理回路11は、G[j]が椎体rに対応づく椎間孔の位置だと判断したことに基づく投票処理を行う。具体的には、処理回路11は、ラベル決定表Tのj行r列にラベルrを代入する。また、処理回路11は、Tのr列の0行からj-1行には、rより頭側のラベルを順に代入する。例えば、rがT5ならば、処理回路11は、j-1行にはT4、j-2行にはT3を入れる。そして、処理回路11は、Tのr列のj+1行からG_len-1行には、rより足側のラベルを順に代入する。例えば、rがT5ならば、処理回路11は、j+1行にはT6、j+2行にはT7を入れる。そして、処理回路11は、ステップS206の繰り返し処理を終了する。すなわち、ステップS308の処理は、G[j]が注目する椎体rの直下にあるときにのみ実行される。
ステップS309とS310において、処理回路11は、G[:]の夫々について、多数決に基づく椎間孔ラベルの推定処理を行う。具体的には、処理回路11は、椎間孔に対する複数個のランドマーク情報との対応付けに基づく多数決を用いて椎間孔ラベル情報を推定する。より具体的には、処理回路11は、椎間孔(G[:])毎にラベル決定表Tの中から最も頻度の高いラベルを探し出す処理を行う。そして、多数決の結果として得られたラベルを、椎間孔の座標と組にして、椎間孔ラベル情報243として配列L[:]に代入する。例えば、処理回路11は、ランドマーク情報に含まれる椎体のランドマークごとに椎体と椎間孔との対応付けを決定し、椎体のランドマークごとに決定した複数の対応付けに対して、対応付け頻度に基づく多数決を行うことで、椎間孔ラベル情報を推定する。
図10Aを用いて、椎間孔ラベルを推定する方法を具体的に説明する。図10Aは、1つの椎体に2つ(T6とT7)のランドマークが検出された場合を例示している。図10Aにおいて、注目する椎体rがT3、T4、T5、T6の場合、ステップS308の処理において、処理回路11は、ラベル決定表245の(背景灰色な)1段目の要素にT3を代入する。一方、注目する椎体rがT7、T8の場合、ステップS308の処理において、処理回路11は、ラベル決定表245の(背景灰色な)1段目の要素にT4を代入する。このとき、ステップS310の多数決処理において、処理回路11は、頻度の高いT3を選択して、椎間孔のラベル情報246の(背景灰色な)1段目の要素に、T3を代入する。このように、1つの椎体に複数個のランドマークが重複して検出された場合でも、より確からしい椎間孔ラベル情報を得ることができる。
同様に、図10Bを用いて、椎間孔ラベルを推定する方法を説明する。図10Bは、1つの椎体(T6)でランドマークが検出されなかった場合を例示している。図10Bにおいて、注目する椎体rがT3、T4、T5、T7、T8の場合、ステップS308の処理では、処理回路11は、ラベル決定表245の(背景灰色な)4段目にT6を代入する。このとき、処理回路11は、ステップS310においてT6を選択し、椎間孔のラベル情報246の(背景灰色な)4段目にT6を代入する。 このように、ランドマークが検出されていない椎体がある場合でも、前後のランドマークから補って椎間孔ラベル情報を得ることができる。
図11は、椎骨ラベル算出工程25のデータフロー図である。図12は、椎骨ラベル算出工程25を示すフローチャートである。椎骨ラベル算出工程25において、処理回路11は、以下の処理を行うことで椎骨ラベルを算出する。例えば、処理回路11は、図11及び図12に示すように、椎間孔ラベル情報に基づく椎間孔の位置間の中点を、対応する椎骨ラベル情報の位置として算出する。
ステップS400において、処理回路11は、椎間孔ラベル推定工程24で得られた椎間孔ラベル情報243を読み込む。
ステップS401からステップS403において、処理回路11は、画像251に示すように、各椎間孔の間の中点を算出し、それぞれ椎骨ラベル(K[:])の座標値とする。ここで、ステップS402において、処理回路11は、椎骨ラベル(K[:])の夫々に、直下の椎間孔ラベルと同じラベルを付与する。ただし、図16に示すように頚椎では椎骨ラベルと椎間孔ラベルとの間の対応関係が胸椎や腰椎とは異なるため、処理回路11は、ステップS403において、ステップS402で椎骨ラベルに付与したC2からC8のラベルを、それぞれC1からC7に置換する処理を行う。以上の処理により、処理回路11は、最終的に、椎骨ラベル情報252(K[:])を得る。
なお、本実施形態では、各椎間孔の間の中点を算出することで椎骨ラベルの座標値を算出したが、椎間孔ラベル推定工程24で用いた「脊柱管の中心線上に対応付けた仮のランドマークの座標値」を記憶しておき、中点の代わりに用いても良い。
また、椎骨ラベル情報は、夫々の椎骨の代表位置と、それがいずれの椎骨かを表すラベル(識別子)の組ではなく、別の形態でもよい。例えば、夫々の椎骨を分離してセグメンテーションした画像に対し、夫々の椎骨領域に対して椎骨のラベルをボクセル値として付与したラベル画像の表現であってもよい。この場合、夫々の椎骨領域に対して、上記で求めた椎骨の代表位置の中から最も近いものを選択(対応付け)し、そのラベル値を付与すればよい。
また、本実施形態では、椎体ランドマークを画像処理装置10の外部から取得する構成を説明したが、画像処理装置10自体(第2の取得機能11c)が機械学習による椎体ランドマーク抽出機能を備え、その抽出結果を用いることでも同様の効果を得ることができる。このとき、機械学習による椎体ランドマークの抽出は、例えば、非特許文献2の方法で実施できる。
上述したように、第1の実施形態によれば、第1の取得機能11bは、3次元の医用画像から椎間孔の位置を取得する。第2の取得機能11cは、医用画像の椎骨に関連するランドマーク情報を取得する。推定機能11dは、椎間孔の位置とランドマーク情報との対応付けを複数個用いて、椎間孔ラベル情報を推定する。算出機能11eは、椎間孔ラベル情報に基づいて、椎骨ラベル情報を算出する。したがって、第1の実施形態に係る画像処理装置10は、機械学習等で得られたランドマークの精度が低い場合でも、椎骨に高い精度でラベル付けすることを可能にする。
また、第1の実施形態によれば、推定機能11dは、椎間孔に対する複数個のランドマーク情報との対応付けに基づく多数決を用いて椎間孔ラベル情報を推定する。したがって、第1の実施形態に係る画像処理装置10は、ランドマークの精度が低い場合でも、椎間孔に高い精度でラベル付けすることを可能にする。
また、第1の実施形態によれば、推定機能11dは、ランドマーク情報に含まれる椎体のランドマークごとに椎体と椎間孔との対応付けを決定し、椎体のランドマークごとに決定した複数の対応付けに対して、対応付け頻度に基づく多数決を行うことで、椎間孔ラベル情報を推定する。したがって、第1の実施形態に係る画像処理装置10は、椎間孔に高い精度でラベル付けすることを可能にする。
また、第1の実施形態によれば、算出機能11eは、椎間孔ラベル情報に基づく椎間孔の位置間の中点を、対応する椎骨ラベル情報の位置として算出する。したがって、第1の実施形態に係る画像処理装置10は、椎骨ラベルの位置を高い精度で算出することを可能にする。
また、第1の実施形態によれば、第1の取得機能11bは、医用画像に含まれる脊柱管に対する膨張処理結果と医用画像との重畳領域と、脊柱管に対応する領域とに基づいて、椎間孔の位置を取得する。したがって、第1の実施形態に係る画像処理装置10は、医用画像内の椎間孔の位置を高い精度で取得することを可能にする。
また、第1の実施形態によれば、第1の取得機能11bは、椎間孔の解剖学的構造に基づいて、椎間孔の位置を補正する。したがって、第1の実施形態に係る画像処理装置10は、椎骨の欠損などに起因するノイズを除去することができ、医用画像内の椎間孔の位置をより高い精度で取得することを可能にする。
(第2の実施形態)
本願に係る別の実施形態としては、椎体ランドマーク検出時の検出確信度合いを椎間孔ラベル推定処理に反映させるという実施形態が考えられる。機械学習を用いたランドマーク検出では、検出したランドマークの確からしさを検出確信度としてランドマーク情報に付加して出力することが多い。この確信度を用いることで、確信度の高い椎体ランドマークから椎間孔ラベルを推定することができ、確信度の低い椎体ランドマークに引っ張られてラベル付けが失敗することを避けることが可能である。なお、本実施形態に係る画像処理装置10の構成はほとんどが第1の実施形態と同様であり、椎間孔ラベル推定工程24の処理だけが第1の実施形態と異なっている。以下では、第1の実施形態との相違点である椎間孔ラベル推定工程24の処理についてのみ、詳細を説明する。
本願に係る別の実施形態としては、椎体ランドマーク検出時の検出確信度合いを椎間孔ラベル推定処理に反映させるという実施形態が考えられる。機械学習を用いたランドマーク検出では、検出したランドマークの確からしさを検出確信度としてランドマーク情報に付加して出力することが多い。この確信度を用いることで、確信度の高い椎体ランドマークから椎間孔ラベルを推定することができ、確信度の低い椎体ランドマークに引っ張られてラベル付けが失敗することを避けることが可能である。なお、本実施形態に係る画像処理装置10の構成はほとんどが第1の実施形態と同様であり、椎間孔ラベル推定工程24の処理だけが第1の実施形態と異なっている。以下では、第1の実施形態との相違点である椎間孔ラベル推定工程24の処理についてのみ、詳細を説明する。
第2の実施形態に係る処理回路11は、椎間孔に対する複数個のランドマーク情報との対応付けに基づく椎体ランドマークの確信度の合計を用いて椎間孔ラベル情報を推定する。図13は、椎体ランドマークの検出確信度を用いた場合の椎間孔ラベル推定工程24を示すフローチャートである。図14は、椎体ランドマークの検出確信度を用いた場合の椎間孔ラベルを推定する方法を具体的な例で説明した図である。図15は、第2の実施形態に係る確信度への重み付け関数を示す図である。図13において、ステップS300からS306までは、第1の実施形態と同じ処理である。
ステップS507において、処理回路11は、仮のランドマーク情報B[:]の中から、ラベルがrに等しい要素を見つけ出し、そのZ座標値よりG[j]のZ座標値が足側であるかを判定する。ここで、判定がYesである場合、処理回路11は、G[j]が椎体rに対応づく椎間孔の位置だと判断して、ステップS508に処理を進める。
ステップS508において、処理回路11は、G[j]が椎体rに対応づく椎間孔の位置だと判断したことに基づく確信度付きの投票処理を行う。具体的には、処理回路11は、ラベル決定表Tのj行r列にラベルrを代入する。また、処理回路11は、Tのr列の0行からj-1行には、rより頭側のラベルを順に代入する。そして、処理回路11は、Tのr列のj+1行からG_len-1行には、rより足側のラベルを順に代入する。
さらに、ステップS509とS510において、処理回路11は、Tのr列の全ての行に、このランドマークを検出した際の確信度を代入する。そして、ステップS306の繰り返し処理を終了する。すなわち、ステップS508~S510の処理は、G[j]が注目する椎体rの直下にあるときにのみ実行される。
なお、ステップS510において、全ての行に同じ確信度を入れる方法以外にも、確信度に重み付けを加える場合でもよい。図15は、確信度への重み付け関数の一例を示す図である。図15に示すように、S507で比較対象とした椎間孔から離れるにしたがって、確信度に掛ける重みを下げた値を入れるという方法も考えられる。
ステップS511とS512において、処理回路11は、G[:]の夫々について、確信度の合計に基づく椎間孔ラベルの推定処理を行う。具体的には、処理回路11は、椎間孔(G[:])毎にラベル決定表Tの中から最も確信度の合計が大きなラベルを探し出し、椎間孔の座標と組にして、椎間孔ラベル情報として配列L[:]に代入する。
図14を用いて、椎間孔ラベルを推定する方法の一例を説明する。図14は、1つの椎体に2つ(T6とT7)のランドマークが検出され、かつ、各ランドマークの確信度261が示すように、T7やT8の確信度が高い場合を例示している。図14において、注目する椎体rがT3、T4、T5、T6の場合、ステップS508の処理において、処理回路11は、ラベル決定表262の(背景灰色な)5段目にT7を代入する。そして、処理回路11は、ステップS510の処理において、ラベル決定表の確信度263に示すように、それぞれ、0.3、0.4、0.3、0.2の確信度を代入する。
一方、注目する椎体rがT7、T8の場合、ステップS508の処理において、処理回路11は、ラベル決定表262の(背景灰色な)5段目にT8を代入する。そして、処理回路11は、ステップS510の処理において、ラベル決定表の確信度263に示すように、それぞれ、0.6、0.7の確信度を代入する。このとき、ステップS512の決定処理において、処理回路11は、確信度の合計が大きなT8を選択して、椎間孔のラベル情報264の(背景灰色な)5段目にT8を代入する。すなわち、処理回路11は、椎間孔のラベル情報264の(背景灰色な)5段目の候補であるT7とT8において、T7の確信度の合計1.2と、T8の確信度の合計1.3と比較して、確信度の合計が大きなT8を選択する。このように、1つの椎体に複数個のランドマークが重複して検出された場合でも、より確からしい椎間孔ラベル情報を得ることが可能である。
上述したように、第2の実施形態によれば、推定機能11dは、椎間孔に対する複数個のランドマーク情報との対応付けに基づく椎体ランドマークの確信度の合計を用いて前記椎間孔ラベル情報を推定する。したがって、第2の実施形態に係る画像処理装置10は、確信度の低いランドマークによるラベル付けの失敗を避けることを可能にする。
(その他の実施形態)
以上、実施形態例を詳述したが、本発明は例えば、システム、装置、方法、プログラム若しくは記録媒体(記憶媒体)等としての実施態様をとることが可能である。具体的には、複数の機器(例えば、ホストコンピュータ、インターフェース機器、撮像装置、Webアプリケーション等)から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
以上、実施形態例を詳述したが、本発明は例えば、システム、装置、方法、プログラム若しくは記録媒体(記憶媒体)等としての実施態様をとることが可能である。具体的には、複数の機器(例えば、ホストコンピュータ、インターフェース機器、撮像装置、Webアプリケーション等)から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
また、上述した実施形態の説明で用いた「プロセッサ」という文言は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、又は、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。ここで、記憶回路にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むように構成しても構わない。この場合には、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。また、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて一つのプロセッサとして構成され、その機能を実現するようにしてもよい。
ここで、プロセッサによって実行される画像処理プログラムは、ROM(Read Only Memory)や記憶回路等に予め組み込まれて提供される。なお、この画像処理プログラムは、これらの装置にインストール可能な形式又は実行可能な形式のファイルでCD(Compact Disk)-ROM、FD(Flexible Disk)、CD-R(Recordable)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な非一過性の記憶媒体に記録されて提供されてもよい。また、この画像処理プログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納され、ネットワーク経由でダウンロードされることによって提供又は配布されてもよい。例えば、この画像処理プログラムは、上述した各処理機能を含むモジュールで構成される。実際のハードウェアとしては、CPUが、ROM等の記憶媒体から医用情報処理プログラムを読み出して実行することにより、各モジュールが主記憶装置上にロードされて、主記憶装置上に生成される。
また、上述した実施形態において、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散又は統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散又は統合して構成することができる。更に、各装置にて行なわれる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、或いは、ワイヤードロジックによるハードウェアとして実現され得る。
また、上述した実施形態及び変形例において説明した各処理のうち、自動的に行なわれるものとして説明した処理の全部又は一部を手動的に行なうこともでき、或いは、手動的に行なわれるものとして説明した処理の全部又は一部を公知の方法で自動的に行なうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
以上説明した少なくとも一つの実施形態によれば、ランドマークの検出精度が低い場合でも、椎骨に対して高い精度でラベル付けを行うことができる。
いくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
10 画像処理装置
11a 制御機能
11b 第1の取得機能
11c 第2の取得機能
11d 推定機能
11e 算出機能
11a 制御機能
11b 第1の取得機能
11c 第2の取得機能
11d 推定機能
11e 算出機能
Claims (10)
- 3次元の医用画像から椎間孔の位置を取得する第1の取得部と、
前記医用画像の椎骨に関連するランドマーク情報を取得する第2の取得部と、
前記椎間孔の位置と前記ランドマーク情報との対応付けを複数個用いて、椎間孔ラベル情報を推定する推定部と、
前記椎間孔ラベル情報に基づいて、椎骨ラベル情報を算出する算出部と、
を備える、画像処理装置。 - 前記推定部は、前記椎間孔に対する複数個の前記ランドマーク情報との対応付けに基づく多数決を用いて前記椎間孔ラベル情報を推定する、請求項1に記載の画像処理装置。
- 前記推定部は、前記ランドマーク情報に含まれる椎体のランドマークごとに椎体と椎間孔との対応付けを決定し、前記椎体のランドマークごとに決定した複数の対応付けに対して、対応付け頻度に基づく多数決を行うことで、前記椎間孔ラベル情報を推定する、請求項2に記載の画像処理装置。
- 前記推定部は、前記椎間孔に対する複数個の前記ランドマーク情報との対応付けに基づく椎体ランドマークの確信度の合計を用いて前記椎間孔ラベル情報を推定する、請求項1乃至3のいずれか1つに記載の画像処理装置。
- 前記算出部は、前記椎間孔ラベル情報に基づく椎間孔の位置間の中点を、対応する椎骨ラベル情報の位置として算出する、請求項1乃至4のいずれか1つに記載の画像処理装置。
- 前記第1の取得部は、前記医用画像に含まれる脊柱管に対する膨張処理結果と前記医用画像との重畳領域と、前記脊柱管に対応する領域とに基づいて、椎間孔の位置を取得する、請求項1乃至5のいずれか1つに記載の画像処理装置。
- 前記第1の取得部は、椎間孔の解剖学的構造に基づいて、前記椎間孔の位置を補正する、請求項6に記載の画像処理装置。
- 3次元の医用画像から椎間孔の位置を取得し、
前記医用画像の椎骨に関連するランドマーク情報を取得し、
前記椎間孔の位置と前記ランドマーク情報との対応付けを複数個用いて、椎間孔ラベル情報を推定し、
前記椎間孔ラベル情報に基づいて、椎骨ラベル情報を算出する、
ことを含む、画像処理方法。 - 請求項8に記載の画像処理方法をコンピュータに実行させる、画像処理プログラム。
- 請求項9に記載の画像処理プログラムを含む、記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021117653A JP2023013454A (ja) | 2021-07-16 | 2021-07-16 | 画像処理装置、方法、プログラム及び記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021117653A JP2023013454A (ja) | 2021-07-16 | 2021-07-16 | 画像処理装置、方法、プログラム及び記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023013454A true JP2023013454A (ja) | 2023-01-26 |
Family
ID=85129100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021117653A Pending JP2023013454A (ja) | 2021-07-16 | 2021-07-16 | 画像処理装置、方法、プログラム及び記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023013454A (ja) |
-
2021
- 2021-07-16 JP JP2021117653A patent/JP2023013454A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5016603B2 (ja) | 自動及び動的血管検出のための方法並びに装置 | |
KR101899866B1 (ko) | 병변 경계의 오류 검출 장치 및 방법, 병변 경계의 오류 수정 장치 및 방법 및, 병변 경계의 오류 검사 장치 | |
US9536316B2 (en) | Apparatus and method for lesion segmentation and detection in medical images | |
JP6564018B2 (ja) | 放射線画像の肺野セグメンテーション技術及び骨減弱技術 | |
JP5851160B2 (ja) | 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム | |
JP6184926B2 (ja) | 椎骨セグメンテーション装置、方法およびプログラム | |
JP2007307358A (ja) | 画像処理方法および装置ならびにプログラム | |
JP5777070B2 (ja) | 領域抽出装置、領域抽出方法および領域抽出プログラム | |
Zamora et al. | Hierarchical segmentation of vertebrae from x-ray images | |
JP2011131040A (ja) | 椎骨セグメンテーション装置、方法及びプログラム | |
JP2006346465A (ja) | 心臓境界、胸郭境界及び横隔膜境界を検出する方法、装置及び記憶媒体 | |
JP2016168166A (ja) | 医用画像処理装置、方法およびプログラム | |
WO2017185214A1 (zh) | 一种测量脊柱弯曲角度的方法和设备 | |
JP2017527015A (ja) | 被験者の画像をセグメント化するためのデバイス、システム及び方法 | |
KR20220019278A (ko) | 이미지 처리를 위한 딥 러닝 모델들 | |
US20190392552A1 (en) | Spine image registration method | |
WO2018088055A1 (ja) | 画像処理装置、画像処理方法、画像処理システム及びプログラム | |
CN115861656A (zh) | 用于自动处理医学图像以输出警报的方法、设备和系统 | |
KR20150077184A (ko) | 의료 영상의 병변 유사도 판단 장치 및 방법 | |
JP4971116B2 (ja) | 画像処理方法および装置 | |
JP5640280B2 (ja) | 骨粗鬆症診断支援装置及び骨粗鬆症診断支援プログラム | |
JP2016195755A (ja) | 医用画像処理装置、医用画像処理方法及び医用イメージング装置 | |
US20140336504A1 (en) | Scanning apparatus, medical image device and scanning method | |
JP6571687B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2023013454A (ja) | 画像処理装置、方法、プログラム及び記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20210817 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20210817 |