JP6858047B2 - 診断画像処理装置、評価支援方法及びプログラム - Google Patents

診断画像処理装置、評価支援方法及びプログラム Download PDF

Info

Publication number
JP6858047B2
JP6858047B2 JP2017061433A JP2017061433A JP6858047B2 JP 6858047 B2 JP6858047 B2 JP 6858047B2 JP 2017061433 A JP2017061433 A JP 2017061433A JP 2017061433 A JP2017061433 A JP 2017061433A JP 6858047 B2 JP6858047 B2 JP 6858047B2
Authority
JP
Japan
Prior art keywords
information
bone
diagnostic
joint
foot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017061433A
Other languages
English (en)
Other versions
JP2018161397A (ja
Inventor
敬之 岡
敬之 岡
浩 松平
浩 松平
田中 栄
栄 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Tokyo NUC
Original Assignee
University of Tokyo NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Tokyo NUC filed Critical University of Tokyo NUC
Priority to JP2017061433A priority Critical patent/JP6858047B2/ja
Priority to EP18775487.4A priority patent/EP3603518A4/en
Priority to US16/498,431 priority patent/US20210113170A1/en
Priority to PCT/JP2018/012515 priority patent/WO2018181363A1/ja
Publication of JP2018161397A publication Critical patent/JP2018161397A/ja
Application granted granted Critical
Publication of JP6858047B2 publication Critical patent/JP6858047B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/50Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
    • A61B6/505Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for diagnosis of bone
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5217Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30008Bone
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Theoretical Computer Science (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Optics & Photonics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physiology (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、診断画像処理装置、評価支援方法及びプログラムに関する。
関節リウマチの診断においては、X線画像を用いて、関節間の間隔を5段階で評価する、シャープ(Sharp)の方法が広く知られている(非特許文献1)。この方法を用いるときには、ファン・デル・ハイジ(VDH)またはゲナン(Genant)によって定められた評価対象となる関節ごとに、それぞれの間隔を評価することとなる。
しかしながら、上記従来の方法においては、医師が目視により各関節の間隙の大きさを評価しており、医師によって判断に相違が生じる場合があった。このため、基準となる画像が用意されているが、リウマチ等の疾病では骨自体が変形することがあり、基準となる画像との比較が困難である場合もある。
本発明は上記実情に鑑みて為されたもので、所定の関節の間隙の大きさを定量的に評価することを可能とする診断画像処理装置、評価支援方法及びプログラムを提供することを、その目的の一つとする。
上記従来例の問題点を解決する本発明は、診断画像処理装置であって、手または足のX線画像の入力を受け入れる受入手段と、前記受け入れたX線画像から、左手、右手、左足、または右足の撮像範囲を検出し、当該検出した撮像範囲内に撮像された左手、右手、左足、または右足の、少なくとも、ファン・デル・ハイジ(VDH)またはゲナン(Genant)のいずれか選択された評価方法での評価に用いられる各関節について、当該関節を挟む一対の骨の、対向する端部のうち、輝度が比較的高い部分を抽出する高輝度部抽出手段と、前記選択された評価方法での評価に用いられる関節ごとに、前記抽出した高輝度部間の距離及び面積の情報を、診断情報として生成する診断情報生成手段と、前記生成した診断情報を出力する出力手段と、を含むこととしたものである。
これにより、所定の関節の間隙の大きさを定量的に評価可能となる。
本発明の実施の形態に係る診断画像処理装置の例を表す構成ブロック図である。 本発明の実施の形態に係る診断画像処理装置の例に係る機能ブロック図である。 本発明の実施の形態に係る診断画像処理装置による前処理の例を表す説明図である。 本発明の実施の形態に係る診断画像処理装置の処理例を表す説明図である。 本発明の実施の形態に係る診断画像処理装置の診断情報の生成処理例を表す説明図である。 本発明の実施の形態に係る診断画像処理装置の診断情報の出力例を表す説明図である。 本発明の実施の形態に係る診断画像処理装置の処理の流れを表すフローチャート図である。 本発明の実施の形態に係る診断画像処理装置において用いられる情報の例を表す説明図である。
本発明の実施の形態について図面を参照しながら説明する。本発明の実施の形態に係る診断画像処理装置1は、図1に例示するように、制御部11と、記憶部12と、操作部13と、表示部14と、インタフェース部15とを含んで構成されている。
制御部11は、CPUなどのプログラム制御デバイスであり、記憶部12に格納されたプログラムに従って動作する。本実施の形態では、この制御部11は、左手、右手、左足、または右足の少なくとも一つを撮像したX線画像の画像データをインタフェース部15を介して受け入れ、当該受け入れたX線画像から、左手、右手、左足、または右足のいずれかの撮像範囲を検出する。そして制御部11は、当該検出した撮像範囲内に撮像された左手、右手、左足、または右足の、少なくとも、ファン・デル・ハイジ(VDH)またはゲナン(Genant)のいずれか選択された評価方法での評価に用いられる各関節について、当該関節を挟む一対の骨の、対向する端部のうち、輝度が比較的高い部分を抽出する。制御部11は、選択された評価方法での評価に用いられる関節ごとに、抽出した高輝度部間の距離及び面積の情報を、診断情報として生成して出力する。この制御部11の処理については、後に詳しく述べる。
記憶部12は、メモリデバイスやディスクデバイス等であり、制御部11により実行されるプログラムを保持する。このプログラムは、コンピュータ可読かつ非一時的な記録媒体に格納されて提供され、この記憶部12にインストールされたものであってもよい。また、この記憶部12は、制御部11のワークメモリとしても動作する。
操作部13は、マウスやキーボード等であり、利用者の指示操作を受け入れて、当該指示操作の内容を制御部11に出力する。表示部14は、ディスプレイ等であり、制御部11から入力される指示に従って、情報を表示出力する。
インタフェース部15は、USB(Universal Serial Bus)等のシリアルインタフェースや、ネットワークインタフェースを含み、メモリカード等の可搬型のメディアや、外部のPC等から種々のデータを受信して制御部11に出力する。本実施の形態の一例では、このインタフェース部15は、外部の機器から処理の対象となるX線画像の画像データの入力を受けて、制御部11に出力する。
次に、この制御部11の動作について説明する。本実施の形態の一例において制御部11は、図2に例示するように、画像受入部21と、前処理部22と、骨識別処理部23と、関節識別処理部24と、関節部特定処理部25と、面積演算部26と、間隔距離演算部27と、出力部28とを含んで機能的に構成される。
画像受入部21は、処理の対象となるX線画像の画像データの入力を受け入れる。ここで入力される画像データは、例えば、図3(a)に例示するように、両手を、手のひらを下向きにして横軸方向(X軸方向とする)に並べて配した状態でX線撮影したものである。なお、図3において、横軸をX軸、縦軸をY軸とする。
前処理部22は、処理対象画像データに対して、メディアンフィルタによってノイズを軽減する処理、ロバートフィルタによって輪郭線を明確化する処理等、コントラストの調整処理を施す。そしてこのコントラスト調整処理後の処理対象画像データを所定の明度閾値(例えば50%)で二値化する(図3(b))。
前処理部22は、さらに二値化した処理対象画像データについて、有意画素(ここでは輝度の高い画素)を膨張(ある有意でない画素Pに隣接する画素に有意画素があれば、当該画素Pを有意画素に設定する処理)をN回(例えばN=3とする)繰り返し実行し、ついで、収縮(ある有意画素Pに隣接する画素に、有意でない画素があれば、当該画素Pを有意でない画素に設定する処理)をN回繰り返し実行することでクロージング処理を行う。これにより、二値化した処理対象画像データの有意な画素塊に一部有意でない部分が含まれるときに、当該有意でない部分を有意画素として左手全体及び右手全体の領域を確定する。
前処理部22は、次に、輪郭線を抽出する処理を実行し、左手全体及び右手全体のそれぞれを取り囲む輪郭線Rを抽出する(図3(c))。なお、図3(c)は、説明のため、図3(b)から検出した輪郭線のみを示している。そして前処理部22はさらに、輪郭線Rで囲まれた領域をそれぞれラベリングし、いずれかの手に対応する領域を処理対象とする手が撮像された領域として認識する。具体的に以下の例では、必ず小指がX軸負の方向(図面上で左側)にある手を以下の処理の対象とするものとする。従って、右手の画像を処理する場合は、ここで処理対象画像データをY軸に対して対象に(左右に)反転してから以下の処理を実行する。
すなわち、前処理部22は、X軸方向負の側に位置する輪郭線Rで囲まれた領域r1を、以下の処理の対象とする。ここで処理の対象とされる手は、反転が行われたときには右手であり、反転がされていなければ左手となる。前処理部22は、処理対象とする手が撮像された領域を表す情報(領域r1を取り囲む輪郭線Rを特定する情報)と、コントラスト調整処理後の処理対象画像データとを出力する。
骨識別処理部23は、前処理部22が出力する、処理対象とする手が撮像された領域を表す情報と、コントラスト調整処理後の処理対象画像データとの入力を受けて、当該コントラスト調整処理後の処理対象画像データに撮像されている骨のうち、処理対象とする手が撮像された領域内にある各骨の撮像されている範囲を識別し、当該識別の結果と、識別された範囲の位置の情報とから、各範囲に撮像されている骨が、どの骨であるかを特定するラベリング処理を行う。
具体的に、この骨識別処理部23は、次のようにして骨を識別する。骨識別処理部23は、指の各骨の長手方向の長さを推定する。この推定のため、骨識別処理部23は、まず、処理対象とする手が撮像された領域を表す情報、つまり領域を取り囲む輪郭線Rを特定する情報を参照して、輪郭線の変曲点(Y軸方向の上に凸となる頂部(図3(c)のX軸負の側から順にK1からK5)または下に凸となる頂部(図3(c)のX軸負の側から順にK6からK9))を検出する。この変曲点の検出は、どのような方法であってもよい。ここで上に凸となる頂部(K1からK5)が指先、下に凸となる頂部(K6からK9)が指と指の間の股に相当する。
次に骨識別処理部23は、指の各骨の輪郭線を抽出する。骨識別処理部23は、例えばまず各骨の中心線を求める(図4(a))。図4(a)は小指の先端部を拡大したものである。この中心線は例えば次のように求められる。すなわち骨識別処理部23は、先に検出した、各指に対応する指の頂部(K1からK5のいずれか、図4(a)ではK1)の処理対象画像データ上の座標(x0,y0)を初期位置とする。そして骨識別処理部23は、この初期位置から手の近位方向(Y軸の値が減少する方向)へ1画素ずつ移動し、X軸に平行な線分yj=yj-1−1(j=1,2,…)の線分上で、X=xj-1を中心とした所定の幅Wの範囲内にある骨の左右両側の輪郭線上の点(隣接画素との輝度の差の絶対値が予め定めたしきい値以上となる点)のX座標の値(xjL,xjR)を求める。
骨識別処理部23は、ここで求めた値の平均値(重心)のX座標の値xjw=(xjL+xjR)/2を得て、
j-1<xjwであればxj=xj-1+1、
j-1=xjwであればxj=xj-1
j-1>xjwであればxj=xj-1−1、
として、xjを求める。
骨識別処理部23は、この処理を、(xj-1,yj)の位置にある画素の輝度が予め定めた輝度しきい値を超える(より高い輝度である)と判断されるまで、jを「1」ずつインクリメントしつつ繰り返し実行する。骨識別処理部23は、これにより、各指の末節骨の中心線Hを求める。
骨識別処理部23は、初期位置とした座標(x0,y0)を上辺中央として、幅W、高さ|y0−yJ|(ただしJは、(xj-1,yj)の位置にある画素の輝度が予め定めた輝度しきい値を超えると判断された最初のjの値であり、|a|はaの絶対値を意味する)の矩形内の画素ブロックを取り出す。骨識別処理部23は、この画素ブロック内にある中心線がY軸に平行となるようにアフィン変換し、アフィン変換後の画素ブロック内の画像データについてクロージング処理を実行する。さらに骨識別処理部23は、クロージング処理後の画像データに基づき、ソーベルフィルタ等の方法で輪郭線Rfを抽出する。なお、Y軸方向の上下の輪郭線(末節骨についてはY軸方向の下側の輪郭線)は、輝度が所定の輝度しきい値を超えている部分(高輝度部G)を輪郭の一部として抽出する(図4(b))。これにより骨識別処理部23は、各指の末節骨の輪郭を抽出できる。
なお、Y軸方向の上下の輪郭線として、輝度が所定の輝度しきい値を超えている部分を輪郭として抽出しているのは、関節を挟む位置においては骨に比較的硬い部分が形成されており、比較的高い輝度の部分として撮像されることに基づく。
骨識別処理部23はさらに、各指で検出した骨の輪郭線の下辺の中心(あるいは画素ブロックの下辺上であって、画素ブロック内で検出した中心線のX軸の値)を、初期位置候補とし、この初期位置候補からY軸に平行に下方に移動した位置にある画素であって、所定の輝度しきい値を超え、かつ、そのY軸方向直上の画素の輝度が所定の輝度値を下回っている画素を、末節骨よりも近位側の骨の上辺中央として、この位置を初期位置として、中心線を認識し、中心線を取り囲む矩形を設定し、当該矩形内の画像ブロックを、中心線がY軸に平行となるようにアフィン変換して、クロージング処理し、輪郭線を抽出する、というように処理を続ける。
これにより、親指については末節骨→基節骨→中手骨というように順次輪郭線を抽出して、当該抽出した輪郭線で囲まれる、それぞれの骨の画像部分について、対応する骨を特定する情報をラベリングする。また、人差し指、中指、薬指、小指のそれぞれについても、末節骨→中節骨→基節骨→中手骨というように順次、輪郭線を抽出し、当該抽出した輪郭線で囲まれる、それぞれの骨の画像部分について、対応する骨を特定する情報をラベリングする。
関節識別処理部24は、骨識別処理部23がラベリングした画像部分と、それに隣接する骨としてラベリングされた画像部分との間隙の領域を、対応する関節部分が撮像された領域としてラベリングする。
本実施の形態では、既に述べた方法により、関節を挟む一対の骨の、対向する端部のうち、輝度が比較的高い部分(高輝度部)が関節に隣接する骨の輪郭線として抽出されているので、この関節識別処理部24により、処理対象画像データ内に撮像されている、互いに隣接する骨の、比較的輝度の高い部分でその上下が囲まれている領域(互いに隣接する一対の骨の、遠位側の骨の下部の比較的輝度の高い部分と、近位側の骨の上部の比較的輝度の高い部分とを含む外接矩形の領域)が関節部分として識別される。また関節識別処理部24は、当該識別された関節部分の上下にある骨のラベリングの情報から、当該識別された関節部分が撮像されている、処理対象画像データ内の領域がどの関節に対応する領域であるかを識別し、各領域に、対応する関節名を関連付けて記録する。
すなわち本実施の形態のここでの例では、骨識別処理部23及び関節識別処理部24により、高輝度部抽出手段が実現される。
関節部特定処理部25は、診断の評価方法として、VDHまたはGenantのどちらを用いるかの選択を、利用者から受け入れる。関節部特定処理部25は、関節識別処理部24が識別した関節のうち、選択された評価方法で用いる関節ごとに、対応する処理対象画像データ中の領域内の画像部分を抽出して、面積演算部26と、間隔距離演算部27とに出力する。
面積演算部26は、関節部特定処理部25が出力する画像部分のそれぞれから、比較的高い輝度で撮像されている部分(高輝度部)の画素を特定し、当該特定した画素に挟まれる部分の面積(画素数)を求める。一例として、この面積演算部26は、関節部特定処理部25が出力する画像部分に対してクロージング処理を行い、クロージング処理後の画像部分のうち、比較的高い輝度の画素の輪郭線を抽出する。既に述べたように、互いに隣接する一対の骨の、それぞれ関節を挟む部分が、比較的高い輝度で撮像されるので、ここでは図5(a)に例示するように一般的に2つの輪郭線M1,M2が抽出される。面積演算部26は、抽出した2つの輪郭線M1,M2に含まれる画素の凸包(convex hull)Cを得る。面積演算部26はこの凸包Cから、比較的高い輝度で撮像されている部分として、輝度が所定の輝度しきい値より高い画素(高輝度部)を除く画素の数を、面積の情報として出力する。
面積演算部26は、この面積の情報を得て出力する処理を、関節部特定処理部25が出力する画像部分のそれぞれについて行う。これにより本実施形態の診断画像処理装置1は、VDHまたはGenantのいずれか選択された評価方法での評価に用いられる各関節について、高輝度部間の面積の情報を得る。
間隔距離演算部27は、関節部特定処理部25が出力する画像部分のそれぞれから、比較的高い輝度で撮像されている部分(高輝度部)の画素を特定し、当該特定した画素に挟まれる部分の距離を求める。具体的にこの間隔距離演算部27は、面積演算部26と同様に、関節部特定処理部25が出力する画像部分に対してクロージング処理を行い、クロージング処理後の画像部分のうち、比較的高い輝度の画素の一対の輪郭線M1,M2を抽出する。そして間隔距離演算部27は、図5(b)に例示するように、当該画像部分に撮像されている骨のうち、近位側の骨について、骨識別処理部23が検出した中心線Hの延長線上の画素であって、上記一対の輪郭線M1,M2に挟まれる部分の画素の数をカウントし、当該カウントして得た値を高輝度部間の距離dとして出力する。
間隔距離演算部27は、この処理を、関節部特定処理部25が出力する画像部分のそれぞれについて行う。これにより本実施形態の診断画像処理装置1は、VDHまたはGenantのいずれか選択された評価方法での評価に用いられる各関節について、高輝度部間の距離の情報を得る。
出力部28は、面積演算部26と、間隔距離演算部27が、VDHまたはGenantのいずれか選択された評価方法での評価に用いられる関節ごとに出力する面積の情報と、距離の情報とを、それぞれ対応する関節を特定する情報に関連付けて出力する。具体的に、この出力部28は、表示部14に対して図6に例示するような情報の表示を行わせる。図6(a)はVDHが選択された例、図6(b)はGenantが選択された場合の例を示す。また、この出力部28は、面積演算部26や間隔距離演算部27が得た面積や距離の情報を、それぞれ平方ミリメートル及びミリメートル単位に変換してから出力してもよい。このような出力は、1画素あたりの実際の長さ(ミリメートル)の情報(別途入力を受け入れておく)を用いて容易に演算できる。
[動作]
本実施の形態の診断画像処理装置1は上述の例のような構成を備え、次のように動作する。すなわち、本実施の形態の診断画像処理装置1は、左手、右手、左足、または右足の少なくとも一つを撮像したX線画像の画像データを受け入れる。また診断画像処理装置1は、利用者からVDHまたはGenantのどちらの評価方法を利用するかの指示を受け入れる。さらに本実施の形態の以下の例では、X線画像の画像データの1ピクセルあたりのサイズ(高さ、または幅の実際の長さ(ミリメートル))の情報が予め設定されているものとする。
診断画像処理装置1は、図7に例示するように、当該受け入れたX線画像を処理対象画像データとして、左手、右手、左足、または右足のいずれかの撮像範囲を検出する(S1)。ここで入力される画像データは、図3(a)に例示したように、両手を、手のひらを下向きにしてX軸方向に並べて配した状態でX線撮影したものであり、診断画像処理装置1は、例えばX軸負の側にある手を処理の対象とする。
診断画像処理装置1は、当該処理の対象となった手の指の関節のそれぞれについて、関節を挟んで対向する一対の骨のそれぞれの関節側の端部を検出する(S2)。ここでは当該端部を、輝度が比較的高い部分(高輝度部)を抽出することで検出する。
また診断画像処理装置1は、ここで抽出した高輝度部を含む骨を特定する。骨の特定(どの指のどの骨であるかの特定)は、各骨の検出された位置に基づいて行う。すなわち診断画像処理装置1は、処理対象とする手の輪郭線の変曲点(Y軸方向の上に凸となる頂部(図3(c)のK1からK5)または下に凸となる頂部(図3(c)のK6からK9))を検出し、当該各指に対応する指の頂部(K1からK5のそれぞれ)の処理対象画像データ上の座標(x0,y0)を初期位置とする。そしてこの初期位置を含む輪郭線を求めて、各指のもっとも遠位側の骨(末節骨)の輪郭線とする。
また、末節骨の輪郭線のうち、近位側の骨に近い側のX軸方向の中心座標からY軸に平行に下ろした線分上で、次の骨の輪郭線を検出し、さらに各指の末節骨から一つ近位側の骨の輪郭線を検出する。診断画像処理装置1は、この処理を繰り返して、各指の各骨の輪郭線を検出する。
これにより、親指については末節骨→基節骨→中手骨というように順次輪郭線を抽出して、当該抽出した輪郭線で囲まれる、それぞれの骨の画像部分について、対応する骨を特定する情報をラベリングする。また、人差し指、中指、薬指、小指のそれぞれについても、末節骨→中節骨→基節骨→中手骨というように順次、輪郭線を抽出し、当該抽出した輪郭線で囲まれる、それぞれの骨の画像部分について、対応する骨を特定する情報をラベリングする。
次に、診断画像処理装置1は、ラベリングされた各骨の画像部分の関節側端にある高輝度の画素塊を検出する。そして当該検出した高輝度部に隣接する関節を特定する情報を、当該高輝度部を含む骨を特定する情報に基づいて判断する。例えば、親指の末節骨と基節骨とのそれぞれに含まれる高輝度部間にある関節をIP関節と判断する。また、人差し指の中節骨と基節骨とのそれぞれに含まれる高輝度部間にある関節をPIP関節と判断する。そして診断画像処理装置1は、抽出した高輝度部の画素群を特定する情報と、当該高輝度部に隣接する関節を特定する情報とを関連付けて記憶する。
診断画像処理装置1は、さらに、VDHまたはGenantのいずれか選択された評価方法での評価に用いられる各関節について、当該関節を挟む一対の骨の、対向する端部にある高輝度部間の距離及び面積の情報を、診断情報として生成する(S3)。そして、生成した診断情報を、実際の長さの単位(平方ミリメートルとミリメートル)に変換して、図6に例示したように、左手の診断情報として出力する(S4)。
なお、ここでは診断情報として関節部分の面積及び距離を求めることとしたが、これに代えて、またはこれとともに、さらに他の情報が含まれてもよい。
さらに診断画像処理装置1は、処理S1で検出した撮像範囲外に撮像されている他の手または足がある場合は、当該他の手または足の撮像範囲を検出して、処理S1から繰り返して処理を行ってもよい。具体的に本実施の形態では、並列して撮像された手または足の画像のうち、X軸負の側にある手または足を処理の対象とするので、他方の手または足の画像があれば、X軸方向に(Y軸に軸対象に)反転して、再度、処理S1から繰り返して処理を行う。この場合は、処理S4で出力する診断情報は右手の診断情報となる。
なお、上記高輝度部の認識は、上述の例に限られず、例えば既に高輝度部の領域が確定されている処理対象画像データと、当該確定されている高輝度部の領域との関係を、多層ニューラルネットワークを用いて機械学習しておき、この機械学習した多層ニューラルネットワークを用いて高輝度部の領域を認識してもよい。
また、所定閾値以上の輝度となっている部分の輪郭線を抽出し、抽出した輪郭線の位置と、関節を特定する情報(親指第一関節(IP)などといった情報)との関係を、多層ニューラルネットワークを用いて機械学習しておき、この機械学習した多層ニューラルネットワークを用いて高輝度部の領域と関節を特定する情報とを得てもよい。
[骨の輪郭線検出の変形例]
また、上述の骨識別処理部23では、骨の輪郭線の検出にあたり、指の長さを考慮して、輪郭線検出の誤りの可能性を低減してもよい。具体的にこの例の骨識別処理部23は、検出した指先と指の股との間の距離を算出して、最長の指の長さの情報を得る。ここで骨識別処理部23は、互いに隣接する、下に凸となる頂部K6とK7、K7とK8、及びK8とK9のそれぞれを結ぶ仮想的な線分L1,L2,L3を生成する。次に、上に凸となる頂部K1からK5のうち、頂部K2から線分L1までの最短距離Z1、頂部K3から線分L2までの最短距離Z2、頂部K4から線分L3までの最短距離Z3を求め、これらのうち最長のもの(通常は中指のため、頂部K3から線分L2までの最短距離Z2が最長となる)を、最長の指の長さの情報とする。
骨識別処理部23は、この最長の指の長さの情報を用いて指の各骨の長手方向の長さを推定する。すなわち、骨識別処理部23は、記憶部12に予め格納した、一般的な人間の、最長の指の長さに対する各骨の長手方向の長さの比の情報を参照する。この情報は、例えば、図8に例示するように、最長の指の長さに対する、親指の末節骨,基節骨,中手骨の長さの比、最長の指の長さに対する人差し指、中指、薬指、小指のそれぞれの末節骨、中節骨、基節骨、中手骨の長さの比の情報を含む。
骨識別処理部23は、Y軸方向の上下の骨の輪郭線を抽出したときに、当該骨の上下方向の長さを求め、当該長さが、上記推定された対応する骨の長手方向の長さに対して所定の比の範囲(例えば0.8から1.2の間、など「1.0(一致する場合)」を含む範囲)にない場合には、コントラストを平均化する等、コントラストを調整する処理を行ってから、再度、当該骨の輪郭線を抽出する処理を繰り返すこととしてもよい。
[輪郭線の修正]
また、骨識別処理部23が生成した骨ごとの輪郭線は、利用者が修正可能となっていてもよい。一例として、本実施の形態の診断画像処理装置1は、骨の輪郭線を得た後、当該輪郭線をスプライン曲線(例えば3次Bスプライン曲線)でフィッティングする。このフィッティングの方法は広く知られているので、ここでの詳しい説明を省略する。
そして診断画像処理装置1は、スプライン曲線でフィッティングした各骨の輪郭線を、処理対象画像データの対応する位置に重ねて描画して表示部14に表示し、スプライン曲線の制御点の位置の移動操作を、利用者から操作部13を介して受けて、移動後の制御点に基づくスプライン曲線を生成して描画内容を更新する。これにより利用者は、実際のX線画像データを視認しつつ、対応する骨の輪郭線を手動で修正できる。
[記録]
また本実施の形態の診断画像処理装置1は、診断対象者を特定する情報(X線画像データに撮像されている人物を特定する氏名などの情報)の入力を受けて、生成した診断情報を、この入力された診断対象者を特定する情報と、X線画像データの撮像日時(別途入力を受け入れておく)とに関連付けて、図示しないデータベースに記録してもよい。
この例では、診断画像処理装置1は、同じ診断対象者について、互いに異なる複数の時点(撮像日時)で撮像されたX線画像データに基づく診断情報の推移を表す統計情報やグラフ情報、外挿演算の結果(将来の時点で予測される診断情報)等を生成して表示してもよい。この情報により、医師等が骨の変形状態だけでなく、その時間経過、すなわち変形の進行や改善の状況を把握しやすくなり、骨の変形の進行または改善に係る評価が支援される。
さらにこのとき、診断情報とともに、各骨の輪郭線の情報(例えば骨の輪郭線にフィッティングしたBスプライン曲線を特定する情報)を入力された診断対象者を特定する情報と、X線画像データの撮像日時とに関連付けてデータベースに記録してもよい。
このようにしておくと、同じ診断対象者について、互いに異なる複数の時点(撮影日時)で得られた診断情報(輪郭線の情報等)を比較することで、時間経過ともに各骨の輪郭線がどのように変化したかを調べることが可能となり、骨の侵食(Erosion)の分析が可能となる。すなわち変形の進行や改善の状況を把握しやすくなり、骨の変形の進行または改善に係る評価が支援される。
[手首の骨]
ここまでの説明では、指の骨の間の関節部分について面積等の診断情報を生成する例について述べたが、VDHやGenant等の評価方法では、手首の骨の間の間隙についても面積や距離の情報を生成しておくことが好ましい。
この場合、手首部分の骨の形状は個人差が比較的大きいため、多層ニューラルネットワークによる機械学習によって、各骨の輪郭線を推定し、推定結果に基づいて利用者が適宜輪郭線の位置を調整して面積や間隙の距離の情報を生成することとしてもよい。
[実施形態の効果]
本実施の形態によると、X線画像データに基づき、手や足の各骨の輪郭線近傍において、関節を挟んで対向する、骨の比較的硬い部分が高輝度部として識別され、当該高輝度部の間の面積や距離の情報が演算されて表示される。これにより、目視により間隙の状態を判定する場合に比べ、面積や距離といった数値情報が得られ、関節の間隙の大きさが定量的に評価可能となる。
1 診断画像処理装置、11 制御部、12 記憶部、13 操作部、14 表示部、15 インタフェース部、21 画像受入部、22 前処理部、23 骨識別処理部、24 関節識別処理部、25 関節部特定処理部、26 面積演算部、27 間隔距離演算部、28 出力部。

Claims (6)

  1. 手または足のX線画像の入力を受け入れる受入手段と、
    前記受け入れたX線画像から、左手、右手、左足、または右足の撮像範囲を検出し、当該検出した撮像範囲内に撮像された左手、右手、左足、または右足の、少なくとも、ファン・デル・ハイジ(VDH)またはゲナン(Genant)のいずれか選択された評価方法での評価に用いられる各関節について、当該関節を挟む一対の骨の、対向する端部のうち、輝度が比較的高い部分を抽出する高輝度部抽出手段と、
    前記選択された評価方法での評価に用いられる関節ごとに、前記抽出した高輝度部間の距離及び面積の情報を、診断情報として生成する診断情報生成手段と、
    前記生成した診断情報を出力する出力手段と、
    を含む、診断画像処理装置。
  2. 請求項1に記載の診断画像処理装置であって、
    前記受け入れたX線画像から、左手、右手、左足、または右足の撮像範囲を検出し、当該検出した撮像範囲内に撮像された、各骨の輪郭線を設定する輪郭線設定手段を有し、
    前記高輝度部抽出手段は、前記設定された輪郭線を用いて、抽出した高輝度部を含む骨を特定するとともに、当該高輝度部に隣接する関節を特定する情報を、抽出した高輝度部の情報とともに出力し、
    前記診断情報生成手段は、前記選択された評価方法での評価に用いられる関節ごとに、前記抽出された、前記隣接する関節が特定されている高輝度部間の距離及び面積の情報を、診断情報として生成し、当該生成した診断情報に係る関節を特定する情報に関連付けて出力する、診断画像処理装置。
  3. 請求項2に記載の診断画像処理装置であって、
    前記輪郭線設定手段は、前記検出した撮像範囲内に撮像された各指のうち、最長の指について長さを推定し、当該推定した指の長さに対し、予め定められた比率で、前記検出した撮像範囲内に撮像された各骨の長さを推定し、当該推定された長さを用いて、各骨の輪郭線を設定する診断画像処理装置。
  4. 請求項1から3のいずれか一項に記載の診断画像処理装置であって、
    前記受け入れたX線画像に撮像されている、診断対象者を特定する情報と、当該X線画像の撮像日時の情報との入力をさらに受け入れて、
    前記診断情報を、前記受け入れた診断対象者を特定する情報と撮像日時の情報とに関連付けて記録する手段をさらに含み、
    診断対象者ごとの、互いに異なる撮像日時のX線画像に基づく診断情報の記録を出力する診断画像処理装置。
  5. コンピュータを用いて、
    手または足のX線画像と、当該X線画像に撮像されている診断対象者を特定する情報と、当該X線画像の撮像日時の情報とを入力し、当該X線画像から、左手、右手、左足、または右足の撮像範囲を検出し、当該検出した撮像範囲内に撮像された左手、右手、左足、または右足の、少なくとも、ファン・デル・ハイジ(VDH)またはゲナン(Genant)のいずれか選択された評価方法での評価に用いられる関節を挟む一対の骨の、対向する端部のうち、輝度が比較的高い部分を抽出する工程と、
    前記抽出した高輝度部間の距離及び面積の情報を、診断情報として生成する工程と、
    前記生成した診断情報を、前記受け入れた診断対象者を特定する情報と撮像日時の情報とに関連付けて記録する工程と、
    診断対象者ごとの、互いに異なる撮像日時のX線画像に基づく診断情報の記録を出力する工程と、
    を含む、骨変形の進行又は改善の評価支援方法。
  6. コンピュータを、
    手または足のX線画像の入力を受け入れる受入手段と、
    前記受け入れたX線画像から、左手、右手、左足、または右足の撮像範囲を検出し、当該検出した撮像範囲内に撮像された左手、右手、左足、または右足の、少なくとも、ファン・デル・ハイジ(VDH)またはゲナン(Genant)のいずれか選択された評価方法での評価に用いられる関節を挟む一対の骨の、対向する端部のうち、輝度が比較的高い部分を抽出する高輝度部抽出手段と、
    前記抽出した高輝度部間の距離及び面積の情報を、診断情報として生成する診断情報生成手段と、
    前記生成した診断情報を出力する手段と、
    として機能させるプログラム。

JP2017061433A 2017-03-27 2017-03-27 診断画像処理装置、評価支援方法及びプログラム Active JP6858047B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017061433A JP6858047B2 (ja) 2017-03-27 2017-03-27 診断画像処理装置、評価支援方法及びプログラム
EP18775487.4A EP3603518A4 (en) 2017-03-27 2018-03-27 DIAGNOSTIC IMAGE PROCESSING DEVICE, ASSESSMENT SUPPORT METHOD AND PROGRAM
US16/498,431 US20210113170A1 (en) 2017-03-27 2018-03-27 Diagnostic image processing apparatus, assessment assistance method, and program
PCT/JP2018/012515 WO2018181363A1 (ja) 2017-03-27 2018-03-27 診断画像処理装置、評価支援方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017061433A JP6858047B2 (ja) 2017-03-27 2017-03-27 診断画像処理装置、評価支援方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2018161397A JP2018161397A (ja) 2018-10-18
JP6858047B2 true JP6858047B2 (ja) 2021-04-14

Family

ID=63676391

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017061433A Active JP6858047B2 (ja) 2017-03-27 2017-03-27 診断画像処理装置、評価支援方法及びプログラム

Country Status (4)

Country Link
US (1) US20210113170A1 (ja)
EP (1) EP3603518A4 (ja)
JP (1) JP6858047B2 (ja)
WO (1) WO2018181363A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020151270A (ja) * 2019-03-20 2020-09-24 学校法人慶應義塾 関節状態値取得装置、関節状態学習装置、関節位置特定装置、関節位置学習装置、関節状態値取得方法、関節状態学習方法、関節位置特定方法、関節位置学習方法及びプログラム
JP7242041B2 (ja) * 2019-04-05 2023-03-20 国立大学法人北海道大学 間隙変化検出装置、間隙変化検出方法及び間隙変化検出用プログラム
JP7465469B2 (ja) 2020-05-15 2024-04-11 兵庫県公立大学法人 学習装置、推定装置、学習プログラム、及び推定プログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004057804A (ja) * 2002-06-05 2004-02-26 Fuji Photo Film Co Ltd 骨関節評価方法、装置およびそのためのプログラム
JP4934786B2 (ja) * 2006-10-13 2012-05-16 国立大学法人 東京大学 膝関節診断支援方法及び装置並びにプログラム
US8126242B2 (en) * 2007-01-16 2012-02-28 Optasia Medical Limited Computer program products and methods for detection and tracking of rheumatoid arthritis
KR101055226B1 (ko) * 2009-05-22 2011-08-08 경희대학교 산학협력단 류마티스 관절염 진단 장치 및 그 방법
JP6291812B2 (ja) * 2013-11-29 2018-03-14 コニカミノルタ株式会社 医療用画像撮影システム
JP6598287B2 (ja) * 2015-02-06 2019-10-30 国立大学法人 名古屋工業大学 骨間距離測定装置、骨間距離測定方法、コンピュータを骨間距離測定装置として機能させるためのプログラム及び該プログラムを記憶した記録媒体
JP6563671B2 (ja) * 2015-04-08 2019-08-21 株式会社日立製作所 骨塩量測定装置

Also Published As

Publication number Publication date
WO2018181363A1 (ja) 2018-10-04
EP3603518A4 (en) 2021-01-06
US20210113170A1 (en) 2021-04-22
EP3603518A1 (en) 2020-02-05
JP2018161397A (ja) 2018-10-18

Similar Documents

Publication Publication Date Title
AU2018250385B2 (en) Motor task analysis system and method
US11763603B2 (en) Physical activity quantification and monitoring
JP4860749B2 (ja) 画像中の人物における位置決め指示との適合性を判定する機器、システム、及び方法
JP6858047B2 (ja) 診断画像処理装置、評価支援方法及びプログラム
JP6662532B2 (ja) 歩行分析装置、歩行分析方法、及びプログラム
US11403882B2 (en) Scoring metric for physical activity performance and tracking
JP6066093B2 (ja) 手指形状推定装置、手指形状推定方法、及び手指形状推定プログラム
JP2014165660A (ja) バーチャルキーボードの入力方法、プログラム、記憶媒体、及びバーチャルキーボードシステム
US10849532B1 (en) Computer-vision-based clinical assessment of upper extremity function
Verlekar et al. Estimation and validation of temporal gait features using a markerless 2D video system
KR101745601B1 (ko) 영상 처리를 이용한 손가락 개수 인식 방법 및 장치
CN110910426A (zh) 动作过程和动作趋势识别方法、存储介质和电子装置
Zieliński Hand radiograph analysis and joint space location improvement for image interpretation
US20240046498A1 (en) Joint angle determination under limited visibility
WO2022137450A1 (ja) 情報処理装置、情報処理方法およびプログラム
TWI656323B (zh) 醫療影像差異比對方法及其系統
Ono et al. Automatic Segmentation of Finger Bone Regions from CR Images Using Improved DeepLabv3+
CN112233769A (zh) 一种基于数据采集的患后康复系统
JP7296069B2 (ja) 視線入力装置、および視線入力方法
JP2018156449A (ja) 異常物体検出プログラム、異常物体検出方法および異常物体検出装置
WO2020195272A1 (ja) 部位検出装置、部位検出方法、及びコンピュータ読み取り可能な記録媒体
JP2017207949A (ja) ジェスチャコマンド入力装置、ジェスチャコマンド入力方法及びジェスチャコマンド入力プログラム並びに画像表示システム
Wasalthilaka et al. Automated Physical Fitness Recommendation System for Driving License
Niu et al. Automatic data-processing equipment of moon mark of nail for verifying some experiential theory of Traditional Chinese Medicine
Liu et al. Towards Low-cost Robust and Stable Hand Tracking for Exercise Monitoring.

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210323

R150 Certificate of patent or registration of utility model

Ref document number: 6858047

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150