JP2022040763A - 側弯症診断支援装置、側弯症診断支援システム、機械学習装置、側弯症診断支援方法、機械学習方法及びプログラム - Google Patents
側弯症診断支援装置、側弯症診断支援システム、機械学習装置、側弯症診断支援方法、機械学習方法及びプログラム Download PDFInfo
- Publication number
- JP2022040763A JP2022040763A JP2020145623A JP2020145623A JP2022040763A JP 2022040763 A JP2022040763 A JP 2022040763A JP 2020145623 A JP2020145623 A JP 2020145623A JP 2020145623 A JP2020145623 A JP 2020145623A JP 2022040763 A JP2022040763 A JP 2022040763A
- Authority
- JP
- Japan
- Prior art keywords
- scoliosis
- angle
- subject
- dimensional shape
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 206010039722 scoliosis Diseases 0.000 title claims abstract description 396
- 238000003745 diagnosis Methods 0.000 title claims abstract description 93
- 238000010801 machine learning Methods 0.000 title claims abstract description 19
- 238000000034 method Methods 0.000 title claims description 34
- 238000009826 distribution Methods 0.000 claims abstract description 82
- 238000012549 training Methods 0.000 claims description 183
- 238000011176 pooling Methods 0.000 claims description 25
- 238000013527 convolutional neural network Methods 0.000 claims description 21
- 230000003416 augmentation Effects 0.000 claims description 14
- 238000000605 extraction Methods 0.000 claims description 10
- 206010023509 Kyphosis Diseases 0.000 claims description 6
- 238000000513 principal component analysis Methods 0.000 claims description 4
- 238000003860 storage Methods 0.000 description 38
- 230000000052 comparative effect Effects 0.000 description 28
- 230000008569 process Effects 0.000 description 21
- 239000011159 matrix material Substances 0.000 description 15
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 10
- 210000001624 hip Anatomy 0.000 description 10
- 238000012545 processing Methods 0.000 description 10
- 230000035945 sensitivity Effects 0.000 description 10
- 238000005457 optimization Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 238000002591 computed tomography Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 210000001981 hip bone Anatomy 0.000 description 5
- 238000012216 screening Methods 0.000 description 5
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 238000005452 bending Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 241000251468 Actinopterygii Species 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- 208000022567 adolescent idiopathic scoliosis Diseases 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 210000001217 buttock Anatomy 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 201000002972 idiopathic scoliosis Diseases 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 210000000115 thoracic cavity Anatomy 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
Description
被験者の背面のうちの関心領域の3次元形状を示す関心領域情報を取得する第1形状取得部と、
前記関心領域情報が示す3次元形状において前記被験者の矢状面に対応する面である近似矢状面を基準とする、前記関心領域情報が示す3次元形状の鏡像を示す鏡像情報を取得する第2形状取得部と、
前記関心領域情報が示す3次元形状と、前記鏡像情報が示す鏡像との間の偏差の分布を示す偏差分布情報を取得する偏差分布取得部と、
偏差分布情報を入力として側弯角の推定値である推定側弯角を出力する機械学習をした学習済みの学習モデルに基づいて、前記偏差分布情報を入力として前記被験者の推定側弯角を出力する側弯角推定部とを備える。
前記側弯症診断支援装置と、
前記被験者の後ろ姿の3次元形状を示す被験者データを生成する被験者データ生成装置とを備え、
前記第1形状取得部は、前記被験者データに基づいて前記関心領域情報を取得する。
複数の被験者から得られた前記偏差分布情報と、前記複数の被験者の各々について測定された側弯角である実側弯角を教師データとに基づいて、Max Pooling層と、3つのConvolution層とを含む畳み込みニューラルネットワークを用いて、前記推定側弯角を出力する前記学習モデルを学習する学習部を備える。
被験者の背面のうちの関心領域の3次元形状を示す関心領域情報を取得することと、
前記関心領域情報が示す3次元形状において前記被験者の矢状面に対応する面である近似矢状面を基準とする、前記関心領域情報が示す3次元形状の鏡像を示す鏡像情報を取得することと、
前記関心領域情報が示す3次元形状と、前記鏡像情報が示す鏡像との間の偏差の分布を示す偏差分布情報を取得することと、
偏差分布情報を入力として側弯角の推定値である推定側弯角を出力する機械学習をした学習済みの学習モデルに基づいて、前記偏差分布情報を入力として前記被験者の推定側弯角を出力することとを含む。
複数の被験者から得られた前記偏差分布情報と、前記複数の被験者の各々について測定された側弯角である実側弯角を教師データとに基づいて、Maxpooling層と、3つのConvolution層とを含む畳み込みニューラルネットワークを用いて、前記推定側弯角を出力する前記学習モデルを学習することを含む。
コンピュータに、
被験者の背面のうちの関心領域の3次元形状を示す関心領域情報を取得することと、
前記関心領域情報が示す3次元形状において前記被験者の矢状面に対応する面である近似矢状面を基準とする、前記関心領域情報が示す3次元形状の鏡像を示す鏡像情報を取得することと、
前記関心領域情報が示す3次元形状と、前記鏡像情報が示す鏡像との間の偏差の分布を示す偏差分布情報を取得することと、
偏差分布情報を入力として側弯角の推定値である推定側弯角を出力する機械学習をした学習済みの学習モデルに基づいて、前記偏差分布情報を入力として前記被験者の推定側弯角を出力することとを、実行させるためのプログラムである。
コンピュータに、
複数の被験者から得られた前記偏差分布情報と、前記複数の被験者の各々について測定された側弯角である実側弯角を教師データとに基づいて、Max Pooling層と、3つのConvolution層とを含む畳み込みニューラルネットワークを用いて、前記推定側弯角を出力する前記学習モデルを学習することを、実行させるためのプログラムである。
本発明の一実施の形態に係る側弯症診断支援システム100は、側弯症であるか否かに関する医師による診断を支援するためのシステムである。側弯症診断支援システム100は、機能的には、図1に示すように、被験者データ生成装置101と、側弯症診断支援装置102とを備える。
第2形状取得部104は、鏡像情報を取得する。鏡像情報は、近似矢状面を基準とする、関心領域情報が示す3次元形状の鏡像を示す。
本実施の形態に係る側弯症診断支援装置102は、物理的には図3に示すように、CPU(Cntral Processing Unit)1001、RAM(Random Access Memory)1002、ROM(Read Only Memory)1003、ストレージデバイス1004、通信I/F(Interface)1005、出力インタフェース1006、入力インタフェース1007などから構成され、これらが内部バス1007により通信可能に接続されている。このような側弯症診断支援装置100は、例えば、汎用のパーソナルコンピュータ、タブレット端末、スマートホンである。出力インタフェース1006、入力インタフェース1007は、ユーザインタフェースであって、出力インタフェース1006は例えば液晶パネルなどから構成され、入力インタフェース1007は例えばキーボード、マウス、タッチパネルなどから構成される。
これまで、本発明の一実施の形態に係る側弯症診断支援システムの構成について説明した。ここから、本実施の形態に係る側弯症診断支援装置102の動作の例について説明する。
第2形状取得部104は、ステップS101にて求められた近似矢状面に関して、ステップS101にて取得された関心領域情報が示す3次元形状と左右対称な3次元形状(鏡像)を示す鏡像情報を取得する(ステップS102)。
ここから、側弯角推定部108が側弯角を推定するための学習モデルについて説明する。
第1の学習モデルは、図9にその構成を示すように、Input層、Reshape層、MaxPooling層、Convolution層、ReLU層、Convolution層、ReLU層、Convolution層、ReLU層、Affine層、ReLU層、Affine層、HuberLoss層を順に含むCNNを用いた学習モデルである。
第2の学習モデルは、図10にその構成を示すように、第1の学習モデルのReshape層とMaxPooling層との間にImagu Augmentation層を含む。
第3の学習モデルは、図11にその構成を示すように、Imagu Augmentation層を含むとともに、3つのConvolution層の後にMaxPooling層を含む。
第4の学習モデルは、図11にその構成を示すように、Imagu Augmentation層を含むとともに、1回目のConvolution層の直後にMaxPooling層を含む。
ここから、学習済みの第1~第4の学習モデルを側弯角推定部108における側弯角の推定処理に採用した実施例について説明する。
実施例1に係る側弯症診断支援装置102では、側弯角推定部108が用いる学習モデルに第1の学習モデルによって学習をしたものを採用した。
実施例2に係る側弯症診断支援装置102では、側弯角推定部108が用いる学習モデルに第2の学習モデルによって学習をしたものを採用した。
実施例3に係る側弯症診断支援装置102では、側弯角推定部108が用いる学習モデルに第3の学習モデルによって学習をしたものを採用した。
実施例4に係る側弯症診断支援装置102では、側弯角推定部108が用いる学習モデルに第4の学習モデルによって学習をしたものを採用した。
実施例1~4で求められた推定側弯角の精度の検証にあたって、被験者の側弯の程度を示す非対称性指数から推定されるコブ角を比較例として採用した。
比較例に係る非対称性指数は、図33のフローチャートによって示される非対称性指数算出処理によって求めることができ、当該処理は、例えばプログラムをインストールしたコンピュータによって実行される。非対称性指数算出処理は、実施の形態と同様の被験者データを準備した後に行われる。
101 被験者データ生成装置
102 側弯症診断支援装置
103 第1形状取得部
104 第2形状取得部
105 偏差分布取得部
106 偏差分布記憶部
107 学習モデル記憶部
108 側弯角推定部
109 推定側弯角記憶部
110 表示部
111 出力制御部
112 実側弯角記憶部
113 学習部
114 被験者データ取得部
115 近似矢状面取得部
116 関心領域取得部
117 背中抽出部
118 主軸取得部
119 矢状面特定部
Claims (15)
- 被験者の背面のうちの関心領域の3次元形状を示す関心領域情報を取得する第1形状取得部と、
前記関心領域情報が示す3次元形状において前記被験者の矢状面に対応する面である近似矢状面を基準とする、前記関心領域情報が示す3次元形状の鏡像を示す鏡像情報を取得する第2形状取得部と、
前記関心領域情報が示す3次元形状と、前記鏡像情報が示す鏡像との間の偏差の分布を示す偏差分布情報を取得する偏差分布取得部と、
偏差分布情報を入力として側弯角の推定値である推定側弯角を出力する機械学習をした学習済みの学習モデルに基づいて、前記偏差分布情報を入力として前記被験者の推定側弯角を出力する側弯角推定部とを備える
ことを特徴とする側弯症診断支援装置。 - 前記偏差分布取得部は、前記関心領域情報が示す3次元形状と前記鏡像情報が示す鏡像とについて、前記近似矢状面を一致させた場合に冠状面に垂直な方向に並ぶ点の間の距離を前記偏差として求めることによって、前記偏差分布情報を取得する
ことを特徴とする請求項1に記載の側弯症診断支援装置。 - 前記第1形状取得部は、
前記被験者の背面の3次元形状を含む被験者データを取得する被験者データ取得部と、
前記被験者データに含まれる前記被験者の背面の3次元形状から、前記近似矢状面を求める近似矢状面取得部と、
前記被験者データに含まれる前記被験者の背面の3次元形状から、前記近似矢状面を基準として予め定められる領域である関心領域を抽出し、当該抽出した関心領域の3次元形状を示す関心領域情報を取得する関心領域取得部とを含む
ことを特徴とする請求項1又は2に記載の側弯症診断支援装置。 - 前記被験者データは、前記被験者の背面の3次元形状を表す複数の点と当該背面の色とを含み、
前記近似矢状面取得部は、
前記被験者データに含まれる前記被験者の背面の色と、当該背面から抽出すべき領域の色に関する条件である抽出条件とに基づいて、前記被験者データに含まれる前記被験者の背中の3次元形状を抽出する背中抽出部と、
前記背中の3次元形状を表す複数の点について主成分分析を施すことによって、当該複数の点が存在する空間において、前記被験者の上下方向の軸及び前後方向の軸のそれぞれに相当する2つの主軸を求める主軸取得部と、
前記求められた2つの主軸に基づいて、前記近似矢状面を求める矢状面特定部とを含む
ことを特徴とする請求項3に記載の側弯症診断支援装置。 - 請求項1から4のいずれか1項に記載の側弯症診断支援装置と、
前記被験者の後ろ姿の3次元形状を示す被験者データを生成する被験者データ生成装置とを備え、
前記第1形状取得部は、前記被験者データに基づいて前記関心領域情報を取得する
ことを特徴とする側弯症診断支援システム。 - 請求項1から5のいずれか1項に記載の学習モデルを学習する機械学習装置であって、
複数の被験者から得られた前記偏差分布情報と、前記複数の被験者の各々について測定された側弯角である実側弯角を教師データとに基づいて、Max Pooling層と、3つのConvolution層とを含む畳み込みニューラルネットワークを用いて、前記推定側弯角を出力する前記学習モデルを学習する学習部を備える
ことを特徴とする機械学習装置。 - 前記畳み込みニューラルネットワークは、前記Max Pooling層の後に少なくとも1つのConvolution層を含む
ことを特徴とする請求項6に記載の機械学習装置。 - 前記Max Pooling層は、3つの前記Convolution層の前に含まれる
ことを特徴とする請求項7に記載の機械学習装置。 - 前記畳み込みニューラルネットワークは、前記Max Pooling層の前にImagu Augmentation層をさらに含む
ことを特徴とする請求項7に記載の機械学習装置。 - 前記畳み込みニューラルネットワークは、1回目の前記Convolution層の前にImagu Augmentation層をさらに含み、当該1回目のConvolution層の後に前記Max Pooling層を含む
ことを特徴とする請求項7に記載の機械学習装置。 - 前記畳み込みニューラルネットワークは、3つの前記Convolution層の前にImagu Augmentation層をさらに含み、前記3つのConvolution層の後に前記Max Pooling層を含む
ことを特徴とする請求項6に記載の機械学習装置。 - 被験者の背面のうちの関心領域の3次元形状を示す関心領域情報を取得することと、
前記関心領域情報が示す3次元形状において前記被験者の矢状面に対応する面である近似矢状面を基準とする、前記関心領域情報が示す3次元形状の鏡像を示す鏡像情報を取得することと、
前記関心領域情報が示す3次元形状と、前記鏡像情報が示す鏡像との間の偏差の分布を示す偏差分布情報を取得することと、
偏差分布情報を入力として側弯角の推定値である推定側弯角を出力する機械学習をした学習済みの学習モデルに基づいて、前記偏差分布情報を入力として前記被験者の推定側弯角を出力することとを含む
ことを特徴とする側弯症診断支援方法。 - 請求項10に記載の学習モデルを学習する機械学習方法であって、
複数の被験者から得られた前記偏差分布情報と、前記複数の被験者の各々について測定された側弯角である実側弯角を教師データとに基づいて、Maxpooling層と、3つのConvolution層とを含む畳み込みニューラルネットワークを用いて、前記推定側弯角を出力する前記学習モデルを学習することを含む
ことを特徴とする機械学習方法。 - コンピュータに、
被験者の背面のうちの関心領域の3次元形状を示す関心領域情報を取得することと、
前記関心領域情報が示す3次元形状において前記被験者の矢状面に対応する面である近似矢状面を基準とする、前記関心領域情報が示す3次元形状の鏡像を示す鏡像情報を取得することと、
前記関心領域情報が示す3次元形状と、前記鏡像情報が示す鏡像との間の偏差の分布を示す偏差分布情報を取得することと、
偏差分布情報を入力として側弯角の推定値である推定側弯角を出力する機械学習をした学習済みの学習モデルに基づいて、前記偏差分布情報を入力として前記被験者の推定側弯角を出力することとを、実行させるためのプログラム。 - コンピュータに、請求項12に記載の学習モデルを学習させるためのプログラムであって、
複数の被験者から得られた前記偏差分布情報と、前記複数の被験者の各々について測定された側弯角である実側弯角を教師データとに基づいて、Max Pooling層と、3つのConvolution層とを含む畳み込みニューラルネットワークを用いて、前記推定側弯角を出力する前記学習モデルを学習することを、実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020145623A JP2022040763A (ja) | 2020-08-31 | 2020-08-31 | 側弯症診断支援装置、側弯症診断支援システム、機械学習装置、側弯症診断支援方法、機械学習方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020145623A JP2022040763A (ja) | 2020-08-31 | 2020-08-31 | 側弯症診断支援装置、側弯症診断支援システム、機械学習装置、側弯症診断支援方法、機械学習方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022040763A true JP2022040763A (ja) | 2022-03-11 |
Family
ID=80499470
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020145623A Pending JP2022040763A (ja) | 2020-08-31 | 2020-08-31 | 側弯症診断支援装置、側弯症診断支援システム、機械学習装置、側弯症診断支援方法、機械学習方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022040763A (ja) |
-
2020
- 2020-08-31 JP JP2020145623A patent/JP2022040763A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5849048B2 (ja) | 側弯症評価のための三次元(3d)超音波撮像システム | |
CN112861598B (zh) | 用于人体模型估计的系统和方法 | |
JP6000705B2 (ja) | データ処理装置及びデータ処理方法 | |
CA3042819A1 (en) | Method and system for postural analysis and measuring anatomical dimensions from a digital image using machine learning | |
JP6741305B2 (ja) | 脊椎骨姿勢推定装置 | |
EP2506221A2 (en) | Image processing apparatus, ultrasonic photographing system, image processing method, program, and storage medium | |
US20110262015A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP6014931B2 (ja) | 視線計測方法 | |
CN102727204B (zh) | 信息处理设备、信息处理方法和摄像系统 | |
CN106061379A (zh) | 处理设备、处理方法及程序 | |
KR101432651B1 (ko) | 적외선 체열 검출 및 분석 방법 | |
CHOI et al. | CNN-based spine and Cobb angle estimator using moire images | |
Huang et al. | Scoliotic imaging with a novel double-sweep 2.5-dimensional extended field-of-view ultrasound | |
Reyes et al. | Automatic digital biometry analysis based on depth maps | |
JP6488536B2 (ja) | 側弯症診断支援装置、側弯症診断支援方法及びプログラム | |
JP6888041B2 (ja) | 医用矢状面画像を取得する方法、医用矢状面画像を取得するニューラルネットワークのトレーニング方法及びコンピュータ装置 | |
KR102514246B1 (ko) | 머신러닝에 기반한 x-선 상 척추 회전각도 측정시스템 및 이를 이용한 측정방법 | |
JP6995535B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN114299015A (zh) | 一种确定脊柱侧弯角度的方法及装置 | |
US11610305B2 (en) | Method and system for postural analysis and measuring anatomical dimensions from a radiographic image using machine learning | |
Adankon et al. | Scoliosis follow-up using noninvasive trunk surface acquisition | |
JP2022040763A (ja) | 側弯症診断支援装置、側弯症診断支援システム、機械学習装置、側弯症診断支援方法、機械学習方法及びプログラム | |
Liang et al. | 3d spine model reconstruction based on rgbd images of unclothed back surface | |
CHOI et al. | Measurement of vertebral rotation from moire image for screening of adolescent idiopathic scoliosis | |
Moura et al. | Real-scale 3D models of the scoliotic spine from biplanar radiography without calibration objects |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230627 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20231122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231213 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20240126 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240202 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20240124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20240129 |