JP2018047035A - 医療支援方法および医療支援装置 - Google Patents

医療支援方法および医療支援装置 Download PDF

Info

Publication number
JP2018047035A
JP2018047035A JP2016184602A JP2016184602A JP2018047035A JP 2018047035 A JP2018047035 A JP 2018047035A JP 2016184602 A JP2016184602 A JP 2016184602A JP 2016184602 A JP2016184602 A JP 2016184602A JP 2018047035 A JP2018047035 A JP 2018047035A
Authority
JP
Japan
Prior art keywords
information
medical
subject
dimensional
texture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016184602A
Other languages
English (en)
Other versions
JP6795744B2 (ja
Inventor
金子 直樹
Naoki Kaneko
直樹 金子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jichi Medical University
Original Assignee
Jichi Medical University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jichi Medical University filed Critical Jichi Medical University
Priority to JP2016184602A priority Critical patent/JP6795744B2/ja
Publication of JP2018047035A publication Critical patent/JP2018047035A/ja
Application granted granted Critical
Publication of JP6795744B2 publication Critical patent/JP6795744B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Image Generation (AREA)

Abstract

【課題】手術前の準備を短時間で行うことができ;手術室、病棟などに持ち運ぶことができ、病変の立体的位置などを手術の際に外科医等が直観的に認識しやすいような現実味のある画像で表示でき、且つ安価な医療支援装置および医療支援方法を提供する。
【解決手段】被験者の医用3次元情報を取得し、前記被検者のテクスチャ3次元情報を取得し、前記被験者の外観特徴部3次元情報を取得し、前記外観特徴部3次元情報に前記医用3次元情報および前記テクスチャ3次元情報をマッピングし、マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させて表示することを含む、医療支援方法。
【選択図】図3

Description

本発明は、医療支援方法および医療支援装置に関する。より詳細に、手術前の準備を短時間で行うことができ;手術室、病棟などに簡単に運び入れて利用することができ、病変の立体的位置などを手術の際に外科医等が直観的に認識しやすいような現実味のある画像で表示でき、且つ安価な医療支援装置および医療支援方法に関する。
外科処置対象部位の3次元位置情報を手術中に計測し、これを手術前に撮影したCTやMRIの画像の上に重畳表示することで、病変(例えば、脳腫瘍等)の立体的位置やその拡がり、周囲脳組織との位置関係をとらえやすくし、当該手術を成功へと導くための支援装置、例えば、脳神経外科の手術の支援のために開発されたニューロナビゲータが知られている。
さらに、ニューロナビゲータに類似する医療支援装置または医療支援方法が種々提案されている。
例えば、特許文献1は、外科処置対象部位を含む患者の術野に設けられたAR認識用マーカと、前記術野を前記AR認識用マーカとともに撮影するカメラと、前記カメラで撮影中の映像を表示するディスプレイと、前記ディスプレイ上に表示される前記カメラが撮影中の映像に、前記外科処置対象部位についての3次元的位置情報を、撮影中の前記AR認識用マーカの位置及び姿勢に基づいて重畳して表示するAR画像処理装置と、を備える、ことを特徴とする医療支援装置を開示している。
特許文献2は、対象のレンダリング3DコンピュータMRI画像を生成する方法であって、少なくとも1つの第1のタイプの光子検出器及び少なくとも1つの第2のタイプの光子検出器を、少なくとも1つのMRI装置内の関心体積(VOI)からほぼ等距離のところで、同一の又は異なる幾何学的球面上に層状に配置する、又は組み立てるステップと、対象を前記VOI内に配置し、前記対象の少なくとも1つのMRI画像、少なくとも1つの第1の光学画像及び少なくとも1つの第2の光学画像を同時に得るステップと、画像プロセッサによって、前記対象の前記MRI画像、前記第1の光学画像及び前記第2の光学画像を重畳することによって、前記対象のレンダリングMRI画像を生成するステップとを含むことを特徴とする方法を開示している。
特許文献3は、磁場印加部と、所定のパルスシーケンスに基づいて、前記磁場印加部を介して、複数の励起パルスと傾斜磁場パルスを被検者に印加し、受信される前記被検者からのエコー信号の処理を行う制御部と、前記被検者の外観特徴点を検出する検出部とを備え、前記制御部は前記検出部が検出した前記外観特徴点の中で、前記被検者の検査項目に対応する外観特徴点を決定し、決定した前記外観特徴点を基準として前記被検者内部の特徴部位の計測位置・回転量を算出し、算出した前記計測位置・回転量に基づき、計測条件を決定する、ことを特徴とするMRI装置を開示している。
特許文献4は、手術室の所定の位置に赤外線を射出し、所定の間隔で配置されたマーカ群からの反射光を受光する撮像部を有するモーションキャプチャ装置を少なくとも3カ所に配置し、 手術を受ける患者の患部に所定の第1画像を重畳表示する画像表示装置を有し、前記モーションキャプチャ装置で計測された前記マーカ群の座標位置及び回転量に応じて患者の患部と重畳表示画像を変化させる画像表示装置を有する外科手術システムにおいて、 前記画像表示装置は、前記患部の画像を撮るカメラ部、及び前記患部の深度を計測するディプスカメラ部、更には前記第1マーカ群を有する ことを特徴とした外科手術システム用画像表示装置を開示している。
特開2014−131552号公報 特開2014− 39818号公報 特開2015−159916号公報 特開2016−158911号公報
ところが、ニューロナビゲーションシステムなどは、非常に高価であり、また、事前準備が煩雑で時間がかかることがあるので救急医療への適用が難しい。ニューロナビゲーションシステムは、手術室でしか利用できず、モニターへの表示は、無機質で、病変の位置関係を直感的瞬時に認識し難い。
本発明の課題は、手術前の準備を短時間で行うことができ;手術室、病棟などに簡単に運び入れて利用することができ、病変の立体的位置などを手術の際に外科医等が直観的に認識しやすいような現実味のある画像で表示でき、且つ安価な医療支援装置および医療支援方法を提供することである。
上記課題を解決すべく鋭意検討した結果、下記の形態を包含する本発明を完成するに至った。
〔1〕被験者の医用3次元情報を取得し、
前記被検者のテクスチャ3次元情報を取得し、
前記被験者の外観特徴部3次元情報を取得し、
前記外観特徴部3次元情報に前記医用3次元情報および前記テクスチャ3次元情報をマッピングし、
マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させて表示することを含む、
医療支援方法。
〔2〕外観特徴部3次元情報が被験者の眼、耳、鼻、口、眉、顎、乳頭、および臍;体表の色調変化、輪郭、隆起および陥凹;ならびに術野で観察される血管、神経、筋、腱、骨表上の縫合線、隆起および陥凹、から選ばれる少なくとも一つの3次元位置データを含むものである、〔1〕に記載の医療支援方法。
〔3〕外観特徴部3次元情報の取得を機械学習アルゴリズムを用いて行う、〔1〕または〔2〕に記載の医療支援方法。
〔4〕被験者の医用3次元情報を取得し、
前記被検者のテクスチャ3次元情報を取得し、
前記被験者の医用3次元情報に前記被験者のテクスチャ3次元情報をマッピングし、
マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させて表示することを含む、
医療支援方法。
〔5〕医用3次元情報がMRIまたはCTで測定されたデータを含むものであり、
テクスチャ3次元情報がCCDで測定されたデータを含むものである。〔1〕〜〔4〕のいずれはひとつに記載の医療支援方法。
〔6〕ディスプレイ、
ディスプレイに取り付けられた測量器、
前記測量器で取得した被験者の外観特徴部3次元情報に、被験者の医用3次元情報および被験者のテクスチャ3次元情報を、マッピングするための手段、および
マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させてディスプレイに表示させる手段を有する、
医療支援装置。
〔7〕測量器が測距機能を有するものである、〔6〕に記載の医療支援装置。
本発明の医療支援装置および医療支援方法は、手術前の準備を短時間で行うことができ、手術室、病棟などに簡単に運び入れて利用することができ、病変の立体的位置などを手術の際に外科医等が直観的に認識しやすいような現実味のある画像で表示でき、且つ安価である。本発明の医療支援装置および医療支援方法によって、被験者の病変部の位置と、被験者の外観位置との関係をシースルーにて重ねて表示させることができる。さらに、本発明の医療支援装置および医療支援方法は、搬送性に優れるので、無線通信若しくは有線通信、インターネット等を利用して僻地などの遠隔地における医療を支援することができる。本発明の医療支援装置および医療支援方法は、マーカや高価なモーションキャプチャなどを使用せずに実施できるので準備時間の短縮化を図れる。
被験者頭部のテクスチャ3次元情報の一例を示す図である。 被験者頭部の医用3次元情報の一例を示す図である。 本発明の医療支援方法を実施したときに表示される像の一例を示す図である。
本発明の医療支援方法は、被験者の医用3次元情報を取得し、前記被検者のテクスチャ3次元情報を取得し、前記被験者の医用3次元情報に前記被験者のテクスチャ3次元情報をマッピングし、マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させて表示することを含むものである。
また、本発明の医療支援方法は、被験者の医用3次元情報を取得し、前記被検者のテクスチャ3次元情報を取得し、前記被験者の外観特徴部3次元情報を取得し、前記外観特徴部3次元情報に前記医用3次元情報および前記テクスチャ3次元情報をマッピングし、マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させて表示することを含むものである。
被験者の医用3次元情報は、例えば、MRI(Magnetic Resonanse Imaging;磁気共鳴画像法)、CT(Computed Tomography:コンピュータ断層診断装置)などの医療診断装置によって取得できる。被験者の医用3次元情報は、特に、MRIまたはCTで測定されたデータが好ましい。該データには、血管(例えば、正常動脈2、異常な静脈の拡張3、動静脈短絡部位4など)、血管瘤、腫瘍、内部臓器などの3次元画像が含まれる。本発明によれば、それら3次元画像を、別々にまたは重ねて表示することができる。
被験者のテクスチャ3次元情報は、例えば、光学式カメラ、3Dカメラ、ディプスカメラなどのCCD(Charge Coupled Device:電荷結合素子)を具えた装置によって、取得することができる。テクスチャの貼り付け方としては、単純にカメラ方向から対象物にテクスチャを投影するだけの方法や、UV座標などによって対象物へのテクスチャの投影を設定する方法がある。これらのうち、UV座標などのテクスチャ座標によってモデルへのテクスチャの投影を設定する方法が好ましい。テクスチャ座標は、2次元ベクトル、または3次元ベクトルで示され、ベクトルの成分は多くの場合U、V、Wで示される。U、V,W座標は、ピクセル毎に指定してもよいが、医用3次元情報またはテクスチャ3次元情報の中での特定点、例えば、皮膚表面の凹凸、テクスチャから得られる情報など、を指定し、指定された特定点で計算し、特定点間のピクセルを線形補間することによって、画像処理速度を高めることができる。マッピングの手法は特に制限されず、平面マッピング、円筒マッピング、球体マッピングなどを採用することができる。
本発明においては、さらに被験者の外観特徴部3次元情報を取得する。外観特徴部としては、例えば、眼、耳、鼻、口、眉、顎、乳頭、若しくは臍、または体表上の輪郭、隆起若しくは陥凹、またはホクロ、シミ、母斑、色素沈着、毛髪、血管による色調変化若しくは隆起などを挙げることができる。さらに、術野で観察される血管、神経、筋、腱、骨表上の縫合線、隆起および陥凹などを挙げることができる。外観特徴部3次元情報には外観特徴部の3次元位置データ、色彩データなどが包含される。これらのうち、被験者の眼、耳、鼻、口、眉、顎、乳頭、および臍、ならびに体表上の輪郭、隆起および陥凹から選ばれる少なくとも一つを含むものであることが好ましい。また、このような外観特徴部を認識させるために、機械学習アルゴリズム、特に深層学習アルゴリズムを用いることができる。
そして、外観特徴部3次元情報に、前記医用3次元情報および前記テクスチャ3次元情報をマッピングする。マッピングの手法は特に制限されない。例えば、外観特徴部の3次元位置データに、医用3次元情報およびテクスチャ3次元情報中の外観特徴部の位置に相当する座標を貼りつける。医用3次元情報およびテクスチャ3次元情報を取得した時の被験者の姿勢における外観特徴部の座標から、手術時の被験者の姿勢における外観特徴部の座標に変換することによって、マッピングされた医用3次元情報およびテクスチャ3次元情報が手術時の被験者の姿勢に一致した状態で表示できる。
人体を開くと筋肉、皮膚などが変形するので、手術前に取得した病変の位置とは異なる位置に病変が移動する。そこで、筋肉、関節、皮膚などの解剖学的人体モデルを利用して、手術前に取得した病変の3次元位置情報から、手術において人体を開いたときに見えるであろう病変の3次元位置関係を、ボクセルなどを使ってシミュレートし、手術時における病変の位置を推定して示すことができる。
マッピングされた情報は、公知のディスプレイに表示することができる。ディスプレイは、デスクトップ型などのような固定設置式ディスプレイ、ラップトップ型、ノート型、タブレット型などのようなモバイル式ディスプレイのいずれでもよい。ディスプレイは、シースルー型ディスプレイが好ましい。シースルー型ディスプレイは、例えば、ハーフミラーによって、被験者の実像を透過光で観察し、マッピングされた情報などを反射光で表示できる。また、片目のみにディスプレイ装置がついているものもある。ホログラフィック素子を用いたディスプレイを用いることもできる。眼鏡レンズに導光板を配置し、該導光板に映像を投影することができるディスプレイであってもよい。ヘッドマウントディスプレイは、手術者の両手をフリーにでき、また、光学シースルーヘッドマウントディスプレイは、手術者が被験者を見たときに、そこにマッピングされた情報を重ねて表示させることができるので、スピーディーな手術を支援できる。ディスプレイに取り付けられた測量器、好ましくは測距機能を具えた装置(3Dカメラ、デプスカメラなど)が、被験者の外観特徴部3次元情報をリアルタイムに入手し、その最新外観特徴部3次元情報に医用3次元情報およびテクスチャ3次元情報をマッピングすることによって、手術中にも、最新の病変位置を確認することができる。
本発明は、上記の実施形態に限定されず、本発明の趣旨の範囲内で、修正、追加、省略することができ、または周知慣用の技術を追加することができる。

Claims (7)

  1. 被験者の医用3次元情報を取得し、
    前記被検者のテクスチャ3次元情報を取得し、
    前記被験者の外観特徴部3次元情報を取得し、
    前記外観特徴部3次元情報に前記医用3次元情報および前記テクスチャ3次元情報をマッピングし、
    マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させて表示することを含む、
    医療支援方法。
  2. 外観特徴部3次元情報が被験者の眼、耳、鼻、口、眉、顎、乳頭、および臍;体表の色調変化、輪郭、隆起および陥凹;ならびに術野で観察される血管、神経、筋、腱、骨表上の縫合線、隆起および陥凹、から選ばれる少なくとも一つの3次元位置データを含むものである、請求項1に記載の医療支援方法。
  3. 外観特徴部3次元情報の取得を機械学習アルゴリズムを用いて行う、請求項1または2に記載の医療支援方法。
  4. 被験者の医用3次元情報を取得し、
    前記被検者のテクスチャ3次元情報を取得し、
    前記被験者の医用3次元情報に前記被験者のテクスチャ3次元情報をマッピングし、
    マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させて表示することを含む、医療支援方法。
  5. 医用3次元情報がMRIまたはCTで測定されたデータを含むものであり、
    テクスチャ3次元情報がCCDで測定されたデータを含むものである。請求項1〜4のいずれはひとつに記載の医療支援方法。
  6. ディスプレイ、
    ディスプレイに取り付けられた測量器、
    前記測量器で取得した被験者の外観特徴部3次元情報に、被験者の医用3次元情報および被験者のテクスチャ3次元情報を、マッピングするための手段、および
    マッピングされた前記医用3次元情報および前記テクスチャ3次元情報を重畳させてディスプレイに表示させる手段を有する、
    医療支援装置。
  7. 測量器が測距機能を有するものである、請求項6に記載の医療支援装置。
JP2016184602A 2016-09-21 2016-09-21 医療支援方法および医療支援装置 Active JP6795744B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016184602A JP6795744B2 (ja) 2016-09-21 2016-09-21 医療支援方法および医療支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016184602A JP6795744B2 (ja) 2016-09-21 2016-09-21 医療支援方法および医療支援装置

Publications (2)

Publication Number Publication Date
JP2018047035A true JP2018047035A (ja) 2018-03-29
JP6795744B2 JP6795744B2 (ja) 2020-12-02

Family

ID=61766731

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016184602A Active JP6795744B2 (ja) 2016-09-21 2016-09-21 医療支援方法および医療支援装置

Country Status (1)

Country Link
JP (1) JP6795744B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021019967A (ja) * 2019-07-30 2021-02-18 春仁 上園 拡張現実情報表示方法、手術支援装置、及びプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000308628A (ja) * 1999-03-22 2000-11-07 General Electric Co <Ge> 曲率を用いた表面のレジスタリング方法
JP2008532602A (ja) * 2005-03-11 2008-08-21 ブラッコ・イメージング・ソシエタ・ペル・アチオニ 外科手術ナビゲーションと顕微鏡による可視化の方法と装置
WO2009116663A1 (ja) * 2008-03-21 2009-09-24 Takahashi Atsushi 三次元デジタル拡大鏡手術支援システム
WO2012121341A1 (ja) * 2011-03-09 2012-09-13 国立大学法人大阪大学 画像データ処理装置および経頭蓋磁気刺激装置
JP2014225105A (ja) * 2013-05-15 2014-12-04 国立大学法人 東京大学 画像処理装置及びプログラム
WO2016019576A1 (en) * 2014-08-08 2016-02-11 Carestream Health, Inc. Facial texture mapping to volume image

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000308628A (ja) * 1999-03-22 2000-11-07 General Electric Co <Ge> 曲率を用いた表面のレジスタリング方法
JP2008532602A (ja) * 2005-03-11 2008-08-21 ブラッコ・イメージング・ソシエタ・ペル・アチオニ 外科手術ナビゲーションと顕微鏡による可視化の方法と装置
WO2009116663A1 (ja) * 2008-03-21 2009-09-24 Takahashi Atsushi 三次元デジタル拡大鏡手術支援システム
WO2012121341A1 (ja) * 2011-03-09 2012-09-13 国立大学法人大阪大学 画像データ処理装置および経頭蓋磁気刺激装置
JP2014225105A (ja) * 2013-05-15 2014-12-04 国立大学法人 東京大学 画像処理装置及びプログラム
WO2016019576A1 (en) * 2014-08-08 2016-02-11 Carestream Health, Inc. Facial texture mapping to volume image

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021019967A (ja) * 2019-07-30 2021-02-18 春仁 上園 拡張現実情報表示方法、手術支援装置、及びプログラム

Also Published As

Publication number Publication date
JP6795744B2 (ja) 2020-12-02

Similar Documents

Publication Publication Date Title
US20170296292A1 (en) Systems and Methods for Surgical Imaging
AU2016290620B2 (en) System and method for scanning anatomical structures and for displaying a scanning result
KR101572487B1 (ko) 환자와 3차원 의료영상의 비침습 정합 시스템 및 방법
US20220405935A1 (en) Augmented reality patient positioning using an atlas
CN106687046B (zh) 用于定位进行医学成像的患者的引导系统
US20140031668A1 (en) Surgical and Medical Instrument Tracking Using a Depth-Sensing Device
Ferrari et al. A 3-D mixed-reality system for stereoscopic visualization of medical dataset
KR102105974B1 (ko) 의료 영상 시스템
EP1804705A1 (en) Aparatus for navigation and for fusion of ecographic and volumetric images of a patient which uses a combination of active and passive optical markers
WO2012045626A1 (en) Image projection system for projecting image on the surface of an object
Reiter et al. Surgical structured light for 3D minimally invasive surgical imaging
KR102476832B1 (ko) 증강현실 의료영상을 제공하기 위한 사용자 단말기 및 증강현실 의료영상 제공 방법
KR101993384B1 (ko) 환자의 자세 변화에 따른 의료 영상을 보정하는 방법, 장치 및 시스템
JP2016524478A (ja) 画像データを立体視表示するための方法及び装置
JP2022517246A (ja) 超音波像とx線像とを融合させるための実時間追跡
KR20160057024A (ko) 마커리스 3차원 객체추적 장치 및 그 방법
JP6795744B2 (ja) 医療支援方法および医療支援装置
KR101635731B1 (ko) 사람의 체내 구조물을 가시화하는 가시화 시스템 및 방법
DeLisi et al. Image‐guided transorbital procedures with endoscopic video augmentation
JP7486603B2 (ja) 拡張現実画像上に医用スキャン画像情報を補う方法及びシステム
US20230248441A1 (en) Extended-reality visualization of endovascular navigation
Galantucci et al. 3D Face measurement and scanning using digital close range photogrammetry: evaluation of different solutions and experimental approaches
US20230015717A1 (en) Anatomical scanning, targeting, and visualization
US11918294B2 (en) Virtual trajectory planning
US20240122650A1 (en) Virtual trajectory planning

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190719

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200428

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200827

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200929

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201006

R150 Certificate of patent or registration of utility model

Ref document number: 6795744

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250