JP2010259497A - 網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法 - Google Patents

網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法 Download PDF

Info

Publication number
JP2010259497A
JP2010259497A JP2009110903A JP2009110903A JP2010259497A JP 2010259497 A JP2010259497 A JP 2010259497A JP 2009110903 A JP2009110903 A JP 2009110903A JP 2009110903 A JP2009110903 A JP 2009110903A JP 2010259497 A JP2010259497 A JP 2010259497A
Authority
JP
Japan
Prior art keywords
marker
coordinate system
dimensional
rphmd
operator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009110903A
Other languages
English (en)
Other versions
JP5476036B2 (ja
Inventor
Satoru Yamaguchi
哲 山口
Yasushi Otani
恭史 大谷
Yasuharu Somura
泰治 荘村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bionic
BIONIC CO Ltd
Osaka University NUC
Original Assignee
Bionic
BIONIC CO Ltd
Osaka University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bionic, BIONIC CO Ltd, Osaka University NUC filed Critical Bionic
Priority to JP2009110903A priority Critical patent/JP5476036B2/ja
Publication of JP2010259497A publication Critical patent/JP2010259497A/ja
Application granted granted Critical
Publication of JP5476036B2 publication Critical patent/JP5476036B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Dental Prosthetics (AREA)
  • Dental Tools And Instruments Or Auxiliary Dental Instruments (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

【課題】患者の口腔内にインプラントを埋入する歯科インプラント手術を、術前シミュレーションイメージを用いて効果的に支援することができるとともに、術者に生じる不安感を抑制することができる手術ナビゲーションシステムを提供する。
【解決手段】手術ナビゲーションシステムは、術者の網膜に映像を投影する網膜投影型ヘッドマウントディスプレイ装置と、拡張現実感技術とを応用し、術前シミュレーションイメージを網膜投影型ヘッドマウントディスプレイ装置により術者の網膜に投影して、術者の実視野における患者の術部に重ね合わせることで、術部と術前シミュレーションイメージを同時に見ながら安心して手術を行うことが可能となる。
【選択図】図1

Description

本発明は、患者の口腔内にインプラントを埋入する歯科インプラント手術を、術前シミュレーションイメージを用いて支援する、手術ナビゲーションシステムに関する。
近年、歯科医療においてデンタルインプラントは欠損歯の補綴治療においてきわめて有効な方法の一つとして確立されている。それとともに、歯科医療においては、骨量・骨質の不十分な症例や、審美的な要求の高い難症例が増加している。そのような症例に対して正確かつ安全な手術を実現するため、これまでに様々な術前シミュレーションシステムおよび手術支援システムが開発されている(例えば、特許文献1、2および非特許文献1参照)。
特表2007−518540号公報 特開2008−126063号公報
Nardy Casap, et.al., "Navigation Surgery for Dental Implants: Assesment of Accuracy of the Image Guided Implantology System", Journal of Oral Maxillofacial Surgery, Vol.62, suppl.2, pp.116−119, 2004.
従来の歯科インプラント手術ナビゲーションシステムでは、手術台の横に配置されたモニタに、シミュレーションイメージを表示させることで、歯科インプラント手術における手術ナビゲーションを行うというものである。したがって、このような従来の手術ナビゲーションシステムでは、術者(医師)は、患者の口腔内の術部とモニタとを交互に見ながら、口腔内という狭い環境の中で器具の操作を行わなければならず、術者の不安が生じるという課題がある。
従って、本発明の目的は、上記課題を解決することにあって、患者の口腔内にインプラントを埋入する歯科インプラント手術を、術前シミュレーションイメージを用いて効果的に支援することができるとともに、術者に生じる不安感を抑制することができる網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法を提供することにある。
上記目的を達成するために、本発明は以下のように構成する。
本発明の第1態様によれば、術者の顔に取り付けられ、術者の網膜に対して映像を投影する網膜投影型ヘッドマウントディスプレイ装置(以下「RPHMD装置」とする)と、
患者の口腔内に固定される第1マーカおよびRPHMD装置に固定される第2マーカの3次元位置姿勢を測定する3次元位置計測装置と、
第1マーカとの間の相対的な3次元位置姿勢が関連付けられたインプラントの3次元シミュレーションイメージ情報と、インプラントと第1マーカとの間の3次元位置姿勢と、第2マーカの位置に関係付けられた3次元座標系であるRPHMD装置座標系から術者の網膜における2次元座標系である術者視野座標系への変換を行うための座標系変換情報と、を保持する情報保持装置と、
3次元位置計測装置により計測された、第1マーカおよび第2マーカの位置姿勢と、情報保持装置に保持されている3次元位置姿勢および座標系変換情報とを用いて、インプラントの3次元シミュレーションイメージ情報の座標系を術者視野座標系に変換して、変換されたシミュレーションイメージ情報をRPHMD装置により術者の網膜に投影させて、術者の実視野にて取得される患者の口腔内の術部の実像にシミュレーションイメージを重ね合わせる演算処理装置とを備えることを特徴とする、網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムを提供する。
本発明の第2態様によれば、3次元位置計測装置により取得されたキャリブレーション用マーカの3次元位置座標および第2マーカの3次元位置座標に基づいて、キャリブレーション用マーカのRPHMD装置座標系における3次元座標値を取得する第1手順と、
RPHMD装置により術者の網膜に投影されたカーソルが術者により操作されて、術者の実視野におけるキャリブレーション用マーカの位置に重なるように配置されたカーソルの2次元位置座標を、術者視野座標系におけるキャリブレーション用マーカの2次元位置座標値として取得する第2手順と、
第1手順および第2手順を少なくとも6回実施することにより取得された、キャリブレーション用マーカについてのRPHMD装置座標系の3次元座標値と術者視野座標系の2次元座標値との少なくとも6組の位置座標に基づいて、座標系変換情報を算出する第3手順と、を演算処理装置に実行させるキャリブレーション用プログラムをさらに備える、第1態様に記載の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムを提供する。
本発明の第3態様によれば、少なくとも1つのキャリブレーション用マーカと、患者の口腔内に固定される第1マーカとが兼用されて、キャリブレーション用プログラムにおける第1手順または第2手順の実行と、術者の実視野にて取得される患者の口腔内の術部へのシミュレーションイメージの重ね合わせとが、演算処理装置により同時に実施される、第2態様に記載の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムを提供する。
本発明の第4態様によれば、キャリブレーション用プログラムにおける第3手順において、第1手順および第2手順を少なくとも15回実施して、少なくとも15組の位置座標を取得し、最小二乗法を用いて、少なくとも15組の位置座標から少なくとも10組の位置座標を選定し、少なくとも10組の位置座標に基づいて座標系変換情報を算出する手順をさらに含む、第2態様または第3態様に記載の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムを提供する。
本発明の第5態様によれば、3次元位置計測装置は、術者が把持する術用工具に固定された第3マーカの3次元位置姿勢を計測可能であって、
演算処理装置は、3次元位置計測装置により計測された、第3マーカの3次元位置姿勢および第2マーカの3次元位置姿勢と、情報保持装置に保持されているインプラントの3次元シミュレーションイメージ情報とに基づいて、インプラントの3次元シミュレーションイメージ情報におけるインプラントの埋入位置と、術用工具の位置姿勢との間の位置ズレを補正するための位置ズレ補正情報を算出し、座標系変換情報を用いて、算出された位置ズレ補正情報を、RPHMD装置によりシミュレーションイメージ情報とともに術者の網膜に投影する、第1態様から第4態様のいずれか1つに記載の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムを提供する。
本発明の第6態様によれば、患者の口腔内に固定された第1マーカと、術者の網膜に対して映像を投影する術者の顔に取り付けられた網膜投影型ヘッドマウントディスプレイ(以下「RPHMD装置」とする)に対して固定された第2マーカとの3次元位置姿勢をそれぞれ測定し、
第1マーカおよび第2マーカの3次元位置姿勢と、インプラントと第1マーカとの間の3次元位置姿勢と、第2マーカの位置に関係付けられた3次元座標系であるRPHMD装置座標系から術者の網膜における2次元座標系である術者視野座標系への変換を行うための座標系変換情報とを用いて、インプラントの3次元シミュレーションイメージ情報の3次元座標系を術者視野座標系に変換し、
変換されたシミュレーションイメージ情報をRPHMD装置により術者の網膜に投影して、術者の実視野にて取得される患者の口腔内の術部の実像にシミュレーションイメージを重ね合わせることを特徴とする、網膜投影型ヘッドマウントディスプレイ装置を用いたシミュレーションイメージの重ね合わせ方法を提供する。
本発明の第7態様によれば、3次元位置計測装置により取得されたキャリブレーション用マーカの3次元位置座標および第2マーカの3次元位置座標に基づいて、キャリブレーション用マーカのRPHMD装置座標系における3次元座標値を取得する第1工程と、
RPHMD装置により術者の網膜に投影されたカーソルが術者により操作されて、術者の実視野におけるキャリブレーション用マーカの位置に重なるように配置されたカーソルの2次元位置座標を、術者視野座標系におけるキャリブレーション用マーカの2次元座標値として取得する第2工程と、
第1工程および第2工程を少なくとも6回実施することにより取得された、キャリブレーション用マーカについてのRPHMD装置座標系の3次元座標値と術者視野座標系の2次元座標値との少なくとも6組の位置座標に基づいて、座標系変換情報を算出する第3工程とを実施した後、
第3工程にて算出された座標系変換情報を用いて、インプラントの3次元シミュレーションイメージ情報の3次元座標系を術者視野座標系に変換する、第6態様に記載の網膜投影型ヘッドマウントディスプレイ装置を用いたシミュレーションイメージの重ね合わせ方法を提供する。
本発明の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムによれば、従来のように別置きのモニタを用いるのではないため、術者が歯科インプラント手術中に、シミュレーションイメージを視認するために、患者の口腔外へ視線を移動する必要がなく、術中における術者への不安感を取り除くことができる。
具体的には、患者の口腔内に固定された第1マーカと、術者の顔に取り付けられた網膜投影型ヘッドマウントディスプレイ装置に対して固定された第2マーカとの3次元位置姿勢を、3次元位置計測装置によりそれぞれ計測し、計測された第1マーカおよび第2マーカの3次元位置姿勢と、インプラントと第1マーカとの間の3次元位置姿勢と、第2マーカの位置に関係付けられた3次元座標系である網膜投影型ヘッドマウントディスプレイ装置座標系から術者の網膜における2次元座標系である術者視野座標系への変換を行うための座標系変換情報とを用いて、インプラントの3次元シミュレーションイメージ情報の3次元座標系を術者視野座標系に変換することができる。これにより、変換されたシミュレーションイメージ情報を網膜投影型ヘッドマウントディスプレイ装置により術者の網膜に投影して、術者の実視野にて取得される患者の口腔内の術部の実像に、シミュレーションイメージを重ね合わせることができる。
すなわち、網膜投影型ヘッドマウントディスプレイを装備した術者は、患者の口腔内の術部に視線を合わせた状態にて、術部の実像に重ね合わされたインプラントのシミュレーションイメージを確認することができ、そのイメージによりインプラントの埋入位置などの情報を直感的に確認することができる。したがって、患者の口腔内から視線を外すことなく、術前シミュレーションイメージを確認することができ、視線を外すことに対する不安感が抑制された手術ナビゲーションシステムを提供することができる。
本発明の一の実施形態にかかる手術ナビゲーションシステムのシステム構成図 患者の口腔内に第1マーカが固定された状態の模試図(CT撮影状態) インプラントシミュレーションイメージの模式図 患者の口腔内の実像に、インプラントシミュレーションイメージを重ね合わせた状態の模式図 キャリブレーション処理の主要な手順を示すフローチャート
以下に、本発明にかかる実施の形態を図面に基づいて詳細に説明する。
本発明の一の実施形態にかかる網膜投影型ヘッドマウントディスプレイを用いた手術ナビゲーションシステム10のシステム構成図を図1に示す。
本実施形態の手術ナビゲーションシステム10は、術者の網膜に映像を投影する網膜投影型ヘッドマウントディスプレイ(以降「RPHMD(Retinal Projection Head Mounted Display)」とする。)装置と、拡張現実感(Augmented Reality)技術とを応用し、術前シミュレーションイメージをRPHMD装置により術者の網膜に投影して患者の術部に重ね合わせることで、術部と術前シミュレーションイメージを同時に見ながら安心して手術が行える手術ナビゲーションシステムである。
具体的には、図1に示すように、手術ナビゲーションシステム10は、術者の顔に取り付けられ、術者の網膜に対して映像を投影するRPHMD装置12と、所定の仕様に形成されたマーカの3次元位置座標およびその位置座標における姿勢を測定する3次元位置計測装置14と、術前に作成された歯科インプラント手術のシミュレーションイメージを、患者の口腔内の術部に重ね合わさる(すなわち、オーバーレイされる)ように、座標系の変換処理を行ってRPHMD装置12に出力する演算処理装置の一例であるコンピュータ装置16とを備えている。
RPHMD装置としては、例えば、術者の実視野にて術部等の実像を直接的に見る光学透過型と、ビデオカメラを通して取得された実像の映像を見る(すなわち、実像を間接的に見る)ビデオシースルー型とが存在し、さらに、両目型および片目型とが存在する。いずれの型式のRPHMD装置も本実施形態のRPHMD装置12として採用することは可能であるが、術者が受けるRPHMD装置12の装着感を考慮すれば、片目型の光学透過型を採用することが望ましい。
また、RPHMD装置12は、例えば、眼鏡13のフレーム部分に固定されており、この眼鏡13を術者が装着することで、RPHMD装置12が術者の顔に取り付けられる。RPHMD装置12は、眼に入射されても安全な明るさの光(例えば、レーザ光)を、眼に入射させながら網膜を走査することで、網膜に映像を投影する。そのため、RPHMD装置12は、例えば、投影される映像の入力部と、レーザ光源と、レーザ光の走査部とを備えており、これらの構成部が、眼鏡13のフレーム部分に固定されている。なお、RPHMD装置12が固定された眼鏡13は、術者への装着位置のズレが容易に生じないように、固定用バンドなどの装着補助部材が用いられることが望ましい。
3次元位置計測装置14は、3次元空間におけるマーカ(3次元位置座標検出用の識別表示)の位置座標(すなわち3次元位置座標(並進:X,Y,Z))およびその位置座標における姿勢(すなわち、マーカの向きや傾斜状態などの姿勢(回転:ロール、ピッチ、ヨー))を測定する機能を有する計測装置である。特に、光学式3次元位置計測装置では、マーカの検出手段としてステレオタイプのカメラが用いられているため、マーカ自体も例えば白黒に印刷された紙製のマーカを用いることが可能であり、装置コストが安価となる。例えば、このような光学式3次元位置計測装置14としては、Micron Tracker 2 Sx60 (Claron Technology Inc., USA)を用いることができる。このMicron Tracker 2は、動的追跡精度が70μmであり、歯科インプラントの要求精度100μmを満たしている。なお、本発明において、「位置姿勢」には、位置座標(並進)およびその位置座標における姿勢(回転)が含まれるものとする。すなわち、3次元位置計測装置によりマーカの「位置姿勢」が計測される場合には、マーカの3次元位置座標とともにその位置座標におけるマーカの姿勢も計測されることになる。
また、3次元位置計測装置14の仕様に応じて、様々な仕様のマーカが用いられる。例えば、上述のMicron Tracker 2 では、図2に示すように、互いに平行に配置された2本の線分の組を互いに直交させることで少なくとも3箇所の直交交点が形成された第1マーカ21が用いられる。この第1マーカ21の中央部分に配置される四角形22は短辺と長辺とを有する長方形22となっており、長方形の各交点を画像処理により認識し易くするために、隣接する四角形が白・黒に塗りつぶされている。また、この長方形22における図示下辺の中点が第1マーカ21の原点Poとして、3次元位置計測装置14により認識される。なお、後述するその他のマーカも同じ仕様にて形成されており、例えば、紙に印刷されたものを、アクリル製プレートに貼り付けることにより形成されている。
3次元位置計測装置14にて計測されたマーカの位置姿勢は、コンピュータ装置16に入力されるようになっている。コンピュータ装置16は、術前シミュレーションイメージ情報等を記憶する情報保持装置(例えば、ハードディスクドライブなど)18を備えており、3次元位置計測装置14にて計測された複数のマーカの位置座標およびその位置座標における姿勢などの情報を用いて、術前シミュレーションイメージ情報の座標系を3次元座標系であるRPHMD装置座標系から、術者の網膜における2次元座標系である術者視野座標系への変換を行う機能を有している。さらに、コンピュータ装置16は、このような座標系の変換が行われた術前シミュレーションイメージ情報をRPHMD装置12に出力して、RPHMD装置12により、術前シミュレーションイメージが術者の網膜に表示されることになる。
このような構成を有する本実施形態の手術ナビゲーションシステム10を用いて、歯科インプラント手術のナビゲーションを行う方法について、具体的に説明する。
(術前処理)
まず、図2に示すように、歯科インプラント手術を受ける患者の口腔内(例えば、下顎構造31)に、第1マーカ21が固定部材20を介して固定された診断用ステントを装着した状態で、CT(Computed Tomographic)を撮影し、撮影された断層データの3次元再構成を行う。このような3次元再構成を行う装置としては、例えば、VGStudio MAX 1.2 (Volume Graphics GmbH, Germany)を用いることができる。なお、図2では、患者自身の下顎構造31を概略的に示している。
次に、この3次元再構成が行われた患者の口腔内のCTデータを用いて、インプラントの3次元シミュレーションイメージ(以降、「インプラントSI」とする。)の作成を行う。3次元シミュレータとしては、例えば、FreeFormModeling (SensAble Technologies Inc., USA)が用いられ、CTデータを用いて、インプラント体の埋入位置姿勢をシミュレーションし、インプラントSIを作成する。このインプラントSIの模式図を図3に示す。図3に示すインプラントSIでは、患者4の下顎構造のイメージ41において、インプラントの複数の埋入位置42がイメージ情報として表されている。さらに、このインプラントSIには、術中において術者により操作される術用工具の操作位置、すなわちインプラントの埋入位置の情報が含まれている。なお、さらに術用工具の位置姿勢のナビゲーション情報(例えば、イメージ)が含まれるような場合であっても良い。また、このインプラントSIを作成する際には、第1マーカ21の位置姿勢、例えば、原点Poおよび原点Poにおける第1マーカ21の姿勢を基準としたインプラントSIへの変換行列1(数1)を記録しておく。なお、この変換行列は、第1マーカ21の3次元位置姿勢に対するインプラントSIの3次元位置姿勢との相対的な関係を示す情報(3次元位置関係情報)である。また、図3のインプラントSIにおける四角形状部材43は、第1マーカ21の長方形22に対応する形状および位置姿勢にて配置されている。なお、図3に示すX方向、Y方向、およびZ方向は、互いに直交する方向である。
次に、RPHMD装置座標系から術者視野座標系への変換行列2(数2)を求める。ここで、RPHMD装置座標系とは、RPHMD装置12において表現される3次元座標系であり、後述するRPHMD装置12に固定された第2マーカの位置に関係付けられた3次元座標系である。術者視野座標系とは、術者2の網膜における2次元座標系(すなわち、術者2の視野における2次元座標系)である。この変換行列2(数2)は、キャリブレーション用マーカを用いて、RPHMD装置座標系で表現される3次元座標値と、それに対応する術者視野の2次元座標系との複数の組み合わせにより算出される(キャリブレーション処理)。このキャリブレーション処理の詳細手順については、後述する。
(術中処理)
上述した術前処理により作成されたインプラントSIの情報、並びに第1マーカ21の位置姿勢を基準としたインプラントSIへの変換行列1(数1)およびRPHMD装置座標系から術者視野座標系への変換行列2(数2)を、情報保持装置18に記憶させる。
次に、図1に示すように、患者4の口腔内の下顎構造31に第1マーカ21を固定する。それとともに、RPHMD装置12に第2マーカ22を固定し、さらに、術者2が使用する術用工具、例えばインプラントドリル6に第3マーカ23を固定する。
このような状態において、患者4に対する歯科インプラント手術を開始する。術中においては、3次元位置計測装置14により、第1マーカ21、第2マーカ22、および第3マーカ23の3次元位置姿勢をリアルタイムにて計測し、計測された情報は、リアルタイムにてコンピュータ装置16に入力される。具体的には、3次元位置計測装置14を基準とした第1マーカ21の位置姿勢を変換行列3(数3)として取得し、3次元位置計測装置14を基準とした第2マーカ22の位置姿勢を変換行列4(数4)として取得し、3次元位置計測装置14を基準とした第3マーカ23の位置姿勢を変換行列5(数5)として取得する。
このようなリアルタイムの計測が行われることにより、コンピュータ装置16には、患者4の口腔内に固定された第1マーカ21と、術者2に装備されたRPHMD装置12に固定された第2マーカ22と、術者2が操作するインプラントドリル6に固定された第3マーカ23との間の相対的な位置関係、すなわち相対的な3次元位置姿勢の関係を認識するための情報が随時入力されることになる。
コンピュータ装置16では、これらの情報の入力を受けて、リアルタイムに、インプラントSIから術者視野までの変換行列6(数6)を、数7に示す式(1)に従って算出し、術者視野へインプラントSIを投影する。
具体的には、コンピュータ装置16は、情報保持装置18に記憶されている第1マーカ21の位置姿勢を基準としたインプラントSIへの変換行列1(数1)およびRPHMD装置座標系から術者視野座標系への変換行列2(数2)を読み出すとともに、3次元位置計測装置14を基準とした第1マーカ21の位置姿勢の変換行列3(数3)、および第2マーカ22の位置姿勢の変換行列4(数4)を用いて、式(1)に基づいて、インプラントSIから術者視野までの変換行列6(数6)を算出する。ここで、式(1)においては、数8および数9の関係式が成り立つ。
また、コンピュータ装置16では、RPHMD装置座標系から術者視野座標系への変換行列2(数2)、3次元位置計測装置14を基準とした第2マーカ22の位置姿勢の変換行列4(数4)、および第3マーカ23の位置姿勢の変換行列5(数5)を用いて、リアルタイムに、インプラントドリル6から術者視野までの変換行列7(数10)を、数11に示す式(2)に従って算出する。ここで、式(2)においては、数12の関係式が成り立つ。
さらに、コンピュータ装置16では、情報保持装置18からインプラントSIの情報を読み出すとともに、式(1)により算出されたインプラントSIから術者視野までの変換行列6(数6)を用いて、インプラントSIの座標系をRPHMD装置座標系から術者視野座標系に変換し、変換されたインプラントSIをRPHMD装置12により術者2の網膜に投影させる。術者2の実視野においては、患者4の口腔内の術部(歯科インプラント手術を施す部分、例えばインプラント埋入位置およびその周辺部分)の実像が取得されており、この口腔内の術部の実像に対して、インプラントSIが重ね合わせられる。すなわち、3次元空間における術者2の位置および姿勢と、患者4の口腔内の位置および姿勢に応じて、投影されるインプラントSIの大きさや姿勢がコンピュータ装置16により決定され、さらにインプラントSIを3次元座標系から2次元座標系に変換して、変換されたインプラントSIがRPHMD装置12により網膜に投影される。したがって、3次元空間における術者2の位置および姿勢と、患者4の口腔内の位置および姿勢との関係により、その大きさや姿勢が変わることとなる患者の術部の実像に、重ね合わさるようにインプラントSIが変換されて、網膜に投影されることになる。
このように患者の口腔内の術部の実像(下顎構造31)と、インプラントSIの重ね合わせが行われた状態を図4の模式図に示す。図4に示すように、実像の術部には、インプラントSIによって表されるインプラントの埋入位置42が表示されている。したがって、術者は、術中に、患者4の口腔内から視線を外すことなく、インプラントSIによりインプラントの埋入位置42を確認することができる。
また、コンピュータ装置16では、変換行列4(数4:第2マーカ22の位置姿勢)および変換行列5(数5:第3マーカ23の位置姿勢)と、インプラントSIに含まれる術用工具の操作位置(インプラントの埋入位置)とを比較して、両者の位置姿勢のズレを補正するための位置ズレ補正情報(あるいは位置姿勢ズレ補正情報)を算出する。このような位置ズレ補正情報としては、例えば、位置姿勢のズレ量(距離および方向)の数値情報や、位置ズレを補正するために操作する方向および距離を視覚的に表示するナビゲーション情報などがある。このように算出された位置ズレ補正情報は、式(2)により算出されたインプラントドリル6から術者視野までの変換行列7を用いて、その座標系をRPHMD装置座標系から術者視野座標系に変換し、変換された位置ズレ補正情報をRPHMD装置12により術者2の網膜に投影させる。これにより、術者2は、インプラントSIに対するインプラントドリル6の位置姿勢のズレを術中にリアルタイムで確認することができ、術用工具の操作位置および姿勢についての効果的なナビゲーションを行うことができる。
したがって、本実施形態の手術ナビゲーションシステム10によれば、RPHMD装置10を装着した術者は、患者の口腔内の術部に視点を合わせた状態にて、術部の実像に重ね合わされたインプラントSIを確認することができ、そのイメージによりインプラントの埋入位置などの情報を直感的に確認することができる。よって、患者の口腔内から視線を外すことなく、術前シミュレーションイメージを確認することができ、視線を外すことに対する不安感が抑制された手術ナビゲーションシステムを提供することができる。
(キャリブレーション処理)
次に、上述したキャリブレーション処理の手順について説明する。このキャリブレーション処理は、原則として術前に行われる。または術中においては、術者2が装備しているRPHMD装置12の装備位置の位置ズレが生じた場合に行われる。
キャリブレーション処理では、RPHMD装置座標系から術者視野座標系への変換行列2(数2)を求める。複数のキャリブレーション用マーカ(例えば、図1に示す第4マーカ24)を用いて、RPHMD装置座標系で表現される3次元座標値p(x,y,z)と、それに対応する術者視野の2次元座標値P(X,Y)との組を取得する。
RPHMD装置座標系の点pから術者視野座標系上の対応点Pへの変換関係は、数13によって与えられる。
数13の式中におけるこれら12個のパラメータは、RPHMD装置12と術者視野との相対位置、方向関係およびカメラの焦点距離で定まる量であり、このC行列を「カメラパラメータ」と呼ぶ。
RPHMD装置座標系上のいくつかの点p(x,yi,z)と、術者視野座標系上での対応点P(XCi,YCi)との各々の位置座標を読み取り、数13の関係からカメラパラメータが求まる。1つの点pについて、その座標と対応点の座標x,y,z,XC1,YC1が定まれば、数13から次の数14が成立する。
このように、1個の点について2つの方程式が成立するため、C11・・・C34の12個のパラメータが決定されるためには、同一平面上にはない少なくとも6個の基準点が必要となる。ただし、パラメータの決定精度の向上を図るためには、6個以上の基準点を利用して、最小2乗法を用いることが好ましい。本実施形態では、パラメータの決定精度向上の観点から、10個の基準点を取得するものとする。ここで、RPHMD装置座標系上の点pの絶対的な座標値を与える必要はなく、相対座標値、すなわち各点間の距離および方向が分かっているだけであっても良い。
6個以上のn個の基準点がある場合には、数15、数16、および数17に示す行列の関係が成立する。C34とHの2つのパラメータで拡大・縮小のスケールを決定しているため、片方をある定数に固定しても支障はなく、例えばC34=1とする。
n個の基準点が存在している場合には、Aは{2n行×11列}、Cは{11行×1列}、Rは{2n行×1列}の行列となる。計測誤差が存在するため、nが6以上では数学的には不能問題となり、Cの各値は求められない。
そこで、各解と現実解との差の2乗、すなわち誤差の2乗和Eを最小にする1つの現実解を、方程式全体を最小誤差で満足する解として採用する。カメラパラメータ決定の場合、未知数C11・・・C33の11個、方程式の数2n個(基準点の数=n個)であり、一般には不能問題となるAC=Rの関係式を最小2乗解の意味で解けば、その解<C>は数18を満たす。
本実施形態の手術ナビゲーションシステム10を利用するのは工学研究者や技術者ではなく、システムに関して特別な知識を持たない医師らである。そのため、誰が行っても簡単に画像合成を実験室ではなく、手術室で再現できることが望ましい。本実施形態のシステムでは、統計的手法における最小2乗法を採用しており、この最小2乗法は、データにモデルを当てはめた際の誤差の2乗和を最小とするようにモデルのパラメータを決定する手法であり、キャリブレーションにおいて有用である。
しかしながら、このような最小2乗法を、そのまま本実施形態のシステムのキャリブレーション処理に適用しただけでは不都合な場合があり、例えば、データに例外値が含まれている場合には、最小2乗法で推定した投影行列は、信頼できないものとなるおそれがある。このような場合には、データ内の主要な部分にのみモデルをあてはめ、残りの部分を例外値として自動的に排除できれば、その領域の主要な動きのパラメータを精度良く推定できる。このような問題に対処するために統計的手法の中でロバスト統計量として代表的なLMedS推定を、本キャリブレーション処理では導入している。以下に、その手法とアルゴリズムを示す。
まず、最小2乗基準は数19で定義され、LMedS基準は、数20で定義される。
ここで、medは、中央値を取ることを表す。最小2乗基準は、ひとつの大きな例外値によって大きな影響を受けるが、LMedSは全データのうち50%が例外値でも結果が大きくずれることがないという性質を持っているため、今回のような状況に適していると言える。
(処理1)
RPHMD装置12により術者2の網膜に投影されたマウスポインタ(カーソル)を術者により操作し、術者2の実視野における第4マーカ24の特定の位置(例えば、原点位置)にマウスポインタを合わせてマウスをクリックするという動作を、第4マーカ24の3次元空間における位置を変化させながらn回繰り返す。それとともに、第4マーカ24の3次元空間における3次元座標値を、3次元位置計測装置14により計測する。この作業により、第4マーカ24の3次元空間における3次元座標値と、それに対応するRPHMD装置12の投影画像上での2次元座標値との組がn組得られる。このn組の対応点からランダムにF点選択し、最小2乗法を用いたキャリブレーション処理により、投影行列の解候補を算出する。
(処理2)
次に、数21で定義される解候補の誤差値を計算する。
ここで、
はi番目の第4マーカ24の3次元空間位置での投影映像上での2次元座標値であり、
はi番目の第4マーカ24の位置を解候補で画像平面上へ再投影した時の座標値であり、med(f(i))は全てのiにおけるf(i)の中央値を示す。
(処理3)
処理1と処理2とをq回繰り返して、数21で計算されるerrが最小となるF個の対応点を用いて計算されるカメラパラメータを選択する。
このアルゴリズムで必要な繰り返し数は、q回のランダムサンプリングで少なくとも1個のサンプルには例外値が含まれていない確率を考えることにより決定できる。全データ中の例外値の割合をεとすると、この確率は数24にて表される。
例えば、ε=0.3、F=3の時、この確率が0.99になるためのランダムサンプリングの回数はq=11である。つまり、この場合には、q=11回以上のサンプリングが必要であることを意味している。本実施形態のキャリブレーション処理では、パラメータFは10として、その他のパラメータは経験的n=15、ε=0.3、P=0.99としている。
このようなキャリブレーション処理は、例えば、コンピュータ装置16にインストールされたキャリブレーション用プログラムにより実施される。ここで、このキャリブレーション用プログラムにおける主要な手順を図5のフローチャートに示す。
図5のフローチャートに示すように、まず、ステップS1において、RPHMD装置12に固定された第2マーカ22の3次元座標値および第4マーカ24の3次元座標値を、3次元位置測定装置14により同時に測定する。測定されたデータは、コンピュータ装置16に入力される。
この3次元座標値の測定ととともに、術者2の実視野における第4マーカ24の位置に重なるように、RPHMD装置12により投影されたマウスポインタを操作して、重なった位置にてクリックし、マウスポインタの2次元座標値を、術者視野座標系における第4マーカ24の2次元座標値として取得する(ステップ2)。取得されたデータはコンピュータ装置16に入力される。なお、ステップ1とステップ2とは、実質的に同時に行う必要がある。
コンピュータ装置16では、これら2つのデータを互いに関連付けて、第2マーカ22を基準とした第4マーカ24の3次元空間における3次元座標値とそれに対応するRPHMD装置12の投影画像上での2次元座標値との組を形成する(ステップS3)。
次に、ステップS4において、このデータの組数がn組以上であるかどうかが判断されて、n組未満である場合には、第4マーカ24の位置を移動させて、ステップS1〜S3までの処理が行われる。
その後、ステップS4において、データの組数がn組以上であると判断された場合には、ステップS5において、n組の中からランダムにF点選択し、上述した最小2乗法を用いたキャリブレーション処理(処理1〜3)により、投影行列の解候補を算出して、RPHMD装置座標系から術者視野座標系への変換行列2(数2)が求められる。
次に、キャリブレーション処理において使用される第4マーカ24の配置領域(空間)について説明する。第4マーカ24は、3次元空間におけるその位置が変化されながら、それぞれの位置において、3次元位置計測装置14により3次元座標値が取得されることになる。また、この際、第2マーカ24の3次元座標値も同時に取得される。それとともに術者2の視野において第4マーカ24が視認され、かつRPHMD装置12により表示されるマウスポインタの操作範囲(表示領域)内に位置されている必要がある。そのため、3次元位置計測装置14により第2マーカ22および第4マーカ24を同時に計測可能な範囲をAとし、RPHMD装置12における映像投影範囲(マウスポインタの操作範囲)をBとすると、キャリブレーション処理において使用される第4マーカ24の配置領域(空間)は数25にて示す領域となり、この範囲内であればキャリブレーション処理が可能となる。
なお、キャリブレーション処理に使用する対応点群は、上述の説明では、第4マーカ24の位置(術者に対する相対位置)を変化させて、マウスのクリック動作により手動でサンプリングする場合について説明した。このような場合に代えて、例えば、形状が既知で15点サンプリング可能な物体(マーカ)を、第2マーカ22と剛体的に固定した状態でサンプリングするような場合であっても良い。このような場合、15点のサンプリング点と第2マーカ22との相対位置関係が常に一定であるため、サンプリング精度をより向上できる。なお、このような物体は、サンプリング処理が終了次第、第2マーカ22から取り外せば良い。
また、このようなキャリブレーション処理に使用する対応点群は、術者2による術中の主要な視野範囲に位置されることが望ましい。すなわち、術者2の視線は、主に患者4の口腔内に位置されることになる。そのため、患者4の口腔内および口腔外におけるその近傍の空間に対応点群を設定することで、この術者視野におけるキャリブレーション精度をより向上させることが可能となる。例えば、患者4の口腔内に固定される第1マーカ21の周囲に複数のマーカ(キャリブレーション用マーカ)を固定してキャリブレーション処理を行うことも可能である。この場合、第1マーカ21をキャリブレーション用マーカの1つとして使用することもできる。
このようにキャリブレーション用マーカを配置するような場合にあっては、例えば、術中において、RPHMD装置12によりインプラントSIを術者2の網膜に投影しながら、同時にキャリブレーション処理(具体的には、キャリブレーション処理におけるステップS1〜S4のデータの組の取得手順)を行うことも可能となる。したがって、術中において、RPHMD装置12の装備位置の位置ズレなどが生じるような場合であっても、迅速にキャリブレーション処理を実施することが可能となる。
また、術者2へのRPHMD装置12の装備位置の位置ズレを検出するセンサ等の検出手段を設けても良い。検出手段により許容値以上の位置ズレが検出された場合には、術者に対してキャリブレーション処理を促す警告を出力することで、術者2は安心して手術に集中することが可能となる。
また、上述の説明では、RPHMD装置12が、眼鏡13のフレーム部分を介して、術者2に装備される場合について説明したが、RPHMD装置12の位置ズレ抑制の観点からは、術者2の顔のその他の部位に装備させても良い。例えば、術者2の上顎の歯列にサージカルステントと同じようにRPHMD装置12を固定すれば、位置ズレが生じる可能性をかなり低減することができる。
なお、上記様々な実施形態のうちの任意の実施形態を適宜組み合わせることにより、それぞれの有する効果を奏するようにすることができる。
2 術者
4 患者
6 インプラントドリル
10 網膜投影型ヘッドマウントディスプレイを用いた手術ナビゲーションシステム
12 網膜投影型ヘッドマウントディスプレイ装置(RPHMD装置)
13 眼鏡
14 3次元位置計測装置
16 コンピュータ装置
18 情報保持装置
21 第1マーカ
22 第2マーカ
23 第3マーカ
24 第4マーカ

Claims (7)

  1. 術者の顔に取り付けられ、術者の網膜に対して映像を投影する網膜投影型ヘッドマウントディスプレイ装置(以下「RPHMD装置」とする)と、
    患者の口腔内に固定される第1マーカおよびRPHMD装置に固定される第2マーカの3次元位置姿勢を測定する3次元位置計測装置と、
    第1マーカとの間の相対的な3次元位置姿勢が関連付けられたインプラントの3次元シミュレーションイメージ情報と、インプラントと第1マーカとの間の3次元位置姿勢と、第2マーカの位置に関係付けられた3次元座標系であるRPHMD装置座標系から術者の網膜における2次元座標系である術者視野座標系への変換を行うための座標系変換情報と、を保持する情報保持装置と、
    3次元位置計測装置により計測された、第1マーカおよび第2マーカの位置姿勢と、情報保持装置に保持されている3次元位置姿勢および座標系変換情報とを用いて、インプラントの3次元シミュレーションイメージ情報の座標系を術者視野座標系に変換して、変換されたシミュレーションイメージ情報をRPHMD装置により術者の網膜に投影させて、術者の実視野にて取得される患者の口腔内の術部の実像にシミュレーションイメージを重ね合わせる演算処理装置とを備えることを特徴とする、網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステム。
  2. 3次元位置計測装置により取得されたキャリブレーション用マーカの3次元位置座標および第2マーカの3次元位置座標に基づいて、キャリブレーション用マーカのRPHMD装置座標系における3次元座標値を取得する第1手順と、
    RPHMD装置により術者の網膜に投影されたカーソルが術者により操作されて、術者の実視野におけるキャリブレーション用マーカの位置に重なるように配置されたカーソルの2次元位置座標を、術者視野座標系におけるキャリブレーション用マーカの2次元位置座標値として取得する第2手順と、
    第1手順および第2手順を少なくとも6回実施することにより取得された、キャリブレーション用マーカについてのRPHMD装置座標系の3次元座標値と術者視野座標系の2次元座標値との少なくとも6組の位置座標に基づいて、座標系変換情報を算出する第3手順と、を演算処理装置に実行させるキャリブレーション用プログラムをさらに備える、請求項1に記載の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステム。
  3. 少なくとも1つのキャリブレーション用マーカと、患者の口腔内に固定される第1マーカとが兼用されて、キャリブレーション用プログラムにおける第1手順または第2手順の実行と、術者の実視野にて取得される患者の口腔内の術部へのシミュレーションイメージの重ね合わせとが、演算処理装置により同時に実施される、請求項2に記載の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステム。
  4. キャリブレーション用プログラムにおける第3手順において、第1手順および第2手順を少なくとも15回実施して、少なくとも15組の位置座標を取得し、最小二乗法を用いて、少なくとも15組の位置座標から少なくとも10組の位置座標を選定し、少なくとも10組の位置座標に基づいて座標系変換情報を算出する手順をさらに含む、請求項2または3に記載の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステム。
  5. 3次元位置計測装置は、術者が把持する術用工具に固定された第3マーカの3次元位置姿勢を計測可能であって、
    演算処理装置は、3次元位置計測装置により計測された、第3マーカの3次元位置姿勢および第2マーカの3次元位置姿勢と、情報保持装置に保持されているインプラントの3次元シミュレーションイメージ情報とに基づいて、インプラントの3次元シミュレーションイメージ情報におけるインプラントの埋入位置と、術用工具の位置姿勢との間の位置ズレを補正するための位置ズレ補正情報を算出し、座標系変換情報を用いて、算出された位置ズレ補正情報を、RPHMD装置によりシミュレーションイメージ情報とともに術者の網膜に投影する、請求項1から4のいずれか1つに記載の網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステム。
  6. 患者の口腔内に固定された第1マーカと、術者の網膜に対して映像を投影する術者の顔に取り付けられた網膜投影型ヘッドマウントディスプレイ(以下「RPHMD装置」とする)に対して固定された第2マーカとの3次元位置姿勢をそれぞれ測定し、
    第1マーカおよび第2マーカの3次元位置姿勢と、インプラントと第1マーカとの間の3次元位置姿勢と、第2マーカの位置に関係付けられた3次元座標系であるRPHMD装置座標系から術者の網膜における2次元座標系である術者視野座標系への変換を行うための座標系変換情報とを用いて、インプラントの3次元シミュレーションイメージ情報の3次元座標系を術者視野座標系に変換し、
    変換されたシミュレーションイメージ情報をRPHMD装置により術者の網膜に投影して、術者の実視野にて取得される患者の口腔内の術部の実像にシミュレーションイメージを重ね合わせることを特徴とする、網膜投影型ヘッドマウントディスプレイ装置を用いたシミュレーションイメージの重ね合わせ方法。
  7. 3次元位置計測装置により取得されたキャリブレーション用マーカの3次元位置座標および第2マーカの3次元位置座標に基づいて、キャリブレーション用マーカのRPHMD装置座標系における3次元座標値を取得する第1工程と、
    RPHMD装置により術者の網膜に投影されたカーソルが術者により操作されて、術者の実視野におけるキャリブレーション用マーカの位置に重なるように配置されたカーソルの2次元位置座標を、術者視野座標系におけるキャリブレーション用マーカの2次元座標値として取得する第2工程と、
    第1工程および第2工程を少なくとも6回実施することにより取得された、キャリブレーション用マーカについてのRPHMD装置座標系の3次元座標値と術者視野座標系の2次元座標値との少なくとも6組の位置座標に基づいて、座標系変換情報を算出する第3工程とを実施した後、
    第3工程にて算出された座標系変換情報を用いて、インプラントの3次元シミュレーションイメージ情報の3次元座標系を術者視野座標系に変換する、請求項6に記載の網膜投影型ヘッドマウントディスプレイ装置を用いたシミュレーションイメージの重ね合わせ方法。
JP2009110903A 2009-04-30 2009-04-30 網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法 Expired - Fee Related JP5476036B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009110903A JP5476036B2 (ja) 2009-04-30 2009-04-30 網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009110903A JP5476036B2 (ja) 2009-04-30 2009-04-30 網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法

Publications (2)

Publication Number Publication Date
JP2010259497A true JP2010259497A (ja) 2010-11-18
JP5476036B2 JP5476036B2 (ja) 2014-04-23

Family

ID=43358123

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009110903A Expired - Fee Related JP5476036B2 (ja) 2009-04-30 2009-04-30 網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法

Country Status (1)

Country Link
JP (1) JP5476036B2 (ja)

Cited By (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013034764A (ja) * 2011-08-10 2013-02-21 Akira Takebayashi サージカルガイド装置及びドリルの位置決め方法
JP2013171522A (ja) * 2012-02-22 2013-09-02 Micronet Co Ltd Ar技術を用いたコンピュータ・グラフィックス画像処理システム及び方法
JP2013236749A (ja) * 2012-05-15 2013-11-28 Denso Corp 歯科インプラント手術支援装置
WO2015008469A2 (en) 2013-07-16 2015-01-22 Seiko Epson Corporation Information processing apparatus, information processing method, and information processing system
WO2015008470A2 (en) 2013-07-16 2015-01-22 Seiko Epson Corporation Information processing apparatus, information processing method, and information processing system
JP2015100437A (ja) * 2013-11-22 2015-06-04 京セラメディカル株式会社 外科手術用ナビゲーションシステム
JP2015519108A (ja) * 2012-05-02 2015-07-09 医百科技股▲ふん▼有限公司 口腔内手術中の補助ガイド方法
EP2797512A4 (en) * 2011-12-30 2015-09-09 Philip D Gole MEDICAL DEVICES FOR ASSESSING IMAGE SUPPORT AND PROCEDURE
JP2015217298A (ja) * 2014-05-13 2015-12-07 メトロノール アーエス 患者に対する外科的処置を精密に誘導するシステム
EP2956814A1 (en) * 2013-02-14 2015-12-23 Seiko Epson Corporation Head mounted display and control method for head mounted display
US20170270678A1 (en) * 2016-03-15 2017-09-21 Fujifilm Corporation Device and method for image registration, and non-transitory recording medium
JP2017200537A (ja) * 2016-05-06 2017-11-09 岳 芳本 治療支援システム、治療支援装置、治療支援方法、及びコンピュータプログラム
JP2018022242A (ja) * 2016-08-01 2018-02-08 大豊精機株式会社 複合システム及びターゲットマーカ
CN107735016A (zh) * 2015-07-08 2018-02-23 西诺德牙科设备有限公司 用于扫描解剖结构且用于显示扫描结果的系统和方法
US9990744B2 (en) 2014-08-27 2018-06-05 Fujifilm Corporation Image registration device, image registration method, and image registration program
US10049480B2 (en) 2015-08-31 2018-08-14 Fujifilm Corporation Image alignment device, method, and program
US10102638B2 (en) 2016-02-05 2018-10-16 Fujifilm Corporation Device and method for image registration, and a nontransitory recording medium
CN108742898A (zh) * 2018-06-12 2018-11-06 中国人民解放军总医院 基于混合现实的口腔种植导航系统
US10242452B2 (en) 2015-08-25 2019-03-26 Fujifilm Corporation Method, apparatus, and recording medium for evaluating reference points, and method, apparatus, and recording medium for positional alignment
CN109700550A (zh) * 2019-01-22 2019-05-03 雅客智慧(北京)科技有限公司 一种用于牙科手术的增强现实方法及装置
JP2019519257A (ja) * 2016-03-11 2019-07-11 ソニー株式会社 画像処理して解剖学的部分の三次元(3d)ビューを生成するシステム及び方法
JP2019141261A (ja) * 2018-02-19 2019-08-29 株式会社吉田製作所 情報表示装置、情報表示システム、情報表示方法、及び情報表示プログラム
JPWO2018088146A1 (ja) * 2016-11-08 2019-09-26 国立大学法人九州大学 施術支援システム、施術支援方法及び施術支援プログラム
WO2019187449A1 (ja) * 2018-03-29 2019-10-03 株式会社吉田製作所 画像処理装置および画像処理プログラム
US10492872B2 (en) 2015-10-02 2019-12-03 The University Of Tokyo Surgical navigation system, surgical navigation method and program
JP2020506033A (ja) * 2017-02-03 2020-02-27 キム ド ヒュン インプラント手術ガイド方法
US10631948B2 (en) 2015-09-29 2020-04-28 Fujifilm Corporation Image alignment device, method, and program
US10740642B2 (en) 2016-04-11 2020-08-11 Fujifilm Corporation Image display control device, method, and program
JP2020163130A (ja) * 2019-03-22 2020-10-08 グローバス メディカル インコーポレイティッド ニューロナビゲーションを登録し、ロボットの軌道をガイダンスするためのシステムと、関連する方法および装置
CN111870825A (zh) * 2020-07-31 2020-11-03 于金明 基于虚拟智能医疗平台的放射治疗精确逐野摆位方法
CN112367941A (zh) * 2018-07-05 2021-02-12 登士柏希罗纳有限公司 用于增强现实引导的外科手术的方法和系统
JP2021019967A (ja) * 2019-07-30 2021-02-18 春仁 上園 拡張現実情報表示方法、手術支援装置、及びプログラム
CN113662662A (zh) * 2021-07-30 2021-11-19 北京天智航医疗科技股份有限公司 数据精度检测方法、装置、存储介质及电子设备
CN113693723A (zh) * 2021-08-05 2021-11-26 北京大学 一种面向口腔咽喉部手术的跨模态导航定位系统及方法
CN113855288A (zh) * 2021-11-01 2021-12-31 杭州柳叶刀机器人有限公司 图像生成方法、装置、电子设备及存储介质
JP2022515477A (ja) * 2018-12-26 2022-02-18 雅客智慧(北京)科技有限公司 歯科インプラントナビゲーション手術のキャリブレーション、追跡方法および装置
CN114431988A (zh) * 2022-03-02 2022-05-06 福建医科大学附属口腔医院 用于口腔种植牙领域的动态导航系统及使用方法
CN114587658A (zh) * 2022-02-06 2022-06-07 上海诠视传感技术有限公司 Ar眼镜识别口腔种植手机在空间坐标系中位置的方法及系统
EP4026513A4 (en) * 2019-09-02 2022-10-05 Safe Approach Medical Inc. TREATMENT SUPPORT SYSTEM AND ALIGNMENT DEVICE
CN116785001A (zh) * 2023-08-25 2023-09-22 深圳卡尔文科技有限公司 一种种植手术工具标定方法、系统和存储介质
CN117115401A (zh) * 2023-10-16 2023-11-24 深圳卡尔文科技有限公司 一种ar导航数据处理方法、系统和存储介质
JP7414286B2 (ja) 2019-01-22 2024-01-16 Safe Approach Medical株式会社 施術支援システム及び処理装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102614739B1 (ko) 2020-09-14 2023-12-15 주식회사 메가젠임플란트 헤드 마운트 디스플레이장치
CN117413060A (zh) * 2021-08-02 2024-01-16 海思智财控股有限公司 用于真实空间导航的扩增实境系统以及使用该系统的手术系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002318365A (ja) * 2001-04-20 2002-10-31 Sanyo Electric Co Ltd 網膜投影型ディスプレイ
JP2005500096A (ja) * 2001-06-13 2005-01-06 ヴォリューム・インタラクションズ・プライヴェート・リミテッド ガイドシステム
JP2005266187A (ja) * 2004-03-18 2005-09-29 Brother Ind Ltd 波面曲率変調器および画像表示装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002318365A (ja) * 2001-04-20 2002-10-31 Sanyo Electric Co Ltd 網膜投影型ディスプレイ
JP2005500096A (ja) * 2001-06-13 2005-01-06 ヴォリューム・インタラクションズ・プライヴェート・リミテッド ガイドシステム
JP2005266187A (ja) * 2004-03-18 2005-09-29 Brother Ind Ltd 波面曲率変調器および画像表示装置

Cited By (69)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013034764A (ja) * 2011-08-10 2013-02-21 Akira Takebayashi サージカルガイド装置及びドリルの位置決め方法
EP2797512A4 (en) * 2011-12-30 2015-09-09 Philip D Gole MEDICAL DEVICES FOR ASSESSING IMAGE SUPPORT AND PROCEDURE
JP2013171522A (ja) * 2012-02-22 2013-09-02 Micronet Co Ltd Ar技術を用いたコンピュータ・グラフィックス画像処理システム及び方法
JP2015519108A (ja) * 2012-05-02 2015-07-09 医百科技股▲ふん▼有限公司 口腔内手術中の補助ガイド方法
JP2013236749A (ja) * 2012-05-15 2013-11-28 Denso Corp 歯科インプラント手術支援装置
EP2956814A1 (en) * 2013-02-14 2015-12-23 Seiko Epson Corporation Head mounted display and control method for head mounted display
US9916691B2 (en) 2013-02-14 2018-03-13 Seiko Epson Corporation Head mounted display and control method for head mounted display
KR101811817B1 (ko) * 2013-02-14 2018-01-25 세이코 엡슨 가부시키가이샤 두부 장착형 표시 장치 및 두부 장착형 표시 장치의 제어 방법
US10169925B2 (en) 2013-02-14 2019-01-01 Seiko Epson Corporation Head mounted display and control method for head mounted display
US11341726B2 (en) 2013-07-16 2022-05-24 Seiko Epson Corporation Information processing apparatus, information processing method, and information processing system
WO2015008470A2 (en) 2013-07-16 2015-01-22 Seiko Epson Corporation Information processing apparatus, information processing method, and information processing system
WO2015008469A2 (en) 2013-07-16 2015-01-22 Seiko Epson Corporation Information processing apparatus, information processing method, and information processing system
US10042598B2 (en) 2013-07-16 2018-08-07 Seiko Epson Corporation Information processing apparatus, information processing method, and information processing system
KR20160033721A (ko) 2013-07-16 2016-03-28 세이코 엡슨 가부시키가이샤 정보 처리 장치, 정보 처리 방법 및, 정보 처리 시스템
US10664216B2 (en) 2013-07-16 2020-05-26 Seiko Epson Corporation Information processing apparatus, information processing method, and information processing system
US9898662B2 (en) 2013-07-16 2018-02-20 Seiko Epson Corporation Information processing apparatus, information processing method, and information processing system
JP2015100437A (ja) * 2013-11-22 2015-06-04 京セラメディカル株式会社 外科手術用ナビゲーションシステム
JP2015217298A (ja) * 2014-05-13 2015-12-07 メトロノール アーエス 患者に対する外科的処置を精密に誘導するシステム
US9990744B2 (en) 2014-08-27 2018-06-05 Fujifilm Corporation Image registration device, image registration method, and image registration program
CN107735016A (zh) * 2015-07-08 2018-02-23 西诺德牙科设备有限公司 用于扫描解剖结构且用于显示扫描结果的系统和方法
JP2018527965A (ja) * 2015-07-08 2018-09-27 シロナ・デンタル・システムズ・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング 解剖構造の走査と走査結果表示のためのシステムおよび方法
US11412993B2 (en) * 2015-07-08 2022-08-16 Dentsply Sirona Inc. System and method for scanning anatomical structures and for displaying a scanning result
US10242452B2 (en) 2015-08-25 2019-03-26 Fujifilm Corporation Method, apparatus, and recording medium for evaluating reference points, and method, apparatus, and recording medium for positional alignment
US10049480B2 (en) 2015-08-31 2018-08-14 Fujifilm Corporation Image alignment device, method, and program
US10631948B2 (en) 2015-09-29 2020-04-28 Fujifilm Corporation Image alignment device, method, and program
US10492872B2 (en) 2015-10-02 2019-12-03 The University Of Tokyo Surgical navigation system, surgical navigation method and program
US10102638B2 (en) 2016-02-05 2018-10-16 Fujifilm Corporation Device and method for image registration, and a nontransitory recording medium
JP2019519257A (ja) * 2016-03-11 2019-07-11 ソニー株式会社 画像処理して解剖学的部分の三次元(3d)ビューを生成するシステム及び方法
US20170270678A1 (en) * 2016-03-15 2017-09-21 Fujifilm Corporation Device and method for image registration, and non-transitory recording medium
US10078906B2 (en) 2016-03-15 2018-09-18 Fujifilm Corporation Device and method for image registration, and non-transitory recording medium
US10740642B2 (en) 2016-04-11 2020-08-11 Fujifilm Corporation Image display control device, method, and program
JP2017200537A (ja) * 2016-05-06 2017-11-09 岳 芳本 治療支援システム、治療支援装置、治療支援方法、及びコンピュータプログラム
JP2018022242A (ja) * 2016-08-01 2018-02-08 大豊精機株式会社 複合システム及びターゲットマーカ
JP7255927B2 (ja) 2016-11-08 2023-04-11 Safe Approach Medical株式会社 施術支援システム、施術支援方法及び施術支援プログラム
JPWO2018088146A1 (ja) * 2016-11-08 2019-09-26 国立大学法人九州大学 施術支援システム、施術支援方法及び施術支援プログラム
JP2022050713A (ja) * 2016-11-08 2022-03-30 Safe Approach Medical株式会社 施術支援システム、施術支援方法及び施術支援プログラム
JP7018399B2 (ja) 2016-11-08 2022-02-10 Safe Approach Medical株式会社 施術支援システム、施術支援方法及び施術支援プログラム
JP7005105B2 (ja) 2017-02-03 2022-01-21 ド ヒュン キム インプラント手術ガイド方法
JP2020506033A (ja) * 2017-02-03 2020-02-27 キム ド ヒュン インプラント手術ガイド方法
JP7109047B2 (ja) 2018-02-19 2022-07-29 株式会社吉田製作所 情報表示装置、情報表示システム、情報表示方法、及び情報表示プログラム
JP2019141261A (ja) * 2018-02-19 2019-08-29 株式会社吉田製作所 情報表示装置、情報表示システム、情報表示方法、及び情報表示プログラム
WO2019187449A1 (ja) * 2018-03-29 2019-10-03 株式会社吉田製作所 画像処理装置および画像処理プログラム
JP2019170923A (ja) * 2018-03-29 2019-10-10 株式会社吉田製作所 画像処理装置および画像処理プログラム
CN108742898B (zh) * 2018-06-12 2021-06-01 中国人民解放军总医院 基于混合现实的口腔种植导航系统
CN108742898A (zh) * 2018-06-12 2018-11-06 中国人民解放军总医院 基于混合现实的口腔种植导航系统
CN112367941A (zh) * 2018-07-05 2021-02-12 登士柏希罗纳有限公司 用于增强现实引导的外科手术的方法和系统
JP7336504B2 (ja) 2018-07-05 2023-08-31 デンツプライ シロナ インコーポレイテッド 拡張現実誘導手術の方法およびシステム
JP2021529618A (ja) * 2018-07-05 2021-11-04 デンツプライ シロナ インコーポレイテッド 拡張現実誘導手術の方法およびシステム
US12011230B2 (en) 2018-12-26 2024-06-18 Beijing Yakebot Technology Co., Ltd. Calibration method and device for dental implant navigation surgery, and tracking method and device for dental implant navigation surgery
JP7202737B2 (ja) 2018-12-26 2023-01-12 雅客智慧(北京)科技有限公司 歯科インプラントナビゲーション手術の追跡方法および装置
JP2022515477A (ja) * 2018-12-26 2022-02-18 雅客智慧(北京)科技有限公司 歯科インプラントナビゲーション手術のキャリブレーション、追跡方法および装置
CN109700550A (zh) * 2019-01-22 2019-05-03 雅客智慧(北京)科技有限公司 一种用于牙科手术的增强现实方法及装置
JP7414286B2 (ja) 2019-01-22 2024-01-16 Safe Approach Medical株式会社 施術支援システム及び処理装置
JP6997238B2 (ja) 2019-03-22 2022-01-17 グローバス メディカル インコーポレイティッド ニューロナビゲーションを登録し、ロボットの軌道をガイダンスするためのシステム
JP2020163130A (ja) * 2019-03-22 2020-10-08 グローバス メディカル インコーポレイティッド ニューロナビゲーションを登録し、ロボットの軌道をガイダンスするためのシステムと、関連する方法および装置
JP2021019967A (ja) * 2019-07-30 2021-02-18 春仁 上園 拡張現実情報表示方法、手術支援装置、及びプログラム
EP4026513A4 (en) * 2019-09-02 2022-10-05 Safe Approach Medical Inc. TREATMENT SUPPORT SYSTEM AND ALIGNMENT DEVICE
CN111870825A (zh) * 2020-07-31 2020-11-03 于金明 基于虚拟智能医疗平台的放射治疗精确逐野摆位方法
CN111870825B (zh) * 2020-07-31 2023-08-18 于金明 基于虚拟智能医疗平台的放射治疗精确逐野摆位方法
CN113662662A (zh) * 2021-07-30 2021-11-19 北京天智航医疗科技股份有限公司 数据精度检测方法、装置、存储介质及电子设备
CN113662662B (zh) * 2021-07-30 2023-10-27 北京天智航医疗科技股份有限公司 数据精度检测方法、装置、存储介质及电子设备
CN113693723A (zh) * 2021-08-05 2021-11-26 北京大学 一种面向口腔咽喉部手术的跨模态导航定位系统及方法
CN113855288A (zh) * 2021-11-01 2021-12-31 杭州柳叶刀机器人有限公司 图像生成方法、装置、电子设备及存储介质
CN114587658A (zh) * 2022-02-06 2022-06-07 上海诠视传感技术有限公司 Ar眼镜识别口腔种植手机在空间坐标系中位置的方法及系统
CN114431988A (zh) * 2022-03-02 2022-05-06 福建医科大学附属口腔医院 用于口腔种植牙领域的动态导航系统及使用方法
CN116785001A (zh) * 2023-08-25 2023-09-22 深圳卡尔文科技有限公司 一种种植手术工具标定方法、系统和存储介质
CN116785001B (zh) * 2023-08-25 2023-10-31 深圳卡尔文科技有限公司 一种种植手术工具标定方法、系统和存储介质
CN117115401A (zh) * 2023-10-16 2023-11-24 深圳卡尔文科技有限公司 一种ar导航数据处理方法、系统和存储介质
CN117115401B (zh) * 2023-10-16 2024-02-06 深圳卡尔文科技有限公司 一种ar导航数据处理方法、系统和存储介质

Also Published As

Publication number Publication date
JP5476036B2 (ja) 2014-04-23

Similar Documents

Publication Publication Date Title
JP5476036B2 (ja) 網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法
US11275249B2 (en) Augmented visualization during surgery
US20210338107A1 (en) Systems, devices and methods for enhancing operative accuracy using inertial measurement units
US20140221819A1 (en) Apparatus, system and method for surgical navigation
JP6475324B2 (ja) オプティカルトラッキングシステム及びオプティカルトラッキングシステムの座標系整合方法
US10111595B2 (en) Method for checking tooth positions
TWI396523B (zh) 用以加速牙科診斷及手術規劃之系統及其方法
US9936166B2 (en) Method for planning a dental treatment
KR101086865B1 (ko) 표준화된 가이드 스탠트와 이를 이용한 임플란트 시스템 및 그 제어방법
WO2010101117A1 (ja) 手術支援システム
KR20180093939A (ko) X-선 이미지를 보정하는 방법
CN105105846B (zh) 一种用来精确引导对一病患进行外科手术的系统
Tsuji et al. A new navigation system based on cephalograms and dental casts for oral and maxillofacial surgery
WO2015080042A1 (ja) 顕微鏡用映像処理装置、および医療用顕微鏡システム
JP6605212B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US11890148B2 (en) System and method for dynamic augmented reality imaging of an antomical site
Yamaguchi et al. Augmented reality system for dental implant surgery
TWI501749B (zh) 手術導引系統之器械導引方法
Lai et al. The influence of cone beam computed tomography on IRIS-100 implant navigation system
KR101742582B1 (ko) 수술용 턱뼈 위치 계측 장치 및 이를 운용하는 방법
Stradiotti et al. Understanding How Different Visual Aids for Augmented Reality Influence Tool-Patient Alignment in Surgical Tasks: A Preliminary Study.
Hatcher et al. Three-D Surface Imaging of the Face
CN116959675A (zh) 一种基于划线的外固定三维重建及电子处方生成方法
김대승 An integrated system for simulation and image-guidance for orthognathic surgery
Yamazaki et al. Improvement of dental fiberscope navigation system for endodontic treatments

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120330

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20130215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20130218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130611

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130808

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20130828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140207

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees