JP2011528252A - ユーザによる3次元環境の検査のためのシステム、方法およびコンピュータプログラム - Google Patents

ユーザによる3次元環境の検査のためのシステム、方法およびコンピュータプログラム Download PDF

Info

Publication number
JP2011528252A
JP2011528252A JP2011518675A JP2011518675A JP2011528252A JP 2011528252 A JP2011528252 A JP 2011528252A JP 2011518675 A JP2011518675 A JP 2011518675A JP 2011518675 A JP2011518675 A JP 2011518675A JP 2011528252 A JP2011528252 A JP 2011528252A
Authority
JP
Japan
Prior art keywords
image
images
camera
tool
camera chip
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011518675A
Other languages
English (en)
Other versions
JP2011528252A5 (ja
JP5525521B2 (ja
Inventor
ペーテル オデルワルト,ミヒール
ピーテル ヴィーリンハ,フォッコ
Original Assignee
ネーデルランツ オルガニサティー フォール トゥーゲパストナトゥールヴェテンシャッペリーク オンデルズーク テーエンオー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ネーデルランツ オルガニサティー フォール トゥーゲパストナトゥールヴェテンシャッペリーク オンデルズーク テーエンオー filed Critical ネーデルランツ オルガニサティー フォール トゥーゲパストナトゥールヴェテンシャッペリーク オンデルズーク テーエンオー
Publication of JP2011528252A publication Critical patent/JP2011528252A/ja
Publication of JP2011528252A5 publication Critical patent/JP2011528252A5/ja
Application granted granted Critical
Publication of JP5525521B2 publication Critical patent/JP5525521B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00174Optical arrangements characterised by the viewing angles
    • A61B1/00181Optical arrangements characterised by the viewing angles for multiple fixed viewing angles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00174Optical arrangements characterised by the viewing angles
    • A61B1/00183Optical arrangements characterised by the viewing angles for variable viewing angles

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本発明は、3次元環境(1)の近傍に案内されるように構成されるツール(3)であって、前記ツールは、ツールの遠位端にまたは遠位端の近傍に配置される1台以上のカメラ(4)を含み、前記1台以上のカメラは、3次元環境のそれぞれのイメージを生成するように構成される、ツールと;前記それぞれのイメージを受信するように構成されるディスプレイユニット(8)と;前記カメラによって生成されるイメージ選択し、または1台以上のカメラにイメージを要求に応じて生成させ、さらにイメージ(9)をディスプレイ(8)上に表示するためにユーザの少なくとも一部分の位置を判定するように構成される運動追跡システム(11)と;を含む、ユーザによる3次元環境の検査のためのシステムに関する。本発明は、ユーザによるオブジェクトの検査を可能とするための方法、ツール、ディスプレイユニットと、上述のシステム内に少なくとも1台のカメラを含むツールの利用とにさらに関する。
【選択図】図1

Description

本発明はユーザによる3次元環境の検査のためのシステムに関する。特に、本発明は、内視鏡手術中に目標領域を検査するためのシステムに関する。
本発明は、ユーザによる3次元環境の検査を可能とする方法にさらに関する。
本発明は、上述のシステムに用いるツールおよびディスプレイユニットにさらに関する。
本発明は、上述のシステムにおけるツールの利用にさらに関する。
3次元環境の検査のためのシステムの実施形態が、内視鏡手術の技術分野において、特に、立体内視鏡が用いられる低侵襲内視鏡手術の分野において周知である。この場合、外科医は、検査される目標領域を3次元で知覚できるようにするために、特別な眼鏡をかけるかまたは頭部装着装置をつける必要がある。
手術的介入の実施中に、外科医が、障害になる可能性のある追加の装具を身に付けなければならないことは、周知のシステムの不利な点である。
本発明の目的は、ユーザの快適性の悪化を生じさせずに、オブジェクト、フィーチャまたは両者の組み合わせを含む適当な3次元環境の3次元知覚を可能とする、3次元環境の検査のためのシステムを提供することである。
この目的を達成するために、本発明によるシステムは:
−3次元環境の近傍に案内されるように構成されるツールであって、前記ツールは、3次元環境内に存在するオブジェクトの、それぞれの視点を有する複数のイメージを生成するように構成される少なくとも1つのカメラチップを含む、ツールと;
−前記複数のイメージからの少なくとも1つのイメージを受信するように構成されるディスプレイユニットと;
−ディスプレイ上にイメージを表示するべく前記少なくとも1つのカメラチップから前記イメージを選択または生成するためにユーザの観察位置を判定するように構成される運動追跡システムであって、前記イメージは前記観察位置に対応する視点を有する、運動追跡システムと;
を含む。
特に、本発明によるシステムは、ツールとして内視鏡が用いられる、例えば低侵襲手術中の、3次元視を可能とするシステムに関する。この場合、1つ以上のカメラチップは内視鏡の遠位部分上に配置されればよい。本発明によるシステムは、観察者の眼または頭の位置によって制御される異なる角度からの視像を提供することによって、視覚入力と体性知覚との間の自然な結合を高める。このように視像を提供することは、少なくとも1つのカメラチップの空間位置および/または配向を制御し、続いて必要な視点を有するイメージを生成すること、あるいは生成された複数のイメージから適当なイメージを選択することのいずれかによって可能とされればよいことを理解されたい。特に、選択のステップは、必要な視点に正確に一致するイメージを得るために、生成されたイメージの間を補間するステップを含んでよい。
『少なくとも1つのカメラチップ』の用語は、単独のカメラチップあるいはカメラチップのアレイまたはマトリクスに関連するものであってよいことを理解されたい。『オブジェクト』の用語は、3次元環境内に存在する適当な物体、あるいは適当な2次元または3次元構造のいずれかに関連するものであってよいことをさらに理解されたい。本発明によるシステムの動作は複数の座標系に関して定義されてよいことをさらに理解されたい。例えば、3次元環境に関連する座標系が開始点として選択されればよく、ディスプレイおよび/または3次元環境のイメージにそれぞれの座標が割り当てられればよい。この場合、運動追跡システムは、3次元環境の座標系における観察者の観察位置を判定するように構成されればよい。代替的に、3次元環境は第1の座標系に割り当てられてもよく、ディスプレイユニットは、適当な変換によって第1の座標系に関連付けられる第2の座標系に割り当てられてもよい。このとき、運動追跡システムは、後で適当なイメージが選択されるかまたは生成されるディスプレイユニットに対するユーザの観察位置を判定するように構成されることができる。さらに代替的に、本発明によるシステムはワールド座標系において動作可能であってもよく、3次元環境、ディスプレイユニット、運動追跡システムおよびユーザはワールド座標系において特徴付けられる。1つ以上の座標系の選択およびその座標系における運動追跡システムの動作に関しては、本発明から逸脱することなく複数の適当な変更が可能であることは当業者には明らかであろう。
本発明の技術的方策は、例えばユーザの眼または顔の位置の適当な追跡を提供し、さらにユーザに自分の位置、従って自分の視点に対応するイメージを提供すれば、動きの視差をディスプレイ上でシミュレートできるという見識に基づいている。その結果、検査される3次元環境に関する空間的相互関係の、ユーザの3次元知覚の強化を向上させることになる。特に、3次元環境における、遮蔽されたオブジェクトの部分および/または別のオブジェクトの間の空間的関係が明確に知覚できるようになる。特に、奥行知覚が強化される。
外科医は、一方では、単一のカメラによって提供されるような2次元イメージに限定されることがなくなり、他方では、追加の眼鏡をかけたりまたは頭部装着装置をつけたりする必要のせいで阻害されることがなくなるので、特に、低侵襲外科手術のために、本発明によるシステムは外科医の空間的定位を大幅に向上させる。加えて、システムは、体性知覚の入力(すなわち頭および眼の動き)と、結果として生じる視覚入力との間の一致を強化することによって奥行知覚を向上させる。
本発明によるシステムにおいては、本質的に、周知の内視鏡が用いられてよいことを理解されたい。当技術分野において周知の第1の種類の内視鏡は、人体内部の3次元環境のイメージを1つまたは2つ得るために、1つまたは2つのカメラチップと協働する複数レンズシステムを含むというものであればよい。次に、1つまたは2つのカメラチップ上の2つのイメージを得るために立体内視鏡が用いられればよい。
代替的に、カメラチップを単一のレンズとともに構成し、前記カメラチップおよび前記レンズをユニットとして一緒に平行移動可能且つ回転可能とするということも可能である。加えて、異なる刺入点(トロカール)を介して、例えば2つ、3つ、またはそれを超える、複数の内視鏡を案内し、これらの内視鏡上に配置される1つ以上のカメラチップによって作成されるそれぞれの異なるイメージの間を、ユーザが頭の運動を用いて切り替えできるようにするということが可能である。
本発明によるシステムの実施形態では、それぞれの視点を有する複数のイメージを生成するために、上記の少なくとも1つのカメラチップが変位可能となっている。
上記の少なくとも1つのカメラチップをツールに対して変位可能に構成すると有利であることが見いだされている。単独のカメラチップを変位可能としてもよいし、または複数のカメラチップを変位可能としてもよいことを理解されたい。前者の場合、カメラチップはその長さにわたり単独のイメージを生成するように構成されてもよいし、あるいは生成その長さにわたる対応する複数のイメージのための複数のサブ領域を有するように構成されてもよい。カメラチップの領域が、個々に動作するサブ領域に分割される場合は、前記サブ領域と協働するためにカメラチップに複数レンズ構造を設けてよい。このようにして複数のイメージの生成を可能としてよい。個々のイメージを累積的に追加することによって継ぎ目のない組み合わせイメージを作り出すように、こうした個々のイメージをさらに組み合わせればよいことを理解されたい。好ましくは、前記サブ領域を光学的に隔てるための光バリアが設けられる。こうすれば、サブ領域の間の光学的クロストークが低減される。『変位可能』という用語は、横変位だけでなく、回転変位にも関連することを理解されたい。好ましくは、上記の少なくとも1つのカメラチップの角度を制御可能とする。この特徴は複数のカメラチップの場合に特に有用となる。なぜなら、検査される3次元環境内に存在する近位または遠位のいずれかのオブジェクトにカメラチップの焦点を合わせることを可能とするために、カメラチップの同心度の程度が制御可能になってよいからである。
好ましくは、ツールに対する変位を可能とするために、上記の少なくとも1つのカメラチップにモータが取り付けられる。加えて、または代替的に、上記の少なくとも1つのカメラチップを、ツールに対して変位可能な支持体上に配置してもよい。
本発明によるシステムの別の実施形態では、前記視点を有する前記イメージを生成するために、運動追跡システムが上記の少なくとも1つのカメラチップの変位を制御するようにさらに構成される。
本発明によるシステムでは、運動追跡システムを、カメラチップ(単数)またはカメラチップ(複数)を変位させるためのトリガ信号を生成するように構成することが可能である。例えば、トリガ信号は、カメラチップ(単数)またはカメラチップ(複数)と協働してそれらの対応する変位を生じさせるサーボモータに送られればよい。代替的に、カメラチップ(単数)またはカメラチップ(複数)が所望の視点(単数)または視点(複数)からイメージを撮影できるようにするために、トリガ信号を変位可能な支持体に送信してその動きを生じさせるようにしてもよい。以前に生成されたイメージから1つ以上のイメージが選択される場合は、アレイまたはマトリクスを利用すると有利である場合がある。本実施形態では、個々のカメラチップによって3次元環境のイメージを生成し、その後、それらを記憶するということが可能である。ユーザは、記憶されたイメージからの適当なイメージの選択を、自分の頭の運動によって制御してもよい。この場合は、システム応答が、変位可能な単一のカメラチップから得られるシステム応答よりも高くなる可能性がある。本実施形態は実質的に静的な3次元環境の検査に有用となる可能性があることを理解されたい。実用的には、特に医学的介入の最中は、ユーザの観察位置の変化によって制御可能な要求に応じて適当なイメージを生成することが望ましい。
変位可能なカメラチップ(単数)または変位可能なカメラチップ(複数)をツールに搭載する場合、本発明によるシステムは、まず、ユーザの一部分、例えばその眼または顔、の停留位置を検出し、次に、カメラチップ(単数)またはカメラチップ(複数)を変位させて、これらのカメラチップ(単数)またはカメラチップ(複数)が、ユーザの停留位置に対応する仮想視点と同じ視点を有する、3次元環境のイメージ(単数)またはイメージ(複数)を生成するように構成されてもよい。生成された複数のイメージからイメージを選択する代わりにこのようにすれば、システム応答時間の点で有利となる可能性があるオンデマンドイメージの生成が遂行される。
個々のイメージを各々生成できるサブ領域に分割される単独のカメラチップをトールに設けることが可能であることを理解されたい。こうすれば、複数のカメラチップが提供されることになる。こうした複数のサブ領域をイメージの個々のソースとして用いること、または、必要であれば、チップの実質的に全領域を用いた単一のイメージの生成のためにそれらを電子的に組み合わせることが可能であればよい。好ましくは、個々のイメージの生成を可能とするために、前記サブ領域と協働する複数レンズ構造が設けられる。サブ領域の間の光学的クロストークを低減するために、前記サブ領域を光学的に隔てる光バリアがツールに設けられてもよい。
本発明によるシステムの一実施形態では、カメラのアレイが同心状に配置される。
3次元環境に対して実質的に等距離のカメラのアレイを設けることが非常に有利であることが見いだされている。特に、低侵襲外科手術の分野では、カメラチップの、前記オブジェクトまでのそれぞれの距離の差によるイメージ内歪みを回避することが望ましいことが見いだされている。これは、前記カメラチップを同心状に、例えば同心状の線上に、配置することによって達成されればよい。これは、例えばカメラチップの光軸を3次元環境内の1つの共通点に向けて配置することによって達成されればよい。カメラチップのマトリクスが用いられる場合、前記カメラチップは、内視鏡の遠位部分、好ましくはその先端、に設けられる例えば同心状または放物線状の領域上に配置されればよい。加えて、または代替的に、カメラチップは、それらの個々の軸の周りの回転度が内視鏡の中心線に対するカメラチップの変位の関数として増加するように配置されてもよい。この場合は、カメラチップが配置される支持体が直線状のままにされてもよい。カメラチップの他の空間配置、例えば偏心、平行、外向きパノラマ等、が可能であることを理解されたい。
カメラチップのそれぞれの角度を調節可能とし、それによりカメラチップのアレイまたはマトリクスの同心度の程度を調節可能としてもよいことをさらに理解されたい。これは、共通焦点の位置が調節可能となる、特に共通焦点の深さ位置が調節可能となる、という利点がある。
本発明によるシステムの別の実施形態では、前記少なくともユーザの一部分が顔または眼を含む。
本発明によるシステムにおいては実質的に任意の周知の運動追跡システムが用いられてよいことを理解されたい。しかし、特に低侵襲外科手術の分野では、運動追跡システムを、ユーザの頭、または顔、または眼の変位を検出し、前記変位に従って前記複数のカメラからイメージを選択するように構成することが望ましい場合がある。変位はカメラベースのシステムによって適当に判定されればよく、運動追跡システムのカメラは、検査される3次元環境からの適当なオブジェクトのイメージが映し出されるディスプレイ上またはその近傍に設置されればよい。ユーザにとっての面倒を最小限に抑えるために、適当な頭部追跡システムが、ユーザが特別な眼鏡、センサまたはマーカを身につける必要なく機能するように構成されればよい。本実施形態は、図1および図2を参照しながらさらに詳細に説明される。運動追跡システムは、カメラベースのシステム、磁気/RF運動追跡システム等を含む、ただしそれらに限定されるものではない、適当な複数の利用可能な技術に基づくものであればよいことを理解されたい。
本発明によるシステムのさらに別の実施形態では、システムは、前記ユーザの位置のために、前記位置に対応する、視差付き立体イメージをディスプレイ上に表示するべく前記複数のイメージのうちの2つのイメージを選択するように構成された制御ユニットをさらに含む。
観察時に1度に1つを超えるイメージを提供することによりユーザによる立体視モードを可能とすることが有利であることが見いだされている。立体視モードは、ユーザに立体眼鏡をかけさせることによって、または、代替的に、3次元視を可能とするように構成された専用ディスプレイ上に、選択されたイメージを映し出すことによって支援されればよい。
本発明によるシステムのさらに別の実施形態では、システムは、前記複数のイメージの間を補間する中間イメージ群を再構築するための処理ユニットをさらに含む。
アレイ状またはマトリクス状に配置されてよい複数のカメラチップを含むシステムでは、個々のカメラチップによって撮影された個々のイメージの間を補間することが有利であることが見いだされている。異なる観察位置で撮影される離散的イメージの間の不規則性を滑らかにするために、別個の位置から補間イメージが算出されることもできることは当業者には明らかであろう。イメージの間を補間する方法が当技術分野から周知であり、例えば、本質的に、周知の3D補間が、例えば視差推定アルゴリズムに基づいて用いられてよい。イメージの間を補間するための他の周知のアルゴリズムが適用されてもよいことを理解されたい。この機能性は、3次元環境を撮影した個々のイメージの間の滑らかな接合を可能とし、ユーザによるその理解を容易にする。
ユーザによる3次元環境の検査を可能とする本発明による方法は:
−複数の異なる視点から3次元環境の複数のイメージを生成することと;
−前記複数のイメージからイメージを選択するために、またはイメージを生成するために、ユーザの観察位置を追跡することであって、前記イメージは、前記観察位置に対応する視点を有する、追跡することと;
−視点に対応するイメージをディスプレイ上に表示することと;
を含むというものである。
特に、前記複数の異なる視像は、その遠位部分にまたは遠位部分の近傍にカメラチップあるいはカメラのアレイまたはマトリクスが設けられたツールによって生成されればよい。より具体的な実施形態では、ツールは内視鏡機器に関連する。本発明による方法のさらに有利な実施形態が請求項18ないし22に明記されている。
ユーザによる3次元環境の検査を可能とするための本発明によるコンピュータプログラム製品は、上述の方法のステップをプロセッサに実行させるための命令を含むというものである。
本発明によるシステムに用いるツールは、ツールの遠位端にまたはその近傍に配置される少なくとも1つのカメラチップを含むというものである。特に、本発明によるツールは、内視鏡の遠位部分にまたはその近傍に配置される1つ以上のカメラチップが設けられる内視鏡に関連する。
本発明によるディスプレイユニットは:
−ディスプレイと;
−検査されることが意図される3次元環境に対するユーザの観察位置を判定する運動追跡システムと;
−ユーザの部分の前記観察位置に関する情報を受信し、前記観察位置に対応する視点を有するイメージをイメージソースに選択または生成させるトリガ信号を生成するように構成される制御システムと;
を含むというものである。
本発明は、上述のシステムにおいて複数のイメージを提供するための、ツールの遠位端にまたは遠位端の近傍に配置されたカメラのアレイを含むツールの利用にさらに関連する。
本発明は、上述のシステムにおいて異なる視点を有する複数のイメージを提供するための、ツールの遠位端にまたは遠位端の近傍に配置された少なくとも1台のカメラを含むツールの利用にさらになお関連する。好ましくは、ツールとして内視鏡が選択される。
本発明のこれらおよび他の態様が、図面を参照しながらさらに詳細に説明される。図面において、同様の参照符号は同様の要素に関連する。図面は例示の目的のためにのみ示されるものであり、添付の請求項の範囲を限定するために用いられてはならないことを理解されたい。
本発明によるシステムの実施形態の概略図を示す図である。 図1のシステムに用いるディスプレイの実施形態の概略図を示す図である。 図1のシステムにおけるツールの実施形態の概略図を示す図である。 図1のシステムで得られる、動きの視差の視覚化の例を概略的に示す図である。 本発明によるツールの別の実施形態の概略図を示す図である。 光学的バリアを含むツールの別の実施形態の概略図を示す図である。 単一の変位可能なカメラチップを含むツールのさらに別の実施形態の概略図を示す図である。 1対の変位可能なカメラチップを含むツールのさらに別の実施形態の概略図を示す図である。 本発明によるシステムにおける観視制御の実施形態の概略図を提供する図である。
図1は本発明によるシステムの実施形態の概略図を示す。システム10は、カメラ4のアレイが設けられたツール3を含む。カメラ4は、患者2内の目標領域に関連してよいオブジェクト1、例えば隠れたオブジェクト、を検査するためにツール3の遠位部分4上に配置される。検査を容易にするために、患者2は支持台5の上に載せられればよい。システム10は、ツール3上に配置された前記複数のカメラからのカメラのうちの1台からのイメージ9を表示するように意図されるディスプレイ8をさらに含む。ディスプレイ8上にイメージが映し出されるカメラを適切に選択することを可能とするために、システム10は、例えばオブジェクト1または運動追跡システム11に対する、ユーザの観察位置を判定するように適合される運動追跡システム11をさらに含む。好ましくは、運動追跡システム11は、カメラをベースとしたものとされ、追跡されるユーザの一部分(不図示)を検出するために、さらにユーザのその部分の任意の変位を遅れずに検出するために適したイメージプロセッサが設けられる。運動追跡システム11については、任意の最新の運動追跡システムが用いられてよい。特に、運動追跡システムは、撮像装置を用いてユーザの顔を検出し、顔の上の適当な注目点を追跡するように構成されればよい。注目点には鼻、頤または同様のものが用いられればよい。加えてまたは代替的に、運動追跡システム11は、ユーザの眼を検出し、顔の変位にかかわりなく眼の任意の変位を運動追跡するように構成されてもよい。本実施形態は、ユーザが単に自分の眼を動かすだけで異なる視角度が可能となるときに非常に有用である。
本発明によるシステム10は、検出されたユーザの変位に従って前記複数のカメラからカメラを選択するためにツール3と接続するように構成されればよい制御ユニット7をさらに含む。このとき、制御ユニット7は、選択されたカメラからのイメージをディスプレイ9に供給するように構成されればよい。制御ユニット7は、ユーザの検出された運動に従ってカメラの適当な変位を生じさせるようにさらに構成されてよい。その結果、ユーザは、観察者の視角度の変化に対する結果としてツール3から2次元イメージのシーケンスがディスプレイ8上に提供される運動視差シミュレーションシステムを提供されることになる。このようにして、オブジェクトおよび/またはその外界の準3次元視覚化の向上が可能となる。図4を参照しながら運動視差についてのさらなる詳細が説明される。
図2は、図1のシステムに用いるディスプレイの実施形態の概略図20を示す。ディスプレイ8には、図1を参照しながら説明された制御ユニット7に接続した固定カメラ11が設けられればよい。Uによって概略的に示されるユーザの頭が、最初は、中心位置Mと概略的に標識される位置を取ればよい。制御ユニット7は、ツールの中央カメラ(不図示)からのイメージをディスプレイ8に供給するように構成されればよい。こうした最初の正面のイメージングは、例えばカメラアレイを搭載した内視鏡を患者の内部へ挿入する間に、3次元環境の近傍においてツールを位置決めするために有利となる場合がある。ユーザUがツールを適切に位置決めすると、ユーザは、ディスプレイ8上の動きの視差をシミュレートするために、自分の頭を、L2、Ll、Rl、R2によって概略的に示される左右の方向に動かせばよい。動きの視差はカメラアレイの個々のカメラからのイメージのシーケンスとして現れることになる。ここで、個々のイメージはそれぞれ、中央カメラに対して左または右に配置される各々のカメラに対応するものである。代替的に、運動視差は1台以上のカメラを適当に変位させることによって可能とされてもよいことを理解されたい。ツールの遠位部分にまたは遠位部分の近傍に配置される複数のカメラを参照しながら本発明によるシステムの動作が説明されているが、こうした効果を達成するには少なくとも2台のカメラを用いれば十分であることをさらに理解されたい。代替的にまたは追加的に、ツールに対してカメラを変位させるために、カメラおよび/またはカメラ支持体にモータが取り付けられてもよい。本実施形態は、図3を参照しながらより詳細に説明される。
図3は、図1のシステムに用いるツールの実施形態の概略図を示す。ツール30は任意のオブジェクトに関連するものであればよく、特に、ツール30は、複数カメラ32a、32b、32c、32d、32eが設けられた支持体32を配置してよい遠位部分を有する本体34が設けられた内視鏡装置に関連するものであればよい。各カメラ32a、32b、32c、32d、32eには、3次元環境31のイメージの焦点を各々のカメラに合わせるために個々のレンズ33a、...、33eが設けられてよい。図面30a内の矢印Aによって概略的に示されるように、本体に対する支持体21の適当な回転を可能とするために、支持体はピボット35を用いて本体34に対して枢転可能に配置されればよい。このような回転は、中心から外れた視像が生成されて、本発明によるシステムが提供する模擬3次元視モードをよりいっそう向上させる可能性があるので、有利である。回転モードのさらなる利点は、手術の状況において、トロカールを介して右手を用いる器具を提供することが可能となることである。追加的に、または代替的に、個々のカメラの横変位(L)および/または回転変位(R)を可能とするために、カメラ32a、32b、32c、32d、32eにモータが取り付けられてもよい。その結果、これらのカメラのための視線方向Aa、...、Aeのセットが利用可能になる。カメラチップ32a、32b、32c、32d、32eの横変位を、好ましくは視線方向Aa、...、Aeに垂直な回転軸の周りのそれらの回転と組み合わせれば、次の有利な効果が得られよう。第1に、カメラアレイの同心度が調節されて近位のフィーチャまたは遠位のフィーチャに焦点を合わせることができよう。第2に、視差の程度を調節することができよう。第3に、カメラ群が共通焦点を垂直方向に変位させることができよう。ツール内における光の内部散乱を最小限に抑えるために、カメラチップは、付加的にコリメータの役割を果たせばよい適当な光学的バリアによって隔てられてよいことを理解されたい。
図4は、図1のシステムで得られる、動きの視差の視覚化の例を概略的に示す。同図では、適当な複数の図面40a、40b、40c、40dが概略的に描かれている。これらの図面では、オブジェクト42と41との間の動きの視差が実例で説明されており、各図面40a、40b、40c、40dは、図3を参照しながら説明されたカメラアレイのカメラに対応するものである。オブジェクト41、42の複数の2次元イメージが、視線方向に依存性のあるシーケンスとして示されると、オブジェクト41と42との間の空間的相互関係が明確になることがわかる。本図では、線に沿って動きながら観察する結果が示されている。ユーザの視点を左、右、上および下に動かすことができるようにするためには、カメラチップのマトリクスを用いればよいことは明らかである。
図5は、本発明によるツールの別の実施形態の概略図を示す。ツール50は、カメラ32a、32b、32c、32d、32eが設けられた支持体32を含む。各カメラ32a、32b、32c、32d、32eには、3次元環境31のイメージの焦点をカメラに合わせるための個々のレンズ33a、...、33eが設けられてよい。各レンズは、好ましくは、それが協働するカメラチップとユニットを形成し、そのため、カメラチップがどのように変位してもその専用レンズによって追従される。特に、複数レンズシステム32a、32b、...、32eの焦点深度を変更するための角変位が考えられ、検査中の3次元環境内に存在する近位または遠位のオブジェクトを検査することを可能とする。図面50a内の矢印Aによって概略的に示されるように、本体に対する支持体21の適当な回転を可能とするために、支持体は本体34に対して枢転可能に配置されればよい。ピボット点35は支持体32の適当な縁部に配置されればよい。支持体32は少なくとも90度、回転できるようにすることが望ましい。このように回転すると、中心を外した視像が生成されてよいようになり、本発明によるシステムが提供する模擬3次元視モードをよりいっそう向上させるので、有利である。手術の状況では、ツールはトロカールを用いて右手側から案内されればよく、都合がよい場合がある。追加的に、または代替的に、個々のカメラのそれらの軸Aa、...、Aeに関する横変位(L)および/または回転変位(R)を可能とするために、カメラ32a、32b、32c、32d、32eにモータが取り付けられてもよい。
図6は、光学的バリアを含むツールの別の実施形態の概略図を示す。ツール60は、専用のレンズ51、52、53、54、55とそれぞれ協働するサブ領域に電子的に分割されればよい単一のカメラチップ61を含んでよい。代替的に、カメラチップ61の領域と適当に位置合わせされる複数レンズアレイが設けられてもよい。カメラチップのサブ領域間の光学的クロストークを回避するために、ツール60は、サブ領域を光学的に隔てる光学的バリア62、64、64、65を含む。ツール60の他の要素は、図3または図5を参照しながら説明されたものと同じままとしてよい。
図7は、単一の変位可能なカメラチップを含むツールのさらに別の実施形態の概略図を示す。この特定の実施形態では、レンズ73が設けられた単一のカメラチップ72を含むユニットがツール70に設けられており、前記ユニットは支持体32に沿って平行移動可能となっている。ユニットには、カメラチップの視野の視準を、検査される3次元環境に合わせるための光学的バリア74a、74bが設けられてよい。加えてまたは代替的に、光学的バリアは、内部散乱を受けた光の光子がそれぞれのカメラチップに入るのを防ぐものである。従って、位置検出システム(不図示)が、観察位置に対応するユーザの現在の停留位置を判定すると、制御ユニット(不図示)が、ユニットに、ユーザによって経験されるとおりの3次元環境の観察位置をシミュレートする所望の位置までユニットを横平行移動させるトリガ信号を提供する。この目的のために、トリガ信号を、ユニットを方向Dlに沿って平行移動させる適当なサーボモータ(不図示)に印加すればよい。本図に示される他の要素は、図3を参照しながら説明されたものと同じであればよい。代替的に、ユニットを連続的に平行移動させながらまたは要求に応じて平行移動させながら複数のイメージを生成し、ユーザによって経験されるとおりの視線方向に合うように、イメージのうちの1つ以上を本発明によるシステムの制御ユニット(不図示)によって、例えばメモリから、選択できるようにするということが可能である。必要ならば、ユーザによって経験されるとおりの観察位置に正確に合うように、生成されたイメージの間を補間することが可能である。
図8は、1対の変位可能なカメラチップを含むツールのさらに別の実施形態の概略図を示す。ツール80は、上記のものを参照しながら説明されたのと同様に、支持体32を含み、支持体32には、各々専用のレンズ84a、84bをそれぞれ備えた1対のカメラチップ81a、81bが設けられる。その対は方向D2に沿って平行移動可能である。同様に、本実施形態においても、カメラチップの視準を、検査される3次元環境へ向けるために、各カメラチップに光学的バリア83a、83b、83c、83dが設けられてよい。追加的にまたは代替的に、光学的バリアは、内部散乱を受けた光の光子がそれぞれのカメラチップに入るのを防ぐものである。同様に、本実施形態では2つの択一的な動作モードが可能である。第1に、最初にユーザの観察位置を検出し、次にイメージを生成するためにカメラチップの対を適当に平行移動させ、次にカメラチップの対を平行移動させてそのような位置に合わせるということが可能である。好ましくは、本発明によるシステムは、カメラチップの対からのイメージを立体イメージとして表示する3次元ディスプレイを含む。代替的に、左右のカメラチップからのイメージは従来のディスプレイ上に表示されてもよく、立体視を可能とするためにユーザは立体眼鏡をかければよい。
第2に、支持体32内の実質的に全範囲に沿ってカメラチップの対を連続的にまたは要求に応じて平行移動させ、次に、ユーザの停留観察位置が検出されると、既に生成されているイメージから適当な1対のイメージを選択するということが可能である。1対のイメージは適当に記憶されればよい。ユーザの観察位置とツールによって提供される視線方向との間の正確な位置的一致を可能とするために、記憶されたイメージの対を、それを取得する前または取得した後に補間することも可能である。図8に示される他の要素は、上記の図面を参照しながら説明されたものと同じであればよいことを理解されたい。
図9は、本発明によるシステムにおける観視制御の実施形態の概略図を提供する。本図において、図面90では、分かりやすくするために、ツールのうち、カメラチップ93a、93b、93c、93d、93eのセットが設けられた部分32のみが示されている。少なくとも部分32内における内部光散乱によるイメージの劣化を回避するために、カメラチップ93a、93b、93c、93d、93eは、図6を参照しながら説明された光バリアと同様の適当な光バリアによって隔てられてもよい。本実施形態では、個々のカメラチップ93a、93b、93c、93d、93eに、カメラチップとともに少なくとも回転させることができる対応するレンズL1、L2、L3、L4、L5が設けられる。個々の回転も集団的な回転も考えられることを理解されたい。個々の回転は、焦点Fまでの距離を調節するという目的のために有利である場合がある。焦点Fはオブジェクト92の前、オブジェクト92の上またはオブジェクト92の先のいずれかに配置されていればよいことを理解されたい。このワズにおいて、カメラアレイの同心度の程度が調節されればよい。
このような調節を可能とするには、個々の視線方向Aa、...、Aeに垂直であればよい適当な回転軸(不図示)に関してカメラチップを回転させればよい。この場合は、イメージを得るためにカメラチップCl、C2、C3、C4、C5それぞれの中央部が用いられればよい。
追加的に、または代替的に、焦点Fを、例えば垂直にまたは水平に、変位させるために、カメラチップ93a、93b、93c、93d、93eを回転させてもよい。この場合は、それぞれの駆動手段を同時に作動させればよい。
図面90aは、本発明によるシステムの別の実施形態を概略的に示す。本実施形態では、カメラアレイの同心度の程度を調節するために、イメージの取得に用いられるように意図されるカメラチップの部分が調節可能であってよい。本実施形態では、他の要素が、図面90を参照しながら説明されたものと同じであれば、イメージを得るべくおよび/または提供するべくカメラチップの適当な有効領域を選択するように各カメラチップ93a、93b、93c、93d、93eを適当なソフトウェアプログラム(不図示)によって制御することができる。例えば、カメラアレイの同心度は、カメラチップ93aはチップ領域の部分C1′を使ってイメージを提供できるように、カメラチップ93bはイメージを得るために異なる部分C2′を使えるように、カメラチップ93cはイメージを得るためにさらに異なる部分C3′を使えるように、カメラチップ93dはイメージを得るためにさらに異なる部分C4′を使えるように、カメラチップ93dはイメージを得るためにさらに異なる部分C5′を使えるようにすることによって調節されてよい。それぞれの部分の位置を制御することによってカメラアレイの同心度の程度が調節されればよい。図9は、中央のカメラチップがオブジェクト92の実質的に中央の視像を提供する実施形態を示しているものの、軸を外した観察が意図されていることを理解されたい。
以上では特定の実施形態が記載されているが、本発明は記載されている以外の方法で実施されてよいことを理解されたい。3次元環境は、別のオブジェクトによって遮蔽されたオブジェクトを含んでよいことを理解されたい。上述の記載は、限定ではなく、例示として意図されたものである。従って、以下に述べられる請求項の範囲から逸脱することなく上述の本発明に変更がなされてよいことは当業者には明らかであろう。

Claims (27)

  1. ユーザによる3次元環境の検査のためのシステムであって、該システムは:
    −前記3次元環境の近傍に案内されるように構成されるツールであって、前記ツールは、前記3次元環境内に存在するオブジェクトの、それぞれの視点を有する複数のイメージを生成するように構成される少なくとも1つのカメラチップを含む、ツールと;
    −前記複数のイメージからの少なくとも1つのイメージを受信するように構成されるディスプレイユニットと;
    −前記ディスプレイ上にイメージを表示するべく前記少なくとも1つのカメラチップから前記イメージを選択または生成するために前記ユーザの観察位置を判定するように構成される運動追跡システムであって、前記イメージは前記観察位置に対応する視点を有する、運動追跡システムと;
    を含むシステム。
  2. それぞれの視点を有する前記複数のイメージを生成するために前記少なくとも1つのカメラチップが変位可能である、請求項1に記載のシステム。
  3. 前記ツールに対する変位を可能とするために前記少なくとも1つのカメラチップにモータが取り付けられる、請求項2に記載のシステム。
  4. 前記少なくとも1つのカメラチップが、前記ツールに対して変位可能な支持体上に配置される、請求項2に記載のシステム。
  5. 前記視点を有する前記イメージを生成するために前記運動追跡システムが前記少なくとも1つのカメラチップの変位を制御するようにさらに構成される、請求項2、3または4に記載のシステム。
  6. 前記少なくとも1つのカメラチップがカメラチップのアレイまたはマトリクスを含む、上記の請求項のうちいずれか1項に記載のシステム。
  7. 個々のイメージをそれぞれ生成することができるサブ領域に分割される単独のカメラチップを含む、請求項6に記載のシステム。
  8. 前記サブ領域と協働するための複数レンズ構造をさらに含む、請求項6または7に記載のシステム。
  9. 前記カメラチップまたは前記サブ領域を光学的に隔てるための光バリアをさらに含む、請求項6または7に記載のシステム。
  10. カメラチップの前記アレイまたは前記マトリクスが同心状に配置される、上記の請求項6ないし9のうちいずれか1項に記載のシステム。
  11. カメラチップの前記アレイまたはマトリクスが同心状の線上または同心状の領域上に配置される、請求項10に記載のシステム。
  12. 前記ユーザの観察位置のために、前記観察位置に対応する、視差付き立体イメージを前記ディスプレイ上に表示するべく前記複数のイメージのうちの2つのイメージを選択するように構成された制御ユニットをさらに含む、上記の請求項のうちいずれか1項に記載のシステム。
  13. 前記ディスプレイが、3次元視像を可能とするように構成される、請求項12に記載のシステム。
  14. 前記複数のイメージの間を補間する中間イメージ群を再構築するための処理ユニットをさらに含む、上記の請求項のうちいずれか1項に記載のシステム。
  15. 前記ツールが内視鏡を含む、上記の請求項のうちいずれか1項に記載のシステム。
  16. 前記カメラチップが前記内視鏡の遠位端にまたは遠位端の近傍に配置される、請求項15に記載のシステム。
  17. ユーザによる3次元環境の検査を可能とする方法であって、該方法は:
    −複数の異なる視点から前記3次元環境の複数のイメージを生成することと;
    −前記複数のイメージからイメージを選択するために、またはイメージを生成するために、前記ユーザの観察位置の運動を追跡することであって、前記イメージは、前記観察位置に対応する視点を有する、追跡することと;
    −前記視点を有する前記イメージをディスプレイ上に表示することと;
    を含む方法。
  18. 前記複数の異なる視点が少なくとも1つのカメラチップによって可能とされる、請求項17に記載の方法。
  19. 前記少なくとも1つのカメラチップが変位可能であり、前記方法が、前記視点を有する前記イメージを少なくとも生成するために前記少なくとも1つのカメラチップを変位させるステップを含む、請求項17または18に記載の方法。
  20. 前記少なくとも1つのカメラチップを変位させるために前記運動追跡に関するデータを用いるステップをさらに含む、請求項19に記載の方法。
  21. 前記方法が:
    −前記複数のイメージからの前記イメージの間を補間することによって中間イメージ群を再構築するステップと;
    −前記中間イメージ群および前記複数のイメージを表示するステップと;
    をさらに含む、上記の請求項17ないし20のうちいずれか1項に記載の方法。
  22. 前記方法が:
    −前記複数のイメージから前記ユーザの位置に対応する2つのイメージを選択するステップと;
    −立体視を可能とするために前記2つのイメージを表示するステップと;
    をさらに含む、上記の請求項17ないし21のうちいずれか1項に記載の方法。
  23. ユーザによる3次元環境の検査を可能とするためのコンピュータプログラム製品であって、前記コンピュータプログラム製品は、上記の請求項17ないし22のうちいずれか1項に記載の方法のステップをプロセッサに実行させるための命令を含む、コンピュータプログラム製品。
  24. 上記の請求項1ないし16のうちいずれか1項に記載のシステムに用いるツール。
  25. 上記の請求項1ないし16のうちいずれか1項に記載のシステムに用いるディスプレイユニットであって、
    −ディスプレイと;
    −ユーザの少なくとも一部分の観察位置を判定する運動追跡システムと;
    −前記ユーザの前記観察位置に関する情報を受信し、イメージソースに前記観察位置に対応する視点を有するイメージを選択させるまたは生成させるトリガ信号を生成するように構成される制御システム。
  26. 上記の請求項1ないし16のうちいずれか1項に記載のシステムにおいて異なる視点を有する複数のイメージを提供するための、ツールの遠位端にまたは遠位端の近傍に配置される少なくとも1つのカメラチップを含む前記ツールの利用。
  27. 前記ツールとして内視鏡が選択される、請求項26に記載の利用。
JP2011518675A 2008-07-17 2009-07-17 ユーザによる3次元環境の検査のための内視鏡システム Expired - Fee Related JP5525521B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP08160646.9 2008-07-17
EP20080160646 EP2145575A1 (en) 2008-07-17 2008-07-17 A system, a method and a computer program for inspection of a three-dimensional environment by a user
PCT/NL2009/050444 WO2010008292A1 (en) 2008-07-17 2009-07-17 A system, a method and a computer program for inspection of a three-dimensional environment by a user

Publications (3)

Publication Number Publication Date
JP2011528252A true JP2011528252A (ja) 2011-11-17
JP2011528252A5 JP2011528252A5 (ja) 2012-08-30
JP5525521B2 JP5525521B2 (ja) 2014-06-18

Family

ID=39877955

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011518675A Expired - Fee Related JP5525521B2 (ja) 2008-07-17 2009-07-17 ユーザによる3次元環境の検査のための内視鏡システム

Country Status (4)

Country Link
US (1) US9138135B2 (ja)
EP (2) EP2145575A1 (ja)
JP (1) JP5525521B2 (ja)
WO (1) WO2010008292A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015133608A1 (ja) * 2014-03-07 2015-09-11 国立大学法人京都大学 手術支援システムおよびこれに用いるカメラユニット
JP2016508765A (ja) * 2013-01-21 2016-03-24 シーメンス アクチエンゲゼルシヤフトSiemens Aktiengesellschaft 内視鏡、殊に低侵襲手術のための内視鏡
JP2017517355A (ja) * 2014-03-28 2017-06-29 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 定量的3次元イメージング及び手術用インプラントのプリント
US11304771B2 (en) 2014-03-28 2022-04-19 Intuitive Surgical Operations, Inc. Surgical system with haptic feedback based upon quantitative three-dimensional imaging

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9201185B2 (en) 2011-02-04 2015-12-01 Microsoft Technology Licensing, Llc Directional backlighting for display panels
DE102011005256A1 (de) * 2011-03-08 2012-09-13 Olympus Winter & Ibe Gmbh Verfahren und System zur Darstellung videoendoskopischer Bilddaten eines Videoendoskops mit diskreten Blickrichtungen
EP2781182A4 (en) * 2011-11-15 2015-08-05 Naoki Suzuki PHOTOGRAPHIC DEVICE AND PHOTOGRAPHIC SYSTEM
US9354748B2 (en) 2012-02-13 2016-05-31 Microsoft Technology Licensing, Llc Optical stylus interaction
US8873227B2 (en) 2012-03-02 2014-10-28 Microsoft Corporation Flexible hinge support layer
USRE48963E1 (en) 2012-03-02 2022-03-08 Microsoft Technology Licensing, Llc Connection device for computing devices
US9075566B2 (en) 2012-03-02 2015-07-07 Microsoft Technoogy Licensing, LLC Flexible hinge spine
US9134807B2 (en) 2012-03-02 2015-09-15 Microsoft Technology Licensing, Llc Pressure sensitive key normalization
US9064654B2 (en) 2012-03-02 2015-06-23 Microsoft Technology Licensing, Llc Method of manufacturing an input device
US9426905B2 (en) 2012-03-02 2016-08-23 Microsoft Technology Licensing, Llc Connection device for computing devices
US9360893B2 (en) 2012-03-02 2016-06-07 Microsoft Technology Licensing, Llc Input device writing surface
US9298236B2 (en) 2012-03-02 2016-03-29 Microsoft Technology Licensing, Llc Multi-stage power adapter configured to provide a first power level upon initial connection of the power adapter to the host device and a second power level thereafter upon notification from the host device to the power adapter
US9870066B2 (en) 2012-03-02 2018-01-16 Microsoft Technology Licensing, Llc Method of manufacturing an input device
US20130300590A1 (en) 2012-05-14 2013-11-14 Paul Henry Dietz Audio Feedback
US8947353B2 (en) 2012-06-12 2015-02-03 Microsoft Corporation Photosensor array gesture detection
US9684382B2 (en) 2012-06-13 2017-06-20 Microsoft Technology Licensing, Llc Input device configuration having capacitive and pressure sensors
US9459160B2 (en) 2012-06-13 2016-10-04 Microsoft Technology Licensing, Llc Input device sensor configuration
US9256089B2 (en) 2012-06-15 2016-02-09 Microsoft Technology Licensing, Llc Object-detecting backlight unit
US8964379B2 (en) 2012-08-20 2015-02-24 Microsoft Corporation Switchable magnetic lock
US8654030B1 (en) 2012-10-16 2014-02-18 Microsoft Corporation Antenna placement
CN104870123B (zh) 2012-10-17 2016-12-14 微软技术许可有限责任公司 金属合金注射成型突起
US9769365B1 (en) * 2013-02-15 2017-09-19 Red.Com, Inc. Dense field imaging
US10578499B2 (en) 2013-02-17 2020-03-03 Microsoft Technology Licensing, Llc Piezo-actuated virtual buttons for touch surfaces
EP2967623B1 (en) 2013-03-14 2021-07-21 SRI International Compact robotic wrist
KR102257034B1 (ko) 2013-03-15 2021-05-28 에스알아이 인터내셔널 하이퍼덱스트러스 수술 시스템
US9448631B2 (en) 2013-12-31 2016-09-20 Microsoft Technology Licensing, Llc Input device haptics and pressure sensing
US9759854B2 (en) 2014-02-17 2017-09-12 Microsoft Technology Licensing, Llc Input device outer layer and backlighting
US10120420B2 (en) 2014-03-21 2018-11-06 Microsoft Technology Licensing, Llc Lockable display and techniques enabling use of lockable displays
CN111184577A (zh) 2014-03-28 2020-05-22 直观外科手术操作公司 器械在视野中的定量三维可视化
WO2015149046A1 (en) 2014-03-28 2015-10-01 Dorin Panescu Quantitative three-dimensional imaging of surgical scenes from multiport perspectives
JP2017518147A (ja) 2014-03-28 2017-07-06 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 手術シーンの定量的三次元撮像
US10324733B2 (en) 2014-07-30 2019-06-18 Microsoft Technology Licensing, Llc Shutdown notifications
US9424048B2 (en) 2014-09-15 2016-08-23 Microsoft Technology Licensing, Llc Inductive peripheral retention device
CN107529960B (zh) 2015-05-12 2020-10-02 亚伯拉罕·莱维 动态视野内窥镜
US10416799B2 (en) 2015-06-03 2019-09-17 Microsoft Technology Licensing, Llc Force sensing and inadvertent input control of an input device
US10222889B2 (en) 2015-06-03 2019-03-05 Microsoft Technology Licensing, Llc Force inputs and cursor control
EP3325233A1 (en) 2015-07-23 2018-05-30 SRI International Inc. Robotic arm and robotic surgical system
US10061385B2 (en) 2016-01-22 2018-08-28 Microsoft Technology Licensing, Llc Haptic feedback for a touch input device
DE102019118508B3 (de) * 2019-07-09 2020-12-24 Carl Zeiss Meditec Ag Optische Abbildungsvorrichtung und Verfahren zur Verbesserung dargestellter Bilder
US20220400195A1 (en) * 2021-06-15 2022-12-15 RZP Holdings, Inc. Electronic visual food probe

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63274911A (ja) * 1987-05-07 1988-11-11 Toshiba Corp 電子内視鏡装置
JPH0255907U (ja) * 1988-10-15 1990-04-23
JPH03179994A (ja) * 1989-12-08 1991-08-05 Nippon Hoso Kyokai <Nhk> 画像表示方法および装置
JPH0659196A (ja) * 1992-06-09 1994-03-04 Olympus Optical Co Ltd 立体視内視鏡装置
JPH0735989A (ja) * 1993-07-26 1995-02-07 Olympus Optical Co Ltd 立体視内視鏡
JPH07296139A (ja) * 1994-04-25 1995-11-10 Canon Inc 画像処理方法及びその装置
JPH08237687A (ja) * 1995-02-24 1996-09-13 Matsushita Electric Ind Co Ltd 疑似立体画像表示装置
JPH11295618A (ja) * 1998-04-10 1999-10-29 Olympus Optical Co Ltd 内視鏡画像処理装置
JP2004533863A (ja) * 2001-02-13 2004-11-11 メディガイド リミテッド 医療用撮像兼ナビゲーションシステム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0255907A (ja) 1988-08-20 1990-02-26 Juki Corp 形状認識装置
US5287437A (en) * 1992-06-02 1994-02-15 Sun Microsystems, Inc. Method and apparatus for head tracked display of precomputed stereo images
US5381784A (en) * 1992-09-30 1995-01-17 Adair; Edwin L. Stereoscopic endoscope
US5776050A (en) * 1995-07-24 1998-07-07 Medical Media Systems Anatomical visualization system
US6292221B1 (en) * 1998-11-17 2001-09-18 Vista Medical Technologies, Inc. Motorized focusing device and viewing system utilizing same
US6767321B2 (en) * 1999-10-04 2004-07-27 Robert Czarnek Stereo laparoscope with discrete working distance
US6652452B1 (en) * 1999-10-25 2003-11-25 Advanced Medical Electronics Corporation Infrared endoscope with sensor array at the distal tip
US6603907B2 (en) * 2001-03-16 2003-08-05 Neutron Media, Llc Communications network and method of installing the same
US6679837B2 (en) * 2001-06-01 2004-01-20 Intlas Ltd. Laser light irradiation apparatus
US8369607B2 (en) * 2002-03-27 2013-02-05 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images
US6801325B2 (en) * 2002-06-25 2004-10-05 Intuitive Surgical, Inc. Method and devices for inspecting and calibrating of stereoscopic endoscopes
JP4476905B2 (ja) * 2005-08-31 2010-06-09 株式会社東芝 立体表示画像データの構造、立体表示画像データの記録方法、表示再生方法、記録プログラム、および表示再生プログラム
JP2008165136A (ja) * 2007-01-05 2008-07-17 Seiko Epson Corp プロジェクタ
US8105233B2 (en) * 2007-10-24 2012-01-31 Tarek Ahmed Nabil Abou El Kheir Endoscopic system and method for therapeutic applications and obtaining 3-dimensional human vision simulated imaging with real dynamic convergence
US20090219224A1 (en) * 2008-02-28 2009-09-03 Johannes Elg Head tracking for enhanced 3d experience using face detection
US20100053151A1 (en) * 2008-09-02 2010-03-04 Samsung Electronics Co., Ltd In-line mediation for manipulating three-dimensional content on a display device
US8192015B2 (en) * 2009-01-09 2012-06-05 Oakley, Inc. Eyeglass with enhanced ballistic resistance
US8469510B2 (en) * 2009-01-09 2013-06-25 Oakley, Inc. Eyewear with enhanced ballistic resistance
US8641621B2 (en) * 2009-02-17 2014-02-04 Inneroptic Technology, Inc. Systems, methods, apparatuses, and computer-readable media for image management in image-guided medical procedures
US8798158B2 (en) * 2009-03-11 2014-08-05 Industry Academic Cooperation Foundation Of Kyung Hee University Method and apparatus for block-based depth map coding and 3D video coding method using the same
CA2761844C (en) * 2009-05-14 2017-11-28 University Health Network Quantitative endoscopy
US9465226B2 (en) * 2011-08-09 2016-10-11 Sony Computer Entertainment Inc. Automatic shutdown of 3D based on glasses orientation
US20130225078A1 (en) * 2012-02-24 2013-08-29 Karl-Anders Reinhold JOHANSSON Method and apparatus for interconnected devices

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63274911A (ja) * 1987-05-07 1988-11-11 Toshiba Corp 電子内視鏡装置
JPH0255907U (ja) * 1988-10-15 1990-04-23
JPH03179994A (ja) * 1989-12-08 1991-08-05 Nippon Hoso Kyokai <Nhk> 画像表示方法および装置
JPH0659196A (ja) * 1992-06-09 1994-03-04 Olympus Optical Co Ltd 立体視内視鏡装置
JPH0735989A (ja) * 1993-07-26 1995-02-07 Olympus Optical Co Ltd 立体視内視鏡
JPH07296139A (ja) * 1994-04-25 1995-11-10 Canon Inc 画像処理方法及びその装置
JPH08237687A (ja) * 1995-02-24 1996-09-13 Matsushita Electric Ind Co Ltd 疑似立体画像表示装置
JPH11295618A (ja) * 1998-04-10 1999-10-29 Olympus Optical Co Ltd 内視鏡画像処理装置
JP2004533863A (ja) * 2001-02-13 2004-11-11 メディガイド リミテッド 医療用撮像兼ナビゲーションシステム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016508765A (ja) * 2013-01-21 2016-03-24 シーメンス アクチエンゲゼルシヤフトSiemens Aktiengesellschaft 内視鏡、殊に低侵襲手術のための内視鏡
WO2015133608A1 (ja) * 2014-03-07 2015-09-11 国立大学法人京都大学 手術支援システムおよびこれに用いるカメラユニット
JP2017517355A (ja) * 2014-03-28 2017-06-29 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 定量的3次元イメージング及び手術用インプラントのプリント
JP2020073001A (ja) * 2014-03-28 2020-05-14 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 定量的3次元イメージング及び手術用インプラントのプリント
US11304771B2 (en) 2014-03-28 2022-04-19 Intuitive Surgical Operations, Inc. Surgical system with haptic feedback based upon quantitative three-dimensional imaging
JP7433932B2 (ja) 2014-03-28 2024-02-20 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 定量的3次元イメージング及び手術用インプラントのプリント

Also Published As

Publication number Publication date
EP2145575A1 (en) 2010-01-20
WO2010008292A1 (en) 2010-01-21
US20110193938A1 (en) 2011-08-11
US9138135B2 (en) 2015-09-22
EP2303097B1 (en) 2017-10-04
EP2303097A1 (en) 2011-04-06
JP5525521B2 (ja) 2014-06-18

Similar Documents

Publication Publication Date Title
JP5525521B2 (ja) ユーザによる3次元環境の検査のための内視鏡システム
US20240080433A1 (en) Systems and methods for mediated-reality surgical visualization
US20210169606A1 (en) Surgical visualization systems and displays
JP7379373B2 (ja) 立体視覚化カメラ及び統合ロボットプラットフォーム
US20230255446A1 (en) Surgical visualization systems and displays
EP3912588B1 (en) Imaging system for surgical robot, and surgical robot
JP7460631B2 (ja) デュアル画像センサを有する内視鏡
Birkfellner et al. Computer-enhanced stereoscopic vision in a head-mounted operating binocular
CA2993561C (en) System for three-dimensional visualization
WO2006086223A2 (en) Augmented reality device and method
EP2043499A1 (en) Endoscopic vision system
JP6116754B2 (ja) 低侵襲手術において画像データを立体視表示するための装置およびその装置の作動方法
Figl et al. A fully automated calibration method for an optical see-through head-mounted operating microscope with variable zoom and focus
EP4388734A1 (en) Stereoscopic display and digital loupe for augmented-reality near-eye display
WO2020220890A1 (zh) 显示装置及手术机器人
US11822089B2 (en) Head wearable virtual image module for superimposing virtual image on real-time image
Dunkin et al. 3d in the minimally invasive surgery (mis) operating room: Cameras and displays in the evolution of mis
WO2024176154A2 (en) Head-mounted stereoscopic display device with digital loupes and associated methods

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120710

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120710

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130528

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130822

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130829

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130926

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131003

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131021

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131028

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140411

R150 Certificate of patent or registration of utility model

Ref document number: 5525521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees