JP2017512308A - 正反射の検出と低減のためのシステムおよび方法 - Google Patents

正反射の検出と低減のためのシステムおよび方法 Download PDF

Info

Publication number
JP2017512308A
JP2017512308A JP2016554370A JP2016554370A JP2017512308A JP 2017512308 A JP2017512308 A JP 2017512308A JP 2016554370 A JP2016554370 A JP 2016554370A JP 2016554370 A JP2016554370 A JP 2016554370A JP 2017512308 A JP2017512308 A JP 2017512308A
Authority
JP
Japan
Prior art keywords
image
region
imaging
reflection
imaging system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016554370A
Other languages
English (en)
Other versions
JP2017512308A5 (ja
JP6735675B2 (ja
Inventor
アズィズィアン,マーディ
ソージャー,ジョナサン
Original Assignee
インテュイティブ サージカル オペレーションズ, インコーポレイテッド
インテュイティブ サージカル オペレーションズ, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インテュイティブ サージカル オペレーションズ, インコーポレイテッド, インテュイティブ サージカル オペレーションズ, インコーポレイテッド filed Critical インテュイティブ サージカル オペレーションズ, インコーポレイテッド
Publication of JP2017512308A publication Critical patent/JP2017512308A/ja
Publication of JP2017512308A5 publication Critical patent/JP2017512308A5/ja
Priority to JP2020120537A priority Critical patent/JP6957689B2/ja
Application granted granted Critical
Publication of JP6735675B2 publication Critical patent/JP6735675B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7405Details of notification to user or communication with user or patient ; user input means using sound
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Endoscopes (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)

Abstract

正反射の検出と低減に係るシステムおよび方法は、一つまたはそれ以上のプロセッサを含む処理装置と、処理装置に対して接続されている画像化装置を含む。画像化装置は、興味領域について照明を提供するための一つまたはそれ以上の第1照明器具、照明の反射を検出するための一つまたはそれ以上の第1検出器、興味領域において一つまたはそれ以上の蛍光材料の蛍光発光をトリガするための一つまたはそれ以上の第2照明器具、および、蛍光材料の蛍光発光を検出するための一つまたはそれ以上の第2検出器、を含む。処理装置は、第1検出器から第1画像を受け取り、第1画像における一つまたはそれ以上の高い正反射の領域を決定し、第1画像における高い正反射の領域をマスクアウトし、かつ、マスクされた第1画像と検出された蛍光発光に基づいて、合成画像を生成するように構成されている。第1画像は、検出された反射を含んでいる。

Description

本発明開示は、一般的に、画像化装置および蛍光撮像をサポートしている画像化装置に関する。より特定的には、正反射の検出と低減に関する。
蛍光ベース(fluorescence−based)画像化においては、画像化装置の視野の中に存在する蛍光材料が一波長の光を用いて励起されて、異なる波長の光を発する。このことは、観察者(observer)にとって特定の興味である視野に部分をハイライトするための有用なメカニズムを提供し得る。例えば、蛍光画像にガイドされる外科手術の場合には、蛍光染料、インドシアニングリーン(ICG)といったものが、患者組織(patient’s anatomy)の部分に対して導入されてよい。患者組織のそうした部分をハイライトするためである。ICGは、近赤外光(概ね750−800nm)を用いて励起されると、わずかに高い波長(845nmあたり)で蛍光を発する。患者組織の選択された部分の中にICGを導入することによって、外科医または他の医療関係者は、適切なビューアーまたはカメラの助けを借りて、彼らが選択された組織を特定し、及び/又は、回避するのを手助けする視覚的な合図及び/又はハイライトを受け取ることができる。例えば、ICGまたは他の染料は、センチネルリンパ節、相対的かん流(relative perfusion)の領域、腫瘍境界、等をハイライトするために使用され得る。患者組織をハイライトするために適切な他の有用な蛍光染料は、メチレンブルー、フルオレシン、および、ネブラスカ州リンカーンのLI−COR社からのIRDye(R)を含んでいる。いくつかの事例において、蛍光は可視帯域にあってよく、そして、追加のビューアーまたはカメラを要しなくてよい。蛍光ベース画像化が使用されている一方で、外科医及び/又は他の医療関係者が他の組織構造を見て、可視化し得るように、興味領域に関する患者組織の他の領域を広く照らすために可視光または蛍光が使用されることも、また、一般的ある。
残念ながら、蛍光ベース画像化は、他の画像化アプリケーションと同一の問題の多くに対して影響を受けやすい。患者組織の多くの部分は、光の反射性が非常に高い。例えば、組織及び/又は器官構造といった、組織構造の表面上における水分(moisture)の存在のせいである。この高い反射率によって、患者組織を広く照らすために使用されている可視光は、高い正反射(specular reflection)である一つまたはそれ以上の領域を生成してしまうことがある。高い正反射のこれらの領域は、患者組織の画像の中に輝点(bright spot)を生成し、及び/又は、画像を検出するために使用されるセンサを飽和させてしまうことがある。結果として、高い正反射の領域は、蛍光発光領域について誤解され、及び/又は、蛍光発光領域をマスクまたは覆い隠してしまうことがあり、このように、選択された組織を検出することにおいて、蛍光の有用性を制限している。
従って、より有用な蛍光画像が獲得できるように、高い正反射の領域について検出、低減、及び/又は、補償するための改善された方法およびシステムを提供することが望ましい。
いくつかの実施例と一貫して、画像化システムは、一つまたはそれ以上のプロセッサを含む処理装置と、処理装置に対して接続されている画像化装置を含む。画像化装置は、興味領域について照明を提供するための一つまたはそれ以上の第1照明器具、照明の反射を検出するための一つまたはそれ以上の第1検出器、興味領域において一つまたはそれ以上の蛍光材料の蛍光発光をトリガするための一つまたはそれ以上の第2照明器具、および、蛍光材料の蛍光発光を検出するための一つまたはそれ以上の第2検出器、を含む。処理装置は、第1検出器から第1画像を受け取り、第1画像における一つまたはそれ以上の高い正反射の領域を決定し、第1画像における高い正反射の領域をマスクアウトし、かつ、マスクされた第1画像と検出された蛍光発光に基づいて、合成画像を生成するように構成されている。第1画像は、検出された反射を含んでいる。
いくつかの実施例と一貫して、画像化の方法は、画像化装置を使用して興味領域の上に一般照明を発光するステップ、画像化装置を使用して一般照明の第1反射を検出するステップ、第1反射に基づいて第1画像を形成するステップ、第1画像における一つまたはそれ以上の高い正反射の領域を決定するステップ、第1画像における高い正反射の領域をマスクアウトするステップ、画像化装置を使用して興味領域の上に蛍光体光トリガーイベントが照明を発光するステップ、画像化装置を使用して興味領域における一つまたはそれ以上の蛍光材料の蛍光発光を検出するステップ、および、マスクされた第1画像と検出された蛍光発光に基づいて合成画像を生成するステップ、を含む。
いくつかの実施例と一貫して、画像化システムは、一つまたはそれ以上のプロセッサを含む処理装置と処理装置に対して接続されている画像化装置を含む。画像化装置は、興味領域について照明を提供するための一つまたはそれ以上の第1照明器具、および、照明の反射を検出するための一つまたはそれ以上の第1検出器を含む。処理装置は、第1検出器から第1画像を受け取り、第1検出器から第2画像を受け取り、第1画像と第2画像における第1の高い正反射の領域を決定し、第1画像と第2画像との間の差異に基づいて第1の高い正反射の領域における第1面法線を見積り、かつ、見積りされた第1面法線に基づいて一つまたはそれ以上の離れ移動ヒントを提供する、ように構成されている。第1画像は、検出された反射を含み、かつ、第1画像化形態に基づいている。第2画像は、検出された反射を含み、かつ、第1画像化形態とは異なる第2画像化形態に基づいている。
いくつかの実施例と一貫して、画像化システムは、処理装置、処理装置に接続された照明システム、および、処理装置に接続された検出器システムを含む。処理装置は、一つまたはそれ以上のプロセッサを含む。照明システムは、興味領域を照明するための照明を発光し、かつ、興味領域において一つまたはそれ以上の蛍光材料の蛍光発光をトリガする。検出器システムは、発光された照明の反射を検出し、かつ、興味領域における一つまたはそれ以上の蛍光発光を検出する。処理装置は、検出器システムから検出された反射を含んでいる第1画像を受け取り、第1画像における一つまたはそれ以上の高い正反射の領域を決定し、第1画像における高い正反射の領域をマスクアウトし、かつ、マスクされた第1画像と検出された蛍光発光に基づいて合成画像を生成する、ように構成されている。
いくつかの実施例と一貫して、方法は、興味領域のマスクされた画像にアクセスするステップ、興味領域の蛍光画像にアクセスするステップ、および、マスクされた画像と蛍光画像に基づいて合成画像を生成するステップ、を含む。マスクされた画像は、マスクアウトされた高い正反射の領域を有する第1反射画像を含んでいる。
図1は、いくつかの実施例に従った、蛍光画像化システムの簡素化されたダイヤグラムである。 図2は、いくつかの実施例に従った、高い正反射の検出および低減に係る方法の簡素化されたダイヤグラムである。 図3は、いくつかの実施例に従った、別の蛍光画像化システムの簡素化されたダイヤグラムである。 図4は、いくつかの実施例に従った、高い正反射の検出および低減に係る別の方法の簡素化されたダイヤグラムである。
図面において、同一の記号表示を有しているエレメントは、同一または類似の機能を有するものである。
以降の記述においては、本開示と一貫したいくつかの実施例を説明することで特定の詳細が明らかにされる。当業者にとっては、しかしながら、いくつかの実施例は、これらの特定な詳細のいくつか又は全てがなくても実施され得ることが明らかであろう。ここにおいて開示される特定の実施例は、説明的なものであり、限定的なものではないことが意味されている。当業者であれば、たとえ特定的にここにおいて記述されていなくても、他のエレメントが、この開示の範囲または精神の中にあることを理解できる。加えて、不必要な繰返しを避けるために、一つの実施例に関連して示され、説明された一つまたはそれ以上の特徴は、そうでないものと特定的に記述されていなければ、もしくは、その一つまたはそれ以上の特徴が実施例を機能しなくさせるであろう場合には、他の実施例の中に包含され得るものである。
図1は、いくつかの実施例に従った、蛍光画像化システム100の簡素化されたダイヤグラムである。図1に示されるように、興味領域110、患者組織の一部分といったものが示されており、画像化装置120を使用して照らされている。画像化装置120は、数個のエミッタ(emitter)と検出器(detector)を含んでいる。興味領域110を照らし、そして、反射された照明および興味領域における蛍光の両方に基づいて、興味領域110の一つまたはそれ以上の画像を収集するためである。図1には示されていないが、画像化装置120は、内視鏡ツールの一部、カルフォルニア州サニーベイルのIntuitive Surgical社によって商業化されたda Vinci(R)手術システムに対応するコンピュータ支援手術装置における手先効果器(end effector)の一部、及び/又は、コンピュータ支援画像化装置の一部であってよい。蛍光画像化をサポートするために、画像化装置120は、少なくとも2つのタイプの画像化エミッタと検出器を含んでよい。
一般照明器具132が、興味領域110の上を明るく照らすために使用される。例示の光線142によって示されるようにであり、入射点115において興味領域110に到達している。光線142が興味領域110に達したときに、光線は、入射点115における興味領域110の拡散、反射、正反射、及び/又は、他の画像化特性に従って、興味領域110に反射し得る。反射された光は、画像化装置120に向かって反射される例示の光線144としてモデル化されており、一般照明検出器134によって検出される。入射点115は、画像化の最中に特定の興味であってよい。画像化装置120、そして、より特定的には一般照明器具132と一般照明検出器134が、入射点115において面法線(surface normal)の概ね近く又は上に配置されているからである。入射点115が高い正反射率を有するときは、入射点115における水分のせいによるといったもの、一般照明検出器134は、高レベルの光を検出し、及び/又は、飽和してしまうことがある。結果として、入射点115は、画像化装置120によって撮られている興味領域110の画像における輝点として現れ得る。これらの画像をモニタリングすること、および、高い輝度及び/又は飽和の領域を見つけることによって、画像化装置120及び/又は処理装置150といったシステムは、興味領域110の中でおそらく高い正反射であろう領域を検出し得る。
画像化装置120は、さらに、蛍光画像化エレメントを含んでいる。蛍光トリガ(fluorescence triggering)照明器具136は、一つまたはそれ以上の波長の光を発することができる。例示の光線146によって示されるようにであり、入射点115において興味領域110に到達している。光線146が興味領域110に達したときに、もし存在するのであれば、蛍光材料が、光を吸収して、別の波長において蛍光発光することによって反応する。代表的な光線148によって示されるようにであり、画像化装置120に対して戻り、蛍光検出器138によって検出される。例えば、蛍光材料がICGであるときは、光線146の入射光と光線148の蛍光発光は、近赤外線スペクトルにあってよいが、異なる波長である。
いくつかの実施例に従って、一般照明器具132及び/又は蛍光トリガ照明器具136は、適切な周波数/波長、及び/又は、周波数帯において光を発し得るあらゆる種類の照明及び/又は電磁気エミッタであってよい。いくつかの実施例において、照明器具それぞれは、一つまたはそれ以上の発光ダイオード、レーザーダイオード、ハロゲン光源、等を含んでよい。いくつかの実施例に従って、一般照明検出器134及び/又は蛍光検出器138は、適切な周波数/波長、及び/又は、周波数帯において照明又は電磁気信号を検出し得るあらゆる種類の検出器であってよい。いくつかの実施例において、検出器それぞれは、一つまたはそれ以上のフォトトランジスタ、電荷結合素子、液晶チューナブルフィルタ(LCTF)といったアクティブ及び/又はパッシブフィルタ、及び/又は、音響光学チューナブルフィルタ(AOTF)、等を含んでよい。
蛍光画像化システム100は、さらに、処理装置150を含んでよい。処理装置150は、ユーザコントロールからの入力を受け取り、それらの入力を処理し、それらの入力に基づいて一つまたはそれ以上のコントロールアルゴリズムを実行し、表示のための蛍光画像を提供する、等を行い得る大型コンピューティングデバイス及び/又は電子システム(図示なし)の一部であってよい。処理装置150は、メモリ170に接続されたプロセッサ160を含んでいる。処理装置150のオペレーションは、プロセッサ160によってコントロールされる。処理装置150は、一つだけのプロセッサ160を用いて示されているが、プロセッサ160は、処理装置150における一つまたはそれ以上の中央処理装置、マルチコアプロセッサ、マイクロプロセッサ、マイクロコントローラ、デジタルシグナルプロセッサ、フィールドでプログラム可能なゲートアレイ(FPGA)、特定アプリケーション集積回路(ASIC)、等を表してよい。処理装置150は、スタンドアロンサブシステム及び/又はコンピューティングデバイスに対して追加されるボードとして、または、仮想マシンとして実施されてよい。いくつかの実施例において、処理装置150は、オペレータワークステーションの一部として含まれてよく、及び/又は、分離して、しかしながらオペレータワークステーションと協働してオペレーションされてよい。
メモリ170は、処理装置150によって実行されるソフトウェア、及び/又は、処理装置150のオペレーションの最中に使用される一つまたはそれ以上のデータ構造を保管するために使用されてよい。メモリ170は、一つまたはそれ以上のタイプのマシンで読取り可能な媒体を含んでよい。いくつかの一般的な形式のマシンで読取り可能な媒体は、フロッピー(登録商標)ディスク、フレキシブルディスク、ハードディスク、磁気テープ、あらゆる他の磁気媒体、CD−ROM、あらゆる他の光媒体、パンチカード、紙テープ、あらゆる他の穴パターンを伴う物理的媒体、RAM、PROM、EPROM、FLASH−EPROM、あらゆる他のメモリチップまたはカートリッジ、及び/又は、プロセッサまたはコンピュータが読み出すように適合されたあらゆる他の媒体、を含んでよい。
示されるように、メモリ170は、興味領域110における蛍光画像を含んでいる、興味領域110に係る画像の生成及び/又は使用をサポートするために使用されてよい。画像化アプリケーション180は、画像化方法を実施するための一つまたはそれ以上のアプリケーションプログラミングインターフェイス(API)を含んでよく、画像化方法は、画像化装置120からの画像について一つまたはそれ以上のコマンド及び/又はリクエストを発光すること、同様に、画像化装置120から画像を受け取ることを含んでよい。そして、画像化アプリケーション180は、ソフトウェアアプリケーションとして描かれているが、画像化アプリケーション180は、ハードウェア、ソフトウェア、及び/又は、ハードウェアとソフトウェアの組み合わせを使用して実施されてよい。
画像化アプリケーション180をサポートするために、処理装置150は、一つまたはそれ以上のI/Oポートを伴うインターフェイスを追加的に含んでいる。インターフェイス190は、あらゆる適切なタイプであってよく、専用I/Oライン、イーサネット(登録商標)といったネットワーク接続、アイ・スクエア・シー(IC)バス、シリアルペリフェラルインターフェイス(SPI)バス、パラレルポート、アナログI/Oライン、等といったものである。インターフェイス190は、処理装置150を画像化装置120に対して接続するための一つまたはそれ以上のライン及び/又はバスを含んでよい。いくつかの実施例において、インターフェイス190に関連するインターフェイス回路は、一つまたはそれ以上のバスコントローラ、アナログ−デジタル変換器、デジタル−アナログ変換器、データ獲得システム、画像獲得システム、ルータ、スイッチ、ネットワークスイッチングデバイス、及び/又は、類似のものを含んでよい。
上述のように、そして、ここにおいてさらに強調されるように、図1は、請求項の範囲を不当に制限することのない単なる一つの実施例である。当業者であれば、多くの変形、代替、及び/又は変更を認識するであろう。
当業者であれば気付くように、図1の形態は、必ずしも縮尺どおりに描かれる必要はなく、蛍光画像化システム100と画像化装置120の重要な機能を強調するように描かれている。例えば、一般照明器具132、一般照明検出器134、蛍光トリガ照明器具136、および蛍光検出器138の相対的なサイズ及び/又は位置は、光線142−148の現実のパスをより正確に描くことを犠牲にして、これらの機能を示すように強調されてよい。
いくつかの実施例に従って、画像化装置120と処理装置150との間の異なる配置が可能であってよい。いくつかの実施例において、処理装置150は、画像化装置120の一部であってよい。いくつかの実施例において、画像化装置120は、処理装置150の一部であってよい。いくつかの実施例において、処理装置150は、一つ以上の画像化装置120に対して接続されてよい。いくつかの実施例において、画像化装置120は、一つ以上の処理装置と画像化データを共有してよい。
いくつかの実施例に従って、一般照明器具132、一般照明検出器134、蛍光トリガ照明器具136、および蛍光検出器138の異なる配置と構成が可能である。いくつかの実施例において、より多くの、及び/又は、より少ない、照明器具及び/又は検出器が使用されてよい。いくつかの実施例において、照明器具及び/又は検出器の間の相対的な位置決めは変更されてよい。いくつかの実施例において、一般照明検出器134と蛍光検出器138は、正反射及び/又は蛍光の検出の両方のために使用され得る一つの検出器へと結合されてよい。いくつかの実施例において、結合された検出器は、蛍光画像から一般画像を分離するために、時間分割及び/又は周波数分割多重化を使用してよい。いくつかの実施例において、一般照明器具132と蛍光トリガ照明器具136は、一般及び/又は蛍光トリガ照明の両方を生成するために使用され得る一つの照明器具またはエミッタへと結合されてよい。いくつかの実施例において、結合された照明器具は、所望の照明を生成するための一つまたはそれ以上のアクティブまたはパッシブフィルタの助けを借りて時間分割及び/又は周波数分割多重化を使用してよい。いくつかの実施例において、一般照明器具132と一般照明検出器134は、また、興味領域110に対する一般照明および画像化システムの一部分であってもよい。
いくつかの実施例に従って、一般照明器具と一般照明検出器との複数の組み合わせが使用されてよい。いくつかの実施例においては、複数の一般照明器具及び/又は一つの一般照明器具が、複数の周波数/波長、及び/又は、周波数帯において一般照明光線を生成し得る。対応する複数の一般照明器具及び/又は一つの一般照明器具は、複数の周波数/波長、及び/又は、周波数帯のそれぞれを検出し、そして、複数の周波数/波長、及び/又は、周波数帯のそれぞれに対する画像を生成し得る。いくつかの実施例においては、それぞれの画像における同一の位置において高輝度及び/又は飽和が検出されるときに、高い正反射の領域が検出され得る。
画像における高い正反射の領域の存在は、一般的に望ましいものではないだろう。高い正反射によって生じる高輝度及び/又は飽和の領域は、それらを含む画像の品質及び/又は有用性を低減してしまうだろう。いくつかの実施例において、高い正反射の領域は、それらを含んでいる画像のビューアーについて、その画像における他の重要な領域から気をそらしてしまい得る。いくつかの実施例において、高い正反射の領域は、蛍光発光領域、及び/又は、興味領域におけるカバーアップ機能と取り違えられることがある。高い正反射が存在しなければ、さもなければ見ることができる、蛍光といったものである。
画像における高い正反射の領域を検出、低減、及び/又は、補償するために多くの技術が開発されてきた。一つのそうしたアプローチは、高い正反射に関連している可能性が高い高輝度を伴う領域を検出し、そして、画像に係るそれらの領域をマスクオフ(mask off)することである。いくつかの実施例において、このことは、飽和に係る設定された割り合い(percentage)といった、閾値に対して画像の中のピクセルの輝度を比較すること、そして、閾値の上の輝度を伴うあらゆるピクセルを、黒またはマスキングを示す色といった、色と置き換えること、を含んでよい。このアプローチは、また、マスクオフされた領域の境界を特定、及び/又は、ハイライトすることも含んでよい。このアプローチは、高い正反射の領域が引き起こす注意散漫(distraction)を取り除き得るが、それは、また、高い正反射によって引き起こされたものではない高輝度を伴う領域を不適切にマスクオフすることもある。画像から他の重要な特徴を取り除くことも同様である。マスクオフされた領域は、一般的に根底にある画像の詳細を含んでいないからである。
別のアプローチは、画像センサの2つのセットを使用する。高い正反射によって引き起こされた領域といった、高輝度領域が画像の一つにおいて検出されたときは、他の画像からの対応する領域が代用される。このアプローチは、所望の画像の詳細をマスクオフする可能性を低減するが、両方の画像における同一の場所で高い正反射が生じ得ないように、画像センサの2つのセットが十分に遠く離れて配置されることを必要とする。
他のアプローチは、高い正反射の領域が画像検出器によってキャプチャされ得る可能性を低減するために、照明器具/エミッタと画像検出器に関して創造的なシールド(shielding)及び/又はバッフル(baffle)を使用してよい。このアプローチは、一般的に、照明器具/エミッタと検出器の相対的な位置決めについてタイトなコントロールを要し得るものであり、そして、画像化装置の可能な形態(geometry)それぞれ、および、興味領域に対してウェル(well)を一般化(generalize)しなくてよい。
蛍光画像化と伴に使用される一般的なアプローチは、一般照明器具によって提供される一般照明を低減し、そして、一般照明と蛍光の両方について結合されたビジュアル(visual)検出器を使用する。一般照明を低減することによって、一般照明、及び/又は、生成され得る高い正反射の領域は、蛍光材料の照明をトリガする蛍光のおかげで獲得される画像情報をおそらくより少なく覆い隠す。このアプローチは、しかしながら、低いレベルの環境照明を伴う画像を生成する傾向があり、興味領域における興味の特徴を観察することを難しくすることがある。
その結果として、高い正反射の領域について検出、低減、及び/又は、補償するための大部分のアプローチは、可視詳細(visible detail)と蛍光詳細(fluorescence detail)の両方を示している画像が望まれるときには、良いソリューションを提供するものではない。これは、重要な可視詳細が犠牲にされ、蛍光詳細がマスクオフされ、及び/又は、内視鏡及び/又は同様の装置を伴う使用のために実用的でない形態を伴う装置をソリューションが含み得るからである。改善されたソリューションが、蛍光画像化システム100といった、画像化システムの使用を通じて獲得され得るものであり、蛍光画像から一般照明画像を分離して収集できる。このようにして、高い正反射の領域について検出、低減、及び/又は、補償が、重要な蛍光情報をマスクアウト(mask−out)及び/又はカバーアップ(cover up)する可能性が著しく小さくなり得る。
図2は、いくつかの実施例に従った、高い正反射の検出および低減に係る方法200の簡素化されたダイヤグラムである。方法200に係る一つまたはそれ以上のプロセス210−280は、少なくとも部分的に、非一時的で、有形で、マシンで読取り可能な媒体上に保管された実行可能なコードの形式において実施されてよい。一つまたはそれ以上のプロセッサによって実行されるときに、一つまたはそれ以上のプロセッサ(例えば、プロセッサ160)にプロセス210−280のうち一つまたはそれ以上を実行させるようにするものである。いくつかの実施例において、高い正反射の検出および低減は、画像化アプリケーション180といった、画像化アプリケーションによって実行されてよい。
プロセス210においては、一般照明が発光される。一つまたはそれ以上の一般照明器具またはエミッタを使用して、一般照明器具132といったもの、興味領域の上で一般照明が光らされる。いくつかの実施例において、一般照明は、可視スペクトルの一つまたはそれ以上のバンドにおける可視光を含んでよい。いくつかの実施例において、一般照明器具は、適切なドライバ及び/又は変調回路を使用して調整されてよい。いくつかの実施例において、一般照明器具は、一つまたはそれ以上の発光ダイオード、レーザーダイオード、ハロゲン光源、及び/又は、類似のもの、をそれぞれに含んでよい。いくつかの実施例においては、一般照明が複数の周波数帯からの信号を含んでいるときに、複数の周波数帯は、同時に、及び/又は、時間分割多重化を介して発せられてよい。
プロセス220においては、一般照明器具の反射が検出される。一つまたはそれ以上の一般照明検出器を使用して、一般照明検出器134といったもの、プロセス210の最中に発せられた一般照明の反射が検出される。いくつかの実施例において、一般照明は、一つまたはそれ以上の構造体、対象物、患者組織の部分、及び/又は、類似のもので反射され得る。いくつかの実施例において、一つまたはそれ以上の一般照明検出器は、一般照明器具及び/又はそれらのサブセットによって発せられる周波数帯それぞれにおける一般照明を検出し得る。いくつかの実施例において、一般照明検出器それぞれは、一つまたはそれ以上のフォトトランジスタ、電荷結合素子、LCTF及び/又はAOTFといったアクティブ及び/又はパッシブフィルタ、及び/又は、類似のもの、を含んでよい。いくつかの実施例において、一つまたはそれ以上の一般照明検出器は、一つまたはそれ以上の一般照明器具と同期して時間多重化されてよい。いくつかの実施例において、検出された一般照明は、興味領域に係る一つの画像及び/又は複数の画像として検出されてよい。対応する画像について発せられ、及び/又は、検出されている周波数帯に対応する複数の画像それぞれを伴うものである。いくつかの実施例においては、一つの画像及び/又は複数の画像が事前処理(preprocess)されてよい。いくつかの実施例において、事前処理は、ヒストグラム平坦化(equlization)及び/又はコントラスト調整を含んでよい。
プロセス230においては、一つまたはそれ以上の高い正反射の領域が検出される。プロセス220の最中に検出された画像それぞれは、一つまたはそれ以上の可能性のある高い正反射の領域を決定するために解析されてよい。いくつかの実施例において、一つまたはそれ以上の可能性のある高い正反射の領域は、高輝度及び/又は飽和を伴う画像の中の一つまたはそれ以上の領域を特定することによって決定されてよい。いくつかの実施例において、高輝度は、閾値の上の輝度を伴うあらゆるピクセルについて決定されてよい。いくつかの実施例において、閾値は、オペレータによって、及び/又は、画像化システムの他の特性に応じて、設定されてよい。いくつかの実施例において、閾値は、絶対的輝度の閾値として、または、できる限り最大の輝度値に係る割り合いとして、設定されてよい。いくつかの実施例においては、プロセス220の最中に一つの画像が検出されたときに、可能性のある高い正反射の領域は、一つまたはそれ以上の高い正反射の領域であってよい。いくつかの実施例においては、プロセス220の最中に複数の画像が検出されたときに、領域の中に高い正反射が検出され得る。複数の画像それぞれが、一つまたはそれ以上の高い正反射の領域の中にその領域を含んでいるところである。いくつかの実施例においては、一般的に高い正反射は波長と独立しているので、複数の画像の使用は、複数の周波数、または、複数の周波数帯において高い正反射について試験することによって高い正反射の領域として領域が間違って区分化され得る可能性を低減することができる。
プロセス240においては、蛍光トリガ照明が発光される。一つまたはそれ以上の蛍光トリガ照明器具またはエミッタを使用して、蛍光トリガ照明器具136といったもの、興味領域の上で蛍光トリガ照明器具が光らされる。いくつかの実施例において、蛍光トリガ照明は、近赤外線帯域における周波数を含んでよい。いくつかの実施例において、蛍光トリガ照明器具は、適切なドライバ及び/又は変調回路を使用して調整されてよい。いくつかの実施例において、蛍光トリガ照明器具は、一つまたはそれ以上の発光ダイオード、レーザーダイオード、ハロゲン光源、及び/又は、類似のもの、をそれぞれに含んでよい。いくつかの実施例においては、蛍光トリガ照明器具が一般照明器具と同一であってよいときに、一般照明器具よりむしろ蛍光トリガ照明を生成するために適切な変調及び/又は駆動回路を用いる。いくつかの実施例において、駆動回路は、LCTF及び/又はAOTFといった、アクティブまたはパッシブフィルタを含んでよい。
プロセス250においては、一つまたはそれ以上の蛍光発光領域が検出される。一つまたはそれ以上の蛍光検出器を使用して、蛍光検出器138といったもの、興味領域における蛍光材料の蛍光が検出される。いくつかの実施例において、蛍光照明からの高い正反射は、プロセス250の最中には検出されないことがある。蛍光検出器は、蛍光トリガ照明器具によって発光されている周波数に対して一般的に敏感ではないからである。いくつかの実施例において、一つまたはそれ以上の蛍光検出器は、一つまたはそれ以上の一般照明検出器と同一の検出器であってよい。いくつかの実施例において、蛍光検出器それぞれは、一つまたはそれ以上のフォトトランジスタ、電荷結合素子、及び/又は、LCTF及び/又はAOTFといったアクティブ及び/又はパッシブフィルタ、及び/又は、類似のもの、を含んでよい。いくつかの実施例において、検出された傾向は、蛍光画像として検出されてよい。いくつかの実施例において、蛍光画像は、また、一般照明画像に対応してもよい。
プロセス260においては、一つまたはそれ以上の高い正反射の領域がマスクアウトされる。いくつかの実施例において、プロセス230の最中に検出された一つまたはそれ以上の高い正反射の領域が、興味領域について撮られた一つまたはそれ以上の一般照明画像からマスクアウトされてよい。いくつかの実施例において、マスクアウトすることは、一つまたはそれ以上の領域におけるピクセルを黒といったバックグラウンドまたはデフォルト色であるピクセルと置き換えることを含んでよい。いくつかの実施例において、一般照明画像も、また、蛍光情報を含んでいるときには、高い正反射の領域における蛍光情報も、また、マスクアウトされてよい。いくつかの実施例においては、一般照明画像がプロセス250の最中に検出された蛍光画像とは分離しているときに、蛍光画像情報が、アルファブレンド(alpha blending)及び/又は類似のもの、といった画像結合アルゴリズムを使用して、一般照明画像と結合されてよい。これらの一つまたはそれ以上の合成画像は、次に、方法200の残りのプロセスのために使用され得る。
プロセス270においては、視覚的ヒント(visual hint)が高い正反射の領域に対して付加されてよい。プロセス200のマスクアウトは一つまたはそれ以上の高い正反射の領域の存在を目立たなくするので、マスクアウトされた一つまたはそれ以上の一般照明画像及び/又は一つまたはそれ以上の合成画像に対して一つまたはそれ以上の視覚的ヒントが付加される。一つまたはそれ以上の高い正反射の領域におけるより低い品質及び/又は不完全な画像情報に対する可能性についてオペレータに警告するためである。いくつかの実施例において、視覚的ヒントは、一つまたはそれ以上の高い正反射の領域の周りに輪郭を付加すること、フォールス・カラー(false color)を付加すること、シンチレーション(scintillation)を付加すること、矢印及び/又は他のマーキングを付加すること、及び/又は、類似のことを含んでよい。
プロセス280においては、一つまたはそれ以上の形態調整(geometry adjustment)ヒントが提供される。プロセス260の最中に一つまたはそれ以上の高い正反射の領域をマスクアウトすることは、一つまたはそれ以上の一般照明画像及び/又は合成画像における情報を取り除き、及び/又は、劣化させ得るので、オペレータ及び/又は画像化装置のためのモーションプランニングシステムに対して形態調整ヒントが提供されてよい。画像化装置の形態を調整することによって、一つまたはそれ以上の一般照明画像及び/又は合成画像における一つまたはそれ以上の高い正反射の領域についてサイズを低減し、及び/又は、取り除くことが可能であり得る。興味領域において面法線に関する画像化の向きが変化し得るからである。いくつかの実施例において、形態調整ヒントは、オーディオヒント、一つまたはそれ以上の一般照明画像及び/又は合成画像における、矢印といった、視覚的合図、オペレータ入力コントロールに対して適用されるフィードバック、モーションプランニングアルゴリズムに対して適用されるフィードバック、及び/又は、類似のものを含んでよい。
方法200は、さらに、複数の画像における高い正反射の領域を取り除くため、及び/又は、興味領域のビデオ画像を生成するために、プロセス210−280を繰り返すことを含んでよい。
上述のように、そして、ここにおいてさらに強調されるように、図2は、請求項の範囲を不当に制限することのない単なる一つの実施例である。当業者であれば、多くの変形、代替、及び/又は変更を認識するであろう。いくつかの実施例において、方法200は、モーションプランニングアルゴリズムを使用して、興味領域に関して画像化装置を移動する能力を活用するように変更されてよい。いくつかの実施例において、画像化アプリケーションを使用しているオペレータまたは他のシステムは、興味領域の中または近くにおいて、他のデバイス、対象物、及び/又は、患者組織と干渉することなく、その中で画像化装置が移動され得るボリューム(volume)を特定し得る。画像化アプリケーションは、次に、一連の一般照明及び/又は蛍光画像を収集しながら、ボリュームに関して画像化装置を移動し得る。いくつかの画像における高い正反射の領域は、低減され、または、正反射の無い、他の画像からの同一の領域に係る画像と置き換えられてよい。いくつかの実施例においては、低減され、及び/又は、除去された正反射を伴う合成画像を作成するために、一つまたはそれ以上の画像スティッチ(stitching)アルゴリズムが使用されてよい。いくつかの実施例においては、画像化装置、および、ボリュームを通じて画像化装置を移動させるデバイスに係る一つまたはそれ以上の運動学的モデルが、異なる画像からの領域について相互相関をとるために使用されてよい。いくつかの実施例において、興味領域が移動している対象物及び/又は移動している患者組織(例えば、脈を打っている心臓)を含むときには、一連の画像が、興味領域における対象物及び/又は患者組織に係るおおよそ同一の位置、位相、及び/又は、向きに対応するように、画像の収集が時間調整される。
図3は、いくつかの実施例に従った、別の蛍光画像化システム300の簡素化されたダイヤグラムである。図3に示されるように、興味領域310、患者組織の一部分といったものが示されており、画像化装置320を使用して照らされている。画像化装置320は、数個の画像化エミッタと検出器を含んでいる。興味領域310を照らし、そして、反射された照明および興味領域における蛍光の両方に基づいて、興味領域310の一つまたはそれ以上の画像を収集するためである。図3には示されていないが、画像化装置320は、内視鏡ツールの一部、コンピュータ支援手術装置における手先効果器の一部、及び/又は、コンピュータ支援画像化装置の一部であってよい。蛍光画像化をサポートするために、画像化装置320は、数個のセットおよびタイプの画像化エミッタと検出器を含んでよい。
画像化装置320は、既知の離れた距離に置かれた、少なくとも2つの一般照明器具332と334を含んでいる。いくつかの実施例において、一般照明器具332と334それぞれは、一般照明器具132と同様のものであってよい。一般照明器具332と334それぞれは、一般照明器具332と334から興味領域における表面までの例示の光線の矢印それぞれによって示されるように、興味領域310の上に一般照明を光らすように構成されている。一般照明は、一般照明が興味領域310の表面における入射であるところに対応するポイントの近くの面法線315によって近似される表面の形態に基づいて、興味領域における表面で反射される。反射された一般照明は、画像化装置320に対して戻され、そこで、一般照明検出器336によって分離した立体画像(stereoscopic image)においてキャプチャされ得る。いくつかの実施例において、一般照明検出器336は、一般照明検出器134と同様のものであってよい。いくつかの実施例において、一般照明器具332と334は、一度に一般照明器具332と334のうち一つからの照明を使用して、分離した立体画像がキャプチャされ得るように、興味領域310の上に交互に照明を提供してよい。分離した立体画像、および、一般照明器具332と334および一般照明検出器336の既知の形態を使用して、画像化装置320及び/又は処理装置150といった画像化装置320に接続された処理装置は、面法線315のおおよその位置及び/又は向きを決定し得る。興味領域310における他の場所に配置され得る他の面法線も同様である。いくつかの実施例において、分離した立体画像は、また、興味領域310において一つまたはそれ以上の高い正反射の領域を検出するため使用されてもよい。
画像化装置120と同様に、画像化装置320は、また、蛍光トリガ照明器具342と344も含んでよく、蛍光検出器346も同様である。いくつかの実施例において、蛍光トリガ照明器具342と344の両方は、蛍光トリガ照明器具136と同様のものであってよく、そして、蛍光検出器346は、蛍光検出器138と同様のものであってよい。蛍光トリガ照明器具342と344のうちいずれか又は両方は、興味領域310において蛍光材料の蛍光発光をトリガするために使用され得る。蛍光検出器346は、蛍光トリガ照明器具342と344によってトリガされた蛍光を検出し得る。
面法線315のように面法線を近似することによって、画像化装置320は、プロセス280に関して説明したように、形態調整ヒントをより上手く提供することができる。面法線の位置と向きは、画像化装置320に対して、より良い離れ移動ヒント(move away hint)を提供するために使用され得る。最も高い正反射を伴う向きは、一般照明と一般照明検出器の両方が面法線の上に置かれ、かつ、面法線に対して向けられているときに、典型的に発生するからである。従って、画像化装置320が、直接的に、または、おおよそ、面法線315のような面法線と一直線に揃う向きを避けることで、それらの面法線における表面によって生じる高い正反射を低減、及び/又は、除去し得る。
上述のように、そして、ここにおいてさらに強調されるように、図3は、請求項の範囲を不当に制限することのない単なる一つの実施例である。当業者であれば、多くの変形、代替、及び/又は変更を認識するであろう。
当業者であれば気付くように、図3の形態は、必ずしも縮尺どおりに描かれる必要はなく、蛍光画像化システム300と画像化装置320の重要な機能を強調するように描かれている。例えば、照明器具および検出器の相対的なサイズ及び/又は位置は、図3において対応する光線の現実のパスをより正確に描くことを犠牲にして、これらの機能を示すように強調されてよい。
いくつかの実施例に従って、画像化装置320と処理装置150との間の異なる配置が可能であり得る。いくつかの実施例において、処理装置150は、画像化装置320の一部であってよい。いくつかの実施例において、画像化装置320は、処理装置150の一部であってよい。いくつかの実施例において、処理装置150は、一つ以上の画像化装置320に対して接続されてよい。いくつかの実施例において、画像化装置320は、一つ以上の処理装置と画像化データを共有してよい。
いくつかの実施例に従って、照明器具と検出器の異なる配置と構成も、また、所望の立体画像、高い正反射の領域の検出、および、蛍光画像の検出を提供し得る。いくつかの実施例においては、より多くの、及び/又は、より少ない照明器具及び/又は検出器が可能である。いくつかの実施例において、2つの一般照明器具332と334、および一般照明検出器336は、既知の間隔(spacing)を伴う2つの一般照明器具および一つの一般照明検出器に置き換えられてよい。いくつかの実施例において、蛍光トリガ照明器具342及び/又は344のうち一つ又は他方は、省略されてよい。いくつかの実施例において、残っている蛍光トリガ照明器具は、蛍光検出器346とのより近い近傍の中に移動されてよい。いくつかの実施例においては、一般照明器具と蛍光トリガ照明器具(例えば、一般照明器具332と蛍光トリガ照明器具342)を結合するために、時間分割及び/又は周波数分割多重化が使用されてよい。いくつかの実施例においては、一般照明検出器336と蛍光検出器346を結合するために、時間分割及び/又は周波数分割多重化が使用されてよい。
図4は、いくつかの実施例に従った、高い正反射の検出および低減に係る別の方法400の簡素化されたダイヤグラムである。方法400に係る一つまたはそれ以上のプロセス410−450は、少なくとも部分的に、非一時的で、有形で、マシンで読取り可能な媒体上に保管された実行可能なコードの形式において実施されてよい。一つまたはそれ以上のプロセッサによって実行されるときに、一つまたはそれ以上のプロセッサ(例えば、プロセッサ160)にプロセス410−450のうち一つまたはそれ以上を実行させるようにするものである。いくつかの実施例において、高い正反射の検出および低減は、画像化アプリケーション180といった、画像化アプリケーションによって実行されてよい。いくつかの実施例において、方法400は、方法200と併せて実行されてよく、一つまたはそれ以上の高い正反射の領域をマスクオフすること、および、画像化システムによってキャプチャされる高い正反射の量を低減するように離れ移動ヒントを提供すること、の両方を提供する。
プロセス410においては、一般照明が発光される。一つまたはそれ以上の一般照明器具またはエミッタを使用して、一般照明器具332及び/又は334といったもの、興味領域の上で一般照明及び/又は一般照明が光らされる。いくつかの実施例において、一般照明は、可視スペクトルの一つまたはそれ以上のバンドにおける可視光を含んでよい。いくつかの実施例において、一般照明器具は、適切なドライバ及び/又は変調回路を使用して調整されてよい。いくつかの実施例において、一般照明器具は、一つまたはそれ以上の発光ダイオード、レーザーダイオード、ハロゲン光源、及び/又は、類似のもの、をそれぞれに含んでよい。いくつかの実施例においては、一般照明が複数の周波数帯からの信号を含んでいるときに、複数の周波数帯は、同時に、及び/又は、時間分割多重化を介して発せられてよい。
プロセス420においては、立体的な(stereoscopic)反射が検出される。一つまたはそれ以上の一般照明検出器を使用して、一般照明検出器336といったもの、一つまたはそれ以上の一般照明検出器と伴に、2つまたはそれ以上の反射された一般照明の立体画像が獲得される。いくつかの実施例において、一般照明は、一つまたはそれ以上の構造体、対象物、患者組織の部分、及び/又は、類似のもので反射され得る。いくつかの実施例において、一つまたはそれ以上の一般照明検出器は、一つまたはそれ以上の一般照明器具及び/又はそれらのサブセットによって発せられる周波数帯それぞれにおける一般照明を検出し得る。いくつかの実施例において、一般照明検出器それぞれは、一つまたはそれ以上のフォトトランジスタ、電荷結合素子、LCTF及び/又はAOTFといったアクティブ及び/又はパッシブフィルタ、及び/又は、類似のもの、を含んでよい。いくつかの実施例において、一つまたはそれ以上の一般照明検出器は、一つまたはそれ以上の一般照明器具と同期して時間多重化されてよい。
プロセス430においては、面法線が見積りされる。プロセス420の最中に演出された立体画像は、立体画像において目に見える一つまたはそれ以上の表面について面法線を見積るために使用されてよい。いくつかの実施例においては、立体画像における差異に基づいて面法線を見積るために、2つの立体画像の間の画像形態における既知の差異が使用され得る。いくつかの実施例においては、面法線を見積るために、立体カメラ較正データが使用され得る。いくつかの実施例においては、一つまたはそれ以上の表面について表面上の数多くの場所において、面法線が見積りされてよい。いくつかの実施例においては、検出される領域の中で見積りされている面法線を用いて、高い又は高い可能性のある正反射の領域を検出するために、プロセス230と同様なプロセスが使用されてよい。
プロセス440においては、離れ移動ヒントを提供するために、見積りされた面法線が使用される。一つまたはそれ以上の見積りされた面法線は、興味領域における一つまたはそれ以上の表面の上の場所を指し示している。検出及び/又はキャプチャされた画像における高い正反射の量を低減及び/又は除去するために画像化装置が近づくのを避けるべき場所である。一つまたはそれ以上の面法線の上に画像化装置を位置決めすることを止めるため、及び/又は、一つまたはそれ以上の面法線と一直線に揃わないよう画像化装置を離れて動かすために、オペレータ及び/又は画像化装置のためのモーションプランニングシステムに対して離れ移動ヒントが提供されてよい。いくつかの実施例において、離れ移動ヒントは、画像化装置がマウントされている装置アームの一つまたはそれ以上の運動学的モデルに基づいて提供されてよい。
いくつかの実施例において、一つまたはそれ以上の離れ移動ヒントは、矢印といった、目に見えるヒントを、オペレータに対して表示される画像の中に追加することを含んでよい。画像化装置について移動の方向、及び/又は、変更を勧めるものである。いくつかの実施例において、移動の方向は、一つまたはそれ以上の面法線によって指し示される場所から離れていてよい。いくつかの実施例においては、画像化装置が面法線の一つによって指し示される場所の一つの近くに配置されているとき、移動ヒント(movement hint)は、面法線から離れて制限された一式の方向を含んでよい。いくつかの実施例においては、画像化装置が面法線と一直線に揃っているとき、移動ヒントは、面法線から離れるあらゆる方向を勧めてよい。いくつかの実施例においては、位置及び/又は向きの変化によって面法線が避けられ得るときに、移動ヒントは、面法線から離れた画像化装置の適切な回転を勧めてよい。いくつかの実施例において、回転は、画像化装置がマウントされている装置アームの一つまたはそれ以上の運動学的モデルに基づいて決定されてよい。
いくつかの実施例において、一つまたはそれ以上の離れ移動ヒントは、オーディオヒントを含んでよい。いくつかの実施例において、オーディオヒントは、左、右、上、下、離れ、回転、及び/又は、類似のものといった方向を含んでよい。いくつかの実施例においては、複数方向のサウンドが利用可能であるときに、離れ移動ヒントは、サウンドに向かって、または、離れて移動するようにオペレータに対して合図し得るサウンドを提供してよい。いくつかの実施例において、サウンド強度は、オーディオヒントが成功裡に従われている際に、増加または減少してよい。
いくつかの実施例において、一つまたはそれ以上の離れ移動ヒントは、モーションプランニングジオメトリ(geometry)において一つまたはそれ以上の離れ移動ポイント及び/又はライン(line)を追加することを含んでよい。いくつかの実施例において、一つまたはそれ以上の離れ移動ポイント及び/又はラインは、リパルス(repulsing)フィールド及び/又はリパルスチャージを伴う一つまたはそれ以上のポイントまたはエリア(area)を使用して実施されてよい。いくつかの実施例において、一つまたはそれ以上の離れ移動ポイント及び/又はラインは、一つまたはそれ以上の仮想コリジョン(collision)オブジェクト及び/又は仮想フィードバックメカニズムを使用して実施されてよい。いくつかの実施例において、一つまたはそれ以上の離れ移動ポイントは、それぞれの面法線によって指し示され、そして、画像化装置の作動距離に基づいて、それぞれの面法線の上の高さに配置されてよい。いくつかの実施例において、一つまたはそれ以上の離れ移動ポイントは、それぞれの面法線によって指し示され、そして、画像化装置の現在位置の近くに配置されてよい。いくつかの実施例において、一つまたはそれ以上の離れ移動ラインは、面法線と同一直線上にあり、そして、少なくとも画像化装置の高さを通じて表面から延びてよい。
プロセス450においては、フィードバックが提供される。いくつかの実施例において、一つまたはそれ以上の離れ移動ポイント及び/又はラインは、画像化装置に対するモーションプランを警告するために使用されてよい。いくつかの実施例において、一つまたはそれ以上の離れ移動ポイント及び/又はラインは、リパルスフォース(force)及び/又はトルクを生成してよく、画像化装置のジョイントにおいてフィードバックフォース及び/又はトルクを引き起こし得る。いくつかの実施例において、引き起こされたフィードバックフォースまたはトルクは、他のモーションプランニング及び/又はオペレータ命令の移動から決定された、画像化装置について対応するジョイントのためのフォースまたはトルクを変更し得る。いくつかの実施例においては、リパルスフォース及び/又はトルクを引き起こされたフィードバックフォース及び/又はトルクに対してマップするために、ヤコビアン転置(Jacobian transpose)または同様な方法が使用されてよい。いくつかの実施例において、フィードバックフォース及び/又はトルクは、また、一つまたはそれ以上の触覚的(haptic)コントロール装置を通じてオペレータに対してフィードバックされてもよい。
方法400は、さらに、面法線を定期的に見積るため、そして、離れ移動ヒントとフィードバックをオペレータ及び/又はモーションプランニングシステムに対して提供するために、プロセス410−450を繰り返すことを含んでよい。
上述のように、そして、ここにおいてさらに強調されるように、図4は、請求項の範囲を不当に制限することのない単なる一つの実施例である。当業者であれば、多くの変形、代替、及び/又は変更を認識するであろう。いくつかの実施例において、方法400は、モーションプランニングアルゴリズムを使用して、興味領域に関して画像化装置を移動する機能を活用するように変更されてよい。いくつかの実施例において、画像化アプリケーションを使用しているオペレータまたは他のシステムは、興味領域の中または近くにおいて、他のデバイス、対象物、及び/又は、患者組織と干渉することなく、その中で画像化装置が移動され得るボリューム(volume)を特定し得る。画像化アプリケーションは、次に、一連の立体画像を収集しながら、ボリュームに関して画像化装置を移動し得る。いくつかの実施例において、立体画像の収集は、画像化装置について一つまたはそれ以上の姿勢(pose)を決定するために解析されてよい。興味領域において面法線それぞれを用いて画像化装置の位置決め及び/又は整列を最も低減するものである。いくつかの実施例において、立体画像の収集は、画像化装置について望ましい姿勢を予測するために解析されてよい。興味領域の中で選択された領域について高い正反射を避けるため、及び/又は、合成画像を低減及び/又は除去された正反射と綴じ合わせるように方法200による使用のために望ましい姿勢のグループを決定するためである。いくつかの実施例においては、興味領域が移動している対象物及び/又は移動している患者組織(例えば、脈を打っている心臓)を含むときに、一連の立体画像が、興味領域における対象物及び/又は患者組織に係るおおよそ同一の位置、位相、及び/又は、向きに対応するように、画像の収集が時間調整される。
処理装置のいくつかの実施例、処理装置150といったものは、非一時的で、有形で、マシンで読取り可能な媒体を含んでよく、一つまたはそれ以上のプロセッサ(例えば、プロセッサ160)によって実行されるときに、一つまたはそれ以上のプロセッサに方法200及び/又は400に係るプロセスを実行させるようにし得る実行可能なコードを含んでいる。方法200及び/又は400に係るプロセスを含み得るマシンで読取り可能な媒体に係るいくつかの一般的な形式は、例えば、フロッピー(登録商標)ディスク、フレキシブルディスク、ハードディスク、磁気テープ、あらゆる他の磁気媒体、CD−ROM、あらゆる他の光媒体、パンチカード、紙テープ、あらゆる他の穴パターンを伴う物理的媒体、RAM、PROM、EPROM、FLASH−EPROM、あらゆる他のメモリチップまたはカートリッジ、及び/又は、プロセッサまたはコンピュータが読み出すように適合されたあらゆる他の媒体、である。
説明的な実施例が示され、そして、説明されてきたが、上記の開示において、および、いくつかのインスタンスにおいては、幅広い変更、変化、および代替が考えられる。対応する他の特徴を使用することなく、実施例に係るいくつかの特徴が採用されてよい。当業者であれば、多くの変形、代替、および変更を認識するであろう。従って、本発明の範囲は、以降の請求項だけによって限定されるべきものであり、そして、請求項は、幅広く、かつ、ここにおいて開示された実施例の範囲と一致したやり方において、理解されることが適切である。

Claims (47)

  1. 画像化システムであって、
    一つまたはそれ以上のプロセッサを含む処理装置と、
    前記処理装置に対して接続されている画像化装置であり、
    興味領域について照明を提供するための一つまたはそれ以上の第1照明器具と、
    前記照明の反射を検出するための一つまたはそれ以上の第1検出器と、
    前記興味領域において一つまたはそれ以上の蛍光材料の蛍光発光をトリガするための一つまたはそれ以上の第2照明器具と、
    前記蛍光材料の前記蛍光発光を検出するための一つまたはそれ以上の第2検出器と、
    を含む、画像化装置と、
    を含み、
    前記処理装置は、
    前記第1検出器から第1画像を受け取り、前記第1画像は、検出された反射を含んでおり、
    前記第1画像における一つまたはそれ以上の高い正反射の領域を決定し、
    前記第1画像における前記高い正反射の領域をマスクアウトし、
    マスクされた前記第1画像と前記検出された蛍光発光に基づいて、合成画像を生成する、
    ように構成されている、
    画像化システム。
  2. 前記処理装置は、さらに、
    前記高い正反射の領域においては、デフォルト色に取り換えることによって、前記第1画像をマスクする、ように構成されている、
    請求項1に記載の画像化システム。
  3. 前記処理装置は、さらに、
    前記合成画像に対して、前記高い正反射の領域と関連する一つまたはそれ以上の視覚的ハイライトを加える、ように構成されている、
    請求項1に記載の画像化システム。
  4. 前記視覚的ハイライトそれぞれは、フォールス・カラー、パターン化、シンチレーション、矢印、およびマーキング、からなるグループから選択されたものである、
    請求項4に記載の画像化システム。
  5. 前記処理装置は、さらに、
    前記第2検出器から第2画像を受け取り、前記第2画像は、検出された蛍光発光を含んでおり、かつ、
    前記第1画像と前記第2画像を混合することによって、前記合成画像を生成する、
    ように構成されている、
    請求項1に記載の画像化システム。
  6. 前記混合は、アルファブレンドを含む、
    請求項5に記載の画像化システム。
  7. 前記処理装置は、さらに、
    前記高い正反射の領域に基づいて、一つまたはそれ以上の形態調整ヒントを提供する、
    ように構成されている、
    請求項1に記載の画像化システム。
  8. 前記形態調整ヒントそれぞれは、オーディオヒント、視覚的合図、矢印、オペレータ入力コントロールに対して適用されるフィードバック、および、モーションプランニングアルゴリズムに対して適用されるフィードバック、からなるグループから選択される、
    請求項7に記載の画像化システム。
  9. 前記一つまたはそれ以上の第1照明器具は、複数の波長で照明を生成し、かつ、
    前記高い正反射の領域それぞれは、前記複数の波長それぞれにおいて高い正反射を含む、
    請求項1に記載の画像化システム。
  10. 前記処理装置は、さらに、
    前記第1画像に対する飽和レベルに基づいて、前記第1画像が閾値を超える高い正反射の領域を決定する、ように構成されている、
    請求項1に記載の画像化システム。
  11. 前記照明は、前記興味領域に対する一般照明を含んでいる、
    請求項1に記載の画像化システム。
  12. 前記照明は、可視スペクトルにおけるものである、
    請求項1に記載の画像化システム。
  13. 前記第2照明器具は、近赤外線スペクトルにおける照明を提供する、
    請求項1に記載の画像化システム。
  14. 前記第2検出器は、可視スペクトルにおける蛍光発光を検出する、
    請求項1に記載の画像化システム。
  15. 前記第2検出器は、近赤外線スペクトルにおける蛍光発光を検出する、
    請求項1に記載の画像化システム。
  16. 前記処理装置は、さらに、
    前記第1画像についてヒストグラム平坦化を実行する、ように構成されている、
    請求項1に記載の画像化システム。
  17. 前記第1照明器具と前記第2照明器具は、一つまたはそれ以上の同一の照明器具である、
    請求項1に記載の画像化システム。
  18. 前記第1検出器と前記第2検出器は、一つまたはそれ以上の同一の検出器である、
    請求項1に記載の画像化システム。
  19. 前記処理装置は、さらに、
    前記第1検出器から第2画像を受け取り、前記第2画像は、前記第1画像の画像化形態とは異なる画像化形態に基づいており、
    前記第1画像と前記第2画像との間の差異に基づいて、前記興味領域における面法線を見積り、かつ、
    前記見積りされた面法線に基づいて、一つまたはそれ以上の離れ移動ヒントを提供する、
    ように構成されている、請求項1に記載の画像化システム。
  20. 前記離れ移動ヒントそれぞれは、オーディオヒント、視覚的合図、矢印、オペレータ入力コントロールに対して適用されるフィードバック、および、モーションプランニングアルゴリズムに対して適用されるフィードバック、からなるグループから選択される、
    請求項19に記載の画像化システム。
  21. 前記離れ移動ヒントのうち少なくとも一つは、モーションプランニングシステムに対して離れ移動ポイントを提供することを含み、前記離れ移動ポイントは、前記面法線によって指し示されている、
    請求項19に記載の画像化システム。
  22. 前記離れ移動ポイントは、前記画像化装置の作動距離に基づいて、前記面法線の上の高さに配置されている、
    請求項21に記載の画像化システム。
  23. 前記離れ移動ポイントは、前記画像化装置の近くに配置されている、
    請求項21に記載の画像化システム。
  24. 前記離れ移動ヒントのうち少なくとも一つは、モーションプランニングシステムに対して離れ移動ラインを提供することを含み、前記離れ移動ラインは、前記面法線と一直線上にある、
    請求項19に記載の画像化システム。
  25. 前記処理装置は、さらに、
    前記第1検出器から第2画像を受け取り、前記第2画像は、前記第1画像の画像化形態とは異なる画像化形態に基づいており、
    前記第1画像における前記高い正反射の領域に対応している前記第2画像における一つまたはそれ以上の置き換え領域を決定し、前記対応している置き換え領域は、前記高い正反射の領域よりも低い正反射を有しており、
    前記第1画像における前記高い正反射の領域を前記置き換え領域と置き換え、かつ、
    前記置き換え領域と前記検出された蛍光発光を用いて前記第1画像に基づいて前記合成画像を生成する、
    ように構成されている、請求項1に記載の画像化システム。
  26. 画像化の方法であって、
    画像化装置を使用して、興味領域の上に一般照明を発光するステップと、
    前記画像化装置を使用して、前記一般照明の第1反射を検出するステップと、
    前記第1反射に基づいて、第1画像を形成するステップと、
    前記第1画像における一つまたはそれ以上の高い正反射の領域を決定するステップと、
    前記第1画像における前記高い正反射の領域をマスクアウトするステップと、
    前記画像化装置を使用して、前記興味領域の上に蛍光体光トリガーイベントが照明を発光するステップと、
    前記画像化装置を使用して、前記興味領域における一つまたはそれ以上の蛍光材料の蛍光発光を検出するステップと、
    前記マスクされた第1画像と前記検出された蛍光発光に基づいて、合成画像を生成するステップと、
    を含む、方法。
  27. 前記方法は、さらに、
    前記検出された蛍光発光に基づいて、第2画像を生成するステップと、
    前記合成画像を生成するために、前記第1画像と前記第2画像を混合するステップ、
    を含む、請求項26に記載の方法。
  28. 前記方法は、さらに、
    前記高い正反射の領域に基づいて、一つまたはそれ以上の形態調整ヒントを提供するステップ、
    を含む、請求項26に記載の方法。
  29. 前記一般照明を発光するステップは、複数の波長において照明を発光することを含み、
    前記一つまたはそれ以上の高い正反射の領域を決定するステップは、前記高い正反射の領域において前記複数の波長それぞれにおける高い正反射を検出することを含む、
    請求項26に記載の方法。
  30. 前記方法は、さらに、
    前記画像化装置を使用して、前記一般照明の第2反射を検出するステップであり、前記第2反射は、前記第1反射とは異なる画像化形態に基づいている、ステップと、
    前記検出された第2反射に基づいて、第2画像を形成するステップと、
    前記第1画像と前記第2画像との間の差異に基づいて、前記興味領域における面法線を見積るステップと、
    前記見積りされた面法線に基づいて、一つまたはそれ以上の離れ移動ヒントを提供するステップ、
    を含む、請求項26に記載の方法。
  31. 画像化システムであって、
    一つまたはそれ以上のプロセッサを含む処理装置と、
    前記処理装置に対して接続されている画像化装置であり、
    興味領域について照明を提供するための一つまたはそれ以上の第1照明器具と、
    前記照明の反射を検出するための一つまたはそれ以上の第1検出器と、
    を含む、画像化装置と、
    を含み、
    前記処理装置は、
    前記第1検出器から第1画像を受け取り、前記第1画像は、検出された反射を含んでおり、かつ、第1画像化形態に基づいており、
    前記第1検出器から第2画像を受け取り、前記第2画像は、検出された反射を含んでおり、かつ、第1画像化形態とは異なる第2画像化形態に基づいており、
    前記第1画像と前記第2画像における第1の高い正反射の領域を決定し、
    前記第1画像と前記第2画像との間の差異に基づいて、前記第1の高い正反射の領域における第1面法線を見積り、かつ、
    前記見積りされた第1面法線に基づいて、一つまたはそれ以上の離れ移動ヒントを提供する、
    ように構成されている、
    画像化システム。
  32. 前記離れ移動ヒントのうち少なくとも一つは、モーションプランニングシステムに対して離れ移動ポイントを提供することを含み、前記離れ移動ポイントは、前記面法線によって指し示されている、
    請求項31に記載の画像化システム。
  33. 前記離れ移動ポイントは、前記画像化装置の作動距離に基づいて、前記面法線の上の高さに配置されている、
    請求項32に記載の画像化システム。
  34. 前記離れ移動ポイントは、前記画像化装置の近くに配置されている、
    請求項32に記載の画像化システム。
  35. 前記離れ移動ヒントのうち少なくとも一つは、モーションプランニングシステムに対して離れ移動ラインを提供することを含み、前記離れ移動ラインは、前記面法線と一直線上にある、
    請求項31に記載の画像化システム。
  36. 前記処理装置は、さらに、
    前記画像化装置を第1姿勢から第2姿勢へ移動し、前記移動は、前記第1画像化形態を第3画像化形態へ変更し、かつ、前記第2画像化形態を第4画像化形態へ変更し、
    前記第1検出器から第3画像を受け取り、前記第3画像は、前記検出された反射を含んでおり、かつ、前記第3画像化形態に基づいており、
    前記第1検出器から第4画像を受け取り、前記第4画像は、前記検出された反射を含んでおり、かつ、前記第4画像化形態に基づいており、
    前記第3画像と前記第4画像における第2の高い正反射の領域を決定し、
    前記第3画像と前記第4画像との間の差異に基づいて、前記高い正反射の領域における第2面法線を見積り、かつ、
    前記第1面法線と前記2面法線、前記第1の高い正反射の領域と前記第2の高い正反射の領域、および、前記第1姿勢と前記第2姿勢に基づいて、前記第1画像と前記第2画像、または、前記第3画像と前記第4画像のいずれかを使用のために選択する、
    ように構成されている、請求項31に記載の画像化システム。
  37. 前記画像化システムは、さらに、
    前記興味領域において一つまたはそれ以上の蛍光材料の蛍光発光をトリガするための一つまたはそれ以上の第2照明器具と、
    前記蛍光材料の前記蛍光発光を検出するための一つまたはそれ以上の第2検出器と、
    を含み、
    前記処理装置は、さらに、
    前記第1画像における前記第1の高い正反射の領域をマスクアウトし、かつ、
    マスクされた前記第1画像と前記検出された蛍光発光に基づいて、合成画像を生成する、
    ように構成されている、
    請求項31に記載の画像化システム。
  38. 画像化システムであって、
    一つまたはそれ以上のプロセッサを含む処理装置と、
    前記処理装置に接続された照明システムであり、前記照明システムは、興味領域を照明するための照明を発光し、かつ、前記興味領域において一つまたはそれ以上の蛍光材料の蛍光発光をトリガしている、照明システムと、
    前記処理装置に接続された検出器システムであり、前記検出器システムは、前記発光された照明の反射を検出し、かつ、前記興味領域における前記一つまたはそれ以上の蛍光発光を検出している、検出器システムと、
    を含み、
    前記処理装置は、
    前記検出器システムから第1画像を受け取り、前記第1画像は、検出された反射を含んでおり、
    前記第1画像における一つまたはそれ以上の高い正反射の領域を決定し、
    前記第1画像における前記高い正反射の領域をマスクアウトし、かつ、
    マスクされた前記第1画像と前記検出された蛍光発光に基づいて、合成画像を生成する、
    ように構成されている、
    画像化システム。
  39. 前記処理装置は、さらに、
    前記検出器から第2画像を受け取り、前記第2画像は、検出された蛍光発光を含んでおり、かつ、
    前記第1画像と前記第2画像を混合することによって、前記合成画像を生成する、
    ように構成されている、
    請求項38に記載の画像化システム。
  40. 前記処理装置は、さらに、
    前記高い正反射の領域に基づいて、一つまたはそれ以上の形態調整ヒントを提供する、
    ように構成されている、
    請求項38に記載の画像化システム。
  41. 前記照明システムは、複数の波長で照明を生成し、かつ、
    前記高い正反射の領域それぞれは、前記複数の波長それぞれにおいて高い正反射を含む、
    請求項38に記載の画像化システム。
  42. 興味領域のマスクされた画像にアクセスするステップであり、前記マスクされた画像は、マスクアウトされた高い正反射の領域を有する第1反射画像を含んでいる、ステップと、
    前記興味領域の蛍光画像にアクセスするステップと、
    前記マスクされた画像と前記蛍光画像に基づいて、合成画像を生成するステップと、
    を含む、方法。
  43. 前記合成画像を生成するステップは、前記マスクされた画像と前記蛍光画像を混合することを含む、
    請求項42に記載の方法。
  44. 前記方法は、さらに、
    前記マスクアウトされた高い正反射の領域に基づいて、一つまたはそれ以上の形態調整ヒントを提供するステップ、
    を含む、請求項42に記載の方法。
  45. 前記方法は、さらに、
    前記第1反射画像における前記高い正反射の領域を検出するステップ、
    を含む、請求項42に記載の方法。
  46. 前記反射画像において前記高い正反射の領域を検出するステップは、前記第1反射画像において複数の波長それぞれにおける高い正反射の領域を検出することを含む、
    請求項45に記載の方法。
  47. 前記方法は、さらに、
    第2反射画像にアクセスするステップであり、前記第2反射画像は、前記第1反射画像とは異なる画像化形態に基づいている、ステップと、
    前記第1反射画像と前記第2反射画像との間の差異に基づいて、前記興味領域における面法線を見積るステップと、
    前記見積りされた面法線に基づいて、一つまたはそれ以上の離れ移動ヒントを提供するステップ、
    を含む、請求項42に記載の方法。

JP2016554370A 2014-02-27 2015-02-27 正反射の検出と低減のためのシステムおよび方法 Active JP6735675B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020120537A JP6957689B2 (ja) 2014-02-27 2020-07-14 正反射の検出と低減のためのシステムおよび方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201461945660P 2014-02-27 2014-02-27
US61/945,660 2014-02-27
PCT/US2015/017950 WO2015131026A1 (en) 2014-02-27 2015-02-27 System and method for specular reflection detection and reduction

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020120537A Division JP6957689B2 (ja) 2014-02-27 2020-07-14 正反射の検出と低減のためのシステムおよび方法

Publications (3)

Publication Number Publication Date
JP2017512308A true JP2017512308A (ja) 2017-05-18
JP2017512308A5 JP2017512308A5 (ja) 2018-04-05
JP6735675B2 JP6735675B2 (ja) 2020-08-05

Family

ID=54009647

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2016554370A Active JP6735675B2 (ja) 2014-02-27 2015-02-27 正反射の検出と低減のためのシステムおよび方法
JP2020120537A Active JP6957689B2 (ja) 2014-02-27 2020-07-14 正反射の検出と低減のためのシステムおよび方法
JP2021164492A Active JP7267373B2 (ja) 2014-02-27 2021-10-06 正反射の検出と低減のためのシステムおよび方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2020120537A Active JP6957689B2 (ja) 2014-02-27 2020-07-14 正反射の検出と低減のためのシステムおよび方法
JP2021164492A Active JP7267373B2 (ja) 2014-02-27 2021-10-06 正反射の検出と低減のためのシステムおよび方法

Country Status (6)

Country Link
US (3) US10426347B2 (ja)
EP (2) EP3110314B1 (ja)
JP (3) JP6735675B2 (ja)
KR (2) KR102579730B1 (ja)
CN (2) CN111643054A (ja)
WO (1) WO2015131026A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015131026A1 (en) 2014-02-27 2015-09-03 Intuitive Surgical Operations, Inc. System and method for specular reflection detection and reduction
JP6380972B2 (ja) * 2014-05-02 2018-08-29 オリンパス株式会社 画像処理装置および撮像装置
US10598914B2 (en) * 2015-07-14 2020-03-24 Massachusetts Institute Of Technology Enhancement of video-rate fluorescence imagery collected in the second near-infrared optical window
CN108924530A (zh) * 2017-03-31 2018-11-30 深圳市易快来科技股份有限公司 一种3d拍摄异常图像校正的方法、装置及移动端
CN107197146B (zh) 2017-05-31 2020-06-30 Oppo广东移动通信有限公司 图像处理方法和装置、移动终端、计算机可读存储介质
CN107990845A (zh) * 2017-12-06 2018-05-04 成都猴子软件有限公司 有利于不规则物品识别的方法
US11720766B2 (en) * 2018-12-28 2023-08-08 Packsize Llc Systems and methods for text and barcode reading under perspective distortion
CN109656014B (zh) * 2019-01-31 2024-03-19 北京超维景生物科技有限公司 多路荧光收集装置及三维非线性激光扫描腔体内窥镜
JP7322857B2 (ja) * 2020-11-02 2023-08-08 株式会社三洋物産 遊技機
US20220330799A1 (en) * 2021-04-14 2022-10-20 Arthrex, Inc System and method for using detectable radiation in surgery

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07250812A (ja) * 1994-03-15 1995-10-03 Olympus Optical Co Ltd 蛍光診断装置
JP2001224549A (ja) * 2000-02-18 2001-08-21 Fuji Photo Film Co Ltd 内視鏡画像取得方法および装置
US20020138008A1 (en) * 2000-01-13 2002-09-26 Kazuhiro Tsujita Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images
JP2005106507A (ja) * 2003-09-29 2005-04-21 Hitachi Ltd 画像処理方法
JP2008183349A (ja) * 2007-01-31 2008-08-14 Olympus Corp 蛍光観察装置および蛍光観察方法
JP2010516332A (ja) * 2007-01-17 2010-05-20 ケアストリーム ヘルス インク 虫歯の早期検出システム
JP2012048579A (ja) * 2010-08-27 2012-03-08 Canon Inc 画像処理装置およびその方法
JP2013020475A (ja) * 2011-07-12 2013-01-31 Sony Corp 情報処理装置、情報処理方法、及びプログラム
WO2013109978A1 (en) * 2012-01-20 2013-07-25 University Of Washington Through Its Center For Commercialization Dental demineralization detection, methods and systems
JP2013150122A (ja) * 2012-01-18 2013-08-01 Toshiba Corp 画像処理装置、方法、及びプログラム
JP2013188244A (ja) * 2012-03-12 2013-09-26 Fujifilm Corp 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡動画表示方法
JP2013258627A (ja) * 2012-06-14 2013-12-26 Olympus Corp 画像処理装置および立体画像観察システム

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6427082B1 (en) * 1998-12-23 2002-07-30 Medispectra, Incorporated Optical methods and systems for rapid screening of the cervix
JP4298151B2 (ja) 2000-01-13 2009-07-15 富士フイルム株式会社 蛍光画像表示方法および装置
US6826424B1 (en) * 2000-12-19 2004-11-30 Haishan Zeng Methods and apparatus for fluorescence and reflectance imaging and spectroscopy and for contemporaneous measurements of electromagnetic radiation with multiple measuring devices
US6818903B2 (en) 2002-07-09 2004-11-16 Medispectra, Inc. Method and apparatus for identifying spectral artifacts
JP4143425B2 (ja) 2003-01-16 2008-09-03 富士フイルム株式会社 画像処理方法及び装置、並びに画像処理プログラム
US7352892B2 (en) * 2003-03-20 2008-04-01 Micron Technology, Inc. System and method for shape reconstruction from optical images
TWI329208B (en) * 2003-06-03 2010-08-21 Oerlikon Trading Ag Optical substrate for enhanced detectability of fluorescence
US7204420B2 (en) * 2004-08-31 2007-04-17 Symbol Technologies, Inc. Scanner and method for eliminating specular reflection
US7312879B2 (en) 2005-08-23 2007-12-25 University Of Washington Distance determination in a scanned beam image capture device
US7630002B2 (en) 2007-01-05 2009-12-08 Microsoft Corporation Specular reflection reduction using multiple cameras
US20080062429A1 (en) 2006-09-12 2008-03-13 Rongguang Liang Low coherence dental oct imaging
US8320702B2 (en) 2006-09-28 2012-11-27 Jadak Technologies, Inc. System and method for reducing specular reflection
US20080118886A1 (en) 2006-11-21 2008-05-22 Rongguang Liang Apparatus for dental oct imaging
US8212857B2 (en) 2007-01-26 2012-07-03 Microsoft Corporation Alternating light sources to reduce specular reflection
MX2009008653A (es) 2007-02-14 2009-12-08 Luminetx Corp Sistema y metodo para proyeccion de estructura de subsuperficie sobre una superficie de un objeto.
JP5380672B2 (ja) 2007-02-20 2014-01-08 国立大学法人 名古屋工業大学 モーションプランナ、制御システム、および多軸サーボシステム
JP2008271386A (ja) 2007-04-24 2008-11-06 Fuji Xerox Co Ltd カラー画像読取装置
JP5239314B2 (ja) * 2007-11-28 2013-07-17 オムロン株式会社 物体認識方法およびこの方法を用いた基板外観検査装置
CN102089873A (zh) 2008-05-16 2011-06-08 加拿大马特森技术有限公司 工件破损防止方法及设备
EP2223650A1 (en) * 2009-02-25 2010-09-01 The Provost, Fellows and Scholars of the College of the Holy and Undivided Trinity of Queen Elizabeth near Dublin Method and apparatus for imaging tissue topography
US8324602B2 (en) 2009-04-14 2012-12-04 Intersil Americas Inc. Optical sensors that reduce specular reflections
US8577135B2 (en) * 2009-11-17 2013-11-05 Tandent Vision Science, Inc. System and method for detection of specularity in an image
EP2339534A1 (en) * 2009-11-18 2011-06-29 Panasonic Corporation Specular reflection compensation
US8837827B2 (en) * 2011-03-21 2014-09-16 Apple Inc. Red-eye removal using multiple recognition channels
JP5257958B2 (ja) * 2011-06-01 2013-08-07 株式会社日立メディコ 画像表示装置、画像表示システムおよび画像表示方法
US8859971B2 (en) * 2011-10-14 2014-10-14 Blackberry Limited Light redirection in optical navigation
WO2015131026A1 (en) 2014-02-27 2015-09-03 Intuitive Surgical Operations, Inc. System and method for specular reflection detection and reduction

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07250812A (ja) * 1994-03-15 1995-10-03 Olympus Optical Co Ltd 蛍光診断装置
US20020138008A1 (en) * 2000-01-13 2002-09-26 Kazuhiro Tsujita Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images
JP2001224549A (ja) * 2000-02-18 2001-08-21 Fuji Photo Film Co Ltd 内視鏡画像取得方法および装置
JP2005106507A (ja) * 2003-09-29 2005-04-21 Hitachi Ltd 画像処理方法
JP2010516332A (ja) * 2007-01-17 2010-05-20 ケアストリーム ヘルス インク 虫歯の早期検出システム
US20100103250A1 (en) * 2007-01-31 2010-04-29 Olympus Corporation Fluorescence observation apparatus and fluorescence observation method
JP2008183349A (ja) * 2007-01-31 2008-08-14 Olympus Corp 蛍光観察装置および蛍光観察方法
JP2012048579A (ja) * 2010-08-27 2012-03-08 Canon Inc 画像処理装置およびその方法
JP2013020475A (ja) * 2011-07-12 2013-01-31 Sony Corp 情報処理装置、情報処理方法、及びプログラム
JP2013150122A (ja) * 2012-01-18 2013-08-01 Toshiba Corp 画像処理装置、方法、及びプログラム
WO2013109978A1 (en) * 2012-01-20 2013-07-25 University Of Washington Through Its Center For Commercialization Dental demineralization detection, methods and systems
JP2013188244A (ja) * 2012-03-12 2013-09-26 Fujifilm Corp 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡動画表示方法
JP2013258627A (ja) * 2012-06-14 2013-12-26 Olympus Corp 画像処理装置および立体画像観察システム

Also Published As

Publication number Publication date
US10426347B2 (en) 2019-10-01
WO2015131026A1 (en) 2015-09-03
JP7267373B2 (ja) 2023-05-01
KR20220070563A (ko) 2022-05-31
JP6735675B2 (ja) 2020-08-05
JP2022000662A (ja) 2022-01-04
EP3110314A4 (en) 2017-11-15
US20190387974A1 (en) 2019-12-26
CN106455986A (zh) 2017-02-22
JP6957689B2 (ja) 2021-11-02
EP3110314A1 (en) 2017-01-04
KR102579730B1 (ko) 2023-09-19
US20240298900A1 (en) 2024-09-12
CN106455986B (zh) 2020-06-19
US20170014029A1 (en) 2017-01-19
US11937899B2 (en) 2024-03-26
KR20160127765A (ko) 2016-11-04
EP3110314B1 (en) 2020-12-09
CN111643054A (zh) 2020-09-11
EP3795068B1 (en) 2024-07-24
JP2020183965A (ja) 2020-11-12
KR102401057B1 (ko) 2022-05-24
EP3795068A1 (en) 2021-03-24

Similar Documents

Publication Publication Date Title
JP7267373B2 (ja) 正反射の検出と低減のためのシステムおよび方法
US11937897B2 (en) Optical overlay device
EP2996544B1 (en) Imaging a patient's interior
US20160086380A1 (en) Hyperspectral imager
JP2020537210A (ja) 物体の三次元モデルを形成するための1つ又は複数の光度エッジの生成
CN110087528B (zh) 内窥镜系统以及图像显示装置
US11980347B2 (en) Combining near-infrared information with colored images in image-guided surgery
EP3284396B1 (en) Observation apparatus and method for visual enhancement of an observed object
US20220007942A1 (en) Medical imaging systems and methods that facilitate use of different fluorescence imaging agents
US20230300432A1 (en) Systems and methods for determining a measure of photobleaching of a fluorescence target
EP3761302A1 (en) Image projection device
US20220405940A1 (en) Apparatus and method for detecting coverslip regions of a specimen slide
US20240268678A1 (en) Multi-modal skin imaging

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180221

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200616

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200714

R150 Certificate of patent or registration of utility model

Ref document number: 6735675

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250