例示的な実施形態は、図面及び詳細な説明によって、さらに十分に説明される。しかしながら、本開示による実施形態は、様々な形態で実現されてもよく、図面及び詳細な説明に記載されている特定又は例示的な実施形態に限定されない。
以下、本開示の原理を単に例示する。したがって、当業者は、本開示で明確に説明又は示されていないが、本開示の原理を実現し、その精神及び範囲内に含まれる様々な配置を考案できることを理解されたい。
さらに、本開示に記述されたすべての例及び条件付き言語は、本開示の原理及び本技術分野を促進するために発明者の貢献した概念を読者に理解させるのを助ける教育目的のみを主に意図し、そのような具体的に記述された例及び条件に限定されないと解釈されるべきである。。
さらに、本開示の原理、態様、及び実施形態のすべての記述、ならびにその具体的な実施例は、その構造的及び機能的な均等物を含むことを意図している。また、そのような均等物には、現在知られている均等物と将来開発されうる均等物の両方、つまり、構造に関係なく、同じ機能を実行する開発された任意の要素が含まれることが意図されている
したがって、当業者は、例えば、本開示の任意のブロック図により、本開示の原理を実現する例示的な回路の概念図を表すことを理解するであろう。同様に、コンピュータまたはプロセッサーが明確に開示されていなくとも、当業者は、いずれのフローチャート、状態遷移図、擬似コードなどが様々なプロセスを表し、これらのプロセスがコンピュータ読み込み可能な媒体で実質的に示され、コンピュータ又はプロセッサーによって実行され得ることを理解するであろう。
図面に示されるさまざまな素子の機能(「プロセッサー」と表記されたいずれかの機能ブロックを含む)は、専用ハードウェアや、適切なソフトウェアに関連してソフトウェアを実行できるハードウェアを使用することにより提供される。プロセッサーによって提供される場合、前記機能は、単一の専用プロセッサーによって提供され得るか、単一の共有プロセッサーによって提供され得るか、又はその一部が共有可能な複数の単一のプロセッサーによって提供され得る。さらに、明示で使用される用語「プロセッサー」又は「コントローラー」は、ソフトウェアを実行できるハードウェアのみを指すと解釈されるべきではなく、デジタル信号プロセッサー(DSP)ハードウェア、ネットワークプロセッサー、特定用途向け統合回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、ソフトウェアを格納するための読み取り専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、及び不揮発性ストレージを示唆的に含むが、これらに限らない。従来及び/又はカスタムの他のハードウェアも含まれ得る。
ソフトウェアモジュール、又は単にソフトウェアであることを示唆するモジュールは、フローチャート要素又は他の要素の任意の組み合わせとして表すことができ、前記他の要素は、プロセス工程の実行及び/又はテキスト説明を示す。このようなモジュールは、明示的又は暗示的に示されるハードウェアによって実行されてもよい。
本開示で特に明示的に指定されていない限り、図面に含まれている図は、縮尺通りに描かれていないこともある。
いくつかのほかの予備知識により、内視鏡検査から特定される生理学的特徴についてサイズ測定を行うことは重要であるにもかかわらず、カプセル内視鏡を含む現代の内視鏡は、このようなサイズ測定機能を十分に提供できないことに再び留意する。ただし、簡潔のために、「特徴」又は「病変」という用語を交換可能に使用してそのような生理学的特徴を説明する場合があることに留意する。本開示及び特許請求の範囲の目的のために、そのような特徴又は病変は、単に視野内の物体又は関心点であり、本開示で使用される用語は限定的なものと見なされるべきではないことにさらに留意する。
当業者に知られて容易に理解されるように、内視鏡カメラ画像のサイズ測定/推定は、測定される物体又は生理学的特徴の見かけのサイズがその拡大倍率に依存し、その拡大倍率もカメラからの距離(通常、未知なものである)に依存するため、相違が起こりやすい。生体内撮像の場合に必然的にそうであるように、物体がカメラに近い、すなわち、共役距離が小さい場合、物体距離の小さな変化によって倍率の大きな変化をもたらす。さらに、内視鏡に採用されている広角レンズにとって、レンズの歪みにより、カメラの視野全体において拡大倍率の変化を引き起こす。
当業者が容易に理解できるように、内視鏡検査期間において、ある工具(すなわち、スケール、鉗子、又は既知サイズの他の物体)をサイズの参考基準として利用して、前記工具を病変と十分に近接させて配置し、前記病変を前記工具とともに観察することによって、サイズ参考を提供ように、前記病変のサイズをより正確に推定/決定することができる。さらに理解されるように、このような操作手順は、腸内の特定の病変配置にとっては、時間がかかり、困難又は不可能であり、十分に正確ではなく、粘膜損傷の処置リスクを増加させ、プロシージャレコードの一部として測定値を記憶媒体に自動的に記録できないという可能性がある。さらに、このような工具は、カプセル内視鏡処置には適用できない。
当然ながら、距離を測定する工具を含む内視鏡は、内視鏡検査期間において観察される消化(GI)管内の物体のサイズを快速、簡単、かつ客観的に測定及び記録することが可能であり、当技術分野においては歓迎される追加である。
この点について、レーダー、超音波、ソナー、エコー位置決め、ライダー、ホログラフィー、ステレオビジョン、陰影奥行き、飛行時間、光干渉断層計、共焦点顕微鏡、及び構造化光を含む、物体の距離を測定するための様々な電子技術が開発されていることに留意する。これらの技術のうち、多くは大きく、複雑で、高価で、電力消費の高いシステム、方法、及び構造を必要とする。ライダーを含む光学的な飛行時間の測定は、飛行時間が非常に短いため、短い物体距離に使用するのは困難であるので、ミリメートル単位の距離分解能を達成するのが難しい。光干渉断層計(Optical coherence tomography、OCT)及び共焦点顕微鏡は、内視鏡及び内視鏡を使用する手順に用いられているが、小型化が不十分であるため、非テザーのカプセル内視鏡アプリケーションには適用できない。最後に、これらの注目される技術のうち、多くはセンサーハードウェアを必要とし、このセンサーハードウェアの操作は、胃腸内科医又は他の人(内視鏡の利用者、すなわち、内視鏡医)が病変又は他の特徴を特定するために使用する光学的白色光(WL)カメラとは別であるため、カメラ画像データと3Dセンサーデータとの対応がチャレンジングとなる。
本開示の態様により、当業者が容易に理解されるように、内視鏡カメラと構造化光(SL)のプロジェクターとの間の三角測量によって、3Dデータを好ましく取得できる。さらに理解されるように、このようなアプローチは、カメラを活用するため、必要の任意の追加ハードウェアを削減でき、白色光画像データと奥行き測定との対応の確立を簡素化する。
本開示で使用される構造化光は、空間的にパターン化されるため、3D空間内において既知の幾何学のパターンで物体空間を照明する。構造化光は、既知のパターン(グリッド又は水平バーパターン素子、あるいはランダム、擬似ランダム、もしくは半周期な要素を含むことが多い)をシーン(内視鏡カメラの任意の視野)に投影するプロセスを含む。構造化光3Dスキャンシステムに使用されるように、表面に照射されたときにパターン素子が変形する方法により、シーン内の物体の奥行き及び表面情報を決定できる。好ましくは、他の光ベースの視覚システム及び/又はプロセスとの干渉により投影パターンを混乱させることを避けるように、好ましくは、不可視な(又は知覚できない)構造化光を使用できる。例示的な不可視な構造化光には、赤外線を使用すること、又は、異なるパターン(すなわち、反対のパターン)の間の交替において十分に高いフレームレートを使用することが含まれる。
いくつかの具体例により、構造化光としては、照射面上にスポットのグリッド、ライン、又は他のパターンを作成するために、1つ以上の投影中心(COP)から発光されるビームアレイを使用できることに留意する。当業者に知られて理解されているように、三角測量について、構造化光投影のCOPは、パターン/表面を撮像するカメラのCOPと同じ場所に配置してはならない。
構造化光は、空間光変調器又は「スライド」から表面に画像を投影する画像投影装置(構造化光プロジェクター)によって生成されてもよい。生体内用途に関して、そのような表面は、通常、粘膜及び/又は病変及び/又は他の生理学的特徴を含む生物学的材料を含み得る。しかしながら、このような画像投影装置の光学効率は、システムのサイズの増加につれて、低下する。シングルアパーチャイメージプロジェクターの場合、フラックスは、焦点距離の2乗に比例する。内視鏡は、通常、例えば、160°のような大きな視野(FOV)を示すため、画像投影装置がそのような大きなFOVをカバーすることは困難である。同様に、例えば、微小電気機械システム(MEMS)ミラーを使用した小型光学スキャナーなどの代替技術でも、このような大きなFOVを簡単にカバーできない。別の代替技術、例えば、コヒーレント光を回折光学素子(DOE)に通すことで動作する回折格子やホログラムという代替技術は、別の空間パターンを生成し得るが、このようなパターンでは、通常のDOEから少なくとも1cmの距離という回折遠視野でしか十分なコントラストを示さず、60°を超えるFOVを均一にカバーすることは、単一の光源では達成が困難である。さらに別の構造化光を生成する技術的アプローチ、例えば、DOE以外の焦点距離に集束レンズを配置することにより、DOEからのレンズの焦点距離の2倍に等しい距離で回折遠視野に画像を生成するという技術的アプローチはあるが、画像のカバレッジエリア(FOV)の縮小を引き起こす。
これら及び他の困難を考慮して、本開示は、十分に低い電力消費及び低コストを示し、ミリメートル範囲内およびそれ以外の範囲での物体距離の照明に十分に適し、制約された空間体積における構造化光の生成のためのシステム、方法、及び構造に関する。以下で例示して説明するように、本開示によるこシステム、方法、及び構造の内視鏡への用途(特に、生体内カプセル内視鏡)は、特に魅力的である。そのような魅力があるにもかかわらず、本開示によるシステム、方法、及び構造は、他の用途へも好適に適用できる。
当業者に理解されるように、基本的な類比を提示する目的で、本開示によるシステム、方法、及び構造は、シャドーマスクによる陰影付けという基本概念の変形を採用する。特に、本開示によれば、マイクロレンズを含む開口の配置に光を通過させることにより、光をビームアレイにコリメートし、その強度が距離の増加に従って減少する速度は、コリメートレンズなしのアパーチャを通過する光よりも低い。各ビームは、独立してコリメートされるため、ビーム角度が大きく変化して、より大きなFOVをカバーする可能性がある。また、本開示において、以下でさらに詳しく例示して説明するように、マイクロレンズ以外に配置されたミラー、レンズ又は他の光学素子を使用することにより、ビームの一部又は全部をリダイレクトし、FOVを増加させることができる。
この点について、コリメーターが1つ以上のビームを狭めるデバイスであることを、当業者は容易に理解及び認識することに留意する。本開示で使用されるコリメートとは、光の方向を狭めるか、特定の方向に整列させる(つまり、ビームを描く光線がより平行になる)ことを意味するが、コリメートされたビームに発散又は収束が発生しないことを意味するものではない。コリメートにより、ビームの空間断面積が小さくなる可能性がある。
当業者にはさらに理解されるように、本開示にある数多くの開示は、カプセル内視鏡の背景での例示的な表示である。本開示はそれにより限定されない。本開示によるシステム、方法、及び構造は、カプセル及び挿入チューブ型の内視鏡、ならびにシーン内の関心対象のサイズ及び/又は距離決定から利点を得ることができる他の器具も意図する。
ここで図1を参照すると、本開示の態様によるシャドーマスクを使用して構造化光を生成する例示的な装置の概略図が示されている。その図から分かるように、光は、直径aを有する開口(光源開口)を通して、光源から発光される。シャドーマスクは、光源が発光された光源開口から距離Lを離れるように配置されており、また、前記シャドーマスクは、幅Dの開口(マスク開口)のアレイを有する。したがって、この図に例示的に示されているように、光源による軸上の回折を無視して、マスクの開口の範囲外のビームにおける光の発散角は、次のように定義される。
当業者にさらに理解されるように、発散角の角度が増加すると、距離とともに光強度の低減が大きくなるので、遠い物体と近い物体に投影される任意のパターン(スポットなど)の存在及び配置を適切に検出するために、画像内のより大きなダイナミックレンジが必要になる。本開示で使用され、かつ当業者に一般に理解されるように、ダイナミックレンジは、最大と最小の測定可能な光強度(例えば、黒と白)間の比率を示す。
a及びDを減少させる(マスク開口を狭くする)ことは、スループットを犠牲にして発散を減少させる。また、Dの減少で減少可能な発散の程度は、回折によって制限される。また、隣接する投影スポット同士を区別できるようにするには、少なくとも約50%の開口デューティサイクルが必要である(すなわち、マスク開口ピッチは少なくとも2Dとなる)。ただし、図に示されている正方形のマスク開口を示すシャドーマスクは、マスクに当たる入射光の約25%だけが通過するように、両方の横方向の軸に沿って実質的に50%不透明でなければならないことに留意する。このような基準は、円形マスクの開口の場合においてはさらに小さくなる。
図2を参照すると、本開示のさらなる態様による、シャドーマスク及び各マスク開口に配置されたコリメートレンズを使用して構造化光を生成する例示的な装置の模式図が示されている。このようなコリメートレンズが図面に示されるようにマスクの開口に配置されている場合、ビーム発散(回折を無視)は下記のように減少される。
図には具体的に示されていないが、光源は、好ましくは、小さな開口を有するLEDである「点光源」発光ダイオード(LED)を含むことができる。
例示的な実施形態において、点光源LEDは、標準的なLEDの構造と類似する構造を示す。ただし、そこから放射される光は、直径が通常25μm〜200μmの明確な(多くの場合は円形)領域を通して放射される。そのように生成された光は、狭い視野角を生成する「スポット」として表示される。理解されるように、そのような点光源LEDは、例示的に示される光源開口(及び光源開口を有する任意の光源マスク)の要件を排除又は変更することが可能である(このような場合では、aは、点光源の開口径に相当する)。通常、横方向の電流閉じ込め構造は、LEDに含まれるため、電子と正孔との再結合する領域が開口よりも大きくならないようにする。開口は、LEDの表面上の金属層の開口であってもよい。
もちろん、本開示によるシステム、構造、及び方法で使用される光源は、10μm以下の開口を有し得る垂直キャビティ面発光レーザー(VCSEL)を含むレーザーも含むことができ、それは点光源LEDよりも効率的であることが知られている。残念ながら、そのようなレーザーのコヒーレント性が高い場合、生成された構造化光には、スプリアス干渉パターンとスペックルノイズが含まれる場合がある。
点光源LEDにおいて、aは、典型的には0.050mm〜0.20mmの範囲(例えば、0.080mm又は0.10mm)であり、Lは、典型的には1mm〜10mmの範囲である。したがって、a=0.80mm及びL=4.0mmの場合、θ=6°である。D>aである限り、レンズのデューティサイクルが100%(つまり、ピッチがDに等しい場合)であっても、ビーム発散度θはビーム分離角Φより小さく、物体に投影される任意のスポットのデューティサイクルは物体の距離とともに減少する。そのような構成は、図3に概略的に示されている。当業者に理解されるように、大きな開口デューティサイクルは、コリメーティングレンズを有しないシャドーマスクと比較して、スループットを増加させる。
この点について、図に示されているようなレンズアレイは、透明基板に形成又は他の方法で配置されたマイクロレンズアレイ(MLA)であってもよいことに留意する。そのような構成は、図4の模式図に例示的に示されている。
引き続きその図を参照すると、基板は、ガラス、シリカ、ポリマー、又は他の透明材料を含む様々な既知の材料の中の任意の材料で形成され得ることに留意する。同様に、レンズは、任意の適切な材料で構成されてよく、エンボス加工、成形、又はフォトレジストリフローによるリソグラフィー及び/又はエッチング、あるいは任意の他の既知の技術によって形成されてもよい。レンズアレイは、ガラスフレームワーク上に存在する場合があり、ガラスフレームワークは、基板全体に貼り付けられるか、集積されても良い。レンズは、光源に向く基板の表面上又は反対側に集積されてもよく、基板の本体に集積されてもよい。レンズが光源に対して基板の反対側に配置されている場合、同じ基板の配置と厚さに対して、焦点距離は大きくなるため、ビームの発散が減少することに留意する。
さらに、アレイ内の個々のレンズは、それぞれ、レンズの対称軸である光軸を有することに留意する。各レンズについて、主光線は、光源から通過し、レンズの入射瞳で光軸と交差する。主光線と光軸は接平面に位置し、主光線は接平面に垂直な矢状面にも位置する。
図5を参照すると、レンズのクリアアパーチャ(CA)の外側にあるレンズ材料の表面は、低収差で光をコリメートするのに有効な形状又は品質(形状又はその他)を示さない場合があることが観察される。好ましくは、マスクは、図5に概略的に示されるように、CAの外側にあるMLA基板を透過して構造化光投影のコントラストを低減するあらゆる光の遮断に使用されてもよい。マスクは、図に示される光路内のマイクロレンズアレイの直前又は直後に配置された材料のシート又はコーティングされた基板で構成されてもよい。さらに、マスクは、MLAの表面に塗布された不透明なコーティングであってもよい。例えば、ブラッククロム又は他の不透明材料を、堆積又は他の方法でレンズアレイの表面に施し、フォトエッチング又は他の既知の方法により、個々のレンズに適切に位置合わせされた開口にパターン化することができる。あるいは、ガラス基板上にブラッククロム又は他の不透明材料を施してパターン化してもよい。続いて、クロム(又は他の適切な材料)上の基板に薄いポリマー層を施し、モールド成形を施して、エンボス加工されたレンズパターンを作成し、レンズをブラッククロム開口に位置合わせる。そのような形成から生じる例示的な構造は、図6に概略的に示されている。
本開示の態様によれば、マイクロレンズは、代替の配置(パターン)で構成され得ることに留意する。例えば、図6(A)と図6(B)は、いずれも本開示の態様による例示的なマイクロレンズアレイ(MLA)パターンを示す模式図であり、そのうち、図6(A)は、最密充填(すなわち、六角形又は「ハニカム」)の配置を示し、図6(B)は、矩形配置を示す。これらの図からわかるように、これらの例示的な配置では、隣接するレンズ間に実質的にスペースがない。したがって、これらの配置では、マスク層が不要となる可能性がある。ただし、実際には、あるレンズサグから次の隣接レンズサグへの移行は完璧に密接ではないので、これらの移行領域を通過する光は、レンズアレイによって十分にコリメートされないことに留意する。そのようなコリメーションの欠如にもかかわらず、そのように収差のある光の部分は許容できるほど低いかもしれないので、補正の必要はなくてもよい。
これらのMLA構成を念頭に置いて、構造化光源によってカバーされる視野半角は、約下記式のとおりである。
ここで、wは、MLAの幅であり、fは、アレイの端でのレンズの接線焦点距離である。ビームの発散、f、及びそれによる光源からMLAまでの距離Lを最小化するには、利用可能なスペースが許す限り、φをできるだけ大きくすべきである。
FOVを増加させるには、fに対してwを増加させなければならない。ただし、MLAのコストは、その面積及びw2に比例する。また、MLAを通過する光の入射角が大きくなると、レンズの収差、フレネル損失、瞳の歪み、及び発光ダイオード(LED)強度の低下(LED強度が角度の増加につれて低下するため)がますます問題になる。
好ましくは、MLAの後に光学素子を配置することにより、送信ビームの発散を増大させるため、w/fを増大させることなくFOVを増大させることができる。図7は、本開示の態様に従って、全体の視野(FOV)が増大するように、光路内のMLAの後に光学素子を配置することを例示的に示す概略図である。
ここでその図を参照すると、光路においてMLAの後に位置するように、負屈折力(負の屈折力)の屈折レンズL1を配置することが示されている。例示的な構成においては、光源はL1の光軸上に配置され、レンズアレイはこの軸に垂直であるが、そのような配置は好ましく、それほど正確である必要はない。
図面に示されているように、光線は、MLAの2つのマイクロレンズ(ML)について示されている。L1はビームを発散させるので、MLの正屈折力(正の屈折力)が効果的に増加され、有限共役で光源からの光をL1以外のポイントに集束させる。さらに、MLは、接線面と矢状面では異なる曲率を示すため、L1以外の物体空間のビームは両方向でほぼ等しく良好にコリメートされる。各MLは光をコリメートし、それを通過する光線をより平行にするが、ある程度で収束させる。L1はさらに光をコリメートし、収束を低減又は除去する。また、ML曲率は、光軸に対するレンズの中心配置によって異なる。ビーム幅を実質的に等しくさせるために、MLのCAは、光軸からの距離が増加するとともに、増加されてもよい。さらに、L1の代わりに、又はL1に加えて、フレネルレンズ、回折素子、1つ以上のミラー、又は1つ以上のプリズムなどの異なるタイプの光学素子を使用して、構造化光(SL)のFOVを増加させることができる。最後に、SLでカバーされるFOV2Φは、180°を超えてもよく、また、例えば、160°、140°、120°、100°、80°、60°などを含む180°未満であってもよい。
いま、図8を参照すると、本開示の態様による、構造化光素子を含む例示的なカプセル内視鏡が概略形態で示されている。その図に示すように、構造化光源(発光ダイオード、又はレーザーを含むその他の適切なエミッタ/光源を含む)は、プリント回路基板(PCB)に配置され、カプセルの本体内に配置されている。図に示すように、構造化光素子は、カメラに隣接して配置されている。当業者に容易に理解されるように、カメラは、通常、光学素子並びに任意の電子機器及び機械部品とともに、1つ以上のセンサー及び/又はイメージング構造を含むことができる。図に具体的に示されているもの以外、本開示によるシステム、方法、及び構造によって、多くの構成の可能性があり、これらの構成の可能性を考慮できることに留意する。例として、カメラ及び/又はセンサーは、採用される特定の構成に応じて、同じPCB又は異なるPCBに取り付けることができる。同様に、追加の/その他の/代替の光源を、カメラの周囲に配置できる。
例えば、追加の光源は、カメラの周りを囲むようにリング状又は他の配列で配置されてもよい。同様に、追加の構造化光素子は、カメラの周りに配置されて光源の間に設置されてもよく、あるいは、所望の照明及び構造化発光及び/又はパターンを生成できるような他の任意の配列で配置されてもよい。
図8に例示的に示されるように、カプセル内視鏡は、構造化光源(LED、又は他の発光体、好ましくは点光源)を有する構造化光素子、マイクロレンズアレイ、及び負の光学力を示す例示的な追加の光学素子(レンズ)L1を含む。そのようなレンズは、好ましくはMLAの後に配置されることにより、構造化光素子(SLプロジェクター/ジェネレーター)のFOVカバレージを増加させる。好ましくは、L1は、他の機能的光学素子を含む成形(又は3D印刷を含む他の製造技術)構造の一部であり、カメラの周囲を少なくとも一部囲んで延伸することができる。この例示の概略図に具体的に示されていない他の機能的光学素子には、他のレンズ、他の/代替のSL光源、及び/又は追加の/代替の光源(白色光源を含む)用のディフューザーが含まれる。この図にさらに示されているように、カメラは、投影中心COP1を有し、SLプロジェクターは、COP1からオフセットされる投影中心COP2を有する。
引き続き図8を参照すると、例示的なカプセル内視鏡は、バッテリ又は他の電力源、コントローラー、メモリ、及び送信機を含むことが観察される。カプセル自体は、一端にドーム型の窓を備え、反対側の端にドーム型の本体素子を備えた円筒形の本体を含む。カプセル本体の一端を形成/閉鎖するドーム型の素子を説明するために、「窓」という言葉を使用したが、このようなドーム型の窓は、円筒形本体に適合し、かつ、使用される光に対して十分に透明である任意の適切な材料で製作されることができる。さらに、ドーム型の窓は一端にのみ示されているが、考えられる構成は、両端にドーム型の窓を含み、その中に複製の/補足の撮像システム/構造化光素子/光学素子が配置されてもよいことに留意する。
この点について、カプセル内視鏡、例えば、本開示によるカプセル内視鏡は、ヒトが飲み込み可能(摂取可能)であるため、長さが約4cm以下であり、直径が約2cm以下であるというサイズを示すことに留意する。そのようなカプセルは、内部に含まれる成分を含まずに、消化管を通る過程に耐える多くの生体適合性材料の中の任意の材料で構成されてもよい。さらに、当業者に容易に理解されるように、そのようなカプセルの少なくとも一部は、適切な生体適合性を示すことに加えて、適切な光学特性も示す。飲み込まれた(摂取された)カプセルは、蠕動運動を含む生理学的プロセスにより消化管を通過する。
当業者に容易に理解されるように、追加のハードウェア/電子/光学コンポーネント、及びコントローラー又は他の同等の構造によって実行される追加のソフトウェアが考えられる。操作上、画像データは、メモリに保存され、送信機によって外部ストレージ及び/又は処理システムに送信される。特定の例示的な実施形態では、メモリは、長期保存又はアーカイブ保存でき、カプセルが患者から排泄又は他の方法で除去されたるまで画像データが保存され、その後で取り出される。さらに他の例示的な実施形態では、送信機は、例えば、無線、超音波、人体の電気伝導により、又は光学的に、患者の身体を通して生体外受信機にデータを無線で送信する。また、好ましくは、図8に示されているような一般的な装置は、図8に例示的に示されるカプセル内視鏡ではなく、従来の内視鏡挿入チューブの先端の上/内部に配置されてもよい。このような装置には、次に説明するように、図面に示された構造を構成する素子の組み合わせが含まれる。
図9は、本開示の態様による、構造化光素子と追加の白色光素子とカメラとを含む現代の挿入型内視鏡及び挿入チューブの例示的構成を示す模式図である。当業者に容易に理解されるように、挿入チューブは、身体の開口又は身体に作られた切開部に通される。体内に配置されると、カメラシステムは体内の内腔の画像を撮像する。この図に示されている例示的な構造は、図8で先に示したものと実質的に同じであることに留意する。もちろん、特定の内視鏡の設計に応じて、本開示による構造化光を含むそのような内視鏡の様々な構成は、この図に特に示されていない場合でも、本開示の範囲内にある。
ここで、図8、図9(A)及び図9(B)を同時に参照すると、これらの図では、3つのSLビーム軸は、光源を起点に、MLAを通過し、軸からずれたビームをより大きな角度に偏向することでFOVを増加させるレンズL1を通過して、カプセルハウジングを通過して粘膜(lumen wall、内腔壁)に到達し、人体または他の生体の空洞(内腔)のポイントA、B、及びCにほぼ集中する照明スポットまたはパターンを生成する様子を示していることに留意する。ポイントA、B、及びCのスポットから散乱された光は、カメラ内又はカメラによって収集され撮像される。
本開示の多くの態様を共有しているが、これらの3つの図を参照すると、本開示によるシステム、方法、及び構造は、3つの異なる構成で示されていることに留意する。図8は、本開示の態様による例示的なカプセル内視鏡を示す。図9(A)は、本開示の態様による例示的な挿入チューブ型内視鏡を示す。図9(B)は、平坦な非ドーム状端部を有する本開示の態様による例示的な挿入型内視鏡を示す。さらに、図9(B)に示される例示的な構成に関しては、白色の非構造化光は、遠位端で生成されるものではなく、他の場所で生成されて、照明チャンネルを介して当該端に伝搬されるものである。このような照明チャンネル/リモート光源は、開示されているLED又は他の光源によって置き換え/補足できることに留意する。同様に、SL光源は、挿入チューブの遠位端ではなく、例えば、近位端又はそれ以外の他の場所に示されており、また、SLは、光ファイバー又は他の光ガイドなどのSLチャンネルを通して運ばれ、開口(例えば、光ガイドの端)を通して出射された後、MLAとL1を通過する。SL光源は、図9(A)の例と同様に、代わりにSL開口の位置に配置できるため、SLチャンネルが不要となる。
白色光源は、SLと白色光の両方が取り込まれた画像を照らすように、同じフレームの画像センサー統合期間中に起動されてもよい。好ましくは、SL光源は、白色光源を含む画像において識別可能な色を有するように、白色光源によって示される光学スペクトルとは異なる光学スペクトルを示してもよい。例えば、前記スペクトルは、赤色、緑色、アンバー色、又は青色のLEDのスペクトルのように制限されたものであってもよい。スペクトルは、例えば、電磁スペクトルの赤外線(IR)領域などの白色光スペクトルの外側にあってもよい。もちろん、イメージセンサーには、白色光よりもSLの透過率が高いカラーフィルターを備えるピクセルが含まれる場合がある。例えば、IR構造の光を好ましくに検出するために、センサーには、IRを透過させて、白色光を吸収するまたは別の方法で遮断するピクセルが含まれてもよい。
図10(A)及び図10(B)は、パノラマ撮像システム及び構造化光素子を含む例示的なカプセルセクション(又は特に構成された挿入型内視鏡)の模式図を示す。記載されたこれらの例示的な実施形態において、パノラマ撮像システムは、例えば、カプセル(又は挿入型内視鏡)の円筒壁又は管状壁にそれぞれ向く4つのカメラシステムを含んでもよい。当業者に容易に理解されるように、特定の構成で使用されるカメラシステムの実際の数は、図に示されるものとは異なる場合があり、すなわち、2つ、3つ、4つ、又はそれ以上である。通常、単一のカメラシステムであっても、パノラマ画像機能を有すれば、特定の構成においては役立つことができる。
図10(A)及び図10(B)は、例示的なカプセルの片側の断面図を示すが、このようなカプセルは好ましく縦軸の周りに鏡面対称を示すので、4つの(これらの例では)カメラシステムの1つのみが示されている。点光源LEDがカプセルの縦軸上又はその近くに配置され、カメラから縦方向にずれることが示されている。
操作上、前述のように、LEDからの光はマイクロレンズアレイ(MLA)を通過する。一つの例示的な実施形態では、MLAのレンズは、図11に例示的に示されるように、LEDと同心のリング上に中心が置かれる。その図に示されるように、レンズアレイは、開口を備えた不透明マスク層を含むことにより、レンズCAの外側にあるLEDからアレイに入射する光をブロックする。
再び図10(A)及び図10(B)を参照すると、MLAの1つのリング上の1つのレンズのビーム経路が観察され(図10(A))、図10(B)では、同じMLAの別のリング上の別のレンズの別のビーム経路が観察される。図10(A)には、リングの中の1つからのビームは、ミラーM1によって偏向される。好ましくは、前記ミラーM1は、同じMLAリングをすべて通過するビームのセットを反射する環状ミラーである。M1は、必要に応じて、円錐形、球形、非球面形、又は他の形状を好ましくに示し得ることに留意する。
理解されるように、ミラーM1は、光ビームを外にダイレクト(反射)して、カプセルハウジングの管状壁を通過させる。MLAに垂直な光源軸に対して、M1は、構造化光の視野角を180°度以上に拡大する。例えば、FOVは200°、220°、又は240°であってもよい。ミラーM1の反射は、光源の光軸上に、光源よりもカメラの近くにシフトされた仮想光源を効果的に「作成」する。図10(A)においては、光源の光軸はカプセルの縦軸として示されている。
カメラシステムによって撮像された構造化光の画像から奥行き情報を抽出するために、カメラ投影中心(COP)と仮想光源を物理的に分離する必要がある。図10(A)に示されるように、分離は、縦方向よりも横方向の方が大きい。複数のビームがM1によって偏向されてM1が光源に関して対称である場合、仮想光源はSLプロジェクターのCOPに対応することに留意する。
ここで図11を参照すると、アレイの個々のレンズが実質的に同心円に配置されている例示的なマイクロレンズアレイ(MLA)の模式図が示されている。より具体的に言えば、個々のレンズは、5つのほぼ同心の円形リングのいずれか1つに配置されている。この例示的な配置で構成されているように、これらのリングは、さらに4つの異なるセクションに配置され、カプセル内の4つの側面カメラに方位角に整列される(あるいは、少なくとも1つのカメラ/イメージャーが個々のセクションに関連付けられ、1つ以上のイメージャーを含む1つ以上のカメラを有する他の内視鏡又は画像装置/構造)。
レンズCAは、ブラッククロムなどの材料のパターン化された黒色不透明層によって画定されることに留意する。明確な開口は、円形や矩形を含む他の形状も可能であるが、楕円形として示されている。楕円形のレンズの長軸は、ほぼ接平面に位置する。主光線に垂直な平面への開口の投影は短縮される。楕円状の開口は、短縮を補正して、より対称的なビームを生成する。大きな開口は小さな開口よりも多くの光を通過させるため、ビームの相対強度は開口サイズを設定することで制御される。
この点について、図10(A)、図10(B)及び図11に例示的に示される光学システムは、かかるシステム(例えば、カプセルなど)の中心の周りに対称又はほぼ対称であることに留意する。しかしながら、当業者に容易に理解されるように、このような「中心対称性」は必要ではない。例えば、1つ以上の光源は、縦軸の中心から外れるように構成されてもよい。また、及び/又は代わりに、ミラーM1、M2、及びM3は、縦軸の周りに回転対称性を示さず、MLA内のレンズは、円形リング上に存在しなくてもよい。4台のカメラを有するカプセルシステムの場合、好ましくは、各カメラに1つずつ、4つの個別のSLシステムを実装する。この4つのシステムは、好ましく共通の(common)MLA基板を使用できる。
図10(B)の説明に戻り、その図から、MLAのレンズが光源より発光される光の発散を低減し、マスク層(特に図示せず)がレンズCAの外側の光をフィルタリングすることが観察される。表示されている1つのビームは、MLAの1つのリングを通過するすべてのビームを表している。ビームは、ミラーM2によって偏向され、次にミラーM3によって再び偏向される。容易に理解されるように、ミラーM2及びミラーM3は環状ミラーであってもよい。
例示的に構成されているように、カプセル内部のM2の半径方向位置はM1の半径方向位置よりも小さく、ミラー開口は重なっていないため、M1とM2の両方が同じシステムに存在し得る。M3からの反射後、ビームは、カプセルの管状壁を通過し、カメラの視野内の粘膜を照らす。M2及びM3反射の組み合わせにより、ハウジングから出る際のビームの角度が、MLAから出る際のビームの角度と類似する。
しかしながら、観察され得るように、ビームは、変位しており、縦軸の光源よりもカメラから遠い仮想光源(投影の中心)から発するように見える。MLAから直接放射された光は、カメラによって遮られるため、カプセルから出ることができない。仮想光源を、光源よりもカメラから遠ざけることにより、ビームはブロックされずにカメラを通過する。当業者に容易に理解されるように、この同じアプローチを使用して、ビームを他の障害物を回り込ませることができる。通常の操作では、粘膜がカプセルハウジングに接触するため、望ましくは、ミラーを配置して、光ビームがFOV内のハウジングをできるだけ多くカバーするようにダイレクトすることに留意する。
図12は、本開示に従って構成されたカメラで撮像された画像を示す模式図であり、当該画像は、SLが投影された平面を有する画像である。スポットは、SLビームと物体平面との交差によって生成される。各SLビームは、MLAのマイクロレンズによって例示的に生成される。物体がカメラから離れて移動すると、スポットの重心は収束するエピポーラ線上で移動し、そのうちの4つが図に示されている。
例えば、物体が内視鏡に接触している場合は、1つのスポットがポイントAにあり、物体がシステムの有効範囲の端にある場合は、ポイントBにある。各スポットは、それぞれのエピポーラ線(カメラ画像が歪んでいる場合は曲線)上で移動する。シーン内のポイントに関する奥行き情報を抽出するために、システムは、画像内のスポットを識別し、カメラモデルに基づくスポットとエピポーラ線との間の対応を決定する。エピポーラ線が交差して交差点付近でスポットが検出されると、対応が混乱する可能性がある。幸いに、この問題及び他の曖昧なところを解決するための標準的な既知の技術が存在するため、全部またはほとんどのスポットの対応を確立する。
特に、エピポーラ線上の各スポットの位置が決定され、この位置は、画像内のスポット位置での物体の奥行きを確立する。スポットの数が多いほど、決定される奥行きマップの分解能が向上する。スポットのサイズと明るさは、物体の距離の増加につれて減少するため、これらの量は、スポットが投影される物体の距離の決定にも使用できる。個々のスポットとエピポーラ線との間の対応を識別するのではなく、投影された構造化光を含む表面の形状は、投影及び画像化されたパターンの部分(複数のスポットを含む)と、既知の変形されていないパターンの部分との間の相関を決定することにより、表面上の投影からパターン変形のマップを決定して、SLパターン変形を決定するような他の既知の方法で決定できる。
図面には具体的に示されていないが、本開示による内視鏡システムは、通常、内視鏡システムから画像データを受信し、データの処理、画像データの人への表示(又はエキスパートシステムへの「表示」)、インターフェース(例えば、GUI)を介して人/エキスパートシステムからの入力を受け取り、推定物体サイズなどの分析結果を提示し、手順データのデータベース、及び健康診断結果のレポートを生成するための1つ以上のコンピューター(又は同等のシステム/構造/機能)を含むことに留意する。
SLを含む画像は、画像内で視覚化された物体の距離に関する情報を抽出するために、分析される。この分析は、人の読者に提示する前に、多く又はすべてのSL画像に対してバッチモードで好ましく実行でき、あるいは、処理時間を短縮するために、一連の画像に対して操作して関心のある画像を決定するように読者又は機械(例えば、エキスパートシステム/アルゴリズム)によってフラグが付けられた又は識別された選択画像に対して実行できる。例えば、読者又は機械(アルゴリズム)が特定のフレームで起こりうる病変を識別し、そのフレーム及び/又は隣接するフレームの奥行き情報を構造化光画像データから抽出してもよい。
内視鏡画像は、通常、ビデオなどの一連の静止画像として読者に提示されることに留意する。読者は、ビデオを閲覧し、病状又は関心のある他の物体を見つける。そのような物体を含むフレーム(関心のあるフレーム)を選択し、特定の医療処置のために選択したフレームのリスト又はデータベースに格納することができる。
理解されるように、いくつかのフレームは、画像全体内における読者がサイズ測定を望む物体又は領域を含むことができる。そのような測定は、GUIを含む多くのよく知られた計算ツールの中の任意の工具によって、読者の操作により指示される。例えば、読者は、領域の周囲にある点を選択したり、周囲に曲線を描いたり、領域全体に線を引いたりすることができる。
次いで、システムは、例えば、2つの指定されたポイントの間の指示された領域にわたる距離を推定する。画像には構造化光が含まれる場合、画像内の任意の興味のあるの物体/特徴の物体空間内の距離の推定に当該構造化光を使用できる。構造化光から、画像で表示されるシーン又はシーンの一部の3Dモデルを構築できる。SLポイントの密度が画像のピクセル密度よりも著しく低い場合、このようなモデルの質は不十分のおそれがある。
SLスポットの重心の近くにあるピクセルから直接の奥行き情報を得ることができるが、スポットの間にあるピクセルからでは得ることができない。当業者に容易に理解されるように、検出されたエッジ又は陰影奥行きなどの画像内の追加情報を使用して、画像全体の奥行き情報をより良好に推定することができる。好ましくは、SL重心で計算された奥行きから補間することにより、SLスポット間の領域で奥行きを推定できる。物体を画定する2つ以上のポイントの3D座標を推定すると、物体空間におけるそれらのポイントの間のデカルト距離が決定される。
通常、サイズの測定値は読者に表示され、データベースに記録される。関心領域の識別と画定の機能は、人の読者ではなく、機械実行アルゴリズムによって実行されることができ、又は、読者がそのような機械実行アルゴリズムと連携して、そのような領域の識別及び画定を行っても良い。
当業者に容易に理解されるように、構造化光(SL)照明と白色光(WL)照明が同じフレームに存在する場合、システムは通常のWL画像背景内の構造化光を識別しなければならない。散乱されたSLも背景光を生成する可能性があることに留意する。さらに、構造化光スポットはエピポーラ線上に並ぶことが知られていることに留意する。これらの線の配置は、少なくとも部分的にはカメラとプロジェクターのキャリブレーションに基づくカメラモデルから決定される。より具体的に言えば、システムは、予想される形状、サイズ、強度、及び色で構造化光に最も一致する画像の特徴を検出する。特にSLの色が、WL照明の色と十分に異なる場合、色によりSLをWLから区別する便利な方法を提供する。
本開示に従って内視鏡システムから撮像されたビデオ又は他の画像セットをレビューするとき、ビデオ(又は画像)の可視構造化光はレビューアの注目を逸す可能性があることに留意する。したがって、そのようなSLスポットが識別されると、さまざまな方法を利用してそれを画像から除去することができる。
より具体的に言えば、画像からSLピクセル信号の推定値を引くことができる。そのような推定値は、色を含むSLのモデルに基づく場合がある。したがって、SLによって特定のピクセルがカラー平面で飽和している場合、又は減算されるSL信号が大きい場合、そのカラー平面における白色光画像信号は、他のカラー平面における信号に基づいて推定される。
例えば、SLが主に赤色である場合、そのSLスポット周辺の画像の領域における赤色、緑色及び青色のカラー平面の間の統計的相関性に基づいて、SLスポット内のピクセルの緑色及び青色のカラー平面データから、赤色のカラー平面を再構成できる。また、「インペインティング」などの方法を使用して、欠損画像を補完し、連続した画像の外観を構築することもできる。画像からの不完全なSL減算に起因する彩度エラーを排除するために、グレースケール画像として好ましく表示される場合がある。構造化光がIRにあり、構造化光がIRピクセルによって検出される場合、構造化光による障害が最小限となるRGB画像を得ることができる。
画像からSLを減算するために使用される方法は、画像品質にいくらかの残留影響を残す可能性が高いことに留意する。したがって、SLが白色光フレームとは別のフレームで撮像されることが望ましい。理解されるように、SLフレームで決定された奥行き情報を最小限のエラーでWLフレームのシーンに適用できるように、白色光とSLフレームの間の時間差(分離)は十分に短くにして、シーンの変化を十分に小さくしなければならない。
任意のシーン及び変更の影響を軽減するために、レビューア/読者は、2つ以上のWLフレームで物体を画定することができる。次に、2つのWLフレームの間に時間的に配置される(すなわち、インタースティシャル)SLフレームにおける物体の位置とサイズ(ピクセル単位)が、WLフレーム間の補間によって推定される。関心のある物体が複数のフレームに表示される場合、レビューア/読者(又は機械システム/アルゴリズム)は、物体を画定する1つ以上のフレームと、物体の動きの速度の推定に基づく物体サイズを推定するための近位SLフレームを選択でき、動きが最小又は許容できるフレームを選択できる。ビデオ又は一連の画像内の物体の移動量は、動きベクトルの計算などの既知の方法で推定できることに留意する。フレームを選択できるモーションメトリックは、シーン全体の全体的な動きよりも、ビデオ内で測定される特定の物体領域の動きに基づいている場合がある。
好ましくは、レビューア/読者又は画像認識システムアルゴリズム(任意の機械学習方法を使用するものを含む)は、関心のある1つのフレーム内の物体を識別することができる。次に、レビューア(又はシステム)は、パターン認識方法及び/又はアルゴリズムを使用して、隣接するフレームにおける同じ物体を検索する。続いて、物体を含むフレームのセットから、1つ以上のフレームを選択して対象物体の画定に用いることができる。
フレームは、物体の動きの速度、画像境界内の物体の割合、及び露出、モーションブラー、糞便又はその他物質による不明瞭さ、又は気泡もしくは濁りの存在などの要素を含む画像の品質などの複数の基準に基づいて選択できる。アルゴリズムは、特定のフレームを選択することができ、レビューア/読者は、GUI又はその他のメカニズムを使用して入力を行うことにより、それらの特定のフレームの適合性を確認することができる。例示的な実施形態では、選択されたフレームは、フレームを保持又は選択解除するために選択されるチェックボックスを有してもよい。これらのフレーム内の物体の画定は、好ましくは、例えば、レビューア/読者がGUI又はその他のメカニズムを利用して手動で実行でき、あるいはシステムによって自動的に実行されてレビューア/読者によって確認又は微調整されても良い。同じ又は近位のフレーム内のSLの画定と分析に基づくサイズ測定は、画面上でレビューア/読者に提示される。測定は、例えば、エラーバー、信頼区間、又は測定の精度を示す他の指標が含まれるように表現されても良い。
当業者に容易に理解されるように、消化管を自律的に通過するカプセル内視鏡によって撮像されたビデオ又は一連の画像は、カプセルの停止、逆行、又はディザリングにより、冗長な情報を示す画像フレームがある。内視鏡システムは、冗長、つまり、他のフレームと同じ特徴を示すと判断される一部のフレームを表示しなくてもよい。また、シーンの重複画像を撮像する複数のフレームを合成画像にステッチすることができる。理解されるように、このフレーム数の削減により、ビデオのレビューに必要な時間が短縮される。
表示されたフレームの1つに病変などの関心対象が識別された場合、システムは、以前に表示されなかったフレーム又は他のフレームと組み合わされたステッチフレームとなったフレームを含むすべてのフレームが表示されたバージョンのビデオを表示することができる。前述のように、物体を画定しそのサイズを測定する最適なフレームを見つけるプロセスは、この大きなフレームセットに適用できる。上記の基準又はその他の基準に基づいて、物体の境界を定めるのに最適なフレームは、最初に表示されなかったフレームの1つである可能性がある。
サイズ測定のための関心領域は、特に領域が大きい場合、フレーム内で完全に視覚化されない場合があることに留意する。ただし、領域の一部を含む2つ以上のフレームをつなぎ合わせてステッチフレームにして、領域のすべて又は大部分をステッチフレームから取り込むことができる。領域は、ステッチフレームにおいて画定されてもよく、画定点の間のデカルト距離は、ステッチフレーム及び/又はフレーム間の構造化光データに基づいて推定されてもよい。
当業者に理解されるように、カプセル内視鏡は、いくつかの特に独特な撮像条件が示される。したがって、物体が空気又は他のガスではなく流体に浸されている場合、内視鏡カメラ(カプセル又は挿入可能なもの)で撮像された物体の拡大率は大きくなる。ゆえに、構造化光を使用した物体の奥行きの推定の正確さは、浸漬媒体への理解に依存する。
結腸内視鏡検査の期間において、結腸にガスが吹き込まれる。カプセル内視鏡検査の場合、結腸及びその他の臓器には、透明な(無色の)水で満たされることが好ましい。ただし、カプセル内視鏡検査の期間において、大きなポケットのガスを含む気泡が内腔に存在する。ビデオ又は一連の画像では、これらの気泡は、湿った粘膜表面からの明るい照明光の鏡面反射、及び水に浸された粘膜に対する粘膜の色の変化により、認識される。さらに、気泡の境界がカプセルハウジングを横切る場所にはメニスカスが見える。
レビューア/読者又は機械アルゴリズムによってサイズ測定のための物体を識別したとき、物体が液体又は気体に浸されているかどうかを確定できるようにレビューアに対して質問することがある。物体は、一部が液体に位置し、一部が気体に位置する可能性があるため、レビューア/読者は、浸っている気体/液体の比を示すか、カーソルツール(又は他のGUIもしくは他のメカニズム)を使用して気体または液体に位置する領域をマークしてもよい。もちろん、コンピュータで実装された方法/アルゴリズムは、これらの同じ機能を実行できる。
SLの幾何学的モデルは、選択された媒体に基づいて修正される。あるいは、固定の単一の媒体モデルに基づく測定値は、選択された媒体に基づいてアドホック(ad hoc)に測ることができる。例えば、SLモデルが水に浸されていると想定されているものの、測定対象の直径の割合Pが気体内にある場合(例えば、P=0.40)、サイズの推定値はPMによって調整でき、ここで、Mは、液体に対する気体の相対拡大倍率である。最後、Mはフィールド位置と推定物体距離の関数であり、アプリオリカメラモデルとキャリブレーションに基づいてもよい。
この点について、内視鏡の校正は好ましく製造中に実行されてもよいことに留意する。より具体的に言えば、内視鏡カメラに対する既知の位置及び向きで、標的を内視鏡に提示してもよい。いくつかのターゲットには、チェッカーボードなどのパターンが含まれてもよい。記録された画像のパターン内の特徴の位置は、焦点距離、COP、ポーズ、及び歪みを含むカメラのモデルを決定するのに寄与する。他のキャリブレーション画像は、SLを内視鏡から1つ以上のターゲットに照射することにより形成される。これらのキャリブレーション画像は、COP、ポーズ、エピポーラ線、及び色を含むSL投影のモデルを決定するのに寄与する。
カプセル内視鏡の場合、カプセル内視鏡メモリに校正データ並びに任意の画像及び/又は画像から導出されたパラメータを保存することが便利であることに留意する。その後、このデータを任意の生体内データとともにワークステーションにダウンロードして、生体内データを処理し、カメラ及び少なくとも部分的に校正データから導出したSLモデルを使用することにより、生体内画像から奥行き情報を抽出できる。あるいは、カプセル用の校正データは、シリアル番号などのカプセル識別子に関連付けられ、データベースに保存される。カプセルから生体内データと識別子を復元すると、識別子に関連付けられた校正データをデータベースから取得し、生体内データの処理に使用できる。
内視鏡で使用される画像センサーは、ピクセル上のカラーフィルターのモザイクを含むことがよくある。例えば、センサーは、図13に例示的に示されるように、応答性スペクトルを備えた赤色(R)、緑色(G)、及び青色(B)のピクセルを有してもよい。中心波長650nmのSLスペクトルが示されている。SLの帯域幅では、Rピクセルが最大の応答性を有し、順にG、Bである。
操作上では、SLで粘膜を照明するとき、いくつかの光は粘膜の表面から散乱され、いくつかの光は粘膜組織を透過し、吸収とバルク散乱の組み合わせを経過する。バルク散乱光の一部は、入射点から少し離れた粘膜に現れる。したがって、可視SLスポットは、組織内の光の拡散により、粘膜に入射する光よりも空間的に広がる。このような拡大又はブルーミングにより、あるスポットを別のスポットとの区別を困難にするおそれがある。
図14(A)及び図14(B)は、センサー上の位置xの関数として、R、G、及びBピクセルのセンサー輝度信号を示し、図14(A)は、物体が内視鏡に近く、センサーの放射照度が高い場合であり、図14(B)は、物体が遠く、センサーの放射照度が低い場合である。粘膜物体を照射する光のビームは、信号がプラトーになるxの領域としてセンサー上の画像に現れる特定の領域にわたって均一であると想定される。組織のバルク散乱により、センサーの放射照度は、これらのプラトーの端では突然低下することはないが、尾部では広く拡大する。隣接する2つのスポットの尾部は重なり合って表示される。SL光源又は別の光源からの拡散背景照明も信号に寄与し、飽和する方向に押す場合がある。
画像センサーは、限られたダイナミックレンジを有し、特定のセンサーゲインに対して、記録できる最大放射照度に対応する最大輝度、輝度飽和(luma−sat)があることに留意する。輝度飽和は、センサーのアナログ−デジタル変換器(ADC)によって決定される。ADCが10ビットの場合、最大輝度は1023デジタルカウントである。引き続き図14(A)及び図14(B)を参照すると、図14(A)においては、Rピクセルの輝度が輝度飽和を超え、飽和していることに留意する。2つのスポットの間の交叉点は飽和しているため、2つのスポットの画像は1つのスポットに合併され、Rピクセル信号から2つのスポットの位置を正確に決定できない。ただし、G及びB輝度は飽和していないため、これらの信号のいずれか又は両方からスポットの位置を決定できる。
図14(B)の場合では、信号はより弱く、どのピクセルも飽和していない。Rピクセルは、最も好ましい信号対雑音比(SNR)を有する。したがって、スポット位置を決定するために、R信号が優先的に使用される。また、画像は白色光信号(図示せず)を有してもよく、その場合、図14(B)に示されるように、Rチャンネルは、G又はBよりも、白色光画像と区別しやすい。図14(A)に示される場合、飽和したR信号は、WL背景の存在下でSLスポットの存在を識別することに寄与するが、スポット重心は、G及びBチャンネルからより正確に決定される。
モノクロのグレースケールセンサーとは対照的に、異なる色スペクトルに反応するピクセルを備えたセンサーは、少なくとも2つのカラーチャンネルについてのSL光への応答が異なるが非ゼロの場合、SL検出の有効ダイナミックレンジを増加させる。これらのチャンネルは、ダイナミックレンジを拡大した単一のチャンネルとして組み合わせてもよく、又は個別に分析してもよい。示されている例はRGBセンサーであるが、黄色、透明(白色)、マゼンタ色、シアン色、紫色、又はIRなどの他のカラーチャンネルを使用できる。
図15は、体腔内の本開示による例示的なカプセル内視鏡を示す。カプセルは、2つの半球形エンドキャップを備えた管状の中央セクションを備える。管状壁の少なくとも一部は透明である。内視鏡は、4つのカメラで管状壁を通して撮像するパノラマ画像システムを含む。4つの対物レンズは、約90°の間隔で管状壁に面している。この例では4つのカメラと4つの対物レンズを含むが、当業者に理解されるように、所望のFOVが達成できるれば、より多くの数又はより少ない数のそのような素子を使用できる。さらに、図15に示される同じ又は同様の装置あるいはその一部は、図9(A)に示される装置のように、内視鏡挿入チューブの一端に取り付けられ、奥行き測定を含むパノラマ画像を有する挿入型内視鏡を形成できる。
この例示的なシステムでは、撮像システムのFOVは、カプセルの周りを囲むように360°であり、縦軸に対して約45°〜135°である。レンズモジュール内のミラーは、レンズの光軸を折りたたむ。特定の例示的な実施形態において、画像は、4つの別個の領域にピクセルを有し得る共通の画像センサー上に形成される。カプセルには、白色LED又は内腔壁を照らすための他の光源が含まれる。
図15に例示的に示されるように、WL LED1からの2つの光線とWL LED2からの1つの光線が内腔壁を照らす。WL LED1からの1本の光線は、管状壁を通過する前にミラーM2によって反射される。点光源LEDなどのSL光源は、広範囲に光を放射する。光は空間的にフィルタリングされ、MLAによってビームにコリメートされる。
例示的に、MLAは、図11に例示的に示されるような実質的に同心のリングに配列されたマイクロレンズを含む。ミラー構造M1は、様々な傾斜の複数の環状反射面を含む。好ましくは、表面は、円錐形でああってもよく、二次元で湾曲した形状を有してもよい。この例示的な実施形態では、M2は別の環状ミラーである。
図15には、M1の3つの環状表面で反射されるいくつかのビームの主光線がさらに示される。ビームの一部はM1によって反射され、次にM2によって再び反射される。M2の反射面は、WL LED1からのSLビームと白色光照明の両方を反射し、両方をダイレクトしてカプセルハウジングを通して内腔壁を照明する。M1及びM2は、アルミニウムコーティングを施した射出成形プラスチック部品であってもよい。さらに、図15には、いずれのミラーにも当たらず、MLAからカプセルハウジングを直接通過するビームの主光線も示されることに留意する。
図15でさらに観察されるように、ポリープは、周囲の内腔壁とともに白色光で照明されているため、カメラ及びSLによって撮像された画像で視覚化、識別、及び画定することができるので、奥行きマップの画像が生成され、ポリープのサイズが推定される。カプセルの縦軸に対して4つの異なる角度のビームが、カプセルハウジングの外側表面のカメラのFOVをカバーする。パノラマの視野がカバーされるように、180度よりも大きい又は小さいSLビーム角度が生成される。ビームは、カメラの光軸を含むカプセルを横切る平面の上下に移動する。前述のように、カメラの数は、特定のFOVとアプリケーション要件に応じて、4台よりも多い場合もあり、少ない場合もある。ミラーM1は3つの円錐環状面で示されているが、その数も、それよりも多くても少なくてもよい。
本開示の全体で述べたように、追加の光学素子が光路内のMLAの後に位置する内視鏡の構成は、それらの内視鏡に別格の利点をもたらすことができる。図16は、そのような光学素子がMLAの後に配置した例示的な構成を示す模式図である。このような構成の1つの特定の利点は、構造化光がθ1からθ2に投射される角度の範囲を拡大でき、例示的に示されるように、その角度が180度を超えることができる。光源の強度は、θ1以外では大幅に低下する可能性があり、開口の短縮とフレネル損失の増加により、MLAのスループットは、角度の増加につれて低下する。さらに、MLAのコストは光学素子よりも大きくなる可能性があるため、図16の配置は、与えられたレンズ焦点距離と目的のFOVθ2に対して、MLAのサイズを最小化する。パノラマ撮像を有する内視鏡について、一つの構造化光がカメラのパノラマ視野全体をカバーできるように、θ2>180度の光学素子が生成される。
図17は、本開示の一つの態様による方法及びシステムの実施に適した例示的なコンピュータシステム1700を示す。コンピュータシステムは、例えば、任意の数の作業システム又は組み込まれた制御プログラム又は特定用途向け制御プログラムのいずれかを実行するコンピュータを含む。本開示の上述の方法は、記憶されたプログラム制御命令として、コンピュータシステム1700で実施され得る。当業者に容易に理解されるように、特定のコンピュータシステム及びそれに含まれるコンポーネントは、そのうえ/そのなかに実施される本開示の特定の態様に応じて、異なり得る。
コンピュータシステム1700は、プロセッサー1710、メモリ1720、記憶装置1730、及び入出力構造1740を含む。一つ以上の入出力装置は、ディスプレイ1745を含んでもよい。1つ以上のバス1750は、通常、コンポーネント1710、1720、1730、及び1740を相互接続する。プロセッサー1710は、シングルコアでもマルチコアでもよい。
プロセッサー1710は、本開示の実施形態が1つ以上の図に記載された工程を含み得る命令を実行する。そのような命令は、メモリ1720又は記憶装置1730に記憶され得る。1つ以上の入出力装置を使用して、データ及び/又は情報を受信及び出力することが可能である。
メモリ1720は、データを記憶することができ、揮発性又は不揮発性メモリなどのコンピュータ可読媒体であってもよい。記憶装置1730は、例えば、前述の方法を含むシステム1700の記憶に提供されてもよい。様々な態様において、記憶装置1730は、フラッシュメモリデバイス、ディスクドライブ、光ディスクデバイス、又は磁気、光学、又は他の記録技術を採用するテープデバイスであってもよい。
入出力構造1740は、システム1700の入出力操作を提供することができる。これらの構造を利用する入出力デバイスは、他のものも含み、例えば、キーボード、ディスプレイ1745、ポインティングデバイス、及びマイクロホンを含んでもよい。図示されてまた当業者に容易に理解されるように、本開示と共に使用するためのコンピュータシステム1700は、デスクトップコンピュータパッケージ1760、ラップトップコンピュータ1770、携帯型コンピュータ、例えば、タブレットコンピュータ、パーソナルデジタルアシスタント又はスマートフォン1780、又は「クラウド」コンピュータ1790を好ましく含む1つ以上のサーバコンピュータに実装され得る。
この点について、いくつかの具体例を使用して本開示を表示したが、当業者は、我々の教示がそのように限定されないことを理解できるであろう。より具体的には、構造イベントにはより多くの時間情報を埋め込み、より詳細な時間情報、例えば、遷移時間分布を考慮して、マイニングされた構造イベントを豊かにすることを含む、より洗練された構造を検討できるように、この方法をさらに拡張できる。また、ログパターンの間の遷移関係にも注目した。ログには、使用可能な並列実行など、他にも有用な関係がある。これらの関係は、無向エッジ(undirected edges)を使用してワークフローグラフでさらにモデル化できる。また、本開示による方法によれば、システム管理者は、範囲、品質、又は接続性に異なる焦点(パラメーター設定)を持つシステムの動作を双方向に調査できる双方向設定で、より実用性化に達成できると考えている。
したがって、本開示は、添付の特許請求の範囲のみによって制限されるべきである。