JP2015506730A - 複数の眼の画像をプレノプティック多焦点画像に結合する方法 - Google Patents

複数の眼の画像をプレノプティック多焦点画像に結合する方法 Download PDF

Info

Publication number
JP2015506730A
JP2015506730A JP2014546164A JP2014546164A JP2015506730A JP 2015506730 A JP2015506730 A JP 2015506730A JP 2014546164 A JP2014546164 A JP 2014546164A JP 2014546164 A JP2014546164 A JP 2014546164A JP 2015506730 A JP2015506730 A JP 2015506730A
Authority
JP
Japan
Prior art keywords
image
eye
focus
images
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014546164A
Other languages
English (en)
Other versions
JP2015506730A5 (ja
Inventor
バードナー,スティーブン
Original Assignee
バードナー,スティーブン
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by バードナー,スティーブン filed Critical バードナー,スティーブン
Publication of JP2015506730A publication Critical patent/JP2015506730A/ja
Publication of JP2015506730A5 publication Critical patent/JP2015506730A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/12Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for looking at the eye fundus, e.g. ophthalmoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/14Arrangements specially adapted for eye photography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/21Indexing scheme for image data processing or generation, in general involving computational photography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10148Varying focus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Ophthalmology & Optometry (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Eye Examination Apparatus (AREA)
  • Image Processing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Studio Devices (AREA)

Abstract

複数の眼の画像をプレノプティック多焦点画像に結合するための方法であって、複数のフレームを含む眼の画像を、プロセッサ及びメモリシステムを使用して一以上の眼の画像セットに登録し、一以上の画像のセットの中の画像のそれぞれを、プロセッサとメモリシステムに存在する、選択されたリファレンスと整合させ、ノイズや他の撮像アーチファクトを無視して一以上の階調度画像を算出することにより、前記眼の画像の一以上の合焦領域を決定する工程を含む。また、本方法は、一以上の階調度画像から解像度が最高となる一以上の合焦領域を特定し、眼の画像、フレーム、及び一以上の眼の画像セットよりも高い解像度のプレノプティック多焦点画像に結合するために、フレームから対応する一以上の合焦強度を選択するステップを含む。

Description

(優先権の主張)
本願は2011年12月9日に出願された米国仮出願61/568,851の優先権を主張するものであり、その全体の開示が参照により組み込まれる。
本発明は複数の眼の画像を結合する方法に関する。より具体的には、本発明は複数の眼の画像をプレノプティック多焦点画像に結合する方法に関する。
関連技術の記載
眼の撮像(画像化)は、通常、一以上の細隙灯、一以上の検眼鏡、一以上の眼底カメラ、一以上の走査レーザー検眼鏡すなわちSLO、及び通常は単一像を取得する一以上の広視野眼撮像装置によって実施される。動画又は複数の画像が取得される場合でも、多くの場合、それらは特定の焦点面上に位置する。
異なる焦点と位置合わせ(アライメント、alignment)で網膜像が撮影されるとき、多くの場合、観察者の意識の中にある焦点領域の合成画像(composite)の結合は、複数画像を見る観察者に依存する。これらの装置のいくつかは焦点を制御することができるが、網膜又は他の眼球領域の厚み全体において、焦点が合った画像を得ることは困難である。さらに、対象となる領域に焦点が合わない事象を引き起こす可能性のある、眼の撮像装置による光学収差が存在する。患者の眼球のための眼の撮像装置の位置合わせは、画像領域の全体的な明瞭さに影響する可能性がある。
本発明は複数の眼の画像を結合する方法に関する。より具体的には、本発明は複数の眼の画像をプレノプティック多焦点画像に結合する方法に関する。
本発明は様々な異なる動作中のモダリティ(医療用画像の撮像手段)において利用され、そして一以上の細隙灯搭載カメラ、一以上の細隙灯一体型カメラ、一以上の眼底カメラ、一以上の超広視野走査(ultra−wide field scanning)装置たとえばOPTOS(登録商標)広視野装置、一以上の携帯型網膜撮像装置(hand−held retinal imaging device)、一以上の直像検眼鏡、一以上の倒像検眼鏡、一以上の走査レーザー検眼鏡もしくは一以上の一般的な顕微鏡(generic microscope)、個別の顎当て−操作レバーアセンブリ(chinrest−joystic assembly)に取り付けられた一以上の内視鏡プローブ又は光学ヘッド(眼底カメラと類似するもの)を含む、様々な異なる装置の組み合わせにおいて活用されることができる。これらのモダリティ及び装置により、一以上の画像データのセットの登録及びその後の画像処理において、それぞれの画像データのセットから、高周波で焦点の合った、且つ良好に露光された領域(region)を得ることができる。この領域は、単一像又はプレノプティック多焦点画像、もしくは、ユーザが焦点の合っている検分されるべき選択領域にステップスルー(step through)ことを可能とする動画に結合される。一以上の画像データのセットはコンピュータ上の画像処理アルゴリズムを用いて登録される。登録する総量を決定するための一以上の制御ポイントは人の見解により手動で設定するか、アルゴリズムにより自動計算することができる。
本発明は以下の画像処理ステップを利用する。第一に、選択されたリファレンス(基準、reference)に対して一以上の画像データのセットの中の各画像を整合させる。この全体的な方法は、変換(translation)、回転、視点変更(perspective change)、フレーム内歪み(intra−frame warping)を補正する。第二に、ノイズや他の一以上の撮像アーチファクトは無視して、複数の階調度(gradient、勾配)情報を計算することにより、各フレームの一以上の合焦領域(焦点の合っている領域)を決定する。第三に、階調度の情報から、最高値を有する一以上の合焦領域を特定する。第四に、多焦点画像に結合するために、対応する複数の合焦強度(in−focus intensity、合焦の明暗度)をフレームから選択する。例えば、画像の各エリアのもっとも焦点の合ったポイントを取り込む、又は信号対ノイズの割合を改善するために多数の合焦領域(multiple in−focus region)を平均化するなど、画像は多くの方法で結合することが可能である。
本発明は、網膜または他の眼球領域の多数の焦点領域の可視化から構成されない従来の眼の撮像方法とは異なる。本発明は、多重高品質焦点プレノプティック多焦点画像及び動画を作成するために、画像解析と画像処理とを組み合わせて画像の登録を創り出すことにより、この課題を解決している。これらの多重画像を創り出すことで、全体的な解像度及び画像品質は大幅に改善される。本発明はまた、慎重な焦点制御の有無にかかわらず活用することが可能である。
本発明の目的は、眼底のカラー撮像、前眼部撮像、角膜及び水晶体の撮像、蛍光眼底血管造影、インドシアニングリーンすなわちICG血管造影、クルクミン蛍光の撮像、自己蛍光、ディスクリート(discreet)波長の撮像、無赤色撮像、ハイパースペクトル及びマルチスペクトル撮像、光コヒーレンストモグラフィーを含むがそれに限定されない、一以上の眼の画像用モダリティを組み合わせて活用することが可能であるプレノプティック多焦点画像に、複数の眼の画像を結合するための方法を提供することである。
本発明の別の目的は、従来の写真による眼球画像よりも改良された解像度と焦点、及び向上した画像品質を有するプレノプティック多焦点画像に、複数の眼の画像を組み合わせるための方法を提供することである。
本発明は、例示的な実施形態を用いて記述されるが、それに限定されない。類似する参照(リファレンス)は同様の要素を意味する。
図1は、本発明の一つの実施形態に従った、眼球の写真画像である。 図2は、本発明の一つの実施形態に従った、プレノプティック多焦点画像を形成するように結合された複数の眼の画像の写真画像である。 図3は、本発明の一つの実施形態に従った、複数の眼の画像をプレノプティック多焦点画像に結合するための、第1の方法のフロー図である。 図4は、本発明の一つの実施形態に従った、複数の眼の画像をプレノプティック多焦点画像に結合するための、第2の方法のフロー図である。
例示的な形態の詳細な説明
図示される実施形態の様々な特徴は、本質を当業者に伝えるために、当業者が一般的に使用する用語を使用して記述されている。しかし、当業者にとって、本発明が、記述された特徴のいくつかを使用するだけで実行可能であることは明白である。説明を目的として、図示される実施形態のすべてが理解できるように、具体的な数字、物質及び構造が記述されている。しかし、当業者にとって、本発明が、具体的な詳細がなくとも実行可能であることは明白である。別の例では、図示される実施形態を曖昧にしないために、既知の特徴は省略又は簡略化されている。
複数の個別の実施内容として、様々な操作が、本発明を最も理解できる形で順に記述される。しかし、必然的にこの順序に左右されるという意味で解釈されるべきではない。つまり、記載されている順番どおりに実施される必要はない。
「一つの実施形態では」という表現が繰り返し使用される。この表現は通常、同一の実施形態を言い表すものではないが、その可能性はある。「〜を備える」、「〜を有する」、「〜を含む」といった用語は、それ以外の状態が指示されていない限り、同義語である。
図1は、本発明の一つの実施形態に従った、写真による眼球画像100を示している。
写真による眼球画像100は、一以上の細隙灯搭載カメラ、一以上の細隙灯一体型カメラ、一以上の光コヒーレンストモグラフィーすなわちOCT、特定の波長での光学撮像、マルチスペクトル撮像、ハイパースペクトル撮像、自己蛍光撮像、共焦点網膜撮像、走査レーザー検眼鏡、一以上の補償光学装置、一以上の配向分極固有装置(polarization orientation specific devices)、一以上の眼底カメラ、一以上の携帯型撮像装置(imagers)、一以上の直像検眼鏡、一以上の倒像検眼鏡、蛍光眼底血管造影、ICG血管造影、クルクミン蛍光撮像、自己蛍光及び他の従来の適切な眼の撮像用モダリティ及び装置のような、一以上の従来の眼の撮像用モダリティ及び装置によって作成される。図1の作成された写真による眼球画像100は眼底の自己蛍光画像だが、任意の、細隙灯搭載カメラ、一以上の細隙灯一体型カメラ、一以上の光コヒーレンストモグラフィーすなわちOCT、特定の波長での光学撮像、マルチスペクトル撮像、ハイパースペクトル撮像、自己蛍光撮像、共焦点網膜撮像、走査レーザー検眼鏡、一以上の補償光学装置、一以上の配向分極固有装置、一以上の眼底カメラ、一以上の携帯型撮像装置、一以上の直像検眼鏡、一以上の倒像検眼鏡、蛍光眼底血管造影、ICG血管造影、クルクミン蛍光撮像、又は自己蛍光のような、一以上の従来の眼の撮像用モダリティ又は装置で作成された写真による眼球画像でもよい。画像はコンピュータによって自動的に整合される。この動作は各フレームを取り出して、各フレームをリファレンス(基準)と比較することによって達成される。最初に、全体的な、変換、回転、および視点変更が訂正される。訂正の総量が、特徴検出又は相互相関を利用することによって、様々な共通する特徴の間での変化量(shift)を特定することにより、決定される。その後、画像は小さなサブ領域へと細分化され、対応するサブ領域の間で変化量が決定される。各サブ領域の変化量は、最終的な結果画像の特徴がリファレンス画像(参照用画像)と整合するように、連続的に画像の各部分を変形させる(warp)ために使用される。整合された画像は、その後の他のフレームと継続して使用することを目的として、より正確なリファレンスを作成するために、リファレンス画像と組み合わせられる。信号対ノイズ比すなわちSNRを改善するために、眼の画像は、多数の合焦領域を平均化することにより結合される。SNRの単位はdB(デシベル)とし、20×log10(画像標準偏差/ノイズ標準偏差)で定義される。図1に図示される写真による眼球画像100はおよそ10デシベルのSNRである。
図2は、本発明の一つの実施形態に従った、プレノプティック多焦点画像220を形成する複数の眼の画像210の写真画像200を例示する。
図2に図示及び記述される、プレノプティック多焦点画像220のなかの眼の画像210の写真画像200及びその記述は、図1に図示及び記述される、写真の眼球画像100と類似している。図1に図示及び記述されている、写真の眼球画像100及びとその記述とは対照的に、図2に図示及び記述される、プレノプティック多焦点画像220の中の眼の画像210の写真画像200及びその記述は、複数の眼の画像をプレノプティック多焦点画像に結合させる方法により作成されている(図3及び図4、工程300及び400)。複数の眼の画像をプレノプティック多焦点画像に結合する方法(図3及び図4、工程300及び400)は、図1とその説明に図示及び記述される写真の眼球画像100と比べて、相対的により高い解像度、相対的に良好な焦点、相対的に良好な画像品質を有するプレノプティック多焦点画像220を創り出す。複数の眼の画像をプレノプティック多焦点画像に結合する方法の追加的な詳細は、図3、図4とその説明に図示及び記述される。図2に図示される眼の写真画像200は、SNRがおよそ42デシベルで、15フレームの、整合(整列)され、平均化され、及び拡大された画像である。
本発明の別の実施形態において、複数の眼の画像をプレノプティック多焦点画像に結合する方法は、眼の解剖学的構造(anatomy)に関する眼の画像化の情報管理(imaging eye documentation)及び/又は眼の病理の検出に使用されることができる。複数の眼の画像をプレノプティック多焦点画像に結合する方法は、OCTで見られるような、眼の前方眼部、後方眼部、サブ構造(下位構造)の画像化に活用されることができる。複数の眼の画像をプレノプティック多焦点画像に結合する方法の一つの特徴は、画像の自動登録と、その後に、(例えば、周波数領域フィルター又はウイナーフィルターを使用して)焦点が合い、均等に照光された領域を特定し、高周波の画像情報を取得し、さらに処理された画像を単一画像に再結合するための画像処理である。また、アルゴリズムは、焦点が合わず、別の光学収差を含み、及び/又は十分に照光されていない画像エリアを除去することができる。充分焦点の合った領域は、算出された階調度の最大値(largest calculated gradient magnitude、計算された最大勾配値)を有する領域から特定される。均等に照光された領域は、画像の平滑化(over−smoothing、過剰平滑化)と、平均の明暗値と全体的な画像の明暗値との比較により決定される。平均値を顕著に下回る領域は十分に照光されていないとみなされ、分析から除外されなければならない。高周波の画像情報は、一以上の低周波の画像成分を除去し、一以上のランダムノイズのばらつきを平滑化及び抑制をすることにより算出される。マルチスケール階調度計算法(multi−scale gradient calculation,多重縮尺勾配計算法)は、高周波数画像情報を得る一つの方法である。高周波画像情報は、画像の焦点が合った場合の一つの指標である。十分に焦点が合っていない画像又は領域は、焦点が合ったフレームと比較して、低い階調度(勾配)の値となる。これらの部分は分析から除外される。
本発明の別の実施形態では、複数の眼の画像をプレノプティック多焦点画像に結合する方法は、具体的には、焦点、及び/又はユーザに焦点の変更を要求したりしなかったりする既存の装置を段階的に実行(step、ステップ)する新しい眼の撮像装置にも適用することができる。また、複数の眼の画像をプレノプティック多焦点画像に結合する方法は、画像セットを作成するために、装置の焦点を意図的にステップすることにより適用されてもよい。
本発明の別の実施形態では、複数の眼の画像をプレノプティック多焦点画像に結合する方法は、一以上の細隙灯搭載カメラ、一以上の細隙灯一体型カメラ、OCT、特定の波長での光学撮像、マルチスペクトル撮像、ハイパースペクトル撮像、自己蛍光撮像、共焦点網膜撮像、走査レーザー検眼鏡、補償光学装置、配向分極固有装置、一以上の眼底カメラ、一以上の携帯型撮像装置、一以上の直像検眼鏡、一以上の倒像検眼鏡、蛍光眼底血管造影、ICG血管造影、クルクミン蛍光撮像、自己蛍光及び他の従来の適切な眼の撮像用のモダリティ及び装置のような、眼の撮像用モダリティ及び装置を含むがそれに限定されない、様々な眼の撮像用モダリティ(単独又は組み合わせで)を使用する。画像データのセットは、ランダム焦点(random focus)又は計画的焦点(deliberate focus)のいずれかと、露光制御によって取得される。画像データのセットはサブ画素の精度で自動的に登録される。画像処理は、データセットが明瞭で且つ十分に露光された部分を特定し、撮像の質を劣化させる比較的不明瞭および/又は暗いデータセット、ならびに他の収差を除去するために、データセット上で実施される。良好な、又は適した画像データは、プレノプティックの単一画像、又は複数の深度で焦点の合った単一画像に再結合され、且つ/又はユーザが焦点の階層(focus stack、焦点スタック)にステップスルーするか、又はユーザが見ることを所望する、焦点の合った領域を選択することを可能にする動画ファイルが作成される。「選択された領域をステップスルーする」という用語は、関心のある焦点位置を変更する、と定義される。選択された領域をステップスルーするという表現は、動画のフレームをスクロールすることと類義である。焦点の階層のステップスルーは、各フレーム間で焦点が変更されている、連続するフレームの集合体から、閲覧される画像を変更することを含む。多焦点の画像の配列(sequence)は、集合された各フレームの間で焦点を変更することによって形成される。そして、各画像は被写体の光学的スライス(optical−slice)となる。
本発明の別の実施形態では、一つの場面(scene、シーン)の光空間(light−field)を収集するために、マイクロレンズアレイが使用されてもよい。このことにより焦点を取得後に変更でき、ゆえに多焦点の階層が算出される。画像は、一以上の高密度カメラセンサ(例えば、一以上のCCD又はCMOSセンサ)、又は一以上のポイントスキャン装置とラインスキャン装置(point and line scanning devices)を使用して収集される。結果としての画像の階層は、マイクロレンズアレイを使用した場合、ソース画像と比較すると低解像度となる。複数の像平面は、試料の中の対応する焦点面からの、焦点の合った構造を含む。周囲の構造からの焦点があっていない情報は、収集された画像の品質を落とす。本発明の一つの実施形態において、複数の眼の画像をプレノプティック多焦点画像に結合する方法は、既存の眼の撮像装置から得られた画像データのセットを作成する。
本発明の別の実施形態では、複数の眼の画像をプレノプティック多焦点画像に結合する方法は、新規な眼の撮像装置から得られた複数の画像データのセットを作成し、この新規な眼の撮像装置は、具体的には、複数の像平面からの情報を含むセンサに設置されるステッピングフォーカス(stepping focus)マイクロレンズ又はマルチエレメントマイクロレンズ(multi−element microlens)のいずれかを介して様々な深度で焦点の合った画像を創り出すように設計される。
本発明の別の実施形態では、複数の眼の画像をプレノプティック多焦点画像に結合する方法は、一以上の相対的に明瞭で広範囲なOCTデータのセットを得るために、一以上のOCTデータに適用される。
図3は、本発明の一つの実施形態に従った、複数の眼の画像をプレノプティック多焦点画像に結合するための、第1の方法300のフロー図である。
複数の眼の画像をプレノプティック多焦点画像に結合するための第1の方法300は、複数のフレームを含む眼の画像を、プロセッサ及びメモリシステムを使用して一以上の眼の画像セットに登録するステップ310と、一以上の眼の画像セットの中の画像のそれぞれを、プロセッサを伴うメモリシステムに存在する、選択されたリファレンスに整合させるステップ320と、ノイズや他の撮像アーチファクトを無視して一以上の階調度画像(画像勾配)を算出することにより、眼の画像の一以上の合焦領域を決定するステップ330と、一以上の階調度画像から最高の解像度を有する一以上の合焦領域を特定するステップ340と、眼の画像、フレーム、及び一以上の眼の画像セットよりも高い解像度のプレノプティック多焦点画像に結合するために、フレームから一以上の対応する合焦強度を選択するステップ350を含む。
登録するステップ310は制御ポイントの既定の数によって制御される。制御ポイントの既定の数はユーザの見解によって手動で設定されるか、あるいはプロセッサによって自動的に算出される。プロセッサは、制御ポイントの既定の数を自動的に算出するための画像処理アルゴリズムを使用する。眼の画像、フレーム、画像セット及び制御ポイントの既定の数はメモリシステムに存在する。整合させるステップ320は、眼の画像が一以上の高密度カメラセンサを使用して収集されることを含む。一以上の高密度カメラセンサは一以上の電荷結合画像センサ(CCDセンサ)であるか、又は、一以上の高密度カメラセンサは一以上の相補型金属酸化膜半導体センサ(CMOSセンサ)であるか、又は一以上のポイントスキャン装置とラインスキャン装置である。決定するステップ330は、各眼の画像から一以上の最も解像度の高い合焦しているポイントを取り込むことにより、眼の画像が結合されることを含む。特定するステップ340は、各眼の画像のもっとも焦点の合っているポイントを取り込むことにより、眼の画像が結合されることを含む。眼の画像は信号対ノイズ比すなわちSNRを改善するために多数の合焦領域を平均化することによって結合される。プレノプティック多焦点画像は、一以上の細隙灯搭載カメラ、一以上の細隙灯一体型カメラ、光コヒーレンストモグラフィー、特定の波長での光学撮像、マルチスペクトル撮像、ハイパースペクトル撮像、自己蛍光撮像、共焦点網膜撮像、走査レーザー検眼鏡、一以上の補償光学装置、一以上の配向分極固有装置、一以上の眼底カメラ、一以上の携帯型撮像装置、一以上の直像検眼鏡、一以上の倒像検眼鏡、蛍光眼底血管造影、ICG血管造影、クルクミン蛍光撮像、自己蛍光の群から選択される、一以上の従来型の眼の撮像用モダリティ又は装置によって作成される。
選択するステップ350は、処理された画像をプレノプティック多焦点画像に再結合するために、焦点の合った、均等に照光された一以上の合焦領域を特定し、高周波画像情報を得る。複数の眼の画像は、複数の個別に最適化されたフレームから成る、より大きな合成画像であってもよい。高周波画像情報は、一以上の低周波の画像成分の除去、及び一以上のランダムなノイズのばらつきの平滑化と抑制により算出される。一以上の眼の画像セットを作成するために、方法300はステッピングフォーカスによって適用される。また、方法300はステッピングフォーカスによって様々な深度で焦点の合った画像を創出する。
図4は本発明の一つの実施形態に従った、複数の眼の画像をプレノプティック多焦点画像に結合するための、第二の方法400のフロー図である。
第2の方法400は、複数のフレームを含む複数の眼の画像を、一以上の眼の画像セットにプロセッサとメモリシステムを使用して登録する。この登録は制御ポイントの既定の数によって制御され、眼の画像は一以上の高密度カメラセンサを使用して収集され、それぞれの眼の画像の一以上の均等に照光された領域から最高の解像度を有する一以上の合焦しているポイントを取り込むことによって眼の画像が結合されるステップ410と、一以上の画像セットのなかの眼の画像のそれぞれを、プロセッサ伴うメモリシステムに存在する、選択されたリファレンスに整合させるステップ420と、ノイズや他の撮像アーチファクトを無視して一以上の階調度画像を算出することにより、眼の画像の一以上の合焦領域を決定し、焦点が合い、均等に照光され、且つ高周波の画像情報が得られている一以上の合焦領域について、処理された画像を、プレノプティック多焦点画像へと再結合するステップ430と、一以上の階調度画像から最高の解像度を有する一以上の合焦領域を特定するステップ440と、眼の画像、フレーム、及び一以上の眼の画像セットよりも高い解像度のプレノプティック多焦点画像に結合するために、フレームから一以上の対応する合焦強度を選択するステップ450を含む。
図4及びその説明に図示及び記載されたプレノプティック多焦点画像に結合するための第2の方法400は、図3及びその説明に図示及び記載された複数の眼の画像をプレノプティック多焦点画像に結合するための、第1の方法300と類似している。その一方で、プレノプティック多焦点画像に結合するための第2の方法400は、一以上の高密度カメラセンサ、又は一以上のポイントスキャン装置とラインスキャン装置を含んでいる。さらに、一以上の合焦領域は、焦点が合い、且つ均等に照光されており、周波数領域フィルター又はウイナーフィルターを使用して高周波画像情報を取得しており、処理された画像を一以上の画像に再結合する。
本発明は先述の実施形態と関連しているものの、当業者は本発明が記載された実施形態に限定されないことを認識すると思われる。本発明は、添付の請求項の思想及び範囲内で、修正や変更を伴って実行されることが可能である。従って、記述は本発明を限定するものではなく、例示としてみなされる。

Claims (29)

  1. 複数の眼の画像をプレノプティック多焦点画像に結合するための方法であって、
    複数のフレームを含む眼の画像を、プロセッサ及びメモリシステムを使用して一以上の眼の画像セットに登録し、
    前記一以上の画像セットの中の眼の画像のそれぞれを、前記プロセッサを伴う前記メモリシステムに存在する、選択されたリファレンスに整合させ、
    ノイズや他の撮像アーチファクトを無視して一以上の階調度画像を算出することにより、前記眼の画像の一以上の合焦領域を決定し、
    前記一以上の階調度画像から最高の解像度を有する一以上の合焦領域を特定し、
    前記眼の画像、前記フレーム、及び前記一以上の眼の画像セットよりも高い解像度のプレノプティック多焦点画像に結合するために、前記フレームから対応する一以上の合焦強度を選択することを含む方法。
  2. 登録のステップが、制御ポイントの既定の数によって制御されることを特徴とする請求項1に記載の方法。
  3. 前記制御ポイントの既定の数が、ユーザの見解によって手動で設定されることを特徴とする請求項2に記載の方法。
  4. 前記制御ポイントの既定の数が、前記プロセッサによって自動的に算出されることを特徴とする請求項2に記載の方法。
  5. 前記眼の画像、前記フレーム、前記制御ポイントの既定の数、及び前記画像セットが、前記メモリシステムに存在することを特徴とする請求項1に記載の方法。
  6. 前記眼の画像が、一以上の高密度カメラセンサを使用して収集されることを特徴とする請求項1に記載の方法。
  7. 前記一以上の高密度カメラセンサが、一以上の電荷結合画像センサであることを特徴とする請求項6に記載の方法。
  8. 前記一以上の高密度カメラセンサが、一以上の相補型金属酸化膜半導体センサであることを特徴とする請求項6に記載の方法。
  9. 前記それぞれの眼の画像の、均等に照光された一以上の領域から一以上の高解像度の合焦しているポイントを取り込むことにより、前記眼の画像が結合されることを含むことを特徴とする請求項1に記載の方法。
  10. 信号対ノイズ比を改善するために、前記眼の画像が、多数の前記合焦領域を平均化することにより結合されることを特徴とする請求項1に記載の方法。
  11. 前記プレノプティック多焦点画像が、一以上の細隙灯搭載カメラ、一以上の細隙灯一体型カメラ、光コヒーレンストモグラフィー、特定の波長での光学撮像、マルチスペクトル撮像、ハイパースペクトル撮像、自己蛍光撮像、共焦点網膜撮像、走査レーザー検眼鏡、一以上の補償光学装置、一以上の配向分極固有装置、一以上の眼底カメラ、一以上の携帯型撮像装置、一以上の直像検眼鏡、一以上の倒像検眼鏡、蛍光眼底血管造影、ICG血管造影、クルクミン蛍光撮像、自己蛍光からなる群から選択される、一以上の従来型の眼の撮像用モダリティ又は装置によって作成されることを特徴とする請求項1に記載の方法。
  12. 前記一以上の眼の画像セットを作成するために、前記方法がステッピングフォーカスに適用されることを特徴とする請求項1に記載の方法。
  13. 前記方法がステッピングフォーカスによって様々な深度で焦点の合った画像を創出することを特徴とする請求項12に記載の方法。
  14. 処理された前記画像を前記プレノプティック多焦点画像に再結合するために、焦点が合い、均等に照光された前記一以上の合焦領域を特定し、高周波画像情報を取得することを特徴とする請求項1に記載の方法。
  15. 前記高周波画像情報が、一以上の低周波の画像成分を除去し、且つ一以上のランダムノイズのばらつきを平滑化及び抑制することにより算出されることを特徴とする請求項14に記載の方法。
  16. 複数の眼の画像をプレノプティック多焦点画像に結合する方法であって、
    複数のフレームを含む複数の眼の画像を、一以上の眼の画像セットにプロセッサとメモリシステムによって登録し、当該登録は制御ポイントの既定の数によって制御され、前記眼の画像は一以上の高密度カメラセンサを使用して収集され、前記眼の画像は前記それぞれの眼の画像の一以上の均等に照光された領域から最高の解像度を有する一以上の合焦しているポイントを取り込むことによって結合され、
    前記一以上の画像セットの中の眼の画像のそれぞれを、前記プロセッサを伴う前記メモリシステムに存在する選択されたリファレンスと整合させ、
    ノイズや他の撮像アーチファクトを無視して一以上の階調度画像を算出することにより、前記眼の画像の一以上の合焦領域を決定し、焦点が合い、均等に照光され、且つ高周波画像情報を取得する前記一以上の合焦領域は、処理された前記画像を前記プレノプティック多焦点画像に再結合し、
    前記一以上の階調画像から最高の解像度を有する前記一以上の合焦領域を特定し、
    前記眼の画像、前記フレーム、及び前記一以上の眼の画像セットよりも高い解像度のプレノプティック多焦点画像に結合するために、前記フレームから一以上の対応する合焦強度を選択することを含む方法。
  17. 前記制御ポイントの既定の数が、ユーザの見解によって手動で設定されることを特徴とする請求項16に記載の方法。
  18. 前記制御ポイントの既定の数が、前記プロセッサによって自動的に算出されることを特徴とする請求項16に記載の方法。
  19. 前記眼の画像、前記フレーム、前記制御ポイントの既定の数、及び前記画像セットが、前記メモリシステムに存在することを特徴とする請求項16に記載の方法。
  20. 前記一以上の高密度カメラセンサが、一以上の電荷結合画像センサであることを特徴とする請求項16に記載の方法。
  21. 前記一以上の高密度カメラセンサが、一以上の相補型金属酸化膜半導体センサであることを特徴とする請求項16に記載の方法。
  22. 前記眼の画像が、一以上のポイントスキャン装置とラインスキャン装置とを使用して収集されることを特徴とする請求項16に記載の方法。
  23. 信号対ノイズ比を改善するために、前記眼の画像が、前記複数の合焦領域を平均化することにより結合されることを特徴とする請求項16に記載の方法。
  24. 前記一以上の合焦領域は、焦点が合い、均等に照光されており、周波数領域フィルターを使用して高周波画像情報を取得しており、処理された前記画像を一以上の画像に再結合することを特徴とする請求項16に記載の方法。
  25. 前記一以上の合焦領域は、焦点が合い、均等に照光されており、ウイナーフィルターを使用して高周波画像情報を取得し、さらに処理された前記画像を前記一以上の画像に再結合することを特徴とする請求項16に記載の方法。
  26. 前記プレノプティック多焦点画像は、一以上の細隙灯搭載カメラ、一以上の細隙灯一体型カメラ、光コヒーレンストモグラフィー、特定の波長での光学撮像、マルチスペクトル撮像、ハイパースペクトル撮像、自己蛍光撮像、共焦点網膜撮像、走査レーザー検眼鏡、一以上の補償光学装置、一以上の配向分極固有装置、一以上の眼底カメラ、一以上の携帯型撮像装置、一以上の直像検眼鏡、一以上の倒像検眼鏡、蛍光眼底血管造影、ICG血管造影、クルクミン蛍光撮像、自己蛍光の群から選択される、一以上の従来型の眼の撮像用モダリティ又は装置によって作成されることを特徴とする請求項16に記載の方法。
  27. 前記一以上の眼の画像セットを作成するために、前記方法がステッピングフォーカスに適用されることを特徴とする請求項16に記載の方法。
  28. 前記方法がステッピングフォーカスによって様々な深度で焦点の合った画像を創出することを特徴とする請求項27に記載の方法。
  29. 前記高周波画像情報は一以上の低周波の画像成分を除去し、且つ一以上のランダムノイズのばらつきを平滑化及び抑制することにより算出されることを特徴とする請求項16に記載の方法。
JP2014546164A 2011-12-09 2012-12-08 複数の眼の画像をプレノプティック多焦点画像に結合する方法 Pending JP2015506730A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201161568851P 2011-12-09 2011-12-09
US61/568,851 2011-12-09
PCT/US2012/068646 WO2013086473A1 (en) 2011-12-09 2012-12-08 Method for combining a plurality of eye images into a plenoptic multifocal image

Publications (2)

Publication Number Publication Date
JP2015506730A true JP2015506730A (ja) 2015-03-05
JP2015506730A5 JP2015506730A5 (ja) 2018-02-22

Family

ID=48574968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014546164A Pending JP2015506730A (ja) 2011-12-09 2012-12-08 複数の眼の画像をプレノプティック多焦点画像に結合する方法

Country Status (13)

Country Link
US (1) US8814362B2 (ja)
EP (1) EP2787877B1 (ja)
JP (1) JP2015506730A (ja)
KR (1) KR20140105816A (ja)
CN (1) CN104203081B (ja)
AU (1) AU2012347482B2 (ja)
BR (1) BR112014013737B1 (ja)
CA (1) CA2858198C (ja)
DK (1) DK2787877T3 (ja)
ES (1) ES2917892T3 (ja)
IL (1) IL232982B (ja)
MX (1) MX337930B (ja)
WO (1) WO2013086473A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020122672A1 (ko) * 2018-12-13 2020-06-18 서울대학교병원 안저 영상과 형광안저혈관조영 영상의 정합을 이용한 자동 혈관 분할 장치 및 방법

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5822485B2 (ja) * 2011-02-25 2015-11-24 キヤノン株式会社 画像処理装置、画像処理方法、画像処理システム、slo装置、およびプログラム
WO2013007612A1 (en) 2011-07-08 2013-01-17 Carl Zeiss Meditec Ag Light field camera for fundus photography
EP3922270A1 (en) 2011-12-09 2021-12-15 Regents of the University of Minnesota Hyperspectral imaging for early detection of alzheimer's disease
US9016862B2 (en) * 2012-05-10 2015-04-28 Sonomed Ip Holdings, Inc. Multimodality correlation of optical coherence tomography using secondary reference images
US9456746B2 (en) 2013-03-15 2016-10-04 Carl Zeiss Meditec, Inc. Systems and methods for broad line fundus imaging
US9215977B2 (en) * 2013-03-25 2015-12-22 David KOHN BITRAN Portable device for indirect ophthalmology
US9237847B2 (en) 2014-02-11 2016-01-19 Welch Allyn, Inc. Ophthalmoscope device
US9211064B2 (en) 2014-02-11 2015-12-15 Welch Allyn, Inc. Fundus imaging system
WO2015162098A1 (en) 2014-04-24 2015-10-29 Carl Zeiss Meditec, Inc. Functional vision testing using light field displays
WO2016033590A1 (en) 2014-08-31 2016-03-03 Berestka John Systems and methods for analyzing the eye
CN104287692B (zh) * 2014-11-06 2017-12-19 苏州微清医疗器械有限公司 一种眼底照相装置
US10582852B2 (en) 2015-02-05 2020-03-10 Carl Zeiss Meditec Ag Method and apparatus for reducing scattered light in broad-line fundus imaging
US10799115B2 (en) 2015-02-27 2020-10-13 Welch Allyn, Inc. Through focus retinal image capturing
US11045088B2 (en) 2015-02-27 2021-06-29 Welch Allyn, Inc. Through focus retinal image capturing
US9967535B2 (en) * 2015-04-17 2018-05-08 Light Labs Inc. Methods and apparatus for reducing noise in images
US10136804B2 (en) 2015-07-24 2018-11-27 Welch Allyn, Inc. Automatic fundus image capture system
US10506165B2 (en) 2015-10-29 2019-12-10 Welch Allyn, Inc. Concussion screening system
US10772495B2 (en) 2015-11-02 2020-09-15 Welch Allyn, Inc. Retinal image capturing
US10003738B2 (en) 2015-12-18 2018-06-19 Light Labs Inc. Methods and apparatus for detecting and/or indicating a blocked sensor or camera module
US10413179B2 (en) 2016-01-07 2019-09-17 Welch Allyn, Inc. Infrared fundus imaging system
CN113520301A (zh) 2016-03-10 2021-10-22 明尼苏达大学董事会 空间-光谱成像方法和视网膜成像设备
US10602926B2 (en) 2016-09-29 2020-03-31 Welch Allyn, Inc. Through focus retinal image capturing
US10285589B2 (en) 2016-09-30 2019-05-14 Welch Allyn, Inc. Fundus image capture system
EP3525659A4 (en) * 2016-10-13 2020-06-17 Translatum Medicus, Inc. SYSTEMS AND METHODS FOR DETECTING EYE DISEASES
JP7404253B2 (ja) 2017-11-27 2023-12-25 レティスペック インコーポレイテッド アルツハイマー病の病状のためのハイパースペクトル画像誘導ラマン眼球撮像装置
US11096574B2 (en) 2018-05-24 2021-08-24 Welch Allyn, Inc. Retinal image capturing
US20220198630A1 (en) * 2019-04-19 2022-06-23 Nidek Co. Ltd. Method of and apparatus for creating an all-in-focus image of a portion of an iridocorneal angle of an eye
CN113826376B (zh) * 2019-05-24 2023-08-15 Oppo广东移动通信有限公司 用户设备和斜视校正方法
CN116194950A (zh) * 2020-09-22 2023-05-30 K莱恩斯有限公司 用于创建图像记录的方法
CN116883461B (zh) * 2023-05-18 2024-03-01 珠海移科智能科技有限公司 一种用于获取清晰文档图像的方法及其终端装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0670212A (ja) * 1992-03-26 1994-03-11 Sony Corp 画像処理装置
JP2001344599A (ja) * 2000-06-02 2001-12-14 Hitachi Ltd 全焦点画像合成方法及び装置
JP2008011983A (ja) * 2006-07-04 2008-01-24 Ehime Univ 眼科装置
WO2010045564A2 (en) * 2008-10-16 2010-04-22 Verdooner Steven Apparatus and method for imaging the eye
WO2011119602A2 (en) * 2010-03-23 2011-09-29 Steven Verdooner Apparatus and method for imaging an eye
JP2012213555A (ja) * 2011-04-01 2012-11-08 Topcon Corp 眼底撮影装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0381879A (ja) * 1989-08-24 1991-04-08 Canon Inc 医用画像処理装置
JP4901230B2 (ja) * 2006-02-08 2012-03-21 興和株式会社 撮像システム
CN102008289A (zh) * 2010-12-08 2011-04-13 苏州六六宏医疗器械有限公司 基于自动寻优算法的像差补偿眼底显微镜
US8888284B2 (en) * 2011-11-04 2014-11-18 Joshua Noel Hogan Field of light based device

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0670212A (ja) * 1992-03-26 1994-03-11 Sony Corp 画像処理装置
JP2001344599A (ja) * 2000-06-02 2001-12-14 Hitachi Ltd 全焦点画像合成方法及び装置
JP2008011983A (ja) * 2006-07-04 2008-01-24 Ehime Univ 眼科装置
WO2010045564A2 (en) * 2008-10-16 2010-04-22 Verdooner Steven Apparatus and method for imaging the eye
WO2011119602A2 (en) * 2010-03-23 2011-09-29 Steven Verdooner Apparatus and method for imaging an eye
JP2012213555A (ja) * 2011-04-01 2012-11-08 Topcon Corp 眼底撮影装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"Focus stacking", URL: HTTPS://WEB.ARCHIVE.ORG/WEB/20111009084501/HTTP://EN.WIKIPEDIA/WIKI/FOCUS_STACKING, JPN6016038175, 9 October 2011 (2011-10-09) *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020122672A1 (ko) * 2018-12-13 2020-06-18 서울대학교병원 안저 영상과 형광안저혈관조영 영상의 정합을 이용한 자동 혈관 분할 장치 및 방법

Also Published As

Publication number Publication date
IL232982B (en) 2018-08-30
US20130169934A1 (en) 2013-07-04
BR112014013737A2 (pt) 2018-09-04
ES2917892T3 (es) 2022-07-12
MX337930B (es) 2016-03-28
BR112014013737B1 (pt) 2022-02-08
DK2787877T3 (da) 2022-06-20
CA2858198A1 (en) 2013-06-13
AU2012347482B2 (en) 2017-03-30
EP2787877A4 (en) 2015-08-12
CA2858198C (en) 2020-06-30
EP2787877A1 (en) 2014-10-15
CN104203081B (zh) 2016-12-28
CN104203081A (zh) 2014-12-10
MX2014006760A (es) 2015-03-03
EP2787877B1 (en) 2022-04-06
AU2012347482A1 (en) 2014-07-10
WO2013086473A1 (en) 2013-06-13
IL232982A0 (en) 2014-07-31
US8814362B2 (en) 2014-08-26
KR20140105816A (ko) 2014-09-02

Similar Documents

Publication Publication Date Title
JP2015506730A (ja) 複数の眼の画像をプレノプティック多焦点画像に結合する方法
JP2015506730A5 (ja) 複数の眼の画像を結合してプレノプティック多焦点画像にする方法
JP6143096B2 (ja) 眼底画像処理装置およびプログラム、並びに眼底画像撮影装置
CN110199517B (zh) 在单个对准处具有自动剪辑的宽视野眼底相机
KR101223283B1 (ko) 진단 및 디스플레이 일체형 광 단층 촬영 검이경
US10098541B2 (en) Image processing apparatus
US10165939B2 (en) Ophthalmologic apparatus and ophthalmologic apparatus control method
JP7195619B2 (ja) 眼科撮像装置およびシステム
US9872617B2 (en) Flexible, multimodal retina image recording system and measurement system
JP6886748B2 (ja) 眼撮影装置及び眼撮影システム
Schramm et al. 3D retinal imaging and measurement using light field technology
WO2019226664A1 (en) Noninvasive three-dimensional fluorescence microscopy for skin disease detection
JP2011250976A (ja) 画像処理装置、画像処理方法及びプログラム
CA2915650C (en) Diagnosis support apparatus for lesion, image processing method in the same apparatus, and medium storing program associated with the same method
Barritt et al. Fundus camera versus smartphone camera attachment: image quality analysis
JP2007173894A (ja) 点光源撮影画像の補正装置および補正方法
Höher et al. Low-Cost Non-mydriatic Color Video Imaging of the Retina for Nonindustrialized Countries
JP2024060426A (ja) 眼観察装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151207

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20160713

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160727

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20160727

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161011

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170105

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20170307

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170822

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20171222

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20180109

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20180309

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20180411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180409

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190311

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190411