JP2018128657A - レンズアレイ顕微鏡 - Google Patents
レンズアレイ顕微鏡 Download PDFInfo
- Publication number
- JP2018128657A JP2018128657A JP2017058018A JP2017058018A JP2018128657A JP 2018128657 A JP2018128657 A JP 2018128657A JP 2017058018 A JP2017058018 A JP 2017058018A JP 2017058018 A JP2017058018 A JP 2017058018A JP 2018128657 A JP2018128657 A JP 2018128657A
- Authority
- JP
- Japan
- Prior art keywords
- image
- sub
- images
- sample
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/361—Optical details, e.g. image relay to the camera or image sensor
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/0008—Microscopes having a simple construction, e.g. portable microscopes
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Microscoopes, Condenser (AREA)
Abstract
【課題】低コスト、ロバスト、小さい、かつ/または軽量のコンポーネントから構築され、高解像度の画像を得ることができ、従来の光学透過顕微鏡の光学倍率と視界の間のトレードオフを処理する光学透過顕微鏡を提供する。【解決手段】顕微鏡は、照明ユニットと、結像面上に位置する画像センサと、概してレンズ平面内にある複数のレンズを含むレンズアレイであって、(i)前記照明ユニットと前記レンズアレイとの間に位置し、(ii)前記結像面に対応する焦点面を有するレンズアレイと、を備え、前記複数のレンズは、前記焦点面の一部を含み断片化していない視野を有する。【選択図】図1B
Description
本発明は、光学透過顕微鏡に関する。より詳しくは、レンズアレイ顕微鏡を使用した光学透過顕微鏡に関する。
本願は、2017年2月6日に出願された米国特許出願第15/425,884号に基づき優先権を主張し、その内容をここに援用する。
本願は、2017年2月6日に出願された米国特許出願第15/425,884号に基づき優先権を主張し、その内容をここに援用する。
顕微鏡は、使用しなければ観察するのが難しいような小さな物の高解像度な画像を得るために、科学技術の多くの分野の中で使用される。顕微鏡は、所望の解像度および質を備えた画像を生成し撮像するために、レンズ、絞り、光源、センサなどの様々な構成を用いる。さらに、顕微鏡は、撮像した画像を調節、増強、変形などするために様々なアナログやデジタルの画像処理法を用いる。顕微鏡の技術の1つに光学透過顕微鏡がある。光学透過顕微鏡では、光は、1つの側から反対側へと試料を透過し、試料の画像を形成するために集められる。光学透過顕微鏡は生体試料の画像を得るためにしばしば使用され、医学や自然科学のような分野で様々な応用がある。
「Microscopy with microlens arrays: high throughput, high resolution and light-field imaging」Antony Orth and Kenneth Crozier, Optics Express Vol. 20, Issue 12, pp. 13522-13531 (2012)
しかしながら、従来の光学透過顕微鏡には、透過光線を集めるためにきわめて複雑な対物レンズが含まれる。これらの対物レンズは、こわれやすい、高価、大きいなどの扱いにくい傾向を示しやすい。その結果、従来の光学透過顕微鏡の多くは、特に低コスト、高い信頼度、および小さなサイズおよび重量であることが重視して応用領域においては、理想的なものではない。従って、改善された光学透過顕微鏡システムを提供することが望まれる。
本発明の一実施形態では、顕微鏡は、レンズアレイと、試料を照明するための照明ユニットと、画像撮像ユニットとを備える。レンズアレイは多くのレンズを含む。画像撮像ユニットは、結像面に配置される。その後、試料は、照明ユニットとレンズアレイとの間の対応する焦点面に配置される。レンズアレイは、焦点面の一部を含み断片化していない視界を持つ。
本発明の一実施形態では、顕微鏡は、レンズアレイと、試料を照明するための照明ユニットと、画像撮像ユニットとを備える。レンズアレイは多くのレンズを含む。画像撮像ユニットは、結像面に配置される。その後、試料は、照明ユニットとレンズアレイとの間の対応する焦点面に配置される。画像撮像ユニットと、前記レンズアレイと、前記照明ユニットとの間の距離は以下の数式を満たす。
ここで、fは複数のレンズの焦点距離であり、bはレンズアレイと画像撮像ユニットとの間の距離であり、Aはレンズアレイと照明ユニットの間の距離である。
本発明の一実施形態では、顕微鏡は、マイクロレンズアレイと、試料を照明するための照明ユニットと、画像撮像ユニットとを備える。マイクロレンズアレイは多くのマイクロレンズを含む。画像撮像ユニットは、結像面に配置される。その後、試料は、照明ユニットとマイクロレンズアレイとの間の対応する焦点面に配置される。
図において、同じ符号の要素は同じか同様の機能を有する。
以下の記載において、具体的な詳細を明らかにして、本開示と一致する本発明の実施形態を説明する。しかしながら、本発明の実施形態はこれら具体的な詳細のうちのいくつかあるいはすべてがなく実行されるだろうことは、当業者にとって明らかであろう。ここに示された具体的な実施形態は、実例となるものであるが限定することを意図していない。具体的にここで記載されなかったが、当業者は本開示の範囲及び精神内にある他の要素を実現してもよい。さらに、不必要な反復を回避するため、具体的に別で記載されない限り、あるいは1つ以上の特徴が実施形態を機能しなくさせない限り、1つの実施形態に関連して説明された1つ以上の特徴が、他の実施形態に組み入れられてもよい。
光学透過顕微鏡が低コスト、高度な信頼性、小さくかつ/あるいは軽量の構成要素から構成されている場合、光学透過顕微鏡の利点は増強されるかもしれない。しかしながら、従来の光学透過顕微鏡は、高価で、維持することが困難でかつ/あるいは大きすぎて扱いにくい傾向がある精巧な対物レンズを含む。この1つの理由は、対物レンズが収差に敏感であるためである。収差を補いかつ高解像度画像を達成するため、対物レンズは、収差を最小化するために、多くの注意深く形作られ配置された要素を使用して構築される傾向がある。しかしながら、そのような努力が収差を少なくすることに成功するかもしれないが、これらの努力もまた、対物レンズのコスト、脆弱性、サイズおよび重量を増加させる傾向がある。
さらに、従来の顕微鏡では、光学倍率と視界の間にトレードオフが存在する。より具体的には、光学倍率と視界の直径の積は一定値である。すなわち、光学倍率が大きいほど視界が小さくなり、また逆も言える。従来の光学透過顕微鏡の光学倍率と視界の間のトレードオフを補う1つのアプローチは、試料の大きなエリアを覆う小さな視界を走査しかつ/または測定し、そして、獲得した画像を組み合わせることである。しかしながら、このアプローチは典型的には高精度可動部品、画像を組み合わせるための精巧なソフトウェアおよび/または同様なものを含む。このアプローチに関するさらなる難点は、試料が移動するか走査中に変わる場合に特に問題であるが、走査を完了するために非常に長い時間がかかることである。従って、走査しかつ/または測定する技術は、多くの応用に適していない。
従来の光学透過顕微鏡の光学倍率と視界の間のトレードオフを補う別のアプローチは、各対物レンズが大きな光学倍率を有する対物レンズの2次元アレイを利用することである。しかしながら、この場合も、対物レンズがそれぞれ大きな光学倍率を有し相応して小さな視界を有しているので、対物レンズのアレイを持つ多くの顕微鏡が、試料の大きなエリアの画像を得るために、走査および/または測定する技術を使用する。
さらに、従来の光学透過顕微鏡の光学倍率と視界の間のトレードオフを補う別のアプローチは、試料によって生じる影がセンサによって直接撮像されるような、レンズがない顕微鏡を使用することである。しかしながら、レンズがない顕微鏡の適用は、利用可能な試料の種類及び取り付け技術を制限する(例えば、多くのレンズがない顕微鏡が標準ガラススライドと互換性がない)非常に小さな作動距離と、試料内の焦点面を選択的に撮像する能力がないことによって制限されている。
従来の光学透過顕微鏡の光学倍率と視界の間のトレードオフを補う別のアプローチは、各対物レンズが大きな光学倍率を有する対物レンズの2次元アレイを利用することである。しかしながら、この場合も、対物レンズがそれぞれ大きな光学倍率を有し相応して小さな視界を有しているので、対物レンズのアレイを持つ多くの顕微鏡が、試料の大きなエリアの画像を得るために、走査および/または測定する技術を使用する。
さらに、従来の光学透過顕微鏡の光学倍率と視界の間のトレードオフを補う別のアプローチは、試料によって生じる影がセンサによって直接撮像されるような、レンズがない顕微鏡を使用することである。しかしながら、レンズがない顕微鏡の適用は、利用可能な試料の種類及び取り付け技術を制限する(例えば、多くのレンズがない顕微鏡が標準ガラススライドと互換性がない)非常に小さな作動距離と、試料内の焦点面を選択的に撮像する能力がないことによって制限されている。
従って、低コスト、ロバスト、小さい、かつ/または軽量のコンポーネントから構築され、高解像度の画像を得ることができ、従来の光学透過顕微鏡の光学倍率と視界の間のトレードオフを処理する光学透過顕微鏡を提供することが望ましい。
図1A、図1B、図1Cは、本発明の一実施形態に係るレンズアレイ顕微鏡100の簡略図である。レンズアレイ顕微鏡100は、試料120上に位置する照明ユニット110を備える。照明ユニット110からの光は試料120を通過して、レンズアレイ130によってセンサ140上に転送される。光は試料120を通過して移動するので、センサ140に達する光信号は試料120に関連した情報を含む。センサ140は光信号を画像処理プロセッサ150に送られる電気信号に変換する。
一般に、照明ユニット110は試料120に光を供給する。本発明の一実施形態によれば、照明ユニット110は、広帯域、狭帯域、可視、紫外線、赤外線、可干渉性、非可干渉性、偏光、または非偏光の放射線を含む電磁放射線の1つ以上の源を含むような光源111を備えてもよい。本発明の一実施形態において、照明ユニット110は、光源111が調整可能かつ/または交換可能であるような様々な光源の使用をサポートしてもよい。
本発明の一実施形態によれば、照明ユニット110は、1つ以上の絞り、レンズ、ディフューザ、マスクなどを含んでもよい。本発明の一実施形態によれば、絞りは光が透過する1つ以上の開口を備えた不透明なシートを含んでもよい。例えば、開口は、直径と位置によって特徴づけられた不透明なシート中の円形の穴であってもよい。円形の穴の直径と位置のどちらかは、光源の見かけサイズおよび/または位置を制御するように調整可能であってもよい。本発明の一実施形態では、絞りは、照明ユニット110を様々な構成および/または互換性をもつ光源のタイプに適応させるために、調整可能かつ/または交換可能な光源と共に調節されてもよい。
本発明の一実施形態によれば、光源レンズは、光源の見かけの位置、サイズおよび/または拡散を変更するために光源からの光を転送するために使用されてもよい。本発明の一実施形態において、レンズは、試料120と光源の間の有効距離を増加させることにより、レンズアレイ顕微鏡100のコンパクトな設計を考慮してもよい。すなわち、仮想光源が物理的な光源より試料120からより遠く離れている位置から試料120を照明するように、レンズは物理的な光源からの光を転送してもよい。
本発明の一実施形態において、位置や焦点距離などの光源レンズの1つ以上の特性が、設定可能かつ/または調整可能であってもよい。本発明の一実施形態によれば、ディフューザは照明ユニット110により出力される光の空間的均一性を増加させるために、光源からの光の拡散、サイズおよび/または角度を変更するために使用されてもよい。本発明の一実施形態によれば、複数の光源レンズ、絞りおよび/または追加の構成が、照明ユニット110によって提供される光のサイズ、位置、角度、拡散および/または他の特性を高水準でコントロールできるように配置されてもよい。例えば、前記複数のレンズおよび/または絞りは、試料120にケーラー照明を提供するように構成されてもよい。
本発明の一実施形態によれば、試料120は、照明ユニット110によって提供される光を部分的に送信するように半透明のあらゆるオブジェクトを含んでいてもよい。本発明の一実施形態によれば、試料120は、入射光線に対して透明、半透明および/または不透明な様々な領域を含んでいてもよい。様々な領域の透明性は、色や極性などの入射光線の特性によって変化してもよい。本発明の一実施形態によれば、試料120は、生体試料、無生物の試料、ガス、液体、固体および/またはそれらのあらゆる組合せを含んでもよい。本発明の一実施形態によれば、試料120は動く物を含んでいてもよい。本発明の一実施形態によれば、試料120は、標準の透明なスライドガラスのような、あらゆる適切な取り付け技術を使用して取り付けられてもよい。
引き続き、図1A、図1Bおよび図1Cを参照すると、レンズアレイ130は、センサ140上に、試料120を通過した光を転送する。レンズアレイ130は、周期的な正方形パターン中の試料120の下に配置された複数のレンズ131−139を含む。本発明の一実施形態によれば、レンズ131−139は、周期的な正方形、長方形、六角形のパターンや、非周期的なパターンなどのパターンで配置される。さらに別の実施形態によれば、レンズ自体はそれぞれ開口を有する。他の実施形態によれば、レンズおよび/または対応する開口は、正方形、長方形、円形および/または六角形を含む様々な形を持つ。レンズ131−139は、試料120の下の同じ平面にあるとして描かれているが、本発明の一実施形態では、異なるレンズは試料120から異なる距離で配置されてもよい。レンズ131−139は、同一、名目上同一および/または互いに異なってもよい。本発明の一実施形態によれば、レンズアレイ130は、複数の個別のレンズ素子を使用して形成されてもよいし、かつ/または単一の一体化したレンズ素子として形成されてもよい。本発明の一実施形態によれば、レンズアレイ顕微鏡100がポータブルで使い捨てになるように設計されおよび/または人体のような狭い悪条件の環境に挿入された場合、レンズアレイ130は、従来の対物レンズシステムより小さく軽くロバストかつ/または安価であるように設計されてもよい。本発明の一実施形態において、レンズアレイ130および/またはレンズ131−139の位置や焦点距離のような1つ以上の特性が、設定可能かつ/または調整可能であってもよい。
本発明の一実施形態によれば、レンズ131−139は、各々のマイクロレンズが直径2mm未満である同一か同様のマイクロレンズであってもよい。例えば、各マイクロレンズは、100μmと1000μmの間の範囲の直径を有してもよい。マイクロレンズを使用すると従来のレンズに対して長所を有する。例えば、いくつかのタイプのマイクロレンズアレイは、製造するのが簡単であり、多くのメーカーから容易に利用可能である。
本発明の一実施形態では、マイクロレンズアレイは、フォトリソグラフィ、レジスト処理、エッチング、デポジション、パッケージ技術などのような、半導体産業のために開発された設備や技術を使用して製造される。対照的に、従来のレンズは、しばしば、専門の設備、トレード知識および/または生産技術を使用して製造され、従来のレンズより高価および/または手に入りにくい場合がある。
本発明の一実施形態において、マイクロレンズアレイは、従来のレンズアレイより単純な設計であり、例えば、単一要素設計は、要素の1つの側に平面があり、要素の反対側に入射光線を転送するために使用される曲面のアレイがある。本発明の一実施形態において、曲面は従来のレンズを形成し、かつ/または非円形のレンズおよび/またはミクロのフレネルレンズのようなそれほど一般的ではないレンズの形を形成する。同様に、マイクロレンズアレイは、要素の両側で平面を持っている勾配インデックス(GRIN)設計を使用してもよい。そのような実施形態では、曲面ではなく(および/または、加えて)GRINレンズの変化する屈折率が、入射光線を転送するために使用される。
マイクロレンズを使用することの別の利点は、大きさが小さいため収差に対する感度が低いことを含む。例えば、多くのマイクロレンズの分解能は、技術的制限(例えば、収差による制限)ではなく、基本的な制限(例えば、回折による制限)に近づいていると考えられ、それによって、それに対応する高価、複雑さ、脆弱性などなしに、従来レンズの高度に精巧なシステムに匹敵する分解能を提供する。
本発明の一実施形態によれば、レンズ131−139のうちの1つ以上は、光熱拡張、イオン交換、CO2放射および反応性イオンエッチングのような作成技術を使用して、ガラス(例えば石英ガラス)で作られている。しかしながら、本発明の一実施形態では、レンズ131−139のうち1つ以上は、ガラスに使用されるものよりもより容易で安価な技術を使用して、ガラスより軽く、強く、かつ/または、安価な材料から作られる。例えば、本発明の一実施形態では、マイクロレンズアレイは、フォトリソグラフィ、レジスト処理、エッチング、デポジション、パッケージ技術などのような半導体産業のために開発された設備や技術を使用して製造される。対照的に、従来のレンズは、しばしば、専門の設備、トレード知識および/または生産技術を使用して製造され、従来のレンズより高価および/または有効性が低いおそれがある。
例えば、レンズ131−139のうち1つ以上は、フォトレジストリフロー、レーザー・ビーム成形、陽子を用いたディープリソグラフィー、LIGA(リソグラフィー、電解めっき、形成のドイツ語の頭字語)、光重合、マイクロジェット印刷、レーザアブレーション、ダイレクトレーザーまたはEビームによるライティングなどの技術を用いて、光学エポキシ、ポリカーボネート、ポリ(メタクリル酸メチル)、ポリウレタン、環状オレフィン共重合体、環状オレフィン・ポリマーなどの高い光透過度を持つプラスチックやポリマーで作られている。そのような材料の使用は、レンズ131−139がマイクロレンズである場合、収差に対する感度が低いため、特に適切である。本発明の一実施形態では、レンズ131−139の1つ以上は液体で作られている。
本発明の一実施形態では、レンズ131−139のうち1つ以上は、マスターマイクロレンズアレイを使用して作られる。マスターマイクロレンズアレイは、複数のマイクロレンズアレイを成型またはエンボス加工するために使用される。本発明の一実施形態では、ウエハーレベル光学技術は、精巧なマイクロレンズアレイを費用対効果に優れた方法で製造するために使用される。
センサ140は、一般に、試料120に関連した情報を運ぶための光信号を、少なくとも光信号に含まれる情報の一部を保持する電気信号に変換するのに適したあらゆる装置を含む。本発明の一実施形態によれば、センサ140は、入射光信号に含まる画像のデジタル表現を生成する。デジタル表現は、空間的にピクセルに分けられるRAW画像データを含むことができる。例えば、RAW画像データはRAW画像ファイルとしてフォーマットされてもよい。本発明の一実施形態によれば、センサ140は、電荷結合素子(CCD)センサ、アクティブなピクセルセンサ、相補型金属酸化膜半導体(CMOS)センサ、N型金属酸化膜半導体(NMOS)センサなどを含んでもよい。好ましくは、センサは、読み出しノイズを減らしダイナミックレンジを増加させるため、5ミクロン未満の小さなピクセルピッチを有する。より好ましくは、センサは、約1ミクロン未満のピクセルピッチを有する。
本発明の一実施形態によれば、センサ140は単一体の集積センサであり、かつ/または複数の個別部品を含んでもよい。本発明の一実施形態によれば、センサ140の2次元的なピクセル濃度、すなわち単位領域あたりのピクセルは、レンズアレイ130の2次元のレンズ密度、すなわち単位領域あたりのレンズよりもはるかに大きく、例えば25倍以上大きく、これにより、複数のレンズ131−139にそれぞれ対応し、各々が多くのピクセル数を含む複数のサブ画像が検出される。本発明の一実施形態によれば、センサ140は、カラーフィルタ、レンズ、増幅器、アナログデジタル(A/D)変換器、画像エンコーダ、制御ロジックのような付加的な光学的および/または電子的な部品を含む。
センサ140は、RAW画像データのような試料120に関連した情報を伝える電気信号を、処理、記憶、描画、ユーザ操作などのさらなる機能を電気信号に行う画像処理プロセッサ150に送信する。本発明の一実施形態によれば、画像処理プロセッサ140は、1つ以上のプロセッサ構成要素、メモリ構成要素、記憶構成要素、表示構成要素、ユーザインターフェース構成要素などを含む。例えば、画像処理プロセッサ140は、1つ以上の、マイクロプロセッサー、特定用途向け集積回路(ASICs)および/またはRAW画像データを出力画像データに変換するのに適したフィールド・プログラマブル・ゲート・アレイ(FPGAs)を含む。出力画像データは、様々な、解凍された、圧縮された、ラスターおよび/またはベクトルのファイル形式などを含む適切な出力ファイル・フォーマットを使用してフォーマットされてもよい。本発明の一実施形態によれば、画像処理プロセッサ150は、センサ140に、ローカルバスを使用して結合され、かつ/または1つ以上のネットワーク構成要素を通して遠隔に結合される。画像処理プロセッサ150は、ローカルの、分配された、かつ/またはクラウドに基づいたシステムなどを使用してインプリメントされてもよい。
本発明の一実施形態によれば、レンズ131−139は焦点距離fによって特徴づけられる。例えば、焦点距離fによって特徴づけられた凸レンズは、レンズの1つの側に位置する焦点面の画像を、レンズの反対側の対応する結像面上に形成する。図1Bにおいて、第1の焦点面とレンズアレイ130との間の距離aと、レンズアレイ130と対応する第1の結像面との間の距離bとが示されている。図1Bに描かれているように、試料120は第1の焦点面に配置され、センサ140は第1の結像面に配置される。第1の焦点面に位置する試料120の特徴によって、照明ユニット110からの光は、吸収され、反射され、回折し、かつ/または散乱するかもしれない。従って、センサ140によって検知された画像は、第1の焦点面に位置する試料120の特徴を含む。本発明の一実施形態によれば、レンズ131−139は、薄肉レンズとしてモデル化されてもよく、ここで、f、aおよびbの値は次の方程式によって関連づけられる。
図1Cには、第2の焦点面とレンズアレイ130の間の距離A、およびレンズアレイ130と対応する第2の結像面の間の距離Bが示されている。図1Bで描かれているように、試料120を通して送信される照明ユニット110から発せられた光が第2の結像面で集中するように、照明ユニット110は第2の焦点面に配置される。レンズ131−139が薄肉レンズとしてモデル化される場合、f、aおよびbの値は次の方程式によって関連づけられる。
第2の結像面がセンサ140の上に位置するので、第2の結像面に集中する光はセンサ140に到達する前に拡散する。従って、レンズ131−139の各々は、センサ140のレンズを通過した光によって照らされた領域に対応するセンサ140における画像またはサブ画像を形成する。図1Cにおいて、距離pはレンズ131−139間のピッチを示し、距離mpはサブ画像の幅を示し、距離Mpはサブ画像間のピッチを示し、距離dはサブ画像間の暗領域の幅を示す。この表記法では、mとMは、p単位で測定されるサブ画像の幅およびピッチをそれぞれ表す。値o(図1Cでは表示されない)はレンズアレイ顕微鏡100によって得られる光学倍率を表し、ここで全ての距離は正値であるとみなされ、したがって倒立像に対してoは負値ではない。光学倍率は、センサまたは画像システムの結像面における対象物の画像の大きさと、シーンにおける同じ対象物の大きさとの比である。上記の変数は次の方程式で関連づけられる。
上記の数式を使用してレンズアレイ顕微鏡100をモデル化する場合、レンズアレイ顕微鏡100のデザイン上のいくつかの制約が明らかになる。例えば、mを正値にするために(すなわち、サブ画像を形成するために)、bはfよりも大きな値に制約される。別の言い方では、bがf未満である場合、レンズはあらゆる焦点面から光をセンサ上に集中させるほどは強力ではない。本発明の一実施形態において、dを正値にするために(すなわち、隣接したサブ画像間でオーバーラップしないようにするために)、Mはmよりも大きな値に制約される。同時に、これらの制約は、f、Aおよびbの制約を表す次の不等式を得るために代数的に操作することができる。
図2A中でこれらの制約はプロットされ、b/fはA/fの関数としてプロットされる。上記の不等式に基づくと、レンズアレイ顕微鏡100の本発明の一実施形態は、6以下のb/fを有する。他の実施形態は約2.5以下のb/fを有する。さらに代数的に操作すると、f、Aおよびoの制約を表わす次の不等式を得る。
図2B中でこれらの制約はプロットされ、oはA/fの関数としてプロットされる。図2Bによれば、A/fの値が約10以上である場合、oは、0とわずかに1より大きい値との間の値(すなわち、無視できる光学倍率の大きさの値)に制約され、A/fの値が3を超える場合、oは、(カーブの上限から推定すると)0と約5の間の値に制約される。3未満のA/fの値(および、対応する、より大きな光学倍率)は、様々な実施形態において実現されるが、本発明の一実施形態では実用性を考慮するとA/fの値は3以上に制約される。例えば、本発明の一実施形態では、試料120がスライドガラスおよび/または別の個体物質を含む場合のように、試料120は有限の厚さを占めてもよい。試料120はレンズアレイ130と照明ユニット110の間に配置されるので、試料120の有限の厚さは、A/fの実用性を持つ最小値に帰着するだろう。更に、本発明の一実施形態では、照明ユニット110を試料120に接近して置くことにより、試料とレンズ平面の直交軸に対して大角度で試料120とレンズアレイ130を伝搬する光となり、そのことは画質の劣化を引き起こすかもしれない。
これらの考察を考慮すると、本発明の一実施形態では、レンズアレイ顕微鏡100は、光学倍率、画質または分解能、およびハードウェアの制約の間のトレードオフを考慮して設計される。一般に、レンズアレイ顕微鏡100の実施形態では、光学倍率がより高くなるように配置することよりも、センサの分解能がより高いことによって、より高い分解能が達成される。対比して、従来の顕微鏡では、光学倍率がより高いことによって、より高い分解能が達成される。しかしながら、光学倍率における小さな変化が、実施形態において重要な要因のままである場合がある。目標は、高い倍率を有することとは必ずしも限らない。例えば、光学倍率の大きさが約0.9であることは、光学倍率の大きさが1に近いあるいは1を超えた場合と比較して、分解能の小さなロスだけのトレードオフで、より容易に製造することを可能にする。例として、2つの実施形態において、(A/F、o)の値または正確なポイントは、それぞれ、(10、1.5)と(3、5)である。
本発明の一実施形態によれば、照明ユニット110は、無視できない光学倍率あるいは1を著しく超えた光学倍率を使用して、空間分解能をさらに増加させるために、レンズアレイ130にできるだけ接近して、すなわち(前述の実用的な制約を与えられて)Aが小さくなるように配置される。そのような実施形態を進める場合、隣接したサブ画像間および/またはセンサ140の領域を超えたサブ画像の領域全体のオーバーラップによる情報ロスを回避する一方で、最大の許容可能な光学倍率および画像の解像度を達成するために、同様に、センサ140は、レンズアレイ130からできるだけ遠くに、すなわちAが大きくなるように配置される。代替となる実施形態では、照明ユニット110は、レンズアレイ顕微鏡100の感度を減少させ、様々な構成要素の配列および位置においてエラーが小さくなるように、レンズアレイ130から遠くに(例えば、レンズ131−139の焦点距離より10倍以上遠くに)配置される。そのような実施形態は、光学倍率が約1以下である場合、レンズアレイ顕微鏡100のロバストさを増加させるかもしれない。小さいか無視できる光学倍率(すなわち、光学倍率が約1以下)を有するレンズアレイ顕微鏡100を構成することの1つの利点は、そのような実施形態では、レンズは、より高倍率の構成におけるよりも収差にそれほど敏感でなく、したがって、コストの面でより有効で、かつ/または他の利点を有する方法(例えば、より軽い、より強いなど)で、生産されてもよいことである。小さいか無視できる光学倍率を有する顕微鏡100を構成することの別の利点は、そのような実施形態では、顕微鏡100は断片化していない視界を有するということである。断片化していない視界は次の不等式の上限から生じる。
これらの式は、光学倍率が比較的大きい場合に成立する。断片化した視界と断片化していない視界との違いは、図3A、図3Bおよび図3Cを参照して、以下説明される。
図3Aはテストパターン300の図である。図3Bおよび図3Cは、画像センサ140に撮られた、図3A中のテストパターン300に対応する画像の簡略図である。テストパターン300の複数の領域を同時に撮像するために1枚を超えるレンズを使用する顕微鏡は、レンズの各々が大きな光学倍率を有する、複数の対物レンズおよび/またはレンズアレイを含んでもよい。図3Bでは、光学倍率が大きいため、レンズの各々の視界は、離れている、隣接していない、および/またはオーバーラップしていないテストパターン300の領域をカバーしてもよい。領域320a−dおよび330は視界を表し、試料の見られる地域を意味する。結像面は、単にテストパターン300の小さな部分集合を表す場合であっても、これらの視界で濃く覆われているか満たされていてもよい。例えば、光源がはるかに遠くにあると仮定すると、倍率がmである場合、たとえ全てのセンサが使用された場合でも、試料の領域の1/m2だけは見ることができる。別の言い方をすると、顕微鏡の典型的な断片化した視界は、テストパターン300の領域320a−dを含む。領域320a−dの各々は、異なるレンズの視界に対応する。領域320a−dは、互いに、撮像していない領域310によって分離される。図3Bに描かれているような断片化した視界を持つ顕微鏡は、領域320を埋めテストパターン300の完全な画像を撮像するために、撮像の際に、スキャンニング技術やステッピング技術などを必要とするだろう。そのような技術では、テストパターン300のシームレスな画像を形成するために連続して組み合わせて、空間的にオフセットされた画像のセットを得ることを含む。しかしながら本発明の一実施形態によれば、スキャンニング技術やステッピング技術は時間を消費し、かつ/または演算を要求するため、これらの技術の使用を省くことは有利になる。本発明の一実施形態において、そのような技術の使用を避けるため、顕微鏡は断片化していない視界を持つように構成される。図3Cにおいて、典型的な断片化していない視界は、少なくとも1つのレンズの視界の中で撮像されたテストパターン300の連続的な領域330を含む。図1Cと一致する本発明の一実施形態によれば、レンズアレイ顕微鏡100は、図3Cと同様に、断片化していない視界を持つように構成される。
上で議論されさらにここで強調されるように、図1A、図1B、図1C、図2A、図2Bおよび図3Cは、単なる例であり、過度にクレームの範囲を制限するべきではない。当業者であれば、多くのバリエーション、代替案および変形を認識するだろう。本発明の一実施形態によれば、照明ユニット110は、試料120に光を供給するために、光源111ではなく/あるいは光源111に加えて、周辺光を使用する。周辺光を使用することは、より軽い重量、コンパクトな大きさ、および/またはエネルギー効率の改善などの様々な利点を提供するかもしれない。従って、周辺光を使用することは、特に持ち運びする用途のようなサイズおよび/またはエネルギーを抑える用途に適しているかもしれない。本発明の一実施形態によれば、レンズアレイ顕微鏡100の様々な構成要素は、スマートフォン、ラップトップコンピューター、時計などのモバイル機器に含まれる、および/または取り付けられていてもよい。例えば、センサ140は、前述のモバイル機器に内蔵されるカメラであってもよいし、画像処理プロセッサ150は、前述のモバイル機器と通信する、および/またはアプリケーションを動かすハードウェアおよび/またはソフトウェアの構成要素を含んでいてもよい。本発明の一実施形態によれば、図3Cの領域330には断片化していない視界が、ギャップがないものとして描かれているが、もし、ギャップが十分に小さく、利用できる画像がスキャンニング技術やステッピング技術などを使用せずに1つの撮像で得られる場合、断片化していない視界には小さなギャップがあるかもしれない。さらに、各レンズの視界は図3Bおよび図3Cにおいて円形として描かれているが、視界は使用されているレンズの種類に依存して様々な形を有していてもよい。本発明の一実施形態によれば、レンズアレイ130に関連する開口数は、液浸油のような、試料120とレンズアレイ130の間の空気より高い屈折率を持つ媒質を使用することにより増加するかもしれない。
本発明の一実施形態によれば、レンズアレイ顕微鏡100は、試料120の単色および/またはカラー画像を得るように構成される。顕微鏡100がカラー画像を得るように構成される場合、1つ以上の適切な技術がカラー解像度を得るために使用されてもよい。本発明の一実施形態では、センサ140は、単一の画像獲得ステップでカラー画像が得られるように、ピクセル上にカラーフィルタアレイを含む。本発明の一実施形態では、照明ユニット110が試料120に異なる色の光を与えて各々撮像し、一連の画像が得られる。例えば、照明ユニット110は、広帯域の光源に1セットのカラーフィルタを適用してもよく、および/またはLEDおよび/またはレーザーのような異なる色の光の光源間を切り替えてもよい。本発明の一実施形態によれば、顕微鏡100は、マルチスペクトルかつ/またはハイパースペクトルの画像のような多くの色を持つ画像を得るように構成される。
図4Aは、本発明の一実施形態に係るレンズアレイ顕微鏡を使用して獲得した画像を処理する方法400の簡略図である。この方法は、例えば、画像処理プロセッサ150および/またはコンピューター、マイクロプロセッサー、ASICs、FPGAsなどの中で行われてもよい。対応する図5A、図5B、図5Cおよび図5Dは、本発明の一実施形態に係る方法400によって処理されている典型的な画像を描いたシミュレーションデータの簡略図である。図1A、図1B、図1C、図2A、図2B、図3A、図3Bおよび図3Cと一致する本発明の一実施形態によれば、顕微鏡100は、動作中に方法400の1つ以上のステップを行なうために使用される。より具体的には、画像処理プロセッサ150のような画像処理プロセッサは、RAW画像データを出力画像データに変換するために方法400を行なってもよい。
図4Aを参照すると、プロセス410で、RAW画像データは、例えば画像処理プロセッサ150によって、例えば図1Cの顕微鏡のセンサ140または個別のメモリ(図示しない)から受信される。RAW画像データは、顕微鏡のレンズの各々にそれぞれ対応する複数のサブ画像を含んでもよい。本発明の一実施形態において、サブ画像は、サブ画像をサブ画像とは分離した暗領域と区別する特徴抽出アルゴリズムや、RAW画像データのどの部分がサブ画像の各々に相当するかを予め判定する校正操作などのような適切な画像処理技術を用いて、RAW画像データから抽出される。本発明の一実施形態によれば、RAW画像データは、デジタルおよび/またはアナログ形式で受信される。本発明の一実施形態と一致している場合、RAW画像データは、1つ以上のRAW画像ファイルで受信されてもよいし、かつ/または受信する際に、および/または処理中に、異なるファイル形式に変換されてもよい。図5Aを参照すると、プロセス410の間に受信されるシミュレートされたRAW画像データの典型的なセットが描かれている。
図4Aに戻ると、プロセス420では、RAW画像データ中のサブ画像は、試料の像と同じ配置に反転されるか、あるいはサブ画像中のあるポイントに関して逆さまになる(ここで、試料の像と同じ配置とは、試料全体を1つの同軸光学系で結像した像の配置を指している)。本発明の一実施形態において、RAW画像データ中のサブ画像は、レンズアレイ顕微鏡の光学部品によって逆さまにされるので、プロセス420は、サブ画像の正確な傾きを復元する。本発明の一実施形態によれば、試料の像と同じ配置とは、サブ画像の中心点やサブ画像の端点など、各サブ画像に関して定義された予め定義されたポイントであってもよい。本発明の一実施形態によれば、サブ画像の各々を反射するために、例えばループおよび/またはネストされたループを使用して、サブ画像は反復して反射される。本発明の一実施形態によれば、サブ画像は、同時にかつ/または互いに平行して反射される。本発明の一実施形態によれば、反射は、ソフトウェア技術を使用し、かつ/または、1つ以上のハードウェア加速技術を使用して行なわれる。本発明の一実施形態によれば、RAW画像データ中でサブ画像が逆さまではないようにレンズアレイ顕微鏡が構成される場合、プロセス420は省略される。図5Bを参照すると、図5AのRAW画像データにプロセス420を適用することにより生成されたサブ画像の典型的なセットが描かれている。
図4Aに戻ると、プロセス430では、合成画像がサブ画像から生成される。本発明の一実施形態によれば、プロセス430は、サブ画像間の暗領域を取り除くことを含んでもよい。すなわち、サブ画像は、与えられた距離および/またはピクセル数によってより接近するように集められてもよい。本発明の一実施形態において、プロセス430は、隣接したサブ画像間のオーバーラップを説明する技術を含む、サブ画像からシームレスな合成画像を得るための様々な画像処理技術を用いてもよい。1つの技術は、サブ画像の試料の像と同じ配置に最も近い位置に対応する値を用いることである。このことは、より高い信号対雑音比を持つ傾向がある、より明るい位置を用いるという利点を有する。さらに、これらの位置はレンズ収差によって引き起こされる人工的な効果を受けにくい。本発明の一実施形態によれば、プロセス430は、空の合成画像を初期化し、その後、合成画像の指定の部分に各サブ画像をコピーすることを含んでもよい。例えば、合成画像にサブ画像をコピーすることは、反復技術や並列技術などを用いて行なわれてもよい。図5Cを参照すると、図5Bのサブ画像にプロセス430を適用することにより生成された典型的な合成画像が描かれている。
図4Aに戻ると、プロセス440において、バックグラウンドは合成画像から取り除かれる。ここで、「バックグラウンド」は、試料の画像にはない、合成画像における画像の人工的な効果やエラーを示す。バックグラウンドの撤去は、(図1A、図1Bおよび図1Cに示されるように)画像処理プロセッサ150によって減法あるいは分割によって行われてもよい。本発明の一実施形態によれば、バックグラウンドは、レンズアレイ顕微鏡中で試料がない状態であっても存在する合成画像の特徴を含んでいてもよい。従って、バックグラウンドの特徴は、レンズアレイ顕微鏡の照明ユニット、レンズおよび/またはセンサにおける不規則性のような、特定の試料に関係していない人工的な効果を表してもよい。人工的な効果は特定の試料に関連した情報を提供しないので、合成画像からバックグラウンドを減法することが望ましいかもしれない。本発明の一実施形態において、バックグラウンドは、試料の画像が獲得される前および/または獲得された後(例えば、顕微鏡から試料をロードする前かつ/またはロードした後)に獲得されてもよい。本発明の一実施形態によれば、合成画像は、バックグラウンドおよび合成画像が同じ大きさの光度を持つように、バックグラウンドに関連して(あるいはバックグラウンドとは無関係に)標準化される。図5Dを参照すると、図5Cの合成画像にプロセス440を適用することにより生成される典型的な出力画像が描かれている。
上で議論されさらにここで強調されるように、図4A、図5A、図5B、図5Cおよび図5Dは、単なる例であり、過度にクレームの範囲を制限するべきではない。当業者であれば、多くのバリエーション、代替案および変形を認識するだろう。本発明の一実施形態によれば、プロセス420−440のうちの1つ以上は、互いに同時に、および/または図4Aで描かれたのとは異なった順番で行われてもよい。本発明の一実施形態によれば、方法400は、様々な画像処理、ファイル・フォーマット変換、ユーザ入力ステップなどを含む、図4Aで示されない追加のプロセスを含む。本発明の一実施形態によれば、プロセス420−440のうちの1つ以上は、方法400から省略される。
図4Bおよび図4Cを参照すると、本発明の一実施形態では、バックグラウンドは、プロセス415で、すなわち、プロセス410と420の間で、回旋状のフィルタを適用することにより随意に撤去される。回旋フィルタは、試料120ではなくレンズアレイ顕微鏡100の構成要素によって引き起こされるあらゆるバックグラウンドも抑えるように設計されている。例えば、合成画像は、レンズアレイ130に対するピクセルの相対位置に対応する、望まれないあるいは高い空間周波数を有してもよい。そのような空間周波数は、試料ではなくレンズアレイ顕微鏡の特性によって引き起こされる傾向があるので、望まれない。回旋フィルタは、そのような望まれない空間周波数を取り除くように設計される。プロセス415は、RAW画像中にバックグラウンドを含む画像に基づいて、RAW画像からバックグラウンドを取り除く。減法および/または分割のようなRAW画像からバックグラウンドを取り除くために、異なる方法がプロセス415で用いられる。
図4Bは、本発明の一実施形態に係るレンズアレイ顕微鏡を使用して獲得した画像を処理する方法402の簡略図である。プロセス410で、試料の画像データを含むRAW画像データは、例えば画像処理プロセッサ150によって、例えば図1Aの顕微鏡のセンサ140あるいは個別のメモリ(図示せず)から受信される。RAW画像データは、試料の画像データの中には存在しないサブ画像のRAW画像データの中で、あらゆる振幅変調、光度の不統一、あるいはシェーディングを含む「バックグラウンド」を有する可能性がある。ある態様では、シェーディングは、他の画像システムにおけるレンズのシェーディングや口径食に類似している。サブ画像に対するシェーディングは、レンズアレイ顕微鏡のハードウェア構成要素の様々な態様によって引き起こされる場合がある。可能性のある要因としては、センサへの不均一な入射照度、レンズアレイ内の関連するレンズの特性、入射光の様々な角度に対する画像センサの感度、レンズアレイ内のレンズの相対位置などがある。この種の「バックグラウンド」は、図6Aに描かれており、サブ画像の各々は、端で光度が減少し、中間において最も明るく見える。
RAW画像データ中のバックグラウンドを決定するために、試料を持たないRAW画像がプロセス411でロードされる。他の実施形態では、試料のデータを含むRAW画像データが受信される前に、試料を持たないRAW画像が受信される。試料を持たないそのような画像は、試料120が存在しない時、レンズアレイ顕微鏡100で得られた画像を撮像することにより実験的に生成されてもよい。そのような画像は、バックグラウンド画像を作成するために複雑なやり方で相互に作用する、レンズアレイ顕微鏡100の様々な構成要素による結果である。他の実施形態では、バックグラウンドは、RAW画像の中で理論的に引き出される。しかしながら、図4Bで例証される実施形態では、材料の位置と構成の複雑な相互作用および正確な知識を説明するために画像を実験的に生成する方がより現実的である。レンズアレイ顕微鏡100を含む材料の相対位置または構成における顕微鏡の変化は、結果として得られるバックグラウンド画像に重大な影響を与える場合がある。そのような試料を持たないRAW画像は、プロセス411でロードされる。図4Cは、本発明の一実施形態に係るレンズアレイ顕微鏡を使用して獲得した画像を処理する別の方法404の簡略図である。この方法は、例えばスライドガラスまたはペトリ皿のようなコンテナ上の試料に適用することができる。そのような例においては、コンテナは光を曲げることができるため、試料またはコンテナを持たないRAW画像が正確なバックグラウンドまたはシェーディングをとらえることができないかもしれない。ここで、バックグラウンドは、プロセス412におけるRAW画像あるいは多数のそのようなRAW画像から評価される。RAW画像はレンズアレイ顕微鏡100の構成要素に起因する試料120およびバックグラウンドの両方による結果であるので、プロセス412はバックグラウンド構成要素だけを分離する必要がある。フィルタリング、正規化、画像モデル、あるいはスパース性の拘束条件を含む、異なる画像処理および学習法を信号の複合成分を分離するために導入されてもよい。ここでそのような方法の例として単純な方法が説明される。RAWバックグラウンドは、複数のサブ画像から生じる画像の全体にわたって比較的規則的なパターンを含む。サブ画像は、サブ画像の中心の明るい領域とサブ画像の外側付近および近くのサブ画像間のより暗い領域とを備えた、類似の形および光度の輪郭を持つように見える場合がある。画像全体からの複数のサブ画像を平均化などによって組み合わせることにより、基本的なサブ画像パターンは評価される。基本的なサブ画像は、RAW画像における位置や試料120の存在に基づいてサブ画像を横断するあらゆる変化を無視した後の、RAW画像における全てのサブ画像とほぼ同じ形および光度分布を持つ単一画像である。試料120の存在が、バックグラウンドのRAW画像における複数のサブ画像の位置と関連していないような、RAW画像の変更を引き起こす場合、評価される基本的なサブ画像パターンは、試料120の存在に影響されない。最終的に、バックグラウンドのRAW画像は、画像内の適切な位置に基本的なサブ画像パターンの複数のバージョンを置くことにより、プロセス412の出力として作成される。
他の実施形態において、回旋状のフィルタリングは、ステップ412で、試料120の影響を取り除くために画像を横断して適用される。バックグラウンド画像は、レンズアレイ130中のレンズの規則的な間隔およびその結果としてのサブ画像の合成的な規則的な位置によって引き起こされる空間周波数によって支配されるべきである。例えば、サブ画像の各々の中心付近に最大値を持ち、サブ画像間の暗領域の中に最小値を持つ空間周波数は、バックグラウンド画像中に強く存在するが、試料120によって生じるものではない。代わりに、より高い空間周波数は、試料120によって生じるかもしれないが、サブ画像の規則的な位置によって生じるものではない。したがって、バックグラウンドは、サブ画像の規則的な位置と一致しない周波数を削除する回旋状のフィルタの適用により、RAW画像から評価されてもよい。
図4Dは、本発明の一実施形態に係るレンズアレイ顕微鏡を使用して獲得した画像の処理の方法406の代替的な実施形態を供給する。図4Dの方法は、図4A、図4Bおよび図4Cにおけるプロセスによっては提示されないであろう、サブ画像の位置および組合せにおけるサブピクセルの精度を上げる。その結果、図4Dからの画像出力はより正確であり、RAW画像の中で隣接したサブ画像間で端が交差する場合に、合成画像に現われる、ぼけた端あるいは不連続の端のような人工的な効果をあまり含まない。
図4Dを引き続き参照すると、プロセス421は、所望の合成画像中のピクセルごとにRAW画像における位置を見つける。レンズアレイ中の隣接したレンズの視界がオーバーラップするため、試料における位置は、1つあるいは複数のサブ画像中に現われるかもしれない。したがって、正確に合成画像が試料を反映するために、合成画像中のピクセルの各々は、1つあるいは複数のRAW画像における位置から生成される必要があるかもしれない。例えば、RAW画像450の図5E、およびこのRAW画像からの所望の出力合成画像480の図5Fを考える。サブ画像460は、RAW画像中の複数のサブ画像のうちの1つである。合成画像中の円485は、サブ画像460に影響を受けた合成画像の領域を示す。合成画像中でピクセルを表わす位置490を考える。この位置は、位置470aおよび470bにおけるRAW画像の2つのサブ画像において見える試料中のポイントを表す。RAW画像中の位置から合成画像まで(例えば、位置470aまたは470bから490まで)の写像の各々を反転させることにより、合成画像(例えば490)中のピクセルごとに、RAW画像(例えば470aおよび470b)中の適切な位置を見つけることが可能である。RAW画像(例えば470aおよび470b)中の位置から合成画像(例えば位置490)までの写像は、既にプロセス420および430と関連して説明されている。具体的に、写像は、それらが試料の像と同じ配置に成るようにサブ画像を反転することを含み、与えられた距離および/またはピクセル数によってサブ画像を近くに集めることを含んでもよい。RAW画像から合成画像までサブ画像ごとに写像を反転することにより、合成画像中のピクセルごとに写像されるRAW画像中の位置のすべてを見つけることができる。例えば、逆写像は、ピクセル490から位置470aおよび470bまでである。
一般に、RAW画像中の位置(470aおよび470b)は、非整数のピクセル位置の値となり、ピクセル値が整数のピクセル位置のみで得られる場合のRAW画像から推論されるべきである。サブピクセルの精度がサブ画像ごとに試料の像と同じ配置の位置を決定するために使用され、または、精度を増加させかつ合成画像からの人工的な効果を減少するのに必要であるように、あらゆるサブ画像が互いにより近くに移動する場合、そのような非整数のピクセル位置の値が必要である。この理由で、プロセス422で行われるように、必要とされる位置ごとに、RAW画像の値を評価することがしばしば必要である。非整数の位置が必要な場合、他の実施形態は、そのような評価あるいはサブ画像の補間を行なう、当業者に既知の様々な方法を用いることができる。これらの方法は、線状補間、多項式補間およびスプラインを含む。
図4Dに戻ると、プロセス431は、合成画像中のピクセルごとに得られるRAW画像の値を組み合わせる。そのような組み合わせは、プロセス430のために上で挙げられたものを含む様々な方法を含んでよく、試料の詳細あるいはレンズアレイ顕微鏡の構成要素に基づいて選択されてもよい。方法のうちの1つは、サブ画像の試料の像と同じ配置に最も近い位置に対応する値を使用することである。さらに、このことは、より高い信号対雑音比を持つ傾向がある、より明るい位置を使用するという長所を持つ。また、これらの位置は、レンズ収差によって引き起こされる人工的な効果を受けにくい。
他の実施形態では、プロセス431は、RAW画像の値の加重平均を用いることにより、合成画像を生成する。例えば、重みが等しい場合、合成画像の値は、平均して改善された信号対雑音比により合成画像がより少ないノイズを持つような、RAW画像の値の平均値である。あるいは、それぞれの画像の試料の像と同じ配置により近いRAW画像中の位置が、増加した重みを与えられるように、重みが合成画像中の位置に基づいて変わってもよい。これは、合成画像(例えば485)の中の様々な領域間のスムーズな移行をもたらす。光を調整し、レンズアレイによって決定された焦点面および画像感知ユニットの結像面から離れている試料120の部分がある場合、これは重要である。試料120のそのような部分は、合成画像の中でぼかされるように、焦点面から離れて現れる。このことは、以前に説明された実施形態を用いると、合成画像がサブ画像の試料の像と同じ配置に最も近い位置から取られる場合、その位置において急激な変化を持つシャープな物体のような、合成画像中の試料120の部分の見かけより好ましいかもしれない。
図6Aおよび図6Bは、本発明の一実施形態に係る方法400によって処理される前後の典型的な画像を描く実験データを示す画像である。図6Aには、試験試料に対応するRAW入力データが描かれている。図5Aの中で描かれたシミュレーションデータのように、暗領域によって分離された複数のサブ画像が識別されてもよい。さらに、図5Aのシミュレーションデータの中にない、様々な非理想性が、図6Aの中で観察されてもよい。例えば、実験データ中のサブ画像は、わずかに丸いように見え、シミュレーションデータに対応してぼけた端を有する。図6Bには、図6AのRAW入力データに方法400を適用することにより得られる出力画像が描かれている。描かれているように、高解像度を有する試験試料を描くために出力画像が観察される。
図7は、本発明の一実施形態に係る非点光源を備えたレンズアレイ顕微鏡700の簡略図である。図1A、図1Bおよび図1Cの中で描かれた顕微鏡100のように、レンズアレイ顕微鏡700は、照明ユニット710、試料720、レンズ731−739を含むレンズアレイ730、センサ740および画像処理プロセッサ750を備える。しかしながら顕微鏡100と異なり、照明ユニット710は、1組の光源711および712によって表される非点光源を備える。本発明の一実施形態によれば、照明ユニット711及び712は、距離Δだけ離れた2つの別個の光源とみなすことができる。本発明の一実施形態によれば、照明ユニット711および712は、幅Δを有する単一の光源とみなすことができる。本発明の一実施形態において、光源711および712によって発せられた光は、互いに同じかつ/または異なる色、位相、極性、コヒーレンスなどの、互いに同じかつ/または異なる特性を有してもよい。図7には1組の光源711および712が描かれているが、照明ユニット710は本発明の一実施形態に係る3つ以上の照明ユニットを含んでもよいことが理解されるべきである。
本発明の一実施形態によれば、光源711および712が互いに干渉しないような場合、顕微鏡700によって撮像されるサブ画像はそれぞれ、光源711および712の各々に関連したサブ画像の和であってもよい。光源711および712が空間的に分離されているので、図7に描かれるように、光源711および712に関連するサブ画像は、センサ750において距離tで互いにオフセットされる。図1A、図1Bおよび図1Cに関連して派生するレンズ方程式を適用することによって、tの値が次の方程式から与えられることを示すことができる。
本発明の一実施形態によれば、照明ユニット710は、異なるレンズ731−739からのサブ画像がセンサ740でオーバーラップしないように設計されてもよい。情報の損失および/または画質の低下によって、オーバーラップする画像が容易に分離できないため、そのようなオーバーラップは望ましくない。tがd(単一の点光源によって生じるサブ画像間の暗領域の幅)を超過する場合、オーバーラップが生じる。従って、オーバーラップを避けるため、Δの値は、次式に従って制約される。
この制約に基づくと、上記の不等式を満たすΔの最大許容値をΔtとしたとき、照明ユニット710の非点光源は、直径Δtを有する円から光が発するように設計すれば良い。本発明の一実施形態によれば、この制約は、小さな光源711および712を使用すること、照明ユニット710の1つ以上の絞りおよび/またはレンズを構成すること、光源711および712をレンズアレイ730からはるかに遠くに配置すること、レンズアレイ730をセンサ740の近くに配置すること、などの様々な方法で満たされてもよい。
上で議論されさらにここで強調されるように、図7は、単なる例であり、過度にクレームの範囲を制限するべきではない。当業者であれば、多くのバリエーション、代替案および変形を認識するだろう。例えば、光源711および712は試料平面に対して互いに同じ平面にあるように描かれているが、光源711および712は試料720に対して異なる距離に位置してもよい。このような実施形態をさらに進めると、Δtの適切な値を導出するために上記の式に種々の変更を行ってもよい。
画像処理プロセッサ150および750のようなコントローラーの本発明の一実施形態は、1台以上のプロセッサによって実行される時、1台以上のプロセッサに方法400のプロセスを行なわせる実行コードを含む、非一時的で、有形で、機械読み取り可能なメディアを含んでもよい。方法400のプロセスを含んでいるかもしれない、機械読み取り可能なメディアのいくつかの共通の形式は、例えばフロッピーディスク、フレキシブルディスク、ハードディスク、磁気テープ、他の磁気媒体、CD−ROM、他の光学材料、パンチカード、紙テープ、他の穴のパターンを備えた物理的メディア、RAM、PROM、EPROM、FLASH−EPROM、他のメモリーチップやカートリッジおよび/または他のプロセッサやコンピューターが読むのに適したメディアである。
以上、本発明の好適な実施形態について説明し例証したが、これらはあくまで発明の例示であって限定的に考慮されるべきものではなく、追加、削除、置換及び他の変更は本発明の範囲を逸脱しない範囲で可能である。即ち、本発明は前述した実施形態により限定されるものではなく、請求項の範囲によってのみ限定されるものである。
100 レンズアレイ顕微鏡
110 照明ユニット
111 光源
120 試料
130 レンズアレイ
131−139 レンズ
140 センサ
150 画像処理プロセッサ
300 テストパターン
310 領域
320a、320b、320c、320d 領域
330 領域
700 レンズアレイ顕微鏡
710 照明ユニット
711、712 光源(照明ユニット)
720 試料
730 レンズアレイ
731−739 レンズ
740 センサ
750 画像処理プロセッサ
110 照明ユニット
111 光源
120 試料
130 レンズアレイ
131−139 レンズ
140 センサ
150 画像処理プロセッサ
300 テストパターン
310 領域
320a、320b、320c、320d 領域
330 領域
700 レンズアレイ顕微鏡
710 照明ユニット
711、712 光源(照明ユニット)
720 試料
730 レンズアレイ
731−739 レンズ
740 センサ
750 画像処理プロセッサ
Claims (15)
- 照明ユニットと、
結像面上に位置する画像センサと、
概してレンズ平面内にある複数のレンズを含むレンズアレイであって、(i)前記照明ユニットと前記レンズアレイとの間に位置し、(ii)前記結像面に対応する焦点面を有するレンズアレイと、
を備え、
前記複数のレンズは、前記焦点面の一部を含み断片化していない視野を有することを特徴とする顕微鏡。 - 前記照明ユニットは、レンズ、絞り、マスクおよびディフューザのうち1つ以上を含むことを特徴とする請求項1に記載の顕微鏡。
- 前記複数のレンズに対応する複数のサブ画像が、前記画像センサの画像感知側に形成されることを特徴とする請求項1に記載の顕微鏡。
- 前記複数のサブ画像はオーバーラップしないことを特徴とする請求項3に記載の顕微鏡。
- 画像処理部をさらに備え、前記画像処理部は、
前記複数のサブ画像を含む試料の画像データを含む第1の画像データを、前記画像センサから受信し、
前記試料の画像データを持たない第2の画像データを受信し、
前記第1の画像データからバックグラウンドを取り除き、
前記複数のサブ画像の少なくとも1つを試料の像と同じに成るように反転し、
前記複数のサブ画像から前記断片化していない視野に対応する合成画像を生成する
ように構成されていることを特徴とする請求項3に記載の顕微鏡。 - 画像処理部をさらに備え、前記画像処理部は、
前記複数のサブ画像を含むRAW画像データを、前記画像センサから受信し、
前記RAW画像データからバックグラウンドを推定し、
前記RAW画像データからバックグラウンドを取り除き、
前記複数のサブ画像の少なくとも1つを試料の像と同じ配置に成るように反転し、
前記複数のサブ画像から前記断片化していない視野に対応する合成画像を生成する
ように構成されていることを特徴とする請求項3に記載の顕微鏡。 - 画像処理部をさらに備え、前記画像処理部は、
前記複数のサブ画像を含む画像データを、前記画像センサから受信し、
前記断片化していない視野に対応する合成画像中の各ピクセルに写像する前記画像データの少なくとも1つの位置を見つけ、
前記合成画像の複数の位置における複数のRAW画像値を推定し、
前記複数のRAW画像値を結合し、
前記結合された複数のRAW画像値から、前記合成画像を生成し、
前記合成画像からバックグラウンドを取り除く
ように構成されていることを特徴とする請求項3に記載の顕微鏡。 - 複数のレンズを含むレンズアレイと、
照明ユニットと前記レンズアレイとの間に位置する試料を照明する照明ユニットと、
画像感知部と、
を備え、
前記画像感知部は前記レンズアレイの結像面にあり、前記試料は前記レンズアレイの対応する焦点面にあり、
fを前記複数のレンズの焦点距離、bを前記レンズアレイと前記画像感知部との距離、Aを前記レンズアレイと前記照明ユニットとの距離としたとき、
- 前記複数のレンズに対応する複数のサブ画像が、前記画像感知部の画像感知側に形成されることを特徴とする請求項8に記載の顕微鏡。
- 画像処理部をさらに備え、前記画像処理部は、
前記複数のサブ画像を含む試料の画像データを含む第1の画像データを、前記画像感知部から受信し、
前記試料の画像データを持たない第2の画像データを受信し、
前記第1の画像データからバックグラウンドを取り除き、
前記複数のサブ画像の少なくとも1つを試料の像と同じ配置に成るように反転し、
前記複数のサブ画像から合成画像を生成する
ように構成されていることを特徴とする請求項9に記載の顕微鏡。 - 画像処理部をさらに備え、前記画像処理部は、
前記複数のサブ画像を含むRAW画像データを、前記画像感知部から受信し、
前記RAW画像データからバックグラウンドを推定し、
前記RAW画像データからバックグラウンドを取り除き、
前記複数のサブ画像の少なくとも1つを試料の像と同じ配置に成るように反転し、
前記複数のサブ画像から合成画像を生成する
ように構成されていることを特徴とする請求項9に記載の顕微鏡。 - 画像処理部をさらに備え、前記画像処理部は、
前記複数のサブ画像を含む画像データを、前記画像感知部から受信し、
合成画像中の各ピクセルに写像する前記画像データの少なくとも1つの位置を見つけ、
前記合成画像の複数の位置における複数のRAW画像値を推定し、
前記複数のRAW画像値を結合し、
前記結合された複数のRAW画像値から、前記合成画像を生成し、
前記合成画像からバックグラウンドを取り除く
ように構成されていることを特徴とする請求項9に記載の顕微鏡。 - 複数のマイクロレンズを含むマイクロレンズアレイと、
照明ユニットと前記マイクロレンズアレイとの間に位置する試料を照明する照明ユニットと、
画像センサと、
前記複数のサブ画像を含む試料の画像データを含む第1の画像データを、前記画像センサから受信し、前記試料の画像データを持たない第2の画像データを受信し、前記第1の画像データからバックグラウンドを取り除き、前記複数のサブ画像の少なくとも1つを試料の像と同じ配置に成るように反転し、前記複数のサブ画像から合成画像を生成するように構成されている画像処理部と、
を備え、
前記画像センサは前記マイクロレンズアレイの結像面にあり、前記試料は前記マイクロレンズアレイの対応する焦点面にあることを特徴とする顕微鏡。 - 複数のマイクロレンズを含むマイクロレンズアレイと、
照明ユニットと前記マイクロレンズアレイとの間に位置する試料を照明する照明ユニットと、
画像センサと、
前記複数のサブ画像を含むRAW画像データを、前記画像センサから受信し、前記RAW画像データからバックグラウンドを推定し、前記RAW画像データからバックグラウンドを取り除き、前記複数のサブ画像の少なくとも1つを試料の像と同じ配置に成るように反転し、前記複数のサブ画像から合成画像を生成するように構成されている画像処理部と、
を備え、
前記画像センサは前記マイクロレンズアレイの結像面にあり、前記試料は前記マイクロレンズアレイの対応する焦点面にあることを特徴とする顕微鏡。 - 複数のマイクロレンズを含むマイクロレンズアレイと、
照明ユニットと前記マイクロレンズアレイとの間に位置する試料を照明する照明ユニットと、
画像センサと、
前記複数のサブ画像を含む画像データを、前記画像センサから受信し、合成画像中の各ピクセルに写像する前記画像データの少なくとも1つの位置を見つけ、前記合成画像の複数の位置における複数のRAW画像値を推定し、前記複数のRAW画像値を結合し、前記結合された複数のRAW画像値から、前記合成画像を生成し、前記合成画像からバックグラウンドを取り除くように構成されている画像処理部と、
を備え、
前記画像センサは前記マイクロレンズアレイの結像面にあり、前記試料は前記マイクロレンズアレイの対応する焦点面にあることを特徴とする顕微鏡。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/US2015/052973 WO2017058179A1 (en) | 2015-09-29 | 2015-09-29 | Lens array microscope |
US15/425,884 US20170146789A1 (en) | 2015-09-29 | 2017-02-06 | Lens array microscope |
US15/425,884 | 2017-02-06 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018128657A true JP2018128657A (ja) | 2018-08-16 |
Family
ID=54330044
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017058018A Pending JP2018128657A (ja) | 2015-09-29 | 2017-03-23 | レンズアレイ顕微鏡 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20170146789A1 (ja) |
JP (1) | JP2018128657A (ja) |
WO (1) | WO2017058179A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2017060954A1 (ja) | 2015-10-05 | 2018-07-19 | オリンパス株式会社 | 撮像装置 |
FR3043205B1 (fr) * | 2015-11-04 | 2019-12-20 | Commissariat A L'energie Atomique Et Aux Energies Alternatives | Dispositif et procede d’observation d’un objet |
CN106488148B (zh) * | 2016-11-01 | 2019-09-17 | 首都师范大学 | 一种超分辨率图像传感器及其构造方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060291048A1 (en) * | 2001-03-19 | 2006-12-28 | Dmetrix, Inc. | Multi-axis imaging system with single-axis relay |
US9030548B2 (en) * | 2012-03-16 | 2015-05-12 | Dmetrix, Inc. | Correction of a field-of-view overlay in a multi-axis projection imaging system |
US9323038B2 (en) * | 2012-10-28 | 2016-04-26 | Dmetrix, Inc. | Matching object geometry with array microscope geometry |
-
2015
- 2015-09-29 WO PCT/US2015/052973 patent/WO2017058179A1/en active Application Filing
-
2017
- 2017-02-06 US US15/425,884 patent/US20170146789A1/en not_active Abandoned
- 2017-03-23 JP JP2017058018A patent/JP2018128657A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2017058179A1 (en) | 2017-04-06 |
US20170146789A1 (en) | 2017-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Boominathan et al. | Recent advances in lensless imaging | |
EP3374817B1 (en) | Autofocus system for a computational microscope | |
Boominathan et al. | Phlatcam: Designed phase-mask based thin lensless camera | |
McLeod et al. | Unconventional methods of imaging: computational microscopy and compact implementations | |
Li et al. | Imaging through glass diffusers using densely connected convolutional networks | |
Steger et al. | Machine vision algorithms and applications | |
US8841591B2 (en) | Grating-enhanced optical imaging | |
Diederich et al. | Using machine-learning to optimize phase contrast in a low-cost cellphone microscope | |
JP2013542468A (ja) | 走査型投影レンズレス顕微鏡システム | |
Phan et al. | Artificial compound eye systems and their application: A review | |
Xue et al. | 3D face profilometry based on galvanometer scanner with infrared fringe projection in high speed | |
JP2018128657A (ja) | レンズアレイ顕微鏡 | |
Burke et al. | Deflectometry for specular surfaces: an overview | |
JP2014511183A (ja) | Eペトリ皿、eペトリ装置及びeペトリシステム | |
JP6228965B2 (ja) | 三次元屈折率測定方法および三次元屈折率測定装置 | |
Yang et al. | Single-shot smartphone-based quantitative phase imaging using a distorted grating | |
Zhang et al. | Large depth-of-field ultra-compact microscope by progressive optimization and deep learning | |
CN117120884A (zh) | 用于高质量薄透镜成像的神经纳米光学器件 | |
Cossairt | Tradeoffs and limits in computational imaging | |
EP2909671A1 (fr) | Procédé de conception d'un imageur monovoie passif capable d'estimer la profondeur de champ | |
Fontbonne et al. | Experimental validation of hybrid optical–digital imaging system for extended depth-of-field based on co-optimized binary phase masks | |
Wu et al. | Real-time, deep-learning aided lensless microscope | |
Boominathan | Designing miniature computational cameras for photography, microscopy, and artificial intelligence | |
Zhao et al. | Removal of parasitic image due to metal specularity based on digital micromirror device camera | |
Buat et al. | Active chromatic depth from defocus for industrial inspection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20170324 |