JP6112872B2 - 撮像システム、画像処理方法、および撮像装置 - Google Patents

撮像システム、画像処理方法、および撮像装置 Download PDF

Info

Publication number
JP6112872B2
JP6112872B2 JP2013007453A JP2013007453A JP6112872B2 JP 6112872 B2 JP6112872 B2 JP 6112872B2 JP 2013007453 A JP2013007453 A JP 2013007453A JP 2013007453 A JP2013007453 A JP 2013007453A JP 6112872 B2 JP6112872 B2 JP 6112872B2
Authority
JP
Japan
Prior art keywords
imaging
optical system
specimen
image
illumination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013007453A
Other languages
English (en)
Other versions
JP2014137558A (ja
JP2014137558A5 (ja
Inventor
檜垣 欣成
欣成 檜垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013007453A priority Critical patent/JP6112872B2/ja
Priority to US14/441,598 priority patent/US9904046B2/en
Priority to PCT/JP2013/085308 priority patent/WO2014112324A1/en
Publication of JP2014137558A publication Critical patent/JP2014137558A/ja
Publication of JP2014137558A5 publication Critical patent/JP2014137558A5/ja
Application granted granted Critical
Publication of JP6112872B2 publication Critical patent/JP6112872B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/14Condensers affording illumination for phase-contrast observation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor

Description

本発明は、撮像素子を備えた撮システムに関する。
病理標本の画像データ(バーチャルスライド)では、標本の水平方向の情報だけでなく、結像光学系の光軸方向(以下、「光軸方向」と略す)の情報も重要な病理診断の材料である。そのため、顕微鏡において、焦点位置を結像光学系の光軸方向に変化させることにより、標本の複数枚の画像(Z−stack画像)を取得する方法が知られている。
光軸方向における標本の構造を詳細に観察するためには、Z−stack画像を取得する際に変化させる焦点位置の間隔を十分小さくしなければならない。以降、断りがない限り、等間隔で焦点位置を変化させてZ−stack画像を取得するものとし、その間隔を「フォーカスステップ」と呼ぶ。フォーカスステップを決定する基準としてサンプリング定理が知られている。これをZ−stack画像の取得に適用すると、フォーカスステップの逆数が、3次元の光学像が有する光軸方向の空間周波数の最大値の2倍以上であること(ナイキスト条件)が必要となる。以降、ナイキスト条件の対象をフォーカスステップ(光軸方向のサンプリング間隔)に限定し、光軸方向に垂直な水平方向のナイキスト条件は考慮しない。ここで、光学像が有する空間周波数とは、光学像の強度分布データに離散フーリエ変換を行って得られるスペクトルが非0の値をとる周波数の範囲を意味する。ナイキスト条件に従ってフォーカスステップを決定すると、フォーカスステップは照明光の波長のオーダーの比較的小さい値となり、Z−stack画像のデータ容量は膨大となる。この結果、画像の取得、処理、保管に関わるハードウェアのコストの増大や処理時間の増大を招く。
一方、顕微鏡の結像光学系によって規定される解像力に従い、取得した標本の画像は実際の標本に対して劣化する。この劣化を復元するために、特許文献1では、標本のスパース性を考慮しない画像処理だけによって画像復元を行っているが、取得したZ−stack画像の解像度と復元画像の解像度は同一である。そのため、フォーカスステップを大きくし、Z−stack画像の取得に要する時間を短縮すれば、標本の光軸方向の分解能はそれに伴い悪化する。また、ナイキスト条件が満たされない場合、エイリアシング(折り返しひずみ)が発生し、Z−stack画像の光軸方向の構造に偽パターンを発生させる。これを解決するために、補間処理を行いZ−stack画像の光軸方向の解像度を上げることが考えられるが、サンプリング定理によると、ナイキスト条件を満たさない場合には補間の正当性が保証されない。
そこで、近年、圧縮センシングと呼ばれる(Compressed SensingまたはCompressive Sensingなどとも呼ばれる)信号処理技術が注目されている。圧縮センシングとは、ナイキスト条件を満たさずにサンプリングされたデータから正確に観測対象の情報を再構成する技術である。
例えば、非特許文献1は、圧縮センシングをホログラムに応用することにより1枚の画像から標本の3次元の形態情報を再構成する方法を開示している。特許文献2は、光学素子または撮像素子に改良を加え、サンプリング間隔を増大しても得られる情報量が本質的に減らない画像を生成し、取得画像よりも解像度が高い画像を再構成する(超解像処理を行う)方法を開示している。また、特許文献3は、MRI(Magnetic Resonance Imaging)などの断層画像取得装置において、ノイズ抑制項とスパース正則化項とを含む目的関数の最適化により画像再構成を行う方法を開示している。この方法では、解のスパース性を先験情報とする正則化を行っているため、標本の3次元情報がスパース(非0要素数が少ない)であれば、取得データ数を減らしても高精度に再構成することが可能になる。
その他、非特許文献2は顕微鏡による結像について説明し、非特許文献3は圧縮センシングにおける再構成精度について説明している。非特許文献4はTwISTアルゴリズムについて説明し、非特許文献5は弱散乱光学伝達関数について説明している。
米国特許出願公開第2010/0074486号明細書 米国特許第7532772号明細書 米国特許出願公開第2011/0293158号明細書
ディー・ジェー・ブラディ(D. J. Brady)、ケー・チョイ(K. Choi)、ディー・エル・マークス(D. L. Marks)、アール・ホリサキ(R. Horisaki)、エス・リム(S. Lim)著、「コンプレッシブ・ホログラフィ(Compressive Holography)」、オプティクス・エクスプレス(Optics Express)(米国)、オプティカル・ソサエティ・オブ・アメリカ(Optical Society of America)、2009年、第17巻第15号(Vol.17, No.15)、p.13040−13049 ワイ・スング(Y. Sung)、シー・ジェー・アール・シェパード(C. J. R. Sheppard)著、「スリーディメンジョナル・イメージング・バイ・パーシャリー・コヒーレント・ライト・アンダー・ノンパラクシャル・コンディション(Three-dimensional imaging by partially coherent light under nonparaxial condition)」、ジャーナル・オブ・ザ・オプティカル・ソサエティ・オブ・アメリカ・エー(Journal of the Optical Society of America A)、(米国),オプティカル・ソサエティ・オブ・アメリカ(Optical Society of America)、2011年、第28巻第4号(Vol.28, No.4)、p.554−559 ディー・エル・ドノホ(D. L. Donoho)、エム・エラド(M. Elad)、ヴィー・エヌ・テムリャコフ(V. N. Temlyakov)著、「ステイブル・リカバリー・オブ・スパース・オーバーコンプリート・リプレゼンテーション・イン・ザ・プレゼンス・オブ・ノイズ(Stable recovery of sparse overcomplete representations in the presence of noise)」、IEEEトランザクションズ・オン・インフォメーション・セオリー(IEEE Transactions on Information Theory)、(米国)、IEEE、2006年、第52巻第1号(Vol.52, Issue 1)、p.6−18 ジェー・エム・バイオカス・ディアス(J. M. Bioucas-Dias)、エム・エー・ティー・フィギュエイレド(M. A. T. Figueiredo)著、「ア・ニュー・ツイスト:トゥー・ステップ・アイテラティブ・シュリンケージ/スレッショルディング・アルゴリズム・フォー・イメージ・リストレーション(A New TwIST: Two-step iterative shrinkage/thresholding algorithms for image restoration)」, IEEEトランザクションズ・オン・イメージ・プロセッシング(IEEE Transactions on Image Processing)、(米国)、IEEE、2007年、第16巻第12号(Vol.16, Issue12)、p.2992−3004 シー・ジェー・アール・シェパード(C. J. R. Sheppard)、エックス・キュー・マオ(X. Q. Mao)著、「スリーディメンジョナル・イメージング・イン・ア・マイクロスコープ(Three-dimensional imaging in a microscope)」、ジャーナル・オブ・ザ・オプティカル・ソサエティ・オブ・アメリカ・エー(Journal of the Optical Society of America A)、(米国)、オプティカル・ソサエティ・オブ・アメリカ(Optical Society of America)、1989年、第6巻第9号(Vol.6, No.9),p.1260−1269
しかしながら、特許文献1の方法では、標本の光軸方向の分解能を保ちつつZ−stack画像の枚数減らすことは困難であり、取得画像よりも解像度を上げることは、フォーカスステップがナイキスト条件を満たさない場合には原理的に不可能である。特許文献2の方法では、圧縮センシングを用いているものの、Z−stack画像に対する画像再構成方法は開示されていない。また、画像の符号化のために複雑な光学素子または撮像素子を用いる必要があり、装置のコスト増大を招く。特許文献3および非特許文献1の方法では、再構成の精度を向上するために撮像装置に改良を加える方法は開示されていない。
そこで、本発明は、撮像システムにおいて少ない標本の撮像枚数で標本の三次元再構成を精度良く行うことを目的とする。
本発明の撮像システムは、標本を照明する照明光学系と、前記標本の光学像を形成する結像光学系と、前記結像光学系により形成された前記標本の光学像を光電変換する撮像素子と、前記結像光学系の焦点面と前記標本および前記撮像素子の少なくとも一方との、前記結像光学系の光軸方向の相対位置を変化させる駆動手段と、を有し、前記駆動手段により前記相対位置を変化させて前記標本の複数の画像を取得する撮像システムであって、前記照明光学系および前記結像光学系の少なくとも一方の瞳面に、光軸に対して非対称な透過率分布および位相分布の少なくとも一方を生成する光変調手段と、前記複数の画像に対して圧縮センシング再構成アルゴリズムを実行することにより、前記標本の情報を再構成する演算装置と、を備えることを特徴とする。
本発明によれば、撮像システムにおいて少ない標本の撮像枚数で標本の三次元再構成を精度良く行うことができる。
本実施形態の撮像システムの構成を示すブロック図である。 図1に示す撮像システムの動作を説明するフローチャートである。(実施例1) 標本の構造と屈折率分布を示す図である。(実施例1、2) 数値実施例1と従来例の有効光源と結像光学系の瞳関数を示す図である。(実施例1) 数値実施例1のZ−stack画像である。(実施例1) 数値実施例1において再構成された標本を示す図である。(実施例1) 数値実施例2の有効光源と結像光学系の瞳関数を示す図である。(実施例2) 数値実施例2のZ−stack画像である。(実施例2) 数値実施例2において再構成された標本を示す図である。(実施例2) 標本の構造と発光強度分布を示す図である。(実施例3) 数値実施例3の結像光学系の瞳関数を示す図である。(実施例3) 数値実施例3のZ−stack画像である。(実施例3) 数値実施例3において再構成された標本を示す図である。(実施例3)
図1は、本実施形態に係る撮像システムの構成を示すブロック図である。本発明は、撮像装置として具現化することもできるし、撮像装置とコンピュータ(さらには表示装置)を組み合わせた撮像システムとして具現化することもできる。このような撮像装置または撮像システムは、バーチャルスライド作成システムやデジタル顕微鏡として好適であり、例えば病理診断等の用途に非常に有用である。
図1に示すように、本実施形態の撮像システムは、撮像装置10とコンピュータ(PC)503から構成され、PC503には表示装置504および入力装置505が接続されている。また、撮像装置10またはPC503に、記憶装置501および演算装置502が接続されている。但し、図1のシステム構成は一例にすぎず、撮像装置10とPC503を一体構成にし、撮像装置が演算手段を含んでもよい。あるいは、記憶装置501、演算装置502、表示装置504、入力装置505のいずれかまたはすべてを撮像装置10あるいはPC503に一体構成にしてもよい。
図1に示すように、撮像装置10は、照明光学系100、標本ステージ201、結像光学系300、撮像素子401などを備えている。撮像装置10は明視野顕微鏡や蛍光顕微鏡を含むことができる。
照明光学系100は、光源101、照明光変調手段102、光学系103を備え、標本を照明する。
光源101としては、標本を明視野観察する場合には、例えば、ハロゲンランプやLED(Light Emitting Diode)を用いる。標本を蛍光観察する場合には、LEDの他にキセノンランプやレーザー光源などを用いる場合もある。
照明光変調手段102は、照明光学系100の瞳面の透過率分布(透過光の強度分布)および位相分布の少なくとも一方を調整する。照明光変調手段102は、駆動手段が相対位置を変化させる毎に、照明光学系100の瞳面の透過率分布(透過光の強度分布)および位相分布の少なくとも一方を調整してもよい。照明光変調手段102は、有効光源または標本上における照明光の強度分布を所望の分布に固定または自在に変化させ、例えば、照明光学系の瞳面の近傍に配置される可動絞り、開口部を有する遮光板、空間光変調器など用いることができる。
なお、有効光源とは明視野標準顕微鏡において、標本がない場合に結像光学系の瞳面に形成される照明光変調手段102の射出光の像であり、有効光源の分布が解像力や焦点深度に影響を与えることが一般的に知られている。照明光変調手段102は、結像光学系の瞳面と光学的に共役な関係にある。図1の照明光変調手段102は透光性の素子として図示しているが、DMD(デジタルマイクロミラーデバイス)のような反射型の素子でもよい。
照明光学系100からの射出光は、標本ステージ201に載置された標本202に導かれる。標本ステージ201は、複数の標本を自動的に逐次観察するために、観察が終了した標本202を排出する機構(不図示)、および次に観察する標本202をカセットなどの標本保持手段から取り出して送り込む機構(不図示)と連携していてもよい。しかし、標本202は必ずしも自動的に交換される必要はなく、手動で標本202を交換する形態をとってもよい。また、標本ステージ201は、標本202を結像光学系300の光軸方向に微小変位させるための駆動機構を備えていてもよい。この駆動機構を動作して複数枚の画像を取得することにより、Z−stack画像を得ることができる。標本202は、組織片などの観察対象をスライドグラス上に載置し、これを透光性のカバーグラスで覆って固定したプレパラートであってもよい。
結像光学系300は、光変調手段301および光学素子群(レンズ群)302を備え、標本の光学像を結像する。光変調手段301は、照明光変調手段102と同様の素子が用いられ、射出光の強度分布、位相分布あるいはその両方を所望の分布に固定または自在に変化させる。図1は、明視野標準顕微鏡を想定した模式図であるが、これに限定される必要はなく、蛍光顕微鏡であってもよいし、位相コントラスト法や微分干渉法などの方式の結像光学系でもよい。
撮像素子401は、結像光学系300が像面に形成する標本202の光学像を光電変換して伝送する。また、撮像素子401を結像光学系300の光軸方向に微小変位させるための駆動機構を備えていてもよい。この駆動機構を動作して複数枚の画像を取得することにより、Z−stack画像を得ることができる。撮像素子401は、PC503、あるいは、記憶装置501、演算装置502に信号を伝送できる形で接続されている。
このように撮像装置10は、結像光学系300の焦点面と標本202及び撮像素子401の少なくとも一方の光軸方向の相対位置を変化させる駆動手段を備え、この駆動手段によって相対位置を変化させて標本202の複数の画像を取得する。
標本202の3次元情報の再構成処理を画像取得後に直ちに行わない場合には、撮像素子401からPC503あるいは記憶装置501に画像データが伝送され、蓄積される。ここで、3次元情報とは、例えば標本202の屈折率、消衰係数、蛍光強度などの物理量に関する3次元分布を表すデータである。再構成処理を画像取得後に直ちに行う場合には、PC503あるいは演算装置502に画像データが伝送され、標本202の3次元情報の再構成処理を行う。再構成されたデータは、ユーザの入力装置505を介しての指示またはPC503に格納されている情報に基づき、表示装置504に表示される処理、PC503あるいは記憶装置501に伝送され蓄積される処理のいずれか、もしくは両方が実行される。
なお、図1における撮像装置10以外の全てのモジュールは必ずしも撮像装置10と直接接続されている必要はない。例えば、撮像装置10はLAN(Local Area Netwoek)やクラウドサービスを介して遠隔地のサーバに接続されていてもよい。そのような場合には、撮像装置10以外のモジュールの実体は、遠隔地のサーバ上に存在する。このメリットとして、配置やコストの制約から撮像装置10と演算装置502などの周辺機器とを一体化できない場合にも再構成処理が実行可能になる点、最新の性能の演算装置を常時利用できる点、遠隔地間でデータを共有できる点などが挙げられる。
次に、PC503あるいは演算装置502が実行する、標本202の3次元情報の再構成処理について説明する。演算装置502は、Z−stack画像に対して圧縮センシング再構成アルゴリズムを実行し、Z−stack画像の全画素数よりもデータ要素数が多い標本の情報を再構成する。
以下では、撮像素子401を結像光学系300の光軸方向に微小変位させることによりZ−stack画像を取得する場合を想定するが、標本ステージ201を微小変位させる方法を用いてもよい。また像面の座標系の定義として、3次元直交座標系の1つの座標軸(Z軸とする)を結像光学系300の光軸方向に平行にとり、標本表面に共役な位置をZ=0、像面から標本に向かう方向を正の方向とする。
まず、再構成処理の前提となる顕微鏡による結像の定式化について説明する。明視野標準顕微鏡の場合には、部分コヒーレント結像系であるために、厳密には標本と光学像の関係は非線形である。しかし、標本が透明に近く0次以外の回折光が0次回折光(直進光)に比べて相対的に微弱である場合には、0次以外の回折光どうしの干渉を無視することにより線形な関係に近似することができる。この仮定に基づけば、Z座標がZに位置するXY平面上の2次元光学像I(X,Y,Z)は数式(1)および(2)を用いて表される。
ここで、nは背景屈折率、n(x,y,z)は標本内部の座標(x,y,z)における複素屈折率、FTは3次元フーリエ変換、(f,g,h)は周波数空間の3次元座標、(X,Y,Z)は像面近傍の3次元座標、Reは複素数の実部を出力する演算を表す。背景屈折率とは、構造物の間を均質に埋める透光性の物質の屈折率である。病理標本の場合には、カバーグラスとスライドグラスの間を一様に満たす透光性の物質、即ち、封入剤や組織片内部の細胞間質の屈折率が具体例として挙げられる。複素屈折率は実部が屈折率、虚部が消衰係数を表し、Tは一般に散乱ポテンシャルと呼ばれる。周波数空間における3次元の関数であるC(f,g,h)は弱散乱光学伝達関数であり、有効光源と結像光学系300の瞳関数とから一意に決定される。有効光源はf,gの2次元座標平面内で定義される強度分布であり、瞳関数はf,gの2次元座標平面内で定義される複素透過率分布である。瞳関数の各点の複素値の絶対値が振幅透過率、同じく偏角が透過光における位相の相対変化量を意味する。また、Iは全面で一様な強度を有する背景光を表す定数、αは(f,g,h)のサンプリング間隔とTの3次元フーリエスペクトルの原点の値の複素共役との積から決定される定数である。非特許文献2には、数式(1)のさらに詳しい説明がある。
数値計算を可能にするために、(f,g,h)を等間隔の離散的な座標とし、数式(1)の3重積分を和に書き換え、FTを3次元離散フーリエ変換と定義し直す。その結果、数式(1)は数式(3)〜(7)に示すように行列とベクトルの積を用いて表すことができる。
ここで、(x,y,z)、(X,Y,Z)、(f,g,h)の3つの座標系において、数式(1)の演算を行う座標の点数をN×N×Nとする。例えば、f軸上のN個の座標{f,f,...,fNx}を用いて数式(5)〜(7)の行列を形成する。また、N枚のZ−stack画像を取得する個々のZ座標を{Z,Z,...,Z}とし、数式(1)のZはこのいずれかであるとする。
このとき数式(3)のIは、これらのZに対して数式(1)によって決定されるZ−stack画像の全画素の輝度値を格納したN×N×N行1列のベクトル(複数の画像を結合し定数を減算して得られるM行1列のベクトル)である。nはN×N×N行1列のベクトル(標本202の3次元屈折率分布を表すN行1列のベクトル)、・は行列の同じ位置の要素どうしの積(アダマール積)をとる演算子である。ΦはN×N×N行N×N×N列の複素行列である(M行N列の行列)。Tは数式(4)で定義されるN×N×Nz行1列のベクトル(標本202の3次元情報を表すN行1列のベクトル)である。1は全要素を1とするN×N×N行1列のベクトルである。
数式(3)からわかるように、標本の3次元情報である散乱ポテンシャルTとZ−stack画像Iの間には線形な関係がある。このように、観測データと再構成対象の間に線形な関係があり、なおかつ再構成対象のデータ要素数より観測データの要素数の方が少ない場合には、圧縮センシングを応用することにより初めて標本情報の精確な再構成が可能になる。なお、要素数とはデータが有する数値の数ないしはベクトルの次元を意味し、例えば画像の画素数や標本の屈折率分布を表す値の数を指すが、これらに限定されることはない。また、再構成対象のデータ要素数に対し観測データの要素数が同一または多い場合にも再構成可能であることは言うまでもない。
一方、蛍光顕微鏡はインコヒーレント結像であることが知られており、Z座標がZに位置するXY平面上の2次元光学像I(X,Y,Z)は数式(8)で表される。
ここで、OTFは結像光学系300の光学伝達関数であり、Oは標本の蛍光強度分布を表す。
明視野標準顕微鏡の場合と同様に、数式(8)の右辺は数式(9)〜(13)に示すように行列とベクトルの積で表すことができ、この線形性に基づき圧縮センシングを適用することができる。
次に、前述の結像式に基づいた散乱ポテンシャルTまたは蛍光強度分布Oの3次元分布の再構成方法を説明する。
圧縮センシングでは、必要に応じて符号化手段を介して観測データの取得を行い、観測データに基づいてスパースな解を推定する再構成アルゴリズムを実行することで、観測データよりも要素数が多い再構成データを高精度に得ることができる。この再構成アルゴリズムを、以降では「圧縮センシング再構成アルゴリズム」、または単に「再構成アルゴリズム」と呼ぶ。
再構成が成功するためには、再構成の対象であるデータはスパースであることが望ましい。一方で符号化は、明視野標準顕微鏡の場合には照明光変調手段102と光変調手段301の一方または両方に適切な透過率または位相の変調を与えることによって実現される。例えば、照明光変調手段102と光変調手段301の少なくとも一方の瞳面に、光軸に対して非対称な透過率分布および位相分布の少なくとも一方を生成することで精度の高い再構成が可能になる。
一般的に圧縮センシングにおける符号化の目的は、再構成精度が理論上保証されるような観測データを得ることであり、ガウス乱数に基づいた変調を与える方法が従来より知られている。しかしながら、光学系を介して撮像を行う場合、結像光学系の瞳面において透過光の振幅または位相にガウス乱数に基づいた変調を与えるだけでは、標本の3次元情報の再構成において十分な精度を得ることができない。一方で、実施形態において明らかにされるように、前述のような非対称な透過率または位相の分布を与えることで再構成精度を向上させることができる。
ここで、光軸に対して非対称な透過率または位相の分布が再構成精度を向上する理由について説明する。ΦまたはΦのi列目の列ベクトルをφと記すことにすると、一般的に圧縮センシングにおける再構成精度は、数式(14)で定義されるコヒーレンスμによって決定されることが知られている。
ここで、NはΦまたはΦの列数、<>は内積、右辺の分母は2つの列ベクトルのL2ノルムの積を表している。コヒーレンスμの意味は、観測過程を表現する行列の列間の相関の度合いの最大値である。コヒーレンスμは正の実数値をとり、圧縮センシングにおいてはこの値が0に近いほど再構成精度が高くなるとされている。これに対し、前述のような非対称な透過率分布を用いると、結果としてΦまたはΦのコヒーレンスが低下するため、圧縮センシングにおける再構成精度を向上させることが可能になる。非特許文献3には、コヒーレンスに関するさらに詳しい説明がある。なお、数式(14)で定義されるコヒーレンスは、光学的な可干渉性を意味するコヒーレンスとは無関係であることに注意されたい。
この再構成アルゴリズムは、数式(5)や数式(11)により定義される、観測データと標本情報の線形な関係を記述する行列Φと、観測データIとに基づき、数式(15)に示される最小化問題を数値的に解く。
ここで、argminは右に記述された関数が最小値をとるときの変数の値を出力する演算、左辺のθは右辺の関数を最小にする解の推定値である。右辺第1項は推定残差のL2ノルムを表し、ΦXは前述のΦまたはΦ、θは前述のTまたはOである。右辺第2項は正則化項と呼ばれ、圧縮センシングにおいてはθがスパースであるほど小さい値をとる性質を持つ関数が一般的に用いられる。λは正則化パラメータと呼ばれる定数であるが、後述する再構成の反復処理の途中で値を変更してもよい。この正則化項が、スパースなθを高精度に再構成するための決定的な要因である。ΨとしてはθのL1ノルムが代表的であるが、それ以外にも、例えば、数式(16)で定義されるTV(Total Variation)ノルムや、数式(17)〜(19)で定義される関数を用いても同様の効果を得ることができる。
ここで、θの添字のnは、標本内のN×N×N個のサンプリング点のn番目の座標における値であることを示している。またσは定数で、対象に応じて適切な値を予め設定する。
数式(15)に示される最小化問題を解くアルゴリズムとして、例えば非特許文献3で開示されているTwISTアルゴリズムが挙げられる。非特許文献4には、TwISTアルゴリズムの詳しい説明がある。しかし、これに限定される必要はなく、線形な観測から得られたデータからスパースな解を推定することを目的とした一般的なアルゴリズムを適用することができる。さらには、数式(15)に示される目的関数に限定される必要はなく、例えば正則化項を複数有する目的関数でもよい。
図2を参照して、図1に示す撮像システムにおける、標本202の画像の取得と3次元情報の再構成に係る動作を説明する。実施例1では、撮像装置10は、明視野標準顕微鏡であり、照明光変調手段102の光学特性が圧縮センシングに好適な調整をされた構成である。図2は、実施例1の処理手順を示すフローチャートであり、「S」は「ステップ(工程)の略である。図2に示すフローチャートはコンピュータに各ステップの機能を実現させるためのプログラムとして具現化が可能である。
S201では、標本202を標本ステージ201に設置する。例えば、標本ステージ201と連携する自動送り込み機構が、カセットなどの標本保持手段から標本202を取り出して標本ステージ201上に設置する。なお、この設置は自動でなく、ユーザ自身が手動で行ってもよい。
S202では、結像光学系300の焦点面と標本または撮像素子との相対位置を調整する。例えば、標本ステージ201が付随する駆動機構を備える場合には、結像光学系300の光軸方向における標本202の位置が設定された値になるよう必要に応じて微小変位させる。この代わりに、撮像素子401に付随する駆動機構が、撮像素子401を結像光学系300の光軸方向に微小変位させてもよい。さらには、結像光学系300のレンズを駆動することにより標本に対する焦点面の相対位置を変化させてもよい。
S203では、画像の取得を行う。具体的には、照明光学系100が光源101から発せられた光を標本202に導いた状態で、撮像素子401は結像光学系300を介して標本202の像を取得する。
ここで、照明光学系100の瞳面近傍に配置された照明光変調手段102の透過率分布が可変であり、なおかつ照明光変調手段102の現在の状態と撮像のための設定とが異なる場合には、S203の前に照明光変調手段102を指定された状態に調整しておく。
照明光変調手段102の透過率分布として、例えば光軸に対し非対称であること、圧縮センシングを行わない通常の撮像条件に比べ開口面積が小さいことが望ましい。もし、圧縮センシングを行わない通常の撮像を行った後に圧縮センシングによる撮像を行う場合には、照明光変調手段102の光学特性を圧縮センシングに適した条件に変化させた後に、S203の処理に進む。
なお、圧縮センシングを行う場合に、結像光学系300の瞳面近傍に光変調手段301が配置されている場合、その光学特性を照明光変調手段102と同時に変化させてもよい。
S203の後、指示された条件のZ−stack画像を全て取得していない場合には(S204のNO)、S202とS203の一連の処理を、指示された条件のZ−stack画像を全て取得するまで繰り返す。
既定の全ての条件で取得された(S204のYES)画像データは、記憶装置501または他の記憶手段(不図示)に一時的に格納されてもよいし、直ちに撮像素子401からPC503あるいは演算装置502に伝送されてもよい。
標本202の3次元情報を再構成する場合(S205のYES)、S206において、取得されたZ−stack画像をPC503あるいは演算装置502に伝送する。再構成を行わない場合には(S205のNO)、S208において、Z−stack画像は記憶装置501またはPC503に伝送され蓄積する。
S207では、PC503あるいは演算装置502は取得された画像データと撮像条件の情報とに基づき、標本202の3次元情報の再構成処理を実行する。この処理は、複数の演算装置に分散し並列して実行してもよいし、ネットワークを介して接続された演算装置(不図示)上で実行してもよい。
本実施形態では、照明光学系と結像光学系の少なくとも一つの瞳面は、光軸に対して非対称透過率分布(透過光の強度分布)および位相分布の少なくとも一方を有し、この構成のもとで複数の画像に対して圧縮センシング再構成アルゴリズムを実行している。このため、S202とS203で取得する必要枚数は本実施形態を適用しない場合よりも少なくなる。
S208の後のS209では、ユーザからの指示または事前の設定に従い、再構成された標本202の3次元情報を表示装置504に表示する。この表示を行うために、再構成された3次元情報を一旦カラーまたは濃淡画像の集合としての体積データに変換する。その体積データの断面を表示してもよいし、透過性を持たせたり、閾値処理により表示・非表示領域に分離した上でPC503等が備えるレンダリング機能を利用して立体的に表示したりしてもよい。
以上の手順において、撮像と再構成処理の間にタイムラグがあってもよい。例えば、次のようなユースケースが想定される。多数の標本に対して圧縮センシングによる撮像を行い、取得したZ−stack画像を記憶装置501等に蓄積する。その後ユーザが必要に応じて選択した標本のデータに対してだけ再構成処理を行う。これは、長期的に蓄積されるデータ容量は抑えつつ、全ての標本について高解像度のデータを提供することを可能にし、データ保管に係るコストの低減をもたらす。
次に、実施例1の数値実施例を説明する。
(数値実施例1)
照明光学系100から標本に照射される照明光の波長を550nm、結像光学系300の標本側の開口数を0.7、倍率は説明の都合上1倍とする。標本は、図3(a)に示すランダムに配置された微粒子の集合とする。即ち、図3(a)は真の標本の三次元形状を表している。微粒子は半径0.25μm、屈折率1.1であり、微粒子の周りの背景屈折率は1.0、全微粒子が空間に占める体積比率は2.0%とする。また、図3(b)に、図3(a)に示されたy=0を通る断面における屈折率分布を示す。
結像光学系300の標本側の焦点深度Dは数式(20)で表され、上記の条件におけるDの値は0.96μmである。
ここで、λは照明光の波長、NAは結像光学系300の標本側の開口数を表す。また、像側の焦点深度は、数式(20)においてNAを像側の開口数とすることで得られる。弱散乱光学伝達関数が非0の値を有する空間周波数座標h方向の領域幅は、Dの逆数と一致する。この理由は、例えば、非特許文献5に、詳しい説明がある。
このため、サンプリング定理に基づけば、光軸方向にはこの焦点深度Dよりも小さい間隔でZ−stack画像を取得しなければ、取得した以上の解像度で標本の光軸方向の情報を精確に再構成することは不可能である。数値実施例1では、標本の相対位置の変化量は焦点深度Dよりも大きい。Z軸方向の画像取得間隔、即ち、フォーカスステップが0.96μm以下であることをナイキスト条件と呼ぶ。
なお、撮像素子401を駆動する場合、結像光学系300の像側の焦点深度D’は数式(21)で表され、数値実施例1では、撮像素子の相対位置の変化量が焦点深度D’よりも大きくなる。ここで、NA’は、前記結像光学系の像側の開口数である。
Z−stack画像を取得するZ座標は、Z=±1.1μm、Z=0.0μmの3点とする。即ち、像面近傍に形成される標本202の3次元光強度分布から、Z=±1.1μm、Z=0.0μmを通りZ軸に直交する3つの断面を、撮像素子401によって取得する。なお、本実施形態では有効光源および瞳関数を固定した状態でZ−stack画像を取得する画像処理方法を開示しているが、Z−stack画像の各画像を取得する度に有効光源、瞳関数、またはその両方を変化させてもよい。
図4(a)は数値実施例1の照明光学系100の瞳面の有効光源分布を表し、図4(b)は従来例の照明光学系100の瞳面の有効光源分布を表し、図4(c)は数値実施例1の結像光学系300の瞳面の透過率分布を表している。有効光源は図4(a)に示す白色部が一様な強度で光を射出しており、光軸からずれた位置に一重極の透過率分布を有する。一重極の面積は直径dの円の面積以下であり、dの値は瞳の半径の1%から20%である。結像光学系300の瞳関数は図4(c)に示す白色部が一様な強度で光を透過しているものとする。図4の座標軸f,gは、X,Y方向の空間周波数をNA/λで除して規格化した値を示している。また、図4に示す有効光源は光射出部が相対的に小さいためにコヒーレント照明に近いが、有効光源の光射出部をより大きくすることも可能である。
図4(a)の有効光源を用いた場合の行列Φのコヒーレンスμの値は、Φの実部については0.0048、Φの虚部については0.0032である。一方、図4(b)の有効光源を用いた場合の行列Φのコヒーレンスμの値は、Φの実部については8.4003、Φの虚部については1.1680である。これにより、図4(a)の有効光源の方が再構成精度が高いと推測できる。
図5は、図4(a)および図4(c)の光学系の条件で数式(3)に基づき計算される3次元光強度分布から取得された3枚のZ−stack画像を示す。図5(a)はZ=−1.1μm、図5(b)はZ=0.0μm、図5(c)はZ=+1.1μmの画像である。なお、以降では有効光源とは、照明光変調手段102から射出される透過光の強度分布を意味する。同様に、瞳関数とは、光変調手段301の透過率分布を意味する。
この3枚のZ−stack画像を用いて、数式(3)に基づき数式(15)の解をTwISTアルゴリズムを用いて算出する。再構成処理を行う演算装置502は、撮像装置10と一体でもよいし、ネットワークを介して接続されていてもよい。
数式(15)の正則化項をL1ノルム、正則化パラメータを5E−5として再構成された3次元屈折率分布を、最大値の30%を閾値として2値化した結果を図6(a)に示す。これは、標本202の3次元形態情報がナイキスト条件を満たさないZ−stack画像から再構成できることを示している。また、図6(b)に、y=0を通る断面における再構成された屈折率分布を示す。これを定量評価するために、数式(21)のRMSE(Root Mean Square Error)を定義する。
ここで、nは標本202の真の3次元屈折率分布、nは再構成された屈折率分布である。図6の再構成された屈折率分布に対するRMSEの値は1.09E−2である。
一方、図4(b)に示す従来例の照明光学系の有効光源と図4(c)に示す結像光学系300の瞳関数を用いた場合には、RMSEの値は1.23E−2となる。このように、標本202の3次元屈折率分布は、ナイキスト条件を満たさないZ−stack画像から一定の誤差範囲内で再構成でき、さらには光軸に非対称な有効光源を用いる符号化により誤差が低減する。
図2を参照して、図1に示す撮像システムにおける、標本202の画像の取得と3次元情報の再構成に係る動作を説明する。実施例2は、撮像装置10が明視野標準顕微鏡であり、光変調手段301の光学特性が圧縮センシングに好適な調整をされた構成である。なお、実施例1と同一の動作については説明を省略する。
図2のS201およびS202の動作の後、照明光学系100が光源101から発せられた光を標本202に導いた状態で、撮像素子401は結像光学系300を介して標本202の像を取得する(図2のS203に対応する)。ここで、結像光学系300の瞳面近傍に配置された光変調手段301の光学特性(透過率または位相変調量)が可変であり、かつ光変調手段301の現在の状態と撮像の設定が異なる場合には、S203の前に光変調手段301を指定された状態に調整しておく。この時、光変調手段301の透過率または位相の分布は光軸に対し非対称であることが望ましい。もし、圧縮センシングを行わない通常の撮像を行った後に圧縮センシングによる撮像を行うならば、光変調手段301の光学特性を圧縮センシングに適した条件に変化させた後に、S203の処理に進む。なお、圧縮センシングを行う場合に、照明光学系100の瞳面近傍に配置された照明光変調手段102の光学特性を光変調手段301と同時に変化させてもよい。この後の動作は、実施例1と同様である。
次に、実施例2の数値実施例を説明する。
(数値実施例2)
数値実施例2の波長、開口数、倍率、ナイキスト条件、標本、Z−stack画像を取得するZ座標は、実施例1と同じである。なお、有効光源は図7(a)に示す白色部が一様な強度で光を射出している。また、結像光学系300の瞳関数は、図7(b)に示す透過率分布と、図7(c)にラジアン単位で示した位相分布を有するとする。図7(c)の位相分布は、標準偏差πの正規乱数により各点独立に生成している。このような結像光学系の瞳は、例えば液晶SLMなどを用いることで実現することができる。なお、図7の座標軸f,gは、X,Y方向の空間周波数をNA/λで除して規格化した値を示している。
図7の有効光源および瞳関数を用いた場合の行列Φのコヒーレンスμの値は、Φの実部については0.0083、Φの虚部については0.0080である。一方、図7の有効光源および瞳関数を用い、図7(c)の位相分布を一様分布に変えた場合のμの値は、Φの実部については0.1056、Φの虚部については0.1016である。このことより、瞳面の透過率分布のみならず位相分布が非対称性を有することにより、再構成精度が向上することが推測できる。
この条件において、数式(3)に基づき計算される3次元光強度分布から取得された3枚のZ−stack画像を図8に示す。図8(a)はZ=−1.1μm、図8(b)はZ=0.0μm、図8(c)はZ=+1.1μmの画像である。
この3枚のZ−stack画像を用いて、数式(3)に基づき数式(15)の解をTwISTアルゴリズムを用いて算出する。数式(15)は実施例1と同じとし、再構成された3次元屈折率分布をその最大値の30%を閾値として2値化した結果を図9(a)に示す。これは、標本202の3次元形態情報がナイキスト条件を満たさないZ−stack画像から再構成できることを示している。また、図9(b)に、y=0を通る断面における再構成された屈折率分布を示す。図9の再構成された屈折率分布に対するRMSEの値は1.13E−2である。なお、図7(c)の位相分布を一様分布に変えた場合に再構成された屈折率分布に対するRMSEの値は1.29E−2である。図9から分かるように、標本202の3次元屈折率分布は、ナイキスト条件を満たさないZ−stack画像から一定の誤差範囲内で再構成でき、さらには光軸に非対称な瞳関数を用いることにより誤差が低減する。
次に、図1に示す撮像装置10が蛍光顕微鏡である場合の、標本202の画像の取得と3次元情報の再構成に係る動作を説明する。なお、実施例1と同一の動作については説明を省略する。
標本202は蛍光観察用の染色をされており、後述の照明光に対して蛍光色素が存在する特定の部位が発光する。
一般に、蛍光顕微鏡は照明光学系100に絞り等の照明光変調手段102を備えていない。そのため、光変調手段301だけを必要に応じて調整した後、撮像素子401は結像光学系300を介して標本202の像を取得する(図2のS203に対応する)。なお、実施例1において述べたように、Z−stack画像の各画像を取得する度に瞳関数を変化させてもよい。
次に、実施例3の数値実施例を説明する。
(数値実施例3)
撮像装置10は蛍光顕微鏡であるとし、蛍光色素が発する単色光の波長を550nm、結像光学系300の標本側の開口数を0.7、倍率は説明の都合上1倍とする。ナイキスト条件は実施例1と同じである。標本は、図10(a)に示すランダムに配置された微粒子の集合とする。この微粒子は半径0.25μmで、全微粒子が空間に占める体積比率は2.0%とする。なお、微粒子だけが強度1(任意単位)で発光し、微粒子を除く背景部分は全く発光しないものとする。また、図10(b)に、図10(a)に示されたy=0を通る断面における発光強度分布を示す。
Z−stack画像を取得するZ座標は、Z=±1.1μm、Z=0.0μmの3点とする。即ち、像面近傍に形成される標本202の3次元光強度分布の、Z=±1.1μm、Z=0.0μmを通りZ軸に直交する3つの断面を、撮像素子401によって取得する。
結像光学系300の瞳面が図11に示す透過率分布を有する場合に、数式(9)に基づき計算される3次元光強度分布から取得された3枚のZ−stack画像を図12に示す。図12(a)はZ=−1.1μm、図12(b)はZ=0.0μm、図12(c)はZ=+1.1μmの画像である。なお、蛍光観察の場合には、インコヒーレント結像系であるため有効光源の影響はなく、本実施形態においては上記波長で発光させるための励起光が標本に一様に照明されていると仮定する。
この3枚のZ−stack画像を用いて、数式(9)に基づき数式(15)の解をTwISTアルゴリズムを用いて算出する。数式(15)の正則化項をTVノルム、正則化パラメータを1E−4として再構成された3次元発光強度分布を、最大値の1%を閾値として2値化した結果を図13(a)に示す。また、図13(b)に、y=0を通る断面における再構成された発光強度分布を示す。図13の再構成された発光強度分布に対するRMSEの値は1.31E−2である。一方、瞳が一様な透過率分布を有する場合にはRMSEの値は1.35E−2であり、光軸に対して非対称な透過率分布が再構成に有効である。図13と図10とを比較すると、標本202の3次元形態情報がナイキスト条件を満たさないZ−stack画像から推定できることを示している。
以上、本実施形態について説明したが、本発明は本実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
本発明は、バーチャルスライド作成システム、デジタル顕微鏡など標本の3次元情報を取得する撮像装置に応用できる。
10…撮像装置、100…照明光学系、202…標本、300…結像光学系、401…撮像素子

Claims (15)

  1. 標本を照明する照明光学系と、
    前記標本の光学像を形成する結像光学系と、
    記結像光学系により形成された前記標本の光学像を光電変換する撮像素子と、
    前記結像光学系の焦点面と前記標本および前記撮像素子の少なくとも一方との、前記結像光学系の光軸方向の相対位置を変化させる駆動手段と、を有し、
    前記駆動手段により前記相対位置を変化させて前記標本の複数の画像を取得する撮像システムであって、
    前記照明光学系および前記結像光学系の少なくとも一方の瞳面に、光軸に対して非対称な透過率分布および位相分布の少なくとも一方を生成する光変調手段と、
    前記複数の画像に対して圧縮センシング再構成アルゴリズムを実行することにより、前記標本の情報を再構成する演算装置と、を備えることを特徴とする撮像システム
  2. 前記駆動手段は前記標本の前記光軸方向の位置を変化させ、
    前記結像光学系の標本側の焦点深度をD、前記結像光学系の標本側の開口数をNA、前記照明光学系による照明光の波長をλとすると、

    を満たし、前記標本の位置の変化量はDよりも大きいことを特徴とする請求項1に記載の撮像システム
  3. 前記駆動手段は前記撮像素子の前記光軸方向の位置を変化させ、
    前記結像光学系の像側の焦点深度をD’、前記結像光学系の像側の開口数をNA’、前記照明光学系による照明光の波長をλとすると、

    を満たし、前記撮像素子の位置の変化量はD’よりも大きいことを特徴とする請求項1に記載の撮像システム
  4. 前記光変調手段は、前記照明光学系および前記結像光学系の両方の瞳面に、前記光軸に対して非対称な透過率分布および位相分布の少なくとも一方を生成することを特徴とする請求項1乃至3のうちいずれか1項に記載の撮像システム
  5. 前記照明光学系と前記結像光学系とは部分コヒーレント結像系を形成することを特徴とする請求項1乃至4のうちいずれか1項に記載の撮像システム
  6. 前記照明光学系と前記結像光学系とはインコヒーレント結像系を形成し、
    前記光変調手段は、前記結像光学系の瞳面に、前記光軸に対して非対称な透過率分布および位相分布の少なくとも一方を生成することを特徴とする請求項1乃至3のうちいずれか1項に記載の撮像システム
  7. 前記照明光学系の瞳面は、前記光軸からずれた位置に一重極の透過率分布を有し、前記一重極の面積は直径dの円の面積以下であり、dの値は瞳面の半径の1%から20%であることを特徴とする請求項1乃至5のうちいずれか1項に記載の撮像システム
  8. 前記演算装置は、前記標本の複数の画像の全画素数よりもデータ要素数が多い前記標本の情報を再構成することを特徴とする請求項1乃至7のうちいずれか1項に記載の撮像システム
  9. 前記演算装置により再構成される前記標本の情報は、屈折率、消衰係数、蛍光強度の少なくとも1つを含むことを特徴とする請求項1乃至のうちいずれか1項に記載の撮像システム
  10. 前記光変調手段は、前記駆動手段が前記相対位置を変化させる毎に、前記照明光学系および前記結像光学系の少なくとも一方の瞳面の、透過率分布および位相分布の少なくとも一方を調整することを特徴とする請求項1乃至のうちいずれか1項に記載の撮像システム
  11. 前記光変調手段は、前記照明光学系および前記結像光学系の少なくとも一方の瞳面の近傍に配置される可動絞り、空間光変調器、デジタルマイクロミラーデバイスのいずれかであることを特徴とする請求項1乃至10のうちいずれか1項に記載の撮像システム
  12. 前記照明光学系と前記結像光学系とは部分コヒーレント結像系を形成し、前記複数の画像を結合し定数を減算して得られるM行1列のベクトルをI、前記照明光学系および前記結像光学系から決定されるM行N列の行列をΦ、前記標本の3次元情報を表すN行1列のベクトルをT、前記標本の3次元屈折率分布を表すN行1列のベクトルをn、前記標本における背景屈折率をn、アダマール積をとる演算を・、全要素が1のN行1列のベクトルを1とする時、前記演算装置は

    なる関係に基づき前記圧縮センシング再構成アルゴリズムを実行することを特徴とする請求項乃至11のうちいずれか1項に記載の撮像システム。
  13. 前記演算装置により再構成される前記標本の情報を表示する表示手段を更に有すること特徴とする請求項乃至12のうちいずれか1項に記載の撮像システム。
  14. 照明光学系により照明された標本の光学像を結像光学系により形成し、該結像光学系により形成された前記標本の光学像を撮像素子により光電変換する撮像装置、において取得される前記標本の画像に対する画像処理方法であって、
    前記照明光学系および前記結像光学系の少なくとも一方の瞳面は、光軸に対して非対称な透過率分布および位相分布の少なくとも一方を有しており、
    前記結像光学系の焦点面と前記標本および前記撮像素子の少なくとも一方との、前記結像光学系の光軸方向の相対位置を変化させる駆動工程と、
    前記撮像装置により前記標本の画像を取得する撮像工程と、
    前記駆動工程および前記撮像工程を繰り返すことにより得られる複数の画像に対して、圧縮センシング再構成アルゴリズムを実行することにより前記標本の情報を再構成する再構成工程と、を有することを特徴とする画像処理方法。
  15. 標本を照明する照明光学系と、
    前記標本の光学像を形成する結像光学系と、
    前記結像光学系により形成された前記標本の光学像を光電変換する撮像素子と、
    前記結像光学系の焦点面と前記標本および前記撮像素子の少なくとも一方との、前記結像光学系の光軸方向の相対位置を変化させる駆動手段と、を有し、
    前記駆動手段により前記相対位置を変化させて前記標本の複数の画像を取得する撮像装置であって、
    前記照明光学系および前記結像光学系の少なくとも一方の瞳面に、光軸に対して非対称な透過率分布および位相分布の少なくとも一方を生成する光変調手段を備え、
    前記光変調手段は、前記駆動手段が前記相対位置を変化させる際に、前記透過率分布および位相分布の少なくとも一方を調節することを特徴とする撮像装置。
JP2013007453A 2013-01-18 2013-01-18 撮像システム、画像処理方法、および撮像装置 Expired - Fee Related JP6112872B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013007453A JP6112872B2 (ja) 2013-01-18 2013-01-18 撮像システム、画像処理方法、および撮像装置
US14/441,598 US9904046B2 (en) 2013-01-18 2013-12-24 Image pickup apparatus, image pickup system, and image processing method
PCT/JP2013/085308 WO2014112324A1 (en) 2013-01-18 2013-12-24 Image pickup apparatus, image pickup system, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013007453A JP6112872B2 (ja) 2013-01-18 2013-01-18 撮像システム、画像処理方法、および撮像装置

Publications (3)

Publication Number Publication Date
JP2014137558A JP2014137558A (ja) 2014-07-28
JP2014137558A5 JP2014137558A5 (ja) 2016-02-25
JP6112872B2 true JP6112872B2 (ja) 2017-04-12

Family

ID=51209426

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013007453A Expired - Fee Related JP6112872B2 (ja) 2013-01-18 2013-01-18 撮像システム、画像処理方法、および撮像装置

Country Status (3)

Country Link
US (1) US9904046B2 (ja)
JP (1) JP6112872B2 (ja)
WO (1) WO2014112324A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015052663A (ja) * 2013-09-06 2015-03-19 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置およびプログラム
FR3013128B1 (fr) * 2013-11-13 2016-01-01 Univ Aix Marseille Dispositif et methode de mise au point tridimensionnelle pour microscope
JP2015187705A (ja) * 2014-03-13 2015-10-29 キヤノン株式会社 画像取得装置およびその制御方法
US10289895B2 (en) * 2014-10-21 2019-05-14 Isra Surface Vision Gmbh Method and device for determining a three-dimensional distortion
JP6478579B2 (ja) * 2014-11-20 2019-03-06 キヤノン株式会社 撮像ユニット、撮像装置、及び画像処理システム
US9615022B2 (en) * 2014-12-11 2017-04-04 Conduent Business Services, Llc High-resolution imaging devices using low-resolution sensors and compressive sensing exploiting joint sparsity
JP6376974B2 (ja) * 2014-12-26 2018-08-22 キヤノン株式会社 撮像装置及び撮像システム
JP6618786B2 (ja) * 2015-11-17 2019-12-11 キヤノンメディカルシステムズ株式会社 磁気共鳴イメージング装置及び画像処理装置
US10539783B1 (en) * 2016-10-17 2020-01-21 National Technology & Engineering Solutions Of Sandia, Llc Compressive sensing optical design and simulation tool
WO2021037935A1 (fr) * 2019-08-30 2021-03-04 Centre National De La Recherche Scientifique Méthode et dispositif de caractérisation optique de particules
WO2021064807A1 (ja) * 2019-09-30 2021-04-08 株式会社ニコン 顕微鏡装置、データ生成方法、およびプログラム

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4200354A (en) * 1974-09-05 1980-04-29 Robert Hoffman Microscopy systems with rectangular illumination particularly adapted for viewing transparent objects
JP2834741B2 (ja) * 1988-07-26 1998-12-14 オリンパス光学工業株式会社 顕微鏡
DE4236803C2 (de) * 1992-10-30 1996-03-21 Leica Mikroskopie & Syst Mikroskop für mikroskopisch zu untersuchende Amplituden- und/ oder Phasenobjekte
US5751475A (en) * 1993-12-17 1998-05-12 Olympus Optical Co., Ltd. Phase contrast microscope
KR950033689A (ko) * 1994-03-02 1995-12-26 오노 시게오 노광장치 및 이를 이용한 회로패턴 형성방법
US5808791A (en) * 1994-07-01 1998-09-15 Olympus Optical Co., Ltd. Microscope apparatus
JP4348574B2 (ja) * 1998-04-30 2009-10-21 株式会社ニコン 暗視野照明装置および暗視野照明方法
JP4020714B2 (ja) * 2001-08-09 2007-12-12 オリンパス株式会社 顕微鏡
US7084383B2 (en) 2002-06-03 2006-08-01 Olympus Corporation Image processing apparatus
JP4222877B2 (ja) * 2003-05-28 2009-02-12 オリンパス株式会社 顕微鏡観察方法及びそれに用いる顕微鏡
EP1642165A1 (en) * 2003-06-26 2006-04-05 RIS National Laboratory Generation of a desired wavefront with a plurality of phase contrast filters
WO2006003867A2 (ja) * 2004-06-30 2006-01-12 Nikon Corporation 顕微鏡観察方法、顕微鏡装置、微分干渉顕微鏡装置、位相差顕微鏡装置、干渉顕微鏡装置、画像処理方法、及び画像処理装置
US7532772B2 (en) 2004-07-20 2009-05-12 Duke University Coding for compressive imaging
US7379170B2 (en) * 2005-05-02 2008-05-27 Invarium, Inc. Apparatus and method for characterizing an image system in lithography projection tool
EP2037310B1 (en) * 2006-07-04 2015-06-03 Nikon Corporation Microscope device
EP2084668A1 (en) 2006-11-22 2009-08-05 Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V. Reconstruction and visualization of neuronal cell structures with brigh-field mosaic microscopy
JP4402145B2 (ja) * 2007-10-03 2010-01-20 キヤノン株式会社 算出方法、生成方法、プログラム、露光方法及び原版作成方法
WO2009153919A1 (ja) * 2008-06-17 2009-12-23 株式会社ニコン 顕微鏡装置および顕微鏡装置制御プログラム
JP5086926B2 (ja) * 2008-07-15 2012-11-28 キヤノン株式会社 算出方法、プログラム及び露光方法
JP5351976B2 (ja) * 2008-12-09 2013-11-27 ザイゴ コーポレーション 二重グレーチング横方向シアリング波面センサ
US9081176B2 (en) * 2010-04-05 2015-07-14 Osaka University Observation system and observation method
DE102010029281A1 (de) 2010-05-25 2011-12-01 Siemens Aktiengesellschaft Verfahren und Bildrekonstruktionseinrichtung zur Rekonstruktion von Bilddaten
JP2012008260A (ja) * 2010-06-23 2012-01-12 Hamamatsu Photonics Kk 画像生成装置
DE102010026205A1 (de) * 2010-07-06 2012-01-12 Carl Zeiss Microlmaging Gmbh Mikroskop, insbesondere Fluoreszenzmikroskop, dichroitischer Strahlteiler und dessen Verwendung
TWI427347B (zh) * 2010-07-28 2014-02-21 Univ Nat Chiao Tung 光學成像系統
JP5814684B2 (ja) * 2010-09-03 2015-11-17 オリンパス株式会社 位相物体の可視化方法及び可視化装置
JP5412394B2 (ja) * 2010-09-30 2014-02-12 オリンパス株式会社 標本観察装置
JP5721042B2 (ja) * 2010-10-20 2015-05-20 株式会社ニコン 顕微鏡システム
JP5757458B2 (ja) * 2011-04-12 2015-07-29 株式会社ニコン 顕微鏡システム、サーバー及びプログラム
US9055248B2 (en) * 2011-05-02 2015-06-09 Sony Corporation Infrared imaging system and method of operating
JP5804441B2 (ja) * 2011-05-18 2015-11-04 株式会社ニコン 顕微鏡システム
JP2013029806A (ja) * 2011-06-22 2013-02-07 Canon Inc 撮像装置
WO2013003485A1 (en) * 2011-06-28 2013-01-03 Inview Technology Corporation Image sequence reconstruction based on overlapping measurement subsets
JP5882072B2 (ja) * 2012-02-06 2016-03-09 株式会社日立ハイテクノロジーズ 欠陥観察方法及びその装置
US9518916B1 (en) * 2013-10-18 2016-12-13 Kla-Tencor Corporation Compressive sensing for metrology

Also Published As

Publication number Publication date
JP2014137558A (ja) 2014-07-28
US20150309300A1 (en) 2015-10-29
WO2014112324A1 (en) 2014-07-24
US9904046B2 (en) 2018-02-27

Similar Documents

Publication Publication Date Title
JP6112872B2 (ja) 撮像システム、画像処理方法、および撮像装置
Zhao et al. Sparse deconvolution improves the resolution of live-cell super-resolution fluorescence microscopy
JP7203287B1 (ja) 画像処理のためのシステム及び方法
Leite et al. Observing distant objects with a multimode fiber-based holographic endoscope
Kuś et al. Active limited-angle tomographic phase microscope
Zhang et al. Data preprocessing methods for robust Fourier ptychographic microscopy
US9404857B2 (en) White light diffraction tomography of unlabeled live cells
US11022731B2 (en) Optical phase retrieval systems using color-multiplexed illumination
KR20210155397A (ko) 딥 러닝 기반 컬러 홀로그램 현미경검사를 위한 시스템 및 방법
US9715098B2 (en) Sparse deconvolution spatial light microscopy in two and three dimensions
JP2011523057A (ja) 構造化された照射および均一な照射の両方を用いて光学的に切片化された画像を生成するためのシステムおよび方法
Kocsis et al. Single-shot pixel super-resolution phase imaging by wavefront separation approach
Schmied et al. Open-source solutions for SPIMage processing
JP2015052663A (ja) 画像処理方法、画像処理装置、撮像装置およびプログラム
Shen et al. Complex amplitude reconstruction by iterative amplitude-phase retrieval algorithm with reference
CN114365179A (zh) 无载玻片组织学成像方法和系统
JP7117677B2 (ja) 低干渉光源とマルチパターン照明を利用した3次元光回折断層撮影方法および装置
KR102246439B1 (ko) 기계학습 알고리즘을 활용한 신속한 3차원 단층촬영의 정규화 방법 및 장치
Rodrigo et al. Fast label-free optical diffraction tomography compatible with conventional wide-field microscopes
Dumas et al. A compressed sensing approach for resolution improvement in fiber-bundle based endomicroscopy
Inochkin et al. Increasing the space-time product of super-resolution structured illumination microscopy by means of two-pattern illumination
JP2016057172A (ja) 波面演算装置、撮像システムおよび波面演算プログラム
Ledwig et al. Partially coherent broadband 3D optical transfer functions with arbitrary temporal and angular power spectra
Sun et al. Improvement of imaging quality of Fourier ptychographic microscopy
Yang et al. Alternating projection combined with fast gradient projection (FGP-AP) method for intensity-only measurement optical diffraction tomography in LED array microscopy

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160106

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170314

R151 Written notification of patent or utility model registration

Ref document number: 6112872

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees