本発明は、撮像装置に関するものであり、特に、明視野顕微鏡から取得されたデジタル画像から標本の情報を再構成するシステムに関する。本実施形態の画像処理部(画像処理装置)は、記憶手段と結合係数演算部(第1の算出部)と中間データ生成部(第2の算出部)と変換部(第3の算出部)と判断部とを有する。特に、結合係数演算部が評価画像を基底の線形結合で近似する点、中間データ生成部および変換部が複素量のデータを出力する点に特徴を有している。このような撮像装置または撮像システムはデジタル顕微鏡として好適であり、例えば、医学・生物学の研究や病理診断の用途に有用である。
以下、添付図面を参照して、本発明の一実施形態を説明する。
図1は、本発明の実施形態に係る撮像システムの概略構成を示している。図1に示すように、本実施形態の撮像システムは、撮像装置10、コンピュータ(PC)501、画像処理部(画像処理装置)502、記憶装置503から構成され、PC501には入力装置504および表示装置505が接続されている。ただし図1のシステム構成は一例に過ぎない。
撮像装置10は、照明光学系100、光源101、標本ステージ201、ステージ駆動部202、結像光学系300、光学素子301、撮像素子401から構成される。
光源101として、例えば、ハロゲンランプやLED(Light Emitting Diode)を用いることができる。
照明光学系100は、絞りなどの照明光変調装置を備えていてもよい。明視野顕微鏡の光学系において、照明光学系100の絞りは解像力や焦点深度を変化させる。そのため、標本の種類やユーザのニーズに応じて観察画像を調整する目的で、照明光変調装置は有用である。また、後述の再構成精度を向上させる目的で照明光変調装置を使用してもよい。例えば、照明光変調装置として開口数の小さい絞りや複雑な透過率分布を有するマスクを用いると観察画像における標本の解像力は低下するが、再構成精度が照明光変調装置を用いない場合より向上するのであれば利用する価値がある。
照明光学系100からの射出光は、標本ステージ201に載置された標本203に導かれる。ステージ駆動部202は、標本ステージ201を結像光学系300の光軸方向と光軸に直交する方向とに移動する機能を備えており、さらには標本を交換するための機能を備えていてもよい。標本の交換は、別の機構(不図示)が自動的に行う形態でもよいし、ユーザが手動で行う形態でもよい。
標本203を同定する情報としては、透過光の振幅および位相分布が対応付けられる。この振幅および位相分布は、(通常は標本表面に垂直な方向からの)平行光を照明された標本203の直後における透過光の振幅と位相の2次元分布を意味し、以降では単に、標本203の「振幅」および「位相分布」と呼ぶ。
またこれを一般化して、標本203の構造を反映した複素量の2次元分布としてもよい。例えば、標本203において染色の濃度が高い部位や光の散乱が大きい部位は透過率が低いため、透過光の振幅は入射光に対して減衰する。また、標本203において屈折率が相対的に高い部位は光路長が相対的に長くなるために、入射光に対する位相変化量が相対的に大きい。なお「光路長」とは、光が透過する媒質の屈折率と厚みの積で与えられる量であり、透過光の位相変化量に比例する。このように標本203の透過光の振幅および位相分布は標本203の構造を反映しており、これらの分布から標本203の3次元的な構造を推定することも可能である。
標本203からの透過光は、結像光学系300を介して撮像素子401上に標本203の光学像を形成する。ここで、結像光学系300の光路中に配置された光学素子301は、結像光学系300の瞳面近傍における投影光の強度または位相の少なくとも一方の分布を変調する手段である。光学素子301の目的は、再構成の対象である標本の振幅または位相分布の情報を効率的に観察像に埋め込むことである。言い換えると、取得する画像の枚数または解像度を最小限にして標本の振幅または位相分布の高精度な再構成を可能にすることである。光学素子301はSLMのような可変型の素子であってもよいし、光学特性が固定された位相板のような素子であってもよい。また、光路中に挿脱可能な可動型の構造であってもよい。
なお、光学素子301の光学特性は製造誤差や制御誤差の影響を受け、再構成結果に影響することが懸念される。しかし、S213の説明で述べるように、あらかじめこの光学特性を計測するか、もしくは訓練標本の標本データが完全に既知であることにより、この問題は解決される。また、光学系の配置は必ずしも標本の透過光を結像する透過型である必要はなく、落射型の配置であってもよい。
撮像素子401は、結像光学系300が投影する標本203の光学像を光電変換し、コンピュータ(PC)501、画像処理部502、記憶装置503のいずれかに画像データとして伝送する。
標本203に関する再構成を画像取得後に直ちに行わない場合には、撮像素子401からPC501あるいは記憶装置503に画像データが伝送され、蓄積される。再構成を画像取得後に直ちに行う場合には、画像処理部502に画像データが伝送され、再構成するための演算処理を行う。
画像処理部502は、記憶手段、結合係数演算部(第1の算出部)、中間データ生成部(第2の算出部)、変換部(第3の算出部)、判断部を有する。これらは、別個のモジュールとしてハードウェアまたはソフトウェアで構成される。画像処理部502は、PC501によって制御されるが、画像処理装置のようにマイクロコンピュータ(プロセッサ)を含んで構成されてもよい。
結合係数演算部は、結像光学系300が形成した複数の既知の標本の光学像を光電変換して得られる複数の画像から生成された基底の線形結合で、第2の画像を近似するための結合係数を算出する。中間データ生成部は、複数の既知の標本のデータの非線形写像によって得られる複数の複素量のデータと算出された結合係数と、に基づいて中間データを算出する。変換部は、算出された中間データから未知の標本に関する複素量のデータを算出する。判断部は、算出された結合係数に基づき、再構成に用いる訓練データを交換し、再構成をやり直すかどうかを判断する。
生成されたデータは、表示装置505に表示されるか、PC501あるいは記憶装置503に伝送され蓄積されるか、もしくは両方が実行される。この処理内容は、入力装置504を介したユーザの指示か、PC501あるいは記憶装置503に格納されている情報に基づき決定される。
図1における撮像装置10以外の全ての装置は、必ずしも撮像装置10と物理的に直接接続されている必要はない。例えば、撮像装置10はLAN(Local Area Network)やクラウドサービスを介して外部に接続されていてもよい。このメリットとして、撮像装置10と画像処理部502が一体化されていないために個々の撮像装置は低コストでコンパクトにできること、複数のユーザ間で実時間でデータを共有できることが挙げられる。
以下、本発明の様々な実施例における標本203の情報の再構成方法について説明する。
本発明は、未知の標本203の振幅および位相分布を、撮像装置を介して取得した評価画像から訓練データを用いて再構成するための手段を開示する。再構成方法の説明に先立ち、まず本実施形態の画像処理の概念について、図2を参照しながら説明する。
図2に示す画像処理は、独立の画像処理装置で行われてもよいし、撮像装置10と一体の画像処理部502で行われてもよい。また、図2に示す再構成方法は画像処理方法として機能する。
まず、訓練データについて説明する。振幅および位相分布が既知の複数の標本(第1の標本)203を「訓練標本」と呼び、訓練標本の振幅および位相分布を再構成に用いる。本実施例では訓練標本の個数をTと記す。T個の訓練標本の各々の振幅および位相分布を「標本データ」、未知の標本(第2の標本)の振幅および位相分布を「再構成データ」と呼ぶ。このT個の訓練標本の各々から撮像装置を用いて得られるT個の観察像(第1の画像)を「訓練画像」、未知の標本から同様に得られる1つの観察像(第2の画像)を「評価画像」と呼ぶ。また、この訓練標本と訓練画像を合わせて「訓練データ」と呼ぶ。
従って、第1の標本と第1の画像とは、部分コヒーレントまたはコヒーレントな結像光学系が形成した複数の既知の第1の標本の光学像を光電変換することによって得られる。具体的には、複数の第1の画像は、前記結像光学系または前記結像光学系と同一の光学特性を有する結像光学系が形成した複数の既知の第1の標本の光学像を光電変換することによって得られる。あるいは、複数の第1の画像は、複数の第1の標本の各々に対応する複素量のデータから計算によって生成されてもよい。
同様に、前記第2の画像は、前記結像光学系または前記結像光学系と同一の光学特性を有する結像光学系が形成した未知の第2の標本の光学像を光電変換することによって得られる。
本実施例では明視野顕微鏡を前提とするので、コヒーレント結像または部分的コヒーレント結像によって標本203の観察像が形成される。例えば、非特許文献3に開示されているように、この場合に標本203の振幅および位相分布と観察像の関係は非線形である。具体的には、観察像を表すベクトルIと標本の振幅および位相分布を表すベクトルxとの間には式(1)の関係が成り立つ。
ここで、xは標本203の振幅および位相分布を複素数で表す列ベクトル、Gはコヒーレント結像または部分的コヒーレント結像を表現する複素行列、vecは行列を列ベクトルに分解して縦に連結する演算、Hはベクトルの転置共役である。また、kronはクロネッカー積、右肩の*は複素共役を表す。行列Gは結像光学系300の回折限界に起因する光学的なぼけの情報に加えて、結像光学系300の収差および焦点ずれ、光学素子301の情報、撮像装置自体または環境に起因する振動や温度変化などの画像劣化要因の全ての情報を含む。
なお、式(1)には明示していないが、現実には観測過程において撮像素子401などに起因して観測ノイズが加わるので、式(1)の右辺にノイズを表現する実定数ベクトルが加わると考えてよい。
次に、図2に示す入力空間、特徴空間、像空間の3つを定義する。
「入力空間」とは、標本203の振幅および位相分布に関するデータが形成する空間であり、個々のデータはN次元の複素ベクトルであるとする。標本データおよび再構成データは入力空間に含まれる。これらのデータは、標本の表面に略平行な平面内のN点の既定の座標でサンプリングされた振幅および位相の値を複素数として表現したものである。
「特徴空間」とは、入力空間のデータに対する非線形写像φによって得られるデータが形成する空間である。ここで、非線形写像φは、式(1)を踏まえ式(2)で定義する。
これは入力空間のN次元の複素ベクトルを特徴空間のN2次元の複素ベクトルに変換する写像である。非線形写像φの導入により、式(1)で表されるコヒーレント結像または部分的コヒーレント結像は、特徴空間のデータに対する線形写像と解釈できる。この線形写像は式(1)に示すように行列Gを乗じる変換であるので、以降ではこの線形写像をGと表す。
本実施形態の特徴の1つは、コヒーレント結像または部分的コヒーレント結像において逆問題を解く困難の原因となっていた非線形性を、非線形写像と線形写像とに分解する点にある。以降では、図2に示すように、標本データを特徴空間に写像したデータを「変換データ」、再構成データを特徴空間に写像したデータを「中間データ」と呼ぶ。
なお、図2に示すφ−1はφの逆写像であり、φで写像されたデータをφ−1で写像すると元に戻るものとする。しかし、式(2)のφに対してはφ−1を陽に表現することはできず、φ−1の結果を得るには実際には数値的に推定するしかない。そのための具体的な方法として、行列の特異値分解(SVD;Singular Value Decomposition)が挙げられる。本実施例において特徴空間の全てのデータは階数1の正方行列であるため、そのような行列に特異値分解を行うと、特異ベクトルとしてN次元のベクトルxが一意に求められる。言い換えると、特異値分解を行い特異ベクトルを出力する操作としてφ−1を定義することが可能である。
「像空間」とは、特徴空間のデータを線形写像Gで写像したデータ、すなわち観測像が形成する空間である。図2に示すように、変換データのGによる写像が訓練画像であり、中間データのGによる写像が評価画像という関係がある。像空間の個々のデータは現実に観測される像強度分布を既定のM点でサンプリングしたデータであり、M次元の実数ベクトルとする。
次に、カーネル行列を定義する。近年、機械学習の分野で非線形なモデルに基づく学習などの目的でカーネル法と呼ばれる手法が使われている。カーネル法の一般的な定義は、非特許文献4などで解説されている。一般的にカーネル法においては、カーネル行列Kを適当な非線形写像φ’を用いて式(3)で定義する。
ここで、Kijはカーネル行列Kのi行j列成分、Xiはサンプルの母集団の中のi番目のサンプルに対応するデータ、<・,・>は内積をそれぞれ表す。内積を2つのデータの類似度と解釈するならば、カーネル行列Kとは特徴空間におけるデータの全ての組合せに対する類似度を表現した行列であると言うことができる。式(3)の非線形写像φ’を式(2)の非線形写像φに置き換えると、式(4)に示すように、カーネル行列Kはφを陽に含まない形で表すことができる。
ここで、xiはi番目の訓練標本の標本データを表す複素ベクトルである。カーネル行列Kを算出するために、式(3)では入力空間のデータを特徴空間に写像した後にN2次元の2ベクトルの内積を計算するのに対し、式(4)では入力空間のN次元の2ベクトルの内積を計算するだけで済むため、式(3)に比べ計算量が大幅に減る。このようにカーネル行列の計算量を低減する手法は、一般的にカーネルトリックと呼ばれる。
本発明の特徴の1つは、カーネル法を機械学習ではなくコヒーレント結像または部分的コヒーレント結像の逆問題に応用する点にある。さらには、式(4)のカーネルを用いること、およびその結果として計算量を抑えられる点に特徴を有する。
式(3)においてφ’(X)に対して平均値を除去する処理(「センタリング」又は「中心化」と呼ばれる)を行う場合があるが、非特許文献4に開示されているように、その場合にもカーネル行列Kから直接センタリング後のカーネル行列Kを算出できる。
次に、カーネル行列Kに基づき訓練画像と評価画像の関係を抽出する。なおこの関係は、特徴空間における変換データと中間データの関係と同一である。その理由は、特徴空間と像空間が線形写像Gで対応しているためである。
関係を抽出するために、複数の訓練画像の線形結合で新たな基底を生成する。この新たな基底を固有像と呼ぶ。基底を生成する具体的な方法として、例えばカーネル行列Kに対し主成分分析を行い、得られた複数の固有ベクトルの各々を線形結合係数として用いて前記複数の訓練画像を線形結合することで、複数の固有像を生成する。これは式(5)で表すことができる。
ここで、Eは各列が固有像E1、E2、…ELであるM行L列の行列、Iは各列が訓練画像I1、I2、…ITであるM行T列の行列をそれぞれ表す。Lはカーネル行列Kの階数以下の自然数であり、ユーザが任意に指定してもよいし、カーネル行列Kの固有値に基づいて決定してもよい。後者の場合、例えば既定の閾値以上である固有値の数を自動的にLとする決定方法が挙げられるが、これに限定されることはない。αはカーネル行列Kの複数の固有ベクトルからなるT行L列の行列である。行列αを求める具体的な方法として、例えばカーネル行列Kに対する特異値分解を用いることができる。その場合には、対応する特異値が大きい順、または他の基準によってL個の特異ベクトルを選択し、それらの列ベクトルを連結することで行列αを生成する。
次に、L個の固有像の線形結合で評価画像を近似することで、訓練画像と評価画像の関係を完全に決定する。これは、固有像を基底とするL次元空間において評価画像に最も近い解を探索すると言い換えることもできる。近似は、例えば、固有像の線形結合と評価画像との差分のノルムを最小化する結合係数を求める問題、すなわち最小二乗問題として定式化することができる。結合係数をL次元の実数ベクトルγとして表すことにすると、最小二乗問題は式(6)で表すことができる。
ここで、γ上のハット(^)は推定解であることを表すために付けている。また、式(6)の右辺の第2項は解が異常値をとることを防止する目的で付加される正則化項の一種である。特に式(6)のように解のL2ノルム(最小二乗解)で定義される場合には、Tikhonov正則化またはリッジ回帰と呼ばれる。なお、正則化項の係数λは任意の実数である。また、第1の算出部は評価画像にふくまれる観測ノイズの大きさを推定して推定値に基づき正則化係数λを決定してもよい。なお、正則化を行わないために正則化係数λを0としても良い。その場合、第1の算出部は、基底からなる行列に関するMoore―Penroseの疑似逆行列を用いて最小二乗解を求め、結合係数を算出できる。
正則化係数λが0でない場合、式(6)の解は、非特許文献4にも開示されているように式(7)で与えられ、反復処理なしに比較的高速に算出可能である。なお、式(7)においては、行列Eが縦長か横長かによって条件分岐される。
ここで、右肩のTは行列の転置、右肩の−1は逆行列、行列LはL次元の単位行列、ベクトルI’は評価画像をそれぞれ表す。式(6)の解の算出方法は式(7)に限られることはなく、代わりに、例えば、式(8)を用いることができる。
ここで、ULとURはEの特異ベクトルからなる行列、ΣはEの特異値を対角要素にもつ対角行列、thresholdは引数の行列要素のうち閾値θを超える要素を0などの定数に置き換える関数である。このように式(5)および(6)に基づき、評価画像I’はT個の訓練画像に対応する行列Iに行列αとベクトルγを乗じることで近似される。これが訓練画像と評価画像の関係である。この関係を特徴空間にそのまま適用すると、中間データφ(z)はT個の変換データを列成分とする行列Φに行列αとベクトルγを乗じることで得られる。この関係は式(9)で表すことができる。
ここで、行列Φは各列がφ(x1)、φ(x2)…φ(xT)であるN2行T列の行列、Vは各列が訓練基底v1、v2、…vLであるN2行L列の行列である。図2に示すように、訓練基底とは特徴空間において固有像に対応するL個のベクトルの集合であり、中間データを形成するための基底である。訓練基底は説明の都合上形式的に導入した概念であり、実施においては陽に計算する必要はない。
このように、線形写像Gの逆写像を直接計算することを回避していることが、本実施形態の特徴の1つである。像空間の次元Mよりも特徴空間の次元N2の方が圧倒的に大きいために、線形写像Gの逆写像は一意に定まらず、この条件下での逆問題はいわゆる不良設定(ill−posed)問題に属する。
これに対し、本発明の方法ではこのような非適切性を含む計算を一切含まないため、安定して正しい再構成結果が得られる。また、前述したとおり、特徴空間のデータを入力空間に逆写像するには特異値分解などを用いればよく、その結果として中間データφ(z)から再構成データzが一意に求められる。以上のことを総合すると、式(5)、式(6)および式(9)の計算を順に行うことにより、既知のデータである訓練データと評価画像とから再構成データzを再構成できる。
本発明の特徴の1つは、コヒーレント結像または部分的コヒーレント結像における再構成を、反復処理なしに行列積の演算だけで高速に実行する点にある。さらには、再構成の処理が図2において、評価画像I’から直接中間データφ(z)ないしは再構成データzに直接進むのではなく、線形写像Gの逆写像を回避して訓練データを経由する迂回したルートで進むという点に特徴を有する。
また、一般的なCSは再構成対象の情報が疎(sparse)であることを仮定するが、本発明は前述の説明から分かるように疎性の仮定を用いないため、原理的には疎でない情報を再構成できる点にも特徴を有する。
この点、非特許文献2は、物理的な観測量(観測像)どうしの関係をそのまま特徴空間に適用するという概念はなく、本発明とは本質的に異なる。
次に図3を参照して、図1に示す撮像システムにおいて標本203の情報を再構成するための画像処理方法について説明する。「S」はステップを表し、図3に示すフローチャートはコンピュータに各ステップの機能を実現させるためのプログラムとして具現化が可能である。まず全体の処理の手順について、図3(a)に示すフローチャートを参照して説明する。
S201では、標本ステージ201上に標本203を設置する。例えば、標本ステージ201自身、または連携する自動送り込み機構が、カセットなどの標本保持手段から標本203を取り出して標本ステージ201上に載置する。なお、この処理を装置が自動で行う代わりにユーザ自身が手動で行ってもよい。ステージ駆動部202による標本ステージ201の駆動を制御することによって、標本203の観察対象領域を所定の合焦状態で撮像するために適切な位置に標本を移動する。この移動は、S203以前ならばどのタイミングで行ってもよい。
S202では、標本203の情報の再構成を行う場合には、必要に応じて光学素子301が投影光の強度または位相の少なくとも一方の分布を変調する状態にする。一方、通常の顕微鏡像を取得する場合には、光学素子301を光路の外に移動する、またはSLMを制御するなどの方法で投影光の強度と位相に有意な変調を与えない状態にする。
S203では、振幅および位相分布が未知である標本203の画像を撮像する。
S204では、S203において取得された画像データを撮像素子401からPC501、画像処理部502、記憶装置503のいずれかに伝送する。
標本203の情報の再構成を行う場合には、S206の処理を実行する。
S206では、画像処理部502において前記画像データに基づき標本の振幅または位相分布に関する再構成データを出力する。この処理内容は、後に図3(b)を用いて詳細に説明する。
S207では、ユーザからの指示または既定の設定に従い、前記再構成データを記憶装置503またはPC501に格納するか、表示装置505に表示する。
次に、S206において画像処理部502が行う画像処理について、図3(b)に示すフローチャートを参照しながら説明する。
S211では、PC501または記憶装置503のいずれかに蓄積されている訓練データと未知の標本に対する評価画像とを読み出す。この標本と評価画像の組は1つでもよいし、複数でもよい。
訓練データは、図3(a)に示した一連の処理に先立ち予め取得し蓄積されている。訓練データは、撮像装置10における標本203と観察像の関係に影響する要因、例えば、結像光学系300の収差情報や焦点ずれ量、光学素子301が変調する強度及び位相分布についての情報が既知である場合には全て計算によって生成してもよい。即ち、既定のルールに従いT個の標本データを計算上で生成し、標本データと撮像装置10の情報とに基づき結像シミュレーションによって訓練画像を計算上で生成する。
撮像装置10の情報は、訓練データを生成する前に撮像装置10に対して計測を行い取得してもよい。例えば、撮像装置10に対して一般的な波面収差計測法を用いて結像シミュレーションに用いるための収差データを取得する。
一方で、撮像装置10の情報が未知のまま再構成を行うことも可能である。この場合には、訓練標本は実在する複数の標本203とし、これらの標本203に対して撮像装置10を用いて図3(a)と同じ条件および手順で訓練画像を取得する。
この場合には、全ての訓練標本に関する標本データ、すなわち透過光の振幅および位相分布は既知でなければならない。この標本データは、一般的な波面収差計測法や表面形状計測手段によって得られたデータから生成してもよいし、人工的に作成した標本であればその設計値から生成してもよい。また、訓練標本は見かけ上必ずしも複数である必要はない。例えば、訓練標本として有効な要素が1つの標本の中に複数集積してもよいし、このような形態に限られることはない。
このように、撮像装置10の情報が未知のままで逆問題を解くことができる、言い換えるとブラインド推定が可能である点に、本発明の特徴の1つがある。ブラインド推定のメリットは、種々の画像劣化要因に再構成精度が影響を受けない頑健性である。
画像劣化要因の一例としては、撮像装置10や光学素子301の製造誤差に起因する性能のばらつき、撮像装置自体または環境に起因する振動や温度変化などが挙げられる。ブラインド推定が可能である理由は、標本203と観測像の関係を含む訓練データを用いることで、式(1)において撮像装置10の情報を全て含む行列Gを直接再構成に用いることを回避しているためである。
もし、既に訓練データを用いて固有像E、変換データΦ、カーネル行列αが求められており、それらがPC501または記憶装置503のいずれかに蓄積されているならば、以降のS213〜S214は行う必要がない。言い換えると、一度訓練データから定数行列(固有像および式(9)の行列V)を生成しておけば、撮像装置10に変化がない限り未知の標本203および評価画像がいくら変化しても、S215以降の計算を反復なしに1回行うだけで再構成の処理が終わる。
S213では、標本データを用いて式(4)または(3)に基づきカーネル行列αを生成する。S214では、式(5)に基づき固有像Eを生成する。
S215(第1のステップ、第1の機能)では、結合係数演算部(第1の算出部)が式(7)または(8)などに基づき線形結合係数γを求める。
S217(第2のステップ、第2の機能)では、中間データ生成部(第2の算出部)が式(9)に基づき中間データφ(z)を求める。S218(第3のステップ、第3の機能)では、変換部(第3の算出部)が中間データφ(z)の逆写像であるzを求める。
しかし、未知の標本203と訓練データとの組み合わせによっては再構成精度が大きく低下することもある。そのような場合には、γのノルムが異常に大きい値をとる。これを解決する1つの方法として、S215において求められた線形結合係数γのノルムが閾値を超える場合には、再構成に用いる訓練データを変えるという方法が挙げられる。この場合、判断部は結合係数のノルムが既定の閾値以下であるかどうかを判断する(S216)。この処理方法を、図3(c)のフローチャートに示す。
S215において求められた線形結合係数γのノルムが閾値を超える場合には(S216のNO)、S219に進み訓練データを交換する。具体的には、再構成に用いる訓練データの組数Tよりも多く訓練データをあらかじめ用意しておき、そのうちのT組だけを選択して再構成に用いてもよい。結像シミュレーションによって訓練画像を計算上で生成する場合には、この代わりに標本データを既定の規則に従い新たに生成し直して訓練画像を生成してもよい。また、訓練データを交換する方法はこれらに限られることはない。
本発明の特徴の1つは、再構成の途中の時点で再構成誤差が予測可能であり、なおかつ誤差が大きいと予測される場合には誤差を低減する手段(訓練データの交換)を自動的に実行できる点にある。これについては以下の実施例3において、具体例に基づき詳細を説明する。
次に、本発明の実施例1を、数値シミュレーションを用いて説明する。
以下では、シミュレーション条件を説明する。照明光学系100から標本に照射される照明光の波長を0.55μm、結像光学系300の標本側の開口数を0.70、照明光学系100の開口数を0.49(すなわちコヒーレンスファクタ0.70)とする。
図4(a)に示すように、照明光学系の瞳面の透過光強度分布(または標本がない場合に結像光学系の瞳面に形成される光強度分布)は開口数0.49に対応する円形境界の内部で一様である。
図4(b)および(c)に、結像光学系の瞳面に配置された光学素子による透過光の振幅と位相の変化の分布を示す。振幅分布はサンプリング点ごとに独立に0〜1の値を一様乱数で生成し、位相分布はサンプリング点ごとに独立に標準偏差2πラジアンのガウス乱数で生成した。また、結像倍率は説明の都合上1倍とするため、結像光学系300の像側の開口数は0.70であり、標本と像面の縮尺は同一とする。なお、現実の顕微鏡では数十倍〜数百倍の結像倍率が用いられるが、以降の議論の本質は何ら変わることがない。明視野顕微鏡は部分コヒーレント結像に従うことが知られているため、本実施例では一般的な2次元の部分コヒーレント結像の理論に基づくシミュレーションを行う。また、乾式顕微鏡を想定し、標本と結像光学系300の間は屈折率1.00の空気で満たされているとする。
以上の条件は、以降の訓練標本および未知の標本の撮像において一切変化しないものとする。また、以降の全ての標本と像のサンプリング間隔は0.30μmとし、振幅は0から1の間の実数とし、位相はラジアン単位で示す。
図5(a)および(b)に、160個の11×11画素の振幅および位相分布からなる標本データを縦に8個、横に20個に並べて示す。各々の標本データは、透過率、位相、位置をランダムに決定した2個の開口の振幅および位相分布をベクトル化し、2値のランダム行列を乗じることで生成した見かけ上密な振幅および位相分布である。
図5(c)に、この160個の標本データから前述の条件で計算上得られる160個の訓練画像(像強度分布)を、同様に並べて示す。また、この標本データから式(4)に従い160行160列のカーネル行列を生成し、対応する固有値が大きい順に120個の固有ベクトルを抽出し160行120列の行列αを算出する。
この行列αと図5(c)の訓練画像とから式(5)に従い120個の固有像が生成される。図5(d)に固有像を、見やすさのために絶対値の常用対数をとった上で縦に6個、横に20個に並べて示す。図5(d)の左方の53個以外は1.00E−10以下の輝度値であり、これらを用いなくても再構成精度に有意な変化は生じない。このことは、カーネル行列の固有値または固有ベクトルから必要な固有像の数Lが決定できることを示唆している。本実施例の場合には、Lは53以上であれば十分であるといえるが、以降では固有像の数Lを120としたまま計算を行う。
一方、未知の標本203として、図6(a)および(b)に示す11×11画素の振幅および位相分布を設定する。図6(c)に、この未知の標本203から前記条件の明視野顕微鏡を介して得られる評価画像(像強度分布)のシミュレーション結果を示す。ここで、像強度分布が標本203とは全く異なる様相の分布をしているのは、図4に示した光学素子を用いているためである。
次に、図5に示した訓練データを用いて、図6(c)の評価画像から未知の標本の振幅および位相分布を再構成する。まず、式(7)において正則化パラメータλを0として線形結合係数γを算出する。こうして得られたγを式(9)に代入し、得られた中間データφ(z)を121行121列の行列に変形した後に特異値分解を行う。こうして得られた第1の特異値の平方根と第1の左特異ベクトルとの積を、11行11列の行列に変形することで、図7(a)および(b)に示す再構成された未知の標本の振幅および位相分布を得る。これらは、図6(a)および(b)の真の分布をほぼ完全に再構成している。この再構成の精度を定量化するために、式(10)で定義されるRMSE(Root Mean Square Error)を用いる。
ここで、Nは画素数(本実施例においては121)、iは画素番号、xiは再構成された画素iの振幅または位相、xi’は画素iの真の振幅または位相をそれぞれ表す。
図7(a)の図6(a)に対するRMSEは4.29E−12、図7(b)の図6(b)に対するRMSEは3.98E−11ラジアンであり、無視できる水準の誤差である。
このように、明視野顕微鏡を用いて取得した1枚の評価画像だけから標本203の振幅および位相分布を高精度で再構成することが、本実施例の方法により可能になる。
このようにして再構成された振幅および位相分布は、未知の標本203の3次元的な構造を把握する目的に利用することも可能である。簡単な例としては、位相分布に既定の定数を乗じることにより、屈折率が略一様な標本に対しては厚さ分布を推定することができる。
また、この振幅および位相分布を利用すれば、標本中の特定の構造を強調して描画するなどの従来にないレンダリングが可能になり、標本203の情報の見せ方の自由度が大きく拡張される。
さらには、再構成された分布は原理的に顕微鏡の画質劣化要因の影響が除去されているため、通常の明視野顕微鏡を用いて観察される画像に比べ解像力が向上した鮮明な画像が得られ、微細な構造を観察することが容易になる。なお、画質劣化要因とは具体的には、結像光学系の回折限界に起因するぼけ、撮像素子に起因するノイズや解像力の低下などである。
次に、本発明の実施例2を、数値シミュレーションを用いて説明する。観測ノイズ以外の全ての条件とデータは実施例1と同じとする。
図6(c)に示す評価画像に観測ノイズとして加法的白色ガウスノイズを与える。各画素のノイズは互いに独立でありながら共通の統計分布に従い、その分布は平均が0、標準偏差が輝度の最大値の1.00%の正規分布である。本実施例では実施例1と異なり、図8に示す観測ノイズを加えた評価画像を用いて式(7)に基づき再構成を行う。
図9(a)および(b)に、式(7)の正則化パラメータλを実施例1と同様に0とした場合の振幅および位相分布の再構成結果を示す。図9(a)の図6(a)に対するRMSEは1.07E−1、図9(b)の図6(b)に対するRMSEは1.92ラジアンである。一方、図9(c)および(d)に、式(7)の正則化パラメータλを1.00E−6とした場合の振幅および位相分布の再構成結果を示す。
図9(c)の図6(a)に対するRMSEは7.87E−3、図9(d)の図6(b)に対するRMSEは8.18E−1ラジアンである。図とRMSE値から分かるように、正則化を加えた方が明らかに真の分布に近い。
以上の結果が示すように、観測ノイズの影響を抑制するためには、式(6)の最小二乗問題における正則化が有効である。なお、本実施例では評価画像に観測ノイズを加えた場合だけを説明したが、訓練画像に同様に観測ノイズが加わっている場合にも同様に再構成ができる。
次に、本発明の実施例3を、数値シミュレーションを用いて説明する。図10に示す未知の標本以外は全ての条件とデータは実施例1と同じとし、観測ノイズはないものとする。
図10(a)および(b)に、未知の標本の振幅および位相分布を、図10(c)に対応する評価画像を示す。この未知の標本は図5の訓練データとの相性が良くないために、その再構成結果は図11(a)および(b)に示す振幅および位相分布となり、誤差が比較的大きい。図11(a)の図10(a)に対するRMSEは5.76E−2、図11(b)の図10(b)に対するRMSEは1.47ラジアンである。
そこで、図3(c)に示すフローに従い再構成を行う。すなわち、γのL2ノルムが閾値を超える場合には再構成を中断して訓練データを交換して再構成をやり直す。γのL2ノルムに関する閾値は1.00E+6とする。即ち、判断部は、判定条件を満たさない場合に、複数の第1の標本を他と交換し、第1の算出部および第2の算出部に中間データの算出をやり直させる。この場合、判定条件は、前記結合係数のノルムが既定の閾値以下であるという条件である。
図12に、γのL2ノルムが閾値以下になった時の訓練データおよび再構成された振幅および位相分布を示す。図11の結果に伴うγのL2ノルムは6.33E+14であったのに対し、図12の結果に対しては閾値未満の1.08E+4であった。図12において、(a)は訓練標本の振幅分布、(b)は訓練標本の位相分布、(c)は訓練画像、(d)は固有像を、図5と同様の形式で示している。訓練データが実施例1と異なることに起因し、図12(d)の有意な固有像は右端の列を除く114個になっている。
また、図13(a)および(b)に、振幅および位相分布の再構成結果を示す。図13(a)の図10(a)に対するRMSEは2.67E−12、図13(b)の図10(b)に対するRMSEは4.41E−11ラジアンであり、実施例1と同等の精度である。以上の結果が示すように、再構成を確実に成功するために図3(c)に示すフローが有効であり、再構成精度は再構成の途中で得られるγのL2ノルムの値から予測可能である。