JP2015052663A - 画像処理方法、画像処理装置、撮像装置およびプログラム - Google Patents

画像処理方法、画像処理装置、撮像装置およびプログラム Download PDF

Info

Publication number
JP2015052663A
JP2015052663A JP2013184545A JP2013184545A JP2015052663A JP 2015052663 A JP2015052663 A JP 2015052663A JP 2013184545 A JP2013184545 A JP 2013184545A JP 2013184545 A JP2013184545 A JP 2013184545A JP 2015052663 A JP2015052663 A JP 2015052663A
Authority
JP
Japan
Prior art keywords
image
data
image processing
calculation unit
optical system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013184545A
Other languages
English (en)
Inventor
檜垣 欣成
Kinsei Higaki
欣成 檜垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013184545A priority Critical patent/JP2015052663A/ja
Priority to PCT/JP2014/069499 priority patent/WO2015033692A1/en
Priority to DE112014004099.1T priority patent/DE112014004099T5/de
Priority to US14/897,427 priority patent/US20160131891A1/en
Publication of JP2015052663A publication Critical patent/JP2015052663A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

【課題】明視野顕微鏡の観察で得られた1枚の画像から標本の透過光の振幅および位相分布を高速かつ高精度に再構成すること。【解決手段】部分コヒーレントまたはコヒーレントな結像光学系が形成した未知の標本の評価画像を、複数の既知の標本の画像から生成された基底の線形結合により近似するための結合係数を算出するステップ(S215)と、複数の既知の標本の各々に関する複素量のデータと前記結合係数とに基づき中間データを算出するステップ(S217)と、中間データから前記未知の標本に関する複素量のデータを算出するステップ(S218)と、を有する画像処理方法を提供する。【選択図】図3

Description

本発明は、部分コヒーレントまたはコヒーレントな結像光学系を介して撮像した標本の画像処理方法、画像処理装置、撮像装置およびプログラムに関する。
生物学や病理診断に用いられる標本の観察に使用される顕微鏡として位相コントラスト方式、微分干渉方式などの方式は、標本の内部構造の詳細を把握するために透過光の強度および位相変化に関する定量的な情報を得ることは困難であった。この理由の1つとして、観測過程において標本の透過光の振幅および位相分布と像の間に非線形な関係があるために、逆問題を解く計算が困難になることが挙げられる。なお以降では、逆問題とは観測データ(像)から原信号(標本の情報)を数値的に推定する問題を意味し、逆問題を解くことを再構成と呼ぶ。
そこで、近年では標本の位相情報を定量化する方式が提案されている。例えば、デジタルホログラフィ顕微鏡を利用した干渉法(特許文献1)、標本をレーザービームで照明し空間光変調器(SLM;Spatial Light Modulator)を挿入した光学系を介して複数枚の画像を取得する手法(非特許文献1)がある。一般に干渉法は、標本を透過していない参照光と標本を透過した物体光との干渉の結果像面に形成される光強度分布を観測し、取得した画像データに演算を行い標本の情報を再構成する手法である。一方、レーザービームで照明し物体光を直接撮像する手法は参照光を用いる必要はないが、焦点ずれを変えて取得した複数の画像データに演算を行い、標本の情報を再構成する。
また、非線形なモデルに対する逆問題を解く新しい計算方法として、Kernel Compressive Sensing(以下、「KCS」と略す)と呼ばれる手法(非特許文献2)が挙げられる。Compressive Sensing(以下、「CS」と略す)は、線形な観測過程を前提として観測データ量を大幅に減らす手法である。一方、KCSは、データに適切な非線形写像を行うことで疎表現(Sparse Representation)が可能になるような場合において、観測データ量を更に減らす手法である。しかしながらKCSは非線形な観測過程を対象とはしていないため、前述した顕微鏡の逆問題に直接適用することはできない。一方で、Compressive Sensingの概念を用いて、通常の明視野顕微鏡(部分コヒーレント結像)の逆問題を解く方法が、非特許文献3に開示されている。また、非特許文献4にはカーネル法の一般的な定義が記載されている。
特許第4772961号
Vladimir Katkovnik and Jaakko Astola著, 「Phase retrieval via spatial light modulator phase modulation in 4f optical setup: numerical inverse imaging with sparse regularization for phase and amplitude」, Journal of the Optical Society of America A, アメリカ合衆国, Optical Society of America, 2012年, 29巻, 1号, p.105−116 Karthikeyan Natesan Ramamurthy and Andreas Spanias著, 「Optimized Measurements for Kernel Compressive Sensing」, Proceedings of Asilomar Conference on Signals, Systems, and Computers, アメリカ合衆国, 2011年, p.1443―1446 Y. Shechtman, Y. C. Eldar, A. Szameit, and M. Segev著, 「Sparsity based sub−wavelength imaging with partially incoherent light via quadratic compressed sensing」, Optics Express, アメリカ合衆国, Optical Society of America, 2011年, 19巻, p.14807−14822 John Shawe−Taylor, Nello Cristianini著, 「Kernel Methods for Pattern Analysis」, Cambridge University Press, アメリカ合衆国, 2004年
干渉法は光の干渉が環境の変化に敏感であるために高精度の調整が必要であり、観測データにノイズが加わりやすい。また多くの場合、参照光と物体光の2つの光路が必要であるために装置の複雑化や高コスト化につながる。また、レーザービームで照明し撮像する手法は、焦点ずれを正確に制御して複数枚の画像を取得する必要があるため、機械的制御手段やデータ量の多さが装置コストやデータ処理時間を増大させる。さらには、標本にレーザービームを照射するコヒーレント照明であるために、スペックルノイズが発生する。スペックルを抑制するために拡散板を光路中に挿入すると解像力が低下する。また、いずれの手法にも共通の課題として、以下の2点が挙げられる。1つは標本の情報を再構成するための演算に反復処理が必要であるため計算コストが大きいこと、もう1つは同じ装置構成で通常の顕微鏡観察はできないことである。非特許文献3の方法の課題として、以下の2点が挙げられる。1つは位相が2値しかとらず振幅分布が十分に疎である標本にしか適用できないこと、もう1つは前述と同じで計算コストが大きいことである。
本発明は、明視野顕微鏡から得られた1枚の画像に基づき標本の透過光の振幅および位相分布を高速かつ高精度に再構成することが可能な画像処理方法、画像処理装置、撮像装置およびプログラムを提供することを例示的な目的とする。
本発明の画像処理装置は、部分コヒーレントまたはコヒーレントな結像光学系が形成した既知の複数の第1の標本の光学像を光電変換して得られる複数の第1の画像から生成された基底の線形結合により、第2の画像を近似するための結合係数を算出する第1の算出部と、前記複数の第1の標本のデータの非線形写像によって得られる複数の複素量のデータと、前記第1の算出部によって算出された前記結合係数と、に基づいて中間データを算出する第2の算出部と、前記第2の算出部によって算出された前記中間データに基づいて未知の第2の標本に関する複素量のデータを算出する第3の算出部と、を有することを特徴とする。
本発明によれば、明視野顕微鏡から得られた1枚の画像に基づき標本の透過光の振幅および位相分布を高速かつ高精度に再構成することが可能な画像処理方法、画像処理装置、撮像装置およびプログラムを提供することができる。
本実施形態の撮像装置のブロック図である。 本実施形態の画像処理の概念を説明する図である。 本実施形態の画像処理を説明するフローチャートである。 実施例のシミュレーションに用いる照明および光学素子の図である。 本発明の訓練データを示す図である。(実施例1) 本発明の真の振幅、位相分布および評価画像を示す図である。(実施例1) 本発明の再構成された振幅および位相分布を示す図である。(実施例1) 本発明の評価画像を示す図である。(実施例2) 本発明の再構成された振幅および位相分布を示す図である。(実施例2) 本発明の真の振幅、位相分布および評価画像を示す図である。(実施例3) 本発明の再構成された振幅および位相分布を示す図である。(実施例3) 図3(c)のフローを用いた場合の再構成結果を示す図である。(実施例3) 本発明の再構成された振幅および位相分布を示す図である。(実施例3)
本発明は、撮像装置に関するものであり、特に、明視野顕微鏡から取得されたデジタル画像から標本の情報を再構成するシステムに関する。本実施形態の画像処理部(画像処理装置)は、記憶手段と結合係数演算部(第1の算出部)と中間データ生成部(第2の算出部)と変換部(第3の算出部)と判断部とを有する。特に、結合係数演算部が評価画像を基底の線形結合で近似する点、中間データ生成部および変換部が複素量のデータを出力する点に特徴を有している。このような撮像装置または撮像システムはデジタル顕微鏡として好適であり、例えば、医学・生物学の研究や病理診断の用途に有用である。
以下、添付図面を参照して、本発明の一実施形態を説明する。
図1は、本発明の実施形態に係る撮像システムの概略構成を示している。図1に示すように、本実施形態の撮像システムは、撮像装置10、コンピュータ(PC)501、画像処理部(画像処理装置)502、記憶装置503から構成され、PC501には入力装置504および表示装置505が接続されている。ただし図1のシステム構成は一例に過ぎない。
撮像装置10は、照明光学系100、光源101、標本ステージ201、ステージ駆動部202、結像光学系300、光学素子301、撮像素子401から構成される。
光源101として、例えば、ハロゲンランプやLED(Light Emitting Diode)を用いることができる。
照明光学系100は、絞りなどの照明光変調装置を備えていてもよい。明視野顕微鏡の光学系において、照明光学系100の絞りは解像力や焦点深度を変化させる。そのため、標本の種類やユーザのニーズに応じて観察画像を調整する目的で、照明光変調装置は有用である。また、後述の再構成精度を向上させる目的で照明光変調装置を使用してもよい。例えば、照明光変調装置として開口数の小さい絞りや複雑な透過率分布を有するマスクを用いると観察画像における標本の解像力は低下するが、再構成精度が照明光変調装置を用いない場合より向上するのであれば利用する価値がある。
照明光学系100からの射出光は、標本ステージ201に載置された標本203に導かれる。ステージ駆動部202は、標本ステージ201を結像光学系300の光軸方向と光軸に直交する方向とに移動する機能を備えており、さらには標本を交換するための機能を備えていてもよい。標本の交換は、別の機構(不図示)が自動的に行う形態でもよいし、ユーザが手動で行う形態でもよい。
標本203を同定する情報としては、透過光の振幅および位相分布が対応付けられる。この振幅および位相分布は、(通常は標本表面に垂直な方向からの)平行光を照明された標本203の直後における透過光の振幅と位相の2次元分布を意味し、以降では単に、標本203の「振幅」および「位相分布」と呼ぶ。
またこれを一般化して、標本203の構造を反映した複素量の2次元分布としてもよい。例えば、標本203において染色の濃度が高い部位や光の散乱が大きい部位は透過率が低いため、透過光の振幅は入射光に対して減衰する。また、標本203において屈折率が相対的に高い部位は光路長が相対的に長くなるために、入射光に対する位相変化量が相対的に大きい。なお「光路長」とは、光が透過する媒質の屈折率と厚みの積で与えられる量であり、透過光の位相変化量に比例する。このように標本203の透過光の振幅および位相分布は標本203の構造を反映しており、これらの分布から標本203の3次元的な構造を推定することも可能である。
標本203からの透過光は、結像光学系300を介して撮像素子401上に標本203の光学像を形成する。ここで、結像光学系300の光路中に配置された光学素子301は、結像光学系300の瞳面近傍における投影光の強度または位相の少なくとも一方の分布を変調する手段である。光学素子301の目的は、再構成の対象である標本の振幅または位相分布の情報を効率的に観察像に埋め込むことである。言い換えると、取得する画像の枚数または解像度を最小限にして標本の振幅または位相分布の高精度な再構成を可能にすることである。光学素子301はSLMのような可変型の素子であってもよいし、光学特性が固定された位相板のような素子であってもよい。また、光路中に挿脱可能な可動型の構造であってもよい。
なお、光学素子301の光学特性は製造誤差や制御誤差の影響を受け、再構成結果に影響することが懸念される。しかし、S213の説明で述べるように、あらかじめこの光学特性を計測するか、もしくは訓練標本の標本データが完全に既知であることにより、この問題は解決される。また、光学系の配置は必ずしも標本の透過光を結像する透過型である必要はなく、落射型の配置であってもよい。
撮像素子401は、結像光学系300が投影する標本203の光学像を光電変換し、コンピュータ(PC)501、画像処理部502、記憶装置503のいずれかに画像データとして伝送する。
標本203に関する再構成を画像取得後に直ちに行わない場合には、撮像素子401からPC501あるいは記憶装置503に画像データが伝送され、蓄積される。再構成を画像取得後に直ちに行う場合には、画像処理部502に画像データが伝送され、再構成するための演算処理を行う。
画像処理部502は、記憶手段、結合係数演算部(第1の算出部)、中間データ生成部(第2の算出部)、変換部(第3の算出部)、判断部を有する。これらは、別個のモジュールとしてハードウェアまたはソフトウェアで構成される。画像処理部502は、PC501によって制御されるが、画像処理装置のようにマイクロコンピュータ(プロセッサ)を含んで構成されてもよい。
結合係数演算部は、結像光学系300が形成した複数の既知の標本の光学像を光電変換して得られる複数の画像から生成された基底の線形結合で、第2の画像を近似するための結合係数を算出する。中間データ生成部は、複数の既知の標本のデータの非線形写像によって得られる複数の複素量のデータと算出された結合係数と、に基づいて中間データを算出する。変換部は、算出された中間データから未知の標本に関する複素量のデータを算出する。判断部は、算出された結合係数に基づき、再構成に用いる訓練データを交換し、再構成をやり直すかどうかを判断する。
生成されたデータは、表示装置505に表示されるか、PC501あるいは記憶装置503に伝送され蓄積されるか、もしくは両方が実行される。この処理内容は、入力装置504を介したユーザの指示か、PC501あるいは記憶装置503に格納されている情報に基づき決定される。
図1における撮像装置10以外の全ての装置は、必ずしも撮像装置10と物理的に直接接続されている必要はない。例えば、撮像装置10はLAN(Local Area Network)やクラウドサービスを介して外部に接続されていてもよい。このメリットとして、撮像装置10と画像処理部502が一体化されていないために個々の撮像装置は低コストでコンパクトにできること、複数のユーザ間で実時間でデータを共有できることが挙げられる。
以下、本発明の様々な実施例における標本203の情報の再構成方法について説明する。
本発明は、未知の標本203の振幅および位相分布を、撮像装置を介して取得した評価画像から訓練データを用いて再構成するための手段を開示する。再構成方法の説明に先立ち、まず本実施形態の画像処理の概念について、図2を参照しながら説明する。
図2に示す画像処理は、独立の画像処理装置で行われてもよいし、撮像装置10と一体の画像処理部502で行われてもよい。また、図2に示す再構成方法は画像処理方法として機能する。
まず、訓練データについて説明する。振幅および位相分布が既知の複数の標本(第1の標本)203を「訓練標本」と呼び、訓練標本の振幅および位相分布を再構成に用いる。本実施例では訓練標本の個数をTと記す。T個の訓練標本の各々の振幅および位相分布を「標本データ」、未知の標本(第2の標本)の振幅および位相分布を「再構成データ」と呼ぶ。このT個の訓練標本の各々から撮像装置を用いて得られるT個の観察像(第1の画像)を「訓練画像」、未知の標本から同様に得られる1つの観察像(第2の画像)を「評価画像」と呼ぶ。また、この訓練標本と訓練画像を合わせて「訓練データ」と呼ぶ。
従って、第1の標本と第1の画像とは、部分コヒーレントまたはコヒーレントな結像光学系が形成した複数の既知の第1の標本の光学像を光電変換することによって得られる。具体的には、複数の第1の画像は、前記結像光学系または前記結像光学系と同一の光学特性を有する結像光学系が形成した複数の既知の第1の標本の光学像を光電変換することによって得られる。あるいは、複数の第1の画像は、複数の第1の標本の各々に対応する複素量のデータから計算によって生成されてもよい。
同様に、前記第2の画像は、前記結像光学系または前記結像光学系と同一の光学特性を有する結像光学系が形成した未知の第2の標本の光学像を光電変換することによって得られる。
本実施例では明視野顕微鏡を前提とするので、コヒーレント結像または部分的コヒーレント結像によって標本203の観察像が形成される。例えば、非特許文献3に開示されているように、この場合に標本203の振幅および位相分布と観察像の関係は非線形である。具体的には、観察像を表すベクトルIと標本の振幅および位相分布を表すベクトルxとの間には式(1)の関係が成り立つ。
ここで、xは標本203の振幅および位相分布を複素数で表す列ベクトル、Gはコヒーレント結像または部分的コヒーレント結像を表現する複素行列、vecは行列を列ベクトルに分解して縦に連結する演算、Hはベクトルの転置共役である。また、kronはクロネッカー積、右肩の*は複素共役を表す。行列Gは結像光学系300の回折限界に起因する光学的なぼけの情報に加えて、結像光学系300の収差および焦点ずれ、光学素子301の情報、撮像装置自体または環境に起因する振動や温度変化などの画像劣化要因の全ての情報を含む。
なお、式(1)には明示していないが、現実には観測過程において撮像素子401などに起因して観測ノイズが加わるので、式(1)の右辺にノイズを表現する実定数ベクトルが加わると考えてよい。
次に、図2に示す入力空間、特徴空間、像空間の3つを定義する。
「入力空間」とは、標本203の振幅および位相分布に関するデータが形成する空間であり、個々のデータはN次元の複素ベクトルであるとする。標本データおよび再構成データは入力空間に含まれる。これらのデータは、標本の表面に略平行な平面内のN点の既定の座標でサンプリングされた振幅および位相の値を複素数として表現したものである。
「特徴空間」とは、入力空間のデータに対する非線形写像φによって得られるデータが形成する空間である。ここで、非線形写像φは、式(1)を踏まえ式(2)で定義する。
これは入力空間のN次元の複素ベクトルを特徴空間のN次元の複素ベクトルに変換する写像である。非線形写像φの導入により、式(1)で表されるコヒーレント結像または部分的コヒーレント結像は、特徴空間のデータに対する線形写像と解釈できる。この線形写像は式(1)に示すように行列Gを乗じる変換であるので、以降ではこの線形写像をGと表す。
本実施形態の特徴の1つは、コヒーレント結像または部分的コヒーレント結像において逆問題を解く困難の原因となっていた非線形性を、非線形写像と線形写像とに分解する点にある。以降では、図2に示すように、標本データを特徴空間に写像したデータを「変換データ」、再構成データを特徴空間に写像したデータを「中間データ」と呼ぶ。
なお、図2に示すφ−1はφの逆写像であり、φで写像されたデータをφ−1で写像すると元に戻るものとする。しかし、式(2)のφに対してはφ−1を陽に表現することはできず、φ−1の結果を得るには実際には数値的に推定するしかない。そのための具体的な方法として、行列の特異値分解(SVD;Singular Value Decomposition)が挙げられる。本実施例において特徴空間の全てのデータは階数1の正方行列であるため、そのような行列に特異値分解を行うと、特異ベクトルとしてN次元のベクトルxが一意に求められる。言い換えると、特異値分解を行い特異ベクトルを出力する操作としてφ−1を定義することが可能である。
「像空間」とは、特徴空間のデータを線形写像Gで写像したデータ、すなわち観測像が形成する空間である。図2に示すように、変換データのGによる写像が訓練画像であり、中間データのGによる写像が評価画像という関係がある。像空間の個々のデータは現実に観測される像強度分布を既定のM点でサンプリングしたデータであり、M次元の実数ベクトルとする。
次に、カーネル行列を定義する。近年、機械学習の分野で非線形なモデルに基づく学習などの目的でカーネル法と呼ばれる手法が使われている。カーネル法の一般的な定義は、非特許文献4などで解説されている。一般的にカーネル法においては、カーネル行列Kを適当な非線形写像φ’を用いて式(3)で定義する。
ここで、Kijはカーネル行列Kのi行j列成分、Xはサンプルの母集団の中のi番目のサンプルに対応するデータ、<・,・>は内積をそれぞれ表す。内積を2つのデータの類似度と解釈するならば、カーネル行列Kとは特徴空間におけるデータの全ての組合せに対する類似度を表現した行列であると言うことができる。式(3)の非線形写像φ’を式(2)の非線形写像φに置き換えると、式(4)に示すように、カーネル行列Kはφを陽に含まない形で表すことができる。
ここで、xはi番目の訓練標本の標本データを表す複素ベクトルである。カーネル行列Kを算出するために、式(3)では入力空間のデータを特徴空間に写像した後にN次元の2ベクトルの内積を計算するのに対し、式(4)では入力空間のN次元の2ベクトルの内積を計算するだけで済むため、式(3)に比べ計算量が大幅に減る。このようにカーネル行列の計算量を低減する手法は、一般的にカーネルトリックと呼ばれる。
本発明の特徴の1つは、カーネル法を機械学習ではなくコヒーレント結像または部分的コヒーレント結像の逆問題に応用する点にある。さらには、式(4)のカーネルを用いること、およびその結果として計算量を抑えられる点に特徴を有する。
式(3)においてφ’(X)に対して平均値を除去する処理(「センタリング」又は「中心化」と呼ばれる)を行う場合があるが、非特許文献4に開示されているように、その場合にもカーネル行列Kから直接センタリング後のカーネル行列Kを算出できる。
次に、カーネル行列Kに基づき訓練画像と評価画像の関係を抽出する。なおこの関係は、特徴空間における変換データと中間データの関係と同一である。その理由は、特徴空間と像空間が線形写像Gで対応しているためである。
関係を抽出するために、複数の訓練画像の線形結合で新たな基底を生成する。この新たな基底を固有像と呼ぶ。基底を生成する具体的な方法として、例えばカーネル行列Kに対し主成分分析を行い、得られた複数の固有ベクトルの各々を線形結合係数として用いて前記複数の訓練画像を線形結合することで、複数の固有像を生成する。これは式(5)で表すことができる。
ここで、Eは各列が固有像E、E、…EであるM行L列の行列、Iは各列が訓練画像I、I、…IであるM行T列の行列をそれぞれ表す。Lはカーネル行列Kの階数以下の自然数であり、ユーザが任意に指定してもよいし、カーネル行列Kの固有値に基づいて決定してもよい。後者の場合、例えば既定の閾値以上である固有値の数を自動的にLとする決定方法が挙げられるが、これに限定されることはない。αはカーネル行列Kの複数の固有ベクトルからなるT行L列の行列である。行列αを求める具体的な方法として、例えばカーネル行列Kに対する特異値分解を用いることができる。その場合には、対応する特異値が大きい順、または他の基準によってL個の特異ベクトルを選択し、それらの列ベクトルを連結することで行列αを生成する。
次に、L個の固有像の線形結合で評価画像を近似することで、訓練画像と評価画像の関係を完全に決定する。これは、固有像を基底とするL次元空間において評価画像に最も近い解を探索すると言い換えることもできる。近似は、例えば、固有像の線形結合と評価画像との差分のノルムを最小化する結合係数を求める問題、すなわち最小二乗問題として定式化することができる。結合係数をL次元の実数ベクトルγとして表すことにすると、最小二乗問題は式(6)で表すことができる。
ここで、γ上のハット(^)は推定解であることを表すために付けている。また、式(6)の右辺の第2項は解が異常値をとることを防止する目的で付加される正則化項の一種である。特に式(6)のように解のL2ノルム(最小二乗解)で定義される場合には、Tikhonov正則化またはリッジ回帰と呼ばれる。なお、正則化項の係数λは任意の実数である。また、第1の算出部は評価画像にふくまれる観測ノイズの大きさを推定して推定値に基づき正則化係数λを決定してもよい。なお、正則化を行わないために正則化係数λを0としても良い。その場合、第1の算出部は、基底からなる行列に関するMoore―Penroseの疑似逆行列を用いて最小二乗解を求め、結合係数を算出できる。
正則化係数λが0でない場合、式(6)の解は、非特許文献4にも開示されているように式(7)で与えられ、反復処理なしに比較的高速に算出可能である。なお、式(7)においては、行列Eが縦長か横長かによって条件分岐される。
ここで、右肩のTは行列の転置、右肩の−1は逆行列、行列LはL次元の単位行列、ベクトルI’は評価画像をそれぞれ表す。式(6)の解の算出方法は式(7)に限られることはなく、代わりに、例えば、式(8)を用いることができる。
ここで、UとUはEの特異ベクトルからなる行列、ΣはEの特異値を対角要素にもつ対角行列、thresholdは引数の行列要素のうち閾値θを超える要素を0などの定数に置き換える関数である。このように式(5)および(6)に基づき、評価画像I’はT個の訓練画像に対応する行列Iに行列αとベクトルγを乗じることで近似される。これが訓練画像と評価画像の関係である。この関係を特徴空間にそのまま適用すると、中間データφ(z)はT個の変換データを列成分とする行列Φに行列αとベクトルγを乗じることで得られる。この関係は式(9)で表すことができる。
ここで、行列Φは各列がφ(x)、φ(x)…φ(x)であるN行T列の行列、Vは各列が訓練基底v、v、…vであるN行L列の行列である。図2に示すように、訓練基底とは特徴空間において固有像に対応するL個のベクトルの集合であり、中間データを形成するための基底である。訓練基底は説明の都合上形式的に導入した概念であり、実施においては陽に計算する必要はない。
このように、線形写像Gの逆写像を直接計算することを回避していることが、本実施形態の特徴の1つである。像空間の次元Mよりも特徴空間の次元Nの方が圧倒的に大きいために、線形写像Gの逆写像は一意に定まらず、この条件下での逆問題はいわゆる不良設定(ill−posed)問題に属する。
これに対し、本発明の方法ではこのような非適切性を含む計算を一切含まないため、安定して正しい再構成結果が得られる。また、前述したとおり、特徴空間のデータを入力空間に逆写像するには特異値分解などを用いればよく、その結果として中間データφ(z)から再構成データzが一意に求められる。以上のことを総合すると、式(5)、式(6)および式(9)の計算を順に行うことにより、既知のデータである訓練データと評価画像とから再構成データzを再構成できる。
本発明の特徴の1つは、コヒーレント結像または部分的コヒーレント結像における再構成を、反復処理なしに行列積の演算だけで高速に実行する点にある。さらには、再構成の処理が図2において、評価画像I’から直接中間データφ(z)ないしは再構成データzに直接進むのではなく、線形写像Gの逆写像を回避して訓練データを経由する迂回したルートで進むという点に特徴を有する。
また、一般的なCSは再構成対象の情報が疎(sparse)であることを仮定するが、本発明は前述の説明から分かるように疎性の仮定を用いないため、原理的には疎でない情報を再構成できる点にも特徴を有する。
この点、非特許文献2は、物理的な観測量(観測像)どうしの関係をそのまま特徴空間に適用するという概念はなく、本発明とは本質的に異なる。
次に図3を参照して、図1に示す撮像システムにおいて標本203の情報を再構成するための画像処理方法について説明する。「S」はステップを表し、図3に示すフローチャートはコンピュータに各ステップの機能を実現させるためのプログラムとして具現化が可能である。まず全体の処理の手順について、図3(a)に示すフローチャートを参照して説明する。
S201では、標本ステージ201上に標本203を設置する。例えば、標本ステージ201自身、または連携する自動送り込み機構が、カセットなどの標本保持手段から標本203を取り出して標本ステージ201上に載置する。なお、この処理を装置が自動で行う代わりにユーザ自身が手動で行ってもよい。ステージ駆動部202による標本ステージ201の駆動を制御することによって、標本203の観察対象領域を所定の合焦状態で撮像するために適切な位置に標本を移動する。この移動は、S203以前ならばどのタイミングで行ってもよい。
S202では、標本203の情報の再構成を行う場合には、必要に応じて光学素子301が投影光の強度または位相の少なくとも一方の分布を変調する状態にする。一方、通常の顕微鏡像を取得する場合には、光学素子301を光路の外に移動する、またはSLMを制御するなどの方法で投影光の強度と位相に有意な変調を与えない状態にする。
S203では、振幅および位相分布が未知である標本203の画像を撮像する。
S204では、S203において取得された画像データを撮像素子401からPC501、画像処理部502、記憶装置503のいずれかに伝送する。
標本203の情報の再構成を行う場合には、S206の処理を実行する。
S206では、画像処理部502において前記画像データに基づき標本の振幅または位相分布に関する再構成データを出力する。この処理内容は、後に図3(b)を用いて詳細に説明する。
S207では、ユーザからの指示または既定の設定に従い、前記再構成データを記憶装置503またはPC501に格納するか、表示装置505に表示する。
次に、S206において画像処理部502が行う画像処理について、図3(b)に示すフローチャートを参照しながら説明する。
S211では、PC501または記憶装置503のいずれかに蓄積されている訓練データと未知の標本に対する評価画像とを読み出す。この標本と評価画像の組は1つでもよいし、複数でもよい。
訓練データは、図3(a)に示した一連の処理に先立ち予め取得し蓄積されている。訓練データは、撮像装置10における標本203と観察像の関係に影響する要因、例えば、結像光学系300の収差情報や焦点ずれ量、光学素子301が変調する強度及び位相分布についての情報が既知である場合には全て計算によって生成してもよい。即ち、既定のルールに従いT個の標本データを計算上で生成し、標本データと撮像装置10の情報とに基づき結像シミュレーションによって訓練画像を計算上で生成する。
撮像装置10の情報は、訓練データを生成する前に撮像装置10に対して計測を行い取得してもよい。例えば、撮像装置10に対して一般的な波面収差計測法を用いて結像シミュレーションに用いるための収差データを取得する。
一方で、撮像装置10の情報が未知のまま再構成を行うことも可能である。この場合には、訓練標本は実在する複数の標本203とし、これらの標本203に対して撮像装置10を用いて図3(a)と同じ条件および手順で訓練画像を取得する。
この場合には、全ての訓練標本に関する標本データ、すなわち透過光の振幅および位相分布は既知でなければならない。この標本データは、一般的な波面収差計測法や表面形状計測手段によって得られたデータから生成してもよいし、人工的に作成した標本であればその設計値から生成してもよい。また、訓練標本は見かけ上必ずしも複数である必要はない。例えば、訓練標本として有効な要素が1つの標本の中に複数集積してもよいし、このような形態に限られることはない。
このように、撮像装置10の情報が未知のままで逆問題を解くことができる、言い換えるとブラインド推定が可能である点に、本発明の特徴の1つがある。ブラインド推定のメリットは、種々の画像劣化要因に再構成精度が影響を受けない頑健性である。
画像劣化要因の一例としては、撮像装置10や光学素子301の製造誤差に起因する性能のばらつき、撮像装置自体または環境に起因する振動や温度変化などが挙げられる。ブラインド推定が可能である理由は、標本203と観測像の関係を含む訓練データを用いることで、式(1)において撮像装置10の情報を全て含む行列Gを直接再構成に用いることを回避しているためである。
もし、既に訓練データを用いて固有像E、変換データΦ、カーネル行列αが求められており、それらがPC501または記憶装置503のいずれかに蓄積されているならば、以降のS213〜S214は行う必要がない。言い換えると、一度訓練データから定数行列(固有像および式(9)の行列V)を生成しておけば、撮像装置10に変化がない限り未知の標本203および評価画像がいくら変化しても、S215以降の計算を反復なしに1回行うだけで再構成の処理が終わる。
S213では、標本データを用いて式(4)または(3)に基づきカーネル行列αを生成する。S214では、式(5)に基づき固有像Eを生成する。
S215(第1のステップ、第1の機能)では、結合係数演算部(第1の算出部)が式(7)または(8)などに基づき線形結合係数γを求める。
S217(第2のステップ、第2の機能)では、中間データ生成部(第2の算出部)が式(9)に基づき中間データφ(z)を求める。S218(第3のステップ、第3の機能)では、変換部(第3の算出部)が中間データφ(z)の逆写像であるzを求める。
しかし、未知の標本203と訓練データとの組み合わせによっては再構成精度が大きく低下することもある。そのような場合には、γのノルムが異常に大きい値をとる。これを解決する1つの方法として、S215において求められた線形結合係数γのノルムが閾値を超える場合には、再構成に用いる訓練データを変えるという方法が挙げられる。この場合、判断部は結合係数のノルムが既定の閾値以下であるかどうかを判断する(S216)。この処理方法を、図3(c)のフローチャートに示す。
S215において求められた線形結合係数γのノルムが閾値を超える場合には(S216のNO)、S219に進み訓練データを交換する。具体的には、再構成に用いる訓練データの組数Tよりも多く訓練データをあらかじめ用意しておき、そのうちのT組だけを選択して再構成に用いてもよい。結像シミュレーションによって訓練画像を計算上で生成する場合には、この代わりに標本データを既定の規則に従い新たに生成し直して訓練画像を生成してもよい。また、訓練データを交換する方法はこれらに限られることはない。
本発明の特徴の1つは、再構成の途中の時点で再構成誤差が予測可能であり、なおかつ誤差が大きいと予測される場合には誤差を低減する手段(訓練データの交換)を自動的に実行できる点にある。これについては以下の実施例3において、具体例に基づき詳細を説明する。
次に、本発明の実施例1を、数値シミュレーションを用いて説明する。
以下では、シミュレーション条件を説明する。照明光学系100から標本に照射される照明光の波長を0.55μm、結像光学系300の標本側の開口数を0.70、照明光学系100の開口数を0.49(すなわちコヒーレンスファクタ0.70)とする。
図4(a)に示すように、照明光学系の瞳面の透過光強度分布(または標本がない場合に結像光学系の瞳面に形成される光強度分布)は開口数0.49に対応する円形境界の内部で一様である。
図4(b)および(c)に、結像光学系の瞳面に配置された光学素子による透過光の振幅と位相の変化の分布を示す。振幅分布はサンプリング点ごとに独立に0〜1の値を一様乱数で生成し、位相分布はサンプリング点ごとに独立に標準偏差2πラジアンのガウス乱数で生成した。また、結像倍率は説明の都合上1倍とするため、結像光学系300の像側の開口数は0.70であり、標本と像面の縮尺は同一とする。なお、現実の顕微鏡では数十倍〜数百倍の結像倍率が用いられるが、以降の議論の本質は何ら変わることがない。明視野顕微鏡は部分コヒーレント結像に従うことが知られているため、本実施例では一般的な2次元の部分コヒーレント結像の理論に基づくシミュレーションを行う。また、乾式顕微鏡を想定し、標本と結像光学系300の間は屈折率1.00の空気で満たされているとする。
以上の条件は、以降の訓練標本および未知の標本の撮像において一切変化しないものとする。また、以降の全ての標本と像のサンプリング間隔は0.30μmとし、振幅は0から1の間の実数とし、位相はラジアン単位で示す。
図5(a)および(b)に、160個の11×11画素の振幅および位相分布からなる標本データを縦に8個、横に20個に並べて示す。各々の標本データは、透過率、位相、位置をランダムに決定した2個の開口の振幅および位相分布をベクトル化し、2値のランダム行列を乗じることで生成した見かけ上密な振幅および位相分布である。
図5(c)に、この160個の標本データから前述の条件で計算上得られる160個の訓練画像(像強度分布)を、同様に並べて示す。また、この標本データから式(4)に従い160行160列のカーネル行列を生成し、対応する固有値が大きい順に120個の固有ベクトルを抽出し160行120列の行列αを算出する。
この行列αと図5(c)の訓練画像とから式(5)に従い120個の固有像が生成される。図5(d)に固有像を、見やすさのために絶対値の常用対数をとった上で縦に6個、横に20個に並べて示す。図5(d)の左方の53個以外は1.00E−10以下の輝度値であり、これらを用いなくても再構成精度に有意な変化は生じない。このことは、カーネル行列の固有値または固有ベクトルから必要な固有像の数Lが決定できることを示唆している。本実施例の場合には、Lは53以上であれば十分であるといえるが、以降では固有像の数Lを120としたまま計算を行う。
一方、未知の標本203として、図6(a)および(b)に示す11×11画素の振幅および位相分布を設定する。図6(c)に、この未知の標本203から前記条件の明視野顕微鏡を介して得られる評価画像(像強度分布)のシミュレーション結果を示す。ここで、像強度分布が標本203とは全く異なる様相の分布をしているのは、図4に示した光学素子を用いているためである。
次に、図5に示した訓練データを用いて、図6(c)の評価画像から未知の標本の振幅および位相分布を再構成する。まず、式(7)において正則化パラメータλを0として線形結合係数γを算出する。こうして得られたγを式(9)に代入し、得られた中間データφ(z)を121行121列の行列に変形した後に特異値分解を行う。こうして得られた第1の特異値の平方根と第1の左特異ベクトルとの積を、11行11列の行列に変形することで、図7(a)および(b)に示す再構成された未知の標本の振幅および位相分布を得る。これらは、図6(a)および(b)の真の分布をほぼ完全に再構成している。この再構成の精度を定量化するために、式(10)で定義されるRMSE(Root Mean Square Error)を用いる。
ここで、Nは画素数(本実施例においては121)、iは画素番号、xは再構成された画素iの振幅または位相、x’は画素iの真の振幅または位相をそれぞれ表す。
図7(a)の図6(a)に対するRMSEは4.29E−12、図7(b)の図6(b)に対するRMSEは3.98E−11ラジアンであり、無視できる水準の誤差である。
このように、明視野顕微鏡を用いて取得した1枚の評価画像だけから標本203の振幅および位相分布を高精度で再構成することが、本実施例の方法により可能になる。
このようにして再構成された振幅および位相分布は、未知の標本203の3次元的な構造を把握する目的に利用することも可能である。簡単な例としては、位相分布に既定の定数を乗じることにより、屈折率が略一様な標本に対しては厚さ分布を推定することができる。
また、この振幅および位相分布を利用すれば、標本中の特定の構造を強調して描画するなどの従来にないレンダリングが可能になり、標本203の情報の見せ方の自由度が大きく拡張される。
さらには、再構成された分布は原理的に顕微鏡の画質劣化要因の影響が除去されているため、通常の明視野顕微鏡を用いて観察される画像に比べ解像力が向上した鮮明な画像が得られ、微細な構造を観察することが容易になる。なお、画質劣化要因とは具体的には、結像光学系の回折限界に起因するぼけ、撮像素子に起因するノイズや解像力の低下などである。
次に、本発明の実施例2を、数値シミュレーションを用いて説明する。観測ノイズ以外の全ての条件とデータは実施例1と同じとする。
図6(c)に示す評価画像に観測ノイズとして加法的白色ガウスノイズを与える。各画素のノイズは互いに独立でありながら共通の統計分布に従い、その分布は平均が0、標準偏差が輝度の最大値の1.00%の正規分布である。本実施例では実施例1と異なり、図8に示す観測ノイズを加えた評価画像を用いて式(7)に基づき再構成を行う。
図9(a)および(b)に、式(7)の正則化パラメータλを実施例1と同様に0とした場合の振幅および位相分布の再構成結果を示す。図9(a)の図6(a)に対するRMSEは1.07E−1、図9(b)の図6(b)に対するRMSEは1.92ラジアンである。一方、図9(c)および(d)に、式(7)の正則化パラメータλを1.00E−6とした場合の振幅および位相分布の再構成結果を示す。
図9(c)の図6(a)に対するRMSEは7.87E−3、図9(d)の図6(b)に対するRMSEは8.18E−1ラジアンである。図とRMSE値から分かるように、正則化を加えた方が明らかに真の分布に近い。
以上の結果が示すように、観測ノイズの影響を抑制するためには、式(6)の最小二乗問題における正則化が有効である。なお、本実施例では評価画像に観測ノイズを加えた場合だけを説明したが、訓練画像に同様に観測ノイズが加わっている場合にも同様に再構成ができる。
次に、本発明の実施例3を、数値シミュレーションを用いて説明する。図10に示す未知の標本以外は全ての条件とデータは実施例1と同じとし、観測ノイズはないものとする。
図10(a)および(b)に、未知の標本の振幅および位相分布を、図10(c)に対応する評価画像を示す。この未知の標本は図5の訓練データとの相性が良くないために、その再構成結果は図11(a)および(b)に示す振幅および位相分布となり、誤差が比較的大きい。図11(a)の図10(a)に対するRMSEは5.76E−2、図11(b)の図10(b)に対するRMSEは1.47ラジアンである。
そこで、図3(c)に示すフローに従い再構成を行う。すなわち、γのL2ノルムが閾値を超える場合には再構成を中断して訓練データを交換して再構成をやり直す。γのL2ノルムに関する閾値は1.00E+6とする。即ち、判断部は、判定条件を満たさない場合に、複数の第1の標本を他と交換し、第1の算出部および第2の算出部に中間データの算出をやり直させる。この場合、判定条件は、前記結合係数のノルムが既定の閾値以下であるという条件である。
図12に、γのL2ノルムが閾値以下になった時の訓練データおよび再構成された振幅および位相分布を示す。図11の結果に伴うγのL2ノルムは6.33E+14であったのに対し、図12の結果に対しては閾値未満の1.08E+4であった。図12において、(a)は訓練標本の振幅分布、(b)は訓練標本の位相分布、(c)は訓練画像、(d)は固有像を、図5と同様の形式で示している。訓練データが実施例1と異なることに起因し、図12(d)の有意な固有像は右端の列を除く114個になっている。
また、図13(a)および(b)に、振幅および位相分布の再構成結果を示す。図13(a)の図10(a)に対するRMSEは2.67E−12、図13(b)の図10(b)に対するRMSEは4.41E−11ラジアンであり、実施例1と同等の精度である。以上の結果が示すように、再構成を確実に成功するために図3(c)に示すフローが有効であり、再構成精度は再構成の途中で得られるγのL2ノルムの値から予測可能である。
本発明は、デジタル顕微鏡、画像処理装置、画像処理方法の分野に適用することができる。
10…撮像装置、300…結像光学系、501…コンピュータ(PC)、502…画像処理部

Claims (18)

  1. 部分コヒーレントまたはコヒーレントな結像光学系が形成した既知の複数の第1の標本の光学像を光電変換して得られる複数の第1の画像から生成された基底の線形結合により、第2の画像を近似するための結合係数を算出する第1の算出部と、
    前記複数の第1の標本のデータの非線形写像によって得られる複数の複素量のデータと、前記第1の算出部によって算出された前記結合係数と、に基づいて中間データを算出する第2の算出部と、
    前記第2の算出部によって算出された前記中間データに基づいて未知の第2の標本に関する複素量のデータを算出する第3の算出部と、
    を有することを特徴とする画像処理装置。
  2. 前記第2の画像は、前記結像光学系または前記結像光学系と同一の光学特性を有する結像光学系が形成した前記第2の標本の光学像を光電変換して得られ、前記基底は、前記第1の算出部により前記複数の第1の標本の画像の線形結合として生成されることを特徴とする請求項1に記載の画像処理装置。
  3. 前記第1の算出部は、前記複数の第1の標本の各々に対応する複素量のデータどうしの内積を用いて定義されるカーネル行列の固有ベクトルを線形結合係数として、前記複数の第1の標本の画像を線形結合することを特徴とする請求項2に記載の画像処理装置。
  4. 前記第1の算出部は、前記カーネル行列の固有値に基づき前記基底の数を決定することを特徴とする請求項3に記載の画像処理装置。
  5. 前記第1の算出部は、前記複数の第1の画像をそのまま前記基底として出力することを特徴とする請求項2に記載の画像処理装置。
  6. 前記中間データは、前記複数の第1の標本の各々に対応する複素量の行列とその複素共役とのクロネッカー積から得られる複数の行列の線形結合であることを特徴とする請求項1乃至5のうちいずれか1項に記載の画像処理装置。
  7. 前記複数の第1の画像は、前記結像光学系または前記結像光学系と同一の光学特性を有する結像光学系が形成した複数の既知の第1の標本の光学像を光電変換して得られることを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
  8. 前記複数の第1の画像は、前記複数の第1の標本の各々に対応する複素量のデータから計算によって生成されることを特徴とする請求項1乃至6のうちいずれか1項に記載の画像処理装置。
  9. 判定条件を満たさない場合に、前記複数の第1の標本を他と交換し、前記第1の算出部および前記第2の算出部に中間データの算出をやり直させる判断部を更に有することを特徴とする請求項1乃至8のうちいずれか1項に記載の画像処理装置。
  10. 前記判定条件は、前記結合係数のノルムが既定の閾値以下であるという条件であることを特徴とする請求項9に記載の画像処理装置。
  11. 前記第1の算出部は、前記結合係数を算出するために前記基底からなる行列に関するMoore―Penroseの疑似逆行列を用いて最小二乗解を求めることを特徴とする請求項1乃至10のいずれか1項に記載の画像処理装置。
  12. 前記第1の算出部は、前記結合係数を算出するためにTikhonov正則化を用いて最小二乗解を求めることを特徴とする請求項1乃至10項のいずれか1項に記載の画像処理装置。
  13. 前記第1の算出部は、前記第2の画像に含まれるノイズの大きさの推定値に基づき正則化係数を決定することを特徴とする請求項12に記載の画像処理装置。
  14. 前記第3の算出部は、前記中間データからなる行列に対して特異値分解を行うことを特徴とする請求項1乃至13のいずれか1項に記載の画像処理装置。
  15. 標本の光学像を形成する部分コヒーレントまたはコヒーレントな結像光学系と、
    前記結像光学系が形成した前記標本の前記光学像を光電変換する撮像素子と、
    前記結像光学系が形成した複数の既知の第1の標本の光学像を光電変換することによって得られた複数の第1の画像から生成された基底の線形結合で、前記結像光学系が形成した未知の第2の標本の光学像を光電変換して得られた第2の画像を近似するための結合係数を算出し、前記複数の第1の標本のデータの非線形写像によって得られる複数の複素量のデータと、算出された前記結合係数と、に基づいて中間データを算出し、算出された前記中間データに基づいて前記第2の標本に関する複素量のデータを算出する画像処理部と、
    を有することを特徴とする撮像装置。
  16. 前記結像光学系は、光の強度または位相の少なくとも一方の分布を変調する光学素子を瞳面近傍に備えることを特徴とする請求項15に記載の撮像装置。
  17. 部分コヒーレントまたはコヒーレントな結像光学系が形成した複数の既知の第1の標本の光学像を光電変換して得られる複数の第1の画像から生成された基底の線形結合で、第2の画像を近似するための結合係数を算出する第1のステップと、
    前記複数の第1の標本のデータの非線形写像によって得られる複数の複素量のデータと、前記第1の算出部によって算出された前記結合係数と、に基づいて中間データを算出する第2のステップと、
    前記第2の算出部によって算出された前記中間データに基づいて未知の第2の標本に関する複素量のデータを算出する第3のステップと、
    を有することを特徴とする画像処理方法。
  18. コンピュータに、
    部分コヒーレントまたはコヒーレントな結像光学系が形成した複数の既知の第1の標本の光学像を光電変換して得られる複数の第1の画像から生成された基底の線形結合で、第2の画像を近似するための結合係数を算出する第1の機能、
    前記複数の第1の標本のデータの非線形写像によって得られる複数の複素量のデータと、前記第1の算出部によって算出された前記結合係数と、に基づいて中間データを算出する第2の機能、
    前記第2の算出部によって算出された前記中間データに基づいて未知の第2の標本に関する複素量のデータを算出する第3の機能、
    を実現させるためのプログラム。
JP2013184545A 2013-09-06 2013-09-06 画像処理方法、画像処理装置、撮像装置およびプログラム Pending JP2015052663A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013184545A JP2015052663A (ja) 2013-09-06 2013-09-06 画像処理方法、画像処理装置、撮像装置およびプログラム
PCT/JP2014/069499 WO2015033692A1 (en) 2013-09-06 2014-07-16 Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium
DE112014004099.1T DE112014004099T5 (de) 2013-09-06 2014-07-16 Bildverarbeitungsverfahren, Bildverarbeitungsvorrichtung, Bildaufnahmevorrichtung und nichtflüchtiges computerlesbares Speichermedium
US14/897,427 US20160131891A1 (en) 2013-09-06 2014-07-16 Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013184545A JP2015052663A (ja) 2013-09-06 2013-09-06 画像処理方法、画像処理装置、撮像装置およびプログラム

Publications (1)

Publication Number Publication Date
JP2015052663A true JP2015052663A (ja) 2015-03-19

Family

ID=52628178

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013184545A Pending JP2015052663A (ja) 2013-09-06 2013-09-06 画像処理方法、画像処理装置、撮像装置およびプログラム

Country Status (4)

Country Link
US (1) US20160131891A1 (ja)
JP (1) JP2015052663A (ja)
DE (1) DE112014004099T5 (ja)
WO (1) WO2015033692A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018034241A1 (ja) * 2016-08-15 2018-02-22 国立大学法人大阪大学 電磁波位相振幅生成装置、電磁波位相振幅生成方法及び電磁波位相振幅生成プログラム
JP2021528775A (ja) * 2018-07-03 2021-10-21 ナノトロニクス イメージング インコーポレイテッドNanotronics Imaging,Inc. 超解像イメージングの精度に関するフィードバックを行い、その精度を改善するためのシステム、デバイス、および方法
KR20230057650A (ko) * 2021-10-22 2023-05-02 삼성전자주식회사 이미지 센서의 스펙트럼 데이터를 처리하는 장치 및 방법

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108351506B (zh) * 2015-11-11 2020-12-04 斯科皮奥实验室有限公司 用于计算显微镜的自动聚焦系统
CN106842540B (zh) * 2017-03-24 2018-12-25 南京理工大学 基于光强传输方程的环形光照明高分辨率定量相位显微成像方法
CN109521028B (zh) * 2018-12-04 2021-06-25 燕山大学 一种金属三维多层点阵结构内部宏观缺陷检测方法
SG10201900755WA (en) * 2019-01-28 2020-08-28 Wilmar International Ltd Methods and system for processing lipid contents of at least one oil sample and simulating at least one training sample, and for predicting a blending formula, amongst others
CN111627008B (zh) * 2020-05-27 2023-09-12 深圳市华汉伟业科技有限公司 一种基于图像融合的物体表面检测方法及系统、存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006234389A (ja) * 2005-02-22 2006-09-07 Rikogaku Shinkokai 光位相分布測定方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4035668B2 (ja) * 1996-06-10 2008-01-23 富士ゼロックス株式会社 画像処理装置、画像処理方法、および記憶媒体
US6262818B1 (en) * 1998-10-07 2001-07-17 Institute Of Applied Optics, Swiss Federal Institute Of Technology Method for simultaneous amplitude and quantitative phase contrast imaging by numerical reconstruction of digital holograms
JP4020714B2 (ja) * 2001-08-09 2007-12-12 オリンパス株式会社 顕微鏡
EP1767923A4 (en) * 2004-06-30 2009-10-28 Nikon Corp MICROSCOPE OBSERVATION METHOD, MICROSCOPE, DIFFERENTIAL INERFERENTIAL MICROSCOPE, DEPHASING MICROSCOPE, ITERFERENTIAL MICROSCOPE, IMAGE PROCESSING METHOD, AND IMAGE PROCESSING DEVICE
US20080219579A1 (en) * 2007-03-05 2008-09-11 Aksyuk Vladimir A Methods and Apparatus for Compressed Imaging Using Modulation in Pupil Plane
JP5510712B2 (ja) * 2010-02-22 2014-06-04 株式会社ニコン 非線形顕微鏡
US20130011051A1 (en) * 2011-07-07 2013-01-10 Lockheed Martin Corporation Coded aperture imaging
JP6112872B2 (ja) * 2013-01-18 2017-04-12 キヤノン株式会社 撮像システム、画像処理方法、および撮像装置
DE102013015931B4 (de) * 2013-09-19 2024-05-08 Carl Zeiss Microscopy Gmbh Mikroskop und Verfahren zur hochauflösenden Scanning-Mikroskope
US9518916B1 (en) * 2013-10-18 2016-12-13 Kla-Tencor Corporation Compressive sensing for metrology

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006234389A (ja) * 2005-02-22 2006-09-07 Rikogaku Shinkokai 光位相分布測定方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018034241A1 (ja) * 2016-08-15 2018-02-22 国立大学法人大阪大学 電磁波位相振幅生成装置、電磁波位相振幅生成方法及び電磁波位相振幅生成プログラム
JPWO2018034241A1 (ja) * 2016-08-15 2019-06-20 国立大学法人大阪大学 電磁波位相振幅生成装置、電磁波位相振幅生成方法及び電磁波位相振幅生成プログラム
US10904415B2 (en) 2016-08-15 2021-01-26 Osaka University Electromagnetic wave phase/amplitude generation device, electromagnetic wave phase/amplitude generation method, and electromagnetic wave phase/amplitude generation program
US11412118B2 (en) 2016-08-15 2022-08-09 Osaka University Electromagnetic wave phase/amplitude generation device, electromagnetic wave phase/amplitude generation method, and electromagnetic wave phase/amplitude generation program
JP2021528775A (ja) * 2018-07-03 2021-10-21 ナノトロニクス イメージング インコーポレイテッドNanotronics Imaging,Inc. 超解像イメージングの精度に関するフィードバックを行い、その精度を改善するためのシステム、デバイス、および方法
JP7011866B2 (ja) 2018-07-03 2022-01-27 ナノトロニクス イメージング インコーポレイテッド 超解像イメージングの精度に関するフィードバックを行い、その精度を改善するためのシステム、デバイス、および方法
US11748846B2 (en) 2018-07-03 2023-09-05 Nanotronics Imaging, Inc. Systems, devices, and methods for providing feedback on and improving the accuracy of super-resolution imaging
US11948270B2 (en) 2018-07-03 2024-04-02 Nanotronics Imaging , Inc. Systems, devices, and methods for providing feedback on and improving the accuracy of super-resolution imaging
KR20230057650A (ko) * 2021-10-22 2023-05-02 삼성전자주식회사 이미지 센서의 스펙트럼 데이터를 처리하는 장치 및 방법
JP2023063240A (ja) * 2021-10-22 2023-05-09 三星電子株式会社 イメージセンサのスペクトルデータを処理する装置及びその方法
US11962921B2 (en) 2021-10-22 2024-04-16 Samsung Electronics Co., Ltd. Device and method for processing spectrum data of image sensor
KR102692570B1 (ko) * 2021-10-22 2024-08-06 삼성전자주식회사 이미지 센서의 스펙트럼 데이터를 처리하는 장치 및 방법

Also Published As

Publication number Publication date
DE112014004099T5 (de) 2016-06-09
US20160131891A1 (en) 2016-05-12
WO2015033692A1 (en) 2015-03-12

Similar Documents

Publication Publication Date Title
JP2015052663A (ja) 画像処理方法、画像処理装置、撮像装置およびプログラム
Albarelli et al. A perspective on multiparameter quantum metrology: From theoretical tools to applications in quantum imaging
US20190056578A1 (en) Ptychography imaging systems and methods with convex relaxation
Kuś et al. Active limited-angle tomographic phase microscope
US7649160B2 (en) Wave front sensing method and apparatus
JP6112872B2 (ja) 撮像システム、画像処理方法、および撮像装置
Diederich et al. Using machine-learning to optimize phase contrast in a low-cost cellphone microscope
US11397312B2 (en) Structured illumination with optimized illumination geometry
Yang et al. Single-shot smartphone-based quantitative phase imaging using a distorted grating
Fan et al. Investigation of sparsity metrics for autofocusing in digital holographic microscopy
Malik et al. A practical criterion for focusing of unstained cell samples using a digital holographic microscope
Geng et al. Multi-rotation coherent imaging by a phase mask
JP2014055882A (ja) 収差推定方法、プログラムおよび撮像装置
Konda Multi-Aperture Fourier Ptychographic Microscopy: Development of a high-speed gigapixel coherent computational microscope
Zheng et al. Single-ended recovery of optical fiber transmission matrices using neural networks
Ghaye et al. Simulated biological cells for receptor counting in fluorescence imaging
He et al. Automatic focus determination through cosine and modified cosine score in digital holography
Pozzi et al. Optimal model-based sensorless adaptive optics for epifluorescence microscopy
Maire et al. Experimental inversion of optical diffraction tomography data with a nonlinear algorithm in the multiple scattering regime
Claus et al. Development of a realistic wave propagation-based chromatic confocal microscopy model
Gil et al. Segmenting quantitative phase images of neurons using a deep learning model trained on images generated from a neuronal growth model
Wang et al. A multi-wavelength phase retrieval with multi-strategy for lensfree on-chip holography
WO2021155378A1 (en) Systems and methods for performing multiple-wavelength quantitative phase imaging (qpi)
Sha et al. Lensless coherent diffraction imaging based on spatial light modulator with unknown modulation curve
JP2016057172A (ja) 波面演算装置、撮像システムおよび波面演算プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180206

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181120