JP5846895B2 - 画像処理システム及びそれを備えた顕微鏡システム - Google Patents

画像処理システム及びそれを備えた顕微鏡システム Download PDF

Info

Publication number
JP5846895B2
JP5846895B2 JP2011278885A JP2011278885A JP5846895B2 JP 5846895 B2 JP5846895 B2 JP 5846895B2 JP 2011278885 A JP2011278885 A JP 2011278885A JP 2011278885 A JP2011278885 A JP 2011278885A JP 5846895 B2 JP5846895 B2 JP 5846895B2
Authority
JP
Japan
Prior art keywords
unit
image
processing system
image processing
contrast evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011278885A
Other languages
English (en)
Other versions
JP2013131862A (ja
Inventor
渡辺 伸之
伸之 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2011278885A priority Critical patent/JP5846895B2/ja
Priority to US13/719,988 priority patent/US9942534B2/en
Publication of JP2013131862A publication Critical patent/JP2013131862A/ja
Application granted granted Critical
Publication of JP5846895B2 publication Critical patent/JP5846895B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Lens Barrels (AREA)
  • Microscoopes, Condenser (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像処理システム及びそれを備えた顕微鏡システムに関する。
一般に、顕微鏡の光学系は、デジタルカメラの光学系に比べて像の拡大率が大きい。このため、顕微鏡撮影においては、カメラの撮像素子のサンプリング帯域に対して、顕微鏡の光学系の帯域がそれほど高くない場合がある。また、光学系の帯域は、光学系の開口数や倍率等によって変化し得る。例えば顕微鏡がズーム光学系を有する場合にも、その光学系の帯域は変化する。
画像の帯域コントラストに基づいて合焦を評価する場合、光学系の帯域が変化すると正確な合焦評価が行えないおそれがある。コントラストに基づく合焦評価における誤差は、例えば画像の帯域が低周波であるにも関わらず高周波のフィルタを用いてしまうことで、ノイズなど被写体の構造とは関係ない要因に基づくコントラストを評価することで起こり得る。
コントラストに基づく合焦評価は、例えば高さ情報の取得にも用いられ得る。高さ情報の取得は、例えば、被写体像を複数の結像面で撮影した後に被写体の各位置の高さを推定するために、各位置について合焦している画像をこの複数の画像から選択する場合に用いられ得る。また、高さ情報の取得は、被写体像を複数の結像面で撮影した後に、被写体の各位置について合焦している画像をこの複数の画像から選択し、それらを合成して全焦点画像を作成する場合に用いられ得る。
例えば特許文献1には、光学系の帯域変化を考慮して全焦点画像の作成の後に回復フィルタによる処理を行うことに係る技術が開示されている。この技術において、回復フィルタの係数は、対物レンズの倍率や開口数といった光学系の設定に応じて決められている。
特開平9−298682号公報
上記特許文献1に開示されている技術のように、特定帯域を回復するためには、点像分布関数の空間分布を特定する必要がある。また、このような回復フィルタを周波数空間に拡張した場合においても、各周波数における変調伝達関数の分布形状が特定されないと、回復フィルタの係数を決定できない。これらのような処理は複雑である。さらに、対物レンズや中間拡大の倍率の組み合わせが多くなると、その組み合わせに応じてテーブルを更新する必要がある。また、ズームレンズを用いることで中間拡大倍率が無段階に近い場合、膨大なデータが必要となる。このような複雑な計算とテーブルによる関係の設定によれば、処理が冗長となる。これに対して、エッジ成分の強度を測定することでコントラストを評価する場合、光学系の帯域が所定の帯域内に入っているか否かを特定するだけでよく、回復フィルタを用いる場合のように厳密な量的関係を必要としない。
そこで本発明は簡易な方法で、光学系の設定が変更された際にこの光学系の帯域を考慮したコントラスト評価を行うことができる画像処理システム及びそれを備えた顕微鏡システムを提供することを目的とする。
前記目的を果たすため、本発明の一態様によれば、画像処理システムは、光学系を介した標本の画像を取得する取得部と、前記光学系の情報に基づいて、前記画像のカットオフ周波数を取得するカットオフ周波数取得部と、前記カットオフ周波数に基づいて、前記画像に対するコントラスト評価に用いる評価パラメータを決定するパラメータ決定部と、前記評価パラメータに基づいて前記画像に対する前記コントラスト評価を行い、コントラスト評価値を算出するコントラスト評価部と、前記コントラスト評価値に基づいて、前記画像の合焦を評価する合焦評価部と、を具備することを特徴とする。
また、本発明の一態様によれば、顕微鏡システムは、上記の画像処理システムを備えることを特徴とする。
本発明によれば、光学系の情報に基づいてカットオフ周波数を取得し、このカットオフ周波数に応じて決定した評価パラメータに基づいてコントラスト評価値を算出するので、簡易な方法で光学系の設定が変更された際にこの光学系の帯域を考慮したコントラスト評価を行うことができる画像処理システム及びそれを備えた顕微鏡システムを提供できる。
本発明の第1の実施形態に係る顕微鏡システムの構成例を示すブロック図。 第1の実施形態に係る顕微鏡システムの構成例を示すブロック図。 光学系に応じた周波数とコントラストとの関係を説明するための概略図。 第1の実施形態に係るフィルタカーネルの構成例を示す図。 第1の実施形態に係る各フィルタカーネルの周波数特性の一例の概略を示す図。 第1の実施形態の変形例に係る顕微鏡システムの構成例を示すブロック図。 第1の実施形態の変形例に係る各フィルタの周波数特性の一例の概略を示す図。 第2の実施形態に係る顕微鏡システムの構成例を示すブロック図。 第3の実施形態に係る顕微鏡システムの構成例を示すブロック図。 第3の実施形態に係るDCT処理後に得られるテーブルの一例の概略を示す図。 第3の実施形態に係るDCT処理後に得られるテーブルの量子化後テーブルの一例の概略を示す図。
[第1の実施形態]
本発明の第1の実施形態について図面を参照して説明する。図1は、本実施形態に係る顕微鏡システム100の構成例の概略を示す。この図に示すように、顕微鏡システム100は、顕微鏡110を有する。顕微鏡110は、例えばデジタル顕微鏡である。顕微鏡110は、LED光源111と、照明光学系112と、光路制御素子113と、対物レンズ114と、図示しないステージ上に載置された標本面115と、観察光学系118と、撮像面119と、画像取得部120とを有する。観察光学系118は、ズーム光学系116と、結像光学系117とを有する。観察光路には、標本面115から撮像面119に向かって、対物レンズ114と、光路制御素子113と、ズーム光学系116と、結像光学系117とが、この順に配置されている。
LED光源111から射出された照明光は、照明光学系112を介して、光路制御素子113に入射する。光路制御素子113は、照明光を観察光路上の対物レンズ114に向けて反射する。照明光は、対物レンズ114を介して標本面115に配置された標本に照射される。
標本に照明光が照射されると、標本から観察光が生じる。ここで、観察光は反射光や蛍光等である。観察光は、光路制御素子113に入射する。光路制御素子113は、照明光の場合と異なり、観察光を透過させて、観察光をズーム光学系116及び結像光学系117を有する観察光学系118に入射させる。このように光路制御素子113は、入射光の特性に応じて、入射光を反射又は透過させる光学素子である。光路制御素子113には、例えば、入射光の偏光方向に応じて入射光を反射又は透過させるワイヤーグリッドや偏光ビームスプリッタ(PBS)等の偏光素子が用いられ得る。なお、この光路制御素子113は、例えば、入射光の周波数に応じて入射光を反射又は透過させるダイクロイックミラー等を用いても良い。
観察光学系118は、観察光を撮像面119に集光させ、標本の像を撮像面119に結像させる。画像取得部120は、撮像面119に結像した画像に基づく画像信号を生成し、この画像信号を顕微鏡画像として出力する。
顕微鏡システム100は、画像入力部210と、記憶部220と、コントローラ230と、光学帯域情報取得部240と、パラメータ制御部250と、コントラスト評価部260と、合焦評価部270と、3D形状推定部280と、画像合成部290と、入力部300とを備える画像処理システム200を有する。画像入力部210は、画像取得部120から顕微鏡画像を取得し、取得した顕微鏡画像を記憶部220に出力する。記憶部220は、入力された顕微鏡画像を一時記憶する。記憶部220は、コントラスト評価部260からの要求に応じて、記憶した顕微鏡画像をコントラスト評価部260に出力する。
入力部300は、例えば顕微鏡システム100の操作に係るユーザの指示を受け取る。入力部300は、受け取ったユーザの指示をコントローラ230に出力する。コントローラ230は、顕微鏡110の各部の動作を制御する。コントローラ230は、顕微鏡110の制御において、入力部300から入力されたユーザの指示を用いる。本実施形態では、顕微鏡システム100は、同一標本について、異なる焦点面において撮像した複数の顕微鏡画像を取得する。このため、コントローラ230は、顕微鏡110の光学系を制御して焦点面を徐々に変化させながら、各焦点面における標本の画像を画像取得部120に取得させる。具体的には、例えばコントローラ230は、顕微鏡110のステージの高さ、又は、対物レンズの高さの位置を変化させながら、画像取得部120に画像を取得させる。その結果、記憶部220には、同一の標本について焦点面が異なる複数の顕微鏡画像が記憶される。
コントローラ230は、光学帯域情報取得部240からの要求に応じて顕微鏡110の各種光学系のパラメータを光学帯域情報取得部240に出力する。光学系のパラメータには、例えば、対物光学系、照明光学系、ズーム光学系、結像光学系のパラメータが含まれる。なお、コントローラ230は、顕微鏡110の光学系を制御しているので、これら光学系のパラメータに係る情報を有している。
光学帯域情報取得部240は、コントローラ230から各種光学系のパラメータを取得する。光学帯域情報取得部240は、取得した光学系のパラメータをパラメータ制御部250に出力する。パラメータ制御部250は、カットオフ周波数取得部251と、パラメータ決定部256とを有する。カットオフ周波数取得部251は、光学帯域情報取得部240から入力された光学系のパラメータを取得する。カットオフ周波数取得部251は、取得した光学系のパラメータに基づいて、後述する光学系のカットオフ周波数の情報を取得する。カットオフ周波数取得部251は、取得した光学系のカットオフ周波数を、パラメータ決定部256に出力する。パラメータ決定部256は、取得した光学系のカットオフ周波数に基づいて、コントラスト評価部260が用いるコントラスト評価パラメータを決定し、決定したコントラスト評価パラメータをコントラスト評価部260に出力する。
コントラスト評価部260は、パラメータ決定部256からコントラスト評価パラメータを取得し、記憶部220から焦点面が異なる複数の顕微鏡画像を取得する。コントラスト評価部260は、取得した複数の顕微鏡画像のそれぞれについて、取得したコントラスト評価パラメータに基づいて、顕微鏡画像中の各位置のコントラスト評価値を算出する。コントラスト評価値については、後に詳述する。コントラスト評価部260は、顕微鏡画像と算出したコントラスト評価値とを合焦評価部270に出力する。
合焦評価部270は、コントラスト評価部260から入力されたコントラスト評価値に基づいて、複数の顕微鏡画像のそれぞれについて画像中の各画素についての合焦を評価し、合焦している画素を選択する。合焦評価部270は、合焦している画素とその画像が撮像された際の焦点面の情報とに基づいて、画像中の各画素に対応する高さを推定する。合焦評価部270は、合焦の評価結果と、画像中の各画素に係る高さ情報と、複数の顕微鏡画像とを3D形状推定部280に出力する。
3D形状推定部280は、合焦評価部270から入力された高さ情報に基づいて、高さ情報の最適化を行い、標本の3次元形状を推定する。3D形状推定部280は、推定した標本の3次元形状と複数の顕微鏡画像とを画像合成部290に出力する。画像合成部290は、3D形状推定部280から入力された標本の3次元形状と複数の顕微鏡画像とに基づいて、焦点面が異なる複数の顕微鏡画像を合成して合成画像を作成する。この合成画像は、例えば3次元再構成画像や、全焦点画像等である。画像合成部290は、作成した合成画像を、例えば、表示させるために表示部に出力したり、記憶させるために記憶装置に出力する等を行う。
本実施形態の顕微鏡システム100についてより詳細に説明する。本実施形態の顕微鏡システム100の構成の概略は、図2のように表される。なお、図1と同様の構成に対しては、同様の処理を行うものとして、説明を省略する。この図に示すように、本実施形態では、パラメータ決定部256はフィルタ帯域制御部257を有する。フィルタ帯域制御部257は、光学系のカットオフ周波数に基づいて、フィルタの帯域を算出し、コントラスト評価パラメータとして機能するフィルタを決定する。
本実施形態では、コントラスト評価部260は、フィルタリング部261と、評価部262とを有する。フィルタリング部261は、フィルタ帯域制御部257が決定したフィルタを用いて各顕微鏡画像に対してフィルタリング処理を行う。評価部262は、フィルタリング部261によるフィルタリング処理の結果に基づいて各画像のコントラストを評価する。
本実施形態に係る顕微鏡システム100の動作を説明する。標本面115を有する標本は、図示しないステージ上に配置される。コントローラ230は、顕微鏡110を制御する。コントローラ230は、例えば標本面115の位置を光軸方向に徐々に変化させ、標本に対する光学系の焦点面を徐々に変化させる。具体的には、例えばコントローラ230は、顕微鏡110のステージの高さ、対物レンズの高さ又はフォーカスレンズの位置を変化させる。このとき、コントローラ230は、各焦点面における標本の顕微鏡画像を画像取得部120に順次取得させる。画像入力部210は、画像取得部120から各焦点面における標本の顕微鏡画像を取得する。画像入力部210は、取得した顕微鏡画像を記憶部220に出力する。記憶部220は、画像入力部210から入力された複数の顕微鏡画像を記憶する。
コントローラ230は、光学帯域情報取得部240の要求に応じて顕微鏡画像取得時の顕微鏡110の各種光学系に係る情報を光学帯域情報取得部240に出力する。ここで、光学帯域情報取得部240は、光学系のパラメータである対物レンズ114の開口数NAobjと観察光学系118の総合倍率である像倍率βと、LED光源111が射出する照明光の波長λとを取得する。光学帯域情報取得部240は、これら光学系パラメータをカットオフ周波数取得部251に出力する。
カットオフ周波数取得部251は、取得した光学系パラメータを用いて、例えば下記式(1)に基づいてカットオフ周波数Fcを算出する。
なお、開口数については、厳密には対物レンズの開口数のみならず照明側のコンデンサレンズの開口数も関係する。しかしながらここでは、照明がインコヒーレントであり、標本が散乱体であり、照明側の開口数を考慮しなくてもよい場合を想定している。
なお、像倍率βが低い場合、すなわち低倍率のときは、高周波成分が多く含まれ、像倍率βが高い場合、すなわち高倍率のときは、高周波成分は減少する。上記式(1)は、このこともよく表している。
レンズの変調伝達関数(Modulation Transfer Function;MTF)を考慮しない場合における、像倍率βに応じた周波数とコントラストとの関係の概略を図3に示す。この図では、βが1の場合と5の場合とを示している。ここで、コントラストCは、下記式(2)で表される。
ここで、L0は明暗のチャートにおける明の周波数0における輝度レベルを、D0は暗の周波数0における輝度レベルを、Lfは周波数fにおける明領域の輝度レベルを、Dfは周波数fにおける暗領域の輝度レベルをそれぞれ表す。
コントラストが0となる周波数が、カットオフ周波数Fcと定義されている。カットオフ周波数取得部251は、算出したカットオフ周波数Fcをパラメータ決定部256のフィルタ帯域制御部257に出力する。なお、波長λは、照明光の波長によらず、例えば550nmといった所定の値としてもよい。
フィルタ帯域制御部257は、光学帯域情報取得部240から入力されたカットオフ周波数Fcを用いて、例えば下記式(3)に基づいて、パラメータA1,A2及びA3を算出する。
ここでF1は所定の定数である。また、A1+A2=A3である。
フィルタ帯域制御部257は、パラメータA1、A2及びA3と図4の右辺に示す第1のフィルタカーネルK1と、第2のフィルタカーネルK2と、第3のフィルタカーネルK3とを用いて、図4の左辺に示すようなコントラスト評価パラメータとしてのフィルタカーネルKを作成する。第1のフィルタカーネルK1のスペクトルをS1、第2のフィルタカーネルK2のスペクトルをS2、第3のフィルタカーネルK3のスペクトルをS3としたとき、各スペクトルの例の概略を図5に示す。この図に示すように、各フィルタカーネルは、第3のフィルタカーネルK3>第2のフィルタカーネルK2>第1のフィルタカーネルK1の順に、高周波の利得が高い。
上記式(3)に示される通り、カットオフ周波数Fcが高いほど、すなわち顕微鏡110の光学系の帯域が高いほど、A1が小さく、A2が大きくなる。したがって、顕微鏡110の光学系の帯域が高いほど、高周波の利得が高い第2のカーネルK2の重みが増すことになる。すなわち、顕微鏡110の光学系の帯域が高いほど、フィルタカーネルKは、高周波の利得が高くなる。フィルタ帯域制御部257は、作成したフィルタカーネルKをコントラスト評価部260のフィルタリング部261に出力する。
フィルタリング部261は、記憶部220から焦点面が異なる複数の顕微鏡画像を取得する。フィルタリング部261は、これら顕微鏡画像のそれぞれの画像中の各画素について、フィルタ帯域制御部257から入力されたフィルタカーネルKを用いて、フィルタリング処理を行う。フィルタリング部261は、フィルタリング処理前の各顕微鏡画像とフィルタリング処理後の各結果とを、コントラスト評価部260内の評価部262に出力する。
評価部262は、フィルタリング部261から入力されたフィルタリング処理後の結果に基づいて、各顕微鏡画像の各画素について、コントラスト評価値を算出する。評価部262は、算出した各画素のコントラスト評価値と各顕微鏡画像とを合焦評価部270に出力する。
合焦評価部270は、評価部262から取得したコントラスト評価値に基づいて、合焦を評価する。例えば合焦評価部270は、焦点面が異なる複数の顕微鏡画像のそれぞれについて、コントラスト評価値が所定の閾値より高い画素を合焦している画素として特定する。合焦評価部270は、焦点面が異なる複数の顕微鏡画像のうち合焦している画素と、その画素が含まれる画像が取得された際の焦点面に係る情報から、その画素に対応する点について、標本の高さを推定する。合焦評価部270は、各画素に係る高さ情報と焦点面が異なる複数の顕微鏡画像とを3D形状推定部280に出力する。
3D形状推定部280は、合焦評価部270から入力された標本の高さに係る情報に基づいて、平滑化等の高さ情報の最適化を行い、標本の3次元形状を推定する。3D形状推定部280は、推定した標本の3次元形状と焦点面が異なる複数の顕微鏡画像とを画像合成部290に出力する。
画像合成部290は、3D形状推定部280から入力された標本の3次元形状と複数の顕微鏡画像とに基づいて、焦点面が異なる複数の顕微鏡画像を合成して合成画像を作成する。例えば合成画像が3次元再構成画像であれば、3次元形状とその3次元形状の各部に係る合焦している画像を合成させた合成画像を作成する。また、例えば合成画像が全焦点画像であれば、各画素についてその高さに相当する焦点面を有する顕微鏡画像から抽出した画像を組み合わせて、全ての画素について合焦している画像を合成する。画像合成部290は、作成した合成画像を表示部や記憶装置に出力する。通常の顕微鏡画像は被写界深度が浅いため、被写界深度よりも大きな高さがある標本の像は、通常の顕微鏡画像によってはユーザに認識されにくい。これに対して3次元再構成画像や全焦点画像によれば、被写界深度よりも大きな高さがある標本の像が、容易にユーザに認識され得る。
このように、例えば画像入力部210は、光学系を介した標本の画像を取得する取得部として機能する。例えばカットオフ周波数取得部251は、画像を取得した際の光学系の情報に基づいて、画像のカットオフ周波数を取得するカットオフ周波数取得部として機能する。例えばパラメータ決定部256は、カットオフ周波数に基づいて、画像に対するコントラスト評価に用いる評価パラメータを決定するパラメータ決定部として機能する。例えばコントラスト評価部260は、決定された評価パラメータに基づいて画像に対するコントラスト評価を行い、コントラスト評価値を算出するコントラスト評価部として機能する。例えば合焦評価部270は、コントラスト評価値に基づいて、画像の合焦を評価する合焦評価部として機能する。例えば画像合成部290は、全焦点画像作成部又は3次元再構成画像作成部として機能する。
本実施形態によれば、フィルタ帯域制御部257で作成されたフィルタを用いてフィルタリング部261においてフィルタリング処理が行われる。ここで、フィルタ帯域制御部257は、顕微鏡110の光学系のパラメータを用いてフィルタを決定している。一般に高周波数に対して高いスペクトルを有するフィルタが用いられた方が、コントラスト評価についてより正確な評価結果が得られる。一方で、顕微鏡110の光学系の帯域よりも高周波なフィルタが用いられると、例えばノイズといった被写体の構造とは無関係な要因による誤ったコントラスト評価値が得られてしまう。本実施形態によれば、顕微鏡110の光学系の帯域を考慮して、顕微鏡110で得られる帯域のうち、できるだけ高い周波数が利用されるようにフィルタが作成されるので、より正確なコントラスト評価がなされ得る。その結果、顕微鏡システム100は、精度のよい3次元再構築画像や全焦点画像を作成することができる。顕微鏡110の光学系にズーム光学系が含まれている場合、ズーム光学系の焦点距離に応じて開口数が変化し顕微鏡画像の帯域が変化するので、本実施形態は特に効果を奏する。
なお、本実施形態では、各画素について複数の顕微鏡画像のうちいずれかの画像で合焦していると考えられる。このため、上記式(1)でカットオフ周波数Fcを評価することに問題はない。また、本実施形態では、画素毎にフィルタリング処理がなされているが、複数の画素からなる画素領域ごとにフィルタリング処理がなされてもよい。
また、本実施形態では、標本によっても帯域が変化することは考慮されていない。しかしながら、標本の媒質の種類や、切片の厚さ等によっても取得される顕微鏡画像の帯域は変化する。このような標本の違いに由来する画像の帯域の違いが、カットオフ周波数の取得に考慮されてもよい。また、例えば半導体の配線パターンの観察等においては、標本によって配線パターンの間隔は予め明らかであるので、例えばこの間隔が画像の帯域に考慮されることもできる。このように標本の特性が考慮される場合、入力部300は、ユーザによって入力される標本に関する情報を取得し、それをコントローラ230に出力する。カットオフ周波数取得部251は、光学帯域情報取得部240を介してコントローラ230から、顕微鏡110の光学系のパラメータとともに標本の情報を取得する。カットオフ周波数取得部251は、光学系のパラメータと標本の特性と考慮してカットオフ周波数Fcを取得する。標本の特性が考慮されてカットオフ周波数Fcが決定されることで、コントラスト評価の精度が更に向上する。このように、例えば入力部300は、標本の光学特性情報を取得する標本情報取得部として機能する。
[第1の実施形態の変形例]
第1の実施形態の変形例について説明する。ここでは、第1の実施形態との相違点について説明し、同一の部分については、同一の符号を付してその説明を省略する。本変形例に係る顕微鏡システムの構成例の概略を図6に示す。この図に示すように、本変形例に係るフィルタリング部261には、平滑化処理部263と微分演算処理部264とが設けられている。
本変形例に係る平滑化処理部263は、ガウシアンフィルタを用いたフィルタリング処理を行う。このため、フィルタ帯域制御部257は、カットオフ周波数取得部251から取得したカットオフ周波数Fcを用いて、コントラスト評価パラメータとしての例えば下記式(4)に示すようなガウシアンフィルタGを作成する。
ここで、A4、A5及びA6はそれぞれ下記式(5)で表される。
ここで、F2及びF3は、所定の定数である。
上記式(4)の第2式の第1項の周波数特性S4と、第2項の周波数特性S5と、第3項の周波数特性S6との概略を図7に示す。この図に示すように、第3項の周波数特性S6>第2項の周波数特性S5>第1項の周波数特性S4の順に、高周波の利得が高い特性となっている。上記式(5)に示される通り、カットオフ周波数Fcが高いほど、すなわち顕微鏡110の光学系の帯域が高いほど、A4が小さく、A5及びA6が大きくなる。したがって、顕微鏡110の光学系の帯域が高いほど、ガウシアンフィルタGは高周波の利得が高くなる。
本変形例では、フィルタ帯域制御部257は、上記式(4)で表されるガウシアンフィルタGを平滑化処理部263に出力する。平滑化処理部263は、フィルタ帯域制御部257から入力された上記式(4)で表されるガウシアンフィルタGを用いて記憶部220から取得した顕微鏡画像の各画素に対してフィルタリング処理を行う。平滑化処理部263は、ガウシアンフィルタGによるフィルタリング処理した結果を微分演算処理部264に出力する。
微分演算処理部264は、平滑化処理部263から入力された結果に対してラプラシアンフィルタを用いたフィルタリング処理を行う。ここで、微分演算処理部264は、例えば下記式(6)で表されるラプラシアンフィルタLを用いる。
微分演算処理部264は、ラプラシアンフィルタLによるフィルタリング処理した結果を評価部262に出力する。すなわち、平滑化処理部263と微分演算処理部264とを有するフィルタリング部261に入力された画像Iinは、下記式(7)によりIoutとなる。
ここで*はたたみこみを表す。
評価部262には、上記のIoutが入力される。評価部262は、Ioutを用いて所定の領域のIoutの絶対値の合計を用いて合焦を評価する。すなわち、コントラスト評価値P(x,y)は、下記式(8)で表される。
ここで、x,yはブロックの位置を表し、i,jは画素位置を表す。評価部262は、算出した各画素のコントラスト評価値P(x,y)と各顕微鏡画像とを合焦評価部270に出力する。その他の動作は、第1の実施形態の場合と同様である。
本変形例によっても、光学系のパラメータに応じて例えば上記式(4)で表されるガウシアンフィルタGが調整される。したがって、第1の実施形態の場合と同様に、本顕微鏡システム100は精度が高いコントラスト評価を行うことができ、第1の実施形態の場合と同様の効果を得ることができる。
[第2の実施形態]
本発明の第2の実施形態について説明する。ここでは、第1の実施形態との相違点について説明し、同一の部分については、同一の符号を付してその説明を省略する。本実施形態に係る顕微鏡システム100の構成例の概略を図8に示す。この図に示すように、本実施形態に係るフィルタリング部261は、フィルタバンクを有する。すなわち、フィルタリング部261は、第1のフィルタ265と、第2のフィルタ266と、第3のフィルタ267とを有する。また、パラメータ決定部256は、重み付け決定部258を有する。
パラメータ決定部256の重み付け決定部258は、カットオフ周波数取得部251から取得したカットオフ周波数Fcに基づいて、下記式(9)によりコントラスト評価パラメータとしての重み付け係数A7、A8及びA9を算出する。
ここで、F5及びF6は、それぞれ所定の定数である。重み付け決定部258は、算出した重み付け係数A7、A8及びA9をフィルタリング部261に出力する。
フィルタリング部261が有する第1のフィルタ265と、第2のフィルタ266と、第3のフィルタ267とは、予め定められている互いに異なるフィルタである。ここで、各フィルタの帯域は、第1のフィルタ265の帯域<第2のフィルタ266の帯域<第3のフィルタ267の帯域の関係を有する。フィルタリング部261は、記憶部220から取得した顕微鏡画像を、第1のフィルタ265、第2のフィルタ266、第3のフィルタ267のそれぞれでフィルタリング処理する。
フィルタリング部261は、第1のフィルタ265によるフィルタリング結果に重み付け決定部から取得した重み付け係数A7を掛け合わせる。同様に、フィルタリング部261は、第2のフィルタ266によるフィルタリング結果に重み付け係数A8を掛け合わせ、第3のフィルタ267によるフィルタリング結果に重み付け係数A9を掛け合わせる。フィルタリング部261は、各フィルタによるフィルタリング結果に各重み付け係数を掛け合わせたものを全て足し合わせて、フィルタリング処理後の結果として、それを評価部262に出力する。
なお、本実施形態では、A7+A8+A9=1となっており、利得は1である。上記式(9)に示される通り、カットオフ周波数Fcが高いほど、すなわち顕微鏡110の光学系の帯域が高いほど、A7が小さく、A8及びA9が大きくなる。したがって、顕微鏡110の光学系の帯域が高いほど、高周波の利得が高くなる。
評価部262は、フィルタリング部261から入力されたフィルタリング処理後の結果に基づいて、各顕微鏡画像の各画素について、コントラスト評価値を算出する。評価部262は、算出した各画素のコントラスト評価値と各顕微鏡画像とを合焦評価部270に出力する。その他の動作は、第1の実施形態の場合と同様である。
本実施形態によっても、第1の実施形態の場合と同様に、光学系のパラメータに応じてフィルタリング処理後の結果が調整される。したがって、第1の実施形態の場合と同様に、本顕微鏡システム100は、精度が高いコントラスト評価を行うことができ、第1の実施形態の場合と同様の効果を得ることができる。
なお、本実施形態では、フィルタリング部261が有するフィルタは、第1のフィルタ265、第2のフィルタ266、及び第3のフィルタ267の3つであるが、フィルタの数はいくつでもよい。また、本実施形態では、各フィルタによるフィルタリング処理の結果に、各重み付け係数を乗じているが、各フィルタリング処理の結果に各重み付け係数が反映されればどのような方法が用いられてもよい。例えば、各重み付け係数によって、各フィルタが補正されるように構成されてもよい。
[第3の実施形態]
本発明の第3の実施形態について説明する。ここでは、第1の実施形態との相違点について説明し、同一の部分については、同一の符号を付してその説明を省略する。本実施形態では、コントラスト評価部260において、正規直交基底変換による周波数分解が用いられる。本実施形態に係る顕微鏡システム100の構成例の概略を図9に示す。この図に示すように、パラメータ決定部256は、係数重み付け部259を有する。また、コントラスト評価部は、直交変換処理部268と評価部262とを有する。
コントラスト評価部260の直交変換処理部268は、記憶部220から取得した顕微鏡画像に対して、例えば離散コサイン変換(Discrete Cosine Transform;DCT)処理を行う。直交変換処理部268は、例えば、顕微鏡画像の8画素×8画素のセル毎にDCT処理を行う。直交変換処理部268によるDCTにより、セル毎に例えば図10に示すようなDCTのテーブルが得られる。図10に示すテーブルにおいて、左右方向は縦方向の周波数毎の強度を示し、左ほど低い周波数を示し、右ほど高い周波数を示す。一方、図10に示すテーブルにおいて上下方向は横方向の周波数毎の強度を示し、上ほど低い周波数を示し、下ほど高い周波数を示す。
直交変換処理部268は、図10に示すようなDCT処理後に得られるテーブルに対して量子化テーブルによる量子化を行う。さらに、パラメータ制御部250の係数重み付け部259からコントラスト評価パラメータとしてのカットオフ係数を取得する。
パラメータ制御部250の係数重み付け部259は、カットオフ周波数取得部251からカットオフ周波数Fcを取得する。係数重み付け部259は、カットオフ周波数FcとF7+n×F8とを比較することでカットオフ係数を決定する。ここで、F7及びF8は、それぞれ所定の定数である。カットオフ係数は、例えば下記のように決定される。
Fc>F7+F8のとき、カットオフ係数=A10、
Fc>F7+2×F8のとき、カットオフ係数=A11、
Fc>F7+3×F8のとき、カットオフ係数=A12、
Fc>F7+4×F8のとき、カットオフ係数=A13、
とする。ここで、A10、A11、A12及びA13は、それぞれ所定の定数である。ここで、カットオフ係数は、カットオフ周波数Fcが低いほど低くなるように設定されている。係数重み付け部259は、決定したカットオフ係数を直交変換処理部268に出力する。
係数重み付け部259からカットオフ係数を取得した直交変換処理部268は、量子化テーブルによる量子化を行ったテーブルについて下記を行う。このテーブルについて左上を原点として、横方向の位置をp、縦方向の位置をqとしたときにp+qがカットオフ係数より大きい場合、その値すなわちDCT係数を0とする。その結果、例えば図11に示すような量子化後テーブルが得られる。この図の例では、カットオフ係数が6であり、p+qが6より大きい場合に、DCT係数が0となる。直交変換処理部268は、図11に示すような量子化後テーブルを評価部262に出力する。
評価部262は、直交変換処理部268から入力された量子化後テーブルに基づいて、各顕微鏡画像の各セルについて、コントラスト評価値を算出する。評価部262は、算出した各セルのコントラスト評価値と各顕微鏡画像とを合焦評価部270に出力する。その他の動作は、第1の実施形態の場合と同様である。
本実施形態によっても、第1の実施形態の場合と同様に、光学系のパラメータに応じてDCT係数が変化する。例えばカットオフ周波数Fcが低いとき、0となるDCT係数の数は多い。その結果、本顕微鏡システム100は精度が高いコントラスト評価を行うことができ、第1の実施形態の場合と同様の効果が得られる。
本実施形態で示したDCT係数を0と決定する方法は一例であり、カットオフ周波数Fcが低いほど低周波数のDCT係数のみを残して高周波数のDCT係数を0とするように決定する方法であればどのような方法を用いてもよい。また、DCT係数を0とするのみならず、カットオフ周波数が低いほど高周波数のDCT係数の影響が小さくなるように、DCT係数に乗じる重み係数を異なるものとするようにしてもよい。また、DCTの代わりに、Hadamard変換やWavelet変換を用いてもよい。Hadamard変換やWavelet変換を用いても、本実施形態と同様の効果が得られる。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても、発明が解決しようとする課題の欄で述べられた課題が解決でき、かつ、発明の効果が得られる場合には、この構成要素が削除された構成も発明として抽出され得る。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
100…顕微鏡システム、110…顕微鏡、111…LED光源、112…照明光学系、113…光路制御素子、114…対物レンズ、115…標本面、116…ズーム光学系、117…結像光学系、118…観察光学系、119…撮像面、120…画像取得部、200…画像処理システム、210…画像入力部、220…記憶部、230…コントローラ、240…光学帯域情報取得部、250…パラメータ制御部、251…カットオフ周波数取得部、256…パラメータ決定部、257…フィルタ帯域制御部、258…重み付け決定部、260…コントラスト評価部、261…フィルタリング部、262…評価部、263…平滑化処理部、264…微分演算処理部、265…第1のフィルタ、266…第2のフィルタ、267…第3のフィルタ、268…直交変換処理部、270…合焦評価部、280…3D形状推定部、290…画像合成部、300…入力部。

Claims (16)

  1. 光学系を介した標本の画像を取得する取得部と、
    前記光学系の情報に基づいて、前記画像のカットオフ周波数を取得するカットオフ周波数取得部と、
    前記カットオフ周波数に基づいて、前記画像に対するコントラスト評価に用いる評価パラメータを決定するパラメータ決定部と、
    前記評価パラメータに基づいて前記画像に対する前記コントラスト評価を行い、コントラスト評価値を算出するコントラスト評価部と、
    前記コントラスト評価値に基づいて、前記画像の合焦を評価する合焦評価部と、
    を具備することを特徴とする画像処理システム。
  2. 前記取得部は、同一の標本について互いに異なる焦点位置を有する複数の画像を取得し、
    前記コントラスト評価部は、前記複数の画像の各画素の前記コントラスト評価値を算出し、
    前記合焦評価部は、前記コントラスト評価値に基づいて、前記画像のうち合焦している前記画素又は複数の前記画素からなる画素領域を選択する
    ことを特徴とする請求項1に記載の画像処理システム。
  3. 前記パラメータ決定部は、前記カットオフ周波数に基づいて、フィルタの帯域を前記評価パラメータとして決定し、
    前記コントラスト評価部は、前記画像に対して前記帯域のフィルタを用いたフィルタリング処理を行い、該フィルタリング処理によって得られた値に基づいて前記コントラスト評価値を算出する
    ことを特徴とする請求項1又は2に記載の画像処理システム。
  4. 前記パラメータ決定部は、前記カットオフ周波数が高いほど前記帯域が高くなるように前記帯域を決定することを特徴とする請求項3に記載の画像処理システム。
  5. 前記コントラスト評価部は、異なる帯域を持つ複数のフィルタを有しており、
    前記パラメータ決定部は、前記カットオフ周波数に基づいて、前記複数のフィルタのそれぞれに対する重み付け係数を、前記評価パラメータとして決定し、
    前記コントラスト評価部は、前記画像に対する前記複数のフィルタを用いたフィルタリング処理を行い、該フィルタリング処理によって得られた値に前記重み付け係数を反映させた前記コントラスト評価値を算出する
    ことを特徴とする請求項1又は2に記載の画像処理システム。
  6. 前記パラメータ決定部は、前記カットオフ周波数に基づいて、カットオフ係数を前記評価パラメータとして決定し、
    前記コントラスト評価部は、前記画像に対して正規直交基底変換を施して正規直交基底変換係数を取得し、該正規直交基底変換係数に対して前記カットオフ係数を反映させて前記コントラスト評価値を算出する
    ことを特徴とする請求項1又は2に記載の画像処理システム。
  7. 前記正規直交基底変換は、離散コサイン変換であることを特徴とする請求項に記載の画像処理システム。
  8. 前記正規直交基底変換は、Hadamard変換であることを特徴とする請求項に記載の画像処理システム。
  9. 前記正規直交基底変換は、Wavelet変換であることを特徴とする請求項に記載の画像処理システム。
  10. 前記パラメータ決定部は、前記カットオフ周波数が高いほど高周波数の前記正規直交基底変換係数の重みが高くなるように前記カットオフ係数を決定することを特徴とする請求項6乃至9のうち何れか1項に記載の画像処理システム。
  11. 前記標本の光学特性情報を取得する標本情報取得部をさらに具備し、
    前記カットオフ周波数取得は、前記カットオフ周波数を取得する際に、前記光学特性情報を用いる
    ことを特徴とする請求項1乃至10のうち何れか1項に記載の画像処理システム。
  12. 前記合焦評価部によって選択された画素と、該画素に対応する前記焦点位置とに基づいて、全焦点画像を作成する全焦点画像作成部をさらに具備することを特徴とする請求項2に記載の画像処理システム。
  13. 前記合焦評価部によって選択された画素と、該画素に対応する前記焦点位置とに基づいて、3次元再構成画像を作成する3次元再構成画像作成部をさらに具備することを特徴とする請求項2に記載の画像処理システム。
  14. 前記光学系の情報は、対物レンズの開口数NAobjと、前記画像の倍率βと、所定の波長λとを含み、
    前記カットオフ周波数取得部は、前記カットオフ周波数をFcとしたときに、
    に基づいて、前記カットオフ周波数を取得する、
    ことを特徴とする請求項1乃至13のうち何れか1項に記載の画像処理システム。
  15. 請求項1乃至14のうち何れか1項に記載の画像処理システムを備える顕微鏡システム。
  16. 前記光学系は、変倍光学系を含むことを特徴とする請求項15に記載の顕微鏡システム。
JP2011278885A 2011-12-20 2011-12-20 画像処理システム及びそれを備えた顕微鏡システム Expired - Fee Related JP5846895B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011278885A JP5846895B2 (ja) 2011-12-20 2011-12-20 画像処理システム及びそれを備えた顕微鏡システム
US13/719,988 US9942534B2 (en) 2011-12-20 2012-12-19 Image processing system and microscope system including the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011278885A JP5846895B2 (ja) 2011-12-20 2011-12-20 画像処理システム及びそれを備えた顕微鏡システム

Publications (2)

Publication Number Publication Date
JP2013131862A JP2013131862A (ja) 2013-07-04
JP5846895B2 true JP5846895B2 (ja) 2016-01-20

Family

ID=48909118

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011278885A Expired - Fee Related JP5846895B2 (ja) 2011-12-20 2011-12-20 画像処理システム及びそれを備えた顕微鏡システム

Country Status (1)

Country Link
JP (1) JP5846895B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015038593A (ja) * 2013-07-16 2015-02-26 株式会社Jvcケンウッド フォーカス制御装置及びフォーカス制御方法
WO2022113365A1 (ja) * 2020-11-30 2022-06-02 株式会社ニコン 合焦方法、観察装置、およびプログラム
WO2023053540A1 (ja) * 2021-09-30 2023-04-06 シスメックス株式会社 撮像方法、焦点位置調整方法および顕微鏡システム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3794744B2 (ja) * 1996-01-18 2006-07-12 オリンパス株式会社 合焦面検出方法及び画像入出力装置及び光学顕微鏡
JP4007643B2 (ja) * 1997-07-31 2007-11-14 オリンパス株式会社 顕微鏡用焦点検出装置および顕微鏡用焦点検出方法
JP2003287673A (ja) * 2002-03-27 2003-10-10 Fuji Photo Optical Co Ltd 撮影レンズのピント状態検出装置
JP2005156736A (ja) * 2003-11-21 2005-06-16 Fujinon Corp オートフォーカスシステム
JP2010171565A (ja) * 2009-01-21 2010-08-05 Sanyo Electric Co Ltd 電子カメラ

Also Published As

Publication number Publication date
JP2013131862A (ja) 2013-07-04

Similar Documents

Publication Publication Date Title
KR101233013B1 (ko) 화상 촬영 장치 및 그 거리 연산 방법과 합초 화상 취득 방법
JP5824364B2 (ja) 距離推定装置、距離推定方法、集積回路、コンピュータプログラム
JP6957197B2 (ja) 画像処理装置および画像処理方法
JP6112824B2 (ja) 画像処理方法および装置、プログラム。
JP5868183B2 (ja) 撮像装置及び撮像方法
JP6580673B2 (ja) 画像を記録するための装置および方法
KR101824936B1 (ko) 이미지들 내에서 초점 에러 추정
JP5968073B2 (ja) 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム
WO2013080552A1 (ja) 撮像装置及び撮像システム
US20170046846A1 (en) Image processing system and microscope system including the same
CN114424102B (zh) 用于在自动聚焦系统中使用的图像处理装置和方法
JP2012005056A (ja) 画像処理装置、画像処理方法及びプログラム
JP7288226B2 (ja) 測距カメラ
JP5846895B2 (ja) 画像処理システム及びそれを備えた顕微鏡システム
US9942534B2 (en) Image processing system and microscope system including the same
JPWO2016199209A1 (ja) ぼけ強調画像処理装置、ぼけ強調画像処理プログラム、ぼけ強調画像処理方法
JP2002247439A (ja) 画像入力装置、画像入力方法、およびその方法をコンピュータで実行するためのプログラムが格納されているコンピュータが読み取り可能な記録媒体
JP5965638B2 (ja) 画像処理システムを備えた顕微鏡システム
JPWO2019171691A1 (ja) 画像処理装置、および撮像装置、並びに画像処理方法
JP5868758B2 (ja) 画像処理システム及びそれを備えた顕微鏡システム
EP3716200B1 (en) Image processing apparatus and method for use in an autofocus system
JP2017050662A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP5914092B2 (ja) 画像処理システム及びそれを備えた顕微鏡システム
CN116263535A (zh) 用于确定物体的图像的z-堆栈边界的方法
JP2015080124A (ja) 画像推定方法、画像推定装置、撮像装置および画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151124

R151 Written notification of patent or utility model registration

Ref document number: 5846895

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees