JP6099477B2 - 撮像装置、顕微鏡システム及び撮像方法 - Google Patents

撮像装置、顕微鏡システム及び撮像方法 Download PDF

Info

Publication number
JP6099477B2
JP6099477B2 JP2013100734A JP2013100734A JP6099477B2 JP 6099477 B2 JP6099477 B2 JP 6099477B2 JP 2013100734 A JP2013100734 A JP 2013100734A JP 2013100734 A JP2013100734 A JP 2013100734A JP 6099477 B2 JP6099477 B2 JP 6099477B2
Authority
JP
Japan
Prior art keywords
image
images
imaging
unit
restored
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013100734A
Other languages
English (en)
Other versions
JP2014115609A (ja
Inventor
洋子 阿部
洋子 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2013100734A priority Critical patent/JP6099477B2/ja
Priority to PCT/JP2013/069532 priority patent/WO2014077001A1/ja
Publication of JP2014115609A publication Critical patent/JP2014115609A/ja
Priority to US14/712,016 priority patent/US20150241686A1/en
Application granted granted Critical
Publication of JP6099477B2 publication Critical patent/JP6099477B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2625Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Microscoopes, Condenser (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、被写体に対する視野をずらしながら標本を部分的に順次撮像し、それによって取得された複数の画像を貼り合わせることにより被写体全体の画像を作成する撮像装置、顕微鏡システム及び撮像方法に関する。
顕微鏡を用いて標本を観察する場合、一度に観察できる範囲は、主に対物レンズの倍率によって決定される。例えば、対物レンズの倍率を高くするほど高精細な画像が得られる反面、観察範囲が狭くなる。そこで、電動ステージ等を利用して標本に対する視野をずらしながら、標本を部分的に順次撮像し、それによって取得された複数の画像を貼り合わせることにより、広視野且つ高解像の顕微鏡画像を作成する、所謂バーチャルスライドシステムが知られている。バーチャルスライドシステムにより作成された顕微鏡画像は、バーチャルスライド画像とも呼ばれる。
顕微鏡のステージを移動させながら撮像を行う技術として、例えば特許文献1には、XYステージ上に載置された被計測物を移動させながらカメラにて被計測物を撮像し、取得した画像に対して画像処理を施すことにより、被計測物の輪郭形状を計測する技術が開示されている。
特開2002−195811号公報
ところで、一般的なバーチャルスライドシステムにおいては、画像のブレを防止するため、撮像を1回行うたびにステージを停止させている。しかしながら、標本が広範囲にわたる場合、例えば数百回の撮像が必要になることもあるため、撮像の度にステージを停止させると、標本全体を撮像し終えるまでに長時間を要してしまう。
全体の撮像時間を短縮するためには、移動時におけるステージの速度を速くすることや、ステージの加速及び減速を制御してステージの移動及び停止を効率良く行うことが考えられる。しかしながら、隣接する領域を撮像する際のステージの移動量が小さい場合には、ステージの大幅な加速及び減速の制御は困難である。
上記特許文献1においては、XYステージを停止させるのではなく、撮像した画像のブレが1画素以内になるように、XYステージの移動速度及びシャッタ速度を設定している。即ち、画像のブレを押さえるために、ステージ移動速度を極めて低速度に制限しているため、被計測物全体の撮像を終えるまでに、やはり長時間を要してしまう。
このように、標本等の被写体に対する視野をずらしながら順次撮像を行う場合、ステージを停止させずに撮像を行うと、ブレにより画質が劣化して、高解像画像の取得が困難となる。一方、1回の撮像ごとにステージを停止させ、或いは、ステージの移動速度を極めて低速度に制限すると、全体の撮像時間が長くなるという問題があった。
本発明は、上記に鑑みてなされたものであって、被写体に対する視野をずらしつつ順次撮像を行う場合において、高品質の画像を従来よりも短時間に取得することができる撮像装置、顕微鏡システム及び撮像方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る撮像装置は、被写体を撮像して、該被写体の画像を取得する撮像部と、前記被写体に対する前記撮像部の観察領域を、互いに異なる少なくとも2つの方向に移動させながら前記撮像部に撮像を実行させる撮像制御部と、前記観察領域を移動させたことにより前記撮像部が取得した画像に生じた劣化を表す劣化情報を取得する劣化情報取得部と、前記撮像部により取得された、前記観察領域が同一で前記観察領域の移動方向が互いに異なる少なくとも2つの画像に対し、画像合成処理と、前記劣化情報に基づく画像復元処理とを施す画像処理部と、を備えることを特徴とする。
上記撮像装置において、前記画像処理部は、前記撮像部によって取得された前記少なくとも2つの画像を合成することにより合成画像を作成し、該合成画像に前記画像復元処理を施す、ことを特徴とする。
上記撮像装置において、前記画像処理部は、前記撮像部によって取得された前記少なくとも2つの画像に前記画像復元処理を施す、ことを特徴とする。
上記撮像装置において、前記画像処理部は、前記少なくとも2つの画像にそれぞれ含まれ、前記少なくとも2つの画像間で対応する領域の画像である少なくとも2つの領域画像のうち、選択された領域画像に対して前記画像復元処理を施す、ことを特徴とする。
上記撮像装置において、前記画像処理部は、前記画像復元処理を施す1つの領域画像を、所定の評価値を用いて選択し、該1つの領域画像に前記画像復元処理を施した画像を、当該領域の復元画像として用いる、ことを特徴とする。
上記撮像装置において、前記画像処理部は、前記画像復元処理を施す1つ以上の領域画像を、所定の評価値を用いて選択し、1つの領域画像を選択した場合に、該1つの領域画像に前記画像復元処理を施した画像を、当該領域の復元画像として用い、2つ以上の領域画像を選択した場合に、該2つ以上の領域画像の各々に前記画像復元処理を施した上で合成した画像を、当該領域の復元画像として用いることを特徴とする。
上記撮像装置において、前記画像処理部は、前記少なくとも2つの画像の各々に前記画像復元処理を施すことにより少なくとも2つの復元画像を作成し、該2つの復元画像を合成する、ことを特徴とする。
本発明に係る顕微鏡システムは、上記撮像装置と、前記被写体が載置されるステージと、前記被写体と前記撮像部とのいずれか一方を他方に対して移動させる移動手段と、を備えることを特徴とする。
本発明に係る撮像方法は、被写体に対する観察領域を互いに異なる少なくとも2つの方向に移動させながら前記被写体を撮像して、該被写体の画像を取得する撮像ステップと、前記観察領域を移動させたことにより前記撮像ステップにおいて取得された画像に生じた劣化を表す劣化情報を取得する劣化情報取得ステップと、前記撮像ステップにおいて取得された、前記観察領域が同一で前記観察領域の移動方向が互いに異なる少なくとも2つの画像に対し、画像合成処理と、前記劣化情報に基づく画像復元処理とを施す画像処理ステップと、を含むことを特徴とする。
本発明によれば、被写体に対する観察領域を、互いに異なる少なくとも2つの方向に移動させながら撮像を実行することにより取得した少なくとも2つの画像に対し、画像合成処理と劣化情報に基づく画像復元処理とを施すので、移動方向に応じて欠落した情報が高精度に補正された画像を得ることができる。従って、被写体に対する視野をずらしつつ順次撮像を行う場合において、従来よりも高品質な画像を短時間に取得することが可能となる。
図1は、本発明の実施の形態1に係る顕微鏡システムの構成例を示すブロック図である。 図2は、図1に示す顕微鏡装置の構成例を示す模式図である。 図3は、一般的な顕微鏡装置のシステムパラメータの一例を示す図である。 図4Aは、一般的な顕微鏡装置のシステムパラメータの別の例を示す図である。 図4Bは、一般的な顕微鏡装置のシステムパラメータの別の例を示す図である。 図5は、図1に示す顕微鏡システムの動作を示すフローチャートである。 図6Aは、X方向におけるスキャン方法を説明する図である。 図6Bは、Y方向におけるスキャン方法を説明する図である。 図7は、標本を撮像する動作の詳細を示すフローチャートである。 図8Aは、スキャン範囲の設定方法を説明する図である。 図8Bは、スキャン範囲の設定方法を説明する図である。 図8Cは、スキャン範囲の設定方法を説明する図である。 図9は、本発明の実施の形態1における合成画像の作成処理を示すフローチャートである。 図10は、2方向のスキャンにより取得された画像の合成処理を説明する図である。 図11は、2方向のスキャンにより取得された画像の合成処理を説明する図である。 図12は、画像のスキャン方向に応じた劣化関数を示す模式図である。 図13は、劣化関数を用いた画像復元処理を説明する図である。 図14は、復元合成画像の貼り合わせ処理の一例を説明する図である。 図15は、4方向のスキャンを行う場合の撮像動作の例を説明する図である。 図16は、4方向のスキャンにより取得された画像の合成処理を説明する図である。 図17は、4方向のスキャンにより取得された画像の合成処理を説明する図である。 図18は、画像のスキャン方向に応じた劣化関数を示す模式図である。 図19は、合成画像の貼り合わせ処理の別の例を説明する図である。 図20は、本発明の実施の形態2に係る顕微鏡システムの構成例を示すブロック図である。 図21は、図20に示す顕微鏡システムの動作を示すフローチャートである。 図22は、本発明の実施の形態2における合成復元画像の作成処理を示すフローチャートである。 図23は、本発明の実施の形態2における合成復元画像の作成処理を説明する図である。 図24は、本発明の実施の形態2における合成復元画像の作成処理を説明する図である。 図25は、劣化関数を用いた領域画像の復元処理及び復元画像の合成処理の具体例を説明する図である。 図26は、変形例2−3における領域画像の復元処理及び復元画像の合成処理の具体例を説明する図である。 図27は、本発明の実施の形態3に係る顕微鏡システムの構成例を示すブロック図である。 図28は、図27に示す顕微鏡システムの動作を示すフローチャートである。 図29は、画像のスキャン方向に応じた、基準となる劣化関数を示す模式図である。 図30は、劣化関数を用いた画像の復元処理を説明する図である。
以下、本発明に係る撮像装置、顕微鏡システム及び撮像装置の実施の形態について、図面を参照しながら詳細に説明する。なお、これらの実施の形態により本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
また、以下の実施の形態においては、本発明を、被写体と対向して設けられた対物レンズを介して該被写体の画像を取得する顕微鏡システムに適用する例を説明するが、例えばデジタルカメラのように、被写体と対向して設けられた光学系を介して被写体の画像を取得可能な装置やシステムであれば、本発明を適用することができる。
(実施の形態1)
図1は、本発明の実施の形態1に係る顕微鏡システムの構成例を示すブロック図である。図1に示すように、実施の形態1に係る顕微鏡システム1は、顕微鏡装置10と、該顕微鏡装置10における観察対象である標本を撮像して画像を取得する撮像装置20とを備える。なお、上述したとおり、顕微鏡装置10は、撮像機能を備える装置(例えば、デジタルカメラ等)であれば、どのような装置でも適用可能である。
図2は、顕微鏡装置10の構成例を示す模式図である。図2に示すように、顕微鏡装置10は、略C字形のアーム10aと、該アーム10aに設けられた落射照明ユニット11及び透過照明ユニット12と、アーム10aに取り付けられ、被写体が固定された標本Sが載置される電動ステージ13aを含む電動ステージユニット13と、鏡筒15の一端側に三眼鏡筒ユニット16を介して電動ステージ13aと対向するように設けられ、被写体からの観察光を結像する対物レンズ14と、接眼レンズユニット17とを備える。
落射照明ユニット11は、落射照明用光源11a及び落射照明光学系11bを備え、標本Sに対して落射照明光を照射する。落射照明光学系11bは、落射照明用光源11aから出射した照明光を集光して観察光路Lの方向に導く種々の光学部材(フィルタユニット、シャッタ、視野絞り、開口絞り等)を含む。
透過照明ユニット12は、透過照明用光源12a及び透過照明光学系12bを備え、標本Sに対して透過照明光を照射する。透過照明光学系12bは、透過照明用光源12aから出射した照明光を集光して観察光路Lの方向に導く種々の光学部材(フィルタユニット、シャッタ、視野絞り、開口絞り等)を含む。
これらの落射照明ユニット11及び透過照明ユニット12は、検鏡法に応じていずれかが選択されて使用される。なお、顕微鏡装置10に、落射照明ユニット11と透過照明ユニット12とのいずれか一方のみを設けることとしても良い。
電動ステージユニット13は、電動ステージ13aと、該電動ステージ13aを駆動させる駆動部13bと、位置検出部13cとを備える。駆動部13bは、例えばモータによって構成され、後述する撮像制御部22の制御の下で電動ステージ13aを対物レンズ14の光軸と直交する面内(即ちXY平面内)において移動させる移動手段である。このように電動ステージ13aを移動させることにより、対物レンズ14の視野に入る標本S内の観察領域が変化する。また、駆動部13bは、電動ステージ13aをZ軸に沿って移動させることにより、対物レンズ14を標本Sに対して合焦する。
なお、実施の形態1においては、対物レンズ14及び鏡筒15を含む観察光学系の位置を固定し、電動ステージ13a側を移動させているが、標本Sが載置されるステージの位置を固定し、観察光学系側を移動させても良い。或いは、電動ステージ13aと観察光学系との双方を互いに反対方向に移動させても良い。つまり、観察光学系と標本Sとが相対的に移動する構成であれば、どのような構成であっても構わない。
位置検出部13cは、例えばモータからなる駆動部13bの回転量を検出するエンコーダによって構成され、電動ステージ13aの位置を検出して検出信号を出力する。なお、駆動部13b及び位置検出部13cの代わりに、後述する撮像制御部22の制御に従ってパルスを発生するパルス発生部及びステッピングモータを設けても良い。
対物レンズ14は、倍率が互いに異なる複数の対物レンズ(例えば、対物レンズ14’)を保持可能なレボルバ14aに取り付けられている。レボルバ14aを回転させ、電動ステージ13aと対向する対物レンズ14、14’を変更することにより、撮像倍率を変化させることができる。なお、図2は、対物レンズ14が電動ステージ13aと対向している状態を示している。
三眼鏡筒ユニット16は、対物レンズ14から入射した観察光を、ユーザが標本Sを直接観察するための接眼レンズユニット17と、後述する撮像部211との方向に分岐する。
再び図1を参照すると、撮像装置20は、被写体である標本Sを撮像することにより画像を取得する画像取得部21と、標本Sを移動させながら画像取得部21に撮像を実行させる撮像動作を制御する撮像制御部22と、当該撮像装置20における各種動作を制御すると共に、画像取得部21が取得した画像に対する所定の画像処理を実行する制御部23と、各種画像データや制御プログラムなどが記憶される記憶部24と、当該撮像装置20に対する指示や情報の入力を受け付ける入力部25と、制御部23による処理の結果やその他所定の情報を出力する出力部26とを備える。
以下において、対物レンズ14に対して標本SをXY平面内で移動させながら標本Sを撮像することを、スキャンするという。
画像取得部21は、撮像部211と、メモリ212と、スキャン判定処理部213とを備える。撮像部211は、例えばCCDやCMOS等からなる撮像素子211aを備え、撮像素子211aが備える各画素においてR(赤)、G(緑)、B(青)の各バンドにおける画素レベル(画素値)を持つカラー画像を撮像可能なカメラを用いて構成される。なお、本実施の形態においてはカラー画像を撮像することとしているが、これに限られたものではなく、撮像素子はカラーフィルタを備えないモノクロ画像を取得することとしてもかまわない。撮像部211は、対物レンズ14から鏡筒15を介して撮像素子211aの受光面に入射した標本Sの観察光を受光し(図2参照)、観察光に対応する画像データを生成する。なお、撮像部211は、RGB色空間で表された画素値を、YCbCr色空間で表された画素値に変換した画像データを生成しても良い。
メモリ212は、例えば更新記録可能なフラッシュメモリ、RAM、ROMといった半導体メモリ等の記録装置からなり、撮像部211が生成した画像データを一時的に記憶する。
スキャン判定処理部213は、位置検出部13cから出力された電動ステージ13aの位置検出結果に基づき、各撮像タイミングにおける標本S内の観察領域の位置情報(以下、画像位置情報という)、電動ステージ13aの移動方向、各撮像タイミングに対応するカメラフレーム番号等の情報を取得し、標本Sに対するスキャン範囲の設定、標本Sに対するスキャン動作の終了判定、及び制御部23における画像処理に不要なフレームの判定等を実行する。
撮像制御部22は、顕微鏡装置10に対して所定の制御信号を出力し、電動ステージ13aを所定の方向に所定の速度で移動させることにより、対物レンズ14の視野に入る標本S内の観察領域を変化させると共に、画像取得部21に対し、対物レンズ14の視野に入る標本S内の観察領域を撮像させる制御を行う。
制御部23は、例えばCPU等のハードウェアによって構成され、記憶部24に記憶されたプログラムを読み込むことにより、記憶部24に記憶された各種データや入力部25から入力される各種情報に基づき、撮像装置20及び顕微鏡システム1全体の動作を統括的に制御すると共に、画像取得部21から入力された画像データに対応する画像を用いて、バーチャルスライド画像を作成する画像処理を実行する。
より詳細には、制御部23は、劣化関数取得部231及び画像処理部232を備える。 このうち、劣化関数取得部231は、撮像時のスキャンにより画像に生じた劣化(ブレ)を表す劣化情報を取得する劣化情報取得部であり、スキャン方向及びスキャン速度に応じた劣化に、顕微鏡装置10そのものに起因する劣化(後述するシステムパラメータ)を加味した劣化関数を取得する。
画像処理部232は、合成処理部233と、画像復元処理部234と、貼り合わせ処理部235とを備える。
合成処理部233は、電動ステージ13aを互いに異なる少なくとも2つの方向に移動させながら撮像を行うことにより取得された画像群から、標本S内の同一の観察領域が写った少なくとも2つの画像を選択し、これらの画像を合成した合成画像を作成する。
画像復元処理部234は、合成処理部233が作成した合成画像に対し、劣化関数取得部231が取得した劣化情報を用いて画像復元処理を行うことにより、スキャンによる劣化が低減された画像を復元(即ち、復元画像を作成)する。以下、画像復元処理部234により復元された合成画像を復元合成画像という。
貼り合わせ処理部235は、画像復元処理部234により復元された復元合成画像のうち、互いに隣接する観察領域が写った復元合成画像を貼り合わせることにより、標本Sの全体、又は標本S内の必要な範囲が写ったバーチャルスライド画像を作成する。
記憶部24は、更新記録可能なフラッシュメモリ、RAM、ROMといった半導体メモリ等の記録装置や、内蔵若しくはデータ通信端子で接続されたハードディスク、MO、CD−R、DVD−R等の記録媒体と該記録媒体に記録された情報を読み取る読取装置とを含む記録装置等によって構成される。記憶部24は、システムパラメータ記憶部241と、画像処理部232により画像処理が施された画像を記憶する画像記憶部242と、スキャン判定処理部213により取得された各種情報(標本S内の各観察領域の位置情報、電動ステージ13aの移動方向、各撮像タイミングにおけるカメラフレーム番号等)を記憶する画像位置情報記憶部243と、当該撮像装置20に所定の動作を実行させるための制御プログラムや制御部23に所定の画像処理を実行させるための画像処理プログラム等を記憶するプログラム記憶部244とを備える。
ここで、システムパラメータとは、顕微鏡システムに固有の振動や光学系の点像分布関数(点拡がり関数)、照明の熱によるZ方向のボケ量といったパラメータであり、劣化関数取得部231が劣化関数を取得する際に用いられる。システムパラメータ記憶部241は、このようなシステムパラメータを予め記憶している。
図3は、一般的な顕微鏡装置のシステムパラメータの一例を示す図である。図3の上段は、顕微鏡装置の電動ステージの静止時におけるモータの振動を表すグラフである。また、図3の下段は、モータの振動により生じる変化する点像を示す模式図である。モータの振動に起因する像ぶれの劣化関数は、このような点像を電動ステージの静止時に記録しておくことにより取得することができる。
図4A及び図4Bは、一般的な顕微鏡装置のシステムパラメータの別の例を説明するための図である。図4Aは、XY平面における光学系の点像を示す模式図であり、顕微鏡装置の光学系に起因するXY平面内におけるボケ量を表している。一方、図4Bは、XZ平面における光学系の点像を示す模式図であり、Z方向のボケ量を表している。
入力部25は、キーボード、各種ボタン、各種スイッチ等の入力デバイスや、マウスやタッチパネル等のポインティングデバイス等により構成され、これらのデバイスを介して入力された信号を受け付けて、制御部23に入力する。
出力部26は、制御部23により作成されたバーチャルスライド画像や、その他所定の情報を、例えばLCD、ELディスプレイ又はCRTディスプレイからなる表示装置27等の外部機器に出力する外部インタフェースである。なお、実施の形態1においては、表示装置27を撮像装置20の外部に設けているが、顕微鏡画像等を表示する表示部を撮像装置20の内部に設けても良い。
このような撮像装置20は、例えばパーソナルコンピュータやワークステーション等の汎用の装置に、外部インタフェース(図示せず)を介して汎用のデジタルカメラを組み合わせることによって構成することができる。
次に、顕微鏡システム1の動作について説明する。図5は、顕微鏡システム1の動作を示すフローチャートである。また、図6Aは、X方向におけるスキャン方法を説明する図であり、図6Bは、Y方向におけるスキャン方法を説明する図である。
まず、ステップS10において、制御部23は、標本Sをスキャンする方向を複数設定する。スキャン方向は、互いに異なる2方向以上であれば特に限定されない。好ましくは、スキャン方向同士がなす角度をできるだけ大きくすると良い。例えば、スキャン方向を2つ設定する場合には、スキャン方向同士を直交させることが好ましい。また、スキャン方向を3つ設定する場合には、スキャン方向同士が互いに60度で交わるようにすることが好ましい。実施の形態1においては、図6A及び図6Bに示すように、標本Sの2辺に沿って、X方向及びY方向の2方向においてスキャンを行う。
続くステップS11において、顕微鏡システム1は、複数方向に視野を順次移動させながら標本Sを撮像する。図7は、標本Sを撮像する動作の詳細を示すフローチャートである。
まず、ステップS111において、顕微鏡システム1は、ステップS10において設定された第1の方向(例えばX方向)において、1回目のスキャンを行う。より詳細には、撮像制御部22は、電動ステージユニット13を制御して、電動ステージ13aをX方向に沿って移動させると共に、電動ステージ13aを停止させることなく、撮像部211に所定の撮像周期で撮像を実行させる。なお、電動ステージ13aの移動速度は、標本S内の観察領域が互いに隣接する行間及び列間において部分的に重複するように、撮像部211の撮像周期に応じて決定される。観察領域を重複させる範囲は、1つの視野に対応する画像サイズの例えば10%にすると良い。撮像部211が生成した画像データは、メモリ212に一時的に記憶される。
スキャン判定処理部213は、撮像部211が撮像を1回行う毎に、スキャン方向を示すフラグを立てる(例えば、X方向フラグを0から1に変更する)と共に、位置検出部13cが出力した検出信号に基づく各観察領域Piの位置情報(座標(x,y))を含む視野ラベル、及び各観察領域Piを撮像した際のカメラフレーム番号等の情報(以下、これらの情報を関連情報という)をメモリ212に記憶させ、撮像部211が生成した画像データと関連づける。なお、各スキャン方向を表すフラグは、当初「0」に初期設定されている。
例えば図6Aに示すように、標本Sが対物レンズ14により図中の矢印に沿ってX方向にスキャンされると、標本S内の各観察領域Pi(iは1〜Nの自然数)が順次撮像され、撮像された観察領域PiのX方向フラグが順次「1」に設定される。
なお、対物レンズ14の視野を隣の行に移す際、折り返し位置の観察領域PiはY方向にもスキャンされる。このような観察領域Piに対し、スキャン判定処理部213は、X方向フラグに加え、Y方向フラグも「1」に設定する。従って、X方向のスキャンが標本S全体に対して終了した時点で、X方向及びY方向のスキャンが共に完了した領域R1が得られる。なお、図6A及び図6Bにおいては、領域R1を斜線で示している。
続くステップS112において、スキャン判定処理部213は、標本S上のスキャン範囲を設定する。図8A〜図8Cは、スキャン範囲の設定方法を説明する図である。ここで、例えば図8Aに示すように、標本S内の一部にしか組織Tが存在しておらず、組織Tを含む領域に対してのみ、高精細な画像を取得すれば足りる場合、標本Sの全体を全方向でスキャンする必要はない。このような場合、スキャン判定処理部213は、以下に説明するように、組織Tを含む領域をスキャン範囲に設定する。
まず、スキャン判定処理部213は、ステップS111において取得された画像データに基づき、公知の画像認識処理により、組織Tが含まれる観察領域Piを抽出する。そして、例えば図8Bに示すように、組織Tを含む観察領域Piうち、観察領域の座標(x,y)の最小値から最大値によって囲まれる矩形の範囲を、組織存在範囲Rtissueに設定する。具体的には、組織Tを含む観察領域Piの中では、観察領域PA2のX座標xmaxがX方向の最大値、Y座標yminがY方向の最小値となり、観察領域PA3のX座標xminがX方向の最小値、Y座標ymaxがY方向の最大値となる。従って、観察領域PA1(xmin,ymin)、PA2(xmax,ymin)、PA3(xmin,ymax)、PA4(xmax,ymax)で囲まれる範囲が組織存在範囲Rtissueとなる。
続いて、スキャン判定処理部213は、組織存在範囲Rtissueの四隅の観察領域PA1、PA2、PA3、PA4が組織Tを含むか否かを判定する。図8Bの場合、観察領域PA2及びPA3が組織Tを含んでいる。このように、四隅の観察領域PA1、PA2、PA3、PA4のいずれかが組織Tを含む場合、スキャン判定処理部213は、組織Tを含まなくなるように組織存在範囲Rtissueを拡張した領域を、スキャン範囲として設定する。具体的には、図8Cに示すように、組織存在範囲Rtissueの四隅をX方向に1観察領域ずつ拡張した座標、即ち、観察領域PB1(xmin−1,ymin)、PB2(xmax+1,ymin)、PB3(xmin−1,ymax)、PB4(xmax+1,ymax)によって囲まれる矩形の範囲が、スキャン範囲Rscanとなる。なお、組織存在範囲RtissueをY方向に拡張した領域をスキャン範囲として設定しても良い。
ステップS113において、スキャン判定処理部213は、ステップS111において取得された画像データのうち、スキャン範囲Rscan外の観察領域Piの画像データ及びその関連情報を不要フレームとして削除する。なお、スキャン範囲Rscan内の領域であれば、組織Tが存在していない領域であっても、標本全体像(最終的に表示されるバーチャルスライド画像)の一部として表示されるので、不要フレームとはしない。
また、ステップS112及びS113は必須ではなく、標本S全体をスキャン範囲としてステップS114以降の処理を行っても良い。
続くステップS114において、顕微鏡システム1は、ステップS111におけるスキャン方向とは異なる方向において、2回目以降のスキャンを行う。例えば、ステップS111においてX方向のスキャン(図6A参照)を行った場合、ステップS114においてはY方向のスキャン(図6B参照)を行う。
ここで、2回目以降のスキャンを行う場合、同一の観察領域Piに対し、同じ方向のスキャンが重複してなされることがある。例えば、図6Bに示すように、Y方向のスキャンにおいて対物レンズ14の視野を隣の行に移す際、折り返し位置の観察領域Piに対して2回目のX方向のスキャンがなされてしまう。このような場合、スキャン判定処理部213は、既に方向フラグが「1」となっている観察領域Piに対して同一方向のスキャンが行われた時点で、その際に取得されたスキャン方向が重複する画像データを不要フレームとして削除する。図6Bに示す矢印はスキャンの軌跡であり、矢印のうちの破線部分は、不要フレームとして画像データが削除される領域を示す。
ステップS115において、スキャン判定処理部213は、ステップS10において設定された全方向のスキャンが終了したか否かを判定する。具体的には、スキャン判定処理部213は、各観察領域Piに対し、方向フラグの総和がステップS10において設定されたスキャン方向の数(X方向及びY方向の場合、2)に達しているか否かを判定する。そして、スキャン範囲Rscan内の観察領域Piのうち、四隅を除く観察領域Piの全てにおいて、方向フラグの総和が上記スキャン方向の数に達している場合に、全方向のスキャンが終了したと判断する。
未だスキャンされていない方向が残っている場合(ステップS115:No)、顕微鏡システム1の動作はステップS114に戻る。それにより、スキャン範囲Rscanに対し、先のステップS114とは異なる方向でのスキャンが実行される。
一方、全方向におけるスキャンが終了したと判断された場合(ステップS115:Yes)、顕微鏡システム1の動作はメインルーチンに戻る。
なお、画像取得部21は、取得した画像データ及び関連情報を、全ての観察領域Piに対し全方向のスキャンが終了した時点で制御部23に出力しても良いし、全ての方向フラグが「1」になった観察領域Piから随時、制御部23に出力しても良い。後者の場合、制御部23は、全方向のスキャンが終了した観察領域Piから、画像データに対する処理を開始できるので、トータルの処理時間を短縮することができて好ましい。
ステップS11に続いて、顕微鏡システム1は、スキャン範囲Rscan内の四隅を除く各観察領域Piについて、ループAの処理を実行する。
ステップS12において、合成処理部233は、画像取得部21から出力された画像データに対して所定の画像処理を施すことにより、同一の観察領域Piに対する複数方向のスキャンによりそれぞれ取得された複数の画像の合成画像を作成する。図9は、合成画像の作成処理の詳細を示すフローチャートである。また、図10及び図11は、X方向及びY方向の2方向のスキャンにより取得された画像の合成処理を説明する図である。以下においては一例として、観察領域Piに対するX方向のスキャンにより取得された画像Mi(X)と、Y方向のスキャンにより取得された画像Mi(Y)との合成画像を作成する場合について説明する。
ステップS121において、合成処理部233は、まず、同一の組織が写った画素同士が重なり合うように、画像Mi(X)、Mi(Y)の位置合わせを行う。位置合わせは、例えば位相限定相関法等の公知技術を用いて実行することができる。
続くステップS122において、合成処理部233は、画像Mi(X)、Mi(Y)の共通の範囲Rtrmをトリミングし、両画像Mi(X)、Mi(Y)を合成する合成範囲を決定する。
続くステップS123において、合成処理部233は、画像Mi(X)、Mi(Y)において互いに対応する画素(同一の組織が写った画素)、即ち、トリミング後の画像Mi(X)、Mi(Y)間で同一座標の画素における画素値の加算平均を算出する。図11に示す部分画像m(X)、m(Y)は、図10に示す画像Mi(X)、Mi(Y)間で互いに対応する領域(部分画像m(X)、m(Y))の拡大図である。図11に示すように、合成処理部233は、各部分画像m(X)、m(Y)内の座標(x,y)の画素における画素値I(a)、I(b)を抽出し、これらの画素値の加算平均(I(a)+I(b))/2を算出する。
続くステップS124において、合成処理部233は、ステップS123において算出した加算平均の値を合成画像の各画素の画素値とすることにより、合成画像を作成する。このように、複数方向のスキャンにより取得された画像の画素値を加算平均することにより、スキャン方向に応じて劣化した画像情報を補正することができる。
この後、顕微鏡システム1の動作はメインルーチンに戻る。
ステップS12に続くステップS13において、劣化関数取得部231は、観察領域が同一でスキャン方向が互いに異なる複数画像の関連情報を読み出し、スキャン方向、スキャン速度及びシステムパラメータに基づいて劣化関数を取得する。より詳細には、劣化関数取得部231は、まず、各画像のスキャン方向及びスキャン速度に応じて、基準となる劣化関数を取得する。図12は、画像Mi(X)、Mi(Y)のスキャン方向に応じた劣化関数fdeg(X)、fdeg(Y)を示す模式図である。劣化関数取得部231は、これらの劣化関数fdeg(X)、fdeg(Y)に対して畳み込み演算を行うことにより、平均化された劣化関数(以下、平均化劣化関数)fdeg(X,Y)を取得する。さらに、劣化関数取得部231は、システムパラメータ記憶部241に記憶されているシステム固有のパラメータ(劣化関数fsys)を取得する。そして、平均化劣化関数fdeg(X,Y)に対し、システム固有のパラメータの畳み込み演算を行うことにより、システム固有の劣化情報を付与する。それにより、画像Mi(X)、Mi(Y)の復元処理に用いる劣化関数を取得することができる。
続くステップS14において、画像復元処理部234は、ステップS12において作成された合成画像を、ステップS13において取得された劣化関数を用いて復元する。図13は、劣化関数を用いた画像復元処理を説明する図である。図13に示すように、画像復元処理部234は、平均化劣化関数fdeg(X,Y)に劣化関数fsysを畳み込んだ劣化関数fdeg(X,Y)’を用いて、ウィーナー(wiener)フィルタ、最大事後確立(Maximum a posteriori:MAP)推定等の公知のアルゴリズムにより、画像Mi(X)、Mi(Y)の合成画像Mi(com)を復元する。それにより、復元された合成画像(復元合成画像)Miが得られる。
続くステップS15において、制御部23は、ステップS14において復元した復元合成画像Miを、もとの画像Mi(X)、画像Mi(Y)の関連情報に含まれる画像位置情報と関連付けて画像記憶部242に記憶させると共に、画像位置情報を画像位置情報記憶部243に記憶させる。
各観察領域Piに対するループAの処理が終了した後、ステップS16において、貼り合わせ処理部235は、画像記憶部242に記憶された復元合成画像を読み出し、各復元合成画像と関連付けられた画像位置情報を参照して、互いに隣接する復元合成画像を貼り合わせる。図14は、復元合成画像の貼り合わせ処理の一例を説明する図である。
上述したように、標本S(スキャン範囲Rscan)内の隣接する観察領域Piは互いに、部分的に重複するように撮像されている。そのため、貼り合わせ処理部235は、例えばX方向に並ぶ観察領域Pi-1、Pi、Pi+1に対応する復元合成画像Mi-1、Mi、Mi+1を貼り合わせる際、観察領域Pi-1、Pi、Pi+1間の重複範囲に対応する共通領域が重なるように位置合わせを行った上で、共通領域についてはいずれか一方の画像を採用する。いずれの画像を採用するかについては特に限定されず、例えば、座標値が大きい側の画像(例えば、復元合成画像Mi-1、Miの共通領域では復元合成画像Mi、復元合成画像Mi、Mi+1の共通領域では復元合成画像Mi+1)を採用するなど、適宜設定すれば良い。
このような画像合成処理により、スキャン範囲Rscan全体が写った標本画像(バーチャルスライド画像)が得られる。なお、貼り合わせ処理部235は、スキャン範囲Rscan内の四隅を除く全観察領域Piに対する復元合成画像の作成が終了した後で、貼り合わせ処理を開始しても良いし、互いに隣接する観察領域Pi-1とPi、PiとPi+1、…に対応する復元合成画像が揃った時点で、貼り合わせ処理を順次実行しても良い。
ステップS17において、制御部23は、このようにして作成された標本画像(バーチャルスライド画像)を記憶部24に記憶させる。或いは、標本画像を表示装置27に表示させても良い。
以上説明したように、実施の形態1によれば、標本(スキャン範囲)に対する視野の移動を停止させることなく各観察領域を撮像するので、撮像のたびに移動を停止させる従来の技術と比較して、トータルの撮像時間を大幅に短縮することができる。また、実施の形態1によれば、互いに異なる複数方向のスキャンにより同一の観察領域を撮像するので、画像の劣化方向(情報が欠落する方向)、言い換えると、画像が劣化されずに情報が残る方向が互いに異なる複数の画像を得ることができる。そのため、これらの画像を合成することにより、画像の劣化を補正することができる。
さらに、実施の形態1によれば、スキャン方向に応じた劣化関数を平均化した平均化劣化関数を用いて合成画像を復元するので、合成画像に残った劣化をさらに低減させ、高品質な画像を得ることができる。ここで、画像復元処理は一般に演算処理の負荷が大きいが、実施の形態1においては、合成画像に対して画像復元処理を行うので、1つの観察領域に対して1回の画像復元処理で済む。このため、トータルの演算処理量を最小限に抑えることができる。従って、このような復元合成画像を貼り合わせることにより、高品質なバーチャルスライド画像を高速に(短時間に)取得することが可能となる。
(変形例1−1)
次に、実施の形態1の変形例について説明する。
上記実施の形態1においては、X方向及びY方向の2方向においてスキャンを行ったがスキャン方向及びスキャン方向の数はこれに限定されない。例えば、X方向から反時計回りに45度回転させた方向(以下、45度方向という)、及びX方向から反時計周りに135度回転させた方向(以下、135度方向という)の2方向においてスキャンを行っても良いし、X方向、Y方向、45度方向及び135度方向の4方向においてスキャンを行っても良い。以下、上記4方向のスキャンを行う場合の撮像動作の例を説明する。
この場合、図5のステップS11において、顕微鏡システム1は、実施の形態1と同様にX方向及びY方向のスキャンを順次行った後(図6A及び図6B参照)、図15(a)に示すように、左上の観察領域P(1,1)から、135度方向のスキャンを右上の観察領域P(m,1)に向けて開始する。なお、mは2以上の自然数であり、X方向における観察領域数を示す。また、図15に示す矢印は当該方向のスキャンの軌跡であり、矢印のうちの破線部分は、不要フレームとして画像データが削除される領域を示す。
対物レンズ14の視野が観察領域P(m,1)に至ると、続いて、顕微鏡システム1は、図15(b)に示すように、当該観察領域P(m,1)から、45度方向のスキャンを左上の観察領域P(1,1)に向けて開始する。なお、図15(b)に示す細い点線は、前回のスキャン(図15(a)に示す135度方向のスキャン)の軌跡を示す。
図15(c)に示すように、45度方向のスキャンにより再び対物レンズ14の視野が観察領域P(1,1)に至った段階で、X方向、Y方向、45度方向及び135度方向の全方向のスキャンが完了した領域(方向フラグの総和=4となった観察領域)R2が得られる。なお、図15においては、全方向のスキャンが完了した領域R2を斜線で示している。
次に、顕微鏡システム1は、図15(d)に示すように、観察領域P(1,1)から、135度方向のスキャンを左下の観察領域P(1,n)に向けて開始する。なお、nは2以上の自然数であり、Y方向における観察領域数を示す。このスキャンにより、全方向のスキャンが完了した領域R2はさらに増加する。
対物レンズ14の視野が観察領域P(1,n)に達すると、続いて、図15(e)に示すように、当該観察領域P(1,n)から、45度方向のスキャンを右下の観察領域P(m,n)に向けて開始する。そして、対物レンズ14の視野が観察領域P(m,n)に達すると、図15(f)に示すように、スキャン範囲の四隅の観察領域P(1,1)、P(m,1)、P(1,n)、P(m,n)を除く全ての観察領域Piに対する全方向のスキャンが完了する。
なお、各方向のスキャンの開始位置やスキャンの順序等を含むスキャン方法は上述した例に限定されない。ステップS10において設定した全ての方向に対してスキャンを行うことができれば、どのようなスキャン方法を用いても良い。
図16及び図17は、観察領域Piに対するX方向、Y方向、45度方向及び135度方向の4方向のスキャンにより取得された画像Mi(X)、Mi(Y)、Mi(45)及びMi(135)の合成処理を説明するための模式図である。合成処理部233は、まず、位相限定相関法等の公知技術により、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)の位置合わせを行い、これらの画像において共通の範囲Rtrmをトリミングする。
図17に示す部分画像m(X)、m(Y)、m(45)、m(135)は、図16に示す画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)内の互いに対応する部分画像m(X)、m(Y)、m(45)、m(135)の拡大図である。続いて、合成処理部233は、図17に示すように、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)において互いに対応する画素、即ち、トリミング後の画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)で同一座標の画素における画素値I(a)、I(b)、I(c)、I(d)の加算平均(I(a)+I(b)+I(c)+I(d))/4を算出する。そして、算出した加算平均の値を、合成画像の各画素の画素値とする。
図18は、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)のスキャン方向に応じた劣化関数fdeg(X)、fdeg(Y)、fdeg(45)、fdeg(135)を示す模式図である。劣化関数取得部231は、これらの劣化関数fdeg(X)、fdeg(Y)、fdeg(45)、fdeg(135)に対して畳み込み演算を行うことにより、平均化劣化関数fdeg(X,Y,45,135)を取得する。このように、スキャン方向を増やした場合には、スキャン方向に応じた数だけ劣化関数を取得し、それらの劣化関数を平均化した劣化関数fdeg(X,Y,45,135)とシステムパラメータ(劣化関数fsys)とを用いて合成画像を復元すれば良い。以降の処理については、実施の形態1と同様である。
(変形例1−2)
次に、実施の形態1の変形例1−2について説明する。
実施の形態1においては、隣接する合成画像を貼り合わせる際に、合成画像の端部の共通領域(図14参照)については、いずれか一方の画像を採用することとした。しかしながら、各合成画像においては、画像の中心付近の情報が最も安定していると考えられる。そこで、各合成画像の端部を切り落とし、合成画像の中心領域を多く含む画像同士を貼り合わせることとしても良い。具体的には、貼り合わせ処理部235は、図19に示すように合成画像Mi-1、Mi、Mi+1を貼り合わせる際、合成画像の共通領域が重なるように位置合わせを行った後、各合成画像Mi-1、Mi、Mi+1の端部の共通領域を半分ずつ切り落とし、残った領域Ci-1、Ci、Ci+1同士を接続すれば良い。
(実施の形態2)
次に、本発明の実施の形態2について説明する。
図20は、実施の形態2に係る顕微鏡システムの構成例を示すブロック図である。図20に示すように、実施の形態2に係る顕微鏡システム2は、図1に示す撮像装置20の代わりに、撮像装置30を備える。
撮像装置30は、図1に示す制御部23の代わりに、制御部31を備える。制御部31以外の撮像装置30の各部の構成及び動作は、実施の形態1と同様である。
制御部31は、劣化関数取得部311及び画像処理部312を備える。このうち、劣化関数取得部311は、撮像時のスキャンにより画像に生じた劣化(ブレ)を表す劣化情報を取得する劣化情報取得部であり、スキャン方向及びスキャン速度に応じた劣化に、顕微鏡装置10そのものに起因する劣化を加味した劣化関数を取得する。
画像処理部312は、合成復元画像作成部313及び貼り合わせ処理部235を備える。このうち、貼り合わせ処理部235の動作は、実施の形態1と同様である。
合成復元画像作成部313は、画像取得部21により互いに異なる複数方向のスキャンによって取得された画像群から、標本S上の同一の観察領域が写った複数の画像を選択し、これらの画像を合成することにより劣化が低減された画像を作成する。
より詳細には、合成復元画像作成部313は、方向判定処理部313aと、画像選択処理部313bと、画像復元処理部313cと、画像補完部313dとを備える。
方向判定処理部313aは、画像取得部21から入力された各画像のスキャン方向を判定し、スキャン方向に基づく画像選択評価値(以下、単に評価値ともいう)を算出する。
画像選択処理部313bは、観察領域が同一でスキャン方向が互いに異なる複数の画像から、上記評価値に基づいて、後述する画像補完部313dにおける画像合成の対象として採用する各画像内の部分的な領域の画像を選択する。以下、画像内の一部の領域(又は画素)の画像のことを、領域画像という。
画像復元処理部313cは、画像選択処理部313bによって選択された領域画像に対し、劣化関数取得部331が取得した劣化情報を用いて画像復元処理を行うことにより、スキャンによる劣化が低減された復元画像を作成する。
画像補完部313dは、復元された領域画像(復元画像)を合成することにより合成画像を作成する。以下、復元画像を合成した画像を、合成復元画像という。
次に、顕微鏡システム2の動作について説明する。図21は、顕微鏡システム2の動作を示すフローチャートである。なお、図21に示すステップS10及びS11は、実施の形態1と同様である。
ステップS11に続いて、顕微鏡システム2は、スキャン範囲Rscan内の四隅を除く各観察領域Piについて、ループBの処理を実行する。
ステップS21において、劣化関数取得部331は、観察領域が同一でスキャン方向が互いに異なる複数画像の関連情報を読み出し、スキャン方向、スキャン速度及びシステムパラメータに基づいて劣化関数を取得する。例えば、当該観察領域Piに対してX方向、Y方向、45度方向、及び135度方向の4方向のスキャンが行われた場合、劣化関数取得部331は、まず、基準となる劣化関数fdeg(X)、fdeg(Y)、fdeg(45)、fdeg(135)を取得する。そして、各劣化関数fdeg(X)、fdeg(Y)、fdeg(45)、fdeg(135)に対し、システムパラメータ記憶部241に記憶されているシステム固有のパラメータ(劣化関数fsys)を取得して畳み込み演算を行うことにより、システム固有の劣化情報が付与された劣化関数fdeg(X)’、fdeg(Y ’、fdeg(45)’、fdeg(135)’を取得する。
続くステップS22において、合成復元画像作成部313は、画像取得部21から出力された画像データに対して所定の画像処理を施すことにより、同一の観察領域Piに対する複数方向のスキャンによりそれぞれ取得された複数の画像から復元画像を作成して合成する。図22は、合成復元画像の作成処理の詳細を示すフローチャートである。また、以下においては一例として、図23に示すように、X方向、Y方向、45度方向及び135度方向のスキャンによりそれぞれ取得された画像Mi(X)、Mi(Y)、Mi(45)及びMi(135)をもとに合成復元画像を作成する場合について説明する。
ステップS201において、合成復元画像作成部313は、まず、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)の位置合わせを行う。位置合わせは、例えば位相限定相関法等の公知技術を用いて実行することができる。
続くステップS202において、合成復元画像作成部313は、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)の共通の範囲Rtrmをトリミングし、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)を合成する合成範囲を決定する。
続くステップS203において、方向判定処理部313aは、各画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)のスキャン方向に基づき、画像選択評価値を算出する。ここで、画像選択評価値とは、合成画像を作成する際に各画像から採用する領域画像を選択する際に用いられる評価値のことである。
画像選択評価値の算出方法を、図24を参照しながら説明する。図24に示す部分画像m(X)、m(Y)、m(45)、m(135)は、図23に示す画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)間で互いに対応する部分画像m(X)、m(Y)、m(45)、m(135)の拡大図である。
方向判定処理部313aは、まず、各画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)の関連情報からスキャン方向を取得し、スキャン方向に応じたエッジ抽出フィルタfX、fY、f45、f135を用いて、各画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)からエッジを抽出する。スキャン方向に応じたエッジ抽出フィルタfX、fY、f45、f135は、スキャン方向と平行なエッジを抽出するように設定されている。この処理により、各部分画像m(X)、m(Y)、m(45)、m(135)から抽出されたエッジからなるエッジ画像m(X)’、m(Y)’、m(45)’、m(135)’が算出される。
ここで、スキャンしながら標本Sを撮像した場合であっても、スキャン方向と平行な方向においてはブレがあまり生じないため、各エッジ画像m(X)’、m(Y)’、m(45)’、m(135)’に示すように、スキャン方向に対して平行なエッジは保存される。従って、画像Mi(X)からは主にX方向において強いエッジが抽出され、画像Mi(Y)からは主にY方向において強いエッジが抽出され、画像Mi(45)からは主に45度方向において強いエッジが抽出され、画像Mi(135)からは主に135度方向において強いエッジが抽出される。
このようにして算出されたエッジ画像m(X)’、m(Y)’、m(45)’、m(135)’の各画素の画素値(即ち、エッジ強度)が、画像選択評価値として用いられる。
なお、エッジ抽出フィルタfX、fY、f45、f135の具体的な形態は、図24に例示するものに限定されない。また、図24においては、エッジ抽出フィルタfX、fYとして3×3のマトリックス状のフィルタを例示し、エッジ抽出フィルタf45、f135として5×5のマトリックス状のフィルタを例示しているが、フィルタのサイズについてもこれらの例に限定されない。一例として、エッジ抽出フィルタf45、f135として3×3のマトリックス状のフィルタを用い、処理を高速化しても良い。
また、スキャン方向と平行なエッジを抽出することができれば、エッジの抽出方法は上記説明をした方法に限定されない。
続くステップS204において、画像選択処理部313bは、画像合成に用いる最適な領域画像を、画像選択評価値に基づいて、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)から選択する。より詳細には、画像選択処理部313bは、画像内の部分的な領域又は画素毎に、スキャン方向別の4つの画像選択評価値を互いに比較し、画像選択評価値が最も大きいスキャン方向(即ち、エッジが強い方向)を選択する。そして、選択したスキャン方向の画像を、当該部分的な領域又は画素における最適な領域画像として選択する。例えば、図24の各エッジ画像m(X)’、m(Y)’、m(45)’、m(135)’に示す画素px(1)、px(2)、py(1)、py(2)、p45(1)、p45(2)、p135(1)、p135(2)は、Mi(X)、Mi(Y)、Mi(45)、Mi(135)間で互いに対応する画素のうち、画像選択評価値が最も大きい画素を示している。
続くステップS205において、画像復元処理部313cは、ステップS204において選択された領域画像の劣化関数を取得する。詳細には、ステップS21において取得された劣化関数fdeg(X)’、fdeg(Y)’、fdeg(45)’、fdeg(135)’のうちから、選択された領域画像のエッジ方向に応じた劣化関数を選択する。例えば、図24及び図25に示すように、X方向のエッジを有する領域画像(画素px(1)、px(2))に対しては、劣化関数fdeg(X)’が選択される。同様に、Y方向のエッジを有する領域画像(画素py(1)、py(2))、45度方向のエッジを有する領域画像(画素p45(1)、p45(2))、135度方向のエッジを有する領域画像(画素p135(1)、p135(2))に対しては、劣化関数fdeg(Y)’、fdeg(45)’、fdeg(135)’がそれぞれ選択される。
続くステップS206において、画像復元処理部313cは、ステップS204において選択された領域画像を、ステップS204において取得された劣化関数で復元することにより、領域ごとの復元画像を作成する。
例えば図25の場合、部分画像m(X)内の領域画像である画素px(1)、px(2)に対し、劣化関数fdeg(X)’を用いて画像復元処理を施すことにより、復元画像px(1)’、px(2)’が作成される。同様に、部分画像m(y)内の画素py(1)、py(2)から復元画像py(1)’、py(2)’が作成され、部分画像m(X)内の画素p45(1)、p45(2)から復元画像p45(1)’、p45(2)’が作成され、部分画像m(135)内の画素p135(1)、p135(2)から復元画像p135(1)’、p135(2)’が作成される。即ち、1つの領域又は画素に対応する複数の領域画像の間では、選択された1つの領域画像のみに画像復元処理が施される。なお、画像復元処理の手法については、実施の形態1で説明したとおりである(図5のステップS14参照)。
続くステップS207において、画像補完部313dは、画像復元処理部313cにより復元された領域画像(領域ごとの復元画像)を合成することにより、合成復元画像を作成する。具体的には、図25に示すように、画像補完部313dは、復元画像px(1)’、px(2)’、py(1)’、py(2)’、p45(1)’、p45(2)’、p135(1)’、p135(2)’の画素値を、合成画像mcomにおける当該領域又は画素の画素値とする。
ステップS22に続くステップS23において、制御部31は、ステップS22において作成された合成復元画像をもとの画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)の関連情報に含まれる画像位置情報と関連付けて画像記憶部242に記憶させると共に、画像位置情報を画像位置情報記憶部243に記憶させる。
各観察領域Piに対するループBの処理が終了した後、ステップS24において、貼り合わせ処理部235は、画像記憶部242に記憶された合成復元画像を読み出し、各合成復元画像と関連付けられた画像位置情報を参照して、互いに隣接する合成復元画像を貼り合わせる。なお、合成復元画像の貼り合わせ処理の詳細は、実施の形態1において説明した復元合成画像の貼り合わせ処理と同様である(図14、図19参照)。
続くステップS25において、制御部31は、このようにして作成された標本画像(バーチャルスライド画像)を記憶部24に記憶させる。或いは、標本画像を表示装置27に表示させても良い。
以上説明したように、実施の形態2においては、複数方向のスキャンにより、画像の劣化方向(画像が劣化されずに情報が残る方向)が互いに異なる複数の画像を取得し、これらの画像から、画像選択評価値に基づいて画像合成に用いる領域画像を選択する。そして、選択した領域画像にのみ劣化関数を用いた画像復元処理を施して復元画像を作成し、これらの復元画像を合成することにより合成復元画像を作成する。そのため、あるスキャン方向の画像に生じた情報の欠落を、別のスキャン方向の画像から補完することができ、画像の劣化を高精度に補正することができる。
また、実施の形態2においては、1つの領域又は画素に対応する複数の領域画像のうち、エッジが最も強い領域画像のみを、該エッジの方向に応じた劣化関数を用いて復元し、復元した領域画像(復元画像)同士を合成する。ここで、画像復元処理は一般に演算処理の負荷が大きいが、実施の形態2においては、1つの領域に対して1回のみ画像復元処理を行うので、画像復元処理に要するトータルの演算量を最小限に抑えることができる。また、異なる劣化関数を平均化するのではなく、当該領域画像に最適な劣化関数を用いて画像復元処理を行うので、画像復元精度を向上させることができる。従って、このようにして作成された合成復元画像を貼り合わせることにより、さらに高品質なバーチャルスライド画像を高速に(短時間に)取得することが可能となる。
(変形例2−1)
次に、実施の形態2の変形例について説明する。
画像選択評価値を算出する際には、実施の形態1又はその変形例1−1と同様に、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)を加算平均して得られた画像からエッジを抽出しても良い。この場合、加算平均により得られた画像に対し、X方向、Y方向、45度方向及び135度方向のエッジをそれぞれ抽出する4つのフィルタ処理を施すことにより、4つのエッジ画像を算出し、これらのエッジ画像の画素値(エッジ強度)をスキャン方向別の画像選択評価値として用いる。
(変形例2−2)
上記実施の形態2においては、画像選択評価値としてエッジ強度を用いたが、スキャン方向別に画像の劣化の度合いを評価することができれば、エッジ強度に限らず用いることができる。例えば、画像内の隣接する微小領域又は隣接する画素のコントラスト変化を画像選択評価値として用いても良い。
(変形例2−3)
上記実施の形態2においては、1つの領域又は画素に対応する複数の領域画像のうち1つの領域画像のみに画像復元処理を施したが、画像選択評価値に基づいて複数の領域画像を抽出し、抽出した複数の領域画像に対して画像復元処理を施しても良い。図26は、本変形例2−3における領域画像の復元処理及び復元画像の合成処理の具体例を説明する図である。
本変形例2−3においては、図22に示すステップS204において、ステップS203において算出された画像選択評価値に基づいて、1つ以上の領域画像を選択する。詳細には、画像選択処理部313bは、画像内の部分的な領域又は画素毎に、スキャン方向別の複数(例えば4つ)の画像選択評価値を互いに比較し、画像選択評価値が最も大きいスキャン方向と、画像選択評価値が2番目に大きいスキャン方向とを選択する。
画像選択処理部313bは、最も大きい画像選択評価値(以下、最大評価値)と、2番目に大きい画像選択評価値(以下、第2評価値)とを比較し、最大評価値に対して第2評価値が十分に小さい場合には、最大評価値を有する領域画像のみを選択する。一方、画像選択処理部313bは、最大評価値と第2評価値との差が小さい場合には、最大評価値を有する領域画像と、第2評価値を有する領域とを選択する。
この際の判断は、例えば、最大評価値と他の画像選択評価値との差分に基づく閾値を設定して行うと良い。具体的には、次のように閾値を設定すると良い。まず、対応する複数の領域画像の画像選択評価値E1、E2、…を取得する。そして、これらのうちの最大の画像選択評価値Emaxと各画像選択評価値E1、E2、…との差分ΔE1(=Emax−E1)、ΔE2(=Emax−E2)、…を算出する。さらに、これらの差分ΔE1、ΔE2、…の平均μ及び標準偏差σを算出し、平均と標準偏差の和μ+σを閾値とする。
領域画像の選択に際しては、最大評価値と第2評価値と差分が上記閾値μ+σよりも大きい場合、最大評価値を有する領域画像のみを選択し、最大評価値と第2評価値との差分が該閾値μ+σ以下である場合、最大評価値を有する領域画像と第2評価値を有する領域とを選択すれば良い。なお、最大評価値との差分が上記閾値μ+σ以下である画像選択評価値が3つ以上存在する場合には、それらの画像選択評価値を有する領域画像を全て選択しても良い。
図26は、x方向のスキャンにより得られた部分画像m(X)内の画素px(3)と、45度方向のスキャンにより得られた部分画像m(45)内で該画素px(3)と対応する画素p45(3)とが選択され、y方向のスキャンにより得られた部分画像m(Y)内の画素py(4)と、135度方向のスキャンにより得られた部分画像m(135)内で該画素py(4)と対応する画素p135(4)とが選択された状態を示している。
ステップS204において1つの領域又は画素に対応する複数の領域画像から2つ以上の領域画像が選択された場合、ステップS205において、劣化関数取得部311は、選択された各領域画像に対して、エッジ方向に応じた劣化関数を取得する。図26の場合、画素px(3)、py(4)、p45(3)、p135(4)に対し、劣化関数fdeg(X)’、fdeg(Y)’、fdeg(45)’、fdeg(135)’がそれぞれ取得される。
また、この場合、ステップS206において、画像復元処理部313cは、選択された各領域画像に対して、劣化関数を用いて画像復元処理を施す。図26の場合、対応する領域画像である画素px(3)、p45(3)を、劣化関数fdeg(X)’、fdeg(45)’を用いてそれぞれ復元することにより、復元画像px(3)’、p45(3)’を取得する。また、対応する領域画像である画素py(4)、p135(4)を、劣化関数fdeg(Y)’fdeg(135)’を用いてそれぞれ復元することにより、復元画像py(4)’、p135(4)’を取得する。即ち、ここでは、1つの領域又は画素に対して、2回の画像復元処理が行われたことになる。
この場合、ステップS207における合成処理は、以下のようにして行われる。画像補完部313dは、対応する複数の復元画素の画素値を取得し、それらの復元画素の画素値の平均値を、当該領域又は画素の画素値とする。図26の場合、復元画像px(3)、py(4)、p45(3)、p135(4)の画素値を、それぞれ、Ipx(3)、Ipy(4)、Ip45(3)、Ip135(4)とすると、合成復元画像における画素p3の画素値は、(Ipx(3)+Ip45(3))/2で与えられる。また、合成復元画像における画素p4の画素値は、(Ipy(4)+Ip135(4))/2で与えられる。
以上説明したように、本変形例2−3においては、1つの領域又は画素に対応する複数の領域画像のうち、2つ以上の領域画像に対して画像復元処理を行う。ここで、被写体の構造は必ずしもスキャン方向と完全に一致しているわけではないので、スキャン方向と異なる方向における情報が全く劣化せずに残っているとは限らない。このような場合に、画像選択評価値に基づいて、残っている情報が多いと考えられる複数方向の情報を利用することにより、1方向だけでは欠落してしまう情報を高精度に補完することができる。従って、このようにして作成された合成復元画像を貼り合わせることにより、さらに高品質なバーチャルスライド画像を取得することが可能となる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。
図27は、実施の形態3に係る顕微鏡システムの構成例を示すブロック図である。図27に示すように、実施の形態3に係る顕微鏡システム3は、図20に示す撮像装置30の代わりに、撮像装置40を備える。
撮像装置40は、図1に示す制御部23の代わりに制御部41を備える。制御部41以外の撮像装置40の各部の構成及び動作は、実施の形態2と同様である。
制御部41は、劣化関数取得部311と、画像処理部411と、貼り合わせ処理部235とを備える。このうち、劣化関数取得部311の動作は、実施の形態2と同様である。また、貼り合わせ処理部235の動作は、実施の形態1と同様である。
画像処理部411は、画像復元処理部412及び合成復元画像作成部413を備える。画像復元処理部412は、画像取得部21により互いに異なる複数方向のスキャンによって取得された画像の各々に対し、各画像のスキャン方向に応じた劣化関数を用いて画像復元処理を施すことにより、復元画像を作成する。
合成復元画像作成部413は、画像復元処理部412により作成された複数の復元画像を合成することにより、合成復元画像を作成する。
より詳細には、合成復元画像作成部413は、方向判定処理部413aと、画像選択処理部413bと、画像補完部413cとを備える。
方向判定処理部413aは、画像復元処理部412により作成された各復元画像のスキャン方向を判定し、スキャン方向に基づく画像選択評価値を算出する。
画像選択処理部413bは、観察領域が同一でスキャン方向が互いに異なる複数の復元画像から、上記評価値に基づいて、後述する画像補完部413cにおける画像合成の対象として採用する各復元画像内の領域を選択する。
画像補完部413cは、画像選択処理部413bにより選択された領域同士を合成することにより、合成復元画像を作成する。
次に、顕微鏡システム3の動作について説明する。図28は、顕微鏡システム3の動作を示すフローチャートである。なお、図28のステップS10及びS11は、実施の形態1と同様である(図5参照)。
ステップS11に続いて、制御部41は、ステップS11において取得された各観察領域について、ループCの処理を実行する。
まず、ステップS31において、劣化関数取得部311は、観察領域が同一でスキャン方向が互いに異なる複数画像の関連情報を読み出し、スキャン方向、スキャン速度及びシステムパラメータに基づいて劣化関数を取得する。具体的には、図29に示すように、劣化関数取得部311は、各画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)のスキャン方向及びスキャン速度に応じて、基準となる劣化関数fdeg(X)、fdeg(Y)、fdeg(45)、fdeg(135)を取得する。また、劣化関数取得部311は、システムパラメータ記憶部241に記憶されているシステム固有のパラメータ(劣化関数fsys)を取得する。そして、基準の劣化関数に対してシステム固有のパラメータの畳み込み演算を行うことにより、システム固有の劣化情報を付与することにより、画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)の復元処理に用いる劣化関数fdeg(X)’、fdeg(Y)’、fdeg(45)’、fdeg(135)’を取得する。
続くステップS32において、画像復元処理部412は、ステップS31において取得された劣化関数を用いて、スキャンにより劣化した画像を復元する。図30は、劣化関数を用いた画像の復元処理を説明する図である。図30に示すように、例えば画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)に対して劣化関数fdeg(X)’、fdeg(Y)’、fdeg(45)’、fdeg(135)’を用いて復元することにより、復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’が得られる。なお、画像復元処理の手法については、実施の形態1で説明したとおりである(図5のステップS14参照)。
続くステップS33において、合成復元画像作成部413は、ステップS32により復元された復元画像を合成する。以下、復元画像の合成処理を、図23及び図24を参照しながら説明する。以下の説明において、図23及び図24に示す画像Mi(X)、Mi(Y)、Mi(45)、Mi(135)は復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’に読み替えられる。
合成復元画像作成部413は、まず、復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’の位置合わせを行う。位置合わせは、例えば位相限定相関法等の公知技術を用いて実行することができる。
続いて、合成復元画像作成部413は、復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’の共通の範囲Rtrmをトリミングし、画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’を合成する合成範囲を決定する。
続いて、方向判定処理部313aは、各復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’のスキャン方向に基づき、復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’内の部分的な領域又は画素の画像(領域画像)に対して画像選択評価値を算出する。なお、画像選択評価値の算出方法は、実施の形態2と同様である(図22のステップS203及び図24参照)。
続いて、画像選択処理部413bは、画像選択評価値に基づいて、画像合成に用いる最適な領域画像を、画像選択評価値に基づいて、復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’から選択する。なお、領域画像の選択方法は、実施の形態2と同様である(図22のステップS204及び図24参照)。
続いて、画像補完部413cは、画像選択処理部313bにより選択された領域画像を合成することにより、合成復元画像を作成する。なお、領域画像の合成方法は、実施の形態2と同様である(図22のステップS207参照)。
続くステップS34において、制御部41は、復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’の合成により取得した合成復元画像に観察領域Piの画像位置情報を関連付け、合成復元画像及び画像位置情報を、画像記憶部242及び画像位置情報記憶部243にそれぞれ記憶させる。
ステップS35において、貼り合わせ処理部235は、画像記憶部242に記憶された合成復元画像を読み出し、各合成復元画像と関連付けられた画像位置情報を参照して、互いに隣接する合成復元画像を貼り合わせる。なお、合成復元画像の貼り合わせ処理の詳細は、実施の形態1と同様である(図14、図19参照)。
さらに、ステップS36において、制御部41は、このようにして作成された標本画像(バーチャルスライド画像)を記憶部24に記憶させる。或いは、標本画像を表示装置27に表示させても良い。
以上説明したように、実施の形態3によれば、スキャン方向に応じた劣化関数を用いて画像を復元するので、その後の画像合成処理において、位置合わせを容易に行うことができる。また、復元された画像においては、スキャン方向に応じたエッジが強くなるので、画像選択評価値に基づく最適な領域画像の選択精度を向上させることができる。従って、各観察領域の復元画像を合成した合成復元画像を貼り合わせることにより、さらに高品質なバーチャルスライド画像を取得することが可能となる。
(変形例3−1)
上記実施の形態3においては、実施の形態2と同様の手法により、復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’の合成画像を作成したが、実施の形態1と同様に、復元画像Mi(X)’、Mi(Y)’、Mi(45)’、Mi(135)’間で対応する画素における画素値の加算平均値を用いて合成画像を作成しても良い。
以上説明した実施の形態1〜3及び変形例はそのままに限定されるものではなく、各実施の形態及び変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、実施の形態に示される全構成要素からいくつかの構成要素を除外して形成してもよい。あるいは、異なる実施の形態に示した構成要素を適宜組み合わせて形成してもよい。
1、2、3 顕微鏡システム
10 顕微鏡装置
10a アーム
11 落射照明ユニット
11a 落射照明用光源
11b 落射照明光学系
12 透過照明ユニット
12a 透過照明用光源
12b 透過照明光学系
13c 位置検出部
13 電動ステージユニット
13a 電動ステージ
13b 駆動部
14 対物レンズ
14a レボルバ
15 鏡筒
16 三眼鏡筒ユニット
17 接眼レンズユニット
20 撮像装置
21、30、40 画像取得部
22 撮像制御部
23、31、41 制御部
24 記憶部
25 入力部
26 出力部
27 表示装置
211 撮像部
211a 撮像素子
212 メモリ
213 スキャン判定処理部
231、311 劣化関数取得部
232、312、411 画像処理部
233 合成処理部
234、412 画像復元処理部
235 貼り合わせ処理部
241 システムパラメータ記憶部
242 画像記憶部
243 画像位置情報記憶部
244 プログラム記憶部
313、413 合成復元画像作成部
313a、413a 方向判定処理部
313b、413b 画像選択処理部
313c 画像復元処理部
313d、413c 画像補完部

Claims (9)

  1. 被写体を撮像して、該被写体の画像を取得する撮像部と、
    前記被写体に対する前記撮像部の観察領域を、互いに異なる少なくとも2つの方向に移動させながら前記撮像部に撮像を実行させる撮像制御部と、
    前記観察領域を移動させたことにより前記撮像部が取得した画像に生じた劣化を表す劣化情報を取得する劣化情報取得部と、
    前記撮像部により取得された、前記観察領域が同一で前記観察領域の移動方向が互いに異なる少なくとも2つの画像に対し、画像合成処理と、前記劣化情報に基づく画像復元処理とを施す画像処理部と、
    を備えることを特徴とする撮像装置。
  2. 前記画像処理部は、前記撮像部によって取得された前記少なくとも2つの画像を合成することにより合成画像を作成し、該合成画像に前記画像復元処理を施す、
    ことを特徴とする請求項1に記載の撮像装置。
  3. 前記画像処理部は、前記撮像部によって取得された前記少なくとも2つの画像に前記画像復元処理を施す、
    ことを特徴とする請求項1に記載の撮像装置。
  4. 前記画像処理部は、前記少なくとも2つの画像にそれぞれ含まれ、前記少なくとも2つの画像間で対応する領域の画像である少なくとも2つの領域画像のうち、選択された領域画像に対して前記画像復元処理を施す、
    ことを特徴とする請求項3に記載の撮像装置。
  5. 前記画像処理部は、前記画像復元処理を施す1つの領域画像を、所定の評価値を用いて選択し、該1つの領域画像に前記画像復元処理を施した画像を、当該領域の復元画像として用いる、
    ことを特徴とする請求項4に記載の撮像装置。
  6. 前記画像処理部は、
    前記画像復元処理を施す1つ以上の領域画像を、所定の評価値を用いて選択し、
    1つの領域画像を選択した場合に、該1つの領域画像に前記画像復元処理を施した画像を、当該領域の復元画像として用い、
    2つ以上の領域画像を選択した場合に、該2つ以上の領域画像の各々に前記画像復元処理を施した上で合成した画像を、当該領域の復元画像として用いる、
    ことを特徴とする請求項4に記載の撮像装置。
  7. 前記画像処理部は、前記少なくとも2つの画像の各々に前記画像復元処理を施すことにより少なくとも2つの復元画像を作成し、該2つの復元画像を合成する、
    ことを特徴とする請求項3に記載の撮像装置。
  8. 請求項1〜7のいずれか1項に記載の撮像装置と、
    前記被写体が載置されるステージと、
    前記被写体と前記撮像部とのいずれか一方を他方に対して移動させる移動手段と、
    を備えることを特徴とする顕微鏡システム。
  9. 被写体に対する観察領域を互いに異なる少なくとも2つの方向に移動させながら前記被写体を撮像して、該被写体の画像を取得する撮像ステップと、
    前記観察領域を移動させたことにより前記撮像ステップにおいて取得された画像に生じた劣化を表す劣化情報を取得する劣化情報取得ステップと、
    前記撮像ステップにおいて取得された、前記観察領域が同一で前記観察領域の移動方向が互いに異なる少なくとも2つの画像に対し、画像合成処理と、前記劣化情報に基づく画像復元処理とを施す画像処理ステップと、
    を含むことを特徴とする撮像方法。
JP2013100734A 2012-11-16 2013-05-10 撮像装置、顕微鏡システム及び撮像方法 Expired - Fee Related JP6099477B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013100734A JP6099477B2 (ja) 2012-11-16 2013-05-10 撮像装置、顕微鏡システム及び撮像方法
PCT/JP2013/069532 WO2014077001A1 (ja) 2012-11-16 2013-07-18 撮像装置、顕微鏡システム及び撮像方法
US14/712,016 US20150241686A1 (en) 2012-11-16 2015-05-14 Imaging device, microscope system, and imaging method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012252763 2012-11-16
JP2012252763 2012-11-16
JP2013100734A JP6099477B2 (ja) 2012-11-16 2013-05-10 撮像装置、顕微鏡システム及び撮像方法

Publications (2)

Publication Number Publication Date
JP2014115609A JP2014115609A (ja) 2014-06-26
JP6099477B2 true JP6099477B2 (ja) 2017-03-22

Family

ID=50730926

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013100734A Expired - Fee Related JP6099477B2 (ja) 2012-11-16 2013-05-10 撮像装置、顕微鏡システム及び撮像方法

Country Status (3)

Country Link
US (1) US20150241686A1 (ja)
JP (1) JP6099477B2 (ja)
WO (1) WO2014077001A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6455829B2 (ja) * 2013-04-01 2019-01-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP6494294B2 (ja) * 2014-05-15 2019-04-03 キヤノン株式会社 画像処理装置、及び撮像システム
JP6549061B2 (ja) * 2016-05-09 2019-07-24 富士フイルム株式会社 撮影装置および方法並びに撮影装置制御プログラム
US11416997B2 (en) * 2016-05-12 2022-08-16 Life Technologies Corporation Systems, methods, and apparatuses for image capture and display
JP6684646B2 (ja) 2016-05-13 2020-04-22 オリンパス株式会社 画像取得装置
JP6770828B2 (ja) 2016-05-19 2020-10-21 オリンパス株式会社 顕微鏡
JP6654980B2 (ja) * 2016-07-22 2020-02-26 株式会社キーエンス 拡大観察装置
JP2021083408A (ja) * 2019-11-29 2021-06-03 株式会社島津製作所 検査方法および検査装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004101871A (ja) * 2002-09-10 2004-04-02 Olympus Corp 顕微鏡画像撮影装置
JP2005164815A (ja) * 2003-12-01 2005-06-23 Olympus Corp 光学装置
US7141802B2 (en) * 2003-12-01 2006-11-28 Olympus Corporation Optical device and imaging method
JP5006062B2 (ja) * 2007-02-05 2012-08-22 オリンパス株式会社 バーチャルスライド作成装置、バーチャルスライド作成方法およびバーチャルスライド作成プログラム
US9389408B2 (en) * 2010-07-23 2016-07-12 Zeta Instruments, Inc. 3D microscope and methods of measuring patterned substrates

Also Published As

Publication number Publication date
JP2014115609A (ja) 2014-06-26
WO2014077001A1 (ja) 2014-05-22
US20150241686A1 (en) 2015-08-27

Similar Documents

Publication Publication Date Title
JP6099477B2 (ja) 撮像装置、顕微鏡システム及び撮像方法
JP5562808B2 (ja) 内視鏡装置及びプログラム
US8854448B2 (en) Image processing apparatus, image display system, and image processing method and program
US20070081231A1 (en) Microscope apparatus and microscope system
JP5911296B2 (ja) 画像処理装置、撮像装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
US7869706B2 (en) Shooting apparatus for a microscope
US10613313B2 (en) Microscopy system, microscopy method, and computer-readable recording medium
JP2016015252A (ja) 電子顕微鏡装置およびそれを用いた撮像方法
US10089768B2 (en) Image processing device, image processing method, image processing program, and imaging system
JP6270388B2 (ja) 撮像装置、顕微鏡システム、撮像方法及び撮像プログラム
JP2013228798A (ja) 画像処理装置、撮像装置、内視鏡、プログラム及び画像処理方法
US10721413B2 (en) Microscopy system, microscopy method, and computer readable recording medium
JP6742863B2 (ja) 顕微鏡画像処理装置、方法およびプログラム
US20170243386A1 (en) Image processing apparatus, imaging apparatus, microscope system, image processing method, and computer-readable recording medium
JP5996462B2 (ja) 画像処理装置、顕微鏡システム及び画像処理方法
WO2022145294A1 (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP6684646B2 (ja) 画像取得装置
US11256078B2 (en) Continuous scanning for localization microscopy
JP6436840B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2013092636A (ja) 画像処理装置、顕微鏡システム、画像処理方法、画像処理プログラム
JP2015076685A (ja) 画像処理装置、撮像装置、撮像システム、画像処理方法、画像処理プログラム、および、記憶媒体
JP2010021835A (ja) 撮像装置
JP2016201601A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2015222310A (ja) 顕微鏡システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170221

R151 Written notification of patent or utility model registration

Ref document number: 6099477

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees