JP6921973B2 - 試料の三次元画像を撮影および表示するための顕微鏡装置 - Google Patents

試料の三次元画像を撮影および表示するための顕微鏡装置 Download PDF

Info

Publication number
JP6921973B2
JP6921973B2 JP2019546808A JP2019546808A JP6921973B2 JP 6921973 B2 JP6921973 B2 JP 6921973B2 JP 2019546808 A JP2019546808 A JP 2019546808A JP 2019546808 A JP2019546808 A JP 2019546808A JP 6921973 B2 JP6921973 B2 JP 6921973B2
Authority
JP
Japan
Prior art keywords
image
dimensional
sample
unit
microscope device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019546808A
Other languages
English (en)
Other versions
JP2020508496A (ja
Inventor
カラニン、イリヤ
ガイドク、アレクサンダー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Carl Zeiss Microscopy GmbH
Original Assignee
Carl Zeiss Microscopy GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Carl Zeiss Microscopy GmbH filed Critical Carl Zeiss Microscopy GmbH
Publication of JP2020508496A publication Critical patent/JP2020508496A/ja
Application granted granted Critical
Publication of JP6921973B2 publication Critical patent/JP6921973B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B9/00Measuring instruments characterised by the use of optical techniques
    • G01B9/04Measuring microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/368Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements details of associated display arrangements, e.g. mounting of LCD monitor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/50Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images the image being built up from image elements distributed over a 3D volume, e.g. voxels
    • G02B30/56Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images the image being built up from image elements distributed over a 3D volume, e.g. voxels by projecting aerial or floating images

Description

本発明は、顕微鏡検査すべき試料を三次元撮影するため、および顕微鏡検査される試料の三次元画像を表示するための顕微鏡装置に関する。
顕微鏡検査される物体の三次元表示をリアルタイムで可能にする顕微鏡が所定の用途にとって必要である。代表的な使用分野は例えば手術顕微鏡、電子顕微鏡とレントゲン顕微鏡での用途、およびバイオ研究用とルーチン作業用の顕微鏡である。この用途の場合、三次元の印象を提供するために、現在は立体顕微鏡が使用される。この立体顕微鏡は人の視覚と相互作用して初めて仮性三次元表示を生成する。公知の立体顕微鏡は、得られた画像から立体画像を作成できる能力を使用者に要求する。しかしながら、三次元の印象は利用不可能である。
若干のデジタル顕微鏡は顕微鏡検査される物体の三次元表示を可能にする。そのために供される解決策はリアルタイム能力をもっていない。
特許文献1は、顕微鏡撮影および表示のための撮像システムを開示している。このシステムは深度情報を検出するための装置と、使用者の片方または両方の目の位置を能動的にリアルタイムで監視するための装置と、検出された目の位置に依存する二次元表示内容を形成するための手段を備えている。
特許文献2は試料を三次元測定するための方法を教示している。この方法は複数の使用者に同時に、試料を観察および検査することを可能にする。この解決策はレーザ走査顕微鏡(LSM)に基づいている。レーザ走査顕微鏡のリアルタイム能力は、ラスター走査に基づくデータ検出によって制限される。
市場で入手可能である、製造業者のSDオプティクス社(SD Optics Inc.)の製品「3D WiseScope microscope」は、拡張された被写界深度(EDoF)を有する巨視的および顕微鏡的画像を迅速に生成することを可能にする。焦点合わせは1〜10kHzおよびそれ以上の周波数で変更可能である。EDoF機能を実現するために、MALSモジュールと呼ばれるミラー−アレイ−レンズ系が使用される。MALSはミラーアレイレンズ系(Mirror Array Lens System)を表す。
立体顕微鏡は、しばしば、顕微鏡の周囲を三次元的にリアルタイムで検査するために利用される。そのために、3つのすべての次元でかつリアルタイムでナビゲーションが必要である。立体顕微鏡による空間的な感知は、人の視覚能力に基づいており、この視覚能力を適応させ、そして脳内で空間的な画像を再構成する。接眼レンズなしの検査およびナビゲーションは、人の視覚能力に基づいているが、立体画像を光学的な出力部に伝送するために、他の光学的な技術を用いている。それにもかかわらず、空間的な顕微鏡情報のデジタル文書化は問題があり、たいてい遅いので、リアルタイムで自然の視覚的な感知と比べることができない。これは一方では物理的な理由である。従って、すべての使用者が立体顕微鏡によって検出された画像を空間的に視覚化できるものではない。さらに、多くの使用者にとって、立体顕微鏡の接眼レンズまたは三次元ディスプレイによる作業は非常に手間がかかる。
特許文献3は立体顕微鏡観察のための装置を開示している。この装置の場合、立体顕微鏡画像が2つのビデオ画像から生成される。この解決策は2つのビデオ画像を投影するための2個のプロジェクタと、凹面鏡装置と、観察レンズを必要とする。投影されるべき2つの画像は、表示されるべき物体に関して場所および/またはその方向が異なっている。
特許文献4は、立体顕微鏡としても設計可能な手術顕微鏡を開示している。この手術顕微鏡は、カメラユニットの焦点位置を変更するための調整装置を備えている。複数の焦点値について発生させられる第1の画像データセットから、拡張された被写界深度を有する第2の画像データセットが求められる。第2の画像は少なくとも25Hzの周波数で発生および表示される。
特許文献5は、試料の顕微鏡走査の途中で、拡張された被写界深度範囲で画像を撮影するための方法を開示している。制御装置によって、光学ユニットのための可変の焦点調節範囲が設定される。焦点調節範囲のすべての焦点値のために、単一画像が撮影されるので、多数の単一画像が撮影される。この単一画像のそれぞれコントラストのあるセクションから、全体画像がリアルタイムで生成される。このプロセスは、全体画像をリアルタイムでディスプレイに再生すことができるように迅速に行われる。
特許文献6は顕微鏡システムを開示している。この顕微鏡システムの場合、影の情報が撮影された画像内で決定され、一方対物レンズの焦点距離が変更され、その都度の焦点位置が測定される。オールインフォーカス画像と、物体の高さマップが、それから三次元画像を求めるために決定される。オールインフォーカス画像の焦点合わせはリアルタイムで行うべきである。
特許文献7は、2つの異なる角度から物体を撮影するために少なくとも2つの撮像ユニットを備えたデジタル式立体手術顕微鏡を開示している。この立体手術顕微鏡は画像撮影ユニットによって撮影されたビームデータから地形データを生成するための地形ジェネレータを備えている。立体手術顕微鏡はさらに、立体図を生成するための表示ジェネレータと、複数の使用者に立体画像を提供するための少なくとも2つの画像表示ユニットを備えている。リアルタイムでの手術域の現実に忠実な表示は、地形ジェネレータと表示ジェネレータが50ms以下で1つの立体顕微鏡図を表示するのに適していることによって達成される。
特許文献8から、内部組織を超音波診断するための方法が知られている。この方法の場合、三次元表示は例えばペッパーズゴースト(Pepper’s Ghost)原理を利用して行われる。
特許文献9は、レンズセットの焦点距離を連続的に振動させるための手段を備えた顕微鏡用レンズセットを開示している。制限されない被写界深度を得るためには、鮮明な画像を迅速かつ逐次に提供すべきである。顕微鏡は例えば両眼用顕微鏡として形成することができる。
特許文献10は、被写界深度を変更するための装置を備えた立体顕微鏡を開示している。この装置は例えば、周期的に周波数で制御されるマイクロミラーアレイによって形成されている。この周波数はフリッカー融合周波数以上である。
特許文献11から、顕微鏡の開口絞りを制御するための方法が知られている。この方法によって特に、立体顕微鏡において被写界深度が最適化される。開口絞りは制御可能な透過ディスプレイによって形成されている。この透過ディスプレイはフリッカー融合周波数の近くの周波数で運転される。
欧州特許第2671114号明細書 米国特許出願公開第2015/0032414号明細書 国際公開第2016/078923A1号 独国特許出願公開第102015118154号明細書 独国特許出願公開第102005032354号明細書 米国特許出願公開第2004/0264765号明細書 独国特許出願公開第102016108664号明細書 米国特許出願公開第2015/0173715号明細書 独国特許発明第69800802号明細書 独国特許出願公開第102006025149号明細書 独国特許出願公開第102008037074号明細書
本発明の課題は、技術水準から出発して、顕微鏡検査される試料の現実に忠実な三次元再生を可能にする顕微鏡装置を提供することにある。
この課題を解決するために、請求項1に記載した顕微鏡装置が提供される。
本発明に係る顕微鏡装置の有利な実施の形態を概略的に示す。 本発明に係る顕微鏡装置の有利な実施の形態の表示ユニットを示す。 本発明に係る顕微鏡装置の制御ユニットによって有利に実施される方法のフローチャートを示す。
本発明に係る顕微鏡装置は、顕微鏡検査すべき試料を三次元撮影するためおよび顕微鏡検査される試料の三次元画像を表示する役割を有する。顕微鏡装置は、先ず最初に、試料の画像を得るための撮像ユニットを備えている。試料の画像は、少なくともその総和内にX方向とY方向とZ方向の情報を含んでいる。Z方向の情報は、好ましくは二次元の画像、特に異なる焦点合わせの二次元の画像から得られる。しかし、異なるZ成分を有する少なくとも2つの二次元の画像でも有利である。代替的に、三次元データセットを補充した二次元画像でも有利である。代替的に、完全な三次元画像でも有利である。撮像ユニットによって得られる画像の場合、異なる焦点合わせを有し、それによっていわゆる焦点積み重ねまたはzスタックを形成する二次元画像がきわめて有利である。撮像ユニットは、好ましくは少なくとも1つの対物レンズと少なくとも1つの画像センサを備えている。対物レンズは試料を光学的に結像させる役割を有する。画像センサは結像された画像を電気的な信号に変換する。撮像ユニットは、好ましくは、三次元画像を生成するために適した二次元画像、すなわち試料の画像を撮影するように設計されている。取り込まれた二次元画像から、深度情報を得ることができる。そのために試料は例えば異なる試料側の視野で撮影される。さらに、異なる焦点位置でまたは異なる照明方向で、または異なる照明方向、照明条件および異なる焦点位置で試料の画像を取り込むことができる。撮像ユニットは、好ましくは拡張された被写界深度を有する画像を取り込むように形成されている。そのために、撮像ユニットは好ましくは機械的に移動可能なマイクロミラー(MALS)を有するマイクロシステムを備えている。
顕微鏡装置は、さらに、撮像ユニットの画像から試料の三次元画像を生成するための画像処理ユニットを備えている。三次元画像は、3つのすべての次元での再生によって観察者に三次元表示の錯覚を引き起す表示であり、かつ/またはすべての側から観察することができる三次元表示である。従って、この画像は3つのすべての次元で再生することができないため、単なる立体画像または両眼画像ではない。その理由は、画像が、この前提のもとでのみ、二次元画像として再生可能である、2つの異なる位置から見た2つの二次元ビューであるからである。三次元画像は、それぞれ複数の位置からおよび/または複数の側から観察することができる三次元表示であるときわめて有利である。三次元画像はさらに、それぞれすべての位置からおよび/または観察可能なまたは撮影されるすべての側から観察することができる三次元表示であると有利である。画像処理ユニットによって生成可能な三次元画像はそれぞれ、三つの次元に分配された多数のボクセルを備えていると特に有利である。三次元画像はそれぞれ、デカルト座標で離散した形で存在する空間的なデータセットである。この場合、ボクセルはそれぞれデータセットのXYZ座標の離散した値を示す。データセットの各XYZ座標に値を割り当てる必要はない。それによって、若干のボクセルが定められない。表面、特に試料の表面を表すボクセルのみが定められると有利である。これによって、三次元画像を低コストで生成および表示することができる。
三次元画像が、撮影された二次元画像から生成されると有利である。ボクセルを含む三次元画像は、好ましくはそれぞれ、異なる焦点合わせの二次元画像から生成される。そのために、異なる焦点合わせの二次元画像から、先ず最初に深度情報が求められる。
画像処理ユニットは、好ましくは、1秒あたり少なくとも1つの試料三次元画像を生成することができるように構成されている。画像処理ユニットは、1秒あたり1つの試料三次元画像よりも多い試料三次元画像、好ましくは1秒あたり10〜50個の試料三次元画像を、さらに好ましくは1秒あたり300個までの試料三次元画像を生成するように設計される。そのためには勿論、撮像ユニットは然るべき能力を有していなければならず、それによって三次元画像を生成するために例えば必要な試料の二次元画像の数が提供される。例えば、試料の各々の生成された三次元画像のために、少なくとも2つの異なる試料画像を提供しなければならない。上述の「3D WiseScope microscope」は、例えばこのような能力を有する。画像処理ユニットによって生成された試料の三次元画像は、好ましくはそれぞれ少なくとも1mm、さらに好ましくは少なくとも10mmの辺の長さを有する立方体を表す。しかし、上記の採寸は、例にすぎない。他の適切な採寸を有する三次元画像でもよい。物体平面内で、回折限界までの光学的な解像が達成可能である。
顕微鏡装置の他の構成部分は、少なくとも1つの三次元表示ユニットを形成している。この表示ユニットは、画像処理ユニットによって生成された試料の三次元画像を三次元表示する役割を有する。そのためには、画像処理ユニットが三次元画像データを、三次元表示ユニットで表示するのに適したデータフォーマットで提供しなければならない。顕微鏡装置は、三次元表示ユニットのほかに、好ましくは補足して、二次元表示ユニットを備えている。2つの表示ユニットは、好ましくは、試料の画像を一緒に表示するように構成されている。代替的に、二次元表示ユニットが、断面画像または試料の寸法を測るための機能要素または顕微鏡装置を操作するための機能要素を表示するように構成されていると有利である。個々の表示ユニットの画像繰り返し周波数は、表示すべき内容の目的および所与の要求に依存して異なってもよい。
顕微鏡装置は、本発明に従い、静的な三次元画像のみならず、可動の三次元画像も生成および表示するように形成されている。人の視覚は、表示した三次元画像を時間的に変わらないものとしてではなく、時間に依存するものとして解するので、試料の変化は、人の知覚にとって無視できる遅延で同期再生される。従って、顕微鏡装置は、1秒あたり少なくとも1つの三次元画像の画像繰り返し周波数で、試料の三次元画像を生成および表示するように構成されている。同様に、画像処理ユニットは、1秒あたり少なくとも1つの画像の画像繰り返し周波数で、試料の三次元画像を生成するように構成されている。同様に、表示ユニットは、1秒あたり少なくとも1つの画像の画像繰り返し周波数で、生成された試料の三次元画像を三次元表示するように構成されている。1秒あたり少なくとも1つの画像の画像繰り返し周波数は、顕微鏡装置にリアルタイム能力をもたらす。これらは、それぞれボリュームと呼ぶこともできる試料の三次元範囲の三次元画像であるので、画像繰り返し周波数は、ボリューム繰り返し周波数として説明することができる。このボリューム繰り返し周波数は本発明では、1秒あたり少なくとも1つのボリュームである。
画像繰り返し周波数またはボリューム繰り返し周波数は、好ましくは1秒あたり少なくとも10個、さらに好ましくは少なくとも25個の画像またはボリュームである。
本発明に係る顕微鏡装置の重要な利点は、この顕微鏡装置が今まで知られていた解決策と比べて、顕微鏡検査される試料の被写界深度を拡張した、三次元移動深度縮小再生/リアルタイム再生を可能にすることにある。そのために、顕微鏡検査される試料の三次元像が迅速に生成および表示される。それによって、試料の現在の三次元画像が試料の三次元的な錯覚のために使用者に供される。使用者は使用される三次元表示ユニットによって錯覚を快適に観察することができる。本発明に係る顕微鏡装置の速度は、技術水準と比べて、例えばラスタースキャンに基づくデータ検出によって、静的な三次元再生に限定されない。
顕微鏡装置は、有利な実施形態では、撮像処理ユニットによって検出されたデータおよび/または画像処理ユニットによって処理されたデータを伝送するためのデータインターフェースを備えている。得られたデータを例えば他の処理部に供給するため、空間的に離れた表示ユニットでの表示を可能にするため、あるいは場合によっては例えば保管所に納める目的でデータを記憶するために、データインターフェースに外部機器を接続することができる。
顕微鏡装置が電子制御ユニットを備えていると有利であることが証明されている。制御ユニットによって、撮像ユニットおよび/または画像処理ユニットおよび/または表示ユニットを制御することができる。制御ユニットは、好ましくは画像処理ユニットに統合され、この画像処理ユニットと共に1つの構造ユニットを形成している。制御ユニットは、顕微鏡装置の運転時に効率的な作業の流れを可能にする。使用者は好ましくは若干の介入しか必要としない。この介入は、顕微鏡装置のユニットのオンオフ、画像撮影の開始および生成されたデータの記憶の開始に減らすことができるので有利である。有利な実施形態は、使用者によって操作可能な操作ユニットを備えた制御ユニットを使用する。操作ユニットは好ましくは電子的なモバイル機器として、有利には自由にプログラミング可能な移動電話(スマートホン)、タブレットコンピュータまたは類似の機器として形成されている。操作ユニットはさらに、例えばコンピュータマウス、タッチパッド、キーボード、意思表示用センサ、ジョイスティックのように、制御命令を入力するために使用可能である。
少なくとも1つの三次元表示ユニットは、好ましくは、ホログラフィック表示ユニットとして、三次元動画再生を行うための装置として、あるいは使用者の頭部に装着可能な三次元表示ユニット(頭部取付けディスプレイ)として形成されている。上記の三次元表示ユニット、特に使用者の頭部に装着可能な三次元表示ユニット(頭部取付けディスプレイ)は本発明に従って特に、使用者がその視線の位置および方向を選択できるようにすることによって、三次元表示を可能にする。これは技術水準で知られている立体顕微鏡再生の場合には単独では不可能である。
有利な他の実施形態では、表示ユニットがペッパーズゴースト原理に基づいている。そのために、表示ユニットは周囲に配置された複数の部分透明ミラーと、部分透明ミラーの方に向けられた投影ユニットを備えている。部分透明ミラーが半透明ミラーによって形成されると有利である。部分透明ミラーは部分反射するかまたは半分反射する。部分透明ミラーまたは部分反射ミラーの反射率または部分透明性が好ましくは制御可能であるので、部分透明ミラーは、制御可能な部分反射ミラーである。投影ユニットは、その都度表示すべき三次元画像の、視点(Perspektive)に割り当てられた部分画像を、個々の部分透明ミラーに投影するように形成されている。部分透明ミラーの間の中間室内には、その都度表示すべき三次元画像を再生する三次元ビジョンが発生する。投影ユニットは、好ましくは光によって二次元画像を表示するように設計されている。投影ユニットは、好ましくはディスプレイによって形成されている。
部分透明ミラーは、好ましくはピラミッドの側面のように配置されている。ピラミッドは好ましくは4つの側面を有するので、部分透明ミラーの数は4つである。ピラミッドの底面は、好ましくは長方形である。投影ユニットは好ましくは上側からピラミッドの方に向いている。好ましくはディスプレイの形をした投影ユニットは、好ましくはピラミッドの底面に対して平行に配置されている。
代替的に、部分透明ミラーがスフェロイド、球、または楕円体の形に配置されていると有利である。この場合、スフェロイド、球、または楕円体は完全に再現されなくてもよい。投影ユニットは、好ましくは上側からスフェロイド、球または楕円体の方に向けられている。
撮像ユニットは、好ましくは異なる視点から拡張した被写界深度を有する画像を撮影するように設計されている。画像処理ユニットは、三次元画像の二次元画像(各々が1つの視点に関連付けられた三次元画像の単一画像)を演算するように形成されている。この場合、二次元単一画像は表示ユニットの投影ユニットによってそれぞれ部分透明ミラーに投影される。そのために、画像処理ユニットは、好ましくは、拡張された被写界深度を有する撮影された画像の視点を、表示ユニットで表示すべきである、拡張された被写界深度を有する単一画像の視点に変換するように設計されている。表示ユニットは、好ましくは、異なる視点に関する単一画像が提供されないかぎり、同じ単一画像を部分透明ミラーに投影するように形成されている。異なる視点からの単一画像の決定のために、画像処理ユニットは、好ましくは、撮影された画像から三次元モデルを決定するように設計されている。
顕微鏡装置は、有利な実施形態では、複数の使用者が生成された三次元画像データを同時に観察することができるように構成されている。この場合、使用者は空間内の異なる位置にいて、移動可能である。好ましくはさらに、三次元画像データのコントロール、すなわち三次元画像データによるナビゲーションおよび/または相互作用が、複数の使用者の各々にとって個別的に可能になる。個々の使用者は再生された試料についてのビューを個別的に選択することができる。そのために特に、制御ユニットと場合によっては表示ユニットが、複数の使用者によって同時に操作されるように構成されている。一方では、三次元表示ユニットを、撮像ユニットと相対的な空間内の所定の個所に位置決めすることができる。代替的に、個々に装着可能な三次元表示ユニットを装備した複数の使用者によって、同じ場面を同時に観察することができる。
顕微鏡装置は、有利な実施形態では、顕微鏡検査される試料の三次元モデルを出力するための三次元プリンタを備えている。三次元モデルは三次元プリンタによって望み通りに拡大して出力することができる。続いて、他の検査のために供することができるか、または三次元表示ユニットに表示された三次元モデルとの比較のために使用することができる。そのために、印刷された三次元モデルは三次元表示装置の表示域内に配置される。表示された三次元モデルと印刷された三次元モデルの比較は、付加的な顕微鏡デジタル化手段を使用して自動で、半自動で、または手動で行うことができる。付加的な顕微鏡デジタル化手段はさらに、試料または試料の拡大されたコピーの効率的なナビゲーションのために、三次元の外観的表示を可能にする。
顕微鏡装置は、好ましくは試料を収容するための試料テーブルを備えている。この試料テーブルはX方向および/またはY方向に移動可能であり、および/または回転可能または傾斜可能である。これにより、試料は高い精度で位置決め可能である。試料テーブルのこの機能は、異なる試料側の視野での試料の記録のために利用される。
本発明に係る顕微鏡装置の電子制御ユニットは、好ましくは、低コストの被写界深度拡張を提供する方法を実施するように構成されている。この方法により、試料は拡張された被写界深度で低コストで画像形成可能である。この方法のステップでは、撮像ユニットによって、試料の複数の画像、すなわち複数の二次元画像が撮影される。この場合、画像は異なる焦点合わせで撮影される。それによって、撮影された画像、すなわち二次元画像は焦点積み重ねを形成する。画像、すなわち二次元画像は好ましくは、多数の異なる焦点合わせで撮影される。この焦点合わせは、焦点合わせインターバルの最小の焦点合わせから焦点合わせインターバルの最大の焦点合わせの範囲である。好ましくは少なくとも4個の画像が異なる焦点合わせで撮影され、特に好ましくは、少なくとも10個の画像が異なる焦点合わせで撮影される。
有利に実施される他のステップでは、個々の画像内の不鮮明な画像部分を除去することによって、画像の処理、すなわち二次元画像の処理が行われる。不鮮明な画像部分は好ましくは空間周波数分析によって検出される。不鮮明な画像部分は好ましくは、この画像部分内のピクセルを透明なものとして定めることによって除去される。
他のステップでは、表示ユニットによって、画像の表示、すなわち二次元画像の表示が時間的な順序で行われる。それによって、試料の被写界深度を拡張した画像が生成される。迅速な時間的順序で個々の画像を表示することにより、観察者は試料の単一の画像の印象を持ち、この場合、画像は各画像領域に関する鮮明な画像部分を含んでいるので、被写界深度が拡張される。好ましくは、処理された画像の表示が時間的な順序で行われる。不鮮明な画像部分が処理された画像では除去されているので、鮮明な画像部分のみが表示される。処理された個々の画像を迅速な時間的順序で表示することにより、試料の単一の画像の印象が観察者に生じる。この場合、画像が不鮮明な画像部分を含んでいないので、被写界深度が拡張される。有利に処理された画像は、フレームレートで表示される。このフレームレートは好ましくは少なくともフリッカー融合周波数ほど大きい。二次元画像の表示は好ましくは、周囲に配置された部分透明ミラーの1つで行われる。それによって、試料の被写界深度が拡張された画像はそれぞれ部分透明ミラーで生成される。表示ユニットのこの実施形態が周囲に配置された部分透明ミラーの複数個を備えているので、1つの視点からの被写界深度が拡張された画像の一つが、各部分透明ミラーに生成される。それによって、部分透明ミラーの間に、三次元画像が三次元表示される。
この実施形態の特別な利点は、拡張した被写界深度を有する全体画像または合成画像のコストのかかる演算を省略することができ、それによって三次元画像の生成および表示が迅速に達成可能であることにある。
撮像ユニット、画像処理ユニットおよび/または表示ユニットが上記の方法を実施できるように形成されていると有利である。
本発明の他の特徴と発展形態は、図を参照した、有利な実施の形態の次の説明から明らかになる。
図1は本発明に係る顕微鏡装置01の有利な実施の形態を概略的に示す。
本発明に係る顕微鏡装置01の図示した実施の形態は、先ず最初に、撮像ユニット02を備えている。この撮像ユニット02によって、試料(図示せず)を撮影することができる。撮像ユニット02は例えば、三次元画像を生成するのに適した画像を提供するように構成されている。撮像ユニット02は少なくとも1つの照明モジュール(図示せず)と、試料の画像を光学的に結像するためのレンズ(図示せず)と、結像された画像を電気的な信号に変換するための画像センサ(図示せず)を含んでいる。図示していない有利な他の実施の形態は、異なる視点からの撮影、すなわちいろいろな撮影視角での撮影を可能にする。そのために、撮像ユニット02は例えば、空間的に分配された複数の撮像装置を備えている。
画像処理兼制御ユニット03は、顕微鏡装置01の他の構成部材を形成している。画像処理のために使用される画像処理兼制御ユニット03の構成要素は、撮像ユニット02によって撮影された画像から、試料の三次元画像を生成する。本発明では、1秒あたり少なくとも1つの試料三次元画像を生成することができる。1秒あたり1つの試料三次元画像よりも多くの三次元画像を生成することが望まれる。好ましくは1秒あたり10〜60個の試料画像、さらに好ましくは1秒あたり300個までの試料画像が生成されるべきである。制御の役割を有する画像処理兼制御ユニット03の構成要素は、撮像ユニット02を制御し、そして好ましくは顕微鏡装置01の以下に説明する構成部材の少なくとも若干と相互作用する。代替的な実施の形態の場合、画像処理兼制御ユニット03は分離された構成要素によって形成することができる。
顕微鏡装置01はさらに、試料の三次元画像を表示するための三次元表示ユニット04を備えている。三次元表示ユニット04は例えばホログラフィック表示ユニットとして、あるいは例えば3D眼鏡またはヘッドマウンテッドディスプレイのような使用者の頭部に装着可能な三次元表示ユニットとして形成可能である。二次元表示ユニット05は、試料の二次元画像を表示する役割を有する。さらに、三次元画像と二次元画像を同時にまたは別々に、三次元表示ユニット04によって表示することができる。
試料の三次元モデルは三次元プリンタ07を介して印刷可能である。印刷された試料の三次元モデルは、三次元表示ユニット04に表示された試料の三次元モデルと比較することができる。そのために、顕微鏡装置01は比較ユニット08を備えている。比較ユニット08は、試料の印刷された三次元モデルをデジタル化するための要素を備えている。
顕微鏡装置01はさらに、操作ユニット09を備えている。この操作ユニットによって、顕微鏡装置01の個々のユニットを制御するための使用者の制御命令を入力することができる。操作ユニット09は、好ましくは電子モバイル機器として形成され、特に自由にプログラミング可能なモバイル電話またはタブレットコンピュータとして形成されていると有利である。代替的に、操作ユニット09は、コンピュータマウス、タッチパッド、キーボード、またはジョイスティックとして設計することもできる。さらに、操作ユニット09の機能要素を試料の画像と同時に、三次元表示ユニット04または二次元表示ユニット05によって表示することができる。
顕微鏡装置01はさらに、データインターフェース10を備えている。このデータインターフェース10を経て、撮像ユニット02によって検出されたデータおよび/または制御兼画像処理ユニット03によって処理されたデータが、外部機器12に伝送可能である。外部機器12は、例えば離れた場所にいる使用者のためにデータの可視化を可能にする。データはさらに処理、評価可能であるか、または外部の記憶媒体に供給可能である。
図2は、本発明に係る顕微鏡装置の有利な実施の形態の表示ユニット04を示している。この実施の形態の場合、表示ユニット04はペッパーズゴースト原理に基づいている。表示ユニット04はフレーム14を備えている。このフレームに、部分透明で部分反射する3個または4個の周囲に配置されたミラー15が固定されている。表示ユニット04はさらに、投影ユニット16を備えている。この投影ユニットは、偏平ディスプレイによって形成され、上側から部分透明なミラー15の方に向けられている。部分透明なミラー15は、ピラミッドの側面のように配置されている。投影ユニット16は、その都度表示すべき三次元画像17の、視点に割り当てられたそれぞれ1つの部分画像を、部分透明な個々のミラー15に投影するように形成されている。部分透明なミラー15の間の空間内には、いくつかの視点18から観察することができる三次元ビジョンの形をした三次元画像17が生じる。
図3は、低コストの被写界体深度拡張を提供する方法の有利な実施の形態のフローチャートを示す。この方法は電子式画像処理兼制御ユニット03(図1に図示)によって実現される。この方法によって、試料は、拡張された被写界深度でかつ低コストで結像可能である。この方法のステップでは、試料の多数の二次元画像または画像が撮影される。この場合、二次元画像はいろいろな焦点合わせで撮影される。それによって、撮影された二次元画像または画像は、焦点積み重ねと、三次元画像の基礎を形成する。他のステップにおいて、個々の二次元画像内の不鮮明な構成部分が除去されるかまたはマスクされるので、二次元画像は実質的に鮮明な部分のみを有する。他のステップにおいて、表示ユニット04(図1に図示)を用いて、鮮明な部分のみを含む画像が速い時間的順序で表示される。それによって、被写界深度を拡張した試料の画像が形成される。表示ユニット04(図1に図示)を用いて異なる視点から被写界深度を拡張した画像を表示することにより、二次元画像から求められた三次元画像の三次元表示が達成される。
01…顕微鏡装置
02…撮像ユニット
03…画像処理兼制御ユニット
04…三次元表示ユニット
05…二次元表示ユニット
07…三次元プリンタ
08…比較ユニット
09…操作ユニット
10…データインターフェース
12…外部機器
14…フレーム
15…部分透明ミラー
16…投影ユニット
17…三次元画像
18…視点

Claims (13)

  1. 試料を三次元撮影するため、および試料の三次元画像を表示するための顕微鏡装置(01)であって、
    試料の画像を得るための撮像ユニット(02)と、
    前記撮像ユニット(02)の画像から試料の三次元画像を生成するための画像処理ユニット(03)と、
    試料の生成された三次元画像(17)を三次元表示するための少なくとも1つの表示ユニット(04)と
    前記撮像ユニット(02)および/または前記画像処理ユニット(03)および/または前記表示ユニット(04)を制御するための電子的な制御ユニット(03)とを備え、
    前記顕微鏡装置が、1秒あたり少なくとも1つの画像の画像繰り返し周波数で、試料の三次元画像(17)を生成および表示するように構成されており、前記三次元画像(17)は、すべての側から観察することができ、前記電子的な制御ユニット(03)が、被写界体深度拡張のための方法を実施するように構成され、この方法が、
    試料の二次元画像を撮影するステップと、ここで、画像が焦点積み重ねを形成するように、画像が異なる焦点合わせで撮影され、
    時間的に連続して個々の画像を表示するステップとを含み、それによって被写界体深度が拡張された試料の画像が生成されることを特徴とする顕微鏡装置(01)。
  2. 前記撮像ユニット(02)が試料の二次元画像を得るように形成され、二次元画像が異なる焦点合わせを有することを特徴とする請求項1に記載の顕微鏡装置(01)。
  3. 前記画像処理ユニット(03)によって生成可能な三次元画像が、それぞれ複数の位置および/または複数の側から観察可能であることを特徴とする請求項1または2に記載の顕微鏡装置(01)。
  4. 前記画像処理ユニット(03)によって生成可能な三次元画像が、それぞれ、三次元内に分配された多数のボクセルを有することを特徴とする請求項1〜3のいずれか一項に記載の顕微鏡装置(01)。
  5. 前記画像処理ユニット(03)によって生成可能な三次元画像内に、試料の表面を示すボクセルのみが表されていることを特徴とする請求項4に記載の顕微鏡装置(01)。
  6. 前記画像処理ユニット(03)によって生成可能な三次元画像が、それぞれ、異なる焦点合わせの少なくとも2つの二次元画像によって形成されていることを特徴とする請求項1〜5のいずれか一項に記載の顕微鏡装置(01)。
  7. 前記少なくとも1つの表示ユニット(04)がホログラフィック表示ユニットまたは使用者の頭部に装着可能な三次元表示ユニットとして形成されていることを特徴とする請求項1〜のいずれか一項に記載の顕微鏡装置(01)。
  8. 前記表示ユニットが周囲に配置された複数の部分透明ミラー(15)と、投影ユニット(16)とを備え、前記投影ユニットが前記部分透明ミラー(15)の方に向けられ、かつ各視点に割り当てられた三次元画像(17)の部分画像を個々の前記部分透明ミラー(15)に投影するように形成されていることを特徴とする請求項1〜のいずれか一項に記載の顕微鏡装置(01)。
  9. 前記部分透明ミラー(15)がピラミッドの側面のようにまたはスフェロイドの形に配置され、前記投影ユニット(16)が上側からピラミッドまたはスフェロイドの方に向けられていることを特徴とする請求項に記載の顕微鏡装置(01)。
  10. 前記顕微鏡装置が、顕微鏡で検査される試料の三次元モデルを出力するための三次元プリンタ(07)を備えていることを特徴とする請求項1〜のいずれか一項に記載の顕微鏡装置(01)。
  11. 前記撮像ユニット(02)が、拡張された被写界体深度で画像を撮影するように形成され、そのために前記撮像ユニット(02)が機械的に移動可能なマイクロミラーを有するマイクロシステムを備えていることを特徴とする請求項1〜10のいずれか一項に記載の顕微鏡装置(01)。
  12. 前記電子的な制御ユニット(03)が、複数の使用者によって同時操作可能に構成されていることを特徴とする請求項11のいずれか一項に記載の顕微鏡装置(01)。
  13. 前記電子的な制御ユニット(03)がさらに、画像の撮影後に行われる被写界体深度拡張のための方法の更なるステップを実施するように構成され、画像の処理が個々の画像内の不鮮明な画像部分の除去によって行われ、処理された個々の画像の表示が時間的に連続して行われ、それによって試料の被写界体深度が拡張された画像が生成されることを特徴とする請求項に記載の顕微鏡装置(01)。
JP2019546808A 2017-04-07 2018-04-05 試料の三次元画像を撮影および表示するための顕微鏡装置 Active JP6921973B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102017107489.9A DE102017107489B3 (de) 2017-04-07 2017-04-07 Mikroskopanordnung zur Aufnahme und Darstellung dreidimensionaler Bilder einer Probe
DE102017107489.9 2017-04-07
PCT/EP2018/058678 WO2018185201A2 (de) 2017-04-07 2018-04-05 Mikroskopanordnung zur aufnahme und darstellung dreidimensionaler bilder einer probe

Publications (2)

Publication Number Publication Date
JP2020508496A JP2020508496A (ja) 2020-03-19
JP6921973B2 true JP6921973B2 (ja) 2021-08-18

Family

ID=62027942

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019546808A Active JP6921973B2 (ja) 2017-04-07 2018-04-05 試料の三次元画像を撮影および表示するための顕微鏡装置

Country Status (5)

Country Link
US (1) US20200371338A1 (ja)
JP (1) JP6921973B2 (ja)
CN (1) CN110431465B (ja)
DE (1) DE102017107489B3 (ja)
WO (1) WO2018185201A2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019119310A1 (de) * 2019-07-17 2021-01-21 Carl Zeiss Microscopy Gmbh Mikroskop und Verfahren zum Erzeugen eines mikroskopischen Bildes mit einer erweiterten Schärfentiefe
JP2021085757A (ja) * 2019-11-27 2021-06-03 国立大学法人神戸大学 顕微鏡による焦点画像群を用いた形状計測方法及び装置
CN113395509B (zh) * 2020-03-12 2023-08-25 平湖莱顿光学仪器制造有限公司 提供及呈现目标对象的三维显微视频信息的方法与设备
CN113392267B (zh) * 2020-03-12 2024-01-16 平湖莱顿光学仪器制造有限公司 一种用于生成目标对象的二维显微视频信息的方法与设备
EP3926385B1 (en) 2020-06-16 2024-05-15 Carl Zeiss Microscopy GmbH Digital microscope and microscopic set
WO2022097104A1 (en) * 2020-11-07 2022-05-12 Singh Samrat Digitization module for microscopes to enable sample viewing on a smart device
EP4137866A1 (en) 2021-08-18 2023-02-22 Carl Zeiss Microscopy GmbH Digital microscope and method for capturing and displaying microscopic images

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5896223A (en) 1997-06-13 1999-04-20 Tigliev; George S. Optical system having an unlimited depth of focus
WO2002100284A1 (en) * 2001-06-13 2002-12-19 Volume Interactions Pte Ltd A guide system
JP2003057169A (ja) * 2001-08-13 2003-02-26 Shiseido Co Ltd 皮膚の三次元画像生成装置
JP2005521123A (ja) * 2001-10-22 2005-07-14 ライカ ミクロジュステムス ヴェツラー ゲーエムベーハー 光学顕微鏡検出3次元画像の生成方法及び生成装置
JP3867143B2 (ja) 2003-06-25 2007-01-10 独立行政法人産業技術総合研究所 三次元顕微鏡システムおよび画像表示方法
US6934072B1 (en) * 2004-05-27 2005-08-23 Angstrom Inc. Variable focal length lens comprising micromirrors with two degrees of freedom rotation and one degree of freedom translation
US20080144175A1 (en) * 2005-01-26 2008-06-19 Vizoo Invest Aps Display Device For Producing Quasi-Three-Dimensional Images
DE102005032354B4 (de) 2005-07-08 2008-04-10 Olympus Soft Imaging Solutions Gmbh Verfahren und Vorrichtung zur Bildaufnahme mit erweitertem Tiefenschärfebereich
DE102006025149A1 (de) 2006-05-30 2007-12-06 Leica Microsystems (Schweiz) Ag Optisches Gerät mit erhöhter Tiefenschärfe
DE102007021981B4 (de) * 2007-05-10 2009-10-08 Leica Microsystems (Schweiz) Ag Optisches Gerät mit Vibrationskompensation
WO2009091366A1 (en) * 2008-01-17 2009-07-23 Thomson Licensing Display system
DE102008037074A1 (de) 2008-08-08 2010-02-11 Carl Zeiss Microimaging Gmbh Verfahren und Einrichtung zur Steuerung von Aperturblenden
WO2012062681A1 (de) * 2010-11-08 2012-05-18 Seereal Technologies S.A. Anzeigegerät, insbesondere ein head-mounted display, basierend auf zeitlichen und räumlichen multiplexing von hologrammkacheln
SG182880A1 (en) 2011-02-01 2012-08-30 Univ Singapore A method and system for interaction with micro-objects
US9874437B2 (en) 2011-12-28 2018-01-23 Femtonics Kft. Method for the 3-dimensional measurement of a sample with a measuring system comprising a laser scanning microscope and such measuring system
US10231704B2 (en) 2013-12-20 2019-03-19 Raghu Raghavan Method for acquiring ultrasonic data
GB201420352D0 (en) 2014-11-17 2014-12-31 Vision Eng Stereoscopic viewing apparatus
FR3034858B1 (fr) * 2015-04-10 2017-05-26 Lltech Man Procede et systeme d'imagerie par microscopie interferentielle plein champ
WO2017004555A1 (en) * 2015-07-01 2017-01-05 The Trustees Of Columbia University In The City Of New York System, method and computer-accessbile medium for multi-plane imaging of neural circuits
DE102015118154A1 (de) 2015-10-23 2017-04-27 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Elektronisches Mikroskop, insbesondere Operationsmikroskop
DE102016108664A1 (de) 2016-05-11 2017-07-06 Carl Zeiss Meditec Ag Digitales Stereo-Operationsmikroskop für mehrere Benutzer und Verfahren zur Darstellung mindestens zweier Ansichten eines Objektes

Also Published As

Publication number Publication date
WO2018185201A3 (de) 2018-12-27
CN110431465A (zh) 2019-11-08
US20200371338A1 (en) 2020-11-26
DE102017107489B3 (de) 2018-07-05
CN110431465B (zh) 2021-12-21
JP2020508496A (ja) 2020-03-19
WO2018185201A2 (de) 2018-10-11

Similar Documents

Publication Publication Date Title
JP6921973B2 (ja) 試料の三次元画像を撮影および表示するための顕微鏡装置
JP3867143B2 (ja) 三次元顕微鏡システムおよび画像表示方法
US7193773B2 (en) Stereomicroscopy method and stereomicroscopy system
FI113987B (fi) Näyttöjärjestely
US9301682B2 (en) Eye examination apparatus with digital image output
JP6862569B2 (ja) 仮想光線追跡方法および光照射野の動的リフォーカス表示システム
JP2005521123A (ja) 光学顕微鏡検出3次元画像の生成方法及び生成装置
CN109031642B (zh) 一种通用的体视显微裸眼可视化的显示方法和系统装置
WO2017020256A1 (zh) 三维超声流体成像方法及系统
WO2014027229A1 (en) Method and apparatus for converting 2d images to 3d images
JP2017011520A (ja) 立体像奥行き変換装置およびそのプログラム
WO2008023196A1 (en) Three-dimensional image recording and display apparatus
KR20160098589A (ko) 홀로그램 3d 영상의 촬영 및 표출장치
KR20140035747A (ko) 초음파 영상 장치 및 그 제어방법
CN110908133A (zh) 一种基于二面角反射镜阵列的集成成像3d显示装置
JP2006011145A (ja) 双眼顕微鏡装置
JP2012042524A (ja) 画像処理装置および方法
JP5177668B2 (ja) 立体画像作成装置及び方法並びに内視鏡検査システム
TWI572899B (zh) 擴充實境成像方法及其裝置
KR20010096556A (ko) 입체영상 입출력 방법 및 장치
CN113411565B (zh) 基于光泳捕获的可交互体三维显示的控制方法
Shen et al. Novel microscope-integrated stereoscopic display for intrasurgical optical coherence tomography
KR102649281B1 (ko) 3d/2d 변환이 가능한 집적영상 생성 및 재생 장치와 그 방법
WO2019135088A1 (en) Multi-angle light-field capture and display system
JP6813936B2 (ja) 光線3次元捕捉カムコーダおよびテレビジョンであって、前記テレビジョンの前表面および後表面に形成される実画像を生成するための、テレビジョン、平行光線フィルタデバイス、レベル化液晶または光学セルの移動または多焦点軟質レンズを含む可動レンズのセットを有する平行光線フィルタ、前記デバイスを得るための方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190827

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200911

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201104

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210728

R150 Certificate of patent or registration of utility model

Ref document number: 6921973

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150