JP2016525258A - 顕微鏡画像の作成方法及び顕微鏡の操作方法 - Google Patents

顕微鏡画像の作成方法及び顕微鏡の操作方法 Download PDF

Info

Publication number
JP2016525258A
JP2016525258A JP2016528370A JP2016528370A JP2016525258A JP 2016525258 A JP2016525258 A JP 2016525258A JP 2016528370 A JP2016528370 A JP 2016528370A JP 2016528370 A JP2016528370 A JP 2016528370A JP 2016525258 A JP2016525258 A JP 2016525258A
Authority
JP
Japan
Prior art keywords
field
recorded
image
images
recorded image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016528370A
Other languages
English (en)
Other versions
JP6329262B2 (ja
Inventor
アレクサンダー ランフト
アレクサンダー ランフト
マティアス カッツァー
マティアス カッツァー
Original Assignee
オリンパス・ソフト・イメージング・ソリューションズ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オリンパス・ソフト・イメージング・ソリューションズ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング filed Critical オリンパス・ソフト・イメージング・ソリューションズ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング
Publication of JP2016525258A publication Critical patent/JP2016525258A/ja
Application granted granted Critical
Publication of JP6329262B2 publication Critical patent/JP6329262B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Optics & Photonics (AREA)
  • Analytical Chemistry (AREA)
  • Geometry (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

本発明は、それぞれが対象物(10)の小領域を表す複数の記録画像(12)、具体的にはデジタル記録画像から、対象物(11)の全体像(10)を作成する方法に関する。本発明による方法は、全体像(10)が複数のフィールド(13)に分割されていて、又は分割されることになり、全体像(10)のフィールド(13)それぞれに複数の記録画像(12)の一部が割り当てられていて、又は割り当てられることになり、複数の記録画像(12)は、先ず1つのフィールド(13)の記録画像(12)が記録及び合成され、次いで記録された記録画像(12)を含む別のフィールド(13)が合成されるように、全体像(10)へと合成されることを特徴とする。

Description

発明の詳細な説明
本発明は、それぞれが対象物の小領域を表す複数の記録画像、具体的にはデジタル記録画像から、対象物の全体像を作成する方法に関する。
特に、顕微鏡の使用及び顕微鏡画像処理方法においては、高解像度の顕微鏡画像で作成される対象物又は血液検体等のサンプルの画像が、デジタルカメラ等によって単一画像として記録可能な領域よりもはるかに大きいという問題がある。結果的に、解像度の高い一種のモザイク画像が得られる。モザイク画像として記録されるサンプル又は対象物は、撮像手段に制御されながらグリッド内で移動され、また、個々の画像は予め計算された位置にて記録され、その後、顕微鏡画像へと合成される。結果として、個々の画像はほとんど継ぎ目なく合成され得る。このことは、例えば、米国特許第4673988号明細書等に記載されている。
さらに、デジタル顕微鏡画像を処理するために、全顕微鏡画像をコンピュータのメインメモリに読み込み、コンピュータのプロセッサによって顕微鏡画像を処理することが知られている。ここでは、独国特許出願第10 2006 034 996号明細書を参照する。しかしながら、可能性として仮想メモリであるコンピュータのメインメモリに全て読み込むには全顕微鏡画像は大きすぎるため、顕微鏡画像は部分的に大容量メモリに転送される。これを「スワッピング」又は「ページング」と称する。演算処理を実行可能にするためには、画像の一部がメインメモリに再読み込みされなければならず、これには時間がかかる。
顕微鏡画像が大きすぎてメインメモリ内に完全に保持できない場合には、公知の方法でフィールドを個別に処理するため、近隣フィールドの情報が含まれずエッジに不正確性が生じるか、又は、この不正確性の課題を解決するために特別な演算法が開発される必要があるか、いずれかの結果となる。大抵、こうした不正確性は単純に容認される。そこで、エッジの正確性という課題を解決するために、独自の演算法を見つけなければならない。独国特許出願第10 2006 034 996号明細書では、コンピュータで実行するための顕微鏡画像処理方法を提示することで、この課題を解決している。この処理方法では、コンピュータは、予め決められた利用可能なメモリ容量を有するメインメモリと、デジタル顕微鏡画像であって、画素から成り、n>1であるn次元であり、少なくとも2つのフィールドから成り、メインメモリの利用可能なメモリ容量を超える大きさのデジタル顕微鏡画像、を処理する、メインメモリよりもアクセスタイムが長い大容量メモリとを備え、顕微鏡画像の少なくとも一部には演算処理が用いられ、演算処理は以下の工程を備える。
a)顕微鏡画像を大容量メモリに提供すること
b)メインメモリへの読み込みが可能であり、m≦nである次元mを有する少なくとも2つの区域に、顕微鏡画像を分割すること
c)画像の1区域に対して、当該画像の区域に存在する全画素、及び、埋められた画像区域を作成するフィールドのうちの少なくとも1つに存在する全画素を決定すること
d)埋められた画像区域をメインメモリに提供すること
e)画像区域結果を作成するために、埋められた画像区域に存在する画素用の演算処理を用いること
f)全ての画像区域において工程c)、d)、及びe)を繰り返すこと
g)全ての画像区域結果を合わせて全体結果にすること
しかしながら、この特許出願では、例えば顕微鏡画像などの、対象物の全体像の作成については全く述べられていない。
さらに、フィールドを記録する顕微鏡レンズシステムに対して対象物の位置を決めるときに正確性に狂いが生じ得るため、厳密に正確な位置に近づくことは不可能である。また、顕微鏡レンズシステムのレンズにおける光学効果によって、1つの全体像、つまり完全な顕微鏡画像へと合成される、複数の記録されたフィールドのエッジ領域において結像誤差が生じ得る。
本発明の目的は、非常に正確な全体像を作成し得る、複数の記録画像、具体的にはデジタル記録画像から、対象物の全体像を作成する効果的な方法を提供することであって、具体的には、複数の記録画像の撮像で生じる位置決め誤差、及び/又は、光学誤差は、全体像を作成するときに補正される。
この目的は、それぞれが対象物の小領域を形成する複数の記録画像、具体的にはデジタル記録画像から対象物の全体像を作成する方法によって達成され、その小領域はさらに、全体像が複数のフィールドに分割されていて、又は分割されることになり、全体像のフィールドそれぞれに複数の記録画像の一部が割り当てられていて、又は割り当てられることになり、記録画像は、先ず1つのフィールドの記録画像が記録及び合成され、次いで記録された記録画像を含む別のフィールドが合成されるように全体像へと合成される、というように処理される。
本発明による方法を用いることで、対象物又はサンプルの非常に正確な全体像が非常に効率よく記録される。このために、1つのフィールドに属する複数の記録画像、具体的にはデジタル記録画像が連続して撮影され、正確に合成される。全体像を複数のフィールドに分割することによって、非常に短い時間で、つまり迅速にフィールドを記録することができるため、例えば、フィールドが作成される速さを考慮すれば焦点の熱ドリフトは問題ではないことから、非常に鮮明な画像を得ることができる。好ましくは、この方法の工程は、全体像を得るために、全てのフィールド又は関連するフィールドで実行される。
また、顕微鏡の位置決め装置による機械的な位置決め誤差は、最適に補正される。その際、位置決め装置は、例えば、サンプル又は対象物をグリッド状に動かして、対象物の異なる場所の複数の記録画像、具体的には複数のデジタル記録画像の扱いを可能にするように利用される。これにより、位置決め装置による位置決めの不正確さを補正しつつ、対象物全体を調査又は記録することができる。
本発明によると、記録画像をフィールドに合成するときに、それぞれの記録画像の少なくとも2つのエッジが、それぞれ、当該記録画像に隣り合う少なくとも2つの記録画像の少なくとも1つのエッジと重複すると、とりわけ正確な全体像及びフィールドが得られる。したがって、記録画像を互いに正確に隣り合わせに配置でき、機械的な位置決めの不正確性を効率よく補正できる。
しかしながら、このような合成には問題が生じ得る。例えば、記録画像を合成する際に、例えば、左上端に配置された記録画像から、右側に隣り合った記録画像に対して配置又は合成が行われるときに問題が生じ得る。同様に、左上端の記録画像の下に配置された、左に位置する画像を合成するときに、右上端の記録画像の下に位置する記録画像の適応と、左下端の記録画像の適応又は合成とが調和しないこともある。
このため、好ましくは、記録画像の重複画像領域を互いに相関させ、この相関においては、隣接する記録画像同士の相対位置に重み付けをしなければならない。したがって、重複画像領域の正規化相互相関が行われる。この場合、具体的には、画像強度の正規化が行われることが好ましい。
相関では、好ましくは、以下が実行される。相関においては、最大相関位置を重ねるように試みられる。これは、画像レジストレーション又はテンプレートマッチングとも呼ばれる。これを実現するためには、相関される一組の記録画像の重複領域で、好ましくは、重複領域の重複副領域への二次分割が行われる。重複副領域はコントラストに応じて処理され、最もコントラストが強い領域が好まれる。画像レジストレーションは、少なくとも2つの重複副領域が処理されて相関の最小値が求められるまで、重複副領域に対して正規化相互相関を使って計算される。この場合、最小値を指定することができる。重複副領域のレジストレーションのうち、最大相関位置が重み付けされ、関連相関値の二乗で平均される。
この場合、レジストレーションが行われる重複副領域はそれぞれパターンと変動エッジとに分類される。所謂パターンは、2つの記録画像のうちの先に記録された画像の重複副領域から取得される。もう一方の記録画像からは、その位置の重複副領域において考えられる変動位置毎に、当該パターンとの正規化相互相関が計算される。結果として、最大相関値を有する変動位置が得られる。
変動エッジ又は重複領域の幅は、好ましくは顕微鏡ステージの位置決め誤差を包含し、また、好ましくは顕微鏡の倍率に依存する。
2つの記録画像の役割は、好ましくは、パターン用と変動探索領域つまり変動エッジ用とで交替して相互相関処理が繰り返される。これにより、システム及び演算法の、パターン認識に関する正確性及び堅牢性をさらに高めることができる。
好ましくは、以降の手順のために、フィールド、及びその隣り合うフィールドにおける、新たに記録されたフィールドの合成に必要な記録画像を含めた全ての記録画像について、重複副領域間の変動位置が決定され、先に記録された記録画像において後で記録された記録画像の原画像が算出される。
好ましくは、フィールドの全ての記録画像が同時に合成される。つまり、フィールドの全ての記録画像について、相関及び相関の重み付けが行われる。この結果、フィールドの記録画像を合成するときの全体的な合成誤差が抑えられる。相関の重み付けの手順には、好ましくは、より強いコントラストを有する記録画像のエッジ領域又は重複領域に、より重み付けをすることが含まれる。この場合、具体的には領域コントラスト、つまり、特定できる広範囲の領域に渡ってよりコントラストが強いこと、が関係する。相互相関の実行方法の一例を、図の例にて説明する。
好ましくは、記録画像は四角形、具体的には長方形であり、2n×2m画素を有し、n及びmは好ましくは∞9である。フィールドもまた、好ましくは四角形、具体的には長方形となるよう選択され、数千の記録画像を含むことができる。好ましくは、フィールドは小型であり、つまり、辺の長さができる限り同じである、及び/又は、小型な区域に隣接する。
好ましくは、フィールドのサイズは、プロセッサから直接アクセスできるメモリ(RAM)のサイズに適応する。プロセッサに直接アクセスできるメモリは、コンピュータのメインメモリである。サイズを正確に適応させる一例もまた、図の説明を参照してさらに説明する。
好ましくは、記録画像を記録する前に、先ず対象物又はサンプルの位置を決定するために対象物の全体像をスキャンする。次に、好ましくは対象物全体が調査又は記録されるように、対象物又はサンプルの全体像をフィールドに分割する。有用であれば、異なるサイズのフィールドを採用することもできる。しかしながら、好ましくは、フィールドは全て同一のサイズである。サンプル又は対象物が特殊な形状を有するとき、例えば、対象物がフィールドの小さな一部しか占めていないときなどは、それに応じてフィールドを大きくすることもできる。そして背景は、例えば、記録する必要も保存する必要もない。この場合は、少なくとも対象物の一部を含む画像のみが記録される。
好ましくは、記録画像は、記録画像が互いに隣り合うように連続して記録され、この処理において、対象物又はサンプルの輪郭は、好ましくは、少なくともフィールド内で分割される。こうすることで、具体的には、記録画像の合成時にアーチファクト又は重大な合成誤差が生じないことを確実にする。これにより、結果として得られる全体図又は部分図におけるサンプル領域を小型に保つ。したがって、個々の画像又は記録画像が長く薄く連なることが回避されるため、レジストレーション誤差は小さいままに保たれる。また、画像のエッジに必要なメモリは、部分的な領域又は部分的なフィールドの断片構造に必要なメモリよりも少ない。
好ましくは、記録画像のフィールドへの合成に必要ではない記録画像の一部は圧縮保存される。圧縮保存は、好ましくはメインメモリで行われるが、例えばメインメモリよりも遅いハードディスクで実行させることもできる。
好ましくは、記録画像をフィールドに合成した後で、フィールドは、別のフィールドへの合成に必要な記録画像のエッジを除き、ハードディスク等の別のメモリに具体的には圧縮されて保存される。
好ましくは、隣り合うフィールドに配置された記録画像の重複画像領域は、フィールドを合成するために互いに相関し、この相関においては隣り合うフィールドの相対位置に重み付けがされる。この場合においても、大きな相関が小さな相関よりも、より重く重み付けされる。この場合においても、好ましくは、画像強度を正規化する相互相関が用いられる。
フィールドの合成は、一方では、合成されるフィールドにおいて先ず記録画像だけが合成され、フィールド同士は互いに位置合わせをするだけでよいようにすることができ、又は、好ましくは、合成済みのフィールドを別のフィールドと合成するときに、当該別のフィールドの記録画像は合成済みのフィールドとの合成時に合成されるようにすることができる。これにより、合成誤差が最小限に抑えられる。
好ましくは、記録画像からフィールドを作成及び合成する順番は自動的に決定される。したがって、先ず対象物又はサンプルの輪郭つまり領域分布が決定され、そして、この輪郭を使ってフィールド作成の順番が決定される。好ましくは、順番の判定基準は、区域内における対象物の表示又は存在、対象物による区域領域の包含又は重複、作成及び合成された隣り合うフィールドの数、及び/又は、フィールドとの合成が可能な隣り合うフィールドの記録画像の数である。
例えば、フィールドの対象物との重複領域が比較的大きいとき、そのフィールドの記録画像からの作成及び合成の順番は上位になり得る。同様に、作成及び合成された隣り合うフィールドの数が多いとき、そのフィールドの順番は上位になる。さらに、対象物がフィールド内にあるとき、そのフィールドの順番は上位になる。フィールド内に対象物がない、又は対象物の小領域しかないとき、このフィールドの順番は下位に移動される。さらに、フィールドとの合成が可能な隣り合うフィールドの記録画像の数が多いとき、そのフィールドの順位は上がる。例えば、作成されるフィールドとの合成が必要な隣り合うフィールドが既に3つあるとき、このフィールドの作成の順番はずっと上位に移動される。フィールドの作成及び合成の考えられる順番として図に示したものは例である。上述した判定基準を複数利用してもよく、又は、判定基準を1つだけ利用してもよい。また、全ての判定基準を利用してもよく、対応する評価又は重み付け機能を作成してもよい。それぞれの判定基準は異なる重み付けをされてもよい。
好ましくは、記録画像が作成され、記録画像からなる第1のフィールドは、対象物に包含される領域が最も広い、及び/又は、第1のフィールドは、フィールドの領域に渡る総コントラストが最も強い。これにより、可能な限り、対象物の記録、又は全体像の作成は、サンプルとしてもっとも特徴的なフィールドの対象物の一部から開始されることが確実になる。
好ましくは、フィールドの記録画像を記録する前に、1つのフィールドの焦点が決定される。これにより、具体的には焦点の熱シフトを防ぐことができる。それぞれのフィールドの作成及び合成が、熱的効果に起因する焦点のドリフトを危惧する必要がないほど十分に早ければ、2つ以上のフィールドの焦点もまたフィールドの記録画像を記録する前に決定することができる。
好ましくは、焦点はいくつかの基準点にて決定され、基準点間で補間が行われる。このため、例えば、基準点間に輪郭高さにおける三角領域が作られる。これは三角形分割と呼ばれ、ドロネーによる方法を利用したものである。
また、本発明は、上述した本発明による方法を利用又は応用する、顕微鏡の操作方法をも含む。本明細書では、従属クレームの主旨は好適な実施形態であるとみなすことができる。
顕微鏡の操作方法においては、それぞれが対象物の小領域を表す複数の記録画像、具体的にはデジタル記録画像から対象物の全体像を作成するために、好ましくは全体像が複数のフィールドに分割されていて、又は分割されることになり、全体像のそれぞれのフィールドに複数の記録画像の一部が割り当てられていて、又は割り当てられることになり、先ず1つのフィールドの記録画像が記録及び合成され、次いで、記録された記録画像からなる別のフィールドが合成される、というように記録画像が全体像へと合成される。
好ましくは、対象物の特定の位置で記録画像が記録され得るように、位置決め装置が、記録画像を記録する顕微鏡のレンズシステムの下で対象物を移動させる。次の記録画像のために、位置決め装置は僅かに移動して、対象物の別の位置の画像等を記録できるようにする。好ましくは、記録位置における記録画像、つまりその位置の画像は、記録画像が効率よくフィールドへと合成され、その後フィールド同士を合成できるように互いに重なり合う。それぞれが対象物の小領域を表す複数の記録画像、具体的にはデジタル記録画像から対象物の全体像を作成する方法に関して、上述した内容全てを参照する。
好ましくは、本発明による方法又は好適な方法を実行するように適応されたプログラムコード手段を有するコンピュータプログラムが備えられる。
好ましくは、コンピュータプログラムは、コンピュータによって読み取ることが可能な、又は、データストリームとしてインターネットからダウンロード可能なデータキャリアに保存される。
本発明によると、顕微鏡は、本発明による方法を実行するように構成されたコンピュータシステムを備える。
本発明のさらなる特徴は、本発明による実施形態の説明、特許請求の範囲、及び添付の図面から明らかになろう。本発明による実施形態は、個々の特徴又は複数の特徴の組み合わせを満たし得る。
以下に、本発明を、全体的な創意を制限することなく、例示的な実施形態を用いて図面を参照して説明する。本明細書中において詳細に説明されていない、本発明に係るあらゆる詳細については、図面において明示する。
図1は、フィールドを有する対象物の全体像を示す概略平面図である。 図2は、フィールドの作成を説明する概略図である。 図3は、第2のフィールドと第1のフィールドとの合成を説明する概略図である。 図4は、4つのフィールドを有する全体像を示す概略平面図である。
図面において、同一又は同様の要素、及び/或いは、部位には、説明を繰り返す必要がないように同一の参照符号を付している。
図1は、対象物スライド上に配置された対象物11の概略平面図を示し、ここから全体像10として顕微鏡画像が作成される。対象物11は、例えば、人間又は動物から採取した細胞サンプルでも、植物サンプルでもよい。顕微鏡画像を作成するために、サンプルの薄層はガラススライド上に配置されて、顕微鏡で全体像を作成するために顕微鏡に設置される。
手順では、先ず、全体像のために対象物11の輪郭が検知され、次いで記録画像を作成する領域が特定される。このため、全体像は、好ましくは対象物11の一部を表す、複数のフィールド13へと分割される。そして、それぞれのフィールドのデジタル記録画像12が記録され、デジタル記録画像12は、後述するように、複数のデジタル記録画像から成るフィールドを作成するように合成される。
図1の、最上段の左側から見て2番目のフィールドでは、サンプル又は対象物11から作成された35枚の記録画像が概略的に表されているが、この記録画像の枚数は一例にすぎない。実際のところ、フィールド毎に数千の記録画像を有し得る。実質的には、フィールドのサイズ、つまりフィールド毎の記録画像の数は、メモリの利用可能容量、又は、画像処理を実行してデジタル記録画像をフィールド13に合成するプロセッサ用のメインメモリの利用可能容量に依存する。対応するサイズの好適な例についても後述する。
背景14は対象物11自体には全く無関係であるため、背景14だけの記録画像を作成する必要はない。このため、フィールド13´は記録画像で完全に埋められない。図1から分かるように、全てのフィールドの面積が同一ではない。実質的に、フィールド13から13´´´のサイズは、記録されるデジタル記録画像の領域に依存するため、データ量に依存することになる。僅かに細長く図示されている2つのフィールド13´´及び13´´´は、対象物の比較的小さな領域を占めるため、フィールド13´´及び13´´´の一部にだけ適切な記録画像が含まれることになる。
図2を参照して、デジタル記録画像のフィールドへの合成の一例を説明する。簡潔にするために、図2に示すフィールドには4枚のデジタル記録画像1から4があると仮定する。これらの4枚のデジタル記録画像には、参照番号1、2、3、4が振られている。記録画像は、記録画像をモザイク又は重ね合わせたタイルのように合成又は結合するために組み合わせられた対応エッジを有する。記録画像1は底部エッジ17を有し、記録画像3はエッジ18を有し、記録画像2はエッジ21を有し、記録画像3は別のエッジ19を有し、記録画像4はエッジ20を有する。記録画像1は右側にも対応エッジを有するが、完全に覆われている。記録画像2と4との重複したエッジは図示されていない。
また、図2は、記録画像が如何に合成されているかを非常に概略化した形で示している。記録画像の原点間、つまりこの例ではそれぞれの記録画像の左上角の間のバネは概略的に表されており、ωijで特定され、「i」はバネが始まる記録画像を指し、「j」はバネが終了する記録画像の番号である。バネの図から、フックの法則に類似したものが見て取れる。記録画像の組み合わせを合成する処理において、バネエネルギーは、画像同士の互いに対する位置の、機械的に四角に予測される位置からの変動と対応する。ここでは、先ず、サンプル台又は顕微鏡の駆動がかなり正確であり、そして、比較的正確に位置決めされた記録画像が、特定可能なサンプルの重複を伴って記録されるように、サンプル11が顕微鏡レンズに対して段階的に移動されると推測される。しかしながら、機械的な不正確性のため、記録画像は本発明による方法で合成されなければならない。
記録画像を合成する手段において、エッジ17から21にてコントラストが強い領域が検索される。こうした領域から、合致又は合成が開始される。次いで、正規化相互相関、具体的には画像強度を正規化する相互相関が行われる。より強いコントラストを有する領域は、コントラストが弱い領域よりも、合成においてより大きく重み付けされる。同一の構造同士が重複するように、エッジ領域にて最大限に一致させて画像を重ねることが試みられる。概して、下記の式による値の数理モデルに基づいて、最小限の関数が計算される。
Figure 2016525258
ここでは、「A」が全記録画像の数であり、「a」がそれぞれの記録画像の元画像であり、「s」が変位ベクトル、つまり、相互相関が行われたことによるそれぞれの記録画像の変位量(つまり、記録画像の開始位置からの座標の変化)であり、そして「w」がそれぞれの相互相関の重み付け因子である。これによりフィールドの記録画像全ての最適な位置決めが実現する。隣り合う組み合わせが、相互相関が行われる隣接する記録画像である。
図3に、別のフィールドがどのように合成されて、第1のフィールドに合成されるかを示す。15は、記録画像1,2,3,及び4を有する第1のフィールドの原点を示す。参照番号15は、上記の式を用いるときにはa1と呼ぶこともできる。第2のフィールドは、記録画像5,6,7,及び8を有する。記録画像5,6,7,及び8を有する第2のフィールドは、バネw56,w57,w68,及びw78として描かれる又は示されるそれぞれの相互相関の強さに基づき、相応に合成される。同時に、概略的に描かれたバネw25及びw47によって表されているように、記録画像2及び記録画像4の右エッジは、記録画像5及び記録画像7の左エッジと相関される。従って、あるフィールドから次のフィールドへの移行部においても最適な合成結果が得られる。
そのため、周囲により多くの合成済みフィールドを有するフィールドにおいても、同様の手段が用いられる。
結論として、本発明による方法は、最小限の合成誤差を表示する記録画像の、最適な合成マトリクス、又は最適な配置マトリクスを提供する。
フィールドを使うことによって、もはや焦点の熱ドリフトが問題とはならないように、結像時間が十分に削減される。また、結果として得られる全体像の中に記録画像がはめ込まれる前に、画像の整列、つまり全てのフィールドの全ての記録画像の整列が最適化される。さらに、3次元空間のx,y座標は、対象スライドの表面にある。
好ましくは、記録画像は、隣り合う記録画像が常に連続して記録されるように構成される。また、常に隣り合うフィールドを作成することも同様に好ましい。これにより、合成時のアーチファクトが最小限に抑えられる。さらに、記録画像又はフィールドを合成するために必要な記録画像のエッジ領域は、これもまたアーチファクトを防ぐために圧縮せずに保存される。
図4は、サンプル又は対象物11の概略平面図であり、記録されるフィールドの順番決定を明確に説明するものである。
フィールド13のサンプル11は間隙16を有する。仮にこのフィールド13が開始フィールドとなれば、フィールド13´´をフィールド13´及びフィールド13´´´と合成することが困難になるであろう。そこで、適切な順番を決定する必要がある。そのためには、サンプル又は対象物のできる限り多くの部分が、最初に開始フィールド内になければならない。フィールド13´´´は、サンプルを包含する又はサンプルに重複する最も大きな領域を有しており、さらに、コントラストが少なくともフィールド13´´及び13´と同程度であるため、適格といえる。そのため、手順は自動的にフィールド13´´´から開始される。
フィールド13´´´の必要な記録画像が全て作成されて合成されると、動作中の演算法により、フィールドに存在するサンプル領域の大きさが引き続き確認される。フィールド13´´は、フィールド13よりも僅かに大きいが、フィールド13´よりは小さいサンプル領域を有するように見える。順番決定のための演算法は、隣り合う画像が完成しているフィールドを選ぶようにプログラムできる。従って、フィールド13´´が優先されるであろう。また、この演算法は、完全な中断部分があるサンプルを有するフィールドができる限り遅く作成され、順番が下位になるようにすることもできる。従って、この実施例では、フィールド13´´の順番が次に来るであろう。フィールド13´が有するサンプル画像がより大きく、また、双方のフィールドともに隣り合うフィールドが既に作成されているため、次のフィールドとして、フィールド13´が作成される。
フィールドに隣り合う合成に用いられる記録画像の数も、フィールドを作成するための順番決定に用いる別の演算要素として評価することができる。合成に利用することができる記録画像が多ければ多いほど、そのフィールドの順番は上位へと上がる。
既に上述したとおり、記録画像が記録される前に、対象物又はサンプルは自動フォーカスのためにスキャンされる。対象物が地点ごとに異なる高さを有するか又は同一ではない厚さを有し、つまり波形であるため、対象物の異なる地点において別々に焦点を調整しなければならない。このため、いくつかの基準点で焦点を定めることが有用である。これは、好ましくは、熱ドリフトを抑えるために1つのフィールド又は少数のフィールドのみにおいて行う。自動フォーカスを実行する場合に、システムは対象物又は対象スライドをカメラの下で移動させて、それに応じて基準点にて焦点が決定され得るようにする。これにかかる時間を減らすために、システム又は演算法によって、例えば隣り合うフィールドにおいて焦点が既に決定されているかを確認すること等によって、対応する焦点が既に決定されているか否かが確認される。そして、対応する焦点は、その記録時間の発生が特定可能な時間内である限り、すなわち、それほど長時間前でない限り利用できる。
その後、焦点が決定された位置間で補間が行われる。例えば、3つの焦点間に、焦点高さに応じた空間に傾斜した三角形が描かれる。この方法はドロネーの方法とほぼ一致する。
採用された好適な手順では三角測量が行われ、三角測量はいくつかの途切れがなく重複のない三角形を提供し、三角形は特定の基準点間にある。これにより、平面補間がサンプル表面の各位置で機能し、明確であることが確実になる。従って、サンプル表面の各位置で焦点が決定され得る。
しかしながら、隣り合うフィールドの予め決定された焦点値は、焦点が決定されたときから、この焦点値が利用されるまでに、予め決められた時間が経過していない場合に限り利用できる。この時間は例えば10分間でもよい。この結果、熱ドリフトが防止される。
本発明において、「合成」という用語は、記録画像を並べて配置すること、又はフィールド同士を互いに関連させて配置すること、又は一致させること、又は配置させること、又は適応させること、又は互いに関連させて整列させることをも含む。「合成」の代わりに、「レジスタ」という用語を用いることもできる。つまり、記録画像のエッジはレジストレーションされる、又は、互いに重複し合う記録画像のエッジの画像レジストレーションが行われる。
フィールド又はフィールドの記録画像が互いに関連して整列した場合、フィールド全体の全ての記録画像はキャッシュメモリに保存される。この場合、もはや別の記録画像との合成には利用されていない全ての記録画像及び記録画像のエッジは、圧縮されることができる。隣り合うフィールドの別の記録画像との合成にまだ必要とされる記録画像のエッジ領域は、圧縮されずに別に保存される、又は、好ましくは圧縮されずに別に保存されることができる。
要求されるメモリのそのサイズに応じて、フィールドは顕微鏡に付属するコンピュータシステムのメインメモリに適応される。好ましくは、フィールドのサイズは、2つのフィールドの全ての記録画像がメインメモリ内に収まるように選択される。こうすることで、あるフィールドを先に合成されたフィールドと合成しながら、追加のフィールドの追加の記録画像を記録することが可能になる。さらに、メモリの一定の区域、又はメインメモリ(RAM)の一定のメモリ容量を、例えば1から5GBの範囲内で、好ましくは3GBを、別の目的用に空けたまま提供することもできる。
図面からのみ参照したものを含めた、名称が付された全ての特徴、及び、他の特徴と組み合わせて開示された個々の特徴は、本発明に重要なものとして個別に、及び組み合わせとして考慮される。本発明による実施形態は、個々の特性又はいくつかの特性の組み合わせによって実現することができる。本発明の範囲において、「具体的には」又は「好ましくは」という表現と共に記載された特徴は、任意の特性として理解されるものとする。
1−8 記録画像
10 全体像
11 対象物/サンプル
12 記録画像
13−13´´´ フィールド
14 背景
15 原点
16 間隙
17−21 エッジ
22 エッジを有さない記録画像の一部
ij 重み付け値
i,j 記録画像の数

Claims (14)

  1. それぞれが対象物(10)の小領域を表す複数の記録画像(12)、具体的にはデジタル記録画像から、対象物(11)の全体像(10)を作成する方法であって、
    前記全体像(10)がフィールド(13)に分割されていて、又は分割されることになり、
    前記全体像(10)の前記フィールド(13)それぞれに前記複数の記録画像(12)の一部が割り当てられていて、又は割り当てられることになり、
    前記複数の記録画像(12)は、先ず1つのフィールド(13)の前記複数の記録画像(12)が記録及び合成され、次いで記録された記録画像(12)を含む別のフィールド(13)が合成されるように、前記全体像(10)へと合成され、
    前記記録画像(12)をフィールド(13)に合成するために、前記記録画像(12)それぞれの少なくとも2つのエッジ(17−21)が、前記記録画像(12)に隣り合う少なくとも2つの記録画像(12)の少なくとも1つのエッジ(17−21)とそれぞれ重複し、
    前記記録画像(12)の前記重複画像領域(17−21)は互いに相関があり、
    前記相関では、隣接する記録画像(12)同士の相対位置に重み付けがされる、
    方法。
  2. 前記フィールド(13)のサイズは、プロセッサに直接アクセスできるメモリ(RAM)のサイズに適応する、請求項1に記載の方法。
  3. 前記記録画像(12)のフィールド(13)への合成に必要ではない前記記録画像(12)の前記部分(22)は圧縮保存される、請求項2に記載の方法。
  4. 前記記録画像(12)をフィールド(13)に合成した後で、前記フィールド(13)は、別のフィールド(13)への合成に必要な記録画像(12)の前記エッジ(17−21)を除き、ハードディスク等の別のメモリに、具体的には圧縮されて保存される、請求項1から3のいずれか一項に記載の方法。
  5. フィールド(13)を合成するために、近接するフィールドに配置された記録画像(12)の重複画像領域(17−21)は互いに相関があり、
    前記相関では、近接する前記フィールド(13)の相対位置に重み付けがされる、
    請求項1から4のいずれか一項に記載の方法。
  6. 記録画像(12)から前記フィールド(13)を作成及び合成する順番は自動的に決定される、請求項1から5のいずれか一項に記載の方法。
  7. 前記順番の判定基準は、区域(13)内における対象物(11)の存在、前記区域(13)と対象物(11)との領域の重複、作成及び合成された隣り合うフィールド(13)の数、及び/又は、前記フィールド(13)との合成が可能な隣り合うフィールド(13)の記録画像(12)の数である、請求項6に記載の方法。
  8. 記録画像(12)が作成され、前記記録画像(12)から成る第1のフィールド(13)は、最も広い領域を前記対象物に包含されていて、及び/又は、第1のフィールドは、前記フィールド(13)の領域に渡る総コントラストが最も強い、請求項6又は7に記載の方法。
  9. 前記フィールド(13)の前記記録画像(12)を記録する前に、1つのフィールド(13)の焦点が決定される、請求項1から8のいずれか一項に記載の方法。
  10. 前記焦点はいくつかの基準点にて決定され、前記基準点間で補間が行われる、請求項9に記載の方法。
  11. 顕微鏡の操作方法であって、請求項1から10のいずれか一項に従って実行される方法。
  12. 請求項1から11に記載の方法を実行するために適応されたプログラムコード手段を有するコンピュータプログラム。
  13. コンピュータによって読み取ることが可能な、又は、データストリームとしてインターネットからダウンロード可能なデータキャリアに保存される、請求項12に記載のコンピュータプログラム。
  14. 請求項1から10のいずれか一項に記載の方法を実行するように構成されたコンピュータシステムを備える顕微鏡。
JP2016528370A 2013-07-22 2014-07-07 対象物の全体像の作成方法及び顕微鏡画像の作成方法 Active JP6329262B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102013214318.4 2013-07-22
DE102013214318.4A DE102013214318A1 (de) 2013-07-22 2013-07-22 Verfahren zum Erstellen eines Mikroskopbildes
PCT/EP2014/001865 WO2015010771A1 (de) 2013-07-22 2014-07-07 Verfahren zum erstellen eines mikroskopbildes und verfahren zum betreiben eines mikroskops

Publications (2)

Publication Number Publication Date
JP2016525258A true JP2016525258A (ja) 2016-08-22
JP6329262B2 JP6329262B2 (ja) 2018-05-23

Family

ID=51162698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016528370A Active JP6329262B2 (ja) 2013-07-22 2014-07-07 対象物の全体像の作成方法及び顕微鏡画像の作成方法

Country Status (5)

Country Link
US (1) US9779530B2 (ja)
JP (1) JP6329262B2 (ja)
DE (1) DE102013214318A1 (ja)
GB (1) GB2531189B (ja)
WO (1) WO2015010771A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022107435A1 (ja) * 2020-11-20 2022-05-27 コニカミノルタ株式会社 画像解析方法、画像解析システム及びプログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016110407A1 (de) * 2016-06-06 2017-12-07 Carl Zeiss Microscopy Gmbh Digitales Mikroskop mit einem Objektiv und mit einem Bildsensor
DE102016110988A1 (de) * 2016-06-15 2017-12-21 Sensovation Ag Verfahren zum digitalen Aufnehmen einer Probe durch ein Mikroskop
CN110494891B (zh) 2017-04-14 2023-11-28 文塔纳医疗系统公司 用于拼接的基于分块的局部配准以及全局放置
JP6947841B2 (ja) 2017-06-13 2021-10-13 グーグル エルエルシーGoogle LLC 病理学用の拡張現実顕微鏡

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000165656A (ja) * 1998-11-13 2000-06-16 Ricoh Co Ltd 画像処理方法,画像結合方法,画像形成方法,画像処理システム,画像結合システムおよび画像形成システム
JP2002514319A (ja) * 1997-03-03 2002-05-14 バクス リサーチ ラボラトリーズ インコーポレイテッド バーチャル顕微鏡スライドを作成する方法および装置
JP2003196650A (ja) * 2001-10-17 2003-07-11 Sanyo Electric Co Ltd 画像合成方法
JP2011002341A (ja) * 2009-06-18 2011-01-06 Olympus Corp 顕微鏡システム、標本観察方法およびプログラム
JP2011076296A (ja) * 2009-09-30 2011-04-14 Hitachi High-Technologies Corp 合成画像形成方法及び画像形成装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4673988A (en) 1985-04-22 1987-06-16 E.I. Du Pont De Nemours And Company Electronic mosaic imaging process
US7256799B2 (en) * 2001-09-12 2007-08-14 Sanyo Electric Co., Ltd. Image synthesizer, image synthesis method and computer readable recording medium having image synthesis processing program recorded thereon
US20060133657A1 (en) * 2004-08-18 2006-06-22 Tripath Imaging, Inc. Microscopy system having automatic and interactive modes for forming a magnified mosaic image and associated method
DE102006034996A1 (de) * 2006-07-28 2008-01-31 Carl Zeiss Imaging Solutions Gmbh Mikroskopbildverarbeitungsverfahren, Computer, Computerprogramm und Datenträger
US8155452B2 (en) * 2008-10-08 2012-04-10 Harris Corporation Image registration using rotation tolerant correlation method
US8509565B2 (en) * 2008-12-15 2013-08-13 National Tsing Hua University Optimal multi-resolution blending of confocal microscope images
US9147250B2 (en) * 2011-09-15 2015-09-29 Siemens Aktiengesellschaft System and method for automatic magnetic resonance volume composition and normalization
AU2012319178B2 (en) * 2011-10-03 2015-08-06 International Electronic Machines Corporation Brake component monitoring

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002514319A (ja) * 1997-03-03 2002-05-14 バクス リサーチ ラボラトリーズ インコーポレイテッド バーチャル顕微鏡スライドを作成する方法および装置
JP2000165656A (ja) * 1998-11-13 2000-06-16 Ricoh Co Ltd 画像処理方法,画像結合方法,画像形成方法,画像処理システム,画像結合システムおよび画像形成システム
JP2003196650A (ja) * 2001-10-17 2003-07-11 Sanyo Electric Co Ltd 画像合成方法
JP2011002341A (ja) * 2009-06-18 2011-01-06 Olympus Corp 顕微鏡システム、標本観察方法およびプログラム
JP2011076296A (ja) * 2009-09-30 2011-04-14 Hitachi High-Technologies Corp 合成画像形成方法及び画像形成装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022107435A1 (ja) * 2020-11-20 2022-05-27 コニカミノルタ株式会社 画像解析方法、画像解析システム及びプログラム

Also Published As

Publication number Publication date
GB2531189B (en) 2018-09-26
GB2531189A (en) 2016-04-13
WO2015010771A1 (de) 2015-01-29
US9779530B2 (en) 2017-10-03
DE102013214318A1 (de) 2015-01-22
US20160140746A1 (en) 2016-05-19
GB201600141D0 (en) 2016-02-17
JP6329262B2 (ja) 2018-05-23

Similar Documents

Publication Publication Date Title
JP6329262B2 (ja) 対象物の全体像の作成方法及び顕微鏡画像の作成方法
JP7128203B2 (ja) スティッチングのための局所的タイルベースレジストレーションおよび大域的配置
US8126289B2 (en) Device, method and system for automatic montage of segmented retinal images
US8044974B2 (en) Image creating apparatus and image creating method
CN109737874A (zh) 基于三维视觉技术的物体尺寸测量方法及装置
WO2020038195A1 (zh) 三维模型的纹理获取方法、装置、设备和存储介质
CA2867150C (en) Automated syncrhonized navigation system for digital pathology imaging
JP6494294B2 (ja) 画像処理装置、及び撮像システム
CN110223389B (zh) 融合图像与激光数据的场景建模方法、系统、装置
US20130077892A1 (en) Scan Order Optimization and Virtual Slide Stitching
US9704218B2 (en) Image processing device and method, and program
US9253449B2 (en) Mosaic picture generation
JP2012003214A (ja) 情報処理装置、情報処理方法、プログラム、撮像装置、及び光学顕微鏡を搭載した撮像装置
US20220136979A1 (en) Information processing apparatus, information processing method, and non- transitory computer-readable storage medium
AU2012268846A1 (en) Optimal patch ranking for coordinate transform estimation of microscope images from sparse patch shift estimates
CN108648145B (zh) 图像拼接方法及装置
CN106296574A (zh) 三维照片生成方法和装置
AU2018352936A1 (en) Image registration method, and image stitching method and apparatus
JP5541082B2 (ja) 圃場管理支援装置、圃場管理支援プログラムおよび圃場管理支援方法
JP6029293B2 (ja) 走査型電子顕微鏡の画像処理装置、および、走査方法
CN114005112A (zh) 细胞位置标定方法、装置、计算机设备和存储介质
Wang et al. An optimized image mosaic algorithm with parallel io and dynamic grouped parallel strategy based on minimal spanning tree
EP3709258B1 (en) Generating composite image from multiple images captured for subject
RU2647645C1 (ru) Способ устранения швов при создании панорамных изображений из видеопотока кадров в режиме реального времени
US9721371B2 (en) Systems and methods for stitching metallographic and stereoscopic images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160810

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180327

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180419

R150 Certificate of patent or registration of utility model

Ref document number: 6329262

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250