JP4653041B2 - System and method for synthesizing image blocks and creating a seamless enlarged image of a microscope slide - Google Patents

System and method for synthesizing image blocks and creating a seamless enlarged image of a microscope slide Download PDF

Info

Publication number
JP4653041B2
JP4653041B2 JP2006233009A JP2006233009A JP4653041B2 JP 4653041 B2 JP4653041 B2 JP 4653041B2 JP 2006233009 A JP2006233009 A JP 2006233009A JP 2006233009 A JP2006233009 A JP 2006233009A JP 4653041 B2 JP4653041 B2 JP 4653041B2
Authority
JP
Japan
Prior art keywords
image
region
image block
block
blocks
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006233009A
Other languages
Japanese (ja)
Other versions
JP2007065669A (en
Inventor
ジャック・エイ・ゼイネー
ルイ−タオ・ドン
Original Assignee
クラリエント・インコーポレーテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US11/218,073 external-priority patent/US7778485B2/en
Application filed by クラリエント・インコーポレーテッド filed Critical クラリエント・インコーポレーテッド
Publication of JP2007065669A publication Critical patent/JP2007065669A/en
Application granted granted Critical
Publication of JP4653041B2 publication Critical patent/JP4653041B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)

Description

関連出願Related applications

この出願は、2004年8月31日及び2004年9月15日にそれぞれ出願された米国仮出願第60/605、835号及び第60/609、961号に関係し、これらの米国出願を基礎とする優先権主張を伴う。またこの出願は、同時継続中でありこの出願と同じ被譲渡人に譲渡されている「顕微鏡スライドの拡大イメージを作成するシステム及び方法」と関係し、この米国出願の内容全体を、この出願において援用する。   This application relates to US provisional applications 60 / 605,835 and 60 / 609,961 filed on August 31, 2004 and September 15, 2004, respectively. Accompanied by a priority claim. This application is also related to the "system and method for creating an enlarged image of a microscope slide" which is ongoing and is assigned to the same assignee as this application. Incorporate.

本発明は、広くは、仮想的な顕微鏡スライドを作成するシステム及び方法に関し、更に詳しくは、仮想的な顕微鏡スライドのシームレスなイメージを作成する方法及びシステムに関する。   The present invention relates generally to systems and methods for creating virtual microscope slides, and more particularly to methods and systems for creating seamless images of virtual microscope slides.

仮想顕微鏡スライドは、典型的には、顕微鏡スライドの拡大されたイメージを表すデジタル・データを含む。仮想スライドは、デジタル形式を有しているため、コンピュータ・メモリなどの媒体に記憶することができ、インターネットやイントラネットなどの通信ネットワークを介して遠隔地にいるビューワに伝送することが可能である。   Virtual microscope slides typically contain digital data representing an enlarged image of the microscope slide. Since the virtual slide has a digital format, it can be stored in a medium such as a computer memory, and can be transmitted to a viewer at a remote place via a communication network such as the Internet or an intranet.

仮想スライドは、伝統的な顕微鏡スライドと比較して著しい効果を生じさせる。場合によっては、仮想スライドは、医師が、伝統的な顕微鏡スライドを用いる場合に可能であっったよりも、より迅速・簡便・経済的に診断を下すことを可能にする。例えば、仮想スライドは、通信リンクを介して遠隔地にいる専門家など遠隔地のユーザも使用することができ、それによって、医師はその専門家の意見を仰ぎ、遅延なく診断を下すことができる。あるいは、仮想スライドをデジタル形式で保存しておいて、医師や専門家の都合のよい時間に検討することが可能である。   Virtual slides produce a significant effect compared to traditional microscope slides. In some cases, virtual slides allow physicians to make diagnoses more quickly, conveniently, and economically than was possible with traditional microscope slides. For example, a virtual slide can also be used by a remote user, such as a remote expert over a communication link, so that the doctor can ask for the expert's opinion and make a diagnosis without delay . Alternatively, virtual slides can be stored in digital form and considered at a time convenient for physicians and specialists.

典型的には、仮想スライドは、顕微鏡スライド(イメージの拡大が望まれているサンプルを含む)を顕微鏡の対物レンズの下に位置決めして、そのスライドの全体又は一部をカバーする1又は複数のイメージを捕捉し、それら複数のイメージを合成してスライドの単一の一体化されたデジタル・イメージを作成することによって得られる。1つのスライドを複数の領域に分割して、それぞれの領域に対して別個のイメージを生成することが好ましい場合がある。その理由は、多くの場合に、スライドの全体の方が、高性能の対物レンズ(例えば、10x、20x、40xの対物レンズ)の視野よりも大きく、希望の倍率でスライド・イメージの全体を捕らえるためには複数のイメージを取得しなければならないからである。更に、多くの組織タイプの表面は高さが不均一であり、合焦イメージ捕捉するのが困難な局所的な変動を含むからである。   Typically, the virtual slide is one or more covering a microscope slide (including the sample whose image is desired to be magnified) positioned under the microscope objective and covering all or part of the slide. It is obtained by capturing images and combining the multiple images to create a single integrated digital image of the slide. It may be preferable to divide a slide into multiple regions and generate separate images for each region. The reason is that, in many cases, the entire slide is larger than the field of view of a high performance objective lens (eg, 10x, 20x, 40x objective lens) and captures the entire slide image at the desired magnification. This is because a plurality of images must be acquired for this purpose. Furthermore, many tissue type surfaces are non-uniform in height and contain local variations that are difficult to capture a focused image.

サンプルが1つの視野よりも大きいときには、画像化される領域を何らかの態様で合成して単一のイメージを作成しなければならない。これらのイメージ・ブロックは、作成されたイメージがイメージの位置合わせ(アライメント)の不備に起因する欠陥が生じないように合成される必要がある。これは、複数の方法で達成可能である。あるシステムによれば、非常に正確なx−yステージを用いることにより、複数のイメージを単純に隣接させることで適切に一致したイメージの集合が得られるように、正確な位置においてイメージを生じさせることができるであろう。また、他の方法では、イメージの集合のための最適な一致を決定するのにソフトウェア・アルゴリズムに依存することになる。このプロセスは、この技術分野では、スティッチング(縫い合わせ、合成)と称されることが多い。モザイキングと生じされることもある。これらのスティッチング・アルゴリズムは、多数のイメージを用いて、シームレスで適切に形成された単一のイメージが結果的に得られるように、これらのイメージ・ブロックを最適に位置決めすることを試みる。   When a sample is larger than one field of view, the imaged area must be combined in some way to create a single image. These image blocks need to be synthesized so that the created image does not suffer from defects due to imperfect alignment of the image. This can be achieved in several ways. According to some systems, using a very accurate xy stage, the images are produced in the correct position so that multiple images can be simply contiguous to obtain a properly matched set of images. Would be able to. Other methods also rely on software algorithms to determine the best match for the set of images. This process is often referred to in the art as stitching. Sometimes caused by mosaicing. These stitching algorithms attempt to optimally position these image blocks using a large number of images, resulting in a single image that is seamless and well formed.

アルゴリズムによっては、イメージの変形(image warping)などイメージ修正を用いて、イメージ・ブロックの間のより最適な位置合わせを生じさせる。しかし、このプロセスは、特に医学で用いられる画像化システムの場合に、多くの欠点を有する。というのは、診断を下す者にとっては、精度が非常に重要であるからである。イメージの修正は、解像度の低下やエイリアシングなどの望ましくない現象を生じさせる可能性があり、望ましくない。また、イメージの修正は、計算論的な見地からも、高額となり時間がかかる可能性がある。更に、大域座標系の中で最適なイメージ位置を作成することは、複数の解を生じさせる可能性がある。その中のどの解を選択するか、そして、プロセスの再現可能性が、解決すべき問題として存在することになる。   Some algorithms use image modification, such as image warping, to produce a more optimal alignment between image blocks. However, this process has a number of drawbacks, especially for imaging systems used in medicine. This is because accuracy is very important for the person making the diagnosis. Image modification can cause undesirable phenomena such as reduced resolution and aliasing and is undesirable. Also, image correction can be expensive and time consuming from a computational point of view. Furthermore, creating an optimal image position in the global coordinate system can result in multiple solutions. Which solution to choose from and the reproducibility of the process exist as problems to be solved.

本発明の特定の特徴、側面及び効果は、顕微鏡光学視野の中を移動可能な物理材料サンプル・スライドが観察及びイメージ捕捉のために支持されているタイプの顕微鏡システムに関する。本発明は、シームレスなエッジ画質特性を有するデジタル仮想スライドを観察する方法であって、それぞれの物理スライドのために複数のデジタル領域イメージを定義するステップと、前記定義された複数のデジタル領域イメージに従って前記物理スライドを走査するステップとを含む。   Certain features, aspects, and advantages of the present invention relate to a type of microscope system in which a physical material sample slide that is movable in a microscope optical field of view is supported for viewing and image capture. The present invention is a method for observing a digital virtual slide having seamless edge quality characteristics, comprising defining a plurality of digital region images for each physical slide, and according to the defined plurality of digital region images. Scanning the physical slide.

前記走査されたイメージは、前記物理スライドの全体のモザイク表現におけるそれぞれのイメージの位置に関連する位置インデクス計量に従って記憶され、次の隣接する領域イメージ・ブロックに対して、正規化された相関サーチが実行される。   The scanned image is stored according to a position index metric associated with the position of each image in the entire mosaic representation of the physical slide, and a normalized correlation search is performed on the next adjacent region image block. Executed.

相対位置オフセット値と相関係数との集合が、領域イメージ・ブロックと次の隣接する領域イメージ・ブロックとに対して、決定される。前記領域イメージ・ブロックの一部分が、ディスプレイの視野として観察され、領域イメージ・ブロックの前記一部分の複合物が、相対位置オフセット値と相関係数との前記集合に従って合成され、前記一部分を構成するブロックだけが合成される。   A set of relative position offset values and correlation coefficients is determined for the region image block and the next adjacent region image block. A portion of the region image block is viewed as a field of view of the display, and a composite of the portion of the region image block is synthesized according to the set of relative position offset values and correlation coefficients to form the portion Only is synthesized.

効果的に、前記ディスプレイの視野を移動させることにより、追加的な領域イメージ・ブロックが表示され、前記合成するステップは、新たな視野の中に持ち込まれる前記追加的な領域イメージ・ブロックに関してだけ実行される。   Effectively, by moving the field of view of the display, additional region image blocks are displayed, and the compositing step is performed only with respect to the additional region image blocks brought into the new field of view. Is done.

本発明の追加的な側面では、それぞれの物理スライドに対し、それぞれの領域が少なくとも幅の寸法Wによって特徴付けられている面積を有する複数の領域が定義される。第1の定義された領域のイメージが捕捉され、そこでは、前記顕微鏡が前記物理スライドに対して第1の位置に位置決めされている。前記顕微鏡の位置は、Wと重複(オーバラップ)値(OverlapX)とによって特徴付けられた寸法に沿って、第2の位置に調整され、第2の定義された領域のイメージが捕捉され、前記第2の領域と前記第1の領域とはOverlapXによって定義される重複領域の中に含まれるイメージ・データを共有する。本発明の特定の特徴は、前記決定するステップが、隣接する複数の領域の間の重複領域に含まれるイメージ・データに対して実行されるということである。   In an additional aspect of the invention, for each physical slide, a plurality of regions are defined, each region having an area characterized by at least a width dimension W. An image of a first defined area is captured, where the microscope is positioned at a first position relative to the physical slide. The position of the microscope is adjusted to a second position along a dimension characterized by W and an overlap value (OverlapX), and an image of a second defined region is captured, The second area and the first area share the image data included in the overlapping area defined by OverlapX. A particular feature of the present invention is that the determining step is performed on image data included in an overlapping region between adjacent regions.

本発明の別の側面では、それぞれの物理スライドに対し、それぞれの領域が少なくとも高さの寸法Hによって特徴付けられる面積を有する複数の領域が定義される。第1の定義された領域のイメージが捕捉され、そこでは、前記顕微鏡が前記物理スライドに対して第1の位置に位置決めされている。次に、前記顕微鏡の位置は、Hと第2の重複値(OverlapY)とによって特徴付けられた第2の位置に調整され、第2の定義された領域のイメージが捕捉され、前記第2の領域と前記第1の領域とはOverlapYによって定義される重複領域の中に含まれるイメージ・データを共有する。   In another aspect of the invention, for each physical slide, a plurality of regions are defined, each region having an area characterized by at least a height dimension H. An image of a first defined area is captured, where the microscope is positioned at a first position relative to the physical slide. Next, the position of the microscope is adjusted to a second position characterized by H and a second overlap value (OverlapY), and an image of a second defined region is captured, and the second The area and the first area share image data included in the overlapping area defined by OverlapY.

効果的に、この方法の前記決定するステップは、隣接する複数の領域の間の重複領域のいずれかに含まれるイメージ・データに対して実行される。あるいは、この方法の前記決定するステップは、隣接する複数の領域の間の重複領域の両方に含まれるイメージ・データに対して実行される。   Effectively, the determining step of the method is performed on image data contained in any of the overlapping areas between adjacent areas. Alternatively, the determining step of the method is performed on image data included in both overlapping regions between adjacent regions.

領域イメージ・ブロックと次の隣接する領域イメージ・ブロックとに対する相対位置オフセット値と相関係数との前記集合は、正規化された相関サーチによって決定され、それぞれの領域イメージ・ブロックに関連する相対位置オフセット値と相関係数との前記集合は、当該領域イメージ・ブロックに対応するデータ・セットとして記憶される。前記領域イメージ・ブロックの部分集合は、ディスプレイにおける観察のために提供され、それぞれのブロックをその次の隣接するブロックに対して前記ブロックに対して決定された相対位置オフセット値の前記集合に従って位置決めすることにより、次の隣接する領域イメージ・ブロックの重複部分が結合される。   The set of relative position offset values and correlation coefficients for a region image block and the next adjacent region image block are determined by a normalized correlation search and are relative positions associated with each region image block. The set of offset values and correlation coefficients is stored as a data set corresponding to the region image block. A subset of the region image blocks is provided for viewing on the display and positions each block relative to its next adjacent block according to the set of relative position offset values determined relative to the block. Thus, overlapping portions of the next adjacent region image block are combined.

別の側面では、本発明は、仮想顕微鏡スライドを表すデジタル・データを画像化する観察システムとして、また、領域イメージを相互にシームレスに結合して前記観察システムの視野を定義する複合イメージを作成する方法として特徴付けることができる。この点では、本発明による方法は、物理顕微鏡スライドを、複数の複合領域イメージのマトリクスに分割するステップであって、それぞれの領域イメージは前記マトリクスの中にロー及びカラム・インデクス位置を有する、ステップと、前記物理顕微鏡スライドを、選択された対物レンズを用いて、前記対物レンズの視野が1つの複合領域イメージのサイズに等しくなるように、走査するステップと、現在の領域イメージと、次の隣接する領域イメージの特定された部分とを、前記2つのイメージが前記特定された部分においてイメージ・データを共有するように、重複させるステップと、前記現在のイメージとその次の隣接するイメージとに対するオフセット値の集合を決定して、前記現在のイメージに対する重複部分が前記次の隣接するイメージの重複部分と高度に相関するようにするステップと、前記次の隣接するイメージと合成された前記現在のイメージを、現在表示されているイメージのオフセット値を考慮せずに表示するステップと、を含む。この方法は、更に、前記決定されたオフセット値に基づく前記重複部分に対する相関係数の生成を更に含む。   In another aspect, the present invention is an observation system that images digital data representing a virtual microscope slide and creates a composite image that defines the field of view of the observation system by seamlessly combining region images with each other. It can be characterized as a method. In this respect, the method according to the invention comprises the step of dividing the physical microscope slide into a matrix of a plurality of composite area images, each area image having a row and column index position in said matrix. Scanning the physical microscope slide with the selected objective lens such that the field of view of the objective lens is equal to the size of one composite area image, the current area image, and the next adjacent Overlapping a specified portion of a region image to be overlapped such that the two images share image data in the specified portion, and an offset to the current image and its next adjacent image Determine a set of values, and the overlap for the current image is the next adjacent Making the image highly correlated with overlapping portions of the image; displaying the current image synthesized with the next adjacent image without considering the offset value of the currently displayed image; including. The method further includes generating a correlation coefficient for the overlapping portion based on the determined offset value.

本発明の効果を生じさせる特徴として、仮想顕微鏡スライドの現在用いられている視野を表すのに前記複合領域イメージの中のどの特定のイメージが必要なのかを評価するステップと、前記複合領域イメージの中の前記特定のイメージを、オフセット値の前記対応する集合と関連する相関係数と共に検索するステップと、検索された領域イメージを、前記マトリクスの中のその公称のインデクス位置に従ってビューワの中で発見するステップと、次の隣接するイメージの相関係数値とスレショルド値とを比較するステップと、前記スレショルド以上の相関係数値を有する次の隣接する複数のイメージの間の正の接続基準を定義するステップと、次の隣接するイメージの重複部分が前記2つの次の隣接イメージの間のシームレスなエッジを定義するように、前記検索されたイメージを相互に配置するステップと、を更に含む。 The features that produce the effect of the present invention include the step of evaluating which particular image in the composite region image is required to represent the currently used field of view of the virtual microscope slide; Searching the particular image in with a correlation coefficient associated with the corresponding set of offset values and finding the searched region image in the viewer according to its nominal index position in the matrix Comparing a correlation coefficient value and a threshold value of a next adjacent image, and defining a positive connection criterion between a plurality of next adjacent images having a correlation coefficient value equal to or greater than the threshold. And the overlap of the next adjacent image defines a seamless edge between the two next adjacent images So that the further comprises, placing said retrieved images with each other.

接続されたコンポーネントのラベル付けアルゴリズムが、前記複数の領域イメージに適用され、共通のアルゴリズム的なラベルが、関連する正の接続基準を有する領域イメージ・ブロックに割り当てられる。共通のアルゴリズム的なラベルを有するイメージ・ブロックが、接続されたコンポーネントに形成される。現在のイメージ・ブロックと次の隣接するイメージ・ブロックとのいずれかから、前記重複領域に含まれるデジタル・イメージ・データを表すものとして1つの重複領域が選択され、前記検索されたイメージは、前記2つの隣接したイメージの間のシームレスなエッジを定義するように、相互に位置決めされる。   A connected component labeling algorithm is applied to the plurality of region images, and a common algorithmic label is assigned to a region image block having an associated positive connection criterion. An image block with a common algorithmic label is formed on the connected components. From one of the current image block and the next adjacent image block, one overlapping area is selected to represent the digital image data included in the overlapping area, and the retrieved image is Positioned relative to each other to define a seamless edge between two adjacent images.

本発明は、また、顕微鏡の光学視野の中を移動可能な物理材料サンプル・スライドが観察及びイメージ捕捉のために支持されているタイプの顕微鏡システムとして実現することができる。このシステムは、それぞれが対応する倍率を有する複数の顕微鏡対物レンズを保持する回転可能なターレットを含む顕微鏡を含む。このシステムは、更に、直交する平面軸に沿って移動可能であり、ロボット制御されるサンプル・ステージと、前記軸のそれぞれに沿って、当初のインデクス位置に対する前記ステージの現在の位置を決定する手段とを含む。   The present invention can also be implemented as a type of microscope system in which a physical material sample slide that is movable in the optical field of view of the microscope is supported for viewing and image capture. The system includes a microscope that includes a rotatable turret that holds a plurality of microscope objectives each having a corresponding magnification. The system further includes a sample stage that is movable along orthogonal plane axes and is robot controlled and means for determining the current position of the stage relative to the original index position along each of the axes. Including.

前記ステージに結合されているプロセッサが、物理スライドがメモリ・データ記憶装置の中へのデジタル・データとして走査されるようにステージ移動を制御し、前記物理スライドは、複数の複合イメージ・ブロックのマトリクスとして表され、それぞれのイメージ・ブロックは前記マトリクスの中の対応するロー及びカラム位置を有する。それぞれのイメージ・ブロックは、第1及び第2の方向の寸法によって特徴付けられ、前記プロセッサにより、次の隣接するイメージ・ブロックは、それらのイメージ・ブロックの間に特定され再生可能な重複部分が生じるように走査される。   A processor coupled to the stage controls stage movement such that the physical slide is scanned as digital data into a memory data store, the physical slide comprising a matrix of a plurality of composite image blocks Each image block has a corresponding row and column position in the matrix. Each image block is characterized by dimensions in the first and second directions, and the processor allows the next adjacent image block to be identified between those image blocks and to have a reproducible overlap. Scanned to occur.

このシステムは、更に、相関プロセッサを更に備えており、前記相関プロセッサは、次の隣接するイメージ・ブロックの間に前記第1及び第2の方向に沿ったオフセット値を決定し、前記オフセット値は、前記次の隣接するイメージ・ブロックを、これらのイメージ・ブロックの重複部分がシームレスなエッジ領域として現れるように相互に位置決めするのに必要な相対位置決めベクトルを定義する。   The system further comprises a correlation processor that determines an offset value along the first and second directions during the next adjacent image block, the offset value being Define a relative positioning vector required to position the next adjacent image blocks relative to each other such that overlapping portions of these image blocks appear as seamless edge regions.

前記複合イメージ・ブロックの前記マトリクスの一部を、前記物理スライドの高解像度の部分イメージとして表示するのに適したビューワが、マイクロプロセッサの動作制御の下にあるイメージ合成手段であって、観察のために複合的なイメージ・ブロックを提供し、それらの定義された相対位置決めベクトルに従って次の隣接するブロックを相互に合成するイメージ合成手段を含みうる。前記イメージ合成手段は、前記ビューワにおいて所望の視野を構築するのに必要なイメージ・ブロックだけを合成し、更に、ユーザが前記第1及び第2の方向に沿った新たな視野への移動を生じさせるときには、結果的なイメージ・ブロックを1つの視野に合成するように動作する。 A viewer suitable for displaying a portion of the matrix of the composite image block as a high resolution partial image of the physical slide is an image compositing means under microprocessor operation control, comprising: In order to provide a composite image block for this purpose, it can include image composition means for compositing the next adjacent blocks with each other according to their defined relative positioning vectors. The image synthesizing means synthesizes only the image blocks necessary for constructing a desired field of view in the viewer, and further causes the user to move to a new field of view along the first and second directions. When doing so, it operates to combine the resulting image blocks into a single field of view.

本発明の以上の及びそれ以外の特徴、側面及び効果は、以下の詳細な説明と冒頭の特許請求の範囲と添付の図面とを考慮することによって、より明らかになるはずである。   The above and other features, aspects and advantages of the present invention will become more apparent upon consideration of the following detailed description, the appended claims and the accompanying drawings.

ここで説明される様々な実施例は、上手に縫い合わされた仮想的な顕微鏡スライドを作成するシステム及び方法を提供する。ある実施例のある特定の側面では、それぞれのイメージと次のイメージとの最適な相対アライメントが計算される。計算された最適な相対アライメントは、次に、動的な合成(stitching、縫い合わせ)システムによって用いられ、例えば、イメージ・ビューワにおいて、適切に縫い合わされた複数のイメージを提供する。この動的な合成システムは、ソフトウェア及びファームウェア技術における当業者であれば理解するように、ソフトウェアとハードウェアとのいずれか一方において実現することができ、又は、これら2つの組合せにおいて実現することができる。   The various embodiments described herein provide systems and methods for creating well stitched virtual microscope slides. In certain aspects of an embodiment, an optimal relative alignment between each image and the next image is calculated. The calculated optimal relative alignment is then used by a dynamic stitching system to provide a plurality of properly stitched images, for example in an image viewer. This dynamic synthesis system can be implemented in either software or hardware, or a combination of the two, as will be appreciated by those skilled in the software and firmware arts. it can.

観察プロセスの間に、この動的な合成システムは、現在観察されているイメージに寄与するイメージの様々なブロックのための最適なアライメント(位置合わせ)を決定する。観察されている領域に寄与するイメージ・ブロックのそれぞれに対する相対的なアライメントが、他のブロックに対する相対的なアライメントとの比較において調べられる。現時点で観察されていない領域に寄与しないイメージ・ブロックを無視することにより、ブロックのアライメントを行う際に、合成システムがより柔軟性を有することが可能となる。位置決めオフセットの最適化された集合が観察領域に対して決定され、現在の観察領域に寄与するイメージのブロックは、最適に相互に縫い合わせられる(スティッチされる、合成される)。現在の視野が変化すると、新たな視野を満たすためにイメージの追加的なブロックの提供が必要となり、動的な合成システムが再びコールされ、新たな観察領域に寄与する新たなブロックのための新たな最適な位置オフセットが決定される。   During the viewing process, this dynamic composition system determines the optimum alignment for the various blocks of the image that contribute to the currently viewed image. The relative alignment for each of the image blocks that contribute to the area being observed is examined in comparison with the relative alignment for the other blocks. By ignoring image blocks that do not contribute to areas not currently observed, the synthesis system can be more flexible when aligning blocks. An optimized set of positioning offsets is determined for the viewing area, and the blocks of the image that contribute to the current viewing area are optimally stitched together (stitched, synthesized). As the current field of view changes, it will be necessary to provide additional blocks of images to fill the new field of view, and the dynamic compositing system will be called again, and new blocks for new blocks that contribute to the new viewing area. The optimal position offset is determined.

現時点で観察されている領域に限定された最適なアライメント決定を行うことによって、うまく縫い合わされた仮想スライドを作成する能力が、速度と性能との両面で著しく改善される。従来のシステムは、アプリオリなベースで、ここでは「大域的な合成」と称するプロセスにおいて、単一の大域的に(globally)合成されたイメージを作成しようとした。実際、そのようなイメージを表示しようとする試みがなされる前に、すべてのイメージ・ブロックが処理され、すべてのオフセットが決定され、「完全な」イメージが構想された。しかし、単一の大域的に合成されたイメージを作成しようという試みは、非常に高精度の機械的システムを用いたとしても、解決が非常に困難な問題である。非テレセントリック性や非平坦性など、顕微鏡光学システムのいくつかの広く知られた特徴であるひずみ特性が原因で、イメージの空間的なひずみを結果的に生じる倍率の変化が生じてしまうのである。   By making optimal alignment decisions limited to the area currently observed, the ability to create well stitched virtual slides is significantly improved in both speed and performance. Prior systems sought to create a single globally synthesized image on an a priori basis in a process referred to herein as “global synthesis”. In fact, before attempting to display such an image, all image blocks were processed, all offsets were determined, and a “perfect” image was envisioned. However, an attempt to create a single globally synthesized image is a very difficult problem to solve, even with a very accurate mechanical system. Due to distortion characteristics, which are some well-known features of microscope optical systems, such as non-telecentricity and non-flatness, a change in magnification that results in spatial distortion of the image results.

単一のイメージの光学的ひずみの絶対度数は多くの場合に非常に小さく、例えば、1ピクセルのオーダーなのであるが、光学的なひずみはその性質上、線形ではない。複数のイメージ・ブロック(多くの場合が数百、時には数千)を大域的な合成システムを用いて相互に合成しようとすると、このようなタイプの誤差は累積的であり、イメージを歪めない技術を導入せずには大域的な合成は不可能である。イメージの歪み解消は、それ自体が問題点を有している。例えば、計算論的な負担が大きく、イメージの解像度が低下し、結果的なイメージを走査プロセスと平行させることが非常に困難である。   The absolute frequency of optical distortion of a single image is often very small, for example on the order of one pixel, but the optical distortion is not linear in nature. When trying to synthesize multiple image blocks (often hundreds and sometimes thousands) together using a global synthesis system, this type of error is cumulative and does not distort the image. A global synthesis is not possible without introducing. Resolving image distortion has its own problems. For example, the computational burden is high, the resolution of the image is reduced, and it is very difficult to make the resulting image parallel to the scanning process.

幸運にも、ほとんどの画像化アプリケーションでは、大域的に合成された「マスタ・イメージ」の作成は必要でないのが一般的である。しかし、必要となるのは、人間又は画像化プログラムが見ている特定の視野が縫い合わされなければならないということである。観察パラダイムを、新たな視野がビューワのユーザに要求される際には、うまく縫い合わされた態様で提供される単一の視野を作成するものに変更することによって、この問題は劇的に変化する。アプリオリの計算論的な負担が大きな大域的なプロセスとは異なり、本発明による方法は、現在の視野に寄与するイメージだけを縫い合わせなければならない、と考えているのである。   Fortunately, most imaging applications generally do not require the creation of a globally synthesized “master image”. However, what is needed is that the particular field of view that a human or imaging program is viewing must be stitched together. By changing the observation paradigm to one that creates a single field of view provided in a well-stitched manner when a new field of view is required by the viewer user, this problem changes dramatically. . Unlike global processes, which have a large a priori computational burden, the method according to the present invention considers that only images that contribute to the current field of view must be stitched together.

この出願で説明され示される様々な実施例は、従来技術によって採用されていた既存のシステムと比較して多くの利点を有している。例えば、「画像化」は、「局所的」なベースで実行されるので、大域的な合成を損なう累積的な誤差を排除することができる。大域的な縫い合わせ(合成)が要求されないため、従来技術の計算論的に負担の大きな処理技術の多くが不要となる。従って、イメージのゆがみを修正する又はイメージの投影技術は、厳しい状況でだけ用いられればよい。   The various embodiments described and shown in this application have many advantages over existing systems that have been employed by the prior art. For example, “imaging” is performed on a “local” basis, thus eliminating cumulative errors that impair global synthesis. Since global sewing (synthesizing) is not required, many of the processing techniques that are computationally burdensome in the prior art become unnecessary. Thus, image distortion correction or image projection techniques need only be used in severe situations.

本発明のある実施例では、イメージ・ブロックは仮想スライド画像化装置から取得されるので(イメージが走査されるときに)、イメージ・ブロックは、顕微鏡走査システムの一部として提供されるプロセッサの中に存在する圧縮システムと相対イメージ一致システムとに同時に送られる。圧縮システムと相対一致システムとは、ソフトウェア、ファームウェア、ハードウェアの中のいずれか及びこれらの組合せにおいて実現される。顕微鏡システムの一部を構成するものとして説明しているが、画像一致システムは、イメージ観察システム(「ビューワ」とも称される)の一部として提供されるプロセッサの中にでも容易に実現することができる。   In one embodiment of the invention, the image block is obtained from a virtual slide imager (when the image is scanned), so that the image block is in a processor provided as part of a microscope scanning system. Are sent simultaneously to the compression system and the relative image matching system. The compression system and the relative matching system are realized in software, firmware, hardware, or a combination thereof. Although described as part of a microscope system, the image matching system can be easily implemented in a processor provided as part of an image viewing system (also referred to as a “viewer”). Can do.

この技術分野の当業者には広く知られている態様で、圧縮システムは、受け取ったイメージ・ブロックのコンテンツを圧縮し、圧縮されたデータを仮想スライド・ファイルに書き込む。次に、イメージ一致システムは、イメージ・ブロックを受け取り、選択されたイメージの左側のイメージと上側のイメージという2つのイメージに対する最適な相対オフセットを計算する。これらの相対オフセットが計算されると、これらのオフセットは、ディスク・ドライブ、DVD、CD−ROM、それ以外の記憶装置などの揮発性又は不揮発性のメモリに記憶される。   In a manner well known to those skilled in the art, the compression system compresses the contents of the received image block and writes the compressed data to a virtual slide file. The image matching system then receives the image block and calculates an optimal relative offset for the two images, the left image and the upper image of the selected image. Once these relative offsets are calculated, these offsets are stored in volatile or non-volatile memory, such as a disk drive, DVD, CD-ROM, or other storage device.

走査プロセスの終わりに、圧縮されたイメージ・データと相対合成オフセットとは、メモリ記憶装置に書き込まれる。観察プロセスの間、ユーザが特定の観察領域を特定することによってイメージを操作しているときには、合成システム(おそらくは、ビューワのプロセッサの中にある)がコールされ、動的かつ自動的に、走査プロセスの間に計算された相対オフセットを用いて寄与しているイメージに対する最適なアライメント(位置合わせ)を決定する。ユーザは、これにより、シームレスな又はほぼシームレスなイメージ観察経験を得ることができるのである。以上で述べたように、圧縮及び一致システムに関しては、合成(縫い合わせ)システムは、顕微鏡システムの中に配置された又は観察システムと関連するプロセッサの中のハードウェア、ソフトウェア又はファームウェアとして実現することができる。   At the end of the scanning process, the compressed image data and the relative composite offset are written to memory storage. During the viewing process, when the user is manipulating the image by identifying a specific viewing area, the compositing system (possibly in the viewer's processor) is called to dynamically and automatically scan the process. The relative offset calculated during is used to determine the optimal alignment for the contributing image. This allows the user to obtain a seamless or nearly seamless image viewing experience. As mentioned above, with respect to compression and matching systems, the synthesis (stitching) system can be implemented as hardware, software or firmware in a processor located in or associated with the observation system. it can.

以下でより詳細に説明するが、物理スライドは、特に、この物理スライドが大きな倍率で評価されなければならないときには、一連の複数のイメージとして調べられなければならない。40x又は更に高い倍率維持として表現された単一のスライドは、マトリクス形式に配列された複数の(おそらくは数百の)個別の視野走査から構成される。左から右へ移動しローごとにラスタ動作する走査の集合は、位置をベースにしてインデクスが付され、物理スライドの中身のデータ・セット全体が定義される。このようなイメージが捕捉され、マトリクス(モザイク)の中の相対位置に関連付けがなされると、「仮想スライド」が作成される。この仮想スライドでは、デジタル・データが、顕微鏡のアイピースを通じて見ている臨床医によって観察されるアナログ式の光学データに取って代わってそのような光学データを表すのである。このようにして、顕微鏡のそれぞれの視野が1つのイメージ(この出願では、「領域」とも称する)定義し、それぞれの走査の間に、それぞれの定義された領域に対するイメージが取得される。   As will be described in more detail below, a physical slide must be examined as a series of images, particularly when the physical slide must be evaluated at a high magnification. A single slide expressed as 40x or higher magnification maintenance is composed of multiple (possibly hundreds) individual field scans arranged in a matrix format. A set of scans moving from left to right and rastering for each row is indexed based on position, and the entire data set of physical slides is defined. When such an image is captured and associated with a relative position in the matrix (mosaic), a “virtual slide” is created. In this virtual slide, the digital data represents such optical data, replacing analog optical data observed by a clinician looking through the microscope eyepiece. In this way, each field of view of the microscope defines one image (also referred to as “region” in this application), and during each scan, an image for each defined region is acquired.

図1は、本発明の実施例による、顕微鏡スライドの拡大イメージを取得するのに用いられる例示的な画像化システム100の単純化されたほぼ概略的なブロック図である。画像化システム100は、顕微鏡システム10と、カメラ(又は画像化)システム11と、制御プロセッサ20とを適切に含んでいる。顕微鏡システム10は、倍率が変動する2、3、4又は5つの光学対物レンズ又はレンズを支持することができるタイプの、少なくとも1つの回転可能な対物ターレット18を含む。顕微鏡システム10は、更に、コンピュータ制御された顕微鏡ステージ14を含む。顕微鏡ステージ14は、x、y及びz方向に自動的に移動可能であり、x、y及びz並進モータをx、y制御16及びz制御17と称される制御システムを介してステージ・プラットフォームに機械的に結合することによって、ロボット的に制御可能である。適切な光源(図示せず)が顕微鏡ステージ14の下側に配置され、また、顕微鏡ステージ14の上の試料に対する見かけの光源をシフトさせるため、ステージの下での並進運動が可能である。   FIG. 1 is a simplified, generally schematic block diagram of an exemplary imaging system 100 used to obtain a magnified image of a microscope slide, according to an embodiment of the present invention. The imaging system 100 suitably includes a microscope system 10, a camera (or imaging) system 11, and a control processor 20. The microscope system 10 includes at least one rotatable objective turret 18 of the type capable of supporting two, three, four or five optical objective lenses or lenses of varying magnification. The microscope system 10 further includes a computer controlled microscope stage 14. The microscope stage 14 is automatically movable in the x, y and z directions and moves the x, y and z translation motors to the stage platform via a control system called x, y control 16 and z control 17. By mechanically coupling, it can be controlled robotically. A suitable light source (not shown) is placed under the microscope stage 14 and a translational movement under the stage is possible to shift the apparent light source for the sample on the microscope stage 14.

顕微鏡ステージ14の並進運動と光源の強度とは、例えば、制御プロセッサ20上でソフトウェア又はファームウェア・プログラム・アプリケーションとして動作しているソフトウェア・プログラムによって制御可能である。この技術分野の当業者であれば理解することであるが、光源が生じた光を収集し、それをサンプルの方向に向けるコンデンサを提供することができる。   The translational movement of the microscope stage 14 and the intensity of the light source can be controlled, for example, by a software program running as software or a firmware program application on the control processor 20. One skilled in the art will appreciate that a capacitor can be provided that collects the light produced by the light source and directs it in the direction of the sample.

対物ターレット18の回転により、所望の対物レンズが顕微鏡の光学経路の中に移動され、対物レンズの特徴的な倍率を有する試料のイメージが生成される。本発明によると、例えば、4xの対物レンズと20xの対物レンズとを含むターレット18が保持する1又は複数の対物レンズが設けられる。どのような意味でも限定を意味しないが、本発明と共に用いるのに適しているロボット制御される顕微鏡システムの例には、プライア(Prior)H101を備えたオリンパス(Olympus)BX顕微鏡システムが含まれる。オリンパスBX顕微鏡システムは、米国ニューヨーク州メルビル(Melville)所在のオリンパス・アメリカ社によって製造され販売されている。プライアH101ステージは、米国マサチューセッツ州ロックランド(Rockland)所在のプライア・サイエンティフィック社によって製造され販売されている。これ以外の類似のコンピュータ化されたステージを用いることができるが、その例として、米国ニューヨーク州ホーソン(Hawthorne)所在のラドル(Ludl)エレクトロニクス・プロダクツ社によって製造販売されるものがある。   The rotation of the objective turret 18 moves the desired objective lens into the optical path of the microscope, producing an image of the sample having the characteristic magnification of the objective lens. According to the present invention, for example, one or a plurality of objective lenses held by the turret 18 including a 4 × objective lens and a 20 × objective lens are provided. While not meant to be limiting in any way, examples of robotic controlled microscope systems suitable for use with the present invention include the Olympus BX microscope system with Prior H101. The Olympus BX microscope system is manufactured and sold by Olympus America, Inc., Melville, New York. The Praia H101 stage is manufactured and sold by Praia Scientific, Inc., Rockland, Massachusetts. Other similar computerized stages can be used, examples of which are manufactured and sold by Ludl Electronics Products, Inc., Hawthorne, New York.

顕微鏡の対物ターレット18は、ロボット制御可能なモータとモータ・ドライバとの組合せを有し対物ターレットに結合されている焦点/対物制御システム15によって制御され、ターレットを回転させて様々な所望の対物レンズを顕微鏡の光学経路の中に移動させることができる。適切な移動コマンド信号を受け取ると、焦点/対物制御システム15は、回転可能なターレット18を回転させるようにモータに命令することによって、異なる対物レンズ19を顕微鏡システムの光学経路の中に移動させることができる。   The microscope objective turret 18 is controlled by a focus / objective control system 15 which has a combination of a robot controllable motor and motor driver and is coupled to the objective turret to rotate the turret to various desired objective lenses. Can be moved into the optical path of the microscope. Upon receipt of the appropriate move command signal, the focus / objective control system 15 moves the different objective lens 19 into the optical path of the microscope system by commanding the motor to rotate the rotatable turret 18. Can do.

ある例では、X、Y制御16は、x、y及びz方向にステージ14を制御するモータと、そのモータを付勢する適切なモータ・ドライバ回路とを有する。この出願では、x及びy方向は、ステージ14がその中に存在する平面におけるベクトルを意味し、z方向は、x及びyの両方と直交方向であって、垂直又は合焦方向を意味する。ステージの運動を生じさせる機械的な装置と電子制御回路とが実現されるのが好ましく、何らかの形態の開又は閉ループ・モータ位置決めサーボ・システムが含まれていて、ステージ14は、非常な精度をもって位置決めが可能であるか、又は、その並進運動が、x、y及びz方向において非常に正確に決定可能である。ステージ14のx−y平面内での運動を制御する代わりに、又は、そのような運動を制御するのに加えて、顕微鏡12自体は、x−y平面の中での移動が可能である。この代替的な実施例では、顕微鏡の並進運動が制御されるか、又は、その位置がステージ14と同じ精度で、ステージ14と実質的に同じ位置決め装置を用いて決定可能である。   In one example, the X, Y control 16 includes a motor that controls the stage 14 in the x, y, and z directions and a suitable motor driver circuit that energizes the motor. In this application, the x and y directions refer to vectors in the plane in which the stage 14 resides, and the z direction refers to the direction perpendicular to both x and y and the vertical or in-focus direction. Preferably, mechanical devices and electronic control circuits that cause stage movement are implemented, including some form of open or closed loop motor positioning servo system, and stage 14 is positioned with great accuracy. Or its translational motion can be determined very accurately in the x, y and z directions. Instead of controlling the movement of the stage 14 in the xy plane, or in addition to controlling such movement, the microscope 12 itself can move in the xy plane. In this alternative embodiment, the translation of the microscope is controlled or its position can be determined with the same accuracy as the stage 14 and using a positioning device substantially the same as the stage 14.

X及びY制御16が閉ループの態様で動作するように構成されているときには、位置フィードバック情報は、モータ自体から、又は、より高い精度が望まれる場合には、光学的位置エンコーダ若しくはレーザ干渉計位置エンコーダから回復することが可能である。ステージ運動の閉ループ・サーボ制御により、ステージ位置を非常に正確に決定することが可能になり、並進コマンドが非常に高い精度をもって応答されることが保証されるが、このようなことは、運動制御技術における当業者にとっては広く理解されていることである。従って、ステージを50ミクロンだけ正のx方向に並進させるコマンドは、ステージ14を、結果的に、正確に正のx方向に50ミクロンだけ、少なくともこのモータ・システムが機械的分解能の限度まで移動させることになる。   When the X and Y control 16 is configured to operate in a closed loop manner, the position feedback information is either from the motor itself or, if higher accuracy is desired, an optical position encoder or laser interferometer position. It is possible to recover from the encoder. Closed-loop servo control of stage motion allows the position of the stage to be determined very accurately and ensures that translation commands are responded with very high accuracy. This is well understood by those skilled in the art. Thus, a command to translate the stage in the positive x direction by 50 microns results in the stage 14 being moved exactly 50 microns in the positive x direction at least to the limit of the mechanical resolution of the motor system. It will be.

顕微鏡システムが半閉ループ又は開ループの態様で動作するように構成されているときには、ステージ制御はフィードバック自体に依存することはなく、ステージを制御するモータがどこへ行くように命令されているかを正確に定義することが少なくとも必要である。例えば、典型的なステッパ・モータは、並進運動を、「方向」及び「ステップ数」コマンドに依存する一連の「ステップ」として提供する。「ステップ」当たりの並進運動が較正される限り(あるいは、異なって決定されるか、又は、知られている限り)、運動(移動)コマンドは、結果的に、ステージを既知の(又は、計算された)距離だけ、命令された方向に移動させることになる。残るのは、運動コマンドの記録を出発点と共に保存し、顕微鏡ステージの「現在位置」を決定することだけである。   When the microscope system is configured to operate in a semi-closed loop or open loop manner, stage control does not depend on the feedback itself, and it is accurate where the motor controlling the stage is commanded to go. It is at least necessary to define For example, a typical stepper motor provides translational motion as a series of “steps” that depend on “direction” and “number of steps” commands. As long as the translational motion per “step” is calibrated (or determined differently or known), the motion (movement) command results in a known (or calculated) stage. Will be moved in the commanded direction by the distance. All that remains is to save a record of the motion commands along with the starting point and determine the “current position” of the microscope stage.

カメラ・システム11は、図1の実施例に示されているように、メイン・カメラ22と制御電子装置24とを含む。単一のメイン・カメラ22が示されているが、後で詳しく述べるように、複数のメイン・カメラが適切に提供されることもありうる。位置エンコーダがステージ・モータやステージ自体に結合されることがあり、ステージ14の位置を示す信号をメイン・カメラ22又はその制御電子装置24に伝送するように構成されている。このような構成により、ステージ14が連続的に動いている間であっても、カメラがイメージを所望の所定の位置で捕捉することが可能になる。例えば、位置エンコーダは、ステージ14が移動した距離をモニタして(又は、開ループや半閉ループ・システムの場合には運動コマンド)、所定の信号を、ステージが数ミクロン移動するたびに所定の信号を送信する。メイン・カメラ22は、例えば、ロータリ又は線形スケール・エンコーダなどの位置決めフィードバック装置から受け取られたそのような電気信号の集合又は部分集合に応答してイメージを捕捉し、規則的な間隔で顕微鏡スライドのイメージを生じるように構成されている。   The camera system 11 includes a main camera 22 and control electronics 24 as shown in the embodiment of FIG. Although a single main camera 22 is shown, multiple main cameras may be provided as appropriate, as will be described in detail later. A position encoder may be coupled to the stage motor or the stage itself, and is configured to transmit a signal indicating the position of the stage 14 to the main camera 22 or its control electronics 24. With such a configuration, the camera can capture an image at a desired predetermined position even while the stage 14 is continuously moving. For example, the position encoder monitors the distance traveled by the stage 14 (or a motion command in the case of an open loop or semi-closed loop system) and sends a predetermined signal every time the stage moves several microns. Send. The main camera 22 captures images in response to a set or subset of such electrical signals received from a positioning feedback device, such as a rotary or linear scale encoder, for example, at regular intervals. Configured to produce an image.

ある特定の例では、スライドの走査軸に沿って設置された線形エンコーダが、制御システムに絶対位置フィードバックを提供して、イメージ捕捉のための正確な周期的信号を生成する。これらの周期的信号は、高速の一貫した断面イメージ捕捉のための、カメラへの外部トリガとして作用する。この実施例は、多くの位置決め誤差の問題を解決しているが、それは、例えば、カメラのイメージ平面に対するスライドの実際の機械的位置への電気制御信号の真の変換に関連する以下のような誤差である(電気的に命令された位置から、その命令された位置への位置決めシステムの実際の機械的応答までの位置の差異)。この実施例は、また、リード・ネジの反復的使用、緩いカップリング、摩擦、環境問題などに起因して生じる機械的ハードウェアの周期的な劣化に対する保護を提供する。   In one particular example, a linear encoder located along the scan axis of the slide provides absolute position feedback to the control system to generate an accurate periodic signal for image capture. These periodic signals act as external triggers to the camera for fast and consistent cross-sectional image capture. This embodiment solves a number of positioning error problems, for example, relating to the true conversion of electrical control signals to the actual mechanical position of the slide with respect to the image plane of the camera as follows: Error (the difference in position from the electrically commanded position to the actual mechanical response of the positioning system to that commanded position). This embodiment also provides protection against periodic degradation of mechanical hardware caused by repetitive use of lead screws, loose coupling, friction, environmental issues, and the like.

あるいは、メイン・カメラ22は、規則的な時間間隔で、又は、モータへ送信されるパルスに基づいて、イメージを捕捉するように構成することもできる。例えば、ステッパ又はリニア・モータに送られる制御パルスを用いることができる。これらは、例えば、絶対又は相対出力パルスを生成してイメージ捕捉のためにカメラをトリガする電子カウンタ回路を介して与えられるそのままのトランジスタ・トランジスタ・ロジック(TTL)の信号パルスであったり、増幅された制御パルスであったりする。上述したようにステッパ・コントローラ・パルス生成器を介して生成されたTTLステップ及び命令信号は、エンコーダ・フィードバック・チャネルを介してコントローラにフィードバックされうる。この構成では、一体化されたリアルタイムの「パルス・カウンタ」がパルスをカウントして、カメラのための周期的なパルス化された出力を生成する。この技術は、運動の方向に基づいてイメージを捕捉する双方向又は一方向出力トリガ・パルス制御のためのコントローラへの入力として、モータ指向性信号出力と共に用いられる。あるいは、時計回り又は反時計回りの動作モードをモータ制御に用い、指向性パルスを、運動と同期した周期的なカメラのトリガのために、コントローラに戻すことができる。   Alternatively, the main camera 22 can be configured to capture images at regular time intervals or based on pulses sent to the motor. For example, a control pulse sent to a stepper or linear motor can be used. These are, for example, raw transistor-transistor logic (TTL) signal pulses that are provided via an electronic counter circuit that generates absolute or relative output pulses and triggers the camera for image capture, or is amplified. Or a control pulse. The TTL step and command signal generated via the stepper controller pulse generator as described above can be fed back to the controller via the encoder feedback channel. In this configuration, an integrated real-time “pulse counter” counts the pulses to produce a periodic pulsed output for the camera. This technique is used in conjunction with a motor directional signal output as an input to a controller for bidirectional or unidirectional output trigger pulse control that captures an image based on the direction of motion. Alternatively, a clockwise or counterclockwise mode of operation can be used for motor control, and directional pulses can be returned to the controller for periodic camera triggers synchronized with motion.

本発明のある側面では、合焦(focusing)は、対応するz制御回路17の制御の下で、ステージ14をz方向に僅かな偏位を生じさせることによって、実行される。合焦の間の相対運動量は正味のz並進運動の間の相対運動量よりも著しく小さいので、焦点回路17は、z軸ステージ並進モータと並列に動作する適切なモータ・ドライバ回路によって制御されるマイクロステッピング・モータを含む。従って、z軸ステージ並進モータには、より大きな正味の応答特性が与えられ、よって、このモータは、試料の垂直方向の光学的断面化が可能である。すなわち、試料に対して垂直方向に通過するように配置されている様々な水平方向の面の上にある試料を見ることができ、同時に、合焦モータは、それぞれのイメージ平面を適切に合焦するのに必要な微小運動を提供することができる。   In one aspect of the invention, focusing is performed by causing the stage 14 to slightly shift in the z direction under the control of a corresponding z control circuit 17. Since the relative momentum during focusing is significantly less than the relative momentum during net z translation, the focus circuit 17 is a micro controlled by a suitable motor driver circuit operating in parallel with the z-axis stage translation motor. Includes stepper motor. Thus, the z-axis stage translation motor is provided with a greater net response characteristic, and thus the motor is capable of optical sectioning of the sample in the vertical direction. That is, the sample can be viewed on various horizontal planes that are arranged to pass vertically to the sample, and at the same time, the focus motor properly focuses each image plane. It can provide the micromotion necessary to do this.

別の実施例では、合焦は、焦点/対物制御システム15の制御の下で、対物ターレット18をz方向に僅かに偏位させることによって、実行される。例えば、圧電トランスデューサは、対物ターレット18とそれに対応する対物レンズ19とを圧電増幅器から受け取られた信号に応答して僅かに偏位させることによって、合焦を実行することができる。   In another embodiment, focusing is performed by slightly deflecting the objective turret 18 in the z direction under the control of the focus / objective control system 15. For example, the piezoelectric transducer can perform focusing by slightly deflecting the objective turret 18 and its corresponding objective lens 19 in response to a signal received from the piezoelectric amplifier.

照明回路(図示せず)が、従来型の態様で、照明光源の強度を制御する。
メイン・カメラ22は、好ましくは、高い解像度及び高いデータ・レートで動作する高解像度のカラー・デジタル・カメラである。この実施例では、JAICV−M7CL+カメラを使用することが想定されているが、本発明の範囲内で、これに匹敵する画質と解像度とを有する他のカメラを用いることも可能である。メイン・カメラ22によって捕捉されたイメージは、カメラリンク・カードなどの制御電子装置24を介して、制御プロセッサ20に送られる。この技術分野の当業者には周知のように、カメラリンク・カードは、特定のプロトコルと物理インターフェースとをサポートするデジタル・カメラとのインターフェースを行う。本発明では、これ以外のプロトコル及び物理インターフェースも可能であり、ここで説明される特定のインターフェースは、いかなる意味においても限定を意味しない。
An illumination circuit (not shown) controls the intensity of the illumination light source in a conventional manner.
The main camera 22 is preferably a high resolution color digital camera that operates at high resolution and high data rate. In this embodiment, it is assumed that a JAICV-M7CL + camera is used, but other cameras having image quality and resolution comparable to this can be used within the scope of the present invention. Images captured by the main camera 22 are sent to the control processor 20 via control electronics 24 such as a camera link card. As is well known to those skilled in the art, a camera link card interfaces with a digital camera that supports a specific protocol and physical interface. Other protocols and physical interfaces are possible with the present invention, and the specific interfaces described herein are not meant to be limiting in any way.

制御プロセッサ20は、IBMタイプのx86パーソナル・コンピュータ・システムなどの小型プラットフォーム・コンピュータ・システムとして実現可能であるが、顕微鏡システムを動作させるのに必要なコマンド及び制御信号を生じさせるのに適したアプリケーション・ソフトウェア・プログラムのホストとなるデータ処理とプラットフォーム性能とを有する。制御プロセッサ20には、イメージ処理機能を実行することができる特別のソフトウェア又は回路が含まれる。例えば、制御プロセッサ20は、イメージ解析を実行し、コントラスト、エントロピ及び先鋭度などの測定値を取得する。制御プロセッサ20は、また、デジタル・イメージを操作し合成することができる特別のソフトウェア又は回路を含む。制御プロセッサ20は、マウスやキーボードなど従来型の入力デバイスにおいてシステム・ユーザが生じるコマンドを受け取り解釈することができ、また更に、ユーザが定義したコマンドを、顕微鏡システムの様々なコンポーネントを操作するのに適した信号に変換することが可能である。   The control processor 20 can be implemented as a small platform computer system such as an IBM type x86 personal computer system, but is suitable for generating the commands and control signals necessary to operate the microscope system. • Data processing and platform performance to host software programs. The control processor 20 includes special software or circuitry that can perform image processing functions. For example, the control processor 20 performs image analysis and obtains measurements such as contrast, entropy and sharpness. The control processor 20 also includes special software or circuitry that can manipulate and synthesize digital images. The control processor 20 can receive and interpret commands generated by a system user on a conventional input device such as a mouse or keyboard, and can further manipulate user-defined commands to operate various components of the microscope system. It can be converted into a suitable signal.

制御プロセッサ20は、典型的には、シリアル・インターフェース、ペリフェラル・コンポーネント・インターコネクト(PCI)インターフェース、顕微鏡システムを動作させる様々な制御電子装置が接続されているシステム・インターフェースを定義する多数の別の結合インターフェースの中の任意のインターフェースなどを介して、顕微鏡システム100と結合されている。   The control processor 20 typically includes a serial interface, a peripheral component interconnect (PCI) interface, and a number of other couplings that define the system interface to which the various control electronics that operate the microscope system are connected. The microscope system 100 is coupled via an arbitrary interface among the interfaces.

本発明の実施例は、正確な機械的位置決めに極度に依存することはなく、計算論的な要求が従来技術と比較してはるかに小さな仮想スライドを構築するための改善されたシステム及び方法を提供する。   Embodiments of the present invention provide an improved system and method for constructing virtual slides that are extremely independent of accurate mechanical positioning and whose computational requirements are much smaller compared to the prior art. provide.

図2は、本発明に従って顕微鏡スライドのイメージを生成する方法の一例の流れ図300である。これに関して、図3は、顕微鏡スライドSの関心領域(ROI)の例であり、この例では、2つのロー(ローI及びローII)に配列された4つのイメージ501、502、503及び504が、例えばユーザのために、ビューワの上に与えられるイメージを構成している。これらのイメージの位置は、ステージ14のX及びY制御16によって決定される。   FIG. 2 is a flowchart 300 of an example method for generating an image of a microscope slide in accordance with the present invention. In this regard, FIG. 3 is an example of a region of interest (ROI) of the microscope slide S, in which four images 501, 502, 503 and 504 arranged in two rows (row I and row II) are shown. For example, for the user, the image provided on the viewer is constructed. The position of these images is determined by the X and Y controls 16 of the stage 14.

図2を図3と共に参照すると、走査の間、スライドの複数の領域が定義される。それぞれの領域は、顕微鏡の対物レンズの視野の幅と高さとにほぼ等しい幅Wと高さHとを有している。顕微鏡の対物レンズは、当初は、視野の中心がスライドの1つのエッジの上にある点P1(0,y0)に配置されるように位置決めされる。点P1は、この場合には、ローIの当初の位置にある。ステップ312(図2)では、領域501に対応するイメージがローIに取得されるが、これは、幅Wと高さHとを有している。ステップ313では、X及びY制御16が、ステージ14を対物レンズに対して移動させ、点P1は、(W−OverlapX)に等しい距離だけ離れたP2まで移動する。当業者には明らかなことであるが、点P1を点P2に調整するために、対物ターレット18もまたスライドに対して移動され、同様に後述するようなそれ以外の移動も生じる。   Referring to FIG. 2 in conjunction with FIG. 3, multiple regions of the slide are defined during scanning. Each region has a width W and a height H approximately equal to the width and height of the field of view of the objective lens of the microscope. The objective of the microscope is initially positioned so that it is located at a point P1 (0, y0) where the center of the field of view is above one edge of the slide. Point P1 is in this case the original position of row I. In step 312 (FIG. 2), an image corresponding to region 501 is acquired in row I, which has a width W and a height H. In step 313, the X and Y control 16 moves the stage 14 relative to the objective lens, and the point P1 moves to P2, which is separated by a distance equal to (W-OverlapX). As will be apparent to those skilled in the art, to adjust point P1 to point P2, objective turret 18 is also moved relative to the slide, as well as other movements as described below.

本発明の文脈では、「OverlapX」は、隣接する複数のイメージの間でx軸方向に生じる重複(オーバラップ)をほぼ特定する予め定められた数値である。この数値はできるだけ小さなことが好ましく、一般的には、少なくとも、x方向のサーチ半径(ここでは、「サーチRX」と称する)とイメージ領域エッジの間の意味のある一致のために必要な最小面積とを加算した値よりも大きくなければならない。サーチ半径のサイズは、システムの機械的精度の関数である。そして、最小一致面積は、この光学システムの解像度と見られているスライドのコンテンツを構成する組織の外形のサイズとに依存する。逆に、システムの機械的精度は、例えば、振動、コンピュータ制御されたステージ14の公差、それ以外の機械的なシステム上の不連続性など、位置的な精度を損なう累積的な誤差に依存する。サーチRXの適切な値の一例は16ピクセルであり、例示的なOverlapXの適切な値は48ピクセルである。   In the context of the present invention, “OverlapX” is a predetermined numerical value that almost specifies an overlap (overlap) that occurs in the x-axis direction between a plurality of adjacent images. This number should preferably be as small as possible, generally at least the minimum area required for a meaningful match between the search radius in the x direction (herein referred to as “search RX”) and the image region edge. Must be greater than the sum of The size of the search radius is a function of the mechanical accuracy of the system. The minimum matching area depends on the resolution of the optical system and the size of the outer shape of the tissue that constitutes the content of the slide being viewed. Conversely, the mechanical accuracy of the system depends on cumulative errors that impair the positional accuracy, such as vibrations, computer controlled stage 14 tolerances, and other mechanical system discontinuities. . An example of a suitable value for the search RX is 16 pixels, and a suitable value for the exemplary OverlapX is 48 pixels.

再び図2に戻ると、ステップ314では、点P2において、領域502に対応するイメージが取得される。ステップ315では、システムは、サンプルに対する顕微鏡対物レンズの位置が走査ローの終点にあるかどうかを調べることにより、走査ロー(この場合は、ローI)の終点に到達したかどうかを判断する。到達していない場合には、システムはステップ313に戻り、現在の走査ローの終点に達するまで(すなわち、ステップ315のクエリへの回答がイエスになるまで)、移動及び取得のステップ313及び314を反復する。いったん走査ローの終点に達すると、システムは、ステップ316において、更に走査するローがあるかどうかを判断する。この例では走査ローIIがあるので、ステップ317において、X及びY制御システム16が、光学装置に対してステージをy方向に(H−OverlapY)の距離だけ位置P3まで移動させる。   Returning again to FIG. 2, in step 314, an image corresponding to region 502 is acquired at point P2. In step 315, the system determines whether the end of the scan row (row I in this case) has been reached by examining whether the position of the microscope objective relative to the sample is at the end of the scan row. If not, the system returns to step 313 to move and acquire steps 313 and 314 until the end of the current scan row is reached (ie, the answer to the query in step 315 is yes). Iterate. Once the end of the scan row is reached, the system determines in step 316 whether there are more rows to scan. Since there is scan row II in this example, in step 317 the X and Y control system 16 moves the stage relative to the optical device in the y direction to a position P3 by a distance of (H-OverlapY).

「OverlapY」は、隣接する複数のイメージの間でy軸方向に生じる重複(オーバラップ)をほぼ特定する予め定められた数値である。この数値はできるだけ小さなことが好ましく、一般的には、少なくとも、y方向のサーチ半径(ここでは、「サーチRY」と称する)と意味のある一致のために必要な最小面積とを加算した値よりも大きくなければならない。サーチRXに関して上述したように、サーチ半径のサイズは、システムの機械的精度の関数である。そして、最小一致面積は、この光学システムの解像度と組織の外形のサイズとに依存する。x軸に関して上述した例と同様に、サーチRYの適切な値の一例は16ピクセルであり、例示的なOverlapYの適切な値は48ピクセルである。   “OverlapY” is a predetermined numerical value that almost specifies an overlap (overlap) that occurs in the y-axis direction between a plurality of adjacent images. This numerical value is preferably as small as possible, and is generally at least a value obtained by adding a search radius in the y direction (herein referred to as “search RY”) and a minimum area necessary for meaningful matching. Must also be large. As described above for search RX, the size of the search radius is a function of the mechanical accuracy of the system. The minimum coincidence area depends on the resolution of the optical system and the size of the outer shape of the tissue. Similar to the example described above with respect to the x-axis, an example of a suitable value for the search RY is 16 pixels and a suitable value for the exemplary OverlapY is 48 pixels.

システム100が位置P3にあるときに、領域503に対応するイメージがステップ314で取得される。そして、システム100は、ステップ313ないし315を反復し、先行する走査ローのx方向とは反対のx方向に(この場合には、この反対のx方向とは、負のx方向である)、位置P4まで、距離(W−OverlapX)だけ移動する。次の領域504に対応するイメージが、次に、ステップ314において取得される。結果として、一連の重複するイメージが得られる。それぞれのイメージのエッジ領域は、x及びyの両方のエッジに沿って次のイメージのエッジ領域と重複する。   When the system 100 is at position P3, an image corresponding to region 503 is obtained at step 314. The system 100 then repeats steps 313-315 in the x direction opposite the x direction of the preceding scan row (in this case, this opposite x direction is the negative x direction), Move to position P4 by a distance (W-OverlapX). An image corresponding to the next region 504 is then acquired in step 314. The result is a series of overlapping images. The edge region of each image overlaps with the edge region of the next image along both x and y edges.

この技術分野の当業者であれば理解することであるが、上述したように位置決めシステムにおける機械的精度の不足に起因して、イメージが実際の捕捉される位置は、X及びY制御16によって決定される位置と正確に同じではない。   As those skilled in the art will appreciate, due to the lack of mechanical accuracy in the positioning system as described above, the actual captured position of the image is determined by the X and Y controls 16. Is not exactly the same as the position to be.

この点に関して、図4は、捕捉されたイメージ501ないし504の実際の位置の例を示しており、走査の間に得られた位置誤差が示されている。これらの誤差は、イメージ取得システムの解像度と運動制御システムの機械的精度とに依存して、小さな場合も大きな場合もありうる。注意すべきであるが、人間の目は、たとえ1ピクセルのオフセット誤差でも知覚することができる。1ピクセル当たり0.22ミクロンの解像度でイメージを分解することができる観測システムでは、1ミクロンの4分の1(250ナノメートル)の誤差であっても、位置決めにおいて知覚可能な誤差を生じさせうる。このシステムは、実際のイメージの位置が図3に表示されているようであると信じているから、図4の実際の位置決めが決定されていない場合には、イメージは、ディスプレイ上で必ずずれている(アライメントがとれていない)ことになる。その結果として、適切なイメージ・アライメントが存在していないことにより、イメージの継ぎ目(シーム)が生じてしまう。   In this regard, FIG. 4 shows an example of the actual position of the captured images 501 through 504, showing the position error obtained during the scan. These errors can be small or large, depending on the resolution of the image acquisition system and the mechanical accuracy of the motion control system. Note that the human eye can perceive even an offset error of one pixel. In an observation system capable of resolving an image with a resolution of 0.22 microns per pixel, even a quarter of a micron (250 nanometer) error can cause a perceptible error in positioning. . Since this system believes that the actual image position appears to be displayed in FIG. 3, if the actual positioning of FIG. 4 has not been determined, the image will always shift on the display. Will be (not aligned). As a result, the lack of proper image alignment results in image seams.

上述したイメージ走査及び捕捉方法は、当業者が、任意の大きさの関心領域を画像化するのに用いることができる。イメージの様々なブロックは、捕捉されると、圧縮サブシステムと一致サブシステムとに同時に送られる。これらのサブシステムは、制御プロセッサ20又は何らかの他のそのようなプロセッサにおいて実装されている。これらのサブシステムは、それぞれ、スレッド又はプロセスなど、1又は複数の別個の実行ユニットを動作させる。これにより、よりよいシステム・パフォーマンス、安定性及びスケーラビリティが得られる。別個のプロセスが、ウィンドウズ(登録商標)NT又は任意のそれ以外のUNIX(登録商標)ライクなシステムなどのメモリを保護するオペレーティング・システムの上の実行ユニットとして用いられる。更に、オーバヘッドの小さなデータ共有機構(例えば、共有メモリ)を用いて、システムの異なる部分の間でイメージ・データを記憶することができる。   The image scanning and capture methods described above can be used by those skilled in the art to image a region of interest of any size. As the various blocks of the image are captured, they are sent simultaneously to the compression subsystem and the matching subsystem. These subsystems are implemented in the control processor 20 or some other such processor. Each of these subsystems operates one or more separate execution units, such as threads or processes. This provides better system performance, stability and scalability. A separate process is used as an execution unit on an operating system that protects memory, such as Windows NT or any other UNIX-like system. In addition, a low overhead data sharing mechanism (eg, shared memory) can be used to store image data between different parts of the system.

これらのサブシステムの中の1つが故障してもシステム全体をダウンさせる可能性は小さいので、安定性は強化されている。より多くの処理ユニット(例えば、プロセッサや、分散されたホストなど)をパラレル型のアーキテクチャで用いることができるから、スケーラビリティは強化されている。   Stability is enhanced because it is unlikely that the entire system will go down if one of these subsystems fails. Scalability is enhanced because more processing units (eg, processors, distributed hosts, etc.) can be used in a parallel architecture.

圧縮サブシステムは、動作的に、走査されたイメージ・ブロックのコンテンツ・データを圧縮することを意図する様々なイメージ圧縮システムを用いることができる。適切なイメージ圧縮システムは、この技術分野で広く知られており、例えば、JPEG、JPEG2000、TIFF、GeoTIFF、PNGなどがある。あるいは、イメージのブロックを、そのままの圧縮されていないフォーマットで、ディスクやそれ以外の記憶装置に書き込むことも可能である。イメージは、個別のブロックを個別に検索可能なフォーマットで記憶されることが好ましい。   The compression subsystem may use various image compression systems that are intended to operatively compress the content data of the scanned image block. Suitable image compression systems are widely known in the art, such as JPEG, JPEG2000, TIFF, GeoTIFF, PNG. Alternatively, the block of images can be written to a disk or other storage device in its uncompressed format. The image is preferably stored in a format that allows the individual blocks to be retrieved individually.

図10は、イメージ・ブロックが、どのようにして、そのような直接的な検索を容易にするロー及びコラム・フォーマットで記憶されるかという一例を示している。図10の例では、イメージ領域ブロックには、イメージ・ブロック(1,2)が、このマトリクスの左下から開始して、ローの位置が2番目(modulo 0から開始して)、カラムの位置が3番目(やはり、modulo 0から開始して)の位置にあるイメージ領域を表すと理解される。TIFF、GeoTIFF、JPEGなどのイメージ圧縮及び記憶フォーマットでは、この技術分野で広く知られているように、そのような直接的な記憶が可能である。   FIG. 10 shows an example of how an image block is stored in a row and column format that facilitates such direct retrieval. In the example of FIG. 10, the image block (1, 2) is the image area block starting from the lower left of the matrix, the row position is second (starting from modulo 0), and the column position is It is understood to represent the image area in the third position (again starting from modulo 0). Image compression and storage formats such as TIFF, GeoTIFF, JPEG, etc. allow such direct storage, as is widely known in the art.

圧縮の間には、解像度がより低いイメージを捕捉して、対応する所望のより解像度が高いイメージと共に記憶することが可能である。このような複数解像度の捕捉及び記憶は、この技術分野では、「解像度ピラミッド」又は「ピラミッド化(pyramiding)」として知られている。このようなことがなされる理由は、例えば、必然的に解像度は低くなる幅の広い視野が、多くの場合に、組織スライドの所望の初期視野であると考えられるからである。臨床医は、まず、幅の広い面積を最初に見て、その後で、全体のイメージの限られた一部だけを高解像度で評価することが必要であると判断するのである。イメージ全体の適切な一部がより低い解像度で利用できる場合には、より大きなサイズのイメージ(結果的に、ファイル・サイズは、より大きい)は伝送する必要がなくなる。   During compression, a lower resolution image can be captured and stored with a corresponding desired higher resolution image. Such multiple resolution capture and storage is known in the art as a “resolution pyramid” or “pyramiding”. This is because, for example, a wide field of view, which inevitably has a lower resolution, is often considered the desired initial field of view of the tissue slide. The clinician first looks at a wide area and then decides that only a limited portion of the entire image needs to be evaluated at high resolution. If an appropriate part of the entire image is available at a lower resolution, a larger size image (and consequently a larger file size) need not be transmitted.

より高解像度を記憶するときには、より低い解像度のイメージからなるここの領域ブロックは相当に小さくなる。この場合には、複数の領域イメージ・ブロックは、複数のイメージの中の1つだけを重複がある領域に寄与することを可能にすることによって、1つのイメージに合成することができる。重複している領域はそれぞれのイメージ・ブロックにおいて同じデータを提供するのであるから、重複している領域に対するデータに寄与するにはただ1つのイメージ・ブロックだけが必要となる。図11は、4つのイメージ・ブロックを合成して1つの中間的なイメージMを形成する場合に、重複領域に寄与している複数のイメージ・ブロックを削除する例を示している。図3の例では、イメージ・ブロック501及び504は重複部分を有しているが、図11の例では、イメージ・ブロック504が、より低い解像度のイメージを作成するために重複部分に寄与する唯一のイメージ・ブロックとして選択されている。   When storing higher resolutions, the area block here consisting of lower resolution images is considerably smaller. In this case, multiple region image blocks can be combined into a single image by allowing only one of the multiple images to contribute to the overlapping region. Since overlapping regions provide the same data in each image block, only one image block is needed to contribute data to the overlapping region. FIG. 11 shows an example in which a plurality of image blocks contributing to the overlapping region are deleted when four image blocks are combined to form one intermediate image M. In the example of FIG. 3, image blocks 501 and 504 have an overlap, whereas in the example of FIG. 11, image block 504 is the only one that contributes to the overlap to create a lower resolution image. Selected as the image block.

同様に、図3の例では、すべての4つのイメージ・ブロックが、中心にあって4つのすべてのイメージが収束している「4つのコーナー」の重複領域Xに寄与している。図11の例では、対照的に、ブロック502は、中心の重複領域X‘への唯一の寄与するブロックとして選択されている。寄与するように選択されるイメージ・ブロックの選択は、複数の方法を用いて決定される。例えば、最良の焦点又は最良のコントラストを有するブロックを任意に選択するとか、単純にソフトウェアによって検索された最初のイメージ・ブロックを選択するなどの方法がある。重複する領域が除去されると、重複の結果として生じるイメージの複製を除去する単一のイメージを作成することができる。   Similarly, in the example of FIG. 3, all four image blocks contribute to the “four corners” overlap region X at the center where all four images converge. In the example of FIG. 11, in contrast, block 502 has been selected as the only contributing block to the central overlap region X ′. The selection of image blocks that are selected to contribute is determined using a number of methods. For example, there are methods such as arbitrarily selecting the block with the best focus or the best contrast, or simply selecting the first image block retrieved by software. Once the overlapping regions are removed, a single image can be created that removes the duplicated image that results from the overlap.

上述したように、圧縮サブシステムに送られるイメージ・ブロックは、また、一致サブシステムにも送られる。イメージのブロックは、一致サブシステムに到着すると、相対的な位置決めに関する評価がなされる。現在のブロックのすぐ左に特定のブロックが存在すると(つまり、現在のブロックは最も左にあるカラムではない場合には)、正規化された相関係数を網羅的に用いて、そのブロックの右側エッジが、現在のブロックの左側エッジに対して左側に一致され、結果的に最良の一致を生じさせるような、つまり、シームの出現を最小化するような、イメージの相対的な位置決めが見つけられる。網羅的な正規化された相関は、この技術分野で周知であり、イメージ統合のための信頼性が高くロバストな方法であることが示されている。計算論的には集中度が高いが、正規化された相関(NGCとも称される)は、空間的に変換されるイメージにおけるパターンを発見するのに適している。   As described above, image blocks sent to the compression subsystem are also sent to the matching subsystem. When the block of images arrives at the coincidence subsystem, it is evaluated for relative positioning. If a particular block exists immediately to the left of the current block (that is, if the current block is not the leftmost column), the normalized correlation coefficient is used exhaustively to the right of that block The relative positioning of the image is found such that the edge is matched to the left with respect to the left edge of the current block, resulting in the best match, i.e. minimizing seam appearance . Exhaustive normalized correlation is well known in the art and has been shown to be a reliable and robust method for image integration. Although computationally highly concentrated, normalized correlation (also referred to as NGC) is suitable for finding patterns in spatially transformed images.

図8は、2つのイメージのブロックに対してそのような網羅的な正規化された相関係数を適用する方法の一例における代表的なステップを図解する流れ図である(例えば、現在のブロックを(x軸に沿って)左側のブロックに一致させる、又は、現在のブロックを(y軸に沿って)すぐ上のブロックに一致させる)。図9のイメージ501のように左側のエッジに一致させるイメージ・ブロック(1M)は、図9の502のような現在のブロックに対して(座標CurX,CurYによって指定される)その開始位置まで、x方向の範囲の中を、サーチ半径X(SearchRX)だけ左右方向に、シーケンシャルに移動される。同様に、一致するイメージ・ブロックは、図8のステップ810及び815に示されているように、サーチ半径Y(SearchRY)だけ、y方向に(上下に)移動される。   FIG. 8 is a flow diagram illustrating exemplary steps in an example method for applying such an exhaustive normalized correlation coefficient to two image blocks (eg, current block ( Match the left block (along the x-axis) or match the current block to the block just above (along the y-axis)). An image block (1M) that matches the left edge, such as image 501 in FIG. 9, is up to its start position (specified by coordinates CurX, CurY) relative to the current block, such as 502 in FIG. Within the range in the x direction, the search radius X (SearchRX) is moved sequentially in the left-right direction. Similarly, the matching image block is moved in the y direction (up and down) by the search radius Y (SearchRY), as shown in steps 810 and 815 of FIG.

CurX及びCurYのそれぞれに対して、図8のステップ825において、相関アルゴリズムが用いられ、相関係数が計算される。最初に、最大相関(MC)値(これは、−1から+1までの範囲の値を有しうる)が設定される。計算された相関係数が最大相関(MC)に対して先に設定された値よりも大きい場合には、ステップ830において、計算された値がMCとして戻され、計算されたx及びyオフセット(ここではBestX及びBestYで示される)がそれぞれCurX及びCurYとして戻される。更に、注意すべきであるが、これは反復的なプロセスであり、CurX及びCurYの戻された値は、ステップ840及び850で示されているように、x及びyサーチ半径(SearchRX及びSearchRY)に対して評価される。 For each of CurX and CurY, in step 825 of FIG. 8, a correlation algorithm is used to calculate a correlation coefficient. Initially, a maximum correlation (MC) value (which can have a value in the range of -1 to +1) is set. If the calculated correlation coefficient is greater than the value previously set for the maximum correlation (MC), then in step 830 the calculated value is returned as MC and the calculated x and y offset ( (Represented here as BestX and BestY) are returned as CurX and CurY, respectively. Furthermore, it should be noted that this is an iterative process and the returned values of CurX and CurY are the x and y search radii (SearchRX and SearchRY), as shown in steps 840 and 850. Is evaluated against.

この反復的なプロセスは、可能性のあるすべての順列が評価されることを保証するためのものであり、また、「合成された全体」に対して結果的に計算されるオフセット・ベクトルが、複数のブロックが合成されたときに、どのような「開かれた領域」のどのようなずれも生じないことを保証することである。更に注意しておくが、一致されるイメージ部分(重複領域)の考えられるサイズ(面積)は、等しいと考えられる。これらは、必然的に、同じ長さ及び高さを有し、定義された位置的な境界の中(x及びy方向について、特定の数のピクセル)で整然と評価される矩形の部分を定義する。   This iterative process is to ensure that all possible permutations are evaluated, and the resulting offset vector for the “synthesized whole” is It is to ensure that no deviation of any “open area” occurs when multiple blocks are combined. It is further noted that the possible size (area) of the matched image parts (overlapping regions) are considered equal. These inevitably define a rectangular part that has the same length and height, and is evaluated orderly within a defined positional boundary (a specific number of pixels in the x and y directions). .

図5に戻って参照すると、計算された相関係数(図8におけるMC)と共に結果的に生じるx及びyオフセット(BestX及びBestY)は、合成されて、拡張された水平オフセット・ベクトル(hOffと示される)を形成する(図5の511)。この技術分野の当業者が図5を見れば理解するように、水平オフセット・ベクトルhOffは、イメージの1つのエッジ(ここでは、水平方向のエッジとして選択する)に沿った、x及びyオフセットの個々の方向ベクトルのベクトル和である。オフセット・ベクトルと相関係数とは関連するデータ値であり、特定のMC値がその対応するオフセット・ベクトルと関連している。 Referring back to FIG. 5 , the resulting x and y offsets (BestX and BestY) along with the calculated correlation coefficient (MC in FIG. 8) are combined and expanded to an expanded horizontal offset vector (hOff and (Shown at 511 in FIG. 5). As those skilled in the art will appreciate by looking at FIG. 5, the horizontal offset vector hOff is the x and y offset along one edge of the image (here chosen as the horizontal edge). It is a vector sum of individual direction vectors. An offset vector and a correlation coefficient are related data values, and a particular MC value is associated with its corresponding offset vector.

この例では、vOffと表される拡張された垂直オフセット・ベクトルは、最適な位置決めを得るために「他の」方向イメージ・エッジ(ここでは、垂直エッジ)との関係でブロック503をブロック502に対して移動させる方向と距離とを定義する位置決めベクトルを表す。注意すべきであるが、拡張されたオフセット・ベクトルhOff及びvOffの大きさは、図5では、寸法通りには示されていない。これらの拡張されたオフセット・ベクトルは、次に、後に再度コールされるために、対応する相関係数と共に、記憶される。現在のブロックの上にブロックが存在する場合には(つまり、現在のブロックが一番上のローにない場合には)、上側のブロックの下側のエッジは、図8に記載されているのと同じ手順によって網羅的な正規化された相関係数を用いて、現在のブロックの上側のエッジと一致される。トップ・イメージが一致させる新たなイメージである(IM)。 In this example, the extended vertical offset vector, denoted vOff, causes block 503 to block 502 in relation to the “other” direction image edge (here vertical edge) to obtain optimal positioning. It represents a positioning vector that defines the direction and distance to be moved. It should be noted that the magnitudes of the expanded offset vectors hOff and vOff are not shown to scale in FIG. These extended offset vectors are then stored along with the corresponding correlation coefficients for later recall. If there is a block above the current block (ie if the current block is not in the top row), the lower edge of the upper block is listed in FIG. Is matched to the upper edge of the current block using the exhaustive normalized correlation coefficient by the same procedure. The top image is the new image to match ( IM ).

この例では、トップ・イメージは図9のブロック503であり、現在のブロックは同じブロック502のままである。結果的なx及びyオフセットは、相関係数と共に、拡張された垂直オフセットvOff(図5の512)として記録される。ベクトルvOffは、上述した場合と同じように、最適な位置決めを得るためにブロック503をブロック502に対して移動させる方向及び距離を定義する位置決めベクトルを表す。図9のブロック501及びブロック503の元のイメージ位置にhOff及びvOffをそれぞれ適用することにより、図5に例示的に示されているイメージ・ブロック501、502及び503の正確に整列された(アライメントがとれた)集合が得られる。それぞれの拡張されたオフセットは、1対の整数とある精度を有する浮遊数によって表される相関係数とによって表されるオフセット・ベクトルで構成される。方法800のステップ825では、適切に得られた一致面積に対する相関が計算され、この場合、一致する面積のサイズは、それぞれの対のイメージ・ブロックに対して一定なままである。   In this example, the top image is block 503 in FIG. 9 and the current block remains the same block 502. The resulting x and y offset is recorded as an extended vertical offset vOff (512 in FIG. 5) along with the correlation coefficient. The vector vOff represents a positioning vector that defines the direction and distance by which the block 503 is moved relative to the block 502 in order to obtain optimal positioning, as in the case described above. By applying hOff and vOff to the original image positions of block 501 and block 503 in FIG. 9, respectively, the image blocks 501, 502 and 503 illustrated in FIG. Set) is obtained. Each extended offset consists of an offset vector represented by a pair of integers and a correlation coefficient represented by a floating number with a certain precision. In step 825 of the method 800, a correlation for a properly obtained matching area is calculated, where the size of the matching area remains constant for each pair of image blocks.

全体の走査が終了した後で、それぞれのイメージ・ブロックは、関連する拡張された垂直オフセットだけでなく、関連する拡張された水平オフセットを有する。これに対する例外は、一番上のローにあり一番左側のカラムを構成するイメージ・ブロックである。必然的に、一番上で一番左のイメージ・ブロックは、関連する拡張されたオフセットを有していない。一番上のローにあるイメージ・ブロックは(上述した一番上で一番左のイメージ・ブロックを除く)、拡張された垂直オフセットだけを有する。これらの拡張されたオフセットは、イメージのブロックと共に、関連するメタデータとして同じファイルに、又は、XMLファイル、バイナリ・ファイル、それ以外の任意の検索可能なファイル・フォーマットで別のメタデータ・ファイルに、記憶される。   After the entire scan is finished, each image block has an associated extended horizontal offset as well as an associated extended vertical offset. The exception to this is the image block in the top row and making up the leftmost column. Naturally, the top leftmost image block does not have an associated extended offset. The image block in the top row (except for the top leftmost image block described above) has only an extended vertical offset. These extended offsets can be in the same file as the associated metadata, along with the block of images, or in a separate metadata file in an XML file, binary file, or any other searchable file format. Memorized.

圧縮サブシステムが複数解像度のイメージ・セットを作成する場合には、より低い解像度のイメージに対する拡張されたオフセットもまた作成され、解像度(拡大)値の比に等しいパーセントだけ、計算されたオフセット・ベクトルの大きさをスケールダウンすることによってセーブされる。例えば、hOffがx方向が4でy方向が6の大きさを有する場合には、50%の解像度のイメージに対するhOffは、x方向が2でy方向が3である。より高い解像度からより低い解像度のオフセットをスケールダウンすることは特に有益である。その理由は、高解像度のイメージから決定された相関係数(及びオフセット)は、低解像度のイメージから決定された相関係数よりも常に正確であるからである。これは、より低い解像度のイメージがより高い解像度のイメージから作成された場合に、特に真実である。 If the compression subsystem creates a multi-resolution image set, an extended offset for the lower resolution image is also created, and the calculated offset vector by a percentage equal to the ratio of the resolution (enlargement) values of the size it is saved by the scale down to Turkey. For example, if hOff has a size of 4 in the x direction and 6 in the y direction, the hOff for an image with 50% resolution is 2 in the x direction and 3 in the y direction. It is particularly beneficial to scale down higher resolution to lower resolution offsets. The reason is that the correlation coefficient (and offset) determined from the high resolution image is always more accurate than the correlation coefficient determined from the low resolution image. This is especially true when lower resolution images are created from higher resolution images.

ユーザは、イメージ・ビューワ装置の上の仮想スライドを見ることを望むことが典型的である。本発明によると、上述した方法と共に用いるのに適したイメージ・ビューワのブロック図が、図12に示されている。この例のイメージ・ビューワ900は、後で詳細に説明する合成サブシステム904を動作的に含むプロセッサ902を含む。このイメージ・ビューワは、更に、イメージ・ブロックがその上でユーザに提供されるディスプレイを含む。イメージは、典型的には、ディスプレイ上のビューワ・ウィンドウ(アプリケーション・ソフトウェアの制御によって形成される)の中に表示される。イメージ・ビューワ900は、更に、プロセッサに結合されたメモリ908を含むが、このメモリは、ディスク・ドライブやCD−ROMなどの不揮発性メモリであったり、あるいは、揮発性メモリであったり、イメージ・ブロックや上述したそれ以外のデータを記憶するのに適したそれ以外のメモリでありうる。   The user typically wants to see a virtual slide on the image viewer device. In accordance with the present invention, a block diagram of an image viewer suitable for use with the method described above is shown in FIG. The image viewer 900 of this example includes a processor 902 that operatively includes a compositing subsystem 904 that will be described in detail below. The image viewer further includes a display on which the image block is provided to the user. The image is typically displayed in a viewer window (formed by application software control) on the display. The image viewer 900 further includes a memory 908 coupled to the processor, which may be a non-volatile memory such as a disk drive or CD-ROM, or a volatile memory, Other memory suitable for storing blocks and other data described above may be used.

イメージ・ビューワは、スタンドアロン装置として、又は、ネットワーク(インターネットやイントラネット)の中のクライアント装置として実現することができる。イメージ・ブロックやデータは、インターネットやイーサネット(登録商標)などのネットワーク・ソースや、ネットワークに付属されたストレージ(NAS)などから得ることができる。見ている間は、メモリ908は、ディスクであってもそれ以外のメモリであっても、ビューワのプロセッサ902によってアクセスされる。あるイメージを見ることを望む場合には、ビューワ・アプリケーションがコールされる。ビューワ・アプリケーションは、ウシンドウズやOS−XなどPCベースのオペレーティング・システムの上で動作するコンパイルされたC++、Java(登録商標)、ビジュアル・ベイシック又はそれ以外の類似にプログラムなどのソフトウェア・アプリケーションとして実現される。ビューワ・アプリケーション・プログラムの一部として実現することができる合成サブシステムは、セーブされたイメージを、ユーザが仮想スライドの全体を走査し、提供された視野が変化するについて、動的に合成する。既に論じたように、合成サブシステムは、ソフトウェアにおいて実装される代わりに、あるいは、ソフトウェアにおいて実装されると共に、「特定アプリケーション向けの」ハードウェアにおけるファームウェアとして実装することができる。   The image viewer can be realized as a stand-alone device or as a client device in a network (Internet or Intranet). The image block and data can be obtained from a network source such as the Internet or Ethernet (registered trademark), or a storage (NAS) attached to the network. While viewing, the memory 908 is accessed by the viewer's processor 902, whether it is a disk or other memory. If it is desired to see an image, the viewer application is called. The viewer application is implemented as a software application such as compiled C ++, Java (registered trademark), Visual Basic, or other similar programs running on a PC-based operating system such as Windows or OS-X Is done. A synthesis subsystem that can be implemented as part of the viewer application program dynamically synthesizes the saved image as the user scans the entire virtual slide and the provided field of view changes. As discussed above, the synthesis subsystem can be implemented as firmware in “specific application” hardware instead of or in software.

見るプロセスの間、ビューワ・アプリケーションは、視野をユーザに表示する。現在対象となっている視野を表すのに必要なイメージ・ブロック(典型的には、1つの視野を表すには、4から9のブロックが必要となる)が、これらのイメージ・ブロックに対する対応する拡張された水平オフセットと拡張された垂直オフセットと共に検索される(そして、オプションであるが、キャッシュ・メモリにキャッシュされる)。部分的なブロックの提出を回避し、視野のエッジにおいてデータをよりよく処理するため、好ましくはパディングが適用され、視野の4つのエッジの周囲に、少なくとも1つの余分のロー又はカラムが与えられる。ここで、合成サブシステムがコールされ、検索されたイメージ・ブロックをビューワ・ウィンドウの中で位置決めする。イメージ・ブロックが、複数のイメージを合併して重複する領域を除去することによって作成されたより解像度の低いレベルからのものである場合には、合成サブシステムは、コールされず、イメージは、単にその元の位置に表示される。   During the viewing process, the viewer application displays the field of view to the user. The image blocks required to represent the current field of view (typically 4 to 9 blocks are required to represent one field of view) correspond to these image blocks Searched with extended horizontal offset and extended vertical offset (and optionally cached in cache memory). To avoid submitting partial blocks and better process the data at the edges of the field of view, preferably padding is applied to provide at least one extra row or column around the four edges of the field of view. Here, the synthesis subsystem is called to position the retrieved image block in the viewer window. If the image block is from a lower resolution level created by merging multiple images and removing overlapping areas, the compositing subsystem is not called and the image is simply its Displayed in the original position.

合成サブシステムは、相関係数値にスレショルドを設け、ブロックの間に真の一致があるかどうかを判断する。例えば、相関係数値が0.95よりも大きい場合には、対応するオフセットは、真の一致と考えられる態様に、2つのブロックを位置決めする。相関係数が0.95未満である場合には、一致している領域は、おそらく白い空間の上にあり、相関係数は−1に設定される。接続基準は以下のように定義される。図5を参照すると、任意の与えられたブロック(502など)に対して、特定のブロックが一番上側にあるブロック(503)と真に一致している場合には、これらの2つのブロック(502及び503)は接続されていると考えられる。ブロックが左側にあるブロック(501)と真に一致している場合には、これらの2つのブロック(502及び501)は、やはり接続されていると考えられる。   The synthesis subsystem sets a threshold on the correlation coefficient value to determine if there is a true match between the blocks. For example, if the correlation coefficient value is greater than 0.95, the corresponding offset positions the two blocks in a manner that is considered a true match. If the correlation coefficient is less than 0.95, the matching region is probably over white space and the correlation coefficient is set to -1. Connection criteria are defined as follows: Referring to FIG. 5, for any given block (such as 502), if a particular block truly matches the topmost block (503), these two blocks ( 502 and 503) are considered connected. If the block truly matches the left block (501), then these two blocks (502 and 501) are still considered connected.

本発明のある例では、合成サブシステムは、上述のように定義された接続基準を用い、この技術分野で知られている標準的な色付け(ラベル付け)アルゴリズムをすべてのブロックに適用する。相互に接続されている複数のブロックには同じ色(ラベル)を指定し、接続されたコンポーネントを形成する。従って、それぞれの接続されたコンポーネントは、1又は複数のブロックから構成される。接続されたコンポーネントのブロックの間で、ブロックの中の1つがアンカ・ブロックとして選択される。例えば、一番上にあり一番左側にあるブロック(すなわち、辞書式順序における最小のブロック)を、アンカ・ブロックとして選択して、残りのブロックを本発明に従ってそのアンカ・ブロックに接続されたものとすることができる。   In one example of the present invention, the synthesis subsystem uses the connection criteria defined above and applies a standard coloring (labeling) algorithm known in the art to all blocks. The same color (label) is specified for a plurality of blocks connected to each other to form connected components. Accordingly, each connected component is composed of one or a plurality of blocks. Among the connected component blocks, one of the blocks is selected as the anchor block. For example, the top leftmost block (ie, the smallest block in lexicographic order) is selected as the anchor block and the remaining blocks are connected to that anchor block according to the present invention. It can be.

この点で、図6は、2つの接続されたコンポーネントの集合を図解しており、その一方は、アンカ・ブロック601につなぎ止められた4つのブロック603、602、601及び604を含み、他方は、2つのブロックを含み、ブロック606がブロック605につなぎ止められている。「A」が付けられているブロック(ブロック601及び605)がアンカ・ブロックである。ここで注意すべきであるが、図6では、ブロックのオフセット情報ではなく、ブロックの接続の様子が示されている。   In this regard, FIG. 6 illustrates a collection of two connected components, one of which includes four blocks 603, 602, 601 and 604 that are anchored to an anchor block 601 and the other is A block 606 is tethered to a block 605 including two blocks. Blocks with “A” (blocks 601 and 605) are anchor blocks. It should be noted here that in FIG. 6, not the block offset information but the block connection state is shown.

アンカ・ブロックは任意の位置に位置決めすることができるが、好ましくは、その元の位置(図3に示されているように、イメージのブロックが捕捉されるように命令されるときに戻される位置)にとどめておくべきである。この結果として、アンカ・ブロックは、その基の示された位置から(0,0)の有効オフセットを有することになり、従って、x=0でy=0という絶対位置オフセットである。同じ接続されたコンポーネントの中の任意のブロックは、少なくとも1つの接続経路を通じて、アンカ・ブロックまでたどることができる。例えば、図6の実施例では、接続経路は、ブロック603からアンカ・ブロック601まで、603から602へ、そして、602から601(アンカA)へという接続経路を経由して確立される。   The anchor block can be positioned at any location, but preferably its original location (the location returned when the block of the image is commanded to be captured, as shown in FIG. 3). ) Should be kept. As a result, the anchor block will have an effective offset of (0, 0) from the indicated position of its base, and thus an absolute position offset of x = 0 and y = 0. Any block in the same connected component can follow the anchor block through at least one connection path. For example, in the embodiment of FIG. 6, the connection path is established via connection paths from block 603 to anchor block 601, from 603 to 602, and from 602 to 601 (anchor A).

次に、検索されたそれぞれの非アンカ・イメージ・ブロックに対して、位置オフセットが計算されなければならない。拡張されたオフセットは、アンカ・ブロックまでの経路に沿って累積され、与えられたブロックに対する位置オフセットが決定される。位置オフセットをアンカ・ブロックのオフセットに加算すると、与えられたブロックに対する絶対位置オフセットが決定される。例えば、図7では、ブロック704に対する拡張された垂直オフセットはx=4でy=6であり、相関係数=0.99である。そして、ブロック702に対する拡張された水平オフセットはx=1でy=−2であり、相関係数=0.98である。従って、経路704から702を経由して701までの合成された拡張されたオフセットは、それぞれの経路に対する値の合成である。すなわち、x=4+1=5であり、y=6−2=4である。そして、合成された相関係数=0.99*0.98=0.9702である。x=5及びy=4というオフセットが位置オフセットであり、0.9702という相関係数が経路に対するスコアとして用いられる。絶対位置オフセットは、位置オフセットであるx=5及びy=4をアンカ・ブロック・オフセット(典型的にはx=0及びy=0)のオフセットに加算することによって決定することができる。つまり、絶対位置オフセットは、x=5+0=5であり、y=4+0=4である。   Next, a position offset must be calculated for each retrieved non-anchor image block. The extended offset is accumulated along the path to the anchor block to determine the position offset for a given block. Adding the position offset to the anchor block offset determines the absolute position offset for the given block. For example, in FIG. 7, the extended vertical offset for block 704 is x = 4, y = 6, and correlation coefficient = 0.99. The expanded horizontal offset for block 702 is x = 1, y = -2, and the correlation coefficient = 0.98. Thus, the combined extended offset from paths 704 to 702 to 701 is a combination of values for each path. That is, x = 4 + 1 = 5 and y = 6-2 = 4. Then, the combined correlation coefficient = 0.99 * 0.98 = 0.702. The offsets x = 5 and y = 4 are position offsets, and a correlation coefficient of 0.9702 is used as a score for the path. The absolute position offset can be determined by adding the position offsets x = 5 and y = 4 to the offset of the anchor block offset (typically x = 0 and y = 0). That is, the absolute position offset is x = 5 + 0 = 5 and y = 4 + 0 = 4.

更に、アンカ・ブロックへは2以上の判然と区別される経路がありうる。例えば、図7に示されているように、ブロック704は、704から702を経由して701という経路と、704から703を経由して701という経路とを介して、アンカ・ブロック701に接続することができる。この2つの経路の中でどちらが最適な経路であるかを決定するために、それぞれの経路に沿って相関係数を乗算してその経路に対する値を得る。最高の相関値を有する経路が、最適な経路として選択される。位置オフセットと最適経路に沿って計算された絶対位置オフセットとが用いられ、それ以外の経路は廃棄される。   Furthermore, there can be more than one distinct path to the anchor block. For example, as shown in FIG. 7, block 704 connects to anchor block 701 via a path 701 via 704 to 702 and a path 701 via 704 to 703. be able to. In order to determine which of the two paths is the optimal path, a correlation coefficient is multiplied along each path to obtain a value for that path. The path with the highest correlation value is selected as the optimal path. The position offset and the absolute position offset calculated along the optimal path are used, and the other paths are discarded.

次に、イメージ704の検索されたブロックが、ビューワ・ウィンドウの中に描かれるが、これは、上述した計算された絶対位置オフセットだけもとの位置からずれている。上述したプロセス(相関値を計算し、位置オフセットや絶対位置オフセットを決定するなど)がすべてのブロックについて必要に応じて反復されると、関心領域のシームレスな(又は、ほとんどシームレスな)イメージが、ビューワ・ウィンドウの中に生じる。   Next, the retrieved block of image 704 is drawn in the viewer window, which is offset from its original position by the calculated absolute position offset described above. When the process described above (such as calculating correlation values and determining position and absolute position offsets) is repeated as necessary for all blocks, a seamless (or almost seamless) image of the region of interest is obtained. Occurs in the viewer window.

次に、ユーザは、新たな視野が表示さえることを求める。上述したプロセス(すなわち、イメージ・ブロックを要求し、スレショルドを設け、接続基準をラベル付けアルゴリズムに適用して接続されたコンポーネントを決定し、アンカ・ブロックを選択して、最適経路に沿った位置オフセット及び絶対位置オフセットを決定し、描画する)が反復され、新たな視野が、ビューワ及びユーザに提供される。   The user then asks for a new field of view to be displayed. The process described above (ie, requesting an image block, setting a threshold, applying connection criteria to the labeling algorithm to determine connected components, selecting an anchor block, and position offset along the optimal path And the absolute position offset is determined and rendered) is repeated and a new field of view is provided to the viewer and user.

既に明らかなように、この方法は、従来技術の場合と比較して、はるかに単純で計算論的にも負荷の低いレンダリング方式を表している。ある種の計算はアプリオリに実行される(オフセット及び相関係数)が、動的な合成が見ることの機能として、そして、ユーザに提供される実際視野の機能としてだけ生じる。視野が変化するときだけ、本発明のシステムは合成動作を実行するのであるが、それは、ディスプレイ上に現れる新たなコンテンツに関してだけ、又は、視野に寄与するように用いられなければならない新たなイメージ・ブロックについてだけである。 As is apparent, this method represents a rendering scheme that is much simpler and less computationally expensive than in the prior art. Certain calculations are performed a priori (offset and correlation coefficient), as a function of seeing the dynamic synthesis, and occurs only as a function of the actual field of view provided to the user. Only when the field of view changes, the system of the present invention performs a compositing operation, which is only for new content that appears on the display, or a new image that must be used to contribute to the field of view. Only about blocks.

図1及び12の画像化及びビューワ・システムは、様々な機能が離散的な機能ブロック図によって実行されるという形態で開示されている。しかし、これらの機能の多くは、これらのブロックの1又は複数の機能が例えば1又は複数の適切にプログラムされたプロセッサによって実現されるという構成において実現することも可能である。更に、様々な画像化システムや方法論が、それらの新規な特徴を明確に説明するために、別々な態様で説明されている。しかしこの技術分野の当業者であれば理解するように、この技術及び装置の多くは、本発明の有用性に影響を与えることなく、相互に組み合わせたり、一方によって他方を代替することが可能である。更に注意すべきは、上述した様々な運動や軸は、便宜的な軸概念を用いて説明したのであるが、そのような説明は、空間内における特定の方向又は特徴を意味しない。対物レンズの並進は、ステージ運動、ターレット運動、又は顕微鏡ヘッド自体の運動によって実現することができる。運動がスライド上のインデクス位置との関係で生じていて特徴付け可能であり測定可能であり反復可能である限りは、どのように運動が達成されるかは重要ではない。   The imaging and viewer system of FIGS. 1 and 12 is disclosed in the form that various functions are performed by discrete functional block diagrams. However, many of these functions can also be implemented in a configuration in which one or more functions of these blocks are implemented, for example, by one or more appropriately programmed processors. In addition, various imaging systems and methodologies have been described in different ways to clearly illustrate their novel features. However, as those skilled in the art will appreciate, many of the techniques and apparatus can be combined with each other or substituted for one by one without affecting the usefulness of the present invention. is there. It should be further noted that although the various motions and axes described above have been described using a convenient axis concept, such descriptions do not imply any particular direction or feature in space. Translation of the objective lens can be achieved by stage movement, turret movement, or movement of the microscope head itself. As long as the motion occurs in relation to the index position on the slide and is characterizable, measurable and repeatable, it is not important how the motion is achieved.

更に、以上では本発明の原理を様々な流れ図の中に表されるステップのコンテキストの中で説明されている。本発明のステップは、説明された特定の順序で実行されることは必要なく、また、説明された特定の時期において実行されることも必要ない。本発明を実現するのに必要なのは、領域イメージ・ブロックの相対オフセット値の決定、一致する領域に対する相関値の計算、そして、仮想スライドの視野としての複数の領域イメージ・ブロックの動的な提供であり、表示されたイメージは、視野をベースにして、ずれを解消するように評価され調整されるだけである。   Furthermore, the principles of the present invention have been described above in the context of steps represented in various flowcharts. The steps of the present invention need not be performed in the particular order described and need not be performed at the particular time described. What is needed to implement the present invention is the determination of the relative offset value of the region image block, the calculation of the correlation value for the matching region, and the dynamic provision of multiple region image blocks as the virtual slide field of view. Yes, the displayed image is only evaluated and adjusted to eliminate the deviation based on the field of view.

従って、以上では、本発明の原理を説明しただけである。この技術分野の当業者であれば、本発明の精神及び範囲から逸脱することなく本発明の原理を実現する多くの他の構成を作り出すことが可能であろう。この出願において説明し図面に示した実施例は、限定を意味するものではなく、冒頭の特許請求の範囲によってのみ範囲が画定される本発明を単に説明するためのものである。   Accordingly, the foregoing has only described the principles of the present invention. Those skilled in the art will be able to create many other configurations that implement the principles of the invention without departing from the spirit and scope of the invention. The embodiments described in this application and shown in the drawings are not meant to be limiting, but merely to illustrate the invention, the scope of which is defined solely by the appended claims.

本発明による、顕微鏡スライドのイメージを取得するのに用いられる画像化システムの簡略化されたほぼ概略的なブロック図である。FIG. 2 is a simplified, generally schematic block diagram of an imaging system used to acquire an image of a microscope slide according to the present invention. 本発明の実施例による、顕微鏡スライドのイメージを走査し捕捉する方法を示す流れ図である。4 is a flow diagram illustrating a method for scanning and capturing an image of a microscope slide, according to an embodiment of the present invention. 本発明の実施例による、顕微鏡スライドの位置に基づいた態様で配置され重複したエッジ領域を有する4つのイメージを含む顕微鏡スライドの関心領域の例である。FIG. 4 is an example of a region of interest of a microscope slide including four images arranged in a manner based on the position of the microscope slide and having overlapping edge regions, according to an embodiment of the present invention. 合成された後で、位置合わせされたエッジの重複を有する4つのイメージを含む顕微鏡スライドの関心領域の例である。FIG. 4 is an example of a region of interest of a microscope slide that includes four images that have overlapping edges that are aligned after being synthesized. 本発明による、オフセット・ベクトルを計算し適用した後のイメージ・ブロックの位置の例を示す簡略化されたブロック図である。FIG. 6 is a simplified block diagram illustrating an example of the position of an image block after calculating and applying an offset vector according to the present invention. 本発明の原理による、イメージ・ブロックとアンカ・ブロックとの間の接続経路を一般的に示す図である。FIG. 2 is a diagram generally illustrating a connection path between an image block and an anchor block in accordance with the principles of the present invention. 本発明による、イメージ・ブロックをアンカ・ブロックに接続する接続経路の別の実施例である。4 is another embodiment of a connection path connecting an image block to an anchor block according to the present invention. 本発明による、2つの重複するイメージの間の網羅的な相関サーチのための例示的な方法を示す流れ図である。4 is a flowchart illustrating an exemplary method for an exhaustive correlation search between two overlapping images according to the present invention. 図4の実施例と同様に、位置決めシステムの要求に従って位置決めされ適切に合成された重複するイメージ境界エッジを有する3つのイメージを図解するますの関心領域の例である。Similar to the embodiment of FIG. 4, it is an example of an additional region of interest illustrating three images with overlapping image boundary edges that are positioned and properly synthesized according to the requirements of the positioning system. イメージ・ブロックをディスク・ファイルに記憶するマトリクス・シーケンスの例であり、個々の領域ブロックにインデクスを付する方法が図解されている。It is an example of a matrix sequence for storing image blocks in a disk file and illustrates a method for indexing individual area blocks. 図3の実施例と同様に、重複する領域を除去することによって相互に合成された4つのイメージ・ブロックの例である。FIG. 4 is an example of four image blocks combined with each other by removing overlapping regions, similar to the embodiment of FIG. 本発明の原理を実現するのに敵したイメージ・ビューワ装置のほぼ概略的なブロックである。FIG. 2 is a schematic block diagram of an image viewer device that has competed to implement the principles of the present invention.

Claims (17)

顕微鏡光学視野の中を移動可能な物理材料サンプル・スライドが見ること及びイメージ捕捉のために支持されているタイプの顕微鏡システムにおいて、シームレスなエッジ画質特性を有するデジタル仮想スライドを見る方法であって、
物理スライドのために複数のデジタル・イメージ領域を定義するステップと、
前記の定義された複数のデジタル・イメージ領域に従って前記物理スライドを走査して、複数の領域イメージ・ブロックを捕捉するステップと、
前記物理スライドの全体のモザイク表現における前記複数のイメージ・ブロックのそれぞれのイメージ・ブロックのそれぞれの位置に関連する位置インデクス計量に従って前記複数の領域イメージ・ブロックを記憶するステップと、
領域イメージ・ブロックと次の隣接する複数の領域イメージ・ブロックのそれぞれとに対する相対位置オフセット値の集合と、当該相対位置オフセット値に基づくイメージ・ブロック間の重複部分に対する相関係数とを決定するステップと、
複数のデジタル領域イメージの全部未満からなり且つ前記領域イメージ・ブロックの一部と前記次の隣接する複数の領域イメージ・ブロックのうちの少なくとも1つの領域イメージ・ブロックの一部とを含む視野を見るステップと、
領域イメージ・ブロックの前記一部と前記次の隣接する複数の領域イメージ・ブロックのうちの少なくとも1つの領域イメージ・ブロックの前記一部との複合イメージを合成するステップであって、前記合成が、前記視野内に含まれる前記領域イメージ・ブロックの前記一部と前記少なくとも1つの領域イメージ・ブロックの前記一部とに制限され、且つ前記視野内に含まれる領域イメージ・ブロックに対する前記相対位置オフセット値及び前記相関係数のみを用いる、前記合成するステップと、
を含むことを特徴とする方法。
A method of viewing a digital virtual slide having seamless edge image quality characteristics in a microscope system of the type supported for viewing and image capture of a movable physical material sample slide in a microscope optical field of view, comprising:
Defining a plurality of digital image areas for a physical slide;
Scanning the physical slide according to the defined plurality of digital image regions to capture a plurality of region image blocks;
Storing the plurality of regional image blocks according to a position index metric associated with a respective position of each of the plurality of image blocks in the overall mosaic representation of the physical slide;
Determining a set of relative position offset values for the area image block and each of the next plurality of adjacent area image blocks, and a correlation coefficient for an overlapping portion between the image blocks based on the relative position offset value; When,
Viewing a field of view comprising less than all of a plurality of digital region images and including a portion of the region image block and a portion of at least one region image block of the next adjacent plurality of region image blocks Steps,
Synthesizing a composite image of the portion of a region image block and the portion of at least one region image block of the next adjacent plurality of region image blocks, the combining comprising: The relative position offset value relative to the region image block included in the field of view and limited to the portion of the region image block included in the field of view and the portion of the at least one region image block. And combining only using the correlation coefficient;
A method comprising the steps of:
請求項1記載の方法において、前記ディスプレイの視野を移動させることにより、追加的な領域イメージ・ブロックが表示され、前記合成するステップは、前記追加的な領域イメージ・ブロックに関してだけ実行されることを特徴とする方法。   2. The method of claim 1, wherein an additional region image block is displayed by moving the field of view of the display, and the step of combining is performed only with respect to the additional region image block. Feature method. 請求項1記載の方法において、
それぞれの物理スライドに対し複数の領域を定義するステップであって、前記複数の領域のそれぞれの領域が少なくとも幅の寸法によって特徴付けられている面積を有するよう前記複数の領域のそれぞれの領域を定義するステップを含む前記複数の領域を定義するステップと、
前記物理スライドを前記の定義された複数のデジタル・イメージ領域に従って走査して、複数の領域イメージ・ブロックを捕捉するステップと、を備え、
複数の領域イメージ・ブロックを捕捉する前記ステップは、
前記顕微鏡が前記物理スライドに対して第1の位置に位置決めされている第1の定義された領域のイメージを捕捉するステップと、
前記顕微鏡の位置を、前記幅の寸法と第1の重複値とによって特徴付けられた第2の位置に調整するステップと、
第2の定義された領域と前記第1の定義された領域とが第1の重複値によって定義される第1の重複領域の中に含まれるイメージ・データを共有している前記第2の定義された領域のイメージを捕捉するステップと、を更に含む
ことを特徴とする方法。
The method of claim 1, wherein
Defining a plurality of regions for each physical slide, wherein each region of the plurality of regions has an area characterized by at least a width dimension. Defining the plurality of regions including the step of:
Scanning the physical slide according to the defined plurality of digital image areas to capture a plurality of area image blocks;
The step of capturing a plurality of region image blocks comprises:
Capturing an image of a first defined region in which the microscope is positioned at a first position relative to the physical slide;
Adjusting the position of the microscope to a second position characterized by the width dimension and a first overlap value;
The second definition wherein the second defined area and the first defined area share image data contained in the first overlap area defined by a first overlap value Capturing an image of the rendered region.
請求項3記載の方法において、前記決定するステップは、隣接する複数の領域の間の重複領域に含まれるイメージ・データに対して実行されることを特徴とする方法。   4. The method of claim 3, wherein the determining step is performed on image data included in an overlapping region between a plurality of adjacent regions. 請求項3記載の方法において、
前記複数の領域のそれぞれに対して高さの寸法を定義するステップと、
前記顕微鏡の位置を、前記高さの寸法と第2の重複値とによって特徴付けられた第3の位置に調整するステップと、
第3の定義された領域のイメージを捕捉するステップと、
を更に含んでおり、前記第3の定義された領域と前記第1の定義された領域とは第2の重複値によって定義される第2の重複領域の中に含まれるイメージ・データを共有している
ことを特徴とする方法。
The method of claim 3, wherein
Defining a height dimension for each of the plurality of regions;
Adjusting the position of the microscope to a third position characterized by the height dimension and a second overlap value;
Capturing an image of a third defined region;
The third defined area and the first defined area share image data contained in a second overlap area defined by a second overlap value. A method characterized by that.
請求項5記載の方法において、請求項3の前記決定するステップは、隣接する複数の領域の間の第1の重複領域か第2の重複領域かのいずれかに含まれるイメージ・データに対して実行されることを特徴とする方法。   6. The method of claim 5, wherein the determining step of claim 3 is for image data contained in either a first overlap region or a second overlap region between adjacent regions. A method characterized in that it is performed. 請求項5記載の方法において、請求項3の前記決定するステップは、隣接する複数の領域の間の第1及び第2の重複領域の両方に含まれるイメージ・データに対して実行されることを特徴とする方法。   6. The method of claim 5, wherein the determining step of claim 3 is performed on image data contained in both first and second overlapping regions between adjacent regions. Feature method. 請求項3記載の方法において、領域イメージ・ブロックと次の隣接する領域イメージ・ブロックとに対する前記相対位置オフセット値の集合と相関係数とは、少なくとも部分的に、位置の最良の一致を決定するために前記領域イメージ・ブロック及び前記次の隣接する領域イメージ・ブロックについて正規化された相関分析を実行することによって決定されることを特徴とする方法。   4. The method of claim 3, wherein the set of relative position offset values and a correlation coefficient for a region image block and a next adjacent region image block determine, at least in part, a best location match. In order to be determined by performing a normalized correlation analysis on the region image block and the next adjacent region image block. 請求項8記載の方法において、それぞれの領域イメージ・ブロックに関連する前記相対位置オフセット値の集合と相関係数とは、当該領域イメージ・ブロックに対応するデータ・セットとして記憶されることを特徴とする方法。   9. The method of claim 8, wherein the set of relative position offset values and correlation coefficients associated with each region image block are stored as a data set corresponding to the region image block. how to. 請求項9記載の方法において、
前記領域イメージ・ブロックの部分集合をディスプレイに表示するステップと、
それぞれの領域イメージ・ブロックをその次の隣接する領域イメージ・ブロックに対して前記領域イメージ・ブロックに対して決定された相対位置オフセット値の前記集合に従って位置決めすることにより、次の隣接する領域イメージ・ブロックの重複部分を結合するステップと、
を更に含むことを特徴とする方法。
The method of claim 9, wherein
Displaying a subset of the region image blocks on a display;
Positioning each region image block with respect to its next adjacent region image block according to the set of relative position offset values determined for the region image block; Combining the overlapping parts of the blocks;
The method of further comprising.
請求項10記載の方法において、相対位置オフセット値の前記集合は、アンカ・ブロックとの関係で次の隣接する領域イメージ・ブロックに適用されることを特徴とする方法。   The method of claim 10, wherein the set of relative position offset values is applied to the next adjacent region image block in relation to an anchor block. 仮想顕微鏡スライドを表すデジタル・データを画像化する観察システムにおいて、領域イメージを相互にシームレスに結合して前記観察システムの視野を定義する複合イメージを作成する方法であって、
物理顕微鏡スライドを、複数の複合イメージ領域のマトリクスに分割するステップであって、それぞれのイメージ領域は前記マトリクスの中にロー及びカラム・インデクス位置を有する、前記分割するステップと、
前記物理顕微鏡スライドを、選択された対物レンズを用いて、前記対物レンズの視野が1つの複合イメージ領域のサイズに等しくなるように走査して、複数の領域イメージ・ブロックを捕捉するステップと、
現在の領域イメージ・ブロックと、次の隣接する領域イメージ・ブロックの特定された部分とを、前記2つのイメージが前記特定された部分においてイメージ・データを共有するように、重複させるステップと、
前記現在の領域イメージ・ブロックとその次の隣接する領域イメージ・ブロックとに対するオフセット値の集合を、前記現在の領域イメージ・ブロックに対する重複部分が前記次の隣接する領域イメージ・ブロックの重複部分と高度に相関するように、決定するステップであって、前記決定されたオフセット値に基づく前記重複部分に対する相関係数の生成を更に含む、前記決定するステップと、
前記領域イメージ・ブロックの全部未満からなり且つ前記領域イメージ・ブロックの一部を含む視野を見るステップと、
前記視野内に含まれる領域イメージ・ブロックだけを合成して複合イメージを形成するステップであって、前記合成が前記オフセット値及び前記相関係数を用いる、前記複合イメージを形成するステップと、
前記次の隣接する領域イメージ・ブロックと合成された前記現在の領域イメージ・ブロックを含む前記複合イメージを、現在表示されていない領域イメージ・ブロックのオフセット値を考慮せずに表示するステップと、
を含むことを特徴とする方法。
In an observation system for imaging digital data representing a virtual microscope slide, a method of creating a composite image that defines a field of view of the observation system by seamlessly combining region images with each other,
Dividing a physical microscope slide into a matrix of a plurality of composite image regions, each image region having a row and column index position in the matrix; and
Scanning the physical microscope slide with a selected objective lens so that the field of view of the objective lens is equal to the size of one composite image area to capture a plurality of area image blocks;
Overlapping a current region image block and a specified portion of a next adjacent region image block such that the two images share image data in the specified portion;
A set of offset values for the current region image block and the next adjacent region image block is represented by an overlapping portion for the current region image block and an overlapping portion of the next adjacent region image block. Determining to further correlate to, further comprising generating a correlation coefficient for the overlapping portion based on the determined offset value ;
Viewing a field of view comprising less than all of the region image block and including a portion of the region image block;
Combining only region image blocks contained within the field of view to form a composite image, wherein the composite uses the offset value and the correlation coefficient to form the composite image ;
Displaying the composite image including the current region image block synthesized with the next adjacent region image block without considering an offset value of the region image block not currently displayed;
A method comprising the steps of:
請求項12記載の方法において、前記決定するステップは、前記決定されたオフセット値に基づく前記重複部分に対する相関係数の生成を更に含むことを特徴とする方法。   The method of claim 12, wherein the determining step further comprises generating a correlation coefficient for the overlapping portion based on the determined offset value. 請求項13記載の方法において、
仮想顕微鏡スライドの現在用いられている視野を表すのに複数の前記領域イメージ・ブロックの中のどの特定の領域イメージ・ブロックが必要なのかを評価するステップと、
複数の前記領域イメージ・ブロックの中の前記特定の領域イメージ・ブロックを、オフセット値の前記対応する集合及び関連の相関係数と共に検索するステップと、
前記の検索された領域イメージ・ブロックを、前記マトリクスの中のその公称のインデクス位置に従ってビューワの中で発見するステップと、
次の隣接するイメージの相関係数値とスレショルド値とを比較するステップと、
前記スレショルド以上の相関係数値を有する次の隣接する複数のイメージの間の正の接続基準を定義するステップと、
次の隣接するイメージの重複部分が前記2つの次の隣接イメージの間のシームレスなエッジを定義するように、前記検索されたイメージを相互に配置するステップと、
を更に含むことを特徴とする方法。
14. The method of claim 13, wherein
Evaluating which particular region image block of the plurality of region image blocks is required to represent the currently used field of view of the virtual microscope slide;
Searching the particular region image block among a plurality of the region image blocks along with the corresponding set of offset values and associated correlation coefficients;
Finding the retrieved region image block in a viewer according to its nominal index position in the matrix;
Comparing the correlation coefficient value and threshold value of the next adjacent image;
Defining a positive connection criterion between next adjacent images having a correlation coefficient value equal to or greater than the threshold;
Arranging the searched images relative to each other such that overlapping portions of next adjacent images define a seamless edge between the two next adjacent images;
The method of further comprising.
請求項14記載の方法において、
接続されたコンポーネントのラベル付けアルゴリズムを前記複数の領域イメージ・ブロックに適用するステップと、
共通のアルゴリズム的なラベルを、関連する正の接続基準を有する領域イメージ・ブロックに割り当てるステップと、
共通のアルゴリズム的なラベルを有するイメージ・ブロックを接続されたコンポーネントに形成するステップと、
を更に含むことを特徴とする方法。
The method of claim 14, wherein
Applying a connected component labeling algorithm to the plurality of region image blocks;
Assigning a common algorithmic label to a region image block having an associated positive connection criterion;
Forming an image block with a common algorithmic label into connected components;
The method of further comprising.
請求項15記載の方法において、前記現在の領域イメージ・ブロックと前記次の隣接する領域イメージ・ブロックとのいずれかから、前記重複領域に含まれるデジタル・イメージ・データを表すものとして1つの重複領域が選択され、前記の検索されたイメージは、前記の選択された重複領域が前記2つの隣接したイメージの間のシームレスなエッジを定義するように、相互に位置決めされることを特徴とする方法。   16. The method of claim 15, wherein one overlapping region is representative of digital image data contained in the overlapping region from either the current region image block or the next adjacent region image block. And the retrieved images are positioned relative to each other such that the selected overlap region defines a seamless edge between the two adjacent images. 顕微鏡の光学視野の中を移動可能な物理材料サンプル・スライドが観察及びイメージ捕捉のために支持されているタイプの顕微鏡システムであって、
それぞれが対応する倍率を有する複数の顕微鏡対物レンズを保持する回転可能なターレットを含む顕微鏡と、
直交する平面軸に沿って移動可能であり、ロボット制御されるサンプル・ステージと、
前記軸のそれぞれに沿って、当初のインデクス位置に対する前記ステージの現在の位置を決定する手段と、
前記ステージに結合されており、物理スライドがメモリ・データ記憶装置の中へのデジタル・データとして走査されるようにステージ移動を制御するプロセッサであって、前記物理スライドは、複数の複合イメージ・ブロックのマトリクスとして表され、それぞれのイメージ・ブロックは前記マトリクスの中の対応するロー及びカラム位置を有する、前記プロセッサと、
を備えており、それぞれのイメージ・ブロックは、第1及び第2の方向の寸法によって特徴付けられ、前記プロセッサにより、次の隣接するイメージ・ブロックは、特定され再生可能な重複部分が当該次の隣接するイメージ・ブロックの間に生じるように走査され、
次の隣接するイメージ・ブロックの間で前記第1及び第2の方向に沿ったオフセット値を決定する相関プロセッサであって、前記オフセット値は、前記次の隣接するイメージ・ブロックを、これらのイメージ・ブロックの重複部分がシームレスなエッジ領域として現れるように相互に位置決めするのに必要な相対位置決めベクトルを定義する、前記相関プロセッサと、
前記複合イメージ・ブロックの前記マトリクスの一部を前記物理スライドの部分イメージとして表示するビューワと、
観察のために複合イメージ・ブロックの前記マトリクスの一部だけからなる視野を提供し、次の隣接するイメージ・ブロックを相互に合成するイメージ合成手段であって、前記のイメージの合成は、前記視野内のイメージ・ブロックに制限され、且つ前記オフセット値及び前記相対位置決めベクトルを用いる、前記イメージ合成手段と、を更に備え、
前記イメージ合成手段が更に、ユーザが現在表示されていない領域イメージのオフセット値を考慮せずに新しい視野への前記第1及び第2の方向に沿った移動を求めるとき引き続いてのイメージ・ブロックを視野の中に合成するよう動作する
ことを特徴とする顕微鏡システム。
A microscope system of the type in which a physical material sample slide movable in the optical field of the microscope is supported for observation and image capture,
A microscope including a rotatable turret that holds a plurality of microscope objectives each having a corresponding magnification;
A sample stage that can be moved along orthogonal plane axes and is robot controlled;
Means for determining a current position of the stage relative to an initial index position along each of the axes;
A processor coupled to the stage for controlling stage movement such that the physical slide is scanned as digital data into a memory data storage device, the physical slide comprising a plurality of composite image blocks The processor, each image block having a corresponding row and column position in the matrix;
Each image block is characterized by a dimension in a first and second direction, and by the processor, the next adjacent image block is identified and a reproducible overlap is Scanned to occur between adjacent image blocks,
A correlation processor for determining an offset value along said first and second directions between next adjacent image blocks, said offset value determining said next adjacent image block from these images The correlation processor defining relative positioning vectors necessary to position each other such that overlapping portions of blocks appear as seamless edge regions;
A viewer for displaying a portion of the matrix of the composite image block as a partial image of the physical slide;
Image synthesizing means for providing a field of view consisting only of a part of the matrix of composite image blocks for viewing and for synthesizing the next adjacent image blocks with each other, the composition of the image comprising: And further comprising the image synthesizing means that is limited to image blocks within and uses the offset value and the relative positioning vector ;
The image compositing means further selects a subsequent image block when the user seeks a movement along the first and second directions to a new field of view without taking into account the offset value of the area image not currently displayed. A microscope system that operates to synthesize in the field of view.
JP2006233009A 2005-08-31 2006-08-30 System and method for synthesizing image blocks and creating a seamless enlarged image of a microscope slide Expired - Fee Related JP4653041B2 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US11/218,073 US7778485B2 (en) 2004-08-31 2005-08-31 Systems and methods for stitching image blocks to create seamless magnified images of a microscope slide

Publications (2)

Publication Number Publication Date
JP2007065669A JP2007065669A (en) 2007-03-15
JP4653041B2 true JP4653041B2 (en) 2011-03-16

Family

ID=37927863

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006233009A Expired - Fee Related JP4653041B2 (en) 2005-08-31 2006-08-30 System and method for synthesizing image blocks and creating a seamless enlarged image of a microscope slide

Country Status (1)

Country Link
JP (1) JP4653041B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5562653B2 (en) * 2010-01-06 2014-07-30 オリンパス株式会社 Virtual slide creation apparatus and virtual slide creation method
JP6270388B2 (en) 2013-09-13 2018-01-31 オリンパス株式会社 Imaging apparatus, microscope system, imaging method, and imaging program
EP3677667B1 (en) * 2017-08-31 2024-06-19 FUJIFILM Corporation Image processing apparatus, method, and program
TWI808435B (en) * 2019-06-17 2023-07-11 邦睿生技股份有限公司 Multi-view analysis in automated testing apparatus
CN113391441B (en) * 2020-03-12 2024-02-02 平湖莱顿光学仪器制造有限公司 Method and device for acquiring microscopic image information of sample
JP7115508B2 (en) * 2020-05-07 2022-08-09 ソニーグループ株式会社 PATHOLOGICAL IMAGE DISPLAY SYSTEM, PATHOLOGICAL IMAGE DISPLAY METHOD AND PROGRAM

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01121895A (en) * 1987-11-06 1989-05-15 Toshiba Corp Image retrieval display device
JPH11211988A (en) * 1998-01-29 1999-08-06 Nippon Telegr & Teleph Corp <Ntt> Microscope image remote control system
US5991461A (en) * 1996-12-20 1999-11-23 Veeco Corporation Selection process for sequentially combining multiple sets of overlapping surface-profile interferometric data to produce a continuous composite map
JP2000182034A (en) * 1998-12-08 2000-06-30 Synoptics Ltd Automatic image synthesizing system
JP2005117640A (en) * 2003-09-16 2005-04-28 Sysmex Corp Method of displaying sample image and retrieval method employing the same, surveillance method, system of displaying sample image, program for displaying the sample image and recording medium recording with the program stored thereto

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01121895A (en) * 1987-11-06 1989-05-15 Toshiba Corp Image retrieval display device
US5991461A (en) * 1996-12-20 1999-11-23 Veeco Corporation Selection process for sequentially combining multiple sets of overlapping surface-profile interferometric data to produce a continuous composite map
JPH11211988A (en) * 1998-01-29 1999-08-06 Nippon Telegr & Teleph Corp <Ntt> Microscope image remote control system
JP2000182034A (en) * 1998-12-08 2000-06-30 Synoptics Ltd Automatic image synthesizing system
JP2005117640A (en) * 2003-09-16 2005-04-28 Sysmex Corp Method of displaying sample image and retrieval method employing the same, surveillance method, system of displaying sample image, program for displaying the sample image and recording medium recording with the program stored thereto

Also Published As

Publication number Publication date
JP2007065669A (en) 2007-03-15

Similar Documents

Publication Publication Date Title
US7778485B2 (en) Systems and methods for stitching image blocks to create seamless magnified images of a microscope slide
US6519359B1 (en) Range camera controller for acquiring 3D models
US9245317B2 (en) Optically enhanced digital imaging system
CN102662229B (en) Microscope having touch screen
US7929738B2 (en) Microscope apparatus and microscope system
JP4653041B2 (en) System and method for synthesizing image blocks and creating a seamless enlarged image of a microscope slide
KR20080097218A (en) Method and apparatus and computer program product for collecting digital image data from microscope media-based specimens
CN112415733B (en) Method, system, device and medium for controlling microscope to shoot sample image
JP7280188B2 (en) Magnified high-resolution imaging method and imaging system for medical use
CN112505910B (en) Method, system, apparatus and medium for taking image of specimen with microscope
CN105004723A (en) Pathological section scanning 3D imaging and fusion device and method
JP5059788B2 (en) Method and system for obtaining multiple views of an object with real-time video output
JP5508214B2 (en) System and method for creating magnified image of microscope slide
JP2000162504A (en) Enlarging observation device
CN113204107B (en) Three-dimensional scanning microscope with double objective lenses and three-dimensional scanning method
CN113472984B (en) Image acquisition method, device, system, storage medium and equipment
KR100897674B1 (en) Sample inspection system and sample inspection method
JP2688925B2 (en) 3D image display device
JP2005266718A (en) Microscopic image photographing system
JP2007025830A (en) Method and device for recognizing three-dimensional object
EP3822686B1 (en) Method of providing an assembled image using a digital microscope, digital microscope system, and program for providing an assembled image using a digital microscope
US20230147711A1 (en) Methods for generating stereoscopic views in multicamera systems, and associated devices and systems
JP2668395B2 (en) 3D image display device
Qidwai et al. Image stitching system with scanning microscopy for histopathological applications
CN113933984A (en) Method and microscope for generating an image composed of a plurality of microscope subimages

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20070130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090928

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20091225

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100329

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100625

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100924

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100929

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101216

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131224

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees