JPH11211988A - Microscope image remote control system - Google Patents

Microscope image remote control system

Info

Publication number
JPH11211988A
JPH11211988A JP10016534A JP1653498A JPH11211988A JP H11211988 A JPH11211988 A JP H11211988A JP 10016534 A JP10016534 A JP 10016534A JP 1653498 A JP1653498 A JP 1653498A JP H11211988 A JPH11211988 A JP H11211988A
Authority
JP
Japan
Prior art keywords
image
microscope
reference image
stage
stage control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10016534A
Other languages
Japanese (ja)
Other versions
JP3824116B2 (en
Inventor
Tomoko Hidaka
朋子 日▲高▼
Akira Tomono
明 伴野
Yukihiro Kubota
幸宏 久保田
Takashi Sakai
高志 酒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Electronics Corp
Nippon Telegraph and Telephone Corp
Original Assignee
NTT Electronics Corp
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Electronics Corp, Nippon Telegraph and Telephone Corp filed Critical NTT Electronics Corp
Priority to JP01653498A priority Critical patent/JP3824116B2/en
Publication of JPH11211988A publication Critical patent/JPH11211988A/en
Application granted granted Critical
Publication of JP3824116B2 publication Critical patent/JP3824116B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Microscoopes, Condenser (AREA)
  • Processing Or Creating Images (AREA)

Abstract

PROBLEM TO BE SOLVED: To obtain a whole reference image which is closed to an original sample without using a dedicated stand for microscopy and a dedicated camera and to easily obtain a high-definition image, which has a position specified on a receiving device (pathologist) side in the center, in a short time. SOLUTION: The microscope image remote control system has means for acquiring the whole reference image of a sample 3 placed on the stage of a microscope 2 and sending it from the transmission side, receiving the sent whole reference image at a remote place, sending information on a gaze position in the received image from the reception side to the transmission side, requesting a transmit screen of the position, and sending an image signal complying with the request from the transmission side. In this case, while the stage 4 of the microscope 2 is controlled, divisional photographs of the sample 3 are repeatedly taken with specific magnification and connected without any contradiction in plane position relation among the obtained image group to generate a whole reference image, and a peripheral part of the gaze position information of the whole reference image as the center is expanded and obtained.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、顕微鏡画像の静止
画像取得システムに関し、特に、全体参照画像作成後、
遠隔地にて前記全体参照画像上で注視位置を指定するこ
とによって当該注視位置を中心とする高倍率静止画像を
遠隔地からでも取得することに適用して有効な技術に関
するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a system for acquiring a still image of a microscope image, and more particularly to a system for obtaining a whole reference image.
The present invention relates to a technology effective when applied to obtain a high-magnification still image centered on the gaze position by specifying a gaze position on the whole reference image at a remote place even from a remote place.

【0002】[0002]

【従来の技術】従来、この種の全体参照画像上を指定す
ることによって表示したい位置の高倍率静止画像を取得
する手段として、特願平4−162715号の技術を挙
げることができる。この技術では標本の全体像を把握す
るために、プレパラートを顕微鏡のステージにセットす
る前に専用のマクロ撮影のスタンドにセットして固定の
サイズの全体参照画像として撮影し、さらに、高倍率の
画像の撮影に関しては、該全体参照画像をブロックに分
割し、この分割したブロックを高倍率で撮影している。
2. Description of the Related Art Conventionally, as a means for obtaining a high-magnification still image at a position to be displayed by designating this kind of whole reference image, there is a technique disclosed in Japanese Patent Application No. 4-162715. In this technique, in order to grasp the whole image of the specimen, before setting the slide on the stage of the microscope, set it on a dedicated macro shooting stand, shoot as a whole reference image of a fixed size, and further, image with high magnification In this case, the entire reference image is divided into blocks, and the divided blocks are photographed at a high magnification.

【0003】[0003]

【発明が解決しようとする課題】前記の従来技術では、
全体参照画像を取得するために、専用のマクロ撮影のス
タンドと専用のカメラが必要であった。その結果、全体
参照画像を取得するという目的のために、経済的負担を
強いられるという問題があった。
In the above prior art,
In order to acquire the entire reference image, a dedicated macro shooting stand and a dedicated camera were required. As a result, there is a problem that an economic burden is imposed for the purpose of acquiring the entire reference image.

【0004】全体参照画像は、プレパラートを専用のマ
クロ撮影のスタンドにセットして固定サイズの画像とし
て取込まれるので、顕微鏡のステージ上にプレパラート
をセットし直す必要があり、かつ、取込める標本の大き
さに制限があった。
[0004] Since the entire reference image is set as a fixed-size image by setting the preparation on a dedicated macro-photography stand, it is necessary to reset the preparation on the microscope stage, and it is necessary to set the preparation to be taken. There was a limit on the size.

【0005】専用のマクロ撮影のスタンドから顕微鏡の
ステージへプレパラートをセットし直す結果、専用のマ
クロ撮影のスタンドにセットして撮影した画像上の座標
と、顕微鏡のステージにセットして撮影した画像上の座
標との対応をとるのに手間がかかると共に、熟練を要す
るという問題があった。
[0005] As a result of resetting the slide from the dedicated macro photography stand to the microscope stage, the coordinates on the image taken and photographed on the dedicated macro photography stand and the image taken on the microscope stage are set. There is a problem in that it takes time and effort to take the correspondence with the coordinates, and requires skill.

【0006】また、標本の大きさに制限がある結果、標
本が大きいときには所定領域の全てを撮影することがで
きない結果必要な部分が表示されない全体参照画像が作
成される場合があり、また、標本が小さいときには所定
領域が全体参照画像のほんの一部分になってしまい不必
要な部分まで取込むという無駄が生じる場合があるとい
う問題もあった。
Also, as a result of the limitation on the size of the sample, when the sample is large, it is not possible to photograph the entire predetermined area, and as a result, an entire reference image in which a necessary portion is not displayed may be created. When is small, the predetermined area becomes only a part of the entire reference image, and there is a problem that unnecessary parts may be taken in.

【0007】また、高精細静止画像を倍率を変えながら
取得するので、似たような画像を含むような部分領域が
複数箇所に発生するような病理画像では、特に、全体参
照画像中のどの部分領域を何倍の倍率で取得済みである
のかを病理医が覚えておくことが非常に困難である。
Further, since a high-definition still image is acquired while changing the magnification, in a pathological image in which a partial region including a similar image occurs at a plurality of places, particularly in any part of the whole reference image, It is very difficult for a pathologist to remember at what magnification the region has been acquired.

【0008】本発明の目的は、遠隔地からでも顕微鏡の
自動移動式ステージに置かれた標本の所定領域の全体参
照画像上の必要な部分の高精細画像の取得を効率的に行
うことが可能な技術を提供することにある。
An object of the present invention is to enable efficient acquisition of a high-definition image of a necessary portion on a whole reference image of a predetermined region of a specimen placed on an automatic moving stage of a microscope even from a remote place. It is to provide various technologies.

【0009】本発明の他目的は、専用のマクロ撮影のス
タンドと専用のカメラを使用することなく元の標本に近
い全体参照画像を取得することが可能な技術を提供する
ことにある。
It is another object of the present invention to provide a technique capable of acquiring an entire reference image close to an original sample without using a dedicated macro photography stand and a dedicated camera.

【0010】本発明の他の目的は、全体参照画像上の任
意の位置の位置情報とステージ制御座標値との関連付け
を容易にすることが可能な技術を提供することにある。
Another object of the present invention is to provide a technique capable of easily associating position information of an arbitrary position on an entire reference image with a stage control coordinate value.

【0011】本発明の他の目的は、様々なサイズの全体
参照画像を取得することが可能な技術を提供することに
ある。
Another object of the present invention is to provide a technique capable of acquiring whole reference images of various sizes.

【0012】本発明の他の目的は、受信装置(病理医)
側が指定した位置が中心になるような高精細画像の取得
を短時間で、かつ容易に行うことが可能な技術を提供す
ることにある。
Another object of the present invention is to provide a receiving apparatus (pathologist)
It is an object of the present invention to provide a technique capable of easily and quickly acquiring a high-definition image in which a position designated by a side is the center.

【0013】本発明の前記ならびにその他の目的と新規
な特徴は、本明細書の記述及び添付図面によって明らか
にする。
The above and other objects and novel features of the present invention will become apparent from the description of the present specification and the accompanying drawings.

【0014】[0014]

【課題を解決するための手段】本願において開示される
発明のうち代表的なものの概要を簡単に説明すれば、以
下のとおりである。
The outline of a typical invention among the inventions disclosed in the present application will be briefly described as follows.

【0015】(1)顕微鏡の自動移動式ステージに置か
れた標本の所定領域の全体参照画像を取得して送信する
送信装置と、前記送信された全体参照画像を遠隔地で受
信し、その受信画像中の注視位置の情報を送信装置側に
送信し、前記注視位置の情報に基づいた次の送信画面を
要求する受信装置と、画像信号を伝送する信号伝送路と
を有する顕微鏡画像遠隔制御システムであって、前記顕
微鏡の自動移動式ステージを制御しながら所定倍率で前
記標本の分割撮影を繰り返す手段と、この分割撮影によ
り得られた画像群をメモリに取込む手段と、前記メモリ
上で分割撮影された画像群の平面的な位置関係に矛盾が
生じないようにつなぎ合わせて前記全体参照画像を合成
する手段と、この合成された全体参照画像の位置座標と
ステージ制御座標との対応を取る手段と、前記注視位置
情報は前記全体参照画像の座標値で指定され、次の送信
画像は前記注視位置を中心にその周辺部分を拡大して取
得する手段とを具備することを特徴とする。
(1) A transmitting device for acquiring and transmitting an entire reference image of a predetermined region of a specimen placed on an automatic movable stage of a microscope, and receiving the transmitted overall reference image at a remote location, and receiving the received image A microscope image remote control system having a receiving device that transmits information of a gaze position in an image to a transmitting device side and requests a next transmission screen based on the information of the gaze position, and a signal transmission path that transmits an image signal Means for repeating the divisional photographing of the sample at a predetermined magnification while controlling the automatic movable stage of the microscope, means for taking in a group of images obtained by the divisional photographing, and division on the memory Means for synthesizing the entire reference image by linking them so as not to cause inconsistency in the two-dimensional positional relationship of the group of photographed images; position coordinates and stage control coordinates of the synthesized overall reference image Means for taking the correspondence, and the gaze position information is designated by the coordinate values of the entire reference image, and the next transmission image is provided with means for enlarging and acquiring a peripheral portion around the gaze position. Features.

【0016】(2)前記(1)の顕微鏡画像遠隔制御シ
ステムにおいて、顕微鏡のステージ制御に誤差があって
も画像合成に必要な大きさの重複領域があるようにステ
ージ制御を行う手段を有することを特徴する。
(2) In the microscope image remote control system of (1), there is provided a means for performing stage control so that there is an overlap area having a size necessary for image synthesis even if there is an error in the microscope stage control. It is characterized.

【0017】(3)前記(2)の顕微鏡画像遠隔制御シ
ステムにおいて、顕微鏡のステージ制御の方向によって
ステージ制御の誤差を計算し画像合成に使用する重複領
域の大きさを最適にする手段を有することを特徴する。
(3) In the microscope image remote control system of (2), there is provided means for calculating an error of the stage control according to the direction of the stage control of the microscope and optimizing the size of the overlapping area used for image synthesis. It is characterized.

【0018】(4)前記(1)乃至(3)のうちいずれ
か1つの顕微鏡画像遠隔制御システムにおいて、顕微鏡
のステージに置かれた標本の所定領域をラインセンサで
全体参照画像を作成する手段を有することを特徴とす
る。
(4) In the microscope image remote control system according to any one of the above (1) to (3), means for creating an entire reference image of a predetermined region of the specimen placed on the stage of the microscope with a line sensor is provided. It is characterized by having.

【0019】(5)前記(1)乃至(4)のうちいずれ
か1つの顕微鏡画像遠隔制御システムにおいて、送信装
置は、全体参照画像に(k1*k2)個の平面座標値を
付加して送信し、注視位置の指定を前記平面座標値によ
り指定する手段を有することを特徴とする。
(5) In the microscope image remote control system according to any one of (1) to (4), the transmitting device adds (k1 * k2) plane coordinate values to the entire reference image and transmits the image. The apparatus further comprises means for designating the gaze position by the plane coordinate value.

【0020】(6)前記(1)乃至(5)のうちいずれ
か1つの顕微鏡画像遠隔制御システムにおいて、受信装
置は、受信した高精細静止画像の位置を示すマーク又は
情報を表示装置上の全体参照画像上に表示し、前記高精
細静止画像を全体参照画像上の所定の位置に表示する手
段を有することを特徴とする。
(6) In the microscope image remote control system according to any one of (1) to (5), the receiving device displays a mark or information indicating the position of the received high-definition still image on the entire display device. It is characterized by having a means for displaying on the reference image and displaying the high-definition still image at a predetermined position on the entire reference image.

【0021】前述の手段によれば、顕微鏡の自動移動式
ステージを制御しながら所定倍率で前記標本の分割撮影
を繰り返し、この分割撮影により得られた画像群をメモ
リに取込み、該メモリ上で分割撮影された画像群の平面
的な位置関係に矛盾が生じないようにつなぎ合わせるこ
とによって前記全体参照画像を合成するので、専用のマ
クロ撮影のスタンドと専用のカメラを用意し、マクロ撮
影のスタンドにプレパラートをセットしなくても全体参
照画像を取込むことができる。また、専用のマクロ撮影
のスタンドを使用したら標本が大きすぎたり小さすぎた
りして全体参照画像が適切に取得できなかったもので
も、所定領域の全体参照画像を最も適した任意の大きさ
の画像として合成することができる。
According to the above-described means, the sample is repeatedly photographed at a predetermined magnification while controlling the automatic moving stage of the microscope, and the image group obtained by the photographing is taken into the memory, and divided on the memory. Since the entire reference image is synthesized by joining the captured images so that there is no inconsistency in the planar positional relationship, a dedicated macro shooting stand and a dedicated camera are prepared, and the macro shooting stand is provided. The entire reference image can be captured without setting a slide. In addition, even if the specimen is too large or too small to obtain the entire reference image properly using the dedicated macro shooting stand, the entire reference image of the predetermined area can be obtained in an image of any size that is most suitable. Can be synthesized as

【0022】また、合成された全体参照画像の任意の座
標とステージ制御座標との対応付けがされているので、
全体参照画像の任意の座標と顕微鏡のステージ制御座標
との対応をとるのに熟練を必要としないし、手間もかか
らない。
Further, since arbitrary coordinates of the synthesized overall reference image are associated with stage control coordinates,
Skill is not required for associating arbitrary coordinates of the entire reference image with the stage control coordinates of the microscope, and no effort is required.

【0023】また、全体参照画像の注視位置情報をその
全体参照画像の座標値で指定し、次の送信画像を該注視
位置を中心にその周辺部分を拡大して取得する手段の両
方の手段によって次の送信画像の中心の位置を指定し、
最も効率的な画像の取得ができる。
Also, the gaze position information of the entire reference image is designated by the coordinate values of the whole reference image, and the next transmission image is obtained by enlarging the peripheral portion around the gaze position and acquiring the next transmission image. Specify the center position of the next transmission image,
The most efficient image acquisition can be performed.

【0024】[0024]

【発明の実施の形態】以下、図面を参照して本発明の実
施例を詳細に説明する。
Embodiments of the present invention will be described below in detail with reference to the drawings.

【0025】(実施例1)図1は本発明の顕微鏡画像遠
隔制御システムを実現するためのハードウェア構成を示
すブロック図であり、1はCCDカメラ、2は顕微鏡、
3は標本、4は自動移動式ステージ(以下、単にステー
ジという)、5は送信装置(例えばパソコンを用いる:
臨床側のパソコン)、5Aは送信装置5の表示装置、6
は通信回線、7は受信装置(例えばパソコン等を用い
る:病理医側のパソコン)である。
(Embodiment 1) FIG. 1 is a block diagram showing a hardware configuration for realizing a microscope image remote control system of the present invention, wherein 1 is a CCD camera, 2 is a microscope,
3 is a specimen, 4 is an automatic moving stage (hereinafter simply referred to as a stage), 5 is a transmitting device (for example, using a personal computer:
5A is the display device of the transmitting device 5, 6A
Denotes a communication line, and 7 denotes a receiving device (for example, a personal computer or the like is used: a personal computer of a pathologist).

【0026】本実施例1の顕微鏡画像遠隔制御システム
は、図1に示すように、送信装置5とCCDカメラ1
は、SCSIケーブルで接続され、送信装置5とステー
ジ4は、RS−232Cケーブルで接続されている。送
信装置5と受信装置7は通信回路6で接続されている。
通信回路6としてはISDN回線、アナログ回線の他
に、光ケーブル回線などを用いることもできる。
As shown in FIG. 1, the microscope image remote control system according to the first embodiment includes a transmitting device 5 and a CCD camera 1.
Are connected by a SCSI cable, and the transmission device 5 and the stage 4 are connected by an RS-232C cable. The transmitting device 5 and the receiving device 7 are connected by a communication circuit 6.
As the communication circuit 6, an optical cable line or the like can be used in addition to the ISDN line and the analog line.

【0027】前記CCDカメラ1は顕微鏡2で拡大した
標本3を静止画像として撮影する電子撮像装置であり、
撮影した静止画像はSCSI等の通信インタフェース経
由で送信装置5のメモリに蓄積される。
The CCD camera 1 is an electronic imaging device for photographing a specimen 3 magnified by a microscope 2 as a still image.
The photographed still image is stored in the memory of the transmission device 5 via a communication interface such as SCSI.

【0028】ステージ4は、水平方向に移動させる手段
と、動かない座標系であるステージ制御座標を顕微鏡2
の上に持ち、送信装置5よりRS−232C等の通信イ
ンタフェース経由での指示による基準点がステージ制御
座標上の指定した点にくるように水平方向に自動的に移
動させる手段と、現在のステージ位置の基準点がステー
ジ制御座標のどこの座標値にあるかをRS−232C等
の通信インタフェース経由で送信装置5に取込む手段と
を有している。
The stage 4 includes a means for moving in the horizontal direction and a stage control coordinate which is a stationary coordinate system.
Means for automatically moving in a horizontal direction such that a reference point instructed by a transmission device 5 via a communication interface such as RS-232C comes to a designated point on stage control coordinates; Means for taking in the coordinate value of the position reference point in the stage control coordinates into the transmitting device 5 via a communication interface such as RS-232C.

【0029】送信装置5は、CCDカメラ1で撮影した
画像群をメモリ上に取込む手段と、前記画像群をメモリ
上で平面的な位置関係に矛盾が生じないようにつなぎ合
わせて全体参照画像を作成する手段と、メモリ上の静止
画像を通信回線6を通して受信装置7に送信する手段
と、CCDカメラ1で撮影した画像群及び全体参照画像
を表示装置5Aに表示する手段と、受信装置7との通信
を開始する手段と、送信装置5からの通信を終了する手
段と、ステージ4の制御位置を指定する手段とを有す
る。
The transmitting device 5 includes a means for taking a group of images taken by the CCD camera 1 into a memory, and the image group is connected to the memory so that there is no inconsistency in a planar positional relationship. Means for transmitting a still image on the memory to the receiving device 7 through the communication line 6; means for displaying a group of images taken by the CCD camera 1 and the entire reference image on the display device 5A; The communication device has means for starting communication with the device, means for ending communication from the transmitting device 5, and means for designating a control position of the stage 4.

【0030】受信装置7は、送信装置5から送信された
静止画像を表示装置7Aに表示する表示手段と、送信装
置5との通信を開始する手段と、注視位置を指定する手
段と、指定した位置情報を送信装置5に送信する手段
と、送信装置5との通信を終了する手段とを有する。
The receiving device 7 includes a display device for displaying the still image transmitted from the transmitting device 5 on the display device 7A, a device for starting communication with the transmitting device 5, a device for specifying a gaze position, It has means for transmitting position information to the transmitting device 5 and means for ending communication with the transmitting device 5.

【0031】通信回線6は診断作業中接続されていても
構わないが、この実施例1では、データを送信するとき
のみに通信回線6を接続するように送信装置5及び受信
装置7の通信を開始する手段と通信を終了する手段とを
活用することとする。データを送信するときにのみ通信
回線6を接続するようにすることによって、通信コスト
の削減を図ることができる。
Although the communication line 6 may be connected during the diagnosis work, in the first embodiment, the communication between the transmission device 5 and the reception device 7 is performed so that the communication line 6 is connected only when data is transmitted. A means for starting and a means for ending communication will be utilized. The communication cost can be reduced by connecting the communication line 6 only when transmitting data.

【0032】図2は本実施例1の顕微鏡画像遠隔制御シ
ステムの動作を説明するためのフローチャート、図3は
本実施例1の顕微鏡画像遠隔制御システムにおけるステ
ージ制御フローチャートであり、本発明中の全体参照画
像として取込みたい範囲の座標値に関してステージ4を
制御するフローを示す。
FIG. 2 is a flowchart for explaining the operation of the microscope image remote control system according to the first embodiment. FIG. 3 is a stage control flowchart in the microscope image remote control system according to the first embodiment. 7 shows a flow of controlling the stage 4 with respect to a coordinate value of a range to be taken as a reference image.

【0033】図1及び図2を参照して送信装置5及び受
信装置7内のソフトウェアの動作を以下に説明する。
The operation of the software in the transmitting device 5 and the receiving device 7 will be described below with reference to FIGS.

【0034】実施例1を説明するために必要である前提
条件を記述する。標本3はプレパラートの上に乗せられ
たもの全体であり、その標本3の中でも診断するために
静止画像として受信装置(病理医側)7へ伝送したい部
分領域を所定領域という。参照画像は次の送信画像を取
得するために使用する画像であり、所定領域の全体参照
画像とは所定の全体が含まれる参照画像である。注視位
置とは高精細画像を取得したい領域の中心の位置であ
る。
Preconditions necessary for explaining the first embodiment will be described. The specimen 3 is the whole placed on the preparation, and a partial area of the specimen 3 that is to be transmitted as a still image to the receiving device (pathologist side) 7 for diagnosis is referred to as a predetermined area. The reference image is an image used to acquire the next transmission image, and the entire reference image of the predetermined area is a reference image including a predetermined entirety. The gaze position is the position of the center of a region where a high-definition image is desired to be acquired.

【0035】顕微鏡2にCCDカメラ1を接続して顕微
鏡2で拡大した画像をCCDカメラ1で撮影し、送信装
置5に標本3の画像を取込むためには、接眼レンズの代
わりにリレーレンズを使用する。対物レンズの倍率、リ
レーレンズの倍率、それらのレンズを使用したときのC
CDカメラ1で取込む画像の実際のサイズとの関係の例
を表1に示し、この例を使用して以降の実施例1を説明
する。
In order to connect the CCD camera 1 to the microscope 2 and take an image enlarged by the microscope 2 with the CCD camera 1 and capture the image of the specimen 3 into the transmitting device 5, a relay lens is used instead of an eyepiece. use. Magnification of objective lens, magnification of relay lens, C when using those lenses
Table 1 shows an example of the relationship with the actual size of an image captured by the CD camera 1, and the following Example 1 will be described using this example.

【0036】[0036]

【表1】 [Table 1]

【0037】今、CCDカメラ1で取込んだ画像の顕微
鏡2のステージ制御座標は、画像の中央位置のステージ
制御座標であるように設定してある。また、顕微鏡1の
ステージ制御座標はミクロンメートル(μm)単位の値
で与えられる。1倍のリレーレンズと4倍の対物レンズ
を使用してCCDカメラ1で取込んだ静止画像の左上の
角の位置のステージ制御座標から中心位置のステージ制
御座標へ向かうベクトルをPと定義する。
Now, the stage control coordinates of the microscope 2 of the image captured by the CCD camera 1 are set to be the stage control coordinates at the center position of the image. The stage control coordinates of the microscope 1 are given in units of microns (μm). A vector P defined from the stage control coordinates at the upper left corner of the still image captured by the CCD camera 1 using the 1 × relay lens and the 4 × objective lens to the stage control coordinates at the center position is defined as P.

【0038】まず、標本3を低倍率レンズでの取込み可
能領域で分割してメモリに取込む方法を説明する。この
方法は、全体参照画像として取込みたい範囲のステージ
制御座標値をメモリに取込む手段と、メモリに取込んだ
ステージ制御座標値に関してステージを制御しながら画
像をメモリに取込む手段とに分けられる。
First, a method of dividing the sample 3 into an area which can be taken in by a low-magnification lens and taking it into the memory will be described. This method is divided into a means for taking in stage control coordinate values of a range to be taken in as a whole reference image into a memory, and a means for taking in an image while controlling a stage with respect to the stage control coordinate values taken in to memory. .

【0039】以下に、全体参照画像として取込みたい範
囲のステージ制御座標値をメモリに取込む手段を説明す
る。
A description will now be given of a means for loading the stage control coordinate values of a range to be captured as the entire reference image into the memory.

【0040】顕微鏡2のステージ4に標本3がセットし
てあり、対物レンズは4倍、リレーレンズは1倍になっ
ている。まず、全体参照画像として取込みたい範囲が含
まれるような長方形領域の左上の角が取込み可能領域の
中央より右下になるような位置でその顕微鏡2のステー
ジ制御座標を取込む。
The specimen 3 is set on the stage 4 of the microscope 2, and the objective lens is 4 times and the relay lens is 1 time. First, the stage control coordinates of the microscope 2 are fetched at a position where the upper left corner of the rectangular area including the range to be fetched as the entire reference image is lower right than the center of the fetchable area.

【0041】次に、全体参照画像として取込みたい範囲
が含まれるような長方形領域の右下の角が取込み可能領
域の中心より左上になるような位置でその顕微鏡のステ
ージ制御座標を取込む。全体参照画像の左上のステージ
制御座標と右下のステージ制御座標の取込みは、右上の
ステージ制御座標と左下のステージ制御座標の取込みに
置き換えてもよい。
Next, the stage control coordinates of the microscope are fetched at such a position that the lower right corner of the rectangular area including the range to be fetched as the whole reference image is at the upper left from the center of the fetchable area. The capture of the upper left stage control coordinates and the lower right stage control coordinates of the entire reference image may be replaced with the capture of the upper right stage control coordinates and the lower left stage control coordinates.

【0042】図2及び図3を参照して、メモリに取込ん
だステージ制御座標値に関してステージを制御しながら
画像をメモリに取込む手段を説明する。左上のステージ
制御座標値を(x1,y1)、右下のステージ制御座標
値を(x2,y2)とする。ただし、x1<x2,y1
<y2である。また、x1,y1、x2,y2の単位は
ミクロンメートルである。|x1−x2|/2210≦
k1となる最小の自然数k1と、|y1−y2|/16
50≦k2となる最小の自然数k2を計算する(S30
1)。ステージ4を、顕微鏡2の視野の中心が(x1,
y1)+Pのステージ制御座標値になるよう制御する
(S302)。
With reference to FIGS. 2 and 3, a description will be given of a means for taking an image into the memory while controlling the stage with respect to the stage control coordinate values taken into the memory. The upper left stage control coordinate value is (x1, y1), and the lower right stage control coordinate value is (x2, y2). Where x1 <x2, y1
<Y2. The unit of x1, y1, x2, y2 is micron meter. | X1-x2 | / 2210 ≦
the smallest natural number k1 to be k1 and | y1-y2 | / 16
The minimum natural number k2 satisfying 50 ≦ k2 is calculated (S30).
1). When the center of the visual field of the microscope 2 is (x1,
Control is performed so that the stage control coordinate value becomes y1) + P (S302).

【0043】Pはメモリへの1回の静止画像取込みサイ
クルにおいて該画像の中心位置を示す(x1,y1)か
らの相対座標である。分割撮影する静止画像それぞれに
1つのPの値が定まる。その位置で1つの分割された3
20*240ドットの静止画像として顕微鏡画像をメモ
リに取込み、同時に分割撮影した画像の中心の位置であ
るステージ制御座標値(x1,y1)+Pをそれぞれの
分割画像に対応するよう記録する(S201,S30
3)。
P is a relative coordinate from (x1, y1) indicating the center position of the image in one cycle of taking a still image into the memory. One P value is determined for each of the still images to be shot separately. One divided 3 at that position
The microscope image is fetched into the memory as a still image of 20 * 240 dots, and the stage control coordinate value (x1, y1) + P, which is the position of the center of the image captured at the same time, is recorded so as to correspond to each of the divided images (S201, S30
3).

【0044】自動移動式ステージ4を取込み可能領域が
右方向になるように2210ミクロンメートル移動する
ように制御し(S304)、顕微鏡画像を320*24
0ドットの静止画像としてメモリ上に取込み、同時に分
割撮影した画像の中心の位置であるステージ制御座標値
(x1+2210,y1)+Pを記録する(S30
7)。これを(k1−1)回繰り返したら、今度はステ
ージを取込み可能領域が下方向になるように1650ミ
クロンメートル制御し(S309)、同様に320*2
40ドットの静止画像としてメモリ上に取込み、同時に
撮影画像の中心の位置のステージ制御座標値を記録する
(S312)。さらに、ステージを取込み可能領域が左
方向になるように2210ミクロンメートル制御し(S
313)、320*240ドットの静止画像としてメモ
リ上に取込み、同時に撮影画像の中心の位置のステージ
制御座標値を記録する(S316)。同様にステージの
制御を行い(S318)、(k1*k2)枚の静止画像
のメモリ上への取込みと、それぞれの静止画像の中心の
位置のステージ制御座標値の記録を行う(S202,S
321)。
The automatic movable stage 4 is controlled so as to move 2210 μm so that the area where the automatic movable stage 4 can be taken in becomes rightward (S 304), and the microscope image is 320 × 24.
A stage control coordinate value (x1 + 2210, y1) + P, which is the position of the center of the divided and photographed image, is captured as a 0-dot still image in a memory (S30).
7). When this is repeated (k1-1) times, the stage is controlled at 1650 μm so that the area where the stage can be taken is downward (S309), and similarly, 320 * 2
The image is taken into the memory as a 40-dot still image, and at the same time, the stage control coordinate value at the center position of the captured image is recorded (S312). Further, the stage is controlled at 2210 μm so that the area where the stage can be taken is in the left direction (S
313), the image is taken into the memory as a still image of 320 * 240 dots, and at the same time, the stage control coordinate value at the center position of the photographed image is recorded (S316). Similarly, the stage is controlled (S318), the (k1 * k2) still images are taken into the memory, and the stage control coordinate value of the center position of each still image is recorded (S202, S).
321).

【0045】次に、図2を参照して、メモリに取込んだ
320*240ドットの静止画像群をメモリ上で平面的
な位置関係に矛盾が生じないようにつなぎ合わせて全体
参照画像を作成する方法を説明する。
Next, referring to FIG. 2, an entire reference image is created by connecting still image groups of 320 * 240 dots fetched into the memory so as not to cause inconsistency in a planar positional relationship on the memory. How to do it.

【0046】メモリに取込んだ320*240ドットの
静止画像群をメモリ上で平面的な位置関係に矛盾が生じ
ないようにつなぎ合わせて全体参照画像を作成するため
に、分割撮影された静止画像の中心の位置に記録された
顕微鏡のステージ制御座標値をドット単位の平面座標値
に変換する(S203)。
In order to create a whole reference image by connecting still image groups of 320 * 240 dots fetched into the memory so as not to cause inconsistency in a planar positional relationship on the memory, a divided still image is created. Then, the microscope stage control coordinate values recorded at the center position are converted to dot plane coordinate values (S203).

【0047】変換の方法としては、中心の位置に記録さ
れたステージ制御座標値(xi,yi)(単位はミクロ
ンメートル)を平面座標値((xi−x1)/6.9+
160,(yi−y1)/6.9+120)=(x,
y)(単位はドット)(6.9=320/2210)に
変換する方法を採用する。この方法を採用することによ
って、顕微鏡のステージ制御座標を撮影された画像上の
位置を示すドット単位の平面座標に変換することがで
き、かつ画像の左上の角の平面座標値を(0,0)とす
ることができる。
As a conversion method, the stage control coordinate value (xi, yi) (unit: micron meter) recorded at the center position is converted into the plane coordinate value ((xi−x1) /6.9+).
160, (yi-y1) /6.9+120) = (x,
y) (unit is dot) (6.9 = 320/2210). By employing this method, it is possible to convert the stage control coordinates of the microscope into plane coordinates in dot units indicating the position on the photographed image, and to change the plane coordinate value of the upper left corner of the image to (0, 0). ).

【0048】メモリ上に記録されている(k1*k2)
枚の320*240の静止画像を、それぞれの画像の中
心の位置として記録されている平面座標値に基づいて平
面座標軸上に順番に配置することによって、画像をつな
ぎ合わせて、全体参照画像を作成する(S204)。こ
こで、画像を見やすくするためにシームレス処理を行っ
たり、320*240の静止画像群に発生する輝度のむ
らをなくすための画像処理を行っても良い。
(K1 * k2) recorded on the memory
By arranging 320 * 240 still images in order on the plane coordinate axis based on the plane coordinate values recorded as the center position of each image, the images are joined to create an overall reference image (S204). Here, a seamless process may be performed to make the image easier to see, or an image process may be performed to eliminate luminance unevenness occurring in a 320 * 240 still image group.

【0049】受信装置7との通信を開始する手段で回線
を接続する。ドット単位の平面座標値が(k1*k2)
箇所に記録された全体参照画像を受信装置7に送信する
(S205)。全体参照画像送信終了時に受信装置7の
パソコンとの通信を終了する手段で回線を切断する。
A line is connected by means for starting communication with the receiving device 7. The plane coordinate value in dot unit is (k1 * k2)
The whole reference image recorded at the location is transmitted to the receiving device 7 (S205). When transmission of the entire reference image is completed, the line is disconnected by means for terminating communication with the personal computer of the receiving device 7.

【0050】受信装置7ではドット単位の平面座標値が
(k1*k2)箇所に記録された全体参照画像を受信
し、表示装置(ディスプレイ)7Aに表示する。
The receiving device 7 receives the entire reference image in which the plane coordinate values in dot units are recorded at (k1 * k2) locations, and displays it on the display device (display) 7A.

【0051】次に、注視位置を指定し、この指定された
注視位置の平面座標値を取得する方法について説明す
る。
Next, a method of designating the gaze position and obtaining the plane coordinate value of the designated gaze position will be described.

【0052】受信したドット単位の平面座標値が記録さ
れた全体参照画像上で、高精細静止画像を取得したい注
視位置を指定する。全体参照画像の左上の角の平面座標
値が(0,0)であることから前記指定した注視位置の
ドット単位の平面座標値を計算する。あるいは、前記指
定した注視位置の平面座標値と(k1*k2)個の全体
参照画像上に記録されている平面座標値との距離を計算
して、距離の値が最も小さい全体参照画像上の位置と平
面座標値を認識し、その位置から何ドットずつ離れてい
るか計算して指定した注視位置の平面座標値を求めても
よい(S206)。
A gaze position at which a high-definition still image is to be obtained is designated on the received entire reference image in which the plane coordinate values in dot units are recorded. Since the plane coordinate value of the upper left corner of the entire reference image is (0, 0), the plane coordinate value of the designated gaze position in dot units is calculated. Alternatively, the distance between the plane coordinate value of the specified gaze position and the plane coordinate values recorded on the (k1 * k2) global reference images is calculated, and the distance value on the global reference image having the smallest distance value is calculated. The position and the plane coordinate value may be recognized, and how many dots away from the position may be calculated to obtain the plane coordinate value of the specified gaze position (S206).

【0053】以上の方法で指定した注視位置の平面座標
値を求めたら、送信装置5のとの通信を開始する手段で
通信回線6を接続し、指定した注視位置のドット単位の
平面座標値を送信装置5に送信する(S207)。座標
値送信終了時に送信装置5との通信を終了する手段で通
信回線6を切断する。
After obtaining the plane coordinate value of the designated gaze position by the above method, the communication line 6 is connected by means for starting communication with the transmitting device 5 and the plane coordinate value of the designated gaze position in dot units is calculated. The data is transmitted to the transmitting device 5 (S207). When the coordinate value transmission is completed, the communication line 6 is disconnected by means for terminating the communication with the transmission device 5.

【0054】受信した平面座標値を顕微鏡2上のミクロ
ンメートル単位のステージ制御座標に変換する(S20
8)。変換の方法としてはドット単位の平面座標値を
(x,y)としたとき、ステージ制御座標値(xi,y
i)=((x−160)*6.9+x1,(y−12
0)*6.9+y1)を採用する。この座標値の変換に
ついては、受信装置7で座標データの送信をする前に行
って、ミクロンメートル単位の顕微鏡2のステージ制御
座標値を送信装置5に送信しても良い。
The received plane coordinate values are converted into the stage control coordinates on the microscope 2 in units of microns (S20).
8). As a conversion method, when a plane coordinate value in dot units is (x, y), a stage control coordinate value (xi, y) is used.
i) = ((x-160) * 6.9 + x1, (y-12)
0) * 6.9 + y1) is adopted. The conversion of the coordinate values may be performed before the coordinate data is transmitted by the receiving device 7, and the stage control coordinate values of the microscope 2 in units of microns may be transmitted to the transmitting device 5.

【0055】受信装置7で座標データの送信をする前に
行って、ミクロンメートル単位の顕微鏡2のステージ制
御座標値を送信装置5に送信しても良い。
The coordinates of the stage control of the microscope 2 in units of microns may be transmitted to the transmitting device 5 before the coordinate data is transmitted by the receiving device 7.

【0056】受信装置7が指定した注視位置を次の送信
画像の中心とするために、ステージ制御座標値が((x
−160)*6.9+x1,(Y−120)*6.9+
y1)になるようにステージを制御する(S209)。
高倍率の対物レンズで、高精細静止画像としてメモリに
取込む。
In order for the gaze position designated by the receiving device 7 to be the center of the next transmission image, the stage control coordinate value is set to ((x
-160) * 6.9 + x1, (Y-120) * 6.9 +
The stage is controlled so as to satisfy y1) (S209).
With a high-magnification objective lens, a high-definition still image is captured in the memory.

【0057】高精細静止画像としてメモリに取込んだ
ら、受信装置7との通信を開始する手段で通信回線6を
接続する。該高精細静止画像を受信装置7に送信する
(S210)。該高精細静止画像送信終了時に受信装置
7との通信を終了する手段で通信回線6を切断する。
After the high-resolution still image is stored in the memory, the communication line 6 is connected by means for starting communication with the receiving device 7. The high-definition still image is transmitted to the receiving device 7 (S210). When the transmission of the high-definition still image is completed, the communication line 6 is disconnected by means for ending the communication with the receiving device 7.

【0058】以上の本実施例1の説明では、全体参照画
像を4倍の対物レンズで作成すること、リレーレンズが
1倍であることを前提に述べたが、勿論、その他の倍率
でも構わない。その場合は、その倍率の対物レンズ、リ
レーレンズで拡大したときの取込んだ画像の実際のサイ
ズから計算式を算出し直す。
In the above description of the first embodiment, the description has been made on the assumption that the entire reference image is formed by a 4 × objective lens and that the relay lens is 1 ×. Of course, other magnifications may be used. . In that case, the calculation formula is recalculated from the actual size of the captured image when enlarged by the objective lens and the relay lens at that magnification.

【0059】また、データ送信時に通信回線6を切断
し、データ送信終了時に通信回線6を切断する実施例に
ついて述べたが、送信装置5及び受信装置7のどちらか
の手段として通信回線6が接続されている場合、例え
ば、15秒以上データが送信されてこなかったら自動的
に通信回線6を切断するような手段を持たせてもよい。
Also, the embodiment in which the communication line 6 is disconnected at the time of data transmission and the communication line 6 is disconnected at the end of data transmission has been described, but the communication line 6 is connected as one of the transmitting device 5 and the receiving device 7. In this case, for example, a means may be provided for automatically disconnecting the communication line 6 if no data has been transmitted for 15 seconds or more.

【0060】本実施例1の顕微鏡画像遠隔制御システム
の用途として遠隔病理診断について説明する。
A remote pathological diagnosis will be described as an application of the microscope image remote control system of the first embodiment.

【0061】まず、送信装置(臨床側)5は標本3を顕
微鏡2のステージ4にセットし、対物レンズを4倍にす
る。全体参照画像として取得する範囲を決定しその範囲
が含まれるような長方形領域を決める。その長方形領域
の左上の角が取込み可能領域の中心より右下にくるよう
にステージ4を制御する。その位置の顕微鏡2のステー
ジ制御座標を取込む。さらに、前記長方形領域の右下の
角が取込み可能領域の中心より左下にくるようにステー
ジ4を制御する。その位置の顕微鏡のステージ制御座標
を取込む。
First, the transmitting device (clinical side) 5 sets the specimen 3 on the stage 4 of the microscope 2 and quadruples the objective lens. A range to be acquired as the entire reference image is determined, and a rectangular area including the range is determined. The stage 4 is controlled so that the upper left corner of the rectangular area is lower right than the center of the capture area. The stage control coordinates of the microscope 2 at that position are taken. Further, the stage 4 is controlled such that the lower right corner of the rectangular area is located lower left than the center of the capture area. The stage control coordinates of the microscope at that position are acquired.

【0062】前記ステージ座標群を基に、送信装置(臨
床側)5のパソコンの「ステージ4を制御しながら画像
をメモリに取込む手段」及び「メモリに取込んだ静止画
像群をメモリ上でつなぎ合わせて全体参照画像を作成す
る手段」が働き、全体参照画像が作成され、表示装置5
Aに表示される。
Based on the stage coordinate group, "means for capturing an image into the memory while controlling the stage 4" of the personal computer of the transmitting device (clinical side) 5 and "still image group captured in the memory on the memory" The means for creating an overall reference image by joining "works to create an overall reference image, and the display device 5
A is displayed.

【0063】全体参照画像を受信装置(病理医側)7に
送信する。対物レンズを高倍率に換えておく。
The whole reference image is transmitted to the receiving device (pathologist side) 7. Change the objective lens to a higher magnification.

【0064】受信装置7は受信した全体参照画像を見
て、注視位置をクリックするなどして指定する。受信装
置7の「指定した位置の平面座標値を取得する手段」及
び「指定した位置の平面座標値を送信装置へ送信する手
段」が働き、指定した注視位置の平面座標値が送信装置
5へ送信される。
The receiving device 7 looks at the received entire reference image and designates the gaze position by clicking on the gaze position or the like. The “means for acquiring the plane coordinate value of the designated position” and the “means for transmitting the plane coordinate value of the designated position to the transmitting device” of the receiving device 7 work, and the planar coordinate value of the designated gaze position is transmitted to the transmitting device 5. Sent.

【0065】送信装置5はその送信を受信し、送信装置
5の「受信した平面座標値をステージ制御座標に変換す
る手段」及び「該ステージ制御座標値が画像の中心の位
置のステージ制御座標値と同一になるようにステージを
制御する手段」が働き、高倍率の高精細静止画像が作成
され、表示装置5Aに表示される。前記高精細静止画像
を受信装置7のパソコンに送信する。
The transmitting device 5 receives the transmission and transmits the “means for converting the received plane coordinate values into the stage control coordinates” and “the stage control coordinate values at the center position of the image”. A means for controlling the stage so as to be the same as that described above works, and a high-resolution still image with high magnification is created and displayed on the display device 5A. The high-resolution still image is transmitted to the personal computer of the receiving device 7.

【0066】受信装置7では前記高精細静止画像を表示
装置7Aに表示し、診断を下す。他の注視位置の高精細
静止画像を取得したいときは、再度全体参照画像上で注
視位置を指定することによって、同様に取得する。
The receiving device 7 displays the high-definition still image on the display device 7A to make a diagnosis. When it is desired to acquire a high-definition still image at another gaze position, the gaze position is designated again on the entire reference image to acquire the same.

【0067】以上の説明からわかるように、本実施例1
によれば、顕微鏡2のステージ4を制御しながら所定倍
率で標本3の分割撮影を繰り返し、この分割撮影により
得られた画像群をメモリに取込み、該メモリ上で分割撮
影された画像群の平面的な位置関係に矛盾が生じないよ
うにつなぎ合わせることによって全体参照画像を作成す
るので、専用のマクロ撮影のスタンドと専用のカメラを
用意し、マクロ撮影のスタンドにプレパラートをセット
しなくても全体参照画像を取込むことができる。また、
専用のマクロ撮影のスタンドを使用したら標本が大きす
ぎたり小さすぎたりして全体参照画像が適切に取得でき
なかったものでも、所定領域の全体参照画像を最も適し
た任意の大きさの画像として作成することができる。
As can be seen from the above description, the present embodiment 1
According to the method, the divided photographing of the specimen 3 is repeated at a predetermined magnification while controlling the stage 4 of the microscope 2, the image group obtained by the divided photographing is stored in the memory, and the plane of the image group divided and photographed on the memory is read. Since the entire reference image is created by joining together so that there is no inconsistency in the basic positional relationship, a dedicated macro shooting stand and a dedicated camera are prepared, and the entire image can be set without setting the slide on the macro shooting stand. Reference images can be captured. Also,
Even if the entire reference image could not be acquired properly due to the sample being too large or too small when using the dedicated macro shooting stand, the entire reference image of the predetermined area is created as the image of the most suitable arbitrary size can do.

【0068】また、作成された全体参照画像の任意の座
標とステージ制御座標との対応付けがされているので、
全体参照画像の任意の座標と顕微鏡のステージ制御座標
との対応をとるのに熟練を必要としないし、手間もかか
らない。
Further, since arbitrary coordinates of the created entire reference image are associated with stage control coordinates,
Skill is not required for associating arbitrary coordinates of the entire reference image with the stage control coordinates of the microscope, and no effort is required.

【0069】また、全体参照画像の注視位置情報をその
全体参照画像の座標値で指定し、次の送信画像を該注視
位置を中心にその周辺部分を拡大して取得する手段の両
方の手段によって次の送信画像の中心の位置を指定し、
最も効率的な画像の取得ができる。
The gaze position information of the whole reference image is designated by the coordinate value of the whole reference image, and the next transmission image is obtained by enlarging the peripheral portion around the gaze position and acquiring the next transmission image. Specify the center position of the next transmission image,
The most efficient image acquisition can be performed.

【0070】(実施例2)前記実施例1では送信装置5
及び受信装置7のパソコン上で指定したステージ制御座
標値とメモリに取込んだ画像の中心の位置の実際のステ
ージ制御座標値とが完全に一致することを前提として説
明したが、顕微鏡2のステージ制御の精度によって受信
装置7のパソコン上で指定したステージ制御座標値とメ
モリに取込んだ画像の中心の位置の実際のステージ制御
座標値とが異なっている場合がある。それ故、前記実施
例1に従って全体参照画像を作成すると所定領域中に全
体参照画像上に表示されないような部分画像領域が発生
してしまう可能性がある。
(Second Embodiment) In the first embodiment, the transmitting device 5
The description has been given on the assumption that the stage control coordinate value specified on the personal computer of the receiving device 7 and the actual stage control coordinate value of the center position of the image captured in the memory completely match. The stage control coordinate value specified on the personal computer of the receiving device 7 may differ from the actual stage control coordinate value of the center position of the image fetched into the memory depending on the control accuracy. Therefore, when the entire reference image is created according to the first embodiment, there is a possibility that a partial image area that is not displayed on the entire reference image may occur in a predetermined area.

【0071】その問題を解決するためには、以下のこと
を行う。
To solve the problem, the following is performed.

【0072】図4は本発明の実施例2のステージを制御
しながら画像を取込む手段を説明するための図である。
図4中の実線の四角はCCDカメラ1で撮影しメモリに
取込む画像を示し、点線の四角は実線の四角のうち全体
参照画像を作成するためにメモリに取込む画像を示し、
矢印はステージの移動を示している。
FIG. 4 is a diagram for explaining means for capturing an image while controlling the stage according to the second embodiment of the present invention.
In FIG. 4, solid-line squares indicate images captured by the CCD camera 1 and taken into the memory, and dotted-line squares represent images taken out of the solid-line squares to be taken into the memory to create an entire reference image.
Arrows indicate movement of the stage.

【0073】本実施例2でも前記実施例1と同様に標本
3をメモリへの取込み可能領域で分割して、その後その
分割に基づいてステージ4を制御しメモリに取込む。さ
らにメモリに取込んだ画像をつなぎ合わせて全体参照画
像を作成するという方法をとる。しかし、本実施例2で
は前記実施例1と異なり、図4に示すように、画像が重
複するようにステージ4を制御し画像をメモリに取込
む。そして、その重複領域中の同一の大きさの長方形画
像同士の差を求めることによってその差がもっと小さく
なるように画像をつなぎ合わせる位置を決める方法を採
用する。
In the second embodiment as well, the specimen 3 is divided into areas which can be taken into the memory, and the stage 4 is controlled based on the division and taken into the memory in the same manner as the first embodiment. Further, a method is employed in which images taken into the memory are connected to create an entire reference image. However, in the second embodiment, unlike the first embodiment, as shown in FIG. 4, the stage 4 is controlled so that the images overlap, and the images are stored in the memory. Then, a method is adopted in which a difference between rectangular images of the same size in the overlapping area is determined, and a position at which the images are joined is determined so that the difference is further reduced.

【0074】前記長方形画像は、例えば1枚目にメモリ
に取込んだ画像と2枚目のメモリに取込んだ画像の重複
領域の長方形部分領域、2枚目にメモリに取込んだ画像
と3枚目にメモリに取込んだ画像の重複領域の長方形部
分領域といったように、ステージ4を制御するその前後
の画像の重複領域の長方形部分領域とする。つなぎ合わ
せる隣接する2枚の画像に対して顕微鏡2のステージ制
御誤差が生じなかった場合重なって取込まれる領域を重
複領域とする。
The rectangular image is, for example, a rectangular partial area of an overlapping area of the first image captured in the memory and the image captured in the second memory, and the third image and the third image captured in the memory. A rectangular partial area of an overlapping area of an image before and after the stage 4 is controlled, such as a rectangular partial area of an overlapping area of an image fetched into the memory on the sheet. If there is no stage control error of the microscope 2 with respect to two adjacent images to be joined, an overlapped area is taken as an overlap area.

【0075】図5はステージ制御前の重複領域中の小領
域を示す図、図6は隣接する画像の重複領域の大きさを
求める処理手順を示すフローチャート、図7はメモリ上
で平面的な位置関係に矛盾が生じないようにつなぎ合わ
せる処理手順を示すフローチャートである。
FIG. 5 is a view showing a small area in the overlapping area before the stage control, FIG. 6 is a flowchart showing a processing procedure for obtaining the size of the overlapping area of the adjacent image, and FIG. 9 is a flowchart showing a processing procedure for joining the relations so as not to cause inconsistency.

【0076】図4、図5、図6、図7を参照して、本実
施例2の送信装置5内のソフトウェアの動作を次に説明
する。
With reference to FIGS. 4, 5, 6, and 7, the operation of the software in the transmitting device 5 of the second embodiment will be described below.

【0077】この実施例2では顕微鏡2のステージ制御
の精度が10ミクロンメートル以下であることを前提と
する。また、2つの画像をつなぎ合わせるために必要な
2つの画像の重なり合った長方形部分画像領域の短いほ
うの一辺の画素数を適当に決める。数値が大きければつ
なぎ合わせの精度は高くなるが処理に時間がかかるし、
数値が小さければ処理にかかる時間が少なくてすむが精
度が下がることを考慮して、適当な数値を設定する。本
実施例2では20ドットと定める。
In the second embodiment, it is assumed that the precision of the stage control of the microscope 2 is 10 μm or less. Further, the number of pixels on the shorter side of the overlapping rectangular partial image area of the two images necessary for joining the two images is appropriately determined. The larger the value, the higher the accuracy of splicing, but it takes longer to process,
When the numerical value is small, an appropriate numerical value is set in consideration of the fact that the time required for processing is short but the accuracy is reduced. In the second embodiment, the number is set to 20 dots.

【0078】機器の構成や機能、レンズの倍率による画
像の実際のサイズ等の前提条件は、前記実施例1と同様
とする。また、以下の説明では、全体参照画像は前記実
施例1と同様に4倍の対物レンズ、1倍のリレーレンズ
を使用する。
The prerequisites such as the configuration and function of the device and the actual size of the image based on the magnification of the lens are the same as those in the first embodiment. In the following description, a 4 × objective lens and a 1 × relay lens are used for the entire reference image as in the first embodiment.

【0079】図6を参照して、あらかじめ、つなぎ合わ
せる二つの画像の重複領域の短いほうの一辺の大きさを
求めておく(S601)。これは{(つなぎ合わせに必
要な画素数)ドット+(ステージ制御の最大誤差)ドッ
ト×2}をミクロンメートル単位に計算しなおすことに
よって求める(S602)。これは対物レンズとリレー
レンズの倍率に依存する。なぜならば、ステージ制御最
大誤差10ミクロンメートルがその倍率で拡大したとき
何ドットに相当するかが変わってくるからである。
Referring to FIG. 6, the size of the shorter side of the overlapping area of the two images to be joined is determined in advance (S601). This is obtained by recalculating {(number of pixels required for joining) dots + (maximum error of stage control) dots × 2} in units of microns (S602). This depends on the magnification of the objective lens and the relay lens. This is because, when the stage control maximum error of 10 μm is enlarged at that magnification, the number of dots corresponding thereto changes.

【0080】対物レンズの倍率が4倍でリレーレンズが
1倍の場合、ステージ制御の最大誤差10ミクロンメー
トルは、10*320/2210=1.4より、ステー
ジ制御の最大誤差は2ドットと計算できる。{(ステー
ジ制御の最大誤差)ドット×2+(つなぎ合わせに必要
な画素数)ドット}=2*2+20=24となり、24
ドット必要という結果になる。24ドットは24*22
10/320=165.8となり、この場合2つの画像
の重複領域の短いほうの一辺は標本3の実際の大きさで
166ミクロンメートル必要と計算できる(S60
3)。
When the magnification of the objective lens is 4 times and the relay lens is 1 time, the maximum error of the stage control is 10 microns, and the maximum error of the stage control is 2 dots from 10 * 320/2210 = 1.4. it can. {(Maximum error of stage control) dots × 2 + (number of pixels required for joining) dots} = 2 * 2 + 20 = 24, and 24
This results in the need for dots. 24 dots is 24 * 22
10/320 = 165.8. In this case, it can be calculated that the shorter side of the overlapping region of the two images needs 166 μm in the actual size of the sample 3 (S60).
3).

【0081】以上の計算より、全体参照画像を作成する
ためにメモリに取込む部分はメモリに取込んだ画像の上
下左右端から166/2=83ミクロンメートル分、2
4/2=12ドットずつを取り除いた部分領域を中心に
ステージ制御の最大誤差である2ドットを限界に上下左
右にずらした25通りの部分領域画像のうちのいづれか
ということになる。その部分領域画像の大きさは図4の
点線の四角で示したように、2210−166=204
4、1650−166=1484より2044*148
4(ミクロンメートル)である。
From the above calculation, the portion taken into the memory to create the whole reference image is 166/2 = 83 μm from the upper, lower, left and right ends of the image taken into the memory, and 2
One of 25 partial area images shifted up, down, left, and right with a maximum of 2 dots, which is the maximum error of the stage control, around the partial area obtained by removing 4/2 = 12 dots each. The size of the partial area image is 2210-166 = 204, as indicated by the dotted square in FIG.
4, 2044 * 148 from 1650-166 = 1484
4 (micron meters).

【0082】次に、標本を低倍率レンズでの取込み可能
領域で分割してメモリに取込む方法を説明する。この方
法は、全体参照画像として取込みたい範囲のステージ制
御座標値をメモリに取込む手段と、メモリに取込んだス
テージ制御座標値に関してステージ制御座標値をメモリ
に取込む手段と、メモリに取込んだステージ制御座標値
に関してステージを制御しながら画像をメモリに取込む
手段とに分けられる。
Next, a description will be given of a method of dividing a sample into a region which can be taken in by a low-magnification lens and taking the sample into a memory. In this method, means for taking in stage control coordinate values in a range to be taken in as an entire reference image into a memory, means for taking in stage control coordinate values in relation to stage control coordinate values taken in memory, and taking in memory And means for taking in an image into a memory while controlling the stage with respect to the stage control coordinate values.

【0083】全体参照画像として取込みたい範囲のステ
ージ制御座標値をメモリに取込む手段については前記実
施例1のとおりとする。
The means for taking the stage control coordinate values of the range to be taken as the whole reference image into the memory is as described in the first embodiment.

【0084】図4を参照してメモリに取込んだステージ
制御座標値に関してステージを制御しながら画像をメモ
リに取込む機能を説明する。この手段はほとんど前記実
施例1の手段と同様であるので、前記実施例1と違う点
だけを述べる。
Referring to FIG. 4, the function of taking an image into the memory while controlling the stage with respect to the stage control coordinate values taken into the memory will be described. Since this means is almost the same as the means of the first embodiment, only the differences from the first embodiment will be described.

【0085】メモリに取込む部分領域画像の大きさが2
044*1484(ミクロンメートル)であるので、k
1,k2を求める計算式は(|x1−x2|)/204
4≦k1、(|y1−y2|)/1484≦k2であ
る。最初にステージを制御するステージ制御座標値は
(x1−83,y1−83)+Pであり、最初に記録す
るステージを制御座標値も(x1−83,y1−83)
+Pである。ステージの制御については、左右方向は2
044ミクロンメートル、下方向は1484ミクロンメ
ートル制御する。
The size of the partial area image to be taken into the memory is 2
Since 044 * 1484 (micron meters), k
The formula for calculating 1, k2 is (| x1-x2 |) / 204.
4 ≦ k1, (| y1-y2 |) / 1484 ≦ k2. The stage control coordinate value for controlling the stage first is (x1-83, y1-83) + P, and the control coordinate value for the stage to be recorded first is also (x1-83, y1-83).
+ P. For stage control, 2
044 μm, and downward 1484 μm.

【0086】図7を参照して、メモリに取込んだ320
*240の静止画像群をメモリ上で平面的な位置関係に
矛盾が生じないようにつなぎ合わせて全体参照画像を作
成する方法を説明する。この方法は、ステージ制御前の
重複領域中の小領域を指定する方法と、相関係数を計算
して合成位置を決定し画像をつなぎ合わせる方法とに分
けられ、両方法を組み合わせて全体参照画像を作成す
る。
Referring to FIG. 7, 320
A method of creating an entire reference image by connecting * 240 still image groups on a memory so as not to cause inconsistency in a planar positional relationship will be described. This method is divided into a method of designating a small area in an overlapping area before stage control, and a method of calculating a correlation coefficient to determine a combining position and joining images. Create

【0087】まず、一枚目の静止画像をメモリに取込
む。取込む画像は320*240で取込んだ画像のう
ち、上下左右12ドットずつを取り除いた296*21
6の画像とする。
First, the first still image is fetched into the memory. The image to be captured is 296 * 21 which is obtained by removing 12 dots at the top, bottom, left and right of the image captured at 320 * 240.
The image of FIG.

【0088】図5を参照しながらステージ制御前の重複
領域中の小領域を指定する方法を説明する。ステージ制
御によって移動する方向の端から24ドットの領域をス
テージ制御前の重複領域とする(S701)。ステージ
を左右に制御するときは24*240の静止画像であ
り、ステージを下方向に制御するときは320*24の
静止画像である。ここではステージを左右に制御すると
きを説明する。x座標方向の24ドットのうち両端の2
ドットずつ、合計4ドットと、y座標方向の240ドッ
トのうち両端の2ドットずつ、合計4ドットはステージ
制御の誤差を考慮するとメモリに取込まれていない可能
性があるので、24*240の画像の端から2ドットず
つ切り取った20*236の画像Aをステージ制御前の
重複領域中の小領域と指定する(S702)。
A method for specifying a small area in the overlapping area before the stage control will be described with reference to FIG. An area of 24 dots from the end in the moving direction by the stage control is set as an overlapping area before the stage control (S701). When the stage is controlled left and right, it is a 24 * 240 still image, and when the stage is controlled downward, it is a 320 * 24 still image. Here, a case where the stage is controlled left and right will be described. 2 at both ends of 24 dots in x coordinate direction
A total of 4 dots, 4 dots each, and 2 dots at both ends of the 240 dots in the y coordinate direction, a total of 4 dots, may not be stored in the memory in consideration of the stage control error. The image A of 20 * 236 cut out by two dots from the end of the image is designated as a small area in the overlapping area before the stage control (S702).

【0089】相関係数を計算して合成位置を決定し画像
をつなぎ合わせる方法を説明する。ステージ制御後の静
止画像中でステージ制御前の画像と重なると計算される
部分の24*240の静止画像Bを考える(S70
3)。24*240の静止画像の中には20*236の
静止画像が25通り考えられる。これらを任意にB1〜
B25とする(S704)。Nを1〜25の自然数とす
る。F(i,j)を画像Aの画素(i,j)の画素値、
GN(i,j)を画像BNの画素(i,j)の画素値と
する。ここで画素値とは画素の特徴量であり、同一画像
の同一画素で比較した場合同一値となり、異なった画像
の任意の画素同士を比較した場合異なった値を示すもの
である。また、画像Bの画素(1,1)から画像BNの
画素(1,1)へ向かうベクトルをPN(PNx,PN
y)とする(S705)。画像Aと画像BNの差をと
る。計算式としては、x≧0のときf(x)が0以上で
かつ単調増となるようなfにおいて、HN=ΣΣf(|
F(i,j)−GN(i,j)|)(i=1,2,3,
…20,j=1,2,3,…236)を採用する(S7
06)。例えば、f(x)=x2などが考えられる。H
Nが最も小さくなるNの値を求める(S707)。Nが
一意に決まらない場合(S708)は、その中でもPN
が(2,2)に最も近いものを選択する(S709)。
それでも一意に決まらなければ、例えばNの値が最も小
さいものを採用するといったルールを決めておく(S7
10,S711)。ステージ制御後の画像のうち左上の
画素が(10+PNx,10+PNy)であるような2
96*216の静止画像をメモリに取込む(S71
2)。これを(k1*k2−1)回繰り返し(k1*k
2)枚の静止画像をメモリに取込むことによって、全体
参照画像を作成する。
A method of calculating a correlation coefficient to determine a synthesis position and joining images will be described. Consider a 24 * 240 still image B that is calculated to overlap the image before stage control in the still image after stage control (S70).
3). Among 24 * 240 still images, there are 25 possible 20 * 236 still images. These are arbitrarily B1
B25 (S704). N is a natural number of 1 to 25. F (i, j) is the pixel value of pixel (i, j) of image A,
Let GN (i, j) be the pixel value of pixel (i, j) of image BN. Here, the pixel value is a feature value of a pixel, which becomes the same value when compared with the same pixel of the same image, and shows a different value when comparing arbitrary pixels of different images. A vector from pixel (1, 1) of image B to pixel (1, 1) of image BN is represented by PN (PNx, PN).
y) (S705). The difference between the image A and the image BN is calculated. As a calculation formula, when f ≧ x is 0 and f (x) is 0 or more and monotonically increases, HN = ΣΣf (|
F (i, j) −GN (i, j) |) (i = 1, 2, 3,
., 20, j = 1, 2, 3,... 236) (S7)
06). For example, f (x) = x 2 can be considered. H
The value of N that minimizes N is determined (S707). If N is not uniquely determined (S708), PN
(2, 2) is selected (S709).
If it is still not determined uniquely, a rule such as adopting the one with the smallest value of N is determined (S7).
10, S711). 2 such that the upper left pixel of the image after the stage control is (10 + PNx, 10 + PNy)
96 * 216 still images are taken into the memory (S71).
2). This is repeated (k1 * k2-1) times (k1 * k
2) An entire reference image is created by loading the still images into a memory.

【0090】静止画像の中心の位置に記録された顕微鏡
のステージ制御座標をドット単位の平面座標値に変換す
る。変換の方法としては、前記実施例1と同様に中心の
位置に記録されたステージ制御座標値(xi,yi)を
平面座標値((xi−x1)/6.9+160,(yi
−y1)/6.9+120)に変換する方法を採用す
る。
The stage control coordinates of the microscope recorded at the center position of the still image are converted into dot plane coordinate values. As the conversion method, the stage control coordinate value (xi, yi) recorded at the center position is converted into the plane coordinate value ((xi−x1) /6.9+160, (yi) as in the first embodiment.
−y1) /6.9+120).

【0091】受信装置(病理側)7のパソコンとの通信
を開始する機能で回線を接続する。ドット単位の平面座
標値が(k1*k2)箇所に記録された全体参照画像を
病理側に送信する。全体参照画像送信終了時に受信装置
(病理側)7のパソコンとの通信を終了する手段で通信
回線6を切断する。
A line is connected by the function of starting communication with the personal computer of the receiving device (pathological side) 7. The whole reference image in which the plane coordinate values in dot units are recorded at (k1 * k2) locations is transmitted to the pathological side. When the transmission of the entire reference image is completed, the communication line 6 is disconnected by means for terminating the communication of the receiving device (pathological side) 7 with the personal computer.

【0092】受信装置(病理側)7ではドット単位の平
面座標値が(k1*k2)箇所に記録された全体参照画
像を受信し、表示装置(ディスプレイ)7Aに表示す
る。
The receiving device (pathological side) 7 receives the entire reference image in which the plane coordinate values in dot units are recorded at (k1 * k2) locations and displays it on the display device (display) 7A.

【0093】注視位置を指定し、該注視位置の平面座標
値を取得する方法について説明する。受信したドット単
位の平面座標値が記録された全体参照画像上で、高精細
静止画像を取得したい注視位置を指定する。指定した注
視位置との距離がもっとも小さくなるような位置を(k
1*k2)個の平面座標値の記録されている位置の中か
ら求め、その位置から何ドットずつ離れているかを計算
して前記求めた静止画像の中心位置の平面座標値と合わ
せ、指定した注視位置の平面座標値を求める。
A method of designating a gaze position and obtaining plane coordinate values of the gaze position will be described. A gaze position at which a high-definition still image is to be acquired is designated on the entire reference image on which the received plane coordinate values in dot units are recorded. The position that minimizes the distance from the specified gaze position is (k
From the positions where 1 * k2) plane coordinate values are recorded, the number of dots away from the position is calculated, and the calculated values are combined with the plane coordinate values of the center position of the obtained still image and designated. Find the plane coordinate value of the gaze position.

【0094】以上の方法で指定した注視位置の平面座標
値を求めたら、残りの説明は前記実施例1と同様であ
る。
After the plane coordinate value of the specified gaze position is obtained by the above method, the remaining description is the same as in the first embodiment.

【0095】本実施例2ではステージ制御の誤差と、画
像をつなぎ合わせるために必要な2つの画像の重なり合
った長方形部分画像領域の大きさを決めて、その値に従
って画像が重複するようにメモリに取込む。そのため、
所定領域中に全体参照画像上に表示されないような部分
領域が発生することがないという効果が得られる。ま
た、画像をつなぎ合わせる位置を計算してつなぎ合わせ
るので、実際の標本と同一又はそれに近い全体参照画像
が作成できるという効果も得られる。
In the second embodiment, the error of the stage control and the size of the overlapping rectangular partial image area of the two images necessary for joining the images are determined, and the images are overlapped in the memory according to the value. Take in. for that reason,
The effect is obtained that a partial area that is not displayed on the entire reference image does not occur in the predetermined area. Further, since the positions at which the images are connected are calculated and connected, an effect is obtained that an entire reference image that is the same as or close to the actual sample can be created.

【0096】また、全体参照画像に(k1*k2)個の
平面座標値を付加して送信し、注視位置の指定を当該平
面座標により指定することにより、静止画像の画素の精
度よりステージ制御座標の精度の方が良いという条件、
例えば、静止画像の画素の精度は1ドット6.9ミクロ
ンメートルであり、ステージ制御座標の精度は1ミクロ
ンメートルである場合、全体参照画像の注視位置を指定
したときの目的とするステージ制御座標値の取得の精度
を高めることができる。
Also, by transmitting (k1 * k2) plane coordinate values to the entire reference image and designating the gaze position by the plane coordinates, the stage control coordinates are obtained from the accuracy of the pixels of the still image. Condition that the accuracy of is better,
For example, when the accuracy of a pixel of a still image is 6.9 μm per dot and the accuracy of stage control coordinates is 1 μm, the target stage control coordinate value when the gaze position of the entire reference image is specified Can be obtained with higher accuracy.

【0097】前記(k1*k2)個の平面座標値を付加
しなかった場合、重ね合わせの際にサブピクセルの誤差
が生じる。重ね合わせを繰り返すと誤差は重畳する。重
畳された誤差は、全体参照画像上で位置を指定した際の
ステージ制御の誤差にそのまま反映される。これに対し
て、本実施例1の方法では、(k1*k2)個の平面座
標値を付加しているので、合成時にサブピクセルがずれ
ていようが、その誤差が重畳されようが、指定した位置
の位置情報は最も近い(k1*k2)個の平均座標値の
中の値からの距離として計算されるので、指定した目的
とするステージ制御座標値に近い値を取得することがで
きる。
If the (k1 * k2) plane coordinate values are not added, a subpixel error occurs during superposition. The error is superimposed when the superposition is repeated. The superimposed error is directly reflected on the stage control error when a position is designated on the overall reference image. On the other hand, in the method of the first embodiment, since (k1 * k2) plane coordinate values are added, it is specified whether the sub-pixel is shifted at the time of synthesis or the error is superimposed. Since the position information of the position is calculated as a distance from a value of the closest (k1 * k2) average coordinate values, a value close to the designated target stage control coordinate value can be obtained.

【0098】これにより全体参照画像の作成において、
個々の分割画像の位置がずれたとしても当該分割画像の
中心位置は分割画像と一体的にずれるため当該中心位置
から求めた注視位置の位置ずれは発生しない。
Thus, in creating the entire reference image,
Even if the position of each divided image is shifted, the center position of the divided image is integrally shifted with the divided image, so that the position of the gaze position calculated from the center position does not occur.

【0099】(実施例3)前記実施例2では顕微鏡ステ
ージ制御の誤差の最大値から重複領域の大きさを計算し
顕微鏡2のステージ4を制御した。それ故、前記実施例
2に従って全体参照画像を作成すると重複領域が必要以
上に大きくなってしまう箇所が発生する。その問題を解
決するためには、以下のことを行う。
Third Embodiment In the second embodiment, the size of the overlapping area is calculated from the maximum value of the error of the microscope stage control, and the stage 4 of the microscope 2 is controlled. Therefore, when the entire reference image is created in accordance with the second embodiment, there are places where the overlapping area becomes unnecessarily large. To solve that problem, do the following:

【0100】ステージ制御時の誤差の特徴として同一の
方向に制御させたときの誤差は少なく、ステージ制御の
方向を変えたときの誤差は大きいということがいえる。
従って、本実施例3では前記実施例2とは異なり、ステ
ージ制御の方向が変化したかしなかったかによって、つ
なぎ合わせる二つの画像の重複領域の短いほうの一辺の
大きさを調整する。
As a feature of the error during the stage control, it can be said that the error when the control is performed in the same direction is small, and the error when the direction of the stage control is changed is large.
Therefore, in the third embodiment, unlike the second embodiment, the size of the shorter side of the overlap region of the two images to be connected is adjusted depending on whether the direction of the stage control has changed or not.

【0101】本実施例3では顕微鏡のステージ制御の誤
差の最大値は10ミクロンメートルであり、ステージ制
御の方向が直前にステージを制御した方向と同一であれ
ばその場合の顕微鏡のステージ制御の誤差の最大値は5
ミクロンメートルであると定める。
In the third embodiment, the maximum value of the error of the stage control of the microscope is 10 μm. If the direction of the stage control is the same as the direction of the immediately preceding stage control, the error of the stage control of the microscope in that case is obtained. The maximum value of is 5
It is determined to be micrometer.

【0102】図6を参照して、あらかじめ、つなぎ合わ
せる二つの画像の重複領域の短いほうの一辺の大きさを
求めておく。ステージ制御の方向が直前のステージ制御
の方向と変化する場合は、前記実施例2と同様に二つの
画像の重複領域の短いほうの一辺は標本の実際の大きさ
で166ミクロンメートルと計算できる。
Referring to FIG. 6, the size of the shorter side of the overlap region of two images to be joined is determined in advance. When the direction of the stage control is different from the direction of the immediately preceding stage control, the shorter side of the overlapping region of the two images can be calculated to be 166 μm in the actual size of the sample, as in the second embodiment.

【0103】また、ステージ制御の方向が直前のステー
ジ制御の方向と同一の場合についても計算する。5*3
20/2210=0.7より、ステージ制御の最大誤差
は1ドットである。{(ステージ制御の最大誤差)ドッ
ト×2+(つなぎ合わせに必要な画素数)}=1*2+
20=22(ドット)は22*2210/320=15
1.9(ミクロンメートル)であり、この場合、二つの
画像の重複領域の短いほうの一辺は標本3の実際の大き
さで152ミクロンメートル必要であると計算できる。
The calculation is also performed when the direction of the stage control is the same as the direction of the immediately preceding stage control. 5 * 3
From 20/2210 = 0.7, the maximum error of the stage control is 1 dot. {(Maximum error of stage control) dot × 2 + (number of pixels required for joining)} = 1 * 2 +
20 = 22 (dots) is 22 * 2210/320 = 15
1.9 (micron meters), in which case it can be calculated that the shorter side of the overlap region of the two images requires 152 microns in the actual size of specimen 3.

【0104】以上の計算より、全体参照画像を作成する
ためにメモリに取込む部分はメモリに取込んだ画像の上
下端から12ドットずつ、左右端からはステージ制御の
方向によって12ドットあるいは11ドットそれぞれ取
り除いた部分領域を中心に、166ミクロンメートル重
複するようにメモリに取込んだ後の画像はステージ最大
誤差である2ドットを限界に上下左右にずらした25通
りの部分領域画像のうちのいづれか、152ミクロンメ
ートル重複するようにメモリに取込んだ後の画像はステ
ージ最大誤差である1ドットを限界に上下左右にずらし
た9通りの部分領域画像のうちいづれかということにな
る。
According to the above calculation, the portion taken into the memory to create the entire reference image is 12 dots from the upper and lower ends of the image taken into the memory, and 12 or 11 dots from the left and right ends depending on the direction of the stage control. The image taken into the memory so that it overlaps by 166 μm, centering on each of the removed partial regions, is one of 25 partial region images shifted up, down, left, and right with the limit of 2 dots which is the stage maximum error. , 152 μm, is one of nine partial area images shifted up, down, left, and right with a limit of 1 dot, which is the maximum error of the stage.

【0105】図8はステージを制御しながら画像をメモ
リに取り込む手段を説明するための図である。図8を参
照してメモリに取込んだステージ制御座標値に関してス
テージを制御しながら画像をメモリに取込む手段を説明
する。|x1−x2|≦2210*k1−166*2−
152(k1−2)より、k1を求める計算式はk1≧
(|x1−x2|+28)/2058である。k2を求
める計算式は変わらない。
FIG. 8 is a diagram for explaining a means for loading an image into the memory while controlling the stage. With reference to FIG. 8, a description will be given of a means for taking an image into the memory while controlling the stage with respect to the stage control coordinate values taken into the memory. | X1−x2 | ≦ 2210 * k1-166 * 2-
From 152 (k1-2), the formula for calculating k1 is k1 ≧
(| X1−x2 | +28) / 2058. The formula for calculating k2 does not change.

【0106】ステージ4を166ミクロンメートル重複
するように制御する前の画像Aの指定の方法、及びステ
ージ制御後の画像とのつなぎ合わせの方法は、前記実施
例2と同様であるので、ステージ4を152ミクロンメ
ートル制御するときのステージ制御の画像Aの指定方
法、及びステージ制御後の画像とのつなぎ合わせの方法
について説明する。
The method of designating the image A before controlling the stage 4 so as to overlap by 166 μm and the method of joining the image with the image after the stage control are the same as those in the second embodiment. A method of specifying the image A of the stage control when controlling the image by 152 μm, and a method of joining the image A with the image after the stage control will be described.

【0107】まず、ステージ制御前の重複領域中の小領
域を指定する方法を説明する。
First, a method for specifying a small area in the overlapping area before the stage control will be described.

【0108】ステージ制御によって移動する方向の端か
ら22ドットの領域をステージ制御前の重複領域とす
る。ステージは左右に制御されるので、22*240の
静止画像である。x座標方向の22ドットのうち両端の
1ドットずつ、合計2ドットと、y座標方向の240ド
ットのうち両端の1ドットずつ合計2ドットは、ステー
ジ制御の誤差を考慮すると、メモリに取込まれない可能
性があるので、22*240の画像の端から1ドットず
つを切りとった20*238の画像Aをステージ制御前
の重複領域中の小領域と指定する。
An area of 22 dots from the end in the moving direction by the stage control is set as an overlapping area before the stage control. Since the stage is controlled left and right, it is a 22 * 240 still image. Of the 22 dots in the x-coordinate direction, a total of 2 dots each at each end, and a total of 2 dots at each end of the 240 dots in the y-coordinate direction are taken into the memory in consideration of an error in stage control. Since there is a possibility that there is no image, a 20 * 238 image A obtained by cutting one dot at a time from the end of the 22 * 240 image is designated as a small area in the overlapping area before stage control.

【0109】相関係数を計算して合成位置を決定し画像
をつなぎ合わせる方法を説明する。ステージ制御後の静
止画像中でステージ制御前の画像と重なると計算される
部分の22*240の静止画像を考える。22*240
の静止画像中には20*238の静止画像が9通り考え
られる。これらを任意にB1〜B9とする。Nを1〜9
の自然数とする。F(i,j)、GN(i,j)、P
N、HNを前記実施例2と同様に定義する。前記実施例
2と同様にHNが最小になるNの値を求める。Nが一意
に決まらなければ、その中でもPNが(1,1)に最も
近いものを選択する。ステージ制御後の画像のうち左上
の画素が(10+PNx,10+PNy)であるような
298*218の静止画像をメモリに取込む。(k1*
k2)枚の静止画像をメモリに取込むことによって全体
参照画像を作成する。
A method of calculating a correlation coefficient to determine a combining position and joining images will be described. Consider a 22 * 240 still image that is calculated to overlap the image before stage control in the still image after stage control. 22 * 240
In this still image, nine types of 20 * 238 still images can be considered. These are arbitrarily designated as B1 to B9. N is 1-9
Is a natural number of. F (i, j), GN (i, j), P
N and HN are defined in the same manner as in the second embodiment. As in the second embodiment, the value of N at which HN is minimized is determined. If N is not uniquely determined, the one whose PN is closest to (1, 1) is selected. A 298 * 218 still image whose upper left pixel is (10 + PNx, 10 + PNy) in the image after the stage control is fetched into the memory. (K1 *
k2) An entire reference image is created by loading the still images into the memory.

【0110】本実施例3ではステージ制御の方向によっ
て、適用する2つの画像の重なり合った長方形部分画像
領域の大きさを決定する。そのため、静止画像としてメ
モリに取込む画像の枚数が減少するので、取込みにかか
る時間が短縮できるという効果が得られる。また、重複
領域を小さく設定できるので、2つの画像の合成にかか
る時間も短縮できるという効果も得られる。取込みにか
かる時間と画像の合成にかかる時間の両方が短縮できる
ことによって、全体参照画像作成にかかる時間は大きく
短縮できる。
In the third embodiment, the size of the overlapping rectangular partial image area of the two images to be applied is determined according to the direction of the stage control. Therefore, the number of images to be taken into the memory as still images is reduced, and the time required for taking can be reduced. In addition, since the overlapping area can be set small, the time required for combining two images can be shortened. Since both the time required for capturing and the time required for synthesizing the image can be reduced, the time required for creating the entire reference image can be significantly reduced.

【0111】(実施例4)前述の実施例1,2,3では
CCDカメラ1で取込んだ静止画像を合成することによ
って全体参照画像を作成した。それ故、前述の実施例
1,2,3に従って全体参照画像を作成すると輝度にむ
らができる結果、画像をつなぎ合わせた個所が目立って
しまい、実際の標本とは異なった画像として全体参照画
像が作成されてしまうという問題があった。
(Embodiment 4) In Embodiments 1, 2, and 3 described above, an overall reference image is created by synthesizing a still image captured by the CCD camera 1. Therefore, when the whole reference image is created in accordance with the above-described first, second, and third embodiments, unevenness in luminance occurs. As a result, a place where the images are connected is conspicuous, and the whole reference image is different from an actual sample. There was a problem of being created.

【0112】この問題を解決するためには、以下のこと
を行う。静止画像をCCDカメラ1で取込むため輝度に
むらが生じる。従って、本実施例4では前述の実施例
1,2,3とは異なり、全体参照画像を作成するために
ラインセンサカメラを使用することによって輝度のむら
を軽減する。
In order to solve this problem, the following is performed. Since a still image is captured by the CCD camera 1, the brightness becomes uneven. Therefore, in the fourth embodiment, unlike the above-described first, second, and third embodiments, unevenness in luminance is reduced by using a line sensor camera to create an entire reference image.

【0113】図9は本発明の実施例4の全体参照画像を
作成する手段を説明するための図であり、1はラインセ
ンサカメラである。
FIG. 9 is a diagram for explaining means for creating an entire reference image according to the fourth embodiment of the present invention, and 1 is a line sensor camera.

【0114】ラインセンサの仕様によるが、本実施例4
でのラインセンサカメラ1Aの画素数は1024画素、
1画素サイズは14*14ミクロンメートル(μm)で
あるとする。また、ステージ制御の最大誤差は10ミク
ロンメートルであり、2つの画像をつなぎ合わせるのに
必要な2つの画像の重なり合った長方形部分画像領域の
短いほうの一辺の画素数を20ドットとする。
In the fourth embodiment, depending on the specifications of the line sensor.
The number of pixels of the line sensor camera 1A is 1024 pixels,
It is assumed that one pixel size is 14 * 14 microns (μm). The maximum error of the stage control is 10 μm, and the number of pixels on the shorter side of the overlapping rectangular partial image area of the two images necessary for joining the two images is 20 dots.

【0115】図9を参照してステージを制御しながらラ
インセンサで全体参照画像を作成する手段を説明する。
図6を参照して、あらかじめ、つなぎ合わせる二つの画
像の重複領域の短いほうの一辺の大きさを求めておく。
ステージ制御の最大誤差10ミクロンメートルは1ドッ
トであるので、2つの画像の重複領域の短いほうの一辺
の大きさは22ドット、22*14=308ミクロンメ
ートル必要と計算できる。前述の実施例1,2,3と同
様の方法で全体参照画像として取込みたい範囲のステー
ジ制御座標を取込む。|y1−y2|/14028≦k
2となる最小の自然数k2を計算する。ラインセンサカ
メラ1Aで取込むラインの一番上のステージ制御座標値
が(x1−154,y1−154)になるように制御す
る。ステージを右方向にx座標値が(x2+154)に
なるまで制御し、画像をメモリに取込み左上の位置にス
テージ制御座標値(x1−154,y1−154)を記
録する。メモリに取込まれた静止画像のx座標方向の大
きさは(x2−x1+308)/14ドットである。ラ
インセンサで取込むラインの一番上のステージ制御座標
値が(x1−154,y1+13874)になるように
制御する。同様にステージ4を右方向にx座標値が(x
2+154)になるまで制御し、画像をメモリに取込み
左上の位置にステージ制御座標値(x1−154,y1
+13874)を記録する。これを(k2−1)回繰り
返し、k2枚の静止画像のメモリへの取込みと左上の位
置のステージ制御座標値の記録を行う。
Referring to FIG. 9, a description will be given of a means for creating an overall reference image with the line sensor while controlling the stage.
Referring to FIG. 6, the size of one shorter side of the overlap region of two images to be joined is determined in advance.
Since the maximum error of the stage control of 10 μm is 1 dot, it can be calculated that the size of the shorter side of the overlapping area of the two images is 22 dots, 22 * 14 = 308 μm. In the same manner as in the above-described first, second, and third embodiments, stage control coordinates in a range to be captured as the entire reference image are captured. | Y1-y2 | / 14028 ≦ k
The minimum natural number k2 that is 2 is calculated. Control is performed so that the stage control coordinate value at the top of the line captured by the line sensor camera 1A becomes (x1-154, y1-154). The stage is controlled rightward until the x coordinate value becomes (x2 + 154), the image is fetched into the memory, and the stage control coordinate value (x1-154, y1-154) is recorded at the upper left position. The size of the still image taken in the memory in the x coordinate direction is (x2−x1 + 308) / 14 dots. Control is performed so that the stage control coordinate value at the top of the line captured by the line sensor is (x1-154, y1 + 13874). Similarly, move the stage 4 rightward with the x coordinate value (x
2 + 154), the image is stored in the memory, and the stage control coordinate values (x1-154, y1
+13874) is recorded. This is repeated (k2-1) times, and the k2 still images are taken into the memory and the stage control coordinate value at the upper left position is recorded.

【0116】一枚目の静止画像をメモリに取込む。取込
む画像は{(x2−x1+308)/14}*1024
で取込んだ画像のうち、上下左右11ドットずつを取り
除いた静止画像である。
The first still image is fetched into the memory. The captured image is {(x2-x1 + 308) / 14} * 1024
This is a still image obtained by removing 11 dots in each of the upper, lower, left, and right portions of the image captured in step.

【0117】次の画像との重複領域中の小領域を指定す
る方法を説明する。次の画像との重複領域は静止画像中
の下端から22ドットにあたる部分である{(x2−x
1+308)/14}*22の静止画像であり、ステー
ジ制御の最大誤差は1ドットであるので、前述の実施例
1,2,3と同様に計算すると、重複領域中の小領域A
は、[{(x2−x1+308)/14}−2]*20
の上下左右端から1ドットずつを切り取ったものであ
る。
A method of designating a small area in an overlapping area with the next image will be described. The overlapping area with the next image is a portion corresponding to 22 dots from the lower end in the still image, {(x2-x
1 + 308) / 14} * 22, and the maximum error of the stage control is 1 dot. Therefore, when the calculation is performed in the same manner as in the first, second, and third embodiments, the small area A in the overlapping area is obtained.
Is [{(x2-x1 + 308) / 14} −2] * 20
Are cut out one dot at a time from the upper, lower, left, and right ends of.

【0118】相関係数を計算して合成位置を決定し画像
をつなぎ合わせる方法を説明する。次の画像中で前の画
像と重なると計算される静止画像中の上端から22ドッ
トにあたる部分である{(x2−x1+308)/1
4}*22の静止画像を画像Bとする。画像Bの中には
〔{(x2−x1+308)/14}−2〕*20の静
止画像が9通り考えられる。これらを任意にB1〜B9
とし、以降の全体参照画像の作成の方法は前記実施例3
と同様とする。
A method of calculating a correlation coefficient to determine a combining position and joining images will be described.部分 (x2−x1 + 308) / 1, which is a portion corresponding to 22 dots from the upper end in the still image calculated to overlap the previous image in the next image
The still image of 4 * 22 is assumed to be an image B. In the image B, there are nine possible still images of [{(x2−x1 + 308) / 14} −2] * 20. These are optionally B1 to B9
The method of creating the entire reference image thereafter is described in the third embodiment.
Same as

【0119】本実施例4によれば、一枚の静止画像が前
述の実施例1,2,3で得られる静止画像と比較して大
きいため全体参照画像を取込む枚数が少なくて済み、そ
の結果、画像合成を行う回数を削減することができる。
画像合成を行う回数が削減できることにより、合成にか
かる時間が短縮できるという効果が得られるとともに、
実際の標本と同一の全体参照画像が作成されやすいとい
う効果が得られる。
According to the fourth embodiment, since one still image is larger than the still images obtained in the first, second and third embodiments, the number of whole reference images to be taken is small. As a result, the number of times of performing image synthesis can be reduced.
By reducing the number of times image synthesis is performed, the effect of shortening the time required for synthesis can be obtained,
The effect is obtained that the same overall reference image as the actual sample is easily created.

【0120】また、顕微鏡のステージに置かれた標本の
所定領域の全体参照画像を、顕微鏡のステージを制御し
ながらラインセンサでスキャンし、該画像群をメモリに
取込み、該メモリ上で平面的な位置関係に矛盾が生じな
いようにつなぎ合わせることによって合成する手段によ
り、専用のマクロ撮影のスタンドを用意し、該マクロ撮
影のスタンドにプレパラートをセットしなくても、全体
参照画像を取込むことができる。
Further, the entire reference image of a predetermined region of the specimen placed on the stage of the microscope is scanned by a line sensor while controlling the stage of the microscope, and the image group is fetched into a memory. By means of combining by joining together so that there is no inconsistency in the positional relationship, it is possible to prepare a dedicated macro shooting stand and capture the entire reference image without setting a slide on the macro shooting stand. it can.

【0121】また、平面で撮影するCCDカメラでは一
枚の静止画像中で画像の中心と端とでは輝度が違うの
で、つなぎ合わせたときにつなぎ目が顕著になってしま
うが、ラインセンサでスキャンすることにより、横にス
キャンすれば縦方向の、縦にスキャンすれば横方向のつ
なぎ目が発生しないので、その分元の標本3と近い画像
を作成することができる。これにより、前述の実施例
1,2,3ほど頻繁に輝度によって合成位置が顕著にな
る部分のない全体参照画像が作成できるという効果が得
られる。
Further, in a CCD camera that captures a flat image, since the luminance is different between the center and the end of one still image in a single still image, the seam becomes conspicuous when the images are joined. As a result, a seam does not occur in the vertical direction when scanning horizontally, and a seam in the horizontal direction does not occur when scanning vertically, so that an image closer to the original sample 3 can be created. As a result, an effect is obtained in which an entire reference image can be created in which there is no portion where the synthesis position becomes noticeable due to luminance as frequently as in the first, second, and third embodiments.

【0122】(実施例5)前述の実施例1では全体参照
画像上の注視位置を受信装置(病理医側)7が指定する
ことによって、前記注視位置を中心とする静止画像を取
得した。しかし、似たような画像を含むような部分領域
が複数箇所に発生するような病理画像では特に、全体参
照画像中のどの部分領域を何倍の倍率で取得済みである
のか病理医が覚えておくことは困難である。そのため、
同一の注視位置の静止画像を複数枚取得してしまうこと
があり得る。また、取得済みの静止画像と大半の部分が
重複するような静止画像を取得してしまうことがあり得
る。
(Embodiment 5) In Embodiment 1 described above, the receiving device (pathologist) 7 specifies a gaze position on the entire reference image, thereby obtaining a still image centered on the gaze position. However, especially in a pathological image in which a partial region including a similar image occurs at a plurality of locations, the pathologist remembers which partial region in the entire reference image has been acquired at what magnification. It is difficult to keep. for that reason,
A plurality of still images at the same gaze position may be acquired. In addition, there is a possibility that a still image whose most part overlaps with the obtained still image is obtained.

【0123】この問題を解決するために、受信装置7が
取得した画像の位置情報を受信装置7が保持し、同一の
個所の画像や、大部分が同一になるような個所の画像を
取得するのを防止する。
In order to solve this problem, the receiving device 7 retains the position information of the image obtained by the receiving device 7 and obtains an image at the same location or an image at a location where most of the images are identical. To prevent

【0124】本実施例5では受信装置7が取得済みの画
像と同一の画像や、大部分が同一になるような画像の取
得を防止する方法を説明する。全体参照画像は対物レン
ズ4倍で作成されているとする。
In the fifth embodiment, a description will be given of a method for preventing the receiving apparatus 7 from acquiring the same image as an already acquired image or an image which is almost identical. It is assumed that the entire reference image is created with a 4 × objective lens.

【0125】受信装置7が全体参照画像を取得し、注視
位置を指定するまでの実施例は前述の実施例1〜4と同
様とする。
The embodiment from when the receiving apparatus 7 acquires the entire reference image to when the gaze position is designated is the same as the above-described embodiments 1 to 4.

【0126】あらかじめ、対物レンズを指定したときの
その倍率での全体参照画像として取込まれる静止画像の
範囲が全体参照画像中の何ドット四方になるかを計算す
る。例えば、高精細画像を10倍の対物レンズで取得す
ると、例えば表1により、取得される標本3の実際の大
きさは900*690ミクロンメートルになる。900
*690ミクロンメートルは全体参照画像上において
は、130*100の画像が高精細静止画像として取得
される。対物レンズが20倍、40倍の場合もあらかじ
め同様の方法で計算しておく。
It is calculated in advance how many squares of the still image to be taken in as the whole reference image at the magnification when the objective lens is designated are in the whole reference image. For example, if a high-definition image is acquired with a 10 × objective lens, for example, according to Table 1, the actual size of the specimen 3 acquired will be 900 * 690 microns. 900
* 690 μm, 130 * 100 images are acquired as high-definition still images on the entire reference image. When the objective lens has a magnification of 20 times or 40 times, the same method is used to calculate in advance.

【0127】受信装置7が取得した画像の静止画像の位
置情報を視覚的に全体参照画像上に表示する方法を説明
する。まず、高精細静止画像を取得する対物レンズの倍
率を合わせ、その倍率データをパソコンに持たせる。本
実施例5では対物レンズを10倍とする。対物レンズ1
0倍は全体参照画像上の130*100の静止画像に相
当する。
A method for visually displaying the position information of the still image of the image acquired by the receiving device 7 on the entire reference image will be described. First, the magnification of the objective lens for acquiring a high-definition still image is adjusted, and the magnification data is stored in a personal computer. In the fifth embodiment, the objective lens is 10 times. Objective lens 1
A magnification of 0 corresponds to a 130 * 100 still image on the entire reference image.

【0128】受信装置7が注視位置を指定すると同時に
その注視位置が中心になるような130*100の静止
画像を四角の点線で囲む。高精細静止画像を取得する部
分領域がその位置でよければ、例えば、「高精細画像取
得」ボタンを押下する等の合図をすることによって、全
体参照画像上に表示した点線の四角を実線の四角に置き
換える。さらに、前述の実施例と同様に当該注視位置の
平面座標値を取得し、以降も前述の実施例1〜4と同様
に受信装置7は目的の高精細静止画像を取得する。
At the same time as the receiving device 7 specifies the gaze position, a 130 * 100 still image centered on the gaze position is surrounded by a square dotted line. If the partial area for acquiring the high-definition still image is at that position, for example, by giving a signal such as pressing the “acquire high-definition image” button, the dotted square displayed on the entire reference image is replaced with a solid square. Replace with Furthermore, the plane coordinate value of the gaze position is acquired in the same manner as in the above-described embodiment, and thereafter, similarly to the above-described first to fourth embodiments, the receiving device 7 acquires a desired high-definition still image.

【0129】さらに、高精細静止画像を取得するとき
は、高精細静止画像を取得する対物レンズの倍率を合わ
せ、その倍率データをパソコンに持たせる。以降同様に
高精細静止画像を取得する部分領域を点線で囲み、その
位置でよいかどうかを確認して、点線の四角を実線の四
角に置き換え、さらに病理側は高精細静止画像を取得す
る。
Further, when obtaining a high-definition still image, the magnification of the objective lens for obtaining the high-definition still image is adjusted, and the magnification data is stored in a personal computer. Thereafter, similarly, a partial region for acquiring a high-definition still image is surrounded by a dotted line, it is confirmed whether or not the position is sufficient, the dotted-line square is replaced with a solid-line square, and the pathological side acquires a high-definition still image.

【0130】四角の大きさの大小でレンズの倍率を推測
することはできるが、例えば、対物レンズの倍率が4倍
だったら赤の点線で表示し、高精細静止画像として取得
したら赤の実線の四角を表示、また、対物レンズの倍率
が10倍だったら青の点線で表示し、高精細静止画像と
して取得したら青の実線の四角を表示するというように
倍率によって色分けをしたら、受信装置7が全体参照画
像を見たときにどの部分領域を何倍の対物レンズの高精
細静止画像として取得したか一目瞭然である。
The magnification of the lens can be estimated based on the size of the square. For example, if the magnification of the objective lens is 4 times, it is indicated by a red dotted line, and if it is acquired as a high-definition still image, it is indicated by a solid red line. If a square is displayed, and if the magnification of the objective lens is 10 times, a blue dotted line is displayed, and if a high-definition still image is acquired, a square of a solid blue line is displayed, and the receiving device 7 performs color coding. When viewing the entire reference image, it is clear at a glance which partial region has been acquired as a high-resolution still image of the objective lens at what magnification.

【0131】本実施例5では、すでに高精細静止画像と
して取得した部分領域の画像を再度高精細静止画像とし
て取得するかどうかを確認しながら高精細静止画像の取
得を行うことができるので、不必要な画像の取得を行う
時間を削減できるという効果が得られる。
In the fifth embodiment, since it is possible to acquire a high-definition still image while confirming whether or not an image of a partial region already acquired as a high-definition still image is acquired again as a high-definition still image, an improper image is obtained. An effect is obtained that the time for acquiring a necessary image can be reduced.

【0132】以上、本発明者によってなされた発明を、
前記実施例に基づき具体的に説明したが、本発明は、前
記実施例に限定されるものではなく、その要旨を逸脱し
ない範囲において種々変更可能であることは勿論であ
る。
As described above, the invention made by the present inventors is described below.
Although the present invention has been described in detail with reference to the embodiment, the present invention is not limited to the embodiment, and it is needless to say that various changes can be made without departing from the scope of the invention.

【0133】[0133]

【発明の効果】以上説明したように、本発明によれば、
以下の効果が得られる。
As described above, according to the present invention,
The following effects can be obtained.

【0134】(1)従来のように専用のマクロ撮影のス
タンドと専用のカメラを使用することなく全体参照画像
を取得することができるという効果に加え、プレパラー
トを2つのステージにわたって移動させる必要がないた
め全体参照画像上の所定の位置の位置情報とステージ制
御座標値との関連付けが容易にできる。
(1) In addition to the conventional effect that the entire reference image can be obtained without using a dedicated macro photography stand and a dedicated camera, there is no need to move the slide over two stages. Therefore, it is possible to easily associate the position information of the predetermined position on the entire reference image with the stage control coordinate value.

【0135】(2)全体参照画像を作成する範囲を指定
することによって効率よく、様々なサイズの全体参照画
像が取得できる。
(2) By specifying the range in which the whole reference image is created, the whole reference images of various sizes can be obtained efficiently.

【0136】(3)全体参照画像上で注視位置を指定
し、該注視位置のステージ制御座標値にステージを自動
制御することによって、受信装置側(病理医側)が指定
した位置が中心になるような高精細画像の取得を短時間
で、かつ容易に行うことができる。
(3) By specifying the gaze position on the entire reference image and automatically controlling the stage to the stage control coordinate value of the gaze position, the position specified by the receiving device (pathologist) becomes the center. Such a high-definition image can be obtained easily in a short time.

【0137】(4)顕微鏡の誤差を考慮して重複するよ
うに静止画像を取得することによって、より元の標本に
近い全体参照画像を取得することができる。
(4) By obtaining still images so as to overlap each other in consideration of errors in the microscope, an entire reference image closer to the original sample can be obtained.

【0138】(5)輝度差がより顕著にならないライン
センサを使用して静止画像を取得することによって、よ
り元の標本に近い全体参照画像を取得することができ
る。
(5) By obtaining a still image using a line sensor whose luminance difference does not become more remarkable, it is possible to obtain an entire reference image closer to the original sample.

【0139】(6)受信装置側(病理医側)が高精細静
止画像を取得した場所を全体参照画像上に視覚的に表示
することによって、同一個所の高精細静止画像あるいは
大半が重複するような高精細静止画像を取得することを
防止することによって、必要な部分の高精細画像の取得
を効率的に行うことができる。
(6) The location where the receiving device (pathologist) has acquired the high-definition still image is visually displayed on the entire reference image, so that the high-definition still image at the same location or most of the still image overlaps. By preventing the acquisition of a high-definition still image, a high-definition image of a necessary portion can be efficiently acquired.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施例1の顕微鏡画像遠隔制御システ
ムを実現するためのハードウェア構成を示すブロック構
成図である。
FIG. 1 is a block diagram showing a hardware configuration for realizing a microscope image remote control system according to a first embodiment of the present invention.

【図2】本実施例1の顕微鏡画像遠隔制御システムの動
作を説明するためのフローチャートである。
FIG. 2 is a flowchart illustrating the operation of the microscope image remote control system according to the first embodiment.

【図3】本実施例1の顕微鏡画像遠隔制御システムを実
現するための処理フローを示す図である。
FIG. 3 is a diagram illustrating a processing flow for realizing the microscope image remote control system according to the first embodiment;

【図4】本発明の実施例2のステージを制御しながら画
像をメモリに取込む手段を説明するための図である。
FIG. 4 is a diagram for explaining a means for loading an image into a memory while controlling a stage according to the second embodiment of the present invention.

【図5】本実施例2のステージ制御前の重複領域中の小
領域を示す図である。
FIG. 5 is a diagram illustrating a small area in an overlapping area before stage control according to the second embodiment.

【図6】本実施例2の隣接する2つの画像の重複領域の
大きさを求める処理手順のフローチャートである。
FIG. 6 is a flowchart of a processing procedure for obtaining a size of an overlapping area between two adjacent images according to the second embodiment;

【図7】本実施例2のメモリ上で平面的な位置関係に矛
盾が生じないようにつなぎ合わせる処理手順のフローチ
ャートである。
FIG. 7 is a flowchart of a processing procedure for connecting the two-dimensional memory so that no inconsistency occurs in a planar positional relationship in the memory according to the second embodiment;

【図8】本発明の実施例3のステージを制御しながら画
像をメモリに取込む手段を説明するための図である。
FIG. 8 is a diagram for explaining a means for loading an image into a memory while controlling a stage according to a third embodiment of the present invention.

【図9】本発明の実施例4のステージを制御しながらラ
インセンサカメラで全体参照画像を作成する手段を説明
するための図である。
FIG. 9 is a diagram for explaining a means for generating an entire reference image with a line sensor camera while controlling a stage according to a fourth embodiment of the present invention.

【図10】本発明の実施例5の全体の参照画像上に高精
細静止画像取得位置情報を表示する手段を説明するため
の図である。
FIG. 10 is a diagram for explaining a means for displaying high-definition still image acquisition position information on an entire reference image according to a fifth embodiment of the present invention.

【符号の説明】[Explanation of symbols]

1…CCDカメラ、1A…ラインセンサカメラ、2…顕
微鏡、3…標本、4…自動移動式ステージ、5…送信装
置(臨床側のパソコン)、5A…送信装置の表示装置、
6…通信回線、7…受信装置(病理医側のパソコン)。
DESCRIPTION OF SYMBOLS 1 ... CCD camera, 1A ... Line sensor camera, 2 ... Microscope, 3 ... Sample, 4 ... Automatic movable stage, 5 ... Transmission device (clinical computer), 5A ... Transmission device display device,
6. Communication line, 7 ... Receiving device (pathologist's personal computer).

───────────────────────────────────────────────────── フロントページの続き (72)発明者 久保田 幸宏 東京都新宿区西新宿三丁目19番2号 日本 電信電話株式会社内 (72)発明者 酒井 高志 東京都渋谷区桜丘町20番1号 エヌティテ ィエレクトロニクス株式会社内 ──────────────────────────────────────────────────続 き Continuing on the front page (72) Inventor Yukihiro Kubota 3-19-2 Nishishinjuku, Shinjuku-ku, Tokyo Japan Telegraph and Telephone Corporation (72) Inventor Takashi Sakai 20-1 Sakuraokacho, Shibuya-ku, Tokyo NTITE Electronics Co., Ltd.

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 顕微鏡の自動移動式ステージに置かれた
標本の所定領域の全体参照画像を取得して送信する送信
装置と、前記送信された全体参照画像を遠隔地で受信
し、その受信画像中の注視位置の情報を送信装置側に送
信し、前記注視位置の情報に基づいた次の送信画面を要
求する受信装置と、画像信号を伝送する信号伝送路とを
有する顕微鏡画像遠隔制御システムであって、前記顕微
鏡の自動移動式ステージを制御しながら所定倍率で前記
標本の分割撮影を繰り返す手段と、この分割撮影により
得られた画像群をメモリに取込む手段と、前記メモリ上
で分割撮影された画像群の平面的な位置関係に矛盾が生
じないようにつなぎ合わせて前記全体参照画像を作成す
る手段と、この作成された全体参照画像の位置座標とス
テージ制御座標との対応を取る手段と、前記注視位置情
報は前記全体参照画像の座標値で指定され、次の送信画
像は前記注視位置を中心にその周辺部分を拡大して取得
する手段とを具備することを特徴とする顕微鏡画像遠隔
制御システム。
1. A transmitting device for acquiring and transmitting an entire reference image of a predetermined region of a specimen placed on an automatic movable stage of a microscope, and a receiving device for receiving the transmitted overall reference image at a remote place, In the microscope image remote control system having a receiving device for transmitting the information of the gaze position in the transmission device side and requesting the next transmission screen based on the information of the gaze position, and a signal transmission path for transmitting the image signal. Means for repeating the divisional photographing of the sample at a predetermined magnification while controlling the automatic moving stage of the microscope, means for taking in a group of images obtained by the divisional photographing, and divisional photographing on the memory Means for creating the entire reference image by connecting the two or more image groups so as not to cause inconsistency in a planar positional relationship, and a pair of a position coordinate and a stage control coordinate of the created entire reference image. Response means, and the gaze position information is specified by the coordinate values of the entire reference image, and the next transmission image is obtained by enlarging and acquiring a peripheral portion around the gaze position. Microscope image remote control system.
【請求項2】 前記顕微鏡のステージ制御に誤差があっ
ても画像合成に必要な大きさの重複領域があるようにス
テージ制御を行う手段を有することを特徴とする請求項
1に記載の顕微鏡画像遠隔制御システム。
2. The microscope image according to claim 1, further comprising means for performing stage control so that there is an overlap area having a size necessary for image synthesis even if there is an error in the stage control of the microscope. Remote control system.
【請求項3】 前記顕微鏡のステージ制御の方向によっ
てステージ制御の誤差を計算し画像合成に使用する重複
領域の大きさを最適にする手段を有することを特徴とす
る請求項2に記載の顕微鏡遠隔制御システム。
3. The microscope remote control according to claim 2, further comprising means for calculating an error of the stage control according to a direction of the stage control of the microscope and optimizing a size of an overlap area used for image synthesis. Control system.
【請求項4】 前記顕微鏡のステージに置かれた標本の
所定領域をラインセンサカメラで全体参照画像を作成す
る手段を有することを特徴とする請求項1乃至3のうち
いずれか1項に記載の顕微鏡遠隔制御システム。
4. The apparatus according to claim 1, further comprising means for creating a whole reference image of a predetermined area of the specimen placed on the stage of the microscope with a line sensor camera. Microscope remote control system.
【請求項5】 前記送信装置は、全体参照画像に(k1
*k2)個の平面座標値を付加して送信し、注視位置の
指定を前記平面座標値により指定する手段を有すること
を特徴とする請求項1乃至4のうちいずれか1項に記載
の顕微鏡遠隔制御システム。
5. The transmitting apparatus according to claim 1, wherein (k1) is added to the entire reference image.
The microscope according to any one of claims 1 to 4, further comprising: means for adding and transmitting * k2) plane coordinate values, and specifying a gaze position by the plane coordinate values. Remote control system.
【請求項6】 前記受信装置は、受信した高精細静止画
像の位置を示すマーク又は情報を表示装置上の全体参照
画像上に表示し、前記高精細静止画像を全体参照画像上
の所定の位置に表示する手段を有することを特徴とする
請求項1乃至5のうちいずれか1項に記載の顕微鏡遠隔
制御システム。
6. The receiving device displays a mark or information indicating a position of the received high-definition still image on an entire reference image on a display device, and displays the high-definition still image at a predetermined position on the entire reference image. The remote control system for a microscope according to any one of claims 1 to 5, further comprising means for displaying the information.
JP01653498A 1998-01-29 1998-01-29 Microscope image remote control system Expired - Lifetime JP3824116B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01653498A JP3824116B2 (en) 1998-01-29 1998-01-29 Microscope image remote control system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01653498A JP3824116B2 (en) 1998-01-29 1998-01-29 Microscope image remote control system

Publications (2)

Publication Number Publication Date
JPH11211988A true JPH11211988A (en) 1999-08-06
JP3824116B2 JP3824116B2 (en) 2006-09-20

Family

ID=11918944

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01653498A Expired - Lifetime JP3824116B2 (en) 1998-01-29 1998-01-29 Microscope image remote control system

Country Status (1)

Country Link
JP (1) JP3824116B2 (en)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001281553A (en) * 2000-03-31 2001-10-10 Bunshi Biophotonics Kenkyusho:Kk Optical microscope system
JP2004514920A (en) * 2000-05-03 2004-05-20 ダーク・ソーンクセン Fully automatic slide scanner for microscope
WO2005088250A1 (en) * 2004-03-12 2005-09-22 Hanbyn Cha Method and system of measuring an object in a digital image
US7016109B2 (en) 2002-09-10 2006-03-21 Olympus Optical Co., Ltd. Microscopic image capture apparatus and microscopic image capturing method
JP2006520972A (en) * 2003-02-28 2006-09-14 ピクトン・リミテッド・ライアビリティ・カンパニー Image pattern recognition system and method
JP2007065669A (en) * 2005-08-31 2007-03-15 Trestle Acquisition Corp System and method for combining image block to create seamless magnified image of microscope slide
JP2008511899A (en) * 2004-09-01 2008-04-17 アペリオ・テクノロジーズ・インコーポレイテッド Data management system and method for microscope slide scanner using linear array
JP2008197992A (en) * 2007-02-14 2008-08-28 Nikon Corp Microscopic image processing system and microscopic image processing method
JP2010020329A (en) * 2009-08-14 2010-01-28 Claro Inc Slide image data preparing device
JP2010061129A (en) * 2009-08-14 2010-03-18 Claro Inc Slide image data
JP2010282229A (en) * 2010-09-06 2010-12-16 Nikon Corp Optical microscope system and image data processing method
US7893988B2 (en) 2000-05-03 2011-02-22 Aperio Technologies, Inc. Method for pre-focus of digital slides
USRE42220E1 (en) 1999-04-21 2011-03-15 Hamamatsu Photonics K.K. Microscopy
JP2011108250A (en) * 2010-12-15 2011-06-02 Aperio Technologies Inc Data management system and method in microscope slide scanner using linear array
JP2012083621A (en) * 2010-10-13 2012-04-26 Olympus Corp Scan laser microscope
US8565480B2 (en) 2004-05-27 2013-10-22 Leica Biosystems Imaging, Inc. Creating and viewing three dimensional virtual slides
US8582849B2 (en) 2000-05-03 2013-11-12 Leica Biosystems Imaging, Inc. Viewing digital slides
JP2013250531A (en) * 2012-06-04 2013-12-12 Olympus Corp Microscope system and method for controlling the same
US8743195B2 (en) 2008-10-24 2014-06-03 Leica Biosystems Imaging, Inc. Whole slide fluorescence scanner
JP2015143691A (en) * 2009-03-11 2015-08-06 サリン カラー テクノロジーズ リミテッド Methods and systems of imaging cut stones
US9235041B2 (en) 2005-07-01 2016-01-12 Leica Biosystems Imaging, Inc. System and method for single optical axis multi-detector microscope slide scanner
US9535243B2 (en) 2000-05-03 2017-01-03 Leica Biosystems Imaging, Inc. Optimizing virtual slide image quality
JP2018173994A (en) * 2018-07-12 2018-11-08 ソニー株式会社 Information processing device, information processing method, and program
CN111024696A (en) * 2019-12-11 2020-04-17 上海睿钰生物科技有限公司 Algae analysis method
EP3988988A4 (en) * 2018-09-28 2023-09-13 Evident Corporation Microscope system, projection unit, and image projection method

Cited By (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USRE42220E1 (en) 1999-04-21 2011-03-15 Hamamatsu Photonics K.K. Microscopy
JP2001281553A (en) * 2000-03-31 2001-10-10 Bunshi Biophotonics Kenkyusho:Kk Optical microscope system
US8582849B2 (en) 2000-05-03 2013-11-12 Leica Biosystems Imaging, Inc. Viewing digital slides
US8055042B2 (en) 2000-05-03 2011-11-08 Aperio Technologies, Inc. Fully automatic rapid microscope slide scanner
JP2019056917A (en) * 2000-05-03 2019-04-11 ライカ バイオシステムズ イメージング インコーポレイテッドLeica Biosystems Imaging, Inc. Fully automatic rapid microscope slide scanner
JP2019049751A (en) * 2000-05-03 2019-03-28 ライカ バイオシステムズ イメージング インコーポレイテッドLeica Biosystems Imaging, Inc. Fully automatic rapid microscope slide scanner
JP2004514920A (en) * 2000-05-03 2004-05-20 ダーク・ソーンクセン Fully automatic slide scanner for microscope
US9851550B2 (en) 2000-05-03 2017-12-26 Leica Biosystems Imaging, Inc. Fully automatic rapid microscope slide scanner
JP2017194700A (en) * 2000-05-03 2017-10-26 ライカ バイオシステムズ イメージング インコーポレイテッド Fully automatic rapid microscope slide scanner
EP1990667A1 (en) * 2000-05-03 2008-11-12 Dirk Soenksen Fully automatic rapid microscope slide scanner
JP2017194699A (en) * 2000-05-03 2017-10-26 ライカ バイオシステムズ イメージング インコーポレイテッド Fully automatic rapid microscope slide scanner
US9729749B2 (en) 2000-05-03 2017-08-08 Leica Biosystems Imaging, Inc. Data management in a linear-array-based microscope slide scanner
US7826649B2 (en) 2000-05-03 2010-11-02 Aperio Technologies, Inc. Data management in a linear-array-based microscope slide scanner
US9535243B2 (en) 2000-05-03 2017-01-03 Leica Biosystems Imaging, Inc. Optimizing virtual slide image quality
US7893988B2 (en) 2000-05-03 2011-02-22 Aperio Technologies, Inc. Method for pre-focus of digital slides
US7949168B2 (en) 2000-05-03 2011-05-24 Aperio Technologies, Inc. Data management in a linear-array-based microscope slide scanner
US9521309B2 (en) 2000-05-03 2016-12-13 Leica Biosystems Imaging, Inc. Data management in a linear-array-based microscope slide scanner
EP1317685B2 (en) 2000-05-03 2016-11-30 Leica Biosystems Imaging, Inc. Fully automatic rapid microscope slide scanner
EP2282230A3 (en) * 2000-05-03 2011-05-25 Aperio Technologies, Inc. Fully automatic rapid microscope slide scanner
JP2016167080A (en) * 2000-05-03 2016-09-15 ライカ バイオシステムズ イメージング インコーポレイテッドAperio Technologies, Inc. Fully automatic rapid microscope slide scanner
US7978894B2 (en) 2000-05-03 2011-07-12 Aperio Technologies, Inc. Fully automatic rapid microscope slide scanner
US8731260B2 (en) 2000-05-03 2014-05-20 Leica Biosystems Imaging, Inc. Data management in a linear-array-based microscope slide scanner
JP2011232762A (en) * 2000-05-03 2011-11-17 Aperio Technologies Inc Fully automatic rapid microscope slide scanner
US8094902B2 (en) 2000-05-03 2012-01-10 Aperio Technologies, Inc. Data management in a linear-array-based microscope slide scanner
US9213177B2 (en) 2000-05-03 2015-12-15 Leica Biosystems Imaging, Inc. Achieving focus in a digital pathology system
US8456522B2 (en) 2000-05-03 2013-06-04 Aperio Technologies, Inc. Achieving focus in a digital pathology system
US7248403B2 (en) 2002-09-10 2007-07-24 Olympus Corporation Microscopic image capture apparatus and microscopic image capturing method
US7016109B2 (en) 2002-09-10 2006-03-21 Olympus Optical Co., Ltd. Microscopic image capture apparatus and microscopic image capturing method
JP2006520972A (en) * 2003-02-28 2006-09-14 ピクトン・リミテッド・ライアビリティ・カンパニー Image pattern recognition system and method
WO2005088250A1 (en) * 2004-03-12 2005-09-22 Hanbyn Cha Method and system of measuring an object in a digital image
US8923597B2 (en) 2004-05-27 2014-12-30 Leica Biosystems Imaging, Inc. Creating and viewing three dimensional virtual slides
US9069179B2 (en) 2004-05-27 2015-06-30 Leica Biosystems Imaging, Inc. Creating and viewing three dimensional virtual slides
US8565480B2 (en) 2004-05-27 2013-10-22 Leica Biosystems Imaging, Inc. Creating and viewing three dimensional virtual slides
JP2008511899A (en) * 2004-09-01 2008-04-17 アペリオ・テクノロジーズ・インコーポレイテッド Data management system and method for microscope slide scanner using linear array
US9235041B2 (en) 2005-07-01 2016-01-12 Leica Biosystems Imaging, Inc. System and method for single optical axis multi-detector microscope slide scanner
JP4653041B2 (en) * 2005-08-31 2011-03-16 クラリエント・インコーポレーテッド System and method for synthesizing image blocks and creating a seamless enlarged image of a microscope slide
JP2007065669A (en) * 2005-08-31 2007-03-15 Trestle Acquisition Corp System and method for combining image block to create seamless magnified image of microscope slide
JP2008197992A (en) * 2007-02-14 2008-08-28 Nikon Corp Microscopic image processing system and microscopic image processing method
US9523844B2 (en) 2008-10-24 2016-12-20 Leica Biosystems Imaging, Inc. Whole slide fluorescence scanner
US8743195B2 (en) 2008-10-24 2014-06-03 Leica Biosystems Imaging, Inc. Whole slide fluorescence scanner
JP2015143691A (en) * 2009-03-11 2015-08-06 サリン カラー テクノロジーズ リミテッド Methods and systems of imaging cut stones
JP2010061129A (en) * 2009-08-14 2010-03-18 Claro Inc Slide image data
JP2010020329A (en) * 2009-08-14 2010-01-28 Claro Inc Slide image data preparing device
JP2010282229A (en) * 2010-09-06 2010-12-16 Nikon Corp Optical microscope system and image data processing method
JP2012083621A (en) * 2010-10-13 2012-04-26 Olympus Corp Scan laser microscope
JP2011108250A (en) * 2010-12-15 2011-06-02 Aperio Technologies Inc Data management system and method in microscope slide scanner using linear array
JP2013250531A (en) * 2012-06-04 2013-12-12 Olympus Corp Microscope system and method for controlling the same
JP2018173994A (en) * 2018-07-12 2018-11-08 ソニー株式会社 Information processing device, information processing method, and program
EP3988988A4 (en) * 2018-09-28 2023-09-13 Evident Corporation Microscope system, projection unit, and image projection method
US11869166B2 (en) 2018-09-28 2024-01-09 Evident Corporation Microscope system, projection unit, and image projection method
CN111024696A (en) * 2019-12-11 2020-04-17 上海睿钰生物科技有限公司 Algae analysis method
US11573187B2 (en) 2019-12-11 2023-02-07 Shanghai Ruiyu Biotech Co., Ltd. Method for analysis of algae

Also Published As

Publication number Publication date
JP3824116B2 (en) 2006-09-20

Similar Documents

Publication Publication Date Title
JP3824116B2 (en) Microscope image remote control system
JP4196216B2 (en) Image composition system, image composition method and program
JP4770493B2 (en) Remote indication system and remote indication method
KR101899877B1 (en) Apparatus and method for improving quality of enlarged image
JP2007164258A (en) Image synthesizing device and method
JP6141084B2 (en) Imaging device
US20060008268A1 (en) Three-dimensional image processing apparatus, optical axis adjusting method, and optical axis adjustment supporting method
JP2010239564A (en) Imaging apparatus, imaging control method, and program
JP2000244905A (en) Video image observation system
KR101595884B1 (en) Monitoring camera method for controlling the same
US20060178561A1 (en) Endoscope apparatus
KR20060125148A (en) Method for extracting 3-dimensional coordinate information from 3-dimensional image using mobile phone with multiple cameras and terminal thereof
JP2013247543A (en) Imaging device, display device, image processing method and program
JP3730450B2 (en) Image input apparatus and image input method
JP2003070719A (en) Measurement endoscope
JPH10320558A (en) Calibration method, corresponding point search method and device therefor, focus distance detection method and device therefor, three-dimensional position information detection method and device therefor, and recording medium
JPH063597A (en) Microscope still picture observing system
JP3924576B2 (en) Three-dimensional measurement method and apparatus by photogrammetry
JP5509986B2 (en) Image processing apparatus, image processing system, and image processing program
JPH10170227A (en) Display device
JP2017028606A (en) Imaging apparatus
JP4811249B2 (en) Remote indication system
JP3135162B2 (en) Distance measuring device
JP2015220662A (en) Information processing apparatus, method for the same, and program
JPH11150741A (en) Three-dimensional picture displaying method and its device by stereo photographing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040316

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060207

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060425

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060620

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20060621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060621

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090707

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090707

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090707

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100707

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110707

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120707

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130707

Year of fee payment: 7

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term