JP2020120618A - Manipulation system and driving method therefor - Google Patents

Manipulation system and driving method therefor Download PDF

Info

Publication number
JP2020120618A
JP2020120618A JP2019015016A JP2019015016A JP2020120618A JP 2020120618 A JP2020120618 A JP 2020120618A JP 2019015016 A JP2019015016 A JP 2019015016A JP 2019015016 A JP2019015016 A JP 2019015016A JP 2020120618 A JP2020120618 A JP 2020120618A
Authority
JP
Japan
Prior art keywords
container
image
tip
sampling pipette
pipette
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019015016A
Other languages
Japanese (ja)
Other versions
JP7263800B2 (en
Inventor
ハウス リチャード
Haus Richard
ハウス リチャード
田中 伸明
Nobuaki Tanaka
伸明 田中
古川 秀樹
Hideki Furukawa
秀樹 古川
尚史 倉持
Hisafumi Kuramochi
尚史 倉持
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NSK Ltd
Original Assignee
NSK Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NSK Ltd filed Critical NSK Ltd
Priority to JP2019015016A priority Critical patent/JP7263800B2/en
Publication of JP2020120618A publication Critical patent/JP2020120618A/en
Priority to JP2022200905A priority patent/JP2023036742A/en
Application granted granted Critical
Publication of JP7263800B2 publication Critical patent/JP7263800B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Microscoopes, Condenser (AREA)
  • Manipulator (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)

Abstract

To provide a manipulation system capable of stably and automatically collecting a minute object into a container and a driving method for the manipulation system.SOLUTION: A manipulation system comprises: a container in which a minute object is accommodated; a sample stage on which the container is mounted; a collection pipet for collecting the minute object; a drive control unit for controlling the sample stage and the collection pipet; a calculation unit for calculating an approximate expression of a plane which approximates a plurality of inspection points measured on a bottom surface of the container; and a storage unit for storing the approximate expression.SELECTED DRAWING: Figure 11

Description

本発明は、マニピュレーションシステム及びマニピュレーションシステムの駆動方法に関する。 The present invention relates to a manipulation system and a driving method for the manipulation system.

バイオ医薬品の原料となる細胞は、単一細胞に由来していることが求められるため、培養液中から特定の細胞を選別し回収することが求められる。特許文献1には、微小対象物を1個ずつ採取することが可能なマニピュレーションシステムが記載されている。 The cells that are the raw materials of biopharmaceuticals are required to be derived from single cells, and therefore it is required to select and recover specific cells from the culture solution. Patent Document 1 describes a manipulation system capable of collecting minute objects one by one.

特開2017−232065号公報JP, 2017-232065, A

ところで、採取される細胞が入れられる容器として、例えば、シャーレ、ディッシュ及びウェルプレート等が知られている。このような容器は、一般的に射出成型によって製造されるため、底面を平坦形状とすることが難しい。このため、細胞を自動採取する際に、採取用器具の先端と容器の底面上の細胞との高さが一致せず、安定した自動採取が困難である。 By the way, as a container in which the cells to be collected are put, for example, a petri dish, a dish, a well plate and the like are known. Since such a container is generally manufactured by injection molding, it is difficult to make the bottom surface flat. For this reason, when automatically collecting cells, the height of the tip of the collecting instrument does not match the height of the cells on the bottom surface of the container, and stable automatic collection is difficult.

本発明は、上記に鑑みてなされたものであって、容器内の微小対象物を安定的に自動採取することができるマニピュレーションシステム及びマニピュレーションシステムの駆動方法を提供することを目的とする。 The present invention has been made in view of the above, and an object of the present invention is to provide a manipulation system and a driving method of the manipulation system capable of stably and automatically collecting a minute object in a container.

本発明の一態様に係るマニピュレーションシステムは、微小対象物が収容される容器と、前記容器が載置される試料ステージと、前記微小対象物を採取する採取用ピペットと、前記試料ステージ及び前記採取用ピペットを制御する駆動制御部と、前記容器の底面において測定された複数の検査点を近似する平面の近似式を算出する算出部と、前記近似式を記憶する記憶部と、を備える。 A manipulation system according to an aspect of the present invention includes a container for accommodating a microscopic object, a sample stage on which the container is mounted, a sampling pipette for sampling the microscopic object, the sample stage and the sampling. A drive control unit that controls the pipette, a calculation unit that calculates an approximate expression of a plane that approximates a plurality of inspection points measured on the bottom surface of the container, and a storage unit that stores the approximate expression.

これによれば、近似された仮想平面は、実際の容器の底面から平均化されるので、実際の底面との間の誤差が小さくなる。このため、底面の平面度が精密な高価な容器を使用する必要がないので、追加の研削仕上げ工程及び特注品の使用によるコストの発生を抑制することができる。 According to this, since the approximated virtual plane is averaged from the bottom surface of the actual container, the error between the virtual surface and the actual bottom surface becomes small. Therefore, since it is not necessary to use an expensive container having a precise flatness of the bottom surface, it is possible to suppress the cost from being generated due to an additional grinding finishing step and the use of a custom-made product.

本発明の一態様に係るマニピュレーションシステムにおいて、前記算出部は、前記記憶部に記憶された前記近似式に基づいて、前記微小対象物の位置座標を算出する。これによれば、容器の底面に存在する微小対象物の高さに採取用ピペットの先端を好適に位置合わせできるので、容器内の微小対象物を安定的に自動採取することができる。 In the manipulation system according to the aspect of the present invention, the calculation unit calculates the position coordinates of the minute target object based on the approximate expression stored in the storage unit. According to this, the tip of the sampling pipette can be appropriately aligned with the height of the minute object existing on the bottom surface of the container, so that the minute object in the container can be stably and automatically sampled.

本発明の一態様に係るマニピュレーションシステムにおいて、前記近似式は、前記採取用ピペットの先端を前記容器の底面に接触させることによって測定された前記複数の検査点の座標情報に基づいて算出される。これによれば、実際に微小対象物を採取する採取用ピペットが容器の底面に接触した位置に基づいて近似式を算出するので、微小対象物を採取する際に、より好適に採取用ピペットの先端を微小対象物に位置合わせすることができる。 In the manipulation system according to the aspect of the present invention, the approximate expression is calculated based on coordinate information of the plurality of inspection points measured by bringing the tip of the sampling pipette into contact with the bottom surface of the container. According to this, since the approximate expression is calculated based on the position where the sampling pipette that actually collects the minute object contacts the bottom surface of the container, when collecting the minute object, the sampling pipette is more suitable. The tip can be aligned with the micro object.

本発明の一態様に係るマニピュレーションシステムにおいて、前記駆動制御部は、前記採取用ピペットを前記試料ステージの載置面の法線方向に移動させ、前記記憶部は、前記採取用ピペットの先端が前記容器の底面に接触した位置の座標情報に基づいて、前記検査点の法線方向の座標を記憶する。これによれば、実際に微小対象物を採取する採取用ピペットが容器の底面に接触した位置に基づいて近似式を算出するので、微小対象物を採取する際に、より好適に採取用ピペットの先端を微小対象物に位置合わせすることができる。 In the manipulation system according to one aspect of the present invention, the drive control unit moves the sampling pipette in a direction normal to a mounting surface of the sample stage, and the storage unit stores the tip of the sampling pipette in the normal direction. The coordinates of the inspection point in the normal direction are stored based on the coordinate information of the position in contact with the bottom surface of the container. According to this, since the approximate expression is calculated based on the position where the sampling pipette that actually collects the minute object contacts the bottom surface of the container, when collecting the minute object, the sampling pipette is more suitable. The tip can be aligned with the micro object.

本発明の一態様に係るマニピュレーションシステムにおいて、前記駆動制御部は、前記採取用ピペットを前記載置面に平行な一方向に所定の範囲で往復移動させている状態で、前記採取用ピペットを前記載置面の法線方向に移動させる。これによれば、採取用ピペットが容器の底面に接触した際に、採取用ピペットの先端の挙動が変化する。このため、オペレータは、採取用ピペットの先端が容器の底面に接触したことを確認することができる。 In the manipulation system according to one aspect of the present invention, the drive control unit moves the sampling pipette forward and backward in a state in which the sampling pipette is reciprocally moved within a predetermined range in one direction parallel to the mounting surface. Move it in the direction normal to the writing surface. According to this, the behavior of the tip of the sampling pipette changes when the sampling pipette contacts the bottom surface of the container. Therefore, the operator can confirm that the tip of the sampling pipette has come into contact with the bottom surface of the container.

本発明の一態様に係るマニピュレーションシステムにおいて、前記記憶部は、前記駆動制御部が前記採取用ピペットを移動させている間に、前記採取用ピペットの先端の座標を入力する所定操作が実行された時点の前記採取用ピペットの先端の座標を前記検査点の座標として記憶する。これによれば、実際に微小対象物を採取する採取用ピペットが容器の底面に接触した位置に基づいて近似式を算出するので、微小対象物を採取する際に、より好適に採取用ピペットの先端を微小対象物に位置合わせすることができる。 In the manipulation system according to one aspect of the present invention, the storage unit performs a predetermined operation of inputting coordinates of a tip of the sampling pipette while the drive control unit is moving the sampling pipette. The coordinates of the tip of the sampling pipette at the time point are stored as the coordinates of the inspection point. According to this, since the approximate expression is calculated based on the position where the sampling pipette that actually collects the minute object contacts the bottom surface of the container, when collecting the minute object, the sampling pipette is more suitable. The tip can be aligned with the micro object.

本発明の一態様に係るマニピュレーションシステムにおいて、前記採取用ピペットは、長手方向が前記試料ステージの載置面に対して所定の傾斜角度傾いている先端部を含む。これによれば、採取用ピペットが容器の底面に接触した際に、採取用ピペットの先端がたわみ、近似された仮想平面と実際の底面との間の誤差を許容することができる。 In the manipulation system according to the aspect of the present invention, the sampling pipette includes a tip portion whose longitudinal direction is inclined at a predetermined inclination angle with respect to the mounting surface of the sample stage. According to this, when the collection pipette comes into contact with the bottom surface of the container, the tip of the collection pipette bends, and an error between the approximated virtual plane and the actual bottom surface can be allowed.

本発明の一態様に係るマニピュレーションシステムの駆動方法は、微小対象物が収容される容器と、前記容器が載置される試料ステージと、前記微小対象物を採取する採取用ピペットと、を備えるマニピュレーションシステムの駆動方法であって、前記容器の底面に予め設定された複数の検査点にそれぞれ前記採取用ピペットの先端を接触させるステップと、前記複数の検査点にそれぞれ接触した際の前記採取用ピペットの先端の座標を前記検査点の座標として記憶するステップと、前記複数の検査点の座標に基づいて、複数の検査点を近似する平面の近似式を算出するステップと、前記近似式に基づいて前記微小対象物の位置座標を算出するステップと、を含む。 A driving method of a manipulation system according to an aspect of the present invention is a manipulation including a container in which a minute object is housed, a sample stage on which the container is placed, and a sampling pipette for sampling the minute object. A method of driving a system, comprising the steps of bringing the tip of the sampling pipette into contact with a plurality of preset inspection points on the bottom surface of the container, and the sampling pipette at the time of contacting each of the plurality of inspection points. Storing the coordinates of the tip of the as the coordinates of the inspection point, based on the coordinates of the plurality of inspection points, calculating an approximate expression of a plane that approximates the plurality of inspection points, based on the approximate expression Calculating the position coordinates of the minute object.

これによれば、近似された仮想平面は、実際の容器の底面から平均化されるので、実際の底面との間の誤差が小さくなる。このため、微小対象物を採取する際に、容器の底面に存在する微小対象物の高さに位置合わせできるよう、採取用ピペットの先端の位置を好適に制御できる。したがって、容器内の微小対象物を安定的に自動採取することができる。また、底面の平面度が精密な高価な容器を使用する必要がないので、追加の研削仕上げ工程及び特注品の使用によるコストの発生を抑制することができる。 According to this, since the approximated virtual plane is averaged from the bottom surface of the actual container, the error between the virtual surface and the actual bottom surface becomes small. Therefore, the position of the tip of the pipette for collection can be preferably controlled so that the position of the minute object existing on the bottom surface of the container can be adjusted when the minute object is sampled. Therefore, it is possible to stably and automatically collect the minute object in the container. Further, since it is not necessary to use an expensive container having a precise flatness of the bottom surface, it is possible to suppress the cost generation due to the additional grinding finishing process and the use of a custom-made product.

本発明によれば、容器内の微小対象物を安定的に自動採取するマニピュレーションシステム及びマニピュレーションシステムの駆動方法を提供することができる。 According to the present invention, it is possible to provide a manipulation system and a driving method of the manipulation system that stably and automatically collect minute objects in a container.

図1は、実施形態に係るマニピュレーションシステムの構成例を示す斜視図である。FIG. 1 is a perspective view showing a configuration example of a manipulation system according to an embodiment. 図2は、図1に示すマニピュレーションシステムの一部を拡大して示す斜視図である。FIG. 2 is an enlarged perspective view showing a part of the manipulation system shown in FIG. 図3は、実施形態に係るマニピュレーションシステムの構成例を示す模式図である。FIG. 3 is a schematic diagram showing a configuration example of the manipulation system according to the embodiment. 図4は、実施形態に係るマニピュレーションシステムの構成例を示すブロック図である。FIG. 4 is a block diagram showing a configuration example of the manipulation system according to the embodiment. 図5は、検出部の構成例を示すブロック図である。FIG. 5 is a block diagram showing a configuration example of the detection unit. 図6は、記憶部の構成例を示すブロック図である。FIG. 6 is a block diagram showing a configuration example of the storage unit. 図7は、表示部の画面の一例を示す図である。FIG. 7 is a diagram showing an example of the screen of the display unit. 図8は、実施形態に係る採取用ピペットの構成例を示す側面図である。FIG. 8 is a side view showing a configuration example of the sampling pipette according to the embodiment. 図9は、実施形態に係る採取用ピペットの先端部を拡大して示す図である。FIG. 9: is a figure which expands and shows the front-end|tip part of the sampling pipette which concerns on embodiment. 図10は、実施形態に係る採取用ピペットの先端部を拡大して示す図である。FIG. 10 is an enlarged view showing the tip portion of the sampling pipette according to the embodiment. 図11は、実施形態に係る容器の一例を示す平面図である。FIG. 11 is a plan view showing an example of the container according to the embodiment. 図12は、実施形態の採取用ピペットの動作を説明する説明図である。FIG. 12 is an explanatory diagram for explaining the operation of the sampling pipette of the embodiment. 図13は、実施形態の採取用ピペットの動作を説明する説明図である。FIG. 13 is an explanatory diagram for explaining the operation of the sampling pipette of the embodiment. 図14は、実施形態の動作の一例を示すフローチャート図である。FIG. 14 is a flowchart showing an example of the operation of the embodiment. 図15は、実施形態の動作の一例を示すフローチャート図である。FIG. 15 is a flowchart showing an example of the operation of the embodiment. 図16は、実施形態のウェル底面の形状の一部を拡大して示す模式図である。FIG. 16 is a schematic view showing an enlarged part of the shape of the bottom surface of the well of the embodiment.

本発明を実施するための形態(実施形態)につき、図面を参照しつつ詳細に説明する。以下の実施形態に記載した内容により本発明が限定されるものではない。また、以下に記載した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。さらに、以下に記載した構成要素は適宜組み合わせることが可能である。 Modes (embodiments) for carrying out the present invention will be described in detail with reference to the drawings. The present invention is not limited to the contents described in the embodiments below. Further, the components described below include those that can be easily conceived by those skilled in the art, those that are substantially the same, and those that are within the equivalent range. Furthermore, the components described below can be combined as appropriate.

(実施形態)
図1は、実施形態に係るマニピュレーションシステムの構成例を示す斜視図である。図2は、図1に示すマニピュレーションシステムの一部を拡大して示す斜視図である。図3は、実施形態に係るマニピュレーションシステムの構成例を示す模式図である。図1から図3に示すマニピュレーションシステム100は、容器38に収容された複数個の微小対象物のうちから、所望の微小対象物を1個ずつ分取する装置である。微小対象物は、例えば、細胞である。
(Embodiment)
FIG. 1 is a perspective view showing a configuration example of a manipulation system according to an embodiment. FIG. 2 is an enlarged perspective view showing a part of the manipulation system shown in FIG. FIG. 3 is a schematic diagram showing a configuration example of the manipulation system according to the embodiment. The manipulation system 100 shown in FIG. 1 to FIG. 3 is an apparatus that sorts out desired microscopic objects one by one from among a plurality of microscopic objects contained in a container 38. The minute object is, for example, a cell.

図1から図3に示すように、マニピュレーションシステム100は、基台1と、採取用ピペット10と、ピペット保持部15と、マニピュレータ20と、試料ステージ30と、第1撮像装置45を含む第1顕微鏡ユニット40と、コントローラ50と、第2撮像装置65を含む第2顕微鏡ユニット60と、第3撮像装置75と、ジョイスティック57と、入力部58と、表示部80と、を備える。実施形態において、X軸方向は、試料ステージ30の載置面30aに平行な一方向である。実施形態において、Y軸方向は、載置面30aに平行で、かつ、X軸方向と直交する方向である。実施形態において、Z軸方向は、載置面30aの法線方向である。基台1の配置は、例えば、載置面30aが鉛直方向と直交する水平面となるように調整されている。 As shown in FIG. 1 to FIG. 3, the manipulation system 100 includes a base 1, a sampling pipette 10, a pipette holding section 15, a manipulator 20, a sample stage 30, and a first imaging device 45. The microscope unit 40, the controller 50, the second microscope unit 60 including the second imaging device 65, the third imaging device 75, the joystick 57, the input unit 58, and the display unit 80 are provided. In the embodiment, the X-axis direction is one direction parallel to the mounting surface 30a of the sample stage 30. In the embodiment, the Y-axis direction is a direction parallel to the mounting surface 30a and orthogonal to the X-axis direction. In the embodiment, the Z-axis direction is the normal line direction of the mounting surface 30a. The arrangement of the base 1 is adjusted, for example, so that the mounting surface 30a is a horizontal plane orthogonal to the vertical direction.

採取用ピペット10は、細胞を採取するための管状器具である。採取用ピペット10は、例えば、針状である。採取用ピペット10の材質は、例えば、ガラスである。採取用ピペット10の先端には、細胞を採取するための開口部103aが設けられている。採取用ピペット10の詳細は、後述にて図8、図9及び図10を参照して説明する。 The collection pipette 10 is a tubular instrument for collecting cells. The sampling pipette 10 has, for example, a needle shape. The material of the sampling pipette 10 is, for example, glass. An opening 103a for collecting cells is provided at the tip of the collecting pipette 10. Details of the sampling pipette 10 will be described later with reference to FIGS. 8, 9 and 10.

ピペット保持部15は、採取用ピペット10を保持するための管状器具である。ピペット保持部15の材質は、例えば、ガラス又は金属である。ピペット保持部15の一端は、採取用ピペット10に連結している。ピペット保持部15の他端は、マニピュレータ20の電動マイクロポンプ29に接続されている。ピペット保持部15及び採取用ピペット10の内部圧力は、電動マイクロポンプ29から供給される圧力Pにより減圧又は増圧される。採取用ピペット10の内部圧力が常圧よりも低いとき、採取用ピペット10は先端の開口部103a(図9参照)から細胞を吸引して採取することができる。採取用ピペット10の内部圧力が常圧よりも高いとき、採取用ピペット10は、採取した細胞を採取用ピペット10の先端の開口部103aから外部へ吐出(放出)することができる。ピペット保持部15は、後述の連結部28を介してマニピュレータ20に連結されている。 The pipette holding portion 15 is a tubular instrument for holding the sampling pipette 10. The material of the pipette holding portion 15 is, for example, glass or metal. One end of the pipette holding portion 15 is connected to the sampling pipette 10. The other end of the pipette holder 15 is connected to the electric micropump 29 of the manipulator 20. The internal pressure of the pipette holding unit 15 and the sampling pipette 10 is reduced or increased by the pressure P supplied from the electric micropump 29. When the internal pressure of the collection pipette 10 is lower than the normal pressure, the collection pipette 10 can suction and collect cells from the opening 103a (see FIG. 9) at the tip. When the internal pressure of the collection pipette 10 is higher than normal pressure, the collection pipette 10 can discharge (release) the collected cells to the outside from the opening 103a at the tip of the collection pipette 10. The pipette holding portion 15 is connected to the manipulator 20 via a connecting portion 28 described below.

マニピュレータ20は、X軸方向、Y軸方向及びZ軸方向に動作することによって、ピペット保持部15及び採取用ピペット10を動作させることができる。マニピュレータ20は、X軸テーブル21と、Y軸テーブル22と、Z軸テーブル23と、駆動装置26、27(例えばモータ)と、連結部28、71と、電動マイクロポンプ29と、を備える。X軸テーブル21は、駆動装置26が駆動することによって、X軸方向に移動する。Y軸テーブル22は、駆動装置26が駆動することによって、Y軸方向に移動する。Z軸テーブル23は、駆動装置27が駆動することによって、Z軸方向に移動する。駆動装置26、27と、電動マイクロポンプ29は、コントローラ50に接続されている。 The manipulator 20 can operate the pipette holder 15 and the sampling pipette 10 by operating in the X-axis direction, the Y-axis direction, and the Z-axis direction. The manipulator 20 includes an X-axis table 21, a Y-axis table 22, a Z-axis table 23, drive devices 26 and 27 (for example, motors), connecting portions 28 and 71, and an electric micropump 29. The X-axis table 21 moves in the X-axis direction when driven by the drive device 26. The Y-axis table 22 moves in the Y-axis direction when driven by the drive device 26. The Z-axis table 23 moves in the Z-axis direction when driven by the drive device 27. The drive devices 26 and 27 and the electric micropump 29 are connected to the controller 50.

連結部28は、ピペット保持部15をマニピュレータ20に連結している。連結部71は、第1顕微鏡ユニット40の鏡筒411をマニピュレータ20に連結している。連結部28、71は、例えば金属製である。 The connecting portion 28 connects the pipette holding portion 15 to the manipulator 20. The connecting portion 71 connects the lens barrel 411 of the first microscope unit 40 to the manipulator 20. The connecting portions 28 and 71 are made of metal, for example.

マニピュレータ20において、Z軸テーブル23はY軸テーブル22上に取り付けられている。これにより、ピペット保持部15及び採取用ピペット10は、Y軸テーブル22の移動にしたがって、Y軸テーブル22と同じ距離だけY軸方向に移動することができる。さらに、Y軸テーブル22はX軸テーブル21上に取り付けられている。これにより、ピペット保持部15及び採取用ピペット10は、X軸テーブル21の移動にしたがって、X軸テーブル21と同じ距離だけX軸方向に移動することができる。また、ピペット保持部15及び採取用ピペット10は、Z軸テーブル23の移動にしたがって、Z軸テーブル23と同じ距離だけZ軸方向に移動することができる。 In the manipulator 20, the Z-axis table 23 is mounted on the Y-axis table 22. As a result, the pipette holding unit 15 and the sampling pipette 10 can move in the Y-axis direction by the same distance as the Y-axis table 22 as the Y-axis table 22 moves. Further, the Y-axis table 22 is mounted on the X-axis table 21. As a result, the pipette holding unit 15 and the sampling pipette 10 can move in the X-axis direction by the same distance as the X-axis table 21 as the X-axis table 21 moves. Further, the pipette holding unit 15 and the sampling pipette 10 can move in the Z-axis direction by the same distance as the Z-axis table 23 as the Z-axis table 23 moves.

試料ステージ30は、容器38を支持する。例えば、試料ステージ30の載置面30aに容器38が載置される。容器38は、実施形態において、ウェルプレートである。試料ステージ30は、X軸ステージ31と、Y軸ステージ32と、駆動装置36と、を備える。X軸ステージ31は、駆動装置36が駆動することによって、X軸方向に移動する。Y軸ステージ32は、駆動装置36が駆動することによって、Y軸方向に移動する。X軸ステージ31はY軸ステージ32上に取り付けられている。駆動装置36は、コントローラ50に接続されている。 The sample stage 30 supports the container 38. For example, the container 38 is mounted on the mounting surface 30a of the sample stage 30. The container 38 is a well plate in the embodiment. The sample stage 30 includes an X-axis stage 31, a Y-axis stage 32, and a driving device 36. The X-axis stage 31 moves in the X-axis direction when driven by the drive device 36. The Y-axis stage 32 moves in the Y-axis direction when driven by the driving device 36. The X-axis stage 31 is mounted on the Y-axis stage 32. The drive device 36 is connected to the controller 50.

実施形態においては、試料ステージ30上に1個の容器38が載置されている場合を示しているが、試料ステージ30上に載置される容器38の数は1個に限定されず複数個でもよい。試料ステージ30は、実施形態において、平面視による形状(以下、平面形状)が矩形であるが、矩形でなくてもよく、例えば、円形でもよい。容器38は、実施形態において、平面形状が矩形であるが、矩形でなくてもよく、例えば、円形でもよい。容器38は、シャーレ又はディッシュでもよい。 Although the case where one container 38 is mounted on the sample stage 30 is shown in the embodiment, the number of containers 38 mounted on the sample stage 30 is not limited to one, and a plurality of containers 38 may be mounted. But it's okay. In the embodiment, the sample stage 30 has a rectangular shape in plan view (hereinafter referred to as a planar shape), but it may not be rectangular, and may be circular, for example. Although the container 38 has a rectangular planar shape in the embodiment, the container 38 may not be rectangular and may be circular, for example. The container 38 may be a petri dish or a dish.

第1顕微鏡ユニット40は、試料ステージ30の上方に配置されている。第1顕微鏡ユニット40は、第1顕微鏡41と、第1撮像装置45と、試料ステージ30の載置面30aに向けて光を照射する光源と、を含む。第1顕微鏡41は、鏡筒411と、対物レンズ412と、駆動装置414と、を含む。第1顕微鏡41は、対物レンズ412が容器38の上方に位置する実体顕微鏡である。第1顕微鏡ユニット40の鏡筒411は、駆動装置414が駆動することによって、Z軸方向に移動する。これにより、第1顕微鏡41は、焦点位置を調節することができる。対物レンズ412は、所望の倍率に合わせて複数種類が用意されていてもよい。第1撮像装置45は、例えば、CMOSイメージセンサ又はCCDイメージセンサ等の固体撮像素子を含む。第1撮像装置45は、第1顕微鏡41を介して、採取用ピペット10の先端をZ軸方向から撮像することができる。第1顕微鏡ユニット40は、接眼レンズを備えてもよい。 The first microscope unit 40 is arranged above the sample stage 30. The first microscope unit 40 includes a first microscope 41, a first imaging device 45, and a light source that emits light toward the mounting surface 30a of the sample stage 30. The first microscope 41 includes a lens barrel 411, an objective lens 412, and a driving device 414. The first microscope 41 is a stereoscopic microscope in which the objective lens 412 is located above the container 38. The lens barrel 411 of the first microscope unit 40 moves in the Z-axis direction when driven by the driving device 414. Thereby, the first microscope 41 can adjust the focus position. A plurality of types of objective lenses 412 may be prepared according to a desired magnification. The first imaging device 45 includes, for example, a solid-state imaging device such as a CMOS image sensor or a CCD image sensor. The first imaging device 45 can image the tip of the sampling pipette 10 from the Z-axis direction via the first microscope 41. The first microscope unit 40 may include an eyepiece lens.

第1顕微鏡ユニット40は、駆動装置414が駆動することによって、Z軸方向に動作する。駆動装置414は、後述の駆動制御部55によって駆動される。鏡筒411は、連結部71によってマニピュレータ20に連結されている。これにより、マニピュレータ20、ピペット保持部15及び採取用ピペット10は、第1顕微鏡ユニット40の動作に連動してZ軸方向に移動する。 The first microscope unit 40 operates in the Z-axis direction by being driven by the driving device 414. The drive device 414 is driven by the drive control unit 55 described later. The lens barrel 411 is connected to the manipulator 20 by a connecting portion 71. As a result, the manipulator 20, the pipette holder 15, and the sampling pipette 10 move in the Z-axis direction in conjunction with the operation of the first microscope unit 40.

第2顕微鏡ユニット60は、試料ステージ30の側方に配置されている。第2顕微鏡ユニット60は、第2顕微鏡61と、第2撮像装置65と、を含む。第2顕微鏡61は、鏡筒611と、対物レンズ612と、駆動装置613と、を含む。対物レンズ612は、駆動装置613が駆動することによって、Y軸方向に移動する。これにより、第2顕微鏡61は、焦点位置を調節することができる。第2撮像装置65は、例えば、CMOSイメージセンサ又はCCDイメージセンサ等の固体撮像素子を含む。第2撮像装置65は、第2顕微鏡61を介して、採取用ピペット10の先端をY軸方向から撮像することができる。第2顕微鏡ユニット60は、固定具3を介して基台1に固定されている。 The second microscope unit 60 is arranged laterally of the sample stage 30. The second microscope unit 60 includes a second microscope 61 and a second image pickup device 65. The second microscope 61 includes a lens barrel 611, an objective lens 612, and a driving device 613. The objective lens 612 moves in the Y-axis direction when driven by the driving device 613. Thereby, the second microscope 61 can adjust the focus position. The second imaging device 65 includes a solid-state imaging device such as a CMOS image sensor or a CCD image sensor, for example. The second imaging device 65 can image the tip of the sampling pipette 10 from the Y-axis direction via the second microscope 61. The second microscope unit 60 is fixed to the base 1 via the fixture 3.

第3撮像装置75は、固定具4を介して基台1に固定されている。固定具4は、X軸方向及びY軸方向に動くことができ、Z軸方向に延伸することができる。これにより、第3撮像装置75は、X軸方向、Y軸方向及びZ軸方向とそれぞれ交差する、試料ステージ30の斜め上方向から、試料ステージ30側を撮像することができる。 The third imaging device 75 is fixed to the base 1 via the fixture 4. The fixture 4 can move in the X-axis direction and the Y-axis direction, and can extend in the Z-axis direction. Accordingly, the third imaging device 75 can image the sample stage 30 side from the obliquely upper direction of the sample stage 30 that intersects the X-axis direction, the Y-axis direction, and the Z-axis direction, respectively.

入力部58は、キーボード又はタッチパネル等である。ジョイスティック57及び入力部58は、コントローラ50に接続されている。オペレータは、ジョイスティック57及び入力部58を介して、コントローラ50にコマンドを入力することができる。オペレータがジョイスティック57を操作することによって、ジョイスティック57からコントローラ50に制御信号Vsig1が出力される。オペレータが入力部58を操作することによって、入力部58からコントローラ50に制御信号Vsig2が出力される。 The input unit 58 is a keyboard, a touch panel, or the like. The joystick 57 and the input unit 58 are connected to the controller 50. The operator can input a command to the controller 50 via the joystick 57 and the input unit 58. When the operator operates the joystick 57, the control signal Vsig1 is output from the joystick 57 to the controller 50. When the operator operates the input unit 58, the control signal Vsig2 is output from the input unit 58 to the controller 50.

次に、コントローラ50の機能について、図4を参照して説明する。図4は、実施形態に係るマニピュレーションシステムの構成例を示すブロック図である。コントローラ50は、演算手段としてのCPU(中央演算処理装置)及び記憶手段としてのハードディスク、RAM(Random Access Memory)、ROM(Read Only Memory)等のハードウェア資源を備える。 Next, the function of the controller 50 will be described with reference to FIG. FIG. 4 is a block diagram showing a configuration example of the manipulation system according to the embodiment. The controller 50 includes hardware resources such as a CPU (central processing unit) as a calculation unit and a hard disk as a storage unit, a RAM (Random Access Memory), and a ROM (Read Only Memory).

図4に示すように、コントローラ50は、その機能として、画像入力部51aと、画像出力部51bと、画像処理部52と、検出部53と、画像編集部54と、駆動制御部55と、記憶部56と、算出部59と、を含む。画像入力部51a、画像出力部51b、画像処理部52、検出部53、画像編集部54、駆動制御部55及び算出部59は、上記の演算手段により実現される。記憶部56は、上記の記憶手段により実現される。コントローラ50は、記憶部56に格納されたプログラムに基づいて各種の演算を行い、演算結果にしたがって駆動制御部55が各種の制御を行うように駆動信号を出力する。 As shown in FIG. 4, the controller 50 has, as its functions, an image input unit 51a, an image output unit 51b, an image processing unit 52, a detection unit 53, an image editing unit 54, a drive control unit 55, and The storage unit 56 and the calculation unit 59 are included. The image input unit 51a, the image output unit 51b, the image processing unit 52, the detection unit 53, the image editing unit 54, the drive control unit 55, and the calculation unit 59 are realized by the above calculation means. The storage unit 56 is realized by the storage unit described above. The controller 50 performs various calculations based on the programs stored in the storage unit 56, and outputs drive signals so that the drive control unit 55 performs various controls according to the calculation results.

駆動制御部55は、第1顕微鏡ユニット40の駆動装置414と、マニピュレータ20の駆動装置26、27及び電動マイクロポンプ29と、試料ステージ30の駆動装置36と、第2顕微鏡ユニット60の駆動装置613とを制御する。駆動制御部55は、駆動装置414、26、27、36、613に駆動信号Vz1、Vxy2、Vz2、Vxy3、Vy4(図3参照)をそれぞれ供給する。駆動制御部55は、電動マイクロポンプ29に駆動信号Vmp(図3参照)を供給する。駆動制御部55は、必要に応じて設けられたドライバやアンプ等を介して、駆動信号Vz1、Vxy2、Vz2、Vxy3、Vy4、Vmpをそれぞれ供給してもよい。 The drive control unit 55 includes a drive unit 414 of the first microscope unit 40, drive units 26 and 27 of the manipulator 20, an electric micropump 29, a drive unit 36 of the sample stage 30, and a drive unit 613 of the second microscope unit 60. And control. The drive controller 55 supplies drive signals Vz1, Vxy2, Vz2, Vxy3, Vy4 (see FIG. 3) to the drive devices 414, 26, 27, 36, 613, respectively. The drive controller 55 supplies a drive signal Vmp (see FIG. 3) to the electric micropump 29. The drive control unit 55 may supply the drive signals Vz1, Vxy2, Vz2, Vxy3, Vy4, and Vmp via a driver, an amplifier, or the like provided as necessary.

第1撮像装置45から出力される第1画像信号Vpix1(図3参照)と、第2撮像装置65から出力される第2画像信号Vpix2(図3参照)と、第3撮像装置75から出力される第3画像信号Vpix3(図3参照)は、画像入力部51aにそれぞれ入力される。画像処理部52は、画像入力部51aから第1画像信号Vpix1、第2画像信号Vpix2、第3画像信号Vpix3を受け取って、画像処理を行う。画像出力部51bは、画像処理部52で画像処理された画像情報を記憶部56及び表示部80へ出力する。 The first image signal Vpix1 (see FIG. 3) output from the first imaging device 45, the second image signal Vpix2 (see FIG. 3) output from the second imaging device 65, and the third imaging device 75 are output. The third image signal Vpix3 (see FIG. 3) is input to the image input unit 51a. The image processing unit 52 receives the first image signal Vpix1, the second image signal Vpix2, and the third image signal Vpix3 from the image input unit 51a, and performs image processing. The image output unit 51b outputs the image information image-processed by the image processing unit 52 to the storage unit 56 and the display unit 80.

例えば、第1画像信号Vpix1には、第1顕微鏡41を通して第1撮像装置45が撮像した第1画像と、その撮像時刻とが含まれている。第1画像は動画である。同様に、第2画像信号Vpix2には、第2顕微鏡61を通して第2撮像装置65が撮像した第2画像と、その撮像時刻とが含まれている。第2画像も動画である。第3画像信号Vpix3には、第3撮像装置75が撮像した第3画像と、その撮像時刻とが含まれている。第3画像も動画である。 For example, the first image signal Vpix1 includes the first image captured by the first image capturing device 45 through the first microscope 41 and the capturing time thereof. The first image is a moving image. Similarly, the second image signal Vpix2 includes the second image captured by the second image capturing device 65 through the second microscope 61 and the capturing time thereof. The second image is also a moving image. The third image signal Vpix3 includes the third image captured by the third image capturing device 75 and the capturing time thereof. The third image is also a moving image.

第1画像、第2画像及び第3画像は、それぞれカラー画像又はグレー画像である。グレー画像は、白色及び黒色と、白色と黒色の中間色である灰色を含む画像である。グレー画像は、灰色に複数の階調を含む。階調とは、色や明るさの濃淡の段階数のことである。 The first image, the second image, and the third image are color images or gray images, respectively. The gray image is an image including white and black and gray which is an intermediate color between white and black. The gray image includes a plurality of gray levels in gray. The gradation means the number of gradations of color and brightness.

画像処理部52は、細胞の検出を容易にするために、第1画像又は第2画像の少なくとも一方について、画像の拡大や2値化等の画像処理をする。画像の2値化とは、カラー画像又はグレー画像(以下、元画像)を、濃淡がなく、白色と黒色としかない2値画像(binary image)に変換することである。画像処理部52は、第1画像又は第2画像の少なくとも一方について、元画像を拡大した拡大画像や、元画像を2値化した2値画像を生成する。画像処理部52は、元画像を拡大し、2値化した拡大2値画像を生成してもよい。画像処理部52は、拡大画像、2値画像、拡大2値画像の少なくとも1種類以上を画像情報として、検出部53と画像編集部54とに出力する。 The image processing unit 52 performs image processing such as image enlargement and binarization on at least one of the first image and the second image in order to facilitate detection of cells. The binarization of an image is to convert a color image or a gray image (hereinafter referred to as an original image) into a binary image (binary image) that has no shading and has only white and black. The image processing unit 52 generates, for at least one of the first image and the second image, an enlarged image obtained by enlarging the original image and a binary image obtained by binarizing the original image. The image processing unit 52 may enlarge the original image and generate a binarized enlarged binary image. The image processing unit 52 outputs at least one kind of the enlarged image, the binary image, and the enlarged binary image to the detecting unit 53 and the image editing unit 54 as image information.

検出部53は、画像処理部52から画像情報を受け取り、受け取った画像情報に基づいて、細胞の位置や個数を自動で検出する。そして、検出部53は検出結果を画像編集部54及び記憶部56に出力する。 The detection unit 53 receives the image information from the image processing unit 52, and automatically detects the position and number of cells based on the received image information. Then, the detection unit 53 outputs the detection result to the image editing unit 54 and the storage unit 56.

図5は、検出部の構成例を示すブロック図である。図5に示すように、検出部53は、その機能として、位置検出部531と、距離検出部532と、個数検出部533と、を含む。位置検出部531は、画像処理部52によって画像処理された第1画像又は第2画像に基づいて、細胞ce(後述の図7参照)の位置を自動で検出する。距離検出部532は、位置検出部531によって検出された細胞ceと先端部103の開口部103a(後述の図9参照)との離隔距離を自動で検出する。個数検出部533は、画像処理部52によって画像処理された第1画像又は第2画像に基づいて、細胞ceの個数を自動で検出する。画像処理部52によって画像処理された画像として、例えば、拡大画像、2値画像及び拡大2値画像の少なくとも1種類以上が挙げられる。位置検出部531、距離検出部532及び個数検出部533の各検出結果は、画像編集部54及び記憶部56にそれぞれ出力される。 FIG. 5 is a block diagram showing a configuration example of the detection unit. As shown in FIG. 5, the detection unit 53 includes a position detection unit 531, a distance detection unit 532, and a number detection unit 533 as its functions. The position detection unit 531 automatically detects the position of the cell ce (see FIG. 7, which will be described later) based on the first image or the second image image-processed by the image processing unit 52. The distance detection unit 532 automatically detects the separation distance between the cell ce detected by the position detection unit 531 and the opening 103a (see FIG. 9 described later) of the tip 103. The number detection unit 533 automatically detects the number of cells ce based on the first image or the second image processed by the image processing unit 52. Examples of the image processed by the image processing unit 52 include at least one kind of an enlarged image, a binary image, and an enlarged binary image. The detection results of the position detection unit 531, the distance detection unit 532, and the number detection unit 533 are output to the image editing unit 54 and the storage unit 56, respectively.

画像編集部54は、第1画像信号Vpix1、第2画像信号Vpix2、第3画像信号Vpix3を、撮像時刻に基づいて互いに関連付けして、編集画像信号Vpix4を生成する。編集画像信号Vpix4には、編集画像が含まれている。編集画像は、互いに同じ時刻に撮像された第1画像、第2画像及び第3画像を並べて表示する動画である。編集画像において、第1画像、第2画像及び第3画像はそれぞれ、元画像でもよいし、元画像を画像処理した拡大画像、2値画像又は拡大2値画像であってもよい。画像出力部51bは、第1画像信号Vpix1、第2画像信号Vpix2、第3画像信号Vpix3及び編集画像信号Vpix4を記憶部56に出力する。 The image editing unit 54 associates the first image signal Vpix1, the second image signal Vpix2, and the third image signal Vpix3 with each other based on the image capturing time to generate the edited image signal Vpix4. The edited image signal Vpix4 includes an edited image. The edited image is a moving image in which the first image, the second image, and the third image captured at the same time are displayed side by side. In the edited image, each of the first image, the second image, and the third image may be an original image, or may be an enlarged image, a binary image, or an enlarged binary image obtained by performing image processing on the original image. The image output unit 51b outputs the first image signal Vpix1, the second image signal Vpix2, the third image signal Vpix3, and the edited image signal Vpix4 to the storage unit 56.

画像編集部54は、検出部53から細胞ceの検出結果を受信する。検出部53が細胞の位置を検出した場合、画像編集部54は、その検出結果を編集画像に反映させてもよい。例えば、画像編集部54は、画像処理部52から受け取った拡大画像、2値画像又は拡大2値画像において、検出部53が検出した細胞ceの位置を矢印によって自動で示したり、検出部53が検出した細胞の位置を枠線によって自動で囲んだりしてもよい。 The image editing unit 54 receives the detection result of the cells ce from the detection unit 53. When the detection unit 53 detects the position of the cell, the image editing unit 54 may reflect the detection result on the edited image. For example, the image editing unit 54 may automatically indicate the position of the cell ce detected by the detecting unit 53 with an arrow in the enlarged image, the binary image, or the enlarged binary image received from the image processing unit 52, or the detecting unit 53 may The detected cell position may be automatically surrounded by a frame line.

図6は、記憶部の構成例を示すブロック図である。図6に示すように、記憶部56は、その機能として、マニピュレーションシステム100を動作させるためのプログラムを記憶したプログラム記憶部56aと、画像信号を記憶する画像記憶部56bと、後述する検査点SPn(図11参照)座標を記憶する座標記憶部56cと、を含む。画像記憶部56bは、第1画像信号Vpix1を記憶する第1画像記憶部561と、第2画像信号Vpix2を記憶する第2画像記憶部562と、第3画像信号Vpix3を記憶する第3画像記憶部563と、編集画像信号Vpix4を記憶する編集画像記憶部564と、を含む。 FIG. 6 is a block diagram showing a configuration example of the storage unit. As shown in FIG. 6, the storage unit 56 has, as its functions, a program storage unit 56a that stores a program for operating the manipulation system 100, an image storage unit 56b that stores an image signal, and an inspection point SPn described later. (See FIG. 11) A coordinate storage unit 56c for storing coordinates is included. The image storage unit 56b includes a first image storage unit 561 that stores the first image signal Vpix1, a second image storage unit 562 that stores the second image signal Vpix2, and a third image storage that stores the third image signal Vpix3. A unit 563 and an edited image storage unit 564 that stores the edited image signal Vpix4 are included.

画像出力部51bは、第1画像信号Vpix1、第2画像信号Vpix2、第3画像信号Vpix3及び編集画像信号Vpix4のうち、少なくとも1つ以上の画像信号を表示部80に出力する(図3参照)。画像出力部51bは、コントローラ50に入力された制御信号Vsig1に従って、表示部80に出力する画像信号を選択して表示部80に出力する。画像出力部51bは、コントローラ50に入力された制御信号Vsig2に従って、表示部80に出力する画像信号を選択して表示部80に出力してもよい。 The image output unit 51b outputs at least one image signal of the first image signal Vpix1, the second image signal Vpix2, the third image signal Vpix3, and the edited image signal Vpix4 to the display unit 80 (see FIG. 3). .. The image output unit 51b selects an image signal to be output to the display unit 80 according to the control signal Vsig1 input to the controller 50, and outputs the image signal to the display unit 80. The image output unit 51b may select an image signal to be output to the display unit 80 and output it to the display unit 80 according to the control signal Vsig2 input to the controller 50.

表示部80は、例えば液晶パネル等である。表示部80は、コントローラ50に接続されている。表示部80は、種々の文字情報や画像等を画面に表示する。図7は、表示部の画面の一例を示す図である。図7は、表示部80の画面81に編集画像が表示されている場合を例示している。編集画像では、互いに同じタイミングで撮像された第1画像811、第2画像812、第3画像813が並んで配置されている。表示部80は、編集画像をリアルタイム又はほぼリアルタイムで表示してもよいし、編集画像記憶部564に記憶されている編集画像を読み出して再生表示してもよい。 The display unit 80 is, for example, a liquid crystal panel or the like. The display unit 80 is connected to the controller 50. The display unit 80 displays various character information, images, etc. on the screen. FIG. 7 is a diagram showing an example of the screen of the display unit. FIG. 7 illustrates a case where an edited image is displayed on the screen 81 of the display unit 80. In the edited image, the first image 811, the second image 812, and the third image 813 captured at the same timing are arranged side by side. The display unit 80 may display the edited image in real time or almost in real time, or may read the edited image stored in the edited image storage unit 564 and display it for reproduction.

オペレータがジョイスティック57又は入力部58を操作することによって、画面81に表示される画像を切り替えることが可能である。オペレータがジョイスティック57又は入力部58を操作することによって、画面81に表示される編集画像(動画)を一時停止させることが可能である。プログラム記憶部56a(図6参照)が記憶しているプログラムに基づいて、コントローラ50(図4参照)が所定の画像を画面81に自動で表示させたり、画面81に表示される画像を自動で切り替えたりしてもよい。 The operator can operate the joystick 57 or the input section 58 to switch the image displayed on the screen 81. By operating the joystick 57 or the input unit 58 by the operator, the edited image (moving image) displayed on the screen 81 can be temporarily stopped. Based on the program stored in the program storage unit 56a (see FIG. 6), the controller 50 (see FIG. 4) automatically displays a predetermined image on the screen 81 or automatically displays the image displayed on the screen 81. You may switch.

画面81に表示される画像は、編集画像に限定されることはなく、第1画像811、第2画像812又は第3画像813のみでもよい。画面に表示される画像は、元画像に限定されることはなく、画像処理部52によって画像処理された画像(例えば、拡大画像、2値画像及び拡大2値画像の少なくとも1種以上)であってもよい。例えば、画面81に表示される画像は、第1画像811と、第1画像811の一部が拡大された拡大画像と、拡大画像が2値化された拡大2値画像と、であってもよい。 The image displayed on the screen 81 is not limited to the edited image, and may be only the first image 811, the second image 812, or the third image 813. The image displayed on the screen is not limited to the original image and may be an image processed by the image processing unit 52 (for example, at least one of an enlarged image, a binary image, and an enlarged binary image). May be. For example, the images displayed on the screen 81 may be the first image 811, an enlarged image in which a part of the first image 811 is enlarged, and an enlarged binary image in which the enlarged image is binarized. Good.

図8は、実施形態に係る採取用ピペットの構成例を示す側面図である。図9及び図10は、実施形態に係る採取用ピペットの先端部を拡大して示す図である。図8に示すように、採取用ピペット10は、2段に屈曲した形状のガラス針である。具体的には、採取用ピペット10は、平面視で、管状の中央部101と、中央部101の一端に接続する管状の後方部102と、中央部101の他端に接続する管状の先端部103と、を含む。後方部102は、ピペット保持部15によって保持される側の部位である。先端部103は、細胞等の微小対象物を採取する側の部位である。先端部103の先端には開口部103aが設けられている。 FIG. 8 is a side view showing a configuration example of the sampling pipette according to the embodiment. 9 and 10 are enlarged views showing the tip of the sampling pipette according to the embodiment. As shown in FIG. 8, the sampling pipette 10 is a glass needle that is bent in two stages. Specifically, the collecting pipette 10 is, in plan view, a tubular central portion 101, a tubular rear portion 102 connected to one end of the central portion 101, and a tubular tip portion connected to the other end of the central portion 101. And 103. The rear part 102 is a part on the side held by the pipette holding part 15. The tip portion 103 is a portion on the side where a minute object such as a cell is collected. An opening 103a is provided at the tip of the tip 103.

中央部101と後方部102との間には第1屈曲部104が存在する。中央部101と先端部103との間には第2屈曲部105が存在する。中央部101の長手方向と後方部102の長手方向とは、互いに交差している。中央部101の長手方向と先端部103の長手方向とは、互いに交差している。中央部101の長手方向の長さL1と、後方部102の長手方向の長さL2と、先端部103の長手方向の長さL3とは、L3<L1、かつ、L3<L2である。これによれば、採取用ピペット10の先端部である先端部103を容器38内に配置することが容易である。 A first bent portion 104 exists between the central portion 101 and the rear portion 102. A second bent portion 105 exists between the central portion 101 and the tip portion 103. The longitudinal direction of the central portion 101 and the longitudinal direction of the rear portion 102 intersect each other. The longitudinal direction of the central portion 101 and the longitudinal direction of the tip portion 103 intersect each other. The length L1 in the longitudinal direction of the central portion 101, the length L2 in the longitudinal direction of the rear portion 102, and the length L3 in the longitudinal direction of the tip portion 103 are L3<L1 and L3<L2. According to this, it is easy to dispose the tip portion 103, which is the tip portion of the sampling pipette 10, in the container 38.

中央部101を、中央部101の長手方向と直交する平面で切断した形状は円形である。後方部102を、後方部102の長手方向と直交する平面で切断した形状は円形である。先端部103を、先端部103の長手方向と直交する平面で切断した形状は円形である。後方部102の外径φ21と、先端部103の外径φ31とは、φ21>φ31である。第1管部の外径φ11は、第1屈曲部104の側から第2屈曲部105の側に向かって小さくなっている。 The shape obtained by cutting the central portion 101 along a plane orthogonal to the longitudinal direction of the central portion 101 is circular. The shape obtained by cutting the rear portion 102 in a plane orthogonal to the longitudinal direction of the rear portion 102 is circular. The shape obtained by cutting the tip portion 103 along a plane orthogonal to the longitudinal direction of the tip portion 103 is circular. The outer diameter φ21 of the rear portion 102 and the outer diameter φ31 of the tip portion 103 are φ21>φ31. The outer diameter φ11 of the first pipe portion decreases from the first bent portion 104 side toward the second bent portion 105 side.

例えば、中央部101は、第1屈曲部104と第2屈曲部105との間に、外径が大きく変化する狭窄部106を含む。中央部101において、狭窄部106と第1屈曲部104との間に位置する第1部位101aよりも、狭窄部106と第2屈曲部105との間に位置する第2部位101bの方が、外径φ11が小さい。第2部位101bの長手方向の長さL4は、先端部103の長手方向の長さL3よりも長い。 For example, the central portion 101 includes a narrowed portion 106 having a large change in outer diameter between the first bent portion 104 and the second bent portion 105. In the central portion 101, the second portion 101b located between the narrowed portion 106 and the second bent portion 105 is smaller than the first portion 101a located between the narrowed portion 106 and the first bent portion 104. The outer diameter φ11 is small. The length L4 in the longitudinal direction of the second portion 101b is longer than the length L3 in the longitudinal direction of the tip portion 103.

図9に示すように、開口部103aと第2屈曲部105との間で、先端部103の内径φ32の大きさはほぼ一定である。先端部103の内径φ32と、採取用ピペット10の採取対象である細胞ceの直径φceとは、φ32>φceである。先端部103の内径φ32は細胞ceの直径φceよりも数μm程度大きいことが好ましい。これにより、採取用ピペット10は、細胞ceを先端部103の内側に導入することができる。 As shown in FIG. 9, the inner diameter φ32 of the tip portion 103 is substantially constant between the opening 103a and the second bent portion 105. The inner diameter φ32 of the tip portion 103 and the diameter φce of the cell ce that is the collection target of the collection pipette 10 are φ32>φce. The inner diameter φ32 of the tip portion 103 is preferably about several μm larger than the diameter φce of the cells ce. Thereby, the collection pipette 10 can introduce the cells ce into the inside of the tip portion 103.

第1屈曲部104の屈曲角度θ1と、第2屈曲部105の屈曲角度θ2とは、θ1>θ2である。第1屈曲部104の屈曲角度θ1は、中央部101の長手方向と後方部102の長手方向とが成す鈍角の角度である。第2屈曲部105の屈曲角度θ2は、中央部101の長手方向と先端部103の長手方向とが成す鈍角の角度である。 The bending angle θ1 of the first bending portion 104 and the bending angle θ2 of the second bending portion 105 are θ1>θ2. The bending angle θ1 of the first bending portion 104 is an obtuse angle formed by the longitudinal direction of the central portion 101 and the longitudinal direction of the rear portion 102. The bending angle θ2 of the second bent portion 105 is an obtuse angle formed by the longitudinal direction of the central portion 101 and the longitudinal direction of the tip portion 103.

先端部103は、長手方向が水平面に対して傾斜角度θ3傾いている。傾斜角度θ3は、例えば、2°以上3°以下である。図10に示すように、先端部103の開口部103a側の先端が容器38の底面38bに接触している場合、容器38の底面38bと第2屈曲部105とのZ軸方向の距離H1は、例えば、30μmである。これによれば、採取用ピペット10は、開口部103a側の先端が容器38のウェル38aの底面38bに接触した際に、先端部103がたわむことができる。 The tip portion 103 has a longitudinal direction inclined at an inclination angle θ3 with respect to the horizontal plane. The inclination angle θ3 is, for example, 2° or more and 3° or less. As shown in FIG. 10, when the tip of the tip 103 on the side of the opening 103a is in contact with the bottom surface 38b of the container 38, the distance H1 between the bottom surface 38b of the container 38 and the second bent portion 105 in the Z-axis direction is , For example, 30 μm. According to this, in the sampling pipette 10, the tip portion 103 can bend when the tip on the side of the opening 103a comes into contact with the bottom surface 38b of the well 38a of the container 38.

次に、マニピュレーションシステム100によって、細胞ceの採取動作を行う前に、採取される細胞ceが収容される容器38の底面38bのZ座標を算出する方法について説明する。図11は、実施形態に係る容器の一例を示す平面図である。図11に示すように、容器38は、実施形態において、6つのウェル38aを含むウェルプレートである。容器38のウェル38aには、液体39(図7参照)と採取前の細胞ceが収容される。採取前の細胞ceは、ウェル38aの底面38bに載置される。 Next, a method of calculating the Z coordinate of the bottom surface 38b of the container 38 in which the collected cells ce are stored by the manipulation system 100 before performing the collection operation of the cells ce will be described. FIG. 11 is a plan view showing an example of the container according to the embodiment. As shown in FIG. 11, the container 38 is, in the embodiment, a well plate including six wells 38 a. The well 38a of the container 38 contains the liquid 39 (see FIG. 7) and the cells ce before collection. The cells ce before collection are placed on the bottom surface 38b of the well 38a.

ウェル38aの底面38bには、平面視において検査領域SZが設定される。検査領域SZは、細胞ceを含む所定の領域である。検査領域SZは、複数の検査点SPnによって決定される。検査点SPnの個数neは、本実施形態において、3個である。検査点SPnは、第1検査点SP1、第2検査点SP2及び第3検査点SP3を含む。検査領域SZは、第1検査点SP1、第2検査点SP2及び第3検査点SP3によって決定される。検査領域SZは、第1検査点SP1、第2検査点SP2及び第3検査点SP3を頂点に含む矩形状である。検査領域SZは、実施形態において、長方形状である。検査領域SZは、正方形状でもよい。 The inspection region SZ is set on the bottom surface 38b of the well 38a in plan view. The inspection area SZ is a predetermined area including the cells ce. The inspection area SZ is determined by a plurality of inspection points SPn. The number ne of inspection points SPn is three in the present embodiment. The inspection point SPn includes a first inspection point SP1, a second inspection point SP2, and a third inspection point SP3. The inspection area SZ is determined by the first inspection point SP1, the second inspection point SP2, and the third inspection point SP3. The inspection area SZ has a rectangular shape including the first inspection point SP1, the second inspection point SP2, and the third inspection point SP3 at its apex. The inspection region SZ has a rectangular shape in the embodiment. The inspection area SZ may have a square shape.

第1検査点SP1のX座標X1及びY座標Y1と、第2検査点SP2のX座標X2及びY座標Y2と、第3検査点SP3のX座標X3及びY座標Y3とは、後述する図14に示すステップST14において、操作者が入力部58を介して入力することにより設定される。コントローラ50は、入力部58を介して入力された第1検査点SP1のXY座標(X1,Y1)、第2検査点SP2のXY座標(X2,Y2)及び第3検査点SP3のXY座標(X3,Y3)の座標情報を記憶部56の座標記憶部56cに記憶させる。 The X coordinate X1 and Y coordinate Y1 of the first inspection point SP1, the X coordinate X2 and Y coordinate Y2 of the second inspection point SP2, and the X coordinate X3 and Y coordinate Y3 of the third inspection point SP3 will be described later with reference to FIG. In step ST14 shown in (4), the setting is made by the operator inputting through the input unit 58. The controller 50 inputs the XY coordinates (X1, Y1) of the first inspection point SP1, the XY coordinates (X2, Y2) of the second inspection point SP2, and the XY coordinates of the third inspection point SP3 (( The coordinate information of (X3, Y3) is stored in the coordinate storage unit 56c of the storage unit 56.

(第n検査点のZ座標を決定する第1方法)
第1検査点SP1のZ座標Z1は、第1検査点SP1のXY座標(X1,Y1)における容器38の底面38bのZ座標である。まず、駆動制御部55は、採取用ピペット10を座標記憶部56cに記憶された第1検査点SP1のXY座標(X1,Y1)へ移動させる。次に、駆動制御部55は、採取用ピペット10の先端をZ軸方向かつ下方に移動させる。座標記憶部56cは、採取用ピペット10の先端が底面38bに接触した位置の座標に基づいて、第1検査点SP1のZ座標Z1を記憶する。
(First Method for Determining Z Coordinate of nth Inspection Point)
The Z coordinate Z1 of the first inspection point SP1 is the Z coordinate of the bottom surface 38b of the container 38 at the XY coordinates (X1, Y1) of the first inspection point SP1. First, the drive control unit 55 moves the sampling pipette 10 to the XY coordinates (X1, Y1) of the first inspection point SP1 stored in the coordinate storage unit 56c. Next, the drive control unit 55 moves the tip of the sampling pipette 10 downward in the Z-axis direction. The coordinate storage unit 56c stores the Z coordinate Z1 of the first inspection point SP1 based on the coordinates of the position where the tip of the sampling pipette 10 contacts the bottom surface 38b.

第2検査点SP2のZ座標Z2は、第2検査点SP2のXY座標(X2,Y2)における容器38の底面38bのZ座標である。第1検査点SPと同様に、駆動制御部55は、第2検査点SP2のXY座標(X2,Y2)において、採取用ピペット10の先端をZ軸方向かつ下方に移動させる。座標記憶部56cは、採取用ピペット10の先端が底面38bに接触した位置の座標に基づいて、第2検査点SP2のZ座標Z2を記憶する。 The Z coordinate Z2 of the second inspection point SP2 is the Z coordinate of the bottom surface 38b of the container 38 at the XY coordinates (X2, Y2) of the second inspection point SP2. Similar to the first inspection point SP, the drive control unit 55 moves the tip of the sampling pipette 10 downward in the Z-axis direction at the XY coordinates (X2, Y2) of the second inspection point SP2. The coordinate storage unit 56c stores the Z coordinate Z2 of the second inspection point SP2 based on the coordinates of the position where the tip of the sampling pipette 10 contacts the bottom surface 38b.

第3検査点SP3のZ座標Z3は、第3検査点SP3のXY座標(X3,Y3)における容器38の底面38bのZ座標である。第1検査点SPと同様に、駆動制御部55は、第3検査点SP3のXY座標(X3,Y3)において、採取用ピペット10の先端をZ軸方向かつ下方に移動させる。座標記憶部56cは、採取用ピペット10の先端が底面38bに接触した位置の座標に基づいて、第3検査点SP3のZ座標Z3を記憶する。 The Z coordinate Z3 of the third inspection point SP3 is the Z coordinate of the bottom surface 38b of the container 38 at the XY coordinates (X3, Y3) of the third inspection point SP3. Similar to the first inspection point SP, the drive control unit 55 moves the tip of the sampling pipette 10 downward in the Z-axis direction at the XY coordinates (X3, Y3) of the third inspection point SP3. The coordinate storage unit 56c stores the Z coordinate Z3 of the third inspection point SP3 based on the coordinates of the position where the tip of the sampling pipette 10 contacts the bottom surface 38b.

本実施形態において、検査点SPnの個数neは3個であるが、4個以上であっても同様に第n検査点SPnのZ座標Znを求めることができる。駆動制御部55は、予め入力部58を介して座標記憶部56cに設定された第n検査点SPnのXY座標(Xn,Yn)において、採取用ピペット10の先端をZ軸方向かつ下方に移動させる。座標記憶部56cは、採取用ピペット10の先端が底面38bに接触した位置の座標情報に基づいて、第n検査点SPnのZ座標Znを記憶する。 In the present embodiment, the number ne of inspection points SPn is three, but the Z coordinate Zn of the nth inspection point SPn can be similarly obtained even if the number ne is four or more. The drive control unit 55 moves the tip of the sampling pipette 10 downward in the Z-axis direction at the XY coordinates (Xn, Yn) of the nth inspection point SPn preset in the coordinate storage unit 56c via the input unit 58. Let The coordinate storage unit 56c stores the Z coordinate Zn of the nth inspection point SPn based on the coordinate information of the position where the tip of the sampling pipette 10 contacts the bottom surface 38b.

(第n検査点のZ座標を決定する第2方法)
図12及び図13は、実施形態の採取用ピペットの動作を説明する説明図である。第1検査点SP1のZ座標Z1は、第1検査点SP1のXY座標(X1,Y1)における容器38の底面38bのZ座標である。まず、駆動制御部55は、採取用ピペット10を座標記憶部56cに記憶された第1検査点SP1のXY座標(X1,Y1)へ移動させる。次に、駆動制御部55は、採取用ピペット10を試料ステージ30の載置面30aに平行な一方向に所定の範囲で往復移動させる。一方向は、本実施形態において、Y軸方向に平行な方向である。所定の範囲は、例えば、Y1を中心に、500μmである。採取用ピペット10の往復移動は、第1顕微鏡41を介してZ軸方向に撮像する第1撮像装置45によって確認できる。採取用ピペット10の先端部103は、平面視において長手方向がX軸方向に平行なので、図12に示すように、平面視において長手方向と交差する方向に往復移動する。駆動制御部55は、採取用ピペット10を往復移動させた状態で、採取用ピペット10の先端をZ軸方向かつ下方に移動させる。採取用ピペット10は、先端が容器38の底面38bに接触すると、図13に示すように、先端部103が底面38bに引き摺られるような挙動を示す。採取用ピペット10の先端部103の挙動が変わることにより、操作者は、採取用ピペット10の先端が容器38の底面38bに接触したと確認できる。操作者は、先端部103が底面38bに引き摺られるような挙動を示した場合、採取用ピペット10の先端が容器38の底面38bに接触したと判断し、採取用ピペット10の先端の座標を入力する所定操作を行うものとする。所定操作は、例えば、入力部58の所定のボタンの操作等である。座標記憶部56cは、駆動制御部55が採取用ピペット10を下方に移動させている間に、採取用ピペット10の先端の座標を入力する所定操作が開始された時点の採取用ピペット10の先端の座標を第1検査点SP1のZ座標Z1として記憶する。
(Second Method of Determining Z Coordinate of nth Inspection Point)
12 and 13 are explanatory diagrams for explaining the operation of the sampling pipette of the embodiment. The Z coordinate Z1 of the first inspection point SP1 is the Z coordinate of the bottom surface 38b of the container 38 at the XY coordinates (X1, Y1) of the first inspection point SP1. First, the drive control unit 55 moves the sampling pipette 10 to the XY coordinates (X1, Y1) of the first inspection point SP1 stored in the coordinate storage unit 56c. Next, the drive controller 55 causes the sampling pipette 10 to reciprocate within a predetermined range in one direction parallel to the mounting surface 30 a of the sample stage 30. The one direction is a direction parallel to the Y-axis direction in the present embodiment. The predetermined range is, for example, 500 μm centering on Y1. The reciprocating movement of the sampling pipette 10 can be confirmed by the first imaging device 45 that images in the Z-axis direction via the first microscope 41. The distal end portion 103 of the sampling pipette 10 has a longitudinal direction parallel to the X-axis direction in a plan view, and thus reciprocates in a direction intersecting the longitudinal direction in a plan view, as shown in FIG. The drive control unit 55 moves the tip of the sampling pipette 10 downward in the Z-axis direction while the sampling pipette 10 is reciprocatingly moved. When the tip of the sampling pipette 10 comes into contact with the bottom surface 38b of the container 38, the tip portion 103 behaves as if it were dragged onto the bottom surface 38b, as shown in FIG. By changing the behavior of the tip portion 103 of the sampling pipette 10, the operator can confirm that the tip of the sampling pipette 10 has come into contact with the bottom surface 38b of the container 38. If the tip 103 behaves like being dragged by the bottom surface 38b, the operator determines that the tip of the sampling pipette 10 has contacted the bottom surface 38b of the container 38, and inputs the coordinates of the tip of the sampling pipette 10. A predetermined operation is performed. The predetermined operation is, for example, operation of a predetermined button of the input unit 58. The coordinate storage unit 56c stores the tip of the sampling pipette 10 at the time when a predetermined operation of inputting the coordinates of the tip of the sampling pipette 10 is started while the drive control unit 55 moves the sampling pipette 10 downward. Is stored as the Z coordinate Z1 of the first inspection point SP1.

第2検査点SP2のZ座標Z2は、第2検査点SP2のXY座標(X2,Y2)における容器38の底面38bのZ座標である。第1検査点SPと同様に、駆動制御部55は、第2検査点SP2のXY座標(X2,Y2)において、採取用ピペット10の先端をY軸方向に往復移動させながらZ軸方向かつ下方に移動させる。操作者は、先端部103が底面38bに引き摺られるような挙動を示した場合、採取用ピペット10の先端が容器38の底面38bに接触したと判断し、採取用ピペット10の先端の座標を入力する所定操作を行うものとする。座標記憶部56cは、駆動制御部55が採取用ピペット10を移動させている間に、採取用ピペット10の先端の座標を入力する所定操作が実行された時点の採取用ピペット10の先端の座標を第2検査点SP2のZ座標Z2として記憶する。 The Z coordinate Z2 of the second inspection point SP2 is the Z coordinate of the bottom surface 38b of the container 38 at the XY coordinates (X2, Y2) of the second inspection point SP2. Similar to the first inspection point SP, the drive control unit 55 reciprocates the tip of the sampling pipette 10 in the Y-axis direction and moves downward in the Z-axis direction at the XY coordinates (X2, Y2) of the second inspection point SP2. Move to. If the tip portion 103 behaves like being dragged by the bottom surface 38b, the operator determines that the tip of the sampling pipette 10 has contacted the bottom surface 38b of the container 38, and inputs the coordinates of the tip of the sampling pipette 10. A predetermined operation is performed. The coordinate storage unit 56c stores the coordinates of the tip of the sampling pipette 10 when a predetermined operation of inputting the coordinates of the tip of the sampling pipette 10 is executed while the drive control unit 55 is moving the sampling pipette 10. Is stored as the Z coordinate Z2 of the second inspection point SP2.

第3検査点SP3のZ座標Z3は、第3検査点SP3のXY座標(X3,Y3)における容器38の底面38bのZ座標である。第1検査点SPと同様に、駆動制御部55は、第3検査点SP3のXY座標(X3,Y3)において、採取用ピペット10の先端をY軸方向に往復移動させながらZ軸方向かつ下方に移動させる。操作者は、先端部103が底面38bに引き摺られるような挙動を示した場合、採取用ピペット10の先端が容器38の底面38bに接触したと判断し、採取用ピペット10の先端の座標を入力する所定操作を行うものとする。座標記憶部56cは、駆動制御部55が採取用ピペット10を移動させている間に、採取用ピペット10の先端の座標を入力する所定操作が実行された時点の採取用ピペット10の先端の座標を第3検査点SP3のZ座標Z3として記憶する。 The Z coordinate Z3 of the third inspection point SP3 is the Z coordinate of the bottom surface 38b of the container 38 at the XY coordinates (X3, Y3) of the third inspection point SP3. Similar to the first inspection point SP, the drive control unit 55 reciprocates the tip of the sampling pipette 10 in the Y-axis direction and moves downward in the Z-axis direction at the XY coordinates (X3, Y3) of the third inspection point SP3. Move to. If the tip 103 behaves like being dragged by the bottom surface 38b, the operator determines that the tip of the sampling pipette 10 has contacted the bottom surface 38b of the container 38, and inputs the coordinates of the tip of the sampling pipette 10. A predetermined operation is performed. The coordinate storage unit 56c stores the coordinates of the tip of the sampling pipette 10 when a predetermined operation for inputting the coordinates of the tip of the sampling pipette 10 is executed while the drive control unit 55 is moving the sampling pipette 10. Is stored as the Z coordinate Z3 of the third inspection point SP3.

本実施形態において、検査点SPnの個数neは3個であるが、4個以上であっても同様に第n検査点SPnのZ座標Znを求めることができる。駆動制御部55は、予め入力部58を介して座標記憶部56cに設定された第n検査点SPnのXY座標(Xn,Yn)において、採取用ピペット10の先端をY軸方向に往復移動させながらZ軸方向かつ下方に移動させる。操作者は、先端部103が底面38bに引き摺られるような挙動を示した場合、採取用ピペット10の先端が容器38の底面38bに接触したと判断し、採取用ピペット10の先端の座標を入力する所定操作を行うものとする。座標記憶部56cは、駆動制御部55が採取用ピペット10を移動させている間に、採取用ピペット10の先端の座標を入力する所定操作が実行された時点の採取用ピペット10の先端の座標を第n検査点SPnのZ座標Znとして記憶する。 In the present embodiment, the number ne of inspection points SPn is three, but the Z coordinate Zn of the nth inspection point SPn can be similarly obtained even if the number ne is four or more. The drive control unit 55 reciprocates the tip of the sampling pipette 10 in the Y-axis direction at the XY coordinates (Xn, Yn) of the n-th inspection point SPn preset in the coordinate storage unit 56c via the input unit 58. While moving in the Z-axis direction and downward. If the tip portion 103 behaves like being dragged by the bottom surface 38b, the operator determines that the tip of the sampling pipette 10 has contacted the bottom surface 38b of the container 38, and inputs the coordinates of the tip of the sampling pipette 10. A predetermined operation is performed. The coordinate storage unit 56c stores the coordinates of the tip of the sampling pipette 10 when a predetermined operation of inputting the coordinates of the tip of the sampling pipette 10 is executed while the drive control unit 55 is moving the sampling pipette 10. Is stored as the Z coordinate Zn of the nth inspection point SPn.

上述した第1方法又は第2方法によって各検査点SPnのZ座標Znを計測することにより、各検査点SPnの座標(Xn,Yn,Zn)の座標情報が得られる。本実施形態においては、第1検査点SP1の座標(X1,Y1,Z1)、第2検査点SP2の座標(X2,Y2,Z2)及び第3検査点SP3の座標(X3,Y3,Z3)の座標情報が得られる。算出部59は、各検査点SPnの座標情報に基づいて、検査領域SZの平面の近似式を算出する。具体的には、例えば、駆動制御部55は、第1検査点SP1から第n検査点SPnまでの座標(X1,Y1,Z1)、(X2,Y2,Z2)、・・・、(Xne,Yne,Zne)を近似する平面の近似式を算出する。近似式は、Z=aX+bY+cによって表される。a、b及びcは、定数である。算出部59は、例えば、最小二乗法により、近似式を算出する。本実施形態において、検査点SPnの個数neは3個なので、近似平面は、第1検査点SP1の座標(X1,Y1,Z1)、第2検査点SP2の座標(X2,Y2,Z2)及び第3検査点SP3の座標(X3,Y3,Z3)を通る平面である。検査点SPnの個数neが3個である場合、算出部59は、連立方程式を解くことによって、近似式を算出してもよい。記憶部56は、算出部59で算出された近似式を記憶する。 By measuring the Z coordinate Zn of each inspection point SPn by the above-mentioned first method or second method, the coordinate information of the coordinates (Xn, Yn, Zn) of each inspection point SPn can be obtained. In the present embodiment, the coordinates (X1, Y1, Z1) of the first inspection point SP1, the coordinates (X2, Y2, Z2) of the second inspection point SP2, and the coordinates (X3, Y3, Z3) of the third inspection point SP3. The coordinate information of is obtained. The calculator 59 calculates an approximate expression of the plane of the inspection area SZ based on the coordinate information of each inspection point SPn. Specifically, for example, the drive control unit 55 causes the coordinates (X1, Y1, Z1), (X2, Y2, Z2),..., (Xne, from the first inspection point SP1 to the nth inspection point SPn). An approximate expression of a plane that approximates Yne, Zne) is calculated. The approximate expression is represented by Z=aX+bY+c. a, b and c are constants. The calculation unit 59 calculates the approximate expression by, for example, the method of least squares. In the present embodiment, since the number ne of inspection points SPn is 3, the approximate plane is the coordinates (X1, Y1, Z1) of the first inspection point SP1, the coordinates (X2, Y2, Z2) of the second inspection point SP2, and It is a plane passing through the coordinates (X3, Y3, Z3) of the third inspection point SP3. When the number ne of inspection points SPn is 3, the calculation unit 59 may calculate the approximate expression by solving the simultaneous equations. The storage unit 56 stores the approximate expression calculated by the calculation unit 59.

以上説明したように、本実施形態のマニピュレーションシステム100は、容器38と、試料ステージ30と、採取用ピペット10と、駆動制御部55と、算出部59と、記憶部56と、を備える。容器38は、細胞ce(微小対象物)が収容される。試料ステージ30は、容器38が載置される。採取用ピペット10は、細胞ceを採取する。駆動制御部55は、試料ステージ30及び採取用ピペット10を制御する。算出部59は、容器38の底面38bにおいて測定された複数の検査点SPnを近似する平面の近似式を算出する。記憶部56は、近似式を記憶する。 As described above, the manipulation system 100 of this embodiment includes the container 38, the sample stage 30, the sampling pipette 10, the drive control unit 55, the calculation unit 59, and the storage unit 56. The container 38 stores cells ce (microscopic objects). A container 38 is placed on the sample stage 30. The collection pipette 10 collects the cells ce. The drive control unit 55 controls the sample stage 30 and the sampling pipette 10. The calculator 59 calculates a plane approximation formula that approximates the plurality of inspection points SPn measured on the bottom surface 38b of the container 38. The storage unit 56 stores the approximate expression.

これによれば、近似された仮想平面は、実際の容器38の底面38bから平均化されるので、実際の底面38bとの間の誤差が小さくなる。このため、細胞ceを採取する際に、容器38の底面38bに存在する細胞ceの高さに位置合わせできるよう、採取用ピペット10の先端の位置を好適に制御できる。したがって、容器38内の細胞ceを安定的に自動採取することができる。また、底面の平面度が精密な高価な容器を使用する必要がないので、追加の研削仕上げ工程及び特注品の使用によるコストの発生を抑制することができる。 According to this, since the approximated virtual plane is averaged from the bottom surface 38b of the actual container 38, the error between the virtual surface and the actual bottom surface 38b becomes small. Therefore, when collecting the cells ce, the position of the tip of the collecting pipette 10 can be suitably controlled so that the cells can be aligned with the height of the cells ce existing on the bottom surface 38b of the container 38. Therefore, the cells ce in the container 38 can be stably and automatically collected. Further, since it is not necessary to use an expensive container having a precise flatness of the bottom surface, it is possible to suppress the cost generation due to the additional grinding finishing process and the use of a custom-made product.

細胞ceを採取する際は、まず、コントローラ50が、細胞ceのX座標Xce及びY座標Yceを検出する。算出部59は、記憶部56に記憶された近似式Z=aX+bY+cのXにX座標Xceを代入し、YにY座標Yceを代入することによって、細胞ceのZ座標Zceを算出する。これにより、容器38から細胞ceの採取を行う際の採取用ピペット10の適切な位置を得るためのマニピュレータ20のZ方向の移動距離を得ることができる。 When collecting the cell ce, the controller 50 first detects the X coordinate Xce and the Y coordinate Yce of the cell ce. The calculation unit 59 calculates the Z coordinate Zce of the cell ce by substituting the X coordinate Xce for X of the approximate expression Z=aX+bY+c stored in the storage unit 56 and substituting the Y coordinate Yce for Y. Thereby, the movement distance of the manipulator 20 in the Z direction for obtaining an appropriate position of the collection pipette 10 when collecting the cells ce from the container 38 can be obtained.

次に、マニピュレーションシステム100において、検査点SPnの座標を取得し、検査領域SZの平面の近似式を算出する方法について説明する。マニピュレーションシステム100の動作を開始する前に、操作者は、まず、図1に示す第1顕微鏡41、第2顕微鏡61及び第3撮像装置75の視野内に、採取用ピペット10を配置する。ここで、採取用ピペット10の先端の高さは、少なくとも容器38が設置される高さより上方の位置とする。採取用ピペット10は、図7に示す画面81に表示される。操作者は、画面81を確認しながらジョイスティック57を操作し、採取用ピペット10を予め設定された所定の初期位置の座標(X0,Y0,Z0)へ移動させる。操作者は、次に、採取される細胞ceが入れられた容器38を試料ステージ30に設置する。操作者は、次に、容器38のウェル38aが、第1顕微鏡41、第2顕微鏡61及び第3撮像装置75の視野と重なるように試料ステージ30を移動させる。操作者は、次に、駆動装置414を駆動させることによって第1顕微鏡41の対物レンズ412を移動させて、第1顕微鏡41の焦点をウェル38aの底面38bに存在する細胞ceに合わせる。操作者は、駆動装置613を駆動させることによって第2顕微鏡61の対物レンズ612を移動させて、第2顕微鏡61の焦点を細胞ceに合わせる。 Next, a method of acquiring the coordinates of the inspection point SPn and calculating the approximate expression of the plane of the inspection area SZ in the manipulation system 100 will be described. Before starting the operation of the manipulation system 100, the operator first arranges the sampling pipette 10 in the visual fields of the first microscope 41, the second microscope 61, and the third imaging device 75 shown in FIG. Here, the height of the tip of the sampling pipette 10 is at least higher than the height at which the container 38 is installed. The sampling pipette 10 is displayed on the screen 81 shown in FIG. 7. The operator operates the joystick 57 while checking the screen 81, and moves the sampling pipette 10 to the coordinates (X0, Y0, Z0) of the predetermined initial position set in advance. Next, the operator installs the container 38 containing the cells ce to be collected on the sample stage 30. Next, the operator moves the sample stage 30 so that the well 38a of the container 38 overlaps the visual fields of the first microscope 41, the second microscope 61, and the third imaging device 75. The operator then drives the driving device 414 to move the objective lens 412 of the first microscope 41 to focus the first microscope 41 on the cells ce existing on the bottom surface 38b of the well 38a. The operator moves the objective lens 612 of the second microscope 61 by driving the driving device 613 to focus the second microscope 61 on the cell ce.

図14は、実施形態の動作の一例を示すフローチャート図である。マニピュレーションシステム100は、検査領域SZを決定する複数の検査点SPnに対し、1つの検査点SPnごとに操作を行い、複数の検査点SPnについてZ座標Znを取得する操作を繰り返し実行する。検査点SPnの個数neは、本実施形態において、3個である。コントローラ50は、複数の検査点SPnに対する操作を自動で実行する。マニピュレーションシステム100による自動操作は、例えば、入力部58の開始ボタンを押すことでスタートする。 FIG. 14 is a flowchart showing an example of the operation of the embodiment. The manipulation system 100 performs an operation on each of the inspection points SPn that determine the inspection area SZ, for each inspection point SPn, and repeatedly performs the operation of acquiring the Z coordinate Zn for each of the inspection points SPn. The number ne of inspection points SPn is three in the present embodiment. The controller 50 automatically executes the operation on the plurality of inspection points SPn. The automatic operation by the manipulation system 100 is started by pressing the start button of the input unit 58, for example.

まず、ステップST10において、操作者は、マニピュレーションシステム100が複数回の検査操作を実行した後、操作を終了する回数である操作終了回数neを、図3に示す入力部58を介してコントローラ50の記憶部56に設定する。開始ボタンが押された後に、コントローラ50は、操作終了回数neを入力するよう操作者に促す通知を表示部80に表示させてもよい。1つの検査点SPnごとに操作を行うので、操作終了回数neは、操作を行う検査点SPnの個数neである。すなわち、本実施形態において、操作終了回数neは、3である。記憶部56に操作終了回数neが記憶されると、ステップST12において、コントローラ50は、実行した操作回数のカウンタ値である操作実行回数nをn=0として記憶部56に記憶させる。 First, in step ST10, the operator sets the operation end count ne, which is the number of times the operation is ended, after the manipulation system 100 has performed a plurality of inspection operations, to the controller 50 via the input unit 58 shown in FIG. It is set in the storage unit 56. After the start button is pressed, the controller 50 may cause the display unit 80 to display a notification prompting the operator to input the operation end count ne. Since the operation is performed for each one inspection point SPn, the operation end count ne is the number ne of the inspection points SPn to be operated. That is, in the present embodiment, the operation end count ne is 3. When the operation end count ne is stored in the storage unit 56, in step ST12, the controller 50 stores the operation execution count n, which is a counter value of the executed operation count, in the storage unit 56 as n=0.

次に、ステップST14において、操作者は、各検査点SPnのXY座標(Xn,Yn)を、入力部58を介してコントローラ50の記憶部56の座標記憶部56cに設定する。ステップST12が実行された後に、コントローラ50は、各検査点SPnのXY座標(X1,Y1)、(X2,Y2)、・・・、(Xne,Yne)を入力するよう操作者に促す通知を表示部80に表示させてもよい。本実施形態において、操作者は、第1検査点SP1のX座標X1及びY座標Y1と、第2検査点SP2のX座標X2及びY座標Y2と、第3検査点SP3のX座標X3及びY座標Y3と、を設定する。座標記憶部56cに第1検査点SP1の座標(X1,Y1)、第2検査点SP2の座標(X2,Y2)及び第3検査点SP3の座標(X3,Y3)が記憶されると、ステップST16において、コントローラ50は、操作実行回数nのカウンタ値を1つ増やして、n=n+1として、記憶部56に記憶させる。 Next, in step ST14, the operator sets the XY coordinates (Xn, Yn) of each inspection point SPn in the coordinate storage unit 56c of the storage unit 56 of the controller 50 via the input unit 58. After step ST12 is executed, the controller 50 sends a notification prompting the operator to input the XY coordinates (X1, Y1), (X2, Y2),..., (Xne, Yne) of each inspection point SPn. It may be displayed on the display unit 80. In the present embodiment, the operator operates the X coordinate X1 and the Y coordinate Y1 of the first inspection point SP1, the X coordinate X2 and the Y coordinate Y2 of the second inspection point SP2, and the X coordinates X3 and Y of the third inspection point SP3. The coordinate Y3 is set. When the coordinates (X1, Y1) of the first inspection point SP1, the coordinates (X2, Y2) of the second inspection point SP2, and the coordinates (X3, Y3) of the third inspection point SP3 are stored in the coordinate storage unit 56c, step In ST16, the controller 50 increments the counter value of the operation execution count n by 1, and stores it in the storage unit 56 as n=n+1.

次に、ステップST18において、駆動制御部55は、マニピュレータ20を駆動して、XY平面において、採取用ピペット10を第n検査点SPnへ移動させる。すなわち、駆動制御部55は、採取用ピペット10を第n検査点SPnの直上の座標(Xn,Yn,Z0)へ移動させる。 Next, in step ST18, the drive control unit 55 drives the manipulator 20 to move the sampling pipette 10 to the nth inspection point SPn on the XY plane. That is, the drive control unit 55 moves the sampling pipette 10 to the coordinates (Xn, Yn, Z0) immediately above the nth inspection point SPn.

次に、ステップST20において、駆動制御部55は、マニピュレータ20を駆動して、採取用ピペット10を試料ステージ30の載置面30aに平行な一方向に所定の範囲で往復移動開始させる。一方向は、本実施形態において、Y軸方向に平行な方向である。所定の範囲は、例えば、500μmである。採取用ピペット10は、第1顕微鏡41の視野内において、上下方向に繰り返し動作する。採取用ピペット10の先端部103は、平面視において長手方向がX軸方向に平行なので、図12に示すように、平面視において長手方向と交差する方向に往復移動する。 Next, in step ST20, the drive controller 55 drives the manipulator 20 to start the reciprocating movement of the sampling pipette 10 in one direction parallel to the mounting surface 30a of the sample stage 30 within a predetermined range. The one direction is a direction parallel to the Y-axis direction in the present embodiment. The predetermined range is, for example, 500 μm. The sampling pipette 10 repeatedly operates in the vertical direction within the field of view of the first microscope 41. The distal end portion 103 of the sampling pipette 10 has a longitudinal direction parallel to the X-axis direction in a plan view, and thus reciprocates in a direction intersecting the longitudinal direction in a plan view, as shown in FIG.

次に、ステップST22において、駆動制御部55は、マニピュレータ20を駆動して、採取用ピペット10をZ軸方向かつ下方に移動させる。すなわち、駆動制御部55は、採取用ピペット10をY軸方向に往復移動させている状態で、Z軸方向に平行かつ下方に移動させる。採取用ピペット10が下方に移動開始すると、ステップST24において、コントローラ50は、所定操作が実行されるのを待機する。コントローラ50は、待機状態を示す通知を表示部80に表示させてもよい。所定操作は、例えば、入力部58の所定のボタンの操作等である。 Next, in step ST22, the drive controller 55 drives the manipulator 20 to move the sampling pipette 10 downward in the Z-axis direction. That is, the drive control unit 55 moves the sampling pipette 10 in parallel with the Z-axis direction and downward while reciprocating in the Y-axis direction. When the sampling pipette 10 starts moving downward, in step ST24, the controller 50 waits for a predetermined operation to be executed. The controller 50 may display a notification indicating the standby state on the display unit 80. The predetermined operation is, for example, operation of a predetermined button of the input unit 58.

採取用ピペット10は、先端が容器38の底面38bに接触すると、図13に示すように、先端部103が底面38bに引き摺られるような挙動を示す。操作者は、先端部103が底面38bに引き摺られるような挙動を示した場合、採取用ピペット10の先端が容器38の底面38bに接触したと判断し、所定操作を行うものとする。第1撮像装置45、第2撮像装置65及び第3撮像装置75が撮像した画像データに基づいて、先端部103が底面38bに引き摺られるような挙動を検出し、人工知能が判断してもよい。 When the tip of the sampling pipette 10 comes into contact with the bottom surface 38b of the container 38, the tip portion 103 behaves as if it were dragged onto the bottom surface 38b, as shown in FIG. When the tip portion 103 behaves like being dragged by the bottom surface 38b, the operator determines that the tip of the sampling pipette 10 has come into contact with the bottom surface 38b of the container 38 and performs a predetermined operation. Based on the image data captured by the first image capturing device 45, the second image capturing device 65, and the third image capturing device 75, the behavior in which the tip portion 103 is dragged by the bottom surface 38b may be detected to determine the artificial intelligence. ..

ステップST26において、コントローラ50は、所定操作が実行されたか否かを判断する。ステップST26において、所定操作が実行されていないと判断された場合(ステップST26;No)、ステップST22に移行する。ステップST26において、所定操作が実行されたと判断された場合(ステップST26;Yes)、ステップST28に移行する。 In step ST26, the controller 50 determines whether or not a predetermined operation has been executed. When it is determined in step ST26 that the predetermined operation is not performed (step ST26; No), the process proceeds to step ST22. When it is determined in step ST26 that the predetermined operation has been performed (step ST26; Yes), the process proceeds to step ST28.

ステップST28において、コントローラ50は、採取用ピペット10の先端のZ座標を第n検査点SPnのZ座標Znとして座標記憶部56cに記憶させる。算出部59は、例えば、採取用ピペット10の初期位置の座標と試料ステージ30及びマニピュレータ20のZ軸の移動距離とに基づいて、採取用ピペット10の先端のZ座標を算出してもよい。ステップST30において、駆動制御部55は、マニピュレータ20を駆動して、採取用ピペット10の往復移動を停止させる。ステップST30は、ステップST28の前に実行されてもよい。 In step ST28, the controller 50 stores the Z coordinate of the tip of the sampling pipette 10 in the coordinate storage unit 56c as the Z coordinate Zn of the nth inspection point SPn. The calculator 59 may calculate the Z coordinate of the tip of the sampling pipette 10 based on, for example, the coordinates of the initial position of the sampling pipette 10 and the Z-axis movement distance of the sample stage 30 and the manipulator 20. In step ST30, the drive controller 55 drives the manipulator 20 to stop the reciprocating movement of the sampling pipette 10. Step ST30 may be executed before step ST28.

次に、ステップST32において、コントローラ50は、操作実行回数nが操作終了回数neに達したか否かを判断する。ステップST32において、操作実行回数nが操作終了回数neよりも小さいと判断された場合(ステップST32;No)、ステップST16に戻って別の検査点SPnに対する操作を繰り返し実行する。ステップST32において、操作実行回数nが操作終了回数ne以上と判断された場合(ステップST32;Yes)、予め設定された個数neの検査点SPnに対するZ座標Znの取得操作を終了し、ステップST34に移行する。 Next, in step ST32, the controller 50 determines whether the operation execution count n has reached the operation end count ne. When it is determined in step ST32 that the operation execution count n is smaller than the operation end count ne (step ST32; No), the process returns to step ST16 and the operation for another inspection point SPn is repeatedly executed. When it is determined in step ST32 that the operation execution count n is equal to or greater than the operation end count ne (step ST32; Yes), the operation of acquiring the Z coordinate Zn for the preset number ne of inspection points SPn is completed, and the process proceeds to step ST34. Transition.

ステップST34において、算出部59は、座標記憶部56cに記憶された複数の検査点SPnの座標(Xn,Yn,Zn)に基づいて、検査領域SZ内の複数の検査点SPnを近似する平面の近似式を算出する。本実施形態において、算出部59は、第1検査点SP1の座標(X1,Y1,Z1)、第2検査点SP2の座標(X2,Y2,Z2)及び第3検査点SP3の座標(X3,Y3,Z3)を通る平面の近似式を算出する。コントローラ50は、算出した近似式を記憶部56に記憶させる。記憶部56が近似式を記憶すると、マニピュレーションシステム100は、一連の動作を終了する。 In step ST34, the calculation unit 59 calculates a plane that approximates the inspection points SPn in the inspection area SZ based on the coordinates (Xn, Yn, Zn) of the inspection points SPn stored in the coordinate storage unit 56c. Calculate an approximate expression. In the present embodiment, the calculation unit 59 causes the coordinates (X1, Y1, Z1) of the first inspection point SP1, the coordinates (X2, Y2, Z2) of the second inspection point SP2, and the coordinates (X3, X3 of the third inspection point SP3. An approximate expression of a plane passing through Y3, Z3) is calculated. The controller 50 stores the calculated approximate expression in the storage unit 56. When the storage unit 56 stores the approximate expression, the manipulation system 100 ends the series of operations.

実施形態において、採取用ピペット10の初期位置への移動は、マニピュレーションシステム100による自動操作を開始する前に、操作者がジョイスティック57の操作によって行うが、マニピュレーションシステム100が行ってもよい。例えば、ステップST10が実行される前に、コントローラ50の画像処理部52は、第1撮像装置45、第2撮像装置65及び第3撮像装置75が撮像した画像データの画像処理を行う。コントローラ50の検出部53は、画像処理によって、採取用ピペット10の先端中央の位置座標を検出する。座標記憶部56cは、採取用ピペット10の先端中央の位置座標を記憶する。次に、駆動制御部55は、マニピュレータ20を駆動して、検出結果に基づいて、採取用ピペット10を予め設定された所定の初期位置の座標(X0,Y0,Z0)へ移動させる。また、ステップST30の後に、駆動制御部55は、マニピュレータ20を駆動して、採取用ピペット10を初期位置へ移動させてもよい。 In the embodiment, the movement of the sampling pipette 10 to the initial position is performed by the operation of the joystick 57 by the operator before starting the automatic operation by the manipulation system 100, but the manipulation system 100 may be performed. For example, before step ST10 is executed, the image processing unit 52 of the controller 50 performs image processing of image data captured by the first imaging device 45, the second imaging device 65, and the third imaging device 75. The detection unit 53 of the controller 50 detects the position coordinates of the center of the tip of the sampling pipette 10 by image processing. The coordinate storage unit 56c stores the position coordinates of the center of the tip of the sampling pipette 10. Next, the drive control unit 55 drives the manipulator 20 to move the sampling pipette 10 to the coordinates (X0, Y0, Z0) of the preset predetermined initial position based on the detection result. Further, after step ST30, the drive control unit 55 may drive the manipulator 20 to move the sampling pipette 10 to the initial position.

次に、マニピュレーションシステム100において、容器38内の細胞ceを採取する方法について説明する。採取された細胞ceが入れられた容器38は、上述したステップST10からステップST34において、試料ステージ30に設置され、底面38bを近似する平面の近似式が算出されたものとする。図15は、実施形態の動作の一例を示すフローチャート図である。マニピュレーションシステム100は、複数の細胞ceに対し、1つの細胞ceごとに操作を行い、複数の細胞ceについて操作を繰り返し実行することが可能だが、ここでは1つの細胞ceに対する操作について説明する。コントローラ50は、細胞ceに対する操作を自動で実行する。マニピュレーションシステム100による自動操作は、例えば、入力部58の開始ボタンを押すことでスタートする。 Next, a method of collecting the cells ce in the container 38 in the manipulation system 100 will be described. It is assumed that the container 38 containing the collected cells ce is installed on the sample stage 30 in the above-described steps ST10 to ST34, and a plane approximation formula approximating the bottom surface 38b is calculated. FIG. 15 is a flowchart showing an example of the operation of the embodiment. The manipulation system 100 can perform an operation on a plurality of cells ce for each cell ce, and can repeatedly perform the operation on a plurality of cells ce. Here, the operation on one cell ce will be described. The controller 50 automatically executes the operation on the cell ce. The automatic operation by the manipulation system 100 is started by pressing the start button of the input unit 58, for example.

まず、ステップST50において、コントローラ50の画像処理部52は、第1撮像装置45、第2撮像装置65及び第3撮像装置75が撮像した画像データの画像処理を行う。コントローラ50の検出部53は、画像処理によって、細胞ceのXY座標(Xce,Yce)を検出する。座標記憶部56cは、細胞ceのXY座標(Xce,Yce)を記憶する。 First, in step ST50, the image processing unit 52 of the controller 50 performs image processing of image data captured by the first imaging device 45, the second imaging device 65, and the third imaging device 75. The detection unit 53 of the controller 50 detects the XY coordinates (Xce, Yce) of the cell ce by image processing. The coordinate storage unit 56c stores the XY coordinates (Xce, Yce) of the cell ce.

ステップST52において、算出部59は、記憶部56に記憶された近似式Z=aX+bY+cのXに、X座標Xceを代入し、近似式のYにY座標Yceを代入して、細胞ceのZ座標Zceを算出する。座標記憶部56cは、細胞ceのZ座標Zceを記憶する。 In step ST52, the calculation unit 59 substitutes the X coordinate Xce into X of the approximate expression Z=aX+bY+c stored in the storage unit 56, substitutes the Y coordinate Yce into Y of the approximate expression, and calculates the Z coordinate of the cell ce. Calculate Zce. The coordinate storage unit 56c stores the Z coordinate Zce of the cell ce.

ステップST54において、駆動制御部55は、マニピュレータ20を駆動して、座標記憶部56cに記憶された細胞ceの座標(Xce,Yce,Zce)に基づいて、採取用ピペット10の先端を、細胞ceを採取する採取位置へ移動させる。採取位置は、採取用ピペット10の開口部103a(図9参照)が細胞ceに対向する位置である。ステップST52によって、細胞ceのZ座標Zceが算出されているので、採取用ピペット10を適切な位置へ移動させることができる。 In step ST54, the drive control unit 55 drives the manipulator 20 to move the tip of the sampling pipette 10 to the cell ce based on the coordinates (Xce, Yce, Zce) of the cell ce stored in the coordinate storage unit 56c. Move to the sampling position for collecting. The sampling position is a position where the opening 103a (see FIG. 9) of the sampling pipette 10 faces the cell ce. Since the Z coordinate Zce of the cell ce has been calculated in step ST52, the sampling pipette 10 can be moved to an appropriate position.

ステップST56において、駆動制御部55は、電動マイクロポンプ29(図3参照)を駆動させ、採取用ピペット10の内部圧力を常圧より低くする。これにより、採取用ピペット10は、先端の開口部103aから細胞ceを吸引して採取する。 In step ST56, the drive control unit 55 drives the electric micropump 29 (see FIG. 3) to make the internal pressure of the sampling pipette 10 lower than normal pressure. As a result, the collection pipette 10 sucks and collects the cells ce from the opening 103a at the tip.

図16は、実施形態のウェル底面の形状の一部を拡大して示す模式図である。図16に示すように、実際のウェル38aの底面38bは、水平面に対して、凹凸及び傾斜を含む形状である。すなわち、図14に示すステップST34において算出された近似式によって表される仮想平面は、実際の底面38bに対して誤差を含む。図8に示すように、採取用ピペット10の先端部103は、長手方向が水平面に対して傾斜角度θ3傾いている。これにより、採取用ピペット10は、開口部103a側の先端が容器38のウェル38aの底面38bに接触した際に、先端部103がたわみ、近似式によって表される平面と実際の底面38bとの間の誤差を許容することができる。採取用ピペット10は、近似式によって表される平面と実際の底面38bとの間におけるZ軸方向の距離H2以下の誤差を許容する。容器38の底面38bと第2屈曲部105とのZ軸方向の距離H1が30μmである場合、距離H2は、例えば、15μmである。 FIG. 16 is a schematic view showing an enlarged part of the shape of the bottom surface of the well of the embodiment. As shown in FIG. 16, the bottom surface 38b of the actual well 38a has a shape including unevenness and inclination with respect to the horizontal plane. That is, the virtual plane represented by the approximate expression calculated in step ST34 shown in FIG. 14 includes an error with respect to the actual bottom surface 38b. As shown in FIG. 8, the longitudinal direction of the tip portion 103 of the sampling pipette 10 is inclined at an inclination angle θ3 with respect to the horizontal plane. As a result, in the sampling pipette 10, when the tip on the side of the opening 103a comes into contact with the bottom surface 38b of the well 38a of the container 38, the tip portion 103 bends, and the flat surface represented by the approximate expression and the actual bottom surface 38b. An error between can be tolerated. The sampling pipette 10 allows an error of not more than the distance H2 in the Z-axis direction between the plane represented by the approximate expression and the actual bottom surface 38b. When the distance H1 in the Z-axis direction between the bottom surface 38b of the container 38 and the second bent portion 105 is 30 μm, the distance H2 is, for example, 15 μm.

本実施形態のマニピュレーションシステム100において、算出部59は、記憶部56に記憶された近似式に基づいて、細胞ce(微小対象物)の位置座標(Xce,Yce,Zce)を算出する。これによれば、容器38の底面38bに存在する細胞ceの高さに採取用ピペット10の先端を好適に位置合わせできるので、容器38内の細胞ceを安定的に自動採取することができる。 In the manipulation system 100 of the present embodiment, the calculation unit 59 calculates the position coordinates (Xce, Yce, Zce) of the cell ce (microscopic object) based on the approximate expression stored in the storage unit 56. According to this, the tip of the collection pipette 10 can be appropriately aligned with the height of the cell ce existing on the bottom surface 38b of the container 38, and thus the cell ce in the container 38 can be stably and automatically collected.

本実施形態のマニピュレーションシステム100において、近似式は、採取用ピペット10の先端を接触させることによって測定された複数の検査点SPnの座標情報に基づいて算出される。これによれば、実際に細胞ceを採取する採取用ピペット10が容器38の底面38bに接触した位置に基づいて近似式を算出するので、細胞ceを採取する際に、より好適に採取用ピペット10の先端を細胞ceに位置合わせすることができる。 In the manipulation system 100 of the present embodiment, the approximate expression is calculated based on the coordinate information of the plurality of inspection points SPn measured by bringing the tip of the sampling pipette 10 into contact. According to this, since the approximate expression is calculated based on the position at which the collecting pipette 10 that actually collects the cells ce contacts the bottom surface 38b of the container 38, when collecting the cells ce, the collecting pipette is more suitable. The tip of 10 can be aligned with the cell ce.

本実施形態のマニピュレーションシステム100において、駆動制御部55は、採取用ピペット10をZ軸方向(試料ステージ30の載置面30aの法線方向)に移動させる。記憶部56(座標記憶部56c)は、採取用ピペット10の先端が容器38の底面38bに接触した位置の座標情報に基づいて、検査点SPnのZ座標Zn(法線方向の座標)を記憶する。これによれば、実際に細胞ceを採取する採取用ピペット10が容器38の底面38bに接触した位置に基づいて近似式を算出するので、細胞ceを採取する際に、より好適に採取用ピペット10の先端を細胞ceに位置合わせすることができる。 In the manipulation system 100 of the present embodiment, the drive control unit 55 moves the sampling pipette 10 in the Z-axis direction (the normal direction of the mounting surface 30a of the sample stage 30). The storage unit 56 (coordinate storage unit 56c) stores the Z coordinate Zn (coordinates in the normal direction) of the inspection point SPn based on the coordinate information of the position where the tip of the sampling pipette 10 contacts the bottom surface 38b of the container 38. To do. According to this, since the approximate expression is calculated based on the position at which the collecting pipette 10 that actually collects the cells ce contacts the bottom surface 38b of the container 38, when collecting the cells ce, the collecting pipette is more suitable. The tip of 10 can be aligned with the cell ce.

本実施形態のマニピュレーションシステム100において、駆動制御部55は、採取用ピペット10をY軸方向(載置面30aに平行な一方向)に所定の範囲で往復移動させている状態で、採取用ピペット10をZ軸方向(載置面30aの法線方向)に移動させる。これによれば、採取用ピペット10が容器38の底面38bに接触した際に、採取用ピペット10の先端の挙動が変化する。このため、オペレータは、採取用ピペット10の先端が容器38の底面38bに接触したことを確認することができる。 In the manipulation system 100 according to the present embodiment, the drive control unit 55 causes the sampling pipette 10 to reciprocate in a predetermined range in the Y-axis direction (one direction parallel to the mounting surface 30a) while the sampling pipette 10 is reciprocating. 10 is moved in the Z-axis direction (direction normal to the mounting surface 30a). According to this, the behavior of the tip of the sampling pipette 10 changes when the sampling pipette 10 contacts the bottom surface 38b of the container 38. Therefore, the operator can confirm that the tip of the sampling pipette 10 has come into contact with the bottom surface 38b of the container 38.

本実施形態のマニピュレーションシステム100において、記憶部56(座標記憶部56c)は、駆動制御部55が採取用ピペット10を移動させている間に、採取用ピペット10の先端の座標を入力する所定操作が実行された時点の採取用ピペット10の先端の座標を検査点SPnのZ座標Znとして記憶する。これによれば、実際に細胞ceを採取する採取用ピペット10が容器38の底面38bに接触した位置に基づいて近似式を算出するので、細胞ceを採取する際に、より好適に採取用ピペット10の先端を細胞ceに位置合わせすることができる。 In the manipulation system 100 of the present embodiment, the storage unit 56 (coordinate storage unit 56c) performs a predetermined operation of inputting the coordinates of the tip of the sampling pipette 10 while the drive control unit 55 moves the sampling pipette 10. The coordinates of the tip of the sampling pipette 10 at the time when is executed are stored as the Z coordinate Zn of the inspection point SPn. According to this, since the approximate expression is calculated based on the position at which the collecting pipette 10 that actually collects the cells ce contacts the bottom surface 38b of the container 38, when collecting the cells ce, the collecting pipette is more suitable. The tip of 10 can be aligned with the cell ce.

本実施形態のマニピュレーションシステム100において、採取用ピペット10は、長手方向が試料ステージ30の載置面30aに対して所定の傾斜角度θ3傾いている先端部103を含む。これによれば、採取用ピペット10が容器38の底面38bに接触した際に、採取用ピペット10の先端がたわみ、近似された仮想平面と実際の底面38bとの間の誤差を許容することができる。 In the manipulation system 100 of the present embodiment, the sampling pipette 10 includes a tip portion 103 whose longitudinal direction is inclined with respect to the mounting surface 30a of the sample stage 30 by a predetermined inclination angle θ3. According to this, when the collection pipette 10 comes into contact with the bottom surface 38b of the container 38, the tip of the collection pipette 10 is bent, and an error between the approximated virtual plane and the actual bottom surface 38b can be allowed. it can.

本実施形態のマニピュレーションシステム100の駆動方法は、細胞ce(微小対象物)が収容される容器38と、容器38が載置される試料ステージ30と、細胞ceを採取する採取用ピペット10と、を備えるマニピュレーションシステム100の駆動方法である。マニピュレーションシステム100の駆動方法は、容器38の底面38bに予め設定された複数の検査点SPnにそれぞれ採取用ピペット10の先端を接触させるステップST20と、複数の検査点SPnにそれぞれ接触した際の採取用ピペット10の先端の座標を検査点SPnの座標として記憶するステップST28と、複数の検査点SPnの座標に基づいて、複数の検査点SPnを近似する平面の近似式を算出するステップST34と、近似式に基づいて細胞ceの位置座標を算出するステップST54と、を含む。 The driving method of the manipulation system 100 according to the present embodiment includes a container 38 in which cells ce (microscopic objects) are housed, a sample stage 30 on which the containers 38 are mounted, a sampling pipette 10 for collecting cells ce, This is a driving method of the manipulation system 100 including. The manipulation method of the manipulation system 100 is step ST20 in which the tip of the sampling pipette 10 is brought into contact with a plurality of preset inspection points SPn on the bottom surface 38b of the container 38, and sampling when the plurality of inspection points SPn are brought into contact with each other. Step ST28 of storing the coordinates of the tip of the pipette 10 as coordinates of the inspection point SPn, and step ST34 of calculating an approximate expression of a plane that approximates the inspection points SPn based on the coordinates of the inspection points SPn, Step ST54 of calculating the position coordinates of the cell ce based on the approximate expression.

これによれば、近似された仮想平面は、実際の容器38の底面38bから平均化されるので、実際の底面38bとの間の誤差が小さくなる。このため、細胞ceを採取する際に、容器38の底面38bに存在する細胞ceの高さに位置合わせできるよう、採取用ピペット10の先端の位置を好適に制御できる。したがって、容器38内の細胞ceを安定的に自動採取することができる。また、底面の平面度が精密な高価な容器を使用する必要がないので、追加の研削仕上げ工程及び特注品の使用によるコストの発生を抑制することができる。 According to this, since the approximated virtual plane is averaged from the bottom surface 38b of the actual container 38, the error between the virtual surface and the actual bottom surface 38b becomes small. Therefore, when collecting the cells ce, the position of the tip of the collecting pipette 10 can be suitably controlled so that the cells can be aligned with the height of the cells ce existing on the bottom surface 38b of the container 38. Therefore, the cells ce in the container 38 can be stably and automatically collected. Further, since it is not necessary to use an expensive container having a precise flatness of the bottom surface, it is possible to suppress the cost generation due to the additional grinding finishing process and the use of a custom-made product.

本実施形態のマニピュレーションシステム100及びマニピュレーションシステム100の駆動方法は適宜変更してもよい。例えば、採取用ピペット10等の形状等は、微小対象物の種類や、微小対象物に対する操作に応じて適宜変更することが好ましい。検査領域SZにおける容器38の底面38bの平面を近似する近似式を算出する操作は、本発明の趣旨を逸脱しない範囲で適宜手順の一部を省略してもよく、また、手順を置換して実行してもよい。 The manipulation system 100 of the present embodiment and the driving method of the manipulation system 100 may be appropriately changed. For example, it is preferable to appropriately change the shape of the sampling pipette 10 and the like according to the type of the minute object and the operation on the minute object. The operation of calculating the approximate expression approximating the plane of the bottom surface 38b of the container 38 in the inspection region SZ may be omitted by omitting a part of the procedure as appropriate without departing from the spirit of the invention. You may execute.

1 基台
3、4 固定具
10 採取用ピペット
101 中央部
101a 第1部位
101b 第2部位
102 後方部
103 先端部
103a 開口部
104 第1屈曲部
105 第2屈曲部
106 狭窄部
15 ピペット保持部
20 マニピュレータ
21 X軸テーブル
22 Y軸テーブル
23 Z軸テーブル
26、27 駆動装置
28、71 連結部
29 電動マイクロポンプ
30 試料ステージ
30a 載置面
31 X軸ステージ
32 Y軸ステージ
36 駆動装置
38 容器
38a ウェル
38b 底面
39 液体
40 第1顕微鏡ユニット
41 第1顕微鏡
411 鏡筒
412 対物レンズ
414 駆動装置
45 第1撮像装置
50 コントローラ
51a 画像入力部
51b 画像出力部
52 画像処理部
53 検出部
531 位置検出部
532 距離検出部
533 個数検出部
54 画像編集部
55 駆動制御部
56 記憶部
56a プログラム記憶部
56b 画像記憶部
561 第1画像記憶部
562 第2画像記憶部
563 第3画像記憶部
564 編集画像記憶部
56c 座標記憶部
59 算出部
57 ジョイスティック
58 入力部
60 第2顕微鏡ユニット
61 第2顕微鏡
611 鏡筒
612 対物レンズ
613 駆動装置
65 第2撮像装置
75 第3撮像装置
80 表示部
81 画面
811 第1画像
812 第2画像
813 第3画像
100 マニピュレーションシステム
P 圧力
ce 細胞
L1、L2、L3、L4 長さ
H1、H2 距離
φ11、φ21、φ31 外径
φ32 内径
φce 直径
θ1、θ2 屈曲角度
θ3 傾斜角度
SZ 検査領域
SPn 検査点
SP1 第1検査点
SP2 第2検査点
SP3 第3検査点
DESCRIPTION OF SYMBOLS 1 Base 3 and 4 Fixture 10 Collecting pipette 101 Central part 101a 1st part 101b 2nd part 102 Rear part 103 Tip part 103a Opening part 104 1st bending part 105 2nd bending part 106 Narrow part 15 Pipette holding part 20 Manipulator 21 X-axis table 22 Y-axis table 23 Z-axis table 26, 27 Drive device 28, 71 Connection part 29 Electric micropump 30 Sample stage 30a Mounting surface 31 X-axis stage 32 Y-axis stage 36 Drive device 38 Container 38a Well 38b Bottom surface 39 Liquid 40 First microscope unit 41 First microscope 411 Lens barrel 412 Objective lens 414 Driving device 45 First imaging device 50 Controller 51a Image input unit 51b Image output unit 52 Image processing unit 53 Detection unit 531 Position detection unit 532 Distance detection Part 533 Number detection part 54 Image editing part 55 Drive control part 56 Storage part 56a Program storage part 56b Image storage part 561 First image storage part 562 Second image storage part 563 Third image storage part 564 Edited image storage part 56c Coordinate storage Part 59 Calculation part 57 Joystick 58 Input part 60 Second microscope unit 61 Second microscope 611 Lens barrel 612 Objective lens 613 Driving device 65 Second imaging device 75 Third imaging device 80 Display 81 Screen 811 First image 812 Second image 813 Third image 100 Manipulation system P pressure ce Cell L1, L2, L3, L4 Length H1, H2 Distance φ11, φ21, φ31 Outer diameter φ32 Inner diameter φce Diameter θ1, θ2 Bending angle θ3 Inclination angle SZ Inspection area SPn Inspection point SP1 1st inspection point SP2 2nd inspection point SP3 3rd inspection point

Claims (8)

微小対象物が収容される容器と、
前記容器が載置される試料ステージと、
前記微小対象物を採取する採取用ピペットと、
前記試料ステージ及び前記採取用ピペットを制御する駆動制御部と、
前記容器の底面において測定された複数の検査点を近似する平面の近似式を算出する算出部と、
前記近似式を記憶する記憶部と、
を備えるマニピュレーションシステム。
A container for accommodating a minute object,
A sample stage on which the container is placed,
A pipette for collecting the minute object,
A drive control unit for controlling the sample stage and the sampling pipette,
A calculating unit that calculates an approximate expression of a plane that approximates a plurality of inspection points measured on the bottom surface of the container,
A storage unit that stores the approximate expression,
Manipulation system equipped with.
前記算出部は、前記記憶部に記憶された前記近似式に基づいて、前記微小対象物の位置座標を算出する
請求項1に記載のマニピュレーションシステム。
The manipulation system according to claim 1, wherein the calculation unit calculates the position coordinates of the minute target object based on the approximate expression stored in the storage unit.
前記近似式は、前記採取用ピペットの先端を前記容器の底面に接触させることによって測定された前記複数の検査点の座標情報に基づいて算出される
請求項1又は2に記載のマニピュレーションシステム。
The manipulation system according to claim 1, wherein the approximate expression is calculated based on coordinate information of the plurality of inspection points measured by bringing the tip of the sampling pipette into contact with the bottom surface of the container.
前記駆動制御部は、前記採取用ピペットを前記試料ステージの載置面の法線方向に移動させ、
前記記憶部は、前記採取用ピペットの先端が前記容器の底面に接触した位置の座標情報に基づいて、前記検査点の法線方向の座標を記憶する
請求項1から3のいずれか1項に記載のマニピュレーションシステム。
The drive control unit moves the sampling pipette in a direction normal to a mounting surface of the sample stage,
4. The storage unit stores coordinates of a normal direction of the inspection point based on coordinate information of a position where the tip of the sampling pipette comes into contact with the bottom surface of the container. Manipulation system described.
前記駆動制御部は、前記採取用ピペットを前記載置面に平行な一方向に所定の範囲で往復移動させている状態で、前記採取用ピペットを前記載置面の法線方向に移動させる
請求項4に記載のマニピュレーションシステム。
The drive control unit moves the sampling pipette in the normal direction of the mounting surface in a state where the sampling pipette is reciprocating in a predetermined range in one direction parallel to the mounting surface. Item 4. The manipulation system according to Item 4.
前記記憶部は、前記駆動制御部が前記採取用ピペットを移動させている間に、前記採取用ピペットの先端の座標を入力する所定操作が実行された時点の前記採取用ピペットの先端の座標を前記検査点の座標として記憶する
請求項3から5のいずれか1項に記載のマニピュレーションシステム。
The storage unit stores the coordinates of the tip of the sampling pipette when a predetermined operation of inputting the coordinates of the tip of the sampling pipette is executed while the drive control unit is moving the sampling pipette. The manipulation system according to claim 3, wherein the manipulation system stores the coordinate as the coordinate of the inspection point.
前記採取用ピペットは、長手方向が前記試料ステージの載置面に対して所定の傾斜角度傾いている先端部を含む
請求項1から6のいずれか1項に記載のマニピュレーションシステム。
The manipulation system according to claim 1, wherein the sampling pipette includes a tip portion whose longitudinal direction is inclined at a predetermined inclination angle with respect to a mounting surface of the sample stage.
微小対象物が収容される容器と、
前記容器が載置される試料ステージと、
前記微小対象物を採取する採取用ピペットと、
を備えるマニピュレーションシステムの駆動方法であって、
前記容器の底面に予め設定された複数の検査点にそれぞれ前記採取用ピペットの先端を接触させるステップと、
前記複数の検査点にそれぞれ接触した際の前記採取用ピペットの先端の座標を前記検査点の座標として記憶するステップと、
前記複数の検査点の座標に基づいて、複数の検査点を近似する平面の近似式を算出するステップと、
前記近似式に基づいて前記微小対象物の位置座標を算出するステップと、
を含むマニピュレーションシステムの駆動方法。
A container for accommodating a minute object,
A sample stage on which the container is placed,
A pipette for collecting the minute object,
A method of driving a manipulation system comprising:
Contacting the tip of the sampling pipette with a plurality of inspection points preset on the bottom surface of the container,
Storing the coordinates of the tip of the sampling pipette when each of the plurality of inspection points is contacted as the coordinates of the inspection point,
A step of calculating an approximate expression of a plane that approximates a plurality of inspection points based on the coordinates of the plurality of inspection points;
Calculating the position coordinates of the minute object based on the approximation formula,
Driving method for manipulating system including.
JP2019015016A 2019-01-31 2019-01-31 MANIPULATION SYSTEM AND METHOD FOR DRIVING MANIPULATION SYSTEM Active JP7263800B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019015016A JP7263800B2 (en) 2019-01-31 2019-01-31 MANIPULATION SYSTEM AND METHOD FOR DRIVING MANIPULATION SYSTEM
JP2022200905A JP2023036742A (en) 2019-01-31 2022-12-16 Manipulation system and driving method of manipulation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019015016A JP7263800B2 (en) 2019-01-31 2019-01-31 MANIPULATION SYSTEM AND METHOD FOR DRIVING MANIPULATION SYSTEM

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022200905A Division JP2023036742A (en) 2019-01-31 2022-12-16 Manipulation system and driving method of manipulation system

Publications (2)

Publication Number Publication Date
JP2020120618A true JP2020120618A (en) 2020-08-13
JP7263800B2 JP7263800B2 (en) 2023-04-25

Family

ID=71991478

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019015016A Active JP7263800B2 (en) 2019-01-31 2019-01-31 MANIPULATION SYSTEM AND METHOD FOR DRIVING MANIPULATION SYSTEM
JP2022200905A Pending JP2023036742A (en) 2019-01-31 2022-12-16 Manipulation system and driving method of manipulation system

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022200905A Pending JP2023036742A (en) 2019-01-31 2022-12-16 Manipulation system and driving method of manipulation system

Country Status (1)

Country Link
JP (2) JP7263800B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220178961A1 (en) * 2020-12-07 2022-06-09 Shimadzu Corporation Cell picking device and cell picking method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06109979A (en) * 1992-09-30 1994-04-22 Shimadzu Corp Macromanipulator system
JP2005118905A (en) * 2003-10-14 2005-05-12 Olympus Corp Manipulator device, operation system, image processor, program and device control method
JP2007151489A (en) * 2005-12-07 2007-06-21 Fujitsu Ltd Microinjection apparatus and contact detection method
JP2013524291A (en) * 2010-04-15 2013-06-17 モレキュラー マシーンズ アンド インダストリーズ アクチエンゲゼルシャフト How to position a micro control tool without collision
JP2018068169A (en) * 2016-10-26 2018-05-10 ヨダカ技研株式会社 Cell transport system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06109979A (en) * 1992-09-30 1994-04-22 Shimadzu Corp Macromanipulator system
JP2005118905A (en) * 2003-10-14 2005-05-12 Olympus Corp Manipulator device, operation system, image processor, program and device control method
JP2007151489A (en) * 2005-12-07 2007-06-21 Fujitsu Ltd Microinjection apparatus and contact detection method
JP2013524291A (en) * 2010-04-15 2013-06-17 モレキュラー マシーンズ アンド インダストリーズ アクチエンゲゼルシャフト How to position a micro control tool without collision
JP2018068169A (en) * 2016-10-26 2018-05-10 ヨダカ技研株式会社 Cell transport system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220178961A1 (en) * 2020-12-07 2022-06-09 Shimadzu Corporation Cell picking device and cell picking method

Also Published As

Publication number Publication date
JP2023036742A (en) 2023-03-14
JP7263800B2 (en) 2023-04-25

Similar Documents

Publication Publication Date Title
JP4831972B2 (en) Micro manipulation system
CN107255863B (en) Digital microscope
US6542293B2 (en) Apparatus and method for observing biochemical substance
JP6239232B2 (en) High performance edge focus tool
EP1691230B2 (en) Photo-micrographing device and its control method
JP5145487B2 (en) Observation program and observation apparatus
JP6690245B2 (en) Manipulation system and method of driving the manipulation system
JPWO2012029817A1 (en) Observation device, observation program, and observation system
US9145572B2 (en) Observation system, recording medium, and control method of observation system
CN103760663A (en) Self-adaptive microscope, and use method and self-adaptive focusing method thereof
CN115722286A (en) Object picking device with imaging-based pipette tip positioning
CN107110749A (en) Method and laser microdissection system for laser microprobe dating
JP2023036742A (en) Manipulation system and driving method of manipulation system
JP2005118905A (en) Manipulator device, operation system, image processor, program and device control method
JP2018040569A (en) Picked-up image arrangement determining method, image pick-up method, and image pick-up apparatus
JPH09197287A (en) Motor-driven microscope
US11235317B2 (en) Tubular instrument and manipulation system
JP2017161385A (en) Imaging arrangement determination method in imaging device, and imaging device
JP2001211875A (en) Device for collecting fine bodies and method of collecting the same
JP6859861B2 (en) Manipulation system and how to drive the manipulation system
JP5445499B2 (en) Observation device
JP7183828B2 (en) manipulation system
JP7468211B2 (en) Manipulation system and method for driving the manipulation system
JP7188140B2 (en) manipulation system
JP3630027B2 (en) Fine object capturing apparatus and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211022

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230314

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230327

R150 Certificate of patent or registration of utility model

Ref document number: 7263800

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150