JP6889216B2 - Work system - Google Patents
Work system Download PDFInfo
- Publication number
- JP6889216B2 JP6889216B2 JP2019162934A JP2019162934A JP6889216B2 JP 6889216 B2 JP6889216 B2 JP 6889216B2 JP 2019162934 A JP2019162934 A JP 2019162934A JP 2019162934 A JP2019162934 A JP 2019162934A JP 6889216 B2 JP6889216 B2 JP 6889216B2
- Authority
- JP
- Japan
- Prior art keywords
- article
- robot
- conveyor
- work
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
本発明は、作業システムに関する。 The present invention relates to a working system.
搬送装置上を搬送される物品に対して、各種作業を行うロボットが知られている。このようなロボットとして、例えば、移動可能な移動架台に搭載されて、ロボットアームの先端のハンドに取り付けられたカメラによって物品を認識して、物品に対して作業を行うロボットがある(例えば、特許文献1,2)。 Robots that perform various operations on articles transported on a transport device are known. As such a robot, for example, there is a robot mounted on a movable mobile pedestal, recognizing an article by a camera attached to a hand at the tip of a robot arm, and performing work on the article (for example, a patent). Documents 1 and 2).
搬送装置を用いた生産ラインでは、需要と供給の関係によって、生産ラインで生産される物品の数が時期によって増減することがある。生産される物品が多い時期を考慮して、生産ラインに固定のロボットが配置されてしまうと、生産される物品が少ない時期に、配置されたロボットが過剰設備になってしまうおそれがある。そのため、生産時期に応じて、生産ラインに配置されるロボットの数を増減させることが望ましい。 In a production line using a transport device, the number of goods produced on the production line may increase or decrease depending on the relationship between supply and demand. If fixed robots are placed on the production line in consideration of the time when there are many goods to be produced, there is a risk that the placed robots will be over-equipped when there are few goods to be produced. Therefore, it is desirable to increase or decrease the number of robots arranged on the production line according to the production time.
特許文献1に記載されたロボットを用いた生産ラインにおいて、このロボットが搬送装置上を搬送される物品に対して作業を行うために、搬送装置の搬送速度を計測するためのパルスコーダ等の設備が必要になる。生産ラインでは、パルスコーダ等の設備も、過剰設備になってしまうおそれがある。また、パルスコーダを用いる場合、パルスコーダとロボットを同期させる作業が必要になり、ロボットの設置作業に要する時間が長くなってしまうおそれもある。 In the production line using the robot described in Patent Document 1, in order for the robot to perform work on the articles transported on the transport device, equipment such as a pulse coder for measuring the transport speed of the transport device is provided. You will need it. On the production line, equipment such as pulse coder may become excessive equipment. Further, when a pulse coder is used, it is necessary to synchronize the pulse coder with the robot, which may increase the time required for the robot installation work.
上述した事情に鑑みて、生産時期による生産数の増減に容易に対応することができる作業システムが望まれる。 In view of the above circumstances, a work system that can easily cope with an increase or decrease in the number of production depending on the production time is desired.
本発明の一態様は、物品を搬送する搬送装置と、車輪によって移動可能な移動架台と、該移動架台に固定され、前記搬送装置により搬送される前記物品に対して作業を行う作業部と、その画角に前記作業部の作業範囲が含まれるように前記移動架台に固定された視覚センサであって、前記車輪によって前記移動架台を前記搬送装置の近傍に配置する際に前記移動架台に固定された前記作業部の座標系を設定するために用いられると共に、前記作業部による前記作業時に前記搬送装置により搬送される前記物品の視覚情報を逐次取得する視覚センサと、該視覚センサにより取得される前記視覚情報を処理して前記画角内における前記物品の少なくとも位置を逐次検出する検出部と、該検出部により逐次検出される前記物品の位置を少なくとも用いて前記作業部を駆動させる駆動制御部とを備える作業システムを提供する。 One aspect of the present invention includes a transport device for transporting an article, a mobile pedestal that can be moved by wheels , a working unit that is fixed to the mobile pedestal and performs work on the article that is transported by the transport device. A visual sensor fixed to the moving pedestal so that the angle of view includes the working range of the working unit, and is fixed to the moving pedestal when the moving pedestal is arranged in the vicinity of the transport device by the wheels. together used to set the coordinate system of the working portion acquired, and visual sensor that sequentially acquires visual information of the articles conveyed by the conveying device when the operation by the working unit, by the visual sensor A drive that drives the working unit by using at least a detection unit that sequentially detects at least the position of the article within the angle of view by processing the visual information and at least the position of the article that is sequentially detected by the detection unit. A work system including a control unit is provided.
本態様によれば、カメラ等の視覚センサは、搬送装置によって搬送される物品の視覚情報を逐次取得する。検出部は、視覚センサにより取得される視覚情報を処理して視覚センサの画角内における物品の少なくとも位置を逐次検出する。駆動制御部は、検出部により逐次検出される物品の位置を用いて、物品に対し作業部による作業を行わせる。 According to this aspect, a visual sensor such as a camera sequentially acquires visual information of an article transported by a transport device. The detection unit processes the visual information acquired by the visual sensor to sequentially detect at least the position of the article within the angle of view of the visual sensor. The drive control unit causes the article to perform work by the working unit by using the position of the article sequentially detected by the detection unit.
すなわち、本態様によれば、移動架台を移動させることで、搬送装置を含む生産ラインに、必要な数のロボットが配置される。移動架台に視覚センサおよび作業部が固定され、移動架台を移動しても作業部に対する視覚センサの位置が変わらない。このため、検出部により逐次検出される物品の位置を用いて、搬送装置上を搬送される物品に対して作業部による作業を行うことができる。ここで、前述のように、移動架台を移動しても作業部に対する視覚センサの位置が変わらない。また、移動架台に固定された視覚センサは、車輪によって移動架台を搬送装置の近傍に配置する際に移動架台に固定された作業部の座標系を設定するために用いられる。つまり、視覚センサを使って搬送装置の移動方向に一致しているトラッキング座標系の設定を行うことにより、搬送装置の流れ方向をX軸とするトラッキング座標系が搬送装置上に定義され、複雑な設定作業を要さずに視覚センサおよび作業部を搬送装置での作業用に設置できる。 That is, according to this aspect, by moving the mobile pedestal, a required number of robots are arranged on the production line including the transfer device. The visual sensor and the working part are fixed to the moving pedestal, and the position of the visual sensor with respect to the working part does not change even if the moving pedestal is moved. Therefore, the work unit can perform the work on the article transported on the transport device by using the position of the article sequentially detected by the detection unit. Here, as described above, the position of the visual sensor with respect to the working portion does not change even if the moving platform is moved. Further, the visual sensor fixed to the moving pedestal is used to set the coordinate system of the working portion fixed to the moving pedestal when the moving pedestal is arranged in the vicinity of the transport device by the wheels. That is, by setting a tracking coordinate system that matches the moving direction of the transport device using a visual sensor, a tracking coordinate system with the flow direction of the transport device as the X-axis is defined on the transport device, which is complicated. The visual sensor and the work unit can be installed for work on the transport device without the need for setting work.
本発明の他の態様は、物品を搬送する搬送装置と、移動可能な移動架台と、該移動架台に固定され、前記搬送装置により搬送される前記物品に対して作業を行う作業部と、前記移動架台に固定され、前記搬送装置により搬送される前記物品または前記搬送装置上に形成されたマークの視覚情報を逐次取得する視覚センサと、該視覚センサにより取得される前記視覚情報を処理して前記物品又は前記マークの少なくとも位置を逐次検出する検出部と、該検出部により逐次検出される前記物品又は前記マークの位置に基づき前記搬送装置の搬送速度を算出する算出部と、前記搬送速度を用いて前記作業部を駆動させる駆動制御部とを備える作業システムを提供する。 Another aspect of the present invention includes a transport device for transporting an article, a movable mobile pedestal, a working unit fixed to the mobile pedestal and performing work on the article transported by the transport device, and the above-mentioned. A visual sensor fixed to a mobile pedestal and sequentially acquiring visual information of the article or a mark formed on the transport device, and the visual information acquired by the visual sensor are processed. A detection unit that sequentially detects at least the position of the article or the mark, a calculation unit that calculates the transfer speed of the transfer device based on the position of the article or the mark sequentially detected by the detection unit, and the transfer speed. Provided is a work system including a drive control unit for driving the work unit.
本態様によれば、カメラ等の視覚センサは、搬送装置によって搬送される物品または搬送装置上に形成されたマークの視覚情報を逐次取得する。算出部は、逐次取得された視覚情報に含まれる複数の物品またはマークの少なくとも位置の変化に基づいて、搬送装置の搬送速度を算出する。駆動制御部は、搬送速度を用いて、搬送装置により搬送される物品の位置を特定して、作業部により特定した物品に作業を行わせる。 According to this aspect, a visual sensor such as a camera sequentially acquires visual information of an article transported by a transport device or a mark formed on the transport device. The calculation unit calculates the transport speed of the transport device based on at least a change in the position of a plurality of articles or marks included in the sequentially acquired visual information. The drive control unit uses the transport speed to specify the position of the article to be transported by the transport device, and causes the article specified by the work unit to perform the work.
すなわち、本態様によれば、移動架台を移動させることで、搬送装置を含む生産ラインに、必要な数のロボットが配置される。移動架台に視覚センサおよび作業部が固定され、移動架台を移動しても作業部に対する視覚センサの位置が変わらない。このため、算出された搬送装置の搬送速度が用いられることで、パルスコーダ等の過剰な設備を必要とせずに、搬送装置上を搬送される物品に対して、作業部による作業が行われる。 That is, according to this aspect, by moving the mobile pedestal, a required number of robots are arranged on the production line including the transfer device. The visual sensor and the working part are fixed to the moving gantry, and the position of the visual sensor with respect to the working part does not change even if the moving gantry is moved. Therefore, by using the calculated transfer speed of the transfer device, the work unit performs the work on the article to be conveyed on the transfer device without the need for excessive equipment such as a pulse coder.
上記態様においては、前記駆動制御部が、所定の期間に前記視覚センサにより取得された複数の前記視覚情報内に前記物品または前記マークが検出されない場合に、前記所定の期間の前に前記算出部によって算出された前記搬送速度を用いて前記作業部を駆動させてもよい。
このようにすることで、視覚センサにより物品又はマークが検出されない時間が生じても、搬送装置により視覚センサの画角の下流側に搬送される物品に対して、作業部による作業を継続することができる。
In the above aspect, when the drive control unit does not detect the article or the mark in the plurality of visual information acquired by the visual sensor during a predetermined period, the calculation unit is performed before the predetermined period. The working unit may be driven using the transport speed calculated by.
By doing so, even if there is a time when the article or the mark is not detected by the visual sensor, the work part can continue the work for the article conveyed to the downstream side of the angle of view of the visual sensor by the conveying device. Can be done.
上記態様においては、前記算出部が、算出した前記搬送速度に基づいて、前記搬送装置上を搬送される前記物品の移動量を算出し、前記駆動制御部が、前記検出部で検出される前記物品の位置と、前記算出部により算出される前記物品の前記移動量および前記搬送速度とを用いて、前記搬送装置により搬送される前記物品に追従しながら該物品に対して作業を行うように前記作業部を駆動させてもよい。
このようにすることで、搬送装置により搬送される物品と作業部との接触時における衝撃が小さくなるため、作業時における物品に対する損傷などが回避又は抑制される。
In the above aspect, the calculation unit calculates the amount of movement of the article transported on the transfer device based on the calculated transfer speed, and the drive control unit is detected by the detection unit. Using the position of the article, the movement amount of the article calculated by the calculation unit, and the transport speed, the work is performed on the article while following the article transported by the transport device. The working unit may be driven.
By doing so, the impact at the time of contact between the article conveyed by the conveying device and the working portion is reduced, so that damage to the article during the working is avoided or suppressed.
上記態様においては、所定の期間に前記視覚センサにより取得された複数の前記視覚情報内に前記物品または前記マークが検出されない場合に、前記搬送装置上の前記物品の搬送が停止されていること又は前記搬送装置が停止していることを報知する報知部を備えてもよい。
物品またはマークが視覚情報から検出されない場合には、搬送装置の搬送速度がゼロまたは作業対象の物品が搬送されていない場合が考えられる。その場合に、報知部による報知が行われることで、事故の防止や無駄な作業の抑制となる。
In the above aspect, when the article or the mark is not detected in the plurality of visual information acquired by the visual sensor in a predetermined period, the transport of the article on the transport device is stopped or A notification unit may be provided to notify that the transfer device is stopped.
If the article or mark is not detected from the visual information, it is possible that the transport speed of the transport device is zero or the article to be worked is not transported. In that case, the notification by the notification unit prevents accidents and suppresses unnecessary work.
上記態様においては、前記駆動制御部が、前記報知部による報知が行われた場合に、前記作業部が前記物品に対して行う作業を中止してもよい。
このようにすることで、事故の防止や無駄な作業の抑制となる。
In the above aspect, when the drive control unit is notified by the notification unit, the work performed by the working unit on the article may be stopped.
By doing so, accidents can be prevented and wasteful work can be suppressed.
上記態様においては、前記算出部が、前記搬送速度として、複数の前記物品の速度の平均値又は複数の前記マークの速度の平均値を算出してもよい。
視覚センサの視覚情報としてカメラ等の撮影画像が用いられ、例えば、画角の中心よりも周囲の方がレンズの収差の影響が大きい場合でも、カメラに写った複数の物品又はマークの速度の平均値が搬送装置の搬送速度として用いられることで、より精度の高い搬送装置の搬送速度が算出される。
In the above aspect, the calculation unit may calculate the average value of the speeds of the plurality of articles or the average value of the speeds of the plurality of marks as the transport speed.
An image taken by a camera or the like is used as the visual information of the visual sensor. For example, even if the peripheral area is more affected by the aberration of the lens than the center of the angle of view, the average speed of a plurality of objects or marks captured by the camera is averaged. By using the value as the transport speed of the transport device, the transport speed of the transport device with higher accuracy is calculated.
また、本発明の他の態様は、物品を搬送する搬送装置の近傍に作業部および視覚センサが固定された移動架台を配置する配置ステップと、前記移動架台に固定された視覚センサにより、前記搬送装置により搬送される前記物品または前記搬送装置上に形成されたマークの視覚情報を逐次取得する視覚情報取得ステップと、前記視覚センサにより取得される前記視覚情報を処理して前記物品又は前記マークの少なくとも位置を逐次検出する検出ステップと、逐次検出される前記物品又は前記マークの位置に基づき前記搬送装置の搬送速度を算出する算出ステップと、前記搬送速度を用いて、該移動架台に固定された作業部により、前記搬送装置により搬送される前記物品に対して作業を行う作業ステップとを備える物品に対する作業実施方法を提供する。 Further, in another aspect of the present invention, the transport is performed by an arrangement step of arranging a mobile pedestal in which a working unit and a visual sensor are fixed in the vicinity of a transport device for transporting articles, and a visual sensor fixed to the mobile pedestal. The visual information acquisition step of sequentially acquiring the visual information of the article or the mark formed on the transport device carried by the apparatus, and the visual information acquired by the visual sensor are processed to form the article or the mark. It was fixed to the moving pedestal using a detection step of sequentially detecting at least the position, a calculation step of calculating the transport speed of the transport device based on the position of the article or the mark which is sequentially detected, and the transport speed. The work unit provides a work execution method for an article including a work step for performing the work on the article conveyed by the transfer device.
また、本発明の他の態様は、移動可能な移動架台と、該移動架台に固定され、搬送装置により搬送される物品又は前記搬送装置上に形成されたマークの視覚情報を逐次取得する視覚センサと、該視覚センサにより取得される前記視覚情報を処理して、前記物品又は前記マークの少なくとも位置を逐次検出する検出部と、該検出部により逐次検出される前記物品又は前記マークの位置に基づき前記搬送装置の搬送速度を算出する算出部と、前記搬送速度を用いて作業部を駆動させる駆動制御部を備えるロボットを提供する。 Another aspect of the present invention is a movable pedestal and a visual sensor that sequentially acquires visual information of an article fixed to the movable pedestal and transported by the transport device or a mark formed on the transport device. Based on the detection unit that processes the visual information acquired by the visual sensor to sequentially detect at least the position of the article or the mark, and the position of the article or the mark that is sequentially detected by the detection unit. Provided is a robot including a calculation unit for calculating a transfer speed of the transfer device and a drive control unit for driving a work unit using the transfer speed.
本発明によれば、生産時期による生産数の増減に容易に対応することができる。 According to the present invention, it is possible to easily cope with an increase or decrease in the number of production depending on the production time.
本発明の第1実施形態に係るロボットシステム(作業システム)1について、図面を参照しながら以下に説明する。
図1には、本実施形態に係る物品Oを生産する生産ラインを含むロボットシステム1が示されている。ロボットシステム1は、物品Oを搬送するコンベア(搬送装置)2と、コンベア2の近傍に設置される移動可能な移動架台13と、移動架台13の上部に固定されてコンベア2により搬送される物品Oを撮影するカメラ(視覚センサ)4と、移動架台13の上部に固定されてコンベア2により搬送される物品Oに対して各種作業を行うロボット(作業部)3と、ロボット3を制御すると共にカメラ4により取得される画像の処理等を行う制御部5とを備えている。また、図1には、ロボットシステム1に加えて、物品Oに対して作業を行う作業者WKが示されている。
The robot system (working system) 1 according to the first embodiment of the present invention will be described below with reference to the drawings.
FIG. 1 shows a robot system 1 including a production line for producing the article O according to the present embodiment. The robot system 1 includes a conveyor (conveyor device) 2 that conveys an article O, a movable
コンベア2は、例えばベルトコンベアであって、物品Oを搭載して一方向に搬送するベルト6を備えている。ベルト6はモータ(図示略)により駆動されるようになっている。ベルト6の表面には、所定の間隔を空けて、複数のマークMKが形成されている。なお、以降では、簡略化して、ベルト6上をコンベア2上ともいい、ベルト6の搬送速度をコンベア2の搬送速度ともいう。
The
図1に示すように移動架台13がコンベア2の近傍に配置され固定されると、カメラ4は、コンベア2上の一部の領域に固定された視野を有することになる。カメラ4は、コンベア2により搬送されてくる物品OおよびマークMKの2次元画像を、視覚情報として逐次取得するようになっている。本実施形態では、カメラ4は、同一物品OおよびマークMKがカメラ4の撮影視野を通過する間に2回以上撮影されるフレームレートで撮影するようになっている。
When the
なお、上記の固定としては、移動架台13の車輪の回転を規制する輪止め機構によって移動架台13の一部又は全部の車輪の回転を規制する方法、移動架台13の車輪を移動架台13のボディに対して上方に移動することによりボディを接地させ、これにより移動架台13を設置面に対し移動しないように固定する方法、ボディの両側面から水平方向に突出する複数のアームおよび該複数のアームからそれぞれ下方に延びる複数の脚部材とを有するアウトリガー構造を採用し、該アウトリガー構造を用いて移動架台13を固定する方法等がある。その他の方法を用いて固定してもよい。
The above-mentioned fixing is a method of restricting the rotation of a part or all of the wheels of the
ロボット3は、移動架台13上において、カメラ4よりも、コンベア2の搬送方向の下流側に設置されている。そのため、ロボット3は、カメラ4により撮影された後の物品Oに対して作業を行う。
移動架台13がコンベア2の近傍に配置および固定された後、カメラ4やロボット3を用いてトラッキング座標系の設定が行われる。
The
After the
トラッキング座標系設定の1つの方法としては、先ず、固定された移動架台13のカメラ4によって、ある搬送位置において、コンベア2上の物品O、マークMK、キャリブレーション器具等(本実施形態ではキャリブレーション器具)の画像を取得し、コンベア2により前記搬送位置よりも下流側に搬送されたキャリブレーション器具の画像も少なくとも1つ取得する。続いて、制御部5が、これら複数の画像に周知の画像処理を行い、パターンマッチング等によりこれら複数の画像にあらわれるキャリブレーション器具の移動方向を特定し、該移動方向に対応する水平方向を例えばトラッキング座標系のX軸として設定し、X軸に直交する水平方向をY軸として設定する。必要に応じてZ軸を設定してもよい。
As one method of setting the tracking coordinate system, first, an article O, a mark MK, a calibration device, etc. on the conveyor 2 (calibration in the present embodiment) are performed by a camera 4 of a fixed moving
他の方法としては、先ず、ロボット3の先端にキャリブレーション用ツールを取付け、コンベア2上に、その搬送方向と直交する方向に正確に並ぶように配置された複数の小さな点を上面に有するキャリブレーション用板を載置する。ここで、キャリブレーション用ツールの先端の位置はロボット3を制御する制御部5により認識されている。
As another method, first, a calibration tool is attached to the tip of the
続いて、ロボット3の先端に取付けられたキャリブレーション用ツールの先端をキャリブレーション用板の上面のコンベア2の搬送方向に並ぶ小さな点の少なくとも2点に接触させることにより、制御部5に、コンベア2の移動方向、即ちトラッキング座標系のX軸を設定し、さらにキャリブレーション用板の上面のX軸に直交する方向の少なくとも1点に接触させることによりY軸を設定する。また、X軸およびY軸に直交する方向がZ軸として制御部5に設定され、接触位置から既知であるキャリブレーション用板の厚さを差し引いた高さがコンベア2の高さとして制御部5に設定される。尚、前述のカメラ4を使う方法の場合にもロボット3による接触等を用いて高さを設定することができる。
Subsequently, by bringing the tip of the calibration tool attached to the tip of the
尚、ある搬送位置のコンベア2上のキャリブレーション用板のある点にキャリブレーション用ツールの先端を接触させ、前記搬送位置よりも下流側に搬送されたキャリブレーション用板の上記点にキャリブレーション用ツールの先端を接触させることにより、トラッキング座標系のX軸を設定してもよい。また、他の方法によってトラッキング座標系の設定を行ってもよい。
The tip of the calibration tool is brought into contact with a point on the calibration plate on the
上記のように、ロボット3およびカメラ4は移動架台13の上部に固定されていると共に、ロボット3とカメラ4とのキャリブレーションは既に行われており、ロボット3とカメラ4との位置関係が判明している。このため、カメラ4又はロボット3を使って上記のトラッキング座標系の設定を行うことにより、コンベア2の流れ方向をX軸とするトラッキング座標系がコンベア2上にロボット3に関して定義され、そのトラッキング座標系に対するカメラ4の位置が判明することになる。つまり、複雑な設定作業を要さずにカメラ4およびロボット3をコンベア2での作業用に設置できるという利点がある。本実施形態では、ロボット3の作業範囲は、カメラ4の撮影範囲と異なる。換言すると、ロボット3の作業は、カメラ4によって撮影されていない。
As described above, the
本実施形態のロボット3は、複数の関節軸を有する垂直多関節型ロボットである。なお、図1では、複数の関節軸を駆動させるための各モータと、各モータの回転角度を検出するための各エンコーダとの図示が省略されている。ロボット3の先端には、物品Oに対して作業を行うロボットハンド7が取り付けられている。
The
制御部5は、図示しないCPUと、ROMと、RAMと、メモリとで構成されている。制御部5は、図2に示されるように、カメラ4により取得された画像を処理して物品Oを検出する画像処理部8と、処理された画像内における物品Oに基づいてコンベア2の搬送速度を算出する速度算出部(算出部)9と、速度算出部9により算出された搬送速度に基づいてロボット3を駆動させる駆動制御部10と、時間を計測するタイマー11と、タイマー11からの出力に基づいて外部に所定の情報を報知する報知部12とを備えている。本実施形態では、図1に示すように、制御部5は、移動架台13に内蔵されているが、他の実施形態では、移動架台13とは別に設けられてもよい。
The
画像処理部8は、カメラ4により取得された画像に対して、パターンマッチングなどを用いることで、画像内からコンベア2により搬送されている物品O、または、コンベア2上に形成されたマークMKを検出して認識するようになっている。また、画像処理部8は、認識した物品OまたはマークMKの姿勢も検出する。物品Oは、コンベア2上で静止し、マークMKは、コンベア2上に固定されている。そのため、コンベア2が稼動していると、カメラ4に対する物品OおよびマークMKの位置が搬送方向に沿って変化する。
The
速度算出部9は、画像処理部8により検出された同一の物品Oまたは同一のマークMKのロボット3に対する位置の変化に基づいて、コンベア2の搬送速度を算出する。速度算出部9は、算出したコンベア2の搬送速度を用いて、コンベア2により搬送される物品Oの移動量を算出する。以下では、物品Oが検出された場合について説明する。
The
具体的には、画像処理部8は、例えば、図3に示されるように、所定時間間隔Δtをあけて異なる時刻t1,t2,t3に同一視野において3枚の画像が取得されたときに、各画像において画像内に含まれている物品Oを認識し、認識された物品Oの重心の座標位置を算出するようになっている。
Specifically, as shown in FIG. 3, for example, when three images are acquired in the same field of view at different times t1, t2, t3 with a predetermined time interval Δt, the
そして、速度算出部9は、時間軸方向に隣接して取得された画像内の搬送方向に直交する方向の同じ座標近傍に配置されている重心を有する物品Oを同一物品Oであると認識し、各物品Oの重心の搬送方向の座標値の差分を撮影の時間間隔Δtで除算することにより搬送速度を算出するようになっている。同一物品Oについて搬送速度が複数回算出されたときにはその平均値あるいは最小自乗法等によってフィッティングされた値を搬送速度として出力するようになっている。
Then, the
一方、本実施形態では、制御部5は所定時間間隔Δtよりも長い時間間隔Δtsで、作業を行わせる時のロボット3の制御用に、各物品Oの位置および姿勢を検出する。例えば、Δtが数msである場合に、その数十又は数百倍の数十又は数百msの時間間隔Δtsで位置および姿勢を検出する。これにより、一般的にデータ処理に時間がかかる物品Oの位置および姿勢の検出の回数を低減して処理負荷を低減することができるため、搬送速度および移動量の算出を安定して行うことが可能となる。
On the other hand, in the present embodiment, the control unit 5 a long time interval Delta] t s than the predetermined time interval Delta] t, for control of the
また、画像処理部8は、画像内に物品Oが1つも検出されなくなったか否かを判定するようになっている。画像処理部8は、物品Oを検出しなくなった場合に、タイマー11に計時を開始させる。タイマー11による計時が開始された後に、画像処理部8は、画像内に物品Oを再度検出した場合には、タイマー11による計時をリセットさせるようになっている。
In addition, the
報知部12は、タイマー11の計時開始から所定時間が経過した場合に、物品Oを検出できないことを外部に報知するようになっている。このような場合に、本実施形態では、報知部12は、コンベア2による物品Oの搬送が停止されていること、コンベア2のベルト6が停止していること、およびベルト6の搬送速度Vが一時的に取得されないことのいずれかを報知するようになっている。報知部12は、このような報知を、モニタ、ランプ、ブザー等任意の手段を用いて行う。報知部12は、同様の報知を、駆動制御部10に制御信号として送信する。
The
駆動制御部10は、予め教示された動作プログラムに従って、ロボット3の各関節軸における各モータの角度を制御するようにロボット3に駆動指令を送信して、ロボット3を駆動させるようになっている。駆動制御部10は、各エンコーダによって検出される各モータの回転角度を用いて、各モータに対してフィードバック制御を行っている。駆動制御部10は、速度算出部9により算出された搬送速度Vに基づいて、コンベア2上の物品Oを追従するトラッキングを実施する。駆動制御部10は、ロボット3に行わせる作業に応じた動作プログラムと、作業対象である物品Oのモデルとを読み込み、ロボット3のトラッキング座標系等の位置設定を行う。駆動制御部10が、ロボット3およびロボットハンド7の動作を制御することで、ロボットハンド7が、コンベア2により搬送される物品Oに対して各種作業を行う。
The
本実施形態では、駆動制御部10は、報知部12からの報知を受信すると、二通りの制御を行うようになっている。このような1つの制御としては、ロボット3が物品Oに対して行う作業を中止する制御である。もう一つの制御としては、報知部12から報知される前に速度算出部9により算出されたコンベア2の搬送速度Vを用いて、ロボット3の作業を続行させる制御である。
In the present embodiment, when the
駆動制御部10は、画像処理部8により検出されたコンベア2上での物品Oの位置と、速度算出部9により算出されたコンベア2の搬送速度Vおよび搬送される物品Oの移動量とを用いて、搬送される物品Oにロボットハンド7を追従させながら作業を行わせる。具体的には、駆動制御部10は、搬送される物品Oとロボットハンド7との相対速度をできるだけ小さくして、ロボットハンド7に作業を行わせる。これにより、ロボットハンド7が物品Oに接触する際の衝撃を低減でき、物品Oの破損防止のために有効である。
The
以下では、コンベア2により搬送される物品Oに対してロボット3が作業を行うまでの作業実施方法の一例について、図4に示すフローチャートに沿って説明する。
初めに、コンベア2の近傍に、ロボット3およびカメラ4が固定された移動架台13が配置、固定される(ステップS11)。駆動制御部10は、ロボット3に行わせる作業に応じた動作プログラムと、作業対象である物品Oのモデルとを読み込み、ロボット3のトラッキング座標系等の位置設定を行う。カメラ4は、予め設定されたフレームレートで、搬送される物品Oを含むコンベア2上を撮影して、視覚情報としての画像を取得する(ステップS12)。画像処理部8は、カメラ4により取得された複数の画像から物品Oを検出する(ステップS13)。速度算出部9は、図3に示すように、検出された物品Oの重心を用いて、コンベア2の搬送速度Vを算出する(ステップS14)。駆動制御部10は、搬送速度Vを用いて、コンベア2上における物品Oの現在の位置および姿勢を算出する。駆動制御部10は、算出した物品Oの現在の位置および姿勢に基づき、ロボット3を駆動させて、コンベア2上の物品Oに対してロボット3による作業が行われる(ステップS15)。そして、コンベア2により搬送される物品Oに対する作業実施方法が終了する。
In the following, an example of a work execution method until the
First, a
このように構成された本実施形態に係るロボットシステム1の作用について以下に説明する。
本実施形態に係るロボットシステム1によれば、コンベア2によって物品Oが搬送されてくると、カメラ4によって物品Oが撮影される。撮影により取得された画像が画像処理部8により画像処理されることで、画像内から物品Oが検出される。物品Oの検出結果に基づいて、コンベア2の搬送速度Vが算出される。算出された搬送速度Vを用いながら、コンベア2により搬送される物品Oに対してロボット3による作業が行われる。
The operation of the robot system 1 according to the present embodiment configured in this way will be described below.
According to the robot system 1 according to the present embodiment, when the article O is conveyed by the
ロボット3およびカメラ4は、移動架台13に固定されているため、コンベア2を含む生産ラインにおいて生産される物品Oの数の増減に応じて、移動可能である。そのため、コンベア2に固定されるロボットと比較すると、生産ラインに対する過剰な設備とならない利点がある。さらに、本実施形態のロボットシステム1では、ロボット3に対しての位置が固定されたカメラ4により取得された画像に基づいて、コンベア2の搬送速度Vが算出される。これにより、コンベア2の搬送速度Vを算出するためのエンコーダ等が不要であり、コンベア2を含む生産ラインにおける過剰設備をさらに抑制できる利点がある。
Since the
そして、図3に示されるように、所定時間間隔Δtをあけて異なる時刻t1,t2,t3に取得された画像から算出された同一物品Oの重心の座標位置d1,d2,d3に基づいて、速度算出部9によりコンベア2による搬送速度Vが算出され、駆動制御部10に入力される。カメラ4とロボット3とは所定の距離だけ離れて配置されているので、コンベア2が等速で移動しているとすると当該距離を搬送速度Vで除算した時間後に物品Oがロボット3の動作範囲内に移動する。
Then, as shown in FIG. 3, based on the coordinate positions d1, d2, d3 of the center of gravity of the same article O calculated from the images acquired at different times t1, t2, t3 with a predetermined time interval Δt. The
駆動制御部10は、前述のように、物品Oが画像内に存在するいずれかの時点(時間間隔Δts)で物品Oのトラッキング座標系TFに対する位置および姿勢を認識し、その時点から現在時刻までの物品Oの移動量を算出する。そして、その移動量を成分とする座標変換行列をトラッキング座標系TFに乗算することにより、現在のトラッキング座標系TF′を算出する。
TF′=T・TF
そして、駆動制御部10は、算出された現在のトラッキング座標系TF′を基準とすることで、コンベア2によって搬送されている物品Oをロボットハンド7で追従しながら、物品Oを把持してコンベア2から取り上げることができる。
The
TF'= T ・ TF
Then, the
この場合において、ロボット3がロボットハンド7をコンベア2上の物品Oに追従させるように駆動されているときには、カメラ4が後続の物品Oを撮影し、速度算出部9により新たな搬送速度Vが算出されているので、駆動制御部10は新たに算出された搬送速度Vを用いてロボット3を制御することができ、コンベア2による搬送速度Vが変動しても物品Oを正しく取り上げることができる。
In this case, when the
図5は、第2実施形態に係るロボットシステム(作業システム)1aを示す全体構成図である。第2実施形態のロボットシステム1aでは、第1実施形態のロボットシステム1におけるカメラ4の代わりに、カメラ4aとカメラ4bとを備える点が異なる。ロボットシステム1aは、その他の点では第1実施形態のロボットシステム1と同じ構成を有するため、第2実施形態ではカメラ4a,4bについて説明し、同じ構成についての説明を省略する。
FIG. 5 is an overall configuration diagram showing a robot system (working system) 1a according to the second embodiment. The
第1実施形態のカメラ4が行っていたことを、第2実施形態では、カメラ4a,4bが行っている。具体的には、カメラ4aにより取得された画像に基づいて、コンベア2の搬送速度Vが算出され、カメラ4bにより取得された画像に基づいて、コンベア2により搬送される物品Oの位置および姿勢が算出される。このように、カメラ4aの画像とカメラ4bの画像とに対して行われる画像処理が異なることで、カメラ4a,4bのフレームレートや解像度の設計の自由度が向上する。
In the second embodiment, the
図6は、第3実施形態に係るロボットシステム(作業システム)1bを示す全体構成図である。第3実施形態のロボットシステム1bでは、第1実施形態のロボットシステム1におけるカメラ4の代わりに、カメラ4の撮影範囲と異なる範囲を撮影するカメラ4cを備える点が異なる。ロボットシステム1bは、その他の点では第1実施形態のロボットシステム1と同じ構成を有するため、第3実施形態ではカメラ4cについて説明し、同じ構成についての説明を省略する。
FIG. 6 is an overall configuration diagram showing a robot system (working system) 1b according to the third embodiment. The
第3実施形態のカメラ4cの撮影範囲(画角)は、ロボット3の作業範囲を含んでいる。カメラ4cにより取得された画像に基づいて、物品Oの位置および姿勢が逐次算出される。
カメラ4cは二次元カメラでも三次元カメラでもよい。二次元カメラの場合、カメラ4cにより取得された複数の画像中の物品Oを用いて、第1実施形態と同様にトラッキング座標系の設定および各物品Oの位置および姿勢の検出等が行われる。なお、第1実施形態と同様にコンベア2の搬送速度の算出および物品Oの移動量の算出も行われるように、当該ロボットシステムを構成してもよい。
The shooting range (angle of view) of the
The
三次元カメラを用いる場合、カメラ4cに対する物品Oの位置および姿勢(傾き)をリアルタイムで三次元的に取得することができるため、物品が傾いていてもロボット3はカメラ4cの検出結果に基づき物品Oに対する作業を行うことができる。
When a three-dimensional camera is used, the position and posture (tilt) of the article O with respect to the
このように、カメラ4cの撮影範囲とロボット3の作業範囲とが重複することでロボット3は検出された位置および姿勢を使って直接物品Oを取り上げることができるため、カメラ4cの撮影範囲とロボット3の作業範囲とが異なる場合と比較して、算出される物品Oの位置および姿勢の精度が高くなると共に、ロボット3が物品Oを取り上げるまでに物品の位置が多少変化してもロボット3は物品Oを取り上げることができる。なお、図6のようにカメラ4cの方向(光軸)を水平面(コンベヤ2の上面)に対し傾けると、ロボット3によりカメラ4cの視野が邪魔されることが少なくなるので、物品Oの位置、姿勢の検出精度を向上する上で有利である。このように、ロボット3の作業範囲と、カメラ4cの撮影範囲との関係については、種々変形可能である。
In this way, by overlapping the shooting range of the
なお、上記実施形態では、ロボットシステム1の一例について説明したが、ロボットシステム1および生産ラインに配置、固定される移動可能なロボットについては、種々変形可能である。例えば、コンベア2を含むロボットシステム1ではなく、移動可能な移動架台13と、移動架台13に固定されると共にコンベア2により搬送される物品Oに対して作業を行うロボット3と、移動架台13に固定されると共に物品Oを撮影するカメラ4とを備えるロボットであってもよい。
In the above embodiment, an example of the robot system 1 has been described, but the robot system 1 and the movable robot arranged and fixed on the production line can be variously deformed. For example, instead of the robot system 1 including the
移動架台13は、無人搬送車(Automated Guided Vehicle)であってもよい。この場合に、移動架台13は、複数のコンベア2を有する工場内の所定の経路を移動する光学誘導式や電磁誘導式などの無人搬送車であってもよい。移動架台13が所定の経路を移動することで、過剰な設備となるロボットの配置が抑制される。
The
他の実施形態のロボットシステムでは、上記実施形態のような制御部5を内蔵する複数のロボット3が1つのコンベア2に配置、固定され、これら複数のロボット3を制御するセル制御装置が設けられてもよい。このセル制御装置は、複数の制御部5の上位の制御装置であり、複数の移動架台13のそれぞれに固定された複数のロボット3およびカメラ4を制御する。この場合に、複数のロボット3が有するカメラ4の内の1つのカメラ4がコンベア2により搬送される物品OまたはマークMKの画像を取得すると、セル制御装置は、取得された画像を用いてコンベア2の搬送速度Vや物品Oの位置および姿勢を算出する。セル制御装置は、制御下にある複数のロボット3に対して、算出したコンベア2の搬送速度Vや物品Oの位置および姿勢を共有してもよい。
In the robot system of another embodiment, a plurality of
駆動制御部10は、作業対象である物品Oとは異なる別物品がコンベア2により搬送されてきたときに、ロボット3を作業範囲外に移動させてもよい。例えば、カメラ4により取得された画像から画像処理部8が別物品を検出すると、駆動制御部10は、ロボットハンド7を作業範囲外へと移動させる。これにより、ロボット3と別物品との衝突を回避して、コンベア2上における事故を防ぐことができる。
The
また、本実施形態においては、画像内に単一の物品Oが検出される場合について説明したが、これに代えて、図7に示されるように、複数の物品a1,a2,a3が同時にカメラ4の視野内に配置される場合にも適用することができる。
すなわち、画像内に複数の物品a1,a2,a3が認識された場合には、各物品a1,a2,a3について、異なる時刻に取得された画像内の物品a1,a2,a3との同一性を識別し、識別された同一物品a1,a2,a3間での移動距離に基づいてそれぞれ算出した速度V1,V2,V3を平均することにより搬送速度Vを算出することにしてもよい。この場合、同一物品a1,a2,a3間での移動距離は、所定時間間隔Δtをあけて異なる時刻t1,t2,t3に取得された画像から算出された同一物品a1,a2,a3の重心の座標位置d11,d12,d13,d22,d23,d24,d33,d34の差分により求められる。
Further, in the present embodiment, the case where a single article O is detected in the image has been described, but instead, as shown in FIG. 7, a plurality of articles a1, a2, and a3 are simultaneously camerad. It can also be applied when it is arranged in the field of view of 4.
That is, when a plurality of articles a1, a2, a3 are recognized in the image, each article a1, a2, a3 is identified with the articles a1, a2, a3 in the images acquired at different times. The transport speed V may be calculated by averaging the speeds V1, V2, and V3 that have been identified and calculated based on the distance traveled between the identified articles a1, a2, and a3, respectively. In this case, the moving distance between the same articles a1, a2, a3 is the center of gravity of the same articles a1, a2, a3 calculated from images acquired at different times t1, t2, t3 with a predetermined time interval Δt. It is obtained by the difference between the coordinate positions d11, d12, d13, d22, d23, d24, d33, and d34.
上記実施形態のロボットシステム1では、コンベア2により搬送される物品Oの位置によってコンベア2の搬送速度Vが算出されたが、コンベア2に形成されたマークMKがカメラ4により撮影されることによって、コンベア2の搬送速度Vが算出されてもよい。マークMKとしては、矩形形状、円形状などの複数の形状が合わさったマークでもよい。マークMKが配置される位置は、カメラ3が移動可能な移動架台13に固定されているため、搬送方向および搬送方向に直交する方向に沿って、所定の間隔を空けて配置されてもよいし、ランダムに配置されてもよい。
In the robot system 1 of the above embodiment, the transfer speed V of the
上記実施形態では、移動架台13に固定されたロボット3が垂直多関節型ロボットのロボットであったが、コンベア2により搬送される物品Oに対して作業を行うロボットについては、種々変形可能である。例えば、ロボット3は、平置き型あるいは天吊り型等であってもよく、トレーと、トレーに物品Oを載置する機構とを有する簡易な作業装置であってもよく、任意の作業装置(作業部)が採用されればよい。
In the above embodiment, the
上記実施形態では、物品Oに対してロボットハンド7が行う作業として、コンベア2から取り上げる作業を例に挙げたが、作業については種々変形可能である。例えば、ロボットハンド7は、コンベア2上における物品Oを動かさずに、何らかの部品を溶接する作業を行ってもよい。
In the above embodiment, as the work performed by the robot hand 7 on the article O, the work taken up from the
1,1a,1b ロボットシステム(作業システム)
2 コンベア(搬送装置)
3 ロボット(作業部)
4,4a,4b,4c カメラ(視覚センサ)
8 画像処理部(検出部)
9 速度算出部(算出部)
10 駆動制御部
12 報知部
13 移動架台
a1,a2,a3,O 物品
MK マーク
V 搬送速度
S11 配置ステップ
S12 視覚情報取得ステップ
S13 検出ステップ
S14 算出ステップ
S15 作業ステップ
1,1a, 1b Robot system (working system)
2 Conveyor (conveyor)
3 Robot (working unit)
4,4a, 4b, 4c cameras (visual sensors)
8 Image processing unit (detection unit)
9 Speed calculation unit (calculation unit)
10
Claims (1)
車輪によって移動可能な移動架台と、
該移動架台に固定され、前記搬送装置により搬送される前記物品に対して作業を行う作業部と、
その画角に前記作業部の作業範囲が含まれるように前記移動架台に固定された視覚センサであって、前記車輪によって前記移動架台を前記搬送装置の近傍に配置する際に前記移動架台に固定された前記作業部の座標系を設定するために用いられると共に、前記作業部による前記作業時に前記搬送装置により搬送される前記物品の視覚情報を逐次取得する視覚センサと、
該視覚センサにより取得される前記視覚情報を処理して前記画角内における前記物品の少なくとも位置を逐次検出する検出部と、
該検出部により逐次検出される前記物品の位置を少なくとも用いて前記作業部を駆動させる駆動制御部とを備える作業システム。 A transport device that transports goods and
A mobile mount that can be moved by wheels,
A work unit fixed to the moving pedestal and performing work on the article transported by the transport device, and a work unit.
A visual sensor fixed to the moving pedestal so that the angle of view includes the working range of the working portion, and is fixed to the moving pedestal when the moving pedestal is arranged in the vicinity of the transport device by the wheels. together used to set the coordinate system of the working portion which is a visual sensor for sequentially acquiring visual information of the articles conveyed by the conveying device when the operation by the working unit,
A detection unit that processes the visual information acquired by the visual sensor to sequentially detect at least the position of the article within the angle of view.
A work system including a drive control unit that drives the work unit by using at least the position of the article that is sequentially detected by the detection unit.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019162934A JP6889216B2 (en) | 2017-10-16 | 2019-09-06 | Work system |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017200233A JP6646026B2 (en) | 2017-10-16 | 2017-10-16 | Work system, work execution method for article, and robot |
JP2019162934A JP6889216B2 (en) | 2017-10-16 | 2019-09-06 | Work system |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017200233A Division JP6646026B2 (en) | 2017-10-16 | 2017-10-16 | Work system, work execution method for article, and robot |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019214122A JP2019214122A (en) | 2019-12-19 |
JP6889216B2 true JP6889216B2 (en) | 2021-06-18 |
Family
ID=68918264
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019162934A Active JP6889216B2 (en) | 2017-10-16 | 2019-09-06 | Work system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6889216B2 (en) |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10105217A (en) * | 1996-09-27 | 1998-04-24 | Mitsubishi Electric Corp | Tracking controlling method of robot and robot control system |
JP2001121461A (en) * | 1999-10-26 | 2001-05-08 | Denso Corp | Robot system |
JP2006329895A (en) * | 2005-05-30 | 2006-12-07 | Dainippon Screen Mfg Co Ltd | Substrate measuring apparatus |
JP2008076097A (en) * | 2006-09-19 | 2008-04-03 | Olympus Corp | Substrate inspection device |
CN201576155U (en) * | 2009-11-03 | 2010-09-08 | 烟台开发区华威电气有限公司 | Automatic operating platform for electricity meter imaging and meter code identification |
JP2012187651A (en) * | 2011-03-09 | 2012-10-04 | Omron Corp | Image processing apparatus, image processing system, and guidance apparatus therefor |
JP5892168B2 (en) * | 2011-08-10 | 2016-03-23 | 株式会社安川電機 | Robot system |
JP2013132726A (en) * | 2011-12-27 | 2013-07-08 | Seiko Epson Corp | Method for controlling robot, and robot |
JP2013180366A (en) * | 2012-03-01 | 2013-09-12 | Seiko Epson Corp | Robot and robot hand |
JP6042860B2 (en) * | 2014-12-02 | 2016-12-14 | ファナック株式会社 | Article transferring apparatus and article transferring method for transferring article using robot |
JP6646026B2 (en) * | 2017-10-16 | 2020-02-14 | ファナック株式会社 | Work system, work execution method for article, and robot |
-
2019
- 2019-09-06 JP JP2019162934A patent/JP6889216B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019214122A (en) | 2019-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6646026B2 (en) | Work system, work execution method for article, and robot | |
US10232512B2 (en) | Coordinate system setting method, coordinate system setting apparatus, and robot system provided with coordinate system setting apparatus | |
US11046530B2 (en) | Article transfer apparatus, robot system, and article transfer method | |
US8346392B2 (en) | Method and system for the high-precision positioning of at least one object in a final location in space | |
JP6579498B2 (en) | Automation device and position detection device | |
CN102470529B (en) | Calibration method for a measuring system | |
JP6608977B2 (en) | Article transport system | |
JP7000361B2 (en) | Follow-up robot and work robot system | |
JP5686279B2 (en) | Work posture detection device, work processing execution device, and work posture detection method | |
CN109916346B (en) | Workpiece flatness detection device and method based on vision system | |
JP5509859B2 (en) | Robot control apparatus and method | |
JP6697510B2 (en) | Robot system | |
JP2021013983A (en) | Apparatus and method for acquiring deviation of moving locus of moving machine | |
JP6889216B2 (en) | Work system | |
JP6565367B2 (en) | Position correction system | |
US20230364812A1 (en) | Robot system | |
US20220105641A1 (en) | Belt Conveyor Calibration Method, Robot Control Method, and Robot System | |
CN115803584A (en) | Image pickup apparatus for acquiring three-dimensional information of workpiece surface and two-dimensional image of workpiece | |
KR100842088B1 (en) | The automotive position measuring system on a continuously moving conveyor and method thereof | |
US20230138649A1 (en) | Following robot | |
JP7477633B2 (en) | Robot System | |
CN113155097B (en) | Dynamic tracking system with pose compensation function and pose compensation method thereof | |
TW202247966A (en) | production system | |
JPH07332944A (en) | Body-position detector | |
WO2021059438A1 (en) | Height measurement device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190906 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201013 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210126 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210318 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210420 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210520 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6889216 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |