JP2022530589A - Robot-mounted mobile devices, systems and machine tools - Google Patents
Robot-mounted mobile devices, systems and machine tools Download PDFInfo
- Publication number
- JP2022530589A JP2022530589A JP2021526426A JP2021526426A JP2022530589A JP 2022530589 A JP2022530589 A JP 2022530589A JP 2021526426 A JP2021526426 A JP 2021526426A JP 2021526426 A JP2021526426 A JP 2021526426A JP 2022530589 A JP2022530589 A JP 2022530589A
- Authority
- JP
- Japan
- Prior art keywords
- axis
- robot
- camera
- posture
- identification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003754 machining Methods 0.000 claims abstract description 22
- 238000012546 transfer Methods 0.000 claims abstract description 6
- 230000036544 posture Effects 0.000 claims description 178
- 238000012937 correction Methods 0.000 claims description 103
- 238000000034 method Methods 0.000 claims description 30
- 238000003384 imaging method Methods 0.000 claims description 28
- 239000011159 matrix material Substances 0.000 claims description 28
- 238000012545 processing Methods 0.000 claims description 23
- 230000032258 transport Effects 0.000 claims description 7
- 238000013519 translation Methods 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 description 67
- 238000003860 storage Methods 0.000 description 35
- 239000000463 material Substances 0.000 description 18
- 239000000047 product Substances 0.000 description 17
- 230000009466 transformation Effects 0.000 description 8
- 238000004519 manufacturing process Methods 0.000 description 7
- 238000007781 pre-processing Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000002360 preparation method Methods 0.000 description 6
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000000926 separation method Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000012636 effector Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000011265 semifinished product Substances 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
Abstract
工作機械10と、カメラ31を有するロボット25と、ロボット25を搭載した搬送装置35とがあり、工作機械10の加工領域内に識別図形が配置される。There are a machine tool 10, a robot 25 having a camera 31, and a transfer device 35 on which the robot 25 is mounted, and an identification figure is arranged in a machining area of the machine tool 10.
Description
本開示は、ワークを加工する工作機械、工作機械に対して作業を行うロボット、ロボットを搭載し、工作機械に対して設定された作業位置に移動可能な移動装置、これらから構成されるシステム等に関する。 The present disclosure discloses a machine tool that processes a work, a robot that works on the machine tool, a moving device that is equipped with the robot and can move to a work position set for the machine tool, a system composed of these, and the like. Regarding.
従来、上述したシステムの一例として、特開2017-132002号公報(日本国特許出願公開公報、下記特許文献1)に開示されたシステムが知られている。このシステムでは、ロボットを搭載した無人搬送車が、工作機械に対して設定された作業位置に移動し、当該作業位置において、ロボットにより工作機械に対してワークの着脱等の作業が実行される。 Conventionally, as an example of the above-mentioned system, a system disclosed in Japanese Patent Application Laid-Open No. 2017-13202 (Japanese Patent Application Publication No. 1, the following Patent Document 1) is known. In this system, an automatic guided vehicle equipped with a robot moves to a work position set for the machine tool, and at the work position, the robot executes work such as attaching / detaching the work to the machine tool.
このようなシステムでは、無人搬送車によって移動する一台のロボットにより、複数の工作機械に対してワークの着脱等の作業を実施することができるので、工作機械に対してロボットを固定した状態で配設する場合に比べて、工作機械のレイアウトの自由度が増すため、工作機械のレイアウトをより生産効率を高めることが可能なレイアウトに設定することができる。また、ロボットを固定状態で配設した旧来のシステムに比べて、一台のロボットにより、より多くの工作機械に対して作業を行うことができるので、設備費用の低廉化を図ることができる。 In such a system, one robot moved by an unmanned carrier can perform work such as attaching / detaching a work to a plurality of machine tools, so that the robot is fixed to the machine tools. Since the degree of freedom in the layout of the machine tool is increased as compared with the case of disposing the machine tool, the layout of the machine tool can be set to a layout capable of further improving the production efficiency. Further, as compared with the conventional system in which the robots are arranged in a fixed state, one robot can work on more machine tools, so that the equipment cost can be reduced.
その一方、無人搬送車は車輪を用いて自走する構造であるが故に、前記作業位置に停止するその位置決め精度は必ずしも高いものとは言えない。このため、ロボットが工作機械に対して正確な作業を行うためには、無人搬送車を前記作業位置へ位置決めした際のロボットの姿勢と、制御上の基準となる所謂ティーチング時に設定されたロボットの基準姿勢とを比較して、その誤差量を検出し、当該誤差量に応じてロボットの作業姿勢を補正する必要がある。 On the other hand, since the automatic guided vehicle has a structure of self-propelled using wheels, its positioning accuracy of stopping at the working position is not always high. Therefore, in order for the robot to perform accurate work on the machine tool, the posture of the robot when the automatic guided vehicle is positioned at the work position and the robot set at the time of so-called teaching, which is a control reference, are used. It is necessary to compare with the reference posture, detect the amount of the error, and correct the working posture of the robot according to the amount of the error.
このようなロボットの姿勢を補正する技術として、従来、特開2016-221622号公報(日本国特許出願公開公報、下記特許文献2)に開示されるような位置補正手法が知られている。具体的には、この位置補正手法は、2つの較正用マーカからなる視覚ターゲットを工作機械の外表面に配設し、ロボットの可動部に設けられたカメラにより、前記視覚ターゲットを撮像し、得られた画像と、カメラの位置及び姿勢とを基に、ロボットと工作機械との相対的な位置関係を測定し、測定された位置関係に基づいて、ロボットの作業姿勢を補正するというものである。 As a technique for correcting the posture of such a robot, a position correction method as disclosed in Japanese Patent Application Laid-Open No. 2016-221622 (Japanese Patent Application Publication No. 2, the following Patent Document 2) is conventionally known. Specifically, in this position correction method, a visual target consisting of two calibration markers is arranged on the outer surface of the machine tool, and the visual target is imaged by a camera provided on a movable part of the robot. The relative positional relationship between the robot and the machine tool is measured based on the captured image and the position and posture of the camera, and the working posture of the robot is corrected based on the measured positional relationship. ..
ところが、上述した従来の位置補正手法では、例えば、ロボットのハンドなどを工作機械内に進入させ、当該ハンドを用いて工作機械のチャックなどに対してワークの着脱を行う際に、この着脱作業を行うロボットの姿勢を正確に補正することができなかった。 However, in the conventional position correction method described above, for example, when a robot hand or the like is made to enter the machine tool and the work is attached or detached to or from the chuck of the machine tool by using the hand, this attachment / detachment work is performed. It was not possible to accurately correct the posture of the robot to perform.
即ち、前記無人搬送車は、比較的自由度の高い車輪の動作によって移動するように構成されているため、ロボットが搭載された載置面は床面に対して傾き易く、また、搭載するロボットの姿勢の変化に応じて、言い換えれば、ロボットの重心位置の変化に応じて、当該傾きが変動し易いという特性を有している。 That is, since the automatic guided vehicle is configured to move by the movement of wheels having a relatively high degree of freedom, the mounting surface on which the robot is mounted tends to tilt with respect to the floor surface, and the robot on which the robot is mounted. In other words, it has the characteristic that the inclination is likely to change according to the change in the position of the center of gravity of the robot according to the change in the posture of the robot.
このため、上述したワークの着脱を行う際に、ロボットがそのハンドを工作機械内に進入させた姿勢を取るとき、言い換えれば、ロボットのアームが前記無人搬送車から大きくオーバハングした状態となるときの前記載置面の傾きは、ロボットのハンドが工作機械の機外に在り、アームが前記無人搬送車からオーバハングしていないか、或いはオーバハングしていたとしても少量である場合の傾きよりも大きなものとなる。 Therefore, when the robot takes a posture in which the hand is inserted into the machine tool when attaching / detaching the work described above, in other words, when the arm of the robot is in a state of being greatly overhung from the automatic guided vehicle. The inclination of the above-mentioned mounting surface is larger than the inclination when the hand of the robot is outside the machine tool and the arm is not overhung from the automatic guided vehicle, or even if it is overhung, it is a small amount. Will be.
したがって、上述した従来の位置補正手法のように、較正用マーカである視覚ターゲットを工作機械の外表面に配設し、ロボットが工作機械の機外に在る状態で、ロボットの位置補正量(姿勢補正量)を取得しても、得られた位置補正量を用いては、ロボットのハンドが工作機械内にあるときに実行されるワークの着脱動作については、当該ロボットの姿勢を正確には補正することができない。 Therefore, as in the conventional position correction method described above, the position correction amount of the robot (the position correction amount of the robot) when the visual target, which is a calibration marker, is arranged on the outer surface of the machine tool and the robot is outside the machine tool. Even if the posture correction amount) is acquired, the obtained position correction amount is used to accurately determine the posture of the robot for the work attachment / detachment operation performed when the robot's hand is inside the machine tool. Cannot be corrected.
そして、ワークを着脱する際のロボットの姿勢を正確に補正することができなければ、チャックに対してロボットハンドを正確に位置決めすることができず、例えば、前記チャックがコレットチャックなど、把持部の動き代(ストローク)が極僅か、即ち、ワークとチャックとの間のクリアランスが極僅かであるチャックの場合には、当該チャックに対してワークを確実に把持させることができない可能性が生じる。 If the posture of the robot when attaching and detaching the work cannot be accurately corrected, the robot hand cannot be accurately positioned with respect to the chuck. For example, the chuck is a collet chuck or the like. In the case of a chuck having a very small movement allowance (stroke), that is, a chuck having a very small clearance between the work and the chuck, there is a possibility that the work cannot be reliably gripped by the chuck.
そして、ワークの着脱を確実に実行することができなければ、当該システムの稼働率が低下することになる。当該システムにおいては、生産効率の良い無人化を実現することはできない。 If the work cannot be reliably attached and detached, the operating rate of the system will decrease. In this system, it is not possible to realize unmanned production efficiency.
さらに、特許文献2に開示された位置補正手法では、2つの較正用マーカをそれぞれカメラによって撮像するようにしているので、較正用マーカを撮像するためのロボットの動作時間が長く、このため、当該システムにおける生産効率が低くなる。
Further, in the position correction method disclosed in
そこで、本開示は、請求の範囲に記載したシステム、移動装置、工作機械などを提供するものである。 Therefore, the present disclosure provides the systems, mobile devices, machine tools, etc. described in the claims.
以上のように、本開示によれば、ロボットが実際に作業する工作機械内に配置された識別図形を用いて、ロボットの姿勢を補正するようにしているので、当該姿勢を正確に補正することができ、これにより、ロボットは、高い動作精度が求められる作業でも、当該作業を精度良く実行することができる。 As described above, according to the present disclosure, since the posture of the robot is corrected by using the identification figure arranged in the machine tool in which the robot actually works, the posture should be corrected accurately. As a result, the robot can perform the work with high accuracy even if the work requires high operation accuracy.
以下、具体的な実施の形態について、図面を参照しながら説明する。 Hereinafter, specific embodiments will be described with reference to the drawings.
(第1の実施形態)
図1及び図2に示すように、第1の実施形態のシステム1は、工作機械10、周辺装置としての材料ストッカ20及び製品ストッカ21、無人搬送車35、この無人搬送車35に搭載されるロボット25、ロボット25に装着されるカメラ31、並びにロボット25及び無人搬送車35を制御する制御装置40などから構成される。
(First Embodiment)
As shown in FIGS. 1 and 2, the system 1 of the first embodiment is mounted on a
第1の実施形態の工作機械は、工作機械内に識別図形を配置する構成である。特に、識別画像が加工領域内に配置されている形態が好ましい。 The machine tool of the first embodiment has a configuration in which an identification figure is arranged in the machine tool. In particular, a form in which the identification image is arranged in the processing region is preferable.
第1の実施形態のロボット搭載移動装置は、カメラとハンド部と第1アーム部と第2アーム部とを有するロボットと、ロボットのハンド部の位置を制御する制御部と、ロボットが搭載された移動部と、を有する。移動部は工作機械の周辺などを移動可能な構成になっている。 The robot-mounted mobile device of the first embodiment is equipped with a robot having a camera, a hand unit, a first arm unit, and a second arm unit, a control unit for controlling the position of the hand unit of the robot, and a robot. It has a moving part and. The moving part is configured to be movable around the machine tool.
図4に示すように、前記工作機械10は、ワークW(W’)を把持するチャック12が装着される主軸11を備え、この主軸11が鉛直方向に沿って設けられた立形のNC(数値制御)旋盤であり、ワークW(W’)に対して旋削加工を行うことができるようになっている。また、主軸11の近傍には接触子14及びこれを支持する支持バー15を備えたツールプリセッタ13が設けられており、この支持バー15は、当該主軸11の軸線に沿って、加工領域に対して進退可能に設けられており、その加工領域側の端面にセラミック製の表示板16が設けられ、この表示板16に、図5に示した識別図形が描画されている。尚、表示板16は水平面上に位置するように設けられている。
As shown in FIG. 4, the
尚、図4では、支持バー15及び接触子14が加工領域内に進出した状態を図示しているが、支持バー15及び接触子14が後退して、接触子14及び表示板16が収納領域内に収納された状態で、シャッタ17が閉じることにより、接触子14及び表示板16は加工領域から隔離される。
Although FIG. 4 shows a state in which the
また、本例の識別図形は複数の正方形をした画素が二次元に配列されたマトリクス構造を有するものであり、各画素が白または黒で表示される。図5では、黒色の画素に斜線を付している。このような識別図形には、ARマーカやAprilTagと称されるものがある。また、識別図形が小さい場合には、当該識別図形上にレンズを設けるなどして、後述するカメラ31により拡大された画像が撮像されるようにしても良い。
Further, the identification figure of this example has a matrix structure in which a plurality of square pixels are arranged two-dimensionally, and each pixel is displayed in white or black. In FIG. 5, black pixels are shaded. Some such identification figures are called AR markers or AprilTags. Further, when the identification figure is small, a lens may be provided on the identification figure so that an enlarged image can be captured by the
前記材料ストッカ20は、図1において工作機械10の左隣に配設され、当該工作機械10で加工される複数の材料(加工前ワークW)をストックする装置である。また、前記製品ストッカ21は、図1において工作機械10の右隣に配設され、当該工作機械10で加工された複数の製品、又は半製品(加工済ワークW’)をストックする装置である。
The
図1に示すように、前記無人搬送車35には、その上面である載置面36に前記ロボット25が搭載され、また、オペレータが携帯可能な操作盤37が付設されている。尚、この操作盤37は、データの入出力を行う入出力部、当該無人搬送車35及びロボット25を手動操作する操作部、並びに画面表示可能なディスプレイなどを備えている。
As shown in FIG. 1, the automatic guided
また、無人搬送車35は、工場内における自身の位置を認識可能なセンサ(例えば、レーザ光を用いた距離計測センサ)を備えており、前記制御装置40による制御の下で、前記工作機械10、材料ストッカ20及び製品ストッカ21が配設される領域を含む工場内を無軌道で走行するように構成され、本例では、前記工作機械10、材料ストッカ20及び製品ストッカ21のそれぞれに対して設定された各作業位置に経由する。
Further, the automatic guided
図1及び図3に示すように、本実施形態のロボット25は、第1アーム26、第2アーム27及び第3アーム28の3つのアームを備えた多関節型のロボットであり、第3アーム28の先端部にはエンドエフェクタとしてのハンド29が装着され、また、支持バー30を介して1つのカメラ31が装着されている。
As shown in FIGS. 1 and 3, the
ただし、この形態に限定されない。ロボットは、(i)カメラと、(ii)ワークまたは工具を把持するためのハンド部と、(iii)前記ハンド部を可動可能に繋いでいる第2アーム部と、(iv)第2アーム部と可動可能に繋いでいる第1アーム部と、を有していればよい。本実施形態のロボット25と対比すると、ハンド部はハンド29が相当し、第2アーム部は、第2アーム27と回転可能(可動可能)に結合するジョイント部とが相当し、第1アーム部は、第1アーム26と回転可能(可動可能)に結合するジョイント部とが相当する。なお、本実施形態のロボットの第3アーム28と回転可能や進退可能(可動可能)に結合するジョイント部とが第2アーム部に相当すると解してもよい。つまり、本実施形態では、アームが3つあるが、少なくとも2つのアームがあればよい。
However, the present invention is not limited to this form. The robot has (i) a camera, (ii) a hand part for gripping a work or a tool, (iii) a second arm part that movably connects the hand part, and (iv) a second arm part. It suffices to have a first arm portion that is movably connected to the robot. Compared to the
図2に示すように、本実施形態の制御装置40は、動作プログラム記憶部41、移動位置記憶部42、動作姿勢記憶部43、マップ情報記憶部44、基準画像記憶部45、手動運転制御部46、自動運転制御部47、マップ情報生成部48、位置認識部49、補正量算出部50及び入出力インターフェース51から構成される。そして、制御装置40は、この入出力インターフェース51を介して、前記工作機械10、材料ストッカ20、製品ストッカ21、ロボット25、カメラ31、無人搬送車35及び操作盤37に接続している。なお、制御装置40は、この形態に限定されるものではない。制御装置40は、少なくとも、ロボットのハンド部の位置を制御する制御部を有していればよく、他の記憶部等は別の装置が有していてもよい。
As shown in FIG. 2, the control device 40 of the present embodiment has an operation program storage unit 41, a moving
尚、制御装置40は、CPU、RAM、ROMなどを含むコンピュータから構成され、前記手動運転制御部46、自動運転制御部47、マップ情報生成部48、位置認識部49、補正量算出部50及び入出力インターフェース51は、コンピュータプログラムによってその機能が実現され、後述する処理を実行する。また、動作プログラム記憶部41、移動位置記憶部42、動作姿勢記憶部43、マップ情報記憶部44及び基準画像記憶部45はRAMなどの適宜記憶媒体から構成される。本例では、制御装置40は無人搬送車35に付設され、適宜通信手段によって工作機械10、材料ストッカ20及び製品ストッカ21と接続されるとともに、ロボット25、カメラ31、無人搬送車35及び操作盤37とは有線又は無線によって接続されている。但し、このような態様に限られるものではなく、制御装置40は無人搬送車35以外の適宜位置に配設されていても良い。この場合、制御装置40は適宜通信手段によって各部と接続される。
The control device 40 is composed of a computer including a CPU, RAM, ROM, etc., and includes the manual
前記手動運転制御部46は、オペレータにより前記操作盤37から入力される操作信号に従って、前記無人搬送車35、ロボット25及びカメラ31を動作させる機能部である。即ち、オペレータは、この手動運転制御部46による制御の下で、操作盤37を用いた、前記無人搬送車35、ロボット25及びカメラ31の手動操作を実行することができる。
The manual
前記動作プログラム記憶部41は、生産時に前記無人搬送車35及び前記ロボット25を自動運転するための自動運転用プログラム、並びに後述する工場内のマップ情報を生成する際に前記無人搬送車35を動作させるためのマップ生成用プログラムを記憶する機能部である。自動運転用プログラム及びマップ生成用プログラムは、例えば、前記操作盤37に設けられた入出力部から入力され、当該動作プログラム記憶部41に格納される。
The operation program storage unit 41 operates the automatic guided
尚、この自動運転用プログラムには、無人搬送車35が移動する目標位置としての移動位置、移動速度及び無人搬送車35の向きに関する指令コードが含まれ、また、ロボット25が順次動作する当該動作に関する指令コード、及び前記カメラ31の操作に関する指令コードが含まれる。また、マップ生成用プログラムは、前記マップ情報生成部48においてマップ情報を生成できるように、無人搬送車35を無軌道で工場内を隈なく走行させるための指令コードが含まれる。
In addition, this automatic driving program includes a command code regarding a moving position, a moving speed, and a direction of the automatic guided
前記マップ情報記憶部44は、無人搬送車35が走行する工場内に配置される機械、装置、機器など(装置等)の配置情報を含むマップ情報を記憶する機能部であり、このマップ情報は前記マップ情報生成部48によって生成される。
The map
前記マップ情報生成部48は、詳しくは後述する前記制御装置40の自動運転制御部47による制御の下で、前記動作プログラム記憶部41に格納されたマップ生成用プログラムに従って無人搬送車35を走行させた際に、前記センサによって検出される距離データから工場内の空間情報を取得するとともに、工場内に配設される装置等の平面形状を認識し、例えば、予め登録された装置等の平面形状を基に、工場内に配設された具体的な装置、本例では、工作機械10、材料ストッカ20及び製品ストッカ21の位置、平面形状等(配置情報)を認識する。そして、マップ情報生成部48は、得られた空間情報及び装置等の配置情報を工場内のマップ情報として前記マップ情報記憶部44に格納する。
The map
前記位置認識部49は、前記センサによって検出される距離データ、及び前記マップ情報記憶部44に格納された工場内のマップ情報を基に、工場内における無人搬送車35の位置を認識する機能部であり、この位置認識部49によって認識される無人搬送車35の位置に基づいて、当該無人搬送車35の動作が前記自動運転制御部47によって制御される。
The
前記移動位置記憶部42は、前記無人搬送車35が移動する具体的な目標位置としての移動位置であって、前記動作プログラム中の指令コードに対応した具体的な移動位置を記憶する機能部であり、この移動位置には、上述した工作機械10、材料ストッカ20及び製品ストッカ21に対して設定される各作業位置が含まれる。尚、この移動位置は、例えば、前記手動運転制御部46による制御の下、前記操作盤37により前記無人搬送車35を手動運転して、目標とする各位置に移動させた後、前記位置認識部49によって認識される位置データを前記移動位置記憶部42に格納する操作によって設定される。この操作は所謂ティーチング操作と呼ばれる。
The moving
前記動作姿勢記憶部43は、前記ロボット25が所定の順序で動作することによって順次変化するロボット25の姿勢(動作姿勢)であって、前記動作プログラム中の指令コードに対応した動作姿勢に係るデータを記憶する機能部である。この動作姿勢に係るデータは、前記手動運転制御部46による制御の下で、前記操作盤37を用いたティーチング操作により、当該ロボット25を手動運転して、目標とする各姿勢を取らせたときの、当該各姿勢におけるロボット25の各関節(モータ)の回転角度データであり、この回転角度データが動作姿勢に係るデータとして前記動作姿勢記憶部43に格納される。
The motion
ロボット25の具体的な動作姿勢は、前記材料ストッカ20、工作機械10及び製品ストッカ21において、それぞれ設定される。例えば、材料ストッカ20では、当該材料ストッカ20において作業を開始するときの作業開始姿勢(取出開始姿勢)、当該材料ストッカ20に収納された加工前ワークWをハンド29により把持して、当該材料ストッカ20から取り出すための各作業姿勢(各取出姿勢)及び取出を完了したときの姿勢(取出完了姿勢であり、本例では、取出開始姿勢と同じ姿勢)が取出動作姿勢として設定される。
The specific operating posture of the
また、工作機械10では、加工済のワークW’を工作機械10から取り出すワーク取出動作姿勢、及び加工前ワークWを工作機械10に取り付けるワーク取付動作姿勢が設定される。
Further, in the
具体的には、ワーク取出動作姿勢では、例えば、工作機械10に進入する前の作業開始姿勢、ハンド29及びカメラ31を工作機械10の加工領域内に進入させて、支持バー15に設けられた識別図形にカメラ31を正対させ、当該カメラ31によって識別図形を撮像する姿勢(撮像姿勢)(図4参照)、工作機械10のチャック12に把持された加工済ワークW’に対してハンド29を対向させた姿勢(取出準備姿勢)、ハンド29をチャック12側に移動させて、当該チャック12に把持された加工済ワークW’をハンド29によって把持する姿勢(把持姿勢)、ハンド29をチャック12から離隔させて加工済ワークW’をチャック12から取り外した姿勢(取外姿勢)、ハンド29及びカメラ31を工作機械10から抜け出させた姿勢(作業完了姿勢)の各姿勢が設定される。尚、カメラ31を水平な識別図形に対して正対させたときのカメラ31の姿勢は、そのレンズと識別図形とが略平行になる姿勢である。
Specifically, in the work taking-out operation posture, for example, the work start posture before entering the
また、ワーク取付動作姿勢では、例えば、工作機械10に進入する前の作業開始姿勢、ハンド29及びカメラ31を工作機械10の加工領域内に進入させて、支持バー15に設けられた識別図形にカメラ31を正対させ、当該カメラ31によって識別図形を撮像する姿勢(撮像姿勢)(図4参照)、工作機械10のチャック12に対してハンド29に把持された加工前ワークWを対向させた姿勢(取付準備姿勢)、ハンド29をチャック12側に移動させて、加工前ワークWを当該チャック12によって把持可能にした姿勢(取付姿勢)、ハンド29をチャック12から離隔させた姿勢(離隔姿勢)、ハンド29及びカメラ31を工作機械10から抜け出させた姿勢(作業完了姿勢)の各姿勢が設定される。
Further, in the work mounting operation posture, for example, the work start posture before entering the
前記製品ストッカ21では、当該製品ストッカ21において作業を開始するときの作業開始姿勢(収納開始姿勢)、ハンド29に把持した加工済ワークW’を製品ストッカ21内に収納するための各作業姿勢(収納姿勢)及び収納を完了したときの姿勢(収納完了姿勢であり、本例では、収納開始姿勢と同じ姿勢)が収納動作姿勢として設定される。
In the
前記自動運転制御部47は、前記動作プログラム記憶部41に格納された自動運転用プログラム及びマップ生成用プログラムの何れかを用い、当該プログラムに従って無人搬送車35、ロボット25及びカメラ31を動作させる機能部である。その際、前記移動位置記憶部42及び動作姿勢記憶部43に格納されたデータが必要に応じて使用される。
The automatic
前記基準画像記憶部45は、ティーチング操作時に、無人搬送車35が工作機械10に対して設定された作業位置に在り、ロボット25が前記撮像姿勢にあるときに、前記ツールプリセッタ13の支持バー15に設けられた識別図形を前記カメラ31により撮像して得られた画像を、基準画像として記憶する機能部である。
The reference
前記補正量算出部50は、前記自動運転制御部47による制御の下で、前記動作プログラム記憶部41に格納された自動運転用プログラムに従って前記ロボット25が自動運転される際に、当該ロボット25が撮像姿勢に在り、カメラ31によって前記識別図形が撮像されると、当該自動運転時に得られた現在の識別図形の画像と、前記基準画像記憶部45に格納された基準画像(ティーチング操作時に撮像された画像)とに基づいて、ロボット25の現在の姿勢とティーチング操作時の姿勢との間におけるカメラ31の位置誤差量であって、識別図形と平行な平面内で設定される相互に直交する2軸方向におけるカメラ31の位置誤差量、及び該平面と直交する垂直軸回りのカメラ31の回転誤差量を推定し、推定された各誤差量に基づいて、前記作業姿勢における前記作用部に対する補正量を算出する。
When the
図6に、ティーチング操作時にカメラ31によって撮像された識別図形の画像、即ち、前記基準画像を示している。図中、実線で示した矩形線はカメラ31の視野、言い換えれば基準画像の輪郭である。また、図7に、自動運転時に得られた現在の識別図形の画像を実線で示している。尚、図7において、実線で示した矩形線は現在の画像の輪郭であり、一点鎖線で示した矩形線は、基準画像の輪郭である。この図7では、ロボット25のティーチング操作時における前記撮像姿勢と、現在の撮像姿勢にズレが生じたことによって、基準画像と現在の画像との間にズレが生じていることを表している。
FIG. 6 shows an image of the identification figure captured by the
前記補正量算出部50は、まず、ティーチング操作時における図6に示した基準画像を解析することにより、例えば、この基準画像、言い換えれば、カメラ31のフレーム上における識別図形から設定される図形座標系(xt軸-yt軸座標系)に基づいて、予め設定された図形座標系(xt軸-yt軸座標系)とロボット座標系(x軸-y軸座標系)との間の変換式に従って、ロボット座標系(x軸-y軸座標系)におけるティーチング時のカメラ31の位置(xteach,yteach,rzteach)を算出する。尚、x軸及びy軸は、識別図形と平行な相互に直交する2軸であって、ティーチング操作時におけるロボット25の座標系であり、rzは、x軸及びy軸に直交するz軸回りのカメラ31の回転角度である。また、本例において、前記xt軸,yt軸、及びx軸,y軸は水平面内で設定される(後述のx’軸及びy’軸も同様)。
The correction
次に、補正量算出部50は、同様にして、現在の画像を解析し、カメラ31のフレーム上における識別図形から設定される図形座標系(xt軸-yt軸座標系)に基づいて、前記変換式に従って、ティーチング操作時におけるロボット25の座標系(x軸-y軸座標系)における現在のカメラ31の位置(xcurr,ycurr,rzcurr)を算出する。
Next, the correction
そして、補正量算出部50は、x軸-y軸座標系におけるカメラ31のティーチング操作時の位置と、現在の位置との間の位置誤差量Δx,Δy及び回転誤差量Δrzを以下の数式1-数式3によって推定する。
(数式1)
(数式2)
(数式3)
Then, the correction
(Formula 1)
(Formula 2)
(Formula 3)
ここで、図7に示すように、現在のロボット25の座標系をx’軸-y’軸座標系とし、図8に示すように、ティーチング時のロボット25の座標系であるx軸-y軸座標系との間に、tx,tyの並進誤差が存在すると考えると、x’軸-y’軸座標系における現在のカメラ31の位置(x’,y’)は、以下の数式4によって算出される。尚、下式中のx,yはそれぞれx軸-y軸座標系におけるティーチング時のカメラ31の位置(xteach,yteach)であり、初期設定の値として既知である。
(数式4)
Here, as shown in FIG. 7, the current coordinate system of the
(Formula 4)
そして、上記の数式4を変形した下記数式5によって上記並進誤差tx,tyを算出することができ、補正量算出部50は、この数式5に従って、並進誤差量tx,tyを算出して、この並進誤差量tx,ty及び前記回転誤差量Δrzを前記作業姿勢における補正量とする。
(数式5)
但し、x’軸-y’軸座標系における現在のカメラ31の位置(x’,y’)は、x軸-y軸座標系における現在のカメラ31の位置(x+Δx,y+Δy)と一致する。
Then, the translational error t x , ty can be calculated by the following formula 5 which is a modification of the above formula 4, and the correction
(Formula 5)
However, the current position (x', y') of the
そして、前記自動運転制御部47は、ロボット25が工作機械10で作業する際の作業姿勢、例えば、前記ワーク取出動作姿勢における前記取出準備姿勢、把持姿勢及び取外姿勢、並びに前記ワーク取付動作姿勢における取付準備姿勢、取付姿勢及び離隔姿勢について、前記補正量算出部50において算出された補正量に基づいて、ロボット25のハンド29に位置を補正する。
Then, the automatic
例えば、ロボット25のハンド29をチャック12に対して位置決めする際には、現在のロボット25の座標系であるx’軸-y’軸座標系におけるハンド29の位置決め位置が、ティーチング操作時に設定されたx軸-y軸座標系におけるハンド29の位置決め位置と一致するように、x’軸-y’軸座標系におけるハンド29の位置決め位置が補正される。
For example, when positioning the
この補正の態様を図9に示している。図9において、位置xpp,ypp、及び位置xpc,ypcはティーチング操作時のロボット座標系であるx軸-y軸座標系におけるハンド29の設定位置であり、ハンド29は撮像姿勢における位置xpp,yppからチャック12に対して設定された位置xpc,ypcに位置決めされる設定となっている。前記作業位置に位置決めされた無人搬送車35及びロボット25に位置ズレが無ければ、ハンド29は位置xpp,yppから位置xpc,ypcに移動する。
The mode of this correction is shown in FIG. In FIG. 9, the positions xp p , yp p , and the positions xp c , yp c are the set positions of the
図9において、位置xp’p,yp’pは、現在の動作時のロボット座標系であるx’軸-y’軸座標系における撮像姿勢時のハンド29の位置である。この位置xp’p,yp’pは、前記作業位置に位置決めされた無人搬送車35及びロボット25に位置ズレが生じているため、ティーチング操作時の位置xpp,yppに対して、位置誤差Δx,Δy、及び回転誤差Δrzを生じており、x’軸-y’軸座標系において、前記xpp,yppに対応する位置である。そして、このx’軸-y’軸座標系において、前記xpc,ypcに対応する位置はxp’c,yp’cであるが、この位置は、チャック12の真の位置からズレた位置となっている。そこで、自動運転制御部47は、このxpc,ypcを、前記補正量算出部50によって算出された並進誤差量tx,tyと、前記回転誤差量Δrzに基づき、下記数式6に従って補正したxph’c,yph’cを算出し、この補正された位置xph’c,yph’cにハンド29を移動させる。また、前記回転誤差量Δrzに基づいてZ軸回りのハンド29の回転姿勢を補正する。
(数式6)
In FIG. 9, the positions xp'p and yp'p are the positions of the
(Formula 6)
尚、この位置データxph’c,yph’cは、予め設定された変換式により、ロボット25の各関節の角度データに変換され、変換された角度データに従って、ロボット25は制御される。
The position data xph'c and yph'c are converted into angle data of each joint of the
そして、ロボット25が工作機械10で作業する各作業姿勢としてティーチング操作時において設定されたハンド29の各位置xpi,ypiに対応する補正された位置xph’i,yph’iは、上記数式6を一般化した以下の数式7によって算出することができ、自動運転制御部47は、前記回転誤差量Δrzに基づいてZ軸回りのハンド29の回転姿勢を補正するとともに、このようにして算出される各補正位置xph’i,yph’iにハンド29を移動させる。但し、iは1以上の自然数である。
(数式7)
Then, the corrected positions xph'i and yph'i corresponding to the respective positions xpi i and ypi i of the
(Formula 7)
以上の構成を備えた本例のシステム1によれば、以下のようにして、無人自動生産が実行される。 According to the system 1 of this example having the above configuration, unmanned automatic production is executed as follows.
即ち、前記制御装置40の自動運転制御部47による制御の下で、前記動作プログラム記憶部41に格納された自動運転用プログラムが実行され、この自動運転用プログラムに従って、例えば、無人搬送車35及びロボット25が以下のように動作する。
That is, under the control of the automatic
まず、無人搬送車35は、工作機械10に対して設定された作業位置に移動するとともに、ロボット25は上述したワーク取出動作の作業開始姿勢を取る。尚、この時、工作機械10は所定の加工を完了して、ロボット25が加工領域内に侵入可能なようにドアカバーを開いており、また、自動運転制御部47からの指令を受信して、前記ツールプリセッタ13の支持バー15を加工領域内に進出させているものとする。
First, the automatic guided
ついで、ロボット25は前記撮像姿勢に移行し、前記支持バー15に設けられた識別図形をカメラ31によって撮像する。そして、このようにして、カメラ31によって識別図形が撮像されると、前記補正量算出部50において、当該識別図形の画像と、前記基準画像記憶部45に格納された基準画像とを基に、上記数式1-3に従ってロボット25のティーチング操作時における撮像姿勢と、現在の撮像姿勢との間の位置誤差量Δx,Δy及び回転誤差量Δrzが推定され、推定された各誤差量に基づき、上述した数式4-5に従って、ロボット25の以降のワーク取出動作姿勢に対する並進誤差の補正量tx,ty及び回転誤差の補正量Δrzが算出される。
Then, the
そして、自動運転制御部47は、補正量算出部50により算出された各補正量に基づいて、以降のワーク取出動作姿勢、即ち、上述した取出準備姿勢、把持姿勢、取外姿勢及び作業完了姿勢におけるハンド29の位置を数式7に従って補正するとともに、Z軸回りの回転位置を補正して、工作作機械10のチャック12に把持された加工済ワークW’をハンド29に把持して当該工作機械10から取り出す。尚、ロボット25に前記把持姿勢を取らせた後に、自動運転制御部47から工作機械10にチャック開指令を送信することで、当該チャック12が開かれる。
Then, the automatic
次に、自動運転制御部47は、無人搬送車35を、製品ストッカ21に対して設定された作業位置に移動させるとともに、ロボット25に、当該製品ストッカ21において作業を開始するときの収納開始姿勢、ハンド29に把持した加工済ワークを製品ストッカ21内に収納するための各収納姿勢及び収納を完了したときの収納完了姿勢を順次取らせて、ハンド29に把持した加工済ワークを製品ストッカ21に収納する。
Next, the automatic
ついで、自動運転制御部47は、無人搬送車35を、材料ストッカ20に対して設定された作業位置に移動させるとともに、ロボット25に、当該材料ストッカ20において作業を開始するときの取出開始姿勢、当該材料ストッカ20に収納された加工前ワークをハンド29によって把持して、当該材料ストッカ20から取り出すための各取出姿勢及び取出を完了したときの取出完了姿勢を順次取らせて、ハンド29に加工前ワークを把持させる。
Next, the automatic
次に、自動運転制御部47は、再度、無人搬送車35を工作機械10に対して設定された作業位置に移動させるとともに、ロボット25に上述したワーク取付動作の作業開始姿勢を取らせる。ついで、ロボット25を前記撮像姿勢に移行させ、前記支持バー15に設けられた識別図形をカメラ31によって撮像させる。そして、このようにして、カメラ31によって識別図形が撮像されると、前記補正量算出部50において、当該識別図形の画像と、前記基準画像記憶部45に格納された基準画像とを基に、上記数式1-3に従ってロボット25のティーチング操作時における撮像姿勢と、現在の撮像姿勢との間の位置誤差量Δx,Δy及び回転誤差量Δrzが推定され、推定された各誤差量に基づき、上述した数式4-5に従って、ロボット25の以降のワーク取付動作姿勢に対する並進誤差の補正量tx,ty及び回転誤差の補正量Δrzが算出される。
Next, the automatic
この後、自動運転制御部47は、補正量算出部50により算出された各補正量に基づいて、以降のロボット25のワーク取付動作姿勢、即ち、上述した取付準備姿勢、取付姿勢、離隔姿勢及び作業完了姿勢におけるハンド29の位置を数式7に従って補正するとともに、Z軸回りの回転位置を補正して、ロボット25に、ハンド29に把持された加工前ワークWを工作機械10のチャック12に取り付けた後、機外に退出する動作を行わせる。この後、自動運転制御部47は、工作機械10に加工開始指令を送信して、工作機械10に加工動作を行わせる。尚、ロボット25に前記取付姿勢を取らせた後に、自動運転制御部47から工作機械10にチャック閉指令を送信することで、当該チャック12が閉じられ、当該チャック12によって加工前ワークWが把持される。
After that, the automatic
そして、以上を繰り返すことにより、本例のシステム1では、無人自動生産が連続して実行される。 Then, by repeating the above, in the system 1 of this example, unmanned automatic production is continuously executed.
そして、本例のシステム1では、ロボット25が実際に作業する工作機械10の加工領域内に配置された識別図形を用いて、ロボット25の作業姿勢を補正するようにしているので、当該作業姿勢を正確に補正することができ、これにより、ロボット25は、高い動作精度が求められる作業でも、当該作業を精度良く実行することができる。
Then, in the system 1 of this example, the working posture of the
また、このように、ロボット25が精度の良い作業を実行することで、当該システム1は不要な中断を招くことなく高い稼働率で稼働し、結果、当該システム1によれば、信頼性が高く、生産効率の高い無人化を図ることが可能となる。
Further, as the
また、動作プログラムに従って動作するロボット25は、カメラ31によって識別図形を撮像する際に、一度の動作でこれを実行するように構成されているので、従来に比べて、短時間で精度の良い補正を行うことができる。
Further, since the
また、本例では、工作機械10が加工を実行しているときには、加工領域外に格納されるツールプリセッタ13の支持バー15に識別図形を設けているので、当該識別図形が加工時に発生する切屑等によって汚損されるのを防止することができ、この結果、上記補正を精度良く行うことができる。
Further, in this example, when the
また、本例では、前記識別図形を、複数の画素が二次元に配列されたマトリクス構造を有するものとしているので、前記位置誤差量Δx,Δy、及び回転誤差量Δrzを高精度に、しかも高い繰り返し精度で推定することができる。 Further, in this example, since the identification figure has a matrix structure in which a plurality of pixels are arranged two-dimensionally, the position error amounts Δx, Δy and the rotation error amount Δrz are highly accurate and high. It can be estimated with repeatability.
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。本例のシステムの構成は、図2において、符号1’で示される。同図2に示すように、本例のシステム1’は、制御装置40’における補正量算出部50’が第1の実施形態に係るシステム1とは異なるもので、他の構成については、第1の実施形態に係るシステム1と同じである。したがって、以下では、補正量算出部50’以外の構成については、その説明を省略する。尚、本例では、前記ロボット25の撮像姿勢において、第1の実施形態と同様に、カメラ31を識別図形に対して正対させる方がより高精度な補正ができて好ましいが、正対させることなく、カメラ31の撮像光軸が識別図形に対して斜めに傾斜した姿勢としても、実用的な補正を行うことができる。
(Second embodiment)
Next, a second embodiment of the present invention will be described. The configuration of the system of this example is shown by reference numeral 1'in FIG. As shown in FIG. 2, in the system 1'of this example, the correction amount calculation unit 50'in the control device 40' is different from the system 1 according to the first embodiment, and the other configurations are the first. It is the same as the system 1 according to the embodiment of 1. Therefore, in the following, the description of the configurations other than the correction amount calculation unit 50'will be omitted. In this example, in the imaging posture of the
本例の補正量算出部50’は、前記補正量算出部50における誤差量の算出手法を一般化した手法によって、前記ロボット25の現在の姿勢とティーチング操作時の姿勢との間における前記カメラ31の位置誤差量及び回転誤差量を算出するとともに、得られた位置誤差量及び回転誤差量に基づいて、ロボット25の各作業姿勢を補正する。
The correction amount calculation unit 50'of this example is a method that generalizes the error amount calculation method in the correction
具体的には、補正量算出部50’は、自動運転時に得られた現在の識別図形の画像と、前記基準画像記憶部45に格納された基準画像(ティーチング操作時に撮像された画像)等に基づいて、以下の処理を実行して、ロボット25の現在の姿勢とティーチング操作時の姿勢との間におけるカメラ31の位置誤差量であって、識別図形と平行な平面内で設定される相互に直交するx軸及びy軸、並びにこれらx軸及びy軸に直交するz軸方向におけるカメラ31の位置誤差量と、x軸、y軸及びz軸回りのカメラ31の回転誤差量とを推定するとともに、推定した位置誤差量及び回転誤差量に基づいて、ロボット25の各作業姿勢を補正する。
Specifically, the correction amount calculation unit 50'is used for an image of the current identification figure obtained during automatic operation, a reference image stored in the reference image storage unit 45 (an image captured during the teaching operation), and the like. Based on this, the following processing is executed to determine the amount of position error of the
(前処理)
前記補正量算出部50’は、まず、前処理として、前記ティーチング操作時に撮像された前記基準画像に基づいて、カメラ31に対応した座標系であるカメラ座標系から、前記識別図形に対した座標系である図形座標系に変換するための座標変換行列
を取得する。尚、この座標変換行列
は、カメラ31の内部パラメータ、識別図形から認識されるホモグラフィ行列、中心座標、コーナ座標及び識別図形の大きさなどから取得することができる。
(Preprocessing)
First, as a preprocessing, the correction amount calculation unit 50'has coordinates with respect to the identification figure from the camera coordinate system, which is a coordinate system corresponding to the
To get. This coordinate transformation matrix
Can be obtained from the internal parameters of the
また、前記カメラ座標系は、カメラの平面状の撮像素子群について設定される3次元の座標系であり、例えば、撮像素子群の中心位置に原点が設定される。また、前記図形座標系は、識別図形について設定される3次元の座標系であり、例えば、識別図形の中心位置に原点が設定される。また、後述するロボット座標系は、制御装置40’がロボット25を制御するために設定された3次元の座標系であり、適宜位置に原点が設定されている。
Further, the camera coordinate system is a three-dimensional coordinate system set for the planar image pickup element group of the camera, and the origin is set at the center position of the image pickup element group, for example. Further, the graphic coordinate system is a three-dimensional coordinate system set for the identification figure, and for example, the origin is set at the center position of the identification figure. Further, the robot coordinate system described later is a three-dimensional coordinate system set for the control device 40'to control the
次に、補正量算出部50’は、取得された座標変換行列
と、前記カメラ座標系におけるカメラ位置であって、前記ティーチング操作における撮像時のカメラ位置
とに基づいて、前記図形座標系におけるティーチング操作時のカメラ位置
を以下の数式8によって算出する。
(数式8)
Next, the correction amount calculation unit 50'is the acquired coordinate transformation matrix.
And the camera position in the camera coordinate system, which is the camera position at the time of imaging in the teaching operation.
Based on the above, the camera position during the teaching operation in the graphic coordinate system.
Is calculated by the following formula 8.
(Formula 8)
(ティーチング操作時のカメラ位置算出処理)
次に、補正量算出部50’は、ティーチング操作時のロボット座標系におけるカメラ位置
を以下の数式9によって算出する。
(数式9)
続いて、補正量算出部50’は、ティーチング操作時のカメラ座標系からティーチング操作時のロボット座標系へ変換するための座標変換行列
を以下の数式10によって算出する。
(数式10)
ここで、
の回転行列成分
を基に、x軸、y軸及びz軸回りの各回転角度
、
、
を算出する。
尚、
は、図形座標系からティーチング操作時のロボット座標系へ変換するための座標変換行列である。例えば、図形座標系からティーチング操作時のカメラ座標系へ変換するための座標変換行列
と、前記カメラ座標系からティーチング操作時のロボット座標系へ変換するための座標変換行列
に基づいて、以下の数式11によって取得することができる。
(数式11)
(Camera position calculation processing during teaching operation)
Next, the correction amount calculation unit 50'is the camera position in the robot coordinate system during the teaching operation.
Is calculated by the following formula 9.
(Formula 9)
Subsequently, the correction amount calculation unit 50'is a coordinate conversion matrix for converting the camera coordinate system during the teaching operation to the robot coordinate system during the teaching operation.
Is calculated by the following
(Formula 10)
here,
Rotation matrix component of
Each rotation angle around the x-axis, y-axis and z-axis based on
,
,
Is calculated.
still,
Is a coordinate conversion matrix for converting from the graphic coordinate system to the robot coordinate system at the time of teaching operation. For example, a coordinate transformation matrix for converting from a graphic coordinate system to a camera coordinate system during a teaching operation.
And the coordinate transformation matrix for converting from the camera coordinate system to the robot coordinate system at the time of teaching operation.
Based on, it can be obtained by the following
(Formula 11)
(自動運転時のカメラ位置算出処理)
次に、補正量算出部50’は、自動運転時(実動作時)に得られる現在の識別図形の画像に基づいて、上記と同様にして、カメラ座標系から図形座標系に変換するための座標変換行列
を取得した後、当該現在の画像に基づいて、図形座標系における現在のカメラ位置
を以下の数式12によって算出するとともに、前記ティーチング操作時のロボット座標系における現在のカメラ位置
を以下の数式13によって算出する。
(数式12)
(数式13)
続いて、補正量算出部50’は、現在のカメラ座標系からティーチング操作時のロボット座標系へ変換するための座標変換行列
を以下の数式14によって算出する。
(数式14)
ここで、
の回転行列成分
を基に、x軸、y軸及びz軸回りの各回転角度
、
、
を算出する。
(Camera position calculation processing during automatic driving)
Next, the correction amount calculation unit 50'is used to convert the camera coordinate system to the graphic coordinate system in the same manner as above based on the image of the current identification graphic obtained during automatic operation (actual operation). Coordinate transformation matrix
Then, based on the current image, the current camera position in the graphic coordinate system
Is calculated by the following
Is calculated by the following
(Formula 12)
(Formula 13)
Subsequently, the correction amount calculation unit 50'is a coordinate conversion matrix for converting the current camera coordinate system to the robot coordinate system at the time of teaching operation.
Is calculated by the following
(Formula 14)
here,
Rotation matrix component of
Each rotation angle around the x-axis, y-axis and z-axis based on
,
,
Is calculated.
(誤差量算出処理)
次に、補正量算出部50’は、上記のようにして算出したティーチング操作時の座標系におけるティーチング操作時のカメラ角度
、
、
と、ティーチング操作時の座標系における現在のカメラ角度
、
、
とに基づいて、これらの差分を算出することによって、x軸、y軸及びz軸回りの各回転誤差Δrx、Δry及びΔrzを算出する。
但し、
(Error amount calculation process)
Next, the correction amount calculation unit 50'is the camera angle at the time of the teaching operation in the coordinate system at the time of the teaching operation calculated as described above.
,
,
And the current camera angle in the coordinate system during the teaching operation
,
,
By calculating these differences based on the above, the rotation errors Δrx, Δry and Δrz around the x-axis, y-axis and z-axis are calculated.
however,
次に、補正量算出部50’は、上記のようにして算出した各回転誤差Δrx、Δry及びΔrzに基づいて、ティーチング操作時におけるロボット座標系と、現在のロボット座標系との間の回転行列
、即ち、回転誤差量を以下の数式15によって算出するとともに、ティーチング操作時のロボット座標系から現在のロボット座標系への並進行列
、即ち、位置誤差量を以下の数式16により算出する。
(数式15)
(数式16)
Next, the correction amount calculation unit 50'is a rotation matrix between the robot coordinate system at the time of teaching operation and the current robot coordinate system based on the rotation errors Δrx, Δry and Δrz calculated as described above.
That is, the amount of rotation error is calculated by the following
That is, the amount of position error is calculated by the following
(Formula 15)
(Formula 16)
(補正量算出処理)
次に、補正量算出部50’は、上記のようにして算出した誤差量に基づいて、この誤差量を補正するための補正量
を以下の数式17によって算出する。
(数式17)
(Correction amount calculation process)
Next, the correction amount calculation unit 50'is a correction amount for correcting this error amount based on the error amount calculated as described above.
Is calculated by the following
(Formula 17)
そして、前記自動運転制御部47は、補正量算出部50’により算出された補正量に基づいて、以降のロボット25の動作姿勢におけるハンド29の位置
を以下の数式18に従って補正する。
(数式18)
Then, the automatic
Is corrected according to the following formula 18.
(Formula 18)
(第3の実施形態)
本例のシステムの構成は、図2に示において、符号1”で示される。図2に示すように、本例のシステム1”は、制御装置40”を構成する補正量算出部50”及び動作プログラム記憶部41”が第1及び第2の実施形態に係るシステム1とは異なるもので、他の構成については、第1及び第2の実施形態に係るシステム1と同じである。したがって、以下では、補正量算出部50”及び動作プログラム記憶部41”以外の構成については、その説明を省略する。
(Third embodiment)
The configuration of the system of this example is shown by reference numeral 1 "in FIG. 2. As shown in FIG. 2, the system 1" of this example includes the correction
本例の動作プログラム記憶部41”には、第1及び第2の実施形態とは異なる自動運転用プログラムが格納されている。この自動運転用プログラムは、工作機械10に対して作業を行うロボット25の動作の内、前記識別図形を撮像する動作が2回連続して実行される点が、第1及び第2の実施形態とは異なる。即ち、本例の自動運転プログラムでは、前記x軸及びy軸方向の位置誤差量、及びz軸回りの回転誤差量を算出するための1回目の撮像動作と、算出された位置誤差量及び回転誤差量に基づいて、ロボット25の撮像姿勢を補正した状態で、前記z軸方向の位置誤差量、及びx軸及びy軸回りの各回転誤差量を算出するための2回目の撮像動作とを実行するように設定されている。
The operation program storage unit 41 "of this example stores an automatic operation program different from that of the first and second embodiments. This automatic operation program is a robot that performs work on the
前記補正量算出部50”は、前記第2の実施形態に係る補正量算出部50’における「前処理」及び「ティーチング操作時のカメラ位置算出処理」を実行するとともに、前記自動運転制御部47による制御の下で実行された1回目の撮像動作及び2回目の撮像動作によって得られる各画像に基づいて、それぞれ補正量を算出する処理を実行する。
The correction
(1回目の補正量算出処理)
前記補正量算出部50”は、1回目の撮像画像に基づいて、前記補正量算出部50’における「前処理」、「ティーチング操作時のカメラ位置算出処理」、「自動運転時のカメラ位置算出処理」、「誤差量算出処理」及び「補正量算出処理」を実行して、前記x軸及びy軸方向の各位置誤差量、及びz軸回りの回転誤差量を算出するとともに、これらの誤差量を補正するための補正量を算出する。
(First correction amount calculation process)
The correction
その際、前記図形座標系におけるカメラ位置、及び前記ロボット座標系の各カメラ位置は、それぞれ以下として、前記「前処理」、「ティーチング操作時のカメラ位置算出処理」、「自動運転時のカメラ位置算出処理」、「誤差量算出処理」及び「補正量算出処理」を実行する。
At that time, the camera position in the graphic coordinate system and each camera position in the robot coordinate system are as follows, and the above-mentioned "pre-processing", "camera position calculation processing at the time of teaching operation", and "camera position at the time of automatic operation" are set as follows. "Calculation process", "Error amount calculation process" and "Correction amount calculation process" are executed.
以上の処理により、x軸方向の位置誤差量Δx、y軸方向の位置誤差量Δy、及びz軸回りの回転誤差量Δrzのみが得られ、これを補正するための補正量が上記の数式17によって算出される。そして、自動運転制御部47は、上記数式18に従って、ロボット25の2回目の撮像姿勢を補正する。
By the above processing, only the position error amount Δx in the x-axis direction, the position error amount Δy in the y-axis direction, and the rotation error amount Δrz around the z-axis are obtained, and the correction amount for correcting these is the
(2回目の補正量算出処理)
次に、前記補正量算出部50”は、2回目の撮像画像に基づいて、前記「前処理」、「ティーチング操作時のカメラ位置算出処理」、「自動運転時のカメラ位置算出処理」、「誤差量算出処理」及び「補正量算出処理」を実行して、前記x軸、y軸及びz軸方向の各位置誤差量、及びx軸、y軸及びz軸回りの各回転誤差量を算出するとともに、これらの誤差量を補正するための補正量を算出する。
(Second correction amount calculation process)
Next, the correction
その際、前記図形座標系におけるティーチング操作時のカメラ位置、及び前記ロボット座標系の各カメラ位置は、それぞれ以下として、前記「前処理」、「ティーチング操作時のカメラ位置算出処理」、「自動運転時のカメラ位置算出処理」、「誤差量算出処理」及び「補正量算出処理」を実行する。
At that time, the camera position at the time of teaching operation in the graphic coordinate system and each camera position of the robot coordinate system are as follows, respectively, and the above-mentioned "pre-processing", "camera position calculation processing at the time of teaching operation", and "automatic operation". Executes "camera position calculation process", "error amount calculation process", and "correction amount calculation process".
以上の処理により、x軸方向の位置誤差量Δx、y軸方向の位置誤差量Δy、z軸方向の位置誤差量Δz、x軸回りの回転誤差量Δrx、y軸回りの回転誤差量Δry、及びz軸回りの回転誤差量Δrzが得られ、これを補正するための補正量が上記の数式17によって算出される。そして、自動運転制御部47は、上記数式18に従って、ロボット25の姿勢を補正する。尚、x軸方向の位置誤差量Δx、y軸方向の位置誤差量Δy、及びz軸回りの回転誤差量Δrzについての補正量は、1回目に算出された値を維持しても良く、或いは、1回目に算出された値と2回目に算出された値を足し合わせた値で置き換えても良い。
By the above processing, the position error amount Δx in the x-axis direction, the position error amount Δy in the y-axis direction, the position error amount Δz in the z-axis direction, the rotation error amount Δrx around the x-axis, the rotation error amount Δry around the y-axis, And the rotation error amount Δrz around the z-axis is obtained, and the correction amount for correcting this is calculated by the
以上のように2段階で補正量を算出するのは、識別図形を撮像する際に、識別図形がカメラ31の視野内において、その中心位置から遠い位置にある場合には、図形座標系から得られるz軸方向の位置データのばらつき、x軸回りの回転データのばらつき、y軸回りの回転データのばらつきが大きくなる傾向にあるため、これに起因して、x軸及びy軸方向における位置精度が悪化する虞があるからである。
The correction amount is calculated in two steps as described above, when the identification figure is imaged, if the identification figure is located far from the center position in the field of view of the
そこで、上記のようにして、1回目の補正量算出処理では、x軸及びy軸方向における位置誤差量、並びにz軸回りの回転誤差量Δrzを補正するための補正量を算出するとともに、この補正量に基づいて、ロボット25の撮像姿勢を補正して、識別図形がカメラ31の視野の中心に位置する状態にする。そして、2回目の補正量算出処理では、このように識別図形がカメラ31の視野の中心に位置した画像に基づいて、残りのz軸方向における位置誤差量、並びにx軸及びy軸回りの回転誤差量Δrx,Δryに対する補正量を得るようにしている。以上により、正確なx軸、y軸及びz軸方向における位置誤差量、並びにx軸、y軸及びz軸回りの回転誤差量Δrx,Δry,Δrzを算出することができ、これらの誤差量に対する正確な補正量を算出することができる。そして、この結果、ロボット25の姿勢を高精度に制御することが可能となる。
Therefore, as described above, in the first correction amount calculation process, the correction amount for correcting the position error amount in the x-axis and y-axis directions and the rotation error amount Δrz around the z-axis is calculated, and this correction amount is calculated. Based on the correction amount, the imaging posture of the
(第4の実施形態)
これまでの実施形態では、位置誤差量Δx,Δy、及び回転誤差量Δrzを算出して、ロボット搭載移動装置の姿勢を補正しているが、この形態に限定されない。基準になる識別図形の位置である第1識別位置と、作業を行う前に位置を確認するためにカメラで撮影した識別図形を含む画像から算出される識別図形の位置である第2識別位置と、に基づいて、ワークなどの対象の対象位置を取得し、ロボットのハンド部の位置を補正する形態でもよい。つまり、位置誤差量Δx,Δy、及回転誤差量Δrzを算出せず、直接、対象位置を取得する形態でもよい。
(Fourth Embodiment)
In the embodiments so far, the position error amount Δx, Δy and the rotation error amount Δrz are calculated to correct the posture of the robot-mounted mobile device, but the present invention is not limited to this embodiment. The first identification position, which is the position of the reference figure, and the second identification position, which is the position of the identification figure calculated from the image including the identification figure taken by the camera to confirm the position before performing the work. , The target position of the target such as a work may be acquired and the position of the hand portion of the robot may be corrected. That is, the target position may be directly acquired without calculating the position error amount Δx, Δy and the rotation error amount Δrz.
また、これまでの実施形態では、ワークの着脱を例に主に説明したが、これに限定されない。対象は、ワークの他に、工具、ATCカメラ、計測器などがある。工作機械内に着脱して用いられるものを対象とする。これらの対象は、ロボット搭載移動装置で搬送することができるためである。 Further, in the embodiments so far, the attachment / detachment of the work has been mainly described as an example, but the present invention is not limited to this. Targets include tools, ATC cameras, measuring instruments, etc., in addition to workpieces. It is intended for items that are attached to and detached from the machine tool. This is because these objects can be transported by the robot-mounted mobile device.
そこで、まず、ロボット搭載移動装置は、工作機械内に配された識別図形と平行な平面内で設定される第1軸と第2軸とにおける識別図形の位置を第1識別位置(例えば、平面内の2軸を基準にした位置座標)をティーチングで記憶する。第1識別位置は、工作機械内からワーク、工具、ATCカメラ、計測器などの対象を取り出す動作、または、工作機械内にワーク、工具、ATCカメラ、計測器などの対象を設置する動作を行う際のロボット搭載移動装置の位置として第1装置位置と関連付けられた情報である。ここで、第1軸と第2軸とは交差していればよく、直交していなくてもよい。平面内で位置(座標)が判別できる情報を提供できる軸であればよい。もちろん、直交するx軸とy軸の関係が好ましい形態ではある。また、本実施形態のロボット搭載移動装置の第1装置位置は、回転などの位置変化も含めた位置情報である。 Therefore, first, the robot-mounted mobile device sets the position of the identification figure on the first axis and the second axis set in the plane parallel to the identification figure arranged in the machine tool to the first identification position (for example, the plane). (Position coordinates based on the two axes) are memorized by teaching. The first identification position performs an operation of taking out an object such as a work, a tool, an ATC camera, or a measuring instrument from the machine tool, or an operation of installing an object such as a work, a tool, an ATC camera, or a measuring instrument in the machine tool. This is information associated with the position of the first device as the position of the robot-mounted mobile device. Here, the first axis and the second axis may intersect with each other and may not be orthogonal to each other. Any axis may be used as long as it can provide information that can determine the position (coordinates) in the plane. Of course, the relationship between the x-axis and the y-axis that are orthogonal to each other is a preferable form. Further, the position of the first device of the robot-mounted mobile device of the present embodiment is position information including a position change such as rotation.
第1識別位置は、対象の位置である対象位置と関連付けられている。対象位置は、工具の位置、ワークの位置などの対象自体の位置情報でも良いし、ワークを取り付けている主軸のワーク取付位置、工具を取り付けている主軸や刃物台の工具取付位置などの設置位置や取り外し位置などの位置情報でもよい。 The first identification position is associated with the target position, which is the target position. The target position may be the position information of the target itself such as the position of the tool and the position of the work, or the installation position such as the work mounting position of the spindle on which the work is mounted, the tool mounting position of the spindle on which the tool is mounted, and the tool post. Or position information such as removal position may be used.
ロボット搭載移動装置は、例えば、他の第2工作機械の前から移動し、ワークを設置する第1工作機械の前に移動し、第1工作機械の前で停止する。ロボット搭載移動装置が停止した停止位置は、第2装置位置になる。この第2装置位置は、第1装置位置と同じであれば、補正を行うことなく、ワークを設置できる。本実施形態のロボット搭載移動装置は、移動し停止した際の停止位置が第1装置位置と異なる場合があるため、そのような場合、第2装置位置を基準にして見た場合のワーク設置位置も変わるため、ハンドの位置の補正を行う必要がある。 The robot-mounted moving device moves, for example, from the front of another second machine tool, moves in front of the first machine tool in which the work is installed, and stops in front of the first machine tool. The stop position at which the robot-mounted mobile device is stopped is the second device position. If the position of the second device is the same as the position of the first device, the work can be installed without correction. In the robot-mounted mobile device of the present embodiment, the stop position when moving and stopping may be different from the position of the first device. In such a case, the work installation position when viewed with reference to the position of the second device. Therefore, it is necessary to correct the position of the hand.
そこで、ロボット搭載移動装置は、第2装置位置においてカメラで撮影を行う。ロボット搭載移動装置のカメラで撮影された画像の中に識別図形があれば、ロボット搭載移動装置は、第2装置位置における識別図形の第2識別位置を取得する。ロボット搭載移動装置は、記憶している第1識別位置とカメラ撮影で取得した第2識別位置とを用いて、第2装置位置における対象位置の情報を取得する。そして、ロボット搭載移動装置は、対象位置の情報に基づいてロボットのハンド部の位置を、識別図形を含む平面内での(a)第1軸上の移動と(b)第2軸上の移動と(c)前記平面内での回転移動とで補正し、ハンド部で把持していたワークを工作機械内の所定位置に設置する。 Therefore, the robot-mounted mobile device takes a picture with a camera at the position of the second device. If there is an identification figure in the image taken by the camera of the robot-mounted moving device, the robot-mounted moving device acquires the second identification position of the identification figure at the second device position. The robot-mounted mobile device acquires information on the target position at the second device position by using the stored first identification position and the second identification position acquired by camera photography. Then, the robot-mounted moving device determines the position of the hand portion of the robot based on the information of the target position by (a) moving on the first axis and (b) moving on the second axis in the plane including the identification figure. And (c) the rotational movement in the plane is corrected, and the work held by the hand portion is installed at a predetermined position in the machine tool.
ここで、第1識別位置は、例えば、第1装置位置を原点と考えた場合に第1軸をX1軸とし第2軸をY1軸とすると、(x1,y1,rz1)となる。第1識別位置は、対象の位置である対象位置(x11,y11,rz11)と関連付けられている。第2識別位置は、第2装置位置を原点と考えた場合に第1軸をX2軸とし第2軸をY2軸とすると(x2,y2,rz2)となる。第1装置位置と第2装置位置とが同じであれば、(x2,y2,rz2)と(x1,y1,rz1)とは同じ位置となる。そのため、第2装置位置を基準にして見た場合の対象位置も(x11,y11,rz11)位置情報と同じである。 Here, the first identification position is (x1, y1, rz1), for example, when the position of the first device is considered as the origin and the first axis is the X1 axis and the second axis is the Y1 axis. The first identification position is associated with the target position (x11, y11, rz11), which is the target position. The second identification position is (x2, y2, rz2) when the first axis is the X2 axis and the second axis is the Y2 axis when the position of the second device is considered as the origin. If the position of the first device and the position of the second device are the same, (x2, y2, rz2) and (x1, y1, rz1) are the same positions. Therefore, the target position when viewed with reference to the position of the second device is also the same as the position information (x11, y11, rz11).
しかし、前述したようにロボット搭載移動装置は、工作機械間を移動するため、第1装置位置と第2装置位置が異なる場合がある。ここでは、第1識別位置が(x1,y1,0(rz1=0))で、対象位置が(x11,y11,rz11)の場合の説明を行う。この場合、第2識別位置は、第2装置位置を原点と考えた場合に第1軸をX2軸とし第2軸をY2軸とした場合で(x2,y2,0)ではなくなる。これは、第1識別位置と第2識別位置とは、実空間では同じ位置であるが、ロボット搭載移動装置(特に、ロボット搭載移動装置の移動部)の位置が異なるためである。特に、移動部の向きが異なっているためである。 However, as described above, since the robot-mounted moving device moves between machine tools, the position of the first device and the position of the second device may be different. Here, the case where the first identification position is (x1, y1,0 (rz1 = 0)) and the target position is (x11, y11, rz11) will be described. In this case, the second identification position is not (x2, y2, 0) when the first axis is the X2 axis and the second axis is the Y2 axis when the second device position is considered as the origin. This is because the first identification position and the second identification position are the same position in the real space, but the positions of the robot-mounted moving device (particularly, the moving portion of the robot-mounted moving device) are different. This is especially because the directions of the moving parts are different.
そこで、本実施形態では、(i)第1軸をX2軸とし第2軸をY2軸とした場合の(x2,y2,rz2)の第2識別位置と、(ii)第1識別位置(x1,Y1,0)との関係から、X2軸とY2軸とのX2-Y2座標系における対象の位置である対象位置の位置情報に変換する行列を用いて、対象位置(x22,y22,rz22)を取得する。変換行列は、予め作成し、ロボット搭載移動装置に記憶させておいたものである。取得したX2軸とY2軸とにおける対象位置である(x22,y22,rz22)の位置情報に基づいて、制御部は、ロボットのハンド部の位置を前記平面内での、(a)X2軸上の移動と、(b)Y2軸上の移動と、(c)識別図形を含む平面内での回転移動とで補正し、ハンド部でワークや工具の交換などを行うように制御している。 Therefore, in the present embodiment, (i) the second identification position of (x2, y2, rz2) when the first axis is the X2 axis and the second axis is the Y2 axis, and (ii) the first identification position (x1). , Y1,0), the target position (x22, y22, rz22) is converted into the position information of the target position, which is the position of the target in the X2-Y2 coordinate system of the X2 axis and the Y2 axis. To get. The transformation matrix is created in advance and stored in the robot-mounted mobile device. Based on the acquired position information (x22, y22, rz22) of the target position on the X2 axis and the Y2 axis, the control unit sets the position of the hand unit of the robot on the (a) X2 axis in the plane. The movement of the work, (b) movement on the Y2 axis, and (c) rotational movement in a plane including the identification figure are corrected, and the hand portion is controlled to exchange workpieces and tools.
本実施形態では、対象位置である(x22,y22,rz22)の位置情報に変換する行列をロボット搭載移動装置が予め記憶して、それを用いて対象位置を取得しているが、これに限定されない。例えば、カメラ撮影で取得した画像から得られる識別図形の位置である(x2,y2,rz2)の位置情報と、その位置情報(第2識別位置)に対応付けした対象位置である(x22,y22,rz22)の位置情報が記述されたテーブルを予めロボット搭載位置装置に記憶させておいてもよい。 In the present embodiment, the robot-mounted mobile device stores in advance a matrix that is converted into position information of the target position (x22, y22, rz22), and uses the matrix to acquire the target position, but the present invention is limited to this. Not done. For example, the position information (x2, y2, rz2) which is the position of the identification figure obtained from the image acquired by the camera shooting, and the target position (x22, y22) associated with the position information (second identification position). , Rz22) may be stored in the robot-mounted position device in advance in a table in which the position information is described.
また、本実施形態では、位置誤差量Δx,Δy、及回転誤差量Δrzの3つを算出せず、ハンドの位置補正を行っているが、位置誤差量Δx,Δyを算出せず、回転誤差量Δrzを算出するような形態でもよい。例えば、第1識別位置と第2識別位置と変換行列とを用いて、第2装置位置におけるワークなどの対象のX座標(x22)とY座標(y22)、回転誤差量Δrzを算出する。そして、第1識別位置における対象位置の回転位置(rz11)に、回転誤差量Δrzを加えることで、対象位置(x22,y22,rz11+Δrz)を取得してもよい。 Further, in the present embodiment, the position error amount Δx, Δy and the rotation error amount Δrz are not calculated and the hand position correction is performed, but the position error amount Δx, Δy is not calculated and the rotation error is performed. It may be in the form of calculating the quantity Δrz. For example, using the first identification position, the second identification position, and the transformation matrix, the X coordinate (x22), the Y coordinate (y22), and the rotation error amount Δrz of the object such as a work at the second device position are calculated. Then, the target position (x22, y22, rz11 + Δrz) may be acquired by adding the rotation error amount Δrz to the rotation position (rz11) of the target position in the first identification position.
本実施形態の位置情報は、x座標、y座標、回転座標(または回転量)の3つの情報である(x,y,rz)の位置情報を用いているがこれに限られない。例えば、座標(x,y,z)3つと、回転座標または回転量(rx,ry,rz)3つとの6つの情報(x,y,z,rx,ry,rz)を用いてもよい。情報の数は、必要に応じて、適宜選択・調整できる。例えば、対象位置として、(i)(x22,y22,z11,rx11,ry11,rz11+Δrz)の位置情報や、(ii)(x22,y22,z11,0,0,rz11+Δrz)の位置情報などを出力や取得する形態でもよい。(x22,y22,z11,0,0,rz11+Δrz)の位置情報の例では、z軸上での位置があるためz11を残してある。基準を0とすればrx11とry11とは0となり、平面内での移動では変化しないため0からの変更がない。このため、0と設定できる。このような位置情報を用いてもよいし、さらに、0の情報を削除し、4つ情報である(x22,y22,z11,rz11+Δrz)の位置情報を対象位置として出力や取得する形態でもよい。 The position information of the present embodiment uses three pieces of information (x, y, rz) of x-coordinate, y-coordinate, and rotation coordinate (or rotation amount), but is not limited to this. For example, six pieces of information (x, y, z, rx, ry, rz) of three coordinates (x, y, z) and three rotating coordinates or rotation amounts (rx, ry, rz) may be used. The number of information can be appropriately selected and adjusted as needed. For example, as the target position, the position information of (i) (x22, y22, z11, rx11, ry11, rz11 + Δrz) and the position information of (ii) (x22, y22, z11, 0,0, rz11 + Δrz) can be output. It may be in the form of acquisition. In the example of the position information of (x22, y22, z11, 0, 0, rz11 + Δrz), z11 is left because there is a position on the z-axis. If the reference is 0, rx11 and ry11 become 0, and since they do not change when moving in a plane, there is no change from 0. Therefore, it can be set to 0. Such position information may be used, or further, the information of 0 may be deleted, and the position information of four pieces of information (x22, y22, z11, rz11 + Δrz) may be output or acquired as the target position.
なお、いろいろな変形例を説明したが、各本実施形態でも説明したように、識別図形を含む平面内(x,y,rz)で、ハンド位置の補正を行うため、識別図形を含む平面内で高い精度でハンドの位置補正ができることが共通する効果である。 Although various modification examples have been described, as described in each embodiment, in order to correct the hand position in the plane including the identification figure (x, y, rz), in the plane including the identification figure. It is a common effect that the position of the hand can be corrected with high accuracy.
以上、本発明の一実施の形態について説明したが、本発明が採り得る具体的な態様は、何らこれに限定されるものではない。 Although one embodiment of the present invention has been described above, the specific embodiments that the present invention can take are not limited thereto.
例えば、上述した各実施形態では、前記識別図形として、複数の画素が二次元に配列されたマトリクス構造を備えたものを採用したが、これに限られるものではなく、撮像画像からロボット25の姿勢の補正量を算出することができるものであれば、様々な図形を採用することができる。
For example, in each of the above-described embodiments, as the identification figure, a figure having a matrix structure in which a plurality of pixels are arranged two-dimensionally is adopted, but the present invention is not limited to this, and the posture of the
また、第1の実施形態において、識別図形を含む平面内の第1軸と第2軸について、第1軸をx軸とし、第2軸をy軸として、各軸方向の位置誤差、及び平面内の回転軸をz軸としてその軸回り回転誤差を補正するようにしたが、これに限られるものではい。前記補正量算出部50は、識別図形の位置によっては、第1軸または第2軸をz軸にしてもよい。この場合は、z軸方向の位置誤差量を推定して、これに対応する補正量を算出するように構成し、また、前記自動運転制御部47は、算出されたz軸方向の補正量に基づいて、ロボット25の各作業姿勢におけるz軸方向の位置を補正するように構成されていても良い。尚、z軸方向の位置誤差量は、例えば、基本画像大きさと現在の画像大きさとの倍率から算出することもできる。
Further, in the first embodiment, regarding the first axis and the second axis in the plane including the identification figure, the position error in each axis direction and the plane with the first axis as the x-axis and the second axis as the y-axis. The rotation axis inside is used as the z-axis to correct the rotation error around the axis, but it is not limited to this. The correction
また、上記の各実施形態では、無人搬送車35を用いた態様を例示したが、これに限定されるものではない。一般的な台車のように人が押して移動可能な搬送装置でもよい。この搬送装置上にロボット25を搭載し、人力により当該搬送装置を工作機械10の作業位置に搬送して、当該ロボット25により工作機械10に対してワークの着脱を実行させる態様としても良い。
Further, in each of the above embodiments, the embodiment in which the automatic guided
また、上記の各実施形態では、工作機械として立形の旋盤を例示したが、これに限られるものではなく、横形の旋盤、立形及び横形のマシニングセンタの他、工具主軸とワーク主軸を備えた複合加工型の加工機械など、従前公知のあらゆる工作機械を適用することができる。 Further, in each of the above embodiments, a vertical lathe is exemplified as a machine tool, but the present invention is not limited to this, and a horizontal lathe, vertical and horizontal machining centers, as well as a tool spindle and a work spindle are provided. Any previously known machine tool, such as a compound machining type machine tool, can be applied.
例えば、図10に示すような、工具を回転させる工具主軸105を備えた横形の旋盤100の場合、前記表示板16をホルダ106によって水平に支持するとともに、このホルダ106を工具主軸105に装着するようにした態様を採ることができる。この場合、旋盤100により加工を行うときには、ホルダ106を工具収容部である工具マガジンに格納しておき、前記ロボット25により作業を行うときに、ホルダ106を工具マガジンから取り出して工具主軸105に装着する。尚、図10において、符号101は第1主軸、符号103は第2主軸であり、これらは同軸且つ相互に対向するように配設される。また、符号102は第1主軸101に装着された第1チャック、符号104は第2主軸103に装着された第2チャックである。また、符号107は刃物台であり、符号108は刃物台107に設けられたタレット、符号109は、ワークW”を支持する支持治具であり、タレット108の外面に取り付けられている。
For example, in the case of a
また、上記の各実施形態では、ロボット座標系の内、x軸及びy軸(x’軸及びy’軸)を水平面内で設定し、z軸を垂直方向に設定したが、これに限られるものではなく、座標軸の方向は任意に設定することができる。識別図形の座標軸xt軸,yt軸についても同様である。 Further, in each of the above embodiments, the x-axis and the y-axis (x'axis and y'axis) are set in the horizontal plane and the z-axis is set in the vertical direction in the robot coordinate system, but the present invention is limited to this. The direction of the coordinate axis can be set arbitrarily. The same applies to the coordinate axes xt axis and yt axis of the identification figure.
繰り返しになるが、上述した実施形態の説明は、すべての点で例示であって、制限的なものではない。当業者にとって変形および変更が適宜可能である。本発明の範囲は、上述の実施形態ではなく、特許請求の範囲によって示される。さらに、本発明の範囲には、特許請求の範囲内と均等の範囲内での実施形態からの変更が含まれる。 Again, the description of the embodiments described above is exemplary in all respects and not restrictive. Modifications and changes can be made as appropriate for those skilled in the art. The scope of the invention is indicated by the claims, not by the embodiments described above. Further, the scope of the present invention includes modifications from the embodiments within the scope of the claims and within the scope of the claims.
Claims (11)
(i)カメラ、(ii)ワークまたは工具を把持するためのハンド部、(iii)前記ハンド部を可動可能に繋いでいる第2アーム部、及び(iv)第2アーム部を可動可能に繋いでいる第1アーム部を有するロボットと、
前記ロボットのハンド部の位置を制御する制御部と、
前記ロボットが搭載され、移動可能な移動部とを備え、
前記制御部は、前記第1装置位置と異なる第2装置位置において、前記カメラで前記識別画像が撮影された際の前記平面内での前記識別図形の位置である第2識別位置と、前記第1識別位置とに基づいて、前記第2装置位置における前記ロボットのハンド部の位置を、前記平面内での(a)第1軸上の移動と、(b)第2軸上の移動と、(c)前記平面内での回転移動とで制御するロボット搭載移動装置。 Distributed in the machine tool as related information related to the position of the first device as the position of the robot-mounted mobile device when performing the operation of taking out the object from the machine tool or the operation of installing the object in the machine tool. Mounted on a robot that can move around the machine tool by storing the position of the identification figure in the position of the first device on the first axis and the second axis set in a plane parallel to the identification figure as the first identification position. It ’s a mobile device,
(i) A camera, (ii) a hand part for gripping a work or a tool, (iii) a second arm part movably connected to the hand part, and (iv) a movably connected second arm part. With a robot that has a first arm
A control unit that controls the position of the hand unit of the robot,
It is equipped with the robot and has a movable moving part.
The control unit has a second identification position, which is a position of the identification figure in the plane when the identification image is taken by the camera, at a second device position different from the first device position, and the second identification position. Based on the 1 identification position, the position of the hand portion of the robot in the second device position is determined by (a) movement on the first axis and (b) movement on the second axis in the plane. (c) A robot-mounted moving device controlled by rotational movement in the plane.
画像を撮像するカメラ、及び前記ワークに対して作用する作用部を有し、前記工作機械に対して作業を行うロボットと、
前記ロボットを搭載し、前記工作機械に対して設定された作業位置に移動可能に構成された搬送装置と、
予め設定された動作指令を含む動作プログラムに従って、前記ロボットに、作業開始姿勢、前記工作機械に設けられた姿勢補正用の識別図形に対して前記カメラを対向させることにより、該カメラよって前記識別図形を撮像する撮像姿勢、前記ワークに対して前記作用部を作用させるための1以上の作業姿勢を順次取らせるように構成された制御装置とを備え、
前記作業開始姿勢、撮像姿勢及び作業姿勢は、前記ロボットをティーチング操作することによって予め設定されるシステムであって、
前記識別図形は、所定の平面上に形成されるとともに、前記工作機械の加工領域内に配置され、
前記制御装置は、前記ティーチング操作時に、前記ロボットを撮像姿勢に移行させた状態で、前記カメラを動作させて前記識別図形の画像を基準画像として撮像し、前記動作プログラムに従って、前記ロボットを実動作させる際に、前記搬送装置が前記作業位置に移動した状態で、前記ロボットを、前記作業開始姿勢から前記撮像姿勢に移行させた後に前記カメラにより撮像される前記識別図形の画像、及び前記基準画像に基づいて、前記ロボットの現在の姿勢とティーチング操作時の姿勢との間における前記カメラの位置の誤差量であって、前記識別図形と平行な平面内で設定される相互に直交する第1軸及び第2軸方向における前記カメラの位置誤差量、及び前記第1軸及び第2軸と直交する第3軸回りの前記カメラの回転誤差量を推定し、推定された各誤差量に基づいて、前記作業姿勢における前記作用部に対する補正量を算出し、算出した補正量に基づいて、前記作業姿勢における前記作用部の位置を補正するように構成されたシステム。 A machine tool that performs predetermined processing on the work, and
A camera that captures an image, a robot that has a working part that acts on the work, and works on the machine tool.
A transfer device equipped with the robot and configured to be movable to a work position set for the machine tool.
By facing the camera to the robot for the work start posture and the posture correction identification figure provided in the machine tool according to the operation program including the preset operation command, the identification figure is caused by the camera. It is provided with an imaging posture for imaging a work, and a control device configured to sequentially take one or more working postures for causing the action unit to act on the work.
The work start posture, the image pickup posture, and the work posture are systems that are preset by the teaching operation of the robot.
The identification figure is formed on a predetermined plane and is arranged in the machining area of the machine tool.
At the time of the teaching operation, the control device operates the camera in a state where the robot is shifted to the imaging posture to capture an image of the identification figure as a reference image, and actually operates the robot according to the operation program. The image of the identification figure and the reference image captured by the camera after the robot is moved from the work start posture to the image pickup posture while the transport device is moved to the work position. The amount of error in the position of the camera between the current posture of the robot and the posture during the teaching operation based on the above, and is the first axis orthogonal to each other set in a plane parallel to the identification figure. And the amount of positional error of the camera in the second axis direction, and the amount of rotation error of the camera around the third axis orthogonal to the first axis and the second axis are estimated, and based on each estimated error amount, A system configured to calculate a correction amount for the working part in the working posture and correct the position of the working part in the working posture based on the calculated correction amount.
前記第1軸及び第2軸を、前記ティーチング操作時におけるロボットの姿勢に対応した座標系であるx軸及びy軸として、該x軸-y軸座標系における前記カメラの位置誤差量Δx,Δy、及びx軸及びy軸に直交する第3軸としてのz軸回りの前記カメラの回転誤差量Δrzを推定し、
推定した位置誤差量Δx,Δy、及び回転誤差量Δrzに基づいて、前記x軸-y軸座標系における、ティーチング操作時と現在との間の前記作用部の並進誤差量tx,tyを下記の数式によって算出し、
算出された並進誤差量tx,ty、及び回転誤差量Δrzに基づいて、前記各作業姿勢における前記作用部の位置を補正するように構成された請求項2記載のシステム。
但し、この数式において、x,yは、x軸-y軸座標系におけるティーチング操作時の前記カメラの位置であり、x’,y’は、前記ロボットの現在の姿勢に対応した座標系であるx’軸-y’軸座標系における現在の前記カメラの位置である。 The control device is
The first axis and the second axis are x-axis and y-axis, which are coordinate systems corresponding to the posture of the robot during the teaching operation, and the amount of positional error of the camera in the x-axis − y-axis coordinate system Δx, Δy. , And the amount of rotational error Δrz of the camera around the z-axis as the third axis orthogonal to the x-axis and y-axis.
Based on the estimated position error amount Δx, Δy and rotation error amount Δrz, the translational error amount t x , ty of the working part between the time of the teaching operation and the present in the x-axis −y axis coordinate system is calculated. Calculated by the following formula,
The system according to claim 2, wherein the position of the working part in each working posture is corrected based on the calculated translation error amount t x , ty, and the rotation error amount Δrz .
However, in this formula, x and y are the positions of the camera during the teaching operation in the x-axis-y-axis coordinate system, and x'and y'are the coordinate systems corresponding to the current posture of the robot. The current position of the camera in the x'axis-y'axis coordinate system.
画像を撮像するカメラ、及び前記ワークに対して作用する作用部を有し、前記工作機械に対して作業を行うロボットと、
前記ロボットを搭載し、前記工作機械に対して設定された作業位置に移動可能に構成された搬送装置と、
予め設定された動作指令を含む動作プログラムに従って、前記ロボットに、作業開始姿勢、前記工作機械に設けられた姿勢補正用の識別図形をカメラよって撮像する撮像姿勢、
前記工作機械に設けられた姿勢補正用の識別図形をカメラよって撮像する撮像姿勢、前記ワークに対して前記作用部を作用させるための1以上の作業姿勢を順次取らせるように構成された制御装置とを備え、
前記作業開始姿勢、撮像姿勢及び作業姿勢は、前記ロボットをティーチング操作することによって予め設定されるシステムであって、
前記識別図形は、所定の平面上に形成されるとともに、前記工作機械の加工領域内に配置され、
前記制御装置は、前記ティーチング操作時に、前記ロボットを撮像姿勢に移行させた状態で、前記カメラを動作させて前記識別図形の画像を基準画像として撮像し、前記動作プログラムに従って、前記ロボットを実動作させる際に、前記搬送装置が前記作業位置に移動した状態で、前記ロボットを、前記作業開始姿勢から前記撮像姿勢に移行させた後に前記カメラにより撮像される前記識別図形の画像、及び前記基準画像に基づいて、前記ロボットの現在の姿勢とティーチング操作時の姿勢との間における前記カメラの位置の誤差量であって、前記識別図形と平行な平面内で設定される相互に直交する第1軸及び第2軸方向、並びに前記第1軸及び第2軸と直交する第3軸方向における前記カメラの各位置誤差量と、前記第1軸、第2軸及び第3軸回りの前記カメラの各回転誤差量とを推定し、推定された各位置誤差量及び各回転後誤差量に基づいて、前記作業姿勢における前記作用部の位置を補正するように構成されたシステム。 A machine tool that performs predetermined processing on the work, and
A camera that captures an image, a robot that has a working part that acts on the work, and works on the machine tool.
A transfer device equipped with the robot and configured to be movable to a work position set for the machine tool.
According to an operation program including a preset operation command, the robot has a work start posture, and an imaging posture in which an identification figure for posture correction provided in the machine tool is imaged by a camera.
A control device configured to sequentially take an imaging posture in which an identification figure for posture correction provided in the machine tool is imaged by a camera, and one or more working postures for causing the acting unit to act on the work. And with
The work start posture, the image pickup posture, and the work posture are systems that are preset by the teaching operation of the robot.
The identification figure is formed on a predetermined plane and is arranged in the machining area of the machine tool.
At the time of the teaching operation, the control device operates the camera in a state where the robot is shifted to the imaging posture to capture an image of the identification figure as a reference image, and actually operates the robot according to the operation program. The image of the identification figure and the reference image captured by the camera after the robot is moved from the work start posture to the image pickup posture while the transport device is moved to the work position. The amount of error in the position of the camera between the current posture of the robot and the posture during the teaching operation based on the above, and is the first axis orthogonal to each other set in a plane parallel to the identification figure. And the amount of each position error of the camera in the second axis direction and the third axis direction orthogonal to the first axis and the second axis, and each of the cameras around the first axis, the second axis, and the third axis. A system configured to estimate a rotation error amount and correct the position of the working portion in the working posture based on each estimated position error amount and each post-rotation error amount.
前記基準画像に基づいて、前記ロボットに対応したロボット座標系であって、前記ティーチング操作時のロボット座標系における、該ティーチング操作による撮像時のカメラ位置
を算出する処理と、
前記実動作時に得られる前記識別図形の画像に基づいて、前記ティーチング操作時のロボット座標系における、該実動作による撮像時のカメラ位置
を算出する処理と、
前記ティーチング操作時のロボット座標系における前記カメラ位置
、及び前記カメラ位置
に基づいて、前記実動作時のロボット座標系における前記カメラの前記第1軸、第2軸及び第3軸方向の位置誤差量、並びに前記第1軸、第2軸及び第3軸回りの回転誤差量を推定する処理と、
推定された前記位置誤差量及び回転誤差量に基づいて、前記作業姿勢における前記作用部の位置を補正する処理とを実行するように構成された請求項7記載のシステム。 The control device is
Based on the reference image, the robot coordinate system corresponding to the robot, and the camera position at the time of imaging by the teaching operation in the robot coordinate system at the time of the teaching operation.
And the process of calculating
Based on the image of the identification figure obtained in the actual operation, the camera position at the time of imaging by the actual operation in the robot coordinate system at the time of the teaching operation.
And the process of calculating
The camera position in the robot coordinate system during the teaching operation
, And the camera position
Based on, the amount of position error in the first axis, the second axis, and the third axis direction of the camera in the robot coordinate system during the actual operation, and the rotation around the first axis, the second axis, and the third axis. Processing to estimate the amount of error and
The system according to claim 7, wherein the process of correcting the position of the acting portion in the working posture is executed based on the estimated position error amount and rotation error amount.
前記ティーチング操作時のロボット座標系における前記カメラ位置
、及び前記カメラ位置
を算出した後、
ティーチング操作時の座標系におけるティーチング操作時のカメラ角度
、
、
と、ティーチング操作時の座標系における現在のカメラ角度
、
、
とに基づいて、これらの差分を算出することによって、前記第1軸をx軸、第2軸をy軸、第3軸をz軸として、x軸、y軸及びz軸回りの各回転誤差量Δrx、Δry及びΔrzを算出し、算出した前記回転誤差量Δrx、Δry及びΔrzに基づいて、前記実動作時のロボット座標系における前記カメラの前記回転誤差量として、ティーチング操作時のロボット座標系と実動作時のロボット座標系との間の回転行列
を算出する処理と、
前記実動作時のロボット座標系における前記カメラの位置誤差量として、前記ティーチング操作時のロボット座標系から前記実動作時のロボット座標系への並進行列
を算出する処理と、
前記回転行列
及び並進行列
に基づいて、補正量
を算出する処理と、
前記補正量
に基づいて、前記作業姿勢における前記作用部の補正された位置
を算出する処理とを実行するように構成された請求項8記載のシステム。 The control device is
The camera position in the robot coordinate system during the teaching operation
, And the camera position
After calculating
Camera angle during teaching operation in the coordinate system during teaching operation
,
,
And the current camera angle in the coordinate system during the teaching operation
,
,
By calculating these differences based on Based on the calculated rotation error amounts Δrx, Δry and Δrz, the rotation error amount of the camera in the robot coordinate system during actual operation is the robot coordinate system at the time of teaching operation. Rotation matrix between and the robot coordinate system in actual operation
And the process of calculating
As the amount of position error of the camera in the robot coordinate system during the actual operation, a parallel traveling matrix from the robot coordinate system during the teaching operation to the robot coordinate system during the actual operation.
And the process of calculating
The rotation matrix
And translation matrix
Correction amount based on
And the process of calculating
The correction amount
Corrected position of the working part in the working posture based on
8. The system of claim 8, configured to perform the process of calculating.
、並進行列
、補正量
及び補正位置
を以下の算出式によって算出するように構成された請求項9記載のシステム。
但し、
は、ティーチング操作時のロボット座標系におけるティーチング操作時の作用部の位置である。 The control device is the rotation matrix.
, Parallel matrix
,Correction amount
And correction position
9. The system according to claim 9, wherein the system is configured to calculate by the following formula.
however,
Is the position of the action unit during the teaching operation in the robot coordinate system during the teaching operation.
前記識別図形は前記工作機械の加工領域内に配置されていることを特徴とする工作機械。
A robot having a camera for capturing an image including an identification figure provided on the machine tool and an action unit acting on the work is mounted, and the robot is placed in a first position where the robot can hold the work. After the transport device for transport transports the robot to the first position, the camera captures an image including the identification figure provided on the machine machine, and the position information of the identification figure in the image is used. Correspondingly, the second position of the action part on the X-axis and the Y-axis in the three-dimensional space of the X-axis, the Y-axis, and the Z-axis is corrected by causing the action part to perform linear movement and rotational movement. It is a machine tool for machining a work, in which the working part is made to act on the work inside the machine machine after correcting two positions.
The machine tool, characterized in that the identification figure is arranged within the machining area of the machine tool.
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
IBPCT/IB2019/001004 | 2019-09-11 | ||
PCT/IB2019/001004 WO2021048579A1 (en) | 2019-09-11 | 2019-09-11 | System and machine tool |
PCT/US2020/050073 WO2021050646A1 (en) | 2019-09-11 | 2020-09-10 | Robot-mounted moving device, system, and machine tool |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022530589A true JP2022530589A (en) | 2022-06-30 |
JP7482364B2 JP7482364B2 (en) | 2024-05-14 |
Family
ID=
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0976185A (en) * | 1995-07-12 | 1997-03-25 | Fanuc Ltd | Movement control method of robot |
JPH11156764A (en) * | 1997-11-28 | 1999-06-15 | Denso Corp | Locomotive robot device |
JP2010162635A (en) * | 2009-01-14 | 2010-07-29 | Fanuc Ltd | Method for correcting position and attitude of self-advancing robot |
JP2015150666A (en) * | 2014-02-18 | 2015-08-24 | 株式会社Ihi | Robot remote control system and robot remote control method |
JP2017056546A (en) * | 2015-09-14 | 2017-03-23 | ファナック株式会社 | Measurement system used for calibrating mechanical parameters of robot |
JP2017071033A (en) * | 2015-10-09 | 2017-04-13 | キヤノン株式会社 | Working reference object, working reference object manufacturing method, robot arm adjusting method, vision system, robot apparatus, and indicator member |
JP2017074631A (en) * | 2015-10-13 | 2017-04-20 | 富士電機株式会社 | Manufacturing system |
CN107689061A (en) * | 2017-07-11 | 2018-02-13 | 西北工业大学 | Rule schema shape code and localization method for indoor mobile robot positioning |
JP2018058142A (en) * | 2016-10-04 | 2018-04-12 | ファナック株式会社 | Robot system equipped with robot supported by movable truck |
WO2018092222A1 (en) * | 2016-11-16 | 2018-05-24 | 株式会社牧野フライス製作所 | Machine tool system |
JP2019093533A (en) * | 2017-11-28 | 2019-06-20 | ファナック株式会社 | Robot and robot system |
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0976185A (en) * | 1995-07-12 | 1997-03-25 | Fanuc Ltd | Movement control method of robot |
JPH11156764A (en) * | 1997-11-28 | 1999-06-15 | Denso Corp | Locomotive robot device |
JP2010162635A (en) * | 2009-01-14 | 2010-07-29 | Fanuc Ltd | Method for correcting position and attitude of self-advancing robot |
JP2015150666A (en) * | 2014-02-18 | 2015-08-24 | 株式会社Ihi | Robot remote control system and robot remote control method |
JP2017056546A (en) * | 2015-09-14 | 2017-03-23 | ファナック株式会社 | Measurement system used for calibrating mechanical parameters of robot |
JP2017071033A (en) * | 2015-10-09 | 2017-04-13 | キヤノン株式会社 | Working reference object, working reference object manufacturing method, robot arm adjusting method, vision system, robot apparatus, and indicator member |
JP2017074631A (en) * | 2015-10-13 | 2017-04-20 | 富士電機株式会社 | Manufacturing system |
JP2018058142A (en) * | 2016-10-04 | 2018-04-12 | ファナック株式会社 | Robot system equipped with robot supported by movable truck |
WO2018092222A1 (en) * | 2016-11-16 | 2018-05-24 | 株式会社牧野フライス製作所 | Machine tool system |
CN107689061A (en) * | 2017-07-11 | 2018-02-13 | 西北工业大学 | Rule schema shape code and localization method for indoor mobile robot positioning |
JP2019093533A (en) * | 2017-11-28 | 2019-06-20 | ファナック株式会社 | Robot and robot system |
Also Published As
Publication number | Publication date |
---|---|
WO2021048579A1 (en) | 2021-03-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220331970A1 (en) | Robot-mounted moving device, system, and machine tool | |
JP6785931B1 (en) | Production system | |
US8095237B2 (en) | Method and apparatus for single image 3D vision guided robotics | |
JP6855492B2 (en) | Robot system, robot system control device, and robot system control method | |
Shah et al. | An experiment of detection and localization in tooth saw shape for butt joint using KUKA welding robot | |
WO2023032400A1 (en) | Automatic transport device, and system | |
WO2022091767A1 (en) | Image processing method, image processing device, robot mounted-type conveyance device, and system | |
CN110039520B (en) | Teaching and processing system based on image contrast | |
JP2022126768A (en) | Robot-equipped moving device | |
JP6832408B1 (en) | Production system | |
JP2022530589A (en) | Robot-mounted mobile devices, systems and machine tools | |
JP7482364B2 (en) | Robot-mounted mobile device and system | |
WO2022195938A1 (en) | Robot system positioning accuracy measurement method | |
JP2016203282A (en) | Robot with mechanism for changing end effector attitude | |
WO2022075303A1 (en) | Robot system | |
JP7015949B1 (en) | Sticking position measuring device and machine tool equipped with it | |
JP6851535B1 (en) | Setting method using teaching operation | |
JP2024068115A (en) | Robot-mounted moving device | |
JP2021112809A (en) | Production system | |
CN116803628A (en) | Object detection method and detection device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210512 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210518 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220614 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220712 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20221005 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221206 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230228 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20230424 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230824 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231024 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240119 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240206 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20240228 |
|
RD07 | Notification of extinguishment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7427 Effective date: 20240405 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240405 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20240405 |