JP7479205B2 - ROBOT SYSTEM, CONTROL DEVICE, AND CONTROL METHOD - Google Patents

ROBOT SYSTEM, CONTROL DEVICE, AND CONTROL METHOD Download PDF

Info

Publication number
JP7479205B2
JP7479205B2 JP2020099821A JP2020099821A JP7479205B2 JP 7479205 B2 JP7479205 B2 JP 7479205B2 JP 2020099821 A JP2020099821 A JP 2020099821A JP 2020099821 A JP2020099821 A JP 2020099821A JP 7479205 B2 JP7479205 B2 JP 7479205B2
Authority
JP
Japan
Prior art keywords
unit
robot
trajectory
workpiece
error
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020099821A
Other languages
Japanese (ja)
Other versions
JP2021192944A (en
Inventor
真彰 前田
祐市 桜井
直宏 林
Original Assignee
株式会社日立オートメーション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社日立オートメーション filed Critical 株式会社日立オートメーション
Priority to JP2020099821A priority Critical patent/JP7479205B2/en
Priority to PCT/JP2021/001844 priority patent/WO2021250923A1/en
Publication of JP2021192944A publication Critical patent/JP2021192944A/en
Application granted granted Critical
Publication of JP7479205B2 publication Critical patent/JP7479205B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/19Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4069Simulating machining process on screen
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/4093Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by part programming, e.g. entry of geometrical information as taken from a technical drawing, combining this with machining and material information to obtain control information, named part programme, for the NC machine
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/4155Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by programme execution, i.e. part programme or machine function execution, e.g. selection of a programme

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Geometry (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Manipulator (AREA)
  • Numerical Control (AREA)

Description

本発明は、ロボットシステム、制御装置、及び制御方法に関する。 The present invention relates to a robot system, a control device, and a control method.

ロボットシステムによる計画時の軌道に対する実動時の軌道のずれを補正する技術として、例えば特許文献1には、「ロボットの把持部に把持させた第1のワークを載置面上に配置された第2のワークに組み付ける物品の製造方法において、前記把持部の目標軌道に対する実軌道のずれを測定する第1の工程と、前記第1の工程で測定したずれと、前記第2のワークの形状に基づき、前記ロボットに対する前記第2のワークの位置及び姿勢を決める第2の工程と、前記第2の工程にて決めた位置及び姿勢に前記第2のワークを移動させて、組み付け動作を前記ロボットに行わせる第3の工程と、を備える」製造方法が記載されている。 As a technique for correcting deviation of an actual trajectory from a planned trajectory by a robot system, for example, Patent Document 1 describes a manufacturing method for an article in which a first workpiece held by a gripper of a robot is assembled to a second workpiece arranged on a mounting surface, the manufacturing method comprising: a first step of measuring deviation of an actual trajectory from a target trajectory of the gripper; a second step of determining a position and orientation of the second workpiece relative to the robot based on the deviation measured in the first step and the shape of the second workpiece; and a third step of moving the second workpiece to the position and orientation determined in the second step and having the robot perform an assembly operation.

特開2019-93504号公報JP 2019-93504 A

特許文献1に記載の技術によれば、ハンドの目標時の軌道と実動時の軌道のずれを測定し、ハンドのずれと第2のワークの形状に基づいて第2のワークの位置及び姿勢を決定し、決定した位置及び姿勢に第2のワークを移動させることで組付けを行うことができるとされている。 According to the technology described in Patent Document 1, the deviation between the target hand trajectory and the actual hand trajectory is measured, the position and orientation of the second workpiece are determined based on the deviation of the hand and the shape of the second workpiece, and assembly can be performed by moving the second workpiece to the determined position and orientation.

しかしながら、実際には、ハンドが第1のワークを把持する際にも目標時の軌道と実動時の軌道のずれ、シミュレーションモデルと実機のずれに起因する把持位置のずれや姿勢のずれが発生しており、特許文献1に記載の技術のように、第2のワークの位置及び姿勢を移動するだけでは計画されていた組付け作業を実施できないことがある。 However, in reality, when the hand grasps the first workpiece, there is a deviation between the target trajectory and the actual trajectory, and there is also a deviation in the grasping position and posture due to a deviation between the simulation model and the actual machine. As a result, it may not be possible to carry out the planned assembly work by simply moving the position and posture of the second workpiece, as with the technology described in Patent Document 1.

本発明は、上記の点に鑑みてなされたものであって、ワークを実際に把持した際に生じた把持位置のずれや姿勢のずれに起因する組付け作業の失敗を抑止できるようにすることを目的とする。 The present invention has been made in consideration of the above points, and aims to prevent assembly work failures caused by deviations in the gripping position or posture that occur when the workpiece is actually gripped.

本願は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下の通りである。 This application includes multiple means for solving at least some of the above problems, examples of which are as follows:

上記課題を解決するため、本発明の一態様に係るロボットシステムは、ワークの組付け作業を実行するロボットと、前記ロボットを制御する制御装置と、を備えるロボットシステムであって、前記制御装置は、前記ロボットによる動作の始点から終点に至る軌道を決定して軌道情報を生成する動作計画部と、前記軌道情報に基づいて前記ロボットが実際に前記ワークを把持した際の前記ロボットの把持位置、姿勢、及び把持力のうちの少なくとも一つについて、計画時との誤差を推定する把持調整部と、推定された前記誤差を解消する方向に前記ロボットの把持位置、姿勢、及び把持力のうちの少なくとも一つを調整した上で前記組付け作業の動作シミュレーションを実行することにより新たに軌道を生成するシミュレーション実行部と、前記シミュレーション実行部により軌道が生成されたか否かに基づいて、前記組付け作業の可否を判断する再把持判断部と、を有することを特徴とする。 In order to solve the above problem, a robot system according to one aspect of the present invention is a robot system including a robot that performs an assembly operation of a workpiece and a control device that controls the robot, the control device being characterized by having: a motion planning unit that determines a trajectory from a start point to an end point of the operation of the robot to generate trajectory information; a grip adjustment unit that estimates an error from the planned time for at least one of the grip position, posture, and grip force of the robot when the robot actually grips the workpiece based on the trajectory information; a simulation execution unit that adjusts at least one of the grip position, posture, and grip force of the robot in a direction to eliminate the estimated error and then executes a motion simulation of the assembly operation to generate a new trajectory; and a re-grasp determination unit that determines whether the assembly operation can be performed based on whether a trajectory has been generated by the simulation execution unit.

本発明によれば、ワークを実際に把持した際に生じた把持位置のずれや姿勢のずれに起因する組付け作業の失敗を抑止することが可能となる。 The present invention makes it possible to prevent assembly work failures caused by misalignment of the gripping position or posture that occurs when the workpiece is actually gripped.

上記した以外の課題、構成、及び効果は、以下の実施形態の説明により明らかにされる。 Problems, configurations, and advantages other than those described above will become clear from the description of the embodiments below.

図1は、本発明の第1の実施形態に係るロボットシステムの構成例を示す図である。FIG. 1 is a diagram showing an example of the configuration of a robot system according to a first embodiment of the present invention. 図2は、動作計画部による処理の一例を説明するための図である。FIG. 2 is a diagram for explaining an example of a process performed by the operation planning unit. 図3は、把持調整部の構成例を示す図である。FIG. 3 is a diagram illustrating a configuration example of the grip adjustment unit. 図4(A),(B)は、シミュレーション実行部及び再把持判断部による処理の一例を説明するための図であり、図4(A)は干渉領域が小さいため軌道を生成できる場合、図4(B)は干渉領域が大きいため軌道を生成できない場合を示す図である。Figures 4(A) and (B) are diagrams for explaining an example of processing by the simulation execution unit and the re-grasping judgment unit, in which Fig. 4(A) shows a case in which a trajectory can be generated because the interference area is small, and Fig. 4(B) shows a case in which a trajectory cannot be generated because the interference area is large. 図5は、図1のロボットシステムによる制御処理の一例を説明するフローチャートである。FIG. 5 is a flowchart illustrating an example of a control process performed by the robot system of FIG. 図6は、本発明の第2の実施形態に係るロボットシステムの構成例を示す図である。FIG. 6 is a diagram showing an example of the configuration of a robot system according to the second embodiment of the present invention. 図7は、図6のロボットシステムによる制御処理の一例を説明するフローチャートである。FIG. 7 is a flowchart illustrating an example of a control process performed by the robot system of FIG. 図8は、本発明の第3の実施形態に係るロボットシステムの構成例を示す図である。FIG. 8 is a diagram showing an example of the configuration of a robot system according to the third embodiment of the present invention. 図9は、図8のロボットシステムによる制御処理の一例を説明するフローチャートである。FIG. 9 is a flowchart illustrating an example of a control process performed by the robot system of FIG.

以下、本発明の複数の実施形態について図面に基づいて説明する。なお、各実施形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。また、以下の実施形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合及び原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。また、「Aからなる」、「Aよりなる」、「Aを有する」、「Aを含む」と言うときは、特にその要素のみである旨明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。同様に、以下の実施形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合及び原理的に明らかにそうでないと考えられる場合等を除き、実質的にその形状等に近似または類似するもの等を含むものとする。 In the following, several embodiments of the present invention will be described with reference to the drawings. In all the drawings for describing each embodiment, the same components are generally given the same reference numerals, and the repeated description will be omitted. In the following embodiments, the components (including element steps, etc.) are not necessarily essential, unless otherwise specified or considered to be obviously essential in principle. In addition, when it is said that "consists of A," "consists of A," "has A," or "includes A," it is needless to say that it does not exclude other elements, except when it is specifically specified that it is only that element. Similarly, in the following embodiments, when referring to the shape, positional relationship, etc. of components, etc., it is intended to include those that are substantially similar or similar to the shape, etc., except when it is specifically specified or considered to be obviously not essential in principle.

<本発明の第1の実施形態に係るロボットシステム11の構成例>
図1は、本発明の第1の実施形態に係るロボットシステム11の構成例を示している。
<Configuration Example of Robot System 11 According to First Embodiment of the Present Invention>
FIG. 1 shows an example of the configuration of a robot system 11 according to a first embodiment of the present invention.

ロボットシステム11は、制御装置20、コントローラ30、及びロボット40を備える。 The robot system 11 includes a control device 20, a controller 30, and a robot 40.

制御装置20は、コントローラ30を介してロボット40の動作を制御する。制御装置20は、CPU(Central Processing Unit)等のプロセッサ、SDRAM(Static Random Access Memory)等のメモリ、HDD(Hard Disc Drive)やSSD(Solid State Drive)等のストレージ、通信モジュール、入力装置、表示装置を備えるパーソナルコンピュータ等の一般的なコンピュータから成る。 The control device 20 controls the operation of the robot 40 via the controller 30. The control device 20 is composed of a general computer such as a personal computer equipped with a processor such as a CPU (Central Processing Unit), a memory such as an SDRAM (Static Random Access Memory), a storage such as an HDD (Hard Disc Drive) or SSD (Solid State Drive), a communication module, an input device, and a display device.

制御装置20は、演算部21、記憶部22、表示部23、入力部24、及び通信部25を備える。 The control device 20 includes a calculation unit 21, a memory unit 22, a display unit 23, an input unit 24, and a communication unit 25.

演算部21は、コンピュータのプロセッサにより実現される。演算部21は、動作計画部211、把持調整部212、シミュレーション実行部213、再把持判断部214、及び表示制御部218の各機能ブロックを有する。これらの機能ブロックは、コンピュータのプロセッサが所定のプログラムを実行することにより実現される。 The calculation unit 21 is realized by a computer processor. The calculation unit 21 has the following functional blocks: a motion planning unit 211, a grip adjustment unit 212, a simulation execution unit 213, a re-grasp determination unit 214, and a display control unit 218. These functional blocks are realized by the computer processor executing a predetermined program.

動作計画部211は、記憶部22に格納されているロボット構成情報221、軌道始点・終点情報222、干渉物構成情報223、及び把持対象物情報224(いずれも後述)に基づき、ロボット40がワークを把持し、組付け作業を行う際の軌道を決定し、軌道情報225として記憶部22に格納する。 The motion planning unit 211 determines the trajectory that the robot 40 will take to grasp the workpiece and perform the assembly work based on the robot configuration information 221, trajectory start and end point information 222, interference object configuration information 223, and grasped object information 224 (all of which will be described later) stored in the memory unit 22, and stores the trajectory information 225 in the memory unit 22.

図2は、動作計画部211による処理の一例を説明するための図であり、ロボット40の各関節角を空間軸とした座標空間(以下、コンフィギュレーション空間と称する)を示している。ただし、同図のコンフィギュレーション空間は、ロボット40の自由度が2である場合を示している。 Figure 2 is a diagram for explaining an example of processing by the motion planning unit 211, and shows a coordinate space (hereinafter referred to as a configuration space) in which each joint angle of the robot 40 is a spatial axis. However, the configuration space in the figure shows a case in which the robot 40 has two degrees of freedom.

動作計画部211は、ロボット構成情報221、干渉物構成情報223、及び把持対象物情報224に基づく動作シミュレーション等により、ロボット40の動作に干渉し得る周辺構造物が存在する干渉領域の位置を計算する。動作計画部211は、ロボット40によりワークを把持した状態を表す始点Sから、1点以上の経由点(不図示)を経由して、ワークを組み付けた状態を表す終点Gに至る複数の軌道候補を生成し、軌道候補のうち、干渉領域を通らない軌道Pを選択する。軌道候補の生成方法及び軌道Pの選択方法は公知のアルゴリズムが多数存在するので、それらを用いればよい。動作計画部211が生成する軌道情報には、動作の始点S、1点以上の経由点、及び終点Gの位置とそれぞれにおけるロボット40の姿勢とを表す情報が含まれる。 The motion planning unit 211 calculates the position of an interference area where surrounding structures that may interfere with the motion of the robot 40 exist, by motion simulation based on the robot configuration information 221, the interference object configuration information 223, and the grasped object information 224. The motion planning unit 211 generates multiple trajectory candidates from a start point S, which represents a state in which the robot 40 grasps a workpiece, via one or more waypoints (not shown), to an end point G, which represents a state in which the workpiece is assembled, and selects a trajectory P from the trajectory candidates that does not pass through the interference area. There are many known algorithms for generating the trajectory candidates and selecting the trajectory P, so it is sufficient to use any of them. The trajectory information generated by the motion planning unit 211 includes information representing the positions of the start point S of the motion, one or more waypoints, and the end point G, and the posture of the robot 40 at each of them.

図1に戻る。把持調整部212は、ロボット40のハンド部42によるワークに対する把持動作を調整する。 Returning to FIG. 1, the gripping adjustment unit 212 adjusts the gripping operation of the hand unit 42 of the robot 40 on the workpiece.

図3は、把持調整部212の詳細な構成例を示している。把持調整部212は、特徴量抽出部51、誤差推定部52、及び把持力調整部53を有する。 Figure 3 shows a detailed configuration example of the grip adjustment unit 212. The grip adjustment unit 212 has a feature extraction unit 51, an error estimation unit 52, and a grip force adjustment unit 53.

特徴量抽出部51は、ハンド部42によるワークに対する把持動作の際、触覚センサ43及び視覚センサ44によって検出された結果を表すセンサデータを取得してその特徴量を抽出する。誤差推定部52は、抽出された特徴量を学習済モデル226に入力することにより、ハンド部42によるワークの把持位置、把持姿勢、及び把持力のうちの少なくとも一つについて、計画時とワークを実際に把持した際との誤差を推定する。 The feature extraction unit 51 acquires sensor data representing the results detected by the tactile sensor 43 and the visual sensor 44 when the hand unit 42 grasps the workpiece, and extracts the feature values. The error estimation unit 52 inputs the extracted feature values into the trained model 226, thereby estimating the error between the planned state and the actual state when the workpiece is grasped by the hand unit 42 for at least one of the grasping position, the grasping posture, and the grasping force of the workpiece.

ここで、把持位置は、例えばハンド部42がワークを把持する際の直交座標上の位置ベクトルによって表わされる。把持姿勢は、ワークを把持する際のハンド部42の直交座標軸まわり回転(ロール、ピッチ、ヨー)で表わされる。把持力は、ハンド部42の開閉の大きさを制御する関節の回転角等によって表わされる。 Here, the gripping position is represented, for example, by a position vector on the Cartesian coordinate system when the hand unit 42 grips the workpiece. The gripping posture is represented by the rotation (roll, pitch, yaw) of the hand unit 42 around the Cartesian coordinate system axis when gripping the workpiece. The gripping force is represented by the rotation angle of the joint that controls the degree of opening and closing of the hand unit 42.

把持力調整部53は、ロボット40のハンド部42によるワークに対する把持動作の把持力を調整する。 The gripping force adjustment unit 53 adjusts the gripping force of the gripping operation performed on the workpiece by the hand unit 42 of the robot 40.

図1に戻る。シミュレーション実行部213は、誤差推定部52によって推定された誤差を解消する方向にハンド部42の現在の位置、姿勢、及び把持力のうちの少なくとも一つを調整する。具体的には、ハンド部42によるワークの把持位置を移動したり、姿勢や把持力を変更したりする。なお、誤差を解消するためのハンド部42の調整は、実際にハンド部42を動作させてもよいし、ハンド部42を動作させることなくシミュレーションとして行ってもよい。さらに、シミュレーション実行部213は、ハンド部42を調整したことを前提として動作計画部211と同様のシミュレーションを実行して、組付け作業の始点から終点に至る軌道を探索する。 Returning to FIG. 1, the simulation execution unit 213 adjusts at least one of the current position, posture, and gripping force of the hand unit 42 in a direction that eliminates the error estimated by the error estimation unit 52. Specifically, the simulation execution unit 213 moves the gripping position of the workpiece by the hand unit 42, or changes the posture or gripping force. Note that the adjustment of the hand unit 42 to eliminate the error may be performed by actually operating the hand unit 42, or may be performed as a simulation without operating the hand unit 42. Furthermore, the simulation execution unit 213 executes a simulation similar to that of the motion planning unit 211, assuming that the hand unit 42 has been adjusted, to search for a trajectory from the start point to the end point of the assembly work.

再把持判断部214は、シミュレーション実行部213によるシミュレーション結果に基づき、ハンド部42の位置、姿勢、及び把持力のうちの少なくとも一つを調整した後の再把持により組付け作業が可能か否かを判断する。再把持により組付け作業が可能と判断した場合、再把持判断部214は、誤差を解消する方向にハンド部42を調整するための制御目標値を生成する。この制御目標値は、通信部25によってコントローラ30に送信される。 The re-gripping determination unit 214 determines whether or not the assembly work can be performed by re-gripping after adjusting at least one of the position, posture, and gripping force of the hand unit 42 based on the simulation results by the simulation execution unit 213. If it is determined that the assembly work can be performed by re-gripping, the re-gripping determination unit 214 generates a control target value for adjusting the hand unit 42 in a direction that eliminates the error. This control target value is transmitted to the controller 30 by the communication unit 25.

図4は、シミュレーション実行部213及び再把持判断部214による処理の一例を説明するための図であり、ロボット40のコンフィグレーション空間を示している。同図(A)は、再把持によって組付けが可能と判断された場合の、誤差を解消する方向にハンド部42を調整した後のコンフィギュレーション空間における軌道を示している。ここで、始点Sは、調整後のロボット40の各関節角の組合せを表している。終点Gは、動作計画部211による計画時と同じ位置である。 Figure 4 is a diagram for explaining an example of processing by the simulation execution unit 213 and the re-grasping judgment unit 214, showing the configuration space of the robot 40. Figure (A) shows a trajectory in the configuration space after the hand unit 42 is adjusted in a direction that eliminates the error when it is judged that assembly is possible by re-grasping. Here, the starting point S represents the combination of each joint angle of the robot 40 after adjustment. The end point G is the same position as when planned by the motion planning unit 211.

なお、調整後の始点Sは、動作計画部211による計画時(図2)の始点Sと異なるため、干渉領域も計画時(図2)と異なっている。同図(A)は、調整量が比較的小さいために干渉領域の変化が小さく、干渉領域を通過せずに始点Sから終点Gに至る軌道Pを生成できた場合を示している。一方、同図(B)は、調整量が比較的大きいために干渉領域の変化が大きく、干渉領域を通過せずに始点Sから終点Gに至る軌道を生成できない場合を示している。 Note that the start point S after adjustment is different from the start point S at the time of planning by the motion planning unit 211 (Figure 2), and therefore the interference region is also different from that at the time of planning (Figure 2). Figure (A) shows a case where the amount of adjustment is relatively small, resulting in a small change in the interference region, and a trajectory P from the start point S to the end point G can be generated without passing through the interference region. On the other hand, Figure (B) shows a case where the amount of adjustment is relatively large, resulting in a large change in the interference region, and therefore a trajectory from the start point S to the end point G cannot be generated without passing through the interference region.

図1に戻る。表示制御部218は、表示部23における各種の表示を制御する。 Returning to FIG. 1, the display control unit 218 controls various displays on the display unit 23.

記憶部22は、コンピュータのメモリ及びストレージにより実現される。記憶部22には、ロボット構成情報221、軌道始点・終点情報222、干渉物構成情報223、把持対象物情報224、軌道情報225、及び学習済モデル226を格納する。 The memory unit 22 is realized by the memory and storage of a computer. The memory unit 22 stores robot configuration information 221, trajectory start point/end point information 222, interference object configuration information 223, grasp target object information 224, trajectory information 225, and learned model 226.

ロボット構成情報221は、ロボット40を構成するアーム部41及びハンド部42の形状や接続状態等を含む情報である。具体的には、ロボット40の3D・CAD(Computer Aided Design)データやURDF(Unified Robot Description Format)データ等である。ロボット構成情報221は、予め記憶部22に格納されている。 The robot configuration information 221 is information including the shapes and connection states of the arm unit 41 and hand unit 42 that constitute the robot 40. Specifically, it is 3D CAD (Computer Aided Design) data and URDF (Unified Robot Description Format) data of the robot 40. The robot configuration information 221 is stored in advance in the memory unit 22.

軌道始点・終点情報222は、ロボット40の動作の始点、経由点、及び終点それぞれの座標と姿勢とを表す情報である。軌道始点・終点情報222は、例えば、予めユーザから入力されて記憶部22に格納されている。 The trajectory start point/end point information 222 is information that represents the coordinates and posture of the start point, intermediate point, and end point of the movement of the robot 40. The trajectory start point/end point information 222 is, for example, input in advance by the user and stored in the memory unit 22.

干渉物構成情報223は、ロボット40の動作に干渉し得るロボット40の周辺に存在する構造物の情報である。具体的には、例えば組付けに用いる治具やロボット40の周辺の屋台の3D・CADデータ等である。干渉物構成情報223は、予め記憶部22に格納されている。 The interference object configuration information 223 is information on structures present around the robot 40 that may interfere with the operation of the robot 40. Specifically, it is, for example, 3D CAD data of jigs used in assembly and stalls around the robot 40. The interference object configuration information 223 is stored in advance in the memory unit 22.

把持対象物情報224は、把持対象となるワークの形状を表す情報である。具体的には、ワークの3D・CADデータ等である。把持対象物情報224は、予め記憶部22に格納されている。 The grasp target information 224 is information that represents the shape of the workpiece to be grasped. Specifically, it is 3D CAD data of the workpiece, etc. The grasp target information 224 is stored in advance in the memory unit 22.

軌道情報225は、ロボット40の各関節角の組合せの時系列変化を表す情報である。軌道情報225は、動作計画部211により生成されて記憶部22に格納される。 The trajectory information 225 is information that represents the time series changes in the combination of each joint angle of the robot 40. The trajectory information 225 is generated by the motion planning unit 211 and stored in the memory unit 22.

学習済モデル226は、例えばニューラルネットワーク等の機械学習モデルである。学習済モデル226には、あるワークに対する過去の把持動作において、触覚センサ43及び視覚センサ44によるセンサデータの特徴量と、ハンド部42がワークを把持した際の把持位置、姿勢、及び把持力の計画時と実動時の誤差との関係が学習されている。学習済モデル226は、センサデータの特徴量を入力として、把持位置、姿勢、及び把持力の計画時と実動時の誤差を出力する。学習済モデル226は、予め記憶部22に格納されている。 The trained model 226 is a machine learning model such as a neural network. The trained model 226 has learned the relationship between the feature amounts of sensor data from the tactile sensor 43 and the visual sensor 44 in a past gripping operation of a certain workpiece, and the error between the planned and actual gripping position, posture, and gripping force when the hand unit 42 grips the workpiece. The trained model 226 takes the feature amounts of the sensor data as input, and outputs the error between the planned and actual gripping position, posture, and gripping force. The trained model 226 is stored in advance in the memory unit 22.

表示部23は、コンピュータの表示装置により実現される。表示部23は、例えば、ユーザが各種の入力を行ったり、ロボット40の動作状況を示したり、ロボット40が計画通りに組付け作業を実行できないことを通知したりするGUI(Graphical User Interface)等の画面を表示する。 The display unit 23 is realized by a computer display device. The display unit 23 displays, for example, a screen such as a GUI (Graphical User Interface) that allows the user to input various information, shows the operating status of the robot 40, and notifies the user that the robot 40 is unable to perform the assembly work as planned.

入力部24は、コンピュータの入力装置により実現される。入力部24は、ユーザからの各種の入力操作を受け付ける。 The input unit 24 is realized by an input device of a computer. The input unit 24 accepts various input operations from the user.

通信部25は、コンピュータの通信モジュールにより実現される。通信部25は、インターネットや携帯電話通信網等のネットワーク(不図示)を介してコントローラ30と接続し、各種のデータを通信する。 The communication unit 25 is realized by a communication module of a computer. The communication unit 25 connects to the controller 30 via a network (not shown) such as the Internet or a mobile phone communication network, and communicates various types of data.

コントローラ30は、制御装置20から入力される制御に従い、ロボット40を構成するアーム部41及びハンド部42を動作させることにより組付け作業を実行させる。 The controller 30 performs assembly work by operating the arm unit 41 and hand unit 42 that constitute the robot 40 according to the control input from the control device 20.

ロボット40は、アーム部41、ハンド部42、触覚センサ43、及び視覚センサ44を有する。ロボット40は、コントローラ30からの制御に従ってアーム部41及びハンド部42を動作させる。 The robot 40 has an arm unit 41, a hand unit 42, a tactile sensor 43, and a visual sensor 44. The robot 40 operates the arm unit 41 and the hand unit 42 according to the control from the controller 30.

アーム部41は、ハンド部42を支える構造体であり、ロボット40の可動部位である。ハンド部42は、例えばグリッパ等のエンドエフェクタである。触覚センサ43は、ハンド部42に設置されている。触覚センサ43は、ハンド部42の把持面とワークの接触面の形状や応力等を検出する。視覚センサ44は、ロボット40のいずれかの箇所に設置されている。視覚センサ44は、例えば、カメラ等からなり、ロボット40の周囲に存在するワークや干渉物等を検出する。なお、視覚センサ44は、ロボット40の周囲に存在するワークや干渉物等を検出できれば、ロボット40以外の場所(例えば、天井等)に設置するようにしてもよい。 The arm unit 41 is a structure that supports the hand unit 42, and is a movable part of the robot 40. The hand unit 42 is an end effector such as a gripper. The tactile sensor 43 is installed on the hand unit 42. The tactile sensor 43 detects the shape and stress of the contact surface between the gripping surface of the hand unit 42 and the workpiece. The visual sensor 44 is installed somewhere on the robot 40. The visual sensor 44 is, for example, a camera, and detects workpieces, obstructions, etc. that exist around the robot 40. Note that the visual sensor 44 may be installed in a location other than the robot 40 (for example, the ceiling, etc.) as long as it can detect workpieces, obstructions, etc. that exist around the robot 40.

次に、図5は、ロボットシステム11によるロボット制御処理の一例を説明するフローチャートである。 Next, FIG. 5 is a flowchart illustrating an example of robot control processing by the robot system 11.

該ロボット制御処理は、例えばユーザからの所定の操作に応じて開始される。始めに、動作計画部211が、記憶部22に格納されているロボット構成情報221、軌道始点・終点情報222、干渉物構成情報223、及び把持対象物情報224に基づき、ロボット40がワークを把持し、組付け作業を行う際の軌道を決定し、軌道情報225を生成して記憶部22に格納する(ステップS1)。 The robot control process is started, for example, in response to a predetermined operation by the user. First, the motion planning unit 211 determines the trajectory that the robot 40 will take to grasp the workpiece and perform the assembly work based on the robot configuration information 221, trajectory start and end point information 222, interference object configuration information 223, and grasped object information 224 stored in the memory unit 22, and generates trajectory information 225 and stores it in the memory unit 22 (step S1).

次に、把持調整部212が、軌道情報225を参照し、実際にワークを把持する動作をロボット40に実行させる(ステップS2)。具体的には、通信部25を介してコントローラ30を制御し、ロボット40に把持動作を実行させる。 Next, the grip adjustment unit 212 refers to the trajectory information 225 and causes the robot 40 to actually grip the workpiece (step S2). Specifically, the grip adjustment unit 212 controls the controller 30 via the communication unit 25 to cause the robot 40 to perform the gripping operation.

次に、把持調整部212の特徴量抽出部51が、ロボット40が把持動作を実行している際に触覚センサ43及び視覚センサ44によって検出されたセンサデータをコントローラ30から取得し、特徴量を抽出する(ステップS3)。 Next, the feature extraction unit 51 of the grip adjustment unit 212 acquires sensor data detected by the tactile sensor 43 and the visual sensor 44 when the robot 40 is performing a gripping operation from the controller 30 and extracts features (step S3).

次に、誤差推定部52が、抽出された特徴量を学習済モデル226に入力することにより、ハンド部42によるワークの把持位置、把持姿勢、及び把持力について、計画時と実動時との誤差を推定する(ステップS4)。 Next, the error estimation unit 52 inputs the extracted features into the trained model 226 to estimate the error between the planned and actual gripping position, gripping posture, and gripping force of the workpiece by the hand unit 42 (step S4).

次に、シミュレーション実行部213が、推定された誤差を解消する方向にハンド部42を調整すること前提とした動作計画部211と同様のシミュレーションを実行して、変更された始点から干渉領域を通過することなく終点に至る軌道を探索する(ステップS5)。 Next, the simulation execution unit 213 executes a simulation similar to that of the motion planning unit 211, which is based on the assumption that the hand unit 42 is adjusted in a direction that eliminates the estimated error, and searches for a trajectory that reaches the end point from the changed starting point without passing through the interference area (step S5).

次に、再把持判断部214が、シミュレーション実行部213によるシミュレーション結果により軌道が探索されたか否かに基づいて、組付け作業が可能か否かを判断する(ステップS6)。ここで、軌道が探索されたことにより組付け作業が可能と判断した場合(ステップS6でYES)、再把持判断部214が、誤差を解消する方向にハンド部42を調整するための制御目標値を生成し、通信部25を介してコントローラ30に送信することにより、ロボット40に再びワークの把持動作を実行させる(ステップS7)。 Next, the re-gripping determination unit 214 determines whether the assembly work is possible based on whether a trajectory has been searched for based on the results of the simulation performed by the simulation execution unit 213 (step S6). If it is determined that the assembly work is possible because a trajectory has been searched for (YES in step S6), the re-gripping determination unit 214 generates a control target value for adjusting the hand unit 42 in a direction that eliminates the error, and transmits this to the controller 30 via the communication unit 25, thereby causing the robot 40 to perform the workpiece gripping operation again (step S7).

次に、把持調整部212が、通信部25を介してコントローラ30を制御し、ステップS5で探索され、ステップS6で組付け作業が可能と判断された軌道に沿ってロボット40を動作させる(ステップS8)。以上で、ロボット制御処理は終了される。 Next, the grip adjustment unit 212 controls the controller 30 via the communication unit 25 to operate the robot 40 along the trajectory that was searched for in step S5 and that was determined to be suitable for assembly work in step S6 (step S8). This ends the robot control process.

反対に、再把持判断部214が、軌道が探索できなかったことにより組付け作業が不可能と判断した場合(ステップS6でNO)、表示制御部218が、組付け作業を実行できない旨を表すアラート画面を表示部23に表示させる(ステップS9)。以上で、ロボット制御処理は終了される。 On the other hand, if the re-grasp determination unit 214 determines that the assembly work cannot be performed because the trajectory could not be found (NO in step S6), the display control unit 218 causes the display unit 23 to display an alert screen indicating that the assembly work cannot be performed (step S9). This ends the robot control process.

以上に説明したロボットシステム11によるロボット制御処理によれば、ワークを把持した際に把持位置のずれや姿勢のずれが発生しても、再把持により組付けが可能か否かをシミュレーションによって判断するので、組付け作業の成功率を向上させることが可能となる。 According to the robot control process by the robot system 11 described above, even if a shift in the gripping position or posture occurs when gripping a workpiece, a simulation is performed to determine whether or not re-gripping and assembly is possible, thereby making it possible to improve the success rate of assembly work.

<本発明の第2の実施形態に係るロボットシステム12の構成例>
次に、図6は、本発明の第2の実施形態に係るロボットシステム11の構成例を示している。
<Configuration Example of Robot System 12 According to Second Embodiment of the Present Invention>
Next, FIG. 6 shows an example of the configuration of a robot system 11 according to a second embodiment of the present invention.

ロボットシステム12は、ロボットシステム11(図1)の演算部21が有する機能ブロックとして、閾値判定部215を追加するとともに、記憶部22に格納された情報として誤差閾値情報227を追加したものである。ロボットシステム12の構成要素のうち、ロボットシステム11の構成要素と共通するものには同一の符号を付してその説明を省略する。 The robot system 12 is obtained by adding a threshold determination unit 215 as a functional block of the calculation unit 21 of the robot system 11 (FIG. 1), and adding error threshold information 227 as information stored in the memory unit 22. Among the components of the robot system 12, those that are common to the components of the robot system 11 are given the same reference numerals and their description is omitted.

閾値判定部215は、ワーク毎に設定されている把持位置、把持姿勢、及び把持力の許容誤差の閾値を表す誤差閾値情報227を参照し、誤差推定部52によって推定された誤差が閾値以下であるか否かを判定する。 The threshold determination unit 215 refers to the error threshold information 227, which represents the thresholds of the allowable errors of the gripping position, gripping posture, and gripping force set for each workpiece, and determines whether the error estimated by the error estimation unit 52 is equal to or smaller than the threshold.

次に、図7は、ロボットシステム12によるロボット制御処理の一例を説明するフローチャートである。 Next, FIG. 7 is a flowchart illustrating an example of robot control processing by the robot system 12.

該ロボット制御処理は、例えばユーザからの所定の操作に応じて開始される。なお、ステップS11~ステップS14の処理は、ロボットシステム11によるロボット制御処理(図5)におけるステップS1~ステップS4の処理と同様であるため、その説明は省略する。 The robot control process is started, for example, in response to a predetermined operation by the user. Note that the processes in steps S11 to S14 are similar to the processes in steps S1 to S4 in the robot control process by the robot system 11 (FIG. 5), and therefore a description thereof will be omitted.

ステップS14により誤差が推定された後、次に、閾値判定部215が、誤差閾値情報227を参照し、推定された誤差が閾値以下であるか否かを判定する(ステップS15)。ここで、推定された誤差が閾値以下ではないと判定された場合(ステップS15でNO)、シミュレーション実行部213が、推定された誤差を解消する方向にハンド部42を調整したことを前提として動作計画部211と同様のシミュレーションを実行し、変更された始点から干渉領域を通過することなく終点に至る軌道を探索する(ステップS16)。 After the error is estimated in step S14, the threshold determination unit 215 then refers to the error threshold information 227 and determines whether the estimated error is equal to or less than the threshold (step S15). If it is determined that the estimated error is not equal to or less than the threshold (NO in step S15), the simulation execution unit 213 executes a simulation similar to that of the motion planning unit 211 on the premise that the hand unit 42 has been adjusted in a direction that eliminates the estimated error, and searches for a trajectory that reaches the end point from the changed starting point without passing through the interference area (step S16).

次に、再把持判断部214が、シミュレーション実行部213によるシミュレーション結果により軌道が探索できたか否かに基づき、組付け作業が可能であるか否かを判断する(ステップS17)。ここで、軌道が探索できたことにより組付け作業が可能であると判断した場合(ステップS17でYES)、再把持判断部214が、誤差を解消する方向にハンド部42を調整するための制御目標値を生成し、通信部25を介してコントローラ30に送信することにより、ロボット40に再びワークの把持動作を実行させる(ステップS18)。この後、処理はステップS13に戻されて、ステップS13以降が繰り返される。 Next, the re-gripping determination unit 214 determines whether or not the assembly work is possible based on whether or not a trajectory has been found based on the results of the simulation performed by the simulation execution unit 213 (step S17). If it is determined that the assembly work is possible because a trajectory has been found (YES in step S17), the re-gripping determination unit 214 generates a control target value for adjusting the hand unit 42 in a direction that eliminates the error, and transmits this to the controller 30 via the communication unit 25, thereby causing the robot 40 to perform the workpiece gripping operation again (step S18). After this, the process returns to step S13, and steps S13 and onward are repeated.

反対に、再把持判断部214が、軌道が探索できなかったことにより組付け作業が不可能と判断した場合(ステップS17でNO)、表示制御部218が、表示部23に、組付け作業を実行できない旨を表すアラート画面を表示させる(ステップS19)。以上で、ロボット制御処理は終了される。 On the other hand, if the re-grasp determination unit 214 determines that the assembly work cannot be performed because the trajectory could not be found (NO in step S17), the display control unit 218 causes the display unit 23 to display an alert screen indicating that the assembly work cannot be performed (step S19). This ends the robot control process.

また、閾値判定部215が、推定された誤差が閾値以下であると判定した場合(ステップS15でYES)、これ以上の誤差調整は不要であるため、把持調整部212が、通信部25を介してコントローラ30を制御し、最新の軌道に沿ってロボット40を動作させる(ステップS20)。以上で、ロボット制御処理は終了される。 If the threshold determination unit 215 determines that the estimated error is equal to or less than the threshold (YES in step S15), no further error adjustment is required, and the grip adjustment unit 212 controls the controller 30 via the communication unit 25 to operate the robot 40 along the latest trajectory (step S20). This ends the robot control process.

以上に説明したロボットシステム12によるロボット制御処理によれば、軌道が探索できない場合を除き、推定された誤差が閾値以下となるまで再把持動作と軌道の探索を繰り返すので、第1の実施形態に比べて組付け作業の成功率をより向上させることが可能となる。 According to the robot control process by the robot system 12 described above, except when the trajectory cannot be searched, the re-gripping operation and trajectory search are repeated until the estimated error falls below the threshold value, which makes it possible to further improve the success rate of the assembly work compared to the first embodiment.

<本発明の第3の実施形態に係るロボットシステム13の構成例>
次に、図8は、本発明の第3の実施形態に係るロボットシステム13の構成例を示している。
<Configuration Example of Robot System 13 According to Third Embodiment of the Present Invention>
Next, FIG. 8 shows an example of the configuration of a robot system 13 according to a third embodiment of the present invention.

ロボットシステム13は、ロボットシステム11(図1)の演算部21が有する機能ブロックとして、干渉物特定部216追加したものである。ロボットシステム13の構成要素のうち、ロボットシステム11の構成要素と共通するものには同一の符号を付してその説明を省略する。 The robot system 13 is a robot system 11 (FIG. 1) to which an interference identification unit 216 has been added as a functional block of the calculation unit 21. Among the components of the robot system 13, the components common to the components of the robot system 11 are given the same reference numerals and their description is omitted.

干渉物特定部216は、再把持後の軌道が探索できなかったために再把持判断部214によって組付け作業が不可能と判断された場合の、軌道が探索できない要因となった干渉物を特定し、その情報を表示制御部218に出力する。表示制御部218は、干渉物の位置や形状等を例えば文字列や画像等によって表示部23に表示させる。 When the re-gripping determination unit 214 determines that the assembly work is impossible because the trajectory after re-gripping could not be found, the interference identification unit 216 identifies the interference that caused the trajectory to be unable to be searched for, and outputs the information to the display control unit 218. The display control unit 218 causes the display unit 23 to display the position, shape, etc. of the interference, for example, by using a character string or an image.

次に、図9は、ロボットシステム13によるロボット制御処理の一例を説明するフローチャートである。 Next, FIG. 9 is a flowchart illustrating an example of robot control processing by the robot system 13.

該ロボット制御処理は、例えばユーザからの所定の操作に応じて開始される。なお、ステップS31~ステップS38の処理は、ロボットシステム11によるロボット制御処理(図5)におけるステップS1~ステップS8の処理と同様であるため、その説明は省略する。 The robot control process is started, for example, in response to a predetermined operation by the user. Note that the processes in steps S31 to S38 are similar to the processes in steps S1 to S8 in the robot control process by the robot system 11 (FIG. 5), and therefore will not be described here.

ステップS36において、再把持判断部214により組付け作業が不可能と判断された場合(ステップS36でNO)、干渉物特定部216が、軌道が探索できない要因となった干渉物を特定し、その情報を表示制御部218に出力し、表示制御部218が、干渉物の位置や形状等を例えば文字列や画像等によって表示部23に表示させる(ステップS39)。 In step S36, if the re-grasp judgment unit 214 judges that the assembly work is impossible (NO in step S36), the interference object identification unit 216 identifies the interference object that caused the trajectory to be unable to be searched and outputs the information to the display control unit 218, and the display control unit 218 displays the position, shape, etc. of the interference object on the display unit 23, for example, by using a character string or an image (step S39).

次に、表示制御部218が、組付け作業を実行できない旨を表すアラート画面を表示部23に表示させる(ステップS40)。以上で、ロボット制御処理は終了される。 Next, the display control unit 218 causes the display unit 23 to display an alert screen indicating that the assembly work cannot be performed (step S40). This ends the robot control process.

以上に説明したロボットシステム13によるロボット制御処理によれば、ロボットシステム11によるロボット制御処理(図5)と同様の作用、効果を得ることができる。さらに、ロボットシステム13によるロボット制御処理によれば、軌道の妨げとなっている干渉物をユーザが把握できるので、干渉物を移動させる等のユーザによる対処立案を容易にすることが可能となる。 The robot control process by the robot system 13 described above can achieve the same effects and advantages as the robot control process by the robot system 11 (FIG. 5). Furthermore, the robot control process by the robot system 13 allows the user to identify any obstructions that are impeding the trajectory, making it easier for the user to plan countermeasures, such as moving the obstructions.

本発明は、上述した実施形態に限定されるものではなく、様々な変形が可能である。例えば、上述した実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えたり、追加したりすることが可能である。なお、干渉物特定部216をロボットシステム12(図6)に追加するようにしてもよい。 The present invention is not limited to the above-described embodiment, and various modifications are possible. For example, the above-described embodiment has been described in detail to clearly explain the present invention, and is not necessarily limited to having all of the configurations described. Also, it is possible to replace part of the configuration of one embodiment with or add to the configuration of another embodiment. Note that an interference object identification unit 216 may be added to the robot system 12 (Figure 6).

また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。 In addition, the above-mentioned configurations, functions, processing units, processing means, etc. may be realized in part or in whole in hardware, for example by designing them as integrated circuits. In addition, the above-mentioned configurations, functions, etc. may be realized in software by a processor interpreting and executing a program that realizes each function. Information such as programs, tables, files, etc. that realize each function can be stored in memory, a recording device such as a hard disk or SSD, or a recording medium such as an IC card, SD card, or DVD. In addition, the control lines and information lines shown are those that are considered necessary for explanation, and do not necessarily show all control lines and information lines in the product. In reality, it can be considered that almost all configurations are connected to each other.

11~13・・・ロボットシステム、20・・・制御装置、21・・・演算部、211・・・動作計画部、212・・・把持調整部、213・・・シミュレーション実行部、214・・・再把持判断部、215・・・閾値判定部、216・・・干渉物特定部、218・・・表示制御部、22・・・記憶部、221・・・ロボット構成情報、222・・・軌道始点・終点情報、223・・・干渉物構成情報、224・・・把持対象物情報、225・・・軌道情報、226・・・学習済モデル、227・・・誤差閾値情報、23・・・表示部、24・・・入力部、25・・・通信部、30・・・コントローラ、40・・・ロボット、41・・・アーム部、42・・・ハンド部、43・・・触覚センサ、44・・・視覚センサ、51・・・特徴量抽出部、52・・・誤差推定部、53・・・把持力調整部 11-13: Robot system, 20: Control device, 21: Calculation unit, 211: Motion planning unit, 212: Grasping adjustment unit, 213: Simulation execution unit, 214: Re-grasping judgment unit, 215: Threshold judgment unit, 216: Interference object identification unit, 218: Display control unit, 22: Storage unit, 221: Robot configuration information, 222: Trajectory start point/end point information, 223: Interference object configuration information, 224: Grasping object information, 225: Trajectory information, 226: Learned model, 227: Error threshold information, 23: Display unit, 24: Input unit, 25: Communication unit, 30: Controller, 40: Robot, 41: Arm unit, 42: Hand unit, 43: Tactile sensor, 44: Visual sensor, 51: Feature extraction unit, 52: Error estimation unit, 53: Grasping force adjustment unit

Claims (9)

ワークの組付け作業を実行するロボットと、前記ロボットを制御する制御装置と、を備えるロボットシステムであって、
前記制御装置は、
前記ロボットによる動作の、コンフィギレーション空間における前記ワークを把持した状態を表す始点から前記ワークを組み付けた状態を表す終点に至る軌道を決定して軌道情報を生成する動作計画部と、
前記軌道情報に基づいて前記ロボットのハンド部が実際に前記ワークを把持した際の前記ハンド部の把持位置、姿勢、及び把持力のうちの少なくとも一つについて、計画時との前記始点における誤差を推定する把持調整部と、
推定された前記誤差を解消する方向に前記ハンド部の把持位置、姿勢、及び把持力のうちの少なくとも一つを調整し、前記調整によって変更された始点から前記終点に至る新た軌道を生成するシミュレーション実行部と、
前記シミュレーション実行部により前記新たな軌道が生成されたか否かに基づいて、前記組付け作業の可否を判断する再把持判断部と、を有する
ことを特徴とするロボットシステム。
A robot system including a robot that performs an assembly operation of a workpiece and a control device that controls the robot,
The control device includes:
A motion planning unit that determines a trajectory of the motion of the robot from a start point representing a state in which the workpiece is gripped in a configuration space to an end point representing a state in which the workpiece is assembled, and generates trajectory information;
a grip adjustment unit that estimates an error at the starting point from a planned time for at least one of a grip position, a posture, and a grip force of the hand unit of the robot when the hand unit of the robot actually grips the workpiece based on the trajectory information ;
a simulation execution unit that adjusts at least one of a gripping position, an attitude, and a gripping force of the hand unit in a direction to eliminate the estimated error, and generates a new trajectory from a start point changed by the adjustment to the end point ;
a re-grasp determination unit that determines whether or not the assembly work can be performed based on whether or not the new trajectory has been generated by the simulation execution unit.
請求項1に記載のロボットシステムであって、
前記シミュレーション実行部は、前記調整によって変更された前記始点から、前記調整に起因して前記計画時とは異なる干渉領域を通過することなく前記終点に至る前記新たな軌道を生成する
ことを特徴とするロボットシステム。
The robot system according to claim 1 ,
the simulation execution unit generates the new trajectory from the starting point changed by the adjustment to the end point without passing through an interference area that is different from that at the time of the plan due to the adjustment .
請求項1に記載のロボットシステムであって、
前記ロボットは、触覚センサ及び視覚センサの少なくとも一方を有し、
前記把持調整部は、前記触覚センサ及び前記視覚センサの少なくとも一方が出力したセンサデータに基づき、前記ハンド部の前記誤差を推定する
ことを特徴とするロボットシステム。
The robot system according to claim 1 ,
the robot has at least one of a tactile sensor and a visual sensor;
the grip adjustment unit estimates the error of the hand unit based on sensor data output by at least one of the tactile sensor and the visual sensor.
請求項3に記載のロボットシステムであって、
前記把持調整部は、前記センサデータの特徴量を入力として前記誤差を出力する学習モデルを用いることにより前記誤差を推定する
ことを特徴とするロボットシステム。
The robot system according to claim 3,
the grip adjustment unit estimates the error by using a learning model that receives a feature of the sensor data as an input and outputs the error.
請求項1に記載のロボットシステムであって、
前記制御装置は、
前記再把持判断部による前記組付け作業の可否の判断結果を表示部に表示させる表示制御部、を有する
ことを特徴とするロボットシステム。
The robot system according to claim 1 ,
The control device includes:
a display control unit that causes a result of the determination made by the re-gripping determination unit as to whether or not the assembly work can be completed to be displayed on a display unit.
請求項1に記載のロボットシステムであって、
前記制御装置は、
推定された前記誤差が所定の閾値以下であるか否かを判定する閾値判定部、を有し、
前記シミュレーション実行部及び前記再把持判断部は、前記閾値判定部により前記誤差が所定の閾値以下ではないと判定された場合、それぞれの処理を繰り返し実行する
ことを特徴とするロボットシステム。
The robot system according to claim 1 ,
The control device includes:
a threshold determination unit that determines whether the estimated error is equal to or smaller than a predetermined threshold,
the simulation execution unit and the re-grasp determination unit repeatedly execute their respective processes when the threshold determination unit determines that the error is not equal to or less than a predetermined threshold.
請求項1に記載のロボットシステムであって、
前記制御装置は、
前記再把持判断部により、前記シミュレーション実行部で軌道が生成されなかったことにより前記組付け作業が不可能と判断された場合、前記シミュレーション実行部による軌道生成の妨げとなった干渉物を特定する干渉物特定部と、
特定された前記干渉物に関する情報を表示部に表示させる表示制御部と、
を有する
ことを特徴とするロボットシステム。
The robot system according to claim 1 ,
The control device includes:
an interference identifying unit that identifies an interference that has hindered the simulation execution unit from generating a trajectory when the re-gripping determination unit determines that the assembly work is impossible because the simulation execution unit has not generated a trajectory; and
a display control unit that causes information regarding the identified interfering object to be displayed on a display unit;
A robot system comprising:
ワークの組付け作業を実行するロボットを制御する制御装置であって、
前記ロボットによる動作の、コンフィギレーション空間における前記ワークを把持した状態を表す始点から前記ワークを組み付けた状態を表す終点に至る軌道を決定して軌道情報を生成する動作計画部と、
前記軌道情報に基づいて前記ロボットのハンド部が実際に前記ワークを把持した際の前記ハンド部の把持位置、姿勢、及び把持力のうちの少なくとも一つについて、計画時との前記始点における誤差を推定する把持調整部と、
推定された前記誤差を解消する方向に前記ハンド部の把持位置、姿勢、及び把持力のうちの少なくとも一つを調整し、前記調整によって変更された始点から前記終点に至る新た軌道を生成するシミュレーション実行部と、
前記シミュレーション実行部により前記新たな軌道が生成されたか否かに基づいて、前記組付け作業の可否を判断する再把持判断部と、
を備えることを特徴とする制御装置。
A control device for controlling a robot that performs an assembly operation of a workpiece,
A motion planning unit that determines a trajectory of the motion of the robot from a start point representing a state in which the workpiece is gripped in a configuration space to an end point representing a state in which the workpiece is assembled, and generates trajectory information;
a grip adjustment unit that estimates an error at the starting point from a planned time for at least one of a grip position, a posture, and a grip force of the hand unit of the robot when the hand unit of the robot actually grips the workpiece based on the trajectory information ;
a simulation execution unit that adjusts at least one of a gripping position, an attitude, and a gripping force of the hand unit in a direction to eliminate the estimated error, and generates a new trajectory from a start point changed by the adjustment to the end point ;
a re-gripping determination unit that determines whether or not the assembly work can be performed based on whether or not the new trajectory has been generated by the simulation execution unit;
A control device comprising:
ワークの組付け作業を実行するロボットを制御する制御装置による制御方法であって、
前記ロボットによる動作の、コンフィギレーション空間における前記ワークを把持した状態を表す始点から前記ワークを組み付けた状態を表す終点に至る軌道を決定して軌道情報を生成し、
前記軌道情報に基づいて前記ロボットのハンド部が実際に前記ワークを把持した際前記ハンド部の把持位置、姿勢、及び把持力のうちの少なくとも一つについて、計画時との前記始点における誤差を推定し、
推定された前記誤差を解消する方向に前記ハンド部の把持位置、姿勢、及び把持力のうちの少なくとも一つを調整し、前記調整によって変更された始点から前記終点に至る新た軌道を生成し、
前記新たな軌道が生成されたか否かに基づいて、前記組付け作業の可否を判断する
ステップを含むことを特徴とする制御方法。
A control method by a control device that controls a robot that performs an assembly operation of a workpiece, comprising:
Determining a trajectory of the operation of the robot from a start point representing a state in which the workpiece is gripped in a configuration space to an end point representing a state in which the workpiece is assembled, and generating trajectory information;
estimating an error at the starting point from a planned time for at least one of a gripping position, a posture, and a gripping force of the hand unit when the hand unit of the robot actually grips the workpiece based on the trajectory information;
adjusting at least one of the grip position, the attitude, and the grip force of the hand unit in a direction to eliminate the estimated error, and generating a new trajectory from the start point changed by the adjustment to the end point ;
a step of determining whether or not the assembly work can be performed based on whether or not the new trajectory has been generated.
JP2020099821A 2020-06-09 2020-06-09 ROBOT SYSTEM, CONTROL DEVICE, AND CONTROL METHOD Active JP7479205B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020099821A JP7479205B2 (en) 2020-06-09 2020-06-09 ROBOT SYSTEM, CONTROL DEVICE, AND CONTROL METHOD
PCT/JP2021/001844 WO2021250923A1 (en) 2020-06-09 2021-01-20 Robot system, control device, and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020099821A JP7479205B2 (en) 2020-06-09 2020-06-09 ROBOT SYSTEM, CONTROL DEVICE, AND CONTROL METHOD

Publications (2)

Publication Number Publication Date
JP2021192944A JP2021192944A (en) 2021-12-23
JP7479205B2 true JP7479205B2 (en) 2024-05-08

Family

ID=78847192

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020099821A Active JP7479205B2 (en) 2020-06-09 2020-06-09 ROBOT SYSTEM, CONTROL DEVICE, AND CONTROL METHOD

Country Status (2)

Country Link
JP (1) JP7479205B2 (en)
WO (1) WO2021250923A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024024877A1 (en) * 2022-07-29 2024-02-01 Telexistence株式会社 Commodity transfer apparatus and method for controlling same

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009045678A (en) 2007-08-16 2009-03-05 Yaskawa Electric Corp Method for judging success or failure of operation of robot, and robot system
JP2012528016A (en) 2009-05-27 2012-11-12 ライカ ジオシステムズ アクチエンゲゼルシャフト Method and system for accurately positioning at least one object in a final pose in space
US20150239127A1 (en) 2014-02-25 2015-08-27 Gm Global Technology Operations Llc. Visual debugging of robotic tasks
JP2017144498A (en) 2016-02-15 2017-08-24 キヤノン株式会社 Information processor, control method of information processor, and program
JP2017177283A (en) 2016-03-30 2017-10-05 セイコーエプソン株式会社 Robot control device, robot, and simulation device
JP2018126796A (en) 2017-02-06 2018-08-16 セイコーエプソン株式会社 Control device, robot, and robot system
JP2019171501A (en) 2018-03-27 2019-10-10 日本電産株式会社 Robot interference determination device, robot interference determination method and program

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009045678A (en) 2007-08-16 2009-03-05 Yaskawa Electric Corp Method for judging success or failure of operation of robot, and robot system
JP2012528016A (en) 2009-05-27 2012-11-12 ライカ ジオシステムズ アクチエンゲゼルシャフト Method and system for accurately positioning at least one object in a final pose in space
US20150239127A1 (en) 2014-02-25 2015-08-27 Gm Global Technology Operations Llc. Visual debugging of robotic tasks
JP2017144498A (en) 2016-02-15 2017-08-24 キヤノン株式会社 Information processor, control method of information processor, and program
JP2017177283A (en) 2016-03-30 2017-10-05 セイコーエプソン株式会社 Robot control device, robot, and simulation device
JP2018126796A (en) 2017-02-06 2018-08-16 セイコーエプソン株式会社 Control device, robot, and robot system
JP2019171501A (en) 2018-03-27 2019-10-10 日本電産株式会社 Robot interference determination device, robot interference determination method and program

Also Published As

Publication number Publication date
JP2021192944A (en) 2021-12-23
WO2021250923A1 (en) 2021-12-16

Similar Documents

Publication Publication Date Title
US11161247B2 (en) Robot trajectory generation method, robot trajectory generation apparatus, storage medium, and manufacturing method
JP5025598B2 (en) Interference check control apparatus and interference check control method
US20150239127A1 (en) Visual debugging of robotic tasks
Sayour et al. Autonomous robotic manipulation: real‐time, deep‐learning approach for grasping of unknown objects
WO2021097166A1 (en) Tactile dexterity and control
WO2021033486A1 (en) Model generation device, model generation method, control device, and control method
Lin et al. Peg-in-hole assembly under uncertain pose estimation
JP2022176917A (en) Method for controlling robot device
Hudson et al. Model-based autonomous system for performing dexterous, human-level manipulation tasks
JP7479205B2 (en) ROBOT SYSTEM, CONTROL DEVICE, AND CONTROL METHOD
JP2015071207A (en) Robot hand and control method thereof
JP2015074061A (en) Robot control device, robot system, robot, robot control method and robot control program
Guanglong et al. Human–manipulator interface using hybrid sensors with Kalman filters and adaptive multi-space transformation
CN113290553A (en) Trajectory generation device, multi-link system, and trajectory generation method
JP2021035714A (en) Control device, control method and control program
Zhou et al. Incremental learning robot task representation and identification
CN116635194A (en) Interference determination device, robot control system, and interference determination method
KR20220086971A (en) Method and apparatus of tracking hand joint
Du et al. Human‐Manipulator Interface Using Particle Filter
Yu et al. Generalizable whole-body global manipulation of deformable linear objects by dual-arm robot in 3-d constrained environments
CN114080304A (en) Control device, control method, and control program
CN112847329A (en) Trajectory of simulation robot
TWI781708B (en) Learning apparatus, learning method, learning program, control apparatus, control method, and control program
JP7358994B2 (en) Robot control device, robot control system, robot control method, and robot control program
JP7504398B2 (en) Trajectory generation device, trajectory generation method, and trajectory generation program

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20230309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20230310

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240423

R150 Certificate of patent or registration of utility model

Ref document number: 7479205

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150