JP2020015128A - センシングシステム、作業システム、拡張現実画像の表示方法、拡張現実画像の記憶方法、およびプログラム - Google Patents
センシングシステム、作業システム、拡張現実画像の表示方法、拡張現実画像の記憶方法、およびプログラム Download PDFInfo
- Publication number
- JP2020015128A JP2020015128A JP2018139198A JP2018139198A JP2020015128A JP 2020015128 A JP2020015128 A JP 2020015128A JP 2018139198 A JP2018139198 A JP 2018139198A JP 2018139198 A JP2018139198 A JP 2018139198A JP 2020015128 A JP2020015128 A JP 2020015128A
- Authority
- JP
- Japan
- Prior art keywords
- augmented reality
- reality image
- image
- control device
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000001514 detection method Methods 0.000 claims abstract description 204
- 230000003190 augmentative effect Effects 0.000 claims description 161
- 238000012545 processing Methods 0.000 claims description 43
- 238000003860 storage Methods 0.000 claims description 33
- 230000008569 process Effects 0.000 claims description 28
- 230000004044 response Effects 0.000 claims description 7
- 230000008859 change Effects 0.000 abstract description 10
- 238000012800 visualization Methods 0.000 abstract 1
- 230000032258 transport Effects 0.000 description 47
- 230000036544 posture Effects 0.000 description 18
- 238000007689 inspection Methods 0.000 description 15
- 238000012546 transfer Methods 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 8
- 210000003811 finger Anatomy 0.000 description 7
- 238000011835 investigation Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 239000011521 glass Substances 0.000 description 5
- 210000003813 thumb Anatomy 0.000 description 5
- 238000005259 measurement Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 3
- 238000004140 cleaning Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 238000004904 shortening Methods 0.000 description 3
- 239000011248 coating agent Substances 0.000 description 2
- 238000000576 coating method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000010422 painting Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005553 drilling Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005498 polishing Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000003466 welding Methods 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/327—Calibration thereof
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/04—Programme control other than numerical control, i.e. in sequence controllers or logic controllers
- G05B19/042—Programme control other than numerical control, i.e. in sequence controllers or logic controllers using digital processors
- G05B19/0426—Programming the control sequence
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J13/00—Controls for manipulators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/04—Viewing devices
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
- B25J9/161—Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/04—Programme control other than numerical control, i.e. in sequence controllers or logic controllers
- G05B19/042—Programme control other than numerical control, i.e. in sequence controllers or logic controllers using digital processors
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
- G05B19/41815—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by the cooperation between machine tools, manipulators and conveyor or other workpiece supply system, workcell
- G05B19/4182—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by the cooperation between machine tools, manipulators and conveyor or other workpiece supply system, workcell manipulators and conveyor only
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/363—Image reproducers using image projection screens
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/398—Synchronisation thereof; Control thereof
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39449—Pendant, pda displaying camera images overlayed with graphics, augmented reality
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39451—Augmented reality for robot programming
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40053—Pick 3-D object from pile of objects
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40577—Multisensor object recognition
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/45—Nc applications
- G05B2219/45063—Pick and place manipulator
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/06—Recognition of objects for industrial automation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Multimedia (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Manufacturing & Machinery (AREA)
- Quality & Reliability (AREA)
- Manipulator (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
また、ロボットの三次元モデルと、三次元座標上の作業者の視点の位置とに基づき、ロボットの教示された動作の軌跡を表示装置に表示するシステムが知られている(例えば、特許文献2参照。)。
また、対象に対してロボットが作業しなかった場合に、原因が各種センサの計測によるのか、対象の位置計算にあるのか、判別がつかず調整に時間を要していた。
本発明の第1態様のセンシングシステムは、対象を移動させる移動手段によって移動している前記対象の少なくとも位置の検出に用いられる検出装置と、制御装置と、を備え、前記制御装置が認識している設定であって、前記検出装置を用いた前記対象の検出に関する設定、前記移動手段の設定、および前記対象に対して作業を行う作業機械の設定のうち少なくとも1つと、前記設定に基づいて前記制御装置が認識している前記対象の位置と、前記検出装置を用いた前記対象の検出の結果と、前記移動手段の作業予定と、前記作業機械の作業予定と、前記作業機械による前記作業の実行に関する前記制御装置の判断結果と、前記制御装置が認識している前記対象に関するパラメータとのうち、少なくとも1つを示す拡張現実画像を、前記制御装置が表示装置による表示又は投影装置による投影のために作成する。
当該態様では、制御装置が認識している検出装置を用いた対象の検出に関する設定、移動手段の設定、対象に対して作業を行う作業機械の設定等のAR画像が表示装置による表示または投影装置による投影のために作成される。例えば、検出装置の検出領域を示すAR画像、移動手段の搬送方向を示すAR画像、作業機械の作業領域を示すAR画像等が作成される。このため、オペレータはこれらを容易に認識することができる。
このように制御装置内の設定、処理等を視覚的に認識することは、システムの作動の成功又は失敗の原因究明の容易化に繋がる。
AR画像が現実空間に投影される場合は、オペレータは現実空間において制御装置内の設定、処理等を視覚的に認識することができ、複数人でディスカッションする場合に特に適している。AR画像が現実空間像又は現実空間と共に見えるように表示装置によって表示される場合は、システムの全体を見なくても、表示装置内を見るだけでオペレータはAR画像と現実空間との関係を視覚的に認識できる。また、表示装置がAR画像を現実空間像と共に表示する場合は、現場にいない場合でも、状況を把握可能となり、システム監視に特に適している。AR画像を現実空間に付加する場合は、実際に見ながら作業する場合に特に適している。
または、前記制御装置がリアルタイムで前記拡張現実画像を作成、記録するものであり、前記表示装置が、所定の入力部への入力もしくは制御装置またはセンサにおける所定の条件の成立に応じて、その時点のもしくは直近の複数の拡張現実画像のうち選択された前記拡張現実画像を表示するものである。
当該態様では、オペレータは入力部への入力や制御装置やセンサへの条件設定を用いて表示するAR画像を選ぶことができる。このため、任意の時点や事象発生時の制御装置の処理、設定等をオペレータがより容易に認識することが可能になり、システムの作動の成功又は失敗の原因究明の容易化、システムの稼働率向上を図るためにも極めて有用である。
当該態様では、AR画像が対応する現実空間像と共に記憶される。このため、オペレータは、記憶されたAR画像を現実空間像と共に再生することができ、これはシステムの設定チェックの容易化、システムの設定の容易化、およびシステムの作動の成功又は失敗の原因究明の容易化のために極めて有利である。
当該態様では、オペレータは再生手段によって記憶されたAR画像を現実空間像と共に任意の場所で容易に再生することができる。
または、実空間上の装置を見ながら拡張現実画像を再生することで、稼働率改善のための調整を現場で行うことができる。
上記態様において、好ましくは、前記記憶部に記憶されている前記拡張現実画像を再生する、もしくは前記現実空間像と共に再生する再生手段を備える。
当該態様により、オペレータは、候補AR画像に対応する対象の存在を容易に認識することができる。
なお、作成された前記拡張現実画像が記憶装置に保存されてもよい。
当該態様では、候補AR画像と共に表示される検出結果に基づき、オペレータは、検出装置に関するパラメータ設定をより容易に行うことが可能となる。
本実施形態のセンシングシステムは、図1に示されるように、物品である対象Oを搬送する移動手段としての搬送装置10と、搬送装置10によって搬送される対象Oの検出に用いられる検出装置20と、搬送装置10によって搬送されている対象Oに対して所定の作業を行う作業機械であるロボット30と、ロボット30を制御する制御装置40と、拡張現実装置60(図2)とを備えている。本実施形態のセンシングシステムは、センシングされた対象Oに対して作業機械であるロボット30が所定の作業を行うシステムであるから、作業システムでもある。
なお、エンコーダを使わずに検出装置20によって対象Oの作動位置を検知しても良い。
対象Oは、車体、フレーム、部品、食品、医薬品等、様々な物であり得る。図1に示されている搬送装置10以外の搬送装置を用いることも可能であり、搬送装置10は対象Oを搬送することができるものであればよい。
ツール50は爪を駆動するサーボモータ51を備えている(図2参照)。サーボモータ51はその作動位置を検出するための作動位置検出装置を有し、作動位置検出装置は一例としてエンコーダである。作動位置検出装置の検出値は制御装置40に送信される。
なお、基準座標系の関連付けは自動で行われても良いし、ユーザーが直接AR画像を操作して手動で座標系を合わせても良い。
また、基準座標系の関連付けを行わなくても良い。この場合は、現実とAR画像が重畳しなくなるが、現実空間上の物体の相対関係とAR画像上の物体の相対関係は一致しており、AR画像上の物体の相対関係に異常があれば実際の設定も正確でないことが分かる。
制御部41は、記憶部43に格納されているAR画像作成プログラム43dに基づき、検出装置20を用いた対象Oの検出に関する設定と、搬送装置10の設定と、ロボット30の設定と、前記設定に基づいて制御部41が認識している対象Oの位置および姿勢と、検出装置20による対象Oの検出の結果と、搬送装置10の作業予定と、ロボット30の作業予定と、ロボット30による作業の実行に関する制御部41の判断結果と、制御部41が認識している対象Oに関するパラメータとのうち、少なくとも1つに関係しているAR画像データを逐次作成し、作成したAR画像データを表示装置62に送信する。AR画像の位置および姿勢はカメラ座標系又は基準座標系に基づいて調整される。これにより、表示装置62には、カメラ61から受信する現実空間像および制御装置40から受信するAR画像が表示される。
なお、制御部41からデータを取得して拡張現実装置60でAR画像を作成しても良い。
制御装置40と拡張現実装置60間の通信は有線ケーブルでつないでも良いし、無線で通信しても良い。
搬送装置10の搬送方向は、例えば搬送装置10によって搬送される対象Oの位置変化に基づき計算によって得られる。この場合、カメラ61は搬送装置10の上方に設けられていていることが好ましい。当該構成は、AR画像74とAR画像76のとの関係の目視確認を可能とし、基準座標系等の設定に対する搬送装置10の搬送方向が適切か否かの確認を行う上で有利である。
なお、AR画像として表示装置62に表示される対象Oの位置、姿勢、および形状は対象の検出装置20の結果をもとに実際の対象の動きに合わせて逐次更新することも可能である。
また、任意の時点で、更新を停止して結果の確認を行うことが可能であると共に、記録された結果を再生することも可能である。
なお、表示装置62に表示されるAR画像78を対象の検出装置20の結果をもとに実際の対象の動きに合わせて逐次更新することも可能である。また、任意の時点で、更新を停止して結果の確認を行うことが可能であると共に、記録された結果を再生することも可能である。
なお、表示装置62に表示されるAR画像79を対象の検出装置20の結果をもとに実際の対象の動きに合わせて逐次更新することも可能である。また、任意の時点で、更新を停止して結果の確認を行うことが可能であると共に、記録された結果を再生することも可能である。
なお、表示装置62に表示される当該AR画像を対象の検出装置20の結果をもとに実際の対象の動きに合わせて逐次更新することも可能である。また、任意の時点で、更新を停止して結果の確認を行うことが可能であると共に、記録された結果を再生することも可能である。
図3および図4において、各AR画像73は、ロボット30が作業を行うことができる対象Oを作業対象として示している。これに対し、例えば対象Oの検出が不十分である時、検出された対象Oの姿勢が作業に適さない時等に、複数の対象Oのうち一部の対象Oに対してロボット30が作業を実行しない、又は実行できない場合がある。例えば、対象Oの検出パラメータがその検出閾値未満である時に、当該対象Oは作業対象として検出されない。また、対象Oの検出画像の姿勢に関するパラメータがその姿勢閾値未満である時に、対象Oの姿勢が作業に適さないと判定される。
当該構成により、オペレータは、検出閾値以上で検出される対象Oを増やすための前記要因の調整、検出閾値の調整等を、比較的容易に行うことができる。
なお、AR画像71〜81は時間の経過とともに逐次作成、記録される(更新される)。このため、表示装置62でもAR画像71〜81が現実空間像に合わせて逐次更新される。
または、制御装置40がリアルタイムでAR画像71〜81を作成、記録するものであり、表示装置62が、所定の入力部への入力もしくは制御装置40またはセンサにおける所定の条件の成立に応じて、その時点のもしくは直近の複数のAR画像71〜81のうち選択されたAR画像を表示するように構成されていてもよい。
制御装置40、拡張現実装置60等は、表示装置62に表示される現実空間像およびAR画像71〜81を保存する機能を有する。制御装置40が保存する場合は、記憶部43に格納されている再生プログラム43eに基づき、拡張現実装置60から逐次受信するカメラ61の画像データと、逐次作成されるAR画像データとが、記憶部43に少なくとも一時的に保存される。拡張現実装置60が保存する場合は、拡張現実装置60の記憶部に格納されている再生プログラムに基づき、カメラ61の画像データと、制御装置40から逐次受信するAR画像データとが、拡張現実装置60の記憶部に少なくとも一時的に保存される。他の装置、コンピュータ端末等において同様の保存が行われてもよい。
なお、制御装置40、拡張現実装置60等が、保存されている現実空間像データおよびAR画像データを他の表示装置に送信することも可能である。
拡張現実装置60は、選択されたAR画像のみを表示装置62に表示する機能を有する。例えば、拡張現実装置60の入力部への操作に応じて、表示装置62にAR画像71〜81のうち選択されたAR画像71だけが表示される。図4において、複数のロボット30のうち一方のロボット30に関するAR画像だけを表示装置62に表示させることも可能である。
選択されたAR画像のみを制御装置40が表示装置62に送信する場合でも、前述と同様の効果が達成される。
この場合も、オペレータは必要に応じてAR画像を表示させる範囲を切り換えることができ、これは設定、現象把握、現象の原因究明等に関する作業時間の短縮のために有利である。
なお、表示装置62がタッチスクリーン機能を有する場合、前記の選択された範囲は、表示装置62に接触させる指、ペン等を中心とする所定範囲、指、ペン等で囲った範囲等であり得る。
拡張現実装置60は、選択されたAR画像に関する実行履歴を表示装置62に表示する機能を有する。例えば、拡張現実装置60の入力部への操作に応じて、複数のAR画像73、80のうち選択された1つのAR画像73又はAR画像80に対応する対象Oの、検出装置20による撮像画像が、実行履歴として表示装置62に表示されてもよい。実行履歴の表示場所は、表示装置62においてAR画像73,80と重ならない場所であることが好ましい。
なお、検出装置20による撮像および制御部41による検出処理が行われると、対象Oであり得る複数の候補が制御部41によって認識される。制御部41は、候補のそれぞれに対応する実行履歴を記憶部43に保存することができる。
実行履歴は、センシングシステムの実行により得られた結果であればよく、測定結果、検出結果、撮像結果等であり得る。
また、拡張現実装置60、制御装置40等が、所定の入力装置を用いた入力に応じて、表示装置62に表示されている各AR画像71〜81の選択処理と、選択されたAR画像の移動処理とを行ってもよい。
例えば、拡張現実装置60が、その記憶部63に格納されているAR画像操作プログラム63aに基づき、所定の入力装置を用いた入力に応じて各AR画像71〜81のうち1つ又は複数を選択状態とし、選択されたAR画像の位置および姿勢を所定の入力装置を用いた入力に応じて表示装置62内で変更する。
また、拡張現実装置60は、入力装置への入力に基づき、AR画像71〜81の移動情報を制御装置40に送信し、制御装置40の制御部41は、記憶部43に格納されている設定調整プログラム43fに基づき、制御装置40において設定されている各種パラメータ又は計算されている各種パラメータを、受信する移動情報に応じて変更する。
なお記録されたAR画像に対して、各移動情報に応じて、各データを変更してもよい。
なお、AR画像が移動される度に拡張現実装置60が移動情報を制御装置40に送信してもよいが、入力装置の入力に基づき移動情報が送信される構成の方が、制御装置40の処理量の低減、設定ミスの低減等のために有利である。
また、表示装置62がタッチスクリーン機能、オペレータの視線を検出する視線検出機能等を有する場合、ポインティングデバイス、視線方向等によって複数のロボット30のうち1つ又は複数が指定され、指定されたロボット30の制御装置40が認識しているAR画像が表示されるように構成されてもよい。
ロボット30が対象Oに加工、組立、検査、観察等の他の作業を行う作業システムに前述と同様の構成を適用することも可能である。対象Oは何等かの移動手段によって搬送できるものであればよく、移動手段としてロボット30とは異なるロボット等を用いることも可能である。対象Oが車の車体又はフレームである場合に、当該車体又はフレームがそこに搭載されたエンジン、モータ、車輪等によって移動する場合、エンジン、モータ、車輪等が移動手段として機能する。
このように制御装置40内の設定、処理等を視覚的に認識するこことは、システムの作動の成功又は失敗の原因究明の容易化に繋がる。
このため、オペレータはこれらに関する制御装置40の設定、処理等の動的な変化を視覚的に認識することができる。
これにより、オペレータは入力部への入力を用いて表示するAR画像を選ぶことができる。このため、制御装置40の処理、設定等をオペレータがより容易に認識することが可能になり、システムの作動の成功又は失敗の原因究明の容易化を図るためにも極めて有用である。
これにより、オペレータは、記憶されたAR画像を現実空間像と共に再生することができ、これはシステムの設定チェックの容易化、システムの設定の容易化、およびシステムの作動の成功又は失敗の原因究明の容易化のために極めて有利である。なお、保存されているAR画像データのみの再生、スロー再生、再生中の一時停止表示等が行われてもよい。このような構成でも、システムの設定チェックの容易化、システムの設定の容易化、およびシステムの作動の成功又は失敗の原因究明の容易化に資する。
また、表示装置62による表示の代わりに、又は、表示装置62による表示と共に、現実空間の装置、例えば搬送装置10、検出装置20、ロボット30、および空間の少なくとも1つにAR画像を投影するプロジェクター(投影装置)を用いることも可能である。この場合でも、AR画像が現実空間に表示されるので、前述と同様の作用効果が達成され得る。
投影装置として、三次元のAR画像を現実空間に投影することも可能である。例えば作業領域に投影機でAR画像を投影することで、作業領域内の情報を表示することが可能である。
透光性板又は透光性フィルムの拡張現実画像と生の現実空間との位置決めに関しては、例えば人の立ち位置等を別センサで検知しておき人の向きに合わせたAR画像を用意して表示するという方法を取り得る。
なお、拡張現実作成部は必ずしも制御装置内になくても良い。
11 モータ
12 作動位置検出装置
20 検出装置
30 ロボット
30a アーム
31 サーボモータ
40 制御装置
41 制御部
42 制御装置表示部
43 記憶部
43a システムプログラム
43b 動作プログラム
43c 物品検出プログラム
43d AR画像作成プログラム
43e 再生プログラム
50 ツール
51 サーボモータ
60 拡張現実装置
61 カメラ
62 表示装置
63 記憶部
63a AR画像操作プログラム
71〜81 AR画像
O 対象
Claims (19)
- 対象を移動させる移動手段によって移動している前記対象の少なくとも位置の検出に用いられる検出装置と、
制御装置と、を備え、
前記制御装置が認識している設定であって、前記検出装置を用いた前記対象の検出に関する設定、前記移動手段の設定、および前記対象に対して作業を行う作業機械の設定のうち少なくとも1つと、前記設定に基づいて前記制御装置が認識している前記対象の位置と、前記検出装置を用いた前記対象の検出の結果と、前記移動手段の作業予定と、前記作業機械の作業予定と、前記作業機械による前記作業の実行に関する前記制御装置の判断結果と、前記制御装置が認識している前記対象に関するパラメータとのうち、少なくとも1つを示す拡張現実画像を、前記制御装置が表示装置による表示又は投影装置による投影のために作成する、センシングシステム。 - 前記投影装置が、前記拡張現実画像を現実空間に投影するものであり、前記表示装置が、前記拡張現実画像を、現実空間像又は現実空間と共に見えるように表示するものである、請求項1に記載のセンシングシステム。
- 前記制御装置が、前記制御装置が認識している前記対象の前記位置と、前記対象の前記検出の結果と、前記移動手段の前記作業予定と、前記作業機械の前記作業予定と、前記制御装置の前記判断結果と、前記対象に関する前記パラメータとのうち少なくとも1つを示す前記拡張現実画像を、前記作業機械が前記作業を行っている際に更新する、請求項1又は2に記載のセンシングシステム。
- 前記制御装置が、前記作業機械を制御するものであり、
所定の入力装置を用いた入力に応じて前記表示装置に表示されている前記拡張現実画像又は前記投影装置によって投影されている前記拡張現実画像の少なくとも1つを選択する選択処理と、前記所定の入力装置を用いた入力に応じて選択された、前記表示装置によって表示されている前記拡張現実画像又は前記投影装置によって投影されている前記拡張現実画像を移動する移動処理と、を行う拡張現実画像操作手段と、
選択された前記拡張現実画像の移動情報に応じて、前記制御装置において前記作業機械を制御するために設定されているパラメータ又は計算されているパラメータを変更する設定調整手段と、を備える請求項1〜3の何れかに記載のセンシングシステム。 - 前記制御装置が複数の前記拡張現実画像を作成するものであり、
前記表示装置又は前記投影装置が、所定の入力部への入力に応じて、前記複数の拡張現実画像のうち選択された前記拡張現実画像を表示又は投影するものである、請求項1〜4の何れかに記載のセンシングシステム。 - 前記制御装置によって作成された前記拡張現実画像を、対応する現実空間像と共に記憶する記憶部を備える、請求項1〜5の何れかに記載のセンシングシステム。
- 前記記憶部に記憶されている前記拡張現実画像を再生する、もしくは前記現実空間像と共に再生する再生手段を備える、請求項5に記載のセンシングシステム。
- 所定の移動手段によって移動している対象の少なくとも位置の検出に用いられる検出装置と、
前記対象に作業を行う作業機械を前記検出装置の検出結果を用いて制御する制御装置と、
前記作業機械が前記作業を行っている際に、前記検出装置の検出結果に基づき前記制御装置が認識している前記対象の位置と、前記移動手段の作業予定と、前記作業機械の作業予定と、前記作業機械による作業の実行に関する前記制御装置の判断結果と、前記制御装置が認識している前記対象に関するパラメータとのうち、少なくとも1つを示す拡張現実画像を逐次作成する拡張現実画像作成手段と、
前記拡張現実画像作成手段によって作成された前記拡張現実画像を、対応する現実空間像と共に記憶する記憶部とを備える、センシングシステム。 - 前記記憶部に記憶されている前記拡張現実画像を再生する、もしくは前記現実空間像と共に再生する再生手段を備える、請求項7に記載のセンシングシステム。
- 所定の移動手段によって移動している複数の対象の検出に用いられる検出装置と、
前記検出装置によって得られる画像データに前記対象の検出のための画像処理を行う対象検出手段と、
前記画像処理が行われた処理後画像内にあらわれる複数の候補のうち所定のパラメータが検出閾値以上である候補に対応する拡張現実画像を作成し、前記複数の候補のうち前記所定のパラメータが前記検出閾値未満且つ検出候補閾値以上である候補に対応する候補拡張現実画像を作成する拡張現実画像作成手段と、
前記拡張現実画像および前記候補拡張現実画像を表示又は投影する表示装置又は投影装置と、を備えるセンシングシステム。 - 前記候補拡張現実画像が前記拡張現実画像と区別可能な態様で作成される、請求項9に記載のセンシングシステム。
- 前記拡張現実画像作成手段が、前記候補拡張現実画像に付随する検出結果の拡張現実画像を作成し、
前記表示装置又は前記投影装置によって、前記候補拡張現実画像と共に前記検出結果の拡張現実画像が表示又は投影される、請求項9又は10に記載のセンシングシステム。 - 請求項1〜12の何れかに記載のセンシングシステムと前記作業機械とを備える作業システム。
- 対象を移動させる移動手段によって移動している前記対象の検出結果に基づき制御装置が作業機械又は所定の装置を制御するシステムに用いられる拡張現実画像の表示方法であって、
前記制御装置が認識している設定であって、前記対象の検出に関する設定、前記移動手段の設定、および前記作業機械の設定のうち少なくとも1つと、前記設定に基づいて前記制御装置が認識している前記対象の位置と、前記検出装置を用いた前記対象の検出の結果と、前記移動手段の作業予定と、前記作業機械の作業予定と、前記作業機械による作業の実行に関する前記制御装置の判断結果と、前記制御装置が認識している前記対象に関するパラメータとのうち、少なくとも1つを示す拡張現実画像を前記制御装置が作成するステップと、
作成された前記拡張現実画像を表示装置によって表示する又は投影装置によって投影するステップと、を有する拡張現実画像の表示方法。 - 対象を移動させる移動手段によって移動している前記対象の検出結果に基づき制御装置が作業機械を制御するシステムに用いられる拡張現実画像の記憶方法であって、
前記作業機械が前記作業を行っている際に、前記検出結果に基づき前記制御装置が認識している前記対象の位置と、前記移動手段の作業予定と、前記作業機械の作業予定と、前記作業機械による作業の実行に関する前記制御装置の判断結果と、前記制御装置が認識している前記対象に関するパラメータとのうち、少なくとも1つを示す拡張現実画像を逐次作成する拡張現実画像作成ステップと、
前記拡張現実画像作成ステップによって作成された前記拡張現実画像を、対応する現実空間像と共に記憶する記憶ステップと、を有する拡張現実画像の記憶方法。 - 対象を移動させる移動手段によって移動している複数の前記対象の検出のために画像処理を行うシステムに用いられる拡張現実画像の表示方法であって、
前記画像処理が行われた処理後画像内にあらわれる複数の候補のうち所定のパラメータが検出閾値以上である候補に対応する拡張現実画像を作成し、前記複数の候補のうち前記所定のパラメータが前記検出閾値未満且つ検出候補閾値以上である候補に対応する候補拡張現実画像を作成するステップと、
前記拡張現実画像および前記候補拡張現実画像を表示する表示ステップと、を有する拡張現実画像の表示方法。 - 対象を移動させる移動手段によって移動している前記対象の検出結果に基づき制御装置が作業機械又は所定の装置を制御するシステムに用いられるプログラムであって、
コンピュータに、
前記制御装置が認識している設定であって、前記対象の検出に関する設定、前記移動手段の設定、および前記作業機械の設定のうち少なくとも1つと、前記設定に基づいて前記制御装置が認識している前記対象の位置と、前記検出装置を用いた前記対象の検出の結果と、前記移動手段の作業予定と、前記作業機械の作業予定と、前記作業機械による作業の実行に関する前記制御装置の判断結果と、前記制御装置が認識している前記対象に関するパラメータとのうち、少なくとも1つを示す拡張現実画像を前記制御装置が作成する処理と、
作成された前記拡張現実画像を表示装置によって表示する又は投影装置によって投影する処理と、を実行させるプログラム。 - 対象を移動させる移動手段によって移動している前記対象の検出結果に基づき制御装置が作業機械を制御するシステムに用いられるプログラムであって、
コンピュータに、
前記作業機械が前記作業を行っている際に、前記検出結果に基づき前記制御装置が認識している前記対象の位置と、前記移動手段の作業予定と、前記作業機械の作業予定と、前記作業機械による作業の実行に関する前記制御装置の判断結果と、前記制御装置が認識している前記対象に関するパラメータとのうち、少なくとも1つを示す拡張現実画像を逐次作成する拡張現実画像作成処理と、
前記拡張現実画像作成処理によって作成された前記拡張現実画像を、対応する現実空間像と共に記憶する記憶処理と、を実行させるプログラム。 - 対象を移動させる移動手段によって移動している複数の前記対象の検出のために画像処理を行うシステムに用いられるプログラムであって、
コンピュータに、
前記画像処理が行われた処理後画像内にあらわれる複数の候補画像のうち所定のパラメータが検出閾値以上である候補に対応する拡張現実画像を作成し、前記複数の候補のうち前記所定のパラメータが前記検出閾値未満且つ検出候補閾値以上である候補に対応する候補拡張現実画像を作成する処理と、
記拡張現実画像および前記候補拡張現実画像を表示する表示ステップと、を実行させるプログラム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018139198A JP6856583B2 (ja) | 2018-07-25 | 2018-07-25 | センシングシステム、作業システム、拡張現実画像の表示方法、拡張現実画像の記憶方法、およびプログラム |
US16/451,668 US10885340B2 (en) | 2018-07-25 | 2019-06-25 | Sensing system, work system, augmented-reality-image displaying method, augmented-reality-image storing method, and program |
DE102019119319.2A DE102019119319B4 (de) | 2018-07-25 | 2019-07-17 | Abtastsystem, Arbeitssystem, Verfahren zum Anzeigen von Augmented-Reality-Bildern, Verfahren zum Speichern von Augmented-Reality-Bildern und Programme dafür |
CN201910656478.2A CN110784708B (zh) | 2018-07-25 | 2019-07-19 | 感测系统、作业系统、扩展现实图像的显示方法、扩展现实图像的存储方法以及程序 |
US17/023,792 US11328507B2 (en) | 2018-07-25 | 2020-09-17 | Sensing system, work system, augmented-reality-image displaying method, augmented-reality-image storing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018139198A JP6856583B2 (ja) | 2018-07-25 | 2018-07-25 | センシングシステム、作業システム、拡張現実画像の表示方法、拡張現実画像の記憶方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020015128A true JP2020015128A (ja) | 2020-01-30 |
JP6856583B2 JP6856583B2 (ja) | 2021-04-07 |
Family
ID=69149041
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018139198A Active JP6856583B2 (ja) | 2018-07-25 | 2018-07-25 | センシングシステム、作業システム、拡張現実画像の表示方法、拡張現実画像の記憶方法、およびプログラム |
Country Status (4)
Country | Link |
---|---|
US (2) | US10885340B2 (ja) |
JP (1) | JP6856583B2 (ja) |
CN (1) | CN110784708B (ja) |
DE (1) | DE102019119319B4 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115963749A (zh) * | 2022-12-13 | 2023-04-14 | 彼合彼方机器人(天津)有限公司 | 一种管道补口机器人作业实时控制系统及方法 |
JP7481205B2 (ja) | 2020-08-26 | 2024-05-10 | 川崎重工業株式会社 | ロボットシステム、ロボットの制御方法、情報処理装置、コンピュータプログラム、学習装置、及び学習済みモデルの生成方法 |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6795471B2 (ja) * | 2017-08-25 | 2020-12-02 | ファナック株式会社 | ロボットシステム |
CN111527463B (zh) * | 2018-01-22 | 2024-02-23 | 深圳市大疆创新科技有限公司 | 用于多目标跟踪的方法和系统 |
JP7359633B2 (ja) * | 2019-10-17 | 2023-10-11 | ファナック株式会社 | ロボットシステム |
EP3992741A1 (en) * | 2020-10-30 | 2022-05-04 | Asco Power Technologies, L.P. | Extended reality playback of events for manufacturing, installation, operation, maintenance and repair of infrastructure equipment |
JP2022116606A (ja) * | 2021-01-29 | 2022-08-10 | セイコーエプソン株式会社 | ロボットの制御方法およびロボットシステム |
US11644890B2 (en) * | 2021-02-11 | 2023-05-09 | Qualcomm Incorporated | Image capturing in extended reality environments |
CN113301306A (zh) * | 2021-05-24 | 2021-08-24 | 中国工商银行股份有限公司 | 智能巡检方法及系统 |
CN114739454A (zh) * | 2022-03-25 | 2022-07-12 | 青岛虚拟现实研究院有限公司 | 一种基于增强现实的测试系统 |
CN116152828B (zh) * | 2023-04-21 | 2023-06-27 | 福建鹿鸣教育科技有限公司 | 作业批改方法、系统、终端及存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004243516A (ja) * | 2003-02-11 | 2004-09-02 | Kuka Roboter Gmbh | コンピュータによって生成された情報を現実環境の画像へとフェードインするための方法、およびコンピュータによって生成された情報を現実環境の画像に視覚化するための装置 |
JP2005111607A (ja) * | 2003-10-07 | 2005-04-28 | Fanuc Ltd | ロボット物流トラッキング装置 |
JP2008296330A (ja) * | 2007-05-31 | 2008-12-11 | Fanuc Ltd | ロボットシミュレーション装置 |
JP2016107379A (ja) * | 2014-12-08 | 2016-06-20 | ファナック株式会社 | 拡張現実対応ディスプレイを備えたロボットシステム |
JP2017100206A (ja) * | 2015-11-30 | 2017-06-08 | 株式会社デンソーウェーブ | ロボット安全システム |
JP2017104944A (ja) * | 2015-12-10 | 2017-06-15 | ファナック株式会社 | 仮想物体の画像をロボットの映像に重畳表示する映像表示装置を備えるロボットシステム |
JP2018034233A (ja) * | 2016-08-30 | 2018-03-08 | ファナック株式会社 | ワーク仕分けシステムおよび方法 |
JP2018069377A (ja) * | 2016-10-28 | 2018-05-10 | ファナック株式会社 | ロボットが行う物品整列作業のシミュレーションのための装置、方法、プログラム及び記録媒体 |
Family Cites Families (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002192486A (ja) | 2000-12-25 | 2002-07-10 | Seiko Epson Corp | ロボット制御方法及び該方法を適用したロボットコントローラ |
DE102005011126A1 (de) * | 2005-03-10 | 2006-09-14 | Siemens Ag | Generierung virtueller Welten auf Basis einer realen Umgebung |
DE102005045855A1 (de) | 2005-09-26 | 2007-03-29 | Siemens Ag | Verfahren und Vorrichtung zur Erleichterung der Einstellung von Systemen, bei welchen Objekten bewegt werden |
JP4507281B2 (ja) * | 2006-03-30 | 2010-07-21 | 富士フイルム株式会社 | 画像表示装置、撮像装置および画像表示方法 |
CN102837318B (zh) | 2011-06-20 | 2015-05-27 | 株式会社安川电机 | 机器人系统 |
JP5459269B2 (ja) | 2011-06-20 | 2014-04-02 | 株式会社安川電機 | ピッキングシステム |
US9600933B2 (en) * | 2011-07-01 | 2017-03-21 | Intel Corporation | Mobile augmented reality system |
JP5892360B2 (ja) | 2011-08-02 | 2016-03-23 | ソニー株式会社 | ロボット指示装置、ロボット指示方法、プログラム、及び通信システム |
US20140081459A1 (en) | 2012-09-20 | 2014-03-20 | Marc Dubois | Depth mapping vision system with 2d optical pattern for robotic applications |
WO2014101955A1 (en) | 2012-12-28 | 2014-07-03 | Metaio Gmbh | Method of and system for projecting digital information on a real object in a real environment |
JP5596844B2 (ja) | 2013-10-30 | 2014-09-24 | オリンパス株式会社 | 画像処理装置、画像処理システム及び画像処理方法 |
JP5900468B2 (ja) * | 2013-11-21 | 2016-04-06 | コニカミノルタ株式会社 | Ar表示装置、処理内容設定装置、処理内容設定方法およびプログラム |
JP5824173B1 (ja) | 2014-02-28 | 2015-11-25 | ファナック株式会社 | ロボットを用いて物品を整列させる物品整列装置及び物品整列方法、並びに物品整列装置を備えた物品移送システム |
US9632313B1 (en) * | 2014-03-27 | 2017-04-25 | Amazon Technologies, Inc. | Augmented reality user interface facilitating fulfillment |
JP6589604B2 (ja) | 2015-12-01 | 2019-10-16 | 株式会社デンソーウェーブ | ティーチング結果表示システム |
JP2017100244A (ja) | 2015-12-02 | 2017-06-08 | オークマ株式会社 | 中空ワークの位置決め方法 |
KR102371409B1 (ko) * | 2016-01-08 | 2022-03-07 | 삼성전자주식회사 | 센서 관리 방법 및 장치 |
US10950039B2 (en) | 2016-06-16 | 2021-03-16 | Sony Interactive Entertainment Inc. | Image processing apparatus |
JP6834232B2 (ja) | 2016-08-09 | 2021-02-24 | オムロン株式会社 | 情報処理システム、情報処理装置、ワークの位置特定方法、およびワークの位置特定プログラム |
JP2018034241A (ja) * | 2016-08-31 | 2018-03-08 | セイコーエプソン株式会社 | ロボット、ロボット制御装置およびロボットシステム |
JP6801333B2 (ja) | 2016-09-27 | 2020-12-16 | 株式会社デンソーウェーブ | ロボット用の表示システム |
JP6741538B2 (ja) | 2016-09-28 | 2020-08-19 | 川崎重工業株式会社 | ロボット、ロボットの制御装置、及び、ロボットの位置教示方法 |
JP6866646B2 (ja) | 2017-01-16 | 2021-04-28 | オムロン株式会社 | センサ支援システム、端末、センサおよびセンサ支援方法 |
US10140773B2 (en) | 2017-02-01 | 2018-11-27 | Accenture Global Solutions Limited | Rendering virtual objects in 3D environments |
JP6795471B2 (ja) | 2017-08-25 | 2020-12-02 | ファナック株式会社 | ロボットシステム |
-
2018
- 2018-07-25 JP JP2018139198A patent/JP6856583B2/ja active Active
-
2019
- 2019-06-25 US US16/451,668 patent/US10885340B2/en active Active
- 2019-07-17 DE DE102019119319.2A patent/DE102019119319B4/de active Active
- 2019-07-19 CN CN201910656478.2A patent/CN110784708B/zh active Active
-
2020
- 2020-09-17 US US17/023,792 patent/US11328507B2/en active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004243516A (ja) * | 2003-02-11 | 2004-09-02 | Kuka Roboter Gmbh | コンピュータによって生成された情報を現実環境の画像へとフェードインするための方法、およびコンピュータによって生成された情報を現実環境の画像に視覚化するための装置 |
JP2005111607A (ja) * | 2003-10-07 | 2005-04-28 | Fanuc Ltd | ロボット物流トラッキング装置 |
JP2008296330A (ja) * | 2007-05-31 | 2008-12-11 | Fanuc Ltd | ロボットシミュレーション装置 |
JP2016107379A (ja) * | 2014-12-08 | 2016-06-20 | ファナック株式会社 | 拡張現実対応ディスプレイを備えたロボットシステム |
JP2017100206A (ja) * | 2015-11-30 | 2017-06-08 | 株式会社デンソーウェーブ | ロボット安全システム |
JP2017104944A (ja) * | 2015-12-10 | 2017-06-15 | ファナック株式会社 | 仮想物体の画像をロボットの映像に重畳表示する映像表示装置を備えるロボットシステム |
JP2018034233A (ja) * | 2016-08-30 | 2018-03-08 | ファナック株式会社 | ワーク仕分けシステムおよび方法 |
JP2018069377A (ja) * | 2016-10-28 | 2018-05-10 | ファナック株式会社 | ロボットが行う物品整列作業のシミュレーションのための装置、方法、プログラム及び記録媒体 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7481205B2 (ja) | 2020-08-26 | 2024-05-10 | 川崎重工業株式会社 | ロボットシステム、ロボットの制御方法、情報処理装置、コンピュータプログラム、学習装置、及び学習済みモデルの生成方法 |
CN115963749A (zh) * | 2022-12-13 | 2023-04-14 | 彼合彼方机器人(天津)有限公司 | 一种管道补口机器人作业实时控制系统及方法 |
CN115963749B (zh) * | 2022-12-13 | 2024-05-28 | 彼合彼方机器人(天津)有限公司 | 一种管道补口机器人作业实时控制系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
US20200034621A1 (en) | 2020-01-30 |
US20210004598A1 (en) | 2021-01-07 |
JP6856583B2 (ja) | 2021-04-07 |
CN110784708A (zh) | 2020-02-11 |
US10885340B2 (en) | 2021-01-05 |
CN110784708B (zh) | 2022-09-13 |
DE102019119319B4 (de) | 2022-12-22 |
DE102019119319A1 (de) | 2020-01-30 |
US11328507B2 (en) | 2022-05-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6856583B2 (ja) | センシングシステム、作業システム、拡張現実画像の表示方法、拡張現実画像の記憶方法、およびプログラム | |
JP6856590B2 (ja) | センシングシステム、作業システム、拡張現実画像の表示方法、およびプログラム | |
CN110977931B (zh) | 使用了增强现实和混合现实的机器人控制装置及显示装置 | |
CN110394780B (zh) | 机器人的仿真装置 | |
JP7490349B2 (ja) | 入力装置、入力装置の制御方法、ロボットシステム、ロボットシステムを用いた物品の製造方法、制御プログラム及び記録媒体 | |
US10052765B2 (en) | Robot system having augmented reality-compatible display | |
US20080013825A1 (en) | Simulation device of robot system | |
US20050251290A1 (en) | Method and a system for programming an industrial robot | |
JP2005106825A (ja) | 受像装置の位置および方向づけの決定方法および装置 | |
JP4932048B1 (ja) | 作業支援システム | |
US11534912B2 (en) | Vibration display device, operation program creating device, and system | |
JP6902369B2 (ja) | 提示装置、提示方法およびプログラム、ならびに作業システム | |
JP7359633B2 (ja) | ロボットシステム | |
JP6883392B2 (ja) | ロボットシステム | |
JP7502003B2 (ja) | 移動機械の移動軌跡のずれを取得する装置、及び方法 | |
EP3744461B1 (en) | Weld operation measurement system | |
JP7366264B2 (ja) | ロボット教示方法及びロボット作業方法 | |
WO2023105637A1 (ja) | 産業機械の動作を検証するための装置、及び方法 | |
JP7068416B2 (ja) | 拡張現実と複合現実を用いたロボット制御装置、ロボットの位置姿勢規定用コンピュータプログラム及びロボットの位置姿勢規定方法、相対位置姿勢取得用コンピュータプログラム及び相対位置姿勢取得方法 | |
JP2023156237A (ja) | 処理装置、処理システム、頭部装着ディスプレイ、処理方法、プログラム、及び記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191209 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200325 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20200423 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200818 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200929 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201125 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210216 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210318 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6856583 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |