JP5928923B2 - ロボットシステム及び作業設備 - Google Patents

ロボットシステム及び作業設備 Download PDF

Info

Publication number
JP5928923B2
JP5928923B2 JP2014508943A JP2014508943A JP5928923B2 JP 5928923 B2 JP5928923 B2 JP 5928923B2 JP 2014508943 A JP2014508943 A JP 2014508943A JP 2014508943 A JP2014508943 A JP 2014508943A JP 5928923 B2 JP5928923 B2 JP 5928923B2
Authority
JP
Japan
Prior art keywords
information
robot
unit
teaching
teaching information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014508943A
Other languages
English (en)
Other versions
JPWO2013150599A1 (ja
Inventor
吉田 修
修 吉田
智広 上野
智広 上野
英治 木原
英治 木原
太郎 難波
太郎 難波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yaskawa Electric Corp
Original Assignee
Yaskawa Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yaskawa Electric Corp filed Critical Yaskawa Electric Corp
Publication of JPWO2013150599A1 publication Critical patent/JPWO2013150599A1/ja
Application granted granted Critical
Publication of JP5928923B2 publication Critical patent/JP5928923B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/163Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/0081Programme-controlled manipulators with master teach-in means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/0084Programme-controlled manipulators comprising a plurality of manipulators
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/36Nc in input of data, input key till input tape
    • G05B2219/36508Each pallet, workpiece, tool holder, selects corresponding tape reader, program
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40383Correction, modification program by detection type workpiece
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40607Fixed camera to observe workspace, object, workpiece, global

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Manipulator (AREA)
  • Numerical Control (AREA)

Description

開示の実施形態は、ロボットシステム及び作業設備に関する。
特許文献1には、ロボット教示システムが開示されている。このロボット教示システムは、ロボットと、ロボット制御装置(ロボットコントローラ)と、ロボット教示装置(教示操作端末)とから構成される。ロボットは、教示された位置情報に基づき動作する。ロボット制御装置は、ロボットを所定のプログラムに基づいて作動させる。ロボット教示装置は、ロボットに位置情報を教示する。
特開2008−21239号公報
一般に、ロボットにより作業を行う現場では、作業を行う前に、教示者がロボット教示装置を用いてロボットの作業目標に対する動作の教示を行って、その教示情報をロボット制御装置に記憶させておく。そして、作業を行う際に、ロボット制御装置が事前に記憶した教示情報に基づいてロボットの動作を制御することで、作業目標に対する動作をロボットに実行させる。しかしながら、一般に、ロボットの作業目標が変わるたびに教示者はロボットの作業目標に対する動作の教示を改めて行う必要があり、不便であった。
本発明はこのような問題に鑑みてなされたものであり、教示作業にかかる教示者の労力負担を低減でき、教示者の利便性を向上できるロボットシステム及び作業設備を提供することを目的とする。
上記課題を解決するため、本発明の一の観点によれば、所定の作業を行うロボット、前記ロボットの動作を規定する教示情報を記憶する記憶部を備え当該記憶部に記憶された前記教示情報に基づいて前記ロボットの動作を制御するロボット制御装置、及び、前記ロボットの作業目標の画像情報を生成する画像センサ、をそれぞれ有する複数の作業設備と、前記複数の作業設備のそれぞれに対しデータ通信可能に接続された中央コンピュータ装置と、を有し、前記中央コンピュータ装置は、各作業設備における前記画像情報に対する複数種類の処理アルゴリズムが記憶されたアルゴリズム記憶部と、前記処理アルゴリズムに基づく画像処理を前記画像情報に対し施した処理画像報に関連付けられた複数の前記教示情報を記憶する教示情報データベースと、各作業設備の前記画像センサにより生成された前記画像情報を受け付ける情報受付部と、前記アルゴリズム記憶部に記憶された前記処理アルゴリズムに基づいて、前記情報受付部が受け付けた前記画像情報に対し特徴抽出処理を行い、前記処理画像情報を抽出する特徴抽出処理部と、前記特徴抽出処理部が抽出した前記処理画像情報に基づいて、前記教示情報データベースに記憶された前記複数の教示情報のうち、当該処理画像情報に対し所定の相関を備える教示情報が含まれているかどうかを判定する相関判定部と前記相関判定部により前記相関を備えると判定された特定の前記教示情報を、前記教示情報データベースから、対応する前記作業設備の前記記憶部に対し転送する第1転送部と、を有し、前記作業設備は、さらに、前記中央コンピュータ装置への前記処理アルゴリズムを指示する指示情報を入力するためのインターフェイス装置を有し、前記中央コンピュータ装置は、さらに、前記インターフェイス装置からの前記指示情報に応じて、前記アルゴリズム記憶部に記憶された複数種類の前記処理アルゴリズムから、前記特徴抽出処理部における前記特徴抽出処理に用いる前記処理アルゴリズムを選択して構成するアルゴリズム構成部を有し、前記特徴抽出処理部は、前記アルゴリズム構成部により構成された前記処理アルゴリズムに基づいて、前記画像情報に対し前記特徴抽出処理を行い、前記処理画像情報を抽出するロボットシステムが適用される。
本発明によれば、教示作業にかかる教示者の労力負担を低減することができ、教示者の利便性を向上することができる。
一実施の形態のロボットシステムの全体構成を模式的に表すシステム構成図である。 中央サーバの別の例を表す説明図である。 一現場の作業設備の構成を模式的に表す模式図である。 一現場のロボットコントローラ、カメラ、及びIF装置と中央サーバとの機能的構成を表す機能ブロック図である。 教示情報データベースの記憶内容の一例を表す説明図である。 中央サーバの制御部により実行される制御手順の一例を表すフローチャートである。 中央サーバから特定の教示情報及び相関度データが転送された場合に対応して、ロボットコントローラの制御部により実行される制御手順の一例を表すフローチャートである。 中央サーバからエラー信号が出力された場合に対応して、ロボットコントローラの制御部により実行される制御手順の一例を表すフローチャートである。
以下、一実施の形態について図面を参照しつつ説明する。
図1に示すように、本実施形態のロボットシステム1は、例えば生産ラインを備えた工場等の複数の現場(図1中では「現場A」「現場B」「現場C」「現場D」「現場E」・・・と記載)のそれぞれに設けられた複数の作業設備100(図1中では図示省略。後述の図3参照)と、中央サーバ200(中央コンピュータ装置)とを有している。中央サーバ200は、複数の現場の作業設備100間で共通(共有)化されたサーバである。この中央サーバ200は、ネットワーククラウドNW1(ネットワーク)で連結された1以上の演算装置及び記憶装置の集合体として構成されており、複数の作業設備100のそれぞれに対しデータ通信可能に接続されている。なお、図2に示すように、中央サーバ200として、各作業設備100と適宜のネットワークNW2を介して接続される単一の演算装置を用いることもできる。この場合、中央サーバ200は、例えばロボットシステム1の管理会社の社屋等に設置される。
図3に示すように、一現場には、ワークWを所定の搬送方向(図3中の矢印Aで示す方向)に搬送するコンベア101が設けられている。ワークWは、この例では、個体間で形状・大きさにばらつきがあって、個体間で形状・大きさが不定な不定形物である。また、この現場には、作業設備100として、ロボット110と、ロボットコントローラ120(ロボット制御装置)と、レンズ131を備えたカメラ130(画像センサ、センサ)と、インターフェイス装置140(ロボット教示装置。以下、「IF装置140」と略記する)とが設けられている。なお、図3中では、一現場だけを図示しているが、他の現場についてもこれと同様である。各現場のロボットコントローラ120と、上記中央サーバ200とは、上記ネットワーククラウドNW1を介しそれぞれ相互にデータ通信可能に接続されている。
ロボット110は、所定の作業として、コンベア101により連続して続々と搬送されてくる作業目標であるワークWを保持しつつ移送する、のハンドリング作業を行う。このロボット110は、アーム111と、このアーム111を駆動するためのサーボモータをそれぞれ備えたアクチュエータAc1,Ac2,Ac3,Ac4,Ac5,Ac6とを有している。アーム111の先端には、ワークWを真空吸着により持ち上げ可能な吸着式ハンド112が取り付けられている。また、図3中では図示を省略しているが、ロボット110の近傍には、吸着式ハンド112とは種類の異なるツール112(例えば、サーボハンド、フォーク式ハンド、チャック式ハンド等)が設けられている。ロボット110は、ATC(Auto Tool Changer)等を用いたツール交換動作を行うことにより、アーム111の先端のツール112を交換できるようになっている。
ロボットコントローラ120は、上記アーム111に設けられた各アクチュエータAc1〜Ac6のサーボモータと相互通信可能に接続されており、これら各サーボモータの駆動制御を行う。これにより、各アクチュエータAc1〜Ac6の全体の動作、すなわちロボット110の動作を制御する。また、ロボットコントローラ120は、上記アーム111の先端に取り付けられたツール112の動作(例えば吸着式ハンド112の吸着部を真空状態とするための図示しない真空装置のオン・オフ等)を制御する。
カメラ130は、ワークWの搬送経路の上流側上方において、搬送されてくるワークWを上記レンズ131を介し撮像可能なように、図示しない支持部材に固定されている。なお、カメラ130をロボット110側(例えばアーム111の先端側等)に設けてもよい。このカメラ130は、搬送されてくるワークWをレンズ131を介し撮像し、その撮像したワークWの画像を含む画像情報を生成する。生成された画像情報は、検出情報として、ロボットコントローラ120へ出力され、後述の通信制御部122の送信部122aにより上記ネットワーククラウドNW1を介し中央サーバ200へ送信される。なお、カメラ130が画像情報を中央サーバ200へ直接送信してもよい。
IF装置140は、教示者がロボット110の動作を規定する教示情報の作成や編集を行ったり、操作者が各種情報の入力を行うための装置であり、パーソナルコンピュータやティーチングペンダント等で構成されている。IF装置140により作成又は編集された教示情報は、ロボットコントローラ120へ出力され記憶される(詳細は後述)。また、操作者がIF装置140を介し入力した中央サーバ200への情報(後述)は、ロボットコントローラ120へ出力され、後述の通信制御部122の送信部122aにより上記ネットワーククラウドNW1を介し中央サーバ200へ送信される。なお、IF装置140が上記中央サーバ200への情報を中央サーバ200へ直接送信してもよい。
中央サーバ200は、各現場のロボットコントローラ120から送信された画像情報をそれぞれ受け付け、受け付けた画像情報に対し特徴抽出処理(画像処理)を施して、その画像情報に固有の特徴(パターン)を抽出する(詳細は後述)。なお、この抽出された画像情報のパターンが、処理情報及び処理画像情報に相当する。
図4に示すように、一現場に設けられた作業設備100のカメラ130は、機能的構成として、上記レンズ131と、制御部132と、入出力部133とを備えている。
制御部132は、カメラ130全体の制御を行う。例えば、制御部132は、レンズ131を介し撮像した上記ワークWの画像を含む画像情報を生成する。
入出力部133は、ロボットコントローラ120との間で行われる情報通信の制御を行う。例えば、入出力部133は、制御部132により生成された画像情報をロボットコントローラ120へ出力する際の情報通信の制御を行う。
IF装置140は、機能的構成として、制御部141と、操作部142と、入出力部143(情報出力部)とを備えている。
制御部141は、IF装置140全体の制御を行う。
操作部142は、教示者が教示情報等の各種情報を操作入力するためのキー、ボタン、スイッチ等で構成されている。教示者は、この操作部142を適宜に操作して、教示情報の作成や、ロボットコントローラ120の記憶装置124に記憶された教示情報の編集、各種情報の入力を行う。
入出力部143は、ロボットコントローラ120との間で行われる情報通信の制御を行う。例えば、入出力部143は、教示者により操作部142を介し作成又は編集された教示情報を、ロボットコントローラ120の記憶装置124へ出力する。これにより、その出力された教示情報が、記憶装置124に記憶される。また例えば、入出力部143は、操作者により操作部142を介し入力された中央サーバ200への情報(後述)を、ロボットコントローラ120へ出力する。
ロボットコントローラ120は、機能的構成として、制御部121と、通信制御部122と、第1入出力部123aと、第2入出力部123bと、記憶装置124(記憶部)とを備えている。
第1入出力部123aは、ロボット110やカメラ130との間で行われる情報通信の制御を行う。例えば、第1入出力部123aは、カメラ130から出力された画像情報を入力する際の情報通信の制御を行う。
第2入出力部123bは、IF装置140との間で行われる情報通信の制御を行う。例えば、第2入出力部123bは、IF装置140から出力された教示情報や上記中央サーバ200への情報を入力する際の情報通信の制御を行う。
通信制御部122は、送信部122a(送信機)及び受信部122b(受信機)を備えており、中央サーバ200との間でネットワーククラウドNW1を介し行われる情報通信の制御を行う。例えば、送信部122aは、第1入出力部123aで入力されたカメラ130からの画像情報や、第2入出力部123bで入力されたIF装置140からの教示情報や上記中央サーバ200への情報を、ネットワーククラウドNW1を介し中央サーバ200へ送信する際の情報通信の制御を行う。受信部122bは、中央サーバ200から送信された特定の教示情報(後述)をネットワーククラウドNW1を介し受信する際の、情報通信の制御を行う。
記憶装置124は、例えばHDD(Hard Disk Drive)等で構成されており、各種情報等を記憶する。例えば、記憶装置124には、第2入出力部123bで入力されたIF装置140からの教示情報や、受信部122bで受信された上記特定の教示情報が記憶されている。
制御部121は、ロボットコントローラ120全体の制御を行う。例えば、制御部121は、記憶装置124に記憶された教示情報に基づいて、ロボット110の上記各サーボモータの駆動制御や、上記ツール112の動作制御等を行って、ロボット110の動作を制御する。
中央サーバ200は、機能的構成として、制御部201と、通信制御部202(情報受付部、信号出力部)と、大容量記憶装置203とを備えている。
通信制御部202は、各現場のロボットコントローラ120との間でネットワーククラウドNW1を介し行われる情報通信の制御を行うように構成されている。この通信制御部202は、各現場のロボットコントローラ120から送信された画像情報を受け付ける(受信する)情報受付部としての構成と、後述のエラー信号を、対応する現場のロボットコントローラ120へ送信(出力)する信号出力部としての構成とを有している。
制御部201は、中央サーバ200全体の制御を行う。例えば、制御部201は、通信制御部202で受信された画像情報に対し特徴抽出処理を施して、その画像情報のパターンを抽出する。
大容量記憶装置203は、ネットワーククラウドNW1内に存在する複数の記憶媒体の集合として構成されており、記憶容量等を可変に設定することができる。この大容量記憶装置203には、教示情報データベース2030(後述の図5参照)が記憶されると共に、アルゴリズム記憶部(図示省略)が構成されている。アルゴリズム記憶部には、被検出対象物の形状パターンが関連付けられた複数種類の処理アルゴリズムが記憶されている。
処理アルゴリズムとしては、通信制御部202で受信された画像情報から円形の領域を切り出して、その切り出された各領域の位置情報を出力するもの(円形の穴が開いた対象を検出する場合に適する)や、画像情報から各物体の長軸の長さ及び位置姿勢を検出するもの(ボルト等の細長い対象を検出する場合に適する)が含まれる。また、単純に画像情報を条件に沿って2値化するだけのものや、画像情報に基づいて領域分割をするだけのものも含まれ、複数の処理アルゴリズムの組み合わせにより1つの処理アルゴリズムを構成するものも含まれる。
本実施形態では、制御部201は、各現場から送信されたIF装置140からの中央サーバ200への情報、具体的には、特徴抽出処理の処理アルゴリズムを指示する情報(以下適宜、「指示情報」と称する)に応じて、アルゴリズム記憶部に記憶された複数種類の処理アルゴリズムから、特徴抽出処理に用いる処理アルゴリズムを選択して構成すると共に、処理アルゴリズムに用いるパラメータ等を設定する。特に、本実施形態では、制御部201は、現場からの画像情報に対し特徴抽出処理を施してその画像情報のパターンを抽出する処理アルゴリズムを構成する。なお、各現場において同様の処理を行う場合、制御部201により構成された処理アルゴリズムが、各現場からの画像情報に対し共通の処理アルゴリズム(以下適宜、「共通画像処理アルゴリズム」と称する)として用いられる。
なお、以上では、一現場の作業設備100について説明したが、他の現場についてもこれと同様に、作業設備100として、ロボット110、ロボットコントローラ120、カメラ130、及び、IF装置140(いずれも上記現場とは異なる構造・構成を備えたタイプでもよい)が少なくとも設けられている。
図5に示すように、教示情報データベース2030には、複数の画像情報のパターン(図5中では「パターン01」「パターン02」「パターン03」「パターン04」「パターン05」・・・と記載)と、当該画像情報に係わるワークWに対するロボット110の動作を規定した複数の教示情報(図5中では「教示情報A」「教示情報B」「教示情報C」「教示情報D」「教示情報E」・・・と記載)とが、それぞれ関連付けられて記憶されている。以下適宜、教示情報データベース2030に記憶された画像情報のパターンを「登録パターン」と称する。
登録パターンは、中央サーバ200の制御部201が上記共通画像処理アルゴリズムに基づく特徴抽出処理を、カメラ130により撮像されたワークWの画像情報に対し施して抽出した、当該画像情報のパターンである。
教示情報は、ロボット110のワークWに対する動作を規定した教示情報である。教示情報は、例えば、ワークWのハンドリング作業に使用するツール112の種類を表す情報、ツール112によるワークWの持ち上げ位置(座標)を表す情報、ワークWのハンドリング作業時の動作速度を表す情報等の、ワークWのハンドリング作業に係わる複数の情報を含んでいる。なお、ワークWの形状・大きさの情報や、ワークWの識別情報(例えば名称等)等の情報についても、教示情報として記憶させてもよい。
以下、図6を用いて、中央サーバ200の制御部201により実行される制御手順を説明する。
図6において、このフローに示す処理は、所定の開始操作(例えば、中央サーバ200の電源オン)が行われることによって開始される。すなわち、操作者がIF装置140の操作部142を操作して上記指示情報を入力すると、その指示情報が入出力部143によりロボットコントローラ120へ出力される。すると、ロボットコントローラ120の制御部120は、IF装置140の入出力部143から出力された指示情報を、第2入出力部123bにより入力して、その指示情報を、送信部122aによりネットワーククラウドNW1を介し中央サーバ200へ送信する。これにより、制御部201は、まずステップSB2で、ロボットコントローラ120の送信部122aから送信された指示情報を、通信制御部202により受信する。
その後、ステップSB4で、制御部201は、上記ステップSB2で受信された指示情報に応じて、アルゴリズム記憶部に記憶された複数種類の処理アルゴリズムから、特徴抽出処理に用いる処理アルゴリズムを選択して、上記共通画像処理アルゴリズムを構成する。
そして、コンベア101によりレンズ131の画角内に搬送されてきたワークWがカメラ130により撮像されると、そのワークWの画像情報が生成され、その画像情報が入出力部133によりロボットコントローラ120へ出力される。すると、ロボットコントローラ120の制御部120は、カメラ130の入出力部133から出力された画像情報を第1入出力部123aにより入力して、その画像情報を、送信部122aによりネットワーククラウドNW1を介し中央サーバ200へ送信する。これにより、制御部201は、ステップSB10で、ロボットコントローラ120の送信部122aから送信された画像情報を、通信制御部202により受信する。
その後、ステップSB20で、制御部201は、上記ステップSB4で構成された共通画像処理アルゴリズムに基づいて、上記ステップSB10で受信された画像情報に対し、公知の適宜の特徴抽出処理を施す。これにより、その画像情報のパターンを抽出する。以下適宜、抽出されたパターンを「入力パターン」と称する。
そして、ステップSB30に移り、制御部201は、上記ステップSB20で抽出された入力パターンと、上記教示情報データベース2030に記憶された複数の登録パターンとを、公知の適宜のパターンマッチング(正規化相関)処理技術を用いて順次照合(マッチング)する。これにより、教示情報データベース2030に記憶された複数の教示情報のうち、関連する登録パターンが入力パターンに対し所定の相関を備える教示情報が含まれているかどうかを判定する。具体的には、教示情報データベース2030に記憶された複数の教示情報のうち、関連する登録パターンの入力パターンに対する相関の程度を表す相関度が予め設定された所定値よりも大きくなる教示情報が含まれているかどうかを判定する。なお、相関度は、言い換えれば、上記マッチングの精度とも言える。このステップSB30の手順が、相関判定部として機能する。
その後、ステップSB40で、制御部201は、上記ステップSB30において、関連する登録パターンの相関度が所定値よりも大きくなる教示情報が含まれていると判定されていたかどうかを判定する。関連する登録パターンの相関度が所定値よりも大きくなる教示情報が含まれていると判定されていた場合には、ステップSB40の判定が満たされて、ステップSB50に移る。
ステップSB50では、制御部201は、教示情報データベース2030に記憶された複数の教示情報のうち、関連する登録パターンの相関度が最も大きい特定の教示情報を選定して、教示情報データベース2030から取得する。そして、取得した特定の教示情報を、その特定の教示情報に対応する相関度を表す相関度データと共に、通信制御部202によりネットワーククラウドNW1を介し、対応する現場のロボットコントローラ120の記憶装置124へ転送する。このステップSB50の手順が、第1転送部として機能する。その後、このフローに示す処理を終了する。
以下、図7を用いて、中央サーバ200から特定の教示情報及び相関度データが転送された場合に対応して、ロボットコントローラ120の制御部121により実行される制御手順を説明する。
図7において、上記図6のステップSB50で中央サーバ200の通信制御部202から特定の教示情報及び相関度データが転送されると、まずステップSC10で、制御部121は、その特定の教示情報及び相関度データを、受信部122bにより受信する。そして、受信した特定の教示情報を記憶装置124に記憶させる。
その後、ステップSC20で、制御部121は、上記ステップSC10で受信された相関度データで表される相関度が、予め設定された所定のしきい値よりも大きいかどうかを判定する。このステップSC20の手順が、相関度判定部に相当する。相関度がしきい値よりも大きい場合には、ステップSC20の判定が満たされて、ステップSC30に移る。
ステップSC30では、制御部121は、上記ステップSC10で記憶装置124に記憶された特定の教示情報に基づいて(そのまま用いてもよいし、適宜にアレンジして用いてもよい)、ワークWに対するロボット110の動作を制御する。このとき、ロボット110のアーム111の先端に取り付けられたツール112が、教示されたツール112と異なる場合には、前述のツール交換動作をロボット110に実行させ、アーム111の先端のツール112を交換させた後に、ワークWに対する動作を実行させる。これにより、ワークWのハンドリング作業をロボット110に実行させる。
そして、ステップSC40に移り、制御部121は、ロボット110のワークWに対する動作が正常に実行されたかどうかを判定する。この判定は、例えば、各現場にロボット110の動作ミスを検知するためのセンサを設け、このセンサにより動作ミスが検知されたかどうかを判定することにより行ってもよい。又は、各現場に監視者(教示者でもある。以下同様)がロボット110の動作ミスを見つけた際に操作するための操作ボタンを設け、監視者によりこの操作ボタンが操作されたかどうかを判定することにより行ってもよい。このステップSC40の手順が、動作判定部として機能する。ロボット110の動作が正常に実行された場合には、ステップSC40の判定が満たされて、ステップSC50に移る。
ステップSC50では、制御部121は、上記ステップSC40において正常に実行されたと判定されたロボット110の動作を規定した教示情報(例えば、ツール112の種類を表す情報、ワークWの持ち上げ位置を表す情報、ワークWのハンドリング作業時の動作速度を表す情報等)を、記憶装置124から取得する。そして、取得した教示情報を、送信部122aによりネットワーククラウドNW1を介し中央サーバ200の上記教示情報データベース2030へ転送する。このステップSC50の手順が、第2転送部として機能する。その後、このフローに示す処理を終了する。これにより、中央サーバ200の制御部201は、ロボットコントローラ120の送信部122aから転送された教示情報を、通信制御部202により受信する。そして、受信した教示情報を、その教示情報により規定されるロボット110の動作によってハンドリングされたワークWに係わる入力パターンに関連付けて、教示情報データベース2030に記憶させる。
一方、上記ステップSC20において相関度が所定のしきい値以下であったためステップSC20の判定が満たされなった場合、及び、上記ステップSC40においてロボット110の動作が正常に実行されていなかったためステップSC40の判定が満たされなかった場合には、ステップSC60に移る。
ステップSC60では、制御部121は、図示しない報知部(例えば、スピーカ、ランプ、ディスプレイ等)に所定のエラー報知(例えば、スピーカからの音声出力、ランプの点灯、ディスプレイによる表示等)を実行させるための報知指示信号を生成する。そして、生成した報知指示信号を報知部へ出力して、報知部にエラー報知を実行させる。これにより、監視者に対し、IF装置140の操作部142による教示情報の編集(又は新たな教示情報の作成)を要求する。その後、このフローに示す処理を終了する。
図6に戻り、上記ステップSB30において、関連する登録パターンの相関度が所定値よりも大きくなる教示情報が含まれていないと判定されていた場合には、ステップSB40の判定が満たされず、ステップSB60に移る。
ステップSB60では、制御部201は、教示情報データベース2030に、関連する登録パターンの相関度が所定値よりも大きくなる教示情報が含まれていない旨を表す信号(以下適宜、「エラー信号」と称する)を、通信制御部202によりネットワーククラウドNW1を介し、対応する現場のロボットコントローラ120へ送信する。その後、このフローに示す処理を終了する。
以下、図8を用いて、中央サーバ200からエラー信号が送信された場合に対応して、ロボットコントローラ120の制御部121により実行される制御手順を説明する。
図8において、上記図6のステップSB60で中央サーバ200の通信制御部202からエラー信号が出力されると、まずステップSC110で、制御部121は、そのエラー信号を、受信部122bにより受信する。
その後、ステップSC120で、制御部121は、上記図7のステップSC60と同様、報知指示信号を報知部へ出力して、報知部にエラー報知を実行させる。これにより、監視者に対し、IF装置140の操作部142による教示情報の編集(又は新たな教示情報の作成)を要求する。その後、このフローに示す処理を終了する。このステップSC120と上記図7のステップSC60との手順が、入力要求部として機能する。
以上説明した本実施形態のロボットシステム1においては、中央サーバ200が、各現場のカメラ130で撮像されたワークWの画像情報をそれぞれ受信し、受信した画像情報のパターンを抽出する。そして、抽出した入力パターンと、教示情報データベース2030に記憶された複数の登録パターンとを順次マッチングする。このとき、教示情報データベース2030に、関連する登録パターンの入力パターンに対する相関度が所定値よりも大きくなる教示情報が記憶されていれば、中央サーバ200は、教示情報データベース2030から上述した特定の教示情報を取得して、対応する現場のロボットコントローラ120の記憶装置124へ転送する。これにより、中央サーバ200から転送された特定の教示情報を受信したロボットコントローラ120が、その特定の教示情報に基づいてロボット110の動作を制御することで、ワークWのハンドリング作業をロボット110に実行させることができる。また、本実施形態のようにワークWが不定形物である場合、一般にはロボット110の作業の対象となるワークWが変わるたびに教示者が教示作業を行わなくてはならない。これに対し本実施形態では、教示情報データベース2030に、作業の対象となるワークWと相関のある(例えば形状・大きさが類似する)ワークWに対する教示情報が記憶されていれば、上記のようにして、ロボットコントローラ120が、その教示情報に基づいてロボット110の動作を制御することで、ワークWのハンドリング作業をロボット110に実行させることができる。
以上のように、本実施形態によれば、教示者はワークWに対するロボット110の動作の教示を改めて行う必要がなくなるので、教示者による教示作業を省略又は簡素化することができる。この結果、教示作業にかかる教示者の労力負担を低減することができ、教示者の利便性を向上することができる。
また、本実施形態では特に、教示情報データベース2030に、関連する登録パターンの入力パターンに対する相関度が所定値よりも大きくなる教示情報が記憶されていなければ、中央サーバ200は、上述したエラー信号を、対応する現場のロボットコントローラ120へ送信する。すると、中央サーバ200から送信されたエラー信号を受信したロボットコントローラ120が、報知部にエラー報知を実行させ、IF装置140の操作部142による教示情報の編集等を要求する。この要求に応じて、教示者が教示情報の編集等を行うと、ロボットコントローラ120が、その教示情報に基づいてロボット110の動作を制御することで、ワークWのハンドリング作業をロボット110に実行させることができる。
また、本実施形態では特に、ロボットコントローラ120が、ロボット110のワークWに対する動作が正常に実行されたかどうかを判定する。そして、ロボット110の動作が正常に実行されたと判定した場合には、記憶装置124からその動作を規定した教示情報を取得して、中央サーバ200の教示情報データベース2030へ転送する。これにより、教示情報データベース2030は、ロボットコントローラ120から転送された教示情報を、その教示情報により規定されたロボット110の動作によってハンドリングされたワークWに係わる入力パターンに関連付けて記憶する。これにより、実際にロボット110によりワークWに対する動作が正常に実行されたことが確認された教示情報を教示情報データベース2030に蓄積していくことができるので、教示情報データベース2030内の教示情報の信頼性を向上することができる。
また、本実施形態では特に、中央サーバ200が、特定の教示情報をその特定の教示情報に対応する相関度データと共に、対応する現場のロボットコントローラ120の記憶装置124へ転送する。すると、中央サーバ200から転送された特定の教示情報及び相関度データを受信したロボットコントローラ120が、受信された相関度データで表される相関度がしきい値よりも大きいかどうかを判定する。そして、相関度がしきい値よりも大きいと判定した場合には、入力された特定の教示情報に基づいてロボット110の動作を制御する。一方、相関度がしきい値以下であると判定した場合には、報知部にエラー報知を実行させ、IF装置140の操作部142による教示情報の編集等を要求する。以上のように、相関度を数値的な指標として用いて、教示情報データベース2030から転送された特定の教示情報を利用するかしないかを使い分けることにより、ロボット110の作業の対象となるワークWとの類似性があまり高くないワークWに対する教示情報を使用したために、ロボット110の動作が正常に実行されないといった不具合が生じるのを未然に回避することができる。
なお、実施の形態は、上記内容に限られるものではなく、その趣旨及び技術的思想を逸脱しない範囲内で種々の変形が可能である。例えば、上記実施形態においては、各現場のカメラ130で撮像したワークWの画像情報を中央サーバ200へ送信して、中央サーバ200側で、当該画像情報に対し特徴抽出処理を施して、その画像情報のパターンを抽出していたが、これに限られない。すなわち、上記画像情報に対する特徴抽出処理を、各現場側で行ってもよい。この場合、各現場からは、特徴抽出処理が施された画像情報のパターンが、中央サーバ200へ送信される。その後は、上記実施形態と同様である。
また、上記実施形態においては、教示情報データベース2030には、複数の画像情報のパターンと複数の教示情報とがそれぞれ関連付けられて記憶されていたが、これに限られない。すなわち、教示情報データベース2030に、複数の画像情報と複数の教示情報とをそれぞれ関連付けて記憶させてもよい。
また、上記実施形態においては、ロボット110によりワークWのハンドリング作業を行う場合を説明したが、これに限られず、ロボットにより、ワークの塗装、ワークの溶接等を行う場合にも適用可能である。この場合、上記ワークの塗装、ワークの溶接等が、所定の作業に相当する。
また、上記以外にも、センサとしてのマイクを備えたロボットにより人との会話を含むコミュニケーション(例えば、会社の社屋や会場等での来訪者の受付や、現実世界又は仮想世界でのサービス等)を行う場合にも適用可能である。この場合、上記人との会話を含むコミュニケーションが、所定の作業に相当する。
また以上では、現場の作業設備の一部としてカメラ130やマイク等を設けていたが、これに限られず、その他のセンサ(例えば触覚センサ等)を設けてもよい。
また以上では、複数の現場の作業設備100で共通化された中央サーバ200の大容量記憶装置203に、技術情報(ノウハウ)の一例である教示情報を格納した教示情報データベース2030を記憶させていたが、これに限られない。例えば、中央サーバ200の大容量記憶装置203に、他の技術情報を格納したデータベースを記憶させてもよい。
また、前述の図6、図7、及び図8に示すフローチャートは実施の形態を図示する手順に限定するものではなく、趣旨及び技術的思想を逸脱しない範囲内で手順の追加・削除又は順番の変更等をしてもよい。
また、以上既に述べた以外にも、上記実施形態等による手法を適宜組み合わせて利用してもよい。
その他、一々例示はしないが、上記実施形態等は、その趣旨を逸脱しない範囲内において、種々の変更が加えられて実施されるものである。
1 ロボットシステム
100 作業設備
110 ロボット
120 ロボットコントローラ(ロボット制御装置)
121 制御部
122a 送信部(送信機)
122b 受信部(受信機)
124 記憶装置(記憶部)
130 カメラ(画像センサ、センサ)
140 IF装置(ロボット教示装置)
142 操作部
143 入出力部(情報出力部)
200 中央サーバ(中央コンピュータ装置)
201 制御部
202 通信制御部(情報受付部、信号出力部)
2030 教示情報データベース
NW1 ネットワーククラウド(ネットワーク)

Claims (7)

  1. 所定の作業を行うロボット、前記ロボットの動作を規定する教示情報を記憶する記憶部を備え当該記憶部に記憶された前記教示情報に基づいて前記ロボットの動作を制御するロボット制御装置、及び、前記ロボットの作業目標の画像情報を生成する画像センサ、をそれぞれ有する複数の作業設備と、
    前記複数の作業設備のそれぞれに対しデータ通信可能に接続された中央コンピュータ装置と、
    を有し、
    前記中央コンピュータ装置は、
    各作業設備における前記画像情報に対する複数種類の処理アルゴリズムが記憶されたアルゴリズム記憶部と、
    前記処理アルゴリズムに基づく画像処理を前記画像情報に対し施した処理画像報に関連付けられた複数の前記教示情報を記憶する教示情報データベースと、
    各作業設備の前記画像センサにより生成された前記画像情報を受け付ける情報受付部と、
    前記アルゴリズム記憶部に記憶された前記処理アルゴリズムに基づいて、前記情報受付部が受け付けた前記画像情報に対し特徴抽出処理を行い、前記処理画像情報を抽出する特徴抽出処理部と、
    前記特徴抽出処理部が抽出した前記処理画像情報に基づいて、前記教示情報データベースに記憶された前記複数の教示情報のうち、当該処理画像情報に対し所定の相関を備える教示情報が含まれているかどうかを判定する相関判定部と
    前記相関判定部により前記相関を備えると判定された特定の前記教示情報を、前記教示情報データベースから、対応する前記作業設備の前記記憶部に対し転送する第1転送部と、
    を有し、
    前記作業設備は、さらに、
    前記中央コンピュータ装置への前記処理アルゴリズムを指示する指示情報を入力するためのインターフェイス装置を有し、
    前記中央コンピュータ装置は、さらに、
    前記インターフェイス装置からの前記指示情報に応じて、前記アルゴリズム記憶部に記憶された複数種類の前記処理アルゴリズムから、前記特徴抽出処理部における前記特徴抽出処理に用いる前記処理アルゴリズムを選択して構成するアルゴリズム構成部を有し、
    前記特徴抽出処理部は、
    前記アルゴリズム構成部により構成された前記処理アルゴリズムに基づいて、前記画像情報に対し前記特徴抽出処理を行い、前記処理画像情報を抽出する
    ことを特徴とする、ロボットシステム。
  2. 各作業設備は、さらに、
    前記教示情報を操作入力するための操作部、及び、前記操作部により操作入力された前記教示情報を前記ロボット制御装置の前記記憶部に対し出力する情報出力部、を備えるロボット教示装置を有し、
    前記中央コンピュータ装置は、さらに、
    前記相関判定部により前記相関を備える教示情報が含まれていないと判定された場合に、その旨を表す信号を、対応する前記作業設備に対し出力する信号出力部を有し、
    各作業設備は、さらに、
    前記信号出力部から出力された前記信号が入力された場合に、前記操作部による前記教示情報の操作入力を要求する入力要求部を有する
    ことを特徴とする、請求項1に記載のロボットシステム。
  3. 各作業設備は、さらに、
    前記ロボットの動作が正常に実行されたかどうかを判定する動作判定部を有し、
    各作業設備の前記ロボット制御装置は、さらに、
    前記動作判定部により前記動作が正常に実行されたと判定された場合に、その動作に係わる前記教示情報を、当該ロボット制御装置の前記記憶部から前記中央コンピュータ装置の前記教示情報データベースに対し転送する第2転送部を有し
    前記教示情報データベースは、
    前記第2転送部により転送された前記教示情報を、その教示情報に基づいた動作時の前記処理画像情報に関連付けて記憶する
    ことを特徴とする、請求項2に記載のロボットシステム。
  4. 前記第1転送部は、
    前記特定の教示情報を、前記特徴抽出処理部が抽出した前記処理画像情報に対する相関の程度を表す相関度と共に、転送する
    ことを特徴とする、請求項3に記載のロボットシステム。
  5. 各作業設備の前記ロボット制御装置は、
    前記第1転送部により転送された前記相関度が所定のしきい値よりも大きいかどうかを判定する相関度判定部をさらに備え、前記相関度判定部により前記相関度が前記しきい値よりも大きいと判定された場合に、前記特定の教示情報に基づいて、前記ロボットの動作を制御し、
    前記入力要求部は、
    前記相関度判定部により前記相関度が前記しきい値以下であると判定された場合に、前記ロボット教示装置の前記操作部による前記教示情報の操作入力を要求する
    ことを特徴とする、請求項4に記載のロボットシステム。
  6. 前記中央コンピュータ装置は、
    ネットワークで連結された1以上の演算装置及び記憶装置の集合体として構成される
    ことを特徴とする、請求項1乃至のいずれか1項に記載のロボットシステム。
  7. 所定の作業を行うロボット、前記ロボットの動作を規定する教示情報を記憶する記憶部を備え当該記憶部に記憶された前記教示情報に基づいて前記ロボットの動作を制御するロボット制御装置、及び、前記ロボットの作業目標の画像情報を生成する画像センサ、を有する、請求項1乃至のいずれか1項に記載のロボットシステムに用いられる作業設備であって、
    前記画像センサにより生成された前記画像情報を、ネットワークを介し、記憶された処理アルゴリズムに基づく画像処理を前記画像情報に対し施した処理画像情報に関連付けられた複数の前記教示情報を記憶する教示情報データベースを備えた中央コンピュータ装置へ送信する送信機と、
    前記教示情報データベースに記憶された前記複数の教示情報のうち、前記送信機により送信された前記画像報に対応する前記処理画像情報に対し所定の相関を備えると判定された特定の前記教示情報を、ネットワークを介し受信する受信機と、
    前記中央コンピュータ装置への前記処理アルゴリズムを指示する指示情報を入力するためのインターフェイス装置と、
    を有し、
    前記記憶部は、
    前記受信機により受信された前記特定の教示情報を記憶する
    ことを特徴とする、作業設備。
JP2014508943A 2012-04-02 2012-04-02 ロボットシステム及び作業設備 Expired - Fee Related JP5928923B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2012/058985 WO2013150599A1 (ja) 2012-04-02 2012-04-02 ロボットシステム及び作業設備

Publications (2)

Publication Number Publication Date
JPWO2013150599A1 JPWO2013150599A1 (ja) 2015-12-14
JP5928923B2 true JP5928923B2 (ja) 2016-06-01

Family

ID=49300126

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014508943A Expired - Fee Related JP5928923B2 (ja) 2012-04-02 2012-04-02 ロボットシステム及び作業設備

Country Status (5)

Country Link
US (1) US20150019012A1 (ja)
EP (1) EP2835232A1 (ja)
JP (1) JP5928923B2 (ja)
CN (1) CN104220219A (ja)
WO (1) WO2013150599A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103692441B (zh) * 2013-12-19 2015-09-09 成都市卓睿科技有限公司 通过工作流技术模拟机械臂运动的系统及方法
CN105215987B (zh) * 2015-10-12 2017-03-22 埃夫特智能装备股份有限公司 一种工业机器人工艺云系统及其工作方法
CN105511427B (zh) * 2015-11-30 2019-03-26 上海新时达电气股份有限公司 多机器人的操控方法及操控系统
CN105666526A (zh) * 2016-03-22 2016-06-15 北京百度网讯科技有限公司 基于人工智能的机器人调试系统
JP6850183B2 (ja) * 2017-04-11 2021-03-31 川崎重工業株式会社 ロボットシステム及びその運転方法
CN108000519A (zh) * 2017-11-24 2018-05-08 中国船舶重工集团公司第七〇九研究所 一种感知记忆型机械手臂及其使用方法
JP6705847B2 (ja) * 2018-02-14 2020-06-03 ファナック株式会社 加工結果に基づいた学習制御を行うロボットシステム及びその制御方法
JP6839160B2 (ja) * 2018-11-21 2021-03-03 本田技研工業株式会社 ロボット装置、ロボットシステム、ロボット制御方法、およびプログラム
CN113329850A (zh) * 2019-01-18 2021-08-31 株式会社安川电机 机器人控制系统和机器人控制方法
JP7338200B2 (ja) * 2019-03-29 2023-09-05 村田機械株式会社 保守方法、及び、保守サーバ
JP2020203349A (ja) * 2019-06-18 2020-12-24 株式会社ダイヘン ロボット制御装置、及びロボット制御システム
CN111823223B (zh) * 2019-08-19 2023-12-29 北京伟景智能科技有限公司 一种基于智能立体视觉的机器人手臂抓取控制系统及方法
WO2021065609A1 (ja) * 2019-10-03 2021-04-08 ソニー株式会社 データ処理装置、データ処理方法、調理ロボット

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002123394A (ja) * 2000-10-16 2002-04-26 Denso Corp ロボット装置のプログラム登録システム
JP2005202609A (ja) * 2004-01-14 2005-07-28 Sony Corp コンテンツ管理装置及び方法並びにロボット装置及びその制御方法
JP4266893B2 (ja) * 2004-07-15 2009-05-20 ファナック株式会社 ロボット制御装置及びロボットシステム
JP4584877B2 (ja) 2006-07-14 2010-11-24 日本電産サンキョー株式会社 ロボット教示システム及びロボット教示方法
EP2148629B1 (en) * 2007-04-16 2012-06-06 NeuroArm Surgical, Ltd. Frame mapping and force feedback methods, devices and systems
JP5181541B2 (ja) * 2007-06-15 2013-04-10 富士通株式会社 ロボットシステム、エディタ端末、およびエディタプログラム
JP2009262279A (ja) * 2008-04-25 2009-11-12 Nec Corp ロボット、ロボットプログラム共有システム、ロボットプログラム共有方法およびプログラム
KR101178847B1 (ko) * 2008-12-08 2012-08-31 한국전자통신연구원 가상공간과 연계된 다중 로봇 제어 장치 및 방법

Also Published As

Publication number Publication date
WO2013150599A1 (ja) 2013-10-10
JPWO2013150599A1 (ja) 2015-12-14
CN104220219A (zh) 2014-12-17
US20150019012A1 (en) 2015-01-15
EP2835232A1 (en) 2015-02-11

Similar Documents

Publication Publication Date Title
JP5928923B2 (ja) ロボットシステム及び作業設備
US10737396B2 (en) Method and apparatus for robot path teaching
KR102327825B1 (ko) 로봇 행동들에 대한 보정들의 결정 및 이용
JP6581056B2 (ja) ロボット制御部と通信する教示操作盤を備えたロボットシステム
JP2011201002A (ja) ロボット装置、ロボット装置の遠隔制御方法及びプログラム
JP4266211B2 (ja) ロボット装置、ロボット装置の移動方法、および、プログラム
JP7052652B2 (ja) 移動ロボット、遠隔端末、移動ロボットの制御プログラム、および遠隔端末の制御プログラム
JP5928921B2 (ja) ロボットシステム及びロボット制御装置
US20190381662A1 (en) Autonomous moving body and control program for autonomous moving body
CN112230649B (zh) 机器学习方法及移动机器人
US20190381661A1 (en) Autonomous moving body and control program for autonomous moving body
US20210146546A1 (en) Method to control a robot in the presence of human operators
JP2021091078A (ja) ロボット用コントローラ
CN114080590A (zh) 使用先进扫描技术的机器人料箱拾取系统和方法
JPWO2013150596A1 (ja) ロボットシステム及び作業設備
US20240051134A1 (en) Controller, robot system and learning device
JP2019046159A (ja) カメラ付き移動体、カメラ付き移動体制御システム、及びプログラム
CN110914021A (zh) 带有用于执行至少一个工作步骤的操纵设备的操纵装置以及方法和计算机程序
WO2016157528A1 (ja) 作業支援装置
JP2015003348A (ja) ロボット制御システム、制御装置、ロボット、ロボット制御システムの制御方法及びロボットの制御方法
JP2022132166A (ja) ロボット支援システム
JP2006212732A (ja) ロボットによる案内・説明方法、システム、サーバ、およびロボット
CN115225682B (zh) 管理服务器、远程操作系统、远程操作方法以及存储介质
US20240316769A1 (en) Robot control system
JP2017177628A (ja) 画像形成システム、ロボットおよびロボット制御プログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160401

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160414

R150 Certificate of patent or registration of utility model

Ref document number: 5928923

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees