JP2022101324A - ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法 - Google Patents

ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法 Download PDF

Info

Publication number
JP2022101324A
JP2022101324A JP2020215840A JP2020215840A JP2022101324A JP 2022101324 A JP2022101324 A JP 2022101324A JP 2020215840 A JP2020215840 A JP 2020215840A JP 2020215840 A JP2020215840 A JP 2020215840A JP 2022101324 A JP2022101324 A JP 2022101324A
Authority
JP
Japan
Prior art keywords
tool
robot arm
condition
image
satisfied
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020215840A
Other languages
English (en)
Inventor
潤太 平山
Junta Hirayama
大 徳本
Masaru Tokumoto
智輝 山下
Tomoteru Yamashita
憲一郎 木村
Kenichiro Kimura
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mayekawa Manufacturing Co
Original Assignee
Mayekawa Manufacturing Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mayekawa Manufacturing Co filed Critical Mayekawa Manufacturing Co
Priority to JP2020215840A priority Critical patent/JP2022101324A/ja
Priority to CA3202968A priority patent/CA3202968A1/en
Priority to CN202180086341.3A priority patent/CN116685444A/zh
Priority to PCT/JP2021/045535 priority patent/WO2022138234A1/ja
Priority to EP21910383.5A priority patent/EP4249187A4/en
Priority to US18/265,718 priority patent/US20240033933A1/en
Publication of JP2022101324A publication Critical patent/JP2022101324A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J15/00Gripping heads and other end effectors
    • B25J15/0052Gripping heads and other end effectors multiple gripper units or multiple end effectors
    • B25J15/0066Gripping heads and other end effectors multiple gripper units or multiple end effectors with different types of end effectors, e.g. gripper and welding gun
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39468Changeable hand, tool, code carrier, detector
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40589Recognize shape, contour of tool

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Manipulator (AREA)

Abstract

【課題】ツールがツール条件を満たすか精度良く判定できるロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法を提供する。【解決手段】ロボットアーム用のツールチェック装置は、ロボットアームに装着されたツールの撮影画像に対して、ツールが満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、ツール条件に関連付けられた関連領域を抽出した処理済画像を生成するための画像処理部と、処理済画像に基づき、ロボットアームに装着されたツールがツール条件を満たすかを判定するための判定部とを備える。【選択図】図1

Description

本開示は、ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法に関する。
従来、物体に対して加工又は操作を実行するためのツールが交換可能に装着されるロボットアームが知られている。例えば、特許文献1に開示されるロボットアームでは、物体に対する加工などに応じて、複数種類のいずれかのツールがロボットアームに装着される。上記ロボットアームは、ツールを開閉させることによって物体を把持することが可能である。
特開2018-158405号公報
上記ロボットアームによる加工などの作業が適切になされるためには、実行される加工に応じて、装着されたツールが適正な種別であること、装着されたツールが適正な状態(例えば開状態又は閉状態)であること、といったツール条件を満たす必要がある。この点、特許文献1には、ツールがツール条件を満たすか精度良く判定するための具体的構成の開示はない。
本開示に係る一実施形態は、ツールがツール条件を満たすか精度良く判定できるロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法を提供することである。
本発明の少なくとも一実施形態に係るロボットアーム用のツールチェック装置は、
ロボットアームに装着されたツールの撮影画像に対して、前記ツールが満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域を抽出した処理済画像を生成するための画像処理部と、
前記処理済画像に基づき、前記ロボットアームに装着された前記ツールが前記ツール条件を満たすかを判定するための判定部と
を備える。
本発明の少なくとも一実施形態に係るロボットアーム用のツールチェックプログラムは、
ロボットアーム用のツールをチェックするためのプログラムであって、
コンピュータに、
ロボットアームに装着された前記ツールの撮影画像に対して、前記ツールが満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域を抽出した処理済画像を生成するための画像処理ステップと、
前記処理済画像に基づき、前記ロボットアームに装着された前記ツールが前記ツール条件を満たすかを判定するための判定ステップと
を実行させる。
本発明の少なくとも一実施形態に係るロボットアーム用のツールチェック方法は、
ロボットアーム用のツールをチェックするための方法であって、
ロボットアームに装着された前記ツールの撮影画像に対して、前記ツールが満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域を抽出した処理済画像を生成するための画像処理工程と、
前記処理済画像に基づき、前記ロボットアームに装着された前記ツールが前記ツール条件を満たすかを判定するための判定工程と
を備える。
幾つかの実施形態によれば、ツールがツール条件を満たすか精度良く判定できるロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法を提供できる。
第1の実施形態に係るワーク加工システムを示す図である。 一実施形態に係る画像処理を実行するための基準画像のデータである基準画像データを示す図である。 第1の実施形態に係る判定部による判定手法を説明する図である。 第1の実施形態に係る判定部による判定手法を説明する別の図である。 一実施形態に係るワーク加工システムの電気的構成を示すブロック図である。 一実施形態に係る加工制御処理のフローチャートである。 第2の実施形態に係るワーク加工システムを示す図である。 一実施形態に係るツール条件に対応付けられた学習済モデルを示す図である。 一実施形態に係る学習済モデルの生成過程を示す図である。 第2の実施形態に係る判定部による判定手法を説明する図である。 第3の実施形態に係るワーク加工システムを示す図である。 一実施形態に係る関連領域データ21を示す図である。 第3の実施形態に係る判定部による判定手法を説明する図である。
以下、添付図面を参照して本発明の幾つかの実施形態について説明する。ただし、実施形態として記載され又は図面に示されている構成部品の寸法、材質、形状、その相対的配置等は、本発明の範囲をこれに限定する趣旨ではなく、単なる説明例にすぎない。
例えば、「ある方向に」、「ある方向に沿って」、「平行」、「直交」、「中心」、「同心」或いは「同軸」等の相対的或いは絶対的な配置を表す表現は、厳密にそのような配置を表すのみならず、公差、若しくは、同じ機能が得られる程度の角度や距離をもって相対的に変位している状態も表すものとする。
例えば、「同一」、「等しい」及び「均質」等の物事が等しい状態であることを表す表現は、厳密に等しい状態を表すのみならず、公差、若しくは、同じ機能が得られる程度の差が存在している状態も表すものとする。
例えば、四角形状や円筒形状等の形状を表す表現は、幾何学的に厳密な意味での四角形状や円筒形状等の形状を表すのみならず、同じ効果が得られる範囲で、凹凸部や面取り部等を含む形状も表すものとする。
一方、一つの構成要素を「備える」、「具える」、「具備する」、「含む」、又は「有する」という表現は、他の構成要素の存在を除外する排他的な表現ではない。
一実施形態に係るワーク加工システム1を説明する。一実施形態のワーク加工システム1は、ツール40を用いてワーク5を加工するために設けられる。ワーク5はツール40の加工対象である。一例として、ワーク5は農産物、畜産物、水産物などの食品である。食品は生鮮食品又は加工食品のいずれであってもよい。以下では、ワーク5が生鮮肉となる第1~第3の実施形態を説明する。
(第1の実施形態)
図1で例示される第1の実施形態に係るワーク加工システム1a(1)は、ワーク5を搬送するための搬送装置7、ワーク5を加工するためのロボットアーム30、ツール40を撮影するための撮影装置8、撮影装置8の撮影領域を照らすための照明部4、及びロボットアーム用のツールチェック装置50a(50)を備える。
一実施形態の搬送装置7はワーク5を水平方向に搬送するベルトコンベアである。
一実施形態の撮影装置8は、上方からツール40を撮影するように設けられる。この実施形態では撮影装置8の撮影画像15は平面視の画像となる。図1では、ツール40の一例であるクランパ41(後述)の撮影画像15を例示している。
一実施形態では、ロボットアーム30はツール40を装着するように構成される。一実施形態では、ツールチェック装置50は該ツール40が適正かどうか撮影画像15を用いてチェックする。ロボットアーム30、ツール40、及びツールチェック装置50aの構成の詳細は後述する。
なお他の実施形態では、搬送装置7は、ワーク5を吊り下げた姿勢で把持して搬送してもよい。また、撮影装置8は水平方向に沿ってツール40を撮影するよう構成されてもよいし、水平方向に対して傾斜する方向に沿ってツール40を撮影するよう構成されてもよい。さらに、ワーク加工システム1aは照明部4を備えなくてもよい。この場合、照明部4の機能が撮影装置8に含まれてもよい。
ロボットアーム30の構成を説明する。一実施形態のロボットアーム30は、産業用ロボットである。より詳細には一例として、ロボットアーム30は多関節ロボットである。ロボットアーム30は、垂直多関節ロボット、水平多関節ロボット、又はこれらの組み合わせであってもよい。
一実施形態のロボットアーム30は、ロボットアーム30a、30b、30cを含む。一実施形態において、このロボットアーム30に装着されるツール40は、金属材料により形成される。また、一実施形態のツール40は、例えばワーク5などに比べて、光を反射し易い表面を有する。
一実施形態のツール40は、ワーク5を掴むためのクランパ41、ワーク5をチャックするためのチャック42、及びワーク5を切断するためのナイフ43を含む。
一実施形態では、クランパ41はロボットアーム30aに装着され、チャック42とナイフ43はロボットアーム30b又はロボットアーム30cに装着される。
一実施形態では、ワーク5の種類に応じた使い分けがなされるよう左右対称なツール40が用意される。具体的な一例として、チャック42はチャック42L、42Rを含み、ナイフ43はナイフ43L、43Rを含み、これらのツール40が選択的にロボットアーム30b、30cに装着される。例えば、搬送装置7により搬送されるワーク5が家畜の左肢肉又は右肢肉のいずれか一方である場合には、ロボットアーム30b、30cの各々にチャック42L、ナイフ43Rが装着される。また、ワーク5がいずれか他方である場合には、ロボットアーム30b、30cの各々にナイフ43L、チャック42Rが装着される。一実施形態では、これらの装着作業は作業者により行われる。他の実施形態では、これらの装着作業が別のロボットによって行われてもよい。
一実施形態のクランパ41とチャック42は駆動源から駆動力を得て開閉動作を行う。一実施形態では、駆動源として、図示外のエアシリンダが採用される。この場合、クランパ41とチャック42の各々に設けられた流入口及び流出口が空気管を介してエアシリンダに接続される。なお、駆動源として油圧シリンダ又はモータが採用されてもよい。
他の実施形態では、ワーク加工システム1aは、左右対称なツール40を備えなくてもよい。例えば、チャック42はチャック42L、42Rのいずれか一方しか含まなくてもよい。同様にナイフ43もいずれか一方しか含まなくてもよい。さらに別の実施形態では、複数のロボットアーム30は各々、単一のツール40しか装着しなくてもよい。
また、ロボットアーム30が複数設けられることにワーク加工システム1aは限定されない。単一のロボットアーム30が、複数種類のツール40を選択的に装着してもよいし、単一のツール40しか装着しなくてもよい。
ロボットアーム用のツールチェック装置50(以下、ツールチェック装置50という場合がある)の構成を説明する。ツールチェック装置50はチェックの判定基準として、ツール40が満たすべきツール種別又はツール状態に関するツール条件を採用する。一実施形態では、撮影画像15に画像処理が施された処理済画像18(後述)に基づきツールチェックは行われる。
ツール種別は、ロボットアーム30に装着されるべきツール40の種別である。一実施形態のツール種別は、クランパ41、チャック42、又はナイフ43のいずれかである。例えば、チャック42Lが装着されるべきであるにも関わらず、ナイフ43Lがロボットアーム30bに装着された場合には、ツール種別に関するツール条件は満たされない。こういった事例は、例えば作業者によるツール40の交換作業に不備があると生じ得る。
ツール状態は、ロボットアーム30に装着されているツール40が満たすべき状態である。一実施形態のツール状態は、クランパ41及びチャック42の開状態又は閉状態と、ナイフ43の正常状態とを含む。例えば、クランパ41又はチャック42が閉状態であるべきにも関わらず、これらのツール40が開状態である場合には、ツール状態に関するツール条件は満たされない。こういった事例は、例えば、クランパ41又はチャック42とエアシリンダとを空気管で接続させる作業に不備があると生じ得る。あるいは、ナイフ43が正常状態であるべきにも関わらず、ナイフ43が欠損している場合には、ツール状態に関するツール条件は満たされない。こういった事例は、例えば、ナイフ43が継続的に使用されることで生じ得る。
一実施形態では、上記のツール種別とツール状態が対応付けて管理される。従って、ツールチェック装置50は、一度のチェックで、ツール40の種別と状態のそれぞれが適正かチェックできる。具体的な一例として、ツールチェック装置50は、ツール種別としてクランパ41、ツール状態として開状態が対応付けられたツール条件の充足の有無を一度のチェックで判定できる。あるいは、ツール種別としてナイフ43L、ツール状態として正常状態が対応付けられたツール条件の充足の有無を一度のチェックで判定できる。
なお他の実施形態では、ツール種別とツール状態は対応付けられなくてもよい。例えば、ツールチェック装置50は、ツール種別に関するツール条件と、ツール状態に関するツール条件との各々の条件が充足されるか、個別に判定してもよい。
他の実施形態では、ツール条件はツール種別のみに関する条件であってもよい。つまり、ロボットアーム30に装着されたツール40の種別が適正かどうかだけ、判定されてもよい。あるいは、ツール条件はツール状態のみに関する条件であってもよい。例えば、ロボットアーム30が単一のツール40しか装着しない実施形態においては、ツール40の状態が適正かどうかだけ、判定されればよい。
ツールチェック装置50a(50)の構成を説明する。一実施形態のツールチェック装置50aは、条件取得部51、ツール移動制御部52、撮影制御部53、画像処理部55a(55)、輝度値取得部56、及び判定部59a、59b(59)を備える。これらの構成要素の機能は後述するようにプロセッサ91(図4参照)によって実現される。
一実施形態の条件取得部51は、ツール条件が充足されると判定された後のロボットアーム30の作業予定(動作予定)に応じて、ツール条件を取得するように構成される。例えば、ツール条件が充足されると判定された後の作業として、開状態のクランパ41による作業が予定されているのであれば、ツール種別がクランパ41で、且つツール状態が開状態となるツール条件を条件取得部51は取得する。
一実施形態のツール移動制御部52は、撮影装置8の撮影領域に含まれる規定位置にツール40が移動するようロボットアーム30を制御するために設けられる。一実施形態の規定位置は、ロボットアーム30a、30b、30cのそれぞれに応じて異なる位置である。なお、ロボットアーム30a、30b、30cのいずれにも同じ規定位置が設定されてもよい。あるいは、ツール条件に応じて規定位置が設定されてもよい。
一実施形態の撮影制御部53は、規定位置まで移動したツール40が撮影されるように撮影装置8を制御するために設けられる。
一実施形態の画像処理部55a(55)は、ロボットアーム30に装着されたツール40の撮影画像15に対して、ツール40が満たすべきツール条件に関連付けられた画像処理を施すように構成される。一実施形態では、画像処理部55aは、予め用意された複数のツール条件のうち、条件取得部51によって取得されたツール条件に関連付けられた画像処理を撮影画像15に対して施す。
一実施形態の画像処理部55aは、上記の画像処理を施して、関連領域17a(17)を抽出した処理済画像18a(18)を生成するように構成される(図3A、図3B参照)。一実施形態の関連領域17aは、ツール条件が満たされる場合と満たされない場合とで、画像に違いが生じるように設定された領域である。この関連領域17aを抽出した処理済画像18aが、ツール条件が満たされるかの判定に利用される。
一実施形態の関連領域17aはツール条件に対応付けて設定される。例えば、クランパ41のツール状態に関するツール条件に対応付けられた関連領域17aは、クランパ41の状態(開状態又は閉状態)に応じて、クランパ41の可動部の少なくとも一部が進入又は退出する領域となるよう設定される。なお、関連領域17aは、判定部59aの判定時に設定されてもよいし、判定前に予め設定されてもよい。
一実施形態の関連領域17aは、ツール条件を満たすツール40の輪郭の少なくとも一部に沿った領域であり、トリミング対象となる領域である。一実施形態では、画像処理部55aは、関連領域17aを抽出するマスク処理を実行する。
一実施形態の輝度値取得部56は、処理済画像18a(18)の輝度値を取得するように構成される。一実施形態では、処理済画像18aの各々の画素のRGB輝度値が取得される。
一実施形態の判定部59a、59b(59)は、処理済画像18a(18)に基づきロボットアーム30に装着されたツール40がツール条件を満たすか判定するように構成される。一実施形態では、判定部59a、59bは、条件取得部51により取得されたツール条件の充足の有無を、輝度値取得部56により取得された輝度値に基づき判定する。判定部59a、59bの判定手法は後述する。
なお、他の実施形態では、条件取得部51が設けられなくてもよい。例えば、ツール条件が一意に定まっているのであれば、画像処理部55aは、該ツール条件に関連付けられた画像処理を施して処理済画像18aを生成すればよいし、判定部59a、59bは該処理済画像18aに基づきツール条件を満たすか判定すればよい。
また、他の実施形態では、ツール移動制御部52が設けられなくてもよい。例えば、ツールチェック装置50aが、ロボットアーム30に対して遠隔となる場所に設けられている場合、ツールチェック装置50aはツール移動制御部52を備えていなくてもよい。
図2は、一実施形態に係る画像処理を実行するための基準画像14のデータである基準画像データ96を示す図である。
一実施形態の基準画像14はツール条件に関連付けられる。
一実施形態の画像処理部55aは、撮影画像15に対して、ツール条件に関連付けられた基準画像14を用いてマスク処理を施す。これにより、ツール条件に関連付けられた関連領域17aを抽出した画像が処理済画像18aとして生成される(図3A、図3B参照)。
一実施形態では、一例として、ツール条件に対応付けて計8種の基準画像14a~14hが用意されている。
なお、一実施形態の基準画像14は、撮影装置8で生成される撮影画像15と同一サイズの画像であってもよい。あるいは、撮影画像15よりも小さなサイズの画像であってもよく、この場合、撮影画像15の一部がクロップ処理されてから、基準画像14を用いたマスク処理が施される。例えば、撮影時のツール40の規定位置がツール条件に応じて異なる場合、撮影画像15のクロップ対象となる領域は、ツール種別に応じて変わってもよい。
図3A、図3Bは、一実施形態に係る判定部59a、59b(59)による判定手法を説明する図である。
図3A、図3Bで示される判定においては、満たされるべきツール条件が開状態のクランパ41であるとする。図中の「チェックA」は上記ツール条件を満たす開状態のクランパ41のチェック過程を示す。また、同図の「チェックB」は、上記ツール条件を満たさない閉状態のクランパ41のチェック過程を示す。
一実施形態では、チェックA、Bのいずれにおいても、撮影装置8による撮影時にワーク5がツール40の下方に配置されている(図3A、図3Bでは、図面を見易くする都合、ワーク5にハッチングを施している)。なお、撮影装置8による撮影時、ツール40の背景にワーク5が写らなくてもよい。
一実施形態では、チェックA、Bの実行時に、画像処理部55aが、上記ツール条件に関連付けられた基準画像14aを用いて各々の撮影画像15にマスク処理を施し、各々の処理済画像18a(18)を生成する。その後、この処理済画像18aの輝度値を輝度値取得部56a、56b(56)が取得する。
図3Aで示される輝度値取得部56aは、処理済画像18aにおける輝度値の総和Xを取得するよう構成される。
例えば処理済画像18aのx方向(横方向)の画素数をMとし、y方向(縦方向)の画素数をNとし、任意の画素における輝度値をBとすると、輝度値取得部56aによって取得される輝度値の総和Xは、式(2)によって定義される。なお、iは処理済画像18aの横方向における画素数以下の任意の自然数であり、jは縦方向における画素数以下の任意の自然数である。
Figure 2022101324000002
処理済画像18aにおけるマスク領域の輝度値は0であるので、式(2)によって、処理済画像18aの関連領域17aにおける輝度値が取得される。
なお、他の実施形態では、関連領域17aのみのピクセルの輝度値を取得する処理が実行されてもよい。この場合であっても、式(2)と同じ値が取得される。
一実施形態の判定部59aは、取得された輝度値の総和Xに基づき、ツール条件の充足の有無を判定するように構成される。
一実施形態では、判定部59aは、チェックA、Bの各々において輝度値取得部56aによって取得された輝度値の総和Xに基づき、チェックA、Bでツール条件が充足されるかを判定する。例えば、チェックAでは、処理済画像18aの関連領域17aのほぼ全域にわたってクランパ41が写り、クランパ41以外の物体(例えばワーク5)は関連領域17aには殆ど映らない。この場合、輝度値取得部56aによって取得される処理済画像18aの輝度値の総和Xは判定基準となる閾値Tを超え、判定部59aはツール条件が満たされていると判定できる。
一方、チェックBでは、処理済画像18aの関連領域17aにおいてクランパ41が占める割合は小さくなる(クランパ41の可動部の殆どは関連領域17aから退出する)。結果、関連領域17aにおいて、他の物体(例えばワーク5)が占める割合が大きくなる。これにより、処理済画像18aにおける輝度値の総和Xは閾値T以下となり、判定部59aはツール条件が満たされていないと判定できる。
図3Bで示される輝度値取得部56bは、処理済画像18aにおける画素ごとの輝度値Bijと、ツール条件に対応して該画素ごとに設定された輝度値Bsijとを用いた以下の式(1)によって特定される輝度値の差分の総和Xを取得するように構成される。
Figure 2022101324000003
一実施形態の輝度値取得部56bは、チェックA、Bの各々において、処理済画像18aの各画素における輝度値Bijと、処理済画像18の各画素に対応する正常画像12の各画素の輝度値Bsijとの差分の総和Xを取得する。
一実施形態では、事前準備として、ツール条件を満たすことが確定しているツール40の撮影画像15に対して画像処理部55aがマスク処理を施す。これにより、ツール条件に関連する関連領域17aを抽出した処理済みの画像である正常画像12が予め生成されている。輝度値取得部56bは、正常画像12を取得することで、輝度値Bsijを取得する。
なお、他の実施形態では、画像処理部55aが正常画像12を生成しなくてもよい。例えば、処理済画像18bの各画素に対応付けて設定された輝度値Bsijが予め何かしらのメモリに記憶されていればよい。
また、他の実施形態では、Bijが、処理済画像18aにおける画素ごとの輝度値の代わりに、関連領域17aのみにおける画素ごとの輝度値であってもよい。この場合、Bsijも関連領域17aのみに対応する画素の輝度値を示す。
一実施形態の判定部59bは、取得された輝度値の差分の総和Xに基づき、ツール条件の充足の有無を判定する。
一実施形態の判定部59bは、チェックA、Bの各々において輝度値取得部56bによって取得された輝度値の差分の総和Xに基づき、各々のチェックでツール条件が充足されるかを判定する。例えば、チェックAでは、処理済画像18aと正常画像12との間で画像の違いが小さいため、輝度値の差分の総和Xは判定基準となる閾値Tを下回り、判定部59bはツール条件が満たされていると判定できる。
一方、チェックBでは、処理済画像18aと正常画像12との画像の違いが大きいため、輝度値の差分の総和Xは、閾値T以上となる。これにより、判定部59bはツール条件が満たされていないと判定できる。
なお、図3A、図3Bでは、ツール条件を満たさないツール40が、閉状態のクランパ41である例を示したが、ツール条件を満たさない他のツール40が判定対象になっても、同様の判定手法が適用されて、同様の判定結果が得られる。
また、図3A、図3Bでは、満たされるべきツール条件の例として、開状態のクランパ41を挙げたが、その他のツール条件が判定対象になっても、同様の判定手法が適用されて、同様の判定結果が得られる。
図4は、一実施形態に係るワーク加工システム1aの電気的構成を示すブロック図である。既述のツールチェック装置50a(50)の構成要素は、図4で示される加工制御部90によって実現される。具体的な実現の仕方は、図5を用いて後述する。
ワーク加工システム1は、プロセッサ91を含む加工制御部90を備える。
プロセッサ91は、ROM92に記憶される加工制御プログラム(ツールチェックプログラム)95を読み出してRAM93にロードし、ロードした加工制御プログラム95に含まれる命令を実行するように構成される。プロセッサ91は、CPU、GPU、MPU、DSP、これら以外の各種演算装置、又はこれらの組み合わせである。プロセッサ91は、PLD、ASIC、FPGA、及びMCU等の集積回路により実現されてもよい。ROM92は記憶装置の一例である。
加工制御部90の構成要素であるメモリ94は、基準画像データ96を記憶する不揮発性メモリである。
一実施形態のプロセッサ91は、図示外のインターフェースを介して、受付ボタン6、搬送装置7、ロボットアーム30、撮影装置8、及び発報装置9に接続されている。
一実施形態の受付ボタン6は、ツール40が満たすべきツール条件を受付ける。受付ボタン6は、機械的な構造を有するボタンであってもよいし、タッチパネルボタンであってもよい。
一実施形態では、作業者が、ツール40をロボットアーム30に装着する際に、ツール条件を受付ボタン6に入力する。入力されるツール条件は、例えばロボットアーム30の個数に応じた複数条件であってもよい。受付ボタン6は受付けたツール条件をプロセッサ91に出力する。なお、作業者は、ツール条件を受付ボタン6に入力する際、該ツール条件に対応するロボットアーム30も併せて入力してもよい。
プロセッサ91は、受付ボタン6から出力されるデータを取得することで、ツール条件を取得する。
なお他の実施形態では、受付ボタン6が設けられなくてもよい。この場合、プロセッサ91は、例えば加工制御プログラム95に含まれるデータが示すツール条件を取得してもよい。
一実施形態の搬送装置7、ロボットアーム30、撮影装置8、及び発報装置9は、各々、プロセッサ91から受信する制御信号に応じて作動する。一実施形態のロボットアーム30は、受信する制御信号に応じてツール40を規定位置まで移動させる。一実施形態ではさらに、ロボットアーム30は、受信する制御信号に応じて、ワーク5に対して加工作業を行う。
一実施形態の撮影装置8は、受信した制御信号に応じて撮影を実行し、生成した撮影画像15をプロセッサ91に出力する。一実施形態のプロセッサ91は、撮影装置8から取得した画像をRAM93に出力する。なお、撮影画像15は、RAM93に代えてメモリ94に記憶されてもよい。
一実施形態の発報装置9は、ツール条件が満たされていないとプロセッサ91が判定した場合、受信した制御信号に応じて発報するための装置である。一実施形態の発報装置9は、画像表示装置、スピーカ、発光装置、又はこれらの組み合わせであってもよい。
図5は、一実施形態に係る加工制御処理のフローチャートを示す。加工制御処理は、プロセッサ91がROM92に記憶される加工制御プログラム95をRAM93にロードすることによって、以下のステップを実行する。処理の実行に伴いプロセッサ91が処理する情報は、適宜、RAM93又はメモリ94に記憶される。以下の説明では、「ステップ」を「S」と略記する。
プロセッサ91は、加工領域までワーク5が搬送されるよう、搬送装置7を制御する(S11)。
次いで、プロセッサ91は、ツール40が満たすべきツール条件を取得する(S13)。例えば、プロセッサ91は、受付ボタン6から出力されるデータに基づき、ツール条件を取得する。S11を実行するプロセッサ91が条件取得部51として機能する。なお、ロボットアーム30が複数設けられる実施形態においては、プロセッサ91は、各々のロボットアーム30に応じたツール条件を取得してもよい。
プロセッサ91は、S13で取得したツール条件に応じてツール40が規定位置まで移動するよう、ロボットアーム30を制御する(S15)。例えば、S11で取得されたツール条件に「開状態のクランパ41」が含まれる場合、プロセッサ91による制御によって、ロボットアーム30aに装着されたクランパ41は規定位置まで移動し、ロボットアーム30b、30cに装着されたチャック42、ナイフ43は他の位置まで退避する。S15を実行するプロセッサ91はツール移動制御部52として機能する。
プロセッサ91は、S15の実行によって規定位置まで移動したツール40が撮影されるよう撮影装置8を制御する(S17)。プロセッサ91は、撮影装置8で生成された撮影画像15を例えばRAM93に記憶する。S17を実行するプロセッサ91は撮影制御部53として機能する。
プロセッサ91はS17で生成された撮影画像15を画像処理する(S19)。一実施形態では、プロセッサ91は、メモリ94に記憶された基準画像データ96を参照し、S13で取得されたツール条件に応じた基準画像14を取得する。そして、取得した基準画像14を用いて、S17で取得された撮影画像15に対してマスク処理を施す。これにより、プロセッサ91は、ツール条件に関連付けられた関連領域17a(17)を抽出した画像を処理済画像18a(18)として生成する。なお、S19を実行するプロセッサ91が画像処理部55a(55)として機能する。
プロセッサ91は、生成された処理済画像18aに基づき、処理済画像18a(17)の輝度値を取得する(S21)。一実施形態では、プロセッサ91は、例えば上述の式(1)又は式(2)に基づき、輝度値の差分の総和X又は輝度値の総和Xを取得する。
なお、プロセッサ91は、輝度値の差分の総和Xを取得する場合、メモリ94に記憶された正常画像12を参照し、各画素の輝度値Bsijを取得してもよい。
S21を実行するプロセッサ91は輝度値取得部56a、56b(56)として機能する。
プロセッサ91は取得された輝度値に基づき、S13で取得されたツール条件が満たされているかを判定する(S23)。
例えば、プロセッサ91は、上述の輝度値の差分の総和X又は輝度値の総和Xと、閾値T又は閾値Tとを比較することによって、ツール条件の充足の有無を判定する。S23を実行するプロセッサ91が判定部59a、59b(59)として機能する。
ツール条件が満たされていないと判定された場合(S23:NO)、プロセッサ91は、発報が実行されるように発報装置9を制御し(S25)、本制御処理を終了する。
一実施形態では、発報がなされることにより、作業者は、ツール条件が満たされていないことを認識し、ツール条件が満たされるようロボットアーム30に対してツール40の交換作業などを行うことができる。
一実施形態では、ツール条件が満たされていると判定された場合(S23:YES)、プロセッサ91はツールチェックが完了したかを判定する(S27)。例えば、S13で取得された複数のツール条件のうちで、充足の有無を判定していないツール条件が残っている場合(S27:NO)、プロセッサ91はS15~S23を繰り返す。一方、全てのツール条件の判定が完了した場合(S27:YES)、プロセッサ91は処理をS29に進める。
プロセッサ91は、規定位置にあったツール40が別の位置まで退避するようロボットアーム30を制御する(S29)。その後、プロセッサ91は、ワーク5が撮影されるよう撮影装置8を制御し(S31)、撮影装置8で生成された画像を分析する(S33)。一実施形態では、プロセッサ91は、撮影されたワーク5に適した加工を行うための画像分析を実行する。具体的な一例として、ワーク5が家畜の骨付き肢肉である場合には、ワーク5に含まれる骨の位置を特定するための画像分析が実行される。該分析は、例えば、予め機械学習された学習モデルに対して、S31で撮影された画像が入力されることで実行されてもよい。この場合、プロセッサ91は、機械学習された学習モデルに基づき演算処理を実行するためのGPUを備えてもよい。プロセッサ91は、画像分析の結果に基づいたワーク5の加工作業がなされるよう、ロボットアーム30を制御する(S35)。ワーク5の加工が終了した後、プロセッサ91は本制御処理を終了する。
なお、他の実施形態では、S11の実行タイミングは、ツールチェックが完了したと判定された後(S27:YES)であってもよい。この場合、S17で実行される撮影では、撮影画像15にワーク5は映らない。
他の実施形態では、例えば、判定対象となるツール条件が一意に定まっている場合、S13とS27がいずれも実行されてなくてもよい。なお、一意に定まるツール条件とは、単一のツール条件を意味するだけでなく、複数のツール条件をも意味する。
(第2実施形態)
図6は、第2の実施形態に係るワーク加工システム1b(1)を示す図である。第1実施形態と同一の構成要素については図面において同一の符号が付与されており、詳細な説明は省略する(後述の第3実施形態も同様である)。
ワーク加工システム1bは、ツールチェック装置50a(50)に代えて、ツールチェック装置50b(50)を備える。
ツールチェック装置50bは、輝度値取得部56、及び判定部59a(59)に代えて、記憶部54、評価データ取得部58、及び判定部59c(59)を備える。
一実施形態では、記憶部54に記憶される学習済モデル57は、画像処理部55aにより生成された処理済画像18a(18)に関するデータが入力されると、ツール40がツール条件を満たすかに関する評価データを出力するように構成される。
一実施形態の学習済モデル57は、深層学習がなされたモデルである。一例として、学習済モデル57はGAN(Generative Adversarial Network)である。より詳細には、GANは、EGBAD(Efficient GAN-Based Anomaly Detection)である。なお、他の実施形態では、学習済モデル57は、CNN(Convolution Neural Network)又は、RNN(Recurrent Neural Network)であってもよい。
一実施形態の評価データ取得部58は、画像処理部55aによって生成された処理済画像18aを学習済モデル57に入力することで出力される評価データを取得するように構成される。なお、評価データ取得部58の機能を果たすプロセッサユニットとして、条件取得部51、ツール移動制御部52などとは別に専用のGPUユニットが設けられてもよい。
一実施形態の判定部59c(59)は、取得された評価データに基づき、ツール条件の充足の有無を判定するように構成される。判定手法の詳細は後述する。
図7は、一実施形態に係るツール条件に対応付けられた学習済モデル57を示す図である。
一実施形態の学習済モデル57は、ツール条件に対応付けて記憶部54に記憶される。例えば、図7に示すように、一実施形態の学習済モデル57a~57f(57)は、ツール種別とツール状態とに関するツール条件に対応付けて記憶部54に記憶される。
なお他の実施形態では、ツール種別又はツール状態のいずれかに関するツール条件に対応付けて学習済モデル57が記憶部54に記憶されてもよい。あるいは、記憶部54は、単一の学習済モデル57のみを記憶してもよい。
図8は一実施形態に係る学習済モデル57a(57)の生成過程を示す図である。
例えば、開状態のクランパ41のツール条件に対応する学習済モデル57aの学習前モデル67a(67)が用意される。さらに、該ツール状態を満たしていることが確定している複数の撮影画像15に対して画像処理部55aが画像処理を施した正常画像12を、教師データ65として学習前モデル67aに入力する。これにより、学習前モデル67aは機械学習を行い、学習済モデル57aが生成される。
その他の学習済モデル57b~57hの生成過程も同様であるので、詳細な説明は省略する。
他の実施形態では、教師データ65となる画像は画像処理前の撮影画像15であってもよい。
図9は、一実施形態に係る判定部59c(59)による判定手法を説明する図である。
図9において、満たされるべきツール条件、及びチェックA、Bの各々において判定対象となるツール40と画像処理対象となる撮影画像15は、いずれも図3A、図3Bと同様である。
図9で示される判定では、チェックA、Bの各々を通じて、画像処理部55a(55)により図3A、3Bと同様の処理済画像18a(18)が生成される。
上記処理済画像18aを取得する評価データ取得部58は、ツール状態(開状態のクランパ41)に対応する学習済モデル57aを用いる。具体的には、評価データ取得部58は、それぞれの処理済画像18aを学習済モデル57aに入力し、各々の評価データである値Xを取得する。
一実施形態では、判定部59cは、取得された値Xと、判定基準となる閾値Tとを比較することによってツール条件の充足の有無を判定する。例えば、学習済モデル57としてEGBADが採用されている実施形態では、学習済モデル57の構成要素であるDiscriminator(図示外)から出力される値Xは、チェックAでは閾値T未満となり、チェックBでは閾値T以上となる。これにより、判定部59cは、チェックAではツール条件が満たされていると判定でき、チェックBでは満たされていないと判定できる。
なお、学習済モデル57の具体的なモデルに応じて、チェックAにおいて評価データの値Xが閾値Tを超えることがあってもよい。
(第3実施形態)
図10は、第3実施形態に係るワーク加工システム1c(1)を示す図である。ワーク加工システム1cは、ワーク加工システム1aのクランパ41(ツール40)とツールチェック装置50a(50)に代えて、クランパ41a(ツール40)とツールチェック装置50c(50)を備える。
クランパ41aは、支持部44と、支持部44によって回転可能に支持された一対の可動部47を含む。一実施形態では、図示外のエアシリンダから供給される駆動力によって、一対の可動部47は開閉する。なお、他の実施形態では、一対の可動部47の一方は、支持部44に固定された固定部であってもよい。
クランパ41aはマーク45が付された外表面46をさらに含む。一実施形態では、外表面46は支持部44と一対の可動部47の各々の表面に含まれる。一実施形態のマーク45は、支持部44と、一方の可動部47のそれぞれに形成される。マーク45は、文字、図形、記号、又はこれらの組み合わせである。一実施形態のマーク45は文字である。
一実施形態では、マーク45はツール40に電解マーキングが施されることによって形成される。この実施形態では、シールがツール40に貼付されることでマーク45が付される実施形態に比べてツール40の清潔性を保つことができ、レーザ刻印によってマーク45が付される実施形態に比べてコストの増大を抑制することができる。
ツールチェック装置50cは、画像処理部55a(55)、輝度値取得部56、及び判定部59a(59)に代えて、画像処理部55b(55)、記憶装置66、特定処理部64、及び判定部59d(59)を備える。
一実施形態の画像処理部55bは、マーク45が付された外表面46を有するツール40のツール条件に関連付けられた画像処理を撮影画像15に対して施すように構成される。画像処理部55bは、基準画像(図示外)を用いたマスク処理を撮影画像15に対して施してもよいし、クロップ処理を撮影画像15に対して施してもよい。撮影画像15に対する画像処理によって、関連領域17bを抽出した処理済画像18b(18)が生成される。
一実施形態の記憶装置66は、画像処理部55bによって抽出される関連領域17bをツール条件に対応付けた関連領域データ21を記憶する。一実施形態の関連領域17bは、ツール条件を満たすツール40の輪郭の内側領域であり、より詳細には、ツール条件を満たすツール40のマーク45を含む領域である。一実施形態の関連領域17bは、ツール40の輪郭に沿った領域であってもよいし、輪郭に沿った領域でなくてもよい。
一実施形態の特定処理部64は、生成された処理済画像18b(18)に対して、マーク45を特定する処理を実行するように構成される。例えば、マーク45が文字である実施形態では、特定処理部64は、マーク45としての文字を特定する処理を処理済画像18bに対して実行するように構成される。文字を特定する処理は、一例として、光学文字認識処理である。
一実施形態の判定部59dは、特定処理部64による処理の結果に基づき、ツール条件の充足の有無を判定するように構成される。例えば、特定処理部64が光学文字認識処理を実行する実施形態においては、判定部59dは、処理済画像18bに文字であるマーク45が含まれるかに応じて、ツール条件の充足の有無を判定してもよい。
なお、他の実施形態では、判定部59dは、特定処理部64によって認識された具体的な文字に応じて、ツール条件の充足の有無を判定してもよい。
また、他の実施形態では、マーク45は文字の代わりに直線又は円などの図形であってもよい。この場合であっても、特定処理部64がマーク45の有無を特定することで、判定部59dは、ツール条件の充足の有無を判定できる。
図11は、一実施形態に係る関連領域データ21を示す。一実施形態では、関連領域データ21は、ツール種別に関するツール条件の判定時に参照される関連領域データ21aと、ツール状態に関するツール条件の判定時に参照される関連領域データ21bを含む。
一実施形態では、関連領域データ21aに記憶されるデータは、ツール40の種別(クランパ41、チャック42L、42R、ナイフ43L、43R)ごとに割り当てられる。例えば、クランパ41に割り当てられたデータA1が示す関連領域17bは、クランパ41が開状態であるか閉状態であるかによらずマーク45が含まれる領域を示す。より詳細には一例として、データA1は、支持部44に付されたマーク45を含む関連領域17bである。
一実施形態では、関連領域データ21bに記憶されるデータは、ツール40の種別(クランパ41、チャック42L、42R)ごとに割り当てられる。例えば、クランパ41に割り当てられたデータA2が示す関連領域17bは、クランパ41が開状態である場合にのみマーク45が内側に配置される領域を示す。なお、データA2が示す関連領域17bは、クランパ41が閉状態である場合にのみマーク45が内側に配置される領域であってもよい。
なお、他の実施形態では、関連領域データ21bでは、ツール40の状態(例えば、クランパ41の開状態と閉状態)の各々に応じてデータが割り当てられてもよい。この場合、ツール40の状態ごとに割り当てられたデータが示す関連領域17bは、いずれも、マーク45が内側に配置される領域であってもよい。
図12は、一実施形態に係る判定部59d(59)による判定手法を示す図である。図12において、満たされるべきツール条件、及びチェックA、Bの各々において判定対象となるツール40と画像処理対象となる撮影画像15は、いずれも図3A、図3Bと同様である。
図12で示される判定では、チェックA、Bの各々を通じて、画像処理部55b(55)により処理済画像18b(18)が生成される。
一実施形態のチェックA、Bにおいて、画像処理部55bは、満たされるべきツール条件に対応した基準画像(図示外)を用いて撮影画像15に対してマスク処理を施し、関連領域17bを抽出した処理済画像18bを取得する。図12では、マスクされた画像領域の図示は省略している。そして、特定処理部64は、画像処理部55bから取得した処理済画像18b(撮影画像15の画像)のうちで、関連領域データ21のデータA1、A2が示す各々の関連領域17bで、マーク45を特定する処理(例えば光学文字認識処理)を実行する。
例えば、チェックAでは、ツール種別とツール状態のそれぞれに関する関連領域17b内にマーク45(具体的には「A」という文字)があると認識される。判定部59dは、ツール種別とツール状態のそれぞれに関しマーク45を認識できていることを理由に、ツール条件が満たされていると判定する。
一方、チェックBでは、特定処理部64は、ツール種別に関する関連領域17b内にマーク45があると認識するものの、ツール状態に関する関連領域17bにマーク45がないと認識する。この場合、ツール状態に関するツール条件が充足されていないことを理由に、判定部59dはツール条件が非充足であると判定する。なお、チェックBでは、判定部59は、ツール種別に関するツール条件は満たされていると判定し、ツール状態に関するツール条件は満たされないという判定をしてもよい。
なお、他の実施形態では、画像処理部55bは、撮影画像15に対して、関連領域データ21のデータA1、A2が示す各々の関連領域17bを抽出するクロップ処理を実行することで、処理済画像18bを生成してもよい。この場合、関連領域17bと処理済画像18bは、図12に示すように同一画像となる。この場合であっても、特定処理部64がマーク45を特定する処理を実行することにより、判定部59dは上記と同様の判定結果を得ることができる。
以下、幾つかの実施形態に係るロボットアーム用のツールチェック装置50、ロボットアーム用のツールチェックプログラム95、ロボットアーム用のツールチェック方法を説明する。
(1)本発明の少なくとも一実施形態に係るロボットアーム用のツールチェック装置50は、
ロボットアーム30に装着されたツール40の撮影画像15に対して、前記ツール40が満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域17を抽出した処理済画像18を生成するための画像処理部55と、
前記処理済画像18に基づき、前記ロボットアーム30に装着された前記ツール40が前記ツール条件を満たすかを判定するための判定部59と
を備える。
上記(1)の構成によれば、ツール条件に関連付けられた関連領域17が抽出されて、処理済画像18が生成され、この生成された処理済画像18に基づき、判定部59はツール条件の充足の有無を判定する。よって、ツール40がツール条件を満たすか精度良く判定できる。
また、処理済画像18の元となる撮影画像15を生成する撮影装置8は、画像分析処理(S31)に利用される別の画像の生成も行う。つまり、撮影装置8が、ツール条件の充足の有無を判定するための画像を生成する機能と、画像分析処理用の画像を生成する機能とを兼用する。これにより、ツールチェック装置50の構成の複雑化が回避され、ワーク加工システム1のコストの増大は抑制される。
また、上記の構成によれば、ツール条件の充足の有無を判定するための専用のセンサをツール40に設ける必要がなくなる。例えばワーク5が生鮮肉となる実施形態では、ワーク5を加工する空間が湿潤になる傾向がある。このような実施形態においても、上記構成によれば、電子部品であるセンサがツール40に設けられることに伴う防水対策及び防汚対策をツール40に施す必要がなくなり、ツール条件の充足の有無を簡便に判定することができる。
また、ツール条件の充足の有無を判定する方法として、特定のツール40しかロボットアーム30に装着できない係合機構を、ロボットアーム30とツール40に設けることが考えられる。しかしながら、この方法では機構の複雑化を招き、また、ロボットアーム30に装着させるツール40の種類が制限されてしまう。さらに上記方法では、ツール種別に関するツール条件について判定することは可能であるが、ツール状態に関するツール条件について判定することは困難である(例えばクランパ41の開閉状態を適正に判定することは困難である)。この点、上記の構成に係る一実施形態によれば、機構の複雑化、及び、ツール40の種類の減少を回避しつつ、ツール種別だけでなくツール状態に関するツール条件についても判定が可能となる。
(2)幾つかの実施形態では、上記(1)の構成において、
ツールチェック装置50aは、前記処理済画像18a(18)の輝度値を取得するための輝度値取得部56a、56b(56)を備え、
前記判定部59a、59b(59)は、取得された前記輝度値に基づき、前記ツール条件の充足の有無を判定するように構成される。
上記(2)の構成によれば、ツール条件の充足の有無について、判定部59a、59bは処理済画像18aの輝度値に基づいて定量的な判定を実行できる。よって、ツール40がツール条件を満たすか精度良く判定できる。
(3)幾つかの実施形態では、上記(2)の構成において、
前記輝度値取得部56aは、前記処理済画像18a(18)における輝度値の総和Xを取得するように構成され、
前記判定部59aは、取得された前記輝度値の前記総和Xに基づき、前記ツール条件の充足の有無を判定するように構成される。
上記(3)の構成によれば、判定部59aは、処理済画像18aの全領域にわたる輝度値の総和に基づき、ツール条件の充足の有無を判定する。従って、ツール40の撮影条件が変化したときであっても、ツール条件の充足の有無について精度良く判定することができる。
なお、ツール40の撮影条件は、撮影時のツール40の位置、ツール40以外の物体(例えばワーク5)の映り込みの程度、撮影装置8の位置の微小な変化、又はこれらの組み合わせを含む。
(4)幾つかの実施形態では、上記(2)の構成において、
前記輝度値取得部56bは、前記処理済画像18a(18)における画素ごとの輝度値であるBij(iは前記処理済画像18の横方向における画素数以下の任意の自然数であり、jは縦方向における画素数以下の任意の自然数)及び、前記ツール条件に対応して前記画素ごとに設定された輝度値であるBsijとを用いた以下の式(1)によって特定される輝度値の差分の総和Xを取得するように構成され、
前記判定部59bは、取得された前記輝度値の差分の総和Xに基づき、前記ツール条件の充足の有無を判定するように構成される。
Figure 2022101324000004
上記(4)の構成によれば、式(1)で特定される差分の総和Xはツール条件の充足の有無に応じて変化するので、ツール40がツール条件を満たすか精度良く判定できる。
(5)幾つかの実施形態では、上記(1)の構成において、
ツールチェック装置50bは、
前記処理済画像18に関するデータが入力されると、前記ツール40が前記ツール条件を満たすかに関する評価データを出力するように構成された学習済モデル57を記憶した記憶部と、
前記画像処理部55a(55)によって生成された前記処理済画像18a(18)を前記学習済モデル57に入力することで出力される前記評価データを取得するための評価データ取得部58とを備え、
前記判定部59c(59)は、取得された前記評価データに基づき、前記ツール条件の充足の有無を判定するように構成される。
上記(5)の構成によれば、判定部59cは、学習済モデル57から出力される評価データに基づき、ツール条件の充足の有無を判定する。従って、ツール40がツール条件を満たすか精度良く判定できる。
(6)幾つかの実施形態では、上記(1)の構成において、
前記画像処理部55は、マーク45が付された外表面46を有する前記ツール40の前記ツール条件に関連付けられた前記画像処理を前記撮影画像15に対して施し、
ツールチェック装置50c(50)は、生成された前記処理済画像18b(18)に対して、前記マーク45を特定する処理を実行するための特定処理部64を備え、
前記判定部59dは、前記特定処理部64による処理の結果に基づき、前記ツール条件の充足の有無を判定するように構成される。
上記(6)の構成によれば、上記構成によれば、ツール条件の充足の有無に応じて特定処理部64の特定結果が変化するよう、ツール条件に関連付けられた処理済画像18b(18)が生成されれば、ツール40がツール条件を満たすか精度良く判定できる。
(7)幾つかの実施形態では、上記(6)の構成において、
前記特定処理部64は、前記マーク45としての文字を特定する処理を前記処理済画像18bに対して実行するように構成される。
上記(7)の構成によれば、特定処理部64によるマーク45としての文字を特定する処理の結果に基づき、判定部59dはツール条件の充足の有無を判定する。よって、ツール40がツール条件を満たすか精度良く判定できる。
(8)幾つかの実施形態では、上記(1)から(7)のいずれかの構成において、
ツールチェック装置50は、
前記判定部59a、59b(59)により前記ツール条件が充足されると判定された後の前記ロボットアーム30の作業予定に応じて、前記ツール条件を取得するための条件取得部51と、
前記画像処理部55a(55)は、予め用意された複数の前記ツール条件のうち、前記条件取得部51により取得された前記ツール条件に関連付けられた前記画像処理を前記撮影画像15に対して施し、
前記判定部59a、59b(59)は、前記条件取得部51により取得された前記ツール条件の充足の有無を判定するように構成される。
上記(8)の構成によれば、ロボットアーム30の作業予定に対応したツール条件について、判定部59a、59bは充足の有無を判定する。よって、予定されている作業をロボットアーム30が実行すべきかどうか、判定部59a、59bは精度良く判定できる。
(9)幾つかの実施形態では、上記(1)から(8)のいずれかの構成において、
前記画像処理部55a(55)は、前記撮影画像15に対して、前記ツール条件に関連付けられた基準画像14を用いてマスク処理を施し、前記ツール条件に関連付けられた前記関連領域17を抽出した画像を前記処理済画像18として生成するように構成される。
上記(9)の構成によれば、判定部59a、59bは、ツール40がツール条件を満たすか処理済画像18a(18)に基づいて精度良く判定できる。
(10)本発明の少なくとも一実施形態に係るロボットアーム用のツール40をチェックするためのツールチェックプログラム95は、
コンピュータに、
ロボットアーム30に装着された前記ツール40の撮影画像15に対して、前記ツール40が満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域17を抽出した処理済画像18を生成するための画像処理ステップ(S19)と、
前記処理済画像18に基づき、前記ロボットアーム30に装着された前記ツール40が前記ツール条件を満たすかを判定するための判定ステップ(S23)と
を実行させる。
上記(10)の構成によれば、上記(1)と同様の理由により、ツール40がツール条件を満たすか精度良く判定できる。
(11)本発明の少なくとも一実施形態に係るロボットアーム用のツール40をチェックするための方法は、
ロボットアーム30に装着された前記ツール40の撮影画像15に対して、前記ツール40が満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域17を抽出した処理済画像18を生成するための画像処理工程(S19)と、
前記処理済画像18に基づき、前記ロボットアーム30に装着された前記ツール40が前記ツール条件を満たすかを判定するための判定工程(S23)と
を備える。
上記(11)の構成によれば、上記(1)と同様の理由により、ツール40がツール条件を満たすか精度良く判定できる。
以上、本開示の実施形態について説明したが、本開示は上述した実施形態に限定されることはなく、上述した実施形態に変形を加えた形態や、これらの形態を適宜組み合わせた形態も含む。
例えば、上述した第1~第3の実施形態の少なくとも2つが組み合わさった実施形態が採用されてもよい。
具体的な一例として、輝度値取得部56の取得結果と、学習済モデル57の出力結果に基づいて、ツール条件の充足の有無が判定されてもよい。この場合、輝度値取得部56の取得結果と、学習済モデル57の出力結果の双方がツール条件を満たしていることを示している場合のみ、判定部59はツール条件が満たされていると判定してもよい。これにより、実際のツール40はツール条件を満たしていないにも関わらず、判定部59がツール条件を満たしていると誤判定することを抑制できる。
別の一例として、輝度値取得部56の取得結果と、学習済モデル57の出力結果のいずれか一方だけでもツール条件を満たしていることを示いれば、ツール条件が満たされていると判定されてもよい。これにより、実際のツール40がツール条件を満たしているにも関わらず、判定部59がツール条件を満たしていないと誤判定することを抑制できる。
14 :基準画像
17 :関連領域
18 :処理済画像
30 :ロボットアーム
40 :ツール
41、41a:クランパ
42、42L、42R :チャック
43、43L、43R :ナイフ
45 :マーク
46 :外表面
50 :ツールチェック装置
51 :条件取得部
54 :記憶部
55 :画像処理部
56 :輝度値取得部
57 :学習済モデル
57a~57h :学習済モデル
58 :評価データ取得部
59 :判定部
64 :特定処理部
95 :ツールチェックプログラム

Claims (11)

  1. ロボットアームに装着されたツールの撮影画像に対して、前記ツールが満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域を抽出した処理済画像を生成するための画像処理部と、
    前記処理済画像に基づき、前記ロボットアームに装着された前記ツールが前記ツール条件を満たすかを判定するための判定部と
    を備えるロボットアーム用のツールチェック装置。
  2. 前記処理済画像の輝度値を取得するための輝度値取得部を備え、
    前記判定部は、取得された前記輝度値に基づき、前記ツール条件の充足の有無を判定するように構成された請求項1に記載のロボットアーム用のツールチェック装置。
  3. 前記輝度値取得部は、前記処理済画像における輝度値の総和を取得するように構成され、
    前記判定部は、取得された前記輝度値の前記総和に基づき、前記ツール条件の充足の有無を判定するように構成された請求項2に記載のロボットアーム用のツールチェック装置。
  4. 前記輝度値取得部は、前記処理済画像における画素ごとの輝度値であるBij(iは前記処理済画像の横方向における画素数以下の任意の自然数であり、jは縦方向における画素数以下の任意の自然数)及び、前記ツール条件に対応して前記画素ごとに設定された輝度値であるBsijとを用いた以下の式(1)によって特定される輝度値の差分の総和Xを取得するように構成され、
    前記判定部は、取得された前記輝度値の差分の総和Xに基づき、前記ツール条件の充足の有無を判定するように構成された請求項2に記載のロボットアーム用のツールチェック装置。
    Figure 2022101324000005
  5. 前記処理済画像に関するデータが入力されると、前記ツールが前記ツール条件を満たすかに関する評価データを出力するように構成された学習済モデルを記憶した記憶部と、
    前記画像処理部によって生成された前記処理済画像を前記学習済モデルに入力することで出力される前記評価データを取得するための評価データ取得部とを備え、
    前記判定部は、取得された前記評価データに基づき、前記ツール条件の充足の有無を判定するように構成された請求項1に記載のロボットアーム用のツールチェック装置。
  6. 前記画像処理部は、マークが付された外表面を有する前記ツールの前記ツール条件に関連付けられた前記画像処理を前記撮影画像に対して施し、
    生成された前記処理済画像に対して、前記マークを特定する処理を実行するための特定処理部を備え、
    前記判定部は、前記特定処理部による処理の結果に基づき、前記ツール条件の充足の有無を判定するように構成された請求項1に記載のロボットアーム用のツールチェック装置。
  7. 前記特定処理部は、前記マークとしての文字を特定する処理を前記処理済画像に対して実行するように構成された請求項6に記載のロボットアーム用のツールチェック装置。
  8. 前記判定部により前記ツール条件が充足されると判定された後の前記ロボットアームの作業予定に応じて、前記ツール条件を取得するための条件取得部と、
    前記画像処理部は、予め用意された複数の前記ツール条件のうち、前記条件取得部により取得された前記ツール条件に関連付けられた前記画像処理を前記撮影画像に対して施し、
    前記判定部は、前記条件取得部により取得された前記ツール条件の充足の有無を判定するように構成された請求項1から7のいずれかに記載のロボットアーム用のツールチェック装置。
  9. 前記画像処理部は、前記撮影画像に対して、前記ツール条件に関連付けられた基準画像を用いてマスク処理を施し、前記ツール条件に関連付けられた前記関連領域を抽出した画像を前記処理済画像として生成するように構成された請求項1から8のいずれかに記載のロボットアーム用のツールチェック装置。
  10. ロボットアーム用のツールをチェックするためのプログラムであって、
    コンピュータに、
    ロボットアームに装着された前記ツールの撮影画像に対して、前記ツールが満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域を抽出した処理済画像を生成するための画像処理ステップと、
    前記処理済画像に基づき、前記ロボットアームに装着された前記ツールが前記ツール条件を満たすかを判定するための判定ステップと
    を実行させるためのロボットアーム用のツールチェックプログラム。
  11. ロボットアーム用のツールをチェックするための方法であって、
    ロボットアームに装着された前記ツールの撮影画像に対して、前記ツールが満たすべきツール種別又はツール状態に関するツール条件に関連付けられた画像処理を施し、前記ツール条件に関連付けられた関連領域を抽出した処理済画像を生成するための画像処理工程と、
    前記処理済画像に基づき、前記ロボットアームに装着された前記ツールが前記ツール条件を満たすかを判定するための判定工程と
    を備えるロボットアーム用のツールチェック方法。
JP2020215840A 2020-12-24 2020-12-24 ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法 Pending JP2022101324A (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2020215840A JP2022101324A (ja) 2020-12-24 2020-12-24 ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法
CA3202968A CA3202968A1 (en) 2020-12-24 2021-12-10 Tool checking device, tool checking program, and tool checking method for robot arm
CN202180086341.3A CN116685444A (zh) 2020-12-24 2021-12-10 机械臂用的工具检查装置、工具检查程序及工具检查方法
PCT/JP2021/045535 WO2022138234A1 (ja) 2020-12-24 2021-12-10 ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法
EP21910383.5A EP4249187A4 (en) 2020-12-24 2021-12-10 DEVICE, PROGRAM AND METHOD FOR TOOL VERIFICATION FOR ROBOT ARM
US18/265,718 US20240033933A1 (en) 2020-12-24 2021-12-10 Tool checking device, storage device storing tool checking program, and tool checking method for robot arm

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020215840A JP2022101324A (ja) 2020-12-24 2020-12-24 ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法

Publications (1)

Publication Number Publication Date
JP2022101324A true JP2022101324A (ja) 2022-07-06

Family

ID=82157831

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020215840A Pending JP2022101324A (ja) 2020-12-24 2020-12-24 ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法

Country Status (6)

Country Link
US (1) US20240033933A1 (ja)
EP (1) EP4249187A4 (ja)
JP (1) JP2022101324A (ja)
CN (1) CN116685444A (ja)
CA (1) CA3202968A1 (ja)
WO (1) WO2022138234A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210120229A (ko) * 2020-03-26 2021-10-07 현대자동차주식회사 영상기반 지그 검사 시스템 및 그 방법

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05318239A (ja) * 1992-05-19 1993-12-03 Canon Inc ロボット装置
JPH06134638A (ja) * 1992-10-26 1994-05-17 Osaka Kiko Co Ltd 工具の自動照合認識装置
DE102006046759B4 (de) * 2006-09-29 2018-05-17 Abb Ag Verfahren zur Erhöhung der Sicherheit beim Betrieb eines Roboters
JP5437679B2 (ja) * 2009-03-30 2014-03-12 株式会社 ジェイネット 工具の判定装置、ワーク加工装置
JP6106467B2 (ja) * 2013-03-01 2017-03-29 三菱日立パワーシステムズ株式会社 機械加工方法
JP2016218550A (ja) * 2015-05-15 2016-12-22 ファナック株式会社 加工に使用する工具の取付け状態を確認する数値制御装置
JP6918535B2 (ja) 2017-03-22 2021-08-11 キヤノン株式会社 ロボット装置、交換ツール、ロボットアーム、ロボット装置を用いた物品の製造方法、ロボット装置の制御方法、制御プログラムおよび記録媒体
JP6895563B2 (ja) * 2017-09-25 2021-06-30 ファナック株式会社 ロボットシステム、モデル生成方法、及びモデル生成プログラム
TWI669484B (zh) * 2018-10-12 2019-08-21 財團法人工業技術研究院 加工程式與對應之切削刀具之匹配辨識方法與系統
JP6973444B2 (ja) * 2019-04-24 2021-11-24 オムロン株式会社 制御システム、情報処理装置および制御方法

Also Published As

Publication number Publication date
CA3202968A1 (en) 2022-06-30
EP4249187A1 (en) 2023-09-27
WO2022138234A1 (ja) 2022-06-30
CN116685444A (zh) 2023-09-01
EP4249187A4 (en) 2024-05-01
US20240033933A1 (en) 2024-02-01

Similar Documents

Publication Publication Date Title
JP4309439B2 (ja) 対象物取出装置
CN109483573B (zh) 机器学习装置、机器人系统以及机器学习方法
CN108289463B (zh) 用于处理甲壳动物的传感器导引的自动化方法和系统
Misimi et al. GRIBBOT–Robotic 3D vision-guided harvesting of chicken fillets
JP2018027581A (ja) ピッキングシステム
JP2021030407A (ja) 情報処理装置、情報処理方法及びプログラム
WO2022138234A1 (ja) ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法
US10960550B2 (en) Identification code reading apparatus and machine learning device
CN114758236A (zh) 一种非特定形状物体识别、定位与机械手抓取系统及方法
JP7143410B2 (ja) ロボットシステム
CN114341930A (zh) 图像处理装置、拍摄装置、机器人以及机器人系统
CN114092428A (zh) 图像数据处理方法、装置、电子设备和存储介质
CN111275758B (zh) 混合型3d视觉定位方法、装置、计算机设备及存储介质
WO2022138236A1 (ja) ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法
JP2021026599A (ja) 画像処理システム
WO2023082417A1 (zh) 抓取点信息获取方法、装置、电子设备和存储介质
JP2021033869A (ja) 電子機器、その制御方法、プログラム、および記憶媒体
Takarics et al. Welding trajectory reconstruction based on the Intelligent Space concept
KR102432370B1 (ko) 피킹 로봇을 위한 비젼 분석 장치
JP7424800B2 (ja) 制御装置、その制御方法、及び制御システム
Ivanovska et al. Visual Inspection and Error Detection in a Reconfigurable Robot Workcell: An Automotive Light Assembly Example.
JP7071074B2 (ja) 画像処理方法、画像処理装置、プログラム、記録媒体、物品の製造方法、およびロボット装置
CN112743537A (zh) 注释装置
JP7325666B1 (ja) ロボット制御装置およびピッキングシステム
WO2023089981A1 (ja) ロボットアーム用のツールチェック装置、ツールチェックプログラム、及びツールチェック方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231115