JP2020038074A - 三次元計測装置、ロボットおよびロボットシステム - Google Patents

三次元計測装置、ロボットおよびロボットシステム Download PDF

Info

Publication number
JP2020038074A
JP2020038074A JP2018164241A JP2018164241A JP2020038074A JP 2020038074 A JP2020038074 A JP 2020038074A JP 2018164241 A JP2018164241 A JP 2018164241A JP 2018164241 A JP2018164241 A JP 2018164241A JP 2020038074 A JP2020038074 A JP 2020038074A
Authority
JP
Japan
Prior art keywords
pattern light
unit
time
vibration
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018164241A
Other languages
English (en)
Other versions
JP7172305B2 (ja
JP2020038074A5 (ja
Inventor
若林 修一
Shuichi Wakabayashi
修一 若林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2018164241A priority Critical patent/JP7172305B2/ja
Priority to US16/556,261 priority patent/US11312029B2/en
Priority to CN201910822204.6A priority patent/CN110871457B/zh
Publication of JP2020038074A publication Critical patent/JP2020038074A/ja
Publication of JP2020038074A5 publication Critical patent/JP2020038074A5/ja
Application granted granted Critical
Publication of JP7172305B2 publication Critical patent/JP7172305B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J18/00Arms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • B25J19/021Optical sensing devices
    • B25J19/022Optical sensing devices using lasers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • B25J19/021Optical sensing devices
    • B25J19/023Optical sensing devices including video camera means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/163Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/254Projection of a pattern, viewing through a pattern, e.g. moiré
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40053Pick 3-D object from pile of objects
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40533Generate derivative, change of vibration error
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40564Recognize shape, contour of object, extract position and orientation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Manipulator (AREA)

Abstract

【課題】より迅速にかつ精度よく対象物の三次元計測を行うことのできる三次元計測装置、ロボットおよびロボットシステムを提供すること。【解決手段】三次元計測装置は、前記対象物を含む領域に前記レーザー光による第1パターン光および第2パターン光を投影する投影部と、前記領域の撮像画像を撮像する撮像部と、前記投影部または前記撮像部の振動に関する振動情報を受け付ける振動情報受付部と、前記撮像画像に基づいて前記対象物の三次元形状を計測する計測部と、を備え、前記振動情報が第1閾値以下となったら、前記撮像部によって第1周期をもつ前記第1パターン光が投影された前記領域を撮像し、前記振動情報が前記第1閾値より小さい第2閾値以下となったら、前記撮像部によって前記第1周期より短い第2周期をもつ前記第2パターン光が投影された前記領域を撮像する。【選択図】図2

Description

本発明は、三次元計測装置、ロボットおよびロボットシステムに関するものである。
特許文献1に記載されているカメラ付きロボットは、カメラの位置が予め設定された位置閾値以下で、かつ、カメラの移動速度が予め設定された速度閾値以下である時にカメラのシャッターを切るように構成されている。このような構成によれば、ワークを探索するための画像のブレを防ぎ、位置誤差を低減するとともに、シャッターを早く切ることにより作業効率を向上させることができる。
特開2011−11330号公報
しかしながら、複数回の撮像によってワークの三次元計測を行う位相シフト法を用いる場合、カメラのブレの少ないタイミングでシャッタースピードを速くしても、カメラに測定精度を超える大きさの振幅を持つ振動が残留しているタイミングで撮像された場合、測定精度が悪化してしまうという問題がある。
本発明の三次元計測装置は、レーザー光を用いて対象物の三次元計測を行う三次元計測装置であって、
前記対象物を含む領域に前記レーザー光による第1パターン光および第2パターン光を投影する投影部と、
前記領域の撮像画像を撮像する撮像部と、
前記投影部または前記撮像部の振動に関する振動情報を受け付ける振動情報受付部と、
前記撮像画像に基づいて前記対象物の三次元形状を計測する計測部と、
を備え、
前記振動情報が第1閾値以下となったら、前記撮像部によって第1周期をもつ前記第1パターン光が投影された前記領域を撮像し、
前記振動情報が前記第1閾値より小さい第2閾値以下となったら、前記撮像部によって前記第1周期より短い第2周期をもつ前記第2パターン光が投影された前記領域を撮像することを特徴とする三次元計測装置。
本発明の第1実施形態に係るロボットシステムの全体構成を示す図である。 三次元計測装置の全体構成を示す図である。 図2に示す三次元計測装置が有する光走査部を示す平面図である。 投影部により投影されるパターン光の一例を示す平面図である。 位相シフト法を用いた三次元計測の手順を示すフローチャートである。 振動の大きさと第1〜第4撮像ステップの開始タイミングとの関係を示すグラフである。 本発明の第2実施形態に係るロボットシステムが有する三次元計測装置の全体構成を示す図である。 振動の大きさと第1〜第4撮像ステップの開始タイミングとの関係を示すグラフである。 本発明の第3実施形態における第1〜第4撮像ステップの開始タイミングを示すグラフである。 振動の大きさと第1〜第4撮像ステップの開始タイミングとの関係を示すグラフである。 本発明の第4実施形態での位相シフト法を用いた三次元計測の手順を示すフローチャートである。 本発明の第4実施形態での位相シフト法を用いた三次元計測の手順を示すフローチャートである。
以下、本発明の三次元計測装置、ロボットおよびロボットシステムを添付図面に示す実施形態に基づいて詳細に説明する。
<第1実施形態>
図1は、本発明の第1実施形態に係るロボットシステムの全体構成を示す図である。図2は、三次元計測装置の全体構成を示す図である。図3は、図2に示す三次元計測装置が有する光走査部を示す平面図である。図4は、投影部により投影されるパターン光の一例を示す平面図である。図5は、位相シフト法を用いた三次元計測の手順を示すフローチャートである。図6は、振動の大きさと第1〜第4撮像ステップの開始タイミングとの関係を示すグラフである。
図1に示すロボットシステム1は、ロボット2と、レーザー光Lを用いて対象物Wの三次元計測を行う三次元計測装置4と、三次元計測装置4の振動Qを検出する振動センサー7と、三次元計測装置4の計測結果に基づいてロボット2の駆動を制御するロボット制御装置5と、ロボット制御装置5と通信可能なホストコンピューター6と、を有している。なお、これら各部は、有線または無線により通信可能とされ、該通信は、インターネットのようなネットワークを介してなされてもよい。
−ロボット−
ロボット2は、例えば、精密機器やこれを構成する部品の給材、除材、搬送および組立等の作業を行うロボットである。ただし、ロボット2の用途としては、特に限定されない。本実施形態のロボット2は、6軸ロボットであり、図1に示すように、床や天井に固定されるベース21と、ベース21に連結されたロボットアーム22と、を有する。
ロボットアーム22は、ベース21に第1軸O1まわりに回動自在に連結された第1アーム221と、第1アーム221に第2軸O2まわりに回動自在に連結された第2アーム222と、第2アーム222に第3軸O3まわりに回動自在に連結された第3アーム223と、第3アーム223に第4軸O4まわりに回動自在に連結された第4アーム224と、第4アーム224に第5軸O5まわりに回動自在に連結された第5アーム225と、第5アーム225に第6軸O6まわりに回動自在に連結された第6アーム226と、を有している。また、第6アーム226には、ロボット2に実行させる作業に応じたエンドエフェクター24が装着される。
また、ロボット2は、ベース21に対して第1アーム221を回動させる第1駆動装置251と、第1アーム221に対して第2アーム222を回動させる第2駆動装置252と、第2アーム222に対して第3アーム223を回動させる第3駆動装置253と、第3アーム223に対して第4アーム224を回動させる第4駆動装置254と、第4アーム224に対して第5アーム225を回動させる第5駆動装置255と、第5アーム225に対して第6アーム226を回動させる第6駆動装置256と、を有している。第1〜第6駆動装置251〜256は、それぞれ、例えば、駆動源としてのモーターと、モーターの駆動を制御するコントローラーと、モーターの回転量を検出するエンコーダーと、を有している。そして、第1〜第6駆動装置251〜256は、それぞれ、ロボット制御装置5によって独立して制御される。
なお、ロボット2としては、本実施形態の構成に限定されず、例えば、ロボットアーム22が有するアームの数が1本〜5本であってもよいし、7本以上であってもよい。また、例えば、ロボット2の種類は、スカラロボットや、2つのロボットアーム22を有する双腕ロボットであってもよい。
−ロボット制御装置−
ロボット制御装置5は、ホストコンピューター6からロボット2の位置指令を受け、各アーム221〜226が受けた位置指令に応じた位置となるように、第1〜第6駆動装置251〜256の駆動をそれぞれ独立して制御する。ロボット制御装置5は、例えば、コンピューターから構成され、情報を処理するプロセッサー(CPU)と、プロセッサーに通信可能に接続されたメモリーと、外部インターフェースと、を有している。メモリーにはプロセッサーにより実行可能な各種プログラムが保存され、プロセッサーは、メモリーに記憶された各種プログラム等を読み込んで実行することができる。
−振動センサー−
振動センサー7は、ロボット2に設置され、三次元計測装置4、特に後述する投影部41または撮像部47の振動を検出する。本実施形態では、振動センサー7は、第5アーム225に三次元計測装置4に内蔵された状態で設置されており、これにより、三次元計測装置4の振動をより精度よく検出することができる。このような振動センサー7としては、振動を検出することができれば、特に限定されず、例えば、角速度センサー、加速度センサー等を用いることができる。
ただし、振動センサー7の配置としては、三次元計測装置4、特に投影部41または撮像部47の振動を検出することができれば、特に限定されず、例えば、三次元計測装置4と別体で第5アーム225に設置されていてもよいし、第5アーム225以外のアームすなわち三次元計測装置4が設置されているアームとは異なるアームに設置されていてもよいし、ロボット2以外の部分、例えば、天井、床、壁等に設置されていてもよい。ロボット2以外の部分に振動センサー7を設置する場合、振動センサー7として、例えば、レーザー光Lを第5アーム225に向けて出射し、その反射光を受光することにより第5アーム225の振動を検出するレーザー型の振動センサーを用いることができる。
−三次元計測装置−
三次元計測装置4は、位相シフト法を用いて対象物Wの三次元計測を行う。図2に示すように、三次元計測装置4は、対象物Wを含む領域にレーザー光Lによるパターン光PLを投影する投影部41と、パターン光PLが投影された対象物Wを含む領域を撮像した撮像画像を取得する撮像部47と、振動センサー7から三次元計測装置3の振動に関する振動情報を受け付ける振動情報受付部481を備え、振動情報受付部481が受け付けた振動情報に基づいて投影部41および撮像部47の駆動を制御する制御部48と、撮像画像に基づいて対象物Wの三次元形状を計測する計測部49と、を備えている。
これら各構成要素のうち、少なくとも投影部41および撮像部47は、それぞれ、ロボット2の第5アーム225に固定されている。そのため、投影部41および撮像部47の相対的な位置関係は、固定されている。また、投影部41は、第5アーム225の先端側すなわちエンドエフェクター24側に向けてレーザー光Lを照射するように配置され、撮像部47は、第5アーム225の先端側を向き、レーザー光Lの照射範囲を含む領域を撮像するように配置されている。
ここで、第5アーム225の先端側にエンドエフェクター24が位置する関係は、第5アーム225以外のアーム221〜224、226が動いても維持される。そのため、第5アーム225に投影部41および撮像部47を固定することにより、三次元計測装置4は、常に、エンドエフェクター24の先端側にレーザー光Lを出射することができると共に、エンドエフェクター24の先端側を撮像することができる。したがって、エンドエフェクター24により対象物Wを把持しようとするときの姿勢、つまり、エンドエフェクター24が対象物Wに対して如何なる姿勢で対向しても、当該姿勢において対象物Wに向けてレーザー光Lを照射することができると共に、対象物Wを撮像することができる。そのため、より確実に対象物Wの三次元計測を行うことができる。
ただし、投影部41および撮像部47の配置は、特に限定されず、第1〜第4アーム221〜224や第6アーム226に固定されていてもよい。また、投影部41および撮像部47は、互いに異なるアームに固定され、それぞれ振動センサー7を備えていてもよい。また、投影部41および撮像部47のいずれか一方は、ベース21、床、天井、壁等の可動しない部位に固定されていてもよい。その場合、稼働する部位であるアームに固定されている投影部41および撮像部47のいずれか一方が振動センサー7を備えていてもよい。
投影部41は、対象物Wに向けてレーザー光Lを照射することにより、対象物Wに対し図4に示すような所定のパターン光PLを投影する機能を有する。このような投影部41は、図2に示すように、レーザー光Lを出射するレーザー光源42と、レーザー光Lが通過する複数のレンズを含む光学系44と、光学系44を通過したレーザー光Lを対象物Wに向けて走査する光走査部45と、を有する。レーザー光源42としては、特に限定されず、例えば、垂直共振器面発光レーザー(VCSEL)、外部共振器型垂直面発光レーザー(VECSEL)等の半導体レーザーを用いることができる。
光学系44は、レーザー光源42から出射されるレーザー光Lを対象物W付近に集光する集光レンズ441と、集光レンズ441によって集光されたレーザー光Lを後述する回動軸Jと平行な方向(図2の紙面奥行き方向)に延びるライン状とするロッドレンズ442と、を有する。
光走査部45は、ロッドレンズ442によってライン状となったレーザー光Lを走査する機能を有する。これにより、レーザー光Lを二次元的(面状)に拡散させて照射することができる。このように、レーザー光Lを二次元的に拡散させることにより、レーザー光Lの光路が長くなる程、単位面積当たりの出力が低下する。光走査部45としては、特に限定されず、例えば、MEMS(Micro Electro Mechanical Systems)、ガルバノミラー、ポリゴンミラー等を用いることができる。
本実施形態の光走査部45は、MEMSで構成されている。図3に示すように、光走査部45は、可動部451と、可動部451を支持する支持部452と、可動部451と支持部452とを接続し、可動部451を支持部452に対して回動軸Jまわりに回動可能とする梁部453と、可動部451の表面(図3の紙面手前側の面)に配置され、レーザー光Lを反射するミラー454と、可動部451の裏面(図3の紙面奥側の面)に設けられた永久磁石455と、永久磁石455と対向配置されたコイル456と、を有する。
このような光走査部45は、回動軸Jがライン状のレーザー光Lの延在方向とほぼ一致するように配置されている。そして、コイル456に駆動信号が印加されると、可動部451が回動軸Jまわりに所定の周期で正・逆交互に回動し、これにより、ライン状のレーザー光Lが面状に走査される。
以上、投影部41について説明したが、その構成としては、対象物Wに所定のパターン光PLを投影することができれば、特に限定されない。例えば、本実施形態では、光学系44によってレーザー光Lをライン状に拡散しているが、これに限定されず、例えば、MEMSやガルバノミラーを用いてライン状に拡散させてもよい。つまり、2つの光走査部45を用いてレーザー光Lを二次元走査してもよい。また、例えば、2軸自由度を有するジンバル型のMEMSを用いてレーザー光Lを二次元走査してもよい。
撮像部47は、少なくとも1つの対象物Wにパターン光PLが投影されている状態を撮像する。すなわち、撮像部47は、パターン光PLを含む少なくとも1つの対象物Wを撮像する。図2に示すように、撮像部47は、例えば、CMOSイメージセンサー、CCDイメージセンサー等の撮像素子472と集光レンズ473とを備えたカメラ471で構成されている。カメラ471は、計測部49に接続され、画像データを計測部49に送信する。
図2に示すように、制御部48は、振動センサー7から三次元計測装置4の振動に関する振動情報を受け付ける振動情報受付部481と、振動情報受付部481が受け付けた振動情報に基づいて投影部41および撮像部47の駆動を制御する駆動制御部482と、を有している。制御部48は、例えば、コンピューターから構成され、情報を処理するプロセッサー(CPU)と、プロセッサーに通信可能に接続されたメモリーと、外部インターフェースと、を有する。メモリーにはプロセッサーにより実行可能な各種プログラムが記憶されており、プロセッサーは、メモリーに記憶された各種プログラム等を読み込んで実行することができる。
ここで、前述したように、振動センサー7は、投影部41および撮像部47と同じ第5アーム225に設置されており、特に、本実施形態では、三次元計測装置4に内蔵されている。そのため、振動センサー7によって、投影部41および撮像部47の振動をより精度よく検出することができる。ただし、振動センサー7は、投影部41および撮像部47の少なくとも一方の振動を検出することができればよく、振動情報受付部481も投影部41および撮像部47の少なくとも一方の振動に関する振動情報を受け付けることができればよい。また、投影部41と撮像部47とが別の場所にあり、両者に作用する振動が異なる場合、両者にそれぞれ独立した振動センサー7を設け、両振動センサー7からの振動が大きい方を振動情報として用いることもできる。なお、振動情報としては、振動Qの大きさ、すなわち振幅のピーク値(極大値)、振幅の絶対値を時間平均した値、等が挙げられるが、これに限定されない。
駆動制御部482は、コイル456に駆動信号を印加することにより、光走査部45の駆動を制御すると共に、レーザー光源42に駆動信号を印加することにより、レーザー光源42の駆動を制御する。駆動制御部482は、可動部451の回動と同期させてレーザー光源42からレーザー光Lを出射し、例えば、図4に示すような、輝度値の明暗で表現した縞模様の繰返し周期(周期f)を有するパターン光PLを対象物W上に投影する。ただし、パターン光PLとしては、後述するような位相シフト法に用いることができるものであれば、特に限定されない。また、駆動制御部482は、カメラ471の駆動を制御し、所定のタイミングで対象物Wを含む領域を撮像する。
次に、駆動制御部482による投影部41および撮像部47の駆動制御、具体的には駆動制御部482が実行する位相シフト法について詳細に説明する。駆動制御部482は、図5に示すように、投影部41を用いて対象物Wに第1周期f1をもつ第1パターン光PL1を投影し、第1パターン光PL1が投影された対象物Wを含む領域をカメラ471で撮像する第1撮像ステップS1と、投影部41を用いて対象物Wに第1周期f1よりも短い第2周期f2をもつ第2パターン光PL2を投影し、第2パターン光PL2が投影された対象物Wを含む領域をカメラ471で撮像する第2撮像ステップS2と、投影部41を用いて対象物Wに第2周期f2よりも短い第3周期f3をもつ第3パターン光PL3を投影し、第3パターン光PL3が投影された対象物Wを含む領域をカメラ471で撮像する第3撮像ステップS3と、投影部41を用いて対象物Wに第3周期f3よりも短い第4周期f4をもつ第4パターン光PL4を投影し、第4パターン光PL4が投影された対象物Wを含む領域をカメラ471で撮像する第4撮像ステップS4と、を有している。なお、図4に示すように、パターン光PLの周期fとは、縞模様の繰返し周期(波長)を意味する。
つまり、駆動制御部482は、位相シフト法の中でも、異なる周期fを有する複数のパターン光PLを用いる「複数周期位相シフト法」を用いて対象物Wの三次元計測を行う。ここで、位相シフト法においては、パターン光PLの周期fが長い程、計測レンジが拡大するが、深度分解能が低下し、パターン光PLの周期fが短い程、計測レンジが縮小するが、深度分解能が向上する。そこで、上述のような複数周期位相シフト法を用いることにより、広い計測レンジと高い深度分解能との両立を図ることができる。なお、複数周期位相シフト法としては、特に限定されず、例えば、複数周期で周期毎に複数回計測する手法であってもよいし、複数周期で周期毎に異なった回数計測する手法であってもよい。
ただし、駆動制御部482は、少なくとも、第1撮像ステップS1と第2撮像ステップS2とを実行すればよく、例えば、第3、第4撮像ステップS3、S4を省略してもよいし、さらに、第5撮像ステップ、第6撮像ステップまたはそれ以上のステップを有していてもよい。ステップを増やすほど、計測レンジの拡大と深度分解能の向上とを図ることができるが、撮影回数が増す分、撮像画像(画像データ)を取得するのに要する時間が増えて、ロボット2の稼働効率が低下する。そのため、三次元計測の精度および計測レンジとロボット2の稼働効率との兼ね合いからステップの数を適宜設定すればよい。
また、駆動制御部482は、第1撮像ステップS1において、対象物Wに第1パターン光PL1をπ/2ずつ位相をずらして4回投影し、その都度、第1パターン光PL1が投影された対象物Wを含む領域をカメラ471で撮像する。同様に、駆動制御部482は、第2撮像ステップS2において、対象物Wに第2パターン光PL2をπ/2ずつ位相をずらして4回投影し、その都度、第2パターン光PL2が投影された対象物Wを含む領域をカメラ471で撮像する。同様に、駆動制御部482は、第3撮像ステップS3において、対象物Wに第3パターン光PL3をπ/2ずつ位相をずらして4回投影し、その都度、第3パターン光PL3が投影された対象物Wを含む領域をカメラ471で撮像する。同様に、駆動制御部482は、第4撮像ステップS4において、対象物Wに第4パターン光PL4をπ/2ずつ位相をずらして4回投影し、その都度、第4パターン光PL4が投影された対象物Wを含む領域をカメラ471で撮像する。
ただし、第1撮像ステップS1において、位相をずらした第1パターン光PL1を投影する回数は、特に限定されず、撮影結果から位相を計算できる回数であればよい。この回数を増やす程、より精度よく位相を計算することができるが、カメラ471による撮像回数が増す分、撮像画像(画像データ)を取得するのに要する時間が増えて、ロボット2の稼働効率が低下する。そのため、三次元計測の精度とロボット2の稼働効率との兼ね合いから第1パターン光PL1の投影回数を適宜設定すればよい。第2撮像ステップS2、第3撮像ステップS3および第4撮像ステップS4についても同様である。なお、パターン光PLの投影回数は、第1〜第4撮像ステップS1〜S4で互いに同じであってもよいし、少なくとも1つのステップで他のステップと異なっていてもよい。
以上、駆動制御部482が行う位相シフト法について説明した。次に、上述した第1〜第4撮像ステップS1〜S4の実行タイミングについて詳細に説明する。図6に、第5アーム225が対象物Wの三次元計測を行うための姿勢まで移動した後、第5アーム225(投影部41および撮像部47)に残留する振動Qが減衰していく様子と、第1〜第4撮像ステップS1〜S4の開始タイミングと、を示したグラフを図示している。
同図に示すように、駆動制御部482は、振動情報受付部481が振動センサー7から受け付ける振動情報すなわち振動Qの大きさ(振幅のピーク値)が第1閾値L1以下となったら第1撮像ステップS1を開始し、振動情報受付部481が振動センサー7から受け付ける振動Qの大きさが第1閾値L1より小さい第2閾値L2以下となったら第2撮像ステップS2を開始し、振動情報受付部481が振動センサー7から受け付ける振動Qの大きさが第2閾値L2より小さい第3閾値L3以下となったら第3撮像ステップS3を開始し、振動情報受付部481が振動センサー7から受け付ける振動Qの大きさが第3閾値L3より小さい第4閾値L4以下となったら第4撮像ステップS4を開始する。
ここで、パターン光PLの周期fが長い程、振動Qの影響を受け難くなる。そこで、上述したように、振動Qが比較的大きいときに、最も周期fの長い第1パターン光PL1を用いた第1撮像ステップS1を開始し、そこから振動Qが減衰するにつれて、第1パターン光PL1よりも周期fが短い第2パターン光PL2を用いた第2撮像ステップS2、第2パターン光PL2よりも周期fが短い第3パターン光PL3を用いた第3撮像ステップS3、第3パターン光PL3よりも周期fが短い第4パターン光PL4を用いた第4撮像ステップS4と、周期fを経時的に短くしていくことにより、振動Qの影響を抑えつつ各第1〜第4撮像ステップS1〜S4を行うことができる。そのため、振動Qの大きさに関わらず、対象物Wの三次元計測を精度よく行うことができる。また、このような方法によれば、振動Qが比較的大きく残留しているときから三次元計測を開始することができるため、ロボットアーム22が対象物Wの三次元計測を行うための姿勢となってから対象物Wの三次元計測が完了するまでの時間を短くすることができる。そのため、ロボット2の稼働効率が向上する。
なお、第1閾値L1、第2閾値L2、第3閾値L3および第4閾値L4としては、それぞれ、特に限定されず、例えば、用いるパターン光PLの周期fや撮像部47と光走査部45との距離によって、適宜設定することができる。また、前述した「振動Qが第1閾値L1以下となったら第1撮像ステップS1を開始する」とは、振動Qの大きさ(ピーク値)が第1閾値L1以下となったら、第1パターン光PL1が投影された対象物Wを含む領域のカメラ471での撮像を開始することを意味する。振動Qの影響を大きく受けるのは、カメラ471の撮像時であるため、少なくとも当該撮像時に振動Qの大きさ(ピーク値)が第1閾値L1以下であれば、上述した効果を発揮することができる。つまり、第1パターン光PL1の投影開始タイミングについては、特に限定されず、例えば、振動Qの大きさが第1閾値L1より大きいときから投影を開始してもよいし、第1閾値L1以下となってから投影を開始してもよい。ただし、前者の方が、三次元計測にかかる時間を短くすることができる点で好ましい。前述した「振動Qが第2閾値L2以下となったら第2撮像ステップS2を開始する」、「振動Qが第3閾値L3以下となったら第3撮像ステップS3を開始する」および「振動Qが第4閾値L4以下となったら第4撮像ステップS4を開始する」についても同様である。
また、撮像にかかる時間、振動Qの減衰速度等によっては、第1撮像ステップS1が完了するまでに振動Qの大きさ(ピーク値)が第2閾値L2以下となる場合がある。つまり、第1撮像ステップS1が完了しない間に第2撮像ステップS2を開始してもよいタイミングを迎える場合がある。このような場合は、第1撮像ステップS1が完了した後に、第2撮像ステップS2を開始すればよい。第3、第4撮像ステップS3、S4についても同様である。
計測部49は、位相シフト法を用い、第1〜第4撮像ステップS1〜S4において撮像部47が取得した複数の撮像画像(画像データ)に基づいて、対象物Wの三次元計測を行う。具体的には、対象物Wの姿勢、位置(空間座標)等を含む三次元情報を算出する。そして、計測部49は、算出した対象物Wの三次元情報をホストコンピューター6に送信する。
−ホストコンピューター−
ホストコンピューター6は、計測部49が算出した対象物Wの三次元情報からロボット2の位置指令を生成し、生成した位置指令をロボット制御装置5に送信する。ロボット制御装置5は、ホストコンピューター6から受信した位置指令に基づいて第1〜第6駆動装置251〜256をそれぞれ独立して駆動し、第1〜第6アーム221〜226を指示された位置に移動させる。なお、本実施形態では、ホストコンピューター6と計測部49とが別体となっているが、これに限定されず、ホストコンピューター6に計測部49としての機能が搭載されていてもよい。
以上、ロボットシステム1について説明した。このようなロボットシステム1に含まれる三次元計測装置4は、レーザー光Lを用いて対象物Wの三次元計測を行う装置であって、前述したように、対象物Wを含む領域にレーザー光Lによるパターン光PLを投影する投影部41と、対象物Wを含む領域の撮像画像を撮像する撮像部47と、投影部41または撮像部47(本実施形態では両方)の振動に関する振動情報(振動Qの大きさ)を受け付ける振動情報受付部481と、撮像部47が取得した撮像画像に基づいて対象物Wの三次元形状を計測する計測部49と、を備えている。そして、このような三次元計測装置4は、振動情報受付部481が受け付ける振動情報が第1閾値L1以下となったら、第1周期f1をもつ第1パターン光PL1が投影された対象物Wを含む領域を撮像部47によって撮像し、振動情報受付部481が受け付ける振動情報が第1閾値L1より小さい第2閾値L2以下となったら、第1周期f1より短い第2周期f2をもつ第2パターン光PL2が投影された対象物Wを含む領域を撮像部47によって撮像するように構成されている。このような構成によれば、前述したように、振動Qの影響を抑えることができるため、対象物Wの三次元計測を精度よく行うことができる。また、振動Qが比較的大きく残留しているときから三次元計測を開始することができるため、ロボットアーム22が対象物Wの三次元計測を行うための姿勢となってから対象物Wの三次元計測が完了するまでの時間を短くすることができる。そのため、ロボット2の稼働効率が向上する。
また、前述したように、三次元計測装置4には、振動センサー7が内蔵されている。つまり、三次元計測装置4は、投影部41または撮像部47の振動に関する振動情報を取得する振動センサー7を有している。これにより、投影部41または撮像部47の振動情報を精度よく取得することができる。そのため、上述した対象物Wの三次元計測をより精度よく行うことができる。
また、前述したように、ロボット2は、ロボットアーム22に設置され、対象物Wを含む領域にレーザー光Lによるパターン光PLを投影する投影部41と、ロボットアーム22に設置され、パターン光PLが投影された対象物Wを含む領域の撮像画像を撮像する撮像部47と、投影部41または撮像部47(本実施形態では両方)の振動に関する振動情報を受け付ける振動情報受付部481と、撮像画像に基づいて対象物Wの三次元形状を計測する計測部49と、を備えている。そして、振動情報受付部481が受け付ける振動情報が第1閾値L1以下となったら、第1周期f1をもつ第1パターン光PL1が投影された対象物Wを含む領域を撮像部47によって撮像し、振動情報受付部481が受け付ける振動情報が第1閾値L1より小さい第2閾値L2以下となったら、第1周期f1より短い第2周期f2をもつ第2パターン光PL2が投影された対象物Wを含む領域を撮像部47によって撮像するように構成されている。このような構成によれば、前述したように、振動Qの影響を抑えることができるため、対象物Wの三次元計測を精度よく行うことができる。また、振動Qが比較的大きく残留しているときから三次元計測を開始することができるため、ロボットアーム22が対象物Wの三次元計測を行うための姿勢となってから対象物Wの三次元計測が完了するまでの時間を短くすることができる。
また、前述したように、ロボットシステム1は、ロボットアーム22を備えるロボット2と、レーザー光Lを用いて対象物Wの三次元計測を行う三次元計測装置4と、三次元計測装置4による計測結果に基づいてロボット2の動作を制御するロボット制御装置5と、を備えている。そして、三次元計測装置4は、対象物Wを含む領域にレーザー光Lによるパターン光PLを投影する投影部41と、パターン光PLが投影された対象物Wを含む領域の撮像画像を撮像する撮像部47と、投影部41または撮像部47の振動に関する振動情報を受け付ける振動情報受付部481と、撮像画像に基づいて対象物Wの三次元形状を計測する計測部49と、を備えている。そして、振動情報受付部481が受け付ける振動情報が第1閾値L1以下となったら、第1周期f1をもつ第1パターン光PL1が投影された対象物Wを含む領域を撮像部47によって撮像し、振動情報受付部481が受け付ける振動情報が第1閾値L1より小さい第2閾値L2以下となったら、第1周期f1より短い第2周期f2をもつ第2パターン光PL2が投影された対象物Wを含む領域を撮像部47によって撮像するように構成されている。このような構成によれば、前述したように、振動Qの影響を抑えることができるため、対象物Wの三次元計測を精度よく行うことができる。また、振動Qが比較的大きく残留しているときから三次元計測を開始することができるため、ロボットアーム22が対象物Wの三次元計測を行うための姿勢となってから対象物Wの三次元計測が完了するまでの時間を短くすることができる。
また、三次元計測装置4は、レーザー光Lを用いて対象物Wの三次元計測を行う装置であって、前述したように、プロセッサーを含む駆動制御部482と、対象物Wを含む領域にレーザー光Lによるパターン光PLを投影する投影部41と、パターン光PLが投影された対象物Wを含む領域の撮像画像を撮像する撮像部47と、投影部41または撮像部47の振動に関する振動情報を受け付ける振動情報受付部481と、撮像画像に基づいて対象物Wの三次元形状を計測する計測部49と、を備えている。そして、駆動制御部482は、振動情報受付部481が受け付ける振動情報が第1閾値L1以下となったら、第1周期f1をもつ第1パターン光PL1が投影された対象物Wを含む領域を撮像部47によって撮像し、振動情報受付部481が受け付ける振動情報が第1閾値L1より小さい第2閾値L2以下となったら、第1周期f1より短い第2周期f2をもつ第2パターン光PL2が投影された対象物Wを含む領域を撮像部47によって撮像するように構成されている。このような構成によれば、前述したように、振動Qの影響を抑えることができるため、対象物Wの三次元計測を精度よく行うことができる。また、振動Qが比較的大きく残留しているときから三次元計測を開始することができるため、ロボットアーム22が対象物Wの三次元計測を行うための姿勢となってから対象物Wの三次元計測が完了するまでの時間を短くすることができる。
<第2実施形態>
図7は、本発明の第2実施形態に係るロボットシステムが有する三次元計測装置の全体構成を示す図である。
以下の説明では、第2実施形態のロボットシステム1について前述した実施形態との相違点を中心に説明し、同様の事項については、その説明を省略する。第2実施形態のロボットシステム1は、対象物Wの三次元計測を行う際の制御部48の制御方法が異なること以外は、前述した第1実施形態のロボットシステム1とほぼ同様である。なお、図7では、前述した実施形態と同様の構成には同一符号を付してある。
図7に示すように、制御部48は、フラッシュメモリ等の記憶部489を有している。そして、記憶部489には、図6に示すような、振動Qの大きさ(ピーク値)が第1閾値L1となる第1時刻T1と、振動Qの大きさが第2閾値L2となる第2時刻T2と、振動Qの大きさが第3閾値L3となる第3時刻T3と、振動Qの大きさが第4閾値L4となる第4時刻T4と、が記憶されている。ここで、第1時刻T1とは、例えば、ロボットアーム22が対象物Wの三次元計測を行うための姿勢となった時刻から振動Qの大きさが第1閾値L1となるまでの時間とも言うことができる。なお、前記では、ロボットアーム22が対象物Wの三次元計測を行うための姿勢となった時刻を基準としているが、基準とする時刻は、特に限定されない。このことは、第2〜第4時刻T2〜T4についても同様である。
このような構成では、駆動制御部482は、第1時刻T1以降に第1撮像ステップS1を行い、第2時刻T2以降に第2撮像ステップS2を行い、第3時刻T3以降に第3撮像ステップS3を行い、第4時刻T4以降に第4撮像ステップS4を行う。このように、記憶部489に、予め第1〜第4時刻T1〜T4を記憶し、記憶した第1〜第4時刻T1〜T4に基づいて第1〜第4撮像ステップS1〜S4を行うことにより、駆動制御部482における制御がより簡単なものとなる。
ここで、第1〜第4時刻T1〜T4は、教示の際に記憶されている。つまり、ロボット2に自動動作の際の作業内容と同じ動きをさせ、この際に振動情報受付部481が受け付けた振動Qの大きさから第1〜第4時刻T1〜T4を求め、このようにして求めた第1〜第4時刻T1〜T4が記憶部489に記憶されている。これにより、より正確な第1〜第4時刻T1〜T4が記憶されるため、対象物Wの三次元計測をより精度よく行うことができると共に、三次元計測にかかる時間を短くすることができる。
なお、駆動制御部482は、例えば、ロボット2のn回目(ただし、nは自然数)の作業時には、前述した第1実施形態と同様に振動Qの大きさと第1〜第4閾値L1〜L4との関係に基づいて第1〜第4撮像ステップS1〜S4を順に行い、これと同時に、当該n回目の作業時での第1〜第4時刻T1〜T4を記憶部489に記憶する。そして、駆動制御部482は、n+1回目の作業時には、直前のn回目の作業で求めた第1〜第4時刻T1〜T4に基づいて第1〜第4撮像ステップS1〜S4を順に行ってもよい。このような構成によれば、予め第1〜第4時刻T1〜T4を教示する必要がなくなる。また、直前の作業で第1〜第4時刻T1〜T4を求めるため、第1〜第4時刻T1〜T4がより正確なものとなる。
なお、n回目の作業で求めた第1〜第4時刻T1〜T4は、n+1回目の作業だけに限られず、n+1回目以降の作業であればどの回の作業に用いてもよい。具体的には、例えば、n回目の作業で求めた第1〜第4時刻T1〜T4をn+1回目の作業だけに用い、n+1回目の作業で求めた第1〜第4時刻T1〜T4をn+2回目の作業だけに用いるというように、1回の作業ごとに第1〜第4時刻T1〜T4を更新してもよい。また、例えば、n回目の作業で求めた第1〜第4時刻T1〜T4をn+1回目〜n+10回目の作業まで用い、n+10回目の作業で求めた第1〜第4時刻T1〜T4をn+11回目〜n+20回目の作業まで用いるというように、ある回の作業で求めた第1〜第4時刻T1〜T4をその後の複数回の作業に用いてもよい。
また、例えば、シミュレーション等によって第1〜第4時刻T1〜T4を求め、求めた第1〜第4時刻T1〜T4を記憶部489に記憶してもよい。この場合は、振動センサー7や振動情報受付部481が不要となり、ロボットシステム1の構成の簡略化を図ることができる。
以上のように、本実施形態の三次元計測装置4は、振動情報(振動Qの大きさ)が第1閾値L1となる第1時刻T1と、第1時刻T1の後に振動情報が第2閾値L2となる第2時刻T2と、を記憶する記憶部489を備えている。そして、駆動制御部482は、第1時刻T1以降に、第1周期f1をもつ第1パターン光PL1が投影された対象物Wを含む領域を撮像部47によって撮像し、第2時刻T2以降に、第1周期f1より短い第2周期f2をもつ第2パターン光PL2が投影された対象物Wを含む領域を撮像部47によって撮像する。このような構成によれば、駆動制御部482における制御がより簡単なものとなる。
また、前述したように、第1時刻T1および第2時刻T2は、教示の際に記憶されている。これにより、より正確な第1〜第4時刻T1〜T4が記憶されるため、対象物Wの三次元計測をより精度よく行うことができると共に、三次元計測にかかる時間を短くすることができる。
<第3実施形態>
図8は、振動の大きさと第1〜第4撮像ステップの開始タイミングとの関係を示すグラフである。図9は、本発明の第3実施形態における第1〜第4撮像ステップの開始タイミングを示すグラフである。図10は、振動の大きさと第1〜第4撮像ステップの開始タイミングとの関係を示すグラフである。
以下の説明では、第3実施形態のロボットシステム1について前述した実施形態との相違点を中心に説明し、同様の事項については、その説明を省略する。第3実施形態のロボットシステム1は、対象物Wの三次元計測を行う際の制御部48の制御方法が異なること以外は、前述した第2実施形態のロボットシステム1とほぼ同様である。なお、図8ないし図10では、それぞれ、前述した実施形態と同様の構成には同一符号を付してある。
例えば、図8に示すように、第1時刻T1と同時に第1撮像ステップS1を開始し、第2撮像ステップS2を開始することのできる第2時刻T2よりも前に、第1撮像ステップS1が完了する第1完了時刻T10が位置することが考えられる。なお、第1完了時刻T10とは、具体的には、撮像部47による第1パターン光PL1が投影された対象物Wを含む領域の撮像が終了した時刻すなわち本実施形態では4回目の撮像が終了した時刻を言う。
このような場合、第2撮像ステップS2をスムーズに開始できるように、第1完了時刻T10から第2時刻T2までの間、投影部41の各構成要素、特に、光走査部45を駆動させ続ける必要があり、無駄な電力を消費してしまう。反対に、第1完了時刻T10から第2時刻T2までの間、光走査部45の駆動を停止すると、光走査部45の再駆動の際、可動部451の振幅が安定するまで待機する必要が生じ、第2撮像ステップS2をスムーズに開始することができなくなるおそれがある。このように、第2時刻T2よりも前に第1完了時刻T10が位置すると、何らかの問題が生じるおそれがある。
そこで、本実施形態では、駆動制御部482は、第1完了時刻T10と第2時刻T2との時間差を時間ΔT1として記憶部489に記憶し、図9に示すように、第1時刻T1から時間ΔT1が経過した後に第1撮像ステップS1を行う。これにより、第1撮像ステップS1と第2撮像ステップS2とを時間的な間隔を実質的に空けずに、連続して行うことができる。そのため、上述したような問題を解消することができる。また、第1撮像ステップS1を開始する時刻が第1時刻T1から時間ΔT1だけ遅くなるため、その分、振動Qの減衰が進み、第1撮像ステップS1が振動Qの影響をより受け難くなる。なお、時間ΔT1は、教示やシミュレーション等によって予め記憶部489に記憶させておいてもよいし、ロボット2のn回目の作業で求めた時間ΔT1を記憶し、それをn+1回目以降の作業で用いるようにしてもよい。
なお、図10に示すように、さらに、第3撮像ステップS3を開始することのできる第3時刻T3よりも前に第2撮像ステップS2が完了する第2完了時刻T20が位置し、第4撮像ステップS4を開始することのできる第4時刻T4よりも前に第3撮像ステップS3が完了する第3完了時刻T30が位置している場合には、駆動制御部482は、第2完了時刻T20と第3時刻T3との時間差を時間ΔT2として記憶部489に記憶すると共に、第3完了時刻T30と第4時刻T4との時間差を時間ΔT3として記憶部489に記憶し、第1時刻T1から時間ΔT1、ΔT2、ΔT3を足した時間が経過した後に第1撮像ステップS1を行う。これにより、第1〜第4撮像ステップS1〜S4を時間的な間隔を実質的に空けずに、連続して行うことができる。
以上のように、本実施形態の三次元計測装置4では、記憶部489は、第1周期f1をもつ第1パターン光PL1が投影された対象物Wを含む領域の撮像部47による撮像が終了したとき(第1完了時刻T10)から第2時刻T2までの時間を時間ΔT1として記憶し、駆動制御部482は、第1周期f1をもつ第1パターン光PL1が投影された対象物Wを含む領域を撮像部47によって撮像する時刻すなわち第1撮像ステップS1も開始時刻を第1時刻T1から時間ΔT1分遅らせる。これにより、第1撮像ステップS1と第2撮像ステップS2とを時間的な間隔を実質的に空けずに、連続して行うことができる。そのため、省電力駆動を行うことができると共に、第2撮像ステップS2をスムーズに開始することができる。また、第1撮像ステップS1を開始する時刻が第1時刻T1から時間ΔT1だけ遅くなるため、その分、振動Qの減衰が進み、第1撮像ステップS1が振動Qの影響をより受け難くなる。
<第4実施形態>
図11および図12は、それぞれ、本発明の第4実施形態での位相シフト法を用いた三次元計測の手順を示すフローチャートである。
以下の説明では、第4実施形態のロボットシステム1について前述した実施形態との相違点を中心に説明し、同様の事項については、その説明を省略する。第4実施形態のロボットシステム1は、対象物Wの三次元計測を行う際にHDR(High Dynamic Range)撮影を行うこと以外は、前述した第1実施形態のロボットシステム1とほぼ同様である。なお、図11および図12では、それぞれ、前述した実施形態と同様の構成には同一符号を付してある。
本実施形態のロボットシステム1では、対象物Wの三次元計測を行う際にHDR合成技術を用いる。HDR合成とは、対象物Wを含む領域を撮像部47で露出を変えつつ複数回撮像し、それら撮像画像を合成することにより、「白飛び」および「黒つぶれ」の少ない幅広いダイナミックレンジを持つ画像を生成する技術である。このようなHDR合成技術を用いることにより、より鮮明な画像を得ることができ、その分、精度よく、対象物Wの三次元計測を行うことができる。
前述した実施形態と同様に、駆動制御部482は、第1撮像ステップS1において、対象物Wに第1パターン光PL1をπ/2ずつ位相をずらして4回投影し、その都度、第1パターン光PL1が投影された対象物Wを含む領域をカメラ471で撮像する。すなわち、図11に示すように、第1撮像ステップS1は、第1位相α1を有する第1位相パターン光PL11が投影された対象物Wを含む領域をカメラ471で撮像する第1位相撮像ステップS11と、第1位相α1からπ/2ずれた第2位相α2を有する第2位相パターン光PL12が投影された対象物Wを含む領域をカメラ471で撮像する第2位相撮像ステップS12と、第2位相α2からπ/2ずれた第3位相α3を有する第3位相パターン光PL13が投影された対象物Wを含む領域をカメラ471で撮像する第3位相撮像ステップS13と、第3位相α3からπ/2ずれた第4位相α4を有する第4位相パターン光PL14が投影された対象物Wを含む領域をカメラ471で撮像する第4位相撮像ステップS14と、を有している。
さらに、本実施形態では、HDR合成を行うために、上記の第1〜第4位相撮像ステップS11〜S14をカメラ471の露出を変えつつ4回繰り返す。なお、露出は、露光時間(シャッタースピード)、絞り等によって変化させることができるが、本実施形態では、絞りを一定とし露光時間によって変化させている。絞りが変化すると被写界深度が変化し、ピンボケ等の発生により均質な画像データを取得できなくなる可能性があるためである。
具体的に説明すると、図12に示すように、駆動制御部482は、カメラ471の露光時間を第1露光時間r1として、第1〜第4位相撮像ステップS11〜S14を順に行う第1露光ステップXS1と、カメラ471の露光時間を第1露光時間r1よりも長い第2露光時間r2として、第1〜第4位相撮像ステップS11〜S14を順に行う第2露光ステップXS2と、カメラ471の露光時間を第2露光時間r2よりも長い第3露光時間r3として、第1〜第4位相撮像ステップS11〜S14を順に行う第3露光ステップXS3と、カメラ471の露光時間を第3露光時間r3よりも長い第4露光時間r4として、第1〜第4位相撮像ステップS11〜S14を順に行う第4露光ステップXS4と、を有している。
ここで、カメラ471の露光時間が短い程すなわちシャッタースピードが速い程、振動Qの影響を受け難くなる。そこで、上述したように、振動Qが最も大きいときに、最も短い第1露光時間r1で撮像する第1露光ステップXS1を行い、そこから振動Qが減衰するに連れて、第1露光時間r1よりも長い第2露光時間r2を用いた第2露光ステップXS2、第2露光時間r2よりも長い第3露光時間r3を用いた第3露光ステップXS3、第3露光時間r3よりも長い第4露光時間r4を用いた第4露光ステップXS4と、露光時間を経時的に長くしていくことにより、振動Qの影響を抑えつつ各第1〜第4露光ステップXS1〜XS4を行うことができる。そのため、対象物Wの三次元計測を精度よく行うことができる。また、このような方法によれば、振動Qが大きく残留しているときから第1撮像ステップS1を開始することができるため、ロボットアーム22が対象物Wの三次元計測を行うための姿勢となってから対象物Wの三次元計測が完了するまでの時間を短くすることができる。そのため、ロボット2の稼働効率が向上する。
ただし、駆動制御部482は、少なくとも、第1露光ステップXS1と第2露光ステップXS2とを実行すればよく、例えば、第3、第4露光ステップXS3、XS4を省略してもよいし、さらに、露光時間rを長くした第5露光ステップ、第6露光ステップ…を有していてもよい。ステップを増やすほど、より鮮明な画像が得られるが、撮影回数が増す分、撮像画像(画像データ)を取得するのに要する時間が増えて、ロボット2の稼働効率が低下する。そのため、三次元計測の精度および撮像エリアと対象物Wの輝度レンジ、ロボット2の稼働効率との兼ね合いからステップの数を適宜設定すればよい。
以上、第1撮像ステップS1について説明したが、第2撮像ステップS2、第3撮像ステップS3および第4撮像ステップS4についても同様である。そのため、第2〜第4撮像ステップS2〜S4については、その詳細な説明を省略する。
このように、本実施形態の三次元計測装置4では、投影部41により形成される第1パターン光PL1は、第1位相パターン光PL11と、第1位相パターン光PL11から位相がずれた第2位相パターン光PL12と、を含む。そして、撮像部47は、第1露光時間r1で、第1位相パターン光PL11が投影された対象物Wを含む領域および第2位相パターン光PL12が投影された対象物Wを含む領域を撮像した後、第1露光時間r1よりも長い第2露光時間r2で、第1位相パターン光PL11が投影された対象物Wを含む領域および第2位相パターン光PL12が投影された対象物Wを含む領域を撮像する。このような構成によれば、振動Qの影響を十分に抑えることができ、対象物Wの三次元計測を精度よく行うことができる。また、振動Qが大きく残留しているときから対象物Wの三次元計測を開始することができ、ロボット2の稼働効率が向上する。
以上、本発明の三次元計測装置、制御装置およびロボットシステムを図示の実施形態に基づいて説明したが、本発明は、これに限定されるものではなく、各部の構成は、同様の機能を有する任意の構成のものに置換することができる。また、本発明に、他の任意の構成物が付加されていてもよい。
例えば、ロボット2として2つのロボットアーム22を有する双腕ロボットを用いた場合、一方のロボットアーム22の第5アーム225に投影部41を設置し、他方のロボットアーム22の第5アーム225に撮像部47を設置してもよい。この場合、各ロボットアーム22の動きによって投影部41と撮像部47との相対的位置関係が変化するが、この相対的位置関係をロボットアーム22の姿勢から算出することにより、位相シフト法による対象物Wの三次元計測が可能となる。また、この場合、一方のロボットアーム22に振動センサー7を設置し、振動センサー7によって投影部41および撮像部47の一方の振動を検出し、それを振動情報受付部481が受け付けるようになっていてもよいし、各ロボットアーム22に振動センサー7を設置し、2つの振動センサー7によって投影部41および撮像部47の両方の振動を検出し、それらを振動情報受付部481が受け付けるようになっていてもよい。後者の場合には、駆動制御部482は、例えば、大きい方の振動Qに基づいて前述した制御を行うことができる。また、両者の平均値に基づいて前述した制御を行ってもよい。
1…ロボットシステム、2…ロボット、21…ベース、22…ロボットアーム、221…第1アーム、222…第2アーム、223…第3アーム、224…第4アーム、225…第5アーム、226…第6アーム、24…エンドエフェクター、251…第1駆動装置、252…第2駆動装置、253…第3駆動装置、254…第4駆動装置、255…第5駆動装置、256…第6駆動装置、4…三次元計測装置、41…投影部、42…レーザー光源、44…光学系、441…集光レンズ、442…ロッドレンズ、45…光走査部、451…可動部、452…支持部、453…梁部、454…ミラー、455…永久磁石、456…コイル、47…撮像部、471…カメラ、472…撮像素子、473…集光レンズ、48…制御部、481…振動情報受付部、482…駆動制御部、489…記憶部、49…計測部、5…ロボット制御装置、6…ホストコンピューター、7…振動センサー、J…回動軸、L…レーザー光、L1…第1閾値、L2…第2閾値、L3…第3閾値、L4…第4閾値、O1…第1軸、O2…第2軸、O3…第3軸、O4…第4軸、O5…第5軸、O6…第6軸、PL…パターン光、PL1…第1パターン光、PL11…第1位相パターン光、PL12…第2位相パターン光、PL13…第3位相パターン光、PL14…第4位相パターン光、PL2…第2パターン光、PL3…第3パターン光、PL4…第4パターン光、Q…振動、S1…第1撮像ステップ、S11…第1位相撮像ステップ、S12…第2位相撮像ステップ、S13…第3位相撮像ステップ、S14…第4位相撮像ステップ、S2…第2撮像ステップ、S3…第3撮像ステップ、S4…第4撮像ステップ、T1…第1時刻、T10…第1完了時刻、T2…第2時刻、T20…第2完了時刻、T3…第3時刻、T30…第3完了時刻、T4…第4時刻、W…対象物、XS1…第1露光ステップ、XS2…第2露光ステップ、XS3…第3露光ステップ、XS4…第4露光ステップ、f…周期、f1…第1周期、f2…第2周期、f3…第3周期、f4…第4周期、r1…第1露光時間、r2…第2露光時間、r3…第3露光時間、r4…第4露光時間、α1…第1位相、α2…第2位相、α3…第3位相、α4…第4位相

Claims (9)

  1. レーザー光を用いて対象物の三次元計測を行う三次元計測装置であって、
    前記対象物を含む領域に前記レーザー光による第1パターン光および第2パターン光を投影する投影部と、
    前記領域の撮像画像を撮像する撮像部と、
    前記投影部または前記撮像部の振動に関する振動情報を受け付ける振動情報受付部と、
    前記撮像画像に基づいて前記対象物の三次元形状を計測する計測部と、
    を備え、
    前記振動情報が第1閾値以下となったら、前記撮像部によって第1周期をもつ前記第1パターン光が投影された前記領域を撮像し、
    前記振動情報が前記第1閾値より小さい第2閾値以下となったら、前記撮像部によって前記第1周期より短い第2周期をもつ前記第2パターン光が投影された前記領域を撮像することを特徴とする三次元計測装置。
  2. 前記振動情報が前記第1閾値となる第1時刻と、前記第1時刻の後に前記振動情報が前記第2閾値となる第2時刻と、を記憶する記憶部を備え、
    前記第1時刻以降に、前記第1パターン光が投影された前記対象物を含む領域を前記撮像部によって撮像し、
    前記第2時刻以降に、前記第2パターン光が投影された前記対象物を含む領域を前記撮像部によって撮像する請求項1に記載の三次元計測装置。
  3. 前記第1時刻および前記第2時刻は、教示の際に記憶される請求項2に記載の三次元計測装置。
  4. 前記記憶部は、前記第1パターン光が投影された前記対象物を含む領域の前記撮像部による撮像が終了したときから前記第2時刻までの時間を記憶し、
    前記第1パターン光が投影された前記領域を前記撮像部によって撮像する時刻を前記第1時刻から前記時間分遅らせる請求項2または3に記載の三次元計測装置。
  5. 前記振動情報を取得する振動センサーを有する請求項1ないし4のいずれか1項に記載の三次元計測装置。
  6. 前記第1パターン光は、第1位相パターン光と、前記第1位相パターン光から位相がずれた第2位相パターン光と、を含み、
    前記撮像部は、
    第1露光時間で、前記第1位相パターン光が投影された前記領域および前記第2位相パターン光が投影された前記領域を撮像した後、
    前記第1露光時間よりも長い第2露光時間で、前記第1位相パターン光が投影された前記領域および前記第2位相パターン光が投影された前記領域を撮像する請求項1ないし5のいずれか1項に記載の三次元計測装置。
  7. ロボットアームを備えるロボットであって、
    前記ロボットアームに設置され、対象物を含む領域にレーザー光による第1パターン光および第2パターン光を投影する投影部と、
    前記ロボットアームに設置され、前記領域の撮像画像を撮像する撮像部と、
    前記投影部または前記撮像部の振動に関する振動情報を受け付ける振動情報受付部と、
    前記撮像画像に基づいて前記対象物の三次元形状を計測する計測部と、
    を備え、
    前記振動情報が第1閾値以下となったら、前記撮像部によって第1周期をもつ前記第1パターン光が投影された前記領域を撮像し、
    前記振動情報が前記第1閾値より小さい第2閾値以下となったら、前記撮像部によって前記第1周期より短い第2周期をもつ前記第2パターン光が投影された前記領域を撮像することを特徴とするロボット。
  8. ロボットアームを備えるロボットと、
    レーザー光を用いて対象物の三次元計測を行う三次元計測装置と、
    前記三次元計測装置による計測結果に基づいて前記ロボットの動作を制御するロボット制御装置と、を備え、
    前記三次元計測装置は、
    前記対象物を含む領域にレーザー光による第1パターン光および第2パターン光を投影する投影部と、
    前記領域の撮像画像を撮像する撮像部と、
    前記投影部または前記撮像部の振動に関する振動情報を受け付ける振動情報受付部と、
    前記撮像画像に基づいて前記対象物の三次元形状を計測する計測部と、
    を備え、
    前記振動情報が第1閾値以下となったら、前記撮像部によって第1周期をもつ前記第1パターン光が投影された前記領域を撮像し、
    前記振動情報が前記第1閾値より小さい第2閾値以下となったら、前記撮像部によって前記第1周期より短い第2周期をもつ前記パターン光が投影された前記領域を撮像することを特徴とするロボットシステム。
  9. レーザー光を用いて対象物の三次元計測を行う三次元計測装置であって、
    プロセッサーと、
    前記対象物を含む領域に前記レーザー光による第1パターン光および第2パターン光を投影する投影部と、
    前記領域の撮像画像を撮像する撮像部と、
    前記投影部又は前記撮像部の振動に関する振動情報を受け付ける振動情報受付部と、
    前記撮像画像に基づいて前記対象物の三次元形状を計測する計測部と、
    を備え、
    前記プロセッサーは、
    前記振動情報が第1閾値以下となったら、前記撮像部によって第1周期をもつ前記第1パターン光が投影された前記領域を撮像させ、
    前記振動情報が前記第1閾値より小さい第2閾値以下となったら、前記撮像部によって前記第1周期より短い第2周期をもつ前記第2パターン光が投影された前記領域を撮像させるように構成されていることを特徴とする三次元計測装置。
JP2018164241A 2018-09-03 2018-09-03 三次元計測装置およびロボットシステム Active JP7172305B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018164241A JP7172305B2 (ja) 2018-09-03 2018-09-03 三次元計測装置およびロボットシステム
US16/556,261 US11312029B2 (en) 2018-09-03 2019-08-30 Three-dimensional measuring apparatus, robot, and robot system
CN201910822204.6A CN110871457B (zh) 2018-09-03 2019-09-02 三维计测装置,机器人及机器人系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018164241A JP7172305B2 (ja) 2018-09-03 2018-09-03 三次元計測装置およびロボットシステム

Publications (3)

Publication Number Publication Date
JP2020038074A true JP2020038074A (ja) 2020-03-12
JP2020038074A5 JP2020038074A5 (ja) 2021-08-19
JP7172305B2 JP7172305B2 (ja) 2022-11-16

Family

ID=69641919

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018164241A Active JP7172305B2 (ja) 2018-09-03 2018-09-03 三次元計測装置およびロボットシステム

Country Status (3)

Country Link
US (1) US11312029B2 (ja)
JP (1) JP7172305B2 (ja)
CN (1) CN110871457B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111515955A (zh) * 2020-05-13 2020-08-11 中科新松有限公司 柔性关节机械臂残余抖动抑制方法和抑制装置
WO2021210128A1 (ja) * 2020-04-16 2021-10-21 ヤマハ発動機株式会社 測定装置、検査装置、表面実装機

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7135495B2 (ja) * 2018-06-26 2022-09-13 セイコーエプソン株式会社 三次元計測装置、制御装置およびロボットシステム
JP7392590B2 (ja) * 2020-06-25 2023-12-06 オムロン株式会社 ロボット制御システム、制御プログラムおよび制御方法
WO2023222139A1 (zh) * 2022-05-18 2023-11-23 上海图漾信息科技有限公司 深度数据测量头、测量装置和测量方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005003409A (ja) * 2003-06-10 2005-01-06 Kokan Keisoku Kk 3次元曲面形状の測定装置及び測定方法
JP2010125582A (ja) * 2008-12-01 2010-06-10 Seiko Epson Corp ロボットアーム装置、ロボットアーム装置の制御方法および制御プログラム
JP2011011330A (ja) * 2009-06-03 2011-01-20 Canon Inc カメラ付きロボット
JP2011137753A (ja) * 2009-12-28 2011-07-14 Canon Inc 計測システム、画像補正方法、及びコンピュータプログラム
JP2014035198A (ja) * 2012-08-07 2014-02-24 Nikon Corp 形状測定装置、構造物製造システム、形状測定方法、構造物製造方法、及び形状測定プログラム
JP2014517285A (ja) * 2011-05-19 2014-07-17 ヘキサゴン テクノロジー センター ゲゼルシャフト ミット ベシュレンクテル ハフツング 測定対象表面上における3d座標を求めるための光学的測定方法および光学的測定システム
JP2016053481A (ja) * 2014-09-02 2016-04-14 キヤノン株式会社 情報処理装置、情報処理システム、情報処理装置の制御方法およびプログラム
JP2017075887A (ja) * 2015-10-16 2017-04-20 株式会社ニコン 振動検出装置、検査装置、振動検出方法、及び振動検出プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6496225B1 (en) * 1996-12-17 2002-12-17 Canon Kabushiki Kaisha Auto focusing device and a focus detecting device for determining the phase difference between image signals
DE102005020844B3 (de) * 2005-05-02 2006-07-20 Vision Tools Bildanalyse Systeme Gmbh Genauigkeitsverbesserung von Robotern
DE102007055204B4 (de) * 2007-11-19 2010-04-08 Deutsches Zentrum für Luft- und Raumfahrt e.V. Roboter, medizinischer Arbeitsplatz und Verfahren zum Projizieren eines Bildes auf die Oberfläche eines Objekts
JP5630208B2 (ja) * 2010-10-25 2014-11-26 株式会社安川電機 形状計測装置、ロボットシステムおよび形状計測方法
JP6357949B2 (ja) * 2014-07-29 2018-07-18 セイコーエプソン株式会社 制御システム、ロボットシステム、及び制御方法
JP6954451B2 (ja) * 2018-03-29 2021-10-27 日本電気株式会社 振動計測システム、振動計測装置、振動計測方法、及びプログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005003409A (ja) * 2003-06-10 2005-01-06 Kokan Keisoku Kk 3次元曲面形状の測定装置及び測定方法
JP2010125582A (ja) * 2008-12-01 2010-06-10 Seiko Epson Corp ロボットアーム装置、ロボットアーム装置の制御方法および制御プログラム
JP2011011330A (ja) * 2009-06-03 2011-01-20 Canon Inc カメラ付きロボット
JP2011137753A (ja) * 2009-12-28 2011-07-14 Canon Inc 計測システム、画像補正方法、及びコンピュータプログラム
JP2014517285A (ja) * 2011-05-19 2014-07-17 ヘキサゴン テクノロジー センター ゲゼルシャフト ミット ベシュレンクテル ハフツング 測定対象表面上における3d座標を求めるための光学的測定方法および光学的測定システム
JP2014035198A (ja) * 2012-08-07 2014-02-24 Nikon Corp 形状測定装置、構造物製造システム、形状測定方法、構造物製造方法、及び形状測定プログラム
JP2016053481A (ja) * 2014-09-02 2016-04-14 キヤノン株式会社 情報処理装置、情報処理システム、情報処理装置の制御方法およびプログラム
JP2017075887A (ja) * 2015-10-16 2017-04-20 株式会社ニコン 振動検出装置、検査装置、振動検出方法、及び振動検出プログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021210128A1 (ja) * 2020-04-16 2021-10-21 ヤマハ発動機株式会社 測定装置、検査装置、表面実装機
JPWO2021210128A1 (ja) * 2020-04-16 2021-10-21
CN114930119A (zh) * 2020-04-16 2022-08-19 雅马哈发动机株式会社 测定装置、检查装置、表面安装机
JP7332792B2 (ja) 2020-04-16 2023-08-23 ヤマハ発動機株式会社 測定装置、検査装置、表面実装機
US12031810B2 (en) 2020-04-16 2024-07-09 Yamaha Hatsudoki Kabushiki Kaisha Measuring device, inspection device, and surface mounter
CN114930119B (zh) * 2020-04-16 2024-07-12 雅马哈发动机株式会社 测定装置、检查装置、表面安装机
CN111515955A (zh) * 2020-05-13 2020-08-11 中科新松有限公司 柔性关节机械臂残余抖动抑制方法和抑制装置
CN111515955B (zh) * 2020-05-13 2022-02-18 中科新松有限公司 柔性关节机械臂残余抖动抑制方法和抑制装置

Also Published As

Publication number Publication date
JP7172305B2 (ja) 2022-11-16
US20200070370A1 (en) 2020-03-05
CN110871457B (zh) 2023-05-12
US11312029B2 (en) 2022-04-26
CN110871457A (zh) 2020-03-10

Similar Documents

Publication Publication Date Title
JP7172305B2 (ja) 三次元計測装置およびロボットシステム
JP7135495B2 (ja) 三次元計測装置、制御装置およびロボットシステム
JP7155660B2 (ja) ロボット制御装置およびロボットシステム
US9628779B2 (en) Optical measurement method and measurement system for determining 3D coordinates on a measurement object surface
JP6805904B2 (ja) 計測装置、計測方法およびロボット
JP5716826B2 (ja) 3次元形状計測装置およびロボットシステム
US20130186871A1 (en) Laser processing machine
JP2006514739A (ja) 歯科用レーザデジタイザシステム
US10837759B2 (en) Three-dimensional measuring device, controller, and robot system
JP2009544952A (ja) 画像作成センサーを備えた動的画像記録
JP2010048662A (ja) 視覚装置
JP2014159989A (ja) 物体検出装置及びロボットシステム
JP6392044B2 (ja) 位置計測装置
US20180231378A1 (en) Apparatus and method for obtaining depth information using digital micro-mirror device
JP2016164557A (ja) 表面形状測定装置及び表面形状測定方法
JP2020159730A (ja) 三次元計測方法、三次元計測装置およびロボットシステム
JP2008134370A (ja) 露光装置
JP2020159731A (ja) 三次元計測方法、三次元計測装置およびロボットシステム
JP2020159732A (ja) 三次元計測方法、三次元計測装置およびロボットシステム
JP7268553B2 (ja) 揺動角制御方法、三次元計測装置およびロボットシステム
JP5205101B2 (ja) パターン描画装置およびパターン描画方法
CN111750800B (zh) 三维测量装置及机器人系统
JP2022021617A (ja) 距離計測装置およびロボット
JP7310481B2 (ja) 深度センサーの制御方法、深度センサーおよびロボットシステム
JP7275688B2 (ja) ロボットの部品ピッキングシステム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181121

RD07 Notification of extinguishment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7427

Effective date: 20200810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210709

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210709

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210917

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20211108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220722

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221017

R150 Certificate of patent or registration of utility model

Ref document number: 7172305

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150