JP5891399B2 - Work detection system setting method and work detection system using the same - Google Patents

Work detection system setting method and work detection system using the same Download PDF

Info

Publication number
JP5891399B2
JP5891399B2 JP2012004665A JP2012004665A JP5891399B2 JP 5891399 B2 JP5891399 B2 JP 5891399B2 JP 2012004665 A JP2012004665 A JP 2012004665A JP 2012004665 A JP2012004665 A JP 2012004665A JP 5891399 B2 JP5891399 B2 JP 5891399B2
Authority
JP
Japan
Prior art keywords
detection
setting
work
area
distance image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012004665A
Other languages
Japanese (ja)
Other versions
JP2013145422A (en
Inventor
伸行 刀根
伸行 刀根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2012004665A priority Critical patent/JP5891399B2/en
Publication of JP2013145422A publication Critical patent/JP2013145422A/en
Application granted granted Critical
Publication of JP5891399B2 publication Critical patent/JP5891399B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Description

本発明は、作業検知システムの設定方法及びそれを用いた作業検知システムに関するものである。   The present invention relates to a work detection system setting method and a work detection system using the method.

従来、製造装置においてワークの位置を検出するためにファイバセンサを備えたものが提案されている(例えば特許文献1参照)。ファイバセンサは、発光部と、発光部から照射された光を受光する受光部を備え、発光部から照射された光が、検出対象のウェーハに設けられたウェーハノッチを通過して受光部に受光されることで、ウェーハノッチの位置を検出している。   2. Description of the Related Art Conventionally, a manufacturing apparatus has been proposed that includes a fiber sensor for detecting the position of a workpiece (see, for example, Patent Document 1). The fiber sensor includes a light emitting unit and a light receiving unit that receives light emitted from the light emitting unit, and the light emitted from the light emitting unit passes through a wafer notch provided on the detection target wafer and is received by the light receiving unit. As a result, the position of the wafer notch is detected.

特開平11−340306号公報JP 11-340306 A

上記特許文献1に開示されたファイバセンサを用いてワークの存否を検出するためには、ワークが置かれる場所を挟んで発光部と受光部を配置する必要があり、ワークが複数存在する場合はファイバセンサを複数設置する必要があるから、設置に手間がかかっていた。   In order to detect the presence or absence of a workpiece using the fiber sensor disclosed in Patent Document 1, it is necessary to arrange a light emitting unit and a light receiving unit across a place where the workpiece is placed. Since it was necessary to install multiple fiber sensors, it took time to install.

本発明は上記課題に鑑みて為されたものであり、その目的とするところは、検知領域や検知順序の設定が容易に行える作業検知システムの設定方法及びそれを用いた作業検知システムを提供することにある。   The present invention has been made in view of the above problems, and an object of the present invention is to provide a method for setting a work detection system that can easily set a detection region and a detection order, and a work detection system using the same. There is.

本発明の設定方法は、距離画像センサと、検知装置と、報知装置と、設定装置とを備えた作業検知システムの設定方法である。距離画像センサは作業領域の距離画像を出力する。検知装置は、前記距離画像に現れる作業主体又は前記作業主体が扱うワークを検知対象とし、前記距離画像をもとに作業内容の異常を検知すると報知命令を出力する。報知装置は前記報知命令が入力されると報知動作を行う。設定装置は、前記距離画像内で前記検知装置が検知対象の存否を検知する複数の検知領域及びその検知順序を設定する。そして、この設定方法では、それぞれ設定対象の検知領域に対応した大きさに形成され且つ検知順序の情報を含む識別コードが付された設定用シートを前記作業領域に配置した状態で前記作業領域を二次元カメラで撮影する。前記設定装置は、前記二次元カメラの画像を解析することによって前記作業領域に配置された前記設定用シートの位置及び範囲と前記設定用シートに付された識別コードを検出する。そして、前記設定装置は、検出された前記設定用シートの位置及び範囲をもとに検知領域を設定し、且つ、前記設定用シートに付された識別コードをもとに検知順序を設定することを特徴とする。   The setting method of the present invention is a setting method for a work detection system including a distance image sensor, a detection device, a notification device, and a setting device. The distance image sensor outputs a distance image of the work area. The detection device targets a work subject appearing in the distance image or a work handled by the work subject, and outputs a notification command when an abnormality in the work content is detected based on the distance image. When the notification command is input, the notification device performs a notification operation. The setting device sets a plurality of detection areas in which the detection device detects the presence or absence of a detection target and the detection order thereof in the distance image. In this setting method, the work area is set in a state where a setting sheet formed with a size corresponding to the detection area to be set and attached with an identification code including detection order information is arranged in the work area. Take a picture with a two-dimensional camera. The setting device detects the position and range of the setting sheet disposed in the work area and the identification code attached to the setting sheet by analyzing the image of the two-dimensional camera. The setting device sets a detection area based on the detected position and range of the setting sheet, and sets a detection order based on an identification code attached to the setting sheet. It is characterized by.

この設定方法において、前記識別コードには、対応する前記検知領域で検出されるワークの種別情報が含まれており、前記設定装置が、前記設定用シートに付された識別コードをもとに、対応する検知領域で検出されるワークの種別を設定することも好ましい。   In this setting method, the identification code includes type information of a workpiece detected in the corresponding detection area, and the setting device is based on the identification code attached to the setting sheet. It is also preferable to set the type of workpiece detected in the corresponding detection area.

本発明の作業検知システムは、上述した何れかの設定方法を用い、前記距離画像センサと、前記検知装置と、前記報知装置と、前記設定装置とを備えることを特徴とする。   The work detection system of the present invention uses any one of the setting methods described above, and includes the distance image sensor, the detection device, the notification device, and the setting device.

本発明によれば、設定用シートが所望の検知領域に置かれた状態を二次元カメラで撮影すると、設定装置が、二次元カメラの画像を解析することによって、検知領域及びその検知順序が設定される。したがって、検知領域や検知順序の設定が容易に行える作業検知システムの設定方法及びそれを用いた作業検知システムを実現できる。   According to the present invention, when a setting sheet is photographed with a two-dimensional camera while the setting sheet is placed in a desired detection area, the setting device sets the detection area and the detection order by analyzing the image of the two-dimensional camera. Is done. Therefore, it is possible to realize a work detection system setting method in which the detection area and the detection order can be easily set and a work detection system using the method.

実施形態の設定方法の説明図であり、(a)(c)は平面図、(b)(d)は側断面図である。It is explanatory drawing of the setting method of embodiment, (a) (c) is a top view, (b) (d) is a sectional side view. 同上の別の検出方法を説明する図であり、(a)(c)は平面図、(b)(d)は側断面図である。It is a figure explaining another detection method same as the above, (a) (c) is a top view, (b) (d) is a sectional side view. 同上のまた別の検出方法の説明図であり、(a)は正面図、(b)は側面図、(c)は(b)の上面図である。It is explanatory drawing of another detection method same as the above, (a) is a front view, (b) is a side view, (c) is a top view of (b). 同上の検出方法に用いられる反射部材の説明図である。It is explanatory drawing of the reflection member used for the detection method same as the above. 同上の検出方法を説明する図であり、(a)はワークを置いた状態の平面図、(b)は側面図である。It is a figure explaining the detection method same as the above, (a) is a top view of the state which put the workpiece | work, (b) is a side view. 同上の物体検出方法を用いた作業検知システムのブロック図である。It is a block diagram of the work detection system using the object detection method same as the above. 同上が適用された作業領域を示し、(a)は正面図、(b)は側面図である。The work area where the same as the above is applied is shown, (a) is a front view, (b) is a side view. (a)〜(e)は検知対象の作業内容の説明図である。(A)-(e) is explanatory drawing of the operation content of a detection target. (a)〜(i)は作業工程毎の撮像画像の一例を示す図である。(A)-(i) is a figure which shows an example of the captured image for every work process. 同上の動作を説明するフローチャートである。It is a flowchart explaining operation | movement same as the above.

以下では、本発明に係る設定方法を用いた作業検知システムの実施形態を図面に基づいて説明する。本実施形態の作業検知システムは、作業者が複数のワーク(例えば完成品や取扱説明書など)を箱に梱包する梱包作業において、ワーク(検知対象物)が所定位置に置かれたか否かを検出するために用いられる。尚、作業検知システムの適用事例は本実施形態に限定されるものではなく、種々の用途に適用が可能である。   Hereinafter, an embodiment of a work detection system using a setting method according to the present invention will be described with reference to the drawings. The work detection system according to the present embodiment determines whether or not a work (detection target) is placed at a predetermined position in a packing work in which an operator packs a plurality of works (for example, finished products and instruction manuals) in a box. Used to detect. The application example of the work detection system is not limited to this embodiment, and can be applied to various uses.

図7は、本実施形態の作業検知システムが適用された作業台50を示し、図7(a)は作業台50の正面図、図7(b)は作業台50の側面図である。尚、以下の説明では特に断りがないかぎり、図7(a)に示す向きにおいて上下左右の方向を規定し、図7(b)における左側を前側、右側を後側として説明を行う。   FIG. 7 shows a work table 50 to which the work detection system of this embodiment is applied. FIG. 7A is a front view of the work table 50, and FIG. 7B is a side view of the work table 50. In the following description, unless otherwise specified, the vertical and horizontal directions are defined in the direction shown in FIG. 7A, and the left side in FIG. 7B is described as the front side and the right side as the rear side.

作業台50は、金属パイプを組み合わせて構成されるフレーム51と、フレーム51にそれぞれ支持された3段の棚板52,53,54を備える。下段及び中段の棚板52,53は、平面視の形状が略正方形の棚板であって、外形寸法が略同じ寸法となっている。下段の棚板52にはパーソナルコンピュータPC1が載置されている。中段の棚板53は、作業者が作業しやすい高さ位置(例えば作業者の腰付近の高さ位置)に設けられ、この棚板53上で検査対象の梱包作業が行われる。上段の棚板54は、平面視の形状が長方形状に形成されており、棚板53と左右方向の幅寸法は同じであるが、棚板53に比べて奥行き寸法が小さく、棚板53の奥側寄りに設けられ、箱の中に入れられるワークW1,W2を載せておく部品棚として用いられている。フレーム51の上方には、作業者の背丈よりも高い位置に、金属パイプを組み合わせて構成された支持部55が設けられ、この支持部55に距離画像センサ1と音出力装置4と照射装置5が取り付けられている。   The work table 50 includes a frame 51 configured by combining metal pipes and three-stage shelf plates 52, 53, and 54 respectively supported by the frame 51. The lower and middle shelf plates 52 and 53 are shelf plates having a substantially square shape in plan view and have substantially the same outer dimensions. The personal computer PC1 is placed on the lower shelf 52. The middle shelf 53 is provided at a height position where the worker can easily work (for example, a height position near the waist of the worker), and a packing operation to be inspected is performed on the shelf 53. The upper shelf board 54 is formed in a rectangular shape in plan view, and the width dimension in the left-right direction is the same as that of the shelf board 53, but the depth dimension is smaller than the shelf board 53. It is provided near the back side and is used as a parts shelf on which works W1 and W2 to be put in a box are placed. Above the frame 51, a support portion 55 configured by combining metal pipes is provided at a position higher than the height of the worker, and the distance image sensor 1, the sound output device 4, and the irradiation device 5 are provided on the support portion 55. Is attached.

図6は作業検知システムのブロック図である。この作業検知システムは、距離画像センサ1と検知装置2と入力装置3と音出力装置4と照射装置5とモニタ6とを主要な構成として備えている。尚、検知装置2と入力装置3とモニタ6とは例えばノート型のパーソナルコンピュータPC1で実現されている。   FIG. 6 is a block diagram of the work detection system. This work detection system includes a distance image sensor 1, a detection device 2, an input device 3, a sound output device 4, an irradiation device 5, and a monitor 6 as main components. The detection device 2, the input device 3, and the monitor 6 are realized by, for example, a notebook personal computer PC1.

距離画像センサ1は、支持部55に取り付けられ、作業領域である中段の棚板53及び上段の棚板54を上方から撮影する。距離画像センサ1の測定方式はレーザー・パターンを投影する方式やTOF(Time Of Flight)方式などの周知の測定方式である。距離画像センサ1は、これら周知の測定方式を用いて撮像領域に存在する物体までの距離を検出し、各画素の画素値が検出対象までの距離となる距離画像を作成し、距離画像の画像データを検知装置2に出力する。また距離画像センサ1は、撮像範囲内の2次元画像を撮影する機能も備えており、距離画像の画像データに加えて、二次元画像の画像データを検知装置2へ出力する。すなわち、本実施形態では距離画像センサ1が、作業領域の二次元画像を撮影する二次元カメラを兼用しているが、距離画像センサ1とは別に二次元カメラを備えていてもよい。   The distance image sensor 1 is attached to the support portion 55 and photographs the middle shelf 53 and the upper shelf 54 as work areas from above. The measurement method of the distance image sensor 1 is a known measurement method such as a method of projecting a laser pattern or a TOF (Time Of Flight) method. The distance image sensor 1 detects the distance to the object existing in the imaging region using these known measurement methods, creates a distance image in which the pixel value of each pixel is the distance to the detection target, and the image of the distance image Data is output to the detection device 2. The distance image sensor 1 also has a function of capturing a two-dimensional image within the imaging range, and outputs the two-dimensional image data to the detection device 2 in addition to the distance image image data. That is, in the present embodiment, the distance image sensor 1 also serves as a two-dimensional camera that captures a two-dimensional image of the work area. However, the distance image sensor 1 may include a two-dimensional camera separately from the distance image sensor 1.

入力装置3は、パーソナルコンピュータPC1が備えるキーボードやマウスなどの入力デバイスで構成される。   The input device 3 is composed of input devices such as a keyboard and a mouse provided in the personal computer PC1.

音出力装置4は、作業領域を含む空間に音を出力するスピーカ(図示せず)を有し、スピーカを下側に向けて支持部55に取り付けられ、異常の発生を報知する報知音などの音を下側へ出力する。   The sound output device 4 includes a speaker (not shown) that outputs sound in a space including a work area, and is attached to the support unit 55 with the speaker facing downward, such as a notification sound that notifies the occurrence of an abnormality. The sound is output downward.

照射装置5は、例えば液晶プロジェクタからなり、支持部55に取り付けられ、上段の棚板54及び中段の棚板53を光の投影範囲とする。照射装置5は、投影範囲の一部に照射される光を制限する機能を有しており、棚板53及び棚板54の所望の位置に光を照射することができる。   The irradiation device 5 is composed of a liquid crystal projector, for example, and is attached to the support unit 55, and the upper shelf plate 54 and the middle shelf plate 53 are used as a light projection range. The irradiation device 5 has a function of limiting light irradiated to a part of the projection range, and can irradiate light to desired positions of the shelf board 53 and the shelf board 54.

ここにおいて、音出力装置4と照射装置5とで、検知装置2からの報知命令にしたがって音及び光で報知動作を行う報知装置が構成されているが、報知装置として音出力装置4及び照射装置5の何れか一方のみを備えていてもよい。   Here, the sound output device 4 and the irradiation device 5 constitute a notification device that performs a notification operation with sound and light in accordance with a notification command from the detection device 2, and the sound output device 4 and the irradiation device are used as the notification device. Only one of 5 may be provided.

モニタ6は、例えばパーソナルコンピュータPC1が備える液晶ディスプレイからなり、検知装置2によって表示内容が制御され、検知領域や検知順序を設定するための設定画面を表示したり、検知結果などを表示する。   The monitor 6 is composed of, for example, a liquid crystal display included in the personal computer PC1. The display content is controlled by the detection device 2, and a setting screen for setting a detection region and a detection order is displayed, and a detection result and the like are displayed.

検知装置2は、距離画像センサ1から入力される距離画像に現れるワークや作業者の体の一部(例えば手など)を検知対象とし、距離画像をもとに検知対象物の存否を検出することによって、作業内容に異常がないかを判定する。検知装置2は、作業内容に異常があると判断すると、報知装置(音出力装置4及び照射装置5)に報知命令を出力して、異常の発生を報知させる。ここにおいて、検知装置2はパーソナルコンピュータPC1からなり、パーソナルコンピュータPC1の演算機能によってそれぞれ実現された設定部7及び異常判定部8を備えている。設定部7(設定装置)は、距離画像において検知対象物(例えばワークや作業者の手など)の存否を検知する検知領域や、作業手順にしたがって各々の検知領域で検知対象の存否を検出する順番を設定するものであり、その設定方法については後述する。異常判定部8は、距離画像センサ1から入力される距離画像をもとに検知対象物の存否を検出する。そして、異常判定部8は、何れかの検知領域で検出されるべき検知対象物が検出されなかったり、別の検知対象物が検出されたり、何れかの検知領域で検知順序とは異なる順序で検知対象物が検出されたりすると、異常と判定して報知命令を報知装置に出力する。   The detection device 2 detects the presence or absence of a detection object based on the distance image, with a workpiece or a part of the worker's body (for example, a hand) appearing in the distance image input from the distance image sensor 1 as a detection target. Thus, it is determined whether there is an abnormality in the work content. When the detection device 2 determines that the work content is abnormal, the detection device 2 outputs a notification command to the notification device (the sound output device 4 and the irradiation device 5) to notify the occurrence of the abnormality. Here, the detection apparatus 2 includes a personal computer PC1 and includes a setting unit 7 and an abnormality determination unit 8 which are realized by the calculation function of the personal computer PC1. The setting unit 7 (setting device) detects the presence / absence of a detection target in each detection area according to a detection area for detecting the presence / absence of a detection target (for example, a workpiece or a worker's hand) in a distance image, or a work procedure. The order is set, and the setting method will be described later. The abnormality determination unit 8 detects the presence / absence of the detection target based on the distance image input from the distance image sensor 1. And the abnormality determination part 8 does not detect the detection target object which should be detected in any detection area, or another detection target object is detected, or in an order different from the detection order in any detection area. When a detection target is detected, it is determined as abnormal and a notification command is output to the notification device.

次に、本実施形態の作業検知システムによる検知対象物の検知動作を図1〜図10に基づいて説明する。   Next, the detection operation of the detection target object by the work detection system of this embodiment is demonstrated based on FIGS.

図8(a)〜(e)は梱包作業の各作業工程を示す説明図であり、距離画像センサ1で撮影された距離画像P1内には部品棚となる棚板54に載せられた4つの箱B1〜B4と、棚板53に載せられた箱B10が映されている。4つの箱B1〜B4にはそれぞれ異種のワークW1〜W4が入れられており、作業者は箱B1,B2,B3,B4の順番でワークW1,W2,W3,W4を1個ずつ取り出し、箱B10に箱詰めする作業を行う。図8(a)は梱包作業を行う前の状態であり、箱B10は空になっている。図8(b)は作業者が左端の箱B1からワークW1を1個取り出して、箱B10に入れた状態を示している。図8(c)は作業者が左端から2番目の箱B2からワークW2を1個取り出して、箱B10に入れた状態を示している。図8(d)は作業者が左端から3番目の箱B3からワークW3を1個取り出して、箱B10に入れた状態を示している。図8(e)は作業者が右端の箱B4からワークW4を1個取り出して、箱B10に入れた状態を示している。図8(e)の状態は1サイクル分の梱包作業が終了した状態であり、箱B10には4種類のワークW1〜W4が1個ずつ入れられている。   FIGS. 8A to 8E are explanatory views showing each work process of the packing work. In the distance image P1 photographed by the distance image sensor 1, four pieces placed on a shelf board 54 serving as a parts shelf are shown. The boxes B1 to B4 and the box B10 placed on the shelf board 53 are shown. Different types of works W1 to W4 are placed in the four boxes B1 to B4, respectively, and the operator takes out the works W1, W2, W3, and W4 one by one in the order of the boxes B1, B2, B3, and B4. B10 is boxed. FIG. 8A shows a state before the packing operation, and the box B10 is empty. FIG. 8B shows a state where the worker has taken out one workpiece W1 from the leftmost box B1 and put it in the box B10. FIG. 8C shows a state where the worker has taken out one workpiece W2 from the second box B2 from the left end and put it in the box B10. FIG. 8D shows a state where the worker has taken out one workpiece W3 from the third box B3 from the left end and put it in the box B10. FIG. 8E shows a state where the worker has taken out one workpiece W4 from the rightmost box B4 and put it in the box B10. The state shown in FIG. 8E is a state in which one cycle of packing work has been completed, and four types of workpieces W1 to W4 are put in the box B10 one by one.

本実施形態の作業検知システムを用いて上記梱包作業の検査を行う場合、先ず設定作業者は、後述の設定方法により梱包作業の各工程で検知対象物が検出されるべき検知領域とその検知順序を検知装置2に設定し、以後は設定内容に応じて異常の有無を検知する。図9(a)〜(i)は上記の梱包作業において異常の有無を判定する処理を説明する説明図であり、距離画像P1内でワークを収めた箱B1〜B4と、ワークが箱詰めされる箱B10が検知領域として設定されている。また、作業開始時に作業者が手H1を置く検知領域が開始領域A1として設定されている。   When performing the inspection of the packing work using the work detection system of the present embodiment, the setting operator first detects a detection area and a detection order in which a detection target should be detected in each step of the packing work by a setting method described later. Is set in the detection device 2, and thereafter, the presence or absence of an abnormality is detected according to the set content. FIGS. 9A to 9I are explanatory diagrams for explaining processing for determining the presence or absence of abnormality in the above-described packing operation, and boxes B1 to B4 that contain workpieces in the distance image P1 and the workpieces are boxed. Box B10 is set as the detection area. In addition, a detection area where the operator places his hand H1 at the start of work is set as the start area A1.

図10は異常判定部8による判定処理を説明するフローチャートであり、検知装置2には、距離画像センサ1から所定の時間間隔(作業者の動きを連続的に検出可能な時間間隔)で撮影された距離画像が入力される(ステップST1)。異常判定部8は、距離画像センサ1から距離画像が入力されると、異常判定処理の実施中か否かを判定する(ステップST2)。   FIG. 10 is a flowchart for explaining the determination process performed by the abnormality determination unit 8. The detection device 2 is photographed from the distance image sensor 1 at a predetermined time interval (a time interval at which an operator's movement can be detected continuously). A distance image is input (step ST1). When the distance image is input from the distance image sensor 1, the abnormality determination unit 8 determines whether or not the abnormality determination process is being performed (step ST2).

ここで、異常判定処理の停止中であれば(ステップST2のNo)、異常判定部8は開始領域A1で作業者が検知されるか否かを判定する(ステップST3)。図9(a)に示すように作業者は1サイクル分の梱包作業を開始する毎に開始領域A1に手H1を置いており、異常判定部8は、開始領域A1で作業者が検知されたことから作業開始と判断し、異常判定処理を開始する(ステップST4)。尚、ステップST3の判定で開始領域A1に検知対象がいないと判定された場合、異常判定部8はステップST1に戻って、距離画像の入力待ちの状態となる。   If the abnormality determination process is stopped (No in step ST2), the abnormality determination unit 8 determines whether or not an operator is detected in the start area A1 (step ST3). As shown in FIG. 9A, the worker places his hand H1 in the start area A1 every time one cycle of packing work is started, and the abnormality determination unit 8 detects the worker in the start area A1. Therefore, it is determined that the work is started, and the abnormality determination process is started (step ST4). If it is determined in step ST3 that there is no detection target in the start area A1, the abnormality determination unit 8 returns to step ST1 and waits for input of a distance image.

一方、異常判定処理を実施中であれば(ステップST2のYes)、異常判定部8は、何れかの検知領域で検知対象物が検知さるか否かを判定する(ステップST5)。ステップST5の判定で、何れの検知領域でも検知対象物が検知されなければ、異常判定部8はステップST1の処理に戻り、距離画像の入力待ちの状態となる。また、ステップST5の判定で何れかの検知領域で検知対象物が検知された場合、異常判定部8は、検知対象物の検出された検知領域の順番が、設定部7によって予め設定された検知順序と異なっているか否かを判定する(ステップST6)。図8で説明した梱包作業を作業者が行う場合、図9(b)〜(i)に示すように、作業者の手H1が、箱B1→箱B10→箱B2→箱B10→箱B3→箱B10→箱B4→箱B10の順番で検出されることになる。また箱B10にはワークW1、ワークW2、ワークW3、ワークW4が1つずつ順番に箱詰めされるので、箱B10を含む検知領域ではワークW1、ワークW2、ワークW3、ワークW4がその順番で検出されることになる。ここで、定期的に入力される距離画像から作業者の手H1が検知された検知領域の順番が、作業工程に従って設定された検知順序と異なるか、或いは、箱B10を含む検知領域でワークW1〜W4が検出される順番が、作業工程に従って設定された検知順序と異なる場合(ステップST6のYes)、異常判定部8は、予め決められた作業内容とは異なる作業が行われたと判断する。この時、異常判定部8は、報知命令を音出力装置4及び照射装置5に出力し、異常と判定された検知対象の検知履歴を記憶部9に記憶させる。音出力装置4は、報知命令が入力されると、所定の報知音を出力し、異常の発生を音で報知する。照射装置5は、報知命令が入力されると、例えば検知順序が異なると判定された検知領域に光を照射させ、異常の発生を光で報知する(ステップST7)。   On the other hand, if the abnormality determination process is being performed (Yes in step ST2), the abnormality determination unit 8 determines whether or not a detection target is detected in any detection region (step ST5). If it is determined in step ST5 that no detection object is detected in any detection region, the abnormality determination unit 8 returns to the process in step ST1 and waits for input of a distance image. In addition, when a detection target is detected in any detection region in the determination of step ST5, the abnormality determination unit 8 detects that the order of the detection regions in which the detection target is detected is set in advance by the setting unit 7. It is determined whether or not the order is different (step ST6). When the worker performs the packing operation described with reference to FIG. 8, as shown in FIGS. 9B to 9I, the operator's hand H1 is box B1 → box B10 → box B2 → box B10 → box B3 → It will be detected in the order of box B10 → box B4 → box B10. Also, since the work B1, the work W2, the work W3, and the work W4 are sequentially packed in the box B10, the work W1, the work W2, the work W3, and the work W4 are detected in that order in the detection area including the box B10. Will be. Here, the order of the detection areas in which the operator's hand H1 is detected from the distance image periodically input is different from the detection order set according to the work process, or the work W1 in the detection area including the box B10. When the order in which .about.W4 is detected is different from the detection order set according to the work process (Yes in step ST6), the abnormality determination unit 8 determines that the work different from the predetermined work content has been performed. At this time, the abnormality determination unit 8 outputs a notification command to the sound output device 4 and the irradiation device 5 and causes the storage unit 9 to store the detection history of the detection target determined to be abnormal. When the notification command is input, the sound output device 4 outputs a predetermined notification sound and notifies the occurrence of abnormality by sound. When the notification command is input, the irradiating device 5 irradiates, for example, light on a detection region determined to have a different detection order, and notifies the occurrence of an abnormality with light (step ST7).

また、ステップST6において、作業者の手H1が検知された検知領域の順番が所定の検知順序と同じであり、箱B10を含む検知領域でワークW1〜W4が検出される順番が所定の検知順序と同じであった場合(ステップST6のNo)、異常判定部8は梱包作業が1サイクル分終了したか否かを判断する(ステップST8)。ここで、1サイクル分の梱包作業が終了していなければ(ステップST8のNo)、異常判定部8はステップST1に戻って距離画像の入力待ちの状態となり、次の工程の検出に備える。一方、1サイクル分の梱包作業が終了していれば(ステップST8のYes)、異常判定部8は、1サイクル分の梱包作業が正常に行われたと判断して、異常判定処理を終了する。   In step ST6, the order of the detection areas in which the hand H1 of the worker is detected is the same as the predetermined detection order, and the order in which the workpieces W1 to W4 are detected in the detection area including the box B10 is the predetermined detection order. (No in step ST6), the abnormality determination unit 8 determines whether or not the packing operation has been completed for one cycle (step ST8). Here, if the packing work for one cycle is not completed (No in step ST8), the abnormality determination unit 8 returns to step ST1 and waits for input of a distance image to prepare for detection of the next process. On the other hand, if the packing work for one cycle has been completed (Yes in step ST8), the abnormality determination unit 8 determines that the packing work for one cycle has been normally performed, and ends the abnormality determination process.

尚、図8で説明した梱包作業では箱B1,B2,B3,B4からワークを1個とる毎に箱B10に入れていたが、箱B1,B2,B3,B4から1個ずつ取り出したワークをトレー(図示せず)に入れ、最後にトレーから箱B10へと移し替えてもよい。この場合の検知順序は、箱B1→箱B2→箱B3→箱B4→箱B10となり、異常判定部8は、何れかの検知領域において、上記の検知順序とは異なる順序で検知対象が検出されると、異常が発生したと判定する。   In the packing operation described with reference to FIG. 8, every time one workpiece is taken from the boxes B1, B2, B3, and B4, the workpiece is put in the box B10. It may be placed in a tray (not shown) and finally transferred from the tray to box B10. The detection order in this case is box B1 → box B2 → box B3 → box B4 → box B10, and the abnormality determination unit 8 detects the detection target in an order different from the above detection order in any detection region. Then, it is determined that an abnormality has occurred.

ここで、この作業検知システムにおいて、検知対象の存否を検知する複数の検知領域及びその検知順序を設定する設定方法について、図1〜図4を参照して説明する。   Here, in this work detection system, a setting method for setting a plurality of detection areas for detecting the presence / absence of a detection target and its detection order will be described with reference to FIGS.

図1(b)に示すように、作業領域となる棚板53上に設定された矩形の検知領域A11,A12,A13,A14のそれぞれでワークW11,W12,W13,W14の存否を検知する場合、検知領域A1〜A4とその検知順序を検知装置2に設定する必要がある。尚、図1(b)に示すように、検知領域A11,A12,A13は棚板53の図中下側に左右に並んで設定され、検知領域A14は棚板53の図中左上に設定されている。   As shown in FIG. 1B, when the presence / absence of the workpieces W11, W12, W13, and W14 is detected in each of the rectangular detection areas A11, A12, A13, and A14 set on the shelf 53 as a work area. The detection areas A1 to A4 and their detection order need to be set in the detection device 2. As shown in FIG. 1B, the detection areas A11, A12, A13 are set side by side on the lower side of the shelf 53 in the figure, and the detection area A14 is set on the upper left of the shelf 53 in the figure. ing.

本実施形態の設定方法では、検知領域A11〜A14を設定するために、設定対象の検知領域A11〜A14に対応した形状及び大きさの設定用シートS11〜S14が用いられる(図1(a)参照)。設定用シートS11〜S14は矩形状であり、対応する検知領域A11〜A14と縦横の長さがほぼ同じ長さに設定されている。また設定用シートS11〜S14の要所(例えば左上隅)には、検知順序の情報の情報とを含む識別コードが印刷などの方法で表示されている。ここで、設定用シートS11には「01」、設定用シートS12には「02」、設定用シートS13には「03」、設定用シートS14には「04」の文字が識別コードとして表示されている。ここにおいて,設定用シートS11〜S14に付された識別コードは「01」「02」…などの数字に限定されるものではなく、アルファベットなどの文字でもよいし、文字と数字の組み合わせでもよいし、バーコードや二次元コードでもよい。また、設定用シートS11〜S14の色を異ならせ、設定用シートS11〜S14の色で識別コードを構成してもよい。尚、設定用シートS11〜S14には、製造現場で入手が容易な帯電防止シートが用いられることも好ましい。また、設定用シートS11〜S14の色は、作業領域の表面(棚板53の上面)とコントラストが大きくなるような色とするのが好ましく、例えば作業領域の表面が黒色であれば、設定用シートS11〜S14は白色とするのが好ましい。   In the setting method of the present embodiment, setting sheets S11 to S14 having shapes and sizes corresponding to the detection areas A11 to A14 to be set are used to set the detection areas A11 to A14 (FIG. 1A). reference). The setting sheets S11 to S14 have a rectangular shape, and the vertical and horizontal lengths of the corresponding detection areas A11 to A14 are set to be substantially the same. In addition, an identification code including information on detection order information is displayed at a main point (for example, the upper left corner) of the setting sheets S11 to S14 by a method such as printing. Here, “01” is displayed as an identification code on the setting sheet S11, “02” is displayed on the setting sheet S12, “03” is displayed on the setting sheet S13, and “04” is displayed on the setting sheet S14. ing. Here, the identification codes given to the setting sheets S11 to S14 are not limited to numbers such as “01”, “02”..., And may be letters such as alphabets, or a combination of letters and numbers. A barcode or a two-dimensional code may be used. Alternatively, the setting sheets S11 to S14 may have different colors, and the identification code may be configured with the colors of the setting sheets S11 to S14. For the setting sheets S11 to S14, it is also preferable to use an antistatic sheet that is easily available at the manufacturing site. The colors of the setting sheets S11 to S14 are preferably colors that increase the contrast with the surface of the work area (the upper surface of the shelf board 53). The sheets S11 to S14 are preferably white.

先ず設定作業者は、図1(a)に示すように、設定対象の検知領域A11,A12,A13,A14とそれぞれ同じ形状及び大きさに形成された設定用シートS11,S12,S13,S14を棚板53上の設定したい位置に配置する。その後、設定作業者が入力装置3を用いて検知装置2に設定命令を入力すると、検知装置2の設定部7は、設定命令に基づいて距離画像センサ1を起動し、作業領域である棚板53の二次元画像を撮像させる。そして、設定部7は、距離画像センサ1が撮像した二次元画像に画像処理(エッジ検出やラベリング処理など)を施すことによって、設定用シートS11〜S14の位置、形状及び大きさと、設定用シートS11〜S14に表示された識別コードを抽出する。図1(a)の例では設定用シートS11,S12,S13,S14にそれぞれ識別コードとして「01」「02」「03」「04」の数字が付されており、設定部7は、設定用シートS11〜S14に付された数字の昇順を各検知領域の検知順序として設定する。したがって、設定部7は、設定用シートS11,S12,S13,S14がそれぞれ置かれた領域を検知領域A11,A12,A13,A14として設定する。また設定部7は、設定用シートS11,S12,S13,S14に付された識別コードの昇順で各検知領域A11〜A14の検知順序を設定しており、図1(a)の例ではA11→A12→A13→A14の順番に検知順序が設定される。また識別コードの「01」「02」「03」「04」には、検知対象であるワークの種別を示す情報も含まれている。而して、設定部7は、検知領域A11,A12,A13,A14での検知対象をそれぞれワークW11,W12,W13,W14と設定する。   First, as shown in FIG. 1A, the setting operator uses setting sheets S11, S12, S13, and S14 formed in the same shape and size as the detection areas A11, A12, A13, and A14 to be set. It arrange | positions in the position to set on the shelf board 53. FIG. Thereafter, when the setting operator inputs a setting command to the detection device 2 using the input device 3, the setting unit 7 of the detection device 2 activates the distance image sensor 1 based on the setting command, and the shelf board which is a work area 53 two-dimensional images are taken. Then, the setting unit 7 performs image processing (edge detection, labeling processing, etc.) on the two-dimensional image captured by the distance image sensor 1, thereby setting the position, shape, and size of the setting sheets S <b> 11 to S <b> 14 and the setting sheet. The identification code displayed in S11 to S14 is extracted. In the example of FIG. 1A, numbers “01”, “02”, “03”, and “04” are assigned as identification codes to the setting sheets S11, S12, S13, and S14, respectively. The ascending order of the numbers given to the sheets S11 to S14 is set as the detection order of each detection area. Therefore, the setting unit 7 sets the areas where the setting sheets S11, S12, S13, and S14 are placed as detection areas A11, A12, A13, and A14. The setting unit 7 sets the detection order of the detection areas A11 to A14 in ascending order of the identification codes attached to the setting sheets S11, S12, S13, and S14. In the example of FIG. The detection order is set in the order of A12 → A13 → A14. The identification codes “01”, “02”, “03”, and “04” also include information indicating the type of work that is a detection target. Thus, the setting unit 7 sets the detection targets in the detection areas A11, A12, A13, and A14 as workpieces W11, W12, W13, and W14, respectively.

設定部7は、上述のようにして検知領域及びその検知順序を設定すると、設定内容をモニタ6に表示させる。設定作業者は、モニタ6に表示された設定内容を確認し、入力装置3を用いて設定完了を入力すると、設定部7は、設定完了の入力に基づいて、検知領域及びその検知順序の設定内容を記憶部9に記憶させ、設定処理を終了する。その後、検知装置2が検査処理を開始すると、記憶部9に記憶された検知領域及びその検知順序に従って作業内容の検査処理が実行される。   When the setting unit 7 sets the detection area and its detection order as described above, the setting unit 7 displays the setting content on the monitor 6. When the setting operator confirms the setting content displayed on the monitor 6 and inputs the setting completion using the input device 3, the setting unit 7 sets the detection area and its detection order based on the setting completion input. The contents are stored in the storage unit 9 and the setting process is terminated. Thereafter, when the detection device 2 starts the inspection process, the inspection process of the work content is executed according to the detection area and the detection order stored in the storage unit 9.

ここで、ワークW11,W12,W13,W14がそれぞれ検知される検知領域A11,A12,A13,A14が作業内容の変更によって図1(d)に示すように変更された場合、検知装置2に変更後の検知領域及びその検知順序を設定する必要がある。尚、図1(d)の例では検知領域A11〜A13が棚板53において図中上側に設定され、検知領域A14が棚板53において図中左下側に設定される。   Here, when the detection areas A11, A12, A13, and A14 in which the workpieces W11, W12, W13, and W14 are detected are changed as shown in FIG. It is necessary to set a later detection area and its detection order. In the example of FIG. 1D, the detection areas A11 to A13 are set on the upper side in the figure on the shelf 53, and the detection area A14 is set on the lower left side in the figure on the shelf 53.

検知領域を図1(d)のように変更したい場合、設定作業者は、図1(c)に示すように検知領域A11,A12,A13,A14にそれぞれ対応した設定用シートS11,S12,S13,S14を棚板53上の設定したい位置に配置する。そして、設定作業者が入力装置3を用いて検知装置2に設定命令を入力すると、検知装置2の設定部7は、設定命令に基づいて距離画像センサ1を起動し、作業領域である棚板53の二次元画像を撮像させる。この時、設定部7は、距離画像センサ1が撮像した二次元画像に画像処理を施すことによって、設定用シートS11〜S14の位置と形状と大きさとを検出するとともに、設定用シートS11〜S14に表示された識別コードを抽出する。そして、設定部7は、設定用シートS11,S12,S13,S14がそれぞれ置かれた領域を検知領域A11,A12,A13,A14として設定する。また設定部7は、設定用シートS11,S12,S13,S14に付された識別コードの昇順で各検知領域A11〜A14の検知順序を設定する。また、識別コードには検知対象であるワークの情報が含まれているので、設定部7は、変更後の検知領域A11,A12,A13,A14でそれぞれワークW11,W12,W13,W14の存否を検知するよう検知対象を設定する。   When it is desired to change the detection area as shown in FIG. 1D, the setting operator sets sheets S11, S12, and S13 corresponding to the detection areas A11, A12, A13, and A14, respectively, as shown in FIG. , S14 are arranged at positions to be set on the shelf board 53. When the setting operator inputs a setting command to the detection device 2 using the input device 3, the setting unit 7 of the detection device 2 activates the distance image sensor 1 based on the setting command, and the shelf board which is a work area 53 two-dimensional images are taken. At this time, the setting unit 7 detects the position, shape, and size of the setting sheets S11 to S14 by performing image processing on the two-dimensional image captured by the distance image sensor 1, and sets the setting sheets S11 to S14. The identification code displayed in is extracted. Then, the setting unit 7 sets the areas where the setting sheets S11, S12, S13, and S14 are placed as detection areas A11, A12, A13, and A14. The setting unit 7 sets the detection order of the detection areas A11 to A14 in ascending order of the identification codes attached to the setting sheets S11, S12, S13, and S14. In addition, since the identification code includes information on the workpiece to be detected, the setting unit 7 determines whether or not the workpieces W11, W12, W13, and W14 exist in the changed detection areas A11, A12, A13, and A14, respectively. Set the detection target to detect.

設定部7は、上述のようにして変更後の検知領域及びその検知順序を設定すると、設定内容をモニタ6に表示させる。設定作業者は、モニタ6に表示された設定内容を確認し、入力装置3を用いて設定完了を入力すると、設定部7は、設定完了の入力に基づいて、変更後の検知領域及びその検知順序の設定内容を記憶部9に記憶させ、設定処理を終了する。その後、検知装置2が検査処理を開始すると、記憶部9に記憶された変更後の検知領域及びその検知順序に従って作業内容の検査処理が実行される。   The setting unit 7 displays the setting content on the monitor 6 when the changed detection area and the detection order are set as described above. When the setting operator confirms the setting contents displayed on the monitor 6 and inputs setting completion using the input device 3, the setting unit 7 detects the changed detection area and its detection based on the setting completion input. The setting contents of the order are stored in the storage unit 9, and the setting process is terminated. Thereafter, when the detection device 2 starts the inspection process, the inspection process for the work content is executed according to the changed detection area and the detection order stored in the storage unit 9.

上述の設定例では、変更前と変更後とで検知領域A11〜A14の位置を異ならせているが、検知領域A11〜A14の検知順序を変更することもできる。   In the above setting example, the positions of the detection areas A11 to A14 are different between before and after the change, but the detection order of the detection areas A11 to A14 can be changed.

図2(a)に示すように作業領域となる棚板53上に設定用シートS11,S12,S13,S14を配置し、上述した設定方法により対応する検知領域A11,A12,A13,A14の位置及び範囲が図2(b)に示すように設定されているものとする。ここで、設定用シートS11,S12,S13,S14にはそれぞれ識別コードとして「A01」「B02」「C03」「D04」が表示されている。識別コードは、1文字のアルファベットと2桁の数字の組み合わせからなる。1文字のアルファベットはワークの種別を示す種別情報である。2桁の数字は、対応する検知領域の検知順序を示す情報である。この識別コードを用いれば、各検知領域で検知されるワークと、各検知領域の検知順序とを別個に設定することができる。設定部7では、設定用シートS11,S12,S13,S14にそれぞれ付された識別コードのアルファベットをもとに、対応する検知領域A11,A12,A13,A14での検知対象を設定する。図2の例では検知領域A11の検知対象がワークW11に、検知領域A12の検知対象がワークW12に、検知領域A13の検知対象がワークW13に、検知領域A14の検知対象がワークW14にそれぞれ設定される。また、複数種類のワークについて高さ、面積、形状などの部品情報が予め記憶部9に登録されていれば、設定部7は、各検知領域A11〜A14の検知対象であるワークW11〜W14の部品情報を記憶部9から読み込むことができる。よって、作業者がワークの部品情報を入力する作業や、各検知領域A11〜A14に置かれたワークW11〜W14の部品情報を二次元画像や距離画像から検出して登録する処理が不要になる。また設定部7は、設定用シートS11,S12,S13,S14にそれぞれ付された識別コードの数字をもとに、対応する検知領域A11,A12,A13,A14の検知順序をA11→A12→A13→A14と設定する。   As shown in FIG. 2A, the setting sheets S11, S12, S13, and S14 are arranged on the shelf board 53 as the work area, and the corresponding detection areas A11, A12, A13, and A14 are positioned by the setting method described above. It is assumed that the range is set as shown in FIG. Here, “A01”, “B02”, “C03”, and “D04” are displayed as identification codes on the setting sheets S11, S12, S13, and S14, respectively. The identification code consists of a combination of a single alphabet and a two-digit number. The one-character alphabet is type information indicating the type of work. The 2-digit number is information indicating the detection order of the corresponding detection area. If this identification code is used, the work detected in each detection area and the detection order of each detection area can be set separately. The setting unit 7 sets the detection targets in the corresponding detection areas A11, A12, A13, and A14 based on the alphabets of the identification codes attached to the setting sheets S11, S12, S13, and S14, respectively. In the example of FIG. 2, the detection target of the detection area A11 is set to the work W11, the detection target of the detection area A12 is set to the work W12, the detection target of the detection area A13 is set to the work W13, and the detection target of the detection area A14 is set to the work W14. Is done. In addition, if component information such as height, area, and shape is registered in advance in the storage unit 9 for a plurality of types of workpieces, the setting unit 7 sets the workpieces W11 to W14 that are detection targets of the detection regions A11 to A14. The component information can be read from the storage unit 9. This eliminates the need for the operator to input the workpiece component information and the processing for detecting and registering the component information of the workpieces W11 to W14 placed in the detection areas A11 to A14 from the two-dimensional image and the distance image. . Further, the setting unit 7 sets the detection order of the corresponding detection areas A11, A12, A13, and A14 based on the numbers of the identification codes attached to the setting sheets S11, S12, S13, and S14, respectively, from A11 to A12 to A13. → Set as A14.

ここで、検知領域A11,A12,A13,A14の検知順序をA13→A12→A11→A14と変更する場合について、以下に説明する。   Here, a case where the detection order of the detection areas A11, A12, A13, and A14 is changed from A13 to A12 to A11 to A14 will be described below.

この場合、各検知領域A11〜A14の範囲や検知対象のワークは変更されず、検知領域A11と検知領域A13の検知順序のみが入れ替わる。すなわち、検知領域A11に対応する設定用シートS11の識別コードが「A03」に変更され、検知領域A13に対応する設定用シートS13の識別コードが「C01」に変更される。   In this case, the ranges of the detection areas A11 to A14 and the workpieces to be detected are not changed, and only the detection order of the detection areas A11 and A13 is switched. That is, the identification code of the setting sheet S11 corresponding to the detection area A11 is changed to “A03”, and the identification code of the setting sheet S13 corresponding to the detection area A13 is changed to “C01”.

変更後の検知領域を設定する場合、先ず設定作業者は、図2(c)に示すように、識別コードが「A03」の設定用シートS11と、識別コードが「B02」の設定用シートS12と、識別コードが「C01」の設定用シートS13と、識別コードが「D04」の設定用シートS14とを棚板53上の所望の位置に配置する。そして、設定作業者が入力装置3を用いて検知装置2に設定命令を入力すると、検知装置2の設定部7は、設定命令に基づいて距離画像センサ1を起動し、作業領域である棚板53の二次元画像を撮像させる。この時、設定部7は、距離画像センサ1が撮像した二次元画像に画像処理(エッジ検出やラベリング処理など)を施すことによって、設定用シートS11〜S14の位置と形状と大きさとを検出する。また設定部7は、二次元画像に画像処理(パターンマッチングなど)を施すことによって、設定用シートS11〜S14に表示された識別コードを抽出する。そして、設定部7は、識別コードのアルファベットをもとに、設定用シートS11,S12,S13,S14がそれぞれ置かれた領域を、ワークW11,W12,W13,W14にそれぞれ対応した検知領域A11,A12,A13,A14として設定する(図2(d)参照)。また設定部7は、識別コードの数字をもとに、各検知領域A11〜A14の検知順序をA13→A12→A11→A14の順番に設定する。   When setting the detection area after the change, the setting operator first sets the setting sheet S11 with the identification code “A03” and the setting sheet S12 with the identification code “B02” as shown in FIG. Then, the setting sheet S13 whose identification code is “C01” and the setting sheet S14 whose identification code is “D04” are arranged at desired positions on the shelf board 53. When the setting operator inputs a setting command to the detection device 2 using the input device 3, the setting unit 7 of the detection device 2 activates the distance image sensor 1 based on the setting command, and the shelf board which is a work area 53 two-dimensional images are taken. At this time, the setting unit 7 detects the positions, shapes, and sizes of the setting sheets S11 to S14 by performing image processing (edge detection, labeling processing, etc.) on the two-dimensional image captured by the distance image sensor 1. . The setting unit 7 extracts the identification code displayed on the setting sheets S11 to S14 by performing image processing (pattern matching or the like) on the two-dimensional image. Then, the setting unit 7 detects the areas where the setting sheets S11, S12, S13, and S14 are placed based on the alphabets of the identification codes, as detection areas A11, Set as A12, A13, and A14 (see FIG. 2D). The setting unit 7 sets the detection order of the detection areas A11 to A14 in the order of A13 → A12 → A11 → A14 based on the number of the identification code.

設定部7は、上述のようにして変更後の検知領域及びその検知順序を設定すると、設定内容をモニタ6に表示させる。設定作業者は、モニタ6に表示された設定内容を確認し、入力装置3を用いて設定完了を入力すると、設定部7は、設定完了の入力に基づいて、変更後の検知領域及びその検知順序の設定内容を記憶部9に記憶させ、設定処理を終了する。その後、検知装置2は、検査処理を開始すると、記憶部9に記憶された変更後の検知領域及びその検知順序に従って作業内容の検査処理を実行する。   The setting unit 7 displays the setting content on the monitor 6 when the changed detection area and the detection order are set as described above. When the setting operator confirms the setting contents displayed on the monitor 6 and inputs setting completion using the input device 3, the setting unit 7 detects the changed detection area and its detection based on the setting completion input. The setting contents of the order are stored in the storage unit 9, and the setting process is terminated. After that, when the inspection apparatus starts the inspection process, the inspection apparatus 2 executes the inspection process of the work content according to the changed detection area and the detection order stored in the storage unit 9.

このように、本実施形態の設定方法では、検知領域A11〜A14にそれぞれ対応した設定用シートS11〜S14を用いて検知領域とその検知順序を設定しているので、検知順序の変更にも容易に対応することができる。尚、各検知領域で検出されるワークが変更される場合は、識別コードに含まれる種別情報が変更された設定用シートを用いて検知領域の設定作業を行えば、各検知領域で検出されるワークの種別を容易に変更することができる。   As described above, in the setting method of the present embodiment, since the detection areas and the detection order are set using the setting sheets S11 to S14 respectively corresponding to the detection areas A11 to A14, it is easy to change the detection order. It can correspond to. In addition, when the workpiece detected in each detection area is changed, if the detection area is set using the setting sheet in which the type information included in the identification code is changed, the detection is detected in each detection area. The type of workpiece can be easily changed.

また、本実施形態の検知方法を用いれば、各検知領域A11〜A14の範囲(形状や大きさ)を変更する作業も容易に行える。   Moreover, if the detection method of this embodiment is used, the operation | work which changes the range (shape and magnitude | size) of each detection area | region A11-A14 can also be performed easily.

図3(a)に示すように作業領域となる棚板53上に設定用シートS11,S12,S13,S14を配置し、上述した設定方法により対応する検知領域A11,A12,A13,A14の位置及び範囲が図3(b)に示すように設定されているものとする。ここで、設定用シートS11,S12,S13,S14にはそれぞれ識別コードとして「01」「02」「03」「04」が表示されている。識別コードは2個の数字からなり、この識別コードは検知順序を示すとともに、検知対象であるワークW11,W12,W13,W14の情報も含んでいる。而して、設定部7は、設定用シートS11,S12,S13,S14にそれぞれ付された識別コードをもとに、対応する検知領域A11,A12,A13,A14の検知順序と、各検知領域での検知対象がそれぞれ設定される。   As shown in FIG. 3 (a), setting sheets S11, S12, S13, and S14 are arranged on a shelf 53 as a work area, and the corresponding detection areas A11, A12, A13, and A14 are positioned by the setting method described above. And the range is set as shown in FIG. Here, “01”, “02”, “03”, and “04” are displayed as identification codes on the setting sheets S11, S12, S13, and S14, respectively. The identification code consists of two numbers, and this identification code indicates the detection order and includes information on the workpieces W11, W12, W13, and W14 that are detection targets. Thus, the setting unit 7 detects the detection order of the corresponding detection areas A11, A12, A13, and A14 and the detection areas based on the identification codes assigned to the setting sheets S11, S12, S13, and S14. The detection target in is set respectively.

ここで、各検知領域A11,A12,A13,A14の範囲(形状及び大きさ)を変更する場合について、以下に説明する。この場合、各検知領域A11〜A14の検知順序や検知対象のワークは変更されず、検知領域A11,A12,A13,A14の範囲のみが変更される。   Here, the case where the ranges (shape and size) of the detection areas A11, A12, A13, and A14 are changed will be described below. In this case, the detection order of the detection areas A11 to A14 and the detection target workpiece are not changed, and only the ranges of the detection areas A11, A12, A13, and A14 are changed.

設定作業者は、変更後の検知領域A11,A12,A13,A14(図3(d)参照)にそれぞれ対応した形状及び大きさの設定用シートS21,S22,S23,S24を用意する。各検知領域A11〜A14の検知順序及び検知対象のワークに変更はないので、設定用シートS21,S22,S23,S24には、それぞれ識別コードとして「01」「02」「03」「04」の数字が付されている。そして、設定作業者は、図3(c)に示すように、変更後の検知領域A11,A12,A13,A14にそれぞれ対応する位置に設定用シートS21,S22,S23,S24を配置する。   The setting operator prepares setting sheets S21, S22, S23, and S24 having shapes and sizes respectively corresponding to the detection areas A11, A12, A13, and A14 after the change (see FIG. 3D). Since there is no change in the detection order of the detection areas A11 to A14 and the workpieces to be detected, the setting sheets S21, S22, S23, and S24 have identification codes “01”, “02”, “03”, and “04”, respectively. Numbers are attached. Then, as shown in FIG. 3C, the setting operator arranges setting sheets S21, S22, S23, and S24 at positions corresponding to the changed detection areas A11, A12, A13, and A14, respectively.

その後、設定作業者が入力装置3を用いて検知装置2に設定命令を入力すると、検知装置2の設定部7は、設定命令に基づいて距離画像センサ1を起動し、作業領域である棚板53の二次元画像を撮像させる。この時、設定部7は、距離画像センサ1が撮像した二次元画像に画像処理(エッジ検出やラベリング処理など)を施すことによって、設定用シートS21〜S24の位置と形状と大きさとを検出する。また設定部7は、二次元画像に画像処理(パターンマッチングなど)を施すことによって、設定用シートS21〜S24に表示された識別コードを抽出する。そして、設定部7は、抽出した識別コードをもとに、設定用シートS21,S22,S23,S24がそれぞれ置かれた領域を、ワークW11,W12,W13,W14にそれぞれ対応した検知領域A11,A12,A13,A14として設定する。また設定部7は、抽出した識別コードをもとに、各検知領域A11〜A14の検知順序をA11→A12→A13→A14の順番に設定する。   Thereafter, when the setting operator inputs a setting command to the detection device 2 using the input device 3, the setting unit 7 of the detection device 2 activates the distance image sensor 1 based on the setting command, and the shelf board which is a work area 53 two-dimensional images are taken. At this time, the setting unit 7 detects the position, shape, and size of the setting sheets S21 to S24 by performing image processing (edge detection, labeling processing, etc.) on the two-dimensional image captured by the distance image sensor 1. . The setting unit 7 extracts the identification code displayed on the setting sheets S21 to S24 by performing image processing (pattern matching or the like) on the two-dimensional image. Then, based on the extracted identification code, the setting unit 7 determines the areas where the setting sheets S21, S22, S23, and S24 are placed, as detection areas A11, W11, W13, and W14 corresponding to the workpieces W11, W12, W13, and W14, respectively. Set as A12, A13, A14. The setting unit 7 sets the detection order of the detection areas A11 to A14 in the order of A11 → A12 → A13 → A14 based on the extracted identification code.

このように、本実施形態の設定方法では、変更後の検知領域A11〜A14にそれぞれ対応した形状及び大きさの設定用シートS21〜S24を用いて検知領域とその検知順序を再設定しているので、検知領域の範囲(形状及び大きさ)の変更にも容易に対応できる。   As described above, in the setting method of the present embodiment, the detection areas and the detection order thereof are reset using the setting sheets S21 to S24 having shapes and sizes respectively corresponding to the detection areas A11 to A14 after the change. Therefore, it is possible to easily cope with a change in the range (shape and size) of the detection area.

以上説明したように、本実施形態の設定方法は、距離画像センサ1と、検知装置2と、報知装置(音出力装置4及び照射装置5)と、設定装置(設定部7)とを備えた作業検知システムの設定方法である。距離画像センサ1は作業領域の距離画像を出力する。検知装置2は、距離画像に現れる作業主体又は作業主体が扱うワークを検知対象とし、距離画像をもとに作業内容の異常を検知すると報知命令を出力する。報知装置は報知命令が入力されると報知動作を行う。設定装置は、距離画像内で検知装置2が検知対象の存否を検知する複数の検知領域及びその検知順序を設定する。そして、この設定方法では、それぞれ設定対象の検知領域と同じ大きさに形成され且つ検知順序の情報を含む識別コードが付された設定用シートを作業領域に配置した状態で作業領域を二次元カメラ(距離画像センサ1が兼用)で撮影する。設定装置は、二次元カメラの画像を解析することによって作業領域に配置された設定用シートの位置及び設定用シートに付された識別コードを検出する。そして、設定装置は、検出された設定用シートの位置及び範囲をもとに検知領域を設定し、且つ、設定用シートに付された識別コードをもとに検知順序を設定することを特徴とする。   As described above, the setting method of the present embodiment includes the distance image sensor 1, the detection device 2, the notification device (the sound output device 4 and the irradiation device 5), and the setting device (setting unit 7). It is a setting method of a work detection system. The distance image sensor 1 outputs a distance image of the work area. The detection device 2 targets a work subject appearing in the distance image or a work handled by the work subject, and outputs a notification command when an abnormality in the work content is detected based on the distance image. The notification device performs a notification operation when a notification command is input. The setting device sets a plurality of detection areas in which the detection device 2 detects the presence / absence of the detection target and the detection order thereof in the distance image. In this setting method, the work area is set in the two-dimensional camera in a state where the setting sheet formed with the same size as the detection area to be set and attached with the identification code including the detection order information is arranged in the work area. The distance image sensor 1 is also used for photographing. The setting device detects the position of the setting sheet arranged in the work area and the identification code attached to the setting sheet by analyzing the image of the two-dimensional camera. The setting device sets a detection area based on the detected position and range of the setting sheet, and sets a detection order based on an identification code attached to the setting sheet. To do.

これにより、設定用シートが所望の検知領域に置かれた状態を二次元カメラで撮影すると、設定装置が、二次元カメラの画像を解析することによって、検知領域及びその検知順序が設定される。したがって、設定作業者は、検知領域の範囲に合わせた形状及び大きさの設定用シートを所望の位置に置き、その状態を二次元カメラで撮影するだけで、検知領域や検知順序の設定が行えるから、検知領域や検知順序の設定を容易に行うことができる。   Accordingly, when the setting sheet is photographed with the two-dimensional camera in a state where the setting sheet is placed in the desired detection area, the setting device analyzes the image of the two-dimensional camera, thereby setting the detection area and its detection order. Therefore, the setting operator can set the detection area and the detection order simply by placing a setting sheet having a shape and size matching the range of the detection area at a desired position and photographing the state with a two-dimensional camera. Therefore, it is possible to easily set the detection area and the detection order.

この設定方法において、識別コードには、対応する検知領域で検出されるワークの種別情報が含まれ、設定装置が、設定用シートに付された識別コードをもとに、対応する検知領域で検出されるワークの種別を設定することも好ましい。   In this setting method, the identification code includes the type information of the workpiece detected in the corresponding detection area, and the setting device detects in the corresponding detection area based on the identification code attached to the setting sheet. It is also preferable to set the type of workpiece to be processed.

これにより、各検知領域で検出されるワークの種別が変更される場合にも、種別情報が変更された識別コードの付されている設定用シートを用いることで、ワークの種別変更に容易に対応することができる。また、複数種類のワークについて高さ、面積、形状などの部品情報が予め記憶部9に登録されていれば、設定装置は、各検知領域の検知対象であるワークの部品情報を記憶部9から読み込むことができる。よって、作業者がワークの部品情報を入力する作業や、各検知領域に置かれたワークの部品情報を二次元画像や距離画像から検出して登録する処理が不要になる。   As a result, even when the type of workpiece detected in each detection area is changed, the setting sheet with the identification code with the changed type information can be used to easily handle the type change of the workpiece. can do. In addition, if component information such as height, area, and shape is registered in advance in the storage unit 9 for a plurality of types of workpieces, the setting device stores the component information of the workpieces to be detected in each detection area from the storage unit 9. Can be read. Therefore, there is no need for an operator to input workpiece part information or a process for detecting and registering workpiece part information placed in each detection area from a two-dimensional image or a distance image.

また、本実施形態の作業検知システムは、上述した何れかの設定方法を用い、距離画像センサ1と、検知装置2と、報知装置(音出力装置4及び照射装置5)と、設定装置(設定部7)と、二次元カメラ(距離画像センサ1で兼用)とを備えることを特徴とする。   In addition, the work detection system of the present embodiment uses any of the setting methods described above, the distance image sensor 1, the detection device 2, the notification device (the sound output device 4 and the irradiation device 5), and the setting device (setting). Unit 7) and a two-dimensional camera (shared with the distance image sensor 1).

これにより、検知領域や検知順序の設定を容易に行うことができる作業検知システムを実現できる。   Thereby, the operation | work detection system which can set a detection area and a detection order easily is realizable.

また本実施形態の設定方法ではワークの検知領域とその検知順序を設定しているが、検知領域で検出されるワークの高さ情報を設定することもできる。   In the setting method of the present embodiment, the workpiece detection area and the detection order are set. However, workpiece height information detected in the detection area can also be set.

先ず設定作業者は、図4(a)に示すように作業領域となる棚板53上に設定用シートS11,S12,S13,S14を配置し、上述した設定方法により対応する検知領域A11,A12,A13,A14の検知領域及びその検知順序を行う。次に設定作業者は、図4(b)に示すように設定用シートS11,S12,S13,S14の上に各検知領域で検知されるワークW11,W12,W13,W14を載せた後、入力装置3を用いてワークの高さ情報を登録する登録命令を入力する。この時、検知装置2の設定部7は、登録命令に基づいて距離画像センサ1を起動し、作業領域である棚板53の距離画像を撮像させる。そして、設定部7は、距離画像センサ1によって撮像された距離画像をもとに、検知領域A11,A12,A13,A14のそれぞれに配置されたワークW11,W12,W13,W14の高さ寸法及び面積値を検出し、記憶部9に登録する。   First, as shown in FIG. 4A, the setting worker arranges setting sheets S11, S12, S13, and S14 on the shelf board 53 that is a work area, and the corresponding detection areas A11 and A12 by the setting method described above. , A13, A14 and the detection order thereof. Next, as shown in FIG. 4B, the setting operator puts the workpieces W11, W12, W13, and W14 detected in each detection area on the setting sheets S11, S12, S13, and S14, and then inputs them. A registration command for registering workpiece height information is input using the apparatus 3. At this time, the setting unit 7 of the detection device 2 activates the distance image sensor 1 based on the registration command, and captures a distance image of the shelf board 53 that is a work area. And the setting part 7 is based on the distance image imaged by the distance image sensor 1, and the height dimension of the workpiece | work W11, W12, W13, W14 arrange | positioned in each of detection area | region A11, A12, A13, A14, and The area value is detected and registered in the storage unit 9.

ここで、ワークW11を例に距離画像からワークW11の高さ寸法及び面積値を検出する方法について説明する。図5(a)はワークW11が棚板53に置かれた状態の平面図、図5(b)はワークW11が棚板53に置かれた状態の側面図である。設定部7には、ワークW11〜W14の各々について高さ寸法の上限値h2及び下限値h3と、面積の上限値及び下限値とが予め設定されている。尚、設定部7は、高さ寸法が上限値h2と下限値h3との間に入る画素数をワークの面積として求めている。設定部7は、高さ寸法が上限値h2と下限値h3との間に入る画素の集まりを抽出し、面積が上限値と下限値との間に入る画素群をワークW11と判断する。そして、設定部7は、この画素群について上限値h2と下限値h3との間に入る高さ寸法の平均値を求めることによってワークW11の高さ寸法h1を求め、また画素群に含まれる画素数から面積を求める。設定部7は他のワークW12〜W14についても同様の処理を行って高さ寸法及び面積を求め、ワークW11〜W14の高さ寸法及び面積値を記憶部9に記憶させる。これにより、検知装置2には、ワークの正確な高さ情報を予め登録しておく必要が無く、実際にワークW11〜W14を検知領域に置いた状態で各ワークW11〜W14の高さ情報を取得できるから、設定の手間が簡略化される。   Here, a method of detecting the height dimension and area value of the workpiece W11 from the distance image will be described taking the workpiece W11 as an example. 5A is a plan view of a state in which the work W11 is placed on the shelf board 53, and FIG. 5B is a side view of a state in which the work W11 is placed on the shelf board 53. In the setting unit 7, an upper limit value h2 and a lower limit value h3 of the height dimension and an upper limit value and a lower limit value of the area are set in advance for each of the workpieces W11 to W14. The setting unit 7 obtains the number of pixels whose height dimension is between the upper limit value h2 and the lower limit value h3 as the work area. The setting unit 7 extracts a group of pixels whose height dimension falls between the upper limit value h2 and the lower limit value h3, and determines the pixel group whose area falls between the upper limit value and the lower limit value as the work W11. Then, the setting unit 7 obtains the height dimension h1 of the workpiece W11 by obtaining the average value of the height dimensions that fall between the upper limit value h2 and the lower limit value h3 for this pixel group, and the pixels included in the pixel group Find the area from the number. The setting unit 7 performs the same process on the other workpieces W12 to W14 to obtain the height dimension and area, and stores the height dimension and area value of the workpieces W11 to W14 in the storage unit 9. Thereby, it is not necessary to register the accurate height information of the workpiece in the detection device 2 in advance, and the height information of each workpiece W11 to W14 is actually placed in a state where the workpieces W11 to W14 are placed in the detection area. Since it can be acquired, the setting effort is simplified.

1 距離画像センサ(二次元カメラ)
2 検知装置
4 音出力装置(報知装置)
5 照射装置(報知装置)
7 設定部(設定装置)
53 棚板
A11〜A14 検知領域
S11〜S14 設定用シート
W11〜W14 ワーク
1. Distance image sensor (two-dimensional camera)
2 Detection device 4 Sound output device (notification device)
5 Irradiation device (notification device)
7 Setting part (setting device)
53 Shelf A11-A14 Detection area S11-S14 Setting sheet W11-W14 Workpiece

Claims (3)

作業領域の距離画像を出力する距離画像センサと、前記距離画像に現れる作業主体又は前記作業主体が扱うワークを検知対象とし、前記距離画像をもとに作業内容の異常を検知すると報知命令を出力する検知装置と、前記報知命令が入力されると報知動作を行う報知装置と、前記距離画像内で前記検知装置が検知対象の存否を検知する複数の検知領域及びその検知順序を設定する設定装置とを備えた作業検知システムの設定方法であって、
それぞれ設定対象の検知領域に対応した大きさに形成され且つ検知順序の情報を含む識別コードが付された設定用シートを前記作業領域に配置した状態で前記作業領域を二次元カメラで撮影し、
前記設定装置が、前記二次元カメラの画像を解析することによって前記作業領域に配置された前記設定用シートの位置及び範囲と前記設定用シートに付された識別コードを検出し、
検出された前記設定用シートの位置及び範囲をもとに検知領域を設定し、且つ、前記設定用シートに付された識別コードをもとに検知順序を設定することを特徴とする作業検知システムの設定方法。
A distance image sensor that outputs a distance image of a work area, and a work subject appearing in the distance image or a work handled by the work subject is detected, and a notification command is output when an abnormality in work content is detected based on the distance image A detection device that performs a notification operation when the notification command is input, and a setting device that sets a plurality of detection areas and a detection order in which the detection device detects presence or absence of a detection target in the distance image. A method for setting a work detection system comprising:
Each of the work areas is photographed with a two-dimensional camera in a state where a setting sheet formed with a size corresponding to the detection area to be set and attached with an identification code including detection order information is arranged in the work area.
The setting device detects the position and range of the setting sheet arranged in the work area and the identification code attached to the setting sheet by analyzing the image of the two-dimensional camera;
A work detection system that sets a detection area based on the detected position and range of the setting sheet and sets a detection order based on an identification code attached to the setting sheet. Setting method.
前記識別コードには、対応する前記検知領域で検出されるワークの種別情報が含まれており、
前記設定装置が、前記設定用シートに付された識別コードをもとに、対応する検知領域で検出されるワークの種別を設定することを特徴とする請求項1記載の作業検知システムの設定方法。
The identification code includes type information of a workpiece detected in the corresponding detection area,
2. The work detection system setting method according to claim 1, wherein the setting device sets a type of a work detected in a corresponding detection area based on an identification code attached to the setting sheet. .
請求項1又は2の何れか1つに記載した設定方法を用いる作業検知システムであって、前記距離画像センサと、前記検知装置と、前記報知装置と、前記設定装置と、前記二次元カメラとを備えることを特徴とする作業検知システム。   A work detection system using the setting method according to claim 1, wherein the distance image sensor, the detection device, the notification device, the setting device, and the two-dimensional camera A work detection system comprising:
JP2012004665A 2012-01-13 2012-01-13 Work detection system setting method and work detection system using the same Active JP5891399B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012004665A JP5891399B2 (en) 2012-01-13 2012-01-13 Work detection system setting method and work detection system using the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012004665A JP5891399B2 (en) 2012-01-13 2012-01-13 Work detection system setting method and work detection system using the same

Publications (2)

Publication Number Publication Date
JP2013145422A JP2013145422A (en) 2013-07-25
JP5891399B2 true JP5891399B2 (en) 2016-03-23

Family

ID=49041199

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012004665A Active JP5891399B2 (en) 2012-01-13 2012-01-13 Work detection system setting method and work detection system using the same

Country Status (1)

Country Link
JP (1) JP5891399B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10482341B2 (en) 2016-09-29 2019-11-19 Fanuc Corporation Object recognition device and object recognition method

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016001354A (en) * 2014-06-11 2016-01-07 パナソニックIpマネジメント株式会社 Projection area setting device, and work detection system using the projection area setting device
JP7139570B2 (en) * 2016-09-12 2022-09-21 沖電気工業株式会社 production navigation system
JP6675086B2 (en) * 2018-08-21 2020-04-01 パナソニックIpマネジメント株式会社 Work detection system
JP7324618B2 (en) * 2019-06-03 2023-08-10 株式会社日立製作所 Work monitoring device and work monitoring method

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7558440B2 (en) * 1998-09-30 2009-07-07 Canon Kabushiki Kaisha Image processing apparatus and method, photographing system, controlling method for the system, and computer-readable memory
JP2004340832A (en) * 2003-05-16 2004-12-02 Matsushita Electric Ind Co Ltd Method and system for visual inspection of circuit board
JP4382447B2 (en) * 2003-11-19 2009-12-16 ダイハツ工業株式会社 Missing item inspection device
JP4960025B2 (en) * 2006-06-09 2012-06-27 日立情報通信エンジニアリング株式会社 Work management system
JP4784752B2 (en) * 2006-06-30 2011-10-05 サクサ株式会社 Image processing device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10482341B2 (en) 2016-09-29 2019-11-19 Fanuc Corporation Object recognition device and object recognition method

Also Published As

Publication number Publication date
JP2013145422A (en) 2013-07-25

Similar Documents

Publication Publication Date Title
JP5887526B2 (en) Work detection system
US10466033B2 (en) Device, method and apparatus for measuring size of object
JP7174074B2 (en) Image processing equipment, work robots, substrate inspection equipment and specimen inspection equipment
JP5891399B2 (en) Work detection system setting method and work detection system using the same
TWI622541B (en) Electronic component transfer device and electronic component inspection device
US9571795B2 (en) Image processing device and image processing program
JP2017014014A (en) Image processing apparatus
JP2018049591A5 (en) Image processing apparatus, image processing method, and program
JP5438475B2 (en) Gap step measurement device, gap step measurement method, and program thereof
CN109835706B (en) Workpiece configuration system
JP6757517B2 (en) Visual confirmation support device and visual confirmation support method
JP6092602B2 (en) Defect inspection apparatus and defect inspection method
JP5985298B2 (en) Storage device and storage method for singulated material
JP5580553B2 (en) Camera installation position detection device, detection method, and camera installation position detection jig
US20170330334A1 (en) Movement direction determination method and movement direction determination device
JP2021124330A (en) Method and device for detecting liquid surface
JP7366651B2 (en) Shelf imaging device and information processing device
JP5613359B2 (en) X-ray counter
JP6675086B2 (en) Work detection system
JP2016001354A (en) Projection area setting device, and work detection system using the projection area setting device
JPWO2020017546A1 (en) Imaging device and imaging method
JPWO2019186974A1 (en) Image identification cash register device, image identification cash register system, product information display method, and program
JP7485153B2 (en) CONTROL DEVICE, INSPECTION SYSTEM, CONTROL METHOD, AND PROGRAM
AU2017273658B2 (en) Method for dividing up a blister strip, and apparatus for implementing the method
JP6032587B2 (en) Work detection system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141208

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20150123

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151013

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151106

R151 Written notification of patent or utility model registration

Ref document number: 5891399

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151