JP2007128308A - Monitoring controller and monitoring control method - Google Patents

Monitoring controller and monitoring control method Download PDF

Info

Publication number
JP2007128308A
JP2007128308A JP2005320816A JP2005320816A JP2007128308A JP 2007128308 A JP2007128308 A JP 2007128308A JP 2005320816 A JP2005320816 A JP 2005320816A JP 2005320816 A JP2005320816 A JP 2005320816A JP 2007128308 A JP2007128308 A JP 2007128308A
Authority
JP
Japan
Prior art keywords
image
unit
image data
movable part
storage
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005320816A
Other languages
Japanese (ja)
Other versions
JP4513722B2 (en
Inventor
Takashi Murozaki
隆 室崎
Isao Nagata
功 永田
Toshiyuki Yasuda
俊幸 安田
Kenjiro Maruyama
健二郎 丸山
Nobuaki Omori
宣明 大森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2005320816A priority Critical patent/JP4513722B2/en
Publication of JP2007128308A publication Critical patent/JP2007128308A/en
Application granted granted Critical
Publication of JP4513722B2 publication Critical patent/JP4513722B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing And Monitoring For Control Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a monitoring controller and a monitoring control method capable of storing an image useful for an analysis of the operation of a movable part moving through a plurality of operation steps wherein one operation is divided, and repeating the operation, and allowing the suppression of an increase in the cycle time of the movable part by the image storage. <P>SOLUTION: This monitoring controller 1 comprises: an imaging means 11 acquiring the image of the movable part; a storage means 13 storing the image; and a control means 12. The control means 12 has: a position detection part 122 detecting a position of the movable part on the basis of the image; a movement completion decision part 123 deciding whether or not the movable part arrives at a movement destination in each operation step, and storing the image used for the decision into a temporary storage part 124; a storage step selection part 125 setting an arbitrary operation step among the plurality of operation steps as an image storage step on the basis of a required time of each operation step; and an image storage execution part 126 storing the image stored in the temporary storage part 124 into the image storage means 13. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、可動部を有する設備又は装置の制御を行う監視制御装置及び監視制御方法に関するものであり、より詳しくは、1回の動作を複数の動作ステップに分割して移動する可動部を有する設備又は装置に対して、その可動部を撮影した画像に基づいて制御を行う監視制御装置、及び監視制御方法に関する。   The present invention relates to a monitoring control device and a monitoring control method for controlling a facility or apparatus having a movable portion, and more specifically, has a movable portion that moves by dividing a single operation into a plurality of operation steps. The present invention relates to a monitoring control device and a monitoring control method for controlling equipment or a device based on an image obtained by photographing a movable part thereof.

近年、様々な機械、装置の製造工程や検査工程において、自動化が益々進展し、様々な自動組み立て装置や自動検査装置といった設備が使用されるに至っている。例えば自動組み立て装置では、搬送されてくる部品を捕捉し、捕捉した部品を所定の組み立て位置へ搬送し、そして組み立て位置へ搬送された部品に、別の部品を組み込み、出来上がったものを排出するといった動作を行う。このようなそれぞれの動作を行うために、搬送ユニット、組み立てユニットといった複数の可動部が存在し、これらの可動部は、設備の一回の動作において、複数の動作ステップにしたがって移動する。そして、これらの可動部は、各動作ステップにおいて、所定の位置へ向けて、所定のタイミングで正確に動作することが求められる。   2. Description of the Related Art In recent years, automation has been increasingly progressed in manufacturing processes and inspection processes of various machines and devices, and facilities such as various automatic assembly apparatuses and automatic inspection apparatuses have been used. For example, in an automatic assembling apparatus, a captured part is captured, the captured part is transported to a predetermined assembly position, another part is incorporated into the part transported to the assembly position, and the finished product is discharged. Perform the action. In order to perform each of such operations, there are a plurality of movable parts such as a transport unit and an assembly unit, and these movable parts move according to a plurality of operation steps in one operation of the facility. These movable parts are required to accurately operate at a predetermined timing toward a predetermined position in each operation step.

こうした設備が正常に動作しているか否かを監視し、故障等の異常を検知するために監視カメラ等で設備の画像データを取得し、また異常発生時の原因解析用にその画像データを記憶することが知られている(特許文献1、2参照)。   Monitors whether such equipment is operating normally, acquires equipment image data with a surveillance camera, etc., to detect abnormalities such as failures, and stores the image data for cause analysis when an abnormality occurs It is known (see Patent Documents 1 and 2).

例えば、特許文献1に記載された監視制御装置では、故障検知時の画像データをデータベース化して記憶する。また、特許文献2に記載されたトラブル解析支援装置では、トラブルを発生する設備の有無を人が予め判断し、トラブルが発生すると分かっている設備に対して、トラブル発生前後の一定期間、動画像、音声、制御情報を記憶する。そしてその記憶したデータを用いて、シミュレーションによりトラブルを解析する。   For example, in the monitoring control device described in Patent Document 1, image data at the time of failure detection is stored in a database. In addition, in the trouble analysis support apparatus described in Patent Document 2, a person determines in advance whether or not there is a facility that causes a trouble, and for a facility that is known to cause a trouble, a moving image for a certain period before and after the trouble occurs. Voice, control information is stored. Then, the trouble is analyzed by simulation using the stored data.

さらに、機械装置の状態遷移を逐次記憶し、その記憶及び状態遷移図とコンピュータグラフィック画像を用いて、故障発生時のシミュレーションを行う装置が知られている(特許文献3参照)。   Furthermore, an apparatus is known that sequentially stores state transitions of a mechanical device and performs a simulation when a failure occurs using the storage, state transition diagram, and computer graphic image (see Patent Document 3).

設備の異常発生時の様子を適切に把握するためには、故障発生時からその直前の一定期間の稼動状況が分かる画像データが記憶されていることが望ましい。しかし、この一定期間の画像データを動画像として記憶すると、データ量が膨大となってしまう。一方、静止画として記憶する場合には、適切なタイミングで取得された画像を記憶しなければ、異常発生時の様子をうまく捉えることができず、異常の原因を特定することが困難となってしまう。また、各動作ステップごとに画像データをハードディスクなどに保存すると、画像の保存に要する時間のために、設備の1回の動作に要する時間、すなわちサイクルタイムが長くなり、設備の稼動効率が低下する。そこで、各動作ステップの画像を保存しつつ、その画像保存による1回の動作に要するサイクルタイムの増大を極力抑制できる監視制御装置及び監視制御方法の開発が望まれている。   In order to appropriately grasp the situation when an abnormality occurs in the facility, it is desirable to store image data that indicates the operation status of a certain period immediately before the occurrence of the failure. However, if the image data for a certain period is stored as a moving image, the amount of data becomes enormous. On the other hand, in the case of storing as a still image, unless an image acquired at an appropriate timing is stored, the state at the time of occurrence of an abnormality cannot be grasped well, and it becomes difficult to specify the cause of the abnormality. End up. Further, if image data is stored in a hard disk or the like for each operation step, the time required for one operation of the equipment, that is, the cycle time becomes longer due to the time required to save the image, and the operating efficiency of the equipment decreases. . Therefore, it is desired to develop a monitoring control device and a monitoring control method that can suppress an increase in cycle time required for one operation by saving the image while saving the image of each operation step.

特開2003−208218号公報JP 2003-208218 A 特開2000−250775号公報JP 2000-250775 A 特開平11−259120号公報JP 11-259120 A

上記の問題点に鑑み、本発明は、1回の動作を分割した複数の動作ステップを経て移動し、その動作を繰り返す可動部を有する設備または装置について、動作の解析に有用な画像データを保存可能な監視制御装置、又は監視制御方法を提供することを目的とする。   In view of the above problems, the present invention stores image data useful for analyzing the operation of equipment or devices that have a moving part that moves through a plurality of operation steps obtained by dividing one operation and repeats the operation. It is an object of the present invention to provide a possible monitoring control apparatus or monitoring control method.

また本発明の別の目的として、画像データの保存に要する時間によるサイクルタイムの増大を抑制可能な監視制御装置、又は監視制御方法を提供することを目的とする。   Another object of the present invention is to provide a monitoring control device or a monitoring control method capable of suppressing an increase in cycle time due to time required for storing image data.

本発明の請求項1に記載の形態によれば、本発明に係る監視制御装置が、1回の動作を分割した複数の動作ステップを経て移動し、その動作を繰り返す可動部に対して、撮像手段で撮影された画像データに基づいて可動部の位置を検出する位置検出部と、複数の動作ステップのそれぞれについて、可動部の位置に基づいて可動部が移動目的地に到達したか否か判定し、移動目的地に到達したと判定した場合、その判定に用いた画像データを一時記憶部に記憶する移動終了判定部と、複数の動作ステップのそれぞれについて、動作ステップの開始から終了までに要する所要時間を算出し、所要時間に基づいて、複数の動作ステップのうちの任意の動作ステップを画像保存ステップとして設定する保存ステップ選択部と、画像保存ステップにおいて、一時記憶部に記憶された画像データを記憶手段に保存する画像保存実行部を有する制御手段を有することにより、動作の解析に有用な画像データを保存することができる。また、記憶手段への画像保存を、可動部の移動に要する時間の長い動作ステップの実行中に行うことで、可動部若しくは可動部を有する設備等のサイクルタイムを全体として短縮することができる。特に、制御手段が保存ステップ選択部を有することで、任意の動作ステップから、自動的に最適な画像保存ステップを選択するため、サイクルタイムの短縮化を自動的に図ることができる。   According to the first aspect of the present invention, the monitoring and control apparatus according to the present invention takes an image with respect to a movable part that moves through a plurality of operation steps obtained by dividing one operation and repeats the operation. A position detection unit that detects the position of the movable unit based on image data captured by the means, and for each of the plurality of operation steps, a determination is made as to whether the movable unit has reached the moving destination based on the position of the movable unit When it is determined that the mobile destination has been reached, the movement end determination unit that stores the image data used for the determination in the temporary storage unit and each of the plurality of operation steps are required from the start to the end of the operation step. In the image storage step, a storage step selection unit that calculates a required time and sets an arbitrary operation step of the plurality of operation steps as an image storage step based on the required time. By having a control unit having an image storage execution unit for storing the image data stored in the temporary storage unit in the storage means you can store useful image data to analyze the operation. Further, by storing the image in the storage means during the execution of the operation step having a long time required for moving the movable part, it is possible to shorten the cycle time of the movable part or the equipment having the movable part as a whole. In particular, since the control means includes the storage step selection unit, the optimum image storage step is automatically selected from any operation step, and therefore the cycle time can be automatically shortened.

なお、上記において、各動作ステップの所要時間は、1度の動作ステップの実行に基づいて算出された時間としてもよいが、同一の動作ステップについて複数回実行した場合の平均所要時間としてもよい。   In the above description, the time required for each operation step may be a time calculated based on the execution of one operation step, or may be an average time required when the same operation step is executed a plurality of times.

また、請求項2の記載によれば、保存ステップ選択部は、所要時間が予め定めた所定の閾値を超える動作ステップを画像保存ステップとして設定することにより、自動的に画像保存を行うだけの時間的余裕のある動作ステップを選択することができる。   According to a second aspect of the present invention, the storage step selection unit sets an operation step in which the required time exceeds a predetermined threshold value set in advance as an image storage step, thereby automatically storing the image. An operation step with sufficient margin can be selected.

さらに、請求項3の記載によれば、保存ステップ選択部は、所要時間が最も長い動作ステップを画像保存ステップとして設定することにより、自動的に画像保存を同時に実行するのに好適な動作ステップを選択することができる。   According to the third aspect of the present invention, the storage step selection unit sets an operation step having the longest required time as an image storage step, and thereby performs an operation step suitable for automatically executing image storage simultaneously. You can choose.

また、請求項4に記載の形態によれば、本発明に係る監視制御装置が、1回の動作を分割した複数の動作ステップを経て移動し、その動作を繰り返す可動部に対して、複数の動作ステップのうちの任意の動作ステップを、画像保存ステップとして設定する操作手段を有し、且つ制御手段が、設定された画像保存ステップにおいて、一時記憶部に記憶された画像データを記憶手段に保存する画像保存実行部を有することにより、画像保存を同時に実行するのに好適な動作ステップを選択して、画像保存に要する時間を節約し、可動部の1回あたりの動作に要する時間を短縮することができる。   Moreover, according to the form of Claim 4, the monitoring control apparatus which concerns on this invention moves through several operation | movement steps which divided | segmented one operation | movement, and with respect to the movable part which repeats the operation | movement, several An operation unit for setting an arbitrary operation step of the operation steps as an image storage step is provided, and the control unit stores the image data stored in the temporary storage unit in the storage unit in the set image storage step. By selecting an operation step suitable for executing image storage at the same time, the time required for image storage can be saved and the time required for one operation of the movable unit can be reduced. be able to.

さらに、請求項5の記載によれば、制御手段が、複数の動作ステップのそれぞれについて、動作ステップの開始から終了までに要する所要時間を算出する所要時間算出部を有し、且つ操作手段が、所要時間を表示する所要時間表示部と、複数の動作ステップのそれぞれに一意に対応した選択部を有することにより、各動作ステップの所要時間を確認しつつ、画像保存の実行に適した動作ステップを容易に選択することができる。   Furthermore, according to the description of claim 5, the control unit has a required time calculation unit that calculates a required time from the start to the end of the operation step for each of the plurality of operation steps, and the operation unit includes: By having a required time display unit for displaying the required time and a selection unit uniquely corresponding to each of the plurality of operation steps, the operation steps suitable for execution of image storage can be confirmed while checking the time required for each operation step. Easy to choose.

さらに、請求項6の記載によれば、画像保存ステップは、少なくとも2つの動作ステップに設定される。可動部の1回の動作のうちの複数の動作ステップに画像保存ステップを設定することにより、1度の画像保存ステップで保存する画像データの枚数を減らすことができるため、画像保存に要する時間を短縮できる。   Further, according to the sixth aspect, the image storing step is set to at least two operation steps. By setting the image storage step in a plurality of operation steps in one operation of the movable part, the number of image data to be stored in one image storage step can be reduced, so that the time required for image storage is reduced. Can be shortened.

また、請求項7に記載によれば、本発明に係る監視制御方法が、1回の動作を分割した複数の動作ステップを経て移動し、その動作を繰り返す可動部に対して、可動部が撮影された画像データに基づいて可動部が移動目的地に到達したか否か判定し、移動目的地に到達したと判定した場合、その判定に用いた画像データを一時記憶部に記憶し、複数の動作ステップのそれぞれについて、動作ステップの開始から終了までに要する所要時間を算出し、その所要時間に基づいて、複数の動作ステップのうちの任意の動作ステップを画像保存ステップとして設定し、画像保存ステップにおいて、一時記憶部に記憶された画像データを記憶手段に保存することにより、動作の解析に有用な画像データを保存することができる。また、記憶手段への画像保存を、可動部の移動に要する時間の長い動作ステップの実行中に行うことで、可動部のサイクルタイムを全体として短縮することができる。   According to the seventh aspect of the present invention, the monitoring and control method according to the present invention moves through a plurality of operation steps obtained by dividing one operation, and the movable portion takes an image with respect to the movable portion that repeats the operation. It is determined whether or not the movable part has reached the movement destination based on the image data that has been obtained, and if it is determined that the movement destination has been reached, the image data used for the determination is stored in the temporary storage unit, and a plurality of For each operation step, the time required from the start to the end of the operation step is calculated, and based on the required time, an arbitrary operation step of the plurality of operation steps is set as the image storage step, and the image storage step The image data useful for analyzing the operation can be saved by saving the image data stored in the temporary storage unit in the storage means. Moreover, the cycle time of the movable part can be shortened as a whole by storing the image in the storage means during execution of an operation step having a long time required for moving the movable part.

また、請求項8の記載によれば、画像保存ステップの設定は、所要時間が予め定めた所定の閾値を超える動作ステップを画像保存ステップとして設定することにより、自動的に画像保存を行うだけの時間的余裕のある動作ステップを選択することができる。   According to the eighth aspect of the present invention, the image storage step is set only by automatically storing an image by setting an operation step whose required time exceeds a predetermined threshold value as a predetermined image storage step. An operation step having a time margin can be selected.

さらに、請求項9の記載によれば、画像保存ステップの設定は、所要時間が最も長い動作ステップを画像保存ステップとして設定することにより、自動的に画像保存を同時に実行するのに好適な動作ステップを選択することができる。   Furthermore, according to the ninth aspect of the present invention, the setting of the image storage step is an operation step suitable for automatically executing image storage simultaneously by setting the operation step having the longest required time as the image storage step. Can be selected.

さらに、請求項10の記載によれば、画像保存ステップは、少なくとも2つの動作ステップに設定される。可動部の1回の動作のうちの複数の動作ステップに画像保存ステップを設定することにより、1度の画像保存ステップで保存する画像データの枚数を減らすことができるため、画像保存に要する時間を短縮できる。   Further, according to the tenth aspect, the image storage step is set to at least two operation steps. By setting the image storage step in a plurality of operation steps in one operation of the movable part, the number of image data to be stored in one image storage step can be reduced, so that the time required for image storage is reduced. Can be shortened.

以下、図面を参照しつつ本発明に係る監視制御装置について詳細に説明する。
本発明に係る監視制御装置1は、1乃至複数の可動部を有する設備であって、1回の動作中に複数の動作ステップを有し、各動作ステップにおいて、所定の可動部がその動作ステップで定められた移動目的地へ移動し、可動部が移動目的地へ移動したことを画像データを用いて確認することにより、動作ステップを終了する設備を監視対象とする。そして、監視対象設備の各動作ステップにおいて、可動部が移動目的地へ移動したことの判断に用いた画像データをキャッシュメモリのような一時記憶部へ一時的に記憶しておき、所要時間の長い動作ステップ中に、一時記憶された画像データをまとめてハードディスクのような記憶手段に保存することにより、動作解析に有用な動作ステップ毎の画像データを保存するとともに、画像保存に要する時間を短縮化して、1回の動作当たりのサイクルタイムの増大を抑制するものである。
Hereinafter, a monitoring control apparatus according to the present invention will be described in detail with reference to the drawings.
The monitoring control device 1 according to the present invention is a facility having one to a plurality of movable parts, and has a plurality of operation steps during one operation. In each operation step, a predetermined movable part is an operation step. The equipment that ends the operation step is monitored by confirming that the movable part has moved to the movement destination by using the image data. Then, in each operation step of the monitoring target equipment, the image data used for determining that the movable part has moved to the moving destination is temporarily stored in a temporary storage unit such as a cache memory, and the required time is long. During the operation step, the temporarily stored image data is collectively stored in a storage means such as a hard disk, so that the image data for each operation step useful for operation analysis is saved and the time required for image storage is shortened. Thus, an increase in cycle time per operation is suppressed.

図1に、本発明に係る監視制御装置1の構成ブロック図を示す。
本発明に係る監視制御装置1は、撮像手段11、制御手段12、記憶手段13、及び操作手段14を備える。
FIG. 1 shows a configuration block diagram of a monitoring control device 1 according to the present invention.
The monitoring control device 1 according to the present invention includes an imaging unit 11, a control unit 12, a storage unit 13, and an operation unit 14.

撮像手段11は、CCDカメラ等で構成され、監視制御装置1の監視対象となる設備全体を撮影する。また撮像手段11は、1台若しくは複数のカメラで構成し、設備に含まれる全ての可動部は、何れかのカメラで撮影されるように構成する。また、設備の可動部の移動を、画像上の位置の変化として捉えられるように、撮影対象である各可動部の動作平面から離れたところに撮像手段11を配置することが好ましい。   The imaging means 11 is composed of a CCD camera or the like, and images the entire equipment to be monitored by the monitoring control device 1. The imaging means 11 is configured by one or a plurality of cameras, and all movable parts included in the facility are configured to be photographed by any camera. In addition, it is preferable to dispose the imaging unit 11 at a position away from the operation plane of each movable part that is a subject of photographing so that the movement of the movable part of the facility can be grasped as a change in the position on the image.

また、撮像手段11は、設備の可動部の動作を逐次捉えられるように、連続的に撮影可能であることが好ましく、例えばビデオレート(30Hz)で撮影を行う。撮影した画像は、制御手段12へ送信する。   Moreover, it is preferable that the imaging means 11 can be continuously photographed so that the operation of the movable part of the facility can be sequentially captured, for example, photographing at a video rate (30 Hz). The captured image is transmitted to the control means 12.

次に、制御手段12について説明する。
制御手段12は、パーソナルコンピュータ(PC)の中央演算装置(CPU)、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)などの半導体メモリ、PCに読み込まれたプログラム、及びRS232Cといった外部出力ポートなどで構成される。さらに、設備の可動部に対して制御信号を与えるためのドライバを内蔵する。
Next, the control means 12 will be described.
The control means 12 includes a personal computer (PC) central processing unit (CPU), a read only memory (ROM), a semiconductor memory such as a random access memory (RAM), a program read into the PC, and an external output port such as RS232C. Consists of. Furthermore, a driver for giving a control signal to the movable part of the equipment is incorporated.

図1に示すように、制御手段12は、設備の可動部に対して移動・停止などの制御信号を与える動作指示部121と、撮像手段11から取得した画像データに基づいて、各可動部の位置を検出する位置検出部122と、検出された位置に基づいて、各可動部が移動目的地に移動したか否かを判定する移動終了判定部123と、移動終了判定に使用した画像データを一次記憶する一時記憶部124と、各動作ステップの所要時間を算出し、その所要時間に基づいて画像記憶を実行する動作ステップを決定する保存ステップ決定部125と、一次記憶部に記憶されている画像データを記憶手段13に保存する画像保存実行部126などで構成される。   As shown in FIG. 1, the control unit 12 includes an operation instruction unit 121 that gives a control signal such as movement and stop to the movable unit of the facility, and image data acquired from the imaging unit 11. A position detection unit 122 that detects a position, a movement end determination unit 123 that determines whether or not each movable unit has moved to a moving destination based on the detected position, and image data used for the movement end determination. Temporary storage unit 124 that performs primary storage, storage step determination unit 125 that calculates a required time for each operation step, and determines an operation step for executing image storage based on the required time, and is stored in the primary storage unit. An image storage execution unit 126 that stores image data in the storage unit 13 is configured.

動作指示部121は、動作ステップ毎に、記憶手段13に記憶されている動作指示情報を参照して、可動部に対して所定の方向へ移動・停止などの制御信号を与える。また、複数の可動部が動作する場合には、必要に応じて移動開始のタイミングをずらし、物理的な干渉を起こさないよう制御する。そして、それらの制御信号は、内蔵のドライバを通じて、各可動部へ送信される。   The operation instruction unit 121 refers to the operation instruction information stored in the storage unit 13 for each operation step, and gives a control signal such as movement / stop in a predetermined direction to the movable unit. In addition, when a plurality of movable parts operate, the movement start timing is shifted as necessary, and control is performed so as not to cause physical interference. And those control signals are transmitted to each movable part through a built-in driver.

位置検出部122は、撮像手段11から受信した画像データを解析し、画像データ上で可動部の位置を認識する。
ここで可動部の位置は、可動部中の特定部分の位置として表される。また、可動部中の特定部分は、周囲と明度又は色調がはっきりと異なる部分とすることができる。例えば、白色や銀色の部分に、赤色の検出マークを付し、その検出マークを特定部分として認識する。以下では、検出マークを検出して可動部の位置を求めるものとして説明する。
The position detection unit 122 analyzes the image data received from the imaging unit 11 and recognizes the position of the movable unit on the image data.
Here, the position of the movable part is represented as the position of a specific part in the movable part. Moreover, the specific part in a movable part can be made into a part from which the brightness or color tone differs clearly from the circumference | surroundings. For example, a red detection mark is attached to a white or silver portion, and the detection mark is recognized as a specific portion. In the following description, it is assumed that the detection mark is detected to determine the position of the movable part.

最初に、現在の動作ステップにおいて、可動部の検出マークが存在する可能性のある領域に関心領域を設定する。この関心領域は、一つの検出マークだけを含むように設定することが好ましい。他の検出マークを誤って検出することによる、位置の検出の失敗を防止するためである。また、以下の処理は関心領域内だけで行う。扱うデータ量が少なくなり、処理を高速化できるためである。   First, in the current operation step, a region of interest is set in a region where there is a possibility that the detection mark of the movable part exists. This region of interest is preferably set to include only one detection mark. This is to prevent position detection failure due to erroneous detection of other detection marks. The following processing is performed only in the region of interest. This is because the amount of data to be handled is reduced and the processing speed can be increased.

次に、画像データを、検出マークとそれ以外に分離可能するために2値化する。2値化の閾値は、撮像手段11で実際に撮影した画像データに基づいて、経験的に設定する。
2値化が終了すると、検出マークに相当する画素の重心Mgを算出する。その重心Mgを、可動部の位置とする。
Next, the image data is binarized so that it can be separated from the detection mark and the other. The binarization threshold is set empirically based on image data actually captured by the imaging means 11.
When the binarization is completed, the center of gravity Mg of the pixel corresponding to the detection mark is calculated. The center of gravity Mg is taken as the position of the movable part.

次に、可動部の位置検出処理の別の一例について説明する。この例においても、可動部に付された検出マークを検出するものとする。   Next, another example of the position detection process of the movable part will be described. Also in this example, the detection mark attached to the movable part is detected.

この例では、画像データを2値化する代わりに、検出マークの外形形状に沿って存在する、近傍画素との信号値の差が大きい画素(エッジ画素という)を検出する。例えば、画像上で、検出マークが図2(a)に示される略円形状をしており、検出マークに相当する画素が、その周辺画素と比較して輝度が高い(画素値が大きい)場合、図2(b)に示すフィルタを用いて、関心領域内でフィルタリング処理を行う。そして、そのフィルタリング処理の出力結果が最も高くなる画素を、検出マークの中心Mcとして検出する。そして、検出マークの中心Mcを可動部の位置とする。   In this example, instead of binarizing the image data, a pixel (referred to as an edge pixel) that is present along the outer shape of the detection mark and that has a large signal value difference from neighboring pixels is detected. For example, when the detection mark has a substantially circular shape shown in FIG. 2A on the image, and a pixel corresponding to the detection mark has a higher luminance (a larger pixel value) than its surrounding pixels. The filtering process is performed in the region of interest using the filter shown in FIG. Then, the pixel with the highest output result of the filtering process is detected as the center Mc of the detection mark. The center Mc of the detection mark is set as the position of the movable part.

なお、本発明で使用可能な位置検出処理は上記のものに限られず、他にもパターンマッチングに基づく処理などを使用することができる。   Note that the position detection process that can be used in the present invention is not limited to the above, and other processes based on pattern matching can be used.

移動終了判定部123は、位置検出部122で検出した可動部の位置と記憶手段13に記憶されている動作指示情報を参照して、可動部が各動作ステップにおける移動目的地に到達したか否かを判定する。そして、移動目的地に到達したと判定した場合、動作指示部121を通じて、可動部を停止させる。   The movement end determination unit 123 refers to the position of the movable unit detected by the position detection unit 122 and the operation instruction information stored in the storage unit 13 to determine whether or not the movable unit has reached the movement destination in each operation step. Determine whether. And when it determines with having reached | attained the movement destination, a movable part is stopped through the operation | movement instruction | indication part 121. FIG.

なお、可動部が移動目的地に到達したか否かについては、以下のように判定できる。まず、動作指示情報から、可動部に対する、その動作ステップにおける移動終了点Peを取得する。そして、位置検出部122により検出した可動部の位置と、移動終了点Peとの距離dを算出する。その距離dが、所定の閾値Thdl以下であれば、可動部は移動終了点Peに到達したと判定し、制御手段12は、動作指示部121を通じて、可動部を停止させる。一方、距離dが上記の閾値Thdlよりも大きい場合には、可動部は移動を終了していないと判定する。   Note that whether or not the movable part has reached the moving destination can be determined as follows. First, the movement end point Pe in the operation step for the movable part is acquired from the operation instruction information. Then, a distance d between the position of the movable part detected by the position detection unit 122 and the movement end point Pe is calculated. If the distance d is equal to or less than the predetermined threshold Thdl, it is determined that the movable part has reached the movement end point Pe, and the control unit 12 stops the movable part through the operation instruction unit 121. On the other hand, when the distance d is larger than the threshold value Thdl, it is determined that the movable part has not finished moving.

また、その動作ステップで移動する全ての可動部が移動目的地に到達したと判定された場合、移動終了判定部123は、その解析に用いた画像データを一時記憶部124に記憶する。一方、解析した画像データでは、その動作ステップで移動する可動部のうち、何れか一つでも移動目的地に到達していないと判定される場合、移動終了判定部123は、解析に使用した画像データを廃棄する。そして、撮像手段11から画像データを再取得し、上記の処理を繰り返す。   Further, when it is determined that all the movable parts moving in the operation step have reached the movement destination, the movement end determination part 123 stores the image data used for the analysis in the temporary storage part 124. On the other hand, in the analyzed image data, when it is determined that any one of the movable parts moving in the operation step has not reached the movement destination, the movement end determination part 123 uses the image used for the analysis. Discard the data. Then, the image data is re-acquired from the imaging unit 11 and the above processing is repeated.

このように、可動部が動作終了後の移動目的地にいる場合の画像データを記憶しておくことにより、可動部が動作中の画像データを記憶せずとも、設備に異常が発生した場合、後から記憶されている画像データを調べることによって異常原因の特定は十分可能であり、記憶するデータの量を必要最小限に抑えることが可能である。   In this way, by storing the image data when the movable part is at the moving destination after the operation is completed, even if the moving part does not store the operating image data, the equipment has an abnormality, The cause of the abnormality can be sufficiently identified by examining the image data stored later, and the amount of data to be stored can be minimized.

着目する可動部が移動目的地にいるか否かの判定は、以下に説明する方法で行うことができる。
位置検出部122で認識された特定部分の画像データ上の位置と、理想状態にある設備を撮影した画像データ等から求められた移動目的地との距離が、予め定められた許容範囲内にあるか否かを判定する。その距離が許容範囲内に収まる場合、着目する可動部は所定の位置にいると判定する。
The determination as to whether or not the movable part of interest is at the moving destination can be made by the method described below.
The distance between the position on the image data of the specific part recognized by the position detector 122 and the moving destination obtained from the image data obtained by photographing the equipment in the ideal state is within a predetermined allowable range. It is determined whether or not. When the distance falls within the allowable range, it is determined that the movable part of interest is at a predetermined position.

なお、上記の移動目的地及び許容範囲は、各動作ステップ毎に、各可動部について設定され、動作指示情報の一部として予め記憶手段13に記憶しておく。   The moving destination and the allowable range are set for each movable part for each operation step, and are stored in advance in the storage unit 13 as part of the operation instruction information.

一時記憶部124は、画像データを一時的に記憶するものであり、制御手段12の半導体メモリで構成される。また、一時記憶部124への画像データの書き込み又は一時記憶部124からの画像データの読み込みに要する時間は、記憶手段13への画像データの書き込みに要する時間と比較して相対的に短時間である。また、一時記憶部124に記憶された画像データは、後述する画像保存実行部126によって記憶手段13に記憶されると、一時記憶部124からは消去される。このようにして、一時記憶部124に占める画像データの記憶容量の増大を防ぎ、且つ既に記憶手段13に保存した画像データを再度記憶手段13に書き込むことによる、画像保存に要する時間の増加を防止している。   The temporary storage unit 124 temporarily stores image data and is configured by a semiconductor memory of the control unit 12. Further, the time required for writing the image data to the temporary storage unit 124 or reading the image data from the temporary storage unit 124 is relatively short compared to the time required for writing the image data to the storage unit 13. is there. The image data stored in the temporary storage unit 124 is erased from the temporary storage unit 124 when stored in the storage unit 13 by the image storage execution unit 126 described later. In this way, an increase in the storage capacity of the image data in the temporary storage unit 124 is prevented, and an increase in the time required for image storage by rewriting the image data already stored in the storage unit 13 into the storage unit 13 is prevented. is doing.

保存ステップ選択部125は、一時記憶部124に記憶されている画像データを記憶手段13に保存するタイミングを決定する。画像データを保存するタイミングとして、可動部の移動に時間を要する動作ステップを選択する。このような動作ステップの実行中に画像データの記憶を同時に行うことで、各動作ステップにおける移動終了判定の後に画像データを記憶手段13に保存する場合と比較して、画像データの保存に要する時間を短縮することができるため、結果として監視対象設備のサイクルタイムを短縮することができる。   The saving step selection unit 125 determines the timing for saving the image data stored in the temporary storage unit 124 in the storage unit 13. As the timing for storing the image data, an operation step that requires time to move the movable portion is selected. By simultaneously storing the image data during the execution of such operation steps, the time required to store the image data compared to the case where the image data is stored in the storage unit 13 after the movement end determination in each operation step is performed. As a result, the cycle time of the monitored equipment can be shortened.

そこで、保存ステップ選択部125は、各動作ステップj(j=1,2,・・・,m)について、動作指示部121が可動部を移動させる制御信号の送信を開始した時点を計測開始時とし、移動終了判定部123が移動終了と判定した時間を計測終了時として、計測開始時から計測終了時までの経過時間を所要時間として算出し、記録する。そして、例えば設備の稼動開始後、10サイクル分の動作を終了した時点で、各動作ステップの平均所要時間τjを算出する。各動作ステップの平均所要時間τjが算出されると、平均所要時間が所定の閾値Thdt(例えば、500msec)を超えたステップを、画像記憶を実行する画像保存ステップMsとして選択する。 Therefore, the storage step selection unit 125 sets the time when the operation instruction unit 121 starts transmitting a control signal for moving the movable unit at each measurement step j (j = 1, 2,..., M). Assuming that the time when the movement end determination unit 123 determines that the movement has ended is the measurement end time, the elapsed time from the measurement start time to the measurement end time is calculated and recorded as a required time. Then, for example, when the operation for 10 cycles is completed after the operation of the facility is started, the average required time τ j of each operation step is calculated. When the average required time τ j of each operation step is calculated, a step in which the average required time exceeds a predetermined threshold Thdt (for example, 500 msec) is selected as an image storage step Ms for executing image storage.

画像保存ステップMsとして選択された動作ステップを示すために、保存ステップ選択部125は、1回の動作サイクルに含まれる全ての動作ステップについて、画像保存ステップMsに該当するか否かのフラグFj(j=1,2,・・・,m)を有する。そして、動作ステップjが画像保存ステップMsに該当する場合、フラグFjの値を‘1’、それ以外の動作ステップについては、フラグFjの値を‘0’とする。このようなフラグFjは、例えば動作ステップ数だけの要素数を持つ一次元の配列をフラグFj用に設け、その配列の各要素と動作ステップをそれぞれ1対1に対応させることで具現化できる。 To indicate the selected operating step as the image storage step Ms, storage step selection section 125, for all the operation steps included in one operation cycle, whether to correspond to an image storage step Ms of the flags F j (J = 1, 2,..., M). When the operation step j corresponds to the image storage step Ms, the value of the flag F j is “1”, and for the other operation steps, the value of the flag F j is “0”. Such a flag F j is realized by providing, for example, a one-dimensional array having the number of elements corresponding to the number of operation steps for the flag F j and corresponding each element of the array to the operation step on a one-to-one basis. it can.

なお、画像保存ステップMsとして、設備の1回の動作あたり1動作ステップだけ設定してもよいが、1回の動作あたり複数の動作ステップを画像保存ステップMsとして設定することが好ましい。さらに、動作サイクルあたり複数の動作ステップを画像保存ステップMsとして設定する場合は、各画像保存ステップMsが連続しないことが好ましい。一回の画像記憶で記憶手段13に記憶する画像データの枚数が減少するため、一回の画像記憶に要する所要時間を少なくすることができるためである。   Note that only one operation step per operation of the equipment may be set as the image storage step Ms, but it is preferable to set a plurality of operation steps per operation as the image storage step Ms. Further, when a plurality of operation steps per operation cycle are set as the image storage steps Ms, it is preferable that the image storage steps Ms are not continuous. This is because the number of pieces of image data stored in the storage unit 13 is reduced by one image storage, so that the time required for one image storage can be reduced.

また、画像保存ステップMsの選択を、別の方法で行うこともできる。例えば、動作ステップの平均所要時間τjが最も長い方から順に、所定数(例えば3ステップ)の動作ステップを画像保存ステップMsとして選択してもよい。その際、連続する動作ステップが画像保存ステップMsとして選択されることを防止するために、平均所要時間の一番長い動作ステップから順に画像保存ステップとして選択し、画像保存ステップMsとして選択された動作ステップの前後の動作ステップは、画像保存ステップMsとして選択しないようにしてもよい。 Further, the selection of the image storage step Ms can be performed by another method. For example, a predetermined number (for example, three steps) of operation steps may be selected as the image storage step Ms in order from the longest average required time τ j of the operation steps. At this time, in order to prevent a continuous operation step from being selected as the image storage step Ms, the image storage step is selected in order from the operation step having the longest average required time, and the operation selected as the image storage step Ms is selected. The operation steps before and after the step may not be selected as the image storage step Ms.

なお、上記において、平均所要時間τjについての所定の閾値Thdtは、500msecに限られない。設備の構造、仕様、稼働状況に応じて適宜設定できる。また、画像保存ステップMsの選択を行う時期についても、設備の稼動開始から10サイクル後に限られず、5サイクル後や20サイクル後など、状況に応じて最適な時期に設定可能であり、さらに定期的に画像保存ステップを再選択するようにしてもよい。 In the above, the predetermined threshold Thdt for the average required time τ j is not limited to 500 msec. It can be set as appropriate according to the structure, specifications, and operating conditions of the equipment. Also, the timing for selecting the image storage step Ms is not limited to 10 cycles after the start of operation of the equipment, and can be set to an optimal timing according to the situation, such as after 5 cycles or 20 cycles, and more regularly. The image storage step may be reselected.

さらに、各動作ステップの所要時間を、別の基準で算定してもよい。例えば、動作ステップjの所要時間を、一つ前の動作ステップ(j−1)において全ての可動部が移動終了と判定された時間を計測開始時とし、画像データの一時記憶部124への記憶が終了した時間を計測終了時としてもよい。このように、各動作ステップの所要時間は、その動作ステップの開始から終了までに必要とする時間の目安となるものであれば、計測開始時及び計測終了時は、任意に選択することができる。   Further, the time required for each operation step may be calculated according to another standard. For example, the time required for the operation step j is set to the time when all the movable parts are determined to have finished moving in the previous operation step (j−1), and the image data is temporarily stored in the temporary storage unit 124. It is good also considering the time which complete | finished as a measurement end time. As described above, the time required for each operation step can be arbitrarily selected at the start of measurement and at the end of measurement as long as it is a measure of the time required from the start to the end of the operation step. .

画像保存実行部126は、上記の画像保存ステップMsにおいて、一時記憶部124に記憶されている画像データを記憶手段13に保存する。また、画像保存ステップMsか否かについては、各動作ステップに対応する上記のフラグFjの値を参照し、画像保存ステップに相当する値(Fj=1)であれば、画像保存ステップMsと判断する。 The image storage execution unit 126 stores the image data stored in the temporary storage unit 124 in the storage unit 13 in the image storage step Ms. Further, as to whether or not it is the image storage step Ms, the value of the flag F j corresponding to each operation step is referred to. If the value corresponds to the image storage step (F j = 1), the image storage step Ms. Judge.

画像データの記憶手段13への記憶は、画像保存ステップMsにおいて、動作指示部121により各可動部に対して移動を行う制御信号の出力が開始される前後より開始する。このようなタイミングで画像の記憶を開始することにより、その動作ステップの終了までに一時記憶部124に記憶されている画像データを記憶手段13に記憶することが可能となり、画像記憶のみに要する時間を設けることなく画像データを記憶できるため、監視対象設備のサイクルタイムを短くすることができる。
なお、画像記憶手段13への記憶が終了すると、一時記憶部124に記憶されている画像データを消去する。
The storage of the image data in the storage means 13 starts before and after the output of a control signal for moving the movable parts by the operation instruction unit 121 in the image saving step Ms. By starting image storage at such timing, it is possible to store the image data stored in the temporary storage unit 124 in the storage means 13 until the end of the operation step, and the time required only for image storage Since the image data can be stored without providing, the cycle time of the monitoring target equipment can be shortened.
When the storage in the image storage unit 13 is completed, the image data stored in the temporary storage unit 124 is deleted.

記憶手段13は、ハードディスク、CD−ROM、CD−RAM、DVD−ROM、DVD−RAMなど、一時記憶部124と比較して、データの読み込み/書き込み時間は長いものの、比較的大容量で、長期間のデータ保存に適した記録装置又は記録媒体で構成される。また、記憶手段13は、動作指示情報など各種の制御情報及び撮像手段11で撮影された画像データ等を保存する。特に、常に最新の動作ステップから、設備の稼動サイクル数回分(例えば3サイクル分)前の全ての動作ステップまでに相当する画像データを保存する。また、保存される画像データと関連付けて、当該画像データにおいて認識された可動部の位置情報や撮影された時間も併せて保存することが好ましい。   The storage means 13 has a relatively large capacity and a long capacity compared with the temporary storage unit 124 such as a hard disk, CD-ROM, CD-RAM, DVD-ROM, DVD-RAM, etc., although the data read / write time is long. It is composed of a recording device or a recording medium suitable for storing data for a period. The storage unit 13 stores various control information such as operation instruction information, image data captured by the imaging unit 11, and the like. In particular, the image data corresponding to the operation steps from the latest operation step to all the operation steps before several operation cycles of the equipment (for example, three cycles) are always stored. In addition, it is preferable that the position information of the movable part recognized in the image data and the shooting time are also stored in association with the stored image data.

さらに、記憶手段13は、設備に異常が発生した場合、上記の保存された画像データから抽出された、異常を発生した動作ステップの画像データを消去されないように別途保存することが好ましい。異常発生時の画像データを保存することで、設備に異常が発生した場合の解析が容易となる。   Further, when an abnormality occurs in the facility, the storage unit 13 preferably stores the image data of the operation step in which the abnormality is extracted, extracted from the stored image data, so as not to be deleted. Saving the image data at the time of occurrence of an abnormality facilitates analysis when an abnormality occurs in the facility.

操作手段14は、画像保存ステップを手動で規定するためのものであり、液晶ディスプレイなどの表示装置と、タッチパネル、マウスなどのポインティングデバイスで構成される。そして、表示装置の表示画面上に、操作部及び必要な情報を表示する。そして、操作者はその表示画面上で操作を行う。   The operation means 14 is for manually specifying the image storage step, and includes a display device such as a liquid crystal display and a pointing device such as a touch panel and a mouse. Then, the operation unit and necessary information are displayed on the display screen of the display device. Then, the operator performs an operation on the display screen.

図2に、操作手段14の表示画面の概略構成図を示す。
操作手段14は、記憶手段13に保存されている画像データを表示する画像表示部141と、各動作ステップの平均所要時間などを表示する所要時間表示部142と、画像保存ステップとして選択する動作ステップを決定する動作ステップ選択部143などで構成される。
In FIG. 2, the schematic block diagram of the display screen of the operation means 14 is shown.
The operation unit 14 includes an image display unit 141 that displays image data stored in the storage unit 13, a required time display unit 142 that displays an average required time of each operation step, and an operation step that is selected as an image storage step. The operation step selection unit 143 and the like are determined.

画像表示部141は、記憶手段13に保存されている、各動作ステップの画像データを表示する。操作者は、表示する画像データを観察することで、監視制御装置1の監視対象設備の状態を把握することができる。また、表示する画像データは、周知のファイル選択方法により、記憶手段13の中から任意に選択することができる。   The image display unit 141 displays the image data of each operation step stored in the storage unit 13. The operator can grasp the state of the monitoring target equipment of the monitoring control device 1 by observing the image data to be displayed. The image data to be displayed can be arbitrarily selected from the storage means 13 by a known file selection method.

所要時間表示部142は、図3に示すように、各動作ステップの所要時間(msec)を、その平均値、最新の動作、及び1回前〜3回前の動作毎に、横一列に表示し、操作者が簡単に各動作ステップの所要時間を把握できるようになっている。また、最初の動作ステップ(ステップ01)の所要時間の表示欄に隣接して、監視対象設備の1回の動作に含まれる全動作ステップの所要時間の合計、すなわちサイクルタイムも表示して、画像保存ステップの設定によってどのようにサイクルタイムが変化するかを容易に把握可能としている。   As shown in FIG. 3, the required time display unit 142 displays the required time (msec) of each operation step in a horizontal row for each of the average value, the latest operation, and the previous operation to the previous three operations. In addition, the operator can easily grasp the time required for each operation step. In addition, adjacent to the display column of the required time of the first operation step (step 01), the total required time of all operation steps included in one operation of the monitored equipment, that is, the cycle time is also displayed, and the image is displayed. It is possible to easily grasp how the cycle time changes depending on the setting of the storage step.

動作ステップ選択部143は、各動作ステップに対応するチェックボックスを有する。そして、チェックボックスにチェックがされた動作ステップについて、画像保存ステップとして選択し、その動作ステップに対応する上述のフラグFjの値を書き換えて、画像保存ステップとして設定する。そのため、監視制御装置1の操作者は、所要時間表示部142に表示される各動作ステップの平均所要時間を参照しつつ、動作ステップ選択部143の任意の動作ステップのチェックボックスを選択するだけで、容易に画像保存ステップを設定できる。例えば、図3では、動作ステップ03及び動作ステップ12を画像保存ステップとして設定することを示す。 The operation step selection unit 143 has a check box corresponding to each operation step. Then, the operation step whose check box is checked is selected as the image storage step, and the value of the flag F j corresponding to the operation step is rewritten and set as the image storage step. Therefore, the operator of the monitoring control device 1 simply selects the check box of any operation step of the operation step selection unit 143 while referring to the average required time of each operation step displayed on the required time display unit 142. The image storage step can be easily set. For example, FIG. 3 shows that operation step 03 and operation step 12 are set as image storage steps.

なお、操作手段14の表示画面の構成は、上記及び図3に示すものに限られない。動作ステップの選択に使用するチェックボックスを、他の同様の機能を有する周知のものに置き換えてもよい。また、他の情報、例えば、可動部の位置情報などを表示してもよい。また、他の機能、例えば、動作中の監視対象設備を緊急停止させる機能や、可動部の位置検出に用いる閾値の設定など各種の設定機能などを併せて有するようにしてもよい。   Note that the configuration of the display screen of the operation means 14 is not limited to that shown in FIG. The check box used to select the operation step may be replaced with another known function having a similar function. Further, other information such as position information of the movable part may be displayed. Moreover, you may make it have other functions, for example, various setting functions, such as the function of carrying out the emergency stop of the monitoring object equipment in operation, and the setting of the threshold value used for the position detection of a movable part.

以下に、本発明に係る監視制御装置1の動作をフローチャートを用いて説明する。
図4に、監視制御装置1の画像保存ステップMsを決定する動作のフローチャートを示す。なお、以下の説明では、監視対象設備の1回の動作には、動作ステップ1から動作ステップmまでの、m個の動作ステップが含まれるものとする。
Below, operation | movement of the monitoring control apparatus 1 which concerns on this invention is demonstrated using a flowchart.
FIG. 4 shows a flowchart of the operation of determining the image saving step Ms of the monitoring control device 1. In the following description, it is assumed that one operation of the monitoring target facility includes m operation steps from operation step 1 to operation step m.

まず、監視対象設備について、画像保存ステップMsの決定のために、動作ステップjの平均所要時間τjの算出に使用する動作サイクルの開始からのサイクル数をnとし、nが予め定められた所定サイクル数Thdn回を超えた時点で画像保存ステップMsの決定を行うものとする。 First, for the monitoring target equipment, in order to determine the image storage step Ms, n is the number of cycles from the start of the operation cycle used to calculate the average required time τ j of the operation step j, and n is a predetermined value determined in advance. Assume that the image storage step Ms is determined when the number of cycles exceeds Thdn.

そこで、保存ステップ選択部125は、ある動作サイクルにおいて、全ての動作ステップ終了後、サイクル数nが所定サイクル数Thdnを超えたか判断する(ステップS101)。サイクル数nが所定サイクル数Thdn以下の場合、nに1を加えた値を改めてnとし、次のサイクルへ移行する(ステップS109)。   Therefore, the storage step selection unit 125 determines whether the number of cycles n exceeds the predetermined number of cycles Thdn after completion of all the operation steps in a certain operation cycle (step S101). When the cycle number n is equal to or less than the predetermined cycle number Thdn, a value obtained by adding 1 to n is set to n again, and the process proceeds to the next cycle (step S109).

一方、サイクル数nが所定サイクル数Thdnを超えた場合、画像保存ステップの選択を開始する。そこで、まず保存ステップ選択部125は、各動作ステップの平均所要時間τj(j=1,2,・・・,m)を算出する(ステップS102)。 On the other hand, when the cycle number n exceeds the predetermined cycle number Thdn, selection of the image storage step is started. Therefore, the storage step selection unit 125 first calculates the average required time τ j (j = 1, 2,..., M) of each operation step (step S102).

次に、各動作ステップの平均所要時間と、所定の閾値Thdtを比較することにより、画像保存ステップを設定する。そのため、設備の1回の動作に含まれる、最初の動作ステップ(動作ステップ1)から最後の動作ステップ(動作ステップm)まで順に、動作ステップjの平均所要時間τjが、所定の閾値Thdtを超えるか否か判定する(ステップS103)。そして、ある動作ステップkの平均所要時間τkが閾値Thdtを超える場合、その動作ステップkを画像保存ステップとして設定し、画像保存ステップを表すフラグFkの値を‘1’とする(ステップS104)。そして、動作ステップjについて上記判定を行うと、jに1を印加して改めてjとし(ステップS105)、jと動作ステップ数mを比較し(ステップS106)、jが動作ステップ数m以下であれば、引き続き、動作ステップjについて画像保存ステップに設定するか否かの判定を行う。 Next, an image storage step is set by comparing the average required time of each operation step with a predetermined threshold value Thdt. Therefore, the average required time τ j of the operation step j in order from the first operation step (operation step 1) to the last operation step (operation step m) included in one operation of the facility is equal to the predetermined threshold Thdt. It is determined whether or not it exceeds (step S103). When the average duration tau k certain operating step k exceeds a threshold Thdt, set its operation step k as the image storing step, the value of the flag F k representing an image storage step to '1' (step S104 ). Then, when the above determination is made for the operation step j, 1 is applied to j to make it j again (step S105), j is compared with the operation step number m (step S106), and if j is less than the operation step number m. For example, it is subsequently determined whether or not the operation step j is set as the image storage step.

全ての動作ステップについて上記判定を終了した場合(j>mの場合)、サイクル数n=0に設定し(ステップS107)、次のサイクルへ移行する(ステップS109)。   When the above determination is completed for all operation steps (when j> m), the number of cycles n is set to 0 (step S107), and the process proceeds to the next cycle (step S109).

なお、一度画像保存ステップが設定されると、例えばThdnの値を非常に大きな値に書き換えるなどにより、画像保存ステップの再設定を行わないようにする。また、そのようなThdnの書き換えを行わず、定期的に画像保存ステップの再設定を行ってもよい。   Once the image storage step is set, the image storage step is not reset by, for example, rewriting the value of Thdn to a very large value. Further, the image storage step may be reset periodically without rewriting such Thdn.

上記のように、各動作ステップの平均所要時間から、所要時間の長い動作ステップを自動的に抽出し、抽出された動作ステップを画像保存ステップとして設定することにより、可動部の動作中に記憶手段13に画像データを保存することが可能となり、監視対象設備の1回の動作に要するサイクルタイムを短縮することができる。   As described above, from the average required time of each operation step, an operation step having a long required time is automatically extracted, and the extracted operation step is set as an image storage step, so that the storage means is stored during the operation of the movable part. The image data can be stored in 13, and the cycle time required for one operation of the monitoring target facility can be shortened.

次に、各動作ステップにおける、監視制御装置1の動作について説明する。なお、監視制御装置1の動作は、可動部に出力される制御信号など、扱われる信号及びデータを除けば、動作ステップによって異なるところはないため、以下では、任意の動作ステップk(k=1,2,・・・,m)についてのみ説明する。   Next, the operation of the monitoring control device 1 in each operation step will be described. The operation of the monitoring control device 1 is not different depending on the operation step except for signals and data to be handled, such as a control signal output to the movable part. Therefore, in the following, an arbitrary operation step k (k = 1) , 2,..., M) will be described only.

図5に、動作ステップkにおける、監視制御装置1の動作フローチャートを示す。
まず、制御手段12の動作指示部121より、動作ステップkで移動を行う可動部に対して、移動を行わせる制御信号の出力が開始され、可動部が移動を開始する(ステップS201)。また、動作ステップkの所要時間Tkの算出を開始する。
FIG. 5 shows an operation flowchart of the monitoring control device 1 in the operation step k.
First, the operation instruction unit 121 of the control unit 12 starts to output a control signal for moving the movable unit that moves in the operation step k, and the movable unit starts moving (step S201). Also, calculation of the required time T k of the operation step k is started.

次に、動作ステップkが、画像保存ステップか否かを、フラグFkの値を参照して判定する(ステップS202)。フラグFk=1であれば、動作ステップkは画像保存ステップであると判定し、制御手段12の一時記憶部124に記憶されている画像データを、記憶手段13に保存する(ステップS203)。そして、記憶手段13への保存が終了すると、一時記憶部124に記憶されている画像データを消去する(ステップS204)。 Next, it is determined with reference to the value of the flag F k whether or not the operation step k is an image storage step (step S202). If the flag F k = 1, it is determined that the operation step k is an image storage step, and the image data stored in the temporary storage unit 124 of the control unit 12 is stored in the storage unit 13 (step S203). When the storage in the storage unit 13 is completed, the image data stored in the temporary storage unit 124 is deleted (step S204).

一方、制御手段12は、撮像手段11から、可動部を撮影した画像データを取得し、(ステップS205)、その画像データを解析して可動部の位置を検出する(ステップS206)。そして、動作ステップkで移動する全ての可動部が、移動を終了したか否かを判定する(ステップS207)。もし、何れかの可動部が移動を終了していない場合には、ステップS205〜ステップS207を繰り返す。   On the other hand, the control means 12 acquires image data obtained by photographing the movable part from the imaging means 11 (step S205), analyzes the image data, and detects the position of the movable part (step S206). Then, it is determined whether or not all the movable parts moving in the operation step k have finished moving (step S207). If any of the movable parts has not finished moving, steps S205 to S207 are repeated.

一方、全ての可動部が移動を終了した場合には、所要時間Tkの算出を終了し、解析に用いた画像データを一時記憶部124に記憶する(ステップS208)。そして、次の動作ステップ(k+1)の実行に移行する(ステップS209)。 On the other hand, when all the movable parts have finished moving, the calculation of the required time T k is finished, and the image data used for the analysis is stored in the temporary storage part 124 (step S208). Then, the process proceeds to execution of the next operation step (k + 1) (step S209).

なお、図5のフローチャートにおいて、ステップS203〜S204と、ステップS205〜S207を便宜上逐次的に記載したが、ステップS203及びS204の動作は、ステップS205〜S207の動作が行われている間に実行される。   In the flowchart of FIG. 5, steps S203 to S204 and steps S205 to S207 are sequentially described for convenience, but the operations of steps S203 and S204 are performed while the operations of steps S205 to S207 are performed. The

なお、上述してきた実施形態は、本発明を説明するためのものであり、本発明は、これらの実施形態に限定されるものではない。   In addition, embodiment mentioned above is for demonstrating this invention, and this invention is not limited to these embodiment.

例えば、記憶手段13は、設備に異常が発生した場合、上記の記憶された画像データから抽出された、異常を発生した動作ステップの画像データを消去されないように別途記憶するようにしてもよい。これらのデータを記憶することで、設備に異常が発生した場合の解析が容易となる。その場合、制御部12は、各動作ステップについて、予め定められた所定の経過時間を超えても、移動終了と判定されない場合に、異常発生を検知するような異常検知手段を別途設けてもよい。   For example, when an abnormality occurs in the facility, the storage unit 13 may separately store the image data of the operation step in which the abnormality has been extracted, extracted from the stored image data so as not to be deleted. By storing these data, analysis when an abnormality occurs in the facility is facilitated. In that case, the control unit 12 may separately provide an abnormality detection unit that detects the occurrence of an abnormality when it is not determined that the movement has ended even if a predetermined predetermined elapsed time is exceeded for each operation step. .

また、制御手段12は、画像保存を実行する画像保存ステップを、自動的に設定せず、操作部14で選択した動作ステップのみを画像保存ステップとして設定するようにしてもよい。この場合、制御手段12の保存ステップ選択部125は、単に各動作ステップの所要時間を算出する所要時間算出部として機能する。   Further, the control means 12 may not set the image saving step for executing the image saving automatically, but set only the operation step selected by the operation unit 14 as the image saving step. In this case, the storage step selection unit 125 of the control unit 12 functions as a required time calculation unit that simply calculates the required time for each operation step.

以上のように、本発明の範囲内で、実施される形態に合わせて様々な変更を行うことができる。   As described above, various modifications can be made within the scope of the present invention according to the embodiment to be implemented.

本発明の一例に係る監視制御装置の構成ブロック図である。It is a block diagram of the configuration of a monitoring control device according to an example of the present invention. (a)は可動部に付された検出マークの画像上での形状の一例を表す図であり、(b)は検出マークの検出に使用するフィルタを表す図である。(A) is a figure showing an example of the shape on the image of the detection mark attached | subjected to the movable part, (b) is a figure showing the filter used for the detection of a detection mark. 操作手段の表示画面の概略構成図である。It is a schematic block diagram of the display screen of an operation means. 本発明の一例に係る監視制御装置における、画像保存ステップの設定を説明するフローチャートである。It is a flowchart explaining the setting of the image preservation | save step in the monitoring control apparatus which concerns on an example of this invention. 本発明の一例に係る監視制御装置における、各動作ステップの動作を示すフローチャートである。It is a flowchart which shows operation | movement of each operation | movement step in the monitoring control apparatus which concerns on an example of this invention.

符号の説明Explanation of symbols

1 監視制御装置
11 撮像手段
12 制御手段
121 動作指示部
122 位置検出部
123 移動終了判定部
124 一時記憶部
125 保存ステップ選択部
126 画像保存実行部
13 記憶手段
14 操作手段
141 画像表示部
142 所要時間表示部
143 動作ステップ選択部
DESCRIPTION OF SYMBOLS 1 Monitoring and control apparatus 11 Imaging means 12 Control means 121 Operation instruction part 122 Position detection part 123 Movement end determination part 124 Temporary storage part 125 Storage step selection part 126 Image storage execution part 13 Storage means 14 Operation means 141 Image display part 142 Time required Display unit 143 Operation step selection unit

Claims (10)

1回の動作を分割した複数の動作ステップを経て移動し、該動作を繰り返す可動部を撮影し、画像データを取得する撮像手段と、
前記画像データを記憶する記憶手段と、
制御手段であって、
前記画像データを一時的に記憶する一時記憶部と、
前記画像データに基づいて前記可動部の位置を検出する位置検出部と、
前記複数の動作ステップのそれぞれについて、前記可動部の位置に基づいて前記可動部が移動目的地に到達したか否か判定し、該移動目的地に到達したと判定した場合、その判定に用いた画像データを前記一時記憶部に記憶する移動終了判定部と、
前記複数の動作ステップのそれぞれについて、動作ステップの開始から終了までに要する所要時間を算出し、該所要時間に基づいて、前記複数の動作ステップのうちの任意の動作ステップを画像保存ステップとして設定する保存ステップ選択部と、
前記画像保存ステップにおいて、前記一時記憶部に記憶された画像データを前記記憶手段に保存する画像保存実行部を有する制御手段と、
を有することを特徴とする監視制御装置。
An imaging unit that moves through a plurality of operation steps obtained by dividing one operation, images a movable part that repeats the operation, and acquires image data;
Storage means for storing the image data;
Control means,
A temporary storage unit for temporarily storing the image data;
A position detector for detecting the position of the movable part based on the image data;
For each of the plurality of operation steps, based on the position of the movable part, it is determined whether or not the movable part has reached the movement destination, and when it is determined that the movement destination has been reached, it is used for the determination A movement end determination unit for storing image data in the temporary storage unit;
For each of the plurality of operation steps, a required time required from the start to the end of the operation step is calculated, and an arbitrary operation step of the plurality of operation steps is set as an image storage step based on the required time. A saving step selection section;
In the image storage step, a control unit having an image storage execution unit that stores the image data stored in the temporary storage unit in the storage unit;
A monitoring control apparatus comprising:
前記保存ステップ選択部は、前記所要時間が予め定めた所定の閾値を超える動作ステップを画像保存ステップとして設定する、請求項1に記載の監視制御装置。   The monitoring control device according to claim 1, wherein the storage step selection unit sets an operation step in which the required time exceeds a predetermined threshold value set in advance as an image storage step. 前記保存ステップ選択部は、前記所要時間が最も長い動作ステップを画像保存ステップとして設定する、請求項1に記載の監視制御装置。   The monitoring control device according to claim 1, wherein the storage step selection unit sets an operation step having the longest required time as an image storage step. 1回の動作を分割した複数の動作ステップを経て移動し、該動作を繰り返す可動部を撮影し、画像データを取得する撮像手段と、
前記画像データを記憶する記憶手段と、
前記複数の動作ステップのうちの任意の動作ステップを、画像保存ステップとして設定する操作手段と、
制御手段であって、
前記画像データを記憶する一時記憶部と、
前記画像データに基づいて前記可動部の位置を検出する位置検出部と、
前記複数の動作ステップのそれぞれについて、前記可動部の位置に基づいて前記可動部が移動目的地に到達したか否か判定し、該移動目的地に到達したと判定した場合、その判定に用いた画像データを前記一時記憶部に記憶する移動終了判定部と、
前記画像保存ステップにおいて、前記一時記憶部に記憶された画像データを前記記憶手段に保存する画像保存実行部を有する制御手段と、
を有することを特徴とする監視制御装置。
An imaging unit that moves through a plurality of operation steps obtained by dividing one operation, images a movable part that repeats the operation, and acquires image data;
Storage means for storing the image data;
An operation means for setting an arbitrary operation step of the plurality of operation steps as an image storage step;
Control means,
A temporary storage unit for storing the image data;
A position detector for detecting the position of the movable part based on the image data;
For each of the plurality of operation steps, based on the position of the movable part, it is determined whether or not the movable part has reached the movement destination, and when it is determined that the movement destination has been reached, it is used for the determination A movement end determination unit for storing image data in the temporary storage unit;
In the image storage step, a control unit having an image storage execution unit that stores the image data stored in the temporary storage unit in the storage unit;
A monitoring control apparatus comprising:
前記制御手段は、前記複数の動作ステップのそれぞれについて、動作ステップの開始から終了までに要する所要時間を算出する所要時間算出部を有し、
前記操作手段は、前記所要時間を表示する所要時間表示部と、前記複数の動作ステップのそれぞれに一意に対応した選択部を有し、該選択部で選択された動作ステップを画像保存ステップとして設定する、請求項4に記載の監視制御装置。
The control means includes a required time calculation unit that calculates a required time from the start to the end of the operation step for each of the plurality of operation steps.
The operation means has a required time display unit for displaying the required time and a selection unit uniquely corresponding to each of the plurality of operation steps, and sets the operation step selected by the selection unit as an image storage step. The monitoring control device according to claim 4.
前記画像保存ステップは、少なくとも2つの動作ステップに設定される、請求項1〜5の何れか一項に記載の監視制御装置。   The monitoring control device according to claim 1, wherein the image storage step is set to at least two operation steps. 1回の動作を分割した複数の動作ステップを経て移動し、該動作を繰り返す可動部を撮影して画像データを取得し、
前記画像データに基づいて前記可動部の位置を検出し、
前記複数の動作ステップのそれぞれについて、前記可動部の位置に基づいて前記可動部が移動目的地に到達したか否か判定し、
前記判定ステップで、前記可動部が移動目的地に到達したと判定した場合、その判定に用いた画像データを一時記憶部に記憶し、
前記複数の動作ステップのそれぞれについて、動作ステップの開始から終了までに要する所要時間を算出し、
前記所要時間に基づいて、前記複数の動作ステップのうちの任意の動作ステップを画像保存ステップとして設定し、
前記画像保存ステップにおいて、前記一時記憶部に記憶された画像データを記憶手段に保存することを特徴とする監視制御方法。
It moves through a plurality of operation steps divided into one operation, and acquires image data by photographing a movable part that repeats the operation.
Detecting the position of the movable part based on the image data,
For each of the plurality of operation steps, it is determined whether or not the movable part has reached a moving destination based on the position of the movable part,
In the determination step, when it is determined that the movable part has reached the moving destination, the image data used for the determination is stored in the temporary storage unit,
For each of the plurality of operation steps, calculate the time required from the start to the end of the operation step,
Based on the required time, an arbitrary operation step of the plurality of operation steps is set as an image storage step,
In the image storing step, the image data stored in the temporary storage unit is stored in a storage unit.
前記画像保存ステップの設定は、前記所要時間が予め定めた所定の閾値を超える動作ステップを画像保存ステップとして設定する、請求項7に記載の監視制御方法。   The monitoring control method according to claim 7, wherein the setting of the image storage step is to set an operation step in which the required time exceeds a predetermined threshold value set in advance as an image storage step. 前記画像保存ステップの設定は、前記所要時間が最も長い動作ステップを画像保存ステップとして設定する、請求項7に記載の監視制御方法。   The monitoring control method according to claim 7, wherein the image storage step is set by setting an operation step having the longest required time as an image storage step. 前記画像保存ステップは、少なくとも2つの動作ステップに設定される、請求項7〜9の何れか一項に記載の監視制御方法。   The monitoring control method according to claim 7, wherein the image storage step is set to at least two operation steps.
JP2005320816A 2005-11-04 2005-11-04 Monitoring control apparatus and monitoring control method Expired - Fee Related JP4513722B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005320816A JP4513722B2 (en) 2005-11-04 2005-11-04 Monitoring control apparatus and monitoring control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005320816A JP4513722B2 (en) 2005-11-04 2005-11-04 Monitoring control apparatus and monitoring control method

Publications (2)

Publication Number Publication Date
JP2007128308A true JP2007128308A (en) 2007-05-24
JP4513722B2 JP4513722B2 (en) 2010-07-28

Family

ID=38150916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005320816A Expired - Fee Related JP4513722B2 (en) 2005-11-04 2005-11-04 Monitoring control apparatus and monitoring control method

Country Status (1)

Country Link
JP (1) JP4513722B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017191385A (en) * 2016-04-11 2017-10-19 横河電機株式会社 Instrument maintenance device, instrument maintenance method, instrument maintenance program, and recording medium
KR20180104699A (en) * 2016-09-28 2018-09-21 히다찌 겐끼 가부시키가이샤 Working machine
KR20210030447A (en) * 2018-08-21 2021-03-17 가부시키가이샤 스크린 홀딩스 Substrate processing method, substrate processing apparatus and substrate processing system

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06242812A (en) * 1993-02-18 1994-09-02 Ckd Corp State detecting method/device and control method for actuating object
JPH09200734A (en) * 1996-01-12 1997-07-31 Fuji Photo Film Co Ltd Monitoring device
JPH1198491A (en) * 1997-09-19 1999-04-09 Fit:Kk Supervisory equipment
JP2001175866A (en) * 1999-12-22 2001-06-29 Matsushita Electric Works Ltd Device and method for image process inspection
JP2002010188A (en) * 2000-06-20 2002-01-11 Fuji Photo Film Co Ltd Automatic image transmitting digital camera

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06242812A (en) * 1993-02-18 1994-09-02 Ckd Corp State detecting method/device and control method for actuating object
JPH09200734A (en) * 1996-01-12 1997-07-31 Fuji Photo Film Co Ltd Monitoring device
JPH1198491A (en) * 1997-09-19 1999-04-09 Fit:Kk Supervisory equipment
JP2001175866A (en) * 1999-12-22 2001-06-29 Matsushita Electric Works Ltd Device and method for image process inspection
JP2002010188A (en) * 2000-06-20 2002-01-11 Fuji Photo Film Co Ltd Automatic image transmitting digital camera

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017191385A (en) * 2016-04-11 2017-10-19 横河電機株式会社 Instrument maintenance device, instrument maintenance method, instrument maintenance program, and recording medium
KR20180104699A (en) * 2016-09-28 2018-09-21 히다찌 겐끼 가부시키가이샤 Working machine
KR102079567B1 (en) * 2016-09-28 2020-02-21 히다찌 겐끼 가부시키가이샤 Working machine
US10590628B2 (en) 2016-09-28 2020-03-17 Hitachi Construction Machinery Co., Ltd. Work machine
KR20210030447A (en) * 2018-08-21 2021-03-17 가부시키가이샤 스크린 홀딩스 Substrate processing method, substrate processing apparatus and substrate processing system
CN112640055A (en) * 2018-08-21 2021-04-09 株式会社斯库林集团 Substrate processing method, substrate processing apparatus, and substrate processing system
KR102448443B1 (en) * 2018-08-21 2022-09-27 가부시키가이샤 스크린 홀딩스 Substrate processing method, substrate processing apparatus and substrate processing system

Also Published As

Publication number Publication date
JP4513722B2 (en) 2010-07-28

Similar Documents

Publication Publication Date Title
JP2008033532A (en) Method and apparatus for detecting abnormality in equipment provided with movable part
JP5347845B2 (en) Image processing program and image processing apparatus
JP6557183B2 (en) Cutting tool life judging device, life judging method and program
JP5428798B2 (en) Wire rope inspection device
RU2012102039A (en) CONTROL DEVICE, IMAGE FORMING SYSTEM, MANAGEMENT METHOD AND PROGRAM
JP2011166378A5 (en)
JP5786622B2 (en) Image quality inspection method, image quality inspection apparatus, and image quality inspection program
JP2007292699A (en) Surface inspection method of member
JP2012098045A (en) Crack detector and crack detection program
JP2006293820A (en) Appearance inspection device, appearance inspection method, and program for causing computer to function as appearance inspection device
JP4513722B2 (en) Monitoring control apparatus and monitoring control method
JP2023065524A (en) Autonomous monitoring system
JP2008278143A (en) Structure visual inspection apparatus and inspection method therefor
JP5126941B2 (en) Escalator monitoring device, escalator monitoring method, escalator system and program
US9046757B2 (en) Moving image pickup apparatus, method for observing moving image, moving image observing program, and computer-readable recording medium
JP5293270B2 (en) Imaging object selection device, imaging object selection device control method, imaging object selection device control program, and computer-readable recording medium recording the program
JP5691764B2 (en) Abandoned or removed detection system
JP4349298B2 (en) Monitoring control apparatus and monitoring control method
JP6658124B2 (en) Imaging device, method, and program, display control device, and program
JP2007010419A (en) Three-dimensional shape of object verifying system
CN104427244A (en) Imaging apparatus and imaging method
WO2018025381A1 (en) Parking lot monitoring system
JP2021140459A (en) Image processing system
JP2006234501A (en) Method of setting threshold for blot defect detection, and method and device of inspecting blot defect
JP6662126B2 (en) Detecting device, method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091222

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100316

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100420

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100503

R151 Written notification of patent or utility model registration

Ref document number: 4513722

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140521

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees