JP2011154436A - Working situation monitoring device - Google Patents

Working situation monitoring device Download PDF

Info

Publication number
JP2011154436A
JP2011154436A JP2010014029A JP2010014029A JP2011154436A JP 2011154436 A JP2011154436 A JP 2011154436A JP 2010014029 A JP2010014029 A JP 2010014029A JP 2010014029 A JP2010014029 A JP 2010014029A JP 2011154436 A JP2011154436 A JP 2011154436A
Authority
JP
Japan
Prior art keywords
camera
tool
machining
workpiece
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010014029A
Other languages
Japanese (ja)
Other versions
JP5404450B2 (en
Inventor
Hidenori Taketomi
英紀 武富
Yoshizumi Akai
良純 赤井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
DMG Mori Co Ltd
Original Assignee
Mori Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mori Seiki Co Ltd filed Critical Mori Seiki Co Ltd
Priority to JP2010014029A priority Critical patent/JP5404450B2/en
Publication of JP2011154436A publication Critical patent/JP2011154436A/en
Application granted granted Critical
Publication of JP5404450B2 publication Critical patent/JP5404450B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23QDETAILS, COMPONENTS, OR ACCESSORIES FOR MACHINE TOOLS, e.g. ARRANGEMENTS FOR COPYING OR CONTROLLING; MACHINE TOOLS IN GENERAL CHARACTERISED BY THE CONSTRUCTION OF PARTICULAR DETAILS OR COMPONENTS; COMBINATIONS OR ASSOCIATIONS OF METAL-WORKING MACHINES, NOT DIRECTED TO A PARTICULAR RESULT
    • B23Q17/00Arrangements for observing, indicating or measuring on machine tools
    • B23Q17/24Arrangements for observing, indicating or measuring on machine tools using optics or electromagnetic waves
    • B23Q17/2409Arrangements for indirect observation of the working space using image recording means, e.g. a camera

Abstract

<P>PROBLEM TO BE SOLVED: To provide a working situation monitoring device for enabling an operator to monitor a working situation of a workpiece through an image generated by a camera selected from a plurality of cameras. <P>SOLUTION: The working situation monitoring device 1 includes: a model data updating unit 17 for updating three-dimensional model data, based on an operation command obtained from a control unit 60; a positional relationship recognition unit 18 for recognizing a positional relationship among a plurality of cameras 11, 12, 13, 14, a tool, and the workpiece at each preset time, based on camera parameters, updated model data, and position information of the tool obtained from the control unit 60; a camera selection unit 20 for selecting the cameras 11, 12, 13, 14 for generating two-dimensional image data where the tip of the tool is not hidden by the workpiece, based on the recognized positional relationship; and a camera switching unit 21 for displaying the two-dimensional image data generated by the selected cameras 11, 12, 13, 14 on a screen display device 66. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、工作機械におけるワーク加工状況の監視映像を画面表示装置に表示する加工状況監視装置に関する。   The present invention relates to a machining status monitoring device that displays a monitoring image of a workpiece machining status in a machine tool on a screen display device.

工作機械には、通常、安全性を確保すべく、ワークが加工される加工領域を囲むカバーが設けられている。このカバーには窓が設けられているものの、この窓を通してオペレータの視認することができる範囲は限られており、オペレータがこの窓からワークの加工状況を監視するには限界がある。   In general, a machine tool is provided with a cover surrounding a processing region in which a workpiece is processed in order to ensure safety. Although this cover is provided with a window, the range that the operator can visually recognize through this window is limited, and there is a limit for the operator to monitor the machining status of the workpiece from this window.

そこで、従来、例えば、特開平4−310106号公報に開示された工作機械が提案されている。この工作機械は、複数のビデオカメラと、これらのビデオカメラから得られる画像を表示する表示装置と、表示装置の表示画面をビデオカメラと同数の表示領域に分割し、各ビデオカメラから得られる画像を各表示領域にそれぞれ表示させる制御装置などを備えている。   Therefore, conventionally, for example, a machine tool disclosed in JP-A-4-310106 has been proposed. This machine tool divides a plurality of video cameras, a display device that displays images obtained from these video cameras, and a display screen of the display device into the same number of display areas as the video cameras, and images obtained from each video camera. Is provided in each display area.

そして、この工作機械によれば、オペレータは、カバーの窓からでは十分にワークの加工状況を監視することができない場合であっても、表示装置に表示される複数の画像によって複数の角度からワークの加工状況を監視することができる。   According to this machine tool, even when the operator cannot sufficiently monitor the workpiece machining status from the cover window, the operator can view the workpiece from a plurality of angles using a plurality of images displayed on the display device. The processing status of can be monitored.

特開平4−310106号公報JP-A-4-310106

しかしながら、上述のように、各ビデオカメラから得られる画像をすべて一律に表示させると、これらの画像の中には、工具の先端がワークによって隠れているものもあることから、ワークの加工状況を監視するのにあまり役立たない画像まで表示させることになる。また、表示画面を複数の表示領域に分割して、各ビデオカメラから得られる画像を表示させているので、各表示領域に表示される画像は小さくならざるを得ず、場合によっては、オペレータが細部を確認し難いこともある。更に、各ビデオカメラから得られる画像を工作機械の制御状態とともに表示する場合に、各ビデオカメラから得られる画像の表示領域を広くとると、本来表示させるべき制御状態の表示領域が狭くなり、オペレータは工作機械の制御状態を確認し難くなる。   However, as described above, when all the images obtained from each video camera are displayed uniformly, some of these images have the tip of the tool hidden by the workpiece. Even images that are not very useful for monitoring will be displayed. In addition, since the display screen is divided into a plurality of display areas and images obtained from the respective video cameras are displayed, the images displayed in the respective display areas must be reduced. It may be difficult to confirm details. Further, when an image obtained from each video camera is displayed together with the control state of the machine tool, if the display area of the image obtained from each video camera is widened, the display area of the control state to be originally displayed becomes narrow, and the operator Makes it difficult to check the control status of the machine tool.

したがって、複数のビデオカメラを工作機械に設置した場合には、複数のビデオカメラから得られる画像の内、工具の先端がワークによって隠れていない画像、即ち、工具の先端を確認可能な画像を少なくとも1つ表示すれば、表示画像を通して加工状況を監視するのが困難になることもないし、工作機械の制御状態を確認し難くなることもない。   Therefore, when a plurality of video cameras are installed in a machine tool, at least an image in which the tip of the tool is not hidden by the workpiece among images obtained from the plurality of video cameras, that is, an image that can confirm the tip of the tool is at least. If one is displayed, it is not difficult to monitor the machining status through the display image, and it is not difficult to confirm the control state of the machine tool.

本発明は、以上の実情に鑑みなされたものであって、複数のカメラの中から選択された少なくとも1つのカメラによって生成される、工具の先端がワークにより隠れていない画像を通してオペレータがワークの加工状況を監視することができる加工状況監視装置の提供をその目的とする。   The present invention has been made in view of the above circumstances, and an operator processes a workpiece through an image generated by at least one camera selected from a plurality of cameras, in which the tip of a tool is not hidden by the workpiece. The purpose is to provide a machining status monitoring device capable of monitoring the status.

上記目的を達成するための本発明は、
工具及びワークを相対移動させる加工動作機構部と、加工プログラムを解析して前記加工動作機構部の動作指令を抽出し、抽出した動作指令を基に前記加工動作機構部の作動を制御する制御手段とを備えた工作機械における加工状況を監視する装置であって、
少なくとも前記工具及びワークを互いに異なる視点から一定時間間隔で撮像してその2次元画像データを順次生成する複数のカメラと、
前記カメラによって生成された2次元画像データを表示する画面表示手段と、
前記複数のカメラについて、その配置位置及び姿勢を示すカメラパラメータをそれぞれ記憶するカメラパラメータ記憶手段と、
前記制御手段から得られる動作指令と、前記工具,ワーク及び加工動作機構部の3次元モデルに関するデータとを基に、前記加工動作機構部が前記動作指令に従って動作したときの前記工具,ワーク及び加工動作機構部のモデルデータを生成して更新するモデルデータ更新手段と、
前記カメラパラメータ記憶手段に格納されたカメラパラメータと、前記モデルデータ更新手段によって更新されたモデルデータと、前記制御手段から得られる前記工具の位置情報とを基に、前記複数のカメラ,工具及び少なくともワークの位置関係を予め設定された時間毎に認識する位置関係認識手段と、
前記位置関係認識手段によって認識された位置関係を基に、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラを選択するカメラ選択手段と、
前記カメラ選択手段によって選択されたカメラにより生成される2次元画像データを前記画面表示手段に表示させるカメラ切換手段とを備えてなることを特徴とする加工状況監視装置に係る。
To achieve the above object, the present invention provides:
A machining operation mechanism unit that relatively moves a tool and a workpiece, and a control unit that analyzes a machining program, extracts an operation command of the machining operation mechanism unit, and controls the operation of the machining operation mechanism unit based on the extracted operation command An apparatus for monitoring the machining status of a machine tool equipped with
A plurality of cameras that capture at least the tool and the workpiece from different viewpoints at regular time intervals and sequentially generate two-dimensional image data thereof;
Screen display means for displaying two-dimensional image data generated by the camera;
Camera parameter storage means for storing camera parameters indicating the position and orientation of the plurality of cameras;
Based on the operation command obtained from the control means and the data relating to the three-dimensional model of the tool, workpiece and machining operation mechanism unit, the tool, workpiece and machining when the machining operation mechanism unit operates according to the operation command. Model data updating means for generating and updating model data of the operation mechanism unit;
Based on the camera parameters stored in the camera parameter storage means, the model data updated by the model data updating means, and the position information of the tool obtained from the control means, the plurality of cameras, tools, and at least Positional relationship recognition means for recognizing the positional relationship of the work at preset time intervals;
Camera selection means for selecting a camera capable of generating two-dimensional image data in which at least the tip of the tool is not hidden by the workpiece among the plurality of cameras based on the positional relation recognized by the positional relation recognition means;
The present invention relates to a processing status monitoring apparatus comprising: a camera switching unit that causes the screen display unit to display two-dimensional image data generated by a camera selected by the camera selection unit.

この発明によれば、制御手段によって加工プログラムが実行されると、即ち、制御手段により、加工プログラムが解析されて加工動作機構部の動作指令が抽出され、抽出された動作指令を基に加工動作機構部が制御されて工具及びワークが相対移動せしめられると、以下のようにして、画面表示手段に表示させるべき2次元画像データを生成するカメラが予め設定された時間毎に切り換えられながら画面表示手段に監視画像が表示される。   According to this invention, when the machining program is executed by the control means, that is, the machining program is analyzed by the control means to extract the operation command of the machining operation mechanism unit, and the machining operation is performed based on the extracted operation command. When the mechanism is controlled and the tool and workpiece are moved relative to each other, the screen display is performed while the camera for generating the two-dimensional image data to be displayed on the screen display means is switched at predetermined time intervals as follows. A monitoring image is displayed on the means.

まず、制御手段から得られる動作指令と、工具,ワーク及び加工動作機構部のモデルデータ(3次元モデルデータ)とを基に、モデルデータ更新部により、加工動作機構部が動作指令に従って動作したときの工具,ワーク及び加工動作機構部のモデルデータが生成されて更新される。   First, when the machining operation mechanism unit operates according to the operation command by the model data update unit based on the operation command obtained from the control means and the model data (three-dimensional model data) of the tool, workpiece and machining operation mechanism unit. The model data of the tool, workpiece and machining operation mechanism are generated and updated.

ついで、カメラパラメータ記憶手段に格納されたカメラパラメータと、モデルデータ更新手段によって更新されたモデルデータと、制御手段から得られる工具位置情報とを基に、位置関係認識手段により、複数のカメラ,工具及び少なくともワークの位置関係が認識される。   Next, based on the camera parameters stored in the camera parameter storage means, the model data updated by the model data updating means, and the tool position information obtained from the control means, a plurality of cameras and tools are obtained by the positional relationship recognition means. And at least the positional relationship of the workpiece is recognized.

例えば、複数のカメラについて、前記カメラパラメータから、カメラの撮像面と光軸との交点やカメラのレンズの中心点が認識され、前記工具位置情報から、工具移動前後における工具先端位置が認識され、前記モデルデータから、ワークの配置位置及び形状が認識される。或いは、カメラの撮像面と光軸との交点やカメラのレンズの中心点と、工具移動後における工具先端位置と、ワークの配置位置及び形状とが認識される。   For example, for a plurality of cameras, from the camera parameters, the intersection of the imaging surface of the camera and the optical axis and the center point of the camera lens are recognized, and the tool tip position before and after the tool movement is recognized from the tool position information, From the model data, the position and shape of the workpiece are recognized. Alternatively, the intersection between the imaging surface of the camera and the optical axis, the center point of the camera lens, the tool tip position after the tool is moved, and the arrangement position and shape of the workpiece are recognized.

次に、位置関係認識手段によって認識された位置関係を基に、カメラ選択手段により、複数のカメラの内、少なくともワークによって工具の先端が隠れない2次元画像データ(工具の先端が表示される2次元画像データ)を生成可能なカメラが判別されてこのカメラが選択される。尚、このとき選択されるカメラは2つ以上であっても良い。   Next, based on the positional relationship recognized by the positional relationship recognition means, two-dimensional image data in which the tip of the tool is not hidden by at least the workpiece among the plurality of cameras is displayed by the camera selection means (the tip of the tool is displayed 2). A camera capable of generating (dimensional image data) is determined, and this camera is selected. Note that two or more cameras may be selected at this time.

例えば、まず、複数のカメラについて、カメラの撮像面と光軸との交点やカメラのレンズの中心点と、工具移動前後における工具先端位置との3点を結んで形成される3角形状の平面と、ワークの形状との間に交差部があるか否かがそれぞれ確認される。或いは、カメラの撮像面と光軸との交点やカメラのレンズの中心点と、工具移動後における工具先端位置との2点を結んだ直線と、ワークの形状との間に交差部があるか否かがそれぞれ確認される。   For example, for a plurality of cameras, a triangular plane formed by connecting three points of the intersection of the imaging surface of the camera and the optical axis, the center point of the camera lens, and the tool tip position before and after the tool movement. And whether or not there is an intersection between the workpiece shape and the workpiece shape. Or is there an intersection between the shape of the workpiece and the line connecting the two points of the intersection of the imaging surface of the camera and the optical axis, the center point of the camera lens, and the tool tip position after moving the tool? Each is confirmed.

そして、交差部があると確認されたカメラについては、工具の先端が隠れない2次元画像データを生成可能なカメラではないと判断され、一方、交差部がないと確認されたカメラについては、工具の先端が隠れない2次元画像データを生成可能なカメラであると判断されて、交差部がないと確認されたものの中からカメラが選択される。   For a camera that has been confirmed to have an intersection, it is determined that the camera is not capable of generating two-dimensional image data in which the tip of the tool is not hidden. It is determined that the camera is capable of generating two-dimensional image data in which the tip of the camera is not hidden, and the camera is selected from those confirmed to have no intersection.

この後、カメラ選択手段によって選択されたカメラにより生成される2次元画像データが、カメラ切換手段によって画面表示手段に表示される。このようにして、カメラが切り換えられながら、カメラから得られる2次元画像データが画面表示手段に表示される。   Thereafter, the two-dimensional image data generated by the camera selected by the camera selection means is displayed on the screen display means by the camera switching means. In this way, the two-dimensional image data obtained from the camera is displayed on the screen display means while the camera is switched.

斯くして、本発明に係る加工状況監視装置によれば、選択された少なくとも1つのカメラによって生成される、工具の先端が隠れない2次元画像データを画面表示手段に順次表示させているので、オペレータは、表示画像を通してワークの加工状況を十分に監視することができる。   Thus, according to the machining status monitoring apparatus according to the present invention, the two-dimensional image data generated by the selected at least one camera and in which the tip of the tool is not hidden is sequentially displayed on the screen display means. The operator can sufficiently monitor the machining status of the workpiece through the display image.

また、工具の先端が隠れない2次元画像データを表示させているので、加工状況の監視にさほど役立たない画像の表示を省略することができ、更に、一律にすべての画像を表示させていた従来に比べ、表示画像が小さくなることもなく、オペレータは、表示画像を通して加工状況を細部まで確認することができる。また、画面表示手段に工作機械の制御状態をカメラから得られる画像とともに表示させるようにしても、この制御状態の表示領域が必要以上に狭くなることはなく、オペレータは、工作機械の制御状態も十分に確認することができる。また、画面表示手段に表示される画像が自動的に切り換えられるので、オペレータが少なくとも1つの画像を選択して所望の画像に切り換えるといった手間を省くこともできる。   Moreover, since the two-dimensional image data in which the tip of the tool is not hidden is displayed, it is possible to omit the display of an image that is not very useful for monitoring the machining status, and furthermore, all images are displayed uniformly. Compared to the above, the display image is not reduced, and the operator can confirm the processing status through the display image in detail. Further, even if the control state of the machine tool is displayed on the screen display means together with the image obtained from the camera, the display region of the control state is not unnecessarily narrow, and the operator can also control the control state of the machine tool. It can be fully confirmed. In addition, since the image displayed on the screen display means is automatically switched, it is possible to save the operator from selecting at least one image and switching to a desired image.

尚、前記加工状況監視装置は、前記位置関係認識手段によって認識された位置関係を基に、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラをカメラ選択候補として抽出する選択候補抽出手段を備え、前記カメラ選択手段は、前記選択候補抽出手段によって抽出されたカメラ選択候補の中から1つのカメラを選択,決定するとともに、前記カメラ選択候補の中から1つのカメラに決定する際には、今回のカメラ選択候補の中に、前回決定したカメラが含まれているか否かを確認して、含まれていると判断したときには、前回と同じカメラに決定するように構成されていても良い。   The processing status monitoring device can generate two-dimensional image data in which the tip of the tool is not hidden by at least the workpiece among the plurality of cameras, based on the positional relationship recognized by the positional relationship recognition unit. Selection candidate extracting means for extracting a camera as a camera selection candidate, wherein the camera selection means selects and determines one camera from among the camera selection candidates extracted by the selection candidate extraction means; and the camera selection candidate When deciding on one camera from the above, check whether the camera selected last time is included in the current camera selection candidate, and if it is determined that it is included, the same as the previous time The camera may be configured to determine.

このようにすれば、まず、位置関係認識手段によって認識された位置関係を基に、選択候補抽出手段により、工具の先端が隠れない2次元画像データを生成可能なカメラがカメラ選択候補として抽出される。この抽出処理は、例えば、上述した、位置関係認識手段によって認識された位置関係を基に、カメラ選択手段によってカメラが選択される処理と同様にして行われる。   In this way, first, based on the positional relationship recognized by the positional relationship recognition unit, the selection candidate extraction unit extracts a camera capable of generating two-dimensional image data in which the tip of the tool is not hidden as a camera selection candidate. The This extraction process is performed, for example, in the same manner as the above-described process in which the camera is selected by the camera selection unit based on the positional relationship recognized by the positional relationship recognition unit.

そして、カメラ選択候補が抽出されると、カメラ選択手段により、抽出されたカメラ選択候補の中から1つのカメラが選択,決定される。その際には、今回のカメラ選択候補の中に、前回決定したカメラが含まれているか否かが確認され、含まれていると判断されたときには、前回と同じカメラに決定される。   When camera selection candidates are extracted, one camera is selected and determined from the extracted camera selection candidates by the camera selection means. In this case, it is confirmed whether or not the camera selected last time is included in the current camera selection candidate, and if it is determined that it is included, the same camera as the previous camera is determined.

このように、前回と同じカメラを選択,決定するようにすれば、ワーク加工時におけるカメラ切換回数を少なくすることができる。これにより、工具及びワークを見る方向が頻繁に変わってどの方向から見ているのかが分かり難くなり、却って、加工状況を監視し難くなるのを防止することができる。   In this way, if the same camera as the previous one is selected and determined, the number of times of camera switching during workpiece machining can be reduced. As a result, the direction in which the tool and workpiece are viewed changes frequently, making it difficult to understand from which direction, and it is possible to prevent the machining status from becoming difficult to monitor.

また、本発明は、
工具及びワークを相対移動させる加工動作機構部と、加工プログラムを解析して前記加工動作機構部の動作指令を抽出し、抽出した動作指令を基に前記加工動作機構部の作動を制御する制御手段とを備えた工作機械における加工状況を監視する装置であって、
少なくとも前記工具及びワークを互いに異なる視点から一定時間間隔で撮像してその2次元画像データを順次生成する複数のカメラと、
前記カメラによって生成された2次元画像データを表示する画面表示手段と、
前記加工プログラムによって実行される加工の種別と、前記複数のカメラの内、前記加工中に少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラとを関連付けて記憶するカメラ情報記憶手段と、
前記制御手段から得られる動作指令を基に前記加工の種別を認識する加工種別認識手段と、
前記加工種別認識手段によって認識された加工の種別と、前記カメラ情報記憶手段に格納されたデータとを基に、前記加工の種別に対応したカメラを、前記画面表示手段に表示させるべき2次元画像データを生成するカメラとして選択するカメラ選択手段と、
前記カメラ選択手段によって選択されたカメラにより生成される2次元画像データを前記画面表示手段に表示させるカメラ切換手段とを備えてなることを特徴とする加工状況監視装置に係る。
The present invention also provides:
A machining operation mechanism unit that relatively moves a tool and a workpiece, and a control unit that analyzes a machining program, extracts an operation command of the machining operation mechanism unit, and controls the operation of the machining operation mechanism unit based on the extracted operation command An apparatus for monitoring the machining status of a machine tool equipped with
A plurality of cameras that capture at least the tool and the workpiece from different viewpoints at regular time intervals and sequentially generate two-dimensional image data thereof;
Screen display means for displaying two-dimensional image data generated by the camera;
A camera that associates and stores a type of machining executed by the machining program and a camera that can generate two-dimensional image data in which at least the tip of the tool is not hidden by the workpiece during the machining among the plurality of cameras. Information storage means;
Machining type recognition means for recognizing the type of machining based on an operation command obtained from the control means;
Based on the processing type recognized by the processing type recognition unit and the data stored in the camera information storage unit, a two-dimensional image to be displayed on the screen display unit, a camera corresponding to the processing type Camera selection means for selecting as a camera for generating data;
The present invention relates to a processing status monitoring apparatus comprising: a camera switching unit that causes the screen display unit to display two-dimensional image data generated by a camera selected by the camera selection unit.

この発明では、制御手段により、加工プログラムが解析されて加工動作機構部の動作指令が抽出され、抽出された動作指令を基に加工動作機構部が制御されて工具及びワークが相対移動せしめられると、以下のようにして、画面表示手段に表示させるべき2次元画像データを生成するカメラが切り換えられながら画面表示手段に監視画像が表示される。尚、カメラ情報記憶手段には、加工プログラムによって実行される加工の種別(例えば、外周加工やポケット穴加工など)と、加工中にワークによって工具の先端が隠れない2次元画像データを生成可能な少なくとも1つのカメラとが関連付けられて予め格納されている。   In the present invention, when the machining program is analyzed by the control means and the operation command of the machining operation mechanism unit is extracted, and the machining operation mechanism unit is controlled based on the extracted operation command and the tool and the workpiece are relatively moved. In the following manner, the monitoring image is displayed on the screen display means while the camera for generating the two-dimensional image data to be displayed on the screen display means is switched. The camera information storage means can generate two-dimensional image data in which the tip of the tool is not hidden by the workpiece during processing, for example, the type of processing executed by the processing program (for example, peripheral processing or pocket hole processing). At least one camera is associated and stored in advance.

まず、制御手段から得られる動作指令(例えば、固定サイクルを示すGコード)を基に、加工種別認識手段により加工の種別が認識され、認識された加工の種別と、カメラ情報記憶手段に格納されたデータとを基に、カメラ選択手段により、加工の種別に対応したカメラが、画面表示手段に表示させるべき2次元画像データを生成するカメラとして選択される。   First, based on an operation command (for example, a G code indicating a fixed cycle) obtained from the control means, the processing type is recognized by the processing type recognition means, and the recognized processing type is stored in the camera information storage means. Based on the obtained data, the camera selection means selects a camera corresponding to the type of processing as a camera for generating two-dimensional image data to be displayed on the screen display means.

そして、選択されたカメラによって生成される2次元画像データが、カメラ切換手段によって画面表示手段に表示される。このようにして、カメラが切り換えられながら、カメラから得られる2次元画像データが画面表示手段に表示される。   Then, the two-dimensional image data generated by the selected camera is displayed on the screen display means by the camera switching means. In this way, the two-dimensional image data obtained from the camera is displayed on the screen display means while the camera is switched.

斯くして、本発明に係る加工状況監視装置によっても、選択された少なくとも1つのカメラによって生成される、工具の先端が隠れない2次元画像データを画面表示手段に順次表示させることができるので、オペレータは、表示画像を通してワークの加工状況を十分に監視することができる。   Thus, even with the machining status monitoring device according to the present invention, two-dimensional image data generated by at least one selected camera that does not hide the tip of the tool can be sequentially displayed on the screen display means. The operator can sufficiently monitor the machining status of the workpiece through the display image.

また、工具の先端が隠れない2次元画像データを表示させているので、加工状況の監視にさほど役立たない画像の表示を省略することができ、更に、一律にすべての画像を表示させていた従来に比べ、表示画像が小さくなることもなく、オペレータは、表示画像を通して加工状況を細部まで確認することができる。また、画面表示手段に工作機械の制御状態をカメラから得られる画像とともに表示させるようにしても、この制御状態の表示領域が必要以上に狭くなることはなく、オペレータは、工作機械の制御状態も十分に確認することができる。また、画面表示手段に表示される画像が自動的に切り換えられるので、オペレータが少なくとも1つの画像を選択して所望の画像に切り換えるといった手間を省くこともできる。   Moreover, since the two-dimensional image data in which the tip of the tool is not hidden is displayed, it is possible to omit the display of an image that is not very useful for monitoring the machining status, and furthermore, all images are displayed uniformly. Compared to the above, the display image is not reduced, and the operator can confirm the processing status through the display image in detail. Further, even if the control state of the machine tool is displayed on the screen display means together with the image obtained from the camera, the display region of the control state is not unnecessarily narrow, and the operator can also control the control state of the machine tool. It can be fully confirmed. In addition, since the image displayed on the screen display means is automatically switched, it is possible to save the operator from selecting at least one image and switching to a desired image.

尚、前記カメラ情報記憶手段は、前記工具の位置情報と、この位置情報に係る位置に前記工具が移動したときに、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラとが関連付けられたカメラ情報を前記加工の種別毎に記憶するように構成され、前記カメラ選択手段は、前記加工種別認識手段によって認識された加工の種別と、前記カメラ情報記憶手段に格納されたカメラ情報と、前記制御手段から得られる前記工具の位置情報とを基に、前記加工の種別及び工具の位置情報に対応したカメラを、前記画面表示手段に表示させるべき2次元画像データを生成するカメラとして予め設定された時間毎に選択するように構成されていても良い。   The camera information storage means is configured to prevent the tip of the tool from being hidden by at least the workpiece among the plurality of cameras when the tool moves to the position information of the tool and the position related to the position information. It is configured to store camera information associated with a camera capable of generating dimensional image data for each type of processing, and the camera selection unit includes: a processing type recognized by the processing type recognition unit; Based on the camera information stored in the camera information storage means and the tool position information obtained from the control means, the camera corresponding to the machining type and the tool position information is displayed on the screen display means. The camera may be configured to select at predetermined time intervals as a camera that generates power two-dimensional image data.

この場合、カメラ情報記憶手段には、工具位置情報と、この位置情報に係る位置に工具が移動したときに、ワークによって工具の先端が隠れない2次元画像データを生成可能なカメラとが関連付けられたカメラ情報が加工の種別毎に予め格納される。尚、工具位置情報と関連付けられるカメラとしては、工具の先端が隠れない2次元画像データを生成可能である他、例えば、工具が接近してくる画像や工具が離れていく画像を生成可能なカメラ、ワーク加工時におけるカメラ切換回数を少なくすることが可能なカメラを挙げることができる。   In this case, the camera information storage means is associated with the tool position information and a camera capable of generating two-dimensional image data in which the tip of the tool is not hidden by the workpiece when the tool moves to a position related to the position information. The camera information is stored in advance for each type of processing. The camera associated with the tool position information can generate two-dimensional image data in which the tip of the tool is not hidden, for example, a camera that can generate an image in which the tool approaches or an image in which the tool leaves. A camera capable of reducing the number of times of camera switching during workpiece machining can be mentioned.

そして、カメラ選択手段によってカメラが選択される際には、加工種別認識手段によって認識された加工の種別と、カメラ情報記憶手段に格納されたカメラ情報と、制御手段から得られる工具位置情報とを基に、加工の種別及び工具位置情報に対応したカメラが、画面表示手段に表示させるべき2次元画像データを生成するカメラとして選択される。   Then, when the camera is selected by the camera selection means, the processing type recognized by the processing type recognition means, the camera information stored in the camera information storage means, and the tool position information obtained from the control means. Based on the processing type and the tool position information, the camera corresponding to the processing type and the tool position information is selected as a camera that generates two-dimensional image data to be displayed on the screen display means.

したがって、このようにすれば、加工の種別及び工具位置情報を基に、予め設定したカメラに順次切り換えることができるので、より適切な画像を画面表示手段に表示させることができる。また、ワーク加工時におけるカメラ切換回数を少なくすることが可能なカメラをカメラ情報に設定しておけば、工具及びワークを見る方向が頻繁に変わってどの方向から見ているのかが分かり難くなり、却って、加工状況を監視し難くなるのを防止することができる。   Therefore, in this way, since it is possible to sequentially switch to a preset camera based on the type of machining and the tool position information, a more appropriate image can be displayed on the screen display means. In addition, if the camera information that can reduce the number of times of camera switching during workpiece processing is set in the camera information, the direction in which the tool and workpiece are viewed changes frequently, making it difficult to understand from which direction, On the contrary, it is possible to prevent the processing status from becoming difficult to monitor.

尚、前記加工動作機構部としては、工作機械がマシニングセンタであるときには、例えば、工具を保持する主軸、ワークが載置されるテーブル、これら主軸及びテーブルを相対移動させる送り機構部などを挙げることができ、工作機械が旋盤であるときには、例えば、工具を保持する刃物台、ワークを保持する主軸、これら刃物台及び主軸を相対移動させる送り機構部などを挙げることができる。   As the machining operation mechanism unit, when the machine tool is a machining center, for example, a spindle for holding a tool, a table on which a workpiece is placed, a feed mechanism unit for relatively moving the spindle and the table, and the like can be given. When the machine tool is a lathe, for example, a turret for holding a tool, a main shaft for holding a workpiece, a feed mechanism section for relatively moving the turret and the main shaft, and the like can be given.

以上のように、本発明に係る加工状況監視装置によれば、オペレータは、複数のカメラの中から選択されたカメラによって生成される、工具の先端がワークにより隠れていない画像を通してワークの加工状況を監視することができるので、ワークの加工状況を正確に把握することができる。また、不要な監視画像の表示を省略して、監視画像や工作機械の制御状態に係る画像が必要以上に小さくなるのを防止することができるので、オペレータの視認性を高めることができる。   As described above, according to the machining status monitoring apparatus according to the present invention, the operator can process the workpiece through the image generated by the camera selected from the plurality of cameras and the tip of the tool is not hidden by the workpiece. Therefore, it is possible to accurately grasp the machining status of the workpiece. In addition, unnecessary monitoring images can be omitted from being displayed, and the monitoring image and the image relating to the control state of the machine tool can be prevented from becoming unnecessarily small, so that the visibility of the operator can be improved.

本発明の一実施形態に係る加工状況監視装置などの概略構成を示したブロック図である。It is the block diagram which showed schematic structure, such as the processing condition monitoring apparatus which concerns on one Embodiment of this invention. 本実施形態の加工状況監視装置が設けられる工作機械の概略構成を示した斜視図である。It is the perspective view which showed schematic structure of the machine tool provided with the processing condition monitoring apparatus of this embodiment. 工作機械に配設された複数のCCDカメラの配置関係を示した平面図である。It is the top view which showed the arrangement | positioning relationship of the some CCD camera arrange | positioned at the machine tool. 複数のCCDカメラから得られる画像例を示した説明図である。It is explanatory drawing which showed the example of an image obtained from a some CCD camera. 工具の先端が隠れない2次元画像データを生成可能なCCDカメラを判別するための処理を説明するための説明図である。It is explanatory drawing for demonstrating the process for discriminating the CCD camera which can produce | generate the two-dimensional image data which does not hide the front-end | tip of a tool. 本実施形態のカメラ選択部における一連の処理を示したフローチャートである。It is the flowchart which showed a series of processes in the camera selection part of this embodiment. 本実施形態のCCDカメラ切換過程を示したフローチャートである。It is the flowchart which showed the CCD camera switching process of this embodiment. 本発明の他の実施形態に係る加工状況監視装置などの概略構成を示したブロック図である。It is the block diagram which showed schematic structure, such as the processing condition monitoring apparatus which concerns on other embodiment of this invention. 本発明の他の実施形態のカメラ情報記憶部に格納されるデータのデータ構成を示した説明図である。It is explanatory drawing which showed the data structure of the data stored in the camera information storage part of other embodiment of this invention. 本発明の他の実施形態のCCDカメラ切換過程を示したフローチャートである。6 is a flowchart illustrating a CCD camera switching process according to another embodiment of the present invention.

以下、本発明の具体的な実施形態について、添付図面に基づき説明する。尚、図1は、本発明の一実施形態に係る加工状況監視装置などの概略構成を示したブロック図であり、図2は、本実施形態の加工状況監視装置が設けられる工作機械の概略構成を示した斜視図である。また、図3は、工作機械に配設された複数のCCDカメラの配置関係を示した平面図である。   Hereinafter, specific embodiments of the present invention will be described with reference to the accompanying drawings. FIG. 1 is a block diagram showing a schematic configuration of a machining status monitoring device and the like according to one embodiment of the present invention, and FIG. 2 is a schematic configuration of a machine tool provided with the machining status monitoring device of this embodiment. It is the perspective view which showed. FIG. 3 is a plan view showing an arrangement relationship of a plurality of CCD cameras arranged on the machine tool.

図1に示すように、本例の加工状況監視装置1は、複数(本例では4つ)のCCDカメラ11,12,13,14、カメラパラメータ記憶部15、モデルデータ記憶部16、モデルデータ更新部17、位置関係認識部18、選択候補抽出部19、カメラ選択部20、カメラ切換部21及び画面表示装置66を備え、例えば、図2に示すような、マシニングセンタと呼ばれる工作機械50に設けられる。   As shown in FIG. 1, the processing status monitoring apparatus 1 of this example includes a plurality (four in this example) of CCD cameras 11, 12, 13, and 14, a camera parameter storage unit 15, a model data storage unit 16, and model data. The update unit 17, the positional relationship recognition unit 18, the selection candidate extraction unit 19, the camera selection unit 20, the camera switching unit 21, and the screen display device 66 are provided, for example, in a machine tool 50 called a machining center as shown in FIG. It is done.

ここで、まず、前記工作機械50について説明する。この工作機械50は、図1及び図2に示すように、ベッド51と、ベッド51に配設され、水平方向且つ前後方向(Y軸方向)に移動自在となった第1サドル52と、第1サドル52に配設され、水平方向且つ左右方向(X軸方向)に移動自在となった第2サドル53と、第2サドル53に支持され、鉛直方向(Z軸方向)に移動自在となった主軸頭54と、軸線がZ軸と平行且つ軸線中心に回転自在に主軸頭54によって支持され、下端部に工具Tが装着される主軸55と、ベッド51に配設され、上面にワークWが載置されるテーブル56と、第1サドル52,第2サドル53及び主軸頭54を各移動方向にそれぞれ移動させるY軸送り機構部57,X軸送り機構部58及びZ軸送り機構部59と、各送り機構部57,58,59の作動を制御する制御装置60と、制御装置60に接続された操作盤65とを備えている。   First, the machine tool 50 will be described. As shown in FIGS. 1 and 2, the machine tool 50 includes a bed 51, a first saddle 52 disposed on the bed 51, which is movable in the horizontal direction and the front-rear direction (Y-axis direction), A second saddle 53 disposed on one saddle 52 and movable in the horizontal direction and in the left-right direction (X-axis direction) and supported by the second saddle 53 and movable in the vertical direction (Z-axis direction). The spindle head 54, the spindle 55 is supported by the spindle head 54 so that the axis is parallel to the Z axis and rotatable about the axis, the tool T is mounted on the lower end, the bed 51, and the workpiece W on the upper surface. , A Y-axis feed mechanism 57, an X-axis feed mechanism 58, and a Z-axis feed mechanism 59 that move the first saddle 52, the second saddle 53, and the spindle head 54 in the respective movement directions. And the operation of each feed mechanism 57, 58, 59 And a control unit 60 for controlling, and an operation panel 65 connected to the controller 60.

前記ベッド51は、その左右両側及び奥側に側壁51a,51b,51cが設けられた構造を備えており、左右両側の側壁51a,51bの上部に前記第1サドル52が配設され、奥側の側壁51cに前記テーブル56が配設されている。前記操作盤65には、前記画面表示装置66が設けられており、この画面表示装置66には、制御装置60による制御状態や、前記各CCDカメラ11,12,13,14から得られる画像が表示される。また、操作盤65には、特に図示はしないが、各種信号を入力するための入力装置が設けられている。   The bed 51 has a structure in which side walls 51a, 51b, 51c are provided on the left and right sides and the back side, and the first saddle 52 is disposed on the left and right side walls 51a, 51b. The table 56 is disposed on the side wall 51c. The operation panel 65 is provided with the screen display device 66. The screen display device 66 is controlled by the control device 60 and images obtained from the CCD cameras 11, 12, 13, and 14. Is displayed. The operation panel 65 is provided with an input device for inputting various signals (not shown).

前記制御装置60は、予め作成された加工プログラムを記憶するプログラム記憶部60aを備え、このプログラム記憶部60aに格納された加工プログラムに基づいて各送り機構部57,58,59を制御する。具体的には、加工プログラムをブロック毎に解析して、工具T(各送り機構部57,58,59)の移動位置や送り速度に関する動作指令を順次抽出し、抽出した動作指令と、各送り機構部57,58,59から得られるフィードバック信号とを基に各送り機構部57,58,59を制御する。   The control device 60 includes a program storage unit 60a for storing a machining program created in advance, and controls the feed mechanism units 57, 58, and 59 based on the machining program stored in the program storage unit 60a. Specifically, the machining program is analyzed for each block, and operation commands relating to the movement position and feed speed of the tool T (each feed mechanism unit 57, 58, 59) are sequentially extracted. Each feed mechanism 57, 58, 59 is controlled based on feedback signals obtained from the mechanisms 57, 58, 59.

また、この制御装置60は、前記抽出した動作指令を前記モデルデータ更新部17に送信する。更に、制御装置60は、前記抽出した動作指令と、前記主軸55に装着された工具Tの現在位置,現在速度及び移動方向とを基に、予め設定された時間経過後(例えば、数ミリ秒後)における工具Tの移動位置を予め設定された時間毎に予測し、予測した移動位置(工具Tの位置情報)を前記位置関係認識部18に順次送信する。   Further, the control device 60 transmits the extracted operation command to the model data update unit 17. Further, the control device 60, after the elapse of a preset time (for example, several milliseconds) based on the extracted operation command and the current position, current speed and moving direction of the tool T mounted on the spindle 55. After that, the movement position of the tool T is predicted every preset time, and the predicted movement position (position information of the tool T) is sequentially transmitted to the positional relationship recognition unit 18.

尚、前記第1サドル52,第2サドル53,主軸頭54,主軸55,テーブル56,Y軸送り機構部57,X軸送り機構部58及びZ軸送り機構部59は、特許請求の範囲に言う加工動作機構部として機能する。   The first saddle 52, the second saddle 53, the spindle head 54, the spindle 55, the table 56, the Y-axis feeding mechanism 57, the X-axis feeding mechanism 58, and the Z-axis feeding mechanism 59 are within the scope of the claims. It functions as a machining operation mechanism.

次に、前記加工状況監視装置1について説明する。この加工状況監視装置1は、上述のように、CCDカメラ11,12,13,14(第1CCDカメラ11,第2CCDカメラ12,第3CCDカメラ13及び第4CCDカメラ14)、カメラパラメータ記憶部15、モデルデータ記憶部16、モデルデータ更新部17、位置関係認識部18、選択候補抽出部19、カメラ選択部20、カメラ切換部21及び画面表示装置66を備えている。   Next, the processing status monitoring apparatus 1 will be described. As described above, the processing status monitoring apparatus 1 includes the CCD cameras 11, 12, 13, and 14 (the first CCD camera 11, the second CCD camera 12, the third CCD camera 13, and the fourth CCD camera 14), the camera parameter storage unit 15, A model data storage unit 16, a model data update unit 17, a positional relationship recognition unit 18, a selection candidate extraction unit 19, a camera selection unit 20, a camera switching unit 21, and a screen display device 66 are provided.

図2及び図3に示すように、各CCDカメラ11,12,13,14は、テーブル56上のワークWを囲むように配置されており、このワークWを四方から撮像可能に構成される。具体的には、前記第1CCDカメラ11及び第2CCDカメラ12は、前記ベッド51の左側壁51aの前側上部及び後側上部にブラケット11a,12aを介してそれぞれ取り付けられ、前記第3CCDカメラ13及び第4CCDカメラ14は、前記ベッド51の右側壁51bの前側上部及び後側上部にブラケット13a,14aを介してそれぞれ取り付けられる。そして、これらのCCDカメラ11,12,13,14は、主軸55に装着された工具T及びテーブル56上のワークWを一定時間間隔で撮像して2次元画像データを順次生成し、生成した2次元画像データを前記カメラ切換部21に出力する。   As shown in FIGS. 2 and 3, the CCD cameras 11, 12, 13, and 14 are arranged so as to surround the work W on the table 56, and are configured to be able to image the work W from four directions. Specifically, the first CCD camera 11 and the second CCD camera 12 are attached to the front upper part and the rear upper part of the left side wall 51a of the bed 51 via brackets 11a and 12a, respectively. The 4CCD camera 14 is attached to the front upper part and the rear upper part of the right side wall 51b of the bed 51 via brackets 13a and 14a, respectively. The CCD cameras 11, 12, 13, and 14 sequentially generate 2D image data by capturing the tool T mounted on the spindle 55 and the workpiece W on the table 56 at regular time intervals, and generating 2D data. The dimensional image data is output to the camera switching unit 21.

尚、このとき生成される画像例を図4に示す。図4(a)は、第1CCDカメラ11によって、図4(b)は、第2CCDカメラ12によって、図4(c)は、第3CCDカメラ13によって、図4(d)は、第4CCDカメラ14によって生成された画像データをそれぞれ示している。また、これらの画像には、工具T及びワークWの他、前記ベッド51の一部、主軸頭54の一部、主軸55の一部、テーブル56の一部も含まれている。   An example of the image generated at this time is shown in FIG. 4A is the first CCD camera 11, FIG. 4B is the second CCD camera 12, FIG. 4C is the third CCD camera 13, and FIG. 4D is the fourth CCD camera 14. Each of the image data generated by is shown. In addition to the tool T and the workpiece W, these images include a part of the bed 51, a part of the spindle head 54, a part of the spindle 55, and a part of the table 56.

前記カメラパラメータ記憶部15には、前記各CCDカメラ11,12,13,14に関する内部パラメータ及び外部パラメータがカメラパラメータとしてそれぞれ格納される。内部パラメータは、各CCDカメラ11,12,13,14に固有のものであり、例えば、主点座標、スケール因子、画像の2軸間の歪みなどが挙げられる。一方、外部パラメータは、工作機械50の座標系における各CCDカメラ11,12,13,14の配置位置及び姿勢を表す。尚、これらのパラメータは、キャリブレーション処理により予め算出される。   The camera parameter storage unit 15 stores internal parameters and external parameters related to the CCD cameras 11, 12, 13, and 14 as camera parameters. The internal parameters are specific to each CCD camera 11, 12, 13, and 14, and include, for example, principal point coordinates, a scale factor, and distortion between two axes of an image. On the other hand, the external parameter represents the arrangement position and orientation of each CCD camera 11, 12, 13, 14 in the coordinate system of the machine tool 50. Note that these parameters are calculated in advance by a calibration process.

前記モデルデータ記憶部16には、予め作成された、工作機械50全体の3次元モデルに関するデータ(モデルデータ)が格納される。この工作機械50全体のモデルデータは、前記ベッド51,第1サドル52,第2サドル53,主軸頭54,主軸55及びテーブル56といった工作機械50の主要な構成要素のモデルデータと、前記主軸55に装着される工具Tのモデルデータと、前記テーブル56上に載置されるワークWのモデルデータとを含み、前記各構成要素,工具T及びワークWの各モデルデータがそれぞれ相互に関連付けられて構成される。   The model data storage unit 16 stores data (model data) relating to a three-dimensional model of the entire machine tool 50 that is created in advance. The model data of the entire machine tool 50 includes model data of main components of the machine tool 50 such as the bed 51, the first saddle 52, the second saddle 53, the spindle head 54, the spindle 55, and the table 56, and the spindle 55. The model data of the tool T mounted on the table 56 and the model data of the workpiece W placed on the table 56, and the model data of each component, the tool T and the workpiece W are associated with each other. Composed.

前記モデルデータ更新部17は、前記モデルデータ記憶部16に格納された工作機械50全体のモデルデータと、前記制御装置60から送信された動作指令とを基に、第1サドル52,第2サドル53及び主軸頭54が動作指令に従って移動した状態となるように工作機械50全体のモデルデータをブロック毎に生成し、生成したモデルデータをモデルデータ記憶部16に格納して、このモデルデータ記憶部16内のモデルデータを更新する。尚、第1サドル52,第2サドル53及び主軸頭54を移動させたときに、工具TのモデルデータとワークWのモデルデータとの間で重なり合う部分がある場合には、その重なり合う部分を切削領域として算出し、この切削領域がワークWから削除されるようにワークWのモデルデータを生成して工作機械50全体のモデルデータを更新する。   The model data update unit 17 includes a first saddle 52 and a second saddle based on the model data of the entire machine tool 50 stored in the model data storage unit 16 and the operation command transmitted from the control device 60. 53. The model data of the entire machine tool 50 is generated for each block so that the head 53 and the spindle head 54 are moved according to the operation command, and the generated model data is stored in the model data storage unit 16, and this model data storage unit The model data in 16 is updated. When the first saddle 52, the second saddle 53, and the spindle head 54 are moved, if there is an overlapping portion between the model data of the tool T and the model data of the workpiece W, the overlapping portion is cut. The model data of the workpiece W is generated so that the cutting region is deleted from the workpiece W, and the model data of the entire machine tool 50 is updated.

前記位置関係認識部18は、前記カメラパラメータ記憶部15に格納されたカメラパラメータと、前記制御装置60から送信された工具Tの位置情報と、前記主軸55に装着された工具Tに関する情報(例えば、工具径や工具長さといった工具情報)と、前記モデルデータ更新部17によって更新されたモデルデータとを基に、各CCDカメラ11,12,13,14、工具T及びワークWの位置関係を予め設定された時間毎に認識する。   The positional relationship recognition unit 18 includes camera parameters stored in the camera parameter storage unit 15, position information of the tool T transmitted from the control device 60, and information about the tool T mounted on the spindle 55 (for example, , Tool information such as tool diameter and tool length) and the model data updated by the model data updating unit 17, the positional relationship among the CCD cameras 11, 12, 13, 14, the tool T, and the workpiece W is determined. Recognize every preset time.

例えば、各CCDカメラ11,12,13,14について、前記カメラパラメータから、CCDカメラ11,12,13,14の撮像面と光軸との交点やCCDカメラ11,12,13,14のレンズの中心点を認識し、前記工具Tの位置情報及び工具情報から、現在(工具移動前)における工具Tの先端位置と、予め設定された時間経過後(工具移動後)における工具Tの先端位置とを認識し、前記モデルデータから、ワークWの配置位置とワークWの形状とを認識する。   For example, for each CCD camera 11, 12, 13, 14, based on the camera parameters, the intersection of the imaging surface of the CCD camera 11, 12, 13, 14 and the optical axis, and the lens of the CCD camera 11, 12, 13, 14, A center point is recognized, and the tip position of the tool T at the present time (before the tool movement) and the tip position of the tool T after a preset time (after the tool movement) are obtained from the position information and tool information of the tool T. And the arrangement position of the workpiece W and the shape of the workpiece W are recognized from the model data.

前記選択候補抽出部19は、前記位置関係認識部18によって認識された位置関係を基に、各CCDカメラ11,12,13,14の中から、ワークWによって工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14をカメラ選択候補として抽出する。   The selection candidate extracting unit 19 is a two-dimensional model in which the tip of the tool T is not hidden by the workpiece W from the CCD cameras 11, 12, 13, and 14, based on the positional relationship recognized by the positional relationship recognition unit 18. CCD cameras 11, 12, 13, and 14 capable of generating image data are extracted as camera selection candidates.

例えば、図5に示すように、まず、各CCDカメラ11,12,13,14について、CCDカメラ11,12,13,14の撮像面と光軸との交点KやCCDカメラ11,12,13,14のレンズの中心点Kと、工具移動前後における工具Tの先端位置L,M(移動前の先端位置L,移動後の先端位置M)との3点を結んで3角形状の平面Pをそれぞれ形成し、これらの平面PとワークWの形状との間に交差部があるか否かをそれぞれ確認する。そして、交差部があると判断したCCDカメラ11,12,13,14については、工具Tの先端が隠れない2次元画像データを生成可能ではないと認識する一方、交差部がないと判断したCCDカメラ11,12,13,14については、工具Tの先端が隠れない2次元画像データを生成可能であると認識する。この後、交差部がないと判断したCCDカメラ11,12,13,14をカメラ選択候補として認識,抽出する。このとき、交差部がないと判断したCCDカメラ11,12,13,14が存在しない場合には、予め設定されたCCDカメラ11,12,13,14をカメラ選択候補として認識,抽出する。   For example, as shown in FIG. 5, first, for each CCD camera 11, 12, 13, 14, the intersection K between the imaging surface of the CCD camera 11, 12, 13, 14 and the optical axis, or the CCD camera 11, 12, 13. , 14 and the tip position L, M of the tool T before and after the tool movement (tip position L before movement, tip position M after movement) is connected to a triangular plane P And confirm whether or not there is an intersection between the plane P and the shape of the workpiece W. For the CCD cameras 11, 12, 13, and 14 determined to have an intersection, it is recognized that it is not possible to generate two-dimensional image data in which the tip of the tool T is not hidden, while the CCD is determined to have no intersection. For the cameras 11, 12, 13, and 14, it is recognized that two-dimensional image data in which the tip of the tool T is not hidden can be generated. Thereafter, the CCD cameras 11, 12, 13, and 14 determined to have no intersection are recognized and extracted as camera selection candidates. At this time, if there is no CCD camera 11, 12, 13, or 14 determined to have no intersection, the preset CCD cameras 11, 12, 13, and 14 are recognized and extracted as camera selection candidates.

尚、図5(a)は、第1CCDカメラ11が、工具Tの先端が隠れない2次元画像データを生成可能なものであるか否かを確認するための処理を説明するための説明図であり、図5(b)は、第2CCDカメラ12が、工具Tの先端が隠れない2次元画像データを生成可能なものであるか否かを確認するための処理を説明するための説明図である。この図示例において、第1CCDカメラ11は、前記平面PとワークWとが交差しており、工具Tの先端が隠れない2次元画像データを生成可能なものではなく、一方、第2CCDカメラ12は、前記平面PとワークWとが交差しておらず、工具Tの先端が隠れない2次元画像データを生成可能なものである。   FIG. 5A is an explanatory diagram for explaining processing for confirming whether or not the first CCD camera 11 can generate two-dimensional image data in which the tip of the tool T is not hidden. FIG. 5B is an explanatory diagram for explaining processing for confirming whether or not the second CCD camera 12 can generate two-dimensional image data in which the tip of the tool T is not hidden. is there. In the illustrated example, the first CCD camera 11 is not capable of generating two-dimensional image data in which the plane P and the workpiece W intersect and the tip of the tool T is not hidden, while the second CCD camera 12 The plane P and the workpiece W do not intersect with each other, and two-dimensional image data in which the tip of the tool T is not hidden can be generated.

前記カメラ選択部20は、図6に示すような一連の処理を実行して、前記選択カメラ抽出部19により抽出されたカメラ選択候補を基に、カメラ選択候補の中から1つのCCDカメラ11,12,13,14を選択,決定する。   The camera selection unit 20 executes a series of processes as shown in FIG. 6, and based on the camera selection candidates extracted by the selected camera extraction unit 19, one CCD camera 11, Select 12, 13 and 14 and decide.

即ち、カメラ選択部20は、まず、選択カメラ抽出部19によって抽出されたカメラ選択候補を受信してこれを認識し(ステップS1)、ついで、前回決定したCCDカメラ11,12,13,14を認識する(ステップS2)。   That is, the camera selection unit 20 first receives and recognizes the camera selection candidate extracted by the selected camera extraction unit 19 (step S1), and then selects the previously determined CCD cameras 11, 12, 13, and 14. Recognize (step S2).

そして、ステップS1で認識したカメラ選択候補の中に、ステップS2で認識したCCDカメラ11,12,13,14が含まれているか否かを確認し(ステップS3)、含まれていると判断したときには、ステップS2で認識したCCDカメラ11,12,13,14に決定する(ステップS4)。例えば、ステップS1で認識したカメラ選択候補がA,B,Cであり、前回決定したカメラがAであるとすれば、共通するAに決定される。   Then, it is checked whether or not the CCD camera 11, 12, 13, 14 recognized in step S2 is included in the camera selection candidates recognized in step S1 (step S3), and is determined to be included. In some cases, the CCD cameras 11, 12, 13, and 14 recognized in step S2 are determined (step S4). For example, if the camera selection candidates recognized in step S1 are A, B, and C, and the camera determined last time is A, the common selection is A.

一方、ステップS3で含まれていないと判断したときには、ステップS1で認識したカメラ選択候補の中から1つのCCDカメラ11,12,13,14を選択,決定する(ステップS5)。このようにして、1つのCCDカメラ11,12,13,14を決定すると、上記一連の処理を終了する。   On the other hand, when it is determined in step S3 that it is not included, one CCD camera 11, 12, 13, 14 is selected and determined from the camera selection candidates recognized in step S1 (step S5). When one CCD camera 11, 12, 13, 14 is determined in this way, the above series of processing is terminated.

前記カメラ切換部21は、前記カメラ選択部20によって選択,決定されたCCDカメラ11,12,13,14により生成される2次元画像データを前記画面表示装置66に表示させる。   The camera switching unit 21 causes the screen display device 66 to display two-dimensional image data generated by the CCD cameras 11, 12, 13, and 14 selected and determined by the camera selection unit 20.

以上のように構成された本例の加工状況監視装置1によれば、制御装置60によって加工プログラムが実行されると、即ち、制御装置60により加工プログラムがブロック毎に順次解析されて動作指令が抽出され、抽出された動作指令を基に各送り機構部57,58,59が制御されて工具T及びワークWが相対移動せしめられると、以下のようにして、画面表示装置66に表示させるべき2次元画像データを生成するCCDカメラ11,12,13,14が予め設定された時間毎に切り換えられながら(画面表示装置66に表示される2次元画像データが切り換えられながら)、画面表示装置66に監視画像が表示される。   According to the machining status monitoring apparatus 1 of the present example configured as described above, when the machining program is executed by the control device 60, that is, the machining program is sequentially analyzed for each block by the control device 60, and an operation command is issued. When the feed mechanisms 57, 58, 59 are controlled based on the extracted operation commands and the tool T and the workpiece W are moved relative to each other, they should be displayed on the screen display device 66 as follows. While the CCD cameras 11, 12, 13, and 14 that generate the two-dimensional image data are switched at preset time intervals (while the two-dimensional image data displayed on the screen display device 66 is switched), the screen display device 66. A monitoring image is displayed on the screen.

具体的には、図7に示すように、まず、制御装置60から送信された動作指令がモデルデータ更新部17により受信され(ステップS11)、モデルデータ更新部17によりモデルデータが更新されるとともに(ステップS12)、制御装置60から送信された工具Tの位置情報が位置関係認識部18により受信され(ステップS13)、位置関係認識部18により各CCDカメラ11,12,13,14、工具T及びワークWの位置関係が認識される(ステップS14)。   Specifically, as illustrated in FIG. 7, first, the operation command transmitted from the control device 60 is received by the model data update unit 17 (step S11), and the model data update unit 17 updates the model data. (Step S12), the positional information of the tool T transmitted from the control device 60 is received by the positional relationship recognition unit 18 (Step S13). The positional relationship recognition unit 18 receives the CCD cameras 11, 12, 13, 14, and the tool T. And the positional relationship of the workpiece | work W is recognized (step S14).

ついで、選択候補抽出部19によりカメラ選択候補が抽出され(ステップS15)、カメラ選択部20により1つのCCDカメラ11,12,13,14が選択,決定される(ステップS16)。そして、決定されたCCDカメラ11,12,13,14により生成される2次元画像データがカメラ切換部21によって画面表示装置66に表示される(ステップS17)。   Next, camera selection candidates are extracted by the selection candidate extraction unit 19 (step S15), and one CCD camera 11, 12, 13, 14 is selected and determined by the camera selection unit 20 (step S16). Then, the two-dimensional image data generated by the determined CCD cameras 11, 12, 13, and 14 is displayed on the screen display device 66 by the camera switching unit 21 (step S17).

この後、加工プログラムが終了したか否かが確認され(ステップS18)、終了していない場合には、制御装置60から送信された工具Tの新たな位置情報が位置関係認識部18によって受信されたか否かが確認され(ステップS19)、受信された場合には上記ステップS14以降の処理が実行される。一方、ステップS19で受信されていない場合には、制御装置60から送信された新たな動作指令がモデルデータ更新部17によって受信されたか否かが確認され(ステップS20)、受信された場合には上記ステップS12以降の処理が実行される。尚、ステップS20で受信されていない場合には、上記ステップS19以降の処理が実行される。また、前記ステップS18で加工プログラムが終了した場合には上記一連の処理が終了する。   Thereafter, it is confirmed whether or not the machining program has been completed (step S18). If the machining program has not been completed, new position information of the tool T transmitted from the control device 60 is received by the positional relationship recognition unit 18. (Step S19), and if it is received, the processing after Step S14 is executed. On the other hand, if it has not been received in step S19, it is confirmed whether or not a new operation command transmitted from the control device 60 has been received by the model data updating unit 17 (step S20). The processes after step S12 are executed. If not received in step S20, the processing from step S19 onward is executed. Further, when the machining program is finished in the step S18, the above series of processing is finished.

このように、本例の加工状況監視装置1によれば、選択されたCCDカメラ11,12,13,14によって生成される、工具Tの先端が隠れない2次元画像データを画面表示装置66に順次表示させているので、オペレータは、表示画像を通してワークWの加工状況を十分に監視することができる。   As described above, according to the processing status monitoring apparatus 1 of this example, the two-dimensional image data generated by the selected CCD cameras 11, 12, 13, and 14 without hiding the tip of the tool T is displayed on the screen display device 66. Since the images are sequentially displayed, the operator can sufficiently monitor the processing status of the workpiece W through the display image.

また、工具Tの先端が隠れない2次元画像データを表示させているので、加工状況の監視にさほど役立たない画像の表示を省略することができ、更に、一律にすべての画像を表示させていた従来に比べ、表示画像が小さくなることもなく、オペレータは、表示画像を通して加工状況を細部まで確認することができる。また、画面表示装置66に工作機械50の制御状態とCCDカメラ11,12,13,14から得られる画像とを同時に表示させても、この制御状態の表示領域が必要以上に狭くなることはなく、オペレータは、工作機械50の制御状態も十分に確認することができる。また、画面表示装置66に表示される画像が自動的に切り換えられるので、オペレータが1つの画像を選択して所望の画像に切り換えるといった手間を省くこともできる。   In addition, since the two-dimensional image data in which the tip of the tool T is not hidden is displayed, it is possible to omit the display of an image that is not very useful for monitoring the machining status, and to display all the images uniformly. Compared to the conventional case, the display image is not reduced, and the operator can check the processing status through the display image in detail. Further, even if the control state of the machine tool 50 and the images obtained from the CCD cameras 11, 12, 13, and 14 are simultaneously displayed on the screen display device 66, the display area of the control state does not become unnecessarily narrow. The operator can sufficiently check the control state of the machine tool 50. Further, since the image displayed on the screen display device 66 is automatically switched, it is possible to save the operator from selecting one image and switching to a desired image.

また、カメラ選択候補を抽出する際に、3点を結んで形成される3角形状の平面Pと、ワークWとの間に交差部があるか否かを確認して、どのCCDカメラ11,12,13,14が、工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14であるかを判断しているので、比較的簡単な処理で、工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14を判別することができる。   Further, when extracting the camera selection candidates, it is confirmed whether there is an intersection between the triangular plane P formed by connecting the three points and the workpiece W, and which CCD camera 11, Since it is determined whether 12, 13, and 14 are CCD cameras 11, 12, 13, and 14 that can generate two-dimensional image data in which the tip of the tool T is not hidden, the tool T can be processed with relatively simple processing. It is possible to discriminate the CCD cameras 11, 12, 13, and 14 that are capable of generating two-dimensional image data that does not cover the tip of the camera.

更に、CCDカメラ11,12,13,14を切り換える際に、前回と同じCCDカメラ11,12,13,14を選択,決定しているので、ワークWの加工時におけるカメラ切換回数を少なくすることができる。これにより、工具T及びワークWを見る方向が頻繁に変わってどの方向から見ているのかが分かり難くなり、却って、加工状況を監視し難くなるのを防止することができる。   Further, when the CCD cameras 11, 12, 13, and 14 are switched, the same CCD cameras 11, 12, 13, and 14 as those of the previous time are selected and determined, so that the number of times of camera switching when processing the workpiece W is reduced. Can do. As a result, the direction in which the tool T and the workpiece W are viewed frequently changes, making it difficult to understand the direction from which the tool T and the workpiece W are viewed. On the other hand, it is possible to prevent difficulty in monitoring the machining status.

以上、本発明の一実施形態について説明したが、本発明の採り得る具体的な態様は、何らこれに限定されるものではない。   As mentioned above, although one Embodiment of this invention was described, the specific aspect which this invention can take is not limited to this at all.

例えば、前記加工状況監視装置1は、図8に示すような加工状況監視装置2として構成されていても良い。この場合、加工状況監視装置2は、同図8に示すように、複数のCCDカメラ11,12,13,14、カメラ情報記憶部31、加工種別認識部32、カメラ選択部33、カメラ切換部21及び画面表示装置66を備えている。尚、前記加工状況監視装置1と同じ構成部分については、同一の符号を付してその詳しい説明を省略する。   For example, the machining status monitoring device 1 may be configured as a machining status monitoring device 2 as shown in FIG. In this case, as shown in FIG. 8, the processing status monitoring apparatus 2 includes a plurality of CCD cameras 11, 12, 13, and 14, a camera information storage unit 31, a processing type recognition unit 32, a camera selection unit 33, and a camera switching unit. 21 and a screen display device 66. In addition, about the same component as the said process condition monitoring apparatus 1, the same code | symbol is attached | subjected and the detailed description is abbreviate | omitted.

前記カメラ情報記憶部31には、加工プログラムによって実行される、例えば、外周加工やポケット穴加工といった加工の種別毎にカメラ情報が格納される。このカメラ情報は、図9に示すように、工具Tの位置情報と、この位置情報に係る位置に工具Tが移動したときに、各CCDカメラ11,12,13,14の内、ワークWによって工具Tの先端が隠れない2次元画像データを生成可能な1つのCCDカメラ11,12,13,14に関する情報とが相互に関連付けられたものである。   The camera information storage unit 31 stores camera information for each type of processing such as outer periphery processing and pocket hole processing executed by a processing program. As shown in FIG. 9, the camera information is obtained by the work W among the CCD cameras 11, 12, 13, and 14 when the tool T moves to the position related to the position information and the position related to the position information. Information relating to one CCD camera 11, 12, 13, 14 capable of generating two-dimensional image data in which the tip of the tool T is not hidden is associated with each other.

尚、工具位置情報と関連付けられるCCDカメラ11,12,13,14としては、工具Tの先端が隠れない2次元画像データを生成可能である他、例えば、工具Tが接近してくる画像を生成可能なCCDカメラ11,12,13,14や、工具Tが離れていく画像を生成可能なCCDカメラ11,12,13,14が挙げられる。例えば、工具Tが図4のように移動する場合に、工具Tが接近してくる画像を生成可能なCCDカメラ11,12,13,14としては第2CCDカメラ12が挙げられ、一方、工具Tが離れていく画像を生成可能なCCDカメラ11,12,13,14としては第4CCDカメラ14が挙げられる。   The CCD cameras 11, 12, 13, and 14 associated with the tool position information can generate two-dimensional image data in which the tip of the tool T is not hidden. Possible CCD cameras 11, 12, 13, and 14 and CCD cameras 11, 12, 13, and 14 that can generate an image in which the tool T moves away. For example, when the tool T moves as shown in FIG. 4, the CCD camera 11, 12, 13, 14 that can generate an image approaching the tool T includes the second CCD camera 12, while the tool T As the CCD cameras 11, 12, 13, and 14 that can generate images that move away from each other, a fourth CCD camera 14 can be cited.

前記加工種別認識部32は、前記制御装置60から送信された動作指令(例えば、固定サイクルを示すGコード)を基に、加工プログラムによって実行される加工の種別を認識する。   The machining type recognition unit 32 recognizes the type of machining executed by the machining program based on an operation command (for example, a G code indicating a fixed cycle) transmitted from the control device 60.

前記カメラ選択部33は、前記加工種別認識部32によって認識された加工の種別と、前記カメラ情報記憶部31に格納されたカメラ情報と、前記制御装置60から送信された工具Tの位置情報とを基に、加工の種別及び工具Tの位置情報に対応したCCDカメラ11,12,13,14を、画面表示装置66に表示させるべき2次元画像データを生成するCCDカメラ11,12,13,14として予め設定された時間毎に選択,決定する。   The camera selection unit 33 includes a processing type recognized by the processing type recognition unit 32, camera information stored in the camera information storage unit 31, and position information of the tool T transmitted from the control device 60. The CCD cameras 11, 12, 13, 14 for generating the two-dimensional image data to be displayed on the screen display device 66 by the CCD cameras 11, 12, 13, 14 corresponding to the processing type and the position information of the tool T are used. 14 is selected and determined every preset time.

そして、この加工状況監視装置2によれば、制御装置60によって加工プログラムが実行されると、以下のようにして、画面表示装置66に表示させるべき2次元画像データを生成するCCDカメラ11,12,13,14が予め設定された時間毎に切り換えられながら、画面表示装置66に監視画像が表示される。   According to the processing status monitoring device 2, when the processing program is executed by the control device 60, the CCD cameras 11 and 12 that generate two-dimensional image data to be displayed on the screen display device 66 as follows. , 13, 14 are switched at preset time intervals, and the monitoring image is displayed on the screen display device 66.

具体的には、図10に示すように、まず、制御装置60から送信された動作指令が加工種別認識部32により受信され(ステップS31)、当該加工種別認識部32により加工種別が認識された後(ステップS32)、制御装置60から送信された工具Tの位置情報がカメラ選択部33により受信され(ステップS33)、カメラ情報記憶部31に格納されたカメラ情報が当該カメラ選択部33により認識される(ステップS34)。   Specifically, as shown in FIG. 10, first, an operation command transmitted from the control device 60 is received by the machining type recognition unit 32 (step S31), and the machining type is recognized by the machining type recognition unit 32. After (step S32), the position information of the tool T transmitted from the control device 60 is received by the camera selection unit 33 (step S33), and the camera information stored in the camera information storage unit 31 is recognized by the camera selection unit 33. (Step S34).

次に、カメラ選択部33により1つのCCDカメラ11,12,13,14が選択,決定され(ステップS35)、決定されたCCDカメラ11,12,13,14により生成される2次元画像データがカメラ切換部21によって画面表示装置66に表示される(ステップS36)。   Next, one CCD camera 11, 12, 13, 14 is selected and determined by the camera selection unit 33 (step S35), and the two-dimensional image data generated by the determined CCD camera 11, 12, 13, 14 is obtained. The image is displayed on the screen display device 66 by the camera switching unit 21 (step S36).

この後、加工プログラムが終了したか否かが確認され(ステップS37)、終了していない場合には、制御装置60から送信された工具Tの新たな位置情報がカメラ選択部33によって受信されたか否かが確認され(ステップS38)、受信された場合には上記ステップS34以降の処理が実行される。一方、ステップS38で受信されていない場合には、制御装置60から送信された新たな動作指令が加工種別認識部32によって受信されたか否かが確認され(ステップS39)、受信された場合には上記ステップS32以降の処理が実行される。尚、ステップS39で受信されていない場合には、上記ステップS38以降の処理が実行される。また、前記ステップS37で加工プログラムが終了した場合には上記一連の処理が終了する。   Thereafter, whether or not the machining program has been completed is confirmed (step S37). If the machining program has not been completed, whether or not new position information of the tool T transmitted from the control device 60 has been received by the camera selection unit 33. It is confirmed whether or not (step S38), and if it is received, the processing after step S34 is executed. On the other hand, if it is not received in step S38, it is confirmed whether or not a new operation command transmitted from the control device 60 has been received by the machining type recognition unit 32 (step S39). The processes after step S32 are executed. If not received in step S39, the processing from step S38 onward is executed. Further, when the machining program is finished in step S37, the above series of processing is finished.

このように、この加工状況監視装置2によれば、選択されたCCDカメラ11,12,13,14によって生成される、工具Tの先端が隠れない2次元画像データを画面表示装置66に順次表示させることができるので、オペレータは、表示画像を通してワークWの加工状況を十分に監視することができるなど、前記加工状況監視装置1と同様の効果を得ることができる。   As described above, according to the machining status monitoring device 2, the two-dimensional image data generated by the selected CCD cameras 11, 12, 13, and 14 without hiding the tip of the tool T is sequentially displayed on the screen display device 66. Therefore, the operator can obtain the same effect as the processing status monitoring apparatus 1 such that the processing status of the workpiece W can be sufficiently monitored through the display image.

また、加工の種別,カメラ情報及び工具Tの位置情報を基に、予め設定したCCDカメラ11,12,13,14に順次切り換えることができるので、より適切な画像を画面表示装置66に表示させることができる。更に、ワークWの加工時におけるカメラ切換回数を少なくすることが可能なCCDカメラ11,12,13,14をカメラ情報に設定しておけば、工具T及びワークWを見る方向が頻繁に変わってどの方向から見ているのかが分かり難くなり、却って、加工状況を監視し難くなるのを防止することができる。   Further, since it is possible to sequentially switch to the preset CCD cameras 11, 12, 13, and 14 based on the processing type, camera information, and position information of the tool T, a more appropriate image is displayed on the screen display device 66. be able to. Furthermore, if the CCD cameras 11, 12, 13, and 14 that can reduce the number of times of camera switching when processing the workpiece W are set as camera information, the direction in which the tool T and the workpiece W are viewed changes frequently. It is difficult to understand from which direction the user is looking, and on the other hand, it is possible to prevent difficulty in monitoring the machining status.

また、上例では、カメラ情報が加工の種別毎にカメラ情報記憶部31に格納されていたが、このカメラ情報記憶部31には、単に、加工の種別と、各CCDカメラ11,12,13,14の内、ワークWによって工具Tの先端が隠れない2次元画像データを生成可能な1つのCCDカメラ11,12,13,14とを相互に関連付けて格納しても良い。この場合、カメラ選択部33は、加工種別認識部32によって認識された加工の種別と、カメラ情報記憶部31に格納されたデータとを基に、加工の種別に対応したCCDカメラ11,12,13,14を、画面表示装置66に表示させるべき2次元画像データを生成するCCDカメラ11,12,13,14として選択,決定する。   In the above example, the camera information is stored in the camera information storage unit 31 for each type of processing. However, the camera information storage unit 31 simply stores the type of processing and the CCD cameras 11, 12, 13. , 14, one CCD camera 11, 12, 13, 14 capable of generating two-dimensional image data in which the tip of the tool T is not hidden by the workpiece W may be stored in association with each other. In this case, the camera selection unit 33 uses the CCD cameras 11, 12, and 12 corresponding to the processing types based on the processing types recognized by the processing type recognition unit 32 and the data stored in the camera information storage unit 31. 13 and 14 are selected and determined as CCD cameras 11, 12, 13, and 14 that generate two-dimensional image data to be displayed on the screen display device 66.

また、前記制御装置60が、前記モデルデータ更新部17に、動作指令ではなく、工具Tの位置情報を送信するように構成されている場合、このモデルデータ更新部17は、前記モデルデータ記憶部16に格納された工作機械50全体のモデルデータと、前記制御装置60から送信された工具Tの位置情報とを基に、第1サドル52,第2サドル53及び主軸頭54(工具T)が前記位置情報に係る位置に移動した状態となるように工作機械50全体のモデルデータを更新するように構成され、前記位置関係認識部18は、モデルデータ記憶部16に格納された工作機械50全体のモデルデータから、ワークWの配置位置と、現在若しくは予め設定された時間経過後(工具移動前若しくは工具移動後)におけるワークWの形状とを認識して、各CCDカメラ11,12,13,14、工具T及びワークWの位置関係を認識するように構成される。   Further, when the control device 60 is configured to transmit not the operation command but the position information of the tool T to the model data update unit 17, the model data update unit 17 includes the model data storage unit. 16, the first saddle 52, the second saddle 53, and the spindle head 54 (tool T) are based on the model data of the entire machine tool 50 stored in 16 and the position information of the tool T transmitted from the control device 60. The model data of the entire machine tool 50 is updated so as to be moved to the position according to the position information, and the positional relationship recognition unit 18 is configured to update the entire machine tool 50 stored in the model data storage unit 16. From the model data, the position of the workpiece W and the shape of the workpiece W after the current or preset time has elapsed (before or after the tool movement) CCD cameras 11, 12, 13, 14, configured to recognize the positional relationship between the tool T and the workpiece W.

また、上例では、前記選択候補抽出部19が工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14をカメラ選択候補として抽出する際に、各CCDカメラ11,12,13,14の撮像面と光軸との交点KやCCDカメラ11,12,13,14のレンズの中心点Kと、工具移動前後における工具Tの先端位置L,Mとの3点を結んで3角形状の平面Pをそれぞれ形成し、これらの平面PとワークWの形状との間に交差部があるか否かをそれぞれ確認するようにしたが、これに限られるものではなく、各CCDカメラ11,12,13,14の撮像面と光軸との交点KやCCDカメラ11,12,13,14のレンズの中心点Kと、工具移動後における工具Tの先端位置Mとの2点を結んだ直線と、ワークWの形状との間に交差部があるか否かをそれぞれ確認するようにしても良い。   In the above example, when the selection candidate extraction unit 19 extracts CCD cameras 11, 12, 13, and 14 that can generate two-dimensional image data in which the tip of the tool T is not hidden as the camera selection candidates, 3 of the intersection point K of the imaging surface of 11, 12, 13, 14 and the optical axis, the center point K of the lens of the CCD camera 11, 12, 13, 14 and the tip position L, M of the tool T before and after the tool movement. Triangular planes P are formed by connecting points, and it is checked whether or not there is an intersection between the plane P and the shape of the workpiece W. However, the present invention is not limited to this. Rather, the intersection K between the imaging surface of each CCD camera 11, 12, 13, 14 and the optical axis, the center point K of the lens of the CCD camera 11, 12, 13, 14 and the tip position M of the tool T after the tool is moved. A straight line connecting the two points There are intersections between the shape of the click W whether a may be independently confirmed.

更に、前記選択候補抽出部19によって、工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14が存在しないと判断された場合や、クーラントが吐出されているような場合には、画面表示装置66には、シミュレーション画像を表示させるようにしても良い。尚、クーラント吐出量が少量で工具Tの先端を視認可能なときには、シミュレーション画像とせずに、CCDカメラ11,12,13,14から得られる2次元画像データを表示させても良い。   Further, when it is determined by the selection candidate extraction unit 19 that there is no CCD camera 11, 12, 13, 14 capable of generating two-dimensional image data in which the tip of the tool T is not hidden, coolant is discharged. In such a case, the screen display device 66 may display a simulation image. When the coolant discharge amount is small and the tip of the tool T is visible, two-dimensional image data obtained from the CCD cameras 11, 12, 13, and 14 may be displayed instead of the simulation image.

また、前記選択候補抽出部19は、カメラ選択候補を抽出する際に、まず、ワークWが工具Tによって加工される領域や、ワークWに対して工具Tが存在する空間を認識した後、認識した領域や空間に近い位置に配置されたCCDカメラ11,12,13,14を認識し、この認識したCCDカメラ11,12,13,14についてのみ、そのCCDカメラ11,12,13,14が、工具Tの先端が隠れない2次元画像データを生成可能であるか否かを判断するようにしても良い。このようにすれば、処理の簡略化を図ることができる。   In addition, when extracting the camera selection candidate, the selection candidate extraction unit 19 first recognizes a region where the workpiece W is processed by the tool T and a space where the tool T exists with respect to the workpiece W, and then recognizes it. The CCD cameras 11, 12, 13, 14 arranged in positions close to the areas and spaces recognized are recognized, and the CCD cameras 11, 12, 13, 14 are recognized only for the recognized CCD cameras 11, 12, 13, 14. It may be determined whether it is possible to generate two-dimensional image data in which the tip of the tool T is not hidden. In this way, the process can be simplified.

また、前記選択候補抽出部19を省略して、前記カメラ選択部20が、各CCDカメラ11,12,13,14の中から、ワークWによって工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14を選択,決定するように構成されていても良い。   Further, the selection candidate extraction unit 19 is omitted, and the camera selection unit 20 generates two-dimensional image data in which the tip of the tool T is not hidden by the workpiece W from the CCD cameras 11, 12, 13, and 14. The possible CCD cameras 11, 12, 13, and 14 may be selected and determined.

更に、ワークWをテーブル56に取り付けるに当たっては、通常、取付具が使用されるため、前記選択候補抽出部19が、この取付具及びワークWによって工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14をカメラ選択候補として抽出したり、前記カメラ選択部20が、この取付具及びワークWによって工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14を選択,決定するように構成されていても良い。   Furthermore, since a fixture is usually used for attaching the workpiece W to the table 56, the selection candidate extraction unit 19 generates two-dimensional image data in which the tip of the tool T is not hidden by the fixture and the workpiece W. CCD capable of extracting possible CCD cameras 11, 12, 13, and 14 as camera selection candidates, or the camera selection unit 20 can generate two-dimensional image data in which the tip of the tool T is not hidden by the fixture and the workpiece W The camera 11, 12, 13, 14 may be selected and determined.

また、前記カメラ切換部21は、CCDカメラ11,12,13,14によって生成された2次元画像データを前記画面表示装置66に表示させるに当たり、すべてのCCDカメラ11,12,13,14によって生成された2次元画像データを画面表示装置66に表示させるとともに、前記カメラ選択部20,33によって選択,決定されたCCDカメラ11,12,13,14により生成される2次元画像データについては、画面表示装置66の表示画面に大きく表示させ(メイン表示)、それ以外のCCDカメラ11,12,13,14によって生成された2次元画像データについては、画面表示装置66の表示画面の隅部に小さく表示させたり、前記メイン表示の背景画像として表示させるように構成されていても良い。   Further, the camera switching unit 21 generates the two-dimensional image data generated by the CCD cameras 11, 12, 13, 14 on the screen display device 66 by all the CCD cameras 11, 12, 13, 14. The displayed 2D image data is displayed on the screen display device 66, and the 2D image data generated by the CCD cameras 11, 12, 13, and 14 selected and determined by the camera selection units 20 and 33 is displayed on the screen. The two-dimensional image data generated by the CCD camera 11, 12, 13, 14 is displayed in a large size on the display screen of the display device 66 (main display), and small at the corner of the display screen of the screen display device 66. It may be configured to be displayed or displayed as a background image of the main display.

また、前記加工状況監視装置1が設けられる工作機械50は、何ら限定されるものではなく、どのような工作機械50であっても良い。例えば、上例のようなマシニングセンタではなく、旋盤などに設けるようにしても良い。   Further, the machine tool 50 provided with the machining status monitoring device 1 is not limited at all, and any machine tool 50 may be used. For example, it may be provided on a lathe instead of the machining center as in the above example.

また、前記制御装置60は、前記抽出した動作指令を基に工具Tの現在位置を算出し、算出した移動位置(工具Tの位置情報)を前記位置関係認識部18やカメラ選択部33に送信するように構成されていても良い。   The control device 60 calculates the current position of the tool T based on the extracted operation command, and transmits the calculated movement position (position information of the tool T) to the positional relationship recognition unit 18 and the camera selection unit 33. It may be configured to.

1 加工状況監視装置
11,12,13,14 CCDカメラ
15 カメラパラメータ記憶部
16 モデルデータ記憶部
17 モデルデータ更新部
18 位置関係認識部
19 選択候補抽出部
20 カメラ選択部
21 カメラ切換部
60 制御装置
66 画面表示装置
DESCRIPTION OF SYMBOLS 1 Processing condition monitoring apparatus 11, 12, 13, 14 CCD camera 15 Camera parameter memory | storage part 16 Model data memory | storage part 17 Model data update part 18 Positional relationship recognition part 19 Selection candidate extraction part 20 Camera selection part 21 Camera switching part 60 Control apparatus 66 Screen display device

Claims (4)

工具及びワークを相対移動させる加工動作機構部と、加工プログラムを解析して前記加工動作機構部の動作指令を抽出し、抽出した動作指令を基に前記加工動作機構部の作動を制御する制御手段とを備えた工作機械における加工状況を監視する装置であって、
少なくとも前記工具及びワークを互いに異なる視点から一定時間間隔で撮像してその2次元画像データを順次生成する複数のカメラと、
前記カメラによって生成された2次元画像データを表示する画面表示手段と、
前記複数のカメラについて、その配置位置及び姿勢を示すカメラパラメータをそれぞれ記憶するカメラパラメータ記憶手段と、
前記制御手段から得られる動作指令と、前記工具,ワーク及び加工動作機構部の3次元モデルに関するデータとを基に、前記加工動作機構部が前記動作指令に従って動作したときの前記工具,ワーク及び加工動作機構部のモデルデータを生成して更新するモデルデータ更新手段と、
前記カメラパラメータ記憶手段に格納されたカメラパラメータと、前記モデルデータ更新手段によって更新されたモデルデータと、前記制御手段から得られる前記工具の位置情報とを基に、前記複数のカメラ,工具及び少なくともワークの位置関係を予め設定された時間毎に認識する位置関係認識手段と、
前記位置関係認識手段によって認識された位置関係を基に、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラを選択するカメラ選択手段と、
前記カメラ選択手段によって選択されたカメラにより生成される2次元画像データを前記画面表示手段に表示させるカメラ切換手段とを備えてなることを特徴とする加工状況監視装置。
A machining operation mechanism unit that relatively moves a tool and a workpiece, and a control unit that analyzes a machining program, extracts an operation command of the machining operation mechanism unit, and controls the operation of the machining operation mechanism unit based on the extracted operation command An apparatus for monitoring the machining status of a machine tool equipped with
A plurality of cameras that capture at least the tool and the workpiece from different viewpoints at regular time intervals and sequentially generate two-dimensional image data thereof;
Screen display means for displaying two-dimensional image data generated by the camera;
Camera parameter storage means for storing camera parameters indicating the position and orientation of the plurality of cameras;
Based on the operation command obtained from the control means and the data relating to the three-dimensional model of the tool, workpiece and machining operation mechanism unit, the tool, workpiece and machining when the machining operation mechanism unit operates according to the operation command. Model data updating means for generating and updating model data of the operation mechanism unit;
Based on the camera parameters stored in the camera parameter storage means, the model data updated by the model data updating means, and the position information of the tool obtained from the control means, the plurality of cameras, tools, and at least Positional relationship recognition means for recognizing the positional relationship of the work at preset time intervals;
Camera selection means for selecting a camera capable of generating two-dimensional image data in which at least the tip of the tool is not hidden by the workpiece among the plurality of cameras based on the positional relation recognized by the positional relation recognition means;
A processing status monitoring apparatus, comprising: a camera switching unit that causes the screen display unit to display two-dimensional image data generated by the camera selected by the camera selection unit.
前記位置関係認識手段によって認識された位置関係を基に、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラをカメラ選択候補として抽出する選択候補抽出手段を備え、
前記カメラ選択手段は、前記選択候補抽出手段によって抽出されたカメラ選択候補の中から1つのカメラを選択,決定するとともに、前記カメラ選択候補の中から1つのカメラに決定する際には、今回のカメラ選択候補の中に、前回決定したカメラが含まれているか否かを確認して、含まれていると判断したときには、前回と同じカメラに決定するように構成されてなることを特徴とする請求項1記載の加工状況監視装置。
Based on the positional relationship recognized by the positional relationship recognizing means, a selection is made to extract a camera capable of generating at least two-dimensional image data in which the tip of the tool is not hidden by the workpiece from among the plurality of cameras as a camera selection candidate With candidate extraction means,
The camera selection means selects and determines one camera from the camera selection candidates extracted by the selection candidate extraction means, and determines the current camera when determining one camera from the camera selection candidates. It is configured to check whether or not the previously selected camera is included in the camera selection candidates, and when it is determined that it is included, the same camera as the previous one is determined. The processing status monitoring device according to claim 1.
工具及びワークを相対移動させる加工動作機構部と、加工プログラムを解析して前記加工動作機構部の動作指令を抽出し、抽出した動作指令を基に前記加工動作機構部の作動を制御する制御手段とを備えた工作機械における加工状況を監視する装置であって、
少なくとも前記工具及びワークを互いに異なる視点から一定時間間隔で撮像してその2次元画像データを順次生成する複数のカメラと、
前記カメラによって生成された2次元画像データを表示する画面表示手段と、
前記加工プログラムによって実行される加工の種別と、前記複数のカメラの内、前記加工中に少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラとを関連付けて記憶するカメラ情報記憶手段と、
前記制御手段から得られる動作指令を基に前記加工の種別を認識する加工種別認識手段と、
前記加工種別認識手段によって認識された加工の種別と、前記カメラ情報記憶手段に格納されたデータとを基に、前記加工の種別に対応したカメラを、前記画面表示手段に表示させるべき2次元画像データを生成するカメラとして選択するカメラ選択手段と、
前記カメラ選択手段によって選択されたカメラにより生成される2次元画像データを前記画面表示手段に表示させるカメラ切換手段とを備えてなることを特徴とする加工状況監視装置。
A machining operation mechanism unit that relatively moves a tool and a workpiece, and a control unit that analyzes a machining program, extracts an operation command of the machining operation mechanism unit, and controls the operation of the machining operation mechanism unit based on the extracted operation command An apparatus for monitoring the machining status of a machine tool equipped with
A plurality of cameras that capture at least the tool and the workpiece from different viewpoints at regular time intervals and sequentially generate two-dimensional image data thereof;
Screen display means for displaying two-dimensional image data generated by the camera;
A camera that associates and stores a type of machining executed by the machining program and a camera that can generate two-dimensional image data in which at least the tip of the tool is not hidden by the workpiece during the machining among the plurality of cameras. Information storage means;
Machining type recognition means for recognizing the type of machining based on an operation command obtained from the control means;
Based on the processing type recognized by the processing type recognition unit and the data stored in the camera information storage unit, a two-dimensional image to be displayed on the screen display unit, a camera corresponding to the processing type Camera selection means for selecting as a camera for generating data;
A processing status monitoring apparatus, comprising: a camera switching unit that causes the screen display unit to display two-dimensional image data generated by the camera selected by the camera selection unit.
前記カメラ情報記憶手段は、前記工具の位置情報と、この位置情報に係る位置に前記工具が移動したときに、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラとが関連付けられたカメラ情報を前記加工の種別毎に記憶するように構成され、
前記カメラ選択手段は、前記加工種別認識手段によって認識された加工の種別と、前記カメラ情報記憶手段に格納されたカメラ情報と、前記制御手段から得られる前記工具の位置情報とを基に、前記加工の種別及び工具の位置情報に対応したカメラを、前記画面表示手段に表示させるべき2次元画像データを生成するカメラとして予め設定された時間毎に選択するように構成されてなることを特徴とする請求項3記載の加工状況監視装置。
The camera information storage means is a two-dimensional image in which the tip of the tool is not hidden by at least the workpiece among the plurality of cameras when the tool moves to a position related to the position information of the tool and the position information. It is configured to store camera information associated with a camera capable of generating data for each type of processing,
The camera selection means is based on the machining type recognized by the machining type recognition means, the camera information stored in the camera information storage means, and the tool position information obtained from the control means. It is configured to select a camera corresponding to a processing type and tool position information at a preset time as a camera for generating two-dimensional image data to be displayed on the screen display means. The processing status monitoring device according to claim 3.
JP2010014029A 2010-01-26 2010-01-26 Processing status monitoring device Active JP5404450B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010014029A JP5404450B2 (en) 2010-01-26 2010-01-26 Processing status monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010014029A JP5404450B2 (en) 2010-01-26 2010-01-26 Processing status monitoring device

Publications (2)

Publication Number Publication Date
JP2011154436A true JP2011154436A (en) 2011-08-11
JP5404450B2 JP5404450B2 (en) 2014-01-29

Family

ID=44540371

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010014029A Active JP5404450B2 (en) 2010-01-26 2010-01-26 Processing status monitoring device

Country Status (1)

Country Link
JP (1) JP5404450B2 (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102581763A (en) * 2012-02-21 2012-07-18 厦门大学 Automatic tool setting system for ultra-precision grinding machine
CN103676784A (en) * 2012-09-24 2014-03-26 发那科株式会社 Numerical controller having function of manipulating video camera by using G-code command
EP3348350A1 (en) * 2017-01-16 2018-07-18 Nakamura-Tome Precision Industry Co., Ltd Machine tool with camera
US10377009B2 (en) 2016-12-15 2019-08-13 Nakamura-Tome Precision Industry Co., Ltd. Machine tool
CN111002101A (en) * 2018-10-05 2020-04-14 大隈株式会社 Machine tool
CN113369796A (en) * 2021-05-26 2021-09-10 上海御建装饰设计工程有限公司 Intelligent automatic tracking and monitoring system for cultural relic restoration
US11409258B2 (en) 2019-02-28 2022-08-09 Fanuc Corporation Information processing device and information processing method
US11449035B2 (en) 2019-02-28 2022-09-20 Fanuc Corporation Information processing device and information processing method
US11733670B2 (en) * 2019-02-28 2023-08-22 Fanuc Corporation Information processing device and information processing method

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06250730A (en) * 1993-03-01 1994-09-09 Nissan Motor Co Ltd Teaching device for industrial robot
JP2002268721A (en) * 2001-03-14 2002-09-20 Olympus Optical Co Ltd Maintenance diagnostic method and its system
JP2003022108A (en) * 2001-07-10 2003-01-24 Yamazaki Mazak Corp Abnormality management device of machine tool

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06250730A (en) * 1993-03-01 1994-09-09 Nissan Motor Co Ltd Teaching device for industrial robot
JP2002268721A (en) * 2001-03-14 2002-09-20 Olympus Optical Co Ltd Maintenance diagnostic method and its system
JP2003022108A (en) * 2001-07-10 2003-01-24 Yamazaki Mazak Corp Abnormality management device of machine tool

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102581763A (en) * 2012-02-21 2012-07-18 厦门大学 Automatic tool setting system for ultra-precision grinding machine
CN103676784A (en) * 2012-09-24 2014-03-26 发那科株式会社 Numerical controller having function of manipulating video camera by using G-code command
JP2014063434A (en) * 2012-09-24 2014-04-10 Fanuc Ltd Numerical control device having function to operate video camera according to g code command
CN103676784B (en) * 2012-09-24 2015-10-07 发那科株式会社 Possesses the numerical control device of the function according to G code command operating video camera
US10377009B2 (en) 2016-12-15 2019-08-13 Nakamura-Tome Precision Industry Co., Ltd. Machine tool
EP3348350A1 (en) * 2017-01-16 2018-07-18 Nakamura-Tome Precision Industry Co., Ltd Machine tool with camera
CN111002101A (en) * 2018-10-05 2020-04-14 大隈株式会社 Machine tool
JP2020060828A (en) * 2018-10-05 2020-04-16 オークマ株式会社 Machine tool
JP7100555B2 (en) 2018-10-05 2022-07-13 オークマ株式会社 Machine Tools
CN111002101B (en) * 2018-10-05 2023-11-03 大隈株式会社 machine tool
US11409258B2 (en) 2019-02-28 2022-08-09 Fanuc Corporation Information processing device and information processing method
US11449035B2 (en) 2019-02-28 2022-09-20 Fanuc Corporation Information processing device and information processing method
US11733670B2 (en) * 2019-02-28 2023-08-22 Fanuc Corporation Information processing device and information processing method
CN113369796A (en) * 2021-05-26 2021-09-10 上海御建装饰设计工程有限公司 Intelligent automatic tracking and monitoring system for cultural relic restoration

Also Published As

Publication number Publication date
JP5404450B2 (en) 2014-01-29

Similar Documents

Publication Publication Date Title
JP5404450B2 (en) Processing status monitoring device
JP5337636B2 (en) Machining status monitoring method and machining status monitoring device
JP5384178B2 (en) Machining simulation method and machining simulation apparatus
JP5465957B2 (en) Machining state confirmation method and machining state confirmation apparatus
CN104570929B (en) A kind of lathe
EP3214514A1 (en) Machine tool control method and machine tool control device
JP2006004128A (en) Interference confirmation device
US20130076287A1 (en) Numerical controller having display function for trajectory of tool
JP6144596B2 (en) Display device
JP5945132B2 (en) Lathe with machining status display device
EP2915626B1 (en) Processing program generation method and device
JP6719790B1 (en) Automatic operation device for machining center based on CAD data
JP2016157400A (en) Numerical control device for performing axial control of machine tool by touch panel
US10191460B2 (en) Control device for machine tool
CN105658375B (en) Machine tooling line
JP5530204B2 (en) Processing status monitoring device
JP6656387B2 (en) Machine tool with display device
JP2009278029A (en) Dicing apparatus
JP6709210B2 (en) Machine Tools
JP7120894B2 (en) 3D model creation device, machining simulation device, automatic tool path generation device
KR20100135513A (en) Numerical control system having graphic-based user interface
JP5167767B2 (en) Machine tool interference detection device
WO2020065854A1 (en) Workpiece position detecting method and machine tool
JP6915182B1 (en) Machine tools, machine tool control methods, and machine tool control programs
KR20190021510A (en) Method for setting anti-collision zone of machining center during operation of based by virtual machine

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131017

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131029

R150 Certificate of patent or registration of utility model

Ref document number: 5404450

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250