JP2011154436A - Working situation monitoring device - Google Patents
Working situation monitoring device Download PDFInfo
- Publication number
- JP2011154436A JP2011154436A JP2010014029A JP2010014029A JP2011154436A JP 2011154436 A JP2011154436 A JP 2011154436A JP 2010014029 A JP2010014029 A JP 2010014029A JP 2010014029 A JP2010014029 A JP 2010014029A JP 2011154436 A JP2011154436 A JP 2011154436A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- tool
- machining
- workpiece
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012806 monitoring device Methods 0.000 title claims abstract description 16
- 238000003754 machining Methods 0.000 claims description 76
- 230000007246 mechanism Effects 0.000 claims description 41
- 238000012544 monitoring process Methods 0.000 claims description 36
- 238000000605 extraction Methods 0.000 claims description 16
- 239000000284 extract Substances 0.000 claims description 6
- 238000000034 method Methods 0.000 description 13
- 238000013500 data storage Methods 0.000 description 8
- 238000003384 imaging method Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 239000002826 coolant Substances 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B23—MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
- B23Q—DETAILS, COMPONENTS, OR ACCESSORIES FOR MACHINE TOOLS, e.g. ARRANGEMENTS FOR COPYING OR CONTROLLING; MACHINE TOOLS IN GENERAL CHARACTERISED BY THE CONSTRUCTION OF PARTICULAR DETAILS OR COMPONENTS; COMBINATIONS OR ASSOCIATIONS OF METAL-WORKING MACHINES, NOT DIRECTED TO A PARTICULAR RESULT
- B23Q17/00—Arrangements for observing, indicating or measuring on machine tools
- B23Q17/24—Arrangements for observing, indicating or measuring on machine tools using optics or electromagnetic waves
- B23Q17/2409—Arrangements for indirect observation of the working space using image recording means, e.g. a camera
Abstract
Description
本発明は、工作機械におけるワーク加工状況の監視映像を画面表示装置に表示する加工状況監視装置に関する。 The present invention relates to a machining status monitoring device that displays a monitoring image of a workpiece machining status in a machine tool on a screen display device.
工作機械には、通常、安全性を確保すべく、ワークが加工される加工領域を囲むカバーが設けられている。このカバーには窓が設けられているものの、この窓を通してオペレータの視認することができる範囲は限られており、オペレータがこの窓からワークの加工状況を監視するには限界がある。 In general, a machine tool is provided with a cover surrounding a processing region in which a workpiece is processed in order to ensure safety. Although this cover is provided with a window, the range that the operator can visually recognize through this window is limited, and there is a limit for the operator to monitor the machining status of the workpiece from this window.
そこで、従来、例えば、特開平4−310106号公報に開示された工作機械が提案されている。この工作機械は、複数のビデオカメラと、これらのビデオカメラから得られる画像を表示する表示装置と、表示装置の表示画面をビデオカメラと同数の表示領域に分割し、各ビデオカメラから得られる画像を各表示領域にそれぞれ表示させる制御装置などを備えている。 Therefore, conventionally, for example, a machine tool disclosed in JP-A-4-310106 has been proposed. This machine tool divides a plurality of video cameras, a display device that displays images obtained from these video cameras, and a display screen of the display device into the same number of display areas as the video cameras, and images obtained from each video camera. Is provided in each display area.
そして、この工作機械によれば、オペレータは、カバーの窓からでは十分にワークの加工状況を監視することができない場合であっても、表示装置に表示される複数の画像によって複数の角度からワークの加工状況を監視することができる。 According to this machine tool, even when the operator cannot sufficiently monitor the workpiece machining status from the cover window, the operator can view the workpiece from a plurality of angles using a plurality of images displayed on the display device. The processing status of can be monitored.
しかしながら、上述のように、各ビデオカメラから得られる画像をすべて一律に表示させると、これらの画像の中には、工具の先端がワークによって隠れているものもあることから、ワークの加工状況を監視するのにあまり役立たない画像まで表示させることになる。また、表示画面を複数の表示領域に分割して、各ビデオカメラから得られる画像を表示させているので、各表示領域に表示される画像は小さくならざるを得ず、場合によっては、オペレータが細部を確認し難いこともある。更に、各ビデオカメラから得られる画像を工作機械の制御状態とともに表示する場合に、各ビデオカメラから得られる画像の表示領域を広くとると、本来表示させるべき制御状態の表示領域が狭くなり、オペレータは工作機械の制御状態を確認し難くなる。 However, as described above, when all the images obtained from each video camera are displayed uniformly, some of these images have the tip of the tool hidden by the workpiece. Even images that are not very useful for monitoring will be displayed. In addition, since the display screen is divided into a plurality of display areas and images obtained from the respective video cameras are displayed, the images displayed in the respective display areas must be reduced. It may be difficult to confirm details. Further, when an image obtained from each video camera is displayed together with the control state of the machine tool, if the display area of the image obtained from each video camera is widened, the display area of the control state to be originally displayed becomes narrow, and the operator Makes it difficult to check the control status of the machine tool.
したがって、複数のビデオカメラを工作機械に設置した場合には、複数のビデオカメラから得られる画像の内、工具の先端がワークによって隠れていない画像、即ち、工具の先端を確認可能な画像を少なくとも1つ表示すれば、表示画像を通して加工状況を監視するのが困難になることもないし、工作機械の制御状態を確認し難くなることもない。 Therefore, when a plurality of video cameras are installed in a machine tool, at least an image in which the tip of the tool is not hidden by the workpiece among images obtained from the plurality of video cameras, that is, an image that can confirm the tip of the tool is at least. If one is displayed, it is not difficult to monitor the machining status through the display image, and it is not difficult to confirm the control state of the machine tool.
本発明は、以上の実情に鑑みなされたものであって、複数のカメラの中から選択された少なくとも1つのカメラによって生成される、工具の先端がワークにより隠れていない画像を通してオペレータがワークの加工状況を監視することができる加工状況監視装置の提供をその目的とする。 The present invention has been made in view of the above circumstances, and an operator processes a workpiece through an image generated by at least one camera selected from a plurality of cameras, in which the tip of a tool is not hidden by the workpiece. The purpose is to provide a machining status monitoring device capable of monitoring the status.
上記目的を達成するための本発明は、
工具及びワークを相対移動させる加工動作機構部と、加工プログラムを解析して前記加工動作機構部の動作指令を抽出し、抽出した動作指令を基に前記加工動作機構部の作動を制御する制御手段とを備えた工作機械における加工状況を監視する装置であって、
少なくとも前記工具及びワークを互いに異なる視点から一定時間間隔で撮像してその2次元画像データを順次生成する複数のカメラと、
前記カメラによって生成された2次元画像データを表示する画面表示手段と、
前記複数のカメラについて、その配置位置及び姿勢を示すカメラパラメータをそれぞれ記憶するカメラパラメータ記憶手段と、
前記制御手段から得られる動作指令と、前記工具,ワーク及び加工動作機構部の3次元モデルに関するデータとを基に、前記加工動作機構部が前記動作指令に従って動作したときの前記工具,ワーク及び加工動作機構部のモデルデータを生成して更新するモデルデータ更新手段と、
前記カメラパラメータ記憶手段に格納されたカメラパラメータと、前記モデルデータ更新手段によって更新されたモデルデータと、前記制御手段から得られる前記工具の位置情報とを基に、前記複数のカメラ,工具及び少なくともワークの位置関係を予め設定された時間毎に認識する位置関係認識手段と、
前記位置関係認識手段によって認識された位置関係を基に、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラを選択するカメラ選択手段と、
前記カメラ選択手段によって選択されたカメラにより生成される2次元画像データを前記画面表示手段に表示させるカメラ切換手段とを備えてなることを特徴とする加工状況監視装置に係る。
To achieve the above object, the present invention provides:
A machining operation mechanism unit that relatively moves a tool and a workpiece, and a control unit that analyzes a machining program, extracts an operation command of the machining operation mechanism unit, and controls the operation of the machining operation mechanism unit based on the extracted operation command An apparatus for monitoring the machining status of a machine tool equipped with
A plurality of cameras that capture at least the tool and the workpiece from different viewpoints at regular time intervals and sequentially generate two-dimensional image data thereof;
Screen display means for displaying two-dimensional image data generated by the camera;
Camera parameter storage means for storing camera parameters indicating the position and orientation of the plurality of cameras;
Based on the operation command obtained from the control means and the data relating to the three-dimensional model of the tool, workpiece and machining operation mechanism unit, the tool, workpiece and machining when the machining operation mechanism unit operates according to the operation command. Model data updating means for generating and updating model data of the operation mechanism unit;
Based on the camera parameters stored in the camera parameter storage means, the model data updated by the model data updating means, and the position information of the tool obtained from the control means, the plurality of cameras, tools, and at least Positional relationship recognition means for recognizing the positional relationship of the work at preset time intervals;
Camera selection means for selecting a camera capable of generating two-dimensional image data in which at least the tip of the tool is not hidden by the workpiece among the plurality of cameras based on the positional relation recognized by the positional relation recognition means;
The present invention relates to a processing status monitoring apparatus comprising: a camera switching unit that causes the screen display unit to display two-dimensional image data generated by a camera selected by the camera selection unit.
この発明によれば、制御手段によって加工プログラムが実行されると、即ち、制御手段により、加工プログラムが解析されて加工動作機構部の動作指令が抽出され、抽出された動作指令を基に加工動作機構部が制御されて工具及びワークが相対移動せしめられると、以下のようにして、画面表示手段に表示させるべき2次元画像データを生成するカメラが予め設定された時間毎に切り換えられながら画面表示手段に監視画像が表示される。 According to this invention, when the machining program is executed by the control means, that is, the machining program is analyzed by the control means to extract the operation command of the machining operation mechanism unit, and the machining operation is performed based on the extracted operation command. When the mechanism is controlled and the tool and workpiece are moved relative to each other, the screen display is performed while the camera for generating the two-dimensional image data to be displayed on the screen display means is switched at predetermined time intervals as follows. A monitoring image is displayed on the means.
まず、制御手段から得られる動作指令と、工具,ワーク及び加工動作機構部のモデルデータ(3次元モデルデータ)とを基に、モデルデータ更新部により、加工動作機構部が動作指令に従って動作したときの工具,ワーク及び加工動作機構部のモデルデータが生成されて更新される。 First, when the machining operation mechanism unit operates according to the operation command by the model data update unit based on the operation command obtained from the control means and the model data (three-dimensional model data) of the tool, workpiece and machining operation mechanism unit. The model data of the tool, workpiece and machining operation mechanism are generated and updated.
ついで、カメラパラメータ記憶手段に格納されたカメラパラメータと、モデルデータ更新手段によって更新されたモデルデータと、制御手段から得られる工具位置情報とを基に、位置関係認識手段により、複数のカメラ,工具及び少なくともワークの位置関係が認識される。 Next, based on the camera parameters stored in the camera parameter storage means, the model data updated by the model data updating means, and the tool position information obtained from the control means, a plurality of cameras and tools are obtained by the positional relationship recognition means. And at least the positional relationship of the workpiece is recognized.
例えば、複数のカメラについて、前記カメラパラメータから、カメラの撮像面と光軸との交点やカメラのレンズの中心点が認識され、前記工具位置情報から、工具移動前後における工具先端位置が認識され、前記モデルデータから、ワークの配置位置及び形状が認識される。或いは、カメラの撮像面と光軸との交点やカメラのレンズの中心点と、工具移動後における工具先端位置と、ワークの配置位置及び形状とが認識される。 For example, for a plurality of cameras, from the camera parameters, the intersection of the imaging surface of the camera and the optical axis and the center point of the camera lens are recognized, and the tool tip position before and after the tool movement is recognized from the tool position information, From the model data, the position and shape of the workpiece are recognized. Alternatively, the intersection between the imaging surface of the camera and the optical axis, the center point of the camera lens, the tool tip position after the tool is moved, and the arrangement position and shape of the workpiece are recognized.
次に、位置関係認識手段によって認識された位置関係を基に、カメラ選択手段により、複数のカメラの内、少なくともワークによって工具の先端が隠れない2次元画像データ(工具の先端が表示される2次元画像データ)を生成可能なカメラが判別されてこのカメラが選択される。尚、このとき選択されるカメラは2つ以上であっても良い。 Next, based on the positional relationship recognized by the positional relationship recognition means, two-dimensional image data in which the tip of the tool is not hidden by at least the workpiece among the plurality of cameras is displayed by the camera selection means (the tip of the tool is displayed 2). A camera capable of generating (dimensional image data) is determined, and this camera is selected. Note that two or more cameras may be selected at this time.
例えば、まず、複数のカメラについて、カメラの撮像面と光軸との交点やカメラのレンズの中心点と、工具移動前後における工具先端位置との3点を結んで形成される3角形状の平面と、ワークの形状との間に交差部があるか否かがそれぞれ確認される。或いは、カメラの撮像面と光軸との交点やカメラのレンズの中心点と、工具移動後における工具先端位置との2点を結んだ直線と、ワークの形状との間に交差部があるか否かがそれぞれ確認される。 For example, for a plurality of cameras, a triangular plane formed by connecting three points of the intersection of the imaging surface of the camera and the optical axis, the center point of the camera lens, and the tool tip position before and after the tool movement. And whether or not there is an intersection between the workpiece shape and the workpiece shape. Or is there an intersection between the shape of the workpiece and the line connecting the two points of the intersection of the imaging surface of the camera and the optical axis, the center point of the camera lens, and the tool tip position after moving the tool? Each is confirmed.
そして、交差部があると確認されたカメラについては、工具の先端が隠れない2次元画像データを生成可能なカメラではないと判断され、一方、交差部がないと確認されたカメラについては、工具の先端が隠れない2次元画像データを生成可能なカメラであると判断されて、交差部がないと確認されたものの中からカメラが選択される。 For a camera that has been confirmed to have an intersection, it is determined that the camera is not capable of generating two-dimensional image data in which the tip of the tool is not hidden. It is determined that the camera is capable of generating two-dimensional image data in which the tip of the camera is not hidden, and the camera is selected from those confirmed to have no intersection.
この後、カメラ選択手段によって選択されたカメラにより生成される2次元画像データが、カメラ切換手段によって画面表示手段に表示される。このようにして、カメラが切り換えられながら、カメラから得られる2次元画像データが画面表示手段に表示される。 Thereafter, the two-dimensional image data generated by the camera selected by the camera selection means is displayed on the screen display means by the camera switching means. In this way, the two-dimensional image data obtained from the camera is displayed on the screen display means while the camera is switched.
斯くして、本発明に係る加工状況監視装置によれば、選択された少なくとも1つのカメラによって生成される、工具の先端が隠れない2次元画像データを画面表示手段に順次表示させているので、オペレータは、表示画像を通してワークの加工状況を十分に監視することができる。 Thus, according to the machining status monitoring apparatus according to the present invention, the two-dimensional image data generated by the selected at least one camera and in which the tip of the tool is not hidden is sequentially displayed on the screen display means. The operator can sufficiently monitor the machining status of the workpiece through the display image.
また、工具の先端が隠れない2次元画像データを表示させているので、加工状況の監視にさほど役立たない画像の表示を省略することができ、更に、一律にすべての画像を表示させていた従来に比べ、表示画像が小さくなることもなく、オペレータは、表示画像を通して加工状況を細部まで確認することができる。また、画面表示手段に工作機械の制御状態をカメラから得られる画像とともに表示させるようにしても、この制御状態の表示領域が必要以上に狭くなることはなく、オペレータは、工作機械の制御状態も十分に確認することができる。また、画面表示手段に表示される画像が自動的に切り換えられるので、オペレータが少なくとも1つの画像を選択して所望の画像に切り換えるといった手間を省くこともできる。 Moreover, since the two-dimensional image data in which the tip of the tool is not hidden is displayed, it is possible to omit the display of an image that is not very useful for monitoring the machining status, and furthermore, all images are displayed uniformly. Compared to the above, the display image is not reduced, and the operator can confirm the processing status through the display image in detail. Further, even if the control state of the machine tool is displayed on the screen display means together with the image obtained from the camera, the display region of the control state is not unnecessarily narrow, and the operator can also control the control state of the machine tool. It can be fully confirmed. In addition, since the image displayed on the screen display means is automatically switched, it is possible to save the operator from selecting at least one image and switching to a desired image.
尚、前記加工状況監視装置は、前記位置関係認識手段によって認識された位置関係を基に、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラをカメラ選択候補として抽出する選択候補抽出手段を備え、前記カメラ選択手段は、前記選択候補抽出手段によって抽出されたカメラ選択候補の中から1つのカメラを選択,決定するとともに、前記カメラ選択候補の中から1つのカメラに決定する際には、今回のカメラ選択候補の中に、前回決定したカメラが含まれているか否かを確認して、含まれていると判断したときには、前回と同じカメラに決定するように構成されていても良い。 The processing status monitoring device can generate two-dimensional image data in which the tip of the tool is not hidden by at least the workpiece among the plurality of cameras, based on the positional relationship recognized by the positional relationship recognition unit. Selection candidate extracting means for extracting a camera as a camera selection candidate, wherein the camera selection means selects and determines one camera from among the camera selection candidates extracted by the selection candidate extraction means; and the camera selection candidate When deciding on one camera from the above, check whether the camera selected last time is included in the current camera selection candidate, and if it is determined that it is included, the same as the previous time The camera may be configured to determine.
このようにすれば、まず、位置関係認識手段によって認識された位置関係を基に、選択候補抽出手段により、工具の先端が隠れない2次元画像データを生成可能なカメラがカメラ選択候補として抽出される。この抽出処理は、例えば、上述した、位置関係認識手段によって認識された位置関係を基に、カメラ選択手段によってカメラが選択される処理と同様にして行われる。 In this way, first, based on the positional relationship recognized by the positional relationship recognition unit, the selection candidate extraction unit extracts a camera capable of generating two-dimensional image data in which the tip of the tool is not hidden as a camera selection candidate. The This extraction process is performed, for example, in the same manner as the above-described process in which the camera is selected by the camera selection unit based on the positional relationship recognized by the positional relationship recognition unit.
そして、カメラ選択候補が抽出されると、カメラ選択手段により、抽出されたカメラ選択候補の中から1つのカメラが選択,決定される。その際には、今回のカメラ選択候補の中に、前回決定したカメラが含まれているか否かが確認され、含まれていると判断されたときには、前回と同じカメラに決定される。 When camera selection candidates are extracted, one camera is selected and determined from the extracted camera selection candidates by the camera selection means. In this case, it is confirmed whether or not the camera selected last time is included in the current camera selection candidate, and if it is determined that it is included, the same camera as the previous camera is determined.
このように、前回と同じカメラを選択,決定するようにすれば、ワーク加工時におけるカメラ切換回数を少なくすることができる。これにより、工具及びワークを見る方向が頻繁に変わってどの方向から見ているのかが分かり難くなり、却って、加工状況を監視し難くなるのを防止することができる。 In this way, if the same camera as the previous one is selected and determined, the number of times of camera switching during workpiece machining can be reduced. As a result, the direction in which the tool and workpiece are viewed changes frequently, making it difficult to understand from which direction, and it is possible to prevent the machining status from becoming difficult to monitor.
また、本発明は、
工具及びワークを相対移動させる加工動作機構部と、加工プログラムを解析して前記加工動作機構部の動作指令を抽出し、抽出した動作指令を基に前記加工動作機構部の作動を制御する制御手段とを備えた工作機械における加工状況を監視する装置であって、
少なくとも前記工具及びワークを互いに異なる視点から一定時間間隔で撮像してその2次元画像データを順次生成する複数のカメラと、
前記カメラによって生成された2次元画像データを表示する画面表示手段と、
前記加工プログラムによって実行される加工の種別と、前記複数のカメラの内、前記加工中に少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラとを関連付けて記憶するカメラ情報記憶手段と、
前記制御手段から得られる動作指令を基に前記加工の種別を認識する加工種別認識手段と、
前記加工種別認識手段によって認識された加工の種別と、前記カメラ情報記憶手段に格納されたデータとを基に、前記加工の種別に対応したカメラを、前記画面表示手段に表示させるべき2次元画像データを生成するカメラとして選択するカメラ選択手段と、
前記カメラ選択手段によって選択されたカメラにより生成される2次元画像データを前記画面表示手段に表示させるカメラ切換手段とを備えてなることを特徴とする加工状況監視装置に係る。
The present invention also provides:
A machining operation mechanism unit that relatively moves a tool and a workpiece, and a control unit that analyzes a machining program, extracts an operation command of the machining operation mechanism unit, and controls the operation of the machining operation mechanism unit based on the extracted operation command An apparatus for monitoring the machining status of a machine tool equipped with
A plurality of cameras that capture at least the tool and the workpiece from different viewpoints at regular time intervals and sequentially generate two-dimensional image data thereof;
Screen display means for displaying two-dimensional image data generated by the camera;
A camera that associates and stores a type of machining executed by the machining program and a camera that can generate two-dimensional image data in which at least the tip of the tool is not hidden by the workpiece during the machining among the plurality of cameras. Information storage means;
Machining type recognition means for recognizing the type of machining based on an operation command obtained from the control means;
Based on the processing type recognized by the processing type recognition unit and the data stored in the camera information storage unit, a two-dimensional image to be displayed on the screen display unit, a camera corresponding to the processing type Camera selection means for selecting as a camera for generating data;
The present invention relates to a processing status monitoring apparatus comprising: a camera switching unit that causes the screen display unit to display two-dimensional image data generated by a camera selected by the camera selection unit.
この発明では、制御手段により、加工プログラムが解析されて加工動作機構部の動作指令が抽出され、抽出された動作指令を基に加工動作機構部が制御されて工具及びワークが相対移動せしめられると、以下のようにして、画面表示手段に表示させるべき2次元画像データを生成するカメラが切り換えられながら画面表示手段に監視画像が表示される。尚、カメラ情報記憶手段には、加工プログラムによって実行される加工の種別(例えば、外周加工やポケット穴加工など)と、加工中にワークによって工具の先端が隠れない2次元画像データを生成可能な少なくとも1つのカメラとが関連付けられて予め格納されている。 In the present invention, when the machining program is analyzed by the control means and the operation command of the machining operation mechanism unit is extracted, and the machining operation mechanism unit is controlled based on the extracted operation command and the tool and the workpiece are relatively moved. In the following manner, the monitoring image is displayed on the screen display means while the camera for generating the two-dimensional image data to be displayed on the screen display means is switched. The camera information storage means can generate two-dimensional image data in which the tip of the tool is not hidden by the workpiece during processing, for example, the type of processing executed by the processing program (for example, peripheral processing or pocket hole processing). At least one camera is associated and stored in advance.
まず、制御手段から得られる動作指令(例えば、固定サイクルを示すGコード)を基に、加工種別認識手段により加工の種別が認識され、認識された加工の種別と、カメラ情報記憶手段に格納されたデータとを基に、カメラ選択手段により、加工の種別に対応したカメラが、画面表示手段に表示させるべき2次元画像データを生成するカメラとして選択される。 First, based on an operation command (for example, a G code indicating a fixed cycle) obtained from the control means, the processing type is recognized by the processing type recognition means, and the recognized processing type is stored in the camera information storage means. Based on the obtained data, the camera selection means selects a camera corresponding to the type of processing as a camera for generating two-dimensional image data to be displayed on the screen display means.
そして、選択されたカメラによって生成される2次元画像データが、カメラ切換手段によって画面表示手段に表示される。このようにして、カメラが切り換えられながら、カメラから得られる2次元画像データが画面表示手段に表示される。 Then, the two-dimensional image data generated by the selected camera is displayed on the screen display means by the camera switching means. In this way, the two-dimensional image data obtained from the camera is displayed on the screen display means while the camera is switched.
斯くして、本発明に係る加工状況監視装置によっても、選択された少なくとも1つのカメラによって生成される、工具の先端が隠れない2次元画像データを画面表示手段に順次表示させることができるので、オペレータは、表示画像を通してワークの加工状況を十分に監視することができる。 Thus, even with the machining status monitoring device according to the present invention, two-dimensional image data generated by at least one selected camera that does not hide the tip of the tool can be sequentially displayed on the screen display means. The operator can sufficiently monitor the machining status of the workpiece through the display image.
また、工具の先端が隠れない2次元画像データを表示させているので、加工状況の監視にさほど役立たない画像の表示を省略することができ、更に、一律にすべての画像を表示させていた従来に比べ、表示画像が小さくなることもなく、オペレータは、表示画像を通して加工状況を細部まで確認することができる。また、画面表示手段に工作機械の制御状態をカメラから得られる画像とともに表示させるようにしても、この制御状態の表示領域が必要以上に狭くなることはなく、オペレータは、工作機械の制御状態も十分に確認することができる。また、画面表示手段に表示される画像が自動的に切り換えられるので、オペレータが少なくとも1つの画像を選択して所望の画像に切り換えるといった手間を省くこともできる。 Moreover, since the two-dimensional image data in which the tip of the tool is not hidden is displayed, it is possible to omit the display of an image that is not very useful for monitoring the machining status, and furthermore, all images are displayed uniformly. Compared to the above, the display image is not reduced, and the operator can confirm the processing status through the display image in detail. Further, even if the control state of the machine tool is displayed on the screen display means together with the image obtained from the camera, the display region of the control state is not unnecessarily narrow, and the operator can also control the control state of the machine tool. It can be fully confirmed. In addition, since the image displayed on the screen display means is automatically switched, it is possible to save the operator from selecting at least one image and switching to a desired image.
尚、前記カメラ情報記憶手段は、前記工具の位置情報と、この位置情報に係る位置に前記工具が移動したときに、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラとが関連付けられたカメラ情報を前記加工の種別毎に記憶するように構成され、前記カメラ選択手段は、前記加工種別認識手段によって認識された加工の種別と、前記カメラ情報記憶手段に格納されたカメラ情報と、前記制御手段から得られる前記工具の位置情報とを基に、前記加工の種別及び工具の位置情報に対応したカメラを、前記画面表示手段に表示させるべき2次元画像データを生成するカメラとして予め設定された時間毎に選択するように構成されていても良い。 The camera information storage means is configured to prevent the tip of the tool from being hidden by at least the workpiece among the plurality of cameras when the tool moves to the position information of the tool and the position related to the position information. It is configured to store camera information associated with a camera capable of generating dimensional image data for each type of processing, and the camera selection unit includes: a processing type recognized by the processing type recognition unit; Based on the camera information stored in the camera information storage means and the tool position information obtained from the control means, the camera corresponding to the machining type and the tool position information is displayed on the screen display means. The camera may be configured to select at predetermined time intervals as a camera that generates power two-dimensional image data.
この場合、カメラ情報記憶手段には、工具位置情報と、この位置情報に係る位置に工具が移動したときに、ワークによって工具の先端が隠れない2次元画像データを生成可能なカメラとが関連付けられたカメラ情報が加工の種別毎に予め格納される。尚、工具位置情報と関連付けられるカメラとしては、工具の先端が隠れない2次元画像データを生成可能である他、例えば、工具が接近してくる画像や工具が離れていく画像を生成可能なカメラ、ワーク加工時におけるカメラ切換回数を少なくすることが可能なカメラを挙げることができる。 In this case, the camera information storage means is associated with the tool position information and a camera capable of generating two-dimensional image data in which the tip of the tool is not hidden by the workpiece when the tool moves to a position related to the position information. The camera information is stored in advance for each type of processing. The camera associated with the tool position information can generate two-dimensional image data in which the tip of the tool is not hidden, for example, a camera that can generate an image in which the tool approaches or an image in which the tool leaves. A camera capable of reducing the number of times of camera switching during workpiece machining can be mentioned.
そして、カメラ選択手段によってカメラが選択される際には、加工種別認識手段によって認識された加工の種別と、カメラ情報記憶手段に格納されたカメラ情報と、制御手段から得られる工具位置情報とを基に、加工の種別及び工具位置情報に対応したカメラが、画面表示手段に表示させるべき2次元画像データを生成するカメラとして選択される。 Then, when the camera is selected by the camera selection means, the processing type recognized by the processing type recognition means, the camera information stored in the camera information storage means, and the tool position information obtained from the control means. Based on the processing type and the tool position information, the camera corresponding to the processing type and the tool position information is selected as a camera that generates two-dimensional image data to be displayed on the screen display means.
したがって、このようにすれば、加工の種別及び工具位置情報を基に、予め設定したカメラに順次切り換えることができるので、より適切な画像を画面表示手段に表示させることができる。また、ワーク加工時におけるカメラ切換回数を少なくすることが可能なカメラをカメラ情報に設定しておけば、工具及びワークを見る方向が頻繁に変わってどの方向から見ているのかが分かり難くなり、却って、加工状況を監視し難くなるのを防止することができる。 Therefore, in this way, since it is possible to sequentially switch to a preset camera based on the type of machining and the tool position information, a more appropriate image can be displayed on the screen display means. In addition, if the camera information that can reduce the number of times of camera switching during workpiece processing is set in the camera information, the direction in which the tool and workpiece are viewed changes frequently, making it difficult to understand from which direction, On the contrary, it is possible to prevent the processing status from becoming difficult to monitor.
尚、前記加工動作機構部としては、工作機械がマシニングセンタであるときには、例えば、工具を保持する主軸、ワークが載置されるテーブル、これら主軸及びテーブルを相対移動させる送り機構部などを挙げることができ、工作機械が旋盤であるときには、例えば、工具を保持する刃物台、ワークを保持する主軸、これら刃物台及び主軸を相対移動させる送り機構部などを挙げることができる。 As the machining operation mechanism unit, when the machine tool is a machining center, for example, a spindle for holding a tool, a table on which a workpiece is placed, a feed mechanism unit for relatively moving the spindle and the table, and the like can be given. When the machine tool is a lathe, for example, a turret for holding a tool, a main shaft for holding a workpiece, a feed mechanism section for relatively moving the turret and the main shaft, and the like can be given.
以上のように、本発明に係る加工状況監視装置によれば、オペレータは、複数のカメラの中から選択されたカメラによって生成される、工具の先端がワークにより隠れていない画像を通してワークの加工状況を監視することができるので、ワークの加工状況を正確に把握することができる。また、不要な監視画像の表示を省略して、監視画像や工作機械の制御状態に係る画像が必要以上に小さくなるのを防止することができるので、オペレータの視認性を高めることができる。 As described above, according to the machining status monitoring apparatus according to the present invention, the operator can process the workpiece through the image generated by the camera selected from the plurality of cameras and the tip of the tool is not hidden by the workpiece. Therefore, it is possible to accurately grasp the machining status of the workpiece. In addition, unnecessary monitoring images can be omitted from being displayed, and the monitoring image and the image relating to the control state of the machine tool can be prevented from becoming unnecessarily small, so that the visibility of the operator can be improved.
以下、本発明の具体的な実施形態について、添付図面に基づき説明する。尚、図1は、本発明の一実施形態に係る加工状況監視装置などの概略構成を示したブロック図であり、図2は、本実施形態の加工状況監視装置が設けられる工作機械の概略構成を示した斜視図である。また、図3は、工作機械に配設された複数のCCDカメラの配置関係を示した平面図である。 Hereinafter, specific embodiments of the present invention will be described with reference to the accompanying drawings. FIG. 1 is a block diagram showing a schematic configuration of a machining status monitoring device and the like according to one embodiment of the present invention, and FIG. 2 is a schematic configuration of a machine tool provided with the machining status monitoring device of this embodiment. It is the perspective view which showed. FIG. 3 is a plan view showing an arrangement relationship of a plurality of CCD cameras arranged on the machine tool.
図1に示すように、本例の加工状況監視装置1は、複数(本例では4つ)のCCDカメラ11,12,13,14、カメラパラメータ記憶部15、モデルデータ記憶部16、モデルデータ更新部17、位置関係認識部18、選択候補抽出部19、カメラ選択部20、カメラ切換部21及び画面表示装置66を備え、例えば、図2に示すような、マシニングセンタと呼ばれる工作機械50に設けられる。
As shown in FIG. 1, the processing status monitoring apparatus 1 of this example includes a plurality (four in this example) of
ここで、まず、前記工作機械50について説明する。この工作機械50は、図1及び図2に示すように、ベッド51と、ベッド51に配設され、水平方向且つ前後方向(Y軸方向)に移動自在となった第1サドル52と、第1サドル52に配設され、水平方向且つ左右方向(X軸方向)に移動自在となった第2サドル53と、第2サドル53に支持され、鉛直方向(Z軸方向)に移動自在となった主軸頭54と、軸線がZ軸と平行且つ軸線中心に回転自在に主軸頭54によって支持され、下端部に工具Tが装着される主軸55と、ベッド51に配設され、上面にワークWが載置されるテーブル56と、第1サドル52,第2サドル53及び主軸頭54を各移動方向にそれぞれ移動させるY軸送り機構部57,X軸送り機構部58及びZ軸送り機構部59と、各送り機構部57,58,59の作動を制御する制御装置60と、制御装置60に接続された操作盤65とを備えている。
First, the
前記ベッド51は、その左右両側及び奥側に側壁51a,51b,51cが設けられた構造を備えており、左右両側の側壁51a,51bの上部に前記第1サドル52が配設され、奥側の側壁51cに前記テーブル56が配設されている。前記操作盤65には、前記画面表示装置66が設けられており、この画面表示装置66には、制御装置60による制御状態や、前記各CCDカメラ11,12,13,14から得られる画像が表示される。また、操作盤65には、特に図示はしないが、各種信号を入力するための入力装置が設けられている。
The
前記制御装置60は、予め作成された加工プログラムを記憶するプログラム記憶部60aを備え、このプログラム記憶部60aに格納された加工プログラムに基づいて各送り機構部57,58,59を制御する。具体的には、加工プログラムをブロック毎に解析して、工具T(各送り機構部57,58,59)の移動位置や送り速度に関する動作指令を順次抽出し、抽出した動作指令と、各送り機構部57,58,59から得られるフィードバック信号とを基に各送り機構部57,58,59を制御する。
The
また、この制御装置60は、前記抽出した動作指令を前記モデルデータ更新部17に送信する。更に、制御装置60は、前記抽出した動作指令と、前記主軸55に装着された工具Tの現在位置,現在速度及び移動方向とを基に、予め設定された時間経過後(例えば、数ミリ秒後)における工具Tの移動位置を予め設定された時間毎に予測し、予測した移動位置(工具Tの位置情報)を前記位置関係認識部18に順次送信する。
Further, the
尚、前記第1サドル52,第2サドル53,主軸頭54,主軸55,テーブル56,Y軸送り機構部57,X軸送り機構部58及びZ軸送り機構部59は、特許請求の範囲に言う加工動作機構部として機能する。
The
次に、前記加工状況監視装置1について説明する。この加工状況監視装置1は、上述のように、CCDカメラ11,12,13,14(第1CCDカメラ11,第2CCDカメラ12,第3CCDカメラ13及び第4CCDカメラ14)、カメラパラメータ記憶部15、モデルデータ記憶部16、モデルデータ更新部17、位置関係認識部18、選択候補抽出部19、カメラ選択部20、カメラ切換部21及び画面表示装置66を備えている。
Next, the processing status monitoring apparatus 1 will be described. As described above, the processing status monitoring apparatus 1 includes the
図2及び図3に示すように、各CCDカメラ11,12,13,14は、テーブル56上のワークWを囲むように配置されており、このワークWを四方から撮像可能に構成される。具体的には、前記第1CCDカメラ11及び第2CCDカメラ12は、前記ベッド51の左側壁51aの前側上部及び後側上部にブラケット11a,12aを介してそれぞれ取り付けられ、前記第3CCDカメラ13及び第4CCDカメラ14は、前記ベッド51の右側壁51bの前側上部及び後側上部にブラケット13a,14aを介してそれぞれ取り付けられる。そして、これらのCCDカメラ11,12,13,14は、主軸55に装着された工具T及びテーブル56上のワークWを一定時間間隔で撮像して2次元画像データを順次生成し、生成した2次元画像データを前記カメラ切換部21に出力する。
As shown in FIGS. 2 and 3, the
尚、このとき生成される画像例を図4に示す。図4(a)は、第1CCDカメラ11によって、図4(b)は、第2CCDカメラ12によって、図4(c)は、第3CCDカメラ13によって、図4(d)は、第4CCDカメラ14によって生成された画像データをそれぞれ示している。また、これらの画像には、工具T及びワークWの他、前記ベッド51の一部、主軸頭54の一部、主軸55の一部、テーブル56の一部も含まれている。
An example of the image generated at this time is shown in FIG. 4A is the
前記カメラパラメータ記憶部15には、前記各CCDカメラ11,12,13,14に関する内部パラメータ及び外部パラメータがカメラパラメータとしてそれぞれ格納される。内部パラメータは、各CCDカメラ11,12,13,14に固有のものであり、例えば、主点座標、スケール因子、画像の2軸間の歪みなどが挙げられる。一方、外部パラメータは、工作機械50の座標系における各CCDカメラ11,12,13,14の配置位置及び姿勢を表す。尚、これらのパラメータは、キャリブレーション処理により予め算出される。
The camera
前記モデルデータ記憶部16には、予め作成された、工作機械50全体の3次元モデルに関するデータ(モデルデータ)が格納される。この工作機械50全体のモデルデータは、前記ベッド51,第1サドル52,第2サドル53,主軸頭54,主軸55及びテーブル56といった工作機械50の主要な構成要素のモデルデータと、前記主軸55に装着される工具Tのモデルデータと、前記テーブル56上に載置されるワークWのモデルデータとを含み、前記各構成要素,工具T及びワークWの各モデルデータがそれぞれ相互に関連付けられて構成される。
The model
前記モデルデータ更新部17は、前記モデルデータ記憶部16に格納された工作機械50全体のモデルデータと、前記制御装置60から送信された動作指令とを基に、第1サドル52,第2サドル53及び主軸頭54が動作指令に従って移動した状態となるように工作機械50全体のモデルデータをブロック毎に生成し、生成したモデルデータをモデルデータ記憶部16に格納して、このモデルデータ記憶部16内のモデルデータを更新する。尚、第1サドル52,第2サドル53及び主軸頭54を移動させたときに、工具TのモデルデータとワークWのモデルデータとの間で重なり合う部分がある場合には、その重なり合う部分を切削領域として算出し、この切削領域がワークWから削除されるようにワークWのモデルデータを生成して工作機械50全体のモデルデータを更新する。
The model
前記位置関係認識部18は、前記カメラパラメータ記憶部15に格納されたカメラパラメータと、前記制御装置60から送信された工具Tの位置情報と、前記主軸55に装着された工具Tに関する情報(例えば、工具径や工具長さといった工具情報)と、前記モデルデータ更新部17によって更新されたモデルデータとを基に、各CCDカメラ11,12,13,14、工具T及びワークWの位置関係を予め設定された時間毎に認識する。
The positional
例えば、各CCDカメラ11,12,13,14について、前記カメラパラメータから、CCDカメラ11,12,13,14の撮像面と光軸との交点やCCDカメラ11,12,13,14のレンズの中心点を認識し、前記工具Tの位置情報及び工具情報から、現在(工具移動前)における工具Tの先端位置と、予め設定された時間経過後(工具移動後)における工具Tの先端位置とを認識し、前記モデルデータから、ワークWの配置位置とワークWの形状とを認識する。
For example, for each
前記選択候補抽出部19は、前記位置関係認識部18によって認識された位置関係を基に、各CCDカメラ11,12,13,14の中から、ワークWによって工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14をカメラ選択候補として抽出する。
The selection
例えば、図5に示すように、まず、各CCDカメラ11,12,13,14について、CCDカメラ11,12,13,14の撮像面と光軸との交点KやCCDカメラ11,12,13,14のレンズの中心点Kと、工具移動前後における工具Tの先端位置L,M(移動前の先端位置L,移動後の先端位置M)との3点を結んで3角形状の平面Pをそれぞれ形成し、これらの平面PとワークWの形状との間に交差部があるか否かをそれぞれ確認する。そして、交差部があると判断したCCDカメラ11,12,13,14については、工具Tの先端が隠れない2次元画像データを生成可能ではないと認識する一方、交差部がないと判断したCCDカメラ11,12,13,14については、工具Tの先端が隠れない2次元画像データを生成可能であると認識する。この後、交差部がないと判断したCCDカメラ11,12,13,14をカメラ選択候補として認識,抽出する。このとき、交差部がないと判断したCCDカメラ11,12,13,14が存在しない場合には、予め設定されたCCDカメラ11,12,13,14をカメラ選択候補として認識,抽出する。
For example, as shown in FIG. 5, first, for each
尚、図5(a)は、第1CCDカメラ11が、工具Tの先端が隠れない2次元画像データを生成可能なものであるか否かを確認するための処理を説明するための説明図であり、図5(b)は、第2CCDカメラ12が、工具Tの先端が隠れない2次元画像データを生成可能なものであるか否かを確認するための処理を説明するための説明図である。この図示例において、第1CCDカメラ11は、前記平面PとワークWとが交差しており、工具Tの先端が隠れない2次元画像データを生成可能なものではなく、一方、第2CCDカメラ12は、前記平面PとワークWとが交差しておらず、工具Tの先端が隠れない2次元画像データを生成可能なものである。
FIG. 5A is an explanatory diagram for explaining processing for confirming whether or not the
前記カメラ選択部20は、図6に示すような一連の処理を実行して、前記選択カメラ抽出部19により抽出されたカメラ選択候補を基に、カメラ選択候補の中から1つのCCDカメラ11,12,13,14を選択,決定する。
The
即ち、カメラ選択部20は、まず、選択カメラ抽出部19によって抽出されたカメラ選択候補を受信してこれを認識し(ステップS1)、ついで、前回決定したCCDカメラ11,12,13,14を認識する(ステップS2)。
That is, the
そして、ステップS1で認識したカメラ選択候補の中に、ステップS2で認識したCCDカメラ11,12,13,14が含まれているか否かを確認し(ステップS3)、含まれていると判断したときには、ステップS2で認識したCCDカメラ11,12,13,14に決定する(ステップS4)。例えば、ステップS1で認識したカメラ選択候補がA,B,Cであり、前回決定したカメラがAであるとすれば、共通するAに決定される。
Then, it is checked whether or not the
一方、ステップS3で含まれていないと判断したときには、ステップS1で認識したカメラ選択候補の中から1つのCCDカメラ11,12,13,14を選択,決定する(ステップS5)。このようにして、1つのCCDカメラ11,12,13,14を決定すると、上記一連の処理を終了する。
On the other hand, when it is determined in step S3 that it is not included, one
前記カメラ切換部21は、前記カメラ選択部20によって選択,決定されたCCDカメラ11,12,13,14により生成される2次元画像データを前記画面表示装置66に表示させる。
The
以上のように構成された本例の加工状況監視装置1によれば、制御装置60によって加工プログラムが実行されると、即ち、制御装置60により加工プログラムがブロック毎に順次解析されて動作指令が抽出され、抽出された動作指令を基に各送り機構部57,58,59が制御されて工具T及びワークWが相対移動せしめられると、以下のようにして、画面表示装置66に表示させるべき2次元画像データを生成するCCDカメラ11,12,13,14が予め設定された時間毎に切り換えられながら(画面表示装置66に表示される2次元画像データが切り換えられながら)、画面表示装置66に監視画像が表示される。
According to the machining status monitoring apparatus 1 of the present example configured as described above, when the machining program is executed by the
具体的には、図7に示すように、まず、制御装置60から送信された動作指令がモデルデータ更新部17により受信され(ステップS11)、モデルデータ更新部17によりモデルデータが更新されるとともに(ステップS12)、制御装置60から送信された工具Tの位置情報が位置関係認識部18により受信され(ステップS13)、位置関係認識部18により各CCDカメラ11,12,13,14、工具T及びワークWの位置関係が認識される(ステップS14)。
Specifically, as illustrated in FIG. 7, first, the operation command transmitted from the
ついで、選択候補抽出部19によりカメラ選択候補が抽出され(ステップS15)、カメラ選択部20により1つのCCDカメラ11,12,13,14が選択,決定される(ステップS16)。そして、決定されたCCDカメラ11,12,13,14により生成される2次元画像データがカメラ切換部21によって画面表示装置66に表示される(ステップS17)。
Next, camera selection candidates are extracted by the selection candidate extraction unit 19 (step S15), and one
この後、加工プログラムが終了したか否かが確認され(ステップS18)、終了していない場合には、制御装置60から送信された工具Tの新たな位置情報が位置関係認識部18によって受信されたか否かが確認され(ステップS19)、受信された場合には上記ステップS14以降の処理が実行される。一方、ステップS19で受信されていない場合には、制御装置60から送信された新たな動作指令がモデルデータ更新部17によって受信されたか否かが確認され(ステップS20)、受信された場合には上記ステップS12以降の処理が実行される。尚、ステップS20で受信されていない場合には、上記ステップS19以降の処理が実行される。また、前記ステップS18で加工プログラムが終了した場合には上記一連の処理が終了する。
Thereafter, it is confirmed whether or not the machining program has been completed (step S18). If the machining program has not been completed, new position information of the tool T transmitted from the
このように、本例の加工状況監視装置1によれば、選択されたCCDカメラ11,12,13,14によって生成される、工具Tの先端が隠れない2次元画像データを画面表示装置66に順次表示させているので、オペレータは、表示画像を通してワークWの加工状況を十分に監視することができる。
As described above, according to the processing status monitoring apparatus 1 of this example, the two-dimensional image data generated by the selected
また、工具Tの先端が隠れない2次元画像データを表示させているので、加工状況の監視にさほど役立たない画像の表示を省略することができ、更に、一律にすべての画像を表示させていた従来に比べ、表示画像が小さくなることもなく、オペレータは、表示画像を通して加工状況を細部まで確認することができる。また、画面表示装置66に工作機械50の制御状態とCCDカメラ11,12,13,14から得られる画像とを同時に表示させても、この制御状態の表示領域が必要以上に狭くなることはなく、オペレータは、工作機械50の制御状態も十分に確認することができる。また、画面表示装置66に表示される画像が自動的に切り換えられるので、オペレータが1つの画像を選択して所望の画像に切り換えるといった手間を省くこともできる。
In addition, since the two-dimensional image data in which the tip of the tool T is not hidden is displayed, it is possible to omit the display of an image that is not very useful for monitoring the machining status, and to display all the images uniformly. Compared to the conventional case, the display image is not reduced, and the operator can check the processing status through the display image in detail. Further, even if the control state of the
また、カメラ選択候補を抽出する際に、3点を結んで形成される3角形状の平面Pと、ワークWとの間に交差部があるか否かを確認して、どのCCDカメラ11,12,13,14が、工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14であるかを判断しているので、比較的簡単な処理で、工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14を判別することができる。
Further, when extracting the camera selection candidates, it is confirmed whether there is an intersection between the triangular plane P formed by connecting the three points and the workpiece W, and which
更に、CCDカメラ11,12,13,14を切り換える際に、前回と同じCCDカメラ11,12,13,14を選択,決定しているので、ワークWの加工時におけるカメラ切換回数を少なくすることができる。これにより、工具T及びワークWを見る方向が頻繁に変わってどの方向から見ているのかが分かり難くなり、却って、加工状況を監視し難くなるのを防止することができる。
Further, when the
以上、本発明の一実施形態について説明したが、本発明の採り得る具体的な態様は、何らこれに限定されるものではない。 As mentioned above, although one Embodiment of this invention was described, the specific aspect which this invention can take is not limited to this at all.
例えば、前記加工状況監視装置1は、図8に示すような加工状況監視装置2として構成されていても良い。この場合、加工状況監視装置2は、同図8に示すように、複数のCCDカメラ11,12,13,14、カメラ情報記憶部31、加工種別認識部32、カメラ選択部33、カメラ切換部21及び画面表示装置66を備えている。尚、前記加工状況監視装置1と同じ構成部分については、同一の符号を付してその詳しい説明を省略する。
For example, the machining status monitoring device 1 may be configured as a machining status monitoring device 2 as shown in FIG. In this case, as shown in FIG. 8, the processing status monitoring apparatus 2 includes a plurality of
前記カメラ情報記憶部31には、加工プログラムによって実行される、例えば、外周加工やポケット穴加工といった加工の種別毎にカメラ情報が格納される。このカメラ情報は、図9に示すように、工具Tの位置情報と、この位置情報に係る位置に工具Tが移動したときに、各CCDカメラ11,12,13,14の内、ワークWによって工具Tの先端が隠れない2次元画像データを生成可能な1つのCCDカメラ11,12,13,14に関する情報とが相互に関連付けられたものである。
The camera
尚、工具位置情報と関連付けられるCCDカメラ11,12,13,14としては、工具Tの先端が隠れない2次元画像データを生成可能である他、例えば、工具Tが接近してくる画像を生成可能なCCDカメラ11,12,13,14や、工具Tが離れていく画像を生成可能なCCDカメラ11,12,13,14が挙げられる。例えば、工具Tが図4のように移動する場合に、工具Tが接近してくる画像を生成可能なCCDカメラ11,12,13,14としては第2CCDカメラ12が挙げられ、一方、工具Tが離れていく画像を生成可能なCCDカメラ11,12,13,14としては第4CCDカメラ14が挙げられる。
The
前記加工種別認識部32は、前記制御装置60から送信された動作指令(例えば、固定サイクルを示すGコード)を基に、加工プログラムによって実行される加工の種別を認識する。
The machining
前記カメラ選択部33は、前記加工種別認識部32によって認識された加工の種別と、前記カメラ情報記憶部31に格納されたカメラ情報と、前記制御装置60から送信された工具Tの位置情報とを基に、加工の種別及び工具Tの位置情報に対応したCCDカメラ11,12,13,14を、画面表示装置66に表示させるべき2次元画像データを生成するCCDカメラ11,12,13,14として予め設定された時間毎に選択,決定する。
The
そして、この加工状況監視装置2によれば、制御装置60によって加工プログラムが実行されると、以下のようにして、画面表示装置66に表示させるべき2次元画像データを生成するCCDカメラ11,12,13,14が予め設定された時間毎に切り換えられながら、画面表示装置66に監視画像が表示される。
According to the processing status monitoring device 2, when the processing program is executed by the
具体的には、図10に示すように、まず、制御装置60から送信された動作指令が加工種別認識部32により受信され(ステップS31)、当該加工種別認識部32により加工種別が認識された後(ステップS32)、制御装置60から送信された工具Tの位置情報がカメラ選択部33により受信され(ステップS33)、カメラ情報記憶部31に格納されたカメラ情報が当該カメラ選択部33により認識される(ステップS34)。
Specifically, as shown in FIG. 10, first, an operation command transmitted from the
次に、カメラ選択部33により1つのCCDカメラ11,12,13,14が選択,決定され(ステップS35)、決定されたCCDカメラ11,12,13,14により生成される2次元画像データがカメラ切換部21によって画面表示装置66に表示される(ステップS36)。
Next, one
この後、加工プログラムが終了したか否かが確認され(ステップS37)、終了していない場合には、制御装置60から送信された工具Tの新たな位置情報がカメラ選択部33によって受信されたか否かが確認され(ステップS38)、受信された場合には上記ステップS34以降の処理が実行される。一方、ステップS38で受信されていない場合には、制御装置60から送信された新たな動作指令が加工種別認識部32によって受信されたか否かが確認され(ステップS39)、受信された場合には上記ステップS32以降の処理が実行される。尚、ステップS39で受信されていない場合には、上記ステップS38以降の処理が実行される。また、前記ステップS37で加工プログラムが終了した場合には上記一連の処理が終了する。
Thereafter, whether or not the machining program has been completed is confirmed (step S37). If the machining program has not been completed, whether or not new position information of the tool T transmitted from the
このように、この加工状況監視装置2によれば、選択されたCCDカメラ11,12,13,14によって生成される、工具Tの先端が隠れない2次元画像データを画面表示装置66に順次表示させることができるので、オペレータは、表示画像を通してワークWの加工状況を十分に監視することができるなど、前記加工状況監視装置1と同様の効果を得ることができる。
As described above, according to the machining status monitoring device 2, the two-dimensional image data generated by the selected
また、加工の種別,カメラ情報及び工具Tの位置情報を基に、予め設定したCCDカメラ11,12,13,14に順次切り換えることができるので、より適切な画像を画面表示装置66に表示させることができる。更に、ワークWの加工時におけるカメラ切換回数を少なくすることが可能なCCDカメラ11,12,13,14をカメラ情報に設定しておけば、工具T及びワークWを見る方向が頻繁に変わってどの方向から見ているのかが分かり難くなり、却って、加工状況を監視し難くなるのを防止することができる。
Further, since it is possible to sequentially switch to the
また、上例では、カメラ情報が加工の種別毎にカメラ情報記憶部31に格納されていたが、このカメラ情報記憶部31には、単に、加工の種別と、各CCDカメラ11,12,13,14の内、ワークWによって工具Tの先端が隠れない2次元画像データを生成可能な1つのCCDカメラ11,12,13,14とを相互に関連付けて格納しても良い。この場合、カメラ選択部33は、加工種別認識部32によって認識された加工の種別と、カメラ情報記憶部31に格納されたデータとを基に、加工の種別に対応したCCDカメラ11,12,13,14を、画面表示装置66に表示させるべき2次元画像データを生成するCCDカメラ11,12,13,14として選択,決定する。
In the above example, the camera information is stored in the camera
また、前記制御装置60が、前記モデルデータ更新部17に、動作指令ではなく、工具Tの位置情報を送信するように構成されている場合、このモデルデータ更新部17は、前記モデルデータ記憶部16に格納された工作機械50全体のモデルデータと、前記制御装置60から送信された工具Tの位置情報とを基に、第1サドル52,第2サドル53及び主軸頭54(工具T)が前記位置情報に係る位置に移動した状態となるように工作機械50全体のモデルデータを更新するように構成され、前記位置関係認識部18は、モデルデータ記憶部16に格納された工作機械50全体のモデルデータから、ワークWの配置位置と、現在若しくは予め設定された時間経過後(工具移動前若しくは工具移動後)におけるワークWの形状とを認識して、各CCDカメラ11,12,13,14、工具T及びワークWの位置関係を認識するように構成される。
Further, when the
また、上例では、前記選択候補抽出部19が工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14をカメラ選択候補として抽出する際に、各CCDカメラ11,12,13,14の撮像面と光軸との交点KやCCDカメラ11,12,13,14のレンズの中心点Kと、工具移動前後における工具Tの先端位置L,Mとの3点を結んで3角形状の平面Pをそれぞれ形成し、これらの平面PとワークWの形状との間に交差部があるか否かをそれぞれ確認するようにしたが、これに限られるものではなく、各CCDカメラ11,12,13,14の撮像面と光軸との交点KやCCDカメラ11,12,13,14のレンズの中心点Kと、工具移動後における工具Tの先端位置Mとの2点を結んだ直線と、ワークWの形状との間に交差部があるか否かをそれぞれ確認するようにしても良い。
In the above example, when the selection
更に、前記選択候補抽出部19によって、工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14が存在しないと判断された場合や、クーラントが吐出されているような場合には、画面表示装置66には、シミュレーション画像を表示させるようにしても良い。尚、クーラント吐出量が少量で工具Tの先端を視認可能なときには、シミュレーション画像とせずに、CCDカメラ11,12,13,14から得られる2次元画像データを表示させても良い。
Further, when it is determined by the selection
また、前記選択候補抽出部19は、カメラ選択候補を抽出する際に、まず、ワークWが工具Tによって加工される領域や、ワークWに対して工具Tが存在する空間を認識した後、認識した領域や空間に近い位置に配置されたCCDカメラ11,12,13,14を認識し、この認識したCCDカメラ11,12,13,14についてのみ、そのCCDカメラ11,12,13,14が、工具Tの先端が隠れない2次元画像データを生成可能であるか否かを判断するようにしても良い。このようにすれば、処理の簡略化を図ることができる。
In addition, when extracting the camera selection candidate, the selection
また、前記選択候補抽出部19を省略して、前記カメラ選択部20が、各CCDカメラ11,12,13,14の中から、ワークWによって工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14を選択,決定するように構成されていても良い。
Further, the selection
更に、ワークWをテーブル56に取り付けるに当たっては、通常、取付具が使用されるため、前記選択候補抽出部19が、この取付具及びワークWによって工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14をカメラ選択候補として抽出したり、前記カメラ選択部20が、この取付具及びワークWによって工具Tの先端が隠れない2次元画像データを生成可能なCCDカメラ11,12,13,14を選択,決定するように構成されていても良い。
Furthermore, since a fixture is usually used for attaching the workpiece W to the table 56, the selection
また、前記カメラ切換部21は、CCDカメラ11,12,13,14によって生成された2次元画像データを前記画面表示装置66に表示させるに当たり、すべてのCCDカメラ11,12,13,14によって生成された2次元画像データを画面表示装置66に表示させるとともに、前記カメラ選択部20,33によって選択,決定されたCCDカメラ11,12,13,14により生成される2次元画像データについては、画面表示装置66の表示画面に大きく表示させ(メイン表示)、それ以外のCCDカメラ11,12,13,14によって生成された2次元画像データについては、画面表示装置66の表示画面の隅部に小さく表示させたり、前記メイン表示の背景画像として表示させるように構成されていても良い。
Further, the
また、前記加工状況監視装置1が設けられる工作機械50は、何ら限定されるものではなく、どのような工作機械50であっても良い。例えば、上例のようなマシニングセンタではなく、旋盤などに設けるようにしても良い。
Further, the
また、前記制御装置60は、前記抽出した動作指令を基に工具Tの現在位置を算出し、算出した移動位置(工具Tの位置情報)を前記位置関係認識部18やカメラ選択部33に送信するように構成されていても良い。
The
1 加工状況監視装置
11,12,13,14 CCDカメラ
15 カメラパラメータ記憶部
16 モデルデータ記憶部
17 モデルデータ更新部
18 位置関係認識部
19 選択候補抽出部
20 カメラ選択部
21 カメラ切換部
60 制御装置
66 画面表示装置
DESCRIPTION OF SYMBOLS 1 Processing
Claims (4)
少なくとも前記工具及びワークを互いに異なる視点から一定時間間隔で撮像してその2次元画像データを順次生成する複数のカメラと、
前記カメラによって生成された2次元画像データを表示する画面表示手段と、
前記複数のカメラについて、その配置位置及び姿勢を示すカメラパラメータをそれぞれ記憶するカメラパラメータ記憶手段と、
前記制御手段から得られる動作指令と、前記工具,ワーク及び加工動作機構部の3次元モデルに関するデータとを基に、前記加工動作機構部が前記動作指令に従って動作したときの前記工具,ワーク及び加工動作機構部のモデルデータを生成して更新するモデルデータ更新手段と、
前記カメラパラメータ記憶手段に格納されたカメラパラメータと、前記モデルデータ更新手段によって更新されたモデルデータと、前記制御手段から得られる前記工具の位置情報とを基に、前記複数のカメラ,工具及び少なくともワークの位置関係を予め設定された時間毎に認識する位置関係認識手段と、
前記位置関係認識手段によって認識された位置関係を基に、前記複数のカメラの内、少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラを選択するカメラ選択手段と、
前記カメラ選択手段によって選択されたカメラにより生成される2次元画像データを前記画面表示手段に表示させるカメラ切換手段とを備えてなることを特徴とする加工状況監視装置。 A machining operation mechanism unit that relatively moves a tool and a workpiece, and a control unit that analyzes a machining program, extracts an operation command of the machining operation mechanism unit, and controls the operation of the machining operation mechanism unit based on the extracted operation command An apparatus for monitoring the machining status of a machine tool equipped with
A plurality of cameras that capture at least the tool and the workpiece from different viewpoints at regular time intervals and sequentially generate two-dimensional image data thereof;
Screen display means for displaying two-dimensional image data generated by the camera;
Camera parameter storage means for storing camera parameters indicating the position and orientation of the plurality of cameras;
Based on the operation command obtained from the control means and the data relating to the three-dimensional model of the tool, workpiece and machining operation mechanism unit, the tool, workpiece and machining when the machining operation mechanism unit operates according to the operation command. Model data updating means for generating and updating model data of the operation mechanism unit;
Based on the camera parameters stored in the camera parameter storage means, the model data updated by the model data updating means, and the position information of the tool obtained from the control means, the plurality of cameras, tools, and at least Positional relationship recognition means for recognizing the positional relationship of the work at preset time intervals;
Camera selection means for selecting a camera capable of generating two-dimensional image data in which at least the tip of the tool is not hidden by the workpiece among the plurality of cameras based on the positional relation recognized by the positional relation recognition means;
A processing status monitoring apparatus, comprising: a camera switching unit that causes the screen display unit to display two-dimensional image data generated by the camera selected by the camera selection unit.
前記カメラ選択手段は、前記選択候補抽出手段によって抽出されたカメラ選択候補の中から1つのカメラを選択,決定するとともに、前記カメラ選択候補の中から1つのカメラに決定する際には、今回のカメラ選択候補の中に、前回決定したカメラが含まれているか否かを確認して、含まれていると判断したときには、前回と同じカメラに決定するように構成されてなることを特徴とする請求項1記載の加工状況監視装置。 Based on the positional relationship recognized by the positional relationship recognizing means, a selection is made to extract a camera capable of generating at least two-dimensional image data in which the tip of the tool is not hidden by the workpiece from among the plurality of cameras as a camera selection candidate With candidate extraction means,
The camera selection means selects and determines one camera from the camera selection candidates extracted by the selection candidate extraction means, and determines the current camera when determining one camera from the camera selection candidates. It is configured to check whether or not the previously selected camera is included in the camera selection candidates, and when it is determined that it is included, the same camera as the previous one is determined. The processing status monitoring device according to claim 1.
少なくとも前記工具及びワークを互いに異なる視点から一定時間間隔で撮像してその2次元画像データを順次生成する複数のカメラと、
前記カメラによって生成された2次元画像データを表示する画面表示手段と、
前記加工プログラムによって実行される加工の種別と、前記複数のカメラの内、前記加工中に少なくとも前記ワークによって前記工具の先端が隠れない2次元画像データを生成可能なカメラとを関連付けて記憶するカメラ情報記憶手段と、
前記制御手段から得られる動作指令を基に前記加工の種別を認識する加工種別認識手段と、
前記加工種別認識手段によって認識された加工の種別と、前記カメラ情報記憶手段に格納されたデータとを基に、前記加工の種別に対応したカメラを、前記画面表示手段に表示させるべき2次元画像データを生成するカメラとして選択するカメラ選択手段と、
前記カメラ選択手段によって選択されたカメラにより生成される2次元画像データを前記画面表示手段に表示させるカメラ切換手段とを備えてなることを特徴とする加工状況監視装置。 A machining operation mechanism unit that relatively moves a tool and a workpiece, and a control unit that analyzes a machining program, extracts an operation command of the machining operation mechanism unit, and controls the operation of the machining operation mechanism unit based on the extracted operation command An apparatus for monitoring the machining status of a machine tool equipped with
A plurality of cameras that capture at least the tool and the workpiece from different viewpoints at regular time intervals and sequentially generate two-dimensional image data thereof;
Screen display means for displaying two-dimensional image data generated by the camera;
A camera that associates and stores a type of machining executed by the machining program and a camera that can generate two-dimensional image data in which at least the tip of the tool is not hidden by the workpiece during the machining among the plurality of cameras. Information storage means;
Machining type recognition means for recognizing the type of machining based on an operation command obtained from the control means;
Based on the processing type recognized by the processing type recognition unit and the data stored in the camera information storage unit, a two-dimensional image to be displayed on the screen display unit, a camera corresponding to the processing type Camera selection means for selecting as a camera for generating data;
A processing status monitoring apparatus, comprising: a camera switching unit that causes the screen display unit to display two-dimensional image data generated by the camera selected by the camera selection unit.
前記カメラ選択手段は、前記加工種別認識手段によって認識された加工の種別と、前記カメラ情報記憶手段に格納されたカメラ情報と、前記制御手段から得られる前記工具の位置情報とを基に、前記加工の種別及び工具の位置情報に対応したカメラを、前記画面表示手段に表示させるべき2次元画像データを生成するカメラとして予め設定された時間毎に選択するように構成されてなることを特徴とする請求項3記載の加工状況監視装置。 The camera information storage means is a two-dimensional image in which the tip of the tool is not hidden by at least the workpiece among the plurality of cameras when the tool moves to a position related to the position information of the tool and the position information. It is configured to store camera information associated with a camera capable of generating data for each type of processing,
The camera selection means is based on the machining type recognized by the machining type recognition means, the camera information stored in the camera information storage means, and the tool position information obtained from the control means. It is configured to select a camera corresponding to a processing type and tool position information at a preset time as a camera for generating two-dimensional image data to be displayed on the screen display means. The processing status monitoring device according to claim 3.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010014029A JP5404450B2 (en) | 2010-01-26 | 2010-01-26 | Processing status monitoring device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010014029A JP5404450B2 (en) | 2010-01-26 | 2010-01-26 | Processing status monitoring device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011154436A true JP2011154436A (en) | 2011-08-11 |
JP5404450B2 JP5404450B2 (en) | 2014-01-29 |
Family
ID=44540371
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010014029A Active JP5404450B2 (en) | 2010-01-26 | 2010-01-26 | Processing status monitoring device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5404450B2 (en) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102581763A (en) * | 2012-02-21 | 2012-07-18 | 厦门大学 | Automatic tool setting system for ultra-precision grinding machine |
CN103676784A (en) * | 2012-09-24 | 2014-03-26 | 发那科株式会社 | Numerical controller having function of manipulating video camera by using G-code command |
EP3348350A1 (en) * | 2017-01-16 | 2018-07-18 | Nakamura-Tome Precision Industry Co., Ltd | Machine tool with camera |
US10377009B2 (en) | 2016-12-15 | 2019-08-13 | Nakamura-Tome Precision Industry Co., Ltd. | Machine tool |
CN111002101A (en) * | 2018-10-05 | 2020-04-14 | 大隈株式会社 | Machine tool |
CN113369796A (en) * | 2021-05-26 | 2021-09-10 | 上海御建装饰设计工程有限公司 | Intelligent automatic tracking and monitoring system for cultural relic restoration |
US11409258B2 (en) | 2019-02-28 | 2022-08-09 | Fanuc Corporation | Information processing device and information processing method |
US11449035B2 (en) | 2019-02-28 | 2022-09-20 | Fanuc Corporation | Information processing device and information processing method |
US11733670B2 (en) * | 2019-02-28 | 2023-08-22 | Fanuc Corporation | Information processing device and information processing method |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06250730A (en) * | 1993-03-01 | 1994-09-09 | Nissan Motor Co Ltd | Teaching device for industrial robot |
JP2002268721A (en) * | 2001-03-14 | 2002-09-20 | Olympus Optical Co Ltd | Maintenance diagnostic method and its system |
JP2003022108A (en) * | 2001-07-10 | 2003-01-24 | Yamazaki Mazak Corp | Abnormality management device of machine tool |
-
2010
- 2010-01-26 JP JP2010014029A patent/JP5404450B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06250730A (en) * | 1993-03-01 | 1994-09-09 | Nissan Motor Co Ltd | Teaching device for industrial robot |
JP2002268721A (en) * | 2001-03-14 | 2002-09-20 | Olympus Optical Co Ltd | Maintenance diagnostic method and its system |
JP2003022108A (en) * | 2001-07-10 | 2003-01-24 | Yamazaki Mazak Corp | Abnormality management device of machine tool |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102581763A (en) * | 2012-02-21 | 2012-07-18 | 厦门大学 | Automatic tool setting system for ultra-precision grinding machine |
CN103676784A (en) * | 2012-09-24 | 2014-03-26 | 发那科株式会社 | Numerical controller having function of manipulating video camera by using G-code command |
JP2014063434A (en) * | 2012-09-24 | 2014-04-10 | Fanuc Ltd | Numerical control device having function to operate video camera according to g code command |
CN103676784B (en) * | 2012-09-24 | 2015-10-07 | 发那科株式会社 | Possesses the numerical control device of the function according to G code command operating video camera |
US10377009B2 (en) | 2016-12-15 | 2019-08-13 | Nakamura-Tome Precision Industry Co., Ltd. | Machine tool |
EP3348350A1 (en) * | 2017-01-16 | 2018-07-18 | Nakamura-Tome Precision Industry Co., Ltd | Machine tool with camera |
CN111002101A (en) * | 2018-10-05 | 2020-04-14 | 大隈株式会社 | Machine tool |
JP2020060828A (en) * | 2018-10-05 | 2020-04-16 | オークマ株式会社 | Machine tool |
JP7100555B2 (en) | 2018-10-05 | 2022-07-13 | オークマ株式会社 | Machine Tools |
CN111002101B (en) * | 2018-10-05 | 2023-11-03 | 大隈株式会社 | machine tool |
US11409258B2 (en) | 2019-02-28 | 2022-08-09 | Fanuc Corporation | Information processing device and information processing method |
US11449035B2 (en) | 2019-02-28 | 2022-09-20 | Fanuc Corporation | Information processing device and information processing method |
US11733670B2 (en) * | 2019-02-28 | 2023-08-22 | Fanuc Corporation | Information processing device and information processing method |
CN113369796A (en) * | 2021-05-26 | 2021-09-10 | 上海御建装饰设计工程有限公司 | Intelligent automatic tracking and monitoring system for cultural relic restoration |
Also Published As
Publication number | Publication date |
---|---|
JP5404450B2 (en) | 2014-01-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5404450B2 (en) | Processing status monitoring device | |
JP5337636B2 (en) | Machining status monitoring method and machining status monitoring device | |
JP5384178B2 (en) | Machining simulation method and machining simulation apparatus | |
JP5465957B2 (en) | Machining state confirmation method and machining state confirmation apparatus | |
CN104570929B (en) | A kind of lathe | |
EP3214514A1 (en) | Machine tool control method and machine tool control device | |
JP2006004128A (en) | Interference confirmation device | |
US20130076287A1 (en) | Numerical controller having display function for trajectory of tool | |
JP6144596B2 (en) | Display device | |
JP5945132B2 (en) | Lathe with machining status display device | |
EP2915626B1 (en) | Processing program generation method and device | |
JP6719790B1 (en) | Automatic operation device for machining center based on CAD data | |
JP2016157400A (en) | Numerical control device for performing axial control of machine tool by touch panel | |
US10191460B2 (en) | Control device for machine tool | |
CN105658375B (en) | Machine tooling line | |
JP5530204B2 (en) | Processing status monitoring device | |
JP6656387B2 (en) | Machine tool with display device | |
JP2009278029A (en) | Dicing apparatus | |
JP6709210B2 (en) | Machine Tools | |
JP7120894B2 (en) | 3D model creation device, machining simulation device, automatic tool path generation device | |
KR20100135513A (en) | Numerical control system having graphic-based user interface | |
JP5167767B2 (en) | Machine tool interference detection device | |
WO2020065854A1 (en) | Workpiece position detecting method and machine tool | |
JP6915182B1 (en) | Machine tools, machine tool control methods, and machine tool control programs | |
KR20190021510A (en) | Method for setting anti-collision zone of machining center during operation of based by virtual machine |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20121105 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131010 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131017 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131029 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5404450 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |