WO2023188889A1 - 自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法 - Google Patents

自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法 Download PDF

Info

Publication number
WO2023188889A1
WO2023188889A1 PCT/JP2023/004866 JP2023004866W WO2023188889A1 WO 2023188889 A1 WO2023188889 A1 WO 2023188889A1 JP 2023004866 W JP2023004866 W JP 2023004866W WO 2023188889 A1 WO2023188889 A1 WO 2023188889A1
Authority
WO
WIPO (PCT)
Prior art keywords
welding
image data
molten pool
feature points
data
Prior art date
Application number
PCT/JP2023/004866
Other languages
English (en)
French (fr)
Inventor
圭太 尾崎
達也 吉本
尚英 古川
Original Assignee
株式会社神戸製鋼所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社神戸製鋼所 filed Critical 株式会社神戸製鋼所
Publication of WO2023188889A1 publication Critical patent/WO2023188889A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K31/00Processes relevant to this subclass, specially adapted for particular articles or purposes, but not covered by only one of the preceding main groups
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K9/00Arc welding or cutting
    • B23K9/095Monitoring or automatic control of welding parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K9/00Arc welding or cutting
    • B23K9/10Other electric circuits therefor; Protective circuits; Remote controls
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K9/00Arc welding or cutting
    • B23K9/12Automatic feeding or moving of electrodes or work for spot or seam welding or cutting
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K9/00Arc welding or cutting
    • B23K9/12Automatic feeding or moving of electrodes or work for spot or seam welding or cutting
    • B23K9/127Means for tracking lines during arc welding or cutting

Definitions

  • the present invention relates to a welding control method, a control device, a welding system, a program, and a welding method for automatic welding.
  • the welding location that is difficult to weld includes, for example, welding of the first layer of single-sided welding in which the root portion must be bridged with molten metal for welding.
  • Postures in which welding is difficult include horizontal, vertical, and upward postures, which are generally referred to as difficult postures.
  • Patent Document 1 can be mentioned as a conventional technique that makes an automatic welding system possible.
  • Patent Document 1 in a horizontally extending groove formed between two vertically aligned members to be welded, when the welding progress direction is the front direction, the welding torch is moved in the front downward direction and the rear upward direction.
  • a welding robot that performs arc welding while alternately weaving, a camera that photographs the arc and molten pool generated in the groove due to arc welding, and a camera that detects the position of the tip of the molten pool in the camera image taken by the camera.
  • the system includes a determination unit that determines the amount of correction for the welding speed based on the distance, which enables welding on one side and in a horizontal position. At times, configurations have been disclosed that allow automatic welding.
  • the present invention provides a welding control method, a control device, a welding system, a program, and a welding method for automatic welding, which can ensure welding quality and improve welding work efficiency even under welding conditions where disturbances occur.
  • the purpose is to provide
  • the present invention has the following configuration. That is, a welding control method for welding that forms a molten pool, an acquisition step of acquiring image data including the molten pool; a specifying step of identifying a plurality of characteristic points near the boundary between the molten pool and the unfused portion at least on the welding direction side based on the acquired image data; a calculation step of calculating geometric quantity data based on information on the plurality of feature points; a determination step of determining whether or not welding is appropriate based on the geometric quantity data and a predetermined threshold; a correction step of correcting welding conditions based on the determination result in the determination step; has.
  • a control device that controls welding conditions for welding to form a molten pool, an acquisition unit that acquires image data including the molten pool; a specifying unit that specifies a plurality of characteristic points near the boundary between the molten pool and the unfused portion at least on the welding direction side based on the acquired image data; a calculation unit that calculates geometric quantity data based on information on the plurality of feature points; a determination unit that determines whether or not welding is appropriate based on the geometric quantity data and a predetermined threshold; a correction unit that corrects welding conditions based on the determination result by the determination unit; has.
  • a welding system including a control device that controls welding conditions for welding to form a molten pool
  • the control device includes: an acquisition unit that acquires image data including the molten pool; a specifying unit that specifies a plurality of characteristic points near the boundary between the molten pool and the unfused portion at least on the welding direction side based on the acquired image data; a calculation unit that calculates geometric quantity data based on information on the plurality of feature points; a determination unit that determines whether or not welding is appropriate based on the geometric quantity data and a predetermined threshold; a correction unit that corrects welding conditions based on the determination result by the determination unit; has.
  • the program is to the computer, an acquisition step of acquiring image data including a molten pool generated during welding; a specifying step of identifying a plurality of characteristic points near the boundary between the molten pool and the unfused portion at least on the welding direction side based on the acquired image data; a calculation step of calculating geometric quantity data based on information on the plurality of feature points; a determination step of determining whether or not welding is appropriate based on the geometric quantity data and a predetermined threshold; a correction step of correcting welding conditions based on the determination result in the determination step; Execute.
  • the welding method has a control step of performing welding using welding conditions corrected by the welding control method
  • the control method includes: an acquisition step of acquiring image data including the molten pool; a specifying step of identifying a plurality of characteristic points near the boundary between the molten pool and the unfused portion at least on the welding direction side based on the acquired image data; a calculation step of calculating geometric quantity data based on information on the plurality of feature points; a determination step of determining whether or not welding is appropriate based on the geometric quantity data and a predetermined threshold; a correction step of correcting welding conditions based on the determination result in the determination step; has.
  • FIG. 1 is a schematic diagram showing a configuration example of a welding system according to an embodiment of the present invention.
  • 1 is a schematic diagram showing a configuration example of a portable welding robot according to an embodiment of the present invention.
  • 1 is a schematic diagram showing a configuration example of a portable welding robot according to an embodiment of the present invention.
  • 1 is a schematic diagram showing a configuration example of a welding torch according to an embodiment of the present invention.
  • FIG. 1 is a perspective view for explaining the arrangement of a visual sensor according to an embodiment of the present invention.
  • FIG. 2 is an example diagram showing an example of image data acquired by a visual sensor according to an embodiment of the present invention.
  • 1 is a block diagram showing a configuration example of a data processing device according to an embodiment of the present invention.
  • FIG. 3 is a conceptual diagram for explaining learning processing according to an embodiment of the present invention.
  • FIG. 3 is a schematic diagram for explaining an example of a screen used for teaching work according to an embodiment of the present invention.
  • FIG. 3 is a schematic diagram for explaining an example of a screen used for teaching work according to an embodiment of the present invention.
  • FIG. 4 is an example diagram for explaining an analysis result of a welding image according to an embodiment of the present invention.
  • FIG. 4 is an example diagram for explaining an analysis result of a welding image according to an embodiment of the present invention.
  • FIG. 4 is an example diagram for explaining misalignment according to an embodiment of the present invention.
  • FIG. 3 is a schematic diagram for explaining the characteristic points of the tip inclination angle according to an embodiment of the present invention.
  • FIG. 3 is a graph diagram for explaining the analysis results of welding images according to an embodiment of the present invention.
  • 5 is a flowchart of processing according to an embodiment of the present invention.
  • FIG. 7 is an example diagram for explaining an analysis result of a welding image according to a second embodiment of the present invention.
  • FIG. 7 is an example diagram for explaining an analysis result of a welding image according to a second embodiment of the present invention.
  • 7 is a flowchart of abnormality determination processing according to the second embodiment of the present invention.
  • FIG. 7 is a graph diagram showing an example of time-series data according to the second embodiment of the present invention.
  • FIG. 7 is a graph diagram showing an example of determination results according to the second embodiment of the present invention.
  • FIG. 7 is a graph diagram showing an example of determination results according to the second embodiment of the present invention.
  • arc welding will be used as an example, but since all methods have the characteristic of forming a molten pool, the present invention is not limited to arc welding, but can be applied to various welding methods such as laser welding and electron beam welding. Can be applied. Further, in this embodiment, for the purpose of clearly demonstrating the effects of the present invention, the first layer welding of single-sided welding and the horizontal position are selected as the welding positions and positions where welding is difficult, but the present invention is not limited to these. There are no particular restrictions on the welding location or welding position.
  • the image data includes at least a "molten pool” as an object related to welding information, and feature points related to the "molten pool” are extracted.
  • feature points are extracted using a learning device, as described later.
  • “learning” or “machine learning” refers to generating a "trained model” by performing learning using learning data and an arbitrary learning algorithm.
  • a trained model is updated from time to time as learning progresses using multiple pieces of training data, and its output changes even with the same input. Therefore, the learned model does not limit the state at any point in time.
  • a model used in learning is referred to as a "learning model,” and a learning model that has been trained to a certain degree is referred to as a “trained model.”
  • the learning data may include teacher data used for learning itself, verification data used for verifying the trained model, and test data used for testing the trained model.
  • teacher data when data related to learning is indicated comprehensively, it is written as "learning data”, and when data used for learning itself is indicated, it is written as "teacher data”. Note that it is not intended to clearly classify the training data, validation data, and test data included in the training data; for example, depending on the learning, verification, and testing methods, all training data may also be included in the training data. It can be.
  • FIG. 1 is a schematic diagram showing a configuration example of a welding system according to this embodiment.
  • the welding system 50 includes a portable welding robot 100, a feeding device 300, a welding power source 400, a shielding gas supply source 500, a robot control device 600, a visual sensor 700, and a data processing device 800. configured.
  • a welding device having a drive unit such as a truck, or a semi-automatic welding device
  • additional configurations may be included in accordance with those configurations. It's fine.
  • the robot control device 600 is connected to the portable welding robot 100 by a robot control cable 610 and to the welding power source 400 by a power source control cable 620.
  • the robot control device 600 has a data holding unit 601 that holds teaching data that predetermines the operation pattern, welding start position, welding end position, construction conditions, welding conditions, etc. of the portable welding robot 100. Based on this, commands are sent to the portable welding robot 100 and the welding power source 400 to control the operation of the portable welding robot 100 and welding conditions.
  • the robot control device 600 also includes a groove shape information calculation unit 602 that calculates groove shape information from detection data obtained by sensing, which will be described later, and a groove shape information calculation unit 602 that corrects the welding conditions of the teaching data based on the groove shape information. and a welding condition acquisition unit 603 that acquires the welding conditions.
  • the groove shape information calculation section 602 and the welding condition acquisition section 603 constitute a control section 604.
  • the robot control device 600 is integrally formed with a controller (hereinafter also referred to as a "teaching pendant") for performing teaching and manual operation of the portable welding robot 100, and a controller having other control functions.
  • a controller hereinafter also referred to as a "teaching pendant" for performing teaching and manual operation of the portable welding robot 100
  • the controller may be divided into a plurality of parts depending on the role, such as a teaching pendant and a controller with other control functions, or the robot controller 600 may be included in the portable welding robot 100. Note that from the viewpoint of usability at a welding site, it is preferable to divide the controller into two: a controller for performing teaching and manual operation of the portable welding robot 100, and a controller having other control functions.
  • the controller is divided into two parts: a teaching pendant and a controller having other control functions, and the teaching pendant (not shown) and the robot control device 600 are connected by a communication cable.
  • the signals are sent using the robot control cable 610 and the power supply control cable 620, but the signals are not limited to this, and may be sent wirelessly.
  • the welding power source 400 generates an arc between the welding wire 211 and the workpiece Wo by supplying power to the welding wire 211, which is a consumable electrode, and the workpiece Wo according to a command from the robot control device 600.
  • Power from welding power source 400 is sent to feeder 300 via power cable 410, and from feeder 300 to welding torch 200 via conduit tube 420.
  • power from the welding power source 400 is supplied to the welding wire 211 via a contact tip at the tip of the welding torch 200.
  • the current during welding work may be direct current or alternating current, and its waveform is not particularly limited. Therefore, the current may be a pulse such as a rectangular wave or a triangular wave.
  • the welding power source 400 is connected to the welding torch 200 side with a power cable 410 as a positive electrode, and connected to the workpiece Wo with a power cable 430 as a negative electrode, for example. Note that this is the case when welding is performed with reverse polarity, and when welding is performed with positive polarity, the power cable of the positive electrode is connected to the workpiece Wo side, and the power cable of the negative electrode is connected to the welding torch 200 side. That's fine.
  • the shielding gas supply source 500 is comprised of incidental members such as a container filled with shielding gas and a valve. From shielding gas supply 500, shielding gas is delivered to delivery device 300 via gas tube 510. The shielding gas sent to the feeding device 300 is sent to the welding torch 200 via the conduit tube 420. The shielding gas sent to the welding torch 200 flows inside the welding torch 200, is guided by the nozzle 210, and is ejected from the tip side of the welding torch 200.
  • the shielding gas used in this embodiment for example, argon (Ar), carbon dioxide gas (CO 2 ), or a mixture thereof can be used, but it is preferable to weld with 100% CO 2 gas. .
  • a conductive path for functioning as a power cable is formed on the outer skin side of the tube, a protection tube for protecting the welding wire 211 is arranged inside the tube, and a flow path for shielding gas is formed. It is formed.
  • the conduit tube 420 is not limited to this.
  • the conduit tube 420 may be used to bundle power supply cables and shielding gas supply hoses around a protection tube for feeding the welding wire 211 to the welding torch 200. You can also use a different one.
  • the welding wire 211 and the tube for sending the shielding gas and the power cable can be installed separately.
  • Feeding device 300 feeds out welding wire 211 and sends it to welding torch 200 .
  • the welding wire 211 sent by the feeding device 300 is not particularly limited, and is selected depending on the properties of the workpiece Wo, the welding form, etc., and for example, a solid wire or a flux-cored wire is used.
  • the wire diameter of the welding wire is not particularly limited, but in this embodiment, the preferred wire diameter is an upper limit of 1.6 mm and a lower limit of 0.9 mm.
  • a conductive path for functioning as a power cable is formed on the outer skin side of the tube, a protection tube for protecting the welding wire 211 is arranged inside the tube, and a flow path for shielding gas is formed. It is formed.
  • the conduit tube 420 is not limited to this.
  • the conduit tube 420 may be used to bundle power supply cables and shielding gas supply hoses around a protection tube for feeding the welding wire 211 to the welding torch 200. You can also use a different one.
  • the welding wire 211 and the tube for sending the shielding gas and the power cable can be installed separately.
  • the portable welding robot 100 includes a guide rail 120, a robot body 110 that is installed on the guide rail 120 and moves along the guide rail 120, and a robot body 110 that is placed on the robot body 110. and a torch connection part 130.
  • the robot main body 110 mainly includes a main body section 112 installed on a guide rail 120, a fixed arm section 114 attached to the main body section 112, and a fixed arm section 114 attached to the fixed arm section 114 so as to be rotatable in the direction of arrow R1. and a welding torch rotation drive section 116.
  • the torch connecting section 130 is attached to the welding torch rotation drive section 116 via a sliding table 169 and a crank 170.
  • the torch connection section 130 includes a torch clamp 132 and a torch clamp 134 for fixing the welding torch 200.
  • a cable clamp 150 that supports a conduit tube 420 connecting the feeding device 300 and the welding torch 200 is provided on the main body portion 112 on the side opposite to the side on which the welding torch 200 is attached.
  • a voltage is applied between the workpiece Wo and the welding wire 211, and the surface of the groove 10, etc. is sensed by utilizing the voltage drop phenomenon that occurs when the welding wire 211 contacts the workpiece Wo.
  • a touch sensor is used as the detection means.
  • the detection means is not limited to the touch sensor of this embodiment, and an image sensor, a laser sensor, etc., or a combination of these detection means may be used, but it is preferable to use the touch sensor of this embodiment due to the simplicity of the device configuration. preferable.
  • the main body part 112 of the robot main body 110 moves the robot main body 110 along the guide rail 120 in the X-axis direction, which is perpendicular to the plane of the paper and corresponds to the welding line direction, as shown by the arrow X in FIG.
  • An X-axis moving mechanism 181 is provided.
  • the main body part 112 connects the fixed arm part 114 to the main body part 112 via the slide support part 113 in the Y-axis, which is the width direction of the groove 10 perpendicular to the X-axis direction and the Z-axis direction.
  • a Y-axis moving mechanism 182 is provided for moving in the direction.
  • the main body 112 includes a Z-axis moving mechanism 183 that moves the robot main body 110 in the depth direction of the groove 10 that is perpendicular to the X-axis direction.
  • the sliding table 169 to which the torch connection section 130 is attached, the crank 170, and the welding torch rotation drive section 116 are an approximate linear movement mechanism that moves the tip of the welding wire 211 along an approximate straight line. 180.
  • a crank 170 is fixed to a rotating shaft 168 of a motor (not shown) fixed to the welding torch rotation drive unit 116, and the tip of the crank 170 is connected to one end of a sliding table 169 by a connecting pin 171.
  • the sliding table 169 has a long groove 169a in the middle thereof, and a fixing pin 172 fixed to the welding torch rotation drive section 116 is slidably fitted into the long groove 169a.
  • the mechanism for moving in the X-axis direction includes the above-mentioned X-axis moving mechanism 181 and the approximate linear moving mechanism 180.
  • the X-axis moving mechanism 181 When moving in the X-axis direction by the approximate linear movement mechanism 180, it is indicated as "XA-axis direction", and when moving in the X-axis direction by the approximate linear movement mechanism 180, it is indicated as "XB-axis direction”. If neither mechanism is particularly important, simply This will be described as "X-axis direction”.
  • the welding torch rotation drive section 116 is rotatably attached to the fixed arm section 114, as shown by arrow R1 in FIG. 2, and can be adjusted and fixed at an optimal angle.
  • the robot main body 110 moves the welding torch 200, which is the tip thereof, in three directions, that is, the X-axis direction, the Y-axis direction, and the Z-axis direction, using four degrees of freedom, that is, an approximate linear movement mechanism. 180, an X-axis moving mechanism 181, a Y-axis moving mechanism 182, and a Z-axis moving mechanism 183.
  • the robot main body 110 is not limited to this, and may be movable with any number of degrees of freedom depending on the application.
  • the tip of the welding wire 211 of the welding torch 200 attached to the torch connection part 130 can be directed in any direction. That is, the robot main body 110 can be driven on the guide rail 120 in the X-axis direction. Further, the welding torch 200 can be driven in the Y-axis direction, which is the width direction of the groove 10, or in the Z-axis direction, which is the depth direction of the groove 10. Furthermore, by driving by the crank 170, the welding torch 200 can be tilted depending on the construction situation, such as setting an advancing angle or a receding angle, which will be described later.
  • An attachment member 140 such as a magnet is provided below the guide rail 120, and the guide rail 120 is configured to be easily attached to and detached from the workpiece Wo by the attachment member 140.
  • the operator can easily set the portable welding robot 100 on the workpiece Wo by grasping both side handles 160 of the portable welding robot 100.
  • the visual sensor 700 is configured by, for example, a CCD (Charge Coupled Device) camera.
  • the position of the visual sensor 700 is not particularly limited, and the visual sensor 700 may be directly attached to the portable welding robot 100, or may be fixed at a specific location in the vicinity as a monitoring camera. When the visual sensor 700 is directly attached to the portable welding robot 100, the visual sensor 700 moves so as to photograph the area around the tip of the welding torch 200 in conjunction with the movement of the portable welding robot 100.
  • the number of cameras configuring the visual sensor 700 may be plural.
  • the visual sensor 700 may be configured using a plurality of cameras with different functions and installation positions.
  • the direction in which images are taken by the visual sensor 700 is not particularly limited.
  • the camera may be arranged so that the front side is photographed, or the side and rear sides are photographed. Therefore, the photographing range by the visual sensor 700 may be determined as appropriate.
  • the photographing range by the visual sensor 700 may be determined as appropriate.
  • the photographed image is transmitted to the data processing device 800 and used on the data processing device 800 side.
  • the data processing device 800 may capture arbitrary images at predetermined intervals from among the captured images and use them for processing to be described later.
  • the capture method and capture settings here may be switched depending on, for example, the configuration and function of the visual sensor 700, the performance of the data processing device 800, and the like.
  • a visual sensor 700 that is directly attached and fixed to the portable welding robot 100 is used, and the objects (targets) included in the image data are a shooting range that includes at least the workpiece W, the welding wire 211, and the arc.
  • a moving image is taken as a welding image so that the welding image is displayed.
  • various shooting settings related to welding images may be defined in advance, or may be switched depending on the operating conditions of the welding system 50. Examples of shooting settings include frame rate, number of pixels of an image, resolution, shutter speed, and the like.
  • the parts constituting the welding system 50 are communicably connected using various wired/wireless communication methods.
  • the communication method here is not limited to one, and connection may be made by combining a plurality of communication methods.
  • FIG. 5 is a perspective view for explaining the arrangement position of the visual sensor 700.
  • the workpiece W is a butt joint.
  • the workpiece W is two metal plates that are butted against each other with a groove in between.
  • a horizontal posture is taken as an example, and in this case, the workpiece on the upper plate side is W1 (hereinafter referred to as upper plate W1), and the workpiece on the lower plate side is W2 (hereinafter referred to as lower plate W2).
  • W1 workpiece on the upper plate side
  • W2 hereinafter referred to as lower plate W2
  • a ceramic backing material 14 is attached to the back sides of the two metal plates that are butted against each other.
  • a metal backing material may be used on the back side, or no backing material may be used. Therefore, the material of the backing material is not particularly limited, and may vary depending on the material of the workpiece W and the like.
  • welding direction the direction in which welding progresses. Therefore, welding torch 200 is located behind visual sensor 700.
  • FIG. 6 is an example of image data captured and acquired by the visual sensor 700.
  • Each image data in FIG. 6 has coordinates, and forms a coordinate plane consisting of two axes, the X axis and the Y axis.
  • the X-axis indicates the welding direction
  • the Y-axis indicates the direction perpendicular to the X-axis.
  • the imaging range of the visual sensor 700 includes the welding position of the workpiece W, and images the welding position during arc welding. This image includes the molten pool, welding wire 211, and arc.
  • Image 611 shows an example of image data taken in the case of downward welding.
  • Image 612 shows an example of image data taken in the case of horizontal welding. In the case of image 612, an example is shown in which welding progresses from left to right in the image along the X axis.
  • the visual sensor 700 in this embodiment can, for example, continuously capture still images of 1024 ⁇ 768 pixels.
  • visual sensor 700 can capture a welding image as a moving image.
  • the resolution of still images that can be captured by visual sensor 700 is not particularly limited.
  • each of the plurality of cameras may acquire welding images with different resolutions.
  • preprocessing such as cutting out an arbitrary characteristic region from a captured welding image may be performed for the purpose of shortening processing time.
  • Any feature region may be a fixed size range arranged such that a predetermined region is located at the center.
  • the size of any characteristic region may be changed depending on the welding situation.
  • FIG. 7 is an explanatory diagram for explaining a configuration example of the data processing device 800.
  • Data processing device 800 is composed of, for example, a computer.
  • the computer includes a main body 810, an input section 820, and a display section 830.
  • the main body 810 includes a CPU 811, a GPU (Graphical Processing Unit) 812, a ROM 813, a RAM 814, a nonvolatile storage device 815, an input/output interface 816, a communication interface 817, a video output interface 818, and a calculation unit 819.
  • the CPU 811, GPU 812, ROM 813, RAM 814, nonvolatile storage device 815, input/output interface 816, communication interface 817, video output interface 818, and calculation unit 819 are communicably connected to each other via a bus or signal line.
  • the nonvolatile storage device 815 stores a learning program 815A that executes deep learning using predetermined learning data, a learned model 815B generated through execution of the learning program 815A, and welding information related to welding using the learned model 815B.
  • An information generation program 815C to be generated and image data 815D are stored.
  • an operating system and application programs are also installed in the nonvolatile storage device 815.
  • the data processing device 800 By executing programs by the CPU 811 and GPU 812, the data processing device 800 realizes various functions. In the case of this embodiment, the data processing device 800 realizes a function of generating a learned model by machine learning and a function of performing various processes during actual welding using the learned model. The contents of this function will be described later. Note that the data processing device 800 may be divided into two functions: a function of generating a learned model and a function of executing control processing based on information output from the learned model during actual welding. From the viewpoint of versatility, it is more preferable to separate the data processing apparatus 800 according to each function.
  • the GPU 812 is used as an arithmetic device when executing the learning program 815A and the information generation program 815C.
  • the ROM 813 stores a BIOS (Basic Input Output System) and the like executed by the CPU 811.
  • BIOS Basic Input Output System
  • RAM 814 is used as a work area for programs read from nonvolatile storage device 815.
  • the input/output interface 816 is connected to an input section 820 consisting of a keyboard, mouse, etc.
  • a visual sensor 700 is also connected to the input/output interface 816 .
  • Image data output from the visual sensor 700 is provided to the CPU 811 via an input/output interface 816.
  • Communication interface 817 is a communication module for wired or wireless communication.
  • the video output interface 818 is connected to a display section 830 configured with, for example, a liquid crystal display or an organic EL (Electro-Luminescence) display, and outputs a video signal according to the video data given from the CPU 811 to the display section 830.
  • the calculation unit 819 cooperates with the CPU 811 and the GPU 812 to execute various processes according to the present embodiment. Details of the processing by the calculation unit 819 will be described later.
  • FIG. 8 is a diagram conceptually explaining the process of generating a learned model 815B through learning processing.
  • the trained model 815B in this embodiment is configured by a convolutional neural network, and includes multiple convolutional layers and multiple pooling layers. Note that the configuration of the convolutional neural network is not limited to the above, and the number of layers and configuration may be other configurations.
  • the trained model 815B receives image data output from the visual sensor 700 and outputs feature points related to various welding information appearing in the image data.
  • the image data input to the learned model 815B includes at least a molten pool, a welding wire, and an arc as objects (objects), and each of these objects or a plurality of Extract feature points obtained from between objects. Based on the extracted feature points, it is possible to obtain welding information such as arc stability, amount of welding, arc tracing status, penetration level, etc. in real time. Note that this image data may hereinafter be referred to as a welding image.
  • the characteristic points related to welding information include the tip of the welding wire 211 (wire tip), the center point of the arc (arc center), the positions of the left and right (or top and bottom) tips of the molten pool, and the positions of the left and right (or top and bottom) tips of the molten pool. or top and bottom) end positions.
  • Input of feature points to be used as teaching data is performed by an operator specifying a specific position on a welding image according to instructions on an operation screen that supports teaching work. Therefore, the teacher data is configured as a pair of a welding image and a feature point designated by the operator as coordinate information as welding information.
  • the welding information output from the learning model is compared with the welding information included in the teacher data, and the errors are fed back to adjust the parameters. Learning progresses by repeating this process.
  • FIG. 9 is a diagram illustrating an example of a screen used for teaching work.
  • the welding image shown in FIG. 9 includes a molten pool 15, a welding wire 211, and an arc 16.
  • the molten pool 15 is shown by hatching. Note that "right end” and “left end” in FIG. 9 merely indicate left and right in the image, and may be replaced with “upper end”, “lower end”, etc., depending on the welding posture and the orientation of the image.
  • FIG. 10 is an explanatory diagram showing a specific example of a welding image obtained by welding in a horizontal position and an example of welding information within the welding image.
  • positions corresponding to the coordinates indicated by the feature points are drawn and shown on the welding image.
  • the image has coordinates, and is a coordinate plane consisting of two axes, the X axis and the Y axis.
  • the visual sensor 700 is installed so that the welding line direction and the X-axis direction are parallel, so in this embodiment, the X-axis direction may also be referred to as the welding line direction.
  • the Y-axis direction is a direction perpendicular to the X-axis, and in other words, it is the groove width direction which is a direction perpendicular to the weld line, so the Y-axis direction may also be referred to as the groove width direction.
  • the X-axis along which the portable robot moves in this embodiment is in the direction of the welding line, so the X-axis along which the portable robot moves is in the same direction as the X-axis on the welding image, and the portable robot also moves in the Y-axis direction. It can be said that the Y-axis and the Y-axis direction on the welding image are also the same.
  • the characteristic points include the coordinate position of the arc center (ArcX, ArcY), the coordinate position of the wire tip (WireX, WireY), the coordinate position below the tip of the molten pool (Pool_Lead_Lx, Pool_Lead_Ly), and the coordinate position on the tip of the molten pool.
  • the coordinate position (Pool_Lead_Rx, Pool_Lead_Ry), the coordinate position of the lower end of the molten pool (Pool_Ly), and the coordinate position of the upper end of the molten pool (Pool_Ry) are taught by the operator. Input of feature points is performed by an operator instructing a specific position on the screen.
  • the coordinates that define the boundary between the welding wire 211 and the arc are an example of the positional coordinates of the tip of the wire.
  • the lower end of the molten pool, the upper end of the molten pool, the lower end of the molten pool, and the upper end of the molten pool are examples of characteristic points regarding the behavior of the molten pool 15. For example, if the characteristic points of the lower end and the upper end of the molten pool are known, the width of the molten pool 15 can be calculated.
  • this geometric quantity data is calculated, the geometric quantity data is sampled at predetermined intervals, and automatic welding control, which will be described later, is performed based on the sampling data.
  • this sampling data will also be referred to as time series data hereinafter.
  • the number of samplings per unit time may be the same as the number of frames per second (fps) of the image, and may be thinned out as necessary. This will be explained in detail based on the welding images shown in FIGS. 11 and 12.
  • the coordinate position below the tip of the molten pool (Pool_Lead_Lx, Pool_Lead_Ly), the coordinate position on the tip of the molten pool (Pool_Lead_Rx, Pool_Lead_Ry), and the coordinate position of the tip of the wire (WireX, WireY) are used.
  • the calculation of LeadX is based on the coordinate position on the tip of the molten pool and the coordinate position of the tip of the wire, as described below, but the molten pool tip position is not limited to the upper side, and depending on the purpose, A coordinate position below the tip of the molten pool may be used.
  • the calculation unit 819 calculates the difference in the X-axis direction between the coordinate position on the tip of the molten pool and the coordinate position on the tip of the wire ("Pool_Lead_Rx" - “WireX”). Further, LeadW is calculated as the difference in the Y-axis direction between the coordinate position of the upper end of the molten pool and the coordinate position of the lower end of the molten pool (“Pool_Lead_Ry” ⁇ “Pool_Lead_Ly”).
  • the distance to be calculated may be the number of pixels, or may be converted into an arbitrary unit such as "mm” or "cm”.
  • the example in FIG. 11 shows an example in which LeadX is detected as 5.2 [mm] and LeadW is detected as 5.0 [mm].
  • time-series data of Lead By taking time-series data of Lead Then, automatic control is performed to return to a steady state. Note that time-series data of LeadX and LeadW, which are geometric quantity data, may be displayed on a monitor for monitoring.
  • the "tip inclination angle" which is the geometric quantity data is determined by the coordinate position below the tip of the molten pool and the coordinate position above the tip of the molten pool, and the coordinate positions (Pool_Lead_Rx (upper plate side X), Pool_Lead_Ly (lower plate side Calculate the angle based on Y)).
  • the method for calculating the angle is not particularly limited, but may be calculated using trigonometric functions, for example.
  • the time series data of the "tip inclination angle" allows the influence of disturbance to be determined, and automatic control is performed to alleviate the influence of disturbance. That is, in this embodiment, at least automatic control for stabilizing welding and automatic control for mitigating the influence of disturbances are performed.
  • the geometrical quantities calculated in this embodiment may vary more widely when welding is applied to welding, leading to variations in the calculated values of the geometrical quantities. There is. Therefore, in this embodiment, when applying weaving, in order to suppress the negative effects of this weaving, measurements are performed at a predetermined number of samplings within a range moving from a predetermined weaving end point to the other end point. It is preferable to do so. In other words, the sampling timing and sampling number of image data for calculating the geometric quantity may be determined in consideration of the weaving period. Note that among objects, the influence of weaving is particularly noticeable on the molten pool, and it can be said that it is particularly useful when using the "tip inclination angle" as the geometric quantity as in this embodiment.
  • the geometric quantity data of LeadX and LeadW are calculated as an example, but the present invention is not limited to this.
  • obtained from a single object (1) coordinate position of a single or multiple feature points, (2) distance between any multiple feature points, (3) formed by any multiple feature points. Any of the areas may be treated as geometric quantity data.
  • (4) sampling of distances between corresponding feature points of each object obtained from different objects may be treated as geometric quantity data.
  • the geometric quantity data of ArcX and ArcY which are the coordinate positions of the center of the arc.
  • the stability of the arc can be determined.
  • the distance between any plurality of feature points may be the above-mentioned LeadW obtained from the molten pool object.
  • the area formed by a plurality of arbitrary feature points for example, the area of a molten pool can be used, and the amount of welding can be evaluated.
  • the distance between the feature points of each object is determined by the above-mentioned Lead Examples include time series data such as distance.
  • Geometric data consisting of the distance between the wire tip position and the molten pool center position can be applied to weld line tracing. Moreover, the geometric quantity data consisting of the distance between the groove and the tip of the molten pool can be applied to the determination of penetration.
  • FIG. 13 is an example diagram for explaining misalignment in horizontal welding.
  • FIG. 13 shows an example in which the upper plate is located closer to the welding torch 200 than the lower plate, resulting in a misalignment.
  • examples of images in which the misalignment is 1 mm, 2 mm, and 3 mm are shown.
  • the positions above the molten pool tip and below the molten pool tip vary.
  • the misalignment is 1 mm
  • a tip inclination angle of ⁇ 63° is obtained.
  • the misalignment is 2 mm
  • a tip inclination angle of ⁇ 53° is obtained.
  • the misalignment is 3 mm, a tip inclination angle of ⁇ 50° is obtained.
  • misalignment may occur when the lower plate is located closer to the welding torch 200 than the upper plate. Furthermore, the misalignment that is likely to occur varies depending on the welding posture. Therefore, the present invention is not limited to the example shown in FIG. 13, and various misalignments may be considered.
  • FIG. 14 is an example diagram for explaining an example of feature points used in deriving the tip inclination angle according to the present embodiment.
  • FIG. 14 shows a simplified image such as that shown in FIG. 10, for example.
  • a molten pool 1401, an unfused portion 1402, an upper end 1403 of the molten pool, a lower end 1404 of the molten pool, and a molten pool boundary 1405 are shown.
  • the molten pool boundary 1405 indicates the boundary on the welding direction side.
  • the upper end 1403 of the molten pool and the lower end 1404 of the molten pool may correspond to the groove surface of the workpiece W.
  • Image 1410 shows an example in which the top of the molten pool tip above the molten pool upper end 1403 and the bottom of the molten pool tip above the molten pool bottom end 1404 are used as feature points 1411 and 1412, respectively, to derive the tip inclination angle. .
  • the position of the feature point is not limited to the above.
  • a feature point 1421 on the molten pool boundary 1405 may be used. May be used.
  • the position that is furthest in the welding direction may be used as the feature point.
  • the number of feature points used in deriving the tip inclination angle is not limited to two, and three or more may be used.
  • features on the molten pool boundary 1405 Point 1432 may also be used.
  • Each feature point may be identified based on the output of the learned model 815B described above. Therefore, the process applied by the calculation unit 819 to the output of the trained model 815B may be changed depending on the feature points to be handled.
  • disturbances in welding include misalignment of workpieces, reduction in gas flow rate, magnetic blowing, instability of wire feeding, instability of current supply, oil adhesion to workpieces, and rust on workpieces. All of these factors affect the behavior of the molten pool, and the inventors extracted multiple feature points at the boundary between the molten pool and the unfused area in the front, at least in the welding direction, and We have found that the influence of disturbance can be determined by the geometric quantities calculated based on this. By correcting welding conditions and the like based on the disturbance determination results, automatic control that is resistant to disturbances is realized.
  • the disturbance determination method according to the present embodiment will be described in detail below.
  • the characteristic points at the boundary position between the front molten pool and the unmolten part are the coordinate position below the tip of the molten pool (Pool_Lead_Lx, Pool_Lead_Ly), the coordinate position above the tip of the molten pool (Pool_Lead_Rx, Pool_Lead_Ry). ).
  • the number of feature points at the boundary position between the molten pool and the unmelted portion does not need to be two, and the extraction position is not limited to above or below the tip.
  • the boundary coordinate position between the molten pool and the unmelted portion may be set at the center of the molten pool width.
  • the geometrical quantities include, for example, angles, curvatures, distances, areas, etc. calculated based on the extracted feature points, and it is preferable to calculate at least one of these geometrical quantities, and in this embodiment,
  • the angle formed by the line connecting the bottom of the molten pool tip and the top of the molten pool tip in the X-axis direction of the welding image is called the "tip inclination angle” and is calculated.
  • This "tip inclination angle” can be accurately determined especially against “workpiece misalignment” which is likely to occur as a disturbance, so at least an angle is selected as the "tip inclination angle” as the geometric quantity to be calculated. is most preferable.
  • FIG. 16 shows the process from extracting feature points from a welding image using a trained model 815B to outputting a correction signal for automatic control based on time series data of geometric quantity data calculated based on the feature points. It becomes a flowchart.
  • the disturbance determination process (S1640) and the welding stability determination process (S1650) are executed in parallel, and control is performed based on the results of each process.
  • the disturbance determination method and processing method (S1640) will be explained, and the welding stability determination method and processing method (S1650) will be described later.
  • the following processing is realized by each processing unit of the data processing device 800 reading and executing various programs stored in the nonvolatile storage device 815 or the like. Further, this processing flow is started at the same time as welding is started, and along with this, imaging by the visual sensor 700 is also started.
  • data processing device 800 receives a welding image of a welding position from visual sensor 700 while automatic welding is being performed.
  • data processing device 800 performs image processing as pre-processing of the welding image received at S1610.
  • image processing include reducing the size of the image and converting it into a grayscale image. Note that other processing may be further performed, or a part of the processing may be omitted depending on the processing load and the like.
  • the data processing device 800 inputs the welding image preprocessed at S1620 to the above-mentioned learned model 815B, and acquires feature points as welding information output as a result.
  • the upper coordinate position (Pool_Lead_Rx, Pool_Lead_Ry), the coordinate position of the lower end of the molten pool (Pool_Ly), and the coordinate position of the upper end of the molten pool (Pool_Ry) may be output.
  • the disturbance determination process consists of steps S1641 to S1643.
  • the calculation unit 819 of the data processing device 800 calculates geometric quantity data based on the feature points output by the trained model.
  • the angle is calculated from two points: the coordinate position below the tip of the molten pool and the coordinate position above the tip of the molten pool, and the coordinate positions (Pool_Lead_Rx (upper plate side X), Pool_Lead_Ly (lower plate side Y)).
  • the geometric quantity data of "tip inclination angle" is used.
  • the calculation unit 819 acquires disturbance determination information based on the geometric quantity data of the "tip inclination angle.”
  • a threshold value is set in advance according to the gap, and disturbance determination information is output based on the threshold value.
  • this threshold value is not limited to the gap, and may be set as a fixed value.
  • a database may be prepared and referred to. In the horizontal orientation of this embodiment, if the threshold value is less than a predetermined threshold value, it is determined that there is a disturbance.
  • the gap corresponds to the width of the groove, and is also referred to as a root gap or root interval.
  • FIG. 15 is a graph diagram showing the determination result when disturbance is determined based on the tip inclination angle.
  • the horizontal axis shows time [s]
  • the left vertical axis shows the tip inclination angle [°]
  • the right vertical axis shows the gap [mm].
  • the threshold value is changed depending on the gap.
  • the determination flag indicates a binary value of on or off, and in FIG. 15, the upper side of the graph is on and the lower side is off. When the determination flag is on, it is determined that a disturbance is occurring, and when the determination flag is off, it is determined that no disturbance is occurring.
  • no threshold is provided when the gap is less than 7 mm.
  • the threshold value is set to 55°. Therefore, if the gap is 7 mm or more and the tip inclination angle is less than 55°, it is determined that a disturbance has occurred.
  • the disturbance determination information is not limited to qualitative evaluation as in this embodiment, but may be quantitative evaluation. For example, the strength of the disturbance may be quantitatively evaluated by determining the difference between the calculated angle and the threshold angle.
  • the calculation unit 819 calculates a correction signal based on the disturbance determination information.
  • the time for stopping at the end point on the upper plate W1 side (hereinafter also referred to as upper plate end stopping time) is corrected.
  • the conditions to be corrected may be appropriately determined according to the welding construction situation, and are not particularly limited. Examples include conditions related to welding current, arc voltage, and weaving. Although at least one of these conditions may be selected as the condition for correction, it is preferable to select conditions related to weaving for ease of control. Further, there are various conditions related to weaving, such as weaving width, weaving frequency, end stop time, speed between both ends, weaving trajectory, etc., and at least one of these may be selected.
  • the welding posture is a horizontal posture, it is preferable to select the item of end stop time as in this embodiment, and it is more preferable to select the upper plate end stop time as the correction amount.
  • the data processing device 800 outputs the correction signal calculated based on the disturbance determination information to the robot control device 600.
  • data processing device 800 determines whether a stop command has been received from robot control device 600.
  • the stop command here corresponds to a welding stop command sent from the robot control device 600. If a stop command has not been received (NO in S1670), the processing of data processing device 800 returns to S1610. On the other hand, if a stop command is received (YES in S1670), this processing flow ends.
  • data processing device 800 receives a welding image of the welding position from visual sensor 700 while automatic welding is being performed.
  • data processing device 800 performs image processing as pre-processing of the welding image received at S1610.
  • image processing include reducing the size of the image and converting it into a grayscale image. Note that other processing may be further performed, or a part of the processing may be omitted depending on the processing load and the like.
  • the data processing device 800 inputs the welding image preprocessed at S1620 to the learned model 815B described above, and obtains the feature points output as a result.
  • the upper coordinate position (Pool_Lead_Rx, Pool_Lead_Ry), the coordinate position of the lower end of the molten pool (Pool_Ly), and the coordinate position of the upper end of the molten pool (Pool_Ry) may be output.
  • the welding stability determination process consists of steps S1651 to S1653.
  • the calculation unit 819 of the data processing device 800 calculates geometric quantity data based on the feature points output by the trained model 815B.
  • the geometric quantity data of "Lead” calculated as the difference in the Y-axis direction between the coordinate position of and the coordinate position of the right end of the tip of the molten pool ("Pool_Lead_Ry” - "Pool_Lead_Ly”) is used.
  • the calculation unit 819 acquires welding stability determination information in chronological order based on the geometric quantity data of "LeadX" or "LeadW". Note that the welding stability determination information is not limited to qualitative evaluation as in this embodiment, but may be quantitative evaluation.
  • the calculation unit 819 calculates a correction signal based on the welding stability determination information. In this embodiment, it is preferable to calculate the correction signal at the welding speed. Note that a correction signal for the same item as the disturbance determination process may be calculated.
  • data processing device 800 outputs a correction signal calculated based on the welding stability determination information to robot control device 600.
  • data processing device 800 determines whether a stop command has been received from robot control device 600.
  • the stop command here corresponds to a welding stop command sent from the robot control device 600. If a stop command has not been received (NO in S1670), the processing of data processing device 800 returns to S1610. On the other hand, if a stop command is received (YES in S1670), this processing flow ends.
  • correction signals based on the processing results of the disturbance determination process (S1640) and the welding stability determination process (S1650) were respectively transmitted.
  • the present invention is not limited to this, and a correction signal based on any one of the processing results may be transmitted preferentially. Further, only one of them may be transmitted depending on the timing of the determination.
  • the welding operation of the welding system 50 during actual welding will be described below.
  • the operator starts each of the robot control device 600, welding power source 400, and data processing device 800.
  • Robot control device 600 controls the movement of portable welding robot 100, and portable welding robot 100 performs welding.
  • the data processing device 800 inputs a welding image captured by the visual sensor 700, and sequentially outputs feature points related to arc welding.
  • the characteristic points are the position of the wire tip, the arc center, the upper and lower positions of the molten pool tip, and the upper and lower end positions of the molten pool.
  • FIG. 17 is a flowchart illustrating the processing operations of robot control device 600 and welding power source 400.
  • the operator operates a teaching pendant (not shown) connected to the robot control device 600 to input the teaching program to be applied and various setting values to the robot control device 600.
  • the teaching program here is defined as a taught program in which the movement of the portable welding robot 100, welding start, welding end instructions, etc. are taught in advance.
  • the processing sequence shown in FIG. 17 and the processing flow shown in FIG. 16 are executed in parallel.
  • the robot control device 600 accepts a teaching program and various setting value instructions.
  • robot control device 600 moves portable welding robot 100 to a predetermined welding start position and instructs welding power source 400 to start welding (arc on). Note that, before starting the welding program, sensing such as touch sensing or laser sensing may be performed to correct the setting values of the teaching program.
  • welding power source 400 receives a command to start welding from robot control device 600.
  • welding power source 400 starts welding by controlling a built-in power supply circuit (not shown) to supply electric power. As a result, a voltage is applied between the welding wire 211 (see FIG. 1) and the workpiece W (see FIG. 1), and an arc is generated at the welding start position.
  • robot control device 600 transmits a control signal to welding power source 400 or portable welding robot 100 to execute welding control.
  • Welding control includes, for example, automatic welding control (S1720), weaving operation control (S1721), and welding line tracing control (S1722).
  • data processing device 800 automatically moves welding torch 200 in the welding direction while transmitting correction signals to portable welding robot 100 to control at least one of welding speed, welding current, or arc voltage.
  • the correction signal is transmitted to the welding power source 400, and the portable welding robot 100 or the welding power source 400 executes welding according to the correction signal.
  • automatic welding control preferably includes control of the welding speed, and in this embodiment, only the welding speed is controlled. Further, in order to alleviate the influence of the molten pool due to disturbance, it is preferable to include control of the end stop time in the control of the weaving operation, and in this embodiment, only the end stop time is controlled.
  • robot control device 600 determines whether or not it is necessary to stop welding. For example, it may be determined that it is necessary to stop welding when an instruction to stop welding is received from an operator, a welding end position is detected by a teaching program, or a welding abnormality is detected. If it is not necessary to stop welding (NO in S1706), the process of the robot control device 600 advances to S1707. On the other hand, if it is necessary to stop welding (YES in S1706), the process of the robot control device 600 advances to S1708.
  • robot control device 600 receives welding information from data processing device 800.
  • the welding information received here is a correction signal that the data processing device 800 outputs feature points using the learned model 815B, and is calculated based on each time series data based on the feature points.
  • the details of the generation of the welding information received in this process are as described in FIG. 16 above. Thereafter, the process returns to S1705, and the robot control device 600 repeats the process using the received welding information.
  • robot control device 600 stops welding control.
  • robot control device 600 instructs welding power source 400 to stop welding. Stopping welding is realized by stopping the supply of welding power.
  • robot control device 600 instructs data processing device 800 to stop generating welding information.
  • welding power source 400 receives a command to stop welding from robot control device 600.
  • the welding power source 400 controls the power supply circuit by the CPU (not shown) to stop welding. As a result, the operations of robot control device 600 and welding power source 400 are completed.
  • welding quality can be ensured even under welding conditions where disturbances occur. Moreover, automatic welding with good welding efficiency is possible.
  • FIGS. 18 and 19 are diagrams for explaining the analysis results of welding images according to this embodiment.
  • FIG. 18 shows an example where there is no abnormality
  • FIG. 19 shows an example where there is an abnormality.
  • image 1800 shows an image of the surroundings of the molten pool.
  • Image 1810 shows the result of the geometric data calculation process.
  • a feature point 1811 indicating the tip of the welding torch 200
  • a feature point 1812 indicating the top of the molten pool
  • a feature point 1813 indicating the bottom of the molten pool are identified.
  • LeadX and LeadW are derived based on these feature points.
  • image 1900 shows an image around the molten pool.
  • an image 1900 includes an object 1901 corresponding to an oxide film (corresponding to rust on a workpiece, etc.).
  • An image 1910 shows the result of the calculation process of the geometric quantity data.
  • a feature point 1912 indicating the tip of the welding torch 200 and a feature point 1913 indicating the bottom of the tip of the molten pool are identified.
  • a feature point corresponding to the tip of the molten pool cannot be detected. Therefore, LeadX and LeadW are not derived. Therefore, in the parameter 1914, the values of LeadX and LeadW are not displayed. In such a case, it is assumed that some kind of abnormality has occurred.
  • Disturbance factors include misalignment of the workpiece, reduction in gas flow rate, magnetic blowing, instability of wire feeding, instability of current supply, oil adhesion to the workpiece, oxide film, sputter adhesion to the workpiece, and the like.
  • Disturbance factors include misalignment of the workpiece, reduction in gas flow rate, magnetic blowing, instability of wire feeding, instability of current supply, oil adhesion to the workpiece, oxide film, sputter adhesion to the workpiece, and the like.
  • FIG. 19 an object or a part of an object is hidden due to an oxide film or sputtering on the workpiece, resulting in a situation where the feature points cannot be recognized or a situation where the feature points change abruptly. Therefore, there is a possibility that the geometric quantity data calculated based on the feature points under such a situation is defective. Using such data can result in a negative impact on the overall automatic control.
  • geometric quantity data is calculated, abnormality determination is performed based on time series data composed of the geometric quantity data, and a location corresponding to an abnormality in the time series data is identified. Then, by correcting welding conditions, etc. based on time-series data for locations other than those determined to be abnormal, automatic control that is resistant to disturbances is realized.
  • the abnormality determination method according to this embodiment will be described in detail below.
  • FIG. 20 is a flowchart for extracting feature points from a welding image using the learned model 815B, executing an abnormality determination, and outputting a correction signal for performing automatic control in consideration of the abnormality details.
  • This process flow may be performed in parallel with the process flow of FIG. 16 shown in the first embodiment, or may be performed as part of the disturbance determination process (S1640). Portions that overlap in flow structure may be implemented in common.
  • the following processing is realized by each processing unit of the data processing device 800 reading and executing various programs stored in the nonvolatile storage device 815 or the like. Further, this processing flow is started at the same time as welding is started, and along with this, imaging by the visual sensor 700 is also started.
  • data processing device 800 receives a welding image of a welding position from visual sensor 700 while automatic welding is being performed.
  • the data processing device 800 performs image processing as pre-processing of the welding image received in S2001.
  • image processing include reducing the size of the image and converting it into a grayscale image. Note that other processing may be further performed, or a part of the processing may be omitted depending on the processing load and the like.
  • the data processing device 800 inputs the welding image preprocessed in S2002 to the above-mentioned learned model 815B, and obtains feature points as welding information output as a result.
  • the coordinate position of the arc center (ArcX, ArcY), the coordinate position of the wire tip (WireX, WireY), the coordinate position below the molten pool tip (Pool_Lead_Lx, Pool_Lead_Ly), the coordinate position above the molten pool tip (Pool_Lead_Rx, Pool_Lead_Ry), the coordinate position of the lower end of the molten pool (Pool_Ly), and the coordinate position of the upper end of the molten pool (Pool_Ry) may be output.
  • the data processing device 800 calculates geometric quantity data based on the feature points output by the trained model 815B.
  • “Lead "LeadW” calculated as the difference in the Y-axis direction of coordinate positions on the tip of the pond (“Pool_Lead_Ry” - “Pool_Lead_Ly”) is used.
  • the data processing device 800 performs abnormality detection using time series data composed of the geometric quantity data “LeadX” and time series data composed of the geometric quantity data “LeadW”.
  • the means for detecting an abnormality may be set in advance. There are many types of disturbances, and there are various reasons why feature points may be misrecognized or not recognized.
  • the inventors identify in advance a plurality of reasons why an abnormality occurs in a feature point, and provide a plurality of detection means corresponding to each reason. Then, the abnormality is determined using a plurality of detection means corresponding to the reason for the abnormality occurrence. We have found that this allows us to accurately determine abnormalities in feature points caused by any disturbance.
  • a detection means related to "anomaly reason for failure of feature point recognition” (1) means for detecting an anomaly when the detection rate within a predetermined interval (time) is less than or equal to a threshold value is used. In the detection rate here, as shown in FIG. 19, if geometric quantity data cannot be calculated when a certain welding image is input, the welding image is counted as not being detected.
  • a detection means related to "reason for abnormality of feature point misrecognition” (2) means for detecting an abnormality when it is outside the range determined by a predetermined outlier identification method, and (3) adjacent image data A means is used to detect an abnormality when the feature point positions differ (separate) between frames by a predetermined threshold value or more.
  • the predetermined outlier identification method includes, for example, a method of detecting an abnormality when the Hampel identifier falls outside the applicable range of the 3 ⁇ method.
  • the plurality of abnormality detection means described above are just an example, and other means may be used. Therefore, the combination of abnormality detection means is not limited to the above. Note that from the viewpoint of accuracy of abnormality determination, it is preferable to employ a plurality of detection means, and it is more preferable to employ a combination of two or more of the detection means (1) to (3) above.
  • the data processing device 800 sets an abnormality graph based on the abnormality information detected by each abnormality detection means in S2005.
  • the value of the abnormality flag is set to ON for a section determined to be abnormal by at least one of the plurality of abnormality detection means, and an ON signal is output.
  • the abnormality flag is ON, it indicates that an abnormality has occurred in the welding image corresponding to that timing.
  • the data processing device 800 performs processing to remove data in the ON signal section of the abnormality flag.
  • the removal of data in the abnormal section is just one example, and complementary processing such as replacing the data in the ON signal section of the abnormal flag with a predetermined value or a median value in a predetermined range may be performed.
  • the removed value may be complemented with the value immediately before the ON signal section of the abnormal flag, or the value to be complemented may be switched depending on the length of the ON signal section.
  • the data processing device 800 performs smoothing processing by applying a smoothing filter such as a moving average filter to the removed data in order to reduce fine noise. By performing this smoothing process, the accuracy of automatic control is further improved.
  • the smoothing process may be omitted depending on the result of data removal.
  • the content of the filtering process using a predetermined filter is not particularly limited, and may vary depending on the content of the data removal process or complementation process.
  • the data processing device 800 calculates a correction signal based on the time series data from which the abnormal section data removal process was performed in S2007.
  • the calculation method here is not particularly limited, for example, a correction signal indicating a correction amount related to welding speed, welding voltage, etc. may be calculated based on a predefined rule.
  • the data processing device 800 outputs the correction signal calculated based on the disturbance determination information to the robot control device 600.
  • the data processing device 800 determines whether a stop command has been received from the robot control device 600.
  • the stop command here corresponds to a welding stop command sent from the robot control device 600. If a stop command has not been received (NO in S2010), the processing of data processing device 800 returns to S2001. On the other hand, if a stop command is received (YES in S2010), this processing flow ends.
  • the use of the abnormality flag is not limited to the above data removal.
  • the pattern of the abnormality flag may be analyzed to predict the reason for the abnormality or the type of disturbance from the period, frequency, etc. of the ON signal or OFF signal of the abnormality flag. Further, based on the analysis results, an alarm (issue of an error) may be issued, and various setting conditions may be corrected. For example, if the number of ON signals of the abnormality flag is greater than a predetermined threshold within a predetermined period, it is determined that large spatter is occurring frequently, and an alarm is issued to stop welding. good. Furthermore, if it is determined that large spatters are occurring frequently, control may be performed such as increasing the set value of the arc voltage to stabilize the arc.
  • FIG. 21 shows time-series data of geometric quantity data LaedW, which is input data in the abnormality determination process. Note that the time series data at this point is in the state of raw data without any editing or the like.
  • the horizontal axis indicates time [s]
  • the vertical axis indicates the value of LeadW [mm].
  • FIG. 22 shows data after removing data in a range determined to be abnormal as a result of the above abnormality determination process. In FIG. 22, the horizontal axis indicates time [s], and the vertical axis indicates the value of LeadW [mm].
  • FIG. 23 shows time series data of the abnormality flag values in the above abnormality determination process. In FIG. 23, the horizontal axis indicates time [s], and the vertical axis indicates the value (0 or 1) of the abnormality flag. A case where the value of the abnormality flag is 1 corresponds to the above-mentioned ON signal. In FIGS. 21 to 23, the times on the horizontal axis correspond.
  • FIGS. 21 to 23 the values of the time series data shown in FIG. 21 are removed in the range where the value of the abnormality flag is 1 in FIG. 23, and as a result of smoothing the data in the entire range, Time series data as shown in FIG. 22 is obtained.
  • FIG. 22 shows an example in which smoothing processing is applied so that the transition of the graph becomes clear.
  • the correction signal at this timing has priority over the correction signal calculated based on the disturbance determination process (S1640) and the welding stability determination process (S1650) in FIG. 16 shown in the first embodiment. Control may be performed to use the correction signal obtained by the processing in step 20.
  • this embodiment makes it possible to determine abnormalities in feature points on image data even in environments where disturbances occur.
  • welding information is acquired using a learned model, geometrical quantity data is calculated on the calculation unit 819 side, and abnormality determination processing is performed from the time series data.
  • the present invention is not limited to this configuration; for example, a configuration may be adopted in which a learned model is generated by performing a learning process so that the learning model performs up to abnormality determination.
  • the learning data may be configured to further include label information indicating the abnormality determination result to perform the learning process.
  • the label information here may be an abnormality flag or a classification indicating the cause of the abnormality.
  • the trained model can identify the location where an abnormality occurs in consecutive welding images and the cause of the abnormality by outputting label information for the input welding images.
  • the calculation unit 819 may be configured to output a correction signal based on label information that is an abnormality determination result output from the learned model. Further, by performing a different learning process from the trained model described in the second embodiment, a trained model that can output the result of the label information as described above may be generated. In this case, a plurality of trained models may be used to output welding information and label information, respectively.
  • welding information is acquired using a trained model, and the calculation unit 819 calculates geometric quantity data and performs disturbance determination processing.
  • the present invention is not limited to this configuration; for example, a configuration may be adopted in which a learned model is generated by performing a learning process so that the learning model performs up to disturbance determination.
  • the learning data may be configured to further include a disturbance determination result, that is, label information indicating whether the image is appropriate or not, to perform the learning process.
  • the trained model can determine whether a disturbance has occurred in the welding image by outputting label information for the input welding image.
  • the calculation unit 819 may be configured to output a correction signal based on label information that is an abnormality determination result output from the trained model.
  • a trained model that can output the result of the label information as described above may be generated.
  • a plurality of trained models may be used to output welding information and label information, respectively.
  • welding information is acquired using a trained model, and the calculation unit 819 calculates geometric quantity data, performs disturbance determination processing, and calculates correction values.
  • the present invention is not limited to this configuration; for example, a configuration may be adopted in which a learned model is generated by performing a learning process such that the learning model performs up to calculation of a correction value.
  • the learning data may be configured to further include a correction amount of the control parameters based on the content to be controlled corresponding to the welding image to perform the learning process.
  • the learned model can output a correction value related to welding with respect to the input welding image.
  • the calculation unit 819 may output the obtained correction amount to the robot control device 600.
  • a learned model that can output the correction value as described above may be generated by performing a different learning process from that of the learned model described in the first embodiment. In this case, a plurality of trained models may be used to output welding information and correction values, respectively.
  • a program or an application for realizing the functions of one or more embodiments described above is supplied to a system or device using a network or a storage medium, and one or more processors in a computer of the system or device are provided. This can also be realized by reading and executing a program.
  • circuits may be realized by a circuit that realizes one or more functions.
  • circuits that implement one or more functions include ASIC (Application Specific Integrated Circuit) and FPGA (Field Programmable Gate Array).
  • a welding control method for welding to form a molten pool comprising: an acquisition step of acquiring image data including the molten pool; a specifying step of identifying a plurality of characteristic points near the boundary between the molten pool and the unfused portion at least on the welding direction side based on the acquired image data; a calculation step of calculating geometric quantity data based on information on the plurality of feature points; a determination step of determining whether or not welding is appropriate based on the geometric quantity data and a predetermined threshold; a correction step of correcting welding conditions based on the determination result in the determination step;
  • a welding control method comprising: According to this configuration, even under welding conditions where disturbances occur, welding quality can be ensured and automatic welding with good welding work efficiency is possible.
  • the plurality of characteristic points are specified from the positions of both ends of the boundary on the groove surface, or from the position on the boundary where the molten pool is furthest in the welding direction.
  • the welding control method according to (1) With this configuration, it is possible to determine whether or not welding is appropriate using characteristic points around the boundary of the molten pool.
  • the information on the plurality of feature points is used to calculate geometric quantity data of at least one of angle, curvature, distance, and area (1) or The welding control method described in (2). According to this configuration, it is possible to determine whether or not welding is appropriate based on various geometric quantity data specified from a plurality of feature points.
  • the geometric quantity is The welding control method according to any one of (1) to (3), characterized in that the data is calculated. According to this configuration, it is possible to specify feature points while taking into account the influence of weaving.
  • the welding conditions corrected in the correction step include at least conditions related to welding current, arc voltage, or weaving, According to any one of (1) to (4), the conditions related to weaving include any one of weaving width, weaving frequency, end stop time, speed between both ends, and weaving trajectory. Welding control method. According to this configuration, it is possible to control welding conditions such as welding current, arc voltage, or conditions related to weaving depending on whether or not welding is appropriate.
  • the threshold value is a predetermined fixed value or a value defined based on at least one of a groove gap and an amount of misalignment.
  • the welding control method according to any one of. According to this configuration, it is possible to arbitrarily set a threshold value for determining whether or not welding is appropriate.
  • an anomaly detection step of detecting an anomaly in the time series data composed of the geometric quantity data using one or more predetermined anomaly detection means corresponding to the reason for the anomaly; a second determination step of determining the occurrence of an abnormality in the time series data based on the detection results by the one or more abnormality detection means; has The welding control method according to any one of (1) to (6), wherein in the correction step, the welding conditions are further corrected based on the determination result in the second determination step. According to this configuration, it is possible to determine the occurrence of an abnormality due to disturbance, and to correct the welding conditions according to the determination result.
  • the one or more abnormality detection means are: means for determining whether a detection rate of feature points in one or more image data within a predetermined time is equal to or less than a threshold value, using failure to recognize feature points from the image data as the reason for the abnormality; means for determining whether or not the error is outside a range determined by a predetermined outlier identification method, using misrecognition of feature points from the image data as the reason for the abnormality; means for determining whether or not positions between corresponding feature points recognized in adjacent image data differ by more than a threshold value, using misrecognition of feature points from the image data as the reason for the abnormality;
  • the welding control method according to (7) which includes at least one of the following. According to this configuration, it becomes possible to perform abnormality determination in response to various reasons for abnormality caused by disturbances included in image data.
  • the geometric quantity data includes the coordinates of one or more feature points obtained from one object, the distance between the plurality of feature points, and the plurality of feature points obtained from one object, which are included in the image data.
  • the welding control method according to (8) characterized in that the welding control method is at least one of an area formed by an object and a distance between feature points in different objects. According to this configuration, it is possible to perform abnormality determination using geometric quantity data that captures the characteristics of each object specified from image data.
  • the identification step information on the plurality of feature points is obtained from the image data using the learned model;
  • the trained model receives image data as input and corresponds to the image data by performing a learning process using learning data that associates image data with information on feature points obtained from the image data.
  • the welding control method according to any one of (1) to (9), characterized in that the welding control method is generated so as to output information on feature points. According to this configuration, it is possible to obtain feature points in image data using a learned model.
  • the determination step using the learned model, obtain label information indicating whether or not welding is appropriate; In the determination step, determine whether or not the welding is appropriate based on the label information,
  • the trained model undergoes a learning process using learning data in which image data, information on feature points obtained from the image data, and label information indicating whether welding is appropriate or not shown in the image data are associated.
  • the apparatus is generated so as to input image data and output label information indicating whether or not welding is appropriate as indicated by the image data. welding control method. According to this configuration, it is possible to obtain whether or not welding is appropriate based on image data using the learned model.
  • the learned model undergoes a learning process using image data, information on feature points acquired from the image data, and learning data in which a correction amount is associated with the appropriateness of welding indicated by the image data.
  • Welding control method described in. According to this configuration, it is possible to use the learned model to obtain a correction amount for welding conditions according to a determination result of whether or not welding is appropriate based on image data.
  • a control device for controlling welding conditions for welding to form a molten pool an acquisition unit that acquires image data including the molten pool; a specifying unit that specifies a plurality of characteristic points near the boundary between the molten pool and the unfused portion at least on the welding direction side based on the acquired image data; a calculation unit that calculates geometric quantity data based on information on the plurality of feature points; a determination unit that determines whether or not welding is appropriate based on the geometric quantity data and a predetermined threshold; a correction unit that corrects welding conditions based on the determination result by the determination unit;
  • a control device comprising: According to this configuration, even under welding conditions where disturbances occur, welding quality can be ensured and automatic welding with good welding work efficiency is possible.
  • a welding method comprising a control step of performing welding using welding conditions corrected by the welding control method according to any one of (1) to (12). According to this configuration, it is possible to provide a welding method that can ensure welding quality even under welding conditions where disturbances occur and can perform automatic welding with good welding efficiency.
  • Welding system 100 Portable welding robot 200 Welding torch 211 Welding wire 300 Feeding device 400 Welding power source 500 Shielding gas supply source 600 Robot control device 700 Visual sensor 800 Data processing device 810 Main body 811 CPU 812 GPU 813 ROM 814 RAM 815 Nonvolatile storage device 815A Learning program 815B Learned model 815C Information generation program 815D Image data 816 Input/output interface 817 Communication interface 818 Video output interface 819 Calculation unit 820 Input unit 830 Display unit W Work

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Plasma & Fusion (AREA)
  • Arc Welding Control (AREA)
  • Manipulator (AREA)

Abstract

溶融池を形成する溶接の溶接制御方法は、前記溶融池を含む画像データを取得する取得工程と、取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、を有する。

Description

自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法
 本発明は、自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法に関する。
 近年、業種を問わず溶接作業の自動化が、省力・省人化、溶接品質安定化、生産力・能率向上の観点から求められている。しかしながら、人の手でなければ溶接が困難な溶接箇所や姿勢が存在し、自動化を阻害する要因となっている。なお、溶接が困難な溶接箇所とは、例えば、ルート部に溶融金属を架橋させて溶接せねばならない片面溶接の初層の溶接が挙げられる。溶接が困難な姿勢は、一般的に難姿勢と呼ばれる、横向姿勢、立向姿勢や上向姿勢等が挙げられる。
 これら自動化が困難な溶接状況に対し、自動溶接システムを可能とした従来技術として特許文献1が挙げられる。特許文献1では、鉛直方向に並ぶ2つの被溶接部材の間に形成された水平方向に延びる開先において、溶接進行方向を前方向とするとき、溶接トーチを前下方向と後上方向とに交互にウィービングさせながらアーク溶接を行う溶接ロボットと、アーク溶接により開先に生じたアーク及び溶融池を撮影するカメラと、カメラにより撮影されたカメラ画像中の溶融池の先端部の位置を検出する検出部と、アークと溶融池の先端部との距離が所定の範囲にある場合に、当該距離に基づいて溶接速度の補正量を決定する決定部と、を備えるシステムによって、片面溶接かつ横向姿勢時において、自動溶接を可能とする構成が開示されている。
日本国特開2021-79444号公報
 しかしながら、自動化が困難な理由は、先に挙げた溶接箇所や姿勢以外にも、溶接現場で起こりうる外乱の存在があり、特許文献1はこの外乱の影響については何ら考慮されていない。なお、溶接における外乱とは、例えば、ワークの目違い、ガス流量の減少、磁気吹き、ワイヤ送給の不安定、電流供給の不安定、ワークへの油付着、ワークの錆等が挙げられる。これら要因はすべて溶融池の挙動に影響を与えるものであり、溶接品質の良し悪しに影響する。例えば、特許文献1の片面溶接かつ横向姿勢時において、ワークの目違いが生じると、重力の影響も相まって、初層の溶接において、ルート部における溶接金属の架橋が失敗する虞が生じる。したがって、溶接箇所や姿勢を問わないことに加えて、外乱が生じる状況であっても良好な溶接品質が確保できる自動溶接化が望まれる。
 また、外乱にはワークの目違い等、一部、溶接前にタッチセンシング等で事前に把握し、対策を行うことも可能であるが、この場合、センシング箇所が多くなり、特に長尺の溶接において溶接作業能率が低下する。このため、リアルタイムで外乱を判定できる自動溶接化も望まれる。
 よって、本発明では、外乱が生じる溶接状況下である場合においても、溶接品質を確保でき、かつ溶接作業能率が良好となる自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法を提供することを目的とする。
 上記課題を解決するために本発明は以下の構成を有する。すなわち、溶融池を形成する溶接の溶接制御方法であって、
 前記溶融池を含む画像データを取得する取得工程と、
 取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、
 前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、
 前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、
 前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、
を有する。
 また、本発明の別の形態として以下の構成を有する。すなわち、溶融池を形成する溶接の溶接条件を制御する制御装置であって、
 溶融池を含む画像データを取得する取得部と、
 取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定部と、
 前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出部と、
 前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定部と、
 前記判定部による判定結果に基づいて、溶接条件を補正する補正部と、
を有する。
 また、本発明の別の形態として以下の構成を有する。すなわち、溶融池を形成する溶接の溶接条件を制御する制御装置を含んで構成される溶接システムであって、
 前記制御装置は、
 溶融池を含む画像データを取得する取得部と、
 取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定部と、
 前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出部と、
 前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定部と、
 前記判定部による判定結果に基づいて、溶接条件を補正する補正部と、
を有する。
 また、本発明の別の形態として以下の構成を有する。すなわち、プログラムであって、
 コンピュータに、
 溶接の際に生じる溶融池を含む画像データを取得する取得工程と、
 取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、
 前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、
 前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、
 前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、
を実行させる。
 また、本発明の別の形態として以下の構成を有する。すなわち、溶接制御方法にて補正された溶接条件を用いて溶接を行う制御工程を有する溶接方法であって、
 前記制御方法は、
 前記溶融池を含む画像データを取得する取得工程と、
 取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、
 前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、
 前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、
 前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、
を有する。
 本発明によれば、外乱が生じる溶接状況下においても、溶接品質を確保でき、かつ溶接作業能率の良好な自動溶接が可能となる。
本発明の一実施形態に係る溶接システムの構成例を示す概略図。 本発明の一実施形態に係る可搬型溶接ロボットの構成例を示す概略図。 本発明の一実施形態に係る可搬型溶接ロボットの構成例を示す概略図。 本発明の一実施形態に係る溶接トーチの構成例を示す概略図。 本発明の一実施形態に係る視覚センサの配置を説明するための斜視図。 本発明の一実施形態に係る視覚センサにて取得される画像データの例を示す例図。 本発明の一実施形態に係るデータ処理装置の構成例を示すブロック図。 本発明の一実施形態に係る学習処理を説明するための概念図。 本発明の一実施形態に係る教示作業に用いる画面の一例を説明するための概略図。 本発明の一実施形態に係る教示作業に用いる画面の一例を説明するための概略図。 本発明の一実施形態に係る溶接画像の解析結果を説明するための例図。 本発明の一実施形態に係る溶接画像の解析結果を説明するための例図。 本発明の一実施形態に係る目違いを説明するための例図。 本発明の一実施形態に係る先端傾斜角の特徴点を説明するための概略図。 本発明の一実施形態に係る溶接画像の解析結果を説明するためのグラフ図。 本発明の一実施形態に係る処理のフローチャート。 本発明の一実施形態に係る溶接制御のフローチャート。 本発明の第2の実施形態に係る溶接画像の解析結果を説明するための例図。 本発明の第2の実施形態に係る溶接画像の解析結果を説明するための例図。 本発明の第2の実施形態に係る異常判定処理のフローチャート。 本発明の第2の実施形態に係る時系列データの例を示すグラフ図。 本発明の第2の実施形態に係る判定結果の例を示すグラフ図。 本発明の第2の実施形態に係る判定結果の例を示すグラフ図。
 <第1の実施形態>
 以下、本発明の一実施形態に係る溶接システムについて図面を参照しつつ説明する。なお、各図面において、同じ構成要素については、同じ参照番号を付すことにより対応関係を示す。本実施形態は、可搬型溶接ロボットを用いた場合の一例であり、本発明の溶接システムは、本実施形態の構成に限定されるものではない。例えば、6軸の溶接ロボット、台車などの駆動部を有する溶接装置または半自動溶接の場合であってもよい。また、溶接の種類には、アーク溶接、レーザ溶接、電子ビーム溶接またはエレクトロスラグ溶接等がある。本実施形態では一例としてアーク溶接の例を挙げるが、いずれの方法も溶融池が形成する特性を持つため、本発明はアーク溶接に限らず、レーザ溶接、電子ビーム溶接等の種々の溶接方法で適用することができる。さらに、本実施形態では、本発明の効果を顕著に示すことを目的とし、溶接が困難な溶接箇所と姿勢として、片面溶接の初層溶接と横向姿勢を選択しているが、これらに限定されるものではなく、溶接箇所、溶接姿勢は特に問わない。
 また、本実施形態では、溶接情報に係るオブジェクト(対象)として、画像データに少なくとも「溶融池」を含み、「溶融池」に係る特徴点を抽出する。この特徴点の抽出方法は特に問わないが、本実施形態においては、後述する通り、学習装置を用いて特徴点を抽出する。以下の学習装置に係る説明において、「学習」または「機械学習」とは、学習データおよび任意の学習アルゴリズムを用いて学習を行うことにより、「学習済みモデル」を生成することを指す。学習済みモデルは、複数の学習データを用いて学習が進むことにより、適時更新され、同じ入力であってもその出力が変化していく。したがって、学習済みモデルは、いずれの時点での状態であるかを限定するものではない。ここでは、学習にて用いられるモデルを「学習モデル」と記載し、一定程度の学習が行われた学習モデルを「学習済みモデル」と記載する。また、「学習データ」の具体的な例については後述するが、その構成は、利用する学習アルゴリズムに応じて変更されてよい。また、学習データには、学習そのものに用いられる教師データ、学習済みモデルの検証に用いられる検証データ、学習済みモデルのテストに用いられるテストデータを含んでよい。以下の説明では、学習に関するデータを包括的に示す場合は、「学習データ」と記載し、学習そのものを行う際のデータを示す場合は「教師データ」と記載する。なお、学習データに含まれる教師データ、検証データ、およびテストデータを明確に分類することを意図するものではなく、例えば、学習、検証、およびテストの方法によっては、学習データすべてが教師データにもなり得る。
 [システム構成]
 図1は、本実施形態に係る溶接システムの構成例を示す概略図である。溶接システム50は、図1に示すように、可搬型溶接ロボット100、送給装置300、溶接電源400、シールドガス供給源500、ロボット制御装置600、視覚センサ700、およびデータ処理装置800を含んで構成される。なお、上述したように本発明に係る特徴を6軸の溶接ロボット、台車などの駆動部を有する溶接装置または半自動溶接などに適用する場合には、それらの構成に合わせて更なる構成が含まれてよい。
 ロボット制御装置600は、ロボット用制御ケーブル610によって可搬型溶接ロボット100と接続され、電源用制御ケーブル620によって溶接電源400と接続されている。ロボット制御装置600は、あらかじめ可搬型溶接ロボット100の動作パターン、溶接開始位置、溶接終了位置、施工条件、溶接条件等を定めたティーチングデータを保持するデータ保持部601を有し、このティーチングデータに基づいて可搬型溶接ロボット100及び溶接電源400に対して指令を送り、可搬型溶接ロボット100の動作及び溶接条件を制御する。
 また、ロボット制御装置600は、後述するセンシングにより得られる検知データから開先形状情報を算出する開先形状情報算出部602と、該開先形状情報をもとに上記ティーチングデータの溶接条件を補正して取得する溶接条件取得部603と、を有する。そして、開先形状情報算出部602と溶接条件取得部603により、制御部604が構成されている。
 さらに、ロボット制御装置600は、ティーチングや可搬型溶接ロボット100のマニュアル操作等を行うためのコントローラ(以降、「教示ペンダント」とも称する。)とその他の制御機能をもつコントローラが、一体となって形成されてもよいし、教示ペンダント及びその他の制御機能をもつコントローラの2つに分ける等、役割によって複数に分割してもよいし、可搬型溶接ロボット100にロボット制御装置600を含めてもよい。なお、溶接現場における使用性の観点から、ティーチングや可搬型溶接ロボット100のマニュアル操作等を行うためのコントローラと、その他の制御機能をもつコントローラの2つに分けるのが好ましい。よって、本実施形態では、教示ペンダント及びその他の制御機能をもつコントローラの2つに分け、図示しない教示ペンダントとロボット制御装置600が通信ケーブルで繋がっている。また、本実施形態においては、ロボット用制御ケーブル610及び電源用制御ケーブル620を用いて信号が送られているが、これに限られるものではなく、無線で送信してもよい。
 溶接電源400は、ロボット制御装置600からの指令により、消耗電極である溶接ワイヤ211及びワークWoに電力を供給することで、溶接ワイヤ211とワークWoとの間にアークを発生させる。溶接電源400からの電力は、パワーケーブル410を介して送給装置300に送られ、送給装置300からコンジットチューブ420を介して溶接トーチ200に送られる。そして、図2に示すように、溶接電源400からの電力は、溶接トーチ200先端のコンタクトチップを介して、溶接ワイヤ211に供給される。なお、溶接作業時の電流は、直流又は交流であってもよく、また、その波形は特に問わない。よって、電流は、矩形波や三角波などのパルスであってもよい。
 また、溶接電源400は、例えば、パワーケーブル410がプラス電極として溶接トーチ200側に接続され、パワーケーブル430をマイナス電極としてワークWoに接続される。なお、これは逆極性で溶接を行う場合であり、正極性で溶接を行う場合はプラス電極のパワーケーブルがワークWo側に接続され、マイナス電極のパワーケーブルが、溶接トーチ200側と接続されていればよい。
 [シールドガス供給源]
 シールドガス供給源500は、シールドガスが封入された容器、バルブ等の付帯部材から構成される。シールドガス供給源500から、シールドガスがガスチューブ510を介して送給装置300へ送られる。送給装置300に送られたシールドガスは、コンジットチューブ420を介して溶接トーチ200に送られる。溶接トーチ200に送られたシールドガスは、溶接トーチ200内を流れて、ノズル210にガイドされ、溶接トーチ200の先端側から噴出する。本実施形態で用いるシールドガスとしては、例えば、アルゴン(Ar)や炭酸ガス(CO)又はこれらの混合ガスを用いることができるが、好ましくは、100%のCOガスで溶接することが好ましい。
 本実施形態に係るコンジットチューブ420は、チューブの外皮側にパワーケーブルとして機能するための導電路が形成され、チューブの内部に溶接ワイヤ211を保護する保護管が配置され、シールドガスの流路が形成されている。ただし、コンジットチューブ420は、これに限られるものではなく、例えば、溶接トーチ200に溶接ワイヤ211を送給するための保護管を中心にして、電力供給用ケーブルやシールドガス供給用のホースを束ねたものを用いることもできる。また、例えば、溶接ワイヤ211及びシールドガスを送るチューブと、パワーケーブルとを個別に設置することもできる。
 [送給装置]
 送給装置300は、溶接ワイヤ211を繰り出して溶接トーチ200に送る。送給装置300により送られる溶接ワイヤ211は、特に限定されず、ワークWoの性質や溶接形態等によって選択され、例えば、ソリッドワイヤやフラックス入りワイヤが使用される。また、溶接ワイヤの線径は、特に問わないが、本実施形態において好ましい線径は、上限は1.6mmであり、下限は0.9mmである。
 本実施形態に係るコンジットチューブ420は、チューブの外皮側にパワーケーブルとして機能するための導電路が形成され、チューブの内部に溶接ワイヤ211を保護する保護管が配置され、シールドガスの流路が形成されている。ただし、コンジットチューブ420は、これに限られるものではなく、例えば、溶接トーチ200に溶接ワイヤ211を送給するための保護管を中心にして、電力供給用ケーブルやシールドガス供給用のホースを束ねたものを用いることもできる。また、例えば、溶接ワイヤ211及びシールドガスを送るチューブと、パワーケーブルとを個別に設置することもできる。
 [可搬型溶接ロボット]
 可搬型溶接ロボット100は、図2及び図3に示すように、ガイドレール120と、ガイドレール120上に設置され、ガイドレール120に沿って移動するロボット本体110と、ロボット本体110に載置されたトーチ接続部130と、を備える。ロボット本体110は、主に、ガイドレール120上に設置される本体部112と、本体部112に取り付けられた固定アーム部114と、固定アーム部114に矢印R1方向に回転可能な状態で取り付けられた溶接トーチ回転駆動部116と、から構成される。
 トーチ接続部130は、図4に示すように、摺動テーブル169とクランク170を介して、溶接トーチ回転駆動部116に取り付けられている。トーチ接続部130は、溶接トーチ200を固定するトーチクランプ132及びトーチクランプ134を備えている。また、本体部112には、溶接トーチ200が装着される側とは反対側に、送給装置300と溶接トーチ200を繋ぐコンジットチューブ420を支えるケーブルクランプ150が設けられている。
 また、本実施形態においては、ワークWoと溶接ワイヤ211間に電圧を印加し、溶接ワイヤ211がワークWoに接触したときに生じる電圧降下現象を利用して、開先10の表面等をセンシングするタッチセンサを検知手段とする。検知手段は、本実施形態のタッチセンサに限られず、画像センサ、レーザセンサ等、又はこれら検知手段の組み合わせを用いてもよいが、装置構成の簡便性から本実施形態のタッチセンサを用いることが好ましい。
 ロボット本体110の本体部112は、図2の矢印Xで示すように、紙面に対して垂直方向であって溶接線方向となるX軸方向に、ロボット本体110をガイドレール120に沿って移動させるX軸移動機構181を備える。また、本体部112は、固定アーム部114を本体部112に対して、スライド支持部113を介して、X軸方向及びZ軸方向に対して垂直となる開先10の幅方向であるY軸方向へ移動させるY軸移動機構182を備える。さらに、本体部112は、X軸方向に対し垂直となる開先10の深さ方向にロボット本体110を移動させるZ軸移動機構183を備える。
 さらに、図4に示すように、トーチ接続部130が取り付けられた摺動テーブル169、クランク170及び溶接トーチ回転駆動部116は、溶接ワイヤ211の先端を近似直線に沿って移動させる近似直線移動機構180を構成している。
 具体的には、溶接トーチ回転駆動部116に固定された不図示のモータの回転軸168にクランク170が固定され、クランク170の先端が、摺動テーブル169の一端に連結ピン171により連結されている。摺動テーブル169は中間部に長溝169aを備え、溶接トーチ回転駆動部116に固定された固定ピン172が長溝169aに摺動自在に嵌合する。
 これにより、不図示のモータによってクランク170が回転軸168を中心として回動すると、摺動テーブル169は、固定ピン172を支点として回動すると共に、嵌合する固定ピン172に案内されて長溝169aに沿って移動する。すなわち、溶接トーチ200が取りつけられたトーチ接続部130は、クランク170が図3及び図4に示す矢印R2に示すように回動することで、溶接トーチ200を傾けながら、X軸方向に対し溶接ワイヤ211の先端を図4に仮想線ILで示す近似直線に沿って駆動する。なお、本実施形態においてX軸方向へ移動する機構は、上述のX軸移動機構181と近似直線移動機構180があり、以降、これらの機構を区別して説明する場合には、X軸移動機構181によってX軸方向に移動するときは「XA軸方向」と示し、近似直線移動機構180によってX軸方向に移動するときは「XB軸方向」と示し、どちらの機構も特に問わない場合は、単に「X軸方向」と記載して説明するものとする。
 また、溶接トーチ回転駆動部116は、図2に矢印R1で示すように、固定アーム部114に対して回転可能に取り付けられており、最適な角度に調整して固定することができる。
 以上のように、ロボット本体110は、その先端部である溶接トーチ200を、3つの方向、すなわちX軸方向、Y軸方向、Z軸方向に対し、4つの自由度、すなわち、近似直線移動機構180、X軸移動機構181、Y軸移動機構182、Z軸移動機構183により駆動可能である。ただし、ロボット本体110は、これに限られるものでなく、用途に応じて、任意の数の自由度で駆動可能としてもよい。
 以上のように構成されることで、トーチ接続部130に取り付けられた溶接トーチ200の溶接ワイヤ211の先端部は、任意の方向に向けることができる。すなわち、ロボット本体110は、ガイドレール120上をX軸方向に駆動可能である。また、溶接トーチ200は、開先10の幅方向であるY軸方向又は開先10の深さ方向であるZ軸方向に駆動可能である。また、クランク170による駆動により、例えば、後述する前進角又は後退角を設ける等の施工状況に応じて、溶接トーチ200を傾けることができる。
 ガイドレール120の下方には、例えば磁石などの取付け部材140が設けられており、ガイドレール120は、取付け部材140によってワークWoに対して着脱が容易となるように構成されている。可搬型溶接ロボット100をワークWoにセットする場合、オペレータは可搬型溶接ロボット100の両側把手160を掴むことにより、可搬型溶接ロボット100をワークWo上に容易にセットすることができる。
 [視覚センサ]
 視覚センサ700は、例えば、CCD(Charge Coupled Device)カメラにより構成される。視覚センサ700の配置位置は特に問わず、視覚センサ700は、可搬型溶接ロボット100に直接取り付けられてもよいし、また、監視カメラとして、周辺の特定の場所に固定されてもよい。可搬型溶接ロボット100に視覚センサ700を直接取り付けた場合には、視覚センサ700は、可搬型溶接ロボット100の動作に併せて、溶接トーチ200の先端周辺を撮影するように移動する。視覚センサ700を構成するカメラの台数は複数でもよい。例えば、機能や設置位置が異なる複数のカメラを用いて視覚センサ700が構成されてもよい。
 また、視覚センサ700により撮影する方向も特に問わない。例えば、溶接が進行する方向を前方とした場合に、前方側を撮影するように配置してもよいし、側面側、後方側を撮影するように配置してもよい。したがって、視覚センサ700による撮影範囲は、適宜決定すればよい。なお、溶接トーチ200の干渉を抑制するために、前方側から撮影することが好ましく、本実施形態では、前方側からの撮影としている。撮影された画像はデータ処理装置800に送信されて、データ処理装置800側で利用される。このとき、データ処理装置800は、撮影された画像の中から、例えば、所定の間隔にて任意の画像を取り込み、後述する処理に利用してよい。ここでの取り込み方法や取り込み設定は、例えば、視覚センサ700の構成や機能、データ処理装置800の性能などに応じて切り替えられてよい。
 本実施形態においては、可搬型溶接ロボット100に直接取り付け、固定した視覚センサ700を用い、画像データに含めるオブジェクト(対象)として、少なくとも、ワークW、溶接ワイヤ211、およびアークが含まれる撮影範囲となるように、溶接画像として動画像を撮影する。なお、溶接画像に係る各種撮影設定は、予め規定されていてもよいし、溶接システム50の動作条件に応じて切り替えられてもよい。撮影設定としては、例えば、フレームレート、画像のピクセル数、解像度、シャッタースピードなどが挙げられる。
 溶接システム50を構成する各部位は、有線/無線の各種通信方式により、通信可能に接続される。ここでの通信方式は、1つに限定するものではなく、複数の通信方式を組み合わせて接続されてよい。
 図5は、視覚センサ700の配置位置を説明するための斜視図である。なお、溶接トーチ200や開先の向きは、溶接の姿勢に応じて異なるため、図5に示す向きは一例である。本実施形態の場合、ワークWは、突合せ継手である。ワークWは、2枚の金属板であり、開先を隔てて突き合わされている。本実施形態では横向姿勢を例に挙げ、この場合に、上板側のワークをW1(以降、上板W1と称する。)、下板側のワークをW2(以降、下板W2と称する。)として説明する。また、突き合わされている2枚の金属板の裏面側には、セラミックス製の裏当て材14が取り付けられている。なお、裏面側にはメタル系の裏当て材を使用してもよいし、裏当て材無しでもよい。したがって、裏当て材の材質は特に限定するものではなく、ワークWの材質などに応じて異なってよい。突合せ継手では、開先に沿って一方向にアーク溶接が行われる。以下では、溶接が進行する方向を「溶接方向」という。図5では、溶接が進行する方向を矢印で示している。このため、溶接トーチ200は、視覚センサ700の後方に位置している。
 図6は、視覚センサ700にて撮影して取得された画像データの一例となる。図6の各画像データは、座標を持ち、X軸とY軸の2軸からなる座標平面となる。X軸は溶接方向を示し、Y軸はX軸に直交する方向を示す。図6に示す通り、視覚センサ700の撮影範囲は、ワークWの溶接位置を含み、アーク溶接中における溶接位置の画像を撮影する。この画像には、溶融池、溶接ワイヤ211、およびアークが含まれる。画像611は、下向き溶接の場合に撮影された画像データの例を示す。画像612は、横向き溶接の場合に撮影された画像データの例を示す。画像612の場合、X軸に沿って画像の左から右に向けて溶接が進んでいる例を示している。
 本実施形態における視覚センサ700は、例えば、1024×768ピクセルの静止画像を連続して撮影することができる。換言すると、視覚センサ700は、溶接画像を動画像として撮影することが可能である。視覚センサ700にて撮影可能な静止画像の解像度は特に限定されるものではない。例えば、視覚センサ700が複数のカメラから構成される場合に、複数のカメラそれぞれが異なる解像度の溶接画像を取得してもよい。また、後述する学習済みモデルに入力する前に、処理時間を短縮することを目的として撮影された溶接画像から任意の特徴領域を切り出すなどの前処理を行ってもよい。任意の特徴領域は、所定の領域が中心に位置するように配置された固定サイズの範囲であってもよい。また、任意の特徴領域のサイズは、溶接状況に応じて変更されてもよい。
 [データ処理装置の構成]
 図7は、データ処理装置800の構成例を説明するための説明図である。データ処理装置800は、例えばコンピュータで構成される。コンピュータは、本体810、入力部820、および表示部830を含んで構成される。本体810は、CPU811、GPU(Graphical Processing Unit)812、ROM813、RAM814、不揮発性記憶装置815、入出力インタフェース816、通信インタフェース817、映像出力インタフェース818、および算出部819を含んで構成される。CPU811、GPU812、ROM813、RAM814、不揮発性記憶装置815、入出力インタフェース816、通信インタフェース817、映像出力インタフェース818、および算出部819は、バスや信号線によって相互に通信可能に接続されている。
 不揮発性記憶装置815には、所定の学習データを用いてディープラーニングを実行する学習プログラム815A、学習プログラム815Aの実行を通じて生成される学習済みモデル815B、学習済みモデル815Bを用いて溶接に関する溶接情報を生成する情報生成プログラム815C、および、画像データ815Dが記憶されている。この他、不揮発性記憶装置815には、オペレーティングシステムやアプリケーションプログラムもインストールされている。
 CPU811およびGPU812によるプログラムの実行により、データ処理装置800は、各種の機能を実現する。本実施形態の場合、データ処理装置800は、機械学習により学習済みモデルを生成する機能と、学習済みモデルを利用して実際の溶接時の各種処理を行う機能を実現する。これの機能の内容については後述する。なお、学習済みモデルを生成する機能と、実際の溶接の実行時に学習済みモデルから出力される情報に基づいて制御処理を実行する機能に合わせてデータ処理装置800を分けてもよい。汎用性の観点から見ると、それぞれの機能に合わせて、データ処理装置800を分けることがより好ましい。GPU812は、学習プログラム815Aおよび情報生成プログラム815Cを実行する際の演算装置として使用される。ROM813には、CPU811に実行されるBIOS(Basic Input Output System)等が記憶されている。RAM814は、不揮発性記憶装置815から読み出されたプログラムの作業領域として使用される。
 入出力インタフェース816は、キーボード、マウス等で構成される入力部820に接続されている。入出力インタフェース816には、視覚センサ700も接続されている。視覚センサ700から出力された画像データが入出力インタフェース816を介してCPU811に与えられる。通信インタフェース817は、有線または無線通信用の通信モジュールである。映像出力インタフェース818は、例えば液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイで構成される表示部830に接続されており、CPU811から与えられた映像データに応じた映像信号を表示部830に出力する。算出部819は、CPU811やGPU812と連携して、本実施形態に係る各種処理を実行する。算出部819の処理の詳細については後述する。
 [学習モデルの生成]
 以下、本実施形態にて、画像データから抽出する特徴点および特徴点を抽出する学習済みモデルについて説明する。図8は、学習処理による学習済みモデル815Bの生成プロセスを概念的に説明する図である。本実施形態における学習済みモデル815Bは、畳み込みニューラルネットワークにより構成されており、複数の畳み込み層、および複数のプーリング層を含んでいる。なお、畳み込みニューラルネットワークの構成は上記に限定するものではなく、層数や構成が他の構成であってよい。
 学習済みモデル815Bは、視覚センサ700から出力される画像データを入力とし、画像データに現れる様々な溶接情報に係る特徴点を出力する。本実施形態において、学習済みモデル815Bに入力される画像データには、図6に示すように、少なくとも、オブジェクト(対象)として、溶融池、溶接ワイヤ、及びアークを含み、これら各オブジェクト、または複数のオブジェクト間から得られる特徴点を抽出する。そして、抽出した特徴点に基づいて、アーク安定性、溶着量、アーク倣い状況または溶込み具合などといった溶接情報をリアルタイムで得ることが可能となる。なお、この画像データは、以下、溶接画像と称することもある。
 本実施形態では、溶接情報に係る特徴点として、溶接ワイヤ211の先端(ワイヤ先端)、アークの中心点(アーク中心)、溶融池の左右(または上下)の先端の位置、溶融池の左右(または上下)の端部の位置を使用する。教師データとして用いる特徴点の入力は、教示作業を支援する操作画面の指示に従い、オペレータが溶接画像上の特定の位置を指定することで行われる。したがって、教師データは、溶接画像とオペレータにて指定された溶接情報としての座標情報となる特徴点とを対として構成される。学習処理では、学習モデルから出力される溶接情報と、教師データに含まれる溶接情報とを比較し、その誤差をフィードバックすることでパラメータを調整する。この処理を繰り返すことで、学習が進む。
 図9は、教示作業に用いる画面の一例を説明する図である。図9に示す溶接画像には、溶融池15、溶接ワイヤ211、アーク16が含まれている。図9では、溶融池15を網掛けで示す。なお、図9における、「右端」や「左端」は、画像における左右を示しているに過ぎず、溶接の姿勢と画像の向きに応じて、「上端」や「下端」などに置き換えてよい。
 また、図10は、横向姿勢の溶接により得られる溶接画像の具体例と、その溶接画像内の溶接情報の例を示す説明図である。ここでは説明を容易にするために、溶接画像上に、特徴点にて示す座標に相当する位置を描画して示している。なお、上述のとおり画像は座標を持ち、X軸とY軸の2軸からなる座標平面となる。
 本実施形態では、視覚センサ700は、溶接線方向とX軸方向を平行するように設置させるため、本実施形態においては、X軸方向は溶接線方向と言い換えてもよい。また、Y軸方向はX軸の垂直方向であり、言い換えれば、溶接線の垂直方向である開先幅方向となるから、Y軸方向は開先幅方向と言い換えてもよい。なお、本実施形態の可搬型ロボットが動くX軸は溶接線方向となるので、可搬型ロボットが動くX軸と溶接画像上のX軸も方向が同じとなり、Y軸方向も可搬型ロボットが動くY軸と溶接画像上のY軸方向も同じであると言える。
 本実施形態の場合、特徴点として、アーク中心の座標位置(ArcX,ArcY)、ワイヤ先端の座標位置(WireX,WireY)、溶融池先端下の座標位置(Pool_Lead_Lx,Pool_Lead_Ly)、溶融池先端上の座標位置(Pool_Lead_Rx,Pool_Lead_Ry)、溶融池下端の座標位置(Pool_Ly)、溶融池上端の座標位置(Pool_Ry)がオペレータにより教示される。特徴点の入力は、画面上の特定の位置をオペレータが指示することで実行される。溶接ワイヤ211とアークの境界を与える座標は、ワイヤ先端の位置座標の一例である。また、溶融池先端下と、溶融池先端上と、溶融池下端と、溶融池上端は、溶融池15の挙動に関する特徴点の一例である。例えば、溶融池下端と溶融池上端の特徴点が分かると、溶融池15の幅を計算できる。
 [幾何学量データ]
 本実施形態では、予め定めたいずれかの溶融池先端上の位置とワイヤ先端の位置のX方向の差(以降、「LeadX」と称する)、溶融池先端上と溶融池先端下の差(以降、「LeadW」と称する)、および溶融池先端上と溶融池先端下を結ぶ線と溶接画像のX軸方向のなす角度(以降、「先端傾斜角」と称する。)の3つを少なくとも算出する。本実施形態において、このように、特徴点に基づいて算出される数値データを幾何学量データとも称する。
 なお、この幾何学量データを算出し、幾何学量データを予め定めた間隔でサンプリングし、そのサンプリングデータに基づいて、後述する自動溶接制御を行う。なお、このサンプリングデータを、以下、時系列データとも称する。また、単位時間当たりのサンプリング数は画像のフレーム数(fps:flames per second)と同数であってよく、必要に応じて、間引かれてもよい。図11および図12の溶接画像をもとに具体的に説明する。学習済みモデルから出力された特徴点のうち、溶融池先端下の座標位置(Pool_Lead_Lx,Pool_Lead_Ly)、溶融池先端上の座標位置(Pool_Lead_Rx,Pool_Lead_Ry)、ワイヤ先端の座標位置(WireX,WireY)を用いる。本実施形態においては、LeadXの算出は、下記の通り、溶融池先端上の座標位置とワイヤ先端の座標位置に基づくが、溶融池先端位置は上側に限られるものではなく、目的に応じて、溶融池先端下の座標位置を用いてもよい。本実施形態の場合、算出部819は、溶融池先端上の座標位置とワイヤ先端の座標位置のX軸方向の差(「Pool_Lead_Rx」-「WireX」)として算出する。また、LeadWは、溶融池上端の座標位置と溶融池下端の座標位置のY軸方向の差(「Pool_Lead_Ry」-「Pool_Lead_Ly」)として算出する。この際、算出する距離はピクセル数でもよいし、「mm」や「cm」といった任意の単位に換算してもよい。図11の例では、LeadXが5.2[mm]、LeadWが5.0[mm]として検出された例を示している。
 このような幾何学量データであるLeadXおよびLeadWの時系列データをとることで、溶接の正常度を判定することができ、後述するように、非定常と判断された場合は、溶接速度を補正し、定常状態に戻すよう自動制御が行われる。なお、幾何学量データであるLeadXおよびLeadWの時系列データをモニタ上に表示させ、モニタリングを行ってもよい。
 また、幾何学量データである「先端傾斜角」は、溶融池先端下の座標位置と溶融池先端上の座標位置の2点と座標位置(Pool_Lead_Rx(上板側X),Pool_Lead_Ly(下板側Y))に基づいて角度を算出する。なお、角度の算出方法は、特に限定するものでは無いが、例えば、三角関数を用いて算出してよい。詳細は後述するが、「先端傾斜角」の時系列データは、外乱の影響を判定可能とし、外乱の影響を緩和するように自動制御がなされる。すなわち、本実施形態では、少なくとも、溶接を安定させるための自動制御と外乱の影響を緩和させるための自動制御が行われる。
 また、例示の「先端傾斜角」はもとより、本実施形態で算出する幾何学量は、溶接にウィービングを適用すると、各オブジェクトの変動がより大きくなり、幾何学量の算出値にバラツキが生じる虞がある。よって、本実施形態においては、ウィービングを適用する場合には、このウィービングの悪影響を抑制するために、予め定めたウィービング端点からもう一方の端点へ移動する範囲間において、予め定めたサンプリング数で測定することが好ましい。つまり、ウィービングの周期を考慮して、幾何学量を算出するための画像データのサンプリングタイミングやサンプリング数を決定してよい。なお、オブジェクトのうち、特に溶融池はウィービングによる影響が顕著であり、幾何学量として、本実施形態のごとく「先端傾斜角」を用いる場合に特に有用であると言える。また、本実施形態のように横向姿勢である場合、下板側のウィービング端点から上板側のウィービング端点へ移動する範囲間において、予め定めたサンプリング数で測定することがより好ましい。言い換えれば、上板側のウィービング端点から下板側のウィービング端点への移動時の画像データは、利用しないようにするとよい。
 なお、本実施形態では、先端傾斜角の幾何学量データに加え、一例として、LeadX、LeadWの幾何学量データを算出したが、これに限定するものではない。例えば、単一のオブジェクトから得られる、(1)単一または複数の特徴点の座標位置、(2)任意の複数の特徴点間の距離、(3)任意の複数の特徴点で形成される面積のうちのいずれかを幾何学量データとして扱ってもよい。または、異なるオブジェクトから得られる、(4)各オブジェクトの対応する特徴点間の距離のサンプリングを幾何学量データとして扱ってもよい。
 (1)単一または複数の特徴点の座標位置の場合を、より具体的に説明すると、単一のオブジェクトがアークである場合に、アーク中心の座標位置であるArcXとArcYの幾何学量データを算出することによって、アークの安定性を判定することができる。また、(2)任意の複数の特徴点間の距離は、溶融池のオブジェクトから得られる上述のLeadWが挙げられる。(3)任意の複数の特徴点で形成される面積は、例えば溶融池の面積を用いることができ、溶着量の評価をすることができる。また、(4)各オブジェクトの特徴点間の距離は、溶接ワイヤと溶融池の異なるオブジェクト間から得られる上述のLeadXや、ワイヤ先端位置と溶融池中心位置の差、開先と溶融池先端との距離などの時系列データが挙げられる。ワイヤ先端位置と溶融池中心位置の距離からなる幾何学量データは溶接線倣いに適用することができる。また、開先と溶融池先端との距離からなる幾何学量データは溶込みの判定に適用することができる。
 [目違い]
 ここで、本実施形態に係る目違いと、その特徴点への影響について説明する。図13は、横向き溶接における目違い説明するための例図である。図13において、上板が下板よりも溶接トーチ200側に位置することで目違いが生じている例を示している。また、目違いが、1mm、2mm、3mmの場合の画像の例を示している。図13に示すように、溶融池先端上と溶融池先端下の位置が変動する。例えば、目違いが1mmの場合、先端傾斜角は~63°が得られる。目違いが2mmの場合、先端傾斜角は~53°が得られる。目違いが3mmの場合、先端傾斜角は~50°が得られる。
 なお、目違いは、下板が上板よりも溶接トーチ200側に位置する場合もありうる。また、溶接姿勢に応じて、生じやすい目違いも異なる。したがって、図13に示す例に限定するものではなく、様々な目違いに対応するように考慮されてよい。
 図14は、本実施形態に係る先端傾斜角の導出の際に用いる特徴点の例を説明するための例図である。図14は、例えば、図10に示すような画像を単純化して示している。画像1400において、溶融池1401、未溶融部1402、溶融池上端1403、溶融池下端1404、溶融池境界1405が示されている。溶融池境界1405は、溶接の進行方向側の境界を示している。溶融池上端1403や溶融池下端1404は、ワークWの開先面上に対応していてよい。画像1410では、先端傾斜角の導出のために、溶融池上端1403上の溶融池先端上と、溶融池下端1404上の溶融池先端下とをそれぞれ特徴点1411、1412として用いる例を示している。
 特徴点の位置は上記に限定するものではなく、例えば、画像1420に示すように、溶融池上端1403上の溶融池先端上の特徴点1411に代えて、溶融池境界1405上の特徴点1421を用いてもよい。また、境界上の特徴点のうち、溶接の進行方向で最も先行している位置を特徴点としてもよい。
 また、先端傾斜角の導出の際に用いる特徴点は2つに限定するものではなく、3点以上を用いてもよい。例えば、画像1430に示すように、溶融池上端1403上の溶融池先端上の特徴点1431と、溶融池下端1404上の溶融池先端下の特徴点1433に加えて、溶融池境界1405上の特徴点1432を用いてもよい。特に、画像1440に示すように、溶融池境界1405の形状が極端な形状である場合には、溶融池上端1403上の溶融池先端上の特徴点1441、溶融池下端1404上の溶融池先端下の特徴点1443、溶融池境界1405上の特徴点1442のように3以上の特徴点を用いてもよい。
 各特徴点は、上記の学習済みモデル815Bの出力に基づいて、特定されてよい。したがって、扱う特徴点に応じて、学習済みモデル815Bの出力に対して算出部819が適用する処理を変更してよい。
 [外乱の判定方法および外乱判定時の処理方法]
 溶接における外乱とは、例えば、ワークの目違い、ガス流量の減少、磁気吹き、ワイヤ送給の不安定、電流供給の不安定、ワークへの油付着、ワークの錆等が挙げられる。これら要因はすべて溶融池の挙動に影響を与えるものであり、発明者らは、少なくとも溶接方向に対し、前方の溶融池と未溶融部の境界位置における特徴点を複数抽出し、その特徴点に基づいて算出される幾何学量によって、外乱の影響を判定できることを見出した。その外乱の判定結果に基づいて、溶接条件等の補正を行うことで、外乱に強い自動制御を実現するものである。以下に、本実施形態に係る外乱の判定方法について詳細を説明する。
 本実施形態においては、前方の溶融池と未溶融部の境界位置における特徴点として、上述のとおり、溶融池先端下の座標位置(Pool_Lead_Lx,Pool_Lead_Ly)、溶融池先端上の座標位置(Pool_Lead_Rx,Pool_Lead_Ry)を抽出する。図14を用いて上述したように、溶融池と未溶融部の境界位置における特徴点の数は2点でなくともよく、抽出する位置も先端上や先端下に限定されない。例えば、溶融池幅の中央位置の溶融池と未溶融部の境界座標位置をとってもよい。なお、溶融池と未溶融部の境界位置における情報を最も詳細に得ることができることから、本実施形態のように、少なくとも、溶融池先端下の座標位置(Pool_Lead_Lx,Pool_Lead_Ly)、溶融池先端上の座標位置(Pool_Lead_Rx,Pool_Lead_Ry)を抽出することが好ましい。
 また、幾何学量とは、例えば、抽出した特徴点に基づいて算出される角度、曲率、距離、面積等が挙げられ、少なくともこれら一つの幾何学量を算出することが好ましく、本実施形態では、上述の通り、溶融池先端下と溶融池先端上を結ぶ線と溶接画像のX軸方向のなす角度を「先端傾斜角」と称して、算出する。この「先端傾斜角」は、特に、外乱として発生しやすい「ワークの目違い」に対し、精度よく判定できるため、算出する幾何学量としては、少なくとも、「先端傾斜角」として角度を選択することが最も好ましい。
 図16を用いて、本実施形態に係る外乱の判定方法を含む処理について説明する。図16は、溶接画像から学習済みモデル815Bにより特徴点を抽出し、特徴点に基づいて算出した幾何学量データの時系列データに基づいて、自動制御を行うための補正信号を出力するまでのフローチャートとなる。本実施形態では、外乱判定処理(S1640)と、溶接安定性判定処理(S1650)とが同時並行的に実行され、各処理結果に基づいて制御が行われる。まず、外乱の判定方法と処理方法(S1640)について説明し、溶接安定性の判定方法と処理方法(S1650)については後述する。
 以下の処理は、データ処理装置800の各処理部が不揮発性記憶装置815等に記憶された各種プログラムを読み出して実行することにより実現される。また、本処理フローは、溶接が開始されると同時に開始され、これに伴って、視覚センサ700による撮影も開始される。
 (外乱判定処理)
 S1610にて、データ処理装置800は、自動溶接が実行されている間、視覚センサ700から溶接位置を撮像した溶接画像を受信する。
 S1620にて、データ処理装置800は、S1610にて受信した溶接画像の前処理として画像処理を行う。画像処理は例えば、縮小したり、濃淡画像に変換したりすることが挙げられる。なお、他の処理が更に行われてもよいし、処理負荷等に応じて処理の一部が省略されてもよい。
 S1630にて、データ処理装置800は、S1620にて前処理した溶接画像を、上述した学習済みモデル815Bに入力し、その結果として出力される溶接情報としての特徴点を取得する。本実施形態では、図8に示すように、アーク中心の座標位置(ArcX,ArcY)、ワイヤ先端の座標位置(WireX,WireY)、溶融池先端下の座標位置(Pool_Lead_Lx,Pool_Lead_Ly)、溶融池先端上の座標位置(Pool_Lead_Rx,Pool_Lead_Ry)、溶融池下端の座標位置(Pool_Ly)、溶融池上端の座標位置(Pool_Ry)が出力されてよい。
 S1640にて、データ処理装置800は、外乱判定処理を行う。外乱判定処理は、S1641~S1643の工程から構成される。
 S1641にて、データ処理装置800の算出部819は、学習済みモデルによって出力された特徴点に基づいて、幾何学量データを算出する。本実施形態では、溶融池先端下の座標位置と溶融池先端上の座標位置の2点と座標位置(Pool_Lead_Rx(上板側X),Pool_Lead_Ly(下板側Y))から算出された角度となる「先端傾斜角」の幾何学量データを用いる。
 S1642にて、算出部819は、「先端傾斜角」の幾何学量データに基づいて、外乱の判定情報を取得する。本実施形態においては、ギャップに応じて閾値を予め設定し、閾値を基準として外乱の判定情報を出力する。なお、この閾値はギャップに限らず固定値として設定してもよい。閾値については、例えば、データベースを用意しておき、これを参照するような構成であってよい。本実施形態の横向姿勢時においては、予め定めた閾値に対し、閾値を下回れば、外乱と判定する。なお、ギャップとは、開先の幅に相当し、ルートギャップやルート間隔とも称する。
 図15は、先端傾斜角に基づいて外乱を判定した場合の判定結果を示すグラフ図である。図15において、横軸は時間[s]を示し、左縦軸は先端傾斜角[°]を示し、右縦軸はギャップ[mm]を示す。ここでは、ギャップに応じて閾値を変更する例を示している。また、判定フラグは、オンかオフの2値を示し、図15では、グラフの上側をオンとし、下側をオフとする。判定フラグがオンの場合には外乱が生じていると判定している状態であり、判定フラグがオフの場合には外乱が生じていないと判定している状態を示している。
 図15を用いて説明すると、本実施形態では、ギャップが7mm未満の場合には閾値を設けない。一方、ギャップが7mm以上になる場合は、閾値を55°として設定する。したがって、ギャップが7mm以上で、かつ、先端傾斜角が55°を下回った場合に、外乱が発生していると判定される。なお、外乱の判定情報は本実施形態のような定性的な評価に限らず、定量的な評価であってもよい。例えば、算出した角度と閾値の角度の差分を求めて、外乱の強さを定量的に評価してもよい。
 S1643にて、算出部819は、外乱の判定情報に基づいて、補正信号を算出する。本実施形態では、ウィービング時において、上板W1側の端点で停止する時間(以降、上板端停止時間とも称する。)を補正する。補正する条件は、溶接施工状況に合わせて適宜決定すればよく、特に問わない。例えば、溶接電流、アーク電圧またはウィービングに係る条件などが挙げられる。これらの条件のうち少なくとも一つを補正する条件として選択すればよいが、制御の容易さから、ウィービングに係る条件を選択することが好ましい。さらに、ウィービングに係る条件は種々の項目があり、例えば、ウィービング幅、ウィービング周波数、端停止時間、両端間の速度、ウィービング軌跡等が挙げられるが、少なくともこれらのうち一つを選択すればよい。なお、溶接姿勢が横向姿勢である場合には、本実施形態のように、端停止時間の項目を選択すれば好ましく、さらに、上板端停止時間を補正量として選択するとより好ましい。
 S1660にて、データ処理装置800は、ロボット制御装置600に、外乱の判定情報に基づいて算出された補正信号を出力する。
 S1670にて、データ処理装置800は、ロボット制御装置600から停止指令を受信したか否かを判定する。ここでの停止指令は、ロボット制御装置600から送信される溶接の停止指令に該当する。停止指令を受信していない場合(S1670にてNO)、データ処理装置800の処理はS1610へ戻る。一方、停止指令を受信した場合(S1670にてYES)、本処理フローを終了する。
 (溶接安定性判定処理)
 次に、溶接安定性の判定方法と処理方法(S1650)については、図16を用いて説明する。なお、以下の説明では、S1610~S1630、S1660~S1670の処理は、外乱判定処理と同じ内容の処理を行うものとして説明するが異なっていてもよい。また、各工程の処理結果を共通して利用してもよい。
 S1610にて、データ処理装置800は、自動溶接が実行されている間、視覚センサ700から溶接位置を撮像した溶接画像を受信する。
 S1620にて、データ処理装置800は、S1610にて受信した溶接画像の前処理として画像処理を行う。画像処理は例えば、縮小したり、濃淡画像に変換したりすることが挙げられる。なお、他の処理が更に行われてもよいし、処理負荷等に応じて処理の一部が省略されてもよい。
 S1630にて、データ処理装置800は、S1620にて前処理した溶接画像を、上述した学習済みモデル815Bに入力し、その結果として出力される特徴点を取得する。本実施形態では、図8に示すように、アーク中心の座標位置(ArcX,ArcY)、ワイヤ先端の座標位置(WireX,WireY)、溶融池先端下の座標位置(Pool_Lead_Lx,Pool_Lead_Ly)、溶融池先端上の座標位置(Pool_Lead_Rx,Pool_Lead_Ry)、溶融池下端の座標位置(Pool_Ly)、溶融池上端の座標位置(Pool_Ry)が出力されてよい。
 S1650にて、データ処理装置800は、溶接安定性判定処理を行う。溶接安定性判定処理は、S1651~S1653の工程から構成される。
 S1651にて、データ処理装置800の算出部819は、学習済みモデル815Bによって出力された特徴点に基づいて、幾何学量データを算出する。本実施形態では、溶融池先端上の座標位置とワイヤ先端の座標位置のX軸方向の差(「Pool_Lead_Rx」-「WireX」)として算出された「LeadX」の幾何学量データと溶融池先端下の座標位置と溶融池先端右端の座標位置のY軸方向の差(「Pool_Lead_Ry」-「Pool_Lead_Ly」)として算出された「LeadW」の幾何学量データを用いる。
 S1652にて、算出部819は、「LeadX」または「LeadW」の幾何学量データに基づいて、溶接安定性の判定情報を時系列に沿って取得する。なお、溶接安定性の判定情報は本実施形態のような定性的な評価に限らず、定量的な評価であってもよい。
 S1653にて、算出部819は、溶接安定性の判定情報に基づいて、補正信号を算出する。本実施形態では、溶接速度における補正信号を算出することが好ましい。なお、外乱判定処理と同じ項目に対する補正信号を算出してもよい。
 S1660にて、データ処理装置800は、ロボット制御装置600に、溶接安定性の判定情報に基づいて算出された補正信号を出力する。
 S1670にて、データ処理装置800は、ロボット制御装置600から停止指令を受信したか否かを判定する。ここでの停止指令は、ロボット制御装置600から送信される溶接の停止指令に該当する。停止指令を受信していない場合(S1670にてNO)、データ処理装置800の処理はS1610へ戻る。一方、停止指令を受信した場合(S1670にてYES)、本処理フローを終了する。
 上記の例では、外乱判定処理(S1640)と溶接安定性判定処理(S1650)の処理結果に基づく補正信号をそれぞれ送信していた。しかし、これに限定するものではなく、いずれかの処理結果に基づく補正信号を優先して送信してもよい。また、判定のタイミングに応じて、いずれか一方のみを送信してもよい。
 [溶接制御方法]
 以下、実際の溶接時における溶接システム50の溶接動作について説明する。アーク溶接を行う場合、オペレータは、ロボット制御装置600、溶接電源400、及びデータ処理装置800のそれぞれを起動する。ロボット制御装置600が可搬型溶接ロボット100の動きを制御し、可搬型溶接ロボット100が溶接を実行する。また、データ処理装置800は、視覚センサ700により撮像される溶接画像を入力し、アーク溶接に関する特徴点を逐次出力する。本実施の形態では、特徴点を、ワイヤ先端の位置、アーク中心、溶融池先端上および下位置、および、溶融池上端および下端位置とする。
 図17は、ロボット制御装置600及び溶接電源400の処理動作を説明するフローチャートである。オペレータは、アーク溶接を開始する場合、ロボット制御装置600と接続された図示しない教示ペンダントを操作して、ロボット制御装置600に対して、適用する教示プログラム、各種設定値を入力する。ここでの教示プログラムは、可搬型溶接ロボット100の動きおよび溶接開始、溶接終了指示等を予め教示した教示済みのプログラムとして規定する。本実施形態では、図17の処理シーケンスと、図16の処理フローが同時並行的に実行される。
 S1701にて、ロボット制御装置600は、教示プログラム、各種設定値指示を受け付ける。
 S1702にて、ロボット制御装置600は、教示プログラム開始後、所定の溶接開始位置に可搬型溶接ロボット100を動かし、溶接電源400に対して、溶接開始(アークオン)を指令する。なお、溶接プログラム開始前に、タッチセンシングやレーザセンシングなどのセンシングを行い、教示プログラムの設定値を補正してもよい。
 S1703にて、溶接電源400は、ロボット制御装置600からの溶接開始の指令を受信する。
 S1704にて、溶接電源400は、内蔵されている不図示の電源回路を制御して電力を供することで、溶接を開始させる。これにより、溶接ワイヤ211(図1参照)とワークW(図1参照)との間に電圧が印加され、溶接開始位置にアークが発生する。
 S1705にて、ロボット制御装置600は、溶接電源400または可搬型溶接ロボット100に制御信号を送信し、溶接制御を実行する。溶接制御は、例えば、自動溶接制御(S1720)、ウィービング動作の制御(S1721)、および溶接線倣い制御(S1722)を含む。自動溶接制御では、データ処理装置800が、自動的に溶接方向に溶接トーチ200を移動させながら、溶接速度、溶接電流又はアーク電圧の少なくとも一つを制御するための補正信号を可搬型溶接ロボット100または溶接電源400に送信し、可搬型溶接ロボット100または溶接電源400がその補正信号に従って溶接を実行する。なお、制御の容易性の観点から、溶接の安定性を得る場合には、自動溶接制御において、溶接速度の制御を含むことが好ましく、本実施形態では溶接速度の制御のみを行っている。また、外乱による溶融池の影響を緩和する場合には、ウィービング動作の制御において、端停止時間の制御を含むことが好ましく、本実施形態では端停止時間の制御のみを行っている。
 S1706にて、ロボット制御装置600は、溶接の停止が必要か否かを判定する。例えば、オペレータからの溶接停止の指示の受け付け、教示プログラムによる溶接終了位置の検出、又は、溶接異常の検出等があった場合に、溶接の停止が必要と判定してよい。溶接の停止が不要な場合(S1706にてNO)、ロボット制御装置600の処理はS1707へ進む。一方、溶接の停止が必要な場合(S1706にてYES)、ロボット制御装置600の処理はS1708へ進む。
 S1707にて、ロボット制御装置600は、データ処理装置800から溶接情報を受信する。ここで受信される溶接情報は、データ処理装置800が学習済みモデル815Bを用いて特徴点を出力し、特徴点に基づいた各時系列データに基づいて算出された補正信号である。本工程で受信する溶接情報の生成の詳細については、上述の図16で説明した通りである。その後、S1705へ戻り、ロボット制御装置600は受信した溶接情報を用いて処理を繰り返す。
 S1708にて、ロボット制御装置600は、溶接制御を停止させる。
 S1709にて、ロボット制御装置600は、溶接電源400に対して溶接停止を指令する。溶接の停止は、溶接電力の供給の停止により実現される。
 S1710にて、ロボット制御装置600は、データ処理装置800に対して溶接情報の生成停止を指令する。
 S1711にて、溶接電源400は、ロボット制御装置600から溶接停止の指令を受信する。
 S1712にて、溶接電源400は、不図示のCPUにより電源回路を制御して溶接を停止する。これにより、ロボット制御装置600及び溶接電源400の動作が終了する。
 以上、本実施形態により、外乱が生じる溶接状況下においても、溶接品質を確保でき、
かつ溶接作業能率の良好な自動溶接が可能となる。
 <第2の実施形態>
 上記の実施形態では、特徴点から特定される先端傾斜角を用いて外乱の判定を行う形態について説明した。ここで、外乱によっては、画像データから特徴点が認識不可であったり、誤認識したりするような状況が想定される。そこで、本実施形態では、上記のような状況を想定し、第1の実施形態の構成に加え、画像データにおいて異常が発生しているか否を判定し、その判定結果に基づいて、制御を行う形態について説明する。なお、第1の実施形態と重複する構成については説明を省略し、差分に着目して説明する。
 [外乱に起因する異常]
 まず、図18および図19を用いて、本実施形態に係る外乱に起因した溶接画像中の異常について説明する。図18および図19は、本実施形態に係る溶接画像の解析結果を説明するための図である。図18は、異常がない場合の例を示し、図19は、異常がある場合の例を示す。図18において、画像1800は、溶融池の周囲の画像を示す。画像1810は、幾何学データの算出処理を行った結果を示す。画像1810において、上記の処理を行った結果、溶接トーチ200の先端部を示す特徴点1811、溶融池の先端上を示す特徴点1812、および、溶融池の先端下を示す特徴点1813が特定されている。また、これらの特徴点に基づいて、LeadXおよびLeadWが導出されている。パラメータ1814は、算出されたLeadXおよびLeadWの値を示し、ここでは、LeadX=4.0[mm]、LeadW=6.6[mm]が算出されている。
 図19において、画像1900は、溶融池の周囲の画像を示す。ここでは、画像1900において、酸化被膜(ワークの錆などに相当)に相当するオブジェクト1901が含まれている。画像1910は、幾何学量データの算出処理を行った結果を示す。画像1910において、上記の処理を行った結果、溶接トーチ200の先端部を示す特徴点1912、および、溶融池の先端下を示す特徴点1913が特定されている。しかしながら、酸化被膜に相当するオブジェクト1911により、溶融池の先端上に相当する特徴点が検出できていない。そのため、LeadXおよびLeadWが導出されていない。よって、パラメータ1914は、LeadXおよびLeadWの値が表示されていない。このような場合、何らかの異常が発生したものとして扱う。
 [異常判定方法および異常時の処理方法]
 外乱因子は、ワークの目違い、ガス流量の減少、磁気吹き、ワイヤ送給の不安定、電流供給の不安定、ワークへの油付着、酸化被膜、ワークへのスパッタ付着等が挙げられる。例えば、ワークの酸化被膜やスパッタ付着により、図19に示したようにオブジェクトまたはオブジェクトの一部が隠れ、特徴点を認識できない状況、または特徴点が急峻に変化する状況が発生する。したがって、このような状況下の特徴点に基づいて算出される幾何学量データには不備が生じている可能性がある。そのようなデータを用いた場合、結果として自動制御全体に悪影響を及ぼし得る。
 本実施形態では、幾何学量データを算出し、幾何学量データから構成される時系列データに基づいて、異常判定を実行し、時系列データの異常に相当する箇所を特定する。そして、異常と判定された箇所以外の時系列データに基づいて、溶接条件等の補正を行うことで、外乱に強い自動制御を実現する。以下に、本実施形態に係る異常判定方法について詳細を説明する。
 図20を用いて、異常判定方法について説明する。図20は、溶接画像から学習済みモデル815Bにより特徴点を抽出し、異常判定を実行し、異常内容を考慮して自動制御を行うための補正信号を出力するまでのフローチャートとなる。本処理フローは、第1の実施形態にて示した図16の処理フローと並行に実施されてもよいし、外乱判定処理(S1640)の一部として行われてもよい。フローの構成上重複する箇所については、共通的に実施されてもよい。
 以下の処理は、データ処理装置800の各処理部が不揮発性記憶装置815等に記憶された各種プログラムを読み出して実行することにより実現される。また、本処理フローは、溶接が開始されると同時に開始され、これに伴って、視覚センサ700による撮影も開始される。
 S2001にて、データ処理装置800は、自動溶接が実行されている間、視覚センサ700から溶接位置を撮像した溶接画像を受信する。
 S2002にて、データ処理装置800は、S2001にて受信した溶接画像の前処理として画像処理を行う。画像処理は例えば、縮小したり、濃淡画像に変換したりすることが挙げられる。なお、他の処理が更に行われてもよいし、処理負荷等に応じて処理の一部が省略されてもよい。
 S2003にて、データ処理装置800は、S2002にて前処理した溶接画像を、上述した学習済みモデル815Bに入力し、その結果として出力される溶接情報としての特徴点を取得する。本実施形態では、アーク中心の座標位置(ArcX,ArcY)、ワイヤ先端の座標位置(WireX,WireY)、溶融池先端下の座標位置(Pool_Lead_Lx,Pool_Lead_Ly)、溶融池先端上の座標位置(Pool_Lead_Rx,Pool_Lead_Ry)、溶融池下端の座標位置(Pool_Ly)、溶融池上端の座標位置(Pool_Ry)が出力されてよい。
 S2004にて、データ処理装置800は、学習済みモデル815Bによって出力された特徴点に基づいて、幾何学量データを算出する。本実施形態では、溶融池先端上の座標位置とワイヤ先端の座標位置のX軸方向の差(「Pool_Lead_Rx」-「WireX」)として算出された「LeadX」と溶融池先端下の座標位置と溶融池先端上の座標位置のY軸方向の差(「Pool_Lead_Ry」-「Pool_Lead_Ly」)として算出された「LeadW」を用いる。
 S2005にて、データ処理装置800は、幾何学量データ「LeadX」から構成される時系列データと幾何学量データ「LeadW」から構成される時系列データを用いて異常検出を行う。なお、異常検知を行う手段は、予め設定しておけばよい。外乱の種類は多岐にわたり、特徴点の誤認識や認識ができない理由も様々である。発明者らはこの課題に対し、予め特徴点の異常が発生する理由を複数特定し、各理由に対応して複数の検知手段を設ける。そして、異常発生の理由に対応した複数の検知手段を用い、異常を判定する。これにより、あらゆる外乱を要因した特徴点の異常に対し、精度良く判定できることを見出した。
 本実施形態においては、「特徴点認識失敗の異常理由」に係る検知手段として、(1)予め定めた区間(時間)内の検出率が閾値以下の場合に異常を検知する手段を用いる。ここでの検出率では、図19にて示したように、ある溶接画像を入力した際に幾何学量データが算出できていない場合には検出できていないと溶接画像してカウントされる。また、「特徴点誤認識の異常理由」に係る検知手段として、(2)予め定めた外れ値識別方法で定めた範囲外の場合に異常を検知する手段、および、(3)隣接する画像データのフレーム間で所定の閾値以上に特徴点位置が異なる(離れている)場合に異常を検知する手段を用いる。なお、これらのうち、少なくとも一つの手段を採用する構成であってよい。(2)予め定めた外れ値識別方法とは、例えば、Hampel識別子で3σ法の適用範囲内を外れた場合に、異常と検知する方法が挙げられる。なお、上記の複数の異常検知手段は一例であり、他の手段が用いられてもよい。したがって、異常検知手段の組み合わせを上記に限定するものではない。なお、異常判定の精度の観点から、複数の検知手段を採用することが好ましく、上記の(1)~(3)の検知手段から2つ以上の組み合わせを採用するとより好ましい。
 S2006にて、データ処理装置800は、S2005における各異常検知手段によって検知された異常情報に基づき、異常グラフを設定する。本実施形態では、複数の異常検知手段のうち少なくとも1つにおいて異常であると判定された区間に対して異常フラグの値をONに設定し、ON信号を出力する。異常フラグがONである場合には、そのタイミングに対応する溶接画像に異常が発生していることを示す。
 S2007にて、データ処理装置800は、異常フラグのON信号区間のデータを除去する処理を行う。なお、異常区間のデータ除去は、一例であって、異常フラグのON信号区間のデータを予め定めた値または所定の範囲における中央値に置き換える等の補完処理を行ってもよい。または、補完処理を行う場合に、異常フラグのON信号区間の直前の値にて除去した値を補完してもよいし、ON信号区間の長さに応じて、補完する値を切り替えてもよい。更に、データ処理装置800は、除去後のデータに対して微細なノイズを低減するために、移動平均フィルタなどの平滑化フィルタを適用して平滑化処理を行う。この平滑化処理を行うことによって、自動制御の精度がより向上する。なお、データ除去の結果に応じて、平滑化処理は省略されてもよい。また、所定のフィルタを用いたフィルタリング処理の内容は特に限定するものではなく、データの除去処理や補完処理の内容に応じて異なっていてよい。
 S2008にて、データ処理装置800は、S2007にて異常区間のデータ除去処理を行った時系列データに基づいて補正信号を算出する。ここでの算出方法は、特に限定するものではないが、例えば、溶接速度や溶接電圧などに係る補正量を示す補正信号を、予め規定された規則に基づいて算出してよい。
 S2009にて、データ処理装置800は、ロボット制御装置600に、外乱の判定情報に基づいて算出された補正信号を出力する。
 S2010にて、データ処理装置800は、ロボット制御装置600から停止指令を受信したか否かを判定する。ここでの停止指令は、ロボット制御装置600から送信される溶接の停止指令に該当する。停止指令を受信していない場合(S2010にてNO)、データ処理装置800の処理はS2001へ戻る。一方、停止指令を受信した場合(S2010にてYES)、本処理フローを終了する。
 異常フラグの用途は上記のデータ除去に限定するものではない。異常フラグのパターンを分析し、例えば、異常フラグのON信号またはOFF信号の期間、頻度等から異常理由または外乱の種類を予測する等の解析を行ってもよい。また、解析結果に基づいて、アラーム(エラー発行)を行ってもよいし、各種設定条件の補正を行ってもよい。例えば、予め定めた期間内において、異常フラグのON信号の回数が予め定めた閾値よりも多い場合には、大粒のスパッタが多発していると判定し、アラームを発して溶接を停止させてもよい。また、大粒のスパッタが多発していると判定した場合、アーク電圧の設定値を上げる補正を行い、アーク安定化を図るなどの制御を行ってもよい。
 [異常判定の例]
 以下、本実施形態に係る異常判定の具体例について、図21~図23を用いて説明する。
 図21は、異常判定処理において入力データとなる、幾何学量データLaedWの時系列データを示す。なお、この時点の時系列データは編集等を施していない生データの状態となる。図21において、横軸は時間[s]を示し、縦軸はLeadWの値[mm]を示す。図22は、上記の異常判定処理の結果、異常と判定された範囲のデータを除去した後のデータを示す。図22において、横軸は時間[s]を示し、縦軸はLeadWの値[mm]を示す。図23は、上記の異常判定処理における異常フラグの値の時系列データを示す。図23において、横軸は時間[s]を示し、縦軸は異常フラグの値(0または1)を示す。異常フラグの値が1の場合が、上記のON信号に対応する。図21~図23において、横軸の時間は対応している。
 図21~図23によると、図23にて異常フラグの値が1である範囲において、図21に示す時系列データの値を除去し、全範囲のデータに対して平滑化を行った結果、図22に示すような時系列データが得られる。ここで、図22は、グラフの遷移が明確になるように、平滑化処理を適用されている例を示している。
 上記の異常を特定したタイミングにおける溶接画像からは適切な特徴点が検出されていない可能性がある。そのため、当該タイミングにおける補正信号は、第1の実施形態にて示した図16の外乱判定処理(S1640)や溶接安定性判定処理(S1650)に基づいて算出された補正信号に優先して、図20の処理により得られた補正信号を用いるように制御してよい。
 以上、本実施形態により、第1の実施形態の効果に加え、外乱が生じる環境化においても、画像データ上の特徴点の異常を判定可能となる。
 <その他の実施形態>
 第2の実施形態では、図8に示すように学習済みモデルを用いて溶接情報を取得し、算出部819側で幾何学量データを算出し、その時系列データから異常判定処理を行っている。しかし、この構成に限定するものでは無く、例えば、学習モデルが異常判定までを行うように学習処理を行って学習済みモデルを生成するような構成であってもよい。この場合、学習データにおいて、更に異常判定結果を示すラベル情報を含めて学習処理を行うように構成してよい。ここでのラベル情報は、異常フラグであってもよいし、異常原因を示す分類などであってもよい。この構成により、学習済みモデルは、入力された溶接画像に対して、ラベル情報を出力することで、連続する溶接画像に対して異常が生じた箇所やその異常原因を特定することができる。そして、算出部819は、学習済みモデルから出力される異常判定結果であるラベル情報に基づいて補正信号を出力するような構成であってよい。また、第2の実施形態にて述べた学習済みモデルとは異なる学習処理を行うことで、上記のようなラベル情報の結果を出力可能な学習済みモデルを生成してもよい。この場合、複数の学習済みモデルを用いて、溶接情報の出力と、ラベル情報の出力をそれぞれ行ってよい。
 また、第1の実施形態では、図8に示すように学習済みモデルを用いて溶接情報を取得し、算出部819側で幾何学量データの算出および外乱の判定処理を行っている。しかし、この構成に限定するものではなく、例えば、学習モデルが外乱判定までを行うように学習処理を行って学習済みモデルを生成するような構成であってもよい。この場合、学習データにおいて、更に外乱判定結果、すなわち、画像の適正可否を示すラベル情報を含めて学習処理を行うように構成してよい。この構成により、学習済みモデルは、入力された溶接画像に対して、ラベル情報を出力することで、溶接画像に対して外乱が発生しているか否かを判定することができる。そして、算出部819は、学習済みモデルから出力される異常判定結果であるラベル情報に基づいて補正信号を出力するような構成であってよい。また、第1の実施形態にて述べた学習済みモデルとは異なる学習処理を行うことで、上記のようなラベル情報の結果を出力可能な学習済みモデルを生成してもよい。この場合、複数の学習済みモデルを用いて、溶接情報の出力と、ラベル情報の出力をそれぞれ行ってよい。
 また、第1の実施形態では、図8に示すように学習済みモデルを用いて溶接情報を取得し、算出部819側で幾何学量データの算出、外乱の判定処理、補正値の算出を行っている。しかし、この構成に限定するものではなく、例えば、学習モデルが補正値の算出までを行うように学習処理を行って学習済みモデルを生成するような構成であってもよい。この場合、学習データにおいて、更に溶接画像に対応して制御される内容に基づく制御パラメータの補正量を含めて学習処理を行うように構成してよい。この構成により、学習済みモデルは、入力された溶接画像に対して、溶接に係る補正値を出力することができる。そして、算出部819は、この得られた補正量にロボット制御装置600に出力すればよい。また、第1の実施形態にて述べた学習済みモデルとは異なる学習処理を行うことで、上記のような補正値を出力可能な学習済みモデルを生成してもよい。この場合、複数の学習済みモデルを用いて、溶接情報の出力と、補正値の出力をそれぞれ行ってよい。
 本発明において、上述した1以上の実施形態の機能を実現するためのプログラムやアプリケーションを、ネットワークまたは記憶媒体等を用いてシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。
 また、1以上の機能を実現する回路によって実現してもよい。なお、1以上の機能を実現する回路としては、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)が挙げられる。
 以上の通り、本明細書には次の事項が開示されている。
 (1) 溶融池を形成する溶接の溶接制御方法であって、
 前記溶融池を含む画像データを取得する取得工程と、
 取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、
 前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、
 前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、
 前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、
を有することを特徴とする溶接制御方法。
 この構成によれば、外乱が生じる溶接状況下においても、溶接品質を確保でき、かつ溶接作業能率の良好な自動溶接が可能となる。
 (2) 前記複数の特徴点は、前記境界の開先面上の両端の位置、または、前記境界上の溶接方向の最も溶融池が先行している位置から特定される、ことを特徴とする(1)に記載の溶接制御方法。
 この構成によれは、溶融池の境界周辺の特徴点を用いた溶接の適正可否を判定することが可能となる。
 (3) 前記算出工程において、前記複数の特徴点の情報を用いて、角度、曲率、距離、面積のうちの少なくともいずれかの幾何学量データを算出する、ことを特徴とする(1)または(2)に記載の溶接制御方法。
 この構成によれば、複数の特徴点から特定される様々な幾何学量データに基づいて、溶接の適正可否を判定することが可能となる。
 (4) 前記溶接の際にウィービングを用いる場合、前記算出工程において、予め定めたウィービング端点からもう一方のウィービング端点へ移動する所定の範囲における前記複数の特徴点の情報に基づいて、幾何学量データを算出する、ことを特徴とする(1)から(3)のいずれかに記載の溶接制御方法。
 この構成によれば、ウィービングによる影響を考慮して、特徴点を特定することが可能となる。
 (5) 前記補正工程において補正される溶接条件は、溶接電流、アーク電圧、またはウィービングに係る条件を少なくとも含み、
 前記ウィービングに係る条件は、ウィービング幅、ウィービング周波数、端停止時間、両端間の速度、ウィービング軌跡のうちのいずれかを含む、ことを特徴とする(1)から(4)のいずれかに記載の溶接制御方法。
 この構成によれば、溶接の適正可否に応じて、溶接電流、アーク電圧、またはウィービングに係る条件などの溶接条件を制御することが可能となる。
 (6) 前記閾値は、予め定めた固定値、または、開先のギャップおよび目違い量のうちの少なくとも一方に基づいて規定される値である、ことを特徴とする(1)から(5)のいずれかに記載の溶接制御方法。
 この構成によれば、溶接の適正可否を判定するための閾値を任意に設定可能となる。
 (7) 前記幾何学量データから構成される時系列データに対し、異常理由に対応して予め定めた1または複数の異常検知手段を用いて異常を検知する異常検知工程と、
 前記1または複数の異常検知手段による検知結果に基づいて、前記時系列データにおける異常の発生を判定する第2の判定工程と、
を有し、
 前記補正工程において更に、前記第2の判定工程における判定結果に基づいて、溶接条件を補正することを特徴とする(1)から(6)のいずれかに記載の溶接制御方法。
 この構成によれば、外乱に起因する異常の発生を判定し、当該判定結果に応じて溶接条件を補正することが可能となる。
 (8) 前記1または複数の異常検知手段は、
 前記画像データからの特徴点の認識失敗を前記異常理由として、予め定めた時間内における1または複数の画像データにおける特徴点の検出率が閾値以下であるか否かを判定する手段と、
 前記画像データからの特徴点の誤認識を前記異常理由として、所定の外れ値識別方法で定めた範囲外か否かを判定する手段と、
 前記画像データからの特徴点の誤認識を前記異常理由として、隣接する画像データで認識された対応する特徴点間の位置が閾値以上に異なるか否を判定する手段と、
のうち、少なくとも1つを含むことを特徴とする(7)に記載の溶接制御方法。
 この構成によれば、画像データに含まれる外乱に起因した様々な異常の理由に対応して、異常判定を行うことが可能となる。
 (9) 前記幾何学量データは、前記画像データに含まれる、1のオブジェクトから得られる1または複数の特徴点の座標、複数の特徴点間の距離、1のオブジェクトから得られる複数の特徴点で形成される面積、および、異なるオブジェクトにおける特徴点間の距離のうちの少なくとも1つであることを特徴とする(8)に記載の溶接制御方法。
 この構成によれば、画像データから特定される各オブジェクトの特性を捉えた幾何学量データを用いて異常判定を行うことが可能となる。
 (10) 前記特定工程において、学習済みモデルを用いて、画像データから前記複数の特徴点の情報を取得し、
 前記学習済みモデルは、画像データと、当該画像データから取得される特徴点の情報とを関連付けた学習データを用いて学習処理が行われることにより、画像データを入力とし、当該画像データに対応する特徴点の情報を出力するように生成されていることを特徴とする(1)から(9)のいずれかに記載の溶接制御方法。
 この構成によれば、学習済みモデルを用いて、画像データにおける特徴点を取得することが可能となる。
 (11) 前記判定工程において、学習済みモデルを用いて、溶接の適正可否を示すラベル情報を取得し、
 前記判定工程において、前記ラベル情報に基づいて、前記溶接の適正可否を判定し、
 前記学習済みモデルは、画像データ、当該画像データから取得される特徴点の情報、および当該画像データにて示される溶接の適正可否を示すラベル情報を関連付けた学習データを用いて学習処理が行われることにより、画像データを入力とし、当該画像データにて示される溶接の適正可否を示すラベル情報を出力するように生成されていることを特徴とする(1)から(9)のいずれかに記載の溶接制御方法。
 この構成によれば、学習済みモデルを用いて、画像データに基づく溶接の適正可否を取得することが可能となる。
 (12) 前記判定工程において、学習済みモデルを用いて、溶接条件の補正値を取得し、
 前記学習済みモデルは、画像データ、当該画像データから取得される特徴点の情報、および当該画像データにて示される溶接の適正可否に応じた補正量を関連付けた学習データを用いて学習処理が行われることにより、画像データを入力とし、当該画像データにて示される溶接の適正可否に応じた補正量を出力するように生成されていることを特徴とする(1)から(9)のいずれかに記載の溶接制御方法。
 この構成によれば、学習済みモデルを用いて、画像データに基づく溶接の適正可否の判定結果に応じた溶接条件に対する補正量を取得することが可能となる。
 (13) 溶融池を形成する溶接の溶接条件を制御する制御装置であって、
 溶融池を含む画像データを取得する取得部と、
 取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定部と、
 前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出部と、
 前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定部と、
 前記判定部による判定結果に基づいて、溶接条件を補正する補正部と、
を有することを特徴とする制御装置。
 この構成によれば、外乱が生じる溶接状況下においても、溶接品質を確保でき、かつ溶接作業能率の良好な自動溶接が可能となる。
 (14) (13)に記載の制御装置を含んで構成される溶接システム。
 この構成によれば、外乱が生じる溶接状況下においても、溶接品質を確保でき、かつ溶接作業能率の良好な自動溶接が可能な溶接システムを提供することができる。
 (15) コンピュータに、
 溶接の際に生じる溶融池を含む画像データを取得する取得工程と、
 取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、
 前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、
 前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、
 前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、
を実行させるためのプログラム。
 この構成によれば、外乱が生じる溶接状況下においても、溶接品質を確保でき、かつ溶接作業能率の良好な自動溶接が可能となる。
 (16) (1)から(12)のいずれかに記載の溶接制御方法にて補正された溶接条件を用いて溶接を行う制御工程を有する溶接方法。
 この構成によれば、外乱が生じる溶接状況下においても、溶接品質を確保でき、かつ溶接作業能率の良好な自動溶接が可能な溶接方法を提供することができる。
 以上、各種の実施の形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上記実施の形態における各構成要素を任意に組み合わせてもよい。
 なお、本出願は、2022年3月30日出願の日本特許出願(特願2022-057504)に基づくものであり、その内容は本出願の中に参照として援用される。
50 溶接システム
100 可搬型溶接ロボット
200 溶接トーチ
211 溶接ワイヤ
300 送給装置
400 溶接電源
500 シールドガス供給源
600 ロボット制御装置
700 視覚センサ
800 データ処理装置
810 本体
811 CPU
812 GPU
813 ROM
814 RAM
815 不揮発性記憶装置
815A 学習プログラム
815B 学習済みモデル
815C 情報生成プログラム
815D 画像データ
816 入出力インタフェース
817 通信インタフェース
818 映像出力インタフェース
819 算出部
820 入力部
830 表示部
W ワーク

Claims (16)

  1.  溶融池を形成する溶接の溶接制御方法であって、
     前記溶融池を含む画像データを取得する取得工程と、
     取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、
     前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、
     前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、
     前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、
    を有することを特徴とする溶接制御方法。
  2.  前記複数の特徴点は、前記境界の開先面上の両端の位置、または、前記境界上の溶接方向の最も溶融池が先行している位置から特定される、ことを特徴とする請求項1に記載の溶接制御方法。
  3.  前記算出工程において、前記複数の特徴点の情報を用いて、角度、曲率、距離、面積のうちの少なくともいずれかの幾何学量データを算出する、ことを特徴とする請求項1に記載の溶接制御方法。
  4.  前記溶接の際にウィービングを用いる場合、前記算出工程において、予め定めたウィービング端点からもう一方のウィービング端点へ移動する所定の範囲における前記複数の特徴点の情報に基づいて、幾何学量データを算出する、ことを特徴とする請求項1に記載の溶接制御方法。
  5.  前記補正工程において補正される溶接条件は、溶接電流、アーク電圧、またはウィービングに係る条件を少なくとも含み、
     前記ウィービングに係る条件は、ウィービング幅、ウィービング周波数、端停止時間、両端間の速度、ウィービング軌跡のうちのいずれかを含む、ことを特徴とする請求項1に記載の溶接制御方法。
  6.  前記閾値は、予め定めた固定値、または、開先のギャップおよび目違い量のうちの少なくとも一方に基づいて規定される値である、ことを特徴とする請求項1に記載の溶接制御方法。
  7.  前記幾何学量データから構成される時系列データに対し、異常理由に対応して予め定めた1または複数の異常検知手段を用いて異常を検知する異常検知工程と、
     前記1または複数の異常検知手段による検知結果に基づいて、前記時系列データにおける異常の発生を判定する第2の判定工程と、
    を有し、
     前記補正工程において更に、前記第2の判定工程における判定結果に基づいて、溶接条件を補正することを特徴とする請求項1に記載の溶接制御方法。
  8.  前記1または複数の異常検知手段は、
     前記画像データからの特徴点の認識失敗を前記異常理由として、予め定めた時間内における1または複数の画像データにおける特徴点の検出率が閾値以下であるか否かを判定する手段と、
     前記画像データからの特徴点の誤認識を前記異常理由として、所定の外れ値識別方法で定めた範囲外か否かを判定する手段と、
     前記画像データからの特徴点の誤認識を前記異常理由として、隣接する画像データで認識された対応する特徴点間の位置が閾値以上に異なるか否を判定する手段と、
    のうち、少なくとも1つを含むことを特徴とする請求項7に記載の溶接制御方法。
  9.  前記幾何学量データは、前記画像データに含まれる、1のオブジェクトから得られる1または複数の特徴点の座標、複数の特徴点間の距離、1のオブジェクトから得られる複数の特徴点で形成される面積、および、異なるオブジェクトにおける特徴点間の距離のうちの少なくとも1つであることを特徴とする請求項8に記載の溶接制御方法。
  10.  前記特定工程において、学習済みモデルを用いて、画像データから前記複数の特徴点の情報を取得し、
     前記学習済みモデルは、画像データと、当該画像データから取得される特徴点の情報とを関連付けた学習データを用いて学習処理が行われることにより、画像データを入力とし、当該画像データに対応する特徴点の情報を出力するように生成されていることを特徴とする請求項1から9のいずれか一項に記載の溶接制御方法。
  11.  前記判定工程において、学習済みモデルを用いて、溶接の適正可否を示すラベル情報を取得し、
     前記判定工程において、前記ラベル情報に基づいて、前記溶接の適正可否を判定し、
     前記学習済みモデルは、画像データ、当該画像データから取得される特徴点の情報、および当該画像データにて示される溶接の適正可否を示すラベル情報を関連付けた学習データを用いて学習処理が行われることにより、画像データを入力とし、当該画像データにて示される溶接の適正可否を示すラベル情報を出力するように生成されていることを特徴とする請求項1から9のいずれか一項に記載の溶接制御方法。
  12.  前記判定工程において、学習済みモデルを用いて、溶接条件の補正値を取得し、
     前記学習済みモデルは、画像データ、当該画像データから取得される特徴点の情報、および当該画像データにて示される溶接の適正可否に応じた補正量を関連付けた学習データを用いて学習処理が行われることにより、画像データを入力とし、当該画像データにて示される溶接の適正可否に応じた補正量を出力するように生成されていることを特徴とする請求項1から9のいずれか一項に記載の溶接制御方法。
  13.  溶融池を形成する溶接の溶接条件を制御する制御装置であって、
     溶融池を含む画像データを取得する取得部と、
     取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定部と、
     前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出部と、
     前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定部と、
     前記判定部による判定結果に基づいて、溶接条件を補正する補正部と、
    を有することを特徴とする制御装置。
  14.  溶融池を形成する溶接の溶接条件を制御する制御装置を含んで構成される溶接システムであって、
     前記制御装置は、
     溶融池を含む画像データを取得する取得部と、
     取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定部と、
     前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出部と、
     前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定部と、
     前記判定部による判定結果に基づいて、溶接条件を補正する補正部と、
    を有することを特徴とする溶接システム。
  15.  コンピュータに、
     溶接の際に生じる溶融池を含む画像データを取得する取得工程と、
     取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、
     前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、
     前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、
     前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、
    を実行させるためのプログラム。
  16.  溶融池を形成する溶接の溶接制御方法にて補正された溶接条件を用いて溶接を行う制御工程を有する溶接方法であって、
     前記溶接制御方法は、
     前記溶融池を含む画像データを取得する取得工程と、
     取得した前記画像データに基づいて、少なくとも溶接の進行方向側の溶融池と未溶融部の境界近傍における複数の特徴点を特定する特定工程と、
     前記複数の特徴点の情報に基づいて、幾何学量データを算出する算出工程と、
     前記幾何学量データと予め定めた閾値に基づいて、溶接の適正可否を判定する判定工程と、
     前記判定工程における判定結果に基づいて、溶接条件を補正する補正工程と、
    を有することを特徴とする溶接方法。
PCT/JP2023/004866 2022-03-30 2023-02-13 自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法 WO2023188889A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022057504A JP2023149112A (ja) 2022-03-30 2022-03-30 自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法
JP2022-057504 2022-03-30

Publications (1)

Publication Number Publication Date
WO2023188889A1 true WO2023188889A1 (ja) 2023-10-05

Family

ID=88200960

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/004866 WO2023188889A1 (ja) 2022-03-30 2023-02-13 自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法

Country Status (2)

Country Link
JP (1) JP2023149112A (ja)
WO (1) WO2023188889A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019098341A (ja) * 2017-11-28 2019-06-24 株式会社ダイヘン アークスタート調整装置、溶接システム、アークスタート調整方法及びコンピュータプログラム
JP2020182966A (ja) * 2019-05-08 2020-11-12 株式会社東芝 判定装置、判定システム、溶接システム、判定方法、プログラム、及び記憶媒体
JP2020182963A (ja) * 2019-05-08 2020-11-12 三菱重工業株式会社 溶接制御装置、溶接制御方法、および溶接制御プログラム
JP2021079444A (ja) * 2019-11-19 2021-05-27 株式会社神戸製鋼所 自動溶接システム、自動溶接方法、溶接支援装置、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019098341A (ja) * 2017-11-28 2019-06-24 株式会社ダイヘン アークスタート調整装置、溶接システム、アークスタート調整方法及びコンピュータプログラム
JP2020182966A (ja) * 2019-05-08 2020-11-12 株式会社東芝 判定装置、判定システム、溶接システム、判定方法、プログラム、及び記憶媒体
JP2020182963A (ja) * 2019-05-08 2020-11-12 三菱重工業株式会社 溶接制御装置、溶接制御方法、および溶接制御プログラム
JP2021079444A (ja) * 2019-11-19 2021-05-27 株式会社神戸製鋼所 自動溶接システム、自動溶接方法、溶接支援装置、及びプログラム

Also Published As

Publication number Publication date
JP2023149112A (ja) 2023-10-13

Similar Documents

Publication Publication Date Title
JP5981143B2 (ja) ロボットツールの制御方法
Nele et al. An image acquisition system for real-time seam tracking
EP3176537A1 (en) System for automated in-process inspection of welds
Villán et al. Low-cost system for weld tracking based on artificial vision
US20230241703A1 (en) Welding-information learning-model generation method, learning model, program, and welding system
CN114007792B (zh) 补焊控制设备和补焊控制方法
CN108381068A (zh) 一种焊接机械手焊缝图像伺服示教装置及示教方法
JP7386461B2 (ja) リペア溶接検査装置およびリペア溶接検査方法
CN114007793B (zh) 补焊控制设备和补焊控制方法
KR102584173B1 (ko) 가반형 용접 로봇의 용접 제어 방법, 용접 제어 장치, 가반형 용접 로봇 및 용접 시스템
CN114746207B (zh) 补焊设备以及补焊方法
WO2023188889A1 (ja) 自動溶接の溶接制御方法、制御装置、溶接システム、プログラム、および溶接方法
KR100543316B1 (ko) 레이저 비전센서를 이용한 에스에이더블유 협개선 자동 용접 시스템
KR20120054217A (ko) 파이프 용접선 추적 방법 및 그 시스템
CN114746208A (zh) 补焊设备以及补焊方法
JP2023001642A (ja) 学習済みモデルの生成方法、学習装置、溶接ロボットの制御装置、システム、学習済みモデル、およびプログラム
JP2023095820A (ja) 学習モデルの生成方法、制御装置、学習モデル、溶接システム、およびプログラム
WO2023188890A1 (ja) 異常判定方法、異常時の処理方法、情報処理装置、溶接システム、およびプログラム
CN115210036A (zh) 焊道外观检查设备、焊道外观检查方法、程序以及焊道外观检查系统
Seyffarth et al. Image processing for automated robotic welding
JPH09295146A (ja) ウィービング溶接における溶接線倣い方法
WO2022065364A1 (ja) 溶接計測システムおよび溶接計測方法
WO2024122231A1 (ja) 溶接装置及び溶接制御プログラム
JP2004074224A (ja) 溶接ロボット装置
CN115210033B (zh) 焊道外观检查装置、焊道外观检查方法、程序和焊道外观检查系统

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23778923

Country of ref document: EP

Kind code of ref document: A1