WO2023210745A1 - 検査システム、検査方法、学習方法、及びプログラム - Google Patents

検査システム、検査方法、学習方法、及びプログラム Download PDF

Info

Publication number
WO2023210745A1
WO2023210745A1 PCT/JP2023/016637 JP2023016637W WO2023210745A1 WO 2023210745 A1 WO2023210745 A1 WO 2023210745A1 JP 2023016637 W JP2023016637 W JP 2023016637W WO 2023210745 A1 WO2023210745 A1 WO 2023210745A1
Authority
WO
WIPO (PCT)
Prior art keywords
product
images
inspection
inspected
appearance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2023/016637
Other languages
English (en)
French (fr)
Inventor
洋平 大谷
歩紀 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asahi Kasei Corp
Asahi Chemical Industry Co Ltd
Original Assignee
Asahi Kasei Corp
Asahi Chemical Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asahi Kasei Corp, Asahi Chemical Industry Co Ltd filed Critical Asahi Kasei Corp
Publication of WO2023210745A1 publication Critical patent/WO2023210745A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/952Inspecting the exterior surface of cylindrical bodies or wires
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Definitions

  • the present invention relates to an inspection system, an inspection method, a learning method, and a program.
  • Patent Document 1 discloses a technique for inspecting a cylindrical steel pipe for surface defects based on an image obtained by an imaging unit.
  • Patent Document 2 discloses a technology for determining whether a twisted packaged product is a good product or a defective product based on a captured image of a twisted packaged product in which a packaging film wrapped around an object is twisted at the end.
  • Patent Document 3 and Patent Document 4 disclose a technique for detecting the presence or absence of winding wrinkles in a sheet being wound around a winding core using an image obtained by capturing a sheet conveyed to be wound around a winding core. has been done.
  • An object of the present invention is to provide a technique for inspecting the appearance of a target product with higher precision.
  • An inspection system is an inspection system for inspecting the appearance of a rolled product formed by rolling a product, and the inspection system inspects an aspect of the appearance of the target product, which is the rolled product to be inspected.
  • a plurality of inspection target images obtained by taking images from a plurality of directions along the circumferential direction are obtained, and a plurality of inspection target images obtained by taking images of the external appearance of the scroll product from a plurality of directions along the circumferential direction are obtained in the past.
  • the present invention includes a processor that obtains an output of inspection information regarding the appearance of the target product by inputting the plurality of inspection target images to a learning model machine-learned using a plurality of product images as training data.
  • An inspection method is an inspection method that is executed in a system having a processor for inspecting the appearance of a rolled product formed by rolling a product, the processor being an inspection target.
  • a plurality of images to be inspected are obtained by capturing images of the external side of the target product, which is a roll product, from multiple directions along the circumferential direction, and By inputting the plurality of inspection target images into a learning model that is machine learned using a plurality of product images obtained by capturing images from a plurality of directions along the direction as training data, inspection information regarding the appearance of the target product is obtained. and obtaining an output.
  • a program according to an aspect of the present disclosure is a program for executing an inspection method implemented in a system having a processor for inspecting the appearance of a rolled product formed by rolling the product, the program
  • a learning model that is machine-learned using a plurality of product images obtained by capturing images of the external appearance from a plurality of directions along the circumferential direction as training data, Obtaining an output of inspection information regarding appearance.
  • a learning method is a learning method for inspecting the external appearance of a rolled product formed by rolling a product, wherein a processor in a system inspects a side surface of the external appearance of the rolled product in a circumferential direction. acquiring a plurality of product images obtained by taking images from a plurality of directions along the line, and using the acquired plurality of product images as training data, inspection information regarding the appearance of the target product, which is the rolled product to be inspected. Generate a machine learned learning model that outputs .
  • FIG. 1 is a conceptual diagram showing a schematic configuration of a system according to an embodiment.
  • FIG. 2 is a conceptual diagram for explaining the appearance of a scroll product according to an embodiment.
  • FIG. 2 is a conceptual diagram for explaining the appearance of a scroll product according to an embodiment.
  • FIG. 2 is a conceptual diagram for explaining the appearance of a scroll product according to an embodiment.
  • FIG. 2 is a conceptual diagram for explaining the appearance of a scroll product according to an embodiment.
  • FIG. 2 is a conceptual diagram for explaining the appearance of a scroll product according to an embodiment.
  • FIG. 1 is a block diagram showing the hardware configuration of a computer according to an embodiment.
  • FIG. 1 is a block diagram showing a functional configuration of a computer according to an embodiment.
  • FIG. 2 is a conceptual diagram for explaining a learning model according to an embodiment.
  • FIG. 1 is a block diagram showing the configuration of an inspection system according to an embodiment. It is an example of the table which shows the information acquired by the computer (aggregation part) of the inspection system concerning one embodiment. It is an example of the graph which shows the information acquired by the computer (statistical processing part) of the test
  • FIG. 1 is a block diagram showing the configuration of an inspection system according to an embodiment.
  • FIG. 1 is a block diagram showing the configuration of an inspection system according to an embodiment.
  • FIG. 1 is a block diagram showing the configuration of an inspection system according to an embodiment. It is an example of the table which shows the information acquired by the computer (determination part) of the inspection system concerning one embodiment.
  • the product means a manufactured item.
  • the product includes, for example, a sheet, film, foil, or fabric.
  • the sheet may be, for example, kitchen paper, toilet paper, wallpaper, printed media (eg, paper), or non-woven fabric.
  • the film may be, for example, a wrap film or a film tape.
  • the foil may be, for example, aluminum foil.
  • the fabric may be, for example, a woven fabric.
  • Scroll product A product formed by being rolled.
  • a rolled product may be formed by winding the product around a core, or may be formed by winding the product without including a core.
  • the scroll product may be formed in, but is not limited to, a cylindrical or cylindrical shape. However, it is preferable that the scroll product is formed axially symmetrically with respect to a central axis, such as a columnar shape or a cylindrical shape. Since the rolled product has a central axis and is formed axially symmetrically with respect to the central axis, the external appearance of the target product to be inspected can be inspected along the circumferential direction with respect to the central axis of the target product.
  • a plurality of inspection target images obtained by capturing images from multiple directions constitute similar image data, although they are images obtained by capturing different parts of the same target product. Therefore, as described later, the image data of multiple images to be inspected is input in parallel to different convolutional layer blocks, and the values obtained by convolution processing of each convolutional layer block are further combined and input to the fully connected layer. By executing the process, it becomes possible to inspect the appearance of the target product with higher accuracy.
  • Target product A scroll product that is subject to inspection.
  • Scroll products that are not subject to inspection include, for example, a scroll product for capturing images that serve as teacher data used in machine learning, which will be described later.
  • Product image An image obtained by imaging a scroll product.
  • the product image may particularly be an image of the appearance of the rolled product.
  • Image to be inspected An image taken of the target product.
  • the inspection target image is an image used for inspecting the appearance of the target product.
  • the system 1 is an inspection system for inspecting the external appearance of a target product, for example, based on a plurality of images obtained by imaging the target product, which is a rolled product P to be inspected.
  • the system 1 includes, for example, a computer 10 and an imaging device 20.
  • the computer 10 acquires an image of the target product captured by the imaging device 20, and performs an inspection regarding the appearance of the target product based on the image.
  • the computer 10 and the imaging device 20 are connected wirelessly or by wire so that they can mutually transmit and receive various data including images and control data.
  • the computer 10 and the imaging device 20 may be able to communicate with each other via a network such as a private network or a public network.
  • the system 1 includes an imaging device 20 separate from the computer 10, but the computer 10 may have the imaging device 20 built-in.
  • the computer 10 may inspect the appearance of the target product based on an image of the target product acquired from a device other than the imaging device 20.
  • the system 1 may not include the imaging device 20.
  • the system 1 may have a configuration other than that shown in FIG.
  • the system 1 may include an irradiation device for irradiating irradiation light toward a target product.
  • the irradiation device may be built into the imaging device 20 or may be provided separately from the imaging device 20.
  • the system 1 may include a transport device for transporting the target product.
  • the system 1 may include a plurality of imaging devices 20.
  • the imaging device 20 is configured to obtain an image of the rolled product P by capturing an image of the external appearance of the rolled product P.
  • the imaging device 20 is configured using, for example, an area sensor or the like.
  • the cylindrical or cylindrical rolled product P is conveyed while rotating around the axial direction d1 of the shape, and the imaging device 20 detects the side surface of the external appearance of the rolled product P in the circumferential direction with the central axis as a reference.
  • a plurality of images are obtained by capturing images from a plurality of directions along d2.
  • a conveyor (not shown) is used as a transport device.
  • the rolled product P may be directly placed on the conveyor and conveyed, or may be placed on the conveyor and conveyed via another member such as a support member that supports the rolled product P.
  • the support member may be, for example, a bucket (container) that can accommodate the rolled product P.
  • the bucket may have, for example, a bottom plate in the storage portion for the rolled product P, and plates on the front and rear sides in the transport direction.
  • the rolled product P is conveyed, for example, in a direction d3 perpendicular to the axial direction of the rolled product P.
  • the rolled product P may be conveyed while rolling on the conveyor in the circumferential direction d2, or may be conveyed without rolling.
  • the imaging device 20 captures images of the imaging area continuously from the time when the rolled product P enters the imaging area of the imaging device 20 until the time when the rolled product P leaves the imaging area. A plurality of regions of the side surface extending in the circumferential direction are imaged.
  • the imaging area is set to a size such that the rolled product P, which is conveyed while rolling, makes at least one revolution.
  • the image capturing time can be shortened and the inspection speed can be increased, compared to the case where the product is conveyed without rolling.
  • the line sensor has a line speed restriction, and a machine that rotates precisely at a constant speed for photographing is required.
  • limitations such as mechanical mechanisms, it may be difficult to obtain product images using line sensors while meeting certain image quality and productivity requirements.
  • the imaging device 20 when the imaging device 20 is configured with an area sensor, by imaging the rolled product P while being transported as described above, it is possible to maintain a constant image quality and production without being subject to the above-mentioned limitations of the line sensor. It is possible to obtain product images while meeting the requirements for product quality.
  • a plurality of (N) imaging devices 20 are installed, and from the time the rolled product P enters the imaging area of the imaging device 20 to the time the rolled product P leaves the imaging area, the outer appearance of the rolled product P is captured in the circumferential direction.
  • a side surface extending in the direction is imaged by N imaging devices 20 from N directions.
  • the number and installation positions of the imaging devices 20 are set such that the entire circumferentially extending side surface of the scroll product P can be imaged by the plurality of imaging devices 20 .
  • a plurality of regions of the side surface extending in the circumferential direction in the external appearance of the rolled product P are imaged by the imaging device 20, and are captured as a plurality of product images (or a plurality of inspection target images). be obtained.
  • an image obtained by combining at least a portion of a plurality of product images acquired by the imaging device 20 for the roll product P or an image obtained by combining at least a portion of a plurality of images to be inspected is an appearance of the entire circumference of the side surface of the roll product P.
  • the imaging device 20 performs imaging so as to include the following.
  • the plurality of images of the scroll product P acquired by the imaging device 20 as described above are transmitted to the computer 10.
  • the computer 10 is configured by an information processing device such as a terminal device or a server device.
  • the computer 10 may be configured by one information processing device (or computer; the same applies hereinafter), or may be configured by multiple information processing devices using cloud computing technology, distributed computing technology, etc. .
  • the computer 10 Based on the plurality of images of the obtained scroll product P, the computer 10 performs processing for inspecting the appearance of the target product, processing for generating a learning model used for the inspection, and the like.
  • the computer 10 for the test and the computer 10 for generating the learning model may be different devices or may be the same device.
  • the processor of the computer 10 first acquires the image transmitted from the imaging device 20 as described above.
  • the image includes a plurality of inspection target images obtained by capturing images of the external appearance of the target product, which is the rolled product P to be inspected, from a plurality of directions along the circumferential direction.
  • the processor of the computer 10 uses a plurality of machine learning models using a plurality of product images obtained by taking images of the external side of the rolled product P from a plurality of directions along the circumferential direction as training data in the past. By inputting an image to be inspected, inspection information regarding the appearance of the target product is output. Details of the process of inspecting the appearance of the target product in this embodiment will be described later.
  • inspection information regarding the appearance of the target product based on a plurality of inspection target images obtained by capturing images of the external appearance of the target product, which is the scroll product P to be inspected, from multiple directions along the circumferential direction. That is, instead of outputting inspection information based on each of a plurality of images to be inspected for one target product, inspection information is output based on a plurality of images to be inspected. As a result, for example, it is possible to output inspection information that cannot be specified without checking the entirety of a plurality of images to be inspected. That is, according to this embodiment, it is possible to inspect the appearance of the target product with higher accuracy.
  • the processor of the computer 10 first uses a plurality of images obtained by taking images of the external side of the scroll product P from a plurality of directions along the circumferential direction as training data.
  • the product images obtained as training data include, for example, an image obtained by capturing a scroll product P with no abnormality in appearance (a good scroll product), and an image obtained by capturing an image of a scroll product P with an abnormality in appearance (a defective product).
  • no abnormality in appearance refers not only to the complete absence of folding defects, cutting defects, tape attachment defects, or wrinkles described below, but also to the appearance of the product in terms of product quality or aesthetics.
  • the processor of the computer 10 uses the plurality of product images as training data to generate a learning model that is subjected to machine learning so as to output inspection information regarding the appearance of the target product, which is the scroll product P to be inspected. Details of the learning model generation process in this embodiment will be described later.
  • FIG. 2A shows the appearance of a roll product P1 that is a good product with no defective items that can be identified from its appearance.
  • the rolled product P1 is formed by winding the product around the core S1.
  • the longitudinal (circumferential) end of the wound product (the end of the product on the winding core S1, i.e., the terminal end) is located in the region R1 (and in other regions of the end E1). ), it wraps successfully in the intended way.
  • the end portion in the longitudinal direction of the product is not limited to being folded back, but may have any shape as long as it is designed to make it easier to take out the rolled product.
  • Such an end shape may be, for example, a V-shaped end, and this V-like shape may be formed by cutting the end into a V-shape.
  • the end portion may be realized by folding a cut surface having a linear shape outward or inward.
  • the tape T1 is normally applied to the surface of the rolled product P1 (the surface of the product) in an intended manner so as to fix the longitudinal ends of the wrapped product.
  • the defective items that can be identified from the appearance include, for example, at least some of the following: defective folding of the product, defective cutting of the product, wrinkles of the product, and defective tape attachment to the product.
  • FIG. 2B shows the appearance of a rolled product P2 that has a folding defect.
  • FIG. 2B shows that in region R2 of end E2, which is the end of the product, end E2 is folded back in an unintended and abnormal manner (that is, not folded back normally). .
  • FIG. 2C shows the appearance of a rolled product P3 that has a defective product cut.
  • FIG. 2C shows that the end E3 of the product is not cut properly, and as a result, the end E3 of the product appears in a region R3 that is different from the region that would appear if it were cut normally. It is shown that.
  • FIG. 2D shows the appearance of the rolled product P4 with product wrinkles.
  • FIG. 2D shows that the rolled product P4 has multiple wrinkles in region R4.
  • FIG. 2E shows the appearance of a rolled product P5 that has poor tape attachment to the product.
  • FIG. 2E shows that the tape T5 appears in a region R5 that is different from the region that would appear if it was applied normally.
  • the computer 10 includes a processor 22, a storage device 24, a RAM 26, a display device 28, a communication I/F section 30, and an input device 32.
  • the computer 10 may not include some of the configurations shown in FIG. 3, or may include other configurations.
  • the processor 22 executes the computer program stored in the storage device 24 to perform each calculation process shown in this embodiment. Therefore, the computer programs stored in the processor 22 and the storage device 24 work together to realize various functions that the computer 10 has.
  • the processor 22 includes, for example, an ASIC (Application Specific Integrated Circuit) including a plurality of calculation cores, a GPU (Graphics Processing Unit), or an FPGA (Field Programmable Gate Array).
  • ASIC Application Specific Integrated Circuit
  • GPU Graphics Processing Unit
  • FPGA Field Programmable Gate Array
  • the storage device 24 stores each instruction including a computer program for executing each calculation process shown in this embodiment and other information.
  • the storage device 24 is composed of a nonvolatile semiconductor storage element (non-temporary storage element) that can electrically record and read information, such as NAND flash memory, FeRAM, and MRAM, or a magnetic storage element, such as HDD (Hard Disc Drive). be done.
  • the RAM 26 is a volatile semiconductor memory element such as SRAM (Static Random Access Memory) and DRAM (Dynamic Random Access Memory) for temporarily storing data and other information used for each calculation process etc. shown in this embodiment. It consists of
  • the display device 28 includes a display for displaying the calculation results by the processor 22.
  • the communication I/F section 30 is an interface through which the computer 10 communicates with an external device via a communication path such as a network.
  • the input device 32 is a device for receiving input from a user.
  • the input device 32 may be, for example, a keyboard or the like.
  • the above configuration included in the computer 10 is connected to each other via a bus B so that data can be transmitted and received.
  • some components may be provided separately from the computer 10 and configured to be able to communicate with the computer 10.
  • the functions of the computer 10 will be explained with reference to FIG.
  • the computer 10 has a storage section 101, an image acquisition section 102, a learning section 103, and a determination section 104 as main functional components.
  • the computer 10 may have other functional configurations that an information processing device such as a general information processing device or a dedicated device has.
  • the functional configuration of the computer 10 is configured such that, for example, a control device such as a processor 22 included in the computer 10 reads and executes a computer program stored in a storage unit such as the storage device 24, thereby controlling a computer program (software) and hardware. This will be realized through the collaboration of
  • the storage unit 101 stores various data including data acquired by the computer 10 and data generated by the computer 10.
  • the storage unit 101 stores, for example, image data of the rolled product P, learning model data, and inspection information regarding the appearance of the target product.
  • the image acquisition unit 102 acquires a plurality of product images obtained by imaging the appearance of the rolled product P.
  • the plurality of product images are, for example, images obtained by capturing images of the external appearance of the rolled product P from a plurality of directions along the circumferential direction.
  • the image acquisition unit 102 may acquire the product image from the imaging device 20 or from another external device.
  • the image acquisition unit 102 also performs preprocessing on the acquired product image for processing by the learning unit 103 or the determination unit 104, which will be described later (for example, cutting out an area in the product image where the scroll product P is shown). .
  • the image obtained by combining at least a portion of the plurality of product images acquired by the image acquisition unit 102 for the roll product P or the image obtained by combining at least a portion of the plurality of inspection target images includes the appearance of the entire circumference of the side surface of the roll product P.
  • the imaging device 20 performs imaging as shown in FIG.
  • the plurality of product images are captured by the imaging device 20 such that at least a portion of the plurality of product images and at least a portion of the plurality of inspection target images include circumferential ends of the rolled product;
  • the image is also acquired by the image acquisition unit 102.
  • a learning model is generated that is used to detect defects related to the circumferential edge (for example, product folding defects, product cutting defects). It is possible to do so. Moreover, it is possible to detect defects related to circumferential ends using the learning model.
  • the learning unit 103 generates a learning model subjected to machine learning so as to output inspection information regarding the appearance of the target product, which is the rolled product P to be inspected. More specifically, the learning unit 103 executes image recognition processing using a convolutional neural network on training data including a plurality of product images, and calculates the feature amounts of the images of the rolled products P corresponding to non-defective products and defective products. A learning model (convolutional neural network) trained by machine learning is generated. That is, in the present embodiment, the learning unit 103 uses the plurality of product images acquired by the image acquisition unit 102 as training data to train the machine to output inspection information regarding the appearance of the target product, which is the scroll product P to be inspected. Build (generate) a trained learning model.
  • the convolutional neural network N has a layer L1 and a layer L2.
  • Layer L1 has convolutional layer blocks B1 to B4.
  • the number of convolutional layer blocks included in layer L1 is not limited to four, and may be less than four, or five or more.
  • Each of the convolutional layer blocks B1 to B4 is a composite of, for example, a convolutional layer, a pooling layer, and a ReLU layer, and has a plurality of filters.
  • Layer L2 has a fully connected layer.
  • a plurality of images (product images) I1 to I4 obtained by capturing the external side of the scroll product P from a plurality of directions along the circumferential direction and classes that are a plurality of predefined classification categories are used as a teacher. It is input to the convolutional neural network N as data. Specifically, image I1 is input to convolution layer block B1, image I2 is input to convolution layer block B2, image I3 is input to convolution layer block B3, and image I4 is input to convolution layer block B4. be done.
  • the class is, for example, information corresponding to inspection information regarding the appearance of the rolled product P.
  • Each of the convolution layer blocks B1 to B4 performs convolution processing (filter processing) on the input product image, extracts the feature amount of the product image, and outputs a vector (matrix) of the feature amount as a value of the processing result.
  • the input product image may be, for example, a color image or a gray image.
  • the color image may be, for example, data in a three-dimensional array of 3 channels x number of vertical pixels x number of horizontal pixels.
  • the gray image may be, for example, data in a three-dimensional array of 1 channel x number of vertical pixels x number of horizontal pixels.
  • the vectors output from each of convolutional layer blocks B1 to B4 are combined with each other.
  • the combined vector is input to layer L2. That is, the convolutional neural network N has a layer L2 (fully connected layer) into which values obtained by convolution processing in each of a plurality of convolutional layer blocks are combined and input. Layer L2 connects images from which feature amounts have been extracted to nodes, outputs values converted by the activation function, and classifies the images.
  • As training data is input to the convolutional neural network N and output is performed, parameters such as weights of convolutional layers and connection weights of fully connected layers in the convolutional neural network N are updated and optimized. That is, as the machine learning learns, a more optimized convolutional neural network N is generated. Therefore, the teacher data includes product images of a plurality of scroll products P. Further, the teacher data includes a plurality of product images for each scroll product P. Data of the neural network N learned by machine learning is stored in the storage unit 101.
  • the determination unit 104 inputs a plurality of images to be inspected to the neural network N machine-learned by the learning unit 103 to obtain an output of inspection information regarding the appearance of the target product.
  • the inspection information may include, for example, information indicating whether the target product is a non-defective product or a defective product. Further, the inspection information may include information indicating at least one of defective folding of the product, defective cutting of the product, wrinkles of the product, and defective tape attachment, as information indicating whether the product is defective.
  • the determination unit 104 convolutes a plurality of images (inspection target images) I1 to I4 obtained by capturing images of the external appearance of the target product, which is the rolled product P to be inspected, from multiple directions along the circumferential direction. Input to network N. Specifically, the image I1 is input to the convolution layer block B1, the image to be inspected I2 is input to the convolution layer block B2, the image to be inspected I3 is input to the convolution layer block B3, and the image to be inspected I4 is input to the convolution layer block B2. It is input to convolutional layer block B4.
  • Each of the convolution layer blocks B1 to B4 performs convolution processing on the input image to be inspected, extracts the feature amount of the image to be inspected, and outputs a vector (matrix) of the feature amount as a value of the processing result.
  • the combined vector is input to layer L2. That is, the convolutional neural network N has a layer L2 (fully connected layer) into which values obtained by convolution processing in each of a plurality of convolutional layer blocks are combined and input. Layer L2 combines images from which feature amounts have been extracted into one node, outputs a value converted by an activation function, and performs image classification. The determination unit 104 outputs inspection information regarding the appearance of the target product based on the classification.
  • the convolutional neural network N (learning model) has four convolutional layer blocks, and the convolutional neural network N Four images of the inspection object obtained by capturing the external appearance from four directions are input.
  • the number of images to be inspected input to the convolutional neural network N is not limited to four, and may be less than four, or five or more.
  • the number of input images to be inspected may correspond to the number of convolutional layer blocks in the convolutional neural network N.
  • the convolutional neural network N (learning model) may have a number of convolution layer blocks corresponding to the number of input test target images.
  • each of the images to be inspected may be input to any of the convolutional layer blocks.
  • the convolutional neural network N has the same number of convolutional layer blocks as the number of images to be inspected that are input, and each of the images to be inspected may be input to a different convolutional layer block.
  • the convolutional neural network N has a layer L2 (fully connected layer) into which values obtained by convolution processing in each of a plurality of convolutional layer blocks are combined and input.
  • a plurality of inspection target images are input to a convolutional neural network N.
  • the image I1 is input to the convolution layer block B1
  • the image to be inspected I2 is input to the convolution layer block B2
  • the image to be inspected I3 is input to the convolution layer block B3
  • the image to be inspected I4 is input to the convolution layer block B3.
  • Values obtained by convolution processing in each of the plurality of convolution layer blocks are combined and input to layer L2 (fully connected layer).
  • Layer L2 performs image classification based on input.
  • the determination unit 104 outputs inspection information regarding the appearance of the target product based on the classification.
  • the inspection information regarding the above-mentioned appearance includes information specified based on two or more images to be inspected among the plurality of images to be inspected. As a result, according to the present embodiment, it is possible to inspect the appearance of the target product with higher accuracy.
  • Information that cannot be determined without looking down on multiple images to be inspected includes, for example, defective folding of the product (rolled product), defective cutting of the product, wrinkles in the product, etc. that are reflected across multiple images to be inspected. Or information regarding poor tape attachment is included. Therefore, for example, the above-mentioned inspection information regarding the appearance may include information regarding defective folding of the rolled product, defective cutting of the product, wrinkles of the product, or defective tape application.
  • the inspection information regarding the appearance includes information specified based on two or more images to be inspected among the plurality of images to be inspected. Therefore, when some of the images to be inspected show the appearance of the roll product P which is a good product and some of the images to be inspected show the appearance of the roll product P which is a defective product, the judgment The unit 104 can also output inspection information regarding the appearance, including information indicating whether the product is defective.
  • At least the first image to be inspected includes at least a portion of folding defects, product cutting defects, product wrinkles, or tape attachment defects to the product
  • at least one image to be inspected has at least one of the defects included in the first image to be inspected, such as defective folding, defective product cutting, wrinkles in the product, or defective tape attachment to the product. Some may not be included.
  • the determination unit 104 provides inspection information regarding the appearance, including information indicating whether the product is defective (at least part of defective folding, defective cutting of the product, wrinkles of the product, or defective tape attachment to the product). It is also possible to output .
  • the computer 10 acquires data including a plurality of product images obtained by imaging the appearance of the rolled product P and classification categories (classes) as teacher data.
  • the plurality of product images are, for example, images obtained by capturing images of the external appearance of the rolled product P from a plurality of directions along the circumferential direction.
  • the product images acquired as training data include images of a plurality of scroll products P.
  • the product images acquired as training data include, for example, an image obtained by capturing a scroll product P with no abnormality in appearance (a good scroll product), and an image obtained by capturing a roll product P with an abnormality in appearance (defective scroll product). This includes images obtained by capturing images of non-defective scroll products.
  • the computer 10 may acquire the product image from the imaging device 20 or from another external device.
  • step S102 the computer 10 generates a machine-learned learning model so as to output inspection information regarding the appearance of the target product, which is the rolled product P to be inspected. More specifically, the computer 10 executes image recognition processing using a convolutional neural network using the training data acquired in step S101, and determines the feature amounts of images of the rolled products P corresponding to non-defective products and defective products. A learning model (convolutional neural network) trained by machine learning is generated.
  • step S103 the computer 10 acquires a plurality of inspection target images obtained by capturing images of the external appearance of the target product, which is the scroll product P to be inspected, from multiple directions along the circumferential direction. .
  • step S104 the computer 10 inputs the plurality of inspection target images obtained in step S103 to the learning model generated in step S102.
  • the computer 10 obtains an output of inspection information regarding the appearance of the target product based on the output of the learning model.
  • the inspection information may include, for example, information indicating whether the target product is a non-defective product or a defective product. Further, the inspection information may include information indicating at least one of defective folding of the product, defective cutting of the product, wrinkles of the product, and defective tape attachment, as information indicating whether the product is defective.
  • the learning model generation process (steps S101 and S102) and the inspection regarding the appearance of the target product and the output process of inspection information (steps S103 and S104) are continuous. carried out, but is not limited to this.
  • the computer 10 does not have to carry out the inspection regarding the appearance of the target product and the output process of the inspection information at the timing when the learning model generation process is completed. Further, the computer 10 may perform the inspection regarding the appearance of the target product and the output process of the inspection information at a timing different from the timing at which the learning model generation process is completed. Further, the computer 10 that executes the learning model generation process may be a different device from the computer 10 that executes the inspection regarding the appearance of the target product and the output process of the inspection information.
  • inspection information regarding the appearance of the target product based on a plurality of inspection target images obtained by capturing images of the external appearance of the target product, which is the scroll product P to be inspected, from multiple directions along the circumferential direction. That is, instead of outputting inspection information based on each of a plurality of images to be inspected for one target product, inspection information is output based on a plurality of images to be inspected. As a result, for example, it is possible to output inspection information that cannot be specified without checking the entirety of a plurality of images to be inspected. That is, according to this embodiment, it is possible to inspect the appearance of the target product with higher accuracy.
  • a computer program for implementing the functions of the computer 10 in the above embodiment can be downloaded through various recording media such as an optical disk such as a CD-ROM, a magnetic disk, or a semiconductor memory, or via a communication network. Can be installed or loaded on your computer.
  • the present invention is not limited to the embodiments described above, and can be implemented in various other forms without departing from the gist of the present invention.
  • the above embodiments are merely illustrative in all respects, and should not be construed as limiting.
  • ⁇ Second modification example> The inventors of the present application have focused on the fact that when rolling a rolled product using a conveyance device, the rolled product may not rotate in the circumferential direction as intended. If the rolled product does not roll, an image to be inspected that includes the entire circumference of the side surface of the rolled product cannot be obtained, making it difficult to perform a sufficient inspection.
  • the inspection system according to the present modification includes an image obtained by combining at least a portion of a plurality of images to be inspected, all around the side surface of the rolled product that is the target product.
  • the apparatus includes determining means for determining whether or not the external appearance is included.
  • the determination unit 104 of the computer 10 is equipped with the function as the determination means described above. Therefore, the determination unit 104 obtains the output of inspection information regarding the appearance of the target product as described in the first embodiment, and also determines whether the image obtained by combining at least a portion of the plurality of images to be inspected is of the roll product that is the target product. It is configured to be able to determine whether the appearance of the entire circumference of the side surface is included.
  • the determination unit 104 uses a plurality of images obtained by capturing images of the external appearance of the target product, which is the scroll product P to be inspected acquired in step S103, from a plurality of directions along the circumferential direction. Based on the image to be inspected, it is determined whether the image includes the appearance of the entire side surface of the rolled product P, which is the target product.
  • the determining unit 104 makes a determination based on the amount of variation in the area occupied by the mark provided on the side surface of the scroll product P among the plurality of images to be inspected.
  • a mark (sometimes called a "mark") is, for example, a tape affixed to the side surface of the scroll product P.
  • the determination unit 104 acquires the area occupied by the tape within the image I1. Similarly, the determination unit 104 acquires the area occupied by the tape in the image I2 obtained by capturing the rolled product P rolled by 90 degrees in the circumferential direction from the state of the image I1. Similarly, the determination unit 104 calculates the area occupied by the tape in the image I3 and the image I4, which are obtained by imaging the scroll product P that is further rolled by 90 degrees and 180 degrees in the circumferential direction from the state of the image I2. get.
  • the determination unit 104 obtains the amount of variation in the area occupied by the tape in each of the images I1 to I4.
  • the determination unit 104 acquires information indicating the area of the tapes in each of them.
  • images I3 and I4 are images to be inspected taken from opposite directions of the tape, information indicating that the tape was not detected (that is, information indicating that the area of the tape is zero) is obtained. do.
  • a known method can be used to obtain information indicating the area of the tape.
  • the determination unit 104 may detect the tape based on the color information of the image to be inspected, or if the tape has a predetermined shape, the determination unit 104 may detect the tape based on the color information of the image to be inspected. 104 may detect the tape using pattern recognition techniques.
  • Images I1 to I4 include a half circumference (180 degrees) of the side surface of the scroll product P. Therefore, when the scroll product P is rolled (rotated) by 90 degrees as intended as shown in FIG. A tape occupying a predetermined area is detected, and no tape is detected in the remaining two images. Therefore, the determination unit 104 combines images I1 to I4, which are the plurality of images to be inspected, based on the fact that the tape was detected in the image I1 and the image I2, and that the tape was not detected in the image I3 and the image I4. It is determined that the image includes the appearance of the entire side surface of the rolled product P, which is the target product. After that, steps S104 and subsequent steps are executed.
  • the determination unit 104 determines that the image obtained by combining images I1 to I4, which are the plurality of images to be inspected, does not include the appearance of the entire side surface of the rolled product P, which is the target product. For example, the inspection may be stopped and a warning may be issued.
  • the system according to the present modification includes a determination means for determining whether an image obtained by combining at least a portion of a plurality of images to be inspected includes the appearance of the entire side surface of the rolled product that is the target product. This makes it possible to prevent a situation where an inspection is performed based on an inspection target image that does not include the appearance of the entire side surface of the rolled product.
  • the shape of the mark is not limited to that shown in this modification.
  • the mark is a tape formed in the shape of a long strip in the circumferential direction and having a length less than the entire circumference (for example, a length greater than 90 degrees and less than 180 degrees) that is attached to the side surface of the rolled product P. It may be.
  • the determination unit 104 more accurately determines that the image obtained by combining images I1 to I4, which are the plurality of images to be inspected, includes the appearance of the entire side surface of the rolled product P, which is the target product. It becomes possible to judge.
  • it can be changed as appropriate depending on the shape of the roll product P, the interval and number of times that the imaging device 20 images the roll product P (for example, 4 times every 90 degrees or 6 times every 60 degrees).
  • the tape may be colored in a different color from the side surface of the scroll product P, such as red or yellow, or a plurality of tapes may be attached.
  • the method for determining whether the entire circumference of the side surface of the scroll product P is included is not limited to the above-mentioned algorithm.
  • the determining unit 104 may be configured to be able to determine that the images include the appearance of the entire side surface of the scroll product P by comparing the images to be inspected. For example, the determination unit 104 compares images I1 to I4, calculates the degree of similarity between the two, and if the degree of similarity is less than a predetermined threshold, the determination unit 104 determines that the image obtained by combining images I1 to I4 is a scroll that is the target product. It may be configured such that it is determined that the appearance of the entire side surface of the product P is included.
  • the image I1 and the image I2 are almost the same images to be inspected, and thus have a high degree of similarity. Therefore, it is possible to compare each image with other images and determine whether the image includes the appearance of the entire side surface of the scroll product P depending on the degree of similarity between the images.
  • the method for calculating the degree of similarity can be selected as appropriate depending on the images to be inspected. For example, image hash comparison (a method of creating a numerical representation unique to an image and comparing the hashes) may be used.
  • the determination unit 104 acquires information as to whether the roll product P is rolling or rotating based on information other than the image, such as a sensor capable of detecting rotation, and based on that information, the roll product P It may be configured to determine that the appearance of the entire side surface of the image is included.
  • the imaging device 20 is a CMOS device that can image at least a two-dimensional area of the external appearance of the rolling (rotating) scroll product P (that is, the external appearance of the scroll product P during rotational movement). It may be configured to be able to capture images using a sensor such as an image sensor or a line sensor that can capture a one-dimensional area, but is not limited thereto.
  • the imaging device 20 uses a camera equipped with a sensor such as a CMOS image sensor capable of imaging at least a two-dimensional area to capture the scroll product P that is stationary after rolling (rotating) by a predetermined angle (for example, 90 degrees).
  • multiple It may be configured to be able to acquire an image to be inspected.
  • the system 1A collects two different pieces of information: information indicating the manufacturing apparatus M that manufactured the rolled product P transported by the transport device 40A, and inspection information regarding the appearance of this rolled product P. (acquisition) and records both information in association with each other; and a statistical processing unit 106A (for each manufacturing apparatus M, which acquires information indicating inspection information of a plurality of rolled products P manufactured by that manufacturing apparatus M). (an example of an "information acquisition section").
  • the system 1A can acquire, for each manufacturing device M, inspection information of the scroll product P manufactured by that manufacturing device M. Therefore, it becomes possible to know that a predetermined manufacturing apparatus M manufactures a scroll product P of poor quality compared to other manufacturing apparatuses M.
  • the detailed configuration will be explained below.
  • FIG. 7 is a functional block diagram for explaining the inspection process of the rolled product P using the system 1A according to the second embodiment.
  • the solid line indicates the transport route of the rolled product P
  • the dotted line in FIG. 7 indicates the information route.
  • the system 1A includes a computer 10A and an imaging device 20A.
  • the computer 10A includes a storage section, an image acquisition section, a learning section, and a determination section 104A.
  • the computer 10A has the same hardware configuration as the computer 10 (FIG. 3), and the storage section, image acquisition section, learning section, and determination section of the computer 10A are the storage section 101 and the image acquisition section of the computer 10, respectively.
  • 102, the learning unit 103 and the determining unit 104 perform the same functions, so a detailed explanation will be omitted.
  • the imaging device 20A has the same hardware configuration as the imaging device 20 and exhibits the same functions, a detailed description thereof will be omitted.
  • the computer 10A further provides an alert when the quality of the scroll product P manufactured by the manufacturing apparatus M deteriorates based on the information obtained by the aggregation unit 105A, the statistical processing unit 106A, and the statistical processing unit 106A. and an alert processing unit 107A for notifying.
  • the system 1A includes a conveyor 40 (an example of a "conveying device") for conveying the rolled product P, and N units each configured to be able to manufacture the rolled products P to be conveyed by the conveyor 40.
  • a conveyor 40 an example of a "conveying device”
  • N units each configured to be able to manufacture the rolled products P to be conveyed by the conveyor 40.
  • a sorting section 60 is provided for sorting the rolled products P into good or defective products in order to discard or rework them.
  • manufacturing devices M1 to MN represent N manufacturing devices (N is an integer of 2 or more) each configured to be able to manufacture the scroll product P.
  • Each manufacturing device is called a manufacturing device M1, a manufacturing device M2, etc., and any manufacturing device is sometimes called a manufacturing device M.
  • Each manufacturing device may operate simultaneously to manufacture the rolled product P, or for example, while one manufacturing device M is undergoing maintenance, one or more other manufacturing devices M may operate simultaneously.
  • the rolled product P may be manufactured by the following method.
  • each manufacturing apparatus M may partially include a common unit.
  • the manufacturing devices M1 to MN may include a common unit in the upstream portion.
  • the manufacturing device M includes a manufacturing device used in one of the manufacturing processes of the scroll product P.
  • the manufacturing device M includes parts or manufacturing equipment that constitute the manufacturing device. If a plurality of such manufacturing facilities exist and each of the manufacturing facilities is used alternatively or simultaneously in parallel to manufacture the rolled product P, the present invention can be applied to manufacture the rolled product P. It becomes possible to compare the influence on quality between manufacturing facilities.
  • Each manufacturing device M is configured to be able to manufacture a rolled product P and supply it to a conveyor 40, and the conveyor 40 is configured to be able to transport a plurality of rolled products P each manufactured by the N manufacturing devices M.
  • the conveyor 40 may be configured to be able to convey the rolled product P while rolling it in the circumferential direction d2 (FIG. 1), or may be configured to be able to convey the rolled product P without rolling it. good.
  • the conveyor 40 is configured to transport the rolled product P without rolling until it reaches the imaging device 20A, and to roll or rotate the rolled product P at a position where images are captured from multiple directions by the imaging device 20A. may be done.
  • the rolled product P may be directly placed on the conveyor 40 and conveyed, or may be conveyed while being stored in a bucket (container) placed on the conveyor 40.
  • the switching device 50 switches the manufacturing device M that manufactures the rolled product P supplied to the conveyor 40 from one manufacturing device M to another manufacturing device M. Furthermore, the switching device 50 acquires information indicating to which position on the conveyor 40 (for example, a relative position to a reference position of the conveyor belt) the rolled product P manufactured by a predetermined manufacturing apparatus M is supplied, and aggregates the information. 105A.
  • a known configuration can be adopted as the configuration of the switching device 50 for switching the manufacturing device M that supplies the rolled product P to the conveyor 40.
  • the switching device 50 is connected between the output route of each manufacturing apparatus M and the conveyor 40.
  • Each of them is provided with an opening/closing gate that opens and closes, and by opening the gap between a selected manufacturing device M and the conveyor 40, the scroll product P manufactured by that manufacturing device M is supplied to the conveyor 40, while the other It may be configured such that the roll product P manufactured by another manufacturing apparatus M is not supplied to the conveyor 40 by closing the space between the manufacturing apparatus M and the conveyor 40.
  • the switching device 50 can acquire information that the roll product P manufactured by the one manufacturing device M whose opening/closing gate is open is being supplied to the conveyor 40.
  • the switching device 50 is equipped with a slideable movable conveyor for the discharge path of each manufacturing device M, and connects to the conveyor 40 to supply the roll product P manufactured by the manufacturing device M to the conveyor 40.
  • the discharge path of the other manufacturing apparatus M and the conveyor 40 may be separated from each other so that the rolled product P manufactured by the other manufacturing apparatus M is not supplied to the conveyor 40.
  • the switching device 50 may be a robot arm that picks up the rolled product P manufactured by the selected manufacturing device M and supplies it to the conveyor 40.
  • the switching device 50 can switch the manufacturing device M that supplies the rolled product P to the conveyor 40. Therefore, the switching device 50 can switch the manufacturing device M that manufactured the rolled product P currently being supplied to the conveyor 40. It is possible to obtain the information shown.
  • the switching device 50 acquires information indicating to which position on the conveyor 40 the rolled product P is supplied, and transmits it to the aggregation unit 105A together with information indicating the manufacturing device M.
  • the switching device 50 acquires information indicating the number of rotations of a gear that drives the conveyor 40 at the time when a predetermined rolled product P is supplied onto the conveyor 40, as position information on the conveyor 40 where the rolled product P exists. and transmits it to the aggregation unit 105A together with information indicating the manufacturing apparatus M.
  • the amount of rotation of the gear necessary from when the roll product P is supplied onto the conveyor 40 until it reaches the imaging device 20A and is determined by the determination unit 104A is determined by the position on the conveyor 40 where the roll product P is supplied, and This information indicates the distance from the position on the conveyor 40 imaged by the imaging device 20A, and is known in advance, so the aggregation unit 105A uses the inspection information when the rolled product P reaches the imaging device 20A to the determination unit 104A.
  • the switching device 50 supplies the scroll product P manufactured by the manufacturing device M1 to the conveyor 40
  • the amount of rotation of the gear of the conveyor 40 counted using an encoder or the like is 1000 revolutions
  • the scroll product P1 If the amount of rotation of the gear necessary for the image to reach the imaging device 20A and be imaged is 500 rotations, the aggregation unit 105A determines the rotation amount obtained from the determination unit 104A when the amount of rotation of the gear of the conveyor 40 is 1500 rotations (1000+500). It is determined that the inspection information is the inspection information of the roll product P manufactured by the manufacturing apparatus M1, and the manufacturing apparatus M1 and the inspection information of the roll product P are recorded in association with each other.
  • the aggregation unit 105A acquires information indicating the manufacturing equipment M that manufactured the rolled product P conveyed by the conveyor 40 from the switching device 50 (an example of “manufacturing equipment information”), and obtains the information from the determination unit 104A. Inspection information regarding the appearance of the rolled product P is acquired, and both pieces of information are associated and recorded in the storage device of the computer 10A, for example.
  • FIG. 8 is an example of information associated by the aggregation unit 105A and recorded in the storage device.
  • the test information output by the determination unit 104 here may be a determination value (score) that can take a value from 0 to 100.
  • determination values corresponding to inspection information are output such that the higher the determination value, the better the product, and the lower the determination value, the more defective the product.
  • the determination values of the two scroll products P manufactured by the manufacturing apparatus M1 are 63 and 64, respectively.
  • the determination values of the two scroll products P manufactured by the manufacturing apparatus M3 are 30 and 15, respectively.
  • the aggregation unit 105A may further associate the inspection information with date and/or time information when the image to be inspected was captured and record the association in a recording device (not shown).
  • a recording device not shown.
  • the inspection information of the scroll product P manufactured by a predetermined manufacturing apparatus M on a certain date with the inspection information of the scroll product P manufactured by the predetermined manufacturing apparatus M on a different date. It is also possible to grasp the influence of seasonal factors on the inspection information and the influence of temporal factors (for example, the degree of wear of a predetermined part used in the manufacturing apparatus M) on the inspection information.
  • the inspection information of all the manufacturing equipment M is changing uniformly, it is possible to understand that the problem is caused by factors other than the manufacturing equipment M (for example, the determination method of the determination unit 104A). becomes.
  • the statistical processing unit 106A acquires, for each manufacturing apparatus M, information indicating inspection information of a plurality of scroll products P manufactured by the manufacturing apparatus M.
  • the statistical processing unit 106A in this embodiment is configured to be able to acquire statistical information calculated based on inspection information of a plurality of scroll products P manufactured by the same manufacturing apparatus M, and specifically, For each manufacturing apparatus M, the average value (an example of "information indicating the inspection information of the plurality of roll products”) or the median value and its variance of the abnormality score of the plurality of rolled products P manufactured by the manufacturing apparatus M. (an example of "information indicating the inspection information of the plurality of rolled products").
  • the abnormality score may be a value such that a higher value indicates a defective product and a lower value indicates a non-defective product.
  • the abnormality score may be a value obtained by subtracting the above-mentioned determination value from 100.
  • the statistical processing unit 106A may be configured to be able to obtain the average value of the abnormality scores of all the scroll products P.
  • FIG. 9 is a graph showing information acquired by the statistical processing unit 106A.
  • the system 1A may further include a display device (display) that displays the graph shown in the figure.
  • the abnormality score of the scroll product P manufactured by the manufacturing apparatus M2 is higher than that of the other manufacturing apparatuses M. Therefore, by investigating the state of the manufacturing apparatus M2 and taking appropriate measures, it is possible to improve the yield of the rolled product P.
  • the alert processing unit 107A Based on the information from the statistical processing unit 106A, the alert processing unit 107A generates alert information to notify that the quality of the scroll product P manufactured by the predetermined manufacturing apparatus M has deteriorated.
  • the alert processing unit 107A determines that the average value of the abnormality score of a predetermined manufacturing apparatus M (for example, manufacturing apparatus M2) is lower than the average value of the abnormality degree scores of other manufacturing apparatuses M by a predetermined amount (for example, 30%), if the value deviates from a bad value, alert information indicating that there is an equipment abnormality in the manufacturing apparatus M is generated and sent to, for example, the administrator.
  • the system 1A according to the present embodiment it is possible to easily understand abnormalities in manufacturing equipment. Therefore, it is possible to improve the manufacturing yield of products manufactured by the manufacturing apparatus, such as the rolled product P.
  • the method for associating the manufacturing apparatus M that manufactured a certain rolled product P with the inspection information of that rolled product P is not limited to the method described above.
  • the time when a predetermined bucket passes a predetermined position is used as the reference point. For example, by counting the amount of rotation of a predetermined gear using an encoder, and dividing the count value by the amount of rotation of that gear for one bucket, the roll product P conveyed to each bucket can be placed on the conveyor 40. It becomes possible to easily grasp the position.
  • the position information on the conveyor 40 where the rolled product P is accommodated in a predetermined bucket, the position information on the conveyor 40 where the rolled product P is imaged and inspected by the imaging device 20, and the switching device 50 on the conveyor 40 are stored in a predetermined bucket.
  • the switching device 50 is used to store 10 roll products P manufactured by a certain manufacturing device M (for example, manufacturing device M4) into buckets with predetermined numbers (for example, 41 to 50). If the imaging device 20A is configured to image and read the numbers printed on the bucket, information indicating the manufacturing device M that manufactured the scroll product P and inspection information of the scroll product P can be obtained. It becomes possible to associate. Furthermore, instead of printing numbers, an RFID or the like may be mounted on the bucket.
  • the system 1A when a plurality of rolled products P are manufactured by using a plurality of manufacturing devices (including manufacturing equipment) simultaneously or alternatively.
  • a plurality of manufacturing devices including manufacturing equipment
  • the system 1B according to this embodiment differs from other embodiments in that it has a configuration that enables efficient collection of teacher data, so this point will be mainly explained.
  • FIG. 10 is a functional block diagram for explaining the inspection process of the rolled product P using the system 1B according to the present embodiment.
  • the system 1B includes a computer 10B and an imaging device 20A.
  • the computer 10B differs from the computer 10A in that it includes a display section 108B, a result storage section 109B, and a relearning section 110B, but is the same in other respects, so a description of the common parts will be omitted.
  • the display unit 108B of the computer 10B identifies the part (sometimes referred to as a "characteristic part") that influenced the output of the examination information in the image to be examined, and displays the image to be examined and information specifying the characteristic part. do. Specification of the characteristic part is realized by the cooperation of the computer program (software) and hardware, when the processor 22 of the computer 10 reads and executes the computer program stored in the storage device 24.
  • the display of the image to be inspected and the information specifying the characteristic region is realized by a display (an example of a “display device”) that displays the image of interest and the information specifying the characteristic region based on a command from the processor 22.
  • CAM Class Activation Map
  • Grad-CAM is a method in which weights are calculated based on the fluctuation rate of output values in CAM. This is a method of visualizing the basis for judgment.
  • the display unit 108B displays the image to be inspected and the characteristic region acquired using the processor of the computer 10B in a superimposed manner.
  • the display unit 108B of this embodiment is further configured to be able to display the name of the abnormality, the image to be inspected, the characteristic region, and the score of the degree of abnormality for each type of abnormality.
  • FIG. 11 is an example of the display screen of the display section 108B.
  • the display unit 108B displays the name of the abnormality (“folding”), the image to be inspected (image I5) of the scroll product P, the characteristic region (characteristic region CR5), and the abnormality of the type called “folding”.
  • the characteristic region CR5 is a region that influenced the score 23 for "folding" (an example of "output of examination information")
  • the characteristic region CR6 is a region that influenced the score 83 for "wrinkles” (an example of "output of examination information”).
  • the displayed score may be set in advance so that the higher the score, the more the abnormality has occurred, and the lower the score, the more the abnormality has not occurred. It may be set in advance such that the abnormality has occurred, and the higher the score, the less the abnormality has occurred.
  • This embodiment corresponds to an embodiment in which scores are set such that, for example, the closer the score is to 0, the more the abnormality has occurred, and the closer the score is to 100, the less the abnormality has occurred.
  • the characteristic region CR5 and the characteristic region CR6 are each semitransparent and are displayed superimposed on the image I5 and the image I6, so that the examiner can check the characteristic region CR5 and the characteristic region
  • the examiner uses the input device 32 (FIG. 3, an example of an "input unit") of the computer 10B, such as a mouse, keyboard, or touch panel, to determine whether the judgment made by the computer 10B is appropriate ("appropriate”). Enter each anomaly, whether it is invalid (“objection”).
  • the input device 32 of the computer 10B inputs the score for the "fold” abnormality and the score for the "wrinkle” abnormality input by the examiner who has viewed the image I5, the image I6, the characteristic region CR5, and the characteristic region CR6 displayed on the display unit 108. Accepts information regarding the validity of scores.
  • the result storage unit 109B includes a database that stores training data regarding non-defective products and defective products.
  • the input device 32 receives an input of "objection”, that is, if the inspector determines that the inspection result by the computer 10B is incorrect, the result storage unit 109B stores the inspection target image corresponding to the input. Add as training data.
  • the input device 32 of the computer 10B accepts an input of "objection” regarding a "return” abnormality, a score of "23" indicating that there is a high possibility that a "return” abnormality has occurred is detected.
  • the result storage unit 109B of the computer 10B adds the image I5 as teacher data of a good product in which no aliasing abnormality has occurred.
  • the case where the input device 32 of the computer 10B accepts the input of "objection” regarding the "wrinkle” abnormality means that the score "83" indicating that the possibility of the "wrinkle” abnormality occurring is low. This corresponds to a state in which the evaluator has determined that there is a high possibility that a "wrinkle” abnormality has occurred despite being output as inspection information.
  • the result storage unit 109B of the computer 10B adds the image I6 as training data for the defective product in which the wrinkle abnormality has occurred.
  • the relearning unit 110B generates a new learning model, for example, in the same manner as in the first embodiment, based on the teacher data including the inspection target image newly added to the result storage unit 109B.
  • the learning unit 103 and the relearning unit 110B are common in that they generate a learning model, except that a new inspection target image is added as teacher data. Therefore, the learning section 103 and the relearning section 110B may be realized by cooperation of the same computer program (software) and hardware.
  • the determination unit 104A obtains an output of inspection information regarding the appearance of the target product by inputting a plurality of images to be inspected to a neural network newly generated by machine learning by the relearning unit 110B.
  • the computer 10B transmits information generated based on the input of the "objection” information to the sorting section. Send to 60.
  • the computer 10B determines that the roll product P is a defective product (or that there is a possibility that it is a defective product). information indicating that there is a
  • the sorting unit 60 updates the inspection information received from the determination unit 104 based on the information generated based on the input of the “objection” information.
  • the sorting unit 60 is able to sort the rolled products P into good or defective products based on the information received as feedback from the evaluator. It is possible to reduce the possibility that the product will be discarded as a non-defective product.
  • the computer 10B transmits information generated based on the input of the "objection" information to the determination unit.
  • the determination unit 104A may update the output of the inspection information based on the received information, and transmit the updated information to the sorting unit 60.
  • the computer 10B of the system 1B may further include a sampling unit 111B (FIG. 10) for selecting an inspection target image to be displayed on the display unit 108B from among a large number of inspection target images.
  • the sampling unit 111B may be configured to select the image to be inspected to be displayed on the display unit 108B based on the numerical value acquired by the determining unit 104 based on the image to be inspected.
  • the determination unit 104 is configured to be able to obtain a numerical value based on the inspection target image, and by comparing this numerical value with a predetermined threshold value, inspection information indicating whether the inspected target is a good product or a defective product is obtained.
  • the sampling unit 111B is configured to output the image to be inspected, the difference between the obtained numerical value and this threshold value is less than or equal to a predetermined value (sometimes referred to as a “second threshold value”).
  • a predetermined value sometimes referred to as a “second threshold value”.
  • the system can determine whether the product is good or defective. It becomes possible to selectively check inspection target images for which it is difficult to determine whether the product is a good product. Furthermore, it becomes possible to efficiently collect training data regarding inspection target images for which it is difficult to determine whether the image is a good product or a defective product.
  • the sampling unit 111B selects a part or all of the images for which the determination unit 104 has output inspection information indicating that the product is defective, excluding the inspection target image for which the determination unit 104 has output inspection information indicating that the product is non-defective.
  • the inspection target image may be displayed on the display unit 108B.
  • the sampling unit 111B may be configured to display a randomly selected image to be inspected on the display unit 108B.
  • the sampling unit 111B is configured to obtain the time required for the examiner to observe the image to be inspected and input data based on the observed result, and display the image to be inspected on the display unit 108B every time the inspector observes the image to be inspected. may be done.
  • the system 1B shown in this embodiment allows the examiner to evaluate the validity of the test information output by the computer 10B, and is configured to allow the addition of training data as necessary. This makes it possible to efficiently collect teacher data for relearning and generate highly accurate learning models. It becomes possible to efficiently collect training data on defective products, which is difficult to collect especially for products with high yields.
  • the display unit 108B may display the graph (FIG. 9) shown in the second embodiment.
  • the system 1B may be configured to be displayable, and the system 1B may further include configurations of other embodiments such as an alert processing unit 107A.
  • FIG. 12 is a functional block diagram for explaining the inspection process of the rolled product P using the system 1C according to the present embodiment.
  • the system 1C includes a computer 10C and an imaging device 20A.
  • the computer 10C differs from the computer 10A in that it includes a determination unit 104C, but is common in other respects, so a description of the common parts will be omitted.
  • the determination unit 104C of the computer 10C is configured to output at least three types of test information as test information outputs.
  • the convolutional neural network N (Fig. 5) can be equipped with a known configuration to obtain at least three types of outputs of inspection information, for example, nodes of a fully connected layer can be divided according to the type of anomaly. By doing so, it becomes possible to configure the apparatus to output at least three types of inspection information.
  • the fully connected layer may be a non-fully connected layer.
  • the determination unit 104C obtains an output indicating that an abnormality has occurred corresponding to the node when the value of each node in the fully connected layer is, for example, greater than or equal to a predetermined threshold, and when the value is less than the threshold, the determination unit
  • the configuration may be configured to obtain an output indicating that no abnormality has occurred.
  • FIG. 13 shows a sorting unit based on the inspection information acquired by the determination unit 104C, the inspection time, the position information of the inspected scroll product P on the conveyor 40, and the inspection information for the rolled product P having a product number.
  • 60 is an example of a table showing instruction information transmitted to the computer 60.
  • the determination unit 104C not only outputs two types of inspection information for non-defective products and defective products, but also determines whether the product is defective from the two viewpoints of "wrinkle" abnormality and "folding" abnormality.
  • the output of inspection information indicating that there is no "wrinkle” abnormality and that there is a "folding” abnormality is obtained
  • the product is For the roll product P with number 2
  • the output of inspection information indicating that there is a "wrinkle” abnormality and no "folding” abnormality is obtained
  • the product is For the roll product P with number 3
  • an output of inspection information indicating that there is no "wrinkle” abnormality and no "folding” abnormality is obtained.
  • the determination unit 104C of the computer 10C instructs the sorting unit 60 to “rework” the roll product P with product number 1, “discard” the roll product P with product number 2, and “discard” the roll product P with product number 3.
  • the determination unit 104C acquires information indicating the inspection time and information indicating the position of the rolled product P on the conveyor 40 (for example, "100" for "product number 1").
  • the information indicating the inspection time may be the time when the scroll product P was imaged by the imaging device 20 and the inspection was performed.
  • the position on the conveyor 40 may be information indicating the relative position of the conveyor belt with respect to the reference position. It may also be information indicating the number of the bucket in which P is stored. Since the timing at which the bucket with that number reaches the sorting unit 60 by the conveyor 40 is known in advance, the configuration may be such that instruction information is displayed in the sorting unit 60 at that timing, or the number may be printed on the bucket, etc.
  • the bucket number may be included in the instruction information so that the sorting section 60 can easily grasp the scroll product P that is the object of the instruction information.
  • a product P with no "wrinkle” abnormality and a "folding" abnormality is a product that can be shipped by adjusting the folding. Therefore, the rolled product P with product number 1 is a product that has been modified in the sorting section 60. Will be shipped. On the other hand, since the "wrinkle" abnormality cannot be repaired, the scroll product P with product number 2 is discarded or recycled. The scroll product P with product number 3, which has no "wrinkle” abnormality or "folding” abnormality, is shipped as is from the sorting section 60.
  • An inspection system for inspecting the appearance of a rolled product formed by rolling a product Obtaining a plurality of images to be inspected obtained by capturing side surfaces of the external appearance of the target product, which is the rolled product to be inspected, from multiple directions along the circumferential direction; Inputting the plurality of images to be inspected into a learning model that has been subjected to machine learning using a plurality of product images obtained by taking images of the external appearance of the scroll product from a plurality of directions along the circumferential direction in the past as training data. Obtaining an output of inspection information regarding the appearance of the target product, An inspection system comprising a processor that performs.
  • the learning model has a number of convolution layer blocks corresponding to the number of input images to be inspected, and each of the images to be inspected is input to one of the convolution layer blocks, as described in Supplementary Note 1. inspection system.
  • the image obtained by combining at least a portion of the plurality of product images or the image obtained by combining at least a portion of the plurality of images to be inspected includes the appearance of the entire circumference of the side surface of the scroll product, according to any one of Supplementary Notes 1 to 3.
  • the learning model has four convolutional layer blocks, and four inspection target images obtained by capturing the external appearance of the target product from four directions are input to the learning model, Inspection system according to any one of the items.
  • the inspection information regarding the appearance includes information regarding at least some of the following: defective folding of the rolled product, defective cutting of the product, wrinkles of the product, or defective tape attachment to the product. Inspection system according to any one of the items.
  • At least the first image to be inspected includes at least a portion of the defective folding, the defective cut of the product, the wrinkles of the product, or the defective tape attachment to the product;
  • at least one of the images to be inspected includes the defective folding, the defective cut of the product, the wrinkles of the product, or the tape on the product included in the first image to be inspected.
  • Appendix 12 comprising a conveying device that conveys the rolled product while rolling it;
  • Appendix 14 A program for executing an inspection method implemented in a system having a processor for inspecting the appearance of a rolled product formed by rolling the product, the processor comprising: Obtaining a plurality of images to be inspected obtained by capturing side surfaces of the external appearance of the target product, which is the rolled product to be inspected, from multiple directions along the circumferential direction; Inputting the plurality of images to be inspected into a learning model that has been subjected to machine learning using a plurality of product images obtained by taking images of the external appearance of the scroll product from a plurality of directions along the circumferential direction in the past as training data. Obtaining an output of inspection information regarding the appearance of the target product, A program to run.
  • a learning method for inspecting the appearance of a rolled product formed by rolling the product comprising: a processor; Obtaining a plurality of product images obtained by imaging the external side of the scroll product from a plurality of directions along the circumferential direction; Generating a machine learning learning model using the acquired plurality of product images as training data to output inspection information regarding the appearance of the target product, which is the scroll product to be inspected; A learning method to implement.
  • (Appendix 16) a conveying device configured to be able to convey a plurality of rolled products each manufactured by a plurality of manufacturing devices; a switching device that switches the manufacturing device that manufactured the scroll product transported by the transport device from one manufacturing device to another manufacturing device; Obtaining manufacturing equipment information indicating the manufacturing equipment that manufactured the rolled product transported by the transporting device and inspection information regarding the appearance of the rolled product manufactured by this manufacturing equipment, and performing the manufacturing equipment information and the inspection. an aggregation unit that associates information;
  • An inspection system comprising: an information acquisition unit that acquires, for each of the manufacturing apparatuses, information indicating the inspection information of the plurality of scroll products manufactured by the manufacturing apparatuses.
  • System 10 Computer 20 Imaging device 22 Processor 24 Storage device 26RAM 28 Display device 30 Communication I/F section 32 Input device

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Biochemistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

製品が巻かれて形成された巻物製品の外観に関する検査のための検査システムであって、検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、を実施するプロセッサを備える。

Description

検査システム、検査方法、学習方法、及びプログラム
 本発明は、検査システム、検査方法、学習方法、及びプログラムに関する。
 製造された対象製品を撮像等することによって得られた画像に基づいて、対象製品の外観に関する検査を行う技術が知られている。特許文献1には、撮像部により得られた画像に基づいて、円筒体の鋼管の表面欠陥を検査する技術が開示されている。特許文献2には、被包装物を包み込んだ包装フィルムが端部で捻られた捻り包装品の撮像画像に基づいて、当該捻り包装品が良品又は不良品であるかを判定する技術が開示されている。特許文献3及び特許文献4には、巻芯に巻き付けるために搬送されるシートを撮像して得られた画像を用いて、巻芯に巻き付け中のシートの巻きしわの有無を検出する技術が開示されている。
特開2015-064301号公報 特開2019-191086号公報 特開2020-030118号公報 特開2021-162389号公報
 取得した対象製品の画像に基づいて、当該対象製品の外観に関する検査をより高い精度で行うことが望まれている。
 本発明の目的は、対象製品の外観に関する検査をより高い精度で行うことに関する技術を提供することである。
 本開示の一態様に係る検査システムは、製品が巻かれて形成された巻物製品の外観に関する検査のための検査システムであって、検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、を実施するプロセッサを備える。
 本開示の一態様に係る検査方法は、製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実行される検査方法であって、前記プロセッサが、検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、を含む。
 本開示の一態様に係るプログラムは、製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実施される検査方法を実行するためのプログラムであって、前記プロセッサが、検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、を実行する。
 本開示の一態様に係る学習方法は、製品が巻かれて形成された巻物製品の外観に関する検査のための学習方法であって、システムにおいてプロセッサが、前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を取得することと、取得された前記複数の製品画像を教師データとして、検査対象となる前記巻物製品である対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成することと、を実施する。
 本発明によれば、対象製品の外観に関する検査をより高い精度で行うことに関する技術を提供することができる。
一実施形態に係るシステムの概略構成を示す概念図である。 一実施形態に係る巻物製品の外観を説明するための概念図である。 一実施形態に係る巻物製品の外観を説明するための概念図である。 一実施形態に係る巻物製品の外観を説明するための概念図である。 一実施形態に係る巻物製品の外観を説明するための概念図である。 一実施形態に係る巻物製品の外観を説明するための概念図である。 一実施形態に係るコンピュータのハードウェア構成を示すブロック図である。 一実施形態に係るコンピュータの機能構成を示すブロック図である。 一実施形態に係る学習モデルを説明するための概念図である。 一実施形態に係るコンピュータによる処理フローを説明するためのフローチャートである。 一実施形態に係る検査システムの構成を示すブロック図である。 一実施形態に係る検査システムのコンピュータ(集約部)によって取得される情報を示す表の一例である。 一実施形態に係る検査システムのコンピュータ(統計処理部)によって取得される情報を示すグラフの一例である。 一実施形態に係る検査システムの構成を示すブロック図である。 一実施形態に係る検査システムの構成を示すブロック図である。 一実施形態に係る検査システムの構成を示すブロック図である。 一実施形態に係る検査システムのコンピュータ(判定部)によって取得される情報を示す表の一例である。
 以下、本発明の実施形態について図面を用いて説明する。以下の実施形態は、本発明を説明するための例示であり、本発明をその実施形態のみに限定する趣旨ではない。
 以下に、本実施形態において使用する主な用語について説明する。
 製品:製造した品物を意味する。本実施形態では特に製品は、例えば、シート、フィルム、ホイル、又は織物を含む。シートは例えば、キッチンシート、トイレットペーパー、壁紙、印刷媒体(例えば、紙)、又は不織布であってもよい。フィルムは、例えば、ラップフィルム又はフィルムテープであってもよい。ホイルは例えば、アルミホイルであってもよい。織物は、例えば、織布であってもよい。
 巻物製品:製品が巻かれることにより形成されたものである。巻物製品は、製品が巻芯に巻き付けられることにより形成されてもよいし、巻芯を含まずに製品が巻かれることにより形成されてもよい。巻物製品は、限定はしないが、円柱形状又は円筒形状で形成されてもよい。ただし巻物製品は、円柱形状又は円筒形状のように、中心軸を有する軸対称に形成されていることが好ましい。巻物製品が中心軸を有し中心軸を基準とする軸対称に形成されることにより、検査対象となる対象製品の外観の側面を、当該対象製品の中心軸を基準とする周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像は、同一の対象製品の異なる部分を撮像して得られた画像でありながら、同様の画像データを構成する。したがって後述するように、複数の検査対象画像の画像データを、それぞれ異なる畳み込み層ブロックに並列に入力し、各畳み込み層ブロックの畳み込み処理により得られた値をさらに結合して全結合層に入力する処理を実行することにより、対象製品の外観に関する検査をより高い精度で行うことが可能となる。
 対象製品:検査対象となる巻物製品である。検査対象ではない巻物製品には、例えば、後述する機械学習に使用される教師データとなる画像を撮像するための巻物製品が含まれる。
 製品画像:巻物製品を撮像することにより得られる画像である。本実施形態において製品画像は特に、巻物製品の外観の画像であってもよい。
 検査対象画像:対象製品を撮像した画像である。本実施形態において特に、検査対象画像は、対象製品の外観に関する検査のために使用される画像である。
<システム構成>
 図1を参照して、本実施形態に係るシステムの概要を説明する。システム1は、例えば、検査対象の巻物製品Pである対象製品を撮像等することによって得られた複数の画像に基づいて、当該対象製品の外観に関する検査を行うための検査システムである。本実施形態において、システム1は、例えば、コンピュータ10及び撮像装置20を備える。コンピュータ10は、撮像装置20により撮像された対象製品の画像を取得し、当該画像に基づいて、対象製品の外観に関する検査を行う。
 コンピュータ10及び撮像装置20は、画像及び制御データを含む各種データを相互に送受信可能なように、無線又は有線により接続されている。コンピュータ10及び撮像装置20は、プライベートネットワーク又はパブリックネットワークなどのネットワークを介して相互に通信可能であってもよい。
 図1に示す例において、システム1は、コンピュータ10とは別に撮像装置20を備えているが、コンピュータ10は撮像装置20を内蔵していてもよい。コンピュータ10は、撮像装置20以外の他の装置から取得された対象製品の画像に基づいて、対象製品の外観に関する検査を行ってもよい。システム1は、撮像装置20を有さなくてもよい。また、システム1は、図1に示す以外の構成を備えてもよい。例えば、システム1は、対象製品に向けて照射光を照射するための照射装置を備えてもよい。当該照射装置は、撮像装置20に内蔵されていてもよいし、撮像装置20とは別に設けられてもよい。システム1は、対象製品を搬送するための搬送装置を備えてもよい。また、図1には、1つの撮像装置20が示されているが、システム1は、複数の撮像装置20を備えてもよい。
 撮像装置20は、巻物製品Pの外観を撮像することにより巻物製品Pの画像を取得するように構成されている。撮像装置20は、例えば、エリアセンサ等を用いて構成される。円柱形状又は円筒形状の巻物製品Pは、例えば、当該形状の軸方向d1を中心に回転しながら搬送され、撮像装置20は、当該巻物製品Pの外観の側面を中心軸を基準とする周方向d2に沿って複数方向から撮像することにより得られた複数の画像を取得する。
 巻物製品Pの搬送のために、搬送装置として、例えば、図示しないコンベアが使用される。巻物製品Pは、コンベア上に直接載置されて搬送されてもよいし、巻物製品Pを支持する支持部材などの他の部材を介してコンベア上に載置されて搬送されてもよい。支持部材は、例えば、巻物製品Pを収納可能なバケット(容器)であってもよい。当該バケットは、巻物製品Pを支持するために、例えば、巻物製品Pの収容部に底板、並びに搬送方向の前後それぞれに板を有してもよい。
 巻物製品Pは、例えば、巻物製品Pの軸方向と垂直方向d3に搬送される。巻物製品Pは、コンベア上を周方向d2に転動しながら搬送されてもよいし、転動せずに搬送されてもよい。転動しながら搬送される場合、巻物製品Pの撮像装置20の撮像領域への進入から退出までの間、撮像装置20は、当該撮像領域を連続して撮像することにより、巻物製品Pの外観において周方向に延在する側面の複数の領域を撮像する。この場合において、撮像領域は、転動しながら搬送される巻物製品Pが少なくとも一回転するようなサイズで設定される。また、巻物製品Pを転動しながら搬送しつつ、一回転分撮像することにより、転動せずに搬送する場合と比較して、撮影時間を短くでき、検査速度を早くできる。なお、ラインセンサにより巻物製品Pを撮像し、製品画像を取得することも可能であるが、ラインセンサには、ライン速度の制約があり、また、撮影のために一定速度で精密に回転させる機械的な機構等の制約がある結果、一定の画質、及び生産性の要件を満たしつつ、ラインセンサにより製品画像を取得することが困難である場合がある。一方、撮像装置20がエリアセンサで構成されている場合、上記のように搬送させながら巻物製品Pを撮像することにより、ラインセンサにおける上記のような制約を受けずに、一定の画質、及び生産性の要件を満たしつつ、製品画像の取得が可能である。
 転動せずに搬送される場合、複数(N個)の撮像装置20が設置され、巻物製品Pの撮像装置20の撮像領域への進入から退出までの間、巻物製品Pの外観において周方向に延在する側面が、N個の撮像装置20によりN方向から撮像される。撮像装置20の数及び設置位置は、巻物製品Pの外観において周方向に延在する側面の全体が複数の撮像装置20により撮像可能なように設定される。
 本実施形態によれば、上記の構成により、巻物製品Pの外観において周方向に延在する側面の複数の領域が撮像装置20により撮像され、複数の製品画像(又は複数の検査対象画像)として取得される。このとき、巻物製品Pについて撮像装置20により取得される複数の製品画像の少なくとも一部分を結合した画像又は複数の検査対象画像の少なくとも一部分を結合した画像は、巻物製品Pの側面の全周の外観を含むように、撮像装置20により撮像が行われる。
 撮像装置20により上記のように取得された巻物製品Pの複数の画像は、コンピュータ10に送信される。
 コンピュータ10は、端末装置又はサーバ装置などの情報処理装置により構成される。コンピュータ10は、1つの情報処理装置(又はコンピュータ。以下同様。)によって構成されてもよいし、クラウドコンピューティング技術又は分散コンピューティング技術等を使用して複数の情報処理装置によって構成されてもよい。
 コンピュータ10は、取得した巻物製品Pの複数の画像に基づいて、対象製品の外観に関する検査の処理、又は当該検査に使用される学習モデルを生成する処理などを行う。当該検査のためのコンピュータ10と、当該学習モデルの生成のためのコンピュータ10とは、別の装置であってもよいし、同じ装置であってもよい。
 対象製品の外観に関する検査のために、コンピュータ10のプロセッサは、まず、撮像装置20から上記のとおり送信された画像を取得する。当該画像は、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を含む。さらに、コンピュータ10のプロセッサは、過去に巻物製品Pの外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、複数の検査対象画像を入力することにより、対象製品の外観に関する検査情報の出力を得る。本実施形態における対象製品の外観に関する検査の処理の詳細は、後述する。
 以上のように本実施形態によれば、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像に基づいて、対象製品の外観に関する検査情報を出力する。すわなち、1つの対象製品についての複数の検査対象画像のそれぞれに基づいて検査情報を出力するのではなく、複数の検査対象画像に基づいて検査情報が出力される。その結果、例えば、複数の検査対象画像の全体を確認しなければ特定できないような検査情報を出力することが可能である。すなわち、本実施形態によれば、対象製品の外観に関する検査をより高い精度で行うことが可能である。
 上記検査に使用される学習モデルの生成のために、コンピュータ10のプロセッサは、まず、教師データとして、巻物製品Pの外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を取得する。教師データとして取得される当該製品画像は、例えば、外観に異常のない巻物製品P(良品の巻物製品)を撮像することにより得られた画像と、外観に異常のある巻物製品P(不良品の巻物製品)を撮像することにより得られた画像とを含む。ここで、「外観に異常のない」とは、後述する折り返し不良、カット不良、テープ貼り付け不良、又はシワなどが完全に存在しない場合のみでなく、製品の外観において製品の品質あるいは美観の観点で許容できる程度の不良が存在する場合も含みうる。
  次に、コンピュータ10のプロセッサは、上記複数の製品画像を教師データとして、検査対象となる巻物製品Pである対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成する。本実施形態における学習モデルの生成の処理の詳細については後述する。
 図2Aから図2Eを参照して、本実施形態における良品及び不良品の巻物製品Pの一例を説明する。図2Aは、外観から特定できる不良項目を有さない良品である巻物製品P1の外観を示している。巻物製品P1は、製品が巻芯S1に巻き付けられることにより形成されている。巻き付けられた製品の長手方向(周方向)の端部(製品の巻芯S1への巻き終わり側の端部、すなわち、終端部)E1は、領域R1において(及び端部E1の他の領域においても)、意図された方法で正常に折り返されている。良品である巻物製品Pにおいて、製品の長手方向の端部は、折り返されていることに限定されず、巻き付けられた製品を取り出しやすくするための工夫がされた端部形状であればよい。このような端部形状として、例えば、端部がV字のような形状をしていて、このV字のような形状は、端部がV字にカットされることにより形成されてもよいし、端部が直線状にカットされたカット面を外側または内側に折り返して実現されても良い。また、巻き付けられた製品の長手方向の端部を固定するように、テープT1が意図された方法で巻物製品P1の表面(製品の表面)に正常に貼り付けられている。
 本実施形態において、外観から特定できる不良項目は、例えば、製品の折返し不良、製品のカット不良、製品のシワ、及び製品へのテープ貼付不良のうち少なくとも一部を含む。
 図2Bは、製品の折返し不良を有する巻物製品P2の外観を示している。図2Bは、製品の終端部である端部E2の領域R2において、端部E2が、意図されていない異常な方法で折り返されている(すなわち、正常に折り返されていない)ことを示している。
 図2Cは、製品のカット不良を有する巻物製品P3の外観を示している。図2Cは、製品の終端部である端部E3が正常にカットされておらず、その結果、製品の端部E3が、正常にカットされた場合に現れる領域とは異なる領域R3に現れていることを示している。
 図2Dは、製品のシワを有する巻物製品P4の外観を示している。図2Dは、巻物製品P4が領域R4に複数のシワを有していることを示している。
 図2Eは、製品へのテープ貼付不良を有する巻物製品P5の外観を示している。図2Eは、テープT5が正常に貼り付けられた場合に現れる領域とは異なる領域R5に現れていることを示している。
<ハードウェア構成>
 図3を参照して、コンピュータ10のハードウェア構成の一例を説明する。図3に示すように、コンピュータ10は、プロセッサ22、記憶装置24、RAM26、表示装置28、通信I/F部30、及び入力装置32を備える。コンピュータ10は、図3に示す構成のうち、一部を有さなくてもよいし、さらに他の構成を備えてもよい。
 プロセッサ22は、記憶装置24に記憶されたコンピュータプログラムを実行して、本実施形態に示される各演算処理を実行する。従って、プロセッサ22及び記憶装置24に記憶されたコンピュータプログラムは、協働して、コンピュータ10が有する各種機能を実現する。プロセッサ22は、例えば、複数の演算コアを備えるASIC(Application Specific Integrated Circuit)、GPU(Graphics Processing Unit)、又はFPGA(Field Programmable Gate Array)等から構成される。
 記憶装置24は、本実施形態に示される各演算処理を実行するためのコンピュータプログラムを含む各命令その他の情報を記憶する。記憶装置24は、NANDフラッシュメモリ、FeRAM、MRAM等の電気的に情報を記録及び読取可能な不揮発性半導体記憶素子(一時的でない記憶素子)又はHDD(Hard Disc Drive)等の磁気記憶素子から構成される。
 RAM26は、本実施形態に示される各演算処理等のために使用するデータその他の情報を一次記憶するためのSRAM(Static Random Access Memory)及びDRAM(Dynamic Random Access Memory)等の揮発性半導体記憶素子から構成される。
 表示装置28は、プロセッサ22による演算結果を表示するためのディスプレイを備える。通信I/F部30は、コンピュータ10がネットワーク等の通信経路を介して、外部装置と通信を行うためのインタフェースである。入力装置32は、ユーザによる入力を受け付けるための装置である。入力装置32は、例えば、キーボード等であってもよい。
 コンピュータ10が備える上記構成は、バスBを介して相互にデータ送受信可能に接続される。ただし、一部構成は、コンピュータ10とは別に設けられ、コンピュータ10と通信可能に構成されてもよい。
<機能構成>
 図4を参照して、コンピュータ10が有する機能を説明する。コンピュータ10は、主な機能構成として、記憶部101、画像取得部102、学習部103、及び判定部104を有する。コンピュータ10は、一般的な情報処理装置又は専用装置などの情報処理装置が有する他の機能構成を有してもよい。コンピュータ10が有する機能構成は、例えば、コンピュータ10が有するプロセッサ22などの制御装置が、記憶装置24などの記憶部に記憶されたコンピュータプログラムを読み込み実行することによって、コンピュータプログラム(ソフトウェア)とハードウェアの協働により実現される。
 記憶部101は、コンピュータ10が取得したデータ、及びコンピュータ10により生成されたデータを含む、各種のデータを記憶する。記憶部101は、例えば、巻物製品Pを撮像した画像データ、学習モデルのデータ、及び対象製品の外観に関する検査情報を記憶する。
 画像取得部102は、巻物製品Pの外観を撮像することにより得られた複数の製品画像を取得する。当該複数の製品画像は、例えば、巻物製品Pの外観の側面を周方向に沿って複数方向から撮像することにより得られた画像である。画像取得部102は、上記製品画像を撮像装置20から取得してもよいし、他の外部装置から取得してもよい。また、画像取得部102は、取得した製品画像に対して、後述する学習部103又は判定部104による処理の前処理(例えば、製品画像における巻物製品Pが写っている領域の切り出し等)を行う。
 巻物製品Pについて画像取得部102により取得される複数の製品画像の少なくとも一部分を結合した画像又は複数の検査対象画像の少なくとも一部分を結合した画像は、巻物製品Pの側面の全周の外観を含むように、撮像装置20により撮像が行われる。
 上記複数の製品画像の少なくとも一部及び上記複数の検査対象画像の少なくとも一部は、巻かれた製品の周方向端部を含むように、上記複数の製品画像は、撮像装置20により撮像され、また、画像取得部102により取得される。このように、製品画像が製品の周方向端部を含むことにより、当該周方向端部に関係する不良(例えば、製品の折返し不良、製品のカット不良)の検出に使用される学習モデルを生成することが可能である。また、当該学習モデルを使用して周方向端部に関係する不良を検出することが可能である。
 学習部103は、検査対象となる巻物製品Pである対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成する。より詳細には、学習部103は、複数の製品画像を含む教師データに対して畳み込みニューラルネットワークを利用した画像認識処理を実行し、良品及び不良品に対応する巻物製品Pの画像の特徴量を抽出し、機械学習により学習された学習モデル(畳み込みニューラルネットワーク)を生成する。すなわち、本実施形態において学習部103は、画像取得部102により取得された複数の製品画像を教師データとして、検査対象となる巻物製品Pである対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを構築(生成)する。
 図5を参照して、学習部103による学習モデルの生成処理の一例を説明する。図5に示すように、畳み込みニューラルネットワークNは、レイヤーL1及びレイヤーL2を有する。レイヤーL1は、畳み込み層ブロックB1からB4を有する。レイヤーL1に含まれる畳み込み層ブロックの数は、4に限定されず、4未満、又は5以上であってもよい。畳み込み層ブロックB1からB4のそれぞれは、例えば、畳み込み層、プーリング層、及びReLU層などの複合体であり、複数のフィルタを有する。レイヤーL2は、全結合層を有する。
 巻物製品Pの外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の画像(製品画像)I1からI4と、事前に定義された複数の分類カテゴリーであるクラスとが教師データとして畳み込みニューラルネットワークNに入力される。詳細には、画像I1は、畳み込み層ブロックB1に入力され、画像I2は、畳み込み層ブロックB2に入力され、画像I3は、畳み込み層ブロックB3に入力され、画像I4は、畳み込み層ブロックB4に入力される。クラスは例えば、巻物製品Pの外観に関する検査情報に対応する情報である。
 畳み込み層ブロックB1からB4はそれぞれ、入力された製品画像に対して畳み込み処理(フィルター処理)を行い製品画像の特徴量を抽出し、処理結果の値として特徴量のベクトル(行列)を出力する。入力される製品画像は、例えば、カラー画像又はグレー画像であってもよい。当該カラー画像は、例えば、3chx縦画素数x横画素数の3次元配列のデータであってもよい。当該グレー画像は、例えば、1chx縦画素数x横画素数の3次元配列のデータであってもよい。畳み込み層ブロックB1からB4のそれぞれから出力されたベクトルは、互いに結合される。例えば、畳み込み層ブロックB1からB4がそれぞれ、要素数が512x7x7の3次元配列を出力したのち、要素数25088(=512x7x7)の1次元配列へ変換するとする。このとき、畳み込み層ブロックB1からB4から出力された4つの配列が結合され、要素数100352(=25088x4)の1次元配列が生成されてもよい。
 結合されたベクトルは、レイヤーL2に入力される。すなわち、畳み込みニューラルネットワークNは、複数の畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力されるレイヤーL2(全結合層)を有する。レイヤーL2は、特徴量が抽出された画像をノードに結合し、活性化関数によって変換された値を出力し、画像の分類を行う。畳み込みニューラルネットワークNに対して教師データが入力され、出力を行うにつれて、畳み込みニューラルネットワークNにおける畳み込み層の重みや全結合層の結合重み等のパラメータが更新され、最適化されてゆく。すなわち、機械学習により学習されるにつれて、より最適化された畳み込みニューラルネットワークNが生成される。従って、教師データには、複数の巻物製品Pについての製品画像が含まれる。また、教師データには、それぞれの巻物製品Pについて、複数の製品画像が含まれる。機械学習により学習されたニューラルネットワークNのデータは、記憶部101に記憶される。
 判定部104は、学習部103により機械学習されたニューラルネットワークNに、複数の検査対象画像を入力することにより、対象製品の外観に関する検査情報の出力を得る。当該検査情報は、例えば、対象製品が良品であるか不良品であるかを示す情報を含んでもよい。また、当該検査情報は、不良品であるかを示す情報として、製品の折返し不良、製品のカット不良、製品のシワ、及びテープ貼付不良のうち、少なくともいずれかを示す情報を含んでもよい。
 図5を参照して、判定部104による対象製品の外観に関する検査情報の出力処理の一例をより詳細に説明する。判定部104は、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の画像(検査対象画像)I1からI4を畳み込みニューラルネットワークNに入力する。詳細には、画像I1は、畳み込み層ブロックB1に入力され、検査対象画像I2は、畳み込み層ブロックB2に入力され、検査対象画像I3は、畳み込み層ブロックB3に入力され、検査対象画像I4は、畳み込み層ブロックB4に入力される。
 畳み込み層ブロックB1からB4はそれぞれ、入力された検査対象画像に対して畳み込み処理を行い検査対象画像の特徴量を抽出し、処理結果の値として特徴量のベクトル(行列)を出力する。畳み込み層ブロックB1からB4のそれぞれから出力されたベクトルは、互いに結合される。例えば、畳み込み層ブロックB1からB4がそれぞれ、要素数が512x7x7の3次元配列を出力したのち、要素数25088(=512x7x7)の1次元配列へ変換するとする。このとき、畳み込み層ブロックB1からB4から出力された4つの配列が結合され、要素数100352(=25088x4)の1次元配列が生成されてもよい。 
 結合されたベクトルは、レイヤーL2に入力される。すなわち、畳み込みニューラルネットワークNは、複数の畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力されるレイヤーL2(全結合層)を有する。レイヤーL2は、特徴量が抽出された画像を一つのノードに結合し、活性化関数によって変換された値を出力し、画像の分類を行う。判定部104は、当該分類に基づいて、対象製品の外観に関する検査情報を出力する。
 上記のとおり、図5を参照して説明した判定部104の処理の例において、畳み込みニューラルネットワークN(学習モデル)は、4つの畳み込み層ブロックを有し、畳み込みニューラルネットワークNに、対象製品Pの外観を4方向から撮像することにより得られた4つの検査対象画像が入力される。
 また、畳み込みニューラルネットワークNに入力される検査対象画像の数は、4に限定されず、4未満、又は5以上であってもよい。入力される検査対象画像の数は、畳み込みニューラルネットワークNにおける畳み込み層ブロックの数に対応する数であってもよい。換言すれば、畳み込みニューラルネットワークN(学習モデル)は、入力される検査対象画像の数に対応する数の畳み込み層ブロックを有してもよい。また、検査対象画像のそれぞれは、畳み込み層ブロックのいずれかに入力されてもよい。
 すなわち、畳み込みニューラルネットワークNは、入力される検査対象画像の数と同じ数の畳み込み層ブロックを有し、当該検査対象画像のそれぞれは、異なる畳み込み層ブロックに入力されてもよい。
 また、レイヤーL1から出力され結合されたベクトルは、レイヤーL2に入力される。すなわち、畳み込みニューラルネットワークNは、複数の畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力されるレイヤーL2(全結合層)を有する。
 以上のように本実施形態によれば、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像(例えば、画像I1からI4)を畳み込みニューラルネットワークNに入力する。詳細には、例えば、画像I1は、畳み込み層ブロックB1に入力され、検査対象画像I2は、畳み込み層ブロックB2に入力され、検査対象画像I3は、畳み込み層ブロックB3に入力され、検査対象画像I4は、畳み込み層ブロックB4に入力される。複数の畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されてレイヤーL2(全結合層)に入力される。レイヤーL2は、入力に基づいて、画像の分類を行う。判定部104は、当該分類に基づいて、対象製品の外観に関する検査情報を出力する。
 その結果、本実施形態によれば、複数の検査対象画像を俯瞰しなければ判断できない情報を特定することができる。すなわち、本実施形態によれば、上記の外観に関する検査情報は、複数の検査対象画像のうち、2つ以上の検査対象画像に基づいて特定される情報を含む。これにより、本実施形態によれば、対象製品の外観に関する検査をより高い精度で行うことが可能である。
 複数の検査対象画像を俯瞰しなければ判断できない情報には、例えば、複数の検査対象画像に渡って映り込んでいる製品(巻かれた製品)の折返し不良、製品のカット不良、製品のシワ、又はテープ貼付不良に関する情報が含まれる。従って、例えば、上記の外観に関する検査情報は、巻かれた製品の折り返し不良、製品のカット不良、製品のシワ、又はテープ貼付不良に関する情報を含んでもよい。
 また、本実施形態によれば、上記のとおり、外観に関する検査情報は、複数の検査対象画像のうち、2つ以上の検査対象画像に基づいて特定される情報を含む。そのため、複数の検査対象画像のうち、一部の検査対象画像が良品である巻物製品Pの外観を示し、一部の検査対象画像が不良品である巻物製品Pの外観を示す場合に、判定部104は、不良品であるかを示す情報を含む上記外観に関する検査情報を出力することも可能である。
 より具体的な例として、複数の検査対象画像のうち、少なくとも第1検査対象画像は、折り返し不良、製品のカット不良、製品のシワ、又は製品へのテープ貼付不良のうち少なくとも一部を含み、その他の複数の検査対象画像のうち、少なくとも1の検査対象画像は、第1検査対象画像に含まれている折り返し不良、製品のカット不良、製品のシワ、又は製品へのテープ貼付不良のうち少なくとも一部を含まない場合がある。この場合において、判定部104は、不良品(折り返し不良、製品のカット不良、製品のシワ、又は製品へのテープ貼付不良のうち少なくとも一部)であるかを示す情報を含む上記外観に関する検査情報を出力することも可能である。
<処理フロー>
 図6を参照して、コンピュータ10における学習モデルの生成処理、及び対象製品の外観に関する検査情報の出力処理のフローの一例を説明する。以下に説明する各処理ステップは、例えば、コンピュータ10が有するプロセッサ22が、記憶装置24に記憶されたコンピュータプログラムを読み込み実行することによって、コンピュータプログラム(ソフトウェア)とハードウェアの協働により実現される。
 コンピュータ10において実行される処理の詳細は既に説明しているため、以下の処理フローの説明において、既に説明した内容については簡略化又は省略する場合がある。
 まず、ステップS101において、コンピュータ10は、巻物製品Pの外観を撮像することにより得られた複数の製品画像と、分類カテゴリー(クラス)とを含むデータを教師データとして取得する。当該複数の製品画像は、例えば、巻物製品Pの外観の側面を周方向に沿って複数方向から撮像することにより得られた画像である。教師データとして取得される当該製品画像は、複数の巻物製品Pについての画像を含む。また、教師データとして取得される当該製品画像は、例えば、外観に異常のない巻物製品P(良品の巻物製品)を撮像することにより得られた画像と、外観に異常のある巻物製品P(不良品の巻物製品)を撮像することにより得られた画像とを含む。コンピュータ10は、上記製品画像を撮像装置20から取得してもよいし、他の外部装置から取得してもよい。
 次に、ステップS102において、コンピュータ10は、検査対象となる巻物製品Pである対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成する。より詳細には、コンピュータ10は、ステップS101で取得された教師データを使用して畳み込みニューラルネットワークを利用した画像認識処理を実行し、良品及び不良品に対応する巻物製品Pの画像の特徴量を抽出し、機械学習により学習された学習モデル(畳み込みニューラルネットワーク)を生成する。
 次に、ステップS103において、コンピュータ10は、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得する。
 次に、ステップS104において、コンピュータ10は、ステップS102で生成した学習モデルに、ステップS103で取得した複数の検査対象画像を入力する。コンピュータ10は、当該学習モデルの出力に基づいて、対象製品の外観に関する検査情報の出力を得る。当該検査情報は、例えば、対象製品が良品であるか不良品であるかを示す情報を含んでもよい。また、当該検査情報は、不良品であるかを示す情報として、製品の折返し不良、製品のカット不良、製品のシワ、及びテープ貼付不良のうち、少なくともいずれかを示す情報を含んでもよい。
 なお、図6を参照して説明した処理の例において、学習モデルの生成処理(ステップS101及びS102)と、対象製品の外観に関する検査及び検査情報の出力処理(ステップS103及びS104)とが連続して行われたが、これに限定されない。コンピュータ10は、学習モデルの生成処理が終了したタイミングで、対象製品の外観に関する検査及び検査情報の出力処理を実施しなくてもよい。また、コンピュータ10は、学習モデルの生成処理が終了したタイミングとは異なるタイミングで、対象製品の外観に関する検査及び検査情報の出力処理を実施してもよい。また、学習モデルの生成処理を実行するコンピュータ10は、対象製品の外観に関する検査及び検査情報の出力処理を実行するコンピュータ10とは異なる装置であってもよい。
 以上のように本実施形態によれば、検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像に基づいて、対象製品の外観に関する検査情報を出力する。すわなち、1つの対象製品についての複数の検査対象画像のそれぞれに基づいて検査情報を出力するのではなく、複数の検査対象画像に基づいて検査情報が出力される。その結果、例えば、複数の検査対象画像の全体を確認しなければ特定できないような検査情報を出力することが可能である。すなわち、本実施形態によれば、対象製品の外観に関する検査をより高い精度で行うことが可能である。
<変形例>
 上記実施形態におけるコンピュータ10による機能を実装するためのコンピュータプログラムは、CD-ROM等の光学ディスク、磁気ディスク、半導体メモリなどの各種の記録媒体を通じて、又は通信ネットワークなどを介してダウンロードすることにより、コンピュータにインストール又はロードすることができる。
 本発明は、上記した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において、他の様々な形で実施することができる。上記実施形態はあらゆる点で単なる例示にすぎず、限定的に解釈されるものではない。
<第2変形例>
 本出願の発明者らは、搬送装置を用いて巻物製品を転動させるとき、巻物製品が意図通りに周方向に回転しない可能性がある点に着目した。巻物製品が転動しないと、巻物製品の側面の全周を含む検査対象画像を取得できないため、十分な検査を行うことが困難となってしまう。
 そこで本変形例に係る検査システムは、上記実施形態に示される検査システム1の各構成に加えて、複数の検査対象画像の少なくとも一部分を結合した画像が、対象製品である巻物製品の側面全周の外観を含むか否かを判定する判定手段を備えている。
 このような判定手段を備えることにより、巻物製品の側面の全周の外観を検査することが可能となる。以下具体的な構成について説明する。なお検査システム1の各構成と同一乃至類似する機能を発揮する構成については、同一乃至類似する名称乃至符号を付して詳細な説明を省略し、異なる部分を中心に説明する。
 本変形例においては、コンピュータ10の判定部104に、上述した判定手段としての機能が実装される。したがって判定部104は、第1実施形態において説明されたように対象製品の外観に関する検査情報の出力を得ると共に、複数の検査対象画像の少なくとも一部分を結合した画像が、対象製品である巻物製品の側面全周の外観を含むか否かを判定可能に構成されている。
 より具体的には、判定部104は、ステップS103において取得された検査対象となる巻物製品Pである対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像に基づいて、対象製品である巻物製品Pの側面全周の外観を含むか否かを判定するように構成されている。
 判定手段の一例として判定部104は、検査対象画像内において巻物製品Pの側面に設けられるマークの占める面積の複数の検査対象画像間の変動量に基づいて判定を行う。このようなマーク(「目印」と呼ばれる場合もある。)は、例えば、巻物製品Pの側面に貼り付けられたテープである。
 図5に示されるようにステップS103において複数の検査対象画像である画像I1~画像I4を取得した後、判定部104は、画像I1内において、テープが占める面積を取得する。同様に判定部104は、画像I1の状態から周方向に90度転動させた巻物製品Pを撮像して取得される画像I2内において、テープが占める面積を取得する。同様に判定部104は、画像I2の状態からさらに周方向に90度及び180度転動させた巻物製品Pを撮像してそれぞれ取得される画像I3及び画像I4内において、テープが占める面積をそれぞれ取得する。
 続いて判定部104は、各画像I1~画像I4におけるテープが占める面積の変動量を取得する。図5に示される画像の場合、判定部104は、画像I1及び画像I2はテープを含んでいるため、それぞれにおいてテープの面積を示す情報を取得する。一方画像I3及び画像I4は、テープの反対方向から撮像された検査対象画像であることから、テープが検出されなかったことを示す情報(すなわちテープの面積がゼロであることを示す情報)を取得する。テープの面積を示す情報を取得する方法は、知られた方法を用いることが可能である。例えばテープが所定の色に着色されている場合、判定部104は、検査対象画像の色情報に基づいてテープを検出してもよいし、テープが所定の形状を有している場合、判定部104は、パターン認識技術を用いてテープを検出してもよい。
 画像I1~画像I4は、巻物製品Pの側面の半周部分(180度)を含んでいる。このため図5に示されるように巻物製品Pが意図通りに90度ずつ転動(回転)している場合、90度ごとに撮像される画像I1~画像I4のうち、連続する2つの画像において所定の面積を占めるテープが検出され、残る2つの画像においてテープが検出されない。このため、判定部104は、画像I1及び画像I2においてテープが検出され、画像I3及び画像I4においてテープが検出されなかったことに基づいて、複数の検査対象画像である画像I1~画像I4を結合した画像は、対象製品である巻物製品Pの側面全周の外観を含んでいる、と判断する。その後ステップS104以下が実行される。
 一方で仮に判定部104が画像I1~画像I4のそれぞれにおいてテープが検出された場合、または、画像I1~画像I4のいずれにおいてもテープが検出されなかった場合、巻物製品Pが転動しなかったことを示しているから、判定部104は、複数の検査対象画像である画像I1~画像I4を結合した画像は、対象製品である巻物製品Pの側面全周の外観を含んでいない、と判断し、例えば検査を中止し、警告を報知させる。
 以上のとおり本変形例に係るシステムによれば、複数の検査対象画像の少なくとも一部分を結合した画像が、対象製品である巻物製品の側面全周の外観を含むか否かを判定する判定手段を備えているから、巻物製品の側面全周の外観を含まない検査対象画像に基づいて検査を行ってしまう事態を抑制することが可能となる。
 なお、マークの形状は、本変形例に示されるものに限られない。例えばマークは、巻物製品Pの側面に貼付される周方向に、全周未満の長さ(例えば、90度より大きく180度以下の長さ)を有する、周方向に長い帯状に形成されたテープであってもよい。
 このような構成によれば、例えば、巻物製品Pを周方向に90度ごとに転動させた場合であっても、検査対象画像I1~画像I4においてテープが占める面積が撮像角度に応じて変動することとなるから、判定部104は、より正確に複数の検査対象画像である画像I1~画像I4を結合した画像が対象製品である巻物製品Pの側面全周の外観を含んでいる、と判断することが可能となる。その他、巻物製品Pの形状、撮像装置20が巻物製品Pを撮像する間隔及び回数(例えば、90度ごとに4回や、60度ごとに6回)等に応じて適宜変更可能である。またテープの面積をより精度よく取得するため、テープは赤や黄色等、巻物製品Pの側面とは異なる色で着色されていてもよいし、複数のテープを貼付してもよい。
 さらに巻物製品Pの側面の全周の外観を含んでいることの判定手法も、上述したアルゴリズムに限られるものではない。例えば、判定部104は、判定手段の他の一例として、検査対象画像同士を比較することにより、巻物製品Pの側面全周の外観を含んでいることを判定可能に構成されていてもよい。例えば判定部104は、画像I1~画像I4を比較し、両者の相似度をそれぞれ算出し、相似度が所定の閾値未満の場合に、画像I1~画像I4を結合した画像が対象製品である巻物製品Pの側面全周の外観を含んでいる、と判断することように構成されてもよい。巻物製品Pが転動しなかった場合、画像I1と画像I2は、ほぼ同じ検査対象画像となるため、相似度が高くなる。このため、各画像を他の画像と比較し、各画像間の相似度に応じて、巻物製品Pの側面全周の外観を含んでいることを判定可能に構成することが可能となる。なお相似度の算出方法は検査対象画像に応じて適宜選択可能であり、例えば、画像ヒストグラムの比較(両画像の色分布の比較)、特徴抽出及び照合(両画像から固有の特徴を抽出し、照合する手法)、画像ハッシュ比較(画像に固有の数値表現を作成し、ハッシュを比較する手法)等であってもよい。また、判定部104は、巻物製品Pが転動乃至回転しているか否かという情報を、回転を検出可能なセンサ等、画像以外の情報に基づいて取得し、その情報に基づいて巻物製品Pの側面全周の外観を含んでいることを判定するように構成されてもよい。
 なお、撮像装置20は、転動している(回転している)巻物製品Pの外観の側面(すなわち回転運動中の巻物製品Pの外観の側面)を、少なくとも二次元領域を撮像可能なCMOSイメージセンサ等のセンサまたは一次元領域を撮像可能なラインセンサ等を用いて撮像可能に構成されてもよいが、これに限られるものではない。例えば撮像装置20は、所定角度(例えば90度)転動(回転)した後静止している巻物製品Pを、少なくとも二次元領域を撮像可能なCMOSイメージセンサ等のセンサを備えたカメラを用いて撮像して検査対象画像を取得し、さらに所定角度(例えば90度)転動(回転)した後静止している巻物製品Pを撮像して検査対象画像を取得することを繰り返すことにより、複数の検査対象画像を取得可能に構成されてもよい。
<第2実施形態>
 以下、本発明の他の実施形態について図面を用いて説明する。以下の実施形態は、本発明を説明するための例示であり、本発明をその実施形態のみに限定する趣旨ではない。また第1実施形態に示された構成と類似乃至同一の機能を発揮することが当業者に理解できる構成要素については、名称等を共通化して、説明を適宜省略乃至簡略化する。
 本実施形態に係るシステム1A(図7)は、搬送装置40Aによって搬送される巻物製品Pを製造した製造装置Mを示す情報と、この巻物製品Pの外観に関する検査情報という2つの異なる情報を収集(取得)し、両情報を関連付けて記録する集約部105Aと、製造装置Mごとに、その製造装置Mにより製造された複数の巻物製品Pの検査情報を示す情報を取得する統計処理部106A(「情報取得部」の一例)とを備えている。
 このような構成の下、システム1Aは、製造装置Mごとに、その製造装置Mにより製造された巻物製品Pの検査情報を取得することが可能となる。このため所定の製造装置Mが他の製造装置Mと比較して品質の悪い巻物製品Pを製造していることを知ることが可能となる。以下詳細構成について説明する。
 図7は第2実施形態に係るシステム1Aを用いた巻物製品Pの検査プロセスを説明するための機能ブロック図である。ただし図7において実線は、巻物製品Pの搬送経路を示し、図7において点線は、情報経路を示している。
 同図に示されるように、システム1Aは、コンピュータ10Aと撮像装置20Aとを備える。コンピュータ10Aは、記憶部、画像取得部、学習部及び判定部104Aを備えている。コンピュータ10Aは、コンピュータ10と同様のハードウェア構成(図3)を備えており、コンピュータ10Aの記憶部、画像取得部、学習部及び判定部は、それぞれ、コンピュータ10の記憶部101、画像取得部102、学習部103及び判定部104と同等の機能を発揮するので、詳細な説明を省略する。さらに撮像装置20Aは、撮像装置20と同様のハードウェア構成を備え、同様の機能を発揮するので、同様に詳細な説明を省略する。
 本実施形態に係るコンピュータ10Aはさらに、集約部105Aと、統計処理部106Aと、統計処理部106Aにより得られた情報に基づいて製造装置Mが製造する巻物製品Pの品質が低下した場合にアラートを報知するためのアラート処理部107Aとを備えている。
 さらにシステム1Aは、巻物製品Pを搬送するためのコンベア40(「搬送装置」の一例)と、コンベア40に搬送させる巻物製品Pを、巻物製品Pをそれぞれ製造可能に構成されるN台の製造装置Mのうちの一の製造装置Mから他の製造装置Mに切り替える切替装置50と、判定部104から受信する検査情報に基づいて、良品の巻物製品Pを出荷し、不良品の巻物製品Pを破棄または手直しするために、巻物製品Pを良品または不良品に仕分けるための仕分け部60とを備えている。
 図7において製造装置M1乃至製造装置MNは、それぞれ巻物製品Pを製造可能に構成されたN台(ただしNは2以上の整数)の製造装置を示している。各製造装置を製造装置M1、製造装置M2等と呼び、任意の製造装置を製造装置Mと呼ぶ場合がある。各製造装置は、同時に稼働することによりそれぞれ巻物製品Pを製造してもよいし、例えばある製造装置Mをメンテナンスしている間に他の一、または、複数の製造装置Mが同時に稼働することにより巻物製品Pを製造してもよい。なお各製造装置Mは、一部において共通のユニットを備えていてもよい。例えば製造装置M1乃至製造装置MNは、上流部分において共通のユニットを備えていてもよい。また、製造装置Mは、巻物製品Pの製造プロセスのうち一つのプロセスで使用される製造装置を含んでいる。さらに製造装置Mは、製造装置を構成する部品または製造設備を含んでいる。このような製造設備が複数存在し、各製造設備が代替的に、または、同時並列的に、それぞれ巻物製品Pの製造に使用される場合、本発明を適用することにより、巻物製品Pの製造品質に与える影響を製造設備間で比較することが可能となる。
 各製造装置Mは巻物製品Pを製造しコンベア40に供給可能に構成されており、コンベア40はN台の製造装置Mによりそれぞれ製造された複数の巻物製品Pを搬送可能に構成されている。上述したようにコンベア40は、巻物製品Pを周方向d2(図1)に転動させながら搬送可能に構成されてもよいし、巻物製品Pを転動することなく搬送可能に構成されてもよい。また、コンベア40は、撮像装置20Aに到着するまでは転動することなく巻物製品Pを搬送し、撮像装置20Aによって複数方向から撮像される位置において巻物製品Pを転動または回転させるように構成されてもよい。また巻物製品Pは、コンベア40上に直接配置されて搬送されてもよいし、コンベア40上に配置されたバケット(容器)に収納された状態で搬送されてもよい。
 切替装置50は、コンベア40に供給される巻物製品Pを製造する製造装置Mを、一の製造装置Mから他の製造装置Mに切り替える。さらに切替装置50は、所定の製造装置Mによって製造された巻物製品Pがコンベア40上のどの位置(例えばコンベアベルトの基準位置に対する相対的な位置)に供給されたかを示す情報を取得し、集約部105Aに送信する。
 切替装置50が備える、コンベア40に巻物製品Pを供給する製造装置Mを切り替えるための構成は、知られた構成を採用することが可能である。例えば、各製造装置Mに製造された巻物製品Pを排出するための搬出経路とコンベア40とが接続されている構成において、切替装置50は、各製造装置Mの搬出経路とコンベア40との間を開閉する開閉ゲートをそれぞれ備え、選択される一の製造装置Mとコンベア40との間を開放することでその製造装置Mによって製造される巻物製品Pをコンベア40に供給させる一方で、他の製造装置Mとコンベア40との間を閉塞することで他の製造装置Mによって製造される巻物製品Pをコンベア40に供給しないように構成されてもよい。このような構成により切替装置50は、開閉ゲートが開いている一の製造装置Mによって製造された巻物製品Pをコンベア40に供給しているという情報を取得することが可能となる。
 上記に替えて切替装置50は、各製造装置Mの搬出経路をスライド可能な可動コンベヤとして備え、コンベア40と接続してその製造装置Mによって製造される巻物製品Pをコンベア40に供給させる一方で、他の製造装置Mの排出経路とコンベア40とを離間して他の製造装置Mによって製造される巻物製品Pをコンベア40に供給しないように構成されてもよい。
 上記に替えて切替装置50は、選択される一の製造装置Mによって製造された巻物製品Pをピックアップしてコンベア40に供給するロボットアームであってもよい。
 以上のような構成において切替装置50は、コンベア40に巻物製品Pを供給する製造装置Mを切り替えることが可能となるから、現在コンベア40に供給されている巻物製品Pを製造した製造装置Mを示す情報を取得することが可能である。
 加えて切替装置50は、巻物製品Pがコンベア40上のどの位置に供給されたかを示す情報を取得し、製造装置Mを示す情報と共に集約部105Aに送信する。例えば切替装置50は、所定の巻物製品Pがコンベア40上に供給された時点におけるコンベア40を駆動する歯車の回転数を示す情報を、その巻物製品Pが存在するコンベア40上の位置情報として取得し、製造装置Mを示す情報と共に集約部105Aに送信する。巻物製品Pがコンベア40上に供給されてから撮像装置20Aに到達して判定部104Aによって判定されるまでに必要な歯車の回転量は、巻物製品Pが供給されるコンベア40上の位置と、撮像装置20Aに撮像されるコンベア40上の位置との距離を示す情報であり、予めわかっているから、集約部105Aは、巻物製品Pが撮像装置20Aに到達した時の検査情報を判定部104Aから取得することによって、所定の製造装置Mによって製造された巻物製品Pの検査情報を取得することが可能となる。
 例えば、切替装置50が製造装置M1によって製造された巻物製品Pがコンベア40に供給された時点におけるエンコーダ等を用いてカウントされるコンベア40の歯車の回転量が1000回転であり、その巻物製品P1が撮像装置20Aに到達して撮像されるまでに必要な歯車の回転量が500回転の場合、集約部105Aは、コンベア40の歯車の回転量が1500回転(1000+500)の時に判定部104Aから得られる検査情報が、製造装置M1によって製造された巻物製品Pの検査情報であると判断し、製造装置M1と巻物製品Pの検査情報とを関連付けて記録する。
 以上述べたように集約部105Aは、切替装置50からコンベア40によって搬送される巻物製品Pを製造した製造装置Mを示す情報(「製造装置情報」の一例)を取得し、判定部104Aからその巻物製品Pの外観に関する検査情報を取得し、両情報を関連付けて例えばコンピュータ10Aの記憶装置に記録する。図8は、集約部105Aによって関連付けられ、記憶装置に記録された情報の一例である。ここで判定部104が出力する検査情報は、0~100の値を取り得る判定値(スコア)であってもよい。本実施形態では判定値が高いほど良品であり、低いほど不良品であるように、検査情報に相当する判定値が出力される。同図に示されるように、例えば製造装置M1によって製造された2つの巻物製品Pの判定値は、それぞれ、63及び64である。一方で製造装置M3によって製造された2つの巻物製品Pの判定値は、それぞれ、30及び15である。このような情報を取得することによって、製造装置M3によって製造される巻物製品Pの品質が製造装置M3によって製造される巻物製品Pの品質よりも悪いということを把握することが可能となる。
 なお同図に示されるように集約部105Aはさらに、検査情報と、検査対象画像を撮像した日付及び/又は時刻情報とを関連付けて不図示の記録装置に記録してもよい。後述するように、ある日付における所定の製造装置Mによって製造された巻物製品Pの検査情報と、異なる日付けにおける所定の製造装置Mによって製造された巻物製品Pの検査情報とを比較することにより、季節的な要因が検査情報に与える影響や、経時的な要因(例えば製造装置Mに使用される所定の部品の消耗度)が検査情報に与える影響を把握することも可能となる。
 また、全ての製造装置Mの検査情報が一様に変動している場合は、製造装置M以外の要因(例えば判定部104Aの判定方法)に問題が生じていることを把握すること等も可能となる。
 統計処理部106A(「情報取得部」の一例)は、製造装置Mごとに、その製造装置Mにより製造された複数の巻物製品Pの検査情報を示す情報を取得する。本実施形態における統計処理部106Aは、同一の製造装置Mにより製造された複数の巻物製品Pの検査情報に基づいて計算される統計的情報を取得可能に構成されており、具体的には、製造装置Mごとに、その製造装置Mによって製造された複数の巻物製品Pの異常度スコアの平均値(「複数の前記巻物製品の前記検査情報を示す情報」の一例)または中央値及びその分散(「複数の前記巻物製品の前記検査情報を示す情報」の一例)を算出可能に構成されている。ここで異常度スコアは、高いほど不良品であり低いほど良品となる値であってよく、例えば上述した判定値を100から引いた値であってもよい。さらに統計処理部106Aは、全ての巻物製品Pの異常度スコアの平均値を取得可能に構成されてよい。
 図9は、統計処理部106Aによって取得される情報を示すグラフである。なおシステム1Aは、同図に示されるグラフを表示する表示装置(ディスプレイ)をさらに備えてもよい。
 同図に示されるように、他の製造装置Mと比較して、製造装置M2により製造された巻物製品Pの異常度スコアが高いことが把握される。このため製造装置M2の状態を調査し適切な対策を講じることにより、巻物製品Pの歩留まりを向上させることが可能となる。
 アラート処理部107Aは、統計処理部106Aからの情報に基づいて、所定の製造装置Mが製造する巻物製品Pの品質が低下したことを報知するためのアラート情報を生成する。本実施形態の場合、アラート処理部107Aは、所定の製造装置M(例えば製造装置M2)の異常度スコアの平均値が、他の製造装置Mの異常度スコアの平均値より所定量(例えば、30%)悪い値に乖離していたら、その製造装置Mが設備異常であることを示すアラート情報を生成し、例えば、管理者に送信する。
 以上のとおりであるから本実施形態に係るシステム1Aによれば、製造設備の異常を容易に把握することが可能となる。このため巻物製品P等、製造装置によって製造される製品の製造歩留まりを向上することが可能となる。
 なお、ある巻物製品Pを製造した製造装置Mと、その巻物製品Pの検査情報とを関連付ける方法は、上述した方法に限られるものではない。
 例えば、コンベア上に載置された複数のバケット(容器)を連結し、各バケットに1つの巻物製品Pを収納して搬送する態様において、所定のバケットが所定の位置を通過したときを基準として例えばエンコーダを用いて所定の歯車の回転量のカウントを行い、そのカウント値をバケット1個分のその歯車の回転量で除することによって、各バケットに搬送される巻物製品Pのコンベア40上の位置を容易に把握することが可能となる。このため、巻物製品Pが所定のバケットに収容されるコンベア40上の位置情報と、巻物製品Pが撮像装置20によって撮像され検査されるコンベア40上の位置情報と、切替装置50がコンベア40上に供給している巻物製品Pを製造した製造装置Mの情報を取得することにより、ある巻物製品Pを製造した製造装置Mと、その巻物製品Pの検査情報とを関連付けることが可能となる。
 またバケットに数字を印字することとし、切替装置50をある製造装置M(例えば製造装置M4)によって製造された10個の巻物製品Pを所定の番号(例えば41~50)のバケットにそれぞれ収納するように構成するとともに、撮像装置20Aをバケットに印刷された数字を撮像して読み取るように構成すれば、その巻物製品Pを製造した製造装置Mを示す情報と、その巻物製品Pの検査情報とを関連付けることが可能となる。また、数字を印字することに替えて、バケットにRFID等を搭載してもよい。
 以上のとおりであるから本実施形態に係るシステム1Aによれば、複数の製造装置(製造設備を含む)を同時並列的に、または、代替的に使用して複数の巻物製品Pを製造する場合に、巻物製品Pの製造品質に与える影響を製造装置間で容易に比較することが可能となり、ひいては巻物製品Pの品質向上または歩留まり向上を図ることが可能となる。
<第3実施形態>
 以下、本発明の第3実施形態について図面を用いて説明する。第2実施形態と同様に、他の実施形態に示された構成と類似乃至同一の機能を発揮することが当業者に理解できる構成要素については、名称等を共通化して、説明を適宜省略乃至簡略化する。
 本実施形態に係るシステム1Bは、教師データを効率よく収集できることを可能とするための構成を備えている点において他の実施形態と異なるためこの点を中心に説明する。
 図10は、本実施形態に係るシステム1Bを用いた巻物製品Pの検査プロセスを説明するための機能ブロック図である。同図に示されるように、システム1Bは、コンピュータ10Bと撮像装置20Aとを備える。コンピュータ10Bは、表示部108B、結果蓄積部109B及び再学習部110Bを備えている点においてコンピュータ10Aと異なり、他の点において共通するため共通部分の説明を省略する。
 コンピュータ10Bの表示部108Bは、検査対象画像のうち検査情報の出力に影響した部位(「特徴部位」と呼ばれる場合がある。)を特定し、検査対象画像と特徴部位を特定する情報とを表示する。特徴部位の特定は、コンピュータ10が有するプロセッサ22が、記憶装置24に記憶されたコンピュータプログラムを読み込み実行することによって、コンピュータプログラム(ソフトウェア)とハードウェアの協働により実現される。検査対象画像と特徴部位を特定する情報との表示は、プロセッサ22からの指令に基づいて対象画像と特徴部位を特定する情報を表示するディスプレイ(「表示装置」の一例)により実現される。
 特徴部位の抽出は、知られた方法を採用することが可能であり、例えば、CAM(Class Activation Map)またはGrad-CAMを採用することが可能である。CAMは、畳み込みニューラルネットワークの最後の畳み込み層が出力した特徴量マップに重みをかけて判断根拠を可視化する方法であり、Grad-CAMは、CAMにおいて、出力値の変動率に基づいて重みを算出することにより、判断根拠を可視化する方法である。
 表示部108Bは、検査対象画像と、コンピュータ10Bのプロセッサを用いて取得された特徴部位とを重ね合わせて表示する。本実施形態の表示部108Bはさらに、異常の種類ごとに、異常の名称、検査対象画像、特徴部位、その異常度のスコアを表示可能に構成されている。
 図11は、表示部108Bの表示画面の一例である。同図に示されるように、表示部108Bは、「折り返し」と呼ばれる種類の異常について、異常の名称(「折り返し」)、巻物製品Pの検査対象画像(画像I5)、特徴部位(特徴部位CR5)と、折り返し異常の判定値のスコアである「23」(「検査情報の出力」の一例)を表示し、さらに「シワ」と呼ばれる種類の異常について、異常の名称(「シワ」)、同一の巻物製品Pの検査対象画像(画像I6)、特徴部位(特徴部位CR6)と、シワ異常の判定値のスコアである「83」(「検査情報の出力」の一例)を表示する。
 特徴部位CR5は、「折り返し」のスコア23(「検査情報の出力」の一例)に影響を与えた部位であり、特徴部位CR6は、「シワ」のスコア83(「検査情報の出力」の一例)に影響を与えた部位であるため、同一の巻物製品Pの異なる部位をそれぞれ示す場合がある。なお、表示されるスコアは、スコアが高いほどその異常が発生しており、スコアが低いほどその異常が発生していないことを示すように予め設定されてもよいし、反対にスコアが低いほどその異常が発生しており、スコアが高いほどその異常が発生していないことを示すように予め設定されてもよい。本実施形態は、例えば、スコアが0に近いほどその異常が発生しており、スコアが100に近いほどその異常が発生していないようにスコアが設定されている実施態様に相当する。
 本実施形態において特徴部位CR5及び特徴部位CR6は、それぞれ半透明で、画像I5及び画像I6にそれぞれ重ね合わせて表示されるため、検査者は、画像I5及び画像I6のうち特徴部位CR5及び特徴部位CR6を観察することにより、コンピュータ10Bが「折り返し」異常について「23」というスコアをつけたことの妥当性、ならびに「シワ」異常について「83」というスコアをつけたことの妥当性を判断することが可能となる。検査者は、コンピュータ10Bの入力装置32(図3。「入力部」の一例)であるマウス、キーボード、または、タッチパネル等を用いて、コンピュータ10Bによる判断が妥当であるか(「妥当」)、妥当でないか(「異議あり」)、それぞれの異常について入力する。
 コンピュータ10Bの入力装置32は、表示部108に表示される画像I5、画像I6、特徴部位CR5及び特徴部位CR6を見た検査者が入力した「折り返し」異常についてのスコアならびに「シワ」異常についてのスコアの妥当性に関する情報を受け付ける。
 結果蓄積部109Bは、良品及び不良品についての教師データを格納するデータベースを備えている。ここで入力装置32が「異議あり」の入力を受け付けた場合、すなわち検査者がコンピュータ10Bによる検査結果が誤っていると判断した場合、結果蓄積部109Bは、その入力に対応する検査対象画像を教師データとして追加する。
 例えば、コンピュータ10Bの入力装置32が「折り返し」異常について「異議あり」の入力を受け付けた場合とは、「23」という「折り返し」異常が発生している可能性が高いことを示すスコアが検査情報として出力されたにもかかわらず、「折り返し」異常が発生している可能性が低いと評価者が判断した状態に相当する。このような場合、コンピュータ10Bの結果蓄積部109Bは、折り返し異常が発生していない良品の教師データとして、画像I5を追加する。
 一方で、コンピュータ10Bの入力装置32が「シワ」異常について「異議あり」の入力を受け付けた場合とは、「83」という「シワ」異常が発生している可能性が低いことを示すスコアが検査情報として出力されたにもかかわらず、「シワ」異常が発生している可能性が高いと評価者が判断した状態に相当する。このような場合、コンピュータ10Bの結果蓄積部109Bは、シワ異常が発生している不良品の教師データとして、画像I6を追加する。
 再学習部110Bは、結果蓄積部109Bに新たに追加された検査対象画像を含む教師データに基づいて、例えば第1実施形態と同様の方法で、新たな学習モデルを生成する。なお教師データとして新たな検査対象画像が追加された点を除いて、学習部103及び再学習部110Bは、学習モデルを生成する点において共通する。このため、学習部103及び再学習部110Bは、同一のコンピュータプログラム(ソフトウェア)及びハードウェアの協働により実現されてよい。
 判定部104Aは、再学習部110Bにより機械学習されて新たに生成されたニューラルネットワークに、複数の検査対象画像を入力することにより、対象製品の外観に関する検査情報の出力を得る。
 またコンピュータ10Bは、入力装置32が所定の巻物製品Pの検査情報の出力に対し「異議あり」の入力を受け付けた場合、「異議あり」の情報の入力に基づいて生成される情報を仕分け部60に送信する。例えば巻物製品Pが良品であることを示す検査情報の出力に対し「異議あり」の入力を受け付けた場合、コンピュータ10Bは、その巻物製品Pが不良品であること(または、不良品の可能性があること)を示す情報を仕分け部60に送信する。
 仕分け部60は、判定部104から受信する検査情報を、「異議あり」の情報の入力に基づいて生成される情報に基づいて更新する。仕分け部60は、評価者によりフィードバックを受けた情報に基づいて、巻物製品Pを良品または不良品に仕分けることが可能となるため、不良品が良品として出荷されてしまう可能性や、良品が不良品として破棄等されてしまう可能性を低減することが可能となる。
 なおコンピュータ10Bは、入力装置32が所定の巻物製品Pの検査情報の出力に対し「異議あり」の入力を受け付けた場合、「異議あり」の情報の入力に基づいて生成される情報を判定部104Aに送信し、判定部104Aは、受信した情報に基づいて検査情報の出力を更新し、仕分け部60に更新された情報を送信するように構成してもよい。
 その他の構成(プロセスを含む)については、他の実施形態で説明された構成と同様であるため説明を省略する。
 なお、システム1Bのコンピュータ10Bは、多数の検査対象画像の中から表示部108Bに表示させる検査対象画像を選択するためのサンプリング部111B(図10)をさらに備えていてもよい。例えばサンプリング部111Bは、判定部104が検査対象画像に基づいて取得した数値に基づいて、表示部108Bに表示させる検査対象画像を選択するように構成されてよい。例えば、判定部104が検査対象画像に基づいて数値を取得可能に構成されており、この数値を所定の閾値と比較することにより検査対象が良品であるか不良品であるかを示す検査情報を出力するように構成されているとき、サンプリング部111Bは、取得した数値とこの閾値との差が所定値(「第2閾値」と呼ばれる場合がある。)以下である検査対象画像を、表示部108Bに表示させるように構成されてよい。
 このような構成とすることにより、検査者が観察する検査対象画像を選択することが可能となる。このため、例えば生産性が高く製造ラインの速度が大きすぎるために検査者が全ての検査対象画像を観察し、観察した結果を入力することが困難な場合であっても、良品であるか不良品であるかの判断が難しい検査対象画像を選択的にチェックすることが可能となる。また、良品であるか不良品であるか判断が難しい検査対象画像についての教師データを効率的に収集することが可能となる。
 上記に替えてサンプリング部111Bは、判定部104が良品であることを示す検査情報を出力した検査対象画像を除き、判定部104が不良品であることを示す検査情報を出力した一部または全ての検査対象画像を表示部108Bに表示させるように構成されてもよい。
 上記に替えてサンプリング部111Bは、ランダムに選択された検査対象画像を表示部108Bに表示させるように構成されてもよい。例えばサンプリング部111Bは、検査者が検査対象画像を観察して、観察した結果に基づいて入力するのに要する時間を取得し、この時間ごとに検査対象画像を表示部108Bに表示させるように構成されてもよい。
 以上のとおりであるから本実施形態に示されるシステム1Bによれば、コンピュータ10Bによる検査情報の出力に対する検査者による妥当性の評価を可能とし、必要に応じて教師データの追加が可能に構成されているから、再学習用の教師データの効率的な収集及び精度の高い学習モデルの生成が可能となる。特に歩留まりの高い製品においては収集困難な不良品の教師データを効率的に収集することが可能となる。
 なお当業者の創作能力の発揮により、一の実施形態の構成を他の実施形態の構成に追加してもよく、例えば表示部108Bは、第2実施形態において示されたグラフ(図9)を表示可能に構成されてもよく、また、システム1Bはさらにアラート処理部107A等他の実施形態の構成を備えてもよい。
<第4実施形態>
 以下、本発明の第4実施形態について図面を用いて説明する。他の実施形態に示された構成と類似乃至同一の機能を発揮することが当業者に理解できる構成要素については、類似乃至同一の名称等を使用して、説明を適宜省略乃至簡略化する。
 本実施形態に係るシステム1Cは、不良品と判断された結果、本来破棄される、または、リサイクル処理される巻物製品Pを出荷できるように手直しすることを可能とするための構成を備えている点において他の実施形態と異なるためこの点を中心に説明する。
 図12は、本実施形態に係るシステム1Cを用いた巻物製品Pの検査プロセスを説明するための機能ブロック図である。同図に示されるように、システム1Cは、コンピュータ10Cと撮像装置20Aとを備える。コンピュータ10Cは、判定部104Cを備えている点においてコンピュータ10Aと異なり、他の点において共通するため共通部分の説明を省略する。
 コンピュータ10Cの判定部104Cは、検査情報の出力として少なくとも3種類の検査情報の出力を得るように構成されている。畳み込みニューラルネットワークN(図5)は、少なくとも3種類の検査情報の出力を得るために知られた構成を備えることが可能であり、例えば、全結合層のノードを、異常の種類に応じて分割することにより、少なくとも3種類の検査情報の出力を得るように構成されることが可能となる。ここで全結合層は、非全結合層であってもよい。
 そして判定部104Cは、全結合層の各ノードの値が例えば所定の閾値以上の場合にそのノードに対応する異常が発生しているとの出力を取得し、閾値未満の場合にそのノードに対応する異常が発生していないとの出力を取得するように構成されてよい。
 図13は、製品番号を有する巻物製品Pについて、判定部104Cによって取得された検査情報と、検査時刻と、検査された巻物製品Pのコンベア40上の位置情報と、検査情報に基づいて仕分け部60に送信される指示情報を示す表の一例である。上述したように、判定部104Cは、良品と不良品の2種類の検査情報の出力のみならず、不良品をさらに「シワ」異常と「折り返し」異常の2つの観点から判断することにより、製品番号1の巻物製品Pについて、「シワ」異常がなく、かつ、「折り返し」異常があることを示す検査情報の出力(「第3種類の前記検査情報の出力」の一例)を取得し、製品番号2の巻物製品Pについて、「シワ」異常があり、かつ、「折り返し」異常がないことを示す検査情報の出力(「第2種類の前記検査情報の出力」の一例)を取得し、製品番号3の巻物製品Pについて、「シワ」異常がなく、かつ、「折り返し」異常がないことを示す検査情報の出力(「第1種類の前記検査情報の出力」の一例)を取得する。
 そしてコンピュータ10Cの判定部104Cは、仕分け部60に指示情報として、製品番号1の巻物製品Pについて「手直し」、製品番号2の巻物製品Pについて「破棄」、製品番号3の巻物製品Pについて「出荷」を示す情報を送信する。
 あわせて判定部104Cは、検査時刻を示す情報と、その巻物製品Pのコンベア40上の位置を示す情報(例えば「製品番号1」について「100」)を取得する。検査時刻を示す情報は、撮像装置20により巻物製品Pが撮像され、検査が実行された時刻を用いてもよい。コンベア40上の位置は、コンベアベルトの基準位置に対する相対位置を示す情報でよく、上述したように、例えば、コンベア40上にバケットが連結されて巻物製品Pが搬送される実施態様において、巻物製品Pが収納されるバケットの番号を示す情報であってもよい。その番号のバケットがコンベア40によって仕分け部60に到達するタイミングは予めわかっているから、そのタイミングで仕分け部60において指示情報が表示されるように構成してもよいし、バケットに番号を印刷等で表示するとともに、バケットの番号を指示情報に含めることにより、仕分け部60が指示情報の対象となる巻物製品Pを容易に把握可能なように構成してもよい。
 「シワ」異常がなく、かつ、「折り返し」異常がある製品Pは、折り返しを手直しすることにより出荷可能な製品であるから、製品番号1の巻物製品Pは、仕分け部60において手直しされた後出荷される。一方で「シワ」異常は手直しできないため、製品番号2の巻物製品Pは破棄またはリサイクル処理される。「シワ」異常も「折り返し」異常もない製品番号3の巻物製品Pは仕分け部60においてそのまま出荷される。
 以上のとおりであるから、本実施形態に係るシステム1Cによれば、本来破棄等される巻物製品Pを手直しすることで出荷することが可能となる。
 以上の実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)
 製品が巻かれて形成された巻物製品の外観に関する検査のための検査システムであって、
 検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
 過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
 を実施するプロセッサを備える検査システム。
(付記2)
 前記学習モデルは、入力される前記検査対象画像の数に対応する数の畳み込み層ブロックを有し、前記検査対象画像のそれぞれは、前記畳み込み層ブロックのいずれかに入力される、付記1に記載の検査システム。
(付記3)
 前記学習モデルは、複数の前記畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力される全結合層を有する、付記2に記載の検査システム。
(付記4)
 前記複数の製品画像の少なくとも一部分を結合した画像又は前記複数の検査対象画像の少なくとも一部分を結合した画像は、前記巻物製品の側面の全周の外観を含む、付記1から3のいずれか一項に記載の検査システム。
(付記5)
 前記複数の製品画像の少なくとも一部及び前記複数の検査対象画像の少なくとも一部は、巻かれた前記製品の周方向端部を含む、付記1から4のいずれか一項に記載の検査システム。
(付記6)
 前記外観に関する検査情報は、複数の前記検査対象画像のうち、2つ以上の前記検査対象画像に基づいて特定される情報を含む、付記1から5のいずれか一項に記載の検査システム。
(付記7)
 前記学習モデルは、入力される前記検査対象画像の数と同じ数の畳み込み層ブロックを有し、前記検査対象画像のそれぞれは、異なる前記畳み込み層ブロックに入力される付記2に記載の検査システム。
(付記8)
 前記学習モデルは、4つの畳み込み層ブロックを有し、前記学習モデルに、前記対象製品の外観を4方向から撮像することにより得られた4つの検査対象画像が入力される、付記1から7のいずれか一項に記載の検査システム。
(付記9)
 前記外観に関する検査情報は、巻かれた前記製品の折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部に関する情報を含む、付記1から8のいずれか一項に記載の検査システム  。
(付記10)
 複数の前記検査対象画像のうち、少なくとも第1検査対象画像は、前記折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部を含み、  その他の複数の前記検査対象画像のうち、少なくとも1の前記検査対象画像は、前記第1検査対象画像に含まれている前記折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部を含まない、付記9に記載の検査システム。
(付記11)
 前記製品は、シート、フィルム、ホイル、又は織物を含む、付記1から10のいずれか一項に記載の検査システム。
(付記12)
 前記巻物製品を転動させながら搬送する搬送装置を備え、
 複数の前記検査対象画像が、前記搬送装置により転動させながら搬送された前記巻物製品を複数の方向から撮像することにより取得された画像を含む付記1から11のいずれか一項に記載の検査システム。
(付記13)
 製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実行される検査方法であって、前記プロセッサが、
 検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
 過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
 を含む検査方法。
(付記14)
 製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実施される検査方法を実行するためのプログラムであって、前記プロセッサが、
 検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
 過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
 を実行するためのプログラム。
(付記15)
 製品が巻かれて形成された巻物製品の外観に関する検査のための学習方法であって、システムにおいてプロセッサが、
 前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を取得することと、
 取得された前記複数の製品画像を教師データとして、検査対象となる前記巻物製品である対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成することと、
 を実施する学習方法。
(付記16)
 複数の製造装置によりそれぞれ製造された複数の巻物製品を搬送可能に構成された搬送装置と、
 前記搬送装置によって搬送される前記巻物製品を製造した前記製造装置を、一の前記製造装置から他の前記製造装置に切り替える切替装置と、
 前記搬送装置によって搬送される前記巻物製品を製造した前記製造装置を示す製造装置情報と、この製造装置によって製造された前記巻物製品の外観に関する検査情報とを取得し、前記製造装置情報と前記検査情報とを関連付ける集約部と、
 前記製造装置ごとに、その製造装置により製造された複数の前記巻物製品の前記検査情報を示す情報を取得する情報取得部と、備える検査システム。
 1 システム
 10 コンピュータ
 20 撮像装置
 22 プロセッサ
 24 記憶装置
 26RAM
 28 表示装置
 30 通信I/F部
 32 入力装置

Claims (19)

  1.  製品が巻かれて形成された巻物製品の外観に関する検査のための検査システムであって、
     検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
     過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
     を実施するプロセッサを備える検査システム。
  2.  前記学習モデルは、入力される前記検査対象画像の数に対応する数の畳み込み層ブロックを有し、前記検査対象画像のそれぞれは、前記畳み込み層ブロックのいずれかに入力される、請求項1に記載の検査システム。
  3.  前記学習モデルは、複数の前記畳み込み層ブロックのそれぞれにおける畳み込み処理により得られた値が結合されて入力される全結合層を有する、請求項2に記載の検査システム。
  4.  前記複数の製品画像の少なくとも一部分を結合した画像又は前記複数の検査対象画像の少なくとも一部分を結合した画像は、前記巻物製品の側面の全周の外観を含む、請求項1に記載の検査システム。
  5.  前記複数の製品画像の少なくとも一部及び前記複数の検査対象画像の少なくとも一部は、巻かれた前記製品の周方向端部を含む、請求項1に記載の検査システム。
  6.  前記外観に関する検査情報は、複数の前記検査対象画像のうち、2つ以上の前記検査対象画像に基づいて特定される情報を含む、請求項1に記載の検査システム。
  7.  前記学習モデルは、入力される前記検査対象画像の数と同じ数の畳み込み層ブロックを有し、前記検査対象画像のそれぞれは、異なる前記畳み込み層ブロックに入力される請求項2に記載の検査システム。
  8.  前記学習モデルは、4つの畳み込み層ブロックを有し、前記学習モデルに、前記対象製品の外観を4方向から撮像することにより得られた4つの検査対象画像が入力される、請求項1に記載の検査システム。
  9.  前記外観に関する検査情報は、巻かれた前記製品の折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部に関する情報を含む、請求項1に記載の検査システム。
  10.  複数の前記検査対象画像のうち、少なくとも第1検査対象画像は、前記折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部を含み、その他の複数の前記検査対象画像のうち、少なくとも1の前記検査対象画像は、前記第1検査対象画像に含まれている前記折り返し不良、前記製品のカット不良、前記製品のシワ、又は前記製品へのテープ貼付不良のうち少なくとも一部を含まない、請求項9に記載の検査システム。
  11.  前記製品は、シート、フィルム、ホイル、又は織物を含む、請求項1に記載の検査システム。
  12.  前記巻物製品を転動させながら搬送する搬送装置を備え、
     複数の前記検査対象画像が、前記搬送装置により転動させながら搬送された前記巻物製品を複数の方向から撮像することにより取得された画像を含む請求項1に記載の検査システム。
  13.  前記プロセッサは、前記複数の検査対象画像の少なくとも一部分を結合した画像が、前記巻物製品の側面の全周の外観を含むか否かを判断することをさらに実施する、請求項1に記載の検査システム。
  14.  複数の製造装置によりそれぞれ製造された複数の前記巻物製品を搬送可能に構成された搬送装置と、
     前記搬送装置によって搬送される前記巻物製品を製造した前記製造装置を、一の前記製造装置から他の前記製造装置に切り替える切替装置と、
     前記搬送装置によって搬送される前記巻物製品を製造した前記製造装置を示す製造装置情報と、この巻物製品の外観に関する前記検査情報とを取得し、前記製造装置情報と前記検査情報とを関連付ける集約部と、
     前記製造装置ごとに、その製造装置により製造された複数の前記巻物製品の前記検査情報を示す情報を取得する情報取得部と、をさらに備える請求項1に記載の検査システム。
  15.  前記プロセッサは、前記検査対象画像のうち、前記学習モデルに基づいて得られた前記検査情報の出力に影響した部位を特定することをさらに実施し、
     前記検査対象画像と、前記部位を特定する情報と、前記検査情報の出力とを表示する表示装置と、
     前記表示装置に表示される前記検査情報の出力の妥当性を受け付ける入力部とを備え、
     前記入力部が受け付けた妥当性に関する情報に基づいて、前記検査対象画像を前記教師データに追加可能に構成される、請求項1に記載の検査システム。
  16.  前記プロセッサは、少なくとも3種類の前記検査情報の出力を得ることを実施し、かつ、第1種類の前記検査情報の出力が得られた前記対象製品が良品であることを示す情報を出力し、第2種類の前記検査情報の出力が得られた前記対象製品が不良品であることを示す情報を出力し、第3種類の前記検査情報の出力が得られた前記対象製品が修正可能な製品であることを示す情報を出力すること、をさらに実施する請求項1に記載の検査システム。
  17.  製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実行される検査方法であって、前記プロセッサが、
     検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
     過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
     を含む検査方法。
  18.  製品が巻かれて形成された巻物製品の外観に関する検査のために、プロセッサを有するシステムで実施される検査方法を実行するためのプログラムであって、前記プロセッサが、
     検査対象となる前記巻物製品である対象製品の外観の側面を周方向に沿って複数方向から撮像することにより得られた複数の検査対象画像を取得することと、
     過去に前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を教師データとして機械学習された学習モデルに、前記複数の検査対象画像を入力することにより、前記対象製品の外観に関する検査情報の出力を得ることと、
     を実行するためのプログラム。
  19.  製品が巻かれて形成された巻物製品の外観に関する検査のための学習方法であって、システムにおいてプロセッサが、
     前記巻物製品の外観の側面を周方向に沿って複数方向から撮像して得られた複数の製品画像を取得することと、
     取得された前記複数の製品画像を教師データとして、検査対象となる前記巻物製品である対象製品の外観に関する検査情報を出力するように機械学習された学習モデルを生成することと、
     を実施する学習方法。
PCT/JP2023/016637 2022-04-27 2023-04-27 検査システム、検査方法、学習方法、及びプログラム Ceased WO2023210745A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022-073418 2022-04-27
JP2022073418 2022-04-27

Publications (1)

Publication Number Publication Date
WO2023210745A1 true WO2023210745A1 (ja) 2023-11-02

Family

ID=88518766

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/016637 Ceased WO2023210745A1 (ja) 2022-04-27 2023-04-27 検査システム、検査方法、学習方法、及びプログラム

Country Status (2)

Country Link
JP (1) JP2023163175A (ja)
WO (1) WO2023210745A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002350358A (ja) * 2001-05-23 2002-12-04 Mitsubishi Materials Corp 円筒状ワークの外観検査装置、外観検査方法、外観検査プログラム、および記録媒体
JP2003322510A (ja) * 2002-05-02 2003-11-14 Daio Paper Corp シートロールの検査方法及び検査装置
JP2020166512A (ja) * 2019-03-29 2020-10-08 トヨタ車体株式会社 性能推定装置
US20200363331A1 (en) * 2019-05-15 2020-11-19 Getac Technology Corporation Image scanning method for metallic surface and image scanning system thereof
JP2022048904A (ja) * 2020-09-15 2022-03-28 株式会社アイシン 異常検出装置、異常検出プログラム、および異常検出システム
WO2022202366A1 (ja) * 2021-03-25 2022-09-29 パナソニックIpマネジメント株式会社 データ支援システム、データ支援方法、プログラム、統合システム、及び処理装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002350358A (ja) * 2001-05-23 2002-12-04 Mitsubishi Materials Corp 円筒状ワークの外観検査装置、外観検査方法、外観検査プログラム、および記録媒体
JP2003322510A (ja) * 2002-05-02 2003-11-14 Daio Paper Corp シートロールの検査方法及び検査装置
JP2020166512A (ja) * 2019-03-29 2020-10-08 トヨタ車体株式会社 性能推定装置
US20200363331A1 (en) * 2019-05-15 2020-11-19 Getac Technology Corporation Image scanning method for metallic surface and image scanning system thereof
JP2022048904A (ja) * 2020-09-15 2022-03-28 株式会社アイシン 異常検出装置、異常検出プログラム、および異常検出システム
WO2022202366A1 (ja) * 2021-03-25 2022-09-29 パナソニックIpマネジメント株式会社 データ支援システム、データ支援方法、プログラム、統合システム、及び処理装置

Also Published As

Publication number Publication date
JP2023163175A (ja) 2023-11-09

Similar Documents

Publication Publication Date Title
KR102675656B1 (ko) 롤에 감긴 박형 제품의 중간 처리 단계 동안 제품 결함의 존재를 예측하는 방법
US11127134B2 (en) Film defect detection method and system
KR102696084B1 (ko) 제조된 웨브의 검사를 위한 가상 카메라 어레이
US12469123B2 (en) Inspecting sheet goods using deep learning
KR101774074B1 (ko) 웨브 제조 공정에서의 응용-특정된 반복 결함 검출 시스템
JP2023145412A (ja) 欠陥検出方法及びシステム
KR20160054543A (ko) 표면 결함의 검출을 위한 검사 시스템을 테스트하기 위한 방법 및 장치
US20240118687A1 (en) Monitoring operation of a machine
JP2024075727A (ja) 画像検査装置、画像検査方法及びプログラム
US12282864B2 (en) Learned model generation method, apparatus, and computer readable recording medium
JPWO2021209867A5 (ja) パターン検査装置
US20180348741A1 (en) Manufacturing line monitoring device, manufacturing line monitoring program, and manufacturing line monitoring method
WO2020183973A1 (ja) 表示システム、表示方法、及び表示プログラム
WO2020183974A1 (ja) 表示システム
WO2024159563A1 (zh) 基于变分贝叶斯推理的烟支外观缺陷检测方法
JP7368834B2 (ja) 物品処理装置、物品処理システム及び物品処理方法
KR20240037426A (ko) 인조 가죽 원단 표면 하자 자동 검수 방법 및 장치
JP2023163175A (ja) 検査システム、検査方法、学習方法、及びプログラム
ITVR20090082A1 (it) Metodo per la classificazione di prodotti alimentari in grado di rotolare sulla propria superficie esterna, quali frutta ed ortaggi.
WO2023114206A1 (en) Machine vision system for inspecting quality of various non-woven materials
JP7422588B2 (ja) 製品検査システム、製品検査方法、学習装置、認識装置、製品製造システム、製品製造方法
CN115424010A (zh) 烟包外观质量检测方法、装置和系统
JP2020149291A (ja) 表示システム
JP2020012808A (ja) 人工知能による皮革の検出方法及び皮革検出設備、並びに皮革製品の製造方法
JP7369541B2 (ja) 同じタイプの一連の構成部品における少なくとも1つの重要な特徴を取得する方法及びそのような一連の構成部品を分類する方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23796481

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 23796481

Country of ref document: EP

Kind code of ref document: A1