JP7292170B2 - Parts condition determination system - Google Patents

Parts condition determination system Download PDF

Info

Publication number
JP7292170B2
JP7292170B2 JP2019186205A JP2019186205A JP7292170B2 JP 7292170 B2 JP7292170 B2 JP 7292170B2 JP 2019186205 A JP2019186205 A JP 2019186205A JP 2019186205 A JP2019186205 A JP 2019186205A JP 7292170 B2 JP7292170 B2 JP 7292170B2
Authority
JP
Japan
Prior art keywords
collected
unit
image
parts
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019186205A
Other languages
Japanese (ja)
Other versions
JP2021060364A (en
Inventor
明 松本
幸嗣 桝本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Osaka Gas Co Ltd
Original Assignee
Osaka Gas Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Osaka Gas Co Ltd filed Critical Osaka Gas Co Ltd
Priority to JP2019186205A priority Critical patent/JP7292170B2/en
Publication of JP2021060364A publication Critical patent/JP2021060364A/en
Application granted granted Critical
Publication of JP7292170B2 publication Critical patent/JP7292170B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)

Description

本発明は、使用済の回収部品の状態を判別する部品状態判別システムに関する。 The present invention relates to a parts condition determination system for determining the condition of collected used parts.

特許文献1には、搬送されてくる検査対象物の上側面の異常を検出する第1検査カメラと、反転された検査対象物の上側面の異常を検出する第2検査カメラとが備えられ、両検査カメラからの異常情報に基づいて検知された不良品を搬送レーンから排出する外観検査装置が開示されている。検査対象物の表面異常の有無は、画像処理によって求められた、異物、傷、汚れによる色の変化と明るさの変化、及び表面凹凸の変化が予め設定された判別基準と比較されることによって決定される。 Patent Document 1 includes a first inspection camera that detects an abnormality on the upper side of the inspection object that is conveyed, and a second inspection camera that detects an abnormality on the upper side of the inverted inspection object. A visual inspection apparatus is disclosed that ejects defective products detected based on abnormality information from both inspection cameras from a conveying lane. The presence or absence of an abnormality on the surface of an object to be inspected is determined by comparing changes in color and brightness due to foreign matter, scratches, and dirt, and changes in surface unevenness, obtained by image processing, with preset discrimination criteria. It is determined.

特許文献2には、複数の工程を通じて電子部品を実装した基板を製造する現場において、各工程を実行した後の基板を撮像して検査を行う検査装置と、各検査装置との通信が可能な情報処理装置とを備えた基板検査システムが開示されている。このシステムでは、最終形態の基板から検出された不良の原因を特定する処理のためのプログラムが複数格納されており、検査装置により検出された不良部品について、検査装置から受信した検査結果を用いて、発生した異常の種類および当該異常が生じた工程が認識される。さらに、その認識結果に適した分析用プログラムが実行されることにより、不良の原因が特定される。 Patent Document 2 discloses an inspection device that images and inspects a board after each process is performed at a site where a board on which electronic components are mounted through a plurality of processes is manufactured, and communication with each inspection device is possible. A substrate inspection system including an information processing device is disclosed. In this system, a plurality of programs are stored for processing to identify the causes of defects detected in the final form of the board. , the type of anomaly that occurred and the process in which the anomaly occurred. Furthermore, the cause of the defect is specified by executing an analysis program suitable for the recognition result.

特許文献3には、カメラによって撮影されたパンのカラー画像を画像認識することにより、パンの種類を識別する識別装置が開示されている。識別装置は、パンのカラー画像からパンの内側領域と中間領域と外側領域のそれぞれの色空間での特徴量を求めるためのカラーデータ抽出部と、パンのカラー画像からパンの輪郭に関する特徴量を求めるための輪郭データ抽出部と、パンのカラー画像からパンのテクスチャーに関する特徴量を輝度成分を用いて求めるためのテクスチャーデータ抽出部と、各抽出部で求めた特徴量によりパンの種類を識別する識別部とを備えている。 Patent Literature 3 discloses an identification device that identifies the type of bread by recognizing a color image of bread captured by a camera. The identification device includes a color data extraction unit for obtaining feature amounts in respective color spaces of the inner area, the intermediate area, and the outer area of the bread from the color image of the bread, and a feature amount related to the outline of the bread from the color image of the bread. a contour data extracting unit for obtaining bread texture, a texture data extracting unit for obtaining a feature amount related to the texture of the bread from the color image of the bread using the luminance component, and a type of bread identified by the feature amount obtained by each extracting unit. and an identification unit.

特開2011-117866号公報JP 2011-117866 A 特開2006-339445号公報JP 2006-339445 A 特許5510924号公報Japanese Patent No. 5510924

特許文献1及び特許文献2による装置は、製造工場における製造工程での製品の異常を、つまり新品の異常を検査する。このため、生じうる異常の形態は限定的であり、推定可能である。このことから、推定される異常に基づく判別基準や分析用プログラムを予め作成することができ、この判別基準や分析用プログラムを用いて製品の異常が判別可能となる。特許文献3での識別装置は、焼き上がったパンの種類をその撮影画像から識別するものであり、識別すべきパンの種類、つまり特徴量は予めわかっている。このため、予め確認されているパンの特徴量を識別基準として、撮影画像に写っているパンの種類を識別することが可能である。 The devices according to Patent Literatures 1 and 2 inspect for abnormalities in products in the manufacturing process in manufacturing factories, that is, for abnormalities in new products. Therefore, the forms of possible abnormalities are limited and can be presumed. Therefore, it is possible to prepare in advance a discrimination standard and an analysis program based on the estimated abnormality, and it is possible to discriminate the abnormality of the product by using the discrimination standard and the analysis program. The identification device disclosed in Patent Document 3 identifies the type of baked bread from its photographed image, and the type of bread to be identified, that is, the feature amount is known in advance. Therefore, it is possible to identify the type of bread appearing in the photographed image by using the feature amount of bread that has been confirmed in advance as an identification reference.

これに対して、使用済の回収部品の状態(正常または異常)を判別する判別装置では、判別対象となる回収部品が経年変化等によって種々の形態を示すことになるので、製造後の製品の異常判別の技法をそのまま流用しても、良好な結果が期待されない。 On the other hand, in a discriminating device that discriminates the state (normal or abnormal) of collected used parts, the collected parts to be discriminated show various forms due to changes over time. Good results are not expected if the anomaly discrimination technique is used as it is.

このことから、本発明の課題は、使用済の回収部品が正常であるか異常であるかを、簡単かつ正確に判別することができる部品状態判別システムを提供することである。 Accordingly, an object of the present invention is to provide a parts condition determination system that can easily and accurately determine whether collected used parts are normal or abnormal.

本発明による、使用済の回収部品の状態を判別する部品状態判別システムは、前記回収部品の回収撮影画像または前記回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、前記回収撮影画像から前記回収部品が正常であるか異常であるかを判別するように学習されたAIユニットと、前記AIユニットの判別結果を外部報知する判別結果報知部と、前記判別結果報知部によって報知された判別結果に対する専門家の判定に基づいて、前記AIユニットに対して再学習を指令する再学習指令部と、を備え
前記AIユニットには、入力データ生成ユニットと異常判別ユニットとが含まれ、
前記入力データ生成ユニットは、前記回収撮影画像に基づいて、前記異常判別ユニットのための入力画像データを生成し、
前記異常判別ユニットは、前記入力画像データに基づいて前記回収部品が正常であるか異常であるかを判別するように学習された畳み込みニューラルネットワークであり、
前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記回収撮影画像から前記入力画像データを生成する第1画像処理モジュールと、前記回収部品の経年形状変化に注目して前記回収撮影画像から前記入力画像データを生成する第2画像処理モジュールと、前記回収部品の経年位置変化に注目して前記回収撮影画像から前記入力画像データを生成する第3画像処理モジュールとを有する。
A parts condition determination system for determining the condition of a used collected part according to the present invention uses, as learning data, a collected photographed image of the collected part, a new photographed image of the collected part when it is new, or both photographed images. an AI unit learned to determine whether the collected part is normal or abnormal from the collected photographed image; a determination result notification unit for externally reporting a determination result of the AI unit; and the determination result notification unit. a re-learning command unit that commands the AI unit to re-learn based on the expert's judgment of the discrimination result notified by the unit ,
The AI unit includes an input data generation unit and an abnormality determination unit,
The input data generation unit generates input image data for the abnormality determination unit based on the recovered photographed image,
the abnormality determination unit is a convolutional neural network trained to determine whether the collected parts are normal or abnormal based on the input image data;
The input data generation unit includes a first image processing module that generates the input image data from the collected photographed image by paying attention to color change of the collected part over time, and a first image processing module that generates the input image data from the collected captured image by paying attention to the change in shape of the collected part over time. It has a second image processing module that generates the input image data from the photographed image, and a third image processing module that generates the input image data from the collected photographed image by paying attention to changes in the position of the collected parts over time.

この構成では、回収部品の正常または異常を判別するように学習されたAIユニットが、その判別結果に対する専門家の判定に基づいて、再学習されるので、多くの回収部品に対して状態判別を行いながら、その判別機能は強化されていく。これにより、経年変化によって種々の形態に変化する回収部品であっても、部品状態判別システムは、使用済の回収部品が正常であるか異常であるかを、簡単かつ正確に判別するようになる。経年変化によって変化する形態には、色変化や形状変化などの経年変化や、突発的な熱衝撃や衝突衝撃などによ変形(物理的破損)が含まれる。 With this configuration, the AI unit, which has been trained to discriminate whether the collected parts are normal or abnormal, is re-learned based on the expert's judgment of the discrimination result, so the state discrimination can be performed for many collected parts. While performing, the discrimination function is strengthened. As a result, even if collected parts change in various forms over time, the parts condition determination system can easily and accurately determine whether the used collected parts are normal or abnormal. . The morphology that changes with aging includes aging such as color change and shape change, and deformation (physical damage) due to sudden thermal shock, collision shock, and the like.

更に、上記構成では、回収部品が正常であるか異常であるかを判別する畳み込みニューラルネットワークへの入力データは、回収撮影画像そのものではなく、入力データ生成ユニットによって回収撮影画像から生成された、回収部品の状態判別に適した入力画像データであるので、判別結果の精度が向上する。例えば、回収部品が経年変化によって生じる特定の現象により異常となる場合、その現象が強調されるような処理を用いて入力画像データが生成されると、好都合である。 Furthermore, in the above configuration, the input data to the convolutional neural network for determining whether the collected part is normal or abnormal is not the collected photographed image itself, but the collected photographed image generated by the input data generation unit from the collected photographed image. Since the input image data is suitable for determining the state of the component, the accuracy of the determination result is improved. For example, if a collected part becomes abnormal due to a specific phenomenon caused by aging, it would be advantageous if the input image data was generated using a process that emphasizes the phenomenon.

故障(破損)を含む経年変化が生じている回収部品の回収撮影画像は、回収部品の新品撮影画像に比べて、以下の3つの変化;(1)変色、(2)収縮や膨張による形状(サイズ)の変化、(3)剥がれやずれ動きによる取り付け位置の変化、の内の少なくとも1つを確認することができる。もちろん、これらの変化は、故障(破損)が生じておらず、単純な経年変化(劣化)だけでも生じうる。しかしながら、故障(破損)が生じている回収部品における変化の度合いは、一般的には、故障が生じていない回収部品に比べてはるかに大きなものとなる。このことから回収部品の状態判別には、(1)変色、(2)収縮や膨張による形状(サイズ)の変化、(3)剥がれやずれ動きによる取り付け位置の変化の少なくとも1つに焦点を当てることが重要である
のことから、上記本発明では、前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記回収撮影画像から前記入力画像データを生成する第1画像処理モジュールと、前記回収部品の経年形状変化に注目して前記回収撮影画像から前記入力画像データを生成する第2画像処理モジュールと、前記回収部品の経年位置変化に注目して前記回収撮影画像から前記入力画像データを生成する第3画像処理モジュールとを有する。
この構成では、第1画像処理モジュールと第2画像処理モジュールと第3画像処理モジュールの少なくとも1つを用いて生成された入力画像データを用いることで、判別結果の精度が向上する。
Collected photographed images of collected parts that have deteriorated over time, including failure (damage), have the following three changes compared to the photographed images of new collected parts: (1) discoloration, (2) shape due to contraction and expansion ( size), and (3) change in attachment position due to peeling or displacement. Of course, these changes do not occur due to failure (damage), but can occur only due to simple aging (degradation). However, the degree of change in recalled parts that have failed (broken) is generally much greater than in recalled parts that have not failed. For this reason, we focus on at least one of (1) discoloration, (2) change in shape (size) due to contraction or expansion, and (3) change in mounting position due to peeling or slippage when determining the condition of collected parts. is important .
Therefore , in the present invention , the input data generation unit includes a first image processing module that generates the input image data from the collected photographed image by paying attention to the aging color change of the collected parts; A second image processing module for generating the input image data from the collected photographed image by paying attention to the shape change of the collected part over time, and generating the input image data from the collected photographed image by paying attention to the aged positional change of the collected part. and a third image processing module for generating.
In this configuration, using input image data generated using at least one of the first image processing module, the second image processing module, and the third image processing module improves the accuracy of the determination result.

本発明による、使用済の回収部品の状態を判別する部品状態判別システムは、前記回収部品の回収撮影画像または前記回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、前記回収撮影画像から前記回収部品が正常であるか異常であるかを判別するように学習されたAIユニットと、前記AIユニットの判別結果を外部報知する判別結果報知部と、前記判別結果報知部によって報知された判別結果に対する専門家の判定に基づいて、前記AIユニットに対して再学習を指令する再学習指令部と、を備え、前記AIユニットには、入力データ生成ユニットと異常判別ユニットとが含まれ、前記入力データ生成ユニットは、前記回収撮影画像を入力して、前記新品撮影画像に類似する復元画像を出力するように構成された畳み込みニューラルネットワークであり、前記異常判別ユニットは、前記復元画像と前記新品撮影画像との類似度に基づいて前記回収部品の正常または異常を判別する
の構成によれば入力データ生成ユニットは、回収撮影画像に基づいて、新品時の回収部品の新品撮影画像に類似する復元画像(偽物の新品撮影画像)を出力する画像復元アルゴリズムを有する。画像復元アルゴリズムの画像復元能力には限界があるので、経年変化が生じている回収撮影画像に対してこの画像復元アルゴリズムを実行すると、新品撮影画像に比べてやや差異をもつ復元画像を表す入力画像データが出力される。特に、経年変化及び故障(破損)が生じている回収部品の回収撮影画像に対してこの画像復元アルゴリズムを実行すると、新品部品の撮影画像に比べてより大きな差異をもつ復元画像を表す入力画像データが出力される。このことを利用すれば、異常判別ユニットは、復元画像(復元画像を表す入力画像データ)と新品撮影画像(新品撮影画像を表す入力画像データ)の類似度に基づいて回収部品の正常または異常を判別することができる。
A parts condition determination system for determining the condition of a used collected part according to the present invention uses, as learning data, a collected photographed image of the collected part, a new photographed image of the collected part when it is new, or both photographed images. an AI unit learned to determine whether the collected part is normal or abnormal from the collected photographed image; a determination result notification unit for externally reporting a determination result of the AI unit; and the determination result notification unit. a re-learning command unit that commands the AI unit to re-learn based on the expert's judgment of the determination result notified by the unit, wherein the AI unit includes an input data generation unit and an abnormality determination unit wherein the input data generation unit is a convolutional neural network configured to input the recovered photographed image and output a restored image similar to the new photographed image; and the abnormality determination unit includes: Based on the degree of similarity between the restored image and the new photographed image, it is determined whether the recovered part is normal or abnormal .
According to this configuration, the input data generation unit has an image restoration algorithm for outputting a restored image similar to the new photographed image of the collected part when new (a fake new photographed image) based on the collected photographed image. Since the image restoration capability of the image restoration algorithm is limited, when this image restoration algorithm is executed on the recovered photographed image that has undergone aging, the input image represents a restored image that is slightly different from the new photographed image. Data is output. In particular, when this image restoration algorithm is executed on collected photographed images of collected parts that have undergone aging and failure (damage), input image data representing a restored image with a greater difference than photographed images of new parts. is output. By utilizing this, the abnormality determination unit can determine whether the collected parts are normal or abnormal based on the degree of similarity between the restored image (input image data representing the restored image) and the photographed new product image (input image data representing the photographed new product image). can be discriminated.

この構成においても、上述した、3つの種類の経年変化に照準をあてて、回収撮影画像から復元画像を生成することが好ましい。このことから、本発明の好適な実施形態の1つでは、前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記復元画像を出力する第1復元モジュールと、前記回収部品の経年形状変化に注目して前記復元画像を出力する第2復元モジュールと、前記回収部品の経年位置変化に注目して前記復元画像を出力する第3復元モジュールとを有する。この構成では、第1復元モジュールと第2復元モジュールと第3復元モジュールの少なくとも1つを用いて生成された入力画像データを用いることで、異常判別ユニットは、より高い精度の判別結果を出力することができる。
In this configuration as well, it is preferable to generate a restored image from the collected photographed image by focusing on the three types of secular change described above. Accordingly, in one of the preferred embodiments of the present invention, the input data generation unit includes a first restoration module that outputs the restored image by paying attention to aging color change of the collected parts; It has a second restoration module that outputs the restored image by paying attention to the shape change over time, and a third restoration module that outputs the restored image by paying attention to the change in the position of the collected part over time. With this configuration, by using the input image data generated using at least one of the first restoration module, the second restoration module, and the third restoration module, the abnormality determination unit outputs a determination result with higher accuracy. be able to.

本発明の好適な実施形態の1つでは、AIユニットを構成する、前記生成ユニットと異常判別ユニットとが一体化された畳み込みニューラルネットワークで構築されている。これにより、AIユニットが簡単化され、結果的に簡単かつ正確に回収部品の状態を判別することができる部品状態判別システムが実現する。 In one of the preferred embodiments of the present invention, the generation unit and the abnormality determination unit, which constitute the AI unit, are constructed by an integrated convolutional neural network. As a result, the AI unit is simplified, and as a result, a parts state determination system capable of simply and accurately determining the state of collected parts is realized.

本発明のその他の特徴、作用及び効果は、以下の図面を用いた本発明の説明によって明らかにされる。 Other features, functions and effects of the present invention will be made clear by the following description of the invention using the drawings.

部品状態判別システムの基本原理を説明する模式図である。It is a schematic diagram explaining the basic principle of a components state determination system. 部品状態判別システムの第1実施形態の構成を説明する模式図である。BRIEF DESCRIPTION OF THE DRAWINGS It is a schematic diagram explaining the structure of 1st Embodiment of a components state determination system. 部品状態判別システムの第2実施形態の構成を説明する模式図である。It is a schematic diagram explaining the structure of 2nd Embodiment of a components state determination system. 第2実施形態の部品状態判別システムにおける情報の流れを示す説明図である。It is an explanatory view showing the flow of information in the parts state determination system of the second embodiment. 画像復元部を構成するニューラルネットワークを示す模式図である。FIG. 3 is a schematic diagram showing a neural network that constitutes an image restoration unit;

図1を用いて、以下に、部品状態判別システムの基本原理を説明する。この部品状態判別システムによって、その状態を判別される使用済の回収部品は、家庭に配備されている燃料電池発電装置1に内装されている基板である。基板には、種々の電子部品やコネクタなどが実装されている。燃料電池発電装置1は、図1に模式的に示されているだけであるが、家屋内に電気エネルギーや熱エネルギーを供給する。燃料電池発電装置1は、定期的に、または各家庭からの要請に応じて、点検が行われ、必要に応じて、基板などの構成部品が新品と交換される。交換された基板等は、回収部品としてサービスセンタC1に搬入される。また、燃料電池発電装置1が破棄される場合でも、解体された燃料電池発電装置1から基板等が回収部品としてサービスセンタC1に送られてくる。受け入れた回収部品には、回収部品を特定するための識別コードが付与される。 The basic principle of the component condition determination system will be described below with reference to FIG. Used and collected parts whose states are determined by this component state determination system are substrates built into the fuel cell power generator 1 installed at home. Various electronic components, connectors, and the like are mounted on the board. The fuel cell power plant 1, which is only schematically shown in FIG. 1, supplies electrical and thermal energy to the house. The fuel cell power generator 1 is inspected periodically or at the request of each household, and components such as substrates are replaced with new ones as necessary. The replaced boards and the like are carried into the service center C1 as collected parts. Further, even when the fuel cell power generation device 1 is discarded, substrates and the like are sent to the service center C1 as recovered parts from the dismantled fuel cell power generation device 1 . An identification code for identifying the collected parts is assigned to the received collected parts.

サービスセンタC1には、燃料電池発電装置1の部品を管理する部品管理コンピュータ100が設置されている。部品管理コンピュータ100は、使用済の回収部品の状態を判別する異常部品判別装置として機能することができる。部品管理コンピュータ100は、部品状態判別システムとして機能し、通信部21、撮影部22、データ取得部31、AIユニット10、判別結果報知部7、再学習指令部8を備えている。 A parts management computer 100 that manages the parts of the fuel cell power generator 1 is installed in the service center C1. The parts management computer 100 can function as an abnormal parts discriminating device that discriminates the state of used collected parts. The parts management computer 100 functions as a parts state determination system, and includes a communication section 21 , an imaging section 22 , a data acquisition section 31 , an AI unit 10 , a determination result notification section 7 and a relearning instruction section 8 .

データ取得部31は、カラーカメラシステムである撮影部22によって作成された回収部品の撮影画像(回収撮影画像)を取得する。さらに、この回収部品の新品時の撮影画像(新品撮影画像)が部品製造会社C2で作成され、通信部21を介してデータ取得部31が取得する。もちろん、この新品撮影画像は撮影部22によって作成することも可能である。データ取得部31によって取得された回収撮影画像及び新品撮影画像は、部品識別コードで抽出可能に格納される。 The data acquisition unit 31 acquires a photographed image (collected photographed image) of the collected parts created by the photographing unit 22, which is a color camera system. Further, a photographed image of the collected part when it was new (new article photographed image) is created by the parts manufacturing company C2, and the data acquisition section 31 acquires it via the communication section 21. FIG. Of course, the photographed image of the new product can also be created by the photographing section 22 . The recovered photographed image and the new photographed image acquired by the data acquisition unit 31 are stored so as to be extractable by the part identification code.

AIユニット10は、回収部品の回収撮影画像または回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、回収撮影画像から回収部品が正常であるか異常であるかを判別するように学習された機械学習モデルである。AIユニット10は、入力データ生成ユニット5と異常判別ユニット6とに分割して、構成してもよい。その際、入力データ生成ユニット5は、回収撮影画像に基づいて、異常判別ユニット6に対する入力データとして適切な入力画像データを生成する。異常判別ユニット6は、入力画像データに基づいて、回収部品が正常であるか異常であるかを示す判別結果を出力する。なお、最も基本的な異常判別ユニット6は、正常な新品部品の撮影画像(使用済の回収部品の撮影画像でもよいし、それら両方の撮影画像でもよい)を学習データ(教師データ)として、使用済の回収部品の撮影画像から前記回収部品の異常を判別するように学習させて生成された部品状態判別用機械学習モデルによって、構築可能である。この機械学習モデルに、回収部品の撮影画像(回収撮影画像)を入力することで、当該回収部品の異常か正常かの判別結果が出力される。 The AI unit 10 uses, as learning data, the photographed images of the collected parts, the photographed images of the collected parts when they are new, or both photographed images, and determines whether the collected parts are normal or abnormal from the photographed collected images. It is a machine learning model trained to discriminate. The AI unit 10 may be configured by being divided into the input data generation unit 5 and the abnormality determination unit 6 . At that time, the input data generation unit 5 generates appropriate input image data as input data for the abnormality determination unit 6 based on the recovered photographed image. The abnormality determination unit 6 outputs a determination result indicating whether the collected parts are normal or abnormal based on the input image data. In addition, the most basic abnormality determination unit 6 uses photographed images of normal new parts (the photographed images of used collected parts, or the photographed images of both of them) as learning data (teacher data). It can be constructed by a part state determination machine learning model generated by learning to determine an abnormality of the collected parts from the photographed images of the collected parts. By inputting a photographed image of a collected part (collected photographed image) into this machine learning model, a determination result as to whether the collected part is abnormal or normal is output.

判別結果報知部7は、AIユニット10が出力する判別結果を外部報知する。この外部報知により、例えば、人によって認知される、視覚的または聴覚的な報知が行われる。再学習指令部8は、報知された判別結果が専門家の知見に基づいて誤りであると判定された場合、そのような判別結果を出力したAIユニット10を調節するための再学習を指令する。 A determination result notification unit 7 externally reports the determination result output by the AI unit 10 . By this external notification, for example, visual or auditory notification perceived by a person is performed. The relearning command unit 8 commands relearning to adjust the AI unit 10 that output such a determination result when the notified determination result is determined to be erroneous based on the expert's knowledge. .

図2には、本発明による部品状態判別システムの第1実施形態が示されている。この第1実施形態では、AIユニット10は、入力データ生成ユニット5と異常判別ユニット6とからなる。入力データ生成ユニット5は、回収撮影画像に対して複数種類の画像処理を施し、異常判別ユニット6のための複数種類の入力画像データを生成することができる。このため、入力データ生成ユニット5は、画像処理部51と画像処理モジュール選択部52と画像処理モジュール格納部53とを有する。画像処理部51は、画像処理モジュール格納部53に格納された画像処理モジュール群から画像処理モジュール選択部52によって選択された画像処理モジュールを用いて、回収撮影画像を画像処理し、入力画像データを生成する。この実施形態では、画像処理モジュール群には、第1画像処理モジュール、第2画像処理モジュール、第3画像処理モジュールが含まれている。第1画像処理モジュールは、回収部品の経年色変化に注目して回収撮影画像から入力画像データを生成するためのモジュールである。第2画像処理モジュールは、回収部品の経年形状変化に注目して回収撮影画像から入力画像データを生成するためのモジュールである。第3画像処理モジュールは、回収部品の経年による位置変化に注目して回収撮影画像から入力画像データを生成するためのモジュールである。 FIG. 2 shows a first embodiment of a component condition determination system according to the present invention. In this first embodiment, the AI unit 10 consists of an input data generation unit 5 and an abnormality determination unit 6 . The input data generation unit 5 can apply multiple types of image processing to the recovered photographed image to generate multiple types of input image data for the abnormality determination unit 6 . Therefore, the input data generation unit 5 has an image processing section 51 , an image processing module selection section 52 and an image processing module storage section 53 . The image processing unit 51 uses an image processing module selected by the image processing module selection unit 52 from the image processing module group stored in the image processing module storage unit 53 to process the collected photographed image, and converts the input image data. Generate. In this embodiment, the image processing module group includes a first image processing module, a second image processing module, and a third image processing module. The first image processing module is a module for generating input image data from collected photographed images by paying attention to aging color changes of collected parts. The second image processing module is a module for generating input image data from collected photographed images by paying attention to changes in shape of collected parts over time. The third image processing module is a module for generating input image data from collected photographed images by paying attention to positional changes of collected parts due to aging.

第1画像処理モジュールは、回収部品の変色(経年色変化)が強調される画像処理を回収撮影画像に施して入力画像データを生成する。この入力画像データに基づいて、異常判別ユニット6は、回収部品の状態(正常または異常)を判別する。この入力画像データに基づいて異常と判別された回収部品には、次のような症状が観察される;
(a)熱による焼け:茶褐色~黒になる、
(b)構成部品の欠落:下地の色になる、
(c)構成部品の膨張:収縮、変形:色バランスの変化がおこる。
The first image processing module generates input image data by applying image processing that emphasizes discoloration (color change over time) of the collected parts to the collected photographed image. Based on this input image data, the abnormality determination unit 6 determines the state (normal or abnormal) of the collected parts. The following symptoms are observed in recovered parts that are determined to be abnormal based on this input image data:
(a) Burning due to heat: turning brown to black,
(b) Missing component parts: become the base color,
(c) Expansion of components: contraction, deformation: changes in color balance occur.

第2画像処理モジュールは、回収部品の大きさの変化(経年形状変化)が強調される画像処理を回収撮影画像に施して入力画像データを生成する。この入力画像データに基づいて、異常判別ユニット6は、回収部品の状態(正常または異常)を判別する。この入力画像データに基づいて異常と判別された回収部品には、次のような症状が観察される;
(a)熱による膨張:部品が大きくなる、
(b)乾燥による収縮:部品が小さくなる、
(c)構成部品の欠損:一部の寸法が小さくなる、
(d)溶解、溶出:対象部品がなくなる(=部品寸法がゼロになる)。
The second image processing module generates input image data by applying image processing that emphasizes a change in size (change in shape over time) of the collected parts to the collected photographed image. Based on this input image data, the abnormality determination unit 6 determines the state (normal or abnormal) of the collected parts. The following symptoms are observed in recovered parts that are determined to be abnormal based on this input image data:
(a) thermal expansion: parts become larger;
(b) shrinkage on drying: the part becomes smaller;
(c) missing components: some dimensions are reduced;
(d) Dissolution, Elution: Target parts disappear (=part dimensions become zero).

第3画像処理モジュールは、回収部品の取り付け位置の変化(経年位置変化)が強調される画像処理を回収撮影画像に施して入力画像データを生成する。この入力画像データに基づいて、異常判別ユニット6は、回収部品の状態(正常または異常)を判別する。この入力画像データに基づいて異常と判別された回収部品には、次のような症状が観察される;
(a)接触による変形:取り付け位置がずれる、
(b)部品の膨張:取り付け範囲を超える。
The third image processing module generates input image data by performing image processing that emphasizes a change in the mounting position of the collected part (change in position over time) on the collected photographed image. Based on this input image data, the abnormality determination unit 6 determines the state (normal or abnormal) of the collected parts. The following symptoms are observed in recovered parts that are determined to be abnormal based on this input image data:
(a) Deformation due to contact: Mounting position shifts,
(b) Swelling of parts: beyond the installation range.

異常判別ユニット6は、入力データ生成ユニット5によって生成された入力画像データを入力して、入力画像データに対応する回収部品が正常であるか異常であるかの判別結果を出力する。なお、入力データ生成ユニット5は、撮影画像に対して種々の処理を施す画像前処理機能を有し、この画像前処理機能を通じて入力画像データが生成される。そのような画像前処理機能には、RGBデータを濃淡データやHSVデータなどに変換する機能や、画像縮小やエッジ検出などの画像処理フィルタを実行する機能が含まれている。異常判別ユニット6は、畳み込みニューラルネットワーク、好ましくはディープラーニングで構成されている。異常判別ユニット6の学習は、学習管理部33によって実行される。この学習時に用いられる学習データは、判別結果を正常とする新品撮影画像、判別結果を正常とする回収撮影画像、判別結果を異常とする回収撮影画像であり、回収撮影画像の正常または異常の判定は人為的に行われる。さらには、回収部品の正面撮影画像を入力画像データとしてもよいし、回収部品の側面撮影画像を入力画像データとしてもよいし、回収部品の斜め方向からの撮影画像を入力画像データとしてもよい。さらにはそれぞれの入力画像データ別に異常判別ユニット6が用意されてもよい。 The abnormality determination unit 6 receives the input image data generated by the input data generation unit 5 and outputs a determination result as to whether the collected parts corresponding to the input image data are normal or abnormal. The input data generation unit 5 has an image preprocessing function for performing various processes on the captured image, and input image data is generated through this image preprocessing function. Such image preprocessing functions include functions for converting RGB data into grayscale data, HSV data, etc., and functions for performing image processing filters such as image reduction and edge detection. The anomaly discrimination unit 6 is composed of a convolutional neural network, preferably deep learning. The learning of the abnormality determination unit 6 is performed by the learning management section 33 . The learning data used at the time of this learning are a new photographed image for which the discrimination result is normal, a recovered photographed image for which the discrimination result is normal, and a recovered photographed image for which the discrimination result is abnormal, and determination of whether the recovered photographed image is normal or abnormal. is done artificially. Furthermore, the input image data may be a front shot image of the collected part, a side shot image of the collected part may be used as the input image data, or an obliquely shot image of the collected part may be used as the input image data. Furthermore, an abnormality determination unit 6 may be prepared for each input image data.

判別結果報知部7は、報知デバイス(非図示)を通じて、AIユニット10が出力する判別結果を報知し、さらにその判別結果は回収部品の識別コードでリンクして、記録する。AIユニット10が出力する判別結果は、抜き打ち的に、熟練した専門家によってチェックされる。もし専門家チェックで、異常判別ユニット6が、正常な回収部品を異常と誤判別したことがわかると、この回収部品が正常と判別されるように、再学習指令部8に異常判別ユニット6の再学習が要請される。 The determination result notification unit 7 notifies the determination result output by the AI unit 10 through a notification device (not shown), further links the determination result with the identification code of the collected part, and records it. The determination results output by the AI unit 10 are randomly checked by a skilled expert. If the expert check reveals that the abnormality determination unit 6 misidentified a normal collected part as abnormal, the relearning command unit 8 instructs the relearning command unit 8 to determine that the collected part is normal. Re-learning is requested.

次に図3と図4とを用いて、本発明による部品状態判別システムの第2実施形態を説明する。図3は、部品状態判別システムの第2実施形態の構成を説明する模式図である。図4は、第2実施形態の部品状態判別システムにおける情報の流れを示す説明図である。 Next, a second embodiment of the component condition determination system according to the present invention will be described with reference to FIGS. 3 and 4. FIG. FIG. 3 is a schematic diagram for explaining the configuration of the second embodiment of the component condition determination system. FIG. 4 is an explanatory diagram showing the flow of information in the parts condition determination system of the second embodiment.

この第2実施形態でも、AIユニット10は、入力データ生成ユニット5と異常判別ユニット6とからなる。この実施形態では、入力データ生成ユニット5は、データ取得部31で取得された回収撮影画像及び新品撮影画像から、異常判別ユニット6に入力される入力画像データを生成する。入力データ生成ユニット5は、画像データの種々の前処理機能を有する。前処理機能には、RGBデータを濃淡データやHSVデータなどに変換する機能や、画像縮小やエッジ検出などの画像処理フィルタを実行する機能が含まれている。異常判別ユニット6は、画像復元部6Aと異常判別部6Bとからなる。画像復元部6Aは畳み込みニューラルネットワーク、好ましくはディープラーニングで構成されており、以下に詳しく説明するように、画像を復元するように学習されている。図5に、そのようなディープラーニングが模式的に示されている。入力画像データは、その画素値からなるベクトルデータであり、図5では、Z1、Z2・・・で示されている。 Also in this second embodiment, the AI unit 10 is composed of the input data generation unit 5 and the abnormality determination unit 6 . In this embodiment, the input data generation unit 5 generates input image data to be input to the abnormality determination unit 6 from the recovered photographed image and the new photographed image acquired by the data acquisition section 31 . The input data generation unit 5 has various pre-processing functions for the image data. The preprocessing functions include a function of converting RGB data into grayscale data, HSV data, etc., and a function of executing image processing filters such as image reduction and edge detection. The abnormality determination unit 6 is composed of an image restoration section 6A and an abnormality determination section 6B. The image restorer 6A is constructed by a convolutional neural network, preferably deep learning, and is trained to restore images as will be described in detail below. FIG. 5 schematically shows such deep learning. The input image data is vector data consisting of its pixel values, and is indicated by Z1, Z2, . . . in FIG.

画像復元部6Aは、回収部品の撮影画像(回収撮影画像)に基づいて生成された入力画像データを入力して、当該回収部品の新品時の新品撮影画像に類似する復元画像データを出力する。その際、故障や破損などの要因で回収部品の状態が悪いほど、復元画像は新品撮影画像と類似しなくなる。新品撮影画像に基づく入力画像データが入力されると、ほぼ100%の類似度を示す復元画像データが出力され、故障や破損等で異常状態となっている回収部品の撮影画像に基づく入力画像データが入力されると、100%より低い類似度を示す復元画像データが出力されるように、学習されている。したがって、異常判別部6Bは、回収部品の復元画像データと当該回収部品の新品時の新品撮影画像に基づく新品画像データとを比較して類似度を算出し、この類似度に基づいて回収部品の正常または異常を判別する。 The image restoration unit 6A receives input image data generated based on the photographed image of the collected part (collected photographed image), and outputs restored image data similar to the new photographed image of the collected part when it is new. At this time, the worse the condition of the collected parts due to failure, breakage, or the like, the less similar the restored image will be to the new photographed image. When input image data based on photographed images of new products is input, restored image data showing a degree of similarity of approximately 100% is output. is input, the restored image data showing a similarity lower than 100% is output. Therefore, the abnormality determination unit 6B compares the restored image data of the collected part with the new image data based on the new photographed image of the collected part when it is new, calculates the degree of similarity, and based on this degree of similarity, determines the collected part. Determine normal or abnormal.

この実施形態では、経年変化による状態変化、及び故障(破損)による主な状態変化である、(1)変色、(2)収縮や膨張による形状(サイズ)の変化、(3)剥がれやずれ動きによる取り付け位置の変化、を個別にチェックして、回収部品の正常または異常を判別するために、この画像復元部6Aは、上記(1)、(2)、(3)を個別に注目した、3つのディープラーニングモジュールを用意している。このため、画像復元部6Aは、復元モジュール実行部61、復元モジュール選択部62、復元モジュール格納部63を備えている。 In this embodiment, the main state changes due to aging and failure (damage) are (1) discoloration, (2) shape (size) changes due to contraction and expansion, and (3) peeling and displacement. In order to individually check the change in the mounting position due to the We have prepared three deep learning modules. Therefore, the image restoration section 6A includes a restoration module execution section 61, a restoration module selection section 62, and a restoration module storage section 63. FIG.

復元モジュール選択部62によって復元モジュール格納部63から選択され、復元モジュール実行部61にロードされるディープラーニングモジュール(あるいは、重みやバイアスの設定値)は、第1復元モジュール、第2復元モジュール、第3復元モジュールである。 The deep learning modules (or set values of weights and biases) selected from the restoration module storage unit 63 by the restoration module selection unit 62 and loaded into the restoration module execution unit 61 are a first restoration module, a second restoration module, and a second restoration module. 3 recovery module.

第1復元モジュールは、変色(経年色変化)を有する回収部品の回収撮影画像を復元する画像復元機能を有する。この画像復元機能により復元された画像が新品復元画像に比べて明らかに差異がある場合には、異常判別部6Bは、その回収部品の変色が異常であり、その変色が部品故障に基づくものであると推定する。ここで想定される例としては、
(a)熱による焼け:茶褐色~黒になる、
(b)構成部品の欠落:下地の色になる、
(c)構成部品の膨張、収縮、変形:色バランスの変化がおこる、
が挙げられる。
The first restoration module has an image restoration function of restoring a collected photographed image of a collected part having discoloration (color change over time). If the image restored by this image restoration function clearly differs from the restored image of the new product, the abnormality determination unit 6B determines that the discoloration of the recovered part is abnormal and that the discoloration is due to a part failure. Assume there is. A possible example here is:
(a) Burning due to heat: turning brown to black,
(b) Missing component parts: become the base color,
(c) expansion, contraction, deformation of components: changes in color balance occur;
is mentioned.

第2復元モジュールは、大きさの変化(経年形状変化)を有する回収部品の回収撮影画像を復元する画像復元機能を有する。この画像復元機能により復元された画像が新品復元画像に比べて明らかに差異がある場合には、異常判別部6Bは、その回収部品には大きさの異常な変化があり、その変化が部品故障に基づくものであると推定する。ここで想定される例としては、
(a)熱による膨張:部品が大きくなる、
(b)乾燥による収縮:部品が小さくなる、
(c)構成部品の欠損:一部の寸法が小さくなる、
(d)溶解、溶出:対象部品がなくなる(=部品寸法がゼロになる)、
が挙げられる。
The second restoration module has an image restoration function that restores a collected photographed image of a collected part having a change in size (change in shape over time). If there is a clear difference between the image restored by this image restoration function and the restored image of a new product, the abnormality determination unit 6B determines that the collected part has an abnormal change in size and that the change indicates a part failure. presumed to be based on A possible example here is:
(a) thermal expansion: parts become larger;
(b) shrinkage on drying: the part becomes smaller;
(c) missing components: some dimensions are reduced;
(d) dissolution, elution: target parts disappear (=part dimensions become zero),
is mentioned.

第3復元モジュールは、取り付け位置の変化(経年位置変化)を有する回収部品の回収撮影画像を復元する画像復元機能を有する。この画像復元機能により復元された画像が新品復元画像に比べて明らかに差異がある場合には、異常判別部6Bは、その回収部品には取り付け位置の異常な変化があり、その変化が部品故障に基づくものであると推定する。ここで想定される例としては、
(a)接触による変形:取り付け位置がずれる、
(b)部品の膨張:取り付け範囲を超える、
が挙げられる。
The third restoration module has an image restoration function that restores a collected photographed image of a collected part having a change in mounting position (change in position over time). If there is a clear difference between the image restored by this image restoration function and the restored image of a new product, the abnormality determination unit 6B determines that the collected part has an abnormal change in the mounting position, and that change is a part failure. presumed to be based on A possible example here is:
(a) Deformation due to contact: Mounting position shifts,
(b) part expansion: exceeding the installation range;
is mentioned.

異常判別部6Bは、第1復元モジュール、第2復元モジュール、第3復元モジュールのそれぞれから出力された回収部品の復元画像である復元画像データと、新品の復元画像である新品復元データ(新品の撮影画像から直接生成することも可能)とを比較し、その類似度から当該回収部品が正常であるか異常であるかを判別する。その際、第1復元モジュール、第2復元モジュール、第3復元モジュールによる復元画像データを用いた類似度を組み合わせて、例えば、それらの加算値(重み付き加算値を含む)または平均値(重み付き平均値を含む)に基づいて判別してもよいし、いずれかいつの類似度が許容範囲を超えた場合に異常と判別してもよい。さらには、異常個所を指定して、基板に実装された個別部品の正常/異常判別を行うことも可能である。 The abnormality determination unit 6B restores restored image data, which is a restored image of a recovered part, output from each of the first restoration module, second restoration module, and third restoration module, and new restoration data, which is a restored image of a new article ( It is also possible to generate directly from the photographed image), and it is determined whether the collected part is normal or abnormal based on the degree of similarity. At that time, the similarities using the restored image data by the first restoration module, the second restoration module, and the third restoration module are combined, for example, their added value (including weighted added value) or average value (weighted (including the average value), or if any similarity exceeds the allowable range, it may be determined to be abnormal. Furthermore, it is also possible to designate an abnormal location and perform normality/abnormality discrimination of individual components mounted on the board.

第1復元モジュール、第2復元モジュール、第3復元モジュールは、1つのディープラーニングモジュールに統合して、復元モジュール実行部61に組み込んでおくことも可能である。その場合、復元モジュール選択部62及び復元モジュール格納部63は省略される。 The first restoration module, the second restoration module, and the third restoration module can also be integrated into one deep learning module and incorporated in the restoration module execution unit 61 . In that case, the restoration module selection unit 62 and the restoration module storage unit 63 are omitted.

また、この実施形態では、複数の復元モジュールは、回収部品のそれぞれ異なる異常の要因に照準を定めて画像復元を行うように構成されたものであった。しかしながら、回収部品の異常を判別する場合に、回収部品を観察する方向が重要となる場合もある。このことから、復元モジュールとして、回収部品の正面撮影画像を入力画像データとするもの、回収部品の側面撮影画像を入力画像データとするもの、回収部品の斜め方向からの撮影画像を入力画像データとするものが用意されてもよい。 Further, in this embodiment, the plurality of restoration modules are configured to perform image restoration by aiming at different causes of abnormalities in the collected parts. However, the direction in which the collected parts are observed may be important when determining an abnormality in the collected parts. For this reason, as a restoration module, a front photographed image of the collected part is used as input image data, a side photographed image of the collected part is used as input image data, and an obliquely photographed image of the collected part is used as input image data. may be provided.

この実施形態でも、異常判別ユニット6による判別結果は、抜き打ち的に、熟練した専門家によってチェックされる。もし専門家チェックで、異常判別ユニット6が、正常な回収部品を異常と誤判別したことがわかると、この回収部品が正常と判別されるように、再学習指令部8に画像復元部6Aの再学習が要請される。同様に、専門家チェックで、異常判別ユニット6が、異常な回収部品を正常と誤判別したことがわかると、この回収部品が正常と判別されるように、再学習指令部8に画像復元部6Aの再学習が要請される。 In this embodiment as well, the determination result by the abnormality determination unit 6 is checked by a skilled expert at random. If the expert check reveals that the abnormality determination unit 6 misidentified a normal collected part as abnormal, the relearning command unit 8 instructs the re-learning command unit 8 to restore the image restoration unit 6A so that the collected component is determined to be normal. Re-learning is requested. Similarly, when the expert check reveals that the abnormality determination unit 6 misidentified an abnormal collected part as normal, the re-learning command unit 8 instructs the re-learning command unit 8 to determine that the collected part is normal. Re-learning of 6A is requested.

上述したように、本発明による部品状態判別システムを用いて回収部品が正常か異常か、さらには、回収部品の特定箇所が正常か異常かを判別することができる。この回収部品の判別結果と、当該部品の使用態様(使用時間、使用負荷、使用環境など)とから、回収部品の寿命などを推定することができ、回収部品の改善点を見出すことができる。 As described above, it is possible to determine whether a collected part is normal or abnormal, and whether a specific portion of the collected part is normal or abnormal using the component state determination system according to the present invention. The service life of the collected parts can be estimated from the discrimination result of the collected parts and the mode of use of the parts (usage time, usage load, usage environment, etc.), and improvement points of the collected parts can be found.

〔別実施の形態〕
(1)上述した実施形態では、画像復元部6Aは、ディープラーニングを用いて構成されていたが、ディープラーニングのような学習型のニューラルネットワークに代えて、例えば、カルマン・フィルタを用いた画像復元技術のような画像処理モジュールを用いて構成することも可能である。
[Another embodiment]
(1) In the above-described embodiment, the image restoration unit 6A is configured using deep learning. It is also possible to configure using an image processing module such as technology.

(2)上述した実施形態では、画像復元部6Aから出力される復元画像データに基づいて異常判別部6Bが回収部品の異常を判別していたが、画像復元部6Aと異常判別部6Bとを統合し、入力画像データが入力されると、回収部品の正常/異常判別結果が出力されるように構成することができる。そのような統合された異常判別ユニット6は、例えば、敵対的生成ネットワークやオートエンコーダを用いて構成することができる。その際、敵対的生成ネットワークは、回収部品の撮影画像から、疑似新品撮影画像を生成し、その疑似新品撮影画像と真の新品撮影画像との差異、真贋度から回収部品の正常/異常が判別される。 (2) In the above-described embodiment, the abnormality determining section 6B determines abnormality of the collected parts based on the restored image data output from the image restoring section 6A. When the input image data is integrated and the input image data is input, the normal/abnormal determination result of the collected parts can be output. Such an integrated anomaly determination unit 6 can be constructed using, for example, a generative adversarial network or an autoencoder. At that time, the hostile generation network generates a pseudo-new photographed image from the photographed image of the collected part, and determines whether the collected part is normal or abnormal based on the difference between the pseudo-new photographed image and the true photographed image of the new article, and the degree of authenticity. be done.

(3)AIユニット10は、カメラ付きタブレットコンピュータなどの携帯端末に構築することも可能である。そのような携帯端末を用いると、保守点検員が、各家庭を巡回しながら、取り外した回収部品の正常/異常判別を行うことができる。取り外した回収部品が正常である場合、その回収部品を元に戻すことも可能である。 (3) The AI unit 10 can also be built in a mobile terminal such as a tablet computer with a camera. By using such a portable terminal, a maintenance inspector can check the normality/abnormality of the removed collected parts while patrolling each household. If the recovered part that has been removed is normal, it is also possible to restore the recovered part.

(4)上述した実施形態では、家庭に配備されている燃料電池発電装置1に内装されている基板が回収部品として取り扱われたが、これに代えて、その他の部品ユニット、さらには燃料電池発電装置1以外の家庭用機器、例えば、ホームセキュリティシステム機器、家電システム機器、調理システム機器、空調システム機器、など家庭生活を管理する種々のシステム機器に内装されている基板等の正常/異常判別を行うように構成することも可能である。 (4) In the above-described embodiment, the substrates inside the fuel cell power generator 1 installed at home were treated as collected parts. Home appliances other than the device 1, for example, home security system equipment, home appliance system equipment, cooking system equipment, air conditioning system equipment, etc. Normal/abnormal determination of substrates etc. installed in various system equipment that manages home life It can also be configured to do so.

(5)入力データ生成ユニット5と異常判別ユニット6とが一体化された畳み込みニューラルネットワークで構成すること、つまりAIユニット10が1つの畳み込みニューラルネットワークで構成することも可能である。 (5) The input data generation unit 5 and the abnormality determination unit 6 can be integrated with a convolutional neural network, that is, the AI unit 10 can be configured with a single convolutional neural network.

本発明は、種々の基板や部品ユニットを内装する機器の回収部品(交換部品)の正常/異常判別を行うシステムに適用可能である。 INDUSTRIAL APPLICABILITY The present invention can be applied to a system for determining normality/abnormality of recovered parts (replacement parts) of equipment in which various substrates and component units are installed.

1 :燃料電池発電装置
5 :入力データ生成ユニット
6 :異常判別ユニット
6A :画像復元部
6B :異常判別部
51 :画像処理部
61 :復元モジュール実行部
62 :復元モジュール選択部
63 :復元モジュール格納部
52 :画像処理モジュール選択部
53 :画像処理モジュール格納部
7 :判別結果報知部
8 :再学習指令部
10 :AIユニット
21 :通信部
22 :撮影部
31 :データ取得部
33 :学習管理部
1: fuel cell power generator 5: input data generation unit 6: abnormality determination unit 6A: image restoration unit 6B: abnormality determination unit 51: image processing unit 61: restoration module execution unit 62: restoration module selection unit 63: restoration module storage unit 52: image processing module selection unit 53: image processing module storage unit 7: determination result notification unit 8: re-learning command unit 10: AI unit 21: communication unit 22: imaging unit 31: data acquisition unit 33: learning management unit

Claims (4)

使用済の回収部品の状態を判別する部品状態判別システムであって、 A parts state determination system for determining the state of used collected parts,
前記回収部品の回収撮影画像または前記回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、前記回収撮影画像から前記回収部品が正常であるか異常であるかを判別するように学習されたAIユニットと、 Determining whether the collected part is normal or abnormal from the collected photographed image using the collected photographed image of the collected part, the new photographed image of the collected part when it is new, or both photographed images as learning data. an AI unit that has been trained to
前記AIユニットの判別結果を外部報知する判別結果報知部と、 a determination result notification unit that externally reports the determination result of the AI unit;
前記判別結果報知部によって報知された判別結果に対する専門家の判定に基づいて、前記AIユニットに対して再学習を指令する再学習指令部と、を備え、 a re-learning command unit that commands the AI unit to re-learn based on an expert's judgment on the discrimination result notified by the discrimination result notification unit;
前記AIユニットには、入力データ生成ユニットと異常判別ユニットとが含まれ、 The AI unit includes an input data generation unit and an abnormality determination unit,
前記入力データ生成ユニットは、前記回収撮影画像に基づいて、前記異常判別ユニットのための入力画像データを生成し、 The input data generation unit generates input image data for the abnormality determination unit based on the recovered photographed image,
前記異常判別ユニットは、前記入力画像データに基づいて前記回収部品が正常であるか異常であるかを判別するように学習された畳み込みニューラルネットワークであり、 the abnormality determination unit is a convolutional neural network trained to determine whether the collected parts are normal or abnormal based on the input image data;
前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記回収撮影画像から前記入力画像データを生成する第1画像処理モジュールと、前記回収部品の経年形状変化に注目して前記回収撮影画像から前記入力画像データを生成する第2画像処理モジュールと、前記回収部品の経年位置変化に注目して前記回収撮影画像から前記入力画像データを生成する第3画像処理モジュールとを有する部品状態判別システム。 The input data generation unit includes a first image processing module that generates the input image data from the collected photographed image by paying attention to color change of the collected part over time, and a first image processing module that generates the input image data from the collected captured image by paying attention to the change in shape of the collected part over time. A part state having a second image processing module that generates the input image data from a photographed image, and a third image processing module that generates the input image data from the collected photographed image by paying attention to the positional change of the collected part over time. discrimination system.
使用済の回収部品の状態を判別する部品状態判別システムであって、
前記回収部品の回収撮影画像または前記回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、前記回収撮影画像から前記回収部品が正常であるか異常であるかを判別するように学習されたAIユニットと、
前記AIユニットの判別結果を外部報知する判別結果報知部と、
前記判別結果報知部によって報知された判別結果に対する専門家の判定に基づいて、前記AIユニットに対して再学習を指令する再学習指令部と、を備え
前記AIユニットには、入力データ生成ユニットと異常判別ユニットとが含まれ、
前記入力データ生成ユニットは、前記回収撮影画像を入力して、前記新品撮影画像に類似する復元画像を出力するように構成された畳み込みニューラルネットワークであり、
前記異常判別ユニットは、前記復元画像と前記新品撮影画像との類似度に基づいて前記回収部品の正常または異常を判別する部品状態判別システム。
A parts state determination system for determining the state of used collected parts,
Determining whether the collected part is normal or abnormal from the collected photographed image using the collected photographed image of the collected part, the new photographed image of the collected part when it is new, or both photographed images as learning data. an AI unit that has been trained to
a determination result notification unit that externally reports the determination result of the AI unit;
a re-learning command unit that commands the AI unit to re-learn based on an expert's judgment on the discrimination result notified by the discrimination result notification unit ;
The AI unit includes an input data generation unit and an abnormality determination unit,
The input data generation unit is a convolutional neural network configured to input the recovered photographed image and output a restored image similar to the new photographed image;
The abnormality determination unit determines whether the collected parts are normal or abnormal based on the degree of similarity between the restored image and the photographed image of the new product.
前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記復元画像を出力する第1復元モジュールと、前記回収部品の経年形状変化に注目して前記復元画像を出力する第2復元モジュールと、前記回収部品の経年位置変化に注目して前記復元画像を出力する第3復元モジュールとを有する請求項2に記載の部品状態判別システム。 The input data generation unit includes a first restoration module that outputs the restored image by paying attention to color change of the collected part over time and a second restoration module that outputs the restored image by paying attention to shape change of the collected part over time. 3. The parts condition determination system according to claim 2, further comprising a module and a third restoration module for outputting the restored image by paying attention to changes in position of the collected parts over time. 前記入力データ生成ユニットと前記異常判別ユニットとが一体化された畳み込みニューラルネットワークで構築されている請求項1~3の何れか一項に記載の部品状態判別システム。 4. The parts condition determination system according to any one of claims 1 to 3, wherein the input data generation unit and the abnormality determination unit are constructed by an integrated convolutional neural network.
JP2019186205A 2019-10-09 2019-10-09 Parts condition determination system Active JP7292170B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019186205A JP7292170B2 (en) 2019-10-09 2019-10-09 Parts condition determination system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019186205A JP7292170B2 (en) 2019-10-09 2019-10-09 Parts condition determination system

Publications (2)

Publication Number Publication Date
JP2021060364A JP2021060364A (en) 2021-04-15
JP7292170B2 true JP7292170B2 (en) 2023-06-16

Family

ID=75380016

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019186205A Active JP7292170B2 (en) 2019-10-09 2019-10-09 Parts condition determination system

Country Status (1)

Country Link
JP (1) JP7292170B2 (en)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013142558A (en) 2012-01-06 2013-07-22 Keyence Corp Visual inspection device, visual inspection method and computer program
JP2014196926A (en) 2013-03-29 2014-10-16 大和ハウス工業株式会社 Method and apparatus for assessing deterioration of exterior material
JP2015026287A (en) 2013-07-26 2015-02-05 新電元工業株式会社 Solder inspection device, solder inspection method and electronic component
JP2019039874A (en) 2017-08-28 2019-03-14 ファナック株式会社 Machine learning device, machine learning system and machine learning method
JP2019074339A (en) 2017-10-12 2019-05-16 太平洋セメント株式会社 Method for detecting concrete deterioration early
US20190188840A1 (en) 2017-12-19 2019-06-20 Samsung Electronics Co., Ltd. Semiconductor defect classification device, method for classifying defect of semiconductor, and semiconductor defect classification system
JP2019100753A (en) 2017-11-29 2019-06-24 アンリツ株式会社 Printed circuit board inspection device and printed circuit board inspection method
JP2019133524A (en) 2018-02-01 2019-08-08 オムロン株式会社 Information processor, clothing separation system, information processing method, and control program

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3234742B2 (en) * 1995-05-25 2001-12-04 株式会社東芝 Method and apparatus for estimating remaining life of electronic component

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013142558A (en) 2012-01-06 2013-07-22 Keyence Corp Visual inspection device, visual inspection method and computer program
JP2014196926A (en) 2013-03-29 2014-10-16 大和ハウス工業株式会社 Method and apparatus for assessing deterioration of exterior material
JP2015026287A (en) 2013-07-26 2015-02-05 新電元工業株式会社 Solder inspection device, solder inspection method and electronic component
JP2019039874A (en) 2017-08-28 2019-03-14 ファナック株式会社 Machine learning device, machine learning system and machine learning method
JP2019074339A (en) 2017-10-12 2019-05-16 太平洋セメント株式会社 Method for detecting concrete deterioration early
JP2019100753A (en) 2017-11-29 2019-06-24 アンリツ株式会社 Printed circuit board inspection device and printed circuit board inspection method
US20190188840A1 (en) 2017-12-19 2019-06-20 Samsung Electronics Co., Ltd. Semiconductor defect classification device, method for classifying defect of semiconductor, and semiconductor defect classification system
JP2019133524A (en) 2018-02-01 2019-08-08 オムロン株式会社 Information processor, clothing separation system, information processing method, and control program

Also Published As

Publication number Publication date
JP2021060364A (en) 2021-04-15

Similar Documents

Publication Publication Date Title
JPWO2020031984A1 (en) Parts inspection method and inspection system
CN110441316B (en) Battery surface defect detection method and detection system
EP1991946A1 (en) Approaches and apparatus for eye detection in a digital image
WO2013066916A1 (en) System and method for improving automated defect detection user interface
CN105321191B (en) Method and electronic apparatus for processing reflection in image
CN116189103B (en) Equipment monitoring automatic control method and control system based on visual image analysis
CN112584135A (en) Monitoring equipment fault identification method, device, equipment and storage medium
CN111527387B (en) Method and system for identifying damage to a component
JP4514230B2 (en) Component suction posture discrimination method and component suction posture discrimination system
CN114331997A (en) Wire defect monitoring method based on image recognition
JP6616906B1 (en) Detection device and detection system for defective photographing data
WO2019055908A2 (en) System and method for solar cell defect detection
JP7292170B2 (en) Parts condition determination system
CN117876308A (en) Photovoltaic panel detection method based on image analysis
KR101041524B1 (en) Optimal failure recognition system based HTM
CN112985515B (en) Method and system for detecting assembly qualification of product fastener and storage medium
CN116758060B (en) Vertical basket of flowers visual detection system of battery piece
Taib et al. Thermal imaging for qualitative-based measurements of thermal anomalies in electrical components
CN106898084B (en) method and device for determining image processing threshold
US20170318245A1 (en) Method for detecting defective pixels
CN112907524B (en) Method for detecting fault of fire-proof plate of rail wagon based on image processing
Ye et al. Automatic optical apparatus for inspecting bearing assembly defects
CN113421029A (en) State acquisition and identification terminal for transformer substation protection pressing plate
TW202220324A (en) Transformer early warning system
CN117078620B (en) PCB welding spot defect detection method and device, electronic equipment and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220518

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230606

R150 Certificate of patent or registration of utility model

Ref document number: 7292170

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150