JP7292170B2 - Parts condition determination system - Google Patents
Parts condition determination system Download PDFInfo
- Publication number
- JP7292170B2 JP7292170B2 JP2019186205A JP2019186205A JP7292170B2 JP 7292170 B2 JP7292170 B2 JP 7292170B2 JP 2019186205 A JP2019186205 A JP 2019186205A JP 2019186205 A JP2019186205 A JP 2019186205A JP 7292170 B2 JP7292170 B2 JP 7292170B2
- Authority
- JP
- Japan
- Prior art keywords
- collected
- unit
- image
- parts
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Description
本発明は、使用済の回収部品の状態を判別する部品状態判別システムに関する。 The present invention relates to a parts condition determination system for determining the condition of collected used parts.
特許文献1には、搬送されてくる検査対象物の上側面の異常を検出する第1検査カメラと、反転された検査対象物の上側面の異常を検出する第2検査カメラとが備えられ、両検査カメラからの異常情報に基づいて検知された不良品を搬送レーンから排出する外観検査装置が開示されている。検査対象物の表面異常の有無は、画像処理によって求められた、異物、傷、汚れによる色の変化と明るさの変化、及び表面凹凸の変化が予め設定された判別基準と比較されることによって決定される。
特許文献2には、複数の工程を通じて電子部品を実装した基板を製造する現場において、各工程を実行した後の基板を撮像して検査を行う検査装置と、各検査装置との通信が可能な情報処理装置とを備えた基板検査システムが開示されている。このシステムでは、最終形態の基板から検出された不良の原因を特定する処理のためのプログラムが複数格納されており、検査装置により検出された不良部品について、検査装置から受信した検査結果を用いて、発生した異常の種類および当該異常が生じた工程が認識される。さらに、その認識結果に適した分析用プログラムが実行されることにより、不良の原因が特定される。 Patent Document 2 discloses an inspection device that images and inspects a board after each process is performed at a site where a board on which electronic components are mounted through a plurality of processes is manufactured, and communication with each inspection device is possible. A substrate inspection system including an information processing device is disclosed. In this system, a plurality of programs are stored for processing to identify the causes of defects detected in the final form of the board. , the type of anomaly that occurred and the process in which the anomaly occurred. Furthermore, the cause of the defect is specified by executing an analysis program suitable for the recognition result.
特許文献3には、カメラによって撮影されたパンのカラー画像を画像認識することにより、パンの種類を識別する識別装置が開示されている。識別装置は、パンのカラー画像からパンの内側領域と中間領域と外側領域のそれぞれの色空間での特徴量を求めるためのカラーデータ抽出部と、パンのカラー画像からパンの輪郭に関する特徴量を求めるための輪郭データ抽出部と、パンのカラー画像からパンのテクスチャーに関する特徴量を輝度成分を用いて求めるためのテクスチャーデータ抽出部と、各抽出部で求めた特徴量によりパンの種類を識別する識別部とを備えている。 Patent Literature 3 discloses an identification device that identifies the type of bread by recognizing a color image of bread captured by a camera. The identification device includes a color data extraction unit for obtaining feature amounts in respective color spaces of the inner area, the intermediate area, and the outer area of the bread from the color image of the bread, and a feature amount related to the outline of the bread from the color image of the bread. a contour data extracting unit for obtaining bread texture, a texture data extracting unit for obtaining a feature amount related to the texture of the bread from the color image of the bread using the luminance component, and a type of bread identified by the feature amount obtained by each extracting unit. and an identification unit.
特許文献1及び特許文献2による装置は、製造工場における製造工程での製品の異常を、つまり新品の異常を検査する。このため、生じうる異常の形態は限定的であり、推定可能である。このことから、推定される異常に基づく判別基準や分析用プログラムを予め作成することができ、この判別基準や分析用プログラムを用いて製品の異常が判別可能となる。特許文献3での識別装置は、焼き上がったパンの種類をその撮影画像から識別するものであり、識別すべきパンの種類、つまり特徴量は予めわかっている。このため、予め確認されているパンの特徴量を識別基準として、撮影画像に写っているパンの種類を識別することが可能である。
The devices according to
これに対して、使用済の回収部品の状態(正常または異常)を判別する判別装置では、判別対象となる回収部品が経年変化等によって種々の形態を示すことになるので、製造後の製品の異常判別の技法をそのまま流用しても、良好な結果が期待されない。 On the other hand, in a discriminating device that discriminates the state (normal or abnormal) of collected used parts, the collected parts to be discriminated show various forms due to changes over time. Good results are not expected if the anomaly discrimination technique is used as it is.
このことから、本発明の課題は、使用済の回収部品が正常であるか異常であるかを、簡単かつ正確に判別することができる部品状態判別システムを提供することである。 Accordingly, an object of the present invention is to provide a parts condition determination system that can easily and accurately determine whether collected used parts are normal or abnormal.
本発明による、使用済の回収部品の状態を判別する部品状態判別システムは、前記回収部品の回収撮影画像または前記回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、前記回収撮影画像から前記回収部品が正常であるか異常であるかを判別するように学習されたAIユニットと、前記AIユニットの判別結果を外部報知する判別結果報知部と、前記判別結果報知部によって報知された判別結果に対する専門家の判定に基づいて、前記AIユニットに対して再学習を指令する再学習指令部と、を備え、
前記AIユニットには、入力データ生成ユニットと異常判別ユニットとが含まれ、
前記入力データ生成ユニットは、前記回収撮影画像に基づいて、前記異常判別ユニットのための入力画像データを生成し、
前記異常判別ユニットは、前記入力画像データに基づいて前記回収部品が正常であるか異常であるかを判別するように学習された畳み込みニューラルネットワークであり、
前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記回収撮影画像から前記入力画像データを生成する第1画像処理モジュールと、前記回収部品の経年形状変化に注目して前記回収撮影画像から前記入力画像データを生成する第2画像処理モジュールと、前記回収部品の経年位置変化に注目して前記回収撮影画像から前記入力画像データを生成する第3画像処理モジュールとを有する。
A parts condition determination system for determining the condition of a used collected part according to the present invention uses, as learning data, a collected photographed image of the collected part, a new photographed image of the collected part when it is new, or both photographed images. an AI unit learned to determine whether the collected part is normal or abnormal from the collected photographed image; a determination result notification unit for externally reporting a determination result of the AI unit; and the determination result notification unit. a re-learning command unit that commands the AI unit to re-learn based on the expert's judgment of the discrimination result notified by the unit ,
The AI unit includes an input data generation unit and an abnormality determination unit,
The input data generation unit generates input image data for the abnormality determination unit based on the recovered photographed image,
the abnormality determination unit is a convolutional neural network trained to determine whether the collected parts are normal or abnormal based on the input image data;
The input data generation unit includes a first image processing module that generates the input image data from the collected photographed image by paying attention to color change of the collected part over time, and a first image processing module that generates the input image data from the collected captured image by paying attention to the change in shape of the collected part over time. It has a second image processing module that generates the input image data from the photographed image, and a third image processing module that generates the input image data from the collected photographed image by paying attention to changes in the position of the collected parts over time.
この構成では、回収部品の正常または異常を判別するように学習されたAIユニットが、その判別結果に対する専門家の判定に基づいて、再学習されるので、多くの回収部品に対して状態判別を行いながら、その判別機能は強化されていく。これにより、経年変化によって種々の形態に変化する回収部品であっても、部品状態判別システムは、使用済の回収部品が正常であるか異常であるかを、簡単かつ正確に判別するようになる。経年変化によって変化する形態には、色変化や形状変化などの経年変化や、突発的な熱衝撃や衝突衝撃などによる変形(物理的破損)が含まれる。 With this configuration, the AI unit, which has been trained to discriminate whether the collected parts are normal or abnormal, is re-learned based on the expert's judgment of the discrimination result, so the state discrimination can be performed for many collected parts. While performing, the discrimination function is strengthened. As a result, even if collected parts change in various forms over time, the parts condition determination system can easily and accurately determine whether the used collected parts are normal or abnormal. . The morphology that changes with aging includes aging such as color change and shape change, and deformation (physical damage) due to sudden thermal shock, collision shock, and the like.
更に、上記構成では、回収部品が正常であるか異常であるかを判別する畳み込みニューラルネットワークへの入力データは、回収撮影画像そのものではなく、入力データ生成ユニットによって回収撮影画像から生成された、回収部品の状態判別に適した入力画像データであるので、判別結果の精度が向上する。例えば、回収部品が経年変化によって生じる特定の現象により異常となる場合、その現象が強調されるような処理を用いて入力画像データが生成されると、好都合である。 Furthermore, in the above configuration, the input data to the convolutional neural network for determining whether the collected part is normal or abnormal is not the collected photographed image itself, but the collected photographed image generated by the input data generation unit from the collected photographed image. Since the input image data is suitable for determining the state of the component, the accuracy of the determination result is improved. For example, if a collected part becomes abnormal due to a specific phenomenon caused by aging, it would be advantageous if the input image data was generated using a process that emphasizes the phenomenon.
故障(破損)を含む経年変化が生じている回収部品の回収撮影画像は、回収部品の新品撮影画像に比べて、以下の3つの変化;(1)変色、(2)収縮や膨張による形状(サイズ)の変化、(3)剥がれやずれ動きによる取り付け位置の変化、の内の少なくとも1つを確認することができる。もちろん、これらの変化は、故障(破損)が生じておらず、単純な経年変化(劣化)だけでも生じうる。しかしながら、故障(破損)が生じている回収部品における変化の度合いは、一般的には、故障が生じていない回収部品に比べてはるかに大きなものとなる。このことから回収部品の状態判別には、(1)変色、(2)収縮や膨張による形状(サイズ)の変化、(3)剥がれやずれ動きによる取り付け位置の変化の少なくとも1つに焦点を当てることが重要である。
このことから、上記本発明では、前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記回収撮影画像から前記入力画像データを生成する第1画像処理モジュールと、前記回収部品の経年形状変化に注目して前記回収撮影画像から前記入力画像データを生成する第2画像処理モジュールと、前記回収部品の経年位置変化に注目して前記回収撮影画像から前記入力画像データを生成する第3画像処理モジュールとを有する。
この構成では、第1画像処理モジュールと第2画像処理モジュールと第3画像処理モジュールの少なくとも1つを用いて生成された入力画像データを用いることで、判別結果の精度が向上する。
Collected photographed images of collected parts that have deteriorated over time, including failure (damage), have the following three changes compared to the photographed images of new collected parts: (1) discoloration, (2) shape due to contraction and expansion ( size), and (3) change in attachment position due to peeling or displacement. Of course, these changes do not occur due to failure (damage), but can occur only due to simple aging (degradation). However, the degree of change in recalled parts that have failed (broken) is generally much greater than in recalled parts that have not failed. For this reason, we focus on at least one of (1) discoloration, (2) change in shape (size) due to contraction or expansion, and (3) change in mounting position due to peeling or slippage when determining the condition of collected parts. is important .
Therefore , in the present invention , the input data generation unit includes a first image processing module that generates the input image data from the collected photographed image by paying attention to the aging color change of the collected parts; A second image processing module for generating the input image data from the collected photographed image by paying attention to the shape change of the collected part over time, and generating the input image data from the collected photographed image by paying attention to the aged positional change of the collected part. and a third image processing module for generating.
In this configuration, using input image data generated using at least one of the first image processing module, the second image processing module, and the third image processing module improves the accuracy of the determination result.
本発明による、使用済の回収部品の状態を判別する部品状態判別システムは、前記回収部品の回収撮影画像または前記回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、前記回収撮影画像から前記回収部品が正常であるか異常であるかを判別するように学習されたAIユニットと、前記AIユニットの判別結果を外部報知する判別結果報知部と、前記判別結果報知部によって報知された判別結果に対する専門家の判定に基づいて、前記AIユニットに対して再学習を指令する再学習指令部と、を備え、前記AIユニットには、入力データ生成ユニットと異常判別ユニットとが含まれ、前記入力データ生成ユニットは、前記回収撮影画像を入力して、前記新品撮影画像に類似する復元画像を出力するように構成された畳み込みニューラルネットワークであり、前記異常判別ユニットは、前記復元画像と前記新品撮影画像との類似度に基づいて前記回収部品の正常または異常を判別する。
この構成によれば入力データ生成ユニットは、回収撮影画像に基づいて、新品時の回収部品の新品撮影画像に類似する復元画像(偽物の新品撮影画像)を出力する画像復元アルゴリズムを有する。画像復元アルゴリズムの画像復元能力には限界があるので、経年変化が生じている回収撮影画像に対してこの画像復元アルゴリズムを実行すると、新品撮影画像に比べてやや差異をもつ復元画像を表す入力画像データが出力される。特に、経年変化及び故障(破損)が生じている回収部品の回収撮影画像に対してこの画像復元アルゴリズムを実行すると、新品部品の撮影画像に比べてより大きな差異をもつ復元画像を表す入力画像データが出力される。このことを利用すれば、異常判別ユニットは、復元画像(復元画像を表す入力画像データ)と新品撮影画像(新品撮影画像を表す入力画像データ)の類似度に基づいて回収部品の正常または異常を判別することができる。
A parts condition determination system for determining the condition of a used collected part according to the present invention uses, as learning data, a collected photographed image of the collected part, a new photographed image of the collected part when it is new, or both photographed images. an AI unit learned to determine whether the collected part is normal or abnormal from the collected photographed image; a determination result notification unit for externally reporting a determination result of the AI unit; and the determination result notification unit. a re-learning command unit that commands the AI unit to re-learn based on the expert's judgment of the determination result notified by the unit, wherein the AI unit includes an input data generation unit and an abnormality determination unit wherein the input data generation unit is a convolutional neural network configured to input the recovered photographed image and output a restored image similar to the new photographed image; and the abnormality determination unit includes: Based on the degree of similarity between the restored image and the new photographed image, it is determined whether the recovered part is normal or abnormal .
According to this configuration, the input data generation unit has an image restoration algorithm for outputting a restored image similar to the new photographed image of the collected part when new (a fake new photographed image) based on the collected photographed image. Since the image restoration capability of the image restoration algorithm is limited, when this image restoration algorithm is executed on the recovered photographed image that has undergone aging, the input image represents a restored image that is slightly different from the new photographed image. Data is output. In particular, when this image restoration algorithm is executed on collected photographed images of collected parts that have undergone aging and failure (damage), input image data representing a restored image with a greater difference than photographed images of new parts. is output. By utilizing this, the abnormality determination unit can determine whether the collected parts are normal or abnormal based on the degree of similarity between the restored image (input image data representing the restored image) and the photographed new product image (input image data representing the photographed new product image). can be discriminated.
この構成においても、上述した、3つの種類の経年変化に照準をあてて、回収撮影画像から復元画像を生成することが好ましい。このことから、本発明の好適な実施形態の1つでは、前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記復元画像を出力する第1復元モジュールと、前記回収部品の経年形状変化に注目して前記復元画像を出力する第2復元モジュールと、前記回収部品の経年位置変化に注目して前記復元画像を出力する第3復元モジュールとを有する。この構成では、第1復元モジュールと第2復元モジュールと第3復元モジュールの少なくとも1つを用いて生成された入力画像データを用いることで、異常判別ユニットは、より高い精度の判別結果を出力することができる。
In this configuration as well, it is preferable to generate a restored image from the collected photographed image by focusing on the three types of secular change described above. Accordingly, in one of the preferred embodiments of the present invention, the input data generation unit includes a first restoration module that outputs the restored image by paying attention to aging color change of the collected parts; It has a second restoration module that outputs the restored image by paying attention to the shape change over time, and a third restoration module that outputs the restored image by paying attention to the change in the position of the collected part over time. With this configuration, by using the input image data generated using at least one of the first restoration module, the second restoration module, and the third restoration module, the abnormality determination unit outputs a determination result with higher accuracy. be able to.
本発明の好適な実施形態の1つでは、AIユニットを構成する、前記生成ユニットと異常判別ユニットとが一体化された畳み込みニューラルネットワークで構築されている。これにより、AIユニットが簡単化され、結果的に簡単かつ正確に回収部品の状態を判別することができる部品状態判別システムが実現する。 In one of the preferred embodiments of the present invention, the generation unit and the abnormality determination unit, which constitute the AI unit, are constructed by an integrated convolutional neural network. As a result, the AI unit is simplified, and as a result, a parts state determination system capable of simply and accurately determining the state of collected parts is realized.
本発明のその他の特徴、作用及び効果は、以下の図面を用いた本発明の説明によって明らかにされる。 Other features, functions and effects of the present invention will be made clear by the following description of the invention using the drawings.
図1を用いて、以下に、部品状態判別システムの基本原理を説明する。この部品状態判別システムによって、その状態を判別される使用済の回収部品は、家庭に配備されている燃料電池発電装置1に内装されている基板である。基板には、種々の電子部品やコネクタなどが実装されている。燃料電池発電装置1は、図1に模式的に示されているだけであるが、家屋内に電気エネルギーや熱エネルギーを供給する。燃料電池発電装置1は、定期的に、または各家庭からの要請に応じて、点検が行われ、必要に応じて、基板などの構成部品が新品と交換される。交換された基板等は、回収部品としてサービスセンタC1に搬入される。また、燃料電池発電装置1が破棄される場合でも、解体された燃料電池発電装置1から基板等が回収部品としてサービスセンタC1に送られてくる。受け入れた回収部品には、回収部品を特定するための識別コードが付与される。
The basic principle of the component condition determination system will be described below with reference to FIG. Used and collected parts whose states are determined by this component state determination system are substrates built into the fuel
サービスセンタC1には、燃料電池発電装置1の部品を管理する部品管理コンピュータ100が設置されている。部品管理コンピュータ100は、使用済の回収部品の状態を判別する異常部品判別装置として機能することができる。部品管理コンピュータ100は、部品状態判別システムとして機能し、通信部21、撮影部22、データ取得部31、AIユニット10、判別結果報知部7、再学習指令部8を備えている。
A
データ取得部31は、カラーカメラシステムである撮影部22によって作成された回収部品の撮影画像(回収撮影画像)を取得する。さらに、この回収部品の新品時の撮影画像(新品撮影画像)が部品製造会社C2で作成され、通信部21を介してデータ取得部31が取得する。もちろん、この新品撮影画像は撮影部22によって作成することも可能である。データ取得部31によって取得された回収撮影画像及び新品撮影画像は、部品識別コードで抽出可能に格納される。
The
AIユニット10は、回収部品の回収撮影画像または回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、回収撮影画像から回収部品が正常であるか異常であるかを判別するように学習された機械学習モデルである。AIユニット10は、入力データ生成ユニット5と異常判別ユニット6とに分割して、構成してもよい。その際、入力データ生成ユニット5は、回収撮影画像に基づいて、異常判別ユニット6に対する入力データとして適切な入力画像データを生成する。異常判別ユニット6は、入力画像データに基づいて、回収部品が正常であるか異常であるかを示す判別結果を出力する。なお、最も基本的な異常判別ユニット6は、正常な新品部品の撮影画像(使用済の回収部品の撮影画像でもよいし、それら両方の撮影画像でもよい)を学習データ(教師データ)として、使用済の回収部品の撮影画像から前記回収部品の異常を判別するように学習させて生成された部品状態判別用機械学習モデルによって、構築可能である。この機械学習モデルに、回収部品の撮影画像(回収撮影画像)を入力することで、当該回収部品の異常か正常かの判別結果が出力される。
The
判別結果報知部7は、AIユニット10が出力する判別結果を外部報知する。この外部報知により、例えば、人によって認知される、視覚的または聴覚的な報知が行われる。再学習指令部8は、報知された判別結果が専門家の知見に基づいて誤りであると判定された場合、そのような判別結果を出力したAIユニット10を調節するための再学習を指令する。
A determination
図2には、本発明による部品状態判別システムの第1実施形態が示されている。この第1実施形態では、AIユニット10は、入力データ生成ユニット5と異常判別ユニット6とからなる。入力データ生成ユニット5は、回収撮影画像に対して複数種類の画像処理を施し、異常判別ユニット6のための複数種類の入力画像データを生成することができる。このため、入力データ生成ユニット5は、画像処理部51と画像処理モジュール選択部52と画像処理モジュール格納部53とを有する。画像処理部51は、画像処理モジュール格納部53に格納された画像処理モジュール群から画像処理モジュール選択部52によって選択された画像処理モジュールを用いて、回収撮影画像を画像処理し、入力画像データを生成する。この実施形態では、画像処理モジュール群には、第1画像処理モジュール、第2画像処理モジュール、第3画像処理モジュールが含まれている。第1画像処理モジュールは、回収部品の経年色変化に注目して回収撮影画像から入力画像データを生成するためのモジュールである。第2画像処理モジュールは、回収部品の経年形状変化に注目して回収撮影画像から入力画像データを生成するためのモジュールである。第3画像処理モジュールは、回収部品の経年による位置変化に注目して回収撮影画像から入力画像データを生成するためのモジュールである。
FIG. 2 shows a first embodiment of a component condition determination system according to the present invention. In this first embodiment, the
第1画像処理モジュールは、回収部品の変色(経年色変化)が強調される画像処理を回収撮影画像に施して入力画像データを生成する。この入力画像データに基づいて、異常判別ユニット6は、回収部品の状態(正常または異常)を判別する。この入力画像データに基づいて異常と判別された回収部品には、次のような症状が観察される;
(a)熱による焼け:茶褐色~黒になる、
(b)構成部品の欠落:下地の色になる、
(c)構成部品の膨張:収縮、変形:色バランスの変化がおこる。
The first image processing module generates input image data by applying image processing that emphasizes discoloration (color change over time) of the collected parts to the collected photographed image. Based on this input image data, the
(a) Burning due to heat: turning brown to black,
(b) Missing component parts: become the base color,
(c) Expansion of components: contraction, deformation: changes in color balance occur.
第2画像処理モジュールは、回収部品の大きさの変化(経年形状変化)が強調される画像処理を回収撮影画像に施して入力画像データを生成する。この入力画像データに基づいて、異常判別ユニット6は、回収部品の状態(正常または異常)を判別する。この入力画像データに基づいて異常と判別された回収部品には、次のような症状が観察される;
(a)熱による膨張:部品が大きくなる、
(b)乾燥による収縮:部品が小さくなる、
(c)構成部品の欠損:一部の寸法が小さくなる、
(d)溶解、溶出:対象部品がなくなる(=部品寸法がゼロになる)。
The second image processing module generates input image data by applying image processing that emphasizes a change in size (change in shape over time) of the collected parts to the collected photographed image. Based on this input image data, the
(a) thermal expansion: parts become larger;
(b) shrinkage on drying: the part becomes smaller;
(c) missing components: some dimensions are reduced;
(d) Dissolution, Elution: Target parts disappear (=part dimensions become zero).
第3画像処理モジュールは、回収部品の取り付け位置の変化(経年位置変化)が強調される画像処理を回収撮影画像に施して入力画像データを生成する。この入力画像データに基づいて、異常判別ユニット6は、回収部品の状態(正常または異常)を判別する。この入力画像データに基づいて異常と判別された回収部品には、次のような症状が観察される;
(a)接触による変形:取り付け位置がずれる、
(b)部品の膨張:取り付け範囲を超える。
The third image processing module generates input image data by performing image processing that emphasizes a change in the mounting position of the collected part (change in position over time) on the collected photographed image. Based on this input image data, the
(a) Deformation due to contact: Mounting position shifts,
(b) Swelling of parts: beyond the installation range.
異常判別ユニット6は、入力データ生成ユニット5によって生成された入力画像データを入力して、入力画像データに対応する回収部品が正常であるか異常であるかの判別結果を出力する。なお、入力データ生成ユニット5は、撮影画像に対して種々の処理を施す画像前処理機能を有し、この画像前処理機能を通じて入力画像データが生成される。そのような画像前処理機能には、RGBデータを濃淡データやHSVデータなどに変換する機能や、画像縮小やエッジ検出などの画像処理フィルタを実行する機能が含まれている。異常判別ユニット6は、畳み込みニューラルネットワーク、好ましくはディープラーニングで構成されている。異常判別ユニット6の学習は、学習管理部33によって実行される。この学習時に用いられる学習データは、判別結果を正常とする新品撮影画像、判別結果を正常とする回収撮影画像、判別結果を異常とする回収撮影画像であり、回収撮影画像の正常または異常の判定は人為的に行われる。さらには、回収部品の正面撮影画像を入力画像データとしてもよいし、回収部品の側面撮影画像を入力画像データとしてもよいし、回収部品の斜め方向からの撮影画像を入力画像データとしてもよい。さらにはそれぞれの入力画像データ別に異常判別ユニット6が用意されてもよい。
The
判別結果報知部7は、報知デバイス(非図示)を通じて、AIユニット10が出力する判別結果を報知し、さらにその判別結果は回収部品の識別コードでリンクして、記録する。AIユニット10が出力する判別結果は、抜き打ち的に、熟練した専門家によってチェックされる。もし専門家チェックで、異常判別ユニット6が、正常な回収部品を異常と誤判別したことがわかると、この回収部品が正常と判別されるように、再学習指令部8に異常判別ユニット6の再学習が要請される。
The determination
次に図3と図4とを用いて、本発明による部品状態判別システムの第2実施形態を説明する。図3は、部品状態判別システムの第2実施形態の構成を説明する模式図である。図4は、第2実施形態の部品状態判別システムにおける情報の流れを示す説明図である。 Next, a second embodiment of the component condition determination system according to the present invention will be described with reference to FIGS. 3 and 4. FIG. FIG. 3 is a schematic diagram for explaining the configuration of the second embodiment of the component condition determination system. FIG. 4 is an explanatory diagram showing the flow of information in the parts condition determination system of the second embodiment.
この第2実施形態でも、AIユニット10は、入力データ生成ユニット5と異常判別ユニット6とからなる。この実施形態では、入力データ生成ユニット5は、データ取得部31で取得された回収撮影画像及び新品撮影画像から、異常判別ユニット6に入力される入力画像データを生成する。入力データ生成ユニット5は、画像データの種々の前処理機能を有する。前処理機能には、RGBデータを濃淡データやHSVデータなどに変換する機能や、画像縮小やエッジ検出などの画像処理フィルタを実行する機能が含まれている。異常判別ユニット6は、画像復元部6Aと異常判別部6Bとからなる。画像復元部6Aは畳み込みニューラルネットワーク、好ましくはディープラーニングで構成されており、以下に詳しく説明するように、画像を復元するように学習されている。図5に、そのようなディープラーニングが模式的に示されている。入力画像データは、その画素値からなるベクトルデータであり、図5では、Z1、Z2・・・で示されている。
Also in this second embodiment, the
画像復元部6Aは、回収部品の撮影画像(回収撮影画像)に基づいて生成された入力画像データを入力して、当該回収部品の新品時の新品撮影画像に類似する復元画像データを出力する。その際、故障や破損などの要因で回収部品の状態が悪いほど、復元画像は新品撮影画像と類似しなくなる。新品撮影画像に基づく入力画像データが入力されると、ほぼ100%の類似度を示す復元画像データが出力され、故障や破損等で異常状態となっている回収部品の撮影画像に基づく入力画像データが入力されると、100%より低い類似度を示す復元画像データが出力されるように、学習されている。したがって、異常判別部6Bは、回収部品の復元画像データと当該回収部品の新品時の新品撮影画像に基づく新品画像データとを比較して類似度を算出し、この類似度に基づいて回収部品の正常または異常を判別する。
The
この実施形態では、経年変化による状態変化、及び故障(破損)による主な状態変化である、(1)変色、(2)収縮や膨張による形状(サイズ)の変化、(3)剥がれやずれ動きによる取り付け位置の変化、を個別にチェックして、回収部品の正常または異常を判別するために、この画像復元部6Aは、上記(1)、(2)、(3)を個別に注目した、3つのディープラーニングモジュールを用意している。このため、画像復元部6Aは、復元モジュール実行部61、復元モジュール選択部62、復元モジュール格納部63を備えている。
In this embodiment, the main state changes due to aging and failure (damage) are (1) discoloration, (2) shape (size) changes due to contraction and expansion, and (3) peeling and displacement. In order to individually check the change in the mounting position due to the We have prepared three deep learning modules. Therefore, the
復元モジュール選択部62によって復元モジュール格納部63から選択され、復元モジュール実行部61にロードされるディープラーニングモジュール(あるいは、重みやバイアスの設定値)は、第1復元モジュール、第2復元モジュール、第3復元モジュールである。
The deep learning modules (or set values of weights and biases) selected from the restoration
第1復元モジュールは、変色(経年色変化)を有する回収部品の回収撮影画像を復元する画像復元機能を有する。この画像復元機能により復元された画像が新品復元画像に比べて明らかに差異がある場合には、異常判別部6Bは、その回収部品の変色が異常であり、その変色が部品故障に基づくものであると推定する。ここで想定される例としては、
(a)熱による焼け:茶褐色~黒になる、
(b)構成部品の欠落:下地の色になる、
(c)構成部品の膨張、収縮、変形:色バランスの変化がおこる、
が挙げられる。
The first restoration module has an image restoration function of restoring a collected photographed image of a collected part having discoloration (color change over time). If the image restored by this image restoration function clearly differs from the restored image of the new product, the
(a) Burning due to heat: turning brown to black,
(b) Missing component parts: become the base color,
(c) expansion, contraction, deformation of components: changes in color balance occur;
is mentioned.
第2復元モジュールは、大きさの変化(経年形状変化)を有する回収部品の回収撮影画像を復元する画像復元機能を有する。この画像復元機能により復元された画像が新品復元画像に比べて明らかに差異がある場合には、異常判別部6Bは、その回収部品には大きさの異常な変化があり、その変化が部品故障に基づくものであると推定する。ここで想定される例としては、
(a)熱による膨張:部品が大きくなる、
(b)乾燥による収縮:部品が小さくなる、
(c)構成部品の欠損:一部の寸法が小さくなる、
(d)溶解、溶出:対象部品がなくなる(=部品寸法がゼロになる)、
が挙げられる。
The second restoration module has an image restoration function that restores a collected photographed image of a collected part having a change in size (change in shape over time). If there is a clear difference between the image restored by this image restoration function and the restored image of a new product, the
(a) thermal expansion: parts become larger;
(b) shrinkage on drying: the part becomes smaller;
(c) missing components: some dimensions are reduced;
(d) dissolution, elution: target parts disappear (=part dimensions become zero),
is mentioned.
第3復元モジュールは、取り付け位置の変化(経年位置変化)を有する回収部品の回収撮影画像を復元する画像復元機能を有する。この画像復元機能により復元された画像が新品復元画像に比べて明らかに差異がある場合には、異常判別部6Bは、その回収部品には取り付け位置の異常な変化があり、その変化が部品故障に基づくものであると推定する。ここで想定される例としては、
(a)接触による変形:取り付け位置がずれる、
(b)部品の膨張:取り付け範囲を超える、
が挙げられる。
The third restoration module has an image restoration function that restores a collected photographed image of a collected part having a change in mounting position (change in position over time). If there is a clear difference between the image restored by this image restoration function and the restored image of a new product, the
(a) Deformation due to contact: Mounting position shifts,
(b) part expansion: exceeding the installation range;
is mentioned.
異常判別部6Bは、第1復元モジュール、第2復元モジュール、第3復元モジュールのそれぞれから出力された回収部品の復元画像である復元画像データと、新品の復元画像である新品復元データ(新品の撮影画像から直接生成することも可能)とを比較し、その類似度から当該回収部品が正常であるか異常であるかを判別する。その際、第1復元モジュール、第2復元モジュール、第3復元モジュールによる復元画像データを用いた類似度を組み合わせて、例えば、それらの加算値(重み付き加算値を含む)または平均値(重み付き平均値を含む)に基づいて判別してもよいし、いずれかいつの類似度が許容範囲を超えた場合に異常と判別してもよい。さらには、異常個所を指定して、基板に実装された個別部品の正常/異常判別を行うことも可能である。
The
第1復元モジュール、第2復元モジュール、第3復元モジュールは、1つのディープラーニングモジュールに統合して、復元モジュール実行部61に組み込んでおくことも可能である。その場合、復元モジュール選択部62及び復元モジュール格納部63は省略される。
The first restoration module, the second restoration module, and the third restoration module can also be integrated into one deep learning module and incorporated in the restoration
また、この実施形態では、複数の復元モジュールは、回収部品のそれぞれ異なる異常の要因に照準を定めて画像復元を行うように構成されたものであった。しかしながら、回収部品の異常を判別する場合に、回収部品を観察する方向が重要となる場合もある。このことから、復元モジュールとして、回収部品の正面撮影画像を入力画像データとするもの、回収部品の側面撮影画像を入力画像データとするもの、回収部品の斜め方向からの撮影画像を入力画像データとするものが用意されてもよい。 Further, in this embodiment, the plurality of restoration modules are configured to perform image restoration by aiming at different causes of abnormalities in the collected parts. However, the direction in which the collected parts are observed may be important when determining an abnormality in the collected parts. For this reason, as a restoration module, a front photographed image of the collected part is used as input image data, a side photographed image of the collected part is used as input image data, and an obliquely photographed image of the collected part is used as input image data. may be provided.
この実施形態でも、異常判別ユニット6による判別結果は、抜き打ち的に、熟練した専門家によってチェックされる。もし専門家チェックで、異常判別ユニット6が、正常な回収部品を異常と誤判別したことがわかると、この回収部品が正常と判別されるように、再学習指令部8に画像復元部6Aの再学習が要請される。同様に、専門家チェックで、異常判別ユニット6が、異常な回収部品を正常と誤判別したことがわかると、この回収部品が正常と判別されるように、再学習指令部8に画像復元部6Aの再学習が要請される。
In this embodiment as well, the determination result by the
上述したように、本発明による部品状態判別システムを用いて回収部品が正常か異常か、さらには、回収部品の特定箇所が正常か異常かを判別することができる。この回収部品の判別結果と、当該部品の使用態様(使用時間、使用負荷、使用環境など)とから、回収部品の寿命などを推定することができ、回収部品の改善点を見出すことができる。 As described above, it is possible to determine whether a collected part is normal or abnormal, and whether a specific portion of the collected part is normal or abnormal using the component state determination system according to the present invention. The service life of the collected parts can be estimated from the discrimination result of the collected parts and the mode of use of the parts (usage time, usage load, usage environment, etc.), and improvement points of the collected parts can be found.
〔別実施の形態〕
(1)上述した実施形態では、画像復元部6Aは、ディープラーニングを用いて構成されていたが、ディープラーニングのような学習型のニューラルネットワークに代えて、例えば、カルマン・フィルタを用いた画像復元技術のような画像処理モジュールを用いて構成することも可能である。
[Another embodiment]
(1) In the above-described embodiment, the
(2)上述した実施形態では、画像復元部6Aから出力される復元画像データに基づいて異常判別部6Bが回収部品の異常を判別していたが、画像復元部6Aと異常判別部6Bとを統合し、入力画像データが入力されると、回収部品の正常/異常判別結果が出力されるように構成することができる。そのような統合された異常判別ユニット6は、例えば、敵対的生成ネットワークやオートエンコーダを用いて構成することができる。その際、敵対的生成ネットワークは、回収部品の撮影画像から、疑似新品撮影画像を生成し、その疑似新品撮影画像と真の新品撮影画像との差異、真贋度から回収部品の正常/異常が判別される。
(2) In the above-described embodiment, the
(3)AIユニット10は、カメラ付きタブレットコンピュータなどの携帯端末に構築することも可能である。そのような携帯端末を用いると、保守点検員が、各家庭を巡回しながら、取り外した回収部品の正常/異常判別を行うことができる。取り外した回収部品が正常である場合、その回収部品を元に戻すことも可能である。
(3) The
(4)上述した実施形態では、家庭に配備されている燃料電池発電装置1に内装されている基板が回収部品として取り扱われたが、これに代えて、その他の部品ユニット、さらには燃料電池発電装置1以外の家庭用機器、例えば、ホームセキュリティシステム機器、家電システム機器、調理システム機器、空調システム機器、など家庭生活を管理する種々のシステム機器に内装されている基板等の正常/異常判別を行うように構成することも可能である。
(4) In the above-described embodiment, the substrates inside the fuel
(5)入力データ生成ユニット5と異常判別ユニット6とが一体化された畳み込みニューラルネットワークで構成すること、つまりAIユニット10が1つの畳み込みニューラルネットワークで構成することも可能である。
(5) The input
本発明は、種々の基板や部品ユニットを内装する機器の回収部品(交換部品)の正常/異常判別を行うシステムに適用可能である。 INDUSTRIAL APPLICABILITY The present invention can be applied to a system for determining normality/abnormality of recovered parts (replacement parts) of equipment in which various substrates and component units are installed.
1 :燃料電池発電装置
5 :入力データ生成ユニット
6 :異常判別ユニット
6A :画像復元部
6B :異常判別部
51 :画像処理部
61 :復元モジュール実行部
62 :復元モジュール選択部
63 :復元モジュール格納部
52 :画像処理モジュール選択部
53 :画像処理モジュール格納部
7 :判別結果報知部
8 :再学習指令部
10 :AIユニット
21 :通信部
22 :撮影部
31 :データ取得部
33 :学習管理部
1: fuel cell power generator 5: input data generation unit 6:
Claims (4)
前記回収部品の回収撮影画像または前記回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、前記回収撮影画像から前記回収部品が正常であるか異常であるかを判別するように学習されたAIユニットと、 Determining whether the collected part is normal or abnormal from the collected photographed image using the collected photographed image of the collected part, the new photographed image of the collected part when it is new, or both photographed images as learning data. an AI unit that has been trained to
前記AIユニットの判別結果を外部報知する判別結果報知部と、 a determination result notification unit that externally reports the determination result of the AI unit;
前記判別結果報知部によって報知された判別結果に対する専門家の判定に基づいて、前記AIユニットに対して再学習を指令する再学習指令部と、を備え、 a re-learning command unit that commands the AI unit to re-learn based on an expert's judgment on the discrimination result notified by the discrimination result notification unit;
前記AIユニットには、入力データ生成ユニットと異常判別ユニットとが含まれ、 The AI unit includes an input data generation unit and an abnormality determination unit,
前記入力データ生成ユニットは、前記回収撮影画像に基づいて、前記異常判別ユニットのための入力画像データを生成し、 The input data generation unit generates input image data for the abnormality determination unit based on the recovered photographed image,
前記異常判別ユニットは、前記入力画像データに基づいて前記回収部品が正常であるか異常であるかを判別するように学習された畳み込みニューラルネットワークであり、 the abnormality determination unit is a convolutional neural network trained to determine whether the collected parts are normal or abnormal based on the input image data;
前記入力データ生成ユニットは、前記回収部品の経年色変化に注目して前記回収撮影画像から前記入力画像データを生成する第1画像処理モジュールと、前記回収部品の経年形状変化に注目して前記回収撮影画像から前記入力画像データを生成する第2画像処理モジュールと、前記回収部品の経年位置変化に注目して前記回収撮影画像から前記入力画像データを生成する第3画像処理モジュールとを有する部品状態判別システム。 The input data generation unit includes a first image processing module that generates the input image data from the collected photographed image by paying attention to color change of the collected part over time, and a first image processing module that generates the input image data from the collected captured image by paying attention to the change in shape of the collected part over time. A part state having a second image processing module that generates the input image data from a photographed image, and a third image processing module that generates the input image data from the collected photographed image by paying attention to the positional change of the collected part over time. discrimination system.
前記回収部品の回収撮影画像または前記回収部品の新品時の新品撮影画像あるいはその両方の撮影画像を学習データとして用いて、前記回収撮影画像から前記回収部品が正常であるか異常であるかを判別するように学習されたAIユニットと、
前記AIユニットの判別結果を外部報知する判別結果報知部と、
前記判別結果報知部によって報知された判別結果に対する専門家の判定に基づいて、前記AIユニットに対して再学習を指令する再学習指令部と、を備え、
前記AIユニットには、入力データ生成ユニットと異常判別ユニットとが含まれ、
前記入力データ生成ユニットは、前記回収撮影画像を入力して、前記新品撮影画像に類似する復元画像を出力するように構成された畳み込みニューラルネットワークであり、
前記異常判別ユニットは、前記復元画像と前記新品撮影画像との類似度に基づいて前記回収部品の正常または異常を判別する部品状態判別システム。 A parts state determination system for determining the state of used collected parts,
Determining whether the collected part is normal or abnormal from the collected photographed image using the collected photographed image of the collected part, the new photographed image of the collected part when it is new, or both photographed images as learning data. an AI unit that has been trained to
a determination result notification unit that externally reports the determination result of the AI unit;
a re-learning command unit that commands the AI unit to re-learn based on an expert's judgment on the discrimination result notified by the discrimination result notification unit ;
The AI unit includes an input data generation unit and an abnormality determination unit,
The input data generation unit is a convolutional neural network configured to input the recovered photographed image and output a restored image similar to the new photographed image;
The abnormality determination unit determines whether the collected parts are normal or abnormal based on the degree of similarity between the restored image and the photographed image of the new product.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019186205A JP7292170B2 (en) | 2019-10-09 | 2019-10-09 | Parts condition determination system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019186205A JP7292170B2 (en) | 2019-10-09 | 2019-10-09 | Parts condition determination system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021060364A JP2021060364A (en) | 2021-04-15 |
JP7292170B2 true JP7292170B2 (en) | 2023-06-16 |
Family
ID=75380016
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019186205A Active JP7292170B2 (en) | 2019-10-09 | 2019-10-09 | Parts condition determination system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7292170B2 (en) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013142558A (en) | 2012-01-06 | 2013-07-22 | Keyence Corp | Visual inspection device, visual inspection method and computer program |
JP2014196926A (en) | 2013-03-29 | 2014-10-16 | 大和ハウス工業株式会社 | Method and apparatus for assessing deterioration of exterior material |
JP2015026287A (en) | 2013-07-26 | 2015-02-05 | 新電元工業株式会社 | Solder inspection device, solder inspection method and electronic component |
JP2019039874A (en) | 2017-08-28 | 2019-03-14 | ファナック株式会社 | Machine learning device, machine learning system and machine learning method |
JP2019074339A (en) | 2017-10-12 | 2019-05-16 | 太平洋セメント株式会社 | Method for detecting concrete deterioration early |
US20190188840A1 (en) | 2017-12-19 | 2019-06-20 | Samsung Electronics Co., Ltd. | Semiconductor defect classification device, method for classifying defect of semiconductor, and semiconductor defect classification system |
JP2019100753A (en) | 2017-11-29 | 2019-06-24 | アンリツ株式会社 | Printed circuit board inspection device and printed circuit board inspection method |
JP2019133524A (en) | 2018-02-01 | 2019-08-08 | オムロン株式会社 | Information processor, clothing separation system, information processing method, and control program |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3234742B2 (en) * | 1995-05-25 | 2001-12-04 | 株式会社東芝 | Method and apparatus for estimating remaining life of electronic component |
-
2019
- 2019-10-09 JP JP2019186205A patent/JP7292170B2/en active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013142558A (en) | 2012-01-06 | 2013-07-22 | Keyence Corp | Visual inspection device, visual inspection method and computer program |
JP2014196926A (en) | 2013-03-29 | 2014-10-16 | 大和ハウス工業株式会社 | Method and apparatus for assessing deterioration of exterior material |
JP2015026287A (en) | 2013-07-26 | 2015-02-05 | 新電元工業株式会社 | Solder inspection device, solder inspection method and electronic component |
JP2019039874A (en) | 2017-08-28 | 2019-03-14 | ファナック株式会社 | Machine learning device, machine learning system and machine learning method |
JP2019074339A (en) | 2017-10-12 | 2019-05-16 | 太平洋セメント株式会社 | Method for detecting concrete deterioration early |
JP2019100753A (en) | 2017-11-29 | 2019-06-24 | アンリツ株式会社 | Printed circuit board inspection device and printed circuit board inspection method |
US20190188840A1 (en) | 2017-12-19 | 2019-06-20 | Samsung Electronics Co., Ltd. | Semiconductor defect classification device, method for classifying defect of semiconductor, and semiconductor defect classification system |
JP2019133524A (en) | 2018-02-01 | 2019-08-08 | オムロン株式会社 | Information processor, clothing separation system, information processing method, and control program |
Also Published As
Publication number | Publication date |
---|---|
JP2021060364A (en) | 2021-04-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JPWO2020031984A1 (en) | Parts inspection method and inspection system | |
CN110441316B (en) | Battery surface defect detection method and detection system | |
EP1991946A1 (en) | Approaches and apparatus for eye detection in a digital image | |
WO2013066916A1 (en) | System and method for improving automated defect detection user interface | |
CN105321191B (en) | Method and electronic apparatus for processing reflection in image | |
CN116189103B (en) | Equipment monitoring automatic control method and control system based on visual image analysis | |
CN112584135A (en) | Monitoring equipment fault identification method, device, equipment and storage medium | |
CN111527387B (en) | Method and system for identifying damage to a component | |
JP4514230B2 (en) | Component suction posture discrimination method and component suction posture discrimination system | |
CN114331997A (en) | Wire defect monitoring method based on image recognition | |
JP6616906B1 (en) | Detection device and detection system for defective photographing data | |
WO2019055908A2 (en) | System and method for solar cell defect detection | |
JP7292170B2 (en) | Parts condition determination system | |
CN117876308A (en) | Photovoltaic panel detection method based on image analysis | |
KR101041524B1 (en) | Optimal failure recognition system based HTM | |
CN112985515B (en) | Method and system for detecting assembly qualification of product fastener and storage medium | |
CN116758060B (en) | Vertical basket of flowers visual detection system of battery piece | |
Taib et al. | Thermal imaging for qualitative-based measurements of thermal anomalies in electrical components | |
CN106898084B (en) | method and device for determining image processing threshold | |
US20170318245A1 (en) | Method for detecting defective pixels | |
CN112907524B (en) | Method for detecting fault of fire-proof plate of rail wagon based on image processing | |
Ye et al. | Automatic optical apparatus for inspecting bearing assembly defects | |
CN113421029A (en) | State acquisition and identification terminal for transformer substation protection pressing plate | |
TW202220324A (en) | Transformer early warning system | |
CN117078620B (en) | PCB welding spot defect detection method and device, electronic equipment and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220518 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230307 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230421 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230509 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230606 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7292170 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |