JP7311455B2 - Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program - Google Patents
Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program Download PDFInfo
- Publication number
- JP7311455B2 JP7311455B2 JP2020060078A JP2020060078A JP7311455B2 JP 7311455 B2 JP7311455 B2 JP 7311455B2 JP 2020060078 A JP2020060078 A JP 2020060078A JP 2020060078 A JP2020060078 A JP 2020060078A JP 7311455 B2 JP7311455 B2 JP 7311455B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- grade
- scrap
- iron
- pieces
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
Description
本発明は、スクラップ等級判定システム、スクラップ等級判定方法、推定装置、学習装置、学習済みモデルの生成方法、及びプログラムに関する。 The present invention relates to a scrap grade determination system, a scrap grade determination method, an estimation device, a learning device, a learned model generation method, and a program.
一般に、電炉メーカーのスクラップ受入現場では、リフティングマグネット等の吊り具により鉄スクラップをトラック又は船から持ち上げ、搬送し、スクラップヤードに降ろすところを検収員が観察し、鉄スクラップの等級割合などを判定する。 In general, at the scrap receiving site of an electric furnace manufacturer, an inspection inspector observes the scrap iron scrap being lifted from a truck or ship by a lifting device such as a lifting magnet, transported, and unloaded to the scrap yard, and judges the grade ratio of the iron scrap. .
しかしながら、検収員は、安全のために離れた場所から鉄スクラップを目視で確認するため、等級割合の判定精度が十分でない場合がある。また、検収員の経験等に依って判定基準にばらつきが生じることもある。 However, since acceptance inspectors visually check iron scrap from a remote location for safety reasons, there are cases where the accuracy of determining the grade ratio is not sufficient. In addition, the judgment criteria may vary depending on the experience of the inspector.
特に、大きさに応じた等級が定められたヘビー屑と呼ばれる鉄スクラップについては、種々の大きさの鉄スクラップが混在しているため、等級割合の判定が困難である。 In particular, it is difficult to determine the grade ratio of iron scrap called heavy scrap, which is graded according to size, because iron scrap of various sizes coexists.
本発明は、上記課題に鑑みてなされたものであり、その主な目的は、鉄スクラップの等級割合の判定精度を向上させることが可能なスクラップ等級判定システム、スクラップ等級判定方法、推定装置、学習装置、学習済みモデルの生成方法、及びプログラムを提供することにある。 The present invention has been made in view of the above problems, and its main purpose is to provide a scrap grade determination system, a scrap grade determination method, an estimation device, and a learning method capable of improving the determination accuracy of the grade ratio of iron scrap. An object of the present invention is to provide an apparatus, a method for generating a trained model, and a program.
上記課題を解決するため、本発明の一の態様のスクラップ等級判定システムは、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を吊り具により持ち上げるクレーンと、前記吊り具により持ち上げられた前記鉄スクラップの集合を撮影してカメラ画像を生成するカメラと、前記カメラ画像を複数の画像片に分割する前処理部と、鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定する推定部と、前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する割合算出部と、を備える。 In order to solve the above problems, a scrap grade determination system according to one aspect of the present invention includes a crane that lifts a set of iron scraps in which iron scraps of a plurality of grades according to size are mixed by a hoisting tool, and A camera that captures a set of lifted iron scraps to generate a camera image, a preprocessing unit that divides the camera image into a plurality of image pieces, and a machine using the iron scrap image as input data and the grade as training data. an estimating unit for estimating a grade for each of the plurality of image pieces using a trained model generated in advance by learning; and a ratio calculation unit for calculating the ratio of the grades included in the set of iron scraps.
また、本発明の他の態様のスクラップ等級判定方法は、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を、クレーンの吊り具により持ち上げ、前記吊り具により持ち上げられた前記鉄スクラップの集合をカメラにより撮影してカメラ画像を生成し、前記カメラ画像を複数の画像片に分割し、鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定し、前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する。 In another aspect of the present invention, there is provided a method for judging scrap grades, wherein a set of iron scraps in which iron scraps of a plurality of grades according to size are mixed is lifted by a hoisting tool of a crane, and the scraps lifted by the hoisting tool are A set of iron scraps is photographed by a camera to generate a camera image, the camera image is divided into a plurality of image pieces, the image of the iron scrap is input data, and the grade is training data. Using a model, the grade is estimated for each of the plurality of image pieces, and based on the estimated grade for each of the plurality of image pieces, the grade included in the set of iron scraps lifted by the sling. Calculate the percentage.
また、本発明の他の態様の推定装置は、クレーンの吊り具により持ち上げられた、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成されたカメラ画像を取得する画像取得部と、前記カメラ画像を複数の画像片に分割する前処理部と、鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定する推定部と、前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する割合算出部と、を備える。 In addition, the estimating device of another aspect of the present invention is a camera image generated by a camera that captures a set of iron scraps mixed with a plurality of grades of iron scraps according to the size, lifted by a crane sling. , a preprocessing unit that divides the camera image into a plurality of image pieces, and a learned model generated in advance by machine learning using the image of iron scrap as input data and the grade as teacher data, an estimating unit for estimating a grade for each of the plurality of image pieces; and a percentage of the grade included in the set of iron scraps lifted by the sling based on the grade estimated for each of the plurality of image pieces. and a ratio calculation unit that calculates the
また、本発明の他の態様のプログラムは、クレーンの吊り具により持ち上げられた、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成されたカメラ画像を取得すること、前記カメラ画像を複数の画像片に分割すること、鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定すること、及び、前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出すること、をコンピュータに実行させる。 Further, a program according to another aspect of the present invention captures a camera image generated by a camera that captures a set of iron scraps mixed with a plurality of grades of iron scraps according to size, lifted by a crane sling. obtaining, dividing the camera image into a plurality of image pieces, using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data, each of the plurality of image pieces estimating the grade of each of the plurality of image pieces, and calculating the ratio of grades included in the set of iron scraps lifted by the lifting device based on the estimated grade of each of the plurality of image pieces. to execute.
また、本発明の他の態様の学習装置は、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得する画像取得部と、前記学習用画像を複数の画像片に分割する前処理部と、前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得する等級取得部と、前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成する学習部と、を備える。 A learning device according to another aspect of the present invention includes an image acquisition unit that acquires a learning image generated by a camera that captures a set of iron scraps in which iron scraps of a plurality of grades according to size are mixed, a preprocessing unit that divides the learning image into a plurality of image pieces; a grade acquisition unit that acquires grades of iron scrap appearing in each of the plurality of image pieces; As data, a learning unit for generating a trained model for estimating the grade of iron scrap appearing in the image by machine learning.
また、本発明の他の態様の学習済みモデルの生成方法は、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得し、前記学習用画像を複数の画像片に分割し、前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得し、前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成する。 In another aspect of the present invention, there is provided a method of generating a trained model, which acquires a learning image generated by a camera that captures a set of iron scraps in which a plurality of grades of iron scraps according to size are mixed, The learning image is divided into a plurality of image pieces, the grade of iron scrap appearing in each of the plurality of image pieces is acquired, the image pieces are used as input data, the grades are used as training data, and the iron appearing in the image is obtained. A trained model for estimating the grade of scrap is generated by machine learning.
また、本発明の他の態様のプログラムは、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得すること、前記学習用画像を複数の画像片に分割すること、前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得すること、及び、前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成すること、をコンピュータに実行させる。 Further, a program according to another aspect of the present invention acquires a learning image generated by a camera that captures a set of iron scraps in which a plurality of grades of iron scrap according to size are mixed; is divided into a plurality of image pieces, obtaining grades of iron scraps appearing in each of the plurality of image pieces, and using the image pieces as input data and the grades as teacher data, the iron scraps appearing in the image Generating a trained model for estimating the grade of scrap by machine learning.
本発明によれば、鉄スクラップの等級割合の判定精度を向上させることが可能となる。 ADVANTAGE OF THE INVENTION According to this invention, it becomes possible to improve the determination accuracy of the grade ratio of iron scrap.
以下、本発明の実施形態について、図面を参照しながら説明する。 BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[システム概要]
図1は、実施形態に係るスクラップ等級判定システム100が設置されるスクラップ受入現場の例を示す図である。図2は、スクラップ等級判定システム100の構成例を示す図である。スクラップ等級判定システム100は、実施形態に係る推定装置1及び学習装置3を備えている。
[System Overview]
FIG. 1 is a diagram showing an example of a scrap receiving site where a scrap
スクラップ等級判定システム100は、電炉メーカー等のスクラップ受入現場においてクレーン9の吊り具91により持ち上げられた鉄スクラップSをカメラ2により撮影し、画像から等級割合を判定し、判定結果を出力部6,7に出力するためのシステムである。
The scrap
スクラップ受入現場では、クレーン9の吊り具91により鉄スクラップSがトラックTから持ち上げられ、搬送され、スクラップヤードYに降ろされる。吊り具91は、例えばリフティングマグネットである。これに限らず、吊り具91は、グラブバケット等であってもよい。
At the scrap receiving site, the iron scrap S is lifted from the truck T by the
鉄スクラップSには、種々の大きさの鉄スクラップSが混在している。鉄スクラップSは、例えばヘビー屑である。図3に示すように、ヘビー屑には、大きさ(具体的には、厚さ、幅又は高さ、長さ)及び重さに応じた等級(例えばH1~L1)が定められている。 In the iron scrap S, iron scrap S of various sizes are mixed. Iron scrap S is, for example, heavy waste. As shown in FIG. 3, heavy scraps are graded according to size (specifically, thickness, width or height, and length) and weight (for example, H1 to L1).
スプラップ受入現場には、吊り具91により持ち上げられた鉄スクラップSを撮影するカメラ2が設置されている。カメラ2は、動画像を生成するビデオカメラであってもよいし、静止画像を生成するスチルカメラであってもよい。
A
カメラ2は、吊り具91により持ち上げられた鉄スクラップSを互いに異なる角度から撮影するように複数あってもよい。カメラ2は、吊り具91により持ち上げられた鉄スクラップSを側方から水平に又は下方から上方に向かって撮影することが好ましい。
A plurality of
なお、スクラップ等級判定システム100は、スクラップ加工会社におけるスクラップ出荷現場に適用されてもよい。スクラップ出荷現場では、クレーン9の吊り具91により鉄スクラップSがスクラップヤードYから持ち上げられ、搬送され、トラックTに積込まれる。
The scrap
図2に示すように、スクラップ等級判定システム100は、推定装置1、カメラ2、学習装置3、記憶装置5、及び出力部6,7を備えている。これらの機器は、例えばLAN等の通信ネットワークを介して相互にネットワーク通信が可能である。なお、推定装置1と学習装置3は、一体の装置として構成されてもよい。
As shown in FIG. 2, the scrap
推定装置1は、制御部10を備えている。制御部10は、CPU、RAM、ROM、不揮発性メモリ、及び入出力インターフェース等を含むコンピュータである。制御部10のCPUは、ROM又は不揮発性メモリからRAMにロードされたプログラムに従って情報処理を実行する。
The
制御部10は、取得部11、検出部12、前処理部13、推定部14、割合算出部15、及び全体算出部16を備えている。これらの機能部は、制御部10のCPUがROM又は不揮発性メモリからRAMにロードされたプログラムに従って情報処理を実行することによって実現される。
The
プログラムは、例えば光ディスク又はメモリカード等の情報記憶媒体を介して供給されてもよいし、例えばインターネット又はLAN等の通信ネットワークを介して供給されてもよい。 The program may be supplied via an information storage medium such as an optical disk or memory card, or may be supplied via a communication network such as the Internet or LAN.
学習装置3も、推定装置1と同様の制御部30を備えている。制御部30は、取得部31、前処理部32、及び学習部33を備えている。取得部31は、画像取得部及び等級取得部の例である。
The
推定装置1及び学習装置3は、記憶装置5にアクセス可能である。記憶装置5には、学習装置3により生成された学習済みモデルが、推定装置1により読出し可能に保存されている。
The
カメラ2は、吊り具91に吊り上げられた鉄スクラップSを撮影し、生成したカメラ画像を推定装置1に入力する。推定装置1は、カメラ2により生成されたカメラ画像から鉄スクラップSの等級割合を判定し、判定結果を出力部6,7に送信する。
The
出力部6,7は、推定装置1からの判定結果を出力する。出力部6は、例えば検収員Aが携帯するタブレット型コンピュータ等の端末である。出力部7は、例えば検収書発行用のプリンタである。
[学習フェーズ]
図4は、実施形態に係る学習済みモデルの生成方法としての学習フェーズに用いられるデータセットの例を示す図である。学習フェーズに用いられるデータセットは、学習用画像及び等級ラベルを含んでいる。
[Learning phase]
FIG. 4 is a diagram showing an example of a data set used in the learning phase as a method of generating a trained model according to the embodiment. The dataset used in the training phase contains training images and grade labels.
学習用画像及び等級ラベルは、同図に示すようなテーブルにおいて互いに関連付けられて管理されている。学習用画像は、学習モデルへの入力データとして用いられる。等級ラベルは、教師データとして用いられる。 The learning images and grade labels are managed in association with each other in a table as shown in FIG. The training image is used as input data to the learning model. Grade labels are used as teacher data.
等級ラベルは、学習用画像に現れた鉄スクラップの等級を表す。学習用画像に複数の鉄スクラップが現れる場合は、等級ラベルは、それらの中の代表的な鉄スクラップの等級を表す。 The grade label represents the grade of iron scrap that appears in the training images. If multiple scrap iron appears in the training image, the grade label represents the grade of the representative scrap iron among them.
図示の例では、複数の学習用画像のそれぞれに、H1、H2、H3、又はL1の等級が関連付けられている。等級ラベルは、例えば学習用画像を見た検収員等の人によって判断され、入力される。 In the illustrated example, a grade of H1, H2, H3, or L1 is associated with each of the plurality of training images. The grade label is determined and input by, for example, an acceptance inspector who has seen the learning image.
図5は、学習用画像の例を示す図である。本実施形態では、学習用画像は、吊り具91により持ち上げられた鉄スクラップSの集合をカメラ2により撮影したカメラ画像を分割した画像片(メッシュ画像)である。画像片には、鉄スクラップSの一部が現れる。
FIG. 5 is a diagram showing an example of a learning image. In this embodiment, the learning image is an image piece (mesh image) obtained by dividing a camera image of a set of iron scraps S lifted by the hoisting
カメラ画像から画像片を得るための前処理は、後述する推論フェーズにおける前処理と同様である。すなわち、学習装置3の前処理部32の機能は、推定装置1の前処理部13の機能と同様である。前処理の詳細については後述する。
The preprocessing for obtaining image fragments from camera images is the same as the preprocessing in the inference phase, which will be described later. That is, the function of the
学習用画像としては、上記画像片だけでなく、画像片に分割する前のカメラ画像が用いられてもよいし、他の場所で撮影された1又は複数の鉄スクラップが現れた画像が用いられてもよい。 As the learning image, not only the above-mentioned image pieces, but also camera images before being divided into image pieces may be used, or images in which one or more iron scraps photographed at another location appear may be used. may
なお、図6及び図7に示すように、前処理においては、代表となる鉄スクラップMSとその他の鉄スクラップNSとを識別表示してもよい。これにより、着目すべき鉄スクラップが明示されるので、学習の効率化を図ることが可能となる。 As shown in FIGS. 6 and 7, in the pretreatment, representative iron scrap MS and other iron scrap NS may be identified and displayed. As a result, iron scraps to which attention should be focused are specified, so that learning can be made more efficient.
具体的には、図6に示すように代表となる鉄スクラップMSのみが色塗りされてもよいし、図7に示すように代表となる鉄スクラップMS以外をマスク処理によって除外してもよい。 Specifically, as shown in FIG. 6, only the representative iron scrap MS may be colored, or as shown in FIG. 7, scraps other than the representative iron scrap MS may be excluded by masking.
図8は、学習装置3において実現される学習フェーズを説明する図である。図9は、学習フェーズの手順例を示す図である。図10は、機械学習処理S12の手順例を示す図である。学習装置3の制御部30は、図9及び図10に示す処理をプログラムに従って実行することにより、取得部31、前処理部32、及び学習部33として機能する。
FIG. 8 is a diagram for explaining the learning phase realized by the
学習モデルは、例えば畳込みニューラルネットワークであり、畳込み層、プーリング層、全結合層、及び出力層を含んでいる。特には、ニューロンを多段に組み合わせたディープニューラルネットワークが好適である。 A learning model is, for example, a convolutional neural network, and includes a convolutional layer, a pooling layer, a fully connected layer, and an output layer. In particular, a deep neural network in which neurons are combined in multiple stages is suitable.
出力層には、各等級に対応する要素が設けられる。各等級に対応する要素は、例えばソフトマックス関数で構成され、0~1の間の実数で表される出力値を、等級に該当する確率として扱うことができる。 The output layer is provided with elements corresponding to each grade. An element corresponding to each grade is composed of, for example, a softmax function, and an output value represented by a real number between 0 and 1 can be treated as a probability of corresponding to the grade.
層構造は図示の例に限らず、畳込み層、プーリング層、及び全結合層の層数などが異なっていてもよい。また、サポートベクタマシン、ガウス過程、又は決定木等のニューラルネットワーク以外の機械学習が用いられてもよい。 The layer structure is not limited to the illustrated example, and the number of convolution layers, pooling layers, and fully connected layers may be different. Machine learning other than neural networks such as support vector machines, Gaussian processes, or decision trees may also be used.
図9に示すように、学習装置3の制御部30は、まず、多数のデータセットの中から一部のデータセットをトレーニングデータとして抽出し(S11)、抽出したトレーニングデータを用いて機械学習処理を行うことにより、学習済みモデルを生成する(S12:学習部33としての処理)。
As shown in FIG. 9, the
次に、制御部30は、多数のデータセットの中からトレーニングデータとは別の一部のデータセットをテストデータとして抽出し(S13)、抽出したテストデータを用いて学習済みモデルを評価し(S14)。所定以上の評価の学習済みモデルを記憶装置5に保存する(S15)。
Next, the
図10に示すように、機械学習処理S12では、制御部30は、データセットに含まれる学習用画像(本実施形態では画像片)を入力データとして学習モデルに入力し(S21)、学習モデルよる計算を行い(S22)、各等級に該当する確率を出力データとして出力する(S23)。
As shown in FIG. 10, in the machine learning process S12, the
次に、制御部30は、データセットに含まれる教師データとしての各等級ラベルと、出力データとしての各等級に該当する確率との差分を算出し(S24)、誤差逆伝播計算を行って学習モデルのパラメータを調整する(S25)。等級ラベルは、等級に該当するか否かを0または1の二値で表す。
Next, the
以上により、画像に現れた鉄スクラップの等級を推定するための学習済みモデルが生成される。 As described above, a trained model for estimating the grade of iron scrap appearing in the image is generated.
[推論フェーズ]
図11は、推定装置1において実現される、実施形態に係るスクラップ等級判定方法としての推論フェーズを説明する図である。図12は、推論フェーズの手順例を示す図である。推定装置1の制御部10は、同図に示す処理をプログラムに従って実行することにより、取得部11、検出部12、前処理部13、推定部14、割合算出部15、及び全体算出部16として機能する。
[Inference phase]
FIG. 11 is a diagram illustrating an inference phase as a scrap grade determination method according to an embodiment, which is implemented in the
まず、制御部10は、吊り具91により持ち上げられた鉄スクラップSの集合を撮影するカメラ2により生成されたカメラ画像を取得する(S31:取得部11としての処理)。図13は、カメラ画像の例を示す図である。
First, the
次に、制御部10は、カメラ画像中の吊り具91を検出する(S32:検出部12としての機能)。
Next, the
具体的には、制御部10は、例えばYOLO(You Only Look Once)又はSSD(Single Shot MultiBox Detector)等の物体検出モデルを用いて、カメラ画像中の吊り具91の範囲Mを検出する(図13参照)。
Specifically, the
次に、制御部10は、取得したカメラ画像に対して前処理を行う(S33~S37:前処理部13としての処理)。図14は、カメラ画像に対する前処理の手順例を説明するための図である。
Next, the
S33において、制御部10は、吊り具91を基準に画定される所定の大きさの矩形領域をカメラ画像から切り出して、切り出し画像HCを得る(図14(a)参照)。切り出す矩形領域の大きさは、吊り具91により持ち上げられた鉄スクラップSの集合が全て含まれるように予め定められる。
In S33, the
具体的には、切り出し画像HCの左右端は、吊り具91の左右端よりもやや外側に位置する。切り出し画像HCの横幅は、吊り具91の横幅よりもやや広い。切り出し画像HCの上端は、吊り具91の上端に位置する。切り出し画像HCの下端は、吊り具91の下端から所定の長さだけ下方に位置する。
Specifically, the left and right edges of the clipped image HC are located slightly outside the left and right edges of the
S34において、制御部10は、切り出し画像HCを複数の画像片(メッシュ画像)MGに区切る(図14(b)参照)。
In S34, the
S35において、等級推定精度向上のため、制御部10は、複数の画像片MGを、等級の推定に使用する画像片MG1と使用しない画像片MG0とに選別する。
In S35, the
本実施形態では、制御部10は、複数の画像片MGのうち、吊り具91に対して所定の位置にある画像片91を、等級の推定に使用する画像片MG1として選別する。具体的には、吊り具91により持ち上げられた鉄スクラップSの集合は、下方に向かうに従って徐々に幅が狭まる略逆円錐形状(側面視において略逆三角形状)になることが多いため、吊り具91から下方に向かうに従って徐々に狭まる範囲に属する画像片MGが、等級の推定に使用する画像片MG1として選別される(図14(c)参照)。
In the present embodiment, the
そこで、吊り具91から下方に向かうに従って徐々に狭まる範囲に属する画像片MG1を等級の推定に使用し、それ以外の範囲に属する画像片MG0を等級の推定に使用しないことで、鉄スクラップSが現れていない画像片MGが除外されるので、等級判定の精度向上を図ることが可能となる。
Therefore, by using the image piece MG1 belonging to a range that gradually narrows downward from the hanging
これに限らず、制御部10は、吊り具91により持ち上げられた鉄スクラップSの集合を撮影した画像と、吊り具91及び鉄スクラップSの集合が無いときに撮影した背景画像とを比較して、差が有る画像片MGを等級推定に使用する画像片MG1として選別してもよい。
Not limited to this, the
S36において、制御部10は、切り出し画像HCを分割して、等級の推定に使用する複数の画像片MG1を得る。
In S36, the
S37において、制御部10は、等級の推定に使用する複数の画像片MG1のそれぞれの大きさを、学習済みモデルに入力可能な大きさに変更する。具体的には、複数の画像片MG1のそれぞれの大きさ(例えば450×500画素)が、学習済みモデルに入力可能な大きさ(例えば224×224画素)に圧縮される。
In S37, the
このように、切り出し画像HCを分割した複数の画像片MG1のそれぞれの大きさを、学習済みモデルに入力可能な大きさに圧縮することで、切り出し画像HCを学習済みモデルに入力可能な大きさに直接圧縮する場合と比べて、画像圧縮率を小さくすることができるので、判定精度の向上を図ることが可能となる。 In this way, by compressing the size of each of the plurality of image pieces MG1 obtained by dividing the clipped image HC to a size that can be input to the trained model, the clipped image HC can be input to the trained model. Since the image compression ratio can be reduced compared to the case where the image is directly compressed to , it is possible to improve the determination accuracy.
次に、制御部10は、学習済みモデルを用い、複数の画像片MG1のそれぞれについて等級を推定する(S38~S41:推定部14としての処理)。具体的には、制御部10は、画像片MG1を学習済みモデルに入力し(S38)、学習済みモデルによる計算を行って(S39)、各等級に該当する確率を出力する(S40)。
Next, the
次に、制御部10は、複数の画像片MG1のそれぞれについて推定された等級に基づいて、吊り具91により持ち上げられた鉄スクラップSの集合に含まれる等級の重量割合を算出する(S42:割合算出部15としての処理)。
Next, the
具体的には、図15に示すように、等級毎に画像片MG1の数(メッシュ数)を集計し、各等級の画像片MG1の数と、等級毎に定められた重量指数(a~d)とをそれぞれ掛け合わせることで、吊り具91により持ち上げられた鉄スクラップSの集合に含まれる等級の重量割合が算出される。
Specifically, as shown in FIG. 15, the number of image pieces MG1 (the number of meshes) is counted for each grade, and the number of image pieces MG1 for each grade and the weight index (a to d ) are respectively multiplied, the weight ratio of the grade contained in the set of iron scraps S lifted by the
これに限らず、図16に示すように、重量指数は、等級だけでなく、鋼板などの品種に応じて細分化されてもよい。すなわち、各等級の画像片MG1の数と、鉄スクラップSの品種と、等級及び品種毎に定められた重量指数(a-1~6)とに基づいて、等級の重量割合が算出されてもよい。 Without being limited to this, as shown in FIG. 16, the weight index may be subdivided according to not only the grade but also the type of steel plate. That is, even if the weight ratio of each grade is calculated based on the number of image pieces MG1 of each grade, the type of iron scrap S, and the weight index (a-1 to 6) determined for each grade and type good.
鉄スクラップSの品種は、例えばユーザにより入力されてもよいし、畳込みニューラルネットワーク等の学習済みモデルを用いて判定されてもよい。 The type of iron scrap S may be input by a user, or may be determined using a trained model such as a convolutional neural network.
制御部10は、トラックTの荷台から全ての鉄スクラップSを荷下ろしするまで、吊り具91が鉄スクラップSの集合を持ち上げる度に、上記S31~S42の処理を繰り返す(S43)。全ての鉄スクラップSを荷下ろししたか否かは、例えば検収員A等によって判断され、入力される。
The
トラックTの荷台から全ての鉄スクラップSが荷下ろしされると(S43:YES)、制御部10は、吊り具91が鉄スクラップSの集合を持ち上げる度に算出された等級の重量割合に基づいて、全ての鉄スクラップSについて等級の重量割合を算出する(S44:全体算出部16としての処理)。
When all the iron scraps S have been unloaded from the bed of the truck T (S43: YES), the
具体的には、吊り具91が鉄スクラップSの集合を持ち上げる度に算出された等級の重量割合の平均値を算出することにより、全ての鉄スクラップSについて等級の重量割合が決定される。平均値の算出には、算術平均が用いられてもよいし、重量に応じた加重平均が用いられてもよい。
Specifically, by calculating the average value of the grade weight percentages calculated each time the
その後、制御部10は、トラックTの荷台から荷下ろしされた全ての鉄スクラップSについて算出された等級の重量割合を、判定結果として出力部6,7に送信する(S45)。出力部6,7は、受信した判定結果を表示又は印刷等によって出力する。図17は、判定結果の出力例を示す図である。
After that, the
以上に説明した実施形態によれば、分割された複数の画像片のそれぞれについて等級を判定することで、それぞれの鉄スクラップがより着目され易くなるので、判定精度の向上を図ることが可能となる。 According to the embodiment described above, by determining the grade for each of the plurality of divided image pieces, each iron scrap becomes more likely to be noticed, so that it is possible to improve the determination accuracy. .
特に、分割された複数の画像片のそれぞれの大きさを学習済みモデルに入力可能な大きさに圧縮して、等級を判定するので、鉄スクラップの特徴を確保したまま判定を行うことが可能である。 In particular, the size of each of the divided image pieces is compressed to a size that can be input to the trained model, and the grade is determined, so it is possible to perform the determination while ensuring the characteristics of the iron scrap. be.
以上、本発明の実施形態について説明したが、本発明は以上に説明した実施形態に限定されるものではなく、種々の変更が当業者にとって可能であることはもちろんである。 Although the embodiments of the present invention have been described above, the present invention is not limited to the embodiments described above, and it goes without saying that various modifications can be made by those skilled in the art.
1 推定装置、2 カメラ、3 学習装置、5 記憶装置、6,7 出力部、10 制御部、11 取得部、12 検出部、13 前処理部、14 推定部、15 割合算出部、16 全体算出部、9 クレーン、91 吊り具、100 スクラップ等級判定システム、A 検収員、Y スクラップヤード、S 鉄スクラップ、T スクラップ積載車両、HC 切り出し画像、MG 画像片、C カメラ画像、B 背景画像、CB 背景除去画像
1
Claims (16)
前記吊り具により持ち上げられた前記鉄スクラップの集合を撮影してカメラ画像を生成するカメラと、
前記カメラ画像を複数の画像片に分割する前処理部と、
鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定する推定部と、
前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する割合算出部と、
を備える、スクラップ等級判定システム。 a crane that lifts a set of iron scraps, in which iron scraps of multiple grades according to size are mixed, by a hoisting tool;
a camera for capturing a set of iron scraps lifted by the sling to generate a camera image;
a preprocessing unit that divides the camera image into a plurality of image pieces;
an estimating unit for estimating the grade for each of the plurality of image pieces using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data;
a ratio calculation unit that calculates, based on the grades estimated for each of the plurality of image pieces, the ratio of the grades included in the collection of the iron scraps lifted by the lifting tool;
a scrap grading system.
前記前処理部は、前記吊り具を基準に画定される所定の範囲を前記複数の画像片に分割する、
請求項1に記載のスクラップ等級判定システム。 Further comprising a detection unit that detects the hanging tool in the camera image,
The preprocessing unit divides a predetermined range defined based on the hanging tool into the plurality of image pieces.
The scrap grading system of claim 1.
請求項2に記載のスクラップ等級判定システム。 The preprocessing unit selects an image piece to be input to the trained model from among the plurality of divided image pieces.
3. The scrap grading system of claim 2.
請求項3に記載のスクラップ等級判定システム。 The preprocessing unit selects an image piece located at a predetermined position with respect to the hanging tool from among the plurality of divided image pieces as an image piece to be input to the trained model.
4. The scrap grading system of claim 3.
請求項3または4に記載のスクラップ等級判定システム。 The preprocessing unit selects, from among the plurality of divided image pieces, image pieces in a range that gradually narrows downward from the hanger as image pieces to be input to the trained model.
The scrap grade determination system according to claim 3 or 4.
請求項1ないし5の何れかに記載のスクラップ等級判定システム。 The preprocessing unit changes the size of each of the plurality of image pieces to a size that can be input to the trained model.
A scrap grade determination system according to any one of claims 1 to 5.
請求項1ないし6の何れかに記載のスクラップ等級判定システム。 The ratio calculation unit calculates the number of grades included in the set of iron scraps lifted by the lifting device based on the grade estimated for each of the plurality of image pieces and the weight index determined for each grade. calculate the weight percentage,
A scrap grade determination system according to any one of claims 1 to 6.
請求項1ないし7の何れかに記載のスクラップ等級判定システム。 The ratio calculation unit is configured to calculate, based on the grade estimated for each of the plurality of image pieces, the grade of the iron scrap, and the weight index determined for each grade and grade, the scrap lifted by the lifting tool. Calculating the weight percentage of the grades in the scrap iron collection,
A scrap grade determination system according to any one of claims 1 to 7.
請求項1ないし8の何れかに記載のスクラップ等級判定システム。 The preprocessing unit compares the camera image with a background image taken when there is no collection of the sling and the iron scrap, and uses image pieces with differences as image pieces to be input to the learned model. sort out,
A scrap grade determination system according to any one of claims 1 to 8.
前記吊り具により持ち上げられた前記鉄スクラップの集合をカメラにより撮影してカメラ画像を生成し、
前記カメラ画像を複数の画像片に分割し、
鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定し、
前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する、
スクラップ等級判定方法。 A set of iron scraps mixed with multiple grades of iron scraps according to size is lifted by a crane hoist,
A camera image is generated by photographing the set of iron scraps lifted by the sling with a camera,
dividing the camera image into a plurality of image pieces;
Estimate the grade for each of the plurality of image pieces using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data,
Based on the grades estimated for each of the plurality of image pieces, calculating the percentage of grades included in the set of iron scraps lifted by the lifting tool;
Scrap grade determination method.
前記カメラ画像を複数の画像片に分割する前処理部と、
鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定する推定部と、
前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する割合算出部と、
を備える、推定装置。 an image acquisition unit that acquires a camera image generated by a camera that captures a set of iron scraps that are mixed with multiple grades of iron scraps according to size, lifted by a crane sling;
a preprocessing unit that divides the camera image into a plurality of image pieces;
an estimating unit for estimating the grade for each of the plurality of image pieces using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data;
a ratio calculation unit that calculates, based on the grades estimated for each of the plurality of image pieces, the ratio of the grades included in the collection of the iron scraps lifted by the lifting tool;
An estimator, comprising:
前記カメラ画像を複数の画像片に分割すること、
鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定すること、及び、
前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出すること、
をコンピュータに実行させるプログラム。 Acquiring a camera image generated by a camera photographing a collection of steel scrap mixed with multiple grades of steel scrap according to size, lifted by a crane hoist;
dividing the camera image into a plurality of image pieces;
estimating the grade for each of the plurality of image pieces using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data;
calculating, based on the grades estimated for each of the plurality of image pieces, the percentage of grades included in the set of iron scraps lifted by the hoisting tool;
A program that makes a computer run
前記学習用画像を複数の画像片に分割する前処理部と、
前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得する等級取得部と、
前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成する学習部と、
を備える、学習装置。 an image acquisition unit that acquires learning images generated by a camera that captures a set of iron scraps in which multiple grades of iron scraps according to size are mixed;
a preprocessing unit that divides the learning image into a plurality of image pieces;
a grade obtaining unit that obtains the grade of the iron scrap appearing in each of the plurality of image pieces;
a learning unit that uses machine learning to generate a trained model for estimating the grade of iron scrap appearing in the image, using the image piece as input data and the grade as teacher data;
A learning device comprising:
請求項13に記載の学習装置。 The preprocessing unit identifies and displays representative iron scraps and other iron scraps in each of the plurality of image pieces,
14. A learning device according to claim 13.
前記学習用画像を複数の画像片に分割し、
前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得し、
前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成する、
学習済みモデルの生成方法。 Acquire learning images generated by a camera that captures a collection of iron scraps in which multiple grades of iron scraps according to size are mixed,
dividing the training image into a plurality of image pieces;
Obtaining grades of iron scrap appearing in each of the plurality of image pieces;
Using the image piece as input data and the grade as training data, generating a trained model for estimating the grade of iron scrap appearing in the image by machine learning.
How to generate the trained model.
前記学習用画像を複数の画像片に分割すること、
前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得すること、及び、
前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成すること、
をコンピュータに実行させるプログラム。
Acquiring learning images generated by a camera that captures a set of iron scraps in which multiple grades of iron scraps according to size are mixed,
dividing the training image into a plurality of image pieces;
obtaining a scrap iron grade that appeared in each of the plurality of image pieces; and
Using the image piece as input data and the grade as teacher data, generating a trained model for estimating the grade of iron scrap appearing in the image by machine learning;
A program that makes a computer run
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020060078A JP7311455B2 (en) | 2020-03-30 | 2020-03-30 | Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020060078A JP7311455B2 (en) | 2020-03-30 | 2020-03-30 | Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021157725A JP2021157725A (en) | 2021-10-07 |
JP7311455B2 true JP7311455B2 (en) | 2023-07-19 |
Family
ID=77918567
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020060078A Active JP7311455B2 (en) | 2020-03-30 | 2020-03-30 | Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7311455B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115830008B (en) * | 2023-02-06 | 2023-05-05 | 上海爱梵达云计算有限公司 | Scrap steel waste degree analysis system based on image analysis comparison judgment |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019027696A (en) | 2017-07-31 | 2019-02-21 | 荏原環境プラント株式会社 | Device for estimating kind of waste, system, program, method and data structure |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11268835A (en) * | 1998-03-23 | 1999-10-05 | Nittetsu Osaka Engineering Kk | Cargo collating device |
-
2020
- 2020-03-30 JP JP2020060078A patent/JP7311455B2/en active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019027696A (en) | 2017-07-31 | 2019-02-21 | 荏原環境プラント株式会社 | Device for estimating kind of waste, system, program, method and data structure |
Also Published As
Publication number | Publication date |
---|---|
JP2021157725A (en) | 2021-10-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110717455B (en) | Method for classifying and detecting grades of scrap steel in storage | |
JP6921241B2 (en) | Display screen quality inspection methods, equipment, electronic devices and storage media | |
CN110642109B (en) | Vibration detection method and device for lifting equipment, server and storage medium | |
JP6931402B2 (en) | Display quality detection methods, devices, electronic devices and storage media | |
JP7386681B2 (en) | Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program | |
CN110660074B (en) | Method for establishing steel scrap grade division neural network model | |
JP6856522B2 (en) | Information processing device, control device, information processing method, and information processing program | |
CN109919243A (en) | A kind of scrap iron and steel type automatic identifying method and device based on CNN | |
CN114078126B (en) | Scrap steel grading method and device based on machine learning | |
CN101369315A (en) | Human face detection method | |
JP7311455B2 (en) | Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program | |
CN110422767A (en) | To the method, apparatus and system of suspender positioning | |
CN113033451A (en) | Overhead line fault identification method and system based on deep learning | |
CN116129135A (en) | Tower crane safety early warning method based on small target visual identification and virtual entity mapping | |
CN115512134A (en) | Express item stacking abnormity early warning method, device, equipment and storage medium | |
JP7036296B1 (en) | Scrap discrimination system and scrap discrimination method | |
CN113810605A (en) | Target object processing method and device | |
CN108921841A (en) | Continuous casting of iron and steel base quality determining method, device, equipment and storage medium | |
JP7330864B2 (en) | Scrap image photographing system, scrap image photographing method, photographing support device, and program | |
JP6341550B1 (en) | Construction site image determination device and construction site image determination program | |
CN113361369B (en) | Power field dressing standard detection method based on training sample selection | |
TWI777527B (en) | Waste discrimination system and waste discrimination method | |
CN117157518A (en) | Monitoring system, monitoring method, program, and computer-readable recording medium storing computer program | |
JP7386682B2 (en) | Sealed object detection system, sealed object detection method, estimation device, and program | |
CN116152243B (en) | Method for detecting container loading and unloading operation state based on image analysis |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220802 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230620 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230627 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230706 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7311455 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |