JP7311455B2 - Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program - Google Patents

Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program Download PDF

Info

Publication number
JP7311455B2
JP7311455B2 JP2020060078A JP2020060078A JP7311455B2 JP 7311455 B2 JP7311455 B2 JP 7311455B2 JP 2020060078 A JP2020060078 A JP 2020060078A JP 2020060078 A JP2020060078 A JP 2020060078A JP 7311455 B2 JP7311455 B2 JP 7311455B2
Authority
JP
Japan
Prior art keywords
image
grade
scrap
iron
pieces
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020060078A
Other languages
Japanese (ja)
Other versions
JP2021157725A (en
Inventor
和茂 原田
隆良 多田
欣司 植村
太郎 山内
秀幸 ▲高▼次
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KOBELCO E&M CO., LTD.
Original Assignee
KOBELCO E&M CO., LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KOBELCO E&M CO., LTD. filed Critical KOBELCO E&M CO., LTD.
Priority to JP2020060078A priority Critical patent/JP7311455B2/en
Publication of JP2021157725A publication Critical patent/JP2021157725A/en
Application granted granted Critical
Publication of JP7311455B2 publication Critical patent/JP7311455B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Description

本発明は、スクラップ等級判定システム、スクラップ等級判定方法、推定装置、学習装置、学習済みモデルの生成方法、及びプログラムに関する。 The present invention relates to a scrap grade determination system, a scrap grade determination method, an estimation device, a learning device, a learned model generation method, and a program.

一般に、電炉メーカーのスクラップ受入現場では、リフティングマグネット等の吊り具により鉄スクラップをトラック又は船から持ち上げ、搬送し、スクラップヤードに降ろすところを検収員が観察し、鉄スクラップの等級割合などを判定する。 In general, at the scrap receiving site of an electric furnace manufacturer, an inspection inspector observes the scrap iron scrap being lifted from a truck or ship by a lifting device such as a lifting magnet, transported, and unloaded to the scrap yard, and judges the grade ratio of the iron scrap. .

特開平7-286969号公報JP-A-7-286969

しかしながら、検収員は、安全のために離れた場所から鉄スクラップを目視で確認するため、等級割合の判定精度が十分でない場合がある。また、検収員の経験等に依って判定基準にばらつきが生じることもある。 However, since acceptance inspectors visually check iron scrap from a remote location for safety reasons, there are cases where the accuracy of determining the grade ratio is not sufficient. In addition, the judgment criteria may vary depending on the experience of the inspector.

特に、大きさに応じた等級が定められたヘビー屑と呼ばれる鉄スクラップについては、種々の大きさの鉄スクラップが混在しているため、等級割合の判定が困難である。 In particular, it is difficult to determine the grade ratio of iron scrap called heavy scrap, which is graded according to size, because iron scrap of various sizes coexists.

本発明は、上記課題に鑑みてなされたものであり、その主な目的は、鉄スクラップの等級割合の判定精度を向上させることが可能なスクラップ等級判定システム、スクラップ等級判定方法、推定装置、学習装置、学習済みモデルの生成方法、及びプログラムを提供することにある。 The present invention has been made in view of the above problems, and its main purpose is to provide a scrap grade determination system, a scrap grade determination method, an estimation device, and a learning method capable of improving the determination accuracy of the grade ratio of iron scrap. An object of the present invention is to provide an apparatus, a method for generating a trained model, and a program.

上記課題を解決するため、本発明の一の態様のスクラップ等級判定システムは、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を吊り具により持ち上げるクレーンと、前記吊り具により持ち上げられた前記鉄スクラップの集合を撮影してカメラ画像を生成するカメラと、前記カメラ画像を複数の画像片に分割する前処理部と、鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定する推定部と、前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する割合算出部と、を備える。 In order to solve the above problems, a scrap grade determination system according to one aspect of the present invention includes a crane that lifts a set of iron scraps in which iron scraps of a plurality of grades according to size are mixed by a hoisting tool, and A camera that captures a set of lifted iron scraps to generate a camera image, a preprocessing unit that divides the camera image into a plurality of image pieces, and a machine using the iron scrap image as input data and the grade as training data. an estimating unit for estimating a grade for each of the plurality of image pieces using a trained model generated in advance by learning; and a ratio calculation unit for calculating the ratio of the grades included in the set of iron scraps.

また、本発明の他の態様のスクラップ等級判定方法は、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を、クレーンの吊り具により持ち上げ、前記吊り具により持ち上げられた前記鉄スクラップの集合をカメラにより撮影してカメラ画像を生成し、前記カメラ画像を複数の画像片に分割し、鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定し、前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する。 In another aspect of the present invention, there is provided a method for judging scrap grades, wherein a set of iron scraps in which iron scraps of a plurality of grades according to size are mixed is lifted by a hoisting tool of a crane, and the scraps lifted by the hoisting tool are A set of iron scraps is photographed by a camera to generate a camera image, the camera image is divided into a plurality of image pieces, the image of the iron scrap is input data, and the grade is training data. Using a model, the grade is estimated for each of the plurality of image pieces, and based on the estimated grade for each of the plurality of image pieces, the grade included in the set of iron scraps lifted by the sling. Calculate the percentage.

また、本発明の他の態様の推定装置は、クレーンの吊り具により持ち上げられた、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成されたカメラ画像を取得する画像取得部と、前記カメラ画像を複数の画像片に分割する前処理部と、鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定する推定部と、前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する割合算出部と、を備える。 In addition, the estimating device of another aspect of the present invention is a camera image generated by a camera that captures a set of iron scraps mixed with a plurality of grades of iron scraps according to the size, lifted by a crane sling. , a preprocessing unit that divides the camera image into a plurality of image pieces, and a learned model generated in advance by machine learning using the image of iron scrap as input data and the grade as teacher data, an estimating unit for estimating a grade for each of the plurality of image pieces; and a percentage of the grade included in the set of iron scraps lifted by the sling based on the grade estimated for each of the plurality of image pieces. and a ratio calculation unit that calculates the

また、本発明の他の態様のプログラムは、クレーンの吊り具により持ち上げられた、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成されたカメラ画像を取得すること、前記カメラ画像を複数の画像片に分割すること、鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定すること、及び、前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出すること、をコンピュータに実行させる。 Further, a program according to another aspect of the present invention captures a camera image generated by a camera that captures a set of iron scraps mixed with a plurality of grades of iron scraps according to size, lifted by a crane sling. obtaining, dividing the camera image into a plurality of image pieces, using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data, each of the plurality of image pieces estimating the grade of each of the plurality of image pieces, and calculating the ratio of grades included in the set of iron scraps lifted by the lifting device based on the estimated grade of each of the plurality of image pieces. to execute.

また、本発明の他の態様の学習装置は、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得する画像取得部と、前記学習用画像を複数の画像片に分割する前処理部と、前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得する等級取得部と、前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成する学習部と、を備える。 A learning device according to another aspect of the present invention includes an image acquisition unit that acquires a learning image generated by a camera that captures a set of iron scraps in which iron scraps of a plurality of grades according to size are mixed, a preprocessing unit that divides the learning image into a plurality of image pieces; a grade acquisition unit that acquires grades of iron scrap appearing in each of the plurality of image pieces; As data, a learning unit for generating a trained model for estimating the grade of iron scrap appearing in the image by machine learning.

また、本発明の他の態様の学習済みモデルの生成方法は、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得し、前記学習用画像を複数の画像片に分割し、前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得し、前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成する。 In another aspect of the present invention, there is provided a method of generating a trained model, which acquires a learning image generated by a camera that captures a set of iron scraps in which a plurality of grades of iron scraps according to size are mixed, The learning image is divided into a plurality of image pieces, the grade of iron scrap appearing in each of the plurality of image pieces is acquired, the image pieces are used as input data, the grades are used as training data, and the iron appearing in the image is obtained. A trained model for estimating the grade of scrap is generated by machine learning.

また、本発明の他の態様のプログラムは、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得すること、前記学習用画像を複数の画像片に分割すること、前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得すること、及び、前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成すること、をコンピュータに実行させる。 Further, a program according to another aspect of the present invention acquires a learning image generated by a camera that captures a set of iron scraps in which a plurality of grades of iron scrap according to size are mixed; is divided into a plurality of image pieces, obtaining grades of iron scraps appearing in each of the plurality of image pieces, and using the image pieces as input data and the grades as teacher data, the iron scraps appearing in the image Generating a trained model for estimating the grade of scrap by machine learning.

本発明によれば、鉄スクラップの等級割合の判定精度を向上させることが可能となる。 ADVANTAGE OF THE INVENTION According to this invention, it becomes possible to improve the determination accuracy of the grade ratio of iron scrap.

スクラップ受入現場の例を示す図である。FIG. 2 is a diagram showing an example of a scrap receiving site; スクラップ等級判定システムの構成例を示す図である。It is a figure which shows the structural example of a scrap grade determination system. ヘビー屑の等級及び要件を示す図である。FIG. 1 shows heavy scrap grades and requirements. データセットの例を示す図である。FIG. 4 is a diagram showing an example of a data set; 学習用画像の例を示す図である。FIG. 10 is a diagram showing an example of a learning image; 学習用画像の変形例を示す図である。It is a figure which shows the modification of the image for learning. 学習用画像の変形例を示す図である。It is a figure which shows the modification of the image for learning. 学習フェーズを説明する図である。It is a figure explaining a learning phase. 学習フェーズの手順例を示す図である。It is a figure which shows the procedure example of a learning phase. 機械学習処理の手順例を示す図である。It is a figure which shows the procedure example of a machine-learning process. 推論フェーズを説明する図である。It is a figure explaining an inference phase. 推論フェーズの手順例を示す図である。FIG. 10 is a diagram illustrating an example of the procedure of an inference phase; カメラ画像の例を示す図である。It is a figure which shows the example of a camera image. カメラ画像の前処理の例を示す図である。FIG. 4 is a diagram illustrating an example of preprocessing of camera images; 重量割合の算出例を示す図である。It is a figure which shows the calculation example of a weight ratio. 重量指数の変形例を示す図である。It is a figure which shows the modification of a weight index. 判定結果の出力例を示す図である。It is a figure which shows the output example of a determination result.

以下、本発明の実施形態について、図面を参照しながら説明する。 BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, embodiments of the present invention will be described with reference to the drawings.

[システム概要]
図1は、実施形態に係るスクラップ等級判定システム100が設置されるスクラップ受入現場の例を示す図である。図2は、スクラップ等級判定システム100の構成例を示す図である。スクラップ等級判定システム100は、実施形態に係る推定装置1及び学習装置3を備えている。
[System Overview]
FIG. 1 is a diagram showing an example of a scrap receiving site where a scrap grade determination system 100 according to an embodiment is installed. FIG. 2 is a diagram showing a configuration example of the scrap grade determination system 100. As shown in FIG. A scrap grade determination system 100 includes an estimation device 1 and a learning device 3 according to the embodiment.

スクラップ等級判定システム100は、電炉メーカー等のスクラップ受入現場においてクレーン9の吊り具91により持ち上げられた鉄スクラップSをカメラ2により撮影し、画像から等級割合を判定し、判定結果を出力部6,7に出力するためのシステムである。 The scrap grade determination system 100 uses a camera 2 to photograph iron scrap S lifted by a sling 91 of a crane 9 at a scrap receiving site of an electric furnace manufacturer or the like, determines the grade ratio from the image, and outputs the determination result to the output unit 6, It is a system for outputting to 7.

スクラップ受入現場では、クレーン9の吊り具91により鉄スクラップSがトラックTから持ち上げられ、搬送され、スクラップヤードYに降ろされる。吊り具91は、例えばリフティングマグネットである。これに限らず、吊り具91は、グラブバケット等であってもよい。 At the scrap receiving site, the iron scrap S is lifted from the truck T by the hoist 91 of the crane 9, transported, and lowered to the scrap yard Y. The suspender 91 is, for example, a lifting magnet. The hoisting tool 91 is not limited to this, and may be a grab bucket or the like.

鉄スクラップSには、種々の大きさの鉄スクラップSが混在している。鉄スクラップSは、例えばヘビー屑である。図3に示すように、ヘビー屑には、大きさ(具体的には、厚さ、幅又は高さ、長さ)及び重さに応じた等級(例えばH1~L1)が定められている。 In the iron scrap S, iron scrap S of various sizes are mixed. Iron scrap S is, for example, heavy waste. As shown in FIG. 3, heavy scraps are graded according to size (specifically, thickness, width or height, and length) and weight (for example, H1 to L1).

スプラップ受入現場には、吊り具91により持ち上げられた鉄スクラップSを撮影するカメラ2が設置されている。カメラ2は、動画像を生成するビデオカメラであってもよいし、静止画像を生成するスチルカメラであってもよい。 A camera 2 for photographing the iron scrap S lifted by the lifting tool 91 is installed at the scrap receiving site. The camera 2 may be a video camera that generates moving images, or a still camera that generates still images.

カメラ2は、吊り具91により持ち上げられた鉄スクラップSを互いに異なる角度から撮影するように複数あってもよい。カメラ2は、吊り具91により持ち上げられた鉄スクラップSを側方から水平に又は下方から上方に向かって撮影することが好ましい。 A plurality of cameras 2 may be provided so as to photograph the iron scrap S lifted by the hanging tool 91 from different angles. It is preferable that the camera 2 photographs the iron scrap S lifted by the hanging tool 91 horizontally from the side or upward from the bottom.

なお、スクラップ等級判定システム100は、スクラップ加工会社におけるスクラップ出荷現場に適用されてもよい。スクラップ出荷現場では、クレーン9の吊り具91により鉄スクラップSがスクラップヤードYから持ち上げられ、搬送され、トラックTに積込まれる。 The scrap grade determination system 100 may be applied to a scrap shipping site of a scrap processing company. At the scrap shipping site, the iron scrap S is lifted from the scrap yard Y by the hoist 91 of the crane 9, conveyed, and loaded onto the truck T.

図2に示すように、スクラップ等級判定システム100は、推定装置1、カメラ2、学習装置3、記憶装置5、及び出力部6,7を備えている。これらの機器は、例えばLAN等の通信ネットワークを介して相互にネットワーク通信が可能である。なお、推定装置1と学習装置3は、一体の装置として構成されてもよい。 As shown in FIG. 2, the scrap grade determination system 100 includes an estimation device 1, a camera 2, a learning device 3, a storage device 5, and output units 6,7. These devices are capable of network communication with each other via a communication network such as a LAN. Note that the estimation device 1 and the learning device 3 may be configured as an integrated device.

推定装置1は、制御部10を備えている。制御部10は、CPU、RAM、ROM、不揮発性メモリ、及び入出力インターフェース等を含むコンピュータである。制御部10のCPUは、ROM又は不揮発性メモリからRAMにロードされたプログラムに従って情報処理を実行する。 The estimation device 1 includes a control unit 10 . The control unit 10 is a computer including a CPU, RAM, ROM, nonvolatile memory, an input/output interface, and the like. The CPU of the control unit 10 executes information processing according to a program loaded from the ROM or nonvolatile memory to the RAM.

制御部10は、取得部11、検出部12、前処理部13、推定部14、割合算出部15、及び全体算出部16を備えている。これらの機能部は、制御部10のCPUがROM又は不揮発性メモリからRAMにロードされたプログラムに従って情報処理を実行することによって実現される。 The control unit 10 includes an acquisition unit 11 , a detection unit 12 , a preprocessing unit 13 , an estimation unit 14 , a ratio calculation unit 15 and a total calculation unit 16 . These functional units are realized by the CPU of the control unit 10 executing information processing according to programs loaded from the ROM or nonvolatile memory to the RAM.

プログラムは、例えば光ディスク又はメモリカード等の情報記憶媒体を介して供給されてもよいし、例えばインターネット又はLAN等の通信ネットワークを介して供給されてもよい。 The program may be supplied via an information storage medium such as an optical disk or memory card, or may be supplied via a communication network such as the Internet or LAN.

学習装置3も、推定装置1と同様の制御部30を備えている。制御部30は、取得部31、前処理部32、及び学習部33を備えている。取得部31は、画像取得部及び等級取得部の例である。 The learning device 3 also includes a controller 30 similar to that of the estimation device 1 . The control unit 30 includes an acquisition unit 31 , a preprocessing unit 32 and a learning unit 33 . The acquisition unit 31 is an example of an image acquisition unit and a grade acquisition unit.

推定装置1及び学習装置3は、記憶装置5にアクセス可能である。記憶装置5には、学習装置3により生成された学習済みモデルが、推定装置1により読出し可能に保存されている。 The estimation device 1 and the learning device 3 can access the storage device 5 . The learned model generated by the learning device 3 is stored in the storage device 5 so as to be readable by the estimation device 1 .

カメラ2は、吊り具91に吊り上げられた鉄スクラップSを撮影し、生成したカメラ画像を推定装置1に入力する。推定装置1は、カメラ2により生成されたカメラ画像から鉄スクラップSの等級割合を判定し、判定結果を出力部6,7に送信する。 The camera 2 photographs the iron scrap S hoisted by the hoisting tool 91 and inputs the generated camera image to the estimation device 1 . The estimation device 1 determines the grade ratio of the iron scrap S from the camera image generated by the camera 2 and transmits the determination result to the output units 6 and 7 .

出力部6,7は、推定装置1からの判定結果を出力する。出力部6は、例えば検収員Aが携帯するタブレット型コンピュータ等の端末である。出力部7は、例えば検収書発行用のプリンタである。 Output units 6 and 7 output determination results from the estimation device 1 . The output unit 6 is, for example, a terminal such as a tablet computer carried by the inspector A. FIG. The output unit 7 is, for example, a printer for issuing a receipt.

[学習フェーズ]
図4は、実施形態に係る学習済みモデルの生成方法としての学習フェーズに用いられるデータセットの例を示す図である。学習フェーズに用いられるデータセットは、学習用画像及び等級ラベルを含んでいる。
[Learning phase]
FIG. 4 is a diagram showing an example of a data set used in the learning phase as a method of generating a trained model according to the embodiment. The dataset used in the training phase contains training images and grade labels.

学習用画像及び等級ラベルは、同図に示すようなテーブルにおいて互いに関連付けられて管理されている。学習用画像は、学習モデルへの入力データとして用いられる。等級ラベルは、教師データとして用いられる。 The learning images and grade labels are managed in association with each other in a table as shown in FIG. The training image is used as input data to the learning model. Grade labels are used as teacher data.

等級ラベルは、学習用画像に現れた鉄スクラップの等級を表す。学習用画像に複数の鉄スクラップが現れる場合は、等級ラベルは、それらの中の代表的な鉄スクラップの等級を表す。 The grade label represents the grade of iron scrap that appears in the training images. If multiple scrap iron appears in the training image, the grade label represents the grade of the representative scrap iron among them.

図示の例では、複数の学習用画像のそれぞれに、H1、H2、H3、又はL1の等級が関連付けられている。等級ラベルは、例えば学習用画像を見た検収員等の人によって判断され、入力される。 In the illustrated example, a grade of H1, H2, H3, or L1 is associated with each of the plurality of training images. The grade label is determined and input by, for example, an acceptance inspector who has seen the learning image.

図5は、学習用画像の例を示す図である。本実施形態では、学習用画像は、吊り具91により持ち上げられた鉄スクラップSの集合をカメラ2により撮影したカメラ画像を分割した画像片(メッシュ画像)である。画像片には、鉄スクラップSの一部が現れる。 FIG. 5 is a diagram showing an example of a learning image. In this embodiment, the learning image is an image piece (mesh image) obtained by dividing a camera image of a set of iron scraps S lifted by the hoisting tool 91 by the camera 2 . A part of the iron scrap S appears in the image piece.

カメラ画像から画像片を得るための前処理は、後述する推論フェーズにおける前処理と同様である。すなわち、学習装置3の前処理部32の機能は、推定装置1の前処理部13の機能と同様である。前処理の詳細については後述する。 The preprocessing for obtaining image fragments from camera images is the same as the preprocessing in the inference phase, which will be described later. That is, the function of the preprocessing unit 32 of the learning device 3 is the same as the function of the preprocessing unit 13 of the estimation device 1 . Details of the preprocessing will be described later.

学習用画像としては、上記画像片だけでなく、画像片に分割する前のカメラ画像が用いられてもよいし、他の場所で撮影された1又は複数の鉄スクラップが現れた画像が用いられてもよい。 As the learning image, not only the above-mentioned image pieces, but also camera images before being divided into image pieces may be used, or images in which one or more iron scraps photographed at another location appear may be used. may

なお、図6及び図7に示すように、前処理においては、代表となる鉄スクラップMSとその他の鉄スクラップNSとを識別表示してもよい。これにより、着目すべき鉄スクラップが明示されるので、学習の効率化を図ることが可能となる。 As shown in FIGS. 6 and 7, in the pretreatment, representative iron scrap MS and other iron scrap NS may be identified and displayed. As a result, iron scraps to which attention should be focused are specified, so that learning can be made more efficient.

具体的には、図6に示すように代表となる鉄スクラップMSのみが色塗りされてもよいし、図7に示すように代表となる鉄スクラップMS以外をマスク処理によって除外してもよい。 Specifically, as shown in FIG. 6, only the representative iron scrap MS may be colored, or as shown in FIG. 7, scraps other than the representative iron scrap MS may be excluded by masking.

図8は、学習装置3において実現される学習フェーズを説明する図である。図9は、学習フェーズの手順例を示す図である。図10は、機械学習処理S12の手順例を示す図である。学習装置3の制御部30は、図9及び図10に示す処理をプログラムに従って実行することにより、取得部31、前処理部32、及び学習部33として機能する。 FIG. 8 is a diagram for explaining the learning phase realized by the learning device 3. As shown in FIG. FIG. 9 is a diagram showing an example procedure of the learning phase. FIG. 10 is a diagram showing a procedure example of the machine learning process S12. The control unit 30 of the learning device 3 functions as an acquisition unit 31, a preprocessing unit 32, and a learning unit 33 by executing the processes shown in FIGS. 9 and 10 according to programs.

学習モデルは、例えば畳込みニューラルネットワークであり、畳込み層、プーリング層、全結合層、及び出力層を含んでいる。特には、ニューロンを多段に組み合わせたディープニューラルネットワークが好適である。 A learning model is, for example, a convolutional neural network, and includes a convolutional layer, a pooling layer, a fully connected layer, and an output layer. In particular, a deep neural network in which neurons are combined in multiple stages is suitable.

出力層には、各等級に対応する要素が設けられる。各等級に対応する要素は、例えばソフトマックス関数で構成され、0~1の間の実数で表される出力値を、等級に該当する確率として扱うことができる。 The output layer is provided with elements corresponding to each grade. An element corresponding to each grade is composed of, for example, a softmax function, and an output value represented by a real number between 0 and 1 can be treated as a probability of corresponding to the grade.

層構造は図示の例に限らず、畳込み層、プーリング層、及び全結合層の層数などが異なっていてもよい。また、サポートベクタマシン、ガウス過程、又は決定木等のニューラルネットワーク以外の機械学習が用いられてもよい。 The layer structure is not limited to the illustrated example, and the number of convolution layers, pooling layers, and fully connected layers may be different. Machine learning other than neural networks such as support vector machines, Gaussian processes, or decision trees may also be used.

図9に示すように、学習装置3の制御部30は、まず、多数のデータセットの中から一部のデータセットをトレーニングデータとして抽出し(S11)、抽出したトレーニングデータを用いて機械学習処理を行うことにより、学習済みモデルを生成する(S12:学習部33としての処理)。 As shown in FIG. 9, the control unit 30 of the learning device 3 first extracts some data sets from a large number of data sets as training data (S11), and performs machine learning processing using the extracted training data. (S12: processing by the learning unit 33).

次に、制御部30は、多数のデータセットの中からトレーニングデータとは別の一部のデータセットをテストデータとして抽出し(S13)、抽出したテストデータを用いて学習済みモデルを評価し(S14)。所定以上の評価の学習済みモデルを記憶装置5に保存する(S15)。 Next, the control unit 30 extracts some data sets other than the training data from among the large number of data sets as test data (S13), and evaluates the trained model using the extracted test data ( S14). A trained model with a predetermined evaluation or higher is stored in the storage device 5 (S15).

図10に示すように、機械学習処理S12では、制御部30は、データセットに含まれる学習用画像(本実施形態では画像片)を入力データとして学習モデルに入力し(S21)、学習モデルよる計算を行い(S22)、各等級に該当する確率を出力データとして出力する(S23)。 As shown in FIG. 10, in the machine learning process S12, the control unit 30 inputs learning images (image fragments in this embodiment) included in the data set to the learning model as input data (S21). Calculation is performed (S22), and the probability corresponding to each grade is output as output data (S23).

次に、制御部30は、データセットに含まれる教師データとしての各等級ラベルと、出力データとしての各等級に該当する確率との差分を算出し(S24)、誤差逆伝播計算を行って学習モデルのパラメータを調整する(S25)。等級ラベルは、等級に該当するか否かを0または1の二値で表す。 Next, the control unit 30 calculates the difference between each grade label as teacher data included in the data set and the probability corresponding to each grade as output data (S24), and performs error backpropagation calculation for learning. The parameters of the model are adjusted (S25). The grade label represents a binary value of 0 or 1 as to whether or not it corresponds to the grade.

以上により、画像に現れた鉄スクラップの等級を推定するための学習済みモデルが生成される。 As described above, a trained model for estimating the grade of iron scrap appearing in the image is generated.

[推論フェーズ]
図11は、推定装置1において実現される、実施形態に係るスクラップ等級判定方法としての推論フェーズを説明する図である。図12は、推論フェーズの手順例を示す図である。推定装置1の制御部10は、同図に示す処理をプログラムに従って実行することにより、取得部11、検出部12、前処理部13、推定部14、割合算出部15、及び全体算出部16として機能する。
[Inference phase]
FIG. 11 is a diagram illustrating an inference phase as a scrap grade determination method according to an embodiment, which is implemented in the estimation device 1. FIG. FIG. 12 is a diagram illustrating a procedure example of the inference phase. The control unit 10 of the estimating device 1 executes the processing shown in FIG. Function.

まず、制御部10は、吊り具91により持ち上げられた鉄スクラップSの集合を撮影するカメラ2により生成されたカメラ画像を取得する(S31:取得部11としての処理)。図13は、カメラ画像の例を示す図である。 First, the control unit 10 acquires a camera image generated by the camera 2 that captures a collection of iron scraps S lifted by the hoisting tool 91 (S31: processing performed by the acquisition unit 11). FIG. 13 is a diagram showing an example of a camera image.

次に、制御部10は、カメラ画像中の吊り具91を検出する(S32:検出部12としての機能)。 Next, the control unit 10 detects the hanging tool 91 in the camera image (S32: function as the detection unit 12).

具体的には、制御部10は、例えばYOLO(You Only Look Once)又はSSD(Single Shot MultiBox Detector)等の物体検出モデルを用いて、カメラ画像中の吊り具91の範囲Mを検出する(図13参照)。 Specifically, the control unit 10 uses an object detection model such as YOLO (You Only Look Once) or SSD (Single Shot MultiBox Detector) to detect the range M of the sling 91 in the camera image (Fig. 13).

次に、制御部10は、取得したカメラ画像に対して前処理を行う(S33~S37:前処理部13としての処理)。図14は、カメラ画像に対する前処理の手順例を説明するための図である。 Next, the control unit 10 performs preprocessing on the acquired camera image (S33 to S37: processing as the preprocessing unit 13). FIG. 14 is a diagram for explaining an example of a preprocessing procedure for a camera image.

S33において、制御部10は、吊り具91を基準に画定される所定の大きさの矩形領域をカメラ画像から切り出して、切り出し画像HCを得る(図14(a)参照)。切り出す矩形領域の大きさは、吊り具91により持ち上げられた鉄スクラップSの集合が全て含まれるように予め定められる。 In S33, the control section 10 cuts out a rectangular area of a predetermined size defined on the basis of the sling 91 from the camera image to obtain a cutout image HC (see FIG. 14A). The size of the rectangular area to be cut out is determined in advance so as to include all the set of iron scraps S lifted by the lifting tool 91 .

具体的には、切り出し画像HCの左右端は、吊り具91の左右端よりもやや外側に位置する。切り出し画像HCの横幅は、吊り具91の横幅よりもやや広い。切り出し画像HCの上端は、吊り具91の上端に位置する。切り出し画像HCの下端は、吊り具91の下端から所定の長さだけ下方に位置する。 Specifically, the left and right edges of the clipped image HC are located slightly outside the left and right edges of the hanger 91 . The width of the clipped image HC is slightly wider than the width of the hanger 91 . The upper end of the clipped image HC is positioned at the upper end of the hanger 91 . The lower end of the clipped image HC is located below the lower end of the hanger 91 by a predetermined length.

S34において、制御部10は、切り出し画像HCを複数の画像片(メッシュ画像)MGに区切る(図14(b)参照)。 In S34, the control unit 10 divides the clipped image HC into a plurality of image pieces (mesh images) MG (see FIG. 14(b)).

S35において、等級推定精度向上のため、制御部10は、複数の画像片MGを、等級の推定に使用する画像片MG1と使用しない画像片MG0とに選別する。 In S35, the control unit 10 sorts the plurality of image pieces MG into image pieces MG1 used for class estimation and image pieces MG0 not used for class estimation accuracy.

本実施形態では、制御部10は、複数の画像片MGのうち、吊り具91に対して所定の位置にある画像片91を、等級の推定に使用する画像片MG1として選別する。具体的には、吊り具91により持ち上げられた鉄スクラップSの集合は、下方に向かうに従って徐々に幅が狭まる略逆円錐形状(側面視において略逆三角形状)になることが多いため、吊り具91から下方に向かうに従って徐々に狭まる範囲に属する画像片MGが、等級の推定に使用する画像片MG1として選別される(図14(c)参照)。 In the present embodiment, the control unit 10 selects the image piece 91 at a predetermined position with respect to the hanger 91 from among the plurality of image pieces MG as the image piece MG1 used for estimating the grade. Specifically, since the set of iron scraps S lifted by the hoisting tool 91 often has a substantially inverted cone shape (substantially an inverted triangular shape when viewed from the side) whose width gradually narrows as it goes downward, the hoisting tool The image piece MG belonging to a range that gradually narrows downward from 91 is selected as the image piece MG1 used for grade estimation (see FIG. 14(c)).

そこで、吊り具91から下方に向かうに従って徐々に狭まる範囲に属する画像片MG1を等級の推定に使用し、それ以外の範囲に属する画像片MG0を等級の推定に使用しないことで、鉄スクラップSが現れていない画像片MGが除外されるので、等級判定の精度向上を図ることが可能となる。 Therefore, by using the image piece MG1 belonging to a range that gradually narrows downward from the hanging tool 91 for estimating the grade and not using the image piece MG0 belonging to the other range for estimating the grade, the iron scrap S is Since the image pieces MG that do not appear are excluded, it is possible to improve the accuracy of the grade determination.

これに限らず、制御部10は、吊り具91により持ち上げられた鉄スクラップSの集合を撮影した画像と、吊り具91及び鉄スクラップSの集合が無いときに撮影した背景画像とを比較して、差が有る画像片MGを等級推定に使用する画像片MG1として選別してもよい。 Not limited to this, the control unit 10 compares an image of a set of iron scraps S lifted by the hoisting tool 91 with a background image of an image taken when the hoisting tool 91 and the set of iron scraps S are not present. , the image piece MG with the difference may be selected as the image piece MG1 used for class estimation.

S36において、制御部10は、切り出し画像HCを分割して、等級の推定に使用する複数の画像片MG1を得る。 In S36, the control unit 10 divides the clipped image HC to obtain a plurality of image pieces MG1 used for grade estimation.

S37において、制御部10は、等級の推定に使用する複数の画像片MG1のそれぞれの大きさを、学習済みモデルに入力可能な大きさに変更する。具体的には、複数の画像片MG1のそれぞれの大きさ(例えば450×500画素)が、学習済みモデルに入力可能な大きさ(例えば224×224画素)に圧縮される。 In S37, the control unit 10 changes the size of each of the plurality of image pieces MG1 used for grade estimation to a size that can be input to the trained model. Specifically, the size of each of the plurality of image pieces MG1 (eg, 450×500 pixels) is compressed to a size that can be input to the trained model (eg, 224×224 pixels).

このように、切り出し画像HCを分割した複数の画像片MG1のそれぞれの大きさを、学習済みモデルに入力可能な大きさに圧縮することで、切り出し画像HCを学習済みモデルに入力可能な大きさに直接圧縮する場合と比べて、画像圧縮率を小さくすることができるので、判定精度の向上を図ることが可能となる。 In this way, by compressing the size of each of the plurality of image pieces MG1 obtained by dividing the clipped image HC to a size that can be input to the trained model, the clipped image HC can be input to the trained model. Since the image compression ratio can be reduced compared to the case where the image is directly compressed to , it is possible to improve the determination accuracy.

次に、制御部10は、学習済みモデルを用い、複数の画像片MG1のそれぞれについて等級を推定する(S38~S41:推定部14としての処理)。具体的には、制御部10は、画像片MG1を学習済みモデルに入力し(S38)、学習済みモデルによる計算を行って(S39)、各等級に該当する確率を出力する(S40)。 Next, the control unit 10 uses the learned model to estimate the grade for each of the plurality of image pieces MG1 (S38 to S41: processing by the estimation unit 14). Specifically, the control unit 10 inputs the image piece MG1 to the learned model (S38), performs calculations using the learned model (S39), and outputs the probability of corresponding to each grade (S40).

次に、制御部10は、複数の画像片MG1のそれぞれについて推定された等級に基づいて、吊り具91により持ち上げられた鉄スクラップSの集合に含まれる等級の重量割合を算出する(S42:割合算出部15としての処理)。 Next, the control unit 10 calculates the weight ratio of the grade included in the set of iron scraps S lifted by the hoisting tool 91 based on the grade estimated for each of the plurality of image pieces MG1 (S42: Ratio processing as the calculation unit 15).

具体的には、図15に示すように、等級毎に画像片MG1の数(メッシュ数)を集計し、各等級の画像片MG1の数と、等級毎に定められた重量指数(a~d)とをそれぞれ掛け合わせることで、吊り具91により持ち上げられた鉄スクラップSの集合に含まれる等級の重量割合が算出される。 Specifically, as shown in FIG. 15, the number of image pieces MG1 (the number of meshes) is counted for each grade, and the number of image pieces MG1 for each grade and the weight index (a to d ) are respectively multiplied, the weight ratio of the grade contained in the set of iron scraps S lifted by the lifting tool 91 is calculated.

これに限らず、図16に示すように、重量指数は、等級だけでなく、鋼板などの品種に応じて細分化されてもよい。すなわち、各等級の画像片MG1の数と、鉄スクラップSの品種と、等級及び品種毎に定められた重量指数(a-1~6)とに基づいて、等級の重量割合が算出されてもよい。 Without being limited to this, as shown in FIG. 16, the weight index may be subdivided according to not only the grade but also the type of steel plate. That is, even if the weight ratio of each grade is calculated based on the number of image pieces MG1 of each grade, the type of iron scrap S, and the weight index (a-1 to 6) determined for each grade and type good.

鉄スクラップSの品種は、例えばユーザにより入力されてもよいし、畳込みニューラルネットワーク等の学習済みモデルを用いて判定されてもよい。 The type of iron scrap S may be input by a user, or may be determined using a trained model such as a convolutional neural network.

制御部10は、トラックTの荷台から全ての鉄スクラップSを荷下ろしするまで、吊り具91が鉄スクラップSの集合を持ち上げる度に、上記S31~S42の処理を繰り返す(S43)。全ての鉄スクラップSを荷下ろししたか否かは、例えば検収員A等によって判断され、入力される。 The control unit 10 repeats the processes of S31 to S42 each time the hoisting device 91 lifts a set of iron scraps S until all the iron scraps S are unloaded from the bed of the truck T (S43). Whether or not all iron scrap S has been unloaded is determined by, for example, inspection staff A, and is input.

トラックTの荷台から全ての鉄スクラップSが荷下ろしされると(S43:YES)、制御部10は、吊り具91が鉄スクラップSの集合を持ち上げる度に算出された等級の重量割合に基づいて、全ての鉄スクラップSについて等級の重量割合を算出する(S44:全体算出部16としての処理)。 When all the iron scraps S have been unloaded from the bed of the truck T (S43: YES), the control unit 10 controls the grade weight ratio calculated each time the sling 91 lifts a set of iron scraps S. , the weight ratio of the grade is calculated for all the iron scraps S (S44: processing as the total calculation unit 16).

具体的には、吊り具91が鉄スクラップSの集合を持ち上げる度に算出された等級の重量割合の平均値を算出することにより、全ての鉄スクラップSについて等級の重量割合が決定される。平均値の算出には、算術平均が用いられてもよいし、重量に応じた加重平均が用いられてもよい。 Specifically, by calculating the average value of the grade weight percentages calculated each time the hoisting tool 91 lifts a set of iron scraps S, the grade weight percentages for all the iron scraps S are determined. An arithmetic average may be used to calculate the average value, or a weighted average according to weight may be used.

その後、制御部10は、トラックTの荷台から荷下ろしされた全ての鉄スクラップSについて算出された等級の重量割合を、判定結果として出力部6,7に送信する(S45)。出力部6,7は、受信した判定結果を表示又は印刷等によって出力する。図17は、判定結果の出力例を示す図である。 After that, the control unit 10 transmits the weight ratio of the grade calculated for all the iron scrap S unloaded from the truck T to the output units 6 and 7 as the determination result (S45). The output units 6 and 7 output the received determination results by displaying, printing, or the like. FIG. 17 is a diagram illustrating an output example of determination results.

以上に説明した実施形態によれば、分割された複数の画像片のそれぞれについて等級を判定することで、それぞれの鉄スクラップがより着目され易くなるので、判定精度の向上を図ることが可能となる。 According to the embodiment described above, by determining the grade for each of the plurality of divided image pieces, each iron scrap becomes more likely to be noticed, so that it is possible to improve the determination accuracy. .

特に、分割された複数の画像片のそれぞれの大きさを学習済みモデルに入力可能な大きさに圧縮して、等級を判定するので、鉄スクラップの特徴を確保したまま判定を行うことが可能である。 In particular, the size of each of the divided image pieces is compressed to a size that can be input to the trained model, and the grade is determined, so it is possible to perform the determination while ensuring the characteristics of the iron scrap. be.

以上、本発明の実施形態について説明したが、本発明は以上に説明した実施形態に限定されるものではなく、種々の変更が当業者にとって可能であることはもちろんである。 Although the embodiments of the present invention have been described above, the present invention is not limited to the embodiments described above, and it goes without saying that various modifications can be made by those skilled in the art.

1 推定装置、2 カメラ、3 学習装置、5 記憶装置、6,7 出力部、10 制御部、11 取得部、12 検出部、13 前処理部、14 推定部、15 割合算出部、16 全体算出部、9 クレーン、91 吊り具、100 スクラップ等級判定システム、A 検収員、Y スクラップヤード、S 鉄スクラップ、T スクラップ積載車両、HC 切り出し画像、MG 画像片、C カメラ画像、B 背景画像、CB 背景除去画像

1 estimation device 2 camera 3 learning device 5 storage device 6, 7 output unit 10 control unit 11 acquisition unit 12 detection unit 13 preprocessing unit 14 estimation unit 15 ratio calculation unit 16 overall calculation Part, 9 Crane, 91 Lifting tool, 100 Scrap grade determination system, A Inspection staff, Y Scrap yard, S Steel scrap, T Scrap loading vehicle, HC Clipped image, MG Image fragment, C Camera image, B Background image, CB Background Removed image

Claims (16)

大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を吊り具により持ち上げるクレーンと、
前記吊り具により持ち上げられた前記鉄スクラップの集合を撮影してカメラ画像を生成するカメラと、
前記カメラ画像を複数の画像片に分割する前処理部と、
鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定する推定部と、
前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する割合算出部と、
を備える、スクラップ等級判定システム。
a crane that lifts a set of iron scraps, in which iron scraps of multiple grades according to size are mixed, by a hoisting tool;
a camera for capturing a set of iron scraps lifted by the sling to generate a camera image;
a preprocessing unit that divides the camera image into a plurality of image pieces;
an estimating unit for estimating the grade for each of the plurality of image pieces using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data;
a ratio calculation unit that calculates, based on the grades estimated for each of the plurality of image pieces, the ratio of the grades included in the collection of the iron scraps lifted by the lifting tool;
a scrap grading system.
前記カメラ画像中の前記吊り具を検出する検出部をさらに備え、
前記前処理部は、前記吊り具を基準に画定される所定の範囲を前記複数の画像片に分割する、
請求項1に記載のスクラップ等級判定システム。
Further comprising a detection unit that detects the hanging tool in the camera image,
The preprocessing unit divides a predetermined range defined based on the hanging tool into the plurality of image pieces.
The scrap grading system of claim 1.
前記前処理部は、分割された前記複数の画像片の中から、前記学習済みモデルに入力する画像片を選別する、
請求項2に記載のスクラップ等級判定システム。
The preprocessing unit selects an image piece to be input to the trained model from among the plurality of divided image pieces.
3. The scrap grading system of claim 2.
前記前処理部は、分割された前記複数の画像片のうち、前記吊り具に対して所定の位置にある画像片を、前記学習済みモデルに入力する画像片として選別する、
請求項3に記載のスクラップ等級判定システム。
The preprocessing unit selects an image piece located at a predetermined position with respect to the hanging tool from among the plurality of divided image pieces as an image piece to be input to the trained model.
4. The scrap grading system of claim 3.
前記前処理部は、分割された前記複数の画像片のうち、前記吊り具から下方に向かうに従って徐々に狭まる範囲にある画像片を、前記学習済みモデルに入力する画像片として選別する、
請求項3または4に記載のスクラップ等級判定システム。
The preprocessing unit selects, from among the plurality of divided image pieces, image pieces in a range that gradually narrows downward from the hanger as image pieces to be input to the trained model.
The scrap grade determination system according to claim 3 or 4.
前記前処理部は、前記複数の画像片のそれぞれの大きさを、前記学習済みモデルに入力可能な大きさに変更する、
請求項1ないし5の何れかに記載のスクラップ等級判定システム。
The preprocessing unit changes the size of each of the plurality of image pieces to a size that can be input to the trained model.
A scrap grade determination system according to any one of claims 1 to 5.
前記割合算出部は、前記複数の画像片のそれぞれについて推定された等級と、等級毎に定められた重量指数とに基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の重量割合を算出する、
請求項1ないし6の何れかに記載のスクラップ等級判定システム。
The ratio calculation unit calculates the number of grades included in the set of iron scraps lifted by the lifting device based on the grade estimated for each of the plurality of image pieces and the weight index determined for each grade. calculate the weight percentage,
A scrap grade determination system according to any one of claims 1 to 6.
前記割合算出部は、前記複数の画像片のそれぞれについて推定された等級と、前記鉄スクラップの品種と、等級及び品種毎に定められた重量指数とに基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の重量割合を算出する、
請求項1ないし7の何れかに記載のスクラップ等級判定システム。
The ratio calculation unit is configured to calculate, based on the grade estimated for each of the plurality of image pieces, the grade of the iron scrap, and the weight index determined for each grade and grade, the scrap lifted by the lifting tool. Calculating the weight percentage of the grades in the scrap iron collection,
A scrap grade determination system according to any one of claims 1 to 7.
前記前処理部は、前記カメラ画像と、前記吊り具及び前記鉄スクラップの集合が無いときに撮影した背景画像とを比較して、差が有る画像片を前記学習済みモデルに入力する画像片として選別する、
請求項1ないし8の何れかに記載のスクラップ等級判定システム。
The preprocessing unit compares the camera image with a background image taken when there is no collection of the sling and the iron scrap, and uses image pieces with differences as image pieces to be input to the learned model. sort out,
A scrap grade determination system according to any one of claims 1 to 8.
大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を、クレーンの吊り具により持ち上げ、
前記吊り具により持ち上げられた前記鉄スクラップの集合をカメラにより撮影してカメラ画像を生成し、
前記カメラ画像を複数の画像片に分割し、
鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定し、
前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する、
スクラップ等級判定方法。
A set of iron scraps mixed with multiple grades of iron scraps according to size is lifted by a crane hoist,
A camera image is generated by photographing the set of iron scraps lifted by the sling with a camera,
dividing the camera image into a plurality of image pieces;
Estimate the grade for each of the plurality of image pieces using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data,
Based on the grades estimated for each of the plurality of image pieces, calculating the percentage of grades included in the set of iron scraps lifted by the lifting tool;
Scrap grade determination method.
クレーンの吊り具により持ち上げられた、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成されたカメラ画像を取得する画像取得部と、
前記カメラ画像を複数の画像片に分割する前処理部と、
鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定する推定部と、
前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出する割合算出部と、
を備える、推定装置。
an image acquisition unit that acquires a camera image generated by a camera that captures a set of iron scraps that are mixed with multiple grades of iron scraps according to size, lifted by a crane sling;
a preprocessing unit that divides the camera image into a plurality of image pieces;
an estimating unit for estimating the grade for each of the plurality of image pieces using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data;
a ratio calculation unit that calculates, based on the grades estimated for each of the plurality of image pieces, the ratio of the grades included in the collection of the iron scraps lifted by the lifting tool;
An estimator, comprising:
クレーンの吊り具により持ち上げられた、大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成されたカメラ画像を取得すること、
前記カメラ画像を複数の画像片に分割すること、
鉄スクラップの画像を入力データ、等級を教師データとして機械学習により予め生成された学習済みモデルを用い、前記複数の画像片のそれぞれについて等級を推定すること、及び、
前記複数の画像片のそれぞれについて推定された等級に基づいて、前記吊り具により持ち上げられた前記鉄スクラップの集合に含まれる等級の割合を算出すること、
をコンピュータに実行させるプログラム。
Acquiring a camera image generated by a camera photographing a collection of steel scrap mixed with multiple grades of steel scrap according to size, lifted by a crane hoist;
dividing the camera image into a plurality of image pieces;
estimating the grade for each of the plurality of image pieces using a trained model generated in advance by machine learning with the image of iron scrap as input data and the grade as teacher data;
calculating, based on the grades estimated for each of the plurality of image pieces, the percentage of grades included in the set of iron scraps lifted by the hoisting tool;
A program that makes a computer run
大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得する画像取得部と、
前記学習用画像を複数の画像片に分割する前処理部と、
前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得する等級取得部と、
前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成する学習部と、
を備える、学習装置。
an image acquisition unit that acquires learning images generated by a camera that captures a set of iron scraps in which multiple grades of iron scraps according to size are mixed;
a preprocessing unit that divides the learning image into a plurality of image pieces;
a grade obtaining unit that obtains the grade of the iron scrap appearing in each of the plurality of image pieces;
a learning unit that uses machine learning to generate a trained model for estimating the grade of iron scrap appearing in the image, using the image piece as input data and the grade as teacher data;
A learning device comprising:
前記前処理部は、前記複数の画像片のそれぞれにおいて、代表となる鉄スクラップとその他の鉄スクラップとを識別表示する、
請求項13に記載の学習装置。
The preprocessing unit identifies and displays representative iron scraps and other iron scraps in each of the plurality of image pieces,
14. A learning device according to claim 13.
大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得し、
前記学習用画像を複数の画像片に分割し、
前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得し、
前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成する、
学習済みモデルの生成方法。
Acquire learning images generated by a camera that captures a collection of iron scraps in which multiple grades of iron scraps according to size are mixed,
dividing the training image into a plurality of image pieces;
Obtaining grades of iron scrap appearing in each of the plurality of image pieces;
Using the image piece as input data and the grade as training data, generating a trained model for estimating the grade of iron scrap appearing in the image by machine learning.
How to generate the trained model.
大きさに応じた複数の等級の鉄スクラップが混在した鉄スクラップの集合を撮影するカメラにより生成された学習用画像を取得すること、
前記学習用画像を複数の画像片に分割すること、
前記複数の画像片のそれぞれに現れた鉄スクラップの等級を取得すること、及び、
前記画像片を入力データ、前記等級を教師データとして、画像に現れた鉄スクラップの等級を推定するための学習済みモデルを機械学習により生成すること、
をコンピュータに実行させるプログラム。

Acquiring learning images generated by a camera that captures a set of iron scraps in which multiple grades of iron scraps according to size are mixed,
dividing the training image into a plurality of image pieces;
obtaining a scrap iron grade that appeared in each of the plurality of image pieces; and
Using the image piece as input data and the grade as teacher data, generating a trained model for estimating the grade of iron scrap appearing in the image by machine learning;
A program that makes a computer run

JP2020060078A 2020-03-30 2020-03-30 Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program Active JP7311455B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020060078A JP7311455B2 (en) 2020-03-30 2020-03-30 Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020060078A JP7311455B2 (en) 2020-03-30 2020-03-30 Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program

Publications (2)

Publication Number Publication Date
JP2021157725A JP2021157725A (en) 2021-10-07
JP7311455B2 true JP7311455B2 (en) 2023-07-19

Family

ID=77918567

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020060078A Active JP7311455B2 (en) 2020-03-30 2020-03-30 Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program

Country Status (1)

Country Link
JP (1) JP7311455B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115830008B (en) * 2023-02-06 2023-05-05 上海爱梵达云计算有限公司 Scrap steel waste degree analysis system based on image analysis comparison judgment

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019027696A (en) 2017-07-31 2019-02-21 荏原環境プラント株式会社 Device for estimating kind of waste, system, program, method and data structure

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11268835A (en) * 1998-03-23 1999-10-05 Nittetsu Osaka Engineering Kk Cargo collating device

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019027696A (en) 2017-07-31 2019-02-21 荏原環境プラント株式会社 Device for estimating kind of waste, system, program, method and data structure

Also Published As

Publication number Publication date
JP2021157725A (en) 2021-10-07

Similar Documents

Publication Publication Date Title
CN110717455B (en) Method for classifying and detecting grades of scrap steel in storage
JP6921241B2 (en) Display screen quality inspection methods, equipment, electronic devices and storage media
CN110642109B (en) Vibration detection method and device for lifting equipment, server and storage medium
JP6931402B2 (en) Display quality detection methods, devices, electronic devices and storage media
JP7386681B2 (en) Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program
CN110660074B (en) Method for establishing steel scrap grade division neural network model
JP6856522B2 (en) Information processing device, control device, information processing method, and information processing program
CN109919243A (en) A kind of scrap iron and steel type automatic identifying method and device based on CNN
CN114078126B (en) Scrap steel grading method and device based on machine learning
CN101369315A (en) Human face detection method
JP7311455B2 (en) Scrap grade determination system, scrap grade determination method, estimation device, learning device, learned model generation method, and program
CN110422767A (en) To the method, apparatus and system of suspender positioning
CN113033451A (en) Overhead line fault identification method and system based on deep learning
CN116129135A (en) Tower crane safety early warning method based on small target visual identification and virtual entity mapping
CN115512134A (en) Express item stacking abnormity early warning method, device, equipment and storage medium
JP7036296B1 (en) Scrap discrimination system and scrap discrimination method
CN113810605A (en) Target object processing method and device
CN108921841A (en) Continuous casting of iron and steel base quality determining method, device, equipment and storage medium
JP7330864B2 (en) Scrap image photographing system, scrap image photographing method, photographing support device, and program
JP6341550B1 (en) Construction site image determination device and construction site image determination program
CN113361369B (en) Power field dressing standard detection method based on training sample selection
TWI777527B (en) Waste discrimination system and waste discrimination method
CN117157518A (en) Monitoring system, monitoring method, program, and computer-readable recording medium storing computer program
JP7386682B2 (en) Sealed object detection system, sealed object detection method, estimation device, and program
CN116152243B (en) Method for detecting container loading and unloading operation state based on image analysis

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220802

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230620

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230706

R150 Certificate of patent or registration of utility model

Ref document number: 7311455

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150