JP7085952B2 - Change rate estimation device, change rate estimation method, state estimation device and state estimation method - Google Patents
Change rate estimation device, change rate estimation method, state estimation device and state estimation method Download PDFInfo
- Publication number
- JP7085952B2 JP7085952B2 JP2018167813A JP2018167813A JP7085952B2 JP 7085952 B2 JP7085952 B2 JP 7085952B2 JP 2018167813 A JP2018167813 A JP 2018167813A JP 2018167813 A JP2018167813 A JP 2018167813A JP 7085952 B2 JP7085952 B2 JP 7085952B2
- Authority
- JP
- Japan
- Prior art keywords
- rate
- change
- rice
- target rice
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Investigating Or Analysing Materials By Optical Means (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
本発明は、対象米に関する情報を推定する変化率推定装置及び変化率推定方法に関し、また、推定した情報を基に、対象米の比重、密度又は吸水率を算出して対象米の状態を推定する状態推定装置及び状態推定方法に関する。 The present invention relates to a rate of change estimation device and a method of estimating the rate of change for estimating information about the target rice, and also calculates the specific gravity, density or water absorption rate of the target rice based on the estimated information to estimate the state of the target rice. The present invention relates to a state estimation device and a state estimation method.
例えば、酒造において、精米工程や吸水工程、蒸工程といった原料米に対する加工工程は、その後の醸造工程を左右する重要なプロセスである。大吟醸酒などの製造をする際の吸水工程では、原料米が吸水し過ぎないよう浸漬時間を短縮して原料米の吸水を制限する、いわゆる限定吸水という作業を行うことがあり、この限定吸水では1%単位での吸水率の調整が求められることから、製造する酒類の品質向上を図る上では、原料米の吸水状態をリアルタイムで詳細に把握することが極めて重要となる。 For example, in sake brewing, the processing process for raw rice such as the rice milling process, the water absorption process, and the steaming process is an important process that influences the subsequent brewing process. In the water absorption process when manufacturing Daiginjo Sake, etc., there is a case where the so-called limited water absorption is performed by shortening the soaking time so that the raw rice does not absorb too much water and limiting the water absorption of the raw rice. Since it is required to adjust the water absorption rate in units of 1%, it is extremely important to grasp the water absorption state of the raw rice in real time in order to improve the quality of the liquor produced.
原料米の吸水変化は、原料米の状態(品種や精米歩合、含水率など)や浸漬条件(時間や温度、濃度など)により大きく変化することが知られており、従来、このような原料米の吸水変化を評価する手法としては、浸漬前後の原料米の重量を計量機で計測し、浸漬前後の重量差から吸水量を計算する手法が一般的であった。しかしながら、このような手法では、吸水量の経時変化や吸水分布などを正確に把握することができない。そのため、実際の酒造現場では、目視により原料米の色や形状の変化から吸水分布を推測し、上述した吸水量の計算結果と合わせて吸水変化を推測しており、原料米の吸水状態を客観的にリアルタイムで評価可能な手法の開発が求められていた。 It is known that the change in water absorption of raw rice varies greatly depending on the condition of the raw rice (variety, rice polishing rate, water content, etc.) and immersion conditions (time, temperature, concentration, etc.). As a method for evaluating the change in water absorption of rice, a method of measuring the weight of raw rice before and after immersion with a weighing machine and calculating the amount of water absorption from the difference in weight before and after immersion was common. However, with such a method, it is not possible to accurately grasp the change over time in the amount of water absorption and the distribution of water absorption. Therefore, at the actual brewing site, the water absorption distribution is estimated visually from the change in the color and shape of the raw rice, and the water absorption change is estimated together with the above-mentioned calculation result of the water absorption amount, and the water absorption state of the raw rice is objectively viewed. There was a need to develop a method that could be evaluated in real time.
ところで、本願出願人は、画像観察により炊飯対象米の吸水量や吸水分布などを判定する手法として、特許文献1記載の含水状態判定方法を提案している。この含水状態判定方法によれば、水に浸漬した状態に配置された炊飯対象米を光学的に監視して、炊飯対象米の含水率に関する含水率関連情報を経時的に測定することができるため、含水率関連情報を基に炊飯対象米の吸水量や吸水分布を評価することが可能となる。具体的には、炊飯対象米の吸水に伴う当該炊飯対象米の大きさの変化を経時的に測定して、吸水前の炊飯対象米の大きさに対して、吸水後の炊飯対象米の大きさが変化(膨張)した比率を膨張率とすることができるので、この膨張率を基にして炊飯対象米の吸水量や吸水分布を評価することができる。
By the way, the applicant of the present application has proposed the method for determining the water content state described in
上記特許文献1記載の含水状態判定方法によれば、炊飯対象米の吸水量や吸水分布(吸水状態)を評価することができる。しかしながら、米の吸水状態は米の品種によって大きく変わるものであり、炊飯対象米は、吸水によって主に鉛直方向に直交する方向に膨張するのに対し、酒造対象米は、吸水によって鉛直方向に直交する方向だけでなく、鉛直方向にも膨張する。したがって、上記特許文献1記載の含水状態判定方法を用いた場合、例えば、水に浸漬した状態に配置された炊飯対象米を鉛直方向上方から光学的に監視するだけでは、鉛直方向に直交する方向への膨張の度合いを知ることはできても、鉛直方向への膨張の度合いを知ることができない。そのため、上記特許文献1記載の含水状態判定方法を使用して、鉛直方向へ膨張する米(例えば、酒造対象米)の含水状態を評価した場合、含水率関連情報は鉛直方向への膨張が反映されないため、測定した含水率関連情報と実際の酒造対象米の含水率との間にズレが生じて、結果的に、酒造対象米の吸水状態を正確に評価することができない。
According to the water content determination method described in
つまり、米の品種等を問わずに米の吸水状態を精度よく評価する上では、評価対象である米の2次元方向における形状の変化率(2次元形状の変化率)だけを基に考えたのでは不十分であり、2次元方向と直交する方向における形状の変化率や、3次元方向における形状の変化率(3次元形状の変化率)を考慮することが肝要である。 In other words, in order to accurately evaluate the water absorption state of rice regardless of the type of rice, we considered only the rate of change in shape of the rice to be evaluated in the two-dimensional direction (rate of change in two-dimensional shape). Is insufficient, and it is important to consider the rate of change in shape in the direction orthogonal to the two-dimensional direction and the rate of change in shape in the three-dimensional direction (rate of change in three-dimensional shape).
上記特許文献1記載の含水状態判定方法を用いて、鉛直方向と直交する方向からも米を光学的に監視するようにすれば、鉛直方向における形状の変化率や、3次元形状の変化率を得ることができると考えられるが、この場合、米を光学的に監視するための装置(対象米に光を照射する照明装置や対象米からの透過光を撮像するカメラ装置など)を各方向ごとに設ける必要があるため、装置構成が複雑となり、装置コストも嵩むという懸念がある。
If the rice is optically monitored from the direction orthogonal to the vertical direction by using the water-containing state determination method described in
また、上記2次元方向と直交する方向における形状の変化率や3次元形状の変化率は、米の吸水状態の評価に利用できるだけでなく、例えば、上記2次元方向と直交する方向(米の厚み方向)における形状の変化率や3次元形状の変化率を基に米の比重を算出すれば、心白の状態を評価することも可能になるなど、米の2次元方向と直交する方向における形状の変化率や米の3次元形状の変化率を求める利点は多く、これらを容易に求めることができる手法の開発が求められているという実情もある。 Further, the rate of change in shape and the rate of change in three-dimensional shape in a direction orthogonal to the two-dimensional direction can be used not only for evaluation of the water absorption state of rice, but also in a direction orthogonal to the two-dimensional direction (thickness of rice), for example. If the specific gravity of rice is calculated based on the rate of change of the shape in the direction) and the rate of change of the three-dimensional shape, it is possible to evaluate the state of the white heart, and the shape in the direction orthogonal to the two-dimensional direction of the rice. There are many advantages to finding the rate of change in rice and the rate of change in the three-dimensional shape of rice, and there is also a need to develop a method that can easily find these.
本発明は以上の実情に鑑みなされたものであり、複雑な構成の装置を要することなく、米の厚み方向における形状の変化率を容易に求める、或いは、米の2次元形状の変化率を補正することによって容易に3次元形状の変化率を求めることができる変化率推定装置及び変化率推定方法の提供、並びに、上記2次元方向と直交する方向における形状の変化率や3次元形状の変化率を基に、米の比重、密度又は吸水率を容易に推定することができる状態推定装置及び状態推定方法の提供を、その目的とする。 The present invention has been made in view of the above circumstances, and it is possible to easily obtain the rate of change in shape in the thickness direction of rice without requiring a device having a complicated configuration, or to correct the rate of change in the two-dimensional shape of rice. By providing a change rate estimation device and a change rate estimation method that can easily obtain the change rate of the three-dimensional shape, the change rate of the shape and the change rate of the three-dimensional shape in the direction orthogonal to the two-dimensional direction are provided. It is an object of the present invention to provide a state estimation device and a state estimation method capable of easily estimating the specific gravity, density or water absorption rate of rice based on the above.
上記目的を達成するための本発明に係る変化率推定装置の特徴構成は、
水に浸漬した状態の対象米を撮影する撮影手段と、
前記撮影手段で撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像データを取得する画像データ取得手段と、
前記画像データ取得手段で取得された2次元画像データを参照して、当該2次元画像データを解析し、複数の対象米のうち、前記対象米の長軸方向に沿う縦断面が開いた縦割れが発生している対象米の割合である縦割れ率を算出する割れ率算出手段と、
前記縦割れ率を前記割れ率算出手段から取得し、前記縦割れ率、及び予め定められた前記対象米の縦割れ率と前記厚み方向における形状の変化率との相関関係を基に、前記対象米の、前記厚み方向における形状の変化率を推定する推定手段とを備える点にある。
また、上記目的を達成するための本発明に係る変化率推定方法の特徴構成は、
水に浸漬した状態の対象米を撮影する撮影工程と、
前記撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像を基に、複数の対象米のうち、前記対象米の長軸方向に沿う縦断面が開いた縦割れが発生している対象米の割合である縦割れ率を算出する割れ率算出工程と、
前記算出した縦割れ率、及び予め定められた前記対象米の縦割れ率と前記厚み方向における形状の変化率との相関関係を基に、前記対象米の、前記厚み方向における形状の変化率を推定する推定工程とを実行する点にある。
The characteristic configuration of the rate of change estimation device according to the present invention for achieving the above object is
Photographing means for photographing the target rice in a state of being immersed in water,
An image data acquisition means for acquiring two-dimensional image data of the target rice photographed by the photographing means and viewing the target rice from the thickness direction.
With reference to the two-dimensional image data acquired by the image data acquisition means, the two-dimensional image data is analyzed, and among a plurality of target rice, a vertical crack in which a vertical cross section along the long axis direction of the target rice is opened. A crack rate calculation means for calculating the vertical crack rate, which is the ratio of the target rice in which
The vertical cracking rate is obtained from the cracking rate calculating means, and the target is based on the vertical cracking rate and the predetermined correlation between the vertical cracking rate of the target rice and the rate of change in shape in the thickness direction. The point is that it is provided with an estimation means for estimating the rate of change in the shape of rice in the thickness direction.
In addition, the characteristic configuration of the rate of change estimation method according to the present invention for achieving the above object is
The shooting process of shooting the target rice soaked in water,
Based on the two-dimensional image of the target rice taken and viewed from the thickness direction, vertical cracks with an open vertical cross section along the long axis direction of the target rice occur among a plurality of target rice. The crack rate calculation process that calculates the vertical crack rate, which is the ratio of the target rice,
Based on the calculated vertical cracking rate and the predetermined correlation between the vertical cracking rate of the target rice and the shape change rate in the thickness direction, the change rate of the shape of the target rice in the thickness direction is determined. The point is to execute the estimation process to be estimated.
ここで、本願発明者は、米の吸水率や吸水分布を画像観察により判定する手法について研究する過程で、水に浸漬した状態の米の割れ方が米によって異なり、米の割れ方によって吸水率や吸水状態、言い換えれば、米の3次元形状の変化率に違いがあることを発見した。割れ方の判断方法としては、目視で判断する方法もあるが、刻一刻と変化する米の割れ方を客観的に数値として記録することは困難である。そこで、本願発明者らは鋭意研究を重ね、その結果、2次元画像データについて人工知能を利用した自動解析を行って米の割れ方を数値化することに成功し、更に、対象米のうち縦割れが発生している対象米の割合が、対象米の厚み方向における形状の変化率と相関関係があるという新たな知見を得た。 Here, in the process of studying a method for determining the water absorption rate and water absorption distribution of rice by observing an image, the inventor of the present application differs in the cracking method of rice in a state of being immersed in water depending on the rice, and the water absorption rate depends on the cracking method of rice. It was discovered that there is a difference in the state of water absorption, in other words, the rate of change in the three-dimensional shape of rice. As a method of determining the cracking method, there is a method of visually determining the cracking method, but it is difficult to objectively record the cracking method of rice, which changes from moment to moment, as a numerical value. Therefore, the inventors of the present application repeated diligent research, and as a result, succeeded in quantifying how the rice cracked by performing automatic analysis using artificial intelligence on the two-dimensional image data, and further, vertical among the target rice. We obtained new findings that the proportion of target rice with cracks correlates with the rate of change in shape of the target rice in the thickness direction.
本発明に係る変化率推定装置及び変化率推定方法は、かかる知見に基づいてなされたものであり、上記特徴構成においては、まず、水に浸漬した状態の対象米の、厚み方向から視た2次元画像を撮影手段によって撮影し、ついで、撮影手段が撮影した2次元画像データを画像データ取得手段が取得する。次に、割れ率算出手段は、2次元画像データを参照して当該2次元画像データを解析し、複数の対象米のうち、縦割れが発生している対象米の割合である縦割れ率を算出する。
The rate of change estimation device and the method for estimating the rate of change according to the present invention were made based on such findings. In the above characteristic configuration, first, the target rice in a state of being immersed in water was viewed from the
しかる後、推定手段は、縦割れ率を取得し、縦割れ率、及び、予め定められた対象米の縦割れ率と厚み方向における形状の変化率との相関関係を基にして、対象米の厚み方向における形状の変化率を推定する。 After that, the estimation means obtains the vertical cracking rate, and based on the vertical cracking rate and the correlation between the predetermined vertical cracking rate of the target rice and the rate of change in shape in the thickness direction, the target rice is used. Estimate the rate of change in shape in the thickness direction.
このように、上記特徴構成によれば、対象米の厚み方向における形状の変化率と相関関係を有する縦割れ率を算出し、縦割れ率、及び上記相関関係を基に、対象米の厚み方向における形状の変化率を推定することができるため、従来のように厚み方向と直交する方向から対象米を光学的に監視することなく、当該対象米の厚み方向における形状の変化率を容易に求めることができる。よって、求めた厚み方向における形状の変化率を基にして、例えば、対象米の吸水状態や対象米の心白の状態などを評価することができるようになる。 As described above, according to the above characteristic configuration, the vertical cracking rate having a correlation with the rate of change in shape in the thickness direction of the target rice is calculated, and the vertical cracking rate and the vertical cracking rate in the thickness direction of the target rice are based on the above correlation. Since the rate of change in shape in the rice can be estimated, the rate of change in shape of the target rice in the thickness direction can be easily obtained without optically monitoring the target rice from the direction orthogonal to the thickness direction as in the conventional case. be able to. Therefore, it becomes possible to evaluate, for example, the water absorption state of the target rice and the state of whiteness of the target rice based on the obtained rate of change in shape in the thickness direction.
上記目的を達成するための本発明に係る状態推定装置の特徴構成は、
上記変化率推定装置と、
前記厚み方向における形状の変化率を前記推定手段から取得し、前記取得した厚み方向における形状の変化率を基に、前記対象米の比重、密度又は吸水率を算出する状態算出手段とを備える点にある。
また、上記目的を達成するための本発明に係る状態推定方法の特徴構成は、
上記変化率推定方法を行った後に、前記変化率推定方法で推定した前記厚み方向における形状の変化率を基に、前記対象米の比重、密度又は吸水率を算出する状態算出工程を実行する点にある。
The characteristic configuration of the state estimation device according to the present invention for achieving the above object is
With the above rate of change estimation device,
A point including a state calculation means for acquiring the rate of change in shape in the thickness direction from the estimation means and calculating the specific gravity, density or water absorption rate of the target rice based on the acquired rate of change in shape in the thickness direction. It is in.
Further, the characteristic configuration of the state estimation method according to the present invention for achieving the above object is
After performing the change rate estimation method, a state calculation step of calculating the specific gravity, density or water absorption rate of the target rice based on the change rate of the shape in the thickness direction estimated by the change rate estimation method is executed. It is in.
上記特徴構成によれば、光学的に監視する装置を要することなく容易に求められる厚み方向と直交する方向における形状の変化率を基に、対象米の比重、密度又は吸水率を算出することができるため、比重、密度、吸水率という対象米の状態を従来よりも容易に推定することができる。 According to the above-mentioned feature configuration, it is possible to calculate the specific gravity, density or water absorption rate of the target rice based on the rate of change in shape in the direction orthogonal to the thickness direction, which is easily obtained without the need for an optical monitoring device. Therefore, the state of the target rice such as specific gravity, density, and water absorption rate can be estimated more easily than before.
更に、本発明に係る状態推定装置の更なる特徴構成は、
前記画像データ取得手段で取得された2次元画像データを参照して、当該2次元画像データを解析し、前記厚み方向と直交する平面に沿った方向における前記対象米の面積を取得する面積情報取得手段を備え、
前記状態算出手段において、前記面積を前記面積情報取得手段から取得し、前記取得した厚み方向における形状の変化率、前記取得した面積、及び予め記憶された水に浸漬する前の前記対象米の厚みを基に算出される前記対象米の体積を基に、前記対象米の比重又は密度を算出する点にある。
また、本発明に係る状態推定方法の更なる特徴構成は、
前記撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像を基に、前記厚み方向と直交する平面に沿った方向における前記対象米の面積を取得する面積情報取得工程を備え、
前記状態算出工程において、前記厚み方向における形状の変化率、前記取得した面積、及び水に浸漬する前の前記対象米の厚みを基に算出される前記対象米の体積を基に、前記対象米の比重又は密度を算出する点にある。
Further, a further characteristic configuration of the state estimation device according to the present invention is
Area information acquisition that analyzes the two-dimensional image data with reference to the two-dimensional image data acquired by the image data acquisition means and acquires the area of the target rice in a direction along a plane orthogonal to the thickness direction. Equipped with means,
In the state calculation means, the area is acquired from the area information acquisition means, the rate of change in shape in the acquired thickness direction, the acquired area, and the thickness of the target rice before being immersed in pre-stored water. The point is to calculate the specific gravity or density of the target rice based on the volume of the target rice calculated based on the above.
Further, the further characteristic configuration of the state estimation method according to the present invention is
The area information acquisition step for acquiring the area of the target rice in the direction along the plane orthogonal to the thickness direction is provided based on the two-dimensional image of the target rice taken and viewed from the thickness direction. ,
In the state calculation step, the target rice is calculated based on the rate of change in shape in the thickness direction, the acquired area, and the volume of the target rice before being immersed in water. The point is to calculate the specific gravity or density of.
上記特徴構成によれば、2次元画像データを基に厚み方向と直交する平面に沿った方向における対象米の面積を取得し、この取得した面積と、従来よりも容易に求められる厚み方向における形状の変化率とに加えて、水に浸漬する前の対象米の厚みを予め求めておき、これらを基に体積を算出して、この体積を基にして、対象米の比重又は密度を算出する。したがって、対象米の比重又は密度という状態を従来よりも容易に推定することができる。 According to the above feature configuration, the area of the target rice in the direction along the plane orthogonal to the thickness direction is acquired based on the two-dimensional image data, and the acquired area and the shape in the thickness direction more easily obtained than before are obtained. In addition to the rate of change of, the thickness of the target rice before soaking in water is obtained in advance, the volume is calculated based on these, and the specific gravity or density of the target rice is calculated based on this volume. .. Therefore, the state of the specific weight or density of the target rice can be estimated more easily than before.
上記目的を達成するための本発明に係る変化率推定装置の特徴構成は、
水に浸漬した状態の対象米を撮影する撮影手段と、
前記撮影手段で撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像データを取得する画像データ取得手段と、
前記画像データ取得手段で取得された2次元画像データを参照して、当該2次元画像データを解析し、前記厚み方向と直交する平面に沿った方向における前記対象米の2次元形状の変化率を算出する2次元形状変化率算出手段と、
前記2次元形状変化率算出手段から前記2次元形状の変化率を取得し、複数の対象米のうち、前記対象米の長軸方向に沿う縦断面が開いた縦割れが発生している対象米の割合である縦割れ率と前記厚み方向における形状の変化率との相関関係、及び前記取得した2次元形状の変化率を基に、前記2次元形状の変化率を補正して3次元形状の変化率として推定する推定手段とを備える点にある。
また、上記目的を達成するための本発明に変化率推定方法の特徴構成は、
水に浸漬した状態の対象米を撮影する撮影工程と、
前記撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像を基に、前記厚み方向と直交する平面に沿った方向における前記対象米の2次元形状の変化率を算出する2次元形状変化率算出工程と、
複数の対象米のうち、前記対象米の長軸方向に沿う縦断面が開いた縦割れが発生している対象米の割合である縦割れ率と前記厚み方向における形状の変化率との相関関係、及び前記算出した2次元形状の変化率を基に、前記2次元形状の変化率を補正して3次元形状の変化率として推定する推定工程とを実行する点にある。
The characteristic configuration of the rate of change estimation device according to the present invention for achieving the above object is
Photographing means for photographing the target rice in a state of being immersed in water,
An image data acquisition means for acquiring two-dimensional image data of the target rice photographed by the photographing means and viewing the target rice from the thickness direction.
With reference to the two-dimensional image data acquired by the image data acquisition means, the two-dimensional image data is analyzed, and the rate of change of the two-dimensional shape of the target rice in the direction along the plane orthogonal to the thickness direction is determined. Two-dimensional shape change rate calculation means to calculate,
The change rate of the two-dimensional shape is acquired from the two-dimensional shape change rate calculation means, and among a plurality of target rice, the target rice in which a vertical crack having a vertical cross section open along the long axis direction of the target rice is generated. Based on the correlation between the vertical cracking rate, which is the ratio of The point is that it is provided with an estimation means for estimating the rate of change.
Further, the characteristic configuration of the rate of change estimation method in the present invention for achieving the above object is
The shooting process of shooting the target rice soaked in water,
Based on the two-dimensional image of the target rice taken and viewed from the thickness direction, the rate of change in the two-dimensional shape of the target rice in the direction along the plane orthogonal to the thickness direction is calculated. 2 Dimensional shape change rate calculation process and
Correlation between the vertical cracking rate, which is the ratio of the target rice having vertical cracks with an open vertical cross section along the long axis direction of the target rice, and the rate of change in shape in the thickness direction. , And an estimation step of correcting the change rate of the two-dimensional shape and estimating it as the change rate of the three-dimensional shape based on the calculated change rate of the two-dimensional shape.
上述したように、本願発明者らは、米の割れ方によって米の3次元形状の変化率に違いがあり、また、米のうち縦割れが発生している米の割合が、米の厚み方向における形状の変化率と相関関係があるという新たな知見を得た。 As described above, the inventors of the present application have different rates of change in the three-dimensional shape of rice depending on how the rice is cracked, and the proportion of rice in which vertical cracks occur is in the thickness direction of the rice. We obtained a new finding that there is a correlation with the rate of change in shape in.
本発明に係る変化率推定装置及び変化率推定方法は、かかる知見に基づきなされたものであり、上記構成においては、まず、水に浸漬した状態の対象米の、厚み方向から視た2次元画像を撮影手段によって撮影し、ついで、撮影手段が撮影した2次元画像データを画像データ取得手段が取得する。次に、2次元形状変化率算出手段は、2次元画像データを参照して当該2次元画像データを解析し、厚み方向と直交する平面に沿った方向における対象米の2次元形状の変化率を算出する。 The change rate estimation device and the change rate estimation method according to the present invention were made based on such findings. In the above configuration, first, a two-dimensional image of the target rice immersed in water seen from the thickness direction. Is photographed by the photographing means, and then the image data acquisition means acquires the two-dimensional image data photographed by the photographing means. Next, the two-dimensional shape change rate calculation means analyzes the two-dimensional image data with reference to the two-dimensional image data, and determines the change rate of the two-dimensional shape of the target rice in the direction along the plane orthogonal to the thickness direction. calculate.
しかる後、推定手段は、2次元形状の変化率を取得し、縦割れ率と厚み方向における形状の変化率との相関関係、及び取得した2次元形状の変化率を基にして、2次元形状変化率算出手段で算出された2次元形状の変化率を3次元形状の変化率として推定する。 After that, the estimation means acquires the rate of change of the two-dimensional shape, and based on the correlation between the rate of vertical cracking and the rate of change of the shape in the thickness direction, and the rate of change of the acquired two-dimensional shape, the two-dimensional shape. The rate of change of the two-dimensional shape calculated by the rate of change calculation means is estimated as the rate of change of the three-dimensional shape.
このように、上記特徴構成によれば、上記相関関係及び取得した2次元形状の変化率を基に、2次元形状の変化率を補正して3次元形状の変化率とすることができるため、対象米の品種等を問わず、当該対象米の3次元形状の変化率を容易に推定することができる。よって、推定した3次元形状の変化率を基にして、例えば、対象米の吸水状態や対象米の心白の状態などを評価することができるようになる。 As described above, according to the above-mentioned feature configuration, the two-dimensional shape change rate can be corrected to obtain the three-dimensional shape change rate based on the above-mentioned correlation and the acquired two-dimensional shape change rate. Regardless of the type of the target rice, the rate of change in the three-dimensional shape of the target rice can be easily estimated. Therefore, based on the estimated rate of change of the three-dimensional shape, for example, the water absorption state of the target rice and the state of the white heart of the target rice can be evaluated.
本発明に係る変化率推定装置の更なる特徴構成は前記推定手段において、前記相関関係に基づいて定まる縦割れ影響度を、前記取得した2次元形状の変化率に乗じて、前記2次元形状の変化率を前記3次元形状の変化率に補正する点にある。
また、本発明に係る変化率推定方法の更なる特徴構成は、前記推定工程において、前記相関関係に基づいて定まる縦割れ影響度を、前記算出した2次元形状の変化率に乗じて、前記2次元形状の変化率を前記3次元形状の変化率に補正する点にある。
A further characteristic configuration of the rate of change estimation device according to the present invention is that in the estimation means, the degree of influence of vertical cracks determined based on the correlation is multiplied by the rate of change of the acquired two-dimensional shape to obtain the two-dimensional shape. The point is to correct the rate of change to the rate of change of the three-dimensional shape.
Further, in the further characteristic configuration of the change rate estimation method according to the present invention, the degree of influence of vertical cracks determined based on the correlation in the estimation step is multiplied by the change rate of the calculated two-dimensional shape to obtain the above 2 The point is to correct the rate of change of the three-dimensional shape to the rate of change of the three-dimensional shape.
ここで、「縦割れ影響度」とは、縦割れの存在が3次元形状の変化率に与える影響を示す指標であって、具体的には、予め複数の品種に関する測定結果から得られたデータベースを基に、縦割れ率と厚み方向の変化率との相関関係を示すグラフを作成し、このグラフの傾きを縦割れ影響度として予め決定されるものである。 Here, the "degree of influence of vertical cracks" is an index showing the influence of the presence of vertical cracks on the rate of change of the three-dimensional shape, and specifically, a database obtained from measurement results of a plurality of varieties in advance. A graph showing the correlation between the vertical crack rate and the rate of change in the thickness direction is created based on the above, and the slope of this graph is determined in advance as the vertical crack influence degree.
上記特徴構成によれば、対象米の2次元形状の変化率に縦割れ影響度を乗じることによって、当該2次元形状の変化率を補正して対象米の3次元形状の変化率を求めることができる。よって、上記と同様に、対象米の3次元形状の変化率を容易に求めることができ、米の吸水状態や米の心白の状態などを評価することができるようになる。 According to the above characteristic configuration, by multiplying the rate of change of the two-dimensional shape of the target rice by the degree of influence of vertical cracking, the rate of change of the two-dimensional shape can be corrected to obtain the rate of change of the three-dimensional shape of the target rice. can. Therefore, similarly to the above, the rate of change in the three-dimensional shape of the target rice can be easily obtained, and the water absorption state of the rice and the state of the white heart of the rice can be evaluated.
また、上記目的を達成するための本発明に係る状態推定装置の特徴構成は、上記いずれかの変化率推定装置と、
前記3次元形状の変化率を前記推定手段から取得し、前記取得した3次元形状の変化率を基に、前記対象米の比重、密度又は吸水率を算出する状態算出手段とを備える点にある。
また、上記目的を達成するための本発明に係る状態推定方法の特徴構成は、上記いずれかの変化率推定方法を行った後に、前記変化率推定方法で推定した前記3次元形状の変化率を基に、前記対象米の比重、密度又は吸水率を算出する状態算出工程を実行する点にある。
Further, the characteristic configuration of the state estimation device according to the present invention for achieving the above object is the change rate estimation device according to any one of the above.
The point is to provide a state calculation means for acquiring the rate of change of the three-dimensional shape from the estimation means and calculating the specific gravity, density or water absorption rate of the target rice based on the acquired rate of change of the three-dimensional shape. ..
Further, the characteristic configuration of the state estimation method according to the present invention for achieving the above object is to perform the change rate of the three-dimensional shape estimated by the change rate estimation method after performing any of the change rate estimation methods. Based on this, the point is to execute the state calculation step of calculating the specific gravity, density or water absorption rate of the target rice.
上記特徴構成によれば、2次元形状の変化率を補正して求められる3次元形状の変化率、即ち、従来よりも容易に求められる3次元形状の変化率を基に、対象米の比重、密度又は吸水率を算出することができるため、比重、密度、吸水率という対象米の状態を従来よりも容易に推定することが可能となる。 According to the above feature configuration, the specific gravity of the target rice is based on the change rate of the three-dimensional shape obtained by correcting the change rate of the two-dimensional shape, that is, the change rate of the three-dimensional shape obtained more easily than before. Since the density or the water absorption rate can be calculated, it is possible to estimate the state of the target rice such as the specific gravity, the density, and the water absorption rate more easily than before.
本発明に係る状態推定装置の更なる特徴構成は、前記状態算出手段において、前記取得した3次元形状の変化率、並びに予め記憶された水に浸漬する前の前記対象米の厚み及び厚み方向と直交する平面に沿った方向における面積を基に算出される前記対象米の体積を基に、前記対象米の比重又は密度を算出する点にある。
また、本発明に係る状態推定方法の更なる特徴構成は、前記状態算出工程において、前記3次元形状の変化率、並びに予め記憶された水に浸漬する前の前記対象米の厚み及び厚み方向と直交する平面に沿った方向における面積を基に算出される前記対象米の体積を基に、前記対象米の比重又は密度を算出する点にある。
Further characteristic configurations of the state estimation device according to the present invention include the rate of change of the acquired three-dimensional shape in the state calculation means, and the thickness and thickness direction of the target rice before being immersed in water stored in advance. The point is to calculate the specific gravity or density of the target rice based on the volume of the target rice calculated based on the area in the direction along the orthogonal plane.
Further, a further characteristic configuration of the state estimation method according to the present invention is the rate of change of the three-dimensional shape in the state calculation step, and the thickness and thickness direction of the target rice before being immersed in water stored in advance. The point is to calculate the specific gravity or density of the target rice based on the volume of the target rice calculated based on the area in the direction along the orthogonal plane.
上記特徴構成によれば、従来よりも容易に求められる3次元形状の変化率に加えて、水に浸漬する前の対象米の厚み及び厚み方向と直交する平面に沿った方向における面積を予め求めておき、これらを基に体積を算出して、この体積を基にして、対象米の比重又は密度を算出する。したがって、対象米の比重、密度という状態を従来よりも容易に推定することができる。 According to the above feature configuration, in addition to the rate of change of the three-dimensional shape that can be easily obtained than before, the thickness of the target rice before being immersed in water and the area in the direction along the plane orthogonal to the thickness direction are obtained in advance. Then, the volume is calculated based on these, and the specific gravity or density of the target rice is calculated based on this volume. Therefore, the state of the specific weight and density of the target rice can be estimated more easily than before.
尚、本願において「比重」とは、密度(g/cm3)の逆数としての比重(cm3/g)を意味する。 In the present application, the "specific gravity" means the specific gravity (cm 3 / g) as the reciprocal of the density (g / cm 3 ).
[第1実施形態]
以下、図面を参照して本発明の一実施形態に係る状態推定装置1及び変化率推定装置20Aについて説明する。尚、本実施形態では、酒米の厚み方向における形状の変化率を推定する場合を例にとって説明する。
[First Embodiment]
Hereinafter, the
図1に示すように、本実施形態に係る状態推定装置1A(1)は、撮影装置(撮影手段)2と、画像データ取得部(画像データ取得手段)11と、画像処理部12と、面積情報取得部(面積情報取得手段)13と、割れ率算出部(割れ率算出手段)16と、推定部(推定手段)19と、状態算出部(状態算出手段)30とを備えるとともに、取り扱う情報を記憶する記憶装置35を備える。図1では、状態推定装置1が、撮影装置2、画像データ取得部11、画像処理部12、割れ率算出部16、推定部19及び記憶装置35を含む変化率推定装置20A(20)と、面積情報取得部13と、状態算出部30とを備えて構成され、また、画像データ取得部11と、画像処理部12と、面積情報取得部13と、割れ率算出部16と、推定部19と、状態算出部30と、記憶装置35とが、米分析装置10A(10)を構成する形態で図示している。
As shown in FIG. 1, the
状態推定装置1の一部を構成する米分析装置10Aは、情報の演算処理機能や情報の入出力機能、情報の記憶機能などを備える1台又は複数台のコンピュータ装置などを用いて実現される。その場合、画像データ取得部11の機能と、画像処理部12の機能と、面積情報取得部13の機能と、割れ率算出部16(形態判定部17の機能、形態データ解析部18の機能)の機能と、推定部19の機能と、状態算出部30の機能をコンピュータ装置に実現させるプログラムを、そのコンピュータ装置にインストールしておけばよい。
The
本実施形態の記憶装置35は、撮影装置2が撮影した画像データを記憶する画像データ記憶部35aと、面積情報取得部13で取得された面積情報を記憶する面積記憶部35bと、機械学習で利用する訓練データを記憶する訓練データ記憶部35cと、形態判定部17の判定結果を記憶する形態記憶部35dとを備える。ここで、面積記憶部35b及び形態記憶部35dは、それぞれ面積情報取得部13で取得された面積情報及び形態判定部17の判定結果を、水への浸漬を開始した後での一つの対象米の面積及び形態の変化履歴が分かる状態で記憶しても良い。また、本実施形態の記憶装置35には、水に浸漬する前の酒米の厚みが予め記憶されている。
The
撮影装置2は、酒米を水に浸漬した状態に配置する米保持部の鉛直方向上方に配置されており、酒米からの透過光を撮影して当該酒米の2次元画像を撮影することができる装置である。
The photographing
出力装置3は、画像情報や文字情報などを表示できる表示装置や、それら画像情報や文字情報などを紙などに印刷できる印刷装置などである。 The output device 3 is a display device capable of displaying image information, character information, and the like, and a printing device capable of printing the image information, character information, and the like on paper or the like.
図2は、本実施形態に係る変化率推定方法及び状態推定方法に含まれる、酒米の面積情報を取得する工程(面積情報取得工程)、酒米の割れ率を算出する工程(割れ率算出工程)、酒米の厚み方向における形状の変化を推定する工程(推定工程)、及び推定した厚み方向における形状の変化率を基に、酒米の比重を算出する工程(状態算出工程)を説明するフローチャートである。図2の工程#10が行われた後、即ち、水に浸漬した状態に配置された酒米を撮影装置2によって撮影する撮影工程が実行された後、工程#11において、画像データ取得部11は、水に浸漬した状態に配置された酒米を当該酒米の厚み方向から撮影装置2で撮影した2次元画像データを取得する。つまり、水に浸漬した状態に配置された酒米を、当該酒米の厚み方向から視た2次元画像データを取得する画像データ取得工程が実行される。例えば、撮影装置2は、水に浸漬した状態に配置された複数の酒米を撮影して1つの2次元画像データを得る。そして、その2次元画像データは米分析装置10Aに伝達され、画像データ取得部11が取得する。画像データ取得部11が取得した2次元画像データを記憶装置35の画像データ記憶部35aに記憶しておくこともできる。例えば、図3に示す画像データAは、画像データ取得部11が取得する2次元画像データである。
FIG. 2 shows a step of acquiring the area information of sake rice (area information acquisition step) and a step of calculating the cracking rate of sake rice (breaking rate calculation) included in the change rate estimation method and the state estimation method according to the present embodiment. Step), a step of estimating the change in shape of sake rice in the thickness direction (estimation step), and a step of calculating the specific weight of sake rice based on the estimated rate of change in shape in the thickness direction (state calculation step) are explained. It is a flowchart to be done. After the
次に、図2の工程#12において、画像処理部12は、面積情報取得部13によって面積情報を取得する処理及び割れ率算出部16によって縦割れ率を算出する処理に先立って、画像データ取得部11が取得した2次元画像データにおいて、1つの酒米のみを含む領域の2次元酒米画像データを抽出する処理を含む画像処理を行って、その1つの酒米の処理済みの2次元画像データを生成する。つまり、画像データ取得工程で取得した2次元画像データにおいて、1つの酒米のみを含む領域の2次元酒米画像データを抽出する処理を含む画像処理を行って、その1つの酒米の処理済みの2次元画像データを生成する画像処理工程が実行される。図3は、画像処理の例を説明する図である。本実施形態では、画像処理部12が行う画像処理として、画像データ取得部11が取得した画像データにおいて、1つの酒米のみを含む領域の2次元酒米画像データを抽出する処理、その1つの酒米が所定の姿勢になるように酒米の2次元画像を回転させる処理、及び画像のコントラストを調整する処理を含む。
Next, in
例えば、図3に示す2次元画像データBは、画像データ取得部11が取得した画像データAにおいて、1つの酒米の2次元全体画像を含むデータを抽出した画像である。図3に示す2次元画像データCは、2次元画像データBにおいて、1つの酒米以外の他の酒米の2次元画像を除去することで、1つの酒米のみを含む領域の2次元酒米画像データを抽出する処理を行った後の画像である。図3に示す2次元画像データDは、2次元画像データCに対して、1つの酒米が所定の姿勢になるように酒米の2次元画像を回転させる処理を行った後の画像である。この場合、酒米の長軸が鉛直方向に沿うような姿勢に酒米画像を回転させている。図3に示す2次元画像データEは、2次元画像データに対して、酒米の向きを調整する処理(例えば、上下反転処理や左右反転処理など)を行った後の画像である。図3に示す2次元画像データFは、2次元画像データEに対して、画像のコントラストを調整する処理を行った後の画像である。
For example, the two-dimensional image data B shown in FIG. 3 is an image obtained by extracting data including a two-dimensional whole image of one sake rice from the image data A acquired by the image
ついで、面積情報取得部13は、画像データ取得部11が取得した2次元画像データを参照して、当該2次元画像データを解析し、酒米の厚み方向と直交する平面に沿った方向における酒米の面積を算出する。
Next, the area
本実施形態では、面積情報取得部13は、画像データ取得部11が取得し、画像処理部12が処理した2次元画像データを参照して、酒米の厚み方向と直交する平面に沿った方向における酒米の面積を、様々な画像認識技術を用いて自動で判定することができる。
In the present embodiment, the area
上記のように、面積情報取得部13が酒米の面積を判定するために参照する入力データとしての2次元画像データは、画像処理部12が、画像データ取得部11が取得した画像データにおいて、1つの酒米のみを含む領域の2次元酒米画像データを抽出する処理、1つの酒米が所定の姿勢になるように酒米の2次元画像を回転させる処理、及び画像のコントラストを調整する処理を含む画像処理を行った後の処理済みの2次元画像データである。つまり、面積情報取得部13は、酒米の面積を判定するのに適した状態にした2次元画像データ(処理済みの2次元画像データ)から酒米の面積を判定できるので、その判定結果が適切である可能性が高まる。
As described above, the two-dimensional image data as input data referred to by the area
図2の工程#13において、面積情報取得部13は、酒米の面積を判定する。つまり、画像処理工程で生成した処理済みの2次元画像データにおける1つの酒米の面積を判定する面積判定工程(面積情報取得工程)が実行される。本実施形態では、面積情報取得部13が生成した処理済みの2次元画像データ(図3の2次元画像データF)における1つの酒米の面積を判定する。尚、水に浸漬された状態にある酒米が複数ある場合、面積情報取得部13がそのうちのいくつの酒米の面積を判定するのかは適宜設定可能である。そして、面積情報取得部13による判定結果は、複数の酒米のそれぞれに付与された識別子と関連付けられて酒米ごとに面積記憶部35bに記憶される。面積記憶部35bには、面積情報取得部13で取得された面積情報が、水への浸漬を開始した後での1つの酒米の面積の変化履歴が分かる状態で記憶される。
In
このように、本実施形態では、面積情報取得部13が、画像処理部12が生成した処理済みの2次元画像データにおける1つの酒米の面積を判定する。その結果、酒米の面積に関して、短時間で判定結果を得ることができる。
As described above, in the present embodiment, the area
尚、面積情報取得部13で取得された面積情報は、出力装置3から出力することもできる。
The area information acquired by the area
次に、割れ率算出部16は、画像データ取得部11が取得した2次元画像データを参照して、当該2次元画像データを解析し、複数の酒米のうち、縦割れが発生している酒米の割合である縦割れ率を算出する。尚、「縦割れ」は、酒米に生じた縦方向の亀裂の隙間が大きくなった状態である。
Next, the crack
本実施形態では、割れ率算出部16は、形態判定部17と形態データ解析部18とを備える。例えば、形態判定部17は、酒米に割れが発生しているか否かを、様々な画像認識技術を用いて自動で判定することができる。後述する例では、形態判定部17は、CNN(Convolutional Neural Network)などのアルゴリズムを用いて酒米の形態を予測判定する場合について説明する。また、形態判定部17は、画像処理部12が生成した処理済みの2次元画像データが入力された場合に、酒米の形態に関する情報が出力されるように機械学習を行う場合を説明する。例えば、機械学習では、形態判定部17のアルゴリズムを構成するCNNの複数の重みパラメータなどが調整される。
In the present embodiment, the crack
上記のように、形態判定部17が酒米の形態を判定するために参照する入力データとしての2次元画像データは、画像処理部12が、画像データ取得部11が取得した画像データにおいて、1つの酒米のみを含む領域の2次元酒米画像データを抽出する処理、1つの酒米が所定の姿勢になるように酒米の2次元画像を回転させる処理、及び画像のコントラストを調整する処理を含む画像処理を行った後の処理済みの2次元画像データである。つまり、形態判定部17は、酒米の形態を判定するのに適した状態にした2次元画像データ(処理済みの2次元画像データ)から酒米の形態を判定できるので、その判定結果が適切である可能性が高まる。
As described above, the two-dimensional image data as input data referred to by the
図2の工程#14において、形態判定部17は、割れがあるか否かを判定する。つまり、画像処理工程で生成した処理済みの2次元画像データにおける1つの酒米に割れがあるか否かを判定する形態判定工程(割れ率算出工程)が実行される。本実施形態では、形態判定部17は、蓄積された訓練データの機械学習の実行結果を用いて、画像処理部12が生成した処理済みの2次元画像データ(図3の2次元画像データF)における1つの酒米に割れがあるか否かを判定する。
In
本実施形態では、形態判定部17は、酒米が損傷していない形態か、酒米に亀裂が生じた形態であるか、酒米の長軸方向に沿う縦断面が開いた縦割れが生じた形態であるか、又は、酒米の短軸方向に沿う横断面が開いた横割れが生じた形態であるかの4種類の何れかを判定する。このうち、下記表1に示すように、酒米が損傷していない形態、及び、酒米に亀裂が生じた形態は、「割れが無い」という判定になり、酒米に縦割れがある形態、及び、酒米に横割れがある形態は、「割れが有る」という判定になる。尚、水に浸漬された状態にある酒米が複数ある場合、形態判定部17がそのうちのいくつの酒米の形態を判定するのかは適宜設定可能である。
In the present embodiment, the
形態判定部17は、画像処理部12が生成した処理済みの2次元画像データが入力されると、酒米の形態に関する情報が出力されるようにアルゴリズムが構築されている。例えば、形態判定部17で実行されるCNNは、画像処理部12が生成した処理済みの2次元画像データが入力される入力層と、入力層に入力された処理済みの2次元画像データに対して畳み込み処理を行って特徴マップを得る畳み込み層と、畳み込み層から出力された特徴マップを縮小するプール層と、全ユニットを結合する全結合層と、出力層とを備えて階層型のネットワークを構成している。畳み込み層及びプール層の組み合わせは複数回繰り返し設けられ、全結合層も複数層設けられる。
The
本実施形態では、形態判定部17の判定結果となる酒米の形態に関する情報として4種類の情報(損傷無し、亀裂、縦割れ、横割れ)を想定しているため、CNNの出力層のユニット数は4になる。出力層ではソフトマックス関数を尤度関数として用いることができる。ソフトマックス関数は、出力層の全ユニットの値を累積した値で各ユニットの値を除算して正規化するので、出力層の各ユニットの尤度は0から1の間の値をとる。そして、形態判定部17は、尤度が最大となるクラスを分類クラス、即ち、酒米の形態(判定結果)として決定する。そして、形態判定部17による判定結果は、複数の酒米のそれぞれに付与された識別子と関連付けられて酒米ごとに形態記憶部35dに記憶される。形態記憶部35dには、形態判定部17の判定結果が、水への浸漬を開始した後での1つの酒米の形態の変化履歴が分かる状態で記憶される。
In this embodiment, four types of information (no damage, cracks, vertical cracks, horizontal cracks) are assumed as the information regarding the form of sake rice that is the determination result of the
図4は、酒米の状態の例を示す図である。具体的には、図4(a)は酒米が損傷していない形態を示す図であり、図4(b)は酒米において短軸方向に沿う亀裂が生じた形態である。また、図4(c)及び図4(d)は酒米に生じた亀裂の隙間が大きくなった状態である割れが生じた形態であり、割れの形態として、酒米の短軸方向に沿う横断面が開いた横割れが生じた形態(図4(c))と、酒米の長軸方向に沿う縦断面が開いた縦割れが生じた形態(図4(d))とがある。このように、形態判定部17は、割れの形態として、酒米の短軸方向に沿う横断面が開いた横割れが生じた形態であるか、又は、酒米の長軸方向に沿う縦断面が開いた縦割れが生じた形態であるかも判定する。
FIG. 4 is a diagram showing an example of the state of sake rice. Specifically, FIG. 4A is a diagram showing a form in which sake rice is not damaged, and FIG. 4B is a form in which cracks are generated along the minor axis direction in sake rice. Further, FIGS. 4 (c) and 4 (d) show cracked forms in which the gaps between the cracks generated in the sake rice are large, and the cracks are formed along the short axis direction of the sake rice. There is a form in which a horizontal crack is generated with an open cross section (FIG. 4 (c)) and a form in which a vertical crack with an open vertical cross section along the long axis direction of sake rice is generated (FIG. 4 (d)). As described above, the
以上のように、本実施形態では、人間が酒米の形態を判定するのではなく、形態判定部17が、蓄積された訓練データの機械学習の実行結果を用いて、画像処理部12が生成した処理済みの2次元画像データにおける1つの酒米の形態を判定する。その結果、酒米の形態に関して、短時間で、且つ、一貫性のある判定結果を得ることができる。
As described above, in the present embodiment, the
図2の工程#15において、形態データ解析部18は、画像データ取得部11が取得した2次元画像データに含まれる複数の酒米のそれぞれについての形態判定部17の判定結果に基づいて縦割れ率を算出する。つまり、形態判定工程の判定結果に基づいて縦割れ率を算出する形態データ解析工程(割れ率算出工程)が実行される。形態記憶部35dには、複数の酒米のそれぞれについての形態判定部17の判定結果が、水への浸漬を開始した後での1つの酒米の形態の変化履歴が分かる状態で記憶されている。また、形態記憶部35dには、各酒米について、水への浸漬を開始した時点から現在(最新)までの少なくとも2以上の形態が変化履歴として記憶されている。そして、形態データ解析部18は、形態記憶部35dに記憶されている複数の酒米の現在(最新)の形態を読み出して、複数の酒米のうち、縦割れが発生している酒米の割合である縦割れ率を算出する。
In
尚、形態判定部17の判定結果を、出力装置3から出力することもできる。例えば、複数の酒米のうち、割れが発生している酒米の割合(割れ率)などを随時算出して出力装置3からリアルタイムで出力することもできる。また、形態記憶部35dに、形態判定部17の判定結果が、水への浸漬を開始した後での1つの酒米の形態の変化履歴が分かる状態で記憶されている場合には、割れ率の時間的な変化などを算出して出力装置3から出力することもできる。
The determination result of the
推定部19は、割れ率算出部16が算出した酒米の縦割れ率を取得し、この取得した縦割れ率、及び予め定められた酒米の縦割れ率と厚み方向における形状の変化率との相関関係を基に、酒米の厚み方向における形状の変化率を推定する。
The
本願発明者は、酒米の吸水率や吸水分布といった吸水状態を画像観察により判定する手法について研究する過程で、酒米のうち縦割れが発生している酒米の割合である縦割れ率が、酒米の厚み方向における形状の変化率と相関関係があるという新たな知見を得た。具体的に、本願発明者は、水に浸漬した状態に配置された複数の酒米について、2次元画像データを基に測定した酒米の厚み方向と直交する平面における2次元形状の変化率の平均値を算出するとともに、2次元形状の変化率を測定した時点で水分率計を用いて測定した複数の酒米の吸水率の平均値を算出することで、酒米の2次元形状の変化率と吸水率との関係をプロットした。また、水に浸漬した状態に配置された複数の酒米について、既知の手法を用いて測定した3次元形状の変化率の平均値を算出するとともに、3次元形状の変化率を測定した時点で水分率計を用いて測定した複数の酒米の吸水率の平均値を算出することで、酒米の3次元形状の変化率と吸水率との関係をプロットした(図5参照)。図5に示すように、2次元形状の変化率と吸水率とに関する近似線の決定係数が0.30であるのに対し、3次元形状の変化率と吸水率とに関する近似線の決定係数が0.91であり、このことから、2次元形状の変化率は3次元形状の変化率と比較して吸水率との相関が低いことが分かった。 In the process of researching a method for determining the water absorption state such as the water absorption rate and the water absorption distribution of sake rice by observing an image, the inventor of the present application determines the vertical cracking rate, which is the ratio of the sake rice in which vertical cracking occurs. , We obtained a new finding that there is a correlation with the rate of change in shape of sake rice in the thickness direction. Specifically, the inventor of the present application determines the rate of change in the two-dimensional shape of a plurality of sake rice placed in a state of being immersed in water in a plane orthogonal to the thickness direction of the sake rice measured based on two-dimensional image data. By calculating the average value and calculating the average value of the water absorption rates of multiple liquor rice measured using a moisture content meter at the time of measuring the change rate of the two-dimensional shape, the change in the two-dimensional shape of liquor rice The relationship between the rate and the water absorption rate was plotted. In addition, for a plurality of sake rice placed in a state of being immersed in water, the average value of the change rate of the three-dimensional shape measured by using a known method is calculated, and at the time when the change rate of the three-dimensional shape is measured. By calculating the average value of the water absorption rates of a plurality of sake rice measured using a moisture content meter, the relationship between the change rate of the three-dimensional shape of the sake rice and the water absorption rate was plotted (see FIG. 5). As shown in FIG. 5, the determination coefficient of the approximation line regarding the rate of change of the two-dimensional shape and the water absorption rate is 0.30, whereas the determination coefficient of the approximation line regarding the rate of change of the three-dimensional shape and the water absorption rate is 0.30. It was 0.91, and from this, it was found that the rate of change of the two-dimensional shape had a lower correlation with the water absorption rate than the rate of change of the three-dimensional shape.
そして、本願発明者は、2次元形状の変化率及び3次元形状の変化率を基に、厚み方向における形状の変化率(厚み変化率)を算出し、この厚み方向における形状の変化率に対して、横割れ率及び縦割れ率をそれぞれプロットし(図6参照)、厚み方向における形状の変化率に対する横割れ率及び縦割れ率の相関を調べた。その結果、図6に示すように、縦割れ率と厚み方向における形状の変化率との間に高い相関関係があることが分かった。したがって、複数の品種について、上記と同様の手法により、縦割れ率と厚み方向における形状の変化率との相関関係に関するデータベースを予め作成して、適宜記憶装置35に記憶させておくことで、この相関関係を基に、縦割れ率から厚み方向における形状の変化率を推定することができる。
Then, the inventor of the present application calculates the shape change rate (thickness change rate) in the thickness direction based on the change rate of the two-dimensional shape and the change rate of the three-dimensional shape, and the change rate of the shape in the thickness direction is Then, the horizontal cracking rate and the vertical cracking rate were plotted (see FIG. 6), and the correlation between the horizontal cracking rate and the vertical cracking rate with respect to the rate of change in shape in the thickness direction was investigated. As a result, as shown in FIG. 6, it was found that there is a high correlation between the vertical cracking rate and the rate of change in shape in the thickness direction. Therefore, for a plurality of varieties, a database relating to the correlation between the vertical cracking rate and the rate of change in shape in the thickness direction is created in advance by the same method as described above, and stored in the
そこで、図2の工程#16において、推定部19は、割れ率算出部16によって算出された縦割れ率、及び上述した縦割れ率と厚み方向における形状の変化率との相関関係とを基に、酒米の厚み方向における形状の変化率を推定する。このようにして、推定部19によって推定された厚み方向における形状の変化率が変化率推定装置20Aにより推定された厚み方向における形状の変化率に相当する。このようにして推定された厚み方向における形状の変化率を、記憶装置35に記憶すること、及び、出力装置3から出力することができる。また、厚み方向における形状の変化率の時間的な変動を監視して、厚み方向における形状の変化率が所定の値になった時点で出力装置3から出力することもできる。
Therefore, in
状態算出部30は、推定部19で推定された厚み方向における形状の変化率(変化率推定装置20Aで推定された厚み方向における形状の変化率)を基に、酒米の比重、密度又は吸水率を算出する。尚、本実施形態では、酒米の比重を算出するものとする。
The
具体的に、図2の工程#17において、状態算出部30は、面積情報取得部13から酒米の面積を取得するとともに、推定部19から酒米の厚み方向における形状の変化率を取得し、更に、記憶装置35に記憶されている、水に浸漬する前の酒米の厚みを取得して、これら取得した厚み方向における形状の変化率、面積、厚みを掛け合わせて酒米の体積を算出して、算出した体積を、別途計測して適宜入力される酒米の重量で割ることによって、酒米の比重を算出できる。算出された酒米の比重を、記憶装置35に記憶すること、及び出力装置3から出力することができる。
Specifically, in
図7は、変化率推定方法及び状態推定方法の一部である機械学習処理を説明するフローチャートである。工程#20において画像データ取得部11は、酒米の2次元画像データを取得する。つまり、水に浸漬した状態に配置された酒米を撮影した2次元画像データを取得する画像データ取得工程が実行される。そして、工程#21において画像処理部12は、画像処理を施して、処理済みの2次元画像データを生成する。その後、工程#22において形態判定部17は、画像処理部12が生成した処理済みの2次元画像データとその処理済みの2次元画像データに含まれる酒米の形態に関する情報との組み合わせで構成される訓練データを訓練データ記憶部35cに記憶し、工程#23においてその訓練データの機械学習を実行する。例えば、一つの処理済みの2次元画像データに対して、その処理済みの2次元画像データに含まれている一つの酒米の形態について、人間が判定した正解データがラベル付けされることで、一つの訓練データが作成される。訓練データ記憶部35cには、このようにして作成した複数の訓練データが記憶されている。
FIG. 7 is a flowchart illustrating a machine learning process that is a part of the rate of change estimation method and the state estimation method. In
本実施形態では、形態判定部17で実行されるCNNの出力層ではソフトマックス関数が尤度関数として用いられる。ソフトマックス関数は、出力層の全ユニットの値を累積した値で各ユニットの値を除算して正規化するので、出力層の各ユニットの尤度は0~1の間の値をとる。そして、形態判定部17は、出力層で生成される推定データ(「尤度」)と正解データ(「1」)との誤差に対して誤差逆伝播法を用いてその誤差を小さくするように、実行するCNNの複数の重みパラメータを修正して、画像処理部12が生成した処理済みの2次元画像データが入力されると酒米の形態に関する情報が出力されるアルゴリズムを機械学習の実行結果として得る。
In the present embodiment, the softmax function is used as the likelihood function in the output layer of the CNN executed by the
このように、機械学習は、酒米の形態を判定するのに適した状態にした2次元画像データ(処理済みの2次元画像データ)を訓練データとして行われ、上述した酒米の形態の判定も、酒米の形態を判定するのに適した状態にした2次元画像データ(処理済みの2次元画像データ)に対して行われる。その結果、形態判定部17の判定結果が適切である可能性が高まる。
As described above, the machine learning is performed by using the two-dimensional image data (processed two-dimensional image data) in a state suitable for determining the morphology of the liquor rice as training data, and determining the morphology of the liquor rice described above. Is also performed on the two-dimensional image data (processed two-dimensional image data) in a state suitable for determining the morphology of sake rice. As a result, there is a high possibility that the determination result of the
次に、本実施形態のような処理済みの2次元画像データを訓練データとして機械学習を行うことにより得られる効果を説明する。図8~図10は、学習回数と正解率との関係を示すグラフである。具体的には、図8は、図3の2次元画像データBに正解データがラベル付けされた訓練データを用いて機械学習を行った場合の学習回数と正解率の関係を示すグラフである。図9は、図3の2次元画像データDを訓練データとして機械学習を行った場合の学習回数と正解率の関係を示すグラフである。図10は、図3の2次元画像データFを訓練データとして機械学習を行った場合の学習回数と正解率の関係を示すグラフである。 Next, the effect obtained by performing machine learning using the processed two-dimensional image data as the training data as in the present embodiment will be described. 8 to 10 are graphs showing the relationship between the number of learnings and the correct answer rate. Specifically, FIG. 8 is a graph showing the relationship between the number of learnings and the correct answer rate when machine learning is performed using the training data in which the correct answer data is labeled in the two-dimensional image data B of FIG. FIG. 9 is a graph showing the relationship between the number of learnings and the correct answer rate when machine learning is performed using the two-dimensional image data D of FIG. 3 as training data. FIG. 10 is a graph showing the relationship between the number of learnings and the correct answer rate when machine learning is performed using the two-dimensional image data F of FIG. 3 as training data.
図8に示すように、2次元画像データBを訓練データとした場合、学習回数が2万回に達しても、正解率は80%未満である。この80%という正解率は、例えば、ある程度熟練した人間が2次元画像データから酒米の形態を判定する場合の正解率に対応する。それに対して、2次元画像データDに正解データがラベル付けされた訓練データを用いて機械学習を行った場合、学習回数が約12000回程度で正解率が80%を上回る。また、2次元画像データFに正解データがラベル付けされた訓練データを用いて機械学習を行った場合、学習回数が約5000回程度で正解率が80%を上回る。このように、画像処理を行った後の処理済みの2次元画像データ、即ち、酒米の形態を判定するのに適した状態にした2次元画像データを訓練データとすることで、学習回数が少なくても正解率が上昇するという効果を得ることができた。 As shown in FIG. 8, when the two-dimensional image data B is used as training data, the correct answer rate is less than 80% even if the number of learnings reaches 20,000. This 80% correct answer rate corresponds to, for example, the correct answer rate when a person who is skilled to some extent determines the morphology of sake rice from two-dimensional image data. On the other hand, when machine learning is performed using the training data in which the correct answer data is labeled on the two-dimensional image data D, the number of learning times is about 12000 and the correct answer rate exceeds 80%. Further, when machine learning is performed using the training data in which the correct answer data is labeled in the two-dimensional image data F, the number of learning times is about 5,000 and the correct answer rate exceeds 80%. In this way, by using the processed two-dimensional image data after image processing, that is, the two-dimensional image data in a state suitable for determining the morphology of sake rice as training data, the number of learnings can be increased. At the very least, we were able to obtain the effect of increasing the correct answer rate.
以上のように、変化率推定装置20A及び変化率推定方法によれば、水に浸漬した状態に配置された複数の酒米の2次元画像データを参照して、複数の酒米のうち、縦割れが発生している酒米の割合である縦割れ率を算出した上で、この算出した縦割れ率、及び予め定められた酒米の縦割れ率と厚み方向における形状の変化率との相関関係を基にして、酒米の厚み方向における形状の変化率を推定することができる。したがって、複数の撮影装置2などを備えるような複雑な構成の装置を要することなく、容易に、酒米の厚み方向における形状の変化率を推定することができる。尚、変化率推定装置20A及び変化率推定方法を使用して、吸水によって主に鉛直方向に直交する方向に膨張する炊飯対象米について、厚み方向における形状の変化率を推定することも当然に可能である。
As described above, according to the rate of
また、状態推定装置1A及び状態推定方法によれば、上記推定された厚み方向における形状の変化率を基にして酒米の比重を算出することができ、酒米の比重を容易に推定することができる。酒米などを含む一般的な米の比重は、米中のデンプンの粗密に大きく関わっており、心白のようなデンプンが疎な部分が多いほど、比重は大きくなる。したがって、比重を推定することで、心白の状態(例えば、大きさ)を評価することが可能となる。そして、例えば、酒造に好適な酒米は、粒が大きく、心白も大きいこととされているが、心白が大きすぎると精米時の割れが増えるため、心白の大きさは一定の範囲内であることが好ましいと考えられるため、推定した比重を基に心白の状態を評価して、この評価結果を利用して酒造に好適な米の選別を行うこともできる。
Further, according to the
[第2実施形態]
第2実施形態の状態推定装置1B(1)は機械学習処理の内容が上記実施形態と異なっている。以下に第2実施形態の状態推定装置1Bについて説明するが、上記実施形態と同様の構成については説明を省略する。
[Second Embodiment]
The
図11は第2実施形態の状態推定装置1Bの構成を示す図である。図示するように、第2実施形態の状態推定装置1Bは、形態判定部17が判定した酒米の形態の妥当性の高低を判定する妥当性判定部36を更に備える。この妥当性判定部36は米分析装置10B(10)の割れ率算出部16に設けられている。そして、形態判定部17は、妥当性判定部36によって妥当性が高いと判定された酒米の形態に関する情報とその形態が判定された処理済みの2次元画像データとの組み合わせを既存の訓練データに追加して機械学習を実行する。
FIG. 11 is a diagram showing the configuration of the
本実施形態でも、米分析装置10Bは、情報の演算処理機能及び情報の入出力機能及び情報の記憶機能などを備える1台又は複数台のコンピュータ装置などを用いて実現される。その場合、画像データ取得部11の機能と、画像処理部12の機能と、面積情報取得部13の機能と、割れ率算出部16(形態判定部17の機能、形態データ解析部18の機能)の機能と、推定部19の機能と、状態算出部30の機能をコンピュータ装置に実現させるプログラムを、そのコンピュータ装置にインストールしておけばよい。
Also in this embodiment, the
形態記憶部35dは、形態判定部17の判定結果を、水への浸漬を開始した後での一つの酒米の形態の変化履歴が分かる状態で記憶する。例えば、形態記憶部35dには、形態の判定対象とする複数の酒米のそれぞれについて、水への浸漬を開始した時点から現在(最新)に至るまでの、形態判定部17の判定結果を、その形態の変化履歴が分かる状態で記憶している。その結果、一つの酒米の形態がどのような変化履歴を示したのかを知ることができる。
The morphological storage unit 35d stores the determination result of the
図12は、第2実施形態の機械学習処理を説明するフローチャートである。この機械学習処理は、第1実施形態で説明した機械学習処理(図7)に加えて行われる。具体的に説明すると、工程#30において妥当性判定部36は、形態判定部17が判定した酒米の現在の形態の妥当性を判定する。つまり、形態判定部17が実行する形態判定工程で判定した酒米の形態の妥当性の高低を判定する妥当性判定工程(割れ率算出工程)が実行される。図13は、妥当性判定部36が行う妥当性判定処理を説明するフローチャートである。工程#40において妥当性判定部36は、形態判定部17が判定した酒米の現在の形態の確信度が所定値以上であるか否かを判定する。例えば、形態判定部17の出力層で用いられるソフトマックス関数により算出される最大の尤度を上記確信度とした場合、そのソフトマックス関数により算出される最大の尤度が所定値以上(例えば0.8以上など)であれば、妥当性判定部36は、酒米の現在の形態の確信度が所定値以上であると判定し、工程#41に移行する。
FIG. 12 is a flowchart illustrating the machine learning process of the second embodiment. This machine learning process is performed in addition to the machine learning process (FIG. 7) described in the first embodiment. More specifically, in
次に工程#41において妥当性判定部36は、酒米の形態の変化履歴は所定の基準に適合したものであるか否かを判定する。この所定の基準は以下の6パターンである。そして、妥当性判定部36は、酒米の形態の変化履歴が6パターンの何れかの基準に適合していれば、工程#42に移行して「妥当性は高い」と判定する。
Next, in
具体的に説明すると、例えば一つの酒米の形態を継続的に見た場合、酒米に割れが生じた形態から、酒米が損傷していない形態に戻ることはないし、酒米に亀裂が生じた形態に戻ることもない。つまり、水への浸漬を開始した後での酒米の形態が形態判定部17によって適切に判定されていれば、その変化履歴は所定の変化基準に適合しているはずである。そこで本特徴構成では、妥当性判定部36は、形態判定部17が判定した酒米の形態の確信度が所定値以上であり、且つ、水への浸漬を開始した後での酒米の形態の変化履歴が所定の変化基準に適合している場合には、形態判定部17が判定した酒米の形態の妥当性が高いと判定する。その結果、適切な訓練データの蓄積と機械学習とを自動で行うことができる。
Specifically, for example, when the form of one sake rice is continuously viewed, the form in which the rice is cracked does not return to the form in which the rice is not damaged, and the rice is cracked. It does not return to the resulting form. That is, if the morphology of sake rice after the start of immersion in water is appropriately determined by the
それに対して、妥当性判定部36は、工程#40において確信度が所定値以上ではないと判定した場合、及び、工程#41において酒米の形態の変化履歴が所定の基準に適合したものでないと判定した場合には、工程#43に移行して「妥当性は低い」と判定する。
On the other hand, the
以上のように、妥当性判定部36は、形態判定部17が判定した酒米の形態の確信度が所定値以上であり、且つ、水への浸漬を開始した後での酒米の形態の変化履歴が所定の変化基準に適合している場合には、形態判定部17が判定した酒米の形態の妥当性が高いと判定し、形態判定部17が判定した酒米の形態の確信度が所定値未満である場合、又は、水への浸漬を開始した後での酒米の形態の変化履歴が所定の変化基準に適合していない場合には、形態判定部17が判定した酒米の形態の妥当性が低いと判定する。
As described above, in the
次に、工程#31において、妥当性が高いと判定された酒米の形態に関する情報と、処理済みの2次元画像データとの組み合わせを訓練データとする。そして、工程#32において、その訓練データを既存の訓練データに追加して機械学習を実行する。
Next, in
このように、妥当性判定部36は、形態判定部17が判定した酒米の形態の妥当性の高低を判定し、形態判定部17は、妥当性判定部36によって妥当性が高いと判定された酒米の形態に関する情報とその形態が判定された処理済みの2次元画像データとの組み合わせを既存の訓練データに追加して機械学習を実行する。つまり、適切な訓練データの蓄積と機械学習とを自動で行うことができる。
In this way, the
[第3実施形態]
第3実施形態の状態推定装置1C(1)は、推定部19において3次元形状の変化率を推定する点が上記実施形態と異なっている。以下に第3実施形態の状態推定装置1Cについて説明するが、上記実施形態と同様の構成については説明を省略する。
[Third Embodiment]
The
図14は第3実施形態の状態推定装置1Cの構成を示す図である。図示するように、第3実施形態の状態推定装置1Cは、米分析装置10Cに設けられた2次元形状変化率算出部(2次元形状変化率算出手段)40を備える。この2次元形状変化率算出部40は、画像データ取得部11が取得した2次元画像データを参照して、当該2次元画像データを解析し、酒米の厚み方向と直交する平面に沿った方向における酒米の2次元形状の変化率を算出する。
FIG. 14 is a diagram showing the configuration of the
したがって、本実施形態において、米分析装置10Cは、情報の演算処理機能及び情報の入出力機能及び情報の記憶機能などを備える1台又は複数台のコンピュータ装置などを用いて実現され、その場合、画像データ取得部11の機能と、画像処理部12の機能と、2次元形状変化率算出部40(面積判定部41の機能、面積データ解析部42の機能)の機能と、推定部19の機能と、状態算出部30の機能をコンピュータ装置に実現させるプログラムを、そのコンピュータ装置にインストールしておけばよい。
Therefore, in the present embodiment, the
本実施形態において、2次元形状変化率算出部40は、面積判定部41と面積データ解析部42とを備えており、面積判定部41は、画像データ取得部11が取得し、画像処理部12が処理した2次元画像データを参照して、酒米の厚み方向と直交する平面に沿った方向における酒米の面積を、様々な画像認識技術を用いて自動で判定することができる。
In the present embodiment, the two-dimensional shape change
上記のように、面積判定部41が酒米の面積を判定するために参照する入力データとしての2次元画像データは、画像処理部12が、画像データ取得部11が取得した画像データにおいて、1つの酒米のみを含む領域の2次元酒米画像データを抽出する処理、1つの酒米が所定の姿勢になるように酒米の2次元画像を回転させる処理、及び画像のコントラストを調整する処理を含む画像処理を行った後の処理済みの2次元画像データである。つまり、面積判定部41は、酒米の面積を判定するのに適した状態にした2次元画像データ(処理済みの2次元画像データ)から酒米の面積を判定できるので、その判定結果が適切である可能性が高まる。
As described above, the two-dimensional image data as input data referred to by the
また、本実施形態において、記憶装置35には、水に浸漬する前の酒米の厚み及び厚み方向と直交する平面に沿った面積が予め記憶されている。
Further, in the present embodiment, the
図15は、本実施形態に係る変化率推定方法及び状態推定方法に含まれる、酒米の2次元形状の変化率を算出する工程(2次元形状変化率算出工程)、2次元形状の変化率を3次元形状の変化率に補正して3次元形状の変化率を推定する工程(推定工程)、及び推定した3次元形状の変化率を基に、酒米の比重を算出する工程(状態算出工程)を説明するフローチャートである。図15の工程#50から工程#52は、図2の工程#10から工程#12と同様であるため、詳細については説明を省略する。 FIG. 15 shows a step of calculating the change rate of the two-dimensional shape of sake rice (two-dimensional shape change rate calculation step) included in the change rate estimation method and the state estimation method according to the present embodiment, and the change rate of the two-dimensional shape. Is corrected to the rate of change of the three-dimensional shape to estimate the rate of change of the three-dimensional shape (estimation process), and the process of calculating the specific weight of sake rice based on the estimated rate of change of the three-dimensional shape (state calculation). It is a flowchart explaining a process). Since steps # 50 to # 52 in FIG. 15 are the same as steps # 10 to # 12 in FIG. 2, the details thereof will be omitted.
図15の工程#53において、面積判定部41は、酒米の面積を判定する。つまり、画像処理工程で生成した処理済みの2次元画像データにおける1つの酒米の面積を判定する面積判定工程(2次元形状変化率算出工程)が実行される。本実施形態では、面積判定部41が生成した処理済みの2次元画像データ(図3の2次元画像データF)における1つの酒米の面積を判定する。尚、水に浸漬された状態にある酒米が複数ある場合、面積判定部41がそのうちのいくつの酒米の面積を判定するのかは適宜設定可能である。そして、面積判定部41による判定結果は、複数の酒米のそれぞれに付与された識別子と関連付けられて酒米ごとに面積記憶部35bに記憶される。面積記憶部35bには、面積判定部41の判定結果が、水への浸漬を開始した後での1つの酒米の面積の変化履歴が分かる状態で記憶される。
In
このように、本実施形態では、面積判定部41が、画像処理部12が生成した処理済みの2次元画像データにおける1つの酒米の面積を判定する。その結果、酒米の面積に関して、短時間で判定結果を得ることができる。
As described above, in the present embodiment, the
図15の工程#54において、面積データ解析部42は、画像データ取得部11が取得した2次元画像データに含まれる複数の酒米のそれぞれについての面積判定部41の判定結果に基づいて酒米の2次元形状の変化率を算出する。つまり、面積判定工程の判定結果に基づいて2次元形状の変化率を算出する面積データ解析工程(2次元形状変化率算出工程)が実行される。面積記憶部35bには、複数の酒米のそれぞれについての面積判定部41の判定結果(即ち、酒米ごとの面積)が、水への浸漬を開始した後での1つの酒米の面積の変化履歴が分かる状態で記憶されている。また、面積記憶部35bには、各酒米について、水への浸漬を開始した時点から現在(最新)までの少なくとも2以上の面積が変化履歴として記憶されている。そして、面積データ解析部42は、面積記憶部35bに記憶されている、水への浸漬を開始した時点の複数の酒米の面積及び現在(最新)の複数の酒米の面積を読み出して、各酒米に関するこれら2つの面積を基に、各酒米ごとの2次元形状の変化率を算出する。
In
尚、面積判定部41の判定結果は、出力装置3から出力することもでき、また、酒米の2次元形状の変化率を随時算出して出力装置3からリアルタイムで出力することもできる。更に、面積記憶部35bに、面積判定部41の判定結果が、水への浸漬を開始した後での1つの酒米の面積の変化履歴が分かる状態で記憶されている場合には、面積や2次元形状の変化率の時間的な変化など算出して出力装置3から出力することもできる。
The determination result of the
本実施形態に係る推定部19は、2次元形状変化率算出部40が算出した酒米の2次元形状の変化率を取得し、2次元形状の変化率、及び予め定められた縦割れ率と厚み方向における形状の変化率との相関関係を基に、2次元形状の変化率を補正して3次元形状の変化率とする点が上記各実施形態とは異なっている。
The
上述したように、本願発明者は、2次元形状の変化率が3次元形状の変化率と比較して吸水率との相関が低いことを確認し、厚み方向における形状の変化率に対する横割れ率及び縦割れ率の相関を調べ、縦割れ率と厚み方向における形状の変化率との間に高い相関関係があることを確認した。そして、本願発明者は、縦割れ率が酒米の3次元形状の変化率に与える影響を示す指標たる縦割れ影響度を、上記相関関係に基づいて決定できることを見出した。本実施形態において、縦割れ影響度は、予め複数の品種に関する測定結果から得られたデータベースを基に、縦割れ率と厚み方向の形状の変化率との相関関係を示すグラフ(図6参照)を作成し、このグラフの傾きを縦割れ影響度として予め決定されるものである。 As described above, the inventor of the present application has confirmed that the rate of change of the two-dimensional shape has a lower correlation with the water absorption rate than the rate of change of the three-dimensional shape, and the lateral cracking rate with respect to the rate of change of the shape in the thickness direction. And the correlation of the vertical crack rate was investigated, and it was confirmed that there was a high correlation between the vertical crack rate and the rate of change in shape in the thickness direction. Then, the inventor of the present application has found that the degree of influence of vertical cracking, which is an index showing the influence of the vertical cracking rate on the rate of change of the three-dimensional shape of sake rice, can be determined based on the above correlation. In the present embodiment, the vertical crack influence degree is a graph showing the correlation between the vertical crack rate and the rate of change in shape in the thickness direction based on a database obtained in advance from measurement results for a plurality of varieties (see FIG. 6). Is created, and the slope of this graph is determined in advance as the degree of influence of vertical cracks.
そこで、図15の#55において、推定部19は、2次元形状変化率算出部40によって算出された2次元形状の変化率に縦割れ影響度を乗じることで、2次元形状の変化率を補正して、3次元形状の変化率として推定する。このようにして、推定部19によって推定された3次元形状の変化率が変化率推定装置20Cにより推定された3次元形状の変化率に相当する。このようにして推定された3次元形状の変化率を、記憶装置35に記憶すること、及び、出力装置3から出力することができる。また、3次元形状の変化率の時間的な変動を監視して、3次元形状の変化率が所定の値になった時点で出力装置3から出力することもできる。
Therefore, in # 55 of FIG. 15, the
本実施形態の状態算出部30は、推定部19で求められた3次元形状の変化率(変化率推定装置20Cで推定された3次元形状の変化率)を基に、酒米の比重、密度又は吸水率を算出する。尚、本実施形態では、酒米の比重を算出するものとする。
The
具体的に、図15の工程#56において、状態算出部30は、推定部19から酒米の3次元形状の変化率を取得し、更に、記憶装置35に予め記憶されている、水に浸漬する前の酒米の厚み及び厚み方向と直交する平面に沿った方向における面積を取得して、これら取得した3次元形状の変化率、並びに水に浸漬する前の厚み及び面積を掛け合わせて酒米の体積を算出して、算出した体積を、別途計測して適宜入力される酒米の重量で割ることによって、酒米の比重を算出できる。尚、算出された酒米の比重を、記憶装置35に記憶すること、及び出力装置3から出力することもできる。
Specifically, in
以上のように、変化率推定装置20C及び変化率推定方法によれば、水に浸漬した状態に配置された複数の酒米の2次元画像データを参照して、酒米の2次元形状の変化率を算出した上で、予め定められた酒米の縦割れ率と厚み方向における形状の変化率との相関関係により決定される縦割れ影響度を、2次元形状の変化率に乗じることにより、2次元形状の変化率を補正して3次元形状の変化率として推定することができる。したがって、吸水によって鉛直方向に直交する方向だけでなく、鉛直方向にも膨張する酒米について、複数の撮影装置2などを備えるような複雑な構成の装置を要することなく、容易に、2次元形状の変化率を補正して酒米の3次元形状の変化率を容易に推定することができる。尚、変化率推定装置20A及び変化率推定方法を使用して、吸水によって主に鉛直方向に直交する方向に膨張する炊飯対象米について、2次元形状の変化率を補正して3次元形状の変化率を求めることも当然に可能である。
As described above, according to the rate of
また、状態推定装置1C及び状態推定方法によれば、上記推定された3次元形状の変化率を基にして酒米の比重を算出することができ、酒米の比重を容易に推定することができる。したがって、上述したように、比重を推定することで、心白の状態(例えば、大きさ)を評価することが可能となり、例えば、推定した比重を基に心白の状態を評価して、この評価結果を利用して酒造に好適な米の選別を行うこともできる。
Further, according to the
[別実施形態]
[1]上記第1及び第2実施形態では、酒米について厚み方向における形状の変化率を推定し、上記第3実施形態では、酒米について3次元形状の変化率を推定するようにしているが、これに限られるものではなく、酒米以外の米、例えば、炊飯対象米などについて、厚み方向における形状の変化率や、3次元形状の変化率を推定することもできる。
[Another Embodiment]
[1] In the first and second embodiments, the rate of change in shape of sake rice in the thickness direction is estimated, and in the third embodiment, the rate of change in three-dimensional shape of rice is estimated. However, the present invention is not limited to this, and for rice other than sake rice, for example, rice to be cooked, the rate of change in shape in the thickness direction and the rate of change in three-dimensional shape can be estimated.
[2]上記各実施形態では、状態算出部30において、酒米の体積を算出して、算出した体積を別途計測して適宜入力される酒米の重量で割ることによって、酒米の比重を算出するようにしているが、酒米の重量を体積で割ることによって、酒米の密度を算出するようにしても良い。
[2] In each of the above embodiments, the
[3]上記第3実施形態において、状態算出部30は、推定した3次元形状の変化率と、予め記憶している酒米の3次元形状と酒米の吸水率との間の相関関係とに基づいて、酒米の含水率を算出することもできる。即ち、水に浸漬した状態に配置された複数の酒米について、予め既知の手法によって求めた3次元形状の変化率の平均値を算出し、3次元形状の変化率を求めるのに用いた2次元形状の変化率を測定した時点で水分率計を用いて測定した複数の酒米の吸水率の平均値を算出し、酒米の3次元形状の変化率と吸水率との関係をプロットしておく。そして、プロットした複数の点にとっての近似線が、状態算出部30が参照する、酒米の3次元形状の変化率と吸水率との間の相関関係として、記憶装置35に記憶しておくことで、推定した3次元形状の変化率と、上記相関関係とに基づいて、酒米の吸水率を算出することもできる。
尚、上記第1及び第2実施形態において、水に浸漬する前の酒米の厚み方向と直交する平面に沿った面積を予め記憶しておけば、状態算出部30が、予め記憶された面積と面積情報取得部13で取得した面積とを基に算出される2次元形状の変化率に、推定部19で推定された厚み方向における形状の変化率を乗じて3次元形状の変化率を算出するように構成することで、上記と同様に、酒米の吸水率を算出することもできる。
[3] In the third embodiment, the
In the first and second embodiments, if the area along the plane orthogonal to the thickness direction of the sake rice before being immersed in water is stored in advance, the
[4]上記実施形態では、状態推定装置1A,1B,1C及び変化率推定装置20A,20B,20Cの構成について具体例を挙げて説明したが、その構成は適宜変更可能である。
[4] In the above embodiment, the configurations of the
[5]上記第1及び第2実施形態では、形態判定部17が、CNN(Convolutional Neural Network)を用いて酒米の形態を予測判定する例を説明したが、形態判定部17を構成するアルゴリズムは上述したCNNに限定されず、サポートベクトルマシン(SVM)、k近傍法(k-nearest neighbor algorithm)、判別関数などの他の様々なアルゴリズムを用いて構成することができる。
また、形態判定部17は、酒米に割れが発生しているか否かを、上記実施形態とは異なる様々な画像認識技術を用いて判定するように構成してもよい。或いは、形態判定部17は、人間により行われた、酒米に割れが発生しているか否かの判定結果を受け付けて、その結果を自身の判定結果とするように構成してもよい。
[5] In the first and second embodiments, an example in which the
Further, the
[6]上記実施形態(別実施形態を含む)で開示される構成は、矛盾が生じない限り、他の実施形態で開示される構成と組み合わせて適用することが可能であり、また、本明細書において開示された実施形態は例示であって、本発明の実施形態はこれに限定されず、本発明の目的を逸脱しない範囲内で適宜改変することが可能である。 [6] The configurations disclosed in the above embodiment (including another embodiment) can be applied in combination with the configurations disclosed in other embodiments as long as there is no contradiction, and the present specification. The embodiments disclosed in the document are examples, and the embodiments of the present invention are not limited thereto, and can be appropriately modified without departing from the object of the present invention.
本発明は、米の厚み方向における形状の変化率、又は、米の3次元形状の変化率を推定できる変化率推定装置に利用でき、また、推定した厚み方向における形状の変化率や3次元形状の変化率を基にして米の比重、密度及び吸水率を推定できる状態推定装置に利用できる。 INDUSTRIAL APPLICABILITY The present invention can be used as a change rate estimation device capable of estimating the rate of change in shape of rice in the thickness direction or the rate of change in three-dimensional shape of rice, and the rate of change in shape and three-dimensional shape in the estimated thickness direction. It can be used as a state estimation device that can estimate the specific gravity, density and water absorption rate of rice based on the rate of change of rice.
1(1A,1B,1C) 状態推定装置
2 撮影装置
3 出力装置
10(10A,10B,10C) 米分析装置
11 画像データ取得部
13 面積情報取得部
16 割れ率算出部
19 推定部
20(20A,20B,20C) 変化率推定装置
30 状態算出部
40 2次元形状変化率算出部
1 (1A, 1B, 1C)
Claims (14)
前記撮影手段で撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像データを取得する画像データ取得手段と、
前記画像データ取得手段で取得された2次元画像データを参照して、当該2次元画像データを解析し、複数の対象米のうち、前記対象米の長軸方向に沿う縦断面が開いた縦割れが発生している対象米の割合である縦割れ率を算出する割れ率算出手段と、
前記縦割れ率を前記割れ率算出手段から取得し、前記縦割れ率、及び予め定められた前記対象米の縦割れ率と前記厚み方向における形状の変化率との相関関係を基に、前記対象米の、前記厚み方向における形状の変化率を推定する推定手段とを備える変化率推定装置。 Photographing means for photographing the target rice in a state of being immersed in water,
An image data acquisition means for acquiring two-dimensional image data of the target rice photographed by the photographing means and viewing the target rice from the thickness direction.
With reference to the two-dimensional image data acquired by the image data acquisition means, the two-dimensional image data is analyzed, and among a plurality of target rice, a vertical crack in which a vertical cross section along the long axis direction of the target rice is opened. A crack rate calculation means for calculating the vertical crack rate, which is the ratio of the target rice in which
The vertical cracking rate is obtained from the cracking rate calculating means, and the target is based on the vertical cracking rate and the predetermined correlation between the vertical cracking rate of the target rice and the rate of change in shape in the thickness direction. A rate of change estimation device including an estimation means for estimating the rate of change in the shape of rice in the thickness direction.
前記厚み方向における形状の変化率を前記推定手段から取得し、前記取得した厚み方向における形状の変化率を基に、前記対象米の比重、密度又は吸水率を算出する状態算出手段とを備える状態推定装置。 The rate of change estimation device according to claim 1 and
A state including a state calculating means for acquiring the rate of change in shape in the thickness direction from the estimation means and calculating the specific gravity, density or water absorption rate of the target rice based on the acquired rate of change in shape in the thickness direction. Estimator.
前記状態算出手段において、前記面積を前記面積情報取得手段から取得し、前記取得した厚み方向における形状の変化率、前記取得した面積、及び予め記憶された水に浸漬する前の前記対象米の厚みを基に算出される前記対象米の体積を基に、前記対象米の比重又は密度を算出する請求項2に記載の状態推定装置。 Area information acquisition that analyzes the two-dimensional image data with reference to the two-dimensional image data acquired by the image data acquisition means and acquires the area of the target rice in a direction along a plane orthogonal to the thickness direction. Equipped with means,
In the state calculation means, the area is acquired from the area information acquisition means, the rate of change in shape in the acquired thickness direction, the acquired area, and the thickness of the target rice before being immersed in pre-stored water. The state estimation device according to claim 2, wherein the specific gravity or density of the target rice is calculated based on the volume of the target rice calculated based on the above.
前記撮影手段で撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像データを取得する画像データ取得手段と、
前記画像データ取得手段で取得された2次元画像データを参照して、当該2次元画像データを解析し、前記厚み方向と直交する平面に沿った方向における前記対象米の2次元形状の変化率を算出する2次元形状変化率算出手段と、
前記2次元形状変化率算出手段から前記2次元形状の変化率を取得し、複数の対象米のうち、前記対象米の長軸方向に沿う縦断面が開いた縦割れが発生している対象米の割合である縦割れ率と前記厚み方向における形状の変化率との相関関係、及び前記取得した2次元形状の変化率を基に、前記2次元形状の変化率を補正して3次元形状の変化率として推定する推定手段とを備える変化率推定装置。 Photographing means for photographing the target rice in a state of being immersed in water,
An image data acquisition means for acquiring two-dimensional image data of the target rice photographed by the photographing means and viewing the target rice from the thickness direction.
With reference to the two-dimensional image data acquired by the image data acquisition means, the two-dimensional image data is analyzed, and the rate of change of the two-dimensional shape of the target rice in the direction along the plane orthogonal to the thickness direction is determined. Two-dimensional shape change rate calculation means to calculate,
The change rate of the two-dimensional shape is acquired from the two-dimensional shape change rate calculation means, and among a plurality of target rice, the target rice in which a vertical crack having a vertical cross section open along the long axis direction of the target rice is generated. Based on the correlation between the vertical cracking rate, which is the ratio of A rate of change estimation device including an estimation means for estimating the rate of change.
前記3次元形状の変化率を前記推定手段から取得し、前記取得した3次元形状の変化率を基に、前記対象米の比重、密度又は吸水率を算出する状態算出手段とを備える状態推定装置。 The rate of change estimation device according to claim 4 or 5,
A state estimation device including a state calculating means for acquiring the change rate of the three-dimensional shape from the estimation means and calculating the specific gravity, density or water absorption rate of the target rice based on the acquired three-dimensional shape change rate. ..
前記撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像を基に、複数の対象米のうち、前記対象米の長軸方向に沿う縦断面が開いた縦割れが発生している対象米の割合である縦割れ率を算出する割れ率算出工程と、
前記算出した縦割れ率、及び予め定められた前記対象米の縦割れ率と前記厚み方向における形状の変化率との相関関係を基に、前記対象米の、前記厚み方向における形状の変化率を推定する推定工程とを実行する変化率推定方法。 The shooting process of shooting the target rice soaked in water,
Based on the two-dimensional image of the target rice taken and viewed from the thickness direction, vertical cracks with an open vertical cross section along the long axis direction of the target rice occur among a plurality of target rice. The crack rate calculation process that calculates the vertical crack rate, which is the ratio of the target rice,
Based on the calculated vertical cracking rate and the predetermined correlation between the vertical cracking rate of the target rice and the shape change rate in the thickness direction, the change rate of the shape of the target rice in the thickness direction is determined. A rate of change estimation method that performs an estimation process and an estimation process.
前記状態算出工程において、前記厚み方向における形状の変化率、前記取得した面積、及び水に浸漬する前の前記対象米の厚みを基に算出される前記対象米の体積を基に、前記対象米の比重又は密度を算出する請求項9に記載の状態推定方法。 The area information acquisition step for acquiring the area of the target rice in the direction along the plane orthogonal to the thickness direction is provided based on the two-dimensional image of the target rice taken and viewed from the thickness direction. ,
In the state calculation step, the target rice is calculated based on the rate of change in shape in the thickness direction, the acquired area, and the volume of the target rice before being immersed in water. The state estimation method according to claim 9, wherein the specific gravity or density of rice is calculated.
前記撮影した前記対象米の、当該対象米を厚み方向から視た2次元画像を基に、前記厚み方向と直交する平面に沿った方向における前記対象米の2次元形状の変化率を算出する2次元形状変化率算出工程と、
複数の対象米のうち、前記対象米の長軸方向に沿う縦断面が開いた縦割れが発生している対象米の割合である縦割れ率と前記厚み方向における形状の変化率との相関関係、及び前記算出した2次元形状の変化率を基に、前記2次元形状の変化率を補正して3次元形状の変化率として推定する推定工程とを実行する変化率推定方法。 The shooting process of shooting the target rice soaked in water,
Based on the two-dimensional image of the target rice taken and viewed from the thickness direction, the rate of change in the two-dimensional shape of the target rice in the direction along the plane orthogonal to the thickness direction is calculated. 2 Dimensional shape change rate calculation process and
Correlation between the vertical cracking rate, which is the ratio of the target rice having vertical cracks with an open vertical cross section along the long axis direction of the target rice, and the rate of change in shape in the thickness direction. , And an estimation step of correcting the change rate of the two-dimensional shape and estimating it as the change rate of the three-dimensional shape based on the calculated change rate of the two-dimensional shape.
In the state calculation step, the calculation is made based on the rate of change of the three-dimensional shape and the thickness of the target rice before being immersed in water stored in advance and the area along the plane orthogonal to the thickness direction. The state estimation method according to claim 13, wherein the specific gravity or density of the target rice is calculated based on the volume of the target rice.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018167813A JP7085952B2 (en) | 2018-09-07 | 2018-09-07 | Change rate estimation device, change rate estimation method, state estimation device and state estimation method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018167813A JP7085952B2 (en) | 2018-09-07 | 2018-09-07 | Change rate estimation device, change rate estimation method, state estimation device and state estimation method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020041841A JP2020041841A (en) | 2020-03-19 |
JP7085952B2 true JP7085952B2 (en) | 2022-06-17 |
Family
ID=69798039
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018167813A Active JP7085952B2 (en) | 2018-09-07 | 2018-09-07 | Change rate estimation device, change rate estimation method, state estimation device and state estimation method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7085952B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021166357A1 (en) * | 2020-02-18 | 2021-08-26 | パナソニックIpマネジメント株式会社 | Measurement method and measurement device |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005035786A (en) | 2003-06-22 | 2005-02-10 | Pusai:Kk | Posture control method and posture control device for shape-anisotropic particle |
JP2006071552A (en) | 2004-09-03 | 2006-03-16 | Yamamoto Co Ltd | Apparatus for determining state of particulate object to be inspected |
JP2014163865A (en) | 2013-02-27 | 2014-09-08 | Iwate Industrial Research Center | Sake rice inspection apparatus |
JP2016105074A (en) | 2014-11-21 | 2016-06-09 | 大阪瓦斯株式会社 | Moisture state determination method of rice to be cooked, immersion time determination method and rice cooking facility |
JP2019197000A (en) | 2018-05-10 | 2019-11-14 | 大阪瓦斯株式会社 | Sake rice analysis device |
JP2019200158A (en) | 2018-05-17 | 2019-11-21 | 大阪瓦斯株式会社 | Water content estimation device |
-
2018
- 2018-09-07 JP JP2018167813A patent/JP7085952B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005035786A (en) | 2003-06-22 | 2005-02-10 | Pusai:Kk | Posture control method and posture control device for shape-anisotropic particle |
JP2006071552A (en) | 2004-09-03 | 2006-03-16 | Yamamoto Co Ltd | Apparatus for determining state of particulate object to be inspected |
JP2014163865A (en) | 2013-02-27 | 2014-09-08 | Iwate Industrial Research Center | Sake rice inspection apparatus |
JP2016105074A (en) | 2014-11-21 | 2016-06-09 | 大阪瓦斯株式会社 | Moisture state determination method of rice to be cooked, immersion time determination method and rice cooking facility |
JP2019197000A (en) | 2018-05-10 | 2019-11-14 | 大阪瓦斯株式会社 | Sake rice analysis device |
JP2019200158A (en) | 2018-05-17 | 2019-11-21 | 大阪瓦斯株式会社 | Water content estimation device |
Non-Patent Citations (2)
Title |
---|
中山繁喜、高橋亨,酒造用白米の浸漬割れ測定法,岩手県工業技術センター研究報告,2006年05月,13号,p.45-48,https://agriknowledge.affrc.go.jp/RN/2010763569.pdf |
高品質の大吟醸酒造りを画像認識技術により支援 伏見酒造組合と大阪ガスが酒米評価の新手法を開発,大阪ガス プレスリリース(Web),2018年07月20日,https://www.osakagas.co.jp/company/press/pr_2018/1272278_37838.html |
Also Published As
Publication number | Publication date |
---|---|
JP2020041841A (en) | 2020-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8405742B2 (en) | Processing images having different focus | |
JP7257745B2 (en) | Moisture content estimator | |
US9330325B2 (en) | Apparatus and method for reducing noise in fingerprint images | |
CN109598264B (en) | Object grabbing method and device | |
JP2012195668A5 (en) | ||
US11521120B2 (en) | Inspection apparatus and machine learning method | |
CN108369737A (en) | Using heuristic graph searching quickly and automatically to divide layered image | |
JP7085952B2 (en) | Change rate estimation device, change rate estimation method, state estimation device and state estimation method | |
JP2017227606A (en) | Defect detection device and defect detection method | |
JP7023180B2 (en) | Sake rice analyzer | |
JP5911292B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and image processing program | |
CN111028218A (en) | Method and device for training fundus image quality judgment model and computer equipment | |
JP6700790B2 (en) | Method for determining water content of rice to be cooked, water content determination device, immersion time determination device, and rice cooking equipment | |
CN111311598A (en) | Multi-view-angle-based fastener surface defect detection method and device | |
TW201227602A (en) | Method and computer-readable medium for calculating depth of image | |
CN117710369A (en) | Metal aluminum phosphate film defect detection method and system based on computer vision technology | |
JP6359985B2 (en) | Depth estimation model generation device and depth estimation device | |
JPWO2019172206A5 (en) | ||
CN108876759A (en) | Image detection method, apparatus, system and storage medium | |
JP7263149B2 (en) | Image processing device, image processing method, and program | |
JP7275592B2 (en) | Evaluation method for ozone deterioration of vulcanized rubber material | |
CN111382646B (en) | Living body identification method, storage medium and terminal equipment | |
WO2022024774A1 (en) | Food disposal timing management device, food disposal timing management system, and food disposal timing management method | |
KR20170035262A (en) | Storage method of blade crack information and predict method of the same | |
JP7275594B2 (en) | Evaluation method for ozone deterioration of vulcanized rubber material |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210524 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220408 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220510 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220607 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7085952 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |