JP6795788B2 - 産業機器用の画像認識装置及び画像認識方法 - Google Patents

産業機器用の画像認識装置及び画像認識方法 Download PDF

Info

Publication number
JP6795788B2
JP6795788B2 JP2017010723A JP2017010723A JP6795788B2 JP 6795788 B2 JP6795788 B2 JP 6795788B2 JP 2017010723 A JP2017010723 A JP 2017010723A JP 2017010723 A JP2017010723 A JP 2017010723A JP 6795788 B2 JP6795788 B2 JP 6795788B2
Authority
JP
Japan
Prior art keywords
image recognition
image
information
setting unit
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017010723A
Other languages
English (en)
Other versions
JP2018120373A (ja
Inventor
啓介 中村
啓介 中村
享大 戸畑
享大 戸畑
央 出口
央 出口
伊藤 俊樹
伊藤  俊樹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yaskawa Electric Corp
Original Assignee
Yaskawa Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yaskawa Electric Corp filed Critical Yaskawa Electric Corp
Priority to JP2017010723A priority Critical patent/JP6795788B2/ja
Publication of JP2018120373A publication Critical patent/JP2018120373A/ja
Application granted granted Critical
Publication of JP6795788B2 publication Critical patent/JP6795788B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Description

開示の実施形態は、産業機器用の画像認識装置及び画像認識方法に関する。
特許文献1には、機械学習によって画像認識の認識精度を高める手法が記載されている。
特開2016−212543号公報
しかしながら、機械学習の実行に際しては熟練した技術者の勘や経験などの技量に依存した機械学習の試行を繰り返して非効率的に行わざるを得なかった。
本発明はこのような問題点に鑑みてなされたものであり、画像認識処理の実用性を向上できる産業機器用の画像認識装置及び画像認識方法を提供することを目的とする。
上記課題を解決するため、本発明の一の観点によれば、第1の機械学習プロセスでの学習内容に基づいて、対象物の外観画像情報を画像認識することにより当該対象物の状態情報を出力する画像認識部と、第2の機械学習プロセスでの学習内容に基づいて、前記第1の機械学習プロセスを実行させる前記画像認識部に関するハイパーパラメータを設定する設定部と、を有する産業機器用の画像認識装置が適用される。
また、本発明の別の観点によれば、第1の機械学習プロセスでの学習内容に基づいて、対象物の外観画像情報を画像認識することにより当該対象物の状態情報を出力することと、第2の機械学習プロセスでの学習内容に基づいて、前記第1の機械学習プロセスを実行させる際のハイパーパラメータを設定することと、を実行する産業機器用の画像認識方法が適用される。
本発明によれば、画像認識処理の実用性を向上できる。
実施形態の画像検査システムの概略的なシステムブロック構成の一例を表す図である。 深層学習を適用した場合における画像認識部のニューラルネットワークの概略モデル構成の一例を表す図である。 深層学習を適用した場合における設定部のニューラルネットワークの概略モデル構成の一例を表す図である。 設定部の学習フェーズを説明する図である。 設定部学習用データセットを表す図である。 画像認識部の設計フェーズ、学習フェーズ、及び運用フェーズを説明する図である。 画像認識部学習用データセットを表す図である。 深層学習を適用した場合における画像認識部のニューラルネットワークの概略モデル構成の変形例を表す図である。 3次元カメラで食品の形状情報を取得する構成例を表す図である。 2つの形状情報に基づいて検査結果情報を出力する場合における、画像認識部のニューラルネットワークのモデル概略構成の一例を表す図である。 画像検査装置のハードウェア構成を表すシステムブロック図である。
以下、実施の形態について図面を参照しつつ説明する。
<画像検査システムの概略構成>
図1は、本実施形態の産業機器用の画像認識装置を備えた画像検査システムの概略的なシステムブロック構成の一例を表している。この画像検査システムは、ベルトコンベアで搬送中の加工食品を対象物として、各個体の加工状態を画像認識により検査し異常の有無で選別するシステムである。図1において、画像検査システム1は、搬送選別機2と、カメラ3と、画像検査装置4と、入力装置5と、表示装置6と、機械制御装置7とを有している。
搬送選別機2は、別途の加工工程で加工された食品10をベルトコンベア21で搬送するとともに、後述の画像検査装置4による状態検査に応じて食品10の個体ごとに異常があるものと異常のないものとに選別する機械である。この搬送選別機2は、食品10を搬送するベルトコンベア21と、食品10に対する選別動作を行う選別アクチュエータ22とを有している。なお、本実施形態の例では、魚の切り身などの食品10を検査の対象物とした場合を示しているが、生産ラインで取り扱われるものであれば、食品10の代わりに工業部品や化粧品、文房具などであってもよい。
カメラ3は、この例では光学的に2次元ピクセル列の画像データを撮像する撮像機器である。このカメラ3は、ベルトコンベア21の搬送方向所定位置の上方に配置されており、それぞれ搬送皿に載せられてベルトコンベア21上で搬送される各食品個体10の外観画像を個別に撮像可能となっている。
画像検査装置4(産業機器用の画像認識装置)は、上記のカメラ3で撮像した画像データを画像認識することで、食品10の各個体の加工状態を認識し、それぞれの異常の有無を検査結果情報(状態情報)として出力する。この画像検査装置4は、画像認識部11と設定部12とを有している。
画像認識部11は、当該画像検査装置4の主体部分であり、その運用時において入力された画像データに撮像されている食品個体10の加工状態を画像認識し、その異常の有無を示す検査結果情報を出力する。この例における画像認識部11は、所定の画像認識アルゴリズムに基づくプログラムによってソフトウェア的に実装される処理部であり、あらかじめ複数用意された画像認識アルゴリズムのうちから実施される画像検査の認識内容に応じて選択されたものを実装可能な汎用性を備えている。
設定部12は、上記画像認識部11の実装時に、その適用すべき画像認識アルゴリズムの種類を含むハイパーパラメータ(後述)の設定を行い、当該画像認識部11の実装を補助する処理部である。
なお本実施形態の例における上記の画像認識部11及び設定部12の2つの処理部は、いずれも機械学習プロセスでの学習内容に基づいて処理を行うものであり、それらの処理内容や手法については後に詳述する。
また、上述した画像認識部11、設定部12等における処理等は、これらの処理の分担の例に限定されるものではなく、例えば、更に少ない数の処理部(例えば1つの処理部)で処理されてもよく、また、更に細分化された処理部により処理されてもよい。また、画像検査装置4は、後述するCPU901(図11参照)が実行するプログラムによりソフトウェア的に実装されてもよいし、その一部又は全部がASICやFPGA、その他の電気回路等の実際の装置によりハードウェア的に実装されてもよい。
入力装置5は、後述する設計フェーズ又は学習フェーズにおいて、上記画像認識部11及び設定部12に対し認識内容情報や学習用データセットなどの各種情報を入力する。なお、これらの説明については後に詳述する。
表示装置6は、例えばディスプレイなどで構成し、上記画像検査装置4が出力した検査結果情報の内容を表示する。
機械制御装置7は、上記画像検査装置4が出力した検査結果情報の内容に応じて、上記搬送選別機2の選別アクチュエータ22の作動を制御する。
以上の構成の画像検査システム1よれば、ベルトコンベア21で搬送される複数の加工食品に対して、カメラ3が撮像した各個体の画像データからそれぞれの加工状態における異常の有無を画像検査装置4が画像認識する。そして、その画像認識による検査結果情報に基づいて、選別アクチュエータ22がその選別動作により異常のある個体と異常のない個体とを選別できる。
<本実施形態の特徴>
近年では、機械学習技術の発達により画像認識の精度が向上しており、対象物自体の種類はもちろんその詳細な状態までの認識が高い精度で可能となっている。このような画像認識技術を用いて、本実施形態のように食品工場などにおいて所定種類の不定形にある食品の加工状態を詳細に検査したいという要望がある。
しかしこれまでに画像認識に適用可能な認識アルゴリズムとその機械学習手法は数多く提案されており、画像認識する対象物の種類や目的とする画像認識の認識内容に応じて適切な画像認識アルゴリズム(プログラム)の種類を選択する必要がある。またそのような画像認識アルゴリズムでは、機械学習プロセスで通常のパラメータ(例えば深層学習における各エッジの重み係数)の調整による機械学習を行う以前に、その機械学習を実行させる対象の画像認識アルゴリズムの詳細な設計が必要である。具体的には、当該画像認識アルゴリズムの基本構成を設計する上で必要なハイパーパラメータ(例えば深層学習における層数、ノード数、学習率等)を適切に設定する必要がある。ハイパーパラメータとは、機械学習で学習を行う際に予め外部から与えられて使われるパラメータで、学習時・運用時の性能を左右するものである。
しかしながら、そのように対象物の種類や目的とする認識内容に応じて認識精度の高い有効な画像認識部11を適切に実装するための普遍的な実装手法や理論は明確に確立されていない。このため、上述したように適用すべき画像認識アルゴリズムの選択も含めたハイパーパラメータの設定においては、熟練した技術者の勘や経験などの技量に依存した機械学習の試行を繰り返して非効率的に行わざるを得なかった。このため、対象物の種類や認識内容に対応して機械学習させる画像認識部11に関するハイパーパラメータは、専門の技術者が直接工場などの作業現場に出向いて長時間かけて設定しなければならず、画像認識装置を導入する障害となっていた。
これに対し本実施形態の画像検査装置4では、画像認識部学習フェーズでの機械学習内容に基づいて、対象物の画像データを画像認識することにより当該対象物の状態に関する検査結果情報(状態情報)を出力する画像認識部11に対し、設定部学習フェーズでの機械学習内容に基づいて、上記画像認識部学習フェーズを実行させる画像認識部11に関するハイパーパラメータを設定する設定部12と、を有している。このように画像検査装置4では、画像認識部11に対して対象物の画像データと状態情報の対応関係を画像認識部学習フェーズで機械学習させる以前に、さらに別途上位の設定部学習フェーズで機械学習した設定部12により画像認識部11における適切なハイパーパラメータの設定を機械的に行わせることができる。つまり、これまで技術者の技量に依存していた画像認識AIの設計自体も設定AIで自動的に行わせることが可能となる。
これにより、対象物の種類や目的とする認識内容に応じた画像認識部11を実装する際における人的コスト及び時間的コストを省力化できるとともに、技術者個人の技量差によらず一律に安定した認識精度を確保することができる。上記の手法について、以下に順次説明する。
<画像認識部と設定部の具体的構成について>
まず、画像認識部11の具体的構成について、例えば画像認識アルゴリズムに深層学習(ディープラーニング)を適用した場合の例を以下に説明する。図2は、深層学習を適用した場合における画像認識部11のニューラルネットワークの概略モデル構成の一例を示している。
この図2において、画像認識部11のニューラルネットワークは、カメラ3から入力された2次元ピクセル列の画像データに対して、当該画像データに撮像されている食品10(この例の鮭の切り身)の加工状態についての異常の有無(状態情報)を出力するよう設計されている。図示する例では、形状、大きさ、身ほぐれ、及び皮めくれの4つの検査項目(認識内容)について、それぞれの異常の有無(状態情報)を個別に2値出力する。これら検査項目の判別処理は、当該画像認識部11の学習フェーズにおける機械学習プロセスでの学習内容に基づくものであり、すなわちこの画像認識部11のニューラルネットワークは、画像データに含まれる食品10の外観形状パターンと加工状態との相関を表す特徴量を学習している。
なお認識内容には上記の検査項目の他に、食品10の位置の認識に関する情報を含んでいてもよい。
以上の基本仕様にあるニューラルネットワークにおいては、例えば入力層の直近をいわゆる畳み込み層とプーリング層の組み合わせである畳み込みニューラルネットワーク(特に図示せず)で構成することで柔軟なパターンの認識が可能となる。また例えば、出力層の直近をいわゆるパターン認識や最適値演算に適した全結合層(特に図示せず)で構成することも好適である。
なお上述したように、画像認識部11の画像認識アルゴリズムは、図示した深層学習によるもの以外にも、例えばサポートベクトルマシンやベイジアンネットワーク等を利用した他の画像認識アルゴリズム(特に図示せず)を適用してもよい。その場合でも、入力した画像データに撮像されている対象物の状態を判別して検査結果情報として出力するという基本的な構成については同等となる。
上記例のような多層ニューラルネットワークで構成される深層学習では、例えば層の数や、各層におけるノード(ニューロン、ユニット)の数などのネットワーク規模を決定付けるハイパーパラメータを対象物の種類や認識内容に応じて適切に設定しなければ高い認識精度が得られない。他にも、機械学習プロセスを適切に実行するための学習率、荷重減衰係数、及び重み係数初期値などのハイパーパラメータや、認識精度に関係するミニバッチサイズ、フィルタサイズ、入力画像サイズ、及び畳み込みチャンネル数などのハイパーパラメータなどのように、深層学習を画像認識アルゴリズムとして選択した場合には特に設定すべきハイパーパラメータが多数存在する。
その一方で、工場などの作業現場では、検査対象の食品10の種類や、画像認識内容である検査項目を自由に変更したい要望があり、そのたびに対応した画像認識部11を設計し学習させる必要がある。このように新たな要求に対応した画像認識部11を設計する際に、画像認識アルゴリズムを含めた各種ハイパーパラメータの煩雑な設定を設定部12が機械的に実行する。本実施形態の例では、この設定部12に対してもまた深層学習(ディープラーニング)を適用するものとし、図3にその設定部12のニューラルネットワークの概略モデル構成の一例を示している。
この図3において、設定部12のニューラルネットワークは、入力装置5から入力された2次元ピクセル列の外観画像データと認識内容(検査項目)に対して、それら認識条件に応じて良好な認識精度を期待できる各種ハイパーパラメータを出力するよう設計されている。これらハイパーパラメータの出力は、まず画像認識アルゴリズムの選択に始まり、その選択された画像認識アルゴリズムに対応して必要とされるその他のハイパーパラメータが出力される。これらの出力は、特に図示しないが、各画像認識アルゴリズム別に対応した出力ノードを用意すればよい。これらハイパーパラメータの設定処理は、当該設定部12の学習フェーズにおける機械学習プロセスでの学習内容に基づくものであり、すなわちこの設定部12のニューラルネットワークは、画像データに含まれる食品10の外観形状パターン及び認識内容の情報と、ハイパーパラメータとの相関を表す特徴量を学習している。認識内容情報とは、検査対象の食品10のどのような状態を状態情報として認識するのか、換言すると検査対象の食品10のどのような点を検査項目とするのか、に関する情報である。
<設定部の学習フェーズについて>
次に設定部12の学習フェーズについて説明する。上述したように、設定部12自体もまた機械学習プロセスでの学習内容に基づく処理部であり、その取り扱いについては設計フェーズと、学習フェーズと、運用フェーズに分けられる。本実施形態の例では、設定部12の設計フェーズ、つまり設定部12自体に適用するアルゴリズムの選択とハイパーパラメータとして用いる項目の選定や初期設定は、当該画像検査装置4の開発時に技術者によって行われるものとする。
そのように設計された設定部12が画像検査装置4上でソフトウェア的(又はハードウェア的)に実装された後、図4に示すように、入力装置5を介して入力した多数の設定部学習用データセットを用いていわゆる教師あり学習により設定部12に学習させる。ここで用いる設定部学習用データセットは、例えば図5に示すように、対象物情報、認識内容情報、及び評価値と、ハイパーパラメータとを対応付けたデータセットである。図示する例では、対象物情報に外観画像情報(外観画像データ)が含まれている。また、評価値は、過去に対応するハイパーパラメータで画像認識部11を設定した場合の画像認識性能に関する評価(認識精度、認識処理速度、学習速度など)を示す値である。
設定部12の上記学習フェーズでは、外観画像情報と認識内容情報を入力データとし、ハイパーパラメータを出力データとした組み合わせの教師データを用いて、設定部12のニューラルネットワークの入力層と出力層の間の関係性が成立するよう各ノードどうしをつなぐ各エッジの重み係数を調整するいわゆるバックプロパゲーション処理等により学習を行う。このバックプロパゲーション処理では、多数のデータセットのうち特に評価値の高いデータのみを抽出し、これだけを教師データに用いて各エッジの重み係数を強めるよう調整してもよい。または、全てのデータセットを教師データとし、それぞれの評価値に応じて各エッジの重み係数を強めたり弱めたりするよう調整してもよい。なお、このようなバックプロパゲーションの他にも、いわゆるオートエンコーダ、制限付きボルツマンマシン、ドロップアウト、ノイズ付加、及びスパース正則化などの公知の多様な学習手法を併用して処理精度を向上させてもよい。この設定部12の学習フェーズが、各請求項記載の第2の機械学習プロセスに相当する。
<画像認識部の設計フェーズ、学習フェーズ、運用フェーズについて>
上述したように、画像認識部11は機械学習プロセスでの学習内容に基づく処理部であり、その取り扱いについては設計フェーズと、学習フェーズと、運用フェーズに分けられる。
まず、画像認識部11の設計フェーズでは、図6(a)に示すように、画像認識部11に画像認識させたい対象物の外観画像情報と認識内容情報を入力装置5を介して設定部12に入力し、対応するハイパーパラメータを当該設定部12に出力させる。つまり、この画像認識部11の設計フェーズは、設定部12の運用フェーズでもある。そして、この出力されたハイパーパラメータに基づいて画像認識アルゴリズムを含む画像認識部11の基本構成をソフトウェア的に(プログラムで)実装し、すなわち画像認識部11を設計する。例えば設定部12から出力された認識アルゴリズムが深層学習の場合には、層数、ノード数、学習率といったその他のハイパーパラメータに基づき、ニューラルネットワークの学習モデル(プログラム)が実装される。
次に、画像認識部11の学習フェーズでは、図6(b)に示すように、入力装置5を介して入力した多数の画像認識部学習用データセットを用いていわゆる教師あり学習により画像認識部11に学習させる。ここで用いる画像認識部学習用データセットは、例えば図7に示すように、対象物情報と、検査結果情報(状態情報)とを対応付けたデータセットである。図示する例では、対象物情報に外観画像情報(外観画像データ)が含まれており、検査結果情報(状態情報)には検査項目に対応する異常の有無が示される。例えば上記図2に示した例のように画像認識部11の画像認識アルゴリズムに深層学習を適用した場合には、設定部12の場合と同様にバックプロパゲーション等の公知の多様な学習手法を併用して学習させる。
なお、深層学習においては学習の進行度に応じて学習率などのハイパーパラメータを適宜変更すると結果的に実装した画像認識部11の認識精度が向上することが知られている。このため、画像認識部11の機械学習の進行度に応じて設定部12が適切にハイパーパラメータを変更することは有効である。この画像認識部11の学習フェーズが、各請求項記載の第1の機械学習プロセスに相当する。
そして画像認識部11の運用フェーズでは、図6(c)に示すように、カメラ3で撮像した画像データそのまま画像認識部11に入力することで、当該画像認識部11は画像認識した結果を検査結果情報(状態情報)として出力できる。このとき、設定部12は画像認識部11から分離されてなんら機能しない状態となる。
<本実施形態による効果>
以上説明したように、本実施形態の画像検査システム1が備える画像検査装置4は、画像認識部11に画像データと検査結果情報(状態情報)の対応関係を当該画像認識部11の学習フェーズで機械学習させる以前に、さらに別途上位の学習フェーズで機械学習した設定部12により画像認識部11における適切なハイパーパラメータの設定を機械的に行わせることができる。つまり、これまで技術者の技量に依存していた画像認識AIの設計自体も設定AIで自動的に行わせることが可能となる。これにより、対象物の種類や目的とする認識内容に応じた画像認識部11を実装する際における人的コスト及び時間的コストを削減できるとともに、技術者個人の技量差によらず一律に安定した認識精度を確保することができる。この結果、画像認識処理の実用性を向上できる。
また、本実施形態では特に設定部12が、対象物に関する対象物情報、及び当該対象物のどのような状態を検査結果情報(状態情報)として認識するかに関する認識内容情報に対応したハイパーパラメータを設定する。これにより、設定部12は、画像認識部11に対して具体的に対象物と認識内容に対応した適切なハイパーパラメータを設定することができる。
また、本実施形態では特に、対象物情報は、対象物の外観画像情報であることにより、設定部12は具体的な対象物の外観に対応してどのようなハイパーパラメータを設定すべきか機械学習できる。
また、本実施形態では特に、設定部12の学習フェーズにおいて、設定部12は外観画像情報及び認識内容情報に対して設定すべきハイパーパラメータとの対応関係を学習する。これにより設定部12は、どのような外観の対象物に対してどのような認識内容の画像認識をすべきか具体的に機械学習できる。
また、本実施形態では特に、設定部12の学習フェーズでは、対象物情報、認識内容情報、及び評価値の少なくとも1つとハイパーパラメータとを対応付けた設定部学習用データセットを用いて設定部12を機械学習させる。これにより、設定部12に対する具体的な学習フェーズの実行を実現できる。
また、本実施形態では特に、設定部12は、画像認識部11の学習フェーズの進行度に応じてハイパーパラメータ(主に学習率)を変更する。これにより、画像認識部11の学習フェーズにおける学習段階に応じてハイパーパラメータを適切に変更することが可能となり、実装した画像認識部11の認識精度をさらに向上させることができる。
また、本実施形態では特に、画像認識部11の学習フェーズにおける画像認識アルゴリズムは深層学習であり、ハイパーパラメータは層数、ノード数(ユニット数、ニューロン数)、及び学習率の少なくとも1つを含む。これにより、特にハイパーパラメータの種類が多くその設定と調整が困難とされる深層学習によって画像認識部11の学習フェーズを実行する場合に、設定部12による設定が好適となる。また必要に応じて、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク、フィードフォワードネットワーク、及びホップフィールドネットワーク等のネットワーク構成に関する情報や、積層自己符号化器及びディープボルツマンマシン等のネットワーク構築手法に関する情報等をハイパーパラメータに含めてもよい。また機械学習プロセスの種類自体も認識アルゴリズムとしてハイパーパラメータに含まれており、他の認識アルゴリズム(例えばサポートベクトルマシンやベイズ等)やそれらの組み合わせを選択した場合には、対応する他のハイパーパラメータが設定される。
<変形例>
なお、以上説明した実施形態は、その趣旨及び技術的思想を逸脱しない範囲内で種々の変形が可能である。
<変形例1:設定部の変形例について>
上記実施形態では、設定部12を深層学習で実装した例を示したが、これに限られず他の機械学習で設定部12を実装してもよい。また、特に図示説明しないが、設定部12自体の設計フェーズもまたさらに上位の設定部(特に図示せず)によって機械的に行ってもよい。また上記実施形態では画像認識部11に4つの検査項目(認識内容)それぞれの検査結果情報を出力させていたが、これに限られない。例えば、画像認識部11の設計フェーズ(設定部12の運用フェーズ)においてユーザが任意に選択した検査項目にだけ対応したハイパーパラメータを、設定部12が設定してもよい。
上記図2の画像認識部11では、全ての検査項目をそれぞれ出力させるニューラルネットワークを一体化して構築していたが、これに限られない。例えば、図8に示すように、入力層に近い畳み込みニューラルネットワークを共通層としてそれから各検査項目別にニューラルネットワークを独立させてもよく、そのようなネットワーク構成を構築するようなハイパーパラメータを設定部12が設定してもよい。
<変形例2:複数のカメラで撮像した複数の画像データでパターン認識する場合>
図9に示す例では、それぞれの撮像領域が重複する2台のカメラ41,42で構成されたいわゆる3次元カメラ43を用いて1つの食品F(図示する例では鳥唐揚げ)をそれぞれ異なる撮像方向から撮像している。これにより、図10の左側に示すように、1つの食品Fに対して相互に視差を有する2つの画像データ(それぞれ2次元ピクセル列)を取得することができる。
図10に示す例では、画像認識部11のニューラルネットワークが上記2つの画像データをそのまま個別に入力され、それら2つの画像データに基づいて食品Fの形状パターンを認識するよう設計されている。このように3次元の画像データを用いることで、特に形状や大きさが不定である食品Fに対して立体形状の空間認識精度が向上する。なお、カメラは撮像領域が重複すれば3つ以上用いてもよいし、画像認識部11のニューラルネットワークにおいてそれぞれの画像データを個別の畳み込みニューラルネットワークで処理してから同一の全結合層でパターン認識してもよい。
<その他の変形例>
また特に図示しないが、対象物の画像データを取得する光学的センシング手段としてレーザースキャナ等をカメラ2(および3次元カメラ43)の代わりに用いてもよい。この場合には、例えばレーザースキャナから投光された走査線で対象物の表面上における各点との距離を計測し、これらの距離データの集合で画像データを取得する。また、画像認識部11は、外観部分画像の画像データではなく、例えば3D立体モデルを形状情報として取得してもよい。
また上記実施形態では、画像検査装置4に画像認識部11と設定部12を一体に備えるよう構成していたが、これに限られない。他にも、設定部12については画像検査装置4の外部に設けられたサーバ(特に図示せず)などの専用の処理装置に設けてもよく、特にこのサーバがインターネット等の通信ネットワークを介して接続されたいわゆるクラウドサーバであってもよい。この場合、設定部の設計フェーズや学習フェーズを当該サーバ側で実行し、この設定部の運用フェーズである画像認識部設計フェーズや画像認識部学習フェーズにおいては、必要に応じて上記サーバから出力されたハイパーパラメータを画像認識部11に適用して実装すればよい。
さらに、画像認識部11についてもその設計フェーズや学習フェーズを外部のサーバ(特に図示せず)で実行してもよい。この場合、そのサーバでの機械学習プロセスの結果得られた学習内容(例えば深層学習の場合のネットワーク全体の構成や、各層単位でエッジ重み計数をまとめたテンソルブロック(行列値ブロック)など)を画像検査装置4に入力し、当該画像検査装置4がその学習内容に基づいて画像認識部11をソフトウェア的に内部実装し、運用すればよい。
<画像検査装置のハードウェア構成例>
次に、図11を参照しつつ、上記で説明したCPU901が実行するプログラムによりソフトウェア的に実装された画像認識部11、設定部12等による処理を実現する画像検査装置4のハードウェア構成例について説明する。
図11に示すように、画像検査装置4は、例えば、CPU901と、ROM903と、RAM905と、ASIC又はFPGA等の特定の用途向けに構築された専用集積回路907と、入力装置913と、出力装置915と、記録装置917と、ドライブ919と、接続ポート921と、通信装置923とを有する。これらの構成は、バス909や入出力インターフェース911を介し相互に信号を伝達可能に接続されている。
プログラムは、例えば、ROM903やRAM905、記録装置917等に記録しておくことができる。
また、プログラムは、例えば、フレキシブルディスクなどの磁気ディスク、各種のCD・MOディスク・DVD等の光ディスク、半導体メモリ等のリムーバブルな記録媒体925に、一時的又は永続的に記録しておくこともできる。このような記録媒体925は、いわゆるパッケージソフトウエアとして提供することもできる。この場合、これらの記録媒体925に記録されたプログラムは、ドライブ919により読み出されて、入出力インターフェース911やバス909等を介し上記記録装置917に記録されてもよい。
また、プログラムは、例えば、ダウンロードサイト・他のコンピュータ・他の記録装置等(図示せず)に記録しておくこともできる。この場合、プログラムは、LANやインターネット等のネットワークNWを介し転送され、通信装置923がこのプログラムを受信する。そして、通信装置923が受信したプログラムは、入出力インターフェース911やバス909等を介し上記記録装置917に記録されてもよい。
また、プログラムは、例えば、適宜の外部接続機器927に記録しておくこともできる。この場合、プログラムは、適宜の接続ポート921を介し転送され、入出力インターフェース911やバス909等を介し上記記録装置917に記録されてもよい。
そして、CPU901が、上記記録装置917に記録されたプログラムに従い各種の処理を実行することにより、上記の画像認識部11及び設定部12が実現される。この際、CPU901は、例えば、上記記録装置917からプログラムを直接読み出して実行してもよいし、RAM905に一旦ロードした上で実行してもよい。更にCPU901は、例えば、プログラムを通信装置923やドライブ919、接続ポート921を介し受信する場合、受信したプログラムを記録装置917に記録せずに直接実行してもよい。
また、CPU901は、必要に応じて、例えばマウス・キーボード・マイク(図示せず)等の入力装置913から入力する信号や情報に基づいて各種の処理を行ってもよい。
そして、CPU901は、上記の処理を実行した結果を、例えば表示装置や音声出力装置等の出力装置915から出力してもよく、さらにCPU901は、必要に応じてこの処理結果を通信装置923や接続ポート921を介し送信してもよく、上記記録装置917や記録媒体925に記録させてもよい。
なお、以上の説明において、「垂直」「平行」「平面」等の記載がある場合には、当該記載は厳密な意味ではない。すなわち、それら「垂直」「平行」「平面」とは、設計上、製造上の公差、誤差が許容され、「実質的に垂直」「実質的に平行」「実質的に平面」という意味である。
また、以上の説明において、外観上の寸法や大きさ、形状、位置等が「同一」「同じ」「等しい」「異なる」等の記載がある場合は、当該記載は厳密な意味ではない。すなわち、それら「同一」「等しい」「異なる」とは、設計上、製造上の公差、誤差が許容され、「実質的に同一」「実質的に同じ」「実質的に等しい」「実質的に異なる」という意味である。
また、以上既に述べた以外にも、上記実施形態や各変形例による手法を適宜組み合わせて利用しても良い。その他、一々例示はしないが、上記実施形態や各変形例は、その趣旨を逸脱しない範囲内において、種々の変更が加えられて実施されるものである。
1 画像検査システム
2 搬送選別機
3 カメラ
4 画像検査装置(産業機器用の画像認識装置)
5 入力装置
6 表示装置
7 機械制御装置
10,F 食品(対象物)
11 画像認識部
12 設定部
21 ベルトコンベア
22 選別アクチュエータ

Claims (8)

  1. 第1の機械学習プロセスでの学習内容に基づいて、対象物の外観画像情報を画像認識することにより当該対象物の状態情報を出力する、あらかじめ複数用意された画像認識アルゴリズムのうちから選択されたものを実装可能な画像認識部と、
    第2の機械学習プロセスでの学習内容に基づいて、前記第1の機械学習プロセスを実行させる前記画像認識部に関するハイパーパラメータであって前記画像認識アルゴリズムの種類を含む前記ハイパーパラメータを設定する設定部と、
    を有することを特徴とする画像認識装置。
  2. 前記設定部は、
    前記対象物に関する対象物情報、及び当該対象物のどのような状態を前記状態情報として認識するかに関する認識内容情報に対応したハイパーパラメータを設定することを特徴とする請求項1記載の画像認識装置。
  3. 前記対象物情報は、前記対象物の外観画像情報であることを特徴とする請求項2記載の画像認識装置。
  4. 前記第2の機械学習プロセスにおいて前記設定部は、外観画像情報及び認識内容情報に対して設定すべきハイパーパラメータとの対応関係を学習することを特徴とする請求項3記載の画像認識装置。
  5. 前記第2の機械学習プロセスは、対象物情報、認識内容情報、及び評価値の少なくとも1つとハイパーパラメータとを対応付けたデータセットを用いて前記設定部を機械学習させることを特徴とする請求項2乃至4のいずれか1項に記載の画像認識装置。
  6. 前記設定部は、
    前記第1の機械学習プロセスの進行度に応じて前記ハイパーパラメータを変更することを特徴とする請求項1乃至5のいずれか1項に記載の画像認識装置。
  7. 前記第1の機械学習プロセスにおける前記画像認識アルゴリズムは深層学習であり、前記ハイパーパラメータは層数、ノード数、及び学習率の少なくとも1つを含むことを特徴とする請求項1乃至6のいずれか1項に記載の画像認識装置。
  8. 第1の機械学習プロセスでの学習内容に基づいて、あらかじめ複数用意された画像認識アルゴリズムのうちから選択された前記画像認識アルゴリズムにより対象物の外観画像情報を画像認識することにより当該対象物の状態情報を出力することと、
    第2の機械学習プロセスでの学習内容に基づいて、前記第1の機械学習プロセスを実行させる際のハイパーパラメータであって前記画像認識アルゴリズムの種類を含む前記ハイパーパラメータを設定することと、
    を実行することを特徴とする画像認識方法。
JP2017010723A 2017-01-24 2017-01-24 産業機器用の画像認識装置及び画像認識方法 Active JP6795788B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017010723A JP6795788B2 (ja) 2017-01-24 2017-01-24 産業機器用の画像認識装置及び画像認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017010723A JP6795788B2 (ja) 2017-01-24 2017-01-24 産業機器用の画像認識装置及び画像認識方法

Publications (2)

Publication Number Publication Date
JP2018120373A JP2018120373A (ja) 2018-08-02
JP6795788B2 true JP6795788B2 (ja) 2020-12-02

Family

ID=63045150

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017010723A Active JP6795788B2 (ja) 2017-01-24 2017-01-24 産業機器用の画像認識装置及び画像認識方法

Country Status (1)

Country Link
JP (1) JP6795788B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020051982A (ja) * 2018-09-28 2020-04-02 Jfeテクノリサーチ株式会社 画像検査装置及び検査モデル構築システム
CN111123849A (zh) * 2018-10-30 2020-05-08 施耐德电气工业公司 用于工业控制的方法和设备
JP7320001B2 (ja) * 2018-12-07 2023-08-02 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法、プログラム、移動体制御装置、及び、移動体
JP7262232B2 (ja) * 2019-01-29 2023-04-21 東京エレクトロン株式会社 画像認識システムおよび画像認識方法
JP7194613B2 (ja) * 2019-02-28 2022-12-22 デンカ株式会社 基板の製造方法
JP7195977B2 (ja) * 2019-02-28 2022-12-26 デンカ株式会社 基板検査装置、基板検査方法、およびプログラム
JP7211677B2 (ja) * 2019-03-29 2023-01-24 株式会社日立ソリューションズ・クリエイト 食材管理支援システムおよび食材管理支援方法
JP7401995B2 (ja) * 2019-08-26 2023-12-20 株式会社 ゼンショーホールディングス 載置状態管理装置、載置状態管理方法及び載置状態管理プログラム
JP2021051702A (ja) * 2019-09-26 2021-04-01 Nriシステムテクノ株式会社 検査支援装置、検査支援方法、検査支援システム、検査装置、検査方法、およびプログラム
WO2021221176A1 (ja) * 2020-04-30 2021-11-04 株式会社高井製作所 豆腐類検査装置、豆腐類製造システム、豆腐類の検査方法、およびプログラム
JP7248316B2 (ja) * 2020-04-30 2023-03-29 株式会社高井製作所 豆腐類検査装置、豆腐類製造システム、豆腐類の検査方法、およびプログラム
CN115334905A (zh) * 2020-04-30 2022-11-11 株式会社高井制作所 豆腐生产系统
JP7248317B2 (ja) * 2020-04-30 2023-03-29 株式会社高井製作所 豆腐類製造システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09185595A (ja) * 1996-01-08 1997-07-15 Fujitsu Ltd 砂時計ニューラルネットワークの引き延ばし学習方法および能動的物体認識装置
JP2006252333A (ja) * 2005-03-11 2006-09-21 Nara Institute Of Science & Technology データ処理方法、データ処理装置およびそのプログラム
JP6236296B2 (ja) * 2013-11-14 2017-11-22 株式会社デンソーアイティーラボラトリ 学習装置、学習プログラム、及び学習方法
JP6632288B2 (ja) * 2014-12-12 2020-01-22 キヤノン株式会社 情報処理装置、情報処理方法、プログラム

Also Published As

Publication number Publication date
JP2018120373A (ja) 2018-08-02

Similar Documents

Publication Publication Date Title
JP6795788B2 (ja) 産業機器用の画像認識装置及び画像認識方法
Alexopoulos et al. Digital twin-driven supervised machine learning for the development of artificial intelligence applications in manufacturing
Benbarrad et al. Intelligent machine vision model for defective product inspection based on machine learning
JP6912008B2 (ja) マシンビジョンシステム
EP3284563B1 (en) Picking system
JP7186304B2 (ja) 欠陥検査装置
US11475289B2 (en) Learning device unit
Furmann et al. Interactive design of reconfigurable logistics systems
JP7110884B2 (ja) 学習装置、制御装置、学習方法、及び学習プログラム
Wilhelm et al. Improving Human-Machine Interaction with a Digital Twin: Adaptive Automation in Container Unloading
WO2021221176A1 (ja) 豆腐類検査装置、豆腐類製造システム、豆腐類の検査方法、およびプログラム
US20230201973A1 (en) System and method for automatic detection of welding tasks
US11948347B2 (en) Fusion model training using distance metrics
Alarcon-Herrera et al. Viewpoint selection for vision systems in industrial inspection
WO2021100483A1 (ja) モデル生成装置、推定装置、モデル生成方法、及びモデル生成プログラム
Ahlin The Robotic Workbench and poultry processing 2.0
CN113674339A (zh) 基于强化学习的传送控制
JP7070308B2 (ja) 推定器生成装置、検査装置、推定器生成方法、及び推定器生成プログラム
US20210356946A1 (en) Method and system for analyzing and/or configuring an industrial installation
JP2021179418A (ja) 豆腐類検査装置、豆腐類製造システム、豆腐類の検査方法、およびプログラム
US20230202035A1 (en) Method for Generating a Training Dataset for Training an Industrial Robot
JP7470062B2 (ja) 情報処理装置、および、学習認識システム
WO2021019734A1 (ja) 分類方法、分類プログラム、分類装置、学習方法、学習プログラム及び学習装置
Abdo et al. Multiple-sensor fault detection and isolation using video processing in production lines
Nikolakis et al. A digital twin-enabled cyber-physical system approach for mixed packaging

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190613

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200227

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200909

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201014

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201027

R150 Certificate of patent or registration of utility model

Ref document number: 6795788

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150