JP7013110B1 - モデル生成装置、異常判定装置、異常判定システム、モデル生成方法及びプログラム - Google Patents

モデル生成装置、異常判定装置、異常判定システム、モデル生成方法及びプログラム Download PDF

Info

Publication number
JP7013110B1
JP7013110B1 JP2021517493A JP2021517493A JP7013110B1 JP 7013110 B1 JP7013110 B1 JP 7013110B1 JP 2021517493 A JP2021517493 A JP 2021517493A JP 2021517493 A JP2021517493 A JP 2021517493A JP 7013110 B1 JP7013110 B1 JP 7013110B1
Authority
JP
Japan
Prior art keywords
moving image
production equipment
abnormality determination
model
abnormality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021517493A
Other languages
English (en)
Other versions
JPWO2022079783A1 (ja
Inventor
祥悟 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP7013110B1 publication Critical patent/JP7013110B1/ja
Publication of JPWO2022079783A1 publication Critical patent/JPWO2022079783A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Factory Administration (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

モデル生成装置(10)は、複数の動作モードにて動作する生産設備を撮像して得られた動画像に含まれる、動作モードごとの部分動画像を特定する特定部(103)と、特定部(103)により特定された動作モードごとの部分動画像が互いに有する時系列的な関係に基づいて、生産設備を撮像して得られる動画像から生産設備に異常があるか否かを判定するための異常判定モデルを生成するモデル生成部(104)と、を備える。

Description

本開示は、モデル生成装置、異常判定装置、異常判定システム、モデル生成方法及びプログラムに関する。
空間が撮像された動画像に基づいて、当該空間に異常があるか否かを判定する技術が知られている。例えば特許文献1には、正常時に撮像された動画像を機械学習により学習して学習モデルを構築し、動画像にて撮像対象となっている空間に異常があるか否かを構築された学習モデルに基づいて判定する技術が開示されている。特許文献1において、学習モデルは、既存の多数の設置場所から収集した動画像を類似するシーンでクラスタリングして学習することにより構築される。
特開2018-173914号公報
特許文献1に記載の技術を生産現場に応用することにより、生産現場にて動作する生産設備を撮像した動画像から、当該生産設備に異常があるか否かを判定することが考えられる。
ところで、生産設備は、複数の動作モードにて動作することがある。例えば、生産設備が複数種類の製品の生産に対応するものであるとき、当該生産設備は生産する製品ごとに異なる動作モードにて動作する。
この場合において、予め定められた順番にて動作モードを切り替えることが要求される場合がある。つまり、複数の動作モードにて動作する生産設備においては、それぞれの動作モード間に時系列的な関係を有する場合がある。
一方、特許文献1に記載の技術では、収集した動画像を類似するシーンでクラスタリングして学習することにより学習モデルが構築されるので、上記の時系列的な関係を学習モデルに反映させることができない。そのため、動作モードの切り替え順が予め定められた順番と異なる、といった異常が発生したときに、特許文献1に記載の技術では、このような異常を判定できないという問題がある。
本開示の目的は、上記の事情に鑑み、複数の動作モードにて動作する生産設備の異常を好適に判定することにある。
上記の目的を達成するため、本開示に係るモデル生成装置は、
複数の動作モードにて動作する生産設備であって各動作モードにおいて周期的な動作をする生産設備を撮像して得られた動画像に含まれる、動作モードごとの部分動画像を前記周期的な動作が変化する時点に基づいて特定する特定手段と、
前記特定手段により特定された前記動作モードごとの部分動画像が互いに有する時系列的な関係に基づいて、前記生産設備を撮像して得られる動画像から前記生産設備に異常があるか否かを判定するための異常判定モデルを生成するモデル生成手段と、
を備える。
本開示によれば、複数の動作モードにて動作する生産設備の異常を好適に判定できる。
本開示の実施の形態に係る異常判定システムの全体構成を示す図 本開示の実施の形態に係るモデル生成装置の機能的構成を示すブロック図 本開示の実施の形態に係るモデル生成装置の特定部による部分動画像の特定の一例を示す図 本開示の実施の形態に係る異常判定装置の機能的構成を示すブロック図 本開示の実施の形態に係るモデル生成装置及び異常判定装置のハードウェア構成の一例を示す図 本開示の実施の形態に係るモデル生成装置によるモデル生成の動作の一例を示すフローチャート 本開示の実施の形態に係る異常判定装置による異常判定の動作の一例を示すフローチャート
以下、図面を参照しながら、本開示の実施の形態に係る異常判定システムを説明する。各図面においては、同一又は同等の部分に同一の符号を付す。
(実施の形態)
図1を参照しながら、実施の形態に係る異常判定システム1を説明する。異常判定システム1によれば、生産現場に設けられた生産設備30を撮像装置40にて撮像することにより得られる動画像に基づいて、生産設備30に異常があるか否かを判定することができる。異常判定システム1は、モデル生成装置10と異常判定装置20と生産設備30と撮像装置40とを備える。異常判定装置20と撮像装置40とは通信可能に接続されている。異常判定装置20とモデル生成装置10とは、ネットワークNTを介して互いに通信可能に接続されている。異常判定システム1は、本開示に係る異常判定システムの一例である。
生産設備30は、工場内の生産現場に設置された、製品を生産するため生産設備である。生産設備30は、例えばベルトコンベア、センサ、産業用ロボットなど、製品の生産に必要な機器を含む。また、生産設備30は、複数の動作モードにて動作する。例えば、生産設備30は、複数種類の製品を生産することが可能であり、種類ごとに異なる動作モードにて動作する。生産設備30は、本開示に係る生産設備の一例である。
撮像装置40は、生産設備30を撮像して動画像を得る撮像装置である。撮像装置40は、例えば動画像を撮像可能なデジタルビデオカメラである。撮像装置40は、生産設備30を撮像して得られた動画像を異常判定装置20に送信する。後述するとおり、異常判定装置20に送信された動画像は、モデル生成装置10による異常判定モデルの生成及び異常判定装置20による異常判定に用いられる。撮像装置40は、本開示に係る撮像手段の一例である。
異常判定装置20は、撮像装置40により生産設備30を撮像して得られた動画像を撮像装置40から取得し、取得した動画像と後述の異常判定モデルとに基づいて生産設備30に異常があるか否かを判定する。異常判定装置20は、モデル生成装置10から異常判定モデルを取得する。異常判定装置20は、後述のモデル生成装置10によるモデル生成のために、取得した動画像をモデル生成装置10に送信する。異常判定装置20は、例えばプログラマブルロジックコントローラを含む。異常判定装置20の機能的構成については後述する。異常判定装置20は、本開示に係る異常判定装置の一例である。
モデル生成装置10は、撮像装置40により生産設備30を撮像して得られた動画像を、異常判定装置20を介して取得し、取得した動画像に基づいて異常判定モデルを生成する。異常判定モデルとは、異常判定装置20が生産設備30を撮像して得られる動画像から生産設備30に異常があるか否かを判定するために使用されるモデルである。モデル生成装置10は、例えば生産設備30を撮像して得られた複数の動画像に対して機械学習を行うことにより異常判定モデルを生成する。モデル生成装置10は、生成した異常判定モデルを異常判定装置20に送信する。モデル生成装置10は、例えば産業用コンピュータ、クラウドサーバなどのコンピュータである。モデル生成装置10の機能的構成については後述する。モデル生成装置10は、本開示に係るモデル生成装置の一例である。
ネットワークNTは、モデル生成装置10と異常判定装置20とを通信可能に接続するネットワークである。ネットワークNTは、例えばインターネットである。あるいは、ネットワークNTは、工場内ネットワーク、事業所内ネットワークなどのローカルネットワークであってもよい。
次に、図2を参照しながら、モデル生成装置10の機能的構成を説明する。モデル生成装置10は、制御部100と通信部110と記憶部120とユーザインタフェース部130とを備える。
制御部100は、モデル生成装置10を統括制御する。制御部100は特に、動画像取得部101と設定部102と特定部103とモデル生成部104とモデル送信部105とを備える。これらの各機能部の詳細については後述する。
通信部110は、ネットワークNTを介して異常判定装置20と通信する。通信部110は特に、異常判定装置20から生産設備30を撮像して得られた動画像を受信し、異常判定装置20に異常判定モデルを送信する。
記憶部120は、後述のモデル生成のために必要な各種情報を保存する。記憶部120は特に、異常判定装置20から取得された生産設備30を撮像して得られた動画像と、ユーザにより設定された後述の設定に関する情報を保存する。
ユーザインタフェース部130は、ユーザからの入力を受け付け、ユーザに必要な情報を報知する。ユーザインタフェース部130は、後述するモデル生成の設定に関する情報を表示し、ユーザから設定に関する入力を受け付ける。ユーザインタフェース部130は、例えばタッチスクリーンである。あるいは、外部の入出力装置を接続するためのインタフェースであってもよい。
以下、制御部100が備える各機能部を説明する。動画像取得部101は、生産設備30を撮像して得られた動画像を、通信部110を介して異常判定装置20から取得し、取得した動画像を記憶部120に保存する。取得し保存された動画像は、後述の特定部103及びモデル生成部104により使用される。
設定部102は、ユーザインタフェース部130を制御してユーザからモデル生成の設定に関する入力を促すための報知をする。設定部102は、報知に応答してユーザが入力した設定に関する情報をユーザインタフェース部130から取得する。設定部102は、ユーザが入力した設定に関する情報に基づいて、モデル生成のために必要な設定を行い、設定に関する情報を記憶部120に保存する。モデル生成のために必要な設定とは、例えば、モデル生成の際に使用する動画像の選択、後述する類似判定における閾値の設定などである。ただし、これらの設定は、必ずしも必須ではない。例えば、動画像の選択については、例えば直近48時間以内の動画を自動的に選択するものであってもよい。また、閾値についても、例えば経験則上好ましいとされる値を採用してもよい。
特定部103は、記憶部120に保存された動画像に含まれる、動作モードごとの部分動画像を特定する。例えば、生産設備30が「モード1」及び「モード2」の2つの動作モードにて動作するとき、動画像は、「モード1」で動作する生産設備30が撮像された部分動画像と、「モード2」で動作する生産設備30が撮像された部分動画像とを含む。特定部103は、動画像に含まれるこれらの部分動画像を動作モードごとに特定する。特定部103により特定された部分動画像は、後述のモデル生成部104による異常判定モデルの生成の際に使用される。特定部103は、本開示に係る特定手段の一例である。
特定部103は、例えば、動画像を時系列的に分析することにより、各動作モードにおける各部分動画像を特定する。生産設備30は、同一の動作を周期的に繰り返し行うことにより、製品を継続的に生産する。そのため、それぞれの動作モードにおいて、生産設備30は周期的な動作を行うことが通常である。したがって、「周期的な動作」が変化する時点が、動作モードが切り替わる時点である。よって、動画像を時系列的に分析して動作モードが切り替わる時点を特定することにより、動画像に含まれる各動作モードにおける各部分動画像を特定できる。
また、特定の対象となる動画像が複数あるときは、以下に説明するように、より精度よく各動作モードにおける各部分動画像を特定できる。以下、図3を参照しながら説明する。図3は、特定部103が、動画像A、動画像B及び動画像Cのそれぞれについて、「モード1」に係る部分動画像、「モード2」に係る部分動画像及び「モード3」に係る部分動画像を特定する例を示す図である。ただし、図3に示すとおり、動画像Cは「モード2」に係る部分動画像を含まない。
特定部103は、動画像A、動画像B及び動画像Cを、フレーム単位で比較する。同一の動作モードに係る部分動画像をフレーム単位で比較したときには類似度が大きくなり、異なる動作モードに係る部分動画像をフレーム単位で比較したときには類似度が小さくなることが期待できる。そのため、1つの動画像を時系列的に分析する場合と比べて、動作モードが切り替わる時点をより高精度に特定できる。
例えば、「モード1」と「モード2」とで、生産設備30の動作が類似する場合を考える。この場合、1つの動画像を時系列的に分析して部分動画像を特定するときに、これらの2つの動作モードをまとめて1つの動作モードとして特定してしまう可能性がある。一方、複数の動画像をフレーム単位で比較する方法では、1つの動画像において動作モードが切り替わるとき、動画像間でのフレームの類似度が減少するので、精度よく各部分動画像を特定できる。例えば図3において、「モード1」から他の動作モードに切り替わるのが最も早いのは動画像Bである。動画像Bにおいて「モード1」から「モード2」に動作モードが切り替わる時点では、動画像A及び動画像Cにおける動作モードは未だ「モード1」である。したがって、この時点でのフレーム単位での類似度は、全ての動画像にて動作モードが同一であるときのフレーム単位での類似度よりも減少する。
また、図3においては、動画像A及び動画像Bは、「モード2」に係る部分動画像を含むが、動画像Cは「モード2」に係る部分動画像を含まない。そのため、動画像Cを比較対象として含むことにより、動画像Cを比較対象として含まない場合と比べて「モード1」に係る部分動画像及び「モード2」に係る部分動画像をより精度よく区別して特定できる。
再び図2を参照する。モデル生成部104は、特定部103により特定された、動作モードごとの部分動画像に基づいて、生産設備30を撮像して得られる動画像から生産設備30に異常があるか否かを判定するための異常判定モデルを生成して記憶部120に保存する。当該異常判定モデルは、異常判定装置20にて使用される。モデル生成部104は特に、動作モードごとの部分動画像が互いに有する時系列的な関係に基づいて、異常判定モデルを生成する。「時系列的な関係」については後述する。特定部103が複数の動画像を対象として部分動画像を特定したとき、モデル生成部104は、当該複数の動画像に係る各部分動画像に基づいて異常判定モデルを生成する。モデル生成部104は、例えば、各部分動画像を学習対象とする機械学習により異常判定モデルを生成する。モデル生成部104は、本開示に係るモデル生成手段の一例である。
以下、「時系列的な関係」について説明する。例えば図3に示す例では、「モード1」の次には「モード2」又は「モード3」が続き、「モード2」の次には「モード3」が続く。また、「モード2」の次に「モード1」が続くことはない。このように、各部分動画像は互いに「時系列的な関係」を有する。図3に示す動画像A、動画像B及び動画像Cに基づいて異常判定モデルを構築した場合において、異常判定装置20による異常判定の対象となる動画像が、「モード2」、「モード1」、「モード3」の順に動作モードを切り替える生産設備30を撮像したものであるとき、異常判定装置20は、生産設備30に異常があると判定する。
再び図2を参照する。モデル送信部105は、モデル生成部104にて生成され記憶部120に保存された異常判定モデルを、通信部110を介して異常判定装置20に送信する。
次に、図4を参照しながら、異常判定装置20の機能的構成を説明する。異常判定装置20は、制御部200と第1通信部210と第2通信部211と記憶部220と表示部230とを備える。
制御部200は、異常判定装置20を統括制御する。制御部200は特に、動画像取得部201とモデル取得部202と異常判定部203と異常報知部204と動画像送信部205とを備える。これらの各機能部の詳細については後述する。
第1通信部210は、撮像装置40と通信する。第1通信部210は特に、撮像装置40により撮像された生産設備30の動画像を撮像装置40から受信する。第1通信部210は、例えばプログラマブルロジックコントローラのネットワークユニットである。
第2通信部211は、ネットワークNTを介してモデル生成装置10と通信する。第2通信部211は特に、モデル生成装置10から異常判定モデルを受信し、撮像装置40により撮像された生産設備30の動画像をモデル生成装置10に送信する。第2通信部211は、例えばプログラマブルロジックコントローラのネットワークユニットである。
記憶部220は、撮像装置40により撮像された生産設備30の動画像と、モデル生成装置10により生成された異常判定モデルと、後述する異常判定部203による異常判定の結果を示す情報とを保存する。記憶部220は、本開示に係る記憶手段の一例である。
表示部230は、生産設備30に異常があるときに、後述する異常報知部204による制御に基づいて生産設備30に異常があることを示す情報を表示することにより。生産設備30に異常がある旨をユーザに報知する。表示部230は、例えばプログラマブルロジックコントローラのネットワークユニットに接続された液晶ディスプレイである。
以下、制御部200が備える各機能部を説明する。動画像取得部201は、撮像装置40により撮像される生産設備30の動画像を、第1通信部210を介して撮像装置40から取得して記憶部220に保存する。動画像取得部201は、本開示に係る動画像取得手段の一例である。
モデル取得部202は、第2通信部211を介して、モデル生成装置10から異常判定モデルを取得して記憶部220に保存する。
異常判定部203は、記憶部220に保存された動画像と、記憶部220に保存された異常判定モデルとに基づいて、生産設備30に異常があるか否かを判定する。前述のとおり、異常判定モデルは特に、動作モードごとの部分動画像が互いに有する時系列的な関係に基づいて生成されるので、異常判定部203は、複数の動作モードに係る時系列的な異常の有無を判定できる。例えば、生産設備30の動作モードの切り替え順序に異常があるとき、異常判定部203は、当該異常があることを判定できる。異常判定部203は、本開示に係る異常判定手段の一例である。
具体的に、異常判定部203は、例えば以下のようにして生産設備30に異常があるか否かを判定する。まず、異常判定部203は、記憶部220に保存された動画像に含まれる特徴点の動きを複数個抽出し、動画像における生産設備30の動きを数値化する。次に、異常判定部203は、数値化された生産設備30の動きが、異常判定モデルが示す動作モードの推移とどの程度的適合するかをスコア化する。そして異常判定部203は、スコアに基づいて、生産設備30に異常があるか否かを判定する。
異常報知部204は、生産設備30に異常があると異常判定部203により判定されたとき、表示部230を制御して生産設備30に異常がある旨を報知し、異常判定部203による異常判定の結果を示す情報を記憶部220に保存する。記憶部220に保存された異常判定の結果を示す情報は、例えば生産設備30の管理者により分析され、今後の異常発生防止対策に活用される。
動画像送信部205は、記憶部220に保存された動画像を、第2通信部211を介してモデル生成装置10に送信する。動画像送信部205が動画像をモデル生成装置10に送信することにより、モデル生成装置10は、異常判定モデルを生成するために必要な動画像を取得できる。
次に、モデル生成装置10及び異常判定装置20のハードウェア構成の一例について、図5を参照しながら説明する。図5に示すモデル生成装置10は、上述のとおり産業用コンピュータ、クラウドサーバなどのコンピュータにより実現され、異常判定装置20は、例えばプログラマブルロジックコントローラにより実現される。
モデル生成装置10及び異常判定装置20は、バス1000を介して互いに接続された、プロセッサ1001と、メモリ1002と、インタフェース1003と、二次記憶装置1004と、を備える。
プロセッサ1001は、例えばCPU(Central Processing Unit:中央演算装置)である。プロセッサ1001が、二次記憶装置1004に記憶された動作プログラムをメモリ1002に読み込んで実行することにより、モデル生成装置10及び異常判定装置20の各機能が実現される。
メモリ1002は、例えば、RAM(Random Access Memory)により構成される主記憶装置である。メモリ1002は、プロセッサ1001が二次記憶装置1004から読み込んだ動作プログラムを記憶する。また、メモリ1002は、プロセッサ1001が動作プログラムを実行する際のワークメモリとして機能する。
インタフェース1003は、例えばシリアルポート、USB(Universal Serial Bus)ポート、ネットワークインタフェースなどのI/O(Input/Output)インタフェースである。インタフェース1003により、通信部110、第1通信部210及び第2通信部211の機能が実現される。
二次記憶装置1004は、例えば、フラッシュメモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)である。二次記憶装置1004は、プロセッサ1001が実行する動作プログラムを記憶する。二次記憶装置1004により、記憶部120及び記憶部220の機能が実現される。
次に、図6を参照しながら、モデル生成装置10によるモデル生成の動作の一例を説明する。なお、図6に示す動作が開始される前に、すでに生産設備30を撮像して得られた動画像が異常判定装置20から取得され記憶部120に保存されているものとする。また、図6に示す動作は、例えばユーザがユーザインタフェース部130を操作してモデル生成を行う指示をモデル生成装置10に対して行ったときに開始される。
モデル生成装置10の制御部100の設定部102は、ユーザインタフェース部130に対する操作によるユーザからの設定を受け付ける(ステップS11)。設定部102は、受け付けた設定に関する情報を記憶部120に保存する。ユーザは、例えば記憶部120に保存された1以上の動画像を選択することにより、モデル生成に使用される動画像を設定する。ユーザは、生産設備30が正常に動作しているときの動画像を、モデル生成に使用される動画像として設定する。
制御部100は、ステップS11にて受け付けた設定に基づいて、モデル生成に使用される動画像を選択する(ステップS12)。
制御部100の特定部103は、ステップS12にて選択された動画像から、各動作モードに係る部分動画像を特定する(ステップS13)。
制御部100のモデル生成部104は、ステップS13にて特定された各部分動画像が互いに有する時系列的な関係に基づいて異常判定モデルを生成し、記憶部120に保存する(ステップS14)。
そして制御部100は、モデル生成の動作を終了する。
次に、図7を参照しながら、異常判定装置20による異常判定の動作の一例を説明する。なお、図7に示す動作が開始される前に、すでに異常判定モデルがモデル生成装置10から取得され記憶部220に保存されているものとする。また、図7に示す動作は、例えば生産設備30の動作開始時に実行され、生産設備30の動作中には常に実行されている。
異常判定装置20の制御部200の動画像取得部201は、撮像装置40により撮像された生産設備30の動画像を撮像装置40から取得して記憶部220に保存する(ステップS21)。
制御部200の異常判定部203は、記憶部220に保存された動画像と、記憶部220に保存された異常判定モデルとに基づいて、生産設備30に異常があるか否かを判定する(ステップS22)。
異常がないと判定されたとき(ステップS23:No)、制御部200は、ステップS21からの動作を繰り返す。
異常があると判定されたとき(ステップS23:Yes)、制御部200の異常報知部204は、表示部230を制御して異常がある旨をユーザに報知し、異常に関する情報を記憶部220に保存する(ステップS24)。そして制御部200は、ステップS21からの動作を繰り返す。
以上、実施の形態に係る異常判定システム1を説明した。異常判定システム1のモデル生成装置10は、複数の動作モードにて動作する生産設備30を撮像して得られた動画像から、各動作モードにおける各部分動画像を特定し、動作モードごとの部分動画像が互いに有する時系列的な関係に基づいて異常判定モデルを生成する。そして、異常判定システム1の異常判定装置20は、生産設備30を撮像して得られる動画像と、モデル生成装置10により生成された異常判定モデルとに基づいて、生産設備30に異常があるか否かを判定する。そのため、異常判定システム1によれば、例えば動作モードの切り替え順序に異常があるときに、生産設備30の異常を判定できる。つまり、異常判定システム1によれば、動作モードに関する時系列的な異常があるときに、生産設備30の異常を判定できる。したがって、異常判定システム1によれば、複数の動作モードにて動作する生産設備30の異常を好適に判定できる。
(変形例)
実施の形態では、モデル生成装置10と異常判定装置20とを別個の装置とした。一方、これらの装置を1つの異常判定装置としてまとめてもよい。この場合、まとめられた異常判定装置は、本開示に係る異常判定システムの一例である。
実施の形態では、モデル生成に使用される動画像を異常判定装置20がモデル生成装置10に送信するものとした。しかし、異常判定装置20とは異なる装置が撮像装置40から動画像を取得してモデル生成装置10に送信するものとしてもよい。
図5に示すハードウェア構成においては、モデル生成装置10及び異常判定装置20が二次記憶装置1004を備えている。しかし、これに限らず、二次記憶装置1004をモデル生成装置10及び異常判定装置20の外部に設け、インタフェース1003を介してモデル生成装置10及び異常判定装置20と二次記憶装置1004とが接続される形態としてもよい。この形態においては、USBフラッシュドライブ、メモリカードなどのリムーバブルメディアも二次記憶装置1004として使用可能である。
また、図5に示すハードウェア構成に代えて、ASIC(Application Specific Integrated Circuit:特定用途向け集積回路)、FPGA(Field Programmable Gate Array)などを用いた専用回路によりモデル生成装置10及び異常判定装置20を構成してもよい。また、図5に示すハードウェア構成において、モデル生成装置10及び異常判定装置20の機能の一部を、例えばインタフェース1003に接続された専用回路により実現してもよい。
モデル生成装置10及び異常判定装置20で用いられるプログラムは、CD-ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)、USBフラッシュドライブ、メモリカード、HDD等のコンピュータ読み取り可能な記録媒体に格納して配布することが可能である。そして、かかるプログラムを特定の又は汎用のコンピュータにインストールすることによって、当該コンピュータをモデル生成装置10及び異常判定装置20として機能させることが可能である。
また、上述のプログラムをインターネット上の他のサーバが有する記憶装置に格納しておき、当該サーバから上述のプログラムがダウンロードされるようにしてもよい。
本開示は、本開示の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、本開示を説明するためのものであり、本開示の範囲を限定するものではない。つまり、本開示の範囲は、実施の形態ではなく、請求の範囲によって示される。そして、請求の範囲内及びそれと同等の開示の意義の範囲内で施される様々な変形が、本開示の範囲内とみなされる。
1 異常判定システム、10 モデル生成装置、20 異常判定装置、30 生産設備、40 撮像装置、100 制御部、101 動画像取得部、102 設定部、103 特定部、104 モデル生成部、105 モデル送信部、110 通信部、120 記憶部、130 ユーザインタフェース部、200 制御部、201 動画像取得部、202 モデル取得部、203 異常判定部、204 異常報知部、205 動画像送信部、210 第1通信部、211 第2通信部、220 記憶部、230 表示部、1000 バス、1001 プロセッサ、1002 メモリ、1003 インタフェース、1004 二次記憶装置、NT ネットワーク。

Claims (5)

  1. 複数の動作モードにて動作する生産設備であって各動作モードにおいて周期的な動作をする生産設備を撮像して得られた動画像に含まれる、動作モードごとの部分動画像を前記周期的な動作が変化する時点に基づいて特定する特定手段と、
    前記特定手段により特定された前記動作モードごとの部分動画像が互いに有する時系列的な関係に基づいて、前記生産設備を撮像して得られる動画像から前記生産設備に異常があるか否かを判定するための異常判定モデルを生成するモデル生成手段と、
    を備えるモデル生成装置。
  2. 請求項1に記載のモデル生成装置により生成された前記異常判定モデルを保存する記憶手段と、
    撮像手段が前記生産設備を撮像することにより得られる動画像を取得する動画像取得手段と、
    前記動画像取得手段により取得された前記動画像と前記記憶手段に保存された前記異常判定モデルとに基づいて前記生産設備に異常があるか否かを判定する異常判定手段と、
    を備える異常判定装置。
  3. 請求項1に記載のモデル生成装置と、
    請求項に記載の異常判定装置と、
    を備える異常判定システム。
  4. 複数の動作モードにて動作する生産設備であって各動作モードにおいて周期的な動作をする生産設備を撮像して得られた動画像に含まれる、動作モードごとの部分動画像を前記周期的な動作が変化する時点に基づいて特定し、
    特定された前記動作モードごとの部分動画像が互いに有する時系列的な関係に基づいて、前記生産設備を撮像して得られる動画像から前記生産設備に異常があるか否かを判定するための異常判定モデルを生成する、
    モデル生成方法。
  5. コンピュータを、
    複数の動作モードにて動作する生産設備であって各動作モードにおいて周期的な動作をする生産設備を撮像して得られた動画像に含まれる、動作モードごとの部分動画像を前記周期的な動作が変化する時点に基づいて特定する特定手段、
    前記特定手段により特定された前記動作モードごとの部分動画像が互いに有する時系列的な関係に基づいて、前記生産設備を撮像して得られる動画像から前記生産設備に異常があるか否かを判定するための異常判定モデルを生成するモデル生成手段、
    として機能させるプログラム。
JP2021517493A 2020-10-13 2020-10-13 モデル生成装置、異常判定装置、異常判定システム、モデル生成方法及びプログラム Active JP7013110B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/038562 WO2022079783A1 (ja) 2020-10-13 2020-10-13 モデル生成装置、異常判定装置、異常判定システム、モデル生成方法及びプログラム

Publications (2)

Publication Number Publication Date
JP7013110B1 true JP7013110B1 (ja) 2022-01-31
JPWO2022079783A1 JPWO2022079783A1 (ja) 2022-04-21

Family

ID=80737831

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021517493A Active JP7013110B1 (ja) 2020-10-13 2020-10-13 モデル生成装置、異常判定装置、異常判定システム、モデル生成方法及びプログラム

Country Status (4)

Country Link
US (1) US11854187B2 (ja)
JP (1) JP7013110B1 (ja)
CN (1) CN115485715B (ja)
WO (1) WO2022079783A1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020042814A (ja) * 2018-09-10 2020-03-19 シーメンス アクチエンゲゼルシヤフトSiemens Aktiengesellschaft 1つの製品における部品のトラッキングおよびトレーサビリティ

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005250990A (ja) * 2004-03-05 2005-09-15 Mitsubishi Electric Corp 作業支援装置
JP4321455B2 (ja) * 2004-06-29 2009-08-26 ソニー株式会社 状況認識装置、システム
JP2009042915A (ja) * 2007-08-07 2009-02-26 Sony Corp 電子機器、動きベクトル検出方法及びプログラム
JP5526578B2 (ja) 2009-04-01 2014-06-18 三菱マテリアル株式会社 粒子分散体の製造方法並びにこの粒子分散体を用いた酸化物半導体粒子、金属粒子及び半金属粒子の製造方法
JP6290760B2 (ja) * 2014-09-25 2018-03-07 Kddi株式会社 作業類似度算出方法、装置およびプログラム
CN108476300A (zh) * 2016-01-22 2018-08-31 三菱电机株式会社 存储装置、控制装置、显示装置及存储方法
US11467565B2 (en) * 2017-01-25 2022-10-11 Mitsubishi Electric Corporation Attack/abnormality detection device, attack/abnormality detection method, and attack/abnormality detection program
JP6905850B2 (ja) 2017-03-31 2021-07-21 綜合警備保障株式会社 画像処理システム、撮像装置、学習モデル作成方法、情報処理装置
US10579932B1 (en) * 2018-07-10 2020-03-03 Uptake Technologies, Inc. Computer system and method for creating and deploying an anomaly detection model based on streaming data

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020042814A (ja) * 2018-09-10 2020-03-19 シーメンス アクチエンゲゼルシヤフトSiemens Aktiengesellschaft 1つの製品における部品のトラッキングおよびトレーサビリティ

Also Published As

Publication number Publication date
CN115485715B (zh) 2024-06-18
US11854187B2 (en) 2023-12-26
WO2022079783A1 (ja) 2022-04-21
CN115485715A (zh) 2022-12-16
US20230316498A1 (en) 2023-10-05
JPWO2022079783A1 (ja) 2022-04-21

Similar Documents

Publication Publication Date Title
US11651317B2 (en) Work operation analysis system and work operation analysis method
JP2008033532A (ja) 可動部を備えた設備の異常を検出する方法及び異常検出装置
CN108391147B (zh) 显示控制装置和显示控制方法
US20190333204A1 (en) Image processing apparatus, image processing method, and storage medium
EP3910437B1 (en) Monitoring apparatus, monitoring method, and computer-readable medium
JP2019149154A (ja) 情報処理装置、情報処理方法及びプログラム
JP2018005855A (ja) 診断装置、診断システム、診断方法およびプログラム
JP7013110B1 (ja) モデル生成装置、異常判定装置、異常判定システム、モデル生成方法及びプログラム
JP5126941B2 (ja) エスカレータ監視装置、エスカレータ監視方法、エスカレータシステムおよびプログラム
JP2008146157A (ja) ネットワーク異常判定装置
JP2021043089A (ja) 振動試験解析装置および振動試験解析方法
US11216667B2 (en) Information processing apparatus, method for information processing, and storage medium
US11954865B2 (en) Image processing apparatus, image processing method, and storage medium for foreground extraction
JP7372876B2 (ja) 異常検出システム、異常検出装置及び異常検出方法
US8965171B2 (en) Recording control apparatus, recording control method, storage medium storing recording control program
KR102456898B1 (ko) 데이터 신호의 표준 패턴 생성 방법 및 그 장치
JP7130170B1 (ja) 異常検知プログラム、異常検知装置及び異常検知方法
US20230308552A1 (en) Information processing apparatus, non-transitory computer readable medium storing program, and information processing method
US20240025046A1 (en) Abnormality detection apparatus, abnormality detection method, and program
US20240185576A1 (en) Image determination device, image determination method, and recording medium
JP7275327B1 (ja) プログラマブルロジックコントローラ、動画像管理装置、動画像管理システム、動画像管理方法及びプログラム
WO2023139760A1 (ja) データ拡張装置、データ拡張方法、及び非一時的なコンピュータ可読媒体
EP3474226A1 (en) Information processing device, system, information processing method, and storage medium
JP2023047907A (ja) 情報収集システム、情報収集方法、及び情報収集プログラム
JP2020155906A (ja) システム、機器、情報処理装置、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210326

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210819

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211214

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211214

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20211222

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220118

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220118

R150 Certificate of patent or registration of utility model

Ref document number: 7013110

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150