JP7130170B1 - 異常検知プログラム、異常検知装置及び異常検知方法 - Google Patents

異常検知プログラム、異常検知装置及び異常検知方法 Download PDF

Info

Publication number
JP7130170B1
JP7130170B1 JP2022521727A JP2022521727A JP7130170B1 JP 7130170 B1 JP7130170 B1 JP 7130170B1 JP 2022521727 A JP2022521727 A JP 2022521727A JP 2022521727 A JP2022521727 A JP 2022521727A JP 7130170 B1 JP7130170 B1 JP 7130170B1
Authority
JP
Japan
Prior art keywords
image data
feature amount
continuous image
unit
patch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022521727A
Other languages
English (en)
Other versions
JPWO2023100269A1 (ja
Inventor
一国 厳
泰彰 進
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP7130170B1 publication Critical patent/JP7130170B1/ja
Publication of JPWO2023100269A1 publication Critical patent/JPWO2023100269A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)

Abstract

プログラムは、異常検知装置(100)を、連続して撮影された画像を示す連続画像データを取得する取得部(11)、連続画像データを、画像の幅方向及び高さ方向の少なくとも一方並びに時間方向に分割するためのパラメータを、連続画像データに基づいて決定するパラメータ決定部(12)、パラメータ決定部(12)によって決定されたパラメータを用いて連続画像データを分割して得るパッチデータそれぞれから特徴量を算出する特徴量算出部(14)、特徴量算出部(14)によって算出された特徴量と基準値との比較に基づいて、画像に写る撮影対象に関する異常を検知する検知部(15)、として機能させる。

Description

本開示は、異常検知プログラム、異常検知装置及び異常検知方法に関する。
FA(Factory Automation)の現場では、機器の制御に際して異常の有無を監視することが多い(例えば、特許文献1を参照)。特許文献1には、生産ラインの機器及び設備といった検知対象を連続して撮影した画像データから検知対象の異変を検知する技術について記載されている。この技術では、各画像が複数のブロックにメッシュ分割されて、ブロック単位で抽出される特徴量を用いて異変が検知される。この技術によれば、製造物の良否とは異なる異変として、生産ラインの機器及び設備といった検知対象の異変を画像データから検知することができる。
特開2013-191185号公報
特許文献1の技術においては、画像から分割されるブロックのサイズをユーザがパラメータとして設定する必要がある。そのため、知見及び経験の少ないユーザがブロックのサイズを設定した場合には、ブロックのサイズが不適当になり、異常を正確に検知することができないおそれがある。また、知見又は経験を有しているユーザであっても、撮影のシチュエーションが従前のものから変化した場合には、適当なブロックのサイズが不明となる。いずれの場合にも、試行錯誤により適当なブロックのサイズを探ることとなり、画像から異常を検知する装置に対してパラメータを設定する作業の負担が大きい。
本開示は、上述の事情の下になされたもので、画像から異常を検知する装置に対してパラメータを設定する作業の負担を軽減することを目的とする。
上記目的を達成するため、本開示の異常検知プログラムは、コンピュータを、連続して撮影された画像を示す連続画像データを取得する取得手段、連続画像データを、画像の幅方向及び高さ方向の少なくとも一方並びに時間方向に分割するためのパラメータを、連続画像データに基づいて決定する決定手段、決定手段によって決定されたパラメータを用いて連続画像データを分割して得るパッチデータそれぞれから第1特徴量を算出する特徴量算出手段、特徴量算出手段によって算出された第1特徴量と基準値との比較に基づいて、画像に写る撮影対象に関する異常を検知する検知手段、として機能させる。
本開示によれば、決定手段が、連続画像データを、画像の幅方向及び高さ方向の少なくとも一方並びに時間方向に分割するためのパラメータを、連続画像データに基づいて決定する。このため、連続画像データを分割するためのパラメータをユーザが試行錯誤して探る作業は不要となる。これにより、画像から異常を検知する装置に対してパラメータを設定する作業の負担を軽減することができる。
実施の形態1に係る異常検知装置及び撮影機器を含むシステムを示す図 実施の形態1に係る異常検知装置のハードウェア構成を示す図 実施の形態1に係る異常検知装置による連続画像データの分割の概要を示す図 実施の形態1に係る異常検知装置の機能的な構成を示す図 実施の形態1に係るパッチサイズの決定について説明するための図 実施の形態1に係るパッチ時間長の決定について説明するための図 実施の形態1に係る異常検知処理を示すフローチャート 実施の形態1に係る異常検知結果を示す画面例を示す図 実施の形態2に係る異常検知装置の機能的な構成を示す図 実施の形態2に係る連続画像データの圧縮を示す図 実施の形態3に係る異常検知装置の機能的な構成を示す図 実施の形態3に係る物体検出の結果に基づくパッチサイズの決定について説明するための図 実施の形態4に係る異常検知装置の機能的な構成を示す図 実施の形態5に係る異常検知装置の機能的な構成を示す図 実施の形態6に係る異常検知装置の機能的な構成を示す図 実施の形態7に係るパッチサイズの決定について説明するための図 第1の変形例に係る連続画像データの分割を示す図 第2の変形例に係る連続画像データの分割を示す図
以下、本開示の実施の形態に係る異常検知プログラムを実行する異常検知装置について、図面を参照しつつ詳細に説明する。
実施の形態1.
本実施の形態に係る異常検知装置100は、図1に示されるように、撮影機器200によって連続して撮影された工場内の画像を取得して、一連の画像から異常を検知する装置である。異常検知装置100は、撮影機器200とともに撮影対象となる工場内に配置される産業用PC(Personal Computer)である。ただし、異常検知装置100は、このような産業用PCに限定されず、工場内のPLC(Programmable Logic Controller)に代表される制御装置又は他のFA装置であってもよいし、工場外に配置される管理用コンピュータ又はサーバ装置であってもよい。
異常検知装置100と撮影機器200とは、画像を示すデータの伝送が可能な通信路で接続される。この通信路は、例えば、専用線であってもよいし、工場内の産業用ネットワーク又は一般的な情報用ネットワークであってもよいし、インターネットに代表される通信網であってもよい。また、この通信路は、有線通信及び無線通信のいずれを実現するものであってもよい。
撮影機器200によって撮影される対象は、工場内の一部の区画である。図1の例では、ベルトコンベア、当該ベルトコンベア上を搬送されるワーク、ワークの搬送を制御するロボットアーム、及び、ワークを検査する検査機及び検査台を撮影対象として、これらの撮影対象の直上には、画角が調整された撮影機器200が固定される。撮影機器200は、直下の撮影対象を周期的に撮影した画像を異常検知装置100に逐次送信する。なお、撮影機器200は、工場外を撮影してもよい。例えば、撮影機器200は、工場の出入り口を外部から撮影する監視カメラ、又は、工場の稼働を管理するための工場外の管理室を撮影する監視カメラであってもよい。
画像から検知される異常は、工場の運営に関わる関係者によって撮影対象の正常な稼働状態として想定される範囲から逸脱した状態を意味する。このような異常として、例えば、ワークの破損、並びに、ベルトコンベア、ロボットアーム及び検査機の故障が挙げられる。また、上述の関係者は、例えば、工場の管理者、運営者、作業者であってもよいし、ロボットアーム及び検査機に代表されるFA機器の製造メーカーであってもよい。
図2には、異常検知装置100のハードウェア構成が模式的に示されている。図2に示されるように、異常検知装置100は、プロセッサ101と、主記憶部102と、補助記憶部103と、入力部104と、出力部105と、通信部106と、を有するコンピュータである。主記憶部102、補助記憶部103、入力部104、出力部105及び通信部106はいずれも、内部バス107を介してプロセッサ101に接続される。
プロセッサ101は、CPU(Central Processing Unit)又はMPU(Micro Processing Unit)に代表される集積回路を含む。プロセッサ101は、補助記憶部103に記憶されるプログラムP1を実行することにより、種々の機能を実現して、後述の処理を実行する。プログラムP1は、異常検知プログラムの一例に相当する。
主記憶部102は、RAM(Random Access Memory)を含む。主記憶部102には、補助記憶部103からプログラムP1がロードされる。そして、主記憶部102は、プロセッサ101の作業領域として用いられる。
補助記憶部103は、EEPROM(Electrically Erasable Programmable Read-Only Memory)及びHDD(Hard Disk Drive)に代表される不揮発性メモリを含む。補助記憶部103は、プログラムP1の他に、プロセッサ101の処理に用いられる種々のデータを記憶する。補助記憶部103は、プロセッサ101の指示に従って、プロセッサ101によって利用されるデータをプロセッサ101に供給する。また、補助記憶部103は、プロセッサ101から供給されたデータを記憶する。
入力部104は、ハードウェアスイッチ、入力キー、キーボード及びポインティングデバイスに代表される入力デバイスを含む。入力部104は、異常検知装置100を使用する作業者によって入力された情報を取得して、取得した情報をプロセッサ101に通知する。
出力部105は、LED(Light Emitting Diode)、LCD(Liquid Crystal Display)に代表される表示デバイス、ブザー及びスピーカに代表される出力デバイスを含む。出力部105は、プロセッサ101の指示に従って種々の情報をユーザに提示する。
通信部106は、外部の装置と通信するためのインタフェース回路を含む。通信部106は、外部の装置から信号を受信して、この信号により示されるデータをプロセッサ101へ出力する。通信部106は、プロセッサ101から出力されたデータを示す信号を外部の装置へ送信してもよい。
上述のハードウェア構成が協働することにより、異常検知装置100は、時系列の画像である連続画像データを複数のパッチデータに分割して、当該パッチデータそれぞれについて異常の有無を検知する。ここで、異常検知装置100による連続画像データの分割の概要について、図3を用いて説明する。
図3に示されるように、連続して撮影された画像31,32,33を含む一連の画像データをまとめて連続画像データ30と呼ぶ。画像31~33はそれぞれ、矩形の画像であって、幅及び高さを有する。これらの画像31~33を時系列順に並べることで得る連続画像データ30は、幅方向及び高さ方向に加えて、時間方向の長さを有する3次元のデータとなる。
この連続画像データ30を、画像31~33の幅方向及び高さ方向並びに時間方向に分割するためのパラメータが決定される。図3の例では、連続画像データ30を、幅方向に4分割し、高さ方向に2分割し、時間方向に2分割するためのパラメータが決定される。このパラメータは、連続画像データ30を分割して得るパッチデータ40それぞれの幅、高さ及び時間方向の長さの値を示す。
例えば、図3の例において画像31~33それぞれの幅が960ピクセルであれば、パッチデータ40の幅を示すパラメータの値は240ピクセルとして決定される。同様に、画像31~33それぞれの高さが720ピクセルであれば、パッチデータ40の高さを示すパラメータの値は360ピクセルとして決定される。また、連続画像データ30の時間方向の長さが240フレームであれば、パッチデータ40の時間方向の長さを示すパラメータの値は120フレームとして決定される。ただし、パッチデータ40の時間方向の長さの単位は、ミリ秒であってもよい。
連続画像データ30から分割されたパッチデータ40は、連続画像データ30と同様に3次元のデータであるが、幅方向、高さ方向及び時間方向のいずれについても連続画像データ30より小さいデータに相当する。
異常検知装置100は、図3に示すような分割、及び、分割で得たパッチデータに基づく異常の検知を実行する機能を有する。詳細には、異常検知装置100は、図4に示されるように、その機能として、連続画像データを撮影機器200から取得する取得部11と、連続画像データを分割するためのパラメータを当該連続画像データに基づいて決定するパラメータ決定部12と、決定されたパラメータを用いて連続画像データを分割する分割部13と、連続画像データの分割により得たパッチデータそれぞれから特徴量を算出する特徴量算出部14と、算出された特徴量を用いて異常を検知する検知部15と、異常の検知結果を外部に出力する出力部16と、を有する。
取得部11は、主としてプロセッサ101、主記憶部102及び通信部106の協働により実現される。取得部11は、撮影機器200によって連続して撮影された画像を示す連続画像データを撮影機器200から受信して、受信した連続画像データをパラメータ決定部12及び分割部13に出力する。なお、取得部11によって取得される連続画像データは、1つのブロックデータであってもよいし、撮影機器200から順次送信される画像を示す画像データの集合であってもよいし、撮影機器200からストリーミング形式で送信されるビデオデータであってもよい。また、取得部11は、必要に応じて、画像のリサイズ、又は、ノイズ除去処理を実行してもよい。取得部11は、異常検知装置100において、連続画像データを取得する取得手段の一例に相当する。
パラメータ決定部12は、主としてプロセッサ101及び主記憶部102の協働により実現される。パラメータ決定部12は、連続画像データにより示される情報に基づいて、パッチデータの幅方向、高さ方向及び時間方向のサイズを示すパラメータの値を決定する。ここで、パッチデータの幅方向及び高さ方向のサイズをパッチサイズと呼び、パッチデータの時間方向の長さをパッチ時間長と呼ぶ。
パッチサイズは、連続画像データを構成する画像の画像特徴量と閾値とを比較することによって検出されたブロブ領域のうちの、最小のブロブ領域を含む矩形領域として決定される。画像特徴量としては、例えば、画素値、勾配量、オプティカルフロー及びHOG(Histograms of Oriented Gradients)特徴量のうちの少なくとも1つが用いられる。
具体的には、図5に示されるように、パラメータ決定部12が、連続画像データを構成する各画像に対して、当該画像を構成する部分領域それぞれについて画像特徴量を算出する。部分領域は、1つのピクセルであってもよいし、複数の隣接するピクセルからなるセル領域であってもよい。そして、パラメータ決定部12は、互いに類似する値を有する画像特徴量が算出され、かつ、互いに隣接する部分領域の集合としてブロブ領域を検出する。互いに類似する画像特徴量の検出は、予め定められた閾値が用いられることで実行される。また、互いに類似する画像特徴量の検出は、画像特徴量の分類といえるため、画像特徴量のクラスタリングによってなされてもよい。パラメータ決定部12は、各画像から検出されたブロブ領域のうちの最小のサイズのブロブ領域に接するようにパッチサイズを決定する。ただし、最小のブロブ領域に代えて、ブロブ領域をサイズの大きい順に並べたときに下位10%に位置するブロブ領域を採用してもよいし、最小のブロブ領域に対してマージンを設定してパッチサイズを決定してもよい。
ここで、画像特徴量は、第2特徴量の一例に相当する。また、パラメータ決定部12は、画像を構成する部分領域それぞれについて第2特徴量を算出し、第2特徴量を分類することにより、同一のグループに分類された第2特徴量を有し互いに隣接する部分領域の集合であるブロブ領域を検出して、検出されたブロブ領域から選択される一のブロブ領域をパッチデータが含むようにパッチデータの幅及び高さを示すパラメータを決定する決定手段の一例に相当する。
パッチ時間長は、図6に示されるように、時間軸に沿って変化する画像特徴量の推移の周波数領域表現から代表的な周期を選択することで決定される。パッチ時間長を決定するための画像特徴量は、パッチサイズを決定するための画像特徴量と同一であってもよいし異なっていてもよい。また、パッチ時間長を決定するための画像特徴量は、各画像について1つの値のみを有していてもよい。周波数領域表現は、フーリエ変換、ウェーブレット変換その他の変換により得てもよい。代表的な周期は、周波数領域表現のピークに対応する周期であってもよいし、他の手法で選択された周期であってもよい。
パッチ時間長を決定するための画像特徴量は、第3特徴量の一例に相当する。また、パラメータ決定部12は、画像から算出される第3特徴量の推移の周波数領域表現から周期を選択することで、パッチデータの時間方向の長さを示すパラメータを決定する決定手段の一例に相当する。
分割部13は、主としてプロセッサ101及び主記憶部102の協働により実現される。分割部13は、パラメータ決定部12によって決定されたパラメータを用いて連続画像データを分割することで、複数のパッチデータを含むパッチデータセットを生成する。生成されたパッチデータセットは、特徴量算出部14に出力される。
特徴量算出部14は、主としてプロセッサ101及び主記憶部102の協働により実現される。特徴量算出部14は、各パッチデータについて特徴量を算出することで、算出した複数の特徴量を含む特徴量データセットを生成する。この特徴量は、例えば、オプティカルフロー、HOG特徴量、KAZE特徴量、及び、深層学習を用いた学習ベース特徴量のうちの少なくとも1つである。特徴量として、1種類のみを採用してもよいし、複数の種類の特徴量を組み合わせてもよい。さらに、パッチデータ毎に特徴量の種類或いはその組み合わせが異なってもよい。特徴量算出部14によって算出される特徴量は、第1特徴量の一例に相当する。また、特徴量算出部14は、異常検知装置100において、決定手段によって決定されたパラメータを用いて連続画像データを分割して得るパッチデータそれぞれから第1特徴量を算出する特徴量算出手段の一例に相当する。
検知部15は、主としてプロセッサ101、主記憶部102及び補助記憶部103の協働により実現される。検知部15は、異常検知装置100において、特徴量算出手段によって算出された第1特徴量と基準値との比較に基づいて、画像に写る撮影対象に関する異常を検知する検知手段の一例に相当する。検知部15は、特徴量と基準値とを比較して相違度を算出する相違度算出部151と、基準値に相当する基準特徴量を記憶する基準特徴量記憶部152と、相違度が閾値を超えるか否かを判定することで異常の有無を診断する診断部153と、診断に用いる閾値を設定するための閾値設定部154と、を有する。
相違度算出部151は、特徴量データセットを構成する特徴量それぞれを、基準特徴量と比較して、これらが相違する度合いを示す相違度をパッチデータそれぞれについて算出することにより、算出した複数の相違度を含む相違度データセットを生成する。相違度は、ヒストグラム類似度及びコサイン類似度に代表される類似度であってもよいし、ユークリッド距離、マンハッタン距離、チェビシェフ距離及びマハラノビス距離に代表される特徴量間距離であってもよいし、シャムネットワークに代表される深層学習により算出される特徴量であってもよい。また、基準特徴量は、パッチデータの画像上の位置に応じて異なることが望ましい。相違度算出部151は、異常検知装置100において、パッチデータそれぞれの第1特徴量と基準値との相違度を算出する算出手段の一例に相当する。
基準特徴量記憶部152には、基準特徴量の集合である基準特徴量データセットが予め格納される。基準特徴量は、撮影対象の正常な稼働状態を撮影した連続画像データを分割して得るパッチデータから予め算出される。基準特徴量記憶部152には、少なくとも1つの組み合わせのパッチサイズ及びパッチ時間長について生成された基準特徴量データセットを保持し、パッチサイズ及びパッチ時間長が互いに異なる複数の組み合わせについて生成された基準特徴量データセットを保持してもよい。基準特徴量記憶部152から相違度算出部151に供給される基準特徴量データセットは、分割部13によって分割されたパッチデータのパッチサイズ及びパッチ時間長について予め生成されたものであることが望ましい。
診断部153は、相違度データセットを構成する相違度それぞれを、閾値設定部154から供給される閾値と比較して、相違度が閾値を超えるか否かを判定することにより異常の有無を診断する。そして、診断部153は、各パッチデータについての診断結果を示す診断結果データセットを生成する。相違度が閾値より大きい場合に異常と判定するか、或いは相違度に相当する類似度が閾値より小さい場合に異常と判定するかは、予め定められる。相違度と比較される閾値は、パッチデータの画像上の位置に応じて異なることが望ましく、相違度と閾値との比較は、画像上の位置が異なるパッチデータ毎に実行されることが望ましい。診断部153は、異常検知装置100において、算出手段によって算出された相違度が閾値を超えるか否かを判定する判定手段の一例に相当する。
閾値設定部154は、各パッチデータについて予め定められた閾値の集合である閾値データセットを設定するために用いられる。閾値データセットの設定は、ユーザによってなされてもよいし、異常の検知対象となる連続画像データの画像上の位置的或いは時間的な部分データの特徴量の統計量として算出されてもよい。この特徴量は、例えば、オプティカルフロー、HOG特徴量、KAZE特徴量、深層学習ベースの特徴量であってもよい。また、特徴量の統計量は、例えば、当該特徴量の平均、中央値、最頻値、分散、標準偏差、最大値、最小値から算出されてもよい。
出力部16は、主として出力部105によって実現される。出力部16は、検知部15による異常の検知結果をユーザに対して報知する。
続いて、異常検知装置100によって実行される異常検知処理について、図7を用いて説明する。この異常検知処理は、異常検知装置100に対するユーザの特定の操作をトリガーとして開始する。特定の操作は、例えば、ハードウェアスイッチの操作であってもよいし、特定のアプリケーションソフトウェアの実行であってもよい。異常検知処理は、異常検知装置100によって実行される異常検知方法の一例に相当する。
異常検知処理では、取得部11が、連続画像データを取得する(ステップS1)。取得部11は、撮影機器200から連続画像データを取得してもよいし、ユーザから指定された補助記憶部103、メモリカードに代表される脱着可能な記録媒体、又は外部のサーバ装置のアドレスを参照して、連続画像データ30を読み出すことにより取得してもよい。
次に、パラメータ決定部12が、幅方向、高さ方向及び時間方向に連続画像データを分割するためのパラメータを、連続画像データを用いて決定する(ステップS2)。ここで、パラメータは、実質的にパッチデータの幅方向及び高さ方向並びに時間方向のサイズを示していればよい。例えば、パラメータは、図3に示される連続画像データ30を分割するための太線に対応する境界線の位置を示してもよいし、連続画像データ30が等分割される場合においては分割数を示してもよい。決定されたパラメータは、分割部13による連続画像データの分割に用いられる。これにより、複数のパッチデータが得られる。
次に、特徴量算出部14が、パラメータを用いて連続画像データを分割して得るパッチデータそれぞれから特徴量を算出する(ステップS3)。これによりパッチデータの数に等しい数の特徴量が算出される。
次に、検知部15が、未選択のパッチデータを1つ選択する(ステップS4)。ここでパッチデータを選択する手法は任意であるが、例えば、図3に示されるような予め定められた幅方向、高さ方向及び時間方向の座標値がこの順で小さいパッチデータを優先的に選択する。
次に、検知部15の相違度算出部151が、ステップS4で選択されたパッチデータについてステップS3で算出された特徴量と、基準特徴量記憶部152から読み出した基準特徴量との相違度を算出する(ステップS5)。
次に、検知部15の診断部153は、ステップS5で算出された相違度が、閾値設定部154で設定された閾値を超えるか否かを判定する(ステップS6)。ただし、相違度として、特徴量が類似する度合いを示す類似度が用いられる場合には、このステップS6では、類似度が閾値を下回るか否かが判定されてもよい。
相違度が閾値を超えると判定された場合(ステップS6;Yes)、検知部15が異常を検知して、出力部16が検知結果を表示する(ステップS7)。例えば、図8に示されるように、出力部16は、異常が検知されたパッチデータに対応する領域を強調する画面を表示する。
相違度が閾値を超えないと判定された場合(ステップS6;No)、又は、ステップS7の終了後に、検知部15は、連続画像データから分割されたすべてのパッチデータが選択されたか否かを判定する(ステップS8)。すべてのパッチデータが選択されてはいないと判定された場合(ステップS8;No)、ステップS4以降の処理が繰り返される。一方、すべてのパッチデータが選択されたと判定された場合(ステップS8;Yes)、異常検知処理が終了する。
なお、異常検知処理は、1つの連続画像データに関する処理が完了した後に、終了することなく、次の連続画像データに関する処理を実行し、反復的に実行されてもよい。また、図7に示される異常検知処理は一例に過ぎず、異常検知処理を構成する各ステップの順序を任意に変更してもよい。例えば、選択された1つのパッチデータについてステップS5~S7を実行するのに代えて、すべてのパッチデータについて相違度を算出してから、すべての相違度と閾値との比較を実行した後に、異常の検知結果を表示してもよい。
以上、説明したように、本実施の形態に係るパラメータ決定部12は、連続画像データを、画像の幅方向及び高さ方向並びに時間方向に分割するためのパラメータを、連続画像データに基づいて決定する。このため、連続画像データを分割するためのパラメータをユーザが試行錯誤して探る作業は不要となる。これにより、画像から異常を検知する装置に対してパラメータを設定する作業の負担を軽減することができる。
また、適当なパラメータを早く設定することができるため、異常検知装置100を稼働させるための準備時間を短縮することができる。さらに、ユーザによって設定されるパラメータが不適当であり、異常を正確に検知することができないおそれがあるのに対して、本実施の形態に係る異常検知装置100によれば、異常を正確に検知することが期待される。これにより、知見及び経験のないユーザであっても容易に、正確に異常を検知することが可能になる。
また、パラメータ決定部12は、ブロブ領域を検出して、検出したブロブ領域から選択された一のブロブ領域をパッチデータが含むようにパッチサイズを決定する。互いに類似する特徴量を有する部分領域のかたまりをパッチサイズとすることにより、パッチサイズが必要以上に細かくなってしまうことを回避することができる。
また、パラメータ決定部12は、特徴量の推移の周波数領域表現から周期を選択することでパッチ時間長を決定する。これにより、必要以上に長いパッチ時間長を決定することが回避される。
実施の形態2.
続いて、実施の形態2について、上述の実施の形態1との相違点を中心に説明する。なお、上記実施の形態1と同一又は同等の構成については、同等の符号を用いる。本実施の形態は、連続画像データを圧縮することにより演算量を低減する点で、実施の形態1とは異なる。
本実施の形態に係る異常検知装置100は、図9に示されるように、画像サイズの縮小及びフレームレートの低減により連続画像データを圧縮する圧縮部17を有する。圧縮部17は、主としてプロセッサ101及び主記憶部102の協働により実現される。圧縮部17は、取得部11によって取得された連続画像データと、パラメータ決定部12によって決定されたパラメータとに基づいて、連続画像データをどのように圧縮するかを示す圧縮パラメータを算出する。圧縮パラメータは、画像サイズの縮小に関する画像縮小パラメータと、時間方向の長さを短縮するための時間短縮パラメータと、を有する。
詳細には、圧縮部17は、パッチサイズの算出の際に用いた部分領域の特徴量に対して縮小処理を行い、特徴量から算出したブロブ形状の変化、ブロブの消失などの影響が生じない範囲で画像サイズを縮小させるための画像縮小パラメータを算出する。例えば、圧縮部17は、画像サイズの縮小率を大きくしつつブロブ領域を検出する処理を繰り返し、ブロブ領域が消失するときの直前の縮小率を画像縮小パラメータとして決定する。
また、圧縮部17は、オプティカルフローから連続画像データにおける最大速度を算出し、その速度以上のフレームレートとなるように時間短縮パラメータを設定する。例えば、圧縮部17は、オプティカルフローにより示される速度のうちの最大速度を選択し、その最大速度に対応するオプティカルフローが消失することがない範囲で、連続画像データの時間方向の長さを短縮するための時間短縮パラメータを算出する。
そして、圧縮部17は、算出した圧縮パラメータを用いて連続画像データを圧縮し、圧縮した連続画像データを分割部13に出力する。分割部13は、圧縮された連続画像データをパッチデータに分割し、特徴量算出部14は、圧縮された連続画像データを分割して得るパッチデータから特徴量を算出する。
以上、説明したように、圧縮部17は、ブロブ領域の大きさに基づいて連続画像データを圧縮し、特徴量算出部14は、圧縮部17によって圧縮された連続画像データを分割して得るパッチデータから特徴量を算出する。これにより、取得部11から出力される連続画像データをそのまま処理すると処理時間が膨大になる場合があるのに対して、異常の検知に影響が出ない程度に画像サイズを縮小しフレームレートを低減して、図10に示されるように連続画像データを圧縮することにより、処理時間を短縮することができる。
なお、圧縮部17が画像サイズを縮小するとともにフレームレートを低減する例について説明したが、圧縮部17は、画像サイズの縮小と、フレームレートの低減と、のいずれか一方のみを実行してもよい。また、圧縮部17は、画像の幅方向及び高さ方向のいずれか一方のみに画像サイズを圧縮してもよい。圧縮部17は、ブロブ領域の大きさに基づいて画像の幅方向及び高さ方向の少なくとも一方に連続画像データを圧縮すればよい。圧縮部17は、異常検知装置100において、ブロブ領域の大きさに基づいて画像の幅方向及び高さ方向の少なくとも一方に連続画像データを圧縮する圧縮手段の一例に相当する。
なお、実施の形態1に係る取得部11と分割部13との間に圧縮部17が挿入される例について説明したが、これには限定されない。例えば、圧縮部17は、分割部13と特徴量算出部14との間に挿入され、パッチデータを圧縮してもよい。
実施の形態3.
続いて、実施の形態3について、上述の実施の形態1との相違点を中心に説明する。なお、上記実施の形態1と同一又は同等の構成については、同等の符号を用いる。本実施の形態は、連続画像データを分割するためのパラメータが、画像特徴量に代えて、画像に写る物体の検出結果に基づいて決定される点で、実施の形態1とは異なる。
本実施の形態に係る異常検知装置100は、図11に示されるように、画像に写る物体を検出する物体検出部18を有する。物体検出部18は、主としてプロセッサ101及び主記憶部102の協働により実現される。物体検出部18は、連続画像データを構成する画像それぞれから、図12に太線の枠で示されるように物体を検出して、検出したすべての物体を示す検出結果データセットをパラメータ決定部12に出力する。
物体の検出は、haar-like特徴量及びHOG特徴量に代表される特徴量を用いる手法、又は、YOLO(You Look Only Once)アルゴリズム及びSSD(Single Shot multi-box Detector)アルゴリズムに代表される深層学習ベースの手法によって達成される。検出結果は、検出された物体の画像における座標、及び、物体の写る領域の幅及び高さを含むサイズを示す。検出結果は、さらに、分類クラス情報及び信頼度その他の情報を含んでもよい。物体検出部18は、異常検知装置100において、画像に写る物体を検出する物体検出手段の一例に相当する。
パラメータ決定部12は、連続画像データ及び検出結果データセットを取得して、連続画像データを分割するためのパラメータを決定する。例えば、パラメータ決定部12は、検出された最小の物体のサイズ、又は、検出されたすべての物体の平均サイズを、パッチサイズとして決定する。
以上、説明したように、異常検知装置100は、物体検出部18を備え、パラメータ決定部12は、物体検出部18によって検出された物体が写る画像における領域の大きさに基づいてパッチデータの幅及び高さを示すパラメータを決定する。これにより、実際に画像に写る物体の大きさに応じたパッチサイズが決定され、異常の正確な検知が期待される。
実施の形態4.
続いて、実施の形態4について、上述の実施の形態3との相違点を中心に説明する。なお、上記実施の形態3と同一又は同等の構成については、同等の符号を用いる。本実施の形態は、連続画像データを圧縮することにより演算量を低減する点で、実施の形態3とは異なる。
本実施の形態に係る異常検知装置100は、図13に示されるように、画像サイズの縮小により連続画像データを圧縮する圧縮部17aを有する。圧縮部17aは、主としてプロセッサ101及び主記憶部102の協働により実現される。圧縮部17aは、物体検出部18による検出結果に基づいて、連続画像データを構成する画像をどのように縮小するかを示す圧縮パラメータを算出する。
詳細には、圧縮部17aは、物体検出部18によって検出された物体のうちの最小の物体が写っている領域のピクセル数の逆数に、予め定められた係数を乗じて得る補正画像サイズから、圧縮パラメータを算出する。ここで、圧縮される前の画像サイズと補正画像サイズとの比が、圧縮パラメータとなる。
圧縮部17aは、異常検知装置100において、物体検出手段によって検出された物体が写る画像における領域の大きさに基づいて、連続画像データを圧縮する圧縮手段の一例に相当する。圧縮部17aは、決定した圧縮パラメータを用いて圧縮した連続画像データを分割部13に出力する。分割部13は、圧縮された連続画像データを分割し、特徴量算出部14は、圧縮された連続画像データを分割して得るパッチデータから特徴量を算出することとなる。
以上、説明したように、異常検知装置100は、圧縮部17aを備え、特徴量算出部14は、圧縮部17aによって圧縮された連続画像データを分割して得るパッチデータそれぞれから特徴量を算出する。これにより、異常検知装置100の演算量を軽減することができる。
なお、圧縮部17aは、画像の幅及び高さの一方又は双方を縮小してもよい。圧縮部17aは、画像の幅方向及び高さ方向の少なくとも一方に連続画像データを圧縮すればよい。
実施の形態5.
続いて、実施の形態5について、上述の実施の形態3との相違点を中心に説明する。なお、上記実施の形態3と同一又は同等の構成については、同等の符号を用いる。本実施の形態は、時間の経過とともに移動する物体を検出して画像上で追跡し、追跡結果に基づいてパラメータを決定する点で、実施の形態3とは異なる。
本実施の形態に係る異常検知装置100は、図14に示されるように、画像に写る物体を追跡する物体追跡部19を有する。物体追跡部19は、主としてプロセッサ101及び主記憶部102の協働により実現される。物体追跡部19は、連続画像データ及び物体検出の結果に基づいて、物体を追跡し、すべての物体の追跡結果を示す追跡結果データセットを出力する。
物体の追跡は、k近傍法を用いた検出ベースの追跡手法によりなされてもよいし、物体が最初に検出された位置を初期位置として、パーティクルフィルタ又はテンプレートマッチングを用いた手法によりなされてもよいし、その他の手法によりなされてもよい。物体追跡部19は、異常検知装置100において、連続して撮影された画像に写る物体を追跡する物体追跡手段の一例に相当する。
パラメータ決定部12は、連続画像データ、物体検出の結果及び物体追跡の結果を取得して、連続画像データを分割するためのパラメータを決定する。詳細には、パラメータ決定部12は、追跡された物体のうちの最も長い時間にわたって追跡された物体が画像に写る時間長をパッチ時間長として決定する。
また、パラメータ決定部12は、パッチデータに対応する画像ブロックに物体が入ってきた時刻から、当該画像ブロックから当該物体が出て行った時刻までの時間長をパッチ時間長としてもよい。ここで、画像ブロックは、連続画像データを構成する画像からパッチサイズに従って分割された部分的な画像に相当する。さらに、パラメータ決定部12は、追跡された物体の最低速度をVminとし、予め設定された最大撮影距離をMmaxとし、αを予め規定される係数として、パッチ時間長としてのPtを、Pt=α・|Vmin|/Mmaxという式を用いて算出してもよい。
以上、説明したように、異常検知装置100は、物体追跡部19を備え、パラメータ決定部12は、物体追跡部19による物体の追跡結果に基づいて、パッチデータの時間方向の長さを示すパッチ時間長を含むパラメータを決定する。これにより、パッチデータが、撮影された物体が写る画像ブロックを含むものとなり、結果的に、物体に関する異常を正確に検知することが期待される。パラメータ決定部12は、物体追跡手段によって追跡された物体が画像において移動する速さに基づいて、パッチデータの時間方向の長さを示すパラメータを決定する決定手段の一例に相当する。
実施の形態6.
続いて、実施の形態6について、上述の実施の形態5との相違点を中心に説明する。なお、上記実施の形態5と同一又は同等の構成については、同等の符号を用いる。本実施の形態は、連続画像データを圧縮することにより演算量を低減する点で、実施の形態5とは異なる。
本実施の形態に係る異常検知装置100は、図15に示されるように、フレームレートの低減により連続画像データを圧縮する圧縮部17bを有する。圧縮部17bは、主としてプロセッサ101及び主記憶部102の協働により実現される。圧縮部17bは、物体追跡部19による物体の追跡結果に基づいて、連続画像データの時間方向の長さをどのように短縮するかを示す圧縮パラメータを算出する。
詳細には、圧縮部17bは、追跡された物体がそれぞれ画像に写っている時間長のうちの最も短い時間長に、予め定められた係数を乗じて得る補正時間長から補正フレームレートを算出し、圧縮前の連続画像データのフレームレート及び補正フレームレートから圧縮パラメータを算出する。補正フレームレートは、補正時間の逆数になる。なお、パッチデータに対応する画像ブロックに物体が入ってきた時刻から、当該画像ブロックから当該物体が出て行った時刻までの時間長に、予め定められた係数を乗じることで補正時間長を得てもよい。
圧縮部17bは、異常検知装置100において、物体追跡手段によって追跡された物体が画像に写る時間の長さに基づいて、連続画像データを時間方向に圧縮する圧縮手段の一例に相当する。圧縮部17bは、決定した圧縮パラメータを用いて圧縮した連続画像データを分割部13に出力する。分割部13は、圧縮された連続画像データを分割し、特徴量算出部14は、圧縮された連続画像データを分割して得るパッチデータから特徴量を算出することとなる。
以上、説明したように、異常検知装置100は、圧縮部17bを備え、特徴量算出部14は、圧縮部17bによって圧縮された連続画像データを分割して得るパッチデータそれぞれから特徴量を算出する。これにより、異常検知装置100の演算量を軽減することができる。
実施の形態7.
続いて、実施の形態7について、上述の実施の形態1との相違点を中心に説明する。なお、上記実施の形態1と同一又は同等の構成については、同等の符号を用いる。上記実施の形態1では、各パッチデータが共通のパッチサイズを有していた。すなわち、パラメータ決定部12が、パッチデータの幅及び高さを示す1組のパラメータを決定していた。これに対して、本実施の形態は、パラメータ決定部12が、画像上の位置に応じて異なるパッチサイズをパラメータとして決定する点で、実施の形態1とは異なる。
本実施の形態に係るパラメータ決定部12は、図16に示されるように、画像上の位置に応じて異なるパッチサイズを有するパッチデータが分割されるように、パラメータを決定して、パッチデータすべてのパッチサイズを示すパラメータデータセットを出力する。このパラメータデータセットは、パッチデータのパッチサイズと、当該パッチデータの画像上における位置と、を関連付けて示す。なお、パッチサイズは、画像の幅に対応する水平方向及び高さに対応する鉛直方向の一方又は双方に応じて、異なる値を有してもよい。すなわち、水平方向及び鉛直方向のいずれか一方に関しては、各パッチデータについて共通の値を有するパラメータが決定されてもよい。
以上、説明したように、パラメータ決定部12によって決定されるパラメータのうちの、一のパッチデータの幅及び高さの少なくとも一方を示すパラメータは、画像における位置が一のパッチデータとは異なる他のパッチデータの該パラメータとは異なる値を有する。これにより、撮影対象の画像上の大きさに応じてパッチデータが生成されて、異常の検知が正確になされることが期待される。
例えば、実施の形態1から本実施の形態への変形を、上記実施の形態3に対して施して、物体検出部18によって検出された物体の位置及び大きさに基づいて、パッチサイズを決定することが考えられる。また、同様の変形を、上記実施の形態5に対して施して、物体追跡部19によって追跡された物体をパッチデータが可能な限り多く含むように、パッチサイズが決定されてもよい。さらに、決定されたパッチサイズを有するパッチデータの画像上の位置が、ユーザにより設定されてもよい。
以上、本開示の実施の形態について説明したが、本開示は上記実施の形態によって限定されるものではない。
例えば、連続画像データが、画像の幅方向及び高さ方向の双方に分割される例について説明したが、これには限定されない。パラメータ決定部12は、連続画像データを、画像の幅方向及び高さ方向の少なくとも一方並びに時間方向に分割するためのパラメータを、連続画像データに基づいて決定すればよい。
具体的には、異常検知装置100は、図17に示されるように、連続画像データを高さ方向には分割することなく幅方向及び時間方向に分割することでパッチデータ40を得てもよい。図17に例示されるように高さ方向に分割しない場合には、上述した各実施の形態から、高さ方向に分割するためのパラメータの決定、及び、当該パラメータに基づく高さ方向における分割を省略すればよい。例えば、画像に写る被写体が幅方向に並んでいて高さ方向には並ばない場合、及び、被写体が幅方向に移動し高さ方向には移動しない場合には、高さ方向の分割を省略することで、異常検知装置100の計算負荷を軽減することができる。
また、異常検知装置100は、図18に示されるように、連続画像データを幅方向には分割することなく高さ方向及び時間方向に分割することでパッチデータ40を得てもよい。幅方向に分割しない場合には、上述した各実施の形態から、幅方向に分割するためのパラメータの決定、及び、当該パラメータに基づく幅方向における分割を省略すればよい。例えば、画像に写る被写体が高さ方向に並んでいて幅方向には並ばない場合には、幅方向の分割を省略することで、異常検知装置100の計算負荷を軽減することができる。
また、パラメータ決定部12によるパラメータの決定手法は、上述の各実施形態で説明した例に限定されず、任意に変更してもよい。
また、各パッチデータが図3に示されるように重複しない例について説明したが、パッチデータの一部は重複してもよい。例えば、図3に示されるように分割して得る部分データに対してマージンを設定することによりパッチデータを得てもよい。各パッチデータの少なくとも一部が、画像上及び時間方向の少なくとも一方において他のパッチデータと異なる位置にあればよい。
また、上記実施の形態2,4,6で説明した圧縮部17,17a,17bとは異なる形態で連続画像データを圧縮する圧縮部を設けることが考えられる。例えば、連続画像データを圧縮することなく異常検知処理を試行してから、連続画像データを圧縮して異常検知処理をさらに試行し、検知精度に影響を及ぼさない程度に連続画像データを圧縮するパラメータを採用してもよい。具体的には、予め設定された閾値の範囲内に検知精度の変動が収まるように圧縮パラメータを決定すればよい。
また、上述の各実施の形態を任意に組み合わせてもよい。例えば、実施の形態2に係る圧縮部17と、実施の形態6に係る圧縮部17bと、の双方が異常検知装置100に含まれてもよい。
上述の実施形態に係る異常検知装置100の機能は、専用のハードウェアによっても、また、通常のコンピュータシステムによっても実現することができる。
例えば、プログラムP1を、フレキシブルディスク、CD-ROM(Compact Disk Read-Only Memory)、DVD(Digital Versatile Disk)、MO(Magneto-Optical disk)に代表されるコンピュータ読み取り可能な記録媒体に格納して配布し、そのプログラムP1をコンピュータにインストールすることにより、上述の処理を実行する装置を構成することができる。
また、プログラムP1をインターネットに代表される通信ネットワーク上のサーバ装置が有するディスク装置に格納しておき、例えば、搬送波に重畳させて、コンピュータにダウンロードするようにしてもよい。
また、インターネットに代表されるネットワークを介してプログラムP1を転送しながら起動実行することによっても、上述の処理を達成することができる。
さらに、プログラムP1の全部又は一部をサーバ装置上で実行させ、その処理に関する情報をコンピュータが通信ネットワークを介して送受信しながらプログラムP1を実行することによっても、上述の処理を達成することができる。
なお、上述の機能を、OS(Operating System)が分担して実現する場合又はOSとアプリケーションとの協働により実現する場合には、OS以外の部分のみを媒体に格納して配布してもよく、また、コンピュータにダウンロードしてもよい。
また、異常検知装置100の機能を実現する手段は、ソフトウェアに限られず、その一部又は全部を専用のハードウェア又は回路によって実現してもよい。
本開示は、本開示の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、本開示を説明するためのものであり、本開示の範囲を限定するものではない。つまり、本開示の範囲は、実施の形態ではなく、請求の範囲によって示される。そして、請求の範囲内及びそれと同等の開示の意義の範囲内で施される様々な変形が、本開示の範囲内とみなされる。
本開示は、画像を用いた異常の検知に適している。
100 異常検知装置、 11 取得部、 12 パラメータ決定部、 13 分割部、 14特徴量算出部、 15 検知部、 151 相違度算出部、 152 基準特徴量記憶部、 153 診断部、 154 閾値設定部、 16 出力部、 17,17a,17b 圧縮部、 18 物体検出部、 19 物体追跡部、 101 プロセッサ、 102 主記憶部、 103 補助記憶部、 104 入力部、 105 出力部、 106 通信部、 107 内部バス、 30 連続画像データ、 31~33 画像、 40 パッチデータ、 200 撮影機器、 P1 プログラム。

Claims (12)

  1. コンピュータを、
    連続して撮影された画像を示す連続画像データを取得する取得手段、
    前記連続画像データを、前記画像の幅方向及び高さ方向の少なくとも一方並びに時間方向に分割するためのパラメータを、前記連続画像データに基づいて決定する決定手段、
    前記決定手段によって決定された前記パラメータを用いて前記連続画像データを分割して得るパッチデータそれぞれから第1特徴量を算出する特徴量算出手段、
    前記特徴量算出手段によって算出された前記第1特徴量と基準値との比較に基づいて、前記画像に写る撮影対象に関する異常を検知する検知手段、
    として機能させるための異常検知プログラム。
  2. 前記決定手段は、前記画像を構成する部分領域それぞれについて第2特徴量を算出し、前記第2特徴量を分類することにより、同一のグループに分類された前記第2特徴量を有し互いに隣接する前記部分領域の集合であるブロブ領域を検出して、検出された前記ブロブ領域から選択される一の前記ブロブ領域を前記パッチデータが含むように前記パッチデータの幅及び高さを示す前記パラメータを決定する、
    請求項1に記載の異常検知プログラム。
  3. 前記コンピュータを、前記画像に写る物体を検出する物体検出手段、としてさらに機能させ、
    前記決定手段は、前記物体検出手段によって検出された物体が写る前記画像における領域の大きさに基づいて前記パッチデータの幅及び高さを示す前記パラメータを決定する、
    請求項1に記載の異常検知プログラム。
  4. 前記決定手段は、前記画像から算出される第3特徴量の推移の周波数領域表現から周期を選択することで、前記パッチデータの時間方向の長さを示す前記パラメータを決定する、
    請求項1から3のいずれか一項に記載の異常検知プログラム。
  5. 前記コンピュータを、連続して撮影された前記画像に写る物体を追跡する物体追跡手段、としてさらに機能させ、
    前記決定手段は、前記物体追跡手段によって追跡された物体が前記画像において移動する速さに基づいて、前記パッチデータの時間方向の長さを示す前記パラメータを決定する、
    請求項1から3のいずれか一項に記載の異常検知プログラム。
  6. 前記決定手段によって決定される前記パラメータのうちの、一のパッチデータの幅及び高さの少なくとも一方を示す前記パラメータは、前記画像における位置が前記一のパッチデータとは異なる他のパッチデータの該パラメータとは異なる値を有する、
    請求項1から5のいずれか一項に記載の異常検知プログラム。
  7. 前記コンピュータを、前記ブロブ領域の大きさに基づいて前記画像の幅方向及び高さ方向の少なくとも一方に前記連続画像データを圧縮する圧縮手段、としてさらに機能させ、
    前記特徴量算出手段は、前記圧縮手段によって圧縮された前記連続画像データを分割して得る前記パッチデータそれぞれから前記第1特徴量を算出する、
    請求項2に記載の異常検知プログラム。
  8. 前記コンピュータを、前記物体検出手段によって検出された物体が写る前記画像における領域の大きさに基づいて、前記画像の幅方向及び高さ方向の少なくとも一方に前記連続画像データを圧縮する圧縮手段、としてさらに機能させ、
    前記特徴量算出手段は、前記圧縮手段によって圧縮された前記連続画像データを分割して得る前記パッチデータそれぞれから前記第1特徴量を算出する、
    請求項3に記載の異常検知プログラム。
  9. 前記コンピュータを、前記物体追跡手段によって追跡された物体が前記画像に写る時間の長さに基づいて、前記連続画像データを時間方向に圧縮する圧縮手段、としてさらに機能させ、
    前記特徴量算出手段は、前記圧縮手段によって圧縮された前記連続画像データを分割して得る前記パッチデータそれぞれから前記第1特徴量を算出する、
    請求項5に記載の異常検知プログラム。
  10. 前記検知手段は、
    前記パッチデータそれぞれの前記第1特徴量と前記基準値との相違度を算出する算出手段と、
    前記算出手段によって算出された前記相違度が閾値を超えるか否かを判定する判定手段と、
    を有し、
    前記相違度が前記閾値を超えると判定された場合に、異常を検知する、
    請求項1から9のいずれか一項に記載の異常検知プログラム。
  11. 連続して撮影された画像を示す連続画像データを取得する取得手段と、
    前記連続画像データを、前記画像の幅方向及び高さ方向の少なくとも一方並びに時間方向に分割するためのパラメータを、前記連続画像データに基づいて決定する決定手段と、
    前記決定手段によって決定された前記パラメータを用いて前記連続画像データを分割して得るパッチデータそれぞれから特徴量を算出する特徴量算出手段と、
    前記特徴量算出手段によって算出された前記特徴量と基準値との比較に基づいて、前記画像に写る撮影対象に関する異常を検知する検知手段と、
    を備える異常検知装置。
  12. 連続して撮影された画像を示す連続画像データを、前記画像の幅方向及び高さ方向の少なくとも一方並びに時間方向に分割するためのパラメータを、前記連続画像データに基づいて決定するステップと、
    決定された前記パラメータを用いて前記連続画像データを分割して得るパッチデータそれぞれから特徴量を算出するステップと、
    前記特徴量と基準値との比較に基づいて、前記画像に写る撮影対象に関する異常を検知するステップと、
    を含む異常検知方法。
JP2022521727A 2021-11-30 2021-11-30 異常検知プログラム、異常検知装置及び異常検知方法 Active JP7130170B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/043976 WO2023100269A1 (ja) 2021-11-30 2021-11-30 異常検知プログラム、異常検知装置及び異常検知方法

Publications (2)

Publication Number Publication Date
JP7130170B1 true JP7130170B1 (ja) 2022-09-02
JPWO2023100269A1 JPWO2023100269A1 (ja) 2023-06-08

Family

ID=83148906

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022521727A Active JP7130170B1 (ja) 2021-11-30 2021-11-30 異常検知プログラム、異常検知装置及び異常検知方法

Country Status (4)

Country Link
US (1) US20240354933A1 (ja)
JP (1) JP7130170B1 (ja)
CN (1) CN117581529A (ja)
WO (1) WO2023100269A1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021177295A (ja) * 2020-05-07 2021-11-11 パナソニックIpマネジメント株式会社 状態判定方法、プログラム、及び状態判定システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5531865B2 (ja) * 2010-09-03 2014-06-25 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
JP2013205071A (ja) * 2012-03-27 2013-10-07 Hioki Ee Corp 外観検査装置及び外観検査方法
JP6504180B2 (ja) * 2014-11-19 2019-04-24 富士通株式会社 異常検出装置、異常検出方法および異常検出プログラム
JP2019158500A (ja) * 2018-03-12 2019-09-19 オムロン株式会社 外観検査システム、画像処理装置、撮像装置および検査方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021177295A (ja) * 2020-05-07 2021-11-11 パナソニックIpマネジメント株式会社 状態判定方法、プログラム、及び状態判定システム

Also Published As

Publication number Publication date
US20240354933A1 (en) 2024-10-24
JPWO2023100269A1 (ja) 2023-06-08
WO2023100269A1 (ja) 2023-06-08
CN117581529A (zh) 2024-02-20

Similar Documents

Publication Publication Date Title
US11151384B2 (en) Method and apparatus for obtaining vehicle loss assessment image, server and terminal device
KR102150776B1 (ko) 얼굴 위치 추적 방법, 장치 및 전자 디바이스
US20200058075A1 (en) Method and apparatus for obtaining vehicle loss assessment image, server and terminal device
US8665326B2 (en) Scene-change detecting device, computer readable storage medium storing scene-change detection program, and scene-change detecting method
US10218899B2 (en) Control method in image capture system, control apparatus and a non-transitory computer-readable storage medium
US10070047B2 (en) Image processing apparatus, image processing method, and image processing system
EP4137901A1 (en) Deep-learning-based real-time process monitoring system, and method therefor
US20150262068A1 (en) Event detection apparatus and event detection method
JP6805199B2 (ja) 設備監視システム
JP6715282B2 (ja) 品質監視システム
JP2015041164A (ja) 画像処理装置、画像処理方法およびプログラム
US20190333204A1 (en) Image processing apparatus, image processing method, and storage medium
JP2011008704A (ja) 画像処理装置、画像処理方法、およびプログラム
JP6841608B2 (ja) 振る舞い検知システム
JP2012185684A (ja) 対象物検出装置、対象物検出方法
US10455144B2 (en) Information processing apparatus, information processing method, system, and non-transitory computer-readable storage medium
JP7130170B1 (ja) 異常検知プログラム、異常検知装置及び異常検知方法
US11363241B2 (en) Surveillance apparatus, surveillance method, and storage medium
Raman et al. Occlusion prediction algorithms for multi-camera network
US20230177324A1 (en) Deep-learning-based real-time process monitoring system, and method therefor
US10789705B2 (en) Quality monitoring system
WO2020022362A1 (ja) 動き検出装置、特性検出装置、流体検出装置、動き検出システム、動き検出方法、プログラム、および、記録媒体
JP2015097089A (ja) 対象物検出装置、対象物検出方法
US12141997B2 (en) Information processing apparatus, information processing method, and storage medium
JP7013110B1 (ja) モデル生成装置、異常判定装置、異常判定システム、モデル生成方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220411

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220411

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220823

R150 Certificate of patent or registration of utility model

Ref document number: 7130170

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150