JP6253773B2 - 画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置 - Google Patents

画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置 Download PDF

Info

Publication number
JP6253773B2
JP6253773B2 JP2016525759A JP2016525759A JP6253773B2 JP 6253773 B2 JP6253773 B2 JP 6253773B2 JP 2016525759 A JP2016525759 A JP 2016525759A JP 2016525759 A JP2016525759 A JP 2016525759A JP 6253773 B2 JP6253773 B2 JP 6253773B2
Authority
JP
Japan
Prior art keywords
time
image
data
image analysis
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016525759A
Other languages
English (en)
Other versions
JPWO2015186518A1 (ja
Inventor
中田 智仁
智仁 中田
哲也 玉置
哲也 玉置
翼 友田
翼 友田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2015186518A1 publication Critical patent/JPWO2015186518A1/ja
Application granted granted Critical
Publication of JP6253773B2 publication Critical patent/JP6253773B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/431Frequency domain transformation; Autocorrelation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Description

この発明は、画像データの分析を精度よく、かつ、分析者の分析負荷を軽減できる画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置に関するものである。
工場に従事する作業者は、常に一定速度で動作する生産機械とは異なり、作業遂行の速度にばらつきが生じる場合がある。そのため、これらの作業者の作業サイクル時間のばらつきを分析することは、工場全体の生産性を分析する上で重要となっている。これら作業者の作業分析を行う方法として、従来、インダストリアルエンジニアリング(IE)の手法が知られている。
例えば、非特許文献1に示されるように、作業者が行う一連の作業を構成要素作業単位に分割し作業時間の長短を測定し評価する、ストップウォッチ法やフィルム分析法等の手法が開示されている。一般的にこれらの方法は、分析を行う分析者が観測対象である作業者を目視観測し、観測対象の作業者の作業状態の変化時刻、つまり作業開始時刻と作業終了時刻を記録していくものであり、分析者に多大な労力を要求するものである。このような背景から近年では、作業者の作業状態を各種分析装置を用いて自動的に把握し、分析者の分析負荷を軽減する方法が開示されている。
例えば、特許文献1に示されるように、作業者に取り付けたセンサーから得られる信号波形の出現パターンと、作業者の動きとの関係を記した対応表である「動作辞書」「作業辞書」なるデータベースにより特定する方法が提案されている。
また、例えば、特許文献2に示されるように、反復作業を行う作業者の動作をビデオカメラにより撮影し、再生ディスプレイ上にて設定される基準点を反復的に通過する所要時間を計算し、作業サイクルを計測する方法が提案されている。
また、ビデオカメラを利用して作業分析を行う技術としては、例えば、特許文献3に示されるように、撮影された画像データの色情報等の変化から作業者の人体の所定の一部を動作認識する技術が提案されている。
また、例えば、特許文献4に示されるように、認識対象を人体に限定せずに、動体と背景とを識別する技術が提案されている。
特許第5159263号公報 特許第2711548号公報 特許第4792824号公報 特開2003−6659号公報
藤田彰久著「新版IEの基礎」建帛社(2007年1月発行)
従来の工場における作業者の作業分析方法には、分析者の分析負荷を軽減する技術が求められているわけであるが、特許文献1に示されるように、センサー信号と作業者動作の対応表を用いて作業分析する方法では、歩行や停止といった単純な動作の場合はともかく、複雑な作業の全てに対して対応表を整備することは多大な手間が必要となり現実的ではないという問題点があった。
また、特許文献2に示されるように、ビデオカメラを用いて作業者の動作を捕捉する従来の技術では、あらかじめ画像上に定めた基準空間を作業者の人体の一部が通過するか否かで動作を把握する必要があるため、この画像上の基準空間の設定行為および人体の一部であることの認識行為には労力を要するという問題点があった。
また、特許文献3に示されるように、人体の一部であることの認識に画像データの色情報を用いるものであるが、工場の作業者は一般的にヘルメットや手袋等の様々な防護具を付けている場合が多く、作業者の人体の一部を色情報で判定することは困難である場合が多いという問題点があった。
また、特許文献4に示されるように、動体と背景情報を識別する技術では、動画データの前後のフレーム間について、同一画素の特徴量を比較することで動体か背景かを識別するものであるが、工場内のように常に何らかの物体が動いているような場合、例えばベルトコンベアが作動していたり、換気扇が回転しているといった場合には、関係のない動体まで識別することになり分析を困難にしてしまうという問題点があった。
つまりいずれの従来の場合も、分析を行うために多大な労力を要するか、工場においては分析精度を悪化させるという問題点があった。
この発明は上記のような課題を解決するためになされたものであり、画像データの分析を精度よく、かつ、分析者の分析負荷を軽減できる画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置を提供することを目的とする。
この発明の画像分析方法は、
時系列に取得された画像データを分析する画像分析方法において、
各前記画像データの各画素の色情報を取得する工程と
前記色情報から各前記画素の特徴量の時系列的な変化を示す特徴量時系列データを算出する工程と、
前記特徴量時系列データから前記画像データの変動周期を算出する工程とを備え、
前記特徴量時系列データは、各前記画素を含むあらかじめ設定された画素領域における前記色情報の時系列的な色情報の情報エントロピーであるものである。
また、この発明の画像分析方法は、
時系列に取得された画像データを分析する画像分析方法において、
各前記画像データの各画素の色情報を取得する工程と
前記色情報から各前記画素の特徴量の時系列的な変化を示す特徴量時系列データを算出する工程と、
前記特徴量時系列データから前記画像データの変動周期を算出する工程とを備え、
前記色情報は、あらかじめ設定された複数の区分に分類された色パレットデータに基づいて取得され、
前記色パレットデータの区分は、前記画像データの色の出現頻度に応じて設定されるものである。
また、この発明の画像分析方法は、
時系列に取得された画像データを分析する画像分析方法において、
各前記画像データの各画素の色情報を取得する工程と
前記色情報から各前記画素の特徴量の時系列的な変化を示す特徴量時系列データを算出する工程と、
前記特徴量時系列データから前記画像データの変動周期を算出する工程とを備え、
前記画像データが、工場内の作業者が周期的な動作を反復するデータを含んでおり、
前記変動周期から前記作業者の反復する動作の周期を分析する工程を備えたものである。
また、この発明の画像分析装置は、
時系列に取得された画像データを分析する画像分析装置において、
各前記画像データの各画素の色情報から特徴量の時系列的な変化を示す特徴量時系列データを算出する特徴量算出部と、
前記特徴量時系列データから各前記画像データの変動周期を算出する変動周期算出部とを備え
前記特徴量時系列データは、各前記画素を含むあらかじめ設定された画素領域における前記色情報の時系列的な色情報の情報エントロピーであるものである。
また、この発明の画像分析システムは、
前記記載の画像分析装置と、
前記画像データを取得する撮影装置と、
前記画像分析装置の分析結果を表示する表示装置と、
前記画像データを格納する画像データベースと、
前記特徴量時系列データを格納する特徴量時系列データベースと、
前記分析結果を格納する画像分析データベースとを備えたものである。
また、この発明の画像分析可搬型装置は、
前記記載の画像分析システムは、
前記画像分析装置、前記撮影装置、前記表示装置、前記画像データベース、前記特徴量時系列データベース、および、前記画像分析データベースを一体型かつ可搬型にて形成されているものである。
この発明の画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置によれば、
画像データの分析を精度よく、かつ、分析者の分析負荷を軽減できる。
本発明の実施の形態1に係る画像分析装置を有する画像分析システムの構成を示す図である。 図1に示した画像分析装置の特徴量算出部の動作を説明するための図である。 図1に示した画像分析装置に用いる画像データの画素の構成を示す図である。 図1に示した画像分析装置の画像データの処理に用いる色情報を示す図である。 図2に示した特徴量算出部における画像データの色情報の取得順序を示す図である。 図2にて取得した画像データの各画素における図5に基づいて取得される色情報を示す図である。 図2に示した特徴量算出部において設定されている色パレットデータを示す図である。 図6にて取得した色情報における各画素の色パレット番号を示す図である。 図2に示した特徴量算出部にて各画素の色情報エントロピーを取得するための近傍画像領域を示す図である。 図2に示した特徴量算出部にて各画素の色情報エントロピーを取得するための他の近傍画像領域を示す図である。 図2に示した特徴量算出部にて取得した任意の画素の色情報エントロピーの取得例を示す図である。 図2に示した特徴量算出部にて取得した任意の画素の色情報エントロピーの変化を説明するための図である。 図2に示した特徴量算出部にて取得した任意の画素の色情報エントロピーの時系列の変化状態を示す図である。 図2に示した特徴量算出部にて取得した各画像の色情報エントロピーの時系列データを示す図である。 図2に示した特徴量算出部にて取得した画像データの色情報エントロピーの任意の時刻の情報を濃淡にて図示化して示す図である。 図1に示した画像分析装置の変動周期算出部の動作を説明するための図である。 図14にて取得した色情報エントロピーの時系列データのグラフを示す図である。 図17にて示した色情報エントロピーの時系列データから一部を抽出したグラフを示す図である。 図17にて示した色情報エントロピーの時系列データから一部を抽出したグラフを示す図である。 画像データ上の画素位置と動体との関係を示した図である。 図17に示した時系列データの時間シフトについて説明する図である。 図17に示した各画素の色情報エントロピーにおける時間シフトの自己相関係数を示した図である。 図22に示した各画素における時間シフトと自己相関係数とをグラフに示した図である。 図23に示した各時間シフトと各画素における自己相関係数の平均値とを示した図である。 図24に示した各時間シフトと各画素における自己相関係数の平均値とをグラフに示した図である。 図25に示した各時間シフトと各画素における自己相関係数の平均値とをフーリエ変換したグラフを示した図である。 図17に示した色情報エントロピーおよび図23に示した自己相関係数から各画素における自己相関係数の極大値に時間シフト、自己相関係数、および初回時刻とを抽出した図である。 図27から変動周期を有するデータを抽出した図である。 図28において初回時刻が異なる状況を説明するための図である。 図29から作業ポイントを抽出した図である。 図30にて抽出された作業ポイントの自己相関係数の極大値の時刻を抽出した図である。 図30にて示した時刻から作業時間を算出した図である。 図32の作業時間の確率密度を示した図である。 図14にて取得した画像データの任意の画素の色情報エントロピーの時系列データのグラフを示す図である。 図34に示した画素における時間シフトと自己相関係数とをグラフに示した図である。 図35に示した各時間シフトと画素における自己相関係数とをフーリエ変換したグラフを示した図である。 図14にて取得した作業中断を含んだ画像データの任意の画素の色情報エントロピーの時系列データのグラフを示す図である。 図37に示した画素における時間シフトと自己相関係数とをグラフに示した図である。 図38に示した各時間シフトと画素における自己相関係数とをフーリエ変換したグラフを示した図である。 図37に示した画素の色情報エントロピーのフーリエ変換したグラフを示した図である。 この発明の実施の形態2における画像分析装置の特徴量算出部の動作を説明するための図である。 図41に示した特徴量算出部にて取得した画像データの各色相における出現頻度を示した図である。 図41に示した各色相における出現頻度を色相において均等分割した状態を示す図である。 図41に示した画像データの各色相における出現頻度の多い順に示し山色相を抽出した図である。 図44に示した出現頻度の多い順を色相順に並び変え谷色相を抽出した図である。 図45に示した谷色相から設定された色パレット番号の状態を示した図である。 図41に示した各色相における出現頻度を色相において図46に示した色パレット番号に分割した状態を示す図である。 この発明の実施の形態3における画像分析可搬型装置の構成を示す図である。 この発明の実施の形態4に係る画像分析装置を有する画像分析システムの構成を示す図である。
実施の形態1.
以下、本願発明の実施の形態について説明する。以下の実施の形態において説明する画像分析は、工場などの施設内にて、動体としての作業者が周期的な動作(反復的な動作)としての作業を行う場合であって、その作業における反復時間としての作業サイクル時間を分析する場合を例に説明する。但し、動体は作業者以外、例えば機械が行う作業であっても同様に画像分析できる。また、作業以外であっても、反復して変化する画像データの分析には、同様の効果を奏することができる。
図1はこの発明の実施の形態1における画像分析装置を有する画像分析システムの構成を示す図である。図2は図1に示した画像分析装置の特徴量算出部の動作を説明するための図である。図3は図1に示した画像分析装置に用いる画像データの画素の構成を示す図である。図4は図1に示した画像分析装置の画像データの処理に用いる色情報を示す図である。図5は図2に示した特徴量算出部における画像データの色情報の取得順序を示す図である。図6は図2にて取得した画像データの各画素における図5に基づいて取得される色情報を示す図である。
図7は図2に示した特徴量算出部において設定されている色パレットデータを示す図である。図8は図6にて取得した色情報における各画素の色パレット番号を示す図である。
図9は図2に示した特徴量算出部にて各画素の情報エントロピー(以下、「色情報エントロピー」と称す)を取得するための近傍画像領域を示す図である。図10は図2に示した特徴量算出部にて各画素の色情報エントロピーを取得するための他の近傍画像領域を示す図である。図11は図2に示した特徴量算出部にて取得した任意の画素の色情報エントロピーの取得例を示す図である。
図12は図2に示した特徴量算出部にて取得した任意の画素の色情報エントロピーの変化を説明するための図である。図13は図2に示した特徴量算出部にて取得した任意の画素の色情報エントロピーの時系列の変化状態を示す図である。図14は図2に示した特徴量算出部にて取得した各画像の色情報エントロピーの時系列データを示す図である。図15は図2に示した特徴量算出部にて取得した画像データの色情報エントロピーの任意の時刻の情報を濃淡にて図示化して示す図である。図16は図1に示した画像分析装置の変動周期算出部の動作を説明するための図である。
図17は図14にて取得した色情報エントロピーの時系列データのグラフを示す図である。図18および図19は図17にて示した色情報エントロピーの時系列データから一部を抽出したグラフを示す図である。図20は画像データ上の画素位置と動体との関係を示した図である。図21は図17に示した時系列データの時間シフトについて説明する図である。図22は図17に示した各画素の色情報エントロピーにおける時間シフトの自己相関係数を示した図である。図23は図22に示した各画素における時間シフトと自己相関係数とをグラフに示した図である。
図24は図23に示した各時間シフトと各画素における自己相関係数の平均値とを示した図である。図25は図24に示した各時間シフトと各画素における自己相関係数の平均値とをグラフに示した図である。図26は図25に示した各時間シフトと各画素における自己相関係数の平均値とをフーリエ変換したグラフを示した図である。図27は各画素における自己相関係数の極大値に時間シフト、自己相関係数、および初回時刻とを抽出した図である。
図28は図27から変動周期を有するデータを抽出した図である。図29は図28において初回時刻が異なる状況を説明するための図である。図30は図29から作業ポイントを抽出した図である。図31は図30にて抽出された作業ポイントの自己相関係数の極大値の時刻を抽出した図である。図32は図30にて示した時刻から作業時間を算出した図である。図33は図32の作業時間の確率密度を示した図である。
図34は図14にて取得した画像データの任意の画素の色情報エントロピーの時系列データのグラフを示す図である。図35は図34に示した画素における時間シフトと自己相関係数とをグラフに示した図である。図36は図35に示した各時間シフトと画素における自己相関係数とをフーリエ変換したグラフを示した図である。図37は図14にて取得した作業中断を含んだ画像データの任意の画素の色情報エントロピーの時系列データのグラフを示す図である。図38は図37に示した画素における時間シフトと自己相関係数とをグラフに示した図である。図39は図38に示した各時間シフトと画素における自己相関係数とをフーリエ変換したグラフを示した図である。図40は図37に示した画素の色情報エントロピーのフーリエ変換したグラフを示した図である。
図1において、画像分析装置5は、時系列に取得された画像データを格納する画像データベース(以下、データベースはDBと略して示す)6と、画像データの特徴量時系列データを格納する特徴量時系列DB11と、画像データからの画像分析データを格納する画像分析DB12と、画像データから画像分析データを分析する画像分析手段9とを備えている。画像分析手段9は、画像データから特徴量を検出する特徴量算出部7と、この画像データの特徴量の変動周期を検出する変動周期算出部8とを備えている。
また、画像分析装置5は有線または無線にてなる通信網4に接続されている。そして、作業者1Aおよび作業者1Bは、固定的な作業台2Aおよび作業台2Bにて作業に従事している。そして、各作業状態は撮影装置3Aおよび撮影装置3Bにて撮影され画像データとして出力される。そして、各撮影装置3A、3Bの各画像データは通信網4を経由して画像DB6に保存される。また、画像分析装置5にて分析された画像分析データは通信網4を介して分析者14の表示装置13に表示される。
上記のように構成された実施の形態1の画像分析装置の動作について説明する。まず、作業者1Aおよび作業者1Bは、作業台2Aおよび作業台2Bにて作業を行う。そして、各作業状態は撮影装置3Aおよび撮影装置3Bにて撮影され複数の時系列の画像データとして通信網4に出力される。そして、各画像データは通信網4を経由して画像DB6に保存される。次に、特徴量算出部7は、画像DB6から画像データを取得する(図2のステップS01)。
次に、各画像データの各画素における色情報を取得する(図2のステップS02)。具体的には、画像データは、例えば、図3に示すように、x軸(水平)方向10画素×y軸(垂直)方向10画素からなる100個の画素にて構成されている。画像データの各画素とは、図3における画像データを構成する各格子区画を指す。例えば、図3に示すように、画素Cとは「x=1、y=1」の位置にあり、画素Dとは「x=4、y=3」の位置にある。そしてここで取得する色情報は、例えば、図4で示すように、色味を0〜360°(度)の角度で表す「色相」、色の鮮やかさを0〜1(=100%)で表す「彩度」、色の明るさを0〜1(=100%)で表す「輝度」の3つの成分から表現するHLS色空間を用いている(但し、図4は実際の色彩を白黒にて省略して示しているものである。)。
尚、本実施の形態においてはHLS色空間を使用する例にて示すが、これに限定するものではなく、各画素の色情報を数値化して表現できるものならばどれでもよく、例えば、RGB色空間やHSV色空間などの他の色空間を用いてもよい。そして、図5の矢印に示すように、1つの画像データ(1枚の画像フレームとも言う)内の全画素について、x軸、y軸方向に沿って色情報を順次取得していく。そして取得された各画素の色情報は、例えば、図6に示すように、画素位置「x=1、y=1」の画素Cの色情報「色相=0°、彩度=1、輝度=0」や、画素位置「x=4、y=3」の画素Dの色情報「色相=0°、彩度=1、輝度=0.5」のように、色相、彩度、輝度からなる3次元の色情報が取得される。
次に、この各画像データの各画素の色情報を、色パレットデータ15に基づいて色パレット番号を取得する(図2のステップS03)。具体的に、色パレットデータ15とは、類似系統色を同一の色グループとし、異系統色は異なる色グループとなるように、各色パレット番号にて分類して扱っていくものである。さらに、各色パレット番号には、検出するための優先順位がそれぞれ設定されている。
尚、色パレット番号および優先順位は、分析する画像データに基づいてあらかじめ適宜設定されているものである。また、この色パレットデータ15の数は、分析する画像データに出現する色情報の重要度に応じて適宜設定されるものである。具体的には、作成する色パレットにて分類識別する色数(色パレット番号の数)は、後述する色情報エントロピーの際に用いられる”近傍画素領域”の画素数程度とすることが望ましい。尚、これらのことは以下の実施の形態においても同様であるためその説明は適宜省略する。
そして、例えば、図7に示すように、優先順位1位から順に、色パレット番号<1>(黒色)は、輝度0.1未満、優先順位2位は、色パレット番号<2>(白色)で、輝度0.9以上、優先順位3位は、色パレット番号<3>(灰色)で、彩度0.15未満、・・・と、あらかじめ優先順位が決定されている。そして、図6に示したような各画素の各色情報を、図7に示したような色パレットデータ15の優先順位の高い順から1件ずつ読み込み、条件が適合する色パレット番号を付与する。
すると、例えば、図6に示すように、画素位置「x=1、y=1」の色情報は「色相=0°、彩度=1、輝度0」であるので、図7に示した色パレットデータ15の優先順位1位である「輝度0.1未満」の条件に適合し、図8に示したように、色パレット番号は「<1>」となる。そして、全ての画像データの全ての画素について適合する色パレット番号を取得する。
次に、この各画素の色パレット番号のデータに基づいて、各画像データの各画素における特徴量としての色情報エントロピーを取得する(図2のステップS04)。色情報エントロピーとは、各画素を含むあらかじめ設定された画素領域、ここではある画素を中心として、あらかじめ設定された近似画素領域に対して取得するものである。そして、この近傍画素領域の色情報量の多さ、乱雑具合を表す示量性状態量(特徴量)が色情報エントロピーであり、以下に示すように求めることができる。よって、この色情報エントロピーを利用することで、画像の特徴量を計算することが可能となる。
より具体的には、図9に示すように、例えば画素の座標x=5、y=4に位置する画素Eに対して「±3画素」分、つまり3≦x≦7、2≦y≦6で示される領域を近傍画素領域として設定する。尚、近傍画素領域とは、分析したい画像データの内容に応じて適宜設定されるものであり、ここではあらかじめ「±3画素」分として設定したものである。よって、他の方法にて近傍画素領域を設定してもよい。他の近傍画素領域の例としては、矩形ではなく、図10に示すような画素Eに対して菱形にて設定してもよい。
また、設定される近傍画素領域の画素数の目安としては、画像320×240ピクセルの範囲に作業者が一人写る場合であれば、例えば5cm角の物体を識別できる能力の画素数として、5×5ピクセル程度が適当であると考える。よって、近傍画素領域は作業者および作業を行う物体の識別できる能力に応じて適宜設定されるものである。
次に、画素座標x、yの画素の色情報エントロピーEPYx,yは、下記(式1)にて算出する。
Figure 0006253773
上記(式1)のpx,y(c)は、画素位置x、yの近傍画素領域内における色パレット番号cが含まれる面積割合を表す。よって、px,y(c)は、近傍画素領域の画素数である近傍画素数Nに含まれる、色パレット番号cの画素数Nx,y(c)の割合を下記(式2)にて求めることができる。
x,y(c)=Nx,y(c)/N ・・・(式2)
具体的に、色情報エントロピーを計算した場合の画像データの例を図11に示す。この図11は画像データの内、5×5の25個の画素にてなる近傍画素領域を例に示している。尚、図11から図13は各図を理解し易くするために、色(白、黒、グレーなど)にて示しているものの、実際には色パレット番号にて処理されるものである。よってその説明は適宜省略する。
図11(a)の近傍画素領域61は、全てが単色の「白色」である。また、図11(b)の近傍画素領域62は、全て単色の「灰色」である。このため、図11(a)、(b)は色情報量が1つであり、乱雑でないため、下記(式3)により求められた色情報エントロピーは「0」となる。
EPYx,y=−1×log(1)=0 ・・・(式3)
一方、図11(c)の近傍画素領域63は、「黒色」7個、「暗灰色」5個、「薄灰色」6個、「白色」7個である。よって、下記(式4)により色情報エントロピーが求められ、「1.99」となる。
EPYx,y=−(7/25)log(7/25)−(5/25)log(5/25)−(6/25)log(6/25)−(7/25)log(7/25)=1.99 ・・・(式4)
このように、図11(c)は異なる色パレット番号(色情報量)が多く、乱雑であるため、色情報エントロピーは「1.99」となる。尚、先に示した色パレットデータ15には、「暗灰色」および「薄灰色」の色パレット番号の設定例は存在しないが、図11を理解し易くするためにそれぞれ示したものである。
そして、図12(a)から図12(b)に示すように、画像データの画素Fに対する近傍画素領域64内を格子状の模様Gが左下から右上に微量に移動した場合について説明する。このように図12(a)から図12(b)に示すように変化しても、画素Fの近傍画素領域64の「灰色」と「白色」との割合に変化はない。よって、近傍画素領域64の画像データの乱雑具合に変化は生じない。よって、色情報エントロピーとして図12(a)の「0.94」から、図12(b)の「0.94」となり、変化は生じない。
このように色情報エントロピーの性質を利用すれば、例えば、工場に起こりがちな振動など、画像のブレ等の影響を排除することができる。また、工場以外の他の箇所の撮影においても、画像のブレが発生し安い場合などの影響は同様に排除することができる。また、誤差の影響も排除することができるものと考えられる。
次に図13は、画素Hの近傍画素領域64内において、灰色模様の一部が下から上に通過した様子の例を示した図である。この例では、灰色模様の通過に伴い画素Hの近傍画素領域64の「灰色」と「白色」との割合に変化が生じる。よって、色情報エントロピー値が図16(a)から(j)に示すように変化していく。つまり、当該画像データの乱雑具合に変化が生じることにより、色情報エントロピーが変化している。この性質を利用すれば、当該画像データ上で動体が移動したか否かを判別することができることが解る。
そして、図14に示すように、各画素位置における、時間経過毎すなわち時系列の画像データ毎の色情報エントロピーの情報が取得され、時間経過における色情報エントロピーの変化を確認することができる。そして、全ての画像データの各画素における色情報エントロピーが取得され、特徴量時系列データとして特徴量時系列DB11に格納され処理を終了する。
このように色情報エントロピーを取得した画像データの、各画素位置のある時点の色情報エントロピーの数値の大小を濃淡でプロットすると、例えば、図15(a)に示すように、複雑な形状や色合い持つ作業者などの物体を識別することができ、作業者の作業風景画像を得ることができる。また、図15(b)に示すように、図15(a)のZ−Z’線上における、横軸が各位置、縦軸がその各位置における色情報エントロピーの数値のグラフを見ると、作業者の情報などを識別可能なことが確認できる。
次に、変動周期算出部8はこの特徴量時系列データを用いて作業者の作業サイクル時間を、特徴量の時系列変動周期を用いて画像分析を行う。具体的には、特徴量時系列データの自己相関係数算出するステップ、自己相関係数値を用いた変動周期の算出するステップ、変動周期を用いた作業サイクル時間の分析するステップの3段階にて実行する。
まず、全ての各画素の特徴量時系列データを読み込む(図16のステップS21)。そして、これらを横軸を時刻(経過秒)、縦軸を色情報エントロピーとしてグラフ化すると、図17に示すようになる。図17に示すように、J1、K1、J2、K2に特徴的な波形が存在する。この図17における、J1箇所に存在する画素の波形を抽出すると、図18に示すようになる。また、図17における、K1箇所に存在する画素の波形を抽出すると、図19に示すようになる。
図18に示すように、「J1」と「J2」とは対になり特徴的な波形が存在することが解る。また、図19に示すように、「K1」と「K2」とが対になり特徴的な波形が存在することが解る。よって、このように類似波形が周期的に繰り返されていることが解る。これは、作業者が反復的な作業を行う場合、画像上の決まった地点(画素座標)を周期的に人体や、ワーク、治工具などの一部が通過する度に色情報エントロピーが変動するためである。
このように、画素毎の色情報エントロピーにおいて、各画素の波形の周期位相が一致しない、すなわちJ1とK1とのピーク出現時刻がずれる理由について説明する。例えば、図20(a)に示すような画面において、画素Jの位置と、画素Kの位置とが異なる。そそして、図20(b)に示すように動体80が画素Jの座標を通過した後に、画素Kの座標を通過するために時間差が生じる。このことが先に示したピーク出現時刻がずれている原因である。
次に、画素毎に自己相関係数を算出する(図16のステップS22)。これは、周期性を持つ時系列データを、ある時間分だけシフト(以下、”時間シフト”と称す)を行うと、図21(a)から図21(b)に示すように、波形の一致性が高まる(すなわち自己相関が強まる時点が訪れる。この自己相関が強まる時点の時間間隔が、作業サイクル時間であるとみなし、時間シフト別の自己相関係数を調べることで作業サイクル時間を検出することができる。
よって、時刻tの時系列データ値Xtと、時刻tからΔsだけ時間シフトした時点での時系列データ値Xt+Δs値との自己相関係数R(t,t+Δs)を下記(式5)にて求める。尚、E[f(t)]はf(t)の期待値である。また、μはXの平均値、σはXの標準偏差である。また、この式における「値」とは、色特徴エントロピーの「値」を指すものである。
R(t,t+Δs)={E[(X−μ)(Xt+Δs−μ)]/σ ・・・(式5)
そして、全ての各画素の時間シフト別の自己相関係数を、上記(式5)にて求める。すると、図22に示すように、各画素の時間シフト毎の自己相関係数が求められる。そして、図22のように求められた値を、縦軸に自己相関係数、横軸に時間シフトをとると、図23に示すようになる。
次に、この自己相関係数を用いて変動周期を算出する(図16のステップS23)。まず、全ての画素の自己相関係数の時間シフト毎の平均値がとる。すると、図24に示すように算出される。そして、図24のように求められた値を、縦軸に自己相関係数、横軸に時間シフトをとると、図25に示すようになる。図25から明らかなように、色情報エントロピーの変動周期は、「12秒から13秒」の間隔で強い相関が表れることが確認できる。尚、自己相関係数の平均値により、変動周期を求めることも可能であるが、変動周期の値の精度を向上するために以下の動作を行う。
次に、この自己相関係数に対して、フーリエ変換を行い、自己相関係数の変動周期を明確にする。図25に示した自己相関係数に対してフーリエ変換を行い、その値を、縦軸にパワースペクトル密度(PSD)、横軸に周期にて示すと、図26に示すように変換される。そして、図26から「11.2秒」にピークがあることが確認できる。これにより、この作業は「11.2秒」周期(変動周期)で行われると算出される。
次に、このようにして求められた変動周期および各画素の特徴量時系列データを用いて作業サイクル時間を分析する(図16のステップS24)。まず、各画素における自己相関係数の極大値が現れた時点の、時間シフト、および、その自己相関係数(極大値)、その極大値が最初に出現する初回時刻とを図27に示すように抽出する。図27にて抽出されたデータには、当然のことながら、各画素は作業者の作業以外の画像データが含まれていることが起こり得るため、上記変動周期以外の極大値も存在することが想定される。
よって、図27のデータから、各画素は作業者の作業以外の画像を取り除くために、先に求められた「11.2秒」の変動周期を持つデータ、すなわち、「11.2秒」の変動周期を持つ自己相関係数の極大値のみを抽出する。そして、図27からこのようにして抽出されたデータを図28に示す。この例では、「11.2秒」の変動周期で複数の画素の自己相関係数が極大値を示している。そして、それぞれの自己相関係数の極大値が出現する初回時刻は、同じ場合と、異なる場合とが存在する。
これは、図28に示す各画素75、76、77の位置に対応する図29に示すように、動体80が、画素75の位置(x=20、y=157)を初回に通過した時刻が6.6秒後であっても、画素76の位置(x=147、y=79)および画素77の位置(x=148、y=80)を通過する初回時刻は10.0秒後と異なっている。このことは、動体80が画素75から画素76および画素77に移動するために、3.4秒要したと推察できる。
言い換えると、画素75の位置から画素76および画素77の位置に動体80を動かすのに要する作業時間は3.4秒要したことを意味している。この性質を利用すれば、作業の1サイクル時間内の、どの区間(動体が任意の画素から他の任意の画素に移動する区間)間に、どのくらいの時間を要しているかを分析することができる。
次に、図30から図32を用いて、作業サイクル時間(作業の1サイクル時間を指す)の分析方法の具体例を説明する。図30は、図28のデータから初回時刻が重複しているデータを除いたものである。具体的には、画素76と画素77とは初回時刻が重複しているため、画素76のデータのみを残し画素77のデータを削除したものである。そしてこのようにして、初回時刻が重複しないデータを、初回時刻の早いものから順に、作業ポイント「No.1」、「No.2」・・・に並べ替える。
次に、これらの内から、作業ポイント「No.1」、「No.2」を選択して、この選択した作業ポイントに対応する画素の画素特徴量時系列データを抽出する。そして、自己相関係数の極大値となる時刻をそれぞれ時刻昇順に並べ替える。そして、このようにして抽出されたデータの例を図31に示す。尚、図30〜図32に示す作業ポイント「No.1」「No.2」はそれぞれ同一の画素位置を示している。
そして、この作業ポイント毎の自己相関係数の極大時刻(以下、「作業時刻」とする)の出現順は、原則的に「No.1」「No.2」、「No.1」「No.2」、・・・と交互に現れる。よって、1作業サイクル毎に各作業ポイント間の作業時刻差、すなわち作業サイクル時間が計算できる。
具体的には図32を用いて説明する。図32では、1回目の作業サイクルは作業ポイント「No.1」の作業時刻が「6.6秒」、作業ポイント「No.2」の作業時刻が「10.0秒」であり、2回目の作業サイクルは、作業ポイント「No.1」の作業時刻は「17.8秒」、作業ポイント「No.2」の作業時刻は「21.1秒」である。
この場合、作業ポイント「No.1」と作業ポイント「No.2」との間の区間を区間1、作業ポイント「No.2」と作業ポイント「No.1」との間の区間を区間2とする。すると区間1の作業時間は、1回目の作業サイクルでは作業ポイント「No.2」の作業時刻「10.0秒」と作業ポイント「No.1」の作業時刻「6.6秒」との差である「3.4秒」となり、2回目の作業サイクルでは、作業ポイント「No.2」の作業時刻「21.1秒」と作業ポイント「No.1」の作業時刻「17.8秒」との差である「3.3秒」となる。
さらに、区間2の作業時間は、1回目の作業サイクルでは作業ポイント「No.2」の作業時刻「10.0秒」と2回目の作業サイクルの作業ポイント「No.1」の作業時刻「17.8秒」との差である「7.8秒」となり、2回目の作業サイクルでは、作業ポイント「No.2」の作業時刻「21.1秒」と、3回目の作業サイクルの作業ポイント「No.1」の作業時刻「28.9秒」との差である「7.8秒」となる。
そして、区間1と区間2との合計、「3.4秒」と「7.8秒」との合計、「11.2秒」、また、「3.3秒」と「7.8秒」との合計、「11.1秒」がそれぞれ算出される。このように、作業サイクル毎に各区間の作業ポイント間の作業時間間隔が測定することできる。そして、このようにして全ての画素における測定が行われ、画像分析データとして上記作業時間間隔データを画像分析DB12に保存して、処理を終了する。
そして、画像分析装置5にて分析された画像分析データは通信網4を介して分析者14の表示装置13に表示される。そして、分析者14には、例えば、画像分析データが図33に示すような作業時間間隔のばらつきとして表示される。このようにして、分析者14へ画像分析データを供給することが可能となる。この例では、区間1の作業時間ばらつきよりも、区間2の作業時間のばらつきの方が大きく、区間2の作業において何らかの問題が生じている可能性があるとして分析者14は画像分析を行うことが可能となる。
また、上記実施の形態1においては、作業ポイントを抽出するための変動周期を検出する場合、全ての画素の色情報エントロピーを用いて自己相関係数を算出して、さらにそれを平均して求める例を示しが、これに限られることはなく、以下に変動周期を求める他の方法について説明する。
図34に示すように、任意の1つの画素の色情報エントロピーの時系列データを抽出する。これは例えば、1回あたり10秒の基本動作を4セットで1サイクルの作業を、例えば、1つのワークに対してネジ締め4箇所の作業を、複数のワークに対して繰り返し行っている場合を示している。そして、この図34に示すようなデータから、上記実施の形態1と同様に自己相関係数を算出し、縦軸に自己相関係数、横軸に時間シフトをとると、図35に示すようになる。
図35から解るように、時間シフト、約10秒で強い相関Mと、時間シフト、約50秒周期で相関Nが見られる。短い相関Mは、1作業サイクル中に行われる短い基礎動作の反復が影響しているものと考えられる。一方、4セットで1サイクルの作業については、約50秒周期にて相関Nがとれるものと考えられる。
次に、上記実施の形態1と同様に、この図35の自己相関係数の変動周期を明確にするためにフーリエ変換を行う。図35に示した自己相関係数に対してフーリエ変換を行い、その値を、縦軸にパワースペクトル密度(PSD)、横軸に周期にて示すと、図36に示すように変換される。そして、図36から「50秒」にピークがあることが確認できる。これにより、この作業は「50秒」周期(変動周期)で行われると算出される。よって、以下この変動周期を用いて、上記実施の形態1と同様に作業ポイントを抽出して、作業の分析を行うことができる。
次に、自己相関係数にて変動周期を求める場合の利点について説明する。例えば、作業者の作業が途中で中断される作業中断が画像データに含まれる場合が考えられる。要因としては、休憩時間、突発的なトラブル、他者への応援、自ら作業を離脱するなど様々な要因が考えられる。このような作業中断においては、例えば画像データの取得を中断することも考えられるが、先にも示したようにどのような要因により中断されるかは不明であり、また、要因が解っている場合であっても、画像データの取得を中断する作業、また、画像データの取得を再開する作業など作業が繁雑となったり、そのタイミングによっては、画像分析自体に支障が生じたりする可能性がある。
よって、本実施の形態においては、作業中断が生じる場合であっても、画像データを取得し続け、その作業中断が含まれた画像データであっても、自己相関係数にて変動周期を求めているため画像分析に対応できるようにしたものであり、そのことについて以下に説明する。
まず、作業中断が存在する場合の、画像データの色情報エントロピーは、図37に示すように、作業中断の間は「0」となる。尚、図37は、作業中断以外は図34と同様の作業を行っているものである。そして、この図37に示すようなデータから、上記実施の形態1と同様に自己相関係数を算出し、縦軸に自己相関係数、横軸に時間シフトをとると、図38に示すようになる。図38と図35とを比較すると解るように、図38は作業中断が含まれているため、安定した波形を得ることができない。
しかし、この自己相関係数に対して、フーリエ変換を行い、その値を、縦軸にパワースペクトル密度(PSD)、横軸に周期にて示すと、図39に示すように変換される。そして、図39から「50秒」にピークがあることが確認できる。これにより、この作業は「50秒」周期(変動周期)で行われると算出される。よって、以下、上記実施の形態1と同様に画像分析を行うことができる。
しかしながら、上記に示したように、自己相関係数を算出することなく、ただ単に画像データの色情報エントロピーに対してフーリエ解析を行い、その値を、縦軸にパワースペクトル密度(PSD)、横軸に周期にて示すと、図40に示すような結果が得られる。図40から明らかなように、低周波成分が多く検出され、本来得る必要のある、50秒にピークを確認することができない。
上記のように構成された実施の形態1の画像分析装置によれば、施設内の作業者を撮影した画像データの特徴量を用いて画像の分析を行うことができるため、分析を行う分析者が観測対象である作業者を目視観測する必要がなく、画像分析の負荷を軽減することができる。また、特徴量による変動周期を分析に用いることができるため、動体自体を識別する必要がなく、また動作辞書などの対応表の整備も不要であるため、画像分析を精度よく行うことができる。また、変動周期を自己相関係数により求めているため、作業中断などが発生しても精度に優れた変動周期を算出することができる。
また、特徴量時系列データは、各画素を含むあらかじめ設定された画素領域における色情報の時系列的な色情報エントロピー用いて計算するため、画像データにおいて、動体であるか否かを識別する必要がなく、画像分析を精度よく行うことができる。
また変動周期は、特徴量時系列データの自己相関係数から算出してるため、精度に優れた画像分析を行うことができる。
また色情報は、あらかじめ設定された複数の区分に分類された色パレットデータに基づいて取得されるため、画像分析を簡便に行うことができる。
尚、上記実施の形態1においては、画像分析装置に、画像分析手段、画像DB、特徴量時系列DB、画像分析DBを備えている例を示したが、これに限られることはなく、それぞれが別々に形成されていても、上記実施の形態1と同様に行うことができ、同様の効果を奏することができる。具体的には、画像分析装置としては画像分析手段のみ存在すれば、他のデータは外部から得ることにより、上記実施の形態1と同様に行うことができ、同様の効果を奏することができる。これらのことは、以下の実施の形態においても同様であるためその説明は適宜省略する。
また、上記実施の形態1では撮影箇所を2箇所にて設定する例を示したが、撮影箇所は2箇所に限定するものではなく、1箇所あるいは3箇所以上でも、上記実施の形態1と同様に行うことができ、同様の効果を奏することができる。
実施の形態2.
上記実施の形態1においては、色パレットデータをあらかじめ設定している例を示したが、これに限られることはなく、本実施の形態においては、画像データにおける色情報の出現頻度に応じて色パレットデータを作成する場合について説明する。よって、本実施の形態においては、特徴量算出部7の動作の内、特に色パレットデータの設定を行う動作について説明する。他の部分の構成および動作は上記実施の形態1と同様であるため、その説明は適宜省略する。
図41はこの発明の実施の形態2における画像分析装置の特徴量算出部の動作を説明するための図である。図42は図41に示した特徴量算出部にて取得した画像データの各色相における出現頻度を示した図である。図43は図41に示した各色相における出現頻度を色相において均等分割した状態を示す図である。図44は図41に示した画像データの各色相における出現頻度の多い順に示し山色相を抽出した図である。図45は図44に示した出現頻度の多い順を色相順に並び変え谷色相を抽出した図である。図46は図45に示した谷色相から設定された色パレット番号の状態を示した図である。図47は図41に示した各色相における出現頻度を色相において図46に示した色パレット番号に分割した状態を示す図である。
上記のように構成された実施の形態2の画像分析装置の特徴量算出部7は、あらかじめ設定された数分の画像データを取得して読み込む(図41のステップS11)。この際、取得される画像データの数は、分析を行う画像データの種類、また、分析の精度などに応じて適宜設定されるものである。次に、上記実施の形態1と同様の処理を行い、取得された各画像データの全ての画素の色情報を取得する(図41のステップS12)。尚、この取得した各画像データの各画素の色情報は後述におけるステップS02において利用してもよい。
次に、色パレットデータを作成する(図41のステップS13)。まず、読み込んだ各画像データの全ての画素の色情報の色相の出現頻度を算出する。そして、この際の色相の出現頻度を、横軸に色相、縦軸に出現頻度としてグラフ化すると、図42に示すような分布になることが解る。これは、画像データが、例えば工場の中の場合であれば、一般的に作業場の風景は原色的でなく地味である場合が多い。
よって、図42に示すように、殆ど出現しない色帯Qの部分が存在する。逆に、図42の色帯P1、色帯P2にて示した部分のように、類似色に集中して出現する部分が存在する。よって、色帯Qにて示した部分は、分析において、色パレット番号を細かく分類する必要がなく、色帯P1、および色帯P2のように出現頻度の多い部分は、色パレット番号を分けて設定する方が分析を精度よく行うことができると考えられる。
しかしながら、図42をただ単に等間隔にて色相にて分割してしまえば、図43に示すように分類され、あまり出現しない色帯Qに2つの色パレット番号を付与されたり、多く出現する色帯P1、および色帯P2の両方に、同一の色パレット番号が付与されたりする。よってこの状態では、工場内の色情報の取得が精度よく行えない。
よって、本実施の形態2においては、色パレット番号、優先順位1位の、色パレット番号<1>(黒色)、優先順位2位の、色パレット番号<2>(白色)で、優先順位3位の、色パレット番号<3>(灰色)といった色相に関係なく輝度や彩度によって決まる色パレット番号を除いた、色パレット数を「11」個を出現頻度の多い色相から順に設定する。
出現頻度の多い色相(図42では山状になっている部分であり、以下、「山色相」と呼ぶ)を、出現頻度の多い箇所から順に、<4>〜<14>を割り当てていく。図41において、出現頻度が最も多いのは色相200°近辺であることから、山色相200°が含まれるように、優先順位4位の、色パレット番号<4>が割り当てられる。次に多い色相220°が含まれるように、優先順位5位の、色パレット番号<5>が割り当てられる。そして、図44に示すように11個の山色相が順次割り当てられる。そして、図45に示すように、これらの11個の山色相を色相の小さいものから順に並べ替える。そして、山色相と次の山色相間で、出現頻度が最小となる色相(以下、「谷色相」とする)を検出する。
そして、各色パレット番号は、図46に示すように、谷色相から次の谷色相間の色帯幅が色パレットの境界条件として設定される。すなわち、例えば、優先順位4位の、色パレット番号<4>であれば、色相180°以上210°未満が割り当てられる。このように設定することで、色パレットデータは、色相の出現頻度に応じて色パレット番号の色帯幅が可変される。
そして、色パレットデータに、この色パレット番号がそれぞれ登録される。すると、図46に示すように、色帯Qにて示し部分は、色パレット番号は1つに設定され、色帯P1、および色帯P2は別々の色パレット番号が設定される。よって、分析を精度よく行うことができると考えられる。そして、この出力頻度に応じて設定された色パレットデータを用いて、以下、上記実施の形態1と同様に処理を行う。
上記のように構成された実施の形態2によれば、上記実施の形態1と同様の効果を奏するのはもちろんこと、画像データの色情報の出現頻度に応じて、色パレットデータを設定することができるので、画像データの内容に応じて、画像分析を精度よく行うことができる。
実施の形態3.
上記各実施の形態においては、画像分析システムとして、撮影装置、画像分析装置、表示装置を分散配置して構成する例を示したが、これに限られることはなく、図48に示すように、タブレット型の移動型端末装置20に、画像を撮影する撮影装置21、情報を表示する表示装置22、画像分析装置5を備える。そして、画像分析装置5には、上記各実施の形態と同様に、画像分析手段9、画像DB6、特徴量時系列DB11、画像分析DB12を備えている。そして、上記各実施の形態と同様に動作することができる。
上記のように構成された実施の形態3によれば、上記各実施の形態と同様の効果を奏するのはもちろんこと、移動型端末装置に各機能を備えるようにしているため、可搬性を高くすることができる。また、作業の内容を分析するような場合であれば、各作業者または分析者が、作業または分析を行う箇所にて移動型端末装置を持参して画像分析を行うことができるため、当該箇所に撮影装置および表示装置の設備がなくとも画像分析を行うことができる。また、撮影装置および表示装置と、画像分析装置との通信を確保する必要がないため、汎用性に優れている。
実施の形態4.
上記各実施の形態においては、画像分析装置に、画像分析手段、画像DB、特徴量時系列DB、画像分析DBを備えている例を示したが、これに限られることはなく、画像データを格納する画像DBを撮影装置側に備えるようにしてもよい。
具体的には図49に示すように、画像分析装置5には、上記各実施の形態と同様に、画像分析手段9と、特徴量時系列DB11と、画像分析DB12とを備える。そして、有線または無線にてなる通信網34を介して表示装置13が接続されている。また、通信網34を介して、例えば家庭用の一般的ビデオカメラにてなる撮影ユニット301、302がそれぞれ接続されている。そして、各撮影ユニット301、302は画像を撮影する撮影装置311、312と、各撮影装置311、312にて撮影された画像データを格納する画像DB313、314(ビデオカメラのHD、SDカード等が考えられる)とをそれぞれ備えている。そして、上記各実施の形態と同様に動作することができる。
上記のように構成された実施の形態4の画像分析システムによれば、上記各実施の形態と同様の効果を奏するのはもちろんこと、撮影対象の増加に対して、安価に撮影ユニットを拡張することができる。尚、本実施の形態4においては撮影ユニットを2台接続している例を示したが、これに限られることはなく、1台あるいは3台以上でも同様に行うことができ、同様の効果を奏することができる。
尚、本発明は、その発明の範囲内において、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略することが可能である。

Claims (11)

  1. 時系列に取得された画像データを分析する画像分析方法において、
    各前記画像データの各画素の色情報を取得する工程と
    前記色情報から各前記画素の特徴量の時系列的な変化を示す特徴量時系列データを算出する工程と、
    前記特徴量時系列データから前記画像データの変動周期を算出する工程とを備え、
    前記特徴量時系列データは、各前記画素を含むあらかじめ設定された画素領域における前記色情報の時系列的な色情報の情報エントロピーである画像分析方法。
  2. 前記変動周期は、前記特徴量時系列データの自己相関係数から算出する請求項1に記載の画像分析方法。
  3. 前記色情報は、あらかじめ設定された複数の区分に分類された色パレットデータに基づいて取得される請求項1または請求項に記載の画像分析方法。
  4. 前記色パレットデータの区分は、前記画像データの色の出現頻度に応じて設定される請求項に記載の画像分析方法。
  5. 前記画像データが、工場内の作業者が周期的な動作を反復するデータを含んでおり、
    前記変動周期から前記作業者の反復する動作の周期を分析する工程を備えた請求項1から請求項のいずれか1項に記載の画像分析方法。
  6. 時系列に取得された画像データを分析する画像分析装置において、
    各前記画像データの各画素の色情報から特徴量の時系列的な変化を示す特徴量時系列データを算出する特徴量算出部と、
    前記特徴量時系列データから各前記画像データの変動周期を算出する変動周期算出部とを備え、
    前記特徴量時系列データは、各前記画素を含むあらかじめ設定された画素領域における前記色情報の時系列的な色情報の情報エントロピーである画像分析装置。
  7. 請求項に記載の画像分析装置は、請求項1から請求項のいずれか1項に記載の画像分析方法を行う画像分析装置。
  8. 請求項または請求項に記載の画像分析装置と、
    前記画像データを取得する撮影装置と、
    前記画像分析装置の分析結果を表示する表示装置と、
    前記画像データを格納する画像データベースと、
    前記特徴量時系列データを格納する特徴量時系列データベースと、
    前記分析結果を格納する画像分析データベースとを有する画像分析システム。
  9. 請求項に記載の画像分析システムは、
    前記画像分析装置、前記撮影装置、前記表示装置、前記画像データベース、前記特徴量時系列データベース、および、前記画像分析データベースを一体型かつ可搬型にて形成されている画像分析可搬型装置。
  10. 時系列に取得された画像データを分析する画像分析方法において、
    各前記画像データの各画素の色情報を取得する工程と
    前記色情報から各前記画素の特徴量の時系列的な変化を示す特徴量時系列データを算出する工程と、
    前記特徴量時系列データから前記画像データの変動周期を算出する工程とを備え、
    前記色情報は、あらかじめ設定された複数の区分に分類された色パレットデータに基づいて取得され、
    前記色パレットデータの区分は、前記画像データの色の出現頻度に応じて設定される画像分析方法。
  11. 時系列に取得された画像データを分析する画像分析方法において、
    各前記画像データの各画素の色情報を取得する工程と
    前記色情報から各前記画素の特徴量の時系列的な変化を示す特徴量時系列データを算出する工程と、
    前記特徴量時系列データから前記画像データの変動周期を算出する工程とを備え、
    前記画像データが、工場内の作業者が周期的な動作を反復するデータを含んでおり、
    前記変動周期から前記作業者の反復する動作の周期を分析する工程を備えた画像分析方法。
JP2016525759A 2014-06-06 2015-05-20 画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置 Active JP6253773B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014117196 2014-06-06
JP2014117196 2014-06-06
PCT/JP2015/064452 WO2015186518A1 (ja) 2014-06-06 2015-05-20 画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置

Publications (2)

Publication Number Publication Date
JPWO2015186518A1 JPWO2015186518A1 (ja) 2017-04-20
JP6253773B2 true JP6253773B2 (ja) 2017-12-27

Family

ID=54766593

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016525759A Active JP6253773B2 (ja) 2014-06-06 2015-05-20 画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置

Country Status (5)

Country Link
US (1) US20170039697A1 (ja)
JP (1) JP6253773B2 (ja)
CN (1) CN106255993B (ja)
DE (1) DE112015002681B4 (ja)
WO (1) WO2015186518A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102049428B1 (ko) * 2018-07-02 2019-11-27 차의과학대학교 산학협력단 시계열 기반의 멀티 채널신호 분석 시스템 및 방법
KR102548246B1 (ko) * 2020-11-09 2023-06-28 주식회사 코난테크놀로지 이미지 엔트로피를 이용한 객체 검출용 데이터셋 구성 방법 및 이를 수행하는 데이터 처리장치
CN115131296B (zh) * 2022-06-08 2024-02-27 广州东朝智能科技有限公司 一种用于图像识别的分布式计算方法及系统
CN115266536B (zh) * 2022-09-26 2022-12-13 南通钧儒卫生用品有限公司 一种纸尿裤吸水性能检测方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2711548B2 (ja) 1988-05-24 1998-02-10 信彦 大貫 コンピュータによる移動物体の動作分析方法
FR2873750B1 (fr) * 2004-08-02 2009-04-17 Inst Francais Du Petrole Dispositif pour la production d'un gaz chaud par oxydation utilisant un reacteur rotatif simule
JP4792824B2 (ja) 2004-11-05 2011-10-12 富士ゼロックス株式会社 動作分析装置
US9607372B2 (en) * 2007-07-11 2017-03-28 Hernani D. Cualing Automated bone marrow cellularity determination
JP2009032033A (ja) * 2007-07-27 2009-02-12 Omron Corp 動作境界検出方法および作業分析システム
JP5159263B2 (ja) 2007-11-14 2013-03-06 株式会社日立製作所 作業情報処理装置、プログラム及び作業情報処理方法
JP5303355B2 (ja) * 2009-05-21 2013-10-02 学校法人 中央大学 周期ジェスチャ識別装置、周期ジェスチャ識別方法、周期ジェスチャ識別プログラム、及び記録媒体
JP5220705B2 (ja) * 2009-07-23 2013-06-26 オリンパス株式会社 画像処理装置、画像処理プログラムおよび画像処理方法
WO2012133028A1 (ja) * 2011-03-25 2012-10-04 株式会社ニコン 電子機器、選択方法、取得方法、電子装置、合成方法および合成プログラム
EP2523145A1 (en) * 2011-05-11 2012-11-14 Alcatel Lucent Method for dynamically adapting video image parameters for facilitating subsequent applications
US8903132B2 (en) * 2011-09-12 2014-12-02 2343127 Ontario Inc. Efficient system and method for body part detection and tracking
WO2013157265A1 (ja) * 2012-04-18 2013-10-24 パナソニック株式会社 画像処理システム、サーバ装置、撮像装置及び画像判定方法

Also Published As

Publication number Publication date
WO2015186518A1 (ja) 2015-12-10
US20170039697A1 (en) 2017-02-09
JPWO2015186518A1 (ja) 2017-04-20
CN106255993A (zh) 2016-12-21
DE112015002681B4 (de) 2022-09-29
CN106255993B (zh) 2019-07-26
DE112015002681T5 (de) 2017-05-18

Similar Documents

Publication Publication Date Title
JP6253773B2 (ja) 画像分析方法、画像分析装置、画像分析システム、および画像分析可搬型装置
US7756293B2 (en) Movement capture and analysis apparatus and method
JP6176388B2 (ja) 画像識別装置、画像センサ、画像識別方法
US10565439B2 (en) Method and system for tracking workers at worksites
JP2019160001A5 (ja)
JP2008077424A (ja) 作業分析システム及び方法
JP2020087312A (ja) 行動認識装置、行動認識方法及びプログラム
JP6372198B2 (ja) ロボットシステム及び処理装置
WO2017150073A1 (ja) 作業動作解析システム,作業動作解析方法及び作業動作解析プログラム
US9436996B2 (en) Recording medium storing image processing program and image processing apparatus
US20140355828A1 (en) Setting apparatus, setting method, and storage medium
JP2009032033A (ja) 動作境界検出方法および作業分析システム
JP7210890B2 (ja) 行動認識装置、行動認識方法、そのプログラム及びそのプログラムを記録したコンピュータ読取り可能な記録媒体
JP2018207194A (ja) 切羽監視システム
JP2011039872A (ja) 物品計数装置及び物品計数方法
JP2015215709A (ja) 機器データ処理装置及び機器データ処理方法
JP2011090708A (ja) 対象個数検出装置および対象個数検出方法
JP2014186497A (ja) 画像解析装置、画像解析方法および画像解析プログラム
WO2018074243A1 (ja) 生産管理システム及び生産管理方法
JP2018186418A5 (ja)
CN113505770B (zh) 快递行业衣着发饰异常检测方法及系统、电子设备
Palnick Plane Detection and Segmentation for DARPA Robotics Challenge
KR20170086350A (ko) 기계 이상 동작 검출 장치 및 방법
JP2021005128A (ja) 物体検出プログラム、物体検出方法、及び、物体検出装置
JP2000182056A (ja) 画像処理装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170510

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171128

R150 Certificate of patent or registration of utility model

Ref document number: 6253773

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250