JP2018077637A - 情報処理装置、情報処理システム、情報処理方法およびプログラム - Google Patents

情報処理装置、情報処理システム、情報処理方法およびプログラム Download PDF

Info

Publication number
JP2018077637A
JP2018077637A JP2016218365A JP2016218365A JP2018077637A JP 2018077637 A JP2018077637 A JP 2018077637A JP 2016218365 A JP2016218365 A JP 2016218365A JP 2016218365 A JP2016218365 A JP 2016218365A JP 2018077637 A JP2018077637 A JP 2018077637A
Authority
JP
Japan
Prior art keywords
unit
information processing
tracking
area
work
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016218365A
Other languages
English (en)
Other versions
JP6834372B2 (ja
Inventor
慶二 大村
Keiji Omura
慶二 大村
翔太郎 小元
Shotaro Komoto
翔太郎 小元
紀 山名
Tadashi Yamana
紀 山名
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016218365A priority Critical patent/JP6834372B2/ja
Publication of JP2018077637A publication Critical patent/JP2018077637A/ja
Application granted granted Critical
Publication of JP6834372B2 publication Critical patent/JP6834372B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Abstract

【課題】取得した動線から作業領域を決定することができる情報処理装置、情報処理システム、情報処理方法およびプログラムを提供する。【解決手段】所定単位の一連の作業である定型作業における追跡対象の位置情報を含む複数の追跡結果情報を取得する第1取得部と、第1取得部によって取得された複数の追跡結果情報の追跡対象の位置情報が示すポイントの移動距離に基づいて、停滞しているポイント群である停滞部分を抽出する第1抽出部と、各追跡結果情報に対応する停滞部分に基づく所定のポイントを拡大した拡大領域を得る拡大部と、拡大部により得られた複数の拡大領域のうち少なくともいずれかが重なる領域に基づいて作業領域を決定する第1決定部と、を備える。【選択図】図3

Description

本発明は、情報処理装置、情報処理システム、情報処理方法およびプログラムに関する。
製品の生産現場では、人が介在する工程において、作業者の歩行および動作等の動きを定量的に捉え、いかに素早く分析および改善に繋げるかが課題となっている。人の動きを定量化する技術としては、人の動きを「動線」として「見える化」を行う取り組みが世の中で広まっている。動線を取得する技術としては、無線LAN(Local Area Network)の位置情報を利用するもの、超音波の送信機を追跡の対象に付与して受信機で位置を特定するもの、および、ビーコン等を発信するIDをスマートフォンで受信して位置を捕捉するもの等の技術がある。ただし、これらの技術で追跡を実施するには、追跡対象物に無線LAN、もしくは超音波発信等の端末、またはIDを持たせる必要がある。また、追跡対象に、何らかの端末を持たせずに、動線を取得する方法としては、カメラで撮影した映像に映っている追跡対象を画像処理技術で追跡し位置を特定する技術が既に知られている。動線の座標を取得後、座標に合わせて、映像に動線を重畳させたり、どの作業工程でどの程度の時間だけ作業をしていたかの繰り返し作業(定型作業)を分析することによって、作業の改善を進めることができる。
このような、動線を描画して作業者の作業等を分析するための技術として、追跡対象を撮影した映像のフレームを読み込むフレーム読込手段と、フレーム読込手段により読み込まれたフレームに、追跡対象に対する追跡対象領域を設定する追跡対象領域設定手段と、フレーム読込手段により読み込まれた複数のフレーム間において追跡対象領域を追跡する追跡手段と、追跡手段の追跡結果に基づき、追跡対象の動作軌跡を描画する描画手段と、描画手段により描画された動作軌跡を表示装置に表示させる表示制御手段と、を有する軌跡描画装置の技術が開示されている(特許文献1参照)。
しかしながら、特許文献1に記載された技術では、一連の繰り返し作業(定型作業)を示す動線のうち、どの部分が特定の作業を行う作業領域に相当するのかについては、いったん動線を描画させて、その動線を見ながら手動で作業領域を設定することしかできないという問題があった。
本発明は、上記に鑑みてなされたものであって、取得した動線から作業領域を決定することができる情報処理装置、情報処理システム、情報処理方法およびプログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、所定単位の一連の作業である定型作業における追跡対象の位置情報を含む複数の追跡結果情報を取得する第1取得部と、前記第1取得部によって取得された前記複数の追跡結果情報の前記追跡対象の位置情報が示すポイントの移動距離に基づいて、停滞しているポイント群である停滞部分を抽出する第1抽出部と、前記各追跡結果情報に対応する前記停滞部分に基づく所定のポイントを拡大した拡大領域を得る拡大部と、前記拡大部により得られた複数の前記拡大領域のうち少なくともいずれかが重なる領域に基づいて作業領域を決定する第1決定部と、を備えたことを特徴とする。
本発明によれば、取得した動線から作業領域を決定することができる。
図1は、実施の形態に係る画像処理システムの全体構成の一例を示す図である。 図2は、実施の形態に係る情報処理装置のハードウェア構成の一例を示す図である。 図3は、実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。 図4は、実施の形態に係る情報処理装置の色登録処理の流れの一例を示すフローチャートである。 図5は、実施の形態に係る情報処理装置の表示部に表示される追跡画面において映像が表示されている状態の一例を示す図である。 図6は、実施の形態に係る情報処理装置において追跡対象の色を登録する操作について説明する図である。 図7は、実施の形態に係る情報処理装置において追跡対象を追跡する追跡処理を説明する図である。 図8は、実施の形態に係る情報処理装置の追跡処理で検出した追跡対象の情報を示す追跡結果データの一例を示す図である。 図9は、実施の形態に係る情報処理装置の定型作業領域の決定処理の流れの一例を示すフローチャートである。 図10は、実施の形態に係る情報処理装置において定型作業領域を求めるために用いる定型作業の複数の動線の一例を示す図である。 図11は、定型作業領域を求めるために用いる定型作業の複数の動線を太線化した状態の一例を示す図である。 図12は、抽出された領域が連続していることの一例を示す図である。 図13は、抽出された領域が連続していることの一例を示す図である。 図14は、実施の形態に係る情報処理装置において定型作業領域を決定する動作を説明する図である。 図15は、実施の形態に係る情報処理装置の作業領域の決定処理の流れの一例を示すフローチャートである。 図16は、停滞領域および突発的行動領域の一例を示す図である。 図17は、実施の形態に係る情報処理装置において作業領域を決定する動作を説明する図である。 図18は、実施の形態に係る情報処理装置において決定された作業領域および移動領域の一例を示す図である。
以下に、図面を参照しながら、本発明に係る情報処理装置、情報処理システム、情報処理方法およびプログラムの実施の形態を詳細に説明する。また、以下の実施の形態によって本発明が限定されるものではなく、以下の実施の形態における構成要素には、当業者が容易に想到できるもの、実質的に同一のもの、およびいわゆる均等の範囲のものが含まれる。さらに、以下の実施の形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換、変更および組み合わせを行うことができる。
(画像処理システムの全体構成)
図1は、実施の形態に係る画像処理システムの全体構成の一例を示す図である。図1を参照しながら、本実施の形態の画像処理システム1の全体構成について説明する。
図1に示すように、本実施の形態の画像処理システム1は、撮像装置2a〜2dと、情報処理装置3と、ハブ4と、外部機器10と、を含む。
撮像装置2a〜2dは、被写体から光を電気信号に変換することによって被写体を撮像(撮影)し、複数のフレーム(画像データ)で構成された動画(例えば、10[FPS]、25[FPS]等)である映像データを生成するビデオカメラである。例えば、撮像装置2a〜2dは、製品を生産する生産設備または生産ライン等で作業する作業者を撮像して映像データを生成する。
なお、撮像装置2a〜2dを区別なく呼称する場合、または総称する場合、単に「撮像装置2」というものとする。また、図1では、画像処理システム1は、4台の撮像装置2を含む構成となっているが、これに限定されるものではなく、他の台数の撮像装置2を含む構成であってもよい。
情報処理装置3は、各撮像装置2によって撮像された映像データに基づいて画像処理を実行する画像処理装置として機能するPC(Personal Computer)またワークステーション等である。情報処理装置3は、画像処理の対象となる映像データおよび画像処理した結果情報(位置情報等)を、通信ケーブルまたはネットワークを介して外部機器10へ送信する。また、情報処理装置3は、過去に撮像された映像データおよびその映像データが画像処理された結果情報を、通信ケーブルまたはネットワークを介して外部機器10から受信する。したがって、情報処理装置3は、通信ケーブルまたはネットワークを介して、外部機器10と通信可能となっている。
ハブ4は、撮像装置2a〜2dを情報処理装置3と接続するためのEthernet(登録商標)規格に対応した集線装置である。ハブ4は、例えば、Ethernet規格に対応している場合、撮像装置2a〜2dと、情報処理装置3とはTCP(Transmission Control Protocol)/IP(Internet Protocol)等のプロトコルによりデータ通信が行われる。この場合、撮像装置2a〜2dおよび情報処理装置3は、TCP/IPのプロトコルにより通信するためのMAC(Media Access Control)アドレスを有し、かつプライベートIPアドレス等のIPアドレスが割り当てられている。
なお、図1に示すハブ4は、TCP/IPのプロトコルによる通信を中継する例を示したが、これに限定されるものではない。例えば、情報処理装置3側にVGA(Video Graphics Array)端子またはUSB(Universal Serial Bus)ポートを有し、複数の撮像装置2がVGAケーブルまたはUSBケーブルを介してハブ4に集線されて情報処理装置3に接続される形態等であってもよい。
また、各撮像装置2は、ハブ4を介して情報処理装置3に接続される構成について説明したが、これに限定されるものではなく、LAN(Local Area Network)、専用回線またはインターネット等のネットワークを介して情報処理装置3と通信する構成としてもよい。
外部機器10は、各撮像装置2により撮像された映像データ、および、映像データにおける人物(作業者)の位置を示す位置情報等の画像処理の結果情報を記憶する外部記憶装置、またはデータベースサーバ等である。
なお、上述したように、映像データを収集する撮像装置2の台数に限定はないが、以下の説明では、図1に示したように、撮像装置2が4台接続された構成を例として説明する。
(情報処理装置のハードウェア構成)
図2は、実施の形態に係る情報処理装置のハードウェア構成の一例を示す図である。図2を参照しながら、本実施の形態の情報処理装置3のハードウェア構成の一例について説明する。
図2に示すように、情報処理装置3は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、外部記憶装置104と、ディスプレイ105と、ネットワークI/F106と、キーボード107と、マウス108と、DVD(Digital Versatile Disc)ドライブ109と、外部機器I/F111と、スピーカ112と、を備えている。
CPU101は、情報処理装置3全体の動作を制御する装置である。ROM102は、情報処理装置3用のBIOS(Basic Input/Output System)およびファームウェア等のプログラムを記憶している不揮発性記憶装置である。RAM103は、CPU101のワークエリアとして使用される揮発性記憶装置である。
外部記憶装置104は、撮像装置2および外部機器10から受信した映像データ、画像処理の結果情報(位置情報等)、および設定情報等の各種データを記憶するHDD(Hard Disk Drive)またはSSD(Solid State Drive)等の記憶装置である。
ディスプレイ105は、カーソル、メニュー、ウィンドウ、文字もしくは画像等の各種情報、または情報処理装置3による画像処理を実行するアプリケーションの画面を表示する表示装置である。ディスプレイ105は、例えば、CRT(Cathode Ray Tube)ディスプレイ、LCD(Liquid Crystal Display:液晶ディスプレイ)または有機EL(Electroluminescence)ディスプレイ等である。なお、ディスプレイ105は、例えば、情報処理装置3の本体に対して、VGAケーブルまたはHDMI(登録商標)(High−Definition Multimedia Interface)ケーブル等によって接続されたり、または、Ethernetケーブルによって接続される。
ネットワークI/F106は、ハブ4に接続してデータ通信するためのインターフェースである。ネットワークI/F106は、例えば、TCP/IPのプロトコルで通信可能にするNIC(Network Interface Card)である。具体的には、情報処理装置3は、撮像装置2から、ネットワークI/F106を介して、映像データを受信する。
キーボード107は、文字、数字、各種指示の選択、カーソルの移動、および設定情報の設定等を行う入力装置である。マウス108は、各種指示の選択および実行、処理対象の選択、カーソルの移動、ならびに設定情報の設定等を行うための入力装置である。
DVDドライブ109は、着脱自在な記憶媒体の一例としてのDVD110に対するデータの読み出し、書き込みおよび削除を制御する装置である。
外部機器I/F111は、外部の装置(例えば、外部機器10)等と接続してデータ通信をするためのインターフェースである。外部機器I/F111は、例えば、TCP/IPのプロトコルで通信可能にするNIC、または、USBインターフェースカードである。具体的には、情報処理装置3は、外部機器10と、外部機器I/F111を介してデータ通信を行う。
スピーカ112は、後述する作業時間等に対する異常判定において異常と判定された場合等に音声で通知する音声出力装置である。
上述のCPU101、ROM102、RAM103、外部記憶装置104、ディスプレイ105、ネットワークI/F106、キーボード107、マウス108、DVDドライブ109、外部機器I/F111、およびスピーカ112は、アドレスバスおよびデータバス等のバス113によって互いに通信可能に接続されている。なお、ディスプレイ105が、Ethernetケーブルによって接続される場合には、ネットワークI/F106に接続されることになり、この場合、TCP/IP等のプロトコルによりデータ通信が行われる。
(画像処理システムのブロック構成)
図3は、実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。図3を参照しながら、情報処理装置3のブロック構成について説明する。なお、図3においては、説明を簡略化するため、ハブ4の図示を省略して説明する。
図3に示すように、情報処理装置3は、映像受信部301と、入力部302と、設定部303と、記憶部304と、再生部305と、第1取得部306と、指定部307と、登録部308と、検出部309と、軌跡出力部310(動線生成部)と、データ通信部321と、太線化部322と、定型抽出部323(第2抽出部)と、連続判定部324(第1判定部)と、定型決定部325(第2決定部)と、停滞抽出部326(第1抽出部)と、代表点特定部327(特定部)と、拡大部328と、工程抽出部329と、工程決定部330(第1決定部)と、移動決定部331(第3決定部)と、第2取得部341と、領域判定部342(第2判定部)と、計測部343と、時間判定部344(第3判定部)と、通知部345と、管理部351(変更部、生成部)と、表示制御部352と、表示部353と、を有する。
映像受信部301は、ハブ4を介して、撮像装置2から映像データを受信する機能部である。映像受信部301は、受信した映像データを記憶部304に記憶させ、または、データ通信部321を介して、外部機器10に送信する。映像受信部301は、図2に示すネットワークI/F106によって実現される。
入力部302は、情報処理装置3に対して、色登録処理、追跡対象の追跡処理、および後述する定型作業エリアおよび作業エリアの決定処理等を実行させるための操作入力を行う装置である。入力部302は、図2に示すキーボード107およびマウス108によって実現される。
設定部303は、ユーザにより操作される入力部302からの操作信号に従って、各種設定情報を設定して記憶部304に記憶させる機能部である。設定部303は、例えば、後述するように登録部308により登録された基準色を中心とする所定範囲を示す情報(以下、「追跡パラメータ」という場合がある)を設定し、設定した追跡パラメータを、記憶部304に記憶させる。ここで、基準色を中心とする所定範囲は、基準色がRGB色空間で表される場合、基準色のR値に所定量を加算した上限値、および所定量を減算した下限値が設定されることによって、基準色のR値を中心とする所定範囲が定まる。基準色のG値およびB値についても、同様である。なお、所定量は、R値、G値およびB値それぞれ別々の値が設定されるものとしてもよい。設定部303は、図2に示すCPU101により実行されるプログラムによって実現される。
記憶部304は、映像受信部301により受信された映像データ、設定情報、および後述する追跡処理により得られた位置情報等の各種データを記憶する機能部である。記憶部304は、映像受信部301により受信された映像データが、どの撮像装置2により生成された映像データであるかを識別して記憶する。記憶部304は、例えば、図2に示すRAM103または外部記憶装置104によって実現される。
再生部305は、ユーザにより操作される入力部302からの操作信号に従って、映像受信部301により受信され、データ通信部321により受信され、または記憶部304から取得した映像データを表示制御部352に送り、表示制御部352に対して、映像データを表示部353に再生表示させる機能部である。具体的には、再生部305は、例えば、後述する図5に示すように、表示部353に表示される追跡画面400の個別表示部401に映像データを再生表示させる。再生部305は、図2に示すCPU101により実行されるプログラムによって実現される。
第1取得部306は、映像受信部301により受信され、データ通信部321により受信され、または記憶部304に記憶された映像データからフレームを取得する機能部である。第1取得部306は、図2に示すCPU101により実行されるプログラムによって実現される。
指定部307は、ユーザにより操作される入力部302からの操作信号に従って、表示部353における映像データを表示する表示領域(例えば、後述する図5に示す個別表示部401)において、追跡対象の追跡処理で使用する特徴情報としての色を特定するための指定領域(例えば、後述する図6に示す指定領域550)を指定する機能部である。指定部307は、指定した指定領域の情報を、撮像装置2ごとに関連付けて記憶部304に記憶させる。指定部307は、図2に示すCPU101により実行されるプログラムによって実現される。
登録部308は、指定部307により指定された指定領域の色を示す画素値に基づいて、基準色を特定し、特定した基準色の情報を記憶部304に記憶(登録)する機能部である。ここで、個別表示部401に表示される映像データのフレームの画素値は、例えば、RGB色空間、またはHSV色空間等に基づいた色を示す情報である。具体的には、登録部308は、例えば、指定領域に含まれる画素の画素値の平均値を算出し、その平均値を基準色として特定する。なお、登録部308は、指定領域の中央の画素の画素値を基準色として特定してもよい。登録部308は、図2に示すCPU101により実行されるプログラムによって実現される。
検出部309は、追跡対象の追跡処理の対象となるフレームにおいて、登録部308により登録された基準色(設定部303により設定された追跡パラメータ)に基づいて、追跡対象を検出する機能部である。具体的には、検出部309は、追跡対象の追跡処理の対象となるフレームについて、抽出処理、二値化処理、およびラベリング処理等の処理を実行し、上述した基準色を中心とする所定範囲(以下、「基準色範囲」という場合がある)に入る色の画素を含むブロックに対応する領域を追跡対象として検出する。検出部309は、図2に示すCPU101により実行されるプログラムによって実現される。
なお、検出部309は、基準色範囲に入る色の画素を含むブロックに対応する領域を追跡対象として検出しているが、これに限定されるものではない。例えば、登録部308は、指定部307により指定された指定領域内に存在する形状を特定し、特定した形状の情報(特徴情報の一例)を記憶部304に記憶(登録)し、検出部309は、登録された形状と同一または類似の形状を、追跡対象として検出するものとしてもよい。
また、検出部309は、映像データのフレームごとに追跡対象を検出する動作に限定されるものではなく、例えば、所定時間ごとに第1取得部306により取得されたフレームにおいて追跡対象を検出するものとしてもよい。また、フレームごとに追跡対象を検出する場合、そのフレームレートを設定可能としてもよく、所定時間ごとに検出する場合、その所定時間を設定可能とするものとしてもよい。
軌跡出力部310は、追跡対象の軌跡を示す軌跡線(動線)を生成し、表示制御部352に、再生表示している映像データに軌跡線(動線)を重畳して表示させる機能部である。軌跡出力部310は、図2に示すCPU101により実行されるプログラムによって実現される。
データ通信部321は、外部機器10との間で、映像データおよび位置情報等を含む追跡結果情報(後述)等を送受信する機能部である。データ通信部321は、映像データおよび追跡結果情報等を受信した場合、これらの情報を記憶部304に記憶させるものとしてもよい。データ通信部321は、図2に示すネットワークI/F106によって実現される。
太線化部322は、後述する定型作業領域の決定処理において、表示部353に表示されている動線を太線化する機能部である。太線化部322は、図2に示すCPU101により実行されるプログラムによって実現される。
定型抽出部323は、太線化部322により太線化された動線が所定数以上重なっている領域を抽出する機能部である。定型抽出部323は、図2に示すCPU101により実行されるプログラムによって実現される。
連続判定部324は、定型抽出部323によって抽出された領域が連続しているか否か判定する機能部である。連続判定部324は、図2に示すCPU101により実行されるプログラムによって実現される。
定型決定部325は、連続判定部324により連続していると判定された領域を定型作業領域に決定する機能部である。定型決定部325は、図2に示すCPU101により実行されるプログラムによって実現される。
停滞抽出部326は、動線に含まれる各座標を示すポイント群であって、追跡対象が停滞していると判断されるポイント群(停滞部分)を抽出する機能部である。停滞抽出部326は、図2に示すCPU101により実行されるプログラムによって実現される。
代表点特定部327は、定型作業領域の決定処理の対象となる複数の各動線において、停滞抽出部326により抽出された停滞部分を構成するポイントから代表のポイント(代表点)を特定する機能部である。代表点特定部327は、図2に示すCPU101により実行されるプログラムによって実現される。
拡大部328は、代表点特定部327により特定された代表点を拡大する機能部である。拡大部328は、図2に示すCPU101により実行されるプログラムによって実現される。
工程抽出部329は、拡大部328によって拡大された代表点が所定数以上重なっている領域を抽出する機能部である。工程抽出部329は、図2に示すCPU101により実行されるプログラムによって実現される。
工程決定部330は、工程抽出部329により抽出された領域を矩形で囲んで、定型作業の中で作業者が停滞して作業を行う工程の領域(作業領域)として決定する機能部である。工程決定部330は、図2に示すCPU101により実行されるプログラムによって実現される。
移動決定部331は、定型決定部325により決定された定型作業領域から、工程決定部330により決定された作業領域と重なる領域を除いた領域を、移動領域に決定する機能部である。移動決定部331は、図2に示すCPU101により実行されるプログラムによって実現される。
第2取得部341は、映像受信部301により受信された映像データからフレームを取得する機能部である。すなわち、第2取得部341は、リアルタイムの映像データのフレームを取得する。ただし、第2取得部341が取得する映像データのフレームは、リアルタイムのものではなく、記憶部304または外部機器10に記憶された過去の映像データのフレームであってもよい。第2取得部341は、図2に示すCPU101により実行されるプログラムによって実現される。
領域判定部342は、作業者等の追跡対象が、作業領域内または移動領域内に存在するか否かを判定する機能部である。領域判定部342は、図2に示すCPU101により実行されるプログラムによって実現される。
計測部343は、作業者等の追跡対象が領域判定部342によって、作業領域内または移動領域内に存在すると判定された場合、それぞれ作業時間または移動時間を計測する機能部である。また、計測部343は、所定時間において、追跡対象が作業領域内に存在した作業時間の最大値、最小値および平均値を算出する。このように、特定の作業者について作業時間の最大値、最小値、および平均値を算出することによって、その作業者の作業のむら、効率性、および作業能力等の分析を行うことが可能となる。なお、計測部343は、追跡対象が移動領域から外れた時間を計測するものとしてもよい。計測部343は、図2に示すCPU101により実行されるプログラムによって実現される。
時間判定部344は、計測部343により計測された作業時間が、所定範囲内であるか否かを判定する機能部である。なお、時間判定部344は、計測部343により追跡対象が移動領域から外れた時間が計測される場合、その時間が所定時間以上であるか否かを判定するものとしてもよい。また、上述の所定範囲は、設定部303により設定された範囲でもよく、または、上述の停滞抽出部326により抽出された停滞部分を構成するポイントの数によって求まる時間に基づく範囲としてもよい。時間判定部344は、図2に示すCPU101により実行されるプログラムによって実現される。
通知部345は、時間判定部344により作業時間が所定範囲外であると判定された場合、異常である旨を通知する機能部である。これによって、特定の作業者の作業領域における作業について何らかの問題があり、改善対象の作業として特定することができる。なお、通知部345は、時間判定部344により追跡対象が移動領域から外れた時間が所定時間以上であるか否か判定される場合、所定時間以上と判定されたとき、その旨を通知するものとしてもよい。これによって、作業を行う工程ではない移動中に何らかの突発的な行動が生じた等の旨を認識することができる。通知部345は、図2に示すスピーカ112によって実現される。なお、通知部345は、スピーカ112により実現されることに限定されるものではなく、例えば、表示部353に上述の通知内容を表示、または、メールにより所定の宛先に上述の通知内容を送信する機能等によって実現されるものとしてもよい。
管理部351は、例えば、ユーザにより操作される入力部302からの操作信号に従って、追跡画面400に表示されている映像データについて、登録部308により登録された基準色によって特定される追跡対象の追跡処理を開始または停止させる機能部である。また、管理部351は、情報処理装置3の全体の動作の管理(例えば、各種情報の記憶部304への記憶)を行う。管理部351は、図2に示すCPU101により実行されるプログラムによって実現される。
表示制御部352は、表示部353の表示動作を制御する機能部である。具体的には、表示制御部352は、映像データ、設定部303により設定された設定情報、および、指定部307により指定された指定領域等を、表示部353に表示させる。表示制御部352は、図2に示すCPU101により実行されるプログラム(ドライバ)によって実現される。
表示部353は、表示制御部352の制御に従って各種データを表示する表示装置である。表示部353は、図2に示すCPU101により実行されるプログラム(アプリケーション)の機能により、例えば、後述する追跡画面400等を表示する。表示部353は、図2に示すディスプレイ105によって実現される。
なお、図3に示した情報処理装置3の設定部303、再生部305、第1取得部306、指定部307、登録部308、検出部309、軌跡出力部310、データ通信部321、太線化部322、定型抽出部323、連続判定部324、定型決定部325、停滞抽出部326、代表点特定部327、拡大部328、工程抽出部329、工程決定部330、移動決定部331、第2取得部341、領域判定部342、計測部343、時間判定部344、管理部351、および表示制御部352の一部または全部は、ソフトウェアであるプログラムではなく、ASIC(Application Specific Integrated Circuit)またはFPGA(Field−Programmable Gate Array)等のハードウェア回路によって実現されてもよい。
また、図3に示した各機能部は、機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図3で独立した機能部として図示した複数の機能部を、1つの機能部として構成してもよい。一方、図3で1つの機能部が有する機能を複数に分割し、複数の機能部として構成するものとしてもよい。
また、以降の説明の簡略化のため、表示制御部352が、受け取ったデータを表示部353に表示させるという表現を、単に、そのデータを表示制御部352に送った機能部が、表示部353(または、表示部353が表示する画面)に表示させると表現するものとする。例えば、再生部305が、映像データを表示制御部352に送り、表示制御部352に対して映像データを表示部353に再生表示させる場合、単に、再生部305が、映像データを表示部353に再生表示させると表現するものとする。
(色登録処理)
図4は、実施の形態に係る情報処理装置の色登録処理の流れの一例を示すフローチャートである。図5は、実施の形態に係る情報処理装置の表示部に表示される追跡画面において映像が表示されている状態の一例を示す図である。図6は、実施の形態に係る情報処理装置において追跡対象の色を登録する操作について説明する図である。図4〜図6を参照しながら、本実施の形態に係る情報処理装置3の色登録処理の流れについて説明する。
まず、色登録処理の流れを説明するにあたって、図5を参照しながら、追跡画面400の構成について説明する。追跡画面400は、色登録処理により特徴情報である色を登録し、個別表示部401に再生表示される映像において、特定の追跡対象の追跡処理を行うための画面である。追跡画面400は、図5に示すように、個別表示部401と、カメラ選択タブ401aと、映像操作ボタン部403と、シークバー404と、スライダ405と、拡大縮小ボタン部406と、スパン変更ボタン部407と、時刻表示部408と、登録ボタン409と、追跡開始ボタン410と、追跡停止ボタン411と、を含む。
個別表示部401は、ユーザにより操作される入力部302からの操作信号に従って、再生部305によって、映像受信部301により受信され、データ通信部321により受信され、または記憶部304から取得した映像データが再生表示される表示部である。図5の例では、再生部305は、ユーザによる入力部302の操作により、「2」のカメラ選択タブ401aが選択操作されると、撮像装置2bにより撮像された映像データを記憶部304から取得して個別表示部401に再生表示させる。
カメラ選択タブ401aは、ユーザが再生表示を所望する撮像装置2a〜2dの映像データのうちいずれの映像データを個別表示部401に表示させるのかを選択する操作部である。例えば、撮像装置2a〜2dによって撮像された映像データは、それぞれ「1」〜「4」に対応付けられており、図5の例では、「2」すなわち撮像装置2bの映像データが選択された例を示している。
映像操作ボタン部403は、ユーザによる入力部302の操作により、個別表示部401での映像データの再生、早戻し、早送り、停止および一時停止を行うボタン群である。シークバー404は、その上に配置されるスライダ405の位置により、個別表示部401に再生表示されている映像データがどの時間のものなのかを示す棒状の形状体である。スライダ405は、個別表示部401に再生表示されている映像データの撮像時刻(表示されているフレームが撮像された時刻)に対応したシークバー404上の位置にスライドする形状体かつ操作部である。逆に、スライダ405は、ユーザによる入力部302の操作によってスライドされると、再生部305によって、スライダ405が存在するシークバー404上の位置に対応した撮像時刻の映像データのフレームが個別表示部401に表示される。
拡大縮小ボタン部406は、ユーザによる入力部302の操作により、再生部305によって、個別表示部401に再生表示されている映像データが拡大表示または縮小表示されるボタン群である。例えば、拡大縮小ボタン部406のうち拡大ボタンを押下するごとに、所定の拡大率で映像データが拡大表示される。例えば、通常の表示状態を100%として、120%、140%、・・・のように拡大表示される。
スパン変更ボタン部407は、ユーザによる入力部302の操作により、再生部305によって、シークバー404の表示スパンが拡大または縮小されるボタン群である。なお、シークバー404の表示スパンを拡大または縮小するのは再生部305である必要はなく、異なる機能部が担うものとしてもよい。
時刻表示部408は、再生部305によって、個別表示部401に再生表示されている映像データの撮像日付および撮像時刻を表示する表示領域である。
登録ボタン409は、指定部307により指定された指定領域について、登録部308に基準色を特定し、特定した基準色の情報を登録(記憶部304に記憶)させるボタンである。
追跡開始ボタン410は、ユーザによる入力部302の操作によって押下されると、管理部351に、個別表示部401に再生表示されている映像データにおいて、基準色によって特定される追跡対象の追跡処理を開始させるボタンである。追跡停止ボタン411は、ユーザによる入力部302の操作によって押下されると、管理部351に対して、個別表示部401に再生表示されている映像データに対して行われている追跡対象の追跡処理を停止させるボタンである。
次に、色登録処理の具体的な流れを説明する。図5に示す追跡画面400は、再生部305により撮像装置2bに対応する映像データが再生表示されている状態を示している。
<ステップS11>
まず、個別表示部401において映像データの再生表示中に、色登録処理を所望する画像の部分が表示されているタイミングで、ユーザによる入力部302の操作によって映像操作ボタン部403の一時停止ボタンが押下されると、再生部305は、個別表示部401に再生表示されている映像データを一時停止させる。図5に示すように、一時停止した映像データのフレームには、作業者500が写っている。そして、第1取得部306は、一時停止した映像データから個別表示部401に表示されているフレームを取得する。そして、ステップS12へ移行する。
<ステップS12>
ここで、本実施の形態に係る情報処理装置3が個別表示部401に表示されているフレームにおける追跡の対象が、図6に示す作業者500の追跡対象501であるものとする。追跡対象501は、作業者500が着用している上着の一部であり、特定の色を有するものとする。
指定部307は、ユーザによる入力部302の操作(例えば、マウス108のドラッグ操作)に従って、第1取得部306により取得されたフレーム、すなわち、個別表示部401に表示されているフレームにおいて、図6に示すように、追跡対象の追跡処理で使用する特徴情報としての色を特定するために、追跡対象501において指定領域550を指定する。
なお、指定部307による指定領域の指定は、拡大縮小ボタン部406の拡大ボタンまたは縮小ボタンにより、個別表示部401に表示されているフレームを拡大または縮小した状態で行うことができるようにしてもよい。そして、ステップS13へ移行する。
<ステップS13>
登録部308は、ユーザによる入力部302の操作による登録ボタン409の押下によって、指定部307により指定された指定領域550に基づいて、基準色を特定し、特定した基準色の情報を記憶部304に記憶(登録)する。具体的には、登録部308は、例えば、指定領域550に含まれる画素の画素値の平均値を算出し、その平均値を基準色として特定する。
そして、設定部303は、登録部308により登録された基準色を中心とする所定範囲を示す情報を追跡パラメータとして設定し、設定した追跡パラメータを、記憶部304に記憶させる。この追跡パラメータが設定されることによって、基準色範囲が定まる。
以上のステップS11〜S13によって、色登録処理(基準色の特定および登録)および追跡パラメータの設定が実行される。なお、上述の図4で示した色登録処理のフローは一例であり、その他の方法によって、基準色の特定、および追跡パラメータの設定が行われるものとしてもよい。
(追跡対象の追跡処理の概要)
図7は、実施の形態に係る情報処理装置において追跡対象を追跡する追跡処理を説明する図である。図8は、実施の形態に係る情報処理装置の追跡処理で検出した追跡対象の情報を示す追跡結果データの一例を示す図である。図7および図8を参照しながら、本実施の形態に係る情報処理装置3による追跡対象の追跡処理の概要について説明する。なお、予め、上述の色登録処理により、基準色が登録されているものとする。そして、個別表示部401での再生部305による映像データの再生表示中に、追跡対象の追跡処理を所望するフレームが表示されているタイミングで、ユーザによる入力部302の操作によって追跡開始ボタン410が押下されると、再生部305により表示されたフレームから、管理部351によって追跡対象の追跡処理が開始される。なお、再生部305によって個別表示部401に再生表示される映像データは、撮像装置2から映像受信部301を介して受信したリアルタイムの映像データであってもよく、または、記憶部304に記憶され、または、データ通信部321を介して外部機器10から受信した過去の映像データであってもよい。
第1取得部306は、再生部305により再生表示されている映像データのフレームを取得する。なお、第1取得部306により取得される2つ目以降のフレームは、追跡処理が終了したフレームの次のフレームに限定されるものではなく、所定時間後に対応するフレームを取得するものとしてもよい。すなわち、追跡処理は、処理が開始された映像データのフレーム以降、フレーム毎に実行されることに限定せず、所定時間ごとのフレームに対して実行するものとしてもよい。
次に、検出部309は、第1取得部306により取得されたフレームにおいて、登録部308により登録された基準色(設定部303により設定された追跡パラメータ)に基づいて、追跡対象を検出する。具体的には、検出部309は、当該フレームについて、抽出処理、二値化処理、およびラベリング処理等の処理を実行し、上述した基準色を中心とする基準色範囲に入る色の画素を含むブロックに対応する領域を追跡対象(図7に示す追跡対象501)として検出する。そして、管理部351は、図8に示す追跡結果データ1000(追跡結果情報)のように、検出された追跡対象の情報として、撮像された場所と、撮像された日付と、撮像された時刻と、追跡対象の中心座標(x座標およびy座標)と、が関連付けられた情報を、記憶部304に記憶させる。例えば、図8に示す追跡結果データ1000の例では、撮像された場所「area001」、日付「2016−04−02」、および時刻「10:23:45.2」に対応する追跡対象の中心座標のうちx座標が「0.83」であり、y座標が「0.41」であることを示している。なお、中心座標を表す形式はどのような形式でもよく、図8に示す追跡結果データ1000のように正規化した値であってもよく、または、フレームが横1920ピクセル、縦1080ピクセルの画像であれば、正規化された(x,y)=(0.83,0.41)は、(x,y)=(1593,442)と表すものとしてもよい。
なお、追跡結果データ1000は、CSV(Comma−Separated Values)形式のファイルとして示しているが、これに限定されるものではなく、撮像された場所と、撮像された日付と、撮像された時刻と、追跡対象の中心座標(x座標およびy座標)と、を関連付ける情報であればどのような形式の情報であってもよい。
次に、軌跡出力部310は、記憶部304に記憶された追跡結果データ1000から現在のフレームに対応する追跡対象の中心座標と、現在のフレームの前のフレームに対応する追跡対象の中心座標と、を読み出す。そして、軌跡出力部310は、現在のフレームに対応する追跡対象の中心点と、現在のフレームの前のフレームに対応する追跡対象の中心点とを結ぶ動線(軌跡線)を生成し、個別表示部401に表示されている現在のフレームに重畳して表示させる。この場合、軌跡出力部310は、追跡処理開始後のフレームから、現在のフレームの前のフレームまでについて生成した動線も同様に、現在のフレームに重畳して表示させる。これによって、個別表示部401には、図7に示すように、映像データに重畳して、追跡処理開始後からの追跡対象の軌跡を示す動線800が表示されることになる。なお、追跡結果情報(例えば、図8に示す追跡結果データ1000)の記憶のみを目的とするのであれば、軌跡出力部310は、追跡画面400の個別表示部401において、動線800を必ずしも表示させる必要はない。
以上のような動作によって、追跡対象の追跡処理が行われる。なお、上述の追跡対象の追跡処理は、映像データのフレームから追跡対象を検出することによって、追跡対象の位置情報を含む追跡結果情報を生成するものとしているが、これに限定されるものではない。例えば、追跡対象に無線LANもしくは超音波発信の端末、またはIDを持たせることによって、これらの位置情報を受信する装置を用いて、追跡対象を検出した日付および時刻、ならびに位置情報等を得ることによって、追跡結果情報を生成するものとしてもよい。
(定型作業領域の決定処理)
図9は、実施の形態に係る情報処理装置の定型作業領域の決定処理の流れの一例を示すフローチャートである。図10は、実施の形態に係る情報処理装置において定型作業領域を求めるために用いる定型作業の複数の動線の一例を示す図である。図11は、定型作業領域を求めるために用いる定型作業の複数の動線を太線化した状態の一例を示す図である。図12および図13は、それぞれ、抽出された領域が連続していることの一例を示す図である。図14は、実施の形態に係る情報処理装置において定型作業領域を決定する動作を説明する図である。図9〜図14を参照しながら、本実施の形態に係る情報処理装置3による定型作業領域の決定処理について説明する。
<ステップS21>
第1取得部306は、映像受信部301により受信され、データ通信部321により受信され、または記憶部304に記憶された複数の映像データに対応するそれぞれの追跡結果情報を取得する。そして、ステップS22へ移行する。
<ステップS22>
軌跡出力部310は、第1取得部306により取得されたそれぞれの追跡結果情報に基づいて、追跡結果情報が示すポイント(追跡対象の座標)を時系列に結んで、動線を表示部353に表示させる。ここでは、第1取得部306は、3つの追跡結果情報を取得し、軌跡出力部310は、3つの追跡結果情報に基づいて、3つの動線を表示させたものとして説明する。ここで、図10に、軌跡出力部310によりポイントが時系列に結ばれた3つの動線(動線811〜813)を示す。動線811〜813は、それぞれ、所定単位の目的を達成するための一連の作業である定型作業の動線を示している。そして、ステップS23へ移行する。
<ステップS23>
太線化部322は、軌跡出力部310により表示された動線を太線化する。ここで、図11に、動線811〜813が、太線化部322によりそれぞれ太線化され、太線化動線811a〜813aが得られた例を示す。なお、太線化部322がどれくらいの幅で動線を太線化するかについては、設定部303により設定可能であるものとしてもよい。そして、ステップS24へ移行する。
<ステップS24>
定型抽出部323は、太線化部322により太線化された動線が所定数α以上重なっている領域を抽出する。ここで、図11に示す例では、所定数αは2であるものとし、定型抽出部323は、太線化動線811a〜813aのうち、2以上が重なっている領域を抽出する。なお、所定数αについては、設定部303により設定可能であるものとしてもよい。そして、ステップS25へ移行する。
<ステップS25>
連続判定部324は、定型抽出部323によって抽出された領域が連続しているか否か判定する。ここで、抽出された領域が連続しているとは、例えば、図12に示すように、領域が環状に構成されている、または、図13に示すように、領域の両端が、表示部353に動線が表示された表示領域の各辺に位置している状態を示すものとする。連続判定部324による判定の結果、抽出された領域が連続している場合(ステップS25:Yes)、ステップS26へ移行し、連続していない場合(ステップS25:No)、ステップS27へ移行する。
<ステップS26>
定型決定部325は、連続判定部324により連続していると判定された領域を定型作業領域に決定する。ここで、動線811〜813の例では、図14に示すように、太線化動線811a〜813aのうち2以上が重なっている領域が定型抽出部323により抽出され、定型決定部325は、抽出された領域を定型作業領域820として決定する。そして、定型作業領域の決定処理を終了する。
<ステップS27>
管理部351は、所定数αを1だけデクリメントする。そして、ステップS28へ移行する。
<ステップS28>
管理部351は、所定数αが1でないか否かを判定する。α≠1の場合(ステップS28:Yes)、ステップS24へ戻り、定型抽出部323が抽出する領域の重なっている数を1減らした状態で、再度、重なっている領域を抽出する。α=1の場合(ステップS28:No)、ステップS29へ移行する。
<ステップS29>
定型決定部325は、α=1の場合、複数の太線化動線で共通する領域として1だけ重なる領域を定型作業領域とするのは信頼性が低くなるものと判断し、定型作業領域を決定できないものとする。そして、定型作業領域の決定処理を終了する。
以上のステップS21〜S29の処理によって、定型作業領域の決定処理が行われる。すなわち、モデルとなる動線(図10の例では、動線811〜813)を利用して、定型作業が行われる領域である定型作業領域を決定する。
(作業領域の決定処理)
図15は、実施の形態に係る情報処理装置の作業領域の決定処理の流れの一例を示すフローチャートである。図16は、停滞領域および突発的行動領域の一例を示す図である。図17は、実施の形態に係る情報処理装置において作業領域を決定する動作を説明する図である。図18は、実施の形態に係る情報処理装置において決定された作業領域および移動領域の一例を示す図である。図15〜図18を参照しながら、本実施の形態に係る情報処理装置3による作業領域の決定処理について説明する。
<ステップS41>
第1取得部306は、映像受信部301により受信され、データ通信部321により受信され、または記憶部304に記憶された複数の映像データに対応するそれぞれの追跡結果情報を取得する。そして、ステップS42へ移行する。
<ステップS42>
停滞抽出部326は、第1取得部306により取得された追跡結果情報に基づく各動線に含まれる各座標を示すポイント群であって、追跡対象が停滞していると判断されるポイント群(停滞部分)を抽出する。ここでは、図10と同様に、第1取得部306は、3つの追跡結果情報を取得し、停滞抽出部326が停滞部分を抽出する対象の動線を、動線811〜813として説明する。停滞抽出部326は、例えば、特定の追跡結果情報で示されるn番目のポイントと、(n+1)番目のポイントとの距離を算出し、予め設定された所定値未満であれば、(n+1)番目のポイントは停滞しているポイントと判断する。そして、停滞抽出部326は、引き続き、(n+2)番目のポイント、(n+3)番目のポイント、・・・について停滞しているポイントか否かを判断していき、(n+m)番目のポイントと、(n+m+1)番目のポイントとの距離が所定値以上となった場合、(n+1)番目〜(n+m)番目のm個のポイント群が停滞しているポイント群(停滞部分)と判断する。このようにして、停滞抽出部326により停滞部分が抽出された例を図16に示す。動線811〜813については、停滞抽出部326によって、停滞領域831〜833に含まれるポイント群が停滞部分として抽出されたものとする。また、動線813のうち、突発的行動領域835は、本来の定型作業とは異なる作業者の突発的な行動を示している。そして、ステップS43へ移行する。
<ステップS43>
代表点特定部327は、複数の各動線において、停滞抽出部326により抽出された停滞部分を構成するポイントから代表のポイント(代表点)を特定する。具体的には、代表点特定部327は、図16において、例えば、動線811を構成するポイントのうち、停滞領域831〜833にそれぞれ含まれる停滞しているポイント群の座標の平均値で定まる座標を代表点として特定する。すなわち、動線811では、停滞領域831〜833にそれぞれ含まれる停滞しているポイント群ごとに代表点が特定され、その結果、3つの代表点が特定される。動線812、813についても同様であり、動線811〜813全体では、9つの代表点が特定されることになる。そして、ステップS44へ移行する。
<ステップS44>
拡大部328は、代表点特定部327により特定された代表点に対応する距離(移動距離)を求める。例えば、上述した(n+1)番目のポイントに対応する距離を、n番目のポイントと、(n+1)番目のポイントとの距離であるものとすると、(n+1)番目〜(n+m)番目のm個のポイント群の代表点に対応する距離は、ポイント群を構成するポイントにそれぞれ対応する距離の平均値であるものとする。すなわち、(n+1)番目〜(n+m)番目のポイントにそれぞれ対応する距離の平均値が、(n+1)番目〜(n+m)番目のポイント群の代表点に対応する距離であるものとする。
そして、拡大部328は、代表点に対応する距離(移動距離)に応じて、代表点を中心に円を拡大する。例えば、拡大部328は、代表点に対応する距離が小さいほど、停滞具合も大きいものとして、円を大きく拡大させる。ここで、図17に、停滞領域831〜833にそれぞれ対応する代表点を中心に円を拡大した状態を示す。動線811については、停滞領域831に対応する停滞部分の代表点を円に拡大したものが拡大領域841a、停滞領域832に対応する停滞部分の代表点を円に拡大したものが拡大領域841b、そして、停滞領域833に対応する停滞部分の代表点を円に拡大したものが拡大領域841cである。動線812については、停滞領域831に対応する停滞部分の代表点を円に拡大したものが拡大領域842a、停滞領域832に対応する停滞部分の代表点を円に拡大したものが拡大領域842b、そして、停滞領域833に対応する停滞部分の代表点を円に拡大したものが拡大領域842cである。動線813については、停滞領域833に対応する停滞部分の代表点を円に拡大したものが拡大領域843a、停滞領域832に対応する停滞部分の代表点を円に拡大したものが拡大領域843b、そして、停滞領域833に対応する停滞部分の代表点を円に拡大したものが拡大領域843cである。なお、拡大部328が拡大する形状は円に限定されるものではなく、その他の形状に拡大するものとしてもよい。
そして、ステップS45へ移行する。
<ステップS45>
工程抽出部329は、拡大部328によって拡大された代表点が所定数以上重なっている領域を抽出する。ここで、図17に示す例では、所定数は2であるものとし、工程抽出部329は、拡大領域が2以上重なっている領域を抽出する。具体的には、工程抽出部329は、停滞領域831に対応する拡大領域841a〜843aのうち2以上重なっている領域である重なり領域850aを抽出する。また、工程抽出部329は、停滞領域832に対応する拡大領域841b〜843bのうち2以上重なっている領域である重なり領域850bを抽出する。そして、工程抽出部329は、停滞領域833に対応する拡大領域841c〜843cのうち2以上重なっている領域である重なり領域850cを抽出する。なお、所定数については、設定部303により設定可能であるものとしてもよい。また、所定数は、停滞領域ごとに異なる数であってもよい。そして、ステップS46へ移行する。
<ステップS46>
工程決定部330は、工程抽出部329により抽出された領域(図17の例では、重なり領域850a〜850c)を矩形で囲むことにより、定型作業の中で作業者が停滞して作業を行う工程の領域(作業領域)として決定する。なお、工程抽出部329により抽出された領域を矩形で囲むことは必須の処理ではないが、矩形で囲んで作業領域を線分で囲まれた多角形の領域とすることによって、上述したように、領域判定部342により追跡対象が作業領域内に存在するか否かの判定処理のアルゴリズムを簡易に構成することができる。図17に示す例では、工程決定部330は、重なり領域850a〜850cをそれぞれ矩形で囲むことにより、図18に示すように、多角形状の作業領域860a〜860cを決定する。
さらに、移動決定部331は、定型決定部325により決定された定型作業領域から、工程決定部330により決定された作業領域と重なる領域を除いた領域を、作業領域間を移動する領域である移動領域に決定する。図18に示す例では、移動決定部331は、定型決定部325で決定された定型作業領域820から、工程決定部330により決定された作業領域860a〜860cと重なる領域を除いた領域を、移動領域に決定する。すなわち、工程決定部330は、図18において、移動領域871〜873をそれぞれ決定する。
また、移動決定部331は、決定した多角形上の移動領域において、各頂点の角度が所定の閾値未満、または所定の閾値以上である場合、すなわち、移動領域が示す作業者の移動方向の曲がりが大きい場合、当該頂点と、対向する頂点のうち最も近い頂点とを結ぶ。具体的には、図18に示すように、移動決定部331は、移動領域871において、頂点881の角度が所定の閾値未満であると判断し、頂点881に対向する頂点のうち最も近い頂点とを結んで区切り線871aを形成する。同様に、移動決定部331は、移動領域873において、頂点883の角度が所定の閾値未満であると判断し、頂点883に対向する頂点のうち最も近い頂点とを結んで区切り線873aを形成する。このように、移動領域に区切り線を形成することによって、移動領域において作業者の移動方向の曲がり具合が大きい部分を示すことができる。曲がり具合が大きいということは、通常の工程間の移動中に何らかの変則的な行動が発生した可能性があり、区切り線を形成することによって、その変則的な行動が発生した可能性がある部分を示すことができ、定型作業の改善に寄与することができる。そして、作業領域の決定処理を終了する。
以上のステップS41〜S46の処理によって、作業領域の決定処理が行われる。すなわち、モデルとなる動線(図10の例では、動線811〜813)を利用して、定型作業の中で作業者が停滞して作業を行う工程の領域である作業領域を決定する。
以上のように、取得した追跡対象の動線の情報(追跡結果情報)を利用し、動線を構成するポイントのうち停滞部分を抽出し、停滞部分を構成する特定のポイントを拡大し、その拡大領域が所定数以上重なった領域に基づいて作業領域を決定するものとしている。これによって、いったん動線を描画させて、その動線を見ながら手動で作業領域を設定する必要がなく、取得した動線から直接、作業領域を決定することができる。また、これによって、自動で作業領域を決定することができるので、定型作業の改善の迅速化に寄与することができる。
なお、図15に示すフローチャートでは、代表点特定部327によって、停滞抽出部326により抽出された停滞部分を構成するポイントから代表点が特定され、拡大部328によって、代表点が拡大されて拡大領域を得るものとしているが、これに限定されるものではない。すなわち、停滞抽出部326により抽出された停滞部分を構成するポイントのすべてを拡大して、所定数以上重なっている領域を抽出して、その領域に基づいて作業領域を決定するものとしてもよい。
また、上述の図7および図8で示した追跡対象の追跡処理(追跡結果情報の生成)、図9および図15等で示した定型作業領域および作業領域の決定処理、ならびに、第2取得部341により取得されたリアルタイムの映像データに対する領域判定部342、計測部343、時間判定部344および通知部345の機能に基づいた作業者の作業の異常判定処理は、情報処理装置3がすべて担うものとして説明したが、これに限定されるものではない。すなわち、これらの処理を、別々の装置で分散して処理するものとしてもよい。例えば、追跡対象の追跡処理は、情報処理装置3とは異なる装置で行い、情報処理装置3は、定型作業領域および作業領域の決定処理、および作業者の作業の異常判定処理を行うものとしてもよい。
なお、上述の実施の形態の設定部303、再生部305、第1取得部306、指定部307、登録部308、検出部309、軌跡出力部310、データ通信部321、太線化部322、定型抽出部323、連続判定部324、定型決定部325、停滞抽出部326、代表点特定部327、拡大部328、工程抽出部329、工程決定部330、移動決定部331、第2取得部341、領域判定部342、計測部343、時間判定部344、管理部351、および表示制御部352の各機能部の少なくともいずれかがプログラムの実行によって実現される場合、そのプログラムは、ROM等に予め組み込まれて提供される。また、上述の実施の形態の情報処理装置3で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM(Compact Disk Read Only Memory)、フレキシブルディスク(FD)、CD−R(Compact Disk Recordable)、DVD等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。また、上述の実施の形態の情報処理装置3で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述の実施の形態の情報処理装置3で実行されるプログラムを、インターネット等のネットワーク経由で提供または配布するように構成してもよい。また、上述の実施の形態の情報処理装置3で実行されるプログラムは、上述した各機能部の少なくともいずれかを含むモジュール構成となっており、実際のハードウェアとしてはCPUが上述のROMからプログラムを読み出して実行することにより、上述の各部が主記憶装置上にロードされて生成されるようになっている。
1 画像処理システム
2、2a〜2d 撮像装置
3 情報処理装置
4 ハブ
10 外部機器
101 CPU
102 ROM
103 RAM
104 外部記憶装置
105 ディスプレイ
106 ネットワークI/F
107 キーボード
108 マウス
109 DVDドライブ
110 DVD
111 外部機器I/F
112 スピーカ
113 バス
301 映像受信部
302 入力部
303 設定部
304 記憶部
305 再生部
306 第1取得部
307 指定部
308 登録部
309 検出部
310 軌跡出力部
321 データ通信部
322 太線化部
323 定型抽出部
324 連続判定部
325 定型決定部
326 停滞抽出部
327 代表点特定部
328 拡大部
329 工程抽出部
330 工程決定部
331 移動決定部
341 第2取得部
342 領域判定部
343 計測部
344 時間判定部
345 通知部
351 管理部
352 表示制御部
353 表示部
400 追跡画面
401 個別表示部
401a カメラ選択タブ
403 映像操作ボタン部
404 シークバー
405 スライダ
406 拡大縮小ボタン部
407 スパン変更ボタン部
408 時刻表示部
409 登録ボタン
410 追跡開始ボタン
411 追跡停止ボタン
500 作業者
501 追跡対象
550 指定領域
800 動線
811〜813 動線
811a〜813a 太線化動線
820 定型作業領域
831〜833 停滞領域
835 突発的行動領域
841a〜843a、841b〜843b、841c〜843c 拡大領域
850a〜850c 重なり領域
860a〜860c 作業領域
871〜873 移動領域
871a、873a 区切り線
881、883 頂点
1000 追跡結果データ
特開2016−042306号公報

Claims (11)

  1. 所定単位の一連の作業である定型作業における追跡対象の位置情報を含む複数の追跡結果情報を取得する第1取得部と、
    前記第1取得部によって取得された前記複数の追跡結果情報の前記追跡対象の位置情報が示すポイントの移動距離に基づいて、停滞しているポイント群である停滞部分を抽出する第1抽出部と、
    前記各追跡結果情報に対応する前記停滞部分に基づく所定のポイントを拡大した拡大領域を得る拡大部と、
    前記拡大部により得られた複数の前記拡大領域のうち少なくともいずれかが重なる領域に基づいて作業領域を決定する第1決定部と、
    を備えた情報処理装置。
  2. 前記第1抽出部により抽出された、前記各追跡結果情報に対応する前記停滞部分が含むポイントの位置に基づいて特定の位置のポイントである代表点を特定する特定部を、さらに備え、
    前記拡大部は、前記各停滞部分に対応する前記代表点を拡大した前記拡大領域を得る請求項1に記載の情報処理装置。
  3. 前記拡大部は、前記各追跡結果情報に対応する前記停滞部分に含まれるポイントを拡大して前記拡大領域を得る請求項1に記載の情報処理装置。
  4. 前記第1取得部により取得された前記複数の追跡結果情報それぞれにおいて、前記追跡対象の位置情報を示すポイントを結合して動線にする動線生成部と、
    前記動線を所定の幅に太線化する太線化部と、
    前記太線化部により太線化された前記動線が所定数以上重なっている領域を抽出する第2抽出部と、
    前記第2抽出部により抽出された領域が連続しているか否かを判定する第1判定部と、
    前記第1判定部により連続していると判定された領域を、前記定型作業が行われる領域である定型作業領域に決定する第2決定部と、
    をさらに備えた請求項1〜3のいずれか一項に記載の情報処理装置。
  5. 前記第1判定部によって、前記第2抽出部により抽出された領域が連続していないと判定された場合、前記所定数を減じる変更部を、さらに備え、
    前記第2抽出部は、前記太線化部により太線化された前記動線が、前記変更部により減じられた前記所定数以上重なっている領域を抽出する請求項4に記載の情報処理装置。
  6. 前記第2決定部により決定された前記定型作業領域から、前記第1決定部により決定された前記作業領域と重なる領域を除いた領域を、前記作業領域間を移動する領域である移動領域に決定する第3決定部を、さらに備えた請求項4または5に記載の情報処理装置。
  7. 追跡対象が前記作業領域に存在するか否かを判定する第2判定部と、
    前記第2判定部により該追跡対象が前記作業領域に存在すると判定された場合、該作業領域に存在する時間としての作業時間を計測して、前記作業時間の最大値、最小値、および平均値のうち少なくともいずれか1つを算出する計測部と、
    を備えた請求項1〜6のいずれか一項に記載の情報処理装置。
  8. 前記計測部により計測された前記作業時間が所定範囲内であるか否かを判定する第3判定部と、
    前記第3判定部によって前記作業時間が前記所定範囲内でないと判定された場合、その判定結果を通知する通知部と、
    をさらに備えた請求項7に記載の情報処理装置。
  9. 1以上の撮像装置と、
    請求項1〜8のいずれか一項に記載の情報処理装置と、
    を備え、
    前記情報処理装置は、
    前記1以上の撮像装置で撮像されたそれぞれの映像データからフレームを取得する第2取得部と、
    前記第2取得部により取得された前記フレームから、追跡対象を検出する検出部と、
    前記検出部による該追跡対象の検出結果から該追跡対象の位置情報を含む前記追跡結果情報を生成する生成部と、
    をさらに備えた情報処理システム。
  10. 所定単位の一連の作業である定型作業における追跡対象の位置情報を含む複数の追跡結果情報を取得する取得ステップと、
    取得した前記複数の追跡結果情報の前記追跡対象の位置情報が示すポイントの移動距離に基づいて、停滞しているポイント群である停滞部分を抽出する抽出ステップと、
    前記各追跡結果情報に対応する前記停滞部分に基づく所定のポイントを拡大した拡大領域を得る拡大ステップと、
    複数の前記拡大領域のうち少なくともいずれかが重なる領域に基づいて作業領域を決定する決定ステップと、
    を有する情報処理方法。
  11. 所定単位の一連の作業である定型作業における追跡対象の位置情報を含む複数の追跡結果情報を取得する取得処理と、
    取得した前記複数の追跡結果情報の前記追跡対象の位置情報が示すポイントの移動距離に基づいて、停滞しているポイント群である停滞部分を抽出する抽出処理と、
    前記各追跡結果情報に対応する前記停滞部分に基づく所定のポイントを拡大した拡大領域を得る拡大処理と、
    複数の前記拡大領域のうち少なくともいずれかが重なる領域に基づいて作業領域を決定する決定処理と、
    を実行させるためのプログラム。
JP2016218365A 2016-11-08 2016-11-08 情報処理装置、情報処理システム、情報処理方法およびプログラム Active JP6834372B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016218365A JP6834372B2 (ja) 2016-11-08 2016-11-08 情報処理装置、情報処理システム、情報処理方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016218365A JP6834372B2 (ja) 2016-11-08 2016-11-08 情報処理装置、情報処理システム、情報処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2018077637A true JP2018077637A (ja) 2018-05-17
JP6834372B2 JP6834372B2 (ja) 2021-02-24

Family

ID=62149114

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016218365A Active JP6834372B2 (ja) 2016-11-08 2016-11-08 情報処理装置、情報処理システム、情報処理方法およびプログラム

Country Status (1)

Country Link
JP (1) JP6834372B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021077225A (ja) * 2019-11-12 2021-05-20 株式会社ジェイテクト 工場設備の管理システム
WO2021117444A1 (ja) * 2019-12-11 2021-06-17 オムロン株式会社 情報処理装置、範囲決定方法、プログラム
WO2023037616A1 (ja) * 2021-09-09 2023-03-16 パナソニックIpマネジメント株式会社 経路生成表示装置および経路生成表示方法
WO2023228414A1 (ja) * 2022-05-27 2023-11-30 富士通株式会社 情報処理プログラム、情報処理方法、および情報処理装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011081682A (ja) * 2009-10-08 2011-04-21 Ricoh Co Ltd 作業時間分析支援システム、ならびに、プログラム
WO2013145632A1 (ja) * 2012-03-30 2013-10-03 日本電気株式会社 動線データ解析装置、システム、プログラム及び方法
US20150117835A1 (en) * 2013-10-31 2015-04-30 JVC Kenwood Corporation Information processing apparatus, control method and program
JP2016042306A (ja) * 2014-08-18 2016-03-31 株式会社リコー 軌跡描画装置、軌跡描画方法、軌跡描画システム、及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011081682A (ja) * 2009-10-08 2011-04-21 Ricoh Co Ltd 作業時間分析支援システム、ならびに、プログラム
WO2013145632A1 (ja) * 2012-03-30 2013-10-03 日本電気株式会社 動線データ解析装置、システム、プログラム及び方法
US20150117835A1 (en) * 2013-10-31 2015-04-30 JVC Kenwood Corporation Information processing apparatus, control method and program
JP2015089019A (ja) * 2013-10-31 2015-05-07 株式会社Jvcケンウッド 情報処理装置、制御方法、プログラム、及び情報システム
JP2016042306A (ja) * 2014-08-18 2016-03-31 株式会社リコー 軌跡描画装置、軌跡描画方法、軌跡描画システム、及びプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
原田 典明: "人の行動を「見える化」する動線解析技術と活用例", NEC技報, vol. 第64巻 第3号, JPN6020026634, 25 August 2011 (2011-08-25), pages 16 - 21, ISSN: 0004314712 *
板倉 豊和: "動画像分析による生産現場業務改善支援", 電子情報通信学会2006年総合大会, JPN6020026635, 8 March 2006 (2006-03-08), pages 221 - 221, ISSN: 0004314713 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021077225A (ja) * 2019-11-12 2021-05-20 株式会社ジェイテクト 工場設備の管理システム
JP7367474B2 (ja) 2019-11-12 2023-10-24 株式会社ジェイテクト 工場設備の管理システム
WO2021117444A1 (ja) * 2019-12-11 2021-06-17 オムロン株式会社 情報処理装置、範囲決定方法、プログラム
JP7472482B2 (ja) 2019-12-11 2024-04-23 オムロン株式会社 情報処理装置、範囲決定方法、プログラム
WO2023037616A1 (ja) * 2021-09-09 2023-03-16 パナソニックIpマネジメント株式会社 経路生成表示装置および経路生成表示方法
WO2023228414A1 (ja) * 2022-05-27 2023-11-30 富士通株式会社 情報処理プログラム、情報処理方法、および情報処理装置

Also Published As

Publication number Publication date
JP6834372B2 (ja) 2021-02-24

Similar Documents

Publication Publication Date Title
JP6834372B2 (ja) 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2018073176A (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
US10949983B2 (en) Image processing apparatus, image processing system, image processing method, and computer-readable recording medium
US10127456B2 (en) Information processing apparatus that corrects image distortion to set a passage detection line, information processing method, and medium
JP5460793B2 (ja) 表示装置、表示方法、テレビジョン受信機及び表示制御装置
KR20110093040A (ko) 피사체 감시 장치 및 방법
JP2014063265A (ja) 画像処理装置、画像処理方法及びプログラム
US11100699B2 (en) Measurement method, measurement device, and recording medium
JP6828377B2 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
CN111914739A (zh) 智能跟随方法、装置、终端设备和可读存储介质
JP2018097490A (ja) 情報処理装置、方法およびプログラム
JP2018005091A (ja) 表示制御プログラム、表示制御方法および表示制御装置
EP3477544A1 (en) Information processing apparatus, information processing method, imaging apparatus, network camera system, and program
US11551339B2 (en) Information processing apparatus, information processing method, and storage medium
JP2016039496A (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
JP2018191182A (ja) 監視装置、監視方法、コンピュータプログラム、及び記憶媒体
JP2021056899A (ja) 画像処理装置、画像処理方法およびプログラム
US20220036093A1 (en) Information processing apparatus, information processing method, and storage medium
JP7313850B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP2022011927A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2018041201A (ja) 表示制御プログラム、表示制御方法および情報処理装置
JP2022068793A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2022038374A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2021064870A (ja) 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2020197847A (ja) 画像処理装置、画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200917

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210118

R151 Written notification of patent or utility model registration

Ref document number: 6834372

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151