JP7115812B1 - プログラム、方法、情報処理装置、システム - Google Patents

プログラム、方法、情報処理装置、システム Download PDF

Info

Publication number
JP7115812B1
JP7115812B1 JP2021106892A JP2021106892A JP7115812B1 JP 7115812 B1 JP7115812 B1 JP 7115812B1 JP 2021106892 A JP2021106892 A JP 2021106892A JP 2021106892 A JP2021106892 A JP 2021106892A JP 7115812 B1 JP7115812 B1 JP 7115812B1
Authority
JP
Japan
Prior art keywords
series
image
concern
continuous time
employee
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021106892A
Other languages
English (en)
Other versions
JP2023005151A (ja
Inventor
俊二 菅谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Optim Corp
Original Assignee
Optim Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Optim Corp filed Critical Optim Corp
Priority to JP2021106892A priority Critical patent/JP7115812B1/ja
Priority to PCT/JP2022/024038 priority patent/WO2023276676A1/ja
Priority to JP2022118773A priority patent/JP2023009034A/ja
Application granted granted Critical
Publication of JP7115812B1 publication Critical patent/JP7115812B1/ja
Publication of JP2023005151A publication Critical patent/JP2023005151A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04Manufacturing

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Manufacturing & Machinery (AREA)
  • Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】対象エリア内の状況を多角的に管理する。【解決手段】プロセッサと、メモリとを備えるコンピュータに実行させるためのプログラムである。プログラムは、プロセッサに、監視対象エリアに設置される複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定するステップと、推定の結果に基づく情報を第1者へ提示するステップとを実行させる。【選択図】図8

Description

本開示は、プログラム、方法、情報処理装置、システムに関する。
全周カメラとズームカメラとをリンクさせ、監視対象エリア全体を監視しつつ、監視対象に対しては拡大画像を得る技術がある(特許文献1参照)。特許文献1で記載される監視カメラシステムは、各カメラで撮影された画像から1枚の大画面画像を生成する。監視カメラシステムは、大画面画像を解析し、大画面画像内で移動する移動物体を監視対象物として検出する。
特開2007-36756号公報
特許文献1に記載されるシステムでは、対象エリア内の移動物体を監視しているが、移動物体がどのように稼働しているかを監視することはできない。対象エリアによっては、エリア内の物体の稼働状況、又は安全性等を多角的に管理したいとの要望がある。
本開示の目的は、対象エリア内の状況を多角的に管理することである。
プロセッサと、メモリとを備えるコンピュータに実行させるためのプログラムである。プログラムは、プロセッサに、監視対象エリアに設置される複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定するステップと、推定の結果に基づく情報を第1者へ提示するステップとを実行させる。
本開示によれば、対象エリア内の状況を多角的に管理できる。
システムの全体構成を示すブロック図である。 図1に示す端末装置の構成を表すブロック図である。 サーバの機能的な構成を示す図である。 従業員情報DBのデータ構造を示す図である。 設備情報DBのデータ構造を示す図である。 勤務ログ情報DBのデータ構造を示す図である。 動作ログ情報DBのデータ構造を示す図である。 本実施形態に係るシステムを工場に設置した際の構成を表す図である。 撮影装置で撮影された画像に基づき、サーバが工場内の状況を管理する際の動作を表すフローチャートである。 センサで取得されたセンシングデータに基づき、サーバが工場内の状況を管理する際の動作を表すフローチャートである。 画像処理モジュールで作成される結合画像を表す図である。 端末装置のディスプレイで表示される画面を表す図である。 指定された設備についての詳細な情報を表示する画面を表す図である。 パトロールロボットを操作する際の画面を表す図である。 指定された設備についての詳細な情報を表示する画面を表す図である。 作業工程の懸念の原因を表示する画面を表す図である。 指定された従業員についての情報を表示する画面を表す図である。 従業員について複数方向から取得された画像を表示する画面を表す図である。 指定された従業員に状況を聞くか否かの確認画面を表す図である。 指定された従業員へ注意を出すか否かの確認画面を表す図である。 指定された従業員へ注意を出すか否かの確認画面を表す図である。
以下、図面を参照しつつ、本開示の実施形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
<概略>
本実施形態に係るシステムは、工場内に設置される複数の撮影装置により撮影される時系列的に連続する画像に基づき、工場内の状況を多角的に管理する。
<1 システム全体の構成図>
図1は、システム1の全体構成の例を示すブロック図である。図1に示すシステム1は、例えば、端末装置10、サーバ20、エッジサーバ30、撮影装置31、センサ32、及びスピーカー33を含む。端末装置10、サーバ20、エッジサーバ30、及びスピーカー33は、例えば、ネットワーク80を介して通信接続する。
図1において、システム1が端末装置10を2台含む例を示しているが、システム1に含まれる端末装置10の数は、2台に限定されない。端末装置10は、工場内の作業者、又は監督者が所持する端末である。システム1に含まれる端末装置10は、3台未満であってもよいし、3台以上であってもよい。
本実施形態において、複数の装置の集合体を1つのサーバとしてもよい。1つ又は複数のハードウェアに対して本実施形態に係るサーバ20を実現することに要する複数の機能の配分の仕方は、各ハードウェアの処理能力及び/又はサーバ20に求められる仕様等に鑑みて適宜決定することができる。
図1に示す端末装置10は、例えば、スマートフォン、タブレット等の携帯端末でもよいし、据え置き型のPC(Personal Computer)、ラップトップPCであってもよい。また、HMD(Head Mount Display)、腕時計型端末等のウェアラブル端末であってもよい。工場内における作業に携わる作業者は、例えば、携帯端末を所持するか、又は、ウェアラブル端末を装着している。工場内の工作機器を監視し、又は、作業者を監視する監督者は、例えば、制御室に設置されているPCを操作する。
端末装置10は、通信IF(Interface)12と、入力装置13と、出力装置14と、メモリ15と、ストレージ16と、プロセッサ19とを備える。
通信IF12は、端末装置10が、例えば、サーバ20等のシステム1内の装置と通信するため、信号を入出力するためのインタフェースである。
入力装置13は、ユーザからの入力操作を受け付けるための装置(例えば、タッチパネル、タッチパッド、マウス等のポインティングデバイス、キーボード等)である。
出力装置14は、ユーザに対して情報を提示するための装置(ディスプレイ、スピーカー等)である。
メモリ15は、プログラム、及びプログラム等で処理されるデータ等一時的に記憶するためのものであり、例えばDRAM(Dynamic Random Access Memory)等の揮発性のメモリである。
ストレージ16は、データを保存するためのものであり、例えばフラッシュメモリ、HDD(Hard Disc Drive)である。
プロセッサ19は、プログラムに記述された命令セットを実行するためのハードウェアであり、演算装置、レジスタ、周辺回路等により構成される。
サーバ20は、例えば、工場内の状況を監視する。サーバ20は、工場内を監視することで、工場内の工作機器の稼働管理、工場内の安全管理、又は作業の工程管理を行う。本実施形態に係る稼働管理は、例えば、工作機器の稼働状況を管理することである。稼働状況を管理することには、例えば、以下が含まれる。
・工作機器の動作に異常又は懸念がないかを確認すること
本実施形態において、安全管理は、例えば、作業者の安全を管理することである。作業者の安全を管理することには、例えば、以下が含まれる。
・工場内における火事等の災害を防止すること
・工場内で発生した火事等の災害を早期に解決すること
・工場内における事故を防止すること
本実施形態において、工程管理とは、例えば、工場内において所定のプロダクトを製造する工程を管理することである。プロダクトを製造する工程を管理することには、例えば、以下が含まれる。
・工程が遅延しないか確認すること
・製造されるプロダクトの質が乱れていないか確認すること
サーバ20は、例えば、ネットワーク80に接続されたコンピュータにより実現される。図1に示すように、サーバ20は、通信IF22と、入出力IF23と、メモリ25と、ストレージ26と、プロセッサ29とを備える。
通信IF22は、サーバ20が、例えば、端末装置10等のシステム1内の装置と通信するため、信号を入出力するためのインタフェースである。
入出力IF23は、ユーザからの入力操作を受け付けるための入力装置、及び、ユーザに対して情報を提示するための出力装置とのインタフェースとして機能する。
メモリ25は、プログラム、及び、プログラム等で処理されるデータ等を一時的に記憶するためのものであり、例えばDRAM等の揮発性のメモリである。
ストレージ26は、データを保存するためのものであり、例えばフラッシュメモリ、HDDである。
プロセッサ29は、プログラムに記述された命令セットを実行するためのハードウェアであり、演算装置、レジスタ、周辺回路等により構成される。
エッジサーバ30は、撮影装置31、及びセンサ32から送信される情報を受信し、受信した情報を、サーバ20に送信する。また、エッジサーバ30は、サーバ20から取得した情報を撮影装置31、及びセンサ32へ送信する。サーバ20から取得する情報には、例えば、撮影装置31、又はセンサ32の設定を更新するための情報等が含まれる。
撮影装置31は、受光素子により光を受光し、撮影信号として出力するためのデバイスである。撮影装置31は、例えば、全周360度の広範囲映像を撮影可能なカメラである。撮影装置31は、例えば、超広角レンズ、又は魚眼レンズ付きカメラ等により実現される。
撮影装置31は、工場内において、遮蔽物なく全体を見渡せる位置に設置されている。具体的には、撮影装置31は、例えば、工場の天井に設置されている。撮影装置31は、1台で工場内の様子を捉えきれない場合には、複数台設置される。撮影装置31が複数台設置される場合、例えば、1台の撮影装置31で撮影される工場内の区画が予め設定されている。撮影装置31は、取得した撮影信号をエッジサーバ30へ出力する。
センサ32は、工場内の環境をセンシングするセンサである。センサ32としては、例えば、音センサ、温度センサ、ガスセンサ、匂いセンサ、圧力センサ、又は光センサ等が挙げられる。また、センサ32は、工場内の工作機器の動作をセンシングするセンサであってもよい。例えば、工場内の工作機器としてのロボットアームに搭載されるモータの回転数を取得するセンサを、ロボットアームに設置してもよい。センサ32は、取得したセンシングデータをエッジサーバ30へ出力する。
スピーカー33は、工場内に設置される、音声を工場内へ放送するためのスピーカーである。スピーカー33は、1台で工場内へ十分な音声を届けられない場合には、複数台設置される。スピーカー33が複数台設置される場合、1台のスピーカー33で音声が届けられる工場内の区画が予め設定されている。スピーカー33は、サーバ20から与えられる音声信号を音声に変換して当該音声を工場内へ出力する。
<1.1 端末装置の構成>
図2は、図1に示す端末装置10の構成例を表すブロック図である。図2に示す端末装置10は、携帯端末、PC、又はウェアラブル端末により実現される。図2に示すように、端末装置10は、通信部120と、入力装置13と、出力装置14と、音声処理部17と、マイク171と、スピーカー172と、カメラ161と、位置情報センサ150と、記憶部180と、制御部190とを備える。端末装置10に含まれる各ブロックは、例えば、バス等により電気的に接続される。
通信部120は、端末装置10が他の装置と通信するための変復調処理等の処理を行う。通信部120は、制御部190で生成された信号に送信処理を施し、外部(例えば、サーバ20)へ送信する。通信部120は、外部から受信した信号に受信処理を施し、制御部190へ出力する。
入力装置13は、端末装置10を操作するユーザが指示、又は情報を入力するための装置である。入力装置13は、例えば、操作面へ触れることで指示が入力されるタッチ・センシティブ・デバイス131等により実現される。端末装置10がPC等である場合には、入力装置13は、リーダー、キーボード、マウス等により実現されてもよい。入力装置13は、ユーザから入力される指示を電気信号へ変換し、電気信号を制御部190へ出力する。なお、入力装置13には、例えば、外部の入力機器から入力される電気信号を受け付ける受信ポートが含まれてもよい。
出力装置14は、端末装置10を操作するユーザへ情報を提示するための装置である。出力装置14は、例えば、ディスプレイ141等により実現される。ディスプレイ141は、制御部190の制御に応じたデータを表示する。ディスプレイ141は、例えば、LCD(Liquid Crystal Display)、又は有機EL(Electro-Luminescence)ディスプレイ等によって実現される。
音声処理部17は、例えば、音声信号のデジタル-アナログ変換処理を行う。音声処理部17は、マイク171から与えられる信号をデジタル信号に変換して、変換後の信号を制御部190へ与える。また、音声処理部17は、音声信号をスピーカー172へ与える。音声処理部17は、例えば音声処理用のプロセッサによって実現される。マイク171は、音声入力を受け付けて、当該音声入力に対応する音声信号を音声処理部17へ与える。スピーカー172は、音声処理部17から与えられる音声信号を音声に変換して当該音声を端末装置10の外部へ出力する。
カメラ161は、受光素子により光を受光し、撮影信号として出力するためのデバイスである。
位置情報センサ150は、端末装置10の位置を検出するセンサであり、例えばGPS(Global Positioning System)モジュールである。GPSモジュールは、衛星測位システムで用いられる受信装置である。衛星測位システムでは、少なくとも3個または4個の衛星からの信号を受信し、受信した信号に基づいて、GPSモジュールが搭載される端末装置10の現在位置を検出する。位置情報センサ150は、端末装置10が接続する無線基地局の位置から、端末装置10の現在の位置を検出してもよい。
記憶部180は、例えば、メモリ15、及びストレージ16等により実現され、端末装置10が使用するデータ、及びプログラムを記憶する。記憶部180は、例えば、従業員情報181を記憶する。
従業員情報181は、例えば、端末装置10を使用する従業員についての情報を含む。ユーザについての情報には、例えば、従業員を識別する情報、従業員の氏名、年齢、住所、生年月日、電話番号、emailアドレス等が含まれる。
制御部190は、プロセッサ19が記憶部180に記憶されるプログラムを読み込み、プログラムに含まれる命令を実行することにより実現される。制御部190は、端末装置10の動作を制御する。制御部190は、プログラムに従って動作することにより、操作受付部191と、送受信部192と、提示制御部193ととしての機能を発揮する。
操作受付部191は、入力装置13から入力される指示、又は情報を受け付けるための処理を行う。具体的には、例えば、操作受付部191は、タッチ・センシティブ・デバイス131等から入力される指示に基づく情報を受け付ける。タッチ・センシティブ・デバイス131等を介して入力される指示は、例えば、以下である。
・従業員の業務内容の入力
・端末装置10により提示される情報に対する応答の入力
また、操作受付部191は、マイク171から入力される音声指示を受け付ける。具体的には、例えば、操作受付部191は、マイク171から入力され、音声処理部17でデジタル信号に変換された音声信号を受信する。操作受付部191は、例えば、受信した音声信号を分析して所定の名詞を抽出することで、ユーザからの指示を取得する。
送受信部192は、端末装置10が、サーバ20等の外部の装置と、通信プロトコルに従ってデータを送受信するための処理を行う。具体的には、例えば、送受信部192は、従業員から入力された業務内容をサーバ20へ送信する。また、送受信部192は、従業員に関する情報を、サーバ20から受信する。
提示制御部193は、サーバ20から提供された情報を従業員に対して提示するため、出力装置14を制御する。具体的には、例えば、提示制御部193は、サーバ20から送信される情報をディスプレイ141に表示させる。また、提示制御部193は、サーバ20から送信される情報をスピーカー172から出力させる。
<1.2 サーバの機能的な構成>
図3は、サーバ20の機能的な構成の例を示す図である。図3に示すように、サーバ20は、通信部201と、記憶部202と、制御部203としての機能を発揮する。
通信部201は、サーバ20が外部の装置と通信するための処理を行う。
記憶部202は、例えば、従業員情報データベース(DB)2021と、設備情報データベース(DB)2022と、勤務ログ情報データベース(DB)2023と、動作ログ情報データベース(DB)2024と、学習済みモデル2025等とを有する。
従業員情報DB2021は、従業員についての情報を保持するためのデータベースである。詳細は後述する。
設備情報DB2022は、工作機器等の設備についての情報を保持するためのデータベースである。詳細は後述する。
勤務ログ情報DB2023は、従業員の勤務に関する情報を保持するためのデータベースである。例えば、勤務ログ情報DB2023は、従業員の業務内容を保持する。また、勤務ログ情報DB2023は、従業員の動作により発生したエラー等に関する情報を保持する。詳細は後述する。
動作ログ情報DB2024は、工場内の設備において発生した動作に関する情報を保持するためのデータベースである。例えば、動作ログ情報DB2024は、工作機器に設置されるセンサにより取得されたセンシングデータを保持する。また、動作ログ情報DB2024は、撮影信号に基づいて解析された、設備の動作に関する情報を保持する。詳細は後述する。
学習済みモデル2025は、モデル学習プログラムに従い、機械学習モデルに機械学習を行わせることで生成されるモデルである。学習済みモデル2025は、例えば、入力されるデータに基づき、所定の推論を実施する、複数の関数が合成されたパラメータ付き合成関数である。パラメータ付き合成関数は、複数の調整可能な関数及びパラメータの組合せにより定義される。本実施形態に係る学習済みモデルは、上記の要請を満たす如何なるパラメータ付き合成関数であってもよい。
例えば、学習済みモデル2025が順伝播型の多層化ネットワークを用いて生成される場合、パラメータ付き合成関数は、例えば、重み行列を用いた各層間の線形関係、各層における活性化関数を用いた非線形関係(又は線形関係)、及びバイアスの組み合わせとして定義される。重み付行列、及びバイアスは、多層化ネットワークのパラメータと呼ばれる。パラメータ付き合成関数は、パラメータをどのように選ぶかで、関数としての形を変える。多層化ネットワークでは、構成するパラメータを適切に設定することで、出力層から好ましい結果を出力することが可能な関数を定義することができる。
本実施形態に係る多層化ネットワークとしては、例えば、深層学習(Deep Learning)の対象となる多層ニューラルネットワークである深層ニューラルネットワーク(Deep Neural Network:DNN)が用いられ得る。DNNとしては、例えば、画像を対象とする畳み込みニューラルネットワーク(Convolution Neural Network:CNN)を用いてもよい。
学習済みモデル2025は、画像が入力されると、入力された画像に基づき、工場内の状況に関する情報を出力するように学習されたモデルである。学習済みモデル2025は、例えば、出力する情報に応じ、それぞれ別々の学習用データによりトレーニングされる別々の学習済みモデルである。
例えば、学習済みモデル2025は、画像が入力されると、稼働管理に関する情報を出力するように学習される。具体的には、本実施形態では、学習済みモデル2025は、例えば、以下の内容を含む画像が入力されると、その内容が含まれる画像内の位置を特定し、稼働状況に懸念があると出力するように学習されている。
・複数フレームにわたる動作が、正常時の動作よりも遅いこと
・複数フレームにわたる動作において、正常時の動作と違いがあること
このとき、学習用データは、例えば、設備が正常に動作している際の複数フレームの画像を入力データとし、この入力データが正常であるとの判断を正解出力データとする。
また、例えば、学習済みモデル2025は、画像が入力されると、安全管理に関する情報を出力するように学習される。具体的には、本実施形態では、学習済みモデル2025は、例えば、以下の内容を含む画像が入力されると、その内容が含まれる画像内の位置を特定し、安全状況に懸念があると出力するように学習されている。
・複数フレームにわたる動作において、火事等の災害の発生
・複数フレームにわたる動作において、火事等の災害の発生の兆候
・複数フレームにわたる動作において、工作機器と従業員とが近接すること
・複数フレームにわたる動作において、所定の業務を遂行する従業員が他の従業員と接触する懸念があること
このとき、学習用データは、例えば、災害の発生、又は災害の兆候を含む複数フレームの画像を入力データとし、この入力データに含まれる災害についての判断を正解出力データとする。また、学習用データは、例えば、工作機器と従業員とを含む複数フレームの画像を入力データとし、この入力データに含まれる工作機器と従業員とが接触する危険性についての判断を正解出力データとする。また、学習用データは、例えば、所定の業務を遂行する従業員と他の従業員とを含む複数フレームの画像を入力データとし、この入力データに含まれる従業員同士が接触する危険性についての判断を正解出力データとする。
また、例えば、学習済みモデル2025は、画像が入力されると、工程管理に関する情報を出力するように学習される。具体的には、本実施形態では、学習済みモデル2025は、例えば、以下の内容を含む画像が入力されると、その内容が含まれる画像内の位置を特定し、作業工程に懸念があると出力するように学習されている。
・複数フレームにわたる処理が、正常時の処理よりも遅いこと
・所定の従業員が作業に携わっていること
・従業員が所定の動作をとること
・従業員が間違った作業を行っていること
このとき、学習用データは、例えば、作業工程が正常に実施されている際の複数フレームの画像を入力データとし、この入力データが正常であるとの判断を正解出力データとする。また、学習用データは、例えば、従業員を識別可能な情報、及び従業員の業務内容を表す情報を入力データとし、この従業員がエラーを発生させる蓋然性についての判断を正解出力データとする。また、学習用データは、例えば、従業員の動作を含む複数フレームの画像を入力データとし、この入力データに含まれる動作についての判断(作業工程における懸念の蓋然性の判断)を正解出力データとする。例えば、従業員が首をかしげる動作に対し、作業工程に懸念がある蓋然性が高いとの判断を正解出力データとする。
また、学習済みモデル2025は、センシングデータが入力されると、入力されたセンシングデータに基づき、工場内の状況に関する情報を出力するように学習されたモデルであってもよい。例えば、学習済みモデル2025は、センシングデータが入力されると、稼働管理に関する情報を出力するように学習される。具体的には、本実施形態では、学習済みモデル2025は、例えば、以下の内容を含むセンシングデータが入力されると、センシングデータが取得された設備を特定し、稼働状況に懸念があると出力するように学習されている。
・正常時の値よりも所定値以上値が高いこと、又は正常時の値よりも所定値以上値が低いこと
このとき、学習用データは、例えば、設備が正常に動作している際のセンシングデータを入力データとし、この入力データが正常であるとの判断を正解出力データとする。
また、例えば、学習済みモデル2025は、センシングデータが入力されると、安全管理に関する情報を出力するように学習される。具体的には、本実施形態では、学習済みモデル2025は、例えば、以下の内容を含むセンシングデータが入力されると、センサが設置されている区画を特定し、安全状況に懸念があると出力するように学習されている。
・正常時の値よりも所定値以上値が高いこと、又は正常時の値よりも所定値以上値が低いこと
このとき、学習用データは、例えば、工場内に異常が発生していないときのセンシングデータを入力データとし、この入力データが正常であるとの判断を正解出力データとする。
また、例えば、学習済みモデル2025は、センシングデータが入力されると、工程管理に関する情報を出力するように学習される。具体的には、本実施形態では、学習済みモデル2025は、例えば、以下の内容を含むセンシングデータが入力されると、センサが設置されている設備を特定し、作業工程に懸念があると出力するように学習されている。
・正常時の値よりも所定値以上値が高いこと、又は正常時の値よりも所定値以上値が低いこと
このとき、学習用データは、例えば、作業工程が正常に実行されている際のセンシングデータを入力データとし、この入力データが正常であるとの判断を正解出力データとする。
記憶部202には、従業員についての画像を入力とし、従業員が従事している業務内容を出力するように学習された学習済みモデル(図示せず)が記憶されていてもよい。
制御部203は、プロセッサ29が記憶部202に記憶されるプログラムを読み込み、プログラムに含まれる命令を実行することにより実現される。制御部203は、プログラムに従って動作することにより、受信制御モジュール2031、送信制御モジュール2032、画像処理モジュール2033、画像解析モジュール2034、情報解析モジュール2035、第1管理モジュール2036、第2管理モジュール2037、及び提示モジュール2039として示す機能を発揮する。
受信制御モジュール2031は、サーバ20が外部の装置から通信プロトコルに従って信号を受信する処理を制御する。
送信制御モジュール2032は、サーバ20が外部の装置に対し通信プロトコルに従って信号を送信する処理を制御する。
画像処理モジュール2033は、撮影装置31で撮影された撮影信号に基づく画像を処理する。具体的には、例えば、画像処理モジュール2033は、複数の撮影装置31で撮影された撮影信号に基づく画像を結合し、工場内の全体が捉えられた結合画像を作成する。撮影装置31が超広角レンズ付きカメラ等である場合、画像処理モジュール2033は、撮影装置31で撮影された画像に対し、レンズ歪みを補正する、いわゆるオルソ補正を施す。画像処理モジュール2033は、オルソ補正後の複数の画像を結合し、結合画像を作成する。
画像解析モジュール2034は、撮影装置31により撮影された画像を解析し、工場内の状況に関する情報を出力する。このことは、画像解析モジュール2034は、撮影装置31により撮影された画像を解析し、工場内に設置される機器に起因する事象の発生を推定すると換言可能である。具体的には、例えば、画像解析モジュール2034は、画像処理モジュール2033で作成された結合画像を取得する。画像解析モジュール2034は、結合画像を学習済みモデル2025に入力する。学習済みモデル2025は、入力された結合画像に応じ、稼働管理に関する情報、安全管理に関する情報、又は工程管理に関する情報を出力する。画像解析モジュール2034は、学習済みモデル2025から出力される情報を提示モジュール2039へ出力する。
画像解析モジュール2034は、結合画像を学習済みモデルに入力し、入力した画像に含まれる従業員を表す領域に基づき、従業員が従事している業務内容を出力してもよい。
なお、画像解析モジュール2034は、結合画像でなく、撮影装置31により撮影された複数の画像を学習済みモデル2025に入力し、工場内の状況に関する情報を出力するようにしてもよい。
情報解析モジュール2035は、センサ32により取得されたセンシングデータを解析し、工場内の状況に関する情報を出力する。具体的には、例えば、情報解析モジュール2035は、センサ32で取得されたセンシングデータを学習済みモデル2025に入力する。学習済みモデル2025は、入力されたセンシングデータに応じ、稼働管理に関する情報、安全管理に関する情報、又は工程管理に関する情報を出力する。情報解析モジュール2035は、学習済みモデル2025から出力される情報を提示モジュール2039へ出力する。
第1管理モジュール2036は、従業員に関するデータを管理する。具体的には、例えば、第1管理モジュール2036は、端末装置10から入力される情報、画像解析により取得される従業員の業務内容、又は所定の入力から検出されるエラーの発生等に基づき、従業員情報DB2021、又は勤務ログ情報DB2023を管理する。
第2管理モジュール2037は、設備に関するデータを管理する。具体的には、例えば、第2管理モジュール2037は、設備機器の設置時に登録される情報、又はセンサ32により取得される設備機器の動作状況等に基づき、設備情報DB2022、又は動作ログ情報DB2024を管理する。
提示モジュール2039は、工場内の状況に関する情報を、端末装置10を介し、監督者に提示する。また、提示モジュール2039は、工場内の状況に関する情報を、端末装置10を介し、作業者に提示する。提示モジュール2039は、作業者への情報の提示を、監督者からの指示に基づいて実施してもよい。
<2 データ構造>
図4~図7は、サーバ20が記憶するデータベースのデータ構造を示す図である。なお、図4~図7は一例であり、記載されていないデータを除外するものではない。
図4は、従業員情報DB2021のデータ構造を示す図である。図4に示すように、従業員情報DB2021のレコードの各々は、例えば、項目「従業員ID」と、項目「従業員名」と、項目「性別」と、項目「入社年月日」と、項目「所属」と、項目「勤務地」と、項目「エラーログ」と、を含む。
項目「従業員ID」は、従業員を識別するための情報を示す。
項目「従業員名」は、従業員の氏名を示す。
項目「性別」は、従業員の性別を示す。
項目「入社年月日」は、従業員が入社した年月日を示す。
項目「所属」は、従業員の所属を示す。
項目「勤務地」は、従業員が勤務する工場を示す。
項目「エラーログ」は、従業員が生じさせたエラーの履歴を示す。具体的には、項目「エラーログ」は、エラーが発生した日時、及び発生したエラーを特定可能な情報を示す。エラーを特定可能な情報は、例えば、エラーコードを含む。項目「エラーログ」には、エラーが発生した日時、及び発生したエラーを特定可能な情報の他に、発生したエラーに関する種々の情報が含まれていてもよい。発生したエラーに関する種々の情報は、例えば、以下である。
・エラーが発生したときの業務内容
・エラーの発生に係る設備
・エラーが発生した工場名
・エラーが発生したときの監督者名
・所定期間におけるエラーの発生回数
図5は、設備情報DB2022のデータ構造を示す図である。図5に示すように、設備情報DB2022のレコードの各々は、例えば、項目「設備ID」と、項目「型」と、項目「設置位置」と、項目「導入日」と、項目「エラーログ」と、を含む。
項目「設備ID」は、設備機器を識別するための情報を示す。
項目「型」は、設備機器の型を識別するための情報を示す。具体的には、項目「型」は、例えば、同一種類の機器ごとに付される名称である。項目「型」は、例えば、アルファベット、及び数字等の組み合わせにより表される。
項目「設置位置」は、設備機器が設置されている位置を特定する情報を示す。具体的には、項目「設置位置」は、例えば、工場内の所定の点を原点とした座標値で表される。項目「設置位置」は、例えば、工場の住所を含んでもよい。
項目「導入日」は、設備機器が導入された日を表す情報を示す。具体的には、項目「導入日」は、例えば、設備機器が工場に取り付けられた日を示す。
項目「エラーログ」は、設備機器に発生したエラーの履歴を示す。具体的には、項目「エラーログ」は、エラーが発生した日時、及び発生したエラーを特定可能な情報を示す。エラーを特定可能な情報は、例えば、エラーコードを含む。項目「エラーログ」には、エラーが発生した日時、及び発生したエラーを特定可能な情報の他に、発生したエラーに関する種々の情報が含まれていてもよい。発生したエラーに関する種々の情報は、例えば、以下である。
・エラーの発生に係る従業員
・所定期間におけるエラーの発生回数
・関連する設備機器についての情報
図6は、勤務ログ情報DB2023のデータ構造を示す図である。図6に示すように、勤務ログ情報DB2023のレコードの各々は、項目「従業員ID」と、項目「日時」と、項目「業務内容」と、を含む。
項目「従業員ID」は、従業員を識別するための情報を示す。
項目「日時」は、従業員が業務を実施した日時を示す。具体的には、例えば、従業員は、業務を開始すると、開始した業務の内容を、端末装置10に入力する。項目「日時」は、例えば、従業員により業務内容が入力された日時を示す。また、従業員の業務内容は、監視画像の画像解析により検出されるようにしてもよい。監視画像に基づいて従業員の業務内容が検出される場合、項目「日時」は、従業員の業務内容が検出された日時を示す。
項目「業務内容」は、従業員が実施している業務の具体的な内容を示す。具体的には、例えば、業務内容が従業員により入力される場合、項目「業務内容」は、従業員から入力される業務内容を示す。端末装置10への業務内容の入力は、プルダウンにより、予め設定される業務内容が選択されてもよいし、フリーテキストにより、任意に入力されてもいい。また、監視画像に基づいて従業員の業務内容が検出される場合、項目「業務内容」は、検出された業務内容を示す。
より具体的には、項目「業務内容」は、例えば、従業員がプロダクトAの組み立てに携わっている場合には、「プロダクトAの組み立て」を記憶する。また、従業員がフォークリフトで、所定の物を移動させている場合には、「フォークリフト操作」を記憶する。また、従業員がベルトコンベアで搬送されるプロダクトの管理をしている場合には、「ベルトコンベア管理」を記憶する。
また、項目「業務内容」は、例えば、休憩の取得等、業務に係る動作以外の情報も記憶する。また、項目「業務内容」は、例えば、従業員が携わっている業務において発生した異常についても記憶する。例えば、エラーの種別を表す識別子と共にエラーの発生を記憶する。
また、従業員の業務内容は、所定の手法により評価されてもよい。評価の手法は、例えば、以下である。
・画像解析による評価
・業務の成果物に基づく評価
・監督者による評価
項目「業務内容」は、例えば、従業員に対して与えられた業務についての評価を記憶してもよい。
図7は、動作ログ情報DB2024のデータ構造を示す図である。図7に示すように、動作ログ情報DB2024のレコードの各々は、項目「設備ID」と、項目「日時」と、項目「ログ」と、を含む。
項目「設備ID」は、設備機器を識別するための情報を示す。
項目「日時」は、設備機器の動作状況を確認した日時を示す。具体的には、例えば、設備機器の動作状況を確認する周期は予め設定されている。周期は、例えば、以下のように設定される。
・設備機器毎
・機器の型毎
・設置される場所毎
・導入された時期毎
・動作する工程毎
項目「日時」は、例えば、設備機器の動作状況が確認された日時を記憶する。
項目「ログ」は、設備機器の動作に係るログを示す。具体的には、項目「ログ」は、例えば、所定の周期で確認された、設備機器の動作状況を記憶する。より具体的には、例えば、項目「ログ」は、設備機器に設置されているセンサの出力値を記憶する。また、項目「ログ」は、設備機器が動作する処理速度を記憶する。
<3 動作>
工場内の状況を管理するサーバ20の動作について説明する。
図8は、本実施形態に係るシステム1を工場に設置した際の構成の例を表す模式図である。以下の説明では、図8に示すように、工場の天井に設置される撮影装置31を用い、制御室に設置される端末装置10で監督者が工場内の状況を監視する場合を説明する。撮影装置31は、工場の天井に、例えば、格子状に配列されて設置される。図8に示す制御室は、工場内に設けられていてもよいし、工場とは異なる施設に設けられていてもよい。
図8に示す工場には、例えば、ベルトコンベア41、ロボットアーム42が設置される。ベルトコンベア41は、所定のプロダクトを製造するための材料を搬送する。ロボットアーム42は、例えば、ベルトコンベア41で搬送される材料に対し、所定の処理を施す。図8に示す工場内では、フォークリフト43が走行可能である。従業員の何れかは、フォークリフト43を利用し、材料を運ぶ。図8に示す工場内には、自走式のパトロールロボット44が設けられている。
図9、図10は、図8に示すサーバ20が工場内を管理する際の動作の例を表すフローチャートである。図9は、撮影装置31で撮影された画像に基づき、サーバ20が工場内の状況を管理する際の動作の例を表すフローチャートである。
まず、撮影装置31は、例えば、動画として一連の動きを認識可能な程度のフレームレートで工場内を撮影している。動画として一連の動きを認識可能程度のフレームレートは、例えば、30fps程度である。撮影装置31は、撮影信号を、エッジサーバ30を介してサーバ20へ送信する。なお、撮影装置31は、撮影信号を、サーバ20へ直接送信してもよい。
ステップS11において、制御部203は、撮影装置31により撮影された画像を用い、結合画像を作成する。具体的には、例えば、制御部203は、画像処理モジュール2033により、設定されたフレームレートで複数の撮影装置31により撮影された撮影信号に基づく画像それぞれにオルソ補正を施す。画像処理モジュール2033は、オルソ補正後の複数の画像を結合し、結合画像を作成する。これにより、画像処理モジュール2033は、動画として一連の動きを認識可能な程度のフレームレートで結合画像を作成する。
図11は、画像処理モジュール2033で作成される結合画像の例を表す模式図である。図11に示す例では、工場内の全容が1枚の画像に収められている。
ステップS12において、制御部203は、結合画像を解析し、工場内の状況に関する情報を出力する。例えば、制御部203は、画像解析モジュール2034により、結合画像を解析し、稼働管理に関する情報を出力する。画像解析モジュール2034は、例えば、画像処理モジュール2033で作成された、動画としての結合画像を学習済みモデル2025に入力する。具体的には、例えば、画像解析モジュール2034は、図11に示す結合画像を含む複数の連続した結合画像を学習済みモデル2025に入力する。
例えば、ロボットアーム42-1の複数フレームにわたる動作が正常時の動作よりも遅い場合、学習済みモデル2025は、ロボットアーム42-1が含まれる画像内の位置を特定し、稼働状況に懸念があることを出力する。
また、例えば、ロボットアーム42-1の複数フレームにわたる動作が正常時の動作と異なる場合、学習済みモデル2025は、ロボットアーム42-1が含まれる画像内の位置を特定し、稼働状況に懸念があることを出力する。
なお、学習済みモデル2025は、ロボットアーム42に限らず、結合画像に含まれるあらゆる設備機器の稼働状況を監視し、稼働状況に懸念がある場合にはその旨を出力する。
ステップS13において、制御部203は、画像解析モジュール2034から出力される推定結果に基づき、工場内の状況に懸念があるか否かを判断する。例えば、制御部203は、稼働状況に懸念があるか否かを判断する。稼働状況に懸念がある場合、制御部203は、処理をステップS14へ移行させる。一方、稼働状況に懸念がない場合、制御部203は、処理を終了させる。
ステップS14において、制御部203は、工場内の状況に懸念があることを監督者へ提示する。例えば、制御部203は、提示モジュール2039により、稼働状況に懸念があることを監督者へ提示する。例えば、提示モジュール2039は、制御室の設置される端末装置10に表示される結合画像に、稼働状況に懸念がある旨を表示させる。提示モジュール2039は、制御室の設置される端末装置10に、工場内の稼働状況に懸念がある旨を音声で伝えさせてもよい。
図12は、端末装置10のディスプレイ141で表示される画面の例を表す模式図である。図12に示す例では、端末装置10は、ロボットアーム42-1の稼働状況に懸念があるとして、注意を促すアイコン1411をロボットアーム42-1の近傍に表示している。
端末装置10を操作する監督者は、アイコン1411が表示されたロボットアーム42-1に注目する。監督者は、ロボットアーム42-1の状況を確認するための操作を端末装置10に入力する。
例えば、監督者は、ロボットアーム42-1及びその周囲の状況を拡大させるための操作を入力する。端末装置10は、入力された操作に応じ、結合画像の一部を拡大させた画像を表示する。このとき、結合画像は十分な解像度で端末装置10へ提供されていてもよいし、拡大表示の要求の度に倍率に応じた解像度のデータがサーバ20から提供されてもよい。撮影装置31は、結合画像を拡大した際に、監督者が細部を十分に視認可能な程度の解像度で工場内を撮影するように設定されている。
また、例えば、監督者は、ロボットアーム42-1についての詳細な情報を取得するための操作を入力する。例えば、監督者は、アイコン1411を押下する。端末装置10は、アイコン1411と関連付けられている情報をサーバ20へ要求する。
制御部203は、第2管理モジュール2037により、監督者により指定されたロボットアーム42-1についての情報を取得する。具体的には、例えば、第2管理モジュール2037は、結合画像中で監督者により指定された座標を、工場内の座標に変換する。第2管理モジュール2037は、設備情報DB2022に記憶される設備機器の設置位置に基づき、工場内の座標から、監督者により指定されたロボットアーム42-1の設備IDを特定する。
なお、ロボットアーム42-1には、個体を特定可能な表示が付されていてもよい。個体を特定可能な表示とは、例えば、所定のコード表示(例えば、QRコード(登録商標)等)である。所定のコード表示は、例えば、ロボットアーム42-1の識別IDを表す。画像解析モジュール2034は、画像に含まれるコード表示に基づき、個体を特定する。
第2管理モジュール2037は、取得した識別IDに基づき、ロボットアーム42-1についての情報を取得する。例えば、第2管理モジュール2037は、設備情報DB2022を参照し、ロボットアーム42-1のエラーログを取得する。また、第2管理モジュール2037は、動作ログ情報DB2024を参照し、ロボットアーム42-1の動作ログを取得する。第2管理モジュール2037は、取得した情報を提示モジュール2039へ出力する。
提示モジュール2039は、第2管理モジュール2037から出力された情報を、端末装置10に表示させる。
図13は、指定された設備についての詳細な情報を表示する画面の例を表す模式図である。提示モジュール2039は、監督者により指定されたロボットアーム42-1の動作を表す情報をオブジェクト14111に表示する。提示モジュール2039は、破線で表す領域を拡大して表示してもよい。図13に示す例では、ロボットアーム42-1のモータ出力を検出するセンサによるセンシングデータ、又はアームの関節の角度を検出するセンサによるセンシングデータ等がオブジェクト14111に表示されている。提示モジュール2039は、ロボットアーム42-1の動作を表す情報を、センシングデータに限定せず、過去のエラーログ、同様のエラーの所定期間内での発生件数等、ロボットアーム42-1の動作に係る種々の情報を表示してもよい。情報量が多い場合、提示モジュール2039は、種類を切り替えながら情報を表示してもよい。
監督者は、端末装置10で表示される動作を表す情報を確認し、ロボットアーム42-1に異常がないかを確認する。動作を表す情報に異常が見られる場合、監督者は、工場内にいる従業員へ、ロボットアーム42-1を確認するように指示を出してもよい。また、例えば、監督者は、図14に示すように、アイコン1412を押下することで、パトロールロボット44を操作し、ロボットアーム42-1の周囲の画像を撮影させてもよい。また、例えば、監督者は、自身でロボットアーム42-1の様子を確認しに現場へ行ってもよい。
また、ステップS12において、制御部203は、例えば、画像解析モジュール2034により、結合画像を解析し、工程管理に関する情報を出力する。画像解析モジュール2034は、例えば、画像処理モジュール2033で作成された、動画としての結合画像を学習済みモデル2025に入力する。具体的には、例えば、画像解析モジュール2034は、図11に示す結合画像を含む複数の連続した結合画像を学習済みモデル2025に入力する。
例えば、ベルトコンベア41で搬送される材料、又はプロダクトの数が正常時の数よりも少ない場合、学習済みモデル2025は、ベルトコンベア41が含まれる画像内の位置を特定し、作業工程に懸念があることを出力する。
なお、学習済みモデル2025は、ベルトコンベア41に限らず、結合画像に含まれるあらゆる作業工程を監視し、作業工程に懸念がある場合にはその旨を出力する。
また、例えば、従業員が所定の動作をとっている場合、学習済みモデル2025は、所定の動作をとっている従業員の位置を特定し、作業工程に懸念があることを出力する。所定の動作とは、例えば、従業員が困っている動作、自信がない動作、悩んでいる動作等である。より具体的には、所定の動作とは、例えば、首をかしげる動作等である。
また、例えば、従業員が作業工程において誤った動作をとっている場合、学習済みモデル2025は、当該動作をとっている従業員の位置を特定し、作業工程に懸念があることを出力する。
また、画像解析モジュール2034は、例えば、画像処理モジュール2033で作成された、動画としての結合画像に含まれる従業員を識別する。画像解析モジュール2034は、結合画像に含まれる従業員の顔から従業員を識別してもよい。また、画像解析モジュール2034は、従業員が身に着けている作業着に付されている、従業員を特定可能な表示に基づいて従業員を識別してもよい。従業員を特定可能な表示とは、例えば、所定のコード表示(例えば、QRコード(登録商標)等)である。所定のコード表示は、例えば、従業員の従業員IDを表す。画像解析モジュール2034は、画像に含まれるコード表示に基づき、従業員を識別する。
画像解析モジュール2034は、従業員を識別可能な情報、当該情報から識別される従業員が現在実施している業務内容を学習済みモデル2025に入力する。学習済みモデル2025は、作業工程に懸念を発生させる従業員が作業に携わっている場合、当該従業員が作業に携わっている画像内の位置を特定し、作業工程に懸念があることを出力する。
ステップS13において、制御部203は、工場内の状況に懸念があるか否かを判断する。例えば、制御部203は、作業工程に懸念があるか否かを判断する。作業工程に懸念がある場合、制御部203は、処理をステップS14へ移行させる。一方、稼働状況に懸念がない場合、制御部203は、処理を終了させる。
ステップS14において、制御部203は、工場内の状況に懸念があることを監督者へ提示する。例えば、制御部203は、提示モジュール2039により、作業工程に懸念があることを監督者へ提示する。例えば、提示モジュール2039は、制御室の設置される端末装置10に表示される結合画像に、作業工程に懸念がある旨を表示させる。提示モジュール2039は、制御室の設置される端末装置10に、工場内の作業工程に懸念がある旨を音声で伝えさせてもよい。
図12に示す例では、端末装置10は、ベルトコンベア41を利用した作業工程に懸念があるとして、注意を促すアイコン1412を、懸念のある作業工程と関連する位置に表示している。
端末装置10を操作する監督者は、アイコン1412が表示された位置に注目する。監督者は、アイコン1412が表示された作業工程の状況を確認するための操作を端末装置10に入力する。
例えば、監督者は、アイコン1412の周囲を拡大させるための操作を入力する。端末装置10は、入力された操作に応じ、結合画像の一部を拡大させた画像を表示する。
また、例えば、監督者は、懸念のある作業工程についての詳細な情報を取得するための操作を入力する。例えば、監督者は、アイコン1412を押下する。端末装置10は、アイコン1412と関連付けられている情報をサーバ20へ要求する。
制御部203は、第2管理モジュール2037により、監督者により指定された作業工程に係る設備機器についての情報を取得する。具体的には、例えば、第2管理モジュール2037は、結合画像中で監督者により指定された座標を、工場内の座標に変換する。第2管理モジュール2037は、設備情報DB2022に記憶される設備機器の設置位置に基づき、工場内の座標から、作業工程に係るベルトコンベア41の設備IDを特定する。
なお、ベルトコンベア41には、個体を特定可能な表示が付されていてもよい。画像解析モジュール2034は、画像に含まれるコード表示に基づき、個体を特定する。
第2管理モジュール2037は、取得した識別IDに基づき、ベルトコンベア41についての情報を取得する。例えば、第2管理モジュール2037は、設備情報DB2022を参照し、ベルトコンベア41のエラーログを取得する。また、第2管理モジュール2037は、動作ログ情報DB2024を参照し、ベルトコンベア41の動作ログを取得する。第2管理モジュール2037は、取得した情報を提示モジュール2039へ出力する。
提示モジュール2039は、第2管理モジュール2037から出力された情報を、端末装置10に表示させる。
図15は、指定された設備についての詳細な情報を表示する画面の例を表す模式図である。提示モジュール2039は、監督者により指定されたベルトコンベア41の動作を表す情報をオブジェクト14121に表示する。提示モジュール2039は、破線で表す領域を拡大して表示してもよい。図15に示す例では、ベルトコンベア41により搬送される材料、又はプロダクトの単位時間当たりの数等がオブジェクト14121に表示されている。ベルトコンベア41により搬送される材料、又はプロダクトの単位時間当たりの数は、例えば、画像解析モジュール2034による画像解析から算出される。提示モジュール2039は、ベルトコンベア41を利用した作業工程に関する情報を、ベルトコンベア41による材料等の搬送数に限定せず、ベルトコンベア41の過去のエラーログ、同様のエラーの所定期間内での発生件数等、ベルトコンベア41の動作に係る種々の情報を表示してもよい。情報量が多い場合、提示モジュール2039は、種類を切り替えながら情報を表示してもよい。
監督者は、端末装置10で表示される動作を表す情報を確認し、作業工程に異常がないかを確認する。動作を表す情報に異常が見られる場合、監督者は、工場内にいる従業員へ、作業工程を確認するように指示を出してもよい。また、例えば、監督者は、パトロールロボット44を操作し、作業工程に係る画像を撮影させてもよい。また、例えば、監督者は、自身で作業工程を確認しに現場へ行ってもよい。
記憶部202には、作業工程についての懸念、及び作業工程に関する情報を入力とし、作業工程についての懸念が発生した原因を出力するように学習された学習済みモデル(図示せず)が記憶されていてもよい。
図16は、作業工程の懸念の原因を表示する画面の例を表す模式図である。図16に示す例では、画像解析モジュール2034は、例えば、ベルトコンベア41を利用する作業工程についての懸念、及びベルトコンベア41の動作を表す情報を学習済みモデルに入力する。学習済みモデルは、例えば、作業工程の懸念の原因として、ベルトコンベア41の上流側で異常が発生している可能性があることをオブジェクト14122に表示する。
記憶部202には、作業工程についての懸念、及び作業工程に関する情報を入力とし、発生した懸念による影響を出力するように学習された学習済みモデル(図示せず)が記憶されていてもよい。
また、図12に示す例では、端末装置10は、所定の従業員が実施している作業工程に懸念があるとして、注意を促すアイコン1413を、懸念のある作業工程と関連する位置に表示している。
端末装置10を操作する監督者は、アイコン1413が表示された位置に注目する。監督者は、アイコン1413が表示された作業工程の状況を確認するための操作を端末装置10に入力する。
例えば、監督者は、アイコン1413の周囲を拡大させるための操作を入力する。端末装置10は、入力された操作に応じ、結合画像の一部を拡大させた画像を表示する。
また、例えば、監督者は、懸念のある作業工程についての詳細な情報を取得するための操作を入力する。例えば、監督者は、アイコン1413を押下する。端末装置10は、アイコン1413と関連付けられている情報をサーバ20へ要求する。
制御部203は、第1管理モジュール2036により、監督者により指定された作業工程に係る従業員についての情報を取得する。具体的には、例えば、第1管理モジュール2036は、画像解析モジュール2034による画像解析により、結合画像における従業員の識別IDを既に取得している。第1管理モジュール2036は、例えば、識別IDに基づき、従業員のエラーログを取得する。第1管理モジュール2036は、取得した情報を提示モジュール2039へ出力する。
提示モジュール2039は、第1管理モジュール2036から出力された情報を、端末装置10に表示させる。
図17は、指定された従業員についての情報を表示する画面の例を表す模式図である。提示モジュール2039は、監督者により指定された従業員についての情報をオブジェクト14131に表示する。提示モジュール2039は、破線で表す領域を拡大して表示してもよい。図17に示す例では、従業員が過去に発生させたエラーについての情報、及び当該従業員へ注意を促すか否かの選択ボタン141311、141312がオブジェクト14131に表示されている。提示モジュール2039は、従業員についての情報を、従業員が発生させたエラーについての情報に限定せず、同様のエラーの所定期間内での発生件数等、作業工程に係る種々の情報を表示してもよい。情報量が多い場合、提示モジュール2039は、種類を切り替えながら情報を表示してもよい。
監督者は、端末装置10で表示される従業員についての情報を確認し、従業員に注意を促すか否かを判断する。監督者は従業員に注意を促す場合、選択ボタン141311を押下する。監督者により、選択ボタン141311が押下されると、提示モジュール2039は、該当する従業員へ担当中の作業についての注意を促す。具体的には、提示モジュール2039は、例えば、この従業員が所持する端末装置10に、担当中の作業について注意する旨を表示させる。また、提示モジュール2039は、この従業員が所持する端末装置10に、担当中の作業について注意する音声を出力させてもよい。また、制御部203は、この従業員と監督者との間で通信接続を開始させてもよい。
また、提示モジュール2039は、例えば、この従業員が存在する位置と対応する区画に設置されたスピーカー33を操作し、担当中の作業について注意する音声を出力させてもよい。
また、図12に示す例では、端末装置10は、作業工程に懸念のある動作をしている従業員が存在するとして、注意を促すアイコン1414を、従業員と関連する位置に表示している。図12に示す例では、提示モジュール2039は、首をかしげている従業員について、アイコン1414を付すようにしている。
端末装置10を操作する監督者は、アイコン1414が表示された位置に注目する。監督者は、アイコン1414が付された従業員の状況を確認するための操作を端末装置10に入力する。
例えば、監督者は、アイコン1414の周囲を拡大させるための操作を入力する。端末装置10は、入力された操作に応じ、結合画像の一部を拡大させた画像を表示する。
また、例えば、監督者は、従業員の動作を確認するための操作を入力する。例えば、監督者は、アイコン1414を押下する。端末装置10は、アイコン1414と関連付けられている情報をサーバ20へ要求する。
制御部203は、第1管理モジュール2036により、監督者により指定された従業員についての情報を取得する。具体的には、例えば、第1管理モジュール2036は、画像解析モジュール2034による画像解析により、結合画像における従業員の識別IDを既に取得している。第1管理モジュール2036は、例えば、識別IDに基づき、複数の撮影装置31が撮影した複数の画像のうち、従業員が映り込んでいる画像を取得する。具体的には、第1管理モジュール2036は、例えば、従業員を各方向から捉えた画像を取得する。第1管理モジュール2036は、取得した情報を提示モジュール2039へ出力する。
提示モジュール2039は、第1管理モジュール2036から出力された情報を、端末装置10に表示させる。
図18は、従業員について複数方向から取得された画像を表示する画面の例を表す模式図である。図18において、提示モジュール2039は、監督者により指定された従業員についての4方向からの画像14141を表示する。提示モジュール2039は、破線で表す領域を拡大して表示してもよい。
監督者は、画像14141で表示される従業員についての状況を確認する。このように、複数方向から撮影した従業員の画像を表示することで、従業員が所定の動作を実際に取っているかを詳細に確認することが可能となる。監督者は、従業員についての状況を確認すると、従業員に状況を聞くか否か判断する。具体的には、監督者は、例えば、図18においてアイコン1414を再度押下する。
アイコン1414が監督者により再度押下されると、提示モジュール2039は、例えば、従業員に状況を聞くか否かの判断文をオブジェクト14142に表示する。図19に示す例では、「従業員Aに状況を聞きますか?」、及び当該従業員に状況を聞くか否かの選択ボタン141421、141422がオブジェクト14142に表示されている。
監督者は従業員に状況を聞く場合、選択ボタン141421を押下する。監督者により、選択ボタン141421が押下されると、提示モジュール2039は、該当する従業員へ首を傾げた理由を問い合わせる。具体的には、提示モジュール2039は、例えば、この従業員が所持する端末装置10に、首を傾げた理由を問う質問文を表示させる。また、提示モジュール2039は、この従業員が所持する端末装置10に、首を傾げた理由を問う音声を出力させてもよい。また、制御部203は、この従業員と監督者との間で通信接続を開始させてもよい。
また、提示モジュール2039は、例えば、この従業員が存在する位置と対応する区画に設置されたスピーカー33を操作し、首を傾げた理由を問う音声を出力させてもよい。
また、ステップS12において、制御部203は、例えば、画像解析モジュール2034により、結合画像を解析し、安全管理に関する情報を出力する。画像解析モジュール2034は、例えば、画像処理モジュール2033で作成された、動画としての結合画像を学習済みモデル2025に入力する。具体的には、例えば、画像解析モジュール2034は、図11に示す結合画像を含む複数の連続した結合画像を学習済みモデル2025に入力する。
例えば、火事等の災害の発生、又は災害の兆候が含まれる場合、学習済みモデル2025は、災害の発生、又は災害の兆候が含まれる画像内の位置を特定し、工場内の安全に懸念があることを出力する。
また、例えば、従業員と工作機器との距離が所定の距離未満である場合、学習済みモデル2025は、工作機器との距離が所定距離未満である従業員の位置を特定し、従業員の周囲に危険があることを出力する。具体的には、例えば、従業員とロボットアームとの距離が所定の距離未満である場合、学習済みモデル2025は、当該従業員の位置を特定し、従業員がロボットアームと接触する危険があることを出力する。
また、例えば、所定の業務を遂行する従業員の近傍に、別の従業員が接近している場合、学習済みモデル2025は、業務を遂行している従業員の位置を特定し、他の従業員との接触の恐れがあることを出力する。具体的には、例えば、フォークリフトを運転し、荷物を搬送している従業員に対して所定の位置に、別の従業員が接近している場合、学習済みモデル2025は、フォークリフトを運転している従業員の位置を特定し、他の従業員との接触の恐れがあることを出力する。フォークリフトを運転し、荷物を搬送している従業員に対して所定の位置とは、例えば、進行先に存在する障害物の影等を表す。
また、画像解析モジュール2034は、例えば、画像処理モジュール2033で作成された、動画としての結合画像に含まれる従業員を識別する。画像解析モジュール2034は、結合画像に含まれる従業員の顔から従業員を識別してもよい。また、画像解析モジュール2034は、従業員が身に着けている作業着に付されている、従業員を特定可能な表示に基づいて従業員を識別してもよい。
ステップS13において、制御部203は、工場内の状況に懸念があるか否かを判断する。例えば、制御部203は、工場内の安全に懸念があるか否かを判断する。安全に懸念がある場合、制御部203は、処理をステップS14へ移行させる。一方、安全に懸念がない場合、制御部203は、処理を終了させる。
ステップS14において、制御部203は、工場内の状況に懸念があることを監督者へ提示する。例えば、制御部203は、提示モジュール2039により、工場内の安全に懸念があることを監督者へ提示する。例えば、提示モジュール2039は、制御室の設置される端末装置10に表示される結合画像に、安全に懸念がある旨を表示させる。提示モジュール2039は、制御室の設置される端末装置10に、安全に懸念がある旨を音声で伝えさせてもよい。
図12に示す例では、端末装置10は、ロボットアーム42-2と従業員との間に接触の懸念があるとして、注意を促すアイコン1415を、安全上の懸念のある位置に表示している。
端末装置10を操作する監督者は、アイコン1415が表示された位置に注目する。監督者は、アイコン1415が表示された安全上の懸念を確認するための操作を端末装置10に入力する。
例えば、監督者は、アイコン1415の周囲を拡大させるための操作を入力する。端末装置10は、入力された操作に応じ、結合画像の一部を拡大させた画像を表示する。
また、例えば、監督者は、安全上の懸念のある従業員へ注意を促すための操作を入力する。例えば、監督者は、アイコン1415を押下する。端末装置10は、アイコン1415と関連付けられている情報をサーバ20へ要求する。
制御部203は、第1管理モジュール2036により、監督者により指定された従業員についての情報を取得する。具体的には、例えば、第1管理モジュール2036は、画像解析モジュール2034による画像解析により、結合画像における従業員の識別IDを既に取得している。第1管理モジュール2036は、例えば、識別IDに基づき、従業員情報DB2021から従業員についての情報を取得する。第1管理モジュール2036は、取得した情報を提示モジュール2039へ出力する。
提示モジュール2039は、第1管理モジュール2036から出力された情報を、端末装置10に表示させる。
図20は、指定された従業員への注意を出すか否かの確認画面の例を表す模式図である。提示モジュール2039は、監督者により指定された従業員についての情報をオブジェクト14151に表示する。提示モジュール2039は、破線で表す領域を拡大して表示してもよい。図20に示す例では、「従業員Aへ注意を出しますか?」の記載、及び当該従業員へ注意を促すか否かの選択ボタン141511、141512がオブジェクト14151に表示されている。提示モジュール2039は、注意を促す情報として、ロボットアーム42-2までの距離、同様の事故の所定期間内での発生件数等、安全に係る種々の情報を表示してもよい。情報量が多い場合、提示モジュール2039は、種類を切り替えながら情報を表示してもよい。
監督者は、端末装置10で表示される従業員についての情報を確認し、従業員に注意を促すか否かを判断する。監督者は従業員に注意を促す場合、選択ボタン141511を押下する。監督者により、選択ボタン141511が押下されると、提示モジュール2039は、該当する従業員へロボットアーム42-2から距離をとるように注意を促す。具体的には、提示モジュール2039は、例えば、この従業員が所持する端末装置10に、ロボットアーム42-2から距離をとる旨を表示させる。また、提示モジュール2039は、この従業員が所持する端末装置10に、ロボットアーム42-2から距離をとるように注意する音声を出力させてもよい。また、制御部203は、この従業員と監督者との間で通信接続を開始させてもよい。
また、提示モジュール2039は、例えば、この従業員が存在する位置と対応する区画に設置されたスピーカー33を操作し、ロボットアーム42-2から距離をとるように注意する音声を出力させてもよい。
また、図12に示す例では、端末装置10は、フォークリフト43を運転する従業員と他の従業員に接触の懸念があるとして、注意を促すアイコン1416を、フォークリフト43を運転する従業員と関連する位置に表示している。
端末装置10を操作する監督者は、アイコン1416が表示された位置に注目する。監督者は、アイコン1416が付された従業員の状況を確認するための操作を端末装置10に入力する。
例えば、監督者は、アイコン1416の周囲を拡大させるための操作を入力する。端末装置10は、入力された操作に応じ、結合画像の一部を拡大させた画像を表示する。
また、例えば、監督者は、安全上の懸念のある従業員へ注意を促すための操作を入力する。例えば、監督者は、アイコン1416を押下する。端末装置10は、アイコン1416と関連付けられている情報をサーバ20へ要求する。
制御部203は、第1管理モジュール2036により、監督者により指定された従業員についての情報を取得する。具体的には、例えば、第1管理モジュール2036は、画像解析モジュール2034による画像解析により、結合画像における従業員の識別IDを既に取得している。第1管理モジュール2036は、例えば、識別IDに基づき、従業員情報DB2021、勤務ログ情報DB2023から従業員についての情報を取得する。第1管理モジュール2036は、取得した情報を提示モジュール2039へ出力する。
提示モジュール2039は、第1管理モジュール2036から出力された情報を、端末装置10に表示させる。
図21は、指定された従業員へ注意を出すか否かの確認画面の例を表す模式図である。提示モジュール2039は、監督者により指定された従業員についての情報をオブジェクト14161に表示する。提示モジュール2039は、破線で表す領域を拡大して表示してもよい。図21に示す例では、「従業員Aへ注意を出しますか?」の記載、及び当該従業員へ注意を促すか否かの選択ボタン141611、141612がオブジェクト14161に表示されている。提示モジュール2039は、注意を促す情報として、周囲に存在する他の従業員についての情報、フォークリフト43を運転する従業員の過去の情報(例えば、事故履歴)、同様の事故の所定期間内での発生件数等、安全に係る種々の情報を表示してもよい。情報量が多い場合、提示モジュール2039は、種類を切り替えながら情報を表示してもよい。
監督者は、端末装置10で表示される従業員についての情報を確認し、従業員に注意を促すか否かを判断する。監督者は従業員に注意を促す場合、選択ボタン141611を押下する。監督者により、選択ボタン141611が押下されると、提示モジュール2039は、該当する従業員へフォークリフト43の運転への注意を促す。具体的には、提示モジュール2039は、例えば、この従業員が所持する端末装置10に、フォークリフト43の安全運転を促す音声を出力させてもよい。また、制御部203は、この従業員と監督者との間で通信接続を開始させてもよい。
また、提示モジュール2039は、例えば、この従業員が存在する位置と対応する区画に設置されたスピーカー33を操作し、ロボットアーム42-2から距離をとるように注意する音声を出力させてもよい。
図10は、センサ32で取得されたセンシングデータに基づき、サーバ20が工場内の状況を管理する際の動作の例を表すフローチャートである。
ステップS15において、制御部203は、センシングデータを解析し、工場内の状況に関する情報を出力する。例えば、制御部203は、情報解析モジュール2035により、センサ32により取得されたセンシングデータを解析し、稼働管理に関する情報、安全管理に関する情報、又は工程管理に関する情報を出力する。情報解析モジュール2035は、学習済みモデル2025から出力される情報を提示モジュール2039へ出力する。具体的には、情報解析モジュール2035は、例えば、センサ32により所定周期で取得されるセンシングデータを順次学習済みモデル2025に入力する。学習済みモデル2025は、入力されたセンシングデータに応じ、稼働管理に関する情報、安全管理に関する情報、又は工程管理に関する情報を出力する。
ステップS13において、制御部203は、情報解析モジュール2035から出力される推定結果に基づき、工場内の状況に懸念があるか否かを判断する。工場内の状況に懸念がある場合、制御部203は、処理をステップS14へ移行させる。一方、工場内の状況に懸念がない場合、制御部203は、処理を終了させる。
ステップS14において、制御部203は、工場内の状況に懸念があることを監督者へ提示する。例えば、提示モジュール2039は、制御室の設置される端末装置10に表示される結合画像に、工場内の状況に懸念がある旨を表示させる。
以上のように、上記実施形態では、制御部203は、監視対象エリアに設置される複数の撮影装置31により撮影された、連続する時系列の第1画像を取得する。制御部203は、画像解析モジュール2034により、撮影装置31により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定する。制御部203は、提示モジュール2039により、推定の結果に基づく情報を監督者としての第1者へ提示する。これにより、監視対象エリア内を撮影した動画に基づき、監視対象エリアにおいて異常が発生したか否かを自動的に判定し、判定結果を監督者へ提示することが可能となる。
したがって、本実施形態に係るシステムによれば、監督者は対象エリア内の状況を多角的に管理できる。また、対象エリア内を管理する労力が抑えることが可能となる。また、対象エリア内の監督者の数を抑えることが可能となる。また、制御室を対象エリアから遠隔の地に設けることで、対象エリアをリモートで管理することが可能となる。
また、上記実施形態では、画像処理モジュール2033は、撮影装置31により撮影された第1画像から監視対象エリア全体を表す第2画像(結合画像)を作成する。画像解析モジュール2034は、第2画像を解析する。これにより、結合画像について1回の画像解析で、監視対象エリア全体についての画像解析が実施できるため、処理負荷を抑えることが可能となるとともに、処理速度が向上することになる。このため、制御部203は、監視対象エリア全体の画像を動画として処理することが可能となる。
また、上記実施形態では、撮影装置31は、超広角レンズを有している。画像処理モジュール2033は、超広角レンズを有する撮影装置31により撮影された第1画像に対してオルソ補正を実施して第2画像を作成する。これにより、撮影装置31の数を抑えることが可能となる。また、結合画像を作成する際の負荷を抑えることが可能となる。
また、上記実施形態では、画像解析モジュール2034は、正常に動作している工作機器を撮影した動画を入力とし、工作機器が正常に動作していることを正解出力として学習された学習済みモデル2025に、連続する時系列の第1画像に基づく画像を入力することで、監視対象エリア内に設置される機器の稼働状況に懸念が発生しているか否かを推定する。これにより、監督者は、監視対象エリア内に設置される機器の稼働状況を管理することが可能となる。
また、上記実施形態では、提示モジュール2039は、推定の結果に基づく情報を、懸念が発生している機器の、監視対象エリア内の位置に関する情報として提示する。これにより、第1者は、監視対象エリア内における懸念の発生位置を直感的に把握することが可能となる。
また、上記実施形態では、提示モジュール2039は、推定の結果に基づく情報を、懸念が発生している機器についての詳細情報として提示する。これにより、制御部203は、発生した懸念に関連する機器についての詳細な情報を第1者へ提供することが可能となる。そのため、第1者は、異常を高い精度で特定することが可能となる。
また、上記実施形態では、提示モジュール2039は、推定の結果に基づく情報を、発生している懸念と関連する情報として提示する。これにより、制御部203は、懸念が発生している環境を第1者へ提供することが可能となる。そのため、第1者は、異常を高い精度で特定することが可能となる。
また、上記実施形態では、画像解析モジュール2034は、安全に懸念がある状況を撮影した動画を入力とし、当該状況において安全に懸念があることを正解出力として学習された学習済みモデル2025に、連続する時系列の第1画像に基づく画像を入力することで、監視対象エリア内の安全に懸念が発生しているか否かを推定する。これにより、監督者は、監視対象エリア内の安全を管理することが可能となる。
また、上記実施形態では、連続する時系列の第1画像は、工作機器に接近する第2者を含む。これにより、制御部203は、工作機器と第2者とが接触する事故が発生する懸念を、監視対象エリア内の安全の懸念として出力することが可能となる。
また、上記実施形態では、連続する時系列の第1画像は、所定の業務を遂行する第2者と、その他の第2者とが所定の位置関係にあることを含む。これにより、制御部203は、所定の業務を遂行する第2者と、その他の第2者とが接触する事故が発生する懸念を、監視対象エリア内の安全の懸念として出力することが可能となる。
また、上記実施形態では、画像解析モジュール2034は、第2者を識別する。提示モジュール2039は、識別した第2者へ注意を促す。これにより、制御部203は、安全が懸念される第2者が事故を起こすこと、事故に巻き込まれることを抑えることが可能となる。
また、上記実施形態では、提示モジュール2039は、推定の結果に基づく情報を、安全に懸念が発生している領域の監視対象エリア内の位置に関する情報として提示する。これにより、第1者は、監視対象エリア内において安全に懸念がある位置を直感的に把握することが可能となる。
また、上記実施形態では、画像解析モジュール2034は、作業工程に懸念が発生しているか否かを出力するように学習された学習済みモデル2025に、連続する時系列の第1画像に基づく画像を入力することで、監視対象エリア内の作業工程に懸念が発生しているか否かを推定する。これにより、監督者は、監視対象エリア内の作業工程を管理することが可能となる。
また、上記実施形態では、学習済みモデル2025は、正常に機能している作業工程を撮影した動画を入力とし、作業工程が正常に機能していることを正解出力として学習された学習済みモデルである。これにより、制御部203は、監視対象エリア内の機器の動作に基づき、作業工程が正常に機能しているか否かを推定することが可能となる。
また、上記実施形態では、学習済みモデル2025は、第2者と、第2者の勤務についての情報とを入力とし、異常が発生する蓋然性を正解出力として学習された学習済みモデルである。これにより、制御部203は、ミスを起こしやすい従業員が業務に携わっている場合、作業工程が遅れる可能性が高いとして、監督者に注意を払わせることが可能となる。
また、上記実施形態では、学習済みモデル2025は、第2者についての動作を入力とし、作業工程における懸念の蓋然性を正解出力として学習された学習済みモデルである。これにより、制御部203は、従業員が困った表情、困った動作等をしている場合、監督者に従業員への助力を促すことが可能となる。
また、上記実施形態では、画像解析モジュール2034は、第2者を識別する。提示モジュール2039は、識別した第2者へメッセージを提示する。これにより、制御部203は、ミスを犯しがちな第2者へ注意を促すことが可能となる。また、制御部203は、困っている第2者へ助言を与えることが可能となる。
また、上記実施形態では、提示モジュール2039は、推定の結果に基づく情報は、作業工程に懸念が発生している領域の、監視対象エリア内の位置に関する情報である。これにより、第1者は、監視対象エリア内において作業工程に懸念が発生する位置を直感的に把握することが可能となる。
また、上記実施形態では、提示モジュール2039は、推定の結果に基づく情報を、懸念の要因と推定される機器又は第2者についての詳細情報として提示する。これにより、制御部203は、懸念の要因と推定される機器についての詳細な情報、又は懸念を発生させる蓋然性の高い第2者についての詳細な情報を第1者へ提供することが可能となる。そのため、第1者は、作業工程を高い精度で管理することが可能となる。
また、上記実施形態では、提示モジュール2039は、推定の結果に基づく情報を、発生している懸念と関連する情報として提示する。これにより、制御部203は、懸念が発生している環境を第1者へ提供することが可能となる。そのため、第1者は、作業工程を高い精度で管理することが可能となる。
また、上記実施形態では、制御部203は、監視対象エリアに設置される複数のセンサ32により検出されたセンシングデータを取得する。203は、情報解析モジュール2035により、取得したセンシングデータに基づくデータ解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定する。これにより、監視対象エリア内を撮影した動画に加え、センシングデータにも基づいて、監視対象エリアにける異常の発生を自動的に判定することが可能となる。このため、異常の発生を推定する精度が向上することになる。
<4 変形例>
上記実施形態では、システムが工場に設置される場合を例に説明した。しかしながら、システムが設置される場所は、工場に限定されない。監視対象エリア内に複数の人と設備機器とが存在し、稼働管理、安全管理、工程管理が必要となる場所であればどのような場所に設置されてもよい。例えば、本実施形態に係るシステムは、病院、空港、駅、学校、スポーツジム、漁港、農場、牧場等に設けられてもよい。
<5 その他の実施形態>
上記実施形態では、結合画像における、稼働状況に懸念がある位置、安全に懸念がある位置、及び工程管理に懸念がある位置に、それぞれ同様のアイコンが付される場合を説明した。稼働状況に懸念がある位置、安全に懸念がある位置、及び工程管理に懸念がある位置に付されるアイコンは種類毎に識別可能であってもよい。例えば、種類毎に色が違っていてもよいし、形が違っていてもよい。こうすることで、監督者は、懸念事項の種類を直感的に把握することが可能となる。
また、上記実施形態では、正常の動作と違いのある工作機器を、稼働状況に懸念がある工作機器として出力する場合を説明した。しかしながら、画像解析モジュール2034は、他の工作機器よりも使用頻度が低い工作機器を出力してもよい。これにより、工場内で過剰となっている設備を効率的に発見することが可能となり、例えば、他の工場へ移動させる等、現存するリソースを有効に活用することが可能となる。
また、上記実施形態では、監督者からの承諾を待って、従業員へ注意を伝えたり、従業員の様子を伺ったりするようにしている。しかしながら、制御部203は、監督者からの承諾を待たず、従業員へ連絡を伝えるようにしてもよい。これにより、制御部203は、従業員を管理する労力を低減させることが可能となる。
また、上記実施形態では、エッジサーバ30に、撮影装置31及びセンサ32が接続されている場合を説明したが、撮影装置31及びセンサ32は、ネットワークに直接接続されてもよい。
以上、本開示のいくつかの実施形態を説明したが、これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものとする。
<付記>
以上の各実施形態で説明した事項を以下に付記する。
(付記1)
プロセッサ29と、メモリ25とを備えるコンピュータに実行させるためのプログラムであって、プログラムは、プロセッサに、監視対象エリアに設置される複数の撮影装置31により撮影された、連続する時系列の第1画像を取得するステップ(2031)と、撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定するステップ(ステップS12)と、推定の結果に基づく情報を第1者へ提示するステップ(ステップS14)とを実行させるプログラム。
(付記2)
撮影装置により撮影された第1画像から監視対象エリア全体を表す第2画像を作成するステップ(ステップS11)をプロセッサに実行させ、推定するステップにおいて、第2画像を解析する(付記1)に記載のプログラム。
(付記3)
撮影装置は、超広角レンズを有し、第2画像を作成するステップにおいて、超広角レンズを有する撮影装置により撮影された第1画像に対してオルソ補正を実施して第2画像を作成する(付記2)に記載のプログラム。
(付記4)
推定するステップにおいて、正常に動作している工作機器を撮影した動画を入力とし、工作機器が正常に動作していることを正解出力として学習された学習済みモデルに、連続する時系列の第1画像に基づく画像を入力することで、監視対象エリア内に設置される機器の稼働状況に懸念が発生しているか否かを推定する(付記1)乃至(付記3)のいずれかに記載のプログラム。
(付記5)
提示するステップにおいて、推定の結果に基づく情報は、懸念が発生している機器の監視対象エリア内の位置に関する情報である(付記4)に記載のプログラム。
(付記6)
提示するステップにおいて、推定の結果に基づく情報は、懸念が発生している機器についての詳細情報である(付記4)又は(付記5)に記載のプログラム。
(付記7)
提示するステップにおいて、推定の結果に基づく情報は、発生している懸念と関連する情報である(付記4)乃至(付記6)のいずれかに記載のプログラム。
(付記8)
推定するステップにおいて、安全に懸念がある状況を撮影した動画を入力とし、当該状況において安全に懸念があることを正解出力として学習された学習済みモデルに、連続する時系列の第1画像に基づく画像を入力することで、監視対象エリア内の安全に懸念が発生しているか否かを推定する(付記1)乃至(付記7)のいずれかに記載のプログラム。
(付記9)
推定するステップにおいて、連続する時系列の第1画像は、工作機器に接近する第2者を含む(付記8)に記載のプログラム。
(付記10)
推定するステップにおいて、連続する時系列の第1画像は、所定の業務を遂行する第2者と、その他の第2者とが所定の位置関係にあることを含む(付記8)に記載のプログラム。
(付記11)
推定するステップにおいて、第2者を識別し、識別した第2者へ、注意を促すステップをプロセッサに実行させる(付記9)又は(付記10)に記載のプログラム。
(付記12)
提示するステップにおいて、推定の結果に基づく情報は、安全に懸念が発生している領域の監視対象エリア内の位置に関する情報である(付記8)乃至(付記11)のいずれかに記載のプログラム。
(付記13)
推定するステップにおいて、作業工程に懸念が発生しているか否かを出力するように学習された学習済みモデルに、連続する時系列の第1画像に基づく画像を入力することで、監視対象エリア内の作業工程に懸念が発生しているか否かを推定する(付記1)乃至(付記12)のいずれかに記載のプログラム。
(付記14)
学習済みモデルは、正常に機能している作業工程を撮影した動画を入力とし、作業工程が正常に機能していることを正解出力として学習された学習済みモデルである(付記13)に記載のプログラム。
(付記15)
学習済みモデルは、第2者と、第2者の勤務についての情報とを入力とし、異常が発生する蓋然性を正解出力として学習された学習済みモデルである(付記13)又は(付記14)に記載のプログラム。
(付記16)
学習済みモデルは、第2者についての動作を入力とし、作業工程における懸念の蓋然性を正解出力として学習された学習済みモデルである(付記13)乃至(付記15)のいずれかに記載のプログラム。
(付記17)
推定するステップにおいて、第2者を識別し、識別した第2者へ、メッセージを提示するステップをプロセッサに実行させる(付記15)又は(付記16)に記載のプログラム。
(付記18)
提示するステップにおいて、推定の結果に基づく情報は、作業工程に懸念が発生している領域の監視対象エリア内の位置に関する情報である(付記13)乃至(付記17)のいずれかに記載のプログラム。
(付記19)
提示するステップにおいて、推定の結果に基づく情報は、懸念の要因と推定される機器又は第2者についての詳細情報である(付記13)乃至(付記18)のいずれかに記載のプログラム。
(付記20)
提示するステップにおいて、推定の結果に基づく情報は、発生している懸念と関連する情報である(付記13)乃至(付記19)のいずれかに記載のプログラム。
(付記21)
監視対象エリアに設置される複数のセンサにより検出されたセンシングデータを取得するステップと、取得したセンシングデータに基づくデータ解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定するステップ(ステップS15)とをプロセッサに実行させる(付記1)乃至(付記20)のいずれかに記載のプログラム。
(付記22)
プロセッサと、メモリとを備えるコンピュータに実行される方法であって、プロセッサが、監視対象エリアに設置される複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定するステップと、推定の結果に基づく情報を第1者へ提示するステップとを実行する方法。
(付記23)
制御部203と、記憶部202とを備える情報処理装置20であって、制御部が、監視対象エリアに設置される複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定するステップと、推定の結果に基づく情報を第1者へ提示するステップとを実行する情報処理装置。
(付記24)
監視対象エリアに設置される複数の撮影装置により撮影された、連続する時系列の第1画像を取得する手段と、撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、監視対象エリア内に設置される機器に起因する事象の発生を推定する手段と、推定の結果に基づく情報を第1者へ提示する手段とを具備するシステム。
1…システム
10…端末装置
12…通信IF
120…通信部
13…入力装置
131…タッチ・センシティブ・デバイス
14…出力装置
141…ディスプレイ
15…メモリ
150…位置情報センサ
16…ストレージ
161…カメラ
17…音声処理部
171…マイク
172…スピーカー
180…記憶部
181…従業員情報
19…プロセッサ
190…制御部
191…操作受付部
192…送受信部
193…提示制御部
20…サーバ
201…通信部
202…記憶部
2021…従業員情報DB
2022…設備情報DB
2023…勤務ログ情報DB
2024…動作ログ情報DB
2025…学習済みモデル
203…制御部
2031…受信制御モジュール
2032…送信制御モジュール
2033…画像処理モジュール
2034…画像解析モジュール
2035…情報解析モジュール
2036…第1管理モジュール
2037…第2管理モジュール
2039…提示モジュール
22…通信IF
23…入出力IF
25…メモリ
26…ストレージ
29…プロセッサ
30…エッジサーバ
31…撮影装置
32…センサ
33…スピーカー
41…ベルトコンベア
42…ロボットアーム
43…フォークリフト
44…パトロールロボット
80…ネットワーク

Claims (35)

  1. プロセッサと、メモリとを備えるコンピュータに実行させるためのプログラムであって、前記プログラムは、前記プロセッサに、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、前記監視対象エリア内に設置される機器に起因する事象の発生を推定するステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行させ、
    前記推定するステップにおいて、正常の頻度で使用されている工作機器を撮影した動画を入力とし、前記工作機器が正常の頻度で使用されていることを正解出力として学習された学習済みモデルに、前記連続する時系列の第1画像に基づく画像を入力することで、前記監視対象エリア内に設置される機器のうち使用頻度が低い機器が存在しているか否かを推定するプログラム。
  2. プロセッサと、メモリとを備えるコンピュータに実行させるためのプログラムであって、前記プログラムは、前記プロセッサに、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像を学習済みモデルに入力することで、前記監視対象エリア内の安全に懸念が発生しているか否かを推定し、前記学習済みモデルは、安全に懸念がある状況を撮影した動画を入力とし、当該状況において安全に懸念があることを正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行させるプログラム。
  3. プロセッサと、メモリとを備えるコンピュータに実行させるためのプログラムであって、前記プログラムは、前記プロセッサに、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像を学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、正常に機能している前記監視対象エリア内の物流を撮影した動画を入力とし、作業工程が正常に機能していることを正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行させるプログラム。
  4. プロセッサと、メモリとを備えるコンピュータに実行させるためのプログラムであって、前記プログラムは、前記プロセッサに、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像であって業務に携わっている従業員を含む画像学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、従業員の識別情報と、当該従業員の業務内容についての情報とを入力とし、当該従業員により作業工程に懸念が発生する蓋然性の判断を正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行させるプログラム。
  5. プロセッサと、メモリとを備えるコンピュータに実行させるためのプログラムであって、前記プログラムは、前記プロセッサに、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像であって業務に携わっている従業員を含む画像学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、動作を含む画像を入力とし、当該動作に応じて作業工程に懸念が発生する蓋然性の判断を正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行させるプログラム。
  6. 前記撮影装置により撮影された第1画像から監視対象エリア全体を表す第2画像を作成するステップを前記プロセッサに実行させ、
    前記推定するステップにおいて、前記第2画像を学習済みモデルに入力する請求項1乃至5のいずれかに記載のプログラム。
  7. 前記撮影装置は、超広角レンズを有し、
    前記第2画像を作成するステップにおいて、前記超広角レンズを有する撮影装置により撮影された第1画像に対してオルソ補正を実施して前記第2画像を作成する請求項6記載のプログラム。
  8. 前記提示するステップにおいて、前記推定の結果に基づく情報は、懸念が発生している機器の前記監視対象エリア内の位置に関する情報である請求項1記載のプログラム。
  9. 前記提示するステップにおいて、前記推定の結果に基づく情報は、懸念が発生している機器についての詳細情報である請求項1又は8に記載のプログラム。
  10. 前記提示するステップにおいて、前記推定の結果に基づく情報は、発生している懸念と関連する情報である請求項1、8、及び9のいずれかに記載のプログラム。
  11. 前記推定するステップにおいて、前記連続する時系列の第1画像は、工作機器に接近する第2者を含む請求項2記載のプログラム。
  12. 前記推定するステップにおいて、前記連続する時系列の第1画像は、所定の業務を遂行する第2者と、その他の第2者とが所定の位置関係にあることを含む請求項2記載のプログラム。
  13. 前記推定するステップにおいて、前記第2者を識別し、
    前記識別した第2者へ、注意を促すステップを前記プロセッサに実行させる請求項11又は12に記載のプログラム。
  14. 前記提示するステップにおいて、前記推定の結果に基づく情報は、安全に懸念が発生している領域の前記監視対象エリア内の位置に関する情報である請求項2、11乃至13のいずれかに記載のプログラム。
  15. 前記推定するステップにおいて、前記画像に含まれる従業員を識別し、
    前記識別した従業員へ、メッセージを提示するステップを前記プロセッサに実行させる請求項4又は5に記載のプログラム。
  16. 前記提示するステップにおいて、前記推定の結果に基づく情報は、作業工程に懸念が発生している領域の前記監視対象エリア内の位置に関する情報である請求項3乃至5、及び15のいずれかに記載のプログラム。
  17. 前記提示するステップにおいて、前記推定の結果に基づく情報は、懸念の要因と推定される機器についての詳細情報である請求項3記載のプログラム。
  18. 前記推定するステップにおいて、前記画像に含まれる従業員を識別し、
    前記提示するステップにおいて、前記推定の結果に基づく情報は、懸念の要因と推定される従業員についての詳細情報である請求項4又は5に記載のプログラム。
  19. 前記提示するステップにおいて、前記推定の結果に基づく情報は、発生している懸念と関連する情報である請求項3乃至5、15乃至1のいずれかに記載のプログラム。
  20. 前記監視対象エリアに設置される複数のセンサにより検出されたセンシングデータを取得するステップと、
    前記取得したセンシングデータに基づくデータ解析を実施し、前記監視対象エリア内に設置される機器に起因する事象の発生を推定するステップと
    を前記プロセッサに実行させる請求項1記載のプログラム。
  21. プロセッサと、メモリとを備えるコンピュータに実行される方法であって、前記プロセッサが、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、前記監視対象エリア内に設置される機器に起因する事象の発生を推定するステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行し、
    前記推定するステップにおいて、正常の頻度で使用されている工作機器を撮影した動画を入力とし、前記工作機器が正常の頻度で使用されていることを正解出力として学習された学習済みモデルに、前記連続する時系列の第1画像に基づく画像を入力することで、前記監視対象エリア内に設置される機器のうち使用頻度が低い機器が存在しているか否かを推定する方法。
  22. プロセッサと、メモリとを備えるコンピュータに実行される方法であって、前記プロセッサが、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像を学習済みモデルに入力することで、前記監視対象エリア内の安全に懸念が発生しているか否かを推定し、前記学習済みモデルは、安全に懸念がある状況を撮影した動画を入力とし、当該状況において安全に懸念があることを正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行する方法。
  23. プロセッサと、メモリとを備えるコンピュータに実行される方法であって、前記プロセッサが、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像を学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、正常に機能している前記監視対象エリア内の物流を撮影した動画を入力とし、作業工程が正常に機能していることを正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行する方法。
  24. プロセッサと、メモリとを備えるコンピュータに実行される方法であって、前記プロセッサが、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像であって業務に携わっている従業員を含む画像学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、従業員の識別情報と、当該従業員の業務内容についての情報とを入力とし、当該従業員により作業工程に懸念が発生する蓋然性の判断を正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行する方法。
  25. プロセッサと、メモリとを備えるコンピュータに実行される方法であって、前記プロセッサが、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像であって業務に携わっている従業員を含む画像学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、動作を含む画像を入力とし、当該動作に応じて作業工程に懸念が発生する蓋然性の判断を正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行する方法。
  26. 制御部と、記憶部とを備える情報処理装置であって、前記制御部が、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、前記監視対象エリア内に設置される機器に起因する事象の発生を推定するステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行し、
    前記推定するステップにおいて、正常の頻度で使用されている工作機器を撮影した動画を入力とし、前記工作機器が正常の頻度で使用されていることを正解出力として学習された学習済みモデルに、前記連続する時系列の第1画像に基づく画像を入力することで、前記監視対象エリア内に設置される機器のうち使用頻度が低い機器が存在しているか否かを推定する情報処理装置。
  27. 制御部と、記憶部とを備える情報処理装置であって、前記制御部が、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像を学習済みモデルに入力することで、前記監視対象エリア内の安全に懸念が発生しているか否かを推定し、前記学習済みモデルは、安全に懸念がある状況を撮影した動画を入力とし、当該状況において安全に懸念があることを正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行する情報処理装置。
  28. 制御部と、記憶部とを備える情報処理装置であって、前記制御部が、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像を学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、正常に機能している前記監視対象エリア内の物流を撮影した動画を入力とし、作業工程が正常に機能していることを正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行する情報処理装置。
  29. 制御部と、記憶部とを備える情報処理装置であって、前記制御部が、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像であって業務に携わっている従業員を含む画像学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、従業員の識別情報と、当該従業員の業務内容についての情報とを入力とし、当該従業員により作業工程に懸念が発生する蓋然性の判断を正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行する情報処理装置。
  30. 制御部と、記憶部とを備える情報処理装置であって、前記制御部が、
    監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得するステップと、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像であって業務に携わっている従業員を含む画像学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、動作を含む画像を入力とし、当該動作に応じて作業工程に懸念が発生する蓋然性の判断を正解出力として学習されるステップと、
    前記推定の結果に基づく情報を第1者へ提示するステップと
    を実行する情報処理装置。
  31. 監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得する手段と、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像解析を実施し、前記監視対象エリア内に設置される機器に起因する事象の発生を推定する手段と、
    前記推定の結果に基づく情報を第1者へ提示する手段と
    を具備し、
    前記推定する手段は、正常の頻度で使用されている工作機器を撮影した動画を入力とし、前記工作機器が正常の頻度で使用されていることを正解出力として学習された学習済みモデルに、前記連続する時系列の第1画像に基づく画像を入力することで、前記監視対象エリア内に設置される機器のうち使用頻度が低い機器が存在しているか否かを推定するシステム。
  32. 監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得する手段と、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像を学習済みモデルに入力することで、前記監視対象エリア内の安全に懸念が発生しているか否かを推定し、前記学習済みモデルは、安全に懸念がある状況を撮影した動画を入力とし、当該状況において安全に懸念があることを正解出力として学習される手段と、
    前記推定の結果に基づく情報を第1者へ提示する手段と
    を具備するシステム。
  33. 監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得する手段と、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像を学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、正常に機能している前記監視対象エリア内の物流を撮影した動画を入力とし、作業工程が正常に機能していることを正解出力として学習される手段と、
    前記推定の結果に基づく情報を第1者へ提示する手段と
    を具備するシステム。
  34. 監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得する手段と、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像であって業務に携わっている従業員を含む画像学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、従業員の識別情報と、当該従業員の業務内容についての情報とを入力とし、当該従業員により作業工程に懸念が発生する蓋然性の判断を正解出力として学習される手段と、
    前記推定の結果に基づく情報を第1者へ提示する手段と
    を具備するシステム。
  35. 監視対象エリアにおける所定の区画をそれぞれ撮影可能に設置され、動画として一連の動きを認識可能な程度のフレームレートで前記区画内を撮影する複数の撮影装置により撮影された、連続する時系列の第1画像を取得する手段と、
    前記撮影装置により撮影された、連続する時系列の第1画像に基づく画像であって業務に携わっている従業員を含む画像学習済みモデルに入力することで、前記監視対象エリア内の作業工程に懸念が発生しているか否かを推定し、前記学習済みモデルは、動作を含む画像を入力とし、当該動作に応じて作業工程に懸念が発生する蓋然性の判断を正解出力として学習される手段と、
    前記推定の結果に基づく情報を第1者へ提示する手段と
    を具備するシステム。
JP2021106892A 2021-06-28 2021-06-28 プログラム、方法、情報処理装置、システム Active JP7115812B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021106892A JP7115812B1 (ja) 2021-06-28 2021-06-28 プログラム、方法、情報処理装置、システム
PCT/JP2022/024038 WO2023276676A1 (ja) 2021-06-28 2022-06-15 プログラム、方法、情報処理装置、システム
JP2022118773A JP2023009034A (ja) 2021-06-28 2022-07-26 プログラム、方法、情報処理装置、システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021106892A JP7115812B1 (ja) 2021-06-28 2021-06-28 プログラム、方法、情報処理装置、システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022118773A Division JP2023009034A (ja) 2021-06-28 2022-07-26 プログラム、方法、情報処理装置、システム

Publications (2)

Publication Number Publication Date
JP7115812B1 true JP7115812B1 (ja) 2022-08-09
JP2023005151A JP2023005151A (ja) 2023-01-18

Family

ID=82780708

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021106892A Active JP7115812B1 (ja) 2021-06-28 2021-06-28 プログラム、方法、情報処理装置、システム
JP2022118773A Pending JP2023009034A (ja) 2021-06-28 2022-07-26 プログラム、方法、情報処理装置、システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022118773A Pending JP2023009034A (ja) 2021-06-28 2022-07-26 プログラム、方法、情報処理装置、システム

Country Status (2)

Country Link
JP (2) JP7115812B1 (ja)
WO (1) WO2023276676A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018116325A (ja) 2017-01-16 2018-07-26 沖電気工業株式会社 異常検知システム、異常検知装置、異常検知方法およびプログラム
JP2018128729A (ja) 2017-02-06 2018-08-16 コニカミノルタ株式会社 工程監視装置、工程監視装置の制御方法およびプログラム
JP2018207349A (ja) 2017-06-06 2018-12-27 キヤノン株式会社 生産システムの制御方法、生産セル、および生産システム
JP2019192107A (ja) 2018-04-27 2019-10-31 株式会社シーイーシー 管理装置、及び、管理装置のプログラム
JP2021027579A (ja) 2019-07-31 2021-02-22 株式会社リコー 画像判定装置および画像判定システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018116325A (ja) 2017-01-16 2018-07-26 沖電気工業株式会社 異常検知システム、異常検知装置、異常検知方法およびプログラム
JP2018128729A (ja) 2017-02-06 2018-08-16 コニカミノルタ株式会社 工程監視装置、工程監視装置の制御方法およびプログラム
JP2018207349A (ja) 2017-06-06 2018-12-27 キヤノン株式会社 生産システムの制御方法、生産セル、および生産システム
JP2019192107A (ja) 2018-04-27 2019-10-31 株式会社シーイーシー 管理装置、及び、管理装置のプログラム
JP2021027579A (ja) 2019-07-31 2021-02-22 株式会社リコー 画像判定装置および画像判定システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
加藤慶信,作業手順の順守はカメラが見守る,日経情報ストラテジー,日本,日経BP社,2016年12月29日,第298号,第30-35頁

Also Published As

Publication number Publication date
WO2023276676A1 (ja) 2023-01-05
JP2023005151A (ja) 2023-01-18
JP2023009034A (ja) 2023-01-19

Similar Documents

Publication Publication Date Title
WO2020211428A1 (zh) 一种园区安全监管系统及方法
US8792867B1 (en) System and method for responding to service requests and facilitating communication between relevant parties
US10297129B2 (en) Fire/security service system with augmented reality
US8989700B2 (en) Method and system for an interactive community alert network
US11216783B2 (en) Collaborative work environment for computer-aided dispatch
US9934663B2 (en) Apparatus and method for improved live monitoring and alarm handling in video surveillance systems
US20150201167A1 (en) Fabrication equipment monitoring device and monitoring method
EP2818948A1 (en) Method and data presenting device for assisting a remote user to provide instructions
KR20110130033A (ko) 행동패턴 데이터베이스를 이용한 능동형 영상감시 시스템 및 그 방법
US10223886B2 (en) Monitoring installation for a monitoring area, method and computer program
JP2017138652A (ja) 報告書作成システム
US20230410519A1 (en) Suspicious person alarm notification system and suspicious person alarm notification method
CA2966139C (en) Alarm verification system and method thereof
JP7115812B1 (ja) プログラム、方法、情報処理装置、システム
US20210173529A1 (en) Incident card system
JP6226859B2 (ja) 作業監視システム
US20210334926A1 (en) System and a method for creating and transmitting an occupant safety test for occupants in an organization
JP6534171B2 (ja) 呼出支援システム
JP2007010879A (ja) 警報表示器監視システム
US11880795B1 (en) System and method of managing workflow for observed events
GB2592035A (en) Object location status monitoring apparatus and method
US9607502B1 (en) Real-time incident control and site management
JP6652606B1 (ja) アラーム検証方法
JP2007174473A (ja) 映像監視支援システム
US20240064273A1 (en) System gateway analysis

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210628

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220722

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220726

R150 Certificate of patent or registration of utility model

Ref document number: 7115812

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150