JP2018013958A - オペレータ監視装置 - Google Patents

オペレータ監視装置 Download PDF

Info

Publication number
JP2018013958A
JP2018013958A JP2016143100A JP2016143100A JP2018013958A JP 2018013958 A JP2018013958 A JP 2018013958A JP 2016143100 A JP2016143100 A JP 2016143100A JP 2016143100 A JP2016143100 A JP 2016143100A JP 2018013958 A JP2018013958 A JP 2018013958A
Authority
JP
Japan
Prior art keywords
operator
time
data
history
sight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016143100A
Other languages
English (en)
Other versions
JP6628283B2 (ja
Inventor
拓也 森
Takuya Mori
拓也 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Mitsubishi Electric Industrial Systems Corp
Original Assignee
Toshiba Mitsubishi Electric Industrial Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Mitsubishi Electric Industrial Systems Corp filed Critical Toshiba Mitsubishi Electric Industrial Systems Corp
Priority to JP2016143100A priority Critical patent/JP6628283B2/ja
Publication of JP2018013958A publication Critical patent/JP2018013958A/ja
Application granted granted Critical
Publication of JP6628283B2 publication Critical patent/JP6628283B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing And Monitoring For Control Systems (AREA)

Abstract

【課題】オペレータの行動に関するデータによって、オペレータの行動が適切であったか否かを分析するオペレータ監視装置を提供する。【解決手段】オペレータ監視装置は、仮想的な座標を含む操作盤上の第1座標に配置された第1操作用品の操作の有無を表す操作履歴をオペレータによって操作された時間である第1操作時間に関連付けて取得する操作履歴取得手段と、前記オペレータの前記操作盤上の視線の座標を検出し視線を検出した時間である検出時間に関連付けて前記視線の座標のデータを出力する視線検出器と、前記第1座標、前記第1操作時間、ならびに前記視線の座標および前記検出時間の組を複数含む視線履歴データを管理する管理手段と、前記視線履歴データが前記第1操作時間に等しい前記検出時間を含むか否かによって前記オペレータの行動の適否に関するデータを生成するオペレータ行動分析手段と、を備える。【選択図】図2

Description

本発明の実施形態は、プラント等において操作盤を操作するオペレータの行動を監視して、行動に関する適切なフィードバックを行うためのデータを提供するオペレータ監視装置に関する。
製紙産業や製鉄ライン、非鉄金属の精錬等の現場では、プラントの制御室等に設けられた操作盤等を用いて、オペレータが押しボタン等の操作を行い、ワインダや抄紙機、ミル等の制御対象機器の制御を行う。
制御室には、オペレータの行動を監視する目的の装置はなく、プロセスコントローラが収集した操作用品の入力信号が操作履歴として記録され、操業時に生じた不具合等の原因の対策に利用される。
プロセスコントローラによって収集されたデータには、操作用品の操作履歴が記録されているに過ぎず、オペレータの行動やオペレータの判断の適否については分からない場合が多い。そのため、プラントで機器の動作不良等が生じた場合において、動作不良と操作ミスとの因果関係が不明であり、対策が困難なことが多い。
たとえば、経験豊富なオペレータが操作する場合には、操作盤上の操作用品の配置を記憶しており、手元を見ずに操作することがある。このような「よそ見操作」を行った場合には、本来操作すべき操作用品の隣の操作用品を操作してしまうことがあり、押し間違えによる真逆の操作指令を出すことがある。このような操作ミスを検出してプラントの不具合対策に役立てることができれば、生産効率を向上させることに貢献することができる。
特開2015−130105号公報
実施形態は、記録されたオペレータの行動に関するデータによって、オペレータの行動が適切であったか否かを分析するオペレータ監視装置を提供する。
実施形態に係るオペレータ監視装置は、仮想的な座標を含む操作盤上の第1座標に配置された第1操作用品の操作の有無を表す操作履歴を、オペレータによって操作された時間である第1操作時間に関連付けて取得する操作履歴取得手段と、前記オペレータの前記操作盤上の視線の座標を検出し、視線を検出した時間である検出時間に関連付けて前記視線の座標のデータを出力する視線検出器と、前記第1座標、前記第1操作時間、ならびに前記視線の座標および前記検出時間の組を複数含む視線履歴データを管理する管理手段と、前記視線履歴データが前記第1操作時間に等しい前記検出時間を含むか否かによって前記オペレータの行動の適否に関するデータを生成するオペレータ行動分析手段と、を備える。
本実施形態では、操作履歴取得手段および視線検出器によって取得される、操作履歴データおよび視線履歴データに一致するデータがあるかないかにもとづいて、オペレータの行動の適否を判定する行動判定手段を備えているので、オペレータの行動が適切であった否かを客観的に分析するためのデータが提供される。
図1(a)および図1(b)は、第1の実施形態に係るオペレータ監視装置の一部を模式的に表す正面図および平面図である。 第1の実施形態に係るオペレータ監視装置を例示するブロック図である。 第1の実施形態のオペレータ監視装置の動作を説明するための各部の履歴データの例を表す図である。 第2の実施形態に係るオペレータ監視装置の一部を模式的に表す平面図である。 第2の実施形態に係るオペレータ監視装置を例示するブロック図である。 第2の実施形態のオペレータ監視装置の動作を説明するための各部の履歴データの例を表す図である。 第2の実施形態のオペレータ監視装置の動作を説明するための各部の履歴データの例を表す図である。 第2の実施形態のオペレータ監視装置の動作を説明するための各部の履歴データの例を表す図である。
以下、図面を参照しつつ、本発明の実施形態について説明する。
なお、図面は模式的または概念的なものであり、各部分の厚みと幅との関係、部分間の大きさの比率などは、必ずしも現実のものと同一とは限らない。また、同じ部分を表す場合であっても、図面により互いの寸法や比率が異なって表される場合もある。
なお、本願明細書と各図において、既出の図に関して前述したものと同様の要素には、同一の符号を付して詳細な説明を適宜省略する。
(第1の実施形態)
図1は、図1(a)および図1(b)は、本実施形態に係るオペレータ監視装置の一部を模式的に表す正面図および平面図である。
図2は、本実施形態に係るオペレータ監視装置を例示するブロック図である。
図1(a)に示すように、本実施形態のオペレータ監視装置では、操作盤1上に表示器30や操作用品群50が配置されている。表示器30内には、プラント内の各種検出値等の表示データ等のほか、タッチパネルセンサ等によって操作用品群35も設けられている。操作用品群50は、複数の操作用品51,52,…を含んでいる。表示器30の各種表示データ、タッチパネルセンサ等による表示器30内の操作用品群35、および操作盤1上に直接配置された複数の操作用品51,52,…は、それぞれの位置が特定できるように、仮想的な座標(以下、単に座標とも呼ぶ。)が割り当てられている。
また、オペレータ監視装置の操作盤1の付近には、視線検出器10や監視カメラ20が設けられている。図1(b)に示すように、視線検出器10および監視カメラ20は、オペレータOPに向けて設置されている。
後に詳述するように、視線検出器10および監視カメラ20によって取得されたデータは、操作用品群50等の座標と関連付けられる。そのため、オペレータ監視装置では、オペレータOPがどの表示データや操作用品を見ているかや、オペレータOPが実際にどの操作用品を操作したかを特定することができる。
図2に示すように、本実施形態のオペレータ監視装置100は、視線検出器10と、監視カメラ20と、表示器30と、プロセスコントローラ40と、操作用品群35,50と、データベース管理部60と、オペレータ行動分析部70と、同期再生部80と、を備える。視線検出器10、監視カメラ20、表示器30、プロセスコントローラ40およびデータベース管理部60は、通信ネットワークに接続されている。通信ネットワークは、たとえば産業用イーサネット(登録商標)等の汎用ネットワークである。通信ネットワークは、これに限らず、他の通信プロトロコルにしたがうものであってもよく、無線、有線を問わない。また、通信ネットワークは、単一のネットワークに限られず、複数の通信ネットワークを含んでいてもかまわない。
視線検出器10は、オペレータOPの操作盤1上の視線の位置を検出する。視線検出器10は、オペレータOPの視線を検出するために、オペレータOPに向かって配置される。視線検出器10は、オペレータOPの操作盤1上の視線の位置の座標を、その座標を検出した時間に関連付けて出力する。以下では、検出した時間およびその検出時間に関連付けられた視線の位置の座標データの組を視線履歴または視線履歴データと呼ぶ。
監視カメラ20は、操作盤1に向かって操作を行っているオペレータOPの画像を記録する。記録される画像は、動画であってもよく、静止画であってもよいが、画像を取得した時間に関連付けられて、監視カメラ20からデータとして出力される。監視カメラ20から出力されるデータをオペレータ画像またはオペレータ画像データと呼ぶ。監視カメラ20に代えて、赤外線センサ等を用いることによって、オペレータOPの在席、離席の状態を検出するようにしてもよい。
表示器30は、プラントで用いられている各種センサ等から供給される出力値やプログラマブルロジックコントローラ(以下、PLCともいう。)によって計算された処理時間等を表示する。また、表示器30は、タッチパネルセンサ等からなる操作用品群35を含んでおり、操作用品群35による操作信号をPLCに送信することもできる。
表示器30に表示されるすべての表示データは、操作盤1上に設定された座標によってそれぞれの位置が特定される。また、表示器30内の操作用品群35のそれぞれは、操作盤1上に設定された座標によって位置が特定される。
表示器30は、定期的に、あるいは不定期に、表示内容をスクリーンキャプチャ画像として取得し、データとして出力することができる。
プロセスコントローラ40は、操作用品群50の操作用品51,52,…それぞれに接続されている。プロセスコントローラ40は、表示器30内の各操作用品群35のそれぞれにも接続されている。プロセスコントローラ40は、たとえばPLCからなる。プロセスコントローラ40は、PLCのCPUユニットおよびメモリユニットによって設定される手順で、PLCの入出力ユニットを介してプラント内の各種センサを含む入出力機器との間で電気信号を送受信する。
プロセスコントローラ40は、操作用品51,52,…ごとに送出された入力信号によって、操作の履歴データを生成する。プロセスコントローラ40は、操作用品51,52,…ごとの操作履歴のデータを、その操作された操作時間に関連付けて生成して出力する。以下では、操作時間および操作時間に関連付けられた操作履歴のデータの組を操作履歴または操作履歴データと呼ぶ。
操作用品群50は、複数の操作用品51,52,…を含む。上述したように、表示器30がタッチパネルセンサ等を含む場合には、表示器30内の操作用品群35もそれぞれが操作用品として扱われる。以下では、表示器30内の操作用品群35も、操作用品群50に含まれるものとして説明する。
操作用品群50のそれぞれの操作用品51,52,…は、操作盤1上に仮想的に設けられた座標が割り当てられている。たとえば、操作用品51の座標は、P1が割り当てられている。座標P1は、XY座標では、たとえば(X1,Y1)のように表される、操作用品52の座標は、P2が割り当てられている。座標P2は、XY座標では、たとえば(X2,Y2)のように表される。
表示器30の操作用品群35にも同様に座標が割り当てられている。また、表示器30の各表示データが表示される位置にもそれぞれ座標が割り当てられている。
つまり、操作盤1上に設けられているすべての操作用品や表示データには、座標が割り当てられており、割り当てられた座標によって、操作用品や表示データを特定することができる。仮想的に設定する座標系は、上述のような直交するX軸およびY軸からなる二次元座標に限らず、任意に設定することができる。たとえば各操作用品等を極座標によって位置を特定するようにしてももちろんよい。
データベース管理部60は、記憶部61と、演算部62と、を含む。データベース管理部60は、記憶部61に、視線検出器10、監視カメラ20、表示器30およびプロセスコントローラ40からのデータを蓄積し、データベースとして管理する。記憶部61は、たとえば磁気ディスク等を用いた外部記憶装置等である。記憶部61に格納されたデータベースは、演算部62によって適時に読み出されて、適切に処理されて、データを出力する。
データベース管理部60は、たとえばデータサーバ等である。データサーバは、通信ネットワークに接続され、視線検出器10、監視カメラ20、表示器30およびプロセスコントローラ40との間の通信によってデータを受信する。
データベース管理部60の演算部62は、データベースから操作用品座標64、操作履歴65、視線履歴66、オペレータ画像67およびスクリーンキャプチャ画像68の各データを抽出する。データベースから抽出された操作用品座標64、操作履歴65および視線履歴66の各データは、オペレータ行動分析部70に供給される。
オペレータ行動分析部70は、データベース管理部60から供給される操作用品座標64、操作履歴65および視線履歴66の各データにもとづいて、オペレータOPの行動が適切であるか否かを分析するためのデータを生成する。オペレータ行動分析部70は、操作用品座標64および操作履歴65の各データを用いて、操作履歴座標のデータを生成する。操作履歴座標のデータは、特定の操作用品の操作履歴65のデータを操作用品座標64のデータに関連付けすることによって生成される。操作履歴座標のデータは、特定の操作用品の操作盤1上の座標およびその操作の履歴の組を含む。たとえば、操作の履歴は、操作用品51を操作した場合に、論理値“1”のフラグを割り当てることによって表される。
オペレータOPの行動が適切であるか否かを分析するためのデータは、オペレータOPが操作用品群50から操作用品を選択して、その際に操作された操作用品を注目していたか否かを判定するデータである。たとえば、プラントにおいて、不具合発生時点において、オペレータOPが操作用品を注目していなかった、つまり、よそ見をしていた場合には、不具合発生要因の1つとしてよそ見の可能性を上げることができる。プラントにおける不具合発生時点において、よそ見をしていなかったと判定される場合には、不具合の要因をほかに求めることができる。
データベース管理部60の演算部62は、データベースから操作履歴65、視線履歴66、オペレータ画像67およびスクリーンキャプチャ画像68の各データを抽出する。抽出された各データは、同期再生部80に供給される。
同期再生部80は、データベース管理部60から供給される操作履歴65、視線履歴66、オペレータ画像67およびスクリーンキャプチャ画像68の各データにもとづいて、オペレータOPの行動記録の動画再生を行う。たとえば、プラントにおいて、不具合発生時刻を指定することによって、その際のオペレータOPの行動や、在席状況を確認することができる。オペレータ行動分析部70によって検出されたオペレータOPのよそ見の時間に同期して、その前後の時間も含めて、動画を再生するようにしてもよい。
本実施形態のオペレータ監視装置100の動作について説明する。
まず、オペレータ行動分析部70の動作について説明する。
図3は、本実施形態のオペレータ監視装置100の動作を説明するための各部の履歴データの例を表す図である。
図3の上側の2段の図は、オペレータOPの視線の操作盤1上の座標の履歴である視線履歴のデータを示している。最上段の図では、視線の座標がP1であることを示し、2段目の図では、視線の座標がP2であることを示している。視線の座標P1は、たとえば操作用品51の座標である。視線の座標P2は、たとえば操作用品52の座標である。
実線の視線履歴のデータでは、オペレータOPが時刻t01〜t08において、ずっと操作用品51を見ていることを表している。また、一点鎖線の視線履歴のデータでは、オペレータOPは、時刻t01〜t02において、操作用品52を見ており、その後、時刻t03〜t05において、視線を操作用品51に移していることを表している。さらに、時刻t06〜t08では、オペレータOPの視線は、操作用品52に移動していることを表している。
図3の下側の2段の図は、オペレータOPが実際に操作用品を操作した履歴である操作履歴座標のデータを表している。この例では、オペレータOPは、時刻t04において、座標P1にある操作用品51を操作していることを表しており、その後、時刻t06において、オペレータOPは、再度操作用品51を操作していることを表している。さらに、時刻t08において、オペレータOPは、座標P2にある操作用品52を操作していることを表している。以下の説明では、簡単のため、オペレータOPの視線や操作履歴の座標は、2つの座標P1,P2の間を動くものとするが、3つ以上の座標に容易に適用することができる。
本実施形態のオペレータ監視装置100では、操作用品座標64のデータ、オペレータOPの視線履歴66のデータ、およびプロセスコントローラ40によって収集された操作用品の操作履歴65のデータにもとづいて、オペレータOPの行動の分析を行う。オペレータOPの行動の分析データの生成は、オペレータ行動分析部70によって実行される。
オペレータ行動分析部70では、データベース管理部60のデータベースから、操作用品座標64および操作履歴65の各データを読み出して、操作履歴座標のデータを生成する。操作履歴65には、操作用品ごとに操作有無等のデータがその時刻とともに記録されている。たとえば、操作履歴座標のデータは、操作履歴65中の各操作用品の操作有無等の履歴を、操作用品の操作用品座標64のデータにマージすることによって生成される。したがって、操作履歴座標のデータでは、操作用品ごとの操作有無等の履歴に座標データが関連付けられている。
オペレータ行動分析部70は、操作履歴座標のデータと、視線履歴66のデータとを照合する。ある時刻において、操作履歴座標のデータと、視線履歴66のデータとが一致する場合には、オペレータ行動分析部70は、オペレータOPが実際に操作した操作用品を見ていたと判定する。この場合には、オペレータOPは、よそ見をしていなかったと判定される。
ある操作用品に関して、視線履歴の時刻のデータの中に操作履歴座標の時刻のデータを含まない場合には、オペレータ行動分析部70は、オペレータOPが操作した操作用品を見ずに操作をしたと判定する。この場合には、オペレータOPは、よそ見をしていたと判定される。
図3の例で説明すると、実線の視線履歴のデータの場合には、オペレータOPは、座標P1にある操作用品51をずっと見ていたと考えられる。そして、時刻t04において、操作用品51を実際に操作しているので、オペレータOPは、時刻t04において、操作用品51を見ながら操作用品51を実際に操作したと考えられる。
図3の一点鎖線の視線履歴データの場合には、オペレータOPは、時刻t03〜t05では、操作用品51を見ている。そして、時刻t04において、実際に操作用品51を操作しているので、オペレータOPは、実線の視線履歴データの場合と同様に、時刻t04において、操作用品51を見ながら操作用品を操作したと判定される。
つまり、座標P1に関して、視線履歴のデータが時刻t04を含んでおり、時刻t04では操作履歴座標のデータがある場合には、オペレータ行動分析部70は、オペレータOPがよそ見をせずに適切な操作を行っていたと判定する。
時刻t06において、オペレータOPは、再度操作用品51を操作している。このとき、実線の視線履歴のデータの場合には、ずっと操作用品51を見ている。つまり、座標P1に関して、視線履歴のデータが時刻t06を含んでおり、時刻t06では操作履歴座標のデータがある。そのため、オペレータ行動分析部70は、時刻t06における操作についてはオペレータOPの行動がよそ見をせずに適切な行動であったと判定する。
一点鎖線の視線履歴のデータの場合には、時刻t06では、視線履歴のデータの座標はP2となっており、オペレータOPは、座標P1にある操作用品51から目を離して、別の操作用品52を見ていると考えられる。そのため、座標P1に関しては、視線履歴および操作履歴座標のいずれのデータにも、時刻t06が含まれていない。
この場合のように、視線履歴のデータと操作履歴座標のデータとが一致する時刻が存在した後、同一の操作履歴座標のデータが続けて記録されているときには、オペレータOPは、よそ見をしていないと判定するようにしてもよい。
たとえば、視線履歴の座標のデータと操作履歴座標のデータとが一致する時刻が存在した後、同一座標を有する操作履歴座標のデータが続けて記録されている場合において、続けて記録されている時刻が所定の期間以内によそ見でないと判定し、所定期間を過ぎたときには、よそ見であると判定するようにしてもよい。
時刻t08においては、座標P2にある操作用品52の操作履歴が記録されている。実線の視線履歴のデータでは、視線履歴のデータは、操作された操作用品52の座標P2とは異なる座標P1となっている。また、操作用品52の操作の前には、他の操作用品51の操作履歴が残っているので、オペレータOPは、時刻t08の操作においては、よそ見をしたと判定される。
一方、一点鎖線の視線履歴のデータでは、時刻t08において、操作履歴座標のデータと一致するので、オペレータOPは、適切な行動をしたと判定される。
次に、同期再生部80の動作について説明する。
同期再生部80は、監視カメラ20によって取得されたオペレータOPの様子を表す動画のデータをオペレータ画像67のデータとしてデータベースに格納する。監視カメラ20によって取得されたオペレータOPの様子を表す画像のデータは、動画あるいは静止画、いずれの場合についても、その画像の取得時間と関連付けられて格納されている。
表示器30のスクリーンキャプチャ画像68もその取得時間に関連付けられてデータベースに格納されている。
視線履歴および操作履歴も上述したとおり、データの取得時間に関連付けられている。
同期再生部80は、これらのデータについて、データの取得時間に関して同期をとって画像データとして出力する。たとえば、操作盤1上の操作状態を、操作盤1を模した画面に操作履歴座標のデータをスーパーインポーズして2画面分割された一方にアニメーションとして表示し、他方の画面にオペレータOPの様子を動画として表示することができる。
プラントにおいて、不具合報告された時刻を入力することによって、その時刻の前後の時間について、上述の2画面動画を再生することができる。このような動画やアニメーションを再生することによって、プラントにおける不具合の内容とオペレータOPの行動との関連性を検証するのに役立てることができる。
本実施形態のオペレータ監視装置100の作用および効果について説明する。
本実施形態のオペレータ監視装置100では、オペレータ行動分析部70を備えている。オペレータ行動分析部70は、データベース管理部60によって収集され、データベース化されたオペレータOPの視線履歴のデータおよび操作用品の操作履歴座標のデータにもとづいて、特定の時間におけるオペレータOPの行動が適切であったか否かを、よそ見をしたか否かによって判定することができる。オペレータ監視装置100は、特定の時刻において、視線履歴のデータと操作履歴座標のデータとが一致するか否かによって、よそ見をしたか否かを判定するので、行動の妥当性について客観的な指標を提供することができる。
たとえば、オペレータの習熟度をオペレータとしての作業時間数等によって表すこととする。そして、オペレータの習熟度ごとに、別途取得されたプラントにおける不具合発生時刻の履歴のデータと、よそ見をしたと判定された時刻のデータとの相関をとる。これによって、オペレータ監視装置100は、事故と習熟度との相関性を客観的データとして出力するようにすることもできる。
さらに、プラントにおける不具合の発生時点とよそ見との関連性を分析しつつ、同期再生部によってオペレータOPの実際の行動を再生することができるので、より具体的にプラントにおける不具合とオペレータの行動の関連性を把握することができる。
(第2の実施形態)
上述した実施形態の場合では、特定の時刻において、視線履歴のデータと操作履歴座標のデータとが一致するか否かによって、オペレータOPがよそ見をしたか否かを判定し、オペレータの行動の適否の判断のデータとした。ところで、操作盤1上で操作用品を操作する場合に、その操作用品を見ながら実際の操作を行う場合に限らず、操作対象の操作用品を目視確認して、手や指をその操作用品に添えつつ、その後その操作用品から目を離して操作することがある。たとえば表示器30の表示データを確認しながら、表示データが所望の値になったときに、手を添えた操作用品を操作する場合である。このようなオペレータOPの行動は、必ずしも不適切であるとはいえず、オペレータ監視装置では、このような場合にオペレータOPの行動を適切に判定できる必要がある。
図4および図5に示すように、本実施形態のオペレータ監視装置200は、データベース管理部160と、オペレータ行動分析部170と、を備え、操作位置取得カメラ90をさらに備える。他の構成要素は、第1の実施形態の場合と同じであり、同一の構成要素には、同一の符号を付して詳細な説明を省略する。
操作位置取得カメラ90は、操作盤1上に配置された操作用品群50や、表示器30の表示内容を撮影する。操作盤1上の画像を取得するために、操作位置取得カメラ90は、たとえばオペレータOPの側から操作盤1上に向くように配置されている。
操作位置取得カメラ90は、操作盤1上で、操作しているオペレータOPの手や指および操作している操作用品等の画像を取得する。取得された画像データは、通信ネットワークを介してデータベース管理部160に送信される。
データベース管理部160は、取得された操作盤1上の画像データを取得時間に関連付けて格納する。また、データベース管理部160の演算部162では、取得された画像データに対して画像処理を行う。画像データ内のオペレータの手や指の位置および操作用品等の位置が重なった場合に、その座標を特定できるように、画像処理されたデータは、操作用品座標に対して関連付けされる。関連付けが行われたデータは、操作位置履歴69のデータとして扱われる。操作位置履歴69のデータは、視線履歴66のデータ、操作履歴65のデータおよび操作用品座標64のデータとともにオペレータ行動分析部170に供給される。
オペレータ行動分析部170では、視線履歴66、操作履歴座標および操作位置履歴69の各データにもとづいて、オペレータOPの行動の分析のためのデータを生成する。オペレータ行動分析部170が生成するデータは、具体的には、オペレータOPがよそ見をしたか否かの判定データを含む。
本実施形態のオペレータ監視装置200の動作について説明する。
図6〜図8は、本実施形態のオペレータ監視装置の動作を説明するための各部の履歴データの例を表す図である。
図6〜図8では、第1の実施形態の場合で説明した視線履歴のデータおよび操作履歴座標のデータに加え、操作位置取得カメラ90によって取得され、画像処理されて生成された操作位置履歴のデータが追加されている。操作位置履歴のデータは、図6〜図8の上から3段目および4段目にそれぞれ示されている。
図6の場合には、時刻t14において、視線履歴のデータは、操作履歴のデータと一致する。そのため、図3の場合と同様に、操作位置履歴のデータの有無にかかわらず、オペレータOPによそ見はなく、適切な行動であると判定される。
時刻t14〜t16では、操作位置履歴のデータは、座標P1にとどまっている。時刻t16において、操作位置履歴のデータは、操作履歴座標のデータと一致している。つまり、この場合には、視線が座標P1にとどまっているか否かにかかわらず、オペレータOPは自身の手で操作用品51の位置を確認しながら、操作用品51を操作している。したがって、オペレータOPは、よそ見をしておらず、このときのオペレータOPの行動は、適切であったと判定される。
時刻t17において、操作位置履歴が座標P1から座標P2に移動している。その後、時刻t18において、座標P2にある操作用品52の操作履歴が記録されている。この場合には、視線履歴と操作位置履歴との関係によって、オペレータOPがよそ見をしたか否かの判定が異なる。
実線の視線履歴は、時刻t16において、座標P1から座標P2に移動している。そして、その後時刻t17において、操作位置履歴は、座標P1から座標P2に移動している。つまり、オペレータOPは、目視で座標P2にある操作用品52を確認しながら、手を操作用品52に添えている。その後、手を添えた操作用品52を実際に操作していると考えられる。したがって、この場合には、オペレータOPは、よそ見をしておらず、適切な行動をしていたと判定される。
一方、一点鎖線の視線履歴は、時刻t16以降も座標P1のままである。つまり、オペレータOPは、座標P1にある操作用品51を見ているので、座標P2にある操作用品52を目視で確認することなく、座標P2にある操作用品52に手を移動し、操作用品52を操作していると考えられる。したがって、この場合には、オペレータOPは、よそ見をしている可能性が高く、適切な行動ではなかったと判定される。
次に図7を用いて、同一時刻における視線履歴のデータと操作履歴座標のデータとの一致がない場合であっても、よそ見でないと判定される条件について説明する。
時刻t22において、視線履歴のデータは、座標P1にあり、操作位置履歴のデータは、座標P1にある。一方で、操作履歴座標のデータは、時刻t22には記録されていない。
そして、時刻t25において、操作履歴座標のデータが記録されている。操作位置履歴データは、時刻t22〜t25まで、座標P1に記録されている。
つまり、この状態では、オペレータOPは、最初目視により座標P1にある操作用品51の場所を確認し、手を操作用品51に添えていると考えられる。
その後、時刻t23〜t25では、オペレータOPは、操作用品51に手を添え続けている。オペレータOPが操作用品51に手を添えている限りは、実線の視線履歴や一点鎖線の視線履歴のように、操作用品51以外の場所を見ていてもよい。オペレータOPは、何らかのタイミングに応じて操作用品51を操作した場合には、適切な操作を行ったと判定される。
時刻t27では、座標P2にある操作用品52の操作履歴が記録されている。その直前の時刻t26において、視線履歴のデータと操作位置履歴のデータとが一致している。この場合も時刻t25の場合と同様に、オペレータOPは、操作用品52の位置を目で確認して手を添えており、その後時刻t27において実際に操作用品52を操作している。したがって、オペレータOPは適切な行動をしたと判定される。
一方、時刻t28においては、座標P1にある操作用品51の操作履歴が記録されているが、オペレータOPは、操作用品52の操作後に操作用品51を一切見ておらず、手のみを操作用品51を移動させている。この場合には、よそ見の可能性があり、オペレータOPの行動は、適切でなかったと判定される。
図8を用いて、同一時刻において、視線履歴のデータと操作位置履歴のデータとが一致している場合であっても、オペレータOPはよそ見をしていた可能性がある場合について説明する。
図8の時刻t35においては、視線履歴のデータと操作履歴座標のデータとが一致している。つまり、オペレータOPは、座標P1にある操作用品51を見て、操作用品51を実際に操作しているものと考えられる。
しかし、時刻t35の直前の時刻t34以前では、視線履歴のデータは、操作位置履歴のデータと一致していない。つまり、オペレータOPは、時刻t34まで、座標P2にある操作用品52を見ているが、オペレータOPの手の位置は、座標P1にある操作用品51を見ずに、操作用品51に移動させていると考えられる。この場合には、オペレータOPは、よそ見をしている可能性があり、適切でない行動であったと判定される。
本実施形態のオペレータ監視装置200では、同一時刻において、視線履歴のデータと操作位置履歴のデータとが一致する場合には、よそ見でないと判定する。
同一時刻において、視線履歴のデータと操作位置履歴のデータとが一致しない場合であっても、その時刻以前に視線履歴のデータと操作位置履歴のデータに一致する時刻があり、操作履歴データが記録されている時刻まで、操作位置履歴のデータが一定であるときには、よそ見でないと判定する。
さらに、同一時刻において、視線履歴のデータと操作位置履歴のデータとが一致する場合であっても、操作位置履歴のデータが記録されている時刻以前に、操作位置履歴のデータの変動後に視線履歴のデータが変動しているときには、よそ見があったと判定される。
本実施形態のオペレータ監視装置200の作用および効果について説明する。
本実施形態のオペレータ監視装置200は、オペレータOPが操作している操作盤1上の画像を取得する操作位置取得カメラ90を備えている。そして、オペレータ監視装置200は、操作位置取得カメラ90によって取得された画像データを画像処理して、オペレータOPが操作し、あるいは操作しようとしている操作用品の座標の履歴を生成するデータベース管理部160を備えている。そのため、オペレータOPの視線と、オペレータOPの操作盤1上の手の位置と、実際に操作された操作用品の操作履歴とを照合して、よりきめ細かくオペレータOPの行動が適切であったか否かを判定することができる。
上述のようにオペレータOPの行動を適切に分析することができるオペレータ行動分析部170を備えているので、プラントで生じた不具合等を的確に分析することができるようになる。
以上説明した実施形態によれば、記録されたオペレータの行動によって、オペレータの行動が適切か否かを分析するオペレータ監視装置を実現することができる。
以上、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他のさまざまな形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明およびその等価物の範囲に含まれる。また、前述の各実施形態は、相互に組み合わせて実施することができる。
1 操作盤、10 視線検出器、20 監視カメラ、30 表示器、35 操作用品群、40 プロセスコントローラ、50 操作用品群、51,52 操作用品、60 データベース管理部、61 記憶部、62 演算部、70 オペレータ行動分析部、80 同期再生部、90 操作位置取得カメラ、100 オペレータ監視装置、160 データベース管理部、170 オペレータ行動分析部、200 オペレータ監視装置

Claims (6)

  1. 仮想的な座標を含む操作盤上の第1座標に配置された第1操作用品の操作の有無を表す操作履歴を、オペレータによって操作された時間である第1操作時間に関連付けて取得する操作履歴取得手段と、
    前記オペレータの前記操作盤上の視線の座標を検出し、視線を検出した時間である検出時間に関連付けて前記視線の座標のデータを出力する視線検出器と、
    前記第1座標、前記第1操作時間、ならびに前記視線の座標および前記検出時間の組を複数含む視線履歴データを管理する管理手段と、
    前記視線履歴データが前記第1操作時間に等しい前記検出時間を含むか否かによって前記オペレータの行動の適否に関するデータを生成するオペレータ行動分析手段と、
    を備えたオペレータ監視装置。
  2. 前記操作履歴取得手段は、
    前記操作盤上に配置され第2座標が設定された第2操作用品の操作履歴を、前記オペレータによって操作された時間に関連付けて取得し、
    前記管理手段は、
    前記第1操作用品が操作された時間である第2操作時間および前記第2操作用品が操作された時間である第3操作時間を管理し、
    前記オペレータ行動分析手段は、
    前記第2操作時間が前記第1操作時間と前記第3操作時間との間である場合であって前記視線履歴データが前記第1操作時間に等しい前記検出時間を含むときに、
    前記視線履歴データが前記第2操作時間と等しい前記検出時間を含まないときには、前記オペレータの行動が適切であったと判定する旨のデータを生成する請求項1記載のオペレータ監視装置。
  3. 前記オペレータ行動分析手段は、前記視線履歴データが前記第3操作時間に等しい前記検出時間を含まないときに、前記オペレータの行動が適切でなかったと判定する旨のデータを生成する請求項2記載のオペレータ監視装置。
  4. 前記操作盤上で前記オペレータが操作する画像データである操作位置画像を、前記操作位置画像を取得した時間である取得時間に関連付けて取得する第1撮像手段をさらに備え、
    前記管理手段は、
    前記操作位置画像を画像処理して、前記仮想的な座標に関連付け、前記取得時間とともに、操作位置履歴データとして格納し、
    前記オペレータ行動分析手段は、前記第1座標に関連して前記視線履歴データが前記取得時間に等しい前記検出時間を含み、前記操作位置履歴データが前記取得時間の後に続けて前記第1操作時間を含むときには、前記オペレータの行動は適切であったと判定する旨のデータを生成する請求項1記載のオペレータ監視装置。
  5. 前記視線履歴データの前記検出時間が前記第1操作時間を含む場合において、前記第1操作時間よりも前に、前記視線履歴データの前記検出時間が前記取得時間と一致しないときには、前記オペレータの行動が適切でなかったと判定する旨のデータを生成する請求項4記載のオペレータ監視装置。
  6. 前記オペレータを撮影し、前記オペレータの画像を取得した時間およびその時間に関連付けられた前記オペレータの画像を取得する第2撮像手段をさらに備え、
    前記管理手段は、
    前記オペレータの画像取得時間および前記画像取得時間に関連付けられたオペレータ画像の組であるオペレータ画像データを管理し、
    前記第1操作履歴データ、前記視線履歴データおよび前記オペレータ画像データを時間によって同期して出力する動画生成手段をさらに備えた請求項1〜5のいずれか1つに記載のオペレータ監視装置。
JP2016143100A 2016-07-21 2016-07-21 オペレータ監視装置 Active JP6628283B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016143100A JP6628283B2 (ja) 2016-07-21 2016-07-21 オペレータ監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016143100A JP6628283B2 (ja) 2016-07-21 2016-07-21 オペレータ監視装置

Publications (2)

Publication Number Publication Date
JP2018013958A true JP2018013958A (ja) 2018-01-25
JP6628283B2 JP6628283B2 (ja) 2020-01-08

Family

ID=61020505

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016143100A Active JP6628283B2 (ja) 2016-07-21 2016-07-21 オペレータ監視装置

Country Status (1)

Country Link
JP (1) JP6628283B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020195960A1 (ja) * 2019-03-28 2020-10-01 日立造船株式会社 情報処理装置、情報処理方法、情報処理プログラム、およびゴミ焼却プラント
US11663900B2 (en) 2020-10-13 2023-05-30 Yokogawa Electric Corporation Apparatus, method and storage medium for detecting when a viewed equipment is different from an equipment to be inspected

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10333737A (ja) * 1997-05-30 1998-12-18 Mitsubishi Heavy Ind Ltd プラント監視制御機構
JP2008288870A (ja) * 2007-05-17 2008-11-27 Toshiba Corp 映像監視システムおよび映像監視方法
JP2009279193A (ja) * 2008-05-22 2009-12-03 Fujifilm Corp 医療機器管理システム
JP2015130105A (ja) * 2014-01-08 2015-07-16 三菱電機株式会社 オペレータ監視制御装置およびオペレータ監視制御方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10333737A (ja) * 1997-05-30 1998-12-18 Mitsubishi Heavy Ind Ltd プラント監視制御機構
JP2008288870A (ja) * 2007-05-17 2008-11-27 Toshiba Corp 映像監視システムおよび映像監視方法
JP2009279193A (ja) * 2008-05-22 2009-12-03 Fujifilm Corp 医療機器管理システム
JP2015130105A (ja) * 2014-01-08 2015-07-16 三菱電機株式会社 オペレータ監視制御装置およびオペレータ監視制御方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020195960A1 (ja) * 2019-03-28 2020-10-01 日立造船株式会社 情報処理装置、情報処理方法、情報処理プログラム、およびゴミ焼却プラント
JP2020166421A (ja) * 2019-03-28 2020-10-08 日立造船株式会社 情報処理装置、情報処理方法、情報処理プログラム、およびゴミ焼却プラント
CN113646719A (zh) * 2019-03-28 2021-11-12 日立造船株式会社 信息处理装置、信息处理方法、信息处理程序、和垃圾焚烧工厂
US11663900B2 (en) 2020-10-13 2023-05-30 Yokogawa Electric Corporation Apparatus, method and storage medium for detecting when a viewed equipment is different from an equipment to be inspected

Also Published As

Publication number Publication date
JP6628283B2 (ja) 2020-01-08

Similar Documents

Publication Publication Date Title
Dalle Mura et al. An integrated environment based on augmented reality and sensing device for manual assembly workstations
CN108701428B (zh) 同步焊接数据以供呈现的焊接培训系统
JP2014211763A5 (ja)
US10496179B2 (en) System and method for processing value documents
US20110008759A1 (en) Instructor support system
CN107209922A (zh) 图像处理设备、图像处理系统、和图像处理方法
JP2015125772A (ja) 点検支援システム
WO2010110000A1 (ja) プログラマブル表示器
JP6270488B2 (ja) オペレータ監視制御装置およびオペレータ監視制御方法
JP6628283B2 (ja) オペレータ監視装置
JP2019153920A5 (ja)
JP6034639B2 (ja) 機器情報表示装置、機器情報表示システム、及び機器情報表示方法
JP7011569B2 (ja) 熟練度判定システム
JP7456111B2 (ja) 生産可視化システム
CN105900029B (zh) 现场视频流在过程控制系统中的使用
CN110852296A (zh) 基于语义模型的消防运维阶段人员异常检测装置和方法
WO2015174115A1 (ja) データ管理装置及びデータ管理プログラム
Tancredi et al. Analysis and testing of an online solution to monitor and solve safety issues for industrial systems
JP6948294B2 (ja) 作業異常検知支援装置、作業異常検知支援方法、および作業異常検知支援プログラム
JP2021157310A (ja) 点検支援システム、点検支援装置及び点検支援方法
JP2010206985A (ja) 電力系統監視制御装置
EP4024149A1 (en) Production system
WO2023181805A1 (ja) 作業分析装置および作業分析方法
JP6283587B2 (ja) 確認装置及びプログラム
US20240135525A1 (en) Method and system of providing assistance during an operation performed on an equipment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190516

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190716

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191127

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191127

R150 Certificate of patent or registration of utility model

Ref document number: 6628283

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250