JP6270488B2 - オペレータ監視制御装置およびオペレータ監視制御方法 - Google Patents

オペレータ監視制御装置およびオペレータ監視制御方法 Download PDF

Info

Publication number
JP6270488B2
JP6270488B2 JP2014001667A JP2014001667A JP6270488B2 JP 6270488 B2 JP6270488 B2 JP 6270488B2 JP 2014001667 A JP2014001667 A JP 2014001667A JP 2014001667 A JP2014001667 A JP 2014001667A JP 6270488 B2 JP6270488 B2 JP 6270488B2
Authority
JP
Japan
Prior art keywords
operator
face
display
monitoring
history
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014001667A
Other languages
English (en)
Other versions
JP2015130105A (ja
Inventor
淳文 藤田
淳文 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2014001667A priority Critical patent/JP6270488B2/ja
Publication of JP2015130105A publication Critical patent/JP2015130105A/ja
Application granted granted Critical
Publication of JP6270488B2 publication Critical patent/JP6270488B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing And Monitoring For Control Systems (AREA)

Description

この発明はオペレータ監視制御装置およびオペレータ監視制御方法に関し、特に、オペレータの操作状況の評価を支援するオペレータ監視制御装置およびオペレータ監視制御方法に関する。
電力プラント等の監視制御システムでは、運転室において、運転員(オペレータ)が専用の運転操作用コンソールを使用して対象設備の監視や運転操作を実施する。この運転操作用コンソールは、最近のシステムでは、汎用のPC(パーソナルコンピュータ)やエンジニアリングワークステーションで構成される計算機と、当該計算機に接続された複数のディスプレイ装置とを含む。オペレータはマウスやキーボードを用いて運転操作を実施する。
このような監視制御システムではオペレータの技術が要求される。それ故、オペレータの操作状況の監視や評価を支援するために、オペレータの操作履歴が記録されることがある。この操作履歴は、インストラクタが当該オペレータを監視したり指導したりするために用いられるほか、監視制御対象設備に事故などの状態変化が発生した場合や、重要な操作を行なったときにオペレータの振る舞いに関するノウハウ蓄積や、システムの評価にも用いられ得る。
オペレータの操作状況の監視や評価を支援するシステムについては、国際公開第2009/090885号(以下、特許文献1)は、オペレータの行動を記録してインストラクタに提示する、インストラクタ支援システムを開示している。また、特開2000−222027号公報(以下、特許文献2)は、オペレータの視線を検出することで当該オペレータが表示装置を見ているか否かの推定結果を通知する装置を開示している。また、特開2008−181293号公報(以下、特許文献3)は、撮影画像中の顔画像を解析することでオペレータを特定し、操作の許否を判断する監制御システムを開示している。
上記のような支援システムに対しては、単にオペレータの操作履歴を蓄積・閲覧可能とするだけでなく、運転操作時にオペレータが注視している箇所や運転操作用コンソール上でのマウスカーソルのふらつきなどの細かな操作内容の正確な蓄積も求められる。特許文献1は、さらに、上記のような細かな情報を取得する技術として、オペレータの視線に合わせてアイカメラで撮影することでオペレータの視線映像を記録する技術を開示している。
国際公開第2009/090885号 特開2000−222027号公報 特開2008−181293号公報
しかしながら、上記のように細かな操作内容を正確に蓄積しようとすると、オペレータの視線に合わせてアイカメラの方向を制御するための大掛かりな制御回路が必要となるという問題がある。また、オペレータにアイカメラを装着することも考えられるが、オペレータに設備の装着による負担が生じるという問題がある。
また、オペレータが注目しているか否かに関わらず表示画像をすべて蓄積することで確実にオペレータの操作内容を蓄積することは可能となるが、その分、保存領域が大量に必要となるという問題がある。また、蓄積されたデータが多くなればなるほど、その中から特定の表示画像を検索することが難しくなり、有効に活用し切れなくなるという問題もある。
本発明はこのような問題に鑑みてなされたものであって、オペレータの操作状況を効率的に記録することで効果的にオペレータの操作状況の監視や評価を支援することのできるオペレータ監視制御装置およびオペレータ監視制御方法を提供することを目的としている。
上記目的を達成するために、本発明のある局面に従うと、オペレータ監視制御装置は、監視対象物を監視するためのオペレータからの操作入力を受け付けるための操作入力手段と、操作入力の履歴を操作履歴としてメモリに保存するための第1の保存手段と、撮影画像中から顔画像を検出するためのセンサからのセンサ信号の入力を受け付けるための信号入力手段と、センサ信号を解析して、予め規定された範囲にあるオペレータの顔の向きを検出するための検出手段と、複数のディスプレイそれぞれの存在する範囲について、予め規定された範囲からの位置関係で記憶しておくためにメモリに用意された記憶領域であるディスプレイ情報記憶手段と、センサ信号から得られたオペレータの顔の向きに基づいて、複数のディスプレイのうちのオペレータの顔の向きに存在するディスプレイを特定するための特定手段と、オペレータの顔の向きに存在するディスプレイにてオペレータの顔が向いている期間に出力された画面データを、オペレータの顔が向いている期間と関連付けて閲覧履歴としてメモリに記憶するための第2の保存手段と、オペレータについての操作履歴と閲覧履歴とを時間情報に基づいて関連付けて出力するための出力手段とを備える。
好ましくは、検出手段は、予め規定された範囲に複数の顔が検出された場合に、予め設定された条件を用いて複数の顔の中から1つの顔をオペレータの顔として抽出するための抽出手段を含む。
好ましくは、第2の保存手段は、オペレータの顔の向きに存在するディスプレイにて、オペレータの顔が向いている期間の前および/または後の所定期間に出力された画面データも閲覧履歴としてメモリに記憶する。
好ましくは、特定手段は、オペレータの顔の向きが複数のディスプレイのいずれの存在する範囲にも含まれない場合に、複数のディスプレイのうちのオペレータの顔の向きから所定範囲内にある複数のディスプレイをオペレータの顔の向きに存在するディスプレイとして特定する。
好ましくは、第2の保存手段は、監視対象物に特定のイベントが発生したことが検出されたタイミングに関連した期間、閲覧履歴をメモリに記憶する。
好ましくは、第2の保存手段は、検出手段が第1の範囲から検出した第1のオペレータの顔の向きに存在する第1のディスプレイにて第1のオペレータの顔が向いている期間に出力された画面データと、検出手段が第2の範囲から検出した第2のオペレータの顔の向きに存在する第2のディスプレイにて第2のオペレータの顔が向いている期間に出力された画面データとが一致する場合に、画面データを閲覧履歴としてメモリに記憶する。
好ましくは、操作入力手段は、第1のディスプレイにて第1のオペレータの顔が向いている期間に出力された画面データと、第2のディスプレイにて第2のオペレータの顔が向いている期間に出力された画面データとが一致しない場合には操作入力を受け付けない。
本発明の他の局面に従うと、オペレータ監視制御方法は、監視対象物を監視するためのオペレータからの操作入力を受け付けると、操作入力の履歴を操作履歴としてメモリに保存するステップと、撮影画像中から顔画像を検出するためのセンサから受け付けたセンサ信号を解析して、予め規定された範囲にあるオペレータの顔の向きを検出するステップと、複数のディスプレイそれぞれの存在する範囲を予め規定された範囲からの位置関係で規定したディスプレイ情報を参照して、センサ信号から得られたオペレータの顔の向きに基づいて、複数のディスプレイのうちのオペレータの顔の向きに存在するディスプレイを特定するステップと、オペレータの顔の向きに存在するディスプレイにてオペレータの顔が向いている期間に出力された画面データを、オペレータの顔が向いている期間と関連付けて閲覧履歴としてメモリに記憶するステップと、所定のタイミングで、オペレータについての操作履歴と閲覧履歴とを時間情報に基づいて関連付けて出力するステップとを備える。
この発明によると、オペレータの操作状況を効率的に記録することができる。これにより、本発明にかかるオペレータ監視制御装置およびオペレータ監視制御方法は、効果的にオペレータの操作状況の監視や評価を支援することができる。
第1の実施の形態にかかるオペレータ監視制御装置(以下、監視装置と略する)を用いた監視システムの具体例を示す図である。 監視装置の装置構成の具体例を示すブロック図である。 第1の実施の形態にかかる監視装置の動作概要を説明するための図である。 ディスプレイ情報の具体例を示す図である。 図3のステップS2での特定結果の一例を表わした図である。 各ディスプレイ装置での表示履歴の具体例を表わした図である。 オペレータの顔が向いているタイミングごとに特定された、注目ディスプレイ装置にて出力された画面の具体例を表わした図である。 監視装置からの操作内容の履歴の出力例を表わした図である。 第1の実施の形態にかかる監視装置の機能構成の具体例を示すブロック図である。 第1の実施の形態にかかる監視装置での動作の流れの具体例を表わしたフローチャートである。 第2の実施の形態にかかる監視システムの具体例を示す図である。 第2の実施の形態にかかる監視装置の動作概要を説明するための図である。 第2の実施の形態にかかる監視装置の機能構成の具体例を示すブロック図である。 第2の実施の形態にかかる監視装置での、閲覧履歴を保存する動作の流れの具体例を表わしたフローチャートである。 第2の実施の形態にかかる監視装置での、操作入力に応じた動作の流れの具体例を表わしたフローチャートである。
以下に、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品および構成要素には同一の符号を付してある。それらの名称および機能も同じである。したがって、これらの説明は繰り返さない。
[第1の実施の形態]
<装置構成>
図1は、第1の実施の形態にかかるオペレータ監視制御装置(以下、監視装置と略する)100を用いた監視システムの具体例を示す図である。当該監視システムは、運転操作用コンソールとも呼ばれる。
図1を参照して、監視システムは、複数のディスプレイ装置300A〜300D(これらを代表させてディスプレイ装置300と称する)と、各ディスプレイ装置300に電力プラントなどの監視対象施設の監視用の動画画面を表示する処理を行なうための表示装置200と、キーボード500Aやマウス500Bなどである入力装置500と、センサ700と、これら装置と電気的に接続された監視装置100とを含む。さらに、監視装置100は、外部メモリや他の装置と通信するための外部ネットワークにも接続され、外部メモリや他の装置との間で情報のやり取りが可能である。
運転操作用コンソールは、図示しない、電力プラント等の監視対象設備の情報を収集する機能を有するサーバから監視情報を受信したり、該サーバに対して監視対象設備に関する指令を送信したりする。運転操作用コンソールは図示したように複数のディスプレイ装置300A〜300Dを含み、該サーバから受信した監視情報に基づいた動画画面をそれぞれのディスプレイ装置300A〜300Dに表示させる。
センサ700はたとえばカメラが該当し、予め規定した範囲の画像をセンシングしてその結果をセンサ信号として監視装置100に入力する。監視装置100は、センサ700からのセンサ信号である撮影画像を解析することで人を検出し、さらに、人の顔の向きを特定することができる。なお、センサ700として、たとえばマイクロソフト社の「Kinect(登録商標)」を用いることでセンサ700側で人体認識を行なわせ、監視装置100はセンサ700からセンサ信号としてオペレータの顔の向きを示す情報の入力を受け付けてもよい。
図1に示された運転操作用コンソールの構成は一例であって、監視装置100は表示装置200に組み込まれていてもよい。また、入力装置500は表示装置200に接続されて、監視装置100は入力装置500からの入力信号を表示装置200を経由して受け取ってもよい。
図2は、監視装置100の装置構成の具体例を示すブロック図である。監視装置100は、一般的なPC(パーソナルコンピュータ)で構成されてよい。そのため、図2は、一般的なPCの装置構成を表わしている。すなわち、図2を参照して、監視装置100は、装置全体を制御するためのCPU(Central Processing Unit)10と、CPU10で実行されるプログラムを記憶するためのメモリであるROM(Read Only Memory)11と、PCU10でプログラムを実行する際の計算値を記憶したり作業領域となったりするメモリであるRAM(Random Access Memory)12と、各種情報を記憶するための大型の記憶装置の一例としてのHDD(Hard Disk Drive)13と、表示装置200と接続するためのインタフェース(I/F)である表示装置I/F14と、入力装置500と接続するためのI/Fである入力装置I/F15と、センサ700と接続するためのI/FであるセンサI/F16と、外部メモリや外部ネットワークとの間の情報のやり取りを制御するためのネットワークコントローラ17とを含む。
<動作概要>
図3は、第1の実施の形態にかかる監視装置100の動作概要を説明するための図である。第1の実施の形態にかかる監視装置100は、運転操作用コンソールの前に着席して運転業務を行なっている運転員(オペレータ)の操作状況の監視や評価を支援する。
詳しくは、図3を参照して、監視装置100は入力装置500にてオペレータからの操作入力を受け付けると、操作入力の履歴を操作履歴としてメモリに保存する(ステップS1)。
センサ700は、たとえば運転操作用コンソールの前に着席したときの範囲などである、予め規定された範囲にて運転業務を行なっているオペレータの顔を検出し、センサ信号として監視装置100に入力する。監視装置100は、センサ700からのセンサ信号を解析してオペレータの顔の向きを検出する。このようにセンサ700を用いることで、特殊な装置を用いたり、オペレータに装着の負担を強いる装置を用いたりすることなく、容易にオペレータの顔の向きを検出することができる。
監視装置100は、予め、複数のディスプレイ装置300A〜300Dそれぞれの存在する範囲を上記予め規定された範囲からの位置関係で規定したディスプレイ情報をメモリに保存している。上記予め規定された範囲は、たとえば複数のディスプレイ装置300A〜300D中央の位置など、これら複数のディスプレイ装置300A〜300Dを一度に視認しやすいオペレータのいるべき範囲を指し、ディスプレイ装置300の配置に応じて設定される。
図4は、ディスプレイ情報の具体例を示す図である。図4を参照して、一例として、ディスプレイ情報は、ディスプレイ装置300の位置を上記予め規定された範囲から各ディスプレイ装置300に向かう角度で規定する。本例の場合、監視制御システムにおいてディスプレイ装置300A〜300Dの4つのディスプレイ装置が用いられるため、それぞれ、10°〜40°、50°〜80°、100°〜130°、140°〜170°と位置が規定されている。なお、ディスプレイ情報は入力装置500を用いた操作入力によって設定、変更が可能であってよい。または、特定のユーザによる設定、変更のみが可能であってもよい。
監視装置100は、図4のようなディスプレイ情報を参照して、検出されたオペレータの顔の向きに基づいて複数のディスプレイ装置300A〜300Dのうちのオペレータの顔の向きに存在するディスプレイ装置300(以下、注目ディスプレイ装置とも称する)を特定する(ステップS2)。図5は、ステップS2での特定結果の一例を表わした図である。図5を参照して、監視装置100は、たとえば所定間隔などの所定のタイミングでリアルタイムにオペレータの顔の向きを検出して注目ディスプレイ装置を特定する。
一方で、監視装置100は、各ディスプレイ装置300での表示履歴を得る。図6は、各ディスプレイ装置300での表示履歴の具体例を表わした図である。表示装置200は、各ディスプレイ装置300に対応した図示しないビデオメモリを有し、画面データを連続的にビデオメモリに書き込む。そして、表示装置200は、ビデオメモリに書き込んだ内容を対応するディスプレイ装置300に表示させる。各ディスプレイ装置300は表示装置200の制御によって、動画形式で画面表示を行なう。
表示装置200は、各ビデオメモリへの書き込み内容を図6に示されたように表示履歴として記憶している。そこで、一例として、監視装置100は表示装置200に要求することで、表示装置200に記憶されている図6のような表示履歴を得ることができる。また、上記のように、監視装置100が表示装置200に組み込まれている場合には、自身のメモリから図6のような表示履歴を読み出す。
監視装置100は、図5のオペレータの顔の向きの特定結果と図6の表示履歴とを参照して、注目ディスプレイ装置にてオペレータの顔が向いている期間に出力された動画画面を特定することができる。図7は、オペレータの顔が向いているタイミングごとに特定された、注目ディスプレイ装置にて出力された画面の具体例を表わした図である。各画面は、次の画面に移り変わるまでの期間、オペレータが注目(閲覧)していた画面であると考えられる。そこで、監視装置100は、図7のように特定された、動画形式の画面の画面データを、オペレータの顔が向いている期間と関連付けて閲覧履歴としてメモリに保存する(ステップS3)。すなわち、監視装置100は、複数のディスプレイ装置300A〜300Dそれぞれで出力している動画画面のうち、オペレータが注目しているディスプレイ装置にて出力している動画画面をメモリに保存し、そうでないディスプレイ装置にて出力している動画画面は保存しない。これにより、全画面データを保存する場合と比較してメモリの保存領域を大幅に削減することができる。
監視装置100は、たとえば入力装置500から特定の指示入力がなされた場合などの所定のタイミングで、上記オペレータについての操作内容の履歴として、操作履歴と閲覧履歴とを時間情報に基づいて関連付けて出力する(ステップS4)。ここでの操作内容の履歴の出力は、監視装置100が、たとえば指定されたメディアなどの外部メモリに操作履歴と閲覧履歴とを関連付けて書き込むことであってもよいし、指定された外部装置に対して操作履歴と閲覧履歴とを関連付けて送信することであってもよいし、ディスプレイ装置300または図示しないディスプレイ装置に操作履歴と閲覧履歴とを関連付けて表示することであってもよい。
さらに、監視装置100は、上記の図示しないサーバから監視対象設備に関する情報の入力を受け付けて、その内容および該当時刻もメモリに保存してもよい。監視装置100は、このような監視対象設備に関する情報と操作履歴および閲覧履歴を関連付けて出力してもよい。このようにすることで、特定のイベントの内容や発生タイミングを検索キーとして操作履歴および閲覧履歴を検索することが可能となる。
図8は、監視装置100からの操作内容の履歴の出力例を表わした図であって、図7の閲覧履歴と操作履歴とを関連付けて出力した例を表わしている。図8を参照して、オペレータの閲覧履歴として「Z1時Z1分」から「Z2時Z2分」まではA画面の動画が出力されると共に、操作履歴としてその間に操作1がなされたことが出力される。同様に、オペレータの閲覧履歴として「Z2時Z2分」から「Z3時Z3分」まではE画面の動画が出力されると共に、操作履歴としてその間に操作2および操作3がなされたことが出力される。また、オペレータの閲覧履歴として「Z3時Z3分」以降はF画面の動画が出力されると共に、操作履歴としてその間に操作4がなされたことが出力される。
<機能構成>
図9は、上記動作を行なうための監視装置100の機能構成の具体例を示すブロック図である。図9の各機能は、監視装置100のCPU10がROM11に記憶されている監視動作用のプログラムをRAM12上に読み出して実行することで、主にCPU10によって実現される。しかしながら、少なくとも一部機能が図2に表わされた他の構成、または電気回路などの図示されていないハードウェア構成によって実現されてもよい。
図9を参照して、メモリの一例としてのHDD13は、対象のオペレータについての操作履歴を記憶するための記憶領域である操作履歴記憶部131と、図4のようなディスプレイ情報を記憶するための記憶領域であるディスプレイ情報記憶部132と、図7のような対象のオペレータについての閲覧履歴を記憶するための記憶領域である閲覧履歴記憶部133とを含む。さらに、HDD13は、監視対象設備に関する情報を記憶するための記憶領域を含んでもよい。
さらに図9を参照して、CPU10は、入力装置I/F15を介して監視対象物を監視するためのオペレータからの入力装置500を用いた操作入力を受け付けるための操作入力部101と、操作入力の履歴を操作履歴として操作履歴記憶部131に保存するための第1保存部102と、撮影画像中から顔画像を検出するためのセンサ700からのセンサ信号の入力を受け付けるための信号入力部103と、センサ信号を解析するための解析部105を含んだ、オペレータの顔の向きを検出するための検出部104と、複数のディスプレイ装置300A〜300Dのうちのオペレータの顔の向きに存在するディスプレイ装置である注目ディスプレイ装置を特定して図5のような特定結果を得るための特定部107と、図6のような表示履歴を参照して図7のように特定される、注目ディスプレイ装置にてオペレータの顔が向いている期間に出力された画面データを、たとえばネットワークコントローラ17を介して表示装置200に要求するなどして取得するための画面情報取得部108と、上記の画面データをオペレータの顔が向いている期間と関連付けて閲覧履歴として閲覧履歴記憶部133に記憶するための第2保存部109と、指定されたオペレータの操作内容の履歴として、操作履歴と閲覧履歴とを時間情報に基づいて関連付けて出力するための出力部110とを含む。
検出部104は、センサ信号の一例である撮影画像のうちの監視対象のオペレータを検出するための領域として予め規定された範囲を記憶しておく。当該範囲は、センサ700の設置状況やディスプレイ装置300A〜300Dの設置状況やオペレータなどに応じて入力装置500を用いた操作入力によって設定、変更が可能であってよい。または、特定のユーザによる設定、変更のみが可能であってもよい。検出部104は、撮影画像のうちの上記の規定された範囲にあるオペレータの顔の向きを検出する。
なお、上記の規定された範囲にあるオペレータの顔の情報(顔の有無や向き等)は、センサ700側で解析されてその結果が監視装置100に入力されてもよい。その場合、検出部104は、センサ信号を解析することで撮影画像のうちの上記の規定された範囲にあるオペレータの顔の向きを特定する。
なお、好ましくは、検出部104は、上記の予め規定された範囲に複数の顔が検出された場合に、予め設定された条件を用いて複数の顔の中から1つの顔を監視対象のオペレータの顔として抽出するための抽出部106を含む。予め設定された条件とは、たとえば上記の予め規定された範囲のうちのより中央に近い位置にある顔であることや、所定のサイズ以上の顔であることなどが該当する。これにより、たとえば監視対象のオペレータ近傍に第三者が存在した場合であっても、対象のオペレータの閲覧履歴を記憶することができる。
第2保存部109は、少なくともオペレータの顔が向いている期間に注目ディスプレイ装置にて出力された動画形式の画面データを閲覧履歴としてメモリに保存する。好ましくは、第2保存部109は、オペレータの顔が向いている期間の前および/または後の所定期間に出力された画面データも閲覧履歴としてメモリに保存する。すなわち、第2保存部109は、図8の例の場合、たとえば、A画面を表示しているディスプレイ装置にオペレータの顔の向きが切り替わった「Z1時Z1分」よりも所定期間、以前から、A画面の動画を閲覧履歴としてメモリに保存する。または、第2保存部109は、図8の例の場合、たとえば、「Z1時Z1分」よりも所定期間、以降まで、「Z1時Z1分」よりも以前の注目ディスプレイ装置にて表示されていた動画画面の画面データを閲覧履歴としてメモリに保存する。これにより、オペレータの顔の向きが切り替わった時点の前および/または後の所定期間、向きの切り替え前後の両画面とも並行して記憶されることになる。そのため、監視装置100の出力を用いて当該オペレータの閲覧履歴を後に確認した際に、どのようなイベントが発生してオペレータの顔の向きが切り替わったのか、つまり、当該オペレータがどのようなイベントに対応して注目する動画画面を切り替えたのかが把握しやすくなる。
特定部107は、図4の各ディスプレイ装置の範囲とセンサ信号から得られたオペレータの顔の向きとを比較し、オペレータの顔の向きが含まれる範囲に関連付けられたディスプレイ装置を注目ディスプレイ装置と特定する。このとき、図4に示されたように、いずれのディスプレイ装置にも関連付けられていない範囲が存在する場合、当該範囲にオペレータの顔の向きが含まれると注目ディスプレイ装置が特定されなくなる。これは、複数のディスプレイ装置300A〜300Dが図1のように少し離して設置されている場合などが該当する。
この場合、特定部107は注目ディスプレイ装置を特定しなくてもよい。これにより、当該期間の閲覧履歴が記憶されなくなる。しかしながら、好ましくは、特定部107はこの場合に、複数のディスプレイ装置300A〜300Dのうちのオペレータの顔の向きから所定範囲内にある複数のディスプレイ装置を注目ディスプレイ装置として特定する。一例として、特定部107はオペレータの顔の向きに隣接する2つのディスプレイ装置を注目ディスプレイ装置として特定する。あるいは、最も近い1つのディスプレイ装置が注目ディスプレイ装置として特定されてもよい。これにより、監視装置100は、オペレータの顔の向きがディスプレイ装置300に対して曖昧な場合であっても、当該オペレータの閲覧している可能性のある動画画面を閲覧履歴として記憶することができる。
第2保存部109は、好ましくは、所定のタイミングで閲覧履歴のメモリへの保存を開始し、所定期間の後、終了する。一例として、第2保存部109は、入力装置500を用いたユーザの指示に応じて閲覧履歴のメモリへの保存を開始し、ユーザの指示に応じて終了してもよい。
より好ましくは、CPU10は、さらに、ネットワークコントローラ17を介して上記のサーバから当該監視対象設備の状態を表わす情報である監視情報の入力を受け付けるための監視情報入力部111を含む。そして、好ましくは第2保存部109は、監視対象物に特定のイベントが発生したことが検出されたタイミングに関連した期間、閲覧履歴をメモリに保存する。たとえば、第2保存部109は、監視対象設備に特定のイベントが発生したことが検出されたタイミングで閲覧履歴のメモリへの保存を開始し、当該イベントが終了したことが検出されたタイミングで終了する。または、第2保存部109は、イベントの発生中の期間の前後を含めて閲覧履歴を記憶してもよい。または、第2保存部109は、イベントの発生から予め規定された期間、閲覧履歴を記憶してもよい。このようにすることで、監視装置100は、特定のイベントの発生をトリガとして規定期間、オペレータの閲覧履歴をメモリに保存することができる。そのため、監視装置100の出力を用いて当該オペレータの閲覧履歴を後に確認した際に、特定のイベントに対して当該オペレータがどのような動画画面に注目してどのような操作を行なったかが把握しやすくなる。
<動作フロー>
図10は、第1の実施の形態にかかる監視装置100での動作の流れの具体例を表わしたフローチャートである。図10のフローチャートに表わされた動作は、監視装置100のCPU10がROM11に記憶されている監視動作用のプログラムをRAM12上に読み出して実行し、図9の各機能を発揮することによって実現される。なお、図10の動作は、監視装置100の電源がONされたことによって開始されてもよいし、入力装置500からのユーザ指示に従って開始されてもよいし、上記のように、CPU10が特定のイベントの発生を検出したことによって開始されてもよい。
図10を参照して、CPU10は、センサ700からのセンサ信号を解析して、予め規定された範囲にあるオペレータの顔の向きを検出する(ステップS101)。CPU10は、ステップS101の動作を、たとえば所定の時間間隔など予め規定されたタイミングに実行する。
好ましくは、CPU10は、上記の規定された範囲に顔が複数検出された場合に(ステップS103でYES)、たとえば上記の予め規定された範囲のうちのより中央に近い位置にある顔、などの予め設定された条件を用いて、複数の顔の中から1つの顔を監視対象のオペレータの顔として抽出する(ステップS105)。
CPU10は、検出されたオペレータの顔の向きを検出する(ステップS107)。好ましくは、CPU10は、オペレータの顔の向きが直近に検出された向きから変化している場合に(ステップS109でYES)以降の注目ディスプレイ装置を特定する動作(ステップS111〜S115)を行ない、そうでない場合には(ステップS109でNO)、以降の注目ディスプレイ装置を特定する動作(ステップS111〜S115)をスキップする。これにより、動作を簡略化することができる。
CPU10は、ディスプレイ情報を参照して、上記ステップS107で検出されたオペレータの顔の向きに基づいて複数のディスプレイ装置300A〜300Dのうちの注目ディスプレイ装置を特定する(ステップS111)。上記ステップS111において注目ディスプレイ装置が特定されなかった場合、つまり、オペレータの顔の向きが複数のディスプレイ装置300A〜300Dいずれの範囲にも属していなかった場合には(ステップS113でNO)、CPU10は、複数のディスプレイ装置300A〜300Dのうちのオペレータの顔の向きから所定範囲内にある複数のディスプレイ装置、たとえば、オペレータの顔の向きに隣接する2つのディスプレイ装置を注目ディスプレイ装置として特定する(ステップS115)。
CPU10は、注目ディスプレイ装置として特定されたディスプレイ装置300においてオペレータが顔を向けている期間に出力された動画画面の画面データを当該オペレータの閲覧履歴としてメモリに保存する(ステップS117)。
CPU10は、図10の動作と並行して、入力装置500でのオペレータによる操作履歴をメモリに保存している。CPU10は、たとえば入力装置500から所定の指示を受け付けたタイミングや所定のイベントの発生したタイミングなど、当該オペレータについての操作内容の履歴の出力を指示されたタイミングとなると(ステップS119でYES)、指定されたオペレータの操作履歴と閲覧履歴とを時間情報に基づいて関連付けて出力する(ステップS121)。そして、CPU10は、最初のステップに戻って以上の動作を繰り返す。なお、予め動作期間が規定されている場合、CPU10は、一連の動作の開始から上記規定期間が経過すると動作を終了する。
<第1の実施の形態の効果>
第1の実施の形態にかかる監視装置100が以上の動作を行なうことで、運転操作用コンソールの運転操作を行なっているオペレータの操作内容として、入力装置500の操作履歴と共に、各ディスプレイ装置300A〜300Dで出力された動画画面のうちのオペレータの注目したディスプレイ装置で出力された動画画面が閲覧履歴としてメモリに保存される。したがって、メモリの圧迫を抑えつつ効率的に、かつ確実に、オペレータの閲覧履歴を記憶することができる。そのため、図8に表わされたようにオペレータの操作履歴と閲覧履歴とを時間情報に基づいて関連付けて出力することで、当該オペレータの操作状況を正確に再現することができる。すなわち、当該オペレータが注目した動画画面を後から動画で確認し、かつ、動画画面に注目しながら行なった操作を並行して確認することができる。これによって、当該監視装置100は、オペレータの操作状況の監視や評価を効果的に支援することができる。
また、上記のように、予めオペレータの存在する範囲(たとえば座席付近)と規定された範囲から複数の顔が検出された場合であっても、監視装置100は予め設定された条件を用いて1つの顔を抽出することから、正確にオペレータの閲覧履歴をメモリに保存することができる。
また、監視装置100が上記のようにオペレータの顔の向きが変化したタイミングより所定期間以前および/または以降の動画画面も閲覧履歴としてメモリに保存することで、特に、当該オペレータがどのようなイベントに対応して注目する動画画面を切り替えたのか、また、オペレータが視線を外した後にどのような動画画面が表示されたのか(すなわち、まだ視認しておくべきではなかったか否か)という点でのオペレータの操作状況の監視や評価を効果的に支援することができる。
また、上記のように、オペレータの顔の向きがディスプレイ装置300A〜300Dのいずれの範囲にも属さない曖昧な向きであった場合にも、監視装置100は当該向きから所定範囲にある複数のディスプレイ装置を注目ディスプレイ装置と特定することで、当該オペレータが見ている可能性のある動画画面を欠落させることなく閲覧履歴として記憶することができる。
また、監視装置100が上記のようにオペレータの監視対象物にて特定のイベントが発生したことが検出されたタイミング(またはその所定期間以前)から履歴の記憶を開始し、規定期間で動作を終了するなど、該イベントが発生したことが検出されたタイミングに関連した期間、上記動作を行なうことで、特に、特定のイベントに対して当該オペレータがどのような動画画面に注目してどのような操作を行なったかという点でのオペレータの操作状況の監視や評価を効果的に支援することができる。
[第2の実施の形態]
<装置構成>
図11は、第2の実施の形態にかかる監視システムの具体例を示す図である。第2の実施の形態では、2つの運転操作用コンソールを用いる。すなわち、第2の実施の形態にかかる監視システムは、オペレータが操作するための第1の運転操作用コンソールに加えて、その上長が該オペレータの監視操作状況を確認し指示を出すための第2の運転操作用コンソールを含む。両運転操作用コンソールは外部ネットワークを介して通信可能であって、情報をやり取りすることができる。
<動作概要>
図12は、第2の実施の形態にかかる監視装置100の動作概要を説明するための図である。第2の実施の形態にかかる監視装置100は、第1の運転操作用コンソールの前に着席して運転業務を行なっている運転員に該当する第1のオペレータOP1の操作状況を、運転操作用コンソールの前に着席した上長に該当する第2のオペレータOP2が監視し、第1のオペレータOP1による操作入力(または特定の操作入力)を制御する。そのため、第1の運転操作用コンソールでは第2の運転操作用コンソールによる制御をリアルタイムに取得する。また、第2の運転操作用コンソールでは、第1の運転操作用コンソールに含まれる各ディスプレイ装置300A〜300Dに表示される動画画面の情報をリアルタイムに取得して、第2の運転操作用コンソールに含まれる各ディスプレイ装置300’A〜300’Dで出力する。好ましくは、第2の運転操作用コンソールでは、第1の運転操作用コンソールにおけるディスプレイ装置300A〜300Dの位置関係に応じて、すなわち、それぞれ同じ位置のディスプレイ装置300’A〜300’Dに動画画面を出力する。これにより、第2の運転操作用コンソールにおいてリアルタイムに第1の運転操作用コンソールでの動画画面の出力状態が再現される。
図12を参照して、第1の運転操作用コンソールに含まれる監視装置100は、センサ700からのセンサ信号を解析して運転員に該当する第1のオペレータOP1の顔の向きを検出する(ステップS11)。第2の運転操作用コンソールに含まれる監視装置100’もまた、第2の運転操作用コンソールに含まれるセンサ700’からのセンサ信号を解析して上長に該当する第2のオペレータOP2の顔の向きを検出する(ステップS13)。両監視装置100,100’で検出された第1のオペレータOP1の顔の向きと第2のオペレータOP2の顔の向きとは比較される(ステップS15)。その結果、両オペレータOP1,OP2の注目ディスプレイ装置が同じ動画画面を出力するディスプレイ装置であった場合、監視装置100は、第1のオペレータOP1の注目ディスプレイ装置で出力している動画画面の画面データを第1のオペレータOP1の閲覧履歴としてメモリに保存する(ステップS17)。
好ましくは監視装置100は、両オペレータOP1,OP2の注目ディスプレイ装置が同じ動画画面を出力するディスプレイ装置であった場合、第1のオペレータOP1による入力装置500になされた操作入力を受け付け(ステップS19)、操作履歴をメモリに保存する(ステップS21)。
これにより、運転員である第1のオペレータOP1によって上長である第2のオペレータOP2の監督の下で行なわれる操作に限定して操作履歴と閲覧履歴とがメモリに保存される。また、運転員である第1のオペレータOP1と第2のオペレータOP2との注目する動画画面が一致した場合に限定して運転員である第1のオペレータOP1による操作が許可される。
<機能構成>
図13は、第2の実施の形態にかかる監視装置100の機能構成の具体例を示すブロック図である。図13の各機能もまた、監視装置100のCPU10がROM11に記憶されているプログラムをRAM12上に読み出して実行することで、主にCPU10によって実現される。
図13を参照して、第2の実施の形態にかかる監視装置100のCPU10は、図9に示された第1の実施の形態にかかる監視装置100の構成に加えて、さらに、ネットワークコントローラ17を介して第2の運転操作用コンソールから特定された注目ディスプレイ装置(またはそのディスプレイ装置で出力されている動画画面)を表わす情報の入力を受け付けるための検出結果入力部112と、第1の運転操作用コンソールで特定された注目ディスプレイ装置と第2の運転操作用コンソールで特定された注目ディスプレイ装置とを比較するための比較部113とをさらに含む。
第1の運転操作用コンソールでの閲覧履歴を保存するための第2保存部109は、比較部113での比較結果に基づいて、すなわち、第1の運転操作用コンソールで特定された注目ディスプレイ装置と第2の運転操作用コンソールで特定された注目ディスプレイ装置とが一致(あるいは両画面が一致)した場合には第1の運転操作用コンソールでの閲覧履歴をメモリに保存し、そうでない場合には閲覧履歴をメモリに保存しない。
好ましくは、第1のオペレータOP1からの入力装置500を用いた操作入力を受け付けるための操作入力部101は、比較部113での比較結果に基づいて、すなわち、第1の運転操作用コンソールで特定された注目ディスプレイ装置と第2の運転操作用コンソールで特定された注目ディスプレイ装置とが一致(あるいは両画面が一致)した場合には操作入力を受け付け、そうでない場合には受け付けない。
<動作フロー>
図14は、第2の実施の形態にかかる監視装置100での、閲覧履歴を保存する動作の流れの具体例を表わしたフローチャートである。図14のフローチャートに表わされた動作は、監視装置100のCPU10がROM11に記憶されている監視動作用のプログラムをRAM12上に読み出して実行し、図13の各機能を発揮することによって実現される。なお、図14は、図10の動作フローのステップS111以降、ステップS117までに行なわれる動作を表わしており、第2の実施の形態にかかる監視装置100でのこの他の動作は第1の実施の形態にかかる監視装置100での動作と同じであることを表わしている。
詳しくは、図14を参照して、第2の実施の形態にかかる監視装置100のCPU10は、第1のオペレータOP1の注目ディスプレイ装置を特定(ステップS111)した後に、第2の運転操作用コンソールから第2のオペレータOP2の注目ディスプレイ装置を表わす情報を取得する(ステップS201でYES)。第2の運転操作用コンソールからの情報は、CPU10が第2の運転操作用コンソールに対して要求することによって得られてもよいし、一定間隔など、第2の運転操作用コンソール側から所定のタイミングで送信されるものを受信することで得られてもよい。後者の場合、第2の運転操作用コンソールから上記の情報が得られていないときには(ステップS201でNO)、CPU10は第2の運転操作用コンソールから送信されるまで待機してもよいし、第2の運転操作用コンソールに対して要求してもよい。
CPU10は、第1の運転操作用コンソールと第2の運転操作用コンソールとの注目ディスプレイ装置(または出力されている動画画面)を比較する(ステップS203)。その結果、これら注目ディスプレイ装置(または出力されている動画画面)が一致した場合には(ステップS205でYES)、CPU10は、第1の実施の形態にかかる監視装置100と同様に注目ディスプレイ装置として特定されたディスプレイ装置300において第1のオペレータOP1が顔を向けている期間に出力された動画画面の画面データを当該オペレータの閲覧履歴としてメモリに保存する(ステップS117)。つまり、第1のオペレータOP1が、第2のオペレータOP2と同時に同じ動画画面を見た場合に、CPU10はその動画画面を閲覧履歴とする。
一方、両注目ディスプレイ装置(または出力されている動画画面)が一致しなかった場合には(ステップS205でNO)、CPU10は、上記動作をスキップする。すなわち、閲覧履歴の保存を行なわない。
以降、CPU10は、図10で説明された第1の実施の形態にかかる監視装置100と同じ動作を行なう。
好ましくは、第2の実施の形態にかかる監視装置100では、第2の運転操作用コンソールで特定された注目ディスプレイ装置に応じて、さらに、第1のオペレータOP1による操作入力も制御される。図15は、第2の実施の形態にかかる監視装置100での、操作入力に応じた動作の流れの具体例を表わしたフローチャートである。図15のフローチャートに表わされた動作は、監視装置100のCPU10がROM11に記憶されている監視動作用のプログラムをRAM12上に読み出して実行し、図13の各機能を発揮することによって実現される。
図15を参照して、第2の実施の形態にかかる監視装置100のCPU10は、第1のオペレータOP1によって入力装置500を用いた操作がなされたことを検出すると(ステップS303でYES)、図10で説明された第1の実施の形態にかかる監視装置100での動作と同様にして、第1のオペレータOP1の注目ディスプレイ装置を特定する(ステップS315)。
その後、CPU10は、第2の運転操作用コンソールから第2のオペレータOP2の注目ディスプレイ装置を表わす情報を取得する(ステップS317でYES)。ここでの取得方法は、上記ステップS201で説明されたものと同様である。
CPU10は、第1の運転操作用コンソールと第2の運転操作用コンソールとの注目ディスプレイ装置(または出力されている動画画面)を比較する(ステップS319)。その結果、これら注目ディスプレイ装置(または出力されている動画画面)が一致した場合には(ステップS321でYES)、CPU10は、第1のオペレータOP1によって入力装置500を用いた操作の入力を受け付ける(ステップS323)。つまり、CPU10は、第1のオペレータOP1が、第2のオペレータOP2と同時に同じ動画画面を見ているときの操作のみを有効とする。操作入力を受け付けると、CPU10は、図示されない上記のサーバに対して操作入力で指示された監視対象設備に関する指令を送信するなど、第1のオペレータOP1の操作に従う処理を行なう。さらに、CPU10は、操作履歴をメモリに保存する(ステップS325)。
なお、CPU10は、さらに、第2の運転操作用コンソールでの第2のオペレータOP2による操作入力の内容も第2の運転操作用コンソールから取得して、第1のオペレータOP1による操作と一致した場合にのみ、第1のオペレータOP1による操作入力を受け付けるようにしてもよい。つまり、CPU10は、第1のオペレータOP1が、第2のオペレータOP2と同時に同じ動画画面を見、かつ、同じ操作をした場合のみ、その操作を有効としてもよい。
一方、両注目ディスプレイ装置(または出力されている動画画面)が一致しなかった場合には(ステップS321でNO)、CPU10は上記ステップS323,S325をスキップする。すなわち、CPU10は、第1のオペレータOP1による操作を受け付けず、そのため、操作履歴をメモリに保存することもない。なお、操作を受け付けないことには、CPU10が操作信号の入力に対して指示された動作を行なわないことも、操作信号の入力を拒否することも含まれる。
<第2の実施の形態の効果>
第2の実施の形態にかかる監視装置100が以上の動作を行なうことで、第1の運転操作用コンソールの運転操作を行なっている第1のオペレータOP1が第2の運転操作用コンソールの第2のオペレータOP2と同じ動画画面を見ている場合に、その動画画面が閲覧履歴としてメモリに保存される。運転員である第1のオペレータOP1とその上長である第2のオペレータOP2とが同時に注目している動画画面は、設備の監視において重要な画面であると考えられる。そのため、第1の実施の形態にかかる監視装置100よりもメモリの圧迫を抑えつつ効率的に、特に重要な動画画面を閲覧履歴として記憶することができる。
さらに、第2の実施の形態にかかる監視装置100が、第1のオペレータOP1が第2のオペレータOP2と同じ動画画面を見ている場合に操作を許可するようにしたことで、第1のオペレータOP1による操作ミスを効果的に防止することができる。
[その他の例]
さらに、上述の動作をCPU10に実行させるプログラムを提供することもできる。上記のように、監視装置100は一般的な汎用PCにて構成されていてよい。そのため、運転操作用コンソールに含まれるPCに上記プログラムを提供することによって該PCを本実施の形態にかかる監視装置100として動作させることができる。これにより、既存の運転操作用コンソールを利用して本実施の形態にかかる運転操作用コンソールを容易に構築することができる。
このようなプログラムは、コンピュータに付属するフレキシブルディスク、CD−ROM(Compact Disk-Read Only Memory)、ROM、RAMおよびメモリカードなどのコンピュータ読取り可能な記録媒体にて記録させて、プログラム製品として提供することもできる。あるいは、コンピュータに内蔵するハードディスクなどの記録媒体にて記録させて、プログラムを提供することもできる。また、ネットワークを介したダウンロードによって、プログラムを提供することもできる。
なお、本発明にかかるプログラムは、コンピュータのオペレーティングシステム(OS)の一部として提供されるプログラムモジュールのうち、必要なモジュールを所定の配列で所定のタイミングで呼出して処理を実行させるものであってもよい。その場合、プログラム自体には上記モジュールが含まれずOSと協働して処理が実行される。このようなモジュールを含まないプログラムも、本発明にかかるプログラムに含まれ得る。
また、本発明にかかるプログラムは他のプログラムの一部に組込まれて提供されるものであってもよい。その場合にも、プログラム自体には上記他のプログラムに含まれるモジュールが含まれず、他のプログラムと協働して処理が実行される。このような他のプログラムに組込まれたプログラムも、本発明にかかるプログラムに含まれ得る。
提供されるプログラム製品は、ハードディスクなどのプログラム格納部にインストールされて実行される。なお、プログラム製品は、プログラム自体と、プログラムが記録された記録媒体とを含む。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
10 CPU、11 ROM、12 RAM、13 HDD、14 表示装置I/F、15 入力装置I/F、16 センサI/F、17 ネットワークコントローラI/F、100 監視装置、101 操作入力部、102 第1保存部、103 信号入力部、104 検出部、105 解析部、106 抽出部、107 特定部、108 画面情報取得部、109 第2保存部、110 出力部、111 監視情報入力部、112 検出結果入力部、113 比較部、131 操作履歴記憶部、132 ディスプレイ情報記憶部、133 閲覧履歴記憶部、200 表示装置、300,300A〜300D ディスプレイ装置、500 入力装置、500A キーボード、500B マウス、700 センサ。

Claims (7)

  1. 監視対象物を監視するためのオペレータからの操作入力を受け付けるための操作入力手段と、
    前記操作入力の履歴を操作履歴としてメモリに保存するための第1の保存手段と、
    撮影画像中から顔画像を検出するためのセンサからのセンサ信号の入力を受け付けるための信号入力手段と、
    前記センサ信号を解析して、予め規定された範囲にあるオペレータの顔の向きを検出するための検出手段と、
    複数のディスプレイそれぞれの存在する範囲について、前記予め規定された範囲からの位置関係で記憶しておくために前記メモリに用意された記憶領域であるディスプレイ情報記憶手段と、
    前記センサ信号から得られた前記オペレータの顔の向きに基づいて、前記複数のディスプレイのうちの前記オペレータの顔の向きに存在するディスプレイを特定するための特定手段と、
    前記オペレータの顔の向きに存在するディスプレイにて前記オペレータの顔が向いている期間に出力された画面データを、前記オペレータの顔が向いている期間と関連付けて閲覧履歴として前記メモリに記憶するための第2の保存手段と、
    前記オペレータについての前記操作履歴と前記閲覧履歴とを時間情報に基づいて関連付けて出力するための出力手段とを備え
    前記第2の保存手段は、前記オペレータの顔の向きに存在するディスプレイにて、前記オペレータの顔が向いている期間の前および/または後の所定期間に出力された画面データも前記閲覧履歴として前記メモリに記憶する、オペレータ監視制御装置。
  2. 前記検出手段は、前記予め規定された範囲に複数の顔が検出された場合に、予め設定された条件を用いて前記複数の顔の中から1つの顔を前記オペレータの顔として抽出するための抽出手段を含む、請求項1に記載のオペレータ監視制御装置。
  3. 前記特定手段は、前記センサ信号から得られた前記オペレータの顔の向きに基づいて、前記複数のディスプレイのうちの前記オペレータの顔の向きに存在する複数の前記ディスプレイを特定する、請求項1または2に記載のオペレータ監視制御装置。
  4. 前記第2の保存手段は、前記監視対象物に特定のイベントが発生したことが検出されたタイミングに関連した期間において、前記オペレータの顔の向きに存在するディスプレイにて前記オペレータの顔が向いている期間に出力された画面データを、前記オペレータの顔が向いている期間と関連付けて前記閲覧履歴として前記メモリに記憶する、請求項1〜3のいずれかに記載のオペレータ監視制御装置。
  5. 第1のオペレータに対して複数の第1のディスプレイが設けられ、
    第2のオペレータに対して複数の第2のディスプレイが設けられ、
    予め規定された第1の範囲にある前記第1オペレータの顔の向きを検出するための第1の検出手段が設けられ、
    予め規定された第2の範囲にある前記第2オペレータの顔の向きを検出するための第2の検出手段が設けられ、
    前記第2の保存手段は、前記第1の検出手段が前記第1の範囲から検出した前記第1のオペレータの顔の向きに存在する第1のディスプレイにて前記第1のオペレータの顔が向いている期間に出力された画面データと、前記第2の検出手段が前記第2の範囲から検出した前記第2のオペレータの顔の向きに存在する第2のディスプレイにて前記第2のオペレータの顔が向いている期間に出力された画面データとが一致する場合に、前記画面データを閲覧履歴として前記メモリに記憶する、請求項1〜4のいずれかに記載のオペレータ監視制御装置。
  6. 前記操作入力手段は、
    前記第1のディスプレイにて前記第1のオペレータの顔が向いている期間に出力された画面データと、前記第2のディスプレイにて前記第2のオペレータの顔が向いている期間に出力された画面データとが一致する場合に前記監視対象物を監視するための前記第1のオペレータからの操作入力を受け付け、
    前記第1のディスプレイにて前記第1のオペレータの顔が向いている期間に出力された画面データと、前記第2のディスプレイにて前記第2のオペレータの顔が向いている期間に出力された画面データとが一致しない場合に前記監視対象物を監視するための前記第1のオペレータからの操作入力を受け付けない、請求項に記載のオペレータ監視制御装置。
  7. 監視対象物を監視するためのオペレータからの操作入力を受け付けると、前記操作入力の履歴を操作履歴としてメモリに保存するステップと、
    撮影画像中から顔画像を検出するためのセンサから受け付けたセンサ信号を解析して、
    予め規定された範囲にあるオペレータの顔の向きを検出するステップと、
    複数のディスプレイそれぞれの存在する範囲を前記予め規定された範囲からの位置関係で規定したディスプレイ情報を参照して、前記センサ信号から得られた前記オペレータの顔の向きに基づいて、前記複数のディスプレイのうちの前記オペレータの顔の向きに存在するディスプレイを特定するステップと、
    前記オペレータの顔の向きに存在するディスプレイにて前記オペレータの顔が向いている期間に出力された画面データを、前記オペレータの顔が向いている期間と関連付けて閲覧履歴として前記メモリに記憶するステップと、
    所定のタイミングで、前記オペレータについての前記操作履歴と前記閲覧履歴とを時間情報に基づいて関連付けて出力するステップとを備え、
    前記メモリに記憶するステップは、前記オペレータの顔の向きに存在するディスプレイにて、前記オペレータの顔が向いている期間の前および/または後の所定期間に出力された画面データも前記閲覧履歴として前記メモリに記憶するステップを含む、オペレータ監視制御方法。
JP2014001667A 2014-01-08 2014-01-08 オペレータ監視制御装置およびオペレータ監視制御方法 Active JP6270488B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014001667A JP6270488B2 (ja) 2014-01-08 2014-01-08 オペレータ監視制御装置およびオペレータ監視制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014001667A JP6270488B2 (ja) 2014-01-08 2014-01-08 オペレータ監視制御装置およびオペレータ監視制御方法

Publications (2)

Publication Number Publication Date
JP2015130105A JP2015130105A (ja) 2015-07-16
JP6270488B2 true JP6270488B2 (ja) 2018-01-31

Family

ID=53760771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014001667A Active JP6270488B2 (ja) 2014-01-08 2014-01-08 オペレータ監視制御装置およびオペレータ監視制御方法

Country Status (1)

Country Link
JP (1) JP6270488B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6628283B2 (ja) * 2016-07-21 2020-01-08 東芝三菱電機産業システム株式会社 オペレータ監視装置
JP6863127B2 (ja) * 2017-06-23 2021-04-21 富士電機株式会社 プラント監視装置及び監視制御方法
JP7216518B2 (ja) * 2018-10-22 2023-02-01 三菱重工業株式会社 分掌指揮システムおよび分掌指揮方法
JP6969857B1 (ja) * 2020-06-24 2021-11-24 三菱ロジスネクスト株式会社 荷役システムおよび制御方法
CN113763616B (zh) * 2021-08-20 2023-03-28 太原市高远时代科技有限公司 一种基于多传感器的无感安全型户外机箱门禁系统及方法
CN114973492B (zh) * 2022-06-27 2023-09-19 江苏欧焙佳食品有限公司 一种基于机器视觉的蛋糕无菌生产控制方法及系统

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01133199A (ja) * 1987-11-18 1989-05-25 Hitachi Ltd マンマシンインタフエイス
JPH09244739A (ja) * 1996-03-05 1997-09-19 Fuji Electric Co Ltd 監視システム
JP2011039959A (ja) * 2009-08-18 2011-02-24 Hitachi Kokusai Electric Inc 監視システム
EP2469503A1 (en) * 2010-12-21 2012-06-27 Thomson Licensing Computer device comprising a first and a second display screen, method of operating the computer device and computer readable storage medium.

Also Published As

Publication number Publication date
JP2015130105A (ja) 2015-07-16

Similar Documents

Publication Publication Date Title
JP6270488B2 (ja) オペレータ監視制御装置およびオペレータ監視制御方法
JP5319260B2 (ja) 作業モニタリング装置
JP3406760B2 (ja) 監視制御装置
JP2017059062A5 (ja)
JP2011175439A5 (ja)
US11082634B2 (en) Image processing system, image processing method, and program
JPWO2017169276A1 (ja) プラント管理システム、プラント管理方法、プラント管理装置、および、プラント管理プログラム
JP6841608B2 (ja) 振る舞い検知システム
JP2017162103A (ja) 点検作業支援システム、点検作業支援方法、点検作業支援プログラム
JP2014115700A (ja) 要確認度判定装置、要確認度判定方法、及びプログラム
JP2009159448A (ja) 物体検出装置及び物体検出方法
JP6602067B2 (ja) 表示制御装置、表示制御方法、プログラム
EP3333801B1 (en) A surveillance apparatus and a surveillance method for indicating the detection of motion
JP6593922B2 (ja) 画像監視システム
JP2018082281A (ja) 情報処理装置、情報処理装置の制御方法およびプログラム
US11363241B2 (en) Surveillance apparatus, surveillance method, and storage medium
JP2019176380A (ja) 制御装置及び監視システム
CN114419658A (zh) 信息关联方法、电子设备及存储介质
JP7094759B2 (ja) システム、情報処理方法及びプログラム
US11380187B2 (en) Information processing apparatus, control method, and program
JP3124414B2 (ja) 監視制御装置
JP2014142696A (ja) 解析処理制御システム
JP3031888B2 (ja) 表示装置
CN111290721A (zh) 在线交互控制方法、系统、电子设备和存储介质
US20230267727A1 (en) Image analysis apparatus, image analysis method, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161013

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171226

R150 Certificate of patent or registration of utility model

Ref document number: 6270488

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250