JP2015179355A - 重畳表示支援装置及び重畳表示支援プログラム - Google Patents
重畳表示支援装置及び重畳表示支援プログラム Download PDFInfo
- Publication number
- JP2015179355A JP2015179355A JP2014055894A JP2014055894A JP2015179355A JP 2015179355 A JP2015179355 A JP 2015179355A JP 2014055894 A JP2014055894 A JP 2014055894A JP 2014055894 A JP2014055894 A JP 2014055894A JP 2015179355 A JP2015179355 A JP 2015179355A
- Authority
- JP
- Japan
- Prior art keywords
- video
- data
- identification information
- superimposed display
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Testing And Monitoring For Control Systems (AREA)
- Digital Computer Display Output (AREA)
Abstract
【課題】端末装置の画面上に自動的に重ね合わせ表示して、非熟練者の操作を助け、ヒューマンエラーを防止する操作ガイド表示装置を提供する。【解決手段】データ解析部40は監視対象機器の時系列データ101を解析して異常程度を判定し、監視対象機器が含まれるライブ映像データ102から監視対象機器の映像を特定し、監視対象機器の機器識別情報、異常程度、監視対象機器の映像の映像識別情報を含む解析結果41を生成する。表示優先度判定部50は重畳情報テーブル51から、解析結果41に基づき監視対象機器の重畳表示データを特定し、特定された重畳表示データを識別する重畳表示データ識別情報、解析結果41に含まれる映像識別情報を含む描画コマンドを生成する。重畳表示部は描画コマンドに含まれる重畳表示データ識別情報の示す重畳表示データを、描画コマンドに含まれる映像識別情報の示す映像に重畳して表示装置に表示する。【選択図】図1
Description
この発明は、監視対象の機器設備を撮影したライブ映像に、センサデータを解析して得られた情報を重畳表示する重畳表示支援装置及び重畳表示支援プログラムに関する。
従来、監視対象に関するプロセスデータと、映像、音声などを同期再生させることで、異常発生時の原因解析を支援する監視制御システムが知られている。例えば、以下の特許文献1では、監視対象に関する映像情報、音データの再生用情報と、監視対象に関するプロセスデータとを記憶し、再生用情報の再生とプロセスデータの出力とを同期させる監視装置が開示されている。特許文献1では、映像、音声、プロセスデータを同期させて再生することにより、わかりやすいプロセスの状況把握と迅速な異常発見が可能になるとしている。
従来の監視装置は、映像、音声、プロセスデータを同期させて再生することはできた。しかし、表示された多数のデータを正しく理解するためには作業員がある程度の熟練度を有していることが必要であり、熟練していない作業員が同様の監視制御システムを使いこなせるようにするためには教育に時間を要するという課題があった。
この発明は、非熟練者の操作を助けるとともに、ヒューマンエラーを防止できる重畳表示支援装置及び重畳表示支援プログラムの提供を目的とする。
この発明の重畳表示支援装置は、
監視対象となる監視対象機器の時系列データを解析して前記時系列データの異常程度を判定すると共に、前記監視対象機器が含まれる映像データから前記監視対象機器の映像を特定し、前記監視対象機器を識別する機器識別情報と、前記異常程度と、特定された前記監視対象機器の前記映像を識別する映像識別情報とを含む解析結果を生成する解析部と、
複数の前記監視対象機器の前記監視対象機器ごとに前記異常程度に応じて重畳表示用の重畳表示データが指定された重畳情報のなかから、前記解析結果に基づいて、前記異常程度が判定された前記監視対象機器の前記重畳表示データを特定し、特定された前記重畳表示データを識別する重畳表示データ識別情報と、前記解析結果に含まれる前記映像識別情報とを含む描画コマンドを生成する描画コマンド生成部と、
前記描画コマンドに含まれる前記重畳表示データ識別情報の示す前記重畳表示データを、前記描画コマンドに含まれる前記映像識別情報の示す前記映像に重畳して、表示装置に表示する重畳表示部と
を備えたことを特徴とする。
監視対象となる監視対象機器の時系列データを解析して前記時系列データの異常程度を判定すると共に、前記監視対象機器が含まれる映像データから前記監視対象機器の映像を特定し、前記監視対象機器を識別する機器識別情報と、前記異常程度と、特定された前記監視対象機器の前記映像を識別する映像識別情報とを含む解析結果を生成する解析部と、
複数の前記監視対象機器の前記監視対象機器ごとに前記異常程度に応じて重畳表示用の重畳表示データが指定された重畳情報のなかから、前記解析結果に基づいて、前記異常程度が判定された前記監視対象機器の前記重畳表示データを特定し、特定された前記重畳表示データを識別する重畳表示データ識別情報と、前記解析結果に含まれる前記映像識別情報とを含む描画コマンドを生成する描画コマンド生成部と、
前記描画コマンドに含まれる前記重畳表示データ識別情報の示す前記重畳表示データを、前記描画コマンドに含まれる前記映像識別情報の示す前記映像に重畳して、表示装置に表示する重畳表示部と
を備えたことを特徴とする。
この発明によれば、非熟練者の操作を助けるとともに、ヒューマンエラーを防止できる重畳表示支援装置及び重畳表示支援プログラムを提供できる。
実施の形態1.
図1は、実施の形態1の操作ガイド表示装置100(重畳表示支援装置)を示す構成図である。
図1において、
(1)時系列データ入力部10は、各種センサ(電流、電圧、温度、圧力など)のログデータや、プログラマブルロジックコントローラからの機器設備の稼働データなどの時系列データ101を適当な時間間隔で受信し、必要に応じてフレームバッファ90に対して書込を行う。時系列データ入力部10は、時系列データ101を一時的に保存するための一時バッファを保持するように構成してもよい。
(2)映像データ入力部20は、カメラ(タブレット端末などのカメラ付きポータブルデバイスも含む)からライブ映像のライブ映像データ102(以下、映像データ102と記す)を受信し、必要に応じてフレームバッファ90に対して書込を行う。映像データ入力部20は、映像データ102を一時的に保存するための数ライン分の一時バッファを保持するように構成してもよい。
(3)データ入力選択部30は、過去の録画映像データ、センサログデータ、機器の操作マニュアルなどを蓄積しておいたデータベース200から、必要に応じて必要な情報を、LAN(Local Area Network)などを経由して読み出す。データ入力選択部30がデータベース200から読み出したデータは、データ解析部40に送られる。
(4)データ解析部40(解析部)は、ライブ映像(映像データ102)に映っている機器設備を特定するとともに、特定された機器設備に関連する各種センサからの時系列データ101を解析し、異常発生の有無を判断する。なお、ライブ映像に映っている機器設備を特定する具体的な手段については、映像データ102から特定のマーカ画像を認識する、あるいはあらかじめ取得しておいた参照用画像とのマッチング処理を行うなど、機器設備の認識手段には一般的な手法を使用すればよい。
(5)表示優先度判定部50(描画コマンド生成部)は、データ解析部40の解析結果41を元に、映像データ102に重畳表示するデータの優先順位を決定し、描画制御部60に対して優先順位付きの描画コマンドを送信する。
(6)描画制御部60は、優先順位付きの描画コマンドにしたがって描画処理を行い、描画結果をフレームバッファ90に格納する。重畳表示するデータは、過去の異常発生履歴や操作マニュアル(異常発生時)現在の機器の状態や定期メンテナンス情報(正常動作時)などを想定する。
(7)入力情報判定部70は、キーボード、マウス、タッチパネル、ジェスチャ認識デバイスなどの各種入力デバイスおよび、パスワード認証手段、指紋認証手段、カメラ撮影画像からの人物認識手段などを用いた操作者識別手段からのイベント入力に応じて、表示優先度判定部50および映像合成部80に対して、表示する情報の更新タイミングを制御する。
(8)映像合成部80は、ライブ映像、撮影された機器の稼働データ(時系列データ101)、イベントログなどを表示優先度情報の情報に基づき、情報の表示先として最適な表示デバイスを決定し、画面上に自動的に重ね合わせて表示する。また、映像合成部80は、マニュアル操作とオート操作の2通りで動作する。オート操作の場合は、表示画面に注目すべき情報を自動的に重畳表示したり、表示ウィンドウのサイズを変えることで、非熟練作業者でも装置のメンテナンスを容易に行えるようにする。マニュアル操作の場合は、タッチパネルなどからの入力操作に応じた操作も可能とする。映像合成部80は、フレームバッファ90に保存された複数の画像データを読み出し一時保存するためのラインバッファを備えるように構成してもよい。さらに、フレームバッファ90に保存された複数の画像データに対して拡大、縮小、回転、色変換などの処理を行い、描画制御部60が生成した重畳表示データと重ね合わせて表示を行うようにしてもよい。
(9)描画制御部60と映像合成部80は、図1に示すように重畳表示部を構成する。
図1は、実施の形態1の操作ガイド表示装置100(重畳表示支援装置)を示す構成図である。
図1において、
(1)時系列データ入力部10は、各種センサ(電流、電圧、温度、圧力など)のログデータや、プログラマブルロジックコントローラからの機器設備の稼働データなどの時系列データ101を適当な時間間隔で受信し、必要に応じてフレームバッファ90に対して書込を行う。時系列データ入力部10は、時系列データ101を一時的に保存するための一時バッファを保持するように構成してもよい。
(2)映像データ入力部20は、カメラ(タブレット端末などのカメラ付きポータブルデバイスも含む)からライブ映像のライブ映像データ102(以下、映像データ102と記す)を受信し、必要に応じてフレームバッファ90に対して書込を行う。映像データ入力部20は、映像データ102を一時的に保存するための数ライン分の一時バッファを保持するように構成してもよい。
(3)データ入力選択部30は、過去の録画映像データ、センサログデータ、機器の操作マニュアルなどを蓄積しておいたデータベース200から、必要に応じて必要な情報を、LAN(Local Area Network)などを経由して読み出す。データ入力選択部30がデータベース200から読み出したデータは、データ解析部40に送られる。
(4)データ解析部40(解析部)は、ライブ映像(映像データ102)に映っている機器設備を特定するとともに、特定された機器設備に関連する各種センサからの時系列データ101を解析し、異常発生の有無を判断する。なお、ライブ映像に映っている機器設備を特定する具体的な手段については、映像データ102から特定のマーカ画像を認識する、あるいはあらかじめ取得しておいた参照用画像とのマッチング処理を行うなど、機器設備の認識手段には一般的な手法を使用すればよい。
(5)表示優先度判定部50(描画コマンド生成部)は、データ解析部40の解析結果41を元に、映像データ102に重畳表示するデータの優先順位を決定し、描画制御部60に対して優先順位付きの描画コマンドを送信する。
(6)描画制御部60は、優先順位付きの描画コマンドにしたがって描画処理を行い、描画結果をフレームバッファ90に格納する。重畳表示するデータは、過去の異常発生履歴や操作マニュアル(異常発生時)現在の機器の状態や定期メンテナンス情報(正常動作時)などを想定する。
(7)入力情報判定部70は、キーボード、マウス、タッチパネル、ジェスチャ認識デバイスなどの各種入力デバイスおよび、パスワード認証手段、指紋認証手段、カメラ撮影画像からの人物認識手段などを用いた操作者識別手段からのイベント入力に応じて、表示優先度判定部50および映像合成部80に対して、表示する情報の更新タイミングを制御する。
(8)映像合成部80は、ライブ映像、撮影された機器の稼働データ(時系列データ101)、イベントログなどを表示優先度情報の情報に基づき、情報の表示先として最適な表示デバイスを決定し、画面上に自動的に重ね合わせて表示する。また、映像合成部80は、マニュアル操作とオート操作の2通りで動作する。オート操作の場合は、表示画面に注目すべき情報を自動的に重畳表示したり、表示ウィンドウのサイズを変えることで、非熟練作業者でも装置のメンテナンスを容易に行えるようにする。マニュアル操作の場合は、タッチパネルなどからの入力操作に応じた操作も可能とする。映像合成部80は、フレームバッファ90に保存された複数の画像データを読み出し一時保存するためのラインバッファを備えるように構成してもよい。さらに、フレームバッファ90に保存された複数の画像データに対して拡大、縮小、回転、色変換などの処理を行い、描画制御部60が生成した重畳表示データと重ね合わせて表示を行うようにしてもよい。
(9)描画制御部60と映像合成部80は、図1に示すように重畳表示部を構成する。
また、図1ではフレームバッファ90を、操作ガイド表示装置100の内部としているが、操作ガイド表示装置100に外付するようにしてもよい。図1の例では、操作ガイド表示装置100の構成要素である時系列データ入力部10、映像データ入力部20、データ入力選択部30、データ解析部40、表示優先度判定部50、描画制御部60、入力情報判定部70、および映像合成部80のそれぞれが専用のハードウェア(例えば、MPU(Micro Processing Unit)を実装している半導体集積回路基板)で構成されているものを想定しているが、操作ガイド表示装置100がコンピュータで構成される場合(コンピュータには、例えば、パーソナルコンピュータのほかに、後述する操作ガイド表示プログラムを実行することが可能な携帯電話、タブレット端末やウェアラブルデバイスなども含まれる)、操作ガイド表示装置100の構成要素である時系列データ入力部10、映像データ入力部20、データ入力選択部30、データ解析部40、表示優先度判定部50、描画制御部60、入力情報判定部70、および映像合成部80の処理内容を記述している画像合成プログラムを当該コンピュータのメモリに格納し、当該コンピュータのCPU(Central Processing Unit)が、当該メモリに格納されている操作ガイド表示プログラムを実行するようにしてもよい。
(動作の説明)
次に動作について説明する。
図2は実施の形態1の操作ガイド表示装置100の処理内容を示すフローチャートである。操作ガイド表示装置100は、操作ガイド表示装置100が搭載しているCPU(実施の形態2で述べる)から処理開始命令を受けることにより、動作を開始する。
次に動作について説明する。
図2は実施の形態1の操作ガイド表示装置100の処理内容を示すフローチャートである。操作ガイド表示装置100は、操作ガイド表示装置100が搭載しているCPU(実施の形態2で述べる)から処理開始命令を受けることにより、動作を開始する。
(ステップS1)
操作ガイド表示装置100が動作を開始すると、時系列データ入力部10は、各種センサから監視対象となっている監視対象機器の時系列データ101の取り込みを行い、フレームバッファ90に格納する。一方、映像データ入力部20は、映像データ102の中から取り込み対象の映像のフレームを選択し、フレームバッファ90に格納する(ステップS1)。なお、時系列データ101と映像データ102とは例えば時刻によって対応付けることが可能である。時刻は一例であり、時刻以外の情報で時系列データ101と映像データ102とを対応付けても構わない。
操作ガイド表示装置100が動作を開始すると、時系列データ入力部10は、各種センサから監視対象となっている監視対象機器の時系列データ101の取り込みを行い、フレームバッファ90に格納する。一方、映像データ入力部20は、映像データ102の中から取り込み対象の映像のフレームを選択し、フレームバッファ90に格納する(ステップS1)。なお、時系列データ101と映像データ102とは例えば時刻によって対応付けることが可能である。時刻は一例であり、時刻以外の情報で時系列データ101と映像データ102とを対応付けても構わない。
(ステップS2)
次いで、データ解析部40は、データ解析に必要なデータの取り込みが完了するまで(ステップS1)の処理を繰り返す(ステップS2)。
次いで、データ解析部40は、データ解析に必要なデータの取り込みが完了するまで(ステップS1)の処理を繰り返す(ステップS2)。
(ステップS3、S4)
次いで、データ解析に必要なデータ(時系列データ101、映像データ102)の取り込みが完了すると、監視対象機器を監視する各種センサからの時系列データ101の傾向を解析(異常程度を判断)する。この時、データ解析部40は、必要に応じてデータ入力選択部30を介してデータベース200から、過去の異常発生時の時系列データとのパターン照合を行い(ステップS3)、異常発生の有無を判断する(ステップS4)。データ解析部40は、取り込んだ時系列データ101に対して異常程度を判定する。例えばデータ解析部40は、異常程度(数値が高いほど異常が重大とする)として、「異常程0:異常なし」(図3)、「異常程度1:異常の兆候あり」(図4)、「異常程度2:緊急事態」(図5)のように、時系列データ101の異常程度を判定する。また異常程度に加え、時系列データ101における異常箇所も解析する。異常程度には、この異常箇所の情報を含めてもよい。データ解析部40は上記のようにパターン照合のためのデータをデータベース200からデータ入力選択部30を介して取得してもよいし、予めパターン照合のためのデータを格納していてもよいし、操作ガイド表示装置100に備える記憶装置(後述する実施の形態2の磁気ディスク装置やROM等)に保有していていてもよいし、これらを組み合わせても、もちろん良い。なお、時系列データ101は、どの機器のものか予めわかっている。よって時系列データ101に異常が検出(異常程度が1以上)された場合、どの機器の異常かは特定できる。
次いで、データ解析に必要なデータ(時系列データ101、映像データ102)の取り込みが完了すると、監視対象機器を監視する各種センサからの時系列データ101の傾向を解析(異常程度を判断)する。この時、データ解析部40は、必要に応じてデータ入力選択部30を介してデータベース200から、過去の異常発生時の時系列データとのパターン照合を行い(ステップS3)、異常発生の有無を判断する(ステップS4)。データ解析部40は、取り込んだ時系列データ101に対して異常程度を判定する。例えばデータ解析部40は、異常程度(数値が高いほど異常が重大とする)として、「異常程0:異常なし」(図3)、「異常程度1:異常の兆候あり」(図4)、「異常程度2:緊急事態」(図5)のように、時系列データ101の異常程度を判定する。また異常程度に加え、時系列データ101における異常箇所も解析する。異常程度には、この異常箇所の情報を含めてもよい。データ解析部40は上記のようにパターン照合のためのデータをデータベース200からデータ入力選択部30を介して取得してもよいし、予めパターン照合のためのデータを格納していてもよいし、操作ガイド表示装置100に備える記憶装置(後述する実施の形態2の磁気ディスク装置やROM等)に保有していていてもよいし、これらを組み合わせても、もちろん良い。なお、時系列データ101は、どの機器のものか予めわかっている。よって時系列データ101に異常が検出(異常程度が1以上)された場合、どの機器の異常かは特定できる。
(ステップS5、S6)
(ステップS4)の結果、異常程度の判断が終了した場合(異常程度が1以上の場合)、データ解析部40は、ライブ映像データ(ステップS1で取り込んだ映像データ102)を解析し(ステップS5)、異常程度を判断した機器設備(監視対象機器)の映像を特定する(ステップS6)。つまりデータ解析部40は異常程度を判断した機器を、映像上特定する。この映像上の特定は、前述のように特定のマーカ画像の認識やマッチング処理などの一般的な手法を使用する。(ステップS4)の結果、異常程度が1以上でない場合(異常程度が0(正常)の場合)、処理は(ステップS1)に戻り、新たな各種センサから時系列データ101を取り込む。
(ステップS4)の結果、異常程度の判断が終了した場合(異常程度が1以上の場合)、データ解析部40は、ライブ映像データ(ステップS1で取り込んだ映像データ102)を解析し(ステップS5)、異常程度を判断した機器設備(監視対象機器)の映像を特定する(ステップS6)。つまりデータ解析部40は異常程度を判断した機器を、映像上特定する。この映像上の特定は、前述のように特定のマーカ画像の認識やマッチング処理などの一般的な手法を使用する。(ステップS4)の結果、異常程度が1以上でない場合(異常程度が0(正常)の場合)、処理は(ステップS1)に戻り、新たな各種センサから時系列データ101を取り込む。
データ解析部40は、は異常程度を判断した機器を、映像上特定すると、「解析結果41」を生成する。解析結果41は、
(1)異常が検出された機器を識別する機器識別情報(機器のIDであり、時系列データ101から特定できる)、
(2)異常程度、
(3)映像データ102から特定した機器の映像を識別する映像識別情報、
等を含む。
(1)異常が検出された機器を識別する機器識別情報(機器のIDであり、時系列データ101から特定できる)、
(2)異常程度、
(3)映像データ102から特定した機器の映像を識別する映像識別情報、
等を含む。
(ステップS7)
次いで、表示優先度判定部50は、データ解析部40の解析結果41に応じて、重畳表示する複数の重畳表示データを決定し、かつ、決定した複数の重畳表示データの「表示の順番」(表示優先度)を決定する(ステップS7)。
重畳表示データは、
(1)時系列データ101に対する「異常兆候あり」や、「緊急事態」等の表示、
(2)過去の異常発生履歴、
(3)操作マニュアル、
(4)対処マニュアル、
等である。
表示優先度判定部50は、図6に示すような重畳情報テーブル51(重畳情報)を保有している。重畳情報テーブル51は、複数の監視対象機器である機器1、機器2・・・の監視対象機器ごとに、異常程度に応じて、重畳表示用の重畳表示データが指定されている。また、重畳表示データには表示優先度が付されている。表示優先度は、数値が小さい程、優先の度合が高いとする。重畳表示データとしては、図6に示すように、異常程度に応じたマニュアルがあるが、マニュアルは異常に対応する操作手順を示すものである。表示優先度判定部50は、解析結果41(機器識別情報、異常程度、映像識別情報)に基づいて、異常程度が判定された監視対象機器の重畳表示データを特定する。例えば解析結果41で機器識別情報が機器1を示し、異常程度が1を示す場合は、表示優先度判定部50は、図6の重畳情報テーブル51から、機器1の「異常程度1」の重畳表示データを選択(特定)する。そして表示優先度判定部50は、特定された重畳表示データを識別する重畳表示データ識別情報、それぞれの重畳表示データの表示優先度、解析結果41に含まれる映像識別情報及び機器識別情報を含む描画コマンド52(重畳表示データ識別情報、表示優先度、映像識別情報、機器識別情報)を生成する。
次いで、表示優先度判定部50は、データ解析部40の解析結果41に応じて、重畳表示する複数の重畳表示データを決定し、かつ、決定した複数の重畳表示データの「表示の順番」(表示優先度)を決定する(ステップS7)。
重畳表示データは、
(1)時系列データ101に対する「異常兆候あり」や、「緊急事態」等の表示、
(2)過去の異常発生履歴、
(3)操作マニュアル、
(4)対処マニュアル、
等である。
表示優先度判定部50は、図6に示すような重畳情報テーブル51(重畳情報)を保有している。重畳情報テーブル51は、複数の監視対象機器である機器1、機器2・・・の監視対象機器ごとに、異常程度に応じて、重畳表示用の重畳表示データが指定されている。また、重畳表示データには表示優先度が付されている。表示優先度は、数値が小さい程、優先の度合が高いとする。重畳表示データとしては、図6に示すように、異常程度に応じたマニュアルがあるが、マニュアルは異常に対応する操作手順を示すものである。表示優先度判定部50は、解析結果41(機器識別情報、異常程度、映像識別情報)に基づいて、異常程度が判定された監視対象機器の重畳表示データを特定する。例えば解析結果41で機器識別情報が機器1を示し、異常程度が1を示す場合は、表示優先度判定部50は、図6の重畳情報テーブル51から、機器1の「異常程度1」の重畳表示データを選択(特定)する。そして表示優先度判定部50は、特定された重畳表示データを識別する重畳表示データ識別情報、それぞれの重畳表示データの表示優先度、解析結果41に含まれる映像識別情報及び機器識別情報を含む描画コマンド52(重畳表示データ識別情報、表示優先度、映像識別情報、機器識別情報)を生成する。
(ステップS8、S9)
次いで、入力情報判定部70は、各種入力デバイスからの入力イベントの有無を判定する(ステップS8)。入力イベントが存在する場合、表示優先度判定部50は、データ解析部40の解析結果41に加えて、入力情報判定部70からの入力イベントも考慮して表示優先順位(表示優先度)を補正する(ステップS9)。
次いで、入力情報判定部70は、各種入力デバイスからの入力イベントの有無を判定する(ステップS8)。入力イベントが存在する場合、表示優先度判定部50は、データ解析部40の解析結果41に加えて、入力情報判定部70からの入力イベントも考慮して表示優先順位(表示優先度)を補正する(ステップS9)。
(ステップS10、S11)
次いで、表示優先度判定部50は、イベントが存在しない場合は(ステップS8)で決定した表示優先順位、入力イベントが存在する場合は(ステップS9)で補正された後の表示優先順位を含む描画用の描画コマンド52を生成し、描画制御部60は描画コマンド52にしたがって描画結果をフレームバッファ90に格納する(ステップS10)。
次いで、映像合成部80は、ライブ映像(ステップS6で特定された機器の映像)に、重畳表示データである機器の稼働データ、イベントログなどを、表示優先度に基づき重畳表示する表示先として最適な表示デバイスを決定する、そして、フレームバッファ90に格納されたデータを読み出し、決定したデバイスの画面上に重ね合わせて表示する(ステップS11)。
次いで、表示優先度判定部50は、イベントが存在しない場合は(ステップS8)で決定した表示優先順位、入力イベントが存在する場合は(ステップS9)で補正された後の表示優先順位を含む描画用の描画コマンド52を生成し、描画制御部60は描画コマンド52にしたがって描画結果をフレームバッファ90に格納する(ステップS10)。
次いで、映像合成部80は、ライブ映像(ステップS6で特定された機器の映像)に、重畳表示データである機器の稼働データ、イベントログなどを、表示優先度に基づき重畳表示する表示先として最適な表示デバイスを決定する、そして、フレームバッファ90に格納されたデータを読み出し、決定したデバイスの画面上に重ね合わせて表示する(ステップS11)。
図7は映像合成部80が使用する対応情報81を示す図である。図7に示すように、対応情報81は、複数の表示装置と、複数の監視対象機器とを対応付ける対応情報である。対応情報81は、表示装置ごとに少なくとも一つの監視対象機器が対応付けられている。映像合成部80は対応情報81から、描画コマンド52に含まれる機器識別情報を検索キーとして検索キーに対応する表示装置を検索し、ヒットした表示装置を選択して表示する。例えば、描画コマンド52に監視対象機器3を示す機器識別情報が含まれている場合、映像合成部80は表示装置として端末装置3を選択する。このとき端末装置3への表示に関しては、映像合成部80は描画コマンド52に含まれる重畳表示データ識別情報、表示優先度、映像識別情報に基づき端末装置3の表示部に映像を表示する。具体的には映像合成部80は、重畳表示データ識別情報及び映像識別情報に基づき、フレームバッファ90から、該当する重畳表示データ及び機器の映像を読み出すと共に、表示優先度に従って順次、重畳表示データを機器の映像に重畳表示する。
(ステップS12)
次いで、画面更新が必要か否かを判定し(ステップS12)、必要である場合には、ステップS1〜ステップS11の処理を繰り返し行う。画面更新が必要でない場合は、動作を終了する。
次いで、画面更新が必要か否かを判定し(ステップS12)、必要である場合には、ステップS1〜ステップS11の処理を繰り返し行う。画面更新が必要でない場合は、動作を終了する。
次に、データ解析部40のデータ解析結果41と、表示優先度判定部50が決定する各端末の表示優先度との関係について、図3〜図5を用いて説明する。
図3は、通常動作時のデータ解析部40の解析結果41と、各端末の表示内容の例を示したものである。データ解析の結果、異常が見られない場合(異常程度0の場合)、表示優先度判定部50は、カメラのライブ映像表示、イベントログ表示、時系列データ101のトレンドグラフによる表示などの中から、あらかじめ設定されている動作モードに従って表示を行う。動作モードの例としては、最も重要な機器設備を優先して表示する、各設備を適当な時間間隔で切り替えて表示するなど様々な用途で利用することができる。
図4は、異常発生予測時のデータ解析部40の解析結果41と、各端末(表示装置)の表示内容の例を示したものである。図4の例では、データ解析の結果、センサ2(機器2に対応とする)のログデータに異常発生の兆候(異常程度1)が見られたことを示している。表示優先度判定部50は、異常発生の兆候が見られたセンサ2(機器2)のデータ表示の優先度を上げて描画コマンド52を生成するが、これは図6の機器2の「異常程度1」の場合に対応する。前述のように映像合成部80は表示優先度の高い重畳表示データを優先して表示を行うが、映像合成部80は対応情報81を参照することで、異常発生の兆候の通知、操作ガイド用のメッセージ表示などを行うのは、担当作業者の端末装置(図4の場合は端末1のみ)に限る。
図5は、緊急事態発生時のデータ解析部40の解析結果41と、各端末の表示内容の例を示したものである。図5の例では、データ解析の結果、カメラ3の撮影映像(機器1に対応とする)に緊急事態が発生したことを示している。表示優先度判定部50は、異常が発生したカメラのライブ映像表示(機器1の映像)に、図6の機器1の異常程度2の場合の重畳表示データの内容を含む描画コマンド52を生成する。描画制御部60は、優先度の高い描画コマンドを先に描画を行う。映像合成部80は描画された優先度の高いデータを優先して読み出し、緊急事態を通知するため複数の端末で表示を行う。図7に示すように機器1の場合は、表示装置として端末装置1〜3のそれぞれに表示される。
以上の実施の形態1によれば、映像合成部80が、ライブ映像と、「撮影された機器」の稼働データ、イベントログなどの重畳表示データとを、表示優先度に基づき、情報の表示先として最適な表示デバイスの画面上に自動的に重ね合わせて表示するように構成した。よって、非熟練者の操作を助けるとともにヒューマンエラーを防止することができる操作ガイド表示装置を提供できる。
実施の形態1の操作ガイド表示装置100は、工場の生産ラインや発電プラント向けの遠隔監視制御システム等に応用することができる。特に、タブレット端末やウェアラブルデバイスなどのカメラ付きポータブルデバイスに実施の形態1の操作ガイド表示装置100を組み込むことで、工場の生産性向上やヒューマンエラー低減を実現できる。
実施の形態2.
図8を参照して実施の形態2を説明する。実施の形態2は、コンピュータである操作ガイド表示装置100のハードウェア構成を説明する。
図8を参照して実施の形態2を説明する。実施の形態2は、コンピュータである操作ガイド表示装置100のハードウェア構成を説明する。
図8は操作ガイド表示装置100のハードウェア資源の一例を示す図である。ハードウェア資源を示す図8において、操作ガイド表示装置100は、プログラムを実行するCPU950(Central Processing Unit)を備えている。CPU950は、バス958を介してROM(Read Only Memory)951、RAM(Random Access Memory)952、表示装置953、キーボード954、マウス955、通信ボード956、CDD957、磁気ディスク装置960と接続され、これらのハードウェアデバイスを制御する。磁気ディスク装置960の代わりに、光ディスク装置、フラッシュメモリなどの記憶装置でもよい。
RAM952は、揮発性メモリの一例である。ROM951、CDD957、磁気ディスク装置960等の記録媒体は、不揮発性メモリの一例である。これらは、記憶装置あるいは記憶部、格納部、バッファの一例である。通信ボード956、キーボード954などは、入力部、入力装置の一例である。また、通信ボード956、表示装置953などは、出力部、出力装置の一例である。通信ボード956は、ネットワークに接続されている。
磁気ディスク装置960には、オペレーティングシステム961(OS)、プログラム群962、ファイル群963が記憶されている。プログラム群962のプログラムは、CPU950、オペレーティングシステム961により実行される。
上記プログラム群962には、以上の実施の形態の説明において「〜部」として説明した機能を実行するプログラムが記憶されている。プログラムは、CPU950により読み出され実行される。
ファイル群963には、以上の実施の形態の説明において、「〜の判定結果」、「〜の算出結果」、「〜の抽出結果」、「〜の生成結果」、「〜の処理結果」として説明した情報や、重畳情報テーブル51及び対応情報81や、データや信号値や変数値やパラメータなどが、「〜ファイル」や「〜データベース」の各項目として記憶されている。「〜ファイル」や「〜データベース」は、ディスクやメモリなどの記録媒体に記憶される。また、ディスクやメモリなどの記録媒体に記憶された情報やデータや信号値や変数値やパラメータは、読み書き回路を介してCPU950によりメインメモリやキャッシュメモリに読み出され、抽出・検索・参照・比較・演算・計算・処理・出力・印刷・表示などのCPUの動作に用いられる。抽出・検索・参照・比較・演算・計算・処理・出力・印刷・表示などのCPUの動作の間、情報やデータや信号値や変数値やパラメータは、メインメモリやキャッシュメモリやバッファメモリに一時的に記憶される。
また、以上に述べた実施の形態の説明において、データや信号値は、RAM952のメモリ、CDD957のコンパクトディスク、磁気ディスク装置960の磁気ディスク、その他光ディスク、ミニディスク、DVD(Digital Versatile Disk)等の記録媒体に記録される。また、データや信号は、バス958や信号線やケーブルその他の伝送媒体によりオンライン伝送される。
また、以上の実施の形態の説明において、「〜部」として説明したものは、「〜手段」、であってもよく、また、「〜ステップ」、「〜手順」、「〜処理」であってもよい。すなわち、「〜部」として説明したものは、ソフトウェアのみ、或いは、ソフトウェアとハードウェアとの組み合わせ、さらには、ファームウェアとの組み合わせで実施されても構わない。ファームウェアとソフトウェアは、プログラムとして、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD等の記録媒体に記憶される。プログラムはCPU950により読み出され、CPU950により実行される。すなわち、プログラムは、以上に述べた「〜部」としてコンピュータを機能させるものである。あるいは、以上に述べた「〜部」の手順や方法をコンピュータに実行させるものである。
以上の実施の形態では、操作ガイド表示装置100を説明したが、操作ガイド表示装置100の動作は、プログラムとしても把握できることは以上の説明から当然である。また操作ガイド表示装置100の各「〜部」の動作は方法としても把握できることは以上の説明により明らかである。
10 時系列データ入力部、20 映像データ入力部、30 データ入力選択部、40 データ解析部、41 解析結果、50 表示優先度判定部、51 重畳情報テーブル、52 描画コマンド、60 描画制御部、70 入力情報判定部、80 映像合成部、81 対応情報、90 フレームバッファ、100 操作ガイド表示装置、101 時系列データ、102 映像データ、103 データベース読み出しデータ、200 データベース、950 CPU、951 ROM、952 RAM、953 表示装置、954 キーボード、955 マウス、956 通信ボード、957 CDD、960 磁気ディスク装置、961 OS、962 プログラム群、963 ファイル群。
Claims (5)
- 監視対象となる監視対象機器の時系列データを解析して前記時系列データの異常程度を判定すると共に、前記監視対象機器が含まれる映像データから前記監視対象機器の映像を特定し、前記監視対象機器を識別する機器識別情報と、前記異常程度と、特定された前記監視対象機器の前記映像を識別する映像識別情報とを含む解析結果を生成する解析部と、
複数の前記監視対象機器の前記監視対象機器ごとに前記異常程度に応じて重畳表示用の重畳表示データが指定された重畳情報のなかから、前記解析結果に基づいて、前記異常程度が判定された前記監視対象機器の前記重畳表示データを特定し、特定された前記重畳表示データを識別する重畳表示データ識別情報と、前記解析結果に含まれる前記映像識別情報とを含む描画コマンドを生成する描画コマンド生成部と、
前記描画コマンドに含まれる前記重畳表示データ識別情報の示す前記重畳表示データを、前記描画コマンドに含まれる前記映像識別情報の示す前記映像に重畳して、表示装置に表示する重畳表示部と
を備えたことを特徴とする重畳表示支援装置。 - 前記重畳情報は、
前記重畳表示データとして、前記監視対象機器への前記異常程度に対応する操作手順が指定されていることを特徴とする請求項1記載の重畳表示支援装置。 - 前記重畳情報は、
各監視対象機器の前記異常程度ごとに、複数の前記重畳表示データが指定されていると共に各重畳表示データに表示順番を示す表示優先度が付与されており、
前記描画コマンド生成部は、
前記解析結果に基づいて、前記重畳情報のなかから前記異常程度が判定された前記監視対象機器について複数の前記重畳表示データを特定し、特定された複数の前記重畳表示データのそれぞれを識別する重畳表示データ識別情報と、特定された複数の前記重畳表示データのそれぞれの前記表示優先度とを前記描画コマンドに含め、
前記重畳表示部は、
前記描画コマンドに含まれるそれぞれの前記表示優先度に従って、前記描画コマンドに含まれる複数の前記重畳表示データ識別情報の示すそれぞれの前記重畳表示データを、前記描画コマンドに含まれる前記映像識別情報の示す前記映像に重畳して、表示装置に表示することを特徴とする請求項1または2のいずれかに記載の重畳表示支援装置。 - 前記描画コマンド生成部は、
前記描画コマンドに前記機器識別情報を含め、
前記重畳表示部は、
複数の表示装置と、複数の監視対象機器とを対応付ける対応情報であって、前記表示装置ごとに少なくとも一つの前記監視対象機器が対応付けられた対応情報から、前記描画コマンドに含まれる前記機器識別情報を検索キーとして前記検索キーに対応する前記表示装置を検索し、ヒットした前記表示装置に表示することを特徴とする請求項1〜3のいずれか1項に記載の重畳表示支援装置。 - コンピュータに、
監視対象となる監視対象機器の時系列データを解析して前記時系列データの異常程度を判定すると共に、前記監視対象機器が含まれる映像データから前記監視対象機器の映像を特定し、前記監視対象機器を識別する機器識別情報と、前記異常程度と、特定された前記監視対象機器の前記映像を識別する映像識別情報とを含む解析結果を生成する処理、
複数の前記監視対象機器の前記監視対象機器ごとに前記異常程度に応じて重畳表示用の重畳表示データが指定された重畳情報のなかから、前記解析結果に基づいて、前記異常程度が判定された前記監視対象機器の前記重畳表示データを特定し、特定された前記重畳表示データを識別する重畳表示データ識別情報と、前記解析結果に含まれる前記映像識別情報とを含む描画コマンドを生成する処理、
前記描画コマンドに含まれる前記重畳表示データ識別情報の示す前記重畳表示データを、前記描画コマンドに含まれる前記映像識別情報の示す前記映像に重畳して、表示装置に表示する処理
を実行させるための重畳表示支援プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014055894A JP2015179355A (ja) | 2014-03-19 | 2014-03-19 | 重畳表示支援装置及び重畳表示支援プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014055894A JP2015179355A (ja) | 2014-03-19 | 2014-03-19 | 重畳表示支援装置及び重畳表示支援プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015179355A true JP2015179355A (ja) | 2015-10-08 |
Family
ID=54263368
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014055894A Pending JP2015179355A (ja) | 2014-03-19 | 2014-03-19 | 重畳表示支援装置及び重畳表示支援プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015179355A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019026245A1 (ja) * | 2017-08-03 | 2019-02-07 | 三菱電機株式会社 | 監視制御画面表示装置 |
JP2020048702A (ja) * | 2018-09-25 | 2020-04-02 | 株式会社Tree Field | 飲料製造装置 |
JP7558108B2 (ja) | 2021-04-22 | 2024-09-30 | 株式会社ダイヘン | 操作装置及びロボット制御システム |
-
2014
- 2014-03-19 JP JP2014055894A patent/JP2015179355A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019026245A1 (ja) * | 2017-08-03 | 2019-02-07 | 三菱電機株式会社 | 監視制御画面表示装置 |
JP2020048702A (ja) * | 2018-09-25 | 2020-04-02 | 株式会社Tree Field | 飲料製造装置 |
JP7260135B2 (ja) | 2018-09-25 | 2023-04-18 | 株式会社大都技研 | 飲料製造装置 |
JP7558108B2 (ja) | 2021-04-22 | 2024-09-30 | 株式会社ダイヘン | 操作装置及びロボット制御システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20150106721A1 (en) | Monitoring method | |
JP6459256B2 (ja) | 画像記憶再生制御装置、画像記憶再生制御方法、画像記憶再生制御システム、及びプログラム | |
WO2016132731A1 (ja) | 作業支援装置、作業支援システム、作業支援方法及び作業支援プログラムを記憶する記録媒体 | |
US20200401981A1 (en) | Work operation analysis system and work operation analysis method | |
JP2018507439A (ja) | 表示機器のカムフラージュ/回復システム及び制御方法 | |
US11386934B2 (en) | Method and device for displaying target object | |
WO2019218656A1 (zh) | 一种智能电视、其截屏应用方法及存储介质 | |
JP5741169B2 (ja) | 監視操作システム、トラッキング支援装置およびトラッキング支援方法 | |
JP2018116325A (ja) | 異常検知システム、異常検知装置、異常検知方法およびプログラム | |
WO2010110000A1 (ja) | プログラマブル表示器 | |
JP6270488B2 (ja) | オペレータ監視制御装置およびオペレータ監視制御方法 | |
JP2015179355A (ja) | 重畳表示支援装置及び重畳表示支援プログラム | |
US10719543B2 (en) | Information processing apparatus, information processing method, and program | |
JP2008009938A (ja) | 動画像データ処理装置、動画像データ処理方法、動画像データ処理プログラム、およびこれを記録した記録媒体 | |
WO2019167775A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2017156928A (ja) | 映像監視装置、映像監視方法、および映像監視システム | |
JP2020113155A5 (ja) | ||
JP6813077B1 (ja) | 生産システム、復旧システム、生産方法、及びプログラム | |
US11361797B2 (en) | Moving image reproduction apparatus, moving image reproduction method, moving image reproduction system, and storage medium | |
US10979777B2 (en) | Processing system for performing reverse video content output generation | |
US20180241905A1 (en) | Image processing apparatus and non-transitory computer readable medium | |
JP2015230584A (ja) | 警報対応支援装置および警報対応支援方法 | |
JP2021047698A (ja) | 支援装置、支援装置の制御方法およびプログラム | |
JP2018195072A (ja) | 作業監視装置及び方法 | |
US11770395B2 (en) | Information processing apparatus, computer program product, and information processing system |