JP2015001663A - 画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP2015001663A
JP2015001663A JP2013126851A JP2013126851A JP2015001663A JP 2015001663 A JP2015001663 A JP 2015001663A JP 2013126851 A JP2013126851 A JP 2013126851A JP 2013126851 A JP2013126851 A JP 2013126851A JP 2015001663 A JP2015001663 A JP 2015001663A
Authority
JP
Japan
Prior art keywords
area
image
region
unit
attention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013126851A
Other languages
English (en)
Inventor
松 美 佳 峰
Mika Minematsu
松 美 佳 峰
会 津 宏 幸
Hiroyuki Aizu
津 宏 幸 会
瀬 恒太郎 伊
Tsunetaro Ise
瀬 恒太郎 伊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2013126851A priority Critical patent/JP2015001663A/ja
Publication of JP2015001663A publication Critical patent/JP2015001663A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】注目すべき事象が発生した場合に、その状況を把握できる可能性を向上させる。【解決手段】画像処理装置1の注目点検出部132は、画像において予め決められた事象が発生した領域である第1の領域を検出する。画像処理装置1の注目領域検出部133は、その注目点検出部132が検出した第1の領域の情報に基づいて第2の領域を上記画像内から検出する。画像処理装置1の注目領域表示部134は、注目領域検出部133が検出した第2の領域の情報に基づいて、画像に対する出力処理を行う。【選択図】図1

Description

本発明の実施形態は、画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラムに関する。
複数の監視対象機器の監視画面を中央監視室の表示装置上で集中的に監視する遠隔監視システムが存在する。遠隔監視システムでは、監視対象機器に問題が発生した場合に、即座に状況を把握して対応することが重要である。
特開平8−263253号公報
しかしながら、遠隔監視システムは、監視者または現場の作業員が注目すべき事象(例えば、監視対象機器に問題)が発生した場合に、その事象に関する情報が適切に表示されないために、監視者または現場の作業員がその状況を把握しにくかったり、把握できなかったりする場合があった。
そこで本発明の一態様は、上記問題に鑑みてなされたものであり、注目すべき事象が発生した場合に、その状況を把握できる可能性を向上させる画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラムを提供することを課題とする。
本発明の実施形態によれば、画像処理装置の第一領域検出部は、画像において予め決められた事象が発生した領域である第1の領域を検出する。画像処理装置の第二領域検出部は、その第一領域検出部が検出した第1の領域の情報に基づいて第2の領域を上記画像内から検出する。画像処理装置の出力処理部は、第二領域検出部が検出した第2の領域の情報に基づいて、画像に対する出力処理を行う。
第1の実施形態に係る画像処理装置の構成を示す概略ブロック図である。 第1の実施形態に係る注目点および注目領域の第1の例を示す図である。 第1の実施形態に係る注目点および注目領域の第2の例を示す図である。 第1の実施形態に係る注目点および注目領域の第3の例を示す図である。 第1の実施形態に係る画像処理装置の処理の流れの一例を示すフローチャートである。 2の実施形態に係る画像処理システムの構成を示す概略ブロック図である。 第2の実施形態における注目点および注目領域の例を示す図である。 第2の実施形態に係る画像処理装置の処理の流れの一例を示すフローチャートである。 第3の実施形態に係る画像処理システムの構成を示す概略ブロック図である。 第3の実施形態における注目点と注目領域の例を示す図である。 第3の実施形態に係る画像処理装置の処理の流れの一例を示すフローチャートである。
以下、本発明の実施形態について、図面を参照して詳細に説明する。各実施形態において、画像処理装置が画像内から事象が発生した領域として検出する第1の領域を注目点とし、画像処理装置がその画像内から検出する第2の領域を遠隔監視システムの監視者または現場の作業員に注目してもらいたい注目領域として説明する。
(第1の実施形態)
図1は、第1の実施形態に係る画像処理装置1の構成を示す概略ブロック図である。画像処理装置1は、記憶部11、アプリケーション実行部12及びウィンドウ処理部13を備える。
記憶部11には、アプリケーション実行部12が実行するアプリケーションが記憶されている。そのアプリケーションは、画像処理装置1上で動作する各種処理を提供するプログラムである。ここで記憶部11は、規則記憶部111及びフレームバッファ112を備える。
規則記憶部111は、画像内においてどのような事象が起こった領域を注目点(第1の領域)として検出するかが定められた規則(以下、注目点検出規則ともいう)が記憶されている。
フレームバッファ112は、画像処理装置1が生成する画像情報を保持する。なお、フレームバッファは、RAM(Random Access Memory)、HDD(Hard Disk Drive)、光ディスク、メモリカードなどの一般的に利用されているあらゆる記憶媒体により構成することができる。
アプリケーション実行部12は、記憶部11に記憶されたアプリケーションを読み出し、読み出したアプリケーションを実行する。本実施形態に係るアプリケーション実行部12は一例として、ウィンドウ処理部13の後述する注目点検出部132に、注目点の画像内における位置及び範囲を示す注目点情報を通知する。ここで、後述する図2の領域R11に示すように、注目点が四角い画像領域の場合、注目点情報は例えば、その四角い画像領域の左上の座標とその四角い画像領域の高さ及び幅との組、またはその四角い画像領域の四隅の座標である。
なお、本実施形態では一例として、注目点情報は、注目点の画像内における位置及び範囲を示すが、これに限らず、注目点が一画像の場合、注目点情報は注目点の画像内における位置だけを示してもよい。このことから、注目点情報は少なくとも注目点の画像内における位置を含む。
ウィンドウ処理部13は、アプリケーションから通知された注目点情報(ここでは、注目点の位置及び範囲)を用いて、注目領域を検出し、検出した注目領域の位置及び範囲を表す情報を表示装置5に表示させる。ここでウィンドウ処理部13は、第一の決定部131、注目点検出部(第一領域検出部)132、注目領域検出部(第二領域検出部)133及び注目領域表示部(出力処理部)134を備える。
第一の決定部131は、規則記憶部111から使用する注目点検出規則を読み出し、読み出した注目点検出規則を注目点検出部132へ出力する。ここで、注目点検出規則は一例としてアプリケーション実行部12からの注目点情報の通知を予め決められた事象として、当該注目点情報により特定される領域を注目点として検出するという規則である。
なお、本実施形態では一例として、注目点検出規則は、アプリケーション実行部12から通知された注目点情報により特定される領域を注目点として検出するという規則としたが、これに限ったものではない。注目点検出部132は、ユーザまたはアプリケーションによる領域の指定を予め決められた事象として当該指定された画像領域を注目点として検出するという規則、特定の画面変化を予め決められた事象として当該画面変化が発生した画像領域を注目点として検出するという規則、またはユーザによる画像領域の操作を予め決められた事象として当該ユーザが操作した画像領域を注目点として検出するという規則、のいずれかとしてもよい。
また、第一の決定部131は、アプリケーション実行部12が実行するアプリケーションの種類に応じて、注目点検出規則を決定してもよい。その場合、規則記憶部111に、アプリケーションの種類毎に注目点検出規則が記憶されていてもよく、第一の決定部131は、アプリケーション実行部12が実行するアプリケーションの種類に対応する注目点検出規則を規則記憶部111から読み出し、読み出した注目点検出規則を注目点検出部132へ出力してもよい。
注目点検出部132は、第1の決定部131から入力された注目点検出規則に基づいて、画像において予め決められた事象が発生した領域である注目点を検出する。本実施形態では一例として、その注目点検出規則がアプリケーション実行部12から通知された注目点情報により特定される領域を注目点として検出するという規則であるので、注目点検出部132は一例として、アプリケーション実行部12から入力された注目点情報により特定される領域を注目点として検出する。ここで、後述する図2の領域R11に示すように、注目点が例えば四角い画像領域の場合、注目点情報は例えばその四角い画像領域の左上の座標とその四角い画像領域の高さ及び幅との組である。よって、その場合注目点検出部132は、その四角い画像領域の左上の座標とその四角い画像領域の高さ及び幅との組から四角い画像領域を注目点として検出する。注目点検出部132は、検出した注目点の位置及び範囲を示す注目点情報を注目領域検出部133へ出力する。
注目領域検出部133は、注目点検出部132から入力された注目点情報に基づき、注目領域(第2の領域)の位置及び範囲を、注目点を検出した画像と同じ画像内から検出する。本実施形態では一例として、注目領域検出部133は、注目点情報と注目領域の位置及び範囲とを関連づけた情報を予め保持しており、注目点検出部132が検出した注目点に対応する注目領域を当該情報から特定する。注目領域検出部133は、特定した注目領域の位置及び範囲を示す注目領域情報を注目領域表示部134へ出力する。
注目領域表示部134は、注目領域検出部133が検出した注目領域の情報に基づいて、画像に対する出力処理を行う出力処理部として機能する。本実施形態では一例として注目領域表示部134は、注目領域検出部133から入力された注目領域情報が示す位置及び範囲を表す情報を表示装置5に表示させる。例えば注目領域表示部134は、注目領域の外縁を示す矩形(図2のR12参照)を描画する。表示装置5の画面に表示された矩形は、例えば障害が及ぶ機器の範囲を示しているので、監視者は、表示装置5の画面に表示された矩形を一見しただけで、障害が及ぶ機器の範囲を把握することができる。また、注目領域表示部134は、注目領域の外縁を示す矩形を描画した後の画像情報をフレームバッファ112に記憶させる。
なお、本実施形態では一例として注目領域表示部134は、注目領域の外縁を示す矩形(図2のR12参照)を描画したが、これに限らず、注目領域表示部134は、注目領域の輝度を高くしてもよいし、注目領域の背景の領域の色を変更してもよい。
図2を用いて、注目点の位置毎に予め決定された注目領域の一例を説明する。図2は、第1の実施形態に係る注目点および注目領域の第1の例を示す図である。同図において、表示装置5に表示された画面G1の一例が示されている。画面G1中には、機器を表すノードN1〜N9が四角い枠で示され、各ノードN1〜N9の接続関係から、各機器がどのように接続されているかが分かる。同図の画面G1の例において、警告を通知するために点滅している領域R11が注目点で、矩形R12で示される領域が注目領域である。
図2の例にように、注目領域検出部133は、領域R11の位置及び範囲を示す情報と矩形R12で示される領域の位置及び範囲を示す情報とを予め関連付けて保持する。そして、注目領域検出部133は、注目点検出部132が検出した注目点である領域R11の位置及び範囲を示す情報に対応する、矩形R12で示される領域の位置と範囲を示す情報を読み出し、読み出した情報により特定される画像領域を注目領域として検出する。
なお、注目領域検出部133は、予め画面を複数の領域(以下、分割領域という)に分割しておき、注目点を含む分割領域を注目領域として検出してもよい。また例えば、注目領域検出部133は、第1の領域が含まれる画像領域が示すノードの接続関係に応じて、注目領域の位置及び範囲を決定してもよい。
図3を用いて、注目点が含まれるノードに応じて注目領域を決定する注目領域検出部133の処理の一例を説明する。図3は、第1の実施形態に係る注目点および注目領域の第2の例を示す図である。同図において、表示装置5に表示された画面G2の一例が示されている。画面G2中には、機器を表すノードN1〜N9が四角い枠で示され、各ノードN1〜N9の接続関係から、各機器がどのように接続されているかが分かる。同図の画面G2の例において、警告を通知するために点滅している領域R21が注目点で、矩形R22で示される領域が注目領域である。
図3の例にように、注目点がノードN8の画像領域に含まれる場合、注目領域検出部133が注目点を含むノードN8とそのノードに隣接するノードN9を含む領域を注目領域として検出する。その検出した結果、図3の例のように矩形R22で示される領域が注目領域として表示装置5に表示される。このように、注目領域検出部133は、注目点が含まれる画像領域が示すノードに隣接されているノードを含む画像領域を注目領域として検出してもよい。
図3の例では、あるノードに相当する機器に障害が発生すると、隣接するノードに相当する機器にも影響が及ぶため、注目点を含むノードとそのノードに隣接するノードを含む画像領域が注目領域として検出されている。そのため、図3に示すように注目点が注目領域の必ずしも中心になるとは限らず、注目点を含んで適切な注目領域が検出される。
なお、注目領域検出部133は、注目点(第1の領域)における画像変化を検出し、該検出した画像変化に基づいて、注目領域(第2の領域)を検出してもよい。具体的には、注目領域検出部133は、画像変化から監視する対象となる機器で発生した障害に関する障害情報(例えば、障害の事象を示す情報)を検出し、その検出した障害情報に基づいて、注目領域(第2の領域)の位置及び範囲を決定してもよい。一例として障害情報が警告の種類を表す場合、注目領域検出部133は、画像変化から監視する対象となる機器に対する警告の種類を検出し、該検出した警告の種類に応じて、注目領域(第2の領域)の位置及び範囲を決定してもよい。具体的には例えば、注目領域検出部133は、警告の種類と注目領域の位置及び範囲とを関連付けた情報を予め保持しており、検出した警告の種類に対応する注目領域の位置及び範囲を読み出し注目領域と検出してもよい。
また、注目領域検出部133は、画像変化が速いほど警告の緊急度が高いことを表す場合には、画像変化が速いほど注目領域(第2の領域)の範囲を大きくしてもよい。具体的には例えば、注目領域表示部134は、注目点の点滅速度が速いほど緊急度が高いことを表す場合に、点滅の速度が速いほど注目領域(第2の領域)の範囲を大きくしてもよい。これにより、注目領域検出部133は、警告の緊急度が高いほど、注目領域の範囲を大きくすることで、監視者の注意を引き易くすることができるので、監視者がその警告を見逃す可能性を下げることができる。
また、注目領域検出部133は、注目点(第1の領域)における画像変化を検出し、その検出した画像変化と注目点の位置を示す情報とに基づいて、注目領域(第2の領域)を検出してもよい。これにより、画像変化が示す事象と注目点の位置を示す情報の双方を考慮して注目領域を検出するので、より適切な注目領域を検出することができる。
また、注目領域検出部133は、注目点(第1の領域)が複数検出された場合、その複数の注目点(第1の領域)の情報に基づいて、注目領域(第2の領域)を検出してもよい。例えば、注目領域検出部133は、注目点(第1の領域)が複数検出された場合、その複数の注目点(第1の領域)を含む領域を注目領域(第2の領域)として検出してもよい。
また、記憶部11が例えば、予めノード毎にそのノードで障害が発生した場合に影響を及ぼす影響波及ノードを関連付けた情報を保持しているという前提で、注目点が複数検出された場合に、注目領域検出部133は各注目点を含むノードに対する影響波及ノードを読み出してもよい。その場合に注目領域検出部133は、読み出した影響波及ノードそれぞれと各注目点を含むノードとを含む画像領域を注目領域として検出してもよい。
図4を用いて、その注目領域検出部133の処理の一例を説明する。図4は、第1の実施形態に係る注目点および注目領域の第3の例を示す図である。同図において、表示装置5に表示された画面G3の一例が示されている。画面G3中には、機器を表すノードN1〜N9が四角い枠で示され、各ノードN1〜N9の接続関係から、各機器がどのように接続されているかが分かる。同図の画面G3の例において、警告を通知するために点滅している領域R31が第1の注目点で、警告を通知するために点滅している領域R32が第2の注目点で、矩形R33で示される領域が注目領域である。
図4では、第1の注目点としての領域R31がノードN1の画像領域に含まれ、かつ第2の注目点としての領域R32がノードN9の画像領域に含まれている。そして、例えば注目領域検出部133は、ノードN1の影響波及ノードとしてノードN2〜N5を保持し、ノードN9の影響波及ノードとしてノードN8を保持する。その場合、注目領域検出部133は一例として、図4の矩形R33で示される、ノードN1〜N5とノードN8〜N9を含む領域を注目領域として検出する。その検出した結果、図4の例のように矩形R33で示される領域が注目領域として表示装置5に表示される。
図5は、第1の実施形態に係る画像処理装置の処理の流れの一例を示すフローチャートである。
(ステップS101)まず、第一の決定部131は、注目点検出規則を決定する。ここでは一例として、第一の決定部131は、アプリケーション実行部12から通知された注目点情報により特定される領域を注目点として検出するという注目点検出規則を決定する。
(ステップS102)次に、注目点検出部132は例えば、第一の決定部131から入力された注目点検出規則に従い、アプリケーション実行部12から通知された注目点情報により特定される領域を注目点として検出する。
(ステップS103)次に、注目領域検出部133は、注目点検出部132が検出した注目点情報に応じて注目領域を検出する。ここでは一例として、注目領域検出部133は、注目点情報と注目領域の位置及び範囲とを予め関連付けた情報を保持し、注目点に対応する注目領域を当該情報から特定する。
(ステップS104)次に、注目領域表示部134は、注目領域検出部133が検出しした注目領域の位置及び範囲を表す情報を表示装置5に表示させる。例えば注目領域表示部134は、注目領域の外縁を示す赤い矩形を表示装置5に描画する。
このように、第1の実施形態に係る画像処理装置1は、アプリケーションから与えられた注目点情報で特定される画像領域を注目点とし、注目点の位置毎に予め決定された注目領域を検出し、検出した注目領域の位置及び範囲を表す情報を表示装置5に表示する。これにより、表示装置5に事象の状況を知らせるのに適切な注目領域が表示されることで、監視者は注目領域を確認するだけで注目すべき事象の状況を容易に把握することができるので、監視者がその状況を把握できる可能性を向上させることができる。
(第2の実施形態)
続いて、第2の実施形態について説明する。第1の実施形態に係る画像処理装置1は一例として、アプリケーション実行部11から与えられた位置情報を注目点とし、位置ごとに予め定められた注目領域を検出した。第2の実施形態では、画像処理装置1bが、ユーザにより操作された領域を注目点とし、注目点とユーザの操作の結果生じた画面変化領域とを含む注目領域を検出する例を説明する。
図6は、第2の実施形態に係る画像処理システム102の構成を示す概略ブロック図である。なお、図1と共通する要素には同一の符号を付し、その具体的な説明を省略する。画像処理システム102は画像処理装置1bと端末装置3とを具備する。画像処理装置1bは通信回路網2を介して端末装置3と接続されている。
第2の実施形態に係る画像処理装置1bの構成は、第1の実施形態に係る画像処理装置1の構成に対して、記憶部11が記憶部11bに、アプリケーション実行部12がアプリケーション実行部12bに、ウィンドウ処理部13がウィンドウ処理部13bに変更され、入力部14と通信部(第1の通信部)15が追加されたものになっている。
記憶部11bは、第1の実施形態に係る記憶部11に比べて、規則記憶部111が規則記憶部111bに変更され、更にフレームバッファ112が追加された構成になっている。
規則記憶部111bは、第1の実施形態の規則記憶部111と比べて、更に画像内の注目点(第1の領域)からどのように注目領域(第2の領域)を検出するかの規則(以下、注目領域検出規則ともいう)が予め記憶されている点が異なる。
フレームバッファ112は、画像情報を記憶可能であり、ウィンドウ処理部13bの後述する描画部135が描画した画像情報を描画部135から受け取り、受け取った画像情報を保持する。
入力部14は、ユーザによる操作(例えば、マウスカーソルの移動やマウスクリックなど)を検出し、ユーザの操作により入力された入力情報をウィンドウ処理部13bの後述する注目点検出部132bへ出力する。ここで入力部14は一例としてマウスであり、入力情報は例えば、ユーザが操作したユーザ操作領域(例えば、ユーザがマウスクリックした位置)を示すユーザ操作領域情報である。
アプリケーション実行部12bは、第1の実施形態におけるアプリケーション実行部12と同様の機能を有するが、描画命令を描画部135へ出力する点が異なる。
ウィンドウ処理部13bは、第1の実施形態におけるウィンドウ処理部13に比べて、描画部135と第二の決定部136とが追加され、第一の決定部131が第一の決定部131bに、注目点検出部132が注目点検出部132bに、注目領域検出部133が注目領域検出部133bに、注目領域表示部134が画像生成部(出力処理部)137に変更されたものになっている。
規則記憶部111bには一例として、ユーザが操作したユーザ操作領域を注目点として検出するという注目点検出規則が記憶されている。第一の決定部131bは一例として、規則記憶部111bから使用する注目点検出規則を読み出し、読み出した注目点検出規則を注目点検出部132bへ出力する。
注目点検出部132bは一例として、第一の決定部131bから入力された注目点検出規則に従って、入力部14から入力された入力情報(ここでは、一例としてユーザ操作領域情報)から、ユーザが操作したユーザ操作領域を注目点として検出する。注目点検出部132bは検出した注目点の位置及び範囲を示す注目点情報を注目領域検出部133bへ出力する。
描画部135は、アプリケーション実行部12bから描画命令を受け取り、受け取った描画命令に従い各種画像処理を行った結果の画像情報を記憶部11bのフレームバッファに記憶させる。また、描画部135は、描画により特定の画面変化が発生した領域の位置及び範囲を示す描画情報を注目領域検出部133bへ出力する。具体的には図7の例において、描画部135は例えば、入力部14がユーザによる「故障」ボタンを押す操作を受け付けた場合に、表示させるエラーログの画像領域(図7の領域R42)の位置及び範囲を示す情報を注目領域検出部133bへ出力する。
第二の決定部136は、注目領域検出規則を決定する。例えば第二の決定部136は、注目領域検出規則を規則記憶部111bから読み出し、読み出した注目領域検出規則を注目領域検出部133bへ出力する。ここでは注目領域検出規則は一例として、描画部135が描画することにより特定の画面変化が発生した領域と注目点検出部132bが検出した注目点(第1の領域)とを含む領域を注目領域(第2の領域)として検出するという規則である。
注目領域検出部133bは例えば、第二の決定部136が決定した注目領域検出規則に従って、注目点検出部132bから入力された注目点情報に基づき、注目領域(第2の領域)を検出する。例えば注目領域検出部133bは、第二の決定部136が決定した注目領域検出規則に従って、描画部135が描画することにより特定の画面変化が発生した領域と注目点検出部132bが検出した注目点(第1の領域)とを含む領域を注目領域(第2の領域)として検出する。具体的には例えば、図7の例の場合、特定の画面変化が発生した領域は、エラーログの画像領域(図7の領域R42)であり、注目領域検出部133bは、エラーログの画像領域と注目点であるユーザの操作領域(図7の領域R41参照)とを含む画像領域R43を注目領域として検出する。注目領域検出部133bは、検出した注目領域の位置及び範囲を示す注目領域情報を画像生成部137へ出力する。
画像生成部137は、注目領域検出部133が検出した注目領域の情報に基づいて、画像に対する出力処理を行う出力処理部として機能する。画像生成部137は、注目領域検出部133bから入力された注目領域情報を用いて注目領域の画像情報をフレームバッファ112から読み出し、読み出した画像情報を通信部15から端末装置3へ送信させる。
なお、画像生成部137は、この画像情報を、圧縮してもよい。また、画像生成部137は、端末装置3の画面サイズに合わせて画像情報が示す画像を拡大または縮小してもよい。
通信部15は、画像生成部137が生成した画像情報を端末装置3へ送信する。ここで通信部15による通信は有線であっても無線であってもよい。なお、通信部15は、画像情報を送信するだけでもよいし、端末装置3から画像情報に対する操作を示す情報を受信してもよい。
また、通信部15は、例えば、端末装置3の宛先を示す宛先情報(例えば、IPアドレス)を記憶部11bのデータベースに登録しておき、通信部15が記憶部11bのデータベースから宛先情報を取得することで送信先の端末装置3の宛先を特定する。なお、通信部15は、送信先の端末装置3を、時間帯や注目領域ごとに変更してもよい。また、送信先の端末装置3が複数あってもよい。
端末装置3は、通信部(第2の通信部)31、処理部32及び表示部33を備える。
通信部31は、通信部15が送信した画像情報を受信し、受信した画像情報を処理部32へ出力する。処理部32は、通信部31が受信した画像情報を表示部33に表示させる。これにより、表示部33は、通信部31が受信した画像情報に基づいて、注目領域(第2の領域)の画像を表示する。
また、端末装置3は、画像情報を、特定のアプリケーションで表示してもよいし、メールで表示してもよいし、ブラウザで表示してもよい。なお、端末装置3は、表示部33の画面サイズに合わせて、画像情報を拡大または縮小してもよい。
図7は、第2の実施形態における注目点および注目領域の例を示す図である。同図は表示装置5に表示された画面G4を監視者が確認し、端末装置3に表示された画面G5を現場の作業員が確認している例である。同図では、「故障」と表示されている画像領域をマウスでクリックすると、故障の詳細であるエラーログが表示されるアプリケーションの画面G4の例が示されている。画面G4の向かって左上端がij座標の原点である。同図の例では、ユーザがマウスでクリックした領域R41を注目点とし、注目点とエラーログの画像領域R42を含む領域を注目領域としている。なお、図7では分かりやすくするために領域R41が示されているが、領域R41は実際の画面には表示される必要はない。画面G4には、注目領域の外縁を示す枠R43が表示されている。注目領域の外縁を示す枠R43がエラーログも含むように表示されることで、監視者の注意がエラーログに向くので、監視者がエラーログを見逃す可能性を下げることができ、監視者が故障の詳細を把握できる可能性を向上させることができる。
また、図7において、注目領域の画像情報が通信回路網を介して画像処理装置1bから端末装置3へ送信され、端末装置3の画面G5に、注目領域の画像情報が表示されている。これにより、端末装置3の画面には、エラーログも含むように表示されることで、端末装置3のユーザ(例えば、現場の作業員)はエラーログから故障の詳細を把握することができる。
なお、注目領域検出部133bは、注目点を含むHTML要素に相当する領域を注目領域としてもよい。ここでHTML要素は開始タグ、内容及び終了タグの三つから構成される。例えば、図7の例のアプリケーションがウェブアプリケーションとして作られており、正常/故障情報、運用/停止情報、装置名、ログ情報が、装置ごとに1つのDiv要素によってグループ化されている場合を想定する。ここで、Div要素は、HTML要素の一例であり、区切りを意味するブロック要素である。その想定で、注目領域検出部133bは、アプリケーション実行部12bから、Div要素に相当する領域ごとの位置および範囲を取得して、注目点を含むDiv要素を注目領域としてもよい。例えば、図7の例では、注目領域検出部133bは、アプリケーション実行部12bから、装置A、装置B、装置Cに対応する3つのDiv要素が通知され、注目点を含む、装置Aに対応するDiv要素に相当する領域を注目領域として検出してもよい。
その場合、記憶部11bには例えば、Div要素毎にDiv要素に相当する領域の位置及び範囲の情報が記憶され、ユーザが操作可能な画像領域である操作可能領域毎にDiv要素が関連付けられて記憶されていてもよい。そして、注目領域検出部133bは、ユーザが操作した領域が注目領域(第1領域)として検出された場合、記憶部11bを参照して、その注目領域を包含する操作可能領域に対応するDiv要素を特定してもよい。そして注目領域検出部133bは、特定したDiv要素に相当する領域の位置と注目領域を包含する操作可能領域とを含む領域を前記第2の領域として検出してもよい。なお、ここでは一例としてDiv要素について説明したが、他のHTML要素についても適用可能である。
また、装置が故障すると自動的にエラーメッセージが表示され、「故障」と表示されている領域をクリックすると装置の設定を変更できるアプリケーションの例の場合、注目領域検出部133bは、画面変化領域(ここでは例えば、エラーメッセージの表示領域)を注目点とし、注目点と操作可能領域を含む領域を注目領域としてもよい。これにより、注目領域検出部133bは、図7と同一の注目領域を検出することができる。
図8は、第2の実施形態に係る画像処理装置の処理の流れの一例を示すフローチャートである。
(ステップS201)まず、第一の決定部131bは、使用する注目点検出規則を規則記憶部111bから読み出す。ここでは一例として、第一の決定部131bは、ユーザが操作した領域を注目点として検出するという注目点検出規則に決定する。
(ステップS202)次に、入力部14が、入力情報を注目点検出部132bへ通知する。例えば、入力部14は、図7の画面上の座標(50、50)の位置でマウスクリックが発生したことを注目点検出部132bへ通知する。
(ステップS203)次に、注目点検出部132bは、入力部14が検出したユーザ操作領域を注目点として検出する。例えば、注目点検出部132bは、マウスクリックが発生した画面上の座標(50、50)の位置を注目点として検出する。
(ステップS204)次に、第二の決定部136は、使用する注目領域検出規則を規則記憶部111bから読み出す。
(ステップS205)次に、描画部135は、画面変化領域(例えば、図7のエラーログの画像領域R42)の位置と範囲を示す描画情報を注目領域検出部133bに通知する。例えば描画部135は、図7の画面上の座標(30、200)から幅150ピクセル、高さ50ピクセルの領域に描画が発生したことを注目領域検出部133bに通知する。
(ステップS206)次に、注目領域検出部133bは、ユーザ操作領域と画面変化領域(例えば、図7のエラーログの画像領域R42)と含む画像領域を注目領域として検出する。例えば、注目領域検出部133bは、図7の画面上の座標(30、50)から幅150ピクセル、高さ200ピクセルの領域を注目領域として検出する。
(ステップS207)次に、画像生成部1377は、注目領域に対応する画像情報をフレームバッファ112から取得し、必要に応じて圧縮処理を行って、画像情報を生成する。例えば、画像生成部137は、端末装置3の処理能力が低い場合やネットワークの品質が悪い場合だけ画像情報を圧縮してもよい。
(ステップS208)次に、通信部15は、画像生成部137が生成した画像情報を端末装置3へ送信する。
このように、第2の実施形態に係る画像処理装置1bは、ユーザが操作したユーザ操作領域を注目点とし、注目点とユーザが操作したことによって生じた画面変化の画像領域を含む注目領域を検出し、検出した注目領域に対応する画像情報を端末装置3へ送信する。これにより、端末装置3が画像処理装置1bから離れていたとしても、端末装置3のユーザ(例えば、現場の作業員)は、注目すべき事象の状況(例えば、特定の装置の故障の詳細)を容易に把握することができる。
なお、第2の実施形態では、注目領域検出部133bは、描画部135が描画することにより特定の画面変化が発生した領域と注目点検出部132bが検出した注目点(第1の領域)とを含む領域を注目領域(第2の領域)として検出したが、これに限ったものではない。注目領域検出部133bは、例えば、注目点を含むウィンドウを注目領域としてもよいし、注目点を含むHTML要素を注目領域としてもよいし、注目点と画面変化領域を含む領域を注目領域としてもよいし、注目点と操作可能領域を含む領域を注目領域としてもよい。なお、操作可能領域とは、キー入力やクリック操作などの操作が可能な領域を指す。
また、記憶部11bがユーザによる操作が可能な操作可能領域を記憶する操作可能領域記憶部を備えていてもよい。その場合に、注目領域検出部133bは、ユーザが操作した領域を包含する操作可能領域を含む領域と特定の画面変化が発生した領域とを含む領域を注目領域(第2の領域)として検出してもよい。
また、注目領域検出部133bによる注目領域決定処理は上述したものだけに限ったものではない。注目領域検出部133bは、例えば、注目点の位置や種類に応じて注目領域を決定してもよいし、アプリケーションの種類に応じて決定してもよいし、クライアントの処理能力や画面サイズに応じて決定してもよいし、ネットワークの品質に応じて決定してもよい。
(第3の実施形態)
続いて、第3の実施形態について説明する。第3の実施形態では、特定の画面変化が発生した領域を注目点とし、注目点を含むウィンドウを注目領域として検出する例について説明する。
図9は、第3の実施形態に係る画像処理システム103の構成を示す概略ブロック図である。なお、図6と共通する要素には同一の符号を付し、その具体的な説明を省略する。画像処理システム103は、画像処理装置1c、画面転送サーバ(画面転送装置)4−1、…、4−N(Nは正の整数)及び端末装置3を具備する。画像処理装置1cは通信回路網2を介して、画面転送サーバ4−1、…、4−N及び端末装置3と接続されている。
例えば、画面転送サーバ4−1、…、4−Nはそれぞれ、機器を監視する監視画面を保持する。そして、例えば画面転送サーバ4−1、…、4−Nはそれぞれ、現在の監視画面と所定の時間だけ直前の監視画面とで異なる画素値を示す領域を抽出する。これにより、画面転送サーバ4−1、…、4−Nは点滅している画像領域を抽出することができる。そして、画面転送サーバ4−1、…、4−Nはそれぞれ、抽出した領域の画像情報(以下、領域画像情報ともいう)とその領域の画像内における位置との組を画像処理装置1cへ通信回路網2を介して送信する。これにより、画像処理装置1cはフレームバッファ112上で各監視画面をそれぞれ異なるウィンドウで描画することができる。例えば画面転送サーバ4−1、…、4−Nそれぞれは、所定の時間が経過する毎に上述した処理を繰り返す。
端末装置3の構成は、第2の実施形態に係る端末装置3の構成と同様であるので、ここでの説明は省略する。
第3の実施形態に係る画像処理装置1cの構成は、第2の実施形態に係る画像処理装置1bの構成に対して、記憶部11bが記憶部11cに、アプリケーション実行部12bがアプリケーション実行部12cに、ウィンドウ処理部13bがウィンドウ処理部13cに、通信部15が通信部15cに変更されたものになっている。
記憶部11cは、第2の実施形態に係る記憶部11bに比べて、ウィンドウ情報記憶部113が追加された構成になっている。
ウィンドウ情報記憶部113は、フレームバッファ112上の各ウィンドウの表示位置、表示サイズ及び表示領域などを含むウィンドウ情報を保持する。ここで、表示位置はフレームバッファ112内における座標を表し、表示サイズはウィンドウの幅及び高さを表し、表示領域はフレームバッファ112上に実際に表示する領域を表す。図10の例ではウィンドウW7の表示領域は例えば、ウィンドウW7の領域のうちウィンドウW6によって隠れた領域を除く領域である。
通信部15cは、画面転送サーバ4−1、…、4−Nから送信された、領域画像情報とその領域の画像内における位置の組を受信し、受信した領域画像をアプリケーション実行部12cへ出力する。
アプリケーション実行部12cは、通信部15cから入力された領域画像情報すなわち画面転送サーバ4−1、…、4−Nから取得した領域画像情報を描画する描画命令を描画部135へ出力する。
ウィンドウ処理部13cは、第2の実施形態のウィンドウ処理部13bに対して、第一の決定部131bが第一の決定部131cに、注目点検出部132bが注目点検出部132cに、注目領域検出部133bが注目領域検出部133cに、第二の決定部136が第二の決定部136cに変更され、画面取得部138が追加されたものになっている。その他の構成は、第2の実施形態に係る画像処理装置1bの構成と同様であるので、ここでの説明は省略する。
第一の決定部131cは一例として、特定の画面変化が発生した領域を注目点として検出するという注目点検出規則を規則記憶部111から読み出し、読み出した注目点検出規則を示す情報を注目点検出部132cへ出力する。
注目点検出部132cは、第一の決定部131cが決定した注目点検出規則に従って、特定の画面変化が発生した領域を注目点として検出し、検出した注目点の位置に関する情報を注目領域検出部133cへ出力する。例えば、注目点検出部132cは、通信部15cが受信した領域画像情報とその領域の画像内における位置とを用いて、同じ画像内における位置で周期的に差分画像を取得している領域を検出し、該検出した領域を注目点(第1の領域)として検出する。
第二の決定部136cは、注目点を含むウィンドウを注目領域として検出するという注目領域検出規則を規則記憶部111から読み出し、読み出した注目領域検出規則を示す情報を注目領域検出部133cへ送信する。
注目領域検出部133cは、第二の決定部136が決定した規則に従って、注目点検出部132cが検出した注目点(第1の領域)に基づいて、注目点を含むウィンドウを注目領域として検出する。例えば、注目領域検出部133cは、ウィンドウ情報記憶部113を参照して、注目点(第1領域)を含むウィンドウの位置及び範囲を読み出し、読み出した注目領域の位置及び範囲を示す注目領域情報を画像生成部137へ出力する。
画面取得部138は例えば、注目領域である監視画面全体の画像を保持する特定の画面転送サーバ4−i(iは1からNまでの整数)に対して、その監視画面全体の画像を要求する画面要求メッセージMSGを送信する。画面取得部138は、画面要求メッセージMSGに応じて、監視画面全体の画像を、その特定の画面転送サーバ4−iから通信部15cを介して取得する。
図10は、第3の実施形態における注目点と注目領域の例を示す図である。同図では、画像処理装置1cが、画面転送サーバ4−1、…、4−Nから領域画像情報を受信して、フレームバッファ112上に領域画像情報を重ねて描画している例が示されている。同図において、画面転送サーバ4−1の画面G6と画面転送サーバ4−Nの画面G7が示されている。また画面転送サーバ4−Nの画面G7内において、警告のために点滅している領域R61が示されている。また、領域R61が赤く点灯しているときの画像を示す領域画像情報D1と、領域R61が赤い点灯が消えているときの画像を示す領域画像情報D2が順番に、画面転送サーバ4−Nから画像処理装置1cに送信されていることが示されている。
フレームバッファ112内の画面情報として、画面転送サーバ4−Nの画面G7を示すウィンドウW7の上に、画面転送サーバ4−1の画面G6を示すウィンドウW6が重ねて描画された画面情報が保持されていることが模式的に示されている。点P0がij座標における原点である。警告のために点滅している領域R72を注目点として、この注目点を含むウィンドウW7が注目領域である。しかし、ウィンドウW7の上にウィンドウW6が重ねて描画されているために、ウィンドウW7の一部の画像データがフレームバッファ112上に存在しない。
そのため、図10では、画面取得部138がウィンドウW7に相当する画面G7全体の画像を要求する画面要求メッセージMSGを画面転送サーバ4−Nへ送信していることが示されている。また、その画面要求メッセージMSGに応じて、画面G7全体の画像情報D3が画面転送サーバ4−Nから画面取得部138へ送信されていることが示されている。
更に、画面取得部138が画面G7全体の画像情報を受信した後に、画像処理装置1cは、画面G7全体の画像情報を通信回路網2を介して端末装置3へ送信する。これにより、端末装置3に画面G7全体の画像情報が表示される。
図10の例を用いて、第3の実施形態に係る画像処理装置1cの処理の流れの一例を図11で説明する。図11は、第3の実施形態に係る画像処理装置1cの処理の流れの一例を示すフローチャートである。
(ステップS301)まず、第一の決定部131cは、使用する注目点検出規則を決定し、決定した注目点検出規則を示す情報を注目点検出部132cへ出力する。例えば第一の決定部131cは、特定の画面変化(図10の例では、周期点滅)をする画像領域を注目点として検出するという注目点検出規則を決定する。
なお、特定の画面変化とは、どのようなものでもよい。例えば、周期点滅が発生した場合としてもよいし、特定の色のピクセルに変化した場合としてもよいし、全画面が変化した場合としてもよい。また、画面転送サーバ4が転送する画面の内容に応じて、特定の画面変化を変更してもよい。
(ステップS302)次に、アプリケーション12cは、特定の画面変化が生じた領域の画像を示す画面変化領域画像情報とその画面変化領域の位置を示す位置情報を各画面転送サーバ4から受信する。ここで画面変化領域の位置は例えば、その画面変化領域に向かって左上端の座標である。ここでは、画面転送サーバ4は例えば、対象のフレームの画像とその直前のフレームの画像との間で画像に変化がある領域についてのみ、画面変化領域画像情報とその画面変化領域の位置を示す位置情報を画像処理装置1cへ送信するという前提である。
アプリケーション12cは例えば、画面変化領域画像のうち、フレームバッファ112が保持するウィンドウ情報の表示領域に含まれる画面変化領域に画面変化領域画像を描画する命令を示す描画命令を生成し、生成した描画命令を描画部135へ出力する。図10の例では、フレームバッファ112において、ウィンドウAがウィンドウBの上に重なっており、ウィンドウBの一部がウィンドウAで隠れているので、描画命令はウィンドウBのうちウィンドウAで隠れていない領域に含まれる画面変化領域画像だけを描画する命令になる。
(ステップS303)次に、描画部135は、アプリケーション12cから入力された描画命令に従って描画する。そして、描画部135は、描画する毎に、画面変化領域画像の画像内における位置を含む描画情報を注目点検出部132cへ出力する。また、描画部135は、描画する毎に、画面変化領域画像の画像内における位置とその位置における画像との組をフレームバッファ112に記憶させる。
(ステップS304)次に、注目点検出部132cは、描画部135から入力された描画情報から、特定の画面変化を検出し、検出した画面変化が生じた領域を注目点として検出する。例えば、特定の画面変化として周期点滅を検出する場合、注目点検出部132cは、描画部135から入力された描画情報の履歴を内部に記録しておく。そして、注目点検出部132cは例えば、描画情報の履歴から画像内の同じ領域で周期的に描画が発生する場合を周期点滅と判断して、その領域を注目点として検出する。これにより、画像処理装置1cが、画像内の同じ領域で周期的に画面変化領域画像を画面転送サーバ4から受信している場合、注目点検出部132cはその領域を注目点として検出することができる。注目点検出部132cは、検出した検出点を示す情報を注目領域検出部133cへ出力する。
(ステップS305)次に、第二の決定部136cは、規則記憶部111bに記憶された注目領域検出規則を読み出す。ここでは例えば、第二の決定部136cは、注目点を含むウィンドウを注目領域とする注目領域検出規則を読み出す。そして、第二の決定部136cは、読み出した注目領域検出規則を示す情報を注目領域検出部133cへ出力する。
(ステップS306)次に、注目領域検出部133cは、ウィンドウ情報記憶部113からウィンドウ情報を読み出して取得する。ウィンドウ情報は、ウィンドウを識別するウィンドウID、ウィンドウの表示位置、ウィンドウの表示サイズ、ウィンドウの表示領域などの情報が含まれる。ここで、ウィンドウIDは、ウィンドウ毎に固有の識別情報である。表示位置は例えば、画面の向かって左上隅を原点としたときのウィンドウの向かって左上隅の位置である。ウィンドウの表示領域は、ウィンドウのうちフレームバッファ112に表示される領域である。例えば、図10の例の場合は、ウィンドウAのウィンドウIDはA、表示位置は画面上の座標(10、20)、表示サイズは800ピクセル×600ピクセル、表示領域はウィンドウA上の座標(0、0)から800ピクセル×600ピクセル、ウィンドウBのウィンドウIDはB、表示位置は画面上の座標(600、400)、表示サイズは800ピクセル×600ピクセル、表示領域はウィンドウB上の座標(210、0)から590ピクセル×220ピクセルとウィンドウB上の座標(0、220)から800ピクセル×380ピクセルである。
(ステップS307)次に、図10の例の場合、注目領域検出部133cは、第二の決定部136から入力された注目領域検出規則に基づいて、ウィンドウ情報記憶部113から読み出したウィンドウ情報から、注目点がウィンドウBに含まれていることを検出する。ここで注目領域検出規則は、注目点を含むウィンドウを注目領域とする規則である。そして、注目領域検出部133cは、画面上のウィンドウBの領域、すなわち画面上の座標(600、400)から幅800ピクセル、高さ600ピクセルの領域を注目領域として検出する。
(ステップS308)次に、画像生成部137は例えば、画像生成部137はウィンドウ情報記憶部113からウィンドウ情報を読み出し、読み出したウィンドウ情報を用いて、注目領域の全て(図10の例では、ウィンドウBの領域の全て)がフレームバッファ112に描画されているか否かを判定する。注目領域の全てがフレームバッファ112に描画されている場合(YES)、画像生成部137はステップS310の処理へ進む。注目領域の全てがフレームバッファ112に描画されていない場合(NO)、画像生成部137はステップS309の処理へ進む。図10の例では、フレームバッファ112において、注目領域であるウィンドウBの画面の一部がウィンドウAで隠れているので、画像生成部137は注目領域が全て描画されていないと判定する。
(ステップS309)画面取得部138が、画面転送サーバ4に対して、注目領域の画像を要求する画像要求メッセージを送信し、注目領域(図10の例では、ウィンドウB)の画像を示す画像情報を画面転送サーバ4から取得する。なお、図10の例の場合、画面取得部138は例えば、フレームバッファ112においてウィンドウBの向かって左上部分がウィンドウAで隠れているため、隠れている部分の画像情報を画面転送サーバ4から取得してもよい。
(ステップS310)画像生成部137は、注目領域(図10の例では、ウィンドウB)に対応する画像情報をフレームバッファ112から取得する。画像生成部137は例えば、取得した画像情報が示す画像に対して圧縮処理などを行い、端末装置3へ送信するための画像情報を生成する。
(ステップS311)次に、通信部15cが、通信回路網2を介して、画像情報を端末装置3へ送信する。これにより、端末装置3は、画像情報を受信して表示することができる。なお、この画像情報の送信は、画像処理装置1cからではなく、画面転送サーバ4から行ってもよい。
なお、ステップS309において、画面取得部138は、画面転送サーバ4から取得した画像情報を、アプリケーションごとにオフスクリーンバッファを用意してオフスクリーンバッファに描画してもよいし、フレームバッファに描画し、それに伴いウィンドウ情報を更新してもよい。
また、画面取得部138は、新たに画像要求は行わず、画面転送サーバ4からの画像情報の履歴を保持しておき履歴から画像情報を生成してもよい。
以上、第3の実施形態に係る画像処理装置1cは、複数の画面転送サーバ4−1、…、4−Nから画像情報を取得し、特定の画面変化が発生した領域を注目点とし、注目点を含むウィンドウを注目領域として、注目領域に対応する画像情報を端末装置3へ送信する。これにより、複数の画面転送サーバ4−1、…、4−Nから画像情報を取得する画像処理システム103において、端末装置3を使用するユーザは、端末装置3に表示された画像を確認することで、注目すべき事象の状況を把握できるので画像処理システム103は、そのユーザが事象の状況を把握できる確率を向上させることができる。
なお、複数の装置を備えるシステムが、各実施形態の画像処理装置の各処理を、それらの複数の装置で分散して処理してもよい。
また、各実施形態の画像処理装置の各処理を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、当該記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、画像処理装置に係る上述した種々の処理を行ってもよい。
なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成は上記実施形態そのままに限定されるものではない。各実施形態に係る各構成及びそれらの組み合わせ等は一例であり、実施段階では本発明の趣旨から逸脱しない範囲内で、構成要素の変形、構成の付加、省略、置換、およびその他の変更をして具体化することが可能である。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することが可能である。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。また、本発明は実施形態によって限定されることはなく、特許請求の範囲によってのみ限定される。
1、1b、1c 画像処理装置
2 通信回路網
3 端末装置
4−1、…、4−N 画面転送サーバ(画面転送装置)
5 表示装置
11、11b、11c 記憶部
12、12b、12c アプリケーション実行部
13、13b、13c ウィンドウ処理部
14 入力部
15 通信部(第1の通信部)
31 通信部(第2の通信部)
32 処理部
33 表示部
102、103 画像処理システム
111、111b 規則記憶部
112 フレームバッファ
113 ウィンドウ情報記憶部
131、131b、131c 第一の決定部
132、132b、132c 注目点検出部(第一領域検出部)
133、133b、133c 注目領域検出部(第二領域検出部)
134 注目領域表示部(出力処理部)
135 描画部
136、136c 第二の決定部
137 画像生成部(出力処理部)
138 画面取得部

Claims (19)

  1. 画像において予め決められた事象が発生した領域である第1の領域を検出する第一領域検出部と、
    前記第一領域検出部が検出した第1の領域の情報に基づいて第2の領域を前記画像内から検出する第二領域検出部と、
    前記第二領域検出部が検出した第2の領域の情報に基づいて画像に対する出力処理を行う出力処理部と、
    を備えることを特徴とする画像処理装置。
  2. 前記第二領域検出部は、前記第1の領域における画像変化を検出し、該検出した画像変化に基づいて第2の領域を検出する
    請求項1に記載の画像処理装置。
  3. 前記第二領域検出部は、前記画像変化から監視する対象となる機器の障害情報を検出し、該検出した障害情報に基づいて前記第2の領域の位置及び範囲を決定する
    請求項2に記載の画像処理装置。
  4. 前記第二領域検出部は、前記障害情報として前記画像変化から前記監視する対象となる機器に対する警告の種類を検出し、該検出した警告の種類に基づいて前記第2の領域の位置及び範囲を決定する
    請求項3に記載の画像処理装置。
  5. 前記第二領域検出部は、前記画像変化が速いほど前記第2の領域の範囲を大きくする
    請求項2から4のいずれか一項に記載の画像処理装置。
  6. 前記画像内で複数のノードが接続されており、
    前記第二領域検出部は、前記第1の領域が含まれるノードの接続関係に基づいて前記第2の領域の範囲を決定する
    請求項1に記載の画像処理装置。
  7. 前記第二領域検出部は、前記第1の領域が複数検出された場合、該複数の第1の領域の情報に基づいて前記第2の領域を検出する
    請求項1から6のいずれか一項に記載の画像処理装置。
  8. 前記第二領域検出部は、前記第1の領域と予め決められた特定の画面変化が発生した領域とを含む領域を前記第2の領域として検出する
    請求項1に記載の画像処理装置。
  9. ユーザが操作したユーザ操作領域を検出する入力部と、
    ユーザによる操作が可能な操作可能領域を記憶する操作可能領域記憶部と、
    を更に備え、
    前記第一領域検出部は、前記入力部が検出したユーザ操作領域を前記第1の領域として検出し、
    前記第二領域検出部は、前記第一領域検出部が検出したユーザ操作領域を包含する操作可能領域と前記特定の画面変化が発生した領域とを含む領域を前記第2の領域として検出する
    請求項8に記載の画像処理装置。
  10. ウィンドウ内に表示されるHTML要素毎に該HTML要素に相当する領域の位置及び範囲を示す情報が記憶され、ユーザが操作可能な画像領域である操作可能領域毎にHTML要素が関連付けられて記憶されている記憶部を更に備え、
    前記第二領域検出部は、前記記憶部を参照して前記第一領域検出部が検出したユーザ操作領域を包含する操作可能領域に対応するHTML要素を特定し、該特定したHTML要素に相当する領域と前記ユーザ操作領域を包含する操作可能領域とを含む領域を前記第2の領域として検出する
    請求項9に記載の画像処理装置。
  11. 画面に表示される各ウィンドウの位置及び範囲を保持するウィンドウ情報記憶部を更に備え、
    前記第二領域検出部は、前記ウィンドウ情報記憶部を参照して、前記第1領域を含む前記ウィンドウを前記第2領域として検出する
    請求項1に記載の画像処理装置。
  12. 前記第一領域検出部は、ユーザまたはアプリケーションで指定された画像領域、特定の画面変化が発生した画像領域、またはユーザによる入力操作が発生した画像領域、のいずれかを前記第1の領域として検出する
    請求項1から11のいずれか一項に記載の画像処理装置。
  13. 端末装置と通信する通信部を更に備え、
    前記出力処理部は、前記第2の領域に対応する画像情報を生成し、該生成した画像情報を前記通信部から前記端末装置へ送信させる請求項1から12のいずれか一項に記載の画像処理装置。
  14. 前記第2の領域に対応する画像情報を画面転送装置から取得する画面取得部と、
    端末装置と通信する通信部と、
    を更に備え、
    前記出力処理部は、前記画面取得部が取得した画像情報を前記通信部から前記端末装置へ送信させる請求項1から12のいずれか一項に記載の画像処理装置。
  15. 前記出力処理部は、前記第2の領域の位置及び範囲を表す情報を前記画像に重ねて表示する請求項1から14のいずれか一項に記載の画像処理装置。
  16. 請求項1に記載の画像処理装置が検出した第2の領域に対応する画像情報を受信する通信部と、
    前記通信部が受信した画像情報を表示する表示部と、
    を備える端末装置。
  17. 画像処理装置と端末装置とを具備する画像処理システムであって、
    前記画像処理装置は、
    画像において予め決められた事象が発生した領域である第1の領域を検出する第一領域検出部と、
    前記第一領域検出部が検出した第1の領域の情報に基づいて第2の領域を前記画像内から検出する第二領域検出部と、
    前記第2の領域に対応する画像情報を生成する出力処理部と、
    前記出力処理部が生成した画像情報を前記端末装置へ送信する第1の通信部と、
    を備え、
    前記端末装置は、
    前記第1の通信部が送信した画像情報を受信する第2の通信部と、
    前記第2の通信部が受信した画像情報を表示する表示部と、
    を備える画像処理システム。
  18. 第一領域検出部が、画像において予め決められた事象が発生した領域である第1の領域を検出する手順と、
    第二領域検出部が、前記第一領域検出部が検出した第1の領域の情報に基づいて第2の領域を前記画像内から検出する手順と、
    出力処理部が、前記第二領域検出部が検出した第2の領域の情報に基づいて画像に対する出力処理を行う手順と、
    を有する画像処理方法。
  19. コンピュータに、
    画像において予め決められた事象が発生した領域である第1の領域を検出する第一領域検出ステップと、
    前記第一領域検出ステップで検出された第1の領域の情報に基づいて第2の領域を前記画像内から検出する第二領域検出ステップと、
    前記第二領域検出ステップで検出された第2の領域の情報に基づいて画像に対する出力処理を行う出力処理ステップと、
    を実行させるための画像処理プログラム。
JP2013126851A 2013-06-17 2013-06-17 画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラム Pending JP2015001663A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013126851A JP2015001663A (ja) 2013-06-17 2013-06-17 画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013126851A JP2015001663A (ja) 2013-06-17 2013-06-17 画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラム

Publications (1)

Publication Number Publication Date
JP2015001663A true JP2015001663A (ja) 2015-01-05

Family

ID=52296206

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013126851A Pending JP2015001663A (ja) 2013-06-17 2013-06-17 画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラム

Country Status (1)

Country Link
JP (1) JP2015001663A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114594919A (zh) * 2020-12-07 2022-06-07 横河电机株式会社 装置、方法以及记录介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05189181A (ja) * 1992-01-09 1993-07-30 Nagano Nippon Denki Software Kk 表示方式
JPH0675740A (ja) * 1992-08-28 1994-03-18 Toshiba Corp 情報表示装置
JPH09140057A (ja) * 1995-11-10 1997-05-27 Hitachi Ltd 電力系統安定度表示方法とその装置
JP2000347725A (ja) * 1999-06-04 2000-12-15 Hitachi Ltd プラントの運転監視装置
JP2004341598A (ja) * 2003-05-13 2004-12-02 Yamatake Corp 施設管理装置、方法、およびプログラム
JP2008022348A (ja) * 2006-07-13 2008-01-31 Toyota Motor Corp 車両周辺監視装置
JP2010161736A (ja) * 2009-01-09 2010-07-22 Toyota Motor Corp ナイトビジョンシステム
JP2011164958A (ja) * 2010-02-10 2011-08-25 Toshiba Corp プラント監視情報表示システム、およびこれに利用するプラント監視情報生成装置、携帯端末、プラント監視情報表示方法、プラント監視情報表示プログラム
JP2012113605A (ja) * 2010-11-26 2012-06-14 Toshiba Alpine Automotive Technology Corp 運転支援装置及び運転支援方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05189181A (ja) * 1992-01-09 1993-07-30 Nagano Nippon Denki Software Kk 表示方式
JPH0675740A (ja) * 1992-08-28 1994-03-18 Toshiba Corp 情報表示装置
JPH09140057A (ja) * 1995-11-10 1997-05-27 Hitachi Ltd 電力系統安定度表示方法とその装置
JP2000347725A (ja) * 1999-06-04 2000-12-15 Hitachi Ltd プラントの運転監視装置
JP2004341598A (ja) * 2003-05-13 2004-12-02 Yamatake Corp 施設管理装置、方法、およびプログラム
JP2008022348A (ja) * 2006-07-13 2008-01-31 Toyota Motor Corp 車両周辺監視装置
JP2010161736A (ja) * 2009-01-09 2010-07-22 Toyota Motor Corp ナイトビジョンシステム
JP2011164958A (ja) * 2010-02-10 2011-08-25 Toshiba Corp プラント監視情報表示システム、およびこれに利用するプラント監視情報生成装置、携帯端末、プラント監視情報表示方法、プラント監視情報表示プログラム
JP2012113605A (ja) * 2010-11-26 2012-06-14 Toshiba Alpine Automotive Technology Corp 運転支援装置及び運転支援方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114594919A (zh) * 2020-12-07 2022-06-07 横河电机株式会社 装置、方法以及记录介质

Similar Documents

Publication Publication Date Title
US11659098B2 (en) Information reminding method and apparatus, and electronic terminal
US9961129B2 (en) Business transaction correlation with client request monitoring data
JP6127150B2 (ja) ユーザに関連付けられている複数のデバイスに対する通知の送信
US10298469B2 (en) Automatic asynchronous handoff identification
US10257316B2 (en) Monitoring of node.js applications
CN108650519A (zh) 基于区块链的发布信息的方法及装置
US8930819B1 (en) Visualization of the reach of a post by a member of an on-line social networking system
US10380867B2 (en) Alert management within a network based virtual collaborative space
US8423056B2 (en) Sending time-sensitive information via a short message service
JP2015001663A (ja) 画像処理装置、端末装置、画像処理システム、画像処理方法及び画像処理プログラム
US10002041B1 (en) System and method for maintaining the health of a machine
TW201528105A (zh) 視訊裝置管理裝置、方法及電腦可讀取媒體
US20140067854A1 (en) Crawling of generated server-side content
WO2018123582A1 (ja) 表示方法、表示プログラム、表示システム
JP2015184889A (ja) システム操作装置およびシステム操作方法
JP6064216B1 (ja) 周辺装置管理システム、管理装置、及び管理方法
JP2020046866A (ja) 災害報知システム
US9942361B2 (en) Reporting page composition data
KR102371800B1 (ko) 자가진단이 가능한 영상 관리 장치 및 자가진단 방법
JP2019174924A (ja) セールス情報処理装置、セールス情報処理方法、プログラムおよびセールス情報処理システム
JP6122123B2 (ja) 画面表示プログラム
CN110658969B (zh) 一种图片处理方法、装置、设备及存储介质
JP2011170867A (ja) 表示制御方法および表示制御プログラム
WO2017122365A1 (ja) 逆コマンド生成プログラム、逆コマンド生成方法及び逆コマンド生成装置
US20170187586A1 (en) Determining the causation of events across multiple nodes using message properties

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160316

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170421

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170620

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170703

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170905