JP4408920B2 - Terminal management apparatus and terminal management program - Google Patents

Terminal management apparatus and terminal management program Download PDF

Info

Publication number
JP4408920B2
JP4408920B2 JP2007214800A JP2007214800A JP4408920B2 JP 4408920 B2 JP4408920 B2 JP 4408920B2 JP 2007214800 A JP2007214800 A JP 2007214800A JP 2007214800 A JP2007214800 A JP 2007214800A JP 4408920 B2 JP4408920 B2 JP 4408920B2
Authority
JP
Japan
Prior art keywords
window
image
display
client terminal
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007214800A
Other languages
Japanese (ja)
Other versions
JP2009048459A (en
Inventor
泰明 和田
Original Assignee
Sky株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sky株式会社 filed Critical Sky株式会社
Priority to JP2007214800A priority Critical patent/JP4408920B2/en
Publication of JP2009048459A publication Critical patent/JP2009048459A/en
Application granted granted Critical
Publication of JP4408920B2 publication Critical patent/JP4408920B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Description

本発明は、操作ログとこの操作ログと関連付けられる操作画像とをクライアント端末から取得し、当該操作画像をモニタ画面上に表示する端末管理技術に関する。   The present invention relates to a terminal management technique for acquiring an operation log and an operation image associated with the operation log from a client terminal and displaying the operation image on a monitor screen.

操作ログとこの操作ログと関連付けられる操作画像とをクライアント端末から取得し、当該操作画像をモニタ画面上に表示する技術として、例えば特許文献1の遠隔制御システムが知られている。この遠隔制御システムは、遠隔制御サーバとクライアント端末とが通信ネットワークを介して接続されて構成されており、クライアント端末は当該端末に入力された各操作コマンドを特定する操作コマンド特定情報と表示部に表示された画面を所定の間隔で取得したキャプチャ画像とを遠隔制御サーバに送信し、遠隔制御サーバは受信したキャプチャ画像を表示部に所定数まで順次表示するものである。   As a technique for acquiring an operation log and an operation image associated with the operation log from a client terminal and displaying the operation image on a monitor screen, for example, a remote control system disclosed in Patent Document 1 is known. This remote control system is configured by connecting a remote control server and a client terminal via a communication network. The client terminal includes operation command specifying information for specifying each operation command input to the terminal and a display unit. The captured images obtained by acquiring the displayed screens at predetermined intervals are transmitted to the remote control server, and the remote control server sequentially displays the received captured images on the display unit up to a predetermined number.

このように受信したキャプチャ画像を遠隔制御サーバの表示部に所定数まで順次表示することにより、複数のクライアント端末の画面を遠隔制御サーバの操作者が一度に見ることができる。また、クライアント端末において入力された操作コマンドや画面などを記録しておけば、後日記録した画面を再生することができるので、この再生によりクライアント端末の操作者の操作状況を把握することができ、クライアント端末の操作者による不正な操作を監視することができる。   By sequentially displaying up to a predetermined number of captured images thus received on the display unit of the remote control server, the operator of the remote control server can view the screens of a plurality of client terminals at a time. Also, if you record the operation commands and screens entered at the client terminal, you can play back the recorded screen at a later date, so you can grasp the operating status of the operator of the client terminal by this playback, It is possible to monitor an unauthorized operation by an operator of the client terminal.

特開2006−108947号公報(段落〔0005〕、〔0020〕、〔0051〕、〔0057〕)JP 2006-108947 A (paragraphs [0005], [0020], [0051], [0057])

上述した遠隔制御システムはネットワークを介して接続されているクライアント端末の画面を遠隔制御サーバの表示部に複数表示することができるので、遠隔制御サーバの操作者がこれらの複数のクライアント端末の操作者の操作状況を監視するのに便利なものとなっている。   Since the above-described remote control system can display a plurality of client terminal screens connected via a network on the display unit of the remote control server, the operator of the remote control server can operate the plurality of client terminal operators. It is convenient to monitor the operation status of

しかしながら、複数のクライアント端末の操作画面のキャプチャ画像を表示部に一覧表示しているために各キャプチャ画像の表示サイズが小さくなり、各クライアント端末の操作者がその操作画面においてどのような操作を行っているのかについて簡単には把握し難いという問題がある。特に、クライアント端末における操作状況を把握する場合、ウインドウに対する操作に着目することが多いが、ウインドウを多く開いている場合には個別のウインドウが見難くなり、また背面側のウインドウでどのような操作が行われているか分かり難いといった問題がある。さらに、各クライアント端末の操作画面においてウインドウの表示状態は時々刻々と変化するものであり、上述した遠隔制御システムのような各クライアント端末の操作画面のキャプチャ画像の一覧表示画面でこれを容易に把握するためには改善の余地がある。   However, since the captured images of the operation screens of a plurality of client terminals are displayed in a list on the display unit, the display size of each captured image is reduced, and what operation the operator of each client terminal performs on the operation screen. There is a problem that it is difficult to grasp easily. In particular, when grasping the operation status on the client terminal, the user often pays attention to the operation on the window. However, when many windows are opened, it becomes difficult to see individual windows, and what kind of operation is performed on the window on the back side. There is a problem that it is difficult to understand whether or not Furthermore, the display state of the window on the operation screen of each client terminal changes from moment to moment, and this can be easily grasped on the captured image list display screen of the operation screen of each client terminal such as the remote control system described above. There is room for improvement.

本発明は、かかる問題点に着目してなされたものであり、その目的は、クライアント端末における操作状況を容易に把握可能な端末管理技術を提供することにある。   The present invention has been made paying attention to such a problem, and an object of the present invention is to provide a terminal management technique capable of easily grasping an operation state in a client terminal.

操作ログとこの操作ログと関連付けられる操作画像とをクライアント端末から取得する端末管理装置において、上記課題を解決するため、本発明においては、前記操作画像中のウインドウの表示状態を記述したウインドウ表示情報を前記操作ログに含み、前記ウインドウ表示情報に基づいて、前記操作画像からウインドウ毎にその表示領域をウインドウ画像として切り出すウインドウ画像切出部と、前記ウインドウ画像を対応するクライアント端末と関連付けて、当該ウインドウ画像が有する属性情報別に分類するウインドウ画像分類部と、前記クライアント端末と関連付けられたウインドウ画像を当該属性情報別にモニタ画面上に一覧表示する表示制御部とを備えた。   In a terminal management apparatus that acquires an operation log and an operation image associated with the operation log from a client terminal, in order to solve the above problem, in the present invention, window display information describing a display state of a window in the operation image In the operation log, and based on the window display information, a window image cutout unit that cuts out the display area of each window from the operation image as a window image, and the window image associated with the corresponding client terminal, A window image classifying unit that classifies the window image according to attribute information included in the window image; and a display control unit that displays a list of window images associated with the client terminal on the monitor screen according to the attribute information.

この構成によれば、各クライアント端末から取得した操作画像について、操作ログに含まれるウインドウ表示情報に基づいて、その操作画像からウインドウ画像が切り出される。そして、切り出されたウインドウ画像は対応するクライアント端末と関連付けられ、当該ウインドウ画像が有する属性情報別に分類され、分類されたウインドウ画像が当該属性情報別にモニタ画面上に一覧表示される。ここで、属性情報としては、当該ウインドウを操作しているアプリケーション情報や当該ウインドウに対応するクライアント端末情報などを用いることができる。これにより、モニタ画面上において各クライアントの操作状況をウインドウ単位で見ることができると共に、当該ウインドウを操作しているアプリケーション別などといった共通する属性情報別に一覧表示して見ることができるので、例えば業務外目的のアプリケーションを操作しているクライアント端末を容易に発見できるなど、クライアント端末における操作状況を容易に把握することが可能となる。   According to this configuration, the window image is cut out from the operation image acquired from each client terminal based on the window display information included in the operation log. Then, the clipped window image is associated with the corresponding client terminal, classified according to attribute information of the window image, and the classified window image is displayed as a list on the monitor screen according to the attribute information. Here, as the attribute information, application information for operating the window, client terminal information corresponding to the window, or the like can be used. As a result, the operation status of each client can be viewed on a monitor screen in units of windows, and can be displayed in a list by common attribute information such as for each application operating the window. It is possible to easily grasp the operation status at the client terminal, such as easily discovering the client terminal that is operating the external purpose application.

なお、クライアント端末の操作画像から切り出すウインドウは、クライアント端末の操作対象となっているアクティブ・ウインドウを対象としても良いし、操作画像に表示されているウインドウ全てを対象としても良く、使用目的に応じて種々の形態を採用することができる。   Note that the window cut out from the operation image of the client terminal may be the active window that is the operation target of the client terminal, or may be the entire window displayed in the operation image, depending on the purpose of use. Various forms can be adopted.

また、切り出される対象となるウインドウによっては、その全領域が表示されず隠れ領域が存在する場合もある。かかる場合には、当該隠れ領域以外の表示されている領域を切り出して表示するようにしても良いが、本発明に係る端末管理装置の好適な実施形態の一つでは、前記操作画像を格納する操作画像格納部と、前記操作画像中のウインドウの少なくとも一部が他のウインドウによって隠されている場合、当該ウインドウが全領域表示されている直近の操作画像を前記操作画像格納部から抽出する操作画像抽出部とを備え、抽出された前記直近の操作画像から当該ウインドウの表示領域を切り出して前記ウインドウ画像として用いている。   Further, depending on the window to be cut out, the entire area may not be displayed and a hidden area may exist. In such a case, a displayed area other than the hidden area may be cut out and displayed. However, in one preferred embodiment of the terminal management apparatus according to the present invention, the operation image is stored. When the operation image storage unit and at least a part of the window in the operation image are hidden by another window, an operation for extracting the latest operation image in which the window is displayed in the entire area from the operation image storage unit An image extraction unit, and a display area of the window is cut out from the extracted latest operation image and used as the window image.

この構成によれば、切り出される対象となるウインドウに隠れ領域が存在して全領域表示されていない場合であっても、当該ウインドウが全領域表示されている直近の操作画像からウインドウ画像を切り出して、これをモニタ画面上に表示することができる。このように隠れ領域が存在するウインドウ画像を直近の全領域表示されているウインドウ画像と差し替えることにより、時間的なズレは生じるもののその操作状況を把握し易くなる。   According to this configuration, even if a hidden area exists in the window to be cut out and the entire area is not displayed, the window image is cut out from the latest operation image in which the window is displayed in the entire area. This can be displayed on the monitor screen. Replacing the window image in which the hidden area exists in this way with the window image displayed in the most recent all area makes it easy to grasp the operation state although a time shift occurs.

なお、このような差し替えの他にも、操作画像から切り出された隠れ領域以外の領域と、直近の操作画像から切り出された隠れ領域に対応する領域とを合成することにより、ウインドウ画像を生成するようにしても良い。このため、本発明に係る端末管理装置の好適な実施形態の一つでは、前記操作画像を格納する操作画像格納部と、前記操作画像中のウインドウの少なくとも一部が他のウインドウによって隠されている場合、当該ウインドウが全領域表示されている直近の操作画像を前記操作画像格納部から抽出する操作画像抽出部とを備え、当該ウインドウの隠されている領域を前記直近の操作画像中の当該ウインドウの該当領域によって置き換えて生成された当該ウインドウの切り出し画像を前記ウインドウ画像として用いている。   In addition to such replacement, a window image is generated by combining an area other than the hidden area cut out from the operation image and an area corresponding to the hidden area cut out from the latest operation image. You may do it. Therefore, in one preferred embodiment of the terminal management apparatus according to the present invention, the operation image storage unit that stores the operation image and at least a part of the window in the operation image are hidden by another window. An operation image extraction unit that extracts the latest operation image in which the window is displayed in the entire area from the operation image storage unit, and a hidden area of the window is included in the latest operation image in the operation image storage unit. A cut-out image of the window generated by replacing with the corresponding area of the window is used as the window image.

さらに、モニタ画面上の一覧表示において各クライアント端末の操作状況をより把握し易くするため、本発明に係る端末管理装置の好適な実施形態の一つでは、前記クライアント端末における前記ウインドウに対する操作時間を前記操作ログに基づいて算出する操作時間算出部を備え、前記操作時間に基づいて、前記モニタ画面上での一覧表示の配置位置が決定される。   Furthermore, in order to make it easier to grasp the operation status of each client terminal in the list display on the monitor screen, in one preferred embodiment of the terminal management apparatus according to the present invention, the operation time for the window in the client terminal is An operation time calculation unit for calculating based on the operation log is provided, and an arrangement position of the list display on the monitor screen is determined based on the operation time.

この構成によれば、ウインドウに対する操作時間に基づいて、モニタ画面上での一覧表示の形態を決定することができる。ここで、ウインドウに対する操作時間としては、ウインドウを開いている時間、或いはウインドウのアクティブ状態継続時間などを用いることができる。従って、例えばアプリケーション別の表示においてアクティブ状態継続時間の長い順に優先的に表示することなどが可能となり、これにより特定のアプリケーションを長時間操作し続けているクライアント端末が見つけ易くなるなど、各クライアント端末の操作状況をより把握し易くすることができる。   According to this configuration, the list display form on the monitor screen can be determined based on the operation time for the window. Here, as the operation time for the window, a time during which the window is opened, a window active state duration, or the like can be used. Therefore, for example, it is possible to preferentially display in order of long active state duration in the display for each application, thereby making it easy to find a client terminal that has been operating a specific application for a long time. It is possible to make it easier to grasp the operation status.

さらに、上述した端末管理装置に実装されるプログラムも本発明の権利範囲に含まれるものである。すなわち、操作ログとこの操作ログと関連付けられる操作画像とをクライアント端末から取得する端末管理装置のための端末管理プログラムは、前記操作ログに含まれる前記操作画像中のウインドウの表示状態を記述したウインドウ表示情報に基づいて、前記操作画像からウインドウ毎にその表示領域をウインドウ画像として切り出す機能と、前記ウインドウ画像を対応するクライアント端末と関連付けて、当該ウインドウ画像が有する属性情報別に分類する機能と、前記クライアント端末と関連付けられたウインドウ画像を当該属性情報別にモニタ画面上に一覧表示する機能とをコンピュータに実現させるものである。この端末管理プログラムも、もちろん、本発明に係る端末管理装置と同様の作用効果を伴うものであり、上述した種々の付加的な特徴構成を備えることもできる。   Furthermore, a program implemented in the above-described terminal management apparatus is also included in the scope of rights of the present invention. That is, a terminal management program for a terminal management apparatus that acquires an operation log and an operation image associated with the operation log from a client terminal is a window that describes a display state of a window in the operation image included in the operation log. Based on display information, a function of cutting out the display area as a window image for each window from the operation image, a function of associating the window image with a corresponding client terminal, and classifying the window image by attribute information, A computer realizes a function of displaying a list of window images associated with a client terminal on a monitor screen according to the attribute information. Of course, this terminal management program also has the same operational effects as the terminal management apparatus according to the present invention, and can be provided with the various additional features described above.

以下、本発明に係る端末管理装置の実施形態を図面に基づいて説明する。
図1に示すように、複数のクライアント端末1と、このクライアント端末1を監視する端末監視サーバ2(端末管理装置の一例)とがネットワーク3を介して接続され、端末監視システムが構築されている。クライアント端末1aのコンピュータには、ソフトウエア又はハードウエア或いはその両方で、本発明に関係する機能として、モニタ51に対する出力やキーボードやマウスなどの操作入力デバイス61からの入力を制御するGUI部11、ファイルの作成など各種ファイル処理を含むユーザによるデータ処理を行うデータ処理部12、クライアント端末1aにおける各種操作を管理する操作管理部13、ネットワーク3に対するデータ伝送を行う送受信部としてのネットワークインターフェース14などが構築されている。なお、他のクライアント端末1についても同様である。
Embodiments of a terminal management apparatus according to the present invention will be described below with reference to the drawings.
As shown in FIG. 1, a plurality of client terminals 1 and a terminal monitoring server 2 (an example of a terminal management apparatus) that monitors the client terminals 1 are connected via a network 3 to construct a terminal monitoring system. . The computer of the client terminal 1a includes a GUI unit 11 for controlling output to the monitor 51 and input from the operation input device 61 such as a keyboard and a mouse, as functions related to the present invention, in software and / or hardware. A data processing unit 12 that performs data processing by a user including various file processing such as file creation, an operation management unit 13 that manages various operations in the client terminal 1a, a network interface 14 as a transmission / reception unit that performs data transmission to the network 3, and the like. Has been built. The same applies to the other client terminals 1.

このうち操作管理部13は、ログイン・ログオフ処理などの機能を有し、また、クライアント端末1aにおける所定の操作が行われた時にそれに応じて操作内容を記述した操作ログの生成を行う操作ログ生成部13a、クライアント端末1aにおける操作画面をキャプチャして操作画像としてのキャプチャ画像を生成する操作画面キャプチャ部13bを備えている。   Among these, the operation management unit 13 has functions such as login / logoff processing, and also generates an operation log that describes operation contents according to a predetermined operation performed on the client terminal 1a. Unit 13a, and an operation screen capture unit 13b that captures an operation screen in the client terminal 1a and generates a capture image as an operation image.

操作ログ生成部13a或いは操作画面キャプチャ部13bにおいて生成され、端末監視サーバ2へ送信される操作ログ及びキャプチャ画像のデータ構造の一例が図2に模式的に示されている。図2(a)に示すように、この操作ログはクライアント端末1を識別する端末IDを基点として、当該端末のログインユーザを識別するユーザID(又はログイン名)、当該操作ログを生成した日時データ、ユーザによる操作の実行内容などがリンクしている。さらに、操作画面におけるウインドウの表示状態を記述したウインドウ表示情報として、起動しているアプリケーション名、実行中のウインドウのファイル名、当該ウインドウの画面上での配置データ、その利用状態がリンクしている。図2(a)では2種類のアプリケーションが起動しており、各アプリケーションについて一つのウインドウが実行中となっている。なお、ウインドウの配置データには、操作画面上のウインドウの配置位置や表示サイズのほか、配置順位が含まれている。配置順位に関しては、他のウインドウと重なって配置されていない場合(後述する図3のクライアント端末1b参照)には「0」が割り当てられ、他のウインドウと重なって配置されている場合(後述する図3のクライアント端末1a参照)には、最上位の配置位置から順に「1」、「2」、・・が割り当てられる。すなわち、この配置順位の割り当てデータが「0」或いは「1」のウインドウは、その全領域が画面上に表示されていることになる。また、利用状態には、当該ウインドウがアクティブか、或いは非アクティブかといった情報が含まれている。   An example of the data structure of the operation log and the captured image generated in the operation log generation unit 13a or the operation screen capture unit 13b and transmitted to the terminal monitoring server 2 is schematically illustrated in FIG. As shown in FIG. 2A, this operation log is based on a terminal ID that identifies the client terminal 1, and a user ID (or login name) that identifies the login user of the terminal, and date / time data that generated the operation log. The execution contents of the operation by the user are linked. Furthermore, as the window display information describing the display state of the window on the operation screen, the name of the running application, the file name of the window being executed, the arrangement data on the screen of the window, and the use state thereof are linked. . In FIG. 2A, two types of applications are activated, and one window is being executed for each application. The window arrangement data includes the arrangement order as well as the window arrangement position and display size on the operation screen. With regard to the arrangement order, “0” is assigned when the window is not overlapped with another window (see the client terminal 1b in FIG. 3 to be described later), and the window is overlapped with another window (described later). “1”, “2”,... Are assigned to the client terminal 1a in FIG. That is, the entire area of the window whose allocation order assignment data is “0” or “1” is displayed on the screen. In addition, the usage state includes information indicating whether the window is active or inactive.

さらに、図2(b)に示すように、キャプチャ画像は端末IDを基点として日時データとリンクしている。そして、生成された操作ログと操作画面のキャプチャ画像とは日時データに基づいて関連付けされている。これにより、キャプチャ画像中のウインドウの表示状態を、操作ログのウインドウ表示情報から把握することができる。なお、操作ログよりキャプチャ画像の生成間隔の方が短い場合、すなわちキャプチャ画像の生成数の方が多い場合には、例えば操作ログs1から後続する操作ログs2までの間に取得されたキャプチャ画像は操作ログs1のウインドウ表示情報に記述されたウインドウの表示状態にあるものと推定して関連付けしても良い。   Further, as shown in FIG. 2B, the captured image is linked to the date / time data with the terminal ID as a base point. The generated operation log and the captured image of the operation screen are associated with each other based on the date / time data. Thereby, the display state of the window in the captured image can be grasped from the window display information of the operation log. When the capture image generation interval is shorter than the operation log, that is, when the number of capture image generations is larger, for example, the captured image acquired between the operation log s1 and the subsequent operation log s2 is You may estimate and associate with the display state of the window described in the window display information of operation log s1.

一方、端末監視サーバ2のコンピュータには、ソフトウエア又はハードウエア或いはその両方で、本発明に関係する機能として、クライアント端末1の管理を行う端末管理部21、ネットワークインターフェース32を介してクライアント端末1から操作ログを取得する操作ログ取得部22、取得した操作ログからウインドウ表示情報を読み取るウインドウ表示情報読取部23、取得した操作ログを格納する操作ログ格納部24、ネットワークインターフェース32を介してクライアント端末1からキャプチャ画像を取得するキャプチャ画像取得部25、取得したキャプチャ画像の各種管理を行うキャプチャ画像管理部26、取得したキャプチャ画像或いは所定の処理が施されたキャプチャ画像などを時系列的に格納する画像格納部27、後述するウインドウ画像の表示制御を行うウインドウ画像表示部28、ウインドウ画像に関する種々の設定を行う対象ウインドウ画像設定部29、クライアント端末1におけるウインドウに対する操作時間を操作ログに基づいて算出する操作時間算出部30などが構築されている。   On the other hand, the computer of the terminal monitoring server 2 includes a client terminal 1 via a terminal management unit 21 that manages the client terminal 1 and a network interface 32 as a function related to the present invention in software and / or hardware. An operation log acquisition unit 22 that acquires an operation log from the window, a window display information reading unit 23 that reads window display information from the acquired operation log, an operation log storage unit 24 that stores the acquired operation log, and a client terminal via the network interface 32 The captured image acquisition unit 25 that acquires a captured image from 1, the captured image management unit 26 that performs various management of the acquired captured image, and the acquired captured image or a captured image that has undergone predetermined processing are stored in time series. Image storage unit 27, after A window image display unit 28 that performs display control of the window image to be performed, a target window image setting unit 29 that performs various settings relating to the window image, and an operation time calculation unit 30 that calculates an operation time for the window in the client terminal 1 based on the operation log. Etc. are built.

このキャプチャ画像管理部26には、ウインドウ表示情報読取部23により読み取ったウインドウ表示情報に基づいて、キャプチャ画像取得部25により取得されたキャプチャ画像から、ウインドウ毎にその表示領域をウインドウ画像として切り出すウインドウ画像切出部26aと、切り出したウインドウ画像を対応するクライアント端末と関連付けて、当該ウインドウ画像が有する属性情報別に分類するウインドウ画像分類部26bと、画像格納部27から所定の条件のキャプチャ画像を抽出するキャプチャ画像抽出部26cと、切り出された画像の合成を行うウインドウ画像合成部26dとが含まれている。なお、ウインドウ画像分類部26bにより分類された、クライアント端末と関連付けられたウインドウ画像は、ウインドウ画像表示部28により当該属性情報別に監視モニタ52の画面上に一覧表示される(後述の図4参照)。なお、本実施形態においては、この属性情報としてウインドウを操作しているアプリケーション情報を用いている。従って、クライアント端末と関連付けられたウインドウ画像は、アプリケーション別に監視モニタ52の画面上に一覧表示される。   The capture image management unit 26 includes a window for cutting out the display area of each capture window as a window image from the capture image acquired by the capture image acquisition unit 25 based on the window display information read by the window display information reading unit 23. An image cutout unit 26a, a window image classification unit 26b that associates the cutout window image with the corresponding client terminal, and classifies the image by attribute information of the window image, and a captured image having a predetermined condition is extracted from the image storage unit 27. A capture image extracting unit 26c that performs the above processing and a window image combining unit 26d that combines the cut-out images. The window images classified by the window image classification unit 26b and associated with the client terminal are displayed as a list on the screen of the monitoring monitor 52 by the window image display unit 28 according to the attribute information (see FIG. 4 described later). . In the present embodiment, application information operating a window is used as the attribute information. Therefore, the window images associated with the client terminal are displayed in a list on the screen of the monitor monitor 52 for each application.

ここで、ウインドウ画像切出部26aによりキャプチャ画像から切り出される対象となるウインドウである「対象ウインドウ」や、その「切り出し条件」などは、対象ウインドウ設定部29により設定される。この対象ウインドウ設定部29の設定情報は、GUI部31を介して操作入力デバイス62により入力・変更することができる。なお、本実施形態においては、「対象ウインドウ」としてキャプチャ画像に表示されている全てのウインドウが設定されている。また、「切り出し条件」として、キャプチャ画像中のウインドウが全領域表示されていない場合には、当該ウインドウが全領域表示されている直近の(最新の)キャプチャ画像から当該ウインドウのウインドウ画像を切り出すように設定されている。   Here, the “target window”, which is a window to be cut out from the captured image by the window image cutout unit 26 a, its “cutout condition”, and the like are set by the target window setting unit 29. The setting information of the target window setting unit 29 can be input / changed by the operation input device 62 via the GUI unit 31. In the present embodiment, all windows displayed in the captured image are set as “target windows”. Further, as the “cutout condition”, when the window in the captured image is not displayed in the entire area, the window image of the window is extracted from the latest (latest) captured image in which the window is displayed in the entire area. Is set to

このウインドウ画像の切り出しとその分類について図3の概略説明図を用いて説明する。なお、複数のウインドウが画面上に表示される場合、その表示形態としては、図3のクライアント端末1aに示すような重複表示パターンと、クライアント端末1bに示すような並列表示パターン、或いはこれらの混合パターンとが考えられる。   The extraction and classification of the window image will be described with reference to the schematic explanatory diagram of FIG. In addition, when a plurality of windows are displayed on the screen, the display form includes an overlapping display pattern as shown in the client terminal 1a in FIG. 3, a parallel display pattern as shown in the client terminal 1b, or a mixture thereof. A pattern is considered.

以下では、時刻t1における各クライアント端末のキャプチャ画像からウインドウ画像を切り出して監視モニタ52の画面上に表示する場合を説明する。この際、並列表示パターンのウインドウについては各ウインドウをそのまま切り出すことができる。すなわち、図3においては、時刻t1におけるクライアント端末1bのキャプチャ画像から、アプリケーションX及びアプリケーションZにより操作されるウインドウ画像APL.X,APL.Zが夫々切り出される。   Below, the case where a window image is cut out from the captured image of each client terminal at time t1 and displayed on the screen of the monitoring monitor 52 will be described. At this time, the windows of the parallel display pattern can be cut out as they are. That is, in FIG. 3, from the captured image of the client terminal 1b at time t1, the window image APL. X, APL. Each Z is cut out.

一方、重複表示パターンのウインドウについては、全領域表示されているウインドウ画像が切り出され、全領域表示されていないウインドウ(隠れ領域が存在するウインドウ)は、当該ウインドウが全領域表示されている直近の(最新の)キャプチャ画像から当該ウインドウのウインドウ画像が切り出される。すなわち、図3においては、時刻t1におけるクライアント端末1aのキャプチャ画像から、まずアプリケーションXにより操作されるウインドウ画像APL.Xが切り出される。ここでアプリケーションYにより操作されるウインドウ画像APL.Yは時刻t1においては隠れ領域が存在して全領域表示されていないので、このアプリケーションYのウインドウが全領域表示されている直近のキャプチャ画像、ここでは時刻t0のキャプチャ画像を抽出して当該キャプチャ画像からアプリケーションYのウインドウ画像APL.Yが切り出される。なお、ここでは重複表示パターンと並列表示パターンとについて説明したが、これらの混合パターンについても同様である。   On the other hand, for windows with overlapping display patterns, the window image that is displayed in the entire area is cut out, and the window that is not displayed in the entire area (the window in which the hidden area exists) is the most recently displayed window in which the entire area is displayed. The window image of the window is cut out from the (latest) captured image. That is, in FIG. 3, from the captured image of the client terminal 1a at time t1, first, the window image APL. X is cut out. Here, the window image APL. Since Y has a hidden area at time t1 and the entire area is not displayed, the latest captured image in which the window of application Y is displayed in the entire area, here, the captured image at time t0 is extracted and the captured image is displayed. From the image, the window image APL. Y is cut out. Although the overlap display pattern and the parallel display pattern have been described here, the same applies to these mixed patterns.

このようにして切り出された各ウインドウ画像は、対応するクライアント端末1a(CLa),クライアント端末1b(CLb)と関連付けられて、当該ウインドウを操作しているアプリケーションX,Y,Z別に分類される。そして、このように分類された各ウインドウ画像は、アプリケーションX,Y,Z別に、且つクライアント端末に関する情報が付されて監視モニタ52の画面上に一覧表示される。すなわち、時刻t1のキャプチャ画像(ウインドウ画像)を表示する監視モニタ52の画面上において、アプリケーション名:X欄にはクライアント端末1a(CLa)とクライアント端末1b(CLb)の時刻t1におけるキャプチャ画像から切り出されたアプリケーションXのウインドウ画像が夫々表示され、アプリケーション名:Y欄にはクライアント端末1a(CLa)の時刻t0におけるキャプチャ画像から切り出されたアプリケーションYのウインドウ画像が表示され、アプリケーション名:Z欄にはクライアント端末1b(CLb)の時刻t1におけるキャプチャ画像から切り出されたアプリケーションZのウインドウ画像が表示される。   Each window image cut out in this way is associated with the corresponding client terminal 1a (CLa) and client terminal 1b (CLb), and is classified according to the applications X, Y, and Z that are operating the window. Each window image classified in this way is displayed in a list on the screen of the monitor 52 with information about the client terminal attached to each application X, Y, and Z. That is, on the screen of the monitor 52 that displays the captured image (window image) at time t1, the application name: X column is cut out from the captured images at time t1 of the client terminal 1a (CLa) and the client terminal 1b (CLb). The window image of the application X is displayed, the window image of the application Y cut out from the captured image at the time t0 of the client terminal 1a (CLa) is displayed in the application name: Y column, and the application name: Z column. Displays the window image of the application Z cut out from the captured image at time t1 of the client terminal 1b (CLb).

なお、監視モニタ52の画面上で一覧表示されるウインドウ画像の配置位置は、各クライアント端末におけるウインドウに対する操作時間に基づいて決定される。このウインドウの操作時間として、本実施形態においてはウインドウの開状態時間、すなわちウインドウを開いている時間を採用している。このクライアント端末1におけるウインドウに対する操作時間は、操作ログに基づいて操作時間算出部30により算出することができる。例えば、ウインドウの開状態時間であれば、操作ログの操作内容を参照して当該ウインドウが開かれた時間を出発点として経過時間を計数すれば良い。   In addition, the arrangement position of the window image displayed as a list on the screen of the monitoring monitor 52 is determined based on the operation time for the window in each client terminal. In this embodiment, the window open time, that is, the window open time is used as the window operation time. The operation time for the window in the client terminal 1 can be calculated by the operation time calculation unit 30 based on the operation log. For example, if the window is in the open state time, the elapsed time may be counted from the time when the window is opened with reference to the operation content of the operation log.

このようにして表示される監視モニタ52の端末監視画面の具体例が図4に示されている。この端末監視画面100には、上部位置にPC情報ボタン101、ログ閲覧ボタン102、リモート制御ボタン103、アラート設定ボタン104、設定ボタン105、終了ボタン106などがアイコンの形で配置され、この端末監視画面100の下部にはウインドウ画像表示部110、端末一覧表示部111、ウインドウ画像設定ボタン112などが形成されている。ウインドウ画像表示部110には、フレーム121で取り囲まれる形態でウインドウ画像の表示領域120が複数マトリックス状に表示されており、このフレーム121の下部に当該ウインドウ画像の属性を示す属性表示部122が配置されている。   A specific example of the terminal monitoring screen of the monitoring monitor 52 displayed in this way is shown in FIG. On this terminal monitoring screen 100, a PC information button 101, a log browsing button 102, a remote control button 103, an alert setting button 104, a setting button 105, an end button 106, and the like are arranged in the upper position in the form of icons. At the bottom of the screen 100, a window image display unit 110, a terminal list display unit 111, a window image setting button 112, and the like are formed. The window image display unit 110 displays a plurality of window image display areas 120 surrounded by a frame 121 in a matrix form, and an attribute display unit 122 indicating the attribute of the window image is arranged below the frame 121. Has been.

上述したように、本実施形態においてはウインドウ画像表示部110に各クライアント端末のキャプチャ画像から切り出されたウインドウ画像がアプリケーション別に一覧表示される。すなわち、アプリケーション別表示欄130が形成され、この表示欄130において対応するウインドウ画像がクライアント端末と関連付けられて一覧表示される。本実施形態においては、この関連付けは属性表示部122に対応する端末名(CLaなど)を付して表示することにより行なわれている。   As described above, in the present embodiment, window images cut out from the captured images of the client terminals are displayed in a list for each application on the window image display unit 110. That is, an application-specific display field 130 is formed, and corresponding window images are displayed in a list in association with the client terminal in the display field 130. In this embodiment, this association is performed by attaching and displaying a terminal name (CLa or the like) corresponding to the attribute display unit 122.

本実施形態においてアプリケーション別表示欄130は、表示するウインドウ画像120が少ない順に上位置から順に並べられる。また、各アプリケーション別表示欄130においては、ウインドウの開状態時間が長いウインドウ画像120が左位置から順に配置されている。さらに、アクティブ状態であるウインドウについてはそのフレーム121が強調表示、例えば赤色の太枠で表示されている。なお、ウインドウ画像120をダブルクリックすることで、そのウインドウ画像120だけを拡大表示することができる。さらに、必要に応じて、表示されているウインドウ画像にリンクしているウインドウ表示情報などの操作ログ情報を別の操作ログ表示ウインドウに表示させることも可能である。   In the present embodiment, the application-specific display fields 130 are arranged in order from the top position in ascending order of the window images 120 to be displayed. Further, in each application display column 130, window images 120 having a long window open state time are arranged in order from the left position. Further, the frame 121 of the window in the active state is highlighted, for example, displayed with a red thick frame. Note that by double-clicking the window image 120, only the window image 120 can be enlarged and displayed. Furthermore, if necessary, operation log information such as window display information linked to the displayed window image can be displayed in another operation log display window.

本実施形態における端末監視サーバ2には、各クライアント端末1から操作ログやキャプチャ画像がリアルタイムで送られてきており、このため端末監視画面100も時々刻々と変化する。すなわち図4(a)における端末監視画面100の状態から例えば5秒後には、図4(b)に示すような端末監視画面100の状態となる。ここで、上述したようにアプリケーション別表示欄130は、表示するウインドウ画像が少ない順に上位置から順に並べられるので、他のクライアント端末と相違するアプリケーションを操作しているクライアント端末を容易に見つけることができる。例えば、図4(b)を見ればクライアント端末1f(CLf)が、図4(a)から図4(b)に至る間にアプリケーションWを起動させて操作していることを一目で把握することができる。   Operation logs and captured images are sent from the respective client terminals 1 to the terminal monitoring server 2 in the present embodiment in real time, and therefore the terminal monitoring screen 100 changes from moment to moment. That is, after 5 seconds from the state of the terminal monitoring screen 100 in FIG. 4A, for example, the state of the terminal monitoring screen 100 as shown in FIG. Here, as described above, the application-specific display column 130 is arranged in order from the top position in the order of few window images to be displayed, so that it is easy to find a client terminal that is operating an application different from other client terminals. it can. For example, as shown in FIG. 4B, the client terminal 1f (CLf) grasps at a glance that the application W is activated and operated during the period from FIG. 4A to FIG. 4B. Can do.

なお、ウインドウ画像表示部110に表示するクライアント端末のウインドウ画像120の設定は、ウインドウ画像設定ボタン112を操作することにより行うことができる。図5に、このウインドウ画像設定ボタン112を操作することにより表示されるウインドウ画像設定画面200の一例を示す。このウインドウ画像設定画面200には対象ウインドウ選択部210、ウインドウ表示形態選択部220が設けられている。対象ウインドウ選択部210は、キャプチャ画像から切り出される対象となるウインドウを選択する欄であり、上述したように本実施形態においては、対象ウインドウとしてキャプチャ画像の「表示ウインドウ全て」が選択されている。また、ウインドウ表示形態選択部220は、切り出される対象となるキャプチャ画像中のウインドウが全領域表示されていない場合(隠れ領域が存在する場合)、別のキャプチャ画像における全領域表示されているウインドウ画像と差し替えを行うなどの選択をするものである。本実施形態においては「差替」が選択されており、これにより当該ウインドウが全領域表示されている直近のキャプチャ画像から当該ウインドウのウインドウ画像を切り出すように設定される。   The setting of the window image 120 of the client terminal displayed on the window image display unit 110 can be performed by operating the window image setting button 112. FIG. 5 shows an example of a window image setting screen 200 displayed by operating the window image setting button 112. The window image setting screen 200 is provided with a target window selection unit 210 and a window display form selection unit 220. The target window selection unit 210 is a column for selecting a target window to be cut out from the captured image. As described above, in the present embodiment, “all display windows” of the captured image is selected as the target window. In addition, the window display form selection unit 220 displays a window image that is displayed in the entire area in another captured image when the window in the captured image to be cut out is not displayed in the entire area (when a hidden area exists). It is a choice such as performing a replacement. In this embodiment, “replacement” is selected, and accordingly, the window image of the window is set to be cut out from the latest captured image in which the window is displayed in the entire area.

次に、この端末監視サーバによる端末監視処理の流れを図6に基づいて説明する。なお、上述したように本実施形態においては、クライアント端末から取得した画像は、リアルタイムでモニタ画面上に表示されている。まず、端末監視サーバ2は、クライアント端末1から操作ログ取得部22により操作ログを、キャプチャ画像取得部25によりこの操作ログに関連付けられるキャプチャ画像を取得する(#01)。取得された操作ログから、ウインドウ表示情報読取部23により、キャプチャ画像中のウインドウの表示状態を記述したウインドウ表示情報を読み取る(#02)。なお、取得した操作ログやキャプチャ画像は、操作ログ格納部24、画像格納部27に格納される。   Next, the flow of terminal monitoring processing by this terminal monitoring server will be described with reference to FIG. As described above, in the present embodiment, the image acquired from the client terminal is displayed on the monitor screen in real time. First, the terminal monitoring server 2 acquires an operation log from the client terminal 1 by the operation log acquisition unit 22 and a capture image associated with the operation log by the capture image acquisition unit 25 (# 01). From the acquired operation log, the window display information reading unit 23 reads the window display information describing the display state of the window in the captured image (# 02). The acquired operation log and captured image are stored in the operation log storage unit 24 and the image storage unit 27.

次に、読み取ったウインドウ表示情報に基づいて、取得されたキャプチャ画像から切り出される対象となるウインドウが決定される(#03)。上述したように本実施形態においては表示されているウインドウ全てが対象として設定されており、切り出される対象となるウインドウにおいて全領域表示されていないウインドウ(隠れ領域が存在するウインドウ)が存在する場合(#04Yes分岐)、画像格納部27から当該ウインドウが全領域表示されている直近のキャプチャ画像が抽出される(#05)。この抽出は、操作ログに含まれる日時データとウインドウ表示情報を参照してキャプチャ画像抽出部26cにより行われる。   Next, based on the read window display information, a window to be cut out from the acquired captured image is determined (# 03). As described above, in the present embodiment, all displayed windows are set as targets, and there are windows that are not displayed in the entire area (windows where hidden areas exist) in the target window to be cut out (windows with hidden areas) ( (# 04 Yes branch), the latest captured image in which the window is displayed in the entire area is extracted from the image storage unit 27 (# 05). This extraction is performed by the captured image extraction unit 26c with reference to date / time data and window display information included in the operation log.

切り出される対象となるウインドウにおいて全領域表示されていないウインドウ(隠れ領域が存在するウインドウ)が存在する場合(#04Yes分岐)には、このように抽出されたキャプチャ画像から、一方、切り出される対象となるウインドウが全領域表示されている場合(#04No分岐)にはそのキャプチャ画像から、ウインドウ画像切出部26bにより当該ウインドウのウインドウ画像が切り出される(#06)。   When there is a window that is not displayed in the entire area (a window in which a hidden area exists) in the window to be cut out (# 04 Yes branch), from the captured image extracted in this way, on the other hand, When the entire window is displayed (# 04 No branch), the window image cutting unit 26b cuts out the window image of the window from the captured image (# 06).

切り出されたウインドウ画像は対応するクライアント端末と関連付けられ、ウインドウ画像分類部26bにより当該ウインドウを操作しているアプリケーション別に分類される(#07)。そして、このように分類され、クライアント端末と関連付けられたウインドウ画像は、図4に示すようにウインドウ画像表示部28により当該アプリケーション別に監視モニタ52の画面上に一覧表示される(#08)。   The clipped window image is associated with the corresponding client terminal, and is classified by the application operating the window by the window image classification unit 26b (# 07). Then, the window images classified in this way and associated with the client terminal are displayed as a list on the screen of the monitoring monitor 52 by the window image display unit 28 as shown in FIG. 4 (# 08).

このように本実施形態においては、各クライアント端末から取得したキャプチャ画像について、操作ログに含まれるウインドウ表示情報に基づいて、そのキャプチャ画像からウインドウ画像が切り出される。そして、切り出されたウインドウ画像は対応するクライアント端末と関連付けられ、当該ウインドウを操作しているアプリケーション別に分類され、分類されたウインドウ画像が当該アプリケーション別に監視モニタ画面上に一覧表示される。これにより、監視モニタ画面上において各クライアントの操作状況をウインドウ単位で見ることができると共に、アプリケーション別に一覧表示して見ることができるので、例えば業務外目的のアプリケーションを操作しているクライアント端末を容易に発見できるなど、クライアント端末における操作状況を容易に把握することが可能となる。また、切り出される対象となるウインドウに隠れ領域が存在して全領域表示されていない場合であっても、当該ウインドウが全領域表示されている直近の操作画像からウインドウ画像を切り出して、これを表示することができる。このように隠れ領域が存在するウインドウ画像を直近の全領域表示されているウインドウ画像と差し替えることにより、時間的なズレは生じるもののその操作状況を把握し易くなる。さらに、アプリケーション別の表示において、表示するウインドウ画像が少ないアプリケーションを上位置にすると共に、各アプリケーション別の表示欄においてウインドウの開状態時間の長い順に表示することにより、特定のアプリケーションを長時間使用し続けているクライアント端末が見つけ易くなり、各クライアント端末の操作状況をより把握し易くすることができる。   Thus, in this embodiment, a window image is cut out from the captured image acquired from each client terminal based on the window display information included in the operation log. The clipped window image is associated with the corresponding client terminal, classified according to the application operating the window, and the classified window image is displayed in a list on the monitor screen for each application. As a result, the operation status of each client can be viewed on a monitor monitor screen in window units, and can be displayed in a list by application. For example, a client terminal operating a non-business purpose application is easy. It is possible to easily grasp the operation status at the client terminal. In addition, even when a hidden area exists in the window to be cut out and the entire area is not displayed, the window image is cut out from the latest operation image in which the window is displayed in the entire area and displayed. can do. Replacing the window image in which the hidden area exists in this way with the window image displayed in the most recent all area makes it easy to grasp the operation state although a time shift occurs. Furthermore, in the display by application, the application with few window images to be displayed is placed in the upper position, and the specific application is used for a long time by displaying the windows in the longest open state time in the display column for each application. It is easier to find the client terminal that is continuing, and it is possible to more easily grasp the operation status of each client terminal.

〔別実施形態〕
(1)上述した実施形態においては、属性情報としてウインドウを操作しているアプリケーション情報を用いたが、これ以外にも、例えば、当該ウインドウに対応するクライアント端末情報を用い、ウインドウ画像をクライアント端末別に一覧表示するようにしても良い。このように表示することで、ウインドウ画像をクライアント別に見ることができ、クライアント別の監視が行い易くなる。また、アプリケーション情報やクライアント端末情報といった属性情報を選択可能に構成すると、用途に応じてアプリケーション別或いはクライアント別表示などができ、好適である。
[Another embodiment]
(1) In the above-described embodiment, application information for operating a window is used as attribute information. However, for example, client terminal information corresponding to the window is used, and a window image is classified for each client terminal. A list may be displayed. By displaying in this way, the window image can be viewed for each client, and monitoring for each client is facilitated. Further, it is preferable that attribute information such as application information and client terminal information can be selected, so that display can be performed by application or by client according to usage.

(2)上述した実施形態においては、切り出される対象となるウインドウをキャプチャ画像に表示されているウインドウ全てとしたが、もちろんこれ以外のウインドウを指定するようにしても良い。例えば、アクティブ・ウインドウを対象ウインドウとして指定しても良いし、複数のウインドウが重複して表示されている場合の最前面に位置するウインドウや、全領域表示されているウインドウなどを指定するようにしても良い。このように、クライアント端末の操作者が見ている可能性の高い表示条件のウインドウを指定するようにすると好適である。なお、これらの指定は図5のウインドウ画像設定画面200の対象ウインドウ選択部210により行うことができる。 (2) In the above-described embodiment, the windows to be cut out are all windows displayed in the captured image. Of course, other windows may be designated. For example, the active window may be designated as the target window, or the window located in the foreground when multiple windows are displayed in duplicate or the window displayed in the entire area may be designated. May be. In this way, it is preferable to designate a window with display conditions that are likely to be viewed by the operator of the client terminal. These designations can be made by the target window selection unit 210 of the window image setting screen 200 of FIG.

また、上述した実施形態においては、キャプチャ画像から切り出すウインドウとして、タスクバー以外の領域に表示されているウインドウを対象としているが、もちろんタスクバー上に最小化表示されているウインドウを切り出すようにしても良い。この場合、あるウインドウの背面に全ての領域が隠されているウインドウがあっても、タスクバー上に最小化表示されているウインドウをウインドウ画像として切り出すことにより、ウインドウの背面側でゲーム操作などの不正操作を行っているクライアント端末を、より容易に発見することができる。なお、操作画像のタスクバー以外の領域に表示されているウインドウとタスクバー上に表示されているウインドウとが同一の場合には、タスクバー上に表示されているウインドウの切り出しを行わないようにすることで重複を避けることができる。   In the above-described embodiment, the window to be cut out from the captured image is a window displayed in an area other than the task bar. Of course, a window that is minimized on the task bar may be cut out. . In this case, even if there is a window whose entire area is hidden on the back of a certain window, the window displayed on the taskbar is minimized as a window image, and illegal operations such as game operations are performed on the back of the window. The client terminal that is performing the operation can be found more easily. If the window displayed in the area other than the task bar of the operation image is the same as the window displayed on the task bar, the window displayed on the task bar should not be cut out. Duplication can be avoided.

また、あるウインドウの背面に全ての領域が隠されているウインドウについては、当該ウインドウが全領域表示されている直近の操作画像を操作画像抽出部により操作画像格納部から抽出し、抽出された直近の操作画像から当該ウインドウの表示領域を切り出して前記ウインドウ画像として用いるようにしても良い。   For a window whose entire area is hidden behind a certain window, the operation image extraction unit extracts the latest operation image in which the window is displayed in the entire area from the operation image storage unit. The display area of the window may be cut out from the operation image and used as the window image.

(3)上述した実施形態においては、切り出される対象となるウインドウがキャプチャ画像中において全領域表示されていない場合(隠れ領域が存在する場合)、当該ウインドウが全領域表示されている直近のキャプチャ画像から当該ウインドウのウインドウ画像を切り出すような形態としたが、隠れ領域のみを直近のキャプチャ画像における当該ウインドウのウインドウ画像の該当領域と置換するような形態としても良い。 (3) In the above-described embodiment, when the window to be cut out is not displayed in the entire area in the captured image (when there is a hidden area), the latest captured image in which the window is displayed in the entire area However, only the hidden area may be replaced with the corresponding area of the window image of the window in the latest captured image.

これを図7に基づいて説明する。時刻t1におけるクライアント端末1aのキャプチャ画像において、アプリケーションYにより操作されるウインドウ画像APL.Yは、ウインドウ画像APL.Xにより隠されている領域GYuが存在する。そこで、まずこの隠れ領域GYuを含むウインドウ画像GY1を切り出す。次に、このアプリケーションYのウインドウが全領域表示されている直近のキャプチャ画像、ここでは時刻t0のキャプチャ画像を抽出し、当該キャプチャ画像におけるアプリケーションYのウインドウ画像APL.Yから、隠れ領域GYuに該当する領域の画像GY0を切り出す。このようにして切り出された画像GY0を、画像GY1の隠れ領域GYuと置き換えることにより、モニタ画面52に表示するためのウインドウ画像を生成する。なお、これらの合成処理は、ウインドウ画像合成部26dにより行うことができる。   This will be described with reference to FIG. In the captured image of the client terminal 1a at time t1, the window image APL. Y is a window image APL. There is a region GYu hidden by X. Therefore, first, a window image GY1 including this hidden area GYu is cut out. Next, the latest captured image in which the window of the application Y is displayed in the entire area, here, the captured image at time t0 is extracted, and the window image APL. From Y, an image GY0 of a region corresponding to the hidden region GYu is cut out. A window image to be displayed on the monitor screen 52 is generated by replacing the image GY0 cut out in this way with the hidden area GYu of the image GY1. Note that these combining processes can be performed by the window image combining unit 26d.

また、こうした差替や置換は行なわずに、隠れ領域以外の表示されている領域のみを切り出して表示するようにしても良い。なお、これらの表示は図5のウインドウ画像設定画面200のウインドウ表示形態選択部220における「置換」或いは「隠れ領域以外を表示」を選択することにより設定することができる。   Further, without performing such replacement or replacement, only the displayed area other than the hidden area may be cut out and displayed. These displays can be set by selecting “Replace” or “Display other than hidden area” in the window display form selection unit 220 of the window image setting screen 200 of FIG.

(4)上述した実施形態において、モニタ画面上に一覧表示する際のウインドウ画像に対するクライアント端末の関連付けは、属性表示部122に対応する端末名(CLaなど)を付して表示することにより行なわれたが、もちろんこれ以外にもユーザ名などを付して表示するような形態としても良い。なお、こうした端末IDと表示する端末名、ユーザIDと表示するユーザ名との対応付けなどは、当該対応関係を記録した端末情報格納部(図示せず)を参照して行うことができる。 (4) In the above-described embodiment, the client terminal is associated with the window image when the list is displayed on the monitor screen by displaying the terminal name (CLa or the like) corresponding to the attribute display unit 122. However, of course, it may be configured to display the user name in addition to this. Note that such association between the terminal ID and the terminal name to be displayed and the user ID and the user name to be displayed can be performed with reference to a terminal information storage unit (not shown) in which the correspondence is recorded.

(5)上述した実施形態においては、ウインドウの操作時間としてウインドウの開状態時間を採用し、この開状態時間が長いものほど優先的な位置(左位置)に配置するような形態としたが、この他にもウインドウの操作時間としてウインドウのアクティブ状態継続時間などを採用しても良い。また、ある時刻を起点として、当該時刻からのウインドウの開状態時間やアクティブ状態継続時間の累積時間を操作時間として算出し、これに基づいてウインドウ画像の配置位置を決定するようにしても良い。また、こうしたウインドウの操作時間に応じてウインドウ画像の表示サイズが変わるように構成し、例えばウインドウの開状態時間が長いものほど大きく表示するような形態としても良い。 (5) In the above-described embodiment, the open state time of the window is adopted as the window operation time, and the longer the open state time is, the more preferential position (left position) is. In addition to this, the window active time duration may be adopted as the window operation time. Also, starting from a certain time, the window open state time and the accumulated time of the active state duration from that time may be calculated as the operation time, and the arrangement position of the window image may be determined based on this. Further, the display size of the window image may be changed according to the operation time of such a window, and for example, the longer the window open state time, the larger the display may be.

(6)上述した実施形態においては、アクティブ状態のウインドウ画像のフレーム121を赤色の太枠で強調表示することにより監視モニタを見ている者に対して注意を促す構成としたが、このような強調表示としてフレーム121の点滅表示などを行うようにしても良い。 (6) In the embodiment described above, the frame 121 of the window image in the active state is highlighted with a red thick frame so as to alert the person watching the monitoring monitor. As the highlighting, blinking display of the frame 121 may be performed.

(7)また、不正操作判定部を備え、操作ログに含まれる操作内容に基づいて不正操作が行われているか否かを判定し、不正操作が行われていると判定された場合に当該ウインドウ画像の表示形態を強調表示するようにしても良い。なお、このような不正操作としては、ゲーム操作やアクセス禁止ホームページへのアクセス操作などの業務外操作、機密ファイルの閲覧など情報漏洩に繋がる操作などを挙げることができる。 (7) Further, an unauthorized operation determination unit is provided, and it is determined whether an unauthorized operation is performed based on the operation content included in the operation log, and when it is determined that the unauthorized operation is performed, the window The image display form may be highlighted. Examples of such unauthorized operations include out-of-work operations such as game operations and access operations to an access-prohibited homepage, and operations that lead to information leakage such as browsing confidential files.

この不正操作判定は、例えば操作内容と別途設けられた不正操作テーブル(図示せず)とを参照することにより行うことができる。これ以外にも当該ウインドウの開状態時間やアクティブ状態継続時間、或いは所定時刻からのこれらの累積時間などの操作時間を利用しても良く、また、この操作時間と不正操作テーブルとを併せて判定しても良い。例えば、操作内容に応じてウインドウに対する許容範囲の操作時間を設定し、この許容範囲を超えて操作が行われた場合に不正操作と判定するのである。上述したように操作ログとキャプチャ画像とは関連付けられているので、不正操作が行われた際のキャプチャ画像、従ってウインドウ画像を特定することができる。そして、このようにして特定されたウインドウ画像の以降の表示について、拡大表示などの強調表示がなされるようにすれば良い。   This unauthorized operation determination can be performed, for example, by referring to an operation content and an unauthorized operation table (not shown) provided separately. In addition to this, an operation time such as the open state time or the active state duration time of the window or the accumulated time from a predetermined time may be used, and the operation time and the unauthorized operation table are determined together. You may do it. For example, an operation time of an allowable range for the window is set according to the operation content, and it is determined that the operation is illegal when the operation is performed exceeding the allowable range. As described above, since the operation log and the captured image are associated with each other, it is possible to specify a captured image, that is, a window image when an unauthorized operation is performed. Then, the subsequent display of the window image specified in this way may be made to be highlighted such as enlarged display.

また、こうした強調表示だけでなく、不正と判断した理由をウインドウ画像からポップアップなどの形態で表示するようにしても良いし、このような視覚的な注意喚起に加えて或いはこれに代えて、音声による注意喚起などを行うようにしても良い。さらに、当該クライアント端末に対して警告メッセージや強制ログオフなどの操作規制コマンドの送信を端末管理部21により行うようにしても良い。   In addition to such highlighting, the reason for determining the fraud may be displayed in a form such as a pop-up from a window image, and in addition to or instead of such visual alerting, a voice may be displayed. You may make it perform alerting by. Further, the terminal management unit 21 may transmit an operation restriction command such as a warning message or forced logoff to the client terminal.

(8)上述した実施形態においては、監視モニタの画面上のアプリケーション別の表示欄について、表示するウインドウ画像が少ない順に上位置から並べたが、監視対象として優先度の高いアプリケーションから順に上位置から順に並べるような形態としても良い。また、アプリケーション選択部を備え、特定のアプリケーションを選択して表示するような構成としても良い。さらに、ウインドウが表示されていない端末(ここではウインドウがタスクバー上にのみ表示されている端末を含む)の操作画面も表示するように、ウインドウなしの表示欄を設けても良い。 (8) In the above-described embodiment, the display fields for each application on the monitor monitor screen are arranged from the top position in the order of few window images to be displayed. It is good also as a form which arranges in order. Moreover, it is good also as a structure which provides an application selection part and selects and displays a specific application. Further, a display field without a window may be provided so as to display an operation screen of a terminal in which no window is displayed (including a terminal in which the window is displayed only on the task bar here).

(9)上述した実施形態においては、起動しているアプリケーションに対応するウインドウが一つの場合を説明したが、2以上のウインドウが開いている場合であっても、各ウインドウ毎にその表示領域をウインドウ画像として切り出して表示するようにすれば良い。この際、ファイル名も併せて表示するようにすると好適である。また、アプリケーションがブラウザの場合、アクセス先のサイト名もウインドウ画像と関連付けて表示するようにしても良い。 (9) In the above-described embodiment, the case where there is one window corresponding to the activated application has been described, but even when two or more windows are open, the display area is set for each window. What is necessary is just to cut out and display as a window image. At this time, it is preferable to display the file name together. Further, when the application is a browser, the name of the site to be accessed may be displayed in association with the window image.

(10)上述した実施形態においては、クライアント端末からの操作ログや操作画像の取得はリアルタイム処理の形態で行なったが、バッチ処理の形態で取得するなどして操作ログや操作画像を記録しておき、再生する際に上述したような表示形態とすることも勿論可能である。この際、ウインドウ画像の切り出しや分類を予め行って、当該ウインドウ画像を画像格納部に格納しておくようにしても良い。なお、ネットワークを介して取得する場合に限定されず、記録媒体などを介して取得するような形態であっても良い。 (10) In the above-described embodiment, the operation log and operation image are acquired from the client terminal in the form of real-time processing. However, the operation log and operation image are recorded by acquiring in the form of batch processing. Of course, it is possible to adopt the display form as described above when reproducing. At this time, the window image may be cut out and classified in advance, and the window image may be stored in the image storage unit. In addition, it is not limited to the case where it acquires via a network, The form which acquires via a recording medium etc. may be sufficient.

また、クライアント端末にウインドウ画像切出部を設け、切り出したウインドウ画像を端末監視サーバに送信するようにしても良い。さらに、端末監視サーバに備えたウインドウ画像の切り出し・分類・表示機能をクライアント端末に備えても良い。これにより、スタンドアローン型の端末においても本発明を適用することができる。   Further, a window image cutout unit may be provided in the client terminal, and the cut window image may be transmitted to the terminal monitoring server. Furthermore, the client terminal may be provided with a window image segmentation / classification / display function provided in the terminal monitoring server. Thus, the present invention can be applied to a stand-alone type terminal.

(11)上述した実施形態においては、端末管理装置を端末監視サーバの形態で用いたが、本発明に係る端末管理装置は監視目的だけではなく、ウインドウの閲覧や確認などその他の目的においても用いることができる。 (11) In the above-described embodiment, the terminal management apparatus is used in the form of a terminal monitoring server. However, the terminal management apparatus according to the present invention is used not only for monitoring purposes but also for other purposes such as browsing and confirmation of windows. be able to.

本実施形態における端末監視システムの機能ブロック図Functional block diagram of the terminal monitoring system in this embodiment 操作ログ及びキャプチャ画像のデータ構造を示す図The figure which shows the data structure of an operation log and a capture image ウインドウ画像の切り出しから表示までの処理を説明する図The figure explaining the process from clipping of a window image to display 端末監視サーバに接続された監視モニタに表示される端末監視画面図Terminal monitoring screen displayed on the monitoring monitor connected to the terminal monitoring server ウインドウに関する種々の設定を行うためのウインドウ画像設定画面図Window image setting screen for various settings related to windows 端末監視処理の流れを示すフローチャートFlow chart showing the flow of terminal monitoring processing 別実施形態におけるウインドウ画像の切り出しから表示までの処理を説明する図The figure explaining the process from clipping of a window image to display in another embodiment

符号の説明Explanation of symbols

1 クライアント端末
2 端末監視サーバ(端末管理装置)
3 ネットワーク
21 端末管理部
22 操作ログ取得部
23 ウインドウ表示情報読取部
24 操作ログ格納部
25 キャプチャ画像取得部
26 キャプチャ画像管理部
26a ウインドウ画像切出部
26b ウインドウ画像分類部
26c キャプチャ画像抽出部(操作画像抽出部)
26d ウインドウ画像合成部
27 画像格納部(操作画像格納部)
28 ウインドウ画像表示部(表示制御部)
29 対象ウインドウ設定部
30 操作時間算出部
31 GUI部
1 Client terminal 2 Terminal monitoring server (terminal management device)
3 Network 21 Terminal management unit 22 Operation log acquisition unit 23 Window display information reading unit 24 Operation log storage unit 25 Capture image acquisition unit 26 Capture image management unit 26a Window image cutout unit 26b Window image classification unit 26c Capture image extraction unit (operation Image extraction unit)
26d Window image composition unit 27 Image storage unit (operation image storage unit)
28 Window image display unit (display control unit)
29 Target window setting unit 30 Operation time calculation unit 31 GUI unit

Claims (5)

操作ログとこの操作ログと関連付けられる操作画像とをクライアント端末から取得する端末管理装置において、
前記操作画像中のウインドウの表示状態を記述したウインドウ表示情報を前記操作ログに含み、
前記ウインドウ表示情報に基づいて、前記操作画像からウインドウ毎にその表示領域をウインドウ画像として切り出すウインドウ画像切出部と、
前記ウインドウ画像を対応するクライアント端末と関連付けて、当該ウインドウ画像が有する属性情報別に分類するウインドウ画像分類部と、
前記クライアント端末と関連付けられたウインドウ画像を当該属性情報別にモニタ画面上に一覧表示する表示制御部とを備えた端末管理装置。
In a terminal management device that acquires an operation log and an operation image associated with the operation log from a client terminal,
The operation log includes window display information describing a display state of the window in the operation image,
Based on the window display information, a window image cutout unit that cuts out the display area as a window image for each window from the operation image;
A window image classification unit that associates the window image with a corresponding client terminal and classifies the window image according to attribute information of the window image;
The terminal management apparatus provided with the display control part which displays the window image linked | related with the said client terminal as a list on a monitor screen according to the said attribute information.
前記操作画像を格納する操作画像格納部と、
前記操作画像中のウインドウの少なくとも一部が他のウインドウによって隠されている場合、当該ウインドウが全領域表示されている直近の操作画像を前記操作画像格納部から抽出する操作画像抽出部とを備え、
抽出された前記直近の操作画像から当該ウインドウの表示領域を切り出して前記ウインドウ画像として用いる請求項1に記載の端末管理装置。
An operation image storage unit for storing the operation image;
An operation image extraction unit that extracts, from the operation image storage unit, the latest operation image in which the window is displayed in the entire area when at least part of the window in the operation image is hidden by another window; ,
The terminal management apparatus according to claim 1, wherein a display area of the window is cut out from the extracted latest operation image and used as the window image.
前記操作画像を格納する操作画像格納部と、
前記操作画像中のウインドウの少なくとも一部が他のウインドウによって隠されている場合、当該ウインドウが全領域表示されている直近の操作画像を前記操作画像格納部から抽出する操作画像抽出部とを備え、
当該ウインドウの隠されている領域を前記直近の操作画像中の当該ウインドウの該当領域によって置き換えて生成された当該ウインドウの切り出し画像を前記ウインドウ画像として用いる請求項1に記載の端末管理装置。
An operation image storage unit for storing the operation image;
An operation image extraction unit that extracts, from the operation image storage unit, the latest operation image in which the window is displayed in the entire area when at least part of the window in the operation image is hidden by another window; ,
The terminal management apparatus according to claim 1, wherein a cut-out image of the window generated by replacing a hidden area of the window with a corresponding area of the window in the latest operation image is used as the window image.
前記クライアント端末における前記ウインドウに対する操作時間を前記操作ログに基づいて算出する操作時間算出部を備え、
前記操作時間に基づいて、前記モニタ画面上での一覧表示の配置位置が決定される請求項1から3のいずれか一項に記載の端末管理装置。
An operation time calculation unit for calculating an operation time for the window in the client terminal based on the operation log;
The terminal management apparatus according to any one of claims 1 to 3, wherein an arrangement position of a list display on the monitor screen is determined based on the operation time.
操作ログとこの操作ログと関連付けられる操作画像とをクライアント端末から取得する端末管理装置のための端末管理プログラムにおいて、
前記操作ログに含まれる前記操作画像中のウインドウの表示状態を記述したウインドウ表示情報に基づいて、前記操作画像からウインドウ毎にその表示領域をウインドウ画像として切り出す機能と、
前記ウインドウ画像を対応するクライアント端末と関連付けて、当該ウインドウ画像が有する属性情報別に分類する機能と、
前記クライアント端末と関連付けられたウインドウ画像を当該属性情報別にモニタ画面上に一覧表示する機能とをコンピュータに実現させる端末管理プログラム。
In a terminal management program for a terminal management device that acquires an operation log and an operation image associated with the operation log from a client terminal,
Based on window display information describing the display state of the window in the operation image included in the operation log, a function of cutting out the display area for each window from the operation image,
A function of associating the window image with a corresponding client terminal and classifying the window image according to attribute information of the window image;
The terminal management program which makes a computer implement | achieve the function which displays the window image linked | related with the said client terminal on the monitor screen according to the said attribute information.
JP2007214800A 2007-08-21 2007-08-21 Terminal management apparatus and terminal management program Expired - Fee Related JP4408920B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007214800A JP4408920B2 (en) 2007-08-21 2007-08-21 Terminal management apparatus and terminal management program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007214800A JP4408920B2 (en) 2007-08-21 2007-08-21 Terminal management apparatus and terminal management program

Publications (2)

Publication Number Publication Date
JP2009048459A JP2009048459A (en) 2009-03-05
JP4408920B2 true JP4408920B2 (en) 2010-02-03

Family

ID=40500602

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007214800A Expired - Fee Related JP4408920B2 (en) 2007-08-21 2007-08-21 Terminal management apparatus and terminal management program

Country Status (1)

Country Link
JP (1) JP4408920B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4516146B2 (en) * 2008-12-22 2010-08-04 株式会社東芝 Information processing system and display control method
JP2019020833A (en) * 2017-07-12 2019-02-07 大陽日酸株式会社 Image generation method and image generation device
CN111506371A (en) * 2020-03-10 2020-08-07 广东中鹏热能科技有限公司 Historical data display method and system based on graph backtracking
JPWO2022168331A1 (en) * 2021-02-08 2022-08-11

Also Published As

Publication number Publication date
JP2009048459A (en) 2009-03-05

Similar Documents

Publication Publication Date Title
US10958878B2 (en) Security system and method with help and login for customization
US20200050994A1 (en) Business performance bookmarks
US8006195B1 (en) Spectrum analyzer interface
US8576231B2 (en) Spectrum analyzer interface
US6202158B1 (en) Detection method of illegal access to computer system
US7676760B1 (en) Methods and apparatus for analysis of access logs
JPWO2007086140A1 (en) Analyzer operating status display system
US11233977B2 (en) System and method for mapping of text events from multiple sources with camera outputs
JP4247277B2 (en) Terminal monitoring device and program thereof
US20130111001A1 (en) System And Method For Creating And Communicating Freely Associated Collection To Share Information
US20090317056A1 (en) System and method for managing schedules of monitoring device
JP4453684B2 (en) MONITORING SYSTEM, MONITORING DEVICE, SEARCH METHOD, AND SEARCH PROGRAM
JP2016502179A (en) Apparatus and method for dynamic operation based on context
JP4350137B2 (en) Terminal monitoring method, terminal monitoring apparatus, and terminal monitoring program
EP2375742A2 (en) Systems and methods to group and browse cameras in a large scale surveillance system
CA2868106A1 (en) E-map based intuitive video searching system and method for surveillance systems
JP4408920B2 (en) Terminal management apparatus and terminal management program
US20100157050A1 (en) Process of sequentially dubbing a camera for investigation and review
CN107066482A (en) Multi-source data monitoring method, device and terminal
JP3925445B2 (en) Control device for analytical instruments
JP2002073234A (en) Pop-up display device
JP4397404B2 (en) Terminal management apparatus and terminal management program
JP2003256428A (en) Image forming program and image forming device
CN106648280B (en) Task management interaction method and device
JP3441200B2 (en) Plant monitoring equipment

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091029

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091110

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131120

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees