JP6545439B2 - Operation recording apparatus, operation recording and reproducing system, and program - Google Patents

Operation recording apparatus, operation recording and reproducing system, and program Download PDF

Info

Publication number
JP6545439B2
JP6545439B2 JP2014119282A JP2014119282A JP6545439B2 JP 6545439 B2 JP6545439 B2 JP 6545439B2 JP 2014119282 A JP2014119282 A JP 2014119282A JP 2014119282 A JP2014119282 A JP 2014119282A JP 6545439 B2 JP6545439 B2 JP 6545439B2
Authority
JP
Japan
Prior art keywords
moving image
image data
information
screen
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014119282A
Other languages
Japanese (ja)
Other versions
JP2015232916A (en
Inventor
仁 小島
仁 小島
靖治 中野
靖治 中野
肇 飛谷
肇 飛谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT TechnoCross Corp
Original Assignee
NTT TechnoCross Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT TechnoCross Corp filed Critical NTT TechnoCross Corp
Priority to JP2014119282A priority Critical patent/JP6545439B2/en
Publication of JP2015232916A publication Critical patent/JP2015232916A/en
Application granted granted Critical
Publication of JP6545439B2 publication Critical patent/JP6545439B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、主として、PC等の端末における不正操作の監視等を行うために、端末における操作画面を記録し、記録した操作画面を再生する技術に関連するものである。   The present invention relates mainly to a technique for recording an operation screen on a terminal and reproducing the recorded operation screen in order to monitor an unauthorized operation or the like on the terminal such as a PC.

端末において不正な操作がなされたことを監視・確認する手法として、端末に表示される操作画面を一定時間間隔で記録(キャプチャ)し、記録した画面の画像データを管理サーバ等に送信し、後に監視端末等により操作画面を再生して操作状況を確認する手法がある。   As a method to monitor and confirm that an unauthorized operation has been performed on the terminal, the operation screen displayed on the terminal is recorded (captured) at fixed time intervals, and the image data of the recorded screen is transmitted to the management server etc. There is a method of reproducing an operation screen by a monitoring terminal or the like to check the operation status.

特開2004−110096号公報Japanese Patent Application Publication No. 2004-110096

上記のような手法において、画面をキャプチャする方式として、端末における表示画面を動画として記録する動画記録方式と、表示画面を連続した静止画として記録する静止画記録方式が考えられる。   In the above-described method, as a method of capturing a screen, a moving image recording method of recording a display screen of a terminal as a moving image and a still image recording method of recording a display screen as a continuous still image can be considered.

不正操作等の監視のために操作画面の記録を行う場合、操作を行うユーザに記録を行っていることを意識させることなく記録を行う必要がある。このような前提の下、動画記録方式では、例えば、ユーザが端末を起動したとき、もしくは端末にログインしたときに動画記録を開始し、ログアウトしたとき、もしくは端末を終了したときに動画記録を終了するといった記録方法になることが考えられる。しかし、このような記録方法となる動画記録方式では、端末での操作が終わるまで動画(動画ファイル)が完成しないため、記録中に操作画面を閲覧することができない。また、端末の終了により動画記録を終了する場合、サーバに画像データを送信できるのが、次回の端末の起動時となり、取得した動画を閲覧可能になるまでの時間が不定となるといった問題がある。   When the operation screen is recorded for monitoring of an unauthorized operation or the like, the recording needs to be performed without making the user who performs the operation be aware of the recording. Under such a premise, in the moving picture recording method, for example, the moving picture recording is started when the user starts the terminal or logs in to the terminal, and ends the moving picture recording when the user logs out or ends the terminal It can be considered to be a recording method such as However, in the moving image recording method which is such a recording method, since the moving image (moving image file) is not completed until the operation on the terminal is completed, the operation screen can not be viewed during recording. In addition, when moving picture recording is ended by termination of the terminal, the image data can be sent to the server when the terminal is started next time, and there is a problem that the time until the acquired moving picture can be viewed becomes indefinite. .

静止画記録方式では、1枚1枚の静止画を別々に記録、及びサーバへの送信を行うことができるので、上記の動画記録方式のような問題を生じさないようにすることができる。しかし、動画に比べてデータサイズが非常に大きくなってしまい、サーバに大きな記憶領域を必要とすることや、NW帯域を多く消費することが問題となる。また、データサイズの関係で、動画のようにフレームレートを上げることが難しく、記録の取得漏れが生じる可能性があるという問題もある。   In the still image recording method, it is possible to separately record one still image and transmit it to the server, so that it is possible to prevent the problem as in the above-mentioned moving image recording method. However, the data size is much larger than that of a moving image, and there is a problem that the server requires a large storage area and consumes a large number of NW bands. Further, due to the data size, it is difficult to increase the frame rate as in the case of a moving image, and there is also a problem that the acquisition of the record may occur.

なお、上記のような問題は、不正操作監視等の技術分野に限らず、例えば、自身のPCの操作ログチェックのために操作画面を記録するような場合にも生じ得るものである。   The above problems may occur not only in the technical field such as unauthorized operation monitoring but also in the case of recording an operation screen for checking the operation log of its own PC, for example.

本発明は上記の点に鑑みてなされたものであり、操作画面を記録し、記録した操作画面を再生する技術において、高フレームレートで記録しても静止画記録方式のようにデータサイズを増大させることなく、任意の時間位置で操作画面の再生を可能とする技術を提供することを目的とする。   The present invention has been made in view of the above points, and in the technology of recording an operation screen and reproducing the recorded operation screen, the data size is increased as in the still image recording method even when recorded at a high frame rate It is an object of the present invention to provide a technology that enables reproduction of an operation screen at an arbitrary time position without causing an operation.

本発明の実施の形態によれば、ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録する操作記録装置であって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから細切れ動画の動画データを作成するとともに、当該細切れ動画の動画データのメタ情報を作成する処理を、当該細切れ動画の時間長に対応する所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を管理装置に送信する送信手段とを備え
前記動画情報作成手段により作成された複数の細切れ動画の動画データは、前記メタ情報に基づいて、前記複数の細切れ動画が連続した動画に見えるように再生される動画データである
ことを特徴とする操作記録装置が提供される。
According to an embodiment of the present invention, there is provided an operation recording apparatus which displays a screen according to an operation by a user and records an operation content by capturing the displayed screen,
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
The process of creating moving image data of a broken moving image from a plurality of still image data acquired by the capture means and creating meta information of the moving image data of the broken moving image is performed every predetermined period corresponding to the time length of the thin moving image Means for creating video information to
And transmitting means for transmitting the moving picture data created by the moving picture information creating means and the meta information to the management apparatus .
The moving image data of a plurality of small moving images created by the moving image information creating means is moving image data reproduced so that the plurality of small moving images appear as continuous moving images based on the meta information. An operation recording device is provided.

また、本発明の実施の形態によれば、ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録するとともに、前記画面の再生表示を行う操作記録再生システムであって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから細切れ動画の動画データを作成するとともに、当該細切れ動画の動画データのメタ情報を作成する処理を、当該細切れ動画の時間長に対応する所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を格納する格納手段と、
前記メタ情報に基づいて、前記動画データを再生するための操作画面を表示し、当該操作画面に基づいてなされた操作に応じて、前記動画データを再生する再生制御手段とを備え
前記再生制御手段は、前記動画情報作成手段により作成された複数の細切れ動画の動画データを、前記メタ情報に基づいて、前記複数の細切れ動画が連続した動画に見えるように再生する
ことを特徴とする操作記録再生システムが提供される。

Further, according to the embodiment of the present invention, the screen is displayed according to the operation by the user, and the operation content is recorded by capturing the displayed screen, and the operation recording and reproducing is performed to display the screen. A system,
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
The process of creating moving image data of a broken moving image from a plurality of still image data acquired by the capture means and creating meta information of the moving image data of the broken moving image is performed every predetermined period corresponding to the time length of the thin moving image Means for creating video information to
Storage means for storing the video data and meta information created by the video information creation means;
An operation screen for reproducing the moving image data based on the meta information, and reproduction control means for reproducing the moving image data according to an operation performed on the operation screen ;
The reproduction control means is characterized by reproducing the moving image data of the plurality of small moving images created by the moving image information generating means so that the plurality of small moving images can be seen as a continuous moving image based on the meta information. An operation recording and reproducing system is provided.

本発明の実施の形態によれば、操作画面を記録し、記録した操作画面を再生する技術において、高フレームレートで記録しても静止画記録方式のようにデータサイズを増大させることなく、任意の時間位置で操作画面の再生を可能とする技術を提供することができる。   According to the embodiment of the present invention, in the technology of recording the operation screen and reproducing the recorded operation screen, even if the recording is performed at a high frame rate, it is optional without increasing the data size as in the still image recording method. It is possible to provide a technology that enables the reproduction of the operation screen at the time position of.

本発明の実施の形態に係るシステムの全体構成図である。FIG. 1 is an overall configuration diagram of a system according to an embodiment of the present invention. 操作記録装置100の機能構成図である。FIG. 2 is a functional configuration diagram of an operation recording device 100. 操作情報管理装置200の機能構成図である。FIG. 2 is a functional configuration diagram of an operation information management device 200. 操作記録装置100の動作のイメージを示す図である。It is a figure which shows the image of operation | movement of the operation recording device 100. FIG. 操作記録装置100の動作を説明するためのフローチャートである。5 is a flowchart for explaining the operation of the operation recording apparatus 100. 動画再生の概要を説明するための図である。It is a figure for demonstrating the outline | summary of video reproduction. 操作情報管理装置200と操作画面再生装置20における動画(操作画面)再生動作を説明するためのシーケンス図である。FIG. 7 is a sequence diagram for describing a moving image (operation screen) reproduction operation in the operation information management device 200 and the operation screen reproduction device 20. 再生操作画面に表示される情報の例を示す図である。It is a figure which shows the example of the information displayed on a reproduction | regeneration operation screen. 変形例1を説明するための図である。It is a figure for demonstrating the modification 1. FIG. 変形例2を説明するための図である。It is a figure for demonstrating the modification 2. FIG.

以下、図面を参照して本発明の実施の形態を説明する。なお、以下で説明する実施の形態は一例に過ぎず、本発明が適用される実施の形態は、以下の実施の形態に限られるわけではない。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. Note that the embodiments described below are merely examples, and the embodiments to which the present invention is applied are not limited to the following embodiments.

(システムの全体構成例)
図1に、本発明の実施の形態における操作監視システムの全体構成例を示す。図1に示すように、本実施の形態に係る操作監視システムは、操作記録装置100、表示操作装置10、操作情報管理装置200、操作画面再生装置20を備える。
(Example of overall system configuration)
FIG. 1 shows an example of the overall configuration of an operation monitoring system according to an embodiment of the present invention. As shown in FIG. 1, the operation monitoring system according to the present embodiment includes an operation recording device 100, a display operation device 10, an operation information management device 200, and an operation screen reproduction device 20.

操作記録装置100は、表示操作装置10において行われる操作者による操作に基づく表示操作装置10への画面表示を行うとともに、表示される画面を画像としてキャプチャし、後述するように動画データやメタ情報(これらをまとめて動画情報と呼ぶ)を作成し、動画情報を操作情報管理装置200に送信する装置(コンピュータ)である。表示操作装置10は、例えば、ディスプレイと入力装置(キーボード、マウス等)を有する端末である。操作記録装置100と表示操作装置10は、LAN等のネットワークで接続されていてもよいし、操作記録装置100と表示操作装置10とが一体の装置として構成されていてもよい。   The operation recording device 100 displays a screen on the display operation device 10 based on an operation performed by the operator in the display operation device 10 and captures a screen to be displayed as an image, and as described later, moving image data and meta information This is an apparatus (computer) that creates (all together referred to as moving image information) and transmits the moving image information to the operation information management device 200. The display operation device 10 is, for example, a terminal having a display and an input device (keyboard, mouse, etc.). The operation recording device 100 and the display operation device 10 may be connected by a network such as a LAN, or the operation recording device 100 and the display operation device 10 may be configured as an integrated device.

操作情報管理装置200は、操作記録装置100から受信した動画情報を保存するとともに、操作画面再生装置20に対して、動画再生のための操作画面や動画データ等を提供する機能を有する。操作画面再生装置20は、操作情報管理装置200から受信する動画データを再生することにより、表示操作装置10において表示された画面を動画として表示することができる。   The operation information management device 200 has a function of storing moving image information received from the operation recording device 100 and providing the operation screen reproduction device 20 with an operation screen for moving image reproduction, moving image data, and the like. The operation screen reproduction device 20 can display the screen displayed on the display operation device 10 as a moving image by reproducing the moving image data received from the operation information management device 200.

(装置構成)
次に、操作記録装置100と操作情報管理装置200の構成について説明する。
(Device configuration)
Next, the configurations of the operation recording apparatus 100 and the operation information management apparatus 200 will be described.

<操作記録装置100>
図2は、操作記録装置100の機能構成を示す図である。
<Operation recording apparatus 100>
FIG. 2 is a diagram showing a functional configuration of the operation recording apparatus 100. As shown in FIG.

図2に示すように、操作記録装置100は、表示情報作成部110、画像メモリ111、画面キャプチャ部120、操作監視部130、動画情報作成部140、動画データ格納部150、メタ情報格納部160、動画情報送信部170を有する。   As shown in FIG. 2, the operation recording apparatus 100 includes a display information generation unit 110, an image memory 111, a screen capture unit 120, an operation monitoring unit 130, a moving image information generation unit 140, a moving image data storage unit 150, and a meta information storage unit 160. , Moving image information transmission unit 170.

表示情報作成部110は、表示操作装置10による操作の対象となるアプリケーション、及び操作や画面表示に係るOSの機能に相当する機能部であり、表示操作装置10においてなされる操作(キーボード押下、マウス移動、マウスボタン押下)に基づいて、表示操作装置10に表示させる画面の画像情報(静止画データであり、これを表示情報とも呼ぶ)を作成し、表示操作装置10に表示情報を送信することでこれを表示させる機能を有する。   The display information creation unit 110 is an application to be operated by the display operation device 10 and a functional unit corresponding to the function of the OS related to the operation or screen display, and the operation performed on the display operation device 10 (keyboard depression, mouse Create image information (still image data, also referred to as display information) of a screen to be displayed on the display operation device 10 based on movement, mouse button depression), and transmit the display information to the display operation device 10 Has a function to display this.

当該表示情報が、画像メモリ111に格納され、当該画像メモリ111に格納されているデータを取得することで、表示操作装置10に表示される画面のキャプチャを行うことができる。   The display information is stored in the image memory 111, and by acquiring the data stored in the image memory 111, the screen displayed on the display operation device 10 can be captured.

画面キャプチャ部120は、上記にように画像メモリ111に格納されている表示情報を取得することで、画面のキャプチャを行う。キャプチャにより得られた静止画データは、動画情報作成部140に渡される。   The screen capture unit 120 captures the screen by acquiring the display information stored in the image memory 111 as described above. The still image data obtained by the capture is passed to the moving image information creation unit 140.

操作監視部130は、表示操作装置10において行われる操作の情報を表示情報作成部110から取得し、当該操作情報を動画情報作成部140からの要求に基づいて動画情報作成部140に渡す機能を有する。操作情報としては、例えば、キーボード押下を示す情報、マウス移動を示す情報、マウスボタン押下を示す情報等があるが、これらに限られるわけではない。操作監視部130は、例えば定期的(例:1秒毎)に、表示情報作成部110から操作情報を取得し、保持する。   The operation monitoring unit 130 acquires the information of the operation performed in the display operation device 10 from the display information creating unit 110, and delivers the operation information to the moving image information creating unit 140 based on the request from the moving image information creating unit 140. Have. The operation information includes, for example, information indicating pressing of a keyboard, information indicating movement of a mouse, information indicating pressing of a mouse button, and the like, but is not limited thereto. The operation monitoring unit 130 acquires and holds operation information from the display information creation unit 110 periodically (for example, every 1 second), for example.

動画情報作成部140は、画面キャプチャ部120により所定期間(例:20秒)毎に取得された複数枚の静止画データをエンコードすることで動画データを作成する。エンコードには、例えばMPEGといった既存の手法を用いることができる。作成された動画データは、動画データ格納部150に格納される。   The moving image information creation unit 140 creates moving image data by encoding a plurality of still image data acquired by the screen capture unit 120 every predetermined period (for example, 20 seconds). For encoding, an existing method such as MPEG can be used. The created moving image data is stored in the moving image data storage unit 150.

また、動画情報作成部140は、動画データに関するメタ情報を作成する機能を有し、作成したメタ情報をメタ情報格納部160に格納する。メタ情報には、動画データに係る静止画データの取得開始時刻、操作有無等の情報が含まれる。メタ情報の詳細は後述する。   Also, the moving picture information creation unit 140 has a function of creating meta information related to moving picture data, and stores the created meta information in the meta information storage unit 160. The meta information includes information such as acquisition start time of still image data relating to moving image data and presence / absence of operation. Details of the meta information will be described later.

動画情報送信部170は、動画データ格納部150に格納された動画データ、及びメタ情報格納部160に格納されたメタ情報を動画情報として操作情報管理装置200に送信する。動画データとメタ情報を操作情報管理装置200に送信する頻度については、動画データが作成される度、すなわち上記の所定期間毎でもよいし、当該所定期間よりも長い期間毎にまとめて送信することとしてもよい。   The moving image information transmission unit 170 transmits the moving image data stored in the moving image data storage unit 150 and the meta information stored in the meta information storage unit 160 to the operation information management apparatus 200 as moving image information. The frequency of transmitting moving image data and meta information to the operation information management apparatus 200 may be every time moving image data is created, that is, every predetermined period described above, or collectively transmitted for each period longer than the predetermined period. It may be

本実施の形態に係る操作記録装置100は、1つ又は複数のコンピュータに、本実施の形態で説明する処理内容を記述したプログラムを実行させることにより実現可能である。すなわち、操作記録装置100が有する機能は、当該コンピュータに内蔵されるCPUやメモリ、ハードディスクなどのハードウェア資源を用いて、操作記録装置100で実施される処理に対応するプログラムを実行することによって実現することが可能である。また、上記プログラムは、コンピュータが読み取り可能な記録媒体(可搬メモリ等)に記録して、保存したり、配布したりすることが可能である。また、上記プログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。このように、プログラムで実現可能な点については、変形例1、2も同様である。   The operation recording apparatus 100 according to the present embodiment can be realized by causing one or a plurality of computers to execute a program in which the processing content described in the present embodiment is described. That is, the functions of the operation recording apparatus 100 are realized by executing a program corresponding to the processing performed by the operation recording apparatus 100 using hardware resources such as a CPU, a memory, and a hard disk built in the computer. It is possible. In addition, the program can be recorded in a computer readable recording medium (portable memory or the like), and can be stored or distributed. Moreover, it is also possible to provide the above program through a network such as the Internet or e-mail. As described above, the modification examples 1 and 2 are similar to the point that can be realized by the program.

<操作情報管理装置200>
図3は、操作情報管理装置200の機能構成図である。図3に示すように、操作情報管理装置200は、動画情報受信部210、メタ情報格納部220、動画データ格納部230、動画データ提供制御部240を有する。
<Operation Information Management Device 200>
FIG. 3 is a functional block diagram of the operation information management device 200. As shown in FIG. As shown in FIG. 3, the operation information management device 200 includes a moving image information receiving unit 210, a meta information storage unit 220, a moving image data storage unit 230, and a moving image data provision control unit 240.

動画情報受信部210は、操作記録装置100から動画情報(動画データとメタ情報)を受信する。動画データは動画データ格納部230に格納され、メタ情報はメタ情報格納部220に格納される。   The moving image information receiving unit 210 receives moving image information (moving image data and meta information) from the operation recording apparatus 100. The moving image data is stored in the moving image data storage unit 230, and the meta information is stored in the meta information storage unit 220.

動画データ提供制御部240は、メタ情報格納部220に格納されているメタ情報に基づいて、操作画面再生のための画面の情報を作成し、当該画面の情報を操作画面再生装置20に送信するとともに、当該画面が表示された操作画面再生装置20からの指示に基づいて、動画データを操作画面再生装置20に送信することで、操作画面再生装置20において動画を再生させる機能を有する。   The moving picture data provision control unit 240 creates screen information for operation screen reproduction based on the meta information stored in the meta information storage unit 220, and transmits the information of the screen to the operation screen reproduction device 20. In addition, it has a function of causing the operation screen reproduction device 20 to reproduce a moving image by transmitting the moving image data to the operation screen reproduction device 20 based on an instruction from the operation screen reproduction device 20 on which the screen is displayed.

本実施の形態に係る操作情報管理装置200は、1つ又は複数のコンピュータに、本実施の形態で説明する処理内容を記述したプログラムを実行させることにより実現可能である。すなわち、操作情報管理装置200が有する機能は、当該コンピュータに内蔵されるCPUやメモリ、ハードディスクなどのハードウェア資源を用いて、操作情報管理装置200で実施される処理に対応するプログラムを実行することによって実現することが可能である。また、上記プログラムは、コンピュータが読み取り可能な記録媒体(可搬メモリ等)に記録して、保存したり、配布したりすることが可能である。また、上記プログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。   The operation information management apparatus 200 according to the present embodiment can be realized by causing one or more computers to execute a program in which the processing content described in the present embodiment is described. That is, the function possessed by the operation information management device 200 is to execute a program corresponding to the processing performed by the operation information management device 200 using hardware resources such as a CPU, a memory, a hard disk, etc. built in the computer. It is possible to realize by In addition, the program can be recorded in a computer readable recording medium (portable memory or the like), and can be stored or distributed. Moreover, it is also possible to provide the above program through a network such as the Internet or e-mail.

(各装置の動作)
<操作記録装置100の動作>
図4を参照して、操作記録装置100の動作の概要を説明する。ここでは、例えば、表示操作装置10から操作記録装置100にログインがなされ、表示操作装置10が操作記録装置100を使用して何等かの作業を行っているものとする。もちろん、作業中は、操作記録装置100に対して何も操作をしない期間もあるし、キーボード入力等の作業を行っている期間もある。
(Operation of each device)
<Operation of Operation Recording Device 100>
The outline of the operation of the operation recording apparatus 100 will be described with reference to FIG. Here, for example, it is assumed that the display operation device 10 logs in to the operation recording device 100, and the display operation device 10 performs some work using the operation recording device 100. Of course, during work, there is also a period in which no operation is performed on the operation recording apparatus 100, and there is also a period in which work such as keyboard input is performed.

操作記録装置100の表示情報作成部110は、表示情報(画面の画像)を表示操作装置10に送信することで画面表示を行っている。図4のステップ1に示すように、操作記録装置100の画面キャプチャ部120は、画像メモリ111における表示情報を取得することで画面のキャプチャを行い、静止画データを順次取得する。静止画データを取得する間隔は任意に決めてよいが、例えば、1秒間に5枚取得できるように200ms間隔で取得を行う。   The display information creation unit 110 of the operation recording device 100 performs screen display by transmitting display information (image of screen) to the display operation device 10. As shown in step 1 of FIG. 4, the screen capture unit 120 of the operation recording apparatus 100 captures a screen by acquiring display information in the image memory 111 and sequentially acquires still image data. Although the interval for acquiring still image data may be determined arbitrarily, for example, acquisition is performed at an interval of 200 ms so that five sheets can be acquired in one second.

ステップ2に示すように、操作記録装置100の動画情報作成部140は、所定期間(例:20秒)毎に、当該所定期間に取得された複数枚の静止画データから動画データを作成する。また、動画データを作成する度に、当該動画データに対応するメタ情報が作成される。   As shown in step 2, the moving image information creation unit 140 of the operation recording apparatus 100 creates moving image data from a plurality of still image data acquired in the predetermined period, for each predetermined period (for example, 20 seconds). Also, each time moving image data is created, meta information corresponding to the moving image data is created.

次に、図5を参照して、操作記録装置100の動作をより詳細に説明する。例えば、最初に、ユーザが表示操作装置10から操作記録装置100に対してユーザID/パスワードを入力することでログインを行う。このログインを契機に、表示情報作成部110は、表示操作装置10からの操作に基づく種々の表示情報(画面の画像)の作成を開始するとともに、当該ユーザによる操作に係る操作画面の記録が開始される。   Next, the operation of the operation recording apparatus 100 will be described in more detail with reference to FIG. For example, the user first logs in by inputting a user ID / password from the display operation device 10 to the operation recording device 100. In response to this login, the display information creation unit 110 starts creation of various display information (image of the screen) based on the operation from the display operation device 10, and starts recording of the operation screen related to the operation by the user. Be done.

また、本例においては、操作監視部130が、表示情報作成部110から定期的(例:1秒毎)に操作情報を取得し、当該操作情報を保持する。また、操作情報が無い場合(操作が行われていない場合)は、何も保持しないか、又は、操作情報が無いことを示す情報を保持する。保持される情報は操作情報を取得(無い場合を含む)する度に更新される。   Further, in the present example, the operation monitoring unit 130 periodically (eg, every 1 second) acquires operation information from the display information creation unit 110 and holds the operation information. Further, when there is no operation information (when the operation is not performed), information indicating that nothing is held or no operation information is held is held. The information held is updated each time the operation information is obtained (including the case where it is not present).

まず、画面キャプチャ部120は、画像メモリ111から表示情報を取得することで、画面のキャプチャを行い、静止画データを取得し、静止画データを動画情報作成部140に渡す(ステップ101)。   First, the screen capture unit 120 captures display information by acquiring display information from the image memory 111, acquires still image data, and passes the still image data to the moving image information creation unit 140 (step 101).

動画情報作成部140は、当該静止画データを取得した時点における操作情報の有無を操作監視部130に対して問い合わせ(ステップ102)、操作情報有りであれば(ステップ102のYes)、操作情報有りであることを示す情報を静止画データに付加し、当該情報と静止画データとをバッファに格納する(ステップ103)。操作情報が無い場合(ステップ102のNo)は、静止画データのみ(もしくは静止画データと操作情報無しを示す情報)をバッファに格納する(ステップ104)。また、例えば、静止画データを格納する際には、静止画データ毎に、静止画データを取得した時刻も格納される。   The moving image information creation unit 140 inquires the operation monitoring unit 130 whether or not there is operation information at the time of obtaining the still image data (step 102), and if the operation information is present (Yes in step 102), the operation information is present Is added to the still image data, and the information and the still image data are stored in the buffer (step 103). If there is no operation information (No in step 102), only still image data (or still image data and information indicating no operation information) is stored in the buffer (step 104). Further, for example, when still image data is stored, the time at which the still image data was acquired is also stored for each still image data.

動画情報作成部140は、最初の静止画データ取得、もしくは、前回の動画データ作成から所定時間(例:20秒)が経過したかどうかを判定し(ステップ105)、経過していなければステップ101に戻り、経過していればステップ106に進む。   The moving image information creation unit 140 determines whether a predetermined time (for example, 20 seconds) has elapsed since the first still image data acquisition or the previous moving image data creation (step 105), and if it has not, step 101 , And if it has elapsed, the process proceeds to step 106.

ステップ101に戻った場合は、これまでに説明したとおりの処理が繰り返される。ステップ106に進んだ場合、動画情報作成部140は、所定時間の間にバッファに格納された静止画データをエンコードすることにより、当該所定時間長の動画データ(符号化データ)を作成し、作成した動画データを動画データ格納部150に格納する(ステップ106)。本例では、動画データ作成後、静止画データのバッファはクリアされる。なお、ここでは、所定期間分の静止画データが格納された段階で動画データが作成されることを示しているが、静止画データが得られる度に、順次動画データ作成を行い、所定期間経過時に、1つの動画データ(動画ファイル)を完成させる処理方法でもよい。   If the process returns to step 101, the process as described above is repeated. When the process proceeds to step 106, the moving image information creation unit 140 creates the moving image data (encoded data) of the predetermined time length by encoding the still image data stored in the buffer during the predetermined time. The resulting moving image data is stored in the moving image data storage unit 150 (step 106). In this example, the buffer for still image data is cleared after moving image data is created. Here, it is shown that moving image data is created when still image data for a predetermined period is stored, but moving image data creation is sequentially performed each time still image data is obtained, and the predetermined period has elapsed. Sometimes, it may be a processing method of completing one moving image data (moving image file).

また、動画情報作成部140は、当該動画データに対応するメタ情報を作成し、作成したメタ情報をメタ情報格納部160に格納する(ステップ107)。本例では、動画データとメタ情報を作成する度に、当該動画データとメタ情報を操作情報管理装置200に送信することとしており、ステップ108においてその送信が行われる。   Also, the moving picture information creation unit 140 creates meta information corresponding to the moving picture data, and stores the created meta information in the meta information storage unit 160 (step 107). In this example, each time moving image data and meta information are created, the moving image data and meta information are to be transmitted to the operation information management apparatus 200, and the transmission is performed in step S108.

メタ情報の例は図4に示されるとおりであり、図4の例におけるメタ情報は、当該メタ情報に対応する動画データの識別情報(例:動画1、動画2)、動画の開始時刻、動画の時間長(例:20秒)、セッションID、操作有無情報を含む。動画の終了時刻を含んでもよい。   An example of meta information is as shown in FIG. 4, and the meta information in the example of FIG. 4 is identification information of moving image data corresponding to the meta information (e.g. moving image 1, moving image 2), start time of moving image, moving image (For example, 20 seconds), session ID, and operation presence / absence information. It may include the end time of the video.

動画データの識別情報は、例えば、対応する動画データのファイル名である。メタ情報のファイル名が動画データの識別情報を含んでもよい。動画の開始時刻は、例えば、動画データの元となる静止画データのうちの最初の静止画データの取得時刻である。動画の時間長は、例えば、動画データの元となる静止画データのうちの最初の静止画データの取得時刻から最後の静止画データの取得時刻までの時間である。セッションIDは、一連の動画データを識別する情報であり、例えば、ユーザ毎の操作の記録を行いたい場合において、セッションIDとして、ログイン時に入力されたユーザIDを使用することができる。すなわち、この場合、当該ユーザIDによるログインからログオフまでの時間における動画データを当該ユーザIDをセッションIDとして識別できる。このようにセッションIDとしてユーザIDを用いることは一例に過ぎず、他の任意の情報をセッションIDとして使用することができ、通常は、ユーザIDに対してセッションIDが複数存在する。   The identification information of the moving image data is, for example, the file name of the corresponding moving image data. The file name of the meta information may include identification information of the moving image data. The start time of the moving image is, for example, the acquisition time of the first still image data of the still image data that is the source of the moving image data. The time length of the moving image is, for example, the time from the acquisition time of the first still image data of the still image data that is the source of the moving image data to the acquisition time of the last still image data. The session ID is information for identifying a series of moving image data. For example, when it is desired to record an operation for each user, the user ID input at login can be used as the session ID. That is, in this case, it is possible to identify moving image data in a time from login to logoff by the user ID as the session ID. As described above, using a user ID as a session ID is only an example, and any other information can be used as a session ID. Usually, a plurality of session IDs exist for the user ID.

操作有無情報は、「操作有り」又は「操作無し」を示す情報である。より詳細には、動画情報作成部140は、動画作成時においてバッファされている静止画データのうち、操作有りの情報が付された静止画データが1つでもある場合は操作有無情報を「操作有り」とし、操作有りの情報が付された静止画データが無い場合は操作有無情報を「操作無し」とする。   The operation presence / absence information is information indicating "operation present" or "operation not present". More specifically, the moving image information creation unit 140 operates the operation presence / absence information when there is even one still image data to which information on operation is added among the still image data buffered at the time of moving image creation. If there is no still image data to which the information on the operation is attached, the operation presence / absence information is "no operation".

なお、上記の動作例では、静止画をキャプチャする段階で、操作有無を確認して情報を付加することとしているが、これは一例に過ぎない。その他に、例えば、静止画データから動画データを作成した後に、操作監視部130に対して動画作成時間(上記の所定時間)内の操作有無を確認し、対応するメタ情報に操作情報を付加してもよい。   In the above operation example, at the stage of capturing a still image, the presence or absence of the operation is confirmed to add information, but this is merely an example. In addition, for example, after creating moving image data from still image data, the operation monitoring unit 130 confirms the presence or absence of operation within the moving image creation time (the predetermined time above), and adds operation information to corresponding meta information. May be

<操作情報管理装置200及び操作画面再生装置20の動作>
次に、図6、図7を参照して、操作情報管理装置200と操作画面再生装置20により行われる動画(操作画面)再生動作の例を説明する。以下の動作の前提として、操作情報管理装置200は、操作記録装置100から動画情報(動画データとメタ情報)を既に受信しており、メタ情報格納部220にはメタ情報が格納され、動画データ格納部230には動画データが格納されている。
<Operation of Operation Information Management Device 200 and Operation Screen Reproduction Device 20>
Next, with reference to FIGS. 6 and 7, an example of a moving image (operation screen) reproduction operation performed by the operation information management device 200 and the operation screen reproduction device 20 will be described. As a premise of the following operation, the operation information management device 200 has already received the moving image information (moving image data and meta information) from the operation recording device 100, and the meta information is stored in the meta information storage unit 220. The storage unit 230 stores moving image data.

まず、図6を参照して動画再生の概要を説明する。図6に示すように、操作記録装置100により取得された動画データとメタ情報に基づいて、複数の細切れ動画(図6の動画1、動画2、・・・)を再生し、利用者にあたかも連続した一本の動画であるように見せる。このような動画再生制御は、動画データ提供制御部240により行われる。また、変形例1、2では、動画再生制御部250により行われることから、図6には、動画再生制御部250も示されている。   First, the outline of the moving image reproduction will be described with reference to FIG. As shown in FIG. 6, based on the moving image data and the meta information acquired by the operation recording apparatus 100, a plurality of small moving images (moving image 1, moving image 2,... In FIG. 6) are reproduced It looks like it's a continuous movie. Such moving image reproduction control is performed by the moving image data provision control unit 240. Further, in the first and second modifications, the moving image reproduction control unit 250 is also shown in FIG. 6 because it is performed by the moving image reproduction control unit 250.

次に、図7を参照して、再生動作のシーケンス例を説明する。操作画面再生装置20(例:動画デコード機能を備えたPC)が操作情報管理装置200にアクセスすると(ステップ201)、操作情報管理装置200における動画データ提供制御部240は、操作画面再生装置20において操作画面再生のためのインターフェース画面となる再生操作画面の情報を作成し(ステップ202)、当該情報を操作画面再生装置20に送信する(ステップ203)。再生操作画面の情報を受信した操作画面再生装置20は、再生操作画面を表示する(ステップ204)。例えば、ステップ201のアクセス時に、特定のユーザIDを送信することで、メタ情報におけるセッションIDとの照合が行われ、当該ユーザIDに該当する動画データが抽出され、当該ユーザIDに対応するユーザの操作画面の再生のみを行うことが可能である。   Next, with reference to FIG. 7, a sequence example of the reproduction operation will be described. When the operation screen reproduction device 20 (for example, a PC having a moving image decoding function) accesses the operation information management device 200 (step 201), the moving image data provision control unit 240 in the operation information management device 200 operates in the operation screen reproduction device 20. Information of a reproduction operation screen to be an interface screen for reproduction of the operation screen is created (step 202), and the information is transmitted to the operation screen reproduction apparatus 20 (step 203). The operation screen reproducing apparatus 20 having received the information of the reproduction operation screen displays the reproduction operation screen (step 204). For example, at the time of access in step 201, by transmitting a specific user ID, collation with the session ID in the meta information is performed, moving image data corresponding to the user ID is extracted, and the user corresponding to the user ID It is possible to play back only the operation screen.

図8に、再生操作画面における表示情報の例を示す。図8に示す例では、時間軸上で、操作記録装置100が使用されない時間区間、操作記録装置100が使用された時間区間(=画面の記録がなされている時間区間)、当該使用時間区間のうち、操作があった時間区間、操作が無かった時間区間が、色分けして示されている。なお、図8の例では、操作有無が示されているが、メタ情報として操作内容を示す情報(例:コマンドの種類等)も取得することで、操作有無だけでなく操作違反等も加えることが可能である。   FIG. 8 shows an example of display information in the reproduction operation screen. In the example shown in FIG. 8, on the time axis, a time interval in which the operation recording device 100 is not used, a time interval in which the operation recording device 100 is used (= a time interval in which recording of a screen is made), Among them, the time interval in which the operation was performed and the time interval in which the operation was not performed are shown in different colors. In the example of FIG. 8, although the presence or absence of the operation is indicated, not only the presence or absence of the operation but also the operation violation or the like can be added by acquiring information indicating the operation content (for example, the type of command) as meta information. Is possible.

図8の情報は、動画データ提供制御部240が、該当ユーザに対応するメタ情報(セッションIDで識別可能)における時刻情報、及び操作有無情報を用いて作成できる。例えば、操作情報有りのメタ情報における時間区間を操作があった時間区間として表示すればよい。   The information shown in FIG. 8 can be created using the time information and operation presence information in the meta information (identifiable by the session ID) corresponding to the corresponding user. For example, the time section in the meta information with the operation information may be displayed as the time section in which the operation was performed.

操作再生装置20の利用者は、例えば、操作が有った時間区間のみの再生を行いたい場合、操作があったことを示す時間区間をクリック(もしくは、希望再生開始時刻を入力)する。すると、例えば、指定された時刻(例:時間区間の最初の時刻、入力された時刻)と「操作有」の情報を含む再生指示が操作情報管理装置200に送信される(ステップ205)。   For example, when it is desired to reproduce only the time section in which the operation has been performed, the user of the operation reproduction apparatus 20 clicks (or inputs a desired reproduction start time) a time section indicating that the operation has been performed. Then, for example, a reproduction instruction including the designated time (for example, the first time of the time section, the input time) and the information of "operation present" is transmitted to the operation information management device 200 (step 205).

再生指示を受信した操作情報管理装置200における動画データ提供制御部240は、例えば、メタ情報を用いて、指定された時刻を含む「操作有」の時間区間の動画データを判別し、当該動画データを動画データ格納部230から抽出し(ステップ206)、操作再生装置20に送信する(ステップ207)。操作画面再生装置20では、受信した動画データを順次デコードすることで、動画(操作画面)を再生する(ステップ208)。   The moving image data provision control unit 240 in the operation information management apparatus 200 having received the reproduction instruction, for example, uses the meta information to determine moving image data of the “operation present” time section including the designated time, and the moving image data Are extracted from the moving image data storage unit 230 (step 206) and transmitted to the operation reproduction apparatus 20 (step 207). The operation screen reproduction apparatus 20 reproduces a moving image (operation screen) by sequentially decoding the received moving image data (step 208).

なお、上記の例は、特定の「操作有」の時間区間を指定する例であるが、これは一例に過ぎず、例えば、「不使用」を除く全部を連続的に再生、全ての「操作有」区間のみを連続的に再生、といったことも可能である。   Although the above example is an example of specifying a specific "operation present" time interval, this is merely an example, and for example, all "exception" is continuously reproduced, all "operations" It is also possible to reproduce only the "presence" section continuously.

(変形例1)
これまでに説明したシステムでは、動画を再生する側は、操作情報管理装置200と、デコード機能を持つ操作再生装置20に分かれていたが、操作情報管理装置200がデコード機能を持ち、操作情報管理装置200において操作画面を表示し、当該操作画面上で指示をすることで、操作情報管理装置200で動画再生表示を行うこととしてもよい。
(Modification 1)
In the system described so far, the side that reproduces a moving image is divided into the operation information management device 200 and the operation reproduction device 20 having a decoding function, but the operation information management device 200 has a decoding function, and the operation information management By displaying an operation screen on the device 200 and giving an instruction on the operation screen, moving image reproduction display may be performed on the operation information management device 200.

この場合の操作情報管理装置200の構成例を図9に示す。図9に示すように、変形例1の操作情報管理装置200は、図3に示す操作情報管理装置200における動画データ提供制御部240が、図9に示す動画再生制御部250に置き換えられたものに相当する。   A configuration example of the operation information management device 200 in this case is shown in FIG. As shown in FIG. 9, in the operation information management apparatus 200 of the first modification, the moving image data provision control unit 240 in the operation information management apparatus 200 shown in FIG. 3 is replaced with a moving image reproduction control unit 250 shown in FIG. It corresponds to

動画再生制御部250は、前述した動画データ提供制御部240が操作画面再生装置20に表示させる操作画面を操作情報管理装置200のディスプレイに表示し、前述したように操作画面上での指示に応じて動画データの取得を行い、動画データのデコード、及び表示を行う。   The moving image reproduction control unit 250 displays the operation screen displayed on the operation screen reproduction device 20 by the above-described moving image data provision control unit 240 on the display of the operation information management device 200, and as described above, according to the instruction on the operation screen. Video data is acquired, and the video data is decoded and displayed.

(変形例2)
これまでに説明したシステムでは、操作記録装置100と操作情報管理装置200が分かれ、ネットワーク接続されていたが、これらの装置の機能が1つの装置内にあってもよい。このような装置を操作記録再生装置300と呼ぶ。
(Modification 2)
In the system described above, the operation recording apparatus 100 and the operation information management apparatus 200 are separated and connected to a network, but the functions of these apparatuses may be in one apparatus. Such an apparatus is called an operation recording and reproducing apparatus 300.

操作記録再生装置300の構成例を図10に示す。図10に示すように、操作記録再生装置300は、表示情報作成部110、画像メモリ111、画面キャプチャ部120、操作監視部130、動画情報作成部140、動画データ格納部150、メタ情報格納部160、動画再生制御部250を有する。   A configuration example of the operation recording and reproducing apparatus 300 is shown in FIG. As shown in FIG. 10, the operation recording / reproducing apparatus 300 includes a display information generation unit 110, an image memory 111, a screen capture unit 120, an operation monitoring unit 130, a moving image information generation unit 140, a moving image data storage unit 150, and a meta information storage unit. 160, the video playback control unit 250 is provided.

各機能部の機能はこれまでに説明したものと同じである。変形例2では、動画情報作成部140により作成された動画データが動画データ格納部150に格納され、メタ情報がメタ情報格納部160に格納された後、他の装置に送信されることなく、動画再生制御部250により、動画再生のために使用される。   The functions of each functional unit are the same as described above. In the second modification, the moving image data generated by the moving image information generating unit 140 is stored in the moving image data storage unit 150, and the meta information is stored in the meta information storage unit 160 without being transmitted to another device. The video playback control unit 250 is used for video playback.

変形例2の装置では、これまでに説明したように操作監視のために動画記録/再生を行うことの他、例えば、自身が行った操作内容を後で確認する用途に使用することもできる。   The apparatus of the second modification can also be used, for example, for the purpose of later confirming the contents of the operation performed by itself, in addition to performing moving image recording / reproduction for the operation monitoring as described above.

なお、図1に示すシステム、図1に示すシステムの再生側を変形例1で置き換えたシステム、及び、変形例2のシステムはいずれも操作記録再生システムの例である。   Note that the system shown in FIG. 1, the system in which the reproduction side of the system shown in FIG. 1 is replaced with the first modification, and the system of the second modification are all examples of the operation recording and reproduction system.

(実施の形態のまとめ、効果等)
以上、説明したように、本実施の形態により、ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録する操作記録装置であって、前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、前記キャプチャ手段により取得された複数の静止画データから動画データを作成するとともに、当該動画データのメタ情報を作成する処理を所定期間毎に行う動画情報作成手段と、前記動画情報作成手段により作成された動画データとメタ情報を管理装置に送信する送信手段とを備える操作記録装置が提供される。
(Summary of the embodiment, effects, etc.)
As described above, according to the present embodiment, the present invention is an operation recording apparatus that displays a screen according to an operation by a user and records the operation content by capturing the displayed screen, wherein the screen is specified Processing for capturing moving image data from a plurality of still image data captured by the capturing means for capturing still image data of the screen and capturing at a time interval of An operation recording apparatus is provided, which comprises: moving image information creating means for performing each of the predetermined periods; and transmitting means for transmitting the moving image data created by the moving image information creating means and the meta information to the management device.

前記メタ情報は、例えば動画データの識別情報、当該動画データにおけるキャプチャ開始時刻、キャプチャを行った時間長を含む。   The meta information includes, for example, identification information of moving image data, a capture start time of the moving image data, and a time length of capturing.

前記操作記録装置は、ユーザによる操作を監視する操作監視手段を更に備えてもよく、前記動画情報作成手段は、前記動画データを作成した所定時間内に操作有りであることが検知されているときに、当該動画データに対応するメタ情報に操作有りを示す情報を含めるようにしてもよい。   The operation recording apparatus may further include operation monitoring means for monitoring an operation by the user, and the moving image information generating means detects that the operation is present within a predetermined time when the moving image data is generated. The meta information corresponding to the moving image data may include information indicating that there is an operation.

また、本実施の形態により、ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録するとともに、前記画面の再生表示を行う操作記録再生システムであって、前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、前記キャプチャ手段により取得された複数の静止画データから動画データを作成するとともに、当該動画データのメタ情報を作成する処理を所定期間毎に行う動画情報作成手段と、前記動画情報作成手段により作成された動画データとメタ情報を格納する格納手段と、前記メタ情報に基づいて、前記動画データを再生するための操作画面を表示し、当該操作画面に基づいてなされた操作に応じて、前記動画データを再生する再生制御手段とを備える操作記録再生システムが提供される。   Further, according to the present embodiment, the operation recording and reproducing system displays the screen according to the operation by the user, records the operation content by capturing the displayed screen, and reproduces and displays the screen. Capture means for capturing the screen at predetermined time intervals and acquiring still image data of the screen, and creating moving image data from a plurality of still image data obtained by the capturing means; A moving image information creating unit that performs processing of creating information at predetermined intervals, a storing unit that stores the moving image data and meta information created by the moving image information creating unit, and reproduces the moving image data based on the meta information Operation control screen for displaying the moving image data according to the operation performed based on the operation screen. Operation recording and reproducing system and means are provided.

本実施の形態は、長時間の動画ではなく、細切れに動画を作成することから、細切れ動画方式と呼ぶことができる。細切れ動画方式を採用することにより、操作記録を動画として収集した場合と、静止画として収集の両方のメリットを享受することが可能となる。   The present embodiment can be called a small moving picture method because moving pictures are created in small pieces, not long moving pictures. By adopting the small moving picture method, it is possible to enjoy the merits of both collecting the operation record as a moving picture and as a still picture.

つまり、動画であるため、高フレームレートで漏れの無い記録が可能となる。また、動画の圧縮機能を利用できるため、保存時のサイズとサーバ間通信帯域(bps)を節約できる。また、短い間隔の動画を逐次サーバに送信するため、送信が完了したものから随時閲覧が可能となる(1分程度の遅れでリアルタイム監視が可能)。また、動画が細かい時間単位で分割されているため、記録対象の操作時間が長い場合も、閲覧時に任意の時刻の記録の閲覧(頭出し)が高速に可能となる。また、動画取得時に対象端末(記録装置)の負荷変動により目標フレームレートを下回った場合でも、再生時刻が、細切れの単位で修正可能なため、長時間録画したとしても再生時間の誤差が蓄積しないという効果もある。   That is, since the moving image is a moving image, it is possible to perform a leak-free recording at a high frame rate. In addition, since the moving image compression function can be used, the storage size and the inter-server communication bandwidth (bps) can be saved. In addition, since moving images of short intervals are sequentially transmitted to the server, browsing can be performed as needed from the completed transmission (real-time monitoring can be performed with a delay of about one minute). In addition, since the moving image is divided into fine time units, even when the operation time of the recording target is long, browsing (heading up) of the recording at any time can be performed at a high speed at the time of browsing. In addition, even if the target frame rate is lowered due to load fluctuation of the target terminal (recording device) at the time of moving image acquisition, the reproduction time can be corrected in units of fragmentation, so errors in reproduction time do not accumulate even if recording for a long time There is also an effect.

(第1項)
ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録する操作記録装置であって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから動画データを作成するとともに、当該動画データのメタ情報を作成する処理を所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を管理装置に送信する送信手段と
を備えることを特徴とする操作記録装置。
(第2項)
前記メタ情報は、動画データの識別情報、当該動画データにおけるキャプチャ開始時刻、キャプチャを行った時間長を含むことを特徴とする第1項に記載の操作記録装置。
(第3項)
前記操作記録装置は、ユーザによる操作を監視する操作監視手段を更に備え、
前記動画情報作成手段は、前記動画データを作成した所定時間内に操作有りであることが検知されているときに、当該動画データに対応するメタ情報に操作有りを示す情報を含める
ことを特徴とする第1項又は第2項に記載の操作記録装置。
(第4項)
コンピュータを、第1項ないし第3項のうちいずれか1項に記載の前記操作記録装置の各手段として機能させるためのプログラム。
(第5項)
ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録するとともに、前記画面の再生表示を行う操作記録再生システムであって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから動画データを作成するとともに、当該動画データのメタ情報を作成する処理を所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を格納する格納手段と、
前記メタ情報に基づいて、前記動画データを再生するための操作画面を表示し、当該操作画面に基づいてなされた操作に応じて、前記動画データを再生する再生制御手段と
を備えることを特徴とする操作記録再生システム。
本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において、種々変更・応用が可能である。
(Section 1)
An operation recording apparatus that displays a screen according to an operation by a user and records an operation content by capturing the displayed screen.
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
A moving image information generating unit that generates moving image data from a plurality of still image data acquired by the capturing unit and performs processing of generating meta information of the moving image data at predetermined intervals;
A transmitting unit for transmitting the moving image data and the meta information generated by the moving image information generating unit to a management apparatus;
An operation recording apparatus comprising:
(Section 2)
The operation recording apparatus according to claim 1, wherein the meta information includes identification information of moving image data, a capture start time of the moving image data, and a time length of capturing.
(Section 3)
The operation recording device further includes operation monitoring means for monitoring the operation by the user,
The moving image information creation means includes information indicating the presence of the operation in the meta information corresponding to the moving image data when it is detected that the operation is present within a predetermined time when the moving image data is created.
The operation recording apparatus according to any one of the items 1 and 2, characterized in that:
(Section 4)
A program for causing a computer to function as each means of the operation recording device according to any one of the items 1 to 3.
(Section 5)
An operation recording and reproducing system that displays a screen according to an operation by a user, records an operation content by capturing the displayed screen, and reproduces and displays the screen.
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
A moving image information generating unit that generates moving image data from a plurality of still image data acquired by the capturing unit and performs processing of generating meta information of the moving image data at predetermined intervals;
Storage means for storing the video data and meta information created by the video information creation means;
A reproduction control unit that displays an operation screen for reproducing the moving image data based on the meta information, and reproduces the moving image data according to an operation performed based on the operation screen;
An operation recording and reproducing system comprising:
The present invention is not limited to the above embodiment, and various modifications and applications are possible within the scope of the claims.

10 表示操作装置
100 操作記録装置
20 操作画面再生装置
200 操作情報管理装置
110 表示情報作成部
111 画像メモリ
120 画面キャプチャ部
130 操作監視部
140 動画情報作成部
150 動画データ格納部
160 メタ情報格納部
170 動画情報送信部
210 動画情報受信部
220 メタ情報格納部
230 動画データ格納部
240 動画データ提供制御部
250 動画再生制御部
300 操作記録再生装置
DESCRIPTION OF SYMBOLS 10 display operation apparatus 100 operation recording apparatus 20 operation screen reproduction apparatus 200 operation information management apparatus 110 display information creation part 111 image memory 120 screen capture part 130 operation monitoring part 140 moving image information creation part 150 moving image data storage part 160 meta information storage part 170 Movie information transmission unit 210 Movie information reception unit 220 meta information storage unit 230 movie data storage unit 240 movie data provision control unit 250 movie reproduction control unit 300 operation recording and reproduction apparatus

Claims (5)

ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録する操作記録装置であって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから細切れ動画の動画データを作成するとともに、当該細切れ動画の動画データのメタ情報を作成する処理を、当該細切れ動画の時間長に対応する所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を管理装置に送信する送信手段とを備え
前記動画情報作成手段により作成された複数の細切れ動画の動画データは、前記メタ情報に基づいて、前記複数の細切れ動画が連続した動画に見えるように再生される動画データである
ことを特徴とする操作記録装置。
An operation recording apparatus that displays a screen according to an operation by a user and records an operation content by capturing the displayed screen.
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
The process of creating moving image data of a broken moving image from a plurality of still image data acquired by the capture means and creating meta information of the moving image data of the broken moving image is performed every predetermined period corresponding to the time length of the thin moving image Means for creating video information to
And transmitting means for transmitting the moving picture data created by the moving picture information creating means and the meta information to the management apparatus .
The moving image data of a plurality of small moving images created by the moving image information creating means is moving image data reproduced so that the plurality of small moving images appear as continuous moving images based on the meta information. Operation recording device.
前記メタ情報は、動画データの識別情報、当該動画データにおけるキャプチャ開始時刻、キャプチャを行った時間長を含むことを特徴とする請求項1に記載の操作記録装置。   The operation recording apparatus according to claim 1, wherein the meta information includes identification information of moving image data, a capture start time of the moving image data, and a time length of capturing. 前記操作記録装置は、ユーザによる操作を監視する操作監視手段を更に備え、
前記動画情報作成手段は、前記動画データを作成した所定時間内に操作有りであることが検知されているときに、当該動画データに対応するメタ情報に操作有りを示す情報を含める
ことを特徴とする請求項1又は2に記載の操作記録装置。
The operation recording device further includes operation monitoring means for monitoring the operation by the user,
The moving image information creation means includes, when it is detected that there is an operation within a predetermined time when the moving image data was created, the meta information corresponding to the moving image data includes information indicating the presence of the operation. The operation recording device according to claim 1 or 2 .
コンピュータを、請求項1ないしのうちいずれか1項に記載の前記操作記録装置の各手段として機能させるためのプログラム。 The program for functioning a computer as each means of the said operation recording device of any one of Claim 1 thru | or 3 . ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録するとともに、前記画面の再生表示を行う操作記録再生システムであって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから細切れ動画の動画データを作成するとともに、当該細切れ動画の動画データのメタ情報を作成する処理を、当該細切れ動画の時間長に対応する所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を格納する格納手段と、
前記メタ情報に基づいて、前記動画データを再生するための操作画面を表示し、当該操作画面に基づいてなされた操作に応じて、前記動画データを再生する再生制御手段とを備え
前記再生制御手段は、前記動画情報作成手段により作成された複数の細切れ動画の動画データを、前記メタ情報に基づいて、前記複数の細切れ動画が連続した動画に見えるように再生する
ことを特徴とする操作記録再生システム。
An operation recording and reproducing system that displays a screen according to an operation by a user, records an operation content by capturing the displayed screen, and reproduces and displays the screen.
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
The process of creating moving image data of a broken moving image from a plurality of still image data acquired by the capture means and creating meta information of the moving image data of the broken moving image is performed every predetermined period corresponding to the time length of the thin moving image Means for creating video information to
Storage means for storing the video data and meta information created by the video information creation means;
An operation screen for reproducing the moving image data based on the meta information, and reproduction control means for reproducing the moving image data according to an operation performed on the operation screen ;
The reproduction control means is characterized by reproducing the moving image data of the plurality of small moving images created by the moving image information generating means so that the plurality of small moving images can be seen as a continuous moving image based on the meta information. Operation recording and playback system.
JP2014119282A 2014-06-10 2014-06-10 Operation recording apparatus, operation recording and reproducing system, and program Active JP6545439B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014119282A JP6545439B2 (en) 2014-06-10 2014-06-10 Operation recording apparatus, operation recording and reproducing system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014119282A JP6545439B2 (en) 2014-06-10 2014-06-10 Operation recording apparatus, operation recording and reproducing system, and program

Publications (2)

Publication Number Publication Date
JP2015232916A JP2015232916A (en) 2015-12-24
JP6545439B2 true JP6545439B2 (en) 2019-07-17

Family

ID=54934272

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014119282A Active JP6545439B2 (en) 2014-06-10 2014-06-10 Operation recording apparatus, operation recording and reproducing system, and program

Country Status (1)

Country Link
JP (1) JP6545439B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11706499B2 (en) * 2018-10-31 2023-07-18 Sony Interactive Entertainment Inc. Watermarking synchronized inputs for machine learning
JP7096228B2 (en) * 2019-11-06 2022-07-05 株式会社 ミックウェア Information processing equipment, information processing methods, and programs

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007048349A (en) * 2005-08-08 2007-02-22 Sony Corp Optical disk, optical disk recording apparatus, and optical disk recording method
JP4779921B2 (en) * 2006-10-05 2011-09-28 ソニー株式会社 Data processing apparatus, data processing method, and computer program
JP4247277B2 (en) * 2007-02-06 2009-04-02 Sky株式会社 Terminal monitoring device and program thereof
JP5031608B2 (en) * 2008-02-01 2012-09-19 キヤノン株式会社 Playback apparatus and storage medium
JP5627320B2 (en) * 2010-07-06 2014-11-19 三菱電機株式会社 Movie storage device and movie storage system

Also Published As

Publication number Publication date
JP2015232916A (en) 2015-12-24

Similar Documents

Publication Publication Date Title
US11210610B2 (en) Enhanced multimedia content preview rendering in a cloud content management system
US20200267195A1 (en) Closed network video presentation
US10484737B2 (en) Methods and systems for instantaneous asynchronous media sharing
JP4100421B2 (en) Computer system
JP2016535347A (en) Methods in support of video impression analysis, including interactive collection of computer user data
US20190199763A1 (en) Systems and methods for previewing content
JP6024133B2 (en) Information processing apparatus, information processing system, and program
WO2011127859A2 (en) Method for processing video data and method and apparatus for displaying video images
KR20180111981A (en) Edit real-time content with limited interaction
KR20170002831A (en) Video editing systems and a driving method using video project templates
EP2645663A1 (en) Media data processing method and device thereof
JP6545439B2 (en) Operation recording apparatus, operation recording and reproducing system, and program
US8805169B2 (en) Information processing apparatus and method therefor
TW201406158A (en) System and method for transmitting and displaying network videos
WO2015093108A1 (en) Capture control device, capture control method, program, and information storage medium
JP2007300456A (en) Video monitoring system and its index generation method
EP3474530A1 (en) Image compressing method, image reconstructing method, image compressing device, image reconstructing device, image compressing program product, and image reconstructing program product
JP6357188B2 (en) Surveillance camera system and surveillance camera data storage method
JP2006195807A (en) Image search system, image search method, and program
JP2013021430A (en) Thumbnail image provision apparatus, method and system
CN113794890B (en) Data processing method, device, electronic equipment and storage medium
CN113992878B (en) Remote desktop operation auditing method, device and equipment
JP2004023381A (en) Video image information indexing support device, program, and storage medium
KR101809404B1 (en) Application-driven Video Quality Assignment Method in a Video Streaming System
WO2020007083A1 (en) Method and apparatus for processing information associated with video, electronic device, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170330

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180213

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180612

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180912

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20180921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190619

R150 Certificate of patent or registration of utility model

Ref document number: 6545439

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250