JP6545439B2 - Operation recording apparatus, operation recording and reproducing system, and program - Google Patents
Operation recording apparatus, operation recording and reproducing system, and program Download PDFInfo
- Publication number
- JP6545439B2 JP6545439B2 JP2014119282A JP2014119282A JP6545439B2 JP 6545439 B2 JP6545439 B2 JP 6545439B2 JP 2014119282 A JP2014119282 A JP 2014119282A JP 2014119282 A JP2014119282 A JP 2014119282A JP 6545439 B2 JP6545439 B2 JP 6545439B2
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- image data
- information
- screen
- moving
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 claims description 26
- 238000012544 monitoring process Methods 0.000 claims description 21
- 238000007726 management method Methods 0.000 description 37
- 230000006870 function Effects 0.000 description 14
- 238000012986 modification Methods 0.000 description 12
- 230000004048 modification Effects 0.000 description 12
- 238000013500 data storage Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000013467 fragmentation Methods 0.000 description 1
- 238000006062 fragmentation reaction Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Description
本発明は、主として、PC等の端末における不正操作の監視等を行うために、端末における操作画面を記録し、記録した操作画面を再生する技術に関連するものである。 The present invention relates mainly to a technique for recording an operation screen on a terminal and reproducing the recorded operation screen in order to monitor an unauthorized operation or the like on the terminal such as a PC.
端末において不正な操作がなされたことを監視・確認する手法として、端末に表示される操作画面を一定時間間隔で記録(キャプチャ)し、記録した画面の画像データを管理サーバ等に送信し、後に監視端末等により操作画面を再生して操作状況を確認する手法がある。 As a method to monitor and confirm that an unauthorized operation has been performed on the terminal, the operation screen displayed on the terminal is recorded (captured) at fixed time intervals, and the image data of the recorded screen is transmitted to the management server etc. There is a method of reproducing an operation screen by a monitoring terminal or the like to check the operation status.
上記のような手法において、画面をキャプチャする方式として、端末における表示画面を動画として記録する動画記録方式と、表示画面を連続した静止画として記録する静止画記録方式が考えられる。 In the above-described method, as a method of capturing a screen, a moving image recording method of recording a display screen of a terminal as a moving image and a still image recording method of recording a display screen as a continuous still image can be considered.
不正操作等の監視のために操作画面の記録を行う場合、操作を行うユーザに記録を行っていることを意識させることなく記録を行う必要がある。このような前提の下、動画記録方式では、例えば、ユーザが端末を起動したとき、もしくは端末にログインしたときに動画記録を開始し、ログアウトしたとき、もしくは端末を終了したときに動画記録を終了するといった記録方法になることが考えられる。しかし、このような記録方法となる動画記録方式では、端末での操作が終わるまで動画(動画ファイル)が完成しないため、記録中に操作画面を閲覧することができない。また、端末の終了により動画記録を終了する場合、サーバに画像データを送信できるのが、次回の端末の起動時となり、取得した動画を閲覧可能になるまでの時間が不定となるといった問題がある。 When the operation screen is recorded for monitoring of an unauthorized operation or the like, the recording needs to be performed without making the user who performs the operation be aware of the recording. Under such a premise, in the moving picture recording method, for example, the moving picture recording is started when the user starts the terminal or logs in to the terminal, and ends the moving picture recording when the user logs out or ends the terminal It can be considered to be a recording method such as However, in the moving image recording method which is such a recording method, since the moving image (moving image file) is not completed until the operation on the terminal is completed, the operation screen can not be viewed during recording. In addition, when moving picture recording is ended by termination of the terminal, the image data can be sent to the server when the terminal is started next time, and there is a problem that the time until the acquired moving picture can be viewed becomes indefinite. .
静止画記録方式では、1枚1枚の静止画を別々に記録、及びサーバへの送信を行うことができるので、上記の動画記録方式のような問題を生じさないようにすることができる。しかし、動画に比べてデータサイズが非常に大きくなってしまい、サーバに大きな記憶領域を必要とすることや、NW帯域を多く消費することが問題となる。また、データサイズの関係で、動画のようにフレームレートを上げることが難しく、記録の取得漏れが生じる可能性があるという問題もある。 In the still image recording method, it is possible to separately record one still image and transmit it to the server, so that it is possible to prevent the problem as in the above-mentioned moving image recording method. However, the data size is much larger than that of a moving image, and there is a problem that the server requires a large storage area and consumes a large number of NW bands. Further, due to the data size, it is difficult to increase the frame rate as in the case of a moving image, and there is also a problem that the acquisition of the record may occur.
なお、上記のような問題は、不正操作監視等の技術分野に限らず、例えば、自身のPCの操作ログチェックのために操作画面を記録するような場合にも生じ得るものである。 The above problems may occur not only in the technical field such as unauthorized operation monitoring but also in the case of recording an operation screen for checking the operation log of its own PC, for example.
本発明は上記の点に鑑みてなされたものであり、操作画面を記録し、記録した操作画面を再生する技術において、高フレームレートで記録しても静止画記録方式のようにデータサイズを増大させることなく、任意の時間位置で操作画面の再生を可能とする技術を提供することを目的とする。 The present invention has been made in view of the above points, and in the technology of recording an operation screen and reproducing the recorded operation screen, the data size is increased as in the still image recording method even when recorded at a high frame rate It is an object of the present invention to provide a technology that enables reproduction of an operation screen at an arbitrary time position without causing an operation.
本発明の実施の形態によれば、ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録する操作記録装置であって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから細切れ動画の動画データを作成するとともに、当該細切れ動画の動画データのメタ情報を作成する処理を、当該細切れ動画の時間長に対応する所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を管理装置に送信する送信手段とを備え、
前記動画情報作成手段により作成された複数の細切れ動画の動画データは、前記メタ情報に基づいて、前記複数の細切れ動画が連続した動画に見えるように再生される動画データである
ことを特徴とする操作記録装置が提供される。
According to an embodiment of the present invention, there is provided an operation recording apparatus which displays a screen according to an operation by a user and records an operation content by capturing the displayed screen,
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
The process of creating moving image data of a broken moving image from a plurality of still image data acquired by the capture means and creating meta information of the moving image data of the broken moving image is performed every predetermined period corresponding to the time length of the thin moving image Means for creating video information to
And transmitting means for transmitting the moving picture data created by the moving picture information creating means and the meta information to the management apparatus .
The moving image data of a plurality of small moving images created by the moving image information creating means is moving image data reproduced so that the plurality of small moving images appear as continuous moving images based on the meta information. An operation recording device is provided.
また、本発明の実施の形態によれば、ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録するとともに、前記画面の再生表示を行う操作記録再生システムであって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから細切れ動画の動画データを作成するとともに、当該細切れ動画の動画データのメタ情報を作成する処理を、当該細切れ動画の時間長に対応する所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を格納する格納手段と、
前記メタ情報に基づいて、前記動画データを再生するための操作画面を表示し、当該操作画面に基づいてなされた操作に応じて、前記動画データを再生する再生制御手段とを備え、
前記再生制御手段は、前記動画情報作成手段により作成された複数の細切れ動画の動画データを、前記メタ情報に基づいて、前記複数の細切れ動画が連続した動画に見えるように再生する
ことを特徴とする操作記録再生システムが提供される。
Further, according to the embodiment of the present invention, the screen is displayed according to the operation by the user, and the operation content is recorded by capturing the displayed screen, and the operation recording and reproducing is performed to display the screen. A system,
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
The process of creating moving image data of a broken moving image from a plurality of still image data acquired by the capture means and creating meta information of the moving image data of the broken moving image is performed every predetermined period corresponding to the time length of the thin moving image Means for creating video information to
Storage means for storing the video data and meta information created by the video information creation means;
An operation screen for reproducing the moving image data based on the meta information, and reproduction control means for reproducing the moving image data according to an operation performed on the operation screen ;
The reproduction control means is characterized by reproducing the moving image data of the plurality of small moving images created by the moving image information generating means so that the plurality of small moving images can be seen as a continuous moving image based on the meta information. An operation recording and reproducing system is provided.
本発明の実施の形態によれば、操作画面を記録し、記録した操作画面を再生する技術において、高フレームレートで記録しても静止画記録方式のようにデータサイズを増大させることなく、任意の時間位置で操作画面の再生を可能とする技術を提供することができる。 According to the embodiment of the present invention, in the technology of recording the operation screen and reproducing the recorded operation screen, even if the recording is performed at a high frame rate, it is optional without increasing the data size as in the still image recording method. It is possible to provide a technology that enables the reproduction of the operation screen at the time position of.
以下、図面を参照して本発明の実施の形態を説明する。なお、以下で説明する実施の形態は一例に過ぎず、本発明が適用される実施の形態は、以下の実施の形態に限られるわけではない。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. Note that the embodiments described below are merely examples, and the embodiments to which the present invention is applied are not limited to the following embodiments.
(システムの全体構成例)
図1に、本発明の実施の形態における操作監視システムの全体構成例を示す。図1に示すように、本実施の形態に係る操作監視システムは、操作記録装置100、表示操作装置10、操作情報管理装置200、操作画面再生装置20を備える。
(Example of overall system configuration)
FIG. 1 shows an example of the overall configuration of an operation monitoring system according to an embodiment of the present invention. As shown in FIG. 1, the operation monitoring system according to the present embodiment includes an
操作記録装置100は、表示操作装置10において行われる操作者による操作に基づく表示操作装置10への画面表示を行うとともに、表示される画面を画像としてキャプチャし、後述するように動画データやメタ情報(これらをまとめて動画情報と呼ぶ)を作成し、動画情報を操作情報管理装置200に送信する装置(コンピュータ)である。表示操作装置10は、例えば、ディスプレイと入力装置(キーボード、マウス等)を有する端末である。操作記録装置100と表示操作装置10は、LAN等のネットワークで接続されていてもよいし、操作記録装置100と表示操作装置10とが一体の装置として構成されていてもよい。
The
操作情報管理装置200は、操作記録装置100から受信した動画情報を保存するとともに、操作画面再生装置20に対して、動画再生のための操作画面や動画データ等を提供する機能を有する。操作画面再生装置20は、操作情報管理装置200から受信する動画データを再生することにより、表示操作装置10において表示された画面を動画として表示することができる。
The operation
(装置構成)
次に、操作記録装置100と操作情報管理装置200の構成について説明する。
(Device configuration)
Next, the configurations of the operation recording
<操作記録装置100>
図2は、操作記録装置100の機能構成を示す図である。
<
FIG. 2 is a diagram showing a functional configuration of the
図2に示すように、操作記録装置100は、表示情報作成部110、画像メモリ111、画面キャプチャ部120、操作監視部130、動画情報作成部140、動画データ格納部150、メタ情報格納部160、動画情報送信部170を有する。
As shown in FIG. 2, the
表示情報作成部110は、表示操作装置10による操作の対象となるアプリケーション、及び操作や画面表示に係るOSの機能に相当する機能部であり、表示操作装置10においてなされる操作(キーボード押下、マウス移動、マウスボタン押下)に基づいて、表示操作装置10に表示させる画面の画像情報(静止画データであり、これを表示情報とも呼ぶ)を作成し、表示操作装置10に表示情報を送信することでこれを表示させる機能を有する。
The display
当該表示情報が、画像メモリ111に格納され、当該画像メモリ111に格納されているデータを取得することで、表示操作装置10に表示される画面のキャプチャを行うことができる。
The display information is stored in the
画面キャプチャ部120は、上記にように画像メモリ111に格納されている表示情報を取得することで、画面のキャプチャを行う。キャプチャにより得られた静止画データは、動画情報作成部140に渡される。
The
操作監視部130は、表示操作装置10において行われる操作の情報を表示情報作成部110から取得し、当該操作情報を動画情報作成部140からの要求に基づいて動画情報作成部140に渡す機能を有する。操作情報としては、例えば、キーボード押下を示す情報、マウス移動を示す情報、マウスボタン押下を示す情報等があるが、これらに限られるわけではない。操作監視部130は、例えば定期的(例:1秒毎)に、表示情報作成部110から操作情報を取得し、保持する。
The
動画情報作成部140は、画面キャプチャ部120により所定期間(例:20秒)毎に取得された複数枚の静止画データをエンコードすることで動画データを作成する。エンコードには、例えばMPEGといった既存の手法を用いることができる。作成された動画データは、動画データ格納部150に格納される。
The moving image
また、動画情報作成部140は、動画データに関するメタ情報を作成する機能を有し、作成したメタ情報をメタ情報格納部160に格納する。メタ情報には、動画データに係る静止画データの取得開始時刻、操作有無等の情報が含まれる。メタ情報の詳細は後述する。
Also, the moving picture
動画情報送信部170は、動画データ格納部150に格納された動画データ、及びメタ情報格納部160に格納されたメタ情報を動画情報として操作情報管理装置200に送信する。動画データとメタ情報を操作情報管理装置200に送信する頻度については、動画データが作成される度、すなわち上記の所定期間毎でもよいし、当該所定期間よりも長い期間毎にまとめて送信することとしてもよい。
The moving image
本実施の形態に係る操作記録装置100は、1つ又は複数のコンピュータに、本実施の形態で説明する処理内容を記述したプログラムを実行させることにより実現可能である。すなわち、操作記録装置100が有する機能は、当該コンピュータに内蔵されるCPUやメモリ、ハードディスクなどのハードウェア資源を用いて、操作記録装置100で実施される処理に対応するプログラムを実行することによって実現することが可能である。また、上記プログラムは、コンピュータが読み取り可能な記録媒体(可搬メモリ等)に記録して、保存したり、配布したりすることが可能である。また、上記プログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。このように、プログラムで実現可能な点については、変形例1、2も同様である。
The
<操作情報管理装置200>
図3は、操作情報管理装置200の機能構成図である。図3に示すように、操作情報管理装置200は、動画情報受信部210、メタ情報格納部220、動画データ格納部230、動画データ提供制御部240を有する。
<Operation
FIG. 3 is a functional block diagram of the operation
動画情報受信部210は、操作記録装置100から動画情報(動画データとメタ情報)を受信する。動画データは動画データ格納部230に格納され、メタ情報はメタ情報格納部220に格納される。
The moving image
動画データ提供制御部240は、メタ情報格納部220に格納されているメタ情報に基づいて、操作画面再生のための画面の情報を作成し、当該画面の情報を操作画面再生装置20に送信するとともに、当該画面が表示された操作画面再生装置20からの指示に基づいて、動画データを操作画面再生装置20に送信することで、操作画面再生装置20において動画を再生させる機能を有する。
The moving picture data
本実施の形態に係る操作情報管理装置200は、1つ又は複数のコンピュータに、本実施の形態で説明する処理内容を記述したプログラムを実行させることにより実現可能である。すなわち、操作情報管理装置200が有する機能は、当該コンピュータに内蔵されるCPUやメモリ、ハードディスクなどのハードウェア資源を用いて、操作情報管理装置200で実施される処理に対応するプログラムを実行することによって実現することが可能である。また、上記プログラムは、コンピュータが読み取り可能な記録媒体(可搬メモリ等)に記録して、保存したり、配布したりすることが可能である。また、上記プログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。
The operation
(各装置の動作)
<操作記録装置100の動作>
図4を参照して、操作記録装置100の動作の概要を説明する。ここでは、例えば、表示操作装置10から操作記録装置100にログインがなされ、表示操作装置10が操作記録装置100を使用して何等かの作業を行っているものとする。もちろん、作業中は、操作記録装置100に対して何も操作をしない期間もあるし、キーボード入力等の作業を行っている期間もある。
(Operation of each device)
<Operation of
The outline of the operation of the
操作記録装置100の表示情報作成部110は、表示情報(画面の画像)を表示操作装置10に送信することで画面表示を行っている。図4のステップ1に示すように、操作記録装置100の画面キャプチャ部120は、画像メモリ111における表示情報を取得することで画面のキャプチャを行い、静止画データを順次取得する。静止画データを取得する間隔は任意に決めてよいが、例えば、1秒間に5枚取得できるように200ms間隔で取得を行う。
The display
ステップ2に示すように、操作記録装置100の動画情報作成部140は、所定期間(例:20秒)毎に、当該所定期間に取得された複数枚の静止画データから動画データを作成する。また、動画データを作成する度に、当該動画データに対応するメタ情報が作成される。
As shown in step 2, the moving image
次に、図5を参照して、操作記録装置100の動作をより詳細に説明する。例えば、最初に、ユーザが表示操作装置10から操作記録装置100に対してユーザID/パスワードを入力することでログインを行う。このログインを契機に、表示情報作成部110は、表示操作装置10からの操作に基づく種々の表示情報(画面の画像)の作成を開始するとともに、当該ユーザによる操作に係る操作画面の記録が開始される。
Next, the operation of the
また、本例においては、操作監視部130が、表示情報作成部110から定期的(例:1秒毎)に操作情報を取得し、当該操作情報を保持する。また、操作情報が無い場合(操作が行われていない場合)は、何も保持しないか、又は、操作情報が無いことを示す情報を保持する。保持される情報は操作情報を取得(無い場合を含む)する度に更新される。
Further, in the present example, the
まず、画面キャプチャ部120は、画像メモリ111から表示情報を取得することで、画面のキャプチャを行い、静止画データを取得し、静止画データを動画情報作成部140に渡す(ステップ101)。
First, the
動画情報作成部140は、当該静止画データを取得した時点における操作情報の有無を操作監視部130に対して問い合わせ(ステップ102)、操作情報有りであれば(ステップ102のYes)、操作情報有りであることを示す情報を静止画データに付加し、当該情報と静止画データとをバッファに格納する(ステップ103)。操作情報が無い場合(ステップ102のNo)は、静止画データのみ(もしくは静止画データと操作情報無しを示す情報)をバッファに格納する(ステップ104)。また、例えば、静止画データを格納する際には、静止画データ毎に、静止画データを取得した時刻も格納される。
The moving image
動画情報作成部140は、最初の静止画データ取得、もしくは、前回の動画データ作成から所定時間(例:20秒)が経過したかどうかを判定し(ステップ105)、経過していなければステップ101に戻り、経過していればステップ106に進む。
The moving image
ステップ101に戻った場合は、これまでに説明したとおりの処理が繰り返される。ステップ106に進んだ場合、動画情報作成部140は、所定時間の間にバッファに格納された静止画データをエンコードすることにより、当該所定時間長の動画データ(符号化データ)を作成し、作成した動画データを動画データ格納部150に格納する(ステップ106)。本例では、動画データ作成後、静止画データのバッファはクリアされる。なお、ここでは、所定期間分の静止画データが格納された段階で動画データが作成されることを示しているが、静止画データが得られる度に、順次動画データ作成を行い、所定期間経過時に、1つの動画データ(動画ファイル)を完成させる処理方法でもよい。
If the process returns to step 101, the process as described above is repeated. When the process proceeds to step 106, the moving image
また、動画情報作成部140は、当該動画データに対応するメタ情報を作成し、作成したメタ情報をメタ情報格納部160に格納する(ステップ107)。本例では、動画データとメタ情報を作成する度に、当該動画データとメタ情報を操作情報管理装置200に送信することとしており、ステップ108においてその送信が行われる。
Also, the moving picture
メタ情報の例は図4に示されるとおりであり、図4の例におけるメタ情報は、当該メタ情報に対応する動画データの識別情報(例:動画1、動画2)、動画の開始時刻、動画の時間長(例:20秒)、セッションID、操作有無情報を含む。動画の終了時刻を含んでもよい。 An example of meta information is as shown in FIG. 4, and the meta information in the example of FIG. 4 is identification information of moving image data corresponding to the meta information (e.g. moving image 1, moving image 2), start time of moving image, moving image (For example, 20 seconds), session ID, and operation presence / absence information. It may include the end time of the video.
動画データの識別情報は、例えば、対応する動画データのファイル名である。メタ情報のファイル名が動画データの識別情報を含んでもよい。動画の開始時刻は、例えば、動画データの元となる静止画データのうちの最初の静止画データの取得時刻である。動画の時間長は、例えば、動画データの元となる静止画データのうちの最初の静止画データの取得時刻から最後の静止画データの取得時刻までの時間である。セッションIDは、一連の動画データを識別する情報であり、例えば、ユーザ毎の操作の記録を行いたい場合において、セッションIDとして、ログイン時に入力されたユーザIDを使用することができる。すなわち、この場合、当該ユーザIDによるログインからログオフまでの時間における動画データを当該ユーザIDをセッションIDとして識別できる。このようにセッションIDとしてユーザIDを用いることは一例に過ぎず、他の任意の情報をセッションIDとして使用することができ、通常は、ユーザIDに対してセッションIDが複数存在する。 The identification information of the moving image data is, for example, the file name of the corresponding moving image data. The file name of the meta information may include identification information of the moving image data. The start time of the moving image is, for example, the acquisition time of the first still image data of the still image data that is the source of the moving image data. The time length of the moving image is, for example, the time from the acquisition time of the first still image data of the still image data that is the source of the moving image data to the acquisition time of the last still image data. The session ID is information for identifying a series of moving image data. For example, when it is desired to record an operation for each user, the user ID input at login can be used as the session ID. That is, in this case, it is possible to identify moving image data in a time from login to logoff by the user ID as the session ID. As described above, using a user ID as a session ID is only an example, and any other information can be used as a session ID. Usually, a plurality of session IDs exist for the user ID.
操作有無情報は、「操作有り」又は「操作無し」を示す情報である。より詳細には、動画情報作成部140は、動画作成時においてバッファされている静止画データのうち、操作有りの情報が付された静止画データが1つでもある場合は操作有無情報を「操作有り」とし、操作有りの情報が付された静止画データが無い場合は操作有無情報を「操作無し」とする。
The operation presence / absence information is information indicating "operation present" or "operation not present". More specifically, the moving image
なお、上記の動作例では、静止画をキャプチャする段階で、操作有無を確認して情報を付加することとしているが、これは一例に過ぎない。その他に、例えば、静止画データから動画データを作成した後に、操作監視部130に対して動画作成時間(上記の所定時間)内の操作有無を確認し、対応するメタ情報に操作情報を付加してもよい。
In the above operation example, at the stage of capturing a still image, the presence or absence of the operation is confirmed to add information, but this is merely an example. In addition, for example, after creating moving image data from still image data, the
<操作情報管理装置200及び操作画面再生装置20の動作>
次に、図6、図7を参照して、操作情報管理装置200と操作画面再生装置20により行われる動画(操作画面)再生動作の例を説明する。以下の動作の前提として、操作情報管理装置200は、操作記録装置100から動画情報(動画データとメタ情報)を既に受信しており、メタ情報格納部220にはメタ情報が格納され、動画データ格納部230には動画データが格納されている。
<Operation of Operation
Next, with reference to FIGS. 6 and 7, an example of a moving image (operation screen) reproduction operation performed by the operation
まず、図6を参照して動画再生の概要を説明する。図6に示すように、操作記録装置100により取得された動画データとメタ情報に基づいて、複数の細切れ動画(図6の動画1、動画2、・・・)を再生し、利用者にあたかも連続した一本の動画であるように見せる。このような動画再生制御は、動画データ提供制御部240により行われる。また、変形例1、2では、動画再生制御部250により行われることから、図6には、動画再生制御部250も示されている。
First, the outline of the moving image reproduction will be described with reference to FIG. As shown in FIG. 6, based on the moving image data and the meta information acquired by the
次に、図7を参照して、再生動作のシーケンス例を説明する。操作画面再生装置20(例:動画デコード機能を備えたPC)が操作情報管理装置200にアクセスすると(ステップ201)、操作情報管理装置200における動画データ提供制御部240は、操作画面再生装置20において操作画面再生のためのインターフェース画面となる再生操作画面の情報を作成し(ステップ202)、当該情報を操作画面再生装置20に送信する(ステップ203)。再生操作画面の情報を受信した操作画面再生装置20は、再生操作画面を表示する(ステップ204)。例えば、ステップ201のアクセス時に、特定のユーザIDを送信することで、メタ情報におけるセッションIDとの照合が行われ、当該ユーザIDに該当する動画データが抽出され、当該ユーザIDに対応するユーザの操作画面の再生のみを行うことが可能である。
Next, with reference to FIG. 7, a sequence example of the reproduction operation will be described. When the operation screen reproduction device 20 (for example, a PC having a moving image decoding function) accesses the operation information management device 200 (step 201), the moving image data
図8に、再生操作画面における表示情報の例を示す。図8に示す例では、時間軸上で、操作記録装置100が使用されない時間区間、操作記録装置100が使用された時間区間(=画面の記録がなされている時間区間)、当該使用時間区間のうち、操作があった時間区間、操作が無かった時間区間が、色分けして示されている。なお、図8の例では、操作有無が示されているが、メタ情報として操作内容を示す情報(例:コマンドの種類等)も取得することで、操作有無だけでなく操作違反等も加えることが可能である。
FIG. 8 shows an example of display information in the reproduction operation screen. In the example shown in FIG. 8, on the time axis, a time interval in which the
図8の情報は、動画データ提供制御部240が、該当ユーザに対応するメタ情報(セッションIDで識別可能)における時刻情報、及び操作有無情報を用いて作成できる。例えば、操作情報有りのメタ情報における時間区間を操作があった時間区間として表示すればよい。 The information shown in FIG. 8 can be created using the time information and operation presence information in the meta information (identifiable by the session ID) corresponding to the corresponding user. For example, the time section in the meta information with the operation information may be displayed as the time section in which the operation was performed.
操作再生装置20の利用者は、例えば、操作が有った時間区間のみの再生を行いたい場合、操作があったことを示す時間区間をクリック(もしくは、希望再生開始時刻を入力)する。すると、例えば、指定された時刻(例:時間区間の最初の時刻、入力された時刻)と「操作有」の情報を含む再生指示が操作情報管理装置200に送信される(ステップ205)。
For example, when it is desired to reproduce only the time section in which the operation has been performed, the user of the
再生指示を受信した操作情報管理装置200における動画データ提供制御部240は、例えば、メタ情報を用いて、指定された時刻を含む「操作有」の時間区間の動画データを判別し、当該動画データを動画データ格納部230から抽出し(ステップ206)、操作再生装置20に送信する(ステップ207)。操作画面再生装置20では、受信した動画データを順次デコードすることで、動画(操作画面)を再生する(ステップ208)。
The moving image data
なお、上記の例は、特定の「操作有」の時間区間を指定する例であるが、これは一例に過ぎず、例えば、「不使用」を除く全部を連続的に再生、全ての「操作有」区間のみを連続的に再生、といったことも可能である。 Although the above example is an example of specifying a specific "operation present" time interval, this is merely an example, and for example, all "exception" is continuously reproduced, all "operations" It is also possible to reproduce only the "presence" section continuously.
(変形例1)
これまでに説明したシステムでは、動画を再生する側は、操作情報管理装置200と、デコード機能を持つ操作再生装置20に分かれていたが、操作情報管理装置200がデコード機能を持ち、操作情報管理装置200において操作画面を表示し、当該操作画面上で指示をすることで、操作情報管理装置200で動画再生表示を行うこととしてもよい。
(Modification 1)
In the system described so far, the side that reproduces a moving image is divided into the operation
この場合の操作情報管理装置200の構成例を図9に示す。図9に示すように、変形例1の操作情報管理装置200は、図3に示す操作情報管理装置200における動画データ提供制御部240が、図9に示す動画再生制御部250に置き換えられたものに相当する。
A configuration example of the operation
動画再生制御部250は、前述した動画データ提供制御部240が操作画面再生装置20に表示させる操作画面を操作情報管理装置200のディスプレイに表示し、前述したように操作画面上での指示に応じて動画データの取得を行い、動画データのデコード、及び表示を行う。
The moving image
(変形例2)
これまでに説明したシステムでは、操作記録装置100と操作情報管理装置200が分かれ、ネットワーク接続されていたが、これらの装置の機能が1つの装置内にあってもよい。このような装置を操作記録再生装置300と呼ぶ。
(Modification 2)
In the system described above, the
操作記録再生装置300の構成例を図10に示す。図10に示すように、操作記録再生装置300は、表示情報作成部110、画像メモリ111、画面キャプチャ部120、操作監視部130、動画情報作成部140、動画データ格納部150、メタ情報格納部160、動画再生制御部250を有する。
A configuration example of the operation recording and reproducing
各機能部の機能はこれまでに説明したものと同じである。変形例2では、動画情報作成部140により作成された動画データが動画データ格納部150に格納され、メタ情報がメタ情報格納部160に格納された後、他の装置に送信されることなく、動画再生制御部250により、動画再生のために使用される。
The functions of each functional unit are the same as described above. In the second modification, the moving image data generated by the moving image
変形例2の装置では、これまでに説明したように操作監視のために動画記録/再生を行うことの他、例えば、自身が行った操作内容を後で確認する用途に使用することもできる。 The apparatus of the second modification can also be used, for example, for the purpose of later confirming the contents of the operation performed by itself, in addition to performing moving image recording / reproduction for the operation monitoring as described above.
なお、図1に示すシステム、図1に示すシステムの再生側を変形例1で置き換えたシステム、及び、変形例2のシステムはいずれも操作記録再生システムの例である。 Note that the system shown in FIG. 1, the system in which the reproduction side of the system shown in FIG. 1 is replaced with the first modification, and the system of the second modification are all examples of the operation recording and reproduction system.
(実施の形態のまとめ、効果等)
以上、説明したように、本実施の形態により、ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録する操作記録装置であって、前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、前記キャプチャ手段により取得された複数の静止画データから動画データを作成するとともに、当該動画データのメタ情報を作成する処理を所定期間毎に行う動画情報作成手段と、前記動画情報作成手段により作成された動画データとメタ情報を管理装置に送信する送信手段とを備える操作記録装置が提供される。
(Summary of the embodiment, effects, etc.)
As described above, according to the present embodiment, the present invention is an operation recording apparatus that displays a screen according to an operation by a user and records the operation content by capturing the displayed screen, wherein the screen is specified Processing for capturing moving image data from a plurality of still image data captured by the capturing means for capturing still image data of the screen and capturing at a time interval of An operation recording apparatus is provided, which comprises: moving image information creating means for performing each of the predetermined periods; and transmitting means for transmitting the moving image data created by the moving image information creating means and the meta information to the management device.
前記メタ情報は、例えば動画データの識別情報、当該動画データにおけるキャプチャ開始時刻、キャプチャを行った時間長を含む。 The meta information includes, for example, identification information of moving image data, a capture start time of the moving image data, and a time length of capturing.
前記操作記録装置は、ユーザによる操作を監視する操作監視手段を更に備えてもよく、前記動画情報作成手段は、前記動画データを作成した所定時間内に操作有りであることが検知されているときに、当該動画データに対応するメタ情報に操作有りを示す情報を含めるようにしてもよい。 The operation recording apparatus may further include operation monitoring means for monitoring an operation by the user, and the moving image information generating means detects that the operation is present within a predetermined time when the moving image data is generated. The meta information corresponding to the moving image data may include information indicating that there is an operation.
また、本実施の形態により、ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録するとともに、前記画面の再生表示を行う操作記録再生システムであって、前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、前記キャプチャ手段により取得された複数の静止画データから動画データを作成するとともに、当該動画データのメタ情報を作成する処理を所定期間毎に行う動画情報作成手段と、前記動画情報作成手段により作成された動画データとメタ情報を格納する格納手段と、前記メタ情報に基づいて、前記動画データを再生するための操作画面を表示し、当該操作画面に基づいてなされた操作に応じて、前記動画データを再生する再生制御手段とを備える操作記録再生システムが提供される。 Further, according to the present embodiment, the operation recording and reproducing system displays the screen according to the operation by the user, records the operation content by capturing the displayed screen, and reproduces and displays the screen. Capture means for capturing the screen at predetermined time intervals and acquiring still image data of the screen, and creating moving image data from a plurality of still image data obtained by the capturing means; A moving image information creating unit that performs processing of creating information at predetermined intervals, a storing unit that stores the moving image data and meta information created by the moving image information creating unit, and reproduces the moving image data based on the meta information Operation control screen for displaying the moving image data according to the operation performed based on the operation screen. Operation recording and reproducing system and means are provided.
本実施の形態は、長時間の動画ではなく、細切れに動画を作成することから、細切れ動画方式と呼ぶことができる。細切れ動画方式を採用することにより、操作記録を動画として収集した場合と、静止画として収集の両方のメリットを享受することが可能となる。 The present embodiment can be called a small moving picture method because moving pictures are created in small pieces, not long moving pictures. By adopting the small moving picture method, it is possible to enjoy the merits of both collecting the operation record as a moving picture and as a still picture.
つまり、動画であるため、高フレームレートで漏れの無い記録が可能となる。また、動画の圧縮機能を利用できるため、保存時のサイズとサーバ間通信帯域(bps)を節約できる。また、短い間隔の動画を逐次サーバに送信するため、送信が完了したものから随時閲覧が可能となる(1分程度の遅れでリアルタイム監視が可能)。また、動画が細かい時間単位で分割されているため、記録対象の操作時間が長い場合も、閲覧時に任意の時刻の記録の閲覧(頭出し)が高速に可能となる。また、動画取得時に対象端末(記録装置)の負荷変動により目標フレームレートを下回った場合でも、再生時刻が、細切れの単位で修正可能なため、長時間録画したとしても再生時間の誤差が蓄積しないという効果もある。 That is, since the moving image is a moving image, it is possible to perform a leak-free recording at a high frame rate. In addition, since the moving image compression function can be used, the storage size and the inter-server communication bandwidth (bps) can be saved. In addition, since moving images of short intervals are sequentially transmitted to the server, browsing can be performed as needed from the completed transmission (real-time monitoring can be performed with a delay of about one minute). In addition, since the moving image is divided into fine time units, even when the operation time of the recording target is long, browsing (heading up) of the recording at any time can be performed at a high speed at the time of browsing. In addition, even if the target frame rate is lowered due to load fluctuation of the target terminal (recording device) at the time of moving image acquisition, the reproduction time can be corrected in units of fragmentation, so errors in reproduction time do not accumulate even if recording for a long time There is also an effect.
(第1項)
ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録する操作記録装置であって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから動画データを作成するとともに、当該動画データのメタ情報を作成する処理を所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を管理装置に送信する送信手段と
を備えることを特徴とする操作記録装置。
(第2項)
前記メタ情報は、動画データの識別情報、当該動画データにおけるキャプチャ開始時刻、キャプチャを行った時間長を含むことを特徴とする第1項に記載の操作記録装置。
(第3項)
前記操作記録装置は、ユーザによる操作を監視する操作監視手段を更に備え、
前記動画情報作成手段は、前記動画データを作成した所定時間内に操作有りであることが検知されているときに、当該動画データに対応するメタ情報に操作有りを示す情報を含める
ことを特徴とする第1項又は第2項に記載の操作記録装置。
(第4項)
コンピュータを、第1項ないし第3項のうちいずれか1項に記載の前記操作記録装置の各手段として機能させるためのプログラム。
(第5項)
ユーザによる操作に応じて画面の表示を行い、表示された画面をキャプチャすることにより操作内容を記録するとともに、前記画面の再生表示を行う操作記録再生システムであって、
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから動画データを作成するとともに、当該動画データのメタ情報を作成する処理を所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を格納する格納手段と、
前記メタ情報に基づいて、前記動画データを再生するための操作画面を表示し、当該操作画面に基づいてなされた操作に応じて、前記動画データを再生する再生制御手段と
を備えることを特徴とする操作記録再生システム。
本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において、種々変更・応用が可能である。
(Section 1)
An operation recording apparatus that displays a screen according to an operation by a user and records an operation content by capturing the displayed screen.
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
A moving image information generating unit that generates moving image data from a plurality of still image data acquired by the capturing unit and performs processing of generating meta information of the moving image data at predetermined intervals;
A transmitting unit for transmitting the moving image data and the meta information generated by the moving image information generating unit to a management apparatus;
An operation recording apparatus comprising:
(Section 2)
The operation recording apparatus according to claim 1, wherein the meta information includes identification information of moving image data, a capture start time of the moving image data, and a time length of capturing.
(Section 3)
The operation recording device further includes operation monitoring means for monitoring the operation by the user,
The moving image information creation means includes information indicating the presence of the operation in the meta information corresponding to the moving image data when it is detected that the operation is present within a predetermined time when the moving image data is created.
The operation recording apparatus according to any one of the items 1 and 2, characterized in that:
(Section 4)
A program for causing a computer to function as each means of the operation recording device according to any one of the items 1 to 3.
(Section 5)
An operation recording and reproducing system that displays a screen according to an operation by a user, records an operation content by capturing the displayed screen, and reproduces and displays the screen.
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
A moving image information generating unit that generates moving image data from a plurality of still image data acquired by the capturing unit and performs processing of generating meta information of the moving image data at predetermined intervals;
Storage means for storing the video data and meta information created by the video information creation means;
A reproduction control unit that displays an operation screen for reproducing the moving image data based on the meta information, and reproduces the moving image data according to an operation performed based on the operation screen;
An operation recording and reproducing system comprising:
The present invention is not limited to the above embodiment, and various modifications and applications are possible within the scope of the claims.
10 表示操作装置
100 操作記録装置
20 操作画面再生装置
200 操作情報管理装置
110 表示情報作成部
111 画像メモリ
120 画面キャプチャ部
130 操作監視部
140 動画情報作成部
150 動画データ格納部
160 メタ情報格納部
170 動画情報送信部
210 動画情報受信部
220 メタ情報格納部
230 動画データ格納部
240 動画データ提供制御部
250 動画再生制御部
300 操作記録再生装置
DESCRIPTION OF
Claims (5)
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから細切れ動画の動画データを作成するとともに、当該細切れ動画の動画データのメタ情報を作成する処理を、当該細切れ動画の時間長に対応する所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を管理装置に送信する送信手段とを備え、
前記動画情報作成手段により作成された複数の細切れ動画の動画データは、前記メタ情報に基づいて、前記複数の細切れ動画が連続した動画に見えるように再生される動画データである
ことを特徴とする操作記録装置。 An operation recording apparatus that displays a screen according to an operation by a user and records an operation content by capturing the displayed screen.
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
The process of creating moving image data of a broken moving image from a plurality of still image data acquired by the capture means and creating meta information of the moving image data of the broken moving image is performed every predetermined period corresponding to the time length of the thin moving image Means for creating video information to
And transmitting means for transmitting the moving picture data created by the moving picture information creating means and the meta information to the management apparatus .
The moving image data of a plurality of small moving images created by the moving image information creating means is moving image data reproduced so that the plurality of small moving images appear as continuous moving images based on the meta information. Operation recording device.
前記動画情報作成手段は、前記動画データを作成した所定時間内に操作有りであることが検知されているときに、当該動画データに対応するメタ情報に操作有りを示す情報を含める
ことを特徴とする請求項1又は2に記載の操作記録装置。 The operation recording device further includes operation monitoring means for monitoring the operation by the user,
The moving image information creation means includes, when it is detected that there is an operation within a predetermined time when the moving image data was created, the meta information corresponding to the moving image data includes information indicating the presence of the operation. The operation recording device according to claim 1 or 2 .
前記画面を所定の時間間隔でキャプチャし、当該画面の静止画データを取得するキャプチャ手段と、
前記キャプチャ手段により取得された複数の静止画データから細切れ動画の動画データを作成するとともに、当該細切れ動画の動画データのメタ情報を作成する処理を、当該細切れ動画の時間長に対応する所定期間毎に行う動画情報作成手段と、
前記動画情報作成手段により作成された動画データとメタ情報を格納する格納手段と、
前記メタ情報に基づいて、前記動画データを再生するための操作画面を表示し、当該操作画面に基づいてなされた操作に応じて、前記動画データを再生する再生制御手段とを備え、
前記再生制御手段は、前記動画情報作成手段により作成された複数の細切れ動画の動画データを、前記メタ情報に基づいて、前記複数の細切れ動画が連続した動画に見えるように再生する
ことを特徴とする操作記録再生システム。 An operation recording and reproducing system that displays a screen according to an operation by a user, records an operation content by capturing the displayed screen, and reproduces and displays the screen.
Capturing means for capturing the screen at predetermined time intervals and acquiring still image data of the screen;
The process of creating moving image data of a broken moving image from a plurality of still image data acquired by the capture means and creating meta information of the moving image data of the broken moving image is performed every predetermined period corresponding to the time length of the thin moving image Means for creating video information to
Storage means for storing the video data and meta information created by the video information creation means;
An operation screen for reproducing the moving image data based on the meta information, and reproduction control means for reproducing the moving image data according to an operation performed on the operation screen ;
The reproduction control means is characterized by reproducing the moving image data of the plurality of small moving images created by the moving image information generating means so that the plurality of small moving images can be seen as a continuous moving image based on the meta information. Operation recording and playback system.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014119282A JP6545439B2 (en) | 2014-06-10 | 2014-06-10 | Operation recording apparatus, operation recording and reproducing system, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014119282A JP6545439B2 (en) | 2014-06-10 | 2014-06-10 | Operation recording apparatus, operation recording and reproducing system, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015232916A JP2015232916A (en) | 2015-12-24 |
JP6545439B2 true JP6545439B2 (en) | 2019-07-17 |
Family
ID=54934272
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014119282A Active JP6545439B2 (en) | 2014-06-10 | 2014-06-10 | Operation recording apparatus, operation recording and reproducing system, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6545439B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11706499B2 (en) * | 2018-10-31 | 2023-07-18 | Sony Interactive Entertainment Inc. | Watermarking synchronized inputs for machine learning |
JP7096228B2 (en) * | 2019-11-06 | 2022-07-05 | 株式会社 ミックウェア | Information processing equipment, information processing methods, and programs |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007048349A (en) * | 2005-08-08 | 2007-02-22 | Sony Corp | Optical disk, optical disk recording apparatus, and optical disk recording method |
JP4779921B2 (en) * | 2006-10-05 | 2011-09-28 | ソニー株式会社 | Data processing apparatus, data processing method, and computer program |
JP4247277B2 (en) * | 2007-02-06 | 2009-04-02 | Sky株式会社 | Terminal monitoring device and program thereof |
JP5031608B2 (en) * | 2008-02-01 | 2012-09-19 | キヤノン株式会社 | Playback apparatus and storage medium |
JP5627320B2 (en) * | 2010-07-06 | 2014-11-19 | 三菱電機株式会社 | Movie storage device and movie storage system |
-
2014
- 2014-06-10 JP JP2014119282A patent/JP6545439B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015232916A (en) | 2015-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11210610B2 (en) | Enhanced multimedia content preview rendering in a cloud content management system | |
US20200267195A1 (en) | Closed network video presentation | |
US10484737B2 (en) | Methods and systems for instantaneous asynchronous media sharing | |
JP4100421B2 (en) | Computer system | |
JP2016535347A (en) | Methods in support of video impression analysis, including interactive collection of computer user data | |
US20190199763A1 (en) | Systems and methods for previewing content | |
JP6024133B2 (en) | Information processing apparatus, information processing system, and program | |
WO2011127859A2 (en) | Method for processing video data and method and apparatus for displaying video images | |
KR20180111981A (en) | Edit real-time content with limited interaction | |
KR20170002831A (en) | Video editing systems and a driving method using video project templates | |
EP2645663A1 (en) | Media data processing method and device thereof | |
JP6545439B2 (en) | Operation recording apparatus, operation recording and reproducing system, and program | |
US8805169B2 (en) | Information processing apparatus and method therefor | |
TW201406158A (en) | System and method for transmitting and displaying network videos | |
WO2015093108A1 (en) | Capture control device, capture control method, program, and information storage medium | |
JP2007300456A (en) | Video monitoring system and its index generation method | |
EP3474530A1 (en) | Image compressing method, image reconstructing method, image compressing device, image reconstructing device, image compressing program product, and image reconstructing program product | |
JP6357188B2 (en) | Surveillance camera system and surveillance camera data storage method | |
JP2006195807A (en) | Image search system, image search method, and program | |
JP2013021430A (en) | Thumbnail image provision apparatus, method and system | |
CN113794890B (en) | Data processing method, device, electronic equipment and storage medium | |
CN113992878B (en) | Remote desktop operation auditing method, device and equipment | |
JP2004023381A (en) | Video image information indexing support device, program, and storage medium | |
KR101809404B1 (en) | Application-driven Video Quality Assignment Method in a Video Streaming System | |
WO2020007083A1 (en) | Method and apparatus for processing information associated with video, electronic device, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170330 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171116 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171212 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180213 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180612 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180912 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20180921 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181127 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190604 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190619 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6545439 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |