JP2017084132A - Operation recording reproduction program, operation reproduction program, operation recording reproduction system, and operation recording reproduction method - Google Patents
Operation recording reproduction program, operation reproduction program, operation recording reproduction system, and operation recording reproduction method Download PDFInfo
- Publication number
- JP2017084132A JP2017084132A JP2015212287A JP2015212287A JP2017084132A JP 2017084132 A JP2017084132 A JP 2017084132A JP 2015212287 A JP2015212287 A JP 2015212287A JP 2015212287 A JP2015212287 A JP 2015212287A JP 2017084132 A JP2017084132 A JP 2017084132A
- Authority
- JP
- Japan
- Prior art keywords
- recording
- information
- recorded
- record information
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、操作記録再生プログラム、操作再生プログラム、操作記録再生システム及び操作記録再生方法に関する。 The present invention relates to an operation recording / reproducing program, an operation reproducing program, an operation recording / reproducing system, and an operation recording / reproducing method.
従来では、コンピュータに対する操作内容を記録し、記録した操作内容を再生することで、操作を再現する技術が知られている。 2. Description of the Related Art Conventionally, a technique for reproducing an operation by recording an operation content for a computer and reproducing the recorded operation content is known.
また、従来では、操作画面において操作が行われた位置を示す座標情報と、操作により起動したプログラムを示す情報とを、操作内容として記録することが知られている。 Conventionally, it is known that coordinate information indicating a position where an operation is performed on an operation screen and information indicating a program started by the operation are recorded as operation contents.
従来の手法により記録された操作内容では、例えばアイコン等の操作の対象となる表示画面に表示されたオブジェクトの表示領域に、記録された座標情報が含まれない場合、記録された操作が再現されない。また、従来の手法により記録された操作内容では、プログラムを起動させるために、どのオブジェクトに対してどのような操作がなされたかを特定できない。 In the operation content recorded by the conventional method, for example, when the recorded coordinate information is not included in the display area of the object displayed on the display screen as an operation target such as an icon, the recorded operation is not reproduced. . In addition, the operation content recorded by the conventional method cannot specify what operation has been performed on which object in order to start the program.
このため、従来の手法では、操作内容を記録する際の表示画面の設定環境と、操作内容を再生する際の表示画面の設定環境とが異なる場合等には、記録された操作内容が正しく再生されない可能性がある。 For this reason, in the conventional method, when the setting environment of the display screen when recording the operation contents is different from the setting environment of the display screen when reproducing the operation contents, the recorded operation contents are correctly reproduced. It may not be.
1つの側面では、操作の再現の精度を向上させることを目的とする。 In one aspect, the object is to improve the accuracy of operation reproduction.
一つの案では、表示されたオブジェクトに対する操作記録情報を記録し、記録した前記操作記録情報に従い前記操作を発生させる処理をコンピュータに実行させる操作記録再生プログラムであって、前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて前記操作記録情報に記録し、前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる、操作記録再生プログラムが提供される。 In one proposal, an operation record reproduction program for recording operation record information for a displayed object and causing a computer to execute a process for generating the operation according to the recorded operation record information is recorded in the operation record information. When the operation type is a movement operation on the operation target object, the operation type information indicating the operation type and the relative position information indicating the operation position in the operation target object are associated and recorded in the operation record information. When the operation type information included in the operation record information indicates a move operation, the position of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position An operation recording / reproducing program for generating an operation for moving the target object is provided.
一側面によれば、操作の再現の精度を向上させることができる。 According to one aspect, the accuracy of operation reproduction can be improved.
以下、本発明の実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。 Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings. In addition, in this specification and drawing, about the component which has the substantially same function structure, the duplicate description is abbreviate | omitted by attaching | subjecting the same code | symbol.
(第一の実施形態)
[記録装置と再生装置]
以下に図面を参照して実施形態について説明する。図1は、操作内容の記録と再生について説明する図である。
(First embodiment)
[Recording device and playback device]
Embodiments will be described below with reference to the drawings. FIG. 1 is a diagram for explaining recording and reproduction of operation contents.
本実施形態では、コンピュータ100において行われた操作の内容を、操作記録情報200として記録する。操作記録情報200は、コンピュータ300−1、300−2において読み込まれ、記録された操作が再現される。
In the present embodiment, the content of the operation performed on the
本実施形態において、操作記録情報200に内容が記録される操作は、例えばコンピュータ100で繰り返し行わせたい操作や、コンピュータ300−1、300−2等の他のコンピュータで行わせたい操作等である。
In the present embodiment, the operation whose contents are recorded in the
尚、図1では、操作記録情報200を再生するコンピュータを、コンピュータ300−1、300−2の2台としたが、操作記録情報200を再生するコンピュータの数は任意であって良い。以下の説明では、コンピュータ300−1、300−2を区別しない場合には、単にコンピュータ300と呼ぶ。
In FIG. 1, two computers 300-1 and 300-2 are used to reproduce the
また、以下の説明では、操作の内容を操作記録情報200に記録するコンピュータ100を、記録装置100と呼び、操作記録情報200を再生するコンピュータ300を再生装置300と呼ぶ。
In the following description, the
本実施形態では、記録装置100において、操作記録情報200を記録することで、記録装置100で行われた操作を自動的に任意の数の再生装置300に行わせることができる。したがって、本実施形態によれば、例えば複数台のコンピュータに同一の設定を行う操作を実施する場合等には、1台の記録装置100において該当する操作を実施して操作記録情報200を記録し、この操作記録情報200を複数台のコンピュータに再生させれば良い。
In the present embodiment, by recording the
また、本実施形態では、記録装置100と再生装置300とを別のコンピュータとしているが、これに限定されない。記録装置100と再生装置300とは、同一の装置であっても良い。この場合、例えば1台のコンピュータに複数回同じ操作を実行させたい場合等に、操作記録情報200を記録し、再生させれば良い。
In the present embodiment, the
なお、本実施形態の操作記録情報200は、例えば記録装置100のハードディスク等の内部メモリに記録してもよい。操作記録情報200は、記録装置100に接続可能な外部メモリや可搬型の記録媒体に記録されてもよいし、クラウド上の記録装置に記録されてもよい。
Note that the
[操作記録情報の記録と再生]
次に、本実施形態の記録装置100による操作記録情報200の記録と、再生装置300による操作記録情報200に基づく再生について説明する。図2は、記録装置100による操作記録情報200の記録の一例を説明する図である。
[Recording and playback of operation record information]
Next, recording of the
図2では、記録装置100の表示画面101に表示されたオブジェクトに対して行われた操作の内容を記録する例を示している。表示画面101は、記録装置100のディスプレイ等に表示される。
FIG. 2 shows an example in which the content of an operation performed on an object displayed on the
図3(a)には、本実施形態にかかる操作記録情報200の一例が示されている。本実施形態の記録装置100は、表示画面101に表示されたオブジェクトのうち操作対象となったオブジェクトを特定するオブジェクト特定情報21と、特定されたオブジェクトに対して行われた操作の種類を示す操作種類情報22と、を含む操作記録情報200を記録する。例えば、図3(a)に示す操作記録情報200の最初の行には、オブジェクト特定情報21が示す「アイコンA」について、操作種類情報22が示す「消去」の操作が行われたことが記録されている。二行目には、「アイコンB」について、移動操作が行われたことが記録されている。操作の種類が操作の対象オブジェクトに対する移動操作の場合、移動元の位置に関する情報(オブジェクト内座標情報23、移動元表示領域情報24)と、移動先の位置に関する情報(移動先座標情報25、移動先表示領域情報26)とが記録される。
FIG. 3A shows an example of the
本実施形態の再生装置300は、操作記録情報200に含まれるオブジェクト特定情報21に基づき、操作の対象となるオブジェクトを特定する。そして、再生装置300は、オブジェクト特定情報21に基づき特定されたオブジェクトに対して操作種類情報22が示す種類の操作を発生させる。なお、本実施形態におけるオブジェクトとは、表示画面に選択可能な状態で表示され得るものであり、且つ操作の対象となる表示部品である。
The
表示画面101は、記録装置100のデスクトップ画面であり、オブジェクト102、103が表示されている。オブジェクト102,103は、それぞれが選択可能であり、且つ操作の対象となる表示部品である。
A
オブジェクト102は、アプリケーションの起動により立ち上げられたウィンドウであり、ここでは、フォルダA102とする。オブジェクト103は、表示画面101上に配置されたアイコンBである。
The
図2では、表示画面101において、例えばアイコンBのオブジェクト103上にポインタPを位置付けた状態で操作者の指(操作指)によりマウスボタンを押下する(以下、「ボタンダウン」ともいう。)ことで、オブジェクト103が選択される。
In FIG. 2, on the
オブジェクト103は、選択された状態でポインタPの操作に応じて移動し、操作指がマウスボタンを離したことで(以下、「ボタンアップ」ともいう。)、マウスボタンを離した位置に置かれる。表示画面101には、デスクトップ画面上に表示されていたオブジェクト103をフォルダA102まで移動し、フォルダA102内に移動する操作の例が示されている。
The
以上のように、本実施形態では、マウスボタンのボタンダウン後に、ポインタPが指し示す座標が移動した場合に、この操作はドラッグ操作として検知される。また、本実施形態では、ポインタPが指し示す座標が移動した後のマウスボタンのボタンアップを検知したとき、この操作はドロップ操作として検知される。ドラッグ操作とドロップ操作とを組み合わせたドラッグ&ドロップ操作が、移動操作となる。なお、本実施形態では、表示画面の同一の座標において、マウスボタンのボタンダウンとボタンアップが検知されたとき、この操作はクリック操作として検知される。 As described above, in the present embodiment, this operation is detected as a drag operation when the coordinates indicated by the pointer P are moved after the mouse button is downed. Further, in the present embodiment, when the button up of the mouse button is detected after the coordinates indicated by the pointer P are moved, this operation is detected as a drop operation. A drag and drop operation combining a drag operation and a drop operation is a move operation. In the present embodiment, when button down and button up of a mouse button are detected at the same coordinates on the display screen, this operation is detected as a click operation.
本実施形態の記録装置100は、アイコンBのオブジェクト103に対してドラッグ&ドロップ操作が行われると、アイコンBのオブジェクト103を特定するオブジェクト特定情報21と、移動操作(ドラッグ&ドロップ操作)を示す操作種類情報22と、を含む操作記録情報200を記録する。
When the drag and drop operation is performed on the
尚、本実施形態のオブジェクト特定情報21は、少なくともオブジェクトの名称を含む。また、本実施形態のオブジェクト特定情報21には、オブジェクトの名称の他に、デスクトップ画面を最上位の階層としたときのオブジェクトが属する階層を示す階層情報、オブジェクトに対して操作が行われた時刻等が含まれても良い。操作種類情報200に含まれる。オブジェクトが表示されている位置を示す位置情報については後述される。
The
本実施形態の再生装置300は、操作記録情報200を読み込んで、オブジェクト特定情報21から、操作対象のオブジェクト103がアイコンBであることを特定する。また、再生装置300は、操作種類情報22により、オブジェクト103に対して行われた操作を、移動操作と特定し、アイコンBに対するドラッグ操作及びドロップ操作を発生させる。
The
以上のように、本実施形態では、操作記録情報200を記録する際に、操作対象のオブジェクトを示すオブジェクト特定情報21と、オブジェクトに対して実行された操作の種類を示す操作種類情報22とを記録する。したがって、本実施形態によれば、操作記録情報200に基づく再生の際に、表示画面における操作対象のオブジェクトの操作を再現できる。
As described above, in the present embodiment, when the
また、本実施形態によれば、操作記録情報200に基づく再生の際に、操作内容を記録する際の表示画面の設定環境と、操作内容を再生する際の表示画面の設定環境とが異なる場合等でも、どのオブジェクトに何の操作が行われたかを特定できる。よって、本実施形態によれば、操作記録情報200を用いた記録及び再生の際の汎用性を向上させることができる。
Further, according to the present embodiment, when reproducing based on the
[再生位置のずれ]
次に、図3(b)に示す比較例にかかる操作記録情報900に基づき再生処理を行った場合の、再生位置のずれについて説明する。図3(b)の操作記録情報900には、オブジェクト特定情報91と操作種類情報92と移動先座標情報95と移動先表示領域情報96とが記録されている。オブジェクト特定情報91には、操作の対象となるオブジェクトを特定する情報が記録される。操作種類情報92には、操作の種類を示す情報が記録される。
[Play position shift]
Next, a description will be given of the deviation of the reproduction position when the reproduction process is performed based on the
移動先座標情報95には、オブジェクトの移動先の位置情報が記録される。具体的には、移動先座標情報95は、オブジェクト特定情報91により特定されるオブジェクトに対するドロップ操作時(移動先)のポインタPの位置情報が記録される。移動先表示領域情報96には、オブジェクトの移動先の表示領域が記録される。
In the movement destination coordinate
例えば、図3(b)に示すアイコンBのオブジェクト103を移動する操作が行われたとき、デスクトップ画面上の左上端部を基準座標A(0,0)としたときのオブジェクト103の移動先座標が(x2、y2)であることが移動先座標情報95により特定される。また、オブジェクト103の移動先がフォルダA内であることが移動先表示領域情報96により特定される。これらの記録情報は、図4に示すように、デスクトップ画面の左上端部の基準座標Aに対して座標(x2、y2)の位置にて、ポインタPがアイコンBをドロップしたことを示す。
For example, when an operation for moving the
フォルダA102の左上端部を基準座標(0,0)として移動先座標(x2、y2)を定義してもよい。なお、座標(x2、y2)が、デスクトップ画面の左上端部の基準座標Aに対する位置を示す場合、移動先表示領域情報96は不要となる。
The destination coordinates (x 2 , y 2 ) may be defined with the upper left corner of the folder A102 as the reference coordinates (0, 0). When the coordinates (x 2 , y 2 ) indicate the position of the upper left corner of the desktop screen with respect to the reference coordinate A, the movement destination
再生装置300では、図3(b)の操作記録情報900に基づき移動操作を発生させる。このとき、図4に示すように、ドラッグされたアイコンBのオブジェクト103が、ポインタPの操作に応じてフォルダAまで移動し、座標(x2,y2)にてドロップされる。このとき、アイコンBのオブジェクト103は、座標(x2,y2)がアイコンBのオブジェクト103の中心になるように配置される。 再生時、実際には、図4の例ではフォルダA102内にて点線で示すように、ドロップした座標(x2,y2)がポインタPが指し示す位置と一致するようにオブジェクト103が配置されることが正しい操作となる。ところが、ドロップした座標(x2,y2)がオブジェクト103の中心になるようにアイコンBのオブジェクト103が配置される。この結果、アイコンBのオブジェクト103の中心位置と、アイコンBを実際にドラッグしたポインタPの位置とのずれに応じて、再生時のアイコンBの移動先の位置が記録時のアイコンBの移動先の位置からずれてしまう。そして、図4に示すように、フォルダA102内のアイコンBの移動先又はその近傍にサブフォルダ104が存在すると、サブフォルダ104内にオブジェクト103が入れ込まれてしまう場合がある。この場合、記録時のアイコンBの移動操作と再生時のアイコンBの移動操作とが異なる操作となり、その後の動きに影響を与えるという課題がある。
In the reproducing
これに対して、本実施形態かかる記録装置100は、オブジェクトをドラッグした際、図3(a)に示すように、操作記録情報200にオブジェクト内座標情報23を記録する。これにより、記録時の動作を忠実に再現することが可能となる。以下、本実施形態にかかる記録及び再生の動作について詳しく説明する。
On the other hand, when the object is dragged, the
なお、図3(a)の操作記録情報200には、移動元の位置に関する情報としてオブジェクト内座標情報23及び移動元表示領域情報24が記録され、移動先の位置に関する情報として移動先座標情報25及び移動先表示領域情報26が記録される。
In addition, in the
オブジェクト内座標情報23には、オブジェクト特定情報21により特定されるオブジェクト内の操作位置(ポインタが指す位置)を示す相対位置情報が記録される。具体的には、図3(a)のオブジェクト内座標情報23には、オブジェクト内座標情報は、図5に示すように、ポインタPが位置付けられたオブジェクト内におけるポインタPの位置を示す。図3の例では、オブジェクト内座標情報23は、オブジェクト103であるアイコンBの左上端部を基準座標B(0,0)としたときのポインタPの相対位置を示す座標(x3、y3)である。移動元表示領域情報24には、オブジェクトの移動前の表示領域が記録される。
In the in-object coordinate
移動先座標情報25には、オブジェクトの移動後の位置情報が記録される。具体的には、移動先座標情報25は、オブジェクト特定情報21により特定されるオブジェクトに対するドロップ操作時のポインタPの位置情報が記録される。移動先表示領域情報26には、オブジェクトの移動先の表示領域が記録される。
In the movement destination coordinate
例えば、図5には、移動操作が行われたとき、基準座標Aを原点座標(0,0)としたときの移動先座標(x2、y2)にアイコンBのオブジェクト103が移動し、その際の移動先表示領域がフォルダAであることが図示されている。
For example, in FIG. 5, when the movement operation is performed, the
[記録装置と再生装置のハードウェア構成]
次に、図6を参照して本実施形態の記録装置100と再生装置300のハードウェア構成の一例について説明する。図6は、記録装置のハードウェア構成の一例を示す図である。本実施形態の記録装置100と再生装置300のハードウェア構成は、同じであるため、図6では、記録装置のハードウェア構成の一例について説明し、再生装置300のハードウェア構成の説明は省略する。
[Hardware configuration of recording device and playback device]
Next, an example of the hardware configuration of the
本実施形態の記録装置100は、それぞれバスBで相互に接続されている入力装置11、出力装置12、ドライブ装置13、補助記憶装置14、メモリ装置15、演算処理装置16及びインターフェース装置17を含む。
The
入力装置11はキーボードやマウス等を含み、各種信号を入力するために用いられる。出力装置12はディスプレイ装置等を含み、各種ウィンドウやデータ等を表示するために用いられる。インターフェース装置17は、モデム、LANカード等を含み、ネットワークに接続する為に用いられる。
The input device 11 includes a keyboard and a mouse, and is used for inputting various signals. The
操作記録再生プログラムは、記録装置100を制御する各種プログラムの少なくとも一部である。操作記録再生プログラムは例えば記録媒体18の配布やネットワークからのダウンロードなどによって提供される。操作記録再生プログラムを記録した記録媒体18は、CD−ROM、フレキシブルディスク、光磁気ディスク等の様に情報を光学的、電気的或いは磁気的に記録する記録媒体、ROM、フラッシュメモリ等の様に情報を電気的に記録する半導体メモリ等、様々なタイプの記録媒体を用いることができる。
The operation recording / reproducing program is at least a part of various programs for controlling the
また、操作記録再生プログラムは、操作記録再生プログラムを記録した記録媒体18がドライブ装置13にセットされると、記録媒体18からドライブ装置13を介して補助記憶装置14にインストールされる。ネットワークからダウンロードされた操作記録再生プログラムは、インターフェース装置17を介して補助記憶装置14にインストールされる。
The operation recording / reproducing program is installed in the
補助記憶装置14は、インストールされた操作記録再生プログラムを格納すると共に、必要なファイル、データ等を格納する。メモリ装置15は、コンピュータの起動時に補助記憶装置14から操作記録再生プログラムを読み出して格納する。そして、演算処理装置16はメモリ装置15に格納された操作記録再生プログラムに従って、後述するような各種処理を実現している。
The
また、本実施形態の記録装置100は、例えばタブレット型のコンピュータ等であっても良い。その場合、入力装置11及び出力装置12の代わりに、表示機能を有するタッチパネル等の表示操作装置を有していても良い。
Further, the
[記録装置と再生装置の機能構成]
次に、図7を参照して本実施形態の記録装置100と再生装置300の機能について説明する。図7は、第一の実施形態の記録装置及び再生装置300の機能構成の一例を説明する図である。本実施形態の記録装置100は、操作記録再生処理部110を有する。また、本実施形態の再生装置300は、操作記録再生処理部310を有する。
[Functional structure of recording device and playback device]
Next, functions of the
本実施形態の操作記録再生処理部110は、記録装置100にインストールされた操作記録再生プログラムを演算処理装置16が実行することで実現される。
The operation recording /
また、本実施形態の操作記録再生処理部310は、再生装置300にインストールされた操作記録再生プログラムを、再生装置300の演算処理装置が実行することで実現される。
Further, the operation recording /
ここで、本実施形態において、記録装置100と再生装置300のそれぞれにインストールされる操作記録再生プログラムは、同一のプログラムであって良い。
Here, in the present embodiment, the operation recording / reproducing program installed in each of the
記録装置100では、操作記録再生プログラムに含まれる記録プログラムを実行することで記録処理部120を実現し、コンピュータを記録装置100として動作させる。
In the
また、再生装置300では、操作記録再生プログラムに含まれる再生プログラムを実行することで再生処理部330を実現し、コンピュータを再生装置300として動作させる。
Further, the
本実施形態の記録装置100の操作記録再生処理部110は、記録処理部120、再生処理部130を有する。
The operation recording /
本実施形態の記録装置100では、上述したように、記録処理部120の機能が実現される。本実施形態の記録処理部120は、操作検知部121、割込発生部122、オブジェクト特定部123、操作種類取得部124及び操作記録部125を有する。
In the
操作検知部121は、記録装置100において行われた操作を検知する。具体的には、本実施形態の操作検知部121は、記録装置100に搭載されたOS(Operating System)がクリック操作、ドラッグ操作、ドロップ操作を検知したことを示す通知を受け付け、操作を受け付けたことを割込発生部122へ通知する。
The
本実施形態の割込発生部122は、操作検知部121により検知対象の操作が検知されると、記録装置100に搭載されたOSに対して割り込みを発生させ、操作内容を記録する処理の実行を要求する。
When the
本実施形態のオブジェクト特定部123は、割り込みが発生すると、ポインタが指し示しているオブジェクトを特定するオブジェクト特定情報を取得する。
When an interrupt occurs, the
具体的には、オブジェクト特定部123は、表示画面においてポインタが指し示しているオブジェクト内の位置の座標情報(オブジェクト内座標情報)、移動元表示領域情報、移動先座標情報及び移動先表示領域を取得する。
Specifically, the
オブジェクト特定部123は、オブジェクト内座標情報及び移動元表示領域情報を記録装置100に搭載されたOSに渡し、OSからオブジェクト内座標情報及び移動元表示領域情報と対応するオブジェクトのオブジェクト特定情報を受け取る。
The
本実施形態の操作種類取得部124は、操作検知部121により検知された操作の操作種類情報を取得する。
The operation
本実施形態の操作記録部125は、オブジェクト特定情報21及び操作種類情報22を含めた操作記録情報200を記録する。操作の種類が操作の対象オブジェクトに対する移動操作の場合、操作記録部125は、操作記録情報200に、取得したオブジェクト特定情報21、操作種類情報22だけでなく、オブジェクト内座標情報23、移動元表示領域情報24、移動先座標情報25及び移動先表示領域情報26を含めて記録する。
The
操作記録情報200は、例えば可搬型の記録媒体210に記録される。記録媒体210は、再生装置300において読取可能な記録媒体であれば良い。
The
また、本実施形態の操作記録部125は、記録処理の終了指示を受け付けたとき、記録の処理を終了する。
In addition, when the
本実施形態の記録装置100における再生処理部130の機能構成は、後述する再生装置300の有する再生処理部330と同様である。
The functional configuration of the
本実施形態の再生装置300の操作記録再生処理部310は、記録処理部320、再生処理部330を有する。
The operation recording /
本実施形態の再生装置300では、上述したように、再生処理部330が実現される。本実施形態の再生処理部330は、操作記録読込部331、オブジェクト特定部332、操作種類特定部333及び操作発生要求部334を有する。
In the
本実施形態の操作記録読込部331は、記録媒体210に格納された操作記録情報200を読み込む。
The operation
本実施形態のオブジェクト特定部332は、操作記録情報200に含まれるオブジェクト特定情報から、再生装置300の表示画面において、操作対象となるオブジェクトを特定する。操作種類特定部333は、操作記録情報200に含まれる操作種類情報から、特定したオブジェクトに対して行う操作の種類を特定する。特定される操作の種類が操作の対象オブジェクトに対する移動操作の場合、オブジェクト特定部332は、オブジェクト内座標情報23に基づきオブジェクト内におけるポインタの位置(オブジェクト内の相対位置情報)を特定する。また、オブジェクト特定部332は、オブジェクトの移動元表示領域情報24、移動先座標情報25及び移動先表示領域情報26から、オブジェクトの移動元表示領域、移動先位置及び移動先表示領域を特定する。
The
本実施形態の操作発生要求部334は、再生装置300に搭載されたOSに対して、操作対象のオブジェクトに対して特定した操作を発生させるための操作発生要求を行う。
The operation
再生装置300では、OSに対して操作発生要求を行うことで、OSの機能により要求した操作が発生し、操作記録情報200に記録された操作内容が再生装置300において再現される。
In the
[記録装置による記録処理]
次に、図8、図9を参照し、本実施形態の記録装置100による操作記録情報200の記録処理について説明する。
[Recording process by recording device]
Next, recording processing of the
図8は、記録処理部による操作記録情報の記録処理を説明する第一のフローチャートである。 FIG. 8 is a first flowchart for explaining operation recording information recording processing by the recording processing unit.
本実施形態の記録装置100において、記録処理部120は、操作検知部121により、記録装置100の表示画面の操作を検知する(ステップS701)。具体的には、操作検知部121は、記録装置100のOSから操作が検知された通知を受け付ける。
In the
続いて記録処理部120は、操作が検知されると、割込発生部122により、OSに対して割込を発生させて操作内容の記録処理を開始し、オブジェクト特定部123により、操作の対象となったオブジェクトを特定する(ステップS702)。
Subsequently, when an operation is detected, the
より具体的には、オブジェクト特定部123は、操作の検知と同時にOSから取得した、ポインタの位置を示す座標情報をOSに渡す。そして、オブジェクト特定部123は、OSの機能(例えばWindows(登録商標) API等)により、この座標情報が示す位置に表示されたオブジェクトを特定するオブジェクト特定情報を取得する。
More specifically, the
続いて、記録処理部120は、操作種類取得部124により、検知された操作の種類を示す操作種類情報を取得し、操作の種類を特定する(ステップS703)。尚、操作種類情報は、例えば操作検知部121が操作を検知する際に、OSから取得していても良い。
Subsequently, the
続いて、記録処理部120は、操作記録部125により、オブジェクト特定情報と操作種類情報とを対応付けた操作記録情報200として記録する(ステップS704)。
Subsequently, the
続いて、記録処理部120は、操作記録部125により、記録終了の指示を受け付けたか否かを判定する(ステップS705)。ステップS705において、該当する指示を受け付けていない場合、記録処理部120は、ステップS701へ戻る。ステップS705において、該当する指示を受け付けた場合、記録処理部120は、操作記録情報の記録を終了する。
Subsequently, the
次に、図9を参照して、本実施形態の記録処理部120の処理をさらに詳細に説明する。図9は、記録処理部による操作記録情報の記録の処理を説明する第二のフローチャートである。
Next, the processing of the
図9のステップS801からステップS808までの処理は、図8のステップS701からステップS704までの処理の詳細を示している。 The processing from step S801 to step S808 in FIG. 9 shows the details of the processing from step S701 to step S704 in FIG.
本実施形態の操作検知部121は、表示画面に対する操作を検知したかを判定し(ステップS801)、検知するまでステップS801を繰り返す。表示画面に対する操作が検知された場合、オブジェクト特定部123は、操作対象のオブジェクトを特定するオブジェクト特定情報を取得し、操作種類取得部124は、操作の種類を示す操作種類情報を取得する(ステップS802)。更に操作の種類が移動操作の場合であって、今回の操作がマウスボタンのボタンダウンである場合、オブジェクト特定部123は、オブジェクト内座標情報23及び移動元表示領域情報24を取得する。操作の種類が移動操作の場合であって、今回の操作がマウスボタンのボタンアップである場合、オブジェクト特定部123は、移動先座標情報25及び移動先表示領域情報26を取得する。
The
続いて、操作記録部125は、今回操作したマウスボタンのボタンアップの位置を示す座標情報と前回操作したマウスボタンのボタンダウンの位置を示す座標情報とを比較し(ステップS803)、操作対象のオブジェクトが移動したかを判定する(ステップS804)。ここで、今回操作したボタンアップの位置と前回操作したボタンダウンの位置とを示す座標情報が一致する場合、この操作は移動操作でないと判定される。この場合、ステップS805に進み、操作記録部125は、操作対象のオブジェクトのオブジェクト特定情報21と操作種類情報22とを操作記録情報200に記録する。
Subsequently, the
次いで、記録処理部120は、記録終了の指示を受け付けたか否かを判定する(ステップS809)。記録終了の指示を受け付けていない場合、記録処理部120は、ステップS801へ戻る。ステップS809において、記録終了の指示を受け付けると、記録処理部120は操作内容の記録の処理を終了する。
Next, the
他方、ステップS804にて今回操作したボタンアップの位置と前回操作したボタンダウンの位置とを示す座標情報が一致しない場合、この操作は移動操作であると判定される。この場合、操作記録部125は、操作対象のオブジェクトが存在する移動元表示領域情報と、移動元表示領域でドラッグしたオブジェクト内座標情報とを取得する(ステップS806)。次いで、操作記録部125は、移動先表示領域情報と移動先表示領域でドロップした移動先座標情報とを取得する(ステップS807)。次いで、操作記録部125は、取得した操作対象オブジェクトのオブジェクト特定情報、操作種類情報、オブジェクト内座標情報、移動元表示領域情報、移動先座標情報及び移動先表示領域情報を操作記録情報200に記録する(ステップS808)。
On the other hand, when the coordinate information indicating the button-up position operated this time and the button-down position operated last time do not match in step S804, it is determined that this operation is a movement operation. In this case, the
次いで、記録処理部120は、記録終了の指示を受け付けたか否かを判定する(ステップS809)。記録終了の指示を受け付けていない場合、記録処理部120は、ステップS801へ戻る。ステップS809において、記録終了の指示を受け付けると、記録処理部120は操作内容の記録の処理を終了する。
Next, the
以上の処理により、操作記録情報200にオブジェクト特定情報21及び操作種類情報22を記録することができる。また、本実施形態では、操作が移動である場合、オブジェクト特定情報21及び操作種類情報22を操作記録情報200に記録するだけでなく、オブジェクト内座標情報23、移動元表示領域情報24、移動先座標情報25及び移動先表示領域情報26を記録することができる。
Through the above processing, the
[再生装置による再生処理]
次に、図10、図11を参照して、本実施形態の再生装置300による操作記録情報200に基づく再生の処理について説明する。図10は、再生処理部による操作記録情報の再生の処理を説明する第一のフローチャートである。
[Playback processing by playback device]
Next, a reproduction process based on the
本実施形態の再生装置300において再生処理部330の操作記録読込部331は、操作記録情報200を読み込み、オブジェクト特定情報21と操作種類情報22とを取得する(ステップS901)。
In the
続いて、オブジェクト特定部332は、取得したオブジェクト特定情報に基づき、操作対象となるオブジェクトを再生装置300上で探す(ステップS902)。続いてオブジェクト特定部332は、操作対象のオブジェクトを特定できたか否かを判定する(ステップS903)。ステップS903において、操作対象のオブジェクトを特定できない場合、オブジェクト特定部332は、エラー処理を実行し(ステップS904)、処理を終了する。
Subsequently, the
本実施形態のエラー処理について以下に説明する。本実施形態の再生処理部330は、操作対象のオブジェクトを特定できない場合、操作対象のオブジェクトを特定できないことを示すエラーメッセージを表示画面に表示させ、再生処理を中断する。
The error processing of this embodiment will be described below. When the operation target object cannot be identified, the
操作対象のオブジェクトが特定できない場合とは、再生装置300の表示画面に操作対象のオブジェクトが表示されていないことを示している。この場合、正しく操作記録情報200が再現されていない状態である可能性がある。したがって、本実施形態の再生処理部330は、操作対象のオブジェクトが特定できない場合には、再生処理を中断する。
The case where the operation target object cannot be specified indicates that the operation target object is not displayed on the display screen of the
本実施形態では、再生処理を中断することで、操作記録情報200の再現に失敗した時点で、再生装置300における操作の発生を中断させるため、再生装置300の表示画面の状態から、どの時点で操作記録情報200の再現に失敗したかを判別することができる。
In the present embodiment, by interrupting the reproduction process, the generation of the operation in the
ステップS903において、操作対象のオブジェクトが特定された場合、操作種類特定部333は、特定されたオブジェクトと対応する操作種類情報を取得し、操作発生要求部334は、該当する操作を発生させる(ステップS905)。操作発生要求部334によるステップS905の処理の詳細は後述する。
When an operation target object is specified in step S903, the operation
続いて再生処理部330は、操作記録情報200に含まれる全ての操作の再現が完了したか否かを判定する(ステップS906)。ステップS906において、再現が完了していない場合、再生処理部330は、ステップS901へ戻る。ステップS906において、再現が完了した場合、再生処理部330は処理を終了する。
Subsequently, the
次に、図11を参照して、操作発生要求部334の処理について説明する。図11は、操作記録情報の再生の処理を説明する第二のフローチャートである。図11の処理は、図10のステップS905の処理の詳細を示している。
Next, processing of the operation
本実施形態の操作発生要求部334は、操作記録情報200の先頭から順にオブジェクト特定情報21により特定される、操作対象となるオブジェクトを抽出し、操作種類情報22により特定される、操作の種類を抽出する(ステップS1001)。続いて操作発生要求部334は、操作の種類が移動操作であるか否かを判定する(ステップS1002)。
The operation
ステップS1002において、移動操作である場合、操作発生要求部334は、操作記録情報200からオブジェクト内座標情報23と移動元表示領域情報24とを取得する(ステップS1003)。次いで、操作記録情報200から操作発生要求部334は、移動先座標情報25と移動先表示領域情報26とを取得する(ステップS1004)。
In step S1002, when it is a moving operation, the operation
次に、操作発生要求部334は、再生装置300のOSに対し、操作対象のオブジェクトに対して移動操作を発生させる要求を行い(ステップS1005)、ステップS1007に進む。
Next, the operation
これにより、特定されたオブジェクト103は、マウスボタンのボタンダウン操作に応じてポインタPの移動に応じて移動し、マウスボタンのボタンアップ操作に応じてマウスボタンを離した位置に置かれる。このとき、移動先表示領域の移動先座標とオブジェクト内座標とが一致するようにオブジェクトが移動される。
Thus, the identified
図3(a)の例では、操作種類情報22が操作の対象オブジェクトに対する移動操作の場合、オブジェクト特定情報21はアイコンBであり、オブジェクト内座標情報23は(x3、y3)である。また、移動元表示領域はデスクトップであり、移動先座標は(x2、y2)であり、移動先表示領域はフォルダAである。この場合、上記移動操作を発生させる要求により、図5に示すように、表示画面101には、デスクトップ画面上に表示されていたアイコンBのオブジェクト103がフォルダA102まで移動し、フォルダA102内に配置される。その際、図5に示す移動後のフォルダA内のオブジェクト103の移動先座標(x2、y2)と、オブジェクト内座標(x3、y3)とが一致するようにオブジェクト103が配置される。
In the example of FIG. 3A, when the
すなわち、移動先表示領域であるフォルダA内において、基準座標Aを原点座標とした移動先座標(x2、y2)と基準座標Bを原点座標としたオブジェクト内座標(x3、y3)とが一致するようにオブジェクト103が移動及び配置される。
That is, in the folder A which is the movement destination display area, the movement destination coordinates (x 2 , y 2 ) with the reference coordinates A as the origin coordinates and the in-object coordinates (x 3 , y 3 ) with the reference coordinates B as the origin coordinates. The
これにより、オブジェクト103の移動先の操作位置を、ポインタPの位置がオブジェクト103の中心にある配置から実際にドラッグした位置に補正し、補正した前記操作位置に前記対象オブジェクトを移動させることができる。これにより、図5に点線にて示すように、移動先座標(x2、y2)にオブジェクト103の中心が位置付けられるようにオブジェクト103が配置された場合に生じた再生時の移動先のオブジェクトの位置ずれを回避することができる。そして、フォルダA102内のアイコンBの移動先又はその近傍に、図5に示すサブフォルダ104が存在した場合においても、サブフォルダ104内にオブジェクト103が入れ込まれてしまう問題は生じない。この結果、記録時のオブジェクト103の移動操作と再生時のオブジェクト103の移動操作とが一致した操作となり、記録時の動作を忠実に再現することが可能となる。
Thereby, the operation position of the movement destination of the
他方、ステップS1002において、操作の種類が移動操作でない場合、操作発生要求部334は、操作対象オブジェクトに対して抽出した種類の操作を発生させる要求を行い(ステップS1006)、ステップS1007に進む。
On the other hand, if the type of operation is not a move operation in step S1002, the operation
ステップS1007において、再生処理部330は、操作記録情報200に次の操作が記録されているかを判定する。操作記録情報200に次の操作が記録されていない場合、再生処理部330は、再生が完了したと判定し、本処理を終了する。操作記録情報200に次の操作に関する情報が記録されている場合、再生処理部330は、ステップS1001に戻り、操作記録情報200に記録されている次の操作に関する操作記録情報200に基づき、ステップS1001以降の再生処理を行う。
In step S <b> 1007, the
このように、本実施形態では、操作対象オブジェクトの移動先表示領域の移動先座標と、オブジェクト内座標とが一致するようにオブジェクトを移動させる。これにより、再生時のオブジェクト103の移動先の位置と記録時のオブジェクト103の移動先の位置とを一致させることができる。これにより、再生装置300にて、操作の再生時に記録時とは異なる位置にオブジェクトが移動されることを回避できる。この結果、操作の再生時に誤った操作が発生することを防ぐことが可能となり、操作の再現の精度を向上させることができる。
Thus, in the present embodiment, the object is moved so that the movement destination coordinates of the movement destination display area of the operation target object coincide with the in-object coordinates. Thereby, the position of the movement destination of the
なお、ポインタPの位置がオブジェクト103の中心にある配置から実際にドラッグした位置に補正する方法としては、移動先表示領域の移動先座標とオブジェクト内座標とが一致するようにオブジェクトを移動させることに限られない。例えば、他の補正方法としては、移動先表示領域の移動先座標から予め定められた所定範囲内にオブジェクト内座標があるようにオブジェクトを移動させてもよい。
As a method for correcting the position of the pointer P from the position at the center of the
(第二の実施形態)
以下に図面を参照して第二の実施形態について説明する。第二の実施形態は、一台のコンピュータが記録処理部と再生処理部を実現する点が第一の実施形態と相違する。よって、以下の第二の実施形態の説明では、第一の実施形態との相違点について説明し、第一の実施形態と同様の機能構成を有するものには、第一の実施形態の説明で用いた符号と同様の符号を付与し、その説明を省略する。
(Second embodiment)
The second embodiment will be described below with reference to the drawings. The second embodiment is different from the first embodiment in that one computer realizes a recording processing unit and a reproduction processing unit. Therefore, in the following description of the second embodiment, differences from the first embodiment will be described, and those having the same functional configuration as the first embodiment will be described in the description of the first embodiment. The same reference numerals as those used are assigned, and the description thereof is omitted.
図12は、第二の実施形態の記録再生装置の機能構成を説明する図である。本実施形態の記録再生装置100Aは、操作記録再生処理部110Aを有する。
FIG. 12 is a diagram for explaining the functional configuration of the recording / reproducing apparatus of the second embodiment. The recording / reproducing
本実施形態の操作記録再生処理部110Aは、記録処理部120と再生処理部130とを有する。再生処理部130は、操作記録読込部131、オブジェクト特定部132、操作種類特定部133、操作発生要求部134を有する。再生処理部130の有する各部は、第一の実施形態の再生処理部330の有する各部と同様の機能を実現する。
The operation recording /
また、本実施形態の記録再生装置100Aは、記録部140を有する。記録部140は、記録再生装置100Aが有するメモリ装置等に設けられた記憶領域である。本実施形態の記録再生装置100Aでは、記録処理部120による記録された操作記録情報200を記録部140に格納しても良い。この場合、再生処理部130は、記録部140に格納された操作記録情報200を再生する。
Further, the recording / reproducing
本実施形態では、1台のコンピュータ(記録再生装置)100Aにおいて、記録処理部120による記録と、再生処理部130による再生とを同一のコンピュータで行うことで、操作内容を記録する際の表示画面の設定環境と、操作内容を再生する際の表示画面の設定環境とが異なる場合でも、操作の再現の精度を維持できる。
In the present embodiment, in one computer (recording / reproducing apparatus) 100A, recording by the
(第三の実施形態)
以下に図面を参照して第三の実施形態について説明する。第三の実施形態は、記録装置100において記録された操作記録情報200が、外部のサーバに格納される点が第一の実施形態と相違する。
(Third embodiment)
The third embodiment will be described below with reference to the drawings. The third embodiment is different from the first embodiment in that
よって、以下の第三の実施形態の説明では、第一の実施形態との相違点について説明し、第一の実施形態と同様の機能構成を有するものには、第一の実施形態の説明で用いた符号と同様の符号を付与し、その説明を省略する。 Therefore, in the following description of the third embodiment, differences from the first embodiment will be described, and those having the same functional configuration as the first embodiment will be described in the description of the first embodiment. The same reference numerals as those used are assigned, and the description thereof is omitted.
図13は、第三の実施形態の記録再生装置の機能構成を説明する図である。本実施形態の記録再生システム400は、記録装置100、再生装置300、サーバ410を有する。記録装置100、再生装置300及びサーバ410は、ネットワークを介して接続されている。
FIG. 13 is a diagram illustrating the functional configuration of the recording / reproducing apparatus of the third embodiment. The recording / reproducing
本実施形態の記録装置100は、操作記録再生処理部110の記録処理部120により、操作記録情報200をサーバ410に記録する。本実施形態の記録装置100は、操作内容の記録の終了指示を受け付けてから、記録された操作記録情報200をサーバ410に送信しても良い。
In the
本実施形態の再生装置300は、操作記録再生処理部310の再生処理部330により、サーバ410から操作記録情報200を読み込んで再生する。本実施形態の再生装置300は、操作記録情報200全てをサーバ410から取得した後に、再生装置300内に保持された操作記録情報200を再生しても良い。
In the
本実施形態によれば、再生装置300はサーバ410から操作記録情報200を取得すれば良く、操作記録情報200が記憶された可搬型の記録媒体を持ち運んだり、記録媒体から操作記録情報200を再生装置300に読み取らせたりする作業が軽減される。
According to the present embodiment, the
以上、各実施形態によれば、操作対象となるオブジェクト内のポインタの位置をオブジェクト内座標情報23に記録することで、マウスボタンをボタンダウンした後にボタンアップしたときのポインタの位置にオブジェクト内座標情報23に示す位置を一致させることができる。これにより、再生時におけるオブジェクトの移動先の位置が、記録時におけるオブジェクトの移動先の位置からずれてしまうことを回避することができる。この結果、再生装置300にて、操作の再生時に記録時とは異なる位置にオブジェクトが移動されることを回避できる。この結果、操作の再生時に誤った操作が発生することを防ぐことが可能となり、操作の再現の精度を向上させることができる。
As described above, according to each embodiment, by recording the position of the pointer in the object to be operated in the in-object coordinate
以上、操作記録再生プログラム、操作再生プログラム、操作記録再生システム及び操作記録再生方法を上記実施形態により説明したが、本発明にかかる操作記録再生プログラム、操作再生プログラム、操作記録再生システム及び操作記録再生方法は上記実施形態に限定されるものではなく、本発明の範囲内で種々の変形及び改良が可能である。また、上記実施形態及び変形例が複数存在する場合、矛盾しない範囲で組み合わせることができる。 As described above, the operation recording / reproducing program, the operation reproducing program, the operation recording / reproducing system, and the operation recording / reproducing method have been described in the above embodiment. The method is not limited to the above embodiment, and various modifications and improvements can be made within the scope of the present invention. In addition, when there are a plurality of the above-described embodiments and modifications, they can be combined within a consistent range.
なお、オブジェクトは、デスクトップ画面等に表示されるウィンドウ、フォルダ、フォルダ内のファイル、アイコン、タグ、スクロール等であってもよい。また、オブジェクトは、これに限られず、デスクトップ画面に表示されている選択可能なすべての表示部品が含まれる。例えば、オブジェクトは、ウィンドウの最小化の要求を行うための表示部品、ウィンドウを閉じる要求を行うための表示部品、ウィンドウの最大化の要求を行うための表示部品であってもよい。オブジェクトは、メニューやコントロールパネルに表示された表示部品、ファイル内の選択可能な図等であってもよい。 Note that the object may be a window, a folder, a file in the folder, an icon, a tag, a scroll, or the like displayed on the desktop screen or the like. Further, the object is not limited to this, and includes all selectable display components displayed on the desktop screen. For example, the object may be a display component for making a window minimization request, a display component for making a window close request, or a display component for making a window maximization request. The object may be a display part displayed on a menu or a control panel, a selectable figure in a file, or the like.
以上の説明に関し、更に以下の項を開示する。
(付記1)
表示されたオブジェクトに対する操作記録情報を記録し、記録した前記操作記録情報に従い前記操作を発生させる処理をコンピュータに実行させる操作記録再生プログラムであって、
前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて前記操作記録情報に記録し、
前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる、操作記録再生プログラム。
(付記2)
表示されたオブジェクトに対する操作記録情報を読み込み、読み込んだ前記操作記録情報に従い前記操作を発生させる処理をコンピュータに実行させる操作再生プログラムであって、
前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて記録した前記操作記録情報を読み込み、
読み込んだ前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる、操作再生プログラム。
(付記3)
表示されたオブジェクトに対する操作記録情報を記録する記録装置と、前記操作記録情報を再生する再生装置とを有する操作記録再生システムであって、
前記記録装置は、
前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて前記操作記録情報に記録する記録処理部を有し、
前記再生装置は、
前記操作記録情報を読み込む読込部と、
読み込んだ前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる再生処理部とを有する、操作記録再生システム。
(付記4)
表示されたオブジェクトに対する操作記録情報を記録し、記録した前記操作記録情報に従い前記操作を発生させる処理をコンピュータが実行する操作記録再生方法であって、
前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて前記操作記録情報に記録し、
前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる、操作記録再生方法。
Regarding the above description, the following items are further disclosed.
(Appendix 1)
An operation recording / reproducing program for recording operation recording information for a displayed object and causing a computer to execute processing for generating the operation according to the recorded operation recording information,
When the type of operation to be recorded in the operation record information is a move operation for an operation target object, the operation type information indicating the operation type is associated with relative position information indicating the operation position in the operation target object. Recorded in the operation record information,
When the operation type information included in the operation record information indicates a move operation, the position of the movement destination of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position is An operation recording / playback program for generating an operation for moving a target object.
(Appendix 2)
An operation reproduction program for reading operation record information for a displayed object and causing a computer to execute a process for generating the operation according to the read operation record information,
When the type of operation to be recorded in the operation record information is a move operation for an operation target object, the operation type information indicating the operation type is associated with relative position information indicating the operation position in the operation target object. Read the operation record information recorded,
If the operation type information included in the read operation record information indicates a move operation, the position of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position An operation reproduction program for generating an operation for moving the target object.
(Appendix 3)
An operation recording / reproducing system comprising: a recording device that records operation recording information for a displayed object; and a reproducing device that reproduces the operation recording information,
The recording device comprises:
When the type of operation to be recorded in the operation record information is a move operation for an operation target object, the operation type information indicating the operation type is associated with relative position information indicating the operation position in the operation target object. A recording processing unit for recording in the operation recording information
The playback device
A reading unit for reading the operation record information;
If the operation type information included in the read operation record information indicates a move operation, the position of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position An operation recording / reproducing system having a reproduction processing unit for generating an operation of moving the target object.
(Appendix 4)
An operation recording / reproducing method in which operation recording information for a displayed object is recorded, and a computer executes processing for generating the operation according to the recorded operation recording information,
When the type of operation to be recorded in the operation record information is a move operation for an operation target object, the operation type information indicating the operation type is associated with relative position information indicating the operation position in the operation target object. Recorded in the operation record information,
When the operation type information included in the operation record information indicates a move operation, the position of the movement destination of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position is An operation recording / reproducing method for generating an operation of moving a target object.
21:オブジェクト特定情報
22:操作種類情報
23:オブジェクト内座標情報
24:移動元表示領域情報
25:移動先座標情報
26:移動先表示領域情報
100 記録装置
110、310 操作記録再生処理部
120、320 記録処理部
121 操作検知部
122 割込発生部
123、132、332 オブジェクト特定部
124 操作種類取得部
125 操作記録部
130、330 再生処理部
134、334 操作発生要求部
200 操作記録情報
300 再生装置
331 操作記録読込部
400 記録再生システム
410 サーバ
21: Object identification information 22: Operation type information 23: In-object coordinate information 24: Movement source display area information 25: Movement destination coordinate information 26: Movement destination
Claims (4)
前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて前記操作記録情報に記録し、
前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる、操作記録再生プログラム。 An operation recording / reproducing program for recording operation recording information for a displayed object and causing a computer to execute processing for generating the operation according to the recorded operation recording information,
When the type of operation to be recorded in the operation record information is a move operation for an operation target object, the operation type information indicating the operation type is associated with relative position information indicating the operation position in the operation target object. Recorded in the operation record information,
When the operation type information included in the operation record information indicates a move operation, the position of the movement destination of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position is An operation recording / playback program for generating an operation for moving a target object.
前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて記録した前記操作記録情報を読み込み、
読み込んだ前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる、操作再生プログラム。 An operation reproduction program for reading operation record information for a displayed object and causing a computer to execute a process for generating the operation according to the read operation record information,
When the type of operation to be recorded in the operation record information is a move operation for an operation target object, the operation type information indicating the operation type is associated with relative position information indicating the operation position in the operation target object. Read the operation record information recorded,
If the operation type information included in the read operation record information indicates a move operation, the position of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position An operation reproduction program for generating an operation for moving the target object.
前記記録装置は、
前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて前記操作記録情報に記録する記録処理部を有し、
前記再生装置は、
前記操作記録情報を読み込む読込部と、
読み込んだ前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる再生処理部とを有する、操作記録再生システム。 An operation recording / reproducing system comprising: a recording device that records operation recording information for a displayed object; and a reproducing device that generates reproduction of the operation recording information,
The recording device comprises:
When the type of operation to be recorded in the operation record information is a move operation for an operation target object, the operation type information indicating the operation type is associated with relative position information indicating the operation position in the operation target object. A recording processing unit for recording in the operation recording information
The playback device
A reading unit for reading the operation record information;
If the operation type information included in the read operation record information indicates a move operation, the position of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position An operation recording / reproducing system having a reproduction processing unit for generating an operation of moving the target object.
前記操作記録情報に記録する前記操作の種類が操作の対象オブジェクトに対する移動操作の場合、前記操作の種類を示す操作種類情報と前記操作の対象オブジェクト内の操作位置を示す相対位置情報とを対応付けて前記操作記録情報に記録し、
前記操作記録情報に含まれる前記操作種類情報が移動操作を示す場合、前記操作記録情報に記録した前記相対位置情報に基づき、前記対象オブジェクトの移動先の位置を補正し、補正した前記位置に前記対象オブジェクトを移動する操作を発生させる、操作記録再生方法。 An operation recording / reproducing method in which operation recording information for a displayed object is recorded, and a computer executes processing for generating the operation according to the recorded operation recording information,
When the type of operation to be recorded in the operation record information is a move operation for an operation target object, the operation type information indicating the operation type is associated with relative position information indicating the operation position in the operation target object. Recorded in the operation record information,
When the operation type information included in the operation record information indicates a move operation, the position of the movement destination of the target object is corrected based on the relative position information recorded in the operation record information, and the corrected position is An operation recording / reproducing method for generating an operation of moving a target object.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015212287A JP6797524B2 (en) | 2015-10-28 | 2015-10-28 | Operation record playback program, operation playback program, operation record playback system and operation record playback method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015212287A JP6797524B2 (en) | 2015-10-28 | 2015-10-28 | Operation record playback program, operation playback program, operation record playback system and operation record playback method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017084132A true JP2017084132A (en) | 2017-05-18 |
JP6797524B2 JP6797524B2 (en) | 2020-12-09 |
Family
ID=58712064
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015212287A Active JP6797524B2 (en) | 2015-10-28 | 2015-10-28 | Operation record playback program, operation playback program, operation record playback system and operation record playback method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6797524B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018206288A (en) * | 2017-06-09 | 2018-12-27 | 富士ゼロックス株式会社 | Information processing device and program |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0721067A (en) * | 1993-06-18 | 1995-01-24 | Hitachi Ltd | Multiplex undoing method |
JPH1136919A (en) * | 1997-07-24 | 1999-02-09 | Nissan Motor Co Ltd | Exhaust control device for internal combustion engine |
JP2000181835A (en) * | 1998-12-16 | 2000-06-30 | Internatl Business Mach Corp <Ibm> | Communication method, client terminal, server, communication system and recording medium for storing software product to control communication |
JP2010146260A (en) * | 2008-12-18 | 2010-07-01 | Hitachi Ltd | Reproduction processing method, computer system, and program |
JP2011164785A (en) * | 2010-02-05 | 2011-08-25 | Nomura Research Institute Ltd | Device, method and program for verifying operation |
JP2014219885A (en) * | 2013-05-10 | 2014-11-20 | 株式会社日立製作所 | Test support method and test support system |
-
2015
- 2015-10-28 JP JP2015212287A patent/JP6797524B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0721067A (en) * | 1993-06-18 | 1995-01-24 | Hitachi Ltd | Multiplex undoing method |
JPH1136919A (en) * | 1997-07-24 | 1999-02-09 | Nissan Motor Co Ltd | Exhaust control device for internal combustion engine |
JP2000181835A (en) * | 1998-12-16 | 2000-06-30 | Internatl Business Mach Corp <Ibm> | Communication method, client terminal, server, communication system and recording medium for storing software product to control communication |
JP2010146260A (en) * | 2008-12-18 | 2010-07-01 | Hitachi Ltd | Reproduction processing method, computer system, and program |
JP2011164785A (en) * | 2010-02-05 | 2011-08-25 | Nomura Research Institute Ltd | Device, method and program for verifying operation |
JP2014219885A (en) * | 2013-05-10 | 2014-11-20 | 株式会社日立製作所 | Test support method and test support system |
Non-Patent Citations (2)
Title |
---|
柿元 宏晃 他: "「Web行動リプレイシステムに基づくWebアプリ ケーション動作検証システムとその応用」", 2009年度人工知能学会 全国大会(第23回)論文集, JPN6019012589, 19 June 2009 (2009-06-19), JP, pages 1 - 4, ISSN: 0004149677 * |
牟田 拓: "「ゼロからはじめる Microsoft Visual Basic クリッカブルマップエディタ〜その4〜」", HELLO!PC 5・8/5・24, vol. 第6巻 第8号, JPN6019012590, 24 May 1999 (1999-05-24), JP, pages 196 - 201, ISSN: 0004149678 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018206288A (en) * | 2017-06-09 | 2018-12-27 | 富士ゼロックス株式会社 | Information processing device and program |
Also Published As
Publication number | Publication date |
---|---|
JP6797524B2 (en) | 2020-12-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9442832B2 (en) | User workflow replication for execution error analysis | |
CN109918055B (en) | Application program generation method and device | |
CN112445579B (en) | Zero terminal data processing system and file copying method and device thereof | |
TW201222361A (en) | Resolving merged touch contacts | |
EP3025255A1 (en) | Virtual synchronization with on-demand data delivery | |
KR20140088551A (en) | Server upgrades with safety checking and preview | |
US9813517B2 (en) | Feedback layer for native content display in virtual desktop infrastructure | |
US20200241992A1 (en) | System and method for dynamic domain-specific sequence diagram visualization | |
JP6035971B2 (en) | Information processing apparatus, program, and image processing system | |
US20120050336A1 (en) | Touch-based remote control | |
CN112181579A (en) | Method and device for providing prototype of graphical user interface | |
CN109213668B (en) | Operation recording method and device and terminal | |
CN112445578B (en) | Zero terminal data processing system and file copying method and device thereof | |
JP6797524B2 (en) | Operation record playback program, operation playback program, operation record playback system and operation record playback method | |
US10534690B1 (en) | Concurrent quality testing by broadcasting user events | |
US10902179B2 (en) | Modification of file graphic appearance within a collection canvas | |
KR20130126614A (en) | Application file system access | |
JP6528646B2 (en) | Operation reproduction program, operation reproduction apparatus and operation reproduction method | |
JP6547584B2 (en) | Operation recording and reproduction program, operation reproduction program, operation recording and reproduction method, and operation recording and reproduction system | |
CN104898967A (en) | Presenting indication of input to a touch-enabled pad on touch-enabled pad | |
JP6927340B2 (en) | Operation recording program, operation recording method, operation recording device, operation playback program, operation playback method and operation playback device | |
JP6561775B2 (en) | Operation recording / reproducing program, operation reproducing program, operation reproducing method, and operation recording / reproducing apparatus | |
JP6813265B2 (en) | Operation recording / playback program, operation recording program, operation recording / playback method, and operation recording / playback device | |
JP2007179260A (en) | Asset management device and asset management method | |
US11182064B2 (en) | Information processing apparatus performing control on drag operation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180706 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190322 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190416 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190603 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20191112 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20200210 |
|
C22 | Notice of designation (change) of administrative judge |
Free format text: JAPANESE INTERMEDIATE CODE: C22 Effective date: 20200811 |
|
C23 | Notice of termination of proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C23 Effective date: 20201013 |
|
C03 | Trial/appeal decision taken |
Free format text: JAPANESE INTERMEDIATE CODE: C03 Effective date: 20201117 |
|
C30A | Notification sent |
Free format text: JAPANESE INTERMEDIATE CODE: C3012 Effective date: 20201117 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201118 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6797524 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |