JP2007280174A - 操作履歴記録装置 - Google Patents

操作履歴記録装置 Download PDF

Info

Publication number
JP2007280174A
JP2007280174A JP2006107393A JP2006107393A JP2007280174A JP 2007280174 A JP2007280174 A JP 2007280174A JP 2006107393 A JP2006107393 A JP 2006107393A JP 2006107393 A JP2006107393 A JP 2006107393A JP 2007280174 A JP2007280174 A JP 2007280174A
Authority
JP
Japan
Prior art keywords
image
key input
recording
recorded
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006107393A
Other languages
English (en)
Inventor
Takashi Hishikawa
尚 菱川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Electronics Services Co Ltd
Original Assignee
Hitachi Electronics Services Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Electronics Services Co Ltd filed Critical Hitachi Electronics Services Co Ltd
Priority to JP2006107393A priority Critical patent/JP2007280174A/ja
Publication of JP2007280174A publication Critical patent/JP2007280174A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Input From Keyboards Or The Like (AREA)

Abstract

【課題】 ユーザの操作履歴情報を参照する際に、ボタンのクリック情報を容易に把握できるようにする。
【解決手段】 1または複数の操作子を有するポインティングデバイスと、複数のキーを有するキー入力デバイスと、表示装置とが接続される操作履歴記録装置であって、ポインティングデバイスの操作子に対する操作およびキー入力デバイスにおけるキー入力操作を検出する検出手段と、検出手段が操作子に対する操作を検出した場合には、表示装置に表示されている画像中の、ポインティングデバイスのカーソルを含む領域の画像を記録し、検出手段がキー入力操作を検出した場合には、表示装置に表示されている画像中の、キー入力の対象を含む領域の画像を記録する画像記録手段と、検出手段が検出した時刻と画像記録手段が記録した画像とを関連づけて記録する履歴記録手段とを備えることを特徴とする操作履歴記録装置。
【選択図】 図1

Description

本発明は、コンピュータシステムにおける操作履歴を収集するための技術に関する。
コンピュータシステムにおける各種解析等のために、ユーザの操作履歴を記録することがよく行なわれる。例えば、特許文献1には、マウスやキーボード等の入力装置を用いたユーザ操作の履歴を記録し、処理装置の基本性能を管理することが記載されている。
具体的なユーザ操作の履歴としては、マウス操作により取得されるマウスカーソルの座標、クリック情報、ウインドウ操作情報、キーボード操作により取得されるキー入力情報等が記録される。
特開2003−177847号公報
ユーザの操作履歴の記録にあたっては、ユーザがどの画面で、どのような処理を行なったかが重要である。特に、ウインドウに配置された各種ボタンのクリックは、コンピュータシステムに対する処理の指示であることが多いため、特に注目する必要がある。
一般に、ボタンのクリックはマウス操作により行なわれるが、キーボード操作によってもマウスのクリックと同じ結果を得ることができる。例えば、カーソルキーによりボタンを選択し、エンターキーにより確定することでそのボタンをクリックしたことになる。
ところが、従来のように、操作履歴として、マウスクリックの内容、マウスカーソルの座標あるいはキーボードのキーの入力操作を記録するだけでは、履歴情報を参照しても、どのボタンがクリックされたかを容易に把握することができない。
本発明は、ユーザの操作履歴情報を参照する際に、ボタンのクリック情報を容易に把握できるようにすることを目的とする。
上記課題を解決するため、本発明によれば、
1または複数の操作子を有するポインティングデバイスと、複数のキーを有するキー入力デバイスと、表示装置とが接続される操作履歴記録装置であって、
前記ポインティングデバイスの操作子に対する操作および前記キー入力デバイスにおけるキー入力操作を検出する検出手段と、
前記検出手段が前記操作子に対する操作を検出した場合には、前記表示装置に表示されている画像中の、前記ポインティングデバイスのカーソルを含む領域の画像を記録し、前記検出手段が前記キー入力操作を検出した場合には、前記表示装置に表示されている画像中の、前記キー入力の対象を含む領域の画像を記録する画像記録手段と、
前記検出手段が検出した時刻と前記画像記録手段が記録した画像とを関連づけて記録する履歴記録手段とを備えることを特徴とする操作履歴記録装置が提供される。
ここで、前記履歴記録手段は、再記録不可の記録媒体に記録することができる。
また、前記履歴記録手段は、前記検出手段が検出した時点においてアクティブであるウインドウのタイトルをさらに関連づけて記録するようにしてもよい。
本発明によれば、ユーザの操作履歴情報を参照する際に、ボタンのクリック情報を容易に把握できるようになる。
本発明の実施例について図面を参照して説明する。
図1は、本実施例におけるコンピュータシステムのハードウェア構成を示すブロック図である。本図に示すように、コンピュータシステムは、コンピュータ10にディスプレイ装置20、キーボード30、マウス40、印刷装置50が接続されて構成される。
マウス40は、移動量を測る機構に加え、操作子である1または複数のボタンを備えており、このボタンをクリックすることで操作者の指示をコンピュータ10に伝えることができる。本例では操作子として左右のボタンを備えているものとする。
もちろん、コンピュータシステムの構成は一例であり、本図の例に限られない。例えば、マウス40の変わりにトラックボール等のポインティングデバイスを用いるようにしてもよい。
コンピュータ10は、CPU11、メモリ12、入出力制御装置13、補助記憶装置14等を備えた汎用的なコンピュータを用いることができる。
図2は、本実施例におけるコンピュータ10の特徴的な機能構成を示すブロック図である。本図に示すように、コンピュータ10は、イベント検出部110、ログ収集部120、ログ記録領域130、ログ出力部140を備えている。
これらの機能部は、例えば、ログ記録用に作成されたコンピュータプログラムをCPU11が実行することによりコンピュータ10上に仮想的に構築される。
イベント検出部110は、ユーザによるマウス40の操作、キーボード30の操作を監視する。具体的には、マウス40の左右ボタンのクリック・ダブルクリック、キーボード30のキー入力を検出する。なお、マウス40の移動は必ずしも検出する必要はない。一方、キー入力は、NumLock、CapsLockの状態、Shift、Ctrlとのコンビネーション等の情報も検出する。
ログ収集部120は、イベント検出部110がユーザによるマウス40の操作、キーボード30の操作を検出すると、その具体的な内容を取得し、ログ記録領域130に記録する。この際に、アクティブなウインドウのタイトルおよび時刻を取得してログ記録領域130に併せて記録する。
さらに、本実施例では、ログ収集部120は、検出されたイベントがマウス40のクリック操作の場合には、マウスカーソル周辺の画像をキャプチャしてログ記録領域130に記録し、検出されたイベントがキーボード30のキー入力操作の場合には、キープロンプト周辺の画像をキャプチャしてログ記録領域130に記録する。
このため、ログ収集部120は、キーボード30の操作が検出された場合に入力されたキーの内容を取得する入力キー取得部121と、マウス40の操作が検出された場合にクリックされたマウスボタンの内容を取得するマウスイベント取得部122と、アクティブなウインドウのタイトルを取得するウインドタイトル取得部123と、マウスカーソルあるいはキープロンプト周辺のキャプチャ画像を取得するキャプチャ画像取得部124と、日付・時刻を取得する時刻取得部125とを備えている。
ログ記録領域130は、ログ収集部120が取得した情報を記録する。具体的には、検出されたイベントの内容、ウインドウのタイトル、キャプチャ画像を検出された日時とともに記録する。このため、ログ記録領域130は、時系列的にログ情報を記録するログリスト131とキャプチャ画像ファイルを記録する周辺キャプチャ画像ファイル群132とを有している。
図3は、ログリスト131のデータ構造の一例を示す図である。本図に示すようにログリスト131は、日時131a、キー/マウスイベント131b、イベント内容131c、ウインドウタイトル131d、キャプチャ画像ファイル名131eを1レコードとして管理する。1つのレコードは1つのイベントに対応して生成される。
日時131aにはイベントが検出された日付と時刻とが記録される。キー/マウスイベント131bには、検出されたイベントがマウス40のクリック操作であるかキーボード30のキー入力操作であるかの区別が記録される。イベント内容131cには、検出されたイベントの内容が記録される。ウインドウタイトル131dには、イベントが検出された際にアクティブであったウインドウのタイトルが記録される。キャプチャ画像ファイル名131eは、イベントが検出された際にキャプチャ画像として記録したファイルのファイル名が記録される。
なお、ログ記録領域130は、補助記憶装置14として広く用いられているハードディスク装置を用いて構成することもできるが、ログ情報の改竄を防止するため、書き換え不可能ないわゆるワンタイム型の記録媒体を用いるようにしてもよい。
ログ出力部140は、ログ記録領域130に記録されたログリスト131、周辺キャプチャ画像ファイル群132に基づいて、ログ情報を出力する。ログ情報の出力の態様は、例えば、ディスプレイ装置20による画面表示、あるいは、印刷装置50による印刷とすることができる。
つぎに、図4を参照して、本実施例のログ記録処理について説明する。
ログの記録処理は、例えば、ユーザからログ記録の指示を受け付けることで開始する(S101)。ログ記録の指示は、例えば、プログラムの起動、メニュー操作、コマンド入力等により受け付けることができる。
記録を開始すると、記録終了の指示を受け付けるまで(S102:Y)、キー入力イベントあるいはマウスクリックイベントが発生するのを監視する(S103)。記録終了の指示は、例えば、プログラムの終了、メニュー操作、コマンド入力等により受け付けることができる。
キー入力イベントあるいはマウスクリックイベントが発生したことを検出すると(S103)、そのイベントがキー入力イベントであるかマウスクリックイベントであるか(S104)に応じて、以下の処理を行なう。
すなわち、発生したイベントがキー入力イベントの場合には(S104:Y)、キー情報をログリスト131に記録する(S105)。具体的には、日時131aにキー入力イベントが検出された日付・時刻を記録し、キー/マウスイベント131bにキー入力を示す識別子を記録し、イベント内容131cに入力されたキーの識別子を記録し、ウインドウタイトル131dにキー入力イベントが検出された時点でアクティブなウインドウのタイトルを記録する。イベント内容131cには、NumLock、CapsLock、Shift、Ctrl等のキーモードの情報も含めるようにする。
また、キー入力イベントが検出された時点におけるキープロンプト周辺の画像をキャプチャし、画像ファイルとして周辺キャプチャ画像ファイル132に記録する(S106)。そして、そのファイル名をログリスト131のキャプチャ画像ファイル名131eに記録する。ただし、キープロンプトの周辺のみならず、画面全体をキャプチャするようにしてもよい。また、ファイル名はあらかじめ定められた規則にしたがって一意に定められるものとする。
一方、発生したイベントがマウスクリックイベントの場合には(S104:N)、マウス情報をログリスト131に記録する(S107)。具体的には、日時131aにマウスクリックイベントが検出された日付・時刻を記録し、キー/マウスイベント131bにマウスクリックを示す識別子を記録し、イベント内容131cにクリックの内容を記録し、ウインドウタイトル131dにマウスクリックイベントが検出された時点でアクティブなウインドウのタイトルを記録する。
また、マウスクリックイベントが検出された時点におけるマウスカーソル周辺の画像をキャプチャし、画像ファイルとして周辺キャプチャ画像ファイル132に記録する(S108)。そして、そのファイル名をログリスト131のキャプチャ画像ファイル名131eに記録する。ただし、キャプチャ画像取得部124は、マウスカーソルの周辺のみならず、画面全体をキャプチャするようにしてもよい。また、ファイル名はあらかじめ定められた規則にしたがって一意に定められるものとする。
図5は、マウスクリックイベントが検出された場合のキャプチャ画像の一例を示している。すなわち、画面500に示すように、「はい」「いいえ」「キャンセル」ボタンが配置されたウインドウにおいて、「はい」ボタンがクリックされると、キャプチャ画像510が示すように、マウスカーソル周辺の画像がキャプチャされることになる。これにより、どのボタンがクリックされたかを容易に把握することができるようになる。
図6は、キー入力イベントが検出された場合のキャプチャ画像の一例を示している。すなわち、画面520に示すように、「はい」「いいえ」「キャンセル」ボタンが配置されたウインドウにおいて、キー操作により「はい」ボタンが指定されると、キャプチャ画像530が示すように、キープロンプト周辺の画像がキャプチャされることになる。これにより、どのボタンが指定されたかを容易に把握することができるようになる。
ログ記録領域130に記録されたログ情報は、ユーザの指示に基づいて、ログ出力部140により画面表示あるいは印刷される。
図7は、ディスプレイ装置20に表示されるログ情報の一例を示す図である。本図に示すように画面540には、ログリスト131に基づいて日時、キー/マウス、内容、ウインドウタイトルがリスト形式で表示される。そして、それぞれの行には画像表示ボタンが配置される。画像表示ボタンがクリックされるとログ出力部140は、対応するキャプチャ画像ファイル名131eで指定される画像ファイルを取得して、別ウインドウとして画面550を表示する。
このように本実施例によれば、ユーザは、それぞれのキー入力、あるいはマウスクリックでどのような操作が行なわれたかを容易に把握することができるようになる。
なお、上述の例では、マウスクリックイベント、キー入力イベントが発生した場合にキャプチャ画像を記録するようにしたが、ボタンがクリックされた場合に限り、キャプチャ画像を記録するようにしてもよい。これにより、記録領域を減らすことができる。
本実施例におけるコンピュータシステムのハードウェア構成を示すブロック図。 本実施例におけるコンピュータの機能構成を示すブロック図。 ログリストのデータ構造の一例を示す図。 本実施例のログ記録処理について説明するフロー図。 マウスクリックイベントが検出された場合のキャプチャ画像の一例を示す図。 キー入力イベントが検出された場合のキャプチャ画像の一例を示す図。 ログ情報の画面出力の例を示す図。
符号の説明
10…コンピュータ、11…CPU、12…メモリ、13…入出力制御装置、14…補助記憶装置、20…ディスプレイ装置、30…キーボード、40…マウス、50…印刷装置、110…イベント検出部、120…ログ収集部、121…入力キー取得部、122…マウスイベント取得部、123…ウインドタイトル取得部、124…キャプチャ画像取得部、125…時刻取得部、130…ログ記録領域、140…ログ出力部

Claims (6)

  1. 1または複数の操作子を有するポインティングデバイスと、複数のキーを有するキー入力デバイスと、表示装置とが接続される操作履歴記録装置であって、
    前記ポインティングデバイスの操作子に対する操作および前記キー入力デバイスにおけるキー入力操作を検出する検出手段と、
    前記検出手段が前記操作子に対する操作を検出した場合には、前記表示装置に表示されている画像中の、前記ポインティングデバイスのカーソルを含む領域の画像を記録し、前記検出手段が前記キー入力操作を検出した場合には、前記表示装置に表示されている画像中の、前記キー入力の対象を含む領域の画像を記録する画像記録手段と、
    前記検出手段が検出した時刻と前記画像記録手段が記録した画像とを関連づけて記録する履歴記録手段とを備えることを特徴とする操作履歴記録装置。
  2. 請求項1に記載の操作履歴記録装置であって、
    前記履歴記録手段は、再記録不可の記録媒体に記録することを特徴とする操作履歴記録装置。
  3. 請求項1に記載の操作履歴記録装置であって、
    前記履歴記録手段は、前記検出手段が検出した時点においてアクティブであるウインドウのタイトルをさらに関連づけて記録することを特徴とする操作履歴記録装置。
  4. 1または複数の操作子を有するポインティングデバイスと、複数のキーを有するキー入力デバイスと、表示装置とが接続されるコンピュータを操作履歴記録装置として機能させるコンピュータプログラムであって、
    前記ポインティングデバイスの操作子に対する操作および前記キー入力デバイスにおけるキー入力操作を検出する検出手段と、
    前記検出手段が前記操作子に対する操作を検出した場合には、前記表示装置に表示されている画像中の、前記ポインティングデバイスのカーソルを含む領域の画像を記録し、前記検出手段が前記キー入力操作を検出した場合には、前記表示装置に表示されている画像中の、前記キー入力の対象を含む領域の画像を記録する画像記録手段と、
    前記検出手段が検出した時刻と前記画像記録手段が記録した画像とを関連づけて記録する履歴記録手段としてコンピュータを機能させることを特徴とするコンピュータプログラム。
  5. 請求項4に記載のコンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体。
  6. 1または複数の操作子を有するポインティングデバイスと、複数のキーを有するキー入力デバイスと、表示装置とが接続されるコンピュータにおける操作履歴記録方法であって、
    前記ポインティングデバイスの操作子に対する操作および前記キー入力デバイスにおけるキー入力操作を検出する検出ステップと、
    前記検出手段が前記操作子に対する操作を検出した場合には、前記表示装置に表示されている画像中の、前記ポインティングデバイスのカーソルを含む領域の画像を記録し、前記検出手段が前記キー入力操作を検出した場合には、前記表示装置に表示されている画像中の、前記キー入力の対象を含む領域の画像を記録する画像記録ステップと、
    前記検出手段が検出した時刻と前記画像記録手段が記録した画像とを関連づけて記録する履歴記録ステップとを有することを特徴とする操作履歴記録方法。
JP2006107393A 2006-04-10 2006-04-10 操作履歴記録装置 Pending JP2007280174A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006107393A JP2007280174A (ja) 2006-04-10 2006-04-10 操作履歴記録装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006107393A JP2007280174A (ja) 2006-04-10 2006-04-10 操作履歴記録装置

Publications (1)

Publication Number Publication Date
JP2007280174A true JP2007280174A (ja) 2007-10-25

Family

ID=38681546

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006107393A Pending JP2007280174A (ja) 2006-04-10 2006-04-10 操作履歴記録装置

Country Status (1)

Country Link
JP (1) JP2007280174A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009163352A (ja) * 2007-12-28 2009-07-23 Noritsu Koki Co Ltd キャプチャーソフトウエアプログラムおよびキャプチャー装置
JP2010277552A (ja) * 2009-06-01 2010-12-09 Canon Inc 出力制御装置、その制御方法及びプログラム
JP2011086116A (ja) * 2009-10-15 2011-04-28 Nec Access Technica Ltd キーボード装置、ユーザーインターフェース装置、および情報処理機器
WO2018151303A1 (ja) * 2017-02-20 2018-08-23 株式会社サザンウィッシュ 操作表示装置及び操作表示プログラム
JP2018535459A (ja) * 2015-07-02 2018-11-29 アクセンチュア グローバル サービスィズ リミテッド ロボットによるプロセス自動化

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003009067A (ja) * 2001-06-21 2003-01-10 Nti:Kk 撮影記録入力機能を備えたデジタルカメラ
JP2003177847A (ja) * 2002-12-05 2003-06-27 Hideki Nishimoto データ処理システム、データ処理装置、データ処理用プログラム
JP2004021438A (ja) * 2002-06-13 2004-01-22 Nec Corp 情報処理装置のユーザ操作履歴収集機構、ユーザ操作履歴収集プログラムおよびユーザ支援システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003009067A (ja) * 2001-06-21 2003-01-10 Nti:Kk 撮影記録入力機能を備えたデジタルカメラ
JP2004021438A (ja) * 2002-06-13 2004-01-22 Nec Corp 情報処理装置のユーザ操作履歴収集機構、ユーザ操作履歴収集プログラムおよびユーザ支援システム
JP2003177847A (ja) * 2002-12-05 2003-06-27 Hideki Nishimoto データ処理システム、データ処理装置、データ処理用プログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009163352A (ja) * 2007-12-28 2009-07-23 Noritsu Koki Co Ltd キャプチャーソフトウエアプログラムおよびキャプチャー装置
JP2010277552A (ja) * 2009-06-01 2010-12-09 Canon Inc 出力制御装置、その制御方法及びプログラム
JP2011086116A (ja) * 2009-10-15 2011-04-28 Nec Access Technica Ltd キーボード装置、ユーザーインターフェース装置、および情報処理機器
JP2018535459A (ja) * 2015-07-02 2018-11-29 アクセンチュア グローバル サービスィズ リミテッド ロボットによるプロセス自動化
JP7089879B2 (ja) 2015-07-02 2022-06-23 アクセンチュア グローバル サービスィズ リミテッド ロボットによるプロセス自動化
WO2018151303A1 (ja) * 2017-02-20 2018-08-23 株式会社サザンウィッシュ 操作表示装置及び操作表示プログラム
JPWO2018151303A1 (ja) * 2017-02-20 2019-12-12 株式会社サザンウィッシュ 操作表示装置及び操作表示プログラム

Similar Documents

Publication Publication Date Title
US9058105B2 (en) Automated adjustment of input configuration
US7319388B2 (en) Image processor, abnormality reporting method and abnormality reporting program
US6968509B1 (en) Recording of user-driven events within a computer application
US8269733B2 (en) Input precision
US8352878B2 (en) Scrollable context menu for multiple element selection
US20080186276A1 (en) Evaluation of visual content usage
US20090064000A1 (en) SYSTEMS, METHODS AND COMPUTER PRODUCTS TO AUTOMATICALLY COMPLETE a GUI TASK
JP2010527478A (ja) ライブ・コンパニオン・ウィンドウ
CN102004576A (zh) 信息处理装置、信息处理方法以及程序
US9064037B2 (en) Automated correlation and analysis of callstack and context data
US20110187739A1 (en) Display control apparatus, display control method, and non-transitory computer readable storage medium
JP2007280174A (ja) 操作履歴記録装置
WO2017033450A1 (en) Information processing system, information processing apparatus, and information processing method
WO2012023346A1 (ja) ウェブ管理装置、ウェブ管理方法、ウェブ管理プログラム、そのプログラムを記録するコンピュータ読み取り可能な記録媒体、及びウェブシステム
JP4898485B2 (ja) ユーザインタフェース内でナビゲートする方法、およびコンピュータ・プログラム
JP5223372B2 (ja) 情報収集装置
US20110265033A1 (en) Apparatus, and associated method, for selecting multiple files at a consumer electronics device
JP5344220B2 (ja) 測定装置および測定装置の操作方法
JP2009176131A (ja) クライアント端末監視システム
JP5210098B2 (ja) デジタルコンテンツ閲覧管理システム
JP5337317B2 (ja) デジタルコンテンツ閲覧装置及びデジタルコンテンツ閲覧管理システム
JP2010017909A (ja) 印刷装置および印刷システム
JP4879137B2 (ja) 情報連携ウィンドウシステムおよびプログラム
JP2016139244A (ja) 情報処理装置、情報処理方法、及び、コンピュータ・プログラム
JP5093175B2 (ja) トレース装置、トレース方法およびトレースプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080307

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100126

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100601