JP2014186436A - 評価装置、評価方法及びプログラム - Google Patents

評価装置、評価方法及びプログラム Download PDF

Info

Publication number
JP2014186436A
JP2014186436A JP2013059650A JP2013059650A JP2014186436A JP 2014186436 A JP2014186436 A JP 2014186436A JP 2013059650 A JP2013059650 A JP 2013059650A JP 2013059650 A JP2013059650 A JP 2013059650A JP 2014186436 A JP2014186436 A JP 2014186436A
Authority
JP
Japan
Prior art keywords
evaluation
input command
command
scenario
extraction unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013059650A
Other languages
English (en)
Inventor
Nanase Sato
那菜瀬 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Network and System Integration Corp
Original Assignee
NEC Network and System Integration Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Network and System Integration Corp filed Critical NEC Network and System Integration Corp
Priority to JP2013059650A priority Critical patent/JP2014186436A/ja
Publication of JP2014186436A publication Critical patent/JP2014186436A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Debugging And Monitoring (AREA)

Abstract

【課題】評価シナリオの作成に要する工数を削減する。
【解決手段】評価装置100は、評価対象装置Dからエミュレータ16のログを取得する。入力コマンド抽出部13は、ログを読み込んだ後に、プロンプト部分やコマンド実行結果等の余分な情報を自動削除し、ログ上の時刻から、各コマンドの実行時間を算出し、次のコマンドを投入する間隔を調整する。評価シナリオ生成部14が、抽出したコマンドを使用した評価シナリオを作成する。
【選択図】図1

Description

本発明は、評価装置、評価方法及びプログラムに関する。
近年、パソコン等の端末の機能は、急速に高度化し、1つの端末で汎用的に様々な処理を行うことができる。しかしながら、端末の高機能化により、操作性が悪化し、特にお年寄り等のリテラシー不足のユーザにとっては、端末の操作が難しく、扱いづらいものとなっている。
このような背景に関連する技術としては、様々なものが知られている(例えば、特許文献1参照。)。
例えば、特許文献1には、遠隔操作を行う操作元端末と、操作元端末に遠隔操作される被操作端末とを有する遠隔操作システムにおける遠隔操作方法が記載されている。より具体的に説明すると、操作元端末は、被操作端末の環境を実現するエミュレータを起動する。そして、被操作端末は、被操作端末のステータス情報を収集し、操作元端末に送信する。そして、操作元端末は、被操作端末の状態を示すステータス情報を受信し、ステータス情報に基づいて被操作端末の状態をエミュレータ上で再現する。そして、操作元端末は、操作情報を受け付けて、エミュレータ上で実行すると共に、操作情報記憶部に記憶する。そして、操作元端末は、操作情報を実行することにより出力される操作映像を、被操作端末に送信する。そして、被操作端末は、操作元端末から操作映像を受信し、再生する。そして、被操作端末は、遠隔操作の実行指示を受け付け、操作元端末に遠隔操作実行要求を送信する。そして、操作元端末は、被操作端末から遠隔操作実行要求を受け付けて、操作情報記憶部に記憶された操作情報を読み出し、被操作端末に送信する。そして、被操作端末は、操作元端末から受信した操作情報を実行する。このようにして、この遠隔操作方法によっては、ユーザは、面識のない遠隔操作者であっても、安心して遠隔操作を受けることができる。
また、近年は、ソフトウェアが組み込まれた機器のソフトウェア容量が拡大してソフトウェアの複雑度が多様化し、このような機器の機能を拡大するためにテスト対象となる装置のテストを自動的に行う装置が使用され始めている。この自動テスト装置は、情報処理装置の各状態における入力条件、入力情報に対する出力内容、動作が正しいか否か等を判定するための装置である。
このような背景に関連する技術としては、様々なものが知られている(例えば、特許文献2参照。)。
例えば、特許文献2には、テスト対象装置と、このテスト対象装置に接続されてテスト対象装置のテストを自動的に行う自動テスト装置とを備える自動テストシステムにおける自動テスト方法が記載されている。より具体的に説明すると、テスト対象装置は、複数の操作要素を有する操作出力手段で操作された操作要素の識別情報を出力する。そして、テスト対象装置は、出力された操作要素の識別情報を操作要素が操作された第1の操作タイミングの情報と共に第1の記憶手段に記憶する。そして、テスト対象装置は、記憶された操作要素の識別情報及び第1の操作タイミングの情報の読み出しを行う。そして、自動テスト装置は、読み出された操作要素の識別情報及び第1の操作タイミングの情報に基づく第2の操作タイミングの情報を第2の記憶手段に記憶する。そして、自動テスト装置は、操作要素の識別情報及び第2の操作タイミングの情報を読み出す。そして、自動テスト装置は、読み出された操作要素の識別情報及び第2の操作タイミングの情報に基づいて、テスト対象装置のテスト操作に基づく操作手順が記述されたテストシナリオを生成する。このようにして、この自動テスト方法によっては、テスト対象装置を直接操作テスト対象装置の操作に基づいてテストシナリオを生成する際に機器毎の登録設定が不要となるため、テストシナリオを作成する際の時間を短縮することができる。
また、最近では、組織が情報処理システムを有し、エンドユーザに様々なサービスを提供する方式が導入されている。組織が有するコンピュータシステムでは、管理担当者によって手順書に従い順次管理作業が行われる。
このような背景に関連する技術としては、様々なものが知られている(例えば、特許文献3参照。)。
例えば、特許文献3には、情報処理システムの管理又は運用を行う際の処理手順を記載した手順書内のあいまいな箇所を抽出するあいまい記述自動検出方法が記載されている。より具体的に説明すると、コンピュータは、手順書に従って複数の手順実行者がそれぞれ行なった処理のログを取得する。そして、コンピュータは、手順書内のコマンドとその行位置を抽出する。そしてコンピュータは、抽出されたコマンドを、複数のログのそれぞれの中から抽出し、コマンド間の区間に分割する。そして、コンピュータは、ログ内でコマンド間の区間に使用され、抽出されたコマンドと異なるコマンドの実行回数を、複数のログに対して計数し、複数のログの間でコマンドごとに実行回数の分散値を演算する。そして、コンピュータは、演算結果に基づいて、分散値が所定値より大きいコマンドを含む手順書の区間を、あいまいな記述である可能性の高い箇所であるとして表示する。このようにして、このあいまい記述自動検出方法によっては、手順書のあいまいな記述を自動的に検出し、手順書のあいまいな記述の修正に資する。
特開2006−227933号公報 特開2009−116535号公報 特開2012−190284号公報
既存の自動化評価ソフトウェアは、エミュレータと連携していて、エミュレータ上で入力されたコマンドを、そのまま評価シナリオとして生成する。また、この自動化評価ソフトウェアは、エミュレータ上で直接コマンド投入することにより評価シナリオを作成することができる。また、この自動化評価ソフトウェアは、事前に準備したログから必要箇所をコピー、エミュレータ上でペーストすることにより評価シナリオを作成することができる。
しかしながら、この自動化評価ソフトウェアは、ログの内容が多い場合にはかなりの工数が必要となる。また、この自動化評価ソフトウェアは、評価試験中に問題が発生した際に、取得したログを解析し同様の手順でコマンドを投入し問題事象の再現を試みることになる。そのため、この自動化評価ソフトウェアは、取得した膨大なログの内容を確認するのに手間がかかり、問題事象の再現にかなりの工数がかかることが多い。さらに、この自動化評価ソフトウェアは、手動でログ内の必要箇所をコピー、ペーストした場合にコマンド投入手順を間違える可能性も高い。
一方、特許文献1、特許文献2、及び特許文献3に記載の技術は、評価シナリオの作成に要する工数を削減することができない。
本発明の目的は、上述した課題を解決する評価装置、評価方法及びプログラムを提供することにある。
上記課題を解決するために、本発明の第1の形態によると、評価装置であって、評価対象装置に対するエミュレータの操作ログの中から入力コマンドを抽出する入力コマンド抽出部と、入力コマンド抽出部が抽出した入力コマンドを使用した評価シナリオを作成する評価シナリオ生成部とを備える。
本発明の第2の形態によると、評価方法であって、評価対象装置に対するエミュレータの操作ログの中から入力コマンドを抽出する入力コマンド抽出段階と、入力コマンド抽出段階において抽出された入力コマンドを使用した評価シナリオを作成する評価シナリオ生成段階とを備える。
本発明の第3の形態によると、プログラムであって、コンピュータを、評価対象装置に対するエミュレータの操作ログの中から入力コマンドを抽出する入力コマンド抽出部、入力コマンド抽出部が抽出した入力コマンドを使用した評価シナリオを作成する評価シナリオ生成部として機能させる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となり得る。
以上の説明から明らかなように、この発明によっては、評価シナリオの作成に要する工数を削減することができる。
一実施形態に係る評価装置100の利用環境の一例を示す図である。 評価方法を説明するフローチャートである。 評価装置100の最小構成の一例を示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではなく、また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、一実施形態に係る評価装置100の利用環境の一例を示す。評価装置100は、試験プロセスの自動化を支援するための装置である。
評価装置100は、入力コマンド抽出部13と、評価シナリオ生成部14とを備える。また、評価装置100は、エミュレータ16と、評価シナリオを実行する自動化評価ソフトウェア17とを備える。なお、エミュレータ16は、Telnetプロトコルによるリモートホストへの接続と、COMポートによるシリアル接続を可能とする。
評価装置100と評価対象装置Dとは、ネットワーク接続しており、評価装置100から評価対象装置Dに対してTelnet接続している。なお、評価装置100から評価対象装置Dへの接続は、Telnet接続に代えてSSH接続でもよい。
入力コマンド抽出部13は、エミュレータ16によって作成したログを読み込んだ後に、プロンプト部分やコマンド実行結果等の余分な情報を自動削除する。評価シナリオ生成部14は、実際に投入したコマンドのみを切り出して、自動化評価ソフトウェア17用の評価シナリオを自動生成する。
入力コマンド抽出部13は、予め削除対象のプロンプト表示を変数に格納し、対象ログから削除対象のプロンプトを検索していき対象のプロンプト表示部分のみを削除し、同一行のコマンド部分は残す。また、入力コマンド抽出部13は、プロンプト表示のない行は、削除することでコマンド実行結果の表示されている行も削除することができる。
また、入力コマンド抽出部13は、取得したログ上の時刻(タイムスタンプ)から、各コマンドの実行(応答時間)を算出し、シナリオ作成時にコマンド投入から何秒後に次のコマンドを投入するという間隔を調整する機能を持つ。また、入力コマンド抽出部13は、任意でコマンド間の待ち時間を指定することもできる。
図2は、評価方法を説明するフローチャートである。評価装置100は、評価対象装置Dからエミュレータ16のログを取得する(S101)。そして、入力コマンド抽出部13は、エミュレータ16のログから入力コマンドを抽出する(S102)。そして、評価装置100は、評価シナリオ生成部14によって抽出したコマンドを使用した評価シナリオを作成する(S103)。
以上説明したように、本実施の形態の評価装置100によれば、入力コマンド抽出部13は、評価対象装置に対する操作ログの中から入力コマンドを抽出する。そして、評価シナリオ生成部14は、入力コマンド抽出部13の抽出したコマンドを使用した評価シナリオを作成する。従って、評価装置100によれば、入力コマンド抽出部13が入力したコマンドの流れを自動的に抽出して評価シナリオの作成に要する工数を削減することができる。
また、本実施の形態の評価装置100によれば、入力コマンド抽出部13は、生ログからコマンド実行結果の表示箇所やプロンプト部分を自動削除して実際に投入したコマンドのみを切り出す。そして、評価シナリオ生成部14は、評価シナリオを自動生成する。従って、評価装置100によれば、入力したコマンドの流れを自動的に抽出して評価シナリオの作成に要する工数を削減することができる。
また、本実施の形態の評価装置100によれば、問題事象の再現試験を実施する際に、評価シナリオ生成部14は、取得したログデータから投入コマンドのみ切り出した評価シナリオを瞬時に自動生成できる。これにより、評価装置100によれば、作業者によるログ解析や再現試験にかかる工数を大幅に削減できる。
さらに、本実施の形態の評価装置100によれば、入力コマンド抽出部13は、エミュレータ16のログから余分な情報を自動削除する。そして、評価シナリオ生成部14は、実際に投入したコマンドのみを切り出して、既存の市販の自動化評価ソフトウェア用の評価シナリオシナリオを自動生成できる。
さらにまた、本実施の形態の評価装置100によれば、実行ログからコマンド以外の不要部分を取り除いて、そのまま試験シナリオを実行する場合、仮に、応答に時間がかかるコマンドがあった際に、その応答を待たずに、次のコマンドを投入してしまったとしても、文字列のうちの一つがホストから送られてくるか、タイムアウトが発生するまで、MACROを停止させることができる。
加えて、本実施の形態の評価装置100によれば、一律で間隔を空けたとしても、シナリオ作成後の自動試験に時間を要することがない。
また、本実施の形態の評価装置100によれば、手順書等で想定のコマンド間隔を設定し、この間隔を空けるような自動シナリオ作成があったとしても、実際に投入する機器のスペック等にてその想定は大きく変わる場合があるが、実際のログから応答時間を算出するため、例え、同じコマンドでも試験対象機器のスペックによって、異なる応答時間を考慮した自動試験シナリオを作成することができる。
加えて、本実施の形態の評価方法によれば、評価シナリオの作成に要する工数を削減することができる。
さらにまた、本実施の形態のプログラムによれば、評価シナリオの作成に要する工数を削減することができる。
なお、評価装置、評価方法及びプログラムは、前述した一実施形態に限定するものでなく、適宜な変形や改良等が可能である。
図3は、評価装置100の最小構成の一例を示す。評価装置100は、入力コマンド抽出部13及び評価シナリオ生成部14を少なくとも備える。
13 入力コマンド抽出部
14 評価シナリオ生成部
16 エミュレータ
17 自動化評価ソフトウェア
100 評価装置
D 評価対象装置

Claims (8)

  1. 評価対象装置に対するエミュレータの操作ログの中から入力コマンドを抽出する入力コマンド抽出部と、
    前記入力コマンド抽出部が抽出した入力コマンドを使用した評価シナリオを作成する評価シナリオ生成部と
    を備える評価装置。
  2. 前記評価対象装置を対象とするエミュレータ
    を更に備える請求項1に記載の評価装置。
  3. 前記評価シナリオを実行する自動評価ソフトウェア
    を更に備える請求項1又は2に記載の評価装置。
  4. 前記入力コマンド抽出部は、前記エミュレータの操作ログから余分な情報を削除して、入力コマンドを抽出する
    請求項1から3のいずれか一項に記載の評価装置。
  5. 前記入力コマンド抽出部は、予め削除対象のプロンプト表示を変数に格納し、対象ログから削除対象のプロンプトを検索していき対象のプロンプト表示部分のみを削除し、同一行のコマンド部分は残し、前記プロンプト表示のない行は削除することでコマンド実行結果の表示されている行も削除する
    請求項1から4のいずれか一項に記載の評価装置。
  6. 前記入力コマンド抽出部は、取得したログ上の時刻から、各コマンドの実行を算出し、シナリオ作成時にコマンド投入から何秒後に次のコマンドを投入するという間隔を調整し、任意でコマンド間の待ち時間を指定する
    請求項5に記載の評価装置。
  7. 評価対象装置に対するエミュレータの操作ログの中から入力コマンドを抽出する入力コマンド抽出段階と、
    前記入力コマンド抽出段階において抽出された入力コマンドを使用した評価シナリオを作成する評価シナリオ生成段階と
    を備える評価方法。
  8. コンピュータを、
    評価対象装置に対するエミュレータの操作ログの中から入力コマンドを抽出する入力コマンド抽出部、
    前記入力コマンド抽出部が抽出した入力コマンドを使用した評価シナリオを作成する評価シナリオ生成部
    として機能させるプログラム。
JP2013059650A 2013-03-22 2013-03-22 評価装置、評価方法及びプログラム Pending JP2014186436A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013059650A JP2014186436A (ja) 2013-03-22 2013-03-22 評価装置、評価方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013059650A JP2014186436A (ja) 2013-03-22 2013-03-22 評価装置、評価方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2014186436A true JP2014186436A (ja) 2014-10-02

Family

ID=51833978

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013059650A Pending JP2014186436A (ja) 2013-03-22 2013-03-22 評価装置、評価方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2014186436A (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0784838A (ja) * 1993-09-20 1995-03-31 Fujitsu Ltd 複数機能動作履歴の単一ファイル記録/再現方法及びその装置
JP2006155047A (ja) * 2004-11-26 2006-06-15 Nec Electronics Corp 検証システム及び検証方法
JP2009116535A (ja) * 2007-11-05 2009-05-28 Sony Corp 自動テストシステム及び自動テスト方法並びにプログラム
JP2012059039A (ja) * 2010-09-09 2012-03-22 Nec Corp コマンド管理装置、その方法及びそのプログラム
JP2012093996A (ja) * 2010-10-27 2012-05-17 Hitachi Systems Ltd ドキュメント類自動生成機能付クライアントコンピュータ

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0784838A (ja) * 1993-09-20 1995-03-31 Fujitsu Ltd 複数機能動作履歴の単一ファイル記録/再現方法及びその装置
JP2006155047A (ja) * 2004-11-26 2006-06-15 Nec Electronics Corp 検証システム及び検証方法
JP2009116535A (ja) * 2007-11-05 2009-05-28 Sony Corp 自動テストシステム及び自動テスト方法並びにプログラム
JP2012059039A (ja) * 2010-09-09 2012-03-22 Nec Corp コマンド管理装置、その方法及びそのプログラム
JP2012093996A (ja) * 2010-10-27 2012-05-17 Hitachi Systems Ltd ドキュメント類自動生成機能付クライアントコンピュータ

Similar Documents

Publication Publication Date Title
WO2018120721A1 (zh) 用户界面的测试方法、系统、电子装置及计算机可读存储介质
US20180018246A1 (en) Device, method and program for performing system testing
WO2018036529A1 (zh) 一种可视化测试报告生成方法
KR20150025106A (ko) 애플리케이션 검증결과 모니터링 서비스를 위한 검증장치, 단말장치, 시스템, 방법 및 컴퓨터로 판독 가능한 기록 매체
CN107797917B (zh) 性能测试脚本生成方法及装置
JP5937245B1 (ja) 運用手順評価装置および運用手順評価プログラム
KR102194974B1 (ko) 프로세스 검증 기능이 구비된 전력 계통 감시 및 제어 시스템
JP4672532B2 (ja) オペレータ擬似システムおよびオペレータ擬似方法
JP6434435B2 (ja) 情報処理装置、操作支援方法および操作支援プログラム
US7882205B2 (en) Device setting apparatus, device setting method, information acquiring apparatus, information acquiring method, storage medium, and program
JP4602312B2 (ja) 機器設定装置、機器設定方法、情報取得装置、情報取得方法、記録媒体及びプログラム
JP2020173570A (ja) 解析装置、解析方法、及びプログラム
JP2014186436A (ja) 評価装置、評価方法及びプログラム
WO2018036528A1 (zh) 一种自动测试方法
CN113127369A (zh) 一种执行脚本的处理方法以及装置
JP5668492B2 (ja) データ処理装置、コンピュータプログラム及びデータ処理方法
JP5591072B2 (ja) ソフトウェア自動試験装置及びソフトウェア自動試験方法
JP6221869B2 (ja) 画面遷移制御方法、画面遷移制御プログラムおよび画面遷移制御装置
WO2024127583A1 (ja) 操作支援装置、操作支援方法及び操作支援プログラム
WO2018036530A1 (zh) 一种测试设计书生成方法
JP5805166B2 (ja) 通信試験装置、通信試験方法およびプログラム
CN105407112B (zh) 一种设备能力的学习方法、装置和系统
JP6353759B2 (ja) テスト実行装置、テスト実行方法およびコンピュータプログラム
JP6261244B2 (ja) Webアプリケーションテスト装置およびそのプログラム
CN111767230A (zh) 一种web性能测试方法、装置及电子设备和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161206

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170606