JP2014041390A - Design and development support system - Google Patents

Design and development support system Download PDF

Info

Publication number
JP2014041390A
JP2014041390A JP2010255466A JP2010255466A JP2014041390A JP 2014041390 A JP2014041390 A JP 2014041390A JP 2010255466 A JP2010255466 A JP 2010255466A JP 2010255466 A JP2010255466 A JP 2010255466A JP 2014041390 A JP2014041390 A JP 2014041390A
Authority
JP
Japan
Prior art keywords
design
information
support system
development support
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010255466A
Other languages
Japanese (ja)
Inventor
Takehiko Nagano
岳彦 長野
Tatsuya Kameyama
達也 亀山
Tomohiko Shigeoka
知彦 茂岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2010255466A priority Critical patent/JP2014041390A/en
Priority to PCT/JP2011/076064 priority patent/WO2012067034A1/en
Publication of JP2014041390A publication Critical patent/JP2014041390A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0748Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a remote unit communicating with a single-box computer node experiencing an error/fault
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0766Error or fault reporting or storing
    • G06F11/0775Content or structure details of the error report, e.g. specific table structure, specific error fields
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3438Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment monitoring of user actions

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Debugging And Monitoring (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

PROBLEM TO BE SOLVED: To solve a problem that a designer/developer cannot completely recognize which parts of a target built-in system users using the built-in system feel unsatisfied with.SOLUTION: Various sensors are attached to a target built-in system, and various actions which users take when feeling unsatisfied are detected on the basis of information of the sensors. With a detection result as a trigger, behavior information of the system at timings of the actions is transmitted to a development environment accessible by a designer/developer. The designer/developer reads in the behavior information from an arbitrary design tool at an arbitrary timing. The design tool finds out which part on design causes disappointment indicated by the behavior information. Finally, the result is displayed on a screen to clearly specify which part in the system is problematic, to the designer/developer.

Description

本発明は、組込みシステムの設計・開発支援システムに関する。   The present invention relates to an embedded system design / development support system.

従来、組込みシステムの操作感(ユーザビリティ)を改善すること難しかった。理由は、使用者の主観に依存する部分があり、設計・開発者や商品企画者ら(以下、「設計・開発者」という)が顧客の不満に関する情報を、完全に収集出来ない点にある。その様なユーザビリティの向上については、これまでに幾つかの発明がされている。そもそも不満を収集する以前に、ソフトウェアの障害が発生した際に、障害情報を採取し、その情報を別の装置に対して送信したり、外部から参照したりする方法が検討されている。特許文献1では障害発生時のログ収集をするシステムにおいて、複数のログ記録先がある場合に、記録のズレなく記録を実施し、複数の記録先に外部から情報を参照出来るインタフェースを備えることで、該ログ記録機能のどれかに障害が発生しても、情報を収集可能とする技術を提案している。次に、ユーザビリティの改善については、特許文献2に示す様に、ユーザの操作内容を収集し、正しい操作方法と比較することで、操作性を悪くしている設計要素を絞り込むユーザビリティ改善システムが提案されている。   Conventionally, it has been difficult to improve the operational feeling (usability) of embedded systems. The reason is that there is a part that depends on the subjectivity of the user, and that designers / developers and product planners (hereinafter referred to as “designers / developers”) cannot collect information about customer dissatisfaction completely. . Several inventions have been made to improve such usability. Before collecting dissatisfaction in the first place, when a software failure occurs, a method of collecting failure information and transmitting the information to another device or referring to it from the outside has been studied. According to Patent Document 1, in a system for collecting logs when a failure occurs, when there are a plurality of log recording destinations, recording is performed without deviation of recording, and an interface that can refer to information from the outside is provided at the plurality of recording destinations. In this case, a technique is proposed in which information can be collected even if a failure occurs in any of the log recording functions. Next, for usability improvement, as shown in Patent Document 2, a usability improvement system that collects user's operation contents and compares it with the correct operation method to narrow down design elements that have deteriorated operability is proposed. Has been.

特開平9−259013号公報Japanese Patent Laid-Open No. 9-259013 特開2004−287716号公報JP 2004-287716 A

上記従来技術では、障害が発生することや、操作方法に間違いがある等の、明確な契機なり、設計・開発者が想定出来る条件時の情報しか収集出来ない。しかし、ユーザビリティは使用者の主観に依存する部分があり、設計・開発者が意図しない点で、該組込みシステムユーザが不満を抱いていることも考えられる。
従って、組込みシステムを使用するユーザが、対象となる組込みシステムのどの部分を不満に思っているかを設計・開発者が把握することは一般に困難であり、設計・開発者や、一部の声高なユーザの主観に依存しない、使いやすいシステムを提供することは難しいという課題がある。
In the above-described prior art, it is possible to collect only information under conditions that can be assumed by the designer / developer, such as when a failure occurs or there is a mistake in the operation method. However, usability has a part that depends on the subjectivity of the user, and the embedded system user may be dissatisfied with the point that the designer / developer does not intend.
Therefore, it is generally difficult for the designer / developer to understand which part of the target embedded system the user using the embedded system is dissatisfied with. There is a problem that it is difficult to provide an easy-to-use system that does not depend on the user's subjectivity.

本発明では、該当する組込みシステムに様々なセンサを取りつけ、それらの情報を元に、ユーザが不満に思った際の様々なアクションを検出する。左記検出結果をトリガーにし、そのアクションを取ったタイミングにおけるシステムの挙動情報を、設計・開発者らがアクセス出来る開発環境に送信する。設計・開発者は、任意のタイミングで上記挙動情報を任意の設計ツールから読み込む。設計ツールは、挙動情報で示された不満が、設計上の何処に対応するかを引当てる。最後に、その結果を画面上に表示し、設計・開発者にシステムのどの部分に問題があるのかを明示することで、ユーザが組込みシステムの何処に不満を持っているかを明らかにする。   In the present invention, various sensors are attached to the corresponding embedded system, and various actions when the user feels dissatisfied are detected based on the information. Using the detection result on the left as a trigger, the system behavior information at the timing when the action is taken is sent to the development environment accessible to the design / developer. The designer / developer reads the behavior information from an arbitrary design tool at an arbitrary timing. The design tool allocates where in the design the dissatisfaction indicated by the behavior information corresponds. Finally, the results are displayed on the screen, and the parts of the system that have problems are clearly shown to the designer / developer to clarify where the user is dissatisfied with the embedded system.

本発明の特徴は、(1)組込みシステムの設計・開発支援システムであって、出荷後の組込みシステムの使用中に、ユーザが処理に不満を思う挙動を示した際に、ユーザの動向を各種センサの情報から検知し、検知したタイミングでシステムの挙動情報を収集、ホスト環境に通知、ホスト環境上の記録装置に記録し、設計・開発者が任意のタイミングで、ユーザが不満を示した際に動作していた機能の情報を、ホスト環境の設計・開発ツール上に表示することにある。   The features of the present invention are (1) a design / development support system for embedded systems. When the embedded system is used after shipment, various behaviors of the user are shown when the user shows dissatisfaction with the processing. Detects from sensor information, collects system behavior information at the detected timing, notifies the host environment, records it in a recording device on the host environment, and the designer / developer shows dissatisfaction at any time It is to display information on functions that were operating in the host environment design / development tool.

(2)(1)において、幾つかのセンサ群から入力された情報を元に、ユーザが実施中の機能に対し、不満を持っているか否かを自動識別し、設計・開発者にフィードバックすることが望ましい。   (2) In (1), based on information input from several sensor groups, whether the user is dissatisfied with the function being implemented is automatically identified and fed back to the designer / developer It is desirable.

(3)(1)、(2)において、センサ群から入力された情報が異常と判定されなかった場合の情報を元に自動で追加学習をすることで、ユーザの特性に合わせ、高い識別精度でユーザの不満を検出することもできる。   (3) In (1) and (2), by performing additional learning automatically based on information when the information input from the sensor group is not determined to be abnormal, high identification accuracy is matched to user characteristics You can also detect user dissatisfaction.

(4)(1)、(2)または(3)において、ネットワーク的に独立した環境においても、記録媒体を経由することで、ユーザの不満を設計・開発者にフィードバックすることもできる。   (4) In (1), (2) or (3), even in a network-independent environment, user dissatisfaction can be fed back to the designer / developer via the recording medium.

(5)(1)、(2)または(3)において、単一の筺体で実現することができる。   (5) In (1), (2) or (3), it can be realized by a single casing.

(6)(1)において、ユーザの不満を直接設計・開発者に送信することが出来る機能を備え、不満を持った際に直接設計・開発者に情報を送信しても良い。   (6) In (1), it is possible to provide a function capable of directly transmitting user dissatisfaction to the design / developer, and when dissatisfied, the information may be directly transmitted to the design / developer.

本発明により、多くのユーザが潜在的に不満に感じていた箇所と、設計上の位置情報の対応付けが可能となる。それにより、設計・開発者や、一部の声高なユーザの主観に依存しない、使いやすいシステムを提供することが可能になる。   According to the present invention, it is possible to associate a location where many users are potentially dissatisfied with design position information. As a result, it is possible to provide an easy-to-use system that does not depend on the subjectivity of the designer / developer or some loud users.

本発明の実施形態の全体構成の一例を示す図。The figure which shows an example of the whole structure of embodiment of this invention. システムの挙動情報を保存する際のデータ構造の一例を示す図。The figure which shows an example of the data structure at the time of preserve | saving the behavior information of a system. 異常検出装置005の一例を示す図。The figure which shows an example of the abnormality detection apparatus 005. 異常検出処理の処理シーケンスの一例を示す図。The figure which shows an example of the process sequence of an abnormality detection process. ユーザの異常行動を学習する処理シーケンスの一例を示す図。The figure which shows an example of the process sequence which learns a user's abnormal behavior. 本発明を実施する上で、通常の組込みシステムの設計・開発ツールの拡張に必要な機能の一例を示す図。The figure which shows an example of a function required for extending the design / development tool of a normal embedded system in implementing this invention. 解析情報のデータ構造の一例を示す図。The figure which shows an example of the data structure of analysis information. 挙動情報収集結果を、設計・開発ツールに反映するための処理の一例を示す図。The figure which shows an example of the process for reflecting a behavior information collection result in a design / development tool.

まず、本発明の第一の実施形態を説明する。   First, a first embodiment of the present invention will be described.

図1は、本発明による機能改善システムの一例の説明図である。本発明による機能改善システムは、機能の改善対象であるターゲットシステム1と、改善対象のターゲットシステムの設計・開発を実施するホスト環境2からなる。   FIG. 1 is an explanatory diagram of an example of a function improvement system according to the present invention. The function improvement system according to the present invention includes a target system 1 that is a function improvement target and a host environment 2 that performs design and development of the target system to be improved.

ターゲットシステム1は、ターゲットシステムの挙動情報を記録するためのバッファメモリ001と、システムの制御や、ターゲットシステムの様々な機能を提供し、本機能改善システムによって改善される対象となる調査対象プログラム002と、調査対象プログラム002の挙動情報を収集し、バッファメモリ001に記録するトレーサ003、プロファイラ004と、ユーザの不満をセンシングし、ユーザが普段の振る舞いと異なる異常を検出し、異常と判断したタイミングで、トレーサ003や、プロファイラ004が、バッファメモリ001に記録した調査対象プログラム002の挙動情報を、それらトレーサ003、プロファイラ004経由で収集し、ホスト環境2に送信するために、通信モジュール006に引き渡す異常検出装置005と、異常検出装置005から取得した上記挙動情報を、ホスト環境2の通信モジュール011に対し送信、また、ホスト環境で作成されたトレーサ012を受信し、トレーサ003を更新する通信モジュール006と、異常検出時に使用する学習結果を保存しておく記録装置007からなる。   The target system 1 provides a buffer memory 001 for recording the behavior information of the target system, the control of the system, and various functions of the target system, and an investigation target program 002 to be improved by this function improvement system. Collecting behavior information of the program to be investigated 002 and recording it in the buffer memory 001, sensing the user's dissatisfaction, detecting an abnormality that is different from the usual behavior, and determining the abnormality Thus, the tracer 003 and the profiler 004 collect the behavior information of the investigation target program 002 recorded in the buffer memory 001 via the tracer 003 and the profiler 004, and deliver them to the communication module 006 for transmission to the host environment 2. Anomaly detection 005 and the communication module 006 that transmits the behavior information acquired from the abnormality detection device 005 to the communication module 011 of the host environment 2, receives the tracer 012 created in the host environment, and updates the tracer 003. And a recording device 007 for storing a learning result used when an abnormality is detected.

ホスト環境2は、ターゲットシステムの調査対象プログラムを設計・開発する際に使用する設計・開発ツール008と、記録装置010に記録された、調査対象プログラム002の挙動情報を、同じく記録装置010に記録された、挙動情報と、設計・開発情報を用いて、設計・開発ツールの、該当機能情報に重ね合わせて表示するための、データ解析機能009と、調査対象プログラム002の挙動情報や、設計・開発ツール008を用いて、調査対象プログラム002の設計・開発をした際に生成される設計・開発情報を記録する記録装置010と、ターゲットシステム1の通信モジュール006と、通信を実施し、調査対象プログラム002の挙動情報の取得や、新規に作成された、調査対象プログラムのトレーサ012を送信するための通信モジュール011と、調査対象プログラム002の解析を進める上で、トレース対象を変更するために新規に作成、若しくは記録箇所を更新したトレーサ012からなる。   The host environment 2 records in the recording device 010 the design / development tool 008 used when designing / developing the investigation target program of the target system and the behavior information of the investigation target program 002 recorded in the recording device 010. Using the behavior information and the design / development information, the data analysis function 009 for displaying the design / development tool superimposed on the corresponding function information, the behavior information of the investigation target program 002, the design / development information, The development tool 008 is used to communicate with the recording device 010 for recording design / development information generated when the investigation target program 002 is designed and developed, and the communication module 006 of the target system 1, and the investigation target To acquire behavior information of the program 002 and to send the newly created tracer 012 of the investigation target program A communication module 011, in advancing analysis of survey program 002 consists of tracer 012 updates created, or the recording spot new to change the traced.

バッファメモリのデータ構造:
図2は、トレーサ003や、プロファイラ004が収集するシステムの挙動情報を一時的または恒久的に保存するための、バッファメモリ001のデータ構造の一例を示す図である。バッファメモリは、ターゲットシステム1に含まれるトレーサ003や、プロファイラ004等の挙動情報収集機能の取得情報の内容に従う。図2は、トレーサ003についてのバッファメモリのデータ構造の一例であり、シーケンス番号(001−001)、イベント名称(001−002)、時刻(001−003)、内容1(001−004)、内容2(001−005)等の属性を持つ。シーケンス番号(001−001)は、トレーサが取得したイベント情報のシーケンス番号である。リソースが有限な場合は、定められた閾値を境にラップアラウンドする。イベント名称(001−002)は、取得するイベントの名称である。例えば、プロセスの切り替えや、割り込み、メモリ確保・解放やタイマ起動等の内容が記録される。ここではアプリケーション固有のイベント名称は書かなかったが、その様な内容が記録されても構わない。開発する対象がデジタルテレビの場合は、一例として、チャンネル切り替え、音量調整等が挙げられる。時刻(001−003)は、イベント名称(001−002)が発生した時刻である。内容1(001−004),内容2(001−005)..等の内容は、イベント名称(001−002)を解析する際に必要な補助情報が記録される。一例を挙げると、シーケンス番号1のプロセス切り替えというイベントでは、プロセス切り替えが起こったということだけがわかるよりも、それに付随し、どのプロセスから、どのプロセスへプロセス切り替えが発生したかということが判る方が、システムの挙動を正確に把握可能である。その様な、イベント名称だけでは不足する挙動解析を支援する補足情報である。プロファイラ004についても、同様にプロファイリングした情報が記録されるが、ここでは省略する。
Buffer memory data structure:
FIG. 2 is a diagram illustrating an example of a data structure of the buffer memory 001 for temporarily or permanently storing system behavior information collected by the tracer 003 and the profiler 004. The buffer memory follows the contents of the acquisition information of the behavior information collection function such as the tracer 003 and the profiler 004 included in the target system 1. FIG. 2 shows an example of the data structure of the buffer memory for the tracer 003. The sequence number (001-001), event name (001-002), time (001-003), content 1 (001-004), content 2 (001-005). The sequence number (001-001) is a sequence number of event information acquired by the tracer. When the resource is finite, wrap around with a predetermined threshold. The event name (001-002) is the name of the event to be acquired. For example, contents of process switching, interruption, memory allocation / release, timer activation, and the like are recorded. Although the application-specific event name is not written here, such contents may be recorded. When the object to be developed is a digital TV, examples include channel switching and volume adjustment. Time (001-003) is the time when the event name (001-002) occurs. Content 1 (001-004), content 2 (001-005). . As the contents, etc., auxiliary information necessary for analyzing the event name (001-002) is recorded. For example, in the event of process switching of sequence number 1, it is not only to know that process switching has occurred, but to know which process from which process has switched to which process. However, it is possible to accurately grasp the behavior of the system. It is supplementary information that supports behavioral analysis that is insufficient only with event names. The profiler 004 also records profiled information in the same manner, but is omitted here.

異常検出装置の例:
次に、図1のターゲットシステム1に示した異常検出装置005の詳細について、図3にて説明をする。異常検出装置005は、ユーザが該組込みシステムの使用時における不満を、様々なセンサから得られるセンシングデータを元に、検出するための装置である。異常検出装置005は、ユーザのアクションをセンシングするための様々なセンサ群5−001と、センシングした情報からユーザの正常な状態や、異常な状態を判断するための、学習・識別処理をするために、データのA/D変換や、サンプリング等、様々なプリ・プロセッシングをするための形式変換装置5−002と、形式変換されたデータと、既にユーザの正常状態を、学習装置5−006を用いて学習した結果である学習結果5−004を用いて、逐次ユーザが組込みシステムに不満を抱いているか、否かを判定し、不満がある(正常ではない…異常である)と判断した場合には、トレーサ003、プロファイラ004経由で、それら挙動情報収集ツールが収集した情報を、通信モジュール006に転送し、ホスト環境2の通信モジュール011に送信する様、通信モジュール006に依頼し、不満が無いと判断した場合には、その時点でバッファメモリ5−005に蓄積されているセンシングデータを使い、ターゲットシステム1のユーザの正常状態を学習する様に、学習装置5−006に対し処理依頼を実施する識別装置5−003と、形式変換装置5−002によって変換されたデータを、学習データとして使用出来るか否か、識別装置5−003が判定を終えるまで、一時的に情報を格納しておくバッファメモリ5−005と、識別装置5−003から発行された処理依頼を契機に、バッファメモリ5−005に蓄積された情報を用いて、機械学習のアルゴリズム等を用い、正常な状態を学習し、識別装置が使用する学習結果5−004と、記録装置007に保存されている学習結果を更新する学習装置5−006からなる。
Example of an anomaly detector:
Next, details of the abnormality detection apparatus 005 shown in the target system 1 of FIG. 1 will be described with reference to FIG. The abnormality detection device 005 is a device for detecting dissatisfaction when the user uses the embedded system based on sensing data obtained from various sensors. The anomaly detection device 005 performs various learning / identification processes for determining the normal state and abnormal state of the user from various sensor groups 5-001 for sensing the user's action and the sensed information. In addition, a format conversion device 5-002 for performing various pre-processing such as A / D conversion and sampling of data, the data converted in format, and the normal state of the user are stored in the learning device 5-006. Using the learning result 5-004, which is the result of learning using, it is determined whether or not the user is dissatisfied with the embedded system sequentially, and it is determined that there is dissatisfaction (not normal… abnormal) The information collected by the behavior information collection tool is transferred to the communication module 006 via the tracer 003 and the profiler 004, and the communication mode of the host environment 2 is transferred. When the communication module 006 is requested to transmit to the module 011 and it is determined that there is no dissatisfaction, the normal state of the user of the target system 1 is detected using the sensing data stored in the buffer memory 5-005 at that time. To determine whether or not the data converted by the format conversion device 5-002 and the identification device 5-003 that makes a processing request to the learning device 5-006 can be used as learning data. The information stored in the buffer memory 5-005 is triggered by the buffer memory 5-005 for temporarily storing information until the determination of -003 and the processing request issued from the identification device 5-003. Using a machine learning algorithm or the like, the normal state is learned, and the learning result 5-004 used by the identification device and the recording device 007 are stored. Consisting learning device 5-006 for updating the learning result that is.

異常検出装置の処理シーケンス:
図4は異常検出処理の処理シーケンスの一例を示すフローチャートである。システムの起動時などに、異常判定処理は開始する。処理開始後、ステップS−01に進み、記録装置007に保存されている過去の学習結果を読みだし、ワーキングメモリ上に学習結果5−004として読み出し、ステップS−02に進む。ステップS−02では、異常判定要求があったか、メモリを走査し、処理を停止するか否かを判定する。処理を停止する場合はそのまま終了し、そうでない場合はステップS−03に進む。ステップS−03では学習結果5−004と、5−002から取得したセンサ情報を元に、異常度を算出する。異常度の算出処理は、一般的には、機械学習の識別アルゴリズムのスコアを用いる。一例を挙げると、クラスタリングという手法がある。正常時の挙動情報を元に、それら挙動情報を、ベクトル空間上でクラスという塊に分類し、それらクラスの重心や代表ベクトルと、入力されたベクトルデータの距離を求め、その距離や、その距離を正規化したものを異常度として扱う。この様な異常度算出が終了すると、ステップS−04に進む。ステップS−04異常度比較では、学習結果5−004に記録されている閾値と、ステップS−03で求めた異常度を比較する。比較したらステップS−05に進む。ステップS−05では、ステップS−04で求めた比較結果を元に、次ステップ以降の処理の分岐を実施する。異常度が、閾知を超えていない場合は、ユーザが正常な状態であると判断し、正常状態の追加学習を行うため、ステップS−08に進む。閾値を越えた場合は、その時点で処理している調査対象プログラム002の機能の情報を収集するために、ステップS−06に進む。ステップS−06では、トレーサ003や、プロファイラ004によって、バッファメモリ001に記録された挙動情報を、トレーサ003やプロファイラ004が提供するAPIや、記録領域へのアクセス用のディスクリプタやアドレス情報等を参考に収集し、ステップS−07に進む。ステップS−07では、収集した情報を元に、通信モジュール006に対し、ステップS−06で収集した挙動情報を、ホスト環境2の通信モジュール011に対して送信して貰うよう、依頼を実施し、ステップS−02へ戻る。ステップS−08では、その時点で、ステップS−03にて算出した異常度の値から正常と判断されたため、正常状態の追加学習をするために、学習装置5−006に対し、学習を実施する様処理を依頼し、ステップS−02に進む。
Anomaly detection device processing sequence:
FIG. 4 is a flowchart illustrating an example of a processing sequence of the abnormality detection processing. The abnormality determination process starts when the system is started. After starting the processing, the process proceeds to step S-01, where the past learning result stored in the recording device 007 is read out, read out as a learning result 5-004 on the working memory, and the process proceeds to step S-02. In step S-02, it is determined whether an abnormality determination request has been made, the memory is scanned, and processing is stopped. If the process is to be stopped, the process is terminated as it is. If not, the process proceeds to step S-03. In step S-03, the degree of abnormality is calculated based on the learning result 5-004 and the sensor information acquired from 5-002. In general, the degree of abnormality calculation process uses a score of a machine learning identification algorithm. As an example, there is a technique called clustering. Based on normal behavior information, the behavior information is classified into classes called classes in the vector space, and the distance between the center of gravity and representative vectors of those classes and the input vector data is obtained. Treated as a degree of abnormality. When such calculation of the degree of abnormality ends, the process proceeds to step S-04. In step S-04 abnormality level comparison, the threshold value recorded in the learning result 5-004 is compared with the abnormality level obtained in step S-03. If it compares, it will progress to step S-05. In step S-05, the branch of the process after the following step is implemented based on the comparison result calculated | required by step S-04. If the degree of abnormality does not exceed the threshold, it is determined that the user is in a normal state, and the process proceeds to step S-08 to perform additional learning of the normal state. If the threshold value is exceeded, the process proceeds to step S-06 to collect information on the function of the investigation target program 002 being processed at that time. In step S-06, the behavior information recorded in the buffer memory 001 by the tracer 003 and the profiler 004 is referred to the API provided by the tracer 003 and the profiler 004, the descriptor for accessing the recording area, the address information, and the like. And proceed to Step S-07. In step S-07, based on the collected information, the communication module 006 is requested to send the behavior information collected in step S-06 to the communication module 011 in the host environment 2. Return to step S-02. In step S-08, since it is determined to be normal from the value of the degree of abnormality calculated in step S-03 at that time, learning is performed on the learning device 5-006 to perform additional learning of the normal state. The process is requested so as to proceed to step S-02.

図5は、異常検出装置005の一部である、学習装置5−006において実施される学習処理の処理シーケンスの一例を示すフローチャートである。識別装置5−003から、学習の依頼があった際に実施される処理である。処理の依頼を受け付けると、学習処理を開始し、ステップS−08に進む。ステップS−08では、バッファメモリ5−005に蓄積された学習結果を読み出して、ステップS−09に進む。ステップS−09ではステップS−08で読み出したデータを元に、学習を実施する。一般的には、機械学習等で用いられる学習アルゴリズムを使い、学習を実施する。一例を挙げると、クラスタリングという手法がある。取得した正常時の挙動情報を元に、それら挙動情報を、ベクトル空間上でクラスという塊に分類し、それらクラスの重心や代表ベクトルを求める処理である。学習が終わるとステップS−10に進む。ステップS−10では、ステップS−09で求めた学習結果を基に、学習結果を保存するメモリである学習結果5−004と、記録装置007に保存されている学習結果を更新する。更新修了後、ステップS−11に進む。ステップS−11では、学習対象データの残存数をチェックし無い場合には処理を終了、有る場合にはステップS−08に戻る。   FIG. 5 is a flowchart illustrating an example of a processing sequence of learning processing performed in the learning device 5-006, which is a part of the abnormality detection device 005. This process is performed when a learning request is received from the identification device 5-003. When the processing request is received, the learning process is started, and the process proceeds to step S-08. In step S-08, the learning result accumulated in the buffer memory 5-005 is read, and the process proceeds to step S-09. In step S-09, learning is performed based on the data read in step S-08. In general, learning is performed using a learning algorithm used in machine learning or the like. As an example, there is a technique called clustering. Based on the acquired behavior information at normal time, the behavior information is classified into classes called classes in the vector space, and the center of gravity and representative vectors of those classes are obtained. When the learning is finished, the process proceeds to step S-10. In step S-10, based on the learning result obtained in step S-09, the learning result 5-004 which is a memory for storing the learning result and the learning result stored in the recording device 007 are updated. After completion of the update, the process proceeds to step S-11. In step S-11, if the remaining number of learning target data is not checked, the process ends. If there is, the process returns to step S-08.

図6に設計・開発ツール008と記録装置010における、通常の組込みシステムの設計・開発ツールに追加し、組込みシステムユーザがどの機能で不満を持っていたか、設計・開発時の情報に反映するための定義情報を作成するために、通常の組込みシステムの設計・開発ツールに追加する機能の一例を示す。通常の組込みシステムの設計・開発ツールは多岐にわたる。例を挙げると、システムの設計をする場合でも、UMLというモデリング言語を使い、UMLのモデル記述をサポートするモデリングツールを使用して記述する場合もあれば、ドキュメントファイル作成プログラムを用いて、フローチャートを記述する場合もある。この様に、設計手法や、設計ツールは多岐に亘る。同様に、開発ツールも多岐にわたる。プログラミング言語だけでもかなりの数がある上、その言語から実行バイナリを生成するコンパイラや、関連する解析ツールは、言語の数より更に多い。なので、ここでは、それら設計環境、開発環境そのものではなく、それらの他に必要な通常の組込みシステムの設計・開発ツールに追加する部分の一例を示す。設計・開発ツール008には、設計ツールによって設計され、記録装置010に保存されている設計情報010−001と、開発ツールによって作成され、記録装置010に保存されている作成プログラム010−002から、処理イベントと対応する位置情報の一覧を抽出し、記録装置010解析情報010−003として保存するオブジェクト解析ツール008−001と、オブジェクト解析ツールによって解析され、保存された解析情報010−003と、トレース処理の関数名称等のラベル名称が登録された、ユーザが作成した定義情報010−004からトレース用に挿入されたフックやトレース文そのものを抽出し、解析情報010−003を更新するトレース箇所登録ツール008−002と、上記した設計情報010−001,作成プログラム010−002,解析情報010−003,定義情報010−004と、それらを記録しておく記録装置010から成る。   To add to the design / development tool of the normal embedded system in the design / development tool 008 and the recording device 010 in FIG. 6 and reflect in the design / development information which function the embedded system user was dissatisfied with An example of a function added to a normal embedded system design / development tool in order to create the definition information is shown. There are a wide variety of design and development tools for ordinary embedded systems. For example, even when designing a system, a modeling language called UML may be used to describe using a modeling tool that supports UML model description, or a flowchart may be created using a document file creation program. May be described. In this way, there are a wide variety of design methods and design tools. Similarly, the development tools are diverse. There are quite a few programming languages alone, and the number of compilers and associated analysis tools that generate executable binaries from that language is even greater than the number of languages. Therefore, here, an example of a part to be added to a normal embedded system design / development tool that is necessary instead of the design environment and the development environment itself is shown. The design / development tool 008 includes design information 010-001 designed by the design tool and stored in the recording device 010, and a creation program 010-002 created by the development tool and stored in the recording device 010. A list of position information corresponding to the processing event is extracted and stored as recording device 010 analysis information 010-003, analysis information 010-003 analyzed and stored by the object analysis tool, and trace Trace location registration tool for extracting hooks and trace statements inserted for tracing from definition information 010-004 created by the user, in which label names such as processing function names are registered, and updating analysis information 010-003 008-002 and the design information 010-00 described above , Creation program 010-002, analysis information 010-003, and definition information 010-004, and them from recording to keep recording apparatus 010.

図7は、記録装置010に保存されている解析情報010−003のデータ構造の一例を示す図である。解析情報010−003は、設計に使うツールや、設計手法、プログラムの作成に使うコンパイラやツールチェイン等によって様々に変わる。解析情報010−003のデータ構造は、管理ID(010−003−001),ラベル名称(010−003−002),イベント名称(010−003−003),アドレス(010−003−004),問題箇所(010−003−005)から成る。管理ID(010−003−001)は、トレースを取得する先を管理するためのIDである。ラベル名称(010−003−002)は、トレースを取得する位置を示す関数名称や、関数名称とそのオフセット等で表わされる名称である。イベント名称(010−003−003)は、トレースやプロファイルの内容を示す名称である。アドレス(010−003−004)は、トレースを取得するラベル名称に対応するアドレス、即ちトレースを取るアドレスである。問題箇所(010−003−005)は、後述するトレース結果反映処理において、どの機能で組込みシステムユーザが不満を持ったか、システムが結果を書き込むための領域である。   FIG. 7 is a diagram illustrating an example of the data structure of the analysis information 010-003 stored in the recording device 010. The analysis information 010-003 varies depending on the tool used for design, the design method, the compiler used for creating the program, the tool chain, and the like. The data structure of the analysis information 010-003 includes a management ID (010-003-001), a label name (010-003-002), an event name (010-003-003), an address (010-003-004), and a problem. It consists of locations (010-003-005). The management ID (010-003-001) is an ID for managing the destination from which the trace is acquired. The label name (010-003-002) is a function name indicating a position where a trace is acquired, a function name and its offset, and the like. The event name (010-003-003) is a name indicating the contents of the trace or profile. The address (010-003-004) is an address corresponding to the label name from which the trace is acquired, that is, an address for taking the trace. The problem location (010-003-005) is an area in which the system writes a result indicating which function the embedded system user is dissatisfied with in the trace result reflection process described later.

図8は、取得した挙動情報より、該組込みシステムのどの機能の実行時に挙動情報が取得されたかを引当て、解析情報010−003の更新をするための関連処理について示す。通常の組込みシステムの設計・開発ツール008には、設計情報010−001と、作成プログラム010−002と、解析情報010−003を活用し、設計情報に記録された、ラベル名称、イベント名称と、解析情報010−003の問題箇所(010−003−005)で問題と記されているラベル名称イベント名称を引当て、設計・開発情報に解析結果を重ね合わせるための解析結果重ね合わせ処理008−003の追加を実施する。解析結果の重ね合わせは、該当する機能の表示方法を変更することでも実現出来る。また、該当する機能に、ポインタ等を重ね合わせる方法で実現しても構わない。次に、データ解析機能009について示す。データ解析機能009は、以下3つの処理を組み合わせることで、取得した挙動情報010−005、解析情報010−003から、図7で示した解析情報010−003における問題箇所(010−003−005)の更新を実現する。記録装置010に記録された挙動情報010−005を読み込み、ワークメモリ009−002を更新し、名前解決処理009−003に処理依頼をする挙動情報読み込み処理009−001と、挙動情報読み込み処理009−001から、データを貰い、図2に示した様なデータ構造でデータを一時的に記録すると同時に、名前解決処理009−003処理時に、解析情報010−003を図7に示すデータ構造で一時的に記録し、名前解決処理009−003によって、問題箇所か否かの判定結果の更新時の一時記憶として利用される、ワークメモリ009−002と、挙動情報読み込み処理009−001の処理依頼を受け、記録装置010から、解析情報010−003をワークメモリ上に読み出し、ワークメモリ上に展開されている図2に示す挙動情報の先頭から順に、図7に示す解析情報010−003に合致するイベント名称があるかマッチングをし、マッチングがある場合は、解析情報010−003の問題箇所(010−003−005)を更新し、全ての挙動情報010−005に対し処理が終了した後、設計情報更新処理090−004に対し、記録装置010に記録されている設計情報010−001を更新する様処理依頼をする名前解決処理009−003と、名前解決処理009−003からの処理依頼を受け、ワークメモリ上で更新された解析情報を元に、設計情報010−001の該当する機能のラベルやイベント名称に付加情報を追記・更新するための設計情報更新処理009−004からなる。   FIG. 8 shows related processing for updating the analysis information 010-003 by allocating which function of the embedded system was acquired from the acquired behavior information when the behavior information was acquired. The normal embedded system design / development tool 008 uses the design information 010-001, the creation program 010-002, and the analysis information 010-003, and the label name and event name recorded in the design information. An analysis result overlay process 008-003 for allocating the label name event name described as a problem in the problem location (010-003-005) of the analysis information 010-003 and overlaying the analysis result on the design / development information To add. Superimposition of analysis results can also be realized by changing the display method of the corresponding function. Moreover, you may implement | achieve by the method of superimposing a pointer etc. on the applicable function. Next, the data analysis function 009 will be described. The data analysis function 009 combines the following three processes to obtain a problem location (010-003-005) in the analysis information 010-003 shown in FIG. 7 from the acquired behavior information 010-005 and analysis information 010-003. Realize the update. Read behavior information 010-005 recorded in the recording device 010, update the work memory 009-002, and request behavior processing to the name resolution processing 009-003, behavior information reading processing 009-001, and behavior information reading processing 009- From 001, the data is received and the data is temporarily recorded in the data structure as shown in FIG. 2, and at the same time, the analysis information 010-003 is temporarily stored in the data structure shown in FIG. 7 during the name resolution process 009-003. Received by the name resolution process 009-003 and used as a temporary storage when updating the determination result of whether or not there is a problem location, the work memory 009-002 and the behavior information reading process 009-001 are received. The analysis information 010-003 is read from the recording device 010 onto the work memory, and is expanded on the work memory. In order from the top of the behavior information shown in FIG. 2, matching is performed to determine whether there is an event name that matches the analysis information 010-003 shown in FIG. 7. If there is matching, the problem location (010-003 in the analysis information 010-003 is found. -005) is updated, and the process is completed for all the behavior information 010-005, and the design information 010-001 recorded in the recording device 010 is updated for the design information update process 090-004. Based on the analysis information updated on the work memory in response to processing requests from the requested name resolution processing 009-003 and the name resolution processing 009-003, the labels and events of the corresponding functions in the design information 010-001 It consists of design information update processing 009-004 for adding / updating additional information to the name.

実施例1では、ホスト環境とターゲットシステムが、ネットワークによって接続されている例を示したが、ネットワークで接続されてなくても構わない。例えばその場合、通信モジュール006、011は、挿抜可能な記録装置で実現する。普段は、ターゲットシステム1側の通信モジュール006箇所に、SDカード等に代表される挿抜可能な記録装置を接続しておき、ターゲットシステム1を使用しているユーザが不満に思った際の挙動情報等を記録しておく。そして、開発者やターゲットシステム1のユーザが望んだ段階で、ターゲットシステム1から取り外し、ホスト環境に挿入して、実施例1と同じ内容で、解析を実施する。トレーサ012に一例を示すと、トレーサ等挙動情報収集用のツールを更新する場合は、更新したいタイミングで、ホスト情報から挿抜可能な記録装置に記録し、記録された記録装置をターゲットシステム1に挿入して、挙動情報収集用のツール更新処理を実施する。   In the first embodiment, the host environment and the target system are connected via the network. However, the host environment and the target system may not be connected via the network. For example, in this case, the communication modules 006 and 011 are realized by a recording device that can be inserted and removed. Usually, a behavioral information when a user using the target system 1 is dissatisfied by connecting a detachable recording device represented by an SD card or the like to the communication module 006 on the target system 1 side. Etc. are recorded. Then, when the developer or the user of the target system 1 desires, it is removed from the target system 1 and inserted into the host environment, and analysis is performed with the same contents as in the first embodiment. An example is shown in the tracer 012. When updating a tool for collecting behavior information such as a tracer, it is recorded in a recording device that can be inserted / removed from the host information at the timing to be updated, and the recorded recording device is inserted into the target system 1. Then, a tool update process for collecting behavior information is performed.

実施例1,2は、ターゲットシステム1とホスト環境2が、別々の環境となっているが、同一の環境(筺体)に収まっていても構わない。その場合は、通信モジュールを介したやり取りは実施されず、直接装置や機能間のやり取りが実施される。   In the first and second embodiments, the target system 1 and the host environment 2 are separate environments, but they may be contained in the same environment (enclosure). In that case, the exchange via the communication module is not carried out, and the exchange between the devices and functions is carried out directly.

実施例1において、センサ群の情報を自動的に識別する代わりに、ユーザが不満を直接提示出来る機能を備え、不満を持った際に、直接設計者に意思表示することが出来ても構わない。   In the first embodiment, instead of automatically identifying sensor group information, the user may be provided with a function that can directly present dissatisfaction, and when dissatisfied, the intention may be displayed directly to the designer. .

多くのユーザが潜在的に不満に感じていた箇所と、設計上の位置情報の対応付けが可能となり、組込みシステムを使用するユーザが、対象となる組込みシステムのどの部分に不満に思っているかを設計・開発者が把握することが容易となり、設計・開発者や、一部の声高なユーザの主観に依存しない、使いやすいシステムを提供することが可能となる。   Locations that many users are potentially dissatisfied can be associated with location information in the design, and which part of the target embedded system the user using the embedded system is dissatisfied with It becomes easy for the designer / developer to grasp, and it becomes possible to provide an easy-to-use system that does not depend on the subjectivity of the designer / developer and some loud users.

1…ターゲットシステム、2…ホスト環境、001…バッファメモリ、002…調査対象プログラム、003…トレーサ、004…プロファイラ、005…異常検出装置、006…通信モジュール、007…記録装置、008…設計・開発ツール、009…データ解析機能、010…記録装置、011…通信モジュール、012…トレーサ。 DESCRIPTION OF SYMBOLS 1 ... Target system, 2 ... Host environment, 001 ... Buffer memory, 002 ... Investigation target program, 003 ... Tracer, 004 ... Profiler, 005 ... Abnormality detection device, 006 ... Communication module, 007 ... Recording device, 008 ... Design and development Tool, 009, data analysis function, 010, recording device, 011, communication module, 012, tracer.

Claims (6)

組込みシステムの設計・開発支援システムであって、出荷後の組込みシステムの使用中に、ユーザが処理に不満を思う挙動を示した際に、ユーザの動向を各種センサの情報から検知し、検知したタイミングでシステムの挙動情報を収集、ホスト環境に通知、ホスト環境上の記録装置に記録し、設計・開発者が任意のタイミングで、ユーザが不満を示した際に動作していた機能の情報を、ホスト環境の設計・開発ツール上に表示することを特徴とする設計・開発支援システム。   An embedded system design / development support system that detects user behavior from information from various sensors when a user shows behavior that is unsatisfactory during processing of the embedded system after shipment. System behavior information is collected at the timing, notified to the host environment, recorded in a recording device on the host environment, and information on the function that was operating when the user indicated dissatisfaction at any time by the designer / developer. A design / development support system characterized by displaying it on the design / development tool of the host environment. 請求項1に記載の設計・開発支援システムにおいて、幾つかのセンサ群から入力された情報を元に、ユーザが実施中の機能に対し、不満を持っているか否かを自動識別し、設計・開発者にフィードバックすることを特徴とする設計・開発支援システム。   In the design / development support system according to claim 1, based on information input from several sensor groups, whether or not the user is dissatisfied with the function being executed is automatically identified, A design / development support system that features feedback to developers. 請求項1、2に記載の設計・開発支援システムにおいて、センサ群から入力された情報が異常と判定されなかった場合の情報を元に自動で追加学習をすることで、ユーザの特性に合わせ、高い識別精度でユーザの不満を検出することを特徴とする設計・開発支援システム。   In the design / development support system according to claim 1, by performing additional learning automatically based on information when the information input from the sensor group is not determined to be abnormal, according to the characteristics of the user, A design / development support system that detects user dissatisfaction with high identification accuracy. 請求項1、2又は3のいずれかに記載の設計・開発支援システムにおいて、ネットワーク的に独立した環境においても、記録媒体を経由することで、ユーザの不満を設計・開発者にフィードバックできることを特徴とする設計・開発支援システム。   The design / development support system according to any one of claims 1, 2, and 3, wherein user dissatisfaction can be fed back to the design / developer through a recording medium even in a network-independent environment. Design and development support system. 請求項1、2又は3のいずれかに記載の設計・開発支援システムにおいて、単一の筺体で実現することを特徴とする設計・開発支援システム。   4. The design / development support system according to claim 1, wherein the design / development support system is realized by a single housing. 請求項1に記載の設計・開発支援システムにおいて、ユーザの不満を直接設計・開発者に送信することが出来る機能を備え、不満を持った際に直接設計・開発者に情報を送信することを特徴とする設計・開発支援システム。   The design / development support system according to claim 1 has a function capable of directly transmitting a user's dissatisfaction to the design / developer, and transmitting information to the design / developer directly when dissatisfied. Characteristic design and development support system.
JP2010255466A 2010-11-16 2010-11-16 Design and development support system Pending JP2014041390A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010255466A JP2014041390A (en) 2010-11-16 2010-11-16 Design and development support system
PCT/JP2011/076064 WO2012067034A1 (en) 2010-11-16 2011-11-11 Design and development support system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010255466A JP2014041390A (en) 2010-11-16 2010-11-16 Design and development support system

Publications (1)

Publication Number Publication Date
JP2014041390A true JP2014041390A (en) 2014-03-06

Family

ID=46083966

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010255466A Pending JP2014041390A (en) 2010-11-16 2010-11-16 Design and development support system

Country Status (2)

Country Link
JP (1) JP2014041390A (en)
WO (1) WO2012067034A1 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016071557A (en) * 2014-09-29 2016-05-09 富士フイルム株式会社 Diagnosis support program development promotion device, operation method and operation program for diagnosis support program development promotion device, and diagnosis support program development promotion system
JP2018156348A (en) * 2017-03-17 2018-10-04 株式会社リコー Fault monitoring apparatus, fault monitoring system, and program
KR20190044359A (en) * 2017-10-20 2019-04-30 두산중공업 주식회사 Self-designing modeling system and method using artificial intelligence
CN112417449A (en) * 2020-11-12 2021-02-26 北京鸿腾智能科技有限公司 Abnormal behavior detection method, equipment, storage medium and device

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05314040A (en) * 1992-05-14 1993-11-26 Hitachi Ltd Tracing system
JP4370209B2 (en) * 2004-07-06 2009-11-25 パナソニック株式会社 Evaluation apparatus and method
JP4686299B2 (en) * 2005-08-17 2011-05-25 パナソニック株式会社 Usability evaluation apparatus, usability evaluation method and program
JP2009250811A (en) * 2008-04-07 2009-10-29 Toyota Motor Corp On-vehicle information terminal

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016071557A (en) * 2014-09-29 2016-05-09 富士フイルム株式会社 Diagnosis support program development promotion device, operation method and operation program for diagnosis support program development promotion device, and diagnosis support program development promotion system
JP2018156348A (en) * 2017-03-17 2018-10-04 株式会社リコー Fault monitoring apparatus, fault monitoring system, and program
KR20190044359A (en) * 2017-10-20 2019-04-30 두산중공업 주식회사 Self-designing modeling system and method using artificial intelligence
KR101984760B1 (en) 2017-10-20 2019-05-31 두산중공업 주식회사 Self-designing modeling system and method using artificial intelligence
CN112417449A (en) * 2020-11-12 2021-02-26 北京鸿腾智能科技有限公司 Abnormal behavior detection method, equipment, storage medium and device

Also Published As

Publication number Publication date
WO2012067034A1 (en) 2012-05-24

Similar Documents

Publication Publication Date Title
JP4148527B2 (en) Functional test script generator
CN103838537A (en) Control device and information processing apparatus
JP6201792B2 (en) Information processing apparatus and information processing program
US8676627B2 (en) Vertical process merging by reconstruction of equivalent models and hierarchical process merging
JP2012103786A (en) Test support device, control method, and program
US20080127037A1 (en) System and method for detecting software on a computing device
CN111158741A (en) Method and device for monitoring change of dependency relationship of business module on third-party class library
WO2007086150A1 (en) Memory destruction detection method and device
CN115967618A (en) Multi-project BMC (baseboard management controller) sensor configuration management method and device
JP2014041390A (en) Design and development support system
CN103365772B (en) Software test automatic evaluation device and method
CN114896168B (en) Quick debugging system, method and memory for automatic driving algorithm development
CN114679402B (en) Method and device for testing communication protocol between upper computer and lower computer of medical robot
JP5337187B2 (en) Migration test support system, migration test support program, migration test support method
CN106484561B (en) Virtual computer system and external device control method
JP2008182650A (en) Image forming apparatus and program
JP5605370B2 (en) System model management support system, system model management support method and program
CN115735368A (en) Device registration method and device, electronic device and storage medium
CN111522752A (en) Program test method, program test device, storage medium, and electronic apparatus
JP3459898B2 (en) Fault information tracer for embedded systems
CN110955595A (en) Problem repairing method and device, electronic equipment and computer readable storage medium
US20060136426A1 (en) Method for automated control of an internet site, as well as a use
JP7390505B1 (en) Management systems, management methods and programs
JP2013080386A (en) Information processing device and address management method
CN112905396B (en) Information display method, device and equipment and storage medium