KR20150089699A - Apparatus for evaluating of e-discovery solution - Google Patents

Apparatus for evaluating of e-discovery solution Download PDF

Info

Publication number
KR20150089699A
KR20150089699A KR1020140010613A KR20140010613A KR20150089699A KR 20150089699 A KR20150089699 A KR 20150089699A KR 1020140010613 A KR1020140010613 A KR 1020140010613A KR 20140010613 A KR20140010613 A KR 20140010613A KR 20150089699 A KR20150089699 A KR 20150089699A
Authority
KR
South Korea
Prior art keywords
evaluation
tool
search
electronic evidence
unit
Prior art date
Application number
KR1020140010613A
Other languages
Korean (ko)
Inventor
조수형
김건우
이상수
이주영
최우용
은성경
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020140010613A priority Critical patent/KR20150089699A/en
Publication of KR20150089699A publication Critical patent/KR20150089699A/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/18Legal services

Landscapes

  • Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Engineering & Computer Science (AREA)
  • Marketing (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Technology Law (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Debugging And Monitoring (AREA)

Abstract

Disclosed is an apparatus for evaluating an e-discovery solution. The apparatus for evaluating en e-discovery solution comprises: an evaluation target managing unit which identifies a driving environment for the e-discovery solution; an evaluation item creating unit which creates functions required for each procedure of e-discovery as evaluation items using the driving environment of the e-discovery solution; an evaluation preparing unit which identifies whether the e-discovery solution provides the functions using the created evaluation items and generates a query of the e-discovery solution referring to an experimental data set; a search executing unit which performs a search via the e-discovery solution with the generated query, and obtains information including one among time consumed in the search, a retrieved word, the number of retrieved documents; and an evaluation scale calculating unit which evaluates information search performance of the e-discovery solution by comparing the obtained information with a reference data set.

Description

전자증거개시 도구의 평가장치{APPARATUS FOR EVALUATING OF E-DISCOVERY SOLUTION}[0001] APPARATUS FOR EVALUATION OF E-DISCOVERY SOLUTION [0002]

본 발명은 전자증거개시(E-Discovery, Discovery of Electrically Stored Information) 도구의 평가장치에 관한 것으로서, 구체적으로 각종 소송 시, 증거자료를 전자적 자료로 제출하는 기능을 제공하는 전자증거개시 도구의 성능을 평가하는 장치에 관한 것이다.
The present invention relates to a device for evaluating an electronic evidence (E-Discovery) tool, and more particularly, to an electronic evidence disclosure tool that provides a function of presenting evidence in electronic form in various lawsuits And to a device for evaluating the same.

증거개시제도(Discovery)는 소송당사자가 상대방이나 제 3자로부터 소송과 관련된 증거자료를 수집하기 위한 변론 전 절차를 통칭하는 개념으로, 민사소송이나 형사소송에 있어서 법원의 개입 없이 당사자간에 서로의 요청에 의해 소송과 관련된 정보를 공개하는 법률 제도이다. Discovery is a concept that collectively collects evidence related to litigation from the other party or a third party. It is the concept of discovery, in which a party can request each other without a court intervention in civil or criminal proceedings. Is a legal system that discloses information related to litigation.

종래의 이러한 증거개시제도의 대상은 종이문서와 증거물과 같은 오프라인상의 증거로 국한되어 왔다. 그러나 근래에는 다양한 구동방식을 갖고 있는 디지털 장치로부터 추출된 디지털 증거의 비중이 확대되어 가고 있다. 즉, 오프라인 증거보다 온라인 및 네트워크상의 증거에 대한 증거개시절차가 보다 확대되고 있다. The object of this conventional commissioning system has been limited to offline evidence such as paper documents and evidence. However, in recent years, the proportion of digital evidence extracted from digital devices having various driving methods has been increasing. In other words, evidence-based procedures for online and network evidence are wider than offline evidence.

이에 따라, 근래에는 기존의 증거개시의 대상을 종이문서로 제한했던 것을 확대하여 소송 당사자간에 전자적 자료(ESI, Electrically Stored Information)를 개시하는 절차인 전자증거개시(E-Discovery, Discovery of Electrically Stored Information)를 이용한 증거개시절차가 이용되고 있다. Accordingly, in recent years, there has been a proliferation of electronic documents (ESI, Electrically Stored Information) between parties involved in the litigation by expanding the limitation of existing documents to paper documents, which is a discovery of Electrically Stored Information ) Have been used.

전자증거개시 도구는 이러한 전자증거개시 절차를 지원하는 솔루션으로서, 증거 자료로 전자적 자료를 제출해야 하는 각종 소송을 대비하여 자료의 식별, 수집, 처리, 검토 및 생산 등의 기능을 제공하는 소프트웨어(Software)를 의미한다. 더불어, 근래에는 다양한 데이터관리 업체들에서 전자증거개시와 관련된 소프트웨어를 개발하고 있다. The Electronic Evidence Initiation Tool is a solution that supports these electronic evidence initiation procedures. It is a software that provides functions such as identification, collection, processing, review, and production of data in preparation of various lawsuits in which electronic data must be submitted as evidence. ). In addition, various data management companies are currently developing software related to electronic evidence disclosure.

도 1은 종래의 CommVault사가 제공하는 전자증거개시 도구의 개념도이다.1 is a conceptual diagram of an electronic evidence disclosure tool provided by a conventional CommVault corporation.

도 1에 도시된 바와 같이, CommVault사는 단일 플랫폼 상에서 데이터를 분석, 복사, 보호, 아카이빙, 검색할 수 있는 데이터 관리 소프트웨어인 SIMPANA(10) 기반의 데이터 관리 솔루션 업체로, 전자증거개시 기능을 제공하기 위해 기존의 아카이빙과 데이터 보호 기능에 검색과 분석 기능을 추가한 소프트웨어를 제공하고 있다. As shown in FIG. 1, CommVault is a data management solution provider based on SIMPANA (10), a data management software capable of analyzing, copying, protecting, archiving and searching data on a single platform. And provides software that adds search and analysis capabilities to existing archiving and data protection features.

그러나 CommVault사와 같은 업체들이 제공하는 기존의 전자증거개시 도구들은 도구마다 제공하는 기능이 다르다. 즉, 대부분의 전자증거개시 도구들은 전자증거개시의 절차인 식별, 보존, 수집, 처리, 검토 및 생산 기능을 부분적으로만 제공하고 있기 때문에, 사용자가 전자증거개시 도구의 성능을 비교 및 평가하는 것이 어려운 문제점이 있다. However, existing electronic evidence-based tools provided by vendors such as CommVault differ in the features provided by each tool. That is, since most electronic evidence-initiating tools provide only partial identification, conservation, collection, processing, review and production functions of electronic evidence-initiating procedures, it is important for users to compare and evaluate the performance of electronic evidence- There is a difficult problem.

따라서, 다양한 전자증거개시 도구들이 소송에 필요한 전자적 자료를 정확히 수집하고 분석하는지를 평가하고, 공통된 평가 기준을 찾아 도구의 성능을 판단하는 평가방법이 필요하다.
Therefore, there is a need for an evaluation method that evaluates whether various electronic evidence commissioning tools accurately collect and analyze the electronic data required for litigation, and finds a common evaluation criterion and determines the performance of the tool.

따라서, 본 발명의 목적은 전술한 문제점을 해결하기 위하여, 전자증거개시 도구가 제공하는 검색기능을 평가하는 방법 및 장치를 제공하는 데 있다. It is therefore an object of the present invention to provide a method and apparatus for evaluating a search function provided by an electronic evidence disclosure tool in order to solve the above-mentioned problems.

또한, 여러 전자증거개시 도구의 검색기능을 이용한 자료의 검색결과를 비교하고, 비교결과를 이용하여 전자증거개시 도구의 성능을 판단하는 평가방법 및 장치를 제공하는 데 있다.
It is also an object of the present invention to provide an evaluation method and apparatus for comparing the retrieval results of data using the retrieval function of various electronic evidence opening tools and determining the performance of the electronic evidence opening tool using the comparison results.

상술한 목적을 달성하기 위한 본 발명의 일면에 따른 전자증거개시 도구의 평가장치는 상기 전자증거개시 도구의 정보와 구동환경을 파악하는 평가대상 관리부, 파악한 상기 전자증거개시 도구의 구동환경을 이용하여 전자증거개시의 절차별 기능을 평가항목으로 생성하는 평가항목 작성부, 생성된 상기 평가항목을 이용하여 상기 전자증거개시 도구의 기능 제공 유무를 파악하고, 실험데이터 집합을 참조하여 상기 전자증거개시 도구의 검색문을 생성하는 평가 준비부, 생성된 상기 검색문을 이용하여 상기 전자증거개시 도구를 통한 검색을 수행하고, 수행결과로 검색 소요시간, 검색된 단어, 검색된 문서 수를 획득하는 검색 실행부 및 획득한 상기 정보를 기준데이터 집합과 비교하여 상기 전자증거개시 도구의 정보검색성능을 평가하는 평가척도 계산부를 포함한다.
According to an aspect of the present invention, there is provided an apparatus for evaluating an electronic evidence starting tool, including an evaluation object management unit for identifying information and a driving environment of the electronic evidence start tool, An evaluation item creation unit that creates a function for each procedure of electronic evidence initiation as an evaluation item, a function of determining whether or not the function of the electronic evidence start tool is provided using the generated evaluation item, An evaluation preparation unit for generating a search statement of the electronic evidence, a search execution unit for performing a search through the electronic evidence start tool using the generated search statement, obtaining a search time, a searched word, And an evaluation scale for evaluating the information retrieval performance of the electronic evidence start tool by comparing the acquired information with a reference dataset And a calculation unit.

본 발명에 의하면, 소송을 위한 전자적 자료의 식별, 수집, 처리, 검토 및 생산 기능이 전자증거개시 도구에 있는지 평가할 수 있다. 또한, 다양한 전자증거개시 도구들의 성능비교가 가능하여, 기업에서 도입하고자 하는 전자증거개시 도구의 선택기준으로 활용할 수 있다. 그리고, 평가에 소요되는 비용을 크게 절감하는 효과가 있다.
According to the present invention, it is possible to evaluate whether the function of identifying, collecting, processing, reviewing and producing electronic data for litigation is in the electronic evidence disclosure tool. Also, it is possible to compare the performance of various electronic evidence initiation tools, and it can be used as a selection criterion of electronic evidence commencement tool to be introduced in the enterprise. There is an effect of greatly reducing the cost required for the evaluation.

도 1은 종래의 CommVault사가 제공하는 전자증거개시 도구의 개념도이다.
도 2는 본 발명의 일 실시 예에 따른 전자증거개시 도구 평가장치의 구성을 나타낸 블록도이다.
도 3은 전자증거개시 절차 별 사전평가항목을 나타낸 도면이다.
도 4는 본 발명의 일 실시 예에 따른 기준데이터 집합의 적합성을 검토하는 순서도이다.
도 5는 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가방법을 나타낸 순서도이다.
도 6은 본 발명의 일 실시 예가 적용될 수 있는 컴퓨터 시스템을 보여주는 블록도이다.
1 is a conceptual diagram of an electronic evidence disclosure tool provided by a conventional CommVault corporation.
2 is a block diagram illustrating a configuration of an electronic evidence initiation tool evaluation apparatus according to an embodiment of the present invention.
FIG. 3 is a diagram showing a preliminary evaluation item for each electronic evidence initiation procedure.
4 is a flow chart for examining the suitability of a reference data set according to an embodiment of the present invention.
5 is a flowchart illustrating an evaluation method of an electronic evidence initiation tool according to an embodiment of the present invention.
6 is a block diagram illustrating a computer system to which an embodiment of the invention may be applied.

본 발명은 전자증거개시 도구(E-DISCOVERY SOLUTION)가 검색할 수 있는 파일 형식으로 생성한 실험데이터 집합과 기 저장된 기준데이터 집합을 이용하여 도구의 자료검색기능을 평가하는 장치 및 방법을 제공한다. The present invention provides an apparatus and method for evaluating a data retrieval function of a tool using an experimental data set generated in a file format that can be searched by an electronic evidence opening tool (E-DISCOVERY SOLUTION) and a pre-stored reference data set.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것일 뿐이므로 본 발명의 권리범위는 청구항의 기재에 의해 정하여 진다.BRIEF DESCRIPTION OF THE DRAWINGS The advantages and features of the present invention and the manner of achieving them will become apparent with reference to the embodiments described in detail below with reference to the accompanying drawings. The present invention may, however, be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. Rather, these embodiments are provided so that this disclosure will be thorough and complete, and will fully convey the scope of the invention to those skilled in the art. The scope of the present invention is defined by the description of the claims, since it is only provided to fully inform the owner of the scope of the invention.

한편, 본 명세서에서 사용된 용어는 실시 예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소, 단계, 동작 및/또는 소자에 하나 이상의 다른 구성요소, 단계, 동작 및/또는 소자의 존재 또는 추가함을 배제하지 않는다. It is to be understood that the terminology used herein is for the purpose of describing particular embodiments only and is not intended to be limiting of the invention. The singular forms herein include plural forms unless the context clearly dictates otherwise. &Quot; comprises " and / or "comprising" when used in this specification is taken to specify the presence or absence of one or more other components, steps, operations and / Or add-ons.

이하, 본 발명의 따른 실시 예를 첨부된 도면을 참조하여 상세하게 설명하도록 한다. Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 2는 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가장치의 구성을 나타낸 블록도이며, 도 3은 전자증거개시 절차 별 사전평가항목을 나타낸 도면이다. 설명의 이해를 돕기 위해 도 2와 도 3을 함께 참조하여 설명하기로 한다. FIG. 2 is a block diagram illustrating a configuration of an evaluation apparatus for evaluating an electronic evidence according to an exemplary embodiment of the present invention. FIG. To facilitate understanding of the description, FIG. 2 and FIG. 3 will be described together.

도 2에 도시된 바와 같이, 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가장치(200)는 전자증거개시 도구의 자료검색기능을 평가하기 위하여 평가대상 관리부(210), 평가항목 작성부(220), 평가 준비부(230), 검색 실행부(240), 평가척도 계산부(250)를 포함한다. 2, the evaluation apparatus 200 for evaluating the electronic evidence provision tool according to an exemplary embodiment of the present invention includes an assessment object management unit 210, an evaluation item creation unit 210, An evaluation preparation unit 230, a search execution unit 240 and an evaluation scale calculation unit 250. [

평가대상 관리부(210)는 평가대상인 전자증거개시 도구(E-DISCOVERY SOLUTION)(이하, 도구라 통칭한다.)의 명칭, 제조사 등 도구의 기본 정보를 파악하고, 도구를 실행하는데 필요한 라이브러리나 실행파일을 설치하여 구동환경을 준비한다. 구동환경이 준비되면 사용자 안내문, 매뉴얼, 백서를 통해 도구의 기능을 파악하거나 직접 도구를 사용해보고 기능을 파악한다.The evaluation object management section 210 grasps the basic information of the tool such as the name of the electronic evidence start tool (E-DISCOVERY SOLUTION) to be evaluated (hereinafter collectively referred to as a tool) and the maker, To prepare a driving environment. Once the operating environment is ready, you can use tool tips, manuals, and white papers to identify the features of the tool, or use the tools and understand the features.

평가항목 작성부(220)는 전자증거개시의 식별, 수집, 처리, 검토 및 생산 절차에서 필요한 기능의 목록표인 사전평가항목(224)을 참조하여, 해당 도구가 제공할 필요가 있는 절차 별 기능을 파악하고, 파악된 기능을 바탕으로 평가항목을 생성한다. 예컨대, 도 3에 도시된 바와 같이, 전자증거개시의 절차 중, 식별 절차에는 도구의 제공기능을 평가하기 위한 사전평가항목(224)이 식별 절차의 기능을 평가하기 위한 사전평가항목(224)이 소장열람기능과 관련된 항목, 소송사건의 사전분석기능과 관련된 항목이 있으며, 수집 절차에는 사전평가항목(224)이 자료의 수집 및 저장기능이 있다. 이러한 평가항목 작성부(220)는 전자증거개시의 절차에서, 해당 도구가 제공하는 기능을 파악하고, 파악된 기능을 바탕으로 평가항목을 생성한다.The evaluation item creation unit 220 refers to the preliminary evaluation item 224, which is a list of functions required in the identification, collection, processing, review, and production procedures of the electronic evidence commencement, And generates an evaluation item based on the identified function. For example, as shown in Fig. 3, among the procedures of electronic evidence initiation, the identification procedure includes a pre-evaluation item 224 for evaluating the function of providing the tool, and a pre-evaluation item 224 for evaluating the function of the identification procedure There are items related to the collection function and items related to the pre-analysis function of the case. The collection procedure includes the function of collecting and storing data (224). The evaluation item creation unit 220 grasps the functions provided by the tool in the procedure of starting the electronic evidence, and generates evaluation items based on the identified functions.

평가 준비부(230)는 평가대상인 도구가 자료검색기능을 제공하는지 파악하고, 도구가 자료검색기능을 제공할 경우, 도구의 자료검색기능 평가에 적용할 문서들의 종류 및 데이터를 수집하여 실험데이터 집합(260) 을 생성한다. 또한, 생성된 실험데이터 집합(260)을 이용하여 자료검색기능의 평가를 위한 검색문을 도구가 제공하는 검색 기법에 맞게 변형하여 변형된 검색문 데이터를 생성한다.The evaluation preparation unit 230 determines whether the tool to be evaluated provides a data search function. If the tool provides a data search function, the evaluation preparation unit 230 collects the types and data of the documents to be applied to the tool's data search function evaluation, (260). Further, the modified search data is generated by modifying the search statement for evaluating the data search function according to the search method provided by the tool using the generated experimental data set 260.

구체적으로, 실험데이터 집합(260)은 평가대상 관리부(204)가 획득한 정보인, 해당 도구가 읽을 수 있는 파일형식 정보를 이용하여 평가 준비부(230)가 생성한 데이터들의 집합이다. 예컨대, 이미지 파일, 음성 파일, 워드 파일, 한글 파일을 포함하는 원시데이터(Raw Data)에서 평가대상인 사용자에게 이미지 파일 및 워드 파일만 제공할 수 있는 경우, 평가 준비부(230)는 이미지 파일과 워드파일로만 이루어진 실험데이터 집합(260)을 생성한다. Specifically, the experiment data set 260 is a set of data generated by the evaluation preparation unit 230 using the file format information that can be read by the tool, which is the information acquired by the evaluation object management unit 204. For example, when only the image file and the word file can be provided to the user to be evaluated in the raw data including the image file, the audio file, the word file, and the Korean file, the evaluation preparation unit 230 may store the image file and the word And generates an experimental data set 260 consisting only of files.

검색 실행부(240)는 평가 준비부(230)에서 생성한 검색문 데이터를 이용하여 도구의 검색기능을 이용한 검색작업을 수행하고, 검색작업을 위해 도구가 동작하는 데 소요된 시간, 검색된 단어, 검색된 문서와 같은 정보를 이용하여 증거로써 적합한 문서의 개수 정보를 획득한다. The search execution unit 240 performs a search operation using the search function of the tool using the search statement data generated by the evaluation preparation unit 230, and calculates the time spent for the tool to operate for the search operation, Using the same information as the searched document, the number of suitable documents is obtained as evidence.

평가척도 계산부(250)는 검색 실행부(240)에서 획득한 문서의 개수 정보와 기 저장된 평가 기준개수 정보를 비교하여 도구의 자료검색기능을 평가한다. The evaluation scale calculation unit 250 evaluates the data search function of the tool by comparing the number information of the document acquired by the search execution unit 240 with the previously stored evaluation reference number information.

여기서, 평가 기준개수 정보는 기 저장된 기준데이터 집합(214)을 이용한 것으로써, 온라인상에 공개되어 있는 특정 소송, 예컨대 Enron 소송에 제출되었던 자료 데이터를 이용하여 생성된 정보이다. 이하 도 4을 참조하여 기준 데이터 집합에 관하여 자세히 설명하고자 한다. Herein, the evaluation reference number information is information that is generated using the pre-stored reference data set 214 by using data data that has been submitted to a specific litigation that is disclosed on-line, for example, Enron litigation. Reference data sets will now be described in detail with reference to FIG.

도 4는 본 발명의 일 실시 예에 따른 기준데이터 집합의 적합성을 검토하는 순서도이다4 is a flow chart for examining the suitability of a reference data set according to an embodiment of the present invention

특별히 언급하지 않는 한, 도 4의 수행주체는 전자증거개시 도구의 평가장치(200)의 평가 준비부(230)를 의미한다. Unless specifically stated otherwise, the performing entity in FIG. 4 means the evaluation preparation section 230 of the evaluation apparatus 200 of the electronic evidence start-up tool.

도 4에 도시된 바와 같이, 여러 전자증거개시 도구로 온라인상에 공개되어 있는 특정 소송, 예컨대 Enron 소송에 제출되었던 문서를 검색한다. As shown in FIG. 4, a search is made for a document that has been submitted to a specific litigation, e.

검색된 결과 문서 중, 기 설정된 임계치 개수 이상, 예컨대 5000개의 문서를 무작위로 수집한다(S400). In step S400, a predetermined number of thresholds, for example, 5000 documents, are randomly collected from the retrieved document.

수집된 문서 중, 공통되는 문서를 병합한다(S402). 여기서, 병합은 기 설정된 임계치 개수 이상에 해당하는 문서의 병합을 의미하는 것으로서, 예컨대, 여러 도구가 공통으로 검색한 문서에서는 100개, 하나의 도구에서만 검색한 문서는 50개, 모든 도구가 검색하지 못한 문서에서는 50개를 무작위로 선택하여 병합하는 방법이다. Among the collected documents, common documents are merged (S402). Here, the merge means merging documents corresponding to a predetermined number of thresholds or more. For example, in the case of a document that is commonly retrieved by a plurality of tools, 100 documents are retrieved, 50 documents retrieved by only one tool, It is a method to merge 50 randomly selected documents.

병합된 문서를 이용하여 도구가 제공하는 기능을 파악하기 위해 선정된 평가항목을 다시 한번 재평가한다(S404). 또한, 병합된 문서를 이용하여 기준데이터 집합을 생성한다(S406). In order to grasp the function provided by the tool using the merged document, the selected evaluation item is re-evaluated again (S404). The reference data set is generated using the merged document (S406).

생성된 기준데이터 집합을 이용하여 도구의 자료검색기능을 평가한다(S408) The data retrieval function of the tool is evaluated using the generated reference dataset (S408)

도 5는 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가방법을 나타낸 순서도이다. 5 is a flowchart illustrating an evaluation method of an electronic evidence initiation tool according to an embodiment of the present invention.

도 5에 도시된 바와 같이, 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가방법은 도 2의 평가대상 관리부가 여러 전자증거개시 도구들 중에서 평가할 대상을 선택하고, 평가할 전자증거개시 도구의 공개된 정보를 바탕으로 도구의 명칭, 제조사와 같은 세부정보를 수집한다(S500). As shown in FIG. 5, the evaluation method of the electronic evidence initiation tool according to an embodiment of the present invention is a method of evaluating the electronic evidence initiation tool according to an embodiment of the present invention, Based on the disclosed information, the detailed information such as the name of the tool and the manufacturer is collected (S500).

또한, 평가대상 관리부는 평가 실험을 위해 도구를 구동하기 위해 필요한 라이브러리 및 실행파일을 설치한다(S502). 더불어, 설치된 라이브러리 및 실행파일 정보를 이용하거나 도구와 함께 제공되는 사용 가이드, 매뉴얼, 백서를 이용하여 도구가 제공하는 기능을 파악한다(S504).In addition, the evaluation object management unit installs a library and an execution file necessary for driving the tool for the evaluation experiment (S502). In addition, the functions provided by the tool are grasped using the installed library and executable file information or using the usage guide, manual, and white paper provided with the tool (S504).

평가항목 작성부는 파악된 도구의 기능들 중에 전자증거개시의 절차 별 사전평가항목 자료를 참조하여, 도구가 제공하는 항목을 평가항목으로 선정한다(S506).The evaluation item creation section refers to the preliminary evaluation item data of the procedure of the electronic evidence initiation among the functions of the identified tools, and selects the item provided by the tool as the evaluation item (S506).

평가 준비부는 도구의 자료검색기능을 제공 유무를 파악하여, 도구의 정보검색기능 평가에 적용할 수 있는 문서들의 종류 및 데이터를 수집하여 실험데이터 집합을 생성한다. 생성된 실험데이터 집합을 이용하여 평가를 위한 검색문을 도구가 제공하는 검색 기법에 맞게 검색문을 변형하여 도구의 자료검색기능 평가를 준비한다(S508). The evaluation preparation department identifies whether the tool has a data search function, and generates an experimental data set by collecting the types and data of the documents that can be applied to the evaluation of the information search function of the tool. In step S508, a search query for evaluation is prepared using the generated test data set by modifying the search query according to the search method provided by the tool.

검색 실행부는 변형된 검색문을 이용하여 도구의 검색기능을 이용한 검색작업을 실행하고(S510), 도구의 검색작업 후에는 도구가 동작하는데 소요된 시간, 검색된 단어, 검색문에 적합한 문서들에서 소송 증거로써 적합한 문서 수를 포함하는 검색결과를 획득한다. The search execution unit executes a search operation using the search function of the tool using the modified search statement (S510). After the search operation of the tool, the search execution unit searches the document for the time spent for the tool operation, Obtain a search result containing the appropriate number of documents as evidence.

평가척도 계산부는 획득한 검색결과를 기 설정된 평가척도에 따라 계산하고(S512), 계산된 평가대상의 평가결과와 기존의 여러 다른 도구들의 성능을 비교하고 평가된 결과를 해석한다(S514).The evaluation scale calculation unit calculates the obtained search result according to a predetermined evaluation scale (S512), compares the evaluation result of the evaluation target with the performance of other existing tools, and analyzes the evaluated result (S514).

도 6은 본 발명의 일 실시 예가 적용될 수 있는 컴퓨터 시스템을 보여주는 블록도이다.6 is a block diagram illustrating a computer system to which an embodiment of the invention may be applied.

본 발명의 일 실시 예는 컴퓨터에 기록 가능한 매체와 같은 컴퓨터 시스템에 적용될 수 있다. An embodiment of the present invention can be applied to a computer system such as a computer-recordable medium.

도 6에 도시된 바와 같이, 상기 컴퓨터 시스템(600)은, 예컨대, 컴퓨터 판독 매체 내에서 구현 가능하다. As shown in FIG. 6, the computer system 600 can be implemented in, for example, a computer readable medium.

구체적으로, 컴퓨터 시스템(600)은 하나 혹은 그 이상의 프로세서(610), 메모리(620), 사용자 인터페이스를 통한 입력 장치(630) 및 출력 장치(640), 저장부(650)로 구성되며, 각각의 장치는 컴퓨터 시스템(600) 내부의 데이터 버스(660)를 이용하여 통신한다. 또한, 컴퓨터 시스템 (600)은 네트워크(672)에 연결되어있는 네트워크 인터페이스(670)도 포함할 수 있다.Specifically, the computer system 600 comprises one or more processors 610, a memory 620, an input device 630 and an output device 640 via a user interface, and a storage unit 650, The device communicates using a data bus 660 within the computer system 600. In addition, the computer system 600 may also include a network interface 670 that is coupled to a network 672.

프로세서(610)는 메모리(620) 또는 저장부(650) 내에 저장된 처리 명령을 실행하는 중앙 처리 유닛(CPU, Central Processing Unit) 또는 반도체 장치일 수 있다. The processor 610 may be a central processing unit (CPU) or a semiconductor device that executes processing instructions stored in the memory 620 or the storage 650.

메모리(620)와 저장부(650)는 다양한 형태의 휘발성 혹은 비 휘발성 저장 매체를 포함할 수 있다. 예컨대, 메모리는 ROM(Read-Only Memory)(622)와 RAM(Random Access Memory)(624)를 포함할 수 있다. The memory 620 and the storage unit 650 may include various types of volatile or non-volatile storage media. For example, the memory may include a read-only memory (ROM) 622 and a random access memory (RAM)

이상의 설명은 본 발명의 기술적 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면, 본 발명의 본질적 특성을 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능하다. The foregoing description is merely illustrative of the technical idea of the present invention and various changes and modifications may be made without departing from the essential characteristics of the present invention.

따라서 본 발명에 표현된 실시 예들은 본 발명의 기술적 사상을 한정하는 것이 아니라, 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 권리범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 특허청구범위에 의하여 해석되어야 하고, 그와 동등하거나, 균등한 범위 내에 있는 모든 기술적 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.Therefore, the embodiments of the present invention are not intended to limit the scope of the present invention, and the scope of the present invention is not limited by these embodiments. It is intended that the present invention cover the modifications and variations of this invention provided they come within the scope of the appended claims and their equivalents, which fall within the scope of the present invention as claimed.

200: 전자증거개시 도구 평가장치 210: 평가대상 관리부
220: 평가항목 작성부 230: 평가 준비부
240: 검색 실행부 250: 평가척도 계산부
260: 실험데이터 집합 270: 기준데이터 집합
200: electronic evidence start tool evaluation device 210: evaluation subject management part
220: Evaluation item creation unit 230: Evaluation preparation unit
240: Search execution unit 250: Evaluation scale calculation unit
260: Experimental dataset 270: Reference dataset

Claims (1)

소송에 필요한 전자 자료를 제공하는 전자증거개시 도구를 평가하는 장치에 있어서,
상기 전자증거개시 도구의 구동환경을 파악하는 평가대상 관리부;
파악한 상기 전자증거개시 도구의 구동환경을 이용하여 전자증거개시의 절차 별 필요기능을 평가항목으로 생성하는 평가항목 작성부;
생성된 상기 평가항목을 이용하여 상기 전자증거개시 도구의 기능 제공 유무를 파악하고, 실험데이터 집합을 참조하여 상기 전자증거개시 도구의 검색문을 생성하는 평가 준비부;
생성된 상기 검색문을 이용하여 상기 전자증거개시 도구를 통한 검색을 수행하고, 수행결과로 검색 소요시간, 검색된 단어, 검색된 문서 수 중 어느 하나를 포함하는 정보를 획득하는 검색 실행부; 및
획득한 상기 정보를 기준데이터 집합과 비교하여 상기 전자증거개시 도구의 정보검색성능을 평가하는 평가척도 계산부
를 포함하는 전자증거개시 도구 평가장치.
1. An apparatus for evaluating an electronic evidence commissioning tool that provides electronic data necessary for litigation,
An evaluation subject management unit for grasping a driving environment of the electronic evidence commencement tool;
An evaluation item preparation unit for generating a necessary function for each procedure of the electronic evidence start as an evaluation item using the detected driving environment of the electronic evidence start tool;
An evaluation preparation unit for determining whether or not the function of the electronic evidence start tool is provided using the generated evaluation item and generating a search statement of the electronic evidence start tool with reference to an experimental data set;
A search execution unit that performs a search through the electronic evidence start tool using the generated search statement and acquires information including any one of a search time, a searched word, and a number of searched documents as a result of the search; And
And an evaluation scale calculator for evaluating the information search performance of the electronic evidence start tool by comparing the acquired information with a reference data set,
And an electronic evidence initiating tool evaluation device.
KR1020140010613A 2014-01-28 2014-01-28 Apparatus for evaluating of e-discovery solution KR20150089699A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140010613A KR20150089699A (en) 2014-01-28 2014-01-28 Apparatus for evaluating of e-discovery solution

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140010613A KR20150089699A (en) 2014-01-28 2014-01-28 Apparatus for evaluating of e-discovery solution

Publications (1)

Publication Number Publication Date
KR20150089699A true KR20150089699A (en) 2015-08-05

Family

ID=53886089

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140010613A KR20150089699A (en) 2014-01-28 2014-01-28 Apparatus for evaluating of e-discovery solution

Country Status (1)

Country Link
KR (1) KR20150089699A (en)

Similar Documents

Publication Publication Date Title
US9830460B2 (en) Techniques for correlating vulnerabilities across an evolving codebase
KR101732764B1 (en) Intelligent code differencing using code clone detection
US7865493B2 (en) Apparatus and method for searching for digital forensic data
CN112889042A (en) Identification and application of hyper-parameters in machine learning
US20180137129A1 (en) Retrieving device, retrieving method, and retrieving program
US10248626B1 (en) Method and system for document similarity analysis based on common denominator similarity
JP2010206718A5 (en) Image management apparatus, control method therefor, program, and storage medium
US20040139186A1 (en) Apparatus and method for recommending alternative components based on performance measurement results of components
EP3293664B1 (en) Software analysis system, software analysis method, and software analysis program
KR101975272B1 (en) System and method for recommending component reuse based on collaboration dependency
CN110532056B (en) Control identification method and device applied to user interface
JP2016066197A (en) Analysis system and analysis method
JP6662637B2 (en) Information processing system, information processing method and recording medium for storing program
JP6120607B2 (en) Requirement detection apparatus and requirement detection program
EP3818437B1 (en) Binary software composition analysis
US20150242866A1 (en) Determination device, determination method, and computer-readable recording medium
CN108984391B (en) Application program analysis method and device and electronic equipment
KR20150089699A (en) Apparatus for evaluating of e-discovery solution
CN114722401A (en) Equipment safety testing method, device, equipment and storage medium
KR20180077397A (en) System for constructing software project relationship and method thereof
JP6313987B2 (en) File management program, file management method, and file management system
KR102485460B1 (en) System providing customized statistical analysis service and method of operation of system
US10489466B1 (en) Method and system for document similarity analysis based on weak transitive relation of similarity
JP2020038527A (en) Information processing device, analysis model managing method and analysis model managing program
CN109582534B (en) Method and device for determining operation entry of system and server

Legal Events

Date Code Title Description
WITN Withdrawal due to no request for examination