KR20150089699A - Apparatus for evaluating of e-discovery solution - Google Patents
Apparatus for evaluating of e-discovery solution Download PDFInfo
- Publication number
- KR20150089699A KR20150089699A KR1020140010613A KR20140010613A KR20150089699A KR 20150089699 A KR20150089699 A KR 20150089699A KR 1020140010613 A KR1020140010613 A KR 1020140010613A KR 20140010613 A KR20140010613 A KR 20140010613A KR 20150089699 A KR20150089699 A KR 20150089699A
- Authority
- KR
- South Korea
- Prior art keywords
- evaluation
- tool
- search
- electronic evidence
- unit
- Prior art date
Links
- 238000011156 evaluation Methods 0.000 claims abstract description 71
- 238000000034 method Methods 0.000 claims abstract description 21
- 230000000977 initiatory effect Effects 0.000 claims description 13
- 238000002360 preparation method Methods 0.000 claims description 13
- 230000006870 function Effects 0.000 abstract description 34
- 238000010586 diagram Methods 0.000 description 7
- 238000007726 management method Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 238000003860 storage Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000012552 review Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000013523 data management Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 1
- 230000035755 proliferation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/18—Legal services
Landscapes
- Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Engineering & Computer Science (AREA)
- Marketing (AREA)
- Health & Medical Sciences (AREA)
- Economics (AREA)
- General Health & Medical Sciences (AREA)
- Human Resources & Organizations (AREA)
- Technology Law (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Debugging And Monitoring (AREA)
Abstract
Description
본 발명은 전자증거개시(E-Discovery, Discovery of Electrically Stored Information) 도구의 평가장치에 관한 것으로서, 구체적으로 각종 소송 시, 증거자료를 전자적 자료로 제출하는 기능을 제공하는 전자증거개시 도구의 성능을 평가하는 장치에 관한 것이다.
The present invention relates to a device for evaluating an electronic evidence (E-Discovery) tool, and more particularly, to an electronic evidence disclosure tool that provides a function of presenting evidence in electronic form in various lawsuits And to a device for evaluating the same.
증거개시제도(Discovery)는 소송당사자가 상대방이나 제 3자로부터 소송과 관련된 증거자료를 수집하기 위한 변론 전 절차를 통칭하는 개념으로, 민사소송이나 형사소송에 있어서 법원의 개입 없이 당사자간에 서로의 요청에 의해 소송과 관련된 정보를 공개하는 법률 제도이다. Discovery is a concept that collectively collects evidence related to litigation from the other party or a third party. It is the concept of discovery, in which a party can request each other without a court intervention in civil or criminal proceedings. Is a legal system that discloses information related to litigation.
종래의 이러한 증거개시제도의 대상은 종이문서와 증거물과 같은 오프라인상의 증거로 국한되어 왔다. 그러나 근래에는 다양한 구동방식을 갖고 있는 디지털 장치로부터 추출된 디지털 증거의 비중이 확대되어 가고 있다. 즉, 오프라인 증거보다 온라인 및 네트워크상의 증거에 대한 증거개시절차가 보다 확대되고 있다. The object of this conventional commissioning system has been limited to offline evidence such as paper documents and evidence. However, in recent years, the proportion of digital evidence extracted from digital devices having various driving methods has been increasing. In other words, evidence-based procedures for online and network evidence are wider than offline evidence.
이에 따라, 근래에는 기존의 증거개시의 대상을 종이문서로 제한했던 것을 확대하여 소송 당사자간에 전자적 자료(ESI, Electrically Stored Information)를 개시하는 절차인 전자증거개시(E-Discovery, Discovery of Electrically Stored Information)를 이용한 증거개시절차가 이용되고 있다. Accordingly, in recent years, there has been a proliferation of electronic documents (ESI, Electrically Stored Information) between parties involved in the litigation by expanding the limitation of existing documents to paper documents, which is a discovery of Electrically Stored Information ) Have been used.
전자증거개시 도구는 이러한 전자증거개시 절차를 지원하는 솔루션으로서, 증거 자료로 전자적 자료를 제출해야 하는 각종 소송을 대비하여 자료의 식별, 수집, 처리, 검토 및 생산 등의 기능을 제공하는 소프트웨어(Software)를 의미한다. 더불어, 근래에는 다양한 데이터관리 업체들에서 전자증거개시와 관련된 소프트웨어를 개발하고 있다. The Electronic Evidence Initiation Tool is a solution that supports these electronic evidence initiation procedures. It is a software that provides functions such as identification, collection, processing, review, and production of data in preparation of various lawsuits in which electronic data must be submitted as evidence. ). In addition, various data management companies are currently developing software related to electronic evidence disclosure.
도 1은 종래의 CommVault사가 제공하는 전자증거개시 도구의 개념도이다.1 is a conceptual diagram of an electronic evidence disclosure tool provided by a conventional CommVault corporation.
도 1에 도시된 바와 같이, CommVault사는 단일 플랫폼 상에서 데이터를 분석, 복사, 보호, 아카이빙, 검색할 수 있는 데이터 관리 소프트웨어인 SIMPANA(10) 기반의 데이터 관리 솔루션 업체로, 전자증거개시 기능을 제공하기 위해 기존의 아카이빙과 데이터 보호 기능에 검색과 분석 기능을 추가한 소프트웨어를 제공하고 있다. As shown in FIG. 1, CommVault is a data management solution provider based on SIMPANA (10), a data management software capable of analyzing, copying, protecting, archiving and searching data on a single platform. And provides software that adds search and analysis capabilities to existing archiving and data protection features.
그러나 CommVault사와 같은 업체들이 제공하는 기존의 전자증거개시 도구들은 도구마다 제공하는 기능이 다르다. 즉, 대부분의 전자증거개시 도구들은 전자증거개시의 절차인 식별, 보존, 수집, 처리, 검토 및 생산 기능을 부분적으로만 제공하고 있기 때문에, 사용자가 전자증거개시 도구의 성능을 비교 및 평가하는 것이 어려운 문제점이 있다. However, existing electronic evidence-based tools provided by vendors such as CommVault differ in the features provided by each tool. That is, since most electronic evidence-initiating tools provide only partial identification, conservation, collection, processing, review and production functions of electronic evidence-initiating procedures, it is important for users to compare and evaluate the performance of electronic evidence- There is a difficult problem.
따라서, 다양한 전자증거개시 도구들이 소송에 필요한 전자적 자료를 정확히 수집하고 분석하는지를 평가하고, 공통된 평가 기준을 찾아 도구의 성능을 판단하는 평가방법이 필요하다.
Therefore, there is a need for an evaluation method that evaluates whether various electronic evidence commissioning tools accurately collect and analyze the electronic data required for litigation, and finds a common evaluation criterion and determines the performance of the tool.
따라서, 본 발명의 목적은 전술한 문제점을 해결하기 위하여, 전자증거개시 도구가 제공하는 검색기능을 평가하는 방법 및 장치를 제공하는 데 있다. It is therefore an object of the present invention to provide a method and apparatus for evaluating a search function provided by an electronic evidence disclosure tool in order to solve the above-mentioned problems.
또한, 여러 전자증거개시 도구의 검색기능을 이용한 자료의 검색결과를 비교하고, 비교결과를 이용하여 전자증거개시 도구의 성능을 판단하는 평가방법 및 장치를 제공하는 데 있다.
It is also an object of the present invention to provide an evaluation method and apparatus for comparing the retrieval results of data using the retrieval function of various electronic evidence opening tools and determining the performance of the electronic evidence opening tool using the comparison results.
상술한 목적을 달성하기 위한 본 발명의 일면에 따른 전자증거개시 도구의 평가장치는 상기 전자증거개시 도구의 정보와 구동환경을 파악하는 평가대상 관리부, 파악한 상기 전자증거개시 도구의 구동환경을 이용하여 전자증거개시의 절차별 기능을 평가항목으로 생성하는 평가항목 작성부, 생성된 상기 평가항목을 이용하여 상기 전자증거개시 도구의 기능 제공 유무를 파악하고, 실험데이터 집합을 참조하여 상기 전자증거개시 도구의 검색문을 생성하는 평가 준비부, 생성된 상기 검색문을 이용하여 상기 전자증거개시 도구를 통한 검색을 수행하고, 수행결과로 검색 소요시간, 검색된 단어, 검색된 문서 수를 획득하는 검색 실행부 및 획득한 상기 정보를 기준데이터 집합과 비교하여 상기 전자증거개시 도구의 정보검색성능을 평가하는 평가척도 계산부를 포함한다.
According to an aspect of the present invention, there is provided an apparatus for evaluating an electronic evidence starting tool, including an evaluation object management unit for identifying information and a driving environment of the electronic evidence start tool, An evaluation item creation unit that creates a function for each procedure of electronic evidence initiation as an evaluation item, a function of determining whether or not the function of the electronic evidence start tool is provided using the generated evaluation item, An evaluation preparation unit for generating a search statement of the electronic evidence, a search execution unit for performing a search through the electronic evidence start tool using the generated search statement, obtaining a search time, a searched word, And an evaluation scale for evaluating the information retrieval performance of the electronic evidence start tool by comparing the acquired information with a reference dataset And a calculation unit.
본 발명에 의하면, 소송을 위한 전자적 자료의 식별, 수집, 처리, 검토 및 생산 기능이 전자증거개시 도구에 있는지 평가할 수 있다. 또한, 다양한 전자증거개시 도구들의 성능비교가 가능하여, 기업에서 도입하고자 하는 전자증거개시 도구의 선택기준으로 활용할 수 있다. 그리고, 평가에 소요되는 비용을 크게 절감하는 효과가 있다.
According to the present invention, it is possible to evaluate whether the function of identifying, collecting, processing, reviewing and producing electronic data for litigation is in the electronic evidence disclosure tool. Also, it is possible to compare the performance of various electronic evidence initiation tools, and it can be used as a selection criterion of electronic evidence commencement tool to be introduced in the enterprise. There is an effect of greatly reducing the cost required for the evaluation.
도 1은 종래의 CommVault사가 제공하는 전자증거개시 도구의 개념도이다.
도 2는 본 발명의 일 실시 예에 따른 전자증거개시 도구 평가장치의 구성을 나타낸 블록도이다.
도 3은 전자증거개시 절차 별 사전평가항목을 나타낸 도면이다.
도 4는 본 발명의 일 실시 예에 따른 기준데이터 집합의 적합성을 검토하는 순서도이다.
도 5는 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가방법을 나타낸 순서도이다.
도 6은 본 발명의 일 실시 예가 적용될 수 있는 컴퓨터 시스템을 보여주는 블록도이다.1 is a conceptual diagram of an electronic evidence disclosure tool provided by a conventional CommVault corporation.
2 is a block diagram illustrating a configuration of an electronic evidence initiation tool evaluation apparatus according to an embodiment of the present invention.
FIG. 3 is a diagram showing a preliminary evaluation item for each electronic evidence initiation procedure.
4 is a flow chart for examining the suitability of a reference data set according to an embodiment of the present invention.
5 is a flowchart illustrating an evaluation method of an electronic evidence initiation tool according to an embodiment of the present invention.
6 is a block diagram illustrating a computer system to which an embodiment of the invention may be applied.
본 발명은 전자증거개시 도구(E-DISCOVERY SOLUTION)가 검색할 수 있는 파일 형식으로 생성한 실험데이터 집합과 기 저장된 기준데이터 집합을 이용하여 도구의 자료검색기능을 평가하는 장치 및 방법을 제공한다. The present invention provides an apparatus and method for evaluating a data retrieval function of a tool using an experimental data set generated in a file format that can be searched by an electronic evidence opening tool (E-DISCOVERY SOLUTION) and a pre-stored reference data set.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것일 뿐이므로 본 발명의 권리범위는 청구항의 기재에 의해 정하여 진다.BRIEF DESCRIPTION OF THE DRAWINGS The advantages and features of the present invention and the manner of achieving them will become apparent with reference to the embodiments described in detail below with reference to the accompanying drawings. The present invention may, however, be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. Rather, these embodiments are provided so that this disclosure will be thorough and complete, and will fully convey the scope of the invention to those skilled in the art. The scope of the present invention is defined by the description of the claims, since it is only provided to fully inform the owner of the scope of the invention.
한편, 본 명세서에서 사용된 용어는 실시 예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소, 단계, 동작 및/또는 소자에 하나 이상의 다른 구성요소, 단계, 동작 및/또는 소자의 존재 또는 추가함을 배제하지 않는다. It is to be understood that the terminology used herein is for the purpose of describing particular embodiments only and is not intended to be limiting of the invention. The singular forms herein include plural forms unless the context clearly dictates otherwise. &Quot; comprises " and / or "comprising" when used in this specification is taken to specify the presence or absence of one or more other components, steps, operations and / Or add-ons.
이하, 본 발명의 따른 실시 예를 첨부된 도면을 참조하여 상세하게 설명하도록 한다. Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.
도 2는 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가장치의 구성을 나타낸 블록도이며, 도 3은 전자증거개시 절차 별 사전평가항목을 나타낸 도면이다. 설명의 이해를 돕기 위해 도 2와 도 3을 함께 참조하여 설명하기로 한다. FIG. 2 is a block diagram illustrating a configuration of an evaluation apparatus for evaluating an electronic evidence according to an exemplary embodiment of the present invention. FIG. To facilitate understanding of the description, FIG. 2 and FIG. 3 will be described together.
도 2에 도시된 바와 같이, 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가장치(200)는 전자증거개시 도구의 자료검색기능을 평가하기 위하여 평가대상 관리부(210), 평가항목 작성부(220), 평가 준비부(230), 검색 실행부(240), 평가척도 계산부(250)를 포함한다. 2, the
평가대상 관리부(210)는 평가대상인 전자증거개시 도구(E-DISCOVERY SOLUTION)(이하, 도구라 통칭한다.)의 명칭, 제조사 등 도구의 기본 정보를 파악하고, 도구를 실행하는데 필요한 라이브러리나 실행파일을 설치하여 구동환경을 준비한다. 구동환경이 준비되면 사용자 안내문, 매뉴얼, 백서를 통해 도구의 기능을 파악하거나 직접 도구를 사용해보고 기능을 파악한다.The evaluation
평가항목 작성부(220)는 전자증거개시의 식별, 수집, 처리, 검토 및 생산 절차에서 필요한 기능의 목록표인 사전평가항목(224)을 참조하여, 해당 도구가 제공할 필요가 있는 절차 별 기능을 파악하고, 파악된 기능을 바탕으로 평가항목을 생성한다. 예컨대, 도 3에 도시된 바와 같이, 전자증거개시의 절차 중, 식별 절차에는 도구의 제공기능을 평가하기 위한 사전평가항목(224)이 식별 절차의 기능을 평가하기 위한 사전평가항목(224)이 소장열람기능과 관련된 항목, 소송사건의 사전분석기능과 관련된 항목이 있으며, 수집 절차에는 사전평가항목(224)이 자료의 수집 및 저장기능이 있다. 이러한 평가항목 작성부(220)는 전자증거개시의 절차에서, 해당 도구가 제공하는 기능을 파악하고, 파악된 기능을 바탕으로 평가항목을 생성한다.The evaluation
평가 준비부(230)는 평가대상인 도구가 자료검색기능을 제공하는지 파악하고, 도구가 자료검색기능을 제공할 경우, 도구의 자료검색기능 평가에 적용할 문서들의 종류 및 데이터를 수집하여 실험데이터 집합(260) 을 생성한다. 또한, 생성된 실험데이터 집합(260)을 이용하여 자료검색기능의 평가를 위한 검색문을 도구가 제공하는 검색 기법에 맞게 변형하여 변형된 검색문 데이터를 생성한다.The
구체적으로, 실험데이터 집합(260)은 평가대상 관리부(204)가 획득한 정보인, 해당 도구가 읽을 수 있는 파일형식 정보를 이용하여 평가 준비부(230)가 생성한 데이터들의 집합이다. 예컨대, 이미지 파일, 음성 파일, 워드 파일, 한글 파일을 포함하는 원시데이터(Raw Data)에서 평가대상인 사용자에게 이미지 파일 및 워드 파일만 제공할 수 있는 경우, 평가 준비부(230)는 이미지 파일과 워드파일로만 이루어진 실험데이터 집합(260)을 생성한다. Specifically, the
검색 실행부(240)는 평가 준비부(230)에서 생성한 검색문 데이터를 이용하여 도구의 검색기능을 이용한 검색작업을 수행하고, 검색작업을 위해 도구가 동작하는 데 소요된 시간, 검색된 단어, 검색된 문서와 같은 정보를 이용하여 증거로써 적합한 문서의 개수 정보를 획득한다. The
평가척도 계산부(250)는 검색 실행부(240)에서 획득한 문서의 개수 정보와 기 저장된 평가 기준개수 정보를 비교하여 도구의 자료검색기능을 평가한다. The evaluation
여기서, 평가 기준개수 정보는 기 저장된 기준데이터 집합(214)을 이용한 것으로써, 온라인상에 공개되어 있는 특정 소송, 예컨대 Enron 소송에 제출되었던 자료 데이터를 이용하여 생성된 정보이다. 이하 도 4을 참조하여 기준 데이터 집합에 관하여 자세히 설명하고자 한다. Herein, the evaluation reference number information is information that is generated using the pre-stored reference data set 214 by using data data that has been submitted to a specific litigation that is disclosed on-line, for example, Enron litigation. Reference data sets will now be described in detail with reference to FIG.
도 4는 본 발명의 일 실시 예에 따른 기준데이터 집합의 적합성을 검토하는 순서도이다4 is a flow chart for examining the suitability of a reference data set according to an embodiment of the present invention
특별히 언급하지 않는 한, 도 4의 수행주체는 전자증거개시 도구의 평가장치(200)의 평가 준비부(230)를 의미한다. Unless specifically stated otherwise, the performing entity in FIG. 4 means the
도 4에 도시된 바와 같이, 여러 전자증거개시 도구로 온라인상에 공개되어 있는 특정 소송, 예컨대 Enron 소송에 제출되었던 문서를 검색한다. As shown in FIG. 4, a search is made for a document that has been submitted to a specific litigation, e.
검색된 결과 문서 중, 기 설정된 임계치 개수 이상, 예컨대 5000개의 문서를 무작위로 수집한다(S400). In step S400, a predetermined number of thresholds, for example, 5000 documents, are randomly collected from the retrieved document.
수집된 문서 중, 공통되는 문서를 병합한다(S402). 여기서, 병합은 기 설정된 임계치 개수 이상에 해당하는 문서의 병합을 의미하는 것으로서, 예컨대, 여러 도구가 공통으로 검색한 문서에서는 100개, 하나의 도구에서만 검색한 문서는 50개, 모든 도구가 검색하지 못한 문서에서는 50개를 무작위로 선택하여 병합하는 방법이다. Among the collected documents, common documents are merged (S402). Here, the merge means merging documents corresponding to a predetermined number of thresholds or more. For example, in the case of a document that is commonly retrieved by a plurality of tools, 100 documents are retrieved, 50 documents retrieved by only one tool, It is a method to merge 50 randomly selected documents.
병합된 문서를 이용하여 도구가 제공하는 기능을 파악하기 위해 선정된 평가항목을 다시 한번 재평가한다(S404). 또한, 병합된 문서를 이용하여 기준데이터 집합을 생성한다(S406). In order to grasp the function provided by the tool using the merged document, the selected evaluation item is re-evaluated again (S404). The reference data set is generated using the merged document (S406).
생성된 기준데이터 집합을 이용하여 도구의 자료검색기능을 평가한다(S408) The data retrieval function of the tool is evaluated using the generated reference dataset (S408)
도 5는 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가방법을 나타낸 순서도이다. 5 is a flowchart illustrating an evaluation method of an electronic evidence initiation tool according to an embodiment of the present invention.
도 5에 도시된 바와 같이, 본 발명의 일 실시 예에 따른 전자증거개시 도구의 평가방법은 도 2의 평가대상 관리부가 여러 전자증거개시 도구들 중에서 평가할 대상을 선택하고, 평가할 전자증거개시 도구의 공개된 정보를 바탕으로 도구의 명칭, 제조사와 같은 세부정보를 수집한다(S500). As shown in FIG. 5, the evaluation method of the electronic evidence initiation tool according to an embodiment of the present invention is a method of evaluating the electronic evidence initiation tool according to an embodiment of the present invention, Based on the disclosed information, the detailed information such as the name of the tool and the manufacturer is collected (S500).
또한, 평가대상 관리부는 평가 실험을 위해 도구를 구동하기 위해 필요한 라이브러리 및 실행파일을 설치한다(S502). 더불어, 설치된 라이브러리 및 실행파일 정보를 이용하거나 도구와 함께 제공되는 사용 가이드, 매뉴얼, 백서를 이용하여 도구가 제공하는 기능을 파악한다(S504).In addition, the evaluation object management unit installs a library and an execution file necessary for driving the tool for the evaluation experiment (S502). In addition, the functions provided by the tool are grasped using the installed library and executable file information or using the usage guide, manual, and white paper provided with the tool (S504).
평가항목 작성부는 파악된 도구의 기능들 중에 전자증거개시의 절차 별 사전평가항목 자료를 참조하여, 도구가 제공하는 항목을 평가항목으로 선정한다(S506).The evaluation item creation section refers to the preliminary evaluation item data of the procedure of the electronic evidence initiation among the functions of the identified tools, and selects the item provided by the tool as the evaluation item (S506).
평가 준비부는 도구의 자료검색기능을 제공 유무를 파악하여, 도구의 정보검색기능 평가에 적용할 수 있는 문서들의 종류 및 데이터를 수집하여 실험데이터 집합을 생성한다. 생성된 실험데이터 집합을 이용하여 평가를 위한 검색문을 도구가 제공하는 검색 기법에 맞게 검색문을 변형하여 도구의 자료검색기능 평가를 준비한다(S508). The evaluation preparation department identifies whether the tool has a data search function, and generates an experimental data set by collecting the types and data of the documents that can be applied to the evaluation of the information search function of the tool. In step S508, a search query for evaluation is prepared using the generated test data set by modifying the search query according to the search method provided by the tool.
검색 실행부는 변형된 검색문을 이용하여 도구의 검색기능을 이용한 검색작업을 실행하고(S510), 도구의 검색작업 후에는 도구가 동작하는데 소요된 시간, 검색된 단어, 검색문에 적합한 문서들에서 소송 증거로써 적합한 문서 수를 포함하는 검색결과를 획득한다. The search execution unit executes a search operation using the search function of the tool using the modified search statement (S510). After the search operation of the tool, the search execution unit searches the document for the time spent for the tool operation, Obtain a search result containing the appropriate number of documents as evidence.
평가척도 계산부는 획득한 검색결과를 기 설정된 평가척도에 따라 계산하고(S512), 계산된 평가대상의 평가결과와 기존의 여러 다른 도구들의 성능을 비교하고 평가된 결과를 해석한다(S514).The evaluation scale calculation unit calculates the obtained search result according to a predetermined evaluation scale (S512), compares the evaluation result of the evaluation target with the performance of other existing tools, and analyzes the evaluated result (S514).
도 6은 본 발명의 일 실시 예가 적용될 수 있는 컴퓨터 시스템을 보여주는 블록도이다.6 is a block diagram illustrating a computer system to which an embodiment of the invention may be applied.
본 발명의 일 실시 예는 컴퓨터에 기록 가능한 매체와 같은 컴퓨터 시스템에 적용될 수 있다. An embodiment of the present invention can be applied to a computer system such as a computer-recordable medium.
도 6에 도시된 바와 같이, 상기 컴퓨터 시스템(600)은, 예컨대, 컴퓨터 판독 매체 내에서 구현 가능하다. As shown in FIG. 6, the
구체적으로, 컴퓨터 시스템(600)은 하나 혹은 그 이상의 프로세서(610), 메모리(620), 사용자 인터페이스를 통한 입력 장치(630) 및 출력 장치(640), 저장부(650)로 구성되며, 각각의 장치는 컴퓨터 시스템(600) 내부의 데이터 버스(660)를 이용하여 통신한다. 또한, 컴퓨터 시스템 (600)은 네트워크(672)에 연결되어있는 네트워크 인터페이스(670)도 포함할 수 있다.Specifically, the
프로세서(610)는 메모리(620) 또는 저장부(650) 내에 저장된 처리 명령을 실행하는 중앙 처리 유닛(CPU, Central Processing Unit) 또는 반도체 장치일 수 있다. The
메모리(620)와 저장부(650)는 다양한 형태의 휘발성 혹은 비 휘발성 저장 매체를 포함할 수 있다. 예컨대, 메모리는 ROM(Read-Only Memory)(622)와 RAM(Random Access Memory)(624)를 포함할 수 있다. The
이상의 설명은 본 발명의 기술적 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면, 본 발명의 본질적 특성을 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능하다. The foregoing description is merely illustrative of the technical idea of the present invention and various changes and modifications may be made without departing from the essential characteristics of the present invention.
따라서 본 발명에 표현된 실시 예들은 본 발명의 기술적 사상을 한정하는 것이 아니라, 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 권리범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 특허청구범위에 의하여 해석되어야 하고, 그와 동등하거나, 균등한 범위 내에 있는 모든 기술적 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.Therefore, the embodiments of the present invention are not intended to limit the scope of the present invention, and the scope of the present invention is not limited by these embodiments. It is intended that the present invention cover the modifications and variations of this invention provided they come within the scope of the appended claims and their equivalents, which fall within the scope of the present invention as claimed.
200: 전자증거개시 도구 평가장치
210: 평가대상 관리부
220: 평가항목 작성부
230: 평가 준비부
240: 검색 실행부
250: 평가척도 계산부
260: 실험데이터 집합
270: 기준데이터 집합200: electronic evidence start tool evaluation device 210: evaluation subject management part
220: Evaluation item creation unit 230: Evaluation preparation unit
240: Search execution unit 250: Evaluation scale calculation unit
260: Experimental dataset 270: Reference dataset
Claims (1)
상기 전자증거개시 도구의 구동환경을 파악하는 평가대상 관리부;
파악한 상기 전자증거개시 도구의 구동환경을 이용하여 전자증거개시의 절차 별 필요기능을 평가항목으로 생성하는 평가항목 작성부;
생성된 상기 평가항목을 이용하여 상기 전자증거개시 도구의 기능 제공 유무를 파악하고, 실험데이터 집합을 참조하여 상기 전자증거개시 도구의 검색문을 생성하는 평가 준비부;
생성된 상기 검색문을 이용하여 상기 전자증거개시 도구를 통한 검색을 수행하고, 수행결과로 검색 소요시간, 검색된 단어, 검색된 문서 수 중 어느 하나를 포함하는 정보를 획득하는 검색 실행부; 및
획득한 상기 정보를 기준데이터 집합과 비교하여 상기 전자증거개시 도구의 정보검색성능을 평가하는 평가척도 계산부
를 포함하는 전자증거개시 도구 평가장치.1. An apparatus for evaluating an electronic evidence commissioning tool that provides electronic data necessary for litigation,
An evaluation subject management unit for grasping a driving environment of the electronic evidence commencement tool;
An evaluation item preparation unit for generating a necessary function for each procedure of the electronic evidence start as an evaluation item using the detected driving environment of the electronic evidence start tool;
An evaluation preparation unit for determining whether or not the function of the electronic evidence start tool is provided using the generated evaluation item and generating a search statement of the electronic evidence start tool with reference to an experimental data set;
A search execution unit that performs a search through the electronic evidence start tool using the generated search statement and acquires information including any one of a search time, a searched word, and a number of searched documents as a result of the search; And
And an evaluation scale calculator for evaluating the information search performance of the electronic evidence start tool by comparing the acquired information with a reference data set,
And an electronic evidence initiating tool evaluation device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140010613A KR20150089699A (en) | 2014-01-28 | 2014-01-28 | Apparatus for evaluating of e-discovery solution |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140010613A KR20150089699A (en) | 2014-01-28 | 2014-01-28 | Apparatus for evaluating of e-discovery solution |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20150089699A true KR20150089699A (en) | 2015-08-05 |
Family
ID=53886089
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020140010613A KR20150089699A (en) | 2014-01-28 | 2014-01-28 | Apparatus for evaluating of e-discovery solution |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20150089699A (en) |
-
2014
- 2014-01-28 KR KR1020140010613A patent/KR20150089699A/en not_active Application Discontinuation
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9830460B2 (en) | Techniques for correlating vulnerabilities across an evolving codebase | |
KR101732764B1 (en) | Intelligent code differencing using code clone detection | |
US7865493B2 (en) | Apparatus and method for searching for digital forensic data | |
CN112889042A (en) | Identification and application of hyper-parameters in machine learning | |
US20180137129A1 (en) | Retrieving device, retrieving method, and retrieving program | |
US10248626B1 (en) | Method and system for document similarity analysis based on common denominator similarity | |
JP2010206718A5 (en) | Image management apparatus, control method therefor, program, and storage medium | |
US20040139186A1 (en) | Apparatus and method for recommending alternative components based on performance measurement results of components | |
EP3293664B1 (en) | Software analysis system, software analysis method, and software analysis program | |
KR101975272B1 (en) | System and method for recommending component reuse based on collaboration dependency | |
CN110532056B (en) | Control identification method and device applied to user interface | |
JP2016066197A (en) | Analysis system and analysis method | |
JP6662637B2 (en) | Information processing system, information processing method and recording medium for storing program | |
JP6120607B2 (en) | Requirement detection apparatus and requirement detection program | |
EP3818437B1 (en) | Binary software composition analysis | |
US20150242866A1 (en) | Determination device, determination method, and computer-readable recording medium | |
CN108984391B (en) | Application program analysis method and device and electronic equipment | |
KR20150089699A (en) | Apparatus for evaluating of e-discovery solution | |
CN114722401A (en) | Equipment safety testing method, device, equipment and storage medium | |
KR20180077397A (en) | System for constructing software project relationship and method thereof | |
JP6313987B2 (en) | File management program, file management method, and file management system | |
KR102485460B1 (en) | System providing customized statistical analysis service and method of operation of system | |
US10489466B1 (en) | Method and system for document similarity analysis based on weak transitive relation of similarity | |
JP2020038527A (en) | Information processing device, analysis model managing method and analysis model managing program | |
CN109582534B (en) | Method and device for determining operation entry of system and server |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
WITN | Withdrawal due to no request for examination |