KR102155889B1 - 인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법 - Google Patents

Abstract

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법이 제공된다. 상기 방법은 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업을 작업자에게 배정하여 작업 수행을 요청하는 단계, 상기 작업자로부터 1차 작업 결과를 입력받는 단계, 상기 작업자와 다른 작업자에게 상기 1차 작업 결과에 대한 2차 작업 의사를 문의하고, 상기 다른 작업자로부터 선택적으로 2차 작업 의사를 입력받는 단계, 상기 2차 작업 의사가 있는 다른 작업자(이하, 2차 작업자)에게 상기 1차 작업 결과에 대한 2차 작업 수행을 요청하는 단계, 상기 2차 작업자로부터 2차 작업 결과를 입력받는 단계, 상기 1차 작업 결과 및 상기 2차 작업 결과를 포함한 복수의 작업 결과를 검수자에게 배정하여 검수 수행을 요청하는 단계, 및 상기 검수자로부터 상기 복수의 작업 결과에 대한 검수 결과를 검수 통과 또는 반려로 입력받는 단계를 포함한다.

Description

인공지능 학습데이터 생성을 위한 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법{METHOD FOR IMPROVING QUALITY THROUGH SECONDARY WORK ON WORK RESULTS OF OTHER WORKERS IN A CROWDSOURCING BASED PROJECTS FOR ARTIFICIAL INTELLIGENCE TRAINING DATA GENERATION}

본 발명은 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법에 관한 것이다.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.

이때, 기업은 보다 신뢰도가 높은 정보를 수집하기 위해, 작업자에 의해 완료된 작업 결과를 검수자에게 배정하여 검수 작업을 수행하도록 한다.

구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자 각각에게 복수의 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다. 이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.

한편, 프로젝트에 참여하는 작업자와 검수자의 풀 규모에는 차이가 존재한다. 따라서, 작업자들은 모든 작업이 완료되었으나 검수 완료까지 대기해야만 하는 상황이 발생할 수 있다. 또는, 검수가 완료되더라도 재작업, 재반려 등으로 추가 일정이 필요한 경우가 생기게 되며, 이는 전체 프로젝트 일정을 지연시키는 요인이 된다.

공개특허공보 제10-2014-0095956호, 2014.08.04.

본 발명이 해결하고자 하는 과제는 프로젝트의 진행 속도 및 작업의 품질을 향상시킬 수 있는 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법을 제공하는 것이다.

다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 일면에 따른 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법은 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업을 작업자에게 배정하여 작업 수행을 요청하는 단계, 상기 작업자로부터 1차 작업 결과를 입력받는 단계, 상기 작업자와 다른 작업자에게 상기 1차 작업 결과에 대한 2차 작업 의사를 문의하고, 상기 다른 작업자로부터 선택적으로 2차 작업 의사를 입력받는 단계, 상기 2차 작업 의사가 있는 다른 작업자(이하, 2차 작업자)에게 상기 1차 작업 결과에 대한 2차 작업 수행을 요청하는 단계, 상기 2차 작업자로부터 2차 작업 결과를 입력받는 단계, 상기 1차 작업 결과 및 상기 2차 작업 결과를 포함한 복수의 작업 결과를 검수자에게 배정하여 검수 수행을 요청하는 단계, 및 상기 검수자로부터 상기 복수의 작업 결과에 대한 검수 결과를 검수 통과 또는 반려로 입력받는 단계를 포함한다. 이때, 상기 검수 결과를 입력받는 단계는, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과 및 상기 검수자에 의해 선택된 작업 결과에 대한 검수 결과를 검수 통과 또는 반려로 입력받는다.

본 발명의 일부 실시예는, 상기 검수 결과에 따라, 상기 검수 결과가 검수 통과이면, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과를 입력한 작업자에게만 작업 비용을 지급 처리하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예는, 상기 검수 결과에 따라, 상기 검수 결과가 반려이면, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과를 입력한 작업자에게만 재작업 수행을 요청하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예는, 상기 작업자 및 상기 2차 작업자와 다른 작업자에게 상기 2차 작업 결과에 대한 3차 작업 의사를 문의하고, 상기 다른 작업자로부터 선택적으로 3차 작업 의사를 입력받는 단계, 상기 3차 작업 의사가 있는 다른 작업자(이하, 3차 작업자)에게 상기 1차 작업 결과 또는 상기 2차 작업 결과에 대한 3차 작업 수행을 요청하는 단계, 및 상기 3차 작업자로부터 3차 작업 결과를 입력받는 단계를 더 포함할 수 있다. 이때, 상기 검수 수행을 요청하는 단계는, 상기 1차 작업 결과, 상기 2차 작업 결과 및 상기 3차 작업 결과를 포함한 복수의 작업 결과를 검수자에게 배정하여 검수 수행을 요청할 수 있다.

본 발명의 일부 실시예는, 상기 검수 결과에 따라, 상기 검수 결과가 검수 통과이면, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과를 입력한 작업자에게만 작업 비용을 지급 처리하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예서, 상기 복수의 작업 결과 중 검수 통과 대상이 복수이면, 먼저 입력된 작업 결과가 상기 검수자에 의해 선택될 수 있다.

본 발명의 일부 실시예에서, 상기 3차 작업 의사를 입력받는 단계는, 상기 다른 작업자에게 상기 1차 작업 결과 및 상기 2차 작업 결과를 제공한 후 상기 1차 작업 결과 또는 상기 2차 작업 결과에 대한 3차 작업 의사를 문의하고, 상기 다른 작업자로부터 선택적으로 3차 작업 의사를 입력받을 수 있다.

본 발명의 일부 실시예는, 상기 검수 결과에 따라, 상기 검수 결과가 반려이면, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과를 입력한 작업자에게만 재작업 수행을 요청하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 작업은 상기 작업을 위해 주어진 복수의 오브젝트에 상응하는 복수의 서브 작업을 포함하고, 상기 2차 작업자로부터 2차 작업 결과를 입력받는 단계는, 상기 1차 작업 결과의 적어도 일부의 서브 작업 결과가 수정된 2차 작업 결과를 입력받을 수 있다.

본 발명의 일부 실시예는, 상기 검수 결과에 따라, 상기 복수의 작업 결과 중 상기 검수자에 의해 2차 작업 결과가 선택되고, 상기 2차 작업 결과에 대한 검수 결과가 검수 통과이면, 상기 2차 작업자에 의하여 수정된 적어도 일부의 서브 작업 결과에 상응하여 상기 2차 작업자에게 작업 비용을 지급 처리하고, 상기 2차 작업자에 의하여 수정되지 않은 나머지 서브 작업 결과에 상응하여 상기 작업자에게 작업 비용을 지급 처리하는 단계를 더 포함할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은 상기 프로젝트의 모든 작업에 관하여 1차 작업 결과를 입력받은 시점부터 개시할 수 있다.

본 발명의 일부 실시예에서, 상기 방법은 검수 결과가 입력된 바 없는 최초 작업 결과에 관하여 적용할 수 있다.

상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상기 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법을 실행하며, 컴퓨터 판독가능 기록매체에 저장된다.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.

상술한 본 발명에 의하면, 하나의 작업에 대하여 복수의 여러 작업 결과가 존재하므로, 작업, 반려, 재작업 및 재검수 사이클이 반복되는 것을 작업, 검수 사이클로 최소화하여 전체 프로젝트의 진행 속도를 향상시킬 수 있다.

또한, 다른 작업자의 작업 결과에 대하여 2차 작업이 가능하게 되어, 작업 품질에 관계없이 특정 작업자가 프로젝트의 복수의 여러 작업을 선점하게 되는 불합리한 구조를 개선할 수 있다.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 작업 품질 개선 방법의 순서도이다.
도 4는 2차 이상의 작업이 수행되는 내용을 설명하기 위한 도면이다.
도 5는 2차 작업 결과가 제출된 이후 검수 결과에 따른 프로세스를 설명하기 위한 도면이다.
도 6은 3차 작업 결과가 제출된 이후 검수 결과에 따른 프로세스를 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 작업 품질 개선 장치를 설명하기 위한 도면이다.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.

의뢰자(10)는 인공지능 학습데이터의 생성을 위한 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 프로젝트를 통해서 생성된 데이터는 지도 학습, 비지도 학습, 강화 학습 등의 임의의 기계 학습의 학습데이터로 활용될 수 있다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.

검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 처리 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다. 검수 통과의 경우 재작업과 이로 인한 재검수가 필요하지 않으므로, 검수 통과는 검수 완료와 동일한 의미를 가진다.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).

이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).

마찬가지로 본 발명의 일 실시예는 프로젝트의 난이도에 따라 설정된 등급 또는 검수자(34)의 자격 요건에 따라 수행 중인 전체 프로젝트 중 적합한 프로젝트만 검수자(34)에게 노출되게끔 할 수 있다.

이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 적합하게 수행된 것으로 판단하면 검수 완료를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18).

검수 결과가 검수 완료인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.

검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.

도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.

한편, 하나의 프로젝트에 참여하는 작업자(32)와 검수자(34)의 수는 동일한 경우도 있을 수 있으나 상이한 경우가 대부분이다. 즉, 검수의 난이도에 따라 검수자(34)의 수가 작업자(32)의 수보다 많은 경우가 있을 수도 있으나, 작업자(32)의 수가 검수자(34)의 수보다 많은 경우가 일반적이다. 검수자(34)가 작업자(32)에 비하여 프로젝트 및 그 작업에 대한 이해도와 능숙도가 상대적으로 높기 때문이다.

이와 같이 작업자(32)와 검수자(34)의 수가 다르거나, 작업 진행 속도와 검수 진행 속도가 서로 차이가 나는 경우, 프로젝트에 포함된 모든 작업이 작업자(32)들에 의해 제출되었음에도 불구하고, 검수자(34)에 의해 아직 검수가 완료되지 않은 검수 대기 상태로 남아있을 수 있다.

작업자(32)들은 작업 결과가 반려될 경우 다시 재작업을 수행해야 하므로 검수가 완료될 때까지 대기해야만 하는데, 이러한 대기 기간은 결국 작업자(32)들을 활용하지 못하는 리소스의 낭비를 초래하며, 결국 프로젝트의 진행 속도에도 영향을 미치게 된다.

또한, 작업 결과가 반려될 경우 재작업과 재검수로 인하여 프로젝트의 일정도 계속적으로 연기되게 된다.

이러한 문제를 해소하기 위하여, 본 발명의 일 실시예는 작업자(32)에 의한 1차 작업 결과가 제출된 이후, 다른 작업자에 의하여 상기 1차 작업 결과에 대한 2차 작업이 수행 가능하도록 함으로써, 작업 결과에 대한 품질을 향상시킬 수 있는 기회를 부여하고, 작업 결과가 반려되어 재작업되는 경우를 최소화시켜 전체 프로젝트의 진행 속도를 향상시킬 수 있다.

이하에서는 도 3 내지 도 6을 참조하여 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법(이하, 작업 품질 개선 방법)을 설명하도록 한다.

도 3은 작업 품질 개선 방법의 순서도이다. 도 4는 2차 이상의 작업이 수행되는 내용을 설명하기 위한 도면이다.

한편, 도 3에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.

먼저, 크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업을 작업자(32)에게 배정하여 작업 수행을 요청하고(S110), 작업자(32)로부터 1차 작업 결과를 입력받는다(S120).

여기에서, 하나의 프로젝트에는 복수의 작업이 포함될 수 있으며, 복수의 작업은 종류에 따라 복수의 태스크로 그룹화될 수 있고, 또는 각각의 작업이 서로 다른 종류의 작업일 수도 있으며, 동일한 작업일 수도 있지만, 이에 제한되는 것은 아니다.

또한, 복수의 작업자(32) 또는 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32) 또는 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.

다음으로, 작업자(32)와 다른 작업자에게 1차 작업 결과에 대한 2차 작업 의사를 문의하고(S130), 다른 작업자로부터 선택적으로 2차 작업 의사를 입력받는다(S140).

어느 작업자(32)로부터 1차 작업 결과가 제출되어 검수가 착수되지 않은 대기 상태인 경우, 위 작업자(32)와 다른 작업자들에게 2차 작업이 가능함을 안내할 수 있으며, 이러한 안내 메시지를 받은 다른 작업자는 자신의 선택에 의해 1차 작업 결과에 대한 2차 작업을 진행할지 여부를 결정한다.

이때, 본 발명의 일 실시예는 프로젝트 내 모든 작업에 관하여 1차 작업 결과를 입력받은 시점 이후부터, 1차 작업 결과를 기반으로 2차 이상의 작업들을 수행 및 입력받을 수 있다. 이는 불필요한 리소스를 방지하고, 품질 개선 및 프로젝트 일정 단축에 가장 효과적인 시점이기 때문이다.

예를 들어, 프로젝트 내 모든 작업에 대한 1차 작업 결과가 입력되지 않은 상태에서는 남은 1차 작업을 수행해야 하는 작업자(32)가 존재한다. 만약, 해당 작업자(32)가 자신의 잔여 작업이 아닌 다른 작업자의 1차 작업 결과를 기반으로 2차 작업을 수행할 경우, 이는 리소스를 손실하는 것이며 프로젝트의 진행 속도에도 영향을 미치게 되므로, 프로젝트 내 모든 1차 작업 결과가 입력된 시점 이후부터 2차 작업이 수행되도록 제한함이 바람직하다.

도 4를 참조하면, 총 10개의 작업으로 구성된 프로젝트에 대하여 전체 작업자 A 내지 C가 1차 작업을 모두 완료하였고, 이 중 작업 8 내지 작업 10의 결과는 검수가 완료된 상태이다. 마지막 1차 작업 결과의 제출이 완료됨에 따라, 서버는 작업자 A 내지 C에게는 작업 1 내지 작업 7의 결과에 대하여 2차 작업의 진행이 가능함을 안내하여 어느 하나의 작업자로부터 2차 작업 의사를 입력받는다. 작업 1의 결과에 대하여 2차 작업 수행을 희망하는 작업자 A로부터 2차 작업 의사를 입력받게 되면, 서버는 작업자 A에게 작업 1의 결과에 대한 2차 작업 수행을 요청하게 된다. 1차 작업을 수행한 작업자(32)의 경우, 동일한 작업에 대해 2차 이상의 작업이 불가하도록 제한될 수 있다.

또한, 본 발명의 일 실시예는 검수 결과가 입력된 적이 없는 최초 작업 결과를 대상으로 2차 이상의 작업이 수행되도록 할 수 있다. 다시 말해, 본 발명의 일 실시예는 반려로 인한 재작업 결과에 대해서는 적용되지 않을 수 있다.

만약, 재작업 결과에 대해서도 2차 이상의 작업이 수행되도록 할 경우, 1차 작업 결과에 대한 2차 작업 결과, 1차 작업 결과의 재작업 건에 대한 2차 작업 결과, 재작업의 재작업 건에 대한 2차 작업 결과 등 일련의 처리가 복잡해지는 문제가 생길 수 있으며, 본 발명의 주된 목적 중 하나인 검수자(34)가 복수의 작업 결과 중 검수 통과 가능성이 가장 높은 작업 결과를 선택하도록 하여, 품질 개선 및 프로젝트 일정 단축이 이루어지는 효과 또한 낮아지게 된다. 따라서, 본 발명의 일 실시예는 최초 작업 결과에 대해 2차 이상의 작업이 가능하도록 하는 경우 그 효과가 가장 높을 수 있다.

다시 도 3을 참조하면, 2차 작업 의사가 있는 다른 작업자(이하, 2차 작업자)에게 1차 작업 결과에 대한 2차 작업 수행을 요청하고(S150), 2차 작업자로부터 2차 작업 결과를 입력받는다(S160).

여기에서 2차 작업은 작업자(32)에 의해 제출된 1차 작업 결과에 대한 일부를 수정하여 진행하는 작업이거나, 1차 작업 결과의 전부를 수정하여 진행하는 작업이다. 이때, 2차 작업은 작업자(32)에 의해 수행되는 것인바 검수자(34)에 의해 수행되는 검수와는 구별되는 개념이다. 이는 후술하는 n차 작업에 대해서도 마찬가지다.

한편, 하나의 작업은 작업을 위해 주어진 복수의 오브젝트에 상응하는 서브 작업을 포함할 수 있다. 여기에서 오브젝트는 작업 대상을 의미하는 것으로, 예를 들어 작업을 위해 주어진 텍스트, 음성, 이미지, 비디오 등이 이에 해당할 수 있다. 또는, 오브젝트는 작업 도구를 의미할 수도 있다. 예를 들어 영역 선택 도구, 선택용 버튼들, 텍스트 입력 도구 등이 이에 해당할 수 있다. 또한, 서브 작업은 오브젝트에 상응하는 작업 단위로서, 하나의 작업은 하나 이상의 서브 작업으로 구성될 수 있다.

이 경우, 본 발명의 일 실시예는 2차 작업자로부터 1차 작업 결과의 적어도 일부의 서브 작업 결과가 수정된 2차 작업 결과를 입력받을 수 있다.

다음으로, 1차 작업 결과 및 2차 작업 결과를 포함한 복수의 작업 결과를 검수자(34)에게 배정하여 검수 수행을 요청하고(S170), 검수자(34)로부터 복수의 작업 결과에 대한 검수 결과를 검수 통과 또는 반려로 입력받는다(S180).

검수자(34)는 기본적으로 다른 작업자에 의한 2차 작업이 없는 경우, 작업자(32)의 작업 결과에 대하여 검수를 수행하고, 검수 결과를 검수 통과 또는 반려로 입력한다. 그리고 반려 처리된 작업에 대해서는 해당 작업을 수행한 작업자(32)로 하여금 재작업 수행이 요청되며, 재작업 결과가 제출됨에 따라 검수자(34)에 의한 재검수가 진행된다.

그러나, 2차 작업이 수행된 경우, 서버는 1차 작업 결과 및 2차 작업결과를 포함한 복수의 작업 결과 중 검수자(34)에 의해 선택된 작업 결과 및 상기 작업 결과에 대한 검수 결과를 검수 통과 또는 반려로 입력받는다. 즉, 작업자(32)에 의한 1차 작업 결과를 기반으로 2차 작업이 수행되어 2차 작업 결과가 제출되면, 작업자(32)의 1차 작업 결과와 2차 작업자에 의한 2차 작업 결과는 모두 검수자(34)에게 배정되어 검수 수행이 요청된다. 검수자(34)는 1차 작업 결과와 2차 작업 결과를 모두 검수하고, 이 중 어느 하나를 선택한 후 선택된 작업 결과에 대해 검수 통과 또는 반려를 입력한다.

도 5는 2차 작업 결과가 제출된 이후 검수 결과에 따른 프로세스를 설명하기 위한 도면이다.

본 발명의 일 실시예는 검수 결과에 따라, 선택된 작업 결과에 대한 검수 결과가 검수 통과이면(S210-Y), 복수의 작업 결과 중 검수자(34)에 의해 선택된 작업 결과를 입력한 작업자(32)에게만 작업 비용을 지급 처리할 수 있다(S220).

즉, 검수자(34)는 검수 통과시 어떤 작업 결과가 검수 통과인지를 선택하고, 이와 같이 선택된 작업 결과에 대응하는 작업자(32)에게만 작업 비용이 지급될 수 있다.

만약, 작업자 A가 수행한 1차 작업 결과에 대하여 작업자 B가 이를 기반으로 2차 작업을 수행하여 제출하였고, 검수자(34)가 검수한 결과 1차 작업 결과는 반려 사유를 갖는 반면 2차 작업 결과는 검수 통과로 판단된 경우, 검수자(34)는 작업자 B의 2차 작업 결과를 선택하여 검수 통과로 입력할 수 있다.

이에 따라, 작업자 A 및 B 중 검수자(34)에 의해 검수 통과로 선택된 2차 작업 결과를 입력한 작업자 B에게만 작업 비용이 지급되며, 1차 작업 결과를 입력한 작업자(32)에게는 별도의 비용이 지급되지 않는다.

일 실시예로, 서브 작업 단위로 2차 작업 결과가 수행되어 제출된 경우, 검수 결과에 따라 복수의 작업 결과 중 검수자(34)에 의해 2차 작업 결과가 선택되고, 2차 작업 결과에 대한 검수 결과가 검수 통과이면, 2차 작업자에 의해 수정된 적어도 일부의 서브 작업 결과에 상응하여 2차 작업자에게 작업 비용이 지급될 수 있다. 그리고 2차 작업자에 의하여 수정되지 않은 나머지 서브 작업 결과에 상응해서는 1차 작업을 수행한 작업자(32)에게 작업 비용이 지급될 수 있다.

예를 들어, 하나의 작업에 포함된 오브젝트가 5개인 경우, 2차 작업자에 의해 5개 중 1개만이 수정되어 제출된 후 검수 통과되면, 2차 작업자에게는 20%의 작업 비용만 지급하고, 1차 작업을 수행한 작업자(32)에게는 80%의 작업 비용을 지급 처리할 수 있다. 이는 n차로 확장되는 경우에도 마찬가지로 적용될 수 있다.

이와 같은 본 발명의 일 실시예에 따르면, 작업자(32)들은 모든 1차 작업 결과가 제출됨에 따라 단순히 검수를 대기하고 있어야 하는 것이 아닌, 다른 작업자에 의해 제출된 1차 작업 결과에 대해 다시 2차 작업을 수행하여 제출함으로써, 해당 작업에 대해 검수 통과되는 케이스를 보다 증가시켜 검수자(34)의 검수 부담을 줄일 수 있음과 동시에, 해당 작업에 대하여 재작업 및 재검수가 반복 수행되어 프로젝트의 진행 기간이 길어지게 되는 기존의 문제를 해소할 수 있다는 장점이 있다.

또한, 서브 작업 단위로 작업 비용이 관리될 경우, 어느 하나의 서브 작업을 수정한 것만으로 작업의 전체 비용을 지급받는 불합리함 없이 작업 비용이 지급되도록 할 수 있으며, 검수자 역시 수정된 서브 작업을 중심으로 검수를 수행하면 되므로 검수 부담을 더욱 줄일 수 있다는 장점이 있다.

한편, 본 발명의 일 실시예는 검수 결과에 따라, 선택된 작업 결과에 대한 검수 결과가 반려이면(S210-N), 복수의 작업 결과 중 검수자(34)에 의해 선택된 작업 결과를 입력한 작업자(32)에게만 재작업 수행을 요청할 수 있다(S230).

즉, 검수 통과인 경우와 마찬가지로 검수자(34)는 반려시에도 복수의 작업 결과 중 어느 하나를 선택하여 반려를 통지한다.

이때, 검수자(34)는 복수의 작업 결과 중 재작업이 용이한 작업 결과, 다시 말해 재작업이 신속하게 이루어질 수 있으며 재검수 요청이 오는 경우 신속하게 검수를 통과시킬 가능성이 높아 비용을 보다 일찍 받을 수 있는 작업 결과를 선택하여 반려 통지를 하게 되므로 검수자(34)의 검수 부담은 1차 작업 결과만 제출된 경우에 비하여 더욱 줄어들게 된다.

이와 같이, 본 발명의 일 실시예는 위 검수 통과의 케이스와 마찬가지로, 검수 결과 반려된 경우에도 보다 신속하게 재작업 및 재검수가 수행될 수 있는 작업 결과를 선택하여 반려 처리할 수 있는바, 검수자(34)의 검수 부담을 더욱 낮추고 전체 프로젝트의 진행 속도를 향상시킬 수 있다는 장점이 있다.

한편, 본 발명의 일 실시예는 1차 작업 결과에 대하여 2차 작업 결과를 제출하는 것에서 더 나아가 복수의 작업 결과의 제출도 가능하다. 다만, 편의상 3차 작업 결과가 제출되는 실시예로 설명하도록 하나 반드시 이에 한정되는 것은 아니며 n차로 확장 가능함은 물론이다.

도 6은 3차 작업 결과가 제출된 이후 검수 결과에 따른 프로세스를 설명하기 위한 도면이다.

구체적으로, 작업자(32) 및 2차 작업자와 다른 작업자에게 2차 작업 결과에 대한 3차 작업 의사를 문의하고(S310), 다른 작업자로부터 선택적으로 3차 작업 의사를 입력받는다(S320).

일 실시예로, 다른 작업자에게는 1차 작업 결과와 2차 작업 결과를 제공하고, 1차 작업 결과 또는 2차 작업 결과에 대한 3차 작업 의사를 문의한 후, 선택적으로 3차 작업 의사를 입력받을 수 있다.

즉, 1차 및 2차 작업 결과 중 어느 하나가 올바르게 작업된 경우에는 3차 작업에 참여할 필요가 없는바, 작업자(32)에게 3차 작업 의사를 문의함에 있어 미리 1차 및 2차 작업 결과를 제공함으로써, 작업자(32)로 하여금 1차 및 2차 작업 결과가 모두 잘못 수행되어 재작업이 필요하다고 판단한 경우에 한하여 3차 작업에 참여하도록 유도할 수 있다.

그리고 3차 작업 의사가 있는 다른 작업자(이하, 3차 작업자)에게 1차 작업 결과 또는 2차 작업 결과에 대한 3차 작업 수행을 요청하여(S330), 3차 작업자로부터 3차 작업 결과를 입력받는다(S340). 여기에서 3차 작업은 작업자(32)에 의해 제출된 1차 작업 결과 또는 2차 작업 결과에 대한 일부 또는 전부를 수정하여 진행하는 작업을 의미한다.

이와 같이, 3차의 작업 결과로 확장됨에 따라 검수자에게는 1차 작업 결과, 2차 작업 결과 및 3차 작업 결과를 포함한 복수의 작업 결과가 배정되어 검수 수행이 요청된다.

이때, 본 발명의 일 실시예는 검수 결과에 따라, 검수 결과가 검수 통과이면(S350-Y), 복수의 작업 결과 중 검수자에 의해 선택된 작업 결과를 입력한 작업자(32)에게만 작업 비용을 지급 처리할 수 있다(S360).

예를 들어, 3차로 확장된 경우에도 검수자(34)는 1차 내지 3차 작업 결과를 모두 검수하고, 이 중에서 검수 통과인 작업 결과를 선택하게 되며, 해당 작업자(32)에게만 작업 비용이 지급되도록 처리된다.

일 실시예로, 복수의 작업 결과 중 검수 통과 대상이 복수일 경우에는 먼저 입력된 작업 결과가 검수자(34)에 의해 선택될 수 있다.

예를 들어, 3차 작업 결과까지 제출된 상태에서, 1차 작업 결과는 검수 통과, 2차 작업 결과는 반려, 3차 작업 결과는 검수 통과의 결과를 갖는 경우, 검수자(34)는 1차 작업 결과를 선택해야 하며, 따라서 1차 작업 결과를 작업한 작업자에게 비용이 지급되도록 처리된다.

또한, 본 발명의 일 실시예는 검수 결과에 따라, 검수 결과가 반려이면(S350-N), 복수의 작업 결과 중 검수자(34)에 의해 선택된 작업 결과를 입력한 작업자(32)에게만 재작업 수행을 요청할 수 있다(S370).

예를 들어, 3차로 확장된 경우에도 검수자(34)는 1차 내지 3차 작업 결과를 모두 검수하고, 이 중에서 재작업이 용이한 작업 결과를 선택하여 반려할 수 있다.

검수 결과에 따라 선택된 작업 결과를 제외한 나머지 작업 결과는 삭제 처리할 수 있다.

한편, 상술한 설명에서, 단계 S11 내지 S370은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 7의 내용은 도 1 내지 도 6의 작업 품질 개선 방법에도 적용될 수 있다.

이하에서는 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 장치(400, 이하 작업 품질 개선 장치)에 대하여 설명하도록 한다.

도 7은 본 발명의 일 실시예에 따른 작업 품질 개선 장치(400)를 설명하기 위한 도면이다.

도 7을 참조하면, 따른 작업 품질 개선 장치(400)는 통신모듈(410), 메모리(420) 및 프로세서(430)를 포함한다.

통신모듈(410)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하여 작업 수행을 요청하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. 또한, 복수의 작업자(32)로부터 수신된 작업 결과를 복수의 검수자(34)에게 송신하여 검수를 요청하고, 복수의 검수자(34)로부터 검수 결과를 수신한다.

메모리(420)에는 복수의 작업자(32)에게 1차 작업 및 2차 작업을 배정하여 작업 수행을 요청하고, 복수의 작업 결과를 검수자(34)에게 배정 및 검수 수행을 요청하기 위한 프로그램이 저장된다.

프로세서(430)는 메모리(420)에 저장된 프로그램을 실행시킨다. 프로세서(430)는 메모리(420)에 저장된 프로그램을 실행시킴에 따라, 프로젝트의 작업을 작업자(32)에게 배정하여 1차 작업 결과를 입력받은 후, 다른 작업자에게 1차 작업 결과에 대한 2차 작업 의사를 문의하고, 2차 작업 의사가 있는 2차 작업자에게 1차 작업 결과에 대한 2차 작업 수행을 요청하여 2차 작업 결과를 입력받으면, 1차 및 2차 작업 결과를 포함하는 복수의 작업 결과를 검수자(34)에게 배정하여 검수를 요청한다.

이때, 프로세서는 복수의 작업 결과 중 검수자(34)에 의해 선택된 작업 결과 및 검수자(34)에 의해 선택된 작업 결과에 대한 검수 결과를 검수 통과 또는 반려로 입력받게 된다.

도 7을 참조하여 설명한 작업 품질 개선 장치(400)는 상술한 서버의 구성요소로 제공될 수 있다.

이상에서 전술한 본 발명의 일 실시예에 따른 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
400 : 작업 품질 개선 장치
410 : 통신모듈
420 : 메모리
430 : 프로세서

Claims (13)

1. 컴퓨터에 의해 수행되는 방법으로서,
   크라우드소싱 기반 프로젝트(이하, 프로젝트)의 작업을 작업자에게 배정하여 작업 수행을 요청하는 단계;
   상기 작업자로부터 1차 작업 결과를 입력받는 단계;
   상기 작업자와 다른 작업자에게 상기 1차 작업 결과에 대한 2차 작업 의사를 문의하고, 상기 다른 작업자로부터 선택적으로 2차 작업 의사를 입력받는 단계;
   상기 2차 작업 의사가 있는 다른 작업자(이하, 2차 작업자)에게 상기 1차 작업 결과의 적어도 일부를 수정하는 2차 작업 수행을 요청하는 단계;
   상기 2차 작업자로부터 상기 1차 작업 결과의 적어도 일부가 수정된 2차 작업 결과를 입력받는 단계;
   동일한 작업에 관한 상기 1차 작업 결과 및 상기 2차 작업 결과를 포함한 복수의 작업 결과를 검수자에게 배정하여 검수 수행을 요청하는 단계; 및
   상기 검수자로부터 상기 복수의 작업 결과에 대한 검수 결과를 검수 통과 또는 반려로 입력받는 단계를 포함하고,
   상기 작업은 상기 작업을 위해 주어진 복수의 오브젝트에 상응하는 복수의 서브 작업을 포함하고,
   상기 2차 작업자로부터 2차 작업 결과를 입력받는 단계는, 상기 1차 작업 결과의 적어도 일부의 서브 작업 결과가 수정된 2차 작업 결과를 입력받고,
   상기 검수 결과를 입력받는 단계는, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과에 대한 검수 결과를 검수 통과 또는 반려로 입력받고,
   상기 검수 결과에 따라, 상기 검수 결과가 검수 통과이면, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과를 입력한 작업자에게만 작업 비용을 지급 처리하고, 상기 검수 결과가 반려이면, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과를 입력한 작업자에게만 재작업 수행을 요청하고,
   상기 검수 결과에 따라, 상기 복수의 작업 결과 중 상기 검수자에 의해 2차 작업 결과가 선택되고, 상기 2차 작업 결과에 대한 검수 결과가 검수 통과이면, 상기 2차 작업자에 의하여 수정된 적어도 일부의 서브 작업 결과에 상응하여 상기 2차 작업자에게 작업 비용을 지급 처리하고, 상기 2차 작업자에 의하여 수정되지 않은 나머지 서브 작업 결과에 상응하여 상기 작업자에게 작업 비용을 지급 처리하는,
   크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법.
2. 삭제
3. 삭제
4. 제1항에 있어서,
   상기 작업자 및 상기 2차 작업자와 다른 작업자에게 상기 2차 작업 결과에 대한 3차 작업 의사를 문의하고, 상기 다른 작업자로부터 선택적으로 3차 작업 의사를 입력받는 단계;
   상기 3차 작업 의사가 있는 다른 작업자(이하, 3차 작업자)에게 상기 1차 작업 결과 또는 상기 2차 작업 결과의 적어도 일부를 수정하는 3차 작업 수행을 요청하는 단계; 및
   상기 3차 작업자로부터 상기 1차 작업 결과 또는 상기 2차 작업 결과의 적어도 일부가 수정된 3차 작업 결과를 입력받는 단계를 더 포함하고,
   상기 검수 수행을 요청하는 단계는, 동일한 작업에 관한 상기 1차 작업 결과, 상기 2차 작업 결과 및 상기 3차 작업 결과를 포함한 복수의 작업 결과를 검수자에게 배정하여 검수 수행을 요청하는,
   크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법.
5. 제4항에 있어서,
   상기 검수 결과에 따라, 상기 검수 결과가 검수 통과이면, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과를 입력한 작업자에게만 작업 비용을 지급 처리하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법.
6. 제5항에 있어서,
   상기 복수의 작업 결과 중 검수 통과 대상이 복수이면, 먼저 입력된 작업 결과가 상기 검수자에 의해 선택되는,
   크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법.
7. 제4항에 있어서,
   상기 3차 작업 의사를 입력받는 단계는, 상기 다른 작업자에게 상기 1차 작업 결과 및 상기 2차 작업 결과를 제공한 후 상기 1차 작업 결과 또는 상기 2차 작업 결과에 대한 3차 작업 의사를 문의하고, 상기 다른 작업자로부터 선택적으로 3차 작업 의사를 입력받는,
   크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법.
8. 제4항에 있어서,
   상기 검수 결과에 따라, 상기 검수 결과가 반려이면, 상기 복수의 작업 결과 중 상기 검수자에 의해 선택된 작업 결과를 입력한 작업자에게만 재작업 수행을 요청하는 단계를 더 포함하는,
   크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법.
9. 삭제
10. 삭제
11. 제1항에 있어서,
    상기 방법은 상기 프로젝트의 모든 작업에 관하여 1차 작업 결과를 입력받은 시점부터 개시하는,
    크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법.
12. 제1항에 있어서,
    상기 방법은 검수 결과가 입력된 바 없는 최초 작업 결과에 관하여 적용하는,
    크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법.
13. 컴퓨터와 결합하여 제1항, 제4항 내지 제8항, 제11항, 제12항 중 어느 하나의 항의 크라우드소싱 기반 프로젝트의 다른 작업자의 작업 결과에 대한 2차 작업을 통한 품질 개선 방법을 수행하기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.

Images